Tổng quan

Đặc điểm kỹ thuật

Tính năng nổi bật

API Endpoints

Base URL

Danh sách Endpoints

{
  "status": "healthy"
}

{
  "service": "Qwen3-14B API",
  "vllm_ready": true
}

{
  "message": "string (required)",
  "system": "Bạn là trợ lý y khoa chuyên nghiệp.",
  "temperature": 0.7,
  "max_tokens": 2048
}

{
  "response": "string",
  "model": "qwen3-14b",
  "usage": {
    "prompt_tokens": 25,
    "completion_tokens": 180,
    "total_tokens": 205
  }
}

{
  "messages": [
    {"role": "system", "content": "..."},
    {"role": "user", "content": "..."}
  ],
  "temperature": 0.7,
  "max_tokens": 2048
}

{
  "model": "qwen3-14b",
  "messages": [
    {"role": "system", "content": "..."},
    {"role": "user", "content": "..."}
  ],
  "temperature": 0.7,
  "max_tokens": 2048
}

Xác thực

Cách dùng

Authorization: Bearer YOUR_API_TOKEN

Ví dụ sử dụng

1. Simple Chat (cURL)

curl -X POST https://pnt.badt.vn/qwen3/chat \
  -H "Authorization: Bearer YOUR_API_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "message": "Triệu chứng của bệnh viêm phổi là gì?",
    "max_tokens": 300,
    "temperature": 0.7
  }'

Response

{
  "response": "Triệu chứng của bệnh viêm phổi thường bao gồm:\n\n1. Ho có đờm (có thể có màu vàng/xanh/đỏ)\n2. Sốt cao (38-40°C), rét run\n3. Khó thở, thở nhanh...",
  "model": "qwen3-14b",
  "usage": {
    "prompt_tokens": 22,
    "completion_tokens": 135,
    "total_tokens": 157
  }
}

2. Chat với System Prompt chuyên biệt (Python)

import requests
import os

url = "https://pnt.badt.vn/qwen3/chat"
headers = {
    "Authorization": f"Bearer {os.getenv('QWEN3_API_TOKEN')}",
    "Content-Type": "application/json"
}
data = {
    "message": "BN nam 58 tuổi, ECG: ST chênh lên V1-V4, Troponin T: 3.2 ng/mL. Chẩn đoán và hướng xử trí?",
    "system": "Bạn là bác sĩ tim mạch can thiệp. Phân tích chuyên sâu, ngắn gọn, đưa ra khuyến cáo điều trị cụ thể.",
    "max_tokens": 600,
    "temperature": 0.4
}

response = requests.post(url, json=data, headers=headers)
result = response.json()
print(result["response"])

3. Health Check

curl https://pnt.badt.vn/qwen3/health

Response (khi OK)

{
  "status": "healthy"
}

Response (khi vLLM chưa sẵn sàng)

{
  "status": "vLLM not ready",
  "vllm_url": "http://localhost:8093"
}

Streaming (SSE)

Ví dụ Streaming với Python

import requests
import json
import os

url = "https://pnt.badt.vn/qwen3/chat"
headers = {
    "Authorization": f"Bearer {os.getenv('QWEN3_API_TOKEN')}",
    "Content-Type": "application/json"
}
data = {
    "messages": [
        {"role": "system", "content": "Bạn là bác sĩ AI chuyên nội khoa."},
        {"role": "user", "content": "Giải thích cơ chế bệnh sinh của suy tim mạn tính."}
    ],
    "temperature": 0.6,
    "max_tokens": 800
}

with requests.post(url, json=data, headers=headers, stream=True) as resp:
    for line in resp.iter_lines():
        if line:
            line = line.decode("utf-8")
            if line.startswith("data: "):
                chunk = line[6:]
                if chunk == "[DONE]":
                    break
                try:
                    obj = json.loads(chunk)
                    delta = obj["choices"][0]["delta"].get("content", "")
                    print(delta, end="", flush=True)
                except json.JSONDecodeError:
                    pass
print()  # newline

Tích hợp VS Code Continue

// ~/.continue/config.json
{
  "models": [
    {
      "title": "Qwen3 14B (Local)",
      "provider": "openai",
      "model": "qwen3-14b",
      "apiBase": "https://pnt.badt.vn/qwen3/v1",
      "apiKey": "YOUR_API_TOKEN"
    }
  ]
}

OpenAI Compatible API

Qwen3 service hỗ trợ đầy đủ OpenAI-compatible API — dùng trực tiếp với OpenAI Python/JS SDK:

Python với OpenAI SDK

from openai import OpenAI
import os

client = OpenAI(
    api_key="not-needed",
    base_url="https://pnt.badt.vn/qwen3/v1",
    default_headers={
        "Authorization": f"Bearer {os.getenv('QWEN3_API_TOKEN')}"
    }
)

response = client.chat.completions.create(
    model="qwen3-14b",
    messages=[
        {"role": "system", "content": "Bạn là bác sĩ AI chuyên y học nội khoa."},
        {"role": "user", "content": "Phân tích: BN 70 tuổi, tăng huyết áp, Cr 2.8 mg/dL. Lựa chọn thuốc hạ áp phù hợp?"}
    ],
    temperature=0.5,
    max_tokens=500
)

print(response.choices[0].message.content)

JavaScript với OpenAI SDK

import OpenAI from 'openai';

const client = new OpenAI({
    apiKey: 'not-needed',
    baseURL: 'https://pnt.badt.vn/qwen3/v1',
    defaultHeaders: {
        'Authorization': `Bearer ${process.env.QWEN3_API_TOKEN}`
    }
});

const response = await client.chat.completions.create({
    model: 'qwen3-14b',
    messages: [
        { role: 'system', content: 'Bạn là trợ lý y tế AI chuyên nghiệp.' },
        { role: 'user', content: 'Xin chào, tôi cần tư vấn về bệnh đái tháo đường.' }
    ],
    max_tokens: 400
});

console.log(response.choices[0].message.content);

So sánh các LLM trong hệ thống

Rate Limits

Error Codes

Tài liệu bổ sung