Tích hợp đầy đủ các API AI y khoa, nhận dạng giọng nói, OCR, và chatbot thông minh
Hệ thống cung cấp 15 dịch vụ đang hoạt động với AI Agent trung tâm — 7 GPU services, 8 non-GPU services
Trợ lý AI tổng hợp thông minh — tự động nhận biết ý định và điều phối đến đúng service: ASR, OCR, dịch thuật, tóm tắt, tìm kiếm mã y tế, TTS, bệnh nhân ảo và hơn thế nữa. Hỗ trợ hội thoại có lịch sử session, streaming WebSocket real-time.
Nhận dạng giọng nói y khoa tiếng Việt — 2 Workers + GPU Load Balancer, tối ưu tải real-time
API nhận dạng khuôn mặt với độ chính xác cao
Google Gemma 4 E4B — 29B tham số (AWQ 4-bit), context 4K (VRAM-limited), thinking mode, hỗ trợ tiếng Việt và 140+ ngôn ngữ. Hỗ trợ multimodal — nhận diện hình ảnh, video và audio qua API OpenAI-compatible — tối ưu cho phân tích hình ảnh y khoa (X-quang, CT, MRI) và suy luận lâm sàng.
Giám sát và quản lý tài nguyên 5 GPU trong thời gian thực — VRAM, utilization, nhiệt độ, điều phối workload
LLM Qwen2.5-7B-Instruct-AWQ — hỗ trợ tool calling, primary LLM của AI Agent, worker trong team mode cùng Gemma4 và Qwen3
Google medGemma 1.5 — 4B tham số, model y khoa multimodal chính thức từ Google. Hỗ trợ image+text input, chuyên biệt cho phân tích hình ảnh y khoa (X-quang, CT, MRI) và trả lời câu hỏi lâm sàng. OpenAI-compatible API, context 4K tokens, bfloat16. Chạy trên GPU RTX 5060 Ti 16GB.
Gemma 4 Multimodal — Cùng model Gemma 4 E2B nhưng expose qua endpoint riêng /gemma4-mm/ để thử nghiệm. Hỗ trợ image+text+audio input. Sử dụng OpenAI-compatible API với base64 image. Dùng chung vLLM backend (port 8092) với gemma4 text service. Qwen3 tạm dừng. GPU 1 hiện chạy medGemma 1.5 Multimodal y khoa.
Hệ thống Hỗ trợ Chẩn đoán Lâm sàng - LLM + Clinical Reasoning Maps + GNN/Bayesian Inference trên GPU. Phân tích triệu chứng, tính xác suất chẩn đoán động.
Mô phỏng bệnh nhân ảo với RAG và LLM cho giáo dục y khoa
Chuyển văn bản thành giọng nói tự nhiên - Hỗ trợ 28+ ngôn ngữ
Agent AI tự chủ chạy DeepSeek R1 — quản lý task, lập lịch, thực thi pipeline phân tích phức tạp. Kết nối từ máy chủ 192.168.1.248.
Đang kiểm tra trạng thái services...