ollama /ollama
Ollama tải và chạy mô hình ngôn ngữ mở trên máy tính cá nhân bằng một lệnh, kèm API tại máy.
Chạy mô hình tại máyPython
vLLM là bộ máy phục vụ mô hình ngôn ngữ thông lượng cao trên GPU, có API tương thích OpenAI.
vLLM là bộ máy phục vụ mô hình ngôn ngữ thông lượng cao trên GPU, có API tương thích OpenAI.
Chạy mô hình ngôn ngữ và mô hình tạo ảnh ngay trên máy tính hoặc máy chủ riêng, dữ liệu không rời khỏi công ty.
Hợp khi anh chị phục vụ mô hình mở cho nhiều người dùng cùng lúc.
Ollama tải và chạy mô hình ngôn ngữ mở trên máy tính cá nhân bằng một lệnh, kèm API tại máy.
Open WebUI là giao diện trò chuyện tự cài cho Ollama và các API tương thích OpenAI, có quản lý người dùng và tra cứu tài liệu.
ComfyUI là giao diện dạng nút nối để dựng quy trình tạo ảnh và video bằng mô hình khuếch tán.
Nguồn: GitHub REST API cho kho vllm-project/vllm, kiểm ngày 19/11/2026. Mô tả tiếng Việt do tôi viết từ README của kho; tên và nhãn hiệu thuộc về chủ sở hữu.
8 bài, làm theo từng bước: từ lần đầu mở Claude đến nối Zalo, bảng tính và email. Để lại email, nhận bài 1 ngay.