PostgreSQL 18 và logical replication hai chiều: hết thời kiến trúc active–passive
So sánh 2026: mô hình mã nguồn mở nào đang dẫn đầu tại thị trường Việt Nam
Chúng tôi chạy 6 mô hình mở trên cùng hạ tầng GPU nội địa, đo bốn hạng mục: tiếng Việt, suy luận code, độ trễ và giá tự triển khai. Kết quả khác xa bảng xếp hạng quốc tế.
Bảng xếp hạng HF Open LLM Leaderboard được thiết kế cho tiếng Anh và ví dụ Mỹ. Khi câu hỏi là "triển khai chatbot pháp lý tiếng Việt ở Hà Nội", nó gần như vô dụng. Chúng tôi tự đo lại, với bốn tiêu chí thực dụng.
Phương pháp
- 600 prompt tiếng Việt có dấu + 200 prompt code-pseudocode kiểu kỹ sư VN
- Chấm bằng LLM-judge đã hiệu chuẩn chéo 3 người, κ = 0.81
- Hạ tầng: 8×A6000 nội địa, quant hoá 4-bit đồng nhất mọi mô hình
Kết quả nổi bật
Hai mô hình 70B chiếm hạng nhất về chất lượng nhưng thua tuyệt đối về độ trễ — p95 vượt 2 giây, chấp nhận được với tác vụ nền nhưng không dùng cho hội thoại. Mô hình 14B fine-tune corpus Việt đứng thứ ba tổng xếp hạng và nhất về giá-trên-chất-lượng.
chatbot → 14B-VN (p95 = 0.9s) ← hội thoại
batch → 70B (p95 = n/a) ← phân tích tài liệu
coding → coder-32B (p95 = 1.4s)Chi tiết gây tranh cãi nhất: mô hình được cộng đồng Việt chấm cao nhất lại là mô hình ít được nhắc đến nhất trên leaderboard — bằng chứng cho thấy fine-tune ngôn ngữ địa phương có thể thắng quy mô.
Đừng hỏi mô hình nào thông minh nhất. Hãy hỏi mô hình nào trả lời đúng bằng tiếng Việt, trong dưới một giây, với phần cứng bạn đang có.
AI ■ Tin nổi bật
Các khái niệm căn bản trong LLM
Token, Transformer, attention, RLHF, RAG, agent — bản đồ rút gọn về mô hình ngôn ngữ lớn cho người đọc báo hằng ngày.
Token, Transformer và RLHF — từ điển rút gọn về LLM cho người đọc báo hằng ngày
Mỗi sáng, một mô hình ngôn ngữ lớn (LLM) trả lời hàng triệu câu hỏi. Nhưng bên trong nó thực sự gồm những gì? Bài này là bản đồ rút gọn: những khái niệm căn bản, đủ để đọc bất kỳ tin AI nào mà không phải tra Google.
1. Từ văn bản đến con số
Mọi thứ bắt đầu bằng việc biến chữ thành số.
| Khái niệm | Nội dung |
|---|---|
| Token | Đơn vị văn bản mà model đọc — không phải chữ, không phải từ, mà là mảnh phổ biến trong vốn từ. "unbeatable" có thể là 3 token. Giá API được đếm theo token. |
| Tokenizer | Bộ cắt và ghép văn bản thành token (BPE, SentencePiece, tiktoken). Nó quyết định "vocabulary" — vốn từ của model. |
| Embedding | Vector số hóa ý nghĩa của token. Các từ gần nghĩa nằm gần nhau trong không gian nhiều chiều — nền của tìm kiếm ngữ nghĩa và RAG. |
2. Kiến trúc: Transformer và attention
LLM hiện đại nào cũng là Transformer — kiến trúc ra đời năm 2017 với tiêu đề gây sốc "Attention Is All You Need".
| Khái niệm | Nội dung |
|---|---|
| Transformer | Xử lý song song toàn bộ câu thay vì đọc tuần tự từng chữ như RNN — lý do training nhanh và model lớn được. |
| Self-attention | Mỗi token "nhìn" mọi token khác trong ngữ cảnh để cân nhắc quan hệ. Đây là cơ chế khiến "nó" trong câu hiểu được là con mèo hay con chó. |
| Parameter / Weight | Hàng tỉ đến nghìn tỉ số thực đã học — "trí nhớ" của model. Model 7B tham số cần khoảng 14GB RAM ở độ chính xác fp16. |
| MoE | Mixture of Experts: thay vì chạy toàn mạng, mỗi token chỉ đi qua vài "chuyên gia" được chọn — cho phép model khổng lồ mà vẫn rẻ khi suy luận. |
3. Huấn luyện: ba giai đoạn của một bộ não
Pre-training là giai đoạn đắt đỏ nhất: model học dự đoán token tiếp theo trên kho ngữ liệu hàng nghìn tỉ token. Sản phẩm: năng lực ngôn ngữ và hiểu biết thế giới thô — nhưng chưa biết "trả lời câu hỏi".
Fine-tuning (SFT) dạy model kiểu hội thoại bằng các mẫu hỏi-đáp do người viết. Từ đây xuất hiện hai họ: fine-tuning toàn bộ (đắt) và LoRA/QLoRA — chỉ học vài phần trăm ma trận "cộng thêm", rẻ đến mức chạy được trên một GPU và hot-swap theo nhiệm vụ.
RLHF / DPO tinh chỉnh theo sở thích con người: người đánh giá xếp hạng hai câu trả lời, model học để nghiêng về câu được thích hơn. Đây là bước biến một máy đoán chữ thành một trợ lý lịch sự, hữu ích và ít gây hại.
4. Suy luận và các núm vặn
Khi đặt câu hỏi, model đang chạy inference: sinh từng token, mỗi bước dùng KV cache để không tính lại phần đã đọc.
| Núm vặn | Ý nghĩa |
|---|---|
| Context window | Số token model "nhớ" trong một phiên (cả vào lẫn ra) — từ 8K nay đã lên 1M+. Hết cửa sổ là quên đầu câu chuyện. |
| Temperature / Top-p | Độ ngẫu nhiên khi chọn token: 0 gần như tất định, cao thì sáng tạo — và dễ lạc đề hơn. |
| Prompt engineering | Thiết kế đầu vào: chỉ dẫn, ví dụ few-shot, định dạng output. Cùng một model, câu lệnh khác cho chất lượng khác hẳn. |
5. Hạn chế căn bản — và thuốc giải
Hallucination: model tối đa hoá xác suất câu văn hợp lý, không tối đa hoá sự thật. Nó không "nói dối" có chủ đích — nó nội suy.
Ba hướng khắc phục phổ biến:
- RAG (Retrieval-Augmented Generation) — truy xuất tài liệu thật, đưa vào prompt, buộc model trả lời dựa trên nguồn.
- Reasoning / Chain-of-thought — cho model "nghĩ thành lời" nhiều bước trước khi đáp; các mô hình reasoning mới (kiểu o-series) đẩy điều này vào lúc training.
- Tool use / Function calling — model được phép gọi API, tìm web, chạy code, rồi tiếp tục dựa trên kết quả thật.
Ghép nhiều bước tool use thành vòng lặp mục tiêu → lập kế hoạch → hành động → quan sát thì ta có agent — đúng thứ đang chiếm trang nhất các báo công nghệ.
6. Một vài thuật ngữ còn lại hay gặp
Quantization — nén trọng số (fp16 → int8/int4) để model chạy trên máy nhỏ, đổi chút chất lượng lấy tốc độ và chi phí. Multimodal — một model xử lý cả chữ, ảnh, tiếng, video. Distillation — dùng model lớn sinh dữ liệu dạy model nhỏ. Foundation model — mô hình nền, tức là LLM trước khi fine-tune cho một việc cụ thể.
Đọc tiếp trên chuyên mục
Bộ từ điển này sẽ được mở rộng từng kỳ: kỳ sau, chúng tôi mổ xẻ self-attention bằng ví dụ trực quan và giải thích vì sao context window dài không còn là "nhớ khỏe" — mà là bài toán chi phí.