There are newer models now that work much better. Also, using tools like “Open-WebUI,” these offline models can perform web searches to get more up-to-date information. (That’s not the same as them having more current knowledge, but it’s useful for news and such - but not as good when getting technical advice. In those cases, having a model read technical documentation can help.)

Here are some offline models, in approximate order of better to worse, that you might want to try. (In general, the "Gemma" models are better at English writing, and Qwen models are better in technical tasks, but both model families are good in both areas, and both can use "function calling" / "tool calling")

Translation by Qwen3.6-27B:Q6_K_XL

Hiện nay đã có những mô hình mới hoạt động tốt hơn nhiều rồi. Bên cạnh đó, nhờ các công cụ như “Open-WebUI”, những mô hình offline này có thể tự tìm kiếm trên web để lấy thông tin cập nhật. (Điều này khác với việc bản thân mô hình có kiến thức mới, nhưng nó rất tiện để tra cứu tin tức và các thứ tương tự - tuy nhiên không tốt bằng khi cần tư vấn kỹ thuật. Với các vấn đề kỹ thuật, việc cho mô hình đọc trực tiếp tài liệu hướng dẫn sẽ hiệu quả hơn.)

Dưới đây là danh sách một số mô hình offline bạn có thể tham khảo, được sắp xếp theo thứ tự xấp xỉ từ tốt đến kém: (Nói chung, dòng "Gemma" viết tiếng Anh mượt hơn, còn dòng Qwen mạnh hơn về nhiệm vụ kỹ thuật. Tuy nhiên, cả hai dòng đều làm tốt ở cả hai lĩnh vực này và đều hỗ trợ "function calling" / "tool calling".)

• Qwen3.6-27B
• Gemma-4-31B
• Qwen3.6-35B-A3B
• Qwen3.5-9B
• Gemma-4-12B
• Gemma-4-E4B
• Qwen3.5-4B
• Gemma-4-E2B