Liquid AI đưa AI 1,7 tỷ tham số lên điện thoại và máy tính cá nhân

AI không nhất thiết phải chạy trên những trung tâm dữ liệu khổng lồ mới tạo ra giá trị kinh doanh. Với LFM3, Liquid AI đang đặt cược vào một hướng tiếp cận khác: mô hình nhỏ, có thể tùy chỉnh và triển khai trực tiếp trên máy tính, điện thoại hoặc máy chủ riêng của doanh nghiệp.

Ngày 27/10, công ty giới thiệu sáu mô hình mới bao phủ xử lý ngôn ngữ, hình ảnh, âm thanh và quyết định có cấu trúc. Điểm đáng chú ý không chỉ nằm ở kích thước mô hình, mà ở tham vọng đưa AI đến gần nơi công việc thực sự diễn ra.

Sáu mô hình hướng đến những công việc khác nhau

Dòng LFM3 gồm sáu mô hình, sử dụng nền tảng chung 1,7 tỷ tham số và các phiên bản chuyên biệt có quy mô khoảng 2 tỷ tham số. Liquid AI cho biết doanh nghiệp có thể tùy chỉnh chúng bằng một GPU, sau đó triển khai trên thiết bị cá nhân, máy chủ riêng hoặc hạ tầng đám mây.

Các phiên bản đảm nhiệm những vai trò khác nhau. LFM3-1.7B tập trung vào ngôn ngữ và sử dụng công cụ phần mềm. LFM3-VL-2B xử lý hình ảnh và video. LFM3-Audio-2B tiếp nhận giọng nói và văn bản, hỗ trợ 18 ngôn ngữ. LFM3-Omni-2B kết hợp thông tin hình ảnh, âm thanh và ngôn ngữ.

Hai mô hình d1-2B và d1-Omni-2B tập trung vào đầu ra có cấu trúc. Thay vì tạo một câu trả lời dài, chúng có thể phân loại, trích xuất trường dữ liệu, lựa chọn phương án hoặc đưa ra giá trị số.

Đây là khác biệt quan trọng. Một doanh nghiệp không phải lúc nào cũng cần AI biết trò chuyện. Họ thường cần một hệ thống đọc hóa đơn, phân loại yêu cầu, nhận diện lỗi hoặc cập nhật dữ liệu vào phần mềm.

Mô hình nhỏ tạo lợi thế ở những tác vụ cụ thể

Liquid AI công bố LFM3-1.7B đạt 38,42 điểm trong WebArena-Verified, cao hơn Qwen3.5-9B với 28,94 điểm. Trong bài kiểm tra AutomationBench công khai, mô hình đạt 41,29 điểm, so với 15,10 của Qwen3.5-9B.

Ở bài kiểm tra gọi hàm BFCL V4, LFM3 đạt 71,39 điểm, vượt Qwen3.5-9B ở mức 62,83. Đây là những kết quả đáng chú ý đối với các hệ thống cần điều khiển trình duyệt hoặc gọi công cụ phần mềm.

Tuy nhiên, bức tranh không hoàn toàn một chiều. Trong SWE-bench Verified, LFM3 đạt 43,40 điểm, thấp hơn Qwen3.5-9B ở mức 51,20. Với GPQA Diamond, khoảng cách còn rõ hơn: 63,37 so với 80,40. Ở bài kiểm tra RULER với ngữ cảnh 128.000 token, LFM3 cũng thấp hơn Qwen.

Chính Liquid AI thừa nhận mô hình lớn vẫn có lợi thế trong lập trình tự động và xử lý kiến thức phức tạp. Tài liệu của công ty không khuyến nghị dùng LFM3-1.7B cho lập trình tự động hoặc suy luận nhiều bước phức tạp.

Vì vậy, không nên xem LFM3 là giải pháp thay thế toàn diện cho những mô hình lớn. Giá trị của nó nằm ở những công việc được xác định rõ, có đầu vào và đầu ra tương đối ổn định.

Phần cứng cục bộ là trọng tâm của cuộc chơi

LFM3 sử dụng kiến trúc kết hợp ba thành phần, phối hợp các lớp tích chập với cơ chế chú ý trên phạm vi gần và rộng. Nền tảng chung được huấn luyện trước trên 22 nghìn tỷ token, sau đó tiếp tục tối ưu cho việc sử dụng công cụ và quy trình doanh nghiệp.

Liquid AI cho biết mô hình văn bản 1,7 tỷ tham số cải thiện so với thế hệ 2,6 tỷ tham số trước đó, dù số tham số giảm khoảng 35%.

Ở độ chính xác bốn bit, công ty mô tả kích thước mô hình vào khoảng 1 GB. Nhưng đây không phải tổng dung lượng bộ nhớ cần thiết để chạy một ứng dụng hoàn chỉnh. Riêng bộ nhớ đệm KV ở ngữ cảnh 128.000 token đã cần khoảng 1,6 GB theo giải thích của công ty.

Các thử nghiệm trên phần cứng cho thấy LFM3 tạo ra 129,6 token mỗi giây trên AMD Ryzen AI Max+ 395, 237,1 token mỗi giây trên Apple M5 Max và 43,6 token mỗi giây trên iPhone 17 Pro. Đây là số liệu do Liquid AI công bố với mô hình nén bốn bit, thư viện llama.cpp và một cấu hình thử nghiệm cụ thể.

Ở quy mô máy chủ, Liquid AI tuyên bố một GPU Nvidia B300 có thể đạt sản lượng tương đương 3,6 tỷ token được tạo mỗi ngày trong thử nghiệm với 1.024 yêu cầu đồng thời. Con số này phản ánh thông lượng tổng thể, không có nghĩa một người dùng có thể hoàn thành mọi tác vụ phức tạp trong thời gian ngắn.

Chi phí API thấp nhưng chưa phản ánh toàn bộ chi phí

Với doanh nghiệp không muốn tự vận hành phần cứng, Liquid AI cung cấp API. Giá LFM3-1.7B được niêm yết ở mức 0,08 USD cho mỗi triệu token đầu vào và 0,20 USD cho mỗi triệu token đầu ra. Dữ liệu đầu vào được lưu đệm có giá 0,02 USD.

Nếu sử dụng một triệu token đầu vào không lưu đệm và một triệu token đầu ra, chi phí văn bản tương ứng là 0,28 USD. Mô hình thị giác có tổng chi phí 0,60 USD theo cùng giả định, còn mô hình âm thanh và đa phương thức là 1,10 USD, chưa tính phí token âm thanh.

Đây là mức giá đầu vào tương đối dễ tiếp cận cho các thử nghiệm. Tuy nhiên, chi phí thực tế của một công việc còn phụ thuộc số lần gọi mô hình, độ dài dữ liệu, yêu cầu xử lý lại và tỷ lệ phải chuyển sang mô hình lớn hơn.

Doanh nghiệp cũng cần phân biệt giữa sử dụng API và tự triển khai. Bốn mô hình LFM3 được liệt kê trong bảng giá API có giới hạn ngữ cảnh 128.000 token, trong khi tài liệu của mô hình văn bản tải xuống công bố cửa sổ ngữ cảnh 256.000 token.

Giá trị lớn nhất nằm ở quy trình, không phải chatbot

LFM3 gợi mở một hướng ứng dụng thiết thực hơn cho doanh nghiệp. Nhân viên kho có thể đọc thông tin kiện hàng bằng giọng nói, chụp ảnh tình trạng sản phẩm và tạo bản ghi kiểm kê. Kỹ thuật viên có thể chụp nhãn thiết bị, đọc mã và chuẩn bị hồ sơ bảo trì mà không phải nhập toàn bộ dữ liệu bằng tay.

Trong văn phòng, mô hình quyết định có cấu trúc có thể phân loại yêu cầu hỗ trợ, trích xuất ngày tháng trên hóa đơn hoặc chuyển thông tin đến đúng bộ phận. Mô hình thị giác có thể hỗ trợ đọc tài liệu và biểu đồ. Mô hình âm thanh có thể biến yêu cầu nói thành thao tác phần mềm.

Đây là những khả năng tiềm năng cần được xây dựng thành ứng dụng hoàn chỉnh, không phải các triển khai đã được chứng minh ở quy mô sản xuất. Doanh nghiệp vẫn phải kết nối mô hình với hệ thống quản lý, kiểm tra độ chính xác và thiết kế bước xác nhận của con người.

Liquid AI cho biết Mercedes-Benz và Shopify đã tham gia thử nghiệm, đánh giá các mô hình trước khi phát hành. Mercedes-Benz đang tìm hiểu khả năng dùng AI cục bộ để cải thiện trợ lý ảo MBUX. Tuy nhiên, chưa có số liệu về hiệu quả kinh doanh hoặc xác nhận triển khai LFM3 trong hoạt động sản xuất của hai doanh nghiệp này.

Lợi thế cạnh tranh đi cùng những giới hạn rõ ràng

LFM3 cạnh tranh bằng khả năng triển khai linh hoạt, chi phí API thấp và hiệu năng tốt trong một số tác vụ chuyên biệt. Nhưng những kết quả do nhà sản xuất công bố chưa phải kiểm chứng độc lập. Doanh nghiệp cũng cần lưu ý Liquid AI chưa cung cấp đầy đủ thông tin về ngân sách bộ nhớ ở ngữ cảnh tối đa, điều kiện so sánh tương đương giữa các mô hình và hiệu năng của toàn bộ ứng dụng khi chạy liên tục.

Một ví dụ tinh chỉnh mô hình thị giác cho ảnh tua-bin gió cho thấy tiềm năng lẫn giới hạn. Sau khi huấn luyện bằng khoảng 3.000 ảnh, độ chính xác phân loại tăng từ dưới 10% lên 67%. Nhưng điểm F1 trong phát hiện và định vị lỗi chỉ đạt 0,11. Cải thiện đáng kể không đồng nghĩa đã đủ độ tin cậy để tự động kiểm tra thiết bị công nghiệp.

Giấy phép cũng là yếu tố không thể bỏ qua. Theo điều khoản được công bố, doanh nghiệp có doanh thu hằng năm trên 10 triệu USD cần thỏa thuận riêng để sử dụng thương mại. Tự triển khai vì thế không đồng nghĩa miễn phí. Phần cứng, điện năng, bảo trì và giấy phép vẫn tạo ra chi phí.

Cơ hội cho doanh nghiệp Việt Nam nằm ở bài toán nhỏ

Với doanh nghiệp vừa và nhỏ tại Việt Nam, hướng đi hợp lý không phải xây dựng một trợ lý AI có thể làm mọi thứ. Hãy bắt đầu từ một công việc lặp lại đang tiêu tốn thời gian: đọc hóa đơn, phân loại yêu cầu khách hàng, nhập dữ liệu kho hoặc tìm thông tin trong hồ sơ.

Đo thời gian xử lý hiện tại, tỷ lệ sai sót và chi phí nhân sự. Sau đó chạy thử LFM3 trên dữ liệu thực tế, tính cả chi phí phần cứng, API, bảo trì và kiểm tra của con người. Nếu mô hình nhỏ đáp ứng được yêu cầu, doanh nghiệp có thể giảm số lần phải gửi dữ liệu lên dịch vụ bên ngoài.

Tuy nhiên, chạy AI cục bộ không tự động bảo đảm dữ liệu riêng tư. Một tác nhân AI vẫn có thể gửi thông tin ra ngoài thông qua công cụ tìm kiếm, thư điện tử hoặc phần mềm được kết nối. Quyền kiểm soát dữ liệu phụ thuộc vào toàn bộ kiến trúc ứng dụng, không chỉ vị trí chạy mô hình.

Cuộc cạnh tranh AI đang mở rộng từ việc ai sở hữu mô hình lớn nhất sang việc ai triển khai được công việc với chi phí hợp lý và độ tin cậy đủ cao. LFM3 chưa chứng minh có thể thay thế các mô hình lớn, nhưng cho thấy AI nhỏ đang tiến gần hơn đến những quy trình kinh doanh cụ thể.

Với doanh nghiệp, câu hỏi quan trọng không phải mô hình có bao nhiêu tỷ tham số. Đó là nó có hoàn thành một công việc thực tế, ổn định và rẻ hơn quy trình hiện tại hay không.

Liquid AI đưa AI 1,7 tỷ tham số lên điện thoại và máy tính cá nhân

Liquid AI, LFM3, AI cục bộ, mô hình AI nhỏ, tự động hóa trình duyệt, AI doanh nghiệp, AI trên điện thoại, mô hình ngôn ngữ nhỏ, xử lý hình ảnh AI, AI giọng nói, API Liquid AI, triển khai AI riêng, tự động hóa doanh nghiệp, AI cho doanh nghiệp vừa và nhỏ