Trong tháng 10 vừa qua, hơn một phần tư yêu cầu trên bộ định tuyến mô hình AI của Vercel đã hướng đến các mô hình quyết định (decision models), thay vì các mô hình ngôn ngữ lớn (LLMs). Đây là một con số ấn tượng đối với một dạng trí tuệ máy tính mới chỉ xuất hiện từ tháng trước. Các mô hình quyết định này không tạo ra token đầu ra; thay vào đó, chúng được tinh chỉnh để sử dụng trí thông minh tổng quát nhằm nhanh chóng và tiết kiệm chi phí lựa chọn giữa các tùy chọn được thiết lập sẵn, đồng thời ghi nhận mức độ tin cậy vào lựa chọn đó. Chúng hữu ích trong môi trường sản xuất, nơi các quyết định nhanh chóng có thể quan trọng hơn lý do được đưa ra bởi các mô hình tiên tiến, chậm và tốn kém hơn.
TypeSafe đã trở thành một công ty trị giá 7,5 tỷ USD sau khi phát hành dòng mô hình Jev, tiếp tục chiếm ưu thế về mức độ sử dụng. Tuy nhiên, việc tạo ra một mô hình quyết định là khá dễ dàng, và hàng chục mô hình đã ra đời sau Jev. Một kỹ sư của Amazon đã tạo ra một mô hình chỉ trong một cuối tuần, và không lâu sau, mọi nhà cung cấp dịch vụ điện toán đám mây lớn đều có tùy chọn riêng. Vào thứ Ba, Giám đốc Điều hành Microsoft, Satya Nadella, cho biết công ty của ông đang triển khai mô hình quyết định Microsoft-Decision-1.1 cho việc sử dụng rộng rãi trên Azure ngay lập tức.
Sqwish, một startup AI có trụ sở tại Vương quốc Anh đứng sau mô hình quyết định có tên kettei fat, đã công bố vòng gọi vốn tiền hạt giống (pre-seed) trị giá 3 triệu USD. Đồng sáng lập Ushnish Sengupta và Federica Freddi nhận thấy kiến trúc của họ có thể được tái sử dụng làm mô hình quyết định mạnh mẽ. Dữ liệu dường như là chìa khóa thành công cho các mô hình trong danh mục này. Sqwish cung cấp các công cụ tích hợp sau đào tạo, sử dụng dữ liệu của khách hàng để cải thiện khả năng phán đoán của mô hình. “Điều khiến chúng tôi không trở thành một mặt hàng, tôi nghĩ, là việc chúng tôi cung cấp cho khách hàng sức mạnh tương tự… họ có thể tiếp tục tải lên dữ liệu sản xuất của mình, và cũng giống như cách chúng tôi đã đào tạo các mô hình của mình, các mô hình của họ cũng có thể ngày càng tốt hơn trong các tác vụ mà họ quan tâm,” CEO Ushnish Sengupta nói với TechCrunch.
Microsoft-Decision-1.1 và Jev được cho là số ít hoạt động mạnh mẽ trên cả bốn khía cạnh: độ chính xác, độ tin cậy, tốc độ và hiệu quả chi phí, ngay cả khi được đánh giá trên các benchmark “giữ lại” hoặc chưa từng thấy phản ánh các trường hợp sử dụng thực tế. Đối với các startup như Sqwish, cạnh tranh với các nhà cung cấp dịch vụ điện toán đám mây lớn và các phòng thí nghiệm tiên tiến là một cơ hội. Freddi dự đoán rằng các hệ thống tương lai sẽ chứng kiến sự kết hợp giữa trí tuệ Hệ thống Một (System One), như các mô hình quyết định, hoạt động cùng với trí tuệ Hệ thống Hai (System Two), như các LLM tiên tiến.



