Khi nào nên sử dụng mô hình ngôn ngữ nhỏ thay vì mô hình ngôn ngữ lớn

Các mô hình ngôn ngữ lớn (LLMs) tiếp tục hoạt động trên ranh giới giữa hiệu quả và sự tin cậy. Người dùng coi chúng là hiệu quả, nhưng nghi ngờ độ chính xác.

Chúng cũng có thể là quá mức cần thiết cho một số trường hợp sử dụng. Ví dụ, sử dụng LLMs có thể không phải là lựa chọn tốt nhất cho tất cả các nhiệm vụ HR nội bộ, do chi phí tính toán cao của chúng.

Trong tất cả những xung đột này, một loại mô hình mới đang nổi lên: mô hình ngôn ngữ nhỏ (SLMs). Đây là những mô hình đơn giản hơn được đào tạo trên tập dữ liệu nhỏ hơn để thực hiện một chức năng rất cụ thể. Nó đáp ứng tất cả các yêu cầu về hiệu quả cao, tin cậy hơn và chi phí thấp.

Một số nghiên cứu gần đây cũng cho rằng mô hình ngôn ngữ nhỏ là tương lai của AI Agent. Trong bài viết này, tôi đã liệt kê các trường hợp sử dụng mà SLM sẽ hiệu quả hơn LLM.

Các trường hợp sử dụng SLM hàng đầu trong các chức năng kinh doanh khác nhau

Nếu bạn đang tự hỏi nên bắt đầu hành trình SLM của mình từ đâu, tôi đã tổng hợp các trường hợp sử dụng SLM tốt nhất trong các chức năng kinh doanh phổ biến dưới đây. 

Dịch vụ CSKH

Các mô hình LLM có thể hữu ích cho dịch vụ khách hàng, nhưng với những hạn chế lớn. Các mô hình này được đào tạo trước trên một tập dữ liệu rộng lớn, thường được thu thập từ internet. Một số kiến thức này có thể áp dụng hoặc không áp dụng cho dịch vụ khách hàng của bạn, đặc biệt khi chính sách công ty rất cụ thể. Bạn có nguy cơ có chatbot phục vụ khách hàng bị ảo giác. Ví dụ, một chatbot dịch vụ khách hàng trên trang web của Air Canada đã hứa hoàn tiền cho khách hàng trong trường hợp có người thân qua đời, trái với chính sách không tồn tại.

SLMs có ý nghĩa hơn cho chatbot khách hàng và cổng khiếu nại. Các cổng này thường xử lý các vấn đề/truy vấn lặp đi lặp lại và có kho lưu trữ chính sách công ty hạn chế để tham khảo. Mô hình có thể được đào tạo dễ dàng trên dữ liệu vé khách hàng trong quá khứ và chính sách công ty. Điều đó đủ để mô hình trả lời khách hàng.

Tất nhiên, SLM không thể xử lý mọi thứ, và khi bot không thể trả lời truy vấn, bạn luôn có thể nhờ đến con người. Nếu đó là chatbot, bạn có thể cung cấp số hỗ trợ để khách hàng gọi. Nếu đó là nền tảng quản lý vé, vé có thể được giải quyết tự động nếu đó là vấn đề đã biết đối với SLM, hoặc được giao cho nhân viên hỗ trợ khách hàng. Ít nhất, bạn có thể yên tâm rằng tự động hóa không hứa hẹn điều gì với khách hàng mà không thể thực hiện được.

​Bán hàng/Tiếp thị 

LLMs chắc chắn vượt trội cho một số trường hợp sử dụng trong bán hàng và tiếp thị, đặc biệt là tạo nội dung. Dữ liệu đào tạo lớn hơn giúp xử lý các chủ đề khác nhau. Nhưng sử dụng LLMs cho các nhiệm vụ ngách hơn như đánh giá/nuôi dưỡng khách hàng tiềm năng và tiếp cận cá nhân hóa có thể không phải là lựa chọn tốt nhất. Các phản hồi chung chung của nó sẽ không tạo ấn tượng tốt cho khách hàng tiềm năng của bạn.

SLM giúp bạn tạo ra các thông điệp tiếp cận cá nhân hóa hơn. Nó có thể được đào tạo trên tập dữ liệu độc quyền của bạn để đánh giá khách hàng tiềm năng. Bạn có thể soạn thảo một số thông điệp tiếp cận đã hiệu quả cho bạn trong quá khứ và sử dụng mô hình SLM để tạo thêm thông điệp tiếp cận dựa trên chúng. SLMs giúp bạn tránh xa các thông điệp tiếp cận AI chung chung.

Tài chính 

LLMs có thể được sử dụng cho Phân tích thị trường chung. Nhưng nó tụt hậu đối với các nhiệm vụ rủi ro cao như phát hiện gian lận và giám sát tuân thủ. Tỷ lệ gian lận đang tăng trong cả tài khoản người tiêu dùng và doanh nghiệp. Mặc dù các công ty đang xây dựng hệ thống phát hiện gian lận, những kẻ lừa đảo vẫn tiếp tục tìm ra cách mới để vượt qua chúng. Mô hình cần được đào tạo lại liên tục. Đây là nơi SLM tỏa sáng và LLM phải lùi lại.

Việc đào tạo lại LLM tốn nhiều thời gian và tài nguyên hơn so với SLM. SLM có thể được cập nhật liên tục với dữ liệu gian lận mới nhất để làm cho hệ thống mạnh mẽ hơn.

Tương tự đối với dữ liệu tuân thủ. LLMs thậm chí có thể có thông tin tuân thủ lỗi thời, dẫn đến bỏ sót. SLM được đào tạo trên tập dữ liệu nhỏ dễ xem xét và tinh chỉnh để đảm bảo chỉ có các quy định mới nhất có sẵn trong cơ sở kiến thức.

Nhân sự 

LLMs rất tuyệt vời để soạn thảo mô tả công việc chung, giao tiếp với nhân viên hoặc nội dung đào tạo. Các nhiệm vụ có rủi ro tuân thủ cao (ví dụ: tạo tài liệu chính sách, thỏa thuận việc làm và tài liệu nhập cư) là nơi mọi thứ trở nên phức tạp.

Các quốc gia hoặc thậm chí các bang liên tục cập nhật luật lao động của họ.  Ví dụ, chính phủ Úc đã tăng thời gian nghỉ thai sản lên 24 tuần vào năm 2025, và sẽ được kéo dài thêm hai tuần nữa bắt đầu từ năm 2026. New York tăng mức lương tối thiểu theo giờ cho người lao động tự do gần đây. Nhật Bản bắt đầu thúc đẩy cân bằng công việc-cuộc sống và sắp xếp công việc linh hoạt cho cha mẹ mới.

Sử dụng LLMs có nghĩa là liên tục kiểm tra xem cơ sở kiến thức ở phía sau có chính xác và cập nhật không. Vô tình bỏ sót bất kỳ tệp chính sách cũ nào trong cơ sở dữ liệu sẽ dẫn đến ảo giác.  

Mô hình ngôn ngữ nhỏ có nghĩa là kiểm soát nhiều hơn đối với cơ sở kiến thức và đảm bảo tuân thủ hơn. Ví dụ, Deel AI là một mô hình ngôn ngữ nhỏ được giám tuyển bởi các chuyên gia tuân thủ của nó. Các chuyên gia này liên tục cập nhật cơ sở kiến thức để bạn nhận được câu trả lời mới nhất và chính xác nhất.

Hoạt động kinh doanh

Một cuộc khảo sát áp dụng AI mới từ G2 cho thấy gần 75% doanh nghiệp sử dụng nhiều tính năng AI trong hoạt động kinh doanh hàng ngày. AI đang thúc đẩy hiệu quả hoạt động và cải thiện năng suất. Cả SLM và LLM đều có vai trò trong đó.

LLMs tỏa sáng trong các nhiệm vụ chiến lược như kiểm soát rủi ro, dự báo nhu cầu, đánh giá nhà cung cấp, và nhiều hơn nữa. Cơ sở kiến thức rộng lớn của nó giúp xem xét tất cả các khía cạnh trước khi đưa ra đề xuất. Mặt khác, SLM hoạt động tốt nhất cho công việc lặp đi lặp lại. Hãy nghĩ đến quản lý hóa đơn, theo dõi lô hàng, tối ưu hóa tuyến đường, kiểm tra lý lịch, hoặc bảo trì dự đoán. Các nhiệm vụ có thể chạy trên một tập hợp quy tắc hạn chế và dữ liệu quá khứ của công ty.

Các công ty đang được hưởng lợi từ việc sử dụng SLM trong các nhiệm vụ thường xuyên, lặp đi lặp lại. Ví dụ, Checkr, một nền tảng kiểm tra lý lịch nhân viên, đã chuyển từ LLM sang SLM để tự động hóa kiểm tra lý lịch và thấy độ chính xác tốt hơn, thời gian phản hồi nhanh hơn và giảm chi phí gấp 5 lần.

SLM vs LLM: Ai thắng trong cuộc chiến?

Trong việc so sánh SLM và LLM, câu trả lời không phải là chọn giữa SLM và LLM. Cách tiếp cận tốt hơn là sử dụng chúng cùng nhau như một mô hình lai. Cả SLM và LLM đều có điểm mạnh và điểm yếu riêng. SLM làm tốt công việc trong các nhiệm vụ có phạm vi xác định rõ ràng và tập dữ liệu hạn chế. Nhưng đối với các nhiệm vụ đòi hỏi lý luận, LLM là lựa chọn tốt hơn nhiều.

Hãy lấy quản lý chuỗi cung ứng làm ví dụ. Cách tiếp cận lai tốt hơn cho quản lý chuỗi cung ứng là:

• LLM đảm nhận các nhiệm vụ chiến lược như phân tích rủi ro, dự báo nhu cầu, và nhiều hơn nữa
• SLM tự động hóa các nhiệm vụ hoạt động khối lượng lớn và lặp đi lặp lại, chẳng hạn như quản lý tuyến đường, xử lý hóa đơn, v.v.

Sử dụng cả SLM và LLM cùng nhau tạo ra một mô hình hoàn chỉnh để xử lý tất cả các chi tiết của chuỗi cung ứng. ​

Các mô hình SLM hàng đầu sẵn sàng cho đào tạo tùy chỉnh

Một điều tốt về việc bắt đầu với việc triển khai SLM của bạn là có các mô hình có sẵn để tinh chỉnh. Bạn có thể chọn một trong số này tùy thuộc vào trường hợp sử dụng của bạn:

1. Meta Llama 3.1 (8B tham số): Một mô hình hiệu quả cao nổi bật cho các trường hợp sử dụng yêu cầu hỗ trợ đa ngôn ngữ
2. Microsoft Phi-3 (3.8B tham số): Một mô hình nhỏ hoàn hảo khi bạn có một nhiệm vụ cụ thể đòi hỏi lý luận mạnh mẽ.
3. Google Gemma 2 (2B tham số): Một mô hình nhẹ với khả năng đa phương thức, giúp bạn xử lý cả văn bản và hình ảnh.

Sử dụng SLMs chưa bao giờ dễ dàng như thế này

Với nhiều mô hình SLM đang được ra mắt, bạn thậm chí không phải tạo bất kỳ mô hình nào từ đầu. Chỉ cần chọn một mô hình hiện có phù hợp với trường hợp sử dụng của bạn, xây dựng cơ sở kiến thức thông tin cho nó, và bạn đã sẵn sàng.  

\n