Kapan Menggunakan Model Bahasa Kecil Daripada Model Bahasa Besar

Model bahasa besar (LLMs) terus berjalan di atas tali antara efisiensi dan kepercayaan. Pengguna menganggapnya efektif, tetapi meragukan akurasinya.

Ini juga bisa berlebihan untuk beberapa kasus penggunaan. Misalnya, menggunakan LLM mungkin bukan pilihan terbaik untuk semua tugas HR internal, mengingat biaya komputasi yang tinggi.

Di antara semua konflik ini, jenis model yang lebih baru sedang berkembang: model bahasa kecil (SLMs). Ini adalah model yang lebih sederhana yang dilatih pada dataset yang lebih kecil untuk melakukan fungsi yang sangat spesifik. Ini memenuhi semua kriteria efisiensi tinggi, lebih banyak kepercayaan, dan biaya rendah.

Beberapa studi terbaru juga mengatakan model bahasa kecil adalah masa depan AI Agentic. Dalam artikel ini, saya telah mencantumkan kasus penggunaan di mana SLM akan lebih efisien daripada LLM.

Kasus penggunaan SLM teratas di berbagai fungsi bisnis

Jika Anda bertanya-tanya dari mana harus memulai perjalanan SLM Anda, saya telah mengumpulkan kasus penggunaan SLM terbaik di berbagai fungsi bisnis umum di bawah ini. 

Layanan pelanggan

Model LLM dapat membantu untuk layanan pelanggan, tetapi dengan peringatan utama. Model-model ini telah dilatih sebelumnya pada dataset yang luas, sering diambil dari internet. Beberapa pengetahuan ini mungkin atau mungkin tidak berlaku untuk layanan pelanggan Anda, terutama ketika kebijakan perusahaan bersifat spesifik. Anda berisiko memiliki chatbot yang menghadap pelanggan yang berhalusinasi. Misalnya, chatbot layanan pelanggan di situs web Air Canada menjanjikan pengembalian dana duka cita kepada pelanggan bertentangan dengan kebijakan yang tidak pernah ada.

SLM lebih masuk akal untuk chatbot pelanggan dan portal keluhan. Portal ini sering menangani masalah/pertanyaan yang sangat berulang dan memiliki repositori kebijakan perusahaan yang terbatas untuk dirujuk. Model ini dapat dilatih dengan mudah pada data tiket pelanggan masa lalu dan kebijakan perusahaan. Itu cukup bagi model untuk menjawab pelanggan.

Tentu saja, SLM tidak dapat menangani semuanya, dan di mana bot tidak dapat menjawab pertanyaan, Anda selalu dapat melibatkan manusia. Jika itu chatbot, Anda dapat memberikan nomor dukungan untuk pelanggan hubungi. Jika itu platform manajemen tiket, tiket dapat diselesaikan secara otomatis jika itu masalah yang diketahui oleh SLM, atau ditugaskan ke eksekutif dukungan pelanggan. Setidaknya, Anda dapat yakin bahwa otomatisasi tidak menjanjikan sesuatu kepada pelanggan yang tidak mungkin.

​Penjualan/Pemasaran 

LLM pasti unggul untuk beberapa kasus penggunaan dalam penjualan dan pemasaran, terutama pembuatan konten. Data pelatihan yang lebih besar membantu menangani berbagai topik. Tetapi menggunakan LLM untuk tugas yang lebih khusus seperti kualifikasi/pengembangan prospek dan jangkauan personal mungkin bukan pilihan terbaik. Respons umumnya tidak akan memberikan kesan yang baik kepada calon pelanggan Anda.

SLM membantu Anda membuat pesan jangkauan yang lebih personal. Ini dapat dilatih pada dataset eksklusif Anda untuk mengkualifikasi prospek. Anda dapat menyusun beberapa pesan jangkauan yang telah berhasil untuk Anda di masa lalu dan menggunakan model SLM untuk menghasilkan pesan jangkauan lebih lanjut berdasarkan pesan tersebut. SLM membantu Anda beralih dari pesan jangkauan AI yang generik.

Keuangan 

LLM dapat digunakan untuk analisis pasar umum. Tetapi tertinggal untuk tugas berisiko tinggi seperti deteksi penipuan dan pemantauan kepatuhan. Tingkat penipuan meningkat baik di akun konsumen maupun bisnis. Meskipun perusahaan membangun sistem deteksi penipuan, penipu terus menemukan cara baru untuk mengakalinya. Model ini membutuhkan pelatihan ulang terus-menerus. Di sinilah SLM bersinar dan LLM mengambil posisi belakang.

Dibutuhkan lebih banyak waktu dan sumber daya untuk melatih ulang LLM dibandingkan dengan SLM. SLM dapat terus diperbarui dengan data penipuan terbaru untuk membuat sistem lebih kuat.

Demikian juga untuk data kepatuhan. LLM bahkan dapat memiliki informasi kepatuhan yang sudah usang, mengakibatkan kelalaian. SLM yang dilatih pada dataset kecil mudah ditinjau dan disempurnakan untuk memastikan hanya peraturan terbaru yang tersedia dalam basis pengetahuan.

Sumber Daya Manusia 

LLM sangat baik untuk menyusun deskripsi pekerjaan umum, komunikasi karyawan, atau konten pelatihan. Tugas dengan risiko kepatuhan tinggi (contoh: membuat dokumen kebijakan, perjanjian kerja, dan dokumen imigrasi) adalah di mana hal-hal menjadi rumit.

Negara atau bahkan negara bagian terus memperbarui undang-undang ketenagakerjaan mereka. Misalnya, pemerintah Australia meningkatkan cuti orang tua menjadi 24 minggu pada tahun 2025, dan akan diperpanjang dua minggu lagi mulai tahun 2026. New York meningkatkan upah minimum per jam untuk pekerja gig baru-baru ini. Jepang mulai mempromosikan keseimbangan kerja-kehidupan dan pengaturan kerja fleksibel untuk orang tua baru.

Menggunakan LLM berarti terus memeriksa bahwa basis pengetahuan di backend akurat dan terkini. Meninggalkan file kebijakan lama karena kesalahan dalam database akan mengakibatkan halusinasi.  

Model bahasa kecil berarti kontrol yang jauh lebih besar pada basis pengetahuan dan lebih banyak jaminan untuk kepatuhan. Misalnya, Deel AI adalah model bahasa kecil yang dikurasi oleh pakar kepatuhannya. Para ahli ini terus memperbarui basis pengetahuan sehingga Anda mendapatkan jawaban yang paling terkini dan akurat.

Operasi bisnis

Survei adopsi AI baru dari G2 menunjukkan bahwa hampir 75% bisnis menggunakan beberapa fitur AI dalam operasi bisnis sehari-hari. AI mendorong efisiensi operasional dan meningkatkan produktivitas. Baik SLM maupun LLM memiliki peran di dalamnya.

LLM bersinar dalam tugas strategis seperti manajemen risiko, peramalan permintaan, tinjauan pemasok, dan lainnya. Basis pengetahuannya yang luas membantu mempertimbangkan semua sudut sebelum membuat saran. Di sisi lain, SLM bekerja paling baik untuk pekerjaan berulang yang membosankan. Pikirkan manajemen faktur, pelacakan pengiriman, optimasi rute, pemeriksaan latar belakang, atau pemeliharaan prediktif. Tugas-tugas ini dapat berjalan pada serangkaian aturan terbatas dan data masa lalu perusahaan.

Perusahaan mendapat manfaat dari penggunaan SLM dalam tugas rutin dan berulang. Misalnya, Checkr, platform pemeriksaan latar belakang karyawan, beralih dari LLM ke SLM untuk mengotomatisasi pemeriksaan latar belakang dan melihat akurasi yang lebih baik, waktu respons yang lebih cepat, dan pengurangan biaya 5X.

SLM vs LLM: Siapa yang memenangkan pertarungan?

Dalam perbandingan SLM dan LLM, jawabannya bukan memilih antara SLM dan LLM. Pendekatan yang lebih baik adalah menggunakan keduanya bersama-sama sebagai model hybrid. Baik SLM maupun LLM memiliki kekuatan dan kelemahan masing-masing. SLM melakukan pekerjaan yang baik dalam tugas dengan ruang lingkup yang terdefinisi dengan baik dan dataset terbatas. Tetapi untuk tugas yang membutuhkan penalaran, LLM adalah pilihan yang jauh lebih baik.

Mari ambil manajemen rantai pasokan sebagai contoh. Pendekatan hybrid lebih baik untuk manajemen rantai pasokan di mana:

• LLM mengambil tugas strategis seperti analisis risiko, peramalan permintaan, dan lainnya
• SLM mengotomatisasi tugas operasional volume tinggi dan berulang, seperti manajemen rute, pemrosesan faktur, dll.

Menggunakan SLM dan LLM bersama-sama menciptakan model lengkap untuk menangani semua seluk-beluk rantai pasokan. ​

Model SLM teratas siap untuk pelatihan kustom

Satu hal baik tentang memulai implementasi SLM Anda adalah bahwa ada model yang tersedia untuk fine-tuning. Anda dapat memilih salah satu dari ini tergantung pada kasus penggunaan Anda:

1. Meta Llama 3.1 (8B parameter): Model efisiensi tinggi yang menonjol untuk kasus penggunaan yang memerlukan dukungan multibahasa
2. Microsoft Phi-3 (3.8B parameter): Model kecil yang sempurna ketika Anda memiliki tugas super-spesifik yang memerlukan penalaran kuat.
3. Google Gemma 2 (2B parameter): Model ringan dengan kemampuan multimodal, membantu Anda menangani teks dan gambar.

Menggunakan SLM tidak pernah semudah ini

Dengan lebih banyak model SLM yang diluncurkan, Anda bahkan tidak perlu membuat model apa pun dari awal. Cukup pilih model yang ada yang sesuai dengan kasus penggunaan Anda, bangun basis pengetahuan informasi untuknya, dan Anda siap untuk memulai.  

\n