OpenAI mengatakan bahawa mereka tidak berpuas hati dengan perkakasan inferens Nvidia, kini sedang mempertimbangkan AMD, Cerebras, dan Groq.

OpenAI kini tidak lagi berpuas hati dengan cip AI daripada Nvidia, terutama dari segi keupayaan mereka untuk memberikan jawapan kepada pengguna dengan pantas. Syarikat itu mula mencari alternatif lain pada tahun lalu, dan kini sedang berbincang dengan AMD, Cerebras, malah pernah berunding dengan Groq sebelum syarikat tersebut ditutup.

Tegangan ini mula menjadi nyata apabila OpenAI menyedari bahawa cip-cip Nvidia tidak cukup laju untuk menangani tugas-tugas tertentu seperti menulis kod dan mengendalikan proses antara perisian.

Satu sumber dalaman didakwa berkata bahawa OpenAI mahukan cip baharu yang mampu menangani sekurang-kurangnya 10% daripada keperluan inferensnya pada masa hadapan. Inferens merujuk kepada bahagian di mana AI memberikan respons kepada pengguna, bukan bahagian di mana AI belajar dan memproses maklumat baru.

OpenAI inginkan cip lebih pantas untuk penulisan kod dan respons kepada pengguna

Kebanyakan kerja OpenAI masih bergantung pada Nvidia, namun di sebalik tabir, syarikat itu sedang menguji cip-cip yang boleh meningkatkan kelajuan operasi secara keseluruhan.

Penggunaan cip yang dilengkapi SRAM turut menjadi fokus utama, kerana SRAM membantu mempercepatkan pemprosesan dengan meletakkan memori tepat di sebelah pemproses. Sebaliknya, Nvidia dan AMD masih menggunakan memori yang diletakkan di luar cip, yang menyebabkan kelajuan pemprosesan menjadi lebih perlahan.

Para pegawai di dalam OpenAI mengenal pasti Codex, alat yang digunakan untuk menulis kod, sebagai salah satu aplikasi yang paling terjejas akibat kelajuan yang lambat. Malah, sesetengah kakitangan turut menyalahkan prestasi lemah cip Nvidia sebagai punca masalah tersebut. Dalam satu panggilan media pada 30 Januari, Ketua Pegawai Eksekutif OpenAI, Sam Altman, menyatakan, “Pelanggan yang menggunakan model penulisan kod kami akan menitikberatkan kepentingan kelajuan dalam kerja penulisan kod.”

Sam menambah bahawa pengguna ChatGPT biasa tidak begitu mengambil kira faktor kelajuan, tetapi bagi para pembangun dan syarikat, setiap saat amat penting. Beliau juga menyatakan bahawa OpenAI baru sahaja menandatangani perjanjian dengan Cerebras untuk membantu mempercepatkan operasi.

Sementara itu, syarikat-syarikat seperti Anthropic dan Google semakin menunjukkan prestasi yang lebih baik dengan menggunakan cip mereka sendiri. TPUs milik Google direka bentuk khas untuk tugas-tugas yang memerlukan fungsi inferens. Hasilnya, TPUs Google lebih pantas dalam memberikan respons, terutama bagi model-model seperti Claude dan Gemini.

Perbincangan OpenAI–Groq terhenti selepas perjanjian lesen Nvidia

OpenAI turut berbincang dengan Groq, sebuah lagi syarikat pemula yang sedang membangunkan cip berkelajuan tinggi, namun rundingan tersebut tidak berjaya melangkaui peringkat awal. Nvidia kemudian mengambil langkah mendapatkan lesen bernilai $20 bilion daripada Groq. Langkah ini membolehkan Nvidia mengakses reka bentuk cip Groq dan pada masa yang sama membatalkan rancangan OpenAI untuk bekerjasama dengan syarikat tersebut.

Sumber rapat dengan situasi tersebut menyatakan bahawa cip-cip Groq direka bentuk khusus untuk memenuhi keperluan OpenAI. Namun, apabila Nvidia mengunci perjanjian tersebut, pintu peluang untuk bekerjasama dengan Groq pun tertutup. Walaupun lesen tersebut bukan eksklusif, Groq kini lebih memberi tumpuan kepada perisian berteraskan awan, manakala Nvidia turut mengambil beberapa pakar reka bentuk cip Groq untuk dirinya sendiri.

Sementara itu, Cerebras pula menolak cadangan Nvidia untuk membeli syarikat mereka. Sebaliknya, Cerebras terus melangkah maju dan menandatangani perjanjian langsung dengan OpenAI. Groq juga pernah menerima tawaran pelaburan yang menilai nilai syarikatnya pada sekitar $14 bilion, namun nilai tersebut kini berubah selepas Groq dikaitkan dengan Nvidia.

OpenAI tidak sepenuhnya berpaling tadah daripada Nvidia. Dalam satu kenyataan rasmi, seorang jurucakap menyatakan, “Kami bergantung pada Nvidia untuk menyokong sebahagian besar armada infrastruktur inferens kami,” sambil menyanjung prestasi Nvidia yang memberikan nilai terbaik dalam pasaran bagi setiap dolar yang dibelanjakan. Nvidia pula menyatakan, “Pelanggan terus memilih Nvidia untuk operasi inferens kerana kami menawarkan prestasi terbaik serta kos kepemilikan yang paling kompetitif pada skala besar.”

Perjanjian pelaburan $100 bilion dengan Nvidia masih tergantung

Tahun lalu, Nvidia mengumumkan bahawa mereka merancang untuk melabur sehingga $100 bilion dalam OpenAI. Dana tersebut bertujuan membantu OpenAI memperoleh cip yang lebih canggih, dan sebagai balasan, Nvidia akan memperoleh pegangan saham dalam syarikat tersebut. Menurut Reuters, perjanjian tersebut sepatutnya disempurnakan dalam beberapa minggu sahaja. Namun, sehingga kini, perjanjian tersebut masih belum berjaya.

Sementara perjanjian tersebut terbengkalai, OpenAI terus melangkah maju dan menandatangani perjanjian dengan AMD serta syarikat-syarikat lain untuk menguji cip-cip yang mampu bersaing secara langsung dengan cip Nvidia. Namun, apabila OpenAI mengubah rancangan produknya, keperluan jenis perkakasan yang diperlukan turut berubah. Hal ini menyebabkan rundingan semakin perlahan, menurut seseorang yang akrab dengan situasi tersebut.

Pada hari Sabtu, Ketua Pegawai Eksekutif Nvidia, Jensen Huang, telah diajukan soalan mengenai ketegangan tersebut. Beliau menyatakan, “Itu semua hanya spekulasi,” sambil menegaskan bahawa Nvidia masih merancang untuk melabur besar-besaran dalam OpenAI. Namun, di sebalik tabir, jelas kedua-dua pihak sedang mengkaji pelbagai pilihan yang ada.

Sementara itu, Nvidia turut giat mencari idea-idea baharu dalam bidang cip. Syarikat itu telah menghubungi Cerebras dan Groq untuk mengetahui sama ada kedua-dua syarikat tersebut berminat untuk dijual. Cerebras menolak tawaran tersebut dan terus mengukuhkan kerjasama dengan OpenAI.

Pada masa ini, OpenAI menggunakan GPT-4o untuk menyokong kebanyakan perkhidmatannya. Namun, jika melihat trend semasa, sekurang-kurangnya sebahagian daripada kerja tersebut akan diproses menggunakan cip daripada AMD atau Cerebras dalam masa terdekat. Walaupun OpenAI tidak bercadang untuk sepenuhnya meninggalkan Nvidia, jelas bahawa syarikat tersebut ingin mengambil kendali lebih besar ke atas kelajuan sistemnya.

Perkukuh strategi anda dengan bimbingan + idea harian – akses percuma selama 30 hari ke program perdagangan kami