Sullivan & Cromwell Meminta Maaf kepada Pengadilan Setelah AI Menghasilkan Kutipan Hukum Palsu

TLDR

• Firma hukum bergengsi mengajukan dokumen pengadilan dengan kutipan yang dibuat-buat oleh AI

• Sullivan & Cromwell mengakui kegagalan verifikasi dalam kasus kebangkrutan

• Ketidakakuratan yang dihasilkan AI membahayakan pengajuan ke pengadilan federal

• Kuasa hukum lawan menemukan yurisprudensi palsu dalam berkas hukum

• Insiden ini menegaskan perlunya peningkatan protokol validasi AI yang lebih ketat

Profesi hukum kembali mendapat sorotan mengenai keandalan kecerdasan buatan menyusul kesalahan signifikan yang dilakukan oleh sebuah firma hukum elite Amerika. Sullivan & Cromwell secara terbuka mengakui telah mengajukan dokumen pengadilan yang penuh dengan kutipan kasus palsu buatan AI dan referensi hukum yang tidak akurat. Insiden ini mendorong firma tersebut untuk melakukan investigasi internal menyeluruh terhadap sistem pengamanan kecerdasan buatannya.

Kutipan Palsu Membahayakan Pengajuan ke Pengadilan Federal

Firma hukum bergengsi ini menemukan cacat substansial dalam dokumen kebangkrutan Bab 15 yang berkaitan dengan litigasi Prince Group. Sistem kecerdasan buatan menghasilkan referensi kasus fiktif dan menganalisis ketentuan dalam undang-undang kebangkrutan Amerika Serikat secara keliru. Fabrikasi ini dimasukkan ke dalam materi yang diserahkan kepada pengadilan kebangkrutan federal New York.

Andrew Dietderich, yang mengawasi divisi restrukturisasi firma tersebut, secara pribadi mengambil tanggung jawab atas kekurangan dokumen itu. Ia membenarkan bahwa meskipun firma memiliki panduan penggunaan AI yang sudah ditetapkan, protokol-protokol tersebut tidak dipatuhi selama pembuatan dokumen tertentu ini. Organisasi tersebut sejak itu telah menerapkan langkah-langkah perbaikan untuk menghindari terulangnya kesalahan yang didorong AI dalam pengajuan hukum berikutnya.

Boies Schiller Flexner, yang bertindak atas nama pihak lawan, mengidentifikasi ketidaksesuaian dan membawanya ke perhatian pengadilan. Pemeriksaan mereka mengungkap bahwa kasus-kasus tertentu yang direferensikan sama sekali tidak ada atau mengutip pendapat pengadilan yang sama sekali tidak berkaitan. Akibatnya, firma tersebut mengajukan versi yang telah diubah dengan anotasi yang dengan jelas mengidentifikasi kesalahan yang dihasilkan AI.

Kegagalan Verifikasi Menyoroti Tantangan Sistemik AI

Episode ini menunjukkan kesulitan yang meluas yang dihadapi firma hukum yang mengintegrasikan kecerdasan buatan untuk meningkatkan produktivitas dan mengelola beban kasus. Banyak praktik hukum menggunakan sistem AI untuk riset hukum dan pembuatan dokumen, namun protokol verifikasi yang tidak memadai terus menciptakan kerentanan. Para profesional hukum harus menavigasi ketegangan antara efisiensi operasional dan presisi ketika mengintegrasikan AI ke dalam alur kerja praktik mereka.

Sullivan & Cromwell menyatakan bahwa pihaknya memberlakukan kebijakan pemanfaatan AI yang ketat, termasuk tinjauan manusia wajib atas semua materi yang dihasilkan AI. Firma tersebut mengakui bahwa mekanisme kontrol kualitas gagal dalam perkara ini, sehingga konten yang cacat lolos tanpa pemeriksaan. Insiden ini telah memperbesar pengawasan terhadap kerangka tata kelola kecerdasan buatan dalam konteks hukum yang kritis.

Data industri mengungkapkan frekuensi halusinasi AI yang terus meningkat dalam berkas pengadilan, terutama yang melibatkan preseden hukum yang diciptakan. Penelitian mendokumentasikan lebih dari 1.300 kejadian semacam itu di seluruh dunia, dengan mayoritas terkonsentrasi di pengadilan Amerika. Pola yang muncul ini menegaskan keharusan mekanisme autentikasi yang lebih ketat saat menggunakan AI dalam proses dokumentasi hukum.

Implikasi Melampaui Insiden Terisolasi

Litigasi Prince Group berpusat pada tuduhan skema penipuan ekstensif, yang mencakup praktik kerja paksa dan pelanggaran keuangan. Jaksa Amerika Serikat telah memulai proses pidana dan upaya penyitaan properti yang terkait dengan operasi organisasi tersebut. Akibatnya, ketelitian dalam dokumen hukum menjadi sangat penting dalam perkara yang melibatkan tuduhan transnasional yang rumit.

Sullivan & Cromwell sebelumnya telah mewakili klien dalam perkara-perkara terkemuka, termasuk proses kepailitan bursa FTX. Firma ini mengenakan tarif premium dan menangani kasus reorganisasi yang kompleks yang mencakup berbagai yurisdiksi hukum. Kegagalan terkait AI ini telah menimbulkan pertanyaan mengenai kontrol kualitas di perusahaan hukum besar.

Firma tersebut melanjutkan penyelidikan internalnya sambil meninjau kembali program pendidikan dan kerangka kepatuhan yang mengatur penerapan kecerdasan buatan. Tujuannya mencakup memperkuat langkah-langkah perlindungan dan meningkatkan tanggung jawab di seluruh alur kerja pembuatan dokumen. Dengan semakin cepatnya integrasi kecerdasan buatan, industri hukum menghadapi ekspektasi yang semakin besar untuk menjamin keandalan dan menghilangkan kesalahan yang mahal.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.