Sullivan & Cromwell 在 AI 生成虛假法律引文後向法院道歉

TLDR

• 知名律師事務所提交含有AI捏造引用的法庭文件

• Sullivan & Cromwell承認在破產案中未能妥善核實

• AI生成的錯誤內容損害聯邦法院提交文件的可信度

• 對方律師在法律文件中發現捏造的案例法

• 此事件凸顯強化AI驗證機制的迫切需求

一家美國頂尖律師事務所犯下重大失誤，使法律行業對人工智能可靠性再度面臨嚴格審視。Sullivan & Cromwell公開承認提交了一份充斥AI捏造案例引用及不實法律參考資料的法庭文件，並已就此事件展開全面內部調查，以檢視其人工智能安全機制。

捏造引用損害聯邦法院提交文件

這家知名律師事務所在一份涉及Prince Group訴訟的第15章破產文件中發現重大缺陷。人工智能系統捏造了虛假的案例引用，並對美國破產法條款作出錯誤分析，這些虛假內容被納入提交至紐約聯邦破產法庭的材料中。

負責監管該事務所重組部門的Andrew Dietderich就文件缺陷承擔個人責任。他確認，儘管事務所設有既定的AI使用規範，但在起草此份文件的過程中並未遵守相關規程。事務所此後已採取補救措施，以防止後續法律文件再度出現AI導致的錯誤。

代表對立方的Boies Schiller Flexner發現了文件中的出入，並將相關問題提請法庭關注。其審查結果揭示，部分引用的案例根本不存在，或所引用的司法意見與內容完全無關。事務所隨後提交了修訂版本，並加入注釋明確標示AI所產生的錯誤。

核實失敗凸顯AI系統性挑戰

此事件揭示了律師事務所在引入人工智能以提升生產力及管理案件負荷時所面臨的普遍困境。眾多法律機構採用AI系統進行法律研究與文件起草，然而不完善的核實機制持續製造漏洞。法律專業人員在將AI融入工作流程時，必須在運營效率與準確性之間取得平衡。

Sullivan & Cromwell表示，事務所執行嚴格的AI使用政策，包括強制要求人工審查所有AI生成材料。事務所承認，在本案中品質管控機制出現失效，導致有問題的內容未經審核即獲通過。此事件進一步加強了業界對關鍵法律情境中人工智能治理框架的審視。

行業數據顯示，AI幻覺出現在司法文件中的頻率持續上升，尤其涉及捏造法律先例的情況。研究記錄全球已有逾1,300宗此類事件，且大多數集中於美國法院。這一新興趨勢凸顯了在法律文件流程中部署AI時，採用更嚴格驗證機制的迫切性。

影響超越單一事件

Prince Group訴訟案的核心是廣泛詐騙計劃的指控，涵蓋強迫勞動行為及財務違規。美國檢察官已就該組織的運營行為提起刑事訴訟，並展開財產沒收行動。因此，在涉及複雜跨國指控的案件中，法律文件的精確性至關重要。

Sullivan & Cromwell此前曾代理多宗重大案件，包括FTX交易所的破產程序。事務所收費高昂，並處理橫跨多個司法管轄區的複雜重組案件。此次AI相關失誤已引發外界對大型法律機構品質管控的質疑。

事務所在持續推進內部調查的同時，亦重新審視有關人工智能部署的培訓計劃及合規框架，目標是強化保護措施並提升文件起草流程中的責任意識。隨著人工智能整合步伐加速，法律行業面臨日益增加的期望，必須確保可靠性並消除代價高昂的錯誤。

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.