สรุปสั้นๆ
- เจ้าหน้าที่สหรัฐฯ เตือนธนาคารรายใหญ่เกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เกี่ยวข้องกับโมเดล AI Mythos ของ Anthropic รายงานโดย Bloomberg
- ระบบดังกล่าวสามารถระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเบราว์เซอร์ได้
- Anthropic ได้จำกัดการเข้าถึงโมเดลในขณะที่กำลังประเมินความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ Scott Bessent และประธานธนาคารกลางสหรัฐฯ Jerome Powell ได้จัดประชุมกับซีอีโอของธนาคารในวอลล์สตรีทเมื่อต้นสัปดาห์นี้ เพื่อเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เกี่ยวข้องกับโมเดลปัญญาประดิษฐ์ใหม่จาก Anthropic
ตามรายงานของ Bloomberg การประชุมมีผู้บริหารจาก Citigroup, Bank of America, Wells Fargo, Morgan Stanley และ Goldman Sachs เข้าร่วม เจ้าหน้าที่ได้หารือเกี่ยวกับโมเดล AI ใหม่ Mythos ของ Anthropic ซึ่งเพิ่งสร้างความกังวลอย่างกว้างขวางเกี่ยวกับความสามารถด้านความปลอดภัยทางไซเบอร์ขั้นสูง
เจ้าหน้าที่จัดประชุมเพื่อให้แน่ใจว่าธนาคารเข้าใจความเสี่ยงที่เกิดจากระบบที่สามารถระบุและใช้ประโยชน์จากช่องโหว่ของซอフต์แวร์ในระบบปฏิบัติการและเว็บเบราว์เซอร์ และเพื่อสนับสนุนให้สถาบันเสริมสร้างการป้องกันต่อการโจมตีทางไซเบอร์ที่ได้รับความช่วยเหลือจาก AI ที่มุ่งเป้าไปยังโครงสร้างพื้นฐานทางการเงิน
นักวิจัยด้านความปลอดภัยได้เตือนว่าเครื่องมือที่สามารถค้นพบช่องโหว่โดยอัตโนมัติอาจเร่งทั้งงานด้านความปลอดภัยเชิงรับและการแฮ็กที่เป็นอันตรายหากถูกนำไปใช้ในทางที่ผิด
โมเดล Mythos ของ Anthropic ปรากฏตัวครั้งแรกบนออนไลน์ในเดือนมีนาคม หลังจากเอกสารร่างเกี่ยวกับระบบรั่วไหลออนไลน์ เปิดเผยสิ่งที่บริษัทอธิบายว่าเป็นโมเดล AI ที่มีความสามารถสูงสุดจนถึงขณะนี้ ในการทดสอบ ระบบดังกล่าวพบช่องโหว่ของซอฟต์แวร์ที่ไม่เคยรู้จักมาก่อนหลายพันรายการ รวมถึงช่องโหว่แบบ zero-day ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักๆ
นักวิจัยของ Anthropic กล่าวในรายงานเมื่อต้นสัปดาห์นี้ว่าความสามารถในการค้นพบช่องโหว่ของ Mythos Preview ไม่ได้รับการฝึกอบรมโดยตั้งใจ แต่เกิดขึ้นจากการปรับปรุงที่กว้างขึ้นในการเขียนโค้ด การใช้เหตุผล และความเป็นอิสระของโมเดล
"การปรับปรุงเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการแก้ไขช่องโหว่ ก็ทำให้มีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่เหล่านั้นด้วย" บริษัทเขียนไว้
เนื่องจากความสามารถเหล่านั้น Anthropic จึงจำกัดการเข้าถึงให้กับกลุ่มเล็กๆ ขององค์กรด้านความปลอดภัยทางไซเบอร์
"เนื่องจากความแข็งแกร่งของความสามารถ เราจึงต้องใช้ความรอบคอบในการปล่อยมัน" Anthropic กล่าวในแถลงการณ์ "ตามแนวปฏิบัติมาตรฐานในอุตสาหกรรม เรากำลังทำงานกับกลุ่มลูกค้าที่เข้าถึงก่อนกลุ่มเล็กๆ เพื่อทดสอบโมเดล เราพิจารณาว่าโมเดลนี้เป็นการเปลี่ยนแปลงครั้งสำคัญและมีความสามารถสูงสุดที่เราได้สร้างมาจนถึงปัจจุบัน"
เพื่อจัดการกับความเสี่ยงนั้น Anthropic กำลังทดสอบ Mythos ผ่าน Project Glasswing ซึ่งเป็นความร่วมมือกับบริษัทเทคโนโลยีและความปลอดภัยทางไซเบอร์รายใหญ่ที่ใช้โมเดลเพื่อระบุและแก้ไขช่องโหว่ในซอฟต์แวร์สำคัญก่อนที่ผู้โจมตีจะสามารถใช้ประโยชน์จากมันได้
"Project Glasswing เป็นจุดเริ่มต้น ไม่มีองค์กรใดที่สามารถแก้ไขปัญหาความปลอดภัยทางไซเบอร์เหล่านี้ได้ตามลำพัง" บริษัทกล่าวในแถลงการณ์ "นักพัฒนา AI ระดับแนวหน้า บริษัทซอฟต์แวร์อื่นๆ นักวิจัยด้านความปลอดภัย ผู้ดูแลโอเพนซอร์ส และรัฐบาลทั่วโลกต่างมีบทบาทสำคัญที่ต้องแสดง"
Anthropic ไม่ได้ตอบกลับคำขอแสดงความคิดเห็นของ Decrypt ทันที
จดหมายข่าว Daily Debrief
เริ่มต้นทุกวันด้วยข่าวสารยอดนิยมในขณะนี้ พร้อมด้วยเนื้อหาต้นฉบับ พอดแคสต์ วิดีโอ และอื่นๆ อีกมากมาย
แหล่งที่มา: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
