संक्षेप में
- अमेरिकी अधिकारियों ने प्रमुख बैंकों को Anthropic के Mythos AI मॉडल से जुड़े साइबर सुरक्षा जोखिमों के बारे में चेतावनी दी, Bloomberg की रिपोर्ट के अनुसार।
- सिस्टम कथित तौर पर ऑपरेटिंग सिस्टम और ब्राउज़र में कमजोरियों की पहचान और उनका दुरुपयोग कर सकता है।
- Anthropic ने संभावित सुरक्षा जोखिमों का मूल्यांकन करते हुए मॉडल तक सीमित पहुंच रखी है।
अमेरिकी ट्रेजरी सचिव Scott Bessent और फेडरल रिजर्व अध्यक्ष Jerome Powell ने कथित तौर पर इस सप्ताह की शुरुआत में Wall Street बैंक के CEOs के साथ Anthropic के नए आर्टिफिशियल इंटेलिजेंस मॉडल से जुड़े साइबर सुरक्षा जोखिमों के बारे में चेतावनी देने के लिए एक बैठक बुलाई।
Bloomberg की एक रिपोर्ट के अनुसार, बैठक में Citigroup, Bank of America, Wells Fargo, Morgan Stanley और Goldman Sachs के अधिकारी शामिल थे। अधिकारियों ने Anthropic के नए AI मॉडल Mythos पर चर्चा की, जिसने हाल ही में अपनी उन्नत साइबर सुरक्षा क्षमताओं के कारण व्यापक चिंता पैदा की है।
अधिकारियों ने बैठक बुलाई ताकि यह सुनिश्चित किया जा सके कि बैंक उन सिस्टमों द्वारा उत्पन्न जोखिमों को समझें जो ऑपरेटिंग सिस्टम और वेब ब्राउज़र में सॉफ्टवेयर कमजोरियों की पहचान और दुरुपयोग करने में सक्षम हैं, और संस्थानों को वित्तीय बुनियादी ढांचे को लक्षित करने वाले संभावित AI-सहायता प्राप्त साइबर हमलों के खिलाफ सुरक्षा मजबूत करने के लिए प्रोत्साहित किया जा सके।
सुरक्षा शोधकर्ताओं ने चेतावनी दी है कि स्वचालित रूप से कमजोरियों की खोज करने में सक्षम उपकरण रक्षात्मक सुरक्षा कार्य और दुर्भावनापूर्ण हैकिंग दोनों को तेज कर सकते हैं यदि उनका दुरुपयोग किया जाए।
Anthropic का Mythos मॉडल पहली बार मार्च में ऑनलाइन सामने आया जब सिस्टम के बारे में मसौदा सामग्री ऑनलाइन लीक हो गई, जिससे कंपनी ने जिसे अब तक का सबसे सक्षम AI मॉडल बताया। परीक्षण में, सिस्टम ने कथित तौर पर हजारों पहले से अज्ञात सॉफ्टवेयर कमजोरियां पाईं, जिनमें प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में zero-day खामियां शामिल थीं।
Anthropic के शोधकर्ताओं ने इस सप्ताह की शुरुआत में एक रिपोर्ट में कहा कि Mythos Preview की कमजोरी-खोज क्षमताओं को जानबूझकर प्रशिक्षित नहीं किया गया था, बल्कि ये मॉडल की कोडिंग, तर्क और स्वायत्तता में व्यापक सुधारों से उभरीं।
"वही सुधार जो मॉडल को कमजोरियों को पैच करने में काफी अधिक प्रभावी बनाते हैं, उन्हें उनका दुरुपयोग करने में भी काफी अधिक प्रभावी बनाते हैं," फर्म ने लिखा।
इन क्षमताओं के कारण, Anthropic ने साइबर सुरक्षा संगठनों के एक छोटे समूह तक पहुंच प्रतिबंधित कर दी है।
"इसकी क्षमताओं की ताकत को देखते हुए, हम इसे जारी करने के बारे में विचारशील हैं," Anthropic ने एक बयान में कहा। "जैसा कि उद्योग में मानक प्रथा है, हम मॉडल का परीक्षण करने के लिए शीघ्र पहुंच वाले ग्राहकों के एक छोटे समूह के साथ काम कर रहे हैं। हम इस मॉडल को एक बड़ा बदलाव और अब तक का सबसे सक्षम मॉडल मानते हैं जो हमने बनाया है।"
उस जोखिम का समाधान करने के लिए, Anthropic Project Glasswing के माध्यम से Mythos का परीक्षण कर रहा है, जो प्रमुख प्रौद्योगिकी और साइबर सुरक्षा कंपनियों के साथ एक सहयोग है जो हमलावरों द्वारा उनका दुरुपयोग करने से पहले महत्वपूर्ण सॉफ्टवेयर में कमजोरियों की पहचान और पैच करने के लिए मॉडल का उपयोग करता है।
"Project Glasswing एक शुरुआती बिंदु है। कोई भी एक संगठन अकेले इन साइबर सुरक्षा समस्याओं को हल नहीं कर सकता," कंपनी ने एक बयान में कहा। "फ्रंटियर AI डेवलपर्स, अन्य सॉफ्टवेयर कंपनियां, सुरक्षा शोधकर्ता, ओपन-सोर्स रखरखावकर्ता और दुनिया भर की सरकारों, सभी की आवश्यक भूमिकाएं हैं।"
Anthropic ने Decrypt's की टिप्पणी के अनुरोध पर तुरंत प्रतिक्रिया नहीं दी।
Daily Debrief Newsletter
हर दिन की शुरुआत अभी की शीर्ष समाचारों के साथ करें, साथ ही मूल सुविधाएं, एक पॉडकास्ट, वीडियो और बहुत कुछ।
स्रोत: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
