In het kort
- Amerikaanse functionarissen waarschuwden grote banken voor cyberbeveiligingsrisico's verbonden aan Anthropic's Mythos AI-model, meldt Bloomberg.
- Het systeem kan naar verluidt kwetsbaarheden in besturingssystemen en browsers identificeren en exploiteren.
- Anthropic heeft de toegang tot het model beperkt terwijl het potentiële beveiligingsrisico's evalueert.
De Amerikaanse minister van Financiën Scott Bessent en Federal Reserve-voorzitter Jerome Powell hebben naar verluidt eerder deze week een vergadering belegd met CEO's van Wall Street-banken om te waarschuwen voor cyberbeveiligingsrisico's verbonden aan een nieuw kunstmatige intelligentiemodel van Anthropic.
Volgens een rapport van Bloomberg waren bij de vergadering leidinggevenden van Citigroup, Bank of America, Wells Fargo, Morgan Stanley en Goldman Sachs aanwezig. Functionarissen bespraken Anthropic's nieuwe AI-model Mythos, dat recentelijk brede bezorgdheid heeft gewekt vanwege zijn kennelijke geavanceerde cyberbeveiligingsmogelijkheden.
Functionarissen belegden de vergadering om ervoor te zorgen dat banken de risico's begrijpen die worden veroorzaakt door systemen die in staat zijn softwarekwetsbaarheden in besturingssystemen en webbrowsers te identificeren en te exploiteren, en om instellingen aan te moedigen hun verdediging te versterken tegen potentiële AI-ondersteunde cyberaanvallen gericht op financiële infrastructuur.
Beveiligingsonderzoekers hebben gewaarschuwd dat tools die in staat zijn automatisch kwetsbaarheden te ontdekken zowel defensief beveiligingswerk als kwaadaardig hacken kunnen versnellen bij misbruik.
Anthropic's Mythos-model dook voor het eerst online op in maart nadat conceptmateriaal over het systeem online uitlekte, waarbij werd onthuld wat het bedrijf omschreef als zijn meest capabele AI-model tot nu toe. Bij tests vond het systeem naar verluidt duizenden voorheen onbekende softwarekwetsbaarheden, waaronder zero-day-fouten in grote besturingssystemen en webbrowsers.
Anthropic-onderzoekers zeiden eerder deze week in een rapport dat de mogelijkheden van Mythos Preview om kwetsbaarheden te ontdekken niet opzettelijk waren aangeleerd, maar in plaats daarvan voortkwamen uit bredere verbeteringen in de codering, redenering en autonomie van het model.
"Dezelfde verbeteringen die het model aanzienlijk effectiever maken in het patchen van kwetsbaarheden, maken het ook aanzienlijk effectiever in het exploiteren ervan," schreef het bedrijf.
Vanwege deze mogelijkheden heeft Anthropic de toegang beperkt tot een kleine groep cyberbeveiligingsorganisaties.
"Gezien de kracht van zijn mogelijkheden, zijn we weloverwogen over hoe we het uitbrengen," zei Anthropic in een verklaring. "Zoals standaardpraktijk in de industrie is, werken we met een kleine groep early access-klanten om het model te testen. We beschouwen dit model als een stapsgewijze verandering en het meest capabele dat we tot nu toe hebben gebouwd."
Om dat risico aan te pakken, test Anthropic Mythos via Project Glasswing, een samenwerking met grote technologie- en cyberbeveiligingsbedrijven die het model gebruikt om kwetsbaarheden in kritieke software te identificeren en te patchen voordat aanvallers ze kunnen exploiteren.
"Project Glasswing is een startpunt. Geen enkele organisatie kan deze cyberbeveiligingsproblemen alleen oplossen," zei het bedrijf in een verklaring. "Frontier AI-ontwikkelaars, andere softwarebedrijven, beveiligingsonderzoekers, open-source maintainers en regeringen over de hele wereld hebben allemaal essentiële rollen te spelen."
Anthropic reageerde niet onmiddellijk op het verzoek om commentaar van Decrypt.
Daily Debrief Nieuwsbrief
Begin elke dag met de belangrijkste nieuwsberichten van nu, plus originele functies, een podcast, video's en meer.
Bron: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
