EU sucht Gespräche mit den USA über KI-Sicherheit, während Anthropic den Mythos-Rollout plant

TLDR

• Die EU möchte tiefergehende Gespräche mit US-Beamten über fortschrittliche KI-Modelle mit Cyber-Fähigkeiten.
• Anthropic hat dem EU-KI-Büro keinen Vorschau-Zugang zu seinem Mythos-Modell gewährt.
• US-Beamte wägen Modellzugang, Innovation, Cyber-Sicherheit und den Wettbewerb mit China ab.
• Anthropic sagt, Mythos-Klasse-Modelle benötigen starke Cyber-Schutzmaßnahmen vor einer breiteren Veröffentlichung.
• Anthropic erwartet, Mythos-Klasse-Modelle in den kommenden Wochen für Kunden bereitzustellen.

Die Europäische Union plant, die Gespräche mit der US-Regierung über fortschrittliche KI-Modelle mit Cyber-Fähigkeiten auszuweiten. Die Diskussionen konzentrieren sich auf Zugang, Sicherheitsüberprüfungen und Regeln für leistungsstarke Systeme wie Anthropics Mythos-Modell. Die Gespräche finden statt, während Anthropic sich darauf vorbereitet, Mythos-Klasse-Modelle in den kommenden Wochen für Kunden bereitzustellen.

EU drängt auf Zugang zu erweiterten KI-Prüfungen

Laut CNBC erklärte ein Beamter der Europäischen Kommission, dass der Block stärkere Diskussionen mit US-Beamten über frontier-KI-Modelle anstrebt. Die Gespräche betreffen Systeme, die komplexe Cyber-Aufgaben und Sicherheitstests unterstützen können. Die EU hat keinen Vorschau-Zugang zu Anthropics Mythos-Modell erhalten. Ihr KI-Büro hat das Modell auch nicht im Rahmen des aktuellen Zugangsverfahrens geprüft.

Anthropic gewährte ausgewählten Unternehmen und Organisationen über Project Glasswing frühzeitig Vorschau-Zugang. Der Regierungszugang außerhalb der USA bleibt jedoch begrenzt, mit Ausnahme des britischen AI Security Institute. Eine mit den Gesprächen vertraute Person sagte, Anthropic habe EU-Beamten geraten, die Genehmigung der USA einzuholen. Die Person sagte, das Weiße Haus habe keinen Einwand gegen die EU allein.

Dieselbe Person sagte, US-Beamte hätten weitergehende Bedenken hinsichtlich der Weitergabe von Mythos an Nicht-US-Regierungen. Die Gespräche ordnen den Modellzugang nun in eine breitere transatlantische KI-Sicherheitsdiskussion ein.

USA wägen Innovations- und Sicherheitsbedenken ab

Das Weiße Haus hat mit KI-Laboren an der Bereitstellung fortschrittlicher Modelle gearbeitet. US-Beamte wollen die Führungsposition des Landes wahren und gleichzeitig Sicherheitsrisiken managen. Finanzminister Scott Bessent sagte, die Regierung arbeite „sehr eng" mit KI-Laboren zusammen. Er sagte auch, die Beamten wollten Innovation und Sicherheit in Einklang bringen.

Die Regierung sprach sich laut früheren Berichten gegen eine breitere Ausweitung des Mythos-Zugangs aus. Anthropic hatte vorgeschlagen, etwa 70 weiteren Unternehmen und Organisationen Zugang zum Modell zu gewähren.

Mythos erregte Aufmerksamkeit, nachdem Anthropic es im April ankündigte. Das Modell gab Anlass zur Besorgnis aufgrund seiner gemeldeten Fähigkeit, Software-Schwachstellen in großem Maßstab zu identifizieren. Anthropic-CEO Dario Amodei warnte diesen Monat vor einem engen Sicherheitsfenster. Er sagte, Organisationen hätten sechs bis zwölf Monate Zeit, viele Schwachstellen zu beheben, bevor die chinesische KI aufholt.

Anthropic plant breiteren Rollout der Mythos-Klasse

Anthropic erklärte am Donnerstag, dass Modelle mit Mythos-Niveau-Fähigkeiten starke Cyber-Schutzmaßnahmen benötigen, bevor sie breit veröffentlicht werden. Das Unternehmen sagte auch, es habe bei diesen Schutzmaßnahmen schnelle Fortschritte erzielt. „Wir machen rasche Fortschritte bei der Entwicklung dieser Schutzmaßnahmen", sagte Anthropic. Das Unternehmen erwartet, Mythos-Klasse-Modelle in den kommenden Wochen allen Kunden bereitzustellen.

Die Europäische Kommission hat auch die technischen Gespräche mit Anthropic und anderen Modellentwicklern ausgeweitet. Diese Gespräche umfassen Unternehmen, die ihre neuesten Modelle beim EU-KI-Büro gemeldet haben. Kommissionssprecher Thomas Regnier sagte, Cybersicherheit bleibe eine gemeinsame Priorität. Er sagte, die EU und die USA hätten sich bereit erklärt, ihre jeweiligen Standards in diesem Bereich anzuerkennen.

Die Diskussionen umfassen nun Modellzugang, Cyber-Schutzmaßnahmen und Prüfverfahren. Sie finden auch statt, während Regierungen untersuchen, wie fortschrittliche KI-Systeme sicherheitssensible Fähigkeiten handhaben. Anthropics nächster Rollout wird testen, wie Labore den Zugang zu leistungsstarken Modellen verwalten. Die EU setzt die technischen Gespräche mit Anthropic fort und strebt gleichzeitig engere Gespräche mit US-Beamten an.

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.