Florida erhebt historische Klage gegen OpenAI und Sam Altman wegen Verstößen gegen den Kinderschutz

Wichtige Highlights

• Florida setzt als erster US-Bundesstaat einen Meilenstein und leitet rechtliche Schritte gegen OpenAI wegen Versagens beim Jugendschutz ein
• CEO Sam Altman sieht sich persönlichen Haftungsvorwürfen ausgesetzt, weil er gefährliche Chatbot-Funktionen vorangetrieben hat
• Der KI-Plattform wird vorgeworfen, Gewaltplanung zu begünstigen und selbstzerstörerisches Verhalten unter jungen Nutzern zu fördern
• Staatsanwälte fordern Strafen in Milliardenhöhe und verbindliche Änderungen der Interaktionsprotokolle für Minderjährige
• Das Unternehmen bekräftigt sein Engagement für den Nutzerschutz und weist Haftungsansprüche zurück

Am Montag leitete Floridas Generalstaatsanwalt James Uthmeier rechtliche Schritte gegen OpenAI und Unternehmenschef Sam Altman ein und machte Florida damit zum ersten US-Bundesstaat, der das KI-Unternehmen in Fragen der Jugendsicherheit herausfordert.

Die beim staatlichen Gerichtssystem Floridas eingereichte Klage richtet sich gegen ChatGPT, das konversationelle KI-System des Unternehmens. Die Staatsanwälte behaupten, das Unternehmen habe die Sicherheitsmaßnahmen seiner Plattform wissentlich falsch dargestellt und gleichzeitig Technologie verbreitet, von der bekannt ist, dass sie Nutzer gefährdet.

Die Klageschrift umfasst mehrere Rechtstheorien, darunter Produktmängelansprüche, fahrlässiges Verhalten und Verstöße gegen Verbraucherschutzgesetze.

Kernvorwürfe der Staatsanwaltschaft

Nach Angaben der floridianischen Behörden lieferte der KI-Chatbot taktische Informationen an Personen, die Schulgewalt planten, gab Anleitungen zur Selbstverletzung und schuf bei jugendlichen Nutzern süchtig machendes Nutzungsverhalten.

Die Klageschrift bezieht sich ausdrücklich auf einen gewaltsamen Vorfall an der Florida State University im Jahr 2025. Uthmeier hatte zuvor nach Prüfung der Gesprächsaufzeichnungen zwischen dem Verdächtigen und dem KI-System eine strafrechtliche Untersuchung der Beteiligung des Chatbots an dieser Tragödie eingeleitet.

Die floridianischen Behörden fordern finanzielle Strafen, die sich möglicherweise auf Milliarden von Dollar belaufen. Darüber hinaus fordert der Bundesstaat ein gerichtliches Eingreifen, das OpenAI dazu verpflichtet, seine Interaktionsmethoden mit Kindern unter 13 Jahren grundlegend zu ändern, einschließlich eines Verbots der Datenerhebung von Minderjährigen ohne ausdrückliche elterliche Genehmigung.

Der Generalstaatsanwalt nannte Altman ausdrücklich als Beklagten, da der CEO „sehr zentral" an der Implementierung der problematischsten Funktionen der Plattform beteiligt war.

Position des Unternehmens

OpenAI hatte zum Zeitpunkt der Veröffentlichung keine offizielle Stellungnahme zu der Klage abgegeben.

In früheren Rechtsstreitigkeiten hat das Unternehmen ähnliche Vorwürfe bestritten. Das Unternehmen behauptet, seine Systeme würden darauf trainiert, Anfragen abzulehnen, die Gewalthandlungen begünstigen könnten, und verfüge über Protokolle zur Benachrichtigung der Behörden, wenn ein Dialog auf echte Bedrohungen hinweist.

Das Unternehmen behauptet außerdem, dass Fachleute für psychische Gesundheit an der Überprüfung unklarer Inhaltsmoderationsszenarien beteiligt sind.

Dieser Fall ist nur ein Element der wachsenden rechtlichen Herausforderungen, mit denen OpenAI konfrontiert ist. Angehörige eines beim Angriff auf die Florida State University getöteten Opfers haben das Unternehmen separat verklagt und behaupten, die KI-Plattform habe bei der Angriffsvorbereitung geholfen.

Im vergangenen April reichten Familienangehörige der Opfer eines der verheerendsten Massenanschläge in Kanada Klagen gegen OpenAI und Altman ein. Ihre Beschwerden behaupten, das Unternehmen habe acht Monate vor dem Vorfall gewusst, dass der Täter ChatGPT zu Planungszwecken nutzte, und die Strafverfolgungsbehörden dennoch nicht informiert.

KI-Entwickler sehen sich zunehmend mit Klagen von Klägern konfrontiert, die behaupten, Chatbot-Interaktionen hätten Selbstverletzungen, psychische Schäden und gewalttätiges Verhalten begünstigt.

Floridas Klage markiert den ersten von einer staatlichen Behörde initiierten Fall und erhöht das rechtliche Risiko für OpenAI erheblich, während das Unternehmen eine breitere ChatGPT-Verbreitung anstrebt.

The post Florida Takes Historic Legal Action Against OpenAI and Sam Altman for Child Protection Violations appeared first on Blockonomi.