Die britische Regierung verschärft die Vorschriften für den Einsatz von Künstliche-Intelligenz-Chatbots, um Kinder besser vor schädlichen und illegalen Inhalten zu schützen.
Premierminister Keir Starmer hat einen Prozess vorgestellt, um eine rechtliche Lücke zu schließen, die es Chatbot-Anbietern ermöglichte, außerhalb der wichtigsten Online-Sicherheitsgesetze zu operieren. Dies wird Unternehmen, die KI-Chatbots entwickeln und betreiben, dazu zwingen, aktiv gegen illegale Inhalte vorzugehen und sicherzustellen, dass ihre Plattformen für jüngere Nutzer sicher sind.
Die Regierung erklärt nun, dass sie die Durchsetzung des Online Safety Act ändern und festlegen wird, wie Chatbots das Gesetz einhalten müssen. Die Verordnung wurde viel früher im Prozess konzipiert, aber hauptsächlich an die Anforderungen von Social-Media-Plattformen und öffentlichen Foren angepasst, auf denen Menschen ihre Inhalte veröffentlichen konnten. Weder diejenigen, die private KI-Chatbots betreiben, noch diejenigen, die sie nutzen, erhielten die gleiche Abdeckung, und ihre Verantwortlichkeiten bleiben unklar. Starmer versprach, diese Lücke bald zu schließen.
Chatbot-Unternehmen müssen sich an die gleichen rechtlichen Verpflichtungen halten wie andere Online-Unternehmen, warnte er, oder mit Strafen rechnen. Die Regierung sagt, diese Änderung muss sicherstellen, dass Chatbot-Anbieter ihre Systeme aktiv überwachen und illegales Material blockieren. Im Vorfeld seiner Ankündigung sagte Starmer, dass kein Technologieunternehmen vom Gesetz ausgenommen sein würde.
Die Regierung befürchtet auch, dass eine unterschiedliche Behandlung von KI-Chatbots gegenüber Social-Media-Plattformen Kinder anfällig für schädliche oder unangemessene Inhalte machen könnte. Beamte glauben, dass, wenn KI-Chatbots ihr gewünschtes Publikum erreichen sollen, insbesondere Teenager und jugendliche Nutzer, strengere Schutzmaßnahmen erforderlich sind.
Neue Befugnisse zur Bewältigung sich schnell verändernder Technologie
Zusätzlich zum Schließen rechtlicher Lücken wird die Regierung neue Befugnisse schaffen, die schnelleres Handeln ermöglichen, wenn Risiken auftauchen. Anstatt darauf zu warten, dass das Parlament völlig neue Gesetze verabschiedet, werden die Regulierungsbehörden schneller auf Technologie reagieren.
Dies ist eine Möglichkeit sicherzustellen, dass Schutzmaßnahmen mit den schnellen Fortschritten in der künstlichen Intelligenz Schritt halten. KI-Tools verbessern sich schnell und dringen in neue Bereiche vor. Infolgedessen können Risiken plötzlich auftreten, und Regulierungsbehörden benötigen Flexibilität, um darauf zu reagieren.
Starmer wies kürzlich auf die Risiken schädlicher KI-generierter Inhalte hin, wie Fälle, in denen Technologie genutzt wird, um sexualisierte Bilder von Menschen ohne deren Zustimmung zu erstellen.
Er bezeichnete solche Verwendungen als inakzeptabel und sagte, bestehende Gesetze sollten dagegen durchgesetzt werden. Die Regierung sagte, eine bessere Durchsetzung würde Unternehmen zwingen, von Anfang an sicherere Systeme zu entwickeln.
Dazu könnten Schutzmaßnahmen gehören, die in Chatbot-Software integriert sind, um illegale Inhalte zu identifizieren und zu verhindern, bevor Nutzer sie sehen. Technologieunternehmen sollen auch die Verantwortung für das Verhalten ihrer KI-Systeme übernehmen.
Das bedeutet, dass sie Ausgaben überwachen, Sicherheitsfunktionen verbessern müssen, um Systeme sicherer zu machen, und schnell reagieren müssen, wenn Fehler erkannt werden.
Regierung ergreift Maßnahmen zum Schutz von Kindern vor Schaden
Das Vorgehen gegen KI-Chatbots ist Teil der größeren Herausforderung der Kindersicherheit auf praktisch jeder digitalen Plattform. Die Regierung erwägt neue Maßnahmen, die das Risiko weiter reduzieren könnten.
Ein Vorschlag in Arbeit ist eine Anforderung, dass Nutzer ein bestimmtes Alter haben müssen, um auf soziale Medien zuzugreifen. Beamte untersuchen auch, wie die Einschränkung von Funktionen wie unendlichem Scrollen übermäßige Bildschirmzeit fördern kann, sowie wie es für junge Menschen schwierig gemacht wird, sich von schädlichen oder süchtig machenden Inhalten zu lösen.
Diese Änderungen könnten nach öffentlichen Konsultationen zum Wohlergehen von Kindern online kommen. Eltern, Pädagogen und Sicherheitsexperten sind besorgt über die Auswirkungen digitaler Plattformen auf die psychische Gesundheit junger Menschen und das Ausmaß der Exposition gegenüber unangemessenen Inhalten.
Das umfassendere Ziel der Regierung ist es, ein sichereres Online-Umfeld zu schaffen, in dem Kinder von Technologie profitieren können, ohne ernsthaften Schaden ausgesetzt zu sein.
Quelle: https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
