De Britse regering zet stappen om de regelgeving voor het gebruik van kunstmatige intelligentie chatbots aan te scherpen om kinderen beter te beschermen tegen schadelijke en illegale inhoud.
Premier Keir Starmer heeft een proces onthuld om een juridische leemte op te vullen waardoor chatbotaanbieders buiten de belangrijkste online veiligheidswetten konden opereren. Het zal bedrijven die AI-chatbots maken en beheren dwingen actief op te treden tegen illegale inhoud en ervoor te zorgen dat hun platforms veilig zijn voor jongere gebruikers.
De regering stelt nu dat zij zal veranderen hoe de Online Safety Act wordt gehandhaafd en zal specificeren hoe chatbots aan de wet moeten voldoen. De regelgeving werd veel eerder in het proces ontworpen, maar was voornamelijk aangepast aan de eisen van sociale mediaplatforms en openbare forums waar mensen hun inhoud konden plaatsen. Noch degenen die privé AI-chatbots beheren, noch degenen die ze gebruiken, kregen gelijke dekking, en hun verantwoordelijkheden blijven onduidelijk. Starmer beloofde deze maas in de wet binnenkort te sluiten.
Chatbotbedrijven moeten zich houden aan dezelfde wettelijke verplichtingen als andere onlinebedrijven, waarschuwde hij, of gestraft worden. De regering zegt dat deze verandering moet garanderen dat chatbotaanbieders hun systemen actief monitoren en illegaal materiaal blokkeren. Voorafgaand aan zijn aankondiging zei Starmer dat geen enkel technologiebedrijf zou worden vrijgesteld van de wet.
De regering vreest ook dat het anders behandelen van AI-chatbots dan sociale mediaplatforms kinderen kwetsbaar kan maken voor schadelijke of ongepaste inhoud. Ambtenaren zijn van mening dat als AI-chatbots hun gewenste doelgroep moeten bereiken, met name tieners en jonge gebruikers, strengere bescherming noodzakelijk is.
Nieuwe bevoegdheden om snel veranderende technologie aan te pakken
Naast het opvullen van juridische lacunes, zal de regering nieuwe bevoegdheden creëren die sneller optreden mogelijk maken wanneer risico's zich voordoen. In plaats van te wachten tot het parlement volledig nieuwe wetten aanneemt, zullen toezichthouders sneller op technologie reageren.
Dit is een manier om ervoor te zorgen dat bescherming gelijke tred houdt met de snelle vooruitgang in kunstmatige intelligentie. AI-tools verbeteren snel en verplaatsen zich naar nieuwe gebieden. Als gevolg daarvan kunnen risico's plotseling opduiken en hebben toezichthouders flexibiliteit nodig om ze aan te pakken.
Starmer wees onlangs op de risico's van schadelijke AI-gegenereerde inhoud, zoals gevallen waarbij technologie wordt ingezet om geseksualiseerde beelden van mensen te maken zonder hun toestemming.
Hij noemde dergelijk gebruik onaanvaardbaar en zei dat bestaande wetten ertegen moeten worden gehandhaafd. De regering zei dat betere handhaving bedrijven zou dwingen vanaf het begin veiligere systemen te ontwerpen.
Deze kunnen beschermingsmaatregelen omvatten die zijn ingebouwd in chatbotsoftware om illegale inhoud te identificeren en te voorkomen voordat gebruikers het zien. Technologiebedrijven krijgen ook de verantwoordelijkheid voor hoe hun AI-systemen zich gedragen.
Dit betekent dat ze de output moeten monitoren, veiligheidsfuncties moeten verbeteren om systemen veiliger te maken en snel moeten reageren wanneer fouten worden gedetecteerd.
Regering neemt maatregelen om kinderen tegen schade te beschermen
Het hardhandig optreden tegen AI-chatbots maakt deel uit van de grotere uitdaging van kinderveiligheid op vrijwel elk digitaal platform. De regering overweegt nieuwe acties die het risico verder kunnen verminderen.
Een suggestie die wordt uitgewerkt is een eis dat gebruikers een bepaalde leeftijd moeten hebben om toegang te krijgen tot sociale media. Ambtenaren onderzoeken ook hoe het beperken van functies zoals oneindig scrollen excessieve schermtijd kan aanmoedigen, en het moeilijk kan maken voor jongeren om zich los te maken van schadelijke of verslavende inhoud.
Deze veranderingen kunnen komen na openbare raadplegingen over het welzijn van kinderen online. Ouders, opvoeders en veiligheidsexperts maken zich zorgen over de impact van digitale platforms op de geestelijke gezondheid van jongeren en de mate van blootstelling aan ongepaste inhoud.
Het bredere doel van de regering is om een veiligere online omgeving te creëren waarin kinderen kunnen profiteren van technologie zonder blootgesteld te worden aan ernstige schade.
Bron: https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
