OpenAI a publicat un plan de politici care prezintă noi măsuri de siguranță pe care industria inteligenței artificiale (AI) le poate lua pentru a preveni utilizarea tehnologiei în crearea de material de abuz sexual asupra copiilor.
"Exploatarea sexuală a copiilor este una dintre cele mai urgente provocări ale erei digitale", a declarat OpenAI în anunțul său din 8 aprilie. "AI schimbă rapid atât modul în care apar aceste prejudicii în întreaga industrie, cât și modul în care pot fi abordate la scară largă."
Având în vedere acest lucru, compania și-a dezvăluit planul de politici, prezentând "o cale practică pentru consolidarea cadrelor de protecție a copiilor din SUA în era AI."
Planul reflectă și incorporează feedback-ul din partea mai multor organizații de frunte și experți din ecosistemul de siguranță a copiilor, inclusiv Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC), Alianța Procurorilor Generali - un grup nonprofit de procurori generali de stat din Statele Unite - și Thorn, o organizație nonprofit dedicată apărării copiilor de abuzul sexual, potrivit gigantului AI.
"Nicio singură intervenție nu poate aborda singură această provocare", a spus OpenAI. "Acest cadru reunește abordări legale, operaționale și tehnice pentru a identifica mai bine riscurile, a accelera răspunsurile și a sprijini responsabilitatea, asigurând în același timp că autoritățile de aplicare rămân puternice pe măsură ce tehnologia evoluează."
Această mișcare vine în contextul în care îngrijorările au crescut tot mai mult în jurul abuzului instrumentelor AI, în special funcțiile de generare a imaginilor, pentru a produce imagini explicite ale femeilor și copiilor, inclusiv celebrități și personalități publice.
La începutul lunii ianuarie, autoritatea de reglementare a comunicațiilor din Regatul Unit, Ofcom, a fost obligată să contacteze urgent X și xAI "pentru a înțelege ce măsuri au luat pentru a-și îndeplini obligațiile legale de a proteja utilizatorii din Regatul Unit", după ce au apărut rapoarte conform cărora chatbot-ul AI al lui Elon Musk, Grok, era utilizat pentru a crea și disemina imagini explicite ale copiilor și femeilor cu hainele îndepărtate digital.
Îngrijorări similare au fost exprimate în Uniunea Europeană, autoritatea italiană de protecție a datelor avertizând utilizatorii și furnizorii de instrumente AI cu privire la riscurile pentru "drepturile și libertățile fundamentale" pe care le prezintă deepfake-urile AI.
Pentru a aborda astfel de preocupări, OpenAI a spus că are trei priorități cheie: modernizarea legilor pentru combaterea materialului de abuz sexual asupra copiilor generat și modificat de AI, îmbunătățirea raportării și coordonării furnizorilor pentru a sprijini investigații mai eficiente și integrarea măsurilor de siguranță prin design direct în sistemele AI pentru a preveni și detecta utilizarea abuzivă.
"Împreună, acești pași permit industriei să abordeze siguranța copiilor mai devreme și mai eficient", a declarat compania în declarația sa din 8 aprilie. "Prin întreruperea mai rapidă a tentativelor de exploatare, îmbunătățirea calității semnalelor trimise autorităților de aplicare a legii și consolidarea responsabilității în întregul ecosistem, acest cadru își propune să prevină prejudiciile înainte ca acestea să se întâmple și să ajute la asigurarea unei protecții mai rapide pentru copii atunci când apar riscuri."
OpenAI a spus că este, de asemenea, angajată să continue consolidarea măsurilor de protecție pentru a preveni utilizarea abuzivă a sistemelor sale, precum și să lucreze îndeaproape cu parteneri precum NCMEC și agențiile de aplicare a legii pentru a îmbunătăți detectarea și raportarea.
Într-o declarație comună privind planul de siguranță a copiilor, procurorii generali de stat Jeff Jackson (din Carolina de Nord) și Derek Brown (din Utah), co-președinți ai Grupului de lucru AI al Alianței Procurorilor Generali, au declarat că "salută acest plan ca pe un pas semnificativ către alinierea practicilor de siguranță a copiilor din sectorul tehnologic cu realitățile de aplicare cu care birourile noastre se confruntă în fiecare zi."
Cei doi au evidențiat în special recunoașterea de către cadru a faptului că măsurile de protecție eficiente ale AI generative (GenAI) necesită apărări stratificate - nu un singur control tehnic, ci o combinație de detecție, mecanisme de refuz, supraveghere umană și adaptare continuă la tendințele emergente de utilizare abuzivă.
"Acest lucru reflectă ceea ce vedem în practică: amenințarea evoluează constant și soluțiile statice sunt insuficiente", au spus procurorii generali de stat.
Anunțul OpenAI a fost, de asemenea, salutat de Michelle DeLaune, președinte și CEO al NCMEC, care a avertizat că GenAI "accelerează crima exploatării sexuale online a copiilor în moduri profund îngrijorătoare - reducând barierele, crescând amploarea și permițând noi forme de prejudiciu."
DeLaune a adăugat că este "încurajată să vadă companii precum OpenAI reflectând asupra modului în care aceste instrumente pot fi proiectate mai responsabil, cu măsuri de protecție integrate de la început."
Pentru ca inteligența artificială (AI) să funcționeze corect în cadrul legii și să prospere în fața provocărilor în creștere, aceasta trebuie să integreze un sistem blockchain enterprise care asigură calitatea și proprietatea datelor de intrare - permițându-i să păstreze datele în siguranță, garantând în același timp imuabilitatea datelor. Consultați acoperirea CoinGeek a acestei tehnologii emergente pentru a afla mai multe despre motivul pentru care blockchain-ul Enterprise va fi coloana vertebrală a AI.
Urmăriți: Demonstrarea potențialului fuziunii blockchain-ului cu AI
Sursa: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
