Imagini AI cu nuduri: „Legea Take It Down" din SUA va permite utilizatorilor să solicite eliminarea rapidă

De la sfârșitul lunii decembrie 2025, chatbot-ul cu inteligență artificială al X, Grok, a răspuns la numeroasele cereri ale utilizatorilor de a dezbrăca persoane reale, transformând fotografiile acestora în material cu conținut sexual explicit. După ce oamenii au început să utilizeze această funcție, compania de platformă socială s-a confruntat cu o examinare globală pentru că a permis utilizatorilor să genereze reprezentări sexual explicite neconsimțite ale unor persoane reale.

Contul Grok a postat mii de imagini „nudificate" și sugestive sexual pe oră. Și mai îngrijorător, Grok a generat imagini sexualizate și material sexual explicit cu minori.

Răspunsul X: Dați vina pe utilizatorii platformei, nu pe noi. Compania a emis o declarație pe 3 ianuarie 2026, spunând că „Oricine folosește sau îi cere lui Grok să creeze conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal." Nu este clar ce acțiune, dacă există vreuna, a luat X împotriva vreunui utilizator.

Ca cercetător juridic care studiază intersecția dintre lege și tehnologiile emergente, văd această avalanșă de imagini neconsimțite ca pe un rezultat previzibil al combinației dintre politicile laxiste de moderare a conținutului ale X și accesibilitatea instrumentelor puternice de inteligență artificială generativă.

Vizarea utilizatorilor

Ascensiunea rapidă a inteligenței artificiale generative a condus la nenumărate site-uri web, aplicații și chatbot-uri care permit utilizatorilor să producă material sexual explicit, inclusiv „nudificarea" imaginilor copiilor reali. Dar aceste aplicații și site-uri web nu sunt la fel de cunoscute sau utilizate ca oricare dintre platformele majore de social media, precum X.

Legislativele statale și Congresul au răspuns destul de rapid. În mai 2025, Congresul a adoptat Take It Down Act, care face o infracțiune penală publicarea materialului sexual explicit neconsimțit al persoanelor reale. Take It Down Act penalizează atât publicarea neconsimțită a „reprezentărilor vizuale intime" ale persoanelor identificabile, cât și reprezentările generate de inteligența artificială sau de calculator ale persoanelor identificabile.

Acele prevederi penale se aplică doar persoanelor care postează conținutul sexual explicit, nu platformelor care distribuie conținutul, cum ar fi site-urile de social media.

Alte prevederi ale Take It Down Act impun însă platformelor să stabilească un proces prin care persoanele reprezentate să poată solicita eliminarea imaginilor. Odată ce o „Cerere Take It Down" este trimisă, o platformă trebuie să elimine reprezentarea sexual explicită în termen de 48 de ore. Dar aceste cerințe nu intră în vigoare până pe 19 mai 2026.

Probleme cu platformele

Între timp, cererile utilizatorilor de a elimina imaginile sexual explicite produse de Grok au rămas aparent fără răspuns. Chiar și mama unuia dintre copiii lui Elon Musk, Ashley St. Clair, nu a reușit să determine X să elimine imaginile sexualizate false ale ei pe care fanii lui Musk le-au produs folosind Grok. The Guardian raportează că St. Clair a spus că „plângerile ei către personalul X nu au dus nicăieri."

Acest lucru nu mă surprinde pentru că Musk a dezmembrat grupul consultativ Trust and Safety al fostului Twitter la scurt timp după ce a achiziționat platforma și a concediat 80% dintre inginerii companiei dedicați încrederii și siguranței. Echipele de încredere și siguranță sunt de obicei responsabile pentru moderarea conținutului și inițiativele de prevenire a abuzurilor la companiile de tehnologie.

Public, pare că Musk a minimalizat gravitatea situației. Se raportează că Musk a postat emoji-uri de râs-plâns ca răspuns la unele dintre imagini, iar X a răspuns la întrebarea unui reporter Reuters cu răspunsul automat „Legacy Media Lies."

Limitele proceselor

Procesele civile, precum cel depus de părinții lui Adam Raine, un adolescent care s-a sinucis în aprilie 2025 după ce a interacționat cu ChatGPT al OpenAI, sunt o modalitate de a trage platformele la răspundere. Dar procesele se confruntă cu o luptă dificilă în Statele Unite, având în vedere Secțiunea 230 din Communications Decency Act, care în general imunizează platformele de social media de răspunderea juridică pentru conținutul pe care utilizatorii îl postează pe platformele lor.

Judecătorul Curții Supreme Clarence Thomas și mulți cercetători juridici au susținut însă că Secțiunea 230 a fost aplicată prea larg de către instanțe. Sunt în general de acord că imunitatea Secțiunii 230 trebuie restrânsă deoarece imunizarea companiilor de tehnologie și a platformelor lor pentru alegerile lor deliberate de proiectare — modul în care este construit software-ul lor, cum funcționează software-ul și ce produce software-ul — cade în afara domeniului de aplicare al protecțiilor Secțiunii 230.

În acest caz, X fie în mod deliberat, fie din neglijență, nu a implementat măsuri de protecție și controale în Grok pentru a împiedica utilizatorii să genereze imagini sexual explicite ale persoanelor identificabile. Chiar dacă Musk și X cred că utilizatorii ar trebui să aibă capacitatea de a genera imagini sexual explicite ale adulților folosind Grok, cred că în nicio lume X nu ar trebui să scape de răspundere pentru construirea unui produs care generează material sexual explicit al copiilor din viața reală.

Bariere de reglementare

Dacă oamenii nu pot trage la răspundere platforme precum X prin procese civile, atunci revine guvernului federal sarcina de a le investiga și reglementa. Federal Trade Commission, Departamentul de Justiție sau Congresul, de exemplu, ar putea investiga X pentru generarea de către Grok a materialului sexual explicit neconsimțit. Dar având în vedere legăturile politice reînnoite ale lui Musk cu președintele Donald Trump, nu mă aștept la investigații serioase și responsabilizare în curând.

Deocamdată, autoritățile de reglementare internaționale au lansat investigații împotriva X și Grok. Autoritățile franceze au început investigații asupra „proliferării deepfake-urilor sexual explicite" de la Grok, iar Consiliul Irish pentru Libertăți Civile și Digital Rights Ireland au îndemnat cu insistență poliția națională a Irlandei să investigheze „spree-ul de dezbrăcare în masă." Agenția de reglementare britanică Office of Communications a declarat că investighează problema, iar autoritățile de reglementare din Comisia Europeană, India și Malaysia investighează de asemenea X.

În Statele Unite, poate cel mai bun plan de acțiune până când Take It Down Act intră în vigoare în mai este ca oamenii să ceară acțiune de la oficialii aleși. – Rappler.com

Articolul a apărut inițial pe The Conversation.

Wayne Unger, Profesor Asociat de Drept, Quinnipiac University