Împotriva algoritmilor opresivi, designului care creează dependență, părinții nu pot ține întotdeauna pasul

La un recent eveniment TikTok Filipine privind siguranța adolescenților, l-am întrebat pe șeful politicilor publice Yvez Gonzalez, alături de un panel de organizații ale societății civile și creatori de conținut care pledează pentru siguranța copiilor pe rețelele sociale, despre concluziile recente ale Uniunii Europene (UE) care au determinat că anumite caracteristici cheie de design ale platformei sunt dependență-inductoare și ar trebui schimbate. 

Gonzalez a spus că firma-mamă va contesta concluziile și a menționat că au mai multe funcții care protejează utilizatorii sub 18 ani, cum ar fi limita de 60 de minute pentru aplicație, controalele parentale asupra conținutului, vizibilitatea follower-ilor și separarea fluxului și conținutului minorilor de populatia de 18 ani și peste. "Credem că în industrie avem una dintre cele mai robuste protecții", a spus el.

Creatoarea de conținut istoric Mona Magno-Veluz și-a oferit propria perspectivă asupra întrebării și a subliniat că, mai presus de toate, îndrumarea parentală este esențială pentru dilema utilizării rețelelor sociale de către adolescenți. 

"Sunt de acord că platformele au toate măsurile lor în vigoare, dar nu putem elimina nici responsabilitatea noastră din această ecuație. Simt cu adevărat că părinții, adulții din cameră au și ei o responsabilitate când vine vorba de reținere în utilizarea rețelelor sociale. Așa că cred că nu e doar o problemă de tehnologie, ci trebuie abordată și în cultura noastră și în normele societale", a spus Magno-Veluz.

Riyan Portuguez, psiholog și avocat al bunăstării digitale, a remarcat că factorii externi pot contribui la dependența unui copil, deoarece rețelele sociale au devenit una dintre cele mai accesibile modalități de adaptare.

Ea a spus: "De obicei, cea mai ușoară modalitate de a face față este să folosim platformele de social media pentru că acestea sunt cele mai disponibile. Așa că de aceea există dependențe, pentru că de fiecare dată când există o problemă, stres, folosim telefonul."

Cu disponibilitatea permanentă a rețelelor sociale, este vital ca părinții și familia să fie prezenți pentru copil. "Dar dacă comunicarea este bună în familie, ai pe cineva cu care să vorbești în afara rețelelor sociale, poți să o reglezi. Deci nu este doar o problemă de social media", a spus ea.

Declarația lui Portuguez reflectă de fapt cea mai recentă mărturie din procesul emblematic privind dependența de rețelele sociale din SUA de la fostul terapeut al reclamantei Kaley, Victoria Burke, luni, 24 februarie.

Burke a identificat probleme de sănătate mintală ale copilului și a spus că rețelele sociale au fost un "factor contributor" la problemele ei mintale, dar nu a dat vina în întregime pe ele. Kaley a fost de asemenea descrisă ca având o relație tensionată cu părinții ei divorțați.

Între timp, la o audiere locală a Senatului pentru reglementarea rețelelor sociale, Annalyn Capulong, profesor asistent la Departamentul de Psihologie al UP Diliman, le-a spus legiuitorilor: "Sentro 'yung ambag ng magulang." (Contribuția părinților este centrală.)

Dar Capulong însăși a recunoscut realitatea că uneori părinții se bazează pe dispozitive și ecrane pentru a ține un copil ocupat în timp ce se ocupă de o altă sarcină. 

În mod ideal, părintele este prezent cea mai mare parte a timpului. Știm că acest lucru nu este întotdeauna posibil și că nu toate familiile au o configurație ideală, așa cum se vede în cazul Kaley din SUA.

Ce înseamnă acestea? Aceasta înseamnă că o anumită parte a populației minore va fi, la propriu, lăsată la cheremul dispozitivelor lor, la mila caracteristicilor de design ale unei aplicații. Aceștia sunt cei mai vulnerabili membri ai populației și platformele trebuie să fie atente la siguranța acestora.

"Facem platforma sigură pentru utilizatorii noștri cei mai expuși riscului?" ar trebui să fie în mod ideal întrebarea pe care și-o pun. Și având în vedere că sănătatea mintală și factorii de mediu și familiali afectează oamenii dincolo de anii lor minori, platformele trebuie să abordeze această problemă - nu doar pentru minori, chiar dacă, pentru moment, discuțiile legale și legislative sunt concentrate pe aceștia.

Meta constată că medierea parentală nu este eficientă

Cercetări interne, nepublicate anterior de la Meta, dezvăluite abia recent la proces, au constatat de asemenea că atât supravegherea parentală, cât și limitele de timp nu sunt la fel de eficiente cum se credea.

Proiectul MYST (Meta and Youth Social Emotional Trends) a fost un sondaj pe 1.000 de adolescenți și părinți privind utilizarea rețelelor sociale, care a concluzionat că "nu există nicio asociere între rapoartele parentale sau rapoartele adolescenților privind supravegherea parentală și măsurătorile sondajului adolescenților privind atenția sau capacitatea" și că "factorii parentali și de gospodărie au puțină asociere cu nivelurile raportate de adolescenți privind atenția la utilizarea rețelelor sociale."

Și mai vulnerabili sunt tinerii care se află într-un mediu stresant. Aceștia prezintă un control mult mai redus asupra utilizării rețelelor sociale, conform rezultatelor sondajului. 

Privind înapoi la raportul UE privind TikTok, Comisia a spus că "măsurile actuale de pe TikTok, în special instrumentele de gestionare a timpului petrecut pe ecran și instrumentele de control parental, nu par să reducă eficient riscurile care decurg din designul dependență-inductor al TikTok... sunt ușor de respins și introduc fricțiune limitată."

Se revine la caracteristicile de design ale unei platforme de social media - nu doar TikTok - (derulare infinită, redare automată, notificări push, recomandări algoritmice) care sunt din ce în ce mai des descrise ca fiind "dependență-inductoare" în SUA și UE. 

Chiar și în Filipine, cuvintele "dependență-inductor" și "utilizare compulsivă" sunt deja în cel puțin două proiecte de lege. Proiectul de lege al Senatului (SB) 185 definește o platformă de social media ca o platformă care folosește livrarea algoritmică de conținut și are "caracteristici dependență-inductoare." 

SB 601 impune platformelor să "limiteze caracteristicile care cresc, susțin sau extind utilizarea SMP (platformei de social media) de către copil, cum ar fi redarea automată a media, sistemul de recompense pentru timpul petrecut pe platformă, notificările și alte caracteristici care duc la utilizare compulsivă." 

'O opțiune de a încetini algoritmul'

Laura Marquez-Garret, laureată TIME "100 Most Influential People in Health", avocat la Social Media Victims Law Center din Seattle, a vorbit recent pentru Democracy Now. Ea a spus că aceste caracteristici de design sunt de fapt "defecte" și acestea sunt ceea ce trebuie abordat, fără a ajunge la o interdicție totală. 

"Și deci, în cele din urmă, remedierea acesteia - și ei (companiile de social media) știu asta; este în documentele lor care devin publice - ar putea elimina mecanismele dependență-inductoare. Este la fel de simplu ca - gândește-te la televizorul tău de acasă. Avem această telecomandă. Putem să scădem volumul, să-l ridicăm, să schimbăm canalele. Ei au păstrat acele controale în backend. Ar putea să-ți ofere opțiunea de a încetini algoritmul", a spus Marquez-Garret. 

"Deci ei programează pentru engagement mai presus de orice... Și în cazul copiilor vulnerabili, este mortal", a adăugat ea. 

Procesul actual și tendința de interzicere a rețelelor sociale la nivel mondial arată că există un momentum împotriva companiilor tech. 

Big Tech face lobby agresiv împotriva intervenției guvernamentale

Și este un momentum împotriva căruia platformele au făcut lobby agresiv.

Ceea ce își doresc este "cea mai puțin rea opțiune", a spus Bram Vranken de la Corporate Europe Observatory, un grup care monitorizează lobby-ul corporativ, pentru New York Times. 

Care este opțiunea "cea mai puțin rea"? 

Times a raportat: "Ceea ce aceste companii preferă sunt legi care cer părinților, nu guvernelor, să aibă ultimul cuvânt asupra obiceiurilor online ale copiilor... Titanii din Silicon Valley fac lobby agresiv pentru o alternativă la interdicții." 

În loc de o interdicție, companiile promovează o "Vârstă Digitală Majoră" în UE, care pune din nou sarcina pe părinți de a aproba dacă copiii lor de 15 sau 16 ani pot sau nu să folosească rețelele sociale. 

O victorie acolo îndreaptă din nou atenția departe de algoritmul platformelor lor și de caracteristicile care creează condiții de utilizare compulsivă - și departe de o propusă Lege a Corectitudinii Digitale care ar interzice derularea infinită, redarea automată și recomandările bazate pe engagement. 

"Ar necesita probabil reproiectări complexe ale platformelor și ar sabota mașinăriile lor de marketing", a scris New York Times. 

În prezent, în Filipine, firmele susțin un "cadru adecvat vârstei" similar - reguli de acces diferite pentru grupuri de vârstă diferite.

Dar pare să nu fie atât de diferit de "Vârsta Digitală Majoră", în sensul că responsabilitatea este a părintelui de a pune în aplicare și va necesita utilizarea proceselor de verificare a vârstei care nu sunt întotdeauna ușor de pus în aplicare, mai degrabă decât abordarea caracteristicilor de design de bază menționate.

Deci poate că și aici accentul poate fi pus pe caracteristicile dependență-inductoare în sine.

Frances Haugen, denunțătoare Facebook, a declarat pentru Democracy Now: "Când ai copii ale căror creieri sunt pur și simplu scăldați în dopamină de la derulare toată ziua la o vârstă atât de fragedă, le schimbă capacitatea de a sta liniștiți în clasă, de a interacționa semnificativ față în față cu familia sau prietenii lor... totuși ei continuă să optimizeze pentru a petrece din ce în ce mai mult timp pe aceste platforme."

Platformele știu ce este în joc pentru ele aici. Ce se întâmplă la procesul din SUA și investigațiile UE pot avea un efect de undă asupra platformelor la nivel global.

Există dovezi ale unei populații vulnerabile la dependența de rețelele sociale, fie că este din cauza unei vieți de familie dificile sau a problemelor personale de sănătate mintală. Există, de asemenea, dovezi că măsurile de siguranță nu au fost chiar atât de eficiente, deoarece caracteristicile "dependență-inductoare" sunt, în lipsa unor cuvinte mai bune, încă mai puternice. 

Și în mijlocul acestora, platformele par să facă încă lobby pentru a menține responsabilitatea pe umerii părinților, mai degrabă decât să ne ofere opțiunea de a "încetini algoritmul". Părinții, familiile au nevoie de mai mult ajutor.  – Rappler.com