Doi senatori americani au trimis o scrisoare conducerii TikTok prin care cer explicații despre un experiment intern în urma căruia compania ar fi dezactivat o funcție de siguranță pentru milioane de utilizatori, printre care și un adolescent care ulterior s-a sinucis. Republicana Marsha Blackburn (Tennessee) și democratul Richard Blumenthal (Connecticut) au adresat documentul de patru pagini directorului general al TikTok Inc., Shou Chew, și lui Adam Presser, șeful diviziei americane a companiei. Cei doi, coautori ai unui proiect de lege privind siguranța copiilor online, au calificat decizia companiei drept „depravată” și au fixat un termen de răspuns.
- TikTok ar fi dezactivat un mecanism de siguranță pentru circa 10% dintre utilizatorii americani, aproximativ 15 milioane de persoane, transformați într-un grup de control.
- Printre ei s-a aflat Chase Nasca, un adolescent de 16 ani din Bayport, New York, selectat pentru experiment pe 25 ianuarie 2022 și decedat în mai puțin de o lună.
- Senatorii au adresat 13 întrebări și au cerut răspuns până pe 1 septembrie.
Congresul avertizase compania încă din 2021
Contextul demersului este unul mai vechi. Potrivit scrisorii, Congresul semnalase încă din octombrie 2021 îngrijorări privind modul în care algoritmul TikTok împinge utilizatorii tineri către conținut dăunător. Experimentul ar fi început în 2021, la scurt timp după ce un responsabil de politici publice al companiei a participat la o audiere în Congres, unde Blumenthal și Blackburn au cerut platformei mai multe măsuri de protecție pentru copii.
Funcția vizată era una menită să prevină așa-numitele „bule de filtrare” (filter bubbles) — tiparele repetitive de conținut din fluxul „pentru tine”. Compania spunea la acel moment că actualizarea trebuia să împiedice „vizionarea excesivă a unei categorii de conținut care poate fi acceptabilă ca un singur clip, dar problematică vizionată în grupuri”.
Ce arată documentul intern devenit public
Existența experimentului a fost dezvăluită luna aceasta de Bloomberg Businessweek, pe baza unui document confidențial al companiei din 2023, predat într-un litigiu împotriva marilor platforme sociale și pus sub sigiliu prin ordin judecătoresc. Potrivit acestuia, TikTok ar fi oprit intenționat mecanismul de siguranță pentru 10% dintre utilizatorii americani — la acel moment aproximativ 15 milioane de persoane — pentru a-i folosi drept grup de control și a măsura efectul asupra utilizatorilor activi zilnici și a altor indicatori esențiali.
Documentul explică și de ce contul lui Chase Nasca a primit ceea ce numește un „asalt” de conținut sumbru: „Strategiile de prevenire a bulei de filtrare ale TikTok nu au avut efect asupra acestui utilizator, prin construcție.” Adolescentul a fost selectat aleatoriu pentru experiment pe 25 ianuarie 2022, iar în decurs de o lună a murit. Contul său ar fi fost alimentat cu mii de videoclipuri despre tristețe, deznădejde, singurătate și sinucidere.
„Scriem în legătură cu noile relatări dezgustătoare potrivit cărora TikTok a reținut cu bună știință o măsură de siguranță critică pentru milioane de utilizatori americani — inclusiv copii — pentru a stabili dacă protejarea utilizatorilor i-ar afecta rezultatele financiare”, se arată în scrisoare.
Ce cer senatorii și ce urmează
Senatorii au adresat 13 întrebări, printre care numele fiecărui angajat informat despre experiment, motivul pentru care minorii au fost incluși în test, momentul în care conducerea a aflat de acesta și o „versiune completă, necenzurată” a documentului. Ei au cerut și o listă a tuturor experimentelor algoritmice din SUA în care TikTok a „reținut, dezactivat, întârziat sau redus” o funcție de siguranță, împreună cu numărul de utilizatori și al minorilor implicați. Termenul de răspuns este 1 septembrie.
TikTok nu a răspuns solicitărilor de comentariu privind scrisoarea. Într-o declarație pentru materialul Bloomberg, un purtător de cuvânt spunea însă că platforma este „profund angajată în privința siguranței și bunăstării utilizatorilor”, în special a adolescenților, și că investește constant în echipe și sisteme de detectare a conținutului care încalcă regulile comunității.
Cei doi legislatori sunt printre principalii susținători ai Kids Online Safety Act (KOSA), proiect menit să oblige platformele să prioritizeze siguranța copiilor în fața profitului. Legea a picat în Camera Reprezentanților în 2024, dar a fost reintrodusă în actuala sesiune legislativă. În paralel, reprezentantul republican Gus Bilirakis (Florida) a promovat Kids Internet and Digital Safety (KIDS) Act, care preia majoritatea prevederilor proiectului din Senat și a fost adoptat de Cameră în iunie. Pentru utilizatorii tineri și părinții lor, deznodământul acestor inițiative ar putea însemna, în practică, obligații legale mai stricte pentru platforme privind modul în care funcționează algoritmii de recomandare.
Ar trebui platformele să fie obligate prin lege să dezvăluie cum își testează algoritmii pe utilizatori? Spune-ne ce crezi despre responsabilitatea rețelelor sociale față de adolescenți.
