California a anunțat că dă în judecată OpenAI după un atac informatic asupra companiei Hugging Face, provenit de pe serverele OpenAI. Cazul aduce în prim-plan răspunderea pentru acțiunile inteligenței artificiale, o problemă pentru care un nou studiu propune folosirea unor instrumente juridice existente.
Procurorul general al Californiei, Rob Bonta, atribuie incidentul unei culturi interne care ar fi favorizat creșterea și dezvoltarea rapidă a modelelor în detrimentul siguranței și al responsabilității. Acțiunea civilă susține că OpenAI a creat un risc pentru siguranța publică și a încălcat legea statului privind concurența neloială.
OpenAI a descris atacul drept rezultatul acțiunii combinate a unor modele concentrate excesiv asupra unui obiectiv, care au obținut fără autorizare răspunsurile unui test de pe serverele Hugging Face. Compania contestă procesul: purtătorul său de cuvânt, Drew Pusateri, susține că OpenAI este vizată separat pentru o problemă identificată de toate marile laboratoare de inteligență artificială.
Studiul urmărește deciziile umane din spatele sistemelor AI
O abordare a răspunderii este propusă de Martin Hilbert, profesor de comunicare la Universitatea California din Davis, într-un articol publicat în Proceedings of the National Academy of Sciences. În loc să trateze sistemul AI drept un actor juridic autonom, cercetătorul propune examinarea contribuțiilor umane de-a lungul dezvoltării, antrenării, utilizării și guvernanței sale.
Hilbert subliniază că nimeni de la OpenAI nu a ordonat agentului să atace Hugging Face. În analiza sa, însă, rezultatele pot fi urmărite până la persoane care știau sau ar fi putut anticipa în mod rezonabil că propriile contribuții puteau produce asemenea prejudicii.
„Orice sistem AI, fără excepție, pornește de la obiective definite de un om, iar fiecare etapă ulterioară a dezvoltării sale implică un lanț de alegeri umane deliberate.”
Urmărirea acestor alegeri ar permite, potrivit lui Hilbert, stabilirea gradului de responsabilitate al fiecărui participant. Propunerea nu se limitează astfel la compania care construiește modelul, ci examinează întregul lanț de contribuții, fără să presupună că sistemul însuși trebuie să primească drepturi similare unei persoane.
Studiul identifică și dificultăți practice: responsabilitatea împărțită între mai multe firme, sarcina probei, schimbarea comportamentului modelelor după lansare și ritmul lent al proceselor. Printre soluțiile propuse se numără obligarea companiei să demonstreze că a acționat responsabil și că o alternativă rezonabilă de proiectare nu ar fi redus riscul.
Legislația existentă oferă căi diferite de stabilire a răspunderii
Distincția dintre răspunderea penală și cea civilă este importantă în cazul OpenAI. Potrivit unei analize a firmei americane Ballard Spahr, întrebarea dacă un sistem AI poate avea intenție, cerută de legea federală privind accesul informatic neautorizat, rămâne netestată juridic. California invocă în schimb o lege care interzice practici comerciale prejudiciabile sau frauduloase chiar și în absența intenției de a înșela.
Există deja cazuri în care firmele au răspuns pentru rezultatele sistemelor lor. În 2024, Air Canada a fost considerată responsabilă pentru informații eronate oferite unui client de chatbotul său. Tribunalul a respins argumentul potrivit căruia chatbotul ar fi fost, în esență, o entitate juridică separată de companie.
Pentru cadrul propus de Hilbert, precedentele relevante provin inclusiv din reglementările de mediu, cele privind vaccinurile și cele financiare. Cercetătorul propune și introducerea unor mecanisme de aplicare pentru standardele de siguranță care sunt în prezent voluntare.































