Schimbările aduse tehnologiei transformă rapid felul în care oamenii lucrează, iau decizii și utilizează datele. Dincolo de entuziasmul pe care îl generează aceste evoluții, apar tot mai multe întrebări juridice și etice: cine răspunde pentru o decizie luată de un algoritm, cum sunt protejate drepturile persoanelor și unde se oprește rolul tehnologiei?

În cadrul celei de-a 63‑a dezbatere CLCC – Coaliția pentru Libertatea Comerțului și a Comunicării, cu titlul „AI, repere legale și morale. Între avântul digitalizării și restricțiile legislative”, Anca Gabriela Vlase, Managing Associate al Societății de Avocatură GMCID, a abordat modul în care legislația europeană începe să reglementeze acest domeniu, precum și aspectele legate de responsabilitatea pentru deciziile luate de AI.

O nouă etapă în reglementarea inteligenței artificiale

„La nivel european, utilizarea sistemelor de inteligență artificială este reglementată, în principal, prin Regulamentul privind Inteligența Artificială, adoptat în 2024, cu aplicare obligatorie în statele membre începând cu 2 august 2026. Un termen intermediar a fost stabilit pentru 1 august 2025, până la care autoritățile naționale trebuiau să își desemneze autoritățile competente de supraveghere și notificare”, a precizat Anca Vlase.

În România, această obligație este ușor întârziată, atribuțiile de monitorizare și supraveghere urmând să fie împărțite între mai multe instituții existente: „În februarie 2026, Guvernul a emis un memorandum prin care s-a decis că atribuțiile nu vor fi atribuite unui organism nou, cu competențe specifice, ci vor fi distribuite între autorități deja existente (Inspecția Muncii și Autoritatea Națională de Supraveghere a Prelucrării Datelor cu Caracter Personal), precum și alte autorități competente din diverse sectoare, care gestionează utilizarea și monitorizarea acestor activități.”

Utilizarea inteligenței artificiale asupra persoanelor fizice este reglementată încă prin GDPR și limitează deciziile automatizate și profilarea. „Sunt interzise practicile care folosesc tehnici subliminale sau exploatează vulnerabilitățile”, iar sancțiunile pot ajunge până la 35 de milioane de euro sau 7% din cifra de afaceri.

Cine răspunde pentru deciziile luate de AI

Din perspectivă juridică, una dintre cele mai importante diferențe este cea dintre o decizie complet automatizată și una în care există intervenție umană: „O decizie automatizată presupune că întreg procesul decizional este preluat de algoritm, iar omul nu intervine în niciun fel. Într-o decizie asistată, decizia finală și rezultatul final sunt decise de către un factor uman.”

Această diferență devine esențială inclusiv atunci când apare problema răspunderii juridice; algoritmul nu poate avea responsabilitate juridică.

Potrivit Ancăi Vlase, una dintre marile provocări juridice este faptul că un sistem AI nu poate fi analizat prin aceleași criterii aplicate unei persoane: „Este imposibil și nici nu s-a stabilit că putem să discutăm despre existența unui discernământ cu privire la un soft sau cu privire la o modalitate automată de gestionare a datelor. Practic, nu putem pune în discuție discernământul și atunci înseamnă că este puțin probabil să punem și existența unei intenții directe sau indirecte, care sunt elemente definitori în a stabili dacă o faptă intră în sfera penală, dacă are consecințe cu privire la răspunderea civilă, delictuală sau contractuală.”

În aceste condiții, responsabilitatea revine operatorului care utilizează sistemul, a declarat Anca Vlase, precizând: „În măsura în care se produce o discriminare, aceasta este exclusiv în sarcina operatorului care gestionează acel soft. Potrivit regulamentului, răspunderea și consecințele asumate nu trebuie dovedite de către persoana care se consideră vătămată, ci de către operator.”

Omul trebuie să rămână în centrul deciziei

„Comisia Europeană, prin Cartea Albă, promovează o abordare centrată pe om, impunând supravegherea umană pentru agenții autonomi și respingând răspunderea pentru decizii strict automatizate.”

În practică, acest lucru înseamnă că tehnologia poate sprijini analiza și procesarea unor volume mari de informații, însă decizia finală trebuie să aparțină unui specialist: „Atunci când o persoană fizică își asumă concluzia generată de sistem prin propriile cunoștințe sau expertiză, atrage și răspunderea adecvată acestei asumări.”

Riscurile utilizării AI

Pe lângă beneficii, utilizarea AI poate genera efecte semnificative la scară largă, precum discriminarea, utilizarea neautorizată a datelor sau probleme legate de proprietatea intelectuală: „Un exemplu concret este procesul inițiat în 2023 de New York Times împotriva OpenAI și Microsoft, aflat încă în desfășurare, în care se contestă utilizarea unor volume semnificative de date din publicațiile NYT pentru eficientizarea aplicațiilor ChatGPT și Copilot, fără drept. În prezent, litigiul este suspendat, în așteptarea unei soluționări amiabile, cel mai probabil prin acordarea unei licențe comerciale.”

„AI trebuie folosit într-un scop protectiv și educativ, nu pentru a lua decizii definitive, acestea revenind celor chemați să își aducă analiza și expertiza, alături de aceste proceduri, pentru a obține rezultate”, a conchis Anca Gabriela Vlase.

Înregistrarea întâlnirii „AI, repere legale și morale. Între avântul digitalizării și restricțiile legislative”, AICI.

___________

O dezbatere marca CLCC – Coaliția pentru Libertatea Comerțului și a Comunicării

Managementul dezbaterii: Oameni și Companii

___________

CLCC – Coaliția pentru Libertatea Comerțului și a Comunicării este un for care reunește peste 2.000 de companii și organizații din România, având ca obiectiv promovarea dialogului între mediul public și cel privat, pe teme economice și legislative de interes major. Prin dezbaterile organizate periodic, ne adresăm în principal antreprenorilor și managerilor din diverse industrii, facilitând accesul la informații relevante și la perspective ale autorităților și experților. Abonează-te gratuit pe CLCC.ro pentru a primi invitații la toate evenimentele CLCC, informații utile și rezumate relevante ale materialelor publicate pe platforma digitală www.clcc.ro.

Oameni și Companii construiește și administrează comunități profesionale organizate pe roluri și industrii. Comunitățile noastre se dezvoltă prin programe de comunicare: evenimente, webinare și conținut digital care generează dialog și relații durabile. Cu peste 1.500 de evenimente și webinare și 150.000 de participări din 50 de domenii, Oameni și Companii administrează cel mai avansat ecosistem de comunități profesionale din România.