Parlamentul European a aprobat, miercuri, Legea privind inteligența artificială, care garantează siguranța și respectarea drepturilor fundamentale și stimulează inovația.
AI Act interzice utilizări ale inteligenței artificiale care amenință drepturile cetățenilor. Extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu circuit închis pentru a crea baze de date de recunoaștere facială este un astfel de exemplu de practică
Nu vor fi permise nici recunoașterea emoțiilor la locul de muncă și în școli ori atribuirea unui punctaj social.
În ce situații este interzisă folosirea inteligenței artificiale
Potrivit regulamentului, stabilit la finalul lui 2023, împreună cu statele membre, folosirea inteligenței artificiale este interzisă în următoarele situații:
- Atunci când cu ajutorul inteligenței artificiale se încearcă influențarea comportamentului, prin tehnici subliminale, manipulatoare sau înșelătoare;
- Atunci când IA este folosită pentru a exploata vulnerabilitățile unei persoane sau ale unui grup;
- Atunci când, pe baza informațiilor biometrice, cineva vrea să stabilească rasa, orientarea sexuală sau convingerile unei persoane;
- Nu este permisă nici folosirea sistemelor IA care urmăresc, evaluează și clasifică nivelul de încredere de care se bucură o persoană. În urma scorului social primit, acel om poate fi nedreptățit. De exemplu, cuiva i s-ar putea refuza accesul la un serviciu social, după ce a primit un scor nefavorabil din cauză că, în trecut, a consumat droguri;
- Este interzisă utilizarea recunoașterii faciale în timp real (cunoscută și sub numele de "identificare biometrică la distanță") în locurile publice. Există însă și excepții: Forțele de ordine vor putea în continuare să folosească această tehnologie în cazul când investighează infracțiuni grave sau când căută persoane dispărute, dacă au acceptul unui judecător;
- Este interzisă utilizarea oricărui sistem AI care să evalueze cetățeni pentru a estima probabilitatea ca o aceștia să comită o infracțiune doar pe baza trăsăturilor și datelor personale, precum locația sau comportamentul infracțional anterior;
- Instrumentele de inteligență artificială nu pot fi utilizate pentru a crea baze de date de imagini faciale prin extragerea de imagini de pe internet sau de pe înregistrările video ale camerelor de supraveghere;
- Nu pot fi folosite instrumente bazate pe inteligență artificială pentru a “citi” emoțiile unei persoane la locul de muncă sau într-un mediu educațional.
Obligații pentru sisteme cu grad ridicat de risc
Textul actului normativ prevede obligații clare pentru alte sisteme de IA cu grad ridicat de risc, care au potențialul de a afecta negativ sănătatea, siguranța, drepturile fundamentale, mediul, democrația și statul de drept, se arată în comunicatul serviciului de presă de la Parlamentul european, de după votul de astăzi.
Iată câteva exemple de direcții în care utilizarea sistemelor IA cu grad ridicat de risc va fi supusă prevederilor AI Act:
- infrastructura critică;
- educația și formarea profesională;
- serviciile publice și private esențiale (sănătatea, serviciile bancare etc.);
- unele sisteme folosite de organele de aplicare a legii;
- migrația și gestionarea frontierelor;
- justiția și procesele democratice (de exemplu, pentru a preveni influențarea alegerilor).
Toate aceste sisteme trebuie să evalueze și să reducă riscurile, să mențină așa-numite „fișiere de jurnalizare” care permit înregistrarea automată a evenimentelor, să fie transparente și precise și să facă obiectul supravegherii umane.
Cetățenii vor avea dreptul să depună plângeri în legătură cu sistemele de IA și să primească explicații despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care le afectează drepturile.
Cerințe în materie de transparență
Sistemele de inteligență artificială de uz general și modelele de IA de uz general pe care se bazează acestea trebuie să respecte anumite cerințe în materie de transparență, inclusiv legislația UE în domeniul drepturilor de autor și publicarea unor rezumate detaliate ale conținutului utilizat la antrenarea modelelor de IA, se arată în același comunicat trimis de Parlamentul European.
În plus, imaginile și conținuturile audio și video artificiale sau manipulate (de tip „deepfake”) vor trebui etichetate clar ca atare.
Cum și când se va aplica AI Act
AI Act, al cărui text va putea fi consultat în întregime, va fi adoptat înainte de sfârșitul acestei legislaturi. Este nevoie și de o trecere prin Consiliu, în prealabil.
Apoi, legislația ar urma să intre în vigoare la 20 de zile după publicarea în Jurnalul Oficial. Pe deplin aplicabilă devine abia din 2026 - la 24 de luni după intrarea în vigoare, așadar.
Există și excepții: interdicțiile referitoare la practicile interzise se aplică mai repede, începând cu șase luni de la data intrării în vigoare, codurile de bune practici - la nouă luni de la data intrării în vigoare, normele privind sistemele IA de uz general, inclusiv guvernanța - 12 luni de la data intrării în vigoare și obligațiile pentru sistemele cu grad ridicat de risc, 36 de luni de la data intrării în vigoare.
