Parlamentul European a votat, miercuri, adoptarea primei legislații care reglementează utilizarea inteligenței artificiale în statele membre. Este prima reglementare de acest fel la nivel mondial. Intenția Uniunii Europene este de a reduce riscurile pe care le aduce această tehnologie și să promoveze utilizarea ei etică.
Aceste reglementări vor fi incluse în așa-numitul "AI Act", însă negocierile ar putea să dureze până la finalul anului. Draftul de lege își propune să asigure, în premieră, un climat de transparență, nediscriminare și siguranță a utilizatorului. Acest act va costa Europa între 31 și 36 de miliarde de euro în următorii cinci ani.
Noua lege, în ansamblul ei, a fost votată cu 499 de voturi pentru, 28 împotrivă și 93 de abțineri. Forma finală a legii va fi stabilită după discuții cu statele membre ale Uniunii Europene.
Unul dintre aspectele care au fost discutate are în vedere interzicerea recunoașterii faciale bazate pe inteligența artificială, în locuri publice.
Propunerea a fost prezentată prima dată în aprilie 2021 și prevedea interzicerea utilizării componentelor biomecanice în spațiile publice, pentru că prezenta un "risc inacceptabil pentru cetățeni", potrivit Euronews.com.
Astfel, membrii Parlamentului European au acordat 335 de voturi pentru interzicere, în timp ce 235 au fost împotriva acestui amendament, care a fost propus de Partidul Popular European, de centru-dreapta. Potrivit inițiatorilor, această identificare biometrică, în timp real, ar fi permis această utilizare doar în trei situații: căutarea persoanelor dispărute, prevenirea unui atac terorist și depistarea infractorilor căutați, în baza unui mandat european de arestare. Numai că nici aceste excepții nu au fost acceptate, iar motivarea a fost aceea că tehnologia este "intruzivă și discriminatorie".
Identificarea biometrică, pe baza IA, va fi interzisă prin lege
Identificarea biometrică presupune că acele camere folosesc aplicații de inteligență artificială, care pot identifica trăsături precum structura ochilor sau chiar amprentele digitale.
Eurodeputații au mai inclus câteva interdicții, printre care:
- sistemele biometrice care folosesc caracteristici sensibile, precum genul, rasa, etnia, cetățenia, religia sau orientarea politică
- sistemele polițienești bazate pe analiza predictivă, adică cele care utilizează profilarea, localizarea sau comportamentul infracțional anterior
- recunoașterea emoțiilor la locul de muncă, în instituțiilor de învățământ, în domeniul legislativ sau al gestionării frontierelor
- extragerea, fără scop precis, a datelor biometrice din imaginile faciale aflate pe internet sau înregistrări făcute de televiziunile cu circuit închis, pentru a elabora baze de date pentru recunoașterea facială
Sistemele de IA cu grad ridicat de risc
Eurodeputații s-au asigurat că clasificarea aplicațiilor cu grad ridicat de risc va include acum sistemele de IA care afectează în mod semnificativ sănătatea, siguranța sau drepturile fundamentale ale oamenilor ori mediul înconjurător. Sistemele de IA folosite pentru a influența alegătorii și rezultatul alegerilor și în sistemele de recomandare utilizate de platformele de comunicare socială (cu peste 45 de milioane de utilizatori) au fost adăugate pe lista cu risc ridicat.
Obligații pentru IA de uz general
Furnizorii de sisteme de inteligență artificială de uz general – o branșă nouă, cu evoluție rapidă în domeniul IA – vor trebui să evalueze și să atenueze posibilele riscuri (față de sănătate, siguranță, drepturile fundamentale, mediu, democrație și statul de drept) și să își înregistreze modelele în baza de date a Uniunii înainte de a le lansa pe piața UE.
Sistemele de IA generative bazate pe astfel de modele, cum ar fi ChatGPT, ar trebui să respecte cerințele de transparență (adică trebuie să divulge când un conținut a fost generat de IA, inclusiv pentru a ajuta la distingerea așa-numitelor imagini „deep fake” de cele reale) și să introducă garanții împotriva generării de conținut ilegal. Ar trebui să fie puse la dispoziția publicului și rezumate detaliate ale datelor protejate prin drepturi de autor folosite pentru a antrena aceste sisteme.
Sprijinirea inovării și protejarea drepturilor cetățenilor
Pentru a stimula inovarea în domeniul IA și pentru a sprijini IMM-urile, deputații au adăugat derogări pentru activitățile de cercetare și componentele de IA furnizate sub licențe cu sursă deschisă. Noua lege promovează așa-numitele „spații de testare în materie de reglementare”, adică medii controlate similare cu cel real, create de autoritățile publice pentru a testa IA înainte de a o folosi în situații reale.
În fine, eurodeputații doresc să consolideze dreptul cetățenilor de a depune plângeri despre sistemele de IA și de a primi explicații despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care au un impact semnificativ asupra drepturilor lor fundamentale. De asemenea, eurodeputații au actualizat rolul Oficiului pentru IA al Uniunii Europene, care va avea sarcina de a monitoriza modul în care este pus în aplicare cadrul de reglementare privind IA.
Surse: Euronews.com, Parlamentul European
