Agenţia pentru protecţia datelor din Italia a anunţat vineri că interzice chatbot-ului cu inteligenţă artificială dezvoltat de compania Replika să folosească datele personale ale cetăţenilor italieni. Statul invocă riscurile la care ar putea fi supuși minorii și persoanele „fragile din punct de vedere emoțional”, informează Reuters, potrivit Agerpres.
„Prieteni virtuali”
Replika, un startup din San Francisco lansat în 2017, le oferă utilizatorilor avataruri personalizate care îi ascultă şi vorbesc cu aceştia.
Este popular în rândul vorbitorilor de engleză şi, deşi poate fi utilizat gratuit, aduce venituri lunare de circa două milioane de dolari din vânzarea unor servicii suplimentare, cum ar fi chat-urile vocale.
Acest „prieten virtual” este promovat ca având abilităţi pentru a îmbunătăţi bunăstarea emoţională a utilizatorilor.
Riscuri pentru utilizatori
Agenţia de reglementare italiană a spus că, întrucât poate influenţa starea de spirit a utilizatorului, „poate prezenta riscuri pentru persoanele care se află încă într-o etapă de dezvoltare sau într-o stare de fragilitate emoţională”.
Jen Persson, directoarea asociaţiei care militează pentru protejarea confidenţialităţii copiilor Defend Digital Me, a declarat că dispozitivele proiectate în scopul influenţării stării de spirit a unui copil sau a bunăstării sale mintale ar trebui clasificate ca produse de sănătate şi ar trebui astfel să fie subiectul unor standarde de siguranţă stricte.
„Aceste instrumente sunt lăsate la îndemâna copiilor fără un control serios în ceea ce priveşte protecţia împotriva unei utilizări necorespunzătoare”, a spus ea.
Agenţia de reglementare italiană a subliniat absenţa unui mecanism de verificare a vârstei, cum ar fi filtrele pentru minori sau un dispozitiv de blocare dacă utilizatorii nu-şi declară în mod explicit vârsta.
Replika încalcă Regulamentul european privind protecţia datelor şi procesează datele personale ilegal întrucât nu se bazează, măcar implicit, pe un contract pe care un minor nu-l poate semna, a mai precizat autoritatea.
Replika nu a răspuns imediat unui cereri de comentarii adresate de Reuters prin e-mail.
Robert Grosvenor, director al firmei de avocatură Alvarez & Marshall, a spus că autoritatea de reglementare italiană nu este probabil singura astfel de instituţie europeană care ia în considerare măsuri împotriva unor companii precum Replika.
„Deşi verificarea vârstei ar putea furniza mijloace pentru protejarea unor grupuri vulnerabile, nu abordează riscurile şi prejudiciile pe care serviciile şi soluţiile pe baza AI le pot reprezenta dacă nu sunt reglementate în ceea ce priveşte potenţialul pentru părtinire sau discriminare neintenţională”, a spus el.
Dezvoltatorul Replika, compania Luka Inc din Satele Unite, trebuie să notifice autoritatea italiană în legătură cu măsurile luate în vederea implementării solicitărilor în termen de 20 de zile şi riscă o amendă de până la 20 de milioane de euro sau de până la 4% din cifra de afaceri anuală globală, se mai spune în comunicat.
