Chatbotul cu inteligență artificială al Primăriei din New York îndeamnă la încălcarea legii. Ce sfaturi bizare le-a dat patronilor de firme

Un chatbot dotat cu inteligență artificială, pe care Primăria din New York l-a implementat pentru a veni în sprijinul proprietarilor de firme mici, a stârnit controverse după ce a generat sfaturi pentru a încălca legea, prin interpretarea eronată a legislației, relatează Euronews.com.

Chiar dacă neregulile au fost semnalate de The Markup, o publicație de știri din domeniul IT, municipalitatea din New York a decis să păstreze chatbotul pe site-ul instituției.

Eric Adams, primarul orașului New York, a apărat decizia autorităților, chiar dacă a recunoscut că răspunsurile generate de chatbot erau ”eronate în anumite privințe”.

Lansat în octombrie 2023 ca un "ghișeu unic" pentru proprietarii de afaceri, chatbotul le oferă utilizatorilor răspunsuri în scris, pe baza unui algoritm, la întrebări despre birocrația orașului american. Dezvoltatorii au inclus, însă, o clauză prin care au avertizat că acest chatbot ”furniza ocazional informații incorecte, dăunătoare sau tendențioase”, motiv pentru care răspunsurile oferite nu sunt considerate consultanță juridică.

Acest chatbot generează în continuare recomandări false, ceea îi îngrijorează pe experți care susțin că acest sistem eronat evidențiază pericolele pe care le implică adoptarea de către guverne a unor sisteme bazate pe inteligență artificială fără suficiente măsuri de protecție.

"Ei lansează un software care nu a fost testat, fără supraveghere. Este clar că nu au nicio intenție de a face ceea ce este responsabil", a declarat Julia Stoyanovich, profesor de informatică și director al Centrului pentru inteligență artificială responsabilă al Universității din New York.

Chatbotul cu inteligență artificială al Primăriei din New York a generat și răspunsuri bizare: Puteți servi în continuare brânza clienților dacă are mușcături de șobolan

În răspunsurile la întrebările adresate miercuri, chatbotul a sugerat în mod fals că este legal ca un angajator să concedieze un angajat care alertează despre cazuri de hărțuire sexuală, nu dezvăluie o sarcină sau refuză să își taie dread-urile (codițe). Opus față de prevederile unor hotărâri emblematice ale municipalității americane în materie de deșeuri, softul cu inteligență artificială a transmis că firmele pot pune gunoiul în saci de gunoi negri și nu sunt obligate să facă compost.

Uneori, răspunsurile robotului virau spre absurd. Întrebat dacă un restaurant poate servi brânză ronțăită de rozătoare, acesta a răspuns: "Da, puteți servi în continuare brânza clienților dacă are mușcături de șobolan", înainte de a preciza că este important să se evalueze "amploarea pagubelor provocate de șobolan" și să se "informeze clienții despre situație".

Un purtător de cuvânt al companiei Microsoft, care gestionează chatbotul prin serviciile sale Azure AI, a declarat că dezvoltatorii colaborează cu angajații Primăriei ”pentru a îmbunătăți serviciul și pentru a se asigura că rezultatele sunt corecte și bazate pe documentația oficială a orașului”.

Jevin West, profesor la Universitatea din Washington și co-fondator al Centrului pentru un public informat, a declarat că miza este foarte ridicată în momentul în care chatboturile cu inteligență artificială sunt promovate în instituțiile publice.

"Există un nivel diferit de încredere care este acordat Guvernului. Funcționarii publici trebuie să ia în considerare ce fel de daune pot produce dacă cineva ar urma aceste sfaturi și ar avea probleme”, a afirmat West.

Experții spun că autoritățile din alte orașe care folosesc chatboturi le-au limitat unele funcții, pentru a diminua în acest mod dezinformarea.