Geoffrey Hinton a fost un pionier al Inteligenței Artificiale (AI). În 2012, Dr. Hinton și doi dintre studenții săi absolvenți de la Universitatea din Toronto au creat o tehnologie care a devenit baza intelectuală pentru sistemele de AI pe care cele mai mari companii din industria tehnologică le consideră cheia viitorului lor.
Luni, însă, el s-a alăturat oficial unui cor tot mai mare de critici care spun că aceste companii se îndreaptă cu viteză spre o zonă periculoasă, prin campania lor agresivă de a crea produse bazate pe inteligența artificială generativă, tehnologia care alimentează chatboturile populare precum ChatGPT.
Dr. Hinton a declarat că a renunțat la slujba sa de la Google, unde a lucrat mai bine de un deceniu și a devenit una dintre cele mai respectate voci din domeniu, pentru a putea vorbi liber despre riscurile Inteligenței Artificiale, potrivit New York Times.
„Mă consolez cu scuza obișnuită: dacă nu aș fi făcut-o eu, altcineva ar fi făcut-o”, a spus Dr. Hinton.
Un punct de inflexiune
Călătoria doctorului Hinton de la pionier al AI, la critic, marchează un moment remarcabil pentru industria tehnologică, poate cel mai important punct de inflexiune din ultimele decenii. Liderii industriei consideră că noile sisteme de inteligență artificială ar putea fi la fel de importante ca și introducerea browserului web la începutul anilor 1990 și ar putea duce la descoperiri noi în domenii variate, de la medicină, la educație.
Dar, pe mulți care fac parte din industrie, îi macină teama că lansează ceva potențial periculos. Inteligența Artificială generativă poate fi deja un instrument de dezinformare. În curând, ar putea reprezenta un risc pentru locurile de muncă. La un moment dat, spun cei care se tem cel mai mult de tehnologie, ar putea fi un risc pentru umanitate.
După ce OpenAI, un start-up din San Francisco, a lansat în martie o nouă versiune a ChatGPT, peste 1.000 de lideri din domeniul tehnologiei și cercetători au semnat o scrisoare deschisă în care au cerut o pauză de șase luni asupra dezvoltării de noi sisteme, deoarece tehnologiile de inteligență artificială prezintă „riscuri profunde pentru societate și umanitate”.
Câteva zile mai târziu, 19 actuali și foști lideri ai Asociației pentru Progresul Inteligenței Artificiale, o societate academică cu o vechime de 40 de ani, au publicat propria scrisoare de avertizare cu privire la riscurile AI. Din acest grup făcea parte Eric Horvitz, director științific la Microsoft, care a implementat tehnologia OpenAI într-o gamă largă de produse, inclusiv în motorul de căutare Bing.
Dr. Hinton, numit adesea „Nașul AI”, nu a semnat niciuna dintre aceste scrisori și a declarat că nu a dorit să critice public Google sau alte companii până când nu își va părăsi locul de muncă. Luna trecută, el a anunțat compania că demisionează, iar joi a vorbit la telefon cu Sundar Pichai, directorul executiv al companiei mamă a Google, Alphabet. El a refuzat să discute în mod public detaliile conversației sale cu Pichai.
O viață în slujba Inteligenței Artificiale
Dr. Hinton, în vârstă de 75 de ani, este un academician a cărui carieră a fost determinată de convingerile sale personale cu privire la dezvoltarea și utilizarea Inteligenței Artificiale. În 1972, în calitate de student absolvent la Universitatea din Edinburgh, Dr. Hinton a îmbrățișat o idee numită „rețea neuronală”. O rețea neuronală este un sistem matematic care învață noi abilități prin analizarea datelor. La acea vreme, puțini cercetători credeau în această idee.
În anii ‘80, Dr. Hinton a fost profesor de informatică la Universitatea Carnegie Mellon, dar a părăsit universitatea pentru Canada, deoarece a declarat că a fost reticent în a accepta finanțarea Pentagonului. La acea vreme, cea mai mare parte a cercetării în domeniul Inteligenței Artificiale din Statele Unite era finanțată de Departamentul Apărării. Dr. Hinton se opune profund utilizării inteligenței artificiale pe câmpul de luptă - ceea ce el numește „soldați roboți”.
În 2012, Dr. Hinton și doi dintre studenții săi din Toronto, Ilya Sutskever și Alex Krishevsky, au construit o rețea neuronală care poate analiza mii de fotografii și se poate învăța singură să identifice obiecte obișnuite, cum ar fi flori, câini și mașini.
Google a cheltuit 44 de milioane de dolari pentru a achiziționa o companie înființată de Dr. Hinton și de cei doi studenți ai săi. Iar sistemul lor a dus la crearea unor tehnologii din ce în ce mai puternice, inclusiv a chatboturilor, precum ChatGPT și Google Bard.
În 2018, Dr. Hinton și alți doi colaboratori de lungă durată au primit Premiul Turing, adesea numit „Premiul Nobel al informaticii”, pentru activitatea lor în domeniul rețelelor neuronale.
Cam în aceeași perioadă, Google, OpenAI și alte companii au început să construiască rețele neuronale care să învețe din cantități uriașe de text digital. Dr. Hinton a considerat că era o modalitate puternică pentru ca mașinile să înțeleagă și să genereze limbaj, dar era inferioară modului în care oamenii gestionau limbajul.
Apoi, anul trecut, pe măsură ce Google și OpenAI au construit sisteme care foloseau cantități mult mai mari de date, opinia sa s-a schimbat. El credea în continuare că sistemele erau inferioare creierului uman în unele privințe, dar credea că eclipsau inteligența umană în altele.
O competiție periculoasă
Pe măsură ce companiile își îmbunătățesc sistemele de Inteligență Artificială, crede el, acestea devin din ce în ce mai periculoase. „Uitați-vă cum era acum cinci ani și cum este acum”, a spus el despre tehnologia AI.
Până anul trecut, a spus el, Google a acționat ca un „administrator adecvat” pentru această tehnologie, atent să nu lanseze ceva care ar putea provoca daune. Dar acum că Microsoft și-a îmbogățit motorul de căutare Bing cu un chatbot - provocând activitatea principală a Google - Google se grăbește să implementeze același tip de tehnologie. Giganții tehnologiei sunt blocați într-o competiție care ar putea fi imposibil de oprit, a declarat Dr. Hinton.
Preocuparea sa imediată este legată de faptul că internetul va fi inundat de fotografii, videoclipuri și texte false, iar omul obișnuit „nu va mai putea ști ce este adevărat”.
De asemenea, este îngrijorat de faptul că tehnologiile de inteligență artificială vor bulversa în timp piața muncii. În prezent, chatboturile, precum ChatGPT, tind să completeze oamenii, dar ar putea înlocui asistenții juridici, asistenții personali, traducătorii și alte persoane care se ocupă de sarcini repetitive. „Elimină munca de rutină”, a spus el. „Ar putea elimina mai mult decât atât”.
Pe viitor, el este îngrijorat că viitoarele versiuni ale tehnologiei reprezintă o amenințare pentru umanitate, deoarece acestea învață adesea comportamente neașteptate din cantitățile uriașe de date pe care le analizează. Acest lucru devine o problemă, a spus el, pe măsură ce indivizii și companiile permit sistemelor de AI nu numai să genereze propriul cod informatic, ci și să ruleze efectiv acest cod pe cont propriu. Aceste se teme că într-o zi, armele cu adevărat autonome - acei roboți ucigași - vor deveni realitate.
