Să distingem realitatea de ficțiune ar putea să devină o sarcină complicată sau chiar imposibilă în viitorul foarte apropiat, mai ales în contextul în care compania mamă a Chat GPT a lansat Sora. Acest soft cu inteligență artificială poate produce aproape instant materiale video, doar în baza unui text.
Acest lucru trezește deja îngrijorări în rândul specialiștilor. Radu Hângănuț a urmărit reacțiile de după lansarea SORA și ne aduce mai multe detalii, la The Cube.
Sora este creat de OpenAI, compania care în trecut a lansat și ChatGPT.
Radu Hângănuț, realizator #TheCube: ”Acest clip a fost realizat cu un singur prompt. Spunem prompt comenzilor pe care i le dăm inteligenței artificiale. Sunt de fapt proporții care descriu ceea ce noi ne dorim să fie în imagini.
De exemplu, o cursă cu biciclete în ocean, cu diferite animale în calitate de atleți și o perspectivă din dronă. Clipul a fost creat fără a fi nevoie de graficieni sau de ustensile. Totul este produs de inteligența artificială”.
În contextul în care am putut vedea doar o parte din puterea pe care o are această nouă tehnologie, foarte mulți experți în acest domeniu s-au arătat îngrijorați de ceea ce ar putea însemna pentru oameni această schimbare de mod de a utiliza tehnologia. Unii vorbesc despre sfârșitul civilizației umane.
Andrei Petreanu, cofondator al Romanian A.I. Alliance, despre SORA. ”Poate să genereze absolut orice”
La Euronews România, Andrei Petreanu, cofondator al Romanian A.I. Alliance, a explicat că ”OpenAI nu va lansa această tehnologie gratis pentru toată lumea pe Internet să poată fi folosită oricând”.
Andrei Petreanu, cofondator al Romanian A.I. Alliance: ”Așa cum am văzut și cu ChatGPT vor exista modele publice - open source în maximum un an de zile care vor avea cam aceleași capabilități. În următorul an vom vedea modele publice chiar dacă nu de la compania OpenAI în mod direct.
Sora este un general world model, asta înseamnă că în materie de video poate să înțeleagă absolut orice din lumea reală, lumea descrisă în video pe Internet.
Acest model poate să genereze absolut orice. Dacă îi spunem: «nu genera elefanți sau pinguini», el trebuie să știe ce înseamnă un elefant sau un pinguin ca să știe apoi că nu are voie să-i genereze.
În ceea ce privește conținutul malițios, de tip deepfake, cu politicieni sau scene de război, știe deja cum să genereze astfel de lucruri și probabil că OpenAI lucrează din greu pentru a impune reguli în interiorul modelului ca să-l blocheze din a genera astfel de deepfake”.
Expert, despre nevoia de reglementare a sistemelor AI: ”Trebuie să ne luăm noi măsuri de siguranță”
Andrei Petreanu, cofondator al Romanian A.I. Alliance: ”Poate să afecteze democrația subtil, așa cum am văzut în prealabil în diverse experimente în perioada alegerilor, așa cum putem să vedem pe Internet atacuri cibernetice de tipul deepfake din partea mai multor actori.
Toate aceste mici atacuri la adresa democrației ne vor afecta și economic și social. Din păcate, asta e lumea în care trăim. Trebuie să ne luăm noi măsuri de siguranță”
Petreanu a evidențiat că atunci când folosim sistemele cu inteligență artificială ”responsabilitatea aceasta nu trebuie să fie doar a utilizatorilor sau a celor care fără să vrea ajung să fie expuși unor astfel de materiale malițioase”.
Andrei Petreanu, cofondator al Romanian A.I. Alliance: ”Responsabilitatea trebuie să fie și a platformelor care distribuie aceste materiale, trebuie să fie și a Guvernului și a jurnaliștilor și a trusturilor media (...) care să valideze informația și să joace un rol de gardian al informației adevărate în această nouă eră a Internetului”.
”Vom avea o tehnologie care va fi inseparabilă de iluzia realității”
Andrei Petreanu, cofondator al Romanian A.I. Alliance: ”Tehnologia este capabilă să genereze absolut orice și în momentul ăsta dacă ești foarte atent și cauți imperfecțiuni în acele video-uri generate care dau de gol faptul că este generat de inteligența artificială și nu este o filmare reală.
Nu mai durează foarte mult timp până când vom avea o tehnologie care va fi inseparabilă de iluzia realității, iluzia unor scene absolut reale și perfect fidele unei filmări.
E foarte ușor pentru grupe mari de populație - copii, bătrâni - să distribuie astfel de informație, fără să știe, ei înșiși fiind victimele acestui sistem de neadevăr. Ei nu o știe că nu este adevărat și o să distribuie mai departe. Nu avem cum să pedepsim pe toată lumea. Am intra într-un soi de atac al democrației dacă ajungem să pedepsim pe toată lumea.
Este important ca lumea să își ia responsabilitatea de a verifica din surse credibile ceea ce consumă pe Internet.
Aceste platforme sociale nu sunt spațiul în care să consumi informații importante despre societate, război sau politică. Sunt doar platforme prin care să împarți poze cu familia și să asculți muzică”
