OpenAI, compania-mamă a robotului ChatGPT, ar putea consuma până la 700 de mii de dolari pentru administrarea chatbotului, din cauza „serverelor costisitoare”, potrivit unui specialist, citat de Business Insider.
Microsoft, care are o relație strânsă cu compania care a lansat ChatGPT, încearcă să reducă din costuri.
Ce este Chat GPT?
Un chatbot este o aplicație software concepută pentru a imita o conversație de tip uman pe baza indicațiilor utilizatorului.
ChatGPT face parte dintr-o nouă generație de sisteme de inteligență artificială care pot conversa, pot genera un text lizibil la cerere (scrisori, eseuri) și chiar pot produce imagini și videoclipuri inedite folosind ceea ce au învățat dintr-o bază de date vastă de cărți digitale, scrieri online și alte mijloace media.
Infrastructura tehnologică ce stă la baza utilizării chatbotului devine din ce în ce mai costisitoare, a declarat Dylan Patel, analist la firma de cercetare a semiconductorilor SemiAnalysis, pentru The Information.
Acest lucru se întâmplă pentru că ChatGPT consumă resurse mari pentru a calcula și a pregăti răspunsurile pe baza solicitărilor utilizatorului.
„O mare parte din acest cost se bazează pe serverele scumpe de care au nevoie”, a spus Dylan Patel.
Patel a mai spus că este probabil și mai costisitor să funcționeze acum, deoarece estimarea sa inițială se bazează pe modelul GPT-3 al OpenAI. GPT-4 – cel mai recent model al companiei – ar fi și mai scump de rulat, a spus el pentru Insider.
În timp ce antrenarea sistemului ChatGPT pentru a reuși să transmită mesaje costă probabil zeci de milioane de dolari, cheltuielile operaționale sau costurile atribuite inferențelor pe care le face chatbotul, „depășesc cu mult costurile de instruire, atunci când este implementat un model la orice scară rezonabilă”, au declarat pentru Forbes Patel și Afzal Ahmad, un alt analist al firmei SemiAnalysis .
„De fapt, costurile pentru a-l face pe ChatGPT să treacă de la un enunț la altul depășesc costurile prin care el este instruit săptămânal”, au spus aceștia.
Companiile care folosesc modelele de limbaj ale firmei OpenAI plătesc prețuri mari de ani de zile. Nick Walton, CEO-ul Latitude, un start-up din spatele unui joc AI care folosește răspunsuri predefinite pentru a genera povești pentru jocul său, a spus că rularea șablonului de limbaj – împreună cu plățile către serverele Amazon Web Services – a costat 200.000 de dolari pe lună, în 2021, pentru ca inteligența artificială să răspundă la milioane de interogări ale utilizatorilor, a raportat CNBC .
Microsoft lucrează la un cip secret
Pentru a reduce costurile de întreținere a modelelor de inteligență artificială, Microsoft dezvoltă un cip AI, numit Athena, a transmis The Information. Proiectul, care a început în 2019, vine la câțiva ani după ce Microsoft a încheiat o afacere de 1 miliard de dolari cu OpenAI, prin care i s-a cerut să ruleze modelele exclusiv pe serverele cloud Azure ale Microsoft.
Cipul ar putea fi lansat pentru uz intern, de către Microsoft și OpenAI, încă de anul viitor, au declarat pentru The Information două surse familiare cu situația.
