OpenAI a înființat o comisie pentru siguranță și securitate, din care face parte și directorul executiv Sam Altman. Decizia a fost adoptată în condițiile în care compania sprijinită de Microsoft începe antrenarea noului său model de inteligență artificială, relatează Reuters.
Directorii Bret Taylor, Adam D'Angelo și Nicole Seligman vor conduce comisia pentru siguranță și securitate, a anunțat marți OpenAI pe blogul companiei.
Chatbotul cu inteligență artificială generativă pe care l-a dezvoltat este capabil să poarte conversații similare cu cele umane și să genereze imagini în baza unor indicații scrise, ceea ce a generat temeri privind siguranța, având în vedere că aceste modele de AI devin mai avansate.
Noua comisie va avea responsabilitatea de a face recomandări forului de conducere al companiei privind deciziile în materie de siguranță și securitate.
„Formarea unei comisii pentru siguranță înseamnă faptul că OpenAI finalizează procesul de transformare de la o entitate de tip nonprofit, la o entitate comercială. Acest lucru ar trebui să ajute la eficientizarea dezvoltării produselor, menținând în același timp responsabilitatea”, a declarat directorul general al companiei D.A. Davidson, Gil Luria, potrivit Reuters.
Ce responsabilități va avea comisia pentru siguranță și securitate a OpenAI
Comisia urmează să evalueze și să dezvolte în continuare măsurile de securitate deja existente ale OpenAI în următoarele 90 de zile și, mai apoi, va formula recomandări consiliului de administrație.
După evaluarea consiliului, OpenAI va face publică o actualizare a recomandărilor implementate, a anunțat compania.
Printre ceilalți membri ai comitetului se numără Jakub Pachocki, șeful de departamentului de cercetare, și Matt Knight, șeful departamentului de securitate. De asemenea, compania se va consulta și cu alți experți, printre care Rob Joyce, fost director de securitate cibernetică al Agenției Naționale de Securitate a SUA, și John Carlin, fost oficial al Departamentului de Justiție.
OpenAI nu a oferit mai multe detalii despre noul model de inteligență artificială pe care îl pregătește, cu excepția faptului că acesta va aduce sistemele sale la „următorul nivel de capabilități în drumul nostru spre AGI (inteligență artificială generală)”.
La începutul lunii mai, OpenAI a anunțat un nou model de inteligență artificială capabil să poarte conversații precum un asistent vocal și de interacțiune prin text și imagine.
