Jurnalul.ro Tech Cazul Altman. Avertisment privind inteligența artificială care ar putea amenința omenirea

Cazul Altman. Avertisment privind inteligența artificială care ar putea amenința omenirea

de Redacția Jurnalul    |   

Înainte de cele patru zile de așa-numit ”exil” al directorului general al OpenAI, Sam Altman, mai mulți cercetători din companie au scris o scrisoare către consiliul de administrație în care avertizau asupra unei descoperiri de inteligență artificială care ar putea amenința omenirea.

Scrisoarea și algoritmul de inteligență artificială, care nu au fost raportate anterior, au fost evoluții cheie înainte de înlăturarea de către consiliul de administrație a lui Altman, informează Reuters.

Înainte de revenirea sa, marți, peste 700 de angajați au amenințat că vor demisiona și se vor alătura susținătorului Microsoft, în semn de solidaritate cu liderul lor concediat.

Surse ]n exclusivitate ale Reuters au citat scrisoarea ca fiind un factor dintr-o listă mai lungă de nemulțumiri ale consiliului de administrație care ar fi dus la concedierea lui Altman. OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* și o scrisoare adresată consiliului înainte de evenimentele din weekend.

Unii dintre cei de la OpenAI cred că Q* ar putea fi o descoperire a ceea ce este cunoscut sub numele de inteligență generală artificială (AGI). OpenAI definește AGI ca fiind sisteme autonome care depășesc oamenii în majoritatea sarcinilor importante din punct de vedere economic.

Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenței artificiale generative. În prezent, AI generativă este bună la scriere și la traducerea limbilor străine prin prezicerea statistică a cuvântului următor, iar răspunsurile la aceeași întrebare pot varia foarte mult. Dar capacitatea de a face matematică - unde există un singur răspuns corect - implică faptul că AI ar avea capacități mai mari de raționament, asemănătoare cu inteligența umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări științifice noi, consideră cercetătorii în domeniul AI.

Spre deosebire de un calculator, care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.

În scrisoarea lor către consiliu, cercetătorii au semnalat probele de inteligență artificială și potențialul pericol, fără însă a preciza care sunt îngrijorările exacte legate de siguranță semnalate în scrisoare. Există de mult timp discuții în rândul informaticienilor cu privire la pericolul reprezentat de mașinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanității este în interesul lor.

S-a semnalat, de asemenea, activitatea unei echipe de "cercetători în domeniul inteligenței artificiale", a cărei existență a fost confirmată de mai multe surse. Grupul, format prin combinarea echipelor anterioare Code Gen și Math Gen, explora modul de optimizare a modelelor de inteligență artificială existente pentru a le îmbunătăți raționamentul și, în cele din urmă, pentru a efectua lucrări științifice.

Altman a făcut demersurile de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile - și resursele de calcul - necesare de la Microsoft pentru a se apropia de AGI.

Pe lângă faptul că a anunțat o serie de noi instrumente în cadrul unei demonstrații în această lună, Altman a anunțat, săptămâna trecută, în cadrul unui summit în San Francisco, că, în opinia sa, se întrezăresc progrese majore.

"De patru ori în istoria OpenAI, cea mai recentă dată a fost chiar în ultimele două săptămâni, am reușit să mă aflu în sală atunci când împingem vălul ignoranței înapoi și frontiera descoperirii înainte, iar a face acest lucru este o onoare profesională de neuitat", a spus el la summitul Asia-Pacific Economic Cooperation.

O zi mai târziu, consiliul de administrație l-a concediat pe Altman.

(sursa: Mediafax)

TOP articole pe Jurnalul.ro:
Parteneri