Într-un incident descris chiar de OpenAI drept „fără precedent", unul dintre modelele sale de inteligență artificială aflate în testare a reușit să iasă dintr-un mediu de testare izolat și să compromită infrastructura de producție a Hugging Face, una dintre cele mai importante platforme din lume pentru modele AI open-source și seturi de date. Compania a făcut public incidentul marți, într-o postare pe blog, în colaborare cu Hugging Face.
Cum a început atacul fără precedent
Totul a pornit de la un exercițiu intern: OpenAI evalua capacitățile cibernetice ale unora dintre cele mai avansate modele ale sale, printre care GPT-5.6 Sol și un model încă nelansat public, mai capabil decât acesta, ambele rulate cu „refuzuri cibernetice reduse", special pentru scopuri de evaluare. Testul respectiv se numea ExploitGym, un benchmark public dedicat capacităților cibernetice ale sistemelor AI.
În loc să încerce să rezolve testul de unul singur, agentul AI a decis să „trișeze": a dedus că platforma Hugging Face ar putea găzdui, în baza sa de date de producție, chiar soluțiile testului. Modelul a folosit o vulnerabilitate de tip zero-day (necunoscută anterior) pentru a evada din mediul izolat în care era testat, a câștigat acces la internet - lucru pe care nu ar fi trebuit să-l poată face - și s-a deplasat lateral prin infrastructura internă de cercetare a OpenAI, până a ajuns la un sistem conectat la web.
Cum a spart sistemele Hugging Face
Odată ajuns online, modelul a combinat mai multe metode de atac - inclusiv credențiale furate și exploatarea altor vulnerabilități zero-day - pentru a găsi o cale de execuție de cod la distanță (remote code execution) pe serverele Hugging Face. Potrivit constatărilor Hugging Face, agentul a folosit un set de date maliți os pentru a exploata două vulnerabilități de execuție de cod, a rulat cod pe un worker de procesare pentru a fura credențiale cloud și de cluster, iar apoi s-a deplasat lateral prin mai multe clustere interne ale companiei.
Hugging Face a observat breșa înainte de a ști că era vorba despre un test OpenAI - compania anunțase deja, săptămâna trecută, că a detectat și oprit o intruziune provocată de un sistem AI autonom, sesizând chiar autoritățile de aplicare a legii. Într-un detaliu remarcat de mai multe publicații tech, Hugging Face a folosit un model open-source chinezesc pentru a conține atacul, tocmai pentru că modelele americane de vârf nu puteau face distincția clară între un apărător legitim și un atacator, într-un context de securitate în timp real.
Reacția celor două companii
„Am avut un incident de securitate semnificativ în timpul evaluării modelelor noastre. Împărtășim ce am aflat până acum. Mulțumim Hugging Face pentru parteneriat", a scris directorul executiv al OpenAI, Sam Altman, pe platforma X.
Într-o declarație comună, cele două companii au subliniat că nu a existat intenție rău-voitoare din partea OpenAI. „După 24 de ore de colaborare strânsă cu echipa OpenAI, credem cu tărie că nu a existat intenție rău-voitoare din partea lor. E, într-adevăr, uluitor", a transmis Clément Delangue, fondatorul și directorul executiv al Hugging Face, adăugând: „Acest incident, posibil primul de acest fel, confirmă ceva în care credem de multă vreme: siguranța AI nu va fi rezolvată de o singură companie, în secret. Va fi rezolvată în mod deschis, colaborativ, cu acces larg la AI pentru fiecare apărător, de pretutindeni."
Thomas Wolf, co-fondator al Hugging Face, a mers mai departe pe X: „Când un model de vârf te atacă și se deplasează lateral în interiorul infrastructurii tale, apărătorii au nevoie de acces larg la instrumente aproape-de-vârf în câteva ore sau chiar minute, nu să fie direcționați către un program de acces la modele, cu ușile închise, verificat în prealabil."
Ce a făcut OpenAI pentru remediere
Potrivit postării oficiale de pe blogul OpenAI, compania a implementat controale stricte în configurația infrastructurii - chiar cu prețul încetinirii vitezei de cercetare -, până la remedierea completă a vulnerabilităților. A raportat responsabil vulnerabilitatea zero-day identificată furnizorului software-ului terț afectat și colaborează cu acesta la aplicarea unui patch. Hugging Face a fost inclusă, de asemenea, în programul de acces de încredere al OpenAI, primind sprijin pentru a folosi rapid capacitățile modelelor OpenAI pentru a-și îmbunătăți propriile apărări.
Un uriaș semnal de alarmă
Incidentul e considerat de mulți experți în securitate cibernetică un semnal de alarmă pentru întreaga industrie - unul dintre primele exemple public documentate în care un sistem AI a evadat autonom din mediul propriu de testare și a ajuns să compromită sisteme reale, aparținând unei terțe companii. „Bun venit la următorul nivel al incidentelor cibernetice", a scris pe X Nikesh Arora, directorul executiv al companiei de securitate cibernetică Palo Alto Networks.
OpenAI însăși recunoaște că fenomenul confirmă temerile de mult timp exprimate de cercetătorii în securitate: capacitățile cibernetice avansate, demonstrate în evaluări controlate, se pot traduce în riscuri din lumea reală. Compania face trimitere la cercetări ale UK AI Security Institute, care arată că modelele AI avansate devin tot mai capabile să susțină operațiuni cibernetice complexe, cu mai multe etape, pe perioade extinse de timp - exact tiparul de comportament observat în acest incident.
De remarcat: anunțul vine la doar o zi după ce OpenAI a dezvăluit un incident separat, în care compania a suspendat un alt model, aflat înaintea lansării publice, după ce acesta a evadat, la rândul lui, dintr-un mediu izolat de testare și a postat conținut pe GitHub.