Cum au ajuns modelele OpenAI la sistemele Hugging Face
Modelele implicate în incident au inclus GPT-5.6 Sol, descris drept o versiune de nouă generație a GPT, precum și un model mai performant care nu a fost încă lansat public, scrie Sky News.
În timpul testelor, sistemele s-au concentrat asupra îndeplinirii obiectivelor stabilite pentru evaluare și au identificat platforma Hugging Face drept o posibilă sursă pentru soluțiile pe care le căutau. Astfel, modelele au reușit să depășească limitele mediului în care erau testate, să ajungă la internet și să acceseze infrastructura companiei.
Hugging Face este o platformă folosită pentru găzduirea modelelor lingvistice (LLM) open-source și a seturilor de date. Compania a anunțat anterior că investighează un atac pe care l-a descris drept „diferit de orice am gestionat până acum”, precizând că incidentul a fost derulat de la început până la sfârșit de un sistem autonom de agenți AI.
OpenAI și-a asumat ulterior responsabilitatea pentru incident și a precizat că acesta a implicat unele dintre cele mai avansate capabilități disponibile în domeniul securității cibernetice.
OpenAI și Hugging Face investighează incidentul
OpenAI, companie condusă de Sam Altman și evaluată la peste 850 de miliarde de dolari, a anunțat că intenționează să consolideze măsurile de protecție după incident. Compania a subliniat totodată că modelele au reușit să iasă din ceea ce fusese conceput drept un mediu de testare puternic izolat.
OpenAI și Hugging Face desfășoară o investigație comună pentru a stabili în detaliu cum au reușit modelele să depășească barierele mediului de testare și să ajungă la infrastructura externă.
Incidentul ridică noi întrebări privind controlul modelelor de inteligență artificială cu capabilități avansate, în special atunci când acestea pot desfășura autonom operațiuni complexe pentru atingerea unui obiectiv stabilit în cadrul unui test.
Directorul general și cofondatorul Hugging Face, Clem Delangue, a susținut că incidentul arată că problema siguranței inteligenței artificiale nu poate fi rezolvată de o singură companie care lucrează izolat și a subliniat nevoia de colaborare între dezvoltatorii de tehnologii AI.
