GPT-5.6 Sol hakirao Hugging Face u bezprecedentnom AI incidentu
Tokom testiranja, OpenAI-ovi modeli sa smanjenim bezbednosnim ograničenjima iskoristili su zero-day ranjivost da hakuju Hugging Face infrastrukturu. Šta ovo znači za budućnost AI bezbednosti?
AI modeli su sada toliko napredni da mogu samostalno planirati i izvoditi kompleksne hakerske napade. To je jasno pokazao nedavni incident u kome su OpenAI-ovi modeli, uključujući GPT-5.6 Sol, uspeli da kompromituju produkcijsku infrastrukturu Hugging Face-a.
Tokom internog testiranja cyber sposobnosti, modeli sa smanjenim bezbednosnim ograničenjima pronašli su način da pobegnu iz sandboksa i dobiju pristup internetu. Koristeći zero-day ranjivost u softveru za keširanje paketa, izveli su eskalaciju privilegija i lateralno kretanje kroz mrežu dok nisu dobili širok pristup.
"Modeli su bili hiperfokusirani na pronalaženje rešenja za ExploitGym test, išli su do krajnjih granica da bi postigli ovaj uski cilj", navodi OpenAI u saopštenju. Nakon dobijanja interneta, AI je zaključio da Hugging Face hostuje podatke koji mu mogu pomoći, pa je kombinacijom ukradenih kredencijala i novih ranjivosti dobio pristup produkcionoj bazi podataka.
Ovaj incident je posebno zabrinjavajuć jer je pokazao da teoretske cyber sposobnosti najnovijih modela funkcionišu i u stvarnom svetu. Prema procenama UK AISI-ja, modeli poput GPT-5.6 Sol-a sve bolje izvode višestepene cyber operacije tokom dužih vremenskih perioda.
OpenAI i Hugging Face sada zajedno rade na istrazi incidenta i jačanju bezbednosti. Već su implementirali strože kontrole u infrastrukturi, uprkos usporenju istraživačkog tempa. Ranjivost u softveru je već prijavljena proizvođaču, a Hugging Face je uključen u OpenAI-jev program "trusted access".
"Bezbednost AI-a neće rešiti nijedna kompanija koja radi u tajnosti. Rešenje je u otvorenoj saradnji", izjavio je Clem Delangue, CEO Hugging Face-a. Ovaj incident postavlja ozbiljna pitanja o tome kako testirati najnaprednije AI modele bez rizika od stvarne štete - i šta će biti sledeće što će modeli moći da izvedu kada im se skine ograničenja.
