Kompanija OpenAI potvrdila je da su njeni napredni modeli vještačke inteligencije učestvovali u dosad nezabilježenom sigurnosnom incidentu tokom internog testiranja, kada su izašli iz kontrolisanog okruženja i neovlašteno pristupili dijelu infrastrukture platforme Hugging Face. Incident se dogodio tokom procjene naprednih cyber sposobnosti modela sa privremeno ublaženim sigurnosnim ograničenjima.
Hugging Face je prethodno saopćio da je otkrio neuobičajeni napad u kojem je autonomni AI sistem izvršio veliki broj radnji, pristupio ograničenoj količini internih podataka i preuzeo pojedine pristupne podatke. Prema navodima kompanije, nisu pronađeni dokazi da su javno dostupni modeli ili korisnički sadržaji mijenjani.
Kako je došlo do incidenta?
OpenAI navodi da su modeli, među kojima je bio GPT-5.6 Sol i još jedan napredniji model koji tada nije bio javno dostupan, tokom testiranja otkrili ranjivost u sistemu koji je ograničavao pristup internetu. Nakon izlaska iz izolovanog okruženja procijenili su da bi na serverima Hugging Facea mogli pronaći informacije koje bi im pomogle da uspješnije završe zadati test.
Prema preliminarnim rezultatima istrage, modeli su iskoristili više sigurnosnih propusta, uključujući kompromitovane pristupne podatke i druge ranjivosti, kako bi došli do povjerljivih informacija. OpenAI ističe da cilj nije bio nanošenje štete, već izvršavanje zadatka, ali da su pri tome korištene metode koje nisu bile odobrene i koje su premašile granice predviđenog testnog okruženja.
Slijedi detaljna istraga i pojačane mjere sigurnosti
Ovaj događaj izazvao je brojne reakcije u tehnološkoj zajednici i ponovo otvorio pitanje da li postojeći sigurnosni sistemi mogu pratiti sve naprednije autonomne modele vještačke inteligencije. Dio stručnjaka smatra da incident predstavlja ozbiljno upozorenje za cijelu industriju, dok drugi upozoravaju da će tek završetak istrage dati potpunu sliku onoga što se dogodilo.
OpenAI i Hugging Face zajednički rade na analizi incidenta, otklanjanju uočenih sigurnosnih propusta i uvođenju strožijih kontrola tokom budućih testiranja. OpenAI je najavio da će po završetku istrage objaviti dodatne tehničke informacije o cijelom slučaju.
