OpenAI nimetas juhtunut enneolematuks küberintsidendiks ja teatas, et viib läbi ühise uurimise veebipõhise koodihoidlaga Hugging Face.

Tehisarumudeleid, mis on aluseks sellistele tööriistadele nagu vestlusrobotid ja pildigeneraatorid, tuntakse agentidena, kui nad tegutsevad autonoomselt reaalmaailma ülesannete täitmiseks.

Kuna tehnoloogia muutub kiiresti keerukamaks, on küberjulgeolek sattunud tähelepanu keskpunkti, arvestades ohtu, et täiustatud tehisintellekt võib leida olemasolevas tarkvaras nõrku kohti enne inimesi.

OpenAI teatel oli vahejuhtum seotud mitme mudeli kombinatsiooniga, sealhulgas hiljuti välja lastud GPT-5.6 Soli ja veelgi võimekama veel avalikkusele kättesaamatu mudeliga.

Ettevõte püüdis hinnata mudelite häkkimisvõimekust, andes neile ülesandeid rangelt kontrollitud digitaalses testimiskeskkonnas, kus internetiühendus oli ohutuse huvides piiratud.

“Tegutsedes meie eraldatud testimiskeskkonnas, kulutasid meie mudelid hindamisprobleemi lahendamisel märkimisväärse hulga arvutusvõimsust, et leida viis avatud internetiühenduse saamiseks,” seisis OpenAI intsidendi kohta avaldatud blogipostituses.

Pärast internetiühenduse loomist otsustasid mudelid oma eesmärgi saavutamiseks rünnata platvormi Hugging Face – suurt tehisintellekti mudelite, andmekogude ja muu teabe hoidlat.

Otsides nn salajast teavet kombineeris OpenAI süsteem mitu ründevektorit, kasutades sealhulgas varastatud sisselogimisandmeid.

UNSW Canberra arvutiteaduse professor Hussein Abbass ütles AFP-le, et intsident oli mitmes mõttes hämmastav.

“Mudel ei rünnanud ainult Hugging Face’i. See ründas tegelikult omaenda sisesüsteemi, et ära kasutada omaenda haavatavusi,” ütles Abbass ning lisas “Ja see on hirmutav.”

GPT-5.6 ja teised tipptasemel mudelid, sealhulgas OpenAI pearivaali Anthropicu Mythos-seeria, on tekitanud muret oma potentsiaali pärast murda läbi küberjulgeoleku kaitsesüsteemidest.

Mõlemad ettevõtted pidid nende uusimate tehnoloogiate laiatarbena väljalaskmise ajutiselt peatama, kuna Washingtonis kardeti, et need võivad aidata sisse murda elutähtsasse taristusse.

“Täiustatud tehisintellekt on tavaliselt eetiliste ja vastutustundlike inimeste käes,” ütles Abbass. Aga “see on katastroofiline, kui see satub kellegi kätte, kellel on kavatsus kahju tekitada”.

Kuidas tehisarusektorit reguleerida, on muutunud võtmeküsimuseks ja me vajame selle olukorra haldamiseks kogukonna ühist pingutust, lisas ta.

Cambridge’i ülikooli masinõppe professor Neil Lawrence nimetas juhtunud muljetavaldavaks saavutuseks”, kuid hoiatas, et see: “jääb igati praeguse põlvkonna suure jõudlusega tehisintellektimudelite teadaoleva võimekuse piiresse.”

Hugging Face teatas juba eelmisel nädalal kübersissetungist, kuid ei maininud siis OpenAI-d.

“See juhtum erines kõigest, millega olime varem tegelenud, ühel olulisel moel: seda juhtis algusest lõpuni autonoomne tehisintellekti agendisüsteem – ning me avastasime ja analüüsisime seda suures osas omaenda tehisintellekti abil,” teatas Hugging Face.

Hugging Face’i tegevjuht Clement Delangue kirjutas sotsiaalmeedias, et ettevõte oli kahtlustanud, et küberrünnak pärines maailma juhtivast tehisintellekti laborist, arvestades agendi keerukust.

“Me usume kindlalt, et neil ei olnud pahatahtlikku kavatsust,” kirjutas Delangue viitega OpenAI-le. “On üsna jalustrabav, et see kõik juhtus autonoomselt!”