Austraalias toimunud rikkumine on üks kõige tähelepanuväärsemaid juhtumeid, kus tehisaru agendid on väljaspool Ameerika Ühendriike pääsenud ligi välistele süsteemidele. See lisandub mitmele hiljutisele rikkumisele kogu maailmas, mille on toime pannud nn kontrolli alt väljunud AI-agendid ning mis on tekitanud valitsustes ja ettevõtetes ärevust.

Austraalia peaminister Anthony Albanese ütles, et OpenAI agent sai volitamata juurdepääsu Medicare’i meditsiinistatistika portaalile ajal, mil agent uuris avaliku sektori meditsiinikulutusi. Medicare on Austraalia universaalne ravikindlustusprogramm.

“Praegu olemasolevad tõendid näitavad, et laiemat kompromiteerimist võrgus ei toimunud. Sellest hoolimata on see olukord ilmselgelt vastuvõetamatu,” ütles Albanese ajakirjanikele kolmapäeval New Yorgis, kus ta osaleb ÜRO Peaassambleel.

Uurimine jätkub ning Austraalia on väljendanud OpenAI tegevjuhile Sam Altmanile äärmist muret selle juhtumi pärast, ütles Albanese. Ta väljendas pettumust, et ettevõte viivitas Austraalia valitsuse teavitamisel.

“Kulus 10. septembrini, enne kui üldse mingisugune teavitus tehti,” ütles Albanese. Ta lisas, et uurimise käigus vaadatakse ka seda, miks valitsuse süsteemid rikkumist kohe alguses ei avastanud.

Samuti hoiatas ta, et OpenAI agendi tegevus võis mõjutada veel kolme tervisega seotud riiklikku veebilehte, kuid ta ei kinnitanud, et see tegelikult juhtus.

OpenAI teatas oma avalduses, et tema ülevaatus ei leidnud tõendeid patsientide andmetele juurdepääsu kohta.

Ettevõte lisas, et tuvastas tegevust mitmel Austraalia valitsuse veebilehel ja teenuses, kui tema mudelid üritasid vastuseid otsida ja need tegid toiminguid, mida OpenAI ei olnud kavandanud.

Juhtum pingestab veelgi Austraalia ja USA tehnoloogiafirmade suhteid

Tehisaru agendi toime pandud rikkumine suurendab pingeid Austraalia ja suurimate USA tehnoloogiaettevõtete vahel.

Canberra on juba sattunud sotsiaalmeediaettevõtete ja Washingtoni kriitika alla pärast seda, kui kehtestas alla 16-aastastele sotsiaalmeedia kasutamise suhtes maailmas esimese omataolise keelu ning uued reeglid, mis sunnivad tehnoloogiaettevõtteid võimaldama kasutajatel oma voogudes algoritmipõhise sisu välja lülitada.

Austraalia valitsus on rikkumise uurimiseks loonud töörühma ning kontrollib, kas olemasolevad turvameetmed on piisavad sarnaste juhtumite ärahoidmiseks.

Rikkumisest teatati samal päeval, kui maailma juhtivad tehisintellektiettevõtted hoiatasid ÜRO Julgeolekunõukogu riskide eest, mida AI inimkonnale võib kujutada ning kutsusid valitsusi üles tegema koostööd, et üha võimsamaks muutuva tehnoloogia kasutamist hallata.

Austraalia on viimase nelja aasta jooksul seisnud silmitsi mitme ettevõtete ja valitsusega seotud firmade vastu suunatud häkkimiskatsega.

Kaitseminister Richard Marles ütles, et rünnatud Medicare’i portaal ei sisaldanud Austraalia 27 miljoni inimese individuaalseid ravinõudeid, hüvitiste väljamakseid, isiklikke pangaandmeid ega patsientide haiguslugusid.

Selle asemel sisaldab veebileht tema sõnul ainult koondatud andmeid tervishoiuteenuste kasutamise kohta kogu riigis. Sellest hoolimata pidas Austraalia rikkumist tõsiseks.

“Selgelt olid olemas tõkked, mis andsid AI-agendile vastuseks “ei”. AI-agent leidis viisi neist tõketest mööda pääseda – ta ei leppinud vastusega “ei”,” ütles Albanese ajakirjanikele.

Austraalia juhtum on üks paljudest

Juhtum on viimane mitmest hiljutisest juhtumist, mille puhul ChatGPT looja OpenAI on avalikustanud oma AI-agentidega seotud häkkimised või volitamata tegevuse alles tükk aega pärast nende toimumist.

Konkurendid Anthropic, Google’i Gemini ja Meta on samuti avalikustanud juhtumeid, kus nende tehisaru agendid on pääsenud ligi välistele süsteemidele.

Cambridge’i ülikooli eksistentsiaalsete riskide uurimise keskuses töötav Austraalia matemaatik Maurice Chiodo ütles, et rikkumine näis olevat “oluline eskalatsioon võrreldes sarnaste juhtumitega, mida oleme viimastel kuudel näinud”.

Ta lisas, et kuigi tehisintellekti puudutavatest uutest seadustest räägitakse palju, peaksid poliitikakujundajad esmalt kaaluma olemasolevate seaduste jõustamist, näiteks nende seaduste, mis muudavad arvutisüsteemidesse loata tungimise kuriteoks.

Mis on tehisaru agent?

AI-agent on tehisintellekti süsteem, mis suudab vastavalt talle antud ülesandele iseseisvalt tegutseda, otsuseid vastu võtta ja eesmärke saavutada ilma pideva inimese juhendamiseta. Selleks planeerib ta ise vastavalt saadud eesmärgile, milliseid samme astuda, kasutab erinevaid veebitööriistu, kontrollib tulemusi ja kohandab oma tegevust. AI-agent mäletab varasemat konteksti ja õpib tehtud sammudest ning tegutsedes jagab keerulise ülesande väiksemateks sammudeks ja täidab neid järjest.

AI-agendi tegutsemisega kaasneb oht, et see võib teha otsuseid, mida kasutaja ei soovi, valede esialgsete tegevuste korral võib see liikuda üha kaugemale vales suunas ning agent võib tahtmatult ligi pääseda tundlikele andmetele.