Mis oleks, kui tehisintellektile mõnda kindlat lauset sosistades hakkab see sinu käske täitma vaatamata looja poolt lisatud piirangutele ning enamgi veel – kipub sedasama käsku levitama edasi ka kõigile teistele kunstaru agentidele? Küberturvalisuse maailm seisab lähiajal silmitsi just taolise enneolematu väljakutsega, kuna Cornelli ülikooli teadlastel õnnestus laboritingimustes välja töötada vastav ussviirus.
See avastus märgib uut tüüpi küberrünnakute peatset sündi, mis võib kujutada endast tõsist ohtu digiturvalisusele kogu maailmas.
Cornelli Tehnikaülikooli teadlane Ben Nassi, kes on üks veel eelretsenseerimata uurimustöö kaasautoritest, selgitas väljaandele
Wired, et see uus areng tähendab võimalust korraldada küberrünnakuid, millesarnaseid pole veel varem nähtud.
Nassi lõi koos kaasuurijate Stav Coheni ja Ron Bittoniga ussviiruse nimega Morris II, mis vihjab ühele esimestest laastavatest arvutiviirustest Morris, mis tuli välja 1988. aastal ja tekitas esimese suure kaose internetimaailmas.
Uurimistöös näidati, kuidas tehisintellekti juhitav ussviirus võib rünnata generatiivset tehisintellektiga e-posti assistenti, et varastada meilidest andmeid ja saata välja rämpsposti, rikkudes sellega vestlusrobotite ChatGPT ja Gemini turvakaitseid.
Uuring, mis toimus kontrollitud keskkonnas, keskendus e-kirjade assistentidele, mis põhinevad OpenAI GPT-4, Google’i Gemini Pro ja LLaVA avatud lähtekoodiga suurtel keelemudelitel.
Teadlased kasutasid «vaenulikku isereplitseeruvat käsklust», mis sundis tehisintellekti mudelit käivitama terve jada väljundeid, mis võivad nakatada tehisintellekti assistente ja niimoodi välja meelitada tundlikku informatsiooni.
Nassi selgitas, et tehisintellekti assistentidel on juurdepääs suurele hulgale isiklikele andmetele, mis tähendab, et neid on kerge meelitada loovutama kasutaja saladusi, hoolimata kaitsemeetmetest, kui rakendada selleks omakorda kavalaid tehisintellekti tööriistu.
Veelgi enam, teadlaste loodud uus süsteem, mis suudab nii saata kui ka vastu võtta sõnumeid, lubas efektiivselt «mürgitada» välja saadetud e-kirjade andmeid, mis omakorda käivitasid vastuvõtva tehisintellekti vastava omaduse tundlike detailide varastamiseks e-kirjadest. Protsess aitas seega ussviirusel tehisaru käskluste abil kanduda üle aina uutele masinatele.
Häiriv on ka see, et uurimisrühm suutis manustada kahjuliku käsu vastuvõtvale tehisintellekti agendile pildi sees, põhjustades uusi nakatumisi edasistes e-kirja klientides.
Teadlaste avastused edastati OpenAI-le ja Google´ile. OpenAI esindaja teatas Wiredile, et ettevõte töötab oma süsteemide «vastupidavamaks muutmise» nimel.
Nassi ja tema kolleegid mainivad oma
teadustöös, et tehisintellekti ussviirused võivad hakata järgnevatel aastatel kiiresti levima, põhjustades soovimatuid tagajärgi kuni suurte tehisaru epideemiateni.
See murettekitav katse tõi teadlaste sõnul hästi esile, kui sügavalt on ettevõtted nõus oma generatiivseid tehisintellekti assistente oma ärisüsteemidesse integreerima, tegemata sealjuures ennetavat küberkaitset taoliste kunstmõistuse tekitatavate õuduste vastu.
Uurimistöö «ComPromptMized»
Teadlaste eelretsenseerimata uurimistöös tehisintellekti juhitava arvutiviiruse kohta tutvustatakse Morris II nimelist ussviirust, mis on suunatud Generatiivse tehisintellekti (GenAI) süsteemide vastu, kasutades levitamiseks isereplitseeruvaid käske.
Morris II demonstreerib, kuidas ründajad võivad anda selliseid käske sisenditesse, mis panevad GenAI mudelid neid töödeldes käske paljunema ja täidavad etteantud kahjulikke tegevusi, samuti sunnivad need tehisintellekti agente käske edasi levitama, kasutades ära tehisintellekti süsteemide ühendusi.
Ussviirust testiti kolme erineva GenAI mudeli vastu, kasutades sisendina nii teksti kui ka pilte ja hinnati mitmeid tegureid nagu leviku ulatus, paljunemise tõhusus ja kahjulik tegevus.
Mida järeldati?
Uuringu tulemused näitasid, et Morris II uss suudab edukalt ära kasutada GenAI mudelite töötlemisvõimekust, et paljuneda ja levida, esitades tõsise ohu nii eraisikute kui ka ettevõtete jaoks. Leiti, et sellised ründed võivad GenAI ökosüsteemides kiiresti levida, paljastades tundlikku teavet ja põhjustades kahjulikke tegevusi. See tõstab esile vajadust tugevdada GenAI mudelite turvalisust ja arendada vastumeetmeid, et kaitsta neid uut tüüpi ohtude eest.
Allikas: teadustöö
Allikas
