# KÕIGE HULLEM EPIDEEMIA ? Tehisaru sai hakkama ussviiruse peatumatu levitamisega

- Link: https://kihulane.eu/arhiiv/76213
- Published: 2024-03-05T14:58:36+03:00
- Author: toomas

![Cornelli teadlaste eksperimendist selgus, et nii nagu arvuteid saab nakatada arvutiviirusega,
nii võib tehisintellekti agente nakatada käskudega, mis hakkavad iseennast edasi
levitama. Uus epideemia võib tööle rakendudes halvata kogu internetimaailma umbes
nii, nagu tegi seda esimene ussviirus Morris 1988. aastal. Pilt on illustreeriv.
Foto: Peter Byrne / PA Wire / Scanpix](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///
ywAAAAAAQABAAACAUwAOw==)

**Mis oleks, kui tehisintellektile mõnda kindlat lauset sosistades hakkab see sinu
käske täitma vaatamata looja poolt lisatud piirangutele ning enamgi veel – kipub
sedasama käsku levitama edasi ka kõigile teistele kunstaru agentidele? Küberturvalisuse
maailm seisab lähiajal silmitsi just taolise enneolematu väljakutsega, kuna Cornelli
ülikooli teadlastel õnnestus laboritingimustes välja töötada vastav ussviirus.**

 See avastus märgib uut tüüpi küberrünnakute peatset sündi, mis võib kujutada endast
tõsist ohtu digiturvalisusele kogu maailmas.

 Cornelli Tehnikaülikooli teadlane Ben Nassi, kes on üks veel eelretsenseerimata
uurimustöö kaasautoritest, selgitas väljaandele [Wired](https://www.wired.com/story/here-come-the-ai-worms/),
et see uus areng tähendab võimalust korraldada küberrünnakuid, millesarnaseid pole
veel varem nähtud.

 Nassi lõi koos kaasuurijate Stav Coheni ja Ron Bittoniga ussviiruse nimega Morris
II, mis vihjab ühele esimestest laastavatest arvutiviirustest Morris, mis tuli välja
1988. aastal ja tekitas esimese suure kaose internetimaailmas.

 [Uurimistöös](https://sites.google.com/view/compromptmized) näidati, kuidas tehisintellekti
juhitav ussviirus võib rünnata generatiivset tehisintellektiga e-posti assistenti,
et varastada meilidest andmeid ja saata välja rämpsposti, rikkudes sellega vestlusrobotite
ChatGPT ja Gemini turvakaitseid.

 Uuring, mis toimus kontrollitud keskkonnas, keskendus e-kirjade assistentidele,
mis põhinevad OpenAI GPT-4, Google’i Gemini Pro ja LLaVA avatud lähtekoodiga suurtel
keelemudelitel.

 Teadlased kasutasid «vaenulikku isereplitseeruvat käsklust», mis sundis tehisintellekti
mudelit käivitama terve jada väljundeid, mis võivad nakatada tehisintellekti assistente
ja niimoodi välja meelitada tundlikku informatsiooni.

 Nassi selgitas, et tehisintellekti assistentidel on juurdepääs suurele hulgale 
isiklikele andmetele, mis tähendab, et neid on kerge meelitada loovutama kasutaja
saladusi, hoolimata kaitsemeetmetest, kui rakendada selleks omakorda kavalaid tehisintellekti
tööriistu.

 Veelgi enam, teadlaste loodud uus süsteem, mis suudab nii saata kui ka vastu võtta
sõnumeid, lubas efektiivselt «mürgitada» välja saadetud e-kirjade andmeid, mis omakorda
käivitasid vastuvõtva tehisintellekti vastava omaduse tundlike detailide varastamiseks
e-kirjadest. Protsess aitas seega ussviirusel tehisaru käskluste abil kanduda üle
aina uutele masinatele.

 Häiriv on ka see, et uurimisrühm suutis manustada kahjuliku käsu vastuvõtvale tehisintellekti
agendile pildi sees, põhjustades uusi nakatumisi edasistes e-kirja klientides.

 Teadlaste avastused edastati OpenAI-le ja Google´ile. OpenAI esindaja teatas Wiredile,
et ettevõte töötab oma süsteemide «vastupidavamaks muutmise» nimel.

 Nassi ja tema kolleegid mainivad oma [teadustöös](https://drive.google.com/file/d/1pYUm6XnKbe-TJsQt2H0jw9VbT_dO6Skk/view),
et tehisintellekti ussviirused võivad hakata järgnevatel aastatel kiiresti levima,
põhjustades soovimatuid tagajärgi kuni suurte tehisaru epideemiateni.

 See murettekitav katse tõi teadlaste sõnul hästi esile, kui sügavalt on ettevõtted
nõus oma generatiivseid tehisintellekti assistente oma ärisüsteemidesse integreerima,
tegemata sealjuures ennetavat küberkaitset taoliste kunstmõistuse tekitatavate õuduste
vastu.

## Uurimistöö «ComPromptMized»

Teadlaste eelretsenseerimata uurimistöös tehisintellekti juhitava arvutiviiruse 
kohta tutvustatakse Morris II nimelist ussviirust, mis on suunatud Generatiivse 
tehisintellekti (GenAI) süsteemide vastu, kasutades levitamiseks isereplitseeruvaid
käske.
 Morris II demonstreerib, kuidas ründajad võivad anda selliseid käske sisenditesse,
mis panevad GenAI mudelid neid töödeldes käske paljunema ja täidavad etteantud kahjulikke
tegevusi, samuti sunnivad need tehisintellekti agente käske edasi levitama, kasutades
ära  tehisintellekti süsteemide ühendusi. Ussviirust testiti kolme erineva GenAI
mudeli vastu, kasutades sisendina nii teksti kui ka pilte ja hinnati mitmeid tegureid
nagu leviku ulatus, paljunemise tõhusus ja kahjulik tegevus.

## Mida järeldati?

Uuringu tulemused näitasid, et Morris II uss suudab edukalt ära kasutada GenAI mudelite
töötlemisvõimekust, et paljuneda ja levida, esitades tõsise ohu nii eraisikute kui
ka ettevõtete jaoks. Leiti, et sellised ründed võivad GenAI ökosüsteemides kiiresti
levida, paljastades tundlikku teavet ja põhjustades kahjulikke tegevusi. See tõstab
esile vajadust tugevdada GenAI mudelite turvalisust ja arendada vastumeetmeid, et
kaitsta neid uut tüüpi ohtude eest.
 _Allikas: [teadustöö](https://drive.google.com/file/d/1pYUm6XnKbe-TJsQt2H0jw9VbT_dO6Skk/view)_

[Allikas](https://tehnika.postimees.ee/7973157/koige-hullem-epideemia-tehisaru-sai-hakkama-ussviiruse-peatumatu-levitamisega)