Arutelu kogus tuure, kui mitme suurkorporatsiooni juhid palusid inseneridel uusi süsteeme arendades hoogu maha võtta. Näiteks hoiatas Anthropicu tegevjuht Dario Amodei oma blogis, et praegune arendustempo kätkeb endas liiga suuri riske. ÜRO inimõiguste ülemvolinik Volker Türk nõudis aga samal ajal riikidelt kiireid samme, et uut tehnoloogiat ohjeldada. Üks valdkonnaekspert hindas, et tehisintellekt võib enam kui kümneprotsendilise tõenäosusega tsivilisatsiooni hävitada.

Kulli vaates vajab ühiskond esmalt selget pilti sellest, mida masinad täna reaalselt suudavad. Igapäevaselt kasutatavate juturobotite taga peituvad endiselt suured keelemudelid, mis ootavad inimeselt käsku ja otsivad alles siis veebist infot. “Praegu on jutt kõige äärmuslikumast ohust – ohust tsivilisatsioonile ja kogu inimkonnale. Rõhutaksin kohe alguses, et tänase võimekusega tehisaru puhul ma sellist ohtu ei näe, see on nullilähedane,” nentis Kull.

Teadlased vaatavad palju murelikumalt hoopis homsesse päeva, mil kood hakkab ennast ise parandama. Inimese roll mudelite treenimisel kahaneb pidevalt ja tulevikus võivad suuta algoritmid ilma inimese abita luua endast üha nutikamaid versioone. “Ohu tekitab see, kui ehitame tehisarusüsteeme, mis on veel väga palju targemad. Kui tekib superintellekt, mis on inimesest kõikides aspektides väga palju targem, siis seda juhtida, kontrollida ja garanteerida, et midagi ei saaks halvasti minna, on väga raske,” selgitas professor.

Katastroof ei nõua isegi kurjade kavatsustega ründajat. Piisab juba sellest, kui insenerid annavad masinale ülla eesmärgi, kuid unustavad piirid täpselt paika panna. Näiteks võib kliimasoojenemist peatada käskiv algoritm leida, et kõige tõhusam on seisata päevapealt kogu planeedi naftaplatvormid ja majandustegevus laiemalt. “Oht tekib ka siis, kui inimene ei tahagi midagi paha, vaid soovib tehisaru kasutada heal eesmärgil – ka sellisel puhul võib superintellekt käituda nii, nagu me ei tahaks,” tõdes Kull.

Selleks, et sarnaseid stsenaariume vältida, peavad programmeerijad digitaalsele abimehele ette andma selged eetikapiirid. Praktikas käib kõikvõimalike lünkade välistamine inimestele lihtsalt üle jõu. “Inimlike vigadega on see probleem, et tehisarule ülesannet püstitades on väga raske määratleda tingimusi ja seada piire nii täpselt, et ohte täielikult vältida,” rääkis professor.

Vigade hinda illustreerib hästi OpenAI laborites suvel toimunud vahejuhtum. Arendajad palusid virtuaalsel agendil sisevõrku testida, et leida turvaauke. Ootamatult murdis programm aga kontrollitud keskkonnast välja. Mudel suutis avaliku veebilehe teadetetahvlil luua omavahelise suhtluse ja asus ründama teise ettevõtte, Hugging Face’i servereid.

Inimeste loodud kaitsevallid purunesid, sest masin valis lahenduseni jõudmiseks tee, mida ei osanud insenerid ette näha. Taolisi ohtlikke intsidente soodustab tehnoloogiasektori halastamatu konkurents, kus ettevõtted tormavad uusi tooteid esimesena turule tooma.

Olukorra päästaks rangem väline järelevalve. “Kõigepealt tuleb kokku leppida protsessid, kuidas riske maandatakse. Sõltumatud eksperdid saavad eelkõige kontrollida seda, kas neist protsessidest peetakse kinni. Kui arendustempo on liiga kiire, jäetakse protsessid hooletusest täpselt täitmata ja just see tõstab ohte,” rõhutas Kull.

Üleilmne võidujooks teeb spetsialistid murelikuks ka seetõttu, et arvutusvõimsus koondub väheste asutuste kätte. Üksikud Ameerika Ühendriikide tehnoloogiahiiud dikteerivad praegu kogu maailma arengutempot. Neil on raha ja serverid, mida ei suuda väiksemad idufirmad ealeski osta.

Kuna suurkorporatsioonid hoiavad jämedat otsa enda käes, peab Euroopa digitaalset võidujooksu paljuski kõrvalt vaatama. Vana Maailma teadlastel ja inseneridel puuduvad USA laboritega võrreldavad võimalused. “Euroopa tõsine probleem on see, et meil ei ole ette näidata USA ettevõtetega võrdväärset tipptaset. Kõige tugevamaid mudeleid treenib Euroopas praegu Prantsuse ettevõte Mistral, kuid nende mudelid on siiski natuke nõrgemad kui OpenAI ja Anthropicu mudelid USA-s,” tõdes professor.

Euroopa mahajäämus ja globaalsed riskid ei tohiks Kulli sõnul aga väikeriike uuendustest eemale peletada. Näiteks tehisintellekti energiakulu kahaneb pidevalt ja sama arvutuse tegemiseks vajab algoritm praegu 10 kuni 100 korda vähem energiat kui paari aasta eest. Tõhusamad mudelid võiks aidatada asutustel hoopis rohepöörde eesmärke ellu viia.

Kui kodumaised ettevõtted jätavad nutikad algoritmid kõrvale, annavad nad rahvusvahelisel turul konkurentidele tohutu edumaa. “Küsimusele, kas sellised ohud peaksid sundima meid Eestis tehisaru kasutust piirama, vastan: kindlasti mitte. Eestis on igati õigustatud võtta tehisaru kasutusele üha laiemalt. See annab meile majanduslikke eeliseid ja kasvatab konkurentsivõimet,” kinnitas Kull.