Matemaatik Heinz von Foerster avaldas kolleegidega 4. novembril 1960 tunnustatud teadusajakirjas Science analüütilise artikli. See võinuks mitmel põhjusel jäädagi toonasesse aega ja ununeda, kui vaid keegi poleks seda nüüd avastanud, ehmatades ennast ja teisi. Olles analüüsinud inimkonna senist arengut, jõudsid matemaatikud järeldusele, et inimkonda ootab ees viimnepäev 13. novembril 2026.

Põhjus polnud religioosne, kusagilt ei tule ka veeuputust, ufosid ega planeet kärise lõhki. Inimesed pigistatakse lihtsalt puruks. Ennustuse järgi lisandub sel päeval juurde viimane hiigelsuur kogus inimesi ja nad ei mahu enam Maale ära. Olukord erineb sellest, kui vagunisse mitte mahtunud reisijad jäävad perroonile järgmist rongi ootama. Selles mudelis sünnib uus partii reisijaid “vagunis Maa”. Edasine oleks nii kole, et matemaatikud päästavad end tehniliste terminitega nagu singulaarsus, lõpmatus jmt. Sellise õudusega võiks ennustus levida sotsiaalmeediapostitustes.

Tegelikult saime teada, et kui mõni mudel kirjeldab täpselt minevikku, võib see tulevikku ennustades haledalt läbi kukkuda. Piisab, kui süsteem muudab oma käitumist. Rahva meeltes sotsiaalselt kohmakaid ja elukaugeid matemaatikuid võib välja vabandada mitte vigane arvutus, vaid see, et nad inimesi vähe tundsid. Tõele au andes oli autorite eesmärk provotseerida avalikkust mõttega, et kui sotsiaalne süsteem ei muutu, viib puhas matemaatiline ekstrapolatsioon absurdi.

Õnneks nende ennustus ei täitunud. Inimkond muutis senist kasvutrajektoori. Elanike lisandumise tempot hakkasid kujundama parem haridus, linnastumine, rasestumisvastased vahendid ja muutunud arusaamad perekonnast. Inimesed avastasid maailma piiratuse ja püüdsid sellega kohaneda. Nad muutsid käitumist, mis kajastus ka mikro-otsustes, kas ja kui palju inimesi maailma juurde tuua. Reaktsioon on eriti silmatorkav tänapäeva rekordiliselt madalate sündivuskordajate näol.

Kohanemise ja hakkamasaamise protsessis on kesksel kohal intellekt. Pole kuigi kaua aega möödas optimistlikust ootusest, et tehisintellekt lahendab saabudes meile üha keerukamaks osutuvaid probleeme. Midagi muutus. Inimkonna lõppu ennustanud vana artikkel leidis kõlapinda tänu ärevale ajale. Optimismivaene ja muredest rikas ajajärk toimib selliste lugude magnetina. Oleme jõudnud oma valikutega kehva seisu. Lootus, et sellest väljutakse senise mõistuse ja kokkulepetega, pole kuigi usutav. Sellele viitab ka tehisintellekti ümber käiv kiirustav ja ohjeldamatu tegevus.

Suurte tehisintellektiettevõtete tippjuhid võrdlevad väidetavalt omavahel nn “päev pärast seda”- stsenaariume. Need leiavad aset päev pärast mõnd katastroofilist tehisintellektiga seotud vahejuhtumit, mis mõnede asjassepühendatute sõnul võib juhtuda järgmise 6–12 kuu jooksul.

Kõige tõenäolisemaks peetakse ulatuslikku küberrünnakut. Ohus oleksid põhiteenused internetist ja pangandusest kuni elektri ja vee taristuni. Vähemalt OpenAI kinnitas, et nad korraldavad õppusi, kus valmistutakse mitmesugusteks olukordadeks, nende seas ka avalikuks ja poliitiliseks reaktsiooniks. Ehk kust kulgeb joon, mis markeerib, kui negatiivset sündmust võib ühiskond aktsepteerida? Selle mõtte ütles hiljuti välja OpenAI juht Sam Altman, kui tõdes, et tuleviku hea nõuab teatud pahanduste talumist.

Teame, et matemaatikute ennustust muutis see, kuidas rahvas käituma hakkas. Sama võib juhtuda TI-ga. Kuigi, keegi ei tea, millises suunas.

Lihtsamalt öeldes, katastroofi põhjus on võimalus teha katastroofilisi asju. Riskile ja vajadusele seda ennetada osutab Microsofti juht Satya Nadella nädalavahetusel avaldatud kommentaaris. Nadella soovitas lähtuda eeldusest, et kõik TI-mudelid on kompromiteeritud, s.o küberturvalisuse mõttes läbivalt ebaturvalised ja ohule avatud.

Microsofti juht soovitab “astuda samm tagasi ja hinnata selle uue ajastu usaldusarhitektuuri. Me ei saa lihtsalt delegeerida vastutust selle eest, mida tehisintellekt meie nimel teeb.” Nadella kirjeldab tänapäeva tehisintellekti üksteise sees paiknevate “mustade kastide kogumina” ja kasutab isegi mõistet “superintellekt”.

Ta rõhutab, et esmalt peab saavutama kontrolli, et välistada hilisemad tühjad vabandused. Eristama peab kontrolli võimsa intellekti üle selle kättesaadavusest. Praegu domineerib viimane. Naiivne on loota, et intelligentsuse kasv tagab ka suurema usaldusväärsuse. Kui selle tegutsemist ei suudeta kontrollida, võib inimesest võimekam masin teha rohkem head ja rohkem kahju. Masin inimeste eest ei vali.

Uut laadi riskile osutavad ka krüptorahaasjatundjad. Ethereumi uurija Justin Drake hoiatas OpenAI näitel, et TI kiire areng matemaatikas võib juba lähiaastatel hakata ohustama seni turvaliseks peetud krüptograafilisi lahendusi. Ethereumi loojana tuntud Vitalik Buterin soovitas paanikat vältida, kuid tunnistas vajadust valmistuda võimalikeks ohtudeks.

Kunagi ennustasid matemaatikud päeva täpsusega võimalikku katastroofi. Tänapäeva TI-arendajad ei tea, millal võimalik katastroof juhtuda võib, aga sellele järgnevaks päevaks juba valmistutakse.

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates “Portaal”.