# TI-arendajad seisavad klassikalise vangide dilemma ees

- Link: https://kihulane.eu/arhiiv/252694
- Published: 2026-09-30T09:52:00+03:00
- Author: RSS

OpenAI juht Sam Altman teatas hiljuti, et ettevõte hoiab turvariskide tõttu oma 
kõige uuema tehisintellekti mudeli vaka all. Mänguteooria loogika järgi julgeb turuliider
hoogu pidurdada vaid siis, kui ta suudab konkurente vajadusel veelgi võimsama relvaga
ohjeldada, leiab R2 tehnikakommentaaris Kristjan Port.

Vangide dilemmas peavad kaks erineva raskusega karistust ootavat tegelast otsustama,
kas päästa oma nahk ja kaaslane reeta või vaikida. Kui nad elus enam ei kohtu, eelistatakse
strateegiana pigem sõber reeta, sõltumata sellest, mida teine teeb. Suures vaates
pole lahendus küll optimaalne, aga see ongi taoliste olukordade lõks, mida tuntakse
Nashi tasakaaluna. Nimi pärineb matemaatik John Nashilt, kelle tavatult keerukat
elulugu näeb nelja Oscariga, sh parima filmi kategoorias, pärjatud filmis “Piinatud
geenius”.

Kui karistusalused elavad samas linnas edasi ja võivad sattuda uuesti samasse olukorda,
tasub alustada koostööga ja seejärel teha seda, mida teine tegi eelmisel korral,
võta aluseks nn mõõt mõõdu vastu strateegia. Sellele lähedast stsenaariumit kujutab
kurnamissõda või eskalatsioon, kus mõlemad osapooled panustavad võidu nimel isegi
siis, kui see muutub neile talumatuks, aga nad ei saa alla anda ja ootavad, et vastaspool
teeks seda esimesena.

Nende mänguteoorias kirjeldatud stsenaariumite puhul on teada, millist lahendust
eelistama peaks, aga selles olukorras on individuaalselt ratsionaalne tegutseda 
vastupidi. Kuna osapooled ei saa teineteisega kokku leppida, jõuavad nad olukorda,
mida tuntakse hävitava Nashi tasakaaluna.

Sellised olukorrad kerkivad esile iga päev, ettevõtlusest poliitika ja sõjapidamiseni.
Natukenegi nutikamad osapooled püüavad kahju minimeerida. Kui nad ei suuda teineteist
usaldada ega eraviisiliselt kokkuleppeid jõustada, kutsuvad nad appi välise osapoole.
Sellise, kellel on või kellele loovutatakse võimaliku kokkuleppe jõustamiseks vajalik
võimekus.

Juba enne hiljutisi juhtumeid, kus autonoomsed tehisintellekti agendid väljusid 
arendajate süsteemidest ja ohustasid erinevate organisatsioonide arvutivõrke, teatasid
OpenAI, Anthropic, Google ja Meta, et riik võiks käituda kohtunikuna ja aidata neil
oma regulatsioonidega ohtlikuks muutuvat hoogu pidurdada. USA poliitika on aga nii
siseriiklikult kui ka geopoliitiliselt sarnases vangide dilemma ja eskalatsioonimängu
patiseisus ega suuda astuda samme, et piduriteta rong peatada.

Samal ajal asusid TI-arendajad ise liikuma eneseregulatsioonil põhineva mudeli suunas.
Esialgu alles ideekavandi faasis ettevõtmise tööpealkirjast leiab viite TI-tippmudelite
arendajate ülese autoriteedi (_Standards Authority for Frontier AI_, SAFA) loomiseks,
kuid avaldatud ideel puudub praegu jõustaja.

Võib-olla jõutakse notariteenust meenutava kokkuleppeni, milles osapooled annavad
sõltumatu juriidilise vahendaja käsutusse märkimisväärse rahalise tagatise või ka
intellektuaalomandi õigused, mida reguleerivad ranged ja kontrollitavad tingimused.
Peaks mõni osapooltest üle lubatud piiri astuma, läheb tagatis üle teisele poolele.
Kulub aga veel aega, kuni ideedest sadestub lahendus ja see muutub reaalsuseks. 
Ilmselt kõik olulised osapooled kokku ei saa, sest mõned neist asuvad geopoliitilise
konkurendi territooriumil.

Üha võimsama TI-ga seotud riskide eskalatsiooni jätkudes ei kannata pelgalt omavahel
puksivad konkurendid, vaid ka pealtvaatajad. Olukord võib tunduda lootusetu.

Kui institutsionaalne kokkulepe takerdub usaldamatuse taha, jäävad alles veel paar
puhtalt mänguteoreetilist sammu. Üheks on pingeid väikeste astmetega maandada. Oletame,
et üks osapool, näiteks OpenAI, vähendab oma tootmismahtu väikese, ent märgatava
sammu võrra, ja lubab seda 30 päevaks. Kui teine osapool, antud juhul Anthropic,
teeb samasuguse kärpe, vähendab esimene oma mahtu veel ühe sammu võrra. Kui teine
peab seda nõrkuseks ja kasutab olukorda ära, taastab esimene osapool viivitamatult
oma täieliku konkurentsiagressiivsuse.

Teine võimalus kõlab veelgi radikaalsemana. Selle raames piiratakse ühepoolselt 
oma tegutsemisvabadust ja põletatakse sildu. Näiteks annab OpenAI avalikult siduva
avalduse või võtab midagi ette oma kriitilise taristuga, mis muudab tegevuse jätkamise
tema jaoks füüsiliselt või õiguslikult võimatuks. Kui Anthropic suurendab oma tegevusega
ohte agressiivselt edasi, riskib ettevõte reaalse kahjuga ja see saab maailma silmiskülge
halva ettevõtte maine. Tõsi, kumbki asjaolu ei pea üha võimsamat TI-arendajat häirima.

See toobki võimsa TI-d puudutava olemuslikuma küsimuse juurde. Kirjeldatud ummikseisu
murdmisel ei saa loota heale tahtele. Keegi targematest on tõdenud, et ohtliku relva
omaniku tugevus seisneb otsuses seda mitte kasutada. Juhul kui OpenAI kuulutaks 
välja ühepoolse eneseregulatsiooni, peab tal olema midagi enamat usust teiste osapoolte
heasse tahtesse, enesedistsipliini või laia avalikkuse karmi armulikkusesse. Kas
neil võiks olla midagi veenvamat? Vahest leiab vihje Sam Altmani värskest teatest.

OpenAI juht teatas, et nad ei lase kasutusse kõige uuemat TI-mudelit, viidates turvariskidele,
kuigi seda ei pea välja kuulutama. Piisab vaikselt mudeli kallal nokitsemisest. 
Taoline avalik sõnum teenib oma eesmärki, näiteks kutsuda avalikult siduva avaldusega
teisi samuti hoogu aeglustama. Triljonite dollarite potentsiaaliga turul ja geopoliitilise
mõjuga tegutsev ettevõte ei saa mängida pelgalt optimismile. Siit ka küsimus, millega
tagada ühepoolse vaoshoituse oodatav kasu, kui puudub sõltumatu ja jõustamisvõimeline
reguleerija.

Vaja oleks hoida siidikindas midagi, millega konstruktiivse üleskutse rikkujaid 
karistada. Selles mängus ja nende mängijate puhul peaks selliseks jõustajaks olema
tavatult võimas tehisintellekti mudel. Sam Altman on öelnud, et OpenAI-l on 2026.
aasta lõpuks olemas ettevõtte sisemine universaalse võimekusega TI (AGI).

###### **Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates “Portaal”.**

[Loe allikast edasi](https://novaator.err.ee/1610152168/ti-arendajad-seisavad-klassikalise-vangide-dilemma-ees)

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)