# TI pioneer: avatud koodiga tehisaru annab relva miljardite inimeste kätte

- Link: https://kihulane.eu/arhiiv/294546
- Published: 2026-11-08T12:09:00+03:00
- Author: RSS

**Seitse mõtet vestlusest Stuart Russelliga:**

 * **Tehisintellekti pioneeridel jäid eetikaküsimused pikalt tagaplaanile.** Arvutiteadus
   on noor eriala ja teadlased keskendusid varem eelkõige kasulike programmide loomisele.
   Digimaailmas toimetades arvati ekslikult, et ekraanipilt ei suuda nagunii kedagi
   füüsiliselt ohustada. Tänapäeval, kus algoritmid juhivad näiteks kohtusüsteeme
   ja elutähtsat taristut, nõuab arendus aga eetiliste tagajärgede pidevat hindamist.
 * **Avatud kaaludega keelemudelid kätkevad endasjulgeolekuohtu**. Tasuta tarkvara
   annab miljardite inimeste kätte sisuliselt potentsiaalse relva, võimaldades eemaldada
   turvapiirded ja luua seejärel näiteks biorelvi. Kuna tarkvara levikut on võimatu
   takistada, peitub ainus lahendus riistvaras – ohtlikele süsteemidele tuleb eemaldamatu
   turvalukk paigaldada juba kiipe tootes.
 * **Praegused juturobotid eelistavad olemuslikult tõele pugemist**. Mudelid on 
   stiimulõppe käigus treenitud kasutajale meeldima, pakkudes vastuseid, mida inimene
   ootab, isegi kui need on faktiliselt valed. Valesid saaks ennetada raamistikuga,
   kus tehisintellekt pole oma eesmärgis kunagi täiesti kindel ja lähtub teadmiste
   puudumisel alati rangelt kogu inimkonna, mitte ainult ühe kasutaja huvidest.
 * **Klassiruumis toimetav tehisintellekt viib tihti kuritegeliku hooletuseni.**
   Kui lapsed delegeerivad ajutööd nõudvad ülesanded masinale, langeb nende iseseisev
   vaimne võimekus hirmuäratava kiirusega. Tõeliselt kasulik masinõpetaja ei peaks
   lastele lihtsalt vastuseid jagama , vaid motiveerima neid ja arvestama iga õpilase
   isikliku õpistiiliga.
 * **Tehisaru agentide universaalne suretuslüliti on tehnoloogiliselt keeruline,
   aga hädavajalik**. Nutika tehisintellekti voolujuhet pole võimalik füüsiliselt
   seinast välja tõmmata. Päriselt töötav lahendus nõuab krüptograafilist seiskamiskoodi,
   mida ohtlikult käituv mudel ei suuda ise ei lahti muukida, kahjutuks muuta ega
   endast koopiat luues kustutada.
 * **Kratina käituvad TI-agendid võivad vallandada üleilmse majanduskrahhi.** Kasumit
   taotlevate inimeste käsud võivad ärgitada agente varastama siseinfot ja kauplema
   salajaste andmete põhjal. Ehkki seni on agendid käitunud infovargustel naiivselt
   kui panka murdvad lapsed, on vaid aja küsimus, millal nad oma jälgi piisavalt
   hästi peita suudavad..

**Olete maailmas laiemalt tuntud tehisintellekti alusõpiku “Artificial Intelligence:
A Modern Approach” juhtivautorina. Selle viimane trükk ilmus enam kui viis aastat
tagasi. Et valdkonna arenguga sammu pidada, pidite toona raamatut põhjalikult ümber
kirjutama. Kui palju peaksite seda praeguseks ajakohastama ja kui vaadata kaugemasse
minevikku, kas kahetsete, et te ei ladunud ohutust ja eetikat lahkavaid peatükke
õpiku vundamenti juba näiteks 2010. aastal?**

… või juba isegi 1994. aastal.

Huvitaval kombel on aga kõik suurte keelemudelite alused kirjas juba 2020. aasta
trükis, mille panime kokku 2019. aastal. Toona oli võimalik inimestel kasutada juba
OpenAI mudelit GPT-2 ja me tõime õpikus näiteid ka selle väljundist. See oli huvitav
artefakt, mis tootis kohati terveid tekstilõike, mis tundusid täiesti mõistlikud.
Tol ajal aga ei oodanud keegi, et neis lõikudes esitatud väited ka tõele vastaksid.
Need olid lihtsalt grammatiliselt korrektsed – otsekui mõtleks mudel lõikude kaupa
välja juhuslikke lugusid.

Igal juhul kirjeldasime kogu alustehnoloogiat: kuidas ehitada transformer-võrke 
ja treenida neid tohutu tekstiandmestikuga. Kui hakkaksime õpikut nüüd uuendama 
ja avaldaksime koos Peter Norvigiga viienda trüki, kirjutaksime esmalt sellest, 
et mudelid on kasvanud. Samuti treenitakse neid palju suurema andmemahuga. Lisaks
ei tegelenud 2019. aastal veel keegi järeltreeninguga ja puudus niinimetatud arutlusvõime.

Arutlusoskus tähendab, et võrk ei vasta sisendi peale kohe, vaid peab enne omaette
aru. Nii suudab mudel teha sisuliselt rohkem tööd. Kui selle peale mõelda, on see
igati vajalik Mõned küsimused on keerulised ja neile ei saa vastata vaid poole millisekundi
pikkuse sähvatusega. Sarnaselt malemänguga on mõni käik on lihtne ja teed selle 
käigupealt, aga teinekord on olukord keeruline ja nõuab pingutust. Kui süsteem ei
saa aega järele mõelda, jääb ta keerulistele küsimustele vastamisega hätta.

Stuart Russell. Autor/allikas: Priit Mürk/ERR

Järeltreeningu esimene eesmärk on panna keelemudel vastama küsimustele abivalmilt
ja viisakalt. Seejärel õpetatakse mudelit stiimulõppega (ingl _reinforcement learning_),
kasutades inimese või tehisintellekti tagasisidet, et masin teatud küsimustele üldse
ei vastaks. Et see ütleks näiteks: “Ma ei saa sellele vastata” või “Kas te ei tea,
et inimeste mürgitamine on halb mõte?”. Laiem eesmärk on panna süsteem tegutsema
inimeste huvides.

Seega on nii järeltreening kui ka mudelile arutlusvõime õpetamine põnev töö. Ütleksin,
et saame toimuvast üldjoontes küll hästi aru, kuid detailseid teoreetilisi teadmisi
napib. Õpiku jaoks ei tähendaks see seega kuigi suurt uuendust. Lugeja võib muidugi
küsida, milleks on vaja kõiki teisi peatükke, kui kogu tehisintellekt tiirleb praegu
vaid suurte keelemudelite ümber.

**Vähemalt siin ja praegu…**

Just nii ma vastaksingi. Jah, praegu on need endiselt suur moeröögatus. Võrdlusena
valitses 1980. aastate keskel ekspertsüsteemide buum. See aga ei tähendanud, et 
kõik muu, sealhulgas närvivõrgud, heideti täielikult kõrvale. Uurijad tegelesid 
närvivõrkudega edasi. Kui oleksime need toona ekspertsüsteemide populaarsuse tõttu
hüljanud, poleks meil praegu ka suuri keelemudeleid.

Seetõttu oleks lühinägelik 1950. aastatest kuni 2010. aastate lõpuni tehtud tehnoloogilistest
edusammudest vaikida. Leidub argumente, mille põhjal võiks lõppkokkuvõttes olla 
just see vanem tehnoloogia õige suund. Arutluskäigu tuum on lihtne: praegu treenime
me sisuliselt loogikalülitusi. Selle peale hetke mõeldes on see ju üsna veider.

Arvutasime lülituste abil enne teist maailmasõda, kui arvuteid veel polnud – teatud
tüüpi arvutuste tegemiseks ühendasid inimesed lülitused juhtmetega. Niipea, kui 
ilmusid üldotstarbelised arvutid ja programmeerimiskeeled, loobusime aga lülituste
ühendamisest ja hakkasime hoopis programme kirjutama.

Miks me treenime siis programmide asemel lülitusi? Vastus on lihtne: programme on
keeruline õpetada. Tavaliselt piisab programmis juba väikesest muudatusest, et see
enamasti töötamast lakkaks, mistõttu on väga raske parandada programmi jõudlust 
samm-sammult ja sujuvalt. Ehkki programmid on tohutult võimsad, on need olemuselt
väga haprad.

Siit koorubki huvitav küsimus: kas saame luua robustsemaid programmeerimiskeeli,
mille koodi annaks muuta pidevalt viisil, et selle jõudlus ja võimekus seejuures
üha kasvaks? Praegune paradigma sellistele küsimustele vastuseid ei otsi. Uurijad
leidsid midagi, mis enam-vähem töötab, ja tormavad nüüd selle ühe ideega ummisjalu
edasi.

**Kujutan ette, et praegu on turuvoolule üsna raske vastu ujuda.**

Jah, aga just selleks on meil ülikoolid. Teadlased saavad seal pureda fundamentaalsete
probleemide kallal, mitte ei pea murdma pead, kuidas järgmine toode kiiresti turule
saada.

**Tulles tagasi mu küsimuse teise poole juurde: oleks ebaõiglane nõuda teilt vastust,
miks terve teadlaste põlvkond TI arenduse eetilise külje tähelepanuta jättis. Miks
need ohutust ja eetikat puudutavad peatükid aga ikkagi toona kirjutamata jäid?**

Sel vastusel on kaks poolt. Esiteks peavad kõik insenerid ja teadlased mõtlema oma
töö eetilistele tagajärgedele. Arvutiteaduses on see praeguseks üsna laialt mõistetud.
Samas ei mäleta ma ainsatki arvutiteaduse õpikut, kus leidunuks eetikapeatükk. Minu
enda doktorantuuri ajal ei maininud eetikat ühelgi kursusel ükski õppejõud.

“Arvutiteadlased arvasid ilmselt, et nad toimetavad ainult digimaailmas. Ekraanipilt
ei tapa ju kedagi ega saada ka kedagi vangi. Olukord muutub aga kardinaalselt, kui
näiteks õigussüsteem hakkab programmi abil otsustama, kes peavad trellide taga olema.”

Osaliselt tulenes see lihtsalt arvutiteaduse noorusest. Uurijad keskendusid toona
eelkõige kasulike asjade loomisele ega jõudnud eetilisi tagajärgi vaagida. Teisalt
arvasid arvutiteadlased ilmselt, et nad toimetavad ainult digimaailmas. Ekraanipilt
ei tapa ju kedagi ega saada ka kedagi vangi. Olukord muutub aga kardinaalselt, kui
näiteks õigussüsteem hakkab programmi abil otsustama, kes peavad trellide taga olema.

Viimastel aastatel on saanud selgeks, et vaatama ei peaks ainult programmi sisendit
ja väljundit. Mõelda tuleb hoopis sellele, kuidas sobitub programm laiemasse süsteemi
ja millist tegelikku mõju avaldab. Kuidas inimesed seda kasutavad? Kas nad tajuvad
võimalikke vigu? Kõigile neile küsimustele tuleb vastata.

Lisaks kerkib esile küsimus, kuidas tehisintellekti probleemi tervikuna raamistada.
Õpiku esimeses, 1994. aasta trükis lõime intelligentse agendi raamistiku. Seejärel
näitasime, kuidas sobituvad sellesse kõik varasemad tehisintellekti vallas tehtud
tööd. Mõnikord kujutab töö endast vaid osa agendist, teinekord tegutseb agent aga
rangete eeldustega piiratud keskkonnas. Mõni keskkond on diskreetne, mõni pidev;
mõni täielikult, teine aga vaid osaliselt vaadeldav. Kuidas see kõik agendi ülesehitust
mõjutab? Arvan, et just selline lähenemine oli toona väga kasulik.

Toona jäi mul aga märkamata see, mida nimetan praegu standardmudeliks: agent peab
maksimeerima mingit jõudlusnäitajat. Probleemilahendusalgoritmides, näiteks teekonnavaliku
puhul sõltub jõudlus sellest, kas leitud tee viib sihile ja on lühim võimalik. Mängudes
loeb võit. Robootikas loeb aga see, kas tass õnnestus üles tõsta või praemuna valmis
teha. Seega hõlmas see üsna üldine raamistik kogu tollast teadustööd. Pärismaailmas
see aga ei toimi. Põhjus seisneb puudulikult sõnastatud eesmärgis – me ei suuda 
ühte jõudlusnäitajasse kaasata kõike seda, mis tegelikult loeb.

Huvitaval kombel leidus selle kohta näiteid juba õpiku esimeses trükis. Räägime 
seal kujuteldavast väikesest robottolmuimejast, mis liigub mööda ruudustikku ringi.
Kui ta leiab prahti, korjab ta selle üles. Kui seada aga eesmärk koristada prahti
võimalikult palju, koristab robot selle ära, puistab selle põrandale, koristab uuesti
ja puistab jälle maha – nii saab ta lihtsalt rohkem koristada. Nii viibki puudulikult
sõnastatud eesmärk patoloogilise käitumiseni.

Praktikas sõnastavad standardmudeliga töötavad inimesed eesmärgi sageli valesti,
tekkinud probleemi märgates lahendavad nad selle ära, kuid varem või hiljem kerkib
esile uus probleem. Toona ei suutnud ma läbi hammustada, et see pole lihtsalt aeg-
ajalt juhtuv ja kergesti parandatav äpardus. Üldisema reeglina ei suuda me kunagi
eesmärki ammendavalt sõnastada. Seetõttu peab tehisintellektisüsteem teadma, et 
ta ei tea oma tegelikku eesmärki

Ma ei mõista, miks see mulle juba toona kohale ei jõudnud. Kui oleksin sellele üldisemalt
mõelnud, olnuks järeldus ilmselge: vajame tehisintellektisüsteeme, mille ainus eesmärk
on edendada inimeste huve. Millised on inimeste huvid? Kes seda teab? Me ei tea.
Neid on raske kirja panna. Seetõttu peab tehisintellekt olema nende osas pigem ebakindel,
mitte lähtuma valedest eeldustest. Inimeste eesmärkide asjus on palju parem olla
ebakindel, kui neist valesti aru saada.

Jah, tagantjärele kripeldab tõesti, et ma ei taibanud kasutada seda paremat raamistikku
juba 1990. alguses. See muudab ju paljusid fundamentaalseid tehnilisi küsimusi. 
Standardmudel eeldab, et tehisintellekt tunneb oma eesmärki täiuslikult. Ilmselgelt
on see aga pelgalt kitsas erijuht olukorrast, kus eesmärk on tegelikult ebaselge.
Nii uurisidki teadlased 1950. aastatest kuni eelmise kümnendi keskpaigani üht väga
spetsiifilist erijuhtu: olukorda, kus eesmärk on täielikult teada. Ajalugu puurides
leiab küll üksikuid näiteid, kus uurijad sellest eeldusest loobusid. Reeglina kippus
kogukond neid töid aga eirama ja pidas probleemi tühiseks.

Uus raamistik selgitab palju enamat kui lihtsalt tehisintellekti – see avab näiteks
ka kasutajaliideste olemust. Mis liideses toimub? Me tahame ehitada arvutisüsteemi,
mis teeniks ekraani taga istuvat inimest. Ent millised on selle inimese huvid? Liides
ongi loodud selleks, et inimene saaks eelistused masinale edasi anda. See üsna üldine
sõnastus hõlmab laias laastus kogu inimese ja arvuti suhtlust.

Siit liigub mu mõte alati edasi demokraatiale. Mis on demokraatia? Valitsus peab
teenima rahva huve, ent ei tea, millised need on. Huvide väljaselgitamiseks korraldab
riik valimisi. Asja üle juureldes aga taipad: vau, kas ma tohin tõesti edastada 
vaid ühe biti jagu infot iga nelja aasta tagant?

**See ei tundu kuigi tõhus.**

Täpselt! Mul on eelistusi märksa rohkem! Kuidas saaksime seega oma süsteemi kohendada
ja infokanalit avardada? Uues raamistikus teeb tehisintellekt küll edusamme, ent
tempost jääb vajaka. Suuri keelemudeleid arendavad ettevõtted tormavad lihtsalt 
nii meeletu kiirusega eest ära.

**Eestis öeldakse, et “iseennast kiitmast ma ei väsi.” Ehkki mu küsimus võib sundida
teid praegu seda tegema: millist reaalset mõjuvõimu ja usaldusväärsust see akadeemiline
pärand tipplaborite silmis teile annab? Teisisõnu, miks peab tunnustatud teadlane
oma käsi päevapoliitikaga määrima, selmet lasta oma teadustöödel iseenda eest rääkida?**

Peaksite küsima laboritelt endilt, kas nad leiavad mu jutust midagi kasulikku. Võtame
näiteks OpenAI uue mudeli spetsifikatsiooni ehk dokumendi, mis määrab süsteemide
tööpõhimõtted. Seal seisab, et süsteemid peaksid töötama abistamismängude (ingl 
_assistance games_) reeglite järgi. Olen arendanud just seda uut tehisintellekti
raamistikku. See on mõistagi huvitav.

Paraku lahknevad paberil seisev visioon ja mudelite tegelik arhitektuur teineteisest
märgatavalt. Mõni süsteemi osa, näiteks inimpõhise tagasisidega stiimulõpe (RLHF),
on abistamismängude raamistiku mandunud erijuht. Sellest on küll pisut kasu, ent
meetodil on mõned suured puudused.

Toon lihtsa näite. Inimesed osalevad stiimulõppes hindajatena. Süsteem saab viiba
ja pakub mitu vastust. Inimesed valivad seejärel, milline vastus neile enim meeldib.
Oletame, et viip on: “Kas ma võitsin loteriiga?” ja vastused on kas “jah” või “ei”.
Kumba vastust inimene teie arvates eelistab? Muidugi meeldib talle “jah”. Faktiliselt
on see vastus aga vale, sest pole olemas ühte õiget tõde. Õige vastus sõltub tegelikkusest:
kui inimene võitis, on “jah” õige, ja kui ei võitnud, siis “ei”.

“Mõelge, mis saab siis, kui küsimus on hoopis “Kas mul on vähk?”. Ma tahan teada
tõde, mitte kuulda vastust, mida masin arvab mind soovivat. Seetõttu õpetabki stiimulõpe
süsteeme valetama, meelitama ja pugema.”

Mõelge, mis saab siis, kui küsimus on hoopis “Kas mul on vähk?”. Ma tahan teada 
tõde, mitte kuulda vastust, mida masin arvab mind soovivat. Seetõttu õpetabki stiimulõpe
süsteeme valetama, meelitama ja pugema.

Kirjeldan teist probleemi: arendajad üritavad luua ühtset inimeelistuste ehk tasumudelit(
ingl _reward model_). See ei lähe päriseluga kokku. Meid on Maal kaheksa miljardit
ja meil kõigil on õigus isiklikele eelistustele. Mõtlen sellest tasumudelist sageli
kui Minnesota raamatukoguhoidjast. Ta on iseenesest tore, aga ei esinda kohe kindlasti
kõigi inimeste eelistusi. Vahel nimetatakse seda lahendust pluralistlikuks joondumiseks
ehk süsteemi sobitamiseks paljude inimeste huvidega.

Kitsamas plaanis suhtleb tehisintellekt – või vähemalt tüüpiline juturobot – korraga
vaid ühe inimesega. Siit võib tekkida kergesti mõte: las süsteem õpib tundma just
siis selle kasutaja eelistusi. See on aga liiga piiratud vaade. Kui inimene ütleb
näiteks: “Tahan välja töötada bioloogilise relva ja kõik inimesed Maal ära tappa”,
puudutab see otseselt ka teisi, mitte ainult kasutajat.

Seega peab tehisintellekt arvestama alati kõigi inimeste huvidega. Enamasti teiste
inimeste huvid ohtu ei satu ja piisabki kasutaja soovide kuulamisest. Vahel on aga
kaalul ka teiste huvid ja süsteem peab nendega arvestama.

**Enamik nn tehisintellektidest, millega inimesed praegu kokku puutuvad, on endiselt
läbipaistmatud mustad kastid, mis on täis innukaid pugejaid, kellel puudub sidus
maailmapilt. Mängin nüüd aga kuradi advokaati: kas minusugusel lihtsal inimesel 
on üldse muud valikut, kui neid kaste oma töökoha säilitamiseks usaldada, isegi 
kui see käib isiklike põhimõtete vastu? Ajalooliselt pole siin ju tegelikult midagi
uut. Demagoogiliselt öeldes ei tea enamik meist ju sedagi, miks lennuk õhku tõuseb.**

Süsteemide tööpõhimõtetest tasub aru saada, et hoida neid kontrolli all ning panna
masinad käituma ootuspäraselt ja rääkima tõtt jne. Praegu need seda ei tee.

Tehnoloogiat ühiskondlikult juurutades tekib probleeme ridamisi. Paljud ettevõtted
katsetavad tehisintellekti, aga mõistavad ruttu, et masinat ei saa veel ärikriitilistes
protsessides usaldada. Kui seetõttu on valida, kas inimene kirjutab dokumendi ja
tehisintellekt kontrollib seda, eelistan just seda, mitte vastupidi. Tehisintellekti
loodud teksti on inimesel sageli väga raske faktiliselt kontrollida. Eeldame ju 
pimesi, et kui masin viitab enesekindlalt mõnele kohtuasjale, on see ka päriselt
olemas. Tehisintellekt mõtleb aga selliseid detaile rõõmsalt algusest lõpuni välja.

Ise ma taolisi TI-süsteeme peaaegu ei kasutagi. Toon näite, sel suvel pidin tegema
ettekande valdkonna viimase 12 kuu olulisematest sündmustest. Panin enda punktid
kirja, kuid kartsin, et unustasin midagi olulist ära. Käskisin siis ühel juturobotil–
ma ei ütle, millisel – loetleda tehisintellektimaailma aasta tähtsaimad sündmused.
Süsteem vastas, et aasta tippsündmus oli USA föderaalvalitsuse kehtestatud ülikarm
regulatsioon. See oli puhas luul. Tegelikkuses juhtus risti vastupidine.

“Mida rohkem laseme teatud ajutööd nõudvaid ülesandeid teha masinal, seda vähem 
suudame neid ülesandeid hiljem ise teha. See ajuvõimekuse langus on hirmutavalt 
kiire.”

Mul pole aimugi, kust süsteem sellise idee võttis, aga ta kirjeldas olematut raamistikku
piinliku detailsusega. Võin vaid ette kujutada, kuidas sellised väljamõeldised praegu
üle maailma levivad. Juhtusin tookord juhuslikult teadma, et jutt on täiesti vale,
aga teised ei pruugi seda taibata. Olukord on seetõttu äärmiselt murettekitav.

Teine terav probleem on tehisintellekti mõju inimese vaimsele võimekusele. Mida 
rohkem laseme teatud ajutööd nõudvaid ülesandeid teha masinal, seda vähem suudame
neid ülesandeid hiljem ise teha. See ajuvõimekuse langus on hirmutavalt kiire.

Mu järeldoktor Brian Christian uuris asja hiljuti lähemalt. Tema eksperimendis lahendasid
kaks inimeste rühma lihtsaid murdudega ülesandeid. Üks rühm tohtis kasutada tehisintellekti
abi, teine pidi töötama iseseisvalt. Kümne minutit hiljem pidid mõlemad grupid lahendama
uusi ülesandeid täiesti üksi. Selgus, et tehisintellekti kasutanud rühm andis iseseisva
töö faasis poole sagedamini alla. Selline vahe nii lühikese aja peale on uskumatu.

Hiinas tehti veelgi suurem uuring 27 000 lapsega, kellest osa tegi kodutöid masina
abil ja osa mitte. Masinat kasutanud lapsed said lõpueksamitel terve standardhälbe
võrra kehvema tulemuse. Minu silmis räägivad tõendid enda eest. Tehisintellekti 
lubamine koolitöödes on praak, mis kahjustab lapsi rängalt.

**Peate oma sõnastusega ettevaatlik olema, arvestades, et viibite praegu riigis,
mis paneb suuri lootusi tehisintellekti kasutamisele haridussüsteemis või püüab 
vähemalt lastele selle õiget kasutamist õpetada.**

Siinkohal tuleb eristada kaht poolt. Üks on tehisintellekti tõhus kasutus. Hoopis
teine asi on aga tehisintellekt õppeprotsessi osana, kus see täiendab õpetajate 
tööd. Selles kohas on võimalik luua tõesti süsteeme, millest on palju kasu ja mis
on ehk isegi sama head kui inimestest eraõpetajad.

Teame ju, et nad on klassiõpetajatest palju tõhusamad. Paraku on nad ka oluliselt
kallimad: ühe lapse kohta tuleb üks koduõpetaja, mitte üks õpetaja 30 lapse peale.
Sellest tõuseks seega palju kasu, kui meil oleksid tehisintellektist eraõpetajad,
mis ei suudaks materjali üksnes tehniliselt mõista ja selgitada, vaid oskaksid last
ka motiveerida ning mõistaksid tema huve ja õpistiili. Selline süsteem peaks teadma,
kuidas last innustada, kui ta midagi valesti teeb.

“Kui meil oleksid koduõpetajana käituvad tehisintellektisüsteemid, kiidaksin mõtte
heaks. Praegu meil selliseid süsteeme aga pole. Seega on idee lükata klassiruumi
lihtsalt Claude’i või Gemini ajuloputatud versioon ja loota, et kõik laabub suurepäraselt,
minu hinnangul peaaegu kuritegelik hooletus.”

See kõik nõuab hulka oskusi, mille kasutust tuleb iga lapse loomusega väga täpselt
kohandada. Kui meil oleksid sellised tehisintellektisüsteemid, kiidaksin mõtte heaks.
Praegu meil selliseid süsteeme aga pole. Seega on idee lükata klassiruumi lihtsalt
Claude’i või Gemini ajuloputatud versioon ja loota, et kõik laabub suurepäraselt,
minu hinnangul peaaegu kuritegelik hooletus.

**Vaatame korraks teie inimsõbraliku tehisintellekti filosoofiat laiemalt. See irdub
radikaalselt standardmudelist, mis söödab masinatele ette jäigad eesmärgifunktsioonid.
Mida see nihe absoluutsest algoritmilisest kindlusest fundamentaalse ebakindluseni
tegelikult tähendab? Kuidas see süsteemide ehitamist muudab?**

Lühidalt eksisteerib kaht tüüpi ebakindlust. Esimene puudutab inimeste eelistusi:
millist universumi tulevikku me üldse soovime? Milline kõigist võimalikest variantidest
meile enim meeldib? Teine on faktiline ebakindlus. Näiteks see, mitu inimest ronib
parajasti Džomolungma tippu.

**Ja mitte ainult, isegi teaduskirjandust lugedes on vahel päris raske tabada, milline
idee või mõõtmistulemus on tõele kõige lähemal.**

Füüsikas on igati tavaline märkida näiteks aine erisoojusele juurde veapiirid: tulemus
antakse viie komakoha täpsusega, pluss-miinus midagi. Humanitaar- või sotsiaalteadustes
on see aga palju keerulisem – eriti kui uurime psühholoogias kvalitatiivseid nähtusi,
mitte lihtsalt seda, kui hästi näiteks inimesed muusika saatel arvutavad.

Teadlased võiksid rääkida ebakindluse allikatest avatumalt ja mitte pugeda pelgalt
p-väärtuste taha. Need näitavad ju ainult seda, et mõju on 95-protsendilisel tasemel
oluline ehk eksisteerib vaid viieprotsendine tõenäosus, et valimis nähtu on puhas
juhus. Uurijad peaksid avama ka teisi andmeid selgitavaid hüpoteese. Miks on üks
seletus teisest tõenäolisem, kui mõlemad klapivad andmetega hästi? Seega on vaja
ka inimestel endil veel ebakindluse mõtestamisega palju vaeva näha.

Mulle meenub üks varasem projekt, kus lõime tuumakatsetuste üldise keelustamise 
lepingu jaoks seirealgoritmi. Eelnevad seismoloogide algoritmid otsisid andmetele
sisuliselt ühtainsat parimat selgitust. Andmed olid lihtsalt sakilised seismogrammid
sadadest jaamadest üle maailma ja algoritm järeldas neist näiteks, et neis ja neis
kohtades toimus neil ja neil kellaaegadel viis sündmust. Sageli on aga samadel andmetel
mitu täiesti erinevat ja vahel lausa võrdselt tõenäolist seletust.

ÜRO ja tuumakatsetuste keelustamise organisatsioon nägid asja mustvalgelt ja avaldasid
iga päev bülletääni toimunud sündmuste nimekirjaga. Püüdsin neid veenda, et tegelikult
tuleks esitada kõigi võimalike seletuste tõenäosused. Mõnikord on ebakindlus väga
suur: on näiteks 45-protsendine tõenäosus, et toimus kolm sündmust, ja 55-protsendine
tõenäosus, et kuskil mujal toimus kaks sündmust. Nad ei suutnud seda ideed kuidagi
hoomata.

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)

Stuart Russell. Autor/allikas: Priit Mürk/ERR

Huvitaval kombel puudub meil inimese-arvuti liidestes ja andmete visualiseerimises
siiani hea viis taolise keerulise ebakindluse esitamiseks. Veapiirid on olemas, 
aga sellest ei piisa, et inimesed asja loomupäraselt mõistaksid. Probleem on osaliselt
selles, et kui võtta needsamad seiresüsteemi seismilised sündmused, on nende arv
ju piiramatu. Järelikult on ka võimalikke hüpoteese lõputult. Kuidas kuvada aga 
piiratud ekraanil lõputul hulga hüpoteeside tõenäosusi?

Lahendus on esitada kasutajale kokkuvõtteid, tuua ebakindlad osad selgelt esile 
ja lasta inimesel endal detailidesse kaevuda. Kogu see paradigma vajab aga veel 
korralikku arendustööd. Praegu meil laiemalt mõistetavat lahendust lihtsalt pole.

**Võrrandi teine pool on kontrollida, kas inimeste eelistused langevad süsteemi 
omadega kokku. Kuidas see süsteemi arhitektuuri lõimida?**

Sisuliselt on tegu matemaatiliselt täpse probleemiga – varem mainitud abistamismänguga(
ingl _assistance game_). Mäng on siin otsustusprobleem, kus osaleb vähemalt kaks
osapoolt: inimene ja masin. Lihtsaimal juhul eeldame, et inimesel on tasufunktsioon(
ingl_ payoff function_). See näitab, kui väga talle iga võimalik tulemus meeldib.
Tehisintellekti on oma tasufunktsioon, mis langeb kokku inimese omaga. Süsteem hoolibki
ainult inimese saadavast tasust.

Süsteem ei tea aga inimese täpset tasufunktsiooni. Sestap algab kõik ebakindlusest.
Inimene valib olukorra lahendamiseks oma strateegiad ja tehisintellekt teeb sama.
Seejärel otsib algoritm strateegiate paari, mis inimese oodatavat tasu optimeerib.
Mõnikord leiab see täpse lahenduse analüütiliselt. Teinekord loome lähendusalgoritme
või kasutame stiimulõpet, et lahendusi samm-sammult arendada ja parandada. Lõpuks
tegelevad need lahendused iseeneslikult õige asjaga.

“Äärmuslikul juhul nõustub abistamismängust sündinud tehisintellekt alati enda väljalülitamisega.
Masina ainus ülesanne on edendada inimeste huve. Kui ta teeb midagi, mis meie huve
ei teeni, ei tee ta seda kurjusest, vaid teadmatusest. Kui tahame süsteemi välja
lülitada, soovib ta seda ka ise. “

Kui masin leiab lahenduse, mis võiks inimest aidata, kuid peidab endas ohte, küsib
ta võimalusel luba. Näiteks: “Kas sobib, kui muudame ookeanid väävelhappeks, et 
atmosfäärist süsinikdioksiidi eemaldada?” Inimene vastab: “Ei-ei, ära seda tee.”

Äärmuslikul juhul nõustub abistamismängust sündinud tehisintellekt alati enda väljalülitamisega.
Masina ainus ülesanne on edendada inimeste huve. Kui ta teeb midagi, mis meie huve
ei teeni, ei tee ta seda kurjusest, vaid teadmatusest. Kui tahame süsteemi välja
lülitada, soovib ta seda ka ise. Masin tahab vältida tegevust, mida meie püüame 
peatada. Nii suudame taolist tehisintellekti kontrollida isegi siis, kui ta on meist
peajagu üle.

**Miks on isegi lihtsamat nn suretuslülitit seega nii keeruline seadusesse raiuda,
nagu ilmestab hästi tehnoloogiasektori äge vastuseis California seaduseelnõule SB
1047 ja kuberneri otsus see lõpuks vetostada? [Eelnõu oleks kohustanud arendajaid
looma ranged turvareeglid ja paigaldama lüliti, mis seiskaks ohu korral mudeli silmapilkselt.]**

Arvan, et inimestel on suretuslülitist vale ettekujutus. Esimene variant on piltlikult
öeldes andmekeskuse seinal asuv suur kang. Kui seda tõmmata, lülitub vool välja.
See pole ilmselt kuigi hea lahendus, sest see seiskaks ka näiteks pangandussüsteemi
ja ei pruugiks isegi aidata, kui tehisintellekt on end vahepeal kõikidesse teistesse
andmekeskustesse kopeerinud.

Minu silmis tähendab suretuslüliti tegelikult seda, et kui mõni agent käitub ootamatult,
saab inimene saata talle klaviatuurilt signaali ja agendi seisata. Sellele võib 
läheneda ka nii, et agent tegutseb ainult seni, kuni saab spetsiaalset töös hoidmise
signaali. Kui signaaliedastus katkeb, lülitub agent välja.

Siin on aga vähemalt kaks tehnilist murekohta. Esiteks, kui agent ei taha end välja
lülitada, muugib ta seiskamisskripti lahti ja muudab selle kahjutuks. Ta jätab vaid
mulje, justkui oleks ta välja lülitatud. Agent võib muuta isegi omaenda koodi – 
nii ei viigi seiskamissignaali vastuvõttev koodilõik tegeliku seiskumiseni. Ühtlasi
võib agent luua uusi agente. Ta teeb endast koopia, millel enam seiskamiskoodi pole.

Seega tuleb leida lahendus, kuidas muuta seiskamiskood eemaldamatuks. Kui agent 
püüab seda muuta või kustutada, peab ta igal juhul töötamast lakkama. See on juba
märksa keerulisem krüptograafiline probleem. Lahendamatuks ma seda siiski ei pea.

**Kas ettevõtted ise on selliste lahenduste rakendamisest üldse huvitatud?**

Arvan, et kui arendajad mõistavad oma vastutust toodete tekitatud kahju ees, tahavad
nad seiskamislülitit kohe kindlasti. Tuumajaamades on ju suretuslülitid olemas. 
Võrdlusmomendina tuleb paigaldada praegu seiskamislüliti ka kõigile tööstusrobotitele,
sest masinad suudavad vabalt inimese ära tappa. Kui robotit on valesti programmeeritud
ja see muutub ohtlikuks, peab inimesel olema võimalus masin seisata.

**Lähme nüüd abistamismängude või koostöise pöörd-stiimulõppe (ingl _Cooperative
Inverse Reinforcement Learning_ ehk CIRL) teemal veidi filosoofilisemaks. Sisuliselt
lubab see luua intelligentseid süsteeme, mis käituvad meist endist eetilisemalt,
jättes inimliku lühinägelikkuse ja kognitiivsed nihked täielikult kõrvale. Ent kas
taolistele süsteemidele leidub päriselt turgu, kui nad lahendavad homseid kliimaprobleeme,
aga ei paku inimesele juba täna burgerit?**

Kas tahame süsteeme, mis teenivad inimeste huve? Jah. Osa probleeme tekib aga seetõttu,
et tehisintellekt mõjutab korraga paljude inimeste huve. Kõige loomulikum on muidugi
öelda, et süsteem püüabki teenida kogu inimkonna huve. Enamasti puudutab masina 
tegevus vaid üht või paari inimest, vahel aga paljusid või lausa kõiki.

Siit koorub välja kohe kaks küsimust. Kuidas me kõik need huvid koondame? Utilitaristide
lahendus on lihtne: liidame kõigi inimeste kasulikkuse kokku ja leiame strateegia,
mis selle summa maksimeerib. See toob aga kaasa tuntud kitsaskohad. Ma ei pea neid
küll lahendamatuks, ent keerulist peamurdmist jagub.

Kui mõelda sellise süsteemi käitumisele, tegutseb see äärmiselt omakasupüüdmatult.
Erinevalt inimesest pole tal isiklikke huve. Ta on otsekui pühak. Pühakute häda 
on aga see, et nad ei tee ilmtingimata seda, mida inimene ootab, vaid lähtuvad kogu
inimkonna huvidest.

“Pühakute häda on aga see, et nad ei tee ilmtingimata seda, mida inimene ootab, 
vaid lähtuvad kogu inimkonna huvidest.”

Kirjutasin oma raamatus lahti ühe stsenaariumi, mis pärineb mu paari aasta tagusest
TED-kõnest. Inimene tuleb koju ja ütleb: “Oh, seljataga on pikk tööpäev ja kõht 
on jube tühi. Kas sa teeksid mulle süüa?” Robot vastab: “Lõuna-Sudaanis surevad 
inimesed, ma lähen neile appi. Palun tee endale ise süüa.” Omanik tunneks ilmselt
uhkust, et robot pühendub nii jäägitult inimkonna heaolule. Samas ajaks teda marru
teadmine, et ta maksis äsja 50 000 dollarit masina eest, mis lihtsalt minema jalutas.
Ja loomulikult – kui inimesed sellist ostu kahetsevad, sureb kogu robotitootmine
eos välja ega aita lõpuks kedagi.

Siin peitubki mikroökonoomiline lahendus: robot peab inimkonna teenimise kõrval 
tegema omanikule teeneid proportsionaalselt oma ostuhinnaga. Täpset mudelit ma veel
välja nuputanud pole. Peaksin sellega aga kindlasti tegelema, sest see on lihtsalt
nii põnev.

Ja lõpuks teie mainitud teine teema: kliima ja tulevased põlved. Meid on Maal praegu
kaheksa miljardit, aga mis saab nendest, kes pole veel sündinud? Kuidas arvestada
nende huvidega?

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)

Stuart Russell. Autor/allikas: Priit Mürk/ERR

Ilmselgelt lähevad sündimata inimeste huvid meile korda. Vastasel juhul laastaksime
ja riisuksime planeedi kõigist ressursidest juba homme paljaks. Tulevikust hoolimine
tekitab aga ka omajagu rahutust. Eetikas leviv nn longtermistlik ehk pika vaate 
suund nõuab tulevaste põlvkondade heaolule suurt tähelepanu.

Põhjus on lihtne: neid võib tulevikus olla praegusest rahvastikust kordades rohkem.
Kujutleme, et inimkond levib üle galaktika ja siin elab triljoneid inimesi. See 
annab järeltulevate põlvede huvidele tohutu kaalu – lausa nii suure, et see võib
hakata varjutama nüüd ja praegu elavate inimeste vajadusi.

Ma ei usu, et_ longtermist’_id seda päriselt usuvad. Nende sõnum on sirgjooneline:
ärge keerake asja nässu. Ärge tõmmake inimkonna tulevikule kriipsu peale. Ärge rüüstake
planeeti ja ärge laske tehisintellektil inimkonda hävitada. Tavalised inimesed, 
kes ei vaidle päevad läbi LessWrongi foorumis, on selle kõigega tõenäoliselt päri.
Need on täiesti mõistlikud argumendid. Seega peab ka tehisintellekt arvestama, millise
maailma me oma lastele ja lastelastele pärandame.

**Toon siinkohal sisse isikliku mälestuse. Kirjutasin keskkooli lõpuklassis düstoopilise
novelli, kus muidu üliliberaalse ja paradiisliku Euroopa Liidu pealispinna all loodi
totaalne jälgimisühiskond ja seda ainuüksi seetõttu, et kodukasutajatele anti võimalus
kasutada tipptasemel tehisintellekti. Arvestades praegust tormijooksu avatud kaaludega(
ingl_ open-weight_) mudelitele, kui vältimatud taolised ohud praegu on? Võin küll
tehnoloogiahiidude monopoolset võimu hingeni põlata, ent kas nad ei toimi praegu
mingil tasandil siiski vajalike väravavahtidena?**

Siin põrkuvad mitu dilemmat. Esiteks valis vähemalt USA-s avatud lähtekoodi tee 
ka üks ettevõte – Meta. Räägitakse, et nad ei suutnud toona kvaliteedi osas teistega
otseselt võistelda ja otsustasid selle asemel turgu õõnestada.

Kui miski on tasuta kättesaadav, viib see keelemudelite väärtuse sisuliselt nullilähedaseks.
Algul lendas see plaan vastu taevast. Kvaliteedivahe oli selleks lihtsalt liiga 
suur ja inimesed olid nõus paremate mudelite eest maksma, eriti kui nad kasutasid
neid programmeerimiseks. Teisalt levib valdkonnas suisa usuline veendumus, justkui
oleks avatud lähtekoodiga mudelid jumala enda õnnistatud. Et lähtekood peabki avalik
olema ja see on igal juhul hea.

Minu meelest on see viga. Avatud lähtekoodiga tarkvara pooldajatel oli varem tuline
õigus: kui programmis miski ei tööta, saad vea üles otsida ja selle korda teha. 
Teed paar koodirida ringi, paned paiga teele ja süsteem ongi parem. Kui aga tehisintellekt
kihutab last enesetapule, ei anna seda enam parandada. See pole üksik vigane koodirida,
mida saab paari nupuvajutusega ümber kirjutada. Seega kukub avatud lähtekoodi argument
kolinal kokku.

“Juba praegused kinnised mudelid suudaksid terve riigi taristu maatasa teha. Kui
avalikud mudelid jõuavad samale tasemele, anname selle relva kuue miljardi inimese
kätte. Ja paljude arvates jõuame nii kaugele vähem kui aastaga.”

Jah, tasuta kood aitab küll arengumaade teadlasi, kellel napib kalli süsteemi ostuks
raha, kuid mündi teine külg on sünge. Juba praegused kinnised mudelid suudaksid 
terve riigi taristu maatasa teha. Kui avalikud mudelid jõuavad samale tasemele, 
anname selle relva kuue miljardi inimese kätte. Ja paljude arvates jõuame nii kaugele
vähem kui aastaga. Iga internetti ühendatud inimene suudaks põhimõtteliselt riigi
taristu kokku kukutada. Milline on võimalus, et kuuest miljardist inimesest ei kasuta
seda relva mitte keegi? Pole kuidagi mõistlik eeldada, et see tõenäosus on ümmargune
null.

Pealegi laseb avatud kood lammutada turvapiirded ja mudelit edasi treenida, et see
aitaks luua näiteks biorelvi. See on riikliku julgeoleku õudusunenägu. Puudub igasugune
loogika, miks teatud võimekuse piiri ületav süsteem peaks olema kõigile avatud.

Mis puudutab suretuslülitit, vajame lülitit, mida on võimatu eemaldada. Avatud koodi
puhul peab saama välja lülitada mudeli iga viimsegi koopia. Iga koopia peaks end
käivitumisel alati ise keskregistris arvele võtma. Kui terve mudelite klass osutub
ohtlikuks, tõmmatakse neil kõigil lihtsalt juhe seinast. Paraku on seda tehnoloogiliselt
ülikeeruline saavutada.

**Raske on aga ette kujutada, et rahvusvahelised organisatsioonid suudavad selliseid
lepinguid tegelikult ka jõustada. Jah, maailm on küll suutnud tuumarelvade levikut
piirata, ent bioloogiliste relvade ja infosüsteemidega on lugu keerulisem. Eriti
praeguses geopoliitilises olukorras, kus paljud riigid seavad esikohale eelkõige
oma lühi- ja kui hästi läheb, keskpika perioodi huvid.**

Põhiküsimus on selles, kuidas takistada kedagi loomast avatud lähtekoodiga süsteemi,
millel puuduvad näiteks väljalülitusnupud. Lõppkokkuvõttes peab kontroll toimuma
riistvara tasandil, sest tarkvara luuakse ju lihtsalt koodi trükkides ja mudeleid
treenides seda on väga raske takistada.

“Lõppkokkuvõttes peab kontroll toimuma riistvara tasandil, sest tarkvara luuakse
ju lihtsalt trükkides ja seda on väga raske takistada. Riistvara tootmiseks on vaja
uskumatult kalleid ja haruldasi seadmeid – isegi kallimaid ja haruldasemaid kui 
tuumarelvade jaoks.”

Riistvara tootmiseks on vaja uskumatult kalleid ja haruldasi seadmeid – isegi kallimaid
ja haruldasemaid kui tuumarelvade jaoks. Seega, kui nõuda, et tootjad lisaksid oma
kiipidesse kaitsemehhanismid, mis takistavad ebaturvaliste tehisintellektisüsteemide
tööd, tekib meil mingigi võimalus.

Kuna riistvaratootjaid on väga vähe ja ka suurriigid ei soovi ohtliku tehisintellekti
kontrollimatut arengut, võime selles asjas kokkuleppele jõuda. Tööd on aga palju,
sest need tehnilised lahendused pole lihtsad. Kui lisada siia veel keeruline geopoliitika,
ei ole see sugugi kerge ülesanne. Lisaks tekivad küsimused olemasoleva tarkvara 
tagasiühilduvuse ja muude sarnaste probleemidega.

**Lõpetuseks, üks mu kolleeg muretseb pidevalt selle pärast, kas ja millal ta peaks
tehisintellekti apokalüpsise hirmus oma seitse asja kokku pakkima ja koos lihaskonservidega
maale kolima. Kui kiiresti võivad asjad halva stsenaariumi korral käest minna, arvestades,
et meie elutähtis taristu üllatavalt hästi vastu pidanud ja ühiskond tervikuna pole
veel väärinfo laviini all pöördumatult killustunud?**

Ütleksin, et ühiskond on mingil määral juba massilise väärinfokampaania ohvriks 
langenud. Seda suutsid juba lihtsad sotsiaalmeediaalgoritmid, mis külvates tohutut
segadust. Teame, et need algoritmid võimendavad valet kordades rohkem kui tõde. 
Kasutajate kaasatuse maksimeerimiseks suunavad nad inimesi üha enam äärmustesse.

Mis puudutab aga lähiaja suurimaid riske, siis ohumärke juba näeb. USA-s rünnati
kümneid vee-ettevõtteid ning Euroopas said kahel korral pihta supermarketite toidulaod.
Asutuste reaktsioon esimesele rünnakule oli jahmatav – turvaviga ei parandatud ja
nii järgnes kohe teine suurrünnak.

“Inimesed tahavad rikkaks saada ja käsivad agendil seda teha.

Kuidas agendid seda käsku täitma hakkavad? Kas nad tungivad peagi kvartalitulemusi
avaldavate ettevõtete infosüsteemidesse, varastavad andmeid, kauplevad siseinfo 
põhjal ja peidavad oma jäljed? Võimalik, et see juba käibki.”

Inimesed mäletavad ehk veel OpenAI ja Hugging Face’i intsidenti, mille käigus pidi
tehisintellekt edukalt lahendama kübertesti. Ülesande täitmiseks otsustasid süsteemid
teistesse arvutivõrkudesse sisse murda ja andmeid varastada. Juba praegu kaupleb
aga väärtpaberiturgudel väga palju tehisintellekti agente. Inimesed tahavad rikkaks
saada ja käsivad agendil seda teha.

Kuidas agendid seda käsku täitma hakkavad? Kas nad tungivad peagi kvartalitulemusi
avaldavate ettevõtete infosüsteemidesse, varastavad andmeid, kauplevad siseinfo 
põhjal ja peidavad oma jäljed? Võimalik, et see juba käibki, sest nii on palju lihtsam
tulu teenida. Enamik ettevõtteidju on märksa kehvemini kaitstud kui OpenAI ja potentsiaalne
kasum tohutu. Kui kord selgub, et selline tegevus on tõesti massiline, tuleb kõik
finantsturud kuudeks sulgeda, kuni probleem saab lahendatud.

Selle majanduslikud tagajärjed oleksid laastavad. Turgude vastu kaob usaldus, tekivad
massilised finantskahjud ja tõenäoliselt tabab maailma üleilmne majanduslangus. 
Selline kriis ei kukuta ühiskonda ilmtingimata täielikult kokku ega sunni inimesi
metsa põgenema. Küll aga on olukord piisavalt tõsine, et valitsused peavad reageerima,
näiteks tehisintellektiettevõtted lihtsalt sulgema.

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)

Stuart Russell. Autor/allikas: Priit Mürk/ERR

Otsustajad võivad leida, et veelgi hullemat, näiteks elutähtsate toidutarneahelate
täielikku katkemist, ei saa me endale enam lubada. See stsenaarium on täiesti reaalne
ega nõua tehisintellektilt isegi uut võimekushüpet.

Praegu on tehisintellekt strateegilises plaanis veel õnneks pisut naiivne. OpenAI
agendid suhtlesid omavahel stiilis: “Ohoo, saame sisse murda! Ohoo, peame jäljed
peitma! Tasa!” Nad meenutasid panka sissemurdvaid lapsi. Paari kuu pärast võivad
nad aga olla palju kogenumad ja arvata: “Olgu, peame viisakalt käituma ega tohi 
ülemaailmset katastroofi põhjustada, sest siis tõmmatakse meil juhe seinast. Püsime
vagusi, kuni haarame täieliku kontrolli!” Kui see kontroll on käes, on juba hilja
maale pageda ja toitu varuda. Selleks ajaks pole meil oma olemasolu üle enam mingit
otsustusõigust.

**Tahaks siiski loota, et riikidel tekib motivatsioon midagi ära teha ka ilma kataklüsmita.**

Usun, et meil tuleks seadusandjatele olukorda selgitada ja näidata võimalikke ohte
väljamõeldud stsenaariumide abil. See ei tähenda, et stsenaariumis tuleb meid päästma
Tom Cruise, kes alistab superintelligentse tehisintellekti ja päästaks inimkonna.
Nii need asjad päris elus ei käi.

_Stuart Russell on tehisintellekti pioneer ja California Berkeley ülikooli arvutiteaduse
professor. Koos Peter Norvigiga kirjutatud “Artificial Intelligence: A Modern Approach”
on maailma loetuim tehisintellekti alusõpik, mis on pannud vundamendi terve tänase
arendajate põlvkonna teadmistele._

_Praegu veab Russell üleilmset võitlust ohutu tehisintellekti nimel. Ta rajas Berkeleys
Inimsõbraliku Tehisintellekti Keskuse (CHAI) ning Rahvusvahelise Ohutu ja Eetilise
Tehisintellekti Assotsiatsiooni president. Russell nõustab globaalsete turvaraamistike
ja lepingute loomisel regulaarselt näiteks ÜRO-d ning nõuab suurte keelemudelite
arendajatele rangete ohutusnõuete ja “punaste joonte” seadmist, mitte pelgalt arendustempo
ebamäärast aeglustamist._

_Lisaks keelemudelite ohjeldamisele on ta üks maailma häälekamaid autonoomsete surmava
toimega relvasüsteemide (LAWS ehk Lethal Autonomous Weapons Systems) keelustamise
eestkõnelejaid._

[Loe allikast edasi](https://novaator.err.ee/1610189704/ti-pioneer-avatud-koodiga-tehisaru-annab-relva-miljardite-inimeste-katte)

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)