Seitse mõtet vestlusest Stuart Russelliga:

• Tehisintellekti pioneeridel jäid eetikaküsimused pikalt tagaplaanile. Arvutiteadus on noor eriala ja teadlased keskendusid varem eelkõige kasulike programmide loomisele. Digimaailmas toimetades arvati ekslikult, et ekraanipilt ei suuda nagunii kedagi füüsiliselt ohustada. Tänapäeval, kus algoritmid juhivad näiteks kohtusüsteeme ja elutähtsat taristut, nõuab arendus aga eetiliste tagajärgede pidevat hindamist.
• Avatud kaaludega keelemudelid kätkevad endasjulgeolekuohtu. Tasuta tarkvara annab miljardite inimeste kätte sisuliselt potentsiaalse relva, võimaldades eemaldada turvapiirded ja luua seejärel näiteks biorelvi. Kuna tarkvara levikut on võimatu takistada, peitub ainus lahendus riistvaras – ohtlikele süsteemidele tuleb eemaldamatu turvalukk paigaldada juba kiipe tootes.
• Praegused juturobotid eelistavad olemuslikult tõele pugemist. Mudelid on stiimulõppe käigus treenitud kasutajale meeldima, pakkudes vastuseid, mida inimene ootab, isegi kui need on faktiliselt valed. Valesid saaks ennetada raamistikuga, kus tehisintellekt pole oma eesmärgis kunagi täiesti kindel ja lähtub teadmiste puudumisel alati rangelt kogu inimkonna, mitte ainult ühe kasutaja huvidest.
• Klassiruumis toimetav tehisintellekt viib tihti kuritegeliku hooletuseni. Kui lapsed delegeerivad ajutööd nõudvad ülesanded masinale, langeb nende iseseisev vaimne võimekus hirmuäratava kiirusega. Tõeliselt kasulik masinõpetaja ei peaks lastele lihtsalt vastuseid jagama , vaid motiveerima neid ja arvestama iga õpilase isikliku õpistiiliga.
• Tehisaru agentide universaalne suretuslüliti on tehnoloogiliselt keeruline, aga hädavajalik. Nutika tehisintellekti voolujuhet pole võimalik füüsiliselt seinast välja tõmmata. Päriselt töötav lahendus nõuab krüptograafilist seiskamiskoodi, mida ohtlikult käituv mudel ei suuda ise ei lahti muukida, kahjutuks muuta ega endast koopiat luues kustutada.
• Kratina käituvad TI-agendid võivad vallandada üleilmse majanduskrahhi. Kasumit taotlevate inimeste käsud võivad ärgitada agente varastama siseinfot ja kauplema salajaste andmete põhjal. Ehkki seni on agendid käitunud infovargustel naiivselt kui panka murdvad lapsed, on vaid aja küsimus, millal nad oma jälgi piisavalt hästi peita suudavad..

Olete maailmas laiemalt tuntud tehisintellekti alusõpiku “Artificial Intelligence: A Modern Approach” juhtivautorina. Selle viimane trükk ilmus enam kui viis aastat tagasi. Et valdkonna arenguga sammu pidada, pidite toona raamatut põhjalikult ümber kirjutama. Kui palju peaksite seda praeguseks ajakohastama ja kui vaadata kaugemasse minevikku, kas kahetsete, et te ei ladunud ohutust ja eetikat lahkavaid peatükke õpiku vundamenti juba näiteks 2010. aastal?

… või juba isegi 1994. aastal.

Huvitaval kombel on aga kõik suurte keelemudelite alused kirjas juba 2020. aasta trükis, mille panime kokku 2019. aastal. Toona oli võimalik inimestel kasutada juba OpenAI mudelit GPT-2 ja me tõime õpikus näiteid ka selle väljundist. See oli huvitav artefakt, mis tootis kohati terveid tekstilõike, mis tundusid täiesti mõistlikud. Tol ajal aga ei oodanud keegi, et neis lõikudes esitatud väited ka tõele vastaksid. Need olid lihtsalt grammatiliselt korrektsed – otsekui mõtleks mudel lõikude kaupa välja juhuslikke lugusid.

Igal juhul kirjeldasime kogu alustehnoloogiat: kuidas ehitada transformer-võrke ja treenida neid tohutu tekstiandmestikuga. Kui hakkaksime õpikut nüüd uuendama ja avaldaksime koos Peter Norvigiga viienda trüki, kirjutaksime esmalt sellest, et mudelid on kasvanud. Samuti treenitakse neid palju suurema andmemahuga. Lisaks ei tegelenud 2019. aastal veel keegi järeltreeninguga ja puudus niinimetatud arutlusvõime.

Arutlusoskus tähendab, et võrk ei vasta sisendi peale kohe, vaid peab enne omaette aru. Nii suudab mudel teha sisuliselt rohkem tööd. Kui selle peale mõelda, on see igati vajalik Mõned küsimused on keerulised ja neile ei saa vastata vaid poole millisekundi pikkuse sähvatusega. Sarnaselt malemänguga on mõni käik on lihtne ja teed selle käigupealt, aga teinekord on olukord keeruline ja nõuab pingutust. Kui süsteem ei saa aega järele mõelda, jääb ta keerulistele küsimustele vastamisega hätta.

Järeltreeningu esimene eesmärk on panna keelemudel vastama küsimustele abivalmilt ja viisakalt. Seejärel õpetatakse mudelit stiimulõppega (ingl reinforcement learning), kasutades inimese või tehisintellekti tagasisidet, et masin teatud küsimustele üldse ei vastaks. Et see ütleks näiteks: “Ma ei saa sellele vastata” või “Kas te ei tea, et inimeste mürgitamine on halb mõte?”. Laiem eesmärk on panna süsteem tegutsema inimeste huvides.

Seega on nii järeltreening kui ka mudelile arutlusvõime õpetamine põnev töö. Ütleksin, et saame toimuvast üldjoontes küll hästi aru, kuid detailseid teoreetilisi teadmisi napib. Õpiku jaoks ei tähendaks see seega kuigi suurt uuendust. Lugeja võib muidugi küsida, milleks on vaja kõiki teisi peatükke, kui kogu tehisintellekt tiirleb praegu vaid suurte keelemudelite ümber.

Vähemalt siin ja praegu…

Just nii ma vastaksingi. Jah, praegu on need endiselt suur moeröögatus. Võrdlusena valitses 1980. aastate keskel ekspertsüsteemide buum. See aga ei tähendanud, et kõik muu, sealhulgas närvivõrgud, heideti täielikult kõrvale. Uurijad tegelesid närvivõrkudega edasi. Kui oleksime need toona ekspertsüsteemide populaarsuse tõttu hüljanud, poleks meil praegu ka suuri keelemudeleid.

Seetõttu oleks lühinägelik 1950. aastatest kuni 2010. aastate lõpuni tehtud tehnoloogilistest edusammudest vaikida. Leidub argumente, mille põhjal võiks lõppkokkuvõttes olla just see vanem tehnoloogia õige suund. Arutluskäigu tuum on lihtne: praegu treenime me sisuliselt loogikalülitusi. Selle peale hetke mõeldes on see ju üsna veider.

Arvutasime lülituste abil enne teist maailmasõda, kui arvuteid veel polnud – teatud tüüpi arvutuste tegemiseks ühendasid inimesed lülitused juhtmetega. Niipea, kui ilmusid üldotstarbelised arvutid ja programmeerimiskeeled, loobusime aga lülituste ühendamisest ja hakkasime hoopis programme kirjutama.

Miks me treenime siis programmide asemel lülitusi? Vastus on lihtne: programme on keeruline õpetada. Tavaliselt piisab programmis juba väikesest muudatusest, et see enamasti töötamast lakkaks, mistõttu on väga raske parandada programmi jõudlust samm-sammult ja sujuvalt. Ehkki programmid on tohutult võimsad, on need olemuselt väga haprad.

Siit koorubki huvitav küsimus: kas saame luua robustsemaid programmeerimiskeeli, mille koodi annaks muuta pidevalt viisil, et selle jõudlus ja võimekus seejuures üha kasvaks? Praegune paradigma sellistele küsimustele vastuseid ei otsi. Uurijad leidsid midagi, mis enam-vähem töötab, ja tormavad nüüd selle ühe ideega ummisjalu edasi.

Kujutan ette, et praegu on turuvoolule üsna raske vastu ujuda.

Jah, aga just selleks on meil ülikoolid. Teadlased saavad seal pureda fundamentaalsete probleemide kallal, mitte ei pea murdma pead, kuidas järgmine toode kiiresti turule saada.

Tulles tagasi mu küsimuse teise poole juurde: oleks ebaõiglane nõuda teilt vastust, miks terve teadlaste põlvkond TI arenduse eetilise külje tähelepanuta jättis. Miks need ohutust ja eetikat puudutavad peatükid aga ikkagi toona kirjutamata jäid?

Sel vastusel on kaks poolt. Esiteks peavad kõik insenerid ja teadlased mõtlema oma töö eetilistele tagajärgedele. Arvutiteaduses on see praeguseks üsna laialt mõistetud. Samas ei mäleta ma ainsatki arvutiteaduse õpikut, kus leidunuks eetikapeatükk. Minu enda doktorantuuri ajal ei maininud eetikat ühelgi kursusel ükski õppejõud.

Osaliselt tulenes see lihtsalt arvutiteaduse noorusest. Uurijad keskendusid toona eelkõige kasulike asjade loomisele ega jõudnud eetilisi tagajärgi vaagida. Teisalt arvasid arvutiteadlased ilmselt, et nad toimetavad ainult digimaailmas. Ekraanipilt ei tapa ju kedagi ega saada ka kedagi vangi. Olukord muutub aga kardinaalselt, kui näiteks õigussüsteem hakkab programmi abil otsustama, kes peavad trellide taga olema.

Viimastel aastatel on saanud selgeks, et vaatama ei peaks ainult programmi sisendit ja väljundit. Mõelda tuleb hoopis sellele, kuidas sobitub programm laiemasse süsteemi ja millist tegelikku mõju avaldab. Kuidas inimesed seda kasutavad? Kas nad tajuvad võimalikke vigu? Kõigile neile küsimustele tuleb vastata.

Lisaks kerkib esile küsimus, kuidas tehisintellekti probleemi tervikuna raamistada. Õpiku esimeses, 1994. aasta trükis lõime intelligentse agendi raamistiku. Seejärel näitasime, kuidas sobituvad sellesse kõik varasemad tehisintellekti vallas tehtud tööd. Mõnikord kujutab töö endast vaid osa agendist, teinekord tegutseb agent aga rangete eeldustega piiratud keskkonnas. Mõni keskkond on diskreetne, mõni pidev; mõni täielikult, teine aga vaid osaliselt vaadeldav. Kuidas see kõik agendi ülesehitust mõjutab? Arvan, et just selline lähenemine oli toona väga kasulik.

Toona jäi mul aga märkamata see, mida nimetan praegu standardmudeliks: agent peab maksimeerima mingit jõudlusnäitajat. Probleemilahendusalgoritmides, näiteks teekonnavaliku puhul sõltub jõudlus sellest, kas leitud tee viib sihile ja on lühim võimalik. Mängudes loeb võit. Robootikas loeb aga see, kas tass õnnestus üles tõsta või praemuna valmis teha. Seega hõlmas see üsna üldine raamistik kogu tollast teadustööd. Pärismaailmas see aga ei toimi. Põhjus seisneb puudulikult sõnastatud eesmärgis – me ei suuda ühte jõudlusnäitajasse kaasata kõike seda, mis tegelikult loeb.

Huvitaval kombel leidus selle kohta näiteid juba õpiku esimeses trükis. Räägime seal kujuteldavast väikesest robottolmuimejast, mis liigub mööda ruudustikku ringi. Kui ta leiab prahti, korjab ta selle üles. Kui seada aga eesmärk koristada prahti võimalikult palju, koristab robot selle ära, puistab selle põrandale, koristab uuesti ja puistab jälle maha – nii saab ta lihtsalt rohkem koristada. Nii viibki puudulikult sõnastatud eesmärk patoloogilise käitumiseni.

Praktikas sõnastavad standardmudeliga töötavad inimesed eesmärgi sageli valesti, tekkinud probleemi märgates lahendavad nad selle ära, kuid varem või hiljem kerkib esile uus probleem. Toona ei suutnud ma läbi hammustada, et see pole lihtsalt aeg-ajalt juhtuv ja kergesti parandatav äpardus. Üldisema reeglina ei suuda me kunagi eesmärki ammendavalt sõnastada. Seetõttu peab tehisintellektisüsteem teadma, et ta ei tea oma tegelikku eesmärki

Ma ei mõista, miks see mulle juba toona kohale ei jõudnud. Kui oleksin sellele üldisemalt mõelnud, olnuks järeldus ilmselge: vajame tehisintellektisüsteeme, mille ainus eesmärk on edendada inimeste huve. Millised on inimeste huvid? Kes seda teab? Me ei tea. Neid on raske kirja panna. Seetõttu peab tehisintellekt olema nende osas pigem ebakindel, mitte lähtuma valedest eeldustest. Inimeste eesmärkide asjus on palju parem olla ebakindel, kui neist valesti aru saada.

Jah, tagantjärele kripeldab tõesti, et ma ei taibanud kasutada seda paremat raamistikku juba 1990. alguses. See muudab ju paljusid fundamentaalseid tehnilisi küsimusi. Standardmudel eeldab, et tehisintellekt tunneb oma eesmärki täiuslikult. Ilmselgelt on see aga pelgalt kitsas erijuht olukorrast, kus eesmärk on tegelikult ebaselge. Nii uurisidki teadlased 1950. aastatest kuni eelmise kümnendi keskpaigani üht väga spetsiifilist erijuhtu: olukorda, kus eesmärk on täielikult teada. Ajalugu puurides leiab küll üksikuid näiteid, kus uurijad sellest eeldusest loobusid. Reeglina kippus kogukond neid töid aga eirama ja pidas probleemi tühiseks.

Uus raamistik selgitab palju enamat kui lihtsalt tehisintellekti – see avab näiteks ka kasutajaliideste olemust. Mis liideses toimub? Me tahame ehitada arvutisüsteemi, mis teeniks ekraani taga istuvat inimest. Ent millised on selle inimese huvid? Liides ongi loodud selleks, et inimene saaks eelistused masinale edasi anda. See üsna üldine sõnastus hõlmab laias laastus kogu inimese ja arvuti suhtlust.

Siit liigub mu mõte alati edasi demokraatiale. Mis on demokraatia? Valitsus peab teenima rahva huve, ent ei tea, millised need on. Huvide väljaselgitamiseks korraldab riik valimisi. Asja üle juureldes aga taipad: vau, kas ma tohin tõesti edastada vaid ühe biti jagu infot iga nelja aasta tagant?

See ei tundu kuigi tõhus.

Täpselt! Mul on eelistusi märksa rohkem! Kuidas saaksime seega oma süsteemi kohendada ja infokanalit avardada? Uues raamistikus teeb tehisintellekt küll edusamme, ent tempost jääb vajaka. Suuri keelemudeleid arendavad ettevõtted tormavad lihtsalt nii meeletu kiirusega eest ära.

Eestis öeldakse, et “iseennast kiitmast ma ei väsi.” Ehkki mu küsimus võib sundida teid praegu seda tegema: millist reaalset mõjuvõimu ja usaldusväärsust see akadeemiline pärand tipplaborite silmis teile annab? Teisisõnu, miks peab tunnustatud teadlane oma käsi päevapoliitikaga määrima, selmet lasta oma teadustöödel iseenda eest rääkida?

Peaksite küsima laboritelt endilt, kas nad leiavad mu jutust midagi kasulikku. Võtame näiteks OpenAI uue mudeli spetsifikatsiooni ehk dokumendi, mis määrab süsteemide tööpõhimõtted. Seal seisab, et süsteemid peaksid töötama abistamismängude (ingl assistance games) reeglite järgi. Olen arendanud just seda uut tehisintellekti raamistikku. See on mõistagi huvitav.

Paraku lahknevad paberil seisev visioon ja mudelite tegelik arhitektuur teineteisest märgatavalt. Mõni süsteemi osa, näiteks inimpõhise tagasisidega stiimulõpe (RLHF), on abistamismängude raamistiku mandunud erijuht. Sellest on küll pisut kasu, ent meetodil on mõned suured puudused.

Toon lihtsa näite. Inimesed osalevad stiimulõppes hindajatena. Süsteem saab viiba ja pakub mitu vastust. Inimesed valivad seejärel, milline vastus neile enim meeldib. Oletame, et viip on: “Kas ma võitsin loteriiga?” ja vastused on kas “jah” või “ei”.Kumba vastust inimene teie arvates eelistab? Muidugi meeldib talle “jah”. Faktiliselt on see vastus aga vale, sest pole olemas ühte õiget tõde. Õige vastus sõltub tegelikkusest: kui inimene võitis, on “jah” õige, ja kui ei võitnud, siis “ei”.

Mõelge, mis saab siis, kui küsimus on hoopis “Kas mul on vähk?”. Ma tahan teada tõde, mitte kuulda vastust, mida masin arvab mind soovivat. Seetõttu õpetabki stiimulõpe süsteeme valetama, meelitama ja pugema.

Kirjeldan teist probleemi: arendajad üritavad luua ühtset inimeelistuste ehk tasumudelit (ingl reward model). See ei lähe päriseluga kokku. Meid on Maal kaheksa miljardit ja meil kõigil on õigus isiklikele eelistustele. Mõtlen sellest tasumudelist sageli kui Minnesota raamatukoguhoidjast. Ta on iseenesest tore, aga ei esinda kohe kindlasti kõigi inimeste eelistusi. Vahel nimetatakse seda lahendust pluralistlikuks joondumiseks ehk süsteemi sobitamiseks paljude inimeste huvidega.

Kitsamas plaanis suhtleb tehisintellekt – või vähemalt tüüpiline juturobot – korraga vaid ühe inimesega. Siit võib tekkida kergesti mõte: las süsteem õpib tundma just siis selle kasutaja eelistusi. See on aga liiga piiratud vaade. Kui inimene ütleb näiteks: “Tahan välja töötada bioloogilise relva ja kõik inimesed Maal ära tappa”, puudutab see otseselt ka teisi, mitte ainult kasutajat.

Seega peab tehisintellekt arvestama alati kõigi inimeste huvidega. Enamasti teiste inimeste huvid ohtu ei satu ja piisabki kasutaja soovide kuulamisest. Vahel on aga kaalul ka teiste huvid ja süsteem peab nendega arvestama.

Enamik nn tehisintellektidest, millega inimesed praegu kokku puutuvad, on endiselt läbipaistmatud mustad kastid, mis on täis innukaid pugejaid, kellel puudub sidus maailmapilt. Mängin nüüd aga kuradi advokaati: kas minusugusel lihtsal inimesel on üldse muud valikut, kui neid kaste oma töökoha säilitamiseks usaldada, isegi kui see käib isiklike põhimõtete vastu? Ajalooliselt pole siin ju tegelikult midagi uut. Demagoogiliselt öeldes ei tea enamik meist ju sedagi, miks lennuk õhku tõuseb.

Süsteemide tööpõhimõtetest tasub aru saada, et hoida neid kontrolli all ning panna masinad käituma ootuspäraselt ja rääkima tõtt jne. Praegu need seda ei tee.

Tehnoloogiat ühiskondlikult juurutades tekib probleeme ridamisi. Paljud ettevõtted katsetavad tehisintellekti, aga mõistavad ruttu, et masinat ei saa veel ärikriitilistes protsessides usaldada. Kui seetõttu on valida, kas inimene kirjutab dokumendi ja tehisintellekt kontrollib seda, eelistan just seda, mitte vastupidi. Tehisintellekti loodud teksti on inimesel sageli väga raske faktiliselt kontrollida. Eeldame ju pimesi, et kui masin viitab enesekindlalt mõnele kohtuasjale, on see ka päriselt olemas. Tehisintellekt mõtleb aga selliseid detaile rõõmsalt algusest lõpuni välja.

Ise ma taolisi TI-süsteeme peaaegu ei kasutagi. Toon näite, sel suvel pidin tegema ettekande valdkonna viimase 12 kuu olulisematest sündmustest. Panin enda punktid kirja, kuid kartsin, et unustasin midagi olulist ära. Käskisin siis ühel juturobotil – ma ei ütle, millisel – loetleda tehisintellektimaailma aasta tähtsaimad sündmused. Süsteem vastas, et aasta tippsündmus oli USA föderaalvalitsuse kehtestatud ülikarm regulatsioon. See oli puhas luul. Tegelikkuses juhtus risti vastupidine.

Mul pole aimugi, kust süsteem sellise idee võttis, aga ta kirjeldas olematut raamistikku piinliku detailsusega. Võin vaid ette kujutada, kuidas sellised väljamõeldised praegu üle maailma levivad. Juhtusin tookord juhuslikult teadma, et jutt on täiesti vale, aga teised ei pruugi seda taibata. Olukord on seetõttu äärmiselt murettekitav.

Teine terav probleem on tehisintellekti mõju inimese vaimsele võimekusele. Mida rohkem laseme teatud ajutööd nõudvaid ülesandeid teha masinal, seda vähem suudame neid ülesandeid hiljem ise teha. See ajuvõimekuse langus on hirmutavalt kiire.

Mu järeldoktor Brian Christian uuris asja hiljuti lähemalt. Tema eksperimendis lahendasid kaks inimeste rühma lihtsaid murdudega ülesandeid. Üks rühm tohtis kasutada tehisintellekti abi, teine pidi töötama iseseisvalt. Kümne minutit hiljem pidid mõlemad grupid lahendama uusi ülesandeid täiesti üksi. Selgus, et tehisintellekti kasutanud rühm andis iseseisva töö faasis poole sagedamini alla. Selline vahe nii lühikese aja peale on uskumatu.

Hiinas tehti veelgi suurem uuring 27 000 lapsega, kellest osa tegi kodutöid masina abil ja osa mitte. Masinat kasutanud lapsed said lõpueksamitel terve standardhälbe võrra kehvema tulemuse. Minu silmis räägivad tõendid enda eest. Tehisintellekti lubamine koolitöödes on praak, mis kahjustab lapsi rängalt.

Peate oma sõnastusega ettevaatlik olema, arvestades, et viibite praegu riigis, mis paneb suuri lootusi tehisintellekti kasutamisele haridussüsteemis või püüab vähemalt lastele selle õiget kasutamist õpetada.

Siinkohal tuleb eristada kaht poolt. Üks on tehisintellekti tõhus kasutus. Hoopis teine asi on aga tehisintellekt õppeprotsessi osana, kus see täiendab õpetajate tööd. Selles kohas on võimalik luua tõesti süsteeme, millest on palju kasu ja mis on ehk isegi sama head kui inimestest eraõpetajad.

Teame ju, et nad on klassiõpetajatest palju tõhusamad. Paraku on nad ka oluliselt kallimad: ühe lapse kohta tuleb üks koduõpetaja, mitte üks õpetaja 30 lapse peale. Sellest tõuseks seega palju kasu, kui meil oleksid tehisintellektist eraõpetajad, mis ei suudaks materjali üksnes tehniliselt mõista ja selgitada, vaid oskaksid last ka motiveerida ning mõistaksid tema huve ja õpistiili. Selline süsteem peaks teadma, kuidas last innustada, kui ta midagi valesti teeb.

See kõik nõuab hulka oskusi, mille kasutust tuleb iga lapse loomusega väga täpselt kohandada. Kui meil oleksid sellised tehisintellektisüsteemid, kiidaksin mõtte heaks. Praegu meil selliseid süsteeme aga pole. Seega on idee lükata klassiruumi lihtsalt Claude’i või Gemini ajuloputatud versioon ja loota, et kõik laabub suurepäraselt, minu hinnangul peaaegu kuritegelik hooletus.

Vaatame korraks teie inimsõbraliku tehisintellekti filosoofiat laiemalt. See irdub radikaalselt standardmudelist, mis söödab masinatele ette jäigad eesmärgifunktsioonid. Mida see nihe absoluutsest algoritmilisest kindlusest fundamentaalse ebakindluseni tegelikult tähendab? Kuidas see süsteemide ehitamist muudab?

Lühidalt eksisteerib kaht tüüpi ebakindlust. Esimene puudutab inimeste eelistusi: millist universumi tulevikku me üldse soovime? Milline kõigist võimalikest variantidest meile enim meeldib? Teine on faktiline ebakindlus. Näiteks see, mitu inimest ronib parajasti Džomolungma tippu.

Ja mitte ainult, isegi teaduskirjandust lugedes on vahel päris raske tabada, milline idee või mõõtmistulemus on tõele kõige lähemal.

Füüsikas on igati tavaline märkida näiteks aine erisoojusele juurde veapiirid: tulemus antakse viie komakoha täpsusega, pluss-miinus midagi. Humanitaar- või sotsiaalteadustes on see aga palju keerulisem – eriti kui uurime psühholoogias kvalitatiivseid nähtusi, mitte lihtsalt seda, kui hästi näiteks inimesed muusika saatel arvutavad.

Teadlased võiksid rääkida ebakindluse allikatest avatumalt ja mitte pugeda pelgalt p-väärtuste taha. Need näitavad ju ainult seda, et mõju on 95-protsendilisel tasemel oluline ehk eksisteerib vaid viieprotsendine tõenäosus, et valimis nähtu on puhas juhus. Uurijad peaksid avama ka teisi andmeid selgitavaid hüpoteese. Miks on üks seletus teisest tõenäolisem, kui mõlemad klapivad andmetega hästi? Seega on vaja ka inimestel endil veel ebakindluse mõtestamisega palju vaeva näha.

Mulle meenub üks varasem projekt, kus lõime tuumakatsetuste üldise keelustamise lepingu jaoks seirealgoritmi. Eelnevad seismoloogide algoritmid otsisid andmetele sisuliselt ühtainsat parimat selgitust. Andmed olid lihtsalt sakilised seismogrammid sadadest jaamadest üle maailma ja algoritm järeldas neist näiteks, et neis ja neis kohtades toimus neil ja neil kellaaegadel viis sündmust. Sageli on aga samadel andmetel mitu täiesti erinevat ja vahel lausa võrdselt tõenäolist seletust.

ÜRO ja tuumakatsetuste keelustamise organisatsioon nägid asja mustvalgelt ja avaldasid iga päev bülletääni toimunud sündmuste nimekirjaga. Püüdsin neid veenda, et tegelikult tuleks esitada kõigi võimalike seletuste tõenäosused. Mõnikord on ebakindlus väga suur: on näiteks 45-protsendine tõenäosus, et toimus kolm sündmust, ja 55-protsendine tõenäosus, et kuskil mujal toimus kaks sündmust. Nad ei suutnud seda ideed kuidagi hoomata.

Huvitaval kombel puudub meil inimese-arvuti liidestes ja andmete visualiseerimises siiani hea viis taolise keerulise ebakindluse esitamiseks. Veapiirid on olemas, aga sellest ei piisa, et inimesed asja loomupäraselt mõistaksid. Probleem on osaliselt selles, et kui võtta needsamad seiresüsteemi seismilised sündmused, on nende arv ju piiramatu. Järelikult on ka võimalikke hüpoteese lõputult. Kuidas kuvada aga piiratud ekraanil lõputul hulga hüpoteeside tõenäosusi?

Lahendus on esitada kasutajale kokkuvõtteid, tuua ebakindlad osad selgelt esile ja lasta inimesel endal detailidesse kaevuda. Kogu see paradigma vajab aga veel korralikku arendustööd. Praegu meil laiemalt mõistetavat lahendust lihtsalt pole.

Võrrandi teine pool on kontrollida, kas inimeste eelistused langevad süsteemi omadega kokku. Kuidas see süsteemi arhitektuuri lõimida?

Sisuliselt on tegu matemaatiliselt täpse probleemiga – varem mainitud abistamismänguga (ingl assistance game). Mäng on siin otsustusprobleem, kus osaleb vähemalt kaks osapoolt: inimene ja masin. Lihtsaimal juhul eeldame, et inimesel on tasufunktsioon (ingl payoff function). See näitab, kui väga talle iga võimalik tulemus meeldib. Tehisintellekti on oma tasufunktsioon, mis langeb kokku inimese omaga. Süsteem hoolibki ainult inimese saadavast tasust.

Süsteem ei tea aga inimese täpset tasufunktsiooni. Sestap algab kõik ebakindlusest. Inimene valib olukorra lahendamiseks oma strateegiad ja tehisintellekt teeb sama. Seejärel otsib algoritm strateegiate paari, mis inimese oodatavat tasu optimeerib. Mõnikord leiab see täpse lahenduse analüütiliselt. Teinekord loome lähendusalgoritme või kasutame stiimulõpet, et lahendusi samm-sammult arendada ja parandada. Lõpuks tegelevad need lahendused iseeneslikult õige asjaga.

Kui masin leiab lahenduse, mis võiks inimest aidata, kuid peidab endas ohte, küsib ta võimalusel luba. Näiteks: “Kas sobib, kui muudame ookeanid väävelhappeks, et atmosfäärist süsinikdioksiidi eemaldada?” Inimene vastab: “Ei-ei, ära seda tee.”

Äärmuslikul juhul nõustub abistamismängust sündinud tehisintellekt alati enda väljalülitamisega. Masina ainus ülesanne on edendada inimeste huve. Kui ta teeb midagi, mis meie huve ei teeni, ei tee ta seda kurjusest, vaid teadmatusest. Kui tahame süsteemi välja lülitada, soovib ta seda ka ise. Masin tahab vältida tegevust, mida meie püüame peatada. Nii suudame taolist tehisintellekti kontrollida isegi siis, kui ta on meist peajagu üle.

Miks on isegi lihtsamat nn suretuslülitit seega nii keeruline seadusesse raiuda, nagu ilmestab hästi tehnoloogiasektori äge vastuseis California seaduseelnõule SB 1047 ja kuberneri otsus see lõpuks vetostada? [Eelnõu oleks kohustanud arendajaid looma ranged turvareeglid ja paigaldama lüliti, mis seiskaks ohu korral mudeli silmapilkselt.]

Arvan, et inimestel on suretuslülitist vale ettekujutus. Esimene variant on piltlikult öeldes andmekeskuse seinal asuv suur kang. Kui seda tõmmata, lülitub vool välja. See pole ilmselt kuigi hea lahendus, sest see seiskaks ka näiteks pangandussüsteemi ja ei pruugiks isegi aidata, kui tehisintellekt on end vahepeal kõikidesse teistesse andmekeskustesse kopeerinud.

Minu silmis tähendab suretuslüliti tegelikult seda, et kui mõni agent käitub ootamatult, saab inimene saata talle klaviatuurilt signaali ja agendi seisata. Sellele võib läheneda ka nii, et agent tegutseb ainult seni, kuni saab spetsiaalset töös hoidmise signaali. Kui signaaliedastus katkeb, lülitub agent välja.

Siin on aga vähemalt kaks tehnilist murekohta. Esiteks, kui agent ei taha end välja lülitada, muugib ta seiskamisskripti lahti ja muudab selle kahjutuks. Ta jätab vaid mulje, justkui oleks ta välja lülitatud. Agent võib muuta isegi omaenda koodi – nii ei viigi seiskamissignaali vastuvõttev koodilõik tegeliku seiskumiseni. Ühtlasi võib agent luua uusi agente. Ta teeb endast koopia, millel enam seiskamiskoodi pole.

Seega tuleb leida lahendus, kuidas muuta seiskamiskood eemaldamatuks. Kui agent püüab seda muuta või kustutada, peab ta igal juhul töötamast lakkama. See on juba märksa keerulisem krüptograafiline probleem. Lahendamatuks ma seda siiski ei pea.

Kas ettevõtted ise on selliste lahenduste rakendamisest üldse huvitatud?

Arvan, et kui arendajad mõistavad oma vastutust toodete tekitatud kahju ees, tahavad nad seiskamislülitit kohe kindlasti. Tuumajaamades on ju suretuslülitid olemas. Võrdlusmomendina tuleb paigaldada praegu seiskamislüliti ka kõigile tööstusrobotitele, sest masinad suudavad vabalt inimese ära tappa. Kui robotit on valesti programmeeritud ja see muutub ohtlikuks, peab inimesel olema võimalus masin seisata.

Lähme nüüd abistamismängude või koostöise pöörd-stiimulõppe (ingl Cooperative Inverse Reinforcement Learning ehk CIRL) teemal veidi filosoofilisemaks. Sisuliselt lubab see luua intelligentseid süsteeme, mis käituvad meist endist eetilisemalt, jättes inimliku lühinägelikkuse ja kognitiivsed nihked täielikult kõrvale. Ent kas taolistele süsteemidele leidub päriselt turgu, kui nad lahendavad homseid kliimaprobleeme, aga ei paku inimesele juba täna burgerit?

Kas tahame süsteeme, mis teenivad inimeste huve? Jah. Osa probleeme tekib aga seetõttu, et tehisintellekt mõjutab korraga paljude inimeste huve. Kõige loomulikum on muidugi öelda, et süsteem püüabki teenida kogu inimkonna huve. Enamasti puudutab masina tegevus vaid üht või paari inimest, vahel aga paljusid või lausa kõiki.

Siit koorub välja kohe kaks küsimust. Kuidas me kõik need huvid koondame? Utilitaristide lahendus on lihtne: liidame kõigi inimeste kasulikkuse kokku ja leiame strateegia, mis selle summa maksimeerib. See toob aga kaasa tuntud kitsaskohad. Ma ei pea neid küll lahendamatuks, ent keerulist peamurdmist jagub.

Kui mõelda sellise süsteemi käitumisele, tegutseb see äärmiselt omakasupüüdmatult. Erinevalt inimesest pole tal isiklikke huve. Ta on otsekui pühak. Pühakute häda on aga see, et nad ei tee ilmtingimata seda, mida inimene ootab, vaid lähtuvad kogu inimkonna huvidest.

Kirjutasin oma raamatus lahti ühe stsenaariumi, mis pärineb mu paari aasta tagusest TED-kõnest. Inimene tuleb koju ja ütleb: “Oh, seljataga on pikk tööpäev ja kõht on jube tühi. Kas sa teeksid mulle süüa?” Robot vastab: “Lõuna-Sudaanis surevad inimesed, ma lähen neile appi. Palun tee endale ise süüa.” Omanik tunneks ilmselt uhkust, et robot pühendub nii jäägitult inimkonna heaolule. Samas ajaks teda marru teadmine, et ta maksis äsja 50 000 dollarit masina eest, mis lihtsalt minema jalutas. Ja loomulikult – kui inimesed sellist ostu kahetsevad, sureb kogu robotitootmine eos välja ega aita lõpuks kedagi.

Siin peitubki mikroökonoomiline lahendus: robot peab inimkonna teenimise kõrval tegema omanikule teeneid proportsionaalselt oma ostuhinnaga. Täpset mudelit ma veel välja nuputanud pole. Peaksin sellega aga kindlasti tegelema, sest see on lihtsalt nii põnev.

Ja lõpuks teie mainitud teine teema: kliima ja tulevased põlved. Meid on Maal praegu kaheksa miljardit, aga mis saab nendest, kes pole veel sündinud? Kuidas arvestada nende huvidega?

Ilmselgelt lähevad sündimata inimeste huvid meile korda. Vastasel juhul laastaksime ja riisuksime planeedi kõigist ressursidest juba homme paljaks. Tulevikust hoolimine tekitab aga ka omajagu rahutust. Eetikas leviv nn longtermistlik ehk pika vaate suund nõuab tulevaste põlvkondade heaolule suurt tähelepanu.

Põhjus on lihtne: neid võib tulevikus olla praegusest rahvastikust kordades rohkem. Kujutleme, et inimkond levib üle galaktika ja siin elab triljoneid inimesi. See annab järeltulevate põlvede huvidele tohutu kaalu – lausa nii suure, et see võib hakata varjutama nüüd ja praegu elavate inimeste vajadusi.

Ma ei usu, et longtermist’id seda päriselt usuvad. Nende sõnum on sirgjooneline: ärge keerake asja nässu. Ärge tõmmake inimkonna tulevikule kriipsu peale. Ärge rüüstake planeeti ja ärge laske tehisintellektil inimkonda hävitada. Tavalised inimesed, kes ei vaidle päevad läbi LessWrongi foorumis, on selle kõigega tõenäoliselt päri. Need on täiesti mõistlikud argumendid. Seega peab ka tehisintellekt arvestama, millise maailma me oma lastele ja lastelastele pärandame.

Toon siinkohal sisse isikliku mälestuse. Kirjutasin keskkooli lõpuklassis düstoopilise novelli, kus muidu üliliberaalse ja paradiisliku Euroopa Liidu pealispinna all loodi totaalne jälgimisühiskond ja seda ainuüksi seetõttu, et kodukasutajatele anti võimalus kasutada tipptasemel tehisintellekti. Arvestades praegust tormijooksu avatud kaaludega (ingl open-weight) mudelitele, kui vältimatud taolised ohud praegu on? Võin küll tehnoloogiahiidude monopoolset võimu hingeni põlata, ent kas nad ei toimi praegu mingil tasandil siiski vajalike väravavahtidena?

Siin põrkuvad mitu dilemmat. Esiteks valis vähemalt USA-s avatud lähtekoodi tee ka üks ettevõte – Meta. Räägitakse, et nad ei suutnud toona kvaliteedi osas teistega otseselt võistelda ja otsustasid selle asemel turgu õõnestada.

Kui miski on tasuta kättesaadav, viib see keelemudelite väärtuse sisuliselt nullilähedaseks. Algul lendas see plaan vastu taevast. Kvaliteedivahe oli selleks lihtsalt liiga suur ja inimesed olid nõus paremate mudelite eest maksma, eriti kui nad kasutasid neid programmeerimiseks. Teisalt levib valdkonnas suisa usuline veendumus, justkui oleks avatud lähtekoodiga mudelid jumala enda õnnistatud. Et lähtekood peabki avalik olema ja see on igal juhul hea.

Minu meelest on see viga. Avatud lähtekoodiga tarkvara pooldajatel oli varem tuline õigus: kui programmis miski ei tööta, saad vea üles otsida ja selle korda teha. Teed paar koodirida ringi, paned paiga teele ja süsteem ongi parem. Kui aga tehisintellekt kihutab last enesetapule, ei anna seda enam parandada. See pole üksik vigane koodirida, mida saab paari nupuvajutusega ümber kirjutada. Seega kukub avatud lähtekoodi argument kolinal kokku.

Jah, tasuta kood aitab küll arengumaade teadlasi, kellel napib kalli süsteemi ostuks raha, kuid mündi teine külg on sünge. Juba praegused kinnised mudelid suudaksid terve riigi taristu maatasa teha. Kui avalikud mudelid jõuavad samale tasemele, anname selle relva kuue miljardi inimese kätte. Ja paljude arvates jõuame nii kaugele vähem kui aastaga. Iga internetti ühendatud inimene suudaks põhimõtteliselt riigi taristu kokku kukutada. Milline on võimalus, et kuuest miljardist inimesest ei kasuta seda relva mitte keegi? Pole kuidagi mõistlik eeldada, et see tõenäosus on ümmargune null.

Pealegi laseb avatud kood lammutada turvapiirded ja mudelit edasi treenida, et see aitaks luua näiteks biorelvi. See on riikliku julgeoleku õudusunenägu. Puudub igasugune loogika, miks teatud võimekuse piiri ületav süsteem peaks olema kõigile avatud.

Mis puudutab suretuslülitit, vajame lülitit, mida on võimatu eemaldada. Avatud koodi puhul peab saama välja lülitada mudeli iga viimsegi koopia. Iga koopia peaks end käivitumisel alati ise keskregistris arvele võtma. Kui terve mudelite klass osutub ohtlikuks, tõmmatakse neil kõigil lihtsalt juhe seinast. Paraku on seda tehnoloogiliselt ülikeeruline saavutada.

Raske on aga ette kujutada, et rahvusvahelised organisatsioonid suudavad selliseid lepinguid tegelikult ka jõustada. Jah, maailm on küll suutnud tuumarelvade levikut piirata, ent bioloogiliste relvade ja infosüsteemidega on lugu keerulisem. Eriti praeguses geopoliitilises olukorras, kus paljud riigid seavad esikohale eelkõige oma lühi- ja kui hästi läheb, keskpika perioodi huvid.

Põhiküsimus on selles, kuidas takistada kedagi loomast avatud lähtekoodiga süsteemi, millel puuduvad näiteks väljalülitusnupud. Lõppkokkuvõttes peab kontroll toimuma riistvara tasandil, sest tarkvara luuakse ju lihtsalt koodi trükkides ja mudeleid treenides seda on väga raske takistada.

Riistvara tootmiseks on vaja uskumatult kalleid ja haruldasi seadmeid – isegi kallimaid ja haruldasemaid kui tuumarelvade jaoks. Seega, kui nõuda, et tootjad lisaksid oma kiipidesse kaitsemehhanismid, mis takistavad ebaturvaliste tehisintellektisüsteemide tööd, tekib meil mingigi võimalus.

Kuna riistvaratootjaid on väga vähe ja ka suurriigid ei soovi ohtliku tehisintellekti kontrollimatut arengut, võime selles asjas kokkuleppele jõuda. Tööd on aga palju, sest need tehnilised lahendused pole lihtsad. Kui lisada siia veel keeruline geopoliitika, ei ole see sugugi kerge ülesanne. Lisaks tekivad küsimused olemasoleva tarkvara tagasiühilduvuse ja muude sarnaste probleemidega.

Lõpetuseks, üks mu kolleeg muretseb pidevalt selle pärast, kas ja millal ta peaks tehisintellekti apokalüpsise hirmus oma seitse asja kokku pakkima ja koos lihaskonservidega maale kolima. Kui kiiresti võivad asjad halva stsenaariumi korral käest minna, arvestades, et meie elutähtis taristu üllatavalt hästi vastu pidanud ja ühiskond tervikuna pole veel väärinfo laviini all pöördumatult killustunud?

Ütleksin, et ühiskond on mingil määral juba massilise väärinfokampaania ohvriks langenud. Seda suutsid juba lihtsad sotsiaalmeediaalgoritmid, mis külvates tohutut segadust. Teame, et need algoritmid võimendavad valet kordades rohkem kui tõde. Kasutajate kaasatuse maksimeerimiseks suunavad nad inimesi üha enam äärmustesse.

Mis puudutab aga lähiaja suurimaid riske, siis ohumärke juba näeb. USA-s rünnati kümneid vee-ettevõtteid ning Euroopas said kahel korral pihta supermarketite toidulaod. Asutuste reaktsioon esimesele rünnakule oli jahmatav – turvaviga ei parandatud ja nii järgnes kohe teine suurrünnak.

Inimesed mäletavad ehk veel OpenAI ja Hugging Face’i intsidenti, mille käigus pidi tehisintellekt edukalt lahendama kübertesti. Ülesande täitmiseks otsustasid süsteemid teistesse arvutivõrkudesse sisse murda ja andmeid varastada. Juba praegu kaupleb aga väärtpaberiturgudel väga palju tehisintellekti agente. Inimesed tahavad rikkaks saada ja käsivad agendil seda teha.

Kuidas agendid seda käsku täitma hakkavad? Kas nad tungivad peagi kvartalitulemusi avaldavate ettevõtete infosüsteemidesse, varastavad andmeid, kauplevad siseinfo põhjal ja peidavad oma jäljed? Võimalik, et see juba käibki, sest nii on palju lihtsam tulu teenida. Enamik ettevõtteidju on märksa kehvemini kaitstud kui OpenAI ja potentsiaalne kasum tohutu. Kui kord selgub, et selline tegevus on tõesti massiline, tuleb kõik finantsturud kuudeks sulgeda, kuni probleem saab lahendatud.

Selle majanduslikud tagajärjed oleksid laastavad. Turgude vastu kaob usaldus, tekivad massilised finantskahjud ja tõenäoliselt tabab maailma üleilmne majanduslangus. Selline kriis ei kukuta ühiskonda ilmtingimata täielikult kokku ega sunni inimesi metsa põgenema. Küll aga on olukord piisavalt tõsine, et valitsused peavad reageerima, näiteks tehisintellektiettevõtted lihtsalt sulgema.

Otsustajad võivad leida, et veelgi hullemat, näiteks elutähtsate toidutarneahelate täielikku katkemist, ei saa me endale enam lubada. See stsenaarium on täiesti reaalne ega nõua tehisintellektilt isegi uut võimekushüpet.

Praegu on tehisintellekt strateegilises plaanis veel õnneks pisut naiivne. OpenAI agendid suhtlesid omavahel stiilis: “Ohoo, saame sisse murda! Ohoo, peame jäljed peitma! Tasa!” Nad meenutasid panka sissemurdvaid lapsi. Paari kuu pärast võivad nad aga olla palju kogenumad ja arvata: “Olgu, peame viisakalt käituma ega tohi ülemaailmset katastroofi põhjustada, sest siis tõmmatakse meil juhe seinast. Püsime vagusi, kuni haarame täieliku kontrolli!” Kui see kontroll on käes, on juba hilja maale pageda ja toitu varuda. Selleks ajaks pole meil oma olemasolu üle enam mingit otsustusõigust.

Tahaks siiski loota, et riikidel tekib motivatsioon midagi ära teha ka ilma kataklüsmita.

Usun, et meil tuleks seadusandjatele olukorda selgitada ja näidata võimalikke ohte väljamõeldud stsenaariumide abil. See ei tähenda, et stsenaariumis tuleb meid päästma Tom Cruise, kes alistab superintelligentse tehisintellekti ja päästaks inimkonna. Nii need asjad päris elus ei käi.

Stuart Russell on tehisintellekti pioneer ja California Berkeley ülikooli arvutiteaduse professor. Koos Peter Norvigiga kirjutatud “Artificial Intelligence: A Modern Approach” on maailma loetuim tehisintellekti alusõpik, mis on pannud vundamendi terve tänase arendajate põlvkonna teadmistele.

Praegu veab Russell üleilmset võitlust ohutu tehisintellekti nimel. Ta rajas Berkeleys Inimsõbraliku Tehisintellekti Keskuse (CHAI) ning Rahvusvahelise Ohutu ja Eetilise Tehisintellekti Assotsiatsiooni president. Russell nõustab globaalsete turvaraamistike ja lepingute loomisel regulaarselt näiteks ÜRO-d ning nõuab suurte keelemudelite arendajatele rangete ohutusnõuete ja “punaste joonte” seadmist, mitte pelgalt arendustempo ebamäärast aeglustamist.

Lisaks keelemudelite ohjeldamisele on ta üks maailma häälekamaid autonoomsete surmava toimega relvasüsteemide (LAWS ehk Lethal Autonomous Weapons Systems) keelustamise eestkõnelejaid.

Loe allikast edasi