# Cambridge’i arvutiteadlane: luureroboteid tuleb tulevikus õpetada nagu teismelisi

- Link: https://kihulane.eu/arhiiv/21133
- Published: 2023-06-05T07:31:00+03:00
- Author: toomas

**Kas te saaksite selgitada mida tähendab “joondamine” (_alignment_) tehisintellektist
rääkides? Mida tähendab tehisintellekti joondada?**

Joondamise eesmärk on veenduda, et tehisintellektil on samad sihid ja eesmärgid 
kui inimestel, kes selle lõid või seda kasutavad. Joondamise tähendus võib sõltuda
kontekstist. Näiteks, et tehisintellekt ei toodaks ohtlikku sisu, mis on kohatu 
või pornograafiline. Või see võib tähendada, et tehisintellekt ei anna vastuseid
kui küsida äärmuslike vaadete kohta.

**Te ütlesite Tallinnas NATO küberkaitsekoostöö keskuse aastakonverentsil CYCON 
peetud ****kõnes, et see on oluline mure, mis tuleb veel lahendada. Miks on nii 
raske tehisintellekti joondada, et see ei toodaks seda tüüpi sisu?**

Suurte keelemudelite treenimiseks kulub meeletu hulk andmeid. See tähendab, et nad
õpivad hea kõrval ka halba. Lisaks lugupeetud ajalehtedele loevad nad ka kollast
ajakirjandust, äärmuslaste vihaseid postitusi tundmatutel veebilehtedel – nad loevad
igasugu halbu asju. On üsna lihtne suurt keelemudelit ässitada, et ta hakkaks rääkima
äärmuslikku juttu, rassistliku või homofoobset juttu.

Selleks on vaja tehisintellekti joondada. Tavaliselt seda tehakse inimeste tagasiside
abil. Keelemudel pannakse genereerima tuhandeid lauseid erinevatel teemadel ja teda
kas kiidetakse või laidetakse. Inimene hindab, kas see, mida tehisintellekt välja
sülitab, on sobiv või mitte.

See on see, kuidas tehisintellekti panna tegema seda, milleks see mõeldud on. Mure
on selles, et see tehnoloogia on nüüdseks teada-tuntud ja teised inimesed saavad
teha sama. Võib keelemudeli alla tõmmata ja selle välja koolitada äärmuslikku sisu
tootma, paremäärmuslaste propagandat või Venemaa propagandat või ükskõik, mis propagandat
tootma.

**Te toote juba näiteid ohtudest, aga kui rääkida veel laiemast tehisintellekti 
rakendamisest, selle sõjaväelisest rakendusest ka, siis millised on siis ohud? Oma
kõnes mainisite, et tehisintellekt võib üks hetk minna hiinlaste poole üle. **

Ma toon näite. Kui isejuhtivaid sõidukeid testides on üks nõue, et kui sõiduk satub
segadusse, siis peab see seisma jääma nii, et see ei lahku sõidurajalt, kus ta parasjagu
on. Tuleb välja, et see on võimatu, sest tavaliselt, kui isejuhtiv auto satub segadusse,
ei tea see enam, millisel sõidurajal ta on. See sõidab teetööde vahel või mõnes 
teises tavapäratus olukorras ja kaotab lihtsalt ruumitaju.

Võimatu on järgida ohutusreegleid, kui sa ei mõista järjepidevalt olukorda ja konteksti.
Nüüd kui sama näide tõsta veel keerulisemasse olukorda, näiteks sõtta – on olemas
sõjaseadused, näiteks vaenlase sõdureid võib sihikule võtta, aga tsiviilisikuid 
mitte –, siis sa saad nendest reeglitest kinni pidada ainult nii kaua, kui sa mõistad
olukorda ja konteksti. Mured, millega me hästi hakkama ei saa, kui me üritame luua
turvalisi isejuhtivaid autosid, ilmnevad taas hulgi, kui me hakkame lahinguroboteid
ehitama.

See on alles teine samm. Kolmas samm on see, kui robotid ei täida enam vaid tavalise
sõduri rolli, vaid annavad ka käske. Siis tuleb selgitada sõdimise põhjuseid, peab
mõistma väärtusi.

Hiina puhul on see lihtne. Kõigi robotite kohustus on kaitsta Hiina kommunistliku
partei võimu ja teisitimõtlejad maha suruda. Läänes on meie sihid ja eesmärgid palju
rohkem laiali valgunud, keerulised ja raskesti kirjeldatavad. Kuidas ühe leheküljega
kirjeldada, mida tähendab demokraatia ja õigusriik? See on tavaliselt terve kursus.
Kasvõi ühiskonnaõpetus gümnasistidele. Seal on palju keerulisi kohti ning palju 
vastuolu. On vaidluskohad. Iga generatsioon peab kõike seda tõlgendama enda jaoks,
see juhtub iga generatsiooniga uuesti ja uuesti. Väga raske on joondada juhtivat
tehisintellekti selle ühiskonna väärtustega, mida tehisintellekt kaitsma peab.

Selles olukorras on eraldi risk, et kui meie luure- ja sõjaväeasutused annavad robotitele
salajased käsud käituda nii nagu Hiina robotid, hiinlasi pealt kuulata. Siis need
robotid võivad jõuda järelduseni, et lääs on lihtsalt silmakirjalik ning Hiina on
õige maailma ülemjõud.

Moraalse surve all reetis Edward Snowden USA riikliku julgeolekuagentuuri ja rääkis
oma loo ajalehtedele Guardian ja New York Times. Ma ei usu, et see on võimatu, et
tulevikus mõni kaitse- või luurerobot võib samasuguse surve all mõelda, et loogiliselt
oleks mõistlikum teenida Hiina huve.

**Kuidas me selle mure lahendame? Te mainisite, et roboteid tuleb õpetada natuke
nagu me oma lapsi õpetame, aga robotitega on see keerulisem. Neil ei ole lapsepõlve,
nad ei kasva üles nii, et nende vanemad annavad neile nõu. Kuidas me neid õpetame?**

See on midagi, mis vajab veel teadustööd. Praegu räägivad tehisintellekti filosoofid
trammi probleemist (filosoofiline mõtteeksperiment, mis küsib kas mitme inimese 
elu päästmiseks on õige tramm suunata teisele teele nii, et hukkub vaid üks inimene–
toim). Nad räägivad sellest, kuidas sa saad lihtsalt anda robotile käske, et päästa
ühe inimese elu teise elu arvelt. See tõenäoliselt ei ole see, kuidas asjad päriselt
toimivad, kui me jõuame tehisintellektist edasi üldise tehisintellektini.

Ma arvan, et iga tehisintellekt, mis hakkab lähenema üldisele tehisintellektile,
peab läbima mingi haridustee, lapsepõlve ja noorukiea. Nii nagu kõik teavad, kes
on kasvatanud teismelist, see võib olla üsna traumaatiline. Kuskil 12-13-aastaselt
hakkavad nii poisid kui ka tüdrukud vanemate autoriteedile vastu põiklema, nad hakkavad
tegema asju, mida nad ei peaks tegema.

Nad katsetavad alkoholi või tubakaga või tulevad koju kell kaks öösel. Selleks, 
et piire katsetada, näidata, et nad kasvavad suureks. Kujutate ette, kui suurele
ettevõttele kuuluv tehisintellekt hakkab nii käituma? Mis siis, kui telekommunikatsiooni
ettevõte otsustab, et ta on teismeline?

**Üsna hirmutav. Kui kaugel me sellest oleme? Arvutiteadlased ütlevad, et tehisintellekt
näiliselt teeb väga keerulisi asju, kuid tegelikkuses on see vaid tühi kest. Arvutil
ei ole sellist sisemist elu nagu inimestel. Kas teismeline tehisintellekt saab mureks
alles tulevikus, kui meil on üldine tehisintellekt?**

Ma ei ole üks neist, kes ütleb, et me oleme hukule määratud. Ma ei usu, et suured
keelemudelid viivad meid otsejoones üldise tehisintellektini, aga on teisi väga 
tarku inimesi, keda ma austan ja kes arvavad teisiti. Geoffrey Hinton, suurte keelemudelite
leiutaja, näiteks usub seda, et keelemudelid on tee üldise tehisintellektini ja 
et seal on tõsised ohud. See on põhjus, miks ta läks Google´st paar nädalat tagasi
minema. Ning kirjutas ühena alla kirjale, mis hoiatas, et me peaks tehisintellekti
kohtlema eksistentsiaalse ohuna.

Isegi kui ma isiklikult ei usu, et keelemudelitest läheb tee otse üldise tehisintellektini,
siis me õpime nii palju keelemudelitest, et 10 või 20 aastat edusamme ja võib-olla
me leiutame üldise tehisintellekti. Kui nii juhtub, parem oleks, et me selleks valmis
oleme.

Me peame ette mõtlema sellistele muredele nagu joondamine. Kui valitsused hakkavad
laialdaselt kasutama tehisintellekti, muutub see veel tähtsamaks, sest valitsused
on palju keerulisemad kui ettevõtted. Firma nagu IBM eksisteerib vaid selleks, et
kirjutada tarkvara oma klientidele, Facebook selleks, et müüa reklaami. See on üsna
lihtne, aga valitsused ei eksisteeri ühe kindla asja tegemiseks.

Valitsused on selleks, et lahendada ühiskonna lahkhelisid, rikaste, kes tahavad 
vähem makse maksta ning vaeste vahel, kes tahavad paremaid tervishoiu teenused. 
Noorte, kes tahavad, et ehitatakse palju maju, et nad saaks kodu osta ja pere luua
ja vanade vahel, kes ei taha, et nende ilus vaade ära rikutaks.

Igas ühiskonnas on palju tülisid, seega valitsused valetavad tihti. Poliitikud ütlevad
ühte asja Peetrile ja teist Paulile. Alles nüüd, kui meil on internet, me saame 
jälgida, mida nad on öelnud. Nüüd teevad poliitikud suuri ümmargusi lubadusi, mida
kunagi ei teostata. See kõik on täiesti arusaadav, arvestades, mis valitsemine üldse
on. Kui sa kaasad valitsemisse tehisintellekti, mis peab tegema kõike ja mitte midagi
ning paljudele erinevatele inimestele pakkuma palju erinevaid asju samaaegselt. 
Kust saab see tehisintellekt oma moraalse suunise? Kes on rooli taga?

![](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///ywAAAAAAQABAAACAUwAOw==)

Ross J. Anderson. Autor/allikas: NATO küberkaitsekoostöö keskus

**Kas ma olen teist õigest aru saanud, et kuna autoritaarne riigikord on lihtsam,
siis seda on lihtsam õpetada. Hiina valitsus lahendab neid konflikte, mida te just
kirjeldasite, üsna lihtsal viisil. Tihti nad ütlevad lihtsalt, mis edasi saab. Kas
meil on oht, et diktaatorid saavad tehisintellekti oma heaks kasutada palju hõlpsamalt,
kui meie keerulised demokraatlikud ühiskonnad?**

Päris nii lihtne see ei ole, sest Hiina üritab tehisintellektiga teha teisi asju
kui meie. Hiina keskendub järelvalvele. Hiina kasutab palju näotuvastust. Neil on
palju turvakaameraid avalikes kohtades. Nad märkavad sind, kui sa oled Tiibetist
või kui sa ole uiguur või neile teada riigivaenlane. Seda kõike tehakse kommunistliku
partei võimu nimel.

Samas suured keelemudelid hiinlastele ei meeldi, sest tänapäevaseid keelemudeleid
on väga raske joondada. Hiinas tähendaks see, et need ei ütleks kunagi midagi salgavat
kommunistliku partei kohta. Ma olen kindel, et paljud inimesed Eestis mäletavad 
nõukogude aega, kui Brežnevi kohta ei tohtinud midagi halba öelda. Sellises ühiskonnas
on väga raske keelemudeleid kasutada.

Läänes samas me oleme väga palju panustanud suurtele keelmudelitele, me rakendame
neid igal pool. Lääne ja Hiina teed on läinud lahku. Kuid on üks konks. Paljud arengumaad
tahavad Hiinast saada investeeringuid, sest Hiina pakub neile raha hulgi, et neid
Lääne mõjuväljast eemale kiskunda. Hiinlased üritavad nii Aafrikast, Lõuna-Aasiast
ning Lõuna-Ameerikast kindlustada maavarade ja toiduainete tarneahelad.

Teine Külm sõda võib väga vabalt toimuda Kolmanda maailma lahinguväljadel. Seal 
sõjas ei pruugi võidelda partisanid ja seal ei pruugi toimunud terrorismivastased
operatsioonid. See võib olla IT-süsteemide ja tehisintellektide, mida kasutatakse
ettevõttete ning valitsusasutuste juhtimiseks, vaheline konflikt.

**See kõik on pigem vaade tulevikku, kuid juba praegu puutuvad tavalised inimesed
tehisintellektiga kokku. ChatGPT populaarsus on plahvatuslikult kasvanud, isegi 
kui paljude jaoks on see jäänud mänguasjaks. Kas meil on ka igapäevaelust näiteid
tehisintellektist, mis ei ole joondatud? Kas see kuidagi juba praegu tavalist inimest
mõjutab?**

Palju sellest, mida praegu veebilehtedelt näha, on see, mida ökonomistid nimetavad
kõntsaks, mis on justkui halb nügimine. (_sludge_ ja _nudge;_ nügimine on majanduses
ja psühholoogias tuntud termin, mis tähendab üldiselt mitte silmapaistvate või segavate
võtetega inimesi mingi otsuse poole suunamist – toim.) Ma lendasin siia Londonist
Ryanairiga ja kui Ryanairiga lennata, siis peab nende veebilehega võitlema, mis 
üritab sulle müüa lisapagasit, parkimiskohti, hotellitube. Kõike aina rohkem ja 
rohkem.

Tuleb väga püüdlikult keskenduda, et saada just seda, mida sa tegelikult tahad. 
See on tänapäeva maailm. Isegi veebiotsing on katki. Kui sa otsid Hiltoni hotelli,
siis ilmselt esimesed seitse vastust on teenuse vahendajad, mitte hotell ise.

See on internetimajanduse tulemus ning tehisintellekti majandusmudel ei tule kuidagi
teisiti. Ma toon näite, kuidas kõik võib valesti minna. Üks võimalus on, et suured
keelemudelid saavad vanematele inimestele pakkuda seltskonda. Kui inimesed saavad
70 või 80 aasta vanuseks, jäävad nad tihti üksikuks, sest nende sõbrad on surnud
või dementsed. Vanematele inimestele seltsi pakkumine on sotsiaalselt väga väärtuslik.
Kui sa oled rikas, siis sa saad palgata kodabilised. Kui ei, siis sa oled lihtsalt
üksildane.

Tõenäoliselt me näeme palju ettevõtteid, mis toodavad roboteid, mis pakuvad inimestele
seltsi, räägivad nendega läbi kõlarite või teksti teel nutitelefonides. See kõik
toob neile ettevõtetele meeletult tulu. See teeb inimesi rõõmsamaks, tõenäoliselt
elavad nad kauem ja saavad näiteks kutsuda abi, kui nad kukuvad. Samas seda süsteemi
on väga lihtne kuritarvitada. Kui inimesed usaldavad neid keelemudeleid, siis saab
neile näiteks müüa igasugu kaheldava väärtusega investeerimisvõimalusi.

**Tehisintellekti joondamine on siis viis seda kõike vältida? Mis oleks hea tulevik?
Kui palju tehakse selle suunas edusamme?**

Suured, tehisintellekti ettevõtted panustavad palju eetikasse, aga see ei tähenda,
et sellel on järgmised kaks, kolm aastat tehisintellekti arengu rõhuasetus. Masinõpe
eksisteerib tänaseks teenusena, ükskõik kes saab alustada _startup_iga ja pakkuda
oma teenuseid, mis põhinevad näiteks ChatGPT-l või muul sarnasel, mida saab Microsoftilt
rentida. Või saab alla tõmmata ühe paljudest vabavara mudelitest. Me hakkame nägema
väga kiiret tehnoloogilist arengut, keelemudelid töötavad järjest ja järjest odavamal
tarkvaral ning neid saavad kolmandad osapooled üha rohkem ja rohkem mudida.

Tuleb üha rohkem ja rohkem _startup_e, osad neist pahatahtlikud või lausa õelaid,
mis hakkavad mingis vormis masinõppega tegelema.

**See on ikka üsna pessimistlik või hirmutav perspektiiv. On ka midagi head oodata
või oleme hukule määratud?**

Ei-ei, me ei ole hukule määratud. Sellised tehnoloogilised revolutsioonid tulevad
mõnikord ja kunagi ei saa ette öelda, mis juhtuma hakkab. Kui Gutenberg leiutas 
trükipressi, siis ei kujutanud ta ette, et Erasmus teeb uusi tõlkeid piiblist. Siis
naelutas Martin Luther teesid kirikuuksele Wittenbergis ning tuli sada aastat sõda,
valgustusajastu ja kõik muu. Seda ei olnud võimalik ette ennustada, aga kui minna
ajas tagasi, kas siis kägistada Gutenberg hällis?

**Ilmselt mitte!**

Täpselt!

[Loe otse allikast](https://www.err.ee/1608998269/cambridge-i-arvutiteadlane-luureroboteid-tuleb-tulevikus-opetada-nagu-teismelisi)