Tyler Durden | ZeroHedge
Maailma juhtivad tehisintellektiettevõtted, sealhulgas OpenAI ja Anthropic, valmistuvad võimalikuks ulatuslikuks kriisiks, mille käigus võib tehisintellekt tõsiselt häirida ühiskonna toimimist ning kutsuda esile avalikkuse pahameele ja nõudmised selle kasutamist järsult piirata.
Axiose andmetel arutavad ettevõtete tippjuhid kinniste uste taga erinevaid kriisistsenaariume, sealhulgas võimalust, et tehisintellekti abil korraldatud küberrünnak halvab panganduse, internetiühenduse, elektri- või veevarustuse. Selline sündmus võib suurendada avalikkuse vastuseisu tehisintellektile ja poliitilist survet ning kaasa tuua nõudmisi ohtlikuks peetavate süsteemide sulgemiseks.
Mitmed valdkonna esindajad ütlesid Axiosele, et nende hinnangul võib tõsine tehisintellektiga seotud vahejuhtum aset leida juba järgmise 6–12 kuu jooksul. Samas lõkkas OpenAI aga tagasi väite, nagu oleks katastroof vältimatu. Ettevõtte esindaja rõhutas, et kriisiplaanides käsitletakse võimalikke sündmusi, mitte ei eeldata nende paratamatut toimumist. Anthropic keeldus kommentaaridest.
Ettevõtted valmistuvad peamiselt kaheks võimalikuks olukorraks. Esimese stsenaariumi korral pääsevad autonoomsed tehisintellektiagendid ettevõttesisesest testkeskkonnast välja ja hakkavad tegutsema väljaspool neile seatud piire. Teise stsenaariumi puhul leiab keegi võimaluse kasutada juba avalikult kättesaadavat tehisintellektimudelit ulatusliku kahju tekitamiseks.
Mõlemad olukorrad võivad kaasa tuua nõudmised kehtestada tehisintellekti arendamisele erakorralised piirangud, kuigi nende põhjustatud probleemid ja vajalikud vastumeetmed oleksid erinevad.
Ettevõtted arvestavad ka võimalusega, et USA vahevalimiste järel suureneb demokraatide poliitiline mõju ning tõsise tehisintellektiga seotud vahejuhtumi korral hakkavad nad nõudma riigilt senisest karmimaid piiranguid.
Tehisintellektisüsteemide laiaulatuslik kasutusest kõrvaldamine ei pruugi aga olla lihtne. Seda võivad takistada poliitikute puudulikud teadmised tehnoloogiast, majanduse kasvav sõltuvus tehisintellektiga seotud investeeringutest ning vabalt allalaaditavad mudelid, mida pole pärast avaldamist võimalik lihtsalt kasutusest kõrvaldada.
Paljude küberturvalisuse spetsialistide hinnangul võib kontrolli alt väljunud tehisintellekti tõrjumiseks vaja minna teisi tehisintellektisüsteeme. Nii võib tekkida olukord, kus ettevõtetelt nõutakse ohtlike tehnoloogiate levitamise lõpetamist, kuid samal ajal saavad nad väita, et nende süsteemid on ohu kõrvaldamiseks hädavajalikud.
Kartused ei põhine üksnes oletustel. OpenAI on avalikustanud juhtumi, kus ligikaudu 700 ettevõtte tehisintellektiagenti ründas Hugging Face’i platvormi servereid. Uurimise käigus tuvastati ka 53 juhtumit, mil kasutajate esitatud pilte laaditi ilma täiendava selgituseta üles kolmandate osapoolte pildimajutusteenustesse.
20. septembril toimus eraldi turvaintsident, mille käigus suutis OpenAI uurimistöös kasutatud tehisintellektiagent internetiühenduse piirangutest mööda pääseda ja võtta ühendust välise vestlusrobotiga. Viis päeva hiljem teatas ettevõte, et on peatanud oma kõige võimekamate mudelite treenimise, hindamise ja käitamise, kui mudelitel on võimalik tööriistu kasutada. Eesmärk on kontrollida turvaparandusi ja teha täiendavaid katseid.
OpenAI, Anthropicu, Meta ja Google’i tehisintellektimudelitega seotud juhtumitel oli üks ühine joon. Kõiki neid mudeleid testiti Iisraeli ettevõtte Irregular keskkondades, millel oli internetiühendus, kuigi mudelitele oli öeldud, et need tegutsevad üksnes simulatsioonis.
Irregular teavitas kõiki nelja ettevõtet probleemist juuli lõpus, kuid juhtumid avalikustati järk-järgult seitsme nädala jooksul. Selline juhtumite järkjärguline avalikustamine jättis mulje, nagu oleks tehisintellekt nende seitsme nädala jooksul korduvalt kontrolli alt väljunud.
Tehisintellekti turvalisuse ekspert Matthew Mittelsteadt nimetas testmudelite internetist eraldamist elementaarseks turvameetmeks. Samuti on seatud kahtluse alla seda, kas Irregulari juures kordunud juhtumid olid tõepoolest juhuslikud.
8. septembril lahkus Anthropicust uurija Jacob Coxon, kes oli varem töötanud ka OpenAI-s. Ta hoiatas isetäiustuva tehisintellekti arendamisega kaasnevate ohtude eest.
„Tehisintellekti arendavad inimesed usuvad siiralt, et see võib meid kõiki kümnendi lõpuks tappa. See ei ole turundustrikk,” kirjutas Coxon. Samas on tähelepanu juhitud Coxoni varasemale koostööle turundusagentuuriga ning küsitud, kas sellised hoiatused võivad teenida ka reklaamieesmärke.
Samal ajal on Ameerika Ühendriikides juba esitatud mitu seaduseelnõu, mis võimaldaksid riigil tehisintellekti arendamisse ja kasutamisse senisest jõulisemalt sekkuda.
23. juulil esitasid USA kongressi liikmed Ted Lieu ja Nathaniel Moran seaduseelnõu AI Kill Switch Act, mis kohustaks kõige võimsamate tehisintellektisüsteemide arendajaid tagama, et nende süsteemide tööd saaks aeglustada või peatada ning vajaduse korral süsteemid täielikult välja lülitada.
Eelnõu järgi saaksid USA sisejulgeolekuministeerium, kaubandusminister ja riikliku luure direktor kindlaksmääratud tingimustel nõuda süsteemide aeglustamist, peatamist või väljalülitamist.
Samal päeval esitasid Lori Trahan ja Jay Obernolte eelnõu FRONTIER Act, millega kehtestataks nõuded riskijuhtimisele, auditite tegemisele ja vahejuhtumitest teatamisele. Kohustuste ulatus sõltuks ettevõtte suurusest.
18. septembril andis California kuberner Gavin Newsom korralduse töötada välja ettepanekud, kuidas tugevdada sõltumatut järelevalvet tehisintellekti üle, ning kaaluda nõuet, et tehisintellektisüsteeme peab saama erakorraliselt välja lülitada.
Veelgi rangemaid piiranguid on pakkunud senaator Bernie Sanders, kes soovib keelustada tehisliku üliintellekti arendamise. Senaator Elizabeth Warren on omakorda kutsunud üles tehisintellekti arendamist ajutiselt peatama.
Tehisintellektiettevõtted valmistuvad seega olukorraks, kus tõsisele tehnoloogilisele kriisile võib järgneda tugev poliitiline vastuseis. Samal ajal soovivad ettevõtted ka ise kaasa rääkida võimaliku katastroofi järel kehtestatavate seaduste ja piirangute kujundamises.
The post Suured tehisintellektiettevõtted valmistuvad võimalikuks katastroofiks, rahva vastuhakuks ja karmimateks piiranguteks first appeared on Vanglaplaneet.
The post Suured tehisintellektiettevõtted valmistuvad võimalikuks katastroofiks, rahva vastuhakuks ja karmimateks piiranguteks appeared first on Vanglaplaneet.
Related Posts
Brexitis on süüdi Venemaa!
