Ključni izsledki
- Nove raziskave kažejo, da morda ne obstaja način za nadzor superpametne umetne inteligence.
- Članek v reviji trdi, da bi nadzorovanje umetne inteligence zahtevalo veliko bolj napredno tehnologijo, kot jo imamo trenutno.
- Nekateri strokovnjaki pravijo, da bo resnično inteligentna umetna inteligenca morda tukaj prej, kot si mislimo.
Če ljudje kdaj razvijejo super-pametno umetno inteligenco, je morda ne bo mogoče nadzorovati, pravijo znanstveniki.
AI se že dolgo oglašuje kot zdravilo za vse težave človeštva ali kot apokalipsa v stilu Terminatorja. Zaenkrat pa se umetna inteligenca še ni približala inteligenci na človeški ravni. Toda ohranjanje napredne umetne inteligence na povodcu bi lahko bilo preveč zapletena težava za ljudi, če bi se kdaj razvila, glede na nedavni članek, objavljen v Journal of Artificial Intelligence Research.
"Superinteligentni stroj, ki nadzoruje svet, zveni kot znanstvena fantastika," je v sporočilu za javnost dejal Manuel Cebrian, eden od soavtorjev časopisa.
"Vendar že obstajajo stroji, ki samostojno opravljajo določene pomembne naloge, ne da bi programerji povsem razumeli, kako so se tega naučili. Postavlja se torej vprašanje, ali bi to lahko na neki točki postalo neobvladljivo in nevarno za človeštvo."
Kmalu v super računalniku v vaši bližini
Članek v reviji trdi, da bi nadzorovanje AI zahtevalo veliko bolj napredno tehnologijo, kot jo imamo trenutno.
V svoji študiji je skupina zasnovala teoretični zadrževalni algoritem, ki zagotavlja, da superinteligentna umetna inteligenca ne more škodovati ljudem v nobenih okoliščinah, tako da najprej simulira vedenje umetne inteligence in jo ustavi, če se šteje za škodljivo. Toda avtorji so ugotovili, da takšnega algoritma ni mogoče zgraditi.
"Če problem razčlenite na osnovna pravila iz teoretične računalniške znanosti, se izkaže, da bi lahko algoritem, ki bi umetni inteligenci ukazal, naj ne uniči sveta, nehote ustavil lastne operacije." Iyad Rahwan, direktor Centra za ljudi in stroje na Inštitutu Maxa Plancka za človekov razvoj v Nemčiji, je dejal v sporočilu za javnost.
"Če bi se to zgodilo, ne bi vedeli, ali zadrževalni algoritem še vedno analizira grožnjo ali pa je prenehal zajeziti škodljivo umetno inteligenco. To dejansko naredi zadrževalni algoritem neuporaben."
Resnično inteligentna umetna inteligenca bo morda tu prej, kot si mislimo, trdi Michalis Vazirgiannis, profesor računalništva na École Polytechnique v Franciji. "AI je človeški artefakt, vendar hitro postaja avtonomna entiteta," je dejal v e-pošti za Lifewire.
"Kritična točka bo, če/ko pride do singularnosti (tj. ko bodo agenti AI imeli zavest kot entiteto) in bodo zato zahtevali neodvisnost, samokontrolo in morebitno prevlado."
Singularnost prihaja
Vazirgiannis ni edini, ki napoveduje skorajšnji prihod super AI. Resnični verniki v grožnjo umetne inteligence radi govorijo o "singularnosti", kar Vazirgiannis pojasnjuje, da bo umetna inteligenca nadomestila človeško inteligenco in "da bodo algoritmi umetne inteligence potencialno spoznali svoj obstoj ter se začeli obnašati sebično in kooperativno."
Po mnenju Raya Kurzweila, Googlovega direktorja inženiringa, bo singularnost prispela pred sredino 21. stoletja. "Leto 2029 je dosleden datum, ki sem ga predvidel, ko bo umetna inteligenca opravila veljaven Turingov test in s tem dosegla človeško raven inteligence," je Kurzweil povedal za Futurism.
Če ne moremo očistiti lastne hiše, kateri kodi naj od umetne inteligence zahtevamo, da jo upošteva?
"Določil sem datum 2045 za 'Singularnost', ko bomo milijardokrat pomnožili našo učinkovito inteligenco z združitvijo z inteligenco, ki smo jo ustvarili."
Vendar vsi strokovnjaki za umetno inteligenco ne mislijo, da so inteligentni stroji grožnja. Umetna inteligenca, ki je v razvoju, je bolj verjetno uporabna za razvoj zdravil in ne kaže prave inteligence, je v intervjuju po elektronski pošti dejal svetovalec za umetno inteligenco Emmanuel Maggiori. "Obstaja velik hype okoli umetne inteligence, zaradi česar se sliši, kot da je resnično revolucionaren," je dodal. "Trenutni sistemi umetne inteligence niso tako natančni, kot se oglaša, in delajo napake, ki jih človek nikoli ne bi naredil."
Prevzemite nadzor nad AI zdaj
Uravnavanje umetne inteligence, tako da ne uide našemu nadzoru, je lahko težavno, pravi Vazirgiannis. Podjetja in ne vlade nadzorujejo vire, ki poganjajo AI. "Tudi sami algoritmi so običajno proizvedeni in uporabljeni v raziskovalnih laboratorijih teh velikih in močnih, običajno večnacionalnih subjektov," je dejal.
"Zato je očitno, da imajo vlade držav vse manj nadzora nad viri, potrebnimi za nadzor AI."
Nekateri strokovnjaki pravijo, da bodo morali ljudje za nadzor superinteligentne umetne inteligence upravljati računalniške vire in električno energijo. "Znanstvenofantastični filmi, kot je Matrica, prerokujejo o distopični prihodnosti, v kateri bo umetna inteligenca uporabljala ljudi kot vire biološke energije," je dejal Vazirgiannis.
"Čeprav je to na daljavo nemogoče, bi moralo človeštvo zagotoviti zadosten nadzor nad računalniškimi viri (tj. računalniškimi grozdi, grafičnimi procesorji, superračunalniki, omrežji/komunikacijami) in seveda elektrarnami, ki zagotavljajo elektriko, kar je absolutno škodljivo za delovanje AI."
Težava pri nadzorovanju umetne inteligence je, da raziskovalci ne razumejo vedno, kako se takšni sistemi odločajo, je v intervjuju po elektronski pošti dejal Michael Berthold, soustanovitelj in izvršni direktor podjetja KNIME za programsko opremo za podatkovno znanost. "Če tega ne storimo, kako ga lahko 'nadziramo'?"
Dodal je: "Ne razumemo, kdaj je sprejeta popolnoma drugačna odločitev na podlagi za nas nepomembnih vnosov."
Edini način za nadzor tveganja uporabe umetne inteligence je zagotoviti, da se uporablja le, ko je to tveganje obvladljivo, je dejal Berthold. "Drugače povedano, dva skrajna primera: ne dajajte umetni inteligenci vodenja vaše jedrske elektrarne, kjer ima lahko majhna napaka katastrofalne stranske učinke," je dodal.
"Po drugi strani pa umetna inteligenca predvideva, da je treba vašo sobno temperaturo nekoliko prilagoditi navzgor ali navzdol, morda vredno majhnega tveganja v korist bivalnega udobja."
Če ne moremo nadzorovati umetne inteligence, je bolje, da jo naučimo obnašanja, je nekdanji Nasin računalniški inženir Peter Scott dejal v intervjuju po elektronski pošti. "Navsezadnje ne moremo zagotoviti obvladljivosti umetne inteligence, prav tako ne moremo zagotoviti obvladljivosti naših otrok," je dejal.
"Vzgajamo jih prav in upamo na najboljše; doslej še niso uničili sveta. Da bi jih dobro vzgojili, potrebujemo boljše razumevanje etike; če ne moremo sami očistiti hiše, kaj kodo, ali naj zahtevamo, da AI sledi?"
Toda vse upanje za človeštvo še ni izgubljeno, pravi raziskovalec AI Yonatan Wexler, izvršni podpredsednik za raziskave in razvoj pri OrCam. "Čeprav je napredek res impresiven, je moje osebno prepričanje, da človeške inteligence ne smemo podcenjevati," je dejal v intervjuju po elektronski pošti. "Kot vrsta smo ustvarili neverjetne stvari, vključno s samo umetno inteligenco."
Iskanje vedno pametnejše umetne inteligence se nadaljuje. Toda morda bi bilo bolje razmisliti o tem, kako nadziramo naše stvaritve, preden bo prepozno.
