Ključni izsledki
- Vrhunski raziskovalec pravi, da je umetna inteligenca že pri zavesti.
- Toda drugi strokovnjaki za umetno inteligenco pravijo, da so računalniki daleč od pridobitve kognitivnih sposobnosti na človeški ravni, vključno z zavestjo.
- Ugotavljanje, ali je nekaj pri zavesti, je lahko težavno.
Ideja zavestne umetne inteligence (AI) pričara podobe strojev, ki prevzemajo svet, vendar se strokovnjaki ne strinjajo, ali naj koncept jemljejo resno.
Vrhunski raziskovalec umetne inteligence je nedavno trdil, da je umetna inteligenca pametnejša, kot si mislimo. Ilya Sutskever, glavni znanstvenik raziskovalne skupine OpenAI, je tvitnil, da "je mogoče, da so današnje velike nevronske mreže nekoliko zavestne." Toda drugi strokovnjaki za umetno inteligenco pravijo, da je še prezgodaj, da bi ugotovili kaj takega.
»Da bi bil subjekt zavesten, se mora zavedati svojega obstoja v svojem okolju in da bodo dejanja, ki jih izvaja, vplivala na njegovo prihodnost,« je Charles Simon, izvršni direktor FutureAI, povedal Lifewire v intervjuju po elektronski pošti. "Nobeden od teh ni prisoten v trenutnem AI."
Nadčlovek?
Sutskever je že opozoril, da lahko superpametna umetna inteligenca povzroča težave. V intervjuju v dokumentarcu o umetni inteligenci iHuman je dejal, da bo napredna umetna inteligenca "rešila vse težave, ki jih imamo danes", vendar je tudi opozoril, da ima "potencial ustvarjanja neskončno stabilnih diktatur."
OpenAI je bil ustanovljen kot neprofitna organizacija, katere namen je preprečiti tveganja, ki jih predstavljajo inteligentni računalniki, vendar je izvedel tudi raziskave za ustvarjanje umetne inteligence.
Medtem ko so mnogi znanstveniki zavrnili Simonovo trditev, da je umetna inteligenca zavestna, ima vsaj enega dobro znanega branilca. Računalniški znanstvenik z MIT Tamay Besiroglu je v tvitu branil Sutskeverja.
»Videti toliko uglednih [strojnega učenja] ljudi, ki se norčujejo iz te ideje, je razočaranje,« je Besiroglu zapisal na Twitterju. "Zaradi tega manj upam v sposobnost tega področja, da se resno loti nekaterih globokih, nenavadnih in pomembnih vprašanj, s katerimi se bodo nedvomno soočili v naslednjih nekaj desetletjih."
Kaj je zavest?
Celo ugotavljanje, ali je nekaj pri zavesti, je lahko težavno. Raziskovalec umetne inteligence Sneh Vaswani je za Lifewire v elektronski pošti povedal, da ima zavest več stopenj. Umetna inteligenca je naredila "spodobno pot" v prve stopnje, je dejal.
"Danes lahko stroj razume čustva, zgradi osebnostni profil in se prilagodi človekovi osebnosti," je dodal. "Ko se umetna inteligenca razvija, se pomika proti naprednim stopnjam zavesti hitreje, kot si sploh lahko predstavljamo."
Obstaja veliko definicij zavesti in nekateri bi trdili, da so drevesa in mravlje do neke mere zavestne, ideja, ki "razteza definicijo onkraj običajne rabe," je dejal Simon. Trdi, da je samozavedanje razumevanje samega sebe kot zavestne entitete.
"Tako zavest kot samozavedanje se kažeta v številnih vedenjih, kot je izkazovanje lastnega interesa, pa tudi v notranjem občutku," je dejal Simon. "Če so umetne inteligence resnično zavestne, bomo lahko opazovali vedenje, vendar bomo imeli le malo znanja o notranjih občutkih. Možno je ponarediti zavest s knjižnico zavestno navideznih vedenj, kot je označevanje sebe kot 'jaz', vendar resnično zavestna entiteta je sposobna načrtovati in upoštevati več rezultatov."
Vaswani je optimističen glede izida ustvarjanja superpametne umetne inteligence, čeprav je Elon Musk med tistimi, ki so opozorili, da bi lahko zavestna umetna inteligenca vodila v uničenje človeštva.
"Ko bo umetna inteligenca v celoti pridobila zavest, bo dopolnila 'nepopolno' družbo: ljudje in umetna inteligenca bodo sobivali," je dejal Vaswani. "Skupaj bomo dosegli večje cilje in umetna inteligenca se bo neopazno zlila z našim svetom."
Nekateri strokovnjaki za umetno inteligenco pravijo, da je sam koncept zavestne umetne inteligence bolj znanstvena fantastika kot resničnost. Težava ponavadi preveč poudarja robote 'terminatorskega stila' in ne zelo realne potencialne škode zaradi pristranske umetne inteligence, ki že obstaja, je v e-pošti za Lifewire dejal Triveni Gandhi, odgovorni vodja za umetno inteligenco pri podjetju Dataiku za umetno inteligenco.
"Morda se ne bomo soočili z naslednjo Ex Machino, vendar se soočamo z nekaterimi resničnimi izzivi," je dejal Gandhi. "To lahko vidimo v zlorabi močno pristranske umetne inteligence za napovedovanje stroškov zdravstvenega varstva, v orodjih za zaposlovanje, ki nepošteno filtrirajo življenjepise, ali v modelih kreditiranja, ki krepijo obstoječe neenakosti."
Umetna inteligenca ni sama po sebi dobra ali slaba, so le podatki, ki delajo, kar jim rečemo, trdi Gandhi.
Človeške pristranskosti najdejo svojo pot v podatke in modele strojnega učenja, zato bi morali biti zelo jasni glede podatkov, ki jih uporabljamo, zakaj se odločamo za uporabo umetne inteligence v tej vlogi in kako so izbire nato predstavljene ljudem vpliva sistem AI, « je dodal Gandhi.
