Ključni izsledki
- Zdi se, da je sistem AI, imenovan DALL-E2, ustvaril lasten sistem pisne komunikacije.
- Nekateri strokovnjaki pravijo, da je navidezni jezik lahko le bedarija.
- To je primer, kako težko je razlagati rezultate naprednih sistemov AI.
Videti je, da je umetna inteligenca (AI) razvila svoj jezik, vendar so nekateri strokovnjaki skeptični glede te trditve.
Zdi se, da je OpenAI-jev sistem umetne inteligence za pretvorbo besedila v sliko, imenovan DALL-E2, ustvaril lasten sistem pisne komunikacije. To je primer, kako težko je razlagati rezultate naprednih sistemov umetne inteligence.
"Zaradi velikosti in globine velikih modelov je zelo težko razložiti vedenje modela," je v intervjuju po elektronski pošti za Lifewire povedala Teresa O'Neill, direktorica arhitekture rešitev za razumevanje naravnega jezika pri iMerit. "To je eden od temeljnih izzivov in v nekaterih primerih etična vprašanja z vedno močnejšimi modeli. Če ne moremo razložiti, zakaj se obnašajo, kot se, ali lahko predvidimo njihovo vedenje ali ga ohranimo v skladu z našimi normami in pričakovanji?"
klepeti AI
Študent računalništva Giannis Daras je nedavno opazil, da bi sistem DALLE-2, ki ustvarja slike na podlagi vnosa besedila, v določenih okoliščinah vrnil nesmiselne besede kot besedilo.
"Znana omejitev DALLE-2 je, da ima težave z besedilom," je zapisal v članku, objavljenem na strežniku za prednatis Arxiv. "Na primer, besedilni pozivi, kot je: 'Slika besede letalo', pogosto vodijo do ustvarjenih slik, ki prikazujejo bedasto besedilo."
Ampak, je zapisal Daras, za navideznim blebetanjem morda obstaja metoda. "Ugotovili smo, da to proizvedeno besedilo ni naključno, temveč razkriva skriti besednjak, za katerega se zdi, da je model razvil interno," je nadaljeval. "Na primer, ko ga hranimo s tem blebetanjem, model pogosto proizvaja letala."
V svojem tvitu je Daras poudaril, da je DALLE-2, ko so ga prosili, naj podnaslovi pogovor med dvema kmetoma, pokazal, da se pogovarjata, vendar so bili oblački napolnjeni z nesmiselnimi besedami. Toda Daras je odkril, da se zdi, da imajo besede za AI svoj pomen: kmetje so govorili o zelenjavi in pticah.
Nicola Davolio, izvršni direktor tehnološkega podjetja Hupry, ki dela z umetno inteligenco, je za Lifewire v intervjuju po elektronski pošti pojasnil, da jezik temelji na simbolih, ki se jih je sistem DALL-E2 naučil povezovati z določenimi koncepti. Na primer, simbol za "pes" je lahko povezan s sliko psa, medtem ko je simbol za "mačka" lahko povezan s sliko mačke. DALL-E2 je ustvaril svoj jezik, ker mu omogoča učinkovitejšo komunikacijo z drugimi sistemi AI.
Uganke, kot je očitno skriti besednjak DALL-E2, so zabavne za reševanje, vendar osvetljujejo tudi težja vprašanja…
"Jezik je sestavljen iz simbolov, ki izgledajo kot egipčanski hieroglifi in se zdi, da nimajo posebnega pomena," je dodal. "Simboli so za ljudi verjetno nesmiselni, vendar so za sistem umetne inteligence povsem smiselni, saj je bil učen na milijonih slik."
Raziskovalci menijo, da je sistem umetne inteligence ustvaril jezik, da bi bolje razumel odnose med slikami in besedami, je dejal Davolio.
"Niso prepričani, zakaj je sistem umetne inteligence razvil svoj jezik, vendar sumijo, da je to morda povezano s tem, kako se je učil ustvarjati slike," je dodal Davolio. "Možno je, da je sistem AI razvil svoj jezik, da bi bil komunikacija med različnimi deli omrežja učinkovitejša."
Skrivnosti AI
DALL-E2 ni edini sistem AI, ki je razvil svoj notranji jezik, je poudaril Davolio. Leta 2017 je Googlov sistem AutoML ustvaril novo obliko nevronske arhitekture, imenovano "otroško omrežje", potem ko je bil prepuščen odločitvi, kako najbolje dokončati določeno nalogo. Človeški ustvarjalci tega podrejenega omrežja niso mogli interpretirati.
"Ti primeri so le nekaj primerov, v katerih so sistemi AI razvili načine za izvajanje stvari, ki jih ne moremo razložiti," je dejal Davolio. "To je nastajajoči pojav, ki je v enaki meri fascinanten in zaskrbljujoč. Ker sistemi umetne inteligence postajajo bolj zapleteni in avtonomni, se lahko vse pogosteje znajdemo v položaju, ko ne razumemo, kako delujejo."
O'Neill je rekla, da ne misli, da DALL-E2 ustvarja svoj jezik. Namesto tega je rekla, da je razlog za očitno jezikovno iznajdbo verjetno nekoliko bolj prozaičen.
"Ena verjetna razlaga je naključna priložnost - v tako velikem modelu bi lahko veljal delček Murphyjevega zakona: če se lahko zgodi čudna stvar, se verjetno tudi bo," je dodal O'Neill. Druga možnost, ki jo predlaga raziskovalni analitik Benjamin Hilton v niti na Twitterju, ki razpravlja o Darasovih ugotovitvah, je, da oblika besedne zveze "apoploe vesrreaitais" posnema obliko latinskega imena za žival. Sistem je torej ustvaril nov red Aves, je dodal O'Neill.
»Z ugankami, kot je očitno skriti besednjak DALL-E2, se je zabavno boriti, vendar osvetljujejo tudi težja vprašanja o tveganju, pristranskosti in etiki v pogosto nedoumljivem vedenju velikih modelov,« je dejal O'Neill.
