Ključni izsledki
- Deep Nostalgia je nov program, ki vam omogoča animiranje starih fotografij.
- Tehnologija dokazuje, kako enostavno je ustvariti videoposnetke ljudi, ki počnejo stvari, ki jih v resničnem življenju dejansko še niso.
- Tehnologija globokega ponarejanja je že tako izpopolnjena, da je težko ugotoviti, ali je video resničen ali računalniško ustvarjen, pravi strokovnjak.
Bodite previdni pri novi programski opremi, ki lahko ustvari tako imenovane "globoke ponaredke", v katerih je mogoče simulirati videe resničnih ljudi, opozarjajo strokovnjaki.
Deep Nostalgia, ki ga je izdalo podjetje MyHeritage, je v trendu na družbenih omrežjih, uporabniki pa oživijo vsakogar, od slavnih skladateljev do mrtvih sorodnikov. Programska oprema povzroča mešane odzive, nekateri ljudje so navdušeni nad kreacijami, drugi pa se jim zdijo grozljive. Tehnologija dokazuje, kako enostavno je ustvariti videoposnetke ljudi, ki počnejo stvari, ki jih v resničnem življenju dejansko še niso.
"Tehnologija Deepfake postaja vse bolj sofisticirana in nevarnejša," je v intervjuju po elektronski pošti dejal Aaron Lawson, pomočnik direktorja SRI International Speech Technology and Research Laboratory (STAR). "To je deloma posledica narave umetne inteligence. Kjer 'tradicionalna' tehnologija zahteva človeški čas in energijo za izboljšave, se lahko umetna inteligenca uči sama od sebe.
"Toda sposobnost umetne inteligence, da se sam razvija, je dvorezen meč," je nadaljeval Lawson. "Če je umetna inteligenca ustvarjena, da naredi nekaj dobrohotnega, je super. Ko pa je umetna inteligenca zasnovana za nekaj zlonamernega, kot so globoki ponaredki, je nevarnost brez primere."
Programska oprema oživi fotografije
Genealoško spletno mesto MyHeritage je prejšnji mesec predstavilo mehanizem za animacijo. Tehnologija, znana kot Deep Nostalgia, uporabnikom omogoča animiranje fotografij prek spletne strani MyHeritage. Podjetje z imenom D-ID je oblikovalo algoritme za MyHeritage, ki digitalno poustvarijo gibanje človeških obrazov. Glede na spletno stran MyHeritage programska oprema uporablja premike za fotografije in spreminja izraze obraza, da se premikajo kot običajno človeški obrazi.
Deep Nostalgia kaže, da postaja globoko lažna tehnologija vse bolj dostopna, je v intervjuju po elektronski pošti dejal Lior Shamir, profesor računalništva na univerzi Kansas State. Hitro napreduje in odpravlja celo subtilne razlike med lažnim in resničnim videom in zvokom.
"Prav tako je prišlo do znatnega napredka v smeri globokega ponarejanja v realnem času, kar pomeni, da se prepričljivi globoko ponarejeni videoposnetki ustvarijo v času video komunikacije," je dejal Shamir."Na primer, nekdo lahko ima sestanek v Zoomu z določeno osebo, medtem ko vidi in sliši glas popolnoma druge osebe."
Narašča tudi število globokih ponaredkov, ki temeljijo na jeziku, je v intervjuju po elektronski pošti povedal Jason Corso, direktor Stevensovega inštituta za umetno inteligenco na Tehnološkem inštitutu Stevens. "Ustvarjanje celih odstavkov globoko ponarejenega besedila za določeno agendo je precej težko, vendar sodobni napredek v globoki obdelavi naravnega jezika to omogoča," je dodal.
Kako odkriti globoko ponaredek
Čeprav je tehnologija zaznavanja globokih ponaredkov še v začetni fazi, obstaja nekaj načinov, kako jih lahko opazite, je dejal Corso, začenši z usti.
"Spremenljivost v videzu notranjosti ust, ko nekdo govori, je zelo velika, zaradi česar je težko prepričljivo animirati," je pojasnil Corso. »To se da, a je težje kot ostala glava. Upoštevajte, kako videoposnetki Deep Nostalgia med ustvarjanjem globoke ponaredke ne prikazujejo zmožnosti fotografije, da reče 'ljubim te' ali kakšno drugo frazo. To bi zahtevalo odpiranje in zapiranje ust, kar je zelo težko za ustvarjanje globokih ponaredkov."
Ghosting je še eno darilo, je dodal Corso. Če opazite zamegljenost okoli robov glave, je to posledica "hitrega gibanja ali omejenih slikovnih pik, ki so na voljo na izvorni sliki. Uho lahko v trenutku delno izgine ali pa lasje postanejo zamegljeni tam, kjer tega ne bi pričakovali," je rekel.
Pozorni ste lahko tudi na barvne variacije, ko poskušate opaziti globok lažen videoposnetek, kot je ostra črta čez obraz, s temnejšimi barvami na eni in svetlejšimi na drugi strani.
"Računalniški algoritmi lahko pogosto zaznajo te vzorce izkrivljanja," je dejal Shamir. "Toda algoritmi globokega ponarejanja hitro napredujejo. Neizogibno je, da bodo potrebni strogi zakoni za zaščito pred globokim ponarejanjem in škodo, ki jo zlahka povzročijo."
