Ključni izsledki
- Amazonov glasovni pomočnik Alexa lahko kopira glas s samo eno minuto zvoka.
- Lahko prosite Alexa, naj prebere zgodbo z glasom mrtvega starša.
- Ista ideja kot globoki ponaredki, ki se uporabljajo le za moč dobrega.
Najnovejši trik Amazon Alexa je, da se nauči oponašati glas mrtve ljubljene osebe, da lahko govori z vami iz onkraj groba.
Alexa potrebuje samo minuto govorjenega zvoka, da prepričljivo oponaša glas. Amazon jo obravnava kot tolažilno funkcijo, ki vas lahko spravi v stik z ljubljenimi, lahko pa je tudi precej grozljiva izkušnja. In kaže, kako preprosto je ustvariti globok lažen zvok, ki je dovolj dober, da nas zavede, tudi če je glas tisti, ki ga zelo dobro poznamo.
"Amazon je zagotovo vstopil na precej edinstveno in bizarno ozemlje s svojo napovedjo, da se bo Alexa kmalu lahko naučila in kmalu uporabljala glas mrtvih sorodnikov," je povedal Bill Mann, strokovnjak za zasebnost pri Restore Privacy. Lifewire po e-pošti. "Za nekatere ljudi to sploh ni grozljivo. Pravzaprav je lahko precej ganljivo."
Duh v stroju
Kot del svoje letne konference re:MARS, Amazon pokaže funkcijo v kratkem videu. V njem otrok vpraša Alexa, če mu lahko babica še naprej bere "Čarovnika iz Oza", najljubše javno dostopno javno dostopno delo vsakega otroka. In to je zelo ganljiv trenutek. Težko je ne čutiti človeških čustev, ko babica začne brati.
"Ljudje se borimo s smrtnostjo, zlasti v zahodni kulturi. Stoletja smo poskušali najti načine, kako obeležiti spomin na mrtve, od posmrtnih mask, do pramenov las, do starih fotografij, do gledanja starih filmov, " Andrew Selepak, profesor družbenih medijev na Univerzi na Floridi, je za Lifewire po elektronski pošti povedal. "Deepfakes uporabljajo najnovejšo tehnologijo, da ustvarijo novo posmrtno masko pokojne ljubljene osebe. Toda, odvisno od posameznikove perspektive, ali je to grozljivo ali način, da obeležite in obdržite nekoga, ki ga imate radi, potem ko umre?"
Toda memento mori je lahko hkrati tolažilen in srhljiv. Prijatelj družinskega člana je mrtev, vendar ga še vedno slišite govoriti. Nič ne pomaga, da ima Alexa zgodovino čudnega in včasih grozljivega vedenja. Leta 2018, ko se je mnenjski kolumnist NYT Farhad Manjoo spravil v posteljo, je njegov Amazon Echo "začel jokati, kot otrok, ki kriči v sanjah iz grozljivke."
Kmalu zatem je Amazon priznal, da se je Alexa včasih smejala na glas, kar je skupaj z najstniki in kletmi grozljivka 101.
Lahko se samo vprašamo, kako bi se počutili, če bi Alexa izvajala iste trike z babičinim glasom.
Deep Fake
Očitna lahkota, s katero se Alexa nauči oponašati glas, nas pripelje do bolj zlobnih uporab kloniranja glasu: globokih ponaredkov.
"Deepfake zvok ni nov, čeprav je malo razumljen in malo poznan. Tehnologija je že leta na voljo za poustvarjanje posameznikovega glasu z umetno inteligenco in globokim učenjem z relativno malo dejanskega zvoka osebe, " pravi Selepak. "Takšna tehnologija je lahko tudi nevarna in uničujoča. Moten posameznik bi lahko poustvaril glas mrtvega bivšega fanta ali dekleta in uporabil nov zvok, da bi rekel sovražne in žaljive stvari."
To je samo v kontekstu Alexa. Globoko ponarejen zvok bi lahko presegel to in ljudi prepričal, da na primer vidni politiki verjamejo v stvari, ki jim ne. Toda po drugi strani, bolj ko se bomo navajali na te globoke ponaredke – morda v obliki teh glasov Alexa –, bolj bomo skeptični do bolj nečednih ponaredkov. In spet, glede na to, kako enostavno je širiti laži na Facebooku, morda ne.
Amazon ni povedal, ali bo ta funkcija na voljo v Alexa ali pa je le tehnološka predstavitev. Nekako upam, da bo. Tehnologija je najboljša, ko se uporablja na takšen humanističen način, in čeprav je lahka reakcija reči, da je grozljiva, kot pravi Selepak, se v resnici ne razlikuje toliko od gledanja starih videoposnetkov ali poslušanja shranjenih glasovnih sporočil, kot lik v televizijski oddaji z lenim scenarijem.
In če je tehnologija za globoke ponaredke na voljo, zakaj je ne bi uporabili za tolažbo?
