Ključni izsledki
- Algoritmi umetne inteligence in strojnega učenja opazujejo človeško vedenje in se lahko naučijo manipulirati z njim, pravijo strokovnjaki.
- Raziskovalci so nedavno ustvarili način za iskanje in izkoriščanje ranljivosti v načinih, kako se ljudje odločajo z uporabo umetne inteligence.
- Najbolj izpopolnjen algoritem družbenih medijev je trenutno TikTok, pravi en opazovalec.
Strokovnjaki pravijo, da se umetna inteligenca (AI) in algoritmi strojnega učenja vedno bolj učijo, kako vplivati na vedenje uporabnikov.
Raziskovalci pri avstralski nacionalni znanstveni agenciji so nedavno ustvarili način za iskanje in izkoriščanje ranljivosti v načinih, kako se ljudje odločajo z uporabo umetne inteligence. Najnovejša raziskava je le ena v valu sistemov, ki jih poganja umetna inteligenca in so zasnovani za manipulacijo človekovega odločanja.
"Številnim načinom, na katere umetna inteligenca že vpliva na vedenje, ni konca," Kentaro Toyama, profesor na informacijski fakulteti Univerze v Michiganu in avtor knjige Geek Heresy: Rescuing Social Change from Cult of Technology, je dejal v intervjuju po elektronski pošti.
"Pravzaprav, če ste kdaj iskali v Googlu in spremljali povezavo, je na vas vplival sistem umetne inteligence, ki je uganil vaša zanimanja in vrnil rezultate, za katere je mislil, da so najbolj ustrezni za vas."
AI proti ljudem
V avstralski raziskavi, objavljeni v nedavnem članku, so človeški udeleženci v različnih poskusih igrali igre proti računalniku. V prvem poskusu so udeleženci kliknili rdeče ali modro obarvana polja, da bi osvojili denar.
Umetna inteligenca je bila uspešna približno 70 % časa, saj se je naučila udeleženčevih vzorcev izbire in jih vodila k določeni izbiri.
V drugem poskusu so udeleženci opazovali zaslon in pritisnili gumb, ko se jim je pokazal določen simbol, ali pa ga niso pritisnili, ko je bil ponujen drug. Umetna inteligenca se je naučila preurediti simbole, zato so udeleženci naredili več napak.
Raziskovalci so ugotovili, da se je rezultat poskusov umetna inteligenca učila iz odgovorov udeležencev. Stroj je nato identificiral in ciljal na ranljivosti pri odločanju ljudi. Dejansko bi lahko umetna inteligenca manipulirala udeležence v določena dejanja.
Dejstvo, da lahko umetna inteligenca ali strojno učenje manipulirata z ljudmi, ne bi smelo biti presenečenje, pravijo opazovalci.
»Umetna inteligenca vpliva na naše vedenje vsak dan,« je v intervjuju po elektronski pošti dejala Tamara Schwartz, docentka za kibernetsko varnost in poslovno administracijo na York College of Pennsylvania.
"Ves čas poslušamo o algoritmih v aplikacijah družbenih medijev, kot sta Facebook ali Twitter. Ti algoritmi usmerjajo našo pozornost na sorodno vsebino in ustvarjajo učinek 'odmevne komore', kar posledično vpliva na naše vedenje."
TikTok gleda
Najbolj izpopolnjen algoritem družbenih medijev je trenutno TikTok, je dejal Schwartz. Aplikacija analizira, kaj vas zanima, kako dolgo nekaj gledate in kako hitro nekaj preskočite, nato pa izboljša svoje ponudbe, da nadaljujete z gledanjem.
"TikTok povzroča veliko večjo odvisnost kot druge platforme zaradi tega algoritma umetne inteligence, ki razume, kaj vam je všeč, kako se učite in kako izbirate informacije," je dodala. "To vemo, ker je povprečni čas, ki ga uporabniki preživijo na TikToku, 52 minut."
Manipulacija človeškega vedenja s strani umetne inteligence bi lahko imela pozitivne učinke, je v intervjuju po elektronski pošti trdil Chris Nicholson, izvršni direktor podjetja AI Pathmind. Agencije za javno zdravje bi lahko na primer uporabile AI za spodbujanje ljudi k sprejemanju boljših odločitev.
"Vendar družbeni mediji, izdelovalci video iger, oglaševalci in avtoritarni režimi iščejo načine, kako ljudi spodbuditi k sprejemanju odločitev, ki niso v njihovem interesu, in to jim bo dalo nova orodja za to," je dodal.
Etična vprašanja pri umetni inteligenci, ki vpliva na vedenje, so pogosto višja, je dejal Toyama. AI omogoča osredotočeno oglaševanje, pri katerem je mogoče izkoristiti individualne preference in slabosti.
"Možno je, na primer, da sistem umetne inteligence prepozna ljudi, ki poskušajo opustiti kajenje, in jih zalije z mamljivimi oglasi za cigarete," je dodal.
Ne strinjajo se vsi, da je umetna inteligenca manipulacija človeškega vedenja problematična. Tako klasična psihologija kot umetna inteligenca opazujeta podatke, je v intervjuju po elektronski pošti poudaril Jason J. Corso, direktor Stevensovega inštituta za umetno inteligenco.
"Človeški znanstveniki so verjetno boljši pri posploševanju opazovanj in destiliranju teorij o človeškem vedenju, ki bi lahko bile širše uporabne, medtem ko bi bili modeli AI bolj primerni za prepoznavanje nians, specifičnih za problem," je dejal Corso.
"Z etičnega vidika ne vidim razlike med temi."
