Ključni izsledki
- Strokovnjaki za zasebnost izražajo pomisleke glede uporabe javnih Instagram fotografij s strani Facebooka za urjenje umetne inteligence.
- Program so naučili prepoznavati slike tako, da je računalniku prikazal več kot milijardo javnih fotografij.
- Instagramov pravilnik o zasebnosti vključuje razdelek, ki uporabnikom sporoča, da se informacije lahko uporabljajo v raziskavah in razvoju.
Facebookova uporaba Instagram fotografij za urjenje umetne inteligence vzbuja pomisleke glede zasebnosti.
Velikan družbenih medijev je nedavno objavil, da je zgradil programsko opremo, ki se lahko uči iz tega, kar gleda. Program so naučili prepoznavati slike s pregledovanjem več kot 1 milijarde javnih fotografij. Strokovnjaki pravijo, da se morajo uporabniki zavedati, da Facebook uporablja njihove slike.
"Gre za poznavanje soglasja," je v intervjuju po elektronski pošti dejal James E. Lee, glavni operativni direktor Identity Theft Resource Center.
"Instagramov pravilnik o zasebnosti – ki ga večina ljudi verjetno ne bere – zelo jasno navaja, da si podjetje pridržuje pravico do uporabe fotografij, ki jih objavite, za raziskovanje. Uporabniki lahko vklopijo/izklopijo prepoznavanje obraza v svojih nastavitvah zasebnosti."
Boljši od ostalih
Facebookov program z vzdevkom SEER za SAMOnadzorovan je premagal druge modele umetne inteligence (AI) v testu prepoznavanja objektov, so trdili v podjetju. Program je dosegel "rezultat točnosti klasifikacije" 84.2 %, ko je bil podvržen preizkusu, ki preverja, ali lahko program AI prepozna, kaj je na sliki.
"Uspešnost SEER-ja dokazuje, da lahko samonadzorovano učenje blesti pri nalogah računalniškega vida v resničnih okoljih," je družba zapisala v objavi na blogu.
"To je preboj, ki končno čisti pot za bolj prožne, natančne in prilagodljive modele računalniškega vida v prihodnosti."
Čeprav Facebookovi pogoji in določila morda dovoljujejo uporabo uporabniških podatkov na tak način, se večina uporabnikov izrecno in aktivno ne zaveda, da se njihovi podatki rudarijo v takšne namene.
Če bi ga lansirali v komercialne namene, bi SEER pomagal identificirati predmete - ne ljudi - ne da bi bil programiran, da prek oznake ve, kaj je na fotografiji, je dejal Lee. "To je učinkovitejši in hitrejši način od trenutne metode, ki zahteva ogromne nabore podatkov, da se objekt ujema z njegovo identiteto," je dodal.
"Vedno obstaja možnost zlorabe, vendar obstajajo tudi legitimne potencialne koristi te vrste tehnologije."
Facebookov program bi lahko pomagal podjetju izboljšati nadzor nad vsebino, ki krši njegove pravilnike, na primer z omejevanjem neželene izpostavljenosti nespodobnim ali nazornim slikam, je v intervjuju po elektronski pošti povedala Aimee O’Driscoll, varnostna raziskovalka na spletnem mestu za zasebnost Comparitech. Uporablja se lahko tudi za samodejno opisovanje slik, kar izboljša uporabniško izkušnjo za ljudi z okvarami vida.
S tem programom ste se že strinjali
Instagramov pravilnik o zasebnosti vključuje razdelek, ki uporabnikom sporoča, da se informacije lahko uporabljajo v raziskavah in razvoju. "Podjetje uporablja svojo zakladnico podatkov za drug del svojega poslovanja, podobno kot uporablja podatke uporabnikov za oskrbo svojega oglaševalskega posla," je dejal O'Driscoll.
"Kljub temu se lahko uporabniki še vedno počutijo neprijetno, če se njihove slike uporabljajo na ta način."
Yashar Behzadi, izvršni direktor Synthesis AI, podjetja, ki uporablja umetno inteligenco za računalniški vid, je dejal, da zadnji Facebookov napredek umetne inteligence predstavlja "pomembno izboljšavo" zmogljivosti računalniškega vida.
"Uporabniki lahko verjetno pričakujejo boljše označevanje slik in kontekstualno iskanje, medtem ko bodo oglaševalci imeli koristi od natančnejšega ciljanja na uporabnike," je dodal.
Toda Facebookov pristop, ki izkorišča milijarde slik na Instagramu, vzbuja resne pomisleke glede zasebnosti in regulative, je dejal Behzadi.
»Čeprav lahko določila in pogoji družbe Facebook dovoljujejo uporabo uporabniških podatkov na tak način, se večina uporabnikov izrecno in aktivno ne zaveda, da se njihovi podatki rudarijo za takšne namene,« je dejal.
"Menimo, da bi morala biti podjetja bolj odkrita in pregledna z uporabniki ter jim omogočiti popoln nadzor nad njihovimi podatki."
Številna druga podjetja so uporabila umetno inteligenco za prepoznavanje vsebine slike, je v intervjuju po elektronski pošti poudaril Bobby Gill, izvršni direktor razvijalca aplikacij Blue Label Labs. "Vendar pa je zaskrbljujoče dejstvo, da se bo to skoraj zagotovo uporabljalo za trženje," je dodal.
Nov program bi lahko sprožil morebitne pomisleke glede zasebnosti, odvisno od tega, kako Facebook namerava uporabljati sistem, je dejal Gill.
"Ti podatki bi bili verjetno dostopni tehničnim tržnikom, ki bi jih uporabili za prepoznavanje določenih trendov na podlagi različnih elementov, prepoznanih na sliki," je dejal.
"Možnost pridobivanja informacij iz slik, ki jih ljudje objavljajo, na primer dodaja še eno razsežnost asociativnim sistemom, ki na splošno uporabljajo vedenje za profiliranje in ciljanje posameznikov. Morda bi ugotovili, da kdorkoli z, recimo, žabami v 3- 7 % njihovih slik je zelo verjetno, da bodo kupili domačo fitnes opremo."
