Ključni izsledki
- Podjetja uporabljajo umetno inteligenco za nadzor svojih zaposlenih.
- Amazon je v začetku tega leta v svoja dostavna vozila namestil kamere, ki jih poganja strojno učenje.
- Nadzor z umetno inteligenco lahko povzroči težave z zasebnostjo in varnostjo, če ga uporabljajo brezvestna podjetja.
Delodajalci vse pogosteje sledijo svojim delavcem z uporabo umetne inteligence in opazovalci pravijo, da ta praksa vzbuja pomisleke glede zasebnosti.
Amazon je v začetku tega leta v svoja dostavna vozila namestil kamere, ki jih poganja strojno učenje. Podjetje je nedavno povedalo svojim voznikom, da se morajo strinjati z njihovo uporabo. Praksa nadzora na delovnem mestu je morda zakonita, vendar se vsi ne strinjajo, da je etična.
»Podjetja že desetletja uporabljajo orodja za spremljanje zaposlenih, vendar z napredovanjem tehnologije postajajo vse bolj invazivna,« je v intervjuju po elektronski pošti povedala Aimee O'Driscoll, varnostna raziskovalka na spletni strani za primerjavo tehnologij Comparitech.
"Večino nadzora nad zaposlenimi bi lahko obravnavali kot vdor v zasebnost in lahko bi trdili, da se to, kar počne Amazon, ne razlikuje veliko od kamere CCTV v pisarni."
Bodite opazovani ali odpuščeni
Amazonovih približno 75.000 voznikov dostave v ZDA mora zdaj podpisati obrazec za "biometrično soglasje". Obrazec za dovoljenje omogoča kameram, ki jih poganja AI, spremljanje voznikove lokacije, gibanja in biometričnih podatkov. Zaposleni, ki ne podpišejo dokumenta, so lahko odpuščeni.
Nadzor z umetno inteligenco sledi vsemu, kar počnejo gonilniki Amazona, in posega v domnevno zasebnost subjekta, je v intervjuju po elektronski pošti dejal Chris Hauk, raziskovalec zasebnosti na spletnem mestu za zasebnost Pixel Privacy.
"To vključuje snemanje vsakič, ko subjekt zazeha ali se opraska po občutljivem predelu," je dodal. "Voznik ima vsaj malo pravice do videza zasebnosti v svojem vozilu."
Nadzor zaposlenih z umetno inteligenco je vse večja težava. Walmart je patentiral tehnologijo umetne inteligence, ki omogoča poslušanje interakcije zaposlenih s strankami na blagajnah, je poudaril O'Driscoll.
Razvijalec programske opreme Enable ponuja orodja za produktivnost, ki temeljijo na programski opremi AI. Različna podjetja, vključno z Macy's, uporabljajo Microsoftov analitični sistem, ki lahko spremlja vedenje zaposlenih. Domino je uporabil tehnologijo umetne inteligence za preverjanje, ali so pice pravilno narejene.
»Ena od glavnih težav je, da lahko pomanjkanje zasebnosti, kadar se uporablja na napačen način, povzroči varnostne težave,« je dejal O’Driscoll.
"Nadzorni podatki bi lahko končali v rokah kriminalcev ali pa bi slabi akterji sami uporabili nadzor AI za ciljanje žrtev."
Biometrično skeniranje obraza povzroči matematično predstavitev obraza posameznika, na katerega se nanašajo osebni podatki, ki ga je mogoče uporabiti za identifikacijo in sledenje kjer koli do konca njegovega življenja, je dejal Ray Walsh, strokovnjak za zasebnost na spletnem mestu ProPrivacy. intervju po elektronski pošti.
"To povzroča resna tveganja glede zasebnosti in varnosti za gonilnike Amazon, katerih podatki bi lahko bili vdreti, uhajali ali jih morda celo izkoristili vladni vohljači z nalogom," je dodal.
Ker je tehnologija umetne inteligence relativno nova, ni konkretnih smernic glede njene uporabe v zvezi z zasebnostjo, je dejal O'Driscoll. "Ne glede na to bo varnost verjetno vedno legitimen izgovor za vdor v zasebnost, zato je Amazon zajet v svojih trenutnih namerah," je dodala.
Čeprav imajo zaposleni pravico odpovedati ali soglašati s predlaganim spremljanjem z umetno inteligenco, to počnejo ob ogromnem neravnovesju moči, O'Driscoll je dejal, da je treba nadzor AI urediti. "V idealnem primeru bi morala imeti podjetja legitimne razloge (kot je varnost) za nadzor z umetno inteligenco," je dodala.
Nekatere države so sprejele zakone, ki omejujejo in urejajo uporabo nadzora na delovnem mestu, vendar zvezna zakonodaja manjka, je poudaril Walsh.
Leta 2019 je bil zakon o algoritemski odgovornosti predstavljen v predstavniškem domu in senatu, vendar je bil na koncu zavrnjen. Podoben zakon bo morda uveden letos in "upamo, da bosta kongres pod vodstvom demokratov in Bela hiša izboljšala njegove možnosti za sprejem," je dejal Walsh.
Ne pričakujte zasebnosti na delovnem mestu
Ne mislijo vsi, da je Amazonov nadzor nad gonilniki vdor v zasebnost.
"Mislim, da je težko trditi, da zaposleni razumno pričakuje zasebnost v vozilu, ki je v lasti podjetja, " je dejal Will Griffin, vodja etike podjetja AI Hypergiant, v intervjuju po elektronski pošti.
"Večja skrb je, da bodo v nekaj kratkih letih vse te voznike nadomestila avtonomna vozila. Zato bo vsaka razprava o politiki voznikov postala sporna točka, ko bo vozni park popolnoma avtonomen."
Primer Amazon poudarja potrebo po sindikalnem ali ciljnem zveznem posredovanju kot načinu za ponovno vzpostavitev ravnotežja moči med Amazonovimi delavci in podjetjem, je dejal Griffin.
"Čeprav imajo zaposleni pravico odpovedati ali soglašati s predlaganim spremljanjem AI, to počnejo ob ogromnem neravnovesju moči," je dodal.
