Ključni izsledki
- Sistemi umetne inteligence, ki nadzorujejo dostavna vozila, nepravično kaznujejo voznike Amazona, trdi novo poročilo.
- Sistem Amazon je del naraščajočega trenda podjetij, ki uporabljajo tehnologijo za spremljanje svojih delodajalcev na daljavo.
-
Nekatera programska oprema AI omogoča delodajalcem, da nenehno spremljajo vedenje zaposlenih v ozadju in rišejo vzorce v njihovem delovnem procesu.
Delodajalci se vse pogosteje obračajo na programsko opremo za spremljanje zaposlenih na daljavo, kar vzbuja pomisleke pri nekaterih zagovornikih zasebnosti.
Novo poročilo trdi, da so kamere, ki jih poganja AI v Amazonovih dostavnih vozilih, nepravično kaznovale voznike. V članku je bilo ugotovljeno, da so vozniki trpeli zaradi napačnih opozoril, nepravilnih vozniških kazalnikov, nepraktičnih predpostavk o prometnih razmerah in voznikov, ki so sprejeli prakse za izogibanje tehnologiji.
»Medtem ko se umetna inteligenca izboljšuje, se bodo napake še vedno dogajale,« je v intervjuju za Lifewire po elektronski pošti povedal Raymond Ku, direktor Centra za pravo in politiko kibernetskega prostora na univerzi Case Western Reserve. "Pošteno povedano mislim, da vsi verjamemo, da bi moral biti nekdo, ki je kakor koli kaznovan zaradi odločanja z umetno inteligenco, seznanjen s tem dejstvom in mu dati priložnost, da izpodbija odločitev."
Amazonove AI kamere
Amazon je dejal, da je kot varnostni ukrep v svoja dostavna vozila namestil kamere, ki jih poganja AI. Kamere so namenjene spremljanju, ko vozniki dostave izvajajo nevarne manevre, kot je vožnja z znaki stop ali nedovoljeno polkrožno obračanje.
Ko kamere opazijo možne "dogodke" nevarne vožnje, ti primeri upoštevajo rezultate uspešnosti delavcev. Nižji rezultati zmanjšajo možnost, da vozniki prejmejo bonuse, dodatno plačilo in nagrade.
Toda vozniki Amazona so za Motherboard povedali, da so kaznovani zaradi nekaterih vozniških navad, ki se štejejo za varne ali izven njihovega nadzora. Amazon ni odgovoril na prošnjo družbe Lifewire za komentar.
Ku je poudaril, da glede na to, da so vozniki privolili v snemanje, po zakonu niso prizadeti zaradi vdora v zasebnost.
"Vendar to ne pomeni, da bi bil povprečen delavec zadovoljen z nadzorom ali ne bi nasprotoval, če bi lahko," je dodal. "To še posebej velja, ko začne nadzor posegati v bolj tradicionalne osebne prostore."
Poročilo odpira širša vprašanja o tem, ali je do podatkov mogoče dostopati in jih uporabljati v tožbah ali s strani policije in zveznih uradnikov, je v intervjuju po elektronski pošti za Lifewire povedala odvetnica za zasebnost podatkov Bethany A. Corbin. To bi lahko vplivalo tudi na odgovornost, je poudarila.
"Na primer, če tehnologija umetne inteligence pove zaposlenemu, naj ne gleda v stranska ogledala in ima zaposleni nesrečo kot neposredno posledico tega nasveta, kdo je kriv?" Corbin dodal.
Rastoči nadzor
Nadzor se ne konča z Amazonom. Vse več podjetij uporablja tehnologijo za opazovanje svojih zaposlenih na daljavo, je v intervjuju za Lifewire povedal strokovnjak za zasebnost Chris Hauk.
Na primer, podjetje za trženje umetne inteligence Blackbelt uporablja sistem za sledenje časa Allocate, ki podjetju omogoča samostojno spremljanje in sledenje računalniških aktivnosti zaposlenih. Microsoftova Workplace Analytics bo delodajalcem omogočila spremljanje časa, ki ga zaposleni preživi na spletnih mestih, pisanja e-pošte in drugega med delovnikom.
Walmart prav tako dela na sistemu, ki posluša zvok šelestenja vrečk ali piske iz blagajniških skenerjev, da bi sledil meritvam zaposlenih in zagotovil, da zaposleni opravljajo svoje naloge pravilno in učinkovito. Senzorji lahko celo prisluhnejo strankam, ko klepetajo v vrsti, in zaznajo, ali zaposleni stranke pravilno pozdravljajo ali ne.
Nadzor na delovnem mestu od začetka pandemije postaja vse bolj razširjen, je v intervjuju za Lifewire povedal strokovnjak za zasebnost Pankaj Srivastava.
"Večina te tehnologije je postavljena kot 'izboljšanje produktivnosti', vendar način delovanja nekaterih od teh orodij kaže na večjo toleranco delodajalcev, da spremljajo vsako dejavnost svoje delovne sile," je dodal. "Na primer spremljanje, koliko časa zaposleni porabijo za posamezno nalogo, snemanje fotografije na daljavo, s katero se zagotovi, da so zaposleni za svojo mizo, in celo spremljanje obiskanih spletnih mest ter snemanje potez tipkovnice in premikanja miške zaposlenega."
Medtem ko se umetna inteligenca izboljšuje, bodo še vedno prihajale do napak.
Nekatera programska oprema AI omogoča delodajalcem, da nenehno spremljajo vedenje zaposlenih v ozadju in rišejo vzorce v njihovem delovnem procesu, je dejal.
"Zaposlenega lahko odpustijo na podlagi njegovega prilagojenega poročila o uspešnosti, ki navaja, da je za dokončanje naloge potreboval nekaj minut več kot običajno," je dejal Srivastava.
"Adijo, odmori v kopalnici."
