Ključni izsledki
- ToxMod bostonskega podjetja Modulate trdi, da samodejno zazna in ukrepa proti motečemu govoru v realnem času.
- Namesto da bi bil omejen s preprostim jezikom, ToxMod uporablja strojno učenje za ugotavljanje nematerialnih elementov, kot so čustva, glasnost in ritem.
- ToxMod je trenutno zasnovan za uporabo s klepetalnicami v igri, vendar ni razloga, da ne bi prišel na vaš kanal Twitch.
Podjetje s sedežem v Bostonu uporablja strojno učenje, da ustvari prvo storitev glasovnega moderiranja na svetu, ki lahko razlikuje med tem, kar je rečeno, in tem, kar pomeni.
ToxMod je poskus rešitve paradoksa moderiranja katerega koli odprtega prostora na internetu; ni dovolj ljudi, da bi sledili povpraševanju, vendar algoritmi, filtri in sistem poročil ne razumejo odtenkov.
Z zbirko podatkov ToxMod lahko sledi dejavnikom v govoru igralcev, kot sta čustva in glasnost, kar mu pomaga razlikovati med trenutnim izpadom in vzorcem vedenja. Nedavno je bila napovedana kot dodatek k igri ameriškega nogometa 7v7 Gridiron, ki je trenutno v zgodnjem dostopu Steam.
»Vsi vedo, da so nadlegovanje, sovražni govor in toksičnost v glasovnem klepetu in igranju iger velik problem. To se splošno razume,« je dejal Carter Huffman, glavni tehnološki direktor in soustanovitelj Modulate, na Googlovem srečanju z Lifewire. »Lahko bi vzeli funkcije, ki smo jih pridobivali s to vrsto sistemov strojnega učenja, in jih združili v sistem, ki je upošteval vse to strokovno znanje, ki smo se ga učili od skupnosti."
Pozdravljeni naši novi roboti moderatorji
Modulate dela na ToxMod od lanske jeseni in ga je vključil kot eno od treh osrednjih storitev podjetja. Ponuja tudi VoiceWear, preobleko glasu, ki jo poganja strojno učenje, in VoiceVibe, storitev zbiranja, ki uporabnikom omogoča, da ugotovijo, o čem razpravljajo ljudje v njihovih skupnostih.
Ko se ToxMod izvaja v klepetu, ga je mogoče programirati prek skrbniške plošče Modulate za izvajanje različnih samodejnih dejanj, kot je izdajanje opozoril, utišanje igralcev ali individualno prilagajanje glasnosti.
Uporablja sistem triaže, kjer njegova lokalna instanca prva ukrepa, preden preveri s strežniki Modulate za potrditev. Potem se končno stopnjuje do točke, ko bi lahko zahtevalo človeško posredovanje. Z zaporednim izvajanjem vsakega preverjanja, ki ga Modulate imenuje "triažna vrata", ideja je, da ToxMod majhni skupini moderatorjev daje orodja, s katerimi lahko učinkovito moderira veliko večjo skupnost.
"Žalostna resnica je, da je vsakdo imel to izkušnjo, ko je poskušal uporabiti glasovni klepet na kateri koli platformi, na kateri si bil, in ugotovil, da je to, fant, slaba ideja," je dejal CEO Modulate Mike Pappas v video klic z Lifewire. "Moči vstopiti in reči: 'To ni Divji zahod. Obstajajo pravila.' Mislim, da je to res pomembno."
Razbijanje sistema
Seveda je drugo ali tretje vprašanje o ToxModu, kako ga zlomiti.
S številnimi sistemi samodejnega moderiranja, kot so algoritmi, ki upravljajo Twitter, jih je enostavno igrati proti osebam, ki jih ne marate. Preprosto množično prijavite svojo tarčo z nekaj lutkovnimi računi in zanesljivo bodo pojedli prepoved.
"Na osnovni ravni se ToxMod ni treba zanašati na ta dodatna poročila igralcev," je dejal Pappas. "Še vedno je sposoben ustvariti trdne ocene o tem, na katere prekrške moramo [biti] pozorni. Ni vam treba skrbeti za igralce, ki poskušajo igrati s sistemom, saj v resnici ni ničesar za igranje.
Vsi vedo, da so nadlegovanje, sovražni govor in strupenost v glasovnem klepetu in igranju ogromen problem.
"Vse, nad čimer imate kot igralec nadzor, je vaš lastni zvok," je nadaljeval Pappas. "Najslabša stvar, ki jo lahko naredite, je, da ste manj slabi od osebe, da vas ne označimo za slabega igralca, kar bi rekel, da je nekaj blizu uspeha misije."
Na splošno je torej ideja za ToxMod aktiven poskus reklamacije. Številni igralci so na tej točki doživeli neko obliko nadlegovanja s strani naključnih neznancev v odprtih glasovnih kanalih, od naključnih žalitev do aktivnih groženj. Posledično se igralci na splošno izogibajo glasovnemu klepetu in se raje odrečejo njegovemu udobju v zameno za svoj mir.
»Kar pričakujemo, da [slabi igralci preživijo] veliko manj časa v glasovnem klepetu, preden jih najdejo in odstranijo,« je dejal Pappas."To ima več kot le linearni učinek. Ko vsi vidijo glasovni klepet kot varnejši kraj, se je več dobrih igralcev pripravljenih vrniti k glasovnemu klepetu in ga poskusiti. Mislim, da se lahko vse vrti v pozitivno smer."
