Juan López
ByteDance, populiara vaizdo įrašų dalijimosi platformos TikTok, motininė įmonė, patiria reikšmingus pokyčius savo turinio moderavimo strategijoje. Pranešimai rodo, kad organizacija neseniai panaikino apie 500 darbo vietų visame pasaulyje, daugiausia paveikdama savo veiklą Malaizijoje. Šis struktūrizavimas atitinka įmonės perėjimą prie dirbtinio intelekto (DI) pagrindu veikiančios moderavimo sistemos.
Turėdama daugiau nei 110 000 darbuotojų visame pasaulyje, ByteDance keičia požiūrį, kurdama didelį pasitikėjimą dirbtiniu intelektu. Pasak įmonės įžvalgų, DI dabar tvarko maždaug 80% turinio moderavimo užduočių, leidžiančių žmogaus moderatoriams imtis palaikančio vaidmens. Artimiausiais metais ByteDance įsipareigojo investuoti 2 milijardus dolerių į savo saugumo protokolų ir moderavimo standartų gerinimą.
Šis strateginis pasukimas vyksta tuo metu, kai ByteDance susiduria su sustiprėjusiu reguliavimo institucijų dėmesiu. Padidėjęs netinkamo socialinių medijų turinio ir dezinformacijos kiekis sukėlė susirūpinimą, skatindamas poreikį įdiegti tvirtesnę moderavimo strategiją.
Tuo tarpu JAV „Instagram“ vadovas pranešė apie problemas, susijusias su turinio moderavimo sistema, patikslindamas, kad žmogaus moderatoriai padarė klaidų, kartu su techninėmis problemomis, kurios lėmė neteisingą vartotojų sąskaitų užrakintą. Daug vartotojų, ypač tų, kurie yra jaunesni nei 13 metų, susidūrė su apribojimais, pabrėždami nuolatines problemas, susijusias su amžiaus nustatymo procesais.
Pokalbių subtilybės abiejose įmonėse atspindi platesnius iššūkius efektyviai valdant vartotojų sugeneruotą turinį. Pasikeitus technologijoms, įmonės pervertina savo strategijas, kad prisitaikytų prie nuolat besikeičiančių skaitmeninių kraštovaizdžių.
ByteDance keičia dėmesį į DI moderavimą, dėl to mažina darbo vietas
Reikšmingame žingsnyje link technologinio pažangos ByteDance, Kinijos firmos, valdančios TikTok, motininė kompanija, perorientuoja savo moderavimo strategijas, sutelkdama dėmesį į dirbtinį intelektą. Dėl to buvo panaikinta apie 500 darbo vietų, ypač Malaizijoje, kas kelia klausimų apie automatizacijos poveikį darbo saugumui technologijų įmonėse.
Esminiai klausimai ir atsakymai
1. Kodėl ByteDance pereina prie DI moderavimo?
– ByteDance siekia pagerinti efektyvumą ir tikslumą turinio moderavime. Naudodama DI, įmonė gali sumažinti vartotojų sugeneruoto turinio ir dezinformacijos sprendimo laiką, reaguodama į didėjantį reguliavimo spaudimą, siekiant saugesnių internetinių aplinkų.
2. Kokios pasekmės šios darbo vietų mažinimo procesas turi darbuotojams?
– Darbuotojų mažinimas kelia nerimą dėl darbo saugumo technologijų sektoriuje, pabrėždamas tendenciją, kai automatizacija gali pranokti žmogaus vaidmenis. Iš darbo išėjusiems darbuotojams gali kilti iššūkių, ieškant naujų pozicijų sparčiai besikeičiančioje skaitmeninėje darbo rinkoje.
3. Kaip vertinama DI moderavimo efektyvumas?
– Efektyvumas vertinamas remiantis vartotojų pasitenkinimo apklausomis, stebint klaidų rodiklius ir lyginant DI ir žmogaus moderavimo greitį, aptinkant netinkamą turinį.
Esminiai iššūkiai ir ginčai
Nepaisant DI privalumų, kyla didelių iššūkių. DI sistemos gali susidurti su subtilumų supratimu, kuris yra kritiškai svarbus moderuojant jautrų turinį. Tai gali lemti potencialų neteisingą turinio klasifikavimą, sukeliantį vartotojų frustraciją ir publicistines problemas ByteDance.
Be to, pasitikėjimas DI kelia etinių klausimų apie duomenų privatumą ir galimą šališkumą, įmontuotą DI algoritmuose, kurie gali netyčia sukelti nelygiavertį skirtingų vartotojų grupių vertinimą.
DI moderavimo privalumai
– Efektyvumas: DI gali greičiau analizuoti didelius duomenų kiekius nei žmogaus moderatoriai, leidžiant greičiau reaguoti į kenksmingą turinį.
– Konsistencija: DI sistemos gali išlaikyti nuoseklumą moderavimo sprendimuose, mažindamos žmogiškų klaidų arba šališkumo tikimybę.
– Kainų efektyvumas: Automatizuojant moderavimą galima žymiai sumažinti veiklos sąnaudas, leidžiant perkelti išteklius kitur.
DI moderavimo trūkumai
– Darbo vietų praradimas: Pasitikėjimas DI moderavimu kelia riziką daugeliui darbo vietų, ypač regionuose, kur įmonė mažina žmogiškuosius išteklius.
– Konteksto apribojimai: DI sunkiai perpranta kontekstą, dėl to gali būti neteisingai interpretuojamas turinys ir pasitaiko neteisingų teigiamų ar neigiamų sprendimų.
– Viešasis pasitikėjimas: Vartotojai gali nepasitikėti DI moderavimo sistemomis, jei dažnai patiria neteisingą traktavimą arba neteisingus moderavimo rezultatus.
Kai ByteDance stumia link šio DI pagrindu veikiančio moderavimo, tai atspindi didesnes tendencijas technologijų pramonėje, kur automatizacija dažnai laikoma ateitimi. Šis transformavimas žymi svarbų momentą ne tik ByteDance, bet ir tuo pačiu viduje socialinių medijų moderavimo ateities peizaže visame pasaulyje.
Norėdami sužinoti daugiau apie ByteDance naujoves ir DI iššūkius technologijose, apžiūrėkite šiuos šaltinius:
ByteDance oficiali svetainė
TikTok oficiali svetainė
TechCrunch
