TikTok was afgelopen weekend al in het nieuws omdat het honderden mensen in Maleisië ontsloeg, maar de ontslaggolf is nog niet voorbij. In Amsterdam komen 300 moderators op straat te staan. Het zou zijn omdat TikTok voor die taak nu kunstmatige intelligentie inzet.
Mensen die angst hebben voor AI dat banen overneemt, zullen zich nu in het gelijk voelen: TikTok ontslaat 300 moderators in Amsterdam. Het werk kan worden gedaan door kunstmatige intelligentie. Nu kun je dat zien als banen inpikken, maar tegelijkertijd is er veel gezegd en geschreven over hoe traumatisch het werk van moderators is: je bent immers de hele dag met het modereren van video’s en reacties bezig en die kunnen soms enorm schokkend zijn. Sowieso is het enorm negatief werk, want je bent veelvuldig met problematische content bezig.
Veel sociale media gebruiken kunstmatige intelligentie om te helpen bij het ontdekken van ongewenste content, maar het is nu voor het eerst dat zo groot wordt uitgemeten dat een social medium dat gebruikt. TikTok zegt er zelf overigens niets over, maar de populariteit van het platform kennende is het duidelijk dat het massa-ontslag, dat overigens al in september zou hebben plaatsgevonden, niet is omdat dat werk er niet meer is. Dat werk moet dus haast wel door AI worden opgevangen.
Het is sowieso een grote kostenpost, het inhuren van moderators. We schreven recent nog over Snapchat dat sextortion niet helemaal de baas kan omdat het zoveel zou kosten om moderators hiervoor in te zetten. AI kan natuurlijk leren herkennen of er naakt te zien is, of bepaalde taal wordt gebezigd, waardoor het inderdaad aannemelijk lijkt dat AI dat werk beter kan doen. Sociale media krijgen steeds meer druk van overheden om hun platforms veilig te houden en AI kan daarmee helpen.
In Maleisië werden 500 mensen ontslagen, in Amsterdam 300, en er zijn ongetwijfeld meer plekken op de wereld waar honderden moderators worden weggedaan. TikTok zegt dat het zijn wereldwijde bedrijfsmodel voor contentmoderatie wil versterken. Naast AI zouden er nog steeds menselijke moderators worden gebruikt. Op dit moment wordt 80 procent van de content die tegen de regels is al weggehaald door automatisering en het lijkt erop dat TikTok dat nog wat op wil krikken.
Het is alleen de vraag of AI echt alles kan doen wat een mens kan doen, wanneer het om modereren gaat: kan het immers bepaalde culturele invalshoeken begrijpen? Ziet het echt alles? Daarom zouden er nog steeds mensen nodig zijn, maar van die workforce lijkt straks steeds minder over te zijn.
