Een studie toont aan dat maar liefst 1 op de 8 Amerikaanse volwassenen ofwel het slachtoffer wordt van wraakporno of van de dreiging van wraakporno. Een groot probleem dat enorm is gegroeid met de komst van kunstmatige intelligentie, dat het kinderlijk eenvoudig maakt om dit soort beelden te maken. Wraakporno richt bovendien de meeste schade aan in de eerste 48 uur. Dat is problematisch, want zo snel kun je het vaak niet offline laten halen.
Het onderzoek toont aan hoe groot wraakporno is en hoe problematisch. De onderzoekers lieten twee accounts maken op X die beiden AI-gegenereerde pornocontent maakten waarin witte vrouwen van in de 20 naakt werden getoond vanaf hun middel, inclusief hun gezicht. Van de 50 nepafbeeldingen die werden geplaatst, werd de helft gerapporteerd via X zelf en de andere helft via DMCA.
Social medium X verdient weer niet de schoonheidsprijs. In de Verenigde Staten heb je iets dat DMCA heet: hiermee kun je content die niet oke is laten verwijderen via een andere organisatie. Dit is bij X zelfs verplicht, zo blijkt, want als je het X-eigen platform voor het vlaggen van content gebruikt, dan wordt daar minder snel iets mee gedaan dan wanneer het via de Digital Millennium Copyright Act wordt gespeeld.
De DMCA zorgde dat alle 25 beelden binnen 25 uur offline waren, inclusief een tijdelijke ban voor het account dat het verspreidde. De beelden die via X werden gerapporteerd? Die zouden nu nog steeds op het platform staan, terwijl X drie weken had om te reageren. Kortom, je content blijft gewoon online staan als slachtoffer. We zijn erg benieuwd wat er gebeurd in Europa, waar geen DMCA bestaat, maar we vrezen het ergste. Overigens hebben platforms ook geen juridische grond waarop ze verplicht zijn om dit soort content te verwijderen.
De onderzoekers stellen dat het goed zou zijn als er beter op gemodereerd wordt. Helaas is moderatie duur. Zoals recent al bij Snap aan het licht kwam, zou het bedrijf zoveel geld kwijt zijn als het echt goed zou modereren, bijvoorbeeld op sextortion, dat het er bewust voor koos het niet te doen. Het lomp omgaan met dit soort seksproblematiek door sociale media toont aan dat het dus niet alleen bij X ligt, maar een veel breder verspreid issue is. Maar, hoe groot het ook is, er moet zeker iets gebeuren om te zorgen dat het verspreiden stopt. Dat het gemaakt wordt, dat kun je niet tegenhouden, maar dat het zo snel mogelijk stopt zou een slachtoffer enorm helpen. En die slachtoffers zijn er veel, zo blijkt uit het onderzoek.
