Facebook meldt dat het deepfakes, zowel video’s als foto’s, op al zijn platformen gaat verbieden. Het bedrijf wil op deze manier manipulatie van media tegengaan.
Bij deepfakes wordt gebruik gemaakt van software en kunstmatige intelligentie om nepafbeeldingen- en video’s te maken die niet te onderscheiden zijn van de werkelijkheid. Vooral deepfake video’s komen steeds meer voor en worden vaak gebruikt om onder andere pornografische video’s met bekendheden, zoals Scarlett Johansson en Dionne Stax, te maken. Daarnaast worden de deepfakes vaak ingezet voor politieke doeleinden, door een politicus in een kwaad daglicht te stellen en daarmee hem of haar in diskrediet te brengen. Zo ging vorig jaar een video met Nancy Pelosi viral, waarin het leek alsof de partijleidster van de Democraten een dronken toespraak gaf. Uit onderzoek van The Washington Post bleek uiteindelijk dat het om een bewerkte video ging.
In eerste instantie waren deepfakes toegestaan op Facebook, mits ze gelabeld werden als ‘nep’. Toch kiest Facebook er nu voor om dit soort content helemaal te verbieden, omdat volgens het bedrijf deze video’s een uitdaging vormen voor de industrie en de maatschappij naarmate het aantal video’s stijgt. Bovendien is het volgens Facebook niet genoeg om de video’s als nep te bestempelen, omdat de video’s elders verspreid kunnen worden.
Facebook zal gemanipuleerde media verwijderen als het bewerkt is buiten wat beschouwd wordt als ‘normale’ aanpassingen, zoals de helderheid of het verbeteren van de kwaliteit. Ook wanneer een video is gemaakt met kunstmatige intelligentie en deze als authentiek wordt neergezet, zal deze worden verwijderd. Er zijn wel uitzonderingen op de nieuwe regels. Zo zijn video’s die bedoeld zijn als satire of parodie nog steeds toegestaan.
Een van de meest bekeken video’s is onderstaande video waarin de voormalig president van de Verenigde Staten een nogal wat opmerkelijke tekst heeft. Vanaf 0:36 zie je de werkelijkheid. Bedenk bij het kijken dat deze technologie vandaag inmiddels als weer 1.5 jaar verder is doorontwikkeld.
Naast de nieuwe regels onderneemt Facebook ook andere stappen om desinformatie door deepfakes tegen te gaan. Zo werkt het samen met internationale nieuwsdienst Reuters om nieuwsredacties te helpen in het identificeren van deepfakes en gemanipuleerde media, door middel van een gratis online cursus.
Facebook is niet het enige social mediabedrijf dat stappen onderneemt om deepfakes te beperken. Naarmate de Amerikaanse presidentsverkiezingen van 2020 dichterbij komen ondernemen meer bedrijven stappen. Zo liet Twitter in oktober weten dat het op basis van feedback van gebruikers maatregelen wil nemen. Een specifiek beleid is nog niet bekendgemaakt.
