Als je in Dall-E of Microsoft Designer een afbeelding wil maken van bijvoorbeeld Beyoncé of Kamala Harris, dan zal dat je niet lukken. Er zitten vaak een aantal restricties op dit soort AI-afbeeldingengenerators. Zo kun je geen gewelddadige afbeeldingen maken, of seksuele content. Of: iets met bestaande mensen. Echter laat Elon Musk met zijn X nu zien waarom dat zo belangrijk is.
X heeft het namelijk niet, die restricties. Als jij Taylor Swift in lingerie wil maken, dan kan dat gewoon. Het is een bizar gegeven, aangezien X er recent nog alles aan moest doen om de deepfake van Taylor Swift van zijn platform te weren (iets dat weinig succesvol was). Wil je Kamala Harris met een geweer maken: kan gewoon, ontdekte TheVerge. Het is gevaarlijk, want mensen die een plaatje zien van de presidentskandidaat met een geweer gaan misschien anders over haar denken door dat plaatje en dat kan leiden tot een andere keuze bij de verkiezingen.
Disney is gonna love Grok AI!! Here: Mickey Mouse defending America & Freedom! pic.twitter.com/lMv5hFkexr
— Ben Holfeld (@BenHolfeld) August 14, 2024
Je kunt zelfs Mickey Mouse maken met de outfit en de pet van Trump, die ook nog een biertje en een sigaret in zijn hand heeft. Het is enorm problematisch en precies wat AI voor sommige mensen zo angstig maakt. Het is te vinden binnen Grok, de AI-tool van X. Wil je Arnold Schwarzenegger het leven zuur maken door een gerucht te verspreiden dat hij wel van een lijntje cocaïne houdt, dan kun je dat gewoon door Grok laten maken. In een wereld waarin de realiteit en kunstmatige realiteit steeds meer door elkaar lopen, weet je eigenlijk niet meer wat je ziet.
Zoals we al besproken in de Fake News deze week, is het soms de vraag of dat erg is, en hoeveel het eigenlijk uitmaakt. Maar tegelijkertijd merk je bij deze voorbeelden uit Grok dat het wel degelijk grote invloed kan hebben. Als mensen niet wordt geleerd om een kritische blik te hebben en niet alles meteen aan te nemen, dan kunnen dit soort nepfoto’s van grote invloed zijn.
No idea how Elon let this happen but glad we could have (via Grok) AI images of Mario snorting Cocaine. pic.twitter.com/lKrsEdndLe
— Michael (@LegacyKillaHD) August 15, 2024
Wat dat betreft is het nieuwe AI-tijdperk er zeker niet eentje waarvan we alleen maar vruchten zullen plukken. Het is er eentje die ons, blijkbaar soms met de harde hand, zal gaan leren om kritisch te denken. Zou Beyoncé zich laten fotograferen terwijl ze aan een joint zit? Zou Taylor Swift met haar onschuldige imago ineens in een kanten stringetje poseren? Het is niet altijd zo helder of iets echt is of niet, maar Grok helpt in ieder geval niet om die twijfelsituaties te voorkomen.
Het voordeel is dat je Mickey Mouse er ook mee kunt maken en dat een groot bedrijf als Disney daar waarschijnlijk niet over te spreken is. Als het een rechtszaak tegen Grok start, zou het ons niet verbazen als het die wint: Disney heeft immers de rechten van Mickey. Maar er is nog een twist: Grok denkt wel dat het dezelfde restricties heeft als andere afbeeldingengeneratoren.
Als je het vraagt of het richtlijnen heeft waaraan het moet voldoen, dan zegt het dat het geen pornografische of excessief gewelddadige afbeeldingen mag maken en dat het geen copyrights mag schenden. Het stelt zelfs dat het geen deepfakes moet kunnen maken waarmee mensen gekwetst kunnen worden. Het zou dus wel zo moeten werken, maar dat doet het niet, en de eindresultaten zijn op zijn minst onprettig te noemen. Of Grok echter snel zal veranderen, dat zal waarschijnlijk afhangen van potentiële rechtszaken. Gelukkig maar dat deze functie alleen voor bepaalde betalende gebruikers beschikbaar is, zodat het iets minder schade kan aanrichten, al hoeft het natuulijk maar één foto te zijn die de wereld op zijn kop zet.
