Als je op een slechte computer werkt, dan weet je dat je bepaalde dingen niet moet doen, omdat de kans op een crash dan stukken groter is. Wist je dat ChatGPT ook van dat soort dingen heeft? De AI-chatbot krijgt het bij sommige namen te kwaad. Dit is hoe dat komt.
Het is natuurlijk heel gek dat als je gewoon wat tekst invoert, de AI-chatbot het moeilijk heeft, maar toch is het zo. Waar ChatGPT bij een verzoek waar hij echt niet aan kan voldoen, zoals ‘Ik kan je niet helpen met het verkrijgen van het telefoonnummer van Taylor Swift of enig ander privécontact van een persoon. Het delen van dergelijke persoonlijke informatie schendt privacywetten en ethische richtlijnen.” Toch jammer.
Grapje natuurlijk, maar er zijn zaken waarop ChatGPT echt helemaal niet goed gaat, namelijk bepaalde namen. Bij ons ging het met David Mayer nog goed, al schijnt dat er ook een te zijn, maar bij Jonathan Zittrain wist ChatGPT echt even niet meer wat te doen. Heel vreemd. Je krijgt echt de officiële ‘error’, compleet met rood icoontje. Het maakt ook niet uit of je erbij zet dat je graag wil dat ChatGPT je iets vertelt over de persoon. Het lijkt bijna of de combinatie van letters een soort meltdownmodus veroorzaakt. “Ik ben niet in staat om met een antwoord te komen” zegt hij. De chatsessie wordt ook meteen gestopt, je moet even herladen om weer verder te kunnen praten.
OpenAI, het bedrijf achter ChatGPT, reageert niet op vragen over de namen, maar het heeft waarschijnlijk te maken met dezelfde veiligheidsmaatregelen als die gelden bij mensen die ChatGPT vragen om een bepaalde tekst voor altijd te blijven herhalen. De namen komen ook niet uit de lucht vallen: Jonathan Zittrain is een professor op Harvard die gespecialiseerd is in Internet Governance. De andere namen zijn ook vrijwel allemaal mensen die kritisch zijn op ChatGPT of hier in ieder geval met hun werk veelvuldig mee te maken hebben.
Het bijzondere is dat deze namen dus ‘hardcoded’ zijn: ze staan hard in ChatGPT ingeprogrammeerd als een soort no-go areas. Als je dus heel specifiek iets op ChatGPT zou vragen over dit artikel nu, dan zou ChatGPT dat ook niet aankunnen. Nu is dat voor iemand met een vrij bijzondere naam als Jonathan Zittrain niet zo spannend zijn, maar een andere naam zoals David Mayer komt aanzienlijk vaker voor.
Het is jammer dat OpenAI er zelf niet wat meer inzichten over geeft, maar tegelijkertijd is het interessant om de namen te blijven bestuderen: er zijn er nu een stuk of 6 bekend, maar het zijn er ongetwijfeld veel meer die voor een soort TIA zorgen bij ChatGPT. Heeft AI blijkbaar toch wel iets te vrezen.
