De Autoriteit Persoonsgegevens was altijd van de verwerking van gegevens, maar hield daarbij tot recent niet of weinig rekening met de algoritmes die in bedrijven worden gebruikt. Echter zorgen die algoritmes er soms voor dat er op een bevooroordeelde manier naar gegevens (en mensen) wordt gekeken. Mede daardoor zal de AP zich nu wel ook op algoritmes concentreren.
Algoritmes worden onder andere gebruikt in sollicitatieprocedures om alvast een schifting te maken in kandidaten, maar ook gebruiken hypotheekverstrekkers ze om te helpen beoordelen of iemand een hypotheek kan worden verleend. Echter werd dat algoritme verder -behalve binnenshuis- nooit gecontroleerd. Bizar eigenlijk, want het is heel foutgevoelig. Dat heeft onder andere het grote, machtige en rijke Amazon ervaren. Zijn algoritme voor sollicitanten had op een gegeven moment geleerd om alle vrouwen per definitie niet door te laten. Oeps.
Algoritmes zitten overal in verweven. Ze bepalen bijvoorbeeld bij je online bestelling of je bij het plaatsen van je bestelling meteen moet betalen voor het pakje je kant op komt, of dat je gebruik mag maken van een dienst als Klarna om achteraf te betalen. Op zich is dat heel goed: zo wordt er gezorgd dat mensen met geldproblemen niet nog grotere schulden maken. En het zorgt bij solliciteren dat HR-mensen kunnen zorgen dat ze hun tijd aan andere zaken kunnen besteden.
Tegelijkertijd zijn die algoritmes vaak heel veel waard voor een bedrijf. Kijk naar social media: Instagram en TikTok geven niet zomaar hun algoritme bloot. Ze willen de concurrentie voorblijven en daarnaast willen ze niet dat mensen precies weten hoe ze de algoritmes kunnen bespelen. Kijk maar naar Google dat eens in de zoveel tijd zijn zoekmachine weer iets aanpast, zodat iedereen zijn site weer even goed door moet akkeren om te kijken of de site nog wel goed gevonden wordt door het algoritme.
Vestigen deze bedrijven zich in Nederland, dan zullen ze toch met de Autoriteit Persoonsgegevens te maken krijgen. Nederlandse bedrijven moeten hun algoritmes straks blootgeven aan de AP om zo goed in beeld te hebben hoe zo’n beslisboom in een algoritme in elkaar steekt en of dat wel eerlijk is. En of het wel nodig is: je moet wel een goede argumentatie hebben voor het inzetten van deze vorm van technologie.
AP-voorzitter Aleid Wolfsen zegt: “Transparantie over het gebruik van algoritmes is cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen.”
Hoewel het goed nieuws lijkt, doet het ook terugdenken aan de Toeslagenaffaire, of liever gezegd: Toeslagentragedie van de Belastingdienst. Dit is een schrijnend voorbeeld van hoe algoritmen het niet aan het goede eind kunnen hebben, wat enorm grote invloed heeft op mensen. De Belastingdienst wordt dan ook gezien als het eerste bedrijf dat door de AP op de bon werd geslingerd, voor 2,75 miljoen euro.
Het is spannend voor bedrijven die in house een algoritme hebben ontwikkeld en nu echt met de billen bloot moeten. Is het algoritme wel voldoende getest? Is er alles aan gedaan om discriminatie tegen te gaan? Hopelijk zet het idee van scherper toezicht bedrijven al meer aan het denken over discriminatie en fouten in algoritmen. Ze mogen dan veelal zelflerend zijn, het is uiteindelijk altijd de verantwoordelijkheid van mensen.
