Spoelstra Spreekt: Kunstmatige tunnelvorming
Volgens Amnesty International discrimineren de algoritmes van de Belastingdienst. De algoritmes zouden bij het afwijzen van de toeslagen etnisch hebben geprofileerd. Ik heb de algoritmes niet bekeken, maar ik denk dat ze gelijk hebben en dat de algoritmes hebben gediscrimineerd. Dat is namelijk het doel van een algoritme. Als je de vraag stelt ‘Zullen we gebruik maken van algoritmes?’, dan stel je eigenlijk de vraag ‘Zullen we gaan discrimineren?’. Het kan nu nog.
Een algoritme stimuleert bij dezelfde kenmerken om dezelfde vervolgstappen te nemen. Het algoritme gooit allemaal kenmerken op één hoop en koppelt daar voor die hele groep een gevolg aan. Of zoals ze dat in de Dikke van Dale noemen: discriminatie. Wat als de rechtbank ook gebruik gaat maken van algoritmes? Je bent dan niet meer schuldig tot het tegendeel is bewezen, je bent dan schuldig omdat degene die op jou lijkt ook schuldig is.
