Bij de toeslagenaffaire werden tienduizenden mensen onterecht bestempeld als fraudeur. Ambtenaren vertrouwden jarenlang op computermodellen die burgers geautomatiseerd beoordeelden. Sommige algoritmes blijken echter gevoelig voor etnisch profilering, wat discriminatie in de hand werkt.

Dat de overheid discriminerende algoritmes inzet, was begin dit jaar al de conclusie van de Algemene Rekenkamer. Die constateerde dat ambtenaren zich vaak achter computermodellen verschuilen en er te weinig op letten of de modellen discrimineren.

Tijdens het plenaire debat in de Tweede Kamer naar aanleiding van de ministerraadnotulen over deze affaire, kwamen GroenLinks en PvdA met een motie die oproept zo snel mogelijk te stoppen met de inzet van dergelijke discriminerende algoritmes en op die manier een einde te maken aan racisme door de overheid. Burgers mogen niet door de overheid met wantrouwen worden behandeld en er moet altijd oog zijn voor het voorkomen van schrijnende individuele effecten van wet- en regelgeving, schrijven ze.

De motie kon rekenen op een ruime meerderheid van de Tweede Kamer. 

Alles bij de bron; Computable


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha