In de Tweede Kamer zijn vragen aan demissionair minister Koolmees van Sociale Zaken gesteld over een algoritme dat de gemeente Nissewaard als hulpmiddel gebruikte voor het vaststellen van bijstandsfraude. Eerder deze maand besloot de gemeente te stoppen met het gebruik van het algoritme om de rechtmatigheid van bijstandsuitkeringen vast te stellen.

Uit onderzoek van TNO blijkt dat het algoritme, dat door Totta Data Lab werd ontwikkeld, in de huidige vorm van onvoldoende niveau is om verantwoord in te kunnen zetten. Zo is de auditeerbaarheid van het algoritme gebrekkig, waardoor niet goed kan worden gecontroleerd of het algoritme aan inhoudelijke en procedurele eisen voldoet. Verder is het niet mogelijk om de doeltreffendheid van het algoritme vanuit een technisch oogpunt voldoende te onderzoeken.

SP-Kamerlid Van Kent heeft Koolmees nu om opheldering gevraagd. "Bent u voornemens om te bewerkstelligen dat gemeenten en andere overheden die nog steeds met algoritmen van Totta Data Lab werken, hiermee stoppen?"

Ook moet de minister duidelijk maken of hij bereid is om het geautomatiseerd genereren van risicoprofielen voor de bestrijding van fraude bij alle gemeenten en overheden te stoppen. "Bent u het ermee eens dat het genereren van risicoprofielen van onverdachte burgers een werkwijze is die een grote inbreuk vormt op de grondrechten, en daarom eerst de rechtmatigheid van deze praktijk moet worden vastgesteld alvorens deze methode wordt ingezet?", vraagt Van Kent verder, die tevens wil weten wie er toezicht op het gebruik van algoritmen houdt en wie er ingrijpt wanneer het misgaat.

Alles bij de bron; Security


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha