Nederland behoort tot de wereldtop van misbruikers van ‘slimme’ technologie.

Het nieuwste voorbeeld is de zogeheten Top 400-lijst van de gemeente Amsterdam, waarop jongeren staan van wie de gemeente denkt dat zij in de toekomst zware criminelen kunnen worden.

Dit schandaal lijkt regelrecht uit de scifi-film Minority Report te komen. De gemeente Amsterdam experimenteert met ‘algoritmen’ (risicoclassificatiemodellen) om te bepalen wie er op deze zwarte lijst moeten komen. Jongeren die op de lijst belanden staan minimaal twee jaar onder toezicht van de politie, zelfs als zij nog geen strafbaar feit gepleegd hebben. Dit staat bekend als predictive policing en is pure kwakzalverij.

Het meest waardeloze van de in Amsterdam gebruikte risicoclassificatiemodellen is door de politie ontwikkeld en heet ProKid+. 

Hoe dubieus het gebruik van ProKid+ was, is te zien aan het feit dat ambtenaren het dringende advies kregen om in gesprekken met ouders van de geselecteerde jongeren te verzwijgen dat dit risicoclassificatiemodel de reden was dat hun kind als toekomstige zware crimineel gezien werd. ProKid+ is overigens niet meer gebruikt voor de Top 400. 

Als echte kwakzalvers hebben de politie en de gemeente Amsterdam het onmogelijk voor zichzelf gemaakt om deze fout te zien. Als een Top 400-jongere geen misdrijf pleegt, dan claimen ze dat hun aanpak succesvol is. En als die dat wel doet, claimen ze dat hun voorspelling goed was.

In plaats van een permanent eind te maken aan deze predictive policing gaat de politie dan ook doodleuk verder met ProKid+. In 2023 starten er in Oost-Nederland twee nieuwe proeven mee. Wie beschermt de jeugd tegen dit onethische geëxperimenteer?

Alles bij de bron; Trouw [thnx-2-Niek]



Schrijf je in op onze wekelijkse nieuwsbrief!