Een beetje hulp van kunstmatige intelligentie (AI) kan het werk verlichten, dus gebruiken rijksambtenaren het ook. Uit onderzoek van de Algemene Rekenkamer blijkt dat zeventig ondervraagde overheidsorganisaties bij elkaar 433 AI-tools gebruiken of gebruikten. Op dit moment zijn 120 tools actief in gebruik.
Bij de helft van die AI-tools heeft vooraf geen risico-analyse plaatsgevonden voordat ze werden ingezet. De risico-analyses die wel plaatsvonden lopen bovendien qua inhoud erg uiteen. Ook is slechts 5 procent van de gebruikte AI-systemen terug te vinden in het hiervoor bedoelde algoritmeregister van de overheid.
Dat er risico’s kleven aan het gebruik van AI moge duidelijk zijn. De Rekenkamer waarschuwt onder andere voor privacyschending en slechte informatiebeveiliging.
Volgens de Rekenkamer is ongeveer twee derde van de gebruikte systemen gericht op interne processen, dingen die niet direct impact hebben op burgers en bedrijven. Bijvoorbeeld tools die gesprekken automatisch omzetten naar tekst of documenten in een handomdraai anonimiseren.
Maar binnen de overheid worden ook meer geavanceerde systemen gebruikt: tools die toeslagen regelen voor kwetsbare huishoudens, bijvoorbeeld. Of tools die mogelijke fraude kunnen opsporen.
Dat kan allemaal, maar bedenk vooraf goed welke imperfecties het systeem heeft, benadrukt hoogleraar Mykola Pechenizkiy van de TU Eindhoven die zich heeft gespecialiseerd in het ethisch gebruik van AI.
“Het is belangrijk om te beseffen dat kunstmatige intelligentie nooit honderd procent accuraat is. AI oversimplificeert, en het heeft nog altijd een probleem met vooroordelen. Dat zal ook nog jaren zo blijven. Deels is dat een technisch probleem, maar voor een groot deel ook een sociaal probleem. In de ‘echte wereld’ bestaat immers ook veel bias.”
Volgens Pechenizkiy zouden overheden een voortrekkersrol op zich moeten nemen en laten zien hoe AI ethisch gebruikt kan worden. “Daar kunnen branches waar AI veel potentie biedt, zoals de zorg en het onderwijs, dan weer van profiteren.”
Alles bij de bron; Trouw