45PNBANNER22
Gefaciliteerd door Burgerrechtenvereniging Vrijbit

Computersystemen bepalen steeds vaker wat we zien, mogen & doen maar hoe leer je een computer wat ethiek is?

Nooit kwamen zoveel mensen uit zoveel wetenschapsgebieden samen om zich te buigen over eerlijke algoritmes, als twee weken geleden tijdens het Conference for Fairness, Accountability, and Transparency, dat in New York werd gehouden. Dat heeft alles te maken met de ernst van het probleem: we worden omringd door kunstmatige intelligentie, maar die systemen blijken vaak vooroordelen te hebben.

Algoritmes worden inmiddels overal ingezet. Banken berekenen of iemand een lening mag krijgen. Grote bedrijven laten een computersysteem de topkandidaten filteren uit een stapel sollicitaties. Op sociale media bepalen algoritmes welke producten je te zien krijgt, tegen welke prijs, en welk nieuws bovenaan je tijdlijn verschijnt. En in Nederland adviseert de computer sinds vorig jaar waar en wanneer de politie moet patrouilleren.

Dit werkt via machine learning: de computer leert uit eigen ervaring. Je geeft hem toegang tot data en hij ontwikkelt een kunstmatige intelligentie waarmee hij de benodigde voorspellingen kan doen. Dit klinkt betrouwbaar. De computer baseert zich immers op harde gegevens en is vrij van vooroordelen. Het gaat echter snel fout wanneer de data waarop het systeem zich baseert, zogenoemde biases bevatten, ofwel: gekleurd zijn. Dat kan komen door een slechte selectie van data, maar ook doordat vooroordelen die in de maatschappij leven, worden weerspiegeld in de gegevens waarmee de computer wordt gevoed. Dit zijn de algoritmes die wetenschappers nu proberen te corrigeren.

Maar zouden echt eerlijke algoritmes de wereld ook rechtvaardiger kunnen maken, door juist te corrigeren voor menselijke vooroordelen? Francien Dechesne in Leiden is hier sceptisch over. "Wel kunnen wiskundige modellen ons helpen zoeken naar oorzaken van onrechtvaardigheid."

Suresh Venkatasubramanian, professor aan de University of Utah. Venkatasubramanian is computerwetenschapper en wiskundige, en houdt zich al jaren bezig met het opsporen en corrigeren van discriminerende algoritmes. Hij deelt deze visie. "Algoritmes kunnen een lens zijn waardoor we naar de wereld kijken. Maar als we gaan voorspellen, moeten we ons samen afvragen wat we willen: het verleden reproduceren of verandering teweegbrengen."

Alles bij de bron; Trouw [Long-Read]