Edison heeft ooit eens gezegd: ‘Whatever the mind of man creates, should be controlled by man’s character’. Dat was al moeilijk genoeg in de tijd waarin hij leefde, maar hoe moet je dat doen als je de dingen niet langer zelf maakt, maar alles door robots en computers wordt gemaakt? Welkom in de wondere wereld van de kunstmatige intelligentie.

Slimme, zelflerende algoritmen leren beslissingen nemen, of patronen herkennen, door een grote hoeveelheid bestaande beslissingen of patronen te analyseren. Ze vormen een essentieel onderdeel van big data. Zonder grote hoeveelheden data leren dergelijke algoritmen niet (goed) genoeg. En zonder die algoritmen kan niemand wijs worden uit die grote berg aan data.

De voordelen van slimme algoritmen zijn overduidelijk. Ze maken het mogelijk om in grote hoeveelheden data patronen te vinden die we zelf nooit zouden zien en kunnen gebruikt worden om ons leven makkelijker te maken, om fraude op te sporen, de effectiviteit van medische behandelingen te bepalen, en om overheden en bedrijven efficiënter te maken.

De risico’s zijn ook evident. Of de beslissingen van die slimme algoritmen ook echt accuraat en eerlijker zijn hangt sterk af van het algoritme en de onderliggende data waarmee het algoritme getraind is. Er zijn helaas veel voorbeelden van slimme algoritmen die schrikbarend discriminerend en oneerlijk zijn. De vraag is dus: hoe houden we dit soort slimme algoritmen in het gareel?...

...De privacywetgeving beperkt de mate waarin geautomatiseerde beslissingen over ons genomen mogen worden. Maar op grond van die wetgeving bestaat er, helaas, geen recht op een onderbouwing of uitleg van de beslissing. Zelfs het recht om te weten op welke wijze zo’n beslissing tot stand komt — wat wel degelijk bestaat — wordt sterk beperkt door het recht van bedrijven om hun bedrijfsbelangen te beschermen... Maar gezien de belangen die op het spel staan, en de mogelijkheden die de techniek hier biedt, zou het goed zijn als hier nog eens goed naar gekeken wordt. Het vertrouwen van burgers staat op het spel.

Alles bij de bron; NetKwesties en de blog van de schrijver


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha