Onlangs riep het College voor de Rechten van de Mens burgers op om het te melden als zij last hebben van discriminerende algoritmes. Een goede maar praktisch zeer ingewikkelde oproep om gehoor aan te geven. Discriminatie in algoritmes is subtiel en op een paar duidelijke uitzonderingen na alleen vast te stellen aan de hand van meer data over het systeem. Dit schrijft Joris Krijger, Ethics en AI Officer, De Volksbank, in onderstaande blog.
De aansporing vanuit het College ligt in het verlengde van het proces rond de mogelijk discriminerende gezichtsherkenningssoftware die de VU heeft ingezet bij online tentamens.
Het vaststellen van onrechtmatige discriminatie met een algoritme is echter complex. Alle algoritmes ‘discrimineren’, ze worden juist ingezet om onderscheid te maken. En alle algoritmes maken fouten.
In dit geval betreft het een direct zichtbare AI-toepassing waarvan in de literatuur al bekend is dat discriminerende vooringenomenheid een serieus probleem is: van zelfrijdende auto’s tot opsporingssoftware, het maakt structureel meer fouten waar mensen van kleur door benadeeld worden.
Maar veruit de meeste algoritmes die een rol spelen in ons dagelijks leven zijn niet of nauwelijks zichtbaar. Als je al weet dat het een algoritme is dat jou benadeeld, moet je als burger sterk in je schoenen staan om aan te tonen dat de uitkomst én onterecht is én het resultaat is van een ongerechtvaardigd onderscheid dat het algoritme maakt op basis van jouw persoonlijke kenmerken.
Dat er opgetreden moet worden tegen dit soort systemen is evident maar of burgers de meest geschikte groep is om dit probleem te signaleren lijkt mij zeer de vraag.
Alles bij de bron; DutchIT
Via nieuwe instellingen in de Google-app vinden gebruikers sneller de weg naar Googles privacyinstellingen rond advertenties. Anderzijds kan je ook vermijden dat Google aangepaste zoekresultaten weergeeft op basis van jouw locatie.
Je kan de nieuwe menu's vinden via: Google-app -> profielicoontje rechtsboven -> Instellingen -> Privacy en beveiliging.
Recent is Google daarnaast een test begonnen met een meer privacyvriendelijk systeem voor reclame in Android, de 'Privacy Sandbox'. De eerste gebruikers met een Android 13-telefoon kunnen het al testen. Google hiermee naar eigen zeggen minder informatie delen met adverteerders om de privacy van gebruikers te beschermen.
Alles bij de bron; AndroidWorld
Kunstmatige intelligentie of artificial intelligence (AI) biedt allerlei kansen, maar brengt ook risico’s met zich mee. Zeker als deze technologie gebruikt wordt om gepersonaliseerde content aan te bieden. Dat zal een impact hebben op onze privacy. Daarom moeten er gezamenlijke regels voor AI worden bedacht in Brussel.
Dat zegt Europarlementariër Kim van Sparrentak (GroenLinks) in een interview met BNR.
Experts omarmen de technologie maar er kleven echter ook risico’s aan kunstmatige intelligentie. De Toeslagenaffaire en het fiasco met de Fraude Signalering Voorziening (FSV) zijn daar twee prominente voorbeelden van. Recentelijk kwam naar buiten dat scholieren AI-programma’s als ChatGPT gebruiken om huiswerkopdrachten te maken. En cybersecurityexperts waarschuwen dat hackers de techniek gaan gebruiken om malware te ontwikkelen of verbeteren.
Voor Hind Dekker-Abdulaziz en Paul van Meenen (beiden D66) was dat aanleiding om schriftelijke vragen te stellen aan het kabinet.
Alles bij de bron; VPN-Gids
Het Nationaal Cyber Security Centrum (NCSC) waarschuwt voor een kwetsbaarheid in de wachtwoordmanager KeePass. Kwaadwillenden kunnen het lek gebruiken voor het verkrijgen van toegang tot gegevens die in KeePass zijn opgeslagen.
Het probleem (NCSC-2023-0044) zit in de configuratie van KeePass, die de wachtwoordmanager onversleuteld opslaat. Kwaadwillenden kunnen de configuratie hierdoor aanpassen en bijvoorbeeld een malafide exportregel toevoegen. Indien een gebruikers vervolgens de KeePass-database opent, zorgt deze regel ervoor dat KeePass de opgeslagen gegevens naar de aanvaller exporteert.
Het NCSC waarschuwt dat een proof-of-concept beschikbaar is, wat het uitbuiten van het lek vereenvoudigd. De ontwikkelaar van KeePass wil het lek echter niet verhelpen. Wel biedt KeePass de mogelijkheid bepaalde configuraties af te dwingen en zo misbruik van het lek te voorkomen. Dit kan met een zogenaamd Enforced Configuration File.
Het NCSC adviseert organisaties deze opties te gebruiken. Meer informatie is hier beschikbaar.
Alles bij de bron; DutchIT-Channel
Het kabinet heeft op algoritmes.overheid.nl de eerste versie van een publiek register gelanceerd waarin algoritmes zijn te vinden die door overheden worden toegepast. Volgens staatssecretaris Van Huffelen schiet de transparantie over de inzet van algoritmes door de overheid nog vaak tekort. Iets dat het register zou moeten veranderen.
"Burgers moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en de daarvan afgeleide (wettelijke) normen en dat uitgelegd wordt hoe ze werken. Op basis daarvan kunnen burgers de overheid desgewenst kritisch volgen en bevragen of zij zich aan de regels houdt", aldus de staatssecretaris.
Volgens Van Huffelen gaat het hier om een eerste versie en is verdere doorontwikkeling "beslist nodig". Het komend jaar zal in overleg met overheden gewerkt worden aan een eenduidige registratie van algoritmes in het register.
In de huidige versie van het register zijn de gegevens handmatig ingevoerd. Het plan is om de informatie automatisch op te halen uit decentrale algoritmeregisters. Deelname aan het algoritmeregister is niet verplicht voor overheden, maar hier wordt wel naar gekeken.
Alles bij de bron; Security
Lensa, momenteel ook bij ons de populairste gratis app, is in Russische handen en dat leidt tot bezorgdheid in de digitale wandelgangen. Voor wie de app nog niet kent: gebruikers kunnen tien tot twintig foto’s van zichzelf uploaden en krijgen in ruil (en tegen betaling) vijftig tot tweehonderd door artificiële intelligentie gegenereerde zelfportretten.
Dat doet denken aan bijvoorbeeld FaceApp, die andere populaire app die ons massaal ouder deed lijken. Onder meer privacywaakhond Bits of Freedom trok in 2019 aan de alarmbel daarover.
Een snelle blik op het privacybeleid van Lensa leert ons dat de app uw selfies meteen weer verwijdert zodra uw portretten afgeleverd zijn. Een heel ander verhaal dan FaceApp dus. Rob Heyman van het Vlaams Kenniscentrum voor Data en Maatschappij stelt dat in het geval van Lensa is privacy wel “de minste van onze zorgen momenteel”.
Heyman en Nathalie Smuha, die zich specialiseert in AI, recht en ethiek aan de KU Leuven waarschuwen het gebruikte AI systeem de deur wagenwijd openzet naar andere vormen van misbruik. “Stel dat iemand wraakporno wil maken”, zegt Smuha. “Deze en andere soortgelijke apps controleren niet of de foto’s die opgeladen worden effectief van jezelf zijn. Je kan dus perfect foto’s van je ex insturen en eindigen met erg geseksualiseerde beelden, zonder dat die persoon van iets weet.”
Daarnaast zijn er ook nog fundamentele problemen met de auteursrechten van de afbeeldingen. Het AI-systeem achter Lensa laat zich inspireren door bestaande beelden, en ook die beelden zijn uiteraard ooit gemaakt door iemand. Vooral kunstwerken van digitale kunstenaars blijken vogels voor de kat te zijn in dit verhaal.
Alles bij de bron; deMorgen
Nederland behoort tot de wereldtop van misbruikers van ‘slimme’ technologie.
Het nieuwste voorbeeld is de zogeheten Top 400-lijst van de gemeente Amsterdam, waarop jongeren staan van wie de gemeente denkt dat zij in de toekomst zware criminelen kunnen worden.
Dit schandaal lijkt regelrecht uit de scifi-film Minority Report te komen. De gemeente Amsterdam experimenteert met ‘algoritmen’ (risicoclassificatiemodellen) om te bepalen wie er op deze zwarte lijst moeten komen. Jongeren die op de lijst belanden staan minimaal twee jaar onder toezicht van de politie, zelfs als zij nog geen strafbaar feit gepleegd hebben. Dit staat bekend als predictive policing en is pure kwakzalverij.
Het meest waardeloze van de in Amsterdam gebruikte risicoclassificatiemodellen is door de politie ontwikkeld en heet ProKid+.
Hoe dubieus het gebruik van ProKid+ was, is te zien aan het feit dat ambtenaren het dringende advies kregen om in gesprekken met ouders van de geselecteerde jongeren te verzwijgen dat dit risicoclassificatiemodel de reden was dat hun kind als toekomstige zware crimineel gezien werd. ProKid+ is overigens niet meer gebruikt voor de Top 400.
Als echte kwakzalvers hebben de politie en de gemeente Amsterdam het onmogelijk voor zichzelf gemaakt om deze fout te zien. Als een Top 400-jongere geen misdrijf pleegt, dan claimen ze dat hun aanpak succesvol is. En als die dat wel doet, claimen ze dat hun voorspelling goed was.
In plaats van een permanent eind te maken aan deze predictive policing gaat de politie dan ook doodleuk verder met ProKid+. In 2023 starten er in Oost-Nederland twee nieuwe proeven mee. Wie beschermt de jeugd tegen dit onethische geëxperimenteer?
Alles bij de bron; Trouw [thnx-2-Niek]
De Dienst Publiek en Communicatie van het ministerie van Algemene Zaken heeft geadviseerd om het gebruik van TikTok voor de Rijksoverheid op te schorten totdat de video-app haar privacybeleid heeft aangepast. Daarnaast zal staatssecretaris Van Huffelen van Digitalisering TikTok binnenkort aanspreken op de verplichtingen uit de AVG. Dat heeft minister Weerwind voor Rechtsbescherming bekendgemaakt.
De minister reageerde op Kamervragen van de Partij voor de Dieren over onderzoek naar TikTok. Onlangs meldde onderzoeker en app-ontwikkelaar Felix Krause dat de browser van TikTok, door het injecteren van JavaScript op websites, toetsaanslagen opslaat. Het kan dan ook gaan om wachtwoorden en creditcardgegevens. Volgens Krause is de functie vergelijkbaar met een keylogger.
TikTok stelt dat de betreffende code alleen wordt gebruikt voor debugging, troubleshooting en prestatiemonitoring.
PvdD-Kamerlid Van Raan wilde weten of de minister de mening deelt dat de functie waar Krause over schreef – ook wanneer TikTok hem niet zou gebruiken – absoluut onacceptabel is en TikTok op de kortst mogelijke termijn geblokkeerd moet worden, in ieder geval tot deze functionaliteit geschrapt is.
Alles bij de bron; Security
Op Chromium-gebaseerde browsers kunnen het lokale ip-adres van gebruikers lekken, wat bijvoorbeeld is te gebruiken voor het fingerprinten van gebruikers.
De meeste browsers proberen het lokale ip-adres van de gebruiker te verbergen, zodat dit niet direct zichtbaar is via websites als browserleaks.com. Via een onderdeel van WebRTC is het echter mogelijk om deze informatie alsnog te achterhalen. Een webontwikkelaar heeft nu de "WebRTC Local IP Leak Test" gemaakt, een script dat het adres voor lokale ip-reeksen weergeeft.
Via fingerprinting wordt er informatie over de systeemconfiguratie van internetgebruikers verzameld. Doordat deze configuratie uniek kan zijn, zijn gebruikers ook zonder ip-adres of cookies te volgen. Hoe meer informatie er kan worden verzameld, des te nauwkeuriger de fingerprint.
Alles bij de bron; Security
Marktwaakhond Competition Commission of India (CCI) verwijt Google onder meer dat het smartphonefabrikanten verplicht om apps als Google Maps en Gmail vooraf te installeren op nieuwe telefoons. Anders mogen de fabrikanten die toestellen niet laten draaien op Android.
Dat er in India een straf voor Google in aantocht was, werd vorige maand al duidelijk. Toen meldde de krant Times of India dat Google de concurrentie probeerde dwars te zitten met eenzijdige contracten.
Google zei vorige maand dat Android ervoor heeft gezorgd dat mobiele apparaten goedkoper zijn geworden en dat daardoor meer Indiërs online zijn gegaan dan zonder het besturingssysteem het geval zou zijn geweest. Daarom is Android juist goed voor de concurrentie, meent Google.
Alles bij de bron; NU