Biometrie & Gezichtsherkenning

Kim Clijsters heeft begin dit jaar geschiedenis geschreven: in haar Sports and Health Club in Bree wordt gebruikgemaakt van camera’s met gezichtsherkenning. Pionieren op de grens van de illegaliteit is dat, want het gebruik van software voor gezichtsherkenning is nog niet wettelijk geregeld. Zo mag de politie er eigenlijk nog niet mee werken, al experimenteert ze er toch al mee...

...“Elke speler moet zich aanmelden bij een camera. Die kan het gezicht herkennen en het lid toegang geven tot het terrein. ... Wie de gezichtsherkenning oncomfortabel vindt, kan ook zijn identiteitskaart voor de camera houden. Dat werkt even goed."

Mag een lokale sportclub de gezichten van leden wel scannen en in een databank opslaan? Nathalie Smuha (onderzoeker AI, recht en ethiek KU Leuven): “Organisaties en bedrijven die niet onder de overheid vallen, mogen software voor gezichtsherkenning gebruiken als ze daarvoor uitdrukkelijk toestemming krijgen van wie eraan onderworpen wordt. Ze mogen ook een databank aanleggen met de gezichten van al die personen.”

...Matthias Dobbelaere-Welvaert, jurist en privacy-activist, maakt zich wél zorgen. Hij heeft The Ministry of Privacy opgericht, een organisatie die onder meer strijdt tegen gezichtsherkenning op straat. “.. Volgens mij wordt er achter de schermen wel geëxperimenteerd op de grens van wat wettelijk is toegestaan. Dat de federale politie maandenlang heeft gelogen over het gebruik van Clearview, zegt ook veel.”

De druk op de wetgever om een kader uit te tekenen neemt toe. Politiezones kopen het materiaal aan en commissaris-generaal Marc De Mesmaeker van de federale politie is al jaren voorstander. 

Kati Verstrepen (voorzitter Liga voor Mensenrechten): “Ik maak me zorgen: het parlement heeft een kwalijke reputatie als het over privacywetgeving gaat. In 2018 werd de nieuwe Camerawet zonder veel debat goedgekeurd in de Kamer. De man in de straat krijgt kop noch staart aan dat technische jargon en denkt dat het allemaal wel in orde zal zijn, maar zonder het te beseffen geeft hij een grondrecht op. Dat is een bewuste strategie van de politici, want ze zijn bang om het debat aan te gaan.”

Alles bij de bron; deMorgen [scan]


De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen.

Nu is het verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon. 

Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.

Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt. Zodat onze gezichten ook op het internet veilig zijn.

Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.

Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbieden.

Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.

Alles bij de bron; Bits-of-Freedom


 

Om de identiteit van de slachtoffers van de oorlog in Oekraïne te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacy-schandaal: de Europe Commissie heeft een plan voor één van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?...

... Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij Clearview AI wordt er gebruik gemaakt van slimme algoritmes om geportretteerden te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?

Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van CCTV-camera's, foto's van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance infrastructuur ter wereld.

Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme? 

Alles bij de bron; BNN/VARA Joop


 

Het kabinet trekt 13 miljoen euro extra uit in de strijd tegen internationale drugssmokkel. Het geld wordt besteed aan onder meer ‘slimme camera’s’ op havens, Schiphol en de logistiek rond de bloemenveiling en havens in Zeeland, Brabant en Amsterdam, andere cruciale logistieke knooppunten.

De slimme cameratechniek scant de ogen, het gezicht of de stem van medewerkers op die plekken, zodat alleen zij toegang krijgen tot bijvoorbeeld de opslag of plekken waar goederen aankomen. 

De inzet van camera’s die persoonlijke kenmerken (biometrie) als ogen en gezichten kunnen scannen, was eerder een aanbeveling na onderzoek naar drugssmokkel. Drugssmokelaars betalen corrupte beambten soms voor hun toegangspassen tot terreinen, constateerde de Erasmus Universiteit in onderzoek. Bij biometrische controles wordt dat onmogelijk.

Alles bij de bron; BrabantsDagblad


 

Het Oekraïense ministerie van Defensie is begonnen met het inzetten van Clearview AI om Russische soldaten te herkennen en om lichamen te identificeren. Dat meldt de ceo van Clearview aan Reuters. 

Oekraïne krijgt gratis toegang tot de diensten van Clearview AI, waarmee autoriteiten bijvoorbeeld mensen kunnen doorlichten bij controleposten. Dat vertelt het bedrijf aan persbureau Reuters. Clearview heeft in zijn database naar eigen zeggen '2 miljard foto's' van gezichten. Die zijn ook deels afkomstig van het Russisch sociaal medium VKontakte.

De database zou gebruikt kunnen worden om lichamen van Russische soldaten te identificeren of Russische spionnen te herkennen. Volgens het bedrijf kan de gezichtsherkenningstechnologie ook gebruikt worden om socialemediaberichten met desinformatie over de oorlog te bestrijden en bij vluchtelingenwerk, bijvoorbeeld om gescheiden families te herenigen.

Alles bij de bron; Tweakers


 

Deze week legde de Italiaanse privacytoezichthouder Clearview AI een boete van 20 miljoen euro op wegens het overtreden van de GDPR, wat het einde van het gezichtsherkenningsbedrijf en soortgelijke ondernemingen op de Europese markt betekent, zo stelt noyb, de door privacyactivist Max Schrems opgerichte organisatie.

"De Italiaanse beslissing verbiedt duidelijk een businessmodel dat is gebaseerd op de massacollectie van biometrische data. Dit sluit de Europese markt voor Clearview AI en soortgelijk bedrijven. We zagen zelfs hoe een soortgelijk Europees bedrijf voor het uitkomen van de beslissing de EU ontvluchtte", zegt Alan Dahi, privacyadvocaat bij noyb. Hij doelt op het Poolse bedrijf PimEyes dat opeens na een klacht tegen hen vanuit de Seychellen opereert.

Noyb verwacht dat de Oostenrijkse privacytoezichthouder, in navolging van de Franse en Italiaanse autoriteiten, met een zelfde oordeel komt.

Alles bij de bron; Security


We hebben al vaker geschreven over de onrechtmatige praktijken van Clearview AI. En toch kon dit omstreden bedrijf steeds maar doorgaan. Een gebrek aan toezicht en handhaving in Europa dat ons irriteerde. De Italiaanse toezichthouder laat nu zien dat dat anders kan en komt met een krachtig besluit.

  • Een boete op van 20 miljoen euro.
  • Een verbod op het gebruik van scraping-technieken (een soort stofzuiger loslaten op het internet om alles te verzamelen wat los en vast zit) om gegevens van personen op Italiaans grondgebied te verzamelen en verwerken.
  • Een verbod op het gebruik van het gezichtsherkenningssysteem om gegevens te verwerken van personen op Italiaans grondgebied.
  • Clearview moet alle gegevens van personen op Italiaans grondgebied die zijn verwerkt met het gezichtsherkenningssysteem verwijderen

De Italiaanse toezichthouder is niet de eerste die de diensten van Clearview AI veroordeeld. Meerdere toezichthouders hebben zich al uitgesproken tegen dit soort illegale surveillancepraktijken en hoewel de Nederlandse Autoriteit Persoonsgegevens zich uitspreekt tegen het onrechtmatige gebruik van gezichtsherkenningstechnologie en oproept voor een verbod op deze technologie blijft zij angstvallig stil rond Clearview AI.

Hopelijk trekt de daadkracht van de Italiaanse toezichthouder haar nu over de streep.

Alles bij de bron; Bits-of-Freedom


 

Mensen die zich op het gemeentehuis melden, bijvoorbeeld om een verhuizing door te geven of een rijbewijs aan te vragen, kunnen zomaar gevraagd worden om eerst op de foto te gaan.

Naar schatting gebruikt bijna de helft van de gemeenten technologie om de vers geschoten gezichtsfoto te vergelijken met die op je identiteitsbewijs, maar het is onduidelijk hoe groot het probleem is dat ze daarmee willen voorkomen.

Gemeenten gebruiken gezichtsscanners om te voorkomen dat iemand zich legitimeert met het ID-bewijs van een ander die op hen lijkt. De methode is vergelijkbaar met de automatische grenscontrole op Schiphol, die al jaren in gebruik is. Gemeenten de technologie nu expliciet in om bedriegers te betrappen al is het onduidelijk hoe groot het probleem van lookalikefraude in het gemeentehuis is.

Het ECID constateerde vorig jaar 32 gevallen bij zijn ID-desk. Onder meer gemeenten kunnen hier aankloppen als zij fraude met ID-bewijzen vermoeden. Hoeveel van die gevallen daadwerkelijk via het gemeentehuis bij het ECID terechtkwamen, is onduidelijk; een analyse van de cijfers wordt binnen enkele weken verwacht. Ook is onbekend of technische gezichtsvergelijking heeft bijgedragen aan de opsporing.

Gemeenten die apparatuur voor gezichtsvergelijking aanschaffen, doen dat niet omdat er zich elke dag zoveel bedriegers melden. Zo maakte Vught onlangs bekend de technologie in te zetten, hoewel in de gemeente nooit lookalikefraude is geconstateerd. Toch neemt de verkoop al jaren toe, zegt Chino Klaverweide-Lorteije van ORIBI ID-Solutions. Dit bedrijf heeft naar eigen zeggen al zo'n 350 camera's geleverd aan 140 gemeenten.

Alles bij de bron; NU


 

De Britse privacytoezichthouder ICO heeft de Schotse overheid en gezondheidszorg op de vingers getikt over de corona-app waarmee burgers hun vaccinatiestatus kunnen aantonen. De informatievoorziening aan burgers over hoe de NHS Scotland COVID Status-app persoonlijke informatie gebruikt, waaronder gevoelige gezondheidsgegevens, schiet tekort, aldus de ICO.

De Schotse corona-app maakt gebruik van gezichtsherkenningstechnologie om de gebruiker aan de hand van zijn paspoort of rijbewijs te identificeren. Met de informatie wilde het bedrijf de gezichtsherkenningssoftware verbeteren. Volgens de Britse privacytoezichthouder was dit illegaal, aangezien het niet noodzakelijk was voor de werking van de app en het ook geen doel voor gebruikers diende. 

De toezichthouder adviseerde om de app niet lanceren totdat alle zorgen waren weggenomen. Toch werd de app op 30 september zoals gepland gelanceerd, zonder dat alle zorgen van de ICO waren weggenomen. 

Alles bij de bron; Security


 

Gezichtsherkenningsbedrijf Clearview AI wil nagenoeg iedereen op aarde via een megadatabase die honderd miljard afbeeldingen bevat kunnen identificeren wat neerkomt op veertien foto's voor elk persoon op aarde. Dat heeft het bedrijf onlangs tegenover investeerders laten weten, zo meldt The Washington Post op basis van een financiële presentatie die het in handen kreeg.

In de presentatie stelt Clearview dat de gebruikte database nu meer dan tien miljard afbeeldingen bevat en het dataverzamelingssysteem 1,5 miljard afbeeldingen per maand verwerkt. Met een investering van vijftig miljoen dollar claimt het bedrijf de database naar honderd miljard afbeeldingen te kunnen uitbreiden, alsmede nieuwe producten ontwikkelen. Verder zal het geld worden gebruikt voor het lobbyen van beleidsmakers, wat in gunstigere wetgeving moet resulteren.

Het bedrijf wil daarnaast niet alleen gezichten voor opsporingsdiensten scannen, ook doet het bedrijf onderzoek naar technologieën waarmee het mensen kan identificeren op basis van de manier waarop ze lopen, hun locatie achterhalen op basis van een foto en hun vingerafdrukken op afstand kan scannen.

Alles bij de bron; Security


 

Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha