De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen.
Nu is het verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon.
Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.
Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt. Zodat onze gezichten ook op het internet veilig zijn.
Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.
Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbieden.
Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.
Alles bij de bron; Bits-of-Freedom
Om de identiteit van de slachtoffers van de oorlog in Oekraïne te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacy-schandaal: de Europe Commissie heeft een plan voor één van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?...
... Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij Clearview AI wordt er gebruik gemaakt van slimme algoritmes om geportretteerden te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?
Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van CCTV-camera's, foto's van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance infrastructuur ter wereld.
Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme?
Alles bij de bron; BNN/VARA Joop
Het kabinet trekt 13 miljoen euro extra uit in de strijd tegen internationale drugssmokkel. Het geld wordt besteed aan onder meer ‘slimme camera’s’ op havens, Schiphol en de logistiek rond de bloemenveiling en havens in Zeeland, Brabant en Amsterdam, andere cruciale logistieke knooppunten.
De slimme cameratechniek scant de ogen, het gezicht of de stem van medewerkers op die plekken, zodat alleen zij toegang krijgen tot bijvoorbeeld de opslag of plekken waar goederen aankomen.
De inzet van camera’s die persoonlijke kenmerken (biometrie) als ogen en gezichten kunnen scannen, was eerder een aanbeveling na onderzoek naar drugssmokkel. Drugssmokelaars betalen corrupte beambten soms voor hun toegangspassen tot terreinen, constateerde de Erasmus Universiteit in onderzoek. Bij biometrische controles wordt dat onmogelijk.
Alles bij de bron; BrabantsDagblad
Het Oekraïense ministerie van Defensie is begonnen met het inzetten van Clearview AI om Russische soldaten te herkennen en om lichamen te identificeren. Dat meldt de ceo van Clearview aan Reuters.
Oekraïne krijgt gratis toegang tot de diensten van Clearview AI, waarmee autoriteiten bijvoorbeeld mensen kunnen doorlichten bij controleposten. Dat vertelt het bedrijf aan persbureau Reuters. Clearview heeft in zijn database naar eigen zeggen '2 miljard foto's' van gezichten. Die zijn ook deels afkomstig van het Russisch sociaal medium VKontakte.
De database zou gebruikt kunnen worden om lichamen van Russische soldaten te identificeren of Russische spionnen te herkennen. Volgens het bedrijf kan de gezichtsherkenningstechnologie ook gebruikt worden om socialemediaberichten met desinformatie over de oorlog te bestrijden en bij vluchtelingenwerk, bijvoorbeeld om gescheiden families te herenigen.
Alles bij de bron; Tweakers
Deze week legde de Italiaanse privacytoezichthouder Clearview AI een boete van 20 miljoen euro op wegens het overtreden van de GDPR, wat het einde van het gezichtsherkenningsbedrijf en soortgelijke ondernemingen op de Europese markt betekent, zo stelt noyb, de door privacyactivist Max Schrems opgerichte organisatie.
"De Italiaanse beslissing verbiedt duidelijk een businessmodel dat is gebaseerd op de massacollectie van biometrische data. Dit sluit de Europese markt voor Clearview AI en soortgelijk bedrijven. We zagen zelfs hoe een soortgelijk Europees bedrijf voor het uitkomen van de beslissing de EU ontvluchtte", zegt Alan Dahi, privacyadvocaat bij noyb. Hij doelt op het Poolse bedrijf PimEyes dat opeens na een klacht tegen hen vanuit de Seychellen opereert.
Noyb verwacht dat de Oostenrijkse privacytoezichthouder, in navolging van de Franse en Italiaanse autoriteiten, met een zelfde oordeel komt.
Alles bij de bron; Security
We hebben al vaker geschreven over de onrechtmatige praktijken van Clearview AI. En toch kon dit omstreden bedrijf steeds maar doorgaan. Een gebrek aan toezicht en handhaving in Europa dat ons irriteerde. De Italiaanse toezichthouder laat nu zien dat dat anders kan en komt met een krachtig besluit.
De Italiaanse toezichthouder is niet de eerste die de diensten van Clearview AI veroordeeld. Meerdere toezichthouders hebben zich al uitgesproken tegen dit soort illegale surveillancepraktijken en hoewel de Nederlandse Autoriteit Persoonsgegevens zich uitspreekt tegen het onrechtmatige gebruik van gezichtsherkenningstechnologie en oproept voor een verbod op deze technologie blijft zij angstvallig stil rond Clearview AI.
Hopelijk trekt de daadkracht van de Italiaanse toezichthouder haar nu over de streep.
Alles bij de bron; Bits-of-Freedom
Mensen die zich op het gemeentehuis melden, bijvoorbeeld om een verhuizing door te geven of een rijbewijs aan te vragen, kunnen zomaar gevraagd worden om eerst op de foto te gaan.
Naar schatting gebruikt bijna de helft van de gemeenten technologie om de vers geschoten gezichtsfoto te vergelijken met die op je identiteitsbewijs, maar het is onduidelijk hoe groot het probleem is dat ze daarmee willen voorkomen.
Gemeenten gebruiken gezichtsscanners om te voorkomen dat iemand zich legitimeert met het ID-bewijs van een ander die op hen lijkt. De methode is vergelijkbaar met de automatische grenscontrole op Schiphol, die al jaren in gebruik is. Gemeenten de technologie nu expliciet in om bedriegers te betrappen al is het onduidelijk hoe groot het probleem van lookalikefraude in het gemeentehuis is.
Het ECID constateerde vorig jaar 32 gevallen bij zijn ID-desk. Onder meer gemeenten kunnen hier aankloppen als zij fraude met ID-bewijzen vermoeden. Hoeveel van die gevallen daadwerkelijk via het gemeentehuis bij het ECID terechtkwamen, is onduidelijk; een analyse van de cijfers wordt binnen enkele weken verwacht. Ook is onbekend of technische gezichtsvergelijking heeft bijgedragen aan de opsporing.
Gemeenten die apparatuur voor gezichtsvergelijking aanschaffen, doen dat niet omdat er zich elke dag zoveel bedriegers melden. Zo maakte Vught onlangs bekend de technologie in te zetten, hoewel in de gemeente nooit lookalikefraude is geconstateerd. Toch neemt de verkoop al jaren toe, zegt Chino Klaverweide-Lorteije van ORIBI ID-Solutions. Dit bedrijf heeft naar eigen zeggen al zo'n 350 camera's geleverd aan 140 gemeenten.
Alles bij de bron; NU
De Britse privacytoezichthouder ICO heeft de Schotse overheid en gezondheidszorg op de vingers getikt over de corona-app waarmee burgers hun vaccinatiestatus kunnen aantonen. De informatievoorziening aan burgers over hoe de NHS Scotland COVID Status-app persoonlijke informatie gebruikt, waaronder gevoelige gezondheidsgegevens, schiet tekort, aldus de ICO.
De Schotse corona-app maakt gebruik van gezichtsherkenningstechnologie om de gebruiker aan de hand van zijn paspoort of rijbewijs te identificeren. Met de informatie wilde het bedrijf de gezichtsherkenningssoftware verbeteren. Volgens de Britse privacytoezichthouder was dit illegaal, aangezien het niet noodzakelijk was voor de werking van de app en het ook geen doel voor gebruikers diende.
De toezichthouder adviseerde om de app niet lanceren totdat alle zorgen waren weggenomen. Toch werd de app op 30 september zoals gepland gelanceerd, zonder dat alle zorgen van de ICO waren weggenomen.
Alles bij de bron; Security
Gezichtsherkenningsbedrijf Clearview AI wil nagenoeg iedereen op aarde via een megadatabase die honderd miljard afbeeldingen bevat kunnen identificeren wat neerkomt op veertien foto's voor elk persoon op aarde. Dat heeft het bedrijf onlangs tegenover investeerders laten weten, zo meldt The Washington Post op basis van een financiële presentatie die het in handen kreeg.
In de presentatie stelt Clearview dat de gebruikte database nu meer dan tien miljard afbeeldingen bevat en het dataverzamelingssysteem 1,5 miljard afbeeldingen per maand verwerkt. Met een investering van vijftig miljoen dollar claimt het bedrijf de database naar honderd miljard afbeeldingen te kunnen uitbreiden, alsmede nieuwe producten ontwikkelen. Verder zal het geld worden gebruikt voor het lobbyen van beleidsmakers, wat in gunstigere wetgeving moet resulteren.
Het bedrijf wil daarnaast niet alleen gezichten voor opsporingsdiensten scannen, ook doet het bedrijf onderzoek naar technologieën waarmee het mensen kan identificeren op basis van de manier waarop ze lopen, hun locatie achterhalen op basis van een foto en hun vingerafdrukken op afstand kan scannen.
Alles bij de bron; Security
Eind vorig jaar uitte de Eerste Kamer haar zorgen aan de Europese Commissie over het wetsvoorstel over kunstmatige intelligentie. In een brief wordt de Commissie bevraagd over de geformuleerde verboden toepassingen, waaronder social scoring, het misbruik maken van kwetsbaarheden van groepen mensen en het gebruik van biometrische identificatie. Ook zijn er zorgen geuit over de risicogerichte benadering en de rechtsbescherming.
Terwijl steeds meer instellingen en organisaties pleiten voor een geheel verbod op biometrische surveillance in de openbare ruimte, blijft de Europese Commissie bij haar standpunt dat het verbod beperkt blijft tot realtime biometrische identificatie. Dat zijn dus alleen kunstmatige intelligentie toepassingen waarmee mensen ogenblikkelijk of in ieder geval “zonder aanzienlijke vertraging” herkend kunnen worden. Hiermee worden allerlei toepassingen nog steeds toegelaten. Ook toepassingen waarbij de identificatie achteraf plaatsvindt...
...Het is niet geruststellend dat de Europese Commissie in de opsomming van wat zij ziet als voordelen, compleet voorbij gaat aan de reeds bekende risico’s voor mensenrechten die gepaard gaan met deze toepassingen.
De komende periode buigt de Europese Unie zich in het Parlement en de Raad over het wetsvoorstel. Wij blijven ons inzetten om tot een wet te komen waarin fundamentele rechten effectief beschermd worden.
Alles bij de bron; Bits-of-Freedom