De Londense politie gaat in drukke buurten camera’s met gezichtsherkenning inzetten om in real-time winkeldieven te betrappen.
Privacyexpert Matthias Dobbelaere-Welvaert zegt; "De Metropolitan Police experimenteert al jaren met gezichtsherkenning. Maar wetenschappelijk onderzoek heeft uitgewezen dat het systeem vaak valse hits oplevert. Mensen die op straat waarschuwingsborden zagen voor live facial recognition maakten soms een omwegje. Maar dan waren ze al op voorhand verdacht. Het systeem werkte ook discriminerend.
Geen enkel AI-systeem is neutraal. Het wordt gevoed door mensen en data. Maar mensen hebben vooroordelen, die de AI binnensluipen. En voorts heb je ook een foutenmarge, bij welke huidskleur dan ook."...
...."Veiligheid, milieu, iedereen heeft wel redenen om gezichtsherkenning in te zetten. Het probleem is dat we iedereen zijn goesting laten doen. Op den duur heb je nergens nog privacy en zit je biometrie in 1001 databanken. Het is al eng genoeg dat de overheid met het Rijksregister eigenlijk al over een biometrische databank beschikt. Als we nu ook nog eens gaan toelaten dat elk privébedrijf, voetbalclub, supermarkt, milieuvereniging, boerenorganisatie en gemeente een eigen biometrische databank heeft… Dat is waanzin.
Het kan federaal gecentraliseerd worden, maar dan moet men kunnen garanderen dat het systeem onkraakbaar is – wat niet kan. Denk maar aan de hacking van de stad Antwerpen. Burgers hebben er nog altijd last van. En dat ging niet eens om biometrische gegevens. Ik hoed me voor de dag dat mijn gezicht ergens op straat ligt."
Alles bij de bron; Knack [registratie noodzakelijk]
Meer bedrijven en organisaties moeten hun gebruikers biometrische tweefactorauthenticatie (2FA) aanbieden, zoals een scan van het gezicht of vingerafdruk, zo vindt de Duitse overheid.
Het Bundesamt für Sicherheit in der Informationstechnik (BSI), onderdeel van het Duitse ministerie van Binnenlandse Zaken, deed onderzoek naar het 2FA-gebruik van Duitse burgers.
Dan blijkt dat 82 procent van de respondenten het gebruik van een vingerafdruk eenvoudig vindt en tachtig procent het als veilig beschouwt. Als er wordt gekeken naar digitale diensten die biometrische 2FA aanbieden blijkt dit echter vrij beperkt te zijn.
Volgens het BSI zou een breder gebruik van biometrische 2FA de cybersecurity van gebruikers kunnen verbeteren, omdat dan meer mensen er gebruik van zouden maken. Wanneer bedrijven of websites 2FA aanbieden, blijkt uit het onderzoek dat zestig procent het geregeld gebruikt. Wordt er gekeken naar de gebruikte 2FA-methode, dan staat sms met zestig procent bovenaan, gevolgd door het gebruik van de vingerafdruk (34 procent) en gezichtsscan (22 procent).
Alles bij de bron; Security
Bij zo’n vijf tankstations in de regio van Den Haag hebben ze een gezichtsscanner in gebruik genomen.
Vanaf 1 juli 2024 is tabak bij wet alleen nog verkrijgbaar bij tabaksspeciaalzaken en tankstations en met het verminderen van verkooppunten neemt de kans op fouten toe bij de overgebleven verkooppunten met tabaksvergunningen.
Om deze reden zijn er NIX18-automaten geïntroduceerd voor leeftijdsverificatie bij tabaksaankopen...
...Met behulp van kunstmatige intelligentie maakt een camera in het apparaat een scan van het gezicht van de klant. Als de klant akkoord geeft om een scan te maken, wordt de automaat geactiveerd. ,,Door kenmerken zoals de huid en rimpels kan de automaat een schatting maken van de leeftijd van de klant,’’ legt Snijders uit.
Als de klant ouder is dan 25 jaar, ontvangt de verkoper een groen vinkje en kan de verkoop doorgaan. Zo niet, dan moet de klant zijn of haar identiteit verifiëren door een identiteitsbewijs, paspoort of rijbewijs te scannen in de automaat.
Het systeem richt zich uitsluitend op de geboortedatum en vergelijkt deze met de foto die op het identificatiedocument is opgeslagen. ,,De gegevens die worden waargenomen, worden onmiddellijk verwijderd uit het geheugen van de scanner, waardoor geen enkele relatie kan worden gelegd tussen de transactie en de scan,’’ legt Snijders uit.
Dit waarborgt strikte naleving van de privacywetgeving. De enige informatie die wordt opgeslagen is hoe vaak de scan is gebruikt en hoeveel beelden zijn goedgekeurd. ,,Mensen hoeven dus niet bang te zijn dat hun gegevens worden opgeslagen en gebruikt voor andere doeleinden dan de controle.’’
Het proces is in samenwerking met de NVWA (Nederlandse Voedsel en Waren Autoriteit), privacy-waakhonden en juristen tot stand gekomen. Snijders benadrukt dat niemand verplicht is om een gezichtsscan uit te voeren. ,,Dat is bij wet verboden.’’
Alles bij de bron; AD [premium artikel]
Al sinds 2016 weten we dat de politie gebruik maakt van gezichtsherkenning in de vorm van CATCH. Nu is de politie met nieuwe toepassingen van deze ingrijpende surveillancetechnologie aan het experimenteren. Een uitbreiding van de CATCH-database met beelden van verdachten die niet eerder geïdentificeerd konden worden en FaceF1nder, waarmee de politie kan zoeken in welke beelden een bepaald gezicht nog meer voorkomt.
Bestaande gegevensbeschermingswetgeving, die ook voor de politie geldt, vereist dat voor dingen die een hoog risico met zich meebrengen voor het recht op privacy en gegevensbescherming, de politie de Functionaris Gegevensbescherming erbij moet betrekken en een inventarisatie en beoordeling moet maken van de impact op die rechten. Het gaat hier om een zogenaamde gegevens-beschermings-effect-beoordeling.
Uit de documenten die wij hebben opgevraagd met een beroep op de Wet open overheid blijkt nu dat de politie dit voor nieuwe toepassingen niet heeft gedaan.
Dat de politie het niet zo nauw neemt met de wet bij de inzet van gezichtsherkenning is onderhand wel duidelijk. Zo is er nooit een democratisch debat aan de inzet van CATCH vooraf gegaan, en is er dus nooit een specifieke wettelijke grondslag gekomen voor de inzet van gezichtsherkenning door de politie. De politie probeert dat gat nu te vullen met een door haarzelf opgesteld "Inzetkader gezichtsherkenning".
Niet voor niets is de Autoriteit Persoonsgegevens hier kritisch. De voorzitter noemt deze gang van zaken bij NOS de omgekeerde volgorde. Er zou eerst wetgeving moeten komen, en pas dan kan de politie aan de slag met het opstellen van een protocol. Die wetgeving is er op dit moment nog niet.
Wanneer de politie op eigen houtje aan de slag gaat en de toetsing intern belegd, is het extra belangrijk dat de interne waarborgen voor de bescherming van mensenrechten en onze vrije samenleving op orde zijn. En wat blijkt nu? Het lijkt er op dat de Functionaris Gegevensbescherming niet actief op de hoogte is gesteld, maar zelf na geruchten moest aangeven dat zij geïnformeerd wil worden.
Alles bij de bron; Bits-of-Freedom
Om fraude bij het aanvragen van identiteitsbewijzen tegen te gaan, willen verschillende gemeenten gezichtsscanners gaan gebruiken. Iemand die een nieuw paspoort of rijbewijs aanvraagt moet voor zo'n scanner gaan staan waarmee wordt gecontroleerd of het wel dezelfde persoon is als op de pasfoto van het oude identiteitsbewijs staat.
Het is nog de vraag of de plannen niet in strijd zijn met de privacywetgeving. Een gezichtsscan valt onder de bijzondere persoonsgegevens en daar moeten organisaties zeer zorgvuldig mee omgaan.
Nu zijn de scanners vooral te vinden op luchthavens, waar ze worden gebruikt om binnenkomende passagiers te controleren. Maar in onder meer Almere en Utrechtse Heuvelrug leven plannen om ze ook te gebruiken bij het aanvragen van een paspoort of rijbewijs. En meer gemeenten spelen met het idee. Toenemende identiteitsfraude is de reden ervoor....
....Het ministerie van Binnenlandse Zaken wijst op de eigen verantwoordelijkheid van gemeenten. En zegt dat als gemeenten gezichtsscanners willen inzetten "dat op eigen initiatief en onder eigen verantwoordelijkheid is. Om te toetsen of de inzet voldoet aan de privacywetgeving, zouden deze gemeenten een risicoanalyse moeten doen", zo laat een woordvoerder weten.
Alles bij de bron; NOS
Verslaggevers vonden de vermoedelijke RAF-terrorist Daniela Klette met behulp van ’PimEyes’.
Afgelopen maandag werd Klette (65) in Berlijn gearresteerd door de Duitse recherche. Ze zou meerdere zware misdrijven en terreuraanslagen op haar geweten hebben als lid van de links-extremistische terreurgroep Rote Armee Fraktion (RAF). De Duitse was de autoriteiten tot dusverre altijd te slim af, ondanks opsporingsbevelen.
Duitse journalisten van blijken haar in samenwerking met de Canadese onderzoeksjournalist Michael Colborne, al jaren op het spoor te zijn.
Colborne vergeleek via gezichtsherkenningssoftware PimEyes een recente afbeelding van Klette met een foto van zo’n dertig jaar geleden.
PimEyes is een betaalde service die het gezicht een numerieke code geeft op basis van de biometrische gelaatstrekken (zoals de bovenrand van de oogkassen, hoogte van de jukbeenderen en zijkanten van de mond). De code wordt met behulp van kunstmatige intelligentie binnen enkele seconden vergeleken met 2,1 miljard andere opgeslagen codes.
Vervolgens toont PimEyes internetpagina’s met andere foto’s van de oorspronkelijk getoonde persoon.
Zulke gezichtsherkenningssystemen zijn echter niet onomstreden. In Nederland experimenteert de politie er momenteel ook mee. Daarbij gaat het om CATCH en FaceF1nder. Het voordeel is volgens de politie, die er steeds meer gebruik van wil maken, dat verdachten, getuigen en slachtoffers teruggevonden kunnen worden, op basis van beeldmateriaal zoals beveiligingscamera’s of in beslag genomen smartphones.
Bij CATCH staan er bijvoorbeeld zo’n 1,6 miljoen verdachten en veroordeelden in de databank. Maar daarmee zijn lang niet alle Nederlanders geregistreerd.
Volgens Sander Duivestein, onderzoeker naar de impact van nieuwe technologie, kan zulke technologie forensisch onderzoek vergemakkelijken, omdat je eerder verdachten op het spoor komt. „In theorie zou je zelfs foto’s van personen met camerabeelden op locaties als bijvoorbeeld Zandvoort en Scheveningen kunnen vergelijken, zodat je kunt uitzoeken of jouw ’verdachte’ daar is. Die beelden zijn vaak gewoon openbaar te vinden en dus te vergelijken.” Daarbij gaat het om realtime-gezichtsherkenning.
Dat vraagt echter ook direct om strenge regels, benadrukt Duivestein. Ook vanuit de overheid mag zoiets niet onbeperkt ingezet worden. Anders kun je een Big Brother-achtige samenleving krijgen.”
Specifieke wetgeving rondom deze technologie ontbreekt echter nog in Nederland. De politie heeft wel een protocol ontwikkeld. Een interne politiecommissie moet goedkeuring geven voordat er van gezichtsherkenningstechnologie gebruikt wordt gemaakt.
Toezichthouder Autoriteit Persoonsgegevens uitte daar begin dit jaar al kritiek op. Voorzitter Aleid Wolfsen vindt dat er eerst wetgeving van buitenaf nodig is en dat er dan pas een intern protocol door de politie ontwikkeld moet worden.
Begin februari stemden de EU-lidstaten in met een voorstel dat AI aan strengere regels moet onderwerpen. Realtime-gezichtsherkenning wordt daarin niet verboden, maar mag enkel bij ernstige dreigingen of misdrijven gebruikt worden. Daarvoor is ook toestemming van een rechter nodig en mag er uitsluitend naar een specifiek persoon gezocht worden. Het Europees Parlement moet nog wel over het voorstel stemmen. Bij goedkeuring zal het na twee jaar in werking treden.
Alles bij de bron; Telegraaf [inloggen noodzakelijk]
Een groot Brits recreatiebedrijf heeft illegaal gezichtsherkennings- en vingerafdruktechnologie ingezet om de aanwezigheid van personeel te monitoren. Medewerkers konden door middel van hun gezicht of vingerafdruk in- en uitklokken. Op deze manier is van meer dan tweeduizend medewerkers op tientallen locaties op illegale wijze biometrische data verwerkt, aldus de Britse privacytoezichthouder ICO. Die heeft het bedrijf opgedragen om met het gebruik van de biometrische prikklok te stoppen.
Volgens de ICO kon het recreatiebedrijf niet aantonen waarom het noodzakelijk en proportioneel was om gezichtsherkenning en vingerafdrukscans als prikklok te gebruiken, terwijl er ook minder ingrijpende oplossingen zijn, zoals een identiteitskaart of sleutelhanger.
Werknemers werd niet proactief een alternatief voor de biometrische prikklok aangeboden en het werd gepresenteerd als een vereiste om betaald te worden. Vanwege de machtsverhouding tussen werkgever en werknemer is het onwaarschijnlijk dat personeel bezwaar maakte tegen het verzamelen en gebruik van hun biometrische data, aldus de ICO.
Alles bij de bron; Security
Deepfaketechnologie zet de betrouwbaarheid van authenticatieprocessen onder druk, doordat AI-gegenereerde vervalsing van gezichten en stemmen nieuwe hoogtes bereikt. Hackaanvallen met biometrische vervalsingen nemen sterk toe, meldt Gartner.
De toenemende twijfel aan de betrouwbaarheid van biometrische identificatie en authenticatie die het bedrijf constateert, betreft dus volledig vetrouwen op dergelijke oplossingen. Voor betere beveiliging is aanvullende controle en verificatie nodig.
Huidige biometrische controlesystemen baseren hun inschatting van echtheid deels op de 'levendigheid' van een persoon. AI-verbeteringen maken het echter mogelijk om dat ook goed te faken en daarmee biometrische beveiliging te bedriegen. Topman Khan stelt dat huidige standaarden en testprocessen voor zogeheten 'presentation attack detection' (PAD) niet meer voldoen. Digitale injectie-aanvallen die AI-gegenereerde deepfakes gebruiken, kunnen nu al succesvol zijn, waarschuwt hij.
Het gaat dus niet alleen om gezichtsherkenning, van live beeld. Ook stemgeluid valt met AI-middelen goed te faken. Een onderzoek van de Universiteit van Waterloo toont aan dat voice biometric authentication systemen van grote bedrijven zoals Amazon en Microsoft (Nuance) in relatief korte tijd zijn te foppen door deepfake-technologie. Systemen met een lage mate van geavanceerdheid gingen binnen slechts zes pogingen voor de bijl.
Het advies is om aanvullende risico- en herkenningssignalen mee te nemen in de identificatie van mensen, om daarmee de kans op detectie van deepfake-gebaseerde biometrie-aanvallen te vergroten.
Dergelijke extra signalen kunnen bijvoorbeeld identificatie van het gebruikte apparaat zijn, waarvandaan een persoon dan inlogt. Een andere herkenning valt te doen op basis van gedragsanalyse (behavioral analytics), wat uiteen kan lopen van netwerkverkeer en sitebezoek tot bijvoorbeeld muisbewegingen.
Voor analyse daarvan valt overigens ook AI in te zetten, waar diverse leveranciers al mee te koop lopen.
Alles bij de bron; AGConnect
De politie gaat meer gezichtsherkenningstechnologie gebruiken. Met nieuwe software kan de politie verdachten, getuigen of slachtoffers terugvinden in grote hoeveelheden beeldmateriaal, bijvoorbeeld van beveiligingscamera's of in beslag genomen smartphones.
Er klinkt ook kritiek: "Het risico is dat de politie gezichtsherkenning gaat inzetten op een manier die we niet willen."
Met het nieuwe systeem FaceF1nder kan de politie gezichten zoeken in omvangrijke collecties foto's of video's. Tot nu toe is FaceF1nder in één onderzoek gebruikt, maar de politie wil de software op structurele basis kunnen inzetten.
De politie kan FaceF1nder gebruiken om na een misdaad te zoeken in tientallen beveiligingscamera's over een periode van enkele weken. Of in alle foto's en video's op een in beslag genomen smartphone. De politie kan zoeken waar het gezicht van verdachten terugkomt, maar ook van andere betrokkenen in een zaak, zoals getuigen of slachtoffers.
Voordat de politie gezichtsherkenning op een nieuwe manier mag inzetten, bepaalt een interne commissie of dat mag. De commissie weegt af of de inzet juridisch (mag het?), technologisch (kan het?) en ethisch (willen we het?) toelaatbaar is.
Die interne controle leidt tot kritiek van onder meer Amnesty. "Het is niet aan de politie om zelf te bepalen wanneer ze gezichtsherkenning inzetten", vindt Vera Prins, die het onderwerp voor de mensenrechtenorganisatie volgt. De beslissingen over welke plannen worden goed- en afgekeurd en waarom, zijn bovendien niet openbaar. "Dat vinden we zorgelijk", zegt Prins.
Hoogleraar digitale surveillance Marc Schuilenburg sluit zich daarbij aan. "We weten niet waar de politie intern allemaal toestemming voor geeft. Zetten ze gezichtsherkenning alleen in bij zware misdrijven, of ook bij verkeersovertredingen?"
Tot dit jaar gebruikte de politie maar één systeem met gezichtsherkenning: CATCH. Daarmee kan de politie de identiteit van verdachten achterhalen.
Dat systeem bestaat al jarenlang uit twee gezichtendatabases. Een database bevat verdachten en veroordeelden, de ander vreemdelingen (mensen van buiten de Europese Unie, zoals asielzoekers, gastarbeiders of buitenlandse studenten). Daar komt een derde database bij.
Daarin bewaart de politie beelden van verdachten die op beeld zijn vastgelegd, maar waarbij het niet lukte om dat beeld te koppelen aan een naam. De politie kan al die verzamelde opsporingsbeelden vergelijken met nieuwe mugshots: portretfoto's van verdachten die op het politiebureau worden genomen. Zo kan na een aanhouding blijken dat een verdachte al eerder is gefilmd en mogelijk nog meer op zijn kerfstok heeft.
De CATCH-uitbreiding en FaceF1nder zijn twee nieuwe manieren waarop de politie gezichtsherkenning wil inzetten. CATCH is bedoeld om te bepalen wie iemand is, FaceF1nder om te zien waar iemand op beeld te zien is.
Naast de komst van FaceF1nder en de uitbreiding van CATCH wil de politie ook op andere manieren meer doen met gezichtsherkenning. Het afgelopen jaar werden zeker zes aanvragen ingediend bij de interne commissie die daarover gaat.
De toetsingscommissie heeft FaceF1nder nog niet in algemene zin goedgekeurd. Ook de aanvraag voor de CATCH-uitbreiding loopt nog. Zeker drie andere plannen voor de inzet van gezichtsherkenning werden afgewezen of ingetrokken.
De Autoriteit Persoonsgegevens (AP) vindt dat de politie de technologie 'alleen in zeer uitzonderlijke gevallen' mag inzetten. Ook wil de toezichthouder niet dat de politie de technologie gebruikt om mensen in de openbare ruimte te identificeren. De politie past gezichtsherkenning op dit moment niet toe in de openbare ruimte, zegt een woordvoerder. Maar de technologie is in principe voor geen enkele politietaak uitgesloten, vervolgt ze. De AP was tot nu toe niet op de hoogte van de uitbreidingen, laat de toezichthouder weten.
"We willen allemaal dat de politie criminelen opspoort en dat we in een veilig Nederland leven", zegt onderzoeker Yong Yong Hu van de Radboud Universiteit. "Maar dat betekent niet dat de politie álles moet kunnen inzetten. "Het risico is dat de grens steeds verder wordt opgerekt."
"Het dreigt een glijdende schaal te worden", zegt haar collega Maartje Kouwenberg. De twee Radboud-onderzoekers pleitten daarom begin dit jaar al voor onafhankelijk toezicht. Prins van Amnesty en hoogleraar Schuilenburg sluiten zich daarbij aan.
Alles bij de bron; RTL
Digitale burgerrechtenbeweging Bits of Freedom, Europese burgerrechtenbeweging EDRi en Amnesty International vrezen dat de Europese AI-wet de deur openzet voor nog meer massasurveillance door de overheid en 'dystopische digitale surveillance' in de Europese Unie. Dat laten de organisaties weten in een reactie op het vorige week gesloten voorlopige akkoord.
De Artificial Intelligence Act stelt regels aan het gebruik van kunstmatige intelligentie. Eén van de onderdelen betreft het gebruik van live gezichtsherkenning door justitie.
Het Europees Parlement had zich in eerste instantie nog uitgesproken voor een volledig verbod op biometrische identificatie, zonder enige uitzonderingen. De EU-lidstaten wilden echter dat justitie de technologie wel kan inzetten.
Het eindresultaat is dat justitie real-time gezichtsherkenning toch mag inzetten op basis van verschillende uitzonderingen.
"Het is teleurstellend dat er geen algeheel verbod op biometrische identificatie is aangenomen. We vrezen dat dit de deur open zet voor nog meer discriminatie en massasurveillance door de overheid", zegt Nadia Benaissa, beleidsadviseur van Bits of Freedom.
"We hebben de Europese organen en Nederlandse bewindspersonen opgeroepen niet te zwichten voor de Big Tech lobby. Ook deze week hebben we nog opgeroepen onze rechten niet in te ruilen voor een ‘deal’. Belangrijk, zeker ook binnen de Nederlandse context. Van discriminerende fraudeopsporingsalgoritmen door gemeenten en DUO tot het racistisch inzetten van AI voor visumaanvragen. Nederland kent vele slechte voorbeelden, met als dieptepunt: de toeslagenaffaire. Deze AI-verordening is dus hard nodig", merkt Bits of Freedom op.
Ella Jakubowska, beleidsadviseur van eDRI, stelt dat het lastig is om blij te zijn met een wet die voor het eerst stappen heeft gezet om live gezichtsherkenning in de hele EU te legaliseren en spreekt van een schim van de wet die Europa echt nodig heeft.
Alles bij de bron; Security