Biometrie & Gezichtsherkenning
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De politie heeft vorig jaar ruim 218.000 foto's uit haar database voor gezichtsherkenning verwijderd. Dat maakt de Landelijke Eenheid bekend met de publicatie van de jaarcijfers over 2020. Een woordvoerder kon niet zeggen hoeveel unieke personen daarmee uit de database zijn verdwenen.
Met gezichtsherkenning kan de politie beelden, afkomstig van bijvoorbeeld een beveiligingscamera, vergelijken met de 2,65 miljoen gezichtsfoto's in de database. Een match kan de politie helpen om achter de identiteit van een verdachte te komen.
Met de opschoning van de 218.000 foto's geeft de politie voor het eerst publiekelijk een indicatie van het aantal foto's dat onterecht in de gezichtendatabase heeft gestaan. De politie moet gezichtsfoto's namelijk verwijderen als een persoon niet langer verdachte is, bijvoorbeeld na vrijspraak.
Het gebruik van CATCH, zoals de dienst heet, is niet onomstreden. In maart onthulde NU.nl dat de gezichtsfoto's van mogelijk tienduizenden mensen onterecht in de database staan.
Dat ligt gevoelig, omdat gezichtsherkenning bijzonder ingrijpend is. Het is "alsof de politie een soort nummer op je voorhoofd brandmerkt", zei een deskundige hierover destijds.
Alles bij de bron; NU
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Onrechtmatige en onwettige biometrische massasurveillance vindt in de EU op grote schaal plaats. Het probleem gaat dieper dan tot dusver bekend. Ook in Nederland bezondigen politie, gemeenten en private partijen zich hieraan.
Dit stelt het Edinburgh International Justice Initiative (EIJI) in een rapport over de opkomst van massasurveillance. Opdrachtgever was de koepelorganisatie European Digital Rights (EDRi), waarvan de online privacy-club Bits of Freedom deel uitmaakt.
De rapporteurs bekeken de situatie in Polen, Duitsland en Nederland. Hier werd een groot scala aan onwettige en rechtenschendende biometrische praktijken gesignaleerd. De onderzoekers constateerden veel gebreken en misstanden. Volgens hen worden de grondrechten van veel mensen geschonden voor doeleinden zoals gemak (snel eten bestellen, wachtrijen verkorten) of bijvoorbeeld het opsporen van mensen die een carnavalsverbod proberen te omzeilen. De onderzoekers spreken van pietluttigheden.
Bijzonder huiveringwekkend noemen de onderzoekers de opkomst van zogenaamde 'proeftuinen' in verschillende Nederlandse steden. Deze samenwerkingsverbanden tussen politie, gemeenten en bedrijven plaatsen hele steden in de status van experiment. Zij gebruiken verschillende vormen van gegevens waaronder het combineren van biometrische gegevens met gegevens uit de sociale media. Dit gebeurt voor doeleinden als het afleiden welke jongeren in een straat rondhangen en het voorspellen van hun toekomstige levensloop op basis daarvan.
Alles bij de bron; Computable
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Aanleiding van deze verkenning vormt het aanvalsplan Ons Voetbal Is Van Iedereen – samen zetten we racisme en discriminatie buitenspel (‘OVIVI’). Dat betreft een gezamenlijk plan van de Rijksoverheid, de Koninklijke Nederlandse Voetbalbond (‘KNVB’), de Eredivisie en de Keuken Kampioen Divisie om discriminatie en racisme in het voetbal te voorkomen, signaleren en aanpakken.
Een van de maatregelen uit het aanvalsplan is het beschikbaar maken en inzetten van slimme technologie in voetbalstadions.
.....Identificatiefase - Deze slimme technologie of slimme camera’s zouden ook de functionaliteit kunnen hebben dat tijdens een wedstrijd verkregen beelden kunnen worden vergeleken met bestaand beeldmateriaal van personen, op basis waarvan de op de verzamelde beelden zichtbare personen kunnen worden geïdentificeerd. Men spreekt dan van de inzet van gezichtsherkenningstechnologie. Daarbij is dan sprake van de verwerking van biometrische gegevens als bedoeld in artikel 4, aanhef en onder 14, AVG.
De verwerking van biometrische gegevens betreft de verwerking van bijzondere persoonsgegevens als bedoeld in artikel 9 AVG. Dat is verboden, tenzij de betrokken verwerkingsverantwoordelijke (bijvoorbeeld de BVO) zich op een doorbrekingsgrond kan beroepen. Vooralsnog zien wij niet een dergelijke doorbrekingsgrond.
Om deze reden concluderen wij dat de inzet van deze slimme technologie – de zgn. gezichtsherkenningstechnologie – in de identificatiefase niet toelaatbaar is. Ook de inzet van andere slimme technologie die werkt met biometrische gegevens, zoals stemherkenningstechnologie, achten wij niet toelaatbaar vanwege het ontbreken van een doorbrekingsgrondslag.
Eindconclusie - De conclusie dat wij geen ruimte zien voor de inzet van gezichtsherkenningstechnologie in voetbalstadions, laat onverlet dat wij wel ruimte zien voor de inzet van slimme camera’s. Daarmee kan discriminatoir en racistisch gedrag mogelijk in ieder geval beter worden gesignaleerd en vastgelegd.
Bovendien kunnen de opnames die worden vastgelegd met slimme camera’s het identificatieproces mogelijk vergemakkelijken, doordat de opnames gerichter zijn en van betere kwaliteit zijn. Voor zover de inzet van slimme camera’s in de signaleringsfase tot onvoldoende verbetering leidt van de identificatiemogelijkheden in de identificatiefase, en daardoor ook tot onvoldoende verbetering van de sanctiemogelijkheden, kan worden overwogen om met een vorm van preregistratie te gaan werken om identificatiemogelijkheden van betrokkenen te verbeteren.
Alles bij de bron; RijksOverheid
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De Britse privacytoezichthouder ICO maakt zich ernstig zorgen over misbruik van live gezichtsherkenningssystemen in de openbare ruimte, mede op basis van eigen onderzoek waarbij alle onderzochte organisaties die de technologie gebruikten of wilden inzetten zich niet aan de regels hielden.
"Wanneer gevoelige persoonlijke data op enorme schaal wordt verzameld zonder dat mensen dit weten, een keuze of controle hebben kunnen de gevolgen zeer groot zijn", zegt Elizabeth Denham, de Britse Information Commissioner. "We moeten onze kinderen mee naar buiten kunnen nemen, een winkelcentrum bezoeken of de hoogtepunten van een stad kunnen zien zonder dat onze biometrische data bij elke stap die we nemen wordt verzameld en geanalyseerd."
Denham merkt op dat in tegenstelling tot traditioneel cameratoezicht live gezichtsherkenning en de gebruikte algoritmes mensen meteen kunnen identificeren en profileren. "In de toekomst is er de potentie om beveiligingscamera's van live gezichtsherkenning te voorzien, en zelfs te combineren met socialmediagegevens of andere 'big data' systemen. Live gezichtsherkenning is supercharged cameratoezicht", waarschuwt de informatiecommissaris.
Ze heeft een opinie (pdf) geschreven over het gebruik van live gezichtsherkenning in de openbare ruimte en gaat daar ook in op de spelregels voor het gebruik van gezichtsherkenning.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Biometrische surveillance brengt onze rechten, vrijheden en samenleving ernstige schade toe. Daarom moeten we ons daartegen beschermen. Zolang er geen verbod is om ons die bescherming te bieden, zijn we aangewezen op geïmproviseerde middelen...
...nu gezichtsherkenningstechnologie zo ver is ontwikkeld dat je zelfs met een mondkapje op herkenbaar blijft, zijn er nog maar weinig manieren om écht anoniem over straat te gaan. Een mogelijke uitkomst? Een papieren zak over je hoofd om je gezicht te verbergen. Ja, op die manier blijf je veilig voor biometrische surveillance...
...Door de ongerichte toepassing van biometrische surveillance wordt elke voorbijganger in beeld gebracht. Zo kunnen individuen op grote schaal worden geïdentificeerd, geanalyseerd, gevolgd, geprofileerd en gestuurd. Deze technologie creëert een samenleving van wantrouwen, controle en discriminatie waarin je niet langer anoniem kunt deelnemen aan het openbare leven. Dat heeft een beperkende werking op hoe vrij je je voelt...
Daarom hebben we goede bescherming nodig tegen de inzet van dergelijke surveillance. Bestaande wetgeving kent een verbod op biometrische surveillance. Maar de uitzonderingen daarop worden misbruikt en er wordt niet krachtig genoeg gehandhaafd om in de praktijk voldoende bescherming te bieden.
Zeg samen met ons "nee" tegen een #PaperBagSociety en deel waarom het voor jou niet werkt om te leven met een papieren zak op je hoofd. Roep samen met ons op tot een verbod op biometrische surveillance in de openbare ruimte!
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Toen zij vorig jaar voor het eerst publiceerde over Clearview AI, kondigde journalist Kashmir Hill het einde van privacy aan zoals wij dat kennen. Overdreven? Niet echt. Clearview AI schraapt onze gezichten van het internet om zo verschillende partijen van toegang te voorzien tot een massale, onrechtmatige gezichtendatabank. Vooral voor opsporingsdiensten blijkt deze dienst interessant. Iedereen wiens gezicht in Clearview AI's databank staat, kan namelijk redelijk makkelijk worden geïdentificeerd. Iemand maakt een foto van jou (of uploadt een still uit camerabeelden), en Clearview AI levert online bronnen aan waar datzelfde gezicht in voorkomt.
Ook ik, Lotte, sta in de databank van Clearview AI. Dat weet ik omdat ik een inzageverzoek deed bij Clearview. Clearview AI heeft verschillende foto's van mij, en verschillende links naar informatie over mij op het internet. Dit betekent dat iemand met toegang tot Clearview AI's "dienst", een foto van mij kan maken op straat en in een oogwenk te weten kan komen wie ik ben, waar ik werk, waar ik gesproken heb en met wie ik om ga.
Op basis van deze informatie en de klantenlijst die is gelekt, concluderen we dat het aannemelijk is dat Clearview AI ook aan Nederlandse organisaties toegang verkoopt tot een databank van mensen woonachtig in Nederland.
Matthias Marx van de Duitse organisatie Chaos Computer Club diende een klacht over Clearview AI in bij de Hamburgse privacytoezichthouder. Die oordeelde dat de databank van Clearview AI onrechtmatig is. Vorige week hebben ook onze collega organisaties Privacy International, Hermes Centre for Transparency and Digital Human Rights, Homo Digitalis en Noyb klachten ingediend bij verschillende Europese toezichthouders.
Ook wij zouden graag een klacht indienen bij onze toezichthouder, de Autoriteit Persoonsgegevens. Maar om dit te kunnen doen hebben we nog één stukje informatie nodig: we moeten kunnen aanwijzen welke partij in Nederland gebruik maakt of heeft gemaakt van de diensten van Clearview AI. Daarom deze open oproep. Heb jij het ontbrekende stukje informatie wat ons de mogelijkheid geeft om Clearview AI in Nederland aan te pakken? Neem dan alsjeblieft contact met
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Verschillende privacyorganisaties zijn donderdag rechtszaken gestart tegen het omstreden gezichtsscanbedrijf Clearview AI. Ze stellen dat de manier waarop het bedrijf data verzamelt in strijd is met de Europese privacywetgeving.
Clearview verzamelt zonder medeweten van gebruikers afbeeldingen van sociale media om een grote database van gezichten te creëren. Het bedrijf uit New York kan met deze database de identiteit van personen vaststellen. Clearview zegt dat zijn database ruim drie miljard afbeeldingen van gezichten bevat.
De klachten zijn in Frankrijk, Oostenrijk, Griekenland, Italië en het Verenigd Koninkrijk ingediend. Dat deden de privacyorganisaties Privacy International, NYOB, Hermes Center for Transparency and Digital Human Rights en Homo Digitalis.
Clearview ligt al langere tijd onder vuur bij privacyorganisaties. In maart werd in de Verenigde Staten een aanklacht ingediend om te zorgen dat het bedrijf geen data kon verzamelen van inwoners van Californië. Ook startten privacywaakhonden in het VK, Australië en Canada onderzoeken naar het bedrijf.
Begin vorig jaar bleek uit onderzoek van BuzzFeed News dat de software van Clearview door private bedrijven gebruikt werd, ook al zei het bedrijf dat de software alleen voor autoriteiten bedoeld is.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De Amerikaanse politie moet het nog langer zonder de gezichtsherkenningssoftware Rekognition van techbedrijf Amazon doen. Amazon schort het gebruik ervan tot nader order op. Amazon verbood de politie in juni vorig jaar al de software gedurende één jaar te gebruiken. Het bedrijf wilde de politiek toen de tijd geven om regels in te voeren voor het gebruik van dergelijke technologie.
Amazon zegt al langer een voorstander te zijn van regels die ethisch gebruik van dergelijke software moeten garanderen. Het bedrijf had daarnaast gehoopt dat het Amerikaanse Congres met wetgeving zou komen. Tot dusver is dat niet gebeurd. Het bedrijf zei dat Rekognition nog wel gebruikt mag worden door organisaties die vermiste kinderen en slachtoffers van mensenhandel opsporen.
Alles bij de bron; AGConnect
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
In het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie staat een gedeeltelijk verbod op biometrische surveillance in de openbare ruimte. Dat is een goed begin en laat zien dat ons werk zeker niet voor niets is. Maar er zitten nog te veel gaten in de wetgeving om van echte bescherming te kunnen spreken. Daarom gaan we door met de strijd voor een verbod op álle biometrische surveillance in de openbare ruimte....
...Welke bescherming missen we in dit voorstel?
Allereerst is de verwoording van het verbod erg specifiek, en laat het vele soorten biometrische surveillance buiten beschouwing. Denk bijvoorbeeld aan deze soort surveillance voor commerciële doeleinden. Hiermee lijkt het wetsvoorstel vormen van biometrische massasurveillance toe te staan die minimaal op gespannen voet staan met de fundamentele rechten en vrijheden die in bestaande Europese wetgeving zijn verankerd.
Ook staan er meteen uitzonderingen op het verbod geformuleerd die nog aardig wat ruimte laten. Bijvoorbeeld voor het gericht zoeken naar een potentieel slachtoffer van criminaliteit, preventieve inzet wanneer er sprake is van een dreiging ten opzichte van de fysieke veiligheid van een persoon of het zoeken van iemand die verdacht wordt van een zwaarder misdrijf. Wel worden er bij deze uitzonderingen vereisten geformuleerd zoals beperkingen in tijd, plaats en gerichtheid op personen.
Daarnaast is het verbod expliciet beperkt tot real-time systemen. Dat betekent dat bijvoorbeeld gezichtsherkenning die wordt toegepast op de beelden die zijn opgenomen door 'normale' camera's in de openbare ruimte niet onder het verbod vallen. Daarmee is het verbod dus niet van toepassing op CATCH, het systeem dat de Nederlandse politie gebruikt, maar valt dat enkel binnen het hoge risico regime.
En beperkt het verbod zich tot biometrische identificatie. Dat is een erg beperkte formulering. De Europese toezichthouder op gegevensbescherming heeft eerder gezegd dat iemand onderscheiden van andere mensen hier ook onder valt. Dit zet de deur open voor mogelijk discriminatoire praktijken als het categoriseren of selecteren van mensen op basis van uiterlijke kenmerken. Ook zegt het niets over het volgen van mensen in de publieke ruimte zonder dat dit gericht is op hen identificeren.
Tot slot schuilt er gevaar in de vage bewoordingen. Het verbod geldt nu ten aanzien van systemen die worden ingezet zonder voorafgaande kennis van de gebruiker van het systeem over of de persoon waar de inzet zich op richt aanwezig zou zijn en geïdentificeerd kan worden. En als je hier de draad kwijtraakt is dat niet gek, dat doen wij ook een beetje.
We zijn blij met de erkenning van de Commissie dat deze systemen enorm intrusief zijn en hoge risico's meebrengen voor onze rechten en vrijheden en onze vrije samenleving. Ook is het een eerste stap dat er nu een gedeeltelijk verbod in het voorstel is opgenomen. Maar voor echte bescherming is er meer nodig. Daarom blijven wij hard werken naar een verbod op álle biometrische surveillance technologie in de openbare ruimte. Help ons in de strijd voor een verbod en onderteken ons burgerinitiatief!
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Je vingerafdruk, gezichtsherkenning of een scan van je iris, het zijn allemaal manieren waarop we tegenwoordig apparaten kunnen beveiligen. Een vermogensbeheerder komt met iets nieuws waarmee klanten kunnen bewijzen dat ze het echt zijn: stemherkenning. Hoe betrouwbaar is dat?
Klanten die de servicedesk van de bank bellen, moeten nu allerlei vragen beantwoorden om toegang te krijgen. Als het aan de bank ligt, gaat de stem van klanten als identificatie dienen. Daar moeten ze dan wel zelf eerst toestemming voor geven...
...Volgens Melanie Rieback van Radically Open Security werkt biometrische beveiliging zo goed als de sensoren die ervoor gebruikt worden. "Het meet iets van ons lichaam en die sensoren kunnen natuurlijk gefopt worden", legt ze uit. Ook stemherkenning is volgens haar niet waterdicht. "Je kunt opnames maken van de stemmen van mensen. Vooral mensen die een beetje bekend zijn, daar heb je een kanon aan audio van online staan."
Gelukkig zijn er ook manieren op die spraakherkenning veiliger te maken. Rieback: "Een manier om het tegen te gaan is livetracking, om te checken of iemand live aanwezig is. Een persoon kan snel schakelen, dat kan een opname niet."
Ook is het belangrijk om het systeem goed te beveiligen tegen een datalek. "Biometrie is altijd een beetje problematisch, als hackers het systeem hacken en de audioclips stelen is dat hele gevoelige informatie. Dat heeft een enorme privacy-impact. Je wachtwoord kun je veranderen, je stem of je vingerafdruk niet."
Alles bij de bron; RTL