Het wetsontwerp bevat ruimte voor het gebruik van massale biometrische bewaking in openbare ruimten in Servië, geavanceerde technologieën met gezichtsherkenningssoftware die het mogelijk maken grote hoeveelheden gevoelige persoonsgegevens in realtime vast te leggen en te verwerken.
Het lid van EDRi, de SHARE Foundation, heeft het openbare debat over het wetsontwerp aangegrepen om zijn juridische opmerkingen in te dienen over de bepalingen die de massale biometrische bewaking in openbare ruimten regelen, en eist van de autoriteiten dat zij onverwijld een moratorium afkondigen op het gebruik van dergelijke technologieën en systemen in Servië.
Indien Servië de bepalingen inzake massale biometrische surveillance aanneemt, wordt het het eerste Europese land dat burgers in de openbare ruimte permanent en zonder onderscheid in de gaten houdt.
De technologieën die op die manier ter beschikking van de politie zouden worden gesteld, zijn zeer ingrijpend voor de privacy van de burgers, met mogelijk drastische gevolgen voor de mensenrechten en de vrijheden, en hebben een diepgaande invloed op een democratische samenleving. Daarom hebben de Verenigde Naties en de Europese Unie zich reeds uitgesproken tegen het gebruik van massaal biometrisch toezicht door de politie en andere veiligheidsdiensten van de staten.
Alles bij de bron; EDRI [vertaald met www.deepl.com/translator]
De commissaris voor mensenrechten bij de VN pleit voor een moratorium op het gebruik van biometrische herkenning in de publieke ruimte.
Michelle Bachelet doet deze uitspraak in een rapport van de Verenigde Naties waarin de effecten van artificiële intelligentie op mensenrechten wordt besproken. Daarin stelt de VN dat ontransparante dataverzameling een wijdverspreid fenomeen is en dat artificiële intelligentie ondertussen in alle aspecten van de samenleving terug te vinden is.
"Ai wordt ingezet om patronen te onderzoeken in het menselijke gedrag. Als men toegang heeft tot de juiste datasets is het bijvoorbeeld mogelijk om na te gaan hoeveel mensen een bepaalde gebedsplaats bezoeken, welke televisieprogramma’s ze verkiezen of hoe hun dag- en nachtritme eruitziet. Ook hun politieke voorkeur kan worden afgeleid", stellen de auteurs van het rapport. "Ai kan een enorme invloed uitoefenen op het leven van individuen en wordt gebruikt om toekomstig gedrag of gebeurtenissen te voorspellen." Heel wat van deze voorspellingen schenden volgens de VN het recht op privacy.
Het recht op privacy komt volgens de VN ook steeds meer in het gedrang door het gebruik van biometrische herkenning van individuen in de publieke ruimte. "Biometrische herkenning zorgt ervoor dat overheden individuen kunnen identificeren en traceren in de publieke ruimte. Daarmee wordt de mogelijkheid ondermijnd om niet geobserveerd door het leven te gaan", klinkt het.
Alles bij de bron; Tweakers
Binnenkort worden foto’s van alle Europeanen toegankelijk voor de Europese autoriteiten om door te spitten met behulp van gezichtsherkenningssoftware. Tot nu toe regelde het Prüm-Besluit, een raadsbesluit van de EU, dat vingerafdrukken, DNA-gegevens en kentekens automatisch mogen worden gedeeld tussen EU-landen. Nu komen daar foto’s van alle burgers bij.
Dat natuurlijk vanwege de strijd tegen terreur. Europese burgers denken nogal eens dat die befaamde ‘war on terror’ van president Bush wordt gevoerd door vreemde mogendheden in verre woestijnen. Het wil nog niet goed doordringen dat we er middenin zitten. De oorlog tegen terreur wordt gevoerd op Europese pleinen en stranden, in Europese straten en velden, op basis van camerabeelden, met alle Europese burgers als verdachten.
Er is geen enkele aandacht voor. Er is geen democratisch debat over gevoerd. De intellectuele cultuur is een historiserende cultuur, gericht naar het verleden, naar hoe het is gekomen, niet naar wat staat te gebeuren. Toch is het nodig te begrijpen hoe urgent, hoe spoedeisend een algeheel verbod op gezichtsherkenningssoftware is. Het mag nu toch wel duidelijk zijn dat de oorlog tegen terreur alleen maar leidt tot meer ellende.
Biometrische identificatie op afstand bedreigt onze fundamentele rechten en vrijheden; en wel zodanig dat ze het bestaan ervan in gevaar kunnen brengen, zeggen de European Data Protection Board en de European Data Protection Supervisor. De voordelen wegen niet op tegen de gevaren, zegt de directeur van Amnesty in Oostenrijk, waar het ministerie van Binnenlandse Zaken heeft toegegeven dat gezichtsherkenning is ingezet bij demonstraties. „We betalen een enorme prijs.”
Welke prijs? Het einde van de anonimiteit. Het einde van de argeloosheid. Je lichaam wordt een bewijsmiddel in andermans oorlog. Onder het alziend oog van hogere machten kun je geen verdienstelijk mens meer worden, om John Keats te citeren, want je kunt jezelf niet meer verliezen, je wordt vastgelegd. Zo gauw het Prüm-Besluit eenmaal is aangepast, ben je nooit meer onbespied. Nooit meer. Nooit meer.
Alles bij de bron; NRC
De Belgische federale politie heeft al meer dan honderd keer gebruikgemaakt van de gezichtsherkenningssoftware Clearview AI, meldt de Amerikaanse nieuwswebsite Buzzfeed. Die omstreden software is in strijd met de Europese GDPR-wetgeving...
...Clearview contacteerde wereldwijd politiediensten, overheidsdepartementen en juridische instellingen en stelde hen een proefabonnement voor. Buzzfeed kon documenten inkijken en heeft een gedetailleerde lijst gemaakt van 88 instellingen in 24 landen die de software hebben getest voor februari 2020. Daaruit blijkt dat de Belgische federale politie tussen de 101 en 500 keer ervan gebruik heeft gemaakt.
Het COC, het Controleorgaan op de politionele informatie, liet in mei 2020 weten dat Clearview niet door politiediensten in ons land werd gebruikt en daar ook geen plannen voor bestonden. De Standaard kreeg van COC-lid Frank Schuermans nu te horen dat het onderzoek hierover wordt heropend met een nieuwe vraag aan de commissaris-generaal.
Alles bij de bron; HLN
De Amerikaanse overheid wil het gebruik van gezichtsherkenning de komende jaren uitbreiden, zo blijkt uit onderzoek van de Amerikaanse rekenkamer. Voor het onderzoek werden 24 federale overheidsinstanties ondervraagd. Zestien van de ondervraagde instanties maken gebruik van gezichtsherkenning voor digitale toegang of cybersecurity, zoals het ontgrendelen van smartphones en laptops door medewerkers. Dit blijkt de meestgebruikte toepassing van gezichtsherkenning.
Twee instanties zijn begonnen met het testen van gezichtsherkenning om de identiteit van personen vast te stellen die op een overheidssite inloggen. Verder blijkt dat zes overheidsinstanties de technologie inzetten bij strafrechtelijke onderzoeken, zoals het vergelijken van beelden met foto's van verdachten. Ook zijn er meerdere instanties die gezichtsherkenning voor fysieke beveiliging gebruiken, bijvoorbeeld of iemand op een zwarte lijst voorkomt of om toegang tot een locatie te krijgen.
Tevens blijkt uit het onderzoek van de Amerikaanse rekenkamer dat meerdere overheidsinstanties bezig zijn met het ontwikkelen en onderzoeken van gezichtsherkenningstechnologie, bijvoorbeeld om mensen met mondkapjes te kunnen herkennen. Meerdere ministeries blijken ook gebruik te maken van de software van Clearview AI. Het bedrijf verzamelt foto's van Facebook, LinkedIn en andere websites voor het trainen van een gezichtsherkenningssysteem. Dit systeem bevat een database van drie miljard verzamelde afbeeldingen. Daarmee kunnen onbekende verdachten worden herkend.
Alles bij de bron; Security
De politie heeft tussen de vijftig en honderd keer gebruikgemaakt van de Clearview AI software met gezichtsherkenning. Daarmee zijn beelden van bewakingscamera’s te vergelijken met opgeslagen foto’s van miljoenen mensen in de database.
Buiten de Verenigde Staten zouden 88 opsporingsdiensten en andere overheidsinstanties uit 24 landen de gratis proefversie van de software hebben toegepast. Dat meldt de Volkskrant op basis van onderzoek van de Amerikaanse nieuwssite Buzzfeed.
In de database van Clearview staan foto’s en bijbehorende data zoals namen van miljoenen mensen wereldwijd opgeslagen. Deze zijn onder andere afkomstig van sociale media zoals Facebook, LinkedIn en Instagram. Politiekorpsen benutten de database voor vergelijkingen met beelden van bewakingscamera’s om op die manier persoonsgegevens van verdachte personen te achterhalen.
Bron; Beveiliging
De politie maakt vanaf nu jaarlijks zelf openbaar hoeveel foto's er in hun gezichtsherkenningsdatabank staan, hoe vaak ze die hebben bevraagd en hoeveel herkenningen dat oplevert. Door die openbaarmaking kwam Bits of Freedom erachter dat zij afgelopen jaar 218.434 foto's hier uit heeft verwijderd. Nog 2.653.038 te gaan.
...Het is goed dat de politie een opruimactie heeft gedaan. Het is schokkend om te zien dat daarmee zo'n 8% van de foto's verwijderd moest worden. En daarmee zijn we er nog niet. Dit was namelijk een eenmalige opruimactie van foto's uit een systeem dat vooral tot 2010 werd gebruikt.
Daarmee zijn enkele belangrijke problemen nog niet opgelost. Zo staan er nog steeds tienduizenden mensen onterecht in de databank. Bijvoorbeeld mensen die er als verdachte in zijn opgenomen maar vervolgens door de rechter zijn vrijgesproken. De chaos is zelfs zo groot dat de politie zelf niet weet om hoeveel mensen dit precies gaat, maar de schatting lijkt aan de voorzichtige kant. Dat zou niet moeten kunnen. Opsporingsmiddelen, en al helemaal zulke ingrijpende massasurveillance, komen in een rechtsstaat met verantwoordelijkheden.
Ook is het zorgwekkend hoe gemakkelijk mensen in de ingrijpende surveillancedatabank terecht kunnen komen. Zo staan er ook demonstranten in die zich niet wilden legitimeren. Horen die thuis in een gezichtsherkenningsdatabank van de politie? Wij geloven van niet....
De effectiviteit en de meerwaarde van dit systeem zijn erg twijfelachtig. Uit de door de politie openbaar gemaakte cijfers over 2020 blijkt dat het systeem 1046 keer is gebruikt in opsporingsonderzoeken. In 70% (!) van de gevallen was het systeem niet in staat de persoon te herkennen. En van de ongeveer 100 keer dat het wel werkte, is onduidelijk wat de herkenning daadwerkelijk heeft bijgedragen aan het onderzoek.
Het is tijd de balans op te maken: staan we toe dat er een doodenge surveillancedatabank bestaat? Waarin mogelijk de gezichten van miljoenen mensen staan? Waarvan tienduizenden er ook nog onterecht in staan? Kunnen we dat verantwoorden als je bedenkt dat de politie gemiddeld rond de 100 herkenningen per jaar haalt en de daadwerkelijke opbrengst voor opsporingsonderzoeken onduidelijk blijft?
Als het aan Bits of Freedom ligt niet. Daarom vinden zij de 218.434 een goed begin, nu de andere 2.653.038 nog.
Alles bij de bron; Bits-of-Freedom
De politie heeft vorig jaar ruim 218.000 foto's uit haar database voor gezichtsherkenning verwijderd. Dat maakt de Landelijke Eenheid bekend met de publicatie van de jaarcijfers over 2020. Een woordvoerder kon niet zeggen hoeveel unieke personen daarmee uit de database zijn verdwenen.
Met gezichtsherkenning kan de politie beelden, afkomstig van bijvoorbeeld een beveiligingscamera, vergelijken met de 2,65 miljoen gezichtsfoto's in de database. Een match kan de politie helpen om achter de identiteit van een verdachte te komen.
Met de opschoning van de 218.000 foto's geeft de politie voor het eerst publiekelijk een indicatie van het aantal foto's dat onterecht in de gezichtendatabase heeft gestaan. De politie moet gezichtsfoto's namelijk verwijderen als een persoon niet langer verdachte is, bijvoorbeeld na vrijspraak.
Het gebruik van CATCH, zoals de dienst heet, is niet onomstreden. In maart onthulde NU.nl dat de gezichtsfoto's van mogelijk tienduizenden mensen onterecht in de database staan.
Dat ligt gevoelig, omdat gezichtsherkenning bijzonder ingrijpend is. Het is "alsof de politie een soort nummer op je voorhoofd brandmerkt", zei een deskundige hierover destijds.
Alles bij de bron; NU
Onrechtmatige en onwettige biometrische massasurveillance vindt in de EU op grote schaal plaats. Het probleem gaat dieper dan tot dusver bekend. Ook in Nederland bezondigen politie, gemeenten en private partijen zich hieraan.
Dit stelt het Edinburgh International Justice Initiative (EIJI) in een rapport over de opkomst van massasurveillance. Opdrachtgever was de koepelorganisatie European Digital Rights (EDRi), waarvan de online privacy-club Bits of Freedom deel uitmaakt.
De rapporteurs bekeken de situatie in Polen, Duitsland en Nederland. Hier werd een groot scala aan onwettige en rechtenschendende biometrische praktijken gesignaleerd. De onderzoekers constateerden veel gebreken en misstanden. Volgens hen worden de grondrechten van veel mensen geschonden voor doeleinden zoals gemak (snel eten bestellen, wachtrijen verkorten) of bijvoorbeeld het opsporen van mensen die een carnavalsverbod proberen te omzeilen. De onderzoekers spreken van pietluttigheden.
Bijzonder huiveringwekkend noemen de onderzoekers de opkomst van zogenaamde 'proeftuinen' in verschillende Nederlandse steden. Deze samenwerkingsverbanden tussen politie, gemeenten en bedrijven plaatsen hele steden in de status van experiment. Zij gebruiken verschillende vormen van gegevens waaronder het combineren van biometrische gegevens met gegevens uit de sociale media. Dit gebeurt voor doeleinden als het afleiden welke jongeren in een straat rondhangen en het voorspellen van hun toekomstige levensloop op basis daarvan.
Alles bij de bron; Computable
Aanleiding van deze verkenning vormt het aanvalsplan Ons Voetbal Is Van Iedereen – samen zetten we racisme en discriminatie buitenspel (‘OVIVI’). Dat betreft een gezamenlijk plan van de Rijksoverheid, de Koninklijke Nederlandse Voetbalbond (‘KNVB’), de Eredivisie en de Keuken Kampioen Divisie om discriminatie en racisme in het voetbal te voorkomen, signaleren en aanpakken.
Een van de maatregelen uit het aanvalsplan is het beschikbaar maken en inzetten van slimme technologie in voetbalstadions.
.....Identificatiefase - Deze slimme technologie of slimme camera’s zouden ook de functionaliteit kunnen hebben dat tijdens een wedstrijd verkregen beelden kunnen worden vergeleken met bestaand beeldmateriaal van personen, op basis waarvan de op de verzamelde beelden zichtbare personen kunnen worden geïdentificeerd. Men spreekt dan van de inzet van gezichtsherkenningstechnologie. Daarbij is dan sprake van de verwerking van biometrische gegevens als bedoeld in artikel 4, aanhef en onder 14, AVG.
De verwerking van biometrische gegevens betreft de verwerking van bijzondere persoonsgegevens als bedoeld in artikel 9 AVG. Dat is verboden, tenzij de betrokken verwerkingsverantwoordelijke (bijvoorbeeld de BVO) zich op een doorbrekingsgrond kan beroepen. Vooralsnog zien wij niet een dergelijke doorbrekingsgrond.
Om deze reden concluderen wij dat de inzet van deze slimme technologie – de zgn. gezichtsherkenningstechnologie – in de identificatiefase niet toelaatbaar is. Ook de inzet van andere slimme technologie die werkt met biometrische gegevens, zoals stemherkenningstechnologie, achten wij niet toelaatbaar vanwege het ontbreken van een doorbrekingsgrondslag.
Eindconclusie - De conclusie dat wij geen ruimte zien voor de inzet van gezichtsherkenningstechnologie in voetbalstadions, laat onverlet dat wij wel ruimte zien voor de inzet van slimme camera’s. Daarmee kan discriminatoir en racistisch gedrag mogelijk in ieder geval beter worden gesignaleerd en vastgelegd.
Bovendien kunnen de opnames die worden vastgelegd met slimme camera’s het identificatieproces mogelijk vergemakkelijken, doordat de opnames gerichter zijn en van betere kwaliteit zijn. Voor zover de inzet van slimme camera’s in de signaleringsfase tot onvoldoende verbetering leidt van de identificatiemogelijkheden in de identificatiefase, en daardoor ook tot onvoldoende verbetering van de sanctiemogelijkheden, kan worden overwogen om met een vorm van preregistratie te gaan werken om identificatiemogelijkheden van betrokkenen te verbeteren.
Alles bij de bron; RijksOverheid