De doorontwikkeling van immersieve technologieën, zoals virtual en augmented reality, vergroot het risico op beïnvloeding en manipulatie van burgers.
Huidige wetten en beleidsvoering kunnen de maatschappelijke dreiging van grootschalige dataverzameling door Big Tech niet inperken.
Dit concludeert het Rathenau Instituut, dat oproept tot debat.
Immersieve technologie vervaagt de grens tussen de fysieke en virtuele wereld en verzamelt veel gegevens over gebruikers, waaronder pupilreflexen, irisscans, neurodata en stemgegevens. Deze grootschalige verzameling van lichaams- en gedragsgegevens brengt risico's met zich mee voor privacy, democratie en veiligheid, waarschuwt de Haagse denktank.
Het Rathenau Instituut concludeert dat de huidige wetgeving en beleid ontoereikend zijn voor de verantwoorde doorontwikkeling van immersieve technologie. De organisatie roept op tot een maatschappelijk debat over welke persoonlijke data wel of niet mogen worden verzameld, onder welke voorwaarden en voor welke specifieke toepassingen. Het debat moet rekening houden met de bescherming van burgers, de verantwoordelijkheid van ontwikkelaars en de rol van toezichthouders.
De denktank ziet vooral in de gezondheidszorg, training en onderwijs, entertainment, infrastructuur, industrie, kantoor en kunst veel nieuwe toepassingen van immersieve technologie. Naast ar en vr wordt ook de metaverse tot een immersieve technologie gerekend.
Alles bij de bron; Computable
PimEyes gaat een detectiesysteem inzetten om zoekopdrachten naar kindergezichten te herkennen en blokkeren. Het bedrijf doet dat na een artikel van The New York Times over hoe zulke diensten kinderen in gevaar kunnen brengen.
Ceo Giorgi Gobronidze vertelt aan het dagblad dat de dienst 'technische maatregelen' heeft genomen om dergelijke opdrachten te blokkeren als onderdeel van een 'no harm'-beleid. PimEyes laat mensenrechtenorganisaties nog wel naar de gezichten van minderjarigen zoeken als die zich bezighouden met kinderrechten, zegt de topman.
De dienst gebruikt 'kunstmatige intelligentie' om de kinderzoekopdrachten te blokkeren. Een algoritme schat de leeftijd van de persoon in de zoekopdracht om zo minderjarigen te identificeren. Volgens de PimEyes-ceo werkt dat goed voor kinderen die jonger dan veertien jaar zijn, maar heeft het nog 'nauwkeurigheidsproblemen' met tieners.
Het systeem zou ook identificatieproblemen hebben als het kind niet vanuit een bepaalde hoek is gefotografeerd. De dienst zegt het detectiesysteem momenteel nog te perfectioneren.
Alles bij de bron; Tweakers
Biometrische systemen maken gebruik van unieke fysieke kenmerken, zoals vingerafdrukken, de vorm van het gezicht of aderpatronen om toegang te verlenen tot een ruimte, apparaat of toepassing. Het omzeilen of hacken van deze systemen is complex en soms zelfs (nog) niet mogelijk. Dit vereist in ieder geval zeer geavanceerde technieken.
Een aanvaller kan proberen biometrische gegevens te vervalsen, bijvoorbeeld door een nepvingerafdruk te maken of een gezichtsafbeelding te gebruiken. De kans op een dergelijke vorm van manipulatie vermindert door ‘liveness detection’. Liveness detection is mogelijk met behulp van bewegingsdetectie of warmtebeeldtechnologie. Het neemt het risico van hacking niet geheel weg maar de kans wordt kleiner.
Als biometrische gegevens worden gestolen, kunnen ze worden gebruikt om toegang te krijgen tot het systeem. Dit kan worden voorkomen door biometrische gegevens op een veilige manier op te slaan en te versleutelen. Daarnaast is het verstandig om de biometrische gegevens op een ander apparaat op te slaan dan waar de overige gegevens staan, zoals de centrale server van een bedrijf. Op deze manier wordt het heel lastig om bij de gegevens te komen en bovendien wordt de koppeling van de biometrie aan een persoon veel moeilijker.
Sommige aanvallers proberen de sensoren zelf te manipuleren. Bijvoorbeeld door de camera van een gezichtsherkenningssysteem te bedekken. Tegenwoordig vinden er zelfs al aanvallen plaats op de chip in de camera’s. In dit soort gevallen zal fysieke beveiliging van de sensoren een oplossing zijn.
Het is dus belangrijk om te kiezen voor een biometrische techniek die moeilijk of niet te kopiëren is. De database kan het beste op een fysiek gescheiden en veilige plek worden bewaard. De data dient zorgvuldig beheerd te worden en dus versleuteld te worden opgeslagen.
Alles bij de bron; Beveiliging
Bij 176 mensen viel een brief van het OM op de mat. Daarin worden zij bestempeld als 'betrokkene', vanwege hun vermeende aanwezigheid bij een klimaatactie op Schiphol. Er volgen misschien geen straffen, maar de manier waarop de Marechaussee en het OM hier intimiderend te werk gaan is zeer zorgwekkend en laat verschillende problemen zien.
Ondanks eerdere ophef plaatst de marechausse zich nu in het rijtje overheidsinstanties die burgers op sociale media in de gaten houden. Zij struinde sociale media af op zoek naar gezichten van burgers die zich online hebben gelieerd aan Extinction Rebellion. Vervolgens gebruikte zij deze gezichten om met behulp van gezichtsherkenningstechnologie de identiteit van demonstranten die aanwezig waren bij de klimaatactie op Schiphol te achterhalen.
Dit laat meteen zien waarom gezichtsherkenning zo'n gebrekkig opsporingsmiddel is. Door toch te kiezen voor de inzet van deze technologie met foto's die in een ongecontroleerde setting zijn gemaakt neemt de marechaussee dit risico op de koop toe. De verantwoordelijkheid voor die foutmarge probeert de minister nu af te schuiven op de demonstranten.
Die wilden namelijk niet zelf meewerken aan hun eien identificatie. Een schokkende visie die riekt naar victim blaming. Op basis van die match, correct of niet, worden er conclusies getrokken en jij hebt met de consequenties te dealen.
De werkwijze van de marechaussee laat zien dat als gegevens binnen handbereik zijn het erg verleidelijk is om deze te gebruiken. Zo is de gezichtsherkenningsdatabank van de politie (CATCH heet dat systeem) ook tot stand gekomen.
Een bestaande verzameling foto's is hiervan het begin geweest. Onderhand is die databank uitgegroeid tot een verzameling van de gezichten van maar liefst 1,5 miljoen mensen. Het lijkt erop dat de marechaussee daar in dit proces ook gebruik van heeft gemaakt. Dat zou ook kunnen betekenen dat mensen van wie een foto is gemaakt of die (foutief) geїdentificeerd zijn door de marechaussee nu ook in deze databank te vinden zijn. En hoe makkelijk je ook in deze databank komt, of je er ook weer uit komt is niet duidelijk.
Gezichtsherkenning maakt de drang gegevens die voorhanden zijn te gebruiken extra ingrijpend, omdat je gezicht werkt als een unieke identifier die je altijd bij je draagt. Een wandelende streepjescode waarmee gegevens over jou die op verschillende plekken over je te vinden zijn, zonder jouw toestemming (of medeweten) aan elkaar kunnen worden geknoopt.
En dat is vervelend voor jou, maar ook zeker schadelijk voor onze democratie. Op deze manier zorgt de surveillance ervoor dat mensen zich minder durven uitspreken, en dat is niet wat een democratie nodig heeft.
Alles bij de bron; Bits-of-Freedom
Journalist Kashmir Hill ontdekte dat bijna iedere westerse burger nu al in de database van AI-bedrijf Clearview zit. Ze schreef er een boek over.
U wilt weten wie die interessante persoon is aan de andere kant van de bar? Maak op een onbewaakt moment een foto met uw smartphone. Een vage foto is voldoende. Upload het kiekje en speciale AI-software onthult de identiteit van de persoon die u fotografeerde.
Die techniek is er en zo’n beetje iedere westerse burger zit al in de database van Clearview, het bekendste bedrijf dat dit soort diensten aanbiedt. Logisch dat politiekorpsen over de hele wereld er dol op zijn.
CleasView schraapt sociale media af en legt een database aan van miljarden foto’s met bijbehorende namen. Niet van criminelen, maar van gewone burgers die hun kiekjes nietsvermoedend op Facebook of Instagram zetten.
Toen Hill haar artikel begin 2020 publiceerde, bleken verschillende Amerikaanse politiekorpsen er al gebruik van te maken. Zij konden beelden van beveiligingscamera’s vergelijken met de foto’s van Clearview. Het artikel sloeg in als een bom.
Toen ik de Nederlandse politie twee jaar geleden vroeg of ze Clearview gebruikte, kreeg ik een ontwijkend antwoord: ‘We zijn niet centraal benaderd door Clearview, maar het kan natuurlijk altijd dat individuele politiemensen het gebruiken.’
‘Dit is precies het antwoord dat ik altijd kreeg, zo werkt Clearview, door zijn software aan individuele rechercheurs aan te bieden. Zo kan de politie altijd zeggen: wij weten van niets. Maar het is kraakhelder dat de software institutioneel wordt gebruikt.’
Het begon met een tip die u kreeg. Sloeg u er gelijk op aan? ‘Ja, ik schrijf al meer dan tien jaar over technologie en privacy en het gaat al lang over gezichtsherkenning. Ik was in 2011 in Washington bij een conferentie over dat onderwerp. Google was er, Facebook, ambtenaren, privacymensen. En iedereen, echt iedereen was het erover eens: dit mag nooit gebeuren. We moeten geen gigantische database met foto’s willen waarmee iedere vreemdeling kan worden geïdentificeerd, met alle risico’s die daarbij horen. Toen ik dan ook de tip over Clearview kreeg, dacht ik onmiddellijk: wacht even, dit gebeurt dus al! Niet in China, maar onder mijn neus in New York.’
Alles bij de bron; Volkskrant [lekker-lang-lezen-artikel]
‘In de toekomst zal privacy de nieuwe celebrity zijn,’ zei Sean Parker eens, een beroemde Amerikaanse techondernemer, bekend van zijn muziekdownloadsite Napster en als een vroege investeerder in Facebook.
Parkers uitspraak leunt op een prikkelende tegenstelling: privacy en roem zijn elkaars tegengestelden, en waar we over het eerste doorgaans vrij gemakzuchtig doen, is dat laatste het meest begeerde object van verlangen in onze gemedialiseerde wereld.
In het YouTube-programma Hot Ones, waar beroemdheden worden geïnterviewd terwijl ze gepeperde kippenvleugeltjes eten, werd het citaat vier jaar geleden voorgelegd aan acteur Ashton Kutcher, celebrity pur sang. “Ja, ik denk dat hij gelijk heeft, zei Kutcher. Ik heb nu een app op mijn telefoon, in mijn achterzak. Een gezichtsherkenningsapp. Ik kan hem op het gezicht van wie dan ook richten die hier nu staat, en precies achterhalen wie je bent, op welke socialemedia-accounts je staat. Het is angstaanjagend.”
Die app heet Clearview, en heeft dertig miljard plaatjes van gezichten van het internet getrokken en verzameld in een database. Volgens journaliste Kashmir Hill zal deze technologie een definitief einde maken aan privacy.
In de voorpublicatie van haar boek gaat het hoofdzakelijk over de pogingen van de oprichters hun app gefinancierd te krijgen – een zoektocht langs allerlei excentrieke miljardairs, die uiteindelijk niet investeerden, maar de app wel als geinig speeltje gebruikten.
Ondertussen is ten behoeve daarvan wel de biometrische informatie van miljoenen mensen verzameld en beschikbaar gemaakt, zonder dat zij daar toestemming voor hebben gegeven, maar die wel op allerlei manieren tegen ze gebruikt kan worden.
Met Clearview is de toekomstige ‘nieuwe celebrity’ die Sean Parker voorspelde een resultaat van ongelijke verdeling, niet van aandacht, zoals bij klassieke roem, maar van direct toegankelijke kennis over de ander. Die wel heel makkelijk verzameld wordt, nu we ons allemaal zo graag kleine beroemdheden wanen op onze eigen socialemedia-accounts.
Alles bij de bron; Trouw
De hoogste politiefunctionaris in het Verenigd Koninkrijk voorspelt dat er met de technologie van gezichtsherkenning bij politieonderzoek net zo’n grote sprong voorwaarts mogelijk is als met dna-onderzoek. In Nederland werkt de politie al veel met de technologie.
Sir Mark Rowley, de commissaris van de Metropolitan Police, verwacht dat nu live gezichtsherkenning zijn enorme effect bij het identificeren van gezochte criminelen in grote menigten al heeft bewezen de volgende stap van achteraf zoeken dicht bij is.
In de praktijk zal dat kunnen betekenen dat software permanent grote voetgangersstromen gaat monitoren zoals dat nu al gebeurt met kentekenplaten bij toegangswegen naar grote steden.
De meeste gezichten die zullen worden gescand zijn onschuldig, maar hun gelaatskenmerken worden dan mogelijk toch opgeslagen.
Er wordt in Nederland nu al gewerkt met CATCH. Dat is een systeem met een database met gelaatsafbeeldingen van verdachten en veroordeelden. Er 2,7 miljoen foto’s opgeslagen van personen die zijn aangehouden geweest voor een misdrijf of veroordeeld zijn.
Nu kan ook worden gewerkt met camera’s die in openbare ruimtes staan opgesteld, ten behoeve van opsporing, hulpverlening of handhaving van de openbare orde.
Dit jaar was er kritiek omdat de politie met CATCH ook een database van de vreemdelingendienst met 6,5 miljoen migranten analyseert.
Privacyorganisaties zijn bezorgd omdat ze menen dat er door sommige technologie voor gezichtsherkenning basisrechten worden geschonden.
Alles bij de bron; Crimesite
Het socialemediaplatform X past zijn privacyvoorwaarden aan om meer gegevens te verzamelen van gebruikers, waaronder biometrische gegevens maar ook hun professionele achtergrond.
De privacyvoorwaarden verduidelijken niet specifiek om welke biometrische gegevens het gaat, maar wel dat ze noodzakelijk zijn voor het beveiligen van je account. Dat doet vermoeden dat het hier wellicht gaat om je vingerafdruk en/of je gelaatsuitdrukking. Maar er is meer, want X wil meer over je weten dan je vingerafdruk of de kleur van je ogen.
De aangepaste privacyvoorwaarden spannen ook het net om persoonlijke gegevens van gebruikers op te vissen.
We willen alle X-gebruikers dan ook aanraden om de nieuwe privacyvoorwaarden toch maar eerst een goed na te lezen alvorens ze te aanvaarden.
Alles bij de bron; ITDaily
Noyb heeft bij de Spaanse privacytoezichthouder AEPD een klacht ingediend tegen Ryanair.
Vakantiegangers die niet rechtstreeks bij de Ierse luchtvaartmaatschappij hun vakantie boeken, moeten een verificatieproces doorlopen waarbij ‘invasieve gezichtsherkenning’ wordt gebruikt. Op deze manier schendt het bedrijf willens en wetens het recht van klanten op gegevensbescherming om een oneerlijk concurrentievoordeel te behalen ten opzichte van online reisbureaus en andere boekingskanalen.
Een klant klopte aan bij de privacystichting en deed daar haar verhaal. Via het online reisbureau eDreams ontving zij een e-mail van Ryanair met het verzoek om het verificatieproces te voltooien. Ze kreeg de keuze tussen verificatie via gezichtsherkenning, of meer dan twee uur voor vertrek naar de incheckbalie op de luchthaven te gaan. Als ze dit weigerde, mocht ze niet aan boord van haar vlucht. Bovendien werd er een klein bedrag in rekening gebracht voor het verificatieproces.
Ryanair zegt dat ze gezichtsherkenning mag gebruiken, omdat klanten hier toestemming voor geven. Noyb zegt dat de Ierse luchtvaartmaatschappij vakantiegangers op een onbegrijpelijke manier hierover informeert, wat in strijd is met de Europese privacywetgeving. “De informatie van Ryanair is zo verwarrend dat reizigers zelfs kunnen denken dat hun boeking ongeldig is.
De Oostenrijkse privacystichting stelt dat Ryanair probeert om zijn marktpositie veilig te stellen, ten koste van de privacy van zijn klanten. Daarom heeft de organisatie een klacht ingediend bij de Spaanse gegevensbeschermingsautoriteit AEPD. Als de toezichthouder Noyb in het gelijk stelt, kan ze een boete opleggen die kan oplopen tot 192 miljoen euro.
Alles bij de bron; VPN-Gids
Meerdere campings in Nederland maken gebruik van gezichtsherkenning om gasten toegang tot het zwembad te geven, maar dat mag alleen met expliciete toestemming en dat gebeurt niet altijd, zo laat RTL Nieuws op basis van een rondgang weten. Inmiddels maken zeker twaalf campings gebruik van de technologie of zijn van plan dit te doen.
De technologie mag alleen worden ingezet als gebruikers uitdrukkelijke toestemming hebben gegeven. "Mensen zijn niet verplicht om toestemming te geven. U moet mensen daarom ook de mogelijkheid bieden om zichzelf op een andere manier te identificeren. Bijvoorbeeld door hun identiteitsbewijs te laten zien of een toegangspas te gebruiken", aldus de privacytoezichthouder.
Een van de campings bood ook geen alternatief. Inmiddels is dat wel het geval zo laat de camping op de eigen website weten.
Helemaal onderaan de pagina staat dat het gebruik niet verplicht is. "Wens je geen gebruik te willen maken van gezichtsherkenning, kom dan even langs bij de receptie!"
Alles bij de bron; Security