Microsoft stopt met de gezichtsherkenningstechnologie waarmee het bedrijf onder meer emoties van mensen zegt te kunnen raden. Volgens Microsoft riep de kunstmatige intelligentie vragen over privacybescherming op en bestond het risico op discriminatie en andere vormen van misbruik.
Het gaat om de gezichtsherkenning in de dienst Azure Face, die Microsoft aan bedrijven verkoopt. Niet alleen herkent de technologie welke emoties een persoon laat zien, maar ook gender, leeftijd, haar en make-up....
...Experts laten zich al langer negatief uit over de gevolgen van programma's die gezichten kunnen lezen. Zo zouden ze bij werkgevers kunnen leiden tot discriminatie bij het aannemen van nieuwe mensen. Daarnaast buigen wetgevers in de VS en Europa zich over de legaliteit van de technologie.
Alles bij de bron; NU
Er is overduidelijk nog veel werk aan de winkel wat betreft het gebruik van biometrische herkenningstechnologie in de publieke ruimte, stelt columniste en experte digitale rechten Paola Verhaert. Terwijl twee derde van de Vlamingen nog niet eens weet wat AI betekent, blijven politici oorverdovend stil. ‘Dit gaat om onze burgerrechten. Mensen moeten weten wat hen boven het hoofd hangt.’
Met het Europese burgerinitiatief geeft de Europese Commissie Europese burgers een middel in handen om zelf wetsvoorstellen te doen. Dat gebeurt nu ook bij de campagne Reclaim Your Face. Die campagne ijvert voor een verbod op het gebruik van biometrische identificatie in de publieke ruimte.
Ondertussen werkt de Europese Commissie naarstig aan de Artifical Intelligence Act (AI Act). Daarmee wil de Commissie een regelgevend wettelijk kader invoeren voor het gebruik van artificiële intelligentie, en dus ook biometrische identificatie.
Bij biometrische identificatie op afstand wordt een AI-systeem gebruikt om een persoon te identificeren op basis van bepaalde biometrische gegevens. Het kan gaan om stem, iris of gezicht. Gezichtsherkenning groeide de afgelopen jaren uit tot de meest populaire toepassing van biometrische identificatie op afstand. De Europese AI Act zal onder meer bepalen of gezichtsherkenningssoftware in de publieke ruimte toegelaten wordt. Dat wil zeggen dat de impact daarvan op onze burgerrechten niet te onderschatten valt.
Het probleem bij het gebruik van gezichtsherkenningssoftware in de publieke ruimte is dat de deur wordt opengezet voor een continue identificatie van alle burgers. De mogelijkheid van anonimiteit wordt volledig ingetrokken, ongeacht wie je bent.
Biometrische identificatie in de publieke ruimte ondermijnt niet alleen onze rechten op privacy en gegevensbescherming. Ook ons recht op vrijheid van meningsuiting, het recht op vereniging en het recht op gelijkheid en recht op non-discriminatie komen in het gedrang. Denk maar aan het gebruik van gezichtsherkenningstechnologie bij Black Lives Matter-protesten in de VS...
...Er is een overduidelijke nood aan publiek debat over de plaats van gezichtsherkenningssoftware in onze samenleving. Toch blijft het oorverdovend stil bij onze politici. ‘Het is een bewuste strategie van politici’, vertelde Kati Verstrepen van de Liga voor Mensenrechten recent aan Humo. ‘Want ze zijn bang om het debat aan te gaan.’
Maar wie bang is om een debat aan te gaan ontneemt de ander hun recht op spreken. De inzet van dit debat is te hoog om stil te blijven. Daarom dat het broodnodig is dat politici zich durven verdiepen in het thema en een engagement aangaan met middenveldorganisaties en experts. Vorig jaar bleek uit onderzoek van de Vrije Universiteit Brussel dat 2 op 3 Vlamingen nog nooit van AI gehoord had, of als dat wel zo was niet wist wat het betekent. Er is duidelijk nog werk aan de winkel.
Alles bij de bron; MO*
Tesco gaat naar verluidt begin volgend jaar biometrische betaalmethoden, waaronder gezichts- en handpalmherkenning, invoeren bij de kassa.
Volgens sommige berichten zal Tesco's grootste supermarkt in het Verenigd Koninkrijk met deze stap afstappen van contante betalingen en kaartbetalingen, terwijl andere suggereren dat deze helemaal niet meer zullen worden geaccepteerd.
Veel consumenten staan huiverig tegenover de technologie en zien het als een stap in de richting van een cashloze maatschappij. Er wordt echter algemeen aangenomen dat biometrische herkenningssoftware, die authenticatie op basis van fysieke kenmerken mogelijk maakt, zou leiden tot kortere wachtrijen, hygiënischer zou zijn dan het intikken van een pincode en beduidend minder fraudegevoelig is.
Bron: grocerygazette.co.uk via AGF
PimEyes, een zoekmachine met gezichtsherkenning, ligt onder vuur. Voor sommigen lijkt het een handig snufje, voor anderen vooral een dure manier van stalken. VUB-onderzoeker Rob Heyman geeft uitleg.
“PimEyes is een website die het internet doorzoekt naar foto’s die lijken op de foto die je zelf oplaadt. De machine onderscheidt unieke kenmerken in de geüploade foto en gebruikt die om door de hele database van het internet te gaan. Enkel foto’s op sociale media laat het links liggen.”
“Mensen die hun online privacy willen beschermen en er zeker van willen zijn dat hun foto’s op bepaalde plaatsen niet opduiken, kunnen zich een abonnement aanschaffen. Stel dat je iets bekender bent en jouw foto’s zich automatisch overal verspreiden, dan is dat wel een manier om een overzicht te krijgen van waar die foto’s te vinden zijn. En of ze wel getoond worden op een website of bij een thema waarmee je geassocieerd wil worden.”...
...Is de website legaal? “Als het je eigen afbeelding is die je gebruikt, is het op het eerste gezicht volledig in orde. Al weet ik niet of de server van PimEyes in Europa staat en of hun privacy statement up-to-date is. Waar PimEyes minder op zal scoren is dat zij heel het internet hebben doorzocht om hun overzicht van foto’s te maken. Ook foto’s die niet op PimEyes zijn geüpload zullen dus al door hun systeem zijn gehaald, inclusief de mijne en de jouwe.”
Alles bij de bron; deMorgen
De Reclaim Your Face coalitie zet zich al een tijd in om biometrische surveillance uit de Europese straten te weren. We pleiten ervoor dat het verbod op biometrische surveillance, zoals dat nu in de voorgestelde AI-Verordening staat, breder wordt. Zo schreven we een brief aan Europarlementariërs waarin we samen met 53 organisaties vragen om betere bescherming van onze fundamentele rechten door biometrische massasurveillance te verbieden.
De belangrijkste punten uit onze oproep voor een breder en beter verbod op biometrische surveillance in de AI-Verordening zijn:
...meerdere leden van het Europees parlement hebben publiekelijk toegezegd amendementen in te zullen dienen voor een volledig verbod op biometrische massasurveillance in de AI-Verordening. En Europarlementariërs Kim van Sparrentak, Peter Vitanov, Kateřina Konečná en Rob Rooken zich uitspraken voor een vol verbod op biometrische surveillance in de openbare ruimte. Daarbij voegen zij zich bij Svenja Hahn en Brando Benifei die dit eerder al deden.
Maar het is nog geen gelopen race. Er zal nog vele maanden onderhandeld moeten worden over de AI-Verordening. Daarom is het nog steeds belangrijk dat we ons laten horen voor betere bescherming van onze rechten en vrijheden en onze open samenleving. Ook jij kunt dat doen door ons burgerinitiatief Reclaim Your Face te ondertekenen. Onderteken ons burgerinitiatief voor een verbod op biometrische surveillance in de openbare ruimte
Disclaimer: Bij het klikken op de link wordt je doorverwezen naar de pagina van het burgerinitiatief Reclaim Your Face. Bij het ondertekenen wordt om persoonsgegevens gevraagd. Deze gegevens zijn nodig om je ondertekening geldig te maken, zoals vereist in de Europese Verordening over het Europees burgerinitiatief.
Alles bij de bron; Bits-of-Freedom
Kim Clijsters heeft begin dit jaar geschiedenis geschreven: in haar Sports and Health Club in Bree wordt gebruikgemaakt van camera’s met gezichtsherkenning. Pionieren op de grens van de illegaliteit is dat, want het gebruik van software voor gezichtsherkenning is nog niet wettelijk geregeld. Zo mag de politie er eigenlijk nog niet mee werken, al experimenteert ze er toch al mee...
...“Elke speler moet zich aanmelden bij een camera. Die kan het gezicht herkennen en het lid toegang geven tot het terrein. ... Wie de gezichtsherkenning oncomfortabel vindt, kan ook zijn identiteitskaart voor de camera houden. Dat werkt even goed."
Mag een lokale sportclub de gezichten van leden wel scannen en in een databank opslaan? Nathalie Smuha (onderzoeker AI, recht en ethiek KU Leuven): “Organisaties en bedrijven die niet onder de overheid vallen, mogen software voor gezichtsherkenning gebruiken als ze daarvoor uitdrukkelijk toestemming krijgen van wie eraan onderworpen wordt. Ze mogen ook een databank aanleggen met de gezichten van al die personen.”
...Matthias Dobbelaere-Welvaert, jurist en privacy-activist, maakt zich wél zorgen. Hij heeft The Ministry of Privacy opgericht, een organisatie die onder meer strijdt tegen gezichtsherkenning op straat. “.. Volgens mij wordt er achter de schermen wel geëxperimenteerd op de grens van wat wettelijk is toegestaan. Dat de federale politie maandenlang heeft gelogen over het gebruik van Clearview, zegt ook veel.”
De druk op de wetgever om een kader uit te tekenen neemt toe. Politiezones kopen het materiaal aan en commissaris-generaal Marc De Mesmaeker van de federale politie is al jaren voorstander.
Kati Verstrepen (voorzitter Liga voor Mensenrechten): “Ik maak me zorgen: het parlement heeft een kwalijke reputatie als het over privacywetgeving gaat. In 2018 werd de nieuwe Camerawet zonder veel debat goedgekeurd in de Kamer. De man in de straat krijgt kop noch staart aan dat technische jargon en denkt dat het allemaal wel in orde zal zijn, maar zonder het te beseffen geeft hij een grondrecht op. Dat is een bewuste strategie van de politici, want ze zijn bang om het debat aan te gaan.”
Alles bij de bron; deMorgen [scan]
De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen.
Nu is het verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon.
Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.
Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt. Zodat onze gezichten ook op het internet veilig zijn.
Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.
Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbieden.
Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.
Alles bij de bron; Bits-of-Freedom
Om de identiteit van de slachtoffers van de oorlog in Oekraïne te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacy-schandaal: de Europe Commissie heeft een plan voor één van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?...
... Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij Clearview AI wordt er gebruik gemaakt van slimme algoritmes om geportretteerden te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?
Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van CCTV-camera's, foto's van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance infrastructuur ter wereld.
Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme?
Alles bij de bron; BNN/VARA Joop
Het kabinet trekt 13 miljoen euro extra uit in de strijd tegen internationale drugssmokkel. Het geld wordt besteed aan onder meer ‘slimme camera’s’ op havens, Schiphol en de logistiek rond de bloemenveiling en havens in Zeeland, Brabant en Amsterdam, andere cruciale logistieke knooppunten.
De slimme cameratechniek scant de ogen, het gezicht of de stem van medewerkers op die plekken, zodat alleen zij toegang krijgen tot bijvoorbeeld de opslag of plekken waar goederen aankomen.
De inzet van camera’s die persoonlijke kenmerken (biometrie) als ogen en gezichten kunnen scannen, was eerder een aanbeveling na onderzoek naar drugssmokkel. Drugssmokelaars betalen corrupte beambten soms voor hun toegangspassen tot terreinen, constateerde de Erasmus Universiteit in onderzoek. Bij biometrische controles wordt dat onmogelijk.
Alles bij de bron; BrabantsDagblad
Het Oekraïense ministerie van Defensie is begonnen met het inzetten van Clearview AI om Russische soldaten te herkennen en om lichamen te identificeren. Dat meldt de ceo van Clearview aan Reuters.
Oekraïne krijgt gratis toegang tot de diensten van Clearview AI, waarmee autoriteiten bijvoorbeeld mensen kunnen doorlichten bij controleposten. Dat vertelt het bedrijf aan persbureau Reuters. Clearview heeft in zijn database naar eigen zeggen '2 miljard foto's' van gezichten. Die zijn ook deels afkomstig van het Russisch sociaal medium VKontakte.
De database zou gebruikt kunnen worden om lichamen van Russische soldaten te identificeren of Russische spionnen te herkennen. Volgens het bedrijf kan de gezichtsherkenningstechnologie ook gebruikt worden om socialemediaberichten met desinformatie over de oorlog te bestrijden en bij vluchtelingenwerk, bijvoorbeeld om gescheiden families te herenigen.
Alles bij de bron; Tweakers