Automatische gezichtsherkenning zou de samenleving fundamenteel veranderen, zo stelt Sander Flight, adviseur op het gebied van cameratoezicht en privacy.
"Daarmee zou iedereen kunnen zien waar iedereen is geweest. Gelukkig is precies deze vorm van gezichtsherkenning net verboden door de EU." Dat 'verbod' in de Europese AI Act is echter niet absoluut en zijn er allerlei uitzonderingen van toepassing, waardoor opsporingsdiensten deze technologie toch mogen inzetten.
Zo mag real-time gezichtsherkenning worden ingezet voor het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Andere situaties zijn het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.
Burgerrechtenbewegingen vrezen dan ook live gezichtsherkenning in openbare ruimtes.
Alles bij de bron; Security
Bunq-medewerkers keken stiekem in rekeningen van klanten, bijvoorbeeld om een date te controleren of te zien wat collega's verdienen, zo meldt NRC. Volgens de krant heeft de bank geen systeem waarbij werknemers actief worden gecontroleerd op privacyschendingen en weigeren sommige medewerkers uit angst te worden bekeken om een bunq-rekening te openen.
NRC sprak met verschillende huidige en voormalige medewerkers. Waar andere banken principes als 'zero trust' en 'least privilege’ hanteren, en zo wordt beperkt tot welke gegevens men toegang heeft, geeft bunq medewerkers brede toegang tot bankrekeningen en transacties van klanten.
Intern zijn er zorgen over de vergaande toegang die medewerkers hebben. Sommige medewerkers willen dan ook geen bunq-rekening openen, bijvoorbeeld uit angst dat managers vervolgens kijken of ze wel echt ziek zijn.
Bunq stelt in een reactie dat het wil dat (vrijwel) alle medewerkers, van de ceo tot de bedrijfsjurist, klanten kunnen helpen met hun vragen, waarvoor toegang tot gebruikersgegevens nodig is.
Alles bij de bron; Security
In 2024 zouden we permanent in de gaten worden gehouden via ‘slimme camera’s’, voorspelden privacydeskundigen in 2014. Ze kregen geen gelijk, zegt Sander Flight....
...Voor een controlemaatschappij hoeven we niet meer bang te zijn?
„We moeten wel waakzaam blijven. Het geloof in technologie als oplossing voor complexe sociale vraagstukken is nog altijd groot. Denk maar aan de inzet van kunstmatige intelligentie en algoritmes. Van de Toeslagenaffaire lijken we weinig geleerd te hebben. En ik heb natuurlijk ook geen goed zicht op de datastromen bij alle bedrijven die cameradeurbellen aanbieden en auto’s met camera’s uitrusten.
„Waar ik me nog steeds zorgen over maak is biometrie, en dan vooral automatische gezichtsherkenning. Daarmee zou iedereen kunnen zien waar iedereen is geweest. Dat zou onze samenleving fundamenteel veranderen. Gelukkig is precies deze vorm van gezichtsherkenning net verboden door de EU.
„Maar dat wil natuurlijk niet zeggen dat bedrijven buiten Europa niet de randen opzoeken. Het Amerikaanse bedrijf Tools for Humanity gaf cryptogeld aan miljoenen mensen in arme landen om hun irissen te scannen. Niet voor gezichtsherkenning, maar om iedereen op aarde te kunnen identificeren, om zo een wereldwijd digitaal paspoort te kunnen invoeren. Inmiddels hebben de data-toezichthouders van Kenia en Argentinië op de rem getrapt. Dit soort bedrijven moeten in toom worden gehouden. De voorbije tien jaar hebben laten zien dat dat mogelijk is.”
Alles bij de bron; NRC [Thnx-2-Niek]
Uiteraard hebben wij hier beleid voor. Zoals we in de zorg voor alles beleid hebben.
Neem het uitgewerkte contract tussen Careyn en de thuiszorgcliënt. Als een cliënt een camera in huis heeft en een collega van ons er komt zorgen, dan wordt dit besproken en het contract ondertekend. Niet filmen zonder afspraken, of bewaren van de beelden. Tijdens de zorg afdekken van de camera, zodat de collega niet ongewenst in beeld komt. Allemaal geregeld.
Maar wat gebeurt er als een thuiszorgmedewerker opeens een opgehangen camera ontdekt? Eerder niet opgevallen. Ook niet besproken. De medewerker heeft een band opgebouwd met de cliënt, maar voelt zich bekeken. Onveilig. Wie kijkt er mee? Worden de beelden opgenomen?
In de thuiszorg staat iemand er altijd alleen voor. Ik vind dan ook dat wij als bestuurders onze mensen daarin moeten steunen. Hoe? Door ze extra te trainen met dit soort dilemma’s om te gaan. Of waar ze terechtkunnen voor raad en daad. Zo nodig maken wij nieuw beleid.
Ik besef dat beleid en ondersteuning nooit afdoende zijn. Daarom is het nodig dat er in de samenleving wordt gepraat over de vraag of iemand thuis, zonder afspraken, camera’s kan ophangen. En ongevraagd onze collega’s filmt. Want dit raakt de privacy en de bescherming van het individu. Laten we dat gesprek voeren. In het besef dat een camera wel degelijk kan helpen voor de familie als de thuiszorg er niet is.
Alles bij de bron; MedischContact
Voor het behouden van kwalitatieve goede beelden van toezichtcamera´s van Alkmaar zijn in 2023 zijn er 22 camera’s vervangen en komend jaar worden 38 camera’s vervangen en uitgerust met de nieuwste technologie. Om de observanten in de toezichtruimte effectiever en efficiënter hun werk te laten uitvoeren start in medio juli 2024 een pilot van een jaar met slimme camera’s.
De pilot is er op gericht om, door middel van slimme videotechnologie, gewelddadige incidenten in real-time te detecteren. In Alkmaar wordt de software van het bedrijf Oddity allereerst toegepast op de camera’s in het uitgaansgebied, met de intentie om bij succes dit uit te breiden en toe te passen bij meer permanente camera’s in andere gebieden.
Oddity werkt met een algoritme dat onder supervisie offline leert. Het algoritme heeft geleerd om geweld te onderscheiden van normale situatie door gebruik te maken van twee datasets: een dataset met videofragmenten van gewelddadige handelingen, en een dataset met videofragmenten van ‘normale situaties’. Het model leert gewelddadige bewegingen te herkennen en niet individuele personen te profileren.
Alles bij de bron; BeatFM
Het Normenkader Informatiebeveiliging en Privacy is vernieuwd. Het is meer toegespitst op het onderwijs, gebruiksvriendelijker gemaakt en doorzoekbaar.
In april 2023 werd de eerste versie van het Normenkader Informatiebeveiliging en Privacy voor het Funderend Onderwijs gepubliceerd.
Met het Normenkader IBP spreken we als sector af wat de minimale eisen zijn aan digitaal veilig onderwijs, zodat elke school hieraan kan voldoen. Het normenkader beschrijft de normen voor digitale veiligheid en geeft schoolorganisaties handvatten om zich zo goed mogelijk te beschermen tegen actuele digitale dreigingen in het funderend onderwijs, zoals datalekken en cyberaanvallen.
Het doel is dat leerlingen, ouders en medewerkers kunnen leren en werken in een digitaal veilige schoolomgeving en dat hun persoonsgegevens worden beschermd.
Alles bij de bron; PORaad
Meta liet enkele weken geleden, via een pop-up, weten aan gebruikers dat het binnenkort hun foto’s en teksten zal gebruiken voor AI. Tenzij gebruikers zich expliciet verzetten, gaat Meta uit van ‘gerechtvaardigd belang’ als argument om dat te mogen doen. Dat is geen geldige reden, benadrukt NOYB (None Of Your Business, de privacy-organisatie van Schrems).
De organisatie heeft in elf Europese landen een klacht ingediend om Meta zo snel mogelijk terug te fluiten hierin. En NOYB beargumenteert ook dat Europese privacywetgeving boven de belangen van Meta zelf staat.
Tegelijk blijft Meta bijzonder vaag over hoe en waar die informatie wordt gebruikt. "Net als ‘het gebruik van je gegevens in databases’ heeft het geen echte wettelijke limiet. Meta zegt niet waarvoor het de gegevens zal gebruiken, dus het kan een eenvoudige chatbot zijn, extreem agressieve gepersonaliseerde reclame of zelfs een killer drone. Meta zegt ook dat gebruikersgegevens beschikbaar kunnen worden gesteld aan elke ‘derde partij’ – dat betekent iedereen ter wereld", aldus Schrems in een mededeling.
NOYB vindt verder dat de procedure om bezwaar te maken onnodig complex is gemaakt. Gebruikers moeten zelf bezwaar aantekenen, vaak nog eens extra inloggen en zelf verwoorden waarom ze niet willen dat de gegevens gebruikt worden voor AI. "De verantwoordelijkheid afschuiven op de gebruiker is volkomen absurd", zegt Schrems. "Als Meta je gegevens wil gebruiken, moeten ze je om toestemming vragen. In plaats daarvan laten ze gebruikers smeken om te worden uitgesloten. We waren vooral verbaasd dat Meta zelfs de moeite heeft genomen om heel veel kleine afleidingen in te bouwen om ervoor te zorgen dat slechts een heel klein aantal gebruikers daadwerkelijk de moeite zou nemen om bezwaar te maken."
In de elf landen waar Schrems klacht heeft ingediend, vraagt hij om een spoedprocedure. De verwerking gaat immers van kracht op 26 juni 2024.
Alles bij de bron; Dutch-IT-Channel
Verschillende Nederlandse gemeenten experimenteren met 'slimme' camera's om geweld te detecteren, maar uit beschikbare cijfers blijkt dat er vaak onterecht alarm wordt geslagen. De camera's worden onder andere getest in Almere, Amsterdam, Den Haag, Rotterdam en Sittard-Geleen of dit is in voorbereiding.
De politiekorpsen van Den Haag, Rotterdam en binnenkort ook Amsterdam werken met software van het Utrechtse bedrijf Oddity.ai om geweld op straat te detecteren. In de praktijk blijkt dat ook regelmatig onschuldige bewegingen als geweld worden aangemerkt.
De politie Den Haag wil geen cijfers geven over hoe vaak de software de fout in gaat of het juist heeft. RTL Nieuws beschikt wel over cijfers uit Sittard-Geleen.
In vier maanden tijd waarschuwden de camera's daar 390 keer voor 'geweld', maar in bijna 92 procent van de gevallen bleek het vals alarm. Van de 390 meldingen ging het om 34 geweldsincidenten. In 96 keer werd alarm geslagen wegens spelende kinderen, stoeiende mensen en boksbewegingen in de lucht. Bij de overige 260 keer betrof het meldingen die helemaal niet in de buurt kwamen van geweld of iets wat daarop lijkt.
Naast de vals positieven kunnen de camera's ook voor een ander probleem zorgen. "Is het fijn om rond te lopen door een straat met allemaal apparatuur die elke stap die je neemt opneemt én analyseert?", stelt onderzoeker Bart Karstens van het Rathenau Instituut de vraag. "Het kan het gedrag van mensen aanpassen, omdat zij 'normaal gedrag' willen vertonen. Hoe ver willen we daarin gaan?"
Alles bij de bron; Security
NS gaat binnen twee maanden evalueren of het bodycams op een grote schaal wil inzetten onder zijn personeel.
Op 15 januari is NS gestart met het testen van bodycams. Tijdens dit proefproject dragen 120 hoofdconducteurs en servicemedewerkers een bodycam die na het inschakelen zowel beeld als geluid opneemt. Dit materiaal moet van pas komen wanneer er geen ooggetuigen zijn bij een incident. Het is een aanvulling op de camera’s die sinds 2018 worden gedragen door 700 veiligheidsmedewerkers.
Door voldoende tijd te nemen wil NS ervoor zorgen dat zijn personeel kan wennen aan de technologie en dat de juiste ervaring wordt opgedaan. Bij verkeerd gebruik kunnen bodycams in sommige situaties namelijk voor een escalerend effect zorgen.
Alles bij de bron; Tweakers
In een zaak waarbij tientallen bekende Nederlanders en publieke figuren slachtoffer zijn geworden van deepfake-pornovideo's die rondgingen op internet, zijn vijftien aangiftes gedaan. Een woordvoerder van het OM Parket-Generaal bevestigt donderdag berichtgeving hierover.
Nederlandse instanties hebben belangrijke maatregelen genomen tegen de website die de filmpjes verspreidde. Zo zouden er tientallen filmpjes van BN'ers en Kamerleden offline zijn gehaald. Toch staan er nog altijd filmpjes online van actrices en van presentatrices van NOS, RTL en SBS6.
In maart werd bekend dat tussen de zeventig en tachtig bekende Nederlandse vrouwen slachtoffer zijn geworden van deepfake-pornofilmpjes.
Vijftien van deze vrouwen hebben aangifte gedaan. Dat bevestigt het OM Parket-Generaal. Gedupeerden zeggen nog niets van het Openbaar Ministerie (OM) te hebben vernomen, maar reageren verheugd dat de meeste beelden op Platform S. offline zijn gehaald.
Alles bij de bron; NU