Een woonzorgcentrum is gestart met een pilot met gezichtsherkenning om te voorkomen dat mensen met dementie, die het zorgcentrum niet mogen verlaten, dat toch doen. Bij de voordeur worden de gezichten van mensen gescand. Sta je op de lijst, dan blijft de deur gesloten.
Lichamelijke integriteit is voor iedereen belangrijk, ook voor mensen met dementie. Het zorgcentrum dat verantwoordelijk is voor de gezondheid en veiligheid van inwoners zal niet onregelmatig voor het dilemma staan: wanneer en in welke mate is een inbreuk op de privacy en lichamelijke integriteit van bewoners gerechtvaardigd?
We zien dat onze lichamen steeds vaker gedataficeerd worden - niet alleen in de zorg. Iedereen heeft het recht om zelf te bepalen wat er met zijn lichaam gebeurt. Wij vinden dat mensen ook zelf moeten kunnen beslissen welke data er over hun lichamen gegenereerd wordt en hoe deze wordt gebruikt.
Dat is waarom 'lichamelijke integriteit' één van de vier programma's is waar Bits of Freedom de komende drie jaar op werkt.
We willen ten eerste terugduwen tegen de vergaande dataficatie van onze lichamen. Zeker daar waar die data wordt gebruikt om producten te ontwikkelen die niet in ons voordeel zijn. Denk aan gezichtsherkenningszoekmachines, deep fakes, of ‘slimme’ camera’s waarmee mensen op straat kunnen worden geclassificeerd.
Daarnaast richten we ons op gezondheidsdata. Gezondheidsapps verzamelen en genereren ontzettend veel gevoelige data over mensen. Met name vrouwen worden door deze dataverzameling kwetsbaar. We doen onderzoek naar veelgebruikte apps die deze data verhandelen en stappen naar de rechter om hun praktijken te stoppen. Parallel daaraan mobiliseren we consumenten om druk uit te oefenen op deze apps.
Alles bij de bron; Bits-of-Freedom
Het Verenigd Koninkrijk wil moorden voorspellen aan de hand van technologie.
Zogenaamde ‘predictive policing’, of ‘informatiegestuurd werken’ zoals de politie het noemt, is al geen sciencefiction meer. Ook in België experimenteren verschillende politiezones ermee, maar het gaat dan om het voorspellen waar of wanneer bepaalde misdaad het meest waarschijnlijk is. Het gaat daar dus niet om het voorspellen wie over de schreef zal gaan.
“Op persoonsniveau voorspellen is sinds kort expliciet verboden door de Europese AI-richtlijn”, zegt Frank Schuermans, hoofd van het Controle-Orgaan op Politionele Informatie (COC).
“Het Verenigd Koninkrijk volgt het voorbeeld van de VS, maar we weten tot welke blunders dat daar al heeft geleid.” Zo heeft bijvoorbeeld de politie van Chicago al zeker drie personen verkeerdelijk aangehouden en opgesloten.
Maar ook de niet-geïndividualiseerde aanpak roept vragen op, volgens een nieuw rapport van ULB-onderzoeker Corentin Debailleul, in opdracht van de Liga voor Mensenrechten en de ngo Statewatch. “Het gaat om een vernislaagje van neutraliteit”, zegt Debailleul.
Een belangrijk probleem in België zijn de onderliggende databanken om aan misdaadvoorspelling te doen. De accuraatheid daarvan is een oud zeer.
Iemand die is vrijgesproken, kan nog jaren later in de databanken als verdachte zitten. In het rapport van Debailleul heet dat ‘garbage in, garbage out’. Schuermans bevestigt: “Er is een probleem met de retour-flux. Al sinds 2014 is wettelijk bepaald dat vrijspraken, buitenvervolgingstellingen en seponeringen moeten terugvloeien naar de politie, maar dat gebeurt onvoldoende.”
Er is de afgelopen decennia een wildgroei aan databanken ontstaan, tot meer dan 1.500, en een poging tot een overkoepelend systeem lijkt maar niet te lukken.
Het digitaliseringsproject I-Police is op poten gezet na de terreuraanslagen in 2016 en er is al meer dan 400 miljoen euro voor uitgetrokken. Via dat systeem moeten agenten informatie kunnen zoeken in alle databanken en via artificiële intelligentie kruisen met andere dossiers, camerabeelden, foto’s, vingerafdrukken en andere sporen. Vorig jaar bleek dat het project elke deadline overschreed en een audit waarschuwde voor totale mislukking. Daarop is toen de leiding van het I-Police-project aan de kant geschoven.
Voor I-Police werkt de federale politie met een consortium rond het Franse Sopra Steria, waarin ook enkele Israëlische start-ups zitten. Een platform voor de analyse van big data wordt geproduceerd door TA9, een Israëlisch technologiebedrijf. Een ander Israëlisch bedrijf in het consortium wordt geleid door Yair Pecht, ex-CEO van de NSO-groep, berucht voor de Pegasus-spyware waarmee journalisten, politici en activisten zijn gemonitord, onder wie de vermoordde Jamal Kashoggi.
Alles bij de bron; deMorgen [inloggen noodzakelijk]
NSC heeft een amendement ingediend om de Uitvoeringswet Algemene verordening gegevensbescherming (UAVG) aan te passen.
Als het aan NSC-Kamerlid Six Dijkstra ligt worden boetes voortaan altijd openbaar. "Het doel is om de zichtbaarheid van de AP te vergroten, een afschrikkende werking te creëren voor overtredingen van de AVG, en organisaties de kans te geven van elkaar te leren. Door deze boetes openbaar te maken, wordt het voor ondertoezichtgestelden duidelijker wat de gevolgen zijn van overtredingen, wat hen kan motiveren om hun naleving te verbeteren."
"Het amendement zorgt ervoor dat de AP wettelijk verplicht wordt om boetebeschikkingen openbaar te maken, wat de effectiviteit van de handhaving versterkt en bijdraagt aan meer transparantie en naleving van de AVG", laat Six Dijkstra verder weten.
Er gelden wel verschillende uitzonderingen, bijvoorbeeld wanneer openbaarmaking voor 'onevenredige mate' schade aan de betrokken partij zou veroorzaken of een lopend strafrechtelijk onderzoek of een lopend onderzoek door de toezichthouder zou ondermijnen. De Tweede Kamer moet nog over het amendement stemmen.
De AP liet vorig jaar weten dat beboete partijen meestal naar de rechter stappen om publicatie van een opgelegde boete tegen te houden. In sommige gevallen krijgt die partij dan ook gelijk.
Alles bij de bron; Security
Berichten van Europese gebruikers die niet zijn afgeschermd, worden voortaan door Meta gebruikt om AI-modellen te trainen. Het gaat bijvoorbeeld om foto's die je deelt op Instagram en reacties die je achterlaat op Facebook.
Meta verstuurt deze week meldingen aan gebruikers om ze van de verandering op de hoogte te brengen. Alle berichten die volwassen gebruikers op Facebook en Instagram delen, worden voortaan gebruikt om AI-modellen van Meta te delen. Mits ze openbaar toegankelijk zijn.
Afgeschermde berichten op privéaccounts komen niet in de trainingsdata terecht, belooft het bedrijf. Dat geldt dus ook voor berichten die je via WhatsApp naar vrienden en familie stuurt.
Mensen die niet willen dat hun data worden gebruikt, kunnen via de melding van Meta bezwaar aantekenen. Gegevens van Europese gebruikers die jonger zijn dan achttien jaar, worden überhaupt niet gebruikt om modellen te trainen.
Meta noemt het belangrijk om Europese data te kunnen verwerken om "de diverse nuances en complexiteit van Europese gebruikers" te kunnen begrijpen. Het bedrijf verwijst bijvoorbeeld naar dialecten en het gebruik van sarcasme.
Vorig jaar stopte Meta tijdelijk met het uitbrengen van AI-functies in de EU, nadat privacytoezichthouders het bedrijf hadden teruggefloten.
Alles bij de bron; NU
Frankrijk is begonnen met de implementatie van een wet, waarbij pornosites moeten controleren of bezoekers boven de 18 jaar zijn. Dat kan met het uploaden van bijvoorbeeld een paspoort of het inschatten van de leeftijd via een video-opname.
De wet is vrijdag ingegaan voor sites uit Frankrijk en buiten de EU, sites die in andere EU-landen zitten moeten over een paar maanden voldoen, meldt Politico.
Een parlementslid zegt tegen Politico dat de eerste blokkades als sites niet voldoen, vanaf deze zomer kunnen plaatsvinden. Pornhub vecht de wet aan in een rechtszaak.
Alles bij de bron; Tweakers
De politie roept mensen op te stoppen met de online heksenjacht die in Helmond is ontstaan na de zelfdoding van een 14-jarig meisje.
Sinds bekend werd dat ze op school werd gepest, regent het bedreigingen, zowel bij twee middelbare scholen als bij de scholieren die op sociale media als de pesters worden genoemd.
Bij de politie Helmond is twee keer aangifte gedaan van bedreiging. Berichten aan de school zijn vooral verontwaardigd, haatdragend en dreigend, aldus een woordvoerder van het schoolbestuur.
Volgens de politie gaat er online veel onjuiste informatie rond. Daarmee wordt nog meer onrust gecreëerd ‘en dit kan anderen schaden als je zomaar namen de wereld in slingert en allerlei aannames die niet kloppen’’.
Alles bij de bron; Cops-in-Cyberspace
De gemeente Utrecht gaat geen scanauto's inzetten voor het opsporen van gestolen voertuigen, zo heeft burgemeester Dijkstra in een brief aan de gemeenteraad laten weten. Uit juridisch onderzoek blijkt dat de scanauto niet voor dit doel mag worden ingezet, omdat het in strijd met de AVG is.
"De inzet van de scanauto voor het signaleren van gestolen voertuigen biedt kansen", zo liet Dijksma nog in 2021 weten. De burgemeester merkte op dat het meerwaarde heeft als scanauto's tijdens de reguliere controles op betaald parkeren ook gestolen voertuigen signaleren. "De gemeente Amsterdam zet haar scanauto’s al enige tijd in voor het signaleren van gestolen voertuigen. Tijdens het scannen van de kentekens controleert het handhavingssysteem ook of het om een gestolen voertuig gaat", aldus de burgemeester destijds. "Ook de Utrechtse scanauto’s kunnen technisch gezien op deze wijze worden ingezet voor de signalering van gestolen voertuigen."
Dijksma stelde dat er met betrokken partners werd gewerkt aan een juridisch kader voor het vastleggen van de voorwaarden voor het signaleren van gestolen voertuigen, waaronder de privacyaspecten. Zo zou er ook een Data Protection Impact Assessment (DPIA) plaatsvinden. In 2022 meldde de gemeente dat de pilot mede wegens juridische problemen niet kon worden gestart.
"Bij het interne onderzoek van de juridische mogelijkheden, bij de verdere uitwerking van de pilot, stuitten we op verschillende vragen over het delen van gegevens met ketenpartners. Gelijktijdig aan het onderzoek in Utrecht besloot gemeente Amsterdam op basis van vergelijkbare vragen de inzet van scanauto stil te leggen en extern juridisch advies in te winnen", zo laat de minister nu in een brief aan de gemeenteraad weten.
Uit het juridisch onderzoek blijkt dat er geen wettelijke basis is om parkeerdata te delen met partners zoals de RDW en de politie, omdat het niet past binnen de publieke taak van de gemeente om parkeerbelasting te innen. Ook wordt het standaard delen van gegevens als bovenmatig beschouwd, voegt Dijksma toe. "Op basis van deze conclusies vinden we het niet verantwoord om de scanauto’s in te zetten voor het signaleren van gestolen voertuigen", aldus de burgemeester, die nu heeft besloten om de toegezegde pilot niet uit te voeren
Alles bij de bron; Security
X heeft mogelijk de privacy van zijn Europese gebruikers geschonden. Het socialmediabedrijf trainde zijn chatbot Grok stiekem met persoonlijke gegevens van Europese gebruikers.
Voor het trainen van Grok, de sarcastische chatbot van Elon Musks AI-bedrijf xAI, zijn openbare berichten op X gebruikt. Daarmee heeft het bedrijf echter mogelijk de Europese AVG-wet geschonden, laat de Ierse Data Protection Commission weten.
Volgens de privacywetgeving van de EU moeten gebruikers zelf kunnen bepalen of bedrijven hun privégegevens mogen verwerken. X had daar geen boodschap aan, want het bedrijf besloot in mei vorig jaar om alle gebruikers hier automatisch toestemming voor te laten verlenen.
X besloot jl september zijn bot niet meer te trainen met de data van Europeanen. Maar ondertussen werd de bot natuurlijk al wel maanden getraind met posts van EU-gebruikers.
Met dit onderzoek kan de toezichthouder formeel bewijzen dat X daarmee de AVG heeft geschonden. Vervolgens zou de DPC een boete van maximaal 4 procent van de wereldwijde jaaromzet kunnen opleggen.
Als dat gebeurt, zou het de tweede keer zijn dat X een Europese AVG-boete krijgt. In 2020 moest het bedrijf, toen nog onder de naam Twitter, een boete van 450.000 euro aftikken vanwege een bug waardoor afgeschermde accounts in sommige gevallen toch voor iedereen te zien waren.
Alles bij de bron; Bright
Pagina 14 van 697
