Het demissionaire kabinet is tegen een verbod op real-time gezichtsherkenning in de openbare ruimte zoals het Europees Parlement wil, zo heeft demissionair minister Yesilgöz van Justitie en Veiligheid laten weten.
Vorige maand stemde het Europees Parlement in met de AI Act, die regels stelt aan het gebruik van kunstmatige intelligentie. Het gaat onder andere om een totaal verbod op de inzet van real-time gezichtsherkenning in openbare ruimtes. In het oorspronkelijke voorstel van de Europese Commissie wordt de inzet van de technologie in bepaalde gevallen wel toegestaan.
"Het Europees Parlement wil de inzet van realtime gezichtsherkenning in de openbare ruimte echter volledig verbieden, zo blijkt uit de tekst die zij op 14 juni presenteerde. Een dergelijk totaalverbod acht het kabinet onwenselijk. Ondanks dat de inzet van dergelijke technologie ingrijpend is, kunnen er zich situaties voordoen waarin realtime biometrische identificatie door de rechtshandhaving geoorloofd zou moeten zijn", laat Yesilgöz weten op Kamervragen.
Alles bij de bron; Security
Weet je wie jij hiermee in de kaart speelt? Het is een van de meest voorkomende retorische trucs....
.....Dat niemand je privéberichten kan zien is uiteraard behoorlijk belangrijk, gezien de digitale dataverzamelwoede, de lekkage en ongelukjes en de IT-bedrijven die graag met sleepnetten door onze digitale huiskamer trekken.
Deze vorm van privacy wordt nu bedreigd door nieuwe EU-wetgeving.
De Europese Commissie bereidt een wet voor die techplatforms ertoe verplicht alle berichten voordat ze versleuteld worden te surveilleren op verdachte content. Wanneer ze matchen met een ‘hitlist’ van beelden en woorden worden ze bij de politie gemeld. Uw telefoon wordt geprogrammeerd om die scans uit te voeren.
Maar maakt u zich daar vooral geen zorgen over. Enige onschuldige bijvangst, een foto van een bloot kindje in een badje dat u naar uw moeder appt, betekent gewoon dat uw onschuldige privébericht even wordt bekeken door een anonieme meneer of mevrouw. Heeft u verder geen last van. Het is voor de zekerheid. U wilt toch ook niet dat pedofielen hun vrije gang kunnen gaan?
Dit stukje beleid heeft zoveel aspecten die exemplarisch zijn voor wat er mis gaat met hedendaags beleid. Gaan we echt de sleepnetsurveillance uitbesteden aan een algoritme? Is dat een zelflerend algoritme? Hebben we zicht op wat zo’n robot allemaal uit zichzelf als verdacht gaat bestempelen naarmate hij/zij/hen meer ervaring opdoet met speurwerk?
We hebben algoritmes gezien die racistisch zijn, zich op nationaliteit, taal of postcode gaan concentreren en tegen wier verdachtmakingen je je als simpele burger nauwelijks kunt verweren. Wat zou daar nou mis mee kunnen gaan?
Alles bij de bron; NRC [Thnx-2-Niek]
De end-to-end encryptie gebruikt door chatapps blijft een uitdaging voor opsporingsdiensten bij de aanpak van terroristische en extremistische online content, aldus Europol in een rapport over terrorisme in de Europese Unie. Vorig jaar kwamen in de EU met zijn ongeveer 450 miljoen inwoners 4 mensen door terreuraanslagen om het leven, zo laat het Europol-rapport weten.
Naast socialmediaplatforms, chatapps, online forums en videogamingplatforms zijn gedecentraliseerde platforms populairder onder terroristische en extremistische kringen geworden, aldus Europol...
...Dat stelt ook dat algemeen beschikbare chatapps een rol blijven spelen voor de communicatie binnen terroristische en extremistische gemeenschappen. "De end-to-end encryptie van dergelijks apps blijft een uitdaging voor opsporingsdiensten vormen bij het vinden en verwijderen van terroristische en gewelddadige extremistische online content", staat in Europol European Union Terrorism Situation and Trend Report 2023 (TE-SAT). Daarin schrijft Europol dat het verwacht dat terroristen vaker het Internet of Things, deep fakes en augmented reality bij aanvallen gaan inzetten.
Alles bij de bron; Security
Er zijn steeds meer signalen dat jihadistische organisaties voorbereidingen treffen om in Europa terroristische aanslagen te plegen. Deze groeperingen noemen daarbij expliciet Nederland als doelwit.
Dat blijkt uit het meest recente Dreigingsbeeld Terrorisme Nederland (DTN 58) van de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV). Het dreigingsniveau wordt vastgesteld op niveau 3. Dat betekent dat een aanslag in Nederland ‘voorstelbaar’ is.
Mondiale jihadistische organisaties zouden Nederland al langer als legitiem doelwit beschouwen voor een aanslag. Met name Nederlandse belangen in het buitenland lopen het risico getroffen te worden door een aanslag.
Het beeld van de Nederlandse jihadistische beweging is al enkele jaren onveranderd. In verscheidene grotere steden van Nederland bevindt zich een aantal kleinere of grotere netwerken dat het jihadistisch gedachtegoed aanhangt. Tussen de netwerken zijn er contacten en vindt uitwisseling van ideeën plaats maar de beweging is ideologisch versnipperd en sociaal gefragmenteerd.
Alles bij de bron; Beveiliging
De Franse regering wil een nog experimenteel AI-systeem inzetten tijdens de Olympische Spelen in 2024. Via duizenden camera's moet een algoritme automatisch 'verdacht gedrag' gaan detecteren. Zaken als verlaten bagage en opkomende stormlopen van grote groepen publiek zouden automatisch aangemerkt worden. Het omstreden plan werd goedgekeurd door een meerderheid van het Franse Parlement, meldt Politico.
Alleen het hoogste hof van Frankrijk zou de plannen nog kunnen tegenhouden. Een groep van 40 leden van het Europees Parlement pleitte vorige week nog tegen de plannen via een open brief. "Frankrijk stelt een precedent dat nog nooit eerder in Europa is gezien, onder het mom van de Olympische Spelen", waarschuwen de politici van overwegend linkse fracties zoals de De Groenen/Vrije Europese Alliantie, de Progressieve Alliantie van Socialisten en Democraten en de Linkse Fractie in het Europees Parlement - GUE.
De linkse oppositie in Frankrijk is bezorgd over gevolgen voor burgerlijke vrijheden. En hoewel de maatregelen nu alleen gericht zijn op de Olympische Spelen, vrezen tegenstanders dat de tijdelijke maatregelen toch permanent zullen worden. Ondanks de omstreden plannen, kwamen uiteindelijk maar weinig Franse parlementsleden opdagen om te stemmen op de voorstellen: 73 van de in totaal 577 leden van het lagerhuis.
Alles bij de bron; RTL-Nieuws
De Europese Commissie werkt aan nieuwe wetgeving tegen online kindermisbruik. Voorstanders zijn blij dat de aanpak straks eindelijk wettelijk geregeld wordt. Maar tegenstanders vrezen voor de privacy van burgers en waarschuwen dat de wet averechts werkt...
...Internetbedrijven moeten volgens het wetsvoorstel maatregelen nemen tegen grooming (online kinderen lokken) en de verspreiding van beelden met kindermisbruik. Het gaat niet alleen om preventie, maar ook om handhaving.
Beelden met kindermisbruik moeten opgespoord worden. Daarvoor kunnen internetbedrijven bijvoorbeeld mailtjes, WhatsApp-berichten en de cloudopslag van gebruikers scannen...
...Om berichtenverkeer op bijvoorbeeld WhatsApp, Telegram of Signal te kunnen scannen, moet de huidige beveiliging verzwakt worden. En daar is discussie over. "Dat vergroot juist het risico dat foto's in verkeerde handen komen", legt Rejo Zenger van privacyorganisatie Bits of Freedom (BoF) uit. "Daardoor brengt de Europese Commissie de groep die ze wil beschermen alleen maar in gevaar. Je maakt communicatiemiddelen onveiliger!"
Een verzwakte beveiliging van communicatie treft volgens Sarah Eskens, universitair docent Recht en Technologie aan de Vrije Universiteit Amsterdam, ook bijvoorbeeld journalisten en advocaten. "Journalisten moeten erop kunnen vertrouwen dat ze veilig met hun bronnen kunnen communiceren. Anders wordt de persvrijheid beperkt."
Bij justitie al bekend beeldmateriaal van kindermisbruik opsporen is nu al mogelijk. Sterker nog: dat doen verschillende internetbedrijven al vrijwillig. Google en Microsoft laten aan NU.nl weten dat ze het internetverkeer en de cloudopslag scannen op beelden van kindermisbruik...
...Maar voor justitie nog onbekend materiaal van kindermisbruik vinden is veel moeilijker. Brussel wil dat daarvoor kunstmatige intelligentie wordt ingezet.
Datzelfde geldt voor de opsporing van grooming. Daarvoor moet kunstmatige intelligentie bijvoorbeeld e-mails, WhatsApp-berichten of privéberichten op sociale media gaan scannen op alarmerende teksten.
Vervolgens moeten mensen gedetecteerde beelden van mogelijk kindermisbruik beoordelen, zo staat in het wetsvoorstel. "Zo'n foto wordt soms door wel vijf mensen bekeken", zegt Arda Gerkens van Expertisebureau Online Kindermisbruik (EOKM). "Als het niet om misbruik gaat, is het een ernstige schending van de privacy van het kind." Ook haar organisatie is daarom tegen het wetsvoorstel.
...ook vanuit juridische hoek is er kritiek. Het wetsvoorstel tast volgens universitair docent Eskens zowel de privacy als de vrijheid van meningsuiting aan. "Maar veel mensen durven niets te zeggen. Want als je tegen de wet bent, word je afgeschilderd als iemand die voor kindermisbruik is."
Het wetsvoorstel is volgens Zenger van Bits of Freedom niet effectief en leidt tot veel nevenschade. "Het enige goede wat ermee kan gebeuren is in de prullenbak gooien en opnieuw beginnen."
Gerkens sluit zich daar namens het EOKM bij aan: "Dit wetsvoorstel mag niet doorgaan, maar ik ben bang dat het wel gaat gebeuren. Ik maak me daar ernstig zorgen over."
Alles bij de bron; NU [lang lezen artikel]
Deze woensdag heeft een Belgische Kamercommissie groen licht gegeven aan de invoering van een Europees in- en uitreissysteem voor migranten. Het zogenaamde EES-systeem is een elektronisch registratie -en controlesysteem bij de grenzen van Schengenlanden. Het gaat om voor migranten die voor een korte periode van maximaal 90 dagen in de Europese Unie willen verblijven.
Bij aankomst worden ze geregistreerd en zullen ze naast hun paspoort en datum van vertrek, nu ook hun biometrische gegevens, vingerafdrukken en een gezichtsscan moeten afstaan. Wie dat niet doet, wordt de toegang tot de EU geweigerd.
Deze informatie wordt vervolgens bijgehouden in een nieuwe Europese databank die toegankelijk is voor alle lidstaten. Met dit systeem weet de Dienst Vreemdelingenzaken dus ook wanneer de migrant langer dan toegestaan in België verblijft. Door het afstaan van deze gegevens wordt het veel moeilijker om met valse paspoorten te reizen.
Het nieuwe digitale systeem moet een grondigere controle mogelijk maken, omdat van elke grensoversteek een datum en identiteit beschikbaar is. De overheid zal automatisch op de hoogte gebracht worden wanneer iemand niet binnen de voorziene termijn naar het thuisland is teruggekeerd.
Alles bij de bron; deMorgen
Deze en volgende week vinden er besprekingen plaats over het cybercrimeverdrag van de Verenigde Naties, maar het voorstel dat nu op tafel ligt vormt een serieuze bedreiging voor de vrijheid van meningsuiting, privacy en de legitieme werkzaamheden van journalisten, klokkenluiders, activisten en anderen, zo stelt de Amerikaanse burgerrechtenbeweging EFF dat bij de onderhandelingen is betrokken.
Volgens de EFF zullen onder de huidige brede, ongedefinieerde en subjectieve termen ook de vrijheid van meningsuiting, nieuwsverslaggeving, protesten en meer vallen. Daarnaast maakt de EFF zich zorgen over het toevoegen van "te brede en ongedefinieerde concepten" waardoor surveillancemaatregelen mogelijk worden, alsmede bepalingen die encryptie kunnen ondermijnen.
"Het voorgestelde VN-cybercrimeverdrag heeft de potentie om strafrecht en -procedures wereldwijd te herschrijven, nieuwe misdrijven toe te voegen en nieuwe politiebevoegdheden te introduceren voor zowel binnenlandse als internationale onderzoeken, die de rechten van miljarden mensen wereldwijd raken", waarschuwt de EFF.
Vorig jaar mei maakte de Europese privacytoezichthouder EDPS ook al zijn zorgen kenbaar en waarschuwde dat het verdrag de bescherming van fundamentele rechten van personen kan aantasten.
Alles bij de bron; Security
Als chatdiensten en andere techbedrijven straks verplicht worden om alle berichten en andere content van gebruikers te controleren op kindermisbruik en grooming, geldt daarbij een hoge foutmarge.
De Europese Commissie zegt, na vragen van de Duitse overheid over de ‘volwassenheid’ van de scantechnologie, dat deze een nauwkeurigheidspercentage van negentig heeft. Er zullen dus flink wat false positives zijn – zie ook de Google-zaak in de VS waarbij een vader al zijn content kwijtraakte nadat Google een medische foto aanmerkte als kinderporno.
Volgens de Commissie worden de door de technologie aangemerkte berichten ook nog eens handmatig gecontroleerd door een nog op te richten centrum.
Over encryptie merkte de Commissie op dat die weliswaar belangrijk is om privécommunicatie te beschermen, maar dat diezelfde encryptie ook ‘misdadigers helpt om zich te verbergen’. Er is daarom besloten encryptie niet uit het voorstel te laten.
Privacyorganisaties in de EU zijn zeer bezor door de technologie aangemerkte berichten ook nog eens handmatig gecontroleerd door een nog op te richten centrum.
Over encryptie merkte de Commissie op dat die weliswaar belangrijk is om privécommunicatie te beschermen, maar dat diezelfde encryptie ook ‘misdadigers helpt om zich te verbergen’. Er is daarom besloten encryptie niet uit het voorstel te laten.
Privacyorganisaties in de EU zijn zeer bezorgd over de plannen. Ze spreken van een serieus risico voor de fundamentele rechten van 450 miljoen Europeanen.
Alles bij de bron; Cops-in-Cyberspace
Toen de voorzitter van de Ulu-moskee in Heemskerk begin vorig jaar wilde inloggen op de online betaalrekening kreeg hij na het intikken van de pincode, kreeg geen saldo te zien maar een ander scherm: „Uw rekening is geblokkeerd.”
Als de ABN Amro-bank wordt gebeld, zegt de klantenservicemedewerker dat de moskee maar even moet afwachten. Een paar maanden later valt er een brief door de bus. Er staat in dat er een „klantonderzoek” loopt naar de moskee. „Om u, de maatschappij en onszelf te beschermen” tegen het „financieren van terrorisme”. Voorzitter Birol houdt de brief omhoog. „Dit is hem.” Zijn stem slaat over. „Wij, terroristen?! Ik wist niet wat ik las.”
Banken zijn de afgelopen jaren veranderd in particuliere terreurbestrijders. Ze zijn door de overheid verantwoordelijk gemaakt voor het opsporen van transacties die bestemd zijn voor terroristische doeleinden. Het idee erachter is simpel: als terroristen niet aan geld kunnen komen, wordt het plegen van een aanslag een stuk lastiger. Het vinden van dat ‘terreurgeld’ is minder eenvoudig. Banken moeten daarvoor hun klanten en geldstromen doorlichten.
Daar heeft toezichthouder De Nederlandsche Bank (DNB) beleid voor ontwikkeld. Dat heeft een naam: „risicogebaseerd werken”. Banken moeten de achtergronden van hun klanten in beeld brengen, en daar een risicoprofiel aan hangen: een inschatting van hoe waarschijnlijk het is dat de klant terrorisme financiert. Als de bank vermoedt dat er iets mis is, volgen sancties. De naam van zo’n klant kan worden doorgegeven aan de politie, hij kan op een zwarte lijst komen of zijn bankrekening kwijtraken.
De Ulu-moskee in Heemskerk krijgt er begin 2021 mee te maken. Na ontvangst van de brief over een „klantonderzoek” wordt duidelijk dat het de bank niet specifiek te doen is om deze moskee. Dezelfde brieven worden gestuurd aan tientallen andere organisaties en bestuurders van de koepel waar de moskee bij hoort. De brieven, ingezien door NRC, staan vol gedetailleerde vragen over ogenschijnlijk reguliere overboekingen.
In het opsporen van terrorismefinanciering laten banken zich leiden door zogeheten indicatoren: kenmerken van een verdachte klant of betaling. Op soortgelijke wijze proberen banken ook witwassen op te sporen.
Maar hoe herken je een terrorist aan zijn betaalrekening? „Niet”, zegt Marieke de Goede, hoogleraar politicologie aan de Universiteit van Amsterdam. Zij evalueerde in 2018 de aanpak van terrorismefinanciering voor onderzoeksinstituut WODC. De conclusie: het beleid werkt niet goed. Het uitgavenpatroon van een terrorist is nauwelijks te onderscheiden van dat van andere mensen.
Terwijl het in de praktijk dus een onmogelijke opgave is, leggen de overheid en toezichthouder DNB veel druk op banken om terrorismefinanciering te rapporteren. Het gevolg, zegt De Goede, is dat banken op vergaande manieren proberen om toch iets te vinden. Ze laten computers via algoritmes zoeken naar klanten die voldoen aan bepaalde patronen die zouden wijzen op terrorismefinanciering. Een dubieuze aanpak, vindt De Goede. „Voor je het weet, ben je onderscheid aan het maken op grond van geloofsovertuiging.”....
....Van etnisch profileren willen banken niets weten, „dat doen ze niet”, aldus de Nederlandse Vereniging van Banken (NVB). Maar ze ziet ook dat de jacht op terrorismefinanciering nevenschade met zich meebrengt. Misschien wel te veel, zegt hoofd veiligheidszaken Yvonne Willemsen van de NVB. „We hebben met zijn allen een enorm systeem opgetuigd, maar wat is het resultaat? Is Nederland nu een stukje veiliger geworden? Ik vrees van niet.”
Alles bij de bron; NRC [Thnx-2-Niek]