De Europese Unie gaat de digitale teugels strakker aantrekken voor de toepassing van artificial intelligence (AI) in voorspellende systemen. Dat blijkt uit het 81 pagina’s dikke voorstel Regulation on a European Approach for Artificial Intelligence dat deze week uitlekte en online is te lezen via Politico.

Hierin stelt de EU dat voorspellen met algoritmen en AI veel voordelen biedt op gebieden als gezondheidszorg, onderwijs en veiligheid. Die systemen brengen ook de nodige risico’s met zich mee en kunnen slecht uitpakken voor burgers. De impact ervan moet daarom aan banden worden gelegd. Zo gaat de EU strenge voorwaarden stellen aan het gebruik van algoritmen en AI. Diverse toepassingen van voorspellende systemen worden zelfs verboden

...Om burgers beter te beschermen tegen de risico’s van hoog-risico-AI-systemen wil de EU de volgende toepassingen volledig verbieden of waar nodig begrenzen:

- AI-systemen (‘indiscriminate surveillance’) voor het monitoren en tracken van willekeurige personen in de publieke ruimte;
- AI-systemen voor het maken van sociale kredietscores, waarbij iemands betrouwbaarheid wordt beoordeeld op basis van gedrag of voorspelde persoonlijkheidskenmerken;
- het gebruik van biometrische identificatiesystemen in de publieke ruimte, waaronder gezichtsherkenning.

...Deze ambities van de EU zijn prijzenswaardig. Op verschillende punten is het voorstel uit Brussel alleen wel nog te vaag. Zo wordt een uitzondering gemaakt voor biometrische systemen in de publieke ruimte die ‘serious crime’ bestrijden. Wat onder deze vorm van criminaliteit wordt verstaan, is onduidelijk...

...Er is te weinig expertise over voorspellende systemen, over hoe die met elkaar zijn verbonden, over aan welke ethische waarden ze moeten voldoen. Zo concludeerde de Rekenkamer Rotterdam deze week dat ambtenaren nauwelijks beseffen dat ethische risico’s kleven aan het gebruik van algoritmes, zoals wanneer die worden aangewend om uitkeringsfraude op te sporen.
De Nederlandse overheid moet dit nu gaan organiseren. De impact van technologie is niet alleen een maatschappelijk probleem, maar volgens de EU ook een politiek probleem. 

Alles bij de bron; NRC


 

Omdat het de patiëntendossiers niet afdoende had beveiligd kreeg het HagaZiekenhuis in 2019 een boete van 460.000 euro van de Autoriteit Persoonsgegevens. Het ziekenhuis probeerde via de rechter kwijtschelding te krijgen. Dat is niet gelukt. Wel is de boete verlaagd tot 385.000 euro.

Volgens de Autoriteit Persoonsgegevens behoort een ziekenhuis ervoor te zorgen dat dossiers alleen toegankelijk zijn voor medewerkers die bij de behandeling van de betreffende patiënt betrokken zijn. Daarom blijven de basisboete van 310.000 euro en de eerste verhoging van 75.000 euro vanwege de ernst van de kwestie, overeind. Omdat het ziekenhuis al snel extra beveiliging heeft ingevoerd, hoeft de tweede verhoging van 75.000 euro niet betaald te worden.

Alles bij de bron; BeveilNieuws


 

De gestolen database is eind januari te koop aangeboden op een hackersforum voor een bedrag vanaf 15.000 euro, meldt RTL Nieuws, dat de gestolen data heeft ingezien en geverifieerd. De gegevens worden inmiddels al actief misbruikt om onder meer phishingberichten te sturen aan nietsvermoedende klanten van deze webwinkel.

De database bevat 2,6 miljoen unieke e-mailadressen die gekoppeld zijn aan namen, adressen, telefoonnummers, geboortedata en versleutelde wachtwoorden. Daarnaast zijn er in de te koop aangeboden databerg een miljoen gegevens te vinden van personen die via een andere webshop bij Allekabels hebben besteld. Ook zijn 109.000 IBAN-nummers van de klanten van Allekabels gestolen en verhandeld.

Allekabels laat aan RTL weten dat het sinds februari wist dat een werknemer informatie had gestolen en doorverkocht. Dat zou echter om 5000 klantgegevens gaan en die klanten zijn daarover geïnformeerd. RTL haalt nu diverse bronnen aan die stellen dat Allekabels al in augustus 2020 zou zijn gehackt én dat het bedrijf toen al op de hoogte was van de veel grotere datadiefstal.

Alles bij de bron; AGConnect


 

Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude zo waarschuwt de Rekenkamer. Volgens de Rekenkamer was de ethiek rondom de algoritmes die hier werden gebruikt, niet voldoende gewaarborgd in de organisatie.

Zo was men zich niet goed bewust van de verschillende stakeholders, rollen en verantwoordelijkheden. Daardoor waren sommige verantwoordelijkheden verkeerd belegd, zoals de controle op oneerlijkheid. Daardoor wijzen ontwikkelaar en gebruiker naar elkaar. Ook waren de gemaakte keuzes niet navolgbaar en kan de burger vrijwel geen inzicht krijgen in de manier waarop het algoritme een rol speelt in de selectie voor een heronderzoek. Ook bestaat de kans dat het algoritme tot vooringenomen uitkomsten leidt, doordat bijvoorbeeld laaggeletterdheid werd meegewogen. Van richtlijnen voor de evaluatie van algoritmes en het bepalen van een ‘ondergrens’ voor de prestaties van een algoritme, bijvoorbeeld door het te vergelijken met de prestaties van ‘oudere’ methoden, was ook geen sprake.

Voor het onderzoek keek de Rekenkamer naar het project analytics uitkeringsfraude. Hierbij selecteert een algoritme mogelijke onrechtmatige uitkeringen. Naar aanleiding van die selectie kunnen uitkeringsgerechtigden uitgenodigd worden voor een heronderzoek.

De Rekenkamer heeft aan het college van B&W zes aanbevelingen gedaan. Aangeraden wordt onder meer de eindverantwoordelijkheid op één centraal punt te beleggen, de algoritmes binnen de gemeente te inventariseren, per algoritme de ethische risico’s te beoordelen en ontwikkelaars en gebruikers van algoritmes actief bewust te maken van mogelijke ethische risico’s. Het college heeft al deze aanbevelingen overgenomen.

Alles bij de bron; AGConnect


 

Na lekken bij Facebook (gegevens van 530 miljoen gebruikers) en LinkedIn (500 miljoen gebruikers) in de afgelopen weken liggen nu ook de gegevens van 1,3 miljoen gebruikers van audio-app Clubhouse op straat.

De data van Clubhouse – onder andere namen, profielfoto’s, gelinkte Instagram- en Twitteraccounts – verschenen dit weekend op een online hackerforum, zo ontdekte techwebsite Cyber News. Een datawetenschapper die zich online ‘John Tukey’ noemde, scrapete de data en publiceerde die daarna.

Voormalig Bellingcatonderzoeker Henk van Ess: „Hij zei tegen mij dat hij gewoon gebruik had gemaakt van de mogelijkheden die Clubhouse biedt aan softwareontwikkelaars om hun eigen apps aan Clubhouse te linken. De data wilde hij gewoon met de wetenschappelijke gemeenschap delen. Puur nerdy, maar wel naïef.”

Daarom ontkende Clubhouse, net als Facebook en LinkedIn, dat er sprake is van een hack; „Het gaat om publieke informatie waar iedereen toegang toe heeft.” Van Ess: „Dat is echt een heel irritante reactie, die mensen hebben geen flauw idee wat de consequenties van zo’n lek zijn.” 

Van Ess heeft de database ook zelf gedownload om er in te grasduinen. Hij wist de echte namen van 1.500 Clubhousegebruikers te linken aan anonieme twitteraccounts. Ook Jaap-Henk Hoepman, privacyonderzoeker bij de Radboud Universiteit en de Rijksuniversiteit Groningen, vindt het lek potentieel gevaarlijk: „Er zijn zoveel mensen van wie dit soort gegevens echt geheim moet blijven. Politieagenten, politici, maar ook voor mensen die gestalkt worden, is dit echt een probleem.”

De houding ten opzichte van privacy bij Clubhouse is van een andere orde dan die van Facebook en LinkedIn, zegt Hoepman. Facebook dacht met een hangslotje op de deur voldoende beveiliging te hebben”, vertelt hij, „maar de makers van Clubhouse hebben de voordeur van de snoepwinkel gewoon wagenwijd open laten staan, daar is echt geen enkele bescherming whatsoever. En het lek is nog niet dicht, ik heb de methode deze dinsdag nog gewoon kunnen herhalen.”

Alles bij de bron; NRC


 

Cybercrime, maar ook gedigitaliseerde vormen van ‘klassieke’ criminele vergrijpen nemen fors toe. In het eerste kwartaal van 2021 zag de politie een verdubbeling van het aantal geregistreerde digitale misdrijven ten opzichte van het jaar ervoor. Vooral oplichting via WhatsApp en fraude in de online handel springen eruit.

WhatsApp wordt veelvuldig gebruikt voor fraude. Daarbij doet een crimineel zich voor als een bekende van het slachtoffer die vraagt om snel geld over te maken. Sinds 30 april is het mogelijk om online aangifte te doen van deze zogenoemde vriend-in-noodfraude. Daar hebben burgers veelvuldig gebruik van gemaakt: ruim 25.000 keer. 

Ook signaleert de politie meer fraude met online handel. Daarbij betaalt iemand wel voor een product, maar ontvangt vervolgens niets. Dit gebeurde vooral veel in december 2020, de feestmaand waarin niet-essentiële winkels waren gesloten vanwege de coronamaatregelen.

Alles bij de bron; BeveilNieuws


 

Bouwbedrijf Heijmans heeft de privégegevens van 1800 mensen gelekt. Het ging om om adresgegevens, geboortedata, salaris en hypotheekmogelijkheden van mensen die in een woning geïnteresseerd zijn.

Elfhonderd mensen die buiten de boot vielen bij een woningproject werden via e-mail door Heijmans ingelicht. Het bericht bevatte echter een Excel-bijlage met de gegevens van deze elfhonderd personen, alsmede de gegevens van zevenhonderd levenspartners. Heijmans spreekt van een menselijke fout en heeft melding gedaan bij de Autoriteit Persoonsgegevens.

"De gemaakte fout werd wel meteen herkend, maar het is niet gelukt om bij iedereen de verzonden mail terug te halen", aldus een woordvoerster. Heijmans heeft inmiddels een onderzoek ingesteld hoe het datalek heeft kunnen plaatsvinden en hoe dit in de toekomst kan worden voorkomen.

Alles bij de bron; Security


 

De Hamburgse privacywaakhond heeft een spoedprocedure tegen Facebook gestart om het bedrijf te verbieden WhatsApp-gebruikersdata voor Facebook-doeleinden te gebruiken. De toezichthouder start de procedure vanwege WhatsApps nieuwe voorwaarden...

...De HmbBfDI 'vreest' dat met de nieuwe voorwaarden, Facebook de WhatsApp-gebruikersdata zal gebruiken voor marketingdoeleinden en om gebruikers advertenties te laten zien. Johannes Caspar, commissaris van de toezichthouder, zegt dat er 'voor zover bekend' nog geen toezichthoudend onderzoek is geweest naar het dataverkeer tussen WhatsApp en Facebook. Het onderzoek is volgens Caspar nodig om 'het onwettig en massaal delen van data' te voorkomen. Ook wil Caspar stoppen dat op 'miljoenen mensen' onwettig druk wordt uitgeoefend om met de WhatsApp-voorwaarden akkoord te gaan.

De toezichthouder wil voor 15 mei een beslissing hebben genomen.

Alles bij de bron; Tweakers


 

Persoonlijke gegevens van 21 miljoen gebruikers van parkeer-app ParkMobile, zoals kentekennummer, e-mailadres, telefoonnummer en geboortedatum, worden te koop aangeboden op internet. ParkMobile meldde op 26 maart dat het te maken had gekregen met een "cybersecurity-incident" veroorzaakt door een kwetsbaarheid in een programma waar het bedrijf gebruik van maakt. 

Securitybedrijf Gemini Advisory laat aan it-journalist Brian Krebs weten dat bij ParkMobile gestolen gebruikersgegevens voor 125.000 dollar op een forum te koop worden aangeboden. Het gaat om e-mailadres, geboortedatum, telefoonnummers, kentekennummer, gesalte en met bcrypt gehashte wachtwoorden en in sommige gevallen ook postadres.

ParkMobile bevestigt tegenover Krebs dat de aanvallers accountgegevens van klanten in handen hebben gekregen, maar blijft erbij dat het niet om gevoelige gegevens gaat.

Alles bij de bron; Security


 

Enkele weken geleden nam een klokkenluider, die werkt voor een callcenter, contact op met het Ministry of Privacy, verklaart privacyjurist Matthias Dobbelaere-Welvaert. De klokkenluider meldde dat telefoongesprekken heimelijk worden opgenomen, zonder voorafgaandelijke kennisgeving aan de bellers. Bedoeling daarvan was om de contacttracers en de kwaliteit van hun gesprekken te kunnen beoordelen. 

Uit interne gesprekken die het Ministry of Privacy kon inkijken, blijkt dat er een 'grote nonchalance' is voor 'de individuele privacy van mensen'. Volgens het callcenter is het niet nodig om toestemming te vragen om het gesprek op te nemen omdat de opnames op een later moment worden verwijderd. 'Maar zo werkt privacy natuurlijk niet', aldus Dobbelaere-Welvaert, die de praktijken heeft onderzocht.

Of het juridisch kan, is een complexe vraag. Volgens de GDPR of AVG (Algemene verordening gegevensbescherming) moeten bedrijven minstens verplicht een voorafgaande kennisgeving geven en de burger informeren dat het gesprek kan opgenomen worden en volgens Artikel 9 van de AVG is het verwerken van gevoelige medische informatie in principe niet toegestaan, maar bestaan er wel verschillende uitzonderingen. 'Contacttracers kunnen uiteraard van die uitzonderingen gebruikmaken, maar helemaal niet om stiekem telefoongesprekken op te nemen', aldus Dobbelaere-Welvaert.

Hij wijst wel op een andere wet, de Wet betreffende de Elektronische communicatie van 13 juni 2005. In een artikel daarvan staat dat werkgevers in callcenters gesprekken mogen opnemen, om de kwaliteit van de dienstverlening te controleren. Dobbelaere-Welvaert noemt dat een 'loophole', mazen in de wet. Hij verwijst opnieuw daar de gevoelige medische informatie die bellers doorgeven.

Naast het juridische aspect is er ook het ethische aspect. 'De boodschap was altijd dat mensen de contacttracers zouden kunnen vertrouwen', zegt de privacyjurist. 'Het minste dat men dan kan doen, is mensen informeren dat het gesprek kan worden opgenomen en hierover transparant communiceren.' Zo is het momenteel bijvoorbeeld niet duidelijk hoelang die gesprekken bewaard blijven.

Alles bij de bron; Knack


 

Subcategorieën

Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha