In het maatschappelijke debat over AI gaat het vaak over de gevolgen van deze technologie op gebruikers. Hoe verandert bijvoorbeeld ons werk: wordt de productiviteit hoger en welke banen verdwijnen? Maar een groot deel van de maatschappelijke impact van AI vindt plaats op andere niveaus, die pas zichtbaar worden als je kijkt naar de complexe keten die nodig is om AI te trainen en laten werken.
De grote hoeveelheden gegevens die nodig zijn voor het trainen van AI leiden tot schendingen van de rechten van makers. Er worden op grote schaal publiek gegenereerde data gebruikt om AI-toepassingen te trainen, en de resultaten daarvan zijn in private handen.
Alles bij de bron; Rathenau
De Europese Commissie maakte onlangs bekend dat zowel Meta als Apple boetes krijgen wegens het ondermijnen van eerlijke keuzes voor consumenten. Apple stuurt gebruikers in de App Store bewust richting abonnementen, terwijl Meta mensen aanspoort om hun privacy op te geven om platformen als Instagram en Facebook nog kosteloos te kunnen gebruiken.
Het werkelijke en onderliggende probleem is groter: Big Tech bouwt systematisch aan een digitale wereld waarin keuzevrijheid een illusie is. Bedrijven als Meta gebruiken elke truc uit het boek om gebruikers te sturen richting opties die het bedrijf het meeste (winst) oplevert — ten koste van onze privacy, tijd en autonomie....
...Het is tijd om de façade van keuzevrijheid te doorbreken. Consumenten moeten hun online vrijheid terug krijgen. De opgelegde boetes voor Meta en Apple zijn een goed begin, maar het mag niet bij symboliek blijven. Toezichthouders moeten actiever optreden om consumenten te beschermen. Wetgevers moeten luid en duidelijk zeggen: mensen hebben recht op digitale autonomie. Dat recht wordt hen nu nog elke dag opnieuw afgenomen door bedrijven die winst boven mensen verkiezen.
Alles bij de bron; Bits-of-Freedom
Microsoft heeft de afgelopen maand op 394.000 Windowscomputers de Lumma-malware ontdekt, die speciaal is ontwikkeld voor het stelen van wachtwoorden. Het techbedrijf heeft met een gerechtelijk bevel 2300 domeinnamen waar de malware gebruik van maakt laten blokkeren of in beslag genomen. Bij de operatie tegen de malware waren ook Europol en bedrijven betrokken, waaronder CleanDNS, Cloudflare, ESET en Lumen.
Lumma, ook bekend als Lumma Stealer, is zogenoemde infostealer-malware eenmaal actief kan de malware allerlei data stelen, waaronder wachtwoorden en andere inloggegevens van verschillende applicaties, autofill-data uit de browser, creditcardgegevens, cryptowallets en allerlei documenten. Tevens kan de malware screenshots maken, andere malware installeren en zichzelf weer van het systeem verwijderen, zo laten het Amerikaanse cyberagentschap CISA en de FBI in een analyse weten. De malware communiceert hiervoor met een command & control-server die weer aan een domeinnaam is gekoppeld.
Alles bij de bron; Security
Apps op je telefoon vragen of ze je locatie, adresboek en andere gevoelige gegevens mogen inzien. Soms is dat nodig om de app te gebruiken, maar hoe ontzeg je een app achteraf de toegang tot je privédata?
Je iPhone heeft voor iedere app een overzicht van welke data kunnen worden ingezien. Deze vind je door bij de Instellingen-app onderin op 'Apps' te drukken en de app in kwestie aan te tikken. Hier staat of een app bijvoorbeeld toegang mag hebben tot je locatie, microfoon, camera en bluetoothsignaal.
Bij je adresboek en fotobibliotheek kun je bepalen in hoeverre een app data mag inzien. Zo kies je er bijvoorbeeld voor dat apps alleen de laatste paar foto's mogen bekijken, of dat alleen data van bepaalde contactpersonen uitgelezen mogen worden. Zo voorkom je dat een appmaker meteen al je oude babyfoto's kan zien.
Op Android kun je de toegang tot data van apps ook beperken in de Instellingen-app, waar je tikt op 'Privacy'. Daar vind je het privacydashboard, waar per app vermeld staat welke gegevens ze mogen inzien. Je hebt hiervoor een toestel met Android 12 of nieuwer nodig.
Een diagram boven in beeld laat ook zien in hoeverre bepaalde delen van je telefoon worden ingezien door andere apps. Zo bekijk je in één oogopslag hoeveel apps je locatie, camera of microfoon kunnen gebruiken - en perk je dit met een paar snelle taps weer in.
Met bovenstaande opties ben je niet meteen helemaal afgeschermd tegen data-afluisteraars. De schakelaars in kwestie slaan immers puur op data die direct door je telefoon worden afgegeven. Zit je op Instagram, dan zal moederbedrijf Meta nog steeds jouw gebruik binnen die app kunnen volgen om te weten wat voor foto's je het leukst vindt. Dit zijn immers gegevens die je op het platform van de appmaker genereert en die niet ingeperkt kunnen worden door Apple en Google.
Alles bij de bron; NU
De Nederlandse privacytoezichthouder roept op om in actie te komen als je niet wil dat Meta jouw berichten en foto's gebruikt om de AI te trainen.
Meta wil graag zoveel mogelijk gegevens verzamelen om "de diverse nuances en complexiteit van Europese gebruikers" beter te kunnen begrijpen. Vergis je niet, Meta AI, maar ook concurrenten zoals ChatGPT, beschikken al over gigantisch veel data.
Hoogleraar AI Frank van Harmelen van de Vrije Universiteit in Amsterdam zegt dat de software van deze bedrijven alle openbare informatie van het internet inmiddels wel heeft gelezen. "Alles wat online staat, is geleerd", stelt hij. "Het internet is op. Dus Meta moet nieuwe bronnen aanboren, zoals privégesprekken op Instagram."
"Mijn zwager kwam er in een gesprek met de AI-chatbot achter dat de chatbot wist met wie hij een relatie heeft", zegt AI-onderzoeker Roel Dobbe aan de TU Delft. "Dat is persoonlijke informatie die in datasets is terechtgekomen en die vermarkt wordt door ontwikkelaars."
Er zit dus al heel veel informatie in de trainingsdata van AI-ontwikkelaars waar wij niets van weten. Omdat de bedrijven daar zo geheimzinnig over doen, kom je er niet achter wat ze precies weten en waarvoor ze het (ooit) gaan gebruiken.
Het zit Dobbe niet lekker dat bij Meta is gekozen voor een opt-out ('gebruik mijn gegevens, tenzij ik bezwaar maak'). "Zo wordt de verantwoordelijkheid bij de eindgebruiker gelegd." Lotje Beek van burgerrechtenbeweging Bits of Freedom beschrijft het als volgt: "Het is alsof een rijke gast je huis binnenloopt, je fotoboeken pakt, naar buiten loopt en roept: 'Ren maar achter me aan als je vindt dat dit niet mag.'"
Terwijl de Autoriteit Persoonsgegevens zich afvraagt of het überhaupt wel mag wat Meta doet, doe ik wat ik kan. Bezwaar maken dus. Hoewel ik weet dat het me nooit helemaal zal lukken om buiten de AI-modellen van Meta te blijven. Want als vrienden geen bezwaar aantekenen en een foto plaatsen waar ik op sta, belandt mijn gezicht via die weg alsnog in de dataset.
En hoe haal ik mijn data er dan weer uit? Dat wordt een onmogelijke missie. "Jouw informatie verdwijnt in een enorme brij en is nooit meer terug te vinden", zegt Van Harmelen. "Maar wie weet verschijnen jouw citaten wel in gesprekken die Meta's chatbot met anderen heeft. Dat vind je misschien niet leuk, zeker niet als het om gevoelige informatie gaat."
Alles bij de bron; NU
Op 27 mei gaat Meta met de data van Facebook en Instagram gebruikers aan de slagvoor het trainen van 'AI-modellen', tenzij ze zelf bezwaar aantekenen.
Vorige week kwamen al meerdere Europese privacytoezichthouders met het advies dat burgers op tijd bezwaar moeten maken als ze niet willen dat hun gegevens worden gebruikt.
"De Consumentenbond vindt dat Meta consumenten expliciet om toestemming zou moeten vragen voor het gebruiken van hun gegevens. Geven zij geen toestemming, dan zouden de gegevens niet gebruikt mogen worden", zo stelt de Consumentenbond. Volgens de organisatie is niet duidelijk wat Meta met alle data gaat doen. De bond zegt dit te hebben aangekaart bij de Autoriteit Persoonsgegevens en de koepelorganisatie in Brussel.
Via de eigen website geeft de Consumentenbond instructies hoe gebruikers van Facebook en Instagram bezwaar kunnen maken. Verder wordt geadviseerd om de e-mail waarin Meta het bezwaarschrift bevestigt goed te bewaren.
Alles bij de bron; Security
Meta (het moederbedrijf van Instagram, Facebook en WhatsApp) ontwikkelt dus generatieve AI. Dit is een type computermodel dat wordt getraind door middel van miljarden gegevens.
Je raadt het al: Meta wil de gegevens gebruiken van miljarden mensen met een Facebook- of Instagramprofiel 'om Meta-producten te verbeteren'.
Maar wat gebeurt er precies met jouw gegevens en waarom heeft Meta nu juist die gegevens nodig? Dit blijft vaag. Terwijl het er wél op neerkomt dat Meta al jouw foto's en berichten die je ooit op Facebook of Instagram hebt geplaatst, wil gebruiken. Het lijkt ons duidelijk: dat wil je niet.
Maak dus bezwaar, zo doe je dat;
ga naar 'instellingen' in je profiel op Facebook of Instagram;
scroll naar beneden naar 'privacy centrum';
klik bij de melding bovenaan op 'bezwaar maken';
laat wel of niet een reden achter (dat maakt dus niet zoveel uit);
klik op 'verzenden'.
Belangrijk om te weten: het gebruik van jouw gegevens is via een opt-out geregeld. Je gegevens worden dus standaard gebruikt voor Meta's generatieve AI, tenzij je daar bezwaar tegen maakt. Als je gegevens eenmaal in het systeem staan, lijk je geen mogelijkheid te hebben om ze ooit te laten verwijderen.
Alles bij de bron; Bits-of-Freedom
De Nederlandse navigatie-app Magic Earth is in korte tijd gegroeid van 230.000 naar ruim 600.000 gebruikers. De app, die privacy als kernbelofte voert, profileert zich nadrukkelijk als Europees alternatief voor Google Maps. Gebruikersdata worden niet verzameld, advertenties ontbreken. De groei komt volgens ontwikkelaar Magic Lane voort uit de “de-Amerikanisering” van digitale diensten.
Door de onverwachte stijging in gebruik – een groei van 250 procent binnen zes weken – wordt de servercapaciteit versneld uitgebreid. Om die schaalvergroting te bekostigen, introduceert het bedrijf een bijdrage van 99 cent per jaar. Na een gratis proefmaand gaan gebruikers automatisch over op het betaalmodel.
De onderneming zegt daarmee onafhankelijk te kunnen blijven. “Zonder advertenties, zonder tracking”, aldus CEO Raymond Alves. “Dankzij een kleine jaarlijkse bijdrage kunnen we doen waar we voor staan.”
Magic Earth is nog volop in ontwikkeling. De ontwikkelaars wijzen wel op extra’s als ‘blue light routing’ voor hulpdiensten, truck- en camperroutes en een groeiend aanbod voor fietsgebruik: van race en gravel tot e-bike.
Zakelijke toepassingen zijn voor Magic Lane de primaire focus. De snelle groei van de consumentenversie wordt intern omschreven als een “bijvangst met een opmerkelijke aanleiding”. De combinatie van betaalbaarheid, Europese oorsprong en focus op privacy lijkt overstappers naar de Magic Earth-app te navigeren.
Alles bij de bron; Mobiliteit
Beveiligingsonderzoekers hebben een database van DeepSeek ontdekt met een grote hoeveelheid gevoelige informatie, die voor onbevoegden vrij toegankelijk was.
De database bevat een grote hoeveelheid chatgeschiedenis, backendgegevens en gevoelige informatie, waaronder logstreams, API-sleutels en operationele details. Ook kunnen kwaadwillenden de volledige controle over de database overnemen. De onderzoekers waarschuwen dat dit kan leiden tot privilege-escalatie binnen de DeepSeek-omgeving, zonder enige vorm van authenticatie of verdedigingsmechanisme tegen externe bedreigingen.
Het probleem is door de onderzoekers gemeld bij DeepSeek.
Alles bij de bron; Dutch-IT-Channel
Bedrijven tonen mensen gebaseerd op hun privédata verschillende prijzen voor hetzelfde product, wat ook wel 'surveillance pricing' wordt genoemd, zo stelt de Amerikaanse privacytoezichthouder FTC. Het gaat dan met name om tussenpartijen die de prijs aanpassen op basis van locatie, demografische data en zelfs de muisbewegingen op een website.
Volgens de FTC kan een dergelijke werkwijze gevolgen hebben voor privacy, concurrentie en consumentenbescherming.
Het onderzoek is nog gaande, maar de FTC is met voorlopige bevindingen gekomen.
Uit deze voorlopig bevindingen blijkt dat bijvoorbeeld cosmetische bedrijven hun prijzen aanpassen op basis van specifieke huidsoorten en huidskleuren. Ook zoekopdrachten en eerdere aankopen kunnen tot hogere prijzen leiden.
Alles bij de bron; Security