De Europese Commissie wil technologiebedrijven kunnen dwingen mee te kijken met de chats van hun gebruikers. Misschien wel de grootste bedreigingen voor vertrouwelijke communicatie op het internet op dit moment.

Centraal in het voorstel staat de oprichting van een nieuwe autoriteit, het EU-centrum. Die nieuwe instantie moet hun kantoorruimte gaan delen met Europol, de samenwerking tussen de politie in elk van de lidstaten. Dat is nodig, volgens de wetgever, voor "de betere mogelijkheden voor gegevensuitwisseling" en om er voor te zorgen dat "het personeel [...] meer loopbaanmogelijkheden [heeft] zonder van standplaats te hoeven veranderen." En natuurlijk regelt de wet dat de beide instanties "elkaar van een zo volledig mogelijke toegang tot relevante informatie en informatiesystemen [...]" voorzien.

In de praktijk zal de scheiding tussen de twee diensten dan ook niet meer dan een plantenbak zijn.

Dat EU-centrum heeft als taak meldingen van materiaal van mogelijk misbruik van kinderen te filteren. Die meldingen komen van platforms als WhatsApp of Signal. Om alle berichtjes te kunnen beoordelen, gebruiken die bedrijven kunstmatige intelligentie

Het EU-centrum moet vervolgens de meldingen van platformen "snel beoordelen en verwerken [...] om te bepalen of die meldingen kennelijk ongegrond zijn." Een afbeelding is alleen "kennelijk ongegrond" als er duidelijk geen sprake is van seksueel misbruik. Dat is heel duidelijk als op de foto twee bejaarden afgebeeld staan. Of als op de video een poesje water drinkt uit een bakje.

Maar op veel van de foto's zal wel iets van blote huid of genitaliën staan. En als niet meteen duidelijk is dat daarbij enkel volwassenen betrokken zijn, dan zou het kunnen dat het met jongeren is. En dan zou het kunnen dat er sprake is van misbruik. En dus is het niet meer "kennelijk ongegrond".

Als de melding naar inschatting van het EU-centrum niet "kennelijk ongegrond" is, moet er ook een kopie van die melding naar Europol. De melding wordt dan dus over de plantenbak gegooid. Europol krijgt daarmee de beschikking over een gigantische set aan intieme foto's, video's en chat's van met name jongeren. Dat zijn stuk voor stuk intieme foto's waar in veel gevallen helemaal niets mis mee is.

Wat Europol daarmee moet doen zegt het wetsvoorstel niet. Dat zal vast wel weer iets zijn als "analyseren" en "in samenhang brengen en verrijken met andere informatie." Het voorstel bepaalt niet hoe lang Europol die foto's mag bewaren. En dat terwijl veel van die intieme foto's, video's en chat's buiten het mandaat van Europol vallen. Dat is namelijk "ernstige internationale criminaliteit en terrorisme".

De enige manier om dat met zekerheid te bepalen, is door de context te kennen. Maar die heeft het EU-centrum niet. En dus is zo'n beetje elke melding van een foto met naakt en jonge mensen erop, en elk gesprek dat niet overduidelijk tussen volwassenen is, niet "kennelijk ongegrond". En dus mogelijk misbruik.

En in dat geval stuurt het centrum de foto door naar de politie van de relevante lidstaat. Is de gebruiker een Nederlandse gebruiker, dan wordt de melding dus doorgestuurd naar de Nederlandse politie. Die zal moeten onderzoeken of er écht sprake is van misbruik. De politie moet vervolgens op zoek naar de context: het verhaal achter de foto of het gesprek.

Kortom, als dit wetsvoorstel aangenomen wordt, zijn de gevolgen desastreus. Als je als jongere je seksualiteit onderzoekt, of gewoon een fijne relatie hebt, moet je de politie vrezen. Je kunt er immers niet langer op vertrouwen dat je meest intieme gesprekken alleen tussen jou en je partner blijven.

En voor politici die nu denken: "Goed punt, we moeten een bewaartermijn toevoegen," jij mist het punt. Om kinderen te beschermen is het helemaal niet nodig dat elke foto, video of chat die misschien wel op seksueel misbruik van jongeren zou kunnen wijzen, naar Europol moet.

Want wat was het doel ook al weer? Kinderen en jongeren beschermen toch? Dat kunnen we veel beter doen door de positie van slachtoffers te versterken, gebruikers eenvoudiger misstanden te laten melden, de capaciteit van de zedenpolitie te vergroten, en door ervoor te zorgen dat daders gestraft worden. Niet door mee te lezen met ieders vertrouwelijke communicatie, of door Europol te laten concurreren met Pornhub.

Alles bij de bron; Bits-of-Freedom


 


Schrijf je in op onze wekelijkse nieuwsbrief!