Instagram gaat tools testen om gebruikers beter te beschermen tegen sextortion en andere vormen van misbruik van naaktbeelden. Zo gaat de app privéberichten controleren op naaktafbeeldingen.

Als een naaktafbeelding wordt aangetroffen, dan wordt deze vervaagd en verschijnt een waarschuwing dat het om een naaktfoto kan gaan. Het is aan de ontvanger om te bepalen of de foto getoond wordt of niet. Instagram herinnert gebruikers er verder aan dat ze niet hoeven te reageren op een bericht. Daarbij staan ook opties om de afzender te blokkeren en de chat te rapporteren bij Instagram.

Verzenders van naaktafbeeldingen krijgen een melding waarin ze worden aangemoedigd om daar voorzichtig mee te zijn. Mocht een gebruiker vervolgens van gedachten veranderen, dan kan de foto teruggetrokken worden. Wel bestaat de kans dat de ontvanger de foto dan al gezien heeft. Wie een ontvangen naaktafbeelding probeert door te sturen, krijgt een melding waarin ze gevraagd worden om dat te heroverwegen.

Moederbedrijf Meta gebruikt voor deze feature on-device machine learning en krijgt naar eigen zeggen geen toegang tot de foto's, tenzij iemand deze rapporteert.

Dergelijke technologie valt echter onder client-sidescanning, waar de afgelopen jaren veel ophef over is geweest. De Europese Commissie wilde met deze technologie alle chatberichten van Europeanen controleren. Experts waarschuwen dat dergelijke systemen ook gebruikt kunnen worden om andere vormen van content te controleren en blokkeren.

De nieuwe functie wordt wereldwijd standaard ingeschakeld voor gebruikers jonger dan achttien jaar. 

Alles bij de bron; Tweakers