Een man uit San Francisco is flink in de problemen gekomen nadat hij op verzoek van de huisarts een foto van het geslachtsdeel van zijn zoontje had gemaakt. Google markeerde de foto als kindermisbruik, blokkeerde zijn account en deed melding bij de politie.

Google scant sinds 2018 de cloud-opslagdienst Google Drive met kunstmatige intelligentie. Dit systeem is getraind om beelden van seksueel misbruik te herkennen. De man had op de foto het geslachtsdeel van zijn zoontje vast om de infectie goed te kunnen fotograferen. Dit werd door het systeem van Google gemarkeerd als een seksuele handeling.

De man nam contact op met Google om het misverstand recht te zetten. Google meldde dat het niet mogelijk was het account te herstellen omdat er al melding was gedaan bij de politie. De politie moest beoordelen of er sprake was van seksueel misbruik.

In december 2021, negen maanden later, kreeg de man een brief van de politie. Daarin stond dat er een groot onderzoek had plaatsgevonden. De politie had daarvoor zijn zoekopdrachten op internet, locatiegeschiedenis, berichten en alle documenten, foto's en video's op de Google Drive onderzocht.

De politie was tot de conclusie gekomen dat er geen sprake was van kindermisbruik en meldde dat het onderzoek was gesloten. Toch kreeg de man zijn Google-account niet terug.

Google had zijn account ondertussen al permanent verwijderd. De man is daardoor veel persoonlijke data kwijtgeraakt, waaronder foto's en video's van zijn kinderen. De man eist nu 7.000 dollar (ruim 6.900 euro) schadevergoeding van Google.

Alles bij de bron; NU