Artificiële Inteligentie (A.I) kan de overlevingskansen van een zieke patiënt met grote nauwkeurigheid voorspellen, zonder dat wetenschappers begrijpen hoe die kansen juist worden berekend. Volgens de Harvard Business Review (HBR) is de redenering achter de berekening uiteindelijk ook van minder belang, omdat ze om te beginnen te complex is om te begrijpen en ze daarnaast in 90% van de onderzochte gevallen ook correct blijkt.
De HBR citeert een studie die werd uitgevoerd door een reeks wetenschappers van de universiteiten van Chicago, Stanford, San Francisco (UCLA) en internetzoekmachine Google. Daarbij werden de geanonimiseerde data van honderdduizenden patiënten aan een reeks machine learning-algoritmes toevertrouwd. De berekeningen werden daarna toevertrouwd aan de krachtige computers van Google.
De machines berekenden de overlijdenskansen van de patiënt met een nauwkeurigheidsgraad van 90% en dat binnen de 24 uur na de opname van de patiënt in een ziekenhuis. Maar de onderzoekers konden de logica achter de door de machines ontdekte patronen niet uitleggen.
Dat kan grote gevolgen hebben. Stel u voor dat u in een ziekenhuis wordt opgenomen waar men u vertelt dat u gaat sterven, "omdat de computer het zegt. Waarom de computer dat zegt weten we niet, maar in 9 op de 10 gevallen heeft hij het bij het rechte eind.”
In sommige landen is er al weerstand tegen dit soort methodes en pleiten politici voor een volledig verbod op het gebruik van “niet-verklaarbare algoritmes’.Maar in sommige gevallen zullen artsen de verplichting opgelegd krijgen om modellen te gebruiken die nauwkeuriger zijn dan hun menselijke expertise. Dat betekent niet dat de mening van de arts irrelevant zal worden, wel dat zich naast nieuwe kansen ook nieuwe gevaren zullen aandienen, naargelang de technologie verder evolueert en nauwkeuriger wordt.
Gemeenten gebruiken data over hun inwoners om problemen op te sporen voor ze uit de hand lopen. Handig! Maar voor de burger stijgt de kans te worden afgerekend op voorspeld gedrag. Op bijna alle terreinen waar gemeenten iets over te zeggen hebben – zorg, werkgelegenheid, veiligheid en openbare orde, infrastructuur – wordt geprobeerd met data het onbekende in kaart te brengen of voorspellingen te doen, blijkt uit een rondgang van NRC.
Soms zijn die datatoepassingen eenvoudig. Heerhugowaard bepaalt met een computermodel wanneer ze elk van haar 30.000 ‘straatkolken’ moet schoonzuigen – met bijvoorbeeld gegevens over de afstand tussen bladerrijke bomen en kolken, en hoe vol de zuigwagens uit bepaalde wijken terugkomen. Maar niet alle data zijn zo ‘onschuldig’ als de locatie van een boom. Veel gemeenten gebruiken ook data over mensen, inkomens en gedrag...
...Hoe zwaar elke variabele weegt, en waarom, weten de betrokken ambtenaren niet. „Het is een soort beslisboom, door een computer gemaakt”, zegt een betrokkene. „Voor een mens te ingewikkeld om te doorgronden.” De dienst is blij met de aanpak. „Het is objectiever dan de leerlingen uitkiezen op een onderbuikgevoel.”
Data zijn er bovendien in overvloed. Niet alleen bij de gemeenten zelf, ook op sociale media waar burgers allerlei privégegevens etaleren, zoals hun interesses op Facebook of meningen op Twitter. En elders op internet. De gemeente Amsterdam kopieerde door Google verzamelde informatie over drukte in winkels en horeca. Google krijgt die info via locatiedata van mobieltjes.
Zolang je de privacy van burgers garandeert, en transparant bent over hoe je data gebruikt, hoeven burgers zich geen zorgen te maken, zeggen gemeenteambtenaren. Is die privacy voor burgers een heet hangijzer? Ger Baron, die als Chief Technology Officerbij de gemeente Amsterdam experimenten met digitale technologie overziet, betwijfelt dat. In 2015 experimenteerde de stad tijdens het massa-evenement Sail met digitale crowd control. Telcamera’s brachten voetgangersstromen in beeld. Wifi-sensoren peilden voorbijkomende mobieltjes en konden zo bijhouden hoe snel bezoekers zich voortbewogen en waar ze bleven hangen. Via sociale media als Twitter en Instagram werd de sfeer in de gaten gehouden. Tegelijk had de stad een voorlichtingscampagne bedacht: billboards in de hele stad nodigden mensen uit te bellen als ze vragen hadden over de elektronische crowd control. Baron: „We kregen nul telefoontjes, nul!”
Er is ook weinig ophef over Syri, een afkorting van Systeem Risico Indicatie. Dit computermodel – toen het nog zonder wettelijke grondslag werd gebruikt heette het Black Box – van het ministerie van Sociale Zaken en Werkgelegenheid wijst adressen aan waarop bewoners zich schuldig zouden kunnen maken aan belasting- of premiefraude. Nu of in de toekomst. Verdachte huishoudens die uit het systeem rollen worden verder onderzocht om bewijsmateriaal te verzamelen.
Maxim Februari, filosoof en columnist van NRC, vindt dat kwalijk. „Een belangrijk principe van de rechtsstaat is dat burgers weten welke regels er zijn. Zo kunnen ze zich er ook tegen verweren, bijvoorbeeld door ze met een rechtszaak of met nieuwe wetgeving te veranderen.”
Nederlandse WhatsApp-gebruikers hebben deze week een berichtje gehad over nieuwe gebruiksvoorwaarden. Daar stond er één zin in die zeer de moeite van het lezen waard is. „We willen in de toekomst nauwer samenwerken met andere Facebook-bedrijven.” Daarmee geeft Facebook-dochterbedrijf WhatsApp aan dat het data uit de berichtenapp ondanks eerdere beloftes toch wil delen met het moederbedrijf. En veel gebruikers hebben daar nu dus ja tegen gezegd. Wie WhatsApp wil blijven gebruiken, heeft ook geen andere keuze dan de voorwaarden te accepteren.
Welke data verzamelt WhatsApp?
WhatsApp kan vooralsnog niet meelezen met berichten, maar om de berichten heen vallen ook veel gegevens te verzamelen, zogeheten metadata: over hoe vaak je appt, hoe laat, met wie, welk telefoonnummer je gebruikt, de locatie, enzovoort. Sommige van die WhatsApp-data worden nu al met Facebook gedeeld, zoals je telefoonnummer en wanneer je voor het laatst online was.
WhatsApp stelt dat het deze data niet commercieel gebruikt; „We delen momenteel geen accountinformatie om jouw ervaring met producten en advertenties op Facebook te verbeteren.” Het sleutelwoord hier is ‘momenteel’. Op meerdere plekken in de nieuwe voorwaarden hint WhatsApp erop dat het dat wel degelijk van plan is.
Wat wil Facebook doen met die data?
Details geven Facebook en WhatsApp nog niet. „We zullen je updaten wanneer we onze plannen hebben uitgewerkt”, staat in de nieuwe voorwaarden. Maar het hele verdienmodel van Facebook draait om het op maat maken van advertenties met behulp van persoonlijke data.
Een teken aan de wand: twee weken geleden stapte Jan Koum, de topman en oprichter van WhatsApp plotseling op. Volgens The New York Times en de Washington Post was dat vanwege zorgen over wat Facebook met de gegevens van WhatsApp-gebruikers wil doen. Koum zou ook zorgen hebben over dat Facebook zelfs van plan is om de versleuteling zwakker te maken zodat Facebook toch kan meekijken met de inhoud van berichten. Zuckerberg heeft dit niet expliciet ontkend.
Mag WhatsApp dit zomaar doen?
De Europese Commissie heeft Facebook vorig jaar nog een megaboete gegeven van 110 miljoen euro omdat het bedrijf had gelogen over zijn plannen om data te verzamelen via WhatsApp. Facebook gaf toen aan dat het zou stoppen met het verzamelen van gevoelige informatie van Europese gebruikers via WhatsApp. Nu probeert het dus via deze weg daar alsnog toestemming voor te krijgen.
Pikant is dat over twee weken de nieuwe strenge Europese privacywet AVG van kracht wordt, die kan leiden tot miljardenboetes bij privacyschendingen. Facebook en WhatsApp leggen nu dus vlak voor het in werking treden daarvan deze nieuwe gebruiksvoorwaarden op aan gebruikers.
Beroepsregisters voor onder andere de zorg, horeca, industrie en strafrecht geven veel meer persoonsgegevens vrij dan nodig, waardoor misbruik op de loer ligt. Onder andere bij het BIG-overheidsregister van zorgverleners was dit het geval.
In beroepsregisters kunnen werkgevers en klanten kijken om te controleren of professionals in de zorg, horeca, industrie of het recht over de juiste competenties en diploma's beschikken. Zijn van de gezochte persoon gegevens op te vragen, dan is duidelijk dat het om een partij gaat die te vertrouwen is. Onder andere voor verpleegkundigen, diëtisten, asbestverwijderaars en horecapersoneel zijn er van die databanken, terwijl ook het register van de Kamer van Koophandel en het insolventieregister als zodanig zijn aan te merken.
In principe gaat het om openbare registers, waarin een enkele persoon gezocht kan worden. Bij veel registers zijn echter gegevens van veel meer mensen op te vragen, als bijvoorbeeld op postcode gezocht wordt. Daarnaast accepteren veel databanken zoeken met jokertekens zoals * of %, waarmee met een zoekopdracht hele reeksen op te vragen zijn, zoals van mensen die op een bepaalde dag geboren zijn.
Dit opent de weg naar scraping, met het risico op phishing, spam, profilering en ander misbruik van dien, stelt de onderzoeker.
Met name bij zorgregisters zouden de gegevens relatief vaak tot privépersonen te herleiden zijn, waarbij de onderzoeker verwijst naar het BIG-register voor de registratie van zorgverleners. Dat kunnen apothekers, artsen, fysiotherapeuten, gezondheidszorgpsychologen, psychotherapeuten, tandartsen, verpleegkundigen en verloskundigen zijn. Registratie brengt met zich mee dat de personen de beschermde titel mogen dragen. Het CIBG is verantwoordelijk voor het beheer van het BIG-register en andere registers, zoals het Donorregister.
Volgens de onderzoeker was het tot 2017 mogelijk om persoonsgegevens van zorgverleners met behulp van het register te achterhalen, bijvoorbeeld naw-gegevens, gegevens van de werkgever, telefoonnummers, en e-mail-adressen. Dat zou nu teruggebracht zijn tot geslacht en geboortedatum. Niet elk register gaf gegevens eenvoudig vrij. Bij die van de Stichting Vakbekwaamheid Horeca was dat niet het geval omdat achternaam, tussenvoegsels, voorletters, geslacht én geboortedatum exact overeen moeten komen bij het zoeken.
De Zweedse politie overweegt het gebruik van commerciële dna-databases om oude moordzaken op te lossen, zo laat Bo Lundqvist, hoofd van het coldcaseteam in het zuiden van Zweden, tegenover de Zweedse radio weten. Het gaat dan om dna-materiaal dat mensen voor stamboomonderzoek met bedrijven delen. Op deze manier wist de Amerikaanse politie de zogeheten "Golden State Killer" te vinden...
...Lundqvist erkent dat er ethische bezwaren aan het gebruik van de techniek kunnen kleven. "Maar als we de meest ernstige misdrijven onderzoeken, dan is er waarschijnlijk voldoende rechtvaardiging. Je kunt vinden dat het onethisch is, maar het is niet zo onethisch als moord."
De NSA heeft vrijdag een rapport gepubliceerd waaruit blijkt dat de inlichtingendienst in 2017 drie keer zoveel data van telefoongesprekken heeft verzameld dan in 2016. De gegevens die verzameld zijn betreffen telefoonnummers, duur en tijdstippen van oproepen.
De inlichtingendienst geeft geen eenduidige reden voor de toename. Onder meer de hoeveelheid goedkeuringen van de rechtbank voor het verzamelen van gegevens en de hoeveelheid gegevens die providers bijhouden kunnen de stijging veroorzaken. Volgens een woordvoerder van de NSA is de manier waarop de gegevens zijn verkregen is niet veranderd. "We verwachten dat het van jaar tot jaar zal fluctueren.”
In 2015 werd er juist een wet aangenomen in de Verenigde Staten die het massaal verzamelen van data beperkt.
Pas op met het zomaar delen van je DNA-profiel in een openbare databank. Veel mensen van over de hele wereld doen dat, om zo eenvoudig hun stamboom aan te vullen, maar in de VS is die informatie nu ook door de politie gebruikt. Met succes, maar niet zonder risico's waarschuwen privacywaakhonden.
Een Amerikaanse seriemoordenaar werd na 50 jaar niet achterhaald omdat hij zelf zijn gegevens had achtergelaten in zo'n openbare databank, maar omdat een ver familielid dat had gedaan. Zo kwam de politie erachter in welke familie ze de dader moesten zoeken. Vervolgens werd er gericht gerechercheerd om het DNA van de hoofdverdachte te bemachtigen voor een match.
Wie zijn DNA-achterlaat beslist dus niet alleen over zijn eigen privacy, maar ook over die van anderen. Zonder het te weten kan een moeder dus het bewijs tegen haar eigen kind leveren. "Je lot is handen van anderen, dat is het probleem", vindt de Amerikaanse hoogleraar privacy Charles Seife.
Google en wearables-producent Fitbit hebben een samenwerkingsovereenkomst gesloten om medische data sneller en beter beschikbaar te stellen voor artsen. De twee bedrijven profileren zich hierdoor als een serieuze concurrent van Apple op de e-healthmarkt.
De samenwerking van Google en Fitbit betreft de door wearables gegenereerde medische data. Door de samenwerking moet het eenvoudiger worden deze data te integreren in elektronische patiëntdossiers. Fitbit zegt te beschikken over de grootste health- en fitnessdatabase ter wereld.
