De macht van techbedrijven bewijst dat er behoefte is aan een digitaal sociaal contract, waarmee de burger zijn rechten kan opeisen.Algoritmes worden nu ook al ingezet om het risico op arbeidsonrust binnen een bedrijf te berekenen. 

‘Warlords’ of ‘krijgsheren’ zijn er ook in onze digitale gemeenschappen actief: gehuld in een onzichtbaar algoritmisch uniform lappen ze mensenrechten aan hun laars.

Vorig jaar spanden chauffeurs een rechtszaak aan tegen hun ontslag door Uber; deze ‘krijgsheer’ onderwerpt zijn chauffeurs aan een tucht van algoritmen. De rechtbank stelde de aanklagers gedeeltelijk in het gelijk en droeg het bedrijf op transparanter te zijn over de opgeslagen data. Over het ontslag op basis van data werd echter geen uitspraak gedaan.

Ondertussen is een reeks Uber-octrooien toegekend gericht op algoritmische scorings- en risicovoorspellingssystemen. Het ligt in de lijn der verwachting dat het bedrijf op korte termijn zijn medewerkers een risicoprofiel toekent op basis van rijgedrag, biometrische gegevens en metadata van de telefoon. 

Er schuilen hier grote risico’s voor de privacy en rechten van werknemers. ‘Dit is een bedrijf dat op grote schaal experimenteert en weinig respect heeft getoond voor de privacy van gegevens’, aldus Daniel Kahn Gillmor, expert van de Amerikaanse burgerrechtenbeweging ACLU.

Medewerkers zouden tegen deze algoritmische drills in opstand moeten komen, maar zo’n opstand hebben de warlords allang voorzien. Het Amerikaanse concern Whole Foods – onderdeel van Amazon – kende recentelijk met inzet van algoritmen aan 510 vestigingen een vakbondsrisico-score toe.

Op basis van criteria zoals de loyaliteit van werknemers, het personeelsverloop en etnische diversiteit kan zo feilloos worden bepaald welke ketens het risico lopen van een personeelsopstand, zodat deze tijdig in de kiem kan worden gesmoord.

Het is dringend nodig dat we het mandaat op profilering door algoritmen goed regelen. Daarbij hebben wij als burgers een belangrijke rol. We moeten bouwen aan een ferme beschermingslinie tegen warlords. Ook wanneer ze geen geweer in de hand hebben, maar nullen en enen. Want laten we eerlijk zijn, de warlords hebben een veel te grote politieke invloed: het feit dat Facebook door een kleine verandering in zijn algoritmen begin dit jaar eigenhandig een wetswijziging in de Australische mediawet afdwong, spreekt boekdelen.

Alles bij de bron; Volkskrant