Leven in de wereld van iGod – Column Willemijn Dicke

mei 3, 2017 / 2986 views

Algoritmes worden op steeds grotere schaal ingezet om het gedrag van burgers te definiëren en te voorspellen. Op basis van deze voorspellingen worden vervolgens beslissingen genomen, die verregaande en onomkeerbare invloed hebben. Discrimineren met data lijkt een Orwelliaanse dystopie, maar is al meer werkelijkheid dan je denkt. Willemijn Dicke, auteur van het boek iGod, schrijft over hoe keuzevrijheid door een SocialCitizenScore in gevaar wordt gebracht. 

Ziekenhuisbezoek

Met mijn vader (79 jaar) bezocht ik het ziekenhuis. Verder behandelen of de ziekte op zijn beloop laten – dat was de vraag. De specialist nam uitgebreid de tijd voor ons. Uit haar anekdotes en voorbeelden bleek dat zij mijn vader goed had leren kennen in de jaren hij haar patiënt is. We bespraken de risico’s en de voor- en nadelen van de verschillende scenario’s. Op een gegeven moment maakten we zelfs grapjes, waarbij de arts speels met haar voeten wiebelde en ik haar rode Louboutin zolen registreerde. Ze gaf open en direct antwoord op alle vragen. Toen mijn vader haar vroeg wat zij zou doen in zijn plaats, weigerde ze een keuze te maken. ‘Het is uw leven meneer Dicke en het is dus úw beslissing.’

iGod en de SocialCitizenScore

Dit ziekenhuisbezoek vond in dezelfde week plaats als de lancering van mijn sciencefiction boek ‘iGod.’* Het verhaal speelt zich af in Nederland in de nabije toekomst. Alle Nederlanders hebben een SocialCitizenScore, die uitdrukt in hoeverre de overheid meent dat zij goede burgers zijn, die van nut zijn voor de samenleving. In iGod wordt de SocialCitizenScore samengesteld op basis van massa surveillance die allerlei data combineert: wat is jouw surfgedrag op internet; hoe belangrijk is jouw werk voor de samenleving of ben je werkloos; sport je wel genoeg – bepaald op basis van de gegevens van jouw fitbit; koop je goede en gezonden producten via internet; welke commentaren laat je achter op social media en is dat gunstig of juist kritisch ten aanzien van de overheid; hoe staat jouw gezondheid ervoor, gegevens automatisch gegenereerd op basis de analyse van jouw speeksel in de smart-tandenborstel en van jouw uitwerpselen in de smart-wc. Enzovoort.

Deze score bepaalt of je recht hebt op leningen, op bepaalde woonruimte en ook op medische zorg. Bij een magere SocialCitizenScore vervalt het recht op medische zorg. Indien de SocialCitizenScore nóg lager wordt, volgt automatisch de activering van het gif in een geïmplanteerde chip, resulterend in een pijnloze, zekere dood. Bij geen van deze stappen is er sprake van een beslissing: het supersysteem (‘iGod’) handelt op basis van algoritmes.

Ik keek nog eens naar mijn oude vader. Hoe onmogelijk en zwaar de afweging ook was voor hem, ik was intens blij dat hij autonoom mag beslissen. We zijn gelukkig nog niet in het scenario van iGod verzeild geraakt. Maar waakzaamheid is geboden: een dergelijke SocialCitizenScore is al in gebruik in Engeland en in China.

*iGod is een Sciencefiction roman geschreven door Willemijn Dicke, geïnspireerd door en met een inleiding van Dirk Helbing.

Meer lezen?

  • Lees meer blogs in ons dossier ‘Discrimineren met data‘. Wellicht ben je ook geïnteresseerd in ‘Big Data: wat weet de stad van mij?’ Hoe onze interactie met elkaar door digitale technologie verandert is te lezen in De digitale ander. 
  • Tijdens de live talkshow Stadsleven ‘Discrimineren met data’ van woensdag 31 mei, 20.00-22.00 uur in de Balie gaan we verder in op dit thema. Koop hier je kaartje.