Algoritmes worden op steeds grotere schaal ingezet om het gedrag van burgers te definiëren en te voorspellen. Op basis van deze voorspellingen worden vervolgens beslissingen genomen, die verregaande en onomkeerbare invloed hebben. Discrimineren met data lijkt een Orwelliaanse dystopie, maar is al meer werkelijkheid dan je denkt, zeker in China. Bart Combée, directeur van de Consumentenbond, beschrijft waarom de Consumentenbond sinds eind 2016 een meldpunt voor datadiscriminatie is gestart.

Kredietonwaardig om je postcode

Veel mensen maken het wel eens mee: een betalingsherinnering belandt in je spambox, je vergeet daardoor de betaling en dan kun je als je als wanbetaler geregistreerd worden, met alle gevolgen van dien.

Maar het kan veel gekker. Je kunt bijvoorbeeld het stempel ‘kredietonwaardig’ krijgen alleen omdat je een ‘foute’ postcode hebt, en dan honderden euro’s vooruit moet betalen voordat je een energiecontract mag afsluiten. Of iemand die één huurbetaling had gemist, werd zes (!) jaar later geweigerd voor een abonnement met een mobiele telefoon. Het zijn maar een paar voorbeelden van mensen die gedupeerd worden doordat een aanbieder hen inschat als wanbetaler en vervolgens weigert voor een dienst of vooraf (aan het leveren van een dienst) eerst een grote ‘waarborgsom’ eist.

Het probleem: dienstaanbieders als telecombedrijven en energiebedrijven checken onze kredietwaardigheid bij kredietinformatiebureaus zoals Focum, EDR en Experian. Vaak is het onduidelijk welke gegevens daarvoor worden gebruikt en soms zijn de gegevens verouderd of onjuist. Het gevolg is dat mensen ten onrechte het stempel ‘wanbetaler’ krijgen.

Meldpunt voor datadiscriminatie

De Consumentenbond vindt dit ‘datadiscriminatie’. Eind vorig jaar zijn we gestart met ons meldpunt ‘De dupe van je data’. Met behulp van de meldingen van consumenten die binnenkomen zoeken we uit hoe de bedrijven werken en waardoor de problemen ontstaan. En we dringen aan op oplossingen. Met resultaat, want inmiddels hebben enkele bedrijven maatregelen genomen.

Zo bleken energieleveranciers Vandebron en Nuon de postcode van potentiële klanten mee te wegen in hun beslissing om die mensen een waarborgsom (van soms honderden euro’s) te laten betalen. Dat vonden wij niet eerlijk. Vandebron was het snel met ons eens en na aandringen laat nu ook Nuon deze ‘postcodecheck’ weg. Vandebron en Nuon hebben ook aanpassingen gedaan in hun communicatie richting consumenten zodat die minder plompverloren geconfronteerd worden met het stempel ‘kredietonwaardig’. In plaats daarvan krijgen ze uitgelegd wat een kredietscore is, dat het een inschatting is (en geen hard getal) en wat consumenten kunnen doen om een verkeerde score te corrigeren.

We kregen op ons meldpunt meldingen uit vele sectoren en bedrijven. Zo kamen er ook veel meldingen binnen over telecomaanbieder Tele2, die we nu aanspreken op hun werkwijze. Heb jij misschien iets vergelijkbaars meegemaakt of ken je iemand die dit heeft meegemaakt? Dan horen we dat graag, zodat we ook die problemen in beeld krijgen. Deel jouw ervaring op consumentenbond.nl/dupevanjedata of attendeer vrienden en familie op ons meldpunt. Voor meer informatie: www.consumentenbond.nl/baasovereigendata.

Meer lezen?

• Lees meer blogs in ons dossier ‘Discrimineren met data‘. Wellicht ben je ook geïnteresseerd in ‘Big Data: wat weet de stad van mij?’ Hoe onze interactie met elkaar door digitale technologie verandert is te lezen in De digitale ander. 
• Tijdens de live talkshow Stadsleven ‘Discrimineren met data’ van woensdag 31 mei, 20.00-22.00 uur in de Balie gaan we verder in op dit thema. Koop hier je kaartje.