Eerder gepubliceerd op 17 februari in Trouw:
In het Filosofisch Elftal stelt Trouw een vraag over het nieuws aan twee filosofen uit een poule van elf. Vandaag: bij de toeslagenaffaire leidde het delen van data tot een ramp, maar mag je persoonsgegevens wel delen als het gaat om een doel als armoedebestrijding?
Maurice van Turnhout
Minister Carola Schouten van armoedebeleid wil dat overheidsinstanties persoonsgegevens kunnen delen om minima te traceren. Specifiek richt ze zich op de groep die een onvolledige AOW ontvangt, waaronder mensen die op latere leeftijd naar Nederland zijn gekomen.
“De afgelopen jaren is het delen van informatie vooral gebruikt om mensen te straffen,” zei Schouten zaterdag in Trouw. “Ik wil dit doen voor de goede dingen, om mensen te helpen.”
Bij de toeslagenaffaire ontaardde het delen van databestanden in een klopjacht op kwetsbare gezinnen, die onterecht als fraudeurs werden geprofileerd. Sindsdien staat het delen van data scherp ter discussie. Mag je privégegevens wél delen voor een goed doel als armoedebestrijding?
Sprookje
“Schoutens goede bedoelingen stellen mij allerminst gerust”, zegt politiek filosoof Ivana Ivkovic. “De minister lijkt zich er niet van bewust dat het ondanks die goede bedoelingen toch altijd weer misgaat met het delen van data. Het is een sprookje dat je mensen via data enkel op de gewenste manier bereikt, zonder onvoorziene gevolgen. Schouten moet op zijn minst garanties kunnen leveren dat het systeem niet opnieuw ontspoort.”
Fleur Jongepier, docent en onderzoeker digitale ethiek aan de Radboud Universiteit, is wel positief over Schoutens voornemen. “Algoritmen kregen door de toeslagenaffaire een slechte naam, omdat er sprake was van etnisch profileren. Overheden kunnen er dan voor kiezen om nooit meer big data te gebruiken, maar het kan ook een reden zijn voor overheden om data in te zetten bij het helpen van mensen in minder geprivilegieerde posities. Dat zie ik als een broodnodige vorm van compensatie.”
Ivkovic: “De minister geeft zelf toe dat haar voornemen raakt aan de grenzen van de wet. Volgens mij kan het nooit de bedoeling zijn dat je de wet oprekt als je er last van hebt, dat is de omgekeerde wereld. In plaats van structurele sociaal-economische oplossingen voor armoede te bedenken, komt Schouten met een stoplap. Eigenlijk deugt het systeem niet, maar het is te ingewikkeld om te herschrijven, dus zet ze het delen van data in als tijdelijk lapmiddel.”
Jongepier: “Inderdaad zou het prachtig zijn om armoede structureel op te lossen zonder algoritmen en met mensenwerk. Dan streef je een ideaaltheorie na, zoals John Rawls het noemde. Volgens een non-ideaaltheorie stuur je daarentegen op het haalbare. Van de huidige verkozen regering hoeven we geen afdoende effectieve armoedebestrijding te verwachten, dus met aansturen op idealen schieten we weinig op. Met het delen van data zijn personen die onder het bestaansminimum leven mogelijk wél geholpen. Dan gaan de alarmseinen op rood nog vóór de ambtenaar met eigen ogen ziet dat mensen in de schulden terechtkomen. Misschien hebben mensen er zelfs wel recht op om in een vroeger stadium door de overheid geholpen te worden.”
Ivkovic: “Mensen hebben ook een recht om niet zichtbaar te worden gemaakt. Kwetsbare groepen, zoals AOW-gerechtigde migranten, kunnen door die zichtbaarheid nog kwetsbaarder worden. Ze worden geholpen met het aanvragen van hun AOW, maar wat als daarnaast ook hun schulden worden geregistreerd? Krijgen ze dan garanties dat er geen andere instanties aankloppen, instanties die niet per se hulpverlenend zijn? Ik moet denken aan filosoof Michel Foucault en zijn theorie van het panopticum, ontleend aan het type gevangenis waarin gevangenen constant worden geobserveerd. Als mensen voortdurend in het vizier zijn, zijn ze blootgesteld aan machtsuitoefening.”
Jongepier: “Dat is nogal cynisch. Wat is er erg aan als een ambtenaar graag minima wil helpen en die groep voor haar zichtbaarder wordt dankzij big data? Zichtbaarheid is niet inherent slecht of goed, het gaat erom wat je ermee doet. Een overheid is van nature een log, bureaucratisch systeem dat onoverzichtelijk is voor burgers. Het aanvragen van toeslagen is erg ingewikkeld, waardoor hoogopgeleiden vaak meer uit die bureaucratie halen dan lager opgeleiden. Het is een onrecht dat een grote groep AOW-gerechtigden nu geen geld van de overheid krijgt, puur omdat het systeem zo bureaucratisch is. Je kunt big data goed inzetten om dit wat recht te trekken, zo lang je het oorspronkelijke doel maar niet uit het oog verliest en vangnetten inbouwt.”
Ivkovic: “Hoeveel gegevens er ook voorhanden zijn, er blijven altijd mensen over die we niet kunnen helpen. Juist uit goede bedoelingen kan er dan een push ontstaan om ook die mensen te bereiken, en dus nóg meer data te verzamelen en te koppelen. Moet de overheid AOW-gerechtigden opsporen, of moeten AOW-gerechtigden zelf de overheid beter kunnen vinden? In kwetsbare wijken zou je via buurtwerk informatie kunnen verstrekken over overheidsvoorzieningen, maar daar wordt nu juist door de huidige regering op bezuinigd.”
Jongepier: “Dat is een terecht punt. De hamvraag van Schoutens aanpak is: met welk doel wil de minister data delen? Ontwikkelt de overheid daar zelf de technologie voor, of wordt de opdracht uitbesteed aan een groot tech-bedrijf dat uit is op winstmaximalisatie? Bovendien moeten mensen een laagdrempelige mogelijkheid krijgen om foute gegevens in het systeem recht te zetten, waarbij ze met een mens van vlees en bloed in gesprek kunnen in plaats van met een robot. Onder andere daar ging het mis bij de toeslagenaffaire. We mogen hopen dat we daarvan geleerd hebben.”
Ivkovic ziet die leercurve niet. Ze wijst naar de Wet gegevensverwerking door samenwerkingsverbanden (WGS), die in december zonder veel discussie door de Tweede Kamer werd aangenomen. “Dit wetsvoorstel maakt het makkelijker voor overheden en private partijen om databestanden te delen, en het delen van die data wordt niet ingekaderd. Anything goes, lijkt het devies.”
Jongepier: “Het is inderdaad zorgelijk dat de WGS er na een vernietigend advies van de Autoriteit Persoonsgegevens zo makkelijk door is gekomen. Datgene wat technisch mogelijk is, wordt vaak doorgedrukt zonder dat de risico’s goed in kaart zijn gebracht. Die risico’s zijn namelijk moeilijk te voorzien. Tegelijkertijd ligt er met Schoutens voorstel een kans om te laten zien hoe je met big data en algoritmische systemen onrecht kan verkleinen in plaats van vergroten. Nu is de vraag: gaat de minister dit gemakzuchtig uitvoeren of geduldig en voorzichtig? Daar staat of valt alles mee.”