De overheid moet van de rechter stoppen met het gebruik van een algoritme om uitkeringsfraude op te sporen. Het digitale systeem grijpt te diep in op het privéleven van Nederlanders.

Vooral de geheimzinnigheid rond het systeem nekt de Staat, blijkt uit een vonnis woensdag van de rechtbank Den Haag. De speciale VN-rapporteur voor extreme armoede en mensenrechten noemt de uitspraak een internationale mijlpaal.

De zaak was aangespannen door een reeks maatschappelijke organisaties die zich onder meer inzetten voor privacy. Zij stelden dat het zogeheten Systeem Risico Indicatie, beter bekend als SyRI, alle burgers bij voorbaat verdacht maakt, en dat er zoveel data worden verwerkt dat het in strijd is met het Europese verdrag voor de rechten van de mens.

Volgens de staat is SyRI niet meer dan een geautomatiseerde manier om bestanden die de overheid toch al heeft, naast elkaar te leggen, om zo mogelijk frauderende burgers op te sporen. Zo kan bijvoorbeeld blijken dat iemand die een uitkering krijgt voor een alleenstaande, op een adres woont waar meerdere mensen ingeschreven staan. Sinds 2015 is het gebruik van het algoritme wettelijk vastgelegd en sindsdien is er een handvol SyRI-projecten geweest, onder meer in Rotterdam en Haarlem.

Gebrek aan transparantie

Wie er gelijk heeft over wat SyRI precies is, kan de rechter naar eigen zeggen niet beoordelen. De Staat wil niet zeggen hoe het algoritme exact werkt en welke risico-indicatoren worden gebruikt om potentiële fraudeurs te herkennen. Wordt dat bekend, dan kunnen burgers hun gedrag daarop aanpassen, is het argument voor die geheimzinnigheid.

Dat laatste laat de rechter aan de Staat om te overwegen. Toch is dat gebrek aan transparantie wel een belangrijke reden om te oordelen dat SyRI in strijd is met de fundamentele mensenrechten. Burgers weten bijvoorbeeld niet welke privégegevens er worden gebruikt. En SyRI is zo ook op geen enkele manier te controleren.

Ondertussen laat de wet volgens de rechter ruimte om veel data te gebruiken voor analyse. Denk aan gegevens over schulden, werk, onderwijs en fiscale data. Eigenlijk, zo sluit de rechter zich aan bij een eerdere opmerking van de Raad van State, valt er nauwelijks een persoonsgegeven te bedenken dat niet in aanmerking komt voor verwerking in SyRI.

Kritiek

De speciale VN-rapporteur Philip Alston reageert verheugd op de uitspraak van de Nederlandse rechter. Hij liet zich eerder al kritisch uit over SyRI, vooral omdat het zich richt op arme buurten, en het systeem in zijn ogen fundamentele burgerrechten schendt. Volgens Alston is het wereldwijd een van de eerste keren dat een rechter de inzet van algoritmes door een overheid op zijn burgers op deze manier toetst, en een halt toeroept. Hij hoopt dat rechtbanken in andere landen, waar gelijksoortige technieken worden gebruikt , zullen volgen.

In een reactie op het vonnis zegt het verantwoordelijke ministerie van sociale zaken dat de uitspraak van de rechter helder is: SyRI kan niet meer worden gebruikt om fraude met sociale voorzieningen op te sporen. Verder benadrukt het ministerie vooral het belang van het tegengaan van fraude.

De rechtbank in Den Haag erkent dat belang ook en zegt te snappen dat de overheid nieuwe technieken inzet. Maar juist nu er technisch zoveel mogelijk is, moet de overheid daarmee extra verantwoordelijk omgaan, aldus het vonnis.

Lees ook:

De rechter buigt zich over digitale fraudecontrole: mag de overheid zomaar privégegevens koppelen?

Dinsdag buigt de rechter zich over SyRI, het ‘geheime’ systeem waarmee de overheid frauderende burgers opspoort door op grote schaal privégegevens te koppelen.