D66 wil dat er regelgeving komt voor gebruik van "vergaande" algoritmes en gezichtsherkenning binnen de overheid. Tot die regels er zijn, moet er een verbod op die technieken komen.

Daaronder valt ook het inmiddels omstreden SyRI, waarbij overheden samen met het ministerie van Sociale Zaken bijstandsfraude kunnen opsporen.

"Er moet een maatschappelijk debat plaatsvinden over dit soort systemen", zegt D66-Tweede Kamerlid Kees Verhoeven. "Dat debat is nu nog niet gevoerd."

Rechtszaak

Drie weken geleden diende nog een rechtszaak over SyRI, dat staat voor 'systeem risico-indicatie'. Volgens de overheid kan SyRI helpen bij het opsporen van fraude, maar volgens de initiatiefnemers van de rechtszaak maakt het programma burgers bij voorbaat verdacht van fraude.

Ondanks dat de uitspraak van die rechtszaak pas in januari wordt verwacht, is de politiek volgens Verhoeven aan zet.

"De zorgen zijn breder dan alleen SyRI", zegt Verhoeven. "Afgelopen zomer kwam nog naar buiten dat veel overheden op eigen houtje slimme algoritmes blijken te gebruiken."

Het Kamerlid doelt daarmee op onderzoek van de NOS waaruit bleek dat overheden voorspellende algoritmes inzetten om fraude en criminaliteit op te sporen, maar bijvoorbeeld ook om in te schatten wat de kans is dat een leerling voortijdig zijn school verlaat of om te voorspellen wat voor zorg iemand nodig heeft.

Eerder pleitten CDA en D66 naar aanleiding van die berichtgeving al voor een zogenoemde algoritme-waakhond.

Ongebreidelde groei

Verhoeven is ook bang voor een ongebreidelde groei van gezichtsherkenning. Er zijn volgens hem nu nog geen aanwijzingen dat bijvoorbeeld de politie gezichtsherkenning aan beveiligingscamera's koppelt, zodat verdachten die op straat lopen worden herkend. "Maar daarom moeten we nu alvast nadenken over de grenzen die we willen stellen."

Waar dat toe kan leiden, bewijst China, stelt Verhoeven. Daar experimenteert de overheid volop met gezichtsherkenning, bijvoorbeeld om voetgangers te bestraffen die door rood lopen.

Verhoeven doet de voorstellen dinsdag in de Tweede Kamer.

NOS op 3 legt in deze video uit hoe Nederland omgaat met AI: