Het aantal camera’s in de openbare ruimte neemt in rap tempo toe – van de beveiligings-, deurbel- en dashboardcamera’s tot de smartphones in ieders broekzak. Gekoppeld aan steeds betere en toegankelijkere gezichtsherkenningtechnologie vormt die opname-apparatuur een gevaar voor de privacy van burgers, waarschuwt privacy-organisatie Bits of Freedom.

Bits of Freedom slaagde erin om met gratis gezichtsherkenningssoftware van Amazon en live YouTube-beelden van de Dam een medewerker die over het plein in Amsterdam liep te identificeren. De medewerker kon op de plekken waarop de webcam inzoomde, met 90 procent zekerheid geïdentificeerd worden. Daarvoor was alleen een pasfoto van de medewerker nodig. Het algoritme van Amazon kon op basis van de pasfoto nagaan of dezelfde persoon op de live uitgezonden beelden van het plein in Amsterdam stond. NRC heeft het onderzoek onder gelijkwaardige omstandigheden gerepliceerd: de verslaggever voerde een foto van zichzelf aan de computer en verscheen voor de webcam op de Dam. De conclusie is gelijk aan die van Bits of Freedom: de computer herkende het gezicht van de verslaggever.

Serie De slimme camera

Overheden en bedrijven koppelen steeds vaker kunstmatige intelligentie, zoals gezichtsherkenningstechnologie, aan (beveiligings)camera’s. Wat gebeurt er met die beelden? Hoe beïnvloeden deze slimme camera’s onze persoonlijke vrijheid? Deel 1 Omstreden camera’s in casino’s en stadions en op straat Deel 2 ‘Safe city’ Belgrado Deel 3 Schiphol als laboratorium

Het bedrijf achter de livestream op de Dam, camera-leverancier Unlimited Visions BV, heeft de webcam na vragen van deze krant aangepast, zodat mensen minder herkenbaar in beeld worden gebracht. Na de aanpassing slaagde het gezichtsherkennings-algoritme er niet langer in om de NRC-verslaggever te herkennen.

Unlimited Visions heeft nog tientallen webcams in Nederland hangen, die live en in hoge resolutie op YouTube uitzenden. Bij de livestreams maakt de eigenaar reclame voor het leveren en installeren van beveiligingscamera’s.

Het is de vraag of Unlimited Visions de Nederlandse privacyregels overtreedt. Een aantal livestreams van Unlimited Visions brengt mensen herkenbaar in beeld, zoals een camera op het terras van een strandtent in Zandvoort. Dat is in principe niet toegestaan zonder toestemming van de mensen die in beeld komen. Maar bij de webcams hangen bordjes die mensen attenderen op het cameratoezicht, zegt eigenaar Peter Austin. „Zolang mensen weten dat ze gefilmd worden, kan het.” Privacyjurist Jay Remmelzwaal van adviesbureau ICTRecht nuanceert: „Mensen informeren is inderdaad belangrijk, maar dan nog moet je een grondslag hebben om gezichten herkenbaar in beeld te brengen. Het privacybelang van gefilmde omstanders kan zwaarder wegen dan het commerciële belang van de cameraleverancier. Maar daar zou een rechter een uitspraak over moeten doen.”

Praat mee met NRC Onderaan dit artikel kunnen abonnees reageren. Hier leest u meer over reageren op NRC.nl.

Onduidelijk wie meekijkt

Bits of Freedom-onderzoeker Lotte Houwing: „Wij vinden het schrikbarend dat deze webcams bestaan.” Weliswaar zoomt de camera op de Dam sinds afgelopen weekend minder op de mensen in, „maar”, zegt Houwing, „de camera brengt mensen nog steeds herkenbaar in beeld. Niemand wil in een wereld leven waarin het onduidelijk is wie er meekijkt als je je in het openbaar begeeft.” Dat de cameraleverancier pas na vragen van deze krant zijn camera’s heeft aangepast, toont volgens Houwing „hoe kwetsbaar we als maatschappij zijn in deze situatie”. „Er worden overal in Nederland kritiekloos camera’s opgehangen en de eigenaren gaan pas nadenken over de consequenties als media er aandacht aan besteden.”

De webcams van Unlimited Visions BV zijn niet de enige die live uitzenden. Speciale websites, met namen als heelhollandkijkt.nl en webcamsinnederland.nl, verzamelen links naar livestreams van webcams die door heel Nederland hangen en in een aantal gevallen mensen herkenbaar in beeld brengen.

Het onderzoek van Bits of Freedom laat zien dat toegankelijke beelden van de openbare ruimte door iedereen die handig is met gezichtsherkenningstechnologie kunnen worden misbruikt. Houwing: „Het schrikbeeld is dat in de toekomst de identiteit van wildvreemden gemakkelijk valt te achterhalen. Het internet is één grote database. Als je daar geavanceerde gezichtsherkenningssoftware op loslaat, kun je alle mensen identificeren die in beeld lopen, zolang zij een foto in combinatie met een naam op internet hebben staan.” Dat is geen science fiction. Vorig weekend werd bekend dat Facebook in 2015 en 2016 intern experimenteerde met een applicatie waarmee foto’s van gezichten aan een Facebook-profiel kunnen worden gekoppeld. Houwing: „De mensen die we als maatschappij jarenlang paranoïde noemden omdat ze hun naam en foto niet online wilden hebben, lijken toch een vooruitziende blik te hebben gehad. We moeten met z’n allen leren terughoudender te zijn met het online zetten van foto’s en video’s. Zeker als niet jijzelf maar iemand anders daar op staat.”

Voer voor stalkers

Lees ook: Dieven en onschuldigen: de camera ziet iedereen

Bij de gezichtsherkenningssoftware van Amazon, Rekognition genaamd, is het niet eens altijd nodig om een pasfoto van de persoon die je probeert te identificeren aan te leveren. Onder de noemer ‘Celebrity Recognition’ kunnen gebruikers een willekeurige foto van een (vermoedelijk) bekend persoon invoeren, waarna Amazon hem of haar probeert te identificeren. Mediaondernemer John de Mol werd zonder problemen herkend. Stalkers kunnen grote hoeveelheden beelden van de openbare ruimte uploaden op Rekognition om zo de gangen van beroemdheden na te gaan.

De software moedigt gebruik op grote schaal aan. Na een gratis proefperiode moeten gebruikers betalen per duizend verwerkte foto’s – een prijs die bovendien daalt als meer afbeeldingen worden geanalyseerd. Amazon suggereert dat winkelcentra de software kunnen aanwenden bij de analyse van camerabeelden, om zo een inschatting te maken van demografische kenmerken van het winkelend publiek. Ook of iemand blij is, kan op basis van gezichtsuitdrukkingen geïnterpreteerd worden. Winkeliers kunnen de software gebruiken voor het handhaven van een winkelverbod dat wordt opgelegd aan overlastplegers of criminelen, zodat hen een winkelverbod kan worden opgelegd.

Rekognition is niet onomstreden. In de VS riepen deze week veertig burgerrechtenorganisaties het Congres op het „surveillance-imperium” van Amazon kritisch te onderzoeken. Een actiegroep, die meer aandacht wilde voor de gevaren van de software, filmde eerder deze maand zesduizend gezichten van voorbijgangers in Washington en maakte met hulp van Rekognition bekend wie van deze mensen voorkwam in een database met publieke personen, zoals politici en journalisten.

Gezichtsherkenningstechnologie heeft de afgelopen jaren dankzij betere algoritmen en snellere computers flinke sprongen gemaakt. NRC repliceerde het onderzoek van Bits of Freedom en ontdekte dat Rekognition, gratis software van Amazon, genoeg had aan een minuscuul beeld van 24 bij 33 pixels om de verslaggever met een zekerheid van meer dan 95 procent te herkennen. Daar zit wel een ondergrens aan, zegt hoogleraar biometrische patroonherkenning Raymond Veldhuis. „Bij een gezicht dat uit 10 bij 10 pixels bestaat, is de kwaliteit van de data zo laag dat zelfs de beste gezichtsherkenningssoftware alleen met aanzienlijke foutmarges werkt.” In veel gevallen herkent de computer gezichten al beter dan mensen zelf. „Bij lage resolutie-beelden van gezichten op een afstand, als het dus moeilijk is om een persoon te herkennen, zijn mensen nog wel goed in het herkennen van bekenden”, zegt Veldhuis. „Maar bij het herkennen van een onbekend gezicht, verslaat de computer de mens.”

Een versie van dit artikel verscheen ook in NRC Handelsblad van 30 november 2019