Europese AI wetgeving laat zien waarom wij vechten voor een verbod

In het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie staat een gedeeltelijk verbod op biometrische surveillance in de openbare ruimte. Dat is een goed begin en laat zien dat ons werk zeker niet voor niets is. Maar er zitten nog te veel gaten in de wetgeving om van echte bescherming te kunnen spreken. Daarom gaan we door met de strijd voor een verbod op álle biometrische surveillance in de openbare ruimte.

Welke bescherming biedt het voorstel wél?De Commissie erkent expliciet de grote inbreuk die biometrische surveillancesystemen kunnen maken op de rechten en vrijheden van burgers. Daarom komt zij tot een verbod op de inzet van live biometrische identificatie systemen die worden ingezet in de publiek toegankelijke ruimte voor handhavingsdoeleinden. Dat betekent dat opsporingsinstanties, maar ook andere instanties op hun verzoek, geen gezichtsherkenning of andere biometrische identificatie mogen inzetten in de openbare ruimte, waarbij in real time de match wordt gemaakt tussen de personen in een databank en de personen die geregistreerd worden door het systeem.

Andere vormen van biometrische surveillance in de openbare ruimte vallen onder het regime voor applicaties die hoge risico\'s met zich mee brengen, en daarom aan regels worden gebonden. Een nieuwe toevoeging in dit voorstel is een databank aan te leggen in de Europese Unie waarin lidstaten alle applicaties die hieronder vallen moeten opgeven, zodat daar meer transparantie over wordt gegeven, en het beter kan worden gecontroleerd.

Welke bescherming missen we in dit voorstel?Allereerst is de verwoording van het verbod erg specifiek, en laat het vele soorten biometrische surveillance buiten beschouwing. Die vallen dus allemaal niet onder het verbod. Denk bijvoorbeeld aan deze soort surveillance voor commerciële doeleinden. Hiermee lijkt het wetsvoorstel vormen van biometrische massasurveillance toe te staan die minimaal op gespannen voet staan met de fundamentele rechten en vrijheden die in bestaande Europese wetgeving zijn verankerd.

Ook staan er meteen uitzonderingen op het verbod geformuleerd die nog aardig wat ruimte laten. Bijvoorbeeld voor het gericht zoeken naar een potentieel slachtoffer van criminaliteit, preventieve inzet wanneer er sprake is van een dreiging ten opzichte van de fysieke veiligheid van een persoon of het zoeken van iemand die verdacht wordt van een zwaarder misdrijf. Wel worden er bij deze uitzonderingen vereisten geformuleerd zoals beperkingen in tijd, plaats en gerichtheid op personen.

Daarnaast is het verbod expliciet beperkt tot real-time systemen. Dat betekent dat bijvoorbeeld gezichtsherkenning die wordt toegepast op de beelden die zijn opgenomen door \'normale\' camera\'s in de openbare ruimte niet onder het verbod vallen. Daarmee is het verbod dus niet van toepassing op CATCH, het systeem dat de Nederlandse politie gebruikt, maar valt dat enkel binnen het hoge risico regime.

En beperkt het verbod zich tot biometrische identificatie. Dat is een erg beperkte formulering. De Europese toezichthouder op gegevensbescherming heeft eerder gezegd dat iemand onderscheiden van andere mensen hier ook onder valt. Maar dat lijkt in het voorstel niet te worden meegenomen. Dit zet de deur open voor mogelijk discriminatoire praktijken als het categoriseren of selecteren van mensen op basis van uiterlijke kenmerken. Ook zegt het niets over het volgen van mensen in de publieke ruimte zonder dat dit gericht is op hen identificeren.

Tot slot schuilt er gevaar in de vage bewoordingen. Het verbod geldt nu ten aanzien van systemen die worden ingezet zonder voorafgaande kennis van de gebruiker van het systeem over of de persoon waar de inzet zich op richt aanwezig zou zijn en geïdentificeerd kan worden. En als je hier de draad kwijtraakt is dat niet gek, dat doen wij ook een beetje.

Een begin, maar wij gaan door! Jij ook?We zijn blij met de erkenning van de Commissie dat deze systemen enorm intrusief zijn en hoge risico\'s meebrengen voor onze rechten en vrijheden en onze vrije samenleving. Ook is het een eerste stap dat er nu een gedeeltelijk verbod in het voorstel is opgenomen. Maar voor echte bescherming is er meer nodig. Daarom blijven wij hard werken naar een verbod op álle biometrische surveillance technologie in de openbare ruimte.

Help ons in de strijd voor een verbod en onderteken ons burgerinitiatief!

Gerelateerde berichten:

• Als een probleem breed is, moet een verbod dat ook zijn (22/06/21 17:42)
• Stop de waanzin. Verbied biometrische surveillance! (17/06/21 10:00)
• Ook in de Europese Unie zien we biometrische surveillance, en deze surveillance ons (30/03/21 14:17)
• Biometrische surveillance in Nederland: Het mag niet, maar gebeurt toch (07/07/21 07:15)
• Kan een mondkapje je beschermen tegen gezichtssurveillance? (13/07/21 10:15)

Reacties:

Er zijn nog geen reacties op dit bericht.