Kan een mondkapje je beschermen tegen gezichtssurveillance?

We leven tijdens een wereldwijde pandemie, en in tijden van de introductie van biometrische surveillance in onze openbare ruimte. Het moment om de proef op de som te nemen: kan een mondkapje je ook beschermen tegen gezichtsherkenningstechnologie?

Twee vliegen in één klap?Onze relatie met de publieke ruimte wordt opnieuw gedefinieerd, niet alleen door de pandemie, maar ook door biometrische surveillancetechnologie. Biometrische massasurveillance maakt het bedrijven en overheden mogelijk om ons te identificeren en te volgen op basis van unieke, persoonlijke gegevens. Waar we ook gaan en op elk moment van de dag.

De toenemende inzet van gezichtsherkenning en andere biometrische surveillancetechnologie – in onze straten, in het openbaar vervoer, tijdens demonstraties, bij sportwedstrijden en concerten en in digitale openbare ruimte zoals sociale media – betekent dat onze vrijheid om ons anoniem in deze ruimte te begeven onder druk staat. Daarnaast riskeert het onze collectieve toekomst en draagt bij aan een samenleving van angst en wantrouwen.

Dit roept de vraag op: kunnen mondkapjes ons ook beschermen tegen biometrische surveillance? Wij namen de proef op de som en probeerden er een te ontwikkelen.

Een wapenwedloop om je gezichtOp het eerste gezicht lijkt dat makkelijk. Immers, een mondkapje bedekt een behoorlijk deel van je gezicht. Maar, we weten dat huidige gezichtsherkenningssystemen al behoorlijk geavanceerd zijn en mensen kunnen identificeren met relatief weinig datapunten. En terwijl er door de digitale rechtenbeweging aan een project voor beschermende mondkapjes werd gewerkt, werd er even hard aan een update van de technologie gewerkt om ook mondkapjes dragende mensen te kunnen identificeren.

Eerder hebben mensen al kleding en make-up ontworpen om zich te beschermen tegen de surveillance systemen. Zou het lukken om met zulke patronen geprint op mondkapjes de systemen om de tuin te leiden?

Dit is waar het ingewikkeld werd.. De technologie is ongrijpbaarIn het project waren er een aantal obstakels. Dit is waar het ingewikkeld werd:

- Elk gezichtsherkenningssysteem werkt weer net anders. Dit betekent dat een ontwerp dat bescherming biedt tegen identificatie van het ene systeem, bij het andere systeem niet hoeft te werken.

- De meeste gezichtsherkenningsalgoritmes zijn ondoorzichtige ‘black boxes’.

Het gebrek aan transparantie bij gezichtsherkenningssystemen maakt het moeilijk om te begrijpen wat er precies gebruikt wordt in het systeem en hoe dat precies werkt.

“Er is niet zoiets als een masker dat gezichtsherkenning blokkeert, maar meer een masker dat een ResNet-50 CNN model dat getrained is met een VGG Face2 dataset blokkeert” - Adam Harvey

- Mondkapjes hebben een klein oppervlakte. Een patroon dat werkt op een T-shirt is een stuk minder effectief wanneer het op een klein oppervlakte zoals een mondkapje wordt geprint.

- De systemen bleken te geavanceerd om met de mondkapjes te voorkomen dat er een gezicht werd gedetecteerd. Daarom werd de uiteindelijk inzet om de herkenning van het specifieke gezicht te verstoren.

- Door het ‘black box’ probleem kan de effectiviteit alleen worden gemeten door in de praktijk te testen over een breed scala aan verschillende soorten technieken die constant worden geüpdatet en steeds geavanceerder worden. Hierdoor is het heel erg moeilijk om aan te geven hoe effectief het is, en met zulke onzekerheid is het geen goede bescherming.

Wat hebben we van dit project geleerd? In dit project hebben we een aantal lessen geleerd die we graag met jullie delen:

- We weten niet of het mogelijk is om een mondkapje te ontwerpen dat bescherming biedt tegen gezichtsherkenningstechnologie. Wat we wel weten is dat het onmogelijk is om zeker te weten hoe effectief de bescherming precies is en tegen hoeveel van de verschillende systemen het werkt.

- De kleine daden van verzet die wij kunnen ondernemen tegen deze krachtige technologie zijn geen vervanging van een structurele, lange termijn oplossing.

- Burgers zouden niet de last moeten dragen om zichzelf tegen deze technologie te beschermen en hun anonimiteit te waarborgen. In plaats daarvan moeten overheden ervoor zorgen dat onrechtmatige biometrische surveillance uit onze publieke ruimte wordt verbannen.

Waarom hebben we de maskers alsnog geproduceerd?Deze maskers zijn een symbolisch verzet tegen de toenemende inzet van gezichtsherkenning. Met het dragen van het mondkapje spreek je je uit tegen deze vorm van surveillance. #ReclaimYourFace!

Sinds oktober 2020 organiseert een coalitie van 61 organisaties uit het maatschappelijk middenveld zich voor een Europees verbod op biometrische surveillance in de openbare ruimte. Want wat we uiteindelijk nodig hebben zijn geen middelen die enkel individuen beschermen tegen deze invasieve technologie, maar politici die hun werk goed doen. Dat betekent sterke wetgeving die ons allemaal en onze samenleving beschermt tegen biometrische surveillance door de hele EU en liefst daarbuiten!

Wil jij ook zo`n masker en onze campagne steunen? Dat kan hier!

Deze blog is een bewerking van de blog op Reclaim Your Face.
 

Gerelateerde berichten:

• Stop de waanzin. Verbied biometrische surveillance! (17/06/21 10:00)
• Ook in de Europese Unie zien we biometrische surveillance, en deze surveillance ons (30/03/21 14:17)
• Vegen we alle gezichtsherkenning van straat, of veegt IBM vooral haar eigen straatje schoon? (25/06/20 13:05)
• Europese AI wetgeving laat zien waarom wij vechten voor een verbod (22/04/21 09:27)
• We moeten moediger zijn (20/02/20 11:19)

Reacties:

Er zijn nog geen reacties op dit bericht.