De AI-verordening is er, maar wij zijn sceptisch

09/12
Er is een akkoord bereikt over de Europese wet waarin kunstmatige intelligentie wordt gereguleerd (de zogeheten AI-verordening). We zijn sceptisch over de uitkomsten.

Wij zijn sceptisch.Vandaag zijn de Europese Commissie, het Europees Parlement en de Raad van de Europese Unie tot een akkoord gekomen over de AI-verordening.

Het beschermen van fundamentele rechten was een van de belangrijkste doelen van de wet. Volgens Brando Benifei, een van de leidende rapporteurs van het Europees Parlement, is dat doel behaald en staat de mens centraal in de wet. Wij houden echter nog een slag om de arm, zolang we de volledige tekst niet hebben gezien. In deze tekst baseren we ons dus vooral op de persconferentie die gisternacht plaatsvond. Op basis daarvan zijn we niet bepaald enthousiast.

Geen totaalverbod op biometrische identificatieEen van de heikele punten waar volgens Dragos Tudorache, de andere leidende rapporteur van het Europees Parlement, gisteren nog twintig uur over dooronderhandeld is, was het verbod op biometrische identificatie. Even leek het er op dat dit verbod zo breed uitgezonderd zou worden, dat we nog maar amper van een verbod konden spreken. Nu is er een verbod waar drie specifieke uitzonderingen voor gelden in het kader van opsporing: 1) als er sprake is van voorzienbare en te verwachten terroristische aanslagen; 2) voor het vinden van slachtoffers; 3) voor opsporing in het kader van ernstige misdaden. Bits of Freedom heeft altijd gepleit voor een volledig verbod op biometrische identificatie. We zijn teleurgesteld dat er geen algeheel verbod tot stand is gekomen en vrezen voor de impact voor mensenrechten met deze uitzonderingen. Wij hebben er altijd voor gepleit dat mensen zich vrij in de openbare ruimte moeten kunnen begeven. Deze uitzonderingen op het verbod lijken de deur open te zetten voor het legitimeren van massasurveillance.

Een verbod op predictive policing, maar toch niet helemaalDaarnaast wordt predictive policing gericht op individuen niet toegestaan, onder meer omdat dit indruist tegen de onschuldpresumptie. Echter, het gebruik van ‘crime analytics’ wordt wel toegestaan, waarmee door middel van historische data gekeken kan worden naar trends. Dit kan worden gebruikt om te voorspellen op welke plekken strafbare feiten kunnen plaatsvinden. Bits of Freedom is daar zeer kritisch over, omdat de data die daarvoor gebruikt wordt vaak niet vrij zijn van biases.

En verder... Generatieve AI heeft eveneens een plek gekregen in de AI-verordening, ondanks groot bezwaar van Frankrijk, Duitsland en Italië. Er zouden belangrijke transparantievereisten gaan gelden die het auteursrecht moeten gaan versterken.

De AI-verordening zal een gefaseerde implementatie kennen. De eerste regels, waaronder het verbod op bepaalde toepassingen, zullen al na zes maanden gelden. De regels gericht op overheden en transparantieregels zullen na 12 maanden van kracht zijn. De overige regels, waaronder het gebruik van standaarden en de beschikbaarheid van de toezichthouder, zullen na 24 maanden gelden.

De bescherming van mensenrechten bij het gebruik van AI is alles behalve vanzelfsprekendOmdat de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI alles behalve vanzelfsprekend is, heeft Bits of Freedom zich vanaf het begin samen met vele anderen in het EDRi-netwerk en daarbuiten ingezet om de rechten van mensen te prioriteren. We hebben de Europese organen en Nederlandse bewindspersonen opgeroepen niet te zwichten voor de Big Tech lobby. Ook gisteren riepen we onderhandelingspartners nog op om geen deal te sluiten ten koste van onze rechten.

Nederlandse burgers hebben wettelijke bescherming hard nodig.In Nederland hebben we de afgelopen jaren de ene na de andere algoritmetoepassing gezien waarbij mensenrechten geschonden werden. Zo maakten verschillende gemeenten gebruik van discriminerende fraudeopsporingsalgoritmen, zette het ministerie van Buitenlandse Zaken een algoritme racistisch in bij visumaanvragen en moest DUO een discriminerend algoritme stopzetten dat eveneens gebruikt werd om fraude op te sporen. Om maar niet over het toeslagenschandaal te beginnen. Met al deze voorbeelden waarin Nederland keer op keer de fout in gaat, is het helder waarom burgers tegen de overheid beschermd zou moeten worden. Als Nederland enig lerend vermogen zou hebben, was er inmiddels wel geconcludeerd dat dit soort algoritme- en AI-toepassingen meer schade toebrengen dan positieve resultaten opleveren. In plaats daarvan heeft Nederland onderhandeld over toepassingen die het mogelijk nog slechter kunnen doen. We schreven hier deze week over in het NRC. Dit maakt vooral duidelijk waarin Nederlandse burgers wettelijke bescherming hard nodig hebben.

Met al deze voorbeelden waarin Nederland keer op keer de fout in gaat, is het helder waarom burgers tegen de overheid beschermd zou moeten worden.

Wij houden vinger aan de pols.Zodra de definitieve tekst bekend wordt gemaakt, zullen wij ons hierover buigen en jullie op de hoogte houden over wat de wet betekent voor jullie rechten. Houd onze website en socials dus in de gaten.

Datum: zaterdag 9 december 2023, 13:38
Bron: BitsOfFreedom
Categorie: Internet en ICT
Tags: Duitsland, Frankrijk, Groningen, Leek

Gerelateerde berichten:

Reacties:

Er zijn nog geen reacties op dit bericht.


Website by Web Chemistry