Al onze communicatie monitoren in de strijd tegen seksueel misbruik van kinderen?

Wat mag een platform doen om de verspreiding van seksueel misbruik van kinderen online tegen te gaan? Al jouw communicatie monitoren? De Europese commissie komt binnenkort met een wetsvoorstel. Wij stuurden alvast een advies over de randvoorwaarden.

Scannen tegen verspreidingDe Europese Commissie is van plan om met regels te komen die \`de verantwoordelijkheid van online service providers\` moet vastleggen. Die providers moeten dan \`seksueel misbruik van kinderen opmerken, rapporteren en verwijderen.\` Zij moeten dus alle uploads van gebruikers, of het nu foto\'s, afbeeldingen of berichtjes zijn, in de gaten houden. De Commissie lanceerde begin deze maand een routekaart en een effectbeoordeling. De Commissie benoemt tenminste twee belangrijke ingrediënten: waar moeten providers naar zoeken en of dit wel of niet verplicht moet worden.

Twee keuzesWat betreft dat eerste zijn er twee smaakjes. Platformen scannen nu al lang op de uploads van bekende afbeeldingen van seksueel misbruik van kinderen. Dat doen ze door een soort van digitale vingerafdruk van een upload te vergelijken met de vingerafdrukken van bekende afbeeldingen. Als die gelijk zijn, dan weet je vrij zeker dat het hetzelfde plaatje is. In dat geval weigeren ze de upload. Veel moeilijker wordt het als zo\'n platform op zoek gaat naar nog onbekende (zeg maar, \`nieuwe\`) afbeeldingen van misbruik. Dan moet je elk plaatje en de context waarin het is geplaatst gaan beoordelen. Dat vraagt om interpretatie en is per definitie veel complexer en foutgevoeliger. Datzelfde geldt ook voor het scannen om grooming, want daar moet het platform de tekst in berichtjes interpreteren.

De Europese Commissie moet zich niet blindstaren op technologie

De Commissie beslist ook nog over de mate van vrijwilligheid. Gaat ze er alleen voor zorgen dat er een stevige juridische basis bestaat voor het op vrijwillige basis scannen van communicatie, om daarmee seksueel misbruik van kinderen te detecteren? Of verplicht ze platformen om te scannen op bekende afbeeldingen van misbruik? Of, nog een stap verder, verplicht ze platformen om te scannen op bekend én onbekend materiaal?

Alle opties openDe Europese Commissie houdt haar opties nog open. Samen met onze collega\'s van onze Europese koepelorganisatie EDRi hebben we de Europese Commissie een advies gestuurd over haar plan van aanpak.

Seksueel misbruik van kinderen is een groot probleem, daar is iedereen het over eens. Dat betekent dat het des te belangrijker is om in te zetten op maatregelen die bewezen effectief en oncontroversieel zijn. Veel effectieve maatregelen zijn waarschijnlijk juist niet of niet alleen op technologie gebaseerd. De politie komt bijvoorbeeld nu al handen te kort om alle zaken op te pakken. Meer hooi op die vork leggen, lost niets op. Meer investeren in de politie wel. Kortom, de Europese Commissie moet zich niet blindstaren op technologie.

Wetgeving kan niet zonder ons (gevraagde en ongevraagde) advies. Wij kunnen niet zonder jou.

Elke voorgestelde maatregel moet gestoeld zijn op wetenschappelijk bewijs. In het document waarmee de Commissie dit wetstraject instapt stelt bijvoorbeeld dat er de laatste tijd een \`dramatic increase of reports\` van afbeeldingen van seksueel misbruik van kinderen online is. Maar ze zegt niets over de oorzaak daarvan. Het kan ook zijn dat het probleem misschien wél steeds kleiner wordt, maar dat bedrijven steeds beter worden in het detecteren of rapporteren ervan. Je moet weten welk probleem je wilt oplossen.

Een voorgestelde maatregel zou nooit mogen gaan over iets wat interpretatie vraagt, zoals bijvoorbeeld grooming. Zaken als \`threatening\`, \`luring\` or \`presenting a child with pornographic material\` zouden nooit onderdeel mogen zijn van zulke wetgeving, omdat het betekent dat platformen ál onze communicatie, inclusief berichtjes en gesprekken, moet monitoren en interpreteren.

Help ons adviserenDe Europese Commissie is van plan om komend kwartaal een voorstel \`ter consultatie aan te bieden\`. We zullen dan ongetwijfeld ons best doen om advies te geven op het concrete voorstel. We kunnen daar altijd hulp bij gebruiken. Als je heel erg thuis bent in de toepassing van zulke technologie, neem dan vooral even contact op. Of steun ons met een donatie, daar helpt ook!

Gerelateerde berichten:

• Een beetje bewaarplicht is nog altijd teveel (28/03/12 15:32)
• Kabinet erkent leed van slachtoffers seksueel misbruik (08/10/12 10:33)
• Kabinet erkent leed van slachtoffers seksueel misbruik (08/10/12 10:33)
• Kabinet erkent leed van slachtoffers seksueel misbruik (08/10/12 10:33)
• Bits of Freedom aan minister: stem tegen controversieel wetsvoorstel (05/10/23 06:00)

Reacties:

Er zijn nog geen reacties op dit bericht.