De Nieuwe Wildernis

Wij zijn fan van de essays van Maciej Ceglowski, een onafhankelijk denker met een gave voor de scherpere metafoor. Daarom delen we graag een vertaling van zijn nieuwste essay, over de manier waarop platforms als Google en Facebook onze privacy afbreken en surveillance in de hand werken.

De behoefte aan regelgeving omtrent online privacy wordt onderhand zo universeel onderkend dat zelfs Facebook en Google ervoor op de barricades gaan.

De CEO van Google, Sundar Pichai, opperde vorige maand in de New York Times dat het essentieel is voor bedrijven om mensen heldere, gepersonaliseerde keuzes te geven over hoe hun data wordt gebruikt. Zoals alle opiniestukken in de Times werd dat zonder medeweten of toestemming van de lezer geserveerd met talrijke tracking scripts van Google. Als hij het had gewild dan zou Pichai tot op de seconde hebben kunnen achterhalen wanneer een bepaalde lezer zijn belofte, dat Google gefocust bleef op producten en diensten die privacy waarborgen, had gelezen.

Er zijn geen twee bedrijven die meer hebben gedaan om onze privélevens onder het almachtig oog van algoritmes te brengen dan Google en Facebook.

Afgelopen maart schreef Facebooks CEO Mark Zuckerberg in de Washington Post een stuk van gelijke strekking waarin hij het Congres opriep privacywetgeving in te voeren naar het model van de Europese GDPR. Ook dat opiniestuk ging vergezeld van een vergelijkbare potpourri aan ongevraagde tracking scripts die, zowel in letter als in geest, lijnrecht indruisten tegen de wet waar Zuckerberg het Congres tot opriep.

Deze curieuze situatie doet denken aan sigarettenreclames uit de jaren dertig waarin de tabaksindustrie een twistgesprek tussen dokters ensceneerde over welk merk het meest verzachtend was voor de keel.

Er zijn geen twee bedrijven die meer hebben gedaan om onze privélevens onder het almachtig oog van algoritmes te brengen dan Google en Facebook. Tezamen beheren zij het meest omvattende surveillance-sleepnet ter wereld, een duopolie dat bijna twee derde van alle inkomsten uit onlineadvertenties binnen harkt. Op bijna elke webpagina die je bezoekt kom je hun tracking scripts tegen. Surveillance is net zo onontbeerlijk voor hun bestaan als olie uit de grond pompen is voor Exxon Mobil.

Dus waarom maken de grafdelvers van online privacy zich plotseling zo druk over de gezondheid van de patiënt?

We moeten ons niet afvragen of onze data wel veilig is, maar waarom er plotseling zo veel van is dat het beschermd moet worden.

Deels komt dat door een lacune in de taal die we bezigen als we het over privacy hebben. Met name door de manier waarop we privacy in de wet hebben verwoord voldoet die taal niet in de nieuwe werkelijkheid van alomtegenwoordige en geautomatiseerde surveillance.

De wetgever bekijkt privacy nog steeds door een bril uit de achttiende eeuw: bescherming tegen het ongeoorloofd openbaar maken van specifieke categorieën van persoonlijke gegevens of communicatie tussen individuen. Derde partijen die toegang krijgen tot onze persoonlijke data hebben de plicht deze te beschermen, en zolang zij aan die verplichting voldoen respecteren ze onze privacy.

Vanuit deze optiek lijkt het redelijk als de technologie-giganten claimen dat ze onze privacy beschermen, net zoals de draak er met recht prat op gaat dat hij zijn gouden schat goed bewaakt. Niemand geeft meer uit aan beveiliging van gebruikersgegevens en doet dat effectiever dan Facebook en Google.

We moeten ons niet afvragen of onze data wel veilig is, maar waarom er plotseling zo veel van is dat het beschermd moet worden. Het probleem met de draak is immers niet zijn competentie als schatbewaarder, maar zijn zucht naar goud.

Zelfs een politiestaat als de DDR, waar een op de zeven burgers informant was, kon niet zijn hele bevolking continu in de gaten houden. Tegenwoordig stelt de computer ons daartoe in staat.

De discussie moet daarom gaan over een nieuw soort privacy, een waaraan we voorheen geen naam hoefden te geven. Laat ik het in dit essay \'omgevingsprivacy\' noemen - het besef dat het waardevol is om onze dagelijkse interacties met elkaar te hebben, zonder dat deze worden gadegeslagen, en dat de kleine details van ons dagelijks leven moeten kunnen plaatsvinden zonder opgeslagen te worden. Wat we thuis, op school, op het werk, in de kerk of tijdens onze vrije tijd doen hoort niet thuis in een permanent dossier. Niet elk gesprek moet een getuigenverklaring zijn.

Tot voor kort was omgevingsprivacy simpelweg een gegeven. Om iets te bewaren voor het nageslacht moest je extra moeite doen en hoe wij als gemeenschap het verleden ervoeren werd al verdund door het filter van ons menselijk vermogen tot herinnering. Zelfs een politiestaat als de DDR, waar een op de zeven burgers informant was, kon niet zijn hele bevolking continu in de gaten houden. Tegenwoordig stelt de computer ons daartoe in staat. Autocratische staten als China en Saudi-Arabië gebruiken deze nieuwe toepassingen als middel voor sociale controle. In de VS gebruiken we het om advertenties te tonen. Maar de infrastructuur voor totale surveillance is overal hetzelfde en wordt overal even snel opgeschaald.

Omgevingsprivacy behoort niet toe aan individuen of hun data, maar aan de wereld om ons heen. Je kunt jezelf niet buiten de olie-economie plaatsen door geen auto te rijden, en evenmin kent de surveillance-economie geen opt-out door de technologie af te zweren (veel mensen hebben die keuze ook niet). Er zijn vast nobele redenen om je leven te onttrekken aan het net, maar ondertussen word je wel ingesloten door die infrastructuur, of je het gebruikt of niet.

Omdat onze wetgeving privacy omschrijft als een individueel recht hebben we geen mechanisme om te beslissen of we wel in een surveillancegemeenschap willen leven. Het Congres roert zich niet over de kwestie en beide partijen hebben er vrede mee dat Silicon Valley zijn eigen regels maakt. Dat wij en masse gebruik maken van de diensten van de tech-giganten zien zij als bewijs dat mensen niet echt om hun privacy geven. Maar met zo’n argumentatie kun je ook beweren dat gedetineerden graag gevangen zitten omdat ze van de bibliotheek gebruik maken. Mensen zien zich geconfronteerd met het feit dat er een camera op de hele wereld staat en nemen een rationele beslissing om er het beste van te maken.

Dat is geen toestemming

Omdat onze wetgeving privacy omschrijft als een individueel recht hebben we geen mechanisme om te beslissen of we wel in een surveillancegemeenschap willen leven.

Omgevingsprivacy is bijzonder lastig te beschermen zodra het zich uitstrekt tot sociale en openbare ruimtes die buiten het bereik van privacywetgeving vallen. Als ik aan gezichtsherkenning word onderworpen op de luchthaven, word getagd op sociale media tijdens een sportwedstrijd, of als de openbare bibliotheek een Alexa microfoon installeert, dan schendt juridisch gezien niemand mijn rechten. Maar een deel van mijn leven is onder het vergrootglas van software komen te liggen. Zelfs als de data die ze over mij hebben verzameld geanonimiseerd wordt met strikte inachtneming van allerlei gloednieuwe databeschermingsregels, dan nog is mij iets afgenomen door het feit dat ik gemonitord ben.

Je kunt betogen dat omgevingsprivacy een relikwie is uit een vervlogen tijdperk. Net zoals je vroeger de sterren aan de nachtelijke hemel zien, wat een prettige eigenschap was van de wereld vóór elektriciteit, maar niet onontbeerlijk. Dit argument gebruikte Zuckerberg toen hij eenzijdig de privacybescherming van elk Facebookaccount ophief in 2010. Sociale normen waren veranderd, legde hij toentertijd uit, en Facebook veranderde mee. Vermoedelijk zijn ze nu weer terug veranderd.

Ik ben van mening dat omgevingsprivacy van groot belang is voor onze rechtsstaat. Als alle discussies plaatsvinden onder het oog van software in een medium dat zich richt op het maken van winst door het gedrag van zijn gebruikers te manipuleren, dan is het misschien niet meer mogelijk om de consensus en gedeelde blik op de realiteit te creëren die een randvoorwaarde vormt voor zelfbestuur. Als dat waar is zal de teloorgang van omgevingsprivacy onomkeerbaar zijn, omdat het ons vermogen te functioneren als een democratie wegneemt.

Dit alles laat volgens mij een duidelijke parallel zien tussen privacy- en milieuwetgeving: een ander gebied waar we door technologische verschuivingen noodgedwongen een slinkende hulpbron moeten beschermen die eerdere generaties als vanzelfsprekend beschouwden.1

Het idee dat je de natuur met wetten moest beschermen was niet vanzelfsprekend voor de vroege Amerikanen. Hun ervaring met de wildernis was dat je er wilde beren tegenkwam; niet een bedreigde hulpbron die je met juristen moest beschermen. De heerschappij over onze natuur was nu juist de maatstaf van onze beschaving.

Als je mensen vertelt dat hun data hun eigendom is en dat ze moeten beslissen wat ze ermee doen is maak je ze juist minder slagvaardig.

Maar toen het machtsevenwicht tussen mens en natuur begon te wankelen werd duidelijk dat ongerepte gebieden niet konden overleven zonder enige aard van bescherming. In 1864 stichtte president Lincoln het eerste National Park in de Yosemite vallei. In 1902 ondertekenden de Europese landen het eerste milieuverdrag, de Conventie voor de Bescherming van voor de Landbouw Nuttige Vogels, die bepaalde jachtmethoden in de ban deed. In 1916 werd de National Park Service in het leven geroepen, die vastlegde welke rol de federale overheid moest spelen in het beschermen van gemeenschappelijk grondgebied. In 1964 legde de Wilderness Act het beginsel vast dat bepaalde gebieden zo goed als vrij moesten blijven van menselijke activiteit. En in 1970 verhief Richard Nixon Moeder Natuur tot lid van het kabinet door het stichten van de Environmental Protection Agency.

Iets meer dan honderd jaar geleden behandelden we de natuur als onuitputtelijke bron, vervolgens beschermden we er gedeelten van, en tegenwoordig erkennen we dat onze menselijke activiteit een ecologische bedreiging vormt voor de planeet.

Terwijl we discussiëren over de balans tussen milieubescherming en economische activiteit, zal tegenwoordig niemand ontkennen dat zo’n balans bestaat – dat we sommige technologieën en manieren om geld te verdienen simpelweg moeten verbieden omdat ze te veel schade toebrengen.

Wij strijden elke dag tegen deze ontwikkelingen. Support ons werk en doneer!

Zulke regelgeving is in het Westen zo succesvol geweest dat we maar al te gemakkelijk vergeten hoe het leven er voor die tijd aan toe ging. De soort verstikkende rook die dagelijks duizenden levens kost in Jakarta en Delhi was ooit emblematisch voor Londen. De Cuyahoga rivier in Ohio stond met vaste regelmaat in brand. Een bijzonder gruwelijk voorbeeld van onvoorziene gevolgen was het toevoegen van tetraethyl aan benzine, verantwoordelijk voor een stijging in geweldsmisdrijven die vijftig jaar duurde.

Dit soort kwaad had je niet kunnen verhelpen door mensen aan te sporen met hun portemonnee te stemmen, of eerst zorgvuldig na te gaan hoe groen elk bedrijf is waar ze iets kopen, of die technologieën helemaal niet meer te gebruiken. Om dit op te lossen was gecoördineerde en soms zeer technische regelgeving nodig over meerdere jurisdicties. Soms was voor deze regelgeving een wereldwijde consensus nodig, zoals bij het verbod op commerciële koelvloeistoffen die de ozonlaag aantastten.

We zijn nu zover dat we een soortgelijke verschuiving van perspectief nodig hebben in onze privacywetgeving. De infrastructuur van massasurveillance is te complex geworden en het technologisch oligopolie te machtig om nog serieus te kunnen spreken over individuele toestemming. Zelfs experts hebben geen volledig beeld van de surveillance-economie, deels omdat de begunstigden zo terughoudend zijn en deels omdat het hele systeem voortdurend verandert. Als je mensen vertelt dat hun data hun eigendom is en dat ze moeten beslissen wat ze ermee doen is maak je ze juist minder slagvaardig.

Facebooks vroege motto was “move fast and break things”. Dit was een ongewoon staaltje eerlijkheid in een industrie die verder verslaafd is aan het bouwen van luchtkastelen.

Het debat over privacy moet zich ook bezighouden met fundamentele vragen over de rol van automatisering: hoe valt het leven in een wereld vol van surveillance te rijmen met pluralisme en democratie? Wat heeft het voor gevolgen dat we een generatie kinderen grootbrengen van wie alles wat ze doen wordt vastgelegd in een commerciële database? Wat betekent het om al op jonge leeftijd gemanipuleerd te worden door zelflerende algoritmes die zichzelf perfectioneren om ons gedrag te kneden?

Facebook en Google zien liever niet dat we hierover in discussie gaan. Hun stip op de horizon is een wereld zonder omgevingsprivacy en sterke databeveiliging, gedomineerd door een paar bedrijven met de capaciteit om informatie te vergaren op globale schaal. Ze hebben goed door hoe ze deze nieuwe ronde van privacywetgeving kunnen inzetten als wapen tegen kleinere rivalen en zo de hegemonie veilig kunnen stellen over de algoritmes van hun koepelgevangenis.

Facebooks vroege motto was “move fast and break things” – de geest daarvan waart nog rond als hun publieke wifi wachtwoord. Dit was een ongewoon staaltje eerlijkheid in een industrie die verder verslaafd is aan het bouwen van luchtkastelen. We zitten nu al twintig jaar in een ongecontroleerd sociaal experiment, geleid door Silicon Valley, dat veel heeft afgebroken voor een handjevol begunstigden. Hoewel we de leiders van dit gefaalde experiment niet kunnen vervangen – ze hebben zichzelf voor het leven geïnstalleerd als autocraat – is er geen reden nog langer naar ze te luisteren.

Ik geloof best dat Pichai en Zuckerberg oprecht begaan zijn met privacy, net zoals ik geloof dat de CEO’s van Exxon Mobil en Shell niet willen dat hun kinderen opgroeien op een aarde die onstuitbaar opwarmt. Maar de core business van deze bedrijven strookt nu eenmaal niet met de waarden waar ze voor zeggen te staan. Mooie woorden zullen nooit de discrepantie recht kunnen praten tussen wat ze beweren en wat hun bedrijven doen. Als het verdienmodel van allesomvattende surveillance niet kan veranderen, dan zal de wereld om ons heen moeten veranderen. Die beslissing behoort toe aan ons allemaal, nu we nog in staat zijn die te maken.

Dit artikel is vertaald door Jasper Sprengers en Amber Balhuizen. Het origineel is hier te lezen.

1 Ik ben zo ongeveer de laatste persoon op aarde om deze parallel te ontdekken. Voor twee eerdere versies, zie Hirsch, “Is Privacy Regulation the Environmental Law of the Information Age?” (2005) en Froomkin, “Regulating Mass Surveillance as Privacy Pollution” (2015).

Gerelateerde berichten:

• Zaterdag: Data Privacy Day (27/01/12 17:53)
• De Nieuwe Wildernis (25/06/19 16:33)
• Google laat iedereen zijn zelflerende software gebruiken (09/11/15 19:01)
• Facebook populairder dan Google in VS (17/03/10 13:33)
• Facebook nu één-na-grootste site op het internet (19/02/10 00:00)

Reacties:

Er zijn nog geen reacties op dit bericht.