De discussie rondom hate speech heeft een nieuw perspectief nodig

17/05
2018
Onze communicatieplatformen zijn vervuild met racisme, aanzettingen tot haat, terroristische propaganda en Twitterbotlegers. Dit essay suggereert dat dat deels komt door hoe onze platformen zijn ontworpen. We bekijken contentmoderatie en counter speech als mogelijke oplossingen en concluderen dat beide tekort schieten. Als alternatief suggereren we dat ontwerp zou kunnen helpen bij het mitigeren van de meer schadelijke effecten van onze platformen. Hoe zouden onze platformen eruit zien als ze ontworpen zouden zijn voor betrokkenheid in plaats van aandacht?

Dit stuk is vertaald uit het Engels door Joris Brakkee.

WrijvingsangstIn de jaren ‘30 van de vorige eeuw introduceerde industrieel ontwerper Egmont Arens het concept van humaneering. Humaneering is het idee dat je producten ontwerpt op een manier die de wrijving tussen het product en de gebruiker minimaliseert.

We hebben sindsdien veel soortgelijke ideeën over ontwerp gehoord. In de jaren ‘50 zei Henry Dreyfuss dat een ontwerp faalde als het punt van contact tussen het ding en de gebruiker een punt van wrijving werd. Mark Weiser introduceerde in de jaren ‘90, in de context van ubiquitous computing, het idee van “kalme” technologie, waar de computer een extensie is van ons onderbewuste. Een van de best ontworpen diensten waar ik gebruik van maak, WeTransfer, daagt zichzelf uit om te werken zonder iemands “flow” te breken.

De producten en technologieën die we gebruiken hebben back-ends die veel uitgebreider en complexer zijn dan hun interfaces ons doen geloven. Daar komt bij dat je zou kunnen zeggen dat de manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontworpen, ons alleen maar verder heeft verwijderd van de technologische, politieke en sociale implicaties van die producten.

De manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontworpen, heeft ons alleen maar verder verwijderd van de technologische, politieke en sociale implicaties van die producten.

Dingen vs. apparatenIn 1984 introduceerde Albert Borgmann het onderscheid tussen een “ding” en een “apparaat”. Een ding is iets wat je op veel verschillende niveaus ervaart, zei hij, terwijl je interactie met een apparaat extreem gelimiteerd is, bewust ingeperkt. Het meest bekende voorbeeld dat Borgmann hiervan geeft is de houtkachel aan de ene kant, en centrale verwarming aan de andere.

De hoofdfunctie van een houtkachel is om het huis te verwarmen. Maar het vereist ook vaardigheden, zoals hout hakken en het vuur brandend houden, vaardigheden die meestal verdeeld zijn over verschillende familieleden. Het is de plek in huis waaromheen de familie zich verzamelt, en het verandert tijdens de dag, gloeiend heet ‘s morgens vroeg, en smeulend ‘s avonds laat. Daarnaast vertelt het je ook iets over de seizoenen omdat de rol verandert door het jaar heen.

Centrale verwarming voert de hoofdfunctie, het verwarmen van het huis, een stuk efficiënter uit, maar heeft geen van de andere functies. Er is geen echte betrokkenheid tussen de persoon en het apparaat. Borgmann vindt dit erg jammer omdat hij zegt dat deze betrokkenheid nodig is om de wereld te begrijpen en er op een betekenisvolle manier op te reageren.

Betrokkenheid vs. aandachtMet Borgmann in het achterhoofd zou je kunnen zeggen dat een zekere mate van wrijving misschien wel iets goeds is, omdat het leidt tot echte betrokkenheid, bewuste participatie. Een misschien een beetje vreemd voorbeeld hiervan is de pop-up op een webpagina die vraagt of je je wilt aanmelden voor een nieuwsbrief. De enige reden dat de pop-up bestaat is zodat je hem kan sluiten. Onderzoek heeft laten zien dat zodra je een actie moet uitvoeren op een website, de betrokkenheid omhoog gaat en het waarschijnlijker is dat je tot de gewenste actie over gaat.

Nog een voorbeeld: vergelijk de website van de gemiddelde gebruiker van nu met die van een gebruiker 25 jaar geleden.

Dichterbij, in Nederland, reflecteren stadsplanning en ontwerpen van huizen uit de jaren ‘50 de naoorlogse idealen van totale transparantie.

Ik kwam op nog een voorbeeld toen Rihanna haar lijn van cosmetica lanceerde, Fenty Beauty. Het schudde de grote cosmeticabedrijven wakker omdat het de aandacht richtte op het feit dat ze, over het algemeen, producten maken voor een erg kleine groep mensen.

Dan is er ook nog, natuurlijk, onze favoriete nieuwe taal: emoji. Het Unicode Consortium is een groep mensen die ervoor zorgt dat als jij een letter indrukt op je toetsenbord iedere computer in de wereld weet welk karakter hij moet laten zien op het scherm. Ze doen dit ook voor emoji. Daarnaast beslissen zij welke emoji toegevoegd worden aan het emoji-alfabet en welke niet. Kijkend naar de beschikbare emoji, besloot ontwerper Mantas Rimkus dat geen ervan hem hielp zijn betrokkenheid bij de actualiteit uit te drukken. Hij startte het project \`demoji\`, wat als doel heeft de complexiteit van onze wereld uit te drukken in emoji. Kunstenaar en onderzoeker Lilian Stolk vraagt aan kinderen om de emoji te ontwerpen die zij toe zouden willen voegen aan het emoji-alfabet en maakt ze vervolgens beschikbaar door middel van sticker apps. Een van de resultaten:

Vernuftig ontwerp zou onze platformen kunnen reddenEr is een recent voorbeeld wat het belang van ontwerp laat zien voor onze platformen. In 2015 werd Coraline Ada Ehmke, een programmeur, schrijver en activist, benaderd door GitHub om aan te sluiten bij hun Community & Safety team. Dit team had de taak om \`GitHub veiliger te maken voor gemarginaliseerde groepen en functionaliteit te creëren zodat producteigenaren beter hun communities konden beheren.\` Ehmke accepteerde het aanbod.

Ehmke had zelf op GitHub intimidatie ervaren. Een paar jaar geleden maakte iemand een stel repositories en gaf ze allen racistische namen. Deze persoon voegde vervolgens Ehmke toe als medewerker aan deze repositories, zodat deze racistische namen van de repositories te zien zouden zijn als je naar haar gebruikerspagina ging.

Een paar maanden na haar aantreden leverde Ehmke een feature op genaamd “repository uitnodigingen”: project uitnodigingen. Dit betekent simpelweg dat je niet iemand kunt toevoegen aan een project waar je aan werkt zonder hun toestemming. De intimidatie die zij had ervaren zou niemand anders meer overkomen. In plaats van de onzin weg te filteren of door een vervelend en waarschijnlijk nutteloos proces te gaan om de onzin te laten verwijderen, gaf Ehmke de gebruiker zelf de controle over haar eigen ruimte, en creëerde daarmee een situatie waarin de onzin nooit de kans krijgt om te materialiseren.

In plaats van de onzin weg te filteren of door een vervelend en waarschijnlijk nutteloos proces te gaan om de onzin te laten verwijderen, gaf Ehmke de gebruiker zelf de controle over haar eigen ruimte, en creëerde daarmee een situatie waarin de onzin nooit de kans krijgt om te materialiseren.

Ehmke voegde ook de functionaliteit “eerste bijdrage” toe, een kleine badge die een projectleider ziet naast de naam van een nieuwe bijdrager aan dat project. Het idee was dat het de projectleider zou aanmoedigen om extra vriendelijk te zijn tegen die persoon. De laatste functionaliteit waar ze aan werkte was een eenvoudige manier om een gedragscode aan je project toe te voegen. Best cool.

We moeten het beter doenIn ongeveer 9 weken tijd ontving Zoë Quinn 10.400 tweets met betrekking tot GamerGate. Dat is 7 tweets per uur, 24 uur per dag, 9 weken lang. Het waren geen aanmoedigende tweets. Hoewel vrouwen vaker intimidatie tegenkomen online is vrouwenhaat niet het enige probleem. Onze communicatieplatformen zijn vervuild met racisme, aanzetting tot haat, terroristische propaganda en Twitter-bot legers. We moeten hier iets aan doen.

Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten.

De manieren waarop we hier mee omgaan zijn gewoonweg niet goed genoeg. Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten. Vasthouden aan het naïeve idee dat het internet gelijke kansen geeft aan alle stemmen werkt ook niet. Wat we moeten doen is het internet open houden, onze vrijheid van meningsuiting veilig stellen en gebruikers beschermen. Ehmke heeft laten zien dat ontwerp kan helpen.

Wat jij kan doenDe volgende keer dat je voet zet op het internet: wees je bewust van de manieren waarop platformen je gedrag beïnvloeden. Stel overal vragen bij. Vraag voor wie een functie werkt en voor wie niet. Vraag wat voor soort gebruiker de ontwerper van een product graag wilt dat je bent. Wat verstopt het interface?

Als je een activist bent: laat het succes van je werk niet afhankelijk zijn van deze platformen. Laat het niet gebeuren dat Facebook, Google en Twitter poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”. Wees net zo kritisch op de technologieGa naar toolbox.bof.nl voor alternatieve diensten of bezoek een Privacy Café bij jou in de buurt. die je gebruikt om je zaak vooruit te helpen als dat je bent op de mensen, lobbyisten, instituten, bedrijven en overheden waar je tegen vecht. De technologie die je gebruikt doet er toe.

Laat Facebook, Google en Twitter niet de poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”.

Tenslotte, als je een ontwerper bent: wees je bewust van hoe je culturele en politieke voorkeuren je werk vormgeven. Bouw producten die betrokkenheid stimuleren in plaats van aandacht oogsten. Wees niet bang voor wrijving. En als je ideeën hebt hoe ontwerp kan helpen het internet te redden, laat van je horen.

Datum: donderdag 17 mei 2018, 12:10
Bron: BitsOfFreedom
Categorie: Internet en ICT
Tags: Huizen, Noord-Holland

Gerelateerde berichten:

Reacties:

Er zijn nog geen reacties op dit bericht.


Website by Web Chemistry