Down to earth

Lianne Tijhaar

Down to earth

Copyright © 2021 Lianne Tijhaar en Uitgeverij Lontano, Amsterdam Deze uitgave is tot stand gekomen in samenwerking met Vogin.

Vogin is dé stichting voor iedere professional die zich bezighoudt met toepassingen van data, informatie, kennis, content, internet & de cloud.

Vormgeving omslag: De Lirium

Vormgeving binnenwerk: Pre Press Media Groep

Druk- en bindwerk: Wilco, Amersfoort

ISBN 9789493219076

NUR 730

www.uitgeverijlontano.nl

Niets uit deze uitgave mag worden verveelvoudigd en/of openbaar gemaakt door middel van druk, fotokopie, microfilm, geluidsband of op welke andere wijze dan ook, zonder voorafgaande schriftelijke toestemming van de uitgever.

Inhoud

Inleiding

1. De wereld opnieuw ontwerpen

Ethiek van binnenuit

Citizen ethics

2. Vast in ons vooruitgangsdenken

Het parlement van de dingen

Alternatief universum

3. Geautomatiseerde ongelijkheid

Oneerlijke algoritmes

De regels buigen

4. De macht van de techreuzen

Een alternatieve geschiedenis

Internet als publieke ruimte

5. De toekomst moet je voelen

Gentherapie voor iedereen

Wonen in de toekomst

Machtige bedrijven

Bakens van hoop

Nawoord

Inleiding

Het is zondagochtend en ik heb geen idee hoe laat het is. De wekker is niet afgegaan, want klokken bestaan bij ons thuis alleen op onze telefoons. Schermen zijn verboden op deze schermloze ochtend. Sinds we dit concept doorvoerden in ons huis, inmiddels zo’n twee jaar geleden, merk ik pas hoezeer ik vervlochten ben met het digitale netwerk om me heen.

Muziek draai ik via Spotify, afspraken maken gaat via WhatsApp, boodschappen bestel ik bij Picnic, mijn dagelijkse work-out volg ik op YouTube en bijna ieder uur zoek ik wel iets op via Google. Bijvoorbeeld of de rozen in de tuin al gesnoeid moeten worden, en hoe dat ook alweer gaat. De schermloze zondagochtend bleek een serieuze uitdaging, want zelfs typische offline activiteiten als koken, wandelen, sporten en tuinieren gaan bij mij gepaard met een app.

En natuurlijk, ik wil niet meer zonder. Veel technologieën hebben ons leven de afgelopen decennia op alle vlakken verrijkt. De komst van het internet maakte het mogelijk om wereldwijde informatie tot ons te nemen, met PET-scans komen we kankertumoren razendsnel op het spoor, dankzij Google Maps hoef ik nooit meer te verdwalen, en ik denk niet dat dit boek er was geweest – laat staan dat u het in handen zou hebben – als ik het met inkt had moeten schrijven.

Handige hulpmiddelen maken ons leven aangenamer, maar ze staan niet alleen in dienst van de gebruiker. Terwijl we vanuit een luie stoel rondsurfen op onze smartphone, consumeren we niet alleen informatie, we produceren die ook. De slimme deurbel van je overbuurman registreert je lunchwandeling, de cookies in je browser onthouden dat je last hebt van een zeldzaam kwaaltje en je dating-app weet precies hoe aantrekkelijk je bent.

Zonder dat we er erg in hebben, produceren we elke dag een enorme hoeveelheid aan data. Ondernemers en marketeers zijn er dol op. We denken graag dat inzicht in data ons macht geeft, of geheime kennis. We hopen dat we met al die informatie revoluties kunnen ontketenen in de zorg of het onderwijs. Net zo makkelijk geven we onze data weg aan techgiganten zoals Google en Facebook. We voelen ons er misschien wat ongemakkelijk bij, maar uiteindelijk geloven we dat data ieders leven comfortabeler, beter en vrijer maakt.

Maar er klinkt ook kritiek. De heerlijke nieuwe wereld begint scheurtjes te vertonen. De oplossingen die ons leven beter moesten maken, blijken toch niet altijd in ons voordeel uit te pakken. Algoritmes pompen fake news rond, manipuleren op wie we stemmen en laten ons spullen kopen die we niet nodig hebben. We zien dat sommige groepen in de samenleving profiteren van nieuwe technologie, terwijl anderen er juist kwetsbaarder door worden. De roep om regulering klinkt steeds luider, ook uit de hoek van de technologieontwikkelaars.

In de Netflix-documentaire The Social Dilemma vertellen afvalligen uit Silicon Valley dat ze zich niet langer kunnen vereenzelvigen met de ethiek van de techreuzen. Ze waarschuwen dat hun voormalige werkgevers miljarden verdienen aan het aanwakkeren van angst en verontwaardiging. Genuanceerde boodschappen trekken minder aandacht, en dat gaat ten koste van de reclame-inkomsten. In de film leggen korte sketches de sinistere keuzes van een algoritme bloot als jij nietsvermoedend door je tijdlijn scrolt.¹

Hoe terecht de zorgen van de oudgedienden ook zijn, ze lijken nog steeds te geloven in het Grote Idee waar deze platforms op zijn gestoeld: dat data ons gedrag kunnen voorspellen. Daarachter schuilt een mensbeeld dat er niet alleen van uitgaat dat we worden beïnvloed door machines; we zijn ook te begrijpen als machines. Als we maar genoeg data verzamelen, kunnen we doorgronden wie we zijn. Wees zuinig op je data, luidt de boodschap van de alarmerende voorspellers, anders nemen de algoritmes van de techgiganten je over.

De documentaire waarschuwt voor platforms die profiteren van het aanwakkeren van angst en verontwaardiging, maar zaait zelf ook vooral angst. De kijker kan weinig anders dan roerloos achterblijven, wetende dat elke beweging data produceert. Behalve de roep om de macht van de techgiganten aan banden te leggen en verslavende algoritmes onschadelijk te maken, bieden de critici weinig bewegingsruimte om onze toekomst anders vorm te geven. Wat kunnen we doen, behalve heel hard ‘nee’ roepen? Hoe doorbreken we die verlamming?

In dit boek ga ik op zoek naar nieuwe bewegingsruimte. Die vinden we niet door in één richting naar voren te kijken, langs de lijn der verwachting, zoals vooruitgangsdenkers ons willen doen geloven. De ratrace waarin je almaar door moet denderen omdat je er anders uitligt, belet ons juist om te bewegen. Je kunt nog maar een kant op.

Om onze vrijheid te behouden, zullen we andere richtingen moeten verkennen. Niet alleen vanaf de tekentafel in ons kantoor of laboratorium, maar down to earth, met oog voor de reële gevolgen van onze keuzes voor andere aardbewoners en toekomstige generaties. In dit boek ga ik in gesprek met filosofen, activisten en kunstenaars over de relatie tussen mens en techniek, bestaande machtsdynamieken en manieren om richting te geven aan onze toekomst. Die toekomst is onzeker en glibberig, we hebben haar nooit volledig in de hand, maar ze komt ook niet ‘op ons af’. Wij geven haar mede vorm.

In het eerste hoofdstuk bezoek ik techniekfilosoof Peter-Paul Verbeek in zijn DesignLab in Enschede. Hoewel hij zich ook zorgen maakt over de impact van technologie op ons gedrag, kiest hij een andere aanpak dan de alarmisten. Die aanpak laat zich het beste beschrijven als positief in plaats van negatief: niet het onwenselijke buitenhouden, maar het wenselijke vormgeven. Als we begrijpen onder welke voorwaarden mensen optimaal kunnen floreren, dan kunnen we daar actief vorm aan geven mét techniek. Zijn werk begint waar The Social Dilemma ophoudt.

Lianne Tijhaar

1 The Social Dilemma (2020) is te bekijken via Netflix: https://www.netflix.com/nl/title/81254224

De wereld opnieuw ontwerpen

In gesprek met Peter-Paul Verbeek

Enschede, Nederland

De populaire documentaire The Social Dilemma, die wekenlang de hitlijsten van Netflix domineerde, is een alarmerende waarschuwing voor de gevaarlijke impact van sociale netwerken: de verslavende algoritmes van Facebook, Twitter en Instagram perken onze vrijheid in. De nietsvermoedende gebruiker wordt gemanipuleerd en misleid met reclameboodschappen en nieuwsberichten die onze diepste angsten, verlangens en vermoedens versterken. De algoritmes laten ons beslissingen nemen die eigenlijk niet van ons zijn: van de aankoop van een shampoo tot onze stem op een politieke partij.

Angst voor technologie is van alle tijden. Al sinds er techniek bestaat, zijn mensen bang dat die ons gaat overheersen. De Griekse filosoof Plato dacht dat de uitvinding van het schrift ons geheugen zou bederven, want alles wat je opschrijft hoef je niet te onthouden. Tijdens de industriële revolutie sloegen arbeiders weefmachines kapot uit vrees voor hun baan. En ook vandaag de dag is de angst voor technologie springlevend. Als je ‘s morgens wakker wordt en automatisch naar je telefoon grijpt, dringt de vraag zich op: ben je nog een gebruiker of word je gebruikt?

Dit hoofdstuk gaat niet over de vraag of die angst reëel is of niet. Hoewel daar veel over te zeggen valt, levert het volgens techniekfilosoof Peter-Paul Verbeek meer op als we eerst een laag dieper kijken. Waar komt die angst vandaan? Dan ontdekken we een dominante manier van denken over technologie.

In onze manier van denken plaatsen we technologie steeds tegenover de mens, zegt Verbeek. De mens is het ‘subject’ met emoties en intenties, daartegenover staat technologie als het levenloze ‘object’. Als objecten het gebied van de subjecten binnentreden, schieten we in de verdediging. Techniek is de gevaarlijke indringer die we buiten moeten houden.

We kunnen ook anders kijken naar technologie. In zijn wereldbeeld staan mens en technologie niet tegenover elkaar, maar verbindt techniek ons met de wereld om ons heen. Techniek vormt een medium voor ons bestaan: alles wat we zien, horen en doen wordt gemedieerd door technologie. Door de ontdekking van het schrift en het internet zijn we de mensen geworden die we nu zijn. Een menselijke wereld zonder technologie is letterlijk ondenkbaar geworden.

Mens en technologie zijn onlosmakelijk met elkaar verknoopt: wij maken technologie, maar de technologie maakt ons ook. Echoscopie veranderde wat het betekent om een kind te verwachten. Een ongeboren kind werd een potentiële patiënt. Ouders moeten opeens kiezen of ze wel een kind met het Syndroom van Down willen.² MRI-scanners veranderden hoe hersenwetenschappers het gedrag van mensen begrijpen. Techniek vormt wie wij zijn en wat de wereld voor ons is.

De echte vraag is niet hoe we de macht van technologie buiten de deur houden, maar hoe we vormgeven aan onze samenleving waarin technologie een steeds grotere rol speelt. Voor welke doeleinden gebruiken we technologie? Hoe geven we opnieuw vorm aan de zorg en het onderwijs? De ethiek van Verbeek draait niet om het weghouden of toelaten van techniek, maar om het vormgeven van een verbinding die er altijd is. Geen ethiek van buitenaf, maar van binnenuit.

Verbeek is hoogleraar Filosofie en Techniek aan de Universiteit Twente. Hij is verbonden aan verschillende nationale en internationale commissies die zich buigen over de ethiek van wetenschap en techniek. Op wereldschaal is hij voorzitter van Unesco’s World Commission for the Ethics of Science and Technology, waar hij studies doet over water, landgebruik, the internet of things, robotica en kunstmatige intelligentie.

We ontmoeten elkaar in het DesignLab aan de Universiteit Twente, waar Verbeek mededirecteur is. In het DesignLab werken onderzoekers uit verschillende disciplines samen aan innovatieve projecten, zoals een brug die zichzelf 3D-print en een burgerproject waarin een patiënt zijn eigen ziekte onderzoekt. De doelstelling van het DesignLab is om met wetenschap en technologie een bijdrage te leveren aan de grote uitdagingen van onze samenleving.

Als filosoof voelde Verbeek zich steeds ongemakkelijker bij een ethiek vanaf de zijlijn: zonder vuile handen te maken roepen wat verkeerd is. Daar wordt de wereld niet beter van. Daarom zit hij in verschillende adviesraden, van de Koninklijke Nederlandse Akademie van Wetenschappen (KNAW), de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) en het Rathenau Instituut. Daar denkt de hoogleraar Filosofie en Ethiek actief mee over beleid.

Je maakt deel uit van een UNESCO Expert Group die internationale aanbevelingen doet over de ethiek van kunstmatige intelligentie. Waarom is het belangrijk om dit gesprek op mondiaal niveau te voeren?

Technologieën zoals kunstmatige intelligentie overstijgen de schaal van regio’s of landen. Hun impact gaat veel verder. Ze veranderen onze geest. Overal zitten algoritmes achter die ons wereldbeeld meehelpen vormen. We hebben tot nu toe weinig moeite gedaan om op ethisch niveau met de hele wereld daarover te spreken. De ambitie van Unesco is om dat gesprek wel te voeren.

Als we de geest beïnvloeden met technologie, dan moet je daar verantwoord mee omgaan. Wat staat er op het spel op het gebied van wereldvrede? Wat blijft er over van de nuances van kleine talen als we met machines elke taal kunnen vertalen? Wat doen Spotify en Netflix met ons gevoel voor culturele diversiteit? Moet je alleen suggesties krijgen die lijken op dingen die je al leuk vond, of is het een pedagogische taak om af en toe iets anders aan te bieden? Of is dat dan paternalisme?

Ik heb niet per se antwoorden op zulke vragen, maar als we niks doen dan worden we ook beïnvloed, maar dan door de toevallige manier waarop die algoritmes zijn getraind. We kunnen er dus beter verantwoordelijkheid voor nemen. Dat betekent niet dat we weer de baas moeten worden over technologie, want dat is onmogelijk. We kunnen ons niet onttrekken aan technologie, we zijn erdoor gevormd. Die verwevenheid tussen mens en techniek maakt het waanzinnig complex om invulling te geven aan die verantwoordelijkheid.

Technologie beïnvloedt immers niet alleen de samenleving, maar ook de waardenkaders die we gebruiken. Er is geen onafhankelijk meetinstrument. De waarden waarmee we techniek beoordelen zijn zelf technologisch gemedieerd. We willen onze privacy beschermen tegen Google Glass, maar ons begrip van privacy wordt gekleurd door Google Glass.³ De slimme bril opent nieuwe interpretaties van privacy, zoals het recht om alleen gelaten te worden of controle over je persoonlijke gegevens.

Kritisch zijn kan alleen van binnenuit, door aan de grens van het systeem te gaan staan. De Franse filosoof Michel Foucault noemt dat een ‘grenshouding’. Je kunt aan de grens gaan staan en van daaruit kijken wat erin zit, maar je realiseert je dat je dat altijd doet in de taal van het systeem.

Algoritmes sturen ons gedrag. Ze bepalen naar welke muziek je luistert en welke resultaten je ziet in Google. Begrijp je dat mensen hun hakken in het zand zetten en zeggen: ‘Ho eens even met die techniek’?

Dat snap ik goed. Sterker nog, ik kom vanuit eenzelfde bezorgdheid. Die drijft mij net zo sterk als mensen die daaruit concluderen dat we naar de noodrem moeten zoeken. Het verschil is: ik denk niet dat die noodrem er is. De kernvraag is voor mij niet ‘Ja of nee?’, maar ‘Hoe?’.

Niemand wil kernwapens, maar ze zijn er. Op het moment dat ze bedacht zijn, hebben ze al invloed. We zullen een manier moeten vinden om daarmee te dealen. Ik zie techniek als een soort lot. Dat is niet altijd leuk. Natuurlijk maak ik me ook zorgen over kunstmatige intelligentie. Maar het antwoord op die zorgen is niet dat we die techniek moeten verbieden. Je moet het probleem recht in de ogen kijken.

Om recht te doen aan die zorgen, moeten mensen erop kunnen vertrouwen dat ze gehoord worden tijdens de ontwikkeling, maar ook tijdens de implementatie en het gebruik van een technologie. Mensen moeten nog iets te zeggen hebben en instellingen kunnen veranderen. Mijn diepe overtuiging is dat dat een beter antwoord is dan heel hard proberen aan een noodrem te trekken die nergens op aangesloten is.

De vraag of een nieuwe techniek wenselijk is, is niet de vraag waar het werkelijk om draait?

Precies, ik ben een voorstander van positieve ethiek of positieve techniek. Daarmee bedoel ik niet dat alle techniek goed is. Ik vergelijk het met positieve psychologie, een interessante ontwikkeling van de laatste decennia. Waarom focussen we ons op wat er níet functioneert? Waarom kunnen we niet proberen te begrijpen onder welke voorwaarden mensen optimaal floreren? Waarom moeten we altijd het negatieve wegwerken in plaats van het positieve stimuleren? Voor mij draait het om de vraag: hoe kunnen we de techniek zo ontwikkelen en maatschappelijk inbedden, dat de waarden die wij belangrijk vinden tot hun recht komen?

Natuurlijk hebben we ook wet- en regelgeving nodig. Ik ben heel blij dat er grenzen zijn. Ik ben blij met de AVG. Dat is een heel streng kader. Maar ik vind het jammer als de ethiek zich zou beperken tot het stellen van grenzen. Laat dat aan de juristen over. Ethici kunnen zich beter op waarden richten. We moeten samen bepalen onder welke voorwaarden mensen optimaal kunnen floreren met nieuwe technologieën.

Maar wat nou als je die techniek helemaal niet wilt? Het moet toch mogelijk zijn om te weigeren een techniek te gebruiken?

De digitale revolutie zorgt voor allerlei configuraties tussen mens en techniek die helemaal niet meer passen bij dat idee van ‘gebruiken’. Een slim huis bijvoorbeeld, daar zit je gewoon in. De sensoren nemen jou waar. Ze zetten het licht aan en uit en beïnvloeden jouw gedrag zonder dat je het in de gaten hebt. Dat systeem gebruikt jou net zo hard als dat jij het systeem gebruikt. Een implantaat in je hoofd gebruik je ook niet. Je gaat er wel anders door denken en voelen. Daar ontstaat een intieme relatie tussen mens en technologie, een fusie.

De manier waarop we ons gedragen en betekenis geven aan de wereld kan niet losgekoppeld worden van techniek. Het is een kader dat ons denken fundamenteel kleurt. En dan is het volgens mij de kunst om daar niet alleen maar bang voor te zijn en te vrezen dat je je authenticiteit verliest, maar juist je authenticiteit te zoeken in een verantwoorde authentieke verbinding met de techniek. Wij kunnen kritisch proberen te snappen wat techniek met ons doet, om daar vervolgens verantwoordelijkheid voor te nemen. Dat is geen overlevering aan de techniek, maar een kritische verbinding met de techniek.

Toch zien veel mensen Deep Brain Stimulation of slimme woonkamers als technologie die we kunnen weigeren, die we weg kunnen doen.

Dat is het lot van elke technologische innovatie. De eerste stoommachines werden ook stuk gemept door de Ludietten. Ik vind het geen onzin, het is niet zo dat ik denk: ach, stelletje conservatieve angsthazen. De kritiek is juist heel interessant. Want op het moment dat zo’n debat opkomt, staat er weer een stukje menselijkheid op het spel. De uitkomst is doorgaans niet dat we een stukje menselijkheid verliezen, maar dat we een nieuwe manier van mens-zijn ontdekken met de techniek. Opeens voelen we de noodzaak om waarden zoals privacy, solidariteit, rechtvaardigheid en autonomie opnieuw te doordenken omdat we een spiegel voorgehouden krijgen van die nieuwe techniek.

Wat zegt het over onze autonomie dat we onlosmakelijk verweven zijn met technologie?

Dat we die vooral niet moeten overschatten! Je hebt natuurlijk verschillende definities van autonomie. Als je autonomie uitlegt als de afwezigheid van alle invloeden, zodat je ongestoord je gang kunt gaan, dan zou ik zeggen: dat is een fictie. Maar daar gelooft ook haast niemand in.

Ik heb me altijd geïnspireerd gevoeld door de Britse filosoof Isaiah Berlin. Hij maakte een onderscheid tussen positieve en negatieve vrijheid. Veel vrijheidsbegrippen zijn negatief, we doelen op de afwezigheid van te veel invloed en bemoeienis. Dat is ook de negatieve ethiek: afbakenen wat we niet willen, zodat iedereen verder zijn eigen gang kan gaan. Intuïtief zou ik dit autonomie noemen. Onder vrijheid versta ik dan wat Berlin ‘positieve vrijheid’ noemt. Dat is geen ‘vrijheid van iets’, maar ‘vrijheid tot iets’. Het is de vrijheid om iets te worden, positief gericht op welzijn en waarden.

Opnieuw, dit heb ik van Foucault geleerd. Zijn werk gaat over machtsstructuren. De laatste twee boeken voor zijn dood gingen over ethiek. Daarin legt hij macht niet uit als een vervreemdende kracht waar we ons tegen moeten verzetten, maar als een vanzelfsprekend betekenisweefsel van de wereld. Ethiek gaat erom hoe jij je daar actief toe verhoudt. Je moet je voor een deel onderwerpen om onderwerp te worden van die machtsstructuren. En ze aanvaarden en in de ogen kijken om jezelf te ontwerpen in interactie daarmee.

Dat is een grote stap. Je moet aanvaarden dat er ook iets om je heen is waar je het mee moet doen. Dat past niet bij de technische fantasie waarin we denken alles maar te kunnen, alsof we niets te maken hebben met de beperkingen van de natuur. De realiteit is dat echte vrijheid betekent dat je gewoon verantwoord moet dealen met wat je zelf gemaakt hebt. Dat is een lesje nederigheid.

Die macht is dus niet onderdrukkend, maar vormend.

Dat is hoe Foucault het aan het einde van zijn leven is gaan zien. Natuurlijk zijn er ook doelbewuste onderdrukkende machten die gewoon verkeerd zijn. Ik wil geen dictatuur, ik vind mensenrechten belangrijk. Dus die indruk wil ik totaal niet wekken. Maar de gedachte dat techniek ons beïnvloedt en daarom niet goed zou zijn, die is raar.

We zijn ook beïnvloed door het schrift. Er was geen wetenschap geweest zonder techniek. Dus het is raar om te denken dat die invloed er niet mag zijn. Dat vind ik net zo gek als tegen de zwaartekracht zijn. Die bepaalt ook hoe wij lopen en wat we kunnen bouwen.

Het aanvaarden van invloed betekent niet het legitimeren van elke invloed. Het betekent wel erkennen dat je in een configuratie van machten zit, waar je je actief toe moet leren verhouden. Dat brengt één absolute grens in beeld: techniek vormt ons, maar we moeten wel actief kunnen bijdragen aan de manier waarop we worden gevormd. Als je het vermogen tot een vrije zelfverhouding verliest, als de algoritmes je hebben overgenomen of als hersenimplantaten jou niet meer in staat stellen om zelf na te denken, dan ben je weg. Dat kún je niet willen.

Ethiek van binnenuit

In discussies over techniek gaat het vaak over wat we niet willen, maar volgens Verbeek moeten we juist nadenken over de waarden die we willen meegeven aan techniek. Welke waarden dat zijn, dat moeten we steeds opnieuw ontdekken in een wereld die voortdurend in beweging is. Dat is een gezamenlijk proces waarin verschillende stemmen een plek moeten krijgen.

De basis voor deze positieve ethiek vindt Verbeek bij de deugdethiek van de Griekse filosoof Aristoteles. In de ethiek van Aristoteles draait het niet om regels en voorschriften die eenmaal vastgesteld bepalen of iets door de beugel kan. Het gaat erom dat je de juiste houding aanleert. Dat vraagt om een voortdurend afstemmen op een veranderende wereld. Aristoteles noemt dat ‘praktische wijsheid’.

Wat maakt die Aristotelische deugdethiek interessant?

Deugen klinkt braaf, maar is afgeleid van het Griekse woord aretè dat je ook kunt vertalen als ‘excelleren’. Het gaat erom dat je de ruimte vindt om te floreren. Dat is ook wat ik bedoel met positieve ethiek.

Voor Aristoteles zijn het politieke en het individuele altijd verbonden. Je kunt een nastrevenswaardig leven leiden en daarmee een voorbeeldfunctie hebben voor anderen. Een betekenisvol leven van een individu heeft ook betekenis voor de gemeenschap. Dat spreekt mij heel erg aan, omdat het eens niet gaat over dat autonome individu van de Verlichting.

De Verlichting heeft ons mooie dingen gebracht, maar bracht ook een beperking. De relatie tussen mens en wereld verdween naar de achtergrond. We gingen mensen zien als autonome individuen (subjecten) en plaatsten die tegenover de wereld van de dingen (objecten), terwijl alles juist met elkaar verbonden is. Alles is in een proces van wording. We moeten concepten bedenken waarmee we die processen van ‘worden’, en niet alleen van ‘zijn’ kunnen begrijpen.

Pas sinds de Verlichting zien we een ding als object en een mens als subject. Is dat onderscheid dan puur kunstmatig?

Elk onderscheid is kunstmatig, maar dat wil niet zeggen dat het niet bestaat. Het was er alleen niet op deze manier in de Middeleeuwen. In de Middeleeuwen was je onderdeel van de schepping van God. De dingen hadden een plek, jij had een plek, de natuur had een plek. Pas in de Verlichting werd een radicale scheiding aangebracht tussen onszelf en de buitenwereld. We gingen onszelf begrijpen als rationele wezens, en al het andere buiten ons als de dingen die wij bestuderen. De grootste kluif van de filosofie werd: ‘Is dat wat in mijn hoofd zit in overeenstemming met alles wat in de buitenwereld bestaat?’ Die vraag zouden Middeleeuwse kerkvaders niet herkennen als een relevante vraag. Ze zouden het hooguit zien als een soort zelfoverschatting: wat doet het ertoe of het in jouw hoofd goed zit?

Is er überhaupt zoiets als een wereld an sich, los van onze interpretatie?

Die is er vast wel, maar het heeft weinig zin om daar iets over te zeggen, want zodra je erover spreekt is het al niet meer de wereld an sich. Er is altijd sprake van interpretatie. Wij nemen de wereld waar. Dat betekent dat er een vertaalslag plaatsvindt van ‘wat er is’ naar ‘wat we zien’. Die waarneming wordt bemiddeld door technologie.

De Duitse fenomenoloog Martin Heidegger gebruikt daarvoor de term Jemeinigkeit. Het is nooit ‘de wereld’, maar altijd ‘mijn wereld’. Alles draait voor Heidegger om betekenis. De wereld zoals we die kennen is het resultaat van interpretatie. Je kunt de wereld niet los zien van de relatie die wij ermee hebben. Los van de wereld zijn we niks en de wereld op zichzelf is ook niks. Pas vanuit die relatie wordt het onze wereld.

Als je een strikt onderscheid maakt tussen mensen en dingen, zoals dat gebeurt sinds de Verlichting, dan zijn de dingen al snel een bedreiging. Als je vanuit dat denkkader vertrekt, dan wil je voorkomen dat wij onderdrukt worden door de techniek, want dan wint de techniek. Je kunt het ook anders zien. Je kunt zeggen dat techniek vormgeeft aan ons begrip van de wereld. Dingen verschijnen niet vanzelf, maar worden kenbaar door apparaten en methodologieën. Techniek staat niet tegenover ons, maar is het fundament voor onze relatie met de wereld.

Je academische werk werd in eerste instantie vooral door ontwerpers opgepikt. Dat is opvallend.

Veel mensen denken dat ontwerpers vooral problemen oplossen. ‘Is er een probleem? We have an app for that!’ Maar ontwerpen is eigenlijk fenomenologie in de praktijk. Je treedt in contact met een probleemveld waar iets opgelost moet worden. Door goed te kijken en sensitief te zijn voor wat er speelt, kom je hopelijk met iets waar mensen wat aan hebben.

In die zin is het niet toevallig dat mijn werk juist in de designwereld als eerste is opgepikt. Ontwerpers herkennen dat een technisch ontwerp veel meer is dan een functioneel ding. Het gaat invloed hebben op de gebruiker. Mensen willen een probleem oplossen, maar als het ding er eenmaal is dan krijgen ze een ander idee van wat hun probleem was. Ze denken dat de oplossing niet werkt, terwijl het probleem is veranderd.

Ontwerpers komen in hun praktijk veel eerder in contact met die mediërende rol van technologie dan een filosoof die daar een mooi theoretisch bouwwerk omheen maakt. Ontwerpers hebben het over ‘dingen die dingen doen’. Dat zie je terug in de opkomst van design thinking. De valkuil voor ontwerpers is dat ze dat vervolgens gaan zien als een theorie die ze uit de kast kunnen trekken en toe kunnen passen, zodat je aan het eind van de week een oplossing hebt. Voor mij is design thinking een manier om in contact te treden met een praktijk.

Dat brengt een verantwoordelijkheid voor ontwerpers met zich mee. Hoe kun je verantwoordelijkheid nemen voor de onbedoelde effecten van een technologie?

Dat is voor mij de kernvraag van ontwerpethiek. Het zou niet eerlijk zijn om de ontwerper van Sonar-technologie (om zeemijnen op te sporen, red.) te verwijten dat we nu echoscopie hebben, omdat dat dezelfde technologie is. Je kunt niet verantwoordelijk zijn voor wat je niet kunt beheersen. Maar je kunt het omdraaien: de gedachte dat we alles kunnen beheersen met techniek is precies het probleem.

Een ontwerper maakt niet alleen een functioneel ding, maar grijpt in op de werkelijkheid. Je hebt dan op zijn minst de verantwoordelijkheid om te anticiperen op wat er zou kunnen gebeuren. We hebben geen kristallen bollen, maar we hebben wel allerlei theorieën over mens en techniek die je in staat stellen om in elk geval te extrapoleren en mogelijke toekomsten op een rationele manier op tafel te krijgen waar je alvast rekening mee kunt houden.

Je kunt nog een stap verder gaan en zeggen: het gaat niet om het ontwikkelen van de techniek, het gaat om de maatschappelijke uitdagingen, zoals honger, armoede en ongelijkheid. Hoe dragen we met technologie bij aan antwoorden op die uitdagingen? Dan draai je het echt om. Je begint met een maatschappelijk doel en probeert de waarden die daarbij centraal staan te realiseren.

Citizen ethics

In een ethiek van binnenuit zoals Verbeek die voor zich ziet, staat de ethische expert niet aan de zijlijn. Waarden en doelen moeten actief worden vormgegeven. Maar kunnen we dat wel overlaten aan experts? Volgens Verbeek bestaat er niet zoiets als expertise op het gebied van goed en kwaad. Daarom pleit hij, in lijn van citizen science (burgerwetenschap), voor citizen ethics: laat mensen meedenken over een invulling van het goede leven. Niet door opiniepeilingen en referenda, maar door echt het gesprek aan te gaan.

Op het moment dat we elkaar spreken is hij bezig met de voorbereiding van zijn eerste citizen-ethics-sessie. Die gaat over de corona-app. Hij heeft al een expert-sessie achter de rug waarin het technisch ontwerp is goedgekeurd. Natuurlijk kan dat ontwerp nog bijgesteld worden, dat is het hele idee, maar de burgersessie gaat vooral om de vraag wat het zou betekenen als dit ontwerp de maatschappij ingaat. Sluit het mensen buiten of wordt het ongewild een coronapaspoort dat je moet laten zien om aan te tonen dat je niet besmet bent?

Tijdens de burgersessie wil Verbeek alle mogelijke gevolgen op tafel krijgen met als doel om aan het eind van de dag op verschillende vlakken aanbevelingen te formuleren. Daarom heeft hij verschillende mensen uitgenodigd, zoals een sportschoolhouder, een conducteur, een agent en een huisarts.

Hebben burgers genoeg bagage om mee te beslissen over zo’n complex onderwerp?

Je hoeft echt geen intellectueel te zijn om mee te doen. Je kunt gewoon zeggen waar je bang voor bent, en dan praten we verder over de waarden die daaronder liggen. Ik begin er net mee, dus ik moet eerlijk zeggen dat we nog op zoek moeten naar de juiste vorm. Maar we hoeven het wiel niet helemaal opnieuw uit te vinden. In het vakgebied citizen science is al veel ervaring opgedaan. De burgers voeren niet alleen onderzoek uit dat door hoogleraren wordt bedacht, ze bedenken ook de vraagstellingen en hebben dus invloed op de agendering. De grootste les is dat je mensen verantwoordelijkheid voor het geheel moet geven. Zet mensen op de stoel van de bestuurder en laat ze een advies formuleren aan de minister. Het gaat dus niet alleen om de belangen van bijvoorbeeld je eigen sportschool, maar van alle Nederlanders.

Niet iedereen zit erop te wachten om mee te praten. Je kunt ook zeggen dat dit nou juist een taak is van het parlement.

Ik heb niet de fantasie dat je iedereen mee kunt krijgen, maar dat hoeft ook niet. Het gaat erom dat je alle mogelijke interpretaties, belangen en verzet boven tafel krijgt. Waar maken mensen zich zorgen om? Sluit het beleid wel aan bij de dingen die mensen waardevol vinden? De ambitie van een democratie is dat het volk uiteindelijk de macht heeft. Tot nu toe hebben we dat ingevuld vanuit de ‘cratie’, de macht. Het contact met de ‘dèmos’ (het volk) is armzalig. Je zet één keer in de vier jaar een kruisje en dat is het dan.

We moeten nadenken over nieuwe vormen van representatie, want het populisme en het wantrouwen in de politiek groeien. Mensen voelen zich niet meer gerepresenteerd. Actiegroepen zoals Viruswaanzin zijn een uiting van onmacht. Mensen hebben het gevoel dat ze niet meer gehoord worden. Ze hebben het dus gewoon opgegeven. Ik weet niet of je die mensen nog kunt bereiken, maar je kunt wel voorkomen dat nieuwe groepen hun rug toekeren naar de democratie.

Populisten willen ook de macht aan het volk geven.

Er is een verschil tussen populisme en democratie. De woorden betekenen bijna hetzelfde: ‘populus’ is volk in het Latijn, ‘demos’ is volk in het Grieks. Toch is er een essentieel verschil. In een democratie is er ruimte voor verscheidenheid. Alle verschillende belangen en perspectieven krijgen een plek. Het populisme gaat uit van ‘het volk’ en heeft vaak één leider die spreekt namens dat volk. Als die leider het goed doet, dan denkt het volk: we hebben geen parlement meer nodig want hij – meestal is het een ‘hij’ – zegt tenminste wat wij willen.

Hoe zorg je ervoor dat de stem van burgers er daadwerkelijk toe doet?

Er zijn al goede voorbeelden. Een burgerpanel in Ierland ontwierp een nieuwe abortuswet, omdat geen politieke partij zich eraan durfde te branden. Alle politici waren bang dat ze conservatieve stemmen zouden verliezen, terwijl uit opiniepeilingen al lang bleek dat de meerderheid van het volk minder strenge abortuswetten wilde. Kortom, het zat totaal vast. Dus hebben ze honderd willekeurige mensen in een gebouw gezet, hun salaris werd doorbetaald, met de opdracht om binnen een paar maanden een nieuwe wet te ontwerpen. Die wet heeft het gered. In deze vorm van democratie krijgt representatie op een andere manier vorm dan in het stemrecht. Het gaat erom dat je samen betekenis geeft aan wat er op het spel staat.

Dit vereist een andere manier van denken over democratie. In onze liberale democratie hebben we het belang van het individu tot maatstaf gemaakt. Je stemt vanuit je eigen belang. In zo’n samenleving is het altijd een strijd van allen tegen allen. Ik wil niet van de democratie af, maar misschien wel van het liberalisme. Niet helemaal natuurlijk, want ik ben niet tegen vrijheid. Niemand wil dat de Paus beslist hoeveel kinderen je moet krijgen. Maar we hebben die vrijheid zo geïndividualiseerd dat we geen collectieve ruimte meer hebben om de vraag naar het goede leven te stellen. Mijn ethiek is niks meer dan een poging om het weer over waarden te hebben – niet mijn persoonlijke waarden, maar een gedeeld waardenkader voor ons allemaal, dat richting geeft aan het ontwerpen van nieuwe technologie waar de wereld beter van wordt.

2 Verbeek (2014). Op de vleugels van Icarus. Hoe techniek en moraal met elkaar meebewegen. Uitgeverij Lemniscaat.

3 Kudina, O., & Verbeek, P-P. (2019). Ethics from Within: Google Glass, the Collingridge Dilemma, and the Mediated Value of Privacy. Science, technology & human values, 44(2), 291-314. https://doi.org/10.1177/0162243918793711

Vast in ons vooruitgangsdenken

In gesprek met Bruno Latour

Parijs, Frankrijk

Willen we innovatie en ontwerp op een verantwoorde manier vormgeven, dan moeten we niet alleen weten wat technologie precies is, maar wat het doet. Zoals Peter-Paul Verbeek het formuleerde: we moeten de processen van ‘worden’, en niet alleen van ‘zijn’ begrijpen.

In dit gesprek met wetenschapsfilosoof en socioloog Bruno Latour gaan we dieper in op deze ‘procesfilosofie’. Eind jaren tachtig was hij een van de eersten die technologie als een maatschappelijke factor beschouwde. Het onderscheid tussen mens en technologie zette hij volledig op zijn kop. Mensen en niet-mensen, de samenleving en de natuur, zijn volgens Latour onlosmakelijk met elkaar verbonden in een web van wederzijdse beïnvloeding. Onlangs schreef hij in Waar ben ik? Lockdownlessen voor aardbewoners⁴ dat we ons door de coronacrisis zijn gaan realiseren hoezeer het afzonderlijke individu een illusie was.

Op het moment dat we elkaar spreken moet dat essay nog geschreven worden. Het virus raast op dat moment over de wereld. Frankrijk is net in strenge lockdown gegaan. Alleen onder strikte voorwaarden mag je de deur uit: ga alleen, niet langer dan een uur, niet verder dan een kilometer. De Franse intellectueel is al even niet buiten geweest.

Het zijn sombere dagen voor Latour. Zijn gezondheid gaat achteruit. Hij is herstellende van een intensieve chemotherapie. De kanker noemt hij ‘slechts een minuut’ in het uur van de crises waarin we ons bevinden: de opwarming van de aarde, het verlies van biodiversiteit, de Amerikaanse presidentsverkiezingen, de gele hesjes en COVID-19. Al deze problemen hangen volgens Latour met elkaar samen: we leven niet meer met zijn allen op dezelfde planeet.

Om te begrijpen wat Latour hiermee bedoelt, is het belangrijk om eerst iets te weten over zijn wetenschapstheorie. In 1994 maakte het grote publiek in Nederland voor het eerst kennis met Latour via de Noorderlicht-aflevering ‘Wat is wetenschap?’ die werd uitgezonden door de VPRO.⁵ Hierin vertelt hij dat het idee van ‘ontdekken’ misplaatst is, alsof feiten klaarliggen in de werkelijkheid om ontdekt te worden. Neuronen, lichtgolven, elektronen en DNA zijn geen dingen die ‘daarbuiten’ in de werkelijkheid bestonden voordat ze door wetenschappers werden ontdekt. Ze zijn het product van wetenschappelijk onderzoek.

Feiten, zegt Latour, zijn volledig genetwerkt. Ze zijn afhankelijk van de interesses van onderzoekers, belangen van subsidieverstrekkers en beschikbare apparatuur. Als de interviewer verbaasd uitroept dat we toch zeker wel hebben ontdekt dat water ook buiten het laboratorium bij nul graden bevriest, prikt Latour daar speels doorheen: ‘Doe het dan erbuiten. Je hebt een thermometer nodig uit een laboratorium. […] Je hebt instituten nodig, wetenschappers die samen een standaard bedenken, een industrie om de instrumenten te maken. […] Als je helemaal alleen bent en probeert aan te tonen bij welke temperatuur water bevriest, lukt je dat niet. Je kunt dat alleen collectief bepalen.’

Kennis bestaat niet los van een sociaal netwerk. Met dit idee legde Latour de basis voor zijn wetenschapsfilosofie, die op veel wetenschappers en filosofen diepe indruk maakte. Maar niet alle academici waren in die tijd ontvankelijk voor de rebelse uitspraken van Latour. Met zijn bewering dat wetenschappelijke feiten het product zijn van menselijke procedures, zou Latour volgens critici de weg vrijmaken voor klimaatontkenners en complotdenkers.

Op wereldschaal sloeg de vlam in de pan en werd er onophoudelijk gedebatteerd, een periode die we inmiddels kennen als de science wars, een reeks verhitte debatten tussen zogenoemde realisten, die vonden dat feiten objectief zijn en op zichzelf staan, en sociaal-constructivisten, zoals Latour, die geloofden dat dergelijke feiten zijn gecreëerd door wetenschappelijk onderzoek. Hoe blikt Latour terug op deze periode? Denkt hij er inmiddels anders over, in deze tijd van post-truth waarin Donald Trump de Amerikaanse presidentsverkiezingen kon winnen en duistere complottheorieën een miljoenenpubliek bereiken?

Maar eerst wil ik Latour iets anders vragen, want het valt op dat hij nauwelijks meer schrijft over technologie en wetenschap. Hij lijkt inmiddels volledig gegrepen door de ecologie. De natuur is niet langer het stabiele decor van ons doen en laten, zegt Latour in Oog in oog met Gaia.⁶ Onbegrensd innoveren en ontwikkelen is er niet meer bij. De ecologische gevolgen van het menselijk handelen treden ontegenzeggelijk op de voorgrond in ons tijdperk, het Antropoceen. De mens is volgens Latour niet langer de hoofdrolspeler op het strijdtoneel. De aarde slaat terug.

Veel mensen zien technologie en ecologie als totaal verschillende gebieden. Wat hebben ze met elkaar gemeen?

Toen ik de overstap maakte van technologie naar ecologie, realiseerde ik me dat in beide disciplines precies dezelfde vragen spelen. Een organisme moet zich voortdurend aanpassen aan zijn omgeving om te overleven. Dat lijkt op de vraag naar innovatie in de techniek, die niets te maken heeft met een rechte lijn van vooruitgang, maar juist met een veelheid van complexe interacties. Voor mij draait het altijd om dezelfde vraag: hoe kan een levend organisme zijn bestaansvoorwaarden handhaven? Het enige verschil is dat technologie een menselijke uitvinding is en ecologie niet.

Juist daarom zien mensen technologie en ecologie als disciplines die tegenover elkaar staan.

Omdat mensen nog denken in het oude onderscheid ‘nature-nurture’. Die concepten kun je niet meer gebruiken. Nederlanders die hun land inrichten met techniek doen hetzelfde als termieten die hun heuvels bouwen. Of je nu een bever bent, een termiet, een vogel of een Nederlander: je bouwt een plaats om te wonen. Een gebouwde omgeving.

Technologie gaat niet over dingen, maar over ecosystemen, of laten we het ‘niches’ noemen. Natuur en cultuur komen op hetzelfde neer: bepaalde levensvormen doen iets, waardoor andere levensvormen zich moeten aanpassen om te overleven. Met een nieuwe techniek opent zich een nieuw ecosysteem en daar maken wij onderdeel van uit. Het grote verschil zit in de schaal. De manier waarop wij, mensen, onze niches bouwen, heeft verwoestende effecten op andere gebouwde omgevingen. Daarom heet onze tijd het Antropoceen.

Veel mensen zullen het coronavirus zien als een biologisch probleem. Is het evengoed een technologisch probleem?

Dat is het zeker. Op het eerste gezicht klinkt dat misschien verwarrend, want bij het woord ‘technologie’ denken veel mensen meteen aan dingen, zoals mijn computerscherm of mijn muis. Maar een computermuis bestaat niet op zichzelf. Het apparaat vereist een complex netwerk om te overleven. Halen we de stroom eraf, dan is het volledig onbruikbaar. Je moet dus eerst begrijpen dat technologie gaat over ecosystemen.

COVID-19 is geen technologisch object, alsof het moedwillig geproduceerd is in een lab zoals sommige mensen schijnbaar denken, maar het virus grijpt wel degelijk in op onze gebouwde omgeving. En wij moeten daarop reageren. Het virus verandert ons ecosysteem ingrijpend. Al onze sociale relaties worden overhoopgehaald, als je accepteert dat we de definitie van sociale relaties oprekken, zoals ik jaren geleden heb gedaan. Ook de relaties die we aangaan met niet-mensen en onze omgeving zijn sociale relaties.

Planten, dieren, mensen en dingen worden gelijktijdig geïntegreerd in de definitie van een sociale orde. Jaren geleden introduceerde ik die uitbreiding, toen ik onderzoek deed naar microben en het werk van Louis Pasteur. Dus als iemand niet verrast is dat een minuscuul virus de gebouwde omgeving van mensen volledig overhoop kan halen, dan ben ik het wel.

Het grote verschil zit in de schaal. Zelfs de pest kon niet binnen drie maanden de hele wereld overgaan. COVID-19 verspreidt zich razendsnel en krankzinnig globaal. Al is het een vreemde soort globaliteit, want het virus verspreidt zich van mond tot mond. Het virus zelf is volstrekt lokaal, maar het profiteert van andere netwerken die wij hebben aangelegd: gezondheidssystemen, markten, vliegverkeer. En nu proberen wij daarmee om te gaan, door vaccins te ontwikkelen, met nieuwe gedragscodes en met die afschuwelijke mondmaskers.

Daarom kun je het onderscheid tussen natuur en cultuur niet maken. Volgende week zou ik een tentoonstelling openen in Taiwan. Ik ga niet, want als ik ga dan moet ik na aankomst twee weken in quarantaine. Ik ga niet veertien dagen op een hotelkamer zitten voor een tweedaagse opening. Is dit natuur of cultuur? Die vraag is zinloos. Het is het resultaat van een menselijke beslissing, beïnvloed door een klein virus dat zich razendsnel kon verspreiden door een technische infrastructuur die wij hebben aangelegd.

4 Latour, B. (2021). Waar ben ik? Lockdownlessen voor aardbewoners. Uitgeverij Octavo.

5 https://www.youtube.com/watch?v=uNrNZqtTdvA&ab_channel=vpronoorderlicht

6 Latour, B. (2017). Oog in oog met Gaia. Acht lezingen over het Nieuwe Klimaatregime, vert. Rokus Hofstede en Katrien Vandenberghe. Uitgeverij Octavo.