Levien Nordeman

Het spiegelpaleis van data

Hoe wetenschappers, ontwerpers en
toekomstverkenners algoritmes
en AI toegankelijk maken

==

==

BOT UITGEVERS

© Levien Nordeman

==

Ontwerp omslag: Jannes Glas, Studio Sugarfree

Ontwerp binnenwerk: Perfect Service

Auteursfoto: Marijke Vlaar

==

==

ISBN 978 90 832 0717 9

==

www.botuitgevers.nl

==

Deze digitale editie is gemaakt naar de eerste druk, 2023

Voor M, N & N

‘Hack digitale vanzelfsprekendheden’

==

Marianne van den Boomen 1

Inleiding:

Een boekenkast vol data

Parijs, woensdagavond 18 december 2013. Om 21.24 uur stuurt Judith Duportail een bericht naar haar allereerste match op Tinder. In de jaren die volgen zal ze de dating-app 920 keer gebruiken en heeft ze 870 matches. Het grootste deel van die matches is Duportail vergeten. Maar Tinder niet. In maart 2017 doet de journalist een verzoek aan Tinder om haar persoonlijke data in te zien. Ze ontvangt een document met meer dan 800 pagina’s aan persoonlijke gegevens: haar opleiding, de leeftijd van de mannen met wie ze een match wil. En van elk online gesprek dat ze had met de matches is de locatie en het moment vastgelegd. I asked Tinder for my data. It sent me 800 pages of my deepest, darkest secrets2, is de titel van het artikel dat Duportail voor de Britse krant The Guardian schreef.

Voor haar artikel interviewde Duportail de Canadese mediawetenschapper Luke Stark. ‘Je wordt verleid om al je informatie weg te geven,’ zegt hij tegen Duportail. En dan vertelt hij iets wat mij altijd is bijgebleven: ‘Apps als Tinder profiteren van een eenvoudig emotioneel verschijnsel: we kunnen data niet voelen. Daarom raakt het je nu je alles uitgeprint ziet. We zijn fysieke wezens die materialiteit nodig hebben.’

Wat als we – net als Duportail – onze data zouden opvragen? Ik stel me voor dat we in de afgelopen tien tot vijftien jaar al een behoorlijke boekenkast vol met boeken van achthonderd pagina’s zouden hebben. Een boek over Facebook. Een DigiD-boek. Een heel dik boek over Google. Een smartwatch boek. Een nieuw maar steeds dikker wordend boek over TikTok. En elk boek vertelt iets over ons leven. En elke minuut – zonder dat we er veel aan hoeven te doen – wordt elk boek weer iets omvangrijker.

‘We can’t feel data,’ we kunnen data niet voelen. Die zin raakte me. En het werd de reden om dit boek te schrijven.

Samenleven met data

Er lijkt zonder dat we het echt door hebben gehad iets te zijn veranderd in onze samenleving. Er was geen grote aankondiging. Het stond niet in de krant. Maar stap voor stap is er iets veranderd: vrijwel alles wat we doen heeft nu iets met data te maken. Of we het willen of niet. Of we ons ervan bewust zijn of niet. De apps op je telefoon: data. De leenfiets waarmee je door de stad rijdt: data. Het formulier dat je voor de belastingdienst invult: data. De ov-chipkaart waarmee je naar je werk reist: data. De AI-chatbot die teksten voor je genereert: data. Wetenschappers noemen de steeds groter wordende rol van data, algoritmes en AI in ons leven ook wel dataficatie.

Bij het woord dataficatie denk ik vaak aan street art-kunstenaar Jan Vormann. Met een zak vol LEGO-steentjes loopt hij door Kopenhagen, Madrid, Linz en Aberdeen. Elk gat, elke scheur, elk afgebroken deel van een gebouw of een muur vult hij met vrolijk gekleurde rijen LEGO-blokjes.3 Zo lijkt het alsof de wereld zelf eigenlijk – onder de oppervlakte en vaak uit het zicht – uit LEGO bestaat. Dat gevoel heb ik ook met data. Steeds meer onderdelen van onze samenleving en wij dus ook, veranderen door data.

Misschien herken je het, maar ik heb bij de steeds grotere rol van data, algoritmes en AI in onze levens vaak een dubbel gevoel. De apps op je telefoon, de smartwatch om je pols, de datagedreven-leenscooter: ze bieden zoveel kansen, mogelijkheden en nieuwe ervaringen. Ze maken ons leven makkelijker. Geven ons nieuwe ervaringen. Ik ben er blij mee, en jij vast ook. Maar aan de andere kant heb ik het gevoel de grip soms kwijt te raken.

Hoe er met data wordt omgegaan is vaak onzichtbaar en overtreft ook ons voorstellingsvermogen. Onderzoekers van de Radboud Universiteit, de Universiteit van Lausanne en de KU Leuven ontdekte bijvoorbeeld dat op duizenden websites adverteerders en tracking-bedrijven ‘meekijken’ met het moment dat jij je e-mailadres of andere gegevens intypt, dus vóórdat jij op ‘verzenden’ hebt gedrukt.4 Je e-mailadres en andere gegevens worden doorgestuurd naar zogenaamde tracking-netwerken. Dit zijn bedrijven die internetgebruikers over het hele internet volgen en gepersonaliseerde advertenties aanbieden.

Als er iets misgaat, dan heeft dit grote impact op de concrete dagelijkse levens van de mensen om ons heen en van onszelf. Denk aan hoe algoritmes ingezet zijn bij wat later de toeslagenaffaire is gaan heten. Wat gebeurt er als je mensen op basis van hun achternaam, postcode kunt uitsluiten of op een risico-lijst kan zetten?

De impact van data is groter dan het bijhouden van je persoonlijke fietsrecords in een app, of het aantal matches die je gehad hebt op Tinder. Het raakt ons allemaal. Het lijkt alsof de LEGO-blokjes van Jan Voormann op steeds meer plekken in de stad te zien zijn. En dat is de paradox: hoe meer data, algoritmes en AI onderdeel worden van ons leven en van de mensen om ons heen, hoe meer het naar de achtergrond verdwijnt. Onzichtbaar en vaak vanzelfsprekend; het valt ons niet meer op.

Data zijn te belangrijk om alleen aan technische experts zoals data-scientists of juridische experts over te laten. Zij hebben niet alleen het recht om over data te praten. Wij hebben dat allemaal. Het is ook helemaal niet zo gek om op een niet-technische manier over data te praten. We doen dit vaak al onbewust, door metaforen. Die helpen ons iets nieuws en onbekends uit te drukken in woorden en beelden die we al kennen. Zo werd in de jaren negentig het internet soms ‘de digitale snelweg’ genoemd. En op onze computers staan nog steeds een bureaublad en een prullenbak.

Onderzoek van de Britse non-profit Defend Digital Me laat zien dat in beleidsdocumenten over data vaak drie soorten metaforen worden gebruikt.5 Zo wordt data vaak beschreven als een vloeistof. Dit roept beelden op van beweging (‘data flows’) maar je kent het vast ook van de term ‘data-lek’. Veel techbedrijven spreken graag over data als grondstof of brandstof: het lijkt onbeperkt voorradig, al moet je de ‘ruwe data’ ook nog wel bewerken om er echt iets aan te hebben. Maar data raken ons ook persoonlijk: vaak wordt over data gesproken alsof het een deel is van ons lichaam. Het moet worden beschermd (‘data-protection’), maar het is ook iets dat wij achterlaten: onze data-voetafdruk bijvoorbeeld.

==

In dit boek ga ik je anders laten kijken naar data en algoritmes. Met als doel meer dataverbeeldingskracht: je ontdekt hoe jouw leven en dat van de mensen om jou heen samenhangt met data. Door dataverbeeldingskracht kunnen we minder afhankelijk worden van de verhalen van grote techbedrijven en een stap zetten naar een andere, betere datasamenleving.

Wie reizen mee?

‘We can’t feel data.’ In de afgelopen jaren ben ik mij steeds meer af gaan vragen of dat wel klopt. We kunnen niet al onze data uitprinten, dat is waar. Maar er zijn ook andere manieren om data, algoritmes en AI tastbaar te maken. Hierdoor kun je gaan zien en ervaren wat data betekenen. Voor jou leven en dat van anderen die met jou samenleven.

Voor dit boek heb ik gesproken met mensen die gefascineerd zijn door data. Het zijn ontwerpers, kunstenaars, makers, mediawetenschappers. Het zijn allemaal mensen die de afgelopen jaren met dezelfde vragen bezig zijn geweest als jij en ik. Ze namen geen genoegen met het verhaal dat data nu eenmaal abstract zijn. Dat ze lastig te begrijpen zouden zijn. Vooral iets voor data-scientists: specialisten die na heel veel jaren van studie en werk echt weten hoe data, algoritmes en Artificiële Intelligentie (AI) werken.

Het zijn mensen die gefascineerd door data aan de slag gingen: welke verhalen vertellen we onszelf en elkaar om toch grip te krijgen op wat we niet helemaal begrijpen van algoritmes? Wat gebeurt er met mijn gegevens als ik een cookie-melding zie en op ‘alles accepteren’ klik? Wat als data niet vastgelegd worden, maar juist vluchtig zijn en na een korte tijd weer verdwijnen? Wat als data een geur zou hebben? Deze mensen – ik noem ze verkenners – geven beelden aan wat vaak onzichtbaar blijft en woorden voor dingen die je misschien al wel opgevallen waren, maar nog niet zeker wist. Ze laten je de vaak onzichtbare logica van onze huidige datasamenleving zien. Dit is wat ik het ‘Spiegelpaleis van data’ noem.

Dit boek is dus voor iedereen die de status quo zat is, en een ieder die vindt dat je geen data-scientist hoeft te zijn om over data, algoritmes en AI te kunnen praten. Ik hoop je te laten zien dat we meer weten dan dat we denken zodat we meer grip krijgen op ons eigen leven met data, en dat een andere samenleving op het gebied van data mogelijk is.

In deel I van dit boek onderzoek ik de datasamenleving. Op welke manier spannen data onzichtbare lijnen tussen ons en andere mensen? Tussen de flitsbezorgers en de consument? Tussen de bezorgde burger en de regensensoren in de smart city? En op welke manier hebben grote techbedrijven ons tot nu toe geleerd om naar data en algoritmes te kijken?

In deel II gaan we het Spiegelpaleis in. Aan de hand van wetenschappers, ontwerpers en makers bekijken we telkens een ander aspect van de fascinerende en vaak ook onzichtbare data, algoritmes en AI in ons leven. In deel III laat ik zien hoe techbedrijven bouwen aan een nieuwe AI-wereld en hoe data en algoritmes daarin verdwijnen. In deel IV kijken we naar de toekomst: wat hebben we nodig om datageletterd te worden? Aan de hand van een aantal toekomstmakers kijken we hoe we onze datasamenleving anders kunnen vormgeven.

Nog even iets over de vorm van dit boek. Voor de toegankelijkheid van dit boek heb ik ervoor gekozen waar mogelijk citaten van de ontwerpers, wetenschappers en kunstenaars zelf te vertalen naar het Nederlands. Door middel van voetnoten verwijs ik naar de bronnen, opgenomen in een lijst achter in dit boek.

Deel I:

Wat staat er op het spel?

‘I think as technologists we should have some safe places where we can try out some new things and figure out what is the effect on society (...)’

– Larry Page – voormalig CEO van Google.6

1.1

De te slimme stad

Sven-Ake is bezorgd. Op de tafel voor hem liggen een aantal papieren, een schroevendraaier, wat printplaten en iets dat lijkt op de achterkant van een lamp. ‘Dan heb ik hier de led-diode, met de geronde lens,’ hij toont een plaatje met een aantal ledlampjes erop aan de kijkers van zijn video, te zien op zijn website.7 De leds zitten ook in de Philips-straatverlichting. En daar gaat het mis, volgens Sven-Ake, een man van begin veertig, tweed colbert en een nette bril. Want waarom zit er een enorm grote printplaat in deze straatverlichting? Terwijl een gewone consumenten-led lamp al genoeg licht produceert? Hij houdt de consumenten-ledlamp en de straatverlichtingslamp naast elkaar. De laatste lamp heeft een grote printplaat en dikke kabels: ‘En het verschil in dikte qua kabels... In het kader van de Sustainable Development Goals kan dat hem even niet zijn. Ik kan alleen constateren, dat wat hier op tafel ligt,’ zegt Sven-Ake, wijzend op alle lampen en kabels voor hem, ‘uitgaat van het slechte in de mens.’

Sven-Ake vertrouwt de lantaarnpalen niet. ‘Met de komst van het 5G-netwerk, het ‘internet of things’ en de belofte van ‘smart cities’ gaat de wereld als men de propaganda van overheden, providers en fabrikanten mag geloven een utopische toekomst tegemoet,’ zo schrijft hij op zijn website. Bezorgde burgers kunnen ook een standaardbrief downloaden om op basis van de Wet Openbaarheid van Bestuur hun lokale gemeente niet alleen een lijst met lantaarnpalen in hun gemeente op te vragen, maar ook ‘Beleidsnota’s omtrent smartcities / het smart maken van de publieke ruimte’ en ‘alle interne e-mails omtrent het aanleggen van digitale en/of draadloze infrastructuren voor communicatie / the internet of things’. Op de website van Omroep Brabant lees ik: Complottheorie over 5G in lantaarnpalen bezorgt gemeenten handenvol werk.8

Van wie is de smart city?

Het zou het meest innovatieve district in de wereld worden, een stad in een stad, met zelfrijdende auto’s, publieke wifi, sensoren om ‘urban data’ te verzamelen en de CO2-uitstoot zou met 89 procent gereduceerd worden. Het ‘transport platform Flow, helpt city managers bij het vroegtijdig opsporen van problemen bij treinen en bussen en autobestuurders krijgen real time parking information tijdens hun woon-werkverkeer. Welkom in Quayside, Toronto, waar Sidewalk Labs, een zusterbedrijf van Alphabet (waar Google onder valt) deze droom wil realiseren. Er wordt voor 1,3 miljard dollar geïnvesteerd door het bedrijf.9 10

Het is er alleen nooit van gekomen. In 2020 besloot Sidewalk Labs niet door te gaan met het project. Officieel vanwege de onzekere economische situatie. Maar lokale protesten door buurtbewoners zouden ook kunnen meespelen. Het project kreeg veel kritiek, zeker ook omdat het Alphabet’s plan zou zijn een nog groter deel van Toronto te willen gebruiken voor dit experiment met het dataficeren van de stad.11

Er is niet één definitie of toekomstbeeld van wat de smart city moet zijn. Maar één ding is wel duidelijk: de slimme stad draait op data en algoritmes. En die data en algoritmes vind je op steeds meer verschillende plekken in de stad terug.

Afhankelijk van welke organisatie of overheid zijn ideeën presenteert, gaat de slimme stad over vervoer (‘smart mobility’), slimme huizen en energie, maar ook veiligheid, smart health en uiteindelijk ook smart government. Met de groei van steden, het woningtekort, vergrijzing van de bevolking, de aanpassingen die nodig zijn voor de klimaatcrisis en het zo enigszins leefbaar houden van steden, zoeken overheden naar manieren om datagedreven-technologie te gebruiken in de publieke ruimte van de stad.

In Apeldoorn worden sensoren ingezet om onder andere luchtvochtigheid, CO2, geluid en stikstof te meten. ‘Technologie kan ondersteuning bieden voor vraagstukken, waarbij data, grotendeels afkomstig van sensoren, een belangrijke rol kunnen spelen,’ aldus de website van Smart City Apeldoorn.12 Het ziet er op het eerste gezicht veelbelovend uit, de stad lijkt door data en algoritmes op een nieuwe manier tot leven te komen. Sensoren geven aan of bomen en planten genoeg water krijgen. Verkeerslichten worden gekoppeld aan de buienradar van het KNMI. En geluidssensoren gaan geluidshinder meten, van vliegtuigen maar ook van wegen en snelwegen.

Hoe ervaren stadsbewoners de smart city? Welke problemen voor de stad zien zij? En hebben de bewoners het gevoel dat ze daar iets aan kunnen doen? Dat wilde een aantal onderzoekers van het Centre for bold Cities, een samenwerking van de Universiteiten van Leiden, Delft en Rotterdam weten. Voor hun onderzoek, gepubliceerd als Public views of the smart city: Towards the construction of a social problem13 (2022) nodigden ze groepen burgers uit Rotterdam met verschillende leeftijden, culturele achtergrond en opleidingsniveau uit om met de onderzoekers in gesprek te gaan over de dataficering van hun stad.

Hoewel overheden en techbedrijven de slimme stad als kans zien om de burger centraal te stellen en zo meer inclusieve en democratische steden te ontwikkelen, blijken inwoners het erg lastig te vinden om te kunnen verwoorden hoe data-technologie hun leven in de lokale context van de stad verandert, zo schrijven de onderzoekers. Bewoners ervaren de smart city niet zozeer als iets dat hen meer inzicht, mogelijkheden of controle geeft, maar als iets onvermijdelijks: ‘Zij weten toch alles al,’ horen de onderzoekers vaak terug in de gesprekken. De deelnemers aan het onderzoeken vermoeden dat wanneer ze in de stad zijn, overheden en bedrijven hen door middel van beveiligingscamera’s, bankgegevens en het GPS-signaal van hun telefoon voortdurend in de gaten houden.

De onderzoekers concluderen dat veel deelnemers zich niet geroepen voelen om zich echt uit te spreken over hoe data hun stad verandert. Dat betekent overigens niet dat de stadsbewoners geen mening over de smart city hebben, zo schrijven de onderzoekers. Via mensen in hun omgeving, het nieuws, boeken en televisie – het programma Hunted en de serie Black Mirror worden in gesprekken genoemd – vormen ze hun ideeën. Maar veel stadsbewoners zijn bang om als onwetend over te komen. Ze zien zichzelf niet als een groep bewoners met dezelfde belangen, maar juist als eenlingen die tegenover een groep staan (‘them’) die zich juist wel veel laat horen over de smart city: experts, overheden en techbedrijven aldus de onderzoekers.

Het betrekken van burgers bij de smart city en hoe hun leefomgeving verandert door sensoren, door camera’s, door dataverzamelende deelfietsen is dus nogal een uitdaging. Anders dan sociale problemen als veiligheid in de stad of woningnood, zien de deelnemers aan het onderzoek dataficering van hun leefomgeving niet als iets dat hen als groep raakt. Dus niet als een gezamenlijk, sociaal probleem. Ze ervaren volgens de onderzoekers geen agency het vermogen om alleen – of samen met anderen – te handelen.

Dat data een lokaal probleem kan zijn en ook om een collectieve actie vraagt – zoals een lokale actiegroep die de maximumsnelheid in hun wijk omlaag wil krijgen – dat beeld van data leeft nog niet.

De smart city als data wild west

Ik denk aan het stopgezette project in Toronto, ooit de droom van Larry Page. En aan Sven-Ake die vermoedt dat 5G straling uit de lantaarnpalen door de overheid gebruikt wordt hun burgers te controleren. Misschien zit er niet zoveel verschil tussen Sven-Ake’s wantrouwen naar de Led-lantarenpaal en de Rotterdamse deelnemers aan het onderzoek naar de smart city: het gevoel dat onder de oppervlakte van de stad, van je eigen leefomgeving iets langzaam aan het veranderen is. En dat die verandering onvermijdelijk lijkt.

Het lijkt erop dat de smart city van de toekomst niet top-down, zoals het project van Google in Toronto, maar meer bottom-up zal worden. De videodeurbellen aan huizen of de camera’s in Tesla’s waarmee je continu de openbare weg kan filmen, voldoen niet aan het standaardbeeld van de surveillance-camera die de gemeente heeft opgehangen in de binnenstad. Keuzes van individuele consumenten die deze technologie kunnen betalen, tech startups en gemeenten bepalen nu welke algoritmes en data in steden worden ingezet.

Zo worden dataverzamelende deelscooters en bakfietsen populair in grote steden. De gemeente Utrecht stimuleert deze vorm van deelvervoer, met als ambitie dat inwoners in de toekomst geen auto voor de deur nodig hebben.14 Wie gebruik wil maken van een deelscooter of fiets kan daarvoor Gaiyo op zijn telefoon zetten. Volgens Innovactory, het bedrijf achter Gaiyo is dit een ‘innovatieve app die functioneert als een one-stop shop voor elke vorm van (deel)mobiliteit.’15 De deelfietsen en scooters zijn overigens geen variant van het openbaar vervoer: smart mobility is big business. Innovactory heeft begin 2022 van een investeerder anderhalf miljoen groeikapitaal ontvangen. Het Amsterdamse bedrijf Dott – dat in verschillende landen actief is met deelsteppen – heeft tijdens een investeringsronde 60 miljoen euro opgehaald om verder uit te breiden.16

Dat burgers hun eigen lantaarnpalen gaan wantrouwen is extreem, maar misschien ook wel een gevolg van het feit dat data nooit echt lokaal kunnen zijn, nooit helemaal vastzitten aan een bepaald object (je smartphone, je activity tracker), maar ook altijd ergens anders zijn (in een datacenter in Groningen of Groenekan) en van iemand anders zijn (Facebook? De Gemeente Apeldoorn?), of dat het niet duidelijk is van wie de data zijn.

Een slimme stad die zich bottom-up ontwikkelt leidt dus niet automatisch tot meer begrip van of zeggenschap over data door burgers. Zo leidt de smart city van de toekomst tot een data wild west waarin eigenlijk niemand meer begrijpt waar al die talloze dataverzamelende camera’s en sensoren in asfalt, in deelfietsen, aan huizen en in auto’s nu precies vandaan komen en waar ze aan bijdragen. En waar onze reactie tot nu toe wantrouwen, onverschilligheid, of onmacht is.

Ik kijk nog een keer naar de video over de led-lantarenpalen.

‘Wat hier ligt is niets anders dan gecultiveerd kwaad,’ zegt Sven-Ake, terwijl hij naar de ledlamp op de tafel voor hem wijst.

==

==

1.2

De onbezorgde datatoekomst van de flitsbezorgdienst

Kağan Sümer, de jonge CEO van Gorillas staat in een lege fabriekshal in Berlijn. Het bedrijf groeit snel, en hij bekijkt samen met een medewerker de ruimte die het nieuwe hoofdkantoor van de flitsbezorger moet worden. Ondertussen wordt hij geïnterviewd door het VPRO-programma Tegenlicht.17 Hoe ziet het winkelen in de toekomst eruit? ‘Winkelen mensen nog in de toekomst?, vraagt Sümer zich hard op af. Het idee van tien-minuten bezorging was hij wel gewend. ‘Weet je hoe we in Turkije winkelen?’ Sümer vervolgt: ‘Je hebt je kleine buurtwinkeltjes. Die bel je op of je roept uit het raam. Twee broden en zo. En het is er binnen tien minuten.’ Lachend: ‘We hadden al tien-minuten bezorging.’

Maar hoe kwam hij op het idee om Gorillas te beginnen, wil de interviewer weten. ‘Denk even aan 20.000 jaar geleden,’ zegt Sümer. ‘Dit is nu een kantoor, maar zeg dat dit een grot is. Dan heb je een grot naast een rivier omdat daar vis zit. Naast een boom om appels te plukken. En als je honger hebt, pak je een appel uit de boom, toch? We geven je dat gevoel terug, dat in ons verankerd zit.’

Dat veel consumenten niet precies weten wat er met hun data gebeurt, komt mede doordat bedrijven vaak nog veel liever een ander verhaal willen vertellen. Een verhaal waar juist de belangrijkste ingrediënten – data en algoritmes – uit verdwenen zijn.

De CEO van de datagedreven-flitsbezorgdienst zet hier op een slimme manier een beeld neer van de consument. Alle miljarden aan investeringsgeld die nodig zijn om als flitsbezorger te kunnen starten, alle databases met gebruikersdata: ze verdwijnen naar de achtergrond. De toekomst die flitsbezorgers waar willen maken is niet die van de fast delivery drones, van vliegende auto’s of slimme koelkasten. Door een app op je telefoon verandert de buurt waarin je woont in een grot naast een rivier, en bestaat er geen verschil tussen een behoefte voelen (honger) en die bevredigen (eten). We hebben datagedreven-technologie nodig om een oude ‘natuurlijke’ orde te herstellen, is de boodschap.

‘Mijn tieners bestellen zelfs een banaan bij de flitsbezorger. Is dat erg?’, zo luidt de titel van een artikel van Annette Wiesman in Trouw over de ‘generatie thuisbezorgd’.18 De auteur beschrijft hoe laat in de avond de deurbel gaat: haar zoon heeft eten besteld bij een flitsbezorger: ‘De oogst: twee zakken snoep en een fruityoghurt. Zoon (17) en dochter (19) vinden dat ze na een dag hard werken wel iets frivools verdiend hebben, en dat was kennelijk niet te vinden in de voorraadkast.’ Extra belasting voor het milieu, de slechte werkomstandigheden en veiligheid van de riders, en dat alles voor een twee zakken snoep en een fruityoghurt. ‘Is mijn bezorgschaamte terecht?’ vraagt zij zich af.

Het is een vraag waar jij volgens CEO Sümer niet te druk over zou moeten.

De rivier met de vis, de boom met de appel: zijn bedrijf zorgt juist voor een ‘natuurlijker’ evenwicht. Een wereld waar voedsel goed is omdat het dichtbij is. Een variant van het kopje suiker dat je haalt bij de buren als je net staat te koken en geen tijd hebt om naar de supermarkt te gaan.

Een niet bestaande love triangle

‘Me, my phone and Gorillas: a delicious love triangle.’ ‘Herkenbaar?’, is de vraag op de Gorillas Instagram-pagina. Het bedrijf doet er alles aan voor consumenten én de riders flitsbezorging als way of life voor te stellen. Het bedrijf organiseert de Gorillas’ Future Market, een festival met ‘gecureerde pop-up galeries, DJ playgrounds’ en ‘fashion runways’.19

Een manier om erachter te komen – los van alle pr-verhalen – hoe een bedrijf naar data kijkt is op zoek gaan naar vacatures. Zo is Gorillas op zoek naar een data-analist die hen moet helpen bij het ontsluiten van ‘the true potential of our second most important asset after our people: Our data!’20 En ook Getir – het bedrijf heeft eind 2022 Gorillas overgenomen – heeft in haar vacature een verhaal naar potentiële data-experts, dat niet zozeer over chips, avocado’s of bananen gaat: ‘We’re a technology company. Technology enables us to do a business no one else in the world is doing. It is our biggest advantage.’21

Onderzoek van de Britse data-consumentenorganisatie Rightly laat zien dat bezorgdiensten zoals UberEats, JustEat en Deliveroo veel data verzamelen en deze ook delen met adverteerders. Zo verzamelt UberEats, naast je naam, profielfoto en contactdetails ook je locatiedata als je de app gebruikt of wanneer deze in de achtergrond ‘draait’. Deze data worden onder andere gedeeld met Facebook, Google, Twitter en Indeed, een vacaturesite.22

De liefdesdriehoek tussen de hongerige consument, diens telefoon en de riders van de bezorgdiensten is minder evenwichtig dan het wordt voorgesteld.

Het gemak dat flitsbezorgers beloven hangt samen met het feit dat de consument – anders dan de rider – niet beoordeeld wordt.

‘I’m more willing to be exploited than I am to be judged,’ is de conclusie van de Amerikaanse schrijver en dichter Suzannah Showler als ze zich afvraagt waarom in een tijd dat vrijwel alles wat je online doet wordt vastgelegd in data, ze zich zoveel meer kwetsbaarder voelt op het moment dat ze haar telefoon bij een reparateur inlevert, wetende dat hij in principe alles kan zien op haar telefoon.23 In de apps van de flitsbezorgers zijn geen sterren, geen comments, geen duimpjes. Anders dan bij sociale media ben je niet voortdurend zichtbaar en te beoordelen door anderen mensen. Je krijgt geen likes voor je avocado, en geen duimpje omlaag voor je chocoladepinda’s. Om in de vergelijking van CEO Sümer te blijven: niemand in het dorp vindt iets van de vis die je uit de rivier haalt, of de appel die je uit de boom plukt.

Maar de database van de (flits)bezorgdienst heeft twee zijdes. Flitsbezorgdiensten creëren voor de consument een gevoel van vrijheid: ze beoordelen je niet, vinden niets van je. Je hoeft niets, er zijn geen verwachtingen. Het maakt niet uit wat je koopt. Hoeveel je koopt. De druk – beoordelingen, verwachtingen, prestaties en optimalisaties – is er niet voor de consument, maar voor de andere kant: de riders.

Riders die voor platformen zoals Deliveroo werken worden voortdurend gemonitord en ‘gescoord’, zo schrijven Karen Gregory (Edinburgh University) en Jathan Sadowski (Monasch University) in hun artikel Biopolitical platforms: the perverse virtues of digital labour (2021).24 Voor hun onderzoek interviewden de onderzoekers vijfentwintig bezorgers in en rond de Schotse hoofdstad Edinburgh.

Ze waren benieuwd naar hoe de riders omgaan met de databases en algoritmes die ze tijdens hun werk moeten gebruiken en hoe dit invloed heeft op wat de auteurs subjectvorming noemen: een manier van denken over zichzelf en hun werk die riders – vaak onbewust – hebben ontwikkeld.

Wat vraagt werk dat zo sterk afhankelijk is van data en algoritmes nu van de riders? Uit de verhalen die de riders Gregory en Sadowski vertelden kwamen drie eigenschappen – die de auteurs ‘deugden’ noemen – terug: voor het werk als bezorger moet je flexibel, vitaal en ‘leesbaar’ zijn. Die ‘deugden’ die de riders moeten ontwikkelen om samen met de data en de algoritmes hun werk te kunnen doen zijn niet alleen kennis en vaardigheden. Ze grijpen dieper op hun leven in, zo stellen de onderzoekers. Volgens de onderzoekers laat het begrip ‘deugden’ – anders dan skills of kennis – beter zien dat het ontwikkelen van human capital niet alleen gaat over productiviteit en vaardigheden. Het gaat ook over hoe je in ons huidig economisch systeem een ‘beter persoon’ zou kunnen worden, schrijven Gregory en Sadowski. Deugden vertellen iets over hoe jij je zou moeten gedragen, hoe jij je tot anderen verhoudt en wie je bent als persoon.

De deugden hebben twee kanten, blijkt uit het onderzoek van Gregory en Sadowski. De flexibiliteit van de baan maakt het aantrekkelijk: riders kunnen zelf hun werktijden bepalen. Maar het zorgt ook voor stress: ze weten niet altijd wanneer ze een bestelling doorkrijgen, moeten vaak beschikbaar zijn en als ze te laat afzeggen dan heeft dat gevolgen voor hun score. Ook vitaliteit heeft twee kanten: de bezorgdienst trekt nieuwe bezorgers met de belofte om ‘fit for work’ te zijn, tegelijkertijd vertellen bezorgers dat ze veel fysieke klachten hebben en om aan het werk te kunnen blijven zijn sommige riders een behoorlijk bedrag per maand kwijt voor fysiotherapie.

Dat de riders tijdens hun werk voortdurend zichtbaar en voor de algoritmes leesbaar zijn, creëert veel stress. Aan de hand van data worden werkzaamheden van elke rider bijgehouden. Je geplande bezorgdiensten minder dan vierentwintig uur van tevoren afzeggen heeft invloed op je score. Wat ook invloed heeft is hoe vaak je werkt, de snelheid waarmee je nieuwe bestellingen ‘accepteert’ en of je tijdens weekends en piekuren wil werken, schrijven Gregory en Sadowski. De groep bezorgers die volgens de algoritmes hoog scoort mag zich als eerste inschrijven voor nieuwe shifts. Hoe beter de shift, hoe meer kans je hebt om weer geld te verdienen.

Riders hebben het gevoel, zo schrijven Gregory en Sadowski, dat ze slechts een onderdeel van de database, een zogenaamd ‘datapunt’ voor de bezorgdienst zijn, dat ze ‘gemanaged’ worden door algoritmes en dat de beoordelingscriteria bepaald worden door de bezorgdienst, in dit geval Deliveroo. Hoe de algoritmes precies werken is voor de riders ook niet duidelijk: de angst bestaat om zonder duidelijke reden verwijderd te worden van het platform.

Elke rider is in die zin inwisselbaar, schrijven Gregory en Sadowski. Uiteindelijk draait het bij de platforms om de hoeveelheid werk die een rider kan genereren.

Of de riders wat toevoegen aan het platform wordt op basis van de algoritmes besloten. Volgens Gegory en Sadowski zorgen algoritmische platformen voor een omdraaiing: ‘In plaats van dat de machine zich aanpast aan de mens, wordt van de werknemers verwacht dat ze zich aanpassen in aan hoe het platform werkt. Dit betekent het verwerven van het juiste menselijke kapitaal om het werk te doen, en tegelijkertijd een continue bron van datakapitaal genereren.’

Voor de (flits)bezorger ziet de love triangle er dus toch wat anders uit: het vraagt dat jij jezelf continue aanpast aan de algoritmes van het platform, en op die manier juist je zo aan te passen dat je perfect in het systeem past. Met als wrange conclusie dat je daarmee als bezorger vervangbaar bent. Een wereld waar voedsel op afroep beschikbaar is, waar je elk moment autonoom kan zijn als consument (ik wil nu dit), is alleen mogelijk als anderen (flitsbezorgers) een deel van die autonomie opgeven.

Doordat data en algoritmes vaak niet tastbaar zijn, kun je makkelijker een verhaal vertellen dat de gevolgen van het gebruik van data en algoritmes voor mensen nóg minder zichtbaar maakt. De origin story van de (flits)bezorgdiensten is dus niet de terugkeer naar menselijke maat en het authentieke gemak, van de vis in de rivier, de appel aan de boom, of de buurtwinkel om de hoek. Dat (flits)bezorgdiensten juist in deze tijd zijn ontstaan komt doordat het nu mogelijk is om op grote schaal data over consumenten te verzamelen en algoritmes in te zetten voor het optimaliseren van riders. De echte origin story begint dus met data, data-scientists en datasets.

1.3

Hoe de datasamenleving je voorstellingsvermogen voorbijgaat

Dat de Gelderse woonplaats met bijna 140.000 inwoners ambities heeft klopt: de stad krijgt via het Oosterijkse techbedrijf Radioled een snel en openbaar toegankelijk 5G-netwerk. Daarvoor zullen overal in de stad vijfhonderd witte kastjes aan lantarenpalen worden bevestigd, wat overigens al tot wat onrust onder de bewoners en tot een petitie heeft geleid. ‘Wij bezorgde burgers van Apeldoorn, constateren dat: de gemeente Apeldoorn al is begonnen met het uitrollen van de ‘Slimme Stad’ zonder de burgers daarbij voldoende te hebben betrokken.’25 Maar niet iedereen deelt de ambities van Apeldoorn om meer met data te gaan werken in de stad. Apeldoorn is door het World Economic Forum (WEF) veranderd in een smart city zo lees ik op verschillende websites.26 Het plan van het WEF zou een ‘vierde industriële revolutie’ zijn, waarbij iedere bewoner op aarde een digitale identiteit krijgt. Het doel zou uiteindelijk zijn om mens en technologie te laten samensmelten door chips te implanteren in lichamen van mensen.

‘Sneller groen bij regen’, is de optimistische kop op de website van de gemeente Apeldoorn: als het regent of de verwachting is dat er een bui aankomt, hoeven fietsers minder lang te wachten: de verkeerslichten krijgen informatie van het KNMI over het weer. 27 Op de vraag: ‘Welke gegevens verzamelen de witte kastjes in de lantaarnpalen?’ is de gemeente Apeldoorn duidelijk op haar website: deze zogenaamde ‘multipoints’, die registreren niets.28

De gevolgen zijn opvallend: waar de gemeente Apeldoorn de smart city aanprijst als een manier om plezieriger in de stad te kunnen wonen (wie wil er nu bij een stoplicht wachten als het regent), ervaren sommige inwoners het smart city project juist als iets waar ze geen grip op hebben. Ik denk dat dit voor een groot deel komt door de ongrijpbaarheid en onzichtbaarheid van data en algoritmes.

De vijfhonderd witte kastjes, verspreid over Apeldoorn lijken op wat door technologie-filosofen een ‘black box’ wordt genoemd: we hebben vaak nog wel een beeld van wat input is (je vingers die een zoekopdracht typen op het smartphone scherm) en wat eruit komt (de zoekresultaten), maar hoe dit precies gebeurt door zowel je smartphone als door de algoritmes van de zoekmachine blijft ondoorzichtig. Met kastjes op lantarenpalen, ‘slimme verkeerslichten’ en sensoren die fietsen kunnen tellen of neerslag kunnen meten, lijken data en algoritmes net zo ongrijpbaar te zijn als het draadloze 5G-netwerk waarmee ze vaak verstuurd worden. Sneller groen bij regen is fijn, kun je als inwoner van Apeldoorn denken. Maar moet er daarvoor zoveel data elke dag worden gecreëerd: vastgelegd door sensoren en verzameld in databases? En wat zijn de mogelijke gezondheidsrisico’s? En hoe worden deze data verzameld, van wie is het, en – vooral – voor wie is het?

Zo ver weg en toch dichtbij

De inwoners van Apeldoorn zijn niet de enige die ervaren dat data vaak ongrijpbaar en ontastbaar zijn. Leven in een datasamenleving betekent dat vrijwel alles dat je digitaal doet, van een formulier invullen voor de Belastingdienst tot het kijken naar een streamingdienst een spoor van data achterlaat. Vaak hebben we wel een vermoeden dat er iets met onze data gebeurt. Maar hoe bewust we zijn van data hangt af van het type data dat we delen of gecreëerd wordt, zegt Martin Abrams van de Amerikaanse organisatie The Information Accountability Foundation. In zijn paper The Origins of Personal Data and its Implications for Governance (2014)29 schrijft hij dat je data – grofweg – in vier categorieën kunt opdelen.

Allereerst zijn er data die we zelf bij volle bewustzijn creëren. Abrams noemt dit geleverde data. Je vult een formulier in om lid te worden van een sportvereniging. Je maakt een account aan in een app om die nieuwe deelscooter of fiets te gebruiken en vult je gebruikersnaam, e-mailadres en wachtwoord in, je plaatst een bericht op Twitter. In al deze gevallen, zo schrijft Abrams ben je een ‘actieve participant in het ontstaan van de data.’ Anders gezegd: zonder jou zou die data – de wachtwoorden, het e-mailadres, de tweet – er niet zijn geweest.

Bij de tweede categorie, de geobserveerde data, ben je als individu vaak al minder bewust van het ontstaan van deze data, stelt Abrams. Denk aan de cookie-melding als je een website voor de eerste keer bezoekt. Je wilt dat bericht op een nieuwsite lezen, je hebt haast en klikt snel op ‘alles accepteren’. Nog minder bewust ben je vaak van geobserveerde data die volgens Abrams lastig voor te stellen is: denk aan data van sensoren in je auto. Welke data verwerkt de parkeer-assistent in je auto eigenlijk? Of de sensor voor bandendruk of de airbag. Ook zijn we vaak weinig bewust van de data die bewakingscamera’s op bijvoorbeeld trein- en tramstations creëren.

Bij ontleende data, de derde categorie die Abrams beschrijft wordt het wat complexer: dit zijn data op basis van andere data. Hier begrijp je misschien wat beter wat de ongrijpbaarheid van data betekent. Dit zijn data die vaak over een langere termijn gecreëerd worden door bedrijven of overheden. Een webshop houdt voor een paar maanden bij voor hoeveel euro je gemiddeld besteld of hoeveel kleding je retour stuurt. Deze data zijn voor mensen vaak onzichtbaar.