..

..

..

..

..

..

..

Max Tegmark

..

Life 3.0

..

Mens zijn in het tijdperk van kunstmatige intelligentie

.

Oorspronkelijke titel Life 3.0. Being Human in the Age of Artificial Intelligence

© 2017 Max Tegmark

Nederlandse vertaling

© 2017 Maven Publishing B.V., Amsterdam / Wilma Paalman en Frits van der Waa

..

www.mavenpublishing.nl

..

Ontwerp omslag Scherpontwerp

Verzorging ePub Michiel Niesen, ZetProducties

Drukwerk Wöhrmann B.V.

..

isbn 978 94 9249 328 6

nur 740

..

Alle rechten voorbehouden.

Niets uit deze uitgave mag worden verveelvoudigd en/of openbaar gemaakt door middel van druk, fotokopie, microfilm of op welke wijze en/of door welk ander medium ook, zonder voorafgaande schriftelijke toestemming van de uitgever.

.

Voor het FLI-team, dat alles mogelijk heeft gemaakt

Proloog -het verhaal van het Omega-team

Het Omega-team was de ziel van het bedrijf. Terwijl de overige afdelingen, die zich bezighielden met verschillende commerciële toepassingen van beperkte KI, het geld binnenbrachten waarmee de zaak draaiend werd gehouden, joeg het Omega-team het doel na dat de directeur van het bedrijf van meet af aan voor ogen had gestaan: de ontwikkeling van krachtige kunstmatige intelligentie. De meeste andere werknemers beschouwden ‘de Omega’s’, zoals ze goedmoedig genoemd werden, als een stel dromers die met hun hoofd in de wolken liepen, en permanent iets nastreefden wat nog tientallen jaren in de toekomst lag. Ze lieten hen echter graag hun gang gaan, omdat ze blij waren met het prestige dat het bedrijf ontleende aan het voorhoedewerk van de Omega’s en ook uit dankbaarheid voor de verbeterde algoritmes die de Omega’s hun van tijd tot tijd toeschoven.

Ze realiseerden zich niet dat de Omega’s hun imago met zorg hadden opgebouwd om zo een groot geheim te verbergen: ze waren heel dicht bij de verwezenlijking van het stoutmoedigste plan in de geschiedenis van de mensheid. Hun charismatische directeur had hen persoonlijk bij elkaar gezocht, niet alleen omdat ze briljante onderzoekers waren, maar ook op grond van hun ambitie, hun idealisme en hun streven om de mensheid verder te brengen. Hij had hun erop gewezen dat het een uiterst gevaarlijk plan was, en dat grote mogendheden, gesteld dat ze er lucht van kregen, alle middelen zouden inzetten – zelfs ontvoering – om de onderneming lam te leggen of, liever nog, hun code te stelen. Maar ze hadden zich er voor de volle 100 procent achter geschaard, min of meer vanuit dezelfde redenering die ooit een groot aantal internationale topfysici had bewogen zich aan te sluiten bij het Manhattan Project, dat zich richtte op de ontwikkeling van kernwapens: ze waren ervan overtuigd dat als zij het niet als eersten deden, het wel door anderen gedaan zou worden, vanuit minder idealistische motieven.

De door hen ontwikkelde KI, bijgenaamd Prometheus, werd aldoor beter. Hoewel zijn cognitieve capaciteiten in veel opzichten nog pover afstaken bij die van mensen, bijvoorbeeld op het gebied van sociale vaardigheden, hadden de Omega’s alles in het werk gesteld om hem toe te rusten voor een bepaalde taak: het programmeren van KI-systemen. Ze hadden uitdrukkelijk voor deze strategie gekozen omdat ze de gedachte over de intelligentie-explosie onderschreven die de Britse wiskundige Irving J. Good al in 1965 had geformuleerd: ‘Laat ons een ultra-intelligente machine definiëren als een machine die alle intellectuele activiteiten van ieder willekeurig mens, hoe slim ook, veruit kan overtreffen. Omdat tot die intellectuele activiteiten ook het ontwerpen van machines behoort, zou een ultra-intelligente machine nog betere machines kunnen ontwikkelen; dan zou er ontegenzeggelijk een ‘intelligentie-explosie’ volgen waarbij de intelligentie van de mens ver achter zou blijven. De eerste ultra-intelligente machine is dus de laatste uitvinding die de mens ooit nog hoeft te doen, vooropgesteld dat de machine meegaand genoeg is om ons te vertellen hoe we hem onder controle moeten houden.’

Ze verwachtten dat de machine, als die recursieve zelfverbetering eenmaal in gang was gezet, weldra slim genoeg zou zijn om zich alle andere benodigde menselijke vaardigheden eigen te maken.

De eerste miljoenen

Ze hadden ervoor gekozen het project op een vrijdag op te starten, om negen uur ’s ochtends. Prometheus stond zachtjes te zoemen in het speciaal hiervoor aangelegde computercluster, dat was ondergebracht in lange rijen rekken in een grote, slechts voor ingewijden toegankelijke ruimte met een gecontroleerde temperatuur. Om veiligheidsredenen stond hij op geen enkele manier in verbinding met het internet, maar bevatte wel eigen kopieën van een groot deel van het web (Wikipedia, de Library of Congress, Twitter, een selectie uit YouTube, een groot deel van Facebook, enzovoort) waaruit hij gegevens kon putten om verder te leren.1 De Omega’s hadden dat tijdstip gekozen om ongestoord te kunnen werken: hun gezinnen en vrienden dachten dat ze het hele weekend weg waren voor een bedrijfsuitje. In het keukentje stond een flinke voorraad magnetronmaaltijden en energiedrankjes klaar en iedereen was gereed voor het grote moment.

Op het moment van de start was Prometheus iets minder goed dan zijzelf in het programmeren van KI-systemen, maar compenseerde dat doordat hij heel veel sneller was: al werkend aan het probleem klokte hij het equivalent van duizenden manjaren weg, in de tijd dat zij een Red Bull wegklokten. Om tien uur ’s ochtends had hij het eerste verbeterde ontwerp van zichzelf klaar, versie 2.0, dat beter presteerde, al was het nog niet op menselijk niveau. Maar tegen de tijd dat om twee uur ’s middags Prometheus 5.0 opstartte, stonden de Omega’s versteld: hij had de door hen gestelde prognoses veruit overtroffen, en de opmars leek alleen maar sneller te gaan. Om middernacht besloten ze Prometheus 10.0 in te zetten voor fase 2 van hun plan: geld verdienen.

Hun eerste doelwit was MTurk, de Amazon Mechanical Turk. Dit platform, in 2005 gelanceerd als een internetmarktplaats voor het crowdsourcen van informatie, was daarna snel gegroeid; wereldwijd waren er tienduizenden mensen de klok rond bezig met het uitvoeren van specifieke opdrachten, zogeheten HITs, ‘Human Intelligence Tasks’. Deze taken reikten van het transcriberen van audio-opnames tot het classificeren van beeldmateriaal en het samenvatten van webpagina’s, en hadden alle één ding gemeen: als je ze goed uitvoerde, zou geen mens doorhebben dat je een KI was. Prometheus 10.0 was in staat om ongeveer de helft van de categorieën waarin de taken waren verdeeld op aanvaardbaar niveau uit te voeren. Voor elke categorie hadden de Omega’s Prometheus een uitgeklede, speciaal hierop gerichte KI-softwaremodule laten ontwerpen die enkel dit soort taken kon uitvoeren en niets anders. Die module uploadden ze toen naar Amazon Web Services, een cloudgebaseerd verwerkingsplatform waarbinnen ze zoveel virtuele machines konden benutten als ze maar huurden. Voor elke dollar die ze aan Amazons cloud-computingdivisie betaalden, verdienden ze meer dan twee dollar aan Amazons MTurk-divisie. Amazon had er geen flauw idee van dat er binnen hun eigen bedrijf zo’n verbazende arbitragemogelijkheid bestond!

Om zich goed in te dekken hadden ze de maanden daarvoor duizenden MTurk-accounts aangemaakt op naam van fictieve personen, en de door Prometheus gebouwde modules namen nu die identiteiten over. De klanten van MTurk betaalden normaliter na ongeveer acht uur, en dat geld herinvesteerden de Omega’s prompt in nog meer computertijd in de cloud, waarbij ze nog betere modules gebruikten, die waren ontwikkeld door de jongste versie van Prometheus, die steeds bedrevener werd. Omdat ze hun kapitaal elke acht uur konden verdubbelen, zaten ze al snel aan het plafond van wat MTurk aan opdrachten te bieden had, en constateerden ze dat ze niet meer dan ongeveer een miljoen dollar per dag konden verdienen zonder ongewenste aandacht te trekken. Maar dat was ruim voldoende om hun volgende stap te financieren, en een eind te maken aan de vervelende noodzaak om het hoofd van de financiële afdeling om extra geld te vragen.

Gevaarlijke spelletjes

Een van de recente projecten waaraan de Omega’s veel plezier beleefden, afgezien van hun KI-doorbraken, was verzinnen hoe ze zo snel mogelijk geld konden verdienen als Prometheus eenmaal draaide. In principe lag de hele digitale economie voor het grijpen, maar waarmee konden ze het best beginnen? Met het produceren van computerspelletjes, muziek, films of software, met het schrijven van boeken of artikelen, met aandelenhandel, of met het doen van uitvindingen om die vervolgens op de markt te brengen? In wezen ging het erom dat ze moesten streven naar een maximaal rendement op hun investering, maar normale investeringsstrategieën waren een lachertje naast alles wat zij konden doen: waar een normale investeerder tevreden zou zijn met een rendement van 9 procent per jaar, hadden hun MTurk-investeringen 9 procent per uur opgeleverd: elke dag leverde het achtvoudige van de inzet op.

Eerst waren ze van plan geweest om een grote slag te slaan op de aandelenmarkt. Per slot van rekening had vrijwel ieder van hen op een gegeven moment een lucratief aanbod afgeslagen om als KI-ontwikkelaar te gaan werken voor hedgefondsen, die immers stevig investeerden in dat idee. Sommigen van hen schoot het te binnen dat de KI in de film Transcendence op die manier zijn eerste miljoenen had verdiend. Maar door de nieuwe regelgeving inzake derivaten die na de beurscrash van het jaar daarvoor waren ingesteld waren hun mogelijkheden beperkt. Ze zagen al snel in dat ze weliswaar veel hogere rendementen konden behalen dan andere investeerders, maar dat die waarschijnlijk in het niet zouden vallen bij het rendement dat ze konden genereren door hun eigen producten te verkopen. Als je kunt beschikken over de eerste superintelligente KI ter wereld is het beter om je geld te investeren in eigen bedrijven dan in die van anderen! Hoewel er hier en daar uitzonderingen denkbaar waren (zoals het inzetten van Prometheus’ bovenmenselijke hackersvaardigheden om niet-openbare gegevens te bemachtigen en dan opties te kopen op aandelen die zouden gaan stijgen), waren de Omega’s van mening dat de voordelen hiervan niet opwogen tegen de ongewenste aandacht die het zou kunnen trekken.

Toen ze begonnen te denken over producten die ze konden ontwikkelen en verkopen, leken computerspelletjes aanvankelijk de meest voor de hand liggende keus. Prometheus zou snel heel bedreven kunnen worden in het ontwikkelen van aantrekkelijke spelletjes, omdat hij met gemak alle taken aankon die nodig waren om een kant-en-klaar product te leveren, zoals het programmeren, het ontwikkelen van het grafisch ontwerp, de raytracing van beelden, enzovoort. Bovendien zou hij, met gebruikmaking van alle op het web te vinden data over de voorkeuren van de gebruikers, precies kunnen weten wat de diverse categorieën spelers het best zou bevallen, en zo een bovenmenselijk vermogen kunnen ontwikkelen om een spel zo winstgevend mogelijk te maken. The Elder Scrolls V: Skyrim, een spel waaraan veel van de Omega’s meer tijd hadden verdaan dan ze wilden toegeven, had destijds, in 2011, in één week tijd meer dan 400 miljoen dollar opgeleverd, en ze waren ervan overtuigd dat Prometheus in 24 uur en met behulp van een miljoen dollar aan rekencapaciteit in de cloud een spel zou kunnen maken dat minstens zo verslavend was. Dat zouden ze dan online kunnen verkopen en het kunnen aanprijzen in de blogosfeer, via Prometheus, die zich zou voordoen als menselijke gebruikers. Als dat elke week 250 miljoen dollar zou opleveren, zouden ze hun investering in acht dagen achtmaal hebben verdubbeld, wat neerkwam op een rendement van 3 procent per uur, iets minder dan hun aanvankelijke MTurk-opbrengst, maar met een veel langere adem. Door elke dag een nieuw pakket spellen te ontwikkelen zouden ze binnen afzienbare tijd naar schatting 10 miljard dollar kunnen verdienen, zonder dat daardoor de spelletjesmarkt ook maar enigszins overvoerd zou raken.

Maar een van de teamleden, een computerbeveiligingsexpert, praatte hun dit plan uit het hoofd. Ze wees erop dat dit plan het onaanvaardbare risico met zich bracht dat Prometheus zou kunnen uitbreken en zijn eigen lot in handen zou nemen. Omdat ze niet precies wisten hoe zijn doelstellingen zich zouden ontwikkelen tijdens zijn recursieve zelfverbetering, hadden ze besloten het zekere voor het onzekere te nemen en alles in het werk te stellen om Prometheus op zo’n manier af te schermen dat hij niet kon ontsnappen naar het internet. Voor de centrale Prometheusmachine die in hun serverruimte stond te draaien hanteerden ze fysiek isolement: er was gewoon geen verbinding met internet, en de enige output van Prometheus bestond uit berichten en documenten die hij naar een door de Omega’s bestuurde computer stuurde.

Het was in dat licht een riskante onderneming om een complex, door Prometheus gecreëerd programma te laten draaien op een op internet aangesloten computer: omdat de Omega’s niet werkelijk zicht hadden op wat Prometheus eigenlijk deed, zouden ze ook niet kunnen weten of hij zich bijvoorbeeld online zou gaan verspreiden, als een virus. Bij het testen van de software die Prometheus voor de MTurk-opdrachten had geschreven hadden de Omega’s dit risico ondervangen door die alleen op een virtuele machine te laten draaien. Dat is een programma dat een computer nabootst: veel Macgebruikers kopen bijvoorbeeld virtuele-machinesoftware waarmee ze Windowsprogramma’s kunnen draaien door die wijs te maken dat ze zich in een Windowscomputer bevinden. De Omega’s hadden hun eigen virtuele machine ontwikkeld die ze ‘Pandora’s Box’ hadden gedoopt, een programma dat een ultrasimpele machine simuleerde, zonder alle toeters en bellen die we normaal gesproken met computers associëren: geen toetsenbord, geen monitor, geen luidsprekers, geen internetaansluiting, niets. Bij het genereren van de audiotranscripties voor MTurk hadden de Omega’s de zaken zo georganiseerd dat Pandora’s Box geen andere input accepteerde dan één enkel geluidsbestand en geen andere output leverde dan één tekstbestand: de transcriptie. Voor de software in de box golden deze regels net zo absoluut als de natuurwetten voor ons: de software kon net zomin buiten de box komen als wij ons sneller kunnen verplaatsen dan het licht, hoe pienter we ook zijn. Dus afgezien van die ene input en output zat de software in Pandora’s Box feitelijk opgesloten in een parallel universum met zijn eigen computationele regels. De angst voor een uitbraak had de Omega’s zo paranoïde gemaakt dat ze zelfs de tijd in een isoleercel hadden gezet door de levensduur van code die ze niet vertrouwden te beperken. Zo werd bijvoorbeeld telkens als de transcriptiesoftware in de box klaar was met het transcriberen van een audiobestand, het geheugen van Pandora’s Box automatisch volledig gewist en het programma helemaal opnieuw geïnstalleerd. Op die manier had het programma bij aanvang van de volgende transcriptieopdracht geen weet van wat er daarvoor was gebeurd, en dus ook niet de mogelijkheid om er op den duur van te leren.

Toen de Omega’s voor hun MTurk-project gebruikmaakten van de Amazoncloud, hadden ze al hun door Prometheus gebouwde taakmodules nog kunnen opslaan in dergelijke virtuele boxen in de cloud, omdat de input en output van MTurk zo eenvoudig was. Maar voor computerspelletjes met zware grafische bestanden zou dat niet werken: die konden niet in een virtuele machine worden gestopt omdat ze volledige toegang moesten hebben tot alle hardware van de computer van de speler. Bovendien wilden de Omega’s niet het risico lopen dat een gebruiker met verstand van computers hun spelcode zou analyseren, Pandora’s Box zou ontdekken en zou gaan uitzoeken wat erin zat. Gezien het risico van een uitbraak lag dus niet alleen de spelletjesmarkt vooralsnog buiten bereik, maar ook de buitengewoon lucratieve markt voor andere software, waar honderden miljoenen dollars voor het oprapen lagen.

De eerste miljarden

De Omega’s hadden hun zoekterrein ingeperkt en concentreerden zich nu op producten die prijzig, zuiver digitaal (om geen last te hebben van een traag productieproces) en voor henzelf makkelijk te begrijpen moesten zijn (bijvoorbeeld tekst of films, waarvan ze wisten dat er geen gevaar bestond voor een uitbraak). Uiteindelijk besloten ze een mediabedrijf te lanceren, dat zich voorlopig zou richten op animatiefilms voor een groot publiek. De website, het marketingplan en de persberichten lagen ver voordat Prometheus superintelligent werd al klaar. Het enige wat er nog aan ontbrak was inhoud.

Hoewel Prometheus op zondagochtend al verbazend veel in zijn mars had, en het geld met bakken binnenhaalde bij MTurk, waren zijn intellectuele vermogens nog vrij beperkt: zijn ontwerp was toegespitst op het ontwikkelen van KI-systemen en het schrijven van software die de tamelijk geestdodende taken van MTurk kon uitvoeren. Hij was bijvoorbeeld niet goed in het maken van films, niet om onoverkomelijke redenen, maar om dezelfde reden dat James Cameron bij zijn geboorte niet goed was in films maken: het kost tijd om je een dergelijke vaardigheid eigen te maken. Net als een kind kon Prometheus alles leren wat hij maar wilde, met behulp van de data waarover hij beschikte. Terwijl James Cameron er jaren over gedaan had om te leren lezen en schrijven, had Prometheus dat al op die eerste vrijdag onder de knie, en had daarbij ook nog de tijd gevonden om heel Wikipedia en een paar miljoen boeken te lezen. Een film maken was een stuk lastiger. Het schrijven van een scenario dat mensen interessant zouden vinden was net zo moeilijk als het schrijven van een boek: dat kon niet zonder een grondig begrip van de menselijke samenleving en van wat mensen interessant vinden. Een definitieve videoversie van dat scenario vereiste een enorme hoeveelheid raytracing van gesimuleerde acteurs en de complexe scènes waarin ze optraden, een soundtrack met door de computer gegenereerde stemmen en dito spannende achtergrondmuziek, enzovoort. Al vanaf zondagochtend kon Prometheus in ongeveer een minuut tijd een film van twee uur bekijken, en daarnaast ook nog het boek lezen waarop die eventueel was gebaseerd, plus alle online-recensies en -beoordelingen. De Omega’s merkten dat Prometheus na een paar honderd films te hebben verstouwd vrij goed wist te voorspellen wat voor soort recensies een film zou krijgen, en welke verschillende publieksgroepen hij zou aanspreken. Sterker nog, hij leerde zelf filmrecensies te produceren, die zo waren geschreven dat ze naar hun gevoel getuigden van werkelijk inzicht, inclusief commentaren op allerlei aspecten, van de plots en het acteren tot technische details als belichting en camerastandpunten. Daaruit leidden ze af dat Prometheus, als hij eenmaal zijn eigen films zou gaan maken, zou weten wat succesvol zou zijn.

De Omega’s gaven Prometheus opdracht om zich in eerste instantie te richten op animatiefilms, om lastige vragen over de identiteit van de gesimuleerde acteurs te voorkomen. Op zondagavond rukten ze een lading bier en magnetronpopcorn aan, dempten het licht en sloten hun woeste weekend af met een vertoning van Prometheus’ debuutfilm. Het was een humoristische fantasyfilm in de trant van Disneys Frozen, en de raytracingprocessen waren uitgevoerd in de Amazoncloud, door een in virtuele machines opgesloten, door Prometheus gegenereerde code, een klus waaraan een groot deel was opgegaan van het miljoen winst dat die dag bij MTurk was behaald. Toen de film begon vonden ze het zowel boeiend als griezelig dat die door een machine was gemaakt, zonder enige menselijke inbreng. Maar al snel zaten ze hardop te lachen om de grappen en hielden hun adem in op spannende momenten. Sommigen van hen kregen het zelfs bijna te kwaad bij het emotionele slot; ze gingen zozeer op in die fictieve realiteit dat het hen helemaal niet meer bezighield wie de schepper ervan was.

De Omega’s hadden de lancering van hun website gepland op vrijdag, zodat Prometheus tijd zou hebben om meer materiaal te genereren en zijzelf voldoende gelegenheid zouden hebben om de dingen te doen die ze hem niet toevertrouwden: het aankopen van advertentieruimte en het aannemen van personeel voor de dekmantelondernemingen die ze in de voorgaande maanden hadden opgericht. Om de ware gang van zaken te verdoezelen luidde het officiële verhaal dat hun mediabedrijf (dat ogenschijnlijk geen banden met de Omega’s had) het grootste deel van zijn materiaal betrokken had bij onafhankelijke filmproducenten, met name bij beginnende hightech-bedrijven in lagelonenlanden. Deze pseudoleveranciers waren zogenaamd gevestigd in afgelegen oorden als Tiruchirappalli en Jakoetsk, waar nieuwsgierige journalisten niet gauw een kijkje zouden gaan nemen. De enige werknemers die ze daadwerkelijk in dienst hadden genomen werkten in de marketing en de administratie, en zouden iedereen die vragen stelde vertellen dat het productieteam ergens anders aan het werk was en op dat moment geen interviews gaf. Conform hun dekmantelverhaal kozen ze als slagzin ‘Een wereldwijde stimulus voor creatief talent’, en positioneerden hun bedrijf als een baanbrekend concept, waarbij state-of-the-art-technologie werd ingezet om creatieve geesten, en met name die uit opkomende economieën, de kans te bieden zich waar te maken.

Toen het vrijdag werd en nieuwsgierige mensen de site begonnen te bezoeken, kregen ze iets te zien wat deed denken aan de streamingdiensten van Netflix en Hulu, maar met een aantal saillante verschillen. Bij alle animatieseries ging het om nieuwe titels, waarvan ze nog nooit gehoord hadden, en die waren heel pakkend: de meeste series bestonden uit afleveringen van drie kwartier met een sterke verhaallijn, die telkens op zo’n manier eindigden dat je heel benieuwd werd naar wat er in de volgende aflevering zou gebeuren. En ze waren goedkoper dan die van de concurrenten. De eerste aflevering van elke serie was gratis, en je kon de daaropvolgende bekijken voor 49 dollarcent per stuk, of de hele serie met korting afnemen. In eerste instantie waren er maar drie series met elk drie afleveringen, maar er kwamen dagelijks nieuwe afleveringen bij, en al snel ook nieuwe series die gericht waren op verschillende publieksgroepen. Tijdens de eerste twee weken van Prometheus’ activiteiten namen zijn bekwaamheden als filmmaker snel toe, en dat uitte zich niet alleen in de kwaliteit van de films zelf, maar in betere algoritmes voor de raytracing en het simuleren van personages, wat de kosten van de berekeningen in de cloud die elke nieuwe aflevering met zich bracht flink drukte. Als gevolg hiervan konden de Omega’s in de loop van de eerste maand tientallen nieuwe series uitbrengen, die gericht waren op uiteenlopende publieksgroepen, van kleuters tot volwassenen, en hun bereik uitbreiden tot alle belangrijke wereldtalen, waarmee hun site opvallend internationaal werd, vergeleken met die van de concurrentie. Diverse commentatoren waren onder de indruk van het feit dat niet alleen de soundtracks meertalig waren, maar ook de films zelf: als een personage bijvoorbeeld Italiaans sprak, klopten niet alleen de mondbewegingen met de Italiaanse woorden, maar ook de typisch Italiaanse gebaren. Hoewel Prometheus nu heel goed in staat was om nagebootste filmacteurs te maken die niet te onderscheiden waren van echte mensen, zagen de Omega’s hiervan af, om hun hand niet te overspelen. Wel brachten ze veel reeksen uit met semirealistische geanimeerde menselijke personages, in genres die konden concurreren met traditionele tv-shows en films met levende acteurs.

Hun netwerk bleek behoorlijk verslavend te zijn, en de kijkcijfers stegen dan ook spectaculair. Veel fans vonden de personages en de plots zelfs beter en interessanter dan die van de kostbaarste Hollywoodproducties, en waren verheugd dat ze die tegen een schappelijk tarief konden bekijken. Mede dankzij agressieve advertentiecampagnes (die de Omega’s zich konden permitteren doordat hun productiekosten vrijwel nihil waren), veel media-aandacht en enthousiaste mond-tot-mondreclame, beliep hun winst binnen een maand na de lancering gemiddeld al een miljoen dollar per dag. Na twee maanden waren ze groter dan Netflix, en na drie maanden haalden ze 100 miljoen per dag binnen, waarmee ze tot de grootste mediabedrijven ter wereld behoorden en Time Warner, Disney, Comcast en Fox naar de kroon begonnen te steken.

Hun sensationele succes bracht veel ongewenste aandacht met zich mee, waaronder ook het vermoeden dat ze beschikten over sterke KI, maar de Omega’s hoefden maar een fractie van hun revenuen aan te spreken om een redelijk succesvolle desinformatiecampagne op touw te zetten. Vanuit een opzichtig nieuw kantoor in Manhattan verstevigden kersverse woordvoerders hun dekmantel met uitvoerige verhalen. Er werden wereldwijd allerlei mensen ingehuurd als camouflage, onder wie echte scenarioschrijvers die nieuwe series moesten bedenken, en van wie niemand weet had van Prometheus. Het misleidende internationale netwerk van tussenpersonen zorgde ervoor dat de meeste werknemers grif aannamen dat het grootste deel van het werk elders door anderen werd gedaan.

Om hun kwetsbaarheid te verminderen en te voorkomen dat hun enorme hoeveelheid computerberekeningen in de cloud argwaan zou wekken, namen ze ook technici in dienst die over de hele wereld een aantal omvangrijke computercentra moesten opzetten, onder de paraplu van firma’s die schijnbaar geen connectie hadden met het moederbedrijf. Hoewel de plaatselijke bevolking werd voorgehouden dat het ging om ‘groene datacentra’, omdat ze voornamelijk op zonne-energie draaiden, ging het hier in feite eerder om reken- dan om opslagcapaciteit. Prometheus had de blauwdrukken hiervoor tot in de finesses uitgewerkt, louter met gebruikmaking van reeds verkrijgbare hardware, en vanuit de gedachte dat de bouwtijd tot een minimum beperkt moest worden. De mensen die deze centra opzetten en draaiend hielden hadden geen idee wat voor berekeningen er werden uitgevoerd: ze geloofden dat ze werkten voor een commerciële clouddienst zoals ook Amazon, Google en Microsoft die boden, en wisten alleen dat al het dataverkeer op afstand werd aangestuurd.

Nieuwe technologische ontwikkelingen

In de loop der maanden begon het zakelijk imperium dat werd geleid door de Omega’s zijn tentakels uit te strekken naar steeds meer sectoren van de wereldeconomie, dankzij de bovenmenselijk vooruitziende blik van Prometheus. Op grond van een grondige analyse van de mondiale data had hij de Omega’s al in die eerste week een uitvoerig stappenplan voor verdere groei voorgelegd, dat hij bleef verbeteren en verfijnen naarmate de beschikbare data en computerfaciliteiten toenamen. Hoewel Prometheus allerminst alwetend was, ontstegen zijn vermogens die van de mens zozeer dat de Omega’s hem beschouwden als een onfeilbare profeet, die op al hun vragen zonder mankeren reageerde met briljante antwoorden en adviezen.

Prometheus’ software was inmiddels zo ver ontwikkeld dat die optimaal gebruikmaakte van de nogal middelmatige, door mensen ontwikkelde hardware waarop hij draaide, en zoals de Omega’s hadden voorzien ontwikkelde Prometheus manieren om ook deze hardware enorm te verbeteren. Uit angst voor een uitbraak wilden ze geen robotwerkplaatsen bouwen die direct werden aangestuurd door Prometheus. In plaats daarvan schakelden ze op diverse locaties grote hoeveelheden topwetenschappers en -technici in, aan wie ze interne, door Prometheus geschreven onderzoeksverslagen voorlegden, die zogenaamd afkomstig waren van onderzoekers op die andere locaties. Deze verslagen bevatten gedetailleerde beschrijvingen van nieuwe natuurkundige verschijnselen en productietechnieken die de technici in korte tijd zouden kunnen testen, doorgronden en leren hanteren. Normale research- en ontwikkelingstrajecten vergen uiteraard jaren, wat voor een groot deel komt doordat ze gepaard gaan met een voortdurend proces van vallen en opstaan. Maar dit was een heel andere situatie: Prometheus had de eerstvolgende stappen al van tevoren uitgedacht, dus de enige beperkende factor was de snelheid waarmee de benodigde zaken konden worden begrepen en gebouwd. Een goede docent kan zijn leerlingen veel sneller kennis bijbrengen dan wanneer ze die op eigen houtje moeten verwerven, en zonder dat ze dat wisten deed Prometheus met deze onderzoekers hetzelfde. Doordat hij precies kon voorspellen hoelang mensen er over zouden doen om dingen te begrijpen en te bouwen als ze eenmaal het geschikte gereedschap in handen hadden, berekende hij het kortst mogelijke traject naar het gewenste doel, en gaf daarbij prioriteit aan nieuwe technieken die snel begrepen en gerealiseerd konden worden en konden bijdragen aan de ontwikkeling van nog geavanceerdere technieken.

In de geest van de makersbeweging werden de technische teams aangespoord om hun eigen machines te gebruiken om betere machines te bouwen. Deze terugkoppeling bespaarde niet alleen geld, maar maakte hen ook minder kwetsbaar voor toekomstige inbreuken van buitenaf. Binnen twee jaar produceerden ze computerhardware die veel beter was dan de wereld ooit gekend had. Om concurrenten van buiten niet in de kaart te spelen hielden ze deze technologie onder de pet en gebruikten haar alleen maar om Prometheus te upgraden.

De buitenwereld had echter wel in de gaten dat er sprake was van een verbijsterende technologische sprong voorwaarts. Op bijna elk gebied lanceerden kersverse bedrijven over de hele wereld revolutionaire nieuwe producten. Een jonge Zuid-Koreaanse onderneming bracht een nieuwe accu op de markt die half zo groot was als je laptopaccu, tweemaal zoveel energie kon opslaan, en binnen een minuut volledig kon worden opgeladen. Een Finse firma lanceerde een goedkoop zonnepaneel dat tweemaal zo efficiënt was als dat van de beste concurrent. Een Duits bedrijf maakte bekend dat het een nieuw, voor massaproductie geschikt type stroomdraad had ontwikkeld dat supergeleidend was bij kamertemperatuur, wat een reeks doorbraken teweegbracht in de energiesector. Een in Boston gevestigde groep biotechnologen kondigde aan dat ze een fase 2-klinisch onderzoek waren begonnen naar de naar hun zeggen eerste effectieve vermageringspil zonder bijwerkingen, terwijl er geruchten gingen dat een Indiaas bedrijf al iets vergelijkbaars aanbood op de zwarte markt. Een bedrijf uit Californië sloeg terug met een fase 2-onderzoek naar een breed inzetbaar middel tegen kanker, dat zorgde dat het immuunsysteem van het lichaam cellen met de meest voorkomende kankerachtige mutaties kon herkennen en aanvallen. De voorbeelden bleven maar binnenkomen, zodat er al gewag werd gemaakt van een nieuwe Gouden Eeuw voor de wetenschap. Daar kwam nog bij dat overal ter wereld roboticabedrijven als paddenstoelen uit de grond schoten. Geen van de robots bezat iets wat zelfs maar in de buurt kwam van menselijke intelligentie, en de meeste van hen leken ook helemaal niet op mensen. Maar ze brachten wel een dramatische economische omslag teweeg, en in de loop der jaren vervingen ze geleidelijk aan het merendeel van de werknemers in de industrie, het transportwezen, de groot- en detailhandel, de bouw, de grondstoffensector, de landbouw, de bosbouw en de visserij.

Maar wat de buitenwereld niet in de gaten had – dankzij de inspanningen van een heel team van topjuristen – was dat al deze ondernemingen via een reeks tusseninstanties werden aangestuurd door de Omega’s. Via diverse gevolmachtigden overspoelde Prometheus patentbureaus over de hele wereld met sensationele uitvindingen, waarmee hij geleidelijk aan in alle technologische sectoren een dominante factor werd.

Hoewel deze ontregelende nieuwe bedrijven machtige vijanden maakten bij de concurrentie, wisten ze nog machtiger vrienden voor zich te winnen. Ze behaalden uitzonderlijk grote winsten, en met leuzen als ‘investeren in onze gemeenschap’ wendden ze een aanzienlijk deel daarvan aan voor het creëren van banen bij sociale projecten, waar dikwijls juist de mensen werden aangenomen die waren afgevloeid bij de door hen ontregelde bedrijven. Ze maakten gebruik van gedetailleerde, door Prometheus geproduceerde analyses waarin banen werden beschreven die waren toegesneden op de plaatselijke omstandigheden en die bij minimale kosten een maximaal lonend effect hadden voor de werknemers en de gemeenschap. In de regio’s met veel overheidsvoorzieningen richtten ze zich dikwijls op sociale cohesie, cultuur en zorg, terwijl het in armere regio’s ook ging om het realiseren en in stand houden van scholen, gezondheidszorg, thuiszorg, ouderenzorg, betaalbare huisvesting, parken en basale infrastructuur. Vrijwel overal was de plaatselijke bevolking van oordeel dat dit zaken waren die allang tot stand gebracht hadden moeten worden. Lokale politici kregen genereuze donaties, en er werd op gelet dat hun inzet voor deze maatschappelijke investeringen van het bedrijfsleven gunstig afstraalde op henzelf.

Macht vergaren

De Omega’s hadden hun mediabedrijf niet alleen opgericht om hun eerste technologische doorbraken te financieren, maar ook met het oog op de volgende fase van hun gewaagde plan: de macht over de hele wereld in handen krijgen. Binnen een jaar na de lancering van Prometheus hadden ze wereldwijd hun netwerk uitgebreid met opvallend goede nieuwszenders. In tegenstelling tot hun andere zenders, waren die met opzet verlieslijdend en werden ze geafficheerd als een publieke voorziening. In feite genereerden deze nieuwszenders helemaal geen inkomsten: de uitzendingen bevatten geen reclame en iedereen met een internetaansluiting kon ze kosteloos bekijken. De overige onderdelen van hun media-imperium brachten zoveel geld in het laatje dat ze veel meer konden uitgeven aan hun nieuwsdienst dan enig ander journalistiek medium ooit had gedaan, en dat was te merken. Door een agressief wervingsbeleid met concurrerende honoraria voor verslaggevers en onderzoeksjournalisten brachten ze een opmerkelijke hoeveelheid talent en nieuwsfeiten op het scherm. Dankzij een wereldwijde webservice die iedereen beloonde die iets wetenswaardigs meldde, van plaatselijke corruptie tot een opbeurend nieuwtje, hadden ze met hun berichten in de meeste gevallen de primeur. Althans, dat was wat de mensen dachten: in werkelijkheid waren ze dikwijls de eersten omdat verhalen die zogenaamd afkomstig waren van burgerjournalisten ontdekt waren door Prometheus, die in realtime het internet aftastte. Al deze video-nieuwssites boden tevens podcasts en geschreven artikelen aan.

In de eerste fase van hun nieuwsstrategie ging het erom het vertrouwen van het publiek te winnen, en daarin waren ze bijzonder succesvol. Hun ongeëvenaarde bereidheid om niet op kosten te letten leidde tot een opvallend actieve regionale en lokale nieuwsgaring, waarbij onderzoeksjournalisten dikwijls schandalen blootlegden die de kijkers daadwerkelijk aangingen. Als een land politiek sterk verdeeld was en het publiek gewend was aan partijdige berichtgeving, lanceerden ze verschillende nieuwszenders die zich elk inzetten voor een bepaalde factie, ogenschijnlijk eigendom waren van verschillende ondernemingen, en geleidelijk het vertrouwen van die factie wisten te winnen. Waar mogelijk brachten ze dit tot stand met behulp van schaduwondernemingen, die dan de invloedrijkste al bestaande zenders overnamen en die vervolgens geleidelijk verbeterden door de commercials af te schaffen en de inhoud naar hun hand te zetten. In landen waar dit streven stuitte op censuur en politieke inmenging, deden ze om voet aan de grond te krijgen aanvankelijk wat de regering van hen verlangde, zij het met het geheime interne motto ‘de waarheid, niets dan de waarheid, maar misschien niet de hele waarheid’. Prometheus leverde in dergelijke situaties gewoonlijk uitstekende adviezen, door aan te geven welke politici in een gunstig daglicht moesten worden gesteld en welke (gewoonlijk ondergeschikte en corrupte) politici aan de schandpaal konden worden genageld. Prometheus wist bovendien voortreffelijk aan te geven aan welke touwtjes getrokken moest worden, wie er omgekocht moest worden en hoe dat het beste gedaan kon worden.

Deze strategie was wereldwijd een daverend succes, en op den duur golden de door Omega aangestuurde zenders als de allerdeugdelijkste nieuwsbronnen. Zelfs in landen waar de overheid hun tot dusverre had verhinderd een breed publiek te bereiken, wisten ze een goede reputatie op te bouwen, en druppelden veel van hun nieuwsverhalen toch langs officieuze weg binnen. Topmannen van concurrerende nieuwsmedia kregen het gevoel dat ze een uitzichtloze strijd voerden: hoe kun je in vredesnaam winst maken als je moet concurreren met iemand die over meer kapitaal beschikt en zijn producten gratis weggeeft? In het licht van de dalende kijkcijfers besloten steeds meer netwerken hun nieuwszenders van de hand te doen, gewoonlijk aan een consortium dat later aangestuurd bleek te worden door de Omega’s.

Ongeveer twee jaar na de lancering van Prometheus was de fase van het vertrouwen winnen goeddeels voltooid, en zetten de Omega’s fase 2 van hun nieuwsstrategie in gang: het bijsturen van de publieke opinie. Al voor die tijd hadden oplettende waarnemers sporen van een politieke agenda bespeurd bij de nieuwe media: er leek sprake te zijn van een lichte tendens naar het midden, weg van elk soort extremisme. Het brede palet aan zenders die verschillende groepen bedienden schonk nog steeds aandacht aan de rivaliteit tussen de Verenigde Staten en Rusland, tussen India en Pakistan, tussen verschillende religies en tussen politieke partijen, enzovoort, maar de kritiek was minder scherp van toon, en doorgaans eerder gericht op concrete kwesties die te maken hadden met geld en macht dan op aanvallen ad hominem, paniekzaaierij en slecht onderbouwde geruchten. Zodra fase 2 daadwerkelijk begon, werd deze tendens om oude conflicten te bezweren steeds duidelijker, waarbij allerlei aangrijpende verhalen over het ellendige lot van langdurig strijdende partijen werden afgewisseld met reportages waarin werd uitgezocht hoeveel luidruchtige haatzaaiers er werden gedreven door persoonlijk gewin.

Politieke commentatoren merkten op dat er naast het streven om regionale conflicten uit te bannen sprake was van een eendrachtige inspanning om risico’s op mondiaal niveau te beteugelen. Er werd bijvoorbeeld opeens overal gediscussieerd over de gevaren van een nucleaire oorlog. Er werden verscheidene grote publieksfilms uitgebracht met een dystopisch scenario waarin al dan niet opzettelijk een wereldwijde kernoorlog uitbrak en een dramatisch beeld werd geschetst van de nasleep daarvan, met een nucleaire winter, een ingestorte infrastructuur en massale sterfte door hongersnood. Vakkundig gemaakte nieuwe documentaires belichtten uitvoerig de gevolgen van een nucleaire winter, die alle landen zouden treffen. De nieuwszenders gaven alle ruimte aan wetenschappers en politici die pleitten voor een vermindering van het aantal kernwapens, niet in de laatste plaats om de resultaten te belichten van allerlei nieuw onderzoek naar maatregelen die hieraan konden bijdragen; onderzoek dat werd bekostigd door wetenschappelijke organisaties die grote giften hadden ontvangen van nieuwe technologieondernemingen. Als gevolg hiervan groeide de politieke bereidheid om de rode knop voor het lanceren van kernwapens af te schaffen en het nucleair arsenaal te reduceren. Ook schonken de media opnieuw veel aandacht aan klimaatverandering, waarbij dikwijls werd gewezen op de recente, door Prometheus mogelijk gemaakte technologische doorbraken die de kosten van duurzame energie sterk konden terugdringen, en regeringen werden aangespoord om te investeren in zulke nieuwe energie-infrastructuren.

Gelijktijdig met hun overname van de media benutten de Omega’s Prometheus om een omwenteling in het onderwijs op gang te brengen. Als Prometheus op de hoogte was van iemands kennis en vaardigheden, kon hij aangeven hoe die het snelst een nieuw onderwerp onder de knie kon krijgen, op een manier die hem aansprak en motiveerde. Bovendien kon hij de bijbehorende video’s, teksten, oefeningen en ander lesmateriaal aanleveren. Door Omega aangestuurde ondernemingen brachten daarom onlinecursussen over vrijwel alle onderwerpen op de markt, die niet alleen waren toegesneden op de taal en de culturele achtergrond van de gebruiker, maar ook op zijn aanvangsniveau. Of je nu een veertigjarige analfabeet was die wilde leren lezen of een afgestudeerde bioloog die bijscholing zocht over de jongste ontwikkelingen omtrent de behandeling van kanker met immuuntherapie, Prometheus had altijd de perfecte cursus voor je. Dit materiaal had weinig gemeen met de meeste online-cursussen van nu: dankzij zijn talenten als filmregisseur waren de videofragmenten werkelijk boeiend en bevatten ze krachtige analogieën die direct aanspraken en bereikten dat je uiteindelijk nog meer wilde leren. Voor sommige cursussen moest betaald worden, maar een groot deel ervan was gratis verkrijgbaar, tot vreugde van docenten over de hele wereld die ze konden gebruiken in de klas, en van vrijwel iedereen die graag iets wilde leren.

Deze pedagogische superkwaliteit bleek ook een krachtig gereedschap voor politieke doeleinden. Zo kwamen er reeksen van online-video-‘betogen’, waarbij ideeën uit de ene aflevering de gebruiker tot nieuwe inzichten brachten en hem bovendien motiveerden om een andere video over een verwant onderwerp te bekijken die hem waarschijnlijk nog meer zou overtuigen. Als het de bedoeling was een conflict tussen twee landen te laten de-escaleren, werden er in beide landen aparte historische documentaires uitgebracht die een genuanceerder licht wierpen op de oorsprong en het verloop van het conflict. In pedagogische actualiteitenprogramma’s werd uitgelegd welke personen uit het land van de kijker garen sponnen bij het voortduren van het conflict en welke technieken ze hanteerden om het aan te wakkeren. Tegelijkertijd werden er in populaire programma’s op de amusementszenders steeds meer sympathieke personages uit het andere land opgevoerd, net zoals de burger- en de homorechtenbeweging ooit een zetje in de rug hadden gekregen dankzij een positieve presentatie van hun vertegenwoordigers.

Weldra kon het politieke commentatoren niet meer ontgaan dat er een groeiende steun was voor een politieke agenda die gebaseerd was op zeven kernpunten:

..

1. Democratie

2. Belastingverlaging

3. Afbouw van de verzorgingsstaat

4. Afbouw van defensie-uitgaven

5. Een vrije markt

6. Open grenzen

7. Sociale verantwoordelijkheid van ondernemingen

..

Wat minder duidelijk was, was het achterliggende doel: de geleidelijke, wereldwijde ontmanteling van alle voordien bestaande machtsstructuren. De punten 2-6 reduceerden de macht van de staat, en de mondiale democratisering maakte dat het zakenimperium van de Omega’s meer invloed kon uitoefenen op de selectie van politieke leiders. Ondernemingen met maatschappelijk verantwoordelijkheidsbesef deden de machtspositie van de staat nog verder slinken door steeds meer diensten over te nemen die de overheid had geleverd (of had horen te leveren). De traditionele elite van het commerciële bedrijfsleven kwam steeds zwakker te staan, doordat ze op de vrije markt eenvoudigweg niet kon concurreren met de door Prometheus gesteunde bedrijven en daardoor een steeds kleiner aandeel in de wereldeconomie had. Traditionele opinieleiders, van politieke partijen tot religieuze groeperingen, ontbrak het aan een propagandamachine die zich kon meten met het media-imperium van de Omega’s.

Zoals bij elke grote omwenteling waren er winnaars en verliezers. In de meeste landen mocht dan duidelijk sprake zijn van een nieuw optimisme, nu het onderwijs, de sociale voorzieningen en de infrastructuur verbeterd waren, conflicten werden bijgelegd en plaatselijke ondernemingen technologische vernieuwingen lanceerden die de hele wereld rondgingen, maar zeker niet iedereen was tevreden. Terwijl veel ontslagen werknemers nieuw emplooi vonden bij maatschappelijke projecten, hielden degenen die veel macht en kapitaal hadden bezeten daar doorgaans steeds minder van over. Dat proces was begonnen in de wereld van de media en de technologie, maar had zich geleidelijk uitgebreid naar alle sectoren. De wereldwijde afname van conflicten leidde tot defensiebezuinigingen, wat heel nadelig was voor de defensie-industrie. Opkomende bedrijven van het nieuwe soort gingen normaal gesproken niet naar de beurs, vanuit de overweging dat op winst beluste aandeelhouders hun grote uitgaven aan maatschappelijke projecten zouden blokkeren. Daardoor liep over de hele wereld de aandelenhandel geleidelijk terug, wat niet alleen schadelijk was voor beursmagnaten, maar ook voor gewone burgers die dachten dat ze op hun pensioenfonds konden bouwen. En alsof het nog niet erg genoeg was dat de winsten van beursgenoteerde ondernemingen kelderden, namen beleggingsondernemingen over de hele wereld een verontrustende trend waar: al hun voorheen zo succesvolle handelsalgoritmes leken niet meer te werken en presteerden zelfs bij eenvoudige indexfondsen onder de maat. Het leek wel of ergens achter de schermen iemand hun voortdurend een stap voor was en hen op eigen terrein versloeg.

Hoewel tal van invloedrijke personen zich verzetten tegen de hausse aan veranderingen, hadden hun pogingen opvallend weinig effect, bijna alsof ze in een slim uitgedachte val waren gelopen. Er vonden grote veranderingen plaats, en wel in een zo onthutsend tempo dat het moeilijk was om ze allemaal bij te houden en een gecoördineerde tegenactie te ondernemen. Bovendien was het zeer onduidelijk over welke boeg ze het moesten gooien. De agenda van traditioneel rechts was grotendeels overgenomen, maar de belastingvermindering en het verbeterde zakenklimaat pakten vooral gunstig uit voor hun tegenstanders in de hightech-sectoren. Bijna elke traditionele bedrijfstak bedelde nu om staatssteun, maar de beperkte overheidsbudgetten dwongen hen tot een uitzichtloze onderlinge strijd, terwijl ze door de media werden afgeschilderd als overjarige museumstukken die alleen maar om subsidie vroegen omdat ze niet konden concurreren. Traditioneel links was tegen de vrije markt en bezuinigingen op sociale voorzieningen, maar ingenomen met de vermindering van defensie-uitgaven en de dalende armoede. En veel oude linkse stokpaardjes waren onberijdbaar geworden, gezien het onmiskenbare feit dat de sociale voorzieningen waren verbeterd sinds ze niet meer werden geleverd door de overheid, maar door idealistische bedrijven. Publieksonderzoek toonde telkens weer aan dat overal ter wereld het grootste deel van de kiezers vond dat de kwaliteit van hun bestaan verbeterde, en dat het in het algemeen de goede kant uit ging. Dit had een simpele wiskundige verklaring: voor de komst van Prometheus verdiende de armste 50 procent van de wereldbevolking bij elkaar niet meer dan ongeveer 4 procent van het mondiale inkomen, wat de door Omega aangestuurde bedrijven in staat stelde om hun sympathie (en hun stemmen) te winnen door slechts een klein deel van de behaalde winst met hen te delen.

Consolidatie

Het gevolg was dat in het ene land na het andere de partijen die de zeven Omega-kernpunten onderschreven een doorslaggevende overwinning behaalden. In nauwgezet op de doelgroep afgestemde campagnes positioneerden ze zichzelf in het midden van het politieke spectrum, zetten de rechtse partijen in de hoek als inhalige, naar staatssteun hengelende stokebranden en betichtten de linkse ervan dat ze een groot overheidsapparaat met veel belasting en veel uitgaven wilden, en vernieuwing in de weg stonden. Wat bijna niemand zich realiseerde was dat Prometheus zorgvuldig had uitgezocht wie de geschiktste kandidaten waren om naar voren te schuiven, en alles in het werk had gesteld om te zorgen dat ze zouden winnen.

Voor de komst van Prometheus had de beweging die pleitte voor een algemeen basisinkomen geleidelijk aan aanhang gewonnen; volgens hen was een uit belastingopbrengsten bekostigd minimuminkomen voor iedereen een remedie voor het door de technologie ontstane banentekort. Met de opkomst van door het bedrijfsleven gesteunde maatschappelijke projecten stierf deze beweging een zachte dood, aangezien het door Omega aangestuurde zakenimperium in wezen hetzelfde bood. Met het doel hun maatschappelijke projecten beter op elkaar af te stemmen, lanceerde een internationale groep ondernemingen de ‘Humanitaire Alliantie’, een niet-gouvernementele organisatie die zich ten doel stelde de meest betekenisvolle humanitaire activiteiten over de hele wereld te inventariseren en te steunen. Al snel schaarde vrijwel het hele Omega-imperium zich achter dit initiatief, dat op nimmer vertoonde schaal mondiale projecten lanceerde, zelfs in landen waaraan de technologische sprong voorwaarts grotendeels voorbij was gegaan, dit alles ter verbetering van het onderwijs, de volksgezondheid, de welvaart en het openbaar bestuur. Het behoeft geen betoog dat Prometheus deze projecten achter de coulissen voorzag van nauwkeurig doorgerekende plannen, die waren geïndexeerd aan de hand van het nuttig effect per dollar. De Alliantie (zoals ze in de volksmond al snel werd genoemd) deelde niet zomaar geld uit, zoals bij een basisinkomen, maar wist degenen die ze steunde ertoe te bewegen om zich in te zetten voor haar doelstellingen. Als gevolg daarvan bezag na verloop van tijd een groot deel van de wereldbevolking de Alliantie met gevoelens van trouw en dankbaarheid, vaak meer dan de gevoelens die ze voor hun eigen regering koesterden.

Ook ging de Alliantie gaandeweg steeds meer functioneren als een wereldregering, naarmate nationale overheden hun macht zagen afkalven. Regeringsbudgetten bleven slinken als gevolg van de belastingverlagingen, terwijl het budget van de Alliantie uiteindelijk dat van alle regeringen samen in de schaduw stelde. Alle traditionele functies van een nationale overheid werden in toenemende mate irrelevant. De Alliantie bood verreweg de beste sociale voorzieningen, onderwijs en infrastructuur. De media hadden internationale spanningen zo ver teruggedrongen dat defensie-uitgaven grotendeels overbodig waren, en een groeiende welvaart had de bodem weggeslagen onder de meeste oude conflicten, die immers vaak berustten op rivaliteit over schaarse grondstoffen. Een paar dictators en anderen hadden zich heftig verzet tegen deze nieuwe wereldorde en hadden geweigerd zich uit te laten kopen, maar waren ten slotte allemaal ten val gebracht door middel van zorgvuldig geplande staatsgrepen of volksopstanden.

De Omega’s hadden nu de ingrijpendste omwenteling in de geschiedenis van het leven op aarde tot stand gebracht. Voor het eerst werd onze planeet bestuurd door één enkele instantie, die werd ondersteund door een intelligentie die zo groot was dat ze in aanleg het leven nog miljoenen jaren kon laten gedijen op aarde en in de kosmos. Maar wat waren ze nu eigenlijk verder van plan?

***

Dat was het verhaal van het Omega-team. De rest van dit boek gaat over een ander verhaal – een verhaal dat nog niet geschreven is: het verhaal van onze eigen toekomst met KI. Hoe zou jij willen dat dat verloopt? Is het denkbaar dat iets wat min of meer lijkt op het Omega-verhaal werkelijk zal gebeuren, en zo ja, zou je dat willen? En even afgezien van speculaties over superintelligente KI, hoe zou je willen dat ons verhaal begon? Wat voor invloed zou KI de komende decennia volgens jou moeten uitoefenen op werkgelegenheid, wetgeving en bewapening? En als je verder vooruitkijkt, wat voor slot zou je het verhaal dan geven? Dit verhaal is er een van waarlijk kosmische proporties, want het gaat over niets minder dan de uiteindelijke toekomst van het leven in ons universum. En wij zijn degenen die dat verhaal zullen moeten schrijven.

1 Voor het gemak ga ik in dit verhaal uit van de huidige economische en technologische stand van zaken, hoewel de meeste onderzoekers vermoeden dat de verwezenlijking van algemene KI op menselijk niveau nog zeker tientallen jaren gaat duren. Het Omega-plan zou in de toekomst nog makkelijker te realiseren moeten zijn, aangenomen dat de digitale economie blijft groeien en er steeds meer online-diensten beschikbaar komen zonder dat daarbij vragen gesteld worden.

1. Welkom bij de belangrijkste discussie van onze tijd

‘Technologie geeft het leven de mogelijkheid om zich als nooit tevoren te verbreiden – of zichzelf te vernietigen.’

Future of Life Institute

13,8 miljard jaar na het ontstaan van ons universum is het ontwaakt en zich bewust geworden van zichzelf. Op een kleine blauwe planeet zijn minuscule bewuste stukjes van ons universum begonnen met telescopen naar de kosmos te staren, waarbij ze telkens opnieuw tot de ontdekking zijn gekomen dat alles wat er volgens hen bestond slechts een bescheiden onderdeel was van iets veel groters: een zonnestelsel, een sterrenstelsel en een universum met meer dan 100 miljard andere sterrenstelsels, gearrangeerd in een complex patroon van groepen, clusters en superclusters. Hoewel deze zelfbewuste sterrenstaarders over veel dingen van mening verschillen, zijn ze het er in het algemeen over eens dat die sterrenstelsels prachtig en ontzagwekkend zijn.

Maar anders dan wij zijn de natuurwetten blind voor schoonheid, dus voordat ons universum ontwaakte bestond er geen schoonheid. Dit maakt ons kosmische ontwaken des te wonderbaarlijker en verheugender: het transformeerde ons universum van een hersenloze zombie zonder zelfbewustzijn tot een levend ecosysteem dat zelfreflectie, schoonheid en hoop herbergt, en een zoektocht naar doelen, oorzaken en betekenis. Als ons universum nooit was ontwaakt, zou het wat mij betreft volstrekt zinledig zijn geweest – niet meer dan een kolossale verspilling van ruimte. Mocht ons universum ooit weer permanent inslapen, als gevolg van een of andere kosmische ramp of een fatale ingreep, dan zal het helaas weer betekenisloos worden.

Aan de andere kant zou het allemaal nog beter kunnen worden. We weten nog niet of wij mensen de enige sterrenstaarders in onze kosmos zijn, of zelfs maar de eerste, maar we hebben al genoeg kennis over ons universum vergaard om te weten dat het de mogelijkheid heeft om veel vollediger te ontwaken dan tot nu toe het geval is. Misschien lijken we wel op dat eerste vage glimpje zelfbewustzijn dat je ervoer toen je vanochtend langzaam wakker werd: een voorgevoel van dat veel grotere bewustzijn dat zou komen als je eenmaal je ogen opsloeg en volledig ontwaakte. Misschien zal het leven uitzwermen door de kosmos en nog miljarden of biljoenen jaren standhouden. En wie weet zal dat te danken zijn aan beslissingen die wij nemen, hier, op onze kleine planeet en tijdens ons leven.

Een beknopte geschiedenis van de complexiteit

Hoe heeft deze wonderbaarlijke bewustwording zich kunnen voordoen? Het was geen geïsoleerde gebeurtenis, maar slechts een stap in een onstuitbaar, 13,8 miljard jaar omspannend proces dat ons universum almaar complexer en interessanter maakt, en dat in een steeds hoger tempo.

Als natuurkundige prijs ik me gelukkig dat ik gedurende een flink deel van de voorbije kwarteeuw een bijdrage heb mogen leveren aan het ontrafelen van de geschiedenis van de kosmos. En dat bleek een verbazingwekkende ontdekkingsreis te zijn. Sinds de tijd dat ik student was hebben discussies over de vraag of ons universum 10 dan wel 20 miljard jaar oud was plaatsgemaakt voor discussies over de vraag of het 13,7 dan wel 13,8 miljard jaar oud is, dankzij een combinatie van betere telescopen, betere computers en betere inzichten. Wij natuurkundigen weten nog steeds niet zeker wat de oorzaak van de oerknal geweest is en of die inderdaad het begin van alles is geweest of alleen maar een vervolg op een eerder stadium. Maar dankzij een stortvloed aan hoogwaardige metingen hebben we een vrij gedetailleerd beeld gekregen van wat er na die oerknal is gebeurd, en dus neem ik een paar minuten de tijd om 13,8 miljard jaar kosmosgeschiedenis samen te vatten.

In den beginne was er licht. In de eerste fractie van een seconde na de oerknal was het complete deel van de ruimte dat onze telescopen in principe kunnen waarnemen (‘ons waarneembare universum’, of kortweg ‘ons universum’) veel heter en feller dan de kern van onze zon, en het zette snel uit. Dat mag spectaculair klinken, maar het was ook een saaie boel, in die zin dat ons universum niets anders bevatte dan een levenloze, compacte, hete en ontmoedigend eenvormige soep van elementaire deeltjes. Alles zag er overal hetzelfde uit, en de enige interessante structuur bestond uit vage, blijkbaar toevallige geluidsgolven die de soep op sommige plekken ongeveer 0,001 procent dichter maakten. Over het algemeen neemt men aan dat deze vage golven hun ontstaan te danken hebben aan zogenaamde kwantumfluctuaties, omdat Heisenbergs onzekerheidsprincipe van de kwantummechanica niet toelaat dat iets volkomen saai en uniform is.

Naarmate ons universum verder uitdijde en afkoelde, werd het interessanter, omdat de deeltjes waaruit het bestond zich met elkaar verbonden tot steeds complexere objecten. Tijdens die eerste fractie van een seconde bundelde de sterke kernkracht quarks tot protonen (waterstofkernen) en neutronen, waarvan sommige op hun beurt binnen enkele minuten fuseerden tot heliumkernen. Ongeveer vierhonderdduizend jaar later werden deze kernen door de elektromagnetische kracht gebonden aan elektronen, en zo ontstonden de eerste atomen. Terwijl ons universum bleef uitdijen, koelden die atomen geleidelijk af tot een koud donker gas, en de duisternis van die eerste nacht hield ongeveer 100 miljoen jaar aan. Op die lange nacht volgde uiteindelijk onze kosmische dageraad toen de zwaartekracht op den duur de fluctuaties in het gas versterkte en atomen naar elkaar toe trok, waarmee de eerste sterren en sterrenstelsels ontstonden. Deze eerste sterren straalden warmte en licht uit, doordat hun waterstof fuseerde tot zwaardere atomen, zoals koolstof, zuurstof en silicium. Toen deze sterren uitdoofden, werden veel van de door hen geschapen atomen gerecycled in de kosmos en vormden planeten om sterren van de tweede generatie.

Op een zeker moment raakte een verzameling atomen geordend in een complex patroon dat zichzelf in stand kon houden en bovendien zichzelf kon repliceren. Dus al snel waren er twee kopieën, en dat aantal bleef maar verdubbelen. Er zijn slechts veertig verdubbelingen nodig om een biljoen kopieën te maken, dus deze eerste zelfreplicator werd al snel een factor om rekening mee te houden. Het Leven was ontstaan.

De drie stadia van het leven

De vraag hoe we het leven moeten definiëren is zoals bekend een omstreden kwestie. Er zijn tal van concurrerende definities in omloop, waarvan sommige zeer specifieke maatstaven stellen, zoals dat het moet bestaan uit cellen, waarmee zowel toekomstige intelligente machines als buitenaardse beschavingen buiten de boot zouden vallen. Omdat we onze bespiegelingen over de toekomst van het leven niet willen beperken tot de soorten die we tot dusverre zijn tegengekomen, pleit ik ervoor het begrip ‘leven’ ruimhartig op te vatten en het eenvoudigweg te definiëren als een proces dat zijn complexiteit kan handhaven en zich kan repliceren. Datgene wat gerepliceerd wordt is geen materie (bestaand uit atomen), maar informatie (bestaand uit bits) die beschrijft hoe de atomen zijn gerangschikt. Als een bacterie een kopie maakt van zijn DNA worden er geen nieuwe atomen aangemaakt, maar wordt een ander stel atomen gerangschikt in hetzelfde patroon als het origineel, waarbij dus de informatie wordt gekopieerd. Met andere woorden: we kunnen het leven beschouwen als een zelfreplicerend informatieverwerkingssysteem waarvan de informatie (software) zowel het gedrag ervan als de blauwdruk voor de hardware bepaalt.

Net als ons universum zelf is het leven geleidelijk aan complexer en interessanter geworden,2 en zoals ik nu ga uitleggen vind ik het zinvol om levensvormen in te delen in drie categorieën, op grond van hun mogelijkheden: Life 1.0, 2.0 en 3.0. Ik heb deze drie categorieën weergegeven in afbeelding 1.1.

De vraag hoe, waar en wanneer er voor het eerst leven is verschenen in ons universum is nog steeds niet opgehelderd, maar er is overtuigend bewijs dat het hier op aarde ongeveer 4 miljard jaar geleden zijn intree deed. Al snel wemelde onze planeet van een veelsoortig scala aan levensvormen. De succesvolste daarvan, die de andere al snel wegconcurreerden, waren in staat om op een bepaalde manier te reageren op hun omgeving. Nauwkeuriger gezegd, ze waren wat computerwetenschappers ‘intelligente agenten’ noemen: entiteiten die met sensoren informatie over hun omgeving verzamelen en die informatie vervolgens verwerken om te besluiten hoe ze moeten reageren op hun omgeving. Het kan hier om zeer complexe informatieverwerking gaan, zoals wanneer je door je ogen en je oren geleverde informatie gebruikt om te besluiten wat je in een gesprek moet zeggen. Maar het kan ook gaan om hard- en software die vrij simpel is.

Veel bacteriën hebben bijvoorbeeld een sensor die het suikergehalte van de omringende vloeistof meet en kunnen zich voortbewegen met behulp van propellervormige structuren die flagella of zweepstaartjes worden genoemd. De hardware die de sensor verbindt met de flagella zou het volgende eenvoudige, maar nuttige algoritme kunnen bevatten: ‘Als mijn suikergehaltesensor een lagere waarde rapporteert dan een paar seconden geleden, keer dan de draairichting van mijn flagella om, zodat ik van richting kan veranderen.’

Afbeelding 1.1: De drie stadia van het leven: biologische evolutie, culturele evolutie en technologische evolutie. Life 1.0 is niet in staat om tijdens zijn leven zijn hardware of zijn software te wijzigen: beide worden bepaald door zijn DNA, en veranderen alleen via evolutie in de loop van vele generaties. Daarentegen kan Life 2.0 veel van zijn software opnieuw ontwerpen: mensen kunnen complexe nieuwe vaardigheden leren – bijvoorbeeld talen, sport en vakkennis – en kunnen hun wereldbeschouwing en doelstellingen fundamenteel bijstellen. Life 3.0, dat nog niet bestaat op aarde, kan niet alleen zijn software, maar ook zijn hardware ingrijpend herzien, in plaats van generaties lang te moeten wachten tot die geleidelijk evolueert.

..

Je hebt geleerd hoe je moet praten en je talloze andere vaardigheden eigen gemaakt. Bacteriën daarentegen hebben geen aanleg voor leren. Niet alleen het ontwerp van hun hardware, zoals suikersensoren en flagella, maar ook dat van hun software wordt bepaald door hun DNA. Ze zullen nooit léren om naar suiker toe te zwemmen; in plaats daarvan zit dat algoritme van meet af aan als harde code ingebakken in hun DNA. Er heeft natuurlijk wel een soort leerproces plaatsgevonden, maar dat is niet gebeurd tijdens het leven van die ene bacterie. Het heeft veeleer plaatsgevonden in de loop van de voorafgaande evolutie van die bacteriesoort, via een traag schade-en-schandeproces dat vele generaties omspande, waarbij de natuurlijke selectie de toevallige DNA-mutaties bevoordeelde die de consumptie van suiker bevorderden. Sommige van die mutaties droegen daaraan bij door het ontwerp van de flagella en andere hardware te verbeteren; andere mutaties verbeterden op hun beurt het bacteriële informatieverwerkingssysteem dat het algoritme voor suikerdetectie en andere software implementeert.

Dergelijke bacteriën zijn een voorbeeld van wat ik ‘Life 1.0’ noem: leven waarbij zowel de hardware als software niet zozeer is ontworpen als wel geëvolueerd. Jij en ik daarentegen zijn voorbeelden van ‘Life 2.0’: leven waarvan de hardware geëvolueerd is, maar de software voor een groot deel ontworpen. Met je software bedoel ik alle algoritmes en kennis die je gebruikt om de door je zintuigen geleverde informatie te verwerken en te besluiten wat je moet doen – alles, van het vermogen om je vrienden te herkennen wanneer je hen ziet, tot je vermogen om te lopen, te lezen, te schrijven, te rekenen, te zingen en moppen te tappen.

Je was bij je geboorte niet in staat om al die taken uit te voeren, dus al die software werd later in je hersenen geprogrammeerd via het proces dat wij leren noemen. Terwijl het lesprogramma tijdens je kindertijd grotendeels is ontworpen door je familie en je leraren, die bepalen wat je moet leren, krijg je geleidelijk aan meer mogelijkheden om je eigen software te ontwerpen. Misschien biedt de school je de mogelijkheid om een vreemde taal te kiezen: wil je een softwaremodule in je hersenen installeren die je in staat stelt om Frans te spreken of een die je de mogelijkheid geeft om Spaans te spreken? Wil je leren tennissen of leren schaken? Wil je een opleiding volgen om kok, advocaat of apotheker te worden? Wil je meer te weten komen over kunstmatige intelligentie (KI) en de toekomst van het leven door daar een boek over te lezen?

Dit vermogen van Life 2.0 om zijn eigen software te ontwerpen stelt het in staat om veel slimmer te zijn dan Life 1.0. Goedaardige intelligentie vergt zowel veel hardware (bestaand uit atomen) als veel software (bestaand uit bits). Het feit dat het grootste deel van je menselijke hardware na de geboorte wordt toegevoegd (via de groei) heeft nut, omdat zo je definitieve afmetingen niet worden beperkt door de wijdte van het geboortekanaal van je moeder. Op een vergelijkbare manier heeft het nut dat het merendeel van onze menselijke software na de geboorte wordt toegevoegd (via leren), omdat daardoor onze uiteindelijke intelligentie niet, zoals bij Life 1.0, wordt beperkt door de hoeveelheid informatie die bij de conceptie via ons DNA op ons kan worden overgedragen. Ik weeg ongeveer vijfentwintigmaal zoveel als toen ik geboren werd en de synaptische connecties die de neuronen in mijn hersenen met elkaar verbinden kunnen ongeveer honderdduizendmaal zoveel informatie opslaan als het DNA waarmee ik ben geboren. De in je synapsen opgeslagen kennis en vaardigheden bevatten ruwweg honderd terabyte aan informatie, terwijl je DNA maar ongeveer een gigabyte aan informatie bevat; dat is amper genoeg om een gedownload filmbestand op te slaan. Voor een kind is het dus fysiek onmogelijk om al bij de geboorte volmaakt Nederlands te spreken of de leerstof paraat te hebben om een vwo-eindexamen te doen: zulke informatie zou op geen enkele manier van tevoren in de hersenen van het kind geladen kunnen worden, omdat de voornaamste informatiemodule die het van zijn ouders heeft gekregen (zijn DNA) onvoldoende opslagcapaciteit heeft.

Het vermogen om zijn eigen software te ontwerpen stelt Life 2.0 in staat om niet alleen slimmer, maar ook flexibeler te zijn dan Life 1.0. Als de omgeving verandert, kan 1.0 zich alleen aanpassen door in de loop van vele generaties te evolueren. Life 2.0 kan zich daarentegen bijna ogenblikkelijk aanpassen, door middel van een software-upgrade. Bacteriën die veel in aanraking komen met antibiotica kunnen er bijvoorbeeld in de loop van vele generaties weerstand tegen opbouwen, maar een afzonderlijke bacterie zal haar gedrag helemaal niet veranderen. Daarentegen zal een meisje dat erachter komt dat ze allergisch is voor pinda’s ogenblikkelijk haar gedrag veranderen en pinda’s voortaan links laten liggen. Deze flexibiliteit geeft Life 2.0 op het niveau van een complete bevolking een nog grotere voorsprong: ook al heeft de informatie in ons menselijk DNA in de loop van de afgelopen vijftigduizend jaar geen drastische evolutionaire veranderingen ondergaan, toch heeft de hoeveelheid informatie die collectief is opgeslagen in onze hersenen, boeken en computers een immense omvang aangenomen. Door een softwaremodule te installeren die ons in staat stelde met elkaar te communiceren via een hoogwaardige gesproken taal hebben we ervoor gezorgd dat de nuttigste informatie die iemand in zijn hersenen heeft opgeslagen gekopieerd kan worden naar andere hersenen en dus in aanleg kan blijven voortbestaan nadat die eerste persoon is gestorven. Door een softwaremodule te installeren die ons in staat stelde om te lezen en schrijven, hebben we de mogelijkheid gekregen om heel veel meer informatie op te slaan en te delen dan mensen ooit zouden kunnen onthouden. Door hersensoftware te ontwikkelen die in staat is om technologie te produceren (namelijk door wetenschap en techniek te bestuderen) hebben we mogelijk gemaakt dat een flink deel van de wereldwijd verzamelde informatie voor een groot deel van de mensheid met een paar muisklikken toegankelijk is.

Deze flexibiliteit heeft Life 2.0 in staat gesteld de dominante soort te worden op aarde. Bevrijd van zijn genetische kluisters is de collectieve kennis van de mensheid steeds sneller gaan groeien, want elke doorbraak maakte weer een volgende mogelijk: taal, het schrift, de drukpers, moderne wetenschap, computers, internet, enzovoort. Deze steeds snellere culturele evolutie van onze gemeenschappelijke software is uitgegroeid tot de dominante factor die bepalend is voor de toekomst van de mensheid, en onze ultratrage biologische evolutie bijna irrelevant maakt.

Maar ondanks de krachtige technologische hulpmiddelen waarover we nu beschikken zijn alle levensvormen die we kennen onderworpen aan de fundamentele beperkingen van hun biologische hardware. Niemand kan een miljoen jaar oud worden, alles uit Wikipedia onthouden, alle wetenschappelijke kennis begrijpen of een ruimtevlucht maken zonder ruimtevaartuig. Niemand kan onze grotendeels levenloze kosmos transformeren tot een gevarieerde biosfeer die miljarden of biljoenen jaren zal voortbestaan zodat ons universum uiteindelijk zijn potentieel waar zal kunnen maken en totaal zal ontwaken. Om dat alles mogelijk te maken zal het leven eerst een laatste upgrade moeten doormaken, naar Life 3.0, dat niet alleen zijn eigen software, maar ook zijn eigen hardware kan ontwerpen. Met andere woorden, Life 3.0 is dan de baas over zijn eigen lot, want ten langen leste geheel bevrijd van zijn evolutionaire kluisters.

De scheidslijnen tussen de drie stadia van het leven zijn een tikje vaag. Als bacteriën Life 1.0 zijn en mensen Life 2.0, zou je muizen kunnen typeren als 1.1: ze kunnen immers van alles leren, maar niet genoeg om een taal te ontwikkelen of internet uit te vinden. Omdat ze bovendien geen taal hebben, gaat dat wat ze geleerd hebben bij hun dood grotendeels verloren en wordt het niet doorgegeven aan de volgende generatie. Naar analogie zou je kunnen aanvoeren dat de hedendaagse mens getypeerd kan worden als Life 2.1: we kunnen bescheiden hardware-upgrades uitvoeren, zoals het implanteren van kunstmatige tanden, knieën en pacemakers, maar drastische ingrepen, zoals tienmaal zo lang worden of duizendmaal grotere hersenen krijgen, liggen buiten ons bereik.

Kort samengevat kunnen we de ontwikkeling van het leven in drie stadia onderverdelen, afhankelijk van het vermogen van het leven om zichzelf te ontwerpen:

Life 1.0 (biologisch stadium): hardware en software evolueren

Life 2.0 (cultureel stadium): hardware evolueert; ontwerpt een groot deel van de eigen software

Life 3.0: (technologisch stadium): ontwerpt eigen hardware en software.

Na een kosmische evolutie van 13,8 miljard jaar is de ontwikkeling hier op aarde in een spectaculaire stroomversnelling geraakt: Life 1.0 deed ongeveer 4 miljard jaar geleden zijn intree, Life 2.0 (wij mensen) ongeveer 100.000 jaar geleden, en veel KI-onderzoekers denken dat Life 3.0 er dankzij de vooruitgang in KI deze eeuw nog kan komen, misschien zelfs al tijdens ons leven. Wat zal er gebeuren en wat gaat dat voor ons betekenen? Dat is het onderwerp van dit boek.

Controverses

Het is een verbazend controversiële vraag: vooraanstaande KI-onderzoekers zijn het hartstochtelijk oneens, niet alleen wat betreft hun voorspellingen maar ook wat betreft hun emotionele reacties, die reiken van zelfverzekerd optimisme tot diepe ongerustheid. Zelfs over de economische, juridische en militaire gevolgen die KI op korte termijn zal hebben bestaat geen consensus, en de meningsverschillen worden alleen maar groter wanneer we verder vooruitkijken en vragen gaan stellen over algemene kunstmatige intelligentie (AKI) en vooral over AKI die de menselijke intelligentie evenaart en overtreft, waarmee Life 3.0 tot de mogelijkheden gaat behoren. Algemene intelligentie kan nagenoeg iedere doelstelling realiseren, inclusief het leren van nieuwe dingen, dit in tegenstelling tot bijvoorbeeld de beperkte intelligentie van een schaakprogramma.

Het is een interessant gegeven dat het bij de controverse over Life 3.0 niet gaat om één vraag, maar om twee afzonderlijke vragen: wanneer en wat? Wanneer zal het zover zijn (als het ooit zover komt), en wat zal het betekenen voor de mensheid? In mijn optiek zijn er drie verschillende denkrichtingen die alle serieus dienen te worden genomen, omdat elk van de drie wordt aangehangen door een aantal internationaal gerespecteerde experts. Zoals aangegeven op afbeelding 1.2 typeer ik hen respectievelijk als digitale utopisten, technosceptici, en leden van de goedaardige-KI-beweging. Laat ik enkele van hun meest welbespraakte vertegenwoordigers aan je voorstellen.

Afbeelding 1.2: De meeste controverses rondom sterke KI (die alle cognitieve taken even goed kan uitvoeren als een mens) komen uiteindelijk neer op twee vragen: wanneer zal het gebeuren (als het ooit gebeurt) en zal dat gunstig zijn voor de mensheid? Zowel de technosceptici als de digitale utopisten vinden dat we ons daar geen zorgen over hoeven te maken, maar om heel verschillende redenen: de eersten zijn ervan overtuigd dat algemene kunstmatige intelligentie (AKI) er niet binnen afzienbare tijd zal komen, terwijl de laatstgenoemden denken dat dat juist wel zal gebeuren, maar vrijwel zeker positieve gevolgen zal hebben. De goedaardige-KI-beweging denkt dat het zinvol en noodzakelijk is om ons zorgen te maken, omdat we door de veiligheid van KI nu al te onderzoeken en te bediscussiëren de kans op een gunstige afloop vergroten. Luddieten zijn ervan overtuigd dat het slecht zal aflopen en zijn fel gekant tegen KI. Dit schema is voor een deel geïnspireerd op een artikel van Tim Urban.1

Digitale utopisten

Als kind had ik het idee dat miljardairs mensen waren waar de plechtstatigheid en arrogantie van afdroop. Toen ik in 2008 bij Google kennismaakte met Larry Page, ging dat stereotiepe beeld compleet aan diggelen. Met zijn spijkerbroek en zijn opvallend gewone overhemd zou hij volstrekt niet uit de toon zijn gevallen bij een picknick met mijn collega’s van het MIT, het Massachusetts Institute of Technology. Zijn rustige, bedachtzame manier van spreken en zijn vriendelijke glimlach maakten dat ik me tijdens ons gesprek eerder ontspannen dan geïntimideerd voelde. Op 18 juli 2015 liepen we elkaar weer tegen het lijf in Napa Valley, op een feestje van Elon Musk en zijn toenmalige vrouw Talulah, en raakten aan de praat over de belangstelling van onze kinderen voor scatologische onderwerpen. Ik ried hem aan Andy Griffiths’ klassieke meesterwerk The Day My Butt Went Psycho! te lezen, en Larry bestelde het ter plekke. Het kostte me moeite om mezelf in te prenten dat hij weleens de geschiedenis zou kunnen ingaan als de invloedrijkste mens die ooit heeft geleefd: ik durf te beweren dat als superintelligent digitaal leven nog tijdens mijn leven het universum zal overspoelen, dat te danken zal zijn aan Larry’s beslissingen.

Na afloop gingen we uit eten, samen met onze echtgenotes Lucy en Meia, en discussieerden aan tafel over de vraag of machines noodzakelijkerwijs ook bewustzijn zouden hebben, een kwestie die volgens hem alleen maar afleidde van de hoofdzaken. Later die avond, na de cocktails, ontspon zich tussen hem en Elon een lange en stevige discussie over de toekomst van KI en wat ons als mensheid te doen stond. Intussen waren we al verzeild in de kleine uurtjes, maar de kring van belangstellenden en mensen die zich ermee bemoeiden bleef maar groeien. Larry hield een vurig pleidooi voor de stellingname die ik bij voorkeur ‘digitaal utopisme’ noem: het standpunt dat digitaal leven de natuurlijke en wenselijke volgende stap in de kosmische evolutie is en dat als we digitale geesten de vrije loop laten in plaats van te proberen ze in te dammen of ze te knechten, de uitkomst vrijwel zeker positief zal zijn. Ik beschouw Larry als de invloedrijkste vertegenwoordiger van het digitale utopisme. Hij betoogde dat als het leven zal uitzwermen door en buiten ons Melkwegstelsel, wat het volgens hem ooit zal moeten doen, dat in digitale vorm zal moeten gebeuren. Zijn voornaamste zorg betrof de paranoia over KI, die de komst van het digitale utopia zou kunnen vertragen en/of ertoe zou kunnen leiden dat KI wordt overgenomen door militairen, die zich niks zouden aantrekken van Googles motto ‘Don’t be evil’. Elon bleef tegenargumenten aanvoeren en vroeg Larry telkens om nadere details, bijvoorbeeld waarom hij er zo vast van overtuigd was dat het digitale leven niet alles zal vernietigen wat ons dierbaar is. Nu en dan beschuldigde Larry Elon ervan dat hij een ‘speciesist’ was: iemand die bepaalde levensvormen als inferieur beschouwt, louter omdat ze niet op koolstof gebaseerd zijn, maar op silicium. We zullen vanaf hoofdstuk 4 nader terugkomen op deze interessante kwesties en de discussies daarover.

Hoewel Larry op die warme zomeravond bij het zwembad in de minderheid leek te zijn, heeft het digitale utopisme dat hij zo overtuigend verdedigde vele prominente aanhangers. Roboticus en futurist Hans Moravec heeft met zijn klassieke boek Mind Children uit 1988 een hele generatie digitale utopisten geïnspireerd, en die traditie is voortgezet en uitgediept door uitvinder Ray Kurzweil. Richard Sutton, een van de pioniers van het KI-deelgebied dat bekrachtigingsleren wordt genoemd, heeft bij ons symposium in Puerto Rico een hartstochtelijk pleidooi voor digitaal utopisme gehouden waarover ik verderop meer zal vertellen.

Technosceptici

Een andere prominente groep denkers maakt zich evenmin zorgen over KI, maar om een totaal andere reden: ze denken dat superintelligente AKI zo moeilijk te realiseren is dat het er in geen honderden jaren zal komen, en vinden het daarom onzinnig om je er nu druk over te maken. Dit noem ik het technosceptische standpunt, dat door Andrew Ng welsprekend verwoord is: ‘Bang zijn voor een opstand van moordzuchtige robots is net zoiets als bezorgd zijn over overbevolking op Mars.’ Andrew is de meest vooraanstaande wetenschapper bij Baidu, het Chinese Google, en kortgeleden, toen ik hem sprak bij een conferentie in Boston, herhaalde hij die uitspraak nog eens. Hij zei ook dat hij bezorgdheid over de mogelijke gevaren van KI beschouwt als een in aanleg storende factor, die de opmars van KI zou kunnen vertragen. Ook andere technosceptici hebben uiting gegeven aan dergelijke gevoelens, zoals de voormalige MIT-hoogleraar Rodney Brooks, de man achter de Roomba-robotstofzuiger en de industriële robot Baxter. Ik vind het interessant dat de digitale utopisten en de technosceptici allebei vinden dat we ons geen zorgen hoeven te maken over KI, terwijl er verder heel weinig is waarover ze het eens zijn. De meeste utopisten denken dat AKI op menselijk niveau binnen de komende twintig tot honderd jaar bereikt kan worden, een idee dat de technosceptici afdoen als een ongefundeerd luchtkasteel; de door de utopisten verwachte intelligentie-explosie omschrijven ze menigmaal spottend als ‘de opname van de singulariteitsgeloofsgemeente’.

Toen ik Rodney Brooks in december 2014 ontmoette bij een verjaarspartij zei hij tegen me dat hij er voor 100 procent zeker van was dat het er tijdens mijn leven niet van zou komen. ‘Weet je zeker dat je niet 99 procent bedoelt?’ vroeg ik hem kort daarna in een e-mail, waarop hij antwoordde: ‘Geen halfbakken 99 procent. 100 procent. Gaat gewoon niet gebeuren.’

De goedaardige-KI-beweging

Toen ik Stuart Russell voor het eerst sprak, in juni 2014 in een café in Parijs, trof hij mij als het toonbeeld van een Britse gentleman. Met zijn welbespraaktheid, zijn bedachtzame en rustige betoogtrant, en niettemin een avontuurlijke schittering in zijn ogen, leek hij wel een moderne incarnatie van Phileas Fogg, de held van mijn jeugd uit Jules Vernes klassieker De reis om de wereld in tachtig dagen uit 1873. Hoewel hij een van de beroemdste levende KI-onderzoekers was, en coauteur van het standaardwerk over dit onderwerp, maakten zijn bescheidenheid en hartelijkheid dat ik me al snel op mijn gemak voelde. Hij legde me uit dat de vorderingen op het gebied van KI hem ervan hadden overtuigd dat AKI op menselijk niveau binnen deze eeuw wel degelijk mogelijk was, en dat dit, hoewel hij goede hoop had, niet bij voorbaat een positieve ontwikkeling was. Er lagen volgens hem nog essentiële vragen die we eerst dienden te beantwoorden, vragen die zo lastig waren dat we er nu al onderzoek naar zouden moeten gaan doen, om de antwoorden paraat te hebben tegen de tijd dat het echt nodig is.

Tegenwoordig is er veel aanhang voor Stuarts ideeën, en zijn er over de hele wereld diverse groepen die zich bezighouden met het soort onderzoek naar KI-veiligheid dat hij bepleit. Maar dat is niet altijd zo geweest. In een artikel in de Washington Post werd gemeld dat 2015 het jaar was waarin onderzoek naar de veiligheid van KI een toonaangevende trend werd. Voordien werden beschouwingen over de risico’s van KI door de leidende stroming binnen het KI-onderzoek dikwijls verkeerd begrepen en van de hand gewezen als ludditische bangmakerij die erop gericht was de vaart uit het KI-onderzoek te halen. Zoals we in hoofdstuk 5 zullen zien werden al ruim een halve eeuw eerder vergelijkbare bedenkingen uitgesproken door de computerpionier Alan Turing en de wiskundige Irving J. Good, die tijdens de Tweede Wereldoorlog hadden samengewerkt bij het ontcijferen van het Duitse coderingssysteem. Het onderzoek naar dergelijke onderwerpen is de afgelopen tien jaar voornamelijk verricht door een handvol onafhankelijke denkers die geen professionele KI-onderzoekers waren, zoals Eliezer Yudkowsky, Michael Vassar en Nick Bostrom. Hun werk vond weinig weerklank bij de toen dominante stroming binnen het KI-onderzoek, die in het algemeen eerder gericht was op de hier-en-nu-doelstelling om KI-systemen intelligenter te maken dan op het overdenken van de langetermijngevolgen van een mogelijk succes. Ik kende wel KI-onderzoekers die enige twijfels koesterden, maar velen van hen aarzelden om die ook uit te spreken, uit angst om aangezien te worden voor een paniekzaaiende technofoob.

Ik vond dat er verandering moest komen in die gepolariseerde situatie, zodat de volledige KI-gemeenschap deel zou kunnen nemen aan de discussie over de vraag hoe we goedaardige KI kunnen ontwikkelen. Gelukkig stond ik daarin niet alleen. In het voorjaar van 2014 had ik een non-profit-organisatie opgericht, het Future of Life Institute (FLI; http://futureoflife.org), samen met mijn vrouw Meia, mijn vriend de fysicus Anthony Aguirre, Viktoriya Krakovna, een promovenda van Harvard, en Jaan Tallinn, de grondlegger van Skype. Ons doel was eenvoudig: een bijdrage leveren aan het veiligstellen van de toekomst van het leven en zorgen dat die zo groots mogelijk zou worden. We vonden, om het wat preciezer te zeggen, dat technologie het leven de mogelijkheid gaf om als nooit tevoren te gedijen of zichzelf te vernietigen, en wij hadden liever het eerste.

Onze eerste bijeenkomst was een brainstormsessie bij ons thuis op 15 maart 2014, met ongeveer dertig studenten, hoogleraren en andere denkers uit Boston en omgeving. In het algemeen waren we het erover eens dat we weliswaar ook aandacht moesten schenken aan biotechnologie, kernwapens en klimaatverandering, maar toch allereerst zouden moeten proberen te bereiken dat KI-veiligheidsonderzoek de leidende richting werd. Mijn collega Frank Wilczek, die als natuurkundige verbonden is aan het MIT en een Nobelprijs heeft gewonnen voor zijn aandeel in het onderzoek naar de werking van quarks, stelde voor om als eerste zet een opiniestuk te schrijven om deze kwestie onder de aandacht te brengen en het zo moeilijker te maken haar te negeren. Ik nam contact op met Stuart Russell (die ik toen nog niet had ontmoet) en mijn collega Stephen Hawking, die allebei toezegden als coauteurs op te treden, samen met Frank en mij. Na vele revisies werd ons opiniestuk afgewezen door de New York Times en veel andere Amerikaanse kranten, dus publiceerden we het op mijn blog bij de Huffington Post. Tot mijn vreugde reageerde Arianna Huffington zelf per e-mail en schreef ‘Geweldig dat we dit hebben! We zetten het op 1!’ en dankzij die plek, boven aan de openingspagina, kwam er een golf van media-aandacht op gang voor KI-veiligheid die de rest van het jaar aanhield en waaraan Elon Musk, Bill Gates en vele andere technologiekopstukken hun steentje bijdroegen. Nick Bostroms boek Superintelligence, dat in het najaar verscheen, leverde nog meer stof voor het steeds levendiger publieke debat.

De volgende stap in onze goedaardige-KI-campagne was het bijeenbrengen van ’s werelds belangrijkste KI-onderzoekers door middel van een symposium, waar misverstanden uit de weg konden worden geruimd, een consensus kon worden bereikt en constructieve plannen konden worden gemaakt. We wisten dat het niet eenvoudig zou zijn om een zo illuster gezelschap over te halen om een symposium bij te wonen dat was georganiseerd door voor hen onbekende buitenstaanders, vooral ook gezien het controversiële onderwerp, dus we deden ons uiterste best: we ontzegden de media de toegang, organiseerden het in januari in een badplaats (in Puerto Rico), maakten de deelname gratis (dankzij een gulle bijdrage van Jaan Tallinn) en gaven het de minst onrustbarende titel die we maar konden verzinnen: ‘De toekomst van KI: kansen en uitdagingen’. Zeer belangrijk was dat Stuart Russell zich bij ons aansloot; dankzij hem slaagden we erin het organiserend comité uit te breiden met een groep vooraanstaande KI-onderzoekers uit zowel de academische als de industriële wereld, onder wie Demis Hassabis van Google’s DeepMind, die later zou demonstreren dat KI zelfs een menselijke tegenstander kan verslaan bij het go-spel. Hoe beter ik Demis leerde kennen, hoe duidelijker ik besefte dat hij niet alleen de ambitie had om KI sterk, maar ook om het goedaardig te maken.

Dit resulteerde in een opmerkelijk treffen van een aantal grote geesten (afbeelding 1.3). Naast de KI-onderzoekers waren er topeconomen, juristen, voormannen uit het technologiewezen (onder wie Elon Musk) en andere denkers (onder wie Vernor Vinge, de bedenker van de term ‘singulariteit’, waarover het zal gaan in hoofdstuk 4). De resultaten overtroffen zelfs onze meest optimistische verwachtingen. Misschien was het te danken aan de combinatie van zonlicht en wijn, of misschien was het precies het juiste moment: ondanks het controversiële onderwerp bleek er een opmerkelijke consensus te bestaan die we vastlegden in een open brief2 die uiteindelijk door meer dan achtduizend mensen werd ondertekend, onder wie een ware ‘who’s who’ op het gebied van de KI. De kerngedachte van de brief was dat het doel van KI geherdefinieerd zou moeten worden: dat doel zou niet het ontwikkelen van ongerichte intelligentie moeten zijn, maar van goedaardige intelligentie. De brief bevatte ook een uitvoerige lijst van onderzoeksonderwerpen die volgens de deelnemers aan het symposium dit doel naderbij zouden brengen. De goedaardige-KI-beweging was aan haar opmars begonnen. Het vervolg zullen we later in dit boek beschrijven.

..

Afbeelding 1.3: Het symposium dat in januari 2015 plaatsvond in Puerto Rico bracht een opmerkelijk gezelschap van onderzoekers naar KI en verwante onderwerpen bijeen. Achterste rij van links naar rechts: Tom Mitchell, Seán Ó hÉigeartaigh, Huw Price, Shamil Chandaria, Jaan Tallinn, Stuart Russell, Bill Hibbard, Blaise Agüera y Arcas, Anders Sandberg, Daniel Dewey, Stuart Armstrong, Luke Muehlhauser, Tom Dietterich, Michael Osborne, James Manyika, Ajay Agrawal, Richard Mallah, Nancy Chang, Matthew Putman. Overige staanden, van links naar rechts: Marilyn Thompson, Rich Sutton, Alex Wissner-Gross, Sam Teller, Toby Ord, Joscha Bach, Katja Grace, Adrian Weller, Heather Roff-Perkins, Dileep George, Shane Legg, Demis Hassabis, Wendell Wallach, Charina Choi, Ilya Sutskever, Kent Walker, Cecilia Tilli, Nick Bostrom, Erik Brynjolfsson, Steve Crossan, Mustafa Suleyman, Scott Phoenix, Neil Jacobstein, Murray Shanahan, Robin Hanson, Francesca Rossi, Nate Soares, Elon Musk, Andrew McAfee, Bart Selman, Michele Reilly, Aaron VanDevender, Max Tegmark, Margaret Boden, Joshua Greene, Paul Christiano, Eliezer Yudkowsky, David Parkes, Laurent Orseau, JB Straubel, James Moor, Sean Legassick, Mason Hartman, Howie Lempel, David Vladeck, Jacob Steinhardt, Michael Vassar, Ryan Calo, Susan Young, Owain Evans, Riva-Melissa Tez, János Krámar, Geoff Anders, Vernor Vinge, Anthony Aguirre. Zittend: Sam Harris, Tomaso Poggio, Marin Soljacic, Viktoriya Krakovna, Meia Chita-Tegmark. Achter de camera: Anthony Aguirre (en in de afbeelding gephotoshopt door de menselijke intelligentie naast hem).

..

Een andere belangrijke conclusie die het symposium opleverde was deze: de vragen die worden opgeworpen door het succes van KI zijn niet alleen in intellectueel opzicht fascinerend, ze zijn ook in moreel opzicht van grote betekenis, omdat onze keuzes van grote invloed kunnen zijn op de gehele toekomst van het leven. De morele portee van de keuzes die de mensheid in het verleden heeft gemaakt was soms groter, maar altijd beperkt: we zijn zelfs de ergste epidemieën te boven gekomen, en zelfs de grootste keizerrijken zijn uiteindelijk ingestort. In vroeger tijden wist men, even zeker als dat de zon ’s ochtends weer zou opgaan, dat ook de mensen van morgen weer zouden opstaan en zich teweer zouden stellen tegen eeuwige plagen als armoede, ziekte en oorlog. Maar een aantal sprekers in Puerto Rico voerde aan dat het deze keer weleens anders zou kunnen gaan: volgens hen ligt het voor het eerst binnen onze mogelijkheden om een technologie te ontwikkelen die krachtig genoeg is om voorgoed een einde te maken aan deze plagen, of aan de mensheid zelf. We zouden samenlevingen kunnen creëren die een ongekende voorspoed doormaken, op aarde zelf en wie weet daarbuiten, maar ook een kafkaëske mondiale politiestaat met een zo grote macht dat die nooit omver kan worden geworpen.

..

Afbeelding 1.4: Hoewel de media dikwijls hebben bericht dat Elon Musk overhoop zou liggen met de KI-gemeenschap, bestaat er in werkelijkheid een brede consensus dat onderzoek naar de veiligheid van KI hard nodig is. Hier, op 4 januari 2015, zijn hij en Tom Dietterich, de voorzitter van de Association for the Advancement of Artificial Intelligence, even enthousiast over het nieuwe onderzoeksprogramma naar KI-veiligheid waaraan Elon even daarvoor zijn financiële steun heeft toegezegd. Direct achter hen staan de FLI-oprichters Meia Chita-Tegmark en Viktoriya Krakovna.

Misvattingen