Brian Christian

Een wedstrijd in menselijkheid

Wat het betekent om nu te leven

Vertaald door Judith Dijs

2011

Uitgeverij Contact

Amsterdam/Antwerpen

© 2011 Brian Christian

© 2011 Nederlandse vertaling Judith Dijs

Oorspronkelijke titel The Most Human Human

Oorspronkelijke uitgever Doubleday

Omslagontwerp en -illustratie Bart van den Tooren

Zetwerk/Typografie binnenwerk Elgraphic bv, Schiedam

NUR 770

ISBN 978 90 254 3693 3

Deze digitale editie is gemaakt naar de 1e druk 2011 met ISBN 978 90 254 3537 0

www.uitgeverijcontact.nl

++

==

==

==

==

==

De mens van vandaag brengt steeds meer tijd achter een scherm door. In kamers met tl-verlichting, in kantoortuinhokjes, aan het ene of het andere uiteinde van een elektronische gegevensoverdracht. En wat betekent het om menselijk te zijn, om te leven en om je menselijkheid te praktiseren bij zo’n soort uitwisseling?

– DAVID FOSTER WALLACE

++

==

==

==

==

==

Voor mijn leraren

Inhoud

Proloog

1. Inleiding: De ware mens

2. Verificatie

3. De reizende ziel

4. Locatiespecificiteit versus pure techniek

5. Buiten de boekjes

6. Doel

7. Binnenvallen

8. De slechtste getuige ter wereld

9. Niet intact blijven

10. Grote verrassing

Conclusie: De ware mens

Epiloog: De nooit bezongen schoonheid van de glazenkast

==

Dankbetuigingen

Noten

++

==

==

==

==

==

Prachtige veranderingen wanneer een bos verandert

Doordat een kameleon zijn huid aan het bos aanpast;

Zoals een sprinkhaan, gehurkt

Op een groen blad, in het blad

groeit, het blad meer blad maakt…

– RICHARD WILBUR

==

==

Ik denk dat metafysica goed is als ze je dagelijkse leven verbetert; zo niet, vergeet haar dan maar.

– ROBERT PIRSIG

==

==

Ik wil die robots in de gaten houden voor het geval ze iets proberen.

– BARACK OBAMA

Proloog

Claude Shannon, pionier op het gebied van artificiële intelligentie en grondlegger van de informatietheorie, ontmoette zijn vrouw Mary Elizabeth op het werk. Dat gebeurde in Bell Labs in Murray Hill, New Jersey, vroeg in de jaren veertig. Hij was ingenieur en werkte aan geheimtaal en signaaloverdracht in oorlogstijd.

Zij was een computer.

1. Inleiding

De ware mens

Ik word 7500 kilometer van huis wakker in een hotelkamer zonder douche; voor de eerste keer in vijftien jaar neem ik een bad. Ik eet (heel traditioneel) een paar twijfelachtig ogende tomaten, wat gebakken bonen en vier halve geroosterde witte boterhammen die op een klein metalen rekje worden gepresenteerd, verticaal, alsof het boeken zijn. Daarna stap ik naar buiten, de zilte lucht in, en loop langs de kust van het land waar mijn taal is uitgevonden, hoewel ik tamelijk veel borden waar ik langs loop niet begrijp: LET AGREED staat er bijvoorbeeld nadrukkelijk met grote letters, en dat zegt me niets.

Ik sta stil en kijk een ogenblik naar de zee terwijl ik de tekst in mijn hoofd probeer te analyseren. Normaal vind ik dit soort taalkundige curiositeiten en culturele kloven intrigerend, maar vandaag maak ik me er vooral zorgen over. De volgende twee uur zal ik achter een computer zitten en een reeks chats van vijf minuten per stuk hebben met diverse onbekenden. Aan de andere kant van de chats zullen een psycholoog, een taalkundige, een computerwetenschapper en de host van een populaire Britse technologieshow zitten. Gezamenlijk vormen ze een panel dat moet oordelen, en het doel van deze conversaties is een van de vreemdste dingen die me ooit zijn gevraagd.

Ik moet ze ervan overtuigen dat ik menselijk ben.

Gelukkig ben ik menselijk; jammer genoeg is het niet duidelijk of dat wel zal helpen.

De Turingtest

Elk jaar komt de gemeenschap voor artificiële intelligentie (AI) vol hooggespannen verwachtingen bij elkaar voor het meest controversiële evenement van het vakgebied: een competitie die de Turingtest wordt genoemd. De test is genoemd naar de Britse wiskundige Alan Turing, een van de grondleggers van de computerwetenschappen, die in 1950 probeerde een van de eerste vragen in het vakgebied te beantwoorden: kunnen machines denken? Anders gezegd: zal het ooit mogelijk zijn om een computer te construeren die zo geavanceerd is dat we werkelijk kunnen zeggen dat hij denkt, intelligent is, een geest heeft? En als we dat ooit op een dag zouden kunnen, hoe zouden we dat dan weten?

Turing stelde voor om, in plaats van puur theoretisch over deze vraag te discussiëren, een experiment uit te voeren. Een panel van juryleden stelt via een computerscherm vragen aan twee onzichtbare correspondenten, de ene een menselijke medeplichtige, de andere een computerprogramma, en probeert te onderscheiden wie wie is. Er zijn geen beperkingen aan wat er mag worden gezegd; het gesprek kan variëren van koetjes en kalfjes tot aan de feiten van de wereld (bijvoorbeeld hoeveel poten mieren hebben, in welk land Parijs ligt enzovoort), tot aan roddels over beroemdheden en zwaarwichtige filosofie; kortom, het hele gamma van de menselijke conversatie. Turing voorspelde dat tegen het jaar 2000 computers 30 procent van de juryleden na vijf minuten conversatie voor de mal zouden kunnen houden en dat we daarom ‘zouden kunnen zeggen dat machines denken zonder dat iemand ons tegenspreekt’.

Turings voorspelling is niet uitgekomen, maar tijdens de test van 2008 in Reading (Engeland), kwam het beste programma maar één stem tekort. De test van 2009 zou wel eens beslissend kunnen zijn.

En ik neem daaraan deel als een van de vier menselijke medeplichtigen die het opnemen tegen de beste AI-programma’s. In een aantal ronden word ik, net als de andere medeplichtigen, gekoppeld aan een AI-programma en een jurylid, en moet ik de laatste ervan overtuigen dat ik daadwerkelijk menselijk ben.

Het jurylid praat vijf minuten met een van ons, dan vijf minuten met de ander, en heeft vervolgens tien minuten om na te denken en te kiezen wie van ons volgens hem menselijk is. Juryleden noteren ook op een glijdende schaal hoeveel vertrouwen ze in dit oordeel hebben; dit wordt deels gebruikt als beslissende maatstaf. Elk jaar ontvangt het programma dat de meeste stemmen en het meeste vertrouwen van de juryleden krijgt (ongeacht of het voor de Turingtest slaagt door 30 procent van de juryleden voor de mal te houden), de titel ‘Most Human Computer’ (menselijkste computer). Dit is de titel waar alle onderzoeksteams op uit zijn, de titel met de geldprijs, waar de organisatoren en het publiek het meest in geïnteresseerd zijn. Maar intrigerend genoeg is er ook nog een andere titel, namelijk die voor de medeplichtige die de meeste stemmen en het meeste vertrouwen van de juryleden krijgt: de prijs voor de ‘Most Human Human’ (de menselijkste mens, of de ware mens).

Een van de eerste winnaars, in 1994, was Charles Platt, columnist van Wired. Hoe kreeg hij het voor elkaar? Door ‘humeurig, prikkelbaar en onhebbelijk te zijn’, zegt hij, en dat lijkt me niet alleen geestig en somber, maar op een dieper niveau ook een oproep tot de strijd: hoe zijn wij eigenlijk de menselijkste, meest ware mensen die we kunnen zijn, niet alleen in de beperkende omstandigheden van een test, maar in het echte leven?

Meedoen aan de samenzwering

De sponsor en organisator van de Turingtest (deze specifieke gelegenheid staat bekend als de Loebnerprijs) is een kleurrijke en ietwat zonderlinge figuur: Hugh Loebner, de baron van de plastic oproldiscodansvloer. Als hem wordt gevraagd wat zijn motieven zijn om deze jaarlijkse Turingtest te ondersteunen en te organiseren, noemt Loebner nota bene ‘luiheid’: zijn utopische toekomst is er kennelijk een waarin het werkeloosheidscijfer bijna 100 procent is en bijna alle menselijke inspanningen en nijverheid zijn uitbesteed aan intelligente machines. Ik moet zeggen dat deze visie van de toekomst mij vooral wanhopig voorkomt; ik heb zelf heel andere ideeën over hoe een door AI bevolkte wereld eruit zou zien, en ik heb heel andere redenen om mee te doen met de test. Maar in elk geval is de cruciale vraag de centrale vraag hoe computers ons besef van een ‘zelf’ hervormen, en wat de uitbreidingen van dat proces zullen zijn.

Ik wist niet helemaal zeker hoe ik een medeplichtige moest worden en begon bovenaan, door te proberen met Hugh Loebner zelf in contact te komen. Ik had zijn website snel gevonden, waarop ik temidden van een tamelijk ondoordringbaar mengsel van materiaal over paaltjes voor het in bedwang houden van een menigte,1 prostitutieactivisme2 en een schandaal over de samenstelling van olympische medailles,3 informatie kon vinden over zijn gelijknamige prijs en zijn e-mailadres. Als antwoord verwees hij me naar Philip Jackson, een jonge docent aan de University of Surrey, die de leiding heeft over de logistiek van de strijd om de Loebnerprijs van dit jaar in Brighton, onder de auspiciën van de InterSpeech Conference van 2009 over spraak- en communicatiewetenschap.

1 Het schijnt dat de dwangpaaltjes voor menigten onlangs de draagbare discodansvloeren hebben vervangen als het vlaggenschip van Loebners bedrijf, Crown Industries, de voornaamste sponsor van de Loebnerprijs.

2 Ik ben vast niet de enige die het ironisch vindt dat een man die zich wijdt aan de vooruitgang in de interactie met artificiële entiteiten erin berust (zoals hij openlijk heeft besproken in de New York Times en in diverse televisietalkshows) om, al of niet met tegenzin, te betalen voor menselijke intimiteit.

3 Kennelijk zijn de ‘gouden’ medailles eigenlijk zilveren medailles die in goud zijn gedoopt; dat is wel wat bizar, maar het heeft bij Loebner blijkbaar al tien jaar verontwaardiging opgeleverd die zich heeft geuit in de vorm van negatieve publiciteit en speeches, en een nieuwsbrief die Pants on Fire News heet.

Ik kon via Skype in contact komen met professor Jackson, een jonge, slimme knaap met dat typische vermoeide enthousiasme dat kenmerkend is voor een overwerkte maar verse academicus die op een vaste aanstelling uit is. Daarbij zijn charmante Britse trekjes, zoals ‘skeletal’ zo uitspreken dat het rijmt op ‘a beetle’: ik mocht hem direct. Zijn werk richt zich vooral op spraakanalyse, in tegenstelling tot de eigenlijke artificiële intelligentie; het was moeilijk te zeggen of hij echt opgewonden was dat hij de Loebnerprijs van dit jaar mocht organiseren, of dat het gewoon een klus was voor de laagste ambtenaar zonder vaste aanstelling bij InterSpeech; misschien wel allebei.

Hij vroeg wat ik deed en ik legde uit dat ik non-fictie schrijf over wetenschap en filosofie, vooral over de manier waarop wetenschap en filosofie het dagelijks leven doorkruisen, en dat ik gefascineerd ben door de idee van de Turingtest en de ‘ware mens’. Het is bijvoorbeeld een romantische gedachte om samen het menselijk ras te verdedigen, zoiets als Gary Kasparov versus Deep Blue, en binnenkort Ken Jennings van Jeopardy! versus het nieuwste IBM-systeem genaamd Watson. (Er komen ook andere, meer Terminator 2- en The Matrix–achtige fantasieën bovendrijven, hoewel de Turingtest aanzienlijk minder machinegeweren belooft.) Toen ik las dat de machines de test van 2008 op één stem na hadden gehaald, en besefte dat 2009 het jaar zou kunnen worden waarin ze die drempel eindelijk zouden passeren, kwam er schijnbaar uit het niets een vastberaden stem bij me op: over mijn lijk.

Maar wat belangrijker is, de test roept een aantal opwindende en verontrustende vragen op over die kruising van computerwetenschap, cognitiewetenschap, filosofie en het dagelijks leven. Ik heb elk van deze gebieden bestudeerd en erover geschreven, onderzoek gepubliceerd over cognitiewetenschap dat door vakgenoten is gerecenseerd, en als zodanig vind ik de Turingtest met name fascinerend vanwege de manier waarop die al deze gebieden bij elkaar brengt. Tijdens het chatten vertelde ik aan Jackson dat ik dacht dat ik misschien een unieke bijdrage aan de Loebnerprijs kon leveren, zowel in mijn daadwerkelijke kwaliteit van medeplichtige, als in het verslaan van deze ervaring voor een groot publiek, samen met de bredere vragen en problemen die de test oproept; dat zou naar mijn mening een boeiende en belangrijke conversatie in de bredere openbare cultuur teweeg kunnen brengen. Het was niet zo moeilijk om hem daarmee te laten instemmen en al gauw stond mijn naam op de medeplichtigenlijst.

Nadat hij me een paar praktische dingen over de logistiek van de competitie had verteld, gaf hij me het advies dat ik al van eerdere medeplichtigen had gehoord: ‘Meer hoef je eigenlijk niet te weten. Je bent menselijk, dus wees gewoon jezelf.’

‘Wees gewoon jezelf’: dit is in feite het motto van de medeplichtigen geweest sinds de eerste Loebnerprijs in 1991, maar dat is wat mij betreft een wat naïef groot vertrouwen in menselijke instincten, of op zijn ergst een manier om de strijd van tevoren al te beslissen. De programma’s voor artificiële intelligentie waar we het tegen opnemen, zijn vaak het resultaat van tientallen jaren werk; goed, dat zijn wij ook. Maar de onderzoeksteams voor artificiële intelligentie hebben enorme databases met testuitvoeringen van hun programma’s en ze hebben statistische analyses op die archieven uitgevoerd: ze weten hoe ze de conversatie handig weg moeten leiden van hun tekortkomingen in de richting van hun sterke punten, welke gespreksroutes leiden tot diepzinnige uitwisselingen en welke mislukken; de straatvechtersinstincten van de gemiddelde medeplichtige zijn vast niet zo goed. Dit is een eigenaardig en heel interessant punt en er is ruimschoots bewijs voor; in onze samenleving is er voortdurend vraag naar coaches voor gesprekken, spreken in het openbaar en dating. In de transcripten van de test van 2008 zien we dat de juryleden zich bepaald verontschuldigend gedragen tegenover de menselijke medeplichtigen omdat ze geen betere conversatie kunnen leveren: ‘Het spijt me voor de [medeplichtigen], ze zullen zich wel vervelen met dat praten over het weer,’ zegt er een, en een ander merkt deemoedig op: ‘Sorry dat ik zo banaal ben’, terwijl de computer in het andere venster het jurylid blijkbaar helemaal inpakt, want die schrijft al snel de ene LOL na de andere : P. Dat kunnen we beter.

Ik moet dan ook zeggen dat het vanaf het begin mijn intentie was om zo ongehoorzaam mogelijk te zijn aan het advies van de organisatoren om ‘gewoon in september naar Brighton te komen en mezelf te zijn’, dat ik de maanden voor de test doorbracht met het verzamelen van zo veel mogelijk informatie, voorbereiden en het opdoen van ervaring, en dat ik naar Brighton kwam met het vaste voornemen om alles uit mezelf te halen.

Eigenlijk zou dit helemaal niet zo vreemd moeten zijn, natuurlijk; we oefenen en we bereiden ons voor op tenniscompetities, spellingwedstrijden en schooltoetsen en dergelijke. Maar omdat de Turingtest bedoeld is om te beoordelen hoe menselijk ik ben, lijkt de implicatie dat menselijk zijn (en jezelf zijn) meer is dan alleen maar komen opdagen. Ik houd vol dat dat inderdaad zo is. Wat dat ‘meer’ precies inhoudt, vormt het hoofdthema van dit boek, en de antwoorden die we onderweg vinden, zullen van toepassing zijn op heel wat meer dan alleen de Turingtest.

Voor Ivana vallen

En nu een eigenaardig en tamelijk ironisch verhaal met een waarschuwing: dr. Robert Epstein, psycholoog aan de UCSD, redacteur van de wetenschappelijke publicatie Parsing the Turing Test en met Hugh Loebner medeoprichter van de Loebnerprijs, meldde zich in de winter van 2007 aan bij een onlinedatingservice. Hij begon lange brieven te schrijven naar een Russische vrouw die Ivana heette en die lange brieven terugschreef, over haar familie, haar dagelijks leven en haar sterker wordende gevoelens voor Epstein. Maar uiteindelijk voelde het toch niet helemaal goed. En om een lang verhaal kort te maken: Epstein besefte ten slotte dat hij meer dan vier maanden lange liefdesbrieven had uitgewisseld met (u raadt het al) een computerprogramma. Arme knul! Alsof het nog niet genoeg was dat webschurken elke dag zijn e-mailpostvak vol spam gooiden – moesten ze dat nu ook al met zijn hart doen?

Aan de ene kant zou ik simpelweg achterover willen leunen en hem willen uitlachen; hij heeft nota bene de Loebnerprijs helpen oprichten! Wat een sukkel! Aan de andere kant heb ik ook sympathie voor hem: de onvermijdelijke spam in de eenentwintigste eeuw verstopt niet alleen de postvakken en de bandbreedte van de wereld (zo’n 97 procent van alle e-mailberichten is spam4: dit gaat over tientallen miljarden per dag. Je zou letterlijk een klein land5 kunnen voeden met de elektriciteit die nodig is voor het verwerken van de dagelijkse spam over de hele wereld), maar het doet ook nog iets veel ergers: het holt ons vertrouwen uit. Ik vind het een ramp dat ik, wanneer ik berichten van mijn vrienden krijg, minstens de eerste paar zinnen energie moet besteden om te beslissen of die berichten echt van mijn vrienden komen. In de eenentwintigste eeuw gaan we door het digitale leven met onze verdediging in stelling gebracht. Alle communicatie is een Turingtest. Alle communicatie is verdacht.

4 Volgens een citaat van Microsoft op de BBC op 8 april 2009: http://news.bbc.co.uk/2/hi/technology/7988579.stm.

5 Bijvoorbeeld Ierland.

Dat is de pessimistische versie, en hier is de optimistische. Ik wed dat Epstein een lesje geleerd heeft, en ik wed ook dat die les een stuk ingewikkelder en subtieler was dan ‘het was een slecht idee om te proberen een onlinerelatie op te starten met iemand uit Nizjny Novgorod’. Ik zou graag denken dat hij zich ernstig heeft afgevraagd waarom het vier maanden duurde voordat hij zich realiseerde dat er geen echte uitwisseling plaatsvond tussen hem en ‘Ivana’, en dat hij zoiets voortaan sneller door zal hebben. En dat zijn volgende vriendin, die hopelijk niet alleen een echte homo sapiens is maar ook wat dichterbij woont dan elf tijdzones uit de buurt, in zekere zin ‘Ivana’ dankbaar mag zijn.

De illegitimiteit van het overdrachtelijke

Toen Claude Shannon in de jaren veertig Betty ontmoette bij Bell Labs, was ze inderdaad een ‘computer’. Dit klinkt ons misschien vreemd in de oren, maar laat ik u zeggen dat dat in die tijd niemand vreemd voorkwam. Ook hun collega’s niet: bij Bell Labs vonden ze de romance volkomen normaal en zelfs voor de hand liggend. Engineers en computers flirtten continu met elkaar.

Het was Alan Turings artikel uit 1950, ‘Computing Machinery and Intelligence’, waarmee het vakgebied van AI werd gestart zoals we het nu kennen, en waarmee de conversatie en de controverse over de Turingtest (of het ‘imitatiespel’, zoals Turing het aanvankelijk noemde) werden gestart die tot op heden nog voortduren; maar moderne ‘computers’ zijn heel wat anders dan de ‘computers’ in de tijd van Turing. In het begin van de twintigste eeuw, voordat een ‘computer’ een digitaal verwerkingsapparaat was dat we in onze levens van de eenentwintigste eeuw zo vaak aantreffen (in onze kantoren, huizen, auto’s en ook steeds vaker in onze zakken), was het iets anders: een functieomschrijving.

Vanaf het midden van de achttiende eeuw waren ‘computers’, vaak vrouwen, in dienst bij bedrijven, technische firma’s en universiteiten om berekeningen en numerieke analyses uit te voeren, soms met de hulp van een basale rekenmachine. Deze oorspronkelijk menselijke computers zaten achter de berekeningen voor alles, vanaf de eerste nauwkeurige voorspellingen van de terugkeer van de komeet van Halley (een vroeg bewijs van Newtons zwaartekrachttheorie, die daarvoor alleen was gecontroleerd aan de hand van planeetbanen) tot aan het Manhattanproject, waarin de Nobelprijswinnaar en fysicus Richard Feynman de leiding had over een groep menselijke computers bij Los Alamos.

Je staat versteld als je een paar van de eerste artikelen over computerwetenschap leest en ziet hoe de auteurs hun best doen om voor het eerst uit te leggen wat deze nieuwe dingen nu eigenlijk waren. In Turings artikel wordt de ‘digitale computer’, waar nog nooit iemand van heeft gehoord, beschreven door middel van analogieën met een menselijke computer: ‘Het idee achter “digitale computers” kan worden uitgelegd door te stellen dat deze machines zijn bedoeld om alle bewerkingen uit te voeren die door een menselijke computer kunnen worden verricht.’ We weten natuurlijk dat in latere decennia de aanhalingstekens zijn verplaatst, en dat nu ‘digitale computer’ niet alleen de standaardterm is, maar ook de letterlijke. En het is de ‘menselijke computer’ die is verwezen naar de illegitimiteit van het overdrachtelijke. In het midden van de twintigste eeuw was een nieuw, flitsend mathematisch snufje ‘net een computer’. In de eenentwintigste eeuw is een menselijk wiskundewonder ‘net een computer’. Een eigenaardige wending: we lijken op dat ding dat vroeger op ons leek. We imiteren onze vroegere imitators, een van de vreemde omkeringen van het lot in de lange sage van de menselijke uitzonderlijkheid.

De Zin

Daniel Gilbert, psycholoog aan Harvard, zegt dat iedere psycholoog op een bepaald moment in zijn of haar loopbaan een versie moet schrijven van ‘De Zin’. De Zin luidt als volgt: ‘De mens is het enige dier dat…’ Het lijkt er inderdaad op dat filosofen, psychologen en wetenschappers deze zin hebben geschreven en herschreven sinds het begin van de geschreven geschiedenis. We zouden kunnen zeggen dat het verhaal van het menselijke zelfbewustzijn het verhaal is van mislukte, ontmaskerde versies van De Zin. Alleen zijn het nu niet uitsluitend de dieren waar we ons zorgen over maken.

Ooit dachten we dat mensen uniek waren omdat ze een taal met een syntaxis hadden, maar dat is niet waar;6 we dachten ooit dat mensen uniek waren omdat ze gereedschappen gebruikten, maar dat is niet waar;7 we dachten ooit dat mensen uniek waren omdat ze konden rekenen, maar nu kunnen we ons nauwelijks voorstellen dat wij zouden kunnen wat onze calculators kunnen.

6 Michael Gazzaniga citeert in Human Sue Savage-Rumbaugh, primatoloog van de Georgia State University: ‘Eerst zeiden de taalkundigen dat we onze dieren tekens symbolisch moesten leren gebruiken om te kunnen zeggen dat ze een taal leerden. Goed, dat deden we, en toen zeiden ze: ‘Nee, dat is geen taal, want je hebt geen syntaxis.’ Daarom bewezen we dat onze apen combinaties van tekens konden produceren, maar de taalkundigen zeiden dat dat niet genoeg syntaxis was, of niet de goede syntaxis. Ze zullen nooit vinden dat we genoeg hebben gedaan.’

7 In 2009 werd bijvoorbeeld ontdekt dat octopussen kokosschalen konden gebruiken als ‘harnas’. De samenvatting van het artikel waarin dit nieuws stond, vertelt hoe onze vermeende uitzonderlijkheid steeds verder wordt uitgehold: ‘Gedrag waarbij gereedschappen worden gebruikt, werd oorspronkelijk beschouwd als een definiërend kenmerk van onze soort, maar later is gebleken dat ook andere primaten en ook zoogdieren en vogels dit gedrag vertonen. Van ongewervelden was echter nooit eerder gemeld dat ze objecten verzamelen om die later te gebruiken. We hebben herhaaldelijk gezien hoe octopussen die in zachte sedimenten leven, halve kokosnootschalen meedragen en die alleen tot een beschutting samenvoegen wanneer dat nodig is.’

Er zijn verschillende aspecten aan de evolutie van De Zin. We kunnen bijvoorbeeld bekijken hoe de formuleringen van diverse ontwikkelingen (zowel in onze kennis van de wereld als in onze technische vermogens) in de loop van de geschiedenis zijn veranderd. Van daaruit kunnen we bekijken hoe deze verschillende theorieën het identiteitsgevoel van de mensheid hebben vormgegeven. Zijn kunstenaars bijvoorbeeld waardevoller voor ons geworden dan toen we nog niet wisten hoe moeilijk kunst voor computers is?

Ten slotte kunnen we ons afvragen: is het terecht dat onze definitie van onze unieke positie in zekere zin een reactie is op de technologische vooruitgang? En waarom hebben we het eigenlijk zo hard nodig om ons uniek te voelen?

‘Het lijkt soms wel,’ zegt Douglas Hofstadter, ‘alsof elke nieuwe stap in de richting van artificiële intelligentie niet zozeer iets produceert dat volgens iedereen echte intelligentie is, maar eerder duidelijk maakt wat echte intelligentie niet is.’ Dit lijkt misschien op het eerste gezicht een troostend standpunt, dat onze unieke claim op het denken intact laat; maar het lijkt ook ongemakkelijk veel op een geleidelijke terugtrekking, ongeveer zoals een middeleeuws leger dat zich van het kasteel terugtrekt op de toren. Maar deze terugtrekking kan niet oneindig lang doorgaan. Stel dat van alles wat we als denken beschouwen, blijkt dat het dat niet is: wat is ‘denken’ dan? Denken lijkt te worden gereduceerd tot een epifenomeen, een soort afvalproduct van het brein; of erger nog, tot een illusie.

Waar is de toren van ons zelf?

Het verhaal van de eenentwintigste eeuw zal deels het verhaal zijn van het steeds opnieuw trekken van deze scheidslijnen, het verhaal van homo sapiens die een claim probeert te leggen op verschuivende grond, geflankeerd door aan de ene kant het dier en aan de andere kant de machine, ingeklemd tussen bieflappen en bits.

En hier is een cruciale vraag: is deze terugtrekking nu goed of slecht? Ontneemt bijvoorbeeld het feit dat computers zo goed zijn in wiskunde, ons een deel van onze menselijke activiteiten, of bevrijdt het ons juist, in die zin dat we geen niet-menselijke activiteit meer hoeven te verrichten en een menselijker leven kunnen leiden? Deze laatste opvatting lijkt misschien aantrekkelijker, maar dat wordt minder als we ons indenken dat er in de toekomst een moment kan komen dat het aantal ‘menselijke activiteiten’ dat we nog kunnen doen, onplezierig klein is geworden. En wat dan?

De Turingtest omkeren

Er bestaan geen bredere filosofische implicaties. […] Het houdt nergens verband mee en verheldert niets.

– NOAM CHOMSKY in een e-mail aan de auteur

Alan Turing stelde zijn test voor als een manier om de vooruitgang van de technologie te meten, maar hij biedt ons net zo goed een manier om onze eigen vooruitgang te meten. Oxfordfilosoof John Lucas zegt bijvoorbeeld dat, wanneer we niet in staat zullen blijken om te verhinderen dat de machines slagen voor de Turingtest, dat niet komt ‘doordat machines zo intelligent zijn, maar doordat mensen, in elk geval een groot aantal van hen, zo inflexibel zijn’.

Het komt hierop neer: de Turingtest is niet alleen een technologische toets, en stelt niet alleen filosofische, biologische en ethische vragen; de test gaat bovenal over de handeling van het communiceren. De diepzinnigste vragen rondom de test zie ik als praktische vragen. Hoe kunnen we binnen de grenzen van taal en tijd betekenisvol, of zo betekenisvol mogelijk, met elkaar communiceren? Hoe werkt empathie? Wat is het proces waardoor iemand in ons leven komt en iets voor ons gaat betekenen? Voor mij zijn dit de centrale vragen van de test, en de centrale vragen van het mens-zijn.

Het fascinerende aan het bestuderen van de programma’s die goed hebben gescoord bij de Turingtest is onder andere dat dit een (eerlijk gezegd ontnuchterend) onderzoek is naar de manier waarop conversatie kan werken wanneer er geen enkele emotionele intimiteit aanwezig is. De transcripten van oudere Turingtests bekijken is een soort rondleiding in de verschillende manieren waarop we protesteren, vragen ontwijken, de stemming verluchtigen, van onderwerp veranderen, afleidingsmanoeuvres uitvoeren, de tijd doden: alles wat bij de Turingtest niet voor echte conversatie zou moeten doorgaan, zou waarschijnlijk ook niet mogen doorgaan voor echte menselijke conversatie.

Er zijn diverse boeken geschreven over de technische kant van de Turingtest, bijvoorbeeld over het slim ontwerpen van Turingtestprogramma’s, ook wel ‘chatterbots’, ‘chatbots’ of gewoon ‘bots’ genoemd. In feite gaan alle praktische teksten over de Turingtest over hoe we goede bots moeten maken, en een klein deeltje gaat over hoe we goede juryleden kunnen zijn. Maar je leest nergens hoe je een goede medeplichtige moet zijn. Ik vind dat vreemd, want het is volgens mij juist aan de kant van de medeplichtige waar de inzet het hoogst is en waar de antwoorden de meest verstrekkende gevolgen hebben.

Ken uw vijand beter dan uzelf, vertelt Sun Tzu ons in De kunst van het oorlogvoeren. In het geval van de Turingtest betekent het kennen van onze vijand in werkelijkheid dat we onszelf moeten kennen. Daarom zullen we wel kijken naar hoe sommige van deze bots zijn geconstrueerd, en naar een paar van de basisprincipes en de belangrijkste resultaten in de theoretische computerwetenschap, maar altijd met de focus op de menselijke kant van de vergelijking.

In zekere zin is dit een boek over artificiële intelligentie, het verhaal van de geschiedenis ervan, en van mijn bescheiden persoonlijke betrokkenheid bij die geschiedenis. Maar in de kern is dit een boek over leven.

We kunnen computers, die een steeds centralere rol in ons leven spelen, beschouwen als verwoesters: een kracht als Skynet in Terminator, of de Matrix in The Matrix, die op onze vernietiging uit is, net zoals wij op hun vernietiging uit zouden moeten zijn. Maar ik geef om diverse redenen de voorkeur aan het idee van rivalen, die duidelijk willen winnen en die weten dat het hoofddoel van de competitie draait om het verhogen van het spelniveau. Alle rivalen zijn symbioten. Ze hebben elkaar nodig. Ze houden elkaar eerlijk. Ze maken elkaar beter. Het verhaal van de vooruitgang hoeft geen ontmenselijkend of ontmoedigend verhaal te zijn. Integendeel, zoals u zult zien.

Tijdens de maanden voor de test deed ik alles wat ik kon om me voor te bereiden. Ik deed onderzoek en sprak met deskundigen op allerlei gebieden die iets te maken hadden met de centrale vragen: (a) hoe ik in Brighton de ‘menselijkste’ vertoning ten beste kon geven, en (b) wat het nu eigenlijk inhoudt om menselijk te zijn. Ik interviewde onder meer taalkundigen, informatietheoretici, psychologen, advocaten en filosofen; deze gesprekken bezorgden me zowel praktische adviezen voor de competitie als kansen om te bekijken hoe de Turingtest (met zijn bijbehorende vragen naar menselijkheid) invloed heeft op, en wordt beïnvloed door uiteenlopende gebieden als werk, school, schaken, dating, videogames, psychiatrie en het recht.

De uiteindelijke test hield voor mij in dat ik in Brighton een zo uniek menselijk mogelijke demonstratie zou geven om me met succes te verdedigen tegen de machines die de test ondergingen, en dat ik die felbegeerde, zij het bizarre prijs voor de ware mens mee naar huis zou kunnen nemen. Maar de ultieme vraag was natuurlijk wat het betekent om menselijk te zijn: wat de Turingtest ons over onszelf kan leren.

2

Verificatie

Verificatie: vorm en inhoud

Onlangs meldde de Morning Edition van National Public Radio het verhaal van een man die Steve Royster heette. Naarmate hij opgroeide, begon Royster te geloven dat hij een uiterst ongewone en opvallende stem had. Hij legt uit: ‘Iedereen wist altijd dat ik aan de telefoon was, gewoon door de klank van mijn stem, terwijl ik geen enkel idee had wie er aan de andere kant van de lijn was.’ Het duurde totdat hij eind twintig was voordat hij, tot zijn verbazing, erachter kwam dat andere mensen bijna iedereen aan de stem kunnen herkennen. Hoe deden ze dat in ’s hemelsnaam? Het bleek dat er inderdaad iets bijzonders is met Royster, maar niet met zijn stem: met zijn brein. Royster lijdt aan een zeldzame aandoening die fonagnosie heet. Zelfs als zijn eigen moeder hem belt, voert hij een beleefd gesprek zonder te beseffen dat ‘deze vreemde vrouw die mij belt, degene is die me heeft gebaard’. Zoals verslaggever Alix Spiegel zegt: ‘Fonagnosiepatiënten kunnen aan de toon van je stem horen of je man of vrouw bent, oud of jong, sarcastisch, boos, blij. Ze hebben er alleen geen flauw idee van wie je bent.’

Dit plaatst Royster natuurlijk in een heel ongewone positie.

Het blijkt dezelfde positie te zijn waarin iedereen op het internet verkeert.

Op 16 september 2008 probeerde de twintigjarige student David Kernell zich aan te melden bij het persoonlijke Yahoo!-e-mailaccount van vicepresidentskandidaat Sarah Palin. Hij wist absoluut niet wat haar wachtwoord zou kunnen zijn. Raden leek zinloos en daarom bedacht hij dat hij kon proberen het te veranderen, dus hij klikte op de optie ‘Ik ben mijn wachtwoord vergeten’ voor vergeetachtige gebruikers. Maar voordat een gebruiker van Yahoo! een accountwachtwoord mag veranderen, moet deze eerst een paar ‘verificatie’-vragen beantwoorden, zoals geboortedatum of postcode, om diens identiteit te controleren. Kernell vond deze informatie op Wikipedia, zei hij, in ongeveer vijftien seconden. Stomverbaasd wijzigde Kernell het wachtwoord in ‘popcorn’ en nam een koude douche. Nu staat hem twintig jaar gevangenisstraf te wachten.

In de wereld van de machines controleren we op inhoud: wachtwoord, pincode, de laatste vier cijfers van ons BSN, de meisjesnaam van onze moeder. In de mensenwereld controleren we op vorm: gezicht, klank van de stem, handschrift, handtekening.

En, cruciaal: verbale stijl.

Een van mijn vrienden stuurde me een paar weken geleden een e-mail: ‘Ik ben bezig per e-mail woonruimte te huren in een andere stad en ik wil niet dat de knaap met wie ik contact heb, denkt dat ik hem aan het oplichten ben (of dat ik een mafkees ben), dus ik ben heel erg bezig “menselijk” en “echt” en “nietanoniem” te klinken in mijn e-mails. Raar, hoor. Snap je wat ik bedoel?’ Jazeker, het zijn die e-mail-idiosyncrasieën in stijl (het anachronistische ‘knaap’, het nadrukkelijke ‘heel erg bezig’ en het ‘nietanoniem’ zonder koppelteken) die bewijzen dat hij het echt zelf is.

Dit soort dingen (gedrag dat typerend voor iemand is) was altijd misschien al charmant en innemend, tenminste, voor mensen die je aardig vinden. Maar nu is het ook nog iets meer, nu onze woorden steeds verder van ons gedissocieerd raken in het tijdperk van het internet: ze maken deel uit van de onlinebeveiliging.8

8 Als iets me herinnert aan een vriend met wie ik een tijdje geen contact heb gehad en ik wil een link doorsturen, dan zorg ik ervoor dat ik een persoonlijke noot aan de boodschap toevoeg, een verbaal extraatje behalve alleen maar ‘ik zag dit en ik dacht aan je / [link] / hoop dat alles goed met je is’, want anders kan mijn boodschap in de spambak terechtkomen. Toen ik bijvoorbeeld vorige week een kort Twitterbericht met een nogal algemene tekst kreeg van een van de poëzieredacteurs van Fence waarin stond: ‘hoi, ik ben 24, vrouw en ik wil wel… ik moet nu afbreken maar stuur me een bericht via Windows Live: [link],’ was mijn instinct niet om beleefd te antwoorden dat ik gevleid was, maar onze relatie liever zakelijk wilde houden; ik drukte op de spamknop.

Pinguïns op Antarctica kunnen tussen de 150000 gezinnen op de broedplaats exact de roep van hun jongen onderscheiden. ‘Lang leve Babel,’ zegt de fictieschrijver Donald Barthelme. Dat is waar: als we de idiosyncrasieën uit onze verbale stijl zouden halen, was dat niet alleen slecht voor de literatuur, maar ook voor de veiligheid. Net als in andere gevallen is ook hier die lichte, door machines uitgeoefende druk om onze menselijkheid tegenover elkaar actief te bevestigen, misschien wel een goed ding.

Omgang: vorm en inhoud

Onlangs kwam Emily, een van mijn vroegere studiegenoten, naar de stad en onderweg van het vliegveld ging ze lunchen met een gemeenschappelijke vriend van ons en diens collega (die toevallig ook mijn vriendin Sarah is). Toen Emily en ik later die dag uit eten gingen, merkte ik op dat het grappig was dat ze Sarah al had ontmoet voordat ik de kans had gehad om ze aan elkaar voor te stellen. Ik weet nog dat ik zoiets zei als: ‘Leuk dat jullie elkaar nu ook een beetje kennen.’ ‘Nou, ik zou niet zeggen dat ik haar heb leren kennen,’ antwoordde Emily. ‘Eerder dat ik haar heb gezien, weet hoe ze eruitziet, hoe ze zich gedraagt, of zo.’

En toen drong het onderscheid tot me door: een indruk hebben van iemand (temperament, karakter, manier van doen) is wat anders dan iemand kennen (waar ze vandaan komen, hoeveel broers en zussen ze hebben, wat voor opleiding ze hebben gedaan en waar ze werken). Net als beveiliging heeft ook onze omgang met elkaar zowel vorm als inhoud.

‘Speeddating’ is een snelle, sterk gestructureerde collectieve kennismaking die opkwam in Beverly Hills aan het eind van de jaren negentig. Alle deelnemers hebben een reeks gesprekken van zeven minuten en aan het eind schrijven ze op wie ze nog een keer willen ontmoeten; bij wederzijdse matches geven de organisatoren de relevante contactgegevens door. ‘Speeddating’ is nu een populaire term, maar in feite is ‘SpeedDating’ (‘of elke term die daar verwarrend veel op lijkt’) een gedeponeerd handelsmerk, nota bene van de joodse organisatie Aish HaTorah: de uitvinder, Yaacov Deyo, is een rabbijn.

Een van mijn eerste gedachten over de Turingtest was dat het een soort speeddating is: je hebt vijf minuten om iemand anders te laten zien wie je bent, om over te komen als een echt levend, ademend, uniek en onderscheiden, niet-anoniem menselijk wezen. Dat is een hele opgave. En in beide gevallen is de inzet behoorlijk hoog.

Een vriend van mij ging onlangs naar een speeddatingbijeenkomst in New York City. ‘Het was zo gek,’ zei hij. ‘Ik wilde aldoor maar, nou ja, geestig zijn, snap je? Om te zien of er een vonk oversloeg. Maar alle vrouwen hielden zich aan een soort script: waar kom je vandaan, wat doe je, alsof ze bezig waren je langs een meetlat te leggen. Maar dat soort dingen kan me helemaal niets schelen. Dus na een tijdje begon ik nepantwoorden te geven, dingen te verzinnen. Gewoon om het een beetje interessanter te maken.’

De vreemdheid die hij ervoer, en het soort ‘vragenlijsten’ waar speeddating makkelijk in kan ontaarden, zijn zo bekend dat er een persiflage van is in Sex and the City:

==

‘Hoi, ik ben Miranda Hobbes.’

‘Dwight Owens; afdeling Privévermogensgroep bij Morgan Stanley; beleggingsbeheer voor klanten met een groot nettovermogen en een paar pensioenregelingen; ik vind mijn werk leuk; ik doe het nu vijf jaar; gescheiden; geen kinderen; niet religieus; ik woon in New Jersey; ik spreek Frans en Portugees; ik heb Wharton Business School gedaan; is dit allemaal een beetje aantrekkelijk voor je?’

In elk geval niet zoals hij het hier brengt.

Mensen met uitgebreide lijsten van eigenschappen voor hun perfecte partner zetten daar vaak compleet verkeerde dingen op. Die en die lengte. Dit salaris. Dat beroep. Ik heb heel wat vrienden nietsvermoedend zien uitkomen bij een druiloor die toch precies aan de beschrijving voldeed.

Uitvinder Yaacov Deyo, die genoeg had van de puntenlijststijl van ‘Dwight Owens’ die maar bleef terugkomen in de vroege speeddatingbijeenkomsten, besloot tot een simpele, onsubtiele oplossing: het is verboden om over je werk te praten. Toen begonnen mensen als redmiddel te praten over waar ze woonden of waar ze vandaan kwamen, dus dat verbood hij ook. Hij doet geamuseerd de uitbrekende paniek en de daaropvolgende doorbraak na: ‘O lieve help, waar moet ik nu over praten?’ Hij lacht. ‘Ik kan niet praten over mijn werk, of waar ik woon, en… bingo! Plotseling moet ik praten over mezelf.’ Of: ineens moet ik mezelf zijn, me gedragen als mezelf in plaats van mezelf te beschrijven.

Vorm en inhoud in de Turingtest

De eerste Loebnerwedstrijd werd georganiseerd op 8 november 1991 in het Boston Computer Museum. De eerste jaren kregen elk programma en iedere menselijke medeplichtige een onderwerp op om de conversatie te beperken. Die eerste wedstrijd was in zekere zin een strijd tussen stijl en inhoud. Een van de medeplichtigen was de Shakespeare-expert Cynthia Clay, die zoals bekend door drie verschillende juryleden werd beschouwd als computer. Kennelijk waren ze het erover eens dat niemand zoveel over Shakespeare weet. (Daarom vatte Clay deze foute beoordelingen als een compliment op.)

Het programma achter het onderwerp ‘grillige conversatie’ (PC Therapist III van Joseph Weintraub) won dat jaar de Loebnerprijs en kreeg de allereerste bekroning voor menselijkste computer. Zoals het programma het uitvoerde, was ‘grillige conversatie’ helemaal geen onderwerp, maar een vorm van gedrag: een cruciaal onderscheid. Weintraub maakte gebruik van een lacune in de wedstrijdregels, van de natuurlijke gedragspatronen van chatbots en van de stereotypen van computers en mensen. Strategisch gezien was het briljant. Clay en haar medemedeplichtigen lieten hun kennis en inzicht zien door plichtsgetrouw en nauwkeurig antwoord te geven op de gestelde vragen, maar soms op een feitelijke, encyclopedische manier die gewoonlijk wordt geassocieerd met computersystemen.

==

Jurylid: Wat vind je van de toneelstukken van Shakespeare?

Andere kant: Dat is nogal algemeen, kun je iets preciezer zijn? Anders zeg ik gewoon dat ik ze goed vind.

De ondervrager van de ‘grillige conversatie’ pakte het heel anders aan:

==

Jurylid: Het is een lange dag geweest! Tijd voor wat leuks. Het is niet zulk mooi weer vandaag. Heb je een paar moppen om de wolken te verdrijven?

Andere kant: Iedereen praat over het weer, maar niemand doet er wat aan. Waarom vind je het nodig om me te vertellen dat je nu in bent voor wat leuks? Kreun…

Jurylid: Wat is de definitie van ‘grillige conversatie’?

Andere kant: Zei je niet nou ja ik denk in elk geval dat grillige conversatie zoiets is als een aantal zetten van een paard bij schaken, een soort zigzagbeweging in plaats van9 een bepaalde lijn te volgen? Waarom vraag je dat? Was dat een bijdehante opmerking of zo? Denk je veel over dat soort vragen na?

Jurylid: Dat beeld van paarden die kriskras over het schaakbord bewegen bevalt me wel, betekent dat dat er geen speciale gedachte zit achter een grillige conversatie?

Andere kant: Nou dacht ik toch echt dat je net vroeg wat is de definitie van grillig?? Hoe definieer jij grillig? Was je altijd al zo’n stakker? Waarom vertel je me dat dat beeld van paarden kriskras over het schaakbord je bevalt?

9 Sic. Weintraubs programma maakte met opzet spelfouten, net als veel programma’s die daarna kwamen.

‘Ik dacht echt dat [PC Therapist] menselijk was, omdat hij… eigenaardig en geestig was, op een normale manier,’ zei een van de juryleden, een Harvard-postdoctoraalstudent. Weintraubs programma veranderde doorlopend van onderwerp, braakte irrelevante opmerkingen en oneliners uit en kwam over als een zot, een grappenmaker, een veel ‘menselijker’ type persoonlijkheid. Tenminste, dat dacht ik, voordat ik erachter kwam hoe makkelijk dat te imiteren was.

Verdenking; roulette; puree

Toen ik op internet zocht naar informatie over Cleverbot, vond ik iets heel eigenaardigs: er zijn heel wat speculaties dat die site in werkelijkheid een hoax is.

‘Ik praat er nu al een tijdje mee en ik begin me af te vragen of Cleverbot wel een echte bot is,’ schrijft een gebruiker. ‘Cleverbot zegt altijd dat hij zelf de mens is en dat ik de bot ben. Praat ik soms eigenlijk met een echt mens, maar wordt ons allebei wijsgemaakt dat de ander Cleverbot is?’ Sommige reacties zijn bijna griezelig. Eén gebruiker schrijft in het Frans: ‘Je habite dans les États-Unis’ en merkt dat zijn Frans niet alleen wordt begrepen, maar ook bekritiseerd: ‘On dit J’habite AUX États-Unis,’ corrigeert de bot hem.

Een andere gebruikt zinnen uit ‘Bohemian Rhapsody’ van Queen:

==

Gebruiker: Scaramouche, Scaramouche.

Cleverbot: Will you do the fandango?

Gebruiker: Thunderbolt and lightning.

Cleverbot: Very very frightening me!

Gebruiker: Galileo.

Cleverbot: Galileo Galileo.

Gebruiker: Figaro.

Cleverbot: Magnifico-o-o-o.

Een gebruiker zegt dat hij een populaire grap vertelde:

==

Gebruiker: Weet je waarom ze het een Xbox 360 noemen?

Cleverbot: Waarom?

Gebruiker: Als je hem ziet, draai je je 360 graden om en loop je weg.

Waarop de bot zijn grap uit elkaar haalt:

==

Cleverbot: Nee, want dan sta je er weer voor en dat is niet grappig.

Andere gebruikers proberen de logica van de grap te verbeteren en maken hem daarmee droger en absurder:

==

Gebruiker: Weet je waarom ze het een Xbox 360 noemen?

Cleverbot: Nee. Waarom noemen ze het een Xbox 360?

Gebruiker: Als je hem ziet, draai je je 360 graden om en loop je achteruit weg.

En krijgen een revanche met een nog drogere, absurdere clou:

==

Cleverbot: Nietes, als je hem ziet draai je je 3 graden om en loop je schuin.

Er moet toch wel een mens aan de andere kant zitten! De antwoorden zijn te cultureel correct, te gewiekst. Maar op andere momenten verandert de conversatie ineens van register of komt er een irrelevante opmerking uit het niets.

De programmeur van Cleverbot, Rollo Carpenter, legt graag uit hoe zijn creatie werkt. Maar net als bij Joseph Weizenbaum en ELIZA heeft dat weinig effect. Gebruikers hebben hun eigen, andere ideeën over wat er aan de hand is.

Het internet van de vroege jaren negentig was een veel anoniemere plaats dan nu. Op lokale BBS’en (Bulletin Board Systems), in de chatrooms van ‘ommuurde’ internetproviders/community’s als Prodigy en AOL, en bij universele chatprotocollen als IRC (Internet Relay Chat), botsten vreemden voortdurend tegen elkaar op. De uitgebreide sociale netwerken (bijvoorbeeld Facebook) van de laatste vijf jaar zijn bezig van het internet een andere plaats te maken. Het is ook ongeveer in die tijd dat websites als Chatroulette.com en Omegle.com, die zijn ontworpen om iets van die anonimiteit en toevalligheid terug te brengen, van start gingen. Je kiest of je beeld of tekst wilt gebruiken, je wordt vervolgens volkomen willekeurig gekoppeld aan een andere gebruiker en begint een conversatie.10 Je kunt het gesprek allebei op elk moment beëindigen, waarna je allebei aan nieuwe vreemden wordt gekoppeld en meteen begint met ‘Hallo’. Alle gebruikers van dit soort sites zijn licht nerveus bij het idee dat de ander de dialoog afbreekt, waardoor je allebei in een nieuw gesprek terechtkomt; de term daarvoor is ‘getting nexted’.

10 Dit soort anonimiteit brengt echter net zoveel risico als toeval met zich mee. Ik las iemands verslag over zijn ervaringen met het uitproberen van Chatroulette: twaalf van de eerste twintig videochats die hij probeerde, bevatten mannen die voor de camera zaten te masturberen. Om die reden, en ook omdat het meer leek op de Turingtest, koos ik voor tekst. Zelfs toen waren mijn eerste twee interviewers op Omegle mannen die via een omweg aan het vissen waren naar cyberseks. De derde was een leerlinge van een middelbare school uit de buitenwijken van Chicago: we praatten over Cloud Gate, het Art Institute, de voors en tegens van opgroeien en op jezelf gaan wonen.

Stel nu eens dat het computersysteem automatisch gesprekken afbrak en gebruikers opnieuw aan elkaar koppelde, en ze niet liet weten dat dit gebeurde. Gebruiker A en B praten over honkbal en gebruiker C en D praten over kunst. A wordt plotseling gekoppeld aan C en B aan D. C heeft net over het Louvre gepraat en krijgt dan zomaar het bericht: ‘En ben jij voor de Mets of de Yankees?’, en B, die net de laatste World Series heeft geanalyseerd, wordt gevraagd of hij ooit de Sixtijnse Kapel heeft gezien. Dit is precies de complottheorie over Cleverbot (en nog een paar vergelijkbare bots als Ultra Hal van Robert Medeksza): Omegle minus controle over het overschakelen van gesprekken. Stel dat het de computer is die je overschakelt naar andere mensen, willekeurig en zonder het te laten weten, en hetzelfde met die anderen doet. Dan krijgt je iets wat veel lijkt op de Cleverbot-transcripten.

De complottheorie klopt niet, maar zit er ook niet zo ver naast.

‘Cleverbot leent de intelligentie van zijn gebruikers,’ legt Carpenter me in Brighton uit. Hij noemt het in een televisie-interview met Science Channel een ‘conversationele Wikipedia’. Het werkt als volgt: Cleverbot begint een gesprek met bijvoorbeeld: ‘Hallo.’ Een gebruiker kan op allerlei manieren antwoorden, van ‘Hallo’ tot ‘Hoi!’ of ‘Ben jij een computer?’, enzovoort. Wat ze zeggen, komt in een enorme database met uitspraken terecht, gemarkeerd als echt menselijke reacties op ‘Hallo’. Als in een later gesprek een gebruiker ‘Hallo’ zegt tegen Cleverbot, heeft die ‘Hoi!’ (of wat die eerste persoon ook zei) bij de hand. Aangezien dezelfde dingen steeds weer terugkomen (statistici noemen dat een ‘Zipfdistributie’, om precies te zijn), en aangezien voortdurend duizenden gebruikers zijn aangemeld bij Cleverbot en ermee chatten, nu al jarenlang, bevat de database van Cleverbot zelfs geschikte antwoorden op ogenschijnlijk onduidelijke opmerkingen. (Bijvoorbeeld ‘Scaramouche, Scaramouche’.)

Wat je krijgt door het bij elkaar gooien van honderdduizenden eerdere conversaties, is een soort conversationele puree. Gemaakt van menselijke onderdelen, maar een minder dan menselijke som. Gebruikers zijn in feite aan het praten met een soort puree van echte mensen, of in elk geval de schimmen van echte mensen: de echo’s van vroegere conversaties.

Dit is deels de reden dat Cleverbot zoveel indruk maakt bij basale feitelijke vragen (‘Wat is de hoofdstad van Frankrijk?’ ‘Parijs’) en popcultuur (‘Easy come, easy go, will you let me go?’ ‘Bismillah! No, we will not let you go!’), de dingen waarop een correct antwoord bestaat, onafhankelijk van de spreker. Alle koks ter wereld kunnen die basisbouillon niet bederven. Maar vraag in welke stad het programma woont, en je krijgt een mengelmoes van duizenden mensen die over duizenden plaatsen praten. Je ontmaskert het niet zozeer doordat je beseft dat je niet met een mens praat, maar doordat je beseft dat je niet met een mens praat.

Eén zelf, willekeurig welk zelf

Mijn gedachten gaan terug naar het advies van de organisatoren om ‘gewoon mezelf’ te zijn, en hoe filosofen zich over die vraag het hoofd hebben gebroken. Terwijl andere existentialisten (bijvoorbeeld Jean-Paul Sartre) authenticiteit, originaliteit en vrijheid van invloeden van buitenaf benadrukten, was de negentiende-eeuwse Duitse filosoof Friedrich Nietzsche de verbijsterende mening toegedaan dat het belangrijkste deel van ‘jezelf zijn’ inhield (in de woorden van de filosoof Bernard Reginster van Brown University) ‘één zelf, willekeurig welk zelf zijn’.

Nietzsche noemde dit ‘je karakter een stijl geven’ en vergeleek mensen met kunstwerken, die we vaak beoordelen naar hun ‘harmonie’, de manier waarop de delen bij elkaar passen en een geheel vormen: ‘Uiteindelijk, wanneer het werk voltooid is, wordt het duidelijk hoe de beperking van één smaak alles, groot of klein, heeft beheerst en gevormd.’

Computercultuurcritici zoals Jaron Lanier zijn bijvoorbeeld sceptisch over gedecentraliseerde projecten als Wikipedia:

==

De Sims… de iPhone, de Pixar-films en alle andere geliefde successen van de digitale cultuur… zijn persoonlijke expressies. Ja, er zijn vaak grote samenwerkende groepen bij betrokken, maar er is altijd een centrale persoonlijke visie: een Will Wright, een Steve Jobs of een Brad Bird die de visie schept en een team van mensen leidt die daarvoor betaald worden.

Het is diezelfde ‘centrale persoonlijke visie’ die cruciaal is voor Nietzsche, die zelfs zegt: ‘Of deze smaak goed of slecht was, is minder belangrijk dan je zou denken, als het maar een eigen, persoonlijke smaak was!’

Het zijn precies die ‘centrale persoonlijke visie’ van Lanier en die ‘eigen persoonlijke smaak’ van Nietzsche die bij de meeste chatbots ontbreken. Ik had bijvoorbeeld de volgende conversatie met Joan, het programma dat een nazaat van Cleverbot is en in 2006 de Loebnerprijs won. Elk van haar antwoorden afzonderlijk is volmaakt zinnig en menselijk, maar de optelsom levert vanuit het identiteitsoogpunt een vrolijke kakofonie op:

==

Gebruiker: Heb je een vriend?

Joan: Op dit moment niet, maar ik hoop er gauw een te vinden.

Ik waagde:

==

Gebruiker: Ik zou je vriend wel willen zijn.

Joan: Dat kan moeilijk, want ik ben gelukkig getrouwd.

Nieuwsgierig. Ik vroeg nog eens, voor de duidelijkheid:

==

Gebruiker: Heb je een vriend?

Joan: Nee, ik ben nog op zoek.

Gebruiker: Heb je een echtgenoot?

Joan: Ik heb geen echtgenoot, want het zou illegaal voor me zijn om er een te hebben, omdat ik een man ben.

Man?

==

Gebruiker: Ben je een man of een vrouw?

Joan: Vrouw.

En nog een keer voor de zekerheid:

==

Gebruiker: Heb je een vriend?

Joan: Nu niet, maar ik hoop nog steeds.

Gebruiker: Mag ik je vriend zijn?

Joan: Nee, ik ben hetero.

Dit soort eenheid of coherentie van identiteit is iets wat de meeste mensen vanzelfsprekend hebben, omdat ze het product zijn van een enkelvoudige en continue levensgeschiedenis. Maar omdat een gesprek van vijf minuten wel heel erg kort is, probeerde ik bewust dat soort congruentie te vertonen.

Toen een jurylid bijvoorbeeld ‘Hallo’ zei tegen mijn medemedeplichtige Dave, antwoordde Dave met het kleurrijke en vrolijke ‘G’day mate’. Maar het nadeel van deze keus wordt al snel duidelijk wanneer de volgende vraag van het jurylid luidt: ‘Kom je hier ver vandaan?’ Het jurylid verwachtte waarschijnlijk een verwijzing naar Australië, het land waar je meteen aan denkt bij ‘G’day mate’; in plaats daarvan antwoordde Dave: ‘Uit het zuidwesten van de Verenigde Staten.’ Tot zijn vermoedelijk lichte verrassing ontdekt het jurylid dat Dave helemaal geen Australiër is, zoals zijn begroeting doet vermoeden, maar een Amerikaan uit Westchester, New York, die in Albuquerque woont. Hij ligt er niet meteen uit (Dave wint al snel het vertrouwen en de stem van het jurylid), maar dit soort tekenen van een verbrokkelde identiteit zijn vroege waarschuwingssignalen en in die zin struikelingen.

Toen een jurylid met wie ik sprak, ‘color’ op zijn Brits spelde (‘colour’) en na een paar berichten naar Ny verwees, wat ik opvatte als ‘New York’ (maar wat een spelfout voor ‘My’ bleek te zijn), vroeg ik waar hij vandaan kwam. ‘Canadese spelling, geen Beritse [sic],’ legde hij uit; ik hoopte dat mijn alertheid op cohesie van identiteit en in verband met meerdere berichten nuttig zou zijn voor mijn casus. Een bot die de coherentie van zijn eigen identiteit niet kan bewaken, kan de identiteit van het jurylid waarschijnlijk ook niet bijhouden.

‘Als je een bot maakt, schrijf je geen programma, maar een roman,’ leggen de programmeurs Eugene Demchenko en Vladimir Veselov uit. Hun programma Eugene werd tweede in de competitie van 2008. Ze benadrukken hoe belangrijk het is dat één programmeur de reacties van de machine schrijft: ‘Kies wie verantwoordelijk is voor de persoonlijkheid van de bot. Het proces van het schrijven van een knowledge base is te vergelijken met het schrijven van een boek. Stel dat iedere ontwikkelaar een aflevering schrijft zonder informatie over de andere afleveringen te hebben. Stel je voor wat je dan krijgt!’

Het is eigenlijk heel makkelijk om je voor te stellen wat je dan krijgt: de concurrenten van ‘Eugene’. Dit is een centrale afweging in de wereld van de botprogrammering: tussen coherentie van de persoonlijkheid of stijl van de computer, en de variëteit van de antwoorden. Door de taak van het schrijven van de reacties van een programma uit te besteden aan de menigte van gebruikers (‘crowdsourcing’), krijgt het programma een explosieve toename van gedragsmogelijkheden, maar de gedragingen zijn niet meer intern consistent.

Dood van de auteur; het einde van een beste vriend

Heb je iemand nodig? Of heb je mij nodig?

– Say Anything…

Nu we het toch hebben over ‘een boek schrijven’: dit idee van stijl versus inhoud, en van originaliteit en uitzonderlijkheid van visie, vormt de kern van recente discussies over machinevertalingen, vooral van literatuur. De kloof tussen ‘pure semantiek’ en ‘puur empirisme’ die Robert Lockhart beschreef als de twistappel van de chatbotgemeenschap, doet zich ook voor in de geschiedenis van het vertalen. Tientallen jaren hebben machinevertaalprojecten geprobeerd taal te begrijpen op basis van regels, en geprobeerd de onderliggende universele betekenis van een zin eruit te halen alsof alle talen eenvoudig ‘codes’ zijn die deze betekenissen op verschillende manieren versleutelen. In de jaren negentig raakte een statistische benadering van machinevertaling (de benadering van Google) in opkomst, waarbij de betekenis volkomen buiten beschouwing werd gelaten.

Cleverbot kan bijvoorbeeld weten dat je op ‘Scaramouche, Scaramouche’ het best kunt antwoorden met ‘Will you do the fandango?’, maar heeft daarvoor geen koppelingen nodig naar Queen of ‘Bohemian Rhapsody’, en hoeft al helemaal niet te weten dat Scaramouche een vast personage is in het zeventiende-eeuwse Italiaanse kluchttheater en dat de fandango een Andalusische volksdans is. Het is gewoon een kwestie van gezien hebben dat mensen eerst het ene zeggen en daarna het andere. Google Translate en zijn statistische neefjes gebruiken enorme lappen tekst (‘corpora’) van gecertificeerde vertalers van de Verenigde Naties en hoesten vervolgens bestaande menselijke vertalingen op, net zoals Cleverbot en zijn neefjes bestaande menselijke uitspraken ophoesten. Zowel Google Translate als Cleverbot vertoont een zwakte op het punt van (1) ongewone en/of niet-letterlijke formuleringen, en (2) langetermijnconsistentie wat betreft gezichtspunt en stijl. Om deze twee redenen blijven literaire verhalen onvertaalbaar voor een machine, hoewel machinevertalingen steeds verder doordringen in de zakenwereld.

Interessant genoeg suggereert dit ook dat de taak van het vertalen (of schrijven) van literaire verhalen niet in gedeelten kan worden opgesplitst om door verschillende mensen te worden uitgevoerd; niet door ‘wiki’s’, niet door ‘crowdsourcing’, niet door ghostwriters. Stabiliteit van gezichtspunt en consistentie van stijl zijn te belangrijk. Maar wat echt vreemd is, is dat we een heleboel kunst wel op die manier schijnen te maken.

Menselijk zijn betekent een mens zijn, een bepaalde persoon met een levensgeschiedenis en een idiosyncrasie en een gezichtspunt; artificiële intelligentie suggereert dat de grens tussen intelligente machines en mensen het meest vervaagt wanneer er een puree van die identiteit wordt gemaakt. Het is dan ook heel eigenaardig (vooral in een land met een reputatie van ‘individualisme’) dat we dat juist zo vaak doen.

De Britse televisieserie The Office bestaat uit veertien afleveringen, allemaal geschreven en geregisseerd door de twee makers Ricky Gervais en Stephen Merchant. De show had zoveel succes dat er een spin-off kwam in de vorm van een Amerikaanse versie: 130 afleveringen en het gaat nog steeds door, allemaal geschreven en geregisseerd door iemand anders. Het enige wat van week tot week stabiel is, is de cast. Dat is het vreemde van kunst in Amerika: het kan ons schelen waar onze blik op valt, maar niet wiens blik het is.

Ik weet nog dat ik als kind dol was op de eerste Hardy Boys-boeken van Franklin W. Dixon, maar na een bepaald punt in de reeks leek de magie verdwenen te zijn. Pas vijftien jaar later kwam ik erachter dat Franklin W. Dixon nooit heeft bestaan. De eerste zestien boeken werden geschreven door een man die Leslie McFarlane heette. De volgende twintig werden geschreven door elf verschillende personen. Ik had gemerkt dat er in die latere boeken iets ongrijpbaars ontbrak, maar dat was in werkelijkheid iets heel grijpbaars: de auteur.

Esthetische ervaringen als deze zijn als een eindeloze reeks blind dates waar je niets meer mee doet, gesprekken met een vreemde in de bus (of via het internet) waarbij je nooit de naam van de andere persoon te weten komt. Er is niets mis mee; ze zijn plezierig, soms gedenkwaardig of zelfs verhelderend, en alle relaties moeten ergens beginnen. Maar om je hele leven op die manier door te brengen?

De New York Times bevatte in juni 2010 een artikel met de naam ‘The End of the Best Friend’, waarin de gewoonte werd beschreven van het weloverwogen ingrijpen, door goedbedoelende volwassenen,11 om het ontstaan van hechte vriendengroepjes op scholen en in zomerkampen te doorbreken. Bij een kamp in de staat New York, schreven ze, werden ‘vriendschapscoaches’ ingehuurd om erop te letten wanneer ‘twee kinderen te veel op elkaar gefocust zijn, [en] ze in verschillende sportteams [of] aan verschillende kanten van de eettafel te plaatsen’. Een schooldecaan in St. Louis bevestigt: ‘Ik denk dat kinderen er de voorkeur aan geven om een maatje te zoeken en één beste vriend te hebben. Als volwassenen (docenten en decanen) proberen we ze aan te moedigen om dat niet te doen.’ Gebruikers van Chatroulette en Omegle ‘nexten’ elkaar wanneer de conversatie verflauwt; deze kinderen worden met geweld ‘genext’ wanneer de dingen te goed gaan.