2015-09-19 (Trouw) Waarom we robots zo vrezen

Wie dacht dat het zo’n vaart niet zou lopen, werd opgeschrikt door het nieuws dat in 2014 voor de eerste keer een kunstmatige intelligentie is geslaagd voor de zogeheten Turingtest. Deze test moet bepalen of een kunstmatige intelligentie zich kan meten met die van de mens. De test werd in 1950 ontworpen door Alan Turing (1912-1954), de briljante wiskundige die de programmeerbare computer bedacht. De film ‘The Imitation Game’ (2014, zie kader) belichtte zijn kunststuk: het kraken van de geheime Enigma-code van de Nazi’s.

Het antwoord op Turings vraagstelling is niet eenvoudig. Er bestaat weinig overeenstemming over de vraag wat intelligentie nu precies inhoudt, en we hebben bovendien geen toegang tot het ‘innerlijk’ van de computer. Dat geldt, zo voegt Turing er fijntjes aan toe, overigens ook voor de mens. We kunnen immers niet bij onze medemensen naar binnen kijken om vast te stellen of zich daar een geest of bewustzijn bevindt.

Turing bedacht een ‘imitatiespel’ voor drie spelers, waarbij een man en een vrouw zich in de ene kamer bevinden, en een ondervrager in een andere kamer. Ze communiceren via briefjes. De ondervrager moet door vragen zien te achterhalen wie van de twee de vrouw is. De man moet daarbij proberen de vragensteller te misleiden, de vrouw moet hem juist helpen. Als je de taak van de man laat verrichten door een intelligente machine en de communicatie via een teleprinter laat verlopen, zo bedacht Turing, kun je de intelligentie van de machine testen.

Hij bedacht ook bij welke score je mag  spreken van een intelligente machine – en voorspelde dat die rond 2000 zou worden gemaakt.

De Turingtest is niet onomstreden. Is het kunnen voeren van een gesprek niet een veel te smalle opvatting van menselijke intelligentie? Turing merkte zelf ook al op dat de beste manier om een intelligente machine te maken zou zijn een complete mens, met zintuigen en ledematen, na te bouwen, die de wereld zou kunnen verkennen, en zou leren van zijn ervaringen. Maar zelfs zo’n kunstmatige mens – die Turing vanwege de enorme omvang van de toenmalige ‘kunstmatige breinen’ onrealiseerbaar achtte – zou volgens hem de ervaring missen van ‘voedsel, seks, sport en talloze andere dingen waarin de mens geïnteresseerd is’.

Toch spreekt de Turingtest nog steeds tot de verbeelding. Sinds 1991 wordt er zelfs jaarlijks een wedstrijd georganiseerd waarin chatbots proberen een jury ervan te overtuigen dat zij mensen zijn. Ondanks het beperkte karakter van deze intelligentietest was het tot 2014 geen enkele chatbot gelukt de jury om de tuin te leiden. Maar in dat jaar slaagde de Russische chatbot ‘Eugene Goosman’ erin de jury in meer dan 30 procent van de testen – Turings criterium – ervan te overtuigen dat hij een mens was. Dat was volgens critici vooral te danken aan een trucje: hij werd gepresenteerd als een 13-jarige Oekraïense jongen, die Engels slechts als tweede taal had geleerd. De ondervragers werden hier in feite misleid door een ‘digitale dommerik’.

Of is het vermogen te bedriegen juist een voorwaarde voor intelligentie? Je zou het bijna denken als je de drie recente robotfilms ‘Her’,  ‘Ex machina’ en ‘Uncanny’ bekijkt. Die gaan steeds over een liefdesrelatie tussen een mens en een meer of minder menselijk uitziende robot. En elke keer loopt het slecht af met de mens.

In ‘Her’ lijkt het nog vooral te gaan om zelfbedrog. De film handelt over de eenzame Theodore, die verliefd wordt op het nieuwe  sprekende besturingssysteem van zijn computer, dat de naam Samantha draagt. Het systeem heeft de stem van Scarlett Johansson en lijkt een toekomstige versie van virtuele assistenten als Siri (Apple) en Cortana (Windows 10).

Dat Theodore verliefd wordt op zijn besturingssysteem lijkt naïef, aangezien hij weet dat Samantha slechts een computerprogramma is. Toch merken we in de praktijk hoezeer we ons hechten aan interactieve apparaten, vooral wanneer deze aandacht vragen (de tamagotchi) of schenken (Zora, de zorgrobot aan wie bejaarden hun hart uitstorten).

Die neiging wordt alleen maar sterker als we niet weten dat we met een kunstmatige persoon van doen hebben. Dat overkwam de Amerikaanse psychologieprofessor en Turingtestspecialist Robert Epstein. In The Scientific American deed hij in 2007 verslag van zijn amoureuze correspondentie via een datingsite. Pas na vier maanden kreeg hij argwaan, en mailde hij de knappe Russische Ivana: “Asdf;kj as;kj I;jkj;j ;kasdkljk ;klkj klasdfk; asjdfkj. With love, Robert.” Toen hij eenzelfde lievig mailtje in gebrekkig Engels als altijd terugkreeg, wist Epstein dat ‘zij’ een chatbot was, en hij het slachtoffer van zelfbedrog en ‘darned clever programming’, zoals hij het omschreef.

Ook in de film ‘Ex Machina’ lijkt het in eerste instantie om zelfbedrog te gaan. Daarin wordt de software­pro­gram­meur Caleb, die bij de zoekmachine Bluebook werkt, door de excentrieke oprichter van het bedrijf uitgenodigd voor een variant op de Turingtest met Ava, een beeldschone vrouwelijke robot. Ava mag dan bijzonder aantrekkelijke lichaamsvormen bezitten (de film is één langgerekte mannenfantasie), een transparant deel daarvan toont overduidelijk haar mechanische innerlijk. Kan Ava Caleb ervan overtuigen dat ze echte emoties heeft, hoewel hij ziet dat zij een robot is? De verliefde Caleb is ziende blind, en het loopt slecht met hem af. Dat Ava als volleerde femme fatale tevens haar schepper Nathan – die als een moderne Blauwbaard heerst over zijn verzameling robotische seksslavinnen – vermoordt, roept wel de unheimische vraag op of Ava’s emoties dan misschien toch echt zijn.

Die vraag vormt het eigenlijke thema van ‘Ex Machina’, zoals blijkt uit de aanwezigheid in de film van Turings intellectuele rivaal Wittgenstein. De naam van Nathans bedrijf, Bluebook, verwijst naar een van Wittgensteins geschriften, en in Nathans huis hangt Klimts beroemde schilderij van Wittgensteins zuster.

In de jaren dat Turing werkte aan zijn ‘denkende machines’ volgde hij de colleges van Wittgenstein. Net als Turing was Wittgenstein een filosofisch behaviorist, die van mening was dat je het innerlijk van de mens niet los kan zien van de uiterlijke verschijningsvorm. Beiden vonden dat intelligentie geen mysterieus innerlijk vermogen is, maar zich toont in het gedrag.

Over één punt waren zij het hartstochtelijk oneens. In zijn Bluebook stelt Wittgenstein dat de vraag of een machine kan denken net zo onzinnig is als vragen naar de kleur van het getal drie. De betekenis van woorden ligt in hun gebruik, en in het ‘taalspel’ rondom machines horen woorden als ‘denken’ en ‘emoties’ niet thuis.

Turing is consequenter in zijn behaviorisme. Hij volgt de stelregel dat iets dat er uitziet, zwemt en kwaakt als een eend, ook een eend is. Een perfecte robot die in al zijn gedragingen niet van een mens is te onderscheiden, kan het predicaat ‘denken’ niet worden ontzegd. Turing leek daarbij, meer dan Wittgenstein, te beseffen dat het taalgebruik mee verandert met onze praktijken. Waar het tamelijk onzinnig is om intenties of emoties toe te schrijven aan een typemachine, daar zijn we in het geval van kunstmatige intelligenties daartoe wel geneigd. Zo zeggen mijn kleinkinderen dat de stofzuigerrobot zich voor de trap omdraait omdat hij bang is te vallen, hoewel ze best weten dat het een machine is.

De idee dat we mensen en robots in de toekomst niet langer zullen kunnen onderscheiden, is het centrale thema van ‘Uncanny’ (unheimisch). Net als in ‘Ex Machina’ wordt in ‘Uncanny’ een van de personages (de gesjeesde kunstmatige-intelligentiestudente en wetenschapsjournaliste Joy) een week lang door een gewetenloos genie aan een emotionele Turingtest onderworpen. Joy krijgt te maken met de mannelijke androïde robot Adam, die in uiterlijk en gedrag niet van een mens is te onderscheiden; hij heeft zelfs een spijsverteringsorgaan. Ook hier speelt seksuele aantrekkingskracht een rol. Toch is ‘Uncanny’ ook het contrapunt van ‘Ex Machina’, omdat we hier te maken hebben met een mannelijke robot, en het liefdesinitiatief ditmaal van de robot uitgaat. Als Joy een liefdesrelatie met  zijn maker aanknoopt, begint Adam obsessief jaloers gedrag te vertonen en neemt de Turingtest een bizarre wending.

Het begrip ‘uncanny valley’ wordt wel gebruikt voor de afkeer die dingen oproepen die heel erg op levende mensen lijken, maar dat toch niet zijn – lijken, zombies en androïde robots. Maar als robots zozeer op mensen gaan lijken dat we hen niet langer van ons kunnen onderscheiden, dringt zich de ongemakkelijke vraag op of wij zelf niet ook  ‘vochtige robots’(Dennett) zijn. Je zou er Turingeluurs van worden.

Dat kunstmatige intelligenties onze diepste angsten oproepen, komt vooral doordat de robot opnieuw een krenking betekent van het narcisme van de menselijke soort. Darwin had ons al eens ingepeperd dat we geen uitzonderlijke, door God geschapen wezens zijn, maar een aan apen verwante diersoort. En nu vervagen robots het onderscheid tussen mens en levenloze materie.

Zulke ongemakkelijke vragen drongen zich al bij het begin van de machinetechniek op. In een gedachte-experiment dat vooruitloopt op de Turingtest, vroeg Descartes zich in de zestiende eeuw af hoe we een perfect bewegende mechanische pop kunnen onderscheiden van een mens. Descartes kon zichzelf nog sussen  met de gedachte dat zulke poppen geen betekenisvol gesprek met ons kunnen voeren. Maar zo’n geruststelling is niet meer mogelijk bij de robots in de moderne sciencefictionfilm. 

We kunnen ons troosten met de gedachte dat in de echte wereld digitale dommeriken als Eugene Goosman nog de boventoon voeren. Ze mogen dan door hun gedrag de illusie in ons wekken dat ze denken en voelen, maar in werkelijkheid zijn ze zijn niet minder gedachteloos dan Descartes’ mechanische poppen. En als we denken aan de verbijsterende complexiteit van de menselijke intelligentie, zal dat voorlopig ook wel zo blijven.

Toch geeft het te denken dat de Goosmans van de digitale wereld inmiddels zijn begonnen ons te ‘Turingtesten’. Denk aan captcha’s (Completely Automated Public Turingtest to tell Computers and Humans Apart), de programmaatjes op websites die je vragen om een afgebeelde reeks letters of cijfers in te toetsen om te controleren of je een mens bent of een robot.

Het heeft er alle schijn van dat ons leven steeds meer in de greep van dergelijke algoritmen komt. Ik ben, anders dan Hawking, niet zozeer bang dat superieure intelligenties ons snel zullen overvleugelen. Mijn schrikbeeld is veeleer dat inferieure intelligenties ons gaan overheersen. En dat die zich vervolgens – nadat de mens al lang is uitgestorven – tot aan het einde der tijden gedachteloos zullen blijven reproduceren. Misschien is dat wel de meest unheimische gedachte.

Dit essay is een verkorte versie van de lezing die Jos de Mul heeft gehouden tijdens het festival Films by the Sea in Vlissingen, dat nog tot het eind van dit weekend duurt.