Jos de Mul. PedoBot® is niet boos, maar wel verdrietig (en soms opgewonden). Over intelligente robots, emoties en sociale interactie. In: J.B. de Jong (red.), Kenniskamer Intelligente Robots, 56-63. Den Haag: Ministerie van Veiligheid en Justitie en Rathenau Instituut, 2011.
Look David, I can see you’re really upset about this. I honestly think you ought to sit down calmly, take a stress pill, and think things over.
HAL
Tot voor kort troffen we robots, behalve in sciencefiction romans en films, vooral aan in de fabriek. De industriële robot is daaruit inmiddels niet meer weg te denken. Schoorvoetend maakt de robot nu echter ook zijn entree in de publieke en private ruimte, waardoor hij als actor gaat deelnemen aan het menselijk verkeer. Daarvoor zijn allerlei nuttige toepassingen te bedenken, maar er zijn ook uiteenlopende gevaren en maatschappelijke en ethische vraagstukken mee verbonden. Indien we de robot op een succesvolle wijze met mensen laten interacteren, dan zullen ze niet alleen intelligent moeten zijn, maar ook goed met emoties om moeten kunnen gaan.
Robots in soorten en maten
Intelligente robots, machines die geprogrammeerd zijn om doelgericht te handelen, rationeel te beslissen en effectief met hun omgeving te interacteren, zijn er in vele soorten en maten.
Wat hun uiterlijke verschijningsvorm betreft, kunnen we onderscheiden tussen androïde robots, die uiterlijk en qua gedrag sterk op mensen lijken, en niet-androïde robots die qua bouw en functioneren sterk afwijken van de menselijke levensvorm, zoals de huidige fabrieksrobots en robotstofzuigers. Waar in de Westerse wereld, wellicht onder invloed van het christendom (‘Gij zult niet voor God spelen’), een taboe lijkt te liggen op androïde robots, is de robotica in landen als Japan er vaak juist op gericht robots zo menselijk mogelijk te maken.
Vanuit een ontologisch perspectief bezien variëren robots van tastbaar en onveranderlijk, zoals de Man van Staal uit het klassieke stripverhaal, tot virtueel en flexibel, zoals een softbot of avatar die zich aanpast aan de identiteit van zijn omgeving of gesprekspartner.
Wat omvang betreft kunnen robots variëren van microscopisch kleine nanobots, die hun weg banen door onze aderen, tot intelligente gebouwen en publieke ruimten (ambient intelligent environments) die ons als een interactieve huid omgeven.
Wanneer we kijken naar de mate van autonomie, bevinden intelligente robots zich steeds ergens op een continuüm tussen twee uitersten: niet-autonome telerobots, waarvan het gedrag volledig wordt aangestuurd door de gebruiker (zoals de robots die door politie en brandweer worden gebruikt om handelingen uit te voeren in levensbedreigende omgevingen), en kunstmatig-intelligente levensvormen, die volstrekt autonoom zijn in de zin dat ze zichzelf kunnen handhaven, reproduceren en ontwikkelen (dit type treffen wij vooralsnog alleen aan in sciencefictionromans en -films).
Wat onze relatie tot robots betreft kunnen we, ten slotte, nog onderscheiden tussen een inlijvingsrelatie, waarbij de robot deel van ons lichaamsschema wordt (bijvoorbeeld een aan ons lichaam gekoppelde robotarm), een hermeneutische relatie, waarbij we door de robot de werkelijkheid waarnemen en daarmee kunnen interacteren (de zojuist genoemde telerobot is daarvan een voorbeeld), een achtergrondsrelatie, waarbij de robot onze ervaringsomgeving reguleert (het intelligente gebouw behoort tot deze categorie), en een alteriteitsrelatie, waarbij de robot tegenover ons staat als een artificiële actor, waarmee we zelf in interactie treden.
In de context van deze bijdrage gaat het vooral om deze alteriteitsrelatie, en meer in het bijzonder om de emotionele dimensie van onze sociale omgang met intelligente robots. Om te begrijpen waarom dat belangrijk is, dienen we in te zien dat ‘intelligentie’ en ‘emotie’ nauw met elkaar verbonden zijn.
Intelligentie
Hoe verschillend de verschillende typen robots die we hebben onderscheiden ook zijn, ze hebben allen gemeen dat ze een zekere mate van intelligentie bezitten. Hoewel intelligentie door sommige psychologen wel is opgevat als één specifieke eigenschap die kwantitatief kan worden uitgedrukt, wordt intelligentie tegenwoordig meestal begrepen als te maken met een vermogen dat is samengesteld uit een groot aantal verschillende kwaliteiten.
In de vorige paragraaf werden ten aanzien van intelligente robots al drie verschillende kwaliteiten onderscheiden: doelgericht handelen, rationeel beslissen en effectief interacteren. Deze activiteiten veronderstellen weer tal van afzonderlijke vaardigheden, zoals ruimtelijke oriëntatie en mobiliteit, waarneming van overeenkomsten en verschillen, diverse geheugenfuncties, en het vermogen te abstraheren, te voorspellen en zelfstandig te leren van ervaringen.
Bovendien verschillen de genoemde vaardigheden al naar gelang het domein waarin ze optreden. Het kunnen waarnemen en voorspellen van een patroon in een reeks getallen is immers niet hetzelfde als het kunnen herkennen en voorspellen van een motief in een muziekstuk, of van een specifieke emotie in een persoon. Daarom wordt er vaak onderscheid gemaakt tussen verschillende vormen van intelligentie, bijvoorbeeld tussen theoretische (analytische), creatieve (synthetische) en praktische (sociale) intelligentie.
Dit alles maakt duidelijk dat intelligentie meer wegheeft van ratatouille dan van een eenheidsworst. Dieren, mensen en artefacten als robots kunnen op verschillende manieren intelligent zijn en ieder van de daarvoor vereiste vaardigheden kan daarbij in meer of mindere mate aanwezig zijn.
Emoties
Sinds de jaren negentig van de vorige eeuw is er veel onderzoek verricht naar de relatie tussen intelligentie en emoties. Emoties worden vaak opgevat als niet-rationele affecten en gevoelens. Onderzoekers als Damasio betogen echter dat emoties in alle genoemde vormen van intelligentie een cruciale rol spelen. Om dat in te zien, dienen we een moment stil te staan bij wat een emotie is.
We kunnen emoties opvatten als reacties op uitwendige of inwendige prikkels of gebeurtenissen, die tot uitdrukking komen in bepaalde fysiologische kenmerken (bijvoorbeeld verhoogde hartslag), gedragspatronen (bijvoorbeeld vluchten) en/of gevoelens (bijvoorbeeld angst). Daarbij kunnen we twee basisdimensies onderscheiden: de valentie (prettig of onprettig) en de intensiteit van de emotie (die we bijvoorbeeld zien oplopen in de reeks bezorgdheid, vrees, paranoia). We kunnen daarbij verder nog onderscheiden tussen primaire emoties, die aangeboren zijn en een sterk reflexmatig - en soms onbewust - karakter hebben en bij ieder mens worden aangetroffen (zoals angst, vreugde, verdriet, opwinding) en secundaire emoties, die voor een belangrijk deel aangeleerd zijn en daardoor cultureel bepaald zijn (bijvoorbeeld: schaamteculturen versus schuldculturen). Vaak worden emoties als tijdelijke, door prikkels of gebeurtenissen veroorzaakte, ‘aandoeningen’ (zoals verliefdheid) onderscheiden van langdurige affecten (liefde), affectieve disposities (een licht ontvlambaar karakter) en objectloze affecten (een verveelde stemming of depressie).
Emotionele intelligentie en intelligente emoties
Wat maakt emoties nu cruciaal voor intelligent gedrag? Dat is primair gelegen in de (sterk) motiverende werking die van emoties uitgaat (het is niet toevallig dat de woorden ‘emotie’ en ‘motief’ beide teruggaan op het Latijnse movere, bewegen). Emoties brengen ons ertoe interacties aan te gaan met onze omgeving, daarbij doelen te formuleren en na te streven en beslissingen te nemen. Wie, zoals in geval van een bepaald type hersenletsel, geen emoties ervaart, is lusteloos en doelloos en blijft op zijn best steken in eindeloze afwegingen zonder tot een beslissing te worden bewogen.
In praktische ofwel sociale intelligentie spelen emoties ook nog een andere rol. Niet alleen motiveren ze het sociale verkeer, maar om op adequate wijze aan dat verkeer deel te kunnen nemen, moeten we bovendien in staat zijn emoties bij onszelf en anderen te herkennen en op een herkenbare wijze te kunnen uitdrukken (beide belangrijke sociale vaardigheden). Eveneens van belang is dat we ons kunnen inleven in de emoties van anderen (empathie). In de jaren negentig van de vorige eeuw ontstond een heuse hype rondom het begrip ‘emotionele intelligentie’ (gemeten met de index EQ), maar ook hier geldt dat we niet zozeer te maken hebben met een afzonderlijk vermogen, maar met een specifieke dimensie van intelligentie die in ieder domein van het menselijk handelen een rol speelt.
Affectieve robots
Wanneer robots worden ingezet bij industriële productieprocessen, of als instrument dienen om op verre planeten onderzoeksdata te verzamelen, dan heeft onze omgang daarmee primair de vorm van een hermeneutische relatie. De robot is dan voor alles een instrument waardoorheen we de wereld waarnemen of waarmee we in die wereld ingrijpen. Alleen wanneer de robot niet doet wat we willen, lijkt hij tegenover ons te komen staan. Wanneer we robots gaan inzetten in publieke en private ruimtes (op straat, op verkeersknooppunten, festivalterreinen, voetbalstadions, bioscopen, winkelcentra, kantoren en huishoudens) ten behoeve van uiteenlopende sociale activiteiten (informatievergaring en -voorziening, dienstverlening, toezicht, bewaking, bescherming, reddingsacties, crowd control, opsporing, arrestatie, etc.), dan verandert de relatie die we met robots onderhouden in een alteriteitsrelatie. De robots worden dan tot sociale actoren.
Ook bij sociale interactie tussen mensen en robots spelen emoties een belangrijke rol. Wat de menselijke actor betreft gaat het daarbij onder andere om zaken als acceptatie, inlevingsvermogen, plezier, vertrouwen, onwennigheid, frustratie, angst voor disfunctioneren, vrees voor een mogelijke inbreuk op emotionele privacy, etc. Bij het ontwerpen en implementeren van ‘sociale robots’ dient de inspanning gericht te zijn op het implementeren van de emotionele vaardigheden die vereist zijn voor efficiënte sociale interactie. Daartoe zijn in de afgelopen decennia een aantal disciplines tot ontwikkeling gekomen, zoals sociale robotica en ‘affective computing’.
Een van de uitgangspunten van deze disciplines is dat robots, willen zij op adequate wijze aan het sociale verkeer deelnemen, ook affectieve intelligentie dienen te bezitten. Daarbij kunnen globaal drie taken worden onderscheiden. In de eerste plaats is het van belang dat robots emoties bij de menselijke actoren kunnen herkennen. Dat is mogelijk door de robot de fysiologische en gedragsmatige veranderingen (gelaatsuitdrukking, lichaamshouding en –beweging) te laten registreren waarin emoties tot uitdrukking komen. In de tweede plaats dient de robot zelf emoties te kunnen uitdrukken. Dat kan eveneens door gelaatsuitdrukking, lichaamshouding en -beweging (zie afbeelding 1: De affectieve robot Kismet). In de derde plaats zou een robot, om eenzelfde soort en mate van intelligentie als de mens tentoon te kunnen spreiden - dat wil zeggen: om doelen te kunnen stellen, rationeel te kunnen beslissen en effectief te kunnen interacteren - ook emoties moeten ervaren. In tegenstelling tot de eerste twee vaardigheden is daarvan bij de huidige robots geen sprake.
Een interessante filosofische vraag is of robots zoals we die nu kennen (d.w.z. machines die gebouwd zijn op basis van de klassieke mechanica en de seriële Von Neuman computer) emoties zouden kunnen ervaren. Voor het functioneren van robots en mens-robot interacties is het antwoord op die vraag echter meesttijds irrelevant. In de eerste plaats omdat we ongeacht of computers emoties kunnen ervaren, een dergelijke ervaring wel kunnen simuleren, net zoals een schaakcomputer niet echt kan denken, maar desalniettemin uitstekend kan schaken. Dergelijke simulaties zijn niet ‘real in fact’ maar wel ‘real in effect’ Als we een robot zo programmeren dat hij in geval hij door een groep hooligans dreigt te worden beschadigd of vernietigd de plaats van onheil verlaat, dan is het met het oog op het in de robot programmeerde doel (‘overleven’) niet relevant of dit ‘vluchtgedrag’ wel of niet gepaard gaat met subjectieve angstgevoelens in het inwendige van de robot. In de tweede plaats is de vraag of robots echte emoties hebben ook grotendeels irrelevant vanuit het perspectief van de menselijke actor. Mensen hebben het vermogen én de neiging om intenties en emoties toe te schrijven aan alle entiteiten waarmee ze interacteren. Dat fenomeen zien we niet alleen bij het kind dat speelt met een pop en de dierenliefhebber die zijn hond een standje geeft, maar het doet zich ook voor wanneer we interacteren met artefacten en des te sterker naarmate deze een grotere mate van autonomie en gelijkenis met de mens bezitten bezitten (zie afbeeling 2: Robot met gelaatsuitdrukking en afbeelding 3: Japanse verpleegsterrobot Actroid-F).
Emobots in actie
Hoewel er veel wordt geëxperimenteerd met sociale en affectieve robots, staan we nog maar aan het begin van de daadwerkelijke implementatie daarvan in de publieke en private ruimte. Dat komt niet alleen doordat (sociale) robotica en affective computing nog in de kinderschoenen staan, maar ook omdat machines die het vermogen hebben om menselijke emoties waar te nemen, te meten, registreren, communiceren en beïnvloeden niet alleen talloze nuttige toepassingen beloven, maar ook grote gevaren met zich meebrengen en bovendien allerlei fundamentele maatschappelijke en ethische vraagstukken oproepen.
In plaats van een droge opsomming te geven van mogelijke toepassingen, gevaren en vraagstukken, wil ik een aantal daarvan aan de hand van een in 2023 gesitueerde casus van affectieve robotica bespreken. Hoewel denkbeeldig, gaat het in die casus om toepassingen die technisch gezien al mogelijk zijn, of op basis van huidige technologieën in principe kunnen worden gerealiseerd. Geen sciencefiction dus, maar sciencefaction. Toekomstige sociale robots zullen affectief zijn, of ze zullen niet zijn. Het is aan de lezer uit te maken of dat aanleiding zal geven tot maatschappelijke en ethische satisfaction.
PedoBot®
Den Haag, 31 augustus 2023
Na de relatief liberale jaren zestig, zeventig en tachtig van de vorige eeuw, is – onder meer door een aantal geruchtmakende gevallen van grootschalig seksueel misbruik van kinderen - de maatschappelijke acceptatie van pedofilie in de eerste decennia van de 21ste eeuw sterk afgenomen. Dat kwam niet alleen tot uitdrukking in de strafmaat, maar ook in het feit dat pedofielen na hun detentie steeds vaker uit hun woonomgeving werden verjaagd, waardoor hun maatschappelijk isolement steeds verder toenam, en daarmee ook de kans op recidive, die zoals bekend, ook na therapeutische behandeling, groot blijft.
Sinds 2009 is, in navolging van Canada en de toenmalige Verenigde Staten, ook in ons land geëxperimenteerd met intensieve en langdurige begeleiding door buddies, voornamelijk vrienden uit de directe omgeving van de pedofiel. Hoewel deze begeleidingsvorm de kans op recidive aanmerkelijk verkleinde, bleek bij grootschaliger toepassing het vinden van geschikte buddies de bottleneck. Om die reden startte in 2016 inNederland een eerste experiment met een Japanse PedoBot® , een affectieve, androïde robot die speciaal voor deze taak is ontworpen. Het doel van deze pedobot is om recidive te voorkomen. Daartoe monitort de robot niet alleen 24 uur per dag de bewegingen van de cliënt, maar ook diens emotionele gesteldheid (die worden geregistreerd in een door Reclassering Nederland beheerde Dynamic Emoscan). Indien nodig kan de pedobot therapeutisch interveniëren. Daartoe is hij uitgerust met therapeutische programmatuur, die is afgestemd op de individuele behoeften en het risicoprofiel van de cliënt. Vanwege de in Nederland bestaande wetgeving betreffende lichamelijke integriteit was deze experimentele Nederlandse PedoBot®, anders dan de Japanse, niet uitgerust met een in de enkelband ingebouwde CMU (Chemical Modulation Unit). Deze enkelband zorgt ervoor dat het scannen van de fysieke en emotionele mobiliteit van de cliënt ook bij het verlaten van de woning doorgaat. Wanneer zich van de zijde van de cliënt ongewenst gedrag voordoet en psycho- en neurotherepeutische interventies onverhoopt geen effect hebben, schakelt de pedobot de politie in en geeft de geografische en emotionele coördinaten van de cliënt door. Naar verwachting zullen toekomstige, mobielere pedobots cliënten ook buitenhuis kunnen vergezellen, bewaken en beschermen.
Eén van de meest opvallende bevindingen van het experiment in 2016 was de sterke emotionele hechting van de cliënten aan hun pedobot. Volgens deskundigen was dit niet in de eerste plaats toe te schrijven aan het zogenaamde Stockholm Syndrome, maar veeleer aan de geavanceerde empathische vermogens van de PedoBot®, waarin de veelal in een sociaal isolement verkerende cliënt een begripvolle en niet bij voorbaat moraliserende gesprekspartner vindt. In het geval van de pedobot bleef de gevreesde agressie, zoals die zich voordoet jegens de RiotBots die sinds enkele jaren worden ingezet om demonstranten en voetbalsupporters te begeleiden, achterwege. Ook zijn er, anders dan na de introductie van de TerroBots na de aanslag met het gemodificeerde Spaanse griepvirus op het vliegveld Charles de Gaulle in 2014, nauwelijks rechtszaken aangespannen tegen de door de emoscans veroorzaakte inbreuk op emotionele privacy. En ook de vrees voor dehumanisering –die ontstond toen het kabinet Wilders II in 2015 JailBots in gevangenissen introduceerde, bleek onterecht. Integendeel, zowel bij de Jailbot als bij de PedoBot® ontstonden er van de zijde van de cliënt even sterke als warme gevoelens voor hun robot, die moeilijk anders dan vriendschappelijk of zelfs liefdevol kunnen worden genoemd (hoewel deskundigen vanwege het niet-reciproke karakter van deze affectieve relaties hier liever van ‘para-affectieve hechting’ spreken). Geheel onverwacht is dat overigens niet, gezien de ervaringen die er reeds in het begin van het vorige decennium zijn opgedaan met wederzijdse socialisatie van veelplegers en mishandelde asielhonden in het Dutch Cell Dogs programma.
Waar de introductie van pedobots in 2016 op brede maatschappelijke acceptatie kon rekenen, stuitte het in 2018 voorgestelde vervanging van synthetische kinderporno (die sinds 2013 aan pedofielen wordt verstrekt om hun behoeften te bevredigen zonder dat daar misbruik van kinderen mee gepaard gaat), door pedoïde robots op grote maatschappelijke weerstand. Hoewel het experiment met de PedoBot® Junior (in de volksmond al snel omgedoopt tot de LolitaBot) een spectaculaire verdere daling van de recidive tot gevolg had, doen deze uiterst realistische kindrobots volgens critici het onderscheid tussen werkelijk en virtueel misbruik volledig vervagen en ondermijnen zij tevens het vermogen tot morele zelfbeheersing. De ethicus Prof.dr. Mustafa Donkers (prominent lid van het Christen-Islamitische Appel) heeft om die reden in die jaren gepleit voor een algeheel verbod op androïde robots.
Het pleidooi van Donkers dient ook bezien te worden tegen een reeks andere problemen met sociale robots die in die jaren op de maatschappelijke agenda werden geplaatst. Zo ontstond er in 2016 grote commotie over de inzet van gehackte androïde RiotBots door criminele bendes. Vooral het feit dat zij erin waren geslaagd de eerste wet van Asimov (Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt), die wettelijk verplicht in iedere robot wordt geïmplementeerd, te omzeilen, waardoor robots opzettelijk de eerste dodelijke slachtoffers maakten, leidde tot grote maatschappelijke beroering. Hetzelfde gebeurde een jaar later, toen uitkwam dat Shanghai Persuasive Technologies al enkele jaren emoscans gebruikte om consumenten te stalken met op hun bewuste en onbewuste verlangens gerichte advertenties en tevens pogingen ondernam nieuwe emotionele consumentenverlangens te enten door middel van neurotransplantatie. Dit heeft in de Christenfundamentalistische Staten van Amerika in 2021 geleid tot een algeheel verbod op affectieve en persuasieve technologieën.
Ook Nederland heeft kennisgemaakt met de keerzijde van de robot. Een van de schokkendste gevallen, in 2018, was de ontdekking van seksueel misbruik van kinderen door een van slag geraakte PedoBot® Junior. De openbare vernietiging van die robot die volgde op de rechtszaak die de ouders van de misbruikte kinderen tegen Samsung hadden aangespannen, haalde wereldwijd het internetjournaal.
Het is dan ook niet zo gek dat de in 2019 opgerichte Partij voor de Robots in haar verkiezingsprogramma pleitte voor het opnemen van robotrechten in de Noord-Europese Grondwet. Of het zover zal komen als in Japan, waar in 2020 de eerste androïde robot in het parlement werd verkozen, wordt door velen betwijfeld, maar de onlangs aangenomen wetgeving inzake het gebruik van proefrobots in de emo-neurologisch onderzoek, maakt duidelijk dat sinds de introductie van affectieve robots ook in Nederland de positie van intelligente artefacten langzamerhand aan het verschuiven is.
