De afstandsbediening van de autonomie. Computergemedieerd handelen en morele verantwoordelijkheid

Het Kieskompas

Een van de activiteiten waarin de menselijke autonomie het meest expliciet tot uitdrukking komt, is het participeren in democratische verkiezingen. In de stem die we bij dergelijke verkiezingen in vrijheid uitbrengen, realiseren we immers bij uitstek ons rationele zelfbestuur. Tijdens de verkiezingen leggen we op expliciete wijze rekenschap af van het politieke programma dat we onderschrijven, de concrete beslissingen die we ondersteunen en de politieke idealen die we verwezenlijkt zouden willen zien. Dat is het idee, tenminste.

In Nederland is het uitbrengen van je stem niet eenvoudig. Er zijn nogal wat politieke partijen. Wie op een verantwoorde wijze zijn stem wil uitbrengen, dient de beschikking te hebben over de juiste informatie (zowel wat kanalen als wat inhoud betreft) met betrekking tot de politieke agenda’s van al deze partijen. Gelukkig zijn er vele kanalen beschikbaar: verkiezingsbijeenkomsten, folders, posters, reclames op radio en televisie en in dagbladen, websites en verkiezingsdebatten op de televisie. In weerwil van de veelheid aan informatie is het aantal Nederlanders dat zich grondig informeert en de tijd neemt alle partijprogramma’s te bestuderen bijzonder klein.[1] Daarvoor zijn uiteenlopende redenen te noemen, variërend van een gebrek aan interesse tot luiheid tot ongenoegen met ‘de’ politiek. Ook informatieoverlast is vaak een reden. Wie heeft de tijd alle partijprogramma’s lezen, de vele debatten te volgen, politieke bijeenkomsten te bezoeken? Om die reden stemmen velen ‘op gevoel’ of helemaal niet.

Dat bleek ook duidelijk uit de verkiezingen voor de waterschappen in de herfst van 2008. Voor een land dat voor een groot deel onder de waterspiegel ligt zijn de waterschappen letterlijk van levensbelang. De waterschappen behoren bovendien tot de oudste democratische bestuursorganen in Nederland. Het eerste waterschap stamt uit 1122. Van oudsher waren de waterschappen verantwoordelijk voor de waterhuishouding van het land. Zoiets is slechts mogelijk door eendrachtige samenwerking. In die zin liggen de waterschappen letterlijk ten grondslag aan het Nederlandse ‘poldermodel’.

Tot voor kort beperkten de werkzaamheden van de waterschappen zich voornamelijk tot het technische beheer van de waterhuishouding. De laatste jaren zijn de waterschappen echter meer gepolitiseerd. Waar er eerst gekozen kon worden uit individuele kandidaten, die voor een periode van vier jaar werden benoemd, daar werd er aan de verkiezingen van 2008 voor het eerst bij alle zesentwintig waterschappen deelgenomen door politieke partijen. Ten dele waren dit al bestaande landelijke partijen, zoals de CDA, de PvdA en de VVD. Daarnaast deden er een aantal nieuwe lokale partijen en twee nieuwe nationale partijen – Water natuurlijk en de Algemene Waterschapspartij – mee aan de verkiezingen. Centrale thema’s in de verkiezingsstrijd waren de stijging van de zeespiegel als gevolg van de globale opwarming van de aarde en natuurbescherming, twee thema’s die vaak op gespannen voet met elkaar verkeren.

Hoewel de politieke relevantie van de waterschappen door deze politisering onmiskenbaar was gegroeid, bleek de opkomst bij de verkiezingen dramatisch laag te zijn. Slechts 24% van de kiesgerechtigden bracht zijn stem uit, waarbij ook nog een niet onaanzienlijk deel ongeldig bleek te zijn vanwege de onduidelijkheden in het stembiljet. En degenen die het als hun democratische plicht zagen om een stem uit te brengen, zagen zich vanwege de nieuwe partijen voor een lastige keuze geplaatst. Veel kiezers namen daarom hun toevlucht tot een recente toevoeging aan het spectrum van informatietechnologische hulpmiddelen: de stemhulp op internet.

Kieskompas is een voorbeeld van zo’n kieshulp. Het biedt ondersteuning bij het komen tot een keuze voor de partij die het beste past bij de politieke opvattingen en sociaal-maatschappelijke verlanglijst van individuen. Kieskompas is een private onderneming, waarin ondernemers en sociale wetenschappers van de Vrije Universiteit samenwerken. Sinds de landelijke verkiezingen van 2006 biedt de onderneming op www.kieskompas.nl speciale webapplicaties aan ‘die kiezers helpt om uit te vinden welk partijprogramma het beste aansluit bij de eigen politieke wensen’. Ten behoeve van de waterschapsverkiezingen ontwierp de onderneming een specifiek Kieskompas voor ieder van de zesentwintig waterschappen, die op website kon worden geraadpleegd.[2] Na het invullen van de postcode kreeg de bezoeker 36 stellingen voorgelegd, die in twaalf categorieën waren ingedeeld (belasting, bestuurlijke innovatie, democratie, dijken en wegen, economie en milieu, energie en klimaatverandering, natuur en recreatie, planten en dieren, polders en landschap, water, watersnood en wonen en werken). De stellingen dienden met behulp van een zespuntsschaal (helemaal mee eens, mee eens, neutraal, niet mee eens, helemaal niet mee eens, geen mening) te worden beoordeeld. Na het beoordelen van de stellingen, bepaalde de applicatie de plaats die de gebruiker inneemt in het ‘politieke landschap’ dat wordt bevolkt door de partijen in het eigen waterschap, waardoor zichtbaar werd bij welke partij hij of zij het dichtste staat. Het politieke landschap was ingedeeld met behulp van twee assen: de ene liep van ecologie naar economie, de andere van een breed tot een smal takenpakket voor de waterschappen.

Vervolgens kon de gebruiker een gedetailleerder beeld van zijn positie krijgen door de eigen positie per thema te vergelijken met die van de deelnemende partijen, of punt voor punt met die van een bepaalde partij. Het Kieskompas bood verder informatie over de geschiedenis en de taken van de waterschappen en over de deelnemende partijen.

Kieskompas was van meet af aan een groot succes: bij de landelijke verkiezingen van 2006 bezochten meer dan drie miljoen personen de website en ook bij de gemeentelijke verkiezingen in datzelfde jaar, de Amerikaanse presidentsverkiezingen en de waterschapsverkiezingen van 2008, werd de website druk bezocht.

In het licht van het vraagstuk van de menselijke autonomie kan Kieskompas worden beschouwd als een hulpmiddel waaraan we het bestuderen van de belangrijke thema’s bij de verkiezingen en de standpunten daaromtrent van de deelnemende partijen uitbesteden. De applicatie informeert de gebruiker over diens affiniteit met de standpunten van de verschillende partijen maar het blijft aan de gebruiker om op basis daarvan een keuze te maken voor een bepaalde partij en zijn stem uit te brengen. De atheïst die tot zijn schrik merkt dat zijn standpunten het beste gerepresenteerd worden door de ChristenUnie kan nog altijd nog besluiten op een andere partij te stemmen.

Het feit dat Kieskompas de keuze geheel aan de kiezer laat, onderscheidt deze kieshulp van concurrent StemWijzer (stemwijzer.nl). Deze applicatie, die is ontwikkeld door het Instituut voor Publiek en Politiek (IPP), geeft een duidelijk stemadvies. De StemWijzer, die eveneens een reeks stellingen voorlegt, staat de gebruiker slechts drie antwoorden toe: eens, oneens, geen mening. Daar staat tegenover dat StemWijzer de gebruiker in staat stelt aan bepaalde onderwerpen een groter gewicht toe te kennen.

Nog weer een andere kieshulp, KiesWijzer, maakt geen gebruik van stellingen, maar legt de gebruiker tien vragen voor, waarop drie antwoorden mogelijk zijn (alsmede de optie ‘geen mening’). Na het beantwoorden van de vragen toont Kieswijzer de affiniteit van de gebruiker met de verschillende politieke partijen, en een tabel met de antwoorden van alle partijen.

De genoemde kieshulpen zijn om verschillende redenen bekritiseerd, bijvoorbeeld met betrekking tot de transparantie van de kieshulp, de aard van de stellingen en vragen, de objectiviteit van het advies en het soort advies dat wordt gegeven. Zo is de makers van Kieskompas een zekere eenzijdigheid en zelfs partijdigheid verweten, omdat het de politieke partijen in het centrum zou bevoordelen. De vraag is of dit te vermijden is. Alle technologische artefacten, ook de besproken kieshulpen, reflecteren onvermijdelijk de technische, methodologische en politieke voorkeuren van de ontwerpers. Bovendien geven technologische artefacten een gebruiksrichting aan: ze nodigen uit tot bepaald gebruik, en ontmoedigen ander gebruik, dat door de makers als ‘mis’bruik wordt getypeerd.

Technologische artefacten bevatten dus in twee opzichten een zogenaamd ‘script’: enerzijds belichamen ze de ideeën en opvattingen over technologie, over de samenleving, en over de mensen die met dit artefact in aanraking zullen komen, zoals die in de hoofden van ontwikkelaars en makers leven; anderzijds sturen artefacten zelf het gebruik ervan, bijvoorbeeld door de plaatsing van knoppen, de geluiden die ze maken, en de ‘cues’ die zij afgeven (vgl. Van den Berg, 2009, 192v.). Zeker wanneer de gebruiker het idee heeft dat de uitkomst zijn eigen voorkeuren weerspiegelt, dan lijkt dit zijn politieke autonomie te ondergraven.

Autonomie en gedistribueerde handelingssubjectiviteit

In de moderne – liberale, seculiere, wetenschappelijke – cultuur wordt de menselijke autonomie beschouwd als een van de pilaren waarop onze handelingssubjectiviteit berust. Handelingssubjectiviteit bezitten, zo luidt de standaardopvatting, betekent het bezitten van intentionele mentale toestanden die de bezitter in staat stellen een bepaalde handeling uit te voeren (Himma, 2009). Deze opvatting van handelingssubjectiviteit gaat ten minste terug op Descartes. In deze traditie wordt de rationaliteit van de menselijke handelingssubjectiviteit sterk benadrukt. Descartes’ standpunt is echter ook van meet af aan van verschillende kanten bekritiseerd.

Een van de persistente punten van kritiek is dat er naast intentionaliteit en rationaliteit ook andere factoren zijn die het menselijk handelen motiveren, zoals erfelijke aanleg, opvoeding, sociale klasse of geslacht (Rosenberg, 2008). Deze kritieken komen vaak voort uit hardere of zachtere vormen van determinisme, wat wil zeggen dat gebeurtenissen min of meer volledig worden veroorzaakt door eerdere gebeurtenissen of krachten. En of de determinerende krachten nu van biologische of sociale aard zijn, ze hebben gemeen dat ze op zijn minst grotendeels niet onder de (volledige) controle vallen van de handelende persoon. Tegenwoordig wordt handelingssubjectiviteit doorgaans opgevat als resultante van een complex van factoren, die zowel onze rationele afwegingen omvatten als de genoemde natuurlijke en sociale factoren.

Een tweede lijn van kritiek op het cartesiaanse rationaliteitsbegrip richt zich op de idee dat rationele afwegingen zich in het bewustzijn afspelen. Bij de meeste van onze handelingen zijn rationele afwegingen op zijn best impliciet, en vaak lijken ze geheel afwezig. En wanneer rationele overwegingen een rol spelen in ons handelen, dan vaak pas achteraf. Vaak worden de redenen voor ons handelen post actio geformuleerd in plaats van pre actio of in actio. Hedendaags onderzoek in de neurowetenschappen lijkt dat te bevestigen. Bij veel handelingen heeft ons lichaam al beslist voordat de argumenten daarvoor tot bewustzijn komen (Burns & Bechara, 2007).

Deze twee lijnen van kritiek hebben geleid tot een postmoderne ontkenning van menselijke autonomie en vrije wil, zowel in de natuurwetenschappen (Dawkins, 1976) als in de geesteswetenschappen (Nietzsche en zijn postmoderne erfgenamen). De vraag is in hoeverre dergelijke radicale vormen van kritiek gerechtvaardigd zijn. Absolute vrijheid en autonomie mogen dan een illusie zijn, in ons dagelijks leven ervaren we toch op zijn minst een bepaalde mate van controle en keuzevrijheid. Dat we geen totale controle over ons handelen hebben betekent niet dat we totaal geen controle over ons handelen hebben.

Menselijk handelen is, zoals opgemerkt, de resultante van een veelheid aan biologische, sociale en culturele factoren én van bewuste, rationele overwegingen. Maar ook al hebben we slechts een beperkte controle over de krachten die onze handelingen motiveren en de persoonlijkheidsaspecten die invloed erop uitoefenen, toch onderscheidt de menselijke handelingssubjectiviteit zich door het specifieke vermogen om deze krachten en persoonlijkheidsaspecten in een reflectieve beweging te affirmeren.

Deze ‘reflexieve lus’ stelt ons in staat de interne en externe krachten te beschouwen als ons motiverende krachten en ze als zodanig tot de onze te maken of ze te verwerpen. In deze reflectieve loop verlaten we voor korte tijd ons gebruikelijke eerstepersoonsperspectief en nemen we een derdepersoonsperspectief ten opzichte van onszelf in. Dat stelt ons in staat enige afstand te nemen van onszelf en van onze handelingen. In deze afstandelijke positie verkrijgen we ook een zekere vrijheid ten opzichte van de krachten die ons drijven.

De menselijke conditie onderscheidt zich van die van de plant of het dier in de zin dat de mens niet alleen een lichaam is (zoals de plant) en een lichaam heeft (zoals het dier), maar zich ook altijd vanuit een externe positie tot zijn lichaam verhoudt. Of in termen van de mentale beleving: ‘De mens leeft niet alleen, maar beleeft ook zijn leven en daarenboven beleeft hij zijn beleven’ (Plessner, 1975, 364; zie ook De Mul, 2010, 223-236).[3] Deze excentrische positionaliteit van de mens verklaart waarom we tot de eerder genoemde reflectieve lus in staat zijn.

Een klassiek voorbeeld van de werking van deze reflectieve lus treffen we aan in Euripides’ tragedie Medea (Euripides, 2001). In deze tragedie neemt Medea wraak op haar overspelige echtgenoot Jason door hun beider kinderen te doden. Deze tragedie wordt vaak aangevoerd als een vroege uitdrukking van de vrije wil van de mens: Medea zou uit vrije wil kiezen voor de dood van haar eigen vlees en bloed. Die interpretatie is echter op zijn minst eenzijdig te noemen. Medea vertoont in deze tragedie geen ‘cartesiaanse’ vrije wil, zij is geen autonome causa sui maar wordt juist heen en weer geslingerd door heftige, tegengestelde emoties. Aan de ene kant wordt zij gedreven door de haat die zij voelt voor haar ‘ex’ Jason, die haar op een uiterst vernederende wijze aan de kant heeft gezet. Haar haat brengt haar op de gedachte hem ‘terug te pakken’ door hun beider kinderen te vermoorden. Anderzijds zijn de kinderen het liefste wat zij heeft en wil zij hen geen kwaad doen. Beide emoties strijden om de boventoon in deze tragedie. Medea is allerminst vrij, zij is niet in staat tot een zuiver rationele afweging van haar belangen of morele verplichtingen.

Om het handelen van Medea te begrijpen hebben we meer aan het beeld dat postmoderne critici van Descartes schetsen van de menselijke conditie. Medea lijkt iedere handelingssubjectiviteit te ontberen. Ze wordt beheerst door haar passies (demonen, in de taal van Euripides). Echter, ook deze interpretatie is niet adequaat. Medea heeft wel degelijk een eigen subjectiviteit, aangezien ze haar gevecht met deze tegenstrijdige emoties na enige tijd beslecht door zich met een van deze krachten te vereenzelvigen. Euripides toont de reflectieve lus waarin zij zich bevindt op beeldende wijze door Medea haar eigen hand, met daarin het mes waarmee ze haar kinderen wil doden, toe te laten spreken. Dat zij uiteindelijk de demon van de haat tot de hare maakt, maakt haar weliswaar niet tot een sympathiek karakter, maar ze neemt wel de verantwoordelijkheid voor haar daad op zich. Ze vereenzelvigt zich met haar daad, ook al vindt deze zijn oorsprong in een nauwelijks te bedwingen passie. Om die reden is Medea een goed voorbeeld voor wat men ‘verantwoordelijkheid zonder vrijheid’ zou kunnen noemen (Alford, 1992). En dat lijkt de minimale vereiste te zijn om van menselijke handelingssubjectiviteit te kunnen spreken (De Mul, 2008, 179-244).

Menselijke handelingssubjectiviteit, zo zouden we kunnen samenvatten, is gebaseerd op een wederzijdse ‘afstandsbediening’. Ons handelen wordt op afstand bediend door de vele interne en externe krachten die ons motiveren, stimuleren, uitdagen en scheppen, maar als reflectieve wezens zijn we tevens in staat op afstand een zekere (zelf)controle uit te oefenen op de krachten die ons drijven. De wijze waarop is vergelijkbaar met de wijze waarop we door middel van een afstandbediening de televisie bedienen. We hebben maar een geringe invloed op de programma’s die er op de verschillende kanalen te zien zijn, maar dankzij de afstandbediening kunnen we kiezen op welke programma’s en kanalen we afstemmen. Bovendien maakt de afstandbediening ons verantwoordelijk voor de gemaakte keuze.

Het voorbeeld van Medea laat zien dat externe en interne krachten afbreuk kunnen doen aan onze rationele afwegingen. In extreme situaties, wanneer we worden overvallen door blinde woede of redeloze paniek, kan dat onze rationele autonomie ernstig ondermijnen. Maar in vele andere gevallen betekent externalisering eerder een versterking dan een verzwakking van onze autonomie.

De Duitse filosoof Wilhelm Dilthey merkt daarover op dat onze belevingen vaak verre van transparant zijn. Zijn hermeneutische analyse is erop gericht het menselijk leven in al zijn aspecten te begrijpen, en is in dat opzicht anders dan de rationalistische, introspectieve traditie die op Descartes steunt. Onze gedachten, motieven en gevoelens blijven vaak impliciet en we krijgen er pas enig inzicht in wanneer we ze tot uitdrukking brengen in talige uitdrukkingen, gebaren, handelingen, kleding, wetten en instituties. Dankzij een dergelijke externalisering worden impliciete betekenissen expliciet gemaakt en gearticuleerd, waardoor er een verstaan mogelijk wordt van onszelf, van onze motieven en drijfveren, wensen en verlangens. Dilthey beschrijft deze autonomieversterkende reflectieve lus als volgt:

Een uitdrukking van een belevenis kan meer van de geestelijke samenhang bevatten, dan waartoe de introspectie toegang heeft. […] In de beleving worden we ons zelf nooit volledig gewaar, noch in zijn voortdurend vervloeien noch in zijn diepte. Want het bewuste leven is als een klein eiland omgeven door ontoegankelijke diepten. Maar de uitdrukking put uit deze diepten. De uitdrukking is scheppend. En in het verstaan daarvan wordt het leven voor ons toegankelijk […]. Op ieder punt opent het verstaan een wereld (Dilthey, 2006, 220, 205).

Technologisch bemiddelde handelingssubjectiviteit

In de evolutie van de menselijke levensvorm, en meer in het bijzonder in de ontwikkeling van de reflectieve lus van beleving, uitdrukking en verstaan, hebben cognitieve artefacten een cruciale rol gespeeld. Het schrift is daarvan een goed voorbeeld. De door mediawetenschapper Herbert Marshall McLuhan en zijn Toronto school geïnitieerde mediatic turn in de geesteswetenschappen – de idee dat media onze werkelijkheid mede vormgeven – heeft de aandacht erop gevestigd dat het schrift geen neutraal instrument is om gedachten uit te drukken, maar dat het deze gedachten structureert en daarmee het denken op een verschillende manieren versterkt.

In zijn boek Orality and Literacy betoogt literatuurwetenschapper Walter Ong dat de transformatie van orale culturen tot schriftculturen een heel nieuw domein van subjectiviteit opende:

Zonder schrift hebben woorden als zodanig geen voorstelbare betekenis, zelfs wanneer de objecten waar ze naar verwijzen visueel zijn. Het zijn geluiden. Je kunt ze opnieuw oproepen, maar je kunt ze nergens opzoeken. Ze hebben geen focus en laten geen sporen na (een visuele metafoor die schatplichtig is aan het schrift), leggen zelfs geen traject af. […] Door degene die kent te scheiden van het gekende, maakt het schrift een steeds sterker gearticuleerde introspectiviteit mogelijk. De psychische wereld die daardoor wordt ontsloten, staat niet alleen tegenover de objectieve buitenwereld, maar ook tegenover het zelf (Ong, 1982, 105).

We zouden het schrift een reflectieapparaat kunnen noemen, omdat het de menselijke denk- en handelingsautonomie versterkt. Nu is het ongetwijfeld zo dat dergelijke artefacten zonder de mens niet zouden bestaan, noch in praktische noch in ontologische zin. Ze worden immers ontworpen en ontwikkeld door mensen, die ze in het gebruik bovendien een bepaalde functie en betekenis verlenen. Maar omgekeerd geldt evenzeer dat de menselijke levensvorm zoals we die nu kennen zonder deze artefacten niet zou bestaan.

In dat licht bezien is het opvallend en niet zonder ironie dat het schrift aanvankelijk met veel kritiek werd begroet. Het werd niet zozeer opgevat als een autonomieversterkende technologie, maar als een technologie die de autonomie juist zou ondermijnen. Zo kritiseert Plato in de Phaedrus bij monde van de Egyptische koning Thamus de uitvinding van het schrift, aangezien het schrift het levendige karakter van de dialoog teniet doet en het menselijk geheugen verzwakt.[4] Door het delegeren van menselijke vermogens aan technische artefacten, zo redeneert Thamus, verliest de mens vermogens die ten grondslag liggen aan zijn handelingssubjectiviteit. Plato neemt een standpunt in dat we ook aantreffen in de debatten over de uitbesteding van cognitieve taken aan de computer. Ook dan wordt gezegd dat de uitbesteding – in dit geval niet van de producten van het denken, maar van het rationele en morele denkproces zelf – aan een vreemd apparaat, leidt tot een ondermijning van de menselijke autonomie.

Wat zowel door Plato als door degenen die vandaag in zijn voetsporen treden over het hoofd wordt gezien is dat de genoemde technische ‘middelen’ weliswaar geen deel zijn van ons biologische lichaam, maar wel integraal onderdeel uitmaken van onze gedistribueerde cognitieve structuur (Magnani, 2007, 5-6). Ze blijven deel van onszelf, omdat ze deel uitmaken van het netwerk waarin we met behulp van hen handelen. In de argumentatie van Plato ontbreekt dat de technologische artefacten, door bepaalde menselijke taken te adapteren en te reconfigureren, de ontwikkeling faciliteren van nieuwe ‘typisch menselijke eigenschappen’. Door het delegeren van de inhoud van ons geheugen aan papier (in het schrijven) wordt onze cognitieve structuur minder belast met het onthouden. Daardoor worden er wegen geopend naar de ontwikkeling van nieuwe vormen van rationaliteit, die door de mediumspecifieke kenmerken van het schrift zijn gestructureerd.

Hetzelfde mechanisme is werkzaam in het delegeren van rationele denkprocessen aan computertechnologieën. Een dergelijke uitbesteding betekent geen ondermijning van de menselijke handelingssubjectiviteit maar huist een versterking daarvan, en in het verlengde daarvan ook een versterking van de menselijke autonomie. Hoe meer handelingssubjectiviteit een artefact heeft, hoe meer potentie het heeft om de menselijke autonomie te versterken doordat het nieuwe doelen en middelen aanreikt. Het is evenwel een autonomie met een supplement dat wordt gekenmerkt door een onoplosbare vreemdheid (alteriteit) en exterioriteit.

De kritiek van Plato en zijn moderne volgelingen gaat uit van een onoverbrugbare scheiding van menselijke handelingssubjecten en technologische artefacten. Die scheiding is echter problematisch omdat mensen en artefacten altijd samenwerken in netwerken en daarbij wederzijds op elkaar steunen (Latour, 1999; Magnani, 2007). Ze kunnen niet zonder elkaar bestaan – een mens is geen mens zonder artefacten en artefacten bestaan slechts bij gratie van de mens.

Wanneer we een analytisch of praktisch onderscheid maken tussen mensen en artefacten op basis van de activiteit van de eerste en de passiviteit van de tweede, dan simplificeren we de zaak op een ongeoorloofde wijze. Zoals we reeds in het voorafgaande betoogden, zijn mensen nooit bijzonder autonoom geweest. Een belangrijk deel van onze activiteiten wordt op afstand bediend door uiteenlopende interne en externe krachten. Onze handelingssubjectiviteit is niet strikt zelf(be)sturend, maar ligt in de reflectieve relatie tot de krachten die onze handelingen motiveren. Wij kunnen deze krachten affirmeren en absorberen en ze zo tot onze motieven, driften, passies en ideeën maken. Slechts in dit spel tussen die interne en externe krachten aan de ene kant en onze reflectieve toe-eigening aan de andere, worden we tot handelingssubjecten. Menselijke handelingssubjectiviteit is altijd al een gedistribueerde subjectiviteit geweest.

Bij wetenschapsfilosoof Bruno Latour treffen we een vergelijkbare opvatting aan over de morele implicaties van de technologische mediatie. Latour verzet zich tegen de vooronderstelling dat de menselijke ethiek de morele doelen bepaalt en de technologie slechts de middelen levert om deze doelen te realiseren. Technologie is steeds een omweg tot het doel:

Als men niet opmerkt hoezeer het gebruik van de technologie, hoe eenvoudig ook, de oorspronkelijke intentie heeft verplaatst, vertaald, gewijzigd en omgebogen, dan komt dat eenvoudigweg doordat men van doel is veranderd door van middelen te veranderen, en dat men, door een slippertje van de wil, is begonnen iets heel anders te willen dan bij vertrek [...]. Zonder de omwegen van de technologie kan het “echt” menselijke niet bestaan. [...] Technologieën bombarderen de mensen met een niet aflatend aanbod van ongekende posities - standpunten, suggesties, toestemmingen, verboden, gewoonten, posities, vervreemdingen, voorschriften, berekeningen, herinneringen (Latour, 2002, 8-9).

Handelingssubjectiviteit voorbij de mens

In de traditionele instrumentalistische opvatting van technologie wordt onze verhouding tot technologieën als volgt opgevat: wij formuleren de doelen en resultaten van het technische handelen, en vervolgens scheppen we ons daartoe de technische middelen. In werkelijkheid is onze verhouding tot technologieën een stuk gecompliceerder (De Mul, 2008, 245-261). Hoewel er technologieën bestaan waarin we zowel bepalen wat de doelen zijn als de middelen om dat doel te bereiken, zijn er ook talkrijke technologieën die ons enkel in staat stellen het doel te bepalen, maar niet de (precieze) weg daar naartoe. Denk aan de remsystemen van moderne auto’s. Als we remmen geven we slechts het doel op (zo snel mogelijk stoppen) en bepaalt het ‘intelligente’ remsysteem welke acties er precies moeten worden ondernomen gegeven de specifieke weg- en weersomstandigheden van dat moment. En in sommige gevallen wordt niet alleen aan het systeem overgelaten de juiste middelen te vinden bij een opgegeven doel, maar wordt ook het doel (mede) bepaald door het systeem. Dit is bijvoorbeeld het geval met de ‘power grid’ in Zuid-Californië. Het systeem bepaalt hoe de energie op een zo efficiënt mogelijke wijze wordt gedistribueerd over de gebruikers, maar het bepaalt ook mede wat de best mogelijke uitkomst (doel) van een dergelijke distributie is. Het is duidelijk dat de implicaties voor de menselijke autonomie in ieder van deze voorbeelden verschilt.

In het begin van dit hoofdstuk bespraken we het voorbeeld van de kieshulpen bij de Waterschapsverkiezingen. Dat voorbeeld doet denken aan de situatie met het remsysteem. Bij het Kieskompas laten we de middelen – het bestuderen van de relevante informatie – aan het systeem over om vervolgens zelf het doel (‘een stem uit te brengen die het beste aansluit bij onze eigen politieke wensen’) te kiezen. De kiezer gebruikt de technologische middelen om de informatie op een systematische wijze op een rijtje te zetten, maar weegt deze informatie zelf en neemt zelf de uiteindelijke beslissing. In het geval van het Kieskompas lijkt er dus geen sprake van een ondermijning van de autonomie van de kiezer.

Bij de bespreking zagen we evenwel dat de andere kieshulpen een stapje verder gaan. StemWijzer biedt ons geen overzicht van het politieke landschap met onze plaats daarin, maar resulteert in een expliciet stemadvies. Hier lijkt onze autonomie minder groot. Vanzelfsprekend kunnen we het stemadvies naast ons neerleggen, maar de vraag is of we snel geneigd zouden zijn dat te doen. Wie van de gebruikers zou zich kritische vragen gaan stellen over de inhoud van het advies en de wijze waarop dit precies tot stand is gekomen? We hebben hierboven opgemerkt dat kieshulpen werken als een script dat de gebruiker in een bepaalde richting stuurt. In het geval dat tot het script een concreet stemadvies behoort, zoals in het geval van de StemWijzer, dan lijkt dit onze politieke autonomie tot op zeker hoogte aan te tasten.

De delegatie van onze politieke autonomie zou natuurlijk nog een stap verder kunnen gaan. Stel dat er een stemhulp zou worden ontworpen die ons niet alleen zou helpen onze plaats in het politieke landschap te bepalen en daaraan een concreet stemadvies verbindt, maar die vervolgens ook de stem voor ons zou uitbrengen. De gebruiker zou de kieshulp de opdracht kunnen geven elektronisch een stem uit te brengen wanneer hij dat zelf voor de sluiting van de stembureaus niet heeft gedaan, bijvoorbeeld omdat hij in de file stond of geen zin had de regen te trotseren. Wat zou dat betekenen voor onze politieke autonomie? Dat hangt er vanaf hoe het systeem zou zijn ontworpen. Je kunt je voorstellen dat het systeem, alvorens de stem uit te brengen, de gebruiker alsnog vraagt dat (via een smsje) te confirmeren. Dan blijft de kieshulp louter een middel om een stem uit te brengen zoals het rode potlood of de button in het stemhokje. Het gaat er immers toch om dat wij het zijn die uiteindelijk, al of niet op basis van verkiezingsprogramma’s, televisiedebatten en reclames en al of niet met de hulp van een politiek sensibel familielid of een elektronische kieshulp, bepalen op welke partij er wordt gestemd. Onze autonomie lijkt te zijn gewaarborgd zolang de kiezer zelf het laatste woord heeft. 

We zouden ons echter ook kunnen voorstellen dat de kieshulp niet alleen de zaken doet die hierboven werden besproken, maar daar bovenop een eigen afweging zou maken. Stel dat we zouden besluiten af te wijken van het stemadvies (‘stem voor partij Y’) en in plaats daarvan op partij X willen stemmen, en het programma zou dan alsnog namens ons op partij Y stemmen, omdat de opvattingen daarvan beter overeenstemmen met onze voorkeuren. Op het eerste gezicht lijkt het evident dat een dergelijke kieshulp onze (politieke) autonomie ondergraaft. In dit geval lijken we de afstandbediening niet langer in eigen handen te hebben. Toch zou je kunnen stellen dat een stem op een partij Y consistenter is met onze politieke voorkeuren dan – de wellicht op irrationele gronden berustende – keuze om op partij X te stemmen.

Nu lijkt zo’n scenario nogal futuristisch. Toch treffen we een variant daarop aan in de technologische toekomstvisie van de Europese Commissie, die als Ambient Intelligence wordt aangeduid. Neem het volgende scenario:

Het is vier uur in de middag. Dimitrios, een 32-jarige werknemer van een grote multinationaal in de voedingssector, drinkt samen met zijn baas en enkele collega’s een kopje koffie in het bedrijfsrestaurant. Hij wil tijdens zijn pauze liever niet gestoord worden. Desondanks ontvangt hij constant telefoontjes en e-mails die hij moet afhandelen. […] Dimitrios draagt, verborgen in zijn kleren […], een stemgestuurde ‘gateway’ of avatar van hemzelf, die D-me of Digital-Me wordt genoemd. Zo’n D-Me is een lerend apparaat, dat Dimitrios steeds beter leert kennen door diens interacties met de omgeving, en tegelijkertijd een handelend apparaat ten behoeve van communicatie en het nemen van beslissingen. Dimitrios heeft het zelf ‘geprogrammeerd’ toen hij het apparaat ging gebruiken […] Hij is heel tevreden met zijn D-Me en vertrouwt op de ‘intelligente’ reacties van het apparaat. Om 16:10 komt er – na een hele reeks minder belangrijke telefoontjes, die formeel maar soepel in de corresponderende taal worden afgehandeld door Dimitrios’ D-Me met een stem en een accent die lijken op die van Dimitrios – een telefoontje binnen van Dimitrios’ vrouw dat nader wordt geanalyseerd door Dimitrios’ D-Me. In eerste instantie begint de avatar-achtige stem van zijn D-Me een conversatie die er op is gericht haar te vertellen dat Dimitrios bezet is en later zal terugbellen. […] [Wanneer Dimitrios’ vrouw opnieuw belt] wordt haar telefoontje door zijn D-Me geïnterpreteerd als dringend genoeg om Dimitrios’ te mobiliseren en waarschuwt hij hem met een speciale ringtone. Dimitrios beantwoordt het telefoontje met een van de in het cafetaria aanwezige beeldtelefoons. Omdat D-Me’s overal zijn geïntegreerd, hebben de meeste mensen geen draagbare computers meer bij zich; de functionaliteit is voldoende aanwezig in de meeste publieke en private ruimten. […] Het ‘dringende telefoontje’ heeft betrekking op het huiswerk van hun kind. Hun negenjarige zoon moet informatie verzamelen over het alledaagse leven in Egypte. In een korte drieweg telefoonconferentie stelt Dimitrios voor zijn D-Me contact te laten zoeken met een kind in Egypte. Tien minuten later spreekt zijn zoon via de beeldtelefoon met een Egyptisch meisje van zijn eigen leeftijd, en neemt hij de simultaan vertaalde conversatie met het meisje op als deel van zijn huiswerk. Al deze communicatiefaciliteiten worden door Dimitrios’ D-Me verzorgd, terwijl deze ondertussen ook bezig blijft met het registeren van andere data en het uitvoeren van andere zoekopdrachten (Ducatel et al., 2001).

Dit scenario heeft geen betrekking op een kieshulp, noch op onze handelingen als autonoom handelend subject, maar het vertoont wel een aantal relevante parallellen met het laatste stadium van de kieshulp zoals hierboven door ons werd beschreven. De man in het scenario heeft een persoonlijk apparaat dat inkomende communicatie afhandelt wanneer hij met iets anders bezig is. Hoewel dit heel aantrekkelijk lijkt, en op het eerste gezicht niet zo vreemd – we gebruiken immers al telefoonbeantwoorders en automatische e-mail reply’s – bezit Dimitrios’ D-Me ook wel een paar verontrustende eigenschappen. In de eerste plaats heeft het apparaat de verantwoordelijkheid gekregen om te beslissen of een inkomend telefoongesprek dringend is of niet. Antwoordapparaten en automatische e-mailbeantwoorders hebben die eigenschap niet. Het elektronische hulpmiddel neemt beslissingen op ‘zijn’ inschatting van het belang van de inhoud van het bericht en de aard van de relatie met de beller. Het apparaat koppelt een waarde aan onze communicatie en handelt op basis daarvan zelfstandig. Wat in de tweede plaats verontrustend is, is dat het apparaat zijn gebruiker nabootst. Het imiteert zijn stem en specifieke accent en woordkeuze. Dat betekent dat we met zo’n apparaat niet alleen het belang van het inkomende bericht laten beoordelen, maar ook de vorm en inhoud van ‘onze’ [sic] reactie. En dat is precies ook wat er gebeurt in het scenario dat we eerder met betrekking tot de kieshulpen schetsten.

Menselijke actoren hebben hun handelingssubjectiviteit van oudsher in meer of mindere mate gedelegeerd. In de meeste gevallen is dat geen probleem. Sterker nog: vaak versterkt een dergelijke uitbesteding de reikwijdte van ons handelen en schept het nieuwe handelingsperspectieven die zonder die delegatie niet mogelijk zouden zijn. Met de komst van autonomic computing en Ambient Intelligence kan men stellen dat het uitbesteden van handelingssubjectiviteit tot voorheen ondenkbare hoogte wordt versterkt, en onze mate van ‘handelingsbekwaamheid’, daadkracht en autonomie tot nieuwe limieten worden opgerekt. Om die reden verdienen deze technologische ontwikkelingen onze steun en aandacht. Maar tegelijkertijd moeten we ervoor waken dat we niet het omslagpunt bereiken waar onze handelingssubjectiviteit en autonomie wél wordt ondermijnd. Het is een uitdaging voor ontwerpers, gebruikers maar ook voor sociale wetenschappers en filosofen om te bepalen waar precies het omslagpunt ligt.

Cruciaal daarbij is ons inziens de reflectieve lus. Het gevaar ligt niet zozeer in de uitbesteding van cognitieve taken, maar in het afstand doen van - of het in het ongewisse gelaten worden over - de aard en precieze werking van de uitbesteding. Zoals we opmerkten in de bespreking van de kieswijzers bevatten artefacten op twee verschillende manieren scripts: ze belichamen uiteenlopende (technologische en politieke) opvattingen en normen van de makers én ze sturen het denken en handelen van de gebruikers. Inzicht in het ‘scriptische karakter’ van het artefact en de mogelijkheid om daar als gebruiker invloed op uit te kunnen oefenen is cruciaal voor het effect van de uitbesteding op de autonomie. Wanneer we geen inzicht hebben in hoe de kieshulp werkt, welke (onvermijdelijke) ‘vooroordelen’ zijn ingebouwd en wat de wegingsfactoren zijn die tot ‘onze’ keuze leiden, dan is onze autonomie in gevaar, zelfs indien die keuze in overeenstemming is met onze politieke voorkeuren en belangen. Wanneer we dat inzicht wel hebben en een reflectieve lus ons in staat stelt met de genoemde parameters te spelen en bepaalde waarden te affirmeren dan wel te verwerpen, dan versterken de in de kieshulp ingebouwde kennis en beslisregels juist onze autonomie. In dat geval leidt de gedistribueerde handelingssubjectiviteit tot een versterking van onze handelingsbekwaamheid.

Nu zijn er natuurlijk grenzen aan het menselijke inzicht. Naarmate computersystemen complexer worden, wordt het steeds lastiger de black box te openen en doorgronden. Het is niet ondenkbaar dat daardoor de reflectieve lus in het netwerk in toenemende mate zal verschuiven van de organische naar de artificiële componenten van het netwerk. Het is zelfs denkbaar dat dergelijke ‘intentionele netwerken’ superieur zijn aan netwerken waarin de menselijke component het laatste woord heeft. Vanuit een antropocentrisch perspectief bezien is dat even slikken. Toch zou het niet verstandig zijn Medea te volgen en uit wraak onze geesteskinderen, de technologische artefacten, te doden. Misschien kunnen we beter proberen troost zoeken in de volgende woorden van Nietzsche’s Zarathustra: ‘De mens is een koord, gespannen tussen het dier en de Übermensch – een koord boven een afgrond [...] Het grote in de mens is: dat hij een brug is en geen doel; wat bemind kan worden in de mens, is dat hij een overgang is en een ondergang’ (Nietzsche, 1974, 28).

Bibliografie

Alford, C. Fred. 1992. Responsibility without freedom. Must antihumanism be inhumane? Some implications of Greek tragedy for the post-modern subject. Theory and Society 21:157-181.

Berg, Bibi van den. 2009. The Situated Self. Identity in a World of Ambient Intelligence. Rotterdam: Erasmus University.

CBS. 2006. Politieke en sociale participatie. CBS.

Dawkins, Richard. 1976. The selfish gene. Oxford: Oxford University Press.

Dilthey, Wilhelm. 1914-2005. Gesammelte Schriften. 23 Bdn. vols. Stuttgart/Göttingen: B.G.Teubner, Vandenhoeck & Ruprecht.

Ducatel, K., M. Bogdanowicz, F. Scapolo, J. Leijten, and J.-C. Burgelman. 2001. ISTAG: Scenarios for Ambient Intelligence in 2010. Seville: IPTS (JRC).

Ellul, Jacques. 1990. Le bluff technologique, La force des idées. Paris: Hachette.

Euripides. 2001. Verzameld werk I. Amsterdam: Athgenaeum - Polak & Van Gennep.

Himma, Kennerth Einar. 2009. Artificial agency, consciousness, and the criteria for moral agency: What proporties must an intelligent agent have to be a moral agent. Ethics and Information Technology 11 (1):19-29.

Kelly Burns, J.D., and Ph.D. Antoine Bechara. 2007. Decision making and free will: a neuroscience perspective. Behavioral Sciences & the Law. Special Issue: Free Will 25 (2):263 - 280.

Latour, Bruno. 1999. Pandora's hope : essays on the reality of science studies. Cambridge, Mass.: Harvard University Press.

———. 2002. Moraal en technologie. Het einde der middelen. Krisis. Tijdschrift voor empirische filosofie 3 (3):3-17.

———. 2005. Reassembling the social: An introduction to actor-network-theory, Clarendon lectures in management studies. Oxford; New York: Oxford University Press.

Magnani, Lorenzo. 2007. Distributed morality and technological artifacts. In The Huma Being in Contemporary Philosophy. Volgograd.

Mul, Jos de. 2008. De domesticatie van het noodlot. De wedergeboorte van de tragedie uit de geest van de technologie. 3 ed. Kampen: Klement.

———. 2010. Cyberspace Odyssee. 6 ed. Kampen: Klement.

Nietzsche, Friedrich Wilhelm. 1974. Aldus sprak Zarathoestra. Eeen boek voor allen en voor niemand. Amsterdam/Antwerpen: Wereld-Bibliotheek.

Ong, W. 1982. Orality and Literacy: The Technologizing of the Word. London/New York: Methuen.

Plato. 1980. Verzameld Werk. 5 delen vols. Baarn.

Plessner, Helmut. 1975. Die Stufen des Organischen und der Mensch. Einleitung in die philosophische Anthropologie. Vol. IV, Gesammelte Schriften. Frankfurt: Suhrkamp.

Rosenberg, Alexander. 2008. Philosophy of social science. 3rd ed. Boulder, CO: Westview Press.

Weibel, Peter. 1992. De nieuwe ruimte in het elektronische tijdperk. In Boek voor de instabiele media, edited by E. B. E.A. Den  Bosch: V2.