Renë Moerland. Wordt de vrije wil een illusie? Interview met Jos de Mul, Hans Schnitzler, en Peter-Paul Verbeek. NRC Handelsblad, 19 december 2015, p.
Politici gaan stilzwijgend nog steeds uit van de mens die zichzelf kan ontplooien. Technologie ondermijnt dat idee en verandert ons leven radicaal. Politici zien dat te weinig.llustratie Tomas Schats
Dit verhaal begint aan de rand van een zwembad op vakantie. Een beetje vrij denken, fantaseren. Niet op de e-reader. Ik tel geen pagina’s, streep niets aan, ben niet efficiënt. Als ik vanaf een steile helling zee zie, als mijn Belgisch-Burundese gastvrouw kip colombo maakt, terwijl haar terras wind en schaduw biedt: dan besta ik. Even weg van de apparaten, ver van mijn technotoop.
Ik las over Den Haag. Over de moeizame relatie tussen politici en journalisten, het compromissenspel, de gepijnigde polder. En over wat politici willen. Nog altijd: het goede voor de mens. Vrijheid en veiligheid, en soms hulp voor mensen die het moeilijk hebben. Het verlichtingsstreven naar ontplooiing van de mens in de samenleving was kennelijk springlevend. Onze politici: prima humanisten!
Sfeerverstoorder in mijn vakantiestapeltje was een keurig conservatieve Duitse journalist. Frank Schirrmacher, tot zijn dood in 2014 uitgever bij de Frankfurter Allgemeine, schreef zijn pamflet Ego. Das Spiel des Lebens in 2013. Hij dacht dat ons vertrouwde ‘ik’ was opgelost in een „monstereconomie” die via algoritmes en machines uitrekent wat goed voor ons is – en zo „aan de lopende band egoïsme produceert”. Bedenk maar eens wie je bent als er beslissingen over je genomen moeten worden bij paspoortcontrole, in je carrière of over je kredietwaardigheid: je bestaat louter uit nuttige data die alles over je zeggen – en die vermarkt kunnen worden. „De Egoïsme-machines spelen het grote spel allang zonder mensen”, schreef Schirrmacher. „De verliezers staan van tevoren vast: wij allemaal.”
Terwijl we lagen te zonnen, helemaal uit vrije wil, klaar voor een duik in het zwembad, werden we afgeschaft!Verlichting
Het afgelopen jaar zette NRC een aantal ‘Grote Vragen’ op een rij waarop politici een antwoord moeten vinden om de komende jaren ‘goede politiek’ te bedrijven. Schirrmachers prikkelende pamflet raakt aan zo’n vraag. Is het karakter van de mens als wezen met een vrije wil houdbaar, nu een technologische revolutie bezig is de grenzen en regels van ons bestaan ingrijpend te veranderen? En wat moeten politici daarmee doen?
Geen politicus zal weliswaar ons einde als soort wensen, laat staan nastreven. Maar biedt dat voldoende garantie om meester te blijven over ons bestaan?
De meeste partijen gaan in naam nog altijd uit van een mensbeeld dat terugvoert op de Verlichting: de autonome, zich ontplooiende mens. Maar in de praktijk gaan de meeste politieke debatten niet over mensen, maar over beleid, en de vraag of dat efficiënt, modern, duurzaam, gemakkelijk, waterdicht, fraudebestendig en kostenefficiënt is. De onberekenbare mens is in het politieke debat juist eerder een stoorzender dan een bestemming: hij wordt begeerd als kiezer, maar is ook een gevaar dat in toom gehouden moet worden (fraudeurs, criminelen, radicaliserende jongeren, schoolverlaters). En als we niet crimineel zijn of kunnen worden, moeten we wel door slimme sturing (nudging) tot goed gedrag worden bewogen: een gezonde leefstijl, verstandig financieel plannen, energiezuinig leven en nuttig bijdragen aan de economie.
Technologie houdt een belofte in om die doelen beter, sneller, efficiënter te bereiken, gedrag te voorspellen en te sturen. Banken, verzekeraars, gemeenten, energiebedrijven zijn ons aan het ‘dataficeren’. En wij werken mee: het is nieuw, makkelijk, fascinerend, en misschien sparen we er kosten en energie mee, en reistijd, en onze gezondheid.
Wat vermag en moet de politiek in dat nieuwe krachtenveld? Die vraag leg ik voor aan drie Nederlandse filosofen met uiteenlopende ideeën over technologie. De een staat bekend als een alarmist, de ander als pragmaticus die mens en techniek wil vermengen, en de derde denkt moeiteloos voorbij de menselijke soort. Ze schilderen vooral informatietechnologie als de sluipmoordenaar van het traditionele idee van politiek. Maar de politici zien zelf niet hoe informatietechnologie onze manier van leven verandert. En evenmin hoe zij er zelf aan meewerken.
Risicoprofiel
Politici maken zichzelf overbodig, zegt Hans Schnitzler, de alarmist van de drie en auteur van het boek Het digitale proletariaat. „Ze willen veiligheid zo goed mogelijk garanderen, dus bewaren ze zoveel mogelijk datasporen. Ze praten niet over wat de norm van ‘veilig’ zou moeten zijn, maar alleen over hoe we dat zo goed mogelijk kunnen doen.” Heel begrijpelijk, zeker na aanslagen zoals we nu weer hebben gezien in Parijs. Maar, zegt hij, „het is ook het type beslissingen dat je kunt uitbesteden aan apparaten.”
Op allerlei terreinen zie je wat de gevolgen zijn, zegt Schnitzler. „Technologie kan subtiel toegang tot ons krijgen: door een risicoprofiel op te stellen over geanticipeerd gedrag.” Neem risicoprofielen van mensen die vatbaar zijn voor radicalisering, potentiële belastingontduikers, of toekomstige zieken. Die kunnen met ijzeren kracht voorschrijven wat je wel en niet kunt gaan doen en hoe je behandeld wordt door de overheid of bedrijven. Dat is een politieke zorg, vindt Schnitzler. „Als zulke voorspellingen onze vrijheden beperken, tast dat ons mens-zijn aan.”
Volgens Jos de Mul, hoogleraar wijsgerige antropologie aan de Erasmus Universiteit in Rotterdam, is het sowieso „naïef” te denken dat de mens-as-we-know-him „altijd zal voortbestaan”. De echte, lastige en spannende vraag is volgens hem of we „moeten meewerken aan onze extinctie”, maar hij vraagt zich ook af „of we wel een keuze hebben”.
Want is de mens „wel goed toegerust om de boel onder controle” te houden? De mens is grenzeloos in zijn streven om te werken aan „zijn eigen bouwplan”, zegt De Mul. „De mens is vanaf het moment dat hij in de evolutie opdook en de eerste stenen werktuigen begon te fabriceren, bezig geweest aan zichzelf te knutselen. Eerst vooral met technologische en culturele uitbreidingen, die van onze biotoop een technotoop hebben gemaakt. Maar in het tijdvak van de biotechnologie, de neurowetenschappen en de informatietechnologie is ook ons biologische bouwplan zelf object van technologische manipulatie geworden”.
De discussie over wat goed leven is, hebben we verbannen naar de private ruimte, zegt Peter-Paul Verbeek via Skype in zijn lab aan de Universiteit Twente in Enschede. Daarom is er geen politiek debat meer over mogelijk. „Alleen conservatieven praten er nog over”, zegt hij. Als politici technologie niet als bedreiging zien, beschouwen ze techniek vooral als een ‘neutraal’ middel waarmee je problemen kunt oplossen. Dat is naïef: „Technologie verandert onze relaties, onze normen, de manier waarop we leven”.
In zijn boeken – zoals De Grens van de mens en De vleugels van Icarus – werpt Verbeek zich op als ‘realist’. De mens is een technisch wezen, zegt Verbeek, en „zet zichzelf” nu eenmaal „op het spel”. Techniek zit vol politiek, zegt hij: „ze belichaamt macht, bevat vooroordelen, en kan bevoogdend zijn.” Gezichtsherkenning bijvoorbeeld kan discriminerend zijn omdat het minder goed werkt bij mensen met een donkere huid. Verbeek wil maar zeggen: het is een politieke keuze hoe je techniek ontwerpt. Politiek moet „de infrastructuur bieden om tot goede keuzen te komen, waarmee we vorm kunnen geven aan ons leven.”
Robottijdperk
Het politieke debat over de manier waarop technologie de samenleving verandert steekt opvallend bleek af bij het levendige publieke debat over ingrijpende technologische vernieuwingen. De Wetenschappelijke Raad voor het Regeringsbeleid boog zich deze maand bijvoorbeeld over de toekomst van werk in het robottijdperk. En het Rathenau Instituut zocht uit hoe health apps eigenlijk werken en van wie data daarin zijn. Media verleggen hun aandacht. De Telegraaf heeft robotisering ontdekt, RTL brengt longreads over de technologische revolutie in de economie. De Groene Amsterdammer en de VPRO stortten zich op ‘de nieuwe mens’, en het Financieele Dagblad heeft een wekelijkse bijlage over de technologie in zorg, verkeer, wonen, nu ja, alles waar geld mee te verdienen is.
NRC-columnist Maxim Februari pleitte vorig jaar in zijn veelgeprezen Kousbroeklezing voor een ‘alfavisie’ op technologie: „Geen enkel ander onderwerp is zo urgent”. Hij noemt het een „ramp” dat „de technologiekritiek mijlenver achterloopt op de technologische ontwikkeling”. En dat is volgens Februari bij uitstek een politieke zaak: „Vermoord worden door superintelligentie loopt de eerste jaren zo’n vaart niet; de technocratie vestigt zich voorlopig niet doordat apparaten de macht grijpen. Acuter is het gevaar dat mensen het land zelf veranderen in een totalitaire technostaat.”
Digitale predestinatie
Sommige politieke partijen zijn er wel mee bezig. In hun wetenschappelijke tijdschriften staan interviews met Jacob Kohnstamm, de voorzitter van het College Bescherming Persoonsgegevens, die waarschuwt voor ‘digitale predestinatie’: wie door het gebruik van Big Data als een dubbeltje geprofileerd is, zal nooit meer een kwartje worden. CDA-denkers schrijven in hun tijdschrift Christen-democratische Verkenningen over politiek die gaat over het intieme leven (van genetische diagnostiek tot persoonlijke data): biopolitiek. Ze zien daarbij wel ruimte voor christen-democratische ideeën. Maar hoofdredacteur Piet Jan Dijkman constateert ook dat het liberale mensbeeld domineert, vaak ook bij CDA-politici: het gaat om zelfsturing, levenskwaliteit, individuele autonomie – de mens als regisseur van zijn leven, zijn eigen bouwpakket. D66-denken, kortom.
Bij de PvdA is het vrij stil, en de VVD wil in het volgende verkiezingsprogramma een visie uitgewerkt hebben op de gevolgen van biotechnologie en informatietechnologie. Het liberale uitgangspunt zal niet wankelen: zolang de mens autonoom kan beslissen wat-ie wil, is het goed.
De drie techniekfilosofen zijn het hierover eens: autonomie is een illusie. Het miskent dat de mens altijd een technisch wezen is geweest, vindt Jos de Mul – en dus eigenlijk „altijd al een cyborg”. „Op het moment dat we die steen oppakten was het al met onze autonomie gedaan”. Technologie, zegt hij, is ook verslavend, sleept je mee, verandert je gedrag. Juist in de liberale levensvisie schuilt „een gebrek aan tragisch besef”: je weet bij onze nieuwe technologieën niet precies welke risico’s er precies zijn. „Onze risicosamenleving is steeds meer een onzekerheidssamenleving”, zegt hij.
"Het politieke debat over de manier waarop technologie de samenleving verandert, steekt opvallend bleek af bij het levendige publieke debat over technologische vernieuwingen."
Volgens Hans Schnitzler is er een „ondergrens, waar de mens ophoudt mens te zijn”: „De mens moet exclusief toegang blijven houden tot de eigen gedachten en emoties, en zelf kunnen besluiten over toegang tot die innerlijke citadel”. Hij ziet het als een politieke opdracht die te bewaken. Als technologie onze gedachten en toekomstig gedrag kan ‘lezen’ voordat we daar zelf notie van hebben, zegt Schnitzler, „dan wordt de mens een ding. Een te manipuleren object”.
Zo beschouwd is ons bestaan al flink in het geding. Is het nog wel mogelijk te ontsnappen aan onze technotoop? Ik denk terug aan mijn zwembad. Na Schirrmachers Ego was ik geërgerd. Zou technologie er met mijn ik vandoor kunnen gaan? Zo gemakkelijk liet ik me niet afschaffen. Er was niets aan de hand, besloot ik, zolang ik vrij was het water in te duiken, zonder devices.
Ben ik naïef? Wat gebeurt als ik die app aanschaf die mijn gezin waarschuwt zodra ik mijn werk verlaat en ook alvast de verwarming thuis aanzet? Het internet van de dingen die met elkaar communiceren over ons gedrag, maakt dat we permanent onder controle staan. De app een dagje uitzetten is niet onschuldig: dat slaat een gat in mijn bestaan. Dit is Schirrmachers angst: de mens als iets om aan en uit te zetten. Beschik ik over mezelf als ik zwem, of sta ik alleen maar even op pauze?
We staan nog maar aan het begin van de mogelijkheden van technologische (zelf)-controle. De overheid koestert bijvoorbeeld grote verwachtingen van de quantumcomputer, die straks met enorme rekenkracht de talloze gegevens die zij van ons bezit kan koppelen en analyseren. Dan kan zij, en ook nog eens oneindig beter, alles waar Facebook nu zijn slechte reputatie op het gebied van privacy aan dankt. Het droombeeld staat al in ‘toekomstnotities’ van ministeries, maar leidt niet tot debat in Den Haag.
Technofobie
Net als de andere twee techniekfilosofen komt Schnitzler bij debatten over de toekomst van de mens zelden politici tegen. Met etiketten als „technofoob” en „pessimist” die hij krijgt, slaat het debat ook al snel dood, vindt hij. Technologie kan ook vooruitgang opleveren, daar gelooft hij best in. Een sociaal-democratisch programma bijvoorbeeld, dat emancipatie nastreeft door digitaal bewustzijn te vergroten. In Het digitale proletariaat schetst hij een tweedeling tussen digitale haves en have-nots. Die laatste hebben niet per se minder technologische middelen, maar ze verdienen er niets mee – hun data en gedrag zijn de grondstoffen waar anderen van profiteren.
Dave Eggers
Volgens Schnitzler moeten politici oefenen in verbeeldingskracht: romans lezen, zoals The Circle van Dave Eggers, en af en toe een dagje zonder telefoon. Maar ze kunnen ook politici-dingen doen om te voorkomen dat mensen dingen worden: wetten maken die je zeggenschap geven over hun data. Techniek opnemen in de culturele vorming op school. En toezichthouders die „vanuit een publiek belang” economische spelers controleren op hun omgang met data. Internationaal, want „datastromen trekken zich net als geld en het klimaat niets van grenzen aan”.
Jos de Mul vindt dat politici vanuit hun eigen richting moeten bedenken of technologieën hun idealen wel dichterbij brengen. Voor een liberaal is de vraag: wordt de mens echt autonomer? Voor de sociaal-democraat: dient deze techniek echt onze emancipatie? Maar hij heeft zijn hoop gevestigd op ‘klein’ verzet, juist in de informatietechnologie. „Je hebt maar heel weinig kapitaal nodig om een app te maken die onze leefwereld op slag transformeert.”
Ook Verbeek gelooft in actie op microniveau: bemoei je overal mee. De mens houdt op te bestaan, zegt hij, als hij zichzelf niet meer kan ontwerpen. Verbeek wijst kunstmatige intelligentiesystemen aan als „grootste vrees”. Het is denkbaar algoritmes te maken die beslissingen uitrekenen voor chirurgen, rechters en ook politici. Dan zouden politici echt overbodig zijn, net als alle mensen. Maar waarom zou je een robot willen die alles kan wat de mens ook kan? „Als we die als machine behandelen zou dat slavernij zijn, en het uitzetten ervan moord.”
