Risicoprofiel

Politici maken zichzelf overbodig, zegt Hans Schnitzler, de alarmist van de drie en auteur van het boek Het digitale proletariaat. „Ze willen veiligheid zo goed mogelijk garanderen, dus bewaren ze zoveel mogelijk datasporen. Ze praten niet over wat de norm van ‘veilig’ zou moeten zijn, maar alleen over hoe we dat zo goed mogelijk kunnen doen.” Heel begrijpelijk, zeker na aanslagen zoals we nu weer hebben gezien in Parijs. Maar, zegt hij, „het is ook het type beslissingen dat je kunt uitbesteden aan apparaten.”

Op allerlei terreinen zie je wat de gevolgen zijn, zegt Schnitzler. „Technologie kan subtiel toegang tot ons krijgen: door een risicoprofiel op te stellen over geanticipeerd gedrag.” Neem risicoprofielen van mensen die vatbaar zijn voor radicalisering, potentiële belastingontduikers, of toekomstige zieken. Die kunnen met ijzeren kracht voorschrijven wat je wel en niet kunt gaan doen en hoe je behandeld wordt door de overheid of bedrijven. Dat is een politieke zorg, vindt Schnitzler. „Als zulke voorspellingen onze vrijheden beperken, tast dat ons mens-zijn aan.”

Volgens Jos de Mul, hoogleraar wijsgerige antropologie aan de Erasmus Universiteit in Rotterdam, is het sowieso „naïef” te denken dat de mens-as-we-know-him „altijd zal voortbestaan”. De echte, lastige en spannende vraag is volgens hem of we „moeten meewerken aan onze extinctie”, maar hij vraagt zich ook af „of we wel een keuze hebben”.

Want is de mens „wel goed toegerust om de boel onder controle” te houden? De mens is grenzeloos in zijn streven om te werken aan „zijn eigen bouwplan”, zegt De Mul. „De mens is vanaf het moment dat hij in de evolutie opdook en de eerste stenen werktuigen begon te fabriceren, bezig geweest aan zichzelf te knutselen. Eerst vooral met technologische en culturele uitbreidingen, die van onze biotoop een technotoop hebben gemaakt. Maar in het tijdvak van de biotechnologie, de neurowetenschappen en de informatietechnologie is ook ons biologische bouwplan zelf object van technologische manipulatie geworden”.

De discussie over wat goed leven is, hebben we verbannen naar de private ruimte, zegt Peter-Paul Verbeek via Skype in zijn lab aan de Universiteit Twente in Enschede. Daarom is er geen politiek debat meer over mogelijk. „Alleen conservatieven praten er nog over”, zegt hij. Als politici technologie niet als bedreiging zien, beschouwen ze techniek vooral als een ‘neutraal’ middel waarmee je problemen kunt oplossen. Dat is naïef: „Technologie verandert onze relaties, onze normen, de manier waarop we leven”.

In zijn boeken – zoals De Grens van de mens en De vleugels van Icarus – werpt Verbeek zich op als ‘realist’. De mens is een technisch wezen, zegt Verbeek, en „zet zichzelf” nu eenmaal „op het spel”. Techniek zit vol politiek, zegt hij: „ze belichaamt macht, bevat vooroordelen, en kan bevoogdend zijn.” Gezichtsherkenning bijvoorbeeld kan discriminerend zijn omdat het minder goed werkt bij mensen met een donkere huid. Verbeek wil maar zeggen: het is een politieke keuze hoe je techniek ontwerpt. Politiek moet „de infrastructuur bieden om tot goede keuzen te komen, waarmee we vorm kunnen geven aan ons leven.”

Robottijdperk

Het politieke debat over de manier waarop technologie de samenleving verandert steekt opvallend bleek af bij het levendige publieke debat over ingrijpende technologische vernieuwingen. De Wetenschappelijke Raad voor het Regeringsbeleid boog zich deze maand bijvoorbeeld over de toekomst van werk in het robottijdperk. En het Rathenau Instituut zocht uit hoe health apps eigenlijk werken en van wie data daarin zijn. Media verleggen hun aandacht. De Telegraaf heeft robotisering ontdekt, RTL brengt longreads over de technologische revolutie in de economie. De Groene Amsterdammer en de VPRO stortten zich op ‘de nieuwe mens’, en het Financieele Dagblad heeft een wekelijkse bijlage over de technologie in zorg, verkeer, wonen, nu ja, alles waar geld mee te verdienen is.

NRC-columnist Maxim Februari pleitte vorig jaar in zijn veelgeprezen Kousbroeklezing voor een ‘alfavisie’ op technologie: „Geen enkel ander onderwerp is zo urgent”. Hij noemt het een „ramp” dat „de technologiekritiek mijlenver achterloopt op de technologische ontwikkeling”. En dat is volgens Februari bij uitstek een politieke zaak: „Vermoord worden door superintelligentie loopt de eerste jaren zo’n vaart niet; de technocratie vestigt zich voorlopig niet doordat apparaten de macht grijpen. Acuter is het gevaar dat mensen het land zelf veranderen in een totalitaire technostaat.”

Digitale predestinatie

Sommige politieke partijen zijn er wel mee bezig. In hun wetenschappelijke tijdschriften staan interviews met Jacob Kohnstamm, de voorzitter van het College Bescherming Persoonsgegevens, die waarschuwt voor ‘digitale predestinatie’: wie door het gebruik van Big Data als een dubbeltje geprofileerd is, zal nooit meer een kwartje worden. CDA-denkers schrijven in hun tijdschrift Christen-democratische Verkenningen over politiek die gaat over het intieme leven (van genetische diagnostiek tot persoonlijke data): biopolitiek. Ze zien daarbij wel ruimte voor christen-democratische ideeën. Maar hoofdredacteur Piet Jan Dijkman constateert ook dat het liberale mensbeeld domineert, vaak ook bij CDA-politici: het gaat om zelfsturing, levenskwaliteit, individuele autonomie – de mens als regisseur van zijn leven, zijn eigen bouwpakket. D66-denken, kortom.

Bij de PvdA is het vrij stil, en de VVD wil in het volgende verkiezingsprogramma een visie uitgewerkt hebben op de gevolgen van biotechnologie en informatietechnologie. Het liberale uitgangspunt zal niet wankelen: zolang de mens autonoom kan beslissen wat-ie wil, is het goed.

De drie techniekfilosofen zijn het hierover eens: autonomie is een illusie. Het miskent dat de mens altijd een technisch wezen is geweest, vindt Jos de Mul – en dus eigenlijk „altijd al een cyborg”. „Op het moment dat we die steen oppakten was het al met onze autonomie gedaan”. Technologie, zegt hij, is ook verslavend, sleept je mee, verandert je gedrag. Juist in de liberale levensvisie schuilt „een gebrek aan tragisch besef”: je weet bij onze nieuwe technologieën niet precies welke risico’s er precies zijn. „Onze risicosamenleving is steeds meer een onzekerheidssamenleving”, zegt hij.

"Het politieke debat over de manier waarop technologie de samenleving verandert, steekt opvallend bleek af bij het levendige publieke debat over technologische vernieuwingen."

Volgens Hans Schnitzler is er een „ondergrens, waar de mens ophoudt mens te zijn”: „De mens moet exclusief toegang blijven houden tot de eigen gedachten en emoties, en zelf kunnen besluiten over toegang tot die innerlijke citadel”. Hij ziet het als een politieke opdracht die te bewaken. Als technologie onze gedachten en toekomstig gedrag kan ‘lezen’ voordat we daar zelf notie van hebben, zegt Schnitzler, „dan wordt de mens een ding. Een te manipuleren object”.

Zo beschouwd is ons bestaan al flink in het geding. Is het nog wel mogelijk te ontsnappen aan onze technotoop? Ik denk terug aan mijn zwembad. Na Schirrmachers Ego was ik geërgerd. Zou technologie er met mijn ik vandoor kunnen gaan? Zo gemakkelijk liet ik me niet afschaffen. Er was niets aan de hand, besloot ik, zolang ik vrij was het water in te duiken, zonder devices.

Ben ik naïef? Wat gebeurt als ik die app aanschaf die mijn gezin waarschuwt zodra ik mijn werk verlaat en ook alvast de verwarming thuis aanzet? Het internet van de dingen die met elkaar communiceren over ons gedrag, maakt dat we permanent onder controle staan. De app een dagje uitzetten is niet onschuldig: dat slaat een gat in mijn bestaan. Dit is Schirrmachers angst: de mens als iets om aan en uit te zetten. Beschik ik over mezelf als ik zwem, of sta ik alleen maar even op pauze?

We staan nog maar aan het begin van de mogelijkheden van technologische (zelf)-controle. De overheid koestert bijvoorbeeld grote verwachtingen van de quantumcomputer, die straks met enorme rekenkracht de talloze gegevens die zij van ons bezit kan koppelen en analyseren. Dan kan zij, en ook nog eens oneindig beter, alles waar Facebook nu zijn slechte reputatie op het gebied van privacy aan dankt. Het droombeeld staat al in ‘toekomstnotities’ van ministeries, maar leidt niet tot debat in Den Haag.

Technofobie

Net als de andere twee techniekfilosofen komt Schnitzler bij debatten over de toekomst van de mens zelden politici tegen. Met etiketten als „technofoob” en „pessimist” die hij krijgt, slaat het debat ook al snel dood, vindt hij. Technologie kan ook vooruitgang opleveren, daar gelooft hij best in. Een sociaal-democratisch programma bijvoorbeeld, dat emancipatie nastreeft door digitaal bewustzijn te vergroten. In Het digitale proletariaat schetst hij een tweedeling tussen digitale haves en have-nots. Die laatste hebben niet per se minder technologische middelen, maar ze verdienen er niets mee – hun data en gedrag zijn de grondstoffen waar anderen van profiteren.

Dave Eggers

Volgens Schnitzler moeten politici oefenen in verbeeldingskracht: romans lezen, zoals The Circle van Dave Eggers, en af en toe een dagje zonder telefoon. Maar ze kunnen ook politici-dingen doen om te voorkomen dat mensen dingen worden: wetten maken die je zeggenschap geven over hun data. Techniek opnemen in de culturele vorming op school. En toezichthouders die „vanuit een publiek belang” economische spelers controleren op hun omgang met data. Internationaal, want „datastromen trekken zich net als geld en het klimaat niets van grenzen aan”.

Jos de Mul vindt dat politici vanuit hun eigen richting moeten bedenken of technologieën hun idealen wel dichterbij brengen. Voor een liberaal is de vraag: wordt de mens echt autonomer? Voor de sociaal-democraat: dient deze techniek echt onze emancipatie? Maar hij heeft zijn hoop gevestigd op ‘klein’ verzet, juist in de informatietechnologie. „Je hebt maar heel weinig kapitaal nodig om een app te maken die onze leefwereld op slag transformeert.”

Ook Verbeek gelooft in actie op microniveau: bemoei je overal mee. De mens houdt op te bestaan, zegt hij, als hij zichzelf niet meer kan ontwerpen. Verbeek wijst kunstmatige intelligentiesystemen aan als „grootste vrees”. Het is denkbaar algoritmes te maken die beslissingen uitrekenen voor chirurgen, rechters en ook politici. Dan zouden politici echt overbodig zijn, net als alle mensen. Maar waarom zou je een robot willen die alles kan wat de mens ook kan? „Als we die als machine behandelen zou dat slavernij zijn, en het uitzetten ervan moord.”