Die robot gaat ons krenken

De Zweedse serie 'Real Humans' - in 2013 te zien geweest op de Nederlandse tv ­- laat ons over dergelijke vragen nadenken. Deze sciencefictionserie speelt in het Zweden van nu, met één groot verschil: er wonen niet alleen mensen, maar ook hubots. Ze lijken op echte mensen, maar het zijn geestloze robots die je herkent aan hun felblauwe ogen en stereotiep gedrag. Ze vervullen allerlei functies: ze werken als fabrieksarbeiders, als hulp in de huishouding, als gezelschapsdame of -heer voor ouderen, maar ze blijken ook heel populair te zijn als sekspartner. Helaas brengen ze naast verlichting en vertier ook de nodige problemen en verwarring met zich mee. Niet in de laatste plaats doordat een geniale geleerde een computercode heeft ontwikkeld die sommige hubots zelf­bewustzijn, emoties en een vrije wil verschaft.

Van oudsher wordt zelfbewustzijn gezien als een van de belangrijkste kenmerken van de mens. Waar planten leven en dieren hun leven beleven, daar is de mens in staat ook nog eens zijn beleven te beleven. Hij is zich bewust van zijn eigen bestaan en kan daarop reflecteren. De vraag wie of wat hij is, waar hij vandaan komt en wat er voor hem in het verschiet ligt, plaagt hem daardoor onophoudelijk.

Darwins evolutiedenken heeft de unieke positie van de mens danig ondergraven. We zijn veel nauwer verwant aan andere dieren dan we in ons trotse zelfbewustzijn meenden. Niet alleen delen we meer dan 98 procent van ons DNA met de chimpansee, ook ons zelfbewustzijn blijkt niet uniek meer te zijn. Chimpansees, dolfijnen en olifanten herkennen zichzelf in de spiegel en dat wijst op een bepaalde vorm van zelfbewustzijn.

Nadat Copernicus de menselijke trots al een knauw had gegeven door aan te tonen dat de aarde niet het middelpunt van het heelal is, betekende deze tweede krenking dat we ons maar een beetje onderscheiden van de andere dieren. En Freud voegde daar, zoals hij niet al te bescheiden opmerkte in zijn 'Inleiding in de psychoanalyse', nog een derde krenking aan toe: slechts een klein deel van onze gedachten is bewust, de meeste psychische processen verlopen onbewust. Ons zelfbewustzijn, zei Schopenhauer al, is niet meer dan een klein lichtje dat de machtige levensdriften af en toe ontsteken om zichzelf bij te lichten.

Het kan nog erger. De ontwikkeling van de robotica heeft een vierde krenking voor ons in petto. De Amerikaanse filosoof Daniel Dennett stelde in deze krant (Letter&Geest, 11 januari) dat mens en computer eigenlijk niet zoveel van elkaar verschillen. Volgens hem overschatten we ons bewustzijn schromelijk; we zijn niet meer dan een 'vochtige robot', niet gemaakt van silicium en staal, maar van vlees en bloed.

Wat opvalt aan de menselijke zelfreflectie, is dat men bij de poging de mens te definiëren heel vaak vergelijkt met het niet-menselijke. Filosofen hebben (net als sprookjesschrijvers trouwens) de mens altijd al graag met dieren vergeleken. Plato noemde de mens een ongevederde tweevoeter. Dat vond de cynicus Diogenes niet zo'n gelukkige beeld. Hij rende naar de markt, kocht daar een geplukte haan en wierp die voor Plato's voeten: "Zie hier de mens van Plato!" (Een hedendaagse Diogenes snelt na het lezen van Dick Swaabs 'Wij zijn ons brein' naar de slager om anderhalve kilo hersenen te kopen.) Aristoteles stelde dat de mens voeding en groei deelt met de plant, en waarneming met het dier, maar zich van beide onderscheidt door de rede. Ook de vergelijking van de sterfelijke mens met de onsterfelijke goden is een populaire strategie.

Opvallend is bovendien dat in de moderne tijd ook machines en andere menselijke maaksels vergelijkingsmateriaal zijn. Zo stelde Descartes in de zeventiende eeuw dat dieren niets meer zijn dan ingewikkelde machines; de mens heeft een immateriële geest. De Franse verlichtingsfilosoof La Mettrie ging in 'De mens een machine' (1748) nog een stap verder: ook de mens is niets anders dan een ingewikkeld apparaat.

In onze informatiesamenleving is vooral de computer de spiegel geworden waarin we onszelf herkennen.De ontwikkeling van de techniek onthult iets over de ontwikkeling van het zelfbeeld van de mens. Pas wanneer de mens zichzelf ziet als een wezen dat informatie verwerkt, is hij in staat dit inzicht te objectiveren in computers en andere automaten.

'Informatie' is het buzzwoord van nu. Materie, leven en bewustzijn worden tegenwoordig beschouwd als informatieverwerkende systemen. Informatie is een basiseigenschap van het universum, naast materie en energie, waarmee het in verband staat. Daarmee is natuurlijk nog niet gezegd wat informatie nu eigenlijk is.

Dat komt doordat het begrip nogal uiteenlopende zaken aanduidt. Wat hebben de thermostaat van de cv, de reproductie van DNA-moleculen in een cel en de uitwisseling van tweets nu precies met elkaar gemeen?

De spraakverwarring rond 'informatie' lijkt op die van zeventiende-eeuwse natuurwetenschappers die geen greep kregen op het verschijnsel 'energie'. Ze beseften dat ze te maken hadden met een belangrijk fenomeen dat veel verschijningsvormen kent, maar wisten niet precies hoe ze erover moeten spreken.

Misschien helpen inzichten uit de semiotiek (leer van de betekenis van tekens) ons verder. Je kunt 'informatie' namelijk definiëren als een geordende reeks tekens (syntaxis) die worden overgedragen van het ene fysische systeem naar het andere. Die tekens kunnen het gedrag van het ontvangende systeem beïnvloeden (pragmatiek) of daar een specifieke betekenis voor hebben (semantiek).

Voorbeeld: je leest het weerbericht in de krant in de hoop dat je goede informatie over het weer krijgt. Die informatie is gegoten in een tekst van geordende letters (syntaxis). Jij bent geen analfabeet, en leest dat het vanmiddag gaat regenen (semantiek). Je neemt dan als  je naar buiten gaat een paraplu mee (pragmatiek). Zo komen materie (de fysieke elementen waaruit de 'boodschap' is opgebouwd), leven (het interacterende systeem) en bewustzijn (van dat systeem) samen.

Uitgaand van deze drie aspecten van informatie onderscheid ik drie typen automaat.

De syntactische automaat kan niets anders dan elektronische signalen (op hardware-niveau) en symbolen (op software-niveau) op een louter mechanische wijze herordenen. Dat is wat onze computers doen. Via pc, notebooks, tablets en smartphones voeren we informatie in en krijgen andere informatie, maar het apparaat zelf reageert niet op zijn omgeving en heeft daar ook geen benul van: het ontbreekt hem aan pragmatiek en semantiek.

Het onderzoek naar kunstmatige intelligentie (Artificial Intelligence, AI) richtte zich aanvankelijk vooral op het maken van dit type automaten. Het idee was dat je daar alle vormen van intelligentie mee zou kunnen simuleren (zwakke AI) of zelfs scheppen (sterke AI), en dat zulke slimme computers de mens binnen enkele generaties op alle gebied zouden overtreffen.

Dat is niet uitgekomen - op een paar specifiek, uit louter denken bestaande uitzonderingen na: zo versloeg schaakcomputer Deep Blue bijna tien jaar geleden wereldkampioen Gari Kasparov.

Het echec van de traditionele AI-aanpak maakte dat er andere opvattingen over (kunstmatige) intelligentie opkwamen. Wil een automaat werkelijk intelligent zijn, dan moet hij niet alleen kunnen 'denken' zoals een schaakautomaat, maar ook kunnen interacteren met de wereld. Daarmee verschoof het onderzoek naar de robotica, dus naar pragmatische automaten. De stofzuigerrobot van mijn zoon Joep is daarvan een goed voorbeeld. Bij het uitvoeren van zijn programma reageert die robot met zijn omgeving. Als hij tijdens het stofzuigen bij een muur of meubelstuk komt, slaat hij af en bij de trap naar de benedenverdieping maakt hij rechtsomkeert. Je zou dat intelligent gedrag kunnen noemen, maar in werkelijkheid is de stofzuigerrobot natuurlijk niets meer dan een geestloze machine, een zombie.

Dat geldt ook voor de gewone, niet-gehackte hubots in 'Real Humans'. Maar zoals Dennett terecht opmerkt, hebben we de neiging om zelfs aan simpele robots als de robotstofzuiger intenties toe te schrijven ('Hij maakt rechtsomkeert omdat hij niet te pletter wil vallen'). De hubots zijn in hun gedrag veel 'menselijker', zodat mensen in 'Real Humans' zelfs liefdesrelaties met hen aangaan.

In 'Real Humans' komen ook gehackte hubots voor, met een eigen bewustzijn, gevoelens en een vrije wil. Zulke semantische automaten bestaan nog niet, maar het is zeker niet uitgesloten dat ze gebouwd gaan worden. Neurowetenschappers hebben zich de afgelopen jaren toegelegd op maken van brain-based devices: machines die heel precies de anatomie en dynamiek van onze hersenen nabootsen en zo bewustzijn kunnen gaan vertonen. De onderzoekers beweren natuurlijk niet dat de machines die zij hebben gemaakt al bewustzijn bezitten. En ook is het onzeker of het de mens ooit, in een verre toekomst, zal lukken het complexe, uit miljarden neuronen bestaande brein na te bouwen. Maar in principe is dat allerminst uitgesloten.

Niemand kan de ironie ontgaan: juist nu filosofen als Dennett beweren dat de mens niet veel meer is dan een geestloze robot, proberen robotspecialisten om kunstmatige breinen en robotbewustzijn te realiseren. Het is te hopen dat de robots van de toekomst de mens iets meer zelfbewustzijn zullen toeschrijven dan de in zelfkrenking gespecialiseerde mens zelf.

In 'Real Humans' komt een robotspecialist aan het woord in een rechtszaak over het toekennen van rechten aan gehackte robots. Hij krijgt de vraag voorgelegd of robots en mensen ooit vreedzaam kunnen samenleven. Zijn antwoord is een retorische vraag: "Wie wil er nu in vredesnaam de hele tijd met een stel idioten samenwerken?"

Een advocaat bijt hem daarop toe dat je zo niet over deze robots hoort te spreken, omdat ze bewustzijn, gevoelens en een vrije wil hebben. Repliek van de robotspecialist: "Ik heb het niet over de robots."

Zijn die gehackte robots inderdaad superieur aan ons? Opvallend is dat ze er alles aan doen om ‘echte mensen’ te worden. Ze lijken wel wat op Griekse goden die – in weerwil van hun onsterfelijkheid ­– vaak jaloers waren op ons, stervelingen. Blijkbaar kan de mens niet ondanks, maar juist dankzij het bewustzijn van zijn eigen eindigheid zo intens genieten van de momenten van verwondering en verrukking die hem ten deel vallen, dat dit de afgunst oproept van de onsterfelijke goden en robots.

De menselijke robot vormt onze vierde  krenking – hij legt onze laatste zenuw open. Dat we eindig zijn, dat weten we allemaal. Maar dat we dat collectief zijn, door de komst van bedreigende technieken die ook nog eens een eigen maaksel zijn, confronteert ons met onze diepste evolutionaire angst: die voor de uitsterfelijkheid. De angst voor Homo sapiens 0.0.

Maar juist doordat we ons bewust zijn van onze sterfelijkheid zijn we de ‘eeuwige toekomstigen’, die onophoudelijk nieuwe cultuur en techniek scheppen in de hoop onze uiteindelijke bestemming te bereiken. De onbereikbaarheid daarvan maakt niet alleen de misère uit van ons bestaan, maar verleent ons tegelijkertijd onze grootste grandeur.