Jos de Mul. In Japan heeft Erica een ziel. Vrij Nederland, 20 augustus 2016, 41-45.
Kansai Science City doet op het eerste gezicht eerder aan de Verenigde Staten denken dan aan Japan. Waar Kyoto voor een groot deel bestaat uit smalle straatjes, volgebouwd met kleine huizen met minuscule tuintjes, waarin zelfs de bonsai boompjes het niet breed hebben, daar is dit enorme, tussen Kyoto, Osaka en Nara gelegen science park een grotendeels open vlakte, doorkruist door brede autowegen. Daaraan liggen, om de paar honderd meter, kolossale gebouwen, die de researchafdelingen huisvesten van zo’n 250 Japanse onderzoeksinstituten, universiteiten en multinationale bedrijven als Panasonic.
Bepaald on-Amerikaans daarentegen zijn de comfortabele fietspaden. Ik heb de veertig kilometer, die mijn appartement in het Noorden van Kyoto van Kansai Science City scheidt, fietsend langs de Katsura en Yodo rivier overbrugd op weg naar de Hiroshi Ishiguro Laboratories, gehuisvest in het Advanced Telecommunications Research Institute International (ATR). Bij het schrijven van mijn boek Kunstmatig van nature. Onderweg naar Homo sapiens 3.0 raakte ik gefascineerd door de Japanse voorkeur voor androïden, robots die bedrieglijk echt op mensen lijken. Met name de regio Kyoto-Osaka staat hierom bekend en ik maak van mijn verblijf als gasthoogleraar in Kyoto gebruik om me op de hoogte te stellen van de laatste ontwikkelingen.
Hiroshi Ishiguro, hoogleraar robotica aan de Graduate School of Engineering Science van Osaka University, is een van de bekendste onderzoekers op dit terrein. Hij verwierf in 2006 internationale bekendheid met robotdubbelganger, Geminoid HI-1 (van het Latijnse gemini, tweelingen, zie www.geminoid.jp/). Ik ben gekomen voor de demonstratie van deze robot en van het nieuwste model, de communicatierobot Erica.
Geminoid HI-01 is een telerobot. Hij handelt niet zelfstandig, maar wordt in real time bediend door een menselijke ‘bestuurder’. De in samenwerking met kunstenaars vervaardigde robots hebben een metalen skelet en een plastic schedel en met name hun siliconen huid en mensenhaar (van Ishiguro zelf) maakt HI-01 griezelig realistisch. De bewegingen – Ishiguro’s dubbelganger kent vijftig verschillende bewegingen en gelaatsuitdrukkingen – worden door middel van een luchtcompressor en pneumatische actuators veroorzaakt. Ze lopen synchroon met de bewegingen van de bestuurder, die zich in een andere ruimte bevindt. Zijn bewegingen worden via tracking devices en teleoperatiesoftware vertaald in bewegingen van de robot. De bestuurder van deze geavanceerde marionet kan bovendien door middel van een microfoon en luidsprekers door de robot heen spreken en ondergaat dankzij sensoren en camera’s in de robot ook indrukken van diens omgeving.
Ishiguro gebruikt zijn mechanische dubbelganger onder meer om vanuit zijn huis colleges op de universiteit of elders in de wereld een lezing te houden. Dergelijke praktische toepassingen vormen echter maar één kant van Ishiguro’s android science. Hij gebruikt de geminoids ook voor (neuro)psychologische experimenten op het gebied mens-robotinteractie en telepresentie. Een van de opmerkelijke bevindingen is dat zelfs zonder tactiele feedback de gebruiker een lichamelijke sensatie ondergaat als zijn tweelingrobot wordt aangeraakt. Daarbij lijken spiegelneuronen in het spel te zijn. Bij het bekijken van een handeling van een andere persoon worden dezelfde neurale patronen geactiveerd als bij het uitvoeren van die handeling. Dat speelt niet alleen een rol bij het oproepen van empathische gevoelens voor andere personen, maar ook bij de identificatie met een robotlichaam en het letterlijk inlijven daarvan in het eigen lichaamsschema.
Zo’n telerobot realiseert zo op materiële wijze wat de wijsgerig antropoloog Plessner de excentrische positionaliteit van de mens noemt. Volgens Plessner zijn we niet alleen een lichaam, zoals een plant, maar hebben we ook, net als andere dieren, een lichaam dat we kunnen besturen vanuit het met ons zenuwstelsel en hersenen verbonden centrum van onze beleving. We onderscheiden ons evenwel als mens doordat we ons ook buiten ons lichaam kunnen begeven. Kon dat voor kort enkel in onze verbeelding, bijvoorbeeld door ons voor te stellen dat we een kijkje in New York nemen, een slachtoffer uit een brandend huis redden, of op Mars wandelen, dankzij de telerobot–die we desgewenst kunnen uitrusten met nieuwe zintuigen, zoals infrarood-ogen of echolocatie - kunnen we die dingen nu ook daadwerkelijk doen.
Het interacteren met de robotdubbelganger is een merkwaardige ervaring. Door de sterke gelijkenis met de echte Ishiguro en het feit dat we met ‘de mens achter de robot’ spreken, merk ik dat ik de robot als een mens benader. Maar doordat de mechanische en stereotype bewegingen en gelaatsuitdrukking dat vertrouwde patroon doorbreken, treedt er cognitieve dissonantie op. Ik griezel onwillekeurig.
De Japanse robotontwerper Masahiro Mori betoogt in een artikel uit 1970 dat dingen een vertrouwdere indruk maken naarmate ze meer op een mens lijken, maar dat dat vertrouwde gevoel bij dingen die heel erg op een mens lijken, maar dat op een fundamentele wijze toch niet zijn, zoals een lijk of een zombie, omslaat in walging. Mori noemt dat verschijnsel in de in het artikel opgenomen grafiek bukimi no tani genshō. In het Engels werd dat uncanny valley, waarmee een link werd gelegd naar Sigmund Freuds essay over ‘das Unheimliche’ (‘The Uncanny’). Ook Freud wijst daarin op het motief van de mechanische dubbelganger, en brengt die in verband met de angst voor de dood, verdrongen seksuele driften, en narcistische almachtsfantasieën. Misschien moet iemand zich maar eens wagen aan een psychoanalyse van de geminoid.
Een verdieping hoger wacht de demonstratie van Erica. Haar uiterlijk is niet gebaseerd op een specifiek persoon, maar is door Ishiguro op de computer ontworpen door dertig foto’s van mooie vrouwen te combineren (ik moest, met Freud nog in het achterhoofd, onwillekeurig denken aan de film Ex machina). Erica is een autonome robot, die zelfstandig interacteert met haar omgeving. Haar ‘handelinsgvrijheid’ is overigens beperkt. Net als Ishigiro’s dubbelganger kan ze niet lopen, maar is ze bevestigd op haar stoel. Dat heeft een reden. Erica, een acroniem voor ERato Intelligent Conversational Android, is een androïde versie van een chatbot en dat levert extra problemen op. Om te kunnen communiceren moet Erica om te beginnen de stem van haar gesprekspartner kunnen horen. Auditieve speech recognition in lawaaiige ruimten met meerdere personen is echter een bijzonder lastige opgave. Om die reden is Erica onzichtbaar verbonden met een groot aantal microfoons en sensoren, zodat ze haar gesprekspartner ook wanneer die zich beweegt, kan lokaliseren.
Erica, wier stem in real time wordt gesynthetiseerd, is niet alleen in staat om te reageren op vragen en opmerkingen, maar ze blijft haar gesprekspartners ook met haar ogen volgen en haar gezicht toont de bij de conversatie passende emoties. Dat dat laatste inderdaad zo is, moet ik overigens maar aannemen van Dr. Takashi Minato, die de demonstratie van Erica begeleid, want vandaag verloopt het demonstratiegesprek met Erica en haar bezoekers geheel in het Japans Toch valt het me op dat Erica zich gedurende het gesprek een paar keer vergist en zich met verbaasde blik tot Takashi richt, die mij in het Engels toelichting geeft (zie voor een Engelstalige conversatie: https://www.youtube.com/watch?v=_NTj88EdPtM).
Na afloop spreek ik met Minato over de vele hindernissen op de weg naar de perfecte conversatierobot. Het focussen van Erica op haar gesprekspartner is nog kinderspel vergeleken bij de opgave haar een alledaags gesprek over ieder mogelijk onderwerp te laten voeren. Hoewel haar vaardigheden dankzij het gebruikte open domain conversational system (dat het web doorzoekt op bruikbare, vergelijkbare dialogen, ongeveer zoals Google translate te werk gaat bij het vertalen) en deep learning (een hedendaagse versie van neurale netwerken) best indrukwekkend zijn, is het aantal onderwerpen waarover met Erica kan worden gesproken momenteel nog zeer beperkt. Zo kun je met haar over haar hobby’s spreken, maar bij veel andere onderwerpen houdt ze de boot af (en dat doet ze ook, blijkbaar niet alleen een menselijk trekje, als je haar naar haar leeftijd vraagt). Om de beroemde Turingtest te passeren, zou Erica minimaal 30% van haar gesprekspartners gedurende 5 minuten moeten kunnen denken dat ze een mens is, ongeacht het aangesneden onderwerp. Tot 2014 is geen enkele chatbot daarin geslaagd.
De ambities van Ishiguro reiken beduidend verder: een robot die in staat is de Total Turing Test te passeren. Anders dan bij de traditionele Turing test, waarbij het gesprek via toetsenbord en scherm plaatsvindt, vereist dit dat de toekomstige versie van Erica– net als de robot Ava in de Ex machina - een vragensteller in dezelfde ruimte moet kunnen overtuigen van haar menselijkheid. Door Ishiguro uitgevoerde experimenten laten zien dat 20% van proefpersonen binnen seconde door heeft met een robot te maken te hebben. En naar mijn inschatting volgt de overige 80% in de vijf seconden.
De hype is er niet minder om. De dag na de demonstratie tref ik een paginagrote foto van Erica aan op de achterpagina van de New York Times met de tekst "Meet Erica. She didn't go to school. She doesn't have dna. Soon she will be smarter than you." Hoezeer ik ook onder de indruk was van Erica, de demonstratie doet vermoeden dat dit ‘soon’ op een evolutionaire tijdschaal slaat.
Als ik enkele weken later voor Ishiguro en zijn team een lezing hou over de Turing test, valt me op hoe onverbeterlijk optimistisch de onderzoekers zijn over de mogelijkheid de uncanny valley te doorkruisen en Turing totaal te verslaan.
Ishiguro’s optimisme wordt niet door iedereen gedeeld. De scepsis richt zich niet alleen op de haalbaarheid van het project, maar ook op de zin ervan. Vliegtuigen kunnen uitstekend vliegen zonder dat ze op een vogel lijken. En een lopende band is een stuk efficiënter dan een met dozen zeulende androïde.
Ishiguro geeft in de discussie die op mijn lezing volgt toe dat androïde robots niet in alle gevallen de beste oplossing vormen, maar wel in het sociale verkeer. Wij zijn van jongs af aan getraind in en gewoon aan de omgang met mensen. Robots die op mensen lijken vergemakkelijken niet alleen de omgang met robots maar bevorderen volgens Ishiguro ook hun maatschappelijke acceptatie. Iets dat er uitziet als een mens behandelen we ook als een mens. In Human-Robot Interaction in Social Robotics (2013) bespreekt Ishiguro een reeks veldexperimenten met androïde gidsrobots in een museum, een winkelcentrum en een treinstation. Die experimenten bevestigen niet alleen de effectiviteit van de dienstverlening, maar laten tevens zien dat de meeste volwassen en kinderen veel plezier hebben in de interactie met de robots.
Omdat de robots met behulp van ID chips de vragen en voorkeuren van hun klanten onthouden, ontstaat er zelfs zoiets als een ‘persoonlijke band’ met de robots, en vindt er zelfs emotionele gehechtheid plaats. Dat gebeurt zelfs eerder wanneer de robot meer cartoonesk dan fotorealistisch oogt, omdat de uncanny valley zich dan minder snel voordoet.
Dat verklaart het succes van de door Ishiguro ontworpen zorgrobots die worden toegepast in de bejaardenzorg en het onderwijs en bij de begeleiding van autisten. Ook in Nederland heef de zorgrobot in de gestalte van de Vlaamse Zora schoorvoetend zijn intrede gedaan. Het verschil met Japan is echter groot. Japan is de sterkst gerobotiseerde samenleving ter wereld. Niet alleen doen er meer dan 250.000 industriële robots hun dagelijkse werk, de regering en het bedrijfsleven hebben afgelopen decennia miljarden geïnvesteerd in de ontwikkeling van de sociale en affectieve robotica. Robots zijn er immens populair. Ze dansen en zingen op elektronicabeurzen, showen bruidskleding op de catwalk en treden op in televisieprogramma’s. Aan de jaarlijkse ROBO ONE robotwedstrijden wordt door hele families deelgenomen. En vanaf de introductie van de robothond Aibo in 1999 vinden consumentenrobots gretig aftrek. De androïde Pepper, in de markt gezet als de eerste emotionele robot, was bij zijn introductie in 2015 binnen één minuut uitverkocht.
Liefhebbers kunnen sinds vorig jaar in het themapark Huis ten Bosch in Nagasaki ook logeren in het (vrijwel) volledig door robots gerunde Henn-na hotel, en in de film Sayonara (2015) speelt Ishigoru’s vrouwelijke Geminoid F een van de hoofdrollen. Haar viel op het Tokyo International Filmfestival zelfs een nominatie voor de beste vrouwelijke hoofdrol ten deel. De film, gebaseerd op Oriza Hirata’s theaterproductie Sayonara II, handelt over de vriendschap tussen een mens en een robot, die zich ontwikkelt in de nasleep van een naar Fukushima gemodelleerde kernramp. Het centrale thema is hun beider kwetsbaarheid. Met het verblijf van gezelschapsrobot Kirobo in het International Space Station, is dit vriendschapsmodel inmiddels de filmische verbeelding voorbij.
Er wordt vaak beweerd dat de Japanse liefde voor de robot een praktische noodzaak is. Niet alleen economisch, om de concurrentie aan te kunnen met de zich snel ontwikkelende Aziatische lagelonenlanden, maar ook sociaal. Japan kent de sterkste vergrijzing ter wereld kent en is niet erg immigratievriendelijk. Het land kampt met een oplopend tekort aan personeel in zorg, onderwijs, en andere dienstverlenende beroepen.
Toch lijkt de praktische noodzaak onvoldoende om de emotionele band te verklaren die Japanners met hun robots onderhouden en die ze aanzet hun robothond of androïde door Shinto priesters te laten zegenen en ze met een Boeddhistisch ritueel naar hun laatste rustplaats te begeleiden. Dergelijke gebruiken suggereren dat de unieke andere relatie die Japanners onderhouden met hun androïde robots niet kan worden losgezien van hun wereldbeschouwing, die in een aantal opzichten sterk afwijkt van de Westerse.
In de westerse, door het christendom gevormde cultuur, rust er een taboe op het ‘voor god spelen’. De mens is weliswaar door God aangesteld als rentmeester over de natuur en mag daar zelfs mee experimenteren, maar het scheppen van leven, vooral menselijk leven, is het privilege van God. Genetici en robotici die dat taboe overtreden, krijgen zelfs in de meest seculiere westerse samenlevingen al snel te maken met het verwijt te handelen uit hubris, in de christelijke traditie de moeder van alle doodzonden. En zoals ook de Griekse tragedies leren leidt hubris tot rampspoed en catastrofes.
Het is om die reden dat het overgrote deel van de Westerse sciencefiction die handelt over robots, apocalyptisch van aard is. In films als Bladrunner (1982), Terminator (1984) en Ex machina (2015) zijn androïden steevast uit op de vernietiging van de mens. Zelfs in de beroemde robotverhalen van Asimov, die draaien om de drie robotwetten die moeten voorkomen dat robots de mens ooit kwaad zullen doen, draait de plot vrijwel steeds over de omzeiling daarvan. En die apocalyptische kijk blijft niet beperkt tot fictie. Ook de wetenschap grossiert in verhalen waarin robots de banen van mensen wegkapen, als drones dood en verderf zaaien, of zelfs –zo profeteerde vorig jaar niemand minder dan de beroemde fysicus Stephen Hawking–het menselijk ras gaan domineren en uiteindelijk vervangen. Zelfs in de meest optimistische versies – zoals de paradijselijke eindtijdfantasieën van Moravec en Kurweil over de komende singulariteit – is er voor de mens geen plaats meer.
In vergelijking daarmee is het robotbeeld in Japanse sciencefiction doorgaans veel positiever. Robots als Astroboy, de hoofdfiguur in een mangastrip die tussen 1952 en 1968 verscheen en herhaaldelijk is bewerkt tot animatiefilm, zijn geen vijand, maar helpers van de mensheid. Zij vormen niet het kwaadaardige negatief van de mens, zoals Freud dubbelganger; mens en robot liggen veeleer in elkaars verlengde.
Dat kan niet worden losgezien van het wereldbeeld van het shintoïsme en boeddhisme, dat niet de scheidingsdrift kent die het moderne westerse wereldbeeld domineert. Waar in het Westen de scheiding tussen leven en dood, lichaam en geest, mens en dier, man en vrouw vaak wordt verabsoluteerd, daar zijn de grenzen tussen de tegendelen, zoals beelden tot uitdrukking wordt gebracht in het yin-yang symbool, veel vager en vloeiender. Dat komt niet alleen tot uitdrukking in het alledaagse leven – zo zien de mannelijke studenten die mijn colleges in Kyoto volgen er bijvoorbeeld qua kleding en haardracht naar Westers begrip vaak bijzonder feminien uit, en hebben Japanners minder moeite met transgenders – maar ook in de religie.
Dat raakt op fundamentele wijze de Japanse houding ten opzichte van robots. In het animistisch gekleurde shintoïsme hebben niet alleen mensen een ziel (kami), maar geldt dat ook voor dieren, planten en zelfs stenen. Binnen dit wereldbeeld is het niet vreemd dat ook aan robots een ziel wordt toegeschreven. En vanuit een boeddhistisch achtergrond stelt de roboticus Mori dat ook robots ernaar streven hun boeddha-natuur te realiseren.
Net als in het Westen vergelijken Japanners mensen met dieren, maar dat is dan niet alleen om de verschillen te benoemen, maar ook, juist ook, de overeenkomsten. Waren het traditioneel vooral apen die deze spiegelfunctie vervulden, in het moderne Japan wordt die rol steeds vaker gespeeld door robots. Binnen het reflexieve antropomorfisme dat het Japanse wereldbeeld kenmerkt staan robots niet tegenover de mens, maar maken zij er deel van uit. Is het daarom dat het gedrag van Japanners in Westerse ogen vaak robotachtig overkomt? In de lokale Randen trein die mij van het vlakbij mijn appartement gelegen Ryoan-ji station richting centrum brengt, kijk ik iedere rit weer gefascineerd naar de machinist-conducteur, die razendsnel maar zichtbaar een script uitvoert. Voor iedere handeling – het kijken in de spiegel, op de klok, op de tabel met de dienstregeling, het draaien aan de handel die de trein in beweging zet – wordt er met gestrekte vinger naar het object van de handeling gewezen.
Zittend in de beroemde Zentuin van de Ryoan-ji tempel denk ik terug aan mijn lezing in de Hiroshi Ishiguro Laboraties, waarin ik onder meer stilstond bij het debat dat in 1939 plaatsvond tussen Turing en Wittgenstein over vraag of machines kunnen denken. Zij deelden daarbij het behavioristisch uitgangspunt dat denken niet een mysterieus innerlijk vermogen is, maar iets dat zich toont in het gedrag. Omdat machines vanuit zichzelf geen intelligent gedrag vertonen, vond Wittgenstein de vraag of een machine kan denken daarom net zo onzinnig als de vraag wat de kleur van het getal drie is. Turing, die enkele jaren daarvoor de programmeerbare computer had bedacht en in 1939 al volop nadacht over de mogelijkheid met behulp daarvan robots te bouwen, was het op dit punt volstrekt oneens met Wittgenstein. Bij een intelligent geprogrammeerde robots is het helemaal niet zo gek daaraan intelligent gedrag toe te schrijven. Als mijn kleinkinderen zeggen dat de stofzuigerrobot zich bij de trap omdraait omdat hij bang is om van de trap te vallen, dan is dat – anders dan het toeschrijven van een herfstdepressie aan de maaimachine – geen onzinnige of op zijn best poëtische uitspraak. Het taalspel rondom intenties verandert met de ontwikkeling van de technologie.
Voor de doorsnee westerling blijft het toeschrijven van een ziel aan een robot echter nog een brug te ver. Zeker binnen een mechanistisch wereldbeeld waarin zelfs wordt betwijfeld of mensen wel een geest hebben. Misschien zijn Japanners door hun door shintoïsme en boeddhisme gestempelde wereldbeeld wel conceptueel beter uitgerust om de gemeenschappelijke toekomst van mens en robot te denken en vorm te geven. En wellicht kunnen wij westerlingen daarvan nog wat leren.
Natuurlijk moeten we ons daarbij hoeden voor digitaal oriëntalisme, ongenuanceerde verheerlijking van Oosterse robotwijsheid. Niet alleen omdat de tegenstellingen tussen Oost en West niet absoluut zijn (wie dat denkt, geeft zich over aan de problematische scheidingsdrift), maar ook omdat ook in het robofiele Japan de introductie van robots natuurlijk niet zonder problemen verloopt. Dat laat zich bijvoorbeeld al aflezen aan de gebruikersovereenkomst die SoftBank de kopers van emorobot Pepper laat ondertekenen, en waarin de bepaling is opgenomen dat de gebruiker belooft af te zien van seksuele en anderszins onfatsoenlijke handelingen met de androïde. Die bepaling lijkt, anders dan in de onlangs in Engeland gestarte Campaign against Seks Robots, niet zozeer gemotiveerd te zijn door de angst dat dergelijke robots de vrouw dehumaniseren, maar vooral uit bekommernis om de kwetsbare robotziel. De Boeddha-natuur is ook in Japan nog niet in ieder gerealiseerd. Misschien is het daarom maar goed dat er van Erica voorlopig nog geen consumentenversie in de winkel ligt.