Essays in newspapers and cultural magazins
Typography
  • Smaller Small Medium Big Bigger
  • Default Helvetica Segoe Georgia Times
Jos de Mul. Ze begrijpt me. Hoe nieuwe robots ons leven gaan raken. Trouw, 3 december, 2011, Letter en Geest, 1-3.

"Mijn machine maakt mogelijk wat nu nog niet kan", schreef Karel van het Reve in 1983, aan de vooravond van de digitale revolutie.Hoe staan we er anno 2011 voor? De Rotterdamse filosoof Jos de Mul Ziet nu al ongekende mogelijkheden voor robots en er kan nog veel meer. Alleen: een machine die mijn gevoelens doorgrondt en van wie ik ga houden, is dat wel wenselijk?

Ze praat, lacht en wandelt, weegt 43 kilo en is 1,58m lang. De Japanse humanoide robot, ontworpen door Kazuhito Yokoi, luistert naar de naam HRP-4C,alias Miim. Afhankelijk van de gebruikte software kan ze ook dansen of zingen:verder functioneert Miim prima als mannequin die op de catwalk bruidskleding showt.

Onlangs nodigde het Ministerie van Veiligheid en Justitie robotica-specialisten uit om eens mee te denken over de inzetbaarheid van robots op de beleidsterreinen van het ministerie, zoals het bewaken van mensen tijdens grote festiviteiten, of gevangenen op verlof. De minister en de staatssecretaris bleken vooral geïnteresseerd in de korte termijn: toepassingen voor tijdens hun regeringsperiode. Ik kijk nog even verder.

Tot voor kort kwamen we robots, behalve in sciencefictionromans en -films, vooral tegen in de fabriek in de gedaante van de industriële robot. Inmiddels maakt de robot ook schoorvoetend zijn entree in de publieke en private ruimte. Dat stelt robotontwerpers voor nieuwe vragen. Willen robots zinvol en veilig met mensen kunnen omgaan, dan moeten ze niet alleen intelligent zijn, maar ook menselijke emoties kunnen herkennen en uitdrukken. En misschien zal de toekomstige robot ook zelf emoties moeten bezitten.

Intelligente robots zijn machines die geprogrammeerd zijn om doelgericht te handelen, rationele beslissingen te nemen en effectief met hun omgeving te interacteren.


ZebegrijptMe2150x232Robots zijn er in soorten en maten. Sommige lijken opmensen, andere niet. De robotstofzuiger die in het gezin van mijn zoon de vloer schoonhoudt, heeft meer weg van een bovenmaatse damsteen. Robots hoeven niet tastbaar te zijn. De softbot op het internet die een vraag van een helpdeskklant beantwoordt, is een louter softwareprogramma. Ook in grootte variëren robots sterk, van microscopisch kleine nanorobots, die via de bloedvaten het menselijk lichaam binnengaan om defecte cellen te repareren tot complete intelligente gebouwen (ambient intelligence). Robots verschillen ook in de mate van autonomie. Zo worden telerobots, zoals die door politie en brandweer, door het leger (drones, onbemande bommenwerpers) en in de ruimtevaart al worden gebruikt, op afstand bestuurd; ze hebben in het geheel geen ‘eigen wil’. Maar meestal kunnen ze op basis van hun programma min of meer zelf beslissingen nemen en door vallen en opstaan ook leren.

Robots die geheel zelfstandig opereren en zich kunnen reproduceren en ontwikkelen, treffen we voorlopig alleen aan in sciencefictionromans en –films. En misschien moeten ze daar voorlopig ook maar blijven.

Ik onderscheid drie robotvormen. Ze kunnen in de eerste plaats fungeren als een verlengstuk van ons lichaam, met behulp waarvan we de wereld kunnen waarnemen en daarmee interacteren. De telerobot is daarvan een voorbeeld.

Bij het tweede type, zoals het intelligente huis, fungeert de robot eerder als de achtergrond van ons handelen.

Het derde type robot werkt als een kunstmatige ander, die met ons in interactie treedt. Het is hier dat emoties belangrijk worden.

Emoties zijn reacties op uitwendige of inwendige prikkels of gebeurtenissen, die tot uitdrukking komen in bepaalde fysiologische kenmerken (bijvoorbeeld verhoogde hartslag), gedragspatronen (vluchten) en gevoelens (angst). Ze kennen twee basisdimensies: ze zijn prettig of onprettig en ze verschillen in intensiteit (van bezorgdheid via vrees naar paranoia). Sommige emoties zijn aangeboren en sterk reflexmatig, andere zijn meer cultureel bepaald (schuld, schaamte). Ook kunnen we tijdelijke, ‘aandoeningen’ (verliefdheid) onderscheiden van langdurige affecten (liefde), van affectieve disposities (een licht ontvlambaar karakter) en objectloze affecten (een verveelde stemming of depressie).

Waarom zijn emoties cruciaal voor intelligent gedrag? Dat hangt samen met de motiverende werking die emoties hebben (‘emotie’ en ‘motief’ gaan beide terug op het Latijnse movere, bewegen). Emoties brengen ons ertoe interacties aan te gaan met onze omgeving, zetten ons aan doelen te formuleren en na te streven en op grond daarvan beslissingen te nemen. Wie, zoals bij een bepaald type hersenletsel, geen emoties ervaart, is doelloos en lusteloos en blijft steken in eindeloze afwegingen zonder tot handelen te worden bewogen.

Bij sociale intelligentie spelen emoties nog een andere rol. Om adequaat aan sociaal verkeer deel te kunnen nemen, moeten we in staat zijn emoties bij onszelf en anderen te herkennen en herkenbaar uit te drukken. Het vergt bovendien inlevingsvermogen in de emoties van anderen. ‘Emotionele intelligentie’ is geen afzonderlijk vermogen, maar met een dimensie van vrijwel ieder intelligent gedrag.

Robots zijn inzetbaar in de publieke ruimte, op verkeersknooppunten en festivalterreinen, in voetbalstadions, bioscopen, winkelcentra en kantoren. Ze kunnen informatie vergaren, diensten verlenen, toezicht houden, bewaken, beschermen, redden, massa’s in de hand houden (crowd control), opsporen en arresteren. Daarbij spelen emoties een rol. Ontwerpers van ‘sociale robots’ dienen emotionele vaardigheden in te bouwen opdat zij sociaal kunnen functioneren.

Daar houden relatief nieuwe disciplines als de sociale robotica en affective computing zich mee bezig. Zij zorgen er in de eerste plaats voor dat robots emoties bij mensen kunnen herkennen. Dat is mogelijk door de robot de fysiologische en gedragsmatige veranderingen (gelaatsuitdrukking, lichaamshouding en -beweging) waarin emoties tot uitdrukking komen, te laten registreren. In de tweede plaats dient de robot zelf emoties te kunnen uitdrukken, door de eigen gelaatsuitdrukking, lichaamshouding of -beweging. Ten slotte zou een robot, om doelen te kunnen stellen, te beslissen en sociaal met mensen om te kunnen gaan, ook zelf emoties moeten kunnen ervaren. En dat kunnen robots van nu − gebouwd op basis van de klassieke mechanica en de seriële Von Neuman computer − nog niet. Het is een interessante filosofische vraag of ze dat ooit zullen kunnen, maar voor het functioneren van robots en mens-robotinteracties is het antwoord op die vraag meestal irrelevant. We kunnen die ervaring namelijk sowieso simuleren, net zoals een schaakcomputer niet echt kan denken, maar wel uitstekend kan schaken. Dergelijke simulaties zijn niet real in fact, maar wel real in effect. Je kunt een robot zo programmeren dat hij bij nadering van een groep hooligans fluks de plaats des onheils verlaat. Dan doet het er niet toe of het in de programmatuur opgenomen doel (‘overleven’) gepaard gaat met angstgevoelens in het inwendige van de robot. Vanuit het perspectief van de mens maakt het ook weinig uit. Mensen hebben het vermogen én de neiging om intenties en emoties toe te schrijven aan alle entiteiten waarmee ze interacteren. Dat fenomeen zien we niet alleen bij het kind dat speelt met een pop en de dierenliefhebber die zijn hond een standje geeft, maar het doet zich ook voor wanneer we werken met dingen (onze laptop) en des te sterker naarmate deze artefacten autonomer functioneren en meer op de mens lijken.

Al wordt er veel geëxperimenteerd met sociale en affectieve robots, privé en in de publieke ruimte zie je er nog bijna niets van. Dat komt doordat affective computing nog in de kinderschoenen staat, maar ook omdat machines die emoties waar kunnen nemen, meten, registreren, communiceren en beïnvloeden de nodige gevaren met zich meebrengen. En ze roepen enorme maatschappelijke en ethische vragen op.

Welke emoties zal de omgang met computers bij ons oproepen? Gaan we computers als deelnemers aan het sociale verkeer accepteren? Zullen we vooral plezier beleven aan de omgang met robots − net als nu nog met mobieltjes, iPads en andere gadgets? Zal de onwennigheid tijdelijk zijn of blijven frustratie en angst vanwege disfunctioneren de boventoon voeren? En hoe zit het met de emotionele privacy? Zullen we ons niet bedreigd voelen door robots die voortdurend onze emotionele gesteldheid meten? Of raken we juist emotioneel verslingerd aan seksrobots − nu al populair in Zuid -Korea? En is het denkbaar dat we ooit liefdesrelaties zullen aangaan met een robot? Vijftien jaar geleden bleken kinderen en volwassenen zich al te kunnen hechten aan hun Tamagotchi - een kookwekkertje met aaibaarheidsfactor nul. Het lijkt me dan ook allerminst uitgesloten dat mensen in de toekomst diepe gevoelens ontwikkelen voor aantrekkelijke humanoïde robots. En daarbij blijven ongetwijfeld ontrouw en jaloezie ons niet bespaard. Zou dat het einde van het humanisme betekenen of eerder het tijdvak inluiden van een humanisme-plus?

Laten we ons bij wijze van gedachte-experiment eens verplaatsen naar 2023 en terugblikken op de intrede van de robot in de Nederlandse samenleving. Het gaat daarbij om toepassingen die technisch gezien nu al (bijna) mogelijk zijn. Geen sciencefiction dus, maar sciencefaction. Het is aan de lezer te bedenken of de ervaringen met PedoBot® wel of niet zullen leiden tot maatschappelijke en ethische satisfaction.

ZebegrijptMe3150x232Den Haag, 31 augustus 2023

Na de relatief liberale jaren zestig, zeventig en tachtig van de vorige eeuw, is de maatschappelijke acceptatie van pedofilie in de eerste decennia van deze eeuw sterk afgenomen. Dat vertaalde zich in de oplopende strafmaat, maar ook in het feit dat pedofielen na hun detentie steeds vaker uit hun woonomgeving werden verjaagd. Hun maatschappelijk isolement nam steeds verder toe, en daarmee ook de kans op recidive. Die blijft ook na therapeutische behandeling groot.

Sinds 2009 is, in navolging van Canada en de toenmalige Verenigde Staten, ook in ons land geëxperimenteerd met intensieve en langdurige begeleiding door buddies, voornamelijk vrienden uit de directe omgeving van de pedofiel. Hoewel deze begeleidingsvorm de kans op recidive aanmerkelijk verkleinde, bleek bij grootschaliger toepassing het vinden van geschikte buddies lastig. Daarom startte in 2016 in Nederland een eerste experiment met een Japanse PedoBot®, een affectieve, androïde robot die speciaal voor deze taak is ontworpen. Hij moet recidive  voorkomen. Daartoe monitort de robot niet alleen 24 uur per dag de bewegingen van de cliënt, maar ook diens emotionele gesteldheid (die worden geregistreerd in een door Reclassering Nederland beheerde Dynamic Emoscan).

Indien nodig kan de pedobot therapeutisch interveniëren. Daartoe is hij uitgerust met therapeutische program­matuur, die is afgestemd op de individuele behoeften en het risicoprofiel van de cliënt. Vanwege de in Nederland bestaande wetgeving betreffende lichamelijke integriteit was deze experimentele Nederlandse PedoBot®, anders dan de Japanse, niet uitgerust met een in de enkelband ingebouwde CMU (Chemical Modulation Unit). Deze enkelband zorgt ervoor dat het scannen van de fysieke en emotionele mobiliteit van de cliënt ook bij het verlaten van de woning doorgaat. Wanneer zich van de zijde van de cliënt ongewenst gedrag voordoet en psycho- en neurotherepeutische interventies onverhoopt geen effect hebben, schakelt de pedobot de politie in en geeft de geografische en emotionele coördinaten van de cliënt door. De huidige, mobielere pedobots vergezellen, bewaken en beschermen cliënten inmiddels ook buitenshuis.

Eén van de meest opvallende bevindingen van het experiment in 2016 was de sterke emotionele hechting van de cliënten aan hun pedobot. Volgens deskundigen was dit toe te schrijven aan de geavanceerde empathische vermogens van de PedoBot®, waarin de veelal in een sociaal isolement verkerende cliënt een begripvolle en niet bij voorbaat moraliserende gesprekspartner vindt. In het geval van de pedobot bleef de gevreesde agressie, zoals die zich voordoet jegens de RiotBots die sinds enkele jaren worden ingezet om demonstranten en voetbalsupporters te begeleiden, achterwege. Ook zijn er, anders dan na de introductie van de TerroBots na de aanslag met het gemodificeerde Spaanse griepvirus op het vliegveld Charles de Gaulle in 2014, nauwelijks rechtszaken aangespannen tegen de door de emoscans veroorzaakte inbreuk op emotionele privacy. En ook de vrees voor dehumanisering (ontstaan toen het kabinet Wilders II in 2015 JailBots in gevangenissen introduceerde) bleek onterecht. Integendeel, zowel bij de Jailbot als bij de PedoBot® ontstonden er van de zijde van de cliënt even sterke als warme gevoelens voor hun robot, die moeilijk anders dan vriendschappelijk of zelfs liefdevol kunnen worden genoemd (deskundigen spreken hier vanwege het eenzijdige karakter van deze affectieve relaties liever van ‘para-affectieve hechting’). Geheel onverwacht is dat overigens niet, gezien de ervaringen die er reeds in het begin van het vorige decennium zijn opgedaan met wederzijdse socialisatie van veelplegers en mishandelde asielhonden in het Dutch Cell Dogs programma.

De introductie van pedobots in 2016 kon op brede maatschappelijke acceptatie rekenen. Maar in 2018 werd voorgesteld om synthetische kinderporno (die sinds 2013 aan pedofielen wordt verstrekt om hun behoeften te bevredigen zonder dat daar misbruik van kinderen mee gepaard gaat) door kindvormige robots te vervangen. Dit idee stuitte op grote maatschappelijke weerstand.

Hoewel het experiment met de PedoBot® Junior (in de volksmond al snel omgedoopt tot de LolitaBot) een spectaculaire verdere daling van de recidive tot gevolg had, doen deze uiterst realistische kindrobots volgens critici het onderscheid tussen werkelijk en virtueel misbruik volledig vervagen en ondermijnen zij tevens het vermogen tot morele zelfbeheersing. De ethicus prof. dr. Mustafa Donkers (Christen-Islamitisch Appel) heeft daarom gepleit voor een algeheel verbod op androïde robots.

Het pleidooi van Donkers dient ook bezien te worden in een reeks andere problemen met sociale robots die in die jaren op de maatschappelijke agenda werden geplaatst. Zo ontstond er in 2016 grote commotie over de inzet van gehackte androïde RiotBots door criminele bendes. Zij slaagden erin de eerste wet van Asimov (‘Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt’), die wettelijk verplicht in iedere robot wordt geïmplementeerd, te omzeilen. De robots maakten zo opzettelijk hun eerste dodelijke slachtoffers maakten, en dit leidde tot grote beroering.

Hetzelfde gebeurde een jaar later, toen uitkwam dat Shanghai Persuasive Technologies al enkele jaren zogenaamde emoscans gebruikte om consumenten te stalken door ze op hun bewuste en onbewuste verlangens gerichte advertenties. Daarnaast ondernam het bedrijf pogingen om nieuwe emotionele consumentenverlangens te enten door middel van neurotransplantatie. Dit heeft in de CSA (Christenfundamentalistische Staten van Amerika) in 2021 geleid tot een algeheel verbod op affectieve en persuasieve technologieën.

Ook Nederland heeft kennisgemaakt met de problematische kant van de robot. Een van de schokkendste gevallen, in 2018, was de ontdekking van seksueel misbruik van kinderen door een van slag geraakte PedoBot® Junior. De robot werd in het openbaar gedemonteerd na de rechtszaak die de ouders van de misbruikte kinderen tegen Samsung hadden aangespannen. De beelden haalden wereldwijd het internetjournaal.

Toch is de kans dat de Verenigde Staten van Noord-Europa emobots gaan weren, klein. Al was het alleen maar vanwege het overweldigende succes van de Japanse lovebots, die hun opmars in de tweede helft van het vorige decennium begonnen in de illegale prostitutie en de porno-industrie, maar die inmiddels, net als in China, steeds vaker als vaste partner worden gekozen. In Zuid-Korea, dat graag wereldleider op het gebied van robottechnologie wil zijn, is het sinds enkele jaren zelfs mogelijk officieel met een robot in het huwelijk te treden. En in navolging van Japan, waar dit gebruik reeds in het begin van dit millennium zijn aanvang nam, zijn ook in Nederland de eerste androïde robots officieel ten grave gedragen.

Het is dan ook niet zo gek dat de in 2019 opgerichte Partij voor de Robots in haar verkiezingsprogramma pleitte voor het opnemen van robotrechten in de Noord-Europese Grondwet. Of het zover zal komen als in Japan, waar in 2020 de eerste androïde robot in het parlement werd verkozen, wordt door velen betwijfeld, maar de onlangs aangenomen wetgeving inzake het gebruik van proefrobots in het emo-neurologisch onderzoek, maakt duidelijk dat sinds de introductie van affectieve robots ook in Nederland de positie van intelligente artefacten langzamerhand aan het verschuiven is.

Jos de Mul is hoogleraar wijsgerige antropologie aan de Erasmus Universiteit Rotterdam. Dit jaar verscheen van hem ‘Paniek in de polder. Politiek en populisme in Nederland’.

 

Nieuws

Deze website wordt momenteel vernieuwd

Boeken van Jos de Mul

In voorbereiding

Doorzoek deze website

Contactinformatie