Jos de Mul, Niemand ontkomt aan de zwermgeest! Kunstmatig van nature 2: neurotica. Trouw, 1 maart 2014, Letter en Geest, 16-19.
Dit voorjaar houdt filosoof Jos de Mul drie lezingen, die opgenomen worden in zijn Essay voor de Maand van de Filosofie 2014,'Kunstmatig van nature. Onderweg naar Homo sapiens 3.0'. Dat verschijnt eind deze maand. De lezingen handelen over de gevolgen van genetica, neuro-technologie en robotica op de toekomst van de mens. Het essay op deze pagina's is een bewerkte versie van de tweede lezing, vorige week gehouden in debatcentrum Arminius in Rotterdam. De eerste lezing is verschenen in Letter & Geest va 25 januari. Volgende maand publiceren we ook een bewerking van de derde lezing ('Over hubots en echte mensen') die Jos de Mul geeft op 25 maart in de Radboud-universiteit in Nijmegen. Meer informatie op www.ru.nl/soeterbeeckprogramma.
De spectaculaire groei van de laatste tien jaar is voorbij, maar het aantal gebruikers van sociale media is indrukwekkend. Facebook heeft in Nederland acht miljoen gebruikers, YouTube zeven, LinkedIn vier en Twitter drie miljoen. Voor de meeste Nederlanders zijn ze een deel van hun leven geworden.
Maar nu zwelt de kritiek aan. Sociale media zijn verslavend. Dat komt, schreven de Harvardpsychologen Tamir en Mitchell in 2012, doordat het onthullen van privé-informatie dezelfde genotcentra in de hersenen activeert als eten, het ontvangen van geld of het hebben van seks. Weliswaar geeft het plaatsen van een status update op Facebook niet hetzelfde plezier als een goede vrijpartij, maar als je er maar genoeg plaatst, kom je een heel eind. Dit verklaart ook waarom gebruikers, zelfs wanneer ze zich zorgen maken over het misbruik van persoonsgegevens op het internet, volharden in hun informatie-exhibitionisme.
Het gevaar van sociale media is niet alleen dat ze verslavend werken, er kleven ook andere risico’s aan. Want achter die sites gaan, net als achter die van Google of Amazon, grote databases schuil die naast de verstrekte privé-informatie ook koopgedrag, voorkeuren en waarderingen opslaan en analyseren. Met vernuftige datamining- en profilingtechnieken word je zo het mikpunt van reclameboodschappen die je verleiden en manipuleren. Amazon dankt nu al een derde van zijn omzet aan item-to-itemfiltering (‘Kopers die boek X kochten, kochten ook boek Y’). In december 2013 heeft het bedrijf zelfs een patent gekregen op ‘anticiperend verzenden’, een logistiek systeem dat de boeken al in de richting van de klant verzendt voordat deze überhaupt een bestelling heeft geplaatst. Amazon heeft geen flauw idee waarom kopers van een bepaald boek ook interesse hebben in bepaalde andere boeken (ook uit heel andere genres). Maar in de wereld van de Big Data, zo stellen Mayer en Schönberger in hun gelijknamige boek, draait alles om statistische correlaties: Knowing what, not why, is good enough.
Jaron Lanier, die in de jaren negentig naam maakte in Silicon Valley als ontwerper van virtual reality software, verzet zich in ‘Who owns the future?’ (2013) tegen de exploitatie van de al die informatie door de ‘Lords of the Clouds’ als Google en Amazon. “Het internet”, zei Lanier onlangs in Trouw, “was niet bedoeld om te eindigen in een oligarchie van obsceen rijke bedrijven.”
Hij wil dat consumenten per bit betaald krijgen voor de informatie die ze verstrekken. Een sympathieke geste, maar het is de vraag of die in het digitale kapitalisme veel gehoor zal vinden.
Ook overheden staan niet te springen om informatiestromen transparanter te maken. Big Data zijn namelijk niet alleen commercieel interessant, je kunt er ook politiek voordeel uit halen. De door de onthullingen van Edward Snowden in opspraak gekomen National Security Agency (NSA) registreert biljoenen transacties van Amerikaanse en buitenlandse burgers en draait zijn hand niet om voor economische en politieke spionage. Dat ook Nederland niet vies is van afluisteren en bespioneren, bewees de affaire rond 1,8 miljoen opgeslagen metadata, waarover minister Plasterk bijna struikelde.
Elke burger kan op ieder moment bekeken worden, geprofileerd en gescreend op verdachte patronen. Aan de ‘voorkant’ van Facebook slaan we elkaar voortdurend gade en zijn ons nog – een beetje – bewust van ons informatie-exhibitionisme, maar we hebben geen flauw benul van onze ‘onzichtbare zichtbaarheid’ achter de schermen.
Lanier ziet nog meer gevaren van de sociale media. In zijn vorige boek, ‘You’re not a gadget’ (2010), verzet hij zich tegen de ‘wisdom of the crowds’ die internetgoeroes graag bewieroken. Lanier waarschuwt juist voor ‘digitaal maoïsme’. Collectieve projecten als Wikipedia leiden volgens hem niet tot creatieve kennis, maar vetot grijze middelmaat. Hij spreekt misprijzend van een hive mind, ‘zwermgeest’.
Ik vraag me af of Laniers afwijzing van de zwermintelligentie niet wat voorbarig is. De evolutie van de menselijke cognitie is wel vaker gepaard gegaan met uitbesteding van cognitieve functies, waardoor de menselijke kennis naar een hoger niveau werd getild. Neem de outsourcing van een deel van de geheugenfunctie aan het schrift. Dat veroorzaakte niet alleen een enorme accumulatie van kennis (die kon makkelijk worden verspreid en overgedragen aan volgende generaties), maar maakte ook het bedenken en uitwerken van heel ingewikkelde gedachten en argumenten mogelijk. Zo kwamen filosofie en wetenschap met het schrift tot ontwikkeling.
Met de uitvinding van de computer konden we niet alleen de producten van het denken uitbesteden, maar ook denkprocessen zelf. Zonder krachtige computers hadden we nooit het menselijk DNA (met zijn 20.000 genen) kunnen ontrafelen. Het analyseren van de miljarden neuronen in onze hersenen is ondenkbaar zonder de datamining- en profiling-technieken die gebruikt worden bij het onderzoek naar informatietransacties op het internet.
De combinatie van het internet en de analyse van de daar aanwezige Big Data is de volgende stap in de cognitieve ontwikkeling van de mensheid. Die leidt tot een ‘globaal brein’, na het schrift en de computer opnieuw een transformatie van het menselijke kennen: met kennis en inzicht dat die van het individu overstijgen. Hoe globale intelligentie er precies uit gaat zien en wat de gevolgen zijn voor het menselijk leven valt moeilijk te voorspellen, zoals ook het effect van het schrift op de prehistorische mens of van de computer op de middeleeuwse scribent onvoorstelbaar was.
Maar de natuur kan wel een tipje van de sluier oplichten. Van insecten als mieren en bijen wordt wel beweerd dat ze geen afzonderlijke individuen zijn, maar in feite één intelligent organisme vormen. In de negentiende eeuw bracht dit Herbert Spencer op het idee dat ook de menselijke samenleving een sociaal organisme is. En in de twintigste eeuw speculeerde de filosoof Teilhard de Chardin over de ontwikkeling van een collectieve geest van de mensheid, die hij aanduidde als de ‘noössfeer’.
Met de opkomst van het internet hebben dergelijke ideeën een nieuwe vlucht genomen. Het ‘globale brein’ is een metafoor voor een collectief zenuwstelsel, een zelforganiserend netwerk van menselijke breinen en computers. Het verwerkt niet alleen informatie, maar vervult ook de functies die nu door individuele breinen worden uitgeoefend: het neemt beslissingen, ontwikkelt nieuwe ideeën, heeft gevoelens.
Volgens de Brusselse cyberneticus Heylighen zal deze collectieve intelligentie geen centrale controle hebben in de vorm van een leider, organisatie of machine, want de kennis en vaardigheden zijn verspreid over alle onderdelen van het systeem. Lanier denkt bij de zwermgeest aan de ‘stupidity of the crowds’, denkers als Heylighen vertrouwen erop dat die geest juist superieur is. Zoals de mens slimmer is dan de grote apen, zo overtroeft de collectieve intelligentie die van de mens.
Sciencefiction? Dat lijkt maar zo. Neurowetenschappers beschouwen, op basis van hun ervaringen met brein-machine interfaces, de koppeling van brein aan computers als een reële mogelijkheid.
Een van de pioniers, Miguel Nicolelis, verwierf in 2011 wereldwijde bekendheid met het experiment waarin hij de apin Aurora leerde met haar gedachten een computer aan te sturen. Hij leerden Aurora een simpel computerspelletje. Met een joystick moest ze met de cursor op het beeldscherm een bewegende cirkel raken. Als dat lukte kreeg ze een druppel sinaasappelsap. Apen zijn daar dol op, dus Aurora had het spelletje snel onder de knie. Tijdens het spelen registreerde Nicolelis de activiteit van Aurora’s brein. Het lukte hem door middel van elektroden in het brein van de aap simultaan de activiteit van 100 neuronen in het neurale netwerk te meten dat actief was op het moment dat Aurora de joystick bewoog.
De aldus geregistreerde dynamische patronen werden vervolgens vertaald in computercommando’s die robotarm aanstuurden die in real time dezelfde bewegingen maakte als de arm van Aurora. Toen de onderzoekers de joystick wegnamen, maar doorgingen met het registreren van de hersenpatronen en het vertalen daarvan in de beweging van de robotarm, bleek Aurora nog steeds in staat te zijn de cursor te laten bewegen. Blijkbaar was het denken aan de bewegingen voldoende om dezelfde hersenpatronen te genereren. Daarna liet Nicolelis het resusaapje Idoya vanuit zijn laboratorium in Durham de humanoïde robot CB-1 in Kyoto aansturen.
Inmiddels is Nicolelis erin geslaagd de brein-machine-interface uit te breiden met tastzin en apen met een robotarm de textuur van object te laten ‘voelen’. Het kunstmatige zintuig kan op zijn beurt ook het brein aansturen. Dat opent volgens Nicolelis nog veel opzienbarender mogelijkheden, zoals het creëren van nieuwe zintuigen: infrarood zien als een ratelslang, magnetische velden waarnemen als een vogel, of ultrasoon geluid. Dat brengt ons dicht bij wat de filosoof Nagel ooit onmogelijk achtte: ervaren wat het is om een vleermuis te zijn. Arts Nicelelis houdt het liever praktisch: hij wil een exoskelet bouwen, een harnas dat de drager bestuurt door een brein-machine interface. Zo kunnen dwarslaesiepatiënten hun lichaam opnieuw in gebruik nemen.
Technisch zijn we nog niet zover – zo heb je volgens Nicolelis een brein-machine interface nodig die 10.000 neuronen tegelijkertijd kan verwerken. Maar er zijn al patiënten die met hun brein een computer kunnen besturen en de eerste experimenten met het koppelen van een kunstmatige arm zij een feit.
De mogelijkheden zijn duidelingwekkend. Je kunt op termijn niet alleen menselijke hersenen koppelen aan kunstledematen of -zintuigen, maar ook aan de hersenen van anderen. Daarmee ontstaat een gedistribueerde intelligentie, zoals de Borg in de beroemde sciencefiction serie Star Trek. De Borg is een gemeenschap van cyborgs, die geen eigen wil of persoonlijkheid hebben en allemaal hetzelfde denken en voelen. Hoewel ze een organische oorsprong hebben, zijn de afzonderlijke ‘individuen’ (drones) voorzien van implantaten, waarvan een van de belangrijkste functies het functioneren in het collectief is.
Wat de Borg in Star Trek tot een geduchte tegenstander van de Verenigde Federatie van Planeten maakt, is dat ze in hun streven naar perfectie proberen andere soorten in hun zwermintelligentie op te nemen. (‘Wij zijn de Borg. Jullie biologische en technologische verschillen voegen we aan de onze toe. Verzet is zinloos.’)
De Borg heeft trekken van de in 2006 geboren Siamese tweelingzusjes Krista en Tatiana Hogan. Hun hoofden zijn aan elkaar vastgegroeid en het opmerkelijke is dat de beide hersenen sterk geïntegreerd zijn. Daardoor functioneren ze als de Borg. Als het ene meisje wordt gekieteld, moet het andere ook lachen, ze kunnen door elkaars ogen zien en hebben toegang tot elkaars gedachten en emoties.
Of de door Heylighen verhoopte en door Lanier verafschuwde collectieve inteligentie realiteit wordt, is nog de vraag. Ze is een logische schakel in de evolutie van de menselijke cognitie en de neutrotechnologie maakt de constructie ervan mogelijk. Maar laten we niet vergeten dat de ontwikkelingen niet in één richting gaan. De uitkomsten hangen af van politieke strijd tussen vele belanghebbenden – wetenschappers en technici, investeerders, consumenten, en overheden. Nieuwe technologieën hebben altijd onvoorziene en onvoorzienbare neveneffecten, en vaak ontpoppen ze zich als een individu met een eigen agenda.
Als het aan individualisten als Lanier ligt – die op geen enkel sociaal medium te vinden is – dan komt de zwermgeest er zeker niet. Maar als we zien hoe begerig veel gebruikers van sociale media hun individualiteit met anderen delen, dan kan het niet anders of de ‘verborging van het individu’ is aanstaande. Verzet is zinloos. Ontvrienden kan niet meer.