2024-03-28 (De Groene Amsterdammer) Zinsbegoocheling. Het parasitaire karakter van ChatGPT.

De geschiedenis van kunstmatige intelligentie (ki of ai) en kunstmatige neurale netwerken gaat op zijn minst terug op de baanbrekende artikelen van de Britse wiskundige Alan Turing van zo’n 75 jaar geleden. Sindsdien is de weg naar ‘kunstmatige algemene intelligentie’, dat wil zeggen een machine die elke intellectuele taak even goed of beter dan een mens kan uitvoeren, geplaveid met de belofte dat deze binnen een decennium realiteit zal zijn. Ook ChatGPT wordt door veel experts gepresenteerd als de grote doorbraak op weg naar die gouden graal. En sinds onderzoeksorganisatie OpenAI  in november 2022 versie 3.5 van deze kunstmatige intelligente gratis ter beschikking stelde, laat ook het grote publiek er zich enthousiast door betoveren.

Volgens sciencefiction schrijver Arthur Clark is iedere voldoende ontwikkelde technologie niet van magie te onderscheiden. Als dat ergens op van toepassing is, is het wel ChatGPT. Maar hoewel er een boel ingewikkelde statistiek bij komt kijken, is het principe eigenlijk heel simpel. Chat Generative Pre-trained Transformer is een vorm van generatieve kunstmatige intelligentie, die is gebaseerd op een vooraf getraind taalmodel. Het is een tekstgenerator die bij het invoeren van een reeks woorden een statistische berekening maakt van het meest waarschijnlijke vervolg en dat vervolgens voorschotelt aan de gebruiker. Smartphones en tekstverwerkers kennen al langer een simpele versie van een dergelijke automatische aanvulling. Bij het intypen van de eerste letters van een woord wordt dan een suggestie gedaan voor de volgende, zodat je niet het hele woord hoeft in te typen. Bij de zoekmachine van Google gaat de voorspellende tekst al wat verder. Als je ‘De hoofdstad van Frankrijk’ intypt, toont de zoekmachine een aantal opties, waaronder ‘Parijs is de hoofdstad van Frankrijk’.

Bij ChatGPT is de automatische aanvulling fors opgeschaald. De interface heeft de vorm van een chatbox, waarbij je de virtuele ‘gesprekspartner’ via de prompt –de knipperende cursor – uiteenlopende opdrachten kunt geven. Je kunt hem bijvoorbeeld vragen een tekst te vertalen of samen te vatten, suggesties te geven voor de plot van een roman, film of videogame, een fout in een computerprogramma te verbeteren, een wetenschappelijke theorie of politieke gebeurtenis uit te leggen of praktische adviezen te geven over gezondheid, tuinonderhoud of duurzaam leven.

De vaak verbazingwekkende prestaties van ChatGPT zijn te danken aan de gigantische taalmodellen die OpenAI maakt met behulp van een supercomputer met 285.000 processoren, waarin honderden miljarden woorden zijn ingevoerd, afkomstig van al bestaande datasets en het internet. Behalve door de toegenomen computerkracht en de enorme hoeveelheid data is de sprong voorwaarts ook te danken aan de in 2018  geïntroduceerde ‘Transformer’, een neuraal netwerk dat dankzij een ‘attentiemechanisme’ focust op de meest relevante woorden in de tekst, en dat bovendien in tegenstelling tot oudere neurale netwerken de ingevoerde data parallel kan verwerken. Dan nog duurt het vaak maanden voordat de modellen voldoende parameters (waarden die de transformatie van invoer naar uitvoer bepalen) hebben ontwikkeld om tot bevredigende resultaten te komen.

Sinds de introductie eind 2022 buitelen de ontwikkelingen over elkaar heen. In januari 2024 waren er al 180 miljoen gebruikers al, die de website van OpenAI ruim 1,6 miljard keer per maand bezoeken. Hoewel OpenAI begon als non-profit organisatie, betaal je sinds maart 2023 voor de 4.0 versie $20 per maand. In september 2023 volgden DALL-E, dat beelden creëert uit tekstuele beschrijvingen en in februari 2024 Sora, een tekst-naar-video-model, dat ultrarealistische filmclips van een minuut genereert.

 Vanzelfsprekend is Open AI is niet het enige bedrijf dat zich op deze markt heeft gestort. Microsoft investeerde begin 2023 tien miljard dollar in ChatGPT en integreerde het in zijn eigen ai chatbox Bing. Meta kwam met Llama en Google met Gemini, dat Apple eveneens in zijn nieuwe besturingssysteem gaat inbouwen. Ook Elon Musk en Jeff Bezos kondigden in 2023 hun eigen ai-varianten aan.  Silicon Valley verwacht blijkbaar dat generatieve ai ook in commercieel opzicht een gouden graal is. De ontwikkelingen gaan razendsnel. In het in februari 2024 door het team van ‘Deep Mind’ Demis Hassabis ontwikkelde Gemini 1.5 Pro kunnen gebruiker tot een miljoen tekens invoeren. De makers claimen daarmee ‘long context understanding’ mogelijk te maken.

Behalve ‘content’ genereert generatieve ai echter ook verhitte maatschappelijke debatten over nut en nadeel van deze vorm van kunstmatige intelligentie. Presenteert het ene kamp generatieve ai als een wondermiddel om de vele crises waar de mensheid mee kampt op te lossen, het andere, aangevoerd door filosofen als Nick Bostrom en Max Tegmark, waarschuwt dat superieure kunstmatige intelligenties de mens gaan overvleugelen. Onder de aanhangers van dergelijke dystopische voorspelling behoren opmerkelijk genoeg ook veel ontwerpers en financiers van generatieve ai. Zo publiceerden onder anderen Demis Hassabis, Elon Musk en Apple medeoprichter Steve Wozniak in maart 2023 een inmiddels door meer dan 33.000 personen ondertekende open brief, waarin ze opriepen onmiddellijk een pauze van zes maanden in te lassen in de ontwikkeling van ai teneinde in die periode protocollen en audit-systemen op te stellen om veiligheid te ervan te waarborgen. Die pauze kwam er overigens niet.

***

Hoe moeten we generatieve ai’s begrijpen en de tegengestelde waarderingen beoordelen? Ik denk dat een evolutionair en symbiotisch perspectief, en meer in het bijzonder het begrip techno-symbiose daartoe een goede ingang biedt.

Het begrip ‘symbiose’, dat in het Oudgrieks ‘samenleven’ betekent, is een ondergeschoven kind geweest in de twintigste-eeuwse biologie. Het daarin dominante neodarwinisme gaat ervan uit dat het leven onlosmakelijk verbonden is met concurrentie en strijd tussen zelfzuchtige individuen, daartoe aangedreven door zelfzuchtige genen. Volgens de Amerikaanse paleontoloog Jay Gould is het niet toevallig dat dit mensbeeld sterk overeenkomst met dat van het neoliberalisme. Volgens Gould verklaarde de econoom Adam Smith in zijn The Wealth of Nations (1776) niet alleen de werking van de markt vanuit het eigenbelang van de individuele deelnemers, maar inspireerde hij ook Charles Darwin om in The Origins of Species (1859) eigenbelang als de drijvende kracht van de evolutie van het leven op te vatten. Hoewel zowel Smith als Darwin ook oog had voor de rol van samenwerking, kwam de ´Greed is Good´-ideologie tot haar hoogtepunt bij biologen als Richard Dawkins, auteur van de The Selfish Gene (1976) en regeringsleiders als Margaret ‘There is no alternative’ Thatcher en Ronald ‘Nuke them’ Reagan.

Hoewel deze ideologie nog steeds doorwerkt, is inmiddels ook de rol die symbiose in de evolutie en economie speelt op de voorgrond getreden. Ten aanzien van symbiose kunnen drie basistypen worden onderscheiden: samenleven van organismen van dezelfde soort (denk aan dieren die in kolonies, kuddes, scholen of groepen leven), van verschillende soorten (bijvoorbeeld bloemen en insecten) en van organismen en niet-levende dingen, van beverdammen tot smartphones.

Symbiose is om ten minste twee redenen een cruciale factor in de evolutie. In de eerste plaats is het een belangrijke innovatieve kracht. Korstmossen vormen daarvan een schoolvoorbeeld. Lang werd gedacht dat ze aparte biologische soort waren, maar in 1877 werd ontdekt dat ze een symbiose vormen van een schimmel en een groenwier of cyanobacterie. Deze samengestelde organismen, die zo’n 500.000 jaar geleden ontstonden, breken gesteenten af en zetten die om in aarde, waardoor ze een heel nieuw ecosysteem op de voorheen rotsachtige aarde schiepen waarin zich uit waterorganismen nieuwe, op het land levende soorten konden ontwikkelen.

Hoe fundamenteel die innovatieve kracht van symbiosen is, maakte de microbiologe Lynn Margulis duidelijk met haar endosymbiosetheorie, die zij in de jaren zestig en zeventig van de vorige eeuw ontwikkelde. Deze werd lang genegeerd door neodarwinisten, maar is inmiddels breed geaccepteerd. Zij toonde aan dat de eukaryotische cel (een cel met een kern en organellen), die zo’n 1,6 tot 1,8 miljard jaar geleden ontstond, het resultaat was van een symbiose van twee simpelere eencelligen (bacteriën of archaea), waarbij de ene zich in de andere nestelde en zich ontpopte als het ‘energiefabriekje’. Dit nieuwe celtype vormt de basiseenheid van het hele latere planten- en dierenrijk. In haar boek The Symbiotic Planet (1998) argumenteert Margulis dat symbiose de drijvende kracht is van de hele evolutie.

Ook de evolutie van de mens is onlosmakelijk verbonden met innovatieve symbiosen. Mensen zijn zijn bijzonder goed in samenwerking en arbeidsverdeling en hebben daardoor zeer complexe samenlevingen en culturen tot stand gebracht. Mensen leven ook, net als alle andere organismen, in nauwe symbiose met andere soorten. Daarbij moeten we niet alleen denken aan ons samenleven met huisdieren als de hond (gevolg van wederzijdse domesticatie van mens en wolf) en vee, maar ook aan de vele miljarden bacteriën en virussen in ons lichaam, die onontbeerlijk zijn voor de spijsvertering, het immuunsysteem en de embryonale ontwikkeling van placenta en neocortex. Feitelijk kun je organismen daarom niet langer beschouwen als behorend tot afzonderlijke soorten, ze vormen veeleer tijdelijke ontmoetingsplaatsen van uiteenlopende genetische en metabolische processen. De techno-symbiose van mens en techniek (werktuigen, machines en informatietechnologie) is een cruciale innovatieve factor geweest in de evolutie van de mens. Hoewel dergelijke artefacten niet leven, bezitten ze wel agency, in de zin dat ze nieuwe levensvormen bewerkstelligen. Zo transformeerden landbouwtechniek en het schrift de prehistorische Homo sapiens tot de moderne mens (soms aangeduid als Homo sapiens sapiens), en lijkt ook de symbiose van mens en kunstmatige intelligentie een nieuwe stap in de evolutie van de mens te vormen.

De tweede reden dat symbiose zo’n belangrijke factor in de biologie is geworden is dat het een veel bredere verklaring voor de evolutionaire en revolutionaire ontwikkelingen biedt dan de neodarwinistische en neoliberale fixatie op concurrentie. In het onderzoek naar symbiose worden namelijk verschillende vormen van symbiose onderscheiden op basis van het nut die ze voor de betrokken ‘symbionten’ hebben. De voorbeelden die ik hiervoor gaf, betroffen zogenaamde mutualistische symbiosen, die voor beide symbionten voordelig zijn. Daarnaast bestaan er echter ook commensale symbiosen (voordelig voor de een, neutraal voor de ander), parasitaire (voordelig voor de een, nadelig voor de ander), amensale (neutraal voor de een, dodelijk voor de ander) en concurrentie om schaarse middelen (nadelig voor de meeste symbionten).

Lynn Margulis stond samen met de chemicus James Lovelock aan de wieg van de Gaia-theorie, volgens welke de aarde beschouwd kan worden als één grote ‘holobiont’, een dynamisch systeem van miljoenen organismen en abiotische elementen, dat als een soort thermostaat het voor het aardse leven noodzakelijke ecologische evenwicht handhaaft. Het bestaan van de verschillende typen symbiosen maken echter duidelijk dat Gaia, anders dan New Age-adepten hebben beweerd, geen louter zorgzame ‘Moeder Aarde’ is, maar zich ook een ‘Loeder Aarde’ betoont, een tough bitch, in de woorden van Margulis, die net als Medea uit de klassieke tragedie haar eigen kinderen doodt.

*****

Hoe kunnen tegen deze achtergrond ChatGPT en verwante generatieve ai-systemen nu interpreteren? De stelling die ik wil verdedigen is dat we hier te maken hebben met parasitaire techno-symbionten, die niet alleen profiteren van de menselijke geest, maar daarbij in meerdere opzichten vals spelen. En daarmee doel ik nog niet in de eerste plaats op het feit dat je ChatGTP niet alleen suggesties voor een schrijfopdracht kunt vragen, maar de ‘cheatbot’ ook het hele werkstuk voor je kunt laten schrijven.

Generatieve ai systemen zijn ook op een meer fundamenteel niveau misleidend, omdat ze, hoe vernuftig ook geconstrueerd, geenszins intelligent kunnen worden genoemd op de manier waarop mensen, dolfijnen of zelfs bacteriën dat zijn. ChatGPT is een louter ‘syntactische machine’, die, nadat de woorden en woorddelen zijn omgezet in getallen, niets anders doet statistische voorspellingen genereren met betrekking tot het meest waarschijnlijke volgende woord. ChatGPT kent geen semantiek en ook geen pragmatiek: het hecht geen betekenis aan de data en doet er ook zelf niks mee, anders dan de uitvoer weergeven op het scherm van de gebruiker. Enkel de beide symbionten – mens en ai – samen vormen een intelligent systeem. Eerst doordat de gebruiker de reeks tekens op haar beeldscherm of smartphone interpreteert en daarmee iets doet, krijgen deze betekenis en zin.

Omdat ChatGPT op zichzelf genomen enkel de statistisch gerecombineerde woorden letterlijk gedachteloos napraat, is de taalbot door de linguïste Emily Bender aangeduid als ‘stochastische papagaai’. Deze geestige omschrijving doet evenwel papagaaien tekort, omdat die volgens recent onderzoek anders dan een taalbot veel van de woorden die ze napraten wel begrijpen en in de juiste context kunnen gebruiken, en zelfs nieuwe woorden en woordcombinaties kunnen vormen.

Nu zou je kunnen denken dat we hier enkel van doen hebben met een misleidend gebruik van het woord ‘kunstmatige intelligentie’. Maar het probleem zit dieper. Omdat een syntactische machine geen betekenis hecht aan de gegenereerde antwoorden, kan deze ook geen onderscheid maken tussen feiten en fabeltjes, waardoor de accuraatheid van de antwoorden niet is gegarandeerd. De taalbot ‘hallucineert’ vaak foutieve en nonsensicale teksten. Volgens een studie uit 2023 van Bhattacharyya en collega’s naar de authenticiteit en accuraatheid van de bibliografische verwijzingen in door ChatGPT gegenereerde medische artikelen bleek dat van de 115 verwijzingen 47 procent verzonnen, 46 procent authentiek maar inaccuraat en slechts 7 procent authentiek én accuraat was. De psychiater Robin Emsly, die eveneens vergelijkbare ervaringen rapporteert, stelt dat het begrip ‘hallucinaties’ (valse waarnemingen) hier misplaatst is, omdat het hier gaat om verzinsels en vervalsingen.

Er zijn meerdere oorzaken voor de gesignaleerde fouten. Deels zijn die te wijten aan nonsensicale, foutieve en/of bevooroordeelde invoer en deels doordat de training van het taalmodel in de data aanwezige bias versterkt. Een bijkomend probleem is dat neurale netwerken ook voor de ontwerpers een black box zijn, waardoor fouten moeilijk op te sporen zijn. Bovendien hopen de verzinsels en vervalsingen zich ook op. Veel van de teksten die ChatGPT genereert, komen immers via het internet weer in het taalmodel terecht. Recente studies laten zien dat taalmodellen door dit feedbackproces in de loop van de tijd niet ‘slimmer’ maar onvermijdelijk steeds ‘dommer’ worden. Ze gaan eindeloos dezelfde data recyclen en vroeg of laat leidt dat tot een ‘model collapse’. ChatGTP 4 blijkt op sommige gebieden, zoals wiskunde, dramatisch slechter te presteren dan versie 3.5. Recent onderzoek van Shumailov en zijn team toonde aan dat tussen maart en juni 2023 de accuraatheid op dit gebied terugviel van 97.6 procent naar een magere 2.4 procent.

Dat gebruikers bij hun interacties met ChatGPT toch de moeilijk te vermijden illusie hebben met een intelligente actor te spreken komt omdat de interface de gigantische datafabriek ‘achter het beeldscherm’ aan het oog van de gebruiker onttrekt. Hoewel het neurale netwerk het gehele antwoord in een splitsecond klaar heeft, wordt de tekst woord voor woord op het beeldscherm van de gebruiker getoond, waardoor de illusie wordt gewekt dat je met een mens te maken hebt. In dit opzicht doen de generatieve ‘chatbots’ denken aan de befaamde turingtest, waarin je achter een beeldscherm gezeten willekeurige vragen over allerlei onderwerpen stelt aan een in een andere kamer gezeten mens of softwareprogramma.  In ‘Computing Machinery and Intelligence’ (1950) stelde Turing dat een ‘intelligente machine’ voor de test slaagt als hij minstens 30% van de ondervragers gedurende minstens vijf minuten ervan zou kunnen overtuigen met een mens te doen hebben. Turings inschatting was dat het nog ongeveer vijftig jaar zou duren voordat het zover zou zijn.

Dat was nog niet zo’n gekke voorspelling. Sinds 1990 organiseert Hugh Loebner jaarlijks een wedstrijd waarbij chatbots een jury ervan proberen te overtuigen dat ze mensen zijn. Ondanks het beperkte karakter van deze intelligentietest lukte het tot 2014 geen enkele chatbot om voor de test te slagen. Maar in dat jaar slaagde de Russische chatbot ‘Eugene Goostman’ als eerste voor de test. Volgens boze critici was dat vooral te wijten aan een truc: de chatbot presenteerde zich als een dertienjarige Oekraïense jongen, die nog niet zoveel kennis van de wereld bezat en Engels alleen als tweede taal had geleerd. Sommige critici waren van mening dat dit vals spel was en vonden dat Eugene Goostman de turingtest niet werkelijk had doorstaan. Maar misschien hebben de Russen precies gedaan waar het in de turingtest om draait. Turing  merkt in ‘Intelligent Machinery’ (1948) op dat intelligentie in feite een emotioneel concept is. De test toetst vooral het vermogen de ander om de tuin te leiden. Als we afgaan op het vaak kritiekloze gebruik van ‘CheatGPT’ kunnen we vaststellen dat deze chatbot moeiteloos voor de turingtest slaagt.

***

Dat Chat-GTP zo menselijk overkomt, komt natuurlijk vooral doordat de meeste van de ingevoerde teksten door mensen zijn geschreven (in ieder geval tot nu toe). Het taalmodel wordt immers getraind met vele miljoenen door mensen gemaakte teksten. Daarbij toont zich het parasitaire karakter van de symbiose van de cheatbot en zijn makers. Bij de invoer van bestaande teksten worden op grote schaal copyrights geschonden, non-profit publicaties als Wikipedia en ComonCrawl (een dataset van 40 biljoen woorden) worden schaamteloos leeggeroofd en vermarkt en veel van het internet geplukte invoer is toxisch. Bovendien laat het maken en gebruiken van taalmodellen net als het produceren en verhandelen van cryptomunten een gigantische ecologische voetafdruk achter. Ook in ecologische zin is Chat-GTP een schadelijk parasiet.

Dat het ook sociaal en politiek mis kan gaan werd duidelijk in 2016, toen Microsoft op Twitter de chatbot Tay introduceerde, gepresenteerd als een jongvolwassen Amerikaanse vrouw. Dat was een open taalmodel, dat de invoer van de data onmiddellijk opnam in het taalmodel. Al na zestien uur voelde Microsoft zich gedwongen de stekker eruit te trekken, omdat de Tay nazistische, racistische en seksistische teksten begon uit te slaan. Na deze ‘incidenten’ werd het vaste praktijk om de invoer van gebruikers niet onmiddellijk meer op te nemen in het taalmodel, maar om die eerst te checken. En terwijl OpenAI voor de controle van de vaak racistische en seksistische teksten aanvankelijk Kenianen inzette, die zich voor minder dan twee dollar per uur een trauma bij elkaar mochten checken, verrijkten de aandeelhouders zich op schandalige wijze. In datzelfde jaar kwam Google in opspraak omdat Google Photo tieners met een donkere huid als ‘gorilla’ tagde. Ook Google speelde vals en ‘loste het probleem op’ door de categorie ‘gorilla’ uit het model te halen.

Waar het me hier echter vooral om gaat is vast te stellen dat de term ‘kunstmatige intelligentie’ in het geval van ChatGTP en andere generatieve chatboxen bijzonder mystificerend is. Menselijke auteurs leveren en contoleren de invoer, op basis waarvan het model informatie genereert die opnieuw enkel voor een mens interessant, nuttig of anderszins relevant is. Op zichzelf genomen is kunstmatige intelligentie net zo weinig intelligent als een boek dat is.

Het begrip ‘intelligentie’ komt van ‘inter’ (tussen) en ‘legere’ (kiezen). Intelligent zijn betekent dat je kunt kiezen tussen alternatieven. Het vereist dat je doelgericht kunt handelen, rationeel kunt beslissen en effectief kunt interacteren met je omgeving. Mensen en andere organismen zijn intelligent omdat ze een organisch lichaam hebben, dat hen door middel van instincten, gevoelens en emoties aanzet te interacteren met hun omgeving, waarvan ze een besef hebben of waarvan ze zich zelfs bewust zijn. Intelligentie is niet alleen een emotioneel concept, maar vereist ook emoties die ons motiveren om intelligente dingen te doen, ten goede of ten kwade.

Mensen interacteren bovendien niet alleen pragmatisch met hun omgeving (Umwelt), maar leven in een betekenisvolle wereld (Welt), een cultuur die hen draagt en die als context voortdurend impliciet aanwezig en beschikbaar is. Die achtergrond stelt ons ook in staat over te schakelen tussen verschillende intelligente activiteiten. Mensen kunnen bovendien niet alleen bestaande kennis recombineren, maar ook nieuwe dingen bedenken. Kunstmatige intelligenties kunnen dat allemaal niet. Het zijn extensies van de van nature kunstmatige mens, die vele nuttige toepassingen kennen en in een wereld die steeds complexer wordt waarschijnlijk ook steeds onontbeerlijker zullen worden.

Het ‘outsourcen’ van complexe denkprocessen aan kunstmatige intelligenties is even onvermijdelijk als ‘outsourcen’ van het geheugen aan het schrift dat was, toen de kleinschalige cultuur van jagers-verzamelaars zich transformeerde tot agrarische samenlevingen, die werden gekenmerkt door stedenvorming, arbeidsverdeling, wetenschap en techniek. Ook kunstmatige intelligentie kan een nuttig instrument zijn, maar om te komen tot een mutualistische symbiose van mens en ai is het noodzakelijk manieren te bedenken om die modellen zonder schending van copyrights, uitbuiting van kenniswerkers, discriminatie en milieuschade te vervaardigen en hallucinaties en ‘model collapse’ te voorkomen.

De angst dat generatieve kunstmatige intelligentie zich onafhankelijk van de mens zal ontwikkelen tot een met de menselijke intelligentie vergelijkbare ‘kunstmatige algemene intelligentie’ en vervolgens tot een de mens overstijgende ‘superintelligentie’, is echter onzinnig. Kunstmatige intelligentie zoals we die nu kennen weet, wil en voelt niks.  Het is niet uitgesloten – Margulis speculeert daarover ook in haar werk– dat er in de co-evolutie van mens en techniek ooit een cyborg zal ontstaan waarvan de intelligentie die van Homo sapiens sapiens zal overstijgen. Elon Musk is alvast begonnen met het implanteren van chips in menselijke hersenen.

Maar de claim dat op louter syntactische recombinatie gebaseerde generatieve ai’s dat zullen doen, is vooral bedoeld om ons af te leiden van de hiervoor genoemde parasitaire praktijken rondom generatieve ai. Zowel utopische fantasieën dat kunstmatige intelligentie de mensheid gaat redden als dystopische angstbeelden dat zij de mensheid zal vernietigen zijn ongegrond. Die laatste alleen al omdat parasieten afhankelijk zijn van hun ‘gastorganismen’. Parasieten, zo heeft bioloog Edward O. Wilson ooit puntig opgemerkt, zijn immers roofdieren die hun prooi in porties kleiner dan 1 opeten. Zonder mensen staat ook ChatGPT met lege handen.

Dat betekent niet dat de ‘reëel existerende’ generatieve chatbots als ChatGPT geen gevaar opleveren. Mijn angst is niet dat de mens door superieure intelligenties zal worden overvleugeld, maar dat we ons steeds meer gaan aanpassen en afhankelijk maken van inferieure kunstmatige intelligenties en daarmee een autoparasitair pad in de evolutie inslaan.

Dit essay is een bewerking van enkele paragrafen uit Welkom in het Symbioceen. Over de verstrengeling van natuur, cultuur en techniek, dat 28 maart 2024 is verschenen bij Uitgeverij Boom. ISBN 9789024464647. 320 blz. € 29,90