Niet bang voor Big Brother

Allerlei nieuwe technologieën, van echo’s en vruchtwaterpuncties bij zwangeren, Elektronisch Kind Dossiers, koopprofielen bij Albert Heijn en Amazon tot ambient intelligence voor zorgafhankelijke ouderen, dringen steeds vaker en dieper ons leven binnen. Bij velen leeft de angst dat dergelijke nieuwe technologieën onze privacy aantasten, doordat allerlei privégegevens in grote databestanden worden opgeslagen. De angst is vooral dat deze informatie wordt gebruikt om onze levens te controleren en beheersen.

Dezelfde technologieën kunnen echter ook worden aangewend om onze autonomie te versterken of uit te breiden. Instrumenten en machines zijn van oudsher zo gebruikt. Dat gebeurt natuurlijk niet vanzelf. Techniek is nooit neutraal. Het hangt van het ontwerp af of machines onze autonomie bedreigen of versterken. Overheden en bedrijven zijn sterk geneigd technologieën vooral te gebruiken om burgers en consumenten te controleren en te beheersen.

Maar gelukkig zijn wij daar als burgers en consumenten niet geheel aan overgeleverd. Hedendaagse computersgebruikers zijn ook ontwerpers geworden. Tot voor kort dachten platenlabels dat ze hun cd’s tegen kopiëren konden beveiligen. De gebruikers denken daar heel anders over. Iedere beveiliging wordt binnen de kortste keren gekraakt of omzeild. Vorige maand liet platenlabel EMI dan ook weten dat het als laatste grote muzieklabel zal stoppen met het beveiligen van zijn audio-cd’s tegen kopiëren. Het was vechten tegen de bierkaai.

Er is nog een andere reden waarom de angst voor controle en beheersing dient te worden gerelativeerd. Het is een publiek geheim dat overheidsinformatisering tot op heden geen onverdeeld succes is. Een aantal recente rapporten bevestigen wat velen al wisten of op zijn minst vermoedden. In de woorden van Algemene Rekenkamer in haar rapport Lessen uit ICT-projecten bij de overheid uit 2008: ‘ICT-projecten bij de overheid blijken veel duurder te worden dan gedacht, vragen meer tijd dan gepland of leveren niet het gewenste resultaat op.’ Dat is natuurlijk zonde van het belastinggeld dat daarmee  wordt verspild, maar het maakt het angstbeeld van een elektronische Big Brother een stuk minder realistisch.

De Algemene Rekenkamer geeft ook een verklaring voor ‘de optocht van misverstanden en fouten’ die de overheidsinformatisering kenmerkt: ‘De belangrijkste oorzaak voor het (deels) mislukken van ICT-projecten die uit het eerste deel van het onderzoek naar voren kwam, was dat ICT-projecten van de overheid vaak te ambitieus en te complex worden door de combinatie van politieke, organisatorische en technische factoren. Bij deze te complexe projecten is er geen balans tussen ambitie, beschikbare  mensen, middelen en tijd’. 

Deze conclusie lijkt op een vicieuze cirkel te wijzen. De werkelijkheid van de informatiesamenleving is dermate complex dat overheid en bedrijfsleven niet zonder ingewikkelde informatieverwerkende systemen kunnen functioneren. Maar die complexiteit blijkt tegelijkertijd de grote hinderpaal te zijn wanneer het er om gaat deugdelijke systemen te ontwikkelen. Ze zijn te complex voor menselijke ontwerpers.

Het is hier dat ‘kunstmatige intelligentie’ om de hoek komt kijken. Waar behoefte aan is, is een kunstmatig intelligente overheid, die niet zozeer op mechanische wijze programma’s uitvoert, maar die op empathische wijze kan leren van de ervaringen van de gebruikers en haarzelf en die op basis daarvan nieuwe, creatieve oplossingen ontwikkelt.

Dat is natuurlijk een nobel streven, maar het is de vraag of het realistisch is de ontwikkeling van een dergelijke kunstmatige intelligentie te verwachten. Met name op het gebied van de kunstmatige intelligentie  zijn de resultaten van de informatietechnologie ver achtergebleven bij de verwachtingen. Waar in de jaren vijftig en zestig nog de verwachting werd uitgesproken dat er binnen een of twee generaties computers en robots beschikbaar zouden zijn die de mens qua intelligentie verre zouden overtreffen, is het succes beperkt gebleven tot enkele zeer specifieke gebieden. We hebben inmiddels computers die de wereldkampioen schaken kunnen verslaan, maar op veel gebieden zijn kevers en kleuters nog steeds oneindig veel intelligenter dan de meest geavanceerde computersystemen. De intelligentie van kunstmatige intelligente systemen lijkt zich tot op heden te beperken tot analytische intelligentie, terwijl het vrijwel geheel lijkt te ontbreken aan praktische en creatieve intelligentie.

In de afgelopen twee decennia wordt het failliet van het klassieke kunstmatige intelligentieonderzoek in toenemende mate erkend. Wat vooral debet lijkt te zijn aan het failliet is de top down benadering. Dat wil zeggen de poging intelligent gedrag te vangen in een complex systeem van commando’s. Het probleem daarbij is dat de complexiteit met het aantal commando’s exponentieel toeneemt en daarmee ook het aantal optredende fouten.

De oplossing voor dit probleem is in verschillende richtingen gezocht. Een benadering is erin gelegen om niet langer de rol van de menselijke ontwerper centraal te stellen, maar de kunstmatige intelligentie zichzelf te laten ontwikkelen, bijvoorbeeld volgens het evolutionaire principe van reproductie, variatie en selectie. Dat heeft onder andere geleid tot de ontwikkeling van genetische algoritmen, neurale netwerken en machine leren. Dit wordt toegepast in profiling en datamining.

De tweede benadering wijt de problemen van de traditionele kunstmatige intelligentie aan de te smalle opvatting van intelligentie die daaraan ten grondslag lag. Wil kunstmatige intelligentie tot gedrag leiden dat werkelijk intelligent mag heten, dan zal het niet alleen kenmerken van analytische intelligentie moeten vertonen, maar evenzeer van praktische en creatieve intelligentie. Zo zal een levensechte kunstmatige intelligentie niet alleen emoties van gebruikers moeten kunnen herkennen en emoties tot uitdrukking kunnen brengen, maar tot op zekere hoogte ook emoties moeten bezitten om doelen te kunnen stellen en af te wegen.

Kunstmatige intelligentie van dit type bestaat nog niet, maar kan wel worden benaderd door traditionele kunstmatige intelligentie aan menselijke emoties te koppelen. We kunnen daarbij denken aan ontwerpprogramma’s waarbij de analytische intelligentie van de computer wordt gekoppeld aan de creatieve verbeelding van de ontwerper of aan expertsystemen waarin die analytische intelligentie wordt gekoppeld aan de praktische inzichten van een arts. Kunstmatige intelligentie is dan geen vorm van intelligentie die buiten of zelfs tegenover de mens staat, maar een uitbreiding en versterking van de menselijke intelligentie.

Interessant wordt het vooral wanneer we deze beide alternatieven van de klassieke kunstmatige intelligentie gaan combineren. In een nog rudimentaire vorm zien we dat gebeuren in uiteenlopende toepassingen van het zogenaamde Web 2.0. In dergelijke toepassingen wordt gebruikersparticipatie gekoppeld aan slimme datamining software die daarin interessante patronen herkent. Amazon.com werkt bijvoorbeeld op deze wijze. De gebruiker wordt uitgenodigd om recensies te schrijven en zijn waardering wordt opgeslagen in de achterliggende database. Daaruit, en uit zijn zoek- en koopgedrag kan Amazon.com onder meer de bezoeker die een bepaald boek wil kopen attenderen dat andere bezoekers die dat boek kochten ook een verwant boek hebben aangeschaft, of hem geautomatiseerd een e-mail sturen wanneer er een nieuw boek van dezelfde auteur verschijnt. Iedere bezoeker krijgt daarbij een geïndividualiseerde, op zijn eigen koopgedrag afgestemde, steeds veranderende pagina te zien. De bezoeker komt daarbij dankzij vernuftige algoritmen meer over zijn voorkeuren te weten, dan hij zelf al wist. Hoewel dat natuurlijk ook fijn is voor Amazon.com, die daarmee weer wat extra boeken hoopt te verkopen, kan dit toch moeilijk als een ondermijning van de autonomie van de consument worden gezien. Er is hier eerder sprake van een win-winsituatie.

Het zou interessant zijn bij wijze van gedachte-experiment dit Web 2.0 model ook toe te passen op de overheidsinformatisering. Stel je voor dat het belastingaangiftenprogramma ons niet langer alleen in staat stelt de velden te voorzien van de benodigde informatie, maar ons ook tips zou geven die zijn gebaseerd op de input van de andere belastingplichtigen: ‘Belastingbetalers die voor deze aftrekpost in aanmerking kwamen, voerden met succes ook deze aftrekpost op’. Of je kunt naar aanleiding van een invoer van specifieke informatie ervaringen met andere belastingbetalers wisselen.

Ook het elektronische patiëntendossier zou veel aan sympathie winnen, wanneer de patiënt niet alleen inzicht zou krijgen in welke zorgaanbieders, indicatieorganen of zorgverzekeraars zijn medische data hebben opgevraagd of geverifieerd, maar als hij ook inzage zou krijgen in de medische informatie, in staat zou zijn relevante ervaringen aan de database toe te voegen en profijt zou kunnen trekken uit de interessante patronen die de datamining van de landelijke database oplevert (‘Het aantal succesvolle behandelingen van chirurg De Vries ligt significant onder het landelijk gemiddelde’).

Databases die door de gebruikers voortdurend worden verrijkt met semantische kennis (folksonomies), afgestemd zijn op de individuele gebruikers en leren van hun ervaringen, zouden in vele opzichten grote voordelen bieden boven bestaande systemen. Waar de ontwikkeling van top down geprogrammeerde semantische webapplicaties uiterst moeizaam verloopt, ontwikkelen op folksonomies gebaseerde netwerken zich weliswaar chaotischer, maar tegelijkertijd veel sneller en efficiënter. Daartoe dienen de gebruikers deelgenoot te worden gemaakt van de ontwikkeling van het systeem door hun kennis, praktisch inzicht en emoties als input te gebruiken, en dienen we de systemen zichzelf te laten ontwikkelen. Daarmee zouden niet alleen de  ontwikkelingsduur en -kosten drastisch kunnen afnemen, maar zouden tegelijkertijd de flexibiliteit en bruikbaarheid fors toenemen. De nadruk zou daarbij verschuiven van de kunstmatig intelligente overheid naar de kunstmatig intelligente burger.

Vanzelfsprekend biedt een dergelijke ‘open source governance’ niet alleen voordelen.  Eerder genoemde gevaren zijn nooit geheel te vermijden. Toch denk ik dat de samenwerking van overheid en burger in dergelijke hybride vormen van kunstmatige intelligentie de ‘transparantie, zorgvuldigheid, toegankelijkheid, verantwoording en verantwoordelijkheid’ van de overheidsinformatisering, waarover de Raad voor Openbaar Bestuur en de Raad voor Cultuur in hun rapport Informatie: grondstof met toekomstwaarde uit 2008 bezorgd spreken, meer ten goede komt dan de gesloten systemen zoals we die nu kennen of die momenteel in ontwikkeling zijn.

Misschien is het grootste gevaar waarmee de ‘Second Society’ ons confronteert, de mogelijkheid dat de kunstmatige intelligentie doelen gaat stellen die zich tegen de onmiddellijke preferenties van de menselijke gebruikers keren. Laat ik dit toelichten aan de hand van het Kieskompas, de webapplicatie die ons in staat stelt aan de hand van een aantal voorgelegde vragen te bepalen met welk politiek programma wij ons het meest verwant voelen (http://www.kieskompas.nl/). De populariteit van deze website en de concurrerende Stem- en Kieswijzer tonen aan dat de burgers behoefte hebben aan  slimme programma’s die hen helpen hun stem te bepalen. De uiteindelijke keuze blijft evenwel aan de gebruiker zelf. Het Kieskompas is slechts een hulpmiddel. We zouden ons echter kunnen voorstellen dat het programma ook in staat wordt gesteld onze stem uit te brengen wanneer we door de files onze stem niet bijtijds kunnen uitbrengen. Een volgende stap zou kunnen zijn dat de kunstmatige intelligentie onze stem uitbrengt wanneer we op de verkiezingsdag te lui of te cynisch blijken te zijn om onze stem uit te brengen. En tenslotte zouden we kunnen bedenken dat de kunstmatige intelligentie vaststelt dat onze uiteindelijke keuze niet overeenstemt met ons gedrag en op grond daarvan beslist op de partij te stemmen die daarmee meer in overeenstemming is en om die reden onze belangen beter dient. Of die besluit dat een stem op partij X vanuit het perspectief van toekomstige generaties volstrekt onverantwoord is.

Wanneer we deze stadia (van intentionaliteit) van kunstmatige intelligentie overwegen, worden we geconfronteerd met de vraag: is het wenselijk een kunstmatig intelligente overheid te hebben en zo ja, hoe intelligent mag deze zijn? Wanneer we de kunstmatig intelligente overheid beschouwen als een externe macht die onze autonomie bedreigt, dan zullen we wellicht eerder een overheid met een lichte verstandelijke handicap prefereren. Wanneer we echter bedenken dat de voorgestelde systemen eerder een extensie en versterking van onze eigen intelligentie zijn, dan zullen we een intelligente overheid waarschijnlijk op positievere wijze tegemoet zien. Wij kennen immers volkssoevereiniteit. De intelligente overheid, dat zijn wij!