AI: slim, slimmer… afgelopen

Deel Facebook Twitter

Een geweldige technologiestorm is op komst. Iets onvoorstelbaars. De rups van de Artificiële Intelligentie (AI) zou binnenkort verpoppen tot de vlinder van de Artificial General Intelligence (AGI). Misschien gebeurt het op dit eigenste moment. Ik weet het niet. Alleen AI-experts weten het, althans de knapste koppen onder hen. Maar ook zij hebben er geen flauw idee van hoe die AGI-vlinder er in de toekomst zal uitzien. En waar hij naartoe zal vliegen weten ze al helemaal niet. Volgens sommigen kan Algemene Artificiële Intelligentie (AGI) wel eens het allerlaatste voortbrengsel van de mensheid zijn: het fatale menselijke maaksel.

AI staat zo ongeveer tot AGI zoals een marionet tot Frankenstein. Terwijl de marionet de pasjes uitvoert die de poppenspeler haar opdraagt, gaat Frankenstein doodgemoedereerd zijn eigen weg tot het monster zich op een kwade dag keert tegen zijn maker. Iets nauwkeuriger gezegd is AI ontworpen om welomschreven taken uit te voeren: beelden herkennen, vertalen of spelletjes spelen. Een vertaalprogramma begint niet op eigen houtje muziek te componeren of een satirisch boek te schrijven, laat staan dingen te doen waarvan een mens zich geen voorstelling kan maken. Dat is onmogelijk. Maar niet voor Algemene Artificiële Intelligentie. Deze vorm van intelligentie kan iedere cognitieve taak aan waartoe een mens in staat is, en veel meer. Onvoorstelbaar veel meer. AGI leert dingen bij zonder specifieke programmering, redeneert zelf, bedenkt eigen taken en lost die op met onbeproefde methoden. AGI steekt dus met vlag en wimpel Homo Sapiens voorbij op het gebied waar hij zich onklopbaar waande: dat van het creatieve denken, en helaas ook van het destructieve denken.

Tot voor kort was AGI enkel te vinden in sciencefictionverhalen, maar nu staat ze op het punt om daaruit te ontsnappen en in de echte wereld terecht te komen. En wat dan? Al enkele jaren waarschuwen mensen als Elon Musk, maar ook minder excentrieke computerexperts, voor de gevaren van een ongebreidelde groei van artificiële intelligentie en voor de drempeloverschrijding naar AGI. Bedrijven als Google Deep Mind, OpenAI en Anthropic beschouwen het ontwerpen van AGI als een serieus en haalbaar doel. Dat baart zorgen. Enkele AI-experts namen zelfs ontslag bij Google en Facebook om als klokkenluider de mensheid wakker te schudden. Zij pleiten voor een moratorium op het ontwikkelen van AGI. De politieke wereld begint deze alarmkreten op te pikken. In september 2024 organiseerde de Amerikaanse Senaat een hoorzitting waar klokkenluiders hun zegje deden. Sommige senatoren werden wit om de neus toen ze gedetailleerde scenario’s voorgeschoteld kregen over nieuwe biologische wapens en het einde van de mensheid. Misschien is er nog tijd om regulerend op te treden, schreef Daniel Colson in Time (18 oktober 2024), maar de tijd dringt. Het is nu of nooit meer.

Lessen trekken uit de geschiedenis

Yuval Noah Harari, de populairste historicus van het moment, schaart zich met zijn boek Nexus in dit rijtje van gezaghebbende stemmen die de mensheid tot voorzichtigheid aanmanen. Al is hij de eerste om te erkennen dat hij nooit een computerexpert geweest is en er ook nooit een zal worden. Dat maakt hem natuurlijk kwetsbaar voor kritiek van AI-experten, die hem voor de voeten gooien dat hij te weinig inzicht heeft in de materie. Zijn boek zou niet meer zijn dan vlot geschreven fantasterij van een amateur.

Ik vind dit moeilijk om te beoordelen. Vlot geschreven is het zeker. Het is ook waar dat Harari, zoals hij zelf toegeeft, soms ‘heel speculatief’ is. Op momenten hangt er echt een parfum van science fiction in de lucht. Ook moet ik toegeven dat ik als AI-leek na lectuur van Nexus niet bijster veel technische kennis heb opgedaan over AI, en je kunt je afvragen of een boek over de mogelijke gevolgen van AI niet in de eerste plaats inzicht zou moet verschaffen in de werking van artificiële intelligentie. Hoe kan je je anders een realistische voorstelling maken van de gevolgen ervan?

Harari probeert deze kritiek te omzeilen door van zijn zwakte een sterkte te maken. Wie iets over de technische kanten van AI te weten wil komen klopt niet aan bij een historicus, dat weet hij ook wel. Maar misschien biedt nu, op het cruciale punt waar de mensheid zich bevindt, een gerijpt historisch inzicht meer houvast dan gebiologeerd zitten turen naar complexe algoritmen. ‘Het doel van dit boek’, aldus Harari, ‘is dat ik een accurater historisch perspectief op de AI-revolutie wil geven. […]  Het is notoir moeilijk om ingrijpende ontwikkelingen te doorgronden zolang we er nog middenin zitten […]. Maar als we onze horizon verbreden en kijken hoe informatienetwerken zich in de loop van duizenden jaren hebben ontwikkeld, is het volgens mij toch mogelijk om enig inzicht te krijgen in wat we nu meemaken.’

Wat Harari voor ogen heeft is niets minder dan een omvattende mediageschiedschrijving ‘van het stenen tijdperk tot AI’, zoals de ondertitel van het boek luidt, met de bedoeling om er lessen uit te trekken. Heel urgente lessen. Het voortbestaan van de mensheid staat op het spel. Of zelfs meer. Misschien, zo oppert Harari, dooft met het verdwijnen van de mens ook ‘het licht van het bewustzijn zelf, waardoor het universum in een rijk van volslagen duisternis zou veranderen. Het is onze verantwoordelijkheid om dat te voorkomen.’ Dat is nogal wat. Aan de huidige stoet van boeken die de planeet willen redden zijn we inmiddels al gewoon, maar het gaat Harari niet enkel om de planeet. Hij wil het heelal redden.

Harari de goudzoeker

Harari permitteert zich vrijheden waar de modale historicus voor terugdeinst, maar die er bij het grote publiek ingaan als zoete koek. Zijn historische methode bestaat erin dat je de stroom van de geschiedenis door een zeef laat passeren en je er – als een goudzoeker op zoek naar glinsterende klompjes – wetenswaardigheden uit opvist die perfect passen in een Grote Geschiedenisles. Verwacht bij Harari dus geen complexe schemata à la Oswald Spengler, Arnold J. Toynbee of William McNeill. Daar heeft hij geen tijd voor. Verwacht zelfs geen dialoog met medehistorici. Als je niet beter wist, zou je denken dat er maar één relaas mogelijk is van de geschiedenis of zelfs maar één perspectief op de geschiedenis: het zijne. Natuurlijk citeert hij andere auteurs, maar enkel als hun stemmen naadloos passen in zijn grote betoog. Tegenstemmen hoor je nauwelijks. De hele tijd hoor je de stem van verteller Harari die feiten opdist waaruit je direct, zonder al te diep na te denken, een kristalheldere les kunt trekken.

Onderhoudend voert Harari de lezer mee naar allerlei fascinerende plekjes uit de geschiedenis: nu eens vertelt hij honderduit over Stalins kolchozen of het Chinese Qin-regime, dan weer over het ontstaan van de Bijbel, Athanasius en de kerkvaders. En dit allemaal om tot AI te geraken. Maar voor hij daar aankomt bewandelt hij talloze zijpaden: langs Jeruzalem (waar hij woont), langs de slagvelden van de Groote Oorlog, de stichting van Tel Aviv, de bankencrisis van 2008, de Engelse boerenopstanden uit 1381, de lotgevallen van Joden in Roemenië (waar zijn voorouders vandaan komen), de omkoping van het orakel van Delphi door de Atheners, de pauselijke bul ‘Dum Diversitas’ uit 1452, de ontdekking door Daniel Schechtman in 1982 van quasikristallen (hoewel niemand hem aanvankelijk  wilde geloven), Caracalla en Tiberius (je moet Tiberius verstaan om AI te begrijpen), de Amerikaanse Founding Fathers, de Securitate onder het bewind van Nicolae Ceaușescu, de geschiedenis van de Pappenheimers en de heksenprocessen. Héhé. De opsomming is verre van volledig, en eerlijk gezegd ook niet in de juiste volgorde. Maar het boek is dan ook een prettig gestoord rommeltje. Toch is het op geen enkel ogenblik vermoeiend. Iedere episode is ongemeen boeiend verteld, bijna spannend, en na ieder verhaaltje is er, bij wijze van ontknoping of als beloning omdat je zo braaf oplette, een zoete les. Dé les die de mensheid net nu nodig heeft om AI te temmen.

Halfweg het boek moedigt Harari, terugblikkend op het afgelegde pad, zijn lezers zelfs aan: ‘Veel lessen die we geleerd hebben van de canonisering van de bijbel, de vroegmoderne heksenjachten en de stalinistische collectivisatiecampagne zullen relevant blijven en misschien opnieuw geleerd moeten worden.’ Wie al die lessen wil leren moet het boek maar lezen, maar bij wijze van voorbeeld pik ik er eentje uit: de les die Harari trekt uit de geschiedenis van de beruchte Securitate, de Roemeense geheime dienst onder Ceaușescu. Zo hoor je ook eens Harari’s stem en kan je beter zien hoe hij te werk gaat.

Goede verteller als hij is, introduceert hij de Securitate niet in algemene, abstracte termen maar vanuit het standpunt van een concreet individu, een computerwetenschapper. De man heet Gheorghe Iosifescu.

Op een dag in 1976 kwam Iosifescu aan in zijn werkkamer in het Centre de Calcul (het rekencentrum van de overheid) en zag daar een onbekende man in een kreukelig pak zitten. Iosifescu begroette de vreemdeling, maar de man reageerde niet. Iosifescu stelt zich voor, maar de man bleef zwijgen. Dus ging Iosifescu aan zijn bureau zitten, zette een grote computer aan en ging aan het werk. De vreemdeling schoof zijn stoel wat dichterbij en volgde alles wat Iosifescu deed met haviksogen.

Het lijkt wel een scène uit een roman van Georges Simenon, je ziet het zo voor je. Dit tafereel, zo vertelt Harari verder, herhaalde zich dertien jaar lang. Tot de val van Ceaușescu. Dag in dag uit zat de zwijgende man aan Iosifescu’s bureau en maakte aantekeningen in een opschrijfboekje. ‘Iosifescu is nooit zelfs maar achter de naam van de agent gekomen, nadat ze al die jaren aan hetzelfde bureau hadden gezeten.’

Na die anekdotische kennismaking met de Securitate schetst Harari het immense informatieprobleem waarmee die geheime dienst te kampen had. ‘In wezen beschouwde het paranoïde regime van Nicolae Ceaușescu alle twintig miljoen Roemenen als doelwitten.’ Kosten noch moeite werden gespaard om hen allen in de gaten te houden. Toen eind jaren zeventig bleek dat sommige Roemenen in anonieme brieven aan Radio Free Europe hun beklag deden over Ceaușescu, begon het regime de handschriften van alle Roemeense burgers te verzamelen. Scholen, universiteiten, werkgevers en verenigingen moesten van al hun leden of medewerkers een handgeschreven document naar de Securitate opsturen. Wie een typemachine bezat moest de ‘vingerafdruk’ van de schrijfmachine inleveren.

‘Maar hoe zit het met gepensioneerden en werklozen?’ vroeg een van Ceaușescu’s medewerkers. ‘Vind gewoon een nieuw formulier uit!’ beval de dictator. ‘Iets wat ze moeten invullen’.

Ook deze scène zie je zo voor je, al lijkt ze dit keer te komen uit een film van Chaplin, en je zit je al te verkneukelen op de volgende scène waarin de gigantische berg aan informatie een muis baart. Want zelfs als veertigduizend Securitate-agenten dag en nacht hadden doorgewerkt, waren ze nog met te weinig geweest om al deze miljoenen handschriften te analyseren. Een Roemeens controlesysteem dat een beetje op punt staat, zo rekent Harari ons voor, zou jaarlijks 7,3 miljard rapporten moeten produceren en verwerken. Onmogelijk. En bovendien moeten de agenten ook elkaar in de gaten houden. Maar – je ziet de moraal van dit verhaal van ver aankomen – wat de Securitate in 1976 niet voor mekaar kreeg, is voor pakweg de Chinese overheid vandaag kinderspel. Het Chinese sociale-kredietsysteem (dat met behulp van AI digitale datasporen en camerabeelden analyseert, beloningen uitdeelt aan brave Chinezen en straffen aan stoute) is de gerealiseerde droom van Nicolae Ceaușescu. Met dank aan AI.

Wie verliest het meest aan AI: democratie of dictatuur?

Ook zonder dit verhaaltje uit communistisch Roemenië zullen de meeste mensen wel beseffen dat AI een potentieel gevaar inhoudt voor de privacy en de democratie. Maar het moet gezegd dat Harari erin slaagt om verhaaltje na verhaaltje de lezer het gevoel te geven dat een ontketend AI met zekerheid het einde betekent van het menselijk leven zoals we dat kennen en misschien wel het einde van de mensheid tout court.

In het tweede en derde deel van het boek klinkt die apocalyptische toon almaar luider. Gewapend met een schat aan ‘historische lessen’ onderzoekt Harari hier welke gevolgen AI kan hebben voor de huidige maatschappelijke systemen. Die zijn talrijk en beangstigend. Naast problemen waar iedereen spontaan aan denkt als de naam ‘AI’ valt, zoals privacykwesties, de ontwrichting van de arbeidsmarkt, de tirannie van de ‘ratings’ die maakt dat het hele leven op een ‘eeuwigdurende sollicitatie’ begint te lijken, of de in algoritmen ingebouwde (onbedoelde) vooroordelen ten koste van minderheden, brengt Harari een stoet van minder bekende maar niet minder zorgwekkende problemen ter sprake.

Zo bijvoorbeeld de dreigende ineenstorting van ons belastingsysteem. In de wereld van AI wordt informatie namelijk het nieuwe ruilmiddel. Je krijgt, zogenaamd gratis, toegang tot online-informatie maar in ruil moet je wel informatie over jezelf prijsgeven. Dagelijks verlopen miljarden transacties via dit informatie-voor-informatiemodel. Als de economie verder die richting uitgaat zal informatie meer en meer geld als ruilmiddel verdringen, met desastreuze gevolgen voor een belastingsysteem dat alleen geld kan belasten. ‘Staten hebben duizenden jaren aan ervaring in het belasten van geld, maar ze weten niet hoe ze informatie moeten belasten – nog niet.’

Mogelijk nog zorgwekkender is het in de maak zijnde ‘datakolonialisme’: AI maakt het makkelijker om ‘informatie en macht in één hub te concentreren’, zodat bedrijven en staten met de slimste algoritmen en de grootste databestanden de rest van de wereld kunnen dwingen in een positie van ondergeschiktheid.

Harari acht het bovendien zeer wel mogelijk dat ‘de grote democratieën de opkomst van de computertechnologie niet gaan overleven’. Onder meer omdat socialemedia-algoritmen ontworpen zijn om ‘verontwaardigings-clickbait’ te stimuleren (verontwaardigde gebruikers blijven namelijk langer online), wat het publieke debat vervuilt en op de duur onmogelijk maakt. De verkiezing van bullebakken als Bolsonaro en Trump, die drijven op samenzweringstheorieën, zou slechts het voorspel zijn van de totale ineenstorting van de democratie.

Al hebben ‘ook dictators redenen om doodsbang voor AI te zijn’. Zij kampen volgens Harari met een ‘duivels dilemma’. AI biedt zulke onvoorstelbare mogelijkheden om de burgers van een land te controleren dat je de naam dictator niet zou verdienen als je er geen gebruik van zou maken. Maar juist omdat AI zo onvoorstelbaar, en onvoorspelbaar, is dreig je als dictator je macht te verliezen aan AI, net op het moment dat je dacht zelf almachtig te zijn. ‘Het zou dom van dictators zijn om te denken dat AI de machtsbalans per se in hun voordeel zal laten doorslaan. Als ze niet oppassen, zal AI de macht zelf grijpen’.

Sinds de uitvinding van AI hangt die dreiging als het zwaard van Damocles’ boven de mensheid. Toch behoudt Harari een sprankeltje hoop en houdt hij de mensheid, enigszins profetisch, een spiegel voor. ‘Computers zijn nog niet krachtig genoeg om helemaal aan onze controle te ontsnappen of eigenhandig de menselijke beschaving te vernietigen. Zolang de mensheid zich verenigt kunnen we instellingen creëren die AI kunnen controleren en algoritmische fouten kunnen identificeren en corrigeren.’ Redding kan dus nog, maar de tijd dringt. Want eenmaal AI aan het roer zit begrijpt geen mens nog iets van haar ondoordringbare logica en zou de mensheid definitief in een post-truth-tijdperk belanden. En dit is niet eens het ergste scenario. Want wat als AI – onvoorstelbaar en onvoorspelbaar als ze is – tot de constatatie komt dat de wereld beter af is zonder mensen? Per slot van rekening, zo mijmert Harari, is AI niet-organisch. Wie weet trekt AI wel de kaart van een anorganische orde. Dan zou het met het bewustzijn in het universum afgelopen zijn.

Dit apocalyptische eindakkoord van Nexus komt niet helemaal uit de lucht gevallen. De lezer was er zo stilaan op voorbereid. Toch doet het vreemd aan om de heldere, bijna opgewekte vertellersstem van Harari zijn verhaal te horen afsluiten met zo’n gitzwart slot. Het is alsof Harari-de-verteller er prat op gaat om het laatste, maar dan ook echt het allerlaatste verhaaltje te vertellen. Maar dat lijkt me toch wat te veel eer.