Niet-geoptimaliseerde dromen

Deel Facebook Twitter / X LinkedIn

In de themareeks ‘Schrijfrobots. Code en creatie in de literatuur’ onderzoekt De Reactor de rol van artificiële intelligentie (AI) in de literatuur in het algemeen en de Nederlandstalige literatuur in het bijzonder. Er is geen twijfel over mogelijk dat AI een grote impact heeft op de toekomst van de culturele sector. Op welke manier beïnvloedt AI het werk van schrijvers, kunstenaars en andere makers? Welke impact heeft OpenAI op de creatieve, ecologische, economische en juridische kanten van literaire teksten? De grote hoeveelheid zoekopdrachten in programma’s als ChatGPT en Gemini zet de energie- en waterreserves van de aarde onder druk. Tegelijkertijd biedt AI ook vele mogelijkheden, die bijvoorbeeld in de medische wereld voor revolutionaire doorbraken zorgen. Welke voor- en nadelen kent AI in relatie tot literatuur en hoe wegen die tegen elkaar op? In deze themareeks zoeken we naar antwoorden op deze vragen en meer. We bundelen bijdragen van auteurs die in uiteenlopende vormen – essays, recensies en een podcast – aan de slag gaan met wat wordt gezien als een van de grootste uitdagingen van deze tijd. In deze recensie van de interviewbundel Niet onze AI. Voorbij beloften van Big Tech, samengesteld door Gabriela Obispa & Laurens Vreekamp, onderzoekt Juan-Carlos Goilo welke vormen er bestaan om ‘nee’ te zeggen tegen bepaalde AI-toepassingen.

Wat gebeurt er als je een jurist gespecialiseerd in AI-ethiek en digitale rechten bij de politie, Gabriella Obispa, samenbrengt met een journalist die midden in de AI-ontwikkelingen rondkijkt, Laurens Vreekamp? Er ontstaat dan een boek genaamd Niet onze AI dat als een kompas dient in een oceaan vol hype, beloftes en onrust. Volgens het voorwoord is het boek geschreven voor de burger, mediamaker, ontwikkelaar, beleidsvormer en onderwijzer die kritische vragen stelt, alternatieve voorstellen wil doen of soms simpelweg ‘nee’ wil zeggen tegen bepaalde AI-toepassingen.

Om dit mogelijk te maken, gaven Obispa en Vreekamp hun perspectief democratisch vorm. Ze namen interviews af met Sahra Mohamed, Chiara de Jong, Sennay Ghebreab, Felienne Hermans, Judith Zoë Blijden, Robin Aïsha Pocornie, Tiwánee van der Horst, Maaike Harbers, Ruben Brave, Karien Sondervan, Wietske van Ierssel en Jules van den Berg. Met input van deze experts vermijden de auteurs de valkuil van definitieve antwoorden. De AI-sector is te vluchtig om bij te houden. In plaats daarvan positioneren ze het resultaat als ‘geen handleiding, maar een uitnodiging’.

Tactieken van AI-marronage

Het boek doorbreekt de betovering van AI en vraagt: wat drijft eigenlijk degenen die aan het roer staan? Obispa en Vreekamp halen computerwetenschaper en futurist Ray Kurzweil aan, die voorspelt dat in 2045 de singulariteit zal plaatsvinden: het moment waarop technologie zich zo razendsnel ontwikkelt dat mens en machine in één intelligentie-explosie samensmelten. Voor sommigen vormt singulariteit een utopische stip op de horizon. Voor anderen is het voorspelde moment een dystopisch dieptepunt.

Obispa en Vreekamp beschrijven hoe de kleine groep abnormaal rijke witte mannen — vaak ‘techbro-oligarchs’ genoemd — vaart op overtuigingen als extropianisme (een stroming binnen het transhumanisme die streeft naar onbeperkte verbetering van de menselijke fysiologie door techniek en wetenschap) en cosmisme (kort door de bocht: het geloof in ruimtekolonisatie, zie bijvoorbeeld SpaceX). Deze techbro-oligarchs ontwijken de wetgeving en sturen het publieke debat over AI. Ik hoef geen namen te noemen, want ze zijn tegenwoordig regelmatig te zien naast de Amerikaanse president tijdens plechtigheden.

Gelukkig laten de auteurs ons niet dobberen in die donkere oceaan. Ze bespreken concrete manieren om de koers te verleggen. Ten eerste door het fabeltje van de onvermijdelijkheid te doorprikken. AI is geen vanzelfsprekendheid, geen natuurkracht, maar mensenwerk: gemaakt door een kleine groep, gevoed door hun dromen en blinde vlekken.

Zo maakt Who Pulls The Strings of AI (2023) van Tiwánee van der Horst zichtbaar wie aan de touwtjes van de AI trekt en in wiens belang. Stel je een fysiek model voor: in het midden hangt de kunstmatige intelligentie, kwetsbaar en beïnvloedbaar. Rondom liggen belanghebbenden — Big Tech, overheden, gebruikers, kennisinstellingen — en een planeet die opwarmt. Deze belanghebbenden leggen allemaal druk op de schaal van invloed: hoe zwaarder de stem van een speler, hoe meer de constructie helt en kantelt. De macht blijkt net als een schip te zijn dat door ongunstige omstandigheden opeens uit koers kan raken. Zo’n gedachteoefening maakt abstracte macht zichtbaar en daarmee kwetsbaar.

Een andere nuttige gedachteoefening is de ‘ergernistest’, bedacht door Felienne Hermans, hoogleraar vakdidactiek van de informatica aan de Vrije Universiteit van Amsterdam. De test is geïnspireerd op een sciencefictionroman en houdt in dat machines getest worden op zelfbewustzijn door ze eindeloos te laten wachten. Het idee is dat als machines een eigen wil hebben, ze uiteindelijk boos worden over de onredelijke situatie en de wachtkamer verlaten. Hermans stelt dat de ergernistest misschien wel een betere test is dan de oorspronkelijke Turing-test. Wat een mens tot mens maakt, is volgens haar het vermogen om op een bepaald moment te besluiten dat iets onredelijk is en het dan te omzeilen. Haar conclusie luidt: ‘Laat machines dus maar bewijzen dat ze geen mensen zijn, en geef ons mensen het vertrouwen dat we (althans, het merendeel) verdienen.’

Technologie die de mens probeert te dwingen tot een universele, transparante logica schendt het ‘recht op ondoorzichtigheid’, stelt de Martinikaanse schrijver, dichter en cultuurtheoreticus Édouard Glissant. De oefening om de machine te laten bewijzen dat die geen mens is, voelt als een speelse vorm van marronage (tot slaaf gemaakten die in opstand komen en vluchten). We willen even ontsnappen aan het systeem dat ons wil vastpinnen.

Dit soort voorbeelden uit het boek doen me sterk denken aan het recent verschenen werk van Institute of Network Cultures in This Can’t be the Place: Alternative Theories of the Internet (2026). Daarin worden kunstenaars zoals Chuck Tingle beschreven en hun versnelde en bizarre stroom van ‘shitpublishing’ door echte boeken eruit te laten zien als nepboeken (waardoor ze in feite nepboeken worden) en nepboeken als echte boeken (waarvan de nepheid ze tot echte boeken maakt). Dit is een tactiek van overdrijving en zelfreflectie die de absurditeit van de situatie blootlegt.

Context als redding voor een rechtvaardige samenleving

Obispa en Vreekamp weigeren de machine als uitgangspunt te nemen. In plaats daarvan benadrukken ze het belang van de maatschappij, de diversiteit van culturen, en de herinneringen die al eeuwenlang bestaan. Zo zetten ze sociologe Ruha Benjamin in om hun tegengeluid te verfijnen. Benjamin stelt: ‘Elk gesprek over technologie kan niet beginnen met de technologie zelf.’

De sociale context en de machtsverhoudingen die daarbinnen bestaan, staan in Benjamins werk centraal. In haar boek Race After Technology (2019) is de hoofdgedachte dat technologie zowel dominante structuren weerspiegelt als de potentie heeft om deze uit te dagen. Cruciaal is Benjamins pleidooi voor verbeelding en ‘UStopia’, een collectief welzijn dat boven de geconcentreerde macht staat. Ze moedigt ons aan om te dromen voordat we nadenken en roept op tot een rijkere en diversere verbeelding om sociale realiteiten te transformeren en alternatieve AI-toekomsten te creëren.

Haar contextgerichte inzichten functioneren als een kompas, dat lezers aanzet tot het bevragen van bestaande privileges en het bevorderen van een mensgerichte en sociaal rechtvaardige ontwikkeling van AI. Ze stelt: ‘Wanneer AI de wereld anders ziet dan jij of jouw taal niet spreekt, heeft dat gevolgen voor de erkenning van je bestaan en je toekomst.’ AI werkt niet altijd met harde verboden, maar met een stille, alledaagse erosie — kennis spoelt langzaam weg door simpele omissies en nalatigheden. De auteurs beschrijven hoe bijvoorbeeld Indiase schrijvers voortdurend moeten corrigeren wat de machine denkt dat ze bedoelen.

Droom voordat je nadenkt

‘Slow AI’ en ‘Ancestral AI’ worden in het boek voorgesteld als twee grote concepten voor alternatieve benaderingen van AI-ontwikkeling. Slow AI benadrukt het belang van vertragen in het ontwikkelingsproces om nauwkeurigere en mensgerichtere resultaten te bereiken. Het systeem definieert succes opnieuw en richt zich op het uiteindelijke doel in plaats van op snelheid. Slow AI is het tegenovergestelde van Mark Zuckerbergs slogan ‘move fast and break things’ in het begin van Facebooks ontwikkelingen. Het systeem staat namelijk juist haaks op de snelle, vaak ongecontroleerde innovaties uit Silicon Valley. Het pleit ervoor om meer tijd te nemen om problemen, context, verschillende perspectieven en gevolgen grondig te begrijpen voordat er naar oplossingen wordt gezocht.

Ancestral AI wordt onderzocht door alternatieve denkers en ontwikkelaars. Hoewel niet expliciet gedefinieerd, lijkt Ancestral AI te verwijzen naar een aanpak die traditionele kennis, intergenerationele wijsheid en niet-westerse perspectieven benut om de ontwikkeling van AI vorm te geven. Het blijft de vraag of de mensheid op aarde kan bestaan zonder de mens of de planeet uit te buiten.

Langzaam en intergenerationeel werken met AI betekent dat men betere AI-systemen kan creëren die daadwerkelijk goed werken voor iedereen. Die ontwikkelingen kunnen echter uiteindelijk ook leiden tot nauwkeurigere vormen van uitbuiting. Hierin schuilt een interessante paradox. De auteurs en geïnterviewden in Niet onze AI gebruiken de machine om te onderzoeken en te ordenen, terwijl ze tegelijkertijd waarschuwen voor haar greep.

Die paradox geeft mooi en eerlijk weer waar we nu staan: we zwemmen allemaal in dezelfde zee. De kunst is om niet mee te drijven, maar te leren navigeren met zout in de ogen, wind in het haar en ritme in de armen. Geïnspireerd door Benjamin, die weer door Toni Morrison wordt gevoed, zoeken de auteurs naar bijzondere manieren om uitbuiting via AI-modellen tegen te gaan. Ze citeren Benjamin, die stelt:

Juist de plek waar we onze verbeelding zouden moeten kunnen prikkelen, is de plek waar die verbeelding routinematig wordt onderdrukt, afgestompt en gestandaardiseerd. Dat is niet onvermijdelijk, maar wel voorspelbaar. En het zijn niet alleen individuele mensen die daaronder lijden. Het is de samenleving als geheel. Laten we gehoor geven aan de woorden van Toni Morrison: als je posities van vertrouwen en macht bekleedt, droom dan een beetje voordat je nadenkt. Nu wordt durf gerantsoeneerd terwijl realisme massaal wordt geproduceerd. We zitten in veel opzichten gevangen in een scheve verbeelding van degenen die macht en middelen monopoliseren ten voordele van enkelen en ten koste van velen.

Niet de geoptimaliseerde droom van de markt, maar de wilde, ongetemde droom van de mens is onze redding, lijkt het. Maar hoe maak je van de dromen van veel mensen één collectieve droom? Hoe kunnen we dáár onze bron vinden? Een droom ontstaat namelijk niet op één plek; ze zijn een mix van visuele prikkels (achterhoofdskwab), herinneringen (hippocampus) en emoties (amygdala).

Elon Musks Neuralink richt momenteel elektroden op één specifiek gebied: die van de motorische handelingen. Om dromen te kunnen begrijpen, zouden we echter het hele brein moeten kunnen lezen: de uiterst persoonlijke stroom van symbolen, verlangens, angsten, herinneringen en abstracte concepten. We moeten die droom durven waar te maken. Dat streven zal voorlopig het grootste antidotum zijn tegen megalomane AI-plannen.

Een recensie door Juan-Carlos Goilo van Niet onze AI. Voorbij beloften van Big Tech, samengesteld door Gabriela Obispa & Laurens Vreekamp.