Over de limieten van oneindige teksten

Deel Facebook Twitter / X LinkedIn

In Het boek van zand, een kortverhaal van de Argentijnse schrijver Jorge Luis Borges, krijgt de naamloze hoofdpersoon bezoek van een huis-aan-huisverkoper. Wanneer die hem een boek aanbiedt en uitnodigt om de eerste bladzijde ervan te zoeken, mislukt de hoofdpersoon in elke poging daartoe. Telkens als hij met zijn vingers tussen de kaft en de eerste bladzijde glijdt, groeien er nieuwe pagina’s tussen de kaft en zijn duim.

Stomverbaasd kijkt hij de verkoper aan. ‘Het aantal pagina’s in dit boek is niet meer en niet minder dan oneindig,’ vertrouwt de verkoper hem toe. ‘Geen enkele pagina is de eerste, geen enkele de laatste.’ De verkoper stelt het onmogelijke object voor als het Boek van Zand. Net zoals zand, zegt hij, heeft dit boek geen begin en geen einde.

Als snel besluit de hoofdpersoon om het oneindige boek te kopen. Aanvankelijk verstopt hij het boek, dat hij ‘zijn schat’ noemt, achteraan zijn boekenplank. Maar wanneer hij de slaap niet kan vatten, begint hij als een bezetene door het boek te bladeren. Op een bladzijde ziet hij graveringen van een masker. Op een andere bladzijde ziet hij ‘in de bovenhoek van de bladzijde […] een getal, dat ik me niet meer kan herinneren, tot de negende macht verheven.’

Onlangs hoorde ik iemand vertellen dat hij teksten schrijven voortaan zou overlaten aan een AI-assistent. Wat heeft het nog voor zin dat ik schrijf, zei hij, als een bot in een mum van tijd een kant-en-klare tekst kan opdienen? En als die oneindig veel nieuwe teksten kan schrijven?

In mijn gedachten zag ik hem het Boek van Zand vasthouden. Ik zag hem de ene bladzijde na de andere omslaan, ik zag hoe er voortdurend nieuwe bladen uit het boek groeiden, tot het gebladerte zo dik werd dat het zijn vingers leek op te vreten.

De man leek allesbehalve rouwig. Schrijven, zo stelde hij, was simpelweg een taak die hij niet langer op zich wilde nemen. Met een bodemloze bron van teksten aan zijn vingertoppen, had hij besloten dat hij liever iemand was die hier teksten uit zou opvragen, dan iemand die ze zelf zou schrijven. Zijn er dan geen andere manieren, dacht ik, om met het oneindige om te gaan?

Grammaticale machines

In 1987 publiceerde Vilém Flusser het boek Does Writing Have a Future? Zoals de titel doet vermoeden, worstelt de Tsjechisch-Braziliaanse filosoof in dit boek met vragen over de toekomst van het schrijverschap. ‘Schrijven, in de zin van het achter elkaar plaatsen van letters en andere tekens, lijkt weinig of geen toekomst te hebben,’ stelt Flusser. Hij linkt zijn bezorgdheden over de toekomst van het schrijven uitdrukkelijk aan de opkomst van geautomatiseerde schrijfmethoden. In het boek toont hij hoe het dankzij technologische uitvindingen mogelijk was geworden om het schrijven aan machines over te laten.

Opmerkelijk genoeg maakte hij zich niet al te veel zorgen over typemachines en de computers met tekstverwerking uit de jaren ‘80, ‘want die hebben nog steeds een mens nodig ’ In feite was Flusser bezorgd over de mogelijke komst van ‘grammaticale machines, artificiële intelligenties die zelfstandig voor deze ordening zorgen.’

In zijn boek betoogt Flusser dat de ordelijke vorm van schrijven aan de basis ligt van de kritieke toekomst van het schrijven. Want, zo zegt hij, ‘Schrijven, het ordenen van geschreven tekens in rijen, kan worden gemechaniseerd en geautomatiseerd.’ Hij voorspelde dat machines op een gegeven moment niet alleen sneller, maar ook gevarieerder zouden kunnen schrijven dan mensen. ‘En artificiële intelligenties zullen in de toekomst ongetwijfeld nog intelligenter worden’, stelt Flusser. Hij was zijn tijd ver vooruit door zich vragen te stellen over de impact van artificiële intelligentie op schrijven. Eén van de zaken waar hij zich zorgen over maakte, was dat de opkomst van AI ertoe zou leiden dat we taal op een atomistische manier zouden gaan benaderen – een benadering die het schrijven van teksten herleidt tot het combineren en ordenen van letters, leestekens en witruimte.

Deze atomistische benadering van taal duikt ook op in het werk van Borges. In misschien wel zijn bekendste korte verhaal, De bibliotheek van Babel, beschrijft de Argentijnse schrijver een enorme, oneindige bibliotheek. In het verhaal valt die samen met het universum en bestaat die uit een oneindig aantal zeshoekige kamers. Elke kamer wordt bewoond door mensen, maar ook door boeken, die elke mogelijke combinatie van 25 tekens bevatten: 22 letters, de punt, de komma en de spatie. Werkelijk elke combinatie van tekens is aanwezig in de bibliotheek, wat betekent dat het ook elk mogelijk boek bevat.

Maar omdat de boeken bestaan uit willekeurige combinaties van tekens, is het gros ervan complete nonsens. Tegelijk betekent het dat de bibliotheek ook alle mogelijke informatie en literaire werken zou moeten bevatten. Toen bekend werd dat de Bibliotheek alle mogelijke boeken bevatte, reageerden de meeste mensen uitgelaten. Ze dachten dat er voor elk probleem in de wereld wel een oplossing te vinden moest zijn in deze oneindige bibliotheek. Maar na een initiële periode van buitensporige hoop werden de mensen overvallen door een diepe depressie. In de oneindige bibliotheek werden ze geconfronteerd met een oneindige zoektocht, waardoor ze beseften dat de kostbare boeken die hen een antwoord zouden geven op alle mogelijke levensvragen, voor altijd buiten bereik zouden blijven.

Zowel in dit verhaal als in Het boek van zand bestaat de mens als zoeker en lezer, maar niet als schrijver. Meer nog, in De bibliotheek van Babel beschouwt de bevolking het concept van schrijven. In het verhaal beschrijft de verteller hoe, op een gegeven moment, een ‘godslasterlijke sekte’ voorstelde om de zoektocht naar kennis in de bibliotheek te staken en in plaats daarvan ‘alle mensen letters en symbolen te laten schudden totdat die canonieke boeken, door een of ander onwaarschijnlijk toeval, tot stand waren gekomen.’ De opkomst van de sekte leidde tot een streng optreden van de autoriteiten, die het bestaan ervan dan ook onmiddellijk verboden.

In beide verhalen van Borges lezen we over mensen, de bewoners van de bibliotheek en de eigenaar van het Boek van Zand, die zich volledig hebben overgegeven aan een oneindige stroom van teksten. Hun lot is een oneindige zoektocht naar betekenis in een oneindig bos van boeken en bladzijden.

Schrijven als reflexieve praktijk

Hoeven we een dergelijk lot te vrezen in de echte wereld, waar steeds meer mensen de activiteit van het schrijven delegeren aan AI-assistenten? De teksten die deze toepassingen genereren zijn minder afhankelijk van toeval dan de teksten in Borges’ verhalen, maar volgen een gelijkaardige atomistische logica. Ze produceren teksten op basis van een reeks regels, die zijn ingesteld om bepaalde verbanden te leggen tussen tekens (of data) en inschattingen te maken over hoe waarschijnlijk bepaalde volgordes van tekens zijn.

Stel dat je aan Claude (of een vergelijkbare AI-bot) zou vragen om een biografische tekst te genereren van Borges. Je geeft deze toepassing dan niet de opdracht om een tekst te genereren die feitelijk correct is. In plaats daarvan krijgt Claude de opdracht om jou een reeks woorden aan te bieden waarvan het statistisch waarschijnlijk is dat zij elkaar opvolgen. Het maakt die inschatting op basis van een reeks regels en de verzameling teksten die werd gevoed aan het achterliggende grote taalmodel. Simpel gezegd: als in die verzameling teksten de combinatie en volgorde van de woorden ‘Borges + is + een + Argentijnse + man’ zeer courant is, is het waarschijnlijk dat je in je door Claude gegenereerde tekst zal lezen dat ‘Borges een Argentijnse man is’. Maar Claude ‘weet’ dus niet of de woorden in deze tekst feitelijk waar zijn. Het ‘weet’ evenmin wat de betekenis is achter woorden zoals ‘Argentijnse’ of ‘man’. Hoewel deze toepassingen in staat zijn om complexe en correcte teksten te genereren, staan ze dus structureel onverschillig ten opzichte van de waarheid.

Vilém Flusser definieert schrijven als: ‘een handeling waarmee ideeën op een rijtje worden gezet en geordend.’ Volgens Flusser gaat schrijven over veel meer dan de ordening van tekens: het is de ordening van ideeën die telt. ‘Men schrijft om zijn ideeën op het juiste spoor te zetten,’ aldus de filosoof. Flusser beschouwt schrijven als een reflexieve praktijk. Tegelijk ziet hij het ook als een expressieve praktijk; hij noemt schrijven een politieke daad die is gericht op het delen van ideeën van anderen. (Daarmee erkent hij ook de rol van de lezer, die een tekst mee betekenis geeft door die te lezen.) Als we Flussers definitie volgen, hoeven ‘atomistische’ teksten geen bedreiging te vormen voor de toekomst van schrijven – of die nu worden gemaakt in een Borgesiaans universum of worden gegenereerd door een AI-assistent. Het bedenken van ideeën, dat de basis vormt van het schrijven, is tenslotte een menselijke daad.

Flusser overleed in 1991 en heeft de doorbraak van generatieve AI niet meegemaakt. Op basis van zijn werk kunnen we dan wel stellen dat AI-systemen niet werkelijk kunnen schrijven, maar de realiteit is dat de impact van AI op de toekomst van schrijven veel dieper gaat dan Flusser had kunnen voorspellen, en dat die nog steeds moeilijk te meten is.

Vorig jaar publiceerde MIT’s Media Lab over de impact van AI-gebruik op het kritisch denkvermogen. Meer bepaald, zoomde de studie in op het gebruik van AI-assistenten bij het schrijven van essays. De onderzoekers stelden vast dat de proefpersonen die wel gebruikmaakten van een AI-assistent (in dit geval, ChatGPT) minder hersenactiviteit vertoonden tijdens het schrijven dan zij die dat niet deden. De ChatGPT-gebruikers ‘presteerden op neurologisch, taalkundig en gedragsmatig vlak consequent slechter’. Bovendien herinnerde deze groep zich na verloop van tijd veel minder wat ze hadden geschreven.

Er is zonder meer nood aan bijkomende inzichten over de impact van het gebruik van AI-assistenten op het denkvermogen van mensen. Als we schrijven zien als een reflexieve praktijk, betekent dat niet alleen dat schrijven ons toelaat om ons denken te ordenen en uiten. De manier waarop we schrijven, bepaalt ook hoe we denken. Anders gezegd, we schrijven al denkend, maar we denken ook al schrijvend.

De limieten van de oneindigheid

Een deel van de moeilijkheid ligt in het feit dat AI uitermate vaak wordt geassocieerd met oneindigheid. De mogelijkheden, capaciteiten en outputs van AI-systemen worden al te vaak voorgesteld als eindeloos. In het artikel behandelt de filosoof uit Hong Kong Yuk Hui de link tussen artificiële intelligentie en oneindigheid. Dat verband is uitdrukkelijk aanwezig in fantasieën over ‘superintelligentie’, het geloof in een ‘machinale’ intelligentie die zodanig grenzeloos is dat de menselijke intelligentie zal worden verdrongen en overwonnen door deze nieuwe ‘intelligentie’. Maar AI heeft wel degelijk limieten, benadrukt Hui. Allereerst omdat er geen alom aanvaarde definitie van intelligentie bestaat, en omdat AI maar één manier is om intelligentie voor te stellen. De schijn van oneindigheid die rond AI hangt, strookt niet met de realiteit.

In een ander essay, over de automatisering van kennis, roept Hui op om ‘de specifieke kenmerken van AI’ grondig te bestuderen. Als het gaat om de ‘kenmerken van AI’, vraagt Hui dat we niet alleen focussen op de technische kenmerken van deze systemen. Hui doet in zijn werk een oproep om ook de politiek-economische kenmerken van AI te onderzoeken; we moeten eveneens kijken naar zaken zoals de politieke ideologieën en economische motieven van de makers van deze systemen.

Ook in de context van schrijven is dit van belang. Een van de elementaire kenmerken van generatieve AI-systemen is hun atomistische interpretatie van taal. Naarmate deze systemen steeds populairder worden, is het waarschijnlijk dat deze atomistische visie ook een steeds grotere impact zal hebben op onze relatie met taal, schrijven en schrijverschap. Die impact is niet alleen van theoretisch, maar ook van materieel belang, want ze raakt ook aan zaken zoals de intellectuele eigendomsrechten van auteurs en hun mogelijkheid om al schrijvend een degelijk loon te verdienen.

In zijn essay over de automatisering van kennis stelt Yuk Hui de schrijver voor als een technisch wezen. Maar Hui benadrukt dat niet alle vormen van prothesen wenselijk zijn. Ze zijn pas wenselijk als zij ons werkelijk in staat stellen om te schrijven. Schrijven, niet als in het produceren van eindeloos veel teksten, maar schrijven als het proces waarbij we voorzichtig vorm geven aan ideeën met als doel om die te delen met een ander. ‘Reflecteren over de limieten van iets zonder limieten is niet bedoeld om de mogelijkheden van artificiële intelligentie te begrenzen,’ schrijft Hui. ‘Integendeel, het is een uitnodiging om na te denken’. Anders gezegd, artificiële intelligentie kan gerust andere wegen inslaan; wegen waarop we niet worden bedreigd met zoektochten door de oneindigheid, maar die ons leiden naar een bestemming die we werkelijk willen bereiken.

Na een lange en obsessieve zomer was de hoofdpersoon uit Het boek van zand uitgekeken op zijn oneindige boek. Meer nog, hij was het boek gaan zien als een monsterlijk ding, als ‘een belediging en besmeuring van de werkelijkheid.’ Hij wilde van het boek af geraken door het te verbranden, maar deed dat niet uit vrees ‘dat het verbranden van een oneindig boek eveneens oneindig zou blijken en de planeet met rook zou verstikken.’

Uiteindelijk besliste hij het boek te begraven in de collectie van de Nationale Bibliotheek van Argentinië, die enkele honderdduizenden boeken telt. ‘Ergens herinnerde ik me gelezen te hebben dat de beste plek om een blad te verbergen in een bos is.’

Uiteindelijk besliste hij dat het oneindige hem niet aangaat.