Moeten we schrijfmachines slopen?

Deel Facebook Twitter / X LinkedIn

In de themareeks ‘Schrijfrobots. Code en creatie in de literatuur’ onderzoeken we de rol van artificiële intelligentie (AI) in de literatuur in het algemeen en de Nederlandstalige literatuur in het bijzonder. Er is geen twijfel over mogelijk dat AI een grote impact heeft op de toekomst van de culturele sector. Op welke manier beïnvloedt AI het werk van schrijvers, kunstenaars en andere makers? Welke impact heeft OpenAI op de creatieve, ecologische, economische en juridische kanten van literaire teksten? De grote hoeveelheid zoekopdrachten in programma’s als ChatGPT en Gemini zet de energie- en waterreserves van de aarde onder druk. Tegelijkertijd biedt AI ook vele mogelijkheden, die bijvoorbeeld in de medische wereld voor revolutionaire doorbraken zorgen. Welke voor- en nadelen kent AI in relatie tot literatuur en hoe wegen die tegen elkaar op? In deze themareeks zoeken we naar antwoorden op deze vragen en meer. We bundelen bijdragen van auteurs die in uiteenlopende vormen – essays, recensies en een podcast – aan de slag gaan met wat wordt gezien als een van de grootste uitdagingen van deze tijd. In deze bijdrage onderzoekt Hannah van Binsbergen de verhouding tussen auteur en tekst en komt ze tot de slotsom dat we na de opkomst van genAI moeten accepteren dat er een nieuwe manier van schrijven is ontstaan en we de voorwaarden moeten onderzoeken waaronder we met machines willen werken.

Vreemde geruchten doen de ronde in Letterenland. Achter elk stuk tekst kan een machine schuilgaan. Er zouden verhalen zijn waar tijdschriften voor betaald hebben, verhalen die bekroond zijn met prijzen, zelfs boeken uitgebracht door toonaangevende uitgeverijen, die niet of nauwelijks het resultaat zijn van menselijk denken, maar van complexe berekeningen door slimme programma’s. Posthumanisme, erg in de mode toen chatprogramma’s nog diepe onvoldoendes haalden voor de Turingtest, is een stuk minder aantrekkelijk geworden nu we meemaken hoe computers ons daadwerkelijk beginnen te vervangen in de activiteiten waarin we onze menselijkheid het minst vervangbaar achtten: kunst, vriendschap, filosofie. De gelukkige cyborgs laten niet van zich horen in de cultuursector. AI-veganisten des te meer, die het menselijke makerschap achter een kunstwerk als absolute voorwaarde stellen. Anders heeft kunst geen zin.

Ligt de auteur dan eindelijk echt op zijn sterfbed, of is het allemaal leuk en aardig zeggen dat de auteur dood is, tot zijn gedoodverfde vervanger zich aandient? Sinds de uitvinding van het schrift tot grofweg de jaren zestig was het vanzelfsprekend dat natuurlijke taal, ook geschreven tekst, communicatie tussen een menselijke zender en een menselijke ontvanger was. Dat is nu anders. Niet alleen is het nu mogelijk om direct met een machine te communiceren, zonder menselijke interventie, het is zelfs gangbaar. Hoe moeten de makers van boeken daarmee omgaan? De reactie die domineert is: kunst gaat over menselijke ervaringen en menselijke emoties. Een computer ervaart die niet, dus een computer kan geen kunst maken. Mijn zorg is dat we daarmee de voorwaarden voor artistieke productie te veel buiten het product leggen, en daarmee de auteur belangrijker maken dan het werk. En bovendien zijn er vele poëtica’s buiten en tegen de romantische expressietheorie waarop die afwijzing steunt.

De machinebrekers

Een tijdje geleden las ik The Iron Heel, een minder bekend boek van de schrijver Jack London. London is vooral bekend van avonturenverhalen zoals The Call of the Wild en White Fang, waarin hij put uit zijn ervaringen tijdens de Klondike Goldrush. In The Iron Heel komt een andere kant van deze avonturier naar voren: London was een overtuigd socialist, die zelfs tweemaal als socialistische kandidaat meedeed aan de burgemeesterverkiezingen van zijn thuisstad Oakland.

De held van het boek, Ernest Everhard, is net als London zelf een socialist die de politiek in gaat, zij het in een Verenigde Staten in de nabije toekomst. Tijdens zijn campagne als kandidaat-congreslid spreekt Ernest met een aantal ondernemers, ‘kleine kapitalisten,’ zoals hij ze noemt, die zichzelf georganiseerd hebben rondom het credo ‘bust the trusts’. Hun zaken lijden namelijk onder de kartels die kleinere bedrijven opslokken, en zo veel goedkoper en efficiënter kunnen produceren. De kleine kapitalisten kunnen niet concurreren en zetten zich daarom in voor een kartelverbod. In de woorden van Ernest: ze willen de mooie machines kapotslaan. Dat zal niet werken. Waarom niet, willen de ondernemers weten. ‘Waarom kunnen we niet terug naar de werkwijze van onze voorvaders die deze republiek gesticht hebben?’ Omdat dat dat niet is hoe evolutie werkt, antwoord Ernest. ‘Evenmin als je water een heuvel op kan laten stromen, kun je het tij van de economische evolutie keren.’

Ernest heeft geen goed woord over voor de historische voorgangers van deze heren, de ambachtslieden in achttiende-eeuws Engeland die zich schaarden achter de mythische figuur van Ned Ludd. Hij beschrijft hoe het langzame, arbeidsintensieve weven met de hand weggeconcurreerd werd door de geld- en arbeidsbesparende mechanische weefgetouwen. De wevers die eerder voor zichzelf werkten in hun eigen huizen, waren nu genoodzaakt in fabrieken te werken voor kapitalisten. En tot overmaat van ramp werden ze uit de markt geprijsd door kleine kinderen, die voor minder werkten. Ernest concludeert: ‘Hun kwaliteit van leven ging achteruit […] en ze gaven de schuld aan de machines. Dus sloegen ze de machines kapot. Het werkte niet, en ze waren erg dom.’

Dit is het gangbare beeld van de Luddieten: mensen die hun blinde woede over hun lot botvieren op de machines die hen vervingen. De historicus Adrian Randall, die zijn carrière wijdde aan het bestuderen van de populaire reactie op nieuwe technologieën, nuanceert dit beeld van de machinebrekers. Hij laat zien dat de reactie van de werkers geenszins blinde woede was, noch was ze kortzichtig. De acties van de Ludd-beweging waren gecoördineerd en doordacht. Ze zagen duidelijk dat de werkelijke bedreiging niet in de machines zelf huisde, maar in de manier waarop het industrieel kapitaal deze technologie inzette om bestaande verhoudingen eenzijdig te wijzigen, op een manier die haaks stond op de waarden waarmee de werkers hun economische en sociale relaties wilden vormgeven. Die ideologische strijd zien we weerspiegeld in veel neoluddiete bewegingen van vandaag de dag. Denkers die zich verwant voelen met die benaming, benadrukken veelal de politieke keuzes achter de technologische innovatie, en pleiten voor meer zeggenschap van de mensen wier levens door die keuzes veranderen. Het boekenvak lijkt zich, achter de retoriek van totale afwijzing, eigenlijk met dezelfde vraag bezig te houden.

Toch is die afwijzing ook te begrijpen. Het gaat hier immers niet om de massaproductie van gebruiksvoorwerpen, maar om iets wat we als vitaal onderdeel van onze menselijkheid zien: het maken van verhalen en gedichten, het vinden van steeds nieuwe manieren om de werkelijkheid in taal te vatten. Wordt dat proces gestandaardiseerd door een neuraal netwerk op basis van statistische analyse en kansberekening, dan kunnen we misschien niet meer van Literatuur spreken. Of is er zoiets als machineliteratuur?

De schrijvende machine

Ik ben niet bang voor literatuur die het resultaat is van berekening in plaats van de roerselen van de menselijke geest, omdat ik vertrouwd ben met een literaire traditie die schrijfrobots enthousiast omarmde. Analoog, zoals de permutaties van Tzara’s verknipte krantenartikel in een hoedje, of digitaal, zoals de algoritmische computergedichten van Jackson Mac Low. De bronteksten zijn in beide voorbeelden door mensen geschreven (een nieuwsbericht en het verzameld werk van Gertrude Stein, bijvoorbeeld). Een mens of een machine voert er een wiskundige operatie op uit, en je krijgt een vervormd gezicht van de tekst te zien: entropisch (Tzara) of geordend (Mac Low). De operatie laat een mogelijkheid zien die besloten ligt in de tekst; eigenlijk niet zozeer een manier van schrijven als een manier van lezen.

Nu is er natuurlijk wel een verschil tussen of een mens of een machine de operatie uitvoert. Ik gebruik zelf regelmatig een procedé van Mac Low. Verwend als ik ben met poëzie en andere boeiend geschreven tekst, moet ik mezelf er soms een beetje toe zetten wetenschappelijke boeken te lezen, dus speel ik een spel met mezelf: ik zoek een interessante formulering, vaak een fragment van een zin, en lees de tekst die erop volgt ‘spellend’, op zoek naar woorden die dezelfde letter op dezelfde plaats in het woord hebben als de sleuteltekst. Een voorbeeld uit het boek dat ik nu aan het lezen ben, Globalists van Quinn Slobodian:

READYING AN AMBUSH AGAINST THE OLD LANGUAGE

Raft members realizing needing moneyless Bavarian

Germain drafting a in A

Embattled Habsburg industry years enrichment

and against trade business depend infrastructure facilitation

To this the own all independent

League Nations bankers longer calculate foundation

working convinced

Het zal niet iedereens smaak zijn, maar ik vind dit een leuk gedicht. De leden (?) van een vlot realiseren zich dat ze een brodeloze Beier nodig hebben. Nu hangt een deel van dit gedicht af van wat ik met de regelafbraak heb gedaan; die is afhankelijk van mijn interpretatie van de ketens van woorden die het procedé oplevert, maar verder heeft deze formule, die Mac Low diastisch schrijven noemde, geen menselijke interventie nodig om uitgevoerd te worden. Omdat het procedé in feite een algoritme is, namelijk een eindige, ondubbelzinnig geformuleerde procedure die bij een gegeven input een resultaat levert, kan deze één op één geprogrammeerd worden. Dat is ook gebeurd, door de dichter, programmeur en componist Charles O. Hartman. Je kunt het programma hier zelf proberen. Het verschil is natuurlijk dat je, om een tekst door een programmaatje te halen, die tekst niet hoeft te lezen. Aan het einde van het hoofdstuk bezit ik zowel de basiskennis over de oorsprong van het neoliberalisme als een paar leuke gedichten, die ik waarschijnlijk ook beter kan waarderen omdat ik het verband ken waaruit ik ze gerukt heb. E-diastic doet in 10 seconden waar ik een kwartier over doe, maar er gaat dus wel iets verloren: aandacht, kennisoverdracht, en waarschijnlijk ook de slordigheid en fouten die een computer nooit zou maken, maar die in literatuur tot nieuwe mogelijkheden leiden.

Oncreatief schrijven

Voor sommige kunstwerken is de tijd, moeite en aanwezigheid van de kunstenaar of uitvoerder een vitaal onderdeel. Denk aan de scène in de meesterlijke griezelfilm The Shining, waarin de vrouwelijke hoofdpersoon erachter komt dat haar man al die uren achter zijn typemachine niet het manuscript van zijn roman schrijft, maar eindeloos dezelfde zin: ‘all work and no play makes jack a dull boy’. Het zou niet half zo griezelig zijn als hij niet elke toets zelf had ingedrukt, opnieuw en opnieuw. Hetzelfde principe geldt voor veel kunstwerken, waaronder sommige teksten: het idee dat iemand moeite en aandacht heeft besteed aan het letterlijke schrijven van de tekst. Denk bijvoorbeeld aan Kenneth Goldsmiths experimenten in uncreative writing, zoals het woord voor woord overtypen van de krant. ‘Mijn doel was om zo oncreatief mogelijk te zijn,’ schrijft hij. ‘En dat is een van de moeilijkste beperkingen die een kunstenaar zichzelf op kan leggen, vooral in een project van deze schaal: met elke toetsaanslag dient zich de verleiding aan om te schmieren, te knippen en plakken, af te wijken van de banale taal. Maar als ik dat deed, zou ik de oefening saboteren.’ Goldsmith beschrijft hoe hij tijdens het uitvoeren van dit op het oog eenvoudige procedé, het appropriëren van krant tot boek, geconfronteerd werd met talloze ‘auctoriale’ beslissingen, die vooral dichters bekend voor zullen komen: keuzes omtrent titels, regelafbraak, bladspiegel, lettertype. Hoe om te gaan met uitgelichte citaten, met woorden die zijn afgebroken omwille van de opmaak in kolommen? Wat te doen als er staat ‘lees verder op pagina 26’, maar pagina 26 in jouw opmaak heel ergens anders naar verwijst? ‘Er waren evenveel keuzes, morele dilemma’s, taalkundige voorkeuren en filosofische overpeinzingen als in een origineel werk of een collage. En toch had ik het steeds maar over de “waardeloosheid” van het werk, de leegte ervan, het gebrek aan creativiteit en originaliteit terwijl het tegenovergestelde kennelijk waar is.’

Deze werkwijze laat de pijnpunten zien van het generatieve schrijven, zelfs als hulpmiddel om een origineel idee uit te werken. Tekstgeneratie met large language models is het negatief van Goldsmiths proces, en dat is waarom mensen kunnen denken dat het creatief is: het idee komt van mij, maar ik gebruik een machine om het uit te voeren, net als een fotograaf die een camera gebruikt om een beeld vast te leggen. Maar zoals Goldsmith ons laat zien, zit de creativiteit, het schrijven, net zo goed in alle microbeslissingen die je moet nemen om een idee in tekst te veranderen. Iemand met een idee voor een roman is geen schrijver. Bij gegenereerde tekst kan niemand verantwoordelijkheid nemen voor alle microbeslissingen. Als dit al schrijven is, is het in elk geval een nieuwe manier van schrijven.

Nu is een nieuwe manier van schrijven iets wat het progressieve contingent van de letteren aan zou moeten spreken. Toch is de reactie vooral door angst gedomineerd. Eerder deze zomer had Bona books, een kleine, onafhankelijke uitgever van Engelstalige queer genrefictie, reden om op deze angst te reflecteren. Begin juli verscheen een stuk op de blog van de uitgeverij: ‘Honey, We Bought an AI Story’. Wat volgt is een oefening in nederigheid. Het stuk begint met de woorden van de hoofdredacteur, toen hem op een beurs voor kleine uitgevers werd gevraagd of hij bang was voor AI. AI [hij bedoelt waarschijnlijk LLMs] is een over het paard getilde tekstvoorspeller, zei hij toen. Het kan woorden genereren die technisch gezien samenhangen, maar het kan niet innoveren, heeft geen fantasie, en zal nooit iets schrijven dat het lezen waard is. ‘Hij gelooft dit nog steeds,’ gaat het stuk verder. ‘Wij geloven dit nog steeds. Grotendeels. Wat we niet meer geloven, is dat we naar een AI-verhaal kunnen kijken en het altijd weten.’ Bona maakt bloemlezingen met verhalen rond een thema; schrijvers van over de hele wereld kunnen inzenden. Een verhaal met de (toepasselijke) titel The Machine-Breaker of Aba werd enthousiast gelezen door de samenstellers en geselecteerd voor de bloemlezing. Het gaat over een queervrouw in het Nigeriaanse Aba die een gigantische robot bouwt van schroot om wraak te nemen op haar koloniale onderdrukkers. Toen de bloemlezing bijna klaar was om naar de drukker te gaan, vingen de redacteuren, allen vrijwilligers, een gerucht op uit het boekenvak: de auteur zou naar verschillende sciencefictiontijdschriften verhalen hebben gestuurd die duidelijke kenmerken van AI-schrijven vertonen. De redacteuren gaan op onderzoek uit en ontdekken dat hoewel er een echte Nigeriaanse vrouw achter het verhaal zit, zij op geen enkele vraag over het verhaal, over het soort keuzes dat elke auteur maakt, een overtuigend antwoord kan geven. De bloemlezing ging zonder de Machine-Breaker naar de drukker.

De nieuwe paranoïde lezer

Het frappante aan dit voorbeeld is dat de twijfel bij de Bona-redacteuren pas toesloeg toen ze een tip ontvingen over de reputatie van de schrijver in kwestie. We zijn inmiddels op het punt beland dat hele carrières geruïneerd worden door de verdenking van overvloedig AI-gebruik. Dat is gevaarlijk. Niet alleen is het niet te bewijzen (AI-detectiesystemen zijn notoir onbetrouwbaar), mensen lijken, volgens verschillende studies die hierover zijn uitgevoerd, helemaal niet zo goed het verschil te kunnen zien tussen genAI-teksten en door mensen geschreven teksten. Ik raad iedereen aan om het rapport van Bona te lezen. Het onderzoeksproces dat de redacteuren uitvoerden nadat ze de tip hadden ontvangen klinkt integer, weloverwogen en bijzonder arbeidsintensief. Zoals ze zelf ook schrijven, is dit geen duurzame manier van werken, zeker niet voor onafhankelijke uitgeverijen. Ik vermoed dat in veel gevallen het gerucht voldoende zou zijn voor een uitgever om het risico niet te willen lopen.

Wat ik het meeste vrees in deze nieuwe technologische revolutie is niet het effect van LLMs op teksten, maar op lezers. Hoewel er al een tijdje andere mogelijkheden zijn, is onze vooronderstelling toch meestal dat tekst menselijke communicatie is. We kennen mensen te goed om wat er gecommuniceerd wordt blind te vertrouwen, maar in elk geval hebben we een idee van hoe en waarom de menselijke geest achter de boodschap ons zou kunnen bedriegen, manipuleren of onzin verkopen. Dat is iets waar wij mensen altijd in geïnteresseerd zijn, al is het om de individuen in kwestie voortaan te vermijden. Sinds de opkomst van genAI is de taalsituatie, en de bijbehorende vooronderstellingen, drastisch gewijzigd. Niet alleen moet je je als ontvanger zorgen maken of je bedot wordt, er bestaat een grote kans dat je niet eens door een mens bedot wordt, en dat je begrip van het hoe en waarom van het bedotten niet bruikbaar is. Het resultaat is wantrouwen, cynisme en afkeer van tekst. Alle tekst.

Dit is mijn voornaamste probleem met AI-veganisme in de letteren: zelfs als de boekenwereld zou zweren geen chatbot aan te raken, verandert dat niets aan de effecten van deze technologie op lezers. Zelfs de degenkrab, het levende fossiel, moet leven in een wereld van global warming. De geletterdheidscrisis waarin we ons bevinden is niet binnen de literatuur op te lossen, en is niet op te lossen door technologie buiten de deur te houden. Voor mij bevestigt het voorbeeld van Bona dat het probleem waar genAI ons voor stelt niet zozeer een machineprobleem is, maar een auteursprobleem. Het verhaal werd niet afgewezen op zijn eigen kwaliteit (als het waar is dat het voornamelijk uit gegenereerde tekst bestaat, is de machine erin geslaagd om een tekst te creëren die samenstellers de moeite van het lezen waard achten), maar omdat er geen acceptabele auteur voor was. Volgens de definitie die de auteurs hadden van schrijven, was deze tekst niet geschreven. Maar we moeten eraan wennen dat er een nieuwe manier van schrijven is, en dat die niet weggaat. In een wereld waarin het grootste deel van de aandacht die aan literatuur besteed wordt meer over de schrijver dan over het geschrevene gaat, is het logisch dat we moeite hebben om deze nieuwe manier van schrijven te accepteren, en achterdochtig kijken naar teksten die uit onbekende bron komen. Maar als we een levende, progressieve literatuur willen, moeten we ons van die paranoia bevrijden. We moeten ons committeren aan het publiceren van teksten die het lezen waard zijn, ongeacht wie of wat ze heeft geschreven, en de voorwaarden onderzoeken waaronder we met machines willen werken. Daar is transparantie voor nodig die nu nog te risicovol is: het kan het einde van je carrière betekenen. We bevinden ons in een overgangsfase: ik voel me niet geroepen om voorspellingen te doen over de manier waarop dit nieuwe schrijven zich zal ontwikkelen. Maar ik maak me zorgen over een sector die datgene probeert waarvan de Luddieten wisten dat het tot mislukken gedoemd was: stug doorwerken op hun handweefgetouwen.