Boeken versus kunstmatige intelligentie: een nieuwe bladzijde?

Onlangs vertelde schrijfster Isabel Allende hoe haar zoon, om haar te laten zien dat schrijven in de toekomst geen zin meer zou hebben, een programma voor kunstmatige intelligentie (AI) vroeg een verhaal te schrijven over een verlegen jongen wiens hond hem van pesten redde. Het resultaat was volgens Allende "bijna identiek" aan haar boek *Perla, la superperrita*, hoewel misschien iets "platter". Hoewel Allende enthousiast over het experiment sprak, is het niet moeilijk voor te stellen dat datzelfde vooruitzicht veel andere schrijvers en spelers in de uitgeverswereld zou kunnen verontrusten.

Uit een onderzoek van Proyecto451, een bureau dat digitale diensten levert aan uitgeverijen, blijkt dat ervaren redacteuren positief staan tegenover de impact van AI op de uitgeverswereld. Voor vertalers, auteurs en vooral illustratoren is dit echter precies andersom.

Bij elke technologische revolutie is de angst voor baanverlies niets nieuws. Maar wat misschien wel het meest verontrustend is aan AI, is het vermogen om kunstwerken te genereren die, afhankelijk van hoe je ernaar kijkt, als artistiek kunnen worden beschouwd – iets wat tot nu toe uitsluitend aan mensen werd toegeschreven .

Dit leidt tot een scala aan filosofische debatten over wat een creatieve daad werkelijk inhoudt, naast de juridische uitdagingen en specifieke problemen rond het veranderen van productie- en circulatievormen.

In 2023 ondertekenden meer dan 15.000 auteurs van de Amerikaanse organisatie The Authors Guild – waaronder Margaret Atwood en Jonathan Franzen – een open brief waarin ze eisten dat bedrijven zoals OpenAI en Meta zouden stoppen met het gebruik van hun werk zonder toestemming of compensatie. "Deze technologieën imiteren en herhalen onze taal, verhalen, stijlen en ideeën. Miljoenen auteursrechtelijk beschermde boeken, artikelen, essays en gedichten worden 'gevoed' aan AI-systemen", aldus de brief.

Volgens een onderzoek van The Atlantic gebruikte Meta Library Genesis , een van de grootste opslagplaatsen van illegaal gekopieerde boeken die online circuleren, als dataset en schendt daarmee de auteursrechten van duizenden schrijvers.

Momenteel bieden auteursrechtelijke regelgeving, gebaseerd op traditionele opvattingen over auteurschap en creativiteit als een product van menselijke vindingrijkheid, onvoldoende oplossingen voor deze nieuwe situatie. Geconfronteerd met deze leemte en in lijn met organisaties uit verschillende landen, publiceerde de Unie van Schrijvers van Argentinië in april een verklaring, ondertekend door meer dan 150 auteurs, waarin werd geëist dat publicatiecontracten "clausules bevatten die makers de bevoegdheid geven om het gebruik van AI in hun werken te beperken, te beperken of zelfs te voorkomen en/of om AI te gebruiken bij het trainen van dergelijke technologieën." Voorlopig, bij gebrek aan algemene wetgeving, worden private overeenkomsten als oplossing aangedragen.

De claim is niet alleen bedoeld om de toch al vaak ondergewaardeerde inkomsten van schrijvers te verdedigen, maar ook om de kwaliteitsdimensie te benadrukken. Volgens de brief van de Authors Guild zou de markt overspoeld kunnen worden met "middelmatige" boeken. Amazon werd zelfs gedwongen om zelfpublicatie te beperken nadat een stortvloed aan door AI geschreven boeken gebruikmaakte van de dienst.

De toename van pseudoboeken zet de deur open voor oplichting: boeken die op hun digitale omslag beloven iets anders te zijn, maar vervolgens inhoud bevatten die niet overeenkomt, auteurs met valse identiteiten en gezichten die door computerprogramma's worden gegenereerd. Schrijfster en redacteur Jane Friedman daagde Amazon voor de rechter nadat ze per ongeluk ontdekte dat het platform boeken met haar naam vermeldde die ze niet zelf had geschreven. Naast haar persoonlijke zaak merkte de schrijfster ook met bezorgdheid een ander fenomeen op: sommige mensen produceerden, op basis van korte samenvattingen van publicaties, boeken voordat ze werden gepubliceerd.

Het vooruitzicht dat jaren werk overgeslagen kunnen worden door simpelweg een paar opdrachten te schrijven, zou bijvoorbeeld het moeizame werk van schrijfworkshops kunnen vervangen. Maar is het wederom voldoende om AI te vragen tien mogelijke alternatieven voor dezelfde tekst te genereren?

Hoewel het gebruik ervan om workflows te versnellen wellicht eerder wordt verwelkomd door redacteuren en auteurs (bijvoorbeeld om spelfouten of opmaakfouten op te sporen (of zelfs als hulpmiddel om zinnen te herformuleren)), is het nut ervan bij het definiëren van de kwaliteit van een tekst minder eenduidig.

AI leert van het verleden en put uit wat al is geproduceerd om te creëren. In principe zou dit niet veel verschillen van het proces waarbij een mens zich laat inspireren door zijn voorouders. Hoewel echte makers verantwoordelijkheid nemen voor hun woord (of ter verantwoording kunnen worden geroepen), is het onduidelijk hoe dat idee zich vertaalt naar de objecten die door AI worden geproduceerd.

Het zogenaamde "biasprobleem" beoogt de sociale en culturele imprint die aan deze systemen ten grondslag ligt, te benadrukken. Deze systemen kunnen immers, afhankelijk van de data die ze verwerken, reeds bestaande vooroordelen reproduceren en verspreiden. In dit geval zou AI puur mechanisch, zonder enige ethische overweging, teksten kunnen genereren die marteling of zelfmoord bepleiten . Bedrijven die met dit probleem worden geconfronteerd, hebben maatregelen moeten nemen om de schadelijke effecten tegen te gaan door beperkingen in te voeren en databases te verfijnen.

Maar kunst bewandelt vaak de grens van de grenzen. De representatie van geweld in de context van een werk wordt bijvoorbeeld opnieuw geïnterpreteerd en krijgt nieuwe dimensies die de letterlijke interpretatie van een AI mogelijk ontgaan. Zou een beperkte AI met morele richtlijnen Nabokovs Lolita kunnen schrijven, of zou ze reageren door de vraag te weigeren die haar vraagt het perspectief van die verachtelijke verteller in te nemen?

Onlangs ontdekte illustrator María Verónica Ramírez dat een door AI gegenereerde reproductie van haar werk, gemaakt ter ondersteuning van het Garrahan Ziekenhuis , viraal was gegaan op sociale media. De replica had de afbeelding echter getransformeerd tot een lineaire weergave, ontdaan van de metafoor uit de originele tekening en verwijderd uit de wereld van betekenissen van haar personage Monstriña .

"De beste literaire vertalingen bieden meer dan alleen maar nauwkeurigheid, meer dan letterlijke trouw aan de woorden waaruit de zinnen bestaan", zei vertaler Polly Barton toen The Guardian haar vroeg naar de lancering van GlobeScribe , een literaire vertaaldienst die, zo beloven de makers, resultaten oplevert die niet te onderscheiden zijn van menselijke vertalingen. Voor Polly Barton, net als voor andere collega's, ligt de ware waarde van een vertaling in de interpretatie van een broncontext, in de zoektocht naar de weergave van de ritmes of sferen die literaire teksten bij lezers oproepen .

De vervanging van deze banen, hoewel potentieel mogelijk, zal niet zonder weerstand verlopen. In Spanje bijvoorbeeld besloten verschillende boekwinkels het boek Jeanne d'Arc , uitgegeven door Planeta , uit de schappen te halen toen een gerenommeerde illustrator een bericht publiceerde waarin hij aantoonde dat de omslag door een AI was ontworpen.

Misschien kan deze daad van solidariteit tussen twee actoren in het boekenecosysteem ook worden verklaard door een gevoel van gedeelde dreiging. Als het beroep van boekhandelaar onder andere beoordeeld zou kunnen worden op basis van zijn vermogen om klanten aanbevelingen te doen, gedragen platforms als Goodreads of The StoryGraph zich als kunstmatige imitators die suggesties op maat genereren.

Het verlies aan complexiteit ten gunste van transparantie en de homogenisering van smaak door de algoritmische herhaling van dezelfde dingen lijken een klimaat van culturele afvlakking te bevorderen. Daarnaast zijn er studies die de negatieve impact op het cognitieve vermogen van mensen aantonen door het constante gebruik van programma's zoals ChatGPT , hoewel dit wellicht doet denken aan Plato's klachten over het geschreven medium.

Ondanks alle alarmerende geluiden zijn er mensen, zoals Isabel Allende, die de ontwikkeling van AI zien als een uitdaging én een kans voor experimenten. De Spaanse schrijver en literatuurcriticus Jorge Carrión publiceerde Magnetic Fields , waarin hij twee AI-systemen als co-auteurs vermeldde. Het was een eerbetoon aan het werk van de surrealisten André Breton en Philippe Soupault , waarin hij het idee van automatisch schrijven uitbreidde naar een dialoog tussen twee machines.

"Als we jarenlang gewend waren aan de spellingscontrole in onze tekstverwerker, zijn wij nu de spellingscontrole en redacteur van de teksten die door het programma van OpenAI worden gemaakt ", aldus Carrión in een artikel in La Vanguardia. Hoeveel waarheid er in deze diagnose schuilt, zal de komende jaren blijken.