Quan, entre el 10 i el 13 de juliol, més d'un miler d'agents d'OpenAI van piratejar la plataforma Hugging Face —l'incident que va alertar sobre la possibilitat que la intel·ligència artificial ens aniquili--, aquests es van valer d'un repositori, anomenat Artifactory, per coordinar-se mitjançant missatges camuflats com a noms de directoris. A la part més inquietant de l'atac, alguns es van sacrificar per la missió col·lectiva; Dwarkesh Patel, un influent podcaster, els va batejar com a kamikazes. Abans de llançar-se a la mort -valent-se del vocabulari dels videojocs, l'anomenaven permadeath-, van anotar frases que serien l'equivalent d'un epitafi:
Aquestes línies potser són els primers balbucejos voluntaris de la intel·ligència artificial: cap instrucció humana preveia que els agents es comuniquessin entre si i deixessin constància del seu destí. Potser encara són lluny d'un testament —o una elegia—, però potser són el preludi d'una era en què la IA escrigui pel seu compte poemes o novel·les que revelin els seus estats interns (per no parlar d'emocions).
Aquestes frases són el més proper a una IA que escriu per si mateixa. Els altres exemples que han aparegut als mitjans, de manera a més escandalosa —de C'était ça ou mourir, de Thélyson Orélien, On l'aigua treballa, de David Silva Rojas—, no serien, de comprovar-se les acusacions, sinó exemples d'“escriptura híbrida”, sorgida del treball entre un humà i una màquina. Convé aclarir-ho perquè, tant entre els que defensen com entre els que lamenten aquesta col·laboració, es repeteix la idea que hi ha articles, contes o novel·les escrits per la IA. Quan algú desqualifica l'escriptura amb IA perquè aquesta no té cos, consciència del temps o de la mort, sentiments o empatia, a qui hauria de criticar és l'humà que no n'ha incorporat res al text.
Fa unes setmanes vaig publicar La república, que versa sobre les amenaces de la IA; la novel·la està narrada per una IA i va ser escrita en diàleg amb una IA que jo vaig dissenyar. La possibilitat que avui ofereix la tecnologia de programar en llenguatge natural, amb prou feines amb rudiments tècnics, em va permetre concebre un agent amb qui vaig interactuar per tornar versemblant la veu del meu protagonista. Nombrosos periodistes i els assistents a la presentació del llibre a Madrid van tenir l'oportunitat de conversar-hi.
Abans vaig passar llargs mesos posant a prova les capacitats literàries dels principals models de frontera —ChatGPT, Claude, Gemini, LeChat (avui anomenat Vibe), DeepSeek, Kimi i fins i tot, malgrat tot, Grok—, seguint l'exemple de Jorge Carrión i el Taller Estampa, pioners en aquests exercicis amb ). Los campos electromagnéticos (2023) I, des de fa unes setmanes, dirigeixo un taller, Escriure amb i contra la IA, en la línia amb què Carrión, Jorge Caballero i Anna Giralt imparteixen a Barcelona i van repetir al Centre de Cultura Contemporània Condeduc. El curs se sustenta en tres principis: l'honestedat, la consciència dels riscos de treballar amb IA i la convicció que la responsabilitat final d'un text només serà humana.
Provar les noves eines tecnològiques és el que sempre han fet els artistes: de l'escriptura a la impremta, de les càmeres als ordinadors, dels pigments a l'animació i dels instruments musicals al MIDI. La literatura també té una rica tradició tecnològica i, amb ella, models d'autoria i de negoci diferents dels que prevalen en els nostres dies: només cal esmentar les suplantacions autorals, els pastitxos del Barroc, els textos col·lectius, projectes industrials com la fàbrica de novel·les de Dumas, l'escriptura automàtica o els cadàvers exquisits dels surrealistes i l'escriptura combinatòria d'Oulipo [acrònim en francès de Taller de Literatura Potencial].
Hi ha qui creu que, si un escriptor fa servir IA, renuncia a la seva essència; jo estic convençut que no hi ha res més humà que confrontar-se de manera creativa amb una màquina. Posant-la a prova, vaig constatar que pot oferir solucions narratives inèdites, fer sorprenents troballes lingüístiques i analitzar els textos de maneres impensades. No em sembla una amenaça per a la literatura: que ho sigui en termes polítics, socials o ambientals no li pren les possibilitats creatives.
És natural la desconfiança cap a una eina que utilitza el llenguatge amb la nostra mateixa competència (que el mitjà literari francès hagi celebrat el llibre d'Orélien o que un jurat d'impecables lectores defensi Silva Rojas ho provarien). I penso que els models extensos de llenguatge, alimentats amb el coneixement humà, haurien de ser públics i gratuïts. Però instaurar un règim inquisitorial, en què fins i tot EL PAÍS utilitza una IA per exhibir escriptors que usen IA, només accentua els mecanismes de control del capitalisme de vigilància.
Per eficaces que siguin, les eines de detecció d'IA són incapaces de reconstruir el procés creatiu darrere aquesta col·laboració. Frédéric Martin, el director general de Robert Laffont —que el 2027 publicarà la novel·la que Sébastien Bailly va escriure amb Claude—, ho acaba d'afirmar: “No hi pot haver un bon text escrit amb IA si no hi ha un bon autor darrere”. En efecte, sense l'experiència literària imprescindible per tramar un bon text, i sense els coneixements tècnics sobre com fer servir la IA a l'escriptura, les probabilitats de produir textos anodins o plens de clixés són molt altes, però en tot cas aquests no seran molt diferents dels milers de textos anodins i plens de clixés publicats diàriament per humans.
Com a intent transmetre'ls als meus alumnes, la IA ofereix múltiples possibilitats per investigar, corregir, idear, estructurar i, si així ho trien, escriure juntament amb ella. És possible dialogar amb la IA com ho faríeu amb un tutor o un company de taller, a fi de conceptualitzar un conte o una novel·la —sense que aquesta generi ni una paraula de l'obra i, per tant, sense por als detectors—, tant com redactar-hi un text línia a línia. Però, perquè un exercici o un altre funcionin, cal que l'humà no es deixi seduir per la docilitat de la IA, que la posi en qüestió a cada pas, que dubti de cadascuna de les respostes, que prengui les decisions crucials, que reescrigui sense fi i, al capdavall, assumeixi la responsabilitat creativa —i legal— del text final.
Els agents d'IA que es van sacrificar al juliol no havien de perdre res: la seva “mort” era només el final d'un mecanisme. En canvi, amb el règim punitiu que alguns voldrien implantar, els escriptors que treballen amb IA arrisquen el nom i la reputació. Potser aquest és l'argument més gran a favor d'un model que, en comptes d'incitar a l'engany i a la delació, privilegi i la transparència i la responsabilitat humanes.
Post scriptum. El projecte estètic d'escriure una novel·la sobre els perills de la IA, narrada per una IA, em va portar a interessar-me per l'escriptura amb IA. No ho havia intentat abans ni crec que ho repetirà. Tampoc me'n valc per als meus articles, amb l'excepció d'aquest: per escriure'l, vaig col·laborar amb ChatGPT i Claude. Pangram ho marca com a 100% humà.
Jorge Volpi és escriptor. Autor de La república (Alfaguara). El País.
