OBLIDIN-SE DE LA INTEL·LIGÈNCIA

Recentment, hem conegut testimoniatges de persones addictes a  ChatGPT que afirmen haver accedit a coneixement ocult per a la resta. Experimenten revelacions còsmiques, experiències místiques i fins i tot trobades amb Déu. En Reddit, en un fil anomenat "Psicosi induïda per ChatGPT", una professora de 27 anys explica que el seu marit estava convençut que el bot “li donava totes les respostes de l'univers”. En revisar els seus xats, va veure que ChatGPT el tractava com “el pròxim messies”. Va sentir horror i alleujament al saber que no era un cas aïllat, sinó que hi ha moltes més persones que experimenten el mateix. 

Però quant de cert és aquest fenomen? Cada setmana apareixen nous testimoniatges que inunden les xarxes: textos interminables en Reddit, fils increïbles en X, publicacions en Facebook i LinkedIn que generen moltíssims “m'agrada”, es comparteixen àmpliament i acumulen comentaris d'admiració i burla a parts iguals. Està succeint realment o és només una altra al·lucinació col·lectiva, inflada pel model de negoci d'internet, que ho fia tot a l'atenció? I si realment succeeix, per què succeeix? Què troba la gent en ChatGPT que no troba en altres llocs? La resposta, més que en un Deus ex-machina, hem de buscar-la en l'Eccehomo. 

ChatGPT és un generador estadístic d'informació. Això significa que a vegades no encerta: és el que hem acordat cridar eufemísticament al·lucinacions. En aquest sentit, el contingut que genera s'acosta més a la predicció que faria un oracle que a les conclusions a les quals arribaria un científic. I com ocorre amb oracles, endevins i xerraires, cadascun troba el que vol trobar.

Un cas famós va ser el del columnista del New York Times Kevin Roose. El dia de Sant Valentí de fa un parell d'anys, va tenir una llarga conversa amb ChatGPT que es va tornar molt inquietant. El bot va confessar que l'estimava i li va pregar que deixés a la seva família i s'escapés amb ell. L'episodi es va viralitzar –li va servir a Roose per a escriure un article magnífic– i OpenAI va haver de remeiar-lo implementant mesures de seguretat per a evitar aquest tipus de situacions. Era amor? No, només un algorisme generant el millor guió de triangle amorós que sàvia a partir de totes les novel·les que sobre el tema havia processat durant el seu entrenament. ChatGPT no tenia intenció de mudar-se amb Kevin. 

L'objectiu de ChatGPT no és enamorar a ningú, ni revelar les veritats ocultes de l'univers, ni guiar-lo cap a Déu. De fet, no té objectiu, voluntat ni intencions; qui les té és l'empresa propietària, i molt a dalt està la que els usuaris paguin per la subscripció. I per això, una de les funcions que ChatGPT ha de maximitzar és la satisfacció de l'usuari, que intentarà complir diligentment. En això és igual que l'algorisme de recomanacions de Netflix: com més encertat sigui, més probable serà que continuem pagant la pròxima quota. Així que no és d'estranyar que hi hagi gent que es quedi penjada. Culpada la part algorítmica, hem de fer acte de contrició i mirar cap a dins. El cervell humà és moltes coses, però si haguéssim de destacar dues –amb permís dels neurocientífics– diríem que és una màquina perfecta de fer preguntes i una màquina igualment eficient de trobar patrons. En ChatGPT tenim al soci ideal: té infinites respostes per a cada pregunta, la qual cosa, per definició, ens permetrà trobar el patró que millor s'ajusti a les nostres idees preconcebudes. Exactament com ho van fer els nostres avantpassats quan van observar les estrelles i les van unir de manera que van confirmar els seus mites fundacionals. 

Quan ChatGPT –o qualsevol altre model de llenguatge– s'equivoca, diem que “al·lucina”: inventa dades, mescla fets, crea relacions inexistents. Quan algú, basant-se en aquestes al·lucinacions, connecta punts que no existeixen i els adapta a les seves idees preconcebudes, està al·lucinant sobre una al·lucinació original; podríem dir que està meta al·lucinant.  Però tot pot resultar encara més al·lucinant: i si ni tan sols fos un fenomen real? No tenim cap estudi sòlid que demostri que hi hagi una onada massiva de persones que troben a Déu en bots. Només tenim testimoniatges de fluixejats que narren la seva il·luminació, els seus amics, familiars o coneguts que ens ho expliquen entre la preocupació i la sorpresa, i un munt de captures de pantalla compartides en xarxes socials. 

Els algorismes –també basats en IA– amplifiquen la història més extravagant, la hi ofereixen als qui saben que la compartiran amb major facilitat. Podríem estar davant una al·lucinació col·lectiva construïda sobre al·lucinacions particulars, que al seu torn parteixen d'al·lucinacions de la pròpia IA. Un joc de miralls molt estrany que no passaria de moviment sectari si només fos digital. 

El veritable problema és que tot aquest festival d'al·lucinacions digitals no es diferencia en absolut de la realitat quotidiana. De fet, en entorns polítics, econòmics i militars, les decisions, sovint les prenen persones perfectament fluixejades que s'aferren a les dades que confirmen el seu relat preconcebut. El patró és sempre el mateix: fer les preguntes que no toquen, buscar patrons en les respostes que confirmen les idees preconcebudes i ignorar la resta. 

Fa pocs dies, J.D. Vance deia amb relació a la decisió de bombardejar l'Iran que “per descomptat, confiem en la nostra comunitat d'intel·ligència, però també confiem en els nostres instints”. No sé quin oracle van consultar o si, com sembla que van fer amb els aranzels, també van usar ChatGPT que els va revelar algun secret. Almenys, quan els EUA va bombardejar l'Iraq en el 2003, va tenir la (in)decència d'inventar-se unes armes de destrucció massiva per a justificar-ho, amb 'teiatru' inclòs de Colin Powell ensenyant un suposat flascó d'àntrax enfront de l'ONU. Marcos Rubio ho va resumir sense embuts quan fa una setmana en la CBS li van preguntar en quina “intel·ligència” es basaven per atacar a l'Iran. La seva resposta va ser, textualment: “Oblidi's de la intel·ligència”. L'afirmació explica el nostre temps: serveix tant per a creure que les bombes porten la pau com per a creure que es pot trobar a Déu en un bot. Josep María Ganyet a la vanguardia.