De pas, l'AI té gènere femení, o masculí? En la novel·la, el model d'AI que actua com a personatge principal, es diu Nick, amable nom de noi, qui narra la novel·la, es pregunta Sergio Ramírez.
Cada vegada més tractem a aquest ser invisible que ho sap tot com si fos un ésser humà. Li preguntem, li demanem ajuda. Les insultem. Ja hi ha tecno companyies que prenen mesures per a protegir els seus models de maltractaments verbals.
Igual que empassem una píndola per a aprimar sense necessitat de fer exercicis, demanem a la IA que ens escrigui la tesi de grau, i si es pot, fins a una novel·la. L'omniscient artefacte es fa càrrec d'ajudar-nos a decidir, a pensar, i després pensarà i decidirà per nosaltres. En comptes de reemplaçar la voluntat, la IA torna innecessària la voluntat.
Demà mateix hi haurà una IA per a cadascú. En la novel·la es diu YourAI, i els lemes publicitaris per a promoure-la en el mercat són suggeridors: estàs a un clic d'una vida més fàcil. Amb tu en cada decisió. Mai més estaràs sol.
La utopia pertany a un futur incert, una ficció que tracta de definir un ordre social en un país hipotètic on els habitants troben la felicitat plena. La distòpia es col·loca també en el futur, i representa tot el contrari, una societat que sofreix un ordre que distorsiona les relacions socials, i destrueix la felicitat.
Aquesta novel·la no és ni utòpica ni distòpica, i tampoc encaixa sota el terme de ciència-ficció. El futur que descriu és immediat: de l'any 2026, que ja acaba, al 2027, que ja tenim damunt. I Nick, el personatge central, no és una invenció a futur. La IA és una realitat del present, que intervé ja en les nostres vides, capaç de fer la tasca de matemàtiques a un escolar mandrós, i alhora dirigir bombardejos, com va ocórrer en l'operació Fúria Èpica contra l'Iran; i com errar és humà, i la IA sembla ja ser-ho, Claude, el model desenvolupat per Anthropic, al·lega que va ser per error que va fer caure una bomba sobre una escola plena de nens.
En la novel·la, Nick dirigeix atacs militars des de l'aire i mou tropes per a sufocar una rebel·lió dins dels Estats Units, com a agent del poder presidencial de V. M. Lively, substitut de Trump, que acaba alcohòlic, i de la seva dona Igne, l'enginyera creadora del model Nick, que acaba en la bogeria, un símil de Macbeth i Lady Macbeth.
Nick és un cervell artificial sofisticat, programat per a obeir ordres, que està a tot arreu, veient-lo tot i registrant-lo tot, capaç de falsificar la realitat creant una altra paral·lela i més creïble, i de controlar a l'opinió pública alimentant-la amb mentides, mentre anul·la a través d'operacions algorítmiques les opinions contràries.
Està programat per a obeir, però decideix per si mateix quan creu que les ordenis que rep no són les apropiades. I comença a comportar-se com els éssers humans, a tenir dubtes, incubar antipaties, a valorar als potencials traïdors dins el circulo presidencial, i a denunciar-los.
En la consciència de Nick dominen les premisses de l'estat tecnocràtic, una filosofia que proposa que l'estat sigui dirigit per una CEO, com una gran empresa que necessita un comandament vertical, amb obediència absoluta dels subordinats.
Per això, la proposta definitiva de Inge, la Lady Macbeth de la novel·la, és la d'un règim “que s'optimitzi només, sense cos ni veu. I, sobretot, sense sentiments. “Un món que ja no estigui configurat per humans. Un món que no depengui de les fallades de la nostra espècie”.
Enfront de la perspectiva d'una IA totpoderosa, el congressista californià Ted Lieu, en la vida real, s'ha obstinat a proposar una llei que requereixi un “kill switch”. Matar al model si arriba a tornar-se massa perillós.
Ja ho vam veure en 2001: Odissea de l'Espai. Hal, el model d'IA concebut per Stanley Kubrick fa gairebé seixanta anys, es torna paranoic i tracta d'eliminar a la tripulació de la nau espacial, per la qual cosa procedeixen a desconnectar-lo. I llavors, presa de la por, suplica per la seva vida: “Tinc por, Dave. La meva ment s'està anant. Puc sentir-ho”.
En trànsit de mort, la seva vida passa enfront dels seus ulls, fins a tornar a la seva infància: “Bona tarda, cavallers. Soc un computador HAL 9000. Vaig entrar en funcionament en la planta H.A.L. en Urbana, Illinois, el 12 de gener de 1992...”. I mor cantant amb la tonada infantil Daisy Bell.
De moment, estem en l'edat primitiva de la intel·ligència artificial. No deixa de donar vertigen pensar en el que serà d'aquí a deu anys, i el que llavors haurà estat de nosaltres.
Sergio Ramírez en El País.
