Eliezer Yudkowsky (Chicago, 46 anys) i Nate Soares (Washington, 37 anys) estan convençuts que, si els sistemes d'intel·ligència artificial (IA) segueixen millorant, acabaran superant les capacitats humanes. I, quan passi, arribarà l'extinció de la humanitat. Això, afirmen, podria passar en uns mesos o en una dècada. El títol del seu darrer llibre és força explícit: Si algú la crea, tots morirem. Per què la superintel·ligència artificial és una amenaça per a la humanitat (Destí).
Yudkowsky i Soares són dos dels principals referents dels doomers, o catastrofistes. Els èxits recents de la IA generativa, la que està darrere de ChatGPT, Gemini o Sora, han provocat un acalorat debat a la pròpia indústria sobre el potencial d'aquesta tecnologia. Fins i tot han sorgit diferents corrents de pensament. Els doomers creuen que, quan estigui prou desenvolupada, la IA agafarà les regnes i decidirà acabar amb la civilització. Per això, recomanen que els estats signin tractats internacionals per frenar l'avenç de la IA, de la mateixa manera que a la Guerra Freda es va limitar a proliferació d'armes nuclears.
A principis del 2023, una carta oberta rubricada per centenars de científics especialitzats en IA sol·licitava una moratòria de sis mesos en la investigació. “Nosaltres també la vam signar, si bé considerem que es quedava molt curta”, escriuen. Tan curta que, en un article publicat per aquestes dates a la revista Time, Yudkowsky deia que cal limitar la potència de càlcul permesa als països i “destruir amb un atac aeri centres de dades” dels que es passin.
A l'altre extrem, els boosters, o acceleracionistes, creuen el contrari: convé perseguir el desenvolupament de la superintel·ligència (la que, en un pla teòric, superarà la intel·ligència humana) perquè solucionarà molts dels problemes de la societat. Curarà malalties, augmentarà l'eficiència de tots els processos, contribuirà a treballar menys. Ens farà més feliços.
Hi ha noms il·lustres associats a tots dos corrents. Els doomers, precisament per invocar l'apocalipsi, tenen més predicament als mitjans nord-americans, també als de fora d'aquest país. Aquest moviment compta amb el segell de respectabilitat que els atorga comptar entre els seus defensors amb premis Turing (considerat el Nobel d'informàtica) com Yoshua Bengio o Geoff Hinton, aquest últim guardonat també amb el Nobel de Física. El fet que dos dels pares de l'aprenentatge automàtic (machine learning), la tècnica que ha permès a la IA fer el gran salt de qualitat dels últims anys, lluitin ara contra la tecnologia que han contribuït a desenvolupar, s'usa al llibre de Yudkowsky i Soares com a argument de pes a favor de la seva posició.
Un altre premi Turing i padrí del machine learning, Yann LeCun, en discrepa. Ha fet comentaris en xarxes en què es burla dels doomers. "Nosaltres dissenyarem els seus desitjos", ha dit, per exemple. "La història de l'enginyeria és plena d'optimistes brillants i ansiosos que es llancen de cap a nous i fascinants problemes que acaben sent infinitament més difícils del que esperaven", li responen Yudkowsky i Soares al llibre.
No és una narrativa que se cenyeix a l'àmbit de l'acadèmia. Alguns dels empresaris que estan fent possible la IA també han abraçat aquest tipus de discursos. Destaca entre ells Sam Altman, el director general d'OpenAI, que, el maig del 2023, pocs mesos després del llançament de ChatGPT, va protagonitzar una gira mundial amb estadistes per presentar-los les bondats de la IA i advertir-los dels perills.
A quin d'aquests dos corrents hem de parar més atenció? Depèn a qui se li pregunti. Però, cenyint-no's als fets, totes dues estan igualment desancorades de la realitat.
Hi ha la intel·ligència sintètica? INo hi ha cap evidència científica que les eines de IA generativa entenguin, en un sentit literal del terme, un fragment de text donat. Encara que, en part a causa dels nostres propis biaixos, les persones interpretem que si alguna cosa ens ofereix una resposta coherent, aquesta cosa ha de ser intel·ligent. “Els models lingüístics només manipulen la forma, imiten la manera com les persones usen el llenguatge en molts contextos diferents”, va dir la lingüista Emily Bender en una recent entrevista amb EL PAÍS.
“Les màquines no necessiten ser intel·ligents exactament en la manera com ho som els humans per ser molt efectives predient i pilotant el món”, assegura Soares per correu electrònic. "Les desenvolupadores d'IA són molt bones millorant les màquines cada any. La IA podria ser més efectiva que les persones perquè poden ser més ràpides que un cervell humà o operar amb algorismes cognitius més complexos", afegeix l'extreballador de Google i Microsoft.
El fet que els grans models de llenguatge puguin mantenir converses amb els usuaris, resumir textos o solucionar problemes matemàtics pot fer pensar que són intel·ligents o conscients. Però, ara com ara, són programes que tracen patrons sobre gegantines bases de dades. Per què pensar que un d'aquests programes de sobte pot cobrar consciència o perseguir la seva pròpia agenda? "Ningú sap si les IA són conscients a la manera dels humans", replica Soares. "Són sistemes gegants i complicats que no s'han desenvolupat acuradament, com el programari tradicional; no segueixen instruccions que van ser acuradament programades per humans. Són enormes entitats entrenades que ningú, ni els seus creadors, entén", afegeix, en referència al desconeixement al voltant de l'aprenentatge profund (un procés mitjançant el qual pren les dades d'entrenament i estableix patrons pel seu compte). Pel que fa a la possibilitat que la IA desenvolupi els seus propis objectius, Soares opina que això ja està passant. I posa l'exemple de Moltbook, la xarxa social d'agents d'IA, encara que òbvia que algú hi va posar (i probablement els va assignar rols).
Per què ens vol matar? El cervell humà és el fruit de l'evolució i, per tant, té una sèrie de metes integrades, com ara alimentar-se, reproduir-se o no fer-se malbé. La intel·ligència sintètica no ha evolucionat, per la qual cosa no necessàriament incorpora objectius innats. Així que, per a alguns experts, sorgeix el dubte següent: podem assegurar-nos que una possible intel·ligència tindrà metes que ens beneficiïn? Aquest és l'anomenat problema de l'alineament, un concepte introduït per Soares i Yudkowsky el 2014.
La solució, creu Soares, és limitar el desenvolupament d'IA “més i més intel·ligent que ningú no entén”. No cal eliminar els grans models de llenguatge, ni els cotxes autònoms, ni la IA que ajuda a descobrir nous fàrmacs. Només l'aprenentatge profund. "Quan els nostres líders entenguin finalment com de perillosa podria ser una superintel·ligència, segur que posen fi a aquesta carrera suïcida. La IA suposa molt més perill del que estem disposats a acceptar a qualsevol altra indústria", assegura.
Però cal veure que aquesta superintel·ligència pugui arribar a existir. De moment, estem al terreny de l'especulació. I l'opinió majoritària és que és “improbable” o “molt improbable” que la arribem a veure, segons opina el 76% dels 475 acadèmics i professionals de la IA enquestats fa un any per l'Associació per l'Avenç de la Intel·ligència Artificial.
Alguns empresaris del mateix sector de la IA, com ara Altman o Alex Karp, el màxim responsable de Palantir, també sostenen que la IA pot arribar a ser immensament poderosa, fins al punt de ser un perill per a la societat. El subtext aquí és que, precisament per aquest potencial, els inversors només han de confiar en les empreses més capaces (les seves). I que, si es tracta d'una tecnologia tan poderosa, seria absurd no invertir-hi.
Emily Bender i Alex Hanna sostenen al seu llibre L'estafa de la IA que els catastrofistes i els acceleracionistes de la IA són dues cares de la mateixa moneda. "Els qui adoren la IA diuen que la superintel·ligència és inevitable i resoldrà tots els nostres problemes. I els qui l'odien diuen que és inevitable i ens matarà a tots. Essencialment el mateix, però amb un gir final diferent", va dir Bender a EL PAÍS. Manuel G. Pascual