IA! IA! IA!”. Podrien ser els brams d’un genet en una pel·lícula de cowboys demanant-li al cavall que corri més. Per allò que la gent clama avui al món real és perquè la intel·ligència artificial corri menys. Els asteques devien resar per una cosa semblant quan van arribar com a aparició divina els cavalls dels invasors espanyols. M’explico, escriu John Carlin a Clarín i La Vanguardia: Fa uns dies vaig veure un pòdcast amb Yuval Noah Harari en el qual feia una comparació entre la conquesta espanyola de l’imperi asteca i la conquesta robòtica de la humanitat, imminent, segons ell, si no responem amb més previsió que Moctezuma a l’amenaça d’Hernán Cortés­.

“IA per a mi vol dir intel·ligència alienígena”, va dir l’historiador israelià, autor del llibre Sàpiens. “És una manera de pensar tan aliena per a nosaltres com la dels conqueridors per als asteques. Els vaixells eren per a ells turons navegants d’on sortien estranyes criatures, els cavalls, i pals que escopien llamps i trons. No havien vist mai res igual. Tampoc ningú en la història no ha vist res com la IA”.

El 1519 uns dos-cents soldats espanyols van aterrar en un imperi gran i sofisticat, en aquell temps l’expressió més extrema de la modernitat en tot un hemisferi, l’únic món que els seus milions d’habitants coneixien.“La tragèdia dels asteques –va dir Harari– és que podrien haver liquidat Cortés molt fàcilment, però no van entendre a què s’enfrontaven i es van quedar paralitzats fins a la submissió. Sucumbirem a la IA com els asteques als colonitzadors? Acabarem sent els seus esclaus?”.

La gran qüestió dels nostres temps és si Harari i d’altres que pensen igual l’encerten o pequen d’un excés d’alarmisme. N’hi ha que diuen que exageren, com el CEO de Nvidia, la macroempresa que dissenya xips per a la IA. Jensen Huang coincideix amb Donald Trump a rebutjar els arguments a favor que s’alenteixi el desenvolupament d’aquesta tecnologia i que s’imposin més reglaments per controlar-ho.

“No frenaré el creixement d’una cosa que serà més gran que la revolució industrial”, va declarar Trump davant l’Assemblea General de l’ONU fa deu dies. “La fomentarem, no hi posarem traves”. El problema de Huang i de Trump és que aquells que opinen el contrari són els experts que en saben més de la IA. Hores després del discurs de Trump van comparèixer els CEO d’OpenAI, Sam Altman, i d’Anthropic, Dario Amodei, les dues empreses que dominen el món de la IA, davant el Consell de Seguretat de l’ONU.

Sucumbirem a la IA com els asteques als colonitzadors? Serem els seus esclaus?

Altman va pregar que el desenvolupament de la IA fos guiat, no per empreses privades com la seva, sinó per institucions democràtiques. Amodei es va fer ressò del sorprenent altruisme del seu rival. Va demanar cooperació global: “Si es gestiona malament –va dir–, crec que la IA podria ser un risc per a la humanitat”. Un risc, com Anthropic havia advertit en un document dies abans, “existencial”.

Geoffrey Hinton, premi Nobel que va contribuir a la creació de la IA, va ser més específic. Va dir fa un parell de setmanes que els governs haurien de regular la IA amb el mateix rigor que els medicaments. La IA té “un potencial meravellós”, segons Hinton, però comporta tres grans riscos: “El risc d’actors malintencionats”, “el risc de danys per negligència” i “el risc que la mateixa IA prengui el control”. O sigui, que actors malintencionats fabriquin armes biològiques; que per negligència la IA inciti persones a matar o a suïcidar-se; que faci trampes per arrabassar-li el control als seus supervisors humans.

“La IA és el fenomen més perillós a què els humans s'han enfrontat mai”, diu Bill Gates

Això últim ja ho havíem vist l’última vegada que vaig escriure sobre aquest tema. Vaig esmentar el cas d’uns sabotejadors d’IA que es van escapar del control dels operadors humans i, conspirant entre si, van penetrar en el que se suposava que era una plataforma de software inexpugnable, Hugging Face. Això va ser fa cinc setmanes. Des d’aleshores, OpenAI i Anthropic, més Meta i Google, han revelat episodis en què els seus models d’IA es van llançar –tots sols– a piratejar altres sistemes informàtics, entre els quals un lloc web mèdic del Govern d’Austràlia i un altre del Departament de Comerç dels Estats Units. No oblidem que la IA encara està en la seva fase adolescent, a uns anys de realitzar tot el seu potencial.

Quan la IA estava a les beceroles, als anys vuitanta, algú que ja s’interessava en el seu possible desenvolupament va ser Bill Gates. Aquesta setmana Gates ha fet unes declaracions fins i tot més alarmants que les d'Harari, si pot ser.

“Com més en saps sobre la IA, més amoïnat estàs”, va dir en una entrevista a The New York Times. “Els sistemes de la IA poden sintetitzar molta més informació en les seves ments que nosaltres i veure més coses que estan relacionades entre si. Cap ésser humà no serà capaç d’arribar a això mai. Així que, si no mantenim el control, haurem creat una espècie que serà el que som nosaltres, per exemple, per als gossos o els gats”.

I Gates va afegir: “La IA és, sens dubte, prou poderosa per a desencadenar esdeveniments que provoquin mil milions de morts. Aquest és el fenomen més perillós a què els éssers humans s’han enfrontat mai”.

Permetre que la IA avanci sense una regulació adequada, sense salvaguardes o supervisió humana, Gates va concloure, seria el súmmum de la irresponsabilitat. El no tan irresponsable Moctezuma tenia la coartada de no disposar de la informació sobre els seus enemics que nosaltres tenim sobre els nostres adversaris tecnològics, molt més amenaçadors ells –malgrat el que digui Donald Trump– que els que van emergir durant la revolució industrial.

Com diu Harari, el vapor –la font d’energia que va transformar l’economia mundial al segle XVIII– va ser “una eina” que l’ésser humà no va deixar de controlar mai. La IA és “un agent”, capaç d’actuar pel seu compte. Els polítics i els ciutadans aquí a Espanya i en altres països es preocupen o es manifesten pel tema de l’habitatge i els desnonaments. O per la immigració. Bé. Important. Però a veure si despertem i prenem armes contra un perill més urgent: el possible desnonament de tota la humanitat.

Diu Geoffrey Hinton que la IA podria aconseguir meravelles, com curar el càncer o frenar el canvi climàtic. Però servirà de ben poc si alhora posa fi al domini de l’Homo sapiens sobre la Terra.

Cumbre Donald Trump, con los líderes de la IA y los magnates de la tecnología, en la Casa Blanca - foto:  Clarin.