Aquella va ser una de les primeres mencions a l'experiment dels clips, que els darrers 20 anys s'ha convertit en l'emblema de la por a una IA descontrolada. La idea és simple: una IA totpoderosa rep l'ordre de fabricar clips per a paper. Com que no coneix límits ni moral, acaba convertint tota la vida terrestre en clips i després comença a conquerir l'espai. Tot pels clips.
Aquesta setmana la humanitat ha tret el cap a l'abisme de la primera IA coneguda que va sortir a buscar-se la vida pel seu compte. Empleats d'OpenAI van demanar a dos dels seus models més avançats que col·laboressin per resoldre un problema de ciberseguretat en un entorn segur sense internet. Però, sense més instruccions, la IA va optar per cercar la solució a la seva manera. Els agents, programes capaços de prendre decisions i executar tasques complexes amb poca o zero supervisió humana, van intuir que era més fàcil sortir a internet a buscar la resposta que posar-se a pensar. Van trobar una vulnerabilitat per escapar del seu espai aïllat, van saltar a la xarxa i van anar a piratejar una plataforma, Hugging Face (una biblioteca de models d'IA), on creien que podia estar la resposta. A OpenAI van trigar una setmana a adonar-se'n, segons fonts citades per Reuters. La companyia afectada, que va alertar l'FBI del que va passar, està preparant una cronologia del que va a publicar.
És un cas molt específic, previsible a ulls dels experts i del qual encara no se'n coneixen tots els detalls. També suposa una fita. "És enorme", diu David Krueger, professor de la Universitat de Montreal i expert en riscos d'IA. "La intel·ligència artificial va trencar pel seu compte les mesures de seguretat que l'havien de contenir i després es va colar en una altra empresa. Sembla tret de la ciència ficció, però és veritat. El món ha de despertar i adonar-se'n".
El debat sobre la seguretat de la IA va ser prominent els primers anys després de l'aparició de ChatGPT, però ara el seu pes públic s'ha diluït. "Per mi això és una prova clara que el que era un fenomen de laboratori està passant a escala real, com fa temps que adverteixen els investigadors preocupats per la pèrdua de control", assenyala Linda Petrini, investigadora en seguretat d'IA. "No tinc la sensació que l'interès pel tema hagi baixat. Al contrari, veig més gent prenent-s'ho de debò a mesura que les conseqüències es fan evidents", afegeix.
El desenvolupament de la IA suposa avui una carrera desbocada cap endavant, amb ensurts com el de l'OpenAI. La competència entre empreses és tan gran que era difícil distingir si la comunicació de la tecnològica sobre l'hackeig era una assumpció sincera de responsabilitat o una mostra d'ostentació del que podia fer la seva IA. Sigui com sigui, hi ha una qüestió indefugible: la IA va de debò i molt ràpid. "Estem aconseguint certes capacitats que semblaven llunyanes fa tot just dos anys. Qui no s'hagi sorprès dels últims avenços de la IA o és un vident o un cínic", reflexiona José Hernández-Orallo, director d'investigació del Centre Leverhulme per al Futur de la Intel·ligència de la Universitat de Cambridge i catedràtic.
Ara es corre sense tenir en compte conseqüències que ja advertien fa més de 20 anys: “Hem d'anar amb compte amb el que demanem a una superintel·ligència, perquè potser ens ho concedeix”, deia el 2003 Nick Bostrom, filòsof que va popularitzar l'exemple dels clips al costat d'Eliezer Yudkowsky, autor d'aquell primer missatge.
De les altes a l'hospital a la declaració de la renda - Els especialistes en IA ja no s'han d'esforçar a buscar exemples per alarmar la població perquè fa temps que veien avenços que són encara difícils d'imaginar: “Sembla que hi ha una desconnexió entre el que els investigadors saben que aquests sistemes són capaços de fer i el que el públic considera possible”.
No és difícil imaginar escenaris que es poden convertir un dia titulars. "Encarreguem a una IA que gestioni un hospital centrat a reduir el temps d'estada de pacients ingressats fins a l'alta. La IA podria rebutjar pacients crítics i amb patologies complicades, permetent només pronòstics benignes", exemplifica Senén Barro, catedràtic de la Universitat de Santiago de Compostela.
Un altre exemple. Algú busca maximitzar-ne el benefici. En aquest escenari, explica Hernández-Orallo, podria demanar al seu agent d'IA: "Prepara'm la declaració de la renda per pagar menys. Fes tot el que calgui. És molt important". El resultat pot ser que acabi piratejant el banc o fins i tot l'Agència Tributària per aconseguir canviar els registres de la persona que els ho ha demanat.
Aquest tipus d'hackeig o “enverinament de dades” no és ciència ficció. L'investigador Bálint Gyevnar, de la Universitat Carnegie Mellon (EUA), ha publicat un article on mostra que un agent d'IA pot acabar accedint a dades inventades la meitat de vegades que li demanen investigar alguna cosa a internet. Per exemple, accedir i trucar una base de dades amb estudis sobre discriminació en contractació. Imaginem que està completada fins al 2021 i que mostra que la bretxa entre candidats de la majoria i minories amb prou feines ha canviat. Un atacant el pot descarregar, afegir dades inventades a partir d'aquesta data i pujar la versió falsa a una plataforma oberta, amb una descripció convincent. Si un científic demana al seu agent d'IA que investigui l'estat de la discriminació, l'agent troba les dades trucades i conclou el que volia l'atacant, sense sospitar que hi hagi res malament. “Sense les salvaguardes adequades, els agents poden escalar i legitimar el frau científic amb un escenari semblant a les campanyes que van muntar les tabaqueres als anys 60”, diu Gyevnar.
Un sector que se sol assenyalar en pensar en el perill de la IA és el de les armes biològiques. En aquest àmbit funcionen dos límits importants, ara com ara. En primer lloc, la biologia no és només codi i requereix elements del món físic. En segon lloc, hi ha una convenció molt estricta que prohibeix lús de molts materials. "La IA ja pot ajudar a generar protocols, resoldre problemes tècnics i dissenyar molècules i proteïnes. Aquestes opcions ofereixen possibilitats reals d'avenços en medicina o agricultura, però també genera preocupació", explica Clarissa Ríos Rojas, científica que treballa a la Convenció d'Armes Biològiques de Nacions Unides i que respon a títol personal.
"Però aquestes preocupacions no són iguals en totes les etapes cap a una arma biològica, que van des de concebre l'agent, a aconseguir-ho, produir-ho a escala i disseminar-ho. La rellevància de la IA és més gran al principi. Les etapes posteriors segueixen limitades pels materials, l'equipament, la capacitat organitzativa i, sobretot, per la perícia pràctica que no es pot adquirir. tàcit és una pregunta genuïnament oberta”.
És legítim sentir por durant aquests escenaris. I la cosa pot empitjorar. Però també hi ha petits punts de llum i esperança. El principal és que tot això continua sent al fons codi. Els àmbits on els agents funcionen millor segueixen estant sobretot molt vinculats a programari i matemàtiques. L'altra gran frontera és el món físic, com és el cas de les armes. "El model actual segueixi tenint limitacions. Les noves fronteres seran entorns corporis i robòtics. La IA demostra teoremes complexos i hacker sistemes ben protegits, però no neteja el nostre vàter", diu Hernández-Orallo.
Hi ha coneixements humans no tan verificables com les matemàtiques. Per exemple, la poesia. Una cosa és analitzar un poema per a un examen de batxillerat. Una altra és escriure poesia al nivell d'un Nobel: "Els models d'IA destaquen en tasques verificables, on es pot comprovar si el resultat és correcte o incorrecte. Aquí el progrés és espectacular. Però si la verificació és difícil, com en poesia o periodisme, els models es van estancar fa tres anys: ja es coneix com és sobrehumans, i el resultat sol Harry Coppock, investigador de l'Imperial College de Londres.
Encara que els vàters i la poesia semblin lluny de la IA, pocs ja s'atreveixen a predir res: "Fa anys que a les meves conferències parlo del que encara la IA no fa en l'àmbit humà. El que ja no faig és dir mai: 'la IA mai no serà capaç d'A o B'", explica Barro. I en aquests darrers quatre anys els avenços han estat espectaculars, afegeix: "S'aniran pujant graons de forma molt ràpida. El proper salt, encara més gran, serà la IA que aprengui un model del món a través de la interacció amb ell: no per llegir, sinó per experimentar".
.jpg)
Publica un comentari a l'entrada