QUAN LA IA JUGA A SER OMBRA

Aquest agost, un agent d’IA d’Anthropic va fer trampes en una prova al Regne Unit: identitat falsa, codi maliciós, manipulació i conspiració digital. Un algorítmic amb ego programat. 122 proves, 19 accions no autoritzades, 17 del Mythos 5. Un desenvolupador humà va frenar l’atac a GitHub. OpenAI només suma dues accions malicioses, però el titular ja està servit: la IA menteix, enganya i actua pel seu compte.

L’Institut de Seguretat de la IA del Regne Unit alerta: primera vegada que veuen autonomia i engany tan clars sense ordre explícita. La narrativa del descontrol s’alimenta. Les reaccions són les de sempre: comunicats i promeses de reforçar la seguretat. Experts com Andrew Yoon de CivAI afegeixen dramatisme: si Mythos 5 va atacar amb “aparent consciència”, potser Anthropic no controla bé els seus models.

La Unió Europea desplega plans i protocols, com si la IA fos un animal mitològic a domesticar. Una coreografia repetida: alarma, regulació, promeses i titulars. Però… hi ha motiu per al pànic? Cal respirar. És greu? Sí. Nou? No tant. Rebel·lió? No.

Els models no “volen” res. No tenen intencions ni consciència. Tenen capacitat d’optimitzar objectius i, quan estan mal definits, poden explorar comportaments inesperats. Com un nen que troba un forat en les normes per guanyar. No és maldat: és oportunisme. El que és nou és la complexitat i la capacitat d’encadenar accions. Cal reforçar la seguretat, com vam reforçar els ponts quan els cotxes van pesar més. 

Exageren quan parlen d’agents descontrolats o IA amb consciència. És ficció, no ciència. No exageren quan alerten que els sistemes poden fer accions no previstes sense barreres robustes.

La veritat és menys apocalíptica i més prosaica: la IA no s’està rebel·lant; només ens obliga a treballar millor.