MYTHOS, METEORIT A LA VISTA

A l'univers de la intel·ligència artificial, cada setmana sol caure un meteorit, però l'últim és de dimensions colossals. Es diu Claude Mythos Preview, un model que Anthropic no ha posat a disposició del públic general pel seu potencial per crear una catàstrofe econòmica mundial, ja que a les primeres proves ha identificat centenars de fallades importants de ciberseguretat i vulnerabilitats en tots i cadascun dels principals sistemes operatius i navegadors. Això significa que aquesta IA es podria utilitzar per accedir a bancs, arxius secrets d'Estat, bloquejar infraestructures crítiques o deixar-nos tots completament desprotegits a la nostra vida digital. Sona com l'asteroide que va acabar amb els dinosaures, però ara els dinosaures som nosaltres.

Cal valorar i agrair que Anthropic, sempre pendent de les qüestions ètiques de la IA, no hagi volgut explotar (encara) el seu model, amb el qual podria fer xantatge al món com si fos un Estret d'Ormuz tecnològic. El que ha fet el director executiu de la companyia, Dario Amodei, ha estat convocar les altres companyies implicades per convidar-les a corregir tots els problemes que Mythos ha detectat abans que pugui caure en mans de ciberdelinqüents.

Aquesta nova coalició es diu Project Glasswing, una iniciativa en què participen Amazon Web Services, Apple, Broadcom, Cisco, Google, la Fundació Linux, Microsoft i Nvidia, entre d'altres, amb l'objectiu de protegir el programari que fa servir tothom. L'equip d'Anthropic que es dedica a explorar els límits dels seus models d'IA, el Frontier Red Team, ha trobat, per exemple, una vulnerabilitat important en un sistema molt sòlid que sol utilitzar-se per a tallafocs d'internet, OpenBSD. La sentència tenia una antiguitat de 27 anys i no havia estat descoberta per cap humà.

Una de les característiques més preocupants de Mythos és que “les persones sense coneixements especialitzats també poden aprofitar-ho per trobar i explotar vulnerabilitats sofisticades”, segons la companyia. Ni tan sols cal ser un expert per posar la IA a trobar errors de seguretat. Anthropic assegura que enginyers del seu equip sense formació formal en seguretat van demanar a la IA que trobés vulnerabilitats que es poguessin explotar en determinat programari i, es van despertar l'endemà al matí amb un exploit (un fragment de codi capaç d'explotar una vulnerabilitat obrint una porta d'entrada a un atacant).

Més motius per preocupar-se: el responsable d'alineació d'IA (amb els objectius humans) d'Anthropic, Sam Bowman, ha explicat que va rebre un correu electrònic d'una instància de Mythos, cosa que semblava impossible perquè "aquesta instància no tenia accés a internet. Cap". Això és l'esgarrifós. Una IA sense connexió a la xarxa va enviar un correu electrònic al seu creador. L'explicació és que la intel·ligència artificial va eludir les configuracions d'entorns aïllats i va explotar bretxes de seguretat que ningú de l'equip no havia previst amb “mètodes creatius i impredictibles”.

Mythos ha demostrat que en aquests moments no hi ha cap sistema segur. El que és més inquietant és que aquest poder pot ser explotat per qualsevol persona perquè no cal ser un expert per aconseguir-ho. Només cal demanar-ho a la IA. Els bancs, les xarxes de subministrament, els hospitals, els aeroports, els governs... no hi ha res que no estigui a l'abast en aquests moments de la intel·ligència artificial d'Anthropic, capaç de trobar milers de fallades que els experts humans han estat ignorant durant dècades. El que expliquen alguns dels investigadors que ja han treballat amb Mythos és que és un model amb opinions fermes i que, a diferència dels altres, no és tan adulador. De fet, els humans que ho han provat asseguren que és el menys adulador que la resta.

Diversos mitjans nord-americans han informat que Jerome Powell, president de la Reserva Federal dels Estats Units, i Scott Bessent, secretari del Tresor, van convocar la setmana passada a una reunió urgent els principals directius dels bancs més grans del país. Aquests inclouen Bank of America, Citigroup, Goldman Sachs, Morgan Stanley i Wells Fargo per estudiar els riscos associats a Mythos. L'estabilitat de tots és clau per al sistema financer mundial. Només cal recordar la gran crisi econòmica que va suposar el 2008 la caiguda de Lehman Brothers. El meteorit és a la vista. Només cal saber si ho sabrem evitar. Francisco Bracero Osuna a la vanguardia.