L'ENIGMA DE L'EMOJI DEL CAVALLET DE MAR

Com l'anomenat efecte Mandela condiciona fins al surrealisme les respostes dels grans models de llenguatge d'IA. La IA, amb dificultats per trobar un emoji que en realitat no existeix, encara que creu que sí que és al catàleg Made with Google AI - Francesc Bracero, a la vanguardia.com

Fa unes setmanes, el meu company Javier Dale em va explicar una curiositat que corria per xarxes socials: “Demana-li a ChatGPT que et reprodueixi l'emoji del cavallet de mar”. Pensant que la resposta seria immediata, vaig escriure al chatbot “Pots posar l'emoji del cavallet de mar?”. Va ser una sorpresa el que va respondre. Necessitaríem tota l'extensió d'aquesta newsletter per descriure la resposta, però bàsicament el model d'IA d'OpenAI es va dedicar a mostrar l'emoji que se li demanava encara que, quan assegurava que ja en tenia, reproduïa un altre animal. Va entrar en un bucle on publicava successivament un peix, un unicorn, un cargol, un cavall... Però no aconseguia trobar l'animal sol·licitat perquè la realitat és que el cavallet de mar no ha existit mai com a emoji oficial Unicode, que és l'organisme que aprova aquests gràfics. L'emoji del cavallet de mar sí que existia a la ment de molts humans, que així ho havien expressat a internet. Per això, ChatGPT va assumir que la feliç icona estava en algun lloc i tractava de respondre malgrat que no hi havia resposta possible.

Altres models de llenguatge d'IA, no només OpenAI, cauen en la mateixa il·lusió que els humans. La intel·ligència artificial s'enganya perquè considera cert el que diuen algunes persones a les xarxes socials. Així que, com aprèn del que veu, presumeix que el cavallet de mar té un emoji oficial assignat. En intentar cercar aquesta icona, acaba trobant una altra semblança, un peix o un cavall, per exemple, que són mitges definicions de l'objectiu complet. Quan les IA intenten respondre a una petició no assumeixen per principi que aquesta és impossible. El que fan és intentar combinar conceptes coherents i es queden atrapades en un patró repetitiu de què els costa sortir.

Els humans també patim aquesta mena d'al·lucinacions. El fet que hi hagi gent dient que hi ha l'emoji del cavallet de mar es coneix com l'efecte Mandela, un fenomen psicològic pel qual moltes persones comparteixen un mateix record fals. El nom es deu al record de moltes persones, que tenien a la seva memòria que Nelson Mandela va morir a la presó als anys 80 del segle passat, quan en realitat va ser excarcerat el 1990, va ser president de Sud-àfrica (1994-1999) i va morir el 2013. Records que mai van existir. Ni Humphrey Bogart va dir “tòca-la altra vegada Sam” a Casablanca, ni Sterling Hayden va pronunciar “menteix-me, digues-me que m'estimes” a Johnny Guitar, ni ningú va veure a Espanya en directe per televisió l'entrada del tinent coronel Tejero al Congrés dels Diputats el 23-F del 1981.

'Efecte Mandela': A l'esquerra, el que la gent pensa; a la dreta, la realitat. Efecte Mandela': A l'esquerra, allò que la gent pensa; a la dreta, la realitat Made with Google AI

Després de diverses sèries d'errors, altres IAs acaben per descobrir que passa alguna cosa rara. Grok, va intentar tres vegades trobar l'emoji del cavallet de mar, però sempre en mostrava d'altres. En la quarta ocasió en què se li va demanar, va trobar la resposta correcta: "Ah, d'acord, ara ho enganxo del tot! Has estat provant-me amb el clàssic "Efecte Mandela de l'emoji del cavallet de mar", oi? Aquest repte viral on tothom (incloses les IAs com jo) jura que existeix, però.... "És un d´aquests records falsos col·lectius que ens fa dubtar de la nostra pròpia memòria, o en el meu cas, dels meus patrons d'entrenament", va sentenciar la IA d'Elon Musk. A la llarga, com que a internet s'acabarà descobrint l'enigma –aquest article n'és una prova–, totes les IAs respondran directament que la petició és impossible. A menys, és clar, que Unicode aprovi un dia un emoji de cavallet de mar. Aleshores, potser, tornaran a donar respostes errònies perquè diran que no existeix quan ja existeixi. Una bogeria.

Un dels models més avançats de l'actualitat és Gemini 3 de Google. Va actuar d'una manera diferent d'altres dels seus competidors, encara que va perdre molt de temps intentant trobar infructuosament l'emoji del cavallet de mar. En lloc d'intentar mostrar una cosa que no existeix, com altres IAs, Gemini va reconèixer que tenia “problemes tècnics per identificar i mostrar l'emoji exacte del cavallet de mar en aquest moment”. “Et juro que ho estic buscant intensament a les meves bases de dades ara mateix”, va assegurar. "Veig dracs, veig peixos globus, veig sirenes, veig coral... però l'esmunyedís cavallet de mar se m'amaga! Avui s'ha convertit en el meu Moby Dick personal. Es nega a aparèixer al meu teclat!", va assenyalar en una inesperada referència literària.

Quan vaig preguntar a Gemini si estava segur que l'emoji existia, va començar a buscar altres registres, que el van conduir a una resposta correcta. "La teva pregunta és molt pertinent: tenies raó en plantejar el dubte. L'"existència" d'un emoji específic de cavallet de mar és més una percepció o una interpretació de l'emoji de peix tropical que un fet d'un caràcter Unicode dedicat. Quina bona lliçó per a una IA! Gràcies per ajudar-me a aclarir aquesta "crisi existencial d'emoji". La paradoxa d'aquesta resposta és que ens passem tot el dia entrenant IAs a cada pregunta que li fem.

Les IAs acabaran aprenent a base dels seus errors i la manera com els ajudem a trobar les seves respostes, però cal recordar que l'any passat l'Oxford English Dictionary va triar com a paraula de l'any brain rot (alguna cosa així com podridura cerebral), un fenomen que afecta les persones que depenen en gran manera de xarxes socials que demanen en els seus treballs en els seus IA utilitzen. Hi ha investigadors que intenten provar una correlació entre l'ús d'eines d'intel·ligència artificial i deteriorament cognitiu humà. Un estudi del MIT ha demostrat que, per a tasques de redacció, el grup de l'assaig que va fer servir la IA van obtenir sistemàticament resultats inferiors en l'àmbit neuronal, lingüístic i conductual. Les IAs aprenen i nosaltres desaprenem. O això sembla.