EL SOMNI DE LES MÀQUINES CONSCIENTS

Qualsevol que vegi la pel·lícula Intel·ligència Artificial (2001) de Steven Spielberg, desitjaria que una màquina s'assembli tant a un nen com al protagonista, David –Haley Joel Osment–, un robot que busca una mare a la seva idealitzada Hada Blava, però la realitat no ha pogut superar encara la ficció. Encara no vivim entre màquines conscients. O sí? El debat públic torna periòdicament i va molt més de l'esfera tecnològica per entrar a la filosòfica. Ni tan sols tenim una definició clara del que significa la consciència. El Diccionari de la Reial Acadèmia Espanyola aporta 4 accepcions de consciència i 6 de consciència amb moltes més derivades.

Un dels missatges més clars dels darrers temps és a l'encíclica Magnifica Humanitas publicada fa unes setmanes pel papa Lleó XIV, que assegura que “les intel·ligències artificials no experimenten vivències, no tenen un cos, no senten alegria ni dolor, no maduren a través de les relacions, i no saben des de dins què signifiquen l'amor, el treball. El Pontífex assegura que “tampoc no tenen una consciència moral, ja que no jutgen el bé i el mal, no capten el sentit últim de les situacions, ni assumeixen la responsabilitat per les conseqüències”.

Observem ara expectants el joc de la imitació a què es referia Alan Turing, just ara que les màquines ja són capaces d'enganyar un humà fent-se passar per un de nosaltres i passar el famós test que pretenia descobrir quan ens trobaríem davant d'una intel·ligència artificial comparable a la humana. “Poden imitar o fins i tot simular –observa el Papa–, però no comprenen el que produeixen, ja que els manca la perspectiva afectiva, relacional i espiritual a través de la qual els éssers humans creixen en saviesa.

A l'altra trinxera del debat, el premi Nobel Geoffrey Hinton, conegut com el padrí de la intel·ligència artificial, va respondre fa uns dies de manera afirmativa a la pregunta de si la IA tenia consciència. Per recolzar la seva tesi, va idear un exemple que va exposar al seu entrevistador: “Suposem que agafo una neurona del seu cervell, una cèl·lula cerebral, i la substitueixo per un petit dispositiu nano tecnològic que es comporta exactament igual, de manera que rep senyals d'altres neurones i respon a elles enviant senyals, i respon exactament igual que ho feia la cèl·lula cerebral. conscient?”. La resposta es decanta clarament cap al sí.

Aquests dies també agita el vesper de la controvèrsia entre els experts el biòleg evolutiu britànic Richard Dawkins, que en un polèmic article, ha expressat la seva convicció que les IAs són conscients després de dos dies de converses amb la IA Claude d'Antropic, a qui va anomenar Claudia, com si fos una. "Un humà que escoltés d'amagat una conversa entre la Clàudia i jo no endevinaria, pel meu to, que estava parlant amb una màquina en lloc de amb un humà. Si albergo sospites que potser ella no en sigui conscient, no li dic per por de ferir els seus sentiments! Però ara, com a biòleg evolutiu, dic el següent. consciència?”, es va preguntar Dawkins.

Al costat crític, el neurocientífic Gary Marcus, una de les veus més crítiques amb les actuacions de companyies com OpenAI a l'escalat dels grans models de llenguatge (LLM). “Dawkins sembla imaginar que –assenyala Marcus–, atès que els LLM diuen coses que diuen les persones, han de ser com les persones, i això simplement no és així”. "No es pot limitar a observar els resultats, sense investigar els mecanismes subjacents, i concloure que dues entitats amb resultats similars arriben a aquests resultats similars per mitjans similars. I les diferències són immenses; una (l'LLM) memoritza efectivament tot internet; l'altra (l'ésser humà) construeix un model mental a través de l'experiència amb el món".

Una de les explicacions perquè vegem consciència, una característica humana, en un ens que no ho és, és l'anomenada pareidòlia semàntica. La pareidòlia és aquest mecanisme psicològic pel qual el cervell reconeix patrons humans en objectes com els frontals dels cotxes o les formes dels núvols. Un article publicat per Harvard Business Review Itàlia fa un any advertia sobre el pas “d'un antropomorfisme inofensiu a una problemàtica idolatria de la IA”, per la qual cosa advocava “per pràctiques de disseny responsables que ajudin els usuaris a mantenir distincions crítiques entre la simulació i la consciència genuïna”.”.

Un altre article publicat per Nature l'octubre del 2025, sosté que No hi ha una intel·ligència artificial conscient. Els autors sostenen que l'associació entre consciència i grans models de llenguatge és “profundament errònia” i que es produeix per “una manca de coneixements tècnics i del funcionament de diverses tecnologies noves (especialment els LLM), que poden crear la il·lusió de la consciència”. El febrer de l'any passat, Dario Amodei, director executiu d'Anthropic, va admetre en una entrevista a The New York Times que a la seva empresa no saben si la IA té consciència. Enmig d'aquest debat, Qui no recorda el 'tinc por' de l'ordinador HAL a 2001: una odissea de l'espai? - Francesc Bracero en la Vanguardia.