LA INTEL·LIGÈNCIA ARTIFICIAL I L'ESTUPIDESA HUMANA

 

Quan La Vanguardia va entrevistar per primera vegada Ramón López de Mántaras, a l'època en què l'ordinador Deep Blue va derrotar per primera vegada el llavors campió mundial d'escacs, Garri Kasparov, parlava amb entusiasme i amb esperança sobre el futur de la intel·ligència artificial. Al seu nou llibre, 100 coses que cal saber sobre la intel·ligència artificial (Ed. Cossetània), publicat aquesta setmana, transmet inquietud. Josep Corbella l'ha entrevistat.

Per què és més pessimista ara?

Aleshores la situació era molt diferent. Érem moltes menys persones treballant en aquest camp i n'hi havia moltíssim per fer. Teníem una actitud esperançadora i il·lusionada. La il·lusió no s?ha perdut. Però veiem amb inquietud alguns dels impactes socials i geopolítics de la intel·ligència artificial.

Parlem del que més inquieta els ciutadans. Es quedarà gran part de la població sense feina?

Ningú no té la resposta. Molts cops es parla de llocs de treball, crec que és un error. Cal parlar de tasques dins un lloc de treball. Algunes tasques seran substituïdes per màquines, d'altres no. Per exemple, detectar patrons en una radiografia és una cosa que una màquina pot fer bé. Però un radiòleg fa molt més que detectar patrons.

La intel·ligència artificial amenaça la supervivència de la humanitat?

Per mi aquesta és una opinió completament errònia. Dóna a entendre que hi haurà superintel·ligències que ens superaran en tot. Per què prendrien la decisió d'extingir la humanitat o d'esclavitzar-nos? La intel·ligència artificial no té objectius propis, som nosaltres els que donem objectius. És cert que us podem portar a prendre decisions contraproduents. Però de totes les possibles causes d'extinció de la humanitat, per mi la intel·ligència artificial està molt cap a la cua. Em preocupen molt més el canvi climàtic i els conflictes bèl·lics.

Aleshores, quins són els riscos de la IA que el preocupen?

Tenim ja força riscos damunt la taula. Per exemple, limpacte dels grans models de llenguatge [com ChatGPT] que generen multitud de falsedats. Es poden generar imatges, vídeos, textos de manera malintencionada i crear conflictes, crear tensions a nivell social o influir en eleccions democràtiques. Això per mi és un risc importantíssim i no té solució tècnica.

Algun altre risc important?

Que la capacitat de fer tot això és a les mans d'uns quants, d'unes grans empreses tecnològiques, cinc o sis, que tenen més poder que molts estats i que són els que estan marcant les pautes de cap on va la intel·ligència artificial. I el que a més és contradictori és que alguns es presenten com a possibles salvadors de tots aquests problemes.

En qui està pensant?

En Elon Musk. O a Sam Altman d'OpenAI [l'empresa de ChatGPT], que va dient “cura, que tot això és molt perillós, però jo no, jo sóc bona persona, confieu en mi perquè jo pugui evitar aquests perills”. Això és molt pervers, perquè el que us interessa és el benefici de la vostra empresa. El que està fent és intentar que es reguli per tal de tallar les ales al codi obert. Perquè ja han sorgit alternatives als grans models de llenguatge en codi obert, és a dir, desenvolupats de manera col·laborativa, i crec que els espanta perdre quota de mercat.

Què us preocupa més, la intel·ligència artificial o l'estupidesa humana?

Molt més l'estupidesa humana. El problema no és el monstre de Frankenstein, el problema és el doctor Frankenstein que crea el monstre.

Vol dir que la IA pot ser el nostre Frankenstein, el monstre humanitzat que s'escapa del control dels seus creadors?

En certs casos, ho podríem dir. Però, si s'escapa del control, no serà perquè la intel·ligència artificial tingui objectius, desitjos i creences pròpies. Serà perquè hi ha persones que ho provoquen, que estan interessades que això passi. Una màquina no té agència moral, les persones són responsables darreres de tot.

Adopta algun tipus de precaució particular en interactuar amb la intel·ligència artificial com a ciutadà?

Procuro fer el que anomeno una dieta digital. Penso que digitalitzem malament, que estem expulsant del sistema moltíssima gent, no només per qüestions d'edat, sinó també econòmiques. I la pròpia administració pública ho està fent molt malament, ja que no dóna pràcticament alternatives no digitals per a moltes gestions.

En què consisteix la dieta digital?

En passar moltes més hores al món analògic. És a dir, parlar cara a cara amb les persones, poques xarxes socials, utilitzar les màquines amb sentit comú... Si he de buscar una informació i Wikipedia em pot ser útil, la utilitzo. Però no ho cercaré tot digitalment. També intento guardar al màxim la meva privadesa deshabilitant cookies, dient que no als permisos per saber el que estàs fent i detectar el teu perfil…

Prefereixeu navegar en mode incògnit?

Sí, absolutament. Si accedeixo a Wikipedia, tant me fa. Però moltes vegades faig servir la manera incògnita.

Tapa la càmera per evitar el reconeixement facial?

Generalment sí. Si faig una reunió per videoconferència, normalment no la tapo, perquè tinc una certa confiança. Però, si no, sí que la tapo.

Alguna prevenció particular a l'hora de fer compres?

Faig molt poques compres per internet. Hi ha un aspecte de privadesa, perquè el que compres és una informació important sobre les teves preferències. Però també perquè és part de la dieta digital. M'agrada més anar a comprar un llibre a una llibreria i interactuar amb les persones que comprar-lo per Internet. Aquest element de socialització per a mi és important.

Es deixa geolocalitzar?

Generalment no. Per privadesa. Òbviament, si crec que em facilitarà les coses per arribar abans al meu destí o veure on hi ha un pàrquing o una benzinera, he d'habilitar la ubicació. Però ho faig només per a casos molt concrets.

Quines solucions proposa per protegir les aplicacions positives de la IA i limitar-ne les negatives?

Sempre que es pugui utilitzar el recurs de l'educació i la informació. Els futurs enginyers almenys han de ser capaços de plantejar-se: “això és factible tecnològicament, però ho he de fer?”.

No creu que això Musk i Zuckerberg ja els ho han plantejat?

No ho crec. Segueixen una altra màxima. Fes les coses ràpid encara que les trenques. El problema és que les coses que trenques poden ser vides.

Alguna altra solució si amb l'educació no n'hi ha prou?

L'altra és una regulació ben feta, que vingui de baix a dalt, on tots els interessats siguin consultats, i no que vingui des de mitja dotzena de grans plataformes tecnològiques. El model que està fent la Unió Europea amb l'AI Act va pel bon camí, perquè s'està consultant una gran quantitat de persones que poden estar afectades per les aplicacions de la intel·ligència artificial. No crec que aquesta regulació pugui endarrerir l'avenç tecnològic a Europa, com diuen alguns. Al contrari, pot ser un valor afegit perquè pots dir “el meu producte és més fiable”. És com comprar un medicament que hagi passat tots els controls. El fet que una intel·ligència artificial estigui regulada i certificada pot ser un avantatge a nivell de mercat.