LA RENUNCIA COGNITIVA

Rendició cognitiva, deixar el resultat en mans de la IA sense pensament intuïtiu ni analític - reve/la vanguardia.com.

Els autors d'un estudi de la Universitat de Pennsylvania elaboren el concepte de “renúncia cognitiva” i assenyalen que no sols utilitzem la IA, sinó que “pensem amb ella”. El pernsamiento humà opera almenys en dos registres segons les teories més esteses. La tercera via, mitjançant la IA, pot portar a la rendició cognitiva - Francesc Bracero.

En el 2010, Nicholas Carr va entrar en la llista de supervendes dels Estats Units amb el seu llibre Superficials: Què està fent internet amb les nostres ments? (Taurus). L'origen d'aquesta obra és una conversa de l'autor amb un amic seu, el metge Bruce Friedman, que li va confessar: “ja no puc llegir Guerra i pau. He perdut la capacitat de fer-ho. Fins i tot un post de més de tres o quatre paràgrafs és massa per a absorbir. Ho trossejo”. Carr va investigar una evidència d'un canvi tecnològic que estava operant una transformació en els nostres cervells. En pocs anys, passem de llegir textos llargs sense problemes a passar a ser addictes a petites píndoles d'informació, que van començar amb el correu, els missatges i les notificacions. L'enganxament es va fer més compulsiu amb les publicacions en les xarxes socials i el seu addictiu scroll infinit. Afecta també la IA a la ment humana d'alguna manera? Un estudi suggereix que la tecnologia ha afegit un nou sistema de pensament als dos més reconeguts, el reflexiu i l'intuïtiu.

En la mateixa època del llibre de Carr, el premi Noble d'Economia Daniel Kahneman va publicar Pensar ràpid, pensar a poc a poc, que exposa la teoria que el cervell humà utilitza dos modes de pensament. Un sistema ràpid, automàtic; i un altre lent, deliberatiu. El que proposa l'estudi publicat pels professors Steven D. Shaw i Gideon Nau, de The Wharton School de la Universitat de Pennsylvania, és que en l'era de la intel·ligència artificial es pot concloure que “més enllà de l'arquitectura clàssica de les teories de doble procés”, existeix “un nou paradigma de presa de decisions: un en el qual la intuïció, la deliberació i la cognició artificial coexisteixen, competeixen o convergeixen”: l'artificial. En el document consideren demostrat que les persones “no sols utilitzen el Sistema 3 –el de la IA– per a ajudar en el raonament, sinó que sovint es rendeixen als seus resultats, ja siguin correctes o erronis”. Aquesta última conseqüència té un nom: rendició cognitiva.

Per a Shaw i Nau, la rendició cognitiva “il·lustra el valor i la integració” del nou sistema de pensament que hem desenvolupat amb la IA “però també posa en relleu la vulnerabilitat del seu ús”. Els autors adverteixen que cal distingir entre la rendició cognitiva, que està “marcada per la confiança passiva i l'avaluació acrítica de la informació” i que procedeix de la intel·ligència artificial, de la “descàrrega cognitiva”, que implica delegar la cognició únicament durant el procés de deliberació, però sense perdre l'esperit crític en cap moment. Els qui tenen una alta confiança en la IA, tenen 3,5 més probabilitats de seguir consells erronis proposats per la intel·ligència artificial.

Els autors apunten que aquesta teoria dels tres sistemes “no és un advertiment sobre els perills de la IA, sinó un reconeixement de la presència psicològica” del nou sistema de pensament. El que expliquen és que “no sols utilitzem la IA, sinó que pensem amb ella”. I en fer-ho, assenyalen una sèrie de qüestions importants que encara no tenen respostes: Què ocorre quan els nostres judicis estan condicionats per ments que no són les nostres? Què ocorre amb la intuïció i l'esforç quan un soci generatiu i artificial està llest per a respondre? Com preservem l'agència, la reflexió i l'autonomia en un món en el qual els usuaris es rendeixen cognitivament?

La caiguda en la “rendició cognitiva” implica una doble pèrdua respecte a la “descàrrega”. D'una banda, s'accepten més respostes incorrectes com si anessin correctes i, per una altra, es renuncia a l'habilitat de fer comprovacions. Observen Shaw i Nau que existeix una gran diferència entre deixar que la IA participi en el procés de raonament lent dels humans o que ho faci en el pensament ràpid intuïtiu, un procés que consideren “molt perillós”. Però malgrat això, creuen que en lloc de donar una veu d'alarma, cal aprofitar aquestes vulnerabilitats com “un repte de disseny i educació”.

En la pràctica, aquesta teoria dels tres sistemes obre la possibilitat que es dissenyin “sistemes d'IA que donin suport al raonament humà”. Shaw i Nau proposen que “els dissenyadors d'interfícies d'IA han de considerar quan i com activar els diferents sistemes cognitius. En lloc d'automatitzar completament les eleccions, un disseny eficaç de la IA pot fomentar una col·laboració calibrada, en la qual el Sistema 3 millora i col·labora amb la cognició interna”. El que proposen és que hi hagi modes per a personalitzar els sistemes d'intel·ligència artificial per a adaptar-los a cada usuari. La idea sembla raonable. Només fa falta que els qui dissenyen la IA estiguin interessats a abordar aquest nou enfocament basat en una nova alfabetització digital.

A tot això, el Pew Research Center va publicar ahir una enquesta que revela que un de cada deu adolescents dels Estats Units fa tots o la majoria dels seus deures amb l'ajuda de bots d'intel·ligència artificial. Un percentatge major assegura que fa algunes d'aquestes tasques (21%), mentre que fan pocs són el 23%. Prop del 45% no els ha utilitzat. Si la pregunta se centra en recerca per a un treball, el percentatge és de gairebé la meitat (48%). Aproximadament quatre de cada deu adolescents (43%) afirmen haver-los utilitzat per a resoldre un problema matemàtic, mentre que el 35% els ha usat per a editar un text. Els estudis de futur podran investigar quants d'ells han caigut en la rendició cognitiva i quins problemes poden tenir. Cas obert.