LA IA I LA DEMOCRÀCIA

Des que en vaig parlar per primera vegada, ha estat recurrent més d'un escrit sobre el ChatGPT, potser per que de seguida vaig intuïr que no era una joguina més, que estàvem davant d'un nou paradigma que cambiaria moltes coses dins el món de la comunicació i l'ensenyament. Lluís Uria, en el seu article a la  Vanguardia va més enllà i questiona si la Ia pot arribar fins i tot a influir en el món de la política local i global, no fins al punt de l'Skynet de Terminator, o HAL9000 de 2001, o ves tu a saber, que estem en un territori deconegut que ens continúa superant.

"Els robots estan obsessionant –quan no angoixant– els éssers humans des de fa un segle. El primer que va utilitzar la paraula 'robot' per designar un ésser artificial dotat de qualitats gairebé humanes va ser l'escriptor txec Karel Capek, que el 1921 va estrenar a Praga una obra de teatre – R.U.R. (Robots Universales Rossum) – on apareixien uns humans artificials, fabricats per treballar, que acabaven rebel·lant-se contra els seus creadors. Els robots, com a perill per a l'existència de la humanitat.

Des de llavors, els robots han poblat la literatura i el cinema. A la pel·lícula Metròpolis (1927), Fritz Lang va posar al cel·luloide una distòpica ciutat-estat en el llavors llunyà any 2026, segregada entre una classe dirigent totpoderosa i una classe obrera esclavitzada, on un robot humanoide era utilitzat per suscitar una rebel·lió violenta. La primera trobada de la meva generació amb un altre robot cinematogràfic, dotat d'intel·ligència i lliure albir –i també de doblega i maldat–, va ser amb el supercomputador HAL 9000 que governava la nau Discovery a la pel·lícula de Stanley Kubrick 2001, una odissea a l'espai , estrenada el 1968. HAL, que fins i tot recordava una cançó de la seva infància a Chicago (“Daisy, Daisy...”), entaulava una lluita a mort amb els astronautes a qui en principi havia de servir i obeir.

El fulgurant desenvolupament de la intel·ligència artificial (IA), amb la recent i espectacular aparició del bot conversacional ChatGPT d'OpenAI –darrere del qual hi ha Microsoft– i l'anunci del que serà el proper competidor –Bard, de Google–, és una autèntica revolució que obre la porta a canvis transcendentals a les nostres societats. I torna a posar sobre la taula els riscos d'una tecnologia cada cop més poderosa. ChatGPT, que emmagatzema i processa milers de milions de dades, és capaç d'elaborar textos sobre qualsevol tema i en tota mena d'estils, resoldre problemes i conversar amb l'usuari gairebé com si fos una persona. La seva potència, encara en desenvolupament, suscita nombrosos interrogants a tots els dominis humans. Inclosa la política.

Quina funció pot tenir la IA en la gestió dels afers públics? Fins on hauria d'arribar el paper? Qui controlaria la seva actuació? Quin risc hi ha que interfereixi i desnaturalitzi el debat polític? Podria acabar prenent decisions en lloc d'un ésser humà? Sembla ciència ficció, però sondejos realitzats a diferents països europeus indiquen que entre un 25% i un 40% dels ciutadans podrien arribar a acceptar la substitució dels polítics per una IA.

Hi ha qui ja ha jugat amb aquesta possibilitat. El 2018, a la ciutat japonesa de Tama (perifèria de Tòquio), dos gurus de la tecnologia van presentar un robot d'aspecte femení –batejat amb el nom de Michihito Matsuda– a les eleccions locals, prometent que una IA podria gestionar els assumptes locals de manera més fiable i justa que els polítics a l'ús. La robot va acabar obtenint el 9% dels vots, i va quedar en tercer lloc. I a les eleccions legislatives daneses del novembre passat un col·lectiu d'artistes va intentar presentar –sense èxit– una nova força política, el Partit Sintètic, amb un robot com a cap de cartell, un chatbot de nom Leader Lars al qual van introduir les reivindicacions dels partits minoritaris danesos des de 1970 fins avui (cosa que va donar lloc a propostes inversemblants com establir una renda mínima universal de 13.440 euros al mes)

Més enllà de les bromes, l'assumpte és extremadament seriós i els advertiments sobre els riscos, nombrosos. La comissària de drets humans del Consell d'Europa, Dunja Mijatovic, va resumir el juny del 2021 les amenaces al terreny polític en una: la “manipulació de l'opinió pública”. Mijatovic va recordar que les noves tecnologies digitals i les xarxes socials han propagat la desinformació i incitat a l'odi i la violència, “infonent por a la població i fomentant els moviments antidemocràtics d'extrema dreta”. I va fer una crida a aprovar una regulació perquè les grans tecnològiques actuïn d'acord amb el marc legal dels drets humans.

Què pensen de tot això els mateixos robots? Preguntat directament sobre la qüestió, ChatGPT considera que, per una banda, la intel·ligència artificial pot ser de gran ajuda –mitjançant l'anàlisi de grans quantitats de dades i informació– per fonamentar les decisions polítiques. Però adverteix així mateix dels seus perills: “La IA també té el potencial de soscavar la democràcia si no es regula adequadament i es fa servir de manera ètica. Per exemple, la IA es pot utilitzar per manipular l'opinió pública, suprimir les veus dissidents i soscavar la privadesa i les llibertats civils”.

ChatGPT sembla, ara com ara, aferrat als principis democràtics. I no creu que la IA pugui arribar a substituir els polítics: “No té la capacitat d'empatia, creativitat i judici moral que són fonamentals per prendre decisions polítiques i ètiques complexes”. "La idea que els sistemes d'IA podrien prendre decisions en nom dels ciutadans, sense cap supervisió o responsabilitat humana significativa, soscavaria els fonaments de la governabilitat democràtica", afegeix.

Però fins on arriben les conviccions d'un chatbot que reconeix “no tenir creences o opinions personals”? No gaire lluny. Tot depèn de qui estigui darrere de la programació. “Si estigués programat amb una altra orientació ideològica –admet–, seria capaç de generar respostes consistents amb aquesta ideologia”. No hi ha més preguntes, senyoria".