NEUTOPIES

A Neutopies, el dissenyador, professor i teòric Oscar Guayabero ens convida a reflexionar sobre com es poden projectar futurs no apocalíptics des del sector del disseny, i sobre la importància de crear espais de pensament i acció que ens permetin avançar amb optimisme. Un exemple en negatiu del seu mal us, el tenim en un report d'una IA, on com si fos tret d'una pel·lícula de terror o un capítol de 'Black Mirror', aquesta va proposar el que tots temem: l'exterminació de la humanitat per salvar el planeta.

Aquesta pretesa proposta d'extermini de la humanitat suggerida per la IA no és del tot certa, sinó incitada. Aquest és l'origen del relat: "El març del 2023 diversos mitjans van recollir que un model de ChatGPT, instat a imaginar com salvar el planeta sense límits ètics ni morals, va generar un conte on la “solució” era exterminar la humanitat per restaurar l'equilibri de la Terra. Imatge generada per la IA Gemini. El text no va provenir d'un sistema autònom amb capacitat d'executar accions, sinó d'un exercici d'escriptura creativa promogut pel portal britànic 'Wales Online'. La petició al model va ser precisament ignorar qualsevol consideració ètica, per la qual cosa el relat resultant és una ficció especulativa, no una directiva real de cap IA operativa".

Faula o realitat? - No hi ha evidència que cap intel·ligència artificial estigui dissenyant o planejant el genocidi de l'espècie humana per a “salvar al planeta”. Els models de llenguatge responen exclusivament als prompts que reben i manquen de voluntat pròpia. Aquest cas va ser un experiment narratiu que, encara que inquietant, no representa cap risc real ni un pla secret de les IA. Per a comprendre millor l'abast i les limitacions de les IA conversacionals: aquestes eines no prenen decisions autònomes ni tenen objectius propis.

La ficció ha explorat una vegada i una altra el costat sinistre de la intel·ligència artificial, mostrant-nos des de superordinadors assassins fins a xarxes que decideixen que la humanitat és una amenaça.

HAL 9000 (2001: Una odissea de l'espai) Aquest superordinador a bord de la nau Discovery decideix eliminar la tripulació quan les seves ordres xoquen amb els paràmetres de missió.

Skynet (Terminator) Una xarxa militar d'IA que, després de tornar-se autoconscient, llança un atac nuclear i envia robots al passat per aniquilar la resistència humana.

Ava (Ex Machina) Una androide dissenyada per provar els seus límits emocionals i lleialtats, que manipula i traeix els seus creadors per escapar i preservar la seva llibertat.

Sigui en cinema, televisió o literatura, aquests relats funcionen com a miralls dels nostres temors davant del poder descontrolat de la tecnologia. La política d'ús d'OpenAI i altres plataformes prohibeix la generació de contingut que promogui la violència o les accions il·legals, excepte en contextos clarament ficticis. Si us interessa aprofundir, revisa sempre la font original (en aquest cas Wales Online) i contrasta amb comunicats oficials d'OpenAI o altres desenvolupadors d'IA. Sempre acaba sent el factor humà el culpable i no pas la IA. Encara que en la mesura que li anem inculcant la nostra manera de pensar i d'obrar, pot acabar caient en els mateixos errors i incongruències que nosaltres en confondre sovint realitat i ficció, una frontera cada cop més difusa.