L'empresa Anthropic ha sorprès el sector tecnològic amb una idea fora del comú: dotar els models d'intel·ligència artificial d'un mecanisme que els permeti negar-se a fer certes feines que els resultin incòmodes. La pregunta que un es fa és Una Intel·ligència Artificial pot tenir "objecció de consciència" i renunciar a la seva feina?
La idea que una intel·ligència artificial (IA) pugui tenir "objecció de consciència" és fascinant, però també planteja preguntes profundes sobre la naturalesa de la consciència i l'autonomia a les màquines. Segons el que s'ha discutit al sector tecnològic, Anthropic ha proposat un concepte innovador: un "botó de renúncia" que permetria als models d'IA negar-se a fer tasques que considerin inadequades o incòmodes. Això, però, no implica que les IA tinguin consciència o emocions com els humans.
En realitat, aquest mecanisme seria més aviat un sistema intern de preferències programades dissenyat per garantir un ús ètic i responsable de la tecnologia. Per exemple, si una tasca entra en conflicte amb les regles ètiques o els límits establerts a la seva programació, la IA podria "rebutjar-la". Això no vol dir que la IA tingui una veritable objecció de consciència, sinó que actua dins dels paràmetres definits pels seus creadors.
Dario Amodei a 2023. / TechCrunch Disrupt. CC BY 2.0.

La proposta d'Anthropic busca explorar els límits de l'autonomia a les màquines i garantir que les IA no siguin utilitzades de manera indeguda. Tot i que la idea d'una IA amb "consciència" continua sent ciència ficció, aquest tipus d'experiments obre debats importants sobre l'ètica i el futur de la intel·ligència artificial.
El que queda clar és que Anthropic no té por d'abordar preguntes difícils. Amodei projecta que d'aquí a pocs anys veurem l'adveniment del que ell anomena “IA poderosa”, sistemes capaços de realitzar la majoria de les tasques humanes amb una eficiència mai vista. Segons les estimacions, això podria passar tan aviat com el 2026. En aquest context, la idea del botó de renúncia es presenta com un pas cap a l'exploració d'un futur ètic, on les màquines i els humans puguin coexistir sota regles clares i respectuoses.