¿Podem confiar en un professional que utilitza la IA generativa en la seva feina? La creixent ubiqüitat d'eines com ChatGPT en tots els aspectes de la vida quotidiana desperta temors sobre si pot suposar manca de rigor, un engany o una vulneració dels drets de creadors i usuaris. La intel·ligència artificial generativa és cada cop més accessible per a cada vegada més persones, que l'utilitzen per buscar respostes a les preguntes del dia a dia. No obstant això, persisteixen els dubtes sobre la qualitat i la precisió de la informació que subministra, sobretot per a un ús professional. La pregunta es va tornar a plantejar arran de la polèmica suscità pel primer ministre suec, Ulf Kristersson, que fa un mes va dir que utilitzava ChatGPT per obtenir una 'segona opinió'. Dos experts donen la seva opinió sobre el tema.

La responsabilitat última ha de ser d'un humà - Ulisses Cortés - No podem fiar-nos d'un professional que utilitza una eina comercial de la IA generativa (GIA) en el treball, però aquesta censura ha d'anar acompanyada d'una reflexió crítica sobre el context en què s'empren aquest tipus de solucions, sota quines condicions s'utilitzen i a qui pot afectar el resultat si les seves recomanacions poden impactar en humans o en el medi ambient.

Aquestes eines, encara que potents i versàtils, solen patir de la falta de certificació rigorosa. Moltes de les solucions comercials disponibles, com els grans models de llenguatge, han arribat al mercat amb rapidesa, sense comptar amb processos d'auditoria homologats ni amb mecanismes estàndard de verificació dels seus resultats exigibles a qualsevol producte. Per tant, confiar a cegues en els resultats que produeixen, sense una supervisió o validació humana, seria una imprudència metodològica, professional i legal.

La fiabilitat d'un professional ha de mesurar-se, en gran manera, pel seu domini crític de les eines que utilitza en el seu treball. El fet que una persona incorpori una eina basada en la IA en el seu flux de treball no és inherentment negatiu; de fet, aquest tipus d'eines estan en ús fa trenta o quaranta anys en entorns controlats i especialitzats com el diagnòstic mèdic o els filtres antispam. L'ús d'eines GIA és distint, perquè s'assumeix que són capaços de donar respostes correctes a qualsevol pregunta general realitzada per treballadors menys experimentats en l'ús d'eines complexes. La clau de l'ús apropiat d'aquestes eines resideix en el fet que aquests professionals coneguin les limitacions, els possibles biaixos i errors, mal anomenats al·lucinacions, que produeixen aquests models. No n'hi ha prou amb usar l'eina: cal entendre com i quan les seves respostes requereixen revisió i, si escau, correcció.

A més, tenim els elements ètic i legal. La GIA opera a partir de grans quantitats de dades, gairebé sempre recopilats sense possibilitat de traçabilitat individual ni garantia de veracitat per a cada entrada. Aquesta opacitat representa un risc, tant per la possibilitat de generar contingut erroni o enganyós, com pel potencial per a infringir drets d'autor, diluir l'originalitat o perpetuar biaixos socioculturals presents en les dades d'entrenament.

Des d'una perspectiva d'impacte sobre el treball i la creativitat, la GIA pot tenir la virtut de potenciar l'eficiència operativa, però no pot substituir el judici crític, la capacitat de discerniment ni la creativitat inherent al treball humà. On les eines basades en la IA representen una oportunitat és a automatitzar tasques repetitives i explorar patrons en grans volums d'informació; no obstant això, l'avaluació, adaptació i decisió final han de recaure en el professional humà.

Una altra aresta rellevant és la del control sobre la tecnologia. Les grans plataformes comercials de la IA solen estar en mans d'empreses estrangeres, significant que tant les dades com la propietat intel·lectual vinculada als resultats poden escapar a la jurisdicció i els interessos locals o europeus. És important que els professionals siguin conscients d'aquest fet i, en la mesura del possible, orientin l'adopció d'aquestes eines cap a entorns auditables, transparents i alineats amb els valors i prioritats de la nostra societat.

En conclusió, el nombre de professionals capaços d'usar eines de la IA generativa comercial en el seu treball és reduït. Per a augmentar aquest número i la qualitat i seguretat és necessària una capacitació crítica, ètica i tècnica, i que l'eina s'empri amb responsabilitat, transparència i sentit de supervisió. La maduresa professional en l'adopció de IA no resideix a delegar tasques en la màquina, sinó a integrar-la com una eina d'ajuda que potencia les nostres capacitats, assegurant-nos que el judici i la responsabilitat última continuen sent d'un humà. Ulisses Cortés és catedràtic d'intel·ligència artificial de la Universitat Politècnica de Catalunya (UPC).

No culpemos a la herramienta - Cecilia Celeste Danesi - Sentar a una persona en el banquillo de los acusados por reconocer lo que todos hacen resulta, cuanto menos, hipócrita; pero no es la primera vez que sucede. “El que esté libre de pecado que tire la primera piedra”, ¿no? El primer ministro sueco, Ulf Kristersson, reconoció que recurre “con bastante frecuencia” a herramientas de inteligencia artificial (IA) para tener una “segunda opinión”, y las críticas no tardaron en llegar. El primer punto a tener en cuenta es la fiabilidad y la robustez de las respuestas que ofrecen los modelos como ChatGPT. En reiteradas ocasiones somos testigos de las absurdas respuestas que nos dan los sistemas de IA. Pero el problema no son los fallos del sistema, sino qué hacemos con esas respuestas y, sobre todo, hasta qué punto podemos apartarnos de ellas.

La psicología y las neurociencias emplean varios conceptos para describir el fenómeno de cómo ciertos estímulos, pruebas o elementos externos condicionan en buena medida nuestra toma de decisiones: el efecto de encuadre (framing effect), los heurísticos y los sesgos cognitivos (cognitive biases/heuristics), el pequeño empujón conductual (nudging), los efectos de activación (priming) y de sugestión o anclaje (anchoring effect) y, sobre todo, el más reciente: la delegación cognitiva (cognitive offloading), que se da cuando confiamos demasiado en herramientas externas como la IA para tomar decisiones en lugar de procesar de manera crítica.

Pero, estos riesgos ¿deberían llevarnos a no utilizar la IA en el ámbito laboral o incluso a prohibirla? No. Sí deberían, en cambio, alertarnos, hacernos más conscientes para “protegernos”, pero sin privarnos de sus beneficios. Para proteger la actividad mental y cerebral de las neurotecnologías nació, de la mano de Rafael Yuste, una nueva generación de derechos humanos: los neuroderechos.

Si un político (o cualquier otro profesional) realiza una acción o toma una decisión dañina, podrá ser demandando y eventualmente condenado a repararlo. El ejemplo típico es el del médico que se apoya en sistemas de IA para hacer un diagnóstico: si el sistema falla, la responsabilidad sigue recayendo en él.

Otro punto de conflicto es la privacidad de los datos y la confidencialidad. Si bien el portavoz de Kristersson aclaró que no se trataba de información reservada, existen formas de consultar a una IA sin exponer información sensible y de manera que se garantice la privacidad.

Nos arriesgamos a decir que cualquier persona conoce la eficiencia en el volumen y la velocidad de acceso a la información de la IA. Ahora bien, la dinámica propia y la de nuestros equipos de trabajo no siempre es clara e integral. La IA podría auxiliarnos y favorecer la eliminación de estos puntos ciegos.

La IA es una realidad en todas las disciplinas y ámbitos. No podemos desconocer sus beneficios y menos aún que es utilizada en ámbitos sumamente sensibles como la medicina, la justicia y las tareas de gobierno. Debemos trabajar para que su uso sea ético, inclusivo y respetuoso con los derechos humanos. El paraguas de la gobernanza ética de la IA es la brújula. Veamos algunas propuestas: Utilizar los sistemas siempre bajo supervisión humana y con auditorias algorítmicas de aquellos que pueden causar grandes daños o se usan en sectores críticos.

Protocolos: en las áreas sumamente críticas se pueden definir normas de uso y capacitación obligatorias para garantizar que los usuarios conozcan sus riesgos, en especial en materia de sesgos algorítmicos. Transparencia y responsabilidad: también es posible exigir a las instituciones públicas que usen la IA que deban declararlo. La responsabilidad siempre recaerá en una persona y no en el sistema.

El caso sueco supone un ejemplo más del elefante en la habitación: mientras algunos temen perder soberanía frente a la tecnología y la demonizan, otros la consideran una aliada. No se trata de estar en un extremo u otro, sino de construir con diálogo social un punto de equilibrio. Cecilia Celeste Danesi es codirectora del máster en Gobernanza Ética de la Inteligencia Artificial de la Universidad Pontificia de Salamanca. 

                                                  Opinión El País