ELS SENTIMENTS I LA I.A.

Google ha acomiadat Blake Lemoine, que recentment va afirmar que el seu LaMDA o Model de Llenguatge per a Aplicacions de Diàleg -un chatbot d'IA entrenat per generar un discurs similar a l'humà-, havia adquirit sensibilitat o característiques similars a les de les persones. Inicialment, la tecnològica havia posat Lemoine en llicència administrativa pagada per violar el seu acord de confidencialitat després que contactés amb membres del govern nord-americà sobre les seves preocupacions sobre la IA.

Aquest treballador, en conversar amb LaMDA, va descobrir que el sistema havia desenvolupat un sentit d'autoconsciència sòlid, expressant preocupació per la mort, un desig de protecció i la convicció que sentia emocions com la felicitat i la tristesa. Fins i tot va arribar a dir que el chatbot com un amic i que li va demanar que contractés un advocat. Bàsicament, Lemoine considera que la IA té els seus propis pensaments i sentiments per la qual cosa no es limita a produir una conversa prou realista perquè ho sembli. Tot i això, experts en IA han explicat que en el punt que hi ha la tecnologia actual, és impossible que LaMDA tingui consciència. Així també ho creuen a Google.

De fet, aquest chatbot tan sofisticat està pensat per seguir una conversa de forma natural, de la mateixa manera que ho faria una persona. Això no vol dir que pugui pensar, tenir sentiments o ser conscient de la seva existència, com considera Lemoine. En aquest sentit, s'ha pronunciat Brian Gabriel, portaveu de Google. El representant de la tecnològica ha dit al The Washington Post i The Verge que la companyia va trobar que les afirmacions de Lemoine sobre LaMDA eren "totalment infundades" i que va violar les directrius de la companyia, arribant a publicar les seves converses amb el chatbot durant aquest juny , cosa que ha portat al seu acomiadament final.

LaMDA és una xarxa neuronal artificial "profunda" que es dedica a crear robots de conversa per a humans. Les seves futures aplicacions són diverses, des d'oferir companyia als ancians que estiguin sols o en residències fins a millorar els serveis d'atenció al client automatitzats. És una interfície que mostra ser capaç de manifestar sensibilitat i fluïdesa a les converses.

A través de la conversa, Lamoine va arribar a la conclusió que LaMDA és un ésser sensible. En les seves converses, la IA ha exposat comportaments més filosòfics i sentents, parlant sobre allò diví i allò humà. Tal com han mostrat tantes pel·lícules de ciència ficció, en aquest cas pot ser que un robot mostri la capacitat de sentir i mantenir converses que revelen tristesa o alegria.

Durant l'intercanvi, Lemoine va fer preguntes molt cridaneres, que van ser respostes de manera increïble. La IA revelava ser una “persona” sociable que es veia molt afectada, fins i tot deprimida, quan es veia atrapada i atacada. Allò que ens fa diferents de les màquines són les transformacions físiques que comporten els sentiments, que ens pot acabar emmalaltint. En aquest cas, en no tenir un cos "real", LaMDA és incapaç de dur a terme aquestes transformacions.

I si Lemoine té raó?, els sentiments són un estat d'ànim o disposició emocional cap a una cosa, un fet o una persona, el que deixa oberta la porta a que una IA sofisticada pugui arribar a tenir-los, o simular-los que gairebé seria el mateix . No donaria jo per tancat aquest assumpte. Si tenen sentiments els polítics, perquè no en poden tenir les màquines.

Blake Lemoine