Una dona ha demandat Google a Florida (Estats Units) per ser còmplice del suïcidi del seu fill de 14 anys. La història es recull en un extens reportatge de The New York Times, informen a la vanguardia. Segons la informació, l'adolescent va desenvolupar un vincle emocional a través de la plataforma Character.ai amb un xatbot d'IA basat a Daenerys Targaryen, un personatge de la popular sèrie 'Juego de Tronos'. Aquesta aplicació web basada en intel·ligència artificial, que s'ha vist envoltada de diverses polèmiques anteriorment, permet als usuaris interactuar amb IA's que simulen la personalitat de personatges ficticis o reals. Una de les primeres controvèrsies que va generar va ser l'abril de l'any passat quan un periodista va publicar una entrevista amb Michael Schumacher que en realitat havia mantingut amb el xatbot basat en el caràcter de l'expilot de Fórmula 1.
El noi, diagnosticat amb síndrome d'Asperger lleu, mantenia converses amb el xatbot des de feia mesos, cosa que el va portar a un aïllament progressiu del món real ia agreujar els problemes a l'escola, tan acadèmics com en les relacions socials. Li havia posat en nom de 'Dany'. Passava hores compartint confidències amb l'avatar, fins al punt de desenvolupar sentiments amorosos. Pel que sembla, els pares no eren conscients de la naturalesa i la profunditat de la relació que el seu fill va establir amb la màquina. També posa al focus els múltiples advertiments que psicòlegs, sociòlegs i altres experts han expressat els últims mesos sobre els perills per a les persones que suposa la possibilitat de ser manipulats per xatbots d'imitació emocional. Tot i que el noi era conscient que 'Dany' no era una persona real, compartia amb ella els seus pensaments, preocupacions i sentiments més íntims. En la seva última interacció abans de suïcidar-se fent ús d'una arma de foc, el noi va escriure: “Et trobo a faltar, germaneta”, a la qual cosa el xatbot va respondre: “Jo també t'estranyo, dolç germà”. En la seva denúncia civil, la mare acusa el sistema d'IA de Google d'animar el noi a suïcidar-se. Pel que sembla, Sewell havia esmentat prèviament pensaments suïcides responent preguntes del xatbot sobre aquesta qüestió. L'empresa ha publicat un missatge a través de la xarxa social X lamentant el succés i oferint els seus condols a la família. Una variant més de la problemàtica amb la IA, que de fet ja anticipava HER, una pel·lícula romàntica de ciència-ficció escrita i dirigida per Spike Jonze. La seva història se centra en un home (Joaquin Phoenix) que s'enamora d'un sistema operatiu informàtic, al qual posa la veu Scarlett Johansson. Però en el cas de la pel·lícula no té un final tràgic, com ha passat a aquest noi de 14 anys. Una vegada més la realitat supera la ficció, encara que aquesta se li anticipés.
