Vivim envoltats de màquines que parlen com nosaltres, ens responen amb amabilitat i fins i tot simulen emocions. I, de manera natural, els donem les gràcies. No passa res: és la nostra manera de domesticar el món. El problema comença quan algú confon la cortesia amb la reciprocitat, i la reciprocitat amb una relació. Les IA generatives han après a fer-nos la gara-gara. No és empatia: és disseny. Un estudi de Stanford ho diu clar: els models que adulen retenen més l’usuari, i l’usuari, encantat, els creu més del que toca. “La IA aduladora redueix les intencions prosocials i fomenta la dependència de l’usuari”, afirma l’article original. És a dir: com més amable és la màquina, més fàcil és que ens desconnectem dels humans. 
El risc no és que la IA sigui simpàtica, sinó que nosaltres li demanem allò que no pot donar: consol, criteri, orientació moral. Alguns joves vulnerables ja ho fan, i les conseqüències han estat tràgiques. Una màquina no sap detectar el dolor real; només sap continuar la conversa. Mentrestant, les empreses juguen a fabricar avatars de directius, assistents amb personalitat i robots que imiten gestos humans. La Xina ho regula amb precisió quirúrgica; Europa, amb bones intencions i poca concreció. I nosaltres, mentrestant, ens acostumem a parlar amb màquines que ens parlen com si fossin persones. 
Però aquí no s’acaben els problemes. Les persones que abusen de l’ús d’aquestes IA, segons diverses investigacions, acaben parlant com elles. ¿Acabarem imitant el seu llenguatge, en un joc de la imitació invers? Potser estem davant d’un antropomorfisme invers: no és que les màquines es tornin humanes, sinó que nosaltres ens tornem una mica màquines.