LA INVASIÓ SILENCIOSA

Zuhair Lakhani és un jove dels Estats Units de 21 anys. Assegura que té una granja amb uns 4.200 mòbils: en un dúplex a Los Angeles allotja uns 1.200 dispositius i la resta, uns 3.000, es troben repartits en altres punts de la ciutat californiana. Lakhani explica que tot aquest exèrcit de telèfons els governa un agent d'intel·ligència artificial (IA), que és capaç de crear en cada un d'ells un perfil a les xarxes socials, principalment TikTok. La IA aconsegueix enganyar l'algoritme de la plataforma navegant durant un parell de setmanes com si fos un humà. Ho fa sense cridar l'atenció: fa scroll sense parar, s'atura, posa likes, comenta, comparteix, s'avorreix… Lakhani assegura que pot crear qualsevol perfil que es proposi. Podria donar vida a una mestressa de 58 anys de Barcelona, a un runner de 37 anys de Riudellots de la Selva o a una jove migrant marroquina que ha arribat amb èxit a Espanya després de creuar per Ceuta. 

Més de 6.000 empreses han arribat a sol·licitar els seus serveis, segons relata ell mateix en un extens reportatge a Intelligencer, la secció de tecnologia i negocis de New York Magazine. Els seus clients li paguen 450 dòlars al mes perquè obri la seva màgia. El seu objectiu no és cap altre que el de vendre un producte. El mateix Lakhani ho detalla d'aquesta manera: “Si ens dius: ‘Vull que venguis les meves raquetes de tennis’; crearem comptes nous per a tu a TikTok i els aclimatarem al nínxol del tennis. Farem que els comptes vegin contingut de tennis, comentin coses de tennis i interactuïn amb temes de tennis perquè els algoritmes reconeguin un espectador més de tennis”, explica.

Així, quan el compte creat per la IA de Lakhani comenci a publicar sobre raquetes, TikTok considerarà aquells vídeos autèntics i els mostrarà a altres tennistes, aquests sí, reals, alguns dels quals voldran comprar el producte que ha aparegut a la seva pantalla per art de (suposada) màgia. Dit en altres termes, influencers sintètics simulen una tendència perquè usuaris reals acabin comprant un producte. Allò artificial es barreja amb allò autèntic fins a fer-se difícil de distingir.

Joe Lim també en sap, de manipulació a les xarxes socials. I també ha utilitzat intel·ligència artificial per fabricar influencers. Estima que el 90% del que un veu a TikTok, Instagram o X és publicitat encoberta. Si els ulls de milions de persones estan en la pantalla d'un mòbil, és allà on s'ha d'anar a buscar els clients.

Nord-americà de 29 anys, Lim va dirigir una empresa anomenada Floodify (un joc de paraules amb inundar, flood, en anglès), que en el moment àlgid va arribar a gestionar 65.000 comptes falsos a les xarxes socials amb l'objectiu de promoure el que els seus clients volguessin. Un sol dia, assegura Lim en un article aVulture, podia publicar 50.000 vídeos en TikTok, Instagram, YouTube i X, tots dissenyats perquè semblessin usuaris normals que espontàniament decidien comentar sobre alguna cosa en concret.

Això són només dos exemples de com actors invisibles poden fabricar artificialment l'aparença d'una tendència o d'un consens, sobre com el màrqueting més tèrbol i també la propaganda han envaït silenciosament les converses d'usuaris reals en aquestes plataformes per provar d'influir en la seva opinió en un sentit o un altre.

El 2 d'agost va entrar en vigor l'article 50 del Reglament d'IA de la Unió Europea, que estableix obligacions de transparència per als proveïdors i els responsables del desplegament de determinats sistemes d'IA. Entre altres mesures, exigeix que els sistemes generatius incorporin mecanismes que permetin detectar el contingut generat o manipulat artificialment i estableix obligacions específiques d'informació per a determinats continguts, entre els quals hi ha els deepfakes i determinats textos creats per IA sobre assumptes d'interès públic. Tanmateix, hi ha una cosa que la norma no resol tan fàcilment: com s'etiqueta un usuari que no existeix?

Les multes poden arribar als 15 milions d'euros o el 3% del volum de negoci mundial total de l'exercici anterior, segons quina sigui la sanció aplicable, amb regles de proporcionalitat per a determinades empreses. Veurem si funciona.

La veritat, que ja venia molt tocada, va morir a Twitter fa anys i allò autèntic ara ha passat a millor vida entre els reels de TikTok i Instagram. Haurem viscut ja algun tipus de revolució, disturbi o agitació social provocat almenys en part per actors sintètics i no ens n'haurem adonat?

Marius Fort Armengol, a la VANGUARDIA