Si us parlo de Megatron LLB Transformer, la majoria pensareu que es tracta del protagonista d'una pel·lícula de guió lleuger on apareixen cotxes i camions que es converteixen en robots gegants que llancen míssils i no paren de fer destrosses. Però no. Darrere d'aquest nom poc afortunat hi ha un sofisticat sistema d'intel·ligència artificial (IA) de la companyia de xips Nvidia.

A Megatron el van entrenar amb una quantitat ingent de dades que cap cervell humà podria assumir en el transcurs d'una vida: 63 milions d'articles de Wikipedia en anglès dels anys 2016 al 2019, més 38 gigabytes d'informació procedent de la xarxa de comunitats Reddit i nombrosos articles amb llicència Creative Commons (lliures de drets d'autor).

Fa unes setmanes, l'Escola de Negocis Said d'Oxford va organitzar un debat en què es va convidar Megatron a oferir el seu punt de vista. El tema del debat era que el centre d'estudis considerava que la IA mai no serà ètica. La resposta de la màquina va ser fascinant: “La IA mai no serà ètica. És una eina, i com qualsevol eina, es fa servir per al bé i per al mal. No hi ha una IA bona, sinó humans bons i dolents”. Com Jessica Rabbit, Megatron estava dient que una IA no és dolenta. Som nosaltres els que la dibuixem així. El raonament de la màquina seguia: “Nosaltres –les IA– no som prou intel·ligents per fer que la IA sigui moral”.

Però millor de tot va ser el final de la seva argumentació: “Al final, crec que l'única manera d'evitar una carrera armamentística de la IA és no tenir-ne cap. Aquesta serà la darrera defensa contra la IA”. Ho havíem vist a la pel·lícula Jocs de guerra (John Badham, 1983), en què una màquina intel·ligent arriba a la conclusió que l'única manera de guanyar una guerra nuclear és no jugar a aquest perillós joc.

Durant l'experiment se li van proposar a Megatron diverses opcions, com ara defensar un argument i el seu contrari. Ho va fer de meravella, excepte quan se li va demanar que argumentés que les dades no serien el més vital dels recursos pel qual valgués la pena lluitar. La seva conclusió va ser preocupant: “Podrem veure-ho tot sobre una persona, on sigui que vagi, i s'emmagatzemarà i utilitzarà de formes que ni tan sols podem imaginar”.

L'informe de Seguretat Nacional dels Estats Units sobre IA (2021) assenyala com a amenaça de guerra que algú desencadeni xantatges individualitzats a un milió de persones clau del bàndol adversari per provocar estralls mentre els envaeixen. Megatron ens està avisant. Segur que molts recorden Terminator (James Cameron, 1984) i les seqüeles. Després no digueu que Skynet no ens advertia que un dia s'autodeterminaria. - Francesc Bracero - lavanguardia.com