L'AVÍS DE ZOË HITZIG


En la nit dels temps de la intel·ligència artificial, com va passar amb altres descobriments, va existir la debilitat de pensar de manera filantròpica que aquell nou assoliment havia de ser gratuït i universal. I és la mateixa societat la que ha impedit que aquell desig es convertís en realitat. Al nostre món tot té un preu, i molt més les troballes que permeten avançar. Les bones intencions difícilment tenen cabuda en la nostra civilització. Els amos de Silicon Valley que van evolucionar cap a la IA van voler que aquesta nova eina fos universal i gratuïta.

Tot anava pel bon camí fins que el mercat tecnològic va començar a fixar preus a les companyies d’IA. Sense sortir a borsa, el valor d’Open­AI, Nvidia, Gemini, xAI o Anthropic es va situar per sobre dels 1.000 mi­lions de dòlars. I la xifra va anar en augment i amb això, els seus líders, Sam Altman, Jensen Huang, Sundar Pichai, Elon Musk o Dario Amodei, van deixar de defensar les seves intencions inicials.

Quan les xifres van arribar a cotes estratosfèriques, els bons sentiments van donar pas a fusions, enfrontaments, secrets, plets, geopolítica, regulació, poder i una cursa cap a la intel·ligència artificial general –el màxim nivell d’IA– que ha convertit el sector en un camp de batalla. És la guerra de la IA, l’AI war. 

I com en totes les guerres hi ha herois. Una d’aquestes heroïnes és Zoë Hitzig, investigadora científica d’OpenAI. The New York Times va publicar que abandonava la companyia a l’assabentar-se que Altman havia ordenat iniciar proves per col·locar publicitat en les respostes del ChatGPT. Hitzig, poetessa i doctora en Economia per Harvard, desenvolupava programes sobre privacitat i transparència. Quan se’n va anar, va escriure: “OpenAI està cometent els errors que va fer Face­book. Ho deixo”.

Hitzig pensa que una màquina que acumula confessions íntimes de milions de persones no s’hauria de convertir en una plataforma de manipulació. Quan el negoci depèn d’atenció, retenció i segmentació, el sistema podria optimitzar no necessàriament per veritat o utilitat, sinó per dependència i permanència.

L’eina més potent creada mai per l’ésser humà no té fre. I el problema una vegada més no és tecnològic, és de governança. La màquina no és el perill, el perill som nosaltres. Albert Montagut.

16 Comentaris

Més recent Anterior