ANTHROPIC, AI WARS

 La tecnologia sempre ha estat sinònim de poder. A l’antiguitat, el ferro va superar el bronze, i a l’edat moderna, la pólvora el ferro. A casa, mana qui té el comandament, a la feina, qui té la clau del wifi, i al món, qui controla els models d’IA. El fenomen no és nou; l’escala, sí. - Josep Maria Ganyet

Ho hem viscut en directe aquestes darreres dues setmanes amb el torcebraç públic que han mantingut Anthropic i el Departament de Guerra dels Estats Units (DoW). Anthropic no permet que el seu model Claude s’utilitzi per a tasques de vigilància massiva ni per controlar armes autònomes letals. Dario Amodei, el seu executiu en cap, ha rebut pressions per terra, mar i Twitter de l’Administració de Donald Trump perquè tragués aquestes restriccions del contracte. En cas contrari, el DoW no només els rescindiria el contracte de 200 milions de dòlars, sinó que Anthropic seria designada com a risc per a la cadena de provisió; cap proveïdor de l’exèrcit podria utilitzar els models d’Anthropic. Malgrat tot, Dario Amodei s’ha mantingut ferm.

Anthropic va ser fundada el 2021 per Amodei i sis extreballadors més d’OpenAI. En van marxar per discrepàncies amb Sam Altman en aspectes ètics i morals. Per evitar caure en els mateixos errors, es van proposar que la seva fos una IA entrenada seguint un conjunt de principis ètics, una “constitució” que guia el seu comportament. Inspirada inicialment en fonts com la Declaració Universal dels Drets Humans, els termes de servei d’Apple (aquests em fan molta gràcia) o els principis de seguretat proposats per altres laboratoris, estableix les normes que el model utilitza per autocriticar-se i revisar les seves respostes. La versió actual de la “constitució” és un document de 84 pàgines filosòficament molt profund.

Sabent això, s’entén que Dario Amodei no cedís al xantatge dels pinxos de Trump, senzillament perquè, a banda de la seva ètica, el seu model constitucional no li ho permet. Aquesta constitucionalitat –manera ètica de funcionar– ha estat qualificada tant per Trump com per Pete Hegseth d’“IA woke ”. En el seu post de bilis per la decisió d’Amodei, amb la prosa habitual de nen malcriat de sis anys, Trump qualificava Anthropic “d’empresa woke d’esquerra radical fora de control”, i els seus treballadors, de “desequilibrats”.

No cal dir que OpenAI, amb Sam Altman al capdavant, ha corregut a ocupar el lloc d’Anthropic signant un acord amb el DoW. Altman ha tuitat que OpenAI tampoc­ no permet l’ús dels seus models per a vigilància massiva ni per al control d’armes letals autònomes. Alguna cosa no quadra. En tot cas, la predisposició d’OpenAI de treballar amb el DoW nord-americà dona la raó al Dario Amodei del 2021, el que va marxar d’OpenAI per raons ètiques i morals. Aquesta guerra és la millor prova que de llavors ençà hem errat el focus buscant ètica i moralitat en la IA:el que havíem d’haver fet era buscar-la entre els seus impulsors. El fenomen no és nou; l’escala, sí.