BREUS RESPOSTES PER A LES GRANS PREGUNTES

L'últim llibre de Stephen Hawking, Breus respostes per a les grans preguntes (Crítica) es va publicar el 2018, pocs mesos després de la mort de l'extraordinari físic teòric i divulgador. Tot i que ChatGPT i els grans models de llenguatge que han liderat l'explosió de la IA generativa encara no existien, Hawking ja va deixar escrites en aquesta obra una sèrie de reflexions encertades sobre la intel·ligència artificial que, vuit anys després, estan completament vigents. El científic tenia clar que només és una qüestió de temps que la IA posi els humans en termes d'intel·ligència en la mateixa posició que nosaltres respecte als animals més simples, per això cal estar preparats per a aquest moment.

“Quan una intel·ligència artificial (IA) superi els humans en el disseny de més intel·ligència artificial, de manera que pugui millorar-se recursivament a si mateixa sense ajuda humana, podem enfrontar-nos a una explosió d'intel·ligència que finalment doni lloc a màquines la intel·ligència de les quals superi la nostra en més del que la nostra supera la dels cargols”. En aquesta posició d'inferioritat, Hawking estava convençut que, a la llarga, “la intel·ligència artificial podria desenvolupar una voluntat pròpia, en conflicte amb la nostra”.

Cal recordar Hawking en aquests moments, en què assistim a una carrera desesperada en la recerca de models amb altes capacitats per desbordar el nostre món, tan dependent de la tecnologia que els seus autors no gosen posar-los a fer-los públics. OpenAI ha llançat aquesta setmana GPT-5.6 Sol, el seu model més potent fins ara, amb una llista d'usuaris restringida a uns 20 socis seleccionats a petició del Govern dels Estats Units, a la línia de Claude Mythos d'Anthropic. Aquest ha estat vetat fins i tot per a entitats o especialistes que no siguin nord-americans.

Sol compta amb una capacitat màxima de raonament per al pensament més profund en una intel·ligència artificial i una manera ultra que genera subagents que gestionen paral·lelament tasques complexes per arribar més lluny. Les primeres proves publicades apunten que el model d'OpenAI supera Mythos 5 en alguns dels tests amb què es mesuren les capacitats dels algorismes. En línia amb allò que reclamava Hawking, l'empresa que lidera Sam Altman ha fet de Sol un model molt segur. "El nostre objectiu és fer que les activitats ofensives prohibides resultin més difícils, incertes i detectables, sense limitar innecessàriament aquells usos beneficiosos", va afirmar la companyia en un comunicat.

Paradoxalment, mentre l'administració dels Estats Units s'encastella al voltant de la IA amb una clara posició de domini, el món mira al seu voltant a la recerca de referents. N'apareixen alguns per l'est. Alguns investigadors en ciberseguretat han explicat aquesta setmana l'aparició d'un nou model de l'empresa xinesa Zhipu AI, coneguda com a Z.ai, que pot igualar els més avançats d'OpenAI i Anthropic per detectar errors de seguretat. El tancament dels Estats Units dels models de les seves empreses respecte a altres països posa la Xina al focus mundial.

“Una IA superintel·ligent –va pronosticar Hawking– serà extremadament bona en l'assoliment dels seus objectius, i si aquests objectius no van en la direcció dels nostres tindrem problemes”. Amb tots els avantatges que la intel·ligència artificial podrà aportar a àrees com la salut, el treball, l'educació i la ciència, el científic va reclamar “planificar per endavant”. "Es pot imaginar que una tecnologia com aquesta aconsegueixi burlar els mercats financers, sobrepassar els investigadors humans, manipular líders humans i sotmetre'ns potencialment amb armes que ni tan sols podrem entendre. Tot i que l'impacte a curt termini de la IA depèn de qui la controla, l'impacte a llarg termini depèn de si es pot controlar en absolut".

En aquests albors de la IA, una de les notícies de la setmana és que el gegant automobilístic Ford ha decidit contractar 350 enginyers amb experiència, molts d'ells empleats antics, després que els seus sistemes d'IA no hagin aconseguit els resultats que l'empresa esperava quan va començar a acomiadar persones del seu departament de control de qualitat. És un clar del que passa quan les empreses es precipiten a prescindir de les persones tot esperant uns resultats que la IA no els proporciona. Un informe de la consultora PwC assegura que les empreses que utilitzen la IA per potenciar la seva plantilla obtenen més beneficis que les que substituir una gran part del personal per l'algorisme.

Davant el nou món prometedor que ens obre la IA, Hawking va recordar que es tracta d'una tecnologia tan poderosa que el marge d'error no existeix: “hauríem de planificar el futur i intentar fer les coses bé a la primera, perquè pot ser l'única oportunitat que tinguem”. "El nostre futur -va assenyalar- és una carrera entre el poder creixent de la nostra tecnologia i la saviesa amb què la usem. Assegurem-nos que guanyi la saviesa". Ja està tot dit.

“El nostre futur és una carrera entre el poder creixent de la nostra tecnologia i la saviesa amb què la fem servir” - Stephen Hawking. - Francisco Bracero Osuna - La Vanguardia