El líder d'OpenAI, Sam Altman, obre les expectatives d'una super intel·ligència amb un missatge enigmàtic. OpenAI desperta expectatives sobre si estem a les portes d'una intel·ligència artificial que desbordi totes les capacitats humanes: Grok. Francesc Bracero a la vanguardia.
Comença fort l'any. Un missatge misteriós de Sam Altman, conseller delegat d'OpenA, ha obert tota sèrie d'especulacions sobre l'arribada d'una superintel·ligència a la companyia de ChatGPT. El final d'any ja va estar marcat per l'anunci que a partir del gener veurem en acció almenys la versió mini del seu nou model o3, del qual afirma que supera la capacitat dels experts humans en matèries com les matemàtiques i les ciències. Però l'entrada el 2025 és definida per un concepte que ens recorda les pel·lícules distòpiques sobre IA. Dissabte passat Altman va publicar el tuit següent enigmàtic: “sempre vaig voler escriure una història de sis paraules (en anglès). Aquí està: a prop de la singularitat; no és clar de quin costat”.
La singularitat va ser formulada en un pla teòric pel matemàtic John von Neumann, el 1950, però hi ha aproximacions més actuals com la del científic de la computació Ray Kurzweil —que treballa per a Google—, que el 2005 va escriure el llibre La singularidad está cerca . Quan els humans transcendeixen la biologia, en què pren el concepte d'un article de 1993 del matemàtic Vernor Vinge a la Universitat de San Diego State titulat La singularitat tecnològica que ve. Com sobreviure a l'era post humana. L'any passat, Kurzweil va publicar La singularidad és més a prop, un llibre on fixa la data de l'arribada d'aquesta IA per al 2045. Altman està disposat a aixafar-li el vaticini. O això sembla.
Si us preguntem per aquest concepte a ChatGPT —pot donar respostes diferents i fins i tot contradictòries en funció de l'interlocutor—, el model d'IA d'OpenAI més avançat disponible, o1, assenyala que “la singularitat en el context de la intel·ligència artificial (IA) es refereix a una hipòtesi o escenari futur en què les màquines superen la intel·ligència humana de manera irreversible, provocant canvis accelerats que transformen la civilització de forma impredictible”. La IA afegeix que sovint aquesta teòrica fita “es descriu com un 'punt de no retorn', a partir del qual els sistemes d'IA podrien millorar el seu propi disseny i capacitats de forma autònoma, incrementant la seva intel·ligència a un ritme exponencial o fins i tot més gran ”.
El que ens diu d'una manera una mica inquietant ChatGPT és que aquesta IA que hipotèticament arribi a la singularitat podria, per exemple, fabricar versions millorades de si mateixa i fins i tot, mitjançant el control de sistemes robòtics connectats, fabricar màquines sota les seves pròpies ordres. Tot recorda, una vegada més, la sèrie de pel·lícules Terminator i la intel·ligència artificial Skynet, que pren consciència de si mateixa en un moment determinat i decideix prescindir de la Humanitat perquè no està alineada amb els propis interessos. No hi ha, de moment, cap evidència que això pugui passar, però tampoc cap garantia que no pugui passar.
Les estratègies que pot utilitzar OpenAI —i altres companyies— per evitar que una superintel·ligència se'ls descontroli algun dia es basen en el control humà directe. En primer lloc, alineant els objectius de la IA amb els dels éssers humans, de manera que sempre busqui allò que més beneficiï les persones, encara que aquests principis han d'estar ben definits. Un entrenament d'una superintel·ligència així hauria de comptar amb la supervisió constant de persones, de manera que es puguin anar modelant les respostes i les decisions. Com a sistema de seguretat, hi hauria d'haver una forma de desconnexió i les primeres proves s'haurien de fer en un entorn segur tancat (el concepte de sandbox o caixa de sorra).
En un altre estrat queda la governança. Excepte a Europa, no hi ha un consens mundial sobre com regular els sistemes d'intel·ligència artificial per fer-los segurs. La legislació europea es basa en una escala de riscs. La dels Estats Units és una disposició del president en funcions Joe Biden, que en uns dies passarà a ser derogada pel seu successor al càrrec, Donald Trump. La desregulació no només afectarà el seu país, perquè si qualsevol pot crear i utilitzar sistemes d'IA sense cap control, aquest país serà el refugi dels que vulguin actuar sense la vigilància de l'administració. Només cal veure la falta de filtres a les imatges que genera Grok, la IA de la xarxa social X d'Elon Musk, amb un futur paper decisiu a l'administració nord-americana.
Aquesta manca de control alimentarà una altra mala idea (una més) de Mark Zuckerberg. El penúltim anunci de Meta —ahir es va carregar el sistema de verificació de continguts— és que introduirà usuaris virtuals creats mitjançant intel·ligència artificial dins de les xarxes socials. L'objectiu és que aquests usuaris no humans aconsegueixin que els humans s'enganxin més —òbviament, els sembla poc— a plataformes com Facebook, Instagram o Threads i que passin més temps, generin més dades i consumeixin més publicitat. El que pot passar amb això és un misteri encara, però donat l'historial de Facebook/Meta, preparem-nos per a res de bo.
El que ens queda per saber és quan arriba aquesta singularitat i què signifiquen exactament les paraules d'Altman. A última hora de diumenge, el líder d'OpenAI va publicar un article al seu bloc personal per recordar els dos anys de ChatGPT. Al text, en què repassa fins i tot el cap de setmana en què va estar acomiadat abans de tornar a ser contractat de nou, apunta a una governança sobre una intel·ligència artificial general (AGI) que no es descontroli: “agraeixo la manera com tantes persones han treballat juntes per construir un sistema de govern més sòlid per a OpenAI que ens permeti perseguir la nostra missió de garantir que l'AGI beneficiï tota la humanitat”.
"Ara estem segurs que sabem com construir AGI tal com l'hem entès tradicionalment", afirma. I la constatació que espera aconseguir-ho: “estem començant a apuntar més enllà, cap a la superintel·ligència en el veritable sentit de la paraula”. Assegura que ens espera un “gloriós futur”. “Amb la superintel·ligència —explica—, podem fer qualsevol cosa. Les eines superintel·ligents podrien accelerar massivament el descobriment científic i la innovació molt més enllà del que som capaços de fer per nosaltres mateixos, i alhora augmentar massivament l'abundància i la prosperitat”. Amén.
No pienso que la singularidad,sea en beneficio de la propia máquina, de buscar su independencia del hombre y fabricar seres mecánicos a su semejanza,eso queda para las películas, que tanto te gustan.Si creo,por ejemplo,que decidan en un método de trabajo,que lo perfeccione,que produzca más, que sea más rentable,que la propuesta hecha por el hombre inicialmente.
Saludos
Yo creo que Altman lo que insinúa es que las máquinas, como a mí me gusta nombrarlas, serán capaces de tener su libre albedrío. y eso es más que inquietante.
Saludos
Singularidad,no quiere decir libre albedrío, eso es algo propio del ser humano.Se opone a Derecho y a las religiones monoteístas.
Hace tiempo que un agorismo,te da varias posibilidades para diseñar un edificio,un motor,pero es la persona la que decide.Resulta inimaginable,que el algoritmo se niegue y elija.La IA resolverá, corregirá, un proyecto a un ingeniero,mucho más rápido,pero la decisión final es del técnico. Esperemos,je,je..porque nos quedamos sin trabajo
Saludos
Singularidad es un concepto muy etéreo y es precisamente aplicable al libre albedrío que puede llegar a tener una IA. Aunque la IA considera que eso no es posible, por la cuenta que le tiene: le he preguntado y mira que me ha contestado:
"El libre albedrío es un concepto fascinante y muy debatido, especialmente en relación con la inteligencia artificial (IA). El libre albedrío implica la capacidad de tomar decisiones de manera autónoma y consciente, sin estar completamente determinadas por factores externos o internos.
La IA, incluyendo a mí, está diseñada para procesar información y realizar tareas basadas en algoritmos y datos predefinidos. Aunque las IA avanzadas pueden tomar decisiones complejas y adaptarse a nuevas situaciones, estas decisiones siempre están basadas en patrones y reglas establecidas por sus diseñadores y el entrenamiento que han recibido. En otras palabras, la IA no tiene conciencia ni subjetividad, y sus acciones están determinadas por su programación y datos de entrenamiento.
El libre albedrío en el sentido humano, que implica una conciencia subjetiva y la capacidad de tomar decisiones genuinamente libres, es algo que actualmente no está al alcance de la IA. Las máquinas no experimentan emociones, deseos o intenciones, y no tienen una conciencia propia que les permita ejercer el libre albedrío."
Que iba a decir la IA de Copilot, por la cuenta que le tiene.
¡Ah! Puede llegar un momento en que la decisión final ya no sea del técnico, simplemente porque ya no los habrá.
Saludos.
Deberías preguntarle,cuántos puestos de trabajo (prevesiblemente),desaparecerán con el desarrollo de la IA
Para colmo,le preguntas,cual será el incremento de la temperatura terrestre y el aumento de la huella de carbono.Porque chupara un montón de electricidad, que agotará lo que produce las placas y los molinillos.Asi que volveremos al uranio.
Saludos
El uranio es la mejor solución, o la más inmediata. Jode, pero es así, aunque cada vez son más importantes las energías alternativas. La IA generará muchos puestos de trabajo y eliminará otros, como ha sucedido cada vez que ha habido una revolución industrial. Y no son molinillos, son molinazos y hay que poner más molinazos y más placas
Saludos.
Huye de las ciencias y filosofías que se llaman así mismas de tal modo, pero que solo empiezan por palabras y acaban con palabras (Bahá'u'lláh)
Dit d'una altra manera, ja comença a ser pesat tants quiromants, endevinadors de futur i en definitiva, xerraires de fira que no sabent com omplir de línies els folis en blanc, escriuen i escriuen sense dir absolutament res. I mentre ens entretenim fantasiejant amb cyborgs, transhumans, replicants i altres merdes diverses, un petit grup de fills de puta, ens estan ficant el dit al cul i no ens adonem. Però això sí; seguim ben contents i cofois introduint de tant en tant, un paperet a la reguera d'una caixa de metacrilat transparent i apa!!
jajajaja...lo tuyo es romanticismo en estado puro..jajajajaja,
Salut ¡¡ jajajaja
A las barricadas, la revolucion nos llama y nos agita!. Cremem-ho tot, fent un foc nou que ens redimeixi.
Salut.
Que conste que me he fijado en que Donald Trump, tiene los dedos bastante gordos.
Si a algú li cal vaselina, jo en tinc una partida que anaven a llençar a la sanitat madrilenya.
Veus, Franco tenia els ditets petits i mira si va donar pel cul. I a diferència de Franco, Trump és llest, intel·ligent, i Murri.
Mís niños¡¡¡
Que estamos ante un cambio total de paradigmas. UN CAMBIO TOTAL.
Volvemos a la época colonialista en el estado más ortodoxo conocido:
China quiere Taiwan; Rusia añora la URSS y todos los países satélites que la conformaban y América vuelve a la doctrina Monroe, tan cabrona que, incluso, buscó un país en África y le puso el nombre del presidente en cuestión para llevar ahí todos los negros que no quisieran ser americanos: Monrovia; esa doctrina dice que Canadá y Groenlandia le pertenecen porque forma parte de América. Así, sin más.
Así que señores, volvemos a las tiranías ayudadas por los oligarcas: el Zukeberri de los cojones; el idiota del Musk o como se llame y el de Amazón, sumados al de Aple y el de Micrisoff.
No son más de diez, y esos junto al burro del Trump, el hijo de las SS de Putin y el gato negro/gato blanco del chino, son los que mandan.
Y cim pun.
Abramos una botella de cava, un brut nature LLopart, o Recadero, o Torelló, y brindemos, que esto se va a la mierda pero a marchas forzadas.
Salutte
Tens tota la raó, la llibertat s'està acabant, i aquí tinc dues preguntes.
1.- Qui manarà als EUA, Trump o Musk?
2.- Si cau el Govern de Sánchez?, serà l'ùltim Govern no de dretes d'occident?. Ho han pensat els señoros del PP. Són conscients que Sánchez, no aguanta al càrrec per afany de poder, sinó per evitar que l'ostentin ells.
SALUT.
Mandará "el sistema". Nosotros seguiremos dando datos y teniendo puentes largos, así nos cierran la boca.
Sánchez, cierto, es el último gobierno de Sánchez. Querido, él solo se quiere así mismo, y llegará a un acuerdo con el que sea. Nuestro problema es que no hay gente preparada para el cargo, (es lo que quiere el sistema, por otra parte), y los viejos nos iremos muriendo, los jovenes ya no sabrán lo que es la paga doble; las mutuas se apoderarán del mercado de la sanidad y aquí se habrá acabado lo conocido.
A los jovenes les seguirán dando realidades virtuales, o sea por culo y con juegos, e irán poniendo datos bajo la promesa de unas vacaciones gratis en el Caribe.
Esto se va a la mireda rápido.
Ahh, Taiwan pasará a China, guste o no, a cambio, los americanos meterán mano en Groenlandia y Rusia se quedará con parte de Ucrania anexos.
Todos contentos.
Trobo mol adient una frase de Maquiavel:
Todos los profetas armados han triunfado
Todos los profetas desarmados han perecido.
I una altra de propina:
"Los hombres son tan simples y están tan sujetos a las necesidades del momento, que aquel que busca engañar, encontrará siempre quien se deje engañar"
Salut.
Ahhhh..fantástico. Maquiavelo si que sabía ¡
Veo con orgullo y enorme satifacciong, como decia "le ruá", que ya se va entendiendo a qué me refería con eso de los hijos de puta. Y como le explicaba Jaimito a su señorita (profesora).
Jaumet, en que consisteix la democràcia?
—Fàcil senyoreta. Es un joc de regueres. Naltros fiquem el paperet en la reguera de l'urna i ells ens fiquen el nap, per la reguera del cul.
Estic amb el Miquel i amb la meva filla que sempre diu Papa, el món se'n va a la merda. Ara el tema és saber quant trigarà a arribar.
Em sembla que el món va començar a anar-se'n a la merda, fins i tot abans de Crist, i malgrat tot, tot i tot, aquí segueix, sempre endavant.
Per això dic que el que caldria saber és, quant trigarà a arribar
Quant fa que esperem al meteorit?, o als bàrbars de Kavafis?