Qualsevol tecnologia prou avançada és indistingible de la màgia. L'aforisme és d'Arthur C. Clarke i s'utilitza sovint per descriure situacions en què la tecnologia supera l'entesa comuna o es fa difícil de comprendre. També s'utilitza en històries de ciència-ficció per justificar fenòmens aparentment màgics o sobrenaturals dins un context científic o tecnològic. Si el nostre rebesavi del segle XIX es trobés amb un telèfon intel·ligent modern, probablement consideraria les seves capacitats com a màgia, ja que la tecnologia que les possibilita superaria amb escreix el seu nivell de comprensió tecnològica. La idea subjacent és que el coneixement científic i tecnològic pot explicar fenòmens que altrament semblarien inexplicables o misteriosos. - Josep Maria Ganyet per a lavanguardia.com.
Avancem fins al segle XXI i canviem el mòbil per la intel·ligència artificial. El coneixement científic i tecnològic necessari, no ja per entendre la IA sinó per entendre de què estem parlant, ens supera amb escreix. Si ho multipliquem per la incertesa de l'impacte econòmic i social esperat i l'enlairem als debats ètics i filosòfics que la IA porta associats, entendrem per què ens resulta màgica. Davant la IA tots som el nostre rebesavis. I això ens preocupa.
Kate Crawford, artista, investigadora a IA i autora del llibre Atlas of AI, deia el 2016 en una xerrada al Sónar+D a Barcelona, que la IA era “un problema d'homes blancs” i citava Mark Zuckerberg i Elon Musk com a màxims exponents duna lluita per lhegemonia tecnològica. En aquell moment ho vaig veure com una boutade, però el temps li ha donat la raó. Resulta que mentre la IA —o la informàtica, o l'automatització en general— afectava els treballs manuals i repetitius, que en el context nord-americà majoritàriament fan negres i dones, no preocupava gaire ningú.
Ha estat amb l'eclosió de l'última onada d'IA generativa, capaç d'imitar treballs que se suposen intel·lectuals o cognitius, que ens hem començat a preocupar del seu impacte a la societat. Casualment, la major part d'aquests treballs els fan homes blancs, molts dels quals tenen problemes de pròstata. Això no vol dir que no afectin la resta. No ens agrada ser el nostre rebesavis i molt menys que ens moguin la cadira.

Perquè OpenAI, Google, Tesla i Meta facin màgia amb la seva intel·ligència artificial a Nigèria, Malàisia, Nepal o Filipines, hi ha qui malven la seva intel·ligència natural

Ho il·lustra molt bé el litigi entre Roberto Mata i l'aerolínia americana Avianca per unes suposades lesions produïdes pel carretó de les begudes a bord el 2019. El seu advocat, Steven Schwartz, va buscar precedents de sentències favorables als interessos del seu client en casos similars. En va trobar fins a sis que va adjuntar a la causa. El jutge va quedar estupefacte en comprovar que tots els precedents eren falsos. Quan els ho van notificar, el lletrat va tornar a comprovar els casos un per un: tots existien. Què havia passat? Resulta que Schwartz, per documentar-se, havia utilitzat ChatGPT, que havia enumerat fins a sis casos favorables amb tot luxe de detalls. I no només això, en preguntar posteriorment al mateix ChatGPT cas per cas si existien li havia respost que és clar que sí.
Schwartz, amb més de trenta anys d'exercici, no és que es pugui considerar un novell al món del dret, però sí que ho és al món de la IA (d'altra banda, com vostè i com jo). El seu gran error va ser confondre el ChatGPT per un Google avançat, per un Google que, en lloc de donar respostes en forma d'enllaços, les dóna en “prosa presentable a un jutge”; tecnologies de les quals comprenem i valorem els resultats, però que superen amb escreix el nostre nivell de comprensió tecnològica; tecnologies indistingibles de la màgia.
Com a enginyer sóc incapaç de gaudir d´un truc de màgia que no sigui de cartes. Quan en un espectacle de màgia començo a veure artefactes, artefactes i mecanismes, el meu cervell es concentra en la manca de coneixement sobre la tecnologia que fa possible la il·lusió i no em quedo tranquil fins que no hi trobo una explicació racional. Quan el mag fa desaparèixer l'estàtua de la Llibertat, travessa una paret o camina sobre l'aigua només el veiem a ell, però darrere hi ha un exèrcit de persones que fan possible la il·lusió col·lectiva. Si ens fixem en les persones, la il·lusió s'esvaeix.

Mentre la IA afectava els treballs repetitius, que als EUA fan negres i dones, no preocupava gaire.

Una cosa semblant li passa a la IA: quan ens adonem de l'exèrcit de persones que fan possible la il·lusió col·lectiva, la màgia desapareix. I no em refereixo només a científics, matemàtics, enginyers de dades, enginyers de coneixement i desenvolupadors. Em refereixo al gruix de treballadors precaris de la IA que a països com Nigèria, Malàisia, Nepal o Filipines treballen per 1 o 2 dòlars l'hora etiquetant contingut que després s'utilitzarà per entrenar les màquines. Són el que es coneixen com a “anotadors”, treballadors anònims que no saben per a qui treballen i que es passen tot el dia etiquetant bicicletes en fotogrames de vídeos de Tesla, peces de marca en imatges d'Instagram, respostes ofensives o il·legals de ChatGPT, àudios inintel·ligibles de Siri o Alexa o comptant caps i braços en vídeos de manifestacions.

Són treballs temporals i alienants que es vehiculen per webs com Remotasks.com, Taskup.ai i DataAnnotation.com. Si voleu veure la rebotiga de la IA pot inscriure's i provar-ho vostè mateix. Perquè empreses com OpenAI, Google, Tesla i Meta facin màgia al primer món amb la seva intel·ligència artificial, al tercer món hi ha persones que han de malvendre la seva intel·ligència natural.

El matemàtic i filòsof Bertrand Russell, en acabar una conferència sobre astronomia, va ser interpel·lat per una senyora de l'audiència que li refutava que la Terra es trobés suspesa a l'espai. Segons ella, la Terra reposava sobre la closca d'una gran tortuga. Russell li va respondre que, admetent que fos així, on reposava la tortuga que aguantava la Terra? “Molt llest, Sr. Russell, hi ha tortugues fins a baix de tot”, va respondre convençuda la senyora. L'anècdota és probablement apòcrifa, però també ens serveix per treure màgia a la IA: quan l'entenem bé ens adonem que hi ha humans fins a baix de tot.