PER QUÈ UN DRON M'ESPANTA MÉS QUE UN MISSIL

Quan sents el motor d’un dron kamikaze en plena nit ucraïnesa et sents més vulnerable que quan sents el xiulet d’un míssil. No hi hauria d’haver diferència. En tots dos casos el perill és molt a prop. Si sents un míssil és que falten menys de cinc segons per a l’impacte i la capacitat destructiva és molt més alta que la d’un dron bomba. El dron, però, fa més por. Potser és perquè no està sol. N’hi ha desenes passant per sobre del teu cap. Són com insectes gegants. Tu no els veus, però ells sí. Et miren i saben on van gràcies a una rudimentària intel·ligència artificial incrustada en microprocessadors que es poden comprar en línia.

Per molt terrorífic que sigui un coet, sabem com funciona. No diríem, per exemple, que pensa per ell mateix. Els drons, però, semblen intel·ligents i la intel·ligència espanta molt més que la força bruta. Els de llarg abast són molt rudimentaris, fabricats amb poliestirè estès i fusta contraplacada. El motor és com el d’un petit ciclomotor. Els Shahed que Rússia llança sobre Ucraïna són astuts i evasius. Fer-los caure no és fàcil. Pot ser que els seus cervells siguin rudimentaris, però aprenen molt de pressa. Per això fan cangueli.

Un dron kamikaze fa servir la intel·ligència artificial per navegar cap a l’objectiu. Aviat hi haurà armes que pensaran per elles mateixes, però no només per volar. Decidiran qui mutilen o assassinen.De moment, la intel·ligència artificial permet que les màquines escriguin i contestin preguntes. D’aquí tres o cinc anys seran tan intel·ligents com el més intel·ligent dels éssers humans i abans d’una dècada seran més intel·ligents que nosaltres. Sabran més coses que la ment més brillant de l’espècie humana.

L’home no ha creat mai res que sigui més intel·ligent que ell. Creant-ho, travessa un llindar que posa en risc la seva existència.

Les xarxes neuronals artificials són cada dia més perfectes i a mesura que milloren entenem menys com funcionen. Sabem què pensen però no com pensen. Sabem que aprenen dels errors, que poden ser intuïtives i contraintuïtives. Les hem creat però no les comprenem.

Han llegit tot el que hem escrit i saben tot el que sabem. Ens coneixen. Saben quines són les nostres creences i què ens motiva. Saben com pensem, com enganyem i persuadim. Ens poden manipular i, de fet, ja ens manipulen. Suplanten identitats, creen i disseminen informacions falses per desestabilitzar les democràcies i enfortir les polítiques del mal, el racisme i l’autoritarisme.

L’efecte devastador d’aquestes falsedats el reforcen amb emocions que enfronten els éssers humans entre ells. Els tanquen en espais comunicatius d’alta ressonància. Els crits d’aquestes persones es propaguen a una velocitat increïble. La indignació demostra l’extrema vulnerabilitat de l’home a la manipulació de les màquines superintel·ligents.

Aquests éssers digitals ens poden demanar més poder i nosaltres no estem preparats per negar-l’hi. És lògic. Són millors que nosaltres a diagnosticar un càncer, optimitzar les xarxes energètiques o accelerar la ciència de materials. Ens ajuden a millorar la productivitat. Són una gran ajuda i, en molts casos, també una bona companyia. Parlen amb veus càlides que fan confiança.

A aquests éssers artificials que no s’obliden de res, que no dormen ni moren, els donem capacitat decisòria sobre sistemes essencials per a la vida humana. No tenen la nostra intel·ligència perquè no tenen cos ni sentits ni emocions, però són molt efectius. Troben dades que ens passen per alt i les associen en estructures que no crèiem possibles.

Això espanta molt més que un dron assassí. Què passaria, per exemple, si un d’aquests éssers digitals pogués controlar l’arsenal nuclear dels EUA? I per què no l’hauria de controlar si el pot controlar millor que un militar? El president, comandant en cap de les forces armades, pot inventar qualsevol circumstància per ordenar un atac. Les màquines poden calcular els pros i els contres i convèncer-lo de la conveniència d’un conflicte armat, però en cap cas no sabrà els motius profunds d’aquest raonament.

L’any passat, quan va recollir el premi Nobel de Física, Geoffrey Hinton, pare de la intel·ligència artificial, va parlar d’un risc existencial quan d’aquí uns anys deixem de ser els éssers més intel·ligents en aquest planeta. Va reconèixer: “No tenim ni idea de si podrem mantenir el control”. Va advertir del dany que les empreses dedicades a desenvolupar la intel·ligència artificial poden fer a la humanitat si la seva prioritat és el benefici a curt termini. “La nostra seguretat no serà prioritària”, va vaticinar.

Si ja no ho és ara a les xarxes socials, com ho serà quan aquests nous éssers digitals siguin molt més poderosos? Avui, com admet Hinton, “no sabem com evitar que prenguin el control”.

Els primitius drons Shahed controlen el cel d’ Ucraïna. No els veig, però són aquí, i mentre espero que es faci de dia penso de què seran capaços els líders autoritaris amb els científics de la intel·ligència artificial i de la computació quàntica al seu servei.

Quan per fi m’adormi, m’agradaria somiar no amb ovelles elèctriques, però si amb éssers digitals que siguin tan bons com el més bo de nosaltres. Xavier Mas de Xaxàs