Si les actuals eines d'IA prosperen, ningú no podrà robar al supermercat, colar-se al metro o trepitjar de més l'accelerador del cotxe. Més que el triomf de la llei, serà la substitució de la justícia per una tirania cega - Samuel Witteveen Gómez - ctxt.com

Hi ha supermercats on les càmeres de seguretat assenyalen per si soles els que cometen un furt. Mitjançant intel·ligència artificial, aquestes càmeres són capaces d'identificar els gestos i les actituds que solen acompanyar la sostracció d'algun producte. Succeeix a països com els Estats Units i el Japó. També hi ha estacions de tren i metro, a Catalunya per exemple, on les càmeres alerten si algun passatger hi accedeix sense bitllet.
A més, s'espera que cada cop més vehicles incloguin sistemes que redueixen la velocitat automàticament quan el conductor supera el límit permès. Són algoritmes, així mateix, els que sovint s'ocupen de detectar i penalitzar el frau fiscal. I un jutge a Colòmbia ha materialitzat un horitzó amb què alguns juristes somien al recórrer a ChatGPT per escriure una sentència.
Aquests exemples, per dispars que semblin, assenyalen una mateixa tendència: l'automatització de la llei. Davant de les possibilitats que ens ofereix la tecnologia, resulta temptador invertir en sistemes que ajudin a garantir el compliment de les normes. I si aquestes eines realment prosperen podria arribar un dia on ningú, independentment de la seva situació, pugui robar al supermercat, colar-se al metro o trepitjar de més l'accelerador del cotxe. Però això, més que el triomf de la llei, pot suposar la fi del dret com a pràctica d'una comunitat moral i la seva substitució per una cosa més aviat semblant a un motlle, a un túnel, a una tirania cega.
El filòsof Maxim Februari explica al seu darrer llibre que les màquines, a diferència de nosaltres, no són subjectes morals que actuen des de la responsabilitat. Per això tampoc no són capaços de veure i entendre que nosaltres, sobre els qui elles decideixen, sí que som éssers morals. “Les màquines” escriu Februari “no estan gens ni mica preocupades per la veritat de nosaltres com a persones, ni es preocupen per entendre, l'únic que persegueixen és funcionar: efectuar operacions”.
Així, per sever que pugui arribar a ser un revisor de metro, sempre serà infinitament més compassiu que un sistema automatitzat. El revisor, a diferència de la màquina, té la capacitat de comprendre que hi ha raons per colar-se al metro, que cada passatger representa un cas particular. La màquina, en canvi, no hi veu persones, no hi veu històries ni necessitats, tan sols és capaç de detectar aquells indicadors que possibiliten la seva idèntica operació.
I és que el món funciona molt gràcies a processos informals, experiències i gestos que no són quantificables. Fins i tot la persona més bruta coneix una immensitat de sentir completament aliens a la màquina, sentir que en tot moment informen els seus actes. L'empatia, la indignació, el dubte, el conflicte, la flexibilitat, el temor, la paciència, la justícia. Els qui, ignorant tot això, equiparen la màquina amb l'humà, prenen les capacitats de la màquina com a criteri i menyspreen allò que distingeix allò viu de l'inert. La història ens mostra, a més, que ignorar la importància dels processos informals condueix una vegada i una altra al desastre.
L'aplicació mecànica de la llei contradiu així mateix els principis de l'Estat de dret. El que diferencia un estat de dret de qualsevol model autoritari és que el poder està subjecte a garanties. Les decisions no reposen simplement a l'autoritat, sinó que han de ser legítimes i justificables. La primacia del dret sobre el poder implica, doncs, l'existència d'una comunitat immersa en una pràctica constant d'apel·lar, interpel·lar, decidir i justificar. Renunciar-hi darrere d'un ordre tancat comporta dissoldre la comunitat i suspendre el dret. Quan parlem d'automatització no parlem, doncs, d'una mera sofisticació sinó d'una manera radicalment diferent de governança.
La llei és incompatible amb allò mecànic. No hi ha llei aplicable a tots els casos, ja que la norma necessàriament requereix, una vegada i una altra, interpretació i execució. Februari recorre a la història de dos membres de la resistència holandesa a la Segona Guerra Mundial per il·lustrar això. Diu l'anècdota que aquests dos partisans van capturar un membre de la SS que es dedicava a delatar-ne d'altres al seu poble. Quan van tenir aquest home en el seu poder el van voler matar, però els va assaltar el dubte de si feien el correcte. Així que van anar al capellà i li van consultar si està permès matar un nazi. El capellà els va respondre: “En realitat, no”.
A la breu resposta del sacerdot està tancat tot aquest terreny pròpiament humà que resulta incomprensible per a les màquines. Doncs el capellà no pren simplement el cinquè manament i els prohibeix matar sinó que els informa del contingut de la llei i afegeix aquest “en realitat”, que és l'obertura a l'excepció. Entre la llei universal (no mataràs) i el cas concret i urgent (mentre que segueixi viva aquesta persona delatarà altres), els dos partisans carreguen amb la responsabilitat de decidir de la forma més justa. La llei no es pot simplement aplicar perquè primer ha de travessar aquelles històries particulars per poder materialitzar-se. És al que feia referència Franz Rosenzweig quan va escriure: “La llei és lliurada a l'home, no l'home a la llei”.
El problema de deixar tasques de governança en mans de la intel·ligència artificial no és només que aquesta resulta sovint susceptible de biaixos i errors. Per més que s'arribi a perfeccionar l'algorisme a polir les dades, un sistema automatitzat no igualarà mai la capacitat interpretativa humana. La diferència entre la intel·ligència artificial i la humana no és quantitativa, sinó qualitativa.
Per descomptat que la tecnologia ens pot assistir en tasques anodines, per exemple, a l'hora de trobar o organitzar informació i això pot alleujar els jutjats i agilitzar els processos. La decisió d'un jutge, en canvi, no l'hauria de fer un sistema d'intel·ligència artificial generativa (com el ChatGPT), ja que per molta jurisprudència que l'eina sigui capaç de modelar, mai no podrà comprendre allò del que realment es tracta: impartir justícia.
El jutge és l'enllaç entre la legislació i el cas particular i en cadascuna de les seves decisions ha d'introduir un element original. Una norma aplicada automàticament pot crear il·lusió d'equanimitat, però en realitat passa el contrari: s'imposa una mateixa interpretació a diferents casos. La justícia necessita un mirament especial en cada cas, un instant de perill on la doctrina treu el cap per la profunditat de la vida. Jacques Derrida ho va expressar així a Força de llei: “La llei és l'element de càlcul, mentre que la justícia és incalculable, requereix que calculem amb allò incalculable”.