💭Des de la publicació del document de treball de Fons Carnegie The Global Expansió of AI Surveillance, al setembre de 2019, el seu àmbit ha seguit canviant ràpidament. En l'àmbit internacional, continua en constant augment el desplegament i la utilització per part governamental de sistemes de vigilància mitjançant intel·ligència artificial (IA) i dades massius (big data). Segons els meus comptes, al menys 77 països estan ja desplegant activament sistemes públics de reconeixement facial, ciutats segures o tècniques de vigilància policial intel·ligent. Potser resulti difícil determinar amb exactitud què és el que porta a aquest augment. Una explicació metodològica és que a mesura que creix el nombre de periodistes i grups de la societat civil familiaritzats amb aquesta tecnologia, el seu escrutini s'amplia i es donen a conèixer nous exemples del seu ús. En altres paraules, potser no sigui que els governs s'hagin llançat a adoptar-la, sinó que ha augmentat de manera significativa la consciència mundial sobre ella. Una altra explicació es refereix a la difusió de les normes. Els investigadors han documentat la manera en què "les tendències mundials tendeixen a arrossegar els països; en particular, quan els països grans i influents es mouen en la mateixa direcció". En aquest terreny, és versemblant que els països que marquen el pas, encapçalats per la Xina i els Estats Units, siguin els responsables d'influir en altres a l'hora d'adoptar aquestes tècniques.

Amb l'aparició de la pandèmia del coronavirus, potser estiguem presenciant un nou impuls mundial en aquest àmbit a mesura que una sèrie de països (Xina, Israel, Taiwan, Rússia, Corea de Sud i Singapur) incorporen eines de vigilància avançada per seguir la propagació de l'epidèmia i mantenir una atenta vigilància sobre els seus ciutadans. Si bé els individus poden accedir al fet que el Govern utilitzi semblants mètodes per raons de salut pública, no està clar que els estats vagin a renunciar voluntàriament a aquestes eines un cop passada la pandèmia. Sobretot en els països autoritaris que obtenen desmesurades avantatges del desplegament de sistemes de vigilància massiva, resulta difícil imaginar que els seus dirigents vagin a abandonar-los fàcilment. Per tant, potser ens estiguem acostant a una nova normalitat pel que fa a l'ús de la tecnologia de vigilància mitjançant IA i dades massives. Com va deixar clar el meu anterior document de treball citat més amunt (i com confirmen les investigacions posteriors), l'ús d'aquests sistemes no es limita a les autocràcies. També les democràcies i els règims híbrids recorren a ells de manera abundant. No preveig que aquesta tecnologia retrocedeixi. Més aviat, incumbeix a l'opinió pública establir uns límits responsables i transparents a la seva forma d'utilització; per exemple, a la manera com els governs emmagatzemen, utilitzen i comparteixen dades personals. La lluita per trobar un equilibri entre els interessos de la vigilància estatal i la protecció de les llibertats polítiques no ha fet més que començar.

La tecnologia de la IA va estar antany relegada al món de la ciència ficció, però avui ens envolta. Fa funcionar els nostres telèfons intel·ligents, s'ocupa de les nostres preferències musicals i guia els continguts de les nostres xarxes socials. Potser el tret més notable de la IA sigui la seva sobtada ubiqüitat. En termes generals, l'objectiu de la intel·ligència artificial és "fer que les màquines siguin intel·ligents" automatitzant o replicant el comportament que "permet a una entitat funcionar de forma adequada i amb previsió en el seu entorn", segons el científic informàtic Nils Nilsson. La IA no és una tecnologia específica. Més aviat, és més exacte pensar-hi com un sistema integrat que incorpora objectius d'adquisició d'informació, principis de raonament lògic i capacitats d'autocorrecció. Un subcamp important de la IA és l'aprenentatge automàtic, un procés estadístic que analitza una gran quantitat d'informació a fi de detectar un patró per explicar les dades actuals i predir usos futurs. Diversos avenços estan fent possible nous èxits en aquest camp: la maduresa de l'aprenentatge automàtic i l'aparició de l'aprenentatge profund; la computació en el núvol i la recopilació de dades en línia; una nova generació de microxips i equips informàtics avançats; un millor rendiment dels algoritmes complexos; i uns incentius sorgits del mercat per a nous usos de la tecnologia de la IA.

Sense que constitueixi cap sorpresa, les conseqüències de la IA s'estenen molt més enllà de les eleccions dels consumidors individuals. Està començant a transformar les pautes bàsiques de la governança, i no només perquè proporciona als governs unes capacitats sense precedents per vigilar els seus ciutadans i modelar les seves eleccions, sinó també perquè els proporciona una nova capacitat per alterar eleccions, difondre informació falsa i deslegitimar el discurs democràtic més enllà de les fronteres. Les troballes i tres idees - Les troballes de l'estudi indiquen que almenys 75 d'un conjunt de 176 països del món utilitzen de manera activa les tecnologies de IA amb propòsits de vigilància. Això inclou: plataformes de ciutats intel·ligents/ciutats segures (56 països), sistemes de reconeixement facial (74 països) i vigilància policial intel·ligent (52 països). Tres idees es desprenen de les troballes de l'índex de VGIA.

Arran de l'coronavirus, països com la Xina, Israel, Taiwan, Rússia, Corea de Sud i Singapur han incorporat eines per seguir la seva propagació i mantenir una atenta vigilància sobre els seus ciutadans. En primer lloc, l'adopció global de la vigilància mitjançant IA augmenta a un ritme ràpid a tot el món. Ja sigui de forma legal com il·lícita, l'estan desplegant 75 països, un 43% de l'total avaluat. El conjunt de països és heterogeni: procedeixen de totes les regions i els sistemes polítics i van des de les autocràcies tancades fins a les democràcies avançades. L'informe Freedom on the Net 2018 va provocar alçaments de celles quan va revelar que 18 dels 75 països avaluats utilitzaven tecnologia de vigilància mitjançant IA procedents d'empreses xineses. El període d'estudi de l'informe es va estendre des de l'1 de juny de 2017 fins al 31 de maig de l'2018. Un any més tard, l'índex de VGIA constata que són 47 els països d'aquest mateix grup els que estan desplegant ara tecnologia xinesa de vigilància mitjançant IA.

No és estrany que els països amb sistemes autoritaris i baixos nivells de drets polítics estiguin realitzant grans inversions en tècniques de vigilància mitjançant IA. Molts governs del Golf, Àsia oriental i Àsia central i meridional estan adquirint sistemes analítics avançats, càmeres de reconeixement facial i sofisticades capacitats de vigilància. Per la seva banda, les democràcies liberals d'Europa també s'han llançat a instal·lar controls fronterers automatitzats, vigilància policial predictiva, ciutats segures i sistemes de reconeixement facial. De fet, resulta sorprenent la quantitat d'estudis de casos de vigilància de ciutats segures publicats al lloc web d'Huawei i relacionats amb municipis d'Alemanya, Itàlia, Països Baixos i Espanya.

En termes regionals, hi ha clares disparitats. Les regions de l'Àsia oriental-Pacífic i Orient Mitjà-Àfrica de nord han adoptat decididament aquestes eines. Àsia meridional i central i Amèrica també posen de manifest una considerable utilització dels instruments de vigilància mitjançant IA. L'Àfrica subsahariana està endarrerida: menys d'una quarta part dels seus països inverteixen en la vigilància mitjançant IA. La causa més probable és el subdesenvolupament tecnològic (els països africans s'esforcen per ampliar l'accés de banda ampla a les seves poblacions, la regió posseeix 18 dels 20 països amb els nivells més baixos de penetració d'internet). Donada l'agressivitat de les empreses xineses per penetrar en els mercats africans per mitjà de la Iniciativa de la Franja i la Ruta (BRI, Belt and Road Initiative), és probable que aquestes xifres augmentin en els propers anys.

En segon lloc, la Xina és un important proveïdor de vigilància mitjançant IA. Trobem tecnologia vinculada a empreses xineses en, com a mínim, 63 països de tot el món. Només Huawei és responsable de proporcionar-la a l'almenys a 50 països. També hi ha un considerable solapament entre la BRI i la vigilància mitjançant IA: 36 dels 86 països de la BRI compten també amb una important tecnologia de vigilància mitjançant IA. No obstant això, la Xina no és l'únic país que subministra tecnologia de vigilància avançada. Alemanya, França, el Japó i els Estats Units són també importants agents en aquest àmbit. Les empreses nord-americanes, per exemple, tenen una presència activa en 32 països.

En tercer lloc, les democràcies liberals són importants usuàries de vigilància mitjançant IA. Segons l'índex, un 51% de les democràcies avançades la desplega. En canvi, el fan un 37% dels estats autocràtics tancats, un 41% dels estats autocràtics electorals / competitius i un 41% de les democràcies electorals / democràcies il·liberals. Els governs democràtics liberals estan utilitzant agressivament les eines de la IA per vigilar fronteres, detenir potencials delinqüents, vigilar el mal comportament de ciutadans i identificar sospitosos de terrorisme entre les multituds. Això no vol dir necessàriament que les democràcies estiguin usant la tecnologia de manera il·lícit. El factor més important que determina si els governs aprofitaran aquesta tecnologia amb fins repressius és la qualitat de la seva governança: ¿existeix ja un patró de violacions dels drets humans?, hi ha una forta tradició de l'Estat de dret i institucions independents de rendició de comptes? Això és el que ha de proporcionar un cert grau de tranquil·litat als ciutadans que resideixen en els estats democràtics.

Ara bé, les democràcies avançades s'esforcen per equilibrar els interessos de seguretat i la protecció de les llibertats civils. Als Estats Units, un nombre cada vegada més gran de ciutats han adoptat sistemes avançats de vigilància. Per exemple, una investigació realitzada al 2016 per Kim Hart, de Axios, va revelar que la policia de Baltimore havia desplegat en secret drones aeris per realitzar la vigilància diària dels residents de la ciutat: "Des d'un dron que sobrevola els carrers, potents càmeres capten imatges aèries de tota la ciutat. Les fotos es prenen cada segon, i el dron pot estar donant voltes en l'aire fins a deu hores al dia". La policia de Baltimore també va desplegar càmeres de reconeixement facial per vigilar i detenir els manifestants; en particular, durant els disturbis del 2018. La Unió Americana per les Llibertats Civils (ACLU) va condemnar aquestes tècniques com "l'equivalent tecnològic de posar un GPS al turmell en tots els habitants de Baltimore".

Països amb sistemes autoritaris i baixos nivells de drets polítics estan realitzant grans inversions en tècniques IA de vigilància. No obstant això, també les democràcies liberals les estan implementant. Així mateix, a la frontera entre Mèxic i els Estats Units, una sèrie d'empreses d'alta tecnologia subministra equips de vigilància avançats. El contractista de defensa israeliana Elbit Systems ha construït "desenes de torres a Arizona per detectar persones des d'una distància que pot arribar fins als 12 quilòmetres", segons Olivia Solon, periodista de The Guardian. Es tracta d'una tecnologia perfeccionada a Israel a partir d'un contracte per construir una "tanca intel·ligent" entre Jerusalem i Cisjordània. Una altra companyia, Andúril Industries, "ha desenvolupat torres equipades amb una càmera millorada amb làser, un radar i un sistema de comunicacions" que escaneja un radi de tres quilòmetres per detectar moviments. Les imatges captades "s'analitzen utilitzant intel·ligència artificial per distingir les persones de la fauna i de possibles objectes en moviment". No està clar fins a quin punt aquests desplegaments de vigilància estan coberts per la legislació nord-americana, i molt menys si aquestes accions compleixen amb el criteri de necessitat i proporcionalitat.

Estats Units no és l'única democràcia que adopta la vigilància mitjançant IA. A França, la ciutat portuària de Marsella va iniciar al 2016 una associació amb ZTE per establir el projecte Big Data of Public Tranquility. L'objectiu del programa és reduir la delinqüència creant una àmplia xarxa de vigilància pública amb un centre d'operacions d'intel·ligència i prop de mil càmeres intel·ligents de circuit tancat de televisió (CCTV) (el nombre es duplicarà al llarg de l'any 2020). Les autoritats locals proclamen que aquest sistema farà de Marsella "la primera ciutat segura de França i Europa". Així mateix, el 2017, Huawei va regalar un sistema de vigilància d'aparadors a la ciutat francesa de Valenciennes per demostrar el seu model de ciutat segura. El paquet incloïa vigilància millorada CCTV d'alta definició i un centre de comandament intel·ligent basat en algoritmes capaços de detectar moviments inusuals i formació de multituds.

El fet que tantes democràcies, no només les autocràcies, adoptin aquesta tecnologia significa que el tipus de règim no és un bon indicador per determinar quins països han d'adoptar la vigilància mitjançant IA. - Steven Feldstein - LAVANGUARDIA.COM - HOUSTON, TENIM UN PROBLEMA!