FALSA SENSACIÓ DE SEGURETAT

Un jurat de Florida ha condemnat Tesla a pagar 243 milions de dòlars per la mort de Naibel Benavides el 25 d’abril del 2019. Ha estat declarada un 33% culpable de la mort de la noia de 22 anys. Aquell dia George McGee conduïa el seu Tesla Model S amb l’Autopilot posat. Quan s’aproximava a una cruïlla li va caure el mòbil i es va aplanar per recollir-lo mentre mantenia el peu a l’accelerador. El vehicle va picar contra un SUV que estava aparcat correctament, va matar la noia i va ferir el seu xicot. El Tesla anava a més de 80 km/h. Els advocats de Tesla argumenten que el peu a l’accelerador va impedir que l’Autopilot evités la topada. A banda, el manual és clar quan diu que “és responsabilitat del conductor estar alerta, conduir amb seguretat i controlar el vehicle”. En el cas del Sr. McGee: zero de tres. Tot i això, el jurat l’ha declarat culpable només en un 66%.

En el moment de l’accident el conductor no estava mirant la carretera ni tenia les mans al volant. Recordem que estava enfeinat buscant el mòbil. Tot i això, l’Autopilot va permetre que, sense “estar alerta, conduir amb seguretat i controlar el vehicle”, passés una cruïlla a més de 80 km/h. Altres fabricants utilitzen càmeres que controlen si el conductor està mirant la carretera i emeten un avís.

La raó de caràcter psicològic és més subtil i alhora més profunda. Autopilot es pot traduir per pilot automàtic, un terme connotat i que porta a un equívoc. Els demandants van acusar Tesla de “desinformar” amb vídeos trucats i amb afirmacions enganyoses, com que “el nostre sistema de conducció és més segur que un humà”. Tot això fa que el conductor d’un Tesla, quan te l’Autopilot posat, tingui una falsa sensació de seguretat que el porta a abaixar la guàrdia; a mesura que el cotxe pren decisions encertades, augmenta la confiança que la pròxima també ho serà. Fins que no ho és.

La Societat d’Enginyers d’Automoció (SAE) defineix sis nivells d’automatització de la conducció, que van del 0 –sense automatització– a l’automatització total del nivell 5. Les campanyes de Tesla, les promeses incomplertes de Musk i el mateix nom d’Autopilot ens situen de manera velada al nivell 5 d’automatització, i no: els Tesla tenen nivell 3. Aquest decalatge entre capacitats reals d’un sistema i la seva percepció porta a la falsa sensació de seguretat.

Però això no és exclusiu dels Tesla. Ni tan sols dels automòbils. Hi estem exposats sempre que fem servir un sistema de predicció basat en IA com ChatGPT, Copilot, Claude o l’Autopilot. Quan ens assisteix en la recerca, l’escriptura de codi de programació o en simulacions financeres, no podem estar mai segurs de si en podem estar segurs. I això ens fa un 66% responsables de les conseqüències negatives. - Josep María Ganyet.