Cadalso digital

La IA puede caer en confusiones mortales con consecuencias en el mundo real

23 de septiembre de 202606:002'minutos de lectura

Alguna vez bastó con figurar en una agenda para ser un desaparecido. Otra, una cita con la persona equivocada en el momento inoportuno. También, la involuntaria identificación por parte de una víctima que confundió a su victimario. Las causas, como la lista de perjudicados por el error humano y por el abuso o las fallas de los sistemas de seguridad y de justicia, son infinitas. En dictaduras hechas y derechas. A veces, durante la vigencia de la democracia imperfecta.

Se sabe, la crueldad irreparable prospera con “la banalidad del mal” (Hanna Arendt dixit). Esa burocrática perversidad indiferente, capaz de llegar al exterminio. Horrores (no errores) humanos. Inexcusables. Que ahora la perfección de la Inteligencia Artificial nos ilusiona con evitar. Hasta que se equivoca. Lo puede contar la ambientalista argentina Flavia Broffoni. En Ceuta la buscaban las hordas de ultras españoles para cazarla, vejarla y lincharla. Una aplicación le había puesto su nombre y apellido a la imagen de una mujer a la que se acusaba de proveer gas pimienta a los inmigrantes marroquíes para enfrentar a las fuerzas de seguridad españolas. La lincharon en el mundo virtual. Salvó el pellejo real porque la que estaba en África era otra. Ella estaba en la Patagonia. Blade Runner ya llegó. La banalidad del mal 2.0, también.