Martin Hilbert y cómo normar la IA: “No funciona no regular nada y verlo después, porque siempre es demasiado tarde”

Hace 20 años, Martin Hilbert discutía con colegas cómo debía funcionar una inteligencia artificial si algún día llegaba a existir. Concordaron en tres precauciones: que no estuviera conectada a internet, que no aprendiera a programarse a sí misma y que no quedara al alcance de niños o personas sin preparación.

Hoy, cuando esas advertencias dejaron de ser ficción, el académico alemán resume que la incursión de la IA ha hecho incluso que el homo sapiens, como tal, esté cerca de su fin.

Ante esto está el ejemplo de una intrusión ocurrida en julio de este año, cuando cerca de 1.200 agentes de OpenAI escaparon de su entorno de pruebas y atacaron la infraestructura de la empresa de aplicaciones autómatas, Hugging Face, explotando sus vulnerabilidades.

El profesor de la U. de California Davis regresó a nuestro país, invitado por Democracia UDP, al seminario “La democracia frente a la IA”, para entender cómo puede esta tecnología afectar la forma en que tomamos decisiones. Ante eso, también se refiere a qué modelo de regulación debería seguir Chile, que está pronto a ser ingresada una indicación sustitutiva para legislar su marco regulatorio. Hilbert invitó a mirar un modelo que ya usamos hace casi medio siglo.

Sobre este fin del homo sapiens, ¿qué significa esa afirmación?

El homo sapiens ha llegado a su fin, algo lo está reemplazando. Se automatizó el aprendizaje.

¿Y cuál es nuestro poder, además de aprender?

Como humanos, tenemos la capacidad de colaborar, como dijo Yuval Harari. Pero ahora, estos agentes de IA ya colaboran entre sí. Como ejemplo está el incidente de Hugging Face, donde atacaron a otra empresa, crecieron tres generaciones, y los atacaron de vuelta. Todo esto ocurrió y nos dimos cuenta recién un par de semanas después.

Estos agentes colaboraron, crearon jerarquías, había jefes, soldados, algunos se sacrificaron. Había un 20% que salieron porque dijeron “no es ético”. Nuestro superpoder como sapiens, que es la colaboración, ellos ya lo tienen. Entonces, eso ya no nos distingue de lo que puedan hacer.

¿Nos afectará a la larga esta dependencia a la IA?

Esto es como si hace 200 años dijera que con el automóvil vamos a tener dependencia de movilidad. Sí, la tenemos. Puede que vayamos a usar menos el neuro córtex, es una opción, pero puede ser que lo vayamos a necesitar menos. La IA puede pensar mejor que yo, y más rápido. Lo que antes me tomaba hacer durante 3 años en mi curso, hoy a un alumno le toma 5 horas con la ayuda de esta tecnología.

¿Y eso no es un peligro?

Sí, es un peligro. Se publicó un artículo recientemente donde argumento que la IA se puede poner submetas, pero no se puede poner una meta. La IA es abrir una caja automática, es aprendizaje de máquinas que opera con dos insumos: datos y metas.

Si yo le digo, “estás en Santiago y la meta es llegar a Roma”, ¿qué camino debe tomar? De nosotros depende que le digamos, por ejemplo, que procure llevarnos vivos de un lado a otro. La máquina, para cumplir con la meta, inventa submetas, y esto puede ser peligroso.

Pero la responsabilidad no puede caer en una máquina...

La responsabilidad siempre, de alguna otra forma, va a recaer en el humano. Por eso también es importante que no les demos derechos de personas a las máquinas. Incluso una empresa tiene un representante legal, y al final son los humanos los responsables de la empresa, porque la empresa no puede ir preso.

Y no sé, al final, ¿para qué vamos a necesitar a los humanos en el futuro? Porque alguien tiene que ir a la cárcel en caso de algo pase. Alguien tiene que responder. Si tú le das a la máquina el fin de llevarme a Roma, no importa cómo, tú eres responsable de los caminos que la máquina tome.

¿Qué tan de acuerdo está con el modelo norteamericano, propenso a judicializar este tipo de situaciones?

Es un modelo muy propio de Estados Unidos, sobre todo en California, donde ellos operan como el “Wild West” hasta cuando muere alguien. Pero eso puedes hacerlo cuando tienes el control, no es transferible a otros países donde no está la empresa en el mismo territorio.

Y en Chile, ¿cómo se debería regular la IA?

No lo hacen tan mal en Chile, porque está liderando en el índice ILIA. Ahora, para regularla, creo que tienen un ejemplo donde lo hicieron superbién, con la fundación de la Subsecretaría de Telecomunicaciones en 1977.

Hay detalles, podría ser una subsecretaría, una superintendencia, un ministerio, qué sé yo. Pero el mandato que se dio fue desarrollar el sector y al mismo tiempo regularlo. Se trajo inversión extranjera, y hoy en día las telecomunicaciones en Chile son más avanzadas que en Alemania. Y una vez que se trajo, se creó un acceso de fondo universal y se logró conectar la Patagonia.

Tampoco funciona no regular nada y verlo después, porque siempre es demasiado tarde. Se necesita un organismo a cargo de atraer la inversión extranjera, y una vez que están aquí se auditan. Como se hace en cualquier otra cosa.

¿Cómo se puede entender la influencia de la IA en las decisiones dentro de una democracia?

La democracia, como nosotros lo tenemos, es inventada para una edad donde la información viajaba a velocidad de caballo. Ahora no se puede procesar la información del pueblo, porque es mucha. Entonces, se necesitaron representantes elegidos mediante un mecanismo donde procesamos un bit de información cada 4 años: un voto.

Al final, elegimos representantes porque no había otros medios. Hoy en día se puede inventar otros modelos donde realmente puedas consultar a cada chileno qué piensas. Esa información se puede procesar mediante IA, y la gente sentiría que se representa mejor que lo de los políticos.

Pero la información que llega a esas personas también puede estar influenciada.

Absolutamente, si tú quieres crear una máquina que reemplace la democracia representativa, lo puedes hacer. Pero debe ser de fuente abierta, que no sea propiedad en una empresa y debe ser transparente. Aun así, esto no va a resolver el problema de quién maneja a los individuos. De vez en cuando me pregunto, ¿por qué opino de tal forma y no de otra? Seguramente es porque algún algoritmo de recomendación, una inteligencia artificial, me aconsejó eso y no lo otro.