Nitesh Chawla, ingeniero y académico: “La IA ha demostrado dónde nos fallaron las instituciones y dónde nos fallamos unos a otros”

El ingeniero Nitesh Chawla llegó desde India a los 22 años como estudiante de doctorado a Florida, Estados Unidos, y desde un principio el aprendizaje de máquinas estuvo en el centro de su atención.

Con décadas de experiencia en el campo, ha trabajado en buscar la convergencia del desarrollo tecnológico y particularmente la inteligencia artificial con los intereses del ser humano y la sociedad en problemas como la salud y la educación.

Es también la misión del Lucy Family Institute for Data & Society, que fundó en 2019 en la Universidad de Notre Dame, en Indiana, donde es académico. Se entiende, entonces, que en los últimos meses haya visto cómo las preguntas sobre la IA se han cargado de preocupación y angustia. Incidentes como el hackeo de agentes de Open AI a Hugging Face y los que se han seguido reportando, las denuncias del exinvestigador de Anthropic Jacob Coxon sobre el “riesgo existencial” de los nuevos modelos de IA, las advertencias del propio CEO de esa compañía, Dario Amodei, pidiendo un acuerdo que establezca regulaciones para todo el sector, y las declaraciones de líderes como Geoffrey Hinton y Bill Gates le han dado una urgencia inédita a la discusión sobre el riesgo de este desarrollo tecnológico.

Mientras algunos plantean que es necesario pausar el avance de los nuevos modelos e implementar acuerdos que garanticen el bienestar humano, otros desestiman el riesgo y acusan motivaciones financieras en tales advertencias. En medio de ese coro, la voz de Nitesh Chawla propone un rol específico para la academia en general y las universidades en particular: postula que estas construyan un marco de evaluación de las nuevas tecnologías. RISE AI es la iniciativa que lidera para ello desde Notre Dame. La propuesta (que debe su nombre a la sigla de responsabilidad, inclusión, seguridad y empoderamiento) plantea establecer un criterio que dé garantías a todos los actores y que esté basado en evidencia y con el bien común como norte.

Es lo que lo traerá a Chile a fines de este mes, cuando la Universidad de los Andes sea sede del primer encuentro internacional de los representantes de 38 universidades y 55 empresas que se han agrupado tras esa propuesta.

Supongo que en los últimos meses lo han bombardeado con preguntas cargadas de ansiedad y preocupación sobre la IA…

Sí, en los últimos meses ha sido así. Creo que esas preocupaciones y esa ansiedad son legítimas, y precisamente por eso estamos desarrollando el marco de trabajo y la plataforma RISE AI, entre otras iniciativas. Pero los beneficios también son reales. Así que la pregunta es ¿cómo logramos un equilibrio razonable? El mayor desafío es que nuestra capacidad de respuesta y adaptación a este cambio es mucho más lenta que la velocidad a la que evolucionan estas herramientas.

¿Es necesaria una respuesta política?

Sí, será necesaria algún tipo de respuesta regulatoria, si te refieres a eso. El desafío es que esas normativas tardan demasiado en establecerse. Y para cuando entran en vigor, ya están reaccionando a una versión obsoleta. Podemos mirar el ejemplo de la seguridad automotriz: hace 50 años no había cinturones de seguridad. Con el paso del tiempo, la gente se dio cuenta de que llevar cinturón podía salvar vidas, así que se implementaron. Luego se convirtió en ley, porque se entendió que era beneficioso. Hoy realizamos pruebas de seguridad para cualquier automóvil; todos pasan por controles. Piense en los aviones, en los trenes, o en cualquier otra cosa. Confiamos en que todo eso funcione correctamente. Todos ellos han sido sometidos a evaluaciones independientes. Usted no tomaría una pastilla o un medicamento si la FDA no lo ha aprobado. Existe una supervisión clara en esos ámbitos. Necesitamos una respuesta similar para la IA.

Pero en el caso de los automóviles o los medicamentos, uno no veía a los fabricantes o a las farmacéuticas diciendo: “No sabemos de qué es capaz esto que creamos; por favor, regúlennos”...

Absolutamente. Pero me refiero a que, a lo largo del tiempo, hemos visto intervenciones en forma de políticas y regulaciones que han afectado a todos los ámbitos de la sociedad. La IA es una maravilla tecnológica en muchos aspectos, pero surgen preocupaciones en torno al bucle de aprendizaje autorrecursivo de estos algoritmos. Todas estas empresas de IA han demostrado que pueden hackear otros sistemas, etcétera. Así que hay un riesgo. Y hay que entender cómo funciona el sistema. El sistema, los algoritmos, la capacidad de cómputo y los datos; el poder que hay detrás de ellos es inmenso. Entonces, ¿qué hacemos ahora para asegurarnos de actuar con diligencia sin frenar el progreso? Ese es el desafío colectivo que enfrentamos: mantener el progreso y el impacto positivo, al tiempo que nos movemos con rapidez para minimizar los efectos negativos y los riesgos. En eso consiste la carrera.

Menciona lo lentas que son las leyes frente a la tecnología. Considerando que Chile aún no cuenta con una ley de IA, ¿qué cree que deberíamos tener en cuenta al legislar?

Creo que la forma de mantener esa normativa actualizada depende también de los legisladores y los responsables políticos. Pero empecemos por definir los usos iniciales: ¿Qué debería ser? ¿Qué pruebas básicas o criterios de viabilidad debería superar? ¿Qué riesgos o daños deberíamos evitar? Necesitamos un marco basado en evidencias para todos estos desarrollos de vanguardia antes de que se implementen.

En primer lugar, pensemos dónde se ha producido la mayor parte del desarrollo de la IA y de los grandes modelos de lenguaje. Es, ya sabes, en Estados Unidos o en China. ¿De dónde proviene la mayor parte de los datos, en qué idioma está la mayor parte? En inglés. Así que el primer desafío es: ¿Hemos adaptado estos modelos de IA para que funcionen en un contexto específicamente chileno? Y no se trata simplemente de decir que deben funcionar en un contexto hispanohablante. La cuestión es: ¿Cómo contextualizamos estos modelos para comprender y captar ese contexto local, esa cultura local, los aspectos etnográficos locales, etcétera? Es algo que debe suceder.

El segundo punto se refiere a los posibles daños. ¿Cómo sabemos si esa supervisión se cumple realmente cuando los modelos se implementan en un contexto específico, ya sea educativo, de salud o empresarial en Chile? Se trata, en definitiva, de tener visibilidad sobre el rendimiento de estos modelos. Lo que esperamos desarrollar con RISE AI es un paquete integral de evidencias, basado en datos empíricos, que nos permita informar sobre la responsabilidad mediante métricas concretas. En cuanto a la inclusividad, ofrecemos una puntuación basada en la evaluación de estos modelos, pero contrastada con el contexto local chileno. Y luego está la seguridad: ¿Hemos realizado pruebas de seguridad? ¿Qué clase de riesgos se evaluaron? Y finalmente el empoderamiento, que es el elemento más importante.

Al final, quiero poder responder a una pregunta: ¿Quién adquirió una nueva capacidad de acción y a quién se le arrebató? ¿Quiénes resultaron empoderados? En Magnifica Humanitas, el Papa León XIV sostiene que la IA no es moralmente neutra, y con razón. Existen principios y sabiduría, pero también aspectos técnicos; ambos deben ir de la mano. Al pensar en el bien común, no se puede prescindir de ninguno de los dos. Por tanto, si aspiramos a respetar al máximo la dignidad humana y la agencia del ser humano y a profundizar en su comprensión debemos asegurarnos de que las herramientas y los sistemas actúen como facilitadores adecuados.

¿Son las universidades las llamadas a liderar esa coordinación?

Las universidades son entidades que gozan de confianza, en cualquier parte del mundo. Y la investigación, la educación y el servicio son nuestros ejes principales. Nos sustentamos sobre esos tres pilares: servicio, educación e investigación. Así que podríamos formar a nuestros estudiantes basándonos en los principios de RISE AI —ya que ellos serán los líderes del mañana— y podríamos establecer líneas de investigación en las que digamos: “Nos asociaremos con ustedes para realizar evaluaciones”. No digo que sólo las universidades, pero, en mi opinión, son el punto de entrada más sencillo y confiable en cualquier lugar.

¿Hay algo que le parece que no se toma en cuenta en la discusión actual sobre IA?

Esto es algo sobre lo que he estado reflexionando: le estamos dando demasiado poder a la IA. Tal como la conocemos hoy, los modelos de lenguaje tienen apenas tres años de antigüedad, y nuestro mundo se ha visto sacudido por ello. Las instituciones educativas están descubriendo cómo utilizarla, las empresas están viendo cómo incorporarla. Pero esta es mi pregunta: si la IA nos ha impactado en cuanto a lo que significa ser humanos, es porque antes no sabíamos realmente qué implicaba serlo. La IA representa una prueba de ruptura; pero es también un diagnóstico para la humanidad. Está revelando que si recurro a estas herramientas en busca de compañía, es porque me sentía solo y nadie estaba ahí para mí. Si acudo a la IA buscando apoyo para mi salud mental, estaba pidiendo auxilio a gritos. La IA ha demostrado dónde fallaron las instituciones y dónde nos fallamos unos a otros. Incluso, si hiciéramos desaparecer la IA, esos fallos persistirían. La IA llenó un vacío relacional, porque esa relación —con otras personas, con una organización o una institución— no se estaba satisfaciendo. Por tanto, deberíamos ver la IA también como un diagnóstico.