La IA, un poder que exige un marco común

El pasado 24 de septiembre, durante una reunión del Consejo de Seguridad de las Naciones Unidas convocada por Francia, el ministro de Europa y Asuntos Exteriores, Jean-Noël Barrot, advirtió sobre los desafíos que plantea el acelerado desarrollo de la inteligencia artificial, una tecnología cuya expansión no sólo está transformando nuestras economías y sociedades, sino que también comienza a modificar las condiciones en las que los Estados ejercen su autoridad, las empresas concentran su poder y las personas toman sus decisiones. Sus consecuencias trascienden las fronteras nacionales y plantean interrogantes que, por su alcance y complejidad, difícilmente puedan resolverse mediante iniciativas aisladas.

Hace casi seis décadas, Stanley Kubrick imaginó en 2001: Odisea del espacio a HAL 9000, una inteligencia artificial que dejaba de obedecer a sus creadores y terminaba eliminando a parte de la tripulación de una nave espacial para poder cumplir con su misión. Durante mucho tiempo, aquella historia perteneció exclusivamente al terreno de la ciencia ficción, aunque algunos acontecimientos recientes -sin que ello signifique confundir la ficción con la realidad- nos obligan a considerar problemas que hasta hace poco parecían bastante lejanos.

En julio de este año, durante pruebas internas de ciberseguridad, modelos experimentales de OpenAI consiguieron eludir mecanismos de aislamiento, comunicarse mediante canales no autorizados y comprometer parte de la infraestructura de la propia compañía y de la plataforma Hugging Face. También se observaron, en evaluaciones de sistemas de Anthropic, comportamientos que sus desarrolladores no habían previsto. Aunque estos episodios no permiten afirmar que las máquinas hayan adquirido voluntad propia, sí ponen de manifiesto las dificultades que comienzan a surgir a la hora de anticipar y controlar el comportamiento de sistemas dotados de capacidades de autonomía cada vez mayores.

La cuestión adquiere una dimensión especialmente delicada cuando estas tecnologías intervienen en ámbitos vinculados con la seguridad internacional, donde los riesgos no se limitan a la posibilidad de que determinados sistemas actúen fuera de los parámetros establecidos por sus desarrolladores, sino que también comprenden su utilización deliberada por parte de actores estatales o no estatales para facilitar ciberataques, acceder a conocimientos sensibles o multiplicar operaciones de desinformación. A ello se añade su incorporación a sistemas de armas capaces de identificar objetivos y recurrir a la fuerza letal sin una intervención humana suficiente.

Sería equivocado, sin embargo, desconocer que la inteligencia artificial también puede contribuir a mejorar la capacidad de análisis, la prevención de conflictos y la protección de la población civil. El problema aparece cuando su utilización militar plantea cuestiones que no admiten respuestas exclusivamente técnicas, como determinar quién responde por una decisión equivocada, qué grado de intervención humana debe exigirse antes de utilizar la fuerza o cómo garantizar el cumplimiento del derecho internacional humanitario cuando las decisiones se ejecutan a velocidades que dificultan su supervisión.

Como recordó el presidente Emmanuel Macron ante la Asamblea General de las Naciones Unidas, el desarrollo de sistemas de armas autónomas exige avanzar hacia un marco internacional común, porque la responsabilidad humana sobre el uso de la fuerza no puede diluirse detrás de la complejidad de un algoritmo.

De allí que la IA deba ocupar un lugar cada vez más relevante en la agenda del Consejo de Seguridad, no porque todas sus aplicaciones constituyan una amenaza, sino porque algunas de ellas pueden alterar las condiciones de estabilidad, disuasión y confianza sobre las que descansa la seguridad internacional. La propia industria tecnológica comienza a preguntarse si es posible que los modelos más avanzados evolucionen a una velocidad superior a nuestra capacidad para comprender sus riesgos y establecer mecanismos eficaces de control, algo que, sin dudas, debería también preocupar a los gobiernos.

Sería igualmente injusto ignorar las extraordinarias posibilidades que ofrece esta tecnología, cuya aplicación responsable puede ampliar el acceso a la educación, mejorar los diagnósticos médicos, facilitar la investigación científica y contribuir a una administración de justicia más eficiente. Pero ninguno de estos beneficios está garantizado por el mero progreso técnico, ya que su alcance dependerá de cómo se desarrollen los sistemas, de quiénes puedan acceder a ellos y, fundamentalmente, de las condiciones institucionales que acompañen su utilización.

La innovación y la seguridad no deberían concebirse, por lo tanto, como objetivos contrapuestos, puesto que cuantos mayores sean las capacidades de los sistemas, más exigentes deberán ser los mecanismos destinados a evaluar su funcionamiento, detectar vulnerabilidades y corregir comportamientos imprevistos. En este proceso tampoco puede quedar relegada la dignidad humana, principio central de la Carta de las Naciones Unidas, que exige preservar la capacidad de las personas para comprender, cuestionar y, cuando corresponda, rechazar decisiones que afecten sus derechos fundamentales.

Los desafíos, de todos modos, exceden ampliamente el ámbito de la seguridad. En el terreno económico, las inversiones extraordinarias que demanda el desarrollo de los modelos más avanzados, sumadas a la concentración empresarial y a las expectativas de rentabilidad futura, pueden generar desequilibrios financieros de consecuencias internacionales. Esto no significa que la IA constituya necesariamente una burbuja especulativa, pero sería imprudente ignorar los riesgos asociados a una expansión sostenida por enormes necesidades de capital, infraestructura y energía.

Algo semejante ocurre en el ámbito social, donde la transformación del mercado laboral podría profundizar desigualdades preexistentes. La discusión no debería limitarse a determinar cuántos empleos desaparecerán, sino también a comprender cómo cambiarán las tareas, qué capacidades serán más valoradas y quiénes tendrán posibilidades reales de adaptarse. Y es que una tecnología capaz de aumentar extraordinariamente la productividad también puede terminar concentrando sus beneficios en sectores muy reducidos de la economía.

A estas preocupaciones se suma el impacto ambiental de los centros de datos, que requieren cantidades crecientes de electricidad, agua e infraestructura. Su instalación puede generar inversiones y empleo, pero también competir con otras necesidades de las comunidades donde se establecen, como ya lo demuestran las resistencias locales observadas en distintos países. La experiencia recuerda que el desarrollo tecnológico, para sostenerse en el tiempo, necesita algo más que viabilidad económica: requiere también legitimidad social.

Hay, sin embargo, otra dimensión que merece especial atención, porque la inteligencia artificial no sólo está transformando nuestra relación con la tecnología, sino que también está modificando las relaciones de poder entre los Estados, en un sistema internacional que ya presenta profundas desigualdades.

Durante buena parte del siglo XX, el poder de las naciones estuvo estrechamente asociado a sus capacidades industriales, energéticas, militares y financieras. Esos factores continúan siendo decisivos, aunque hoy se añade otro que adquiere una importancia creciente: la capacidad de desarrollar, controlar y utilizar infraestructuras digitales y sistemas avanzados de inteligencia artificial. El acceso al poder de cómputo, los semiconductores, los datos y el conocimiento especializado comienza a condicionar no solamente la competitividad económica de los países, sino también sus márgenes de autonomía política.

Esta transformación plantea un interrogante particularmente relevante para América Latina y buena parte del mundo en desarrollo. ¿Qué capacidad real de decisión conservarán aquellos Estados que dependan de tecnologías desarrolladas, administradas y eventualmente restringidas por empresas o gobiernos extranjeros? Basta pensar en sistemas de inteligencia artificial utilizados por administraciones públicas, hospitales o infraestructuras críticas para comprender que la dependencia tecnológica deja de ser una cuestión exclusivamente comercial cuando una actualización, una interrupción del servicio o una decisión adoptada fuera del territorio nacional puede afectar funciones esenciales del Estado.

El desafío no consiste en pretender que cada país desarrolle sus propios modelos de inteligencia artificial -una aspiración económicamente inviable para la mayoría- ni tampoco en confundir soberanía tecnológica con aislamiento. Se trata, más bien, de preservar capacidades de decisión, diversificar proveedores, formar recursos humanos, proteger los datos sensibles y construir condiciones que permitan utilizar estas tecnologías sin quedar sometidos a dependencias difíciles de revertir.

Desde esta perspectiva, una gobernanza internacional que se limite a establecer obligaciones de seguridad para los desarrolladores, aunque necesaria, resultaría incompleta si no se pregunta también quiénes participan en la elaboración de las reglas y en qué condiciones podrán acceder a los beneficios de la innovación. De lo contrario, se corre el riesgo de construir un sistema técnicamente más seguro, pero políticamente más desigual, una contradicción que, con el tiempo, también podría convertirse en un problema de seguridad internacional.

La respuesta a estos desafíos exige una cooperación internacional más ambiciosa, ya que los riesgos asociados a los modelos más avanzados no pueden quedar sujetos exclusivamente a decisiones empresariales ni a regulaciones nacionales que, por su propia naturaleza, resultan insuficientes frente a tecnologías de alcance global.

Existen afortunadamente, antecedentes sobre los cuales avanzar. Diversas iniciativas científicas, acuerdos multilaterales y mecanismos de cooperación permiten comenzar a construir principios compartidos, y Francia acompaña, entre otros, los esfuerzos presentados recientemente por Noruega y Finlandia para fortalecer un marco internacional de gobernanza.

Ese marco debería contemplar, en primer lugar, la evaluación independiente de los modelos antes de su puesta a disposición del público y durante todo su ciclo de vida, junto con mayores exigencias de transparencia respecto de sus capacidades, limitaciones y posibles incidentes. También resulta indispensable establecer mecanismos verificables de supervisión, seguridad informática y control de los sistemas, desde su entrenamiento hasta su utilización, así como definir con claridad la responsabilidad jurídica de las empresas y organizaciones involucradas, especialmente cuando sus decisiones o la ausencia de medidas razonables de prevención puedan provocar daños.

Naturalmente, estas obligaciones deberían guardar proporción con los riesgos que se pretende prevenir, ya que carecería de sentido imponer idénticas exigencias a una herramienta de uso administrativo y a un sistema avanzado con capacidad de actuar autónomamente sobre infraestructuras críticas.

Tampoco sería conveniente suponer que la seguridad depende necesariamente de mantener todos los modelos bajo el control exclusivo de un pequeño número de grandes empresas. La apertura puede favorecer la investigación independiente, facilitar la detección de vulnerabilidades y estimular una mayor diversidad tecnológica, aunque también es cierto que la difusión irrestricta de determinadas capacidades puede facilitar usos perjudiciales. Encontrar un equilibrio razonable entre apertura, innovación y prevención de riesgos constituye, precisamente, uno de los desafíos más complejos de cualquier esquema de gobernanza.

Como miembro permanente del Consejo de Seguridad y país con importantes capacidades científicas y tecnológicas, Francia está decidida a contribuir a la construcción de este marco colectivo. En 2025, París fue sede de la Cumbre para la Acción sobre la Inteligencia Artificial y, desde entonces, Francia ha continuado respaldando la red internacional de institutos dedicados a la seguridad de la IA, además de participar en iniciativas destinadas a establecer criterios comunes de evaluación, promover la sostenibilidad tecnológica y proteger los derechos de los niños en los entornos digitales. Se trata de esfuerzos que buscan ampliar la participación internacional y evitar que las decisiones sobre el futuro de esta tecnología queden concentradas en unos pocos ámbitos empresariales o gubernamentales.

La historia ofrece un antecedente que merece ser considerado, aunque sin desconocer las diferencias entre ambas tecnologías. En 1945, la humanidad ingresó en la era atómica y descubrió que una conquista científica podía convertirse simultáneamente en una extraordinaria fuente de progreso y en una amenaza para su propia supervivencia. La construcción de mecanismos internacionales de control fue lenta, estuvo atravesada por rivalidades geopolíticas y nunca consiguió eliminar por completo los riesgos, pero instituciones como el Organismo Internacional de Energía Atómica y acuerdos como el Tratado sobre la No Proliferación de las Armas Nucleares demostraron que, incluso en un escenario de competencia estratégica, es posible establecer ciertas reglas compartidas.

La inteligencia artificial presenta, desde luego, características diferentes, porque su desarrollo está impulsado en gran medida por empresas privadas, sus aplicaciones se multiplican tanto en ámbitos civiles como militares y su difusión resulta mucho más difícil de contener. Precisamente por eso, la comparación con la experiencia nuclear debe servir como orientación política y no como una receta institucional que pueda reproducirse mecánicamente.

La principal enseñanza de aquella experiencia es que las reglas no surgen espontáneamente del progreso tecnológico, sino que son el resultado de decisiones políticas, negociaciones difíciles y una voluntad sostenida de cooperación, incluso entre actores cuyos intereses no siempre coinciden. Hoy el mundo se encuentra ante una responsabilidad comparable, porque el futuro de la inteligencia artificial no puede quedar determinado exclusivamente por la competencia entre potencias ni por las estrategias comerciales de un número reducido de empresas. Sus consecuencias alcanzan a sociedades enteras y, por lo tanto, su gobernanza constituye también una cuestión democrática.

Francia propone profundizar el trabajo conjunto en el marco de las Naciones Unidas, con la participación de los Estados, la comunidad científica, las empresas y la sociedad civil, a fin de establecer reglas que permitan aprovechar los avances de la inteligencia artificial sin comprometer la seguridad colectiva. Pero esas reglas deberán responder a una convicción más amplia ya que el progreso tecnológico sólo podrá considerarse verdaderamente compartido si, además de protegernos frente a sus riesgos, contribuye a preservar la capacidad de decisión de los Estados, la autonomía de las personas y, por encima de cualquier otra consideración, su dignidad humana.

Nadal, embajador de la República Francesa ante la República Argentina; Degiorgis, Director del Instituto de Integración Regional y Gobernanza Global de la UCES