La gran discusión sobre la IA: dónde se ubican los líderes de la industria

El llamado “padrino de la IA”, por su contribución fundamental al aprendizaje de máquinas, ha respaldado enérgicamente los llamados a poner frenos y ha reclamado que el Estado debe actuar rápido. “Tenemos dos futuros posibles: uno en el que resolvemos cómo lidiar con estos peligros antes de perder el control, y otro en el que no”, dijo en una entrevista a la BBC en la que, además, comentó que “no es poco razonable” la idea de que exista un 10% de probabilidades de que la IA destruya a toda la sociedad dentro de una década, como apuntaron los ex-Anthropic Evan Hubinger y Jacob Coxon. Hace unas semanas, Hinton acudió al Congreso de EE.UU. y dijo a los legisladores que estimaba que tenían “quizás un año” para actuar antes de que fuera demasiado tarde, apuntando a los riesgos que supone el RSI (recursive self-improvement) –es decir, una IA que ya se crea o mejora a sí misma– y la posibilidad de alcanzar la llamada “superinteligencia” –un sistema que supere en inteligencia a la humanidad en todos los ámbitos– en pocos años. Hinton ha adherido a los llamados por crear un tratado de cooperación internacional similar al acuerdo nuclear.

Bill Gates, fundador de Microsoft

El filántropo publicó a fines de agosto un ensayo advirtiendo sobre la urgencia de acordar un plan para enfrentar el “cambio epocal” que supone la IA. “Incluso en las mejores circunstancias, la transición a esta nueva era de la IA será uno de los periodos más turbulentos de la historia de la humanidad”, escribió Gates. “No veo pruebas de que los líderes, los expertos y las comunidades estén afrontando los desafíos de manera adecuada”, agregó después, preocupado de que se está subestimando el impacto de la IA. Gates ha seguido elaborando sobre el punto en sucesivas entrevistas. “Cruzamos el umbral cibernético y el biológico a comienzos de este año”, comentó a Ezra Klein del New York Times. “Esto es lo más peligroso a lo que los seres humanos se han acercado jamás”. Gates califica como “una locura” la noción de que las propias empresas de IA o la industria se autorregulen, y llama a la construcción de una nueva organización global para asegurar la seguridad de los nuevos modelos. “Hoy no existe una capa de supervisión”, lamentó. “Se necesita con urgencia para impedir que personas malintencionadas usen las IA actuales para paralizar economías o matar a millones”. Gates dice que apoyaría una desaceleración global si existiera un plan creíble, pero dice que hoy no lo ve viable. Ante eso, plantea, es necesario concentrarse en las salvaguardas.

Dario Amodei, CEO de Anthropic

Amodei puede atribuirse el crédito de haber abierto los fuegos de la actual etapa del debate, cuando publicó el ensayo llamando a un acuerdo para desacelerar el desarrollo de esta tecnología. “Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió el mes pasado, aclarando que esto “no significa detener el entrenamiento de modelos ni el progreso técnico”. Amodei plantea que existan evaluadores externos integrados en cada empresa de IA con el mismo acceso que un empleado. “Los revisores externos deberían tener derecho a publicar hallazgos clave sobre niveles de riesgo, incidentes y prácticas”, propone, junto con establecer un sistema de certificación para cada nuevo modelo según su capacidad. Además plantea restringir el avance chino mediante la prohibición de la venta de chips de IA y de equipos de fabricación de semiconductores, y “combatir la destilación no autorizada –copiar un modelo a partir de sus respuestas– por parte de empresas de países autoritarios”. Amodei es más cauteloso respecto de los controles sobre la automejora recursiva (RSI): dice que debe tocarse “con mucho cuidado, si es que se aborda”. El CEO asigna un rol a los Estados en todo esto: plantea que el gobierno de EE.UU. debe asociarse con las empresas para implementar el sistema de evaluación, y que además este debe coordinarse con otros gobiernos democráticos para buscar un acuerdo con China.

Sam Altman, CEO de OpenAi

“Coincido con Dario en que debemos moderar la velocidad de avance en la frontera”, dijo en respuesta al planteamiento de Amodei en un posteo en X. También respaldó la idea de incorporar a evaluadores independientes. Sin embargo, Altman –que ha hecho de las advertencias sobre los riesgos de la IA parte de su marca personal– ha dicho que entre la posibilidad de perder el control de la IA y concentrar demasiado poder (en un ente regulador), “nuestro objetivo es ser algo así como los centristas pragmáticos entre esos dos caminos” –según comentó al podcast Decoded de Politico–. “El mundo debería aceptar que pasen algunas cosas malas a cambio de los beneficios de esta tecnología”, agregó en esa misma entrevista. “Aceptar riesgos acotados, que entendemos, a cambio de los beneficios (…) pero no aceptar el riesgo verdaderamente catastrófico”. Aunque cree que hace falta un marco regulatorio especial para las empresas de IA, le asigna un rol acotado al Estado, se muestra escéptico sobre la restricción de exportación de chips a China y aspira a “algún tipo de acuerdo” con ese país, y que ambos poderes “o algún organismo internacional” deberían tener el poder de supervisión. Al mismo tiempo, Altman ha tenido especial cautela en no contradecir a Donald Trump, quien plantea que las advertencias sobre los riesgos son un fraude y que las empresas deben autorregularse.

Elon Musk, CEO de SpaceXAI

“Dario tiene razón”, escribió el trillonario CEO de la empresa cuyo nombre cambiará a SpaceXSI, siguiendo la orden de Donald Trump de referirse a la IA como “Super Inteligencia” en X, la red social que también es de su propiedad. Musk recordó en la misma plataforma: “Ha venido sonando la alarma sobre la IA desde hace mucho tiempo”, antes de citar un posteo de 2014 donde advertía: “Necesitamos ser supercuidadosos con la IA. Potencialmente más peligrosa que las armas nucleares”. La fórmula que propone para establecer controles a los nuevos desarrollos, sin embargo, es distinta a la planteada por Amodei. Su idea es establecer un sistema de evaluación entre pares: que las empresas “de frontera” –SpaceXAI, OpenAI, Anthropic, Google, Meta, “y tres o cuatro de las principales empresas chinas”– se supervisen entre sí. “En vez de corregir tu propia tarea, al menos tendrías a tus competidores haciéndolo, y dando la alarma si ven algo preocupante”, planteó en su presentación en el All-In Summit de Los Ángeles hace unas semanas. “Es un paso en la dirección correcta y algo que podemos hacer rápido”, agregó. Advirtió, eso sí, que el compromiso chino es imprescindible: “De lo contrario, solo nos estaríamos poniendo en desventaja”. Según reportó The Wall Street Journal, Musk llamó a Trump para disuadirlo de que no considerara la propuesta del ex -CEO de Google DeepMind, Demis Hassabis, de crear un organismo de estándares de seguridad, aludiendo a que eso consolidaba el poder de OpenAI, Anthropic y Google DeepMind. (Según el WSJ, lo mismo hicieron Mark Zuckerberg y Jensen Huang).

Mark Zuckerberg, CEO de Meta

El fundador de la compañía tras Facebook, Instagram y WhatsApp ha dicho que está contra la concentración de poder. Habla por supuesto de una industria de IA donde su compañía no ha liderado, al menos hasta ahora (el éxito del lanzamiento de Muse, su agente de IA, podría cambiar eso). Aunque reconoce que hay riesgos en esta tecnología, sostiene que cada empresa debe hacerse cargo de sus productos y puede moderar su ritmo por su cuenta para asegurar que estos sean seguros. Como ejemplo pone a su empresa: dice que el lanzamiento de Muse se retrasó varios meses en virtud de sus revisiones de seguridad. “No le pedimos a todos los demás que lo hicieran antes de hacerlo nosotros. Lo hicimos como parte de nuestro trabajo diario, porque claramente era lo correcto para las personas y para nosotros”. Además, plantea, los propios consumidores sabrán juzgar. “La gente no querrá usar agentes desalineados con ella y que no hacen lo que se les pide”, posteó en X. En esa misma línea, Zuckerberg ha criticado duramente a Anthropic y OpenAI por apostar a la automejora recursiva de la IA (RSI).

Demis Hassabis, director de Google DeepMind

Un par de meses antes que Dario Amodei, el cofundador y entonces CEO de Google DeepMind (dejó el cargo en agosto) había hecho su propia propuesta de un sistema de regulación de la IA. Inspirado en el sector financiero estadounidense, Hassabis propuso un modelo de control financiado por la industria, supervisado y puesto a prueba por el gobierno federal antes de salir al mercado. Un sistema que sería inicialmente voluntario y luego obligatorio, y que “podría endurecerse si la gravedad de la situación lo exige”. Inicialmente la propuesta fue considerada por la Casa Blanca, hasta que las gestiones de Musk, Zuckerberg y Jensen Huang disuadieron a Trump de descartarlo, según reportó el Wall Street Journal. Eso no detuvo a Hassabis de presentar su idea a los congresistas en el Capitolio, donde encontró buena recepción en ambos partidos. Hassabis ha dicho que este es un “momento crítico”, que requiere de una regulación ágil, inteligente e internacional: “Si se restringe en una sola zona, eso no ayuda a la seguridad general”, dijo a Wired. “Los detalles hay que trabajarlos, pero la dirección es la adecuada”, posteó en respuesta al ensayo de Amodei.

Jensen Huang, CEO de NVIDIA

Con 5,8 billones de dólares en valoración bursátil –una cifra que supera el PIB de toda Latinoamérica y el Caribe–, NVIDIA es la empresa más valiosa del mundo gracias al auge de la IA, cuya arquitectura básica depende de los chips y unidades de procesamiento que la compañía vende. Jensen Huang, su cofundador y CEO, ha sido el más enérgico opositor y crítico de las advertencias y propuestas de regulación en el centro del debate. Su lógica es que, como en cualquier otro sector económico, las empresas deben ser y hacerse responsables de los productos que ponen a disposición. Dice que tener que elegir entre innovación, velocidad y seguridad es una falsa disyuntiva. “Si tu producto no está listo, no lo lances”, resumió en el podcast de Ezra Klein en el Times. “Si creen que están fuera de control, que no los liberen hasta que tengan el control”. Por eso, argumenta que no es necesario implementar nuevas regulaciones, y que la única dirección posible es seguir avanzando. “La IA necesita acelerar para ser segura”, agregó. También criticó opiniones de expertos como Geoffrey Hinton: “No crean ni por un segundo que por ser alarmistas están haciendo un bien social”, advirtió. Su postura es la que más se asemeja a la que ha manifestado Trump. Tanto así que durante su presentación en la All-In Summit de Los Ángeles contestó sobre el escenario una llamada del mandatario. “Todo esto es una farsa”, se escuchó decir a Trump, quien agregó que la discusión podría favorecer a China. “No vamos a dejar que eso pase, señor”, le dijo Huang. “Vamos a asegurarnos de que todos ganen en la carrera de la IA de Estados Unidos. Cada industria, cada compañía, cada estado, cada persona”.