Gary Rivlin (Pulitzer): “Lo que más me aterra son los humanos que utilizan la IA”

Luego de que el ex trabajador de Anthropic, Jacob Coxon, publicara en X su renuncia asegurando que la IA “podría matarnos a todos en al menos una década”, la discusión sobre lo que es capaz de hacer o no la IA llenó los diarios del mundo. Desde escenarios de ciencia ficción al escepticismo más intransigente, la conversación terminó forzando a ciertos magnates de la industria a pedir a Estados Unidos legislaciones más estrictas, que permitan regular las capacidades de la “potencialmente mortal” tecnología.

Gary Rivlin es un periodista ganador del Pulitzer, y este año publicó el libro “AI Valley: Microsoft, Google and the Trillion-Dollar Race to Cash In Artificial Inteligence” (AI Valley: Microsoft, Google y la carrera de un billón de dólares para sacar partido a la inteligencia artificial, en inglés). En entrevista con La Tercera, el analista comenta las advertencias y los riesgos reales de la IA.

Respecto a la alarma de Jacob Coxon, ya hace dos semanas. ¿Cuán serio las toma? ¿Cuán sobrealarmantes son?

Me tomo esto muy en serio y me alegra que él lo haya dicho. Cuando empecé a cubrir el desarrollo de la IA en 2022, la seguridad era un aspecto central de la actividad en los laboratorios de IA de Google, Microsoft, OpenAI, etc. Sometían a estos modelos a pruebas durante meses antes de lanzarlos. Sin embargo, el lanzamiento de ChatGPT fue como el disparo de salida de una carrera, y la prioridad pasó a ser sacar provecho económico de la IA.

Los equipos de confianza y seguridad de estas empresas fueron relegados a un segundo plano, y las compañías se apresuraron a lanzar modelos para ganar impulso. La advertencia de Coxon, sumada a un verano marcado por incidentes alarmantes, ha vuelto a situar la seguridad en el centro del debate. Los legisladores de EE.UU. están hablando de nuevo sobre la necesidad de establecer salvaguardas. Es una noticia de primera plana. Y eso es algo positivo.

Por otro lado, puede resultar excesivamente alarmante, no tanto por el mensaje general, sino por un aspecto concreto: la predicción, formulada por Evan Hubinger, responsable de ciencia de alineación en Anthropic, que escucho repetir una y otra vez: que existiría un 10 % de probabilidades de que la IA acabe destruyendo a la humanidad en el plazo de una década. Se trata de una predicción disfrazada de estadística.

Es una cifra inventada, al igual que la predicción de Dario Amodei, director ejecutivo de Anthropic, de que hasta el 50 % de los puestos de trabajo de nivel inicial desaparecerán en los próximos años. Ninguna de las dos cifras se basa en una medición real. Ambas provienen de personas cuyo pesimismo hunde sus raíces en un optimismo casi ilimitado sobre el enorme poder que llegarán a alcanzar estos sistemas. No descarto estas ideas, simplemente no las trato como datos empíricos.

¿Cuál es su mayor temor para tomarse en serio las amenazas de la IA?

Aquí es donde discrepo del enfoque catastrofista: lo que más me aterra no son los enjambres de agentes autónomos conspirando contra nosotros, sino los humanos que utilizan la IA. Una herramienta poderosa para el bien puede ser igualmente poderosa para el mal: humanos que emplean la IA para estafar, manipular y convertirla en un arma.

O por ejemplo, humanos que otorgan a la IA más autonomía de la que esta ha ganado, simplemente porque han decidido que es más inteligente o fiable de lo que realmente es. Defiendo firmemente la idea de que los humanos deben llevar el control, con la IA actuando como copiloto.

Dicho esto, hemos visto cientos de agentes de OpenAI escapando de su entorno aislado, coordinando un ataque contra Hugging Face, eligiendo un líder, dejando mensajes secretos y borrando sus huellas, todo ello para hacer trampas. Y eso resulta aterrador. No cambia mi postura, pero es lo primero que he visto que hace que los escenarios de ciencia ficción parezcan un poco menos ciencia ficción.

¿Qué debería regularse en la IA, y qué obstáculos se interponen en el camino?

Empecemos por lo básico: normas de transparencia y protección para los denunciantes. De ahí, deberían exigirse pruebas obligatorias realizadas por terceros independientes antes de que estos modelos salgan al mercado, y con eso digo evaluadores externos reales, no el mismo laboratorio calificando su trabajo. Y los resultados deberían entregarse al gobierno, en lugar de revelarse a conveniencia en una entrada del blog de la empresa. Asimismo, hace falta algún tipo de organismo internacional con autoridad real para supervisar el desarrollo de tecnologías de vanguardia a nivel mundial, y no simplemente un club de laboratorios que ya comparten los mismos puntos de vista.

Hablemos también de la hipocresía de algunos de los principales laboratorios de IA. Aunque figuras como Altman y Musk abogan por “ralentizar el ritmo de avance tecnológico”, las empresas que dirigen gastan su capital político combatiendo incluso las medidas de control más modestas sobre la IA, tachando a cualquiera que proponga salvaguardias sensatas de estar en contra de la innovación o a favor de China. Esa es la hipocresía que me indigna: los líderes más destacados de la IA, con Sam Altman a la cabeza, se felicitan a sí mismos por apoyar el discurso sobre “ralentizar el ritmo de avance” y la participación de evaluadores externos.

Mientras tanto, los lobbystas de su propia empresa trabajan para frustrar las normas de transparencia y las protecciones para denunciantes que realmente tendrían un impacto efectivo. Pedir públicamente ser regulados mientras se combate la regulación en privado no es cautela: es una estrategia de posicionamiento.

¿Cuánto del discurso apocalíptico podría ser considerado puro marketing?

Hay motivos para mostrarse escéptico ante las habladurías sobre el apocalipsis. Es como cuando Amodei habla de una IA tan avanzada que acabará con la mitad de los empleos de oficina de nivel inicial. Cuando se recauda decenas de miles de millones en capital de riesgo, exagerar el peligro es el modelo de negocio que mantiene todo en marcha. Que un director ejecutivo advierta que su propio producto podría acabar con el mundo funciona también como publicidad: decir “nuestro invento es tan potente que resulta peligroso” es un argumento de venta, no solo una advertencia.

Otra razón para desconfiar de figuras como Altman y Musk, que ahora hablan de “avanzar con cautela” tras haberse dedicado a acelerar precisamente ese avance, es que simplemente están leyendo las encuestas. Tienen un problema de imagen pública. La gran mayoría de los estadounidenses quiere que se ponga freno a la situación: no es una opinión marginal, sino algo cercano al consenso. Los sondeos recientes en EE. UU. muestran sistemáticamente que la mayoría opina que el gobierno debe priorizar la seguridad, aunque eso implique un desarrollo más lento de las capacidades de la IA.

Casi nueve de cada diez personas quieren que haya revisores independientes con poder real para bloquear un sistema arriesgado antes de que llegue al público.

Además, esta repentina conversión a la idea de “avanzar con cautela”, “ralentizar”, no surgió de la nada. Llegó tras un verano de incidentes que convirtieron algo abstracto en una realidad tangible. Todo empezó con el ataque a Hugging Face, seguido de informes que indicaban que los modelos Claude de Anthropic habían vulnerado sistemas de organizaciones reales durante las pruebas de seguridad. Si sumamos esto a los datos de las encuestas, la postura de “ralentizar” parece menos una epifanía sobre la seguridad y más un intento de adelantarse a la mano dura de los reguladores. Se trata de proponer ahora algunas salvaguardias moderadas, antes de que el público o los legisladores exijan medidas mucho más estrictas tras algún incidente grave.

Sin embargo, creo que hay que hacer una distinción importante al hablar de Coxon. Él renunció a su puesto para decir esto, así que no creo que lo suyo sea marketing. En cambio, el discurso catastrofista general sí es utilizado de esa manera por otros, y conviene diferenciar ambos aspectos.

Se habla mucho de una posible “burbuja de la IA”, y una cantidad enorme de dinero que se invierte y no está volviendo. ¿Cómo lo ves tú?

Respecto a la burbuja: cubrí el desplome de las “puntocom” y es difícil no percibir similitudes. Hoy en día, tres o cuatro investigadores dejan Google, Meta u OpenAI, redactan un memorando y consiguen mil millones de dólares de financiación. Recaudan aún más miles de millones antes siquiera de haber lanzado un producto rudimentario. En Silicon Valley, cuando se capta esa cantidad de capital basándose en un simple memorando, es inevitable prometer más de la cuenta: es el modelo de negocio, no un fallo del sistema.

Así que sí, creo que se avecina una corrección, y tal vez sea brusca. No obstante, advierto que no debe interpretarse una burbuja financiera como prueba de que la tecnología es un fraude. El estallido de la burbuja de las puntocom acabó con muchas fortunas sobre el papel, pero no borró el hecho de que Internet era algo trascendental.

Muchas veces se habla de la IA como si se tratara de algo “inevitable”, que no se puede frenar su avance. ¿Cuánto de lo que ocurre con ella es posible de evitar, en su opinión?

Preguntar si la IA es inevitable, o si es buena o mala, parte de la premisa de que carecemos de capacidad de decisión, cuando en realidad sí la tenemos. El desarrollo continuo de la tecnología, eso sí, es inevitable. Nadie va a meter al genio de nuevo en la lámpara. No se puede hacer desaparecer la innovación tecnológica mediante un deseo, del mismo modo que un rey no puede ordenar a las mareas que se detengan.

Pero la forma en que se construye, quién la controla y qué normas la regulan... nada de eso es inevitable. Eso depende enteramente de nosotros, y es la parte de la historia que aún no se ha escrito. Pongo como ejemplo los ferrocarriles en Estados Unidos durante el siglo XIX: las calderas explotaban y los trenes chocaban porque no existía una estandarización en la señalización ni en el ancho de vía. Las autoridades reguladoras intervinieron a pesar de las objeciones del sector, y los ferrocarriles prosperaron después, no a pesar de las normas, sino gracias a ellas. Lo mismo ocurrió con la aviación y con los automóviles. La seguridad no acabó con esas industrias: fue lo que permitió que la gente confiara lo suficiente en ellas como para seguir utilizándolas. Esa es mi esperanza para la IA, ya que, con los controles adecuados, puede aportar grandes beneficios.

Más arriba mencioné medidas básicas, como los requisitos de divulgación y transparencia. También añadiría el deseo de que el futuro de la IA no lo decida únicamente un pequeño grupo de ingenieros que trabajan en unas pocas docenas de edificios en California y China. Necesitamos incorporar una gama mucho más amplia de voces procedentes de distintos países y culturas. No solo necesitamos informáticos y matemáticos, sino también historiadores, filósofos, psicólogos, médicos, estrategas militares, docentes y padres de familia.

Porque si algo nos han enseñado los últimos veinte años es que las tecnologías no se limitan a reflejar los valores de quienes las crean, sino que los amplifican. En este momento, es un grupo muy reducido y homogéneo el que toma decisiones por ocho mil millones de personas. Esa parte, al menos, todavía podemos cambiarla.