La jefa de ética de OpenAI abandona la empresa: “Nunca debería haber una sola persona que actúe como centro moral de un desarrollador de IA”

OpenAI está viviendo una fuga de cerebros. Estas últimas semanas, varios empleados de alto perfil han dimitido de su cargo en la startup, como Johannes Heidecke, jefe de sistemas de seguridad, y Joshua Achiam, jefe futurista y antiguo jefe de alineación de misiones.

Ahora ha sido el turno de Chloé Bakalar, jefa de ética, quien ha abandonado la compañía de Sam Altman menos de un año después de incorporarse, como desveló Financial Times. Llegó en agosto del año pasado y se fue el mes pasado sin anunciarlo públicamente. De hecho, en su perfil de LinkedIn todavía figura el cargo.

Bakalar fue anteriormente jefa de ética en Meta, donde trabajó durante siete años. Allí desarrolló y dirigió los programas de ética de la inteligencia artificial de la multinacional e integró sus principios en Instagram y Facebook, entre otros servicios.

Esta dimisión llega a la vez que el ataque que lanzó uno de los modelos de IA más potentes de la startup a otra empresa mientras realizaba una prueba hace unas semanas. La preocupación por el potencial de la IA ha llevado al gobierno a tomar medidas, como darle al Gobierno estadounidense el poder de “apagar” esta tecnología.

Dentro de OpenAI, Bakalar se centraba en los enfoques éticos para el desarrollo de modelos de lenguaje, la interacción humana con la IA y el debate sobre la consciencia artificial, como explicó una persona familiarizada con su trabajo. Además, era la única experta en ética de la compañía, una empleada irremplazable.

“Agradecemos las aportaciones de Chloé”, declaró un portavoz de la startup, “la ética de la IA no recae en una sola persona o equipo dentro de OpenAI y las consideraciones éticas están muy integradas en el proceso de creación de modelos, impulsado por varios equipos de investigación”.

“La ética es, en realidad, responsabilidad de todos y lo digo como alguien cuyo trabajo consiste en liderar esta labor”, explicó Bakalar durante una conferencia sobre IA, “no debería limitarse a acudir a personas como yo, nunca debería haber una sola persona que actúe como centro moral de un desarrollador de IA”.

La ética, cada vez más cuestionada

La marcha supone un golpe para una compañía que durante años construyó su identidad alrededor de la idea de desarrollar una IA segura y al servicio del interés público. Su transformación en una empresa con fines de lucro ya había supuesto un distanciamiento de sus principios y sus planes para salir a bolsa amenazan con diluir todavía más cualquier compromiso con el desarrollo ético de la IA.

La situación tampoco es muy distinta en Anthropic, su principal competidora, pues durante mucho tiempo ha tratado de posicionarse como la alternativa más responsable a OpenAI. La compañía también vio cuestionada su imagen tras reducir sus principales compromisos en materia de seguridad a principios de año.

Anthropic mantiene, no obstante, un equipo dedicado al alineamiento de la IA, dirigido por la filósofa Amanda Askell, cuya tarea es conseguir que Claude, el chatbot de la compañía, distinga entre el bien y el mal.

El problema es que el impacto real de estos esfuerzos es cada vez más difícil de determinar, ya que la industria afronta críticas por su impacto medioambiental, el riesgo de alimentar episodios de desconexión de la realidad entre los usuarios y su contribución a la propagación masiva de desinformación en internet.