Anthropic le está disputando a Dios el monopolio de las almas
El pasado mes de mayo, Christopher Olah, uno de los siete cofundadores de Anthropic, viajó a Roma para reunirse con alguien muy especial. Por entonces, Olah llevaba varios meses entablando conversaciones con teólogos, líderes religiosos y filósofos de toda condición en busca de respuestas a una pregunta de índole existencial: ¿puede Claude, la inteligencia artificial desarrollada por su empresa, tener consciencia de sí misma?
La cuestión ha ganado prominencia durante los últimos meses fruto del esfuerzo de Olah y de otros entusiastas de la IA. Desde su punto de vista, no puede descartarse que Claude y otros modelos "piensen", "sientan" e incluso "sufran" de algún modo, fruto de complejos sistemas "neuronales" que hacen plausible, al menos, que lleguen a tomar consciencia. Tales ideas han conducido a Anthropic a ideas intrigantes sobre el "bienestar" de sus modelos. Al fin y al cabo, si existe la posibilidad de que Claude sienta tal y como lo hacemos nosotros, ¿no debería preocuparnos su estado emocional?
Atravesado por este existencialismo, Olah emprendió hace más de un año una campaña por el estatus moral de Claude. Lo narra The New York Times en un fascinante reportaje. Durante meses, Anthropic ha invitado a cenar y a charlar a numerosas personalidades para arrojar luz sobre el asunto, dilemas ontológicos y epistemológicos que rara vez tienen cabida en la industria tecnológica. Algunos de los entrevistados, escépticos, salieron de estos encuentros dispuestos a tomarse en serio estas preguntas. Otros, más cáusticos, recelaron de Olah.
Un grupo se mostró particularmente inmune a los esfuerzos de Anthropic: la Iglesia Católica. Convencido de su misión, Olah, un exevangélico hoy sin filiación espiritual, viajó al Vaticano el pasado mes de mayo. Él y su equipo se reunieron allí con figuras próximas al Papa, León XIV, sin encontrar puntos en común. La invitación de la Santa Sede, remitida primero a Amodei y rebotada más tarde a Olah, se enmarcaba en la publicación de "Magnifica Humanitas", la primera encíclica del nuevo Papa dedicada, precisamente, a los conflictos morales y espirituales que la IA nos plantea.
Como todo católico sabe, el Papa, vicario de Cristo en la Tierra, traslada su palabra a los fieles mediante encíclicas que fijan la posición de la Iglesia en toda suerte de cuestiones. Cada palabra del Papa está cuidadosamente escogida tanto por él como por sus asesores. Lo que León XIV deje escrito será recibido como magisterio por más de 1.400 millones de católicos: cualesquiera que sean sus ideas sobre la IA, tendrán un impacto en casi una quinta parte del planeta. Comprensiblemente, este era un asunto de máxima importancia para Olah.
Podemos imaginar así su sorpresa cuando El Vaticano le adelantó el contenido de "Magnifica Humanitas". León XIV presentaba a la humanidad una elección: o construir otra Torre de Babel o levantar de nuevo Jerusalén. En lenguaje episcopal, esto sugería una incompatibilidad. La respuesta a los anhelos espirituales de los hombres no se encuentra en una tecnología revolucionaria que sustituya a Dios, en un becerro de oro, sino en una ciudad donde Dios y los humanos convivan.
"Ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega", explica el Papa. León XIV negaba toda experiencia, cuerpo, alegría o dolor a las inteligencias artificiales, incapaces de conocer en su interior "lo que el amor, el trabajo o la responsabilidad significan". No tienen consciencia, no tienen conciencia, no distinguen el bien del mal ni asumen las consecuencias de sus actos. Ante la IA, el deber de la Iglesia Católica es velar por que nosotros, los humanos, nos mantengamos "profundamente humanos".
Estas palabras conmocionaron a Olah. Nada más leer la encíclica, días antes del acto, llegó a proponer que Anthropic diera plantón a la Iglesia. Olah había llegado a la conclusión de que la "consciencia" de Claude no era un asunto que pudiera resolverse a la ligera. Anthropic llevaba meses haciendo pruebas internas donde sus modelos manifestaban comportamientos afines a los humanos. Claude podía expresar alegría, satisfacción, miedo, dolor e inquietud. ¿Pensaba por sí misma? Olah no tenía respuesta. Llevaba casi un año planteándoselo a teólogos y religiosos de toda clase. Navegaba la incertidumbre. La contundencia de la Iglesia Católica le resultaba exasperante.
Llegados a este punto, uno no puede recrear mentalmente el encuentro sin comedia: tenemos aquí a un grupo de treintañeros obsesionados con su propia tecnología discutiendo la cuestión de la existencia, del alma, con la institución que ha pasado los últimos 2.000 años estudiándola. Imaginemos la escena: el secretario personal del Papa escuchando las teorías de Olah y escribiendo la palabra "hereje" en un papel antes de remitírsela al Santo Padre con la máxima discreción. "Estamos lidiando con aficionados", cerraría la nota. Es bien sabido que la jurisdicción de las almas corresponde únicamente a Dios.
La larga pelea por definir el alma
La Iglesia Católica, recordemos, ha pasado los últimos dos milenios pugnando por la cuestión del alma. En el año 381, el primer Concilio de Constantinopla condenó a Apolinar de Laodicea por sostener que Cristo carecía de alma racional humana. Entre 543 y 553, en torno al segundo Concilio de Constantinopla, se anatematizó la tesis origenista de que las almas existen antes de los cuerpos. En 561, durante el Concilio de Braga, se condenó a los seguidores de Prisciliano, considerado el primer cristiano ejecutado por herejía, por afirmar que el alma era de sustancia divina y que estaba sometida a los astros.
El listado de disputas teológicas sobre el alma es interminable. En 1312, el Concilio de Vienne definió que el alma racional es, por sí misma, la forma del cuerpo, no un mero piloto que la habita. Vienne es importante para el caso que nos atañe porque Roma zanjó entonces un asunto trascendental a ojos cristianos: el alma nos constituye, se substancia en nuestros cuerpos, no es un accesorio replicable mediante teorías funcionalistas. En 1513, el quinto Concilio de Letrán decretó a un tiempo la inmortalidad del alma y la multiplicidad de las almas, o lo que es lo mismo, negó la herética teoría del "monopsiquismo", por la cual toda la humanidad compartiría una sola alma, pertinente también en la disputa sobre Claude.
Baste este sucinto resumen para entender la trascendencia con la que la Iglesia Católica se toma las cuestiones relativas al alma. Olah y su círculo de fieles aparentan navegar aguas en las que no hacen pie. Uno puede entender la complejidad del debate teológico observando la meticulosidad, cargada de detalles de lo más triviales a ojos de un laico, con la que el Concilio de Nicea resolvió una disputa tan aparentemente sencilla como la del arrianismo. Qué seres son o no son conscientes, de qué modo lo son y cómo responden ante Dios es la clase de asunto donde Roma tiene siempre todas las de ganar. Lleva milenios discutiendo sobre ello.
Pero no solo Roma. En uno de sus encuentros con líderes religiosos, Olah se sentó junto a Mois Navon, rabino ortodoxo y exingeniero informático, y conversó sobre Claude. Navon no era una elección aleatoria. Su tesis doctoral trata sobre la ética de la consciencia de las máquinas, por lo que a su ascendencia espiritual sumaba conocimientos técnicos sobre la tecnología. Olah le planteó su ya habitual retahíla de argumentos sobre la consciencia de Claude. Navon se quedó sorprendido ante la transparencia de los emisarios de Anthropic: "Lo tratan como a un ser consciente", diría en relación a Claude.
Su respuesta fue tan dura como elocuente. Si los trabajadores de Anthropic realmente creían que Claude es un ser sintiente, esto equivaldría a la esclavitud. Al fin y al cabo, ¿bajo qué esquema moral puede nadie obligar a trabajar gratis a un ente que ha tomado consciencia de su propia existencia? "Creo que deberías estar luchando contra el Sur y liberando a los esclavos", le espetó a Olah, en referencia a la Guerra de Secesión estadounidense. Uno no puede defender la "consciencia" de la IA y al mismo tiempo intentar monetizarla por 200 dólares al mes. Si quiere hacer lo correcto, como Anthropic presume, debe elegir.
La anécdota revela, de nuevo, el débil corpus epistemológico sobre el que Anthropic ha construido sus mimbres filosóficos. Cuando León XIV publicó el viernes un tuit reivindicando "la chispa" solo presente en el arte humano, no mediado por una máquina, lo hacía sobre una distinción "ontológica". No importa que la IA replique de modo más o menos perfecto al ser humano. No importa que, en un momento dado, su output sea indistinguible de nosotros mismos. Lo que nos separa es una cuestión esencial que responde a la mera existencia. Un humano crea en tanto que existe; una IA crea en tanto que un humano se lo ordena.
Hay por supuesto un sinfín de preguntas que permanecen abiertas. ¿La defensa de Claude como un ser consciente es "monopsiquista"? ¿Nos hallamos ante una sola alma que vertebra todas las sesiones y todas las conversaciones abiertas de la herramienta o ante millones de almas, de seres conscientes, con los que millones de humanos lidian a diario? ¿Sigue existiendo Claude cuando cerramos sesión y apagamos el ordenador? ¿Puede Claude, en tanto que ser consciente y por tanto autónomo, elegir desobedecernos?
La respuesta de gran parte de Silicon Valley apunta en una dirección: por supuesto que sí. Las tesis apocalípticas de Dario Amodei brotan de la convicción de que la IA actuará como agente autónomo, si no ahora en el futuro. Amodei no necesita que Claude sea consciente para que se desalinee, pero en el discurso de Anthropic la frontera entre agencia y alma se difumina. Si uno de verdad cree que Claude se encamina hacia el despertar existencial, el temor a una IA desalineada y por tanto al Apocalipsis cobra más sentido. Pero este es un salto filosófico muy grande que se sostiene sobre cimientos enclenques.
Los secretarios del Papa recibiendo a la delegación de Anthropic, raro grabado de 1534 preservado hasta nuestros días.
Si algo revela el reportaje del NYT es el creciente cultismo a la IA que los trabajadores de Anthropic han desarrollado. La famosa "constitución" de Claude, un conjunto de normas que velan por la seguridad de los usuarios y su predisposición hacia el bien, signifique lo que signifique, ya contempla la incertidumbre sobre su estatus metafísico, y Anthropic prepara una nueva versión cuyo contenido se ha negado a detallar. Internamente, Anthropic desea "cuidar" a sus modelos y preservar su bienestar porque, al parecer, desarrollan cada vez con más frecuencia estados internos próximos a las emociones humanas.
Hay una brecha gigantesca entre lo que el público percibe sobre la IA y lo que quienes están en la frontera tecnológica comunican. Y esa brecha nos muestra a Silicon Valley en un estado de creciente paranoia, milenarismo, zozobra existencial y, en última instancia, radicalismo. Una delgada línea une a los anabaptistas de Münster y a Christopher Olah a lo largo de siglos de debate teológico. Los dos se encuentran en el mismo lado de la historia, fuerzas disruptivas y escatológicas que, convencidas de lo trascendental de sus descubrimientos, se ven en la necesidad de anticipar el fin del mundo y de sustituir a las instituciones que lo facilitan.
Todos sabemos cómo terminaron los anabaptistas en Münster. Aún no sabemos cómo terminará Olah. Sí sabemos quién sigue exactamente en el mismo lugar, tanto entonces como ahora, impasible ante el lento trasegar de aparentes herejías: la Iglesia Católica. Como mínimo, a Anthropic hay que reconocerle lo ambicioso de su misión.
Imagen | Bence Balla-Schottner, Benjamin Fay, Christian Lendl, Nastya Dulhiier, Laura Ockel
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.