5 min lectura
El Papa León XIV publicó el lunes su primera encíclica, un documento de 245 párrafos dedicado íntegramente a la inteligencia artificial que exige una supervisión más estricta de las grandes tecnológicas, clasifica los datos como un recurso humano compartido y sostiene que "la tecnología nunca es neutral", ya que absorbe los valores, los puntos ciegos y los incentivos económicos de quienes la desarrollan.
El documento, Magnifica Humanitas ("Humanidad Magnífica"), fue presentado el 25 de mayo en el Aula del Sínodo del Vaticano. El Papa León lo firmó 10 días antes, el 15 de mayo, en el 135° aniversario de la Rerum Novarum —la encíclica de 1891 del Papa León XIII sobre los derechos laborales que se convirtió en el fundamento de la doctrina social católica moderna.
El Papa León ha enmarcado de manera consistente la IA como el desafío moral definitorio de su pontificado, y ha comparado la convulsión social que se avecina con la de la Revolución Industrial.
La encíclica abarca una gran cantidad de temas: la IA en la guerra, la deshumanización, la tecnocracia, el colonialismo de datos, la seguridad infantil en línea, el desempleo masivo, la desinformación, las armas autónomas e incluso el transhumanismo. Sin embargo, el argumento que los une es sencillo: todo algoritmo refleja las prioridades de quienes lo diseñaron, financiaron y desplegaron. Construir sistemas que pretenden lo contrario no elimina ese sesgo —simplemente lo oculta.
La doctrina social católica ha sostenido durante mucho tiempo que los recursos naturales de la tierra están destinados a toda la humanidad, no a propietarios privados. León extiende ese principio directamente a la economía digital. Los algoritmos, las plataformas y los datos, argumenta la encíclica, deben gobernarse como bienes comunes, no quedar encerrados tras muros comerciales en manos de unas pocas empresas.
"Los datos son el producto de muchos colaboradores y no deben tratarse como algo que se pueda vender o confiar a unos pocos elegidos", escribe el papa.
El texto también aplica la subsidiariedad —el principio de que las decisiones deben tomarse al nivel más local posible— específicamente a las plataformas tecnológicas. La encíclica no solo exige una regulación de arriba hacia abajo, sino que aboga por algoritmos transparentes, auditorías comunitarias independientes y un verdadero poder legal para que las personas puedan impugnar los sistemas automatizados que afectan sus puntajes crediticios, solicitudes de empleo o evaluaciones de riesgo en procesos judiciales. Sin esa supervisión distribuida, argumenta León, la gobernanza de la IA se convierte en una forma de autoritarismo digital que silencia a las poblaciones a las que dice servir.
La encíclica también apunta al transhumanismo —la idea de que la limitación y la vulnerabilidad humanas son defectos que deben ser eliminados mediante la ingeniería. La respuesta de León es que la finitud no es un error. Es lo que hace posible la empatía, el juicio moral y el cuidado genuino por los demás. Los sistemas construidos para optimizar esa finitud no producen un ser humano mejor, sino algo que evalúa y excluye a los vulnerables de manera más eficiente.
El papa se cuida de no antropomorfizar la tecnología. Los sistemas de IA, señala la encíclica, "no poseen un cuerpo, no sienten alegría ni dolor". El texto apunta que carecen de la experiencia vivida que genera una comprensión real. Pueden simular empatía y producir un lenguaje convincente, pero no comprenden lo que generan.
Esa distinción tiene implicaciones prácticas. Cuando un algoritmo toma decisiones de contratación, establece condiciones crediticias o asigna una puntuación de riesgo en una sala de audiencias, su aparente objetividad oculta las elecciones incorporadas por sus diseñadores. La encíclica advierte específicamente contra delegar decisiones sensibles en sistemas automatizados que "no conocen la compasión, la misericordia ni el perdón", y contra tratar el resultado como neutral solo porque lo produjo una máquina.
La persona que compartió el escenario con León el lunes atrajo tanta atención como el documento en sí. Christopher Olah —cofundador de Anthropic y director de su equipo de investigación en interpretabilidad— intervino en la presentación del Aula del Sínodo junto a dos cardenales del Vaticano y un par de teólogos.
Como Decrypt reportó cuando León fue elegido, el papa enmarcó la IA como la cuestión moral central de su pontificado desde su primer discurso a los cardenales. La encíclica del lunes es la versión doctrinal formal de ese compromiso.
Olah aprovechó la ocasión para decir abiertamente lo que la mayoría de los ejecutivos de IA evitan: que todos los grandes laboratorios "operan dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto", y que el escrutinio externo —de gobiernos, instituciones religiosas y sociedad civil— no es opcional. También señaló el desplazamiento laboral impulsado por la IA como un riesgo a corto plazo que, de materializarse a escala, crearía "un imperativo moral de proporciones históricas".
León ya había escrito la versión más contundente de ese argumento. "Una IA más moral no es suficiente", afirma la encíclica, si la moralidad que la sustenta es definida exclusivamente por quienes controlan los datos y la capacidad de cómputo. León planteó lo mismo directamente a los ejecutivos de Silicon Valley en el Vaticano en noviembre de 2025. El Vaticano también aprobó el 16 de mayo una nueva comisión interna de IA, integrada por siete departamentos, para coordinar el trabajo de gobernanza de la IA en toda la Santa Sede de cara al futuro.
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.