En algún lugar de Silicon Valley, un equipo de ingenieros está ajustando en este momento el algoritmo que decide qué noticias leerá usted mañana. No saben su nombre. No conocen su ciudad. No les importa su opinión sobre la democracia. Solo optimizan una métrica: el tiempo que usted pasa en pantalla. Eso es todo. Y sobre esa sola variable se construye, ladrillo a ladrillo, buena parte del imaginario colectivo del siglo XXI.
León XIV lo sabe. Su primera encíclica, Magnifica Humanitas, publicada el pasado lunes, no es un documento de bienvenida a la era digital. Es una advertencia.
Larga, documentada, teológicamente densa —tiene 245 párrafos y más de 45,000 palabras— pero en su núcleo hay algo muy simple: el Papa señala varios riesgos concretos que la aceleración tecnológica le impone a la humanidad, y los nombra con una franqueza que los gobiernos democráticos y las empresas tecnológicas han decidido sistemáticamente evitar. Estos son los riesgos que más deberían preocuparnos. No en abstracto. Aquí, ahora.
El riesgo de perder la verdad como bien común
El Papa León XIV dedica un capítulo entero a la verdad. No a la verdad filosófica sino a la verdad como condición de posibilidad de la democracia.
Su argumento es directo: cuando el ecosistema de información se fragmenta en burbujas algorítmicas, cuando la desinformación circula más rápido que la corrección, cuando los modelos de inteligencia artificial (IA) pueden generar en segundos discursos, imágenes y videos que son indistinguibles de lo real, la verdad deja de ser un bien compartido y se convierte en un recurso de poder para quien controla la narrativa.
Esto no es teoría. En México hemos visto cómo los ejércitos de “bots” amplifican acusaciones falsas. Hemos visto cómo los algoritmos de las redes sociales favorecen el contenido indignante sobre el informativo, porque la indignación retiene más tiempo la atención en pantalla.
Hemos visto también cómo la saturación de información —verdadera, falsa y todo lo que hay en medio— produce el efecto más peligroso de todos: la indiferencia. Cuando todo parece mentira, nada importa. Y cuando nada importa, el cinismo se convierte en el único idioma político disponible.
El Papa propone una “ecología de la comunicación”, un término que puede sonar académico pero que apunta a algo concreto: así como necesitamos regulación ambiental porque el mercado por sí solo no protege el aire que respiramos, necesitamos marcos normativos que protejan el espacio informativo que todos compartimos. Nadie tiene derecho a contaminar el debate público con impunidad, aunque tenga los servidores más rápidos del mundo.
El riesgo de una economía que descarta personas
Aquí León XIV es más incómodo todavía. Escribe sobre la dignidad del trabajo en la transición digital con una claridad que ningún partido ha tenido en años: la automatización no es neutral. Cuando una empresa sustituye trabajadores por algoritmos y no hay política pública que absorba ese impacto, el costo del progreso lo pagan los más vulnerables mientras las ganancias se concentran en los menos.
No es un argumento contra la tecnología, es un argumento contra la irresponsabilidad organizada. El Papa pregunta, con toda la fuerza de la tradición social católica que arranca desde la Rerum Novarum de 1891: ¿Quién responde ante el trabajador de la maquiladora cuyo puesto desaparece porque un brazo robótico hace su labor a un décimo del costo? ¿El consejo de administración de una empresa transnacional que tributa en Irlanda? ¿Un algoritmo que optimizó la cadena de suministro?
La encíclica también advierte sobre algo más sutil: la proliferación de lo que llama “nuevas esclavitudes”, formas de dependencia económica que no tienen grilletes visibles pero atan igual. El trabajador de plataforma que entrega comida en motocicleta sin contrato, sin seguridad social, sin posibilidad de negociar sus condiciones porque negocia con una aplicación, no con un patrón de carne y hueso. El sistema es eficiente. El sistema es también profundamente injusto. Y la eficiencia no es una excusa moral.
El riesgo del poder sin contrapeso
Este es, probablemente, el diagnóstico más original de la encíclica y el que menos cobertura recibirá porque incomoda a demasiados intereses a la vez.
León XIV observa que el poder tecnológico contemporáneo tiene un carácter inédito: es predominantemente privado, transnacional y acumula capacidades que superan las de la mayoría de los estados. En el pasado, cuando los gobiernos desarrollaban tecnología militar o de vigilancia, existían —imperfectos, corruptibles, pero existentes— mecanismos de control democrático.
Hoy, las empresas que construyen los modelos de IA más poderosos del mundo no rinden cuentas ante ningún parlamento. Sus decisiones de diseño —qué optimizar, qué sesgar, qué datos usar— tienen consecuencias sobre millones de personas que no votaron por ningún funcionario de esas compañías y no pueden removerlos de ningún cargo.
El Papa no propone el regreso al estatismo ni la nacionalización de los servidores. Propone algo más exigente: que los estados, las instituciones internacionales y la sociedad civil recuperen la capacidad de gobernar la tecnología, no de prohibirla. Que el multilateralismo —palabra que huele a burocracia pero que significa simplemente que las reglas del juego global las fijemos entre todos— sea relanzado antes de que el vacío de gobernanza lo llene quien tenga más dinero y menos escrúpulos.
En un momento en que el gobierno más poderoso del mundo trabaja activamente para desregular la IA y retirar a su país de los organismos de coordinación internacional, esa advertencia papal tiene un destinatario identificable.
Pocas líneas de la encíclica son tan tajantes como esta: no es permisible delegar decisiones letales e irreversibles a sistemas de IA. León XIV condena sin ambigüedad el desarrollo de armas autónomas capaces de seleccionar y eliminar objetivos sin intervención humana en la cadena de decisión.
La razón no es solo ética sino profundamente práctica: cuando una máquina mata, ¿Quién responde? ¿El programador que escribió el código? ¿El general que autorizó el despliegue? ¿La empresa que vendió el sistema? La responsabilidad se diluye hasta desaparecer, y con ella desaparece también el freno que ha contenido —imperfectamente, pero contenido— los peores excesos de la guerra: la conciencia de que hay una inteligencia del otro lado que también es un ser humano.
Para México, esto no es un debate geopolítico lejano. Es un asunto doméstico. Los drones armados que operan en la geografía del crimen organizado, los sistemas de reconocimiento facial que alimentan bases de datos de inteligencia sin regulación, los algoritmos de perfilamiento que deciden a quién vigilar: todo eso existe ya en nuestro territorio.
La pregunta de quién autoriza, quién supervisa y quién responde cuando el sistema se equivoca no tiene respuesta institucional clara. Eso es exactamente el vacío que el Papa señala.
El riesgo de que la Iglesia tampoco escuche
Hay un quinto riesgo que el documento nombra y que requiere honestidad para reconocerlo: el riesgo de que la institución que emite estas advertencias no sea capaz de aplicárselas a sí misma.
León XIV pide explícitamente a la Iglesia un examen de conciencia. Exhorta a escuchar a las víctimas de abusos —espirituales, económicos, sexuales, institucionales— y reconoce que ese proceso no es optativo sino parte integrante de la justicia.
Es un llamado que aterriza con peso específico: la Iglesia llega a esta conversación con expedientes abiertos, comunidades heridas y una cultura institucional que todavía privilegia, en demasiados casos, la protección de la reputación sobre la protección de las personas.
Una institución que diagnostica los abusos de poder del capitalismo digital mientras protege los propios abusos de poder internos no tiene autoridad moral para que la escuchen. León XIV lo sabe. Por eso lo escribe. La pregunta es si los obispos lo leerán de la misma manera.
Lo que está en juego
Magnifica Humanitas no es optimista. Tampoco es derrotista. Es lúcida, que es algo distinto y más difícil. Los riesgos que señala —la verdad corroída, el trabajo desechado, el poder sin contrapeso, la violencia automatizada, la institución que no se reforma— no son profecías sobre un futuro posible. Son descripciones de procesos ya en marcha, que avanzan a una velocidad que supera la capacidad de respuesta de los marcos políticos y jurídicos existentes.
La alternativa que propone el Papa —una corresponsabilidad que involucre a estados, empresas, comunidades educativas, sociedad civil y ciudadanos— puede sonar a “wishful thinking” en un momento de polarización y desconfianza generalizada. Pero hay algo más deshonesto todavía que el “wishful thinking”: fingir que los riesgos no existen porque nombrarlos es incómodo.
Alguien, en este momento, está tomando las decisiones que moldearán el entorno tecnológico de los próximos veinte años. Si usted no está en esa conversación, no es porque no lo invitaron. Es porque decidió que eso no era su problema.
El Papa dice que sí lo es.
Precio de Bitcoin de hoy
Puede ver el precio de hoy de Bitcoin aquí, así como también el precio de hoy de Ethereum y de las principales criptomonedas. La encíclica Magnifica Humanitas está disponible en español en esta liga.
Por Emilio Carrillo Peñafiel, abogado especializado en temas de financiamiento, tecnología y M&A.
Página web: https://mx.linkedin.com/in/transactionalmexico/es