Magnifica Humanitas

123 Me limito a recordar algunos elementos esenciales para un discernimiento moral y social que proteja el primado de la persona, con el fin de que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites. 98.

Es oportuno anteponer dos consideraciones: la primera es que cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas.

En segundo lugar, todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo.

Las inteligencias artificiales modernas están más “cultivadasˮ que “construidasˮ: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “creceˮ.

En consecuencia, los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos.

Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual. 99.

No es posible dar una definición única y completa de la IA.

Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligenciaˮ a la humana.

Estos sistemas imitan ciertas funciones de la inteligencia humana.

Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos.

Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad.

Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias.

Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio.

Incluso cuando dichos instrumentos se presentan como capaces de “aprenderˮ, lo hacen de modo diferente al de la persona humana.

No es la experiencia de quien se deja modelar por la 25/5/26, 9:26 Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026) https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html 21/54 vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior.

Una ayuda valiosa que requiere atención 100.

A la luz de cuanto se ha dicho, podemos comprender mejor por qué la IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso.

En los últimos años su uso privado ha crecido notablemente, y desde distintos ámbitos se reflexiona sobre las oportunidades y los riesgos vinculados a su rápida difusión.

En el uso personal, tres aspectos, en particular, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana.

La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad.

La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos.

La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal.

Cuando la palabra es simulada, esta no construye una relación, sino una apariencia.

La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro. 101.

Ampliando la mirada al uso de la IA en nuestras sociedades, constatamos que ya está presente en procesos de decisión en todos los ámbitos y a diversos niveles: en la comunicación, la gestión y el control.

Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental.

Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva.

Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía.

Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común. 124 Responsabilidad, transparencia y gobernanza de la IA 102.

El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad.

Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», 125] pudiendo así producir nuevas formas de descarte.

Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado. 103.

Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas.

Lo que disminuye, en este proceso, no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar.

Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte. 104.

De esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra.

En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones.

Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es un simple instrumento que “hay que usar correctamenteˮ; introduce ya un criterio que contradice la dignidad inalienable de la persona.

Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían. 126 25/5/26, 9:26 Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026) https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html 22/54 105.

Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas.

En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores.

Es aquí donde se vuelve decisivo lo que llamamos “responsabilidadˮ( accountability): la posibilidad de identificar quién debe “rendir cuentasˮ de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas. 127 106.

Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana.

Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos.

No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea.

De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo. 107.

No podemos limitarnos a invocar la moralización de la máquina, la denominada “alineaciónˮ de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida.

De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas.

No serviría de nada una IA más moral, si esta moral es decidida por unos pocos.

Se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose. 108.

En efecto, como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos.

A la luz del bien común y del destino universal de los bienes, este fenómeno suscita seria preocupación: pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos.

Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia.

Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse.

Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos.