El Papa León XIII advierte: La IA es el gran desafío moral de nuestra era en mensaje a los líderes tecnológicos

El Vaticano lanza un misil ético contra la inteligencia artificial. León XIII, en una jugada que mezcla escolástica y Silicon Valley, califica la IA como 'la prueba definitiva para la moral humana'. ¿Podrán los CEOs tecnológicos - acostumbrados a mover mercados con un tuit - lidiar con dilemas que no se resuelven en una ronda de financiación?

La advertencia papal llega mientras los algoritmos dictan desde inversiones hasta relaciones sociales. Mientras tanto, en Wall Street, los bots siguen comprando y vendiendo sin preocuparse por el alma - solo por el spread.

El Papa León XIV aboga por un despliegue responsable de la IA

En su mensaje, el Papa instó a los desarrolladores de inteligencia artificial a considerar el discernimiento moral al construir sus modelos. «Por lo tanto, la Iglesia llama a todos los desarrolladores de inteligencia artificial a cultivar el discernimiento moral como parte fundamental de su trabajo, para desarrollar sistemas que reflejen justicia, solidaridad y un auténtico respeto por la vida», añadió.

Desde que se convirtió en cabeza de la Iglesia Católica Romana, el Papa León ha hecho varios comentarios dirigidos a la de inteligencia artificial y a sus creadores.

En mayo, el recién elegido Papa reveló que escogió ese nombre en referencia al Papa León XIII, quien abordó las consecuencias de la Revolución Industrial en mayo de 1981. En su discurso inaugural, mencionó que la Iglesia actuaría como guía en respuesta a “los avances en el campo de la inteligencia artificial que plantean nuevos desafíos para la defensa de la dignidad humana, la justicia y el trabajo”.

Los comentarios del Papa León XIII se hicieron eco de la enseñanza del Vaticano, Antiqua et Nova, publicada en enero, sobre inteligencia artificial e inteligencia humana. El documento destacó que la IA puede producir resultados sofisticados, pero carece de pensamientos reales, experiencia vivida y juicio moral. Advirtió que, sin una supervisión humana firme, la tecnología podría agravar la desigualdad, aumentar la desinformación, expandir la vigilancia y debilitar importantes relaciones humanas.

En julio, el Vaticano publicó un mensaje en nombre del Papa instando a los líderes mundiales a abordar la inteligencia artificial con una gobernanza ética y centrada en el ser humano. El mensaje, dirigido a la Cumbre de IA para el Bien 2025, abogaba por modelos y sistemas de IA que protejan la dignidad humana, fortalezcan la cooperación global y sirvan al bien común de la población mundial. El mensaje del Papa León XIII respalda la postura del Vaticano desde el lanzamiento de ChatGPT en 2022, bajo el pontificado de su predecesor, el Papa Francisco.

Durante el tiempo en que OpenAI lanzó ChatGPT, el Papa Francisco escribió que el progreso en la tecnología de la información y las tecnologías digitales “ya ha comenzado a efectuar profundas transformaciones en la sociedad global y sus diversas dinámicas”.

Al igual que el Papa Francisco, el Papa León XIII trazó un paralelismo entre las convulsiones de la Revolución Industrial y el auge de la IA. Señaló que la tecnología transformará el mundo, pero quienes estén a cargo de los modelos deben asegurarse de que nodefilo que significa ser humano.

Las declaraciones del Papa sobre la IA coinciden con la preocupación global por sus impactos sociales. El tema ha sido objeto de numerosas controversias en los últimos años. Estas controversias sobre la ética de la IA se manifiestan en casos como los experimentos académicos engañosos que utilizan perfiles de IA en Reddit, las herramientas de IA generativa para hacer trampa en la educación y las prácticas de censura de plataformas de generación de imágenes como Midjourney, que bloqueó a figuras políticas como Xi Jinping, presidente de China.

Mientras tanto, los países están tomando medidas para establecer salvaguardias y regulaciones que controlen las actividades de inteligencia artificial y de las empresas que la desarrollan. Según Cryptopolitan , India anunció recientemente la creación de un grupo de gobernanza y un panel de expertos que elaborarán políticas y regulaciones para esta tecnología. El país también ha recurrido a diversas agencias, las cuales colaborarán en la creación de estrategias e implementación de políticas de IA.

Afila tu estrategia con mentoría + ideas diarias: 30 días de acceso gratuito a nuestro programa de trading