El Papa León XIV estableció el lunes una visión clara para los ejecutivos corporativos, políticos e individuos que serán moldeados y moldeados por el futuro de la inteligencia artificial, advirtiendo a los líderes que protejan a la humanidad de los efectos más disruptivos de la IA.
El anuncio de León se produjo en forma de encíclica papal, una carta abierta a “toda la gente buena” que constaba de unas 42.300 palabras. Su versión en inglés. Describe su deseo de proteger la dignidad humana y la agencia en una era donde la tecnología amenaza con reemplazar a los humanos en muchos roles profesionales y sociales. Lo presentó con Christopher Olah, cofundador de Anthropic, un importante desarrollador de inteligencia artificial, en un gesto simbólico de diálogo entre líderes del mundo espiritual y tecnológico.
Si bien enfatiza que “la tecnología no debe considerarse, en sí misma, como una fuerza contra la humanidad”, escribe que “la búsqueda de mayores ganancias no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo”.
Entre otras cosas, Leo pidió:
-
La regulación gubernamental de las empresas privadas impulsa el desarrollo de la IA
-
Protección y reciclaje para aquellos cuyos puestos de trabajo están amenazados
-
Enseñar para ayudar a los estudiantes a pensar críticamente sobre la tecnología
-
Medidas para proteger a los niños de la información violenta, hipersexualizada o falsa en línea que a menudo genera la IA
-
Salvaguardias para garantizar que los humanos, no la inteligencia artificial, sean responsables de todas las decisiones relativas al uso de armas.
Sobre todo, subraya la importancia de conservar un papel social fundamental para todos los seres humanos. “Una sociedad que garantiza empleo sólo a una pequeña parte de la población, a pesar de un alto nivel de desarrollo tecnológico, puede exponer a muchos a la inactividad forzada, a la falta de responsabilidad y de trabajo diario y a la falta de estímulos, lo que resulta en un empobrecimiento humano y cultural”, afirmó.
“Esto crea una paradoja de progreso material y regresión antropológica que socava los cimientos de una paz social justa y estable”, añadió.
Pastores, académicos y líderes tecnológicos han estado anticipando el documento papal durante meses, y muchos esperan que sea una de las advertencias morales más importantes hasta el momento sobre el uso indebido o excesivo de la inteligencia artificial.
Hace un año, en su segundo día como Papa, Leo aclaró su enfoque en los peligros de la inteligencia artificial y le dijo al Colegio Cardenalicio que, bajo su liderazgo, la Iglesia abordaría los riesgos que la evolución de la tecnología plantea para “la dignidad humana, la justicia y el trabajo”.
Desde entonces, ha hablado repetidamente de la IA en discursos durante sus visitas a Türkiye y el Líbano. universidad catolica Líderes e incluso al celebrar Día Internacional de las Matemáticas. La semana pasada, el Vaticano anunció que había creado una comisión de altos funcionarios católicos para discutir los desafíos que plantea AI.
El predecesor inmediato de León, el Papa Francisco, también advirtió sobre los peligros de la inteligencia artificial y pidió el uso ético de la tecnología.
Aunque León presentó públicamente su encíclica el lunes, la firmó oficialmente el 15 de mayo, el 135º aniversario de la publicación de la “Rerum Novarum” – o “De las cosas nuevas”, una importante encíclica escrita en 1891 bajo su nombre, León XIII.
El Papa tenía encíclicas. Es hora de avisar Compárese esto con documentos anteriores, que guiaron la enseñanza católica sobre cómo proteger a los trabajadores después de los trastornos tecnológicos e industriales del siglo XIX.
escrito En medio de los trastornos de la Revolución Industrial, la “Rerum Novarum” buscó proteger los derechos y la dignidad de la clase trabajadora y se convirtió en una de las piedras angulares de la enseñanza social católica moderna. Llama a los gobiernos a “salvar a los desafortunados trabajadores de la crueldad de los hombres codiciosos, que utilizan a las personas como meros instrumentos para ganar dinero”, al mismo tiempo que elogia los “descubrimientos de la ciencia”.
En una nueva encíclica titulada “Magnifica Humanitas”, Leo adopta un tono similar, advirtiendo sobre nuevas amenazas a los trabajadores que plantea la inteligencia artificial.
El trabajo, escribió, es más que un medio para obtener ingresos, sino “una necesidad de la condición humana, un camino natural hacia la madurez, el desarrollo y la realización personal”. Pidió “la protección de las oportunidades de empleo y del papel insustituible del individuo”.
Leo expresó su preocupación por cómo las herramientas de inteligencia artificial emergentes podrían hacerse cargo de muchas tareas y tareas rutinarias, subestimando a las personas que no tienen la capacitación o la capacidad para realizar tareas disponibles para los humanos. Leo escribió sobre la importancia de proteger la dignidad humana y advirtió contra la ideología “engañosa” de que “cada individuo debe merecer o justificar sus propios méritos, para dar mayor valor a quienes son más eficientes o eficaces”.
Los sindicatos y organizaciones benéficas que se formaron para proteger a los trabajadores durante la Primera Revolución Industrial, escribe Leo, no serán suficientes para proteger a los trabajadores durante el cambio tecnológico que podría dejar a millones de desempleados.
“El rápido desarrollo de una regulación y protección compartidas adecuadas, incluso a nivel internacional, requiere nuevos esfuerzos de colaboración entre los líderes políticos, las organizaciones laborales, el mundo empresarial y la comunidad científica”, escribió.
La encíclica pedía la imposición de las “limitaciones morales más estrictas” a las armas desarrolladas con inteligencia artificial, una oposición de larga data a la guerra por parte de Leo y del Vaticano.
“La creciente facilidad con la que se pueden desplegar sistemas de armas autónomos hace que la guerra sea más ‘posible’ y menos sujeta al control humano”, escribió Leo. Añadió que “se opone al principio de que las fuerzas armadas deben utilizarse sólo como último recurso en legítima defensa”.
Aunque la encíclica contiene referencias importantes a las Escrituras y las enseñanzas religiosas, el documento en muchos sentidos se lee como un documento de política de un grupo de expertos o un legislador.
Leo escribe detalladamente, por ejemplo, sobre la importancia de proteger a los niños, que son particularmente susceptibles a los efectos disruptivos de la tecnología.
“La literatura psicológica y psicosocial ha documentado cada vez más cómo la exposición temprana y sin supervisión a dispositivos digitales y redes sociales puede afectar negativamente el sueño, la capacidad de atención, las emociones y la regulación de las relaciones, especialmente en las etapas más vulnerables de la vida, a veces con consecuencias trágicas”, escribió.
Los padres necesitan el apoyo de las escuelas y los gobiernos, dijo, para ayudar a sus hijos a prevenir el uso excesivo de la IA, el potencial de “aislamiento, acoso y ciberacoso” y “presión para compartir imágenes íntimas o información sensible”.
Los académicos están divididos sobre el impacto que tendrá el documento, si lo hay, en la industria tecnológica, donde los titanes tecnológicos rivales luchan por el dominio.
Brian Patrick Green, director de ética tecnológica de la Universidad de Santa Clara en el norte de California, dijo que algunos líderes tecnológicos “tienen que tomárselo en serio en cierto sentido”, en parte porque les da un “imperativo moral”.
En la encíclica, el Papa reconoció la autonomía del gobierno y de las empresas privadas. La iglesia, dijo, “no pretende reemplazar las responsabilidades de la política o las instituciones, sino que se presenta como una base”, instando a otras instituciones “a reconocer y promover lo que funciona para la dignidad del individuo, la vitalidad de la comunidad y el bien común”.
Otros dijeron que el destinatario principal de una encíclica es el clero y los fieles.
“No creo que los ‘tech bros’ de Silicon Valley escuchen mucho”, dijo la profesora Noreen Herzfeld, directora de un programa de tecnología y ética en la Escuela de Teología y Seminario St. John en Minnesota. “Pero creo que dentro de la iglesia será una referencia para los sacerdotes y para nosotros, especialmente para los seminaristas, obispos u obispos”.
Los sacerdotes pueden utilizar el contenido del documento para guiar las conversaciones con los feligreses que comparten sus preocupaciones sobre las presiones tecnológicas de la vida moderna, dijo el profesor Herzfeld.
El informe fue aportado por Josephine de la Bruyère De Roma y Elizabeth Dias De la Ciudad del Vaticano.
