Bienvenido a la nueva serie de columnas invitadas de CNET llamada Alt View, un foro para que expertos y luminarias compartan sus ideas sobre el campo de la inteligencia artificial en rápida evolución. Para obtener más cobertura de IA, consulte el Atlas de IA de CNET.
La última revolución industrial obtuvo su marco moral demasiado tarde. La IA no tiene por qué hacerlo.
En noviembre pasado tuve la suerte de tener una audiencia privada con el Papa León XIV sobre la dignidad del niño y la inteligencia artificial. Le pregunté al Papa León si se sentía cómodo con que la inteligencia artificial se convirtiera en el sistema operativo de la vida humana.
Hizo una pausa por lo que pareció una eternidad.
Luego simplemente dijo: No.
El 15 de mayo, el Papa León firmó la Magnifica Humanitas, su primera encíclicaSobre la inteligencia artificial y la protección de la dignidad humana. Será lanzado la próxima semana. Lo firmó 135 años después de que su nombre, León XIII, publicara la Rerum Novarum, el documento que dio su marco moral a la Revolución Industrial. Los paralelos son intencionales.
La Rerum Novarum surgió décadas después de que comenzara la Revolución Industrial. Para entonces las comunidades ya estaban vacías. Los trabajadores son explotados. Los niños ya han pagado el precio de un progreso que no fue diseñado pensando en ellos. El marco moral llegó, pero sólo después de que el daño ya estaba hecho y la arquitectura fue reparada.
Las personas que construyen la IA se muestran ambiguas sobre la escala de lo que se avecina. Demis Hassabis de Google, premio Nobel, fundador de DeepMind, uno de los arquitectos de la inteligencia artificial moderna, describe este momento como una revolución industrial a una velocidad diez veces mayor. El antropólogo Dario Amodei habla de que en unos pocos años los sistemas superarán las capacidades humanas en casi todos los ámbitos. Sam Altman, de OpenAI, sugiere que lo que se avecina puede requerir un nuevo contrato social en una nueva escala de contrato.
Estas no son afirmaciones retóricas. Son evaluados por quienes están cerca de la tecnología.
Si tienen razón -y creo que la tienen- entonces las decisiones que tomemos en esta ventana moldearán las condiciones de la vida humana durante generaciones. No sólo para aquellos que pueden permitirse el mejor equipamiento o vivir en las ciudades más conectadas, sino para todos.
Ésta es la verdadera promesa de la IA. Ni aumentos de productividad ni retornos de mercado, aunque eso llegará. El compromiso profundo es un verdadero trastorno civilizatorio: condensar décadas de progreso científico, extender la capacidad humana a personas que no tenían acceso a nada de eso, expandir la agencia en lugar de centralizarla.
Pero ese resultado no está garantizado por la existencia de la tecnología. Depende completamente de los valores incorporados en los sistemas que se están construyendo, de la diversidad de voces que los moldean y gobiernan cómo se implementan. Por el momento, estas decisiones se toman dentro de un círculo extraordinariamente estrecho; Sin la participación de las comunidades más afectadas y sin el marco moral que ha guiado a la humanidad a través de transformaciones anteriores.
Esto no es una crítica a quienes están construyendo la IA. La mayoría comprende el peso de lo que llevan. El problema es estructural: las dos comunidades más capaces de dar forma a este momento (los creadores de la IA y las grandes instituciones morales y religiosas del mundo) nunca han mantenido un diálogo serio. Ocupan universos paralelos, cada uno con una imagen incompleta.
¿qué es eso? Proyecto de contrato Trust-AI Diseñado para cambiar. Estamos reuniendo a las empresas de inteligencia artificial y las tradiciones religiosas del mundo en un diálogo estructurado sobre los valores que deberían regir esta tecnología. Para no interrumpir. No controlar desde fuera. Pero traer la sabiduría, la autoridad moral y la confianza que las comunidades religiosas han adquirido durante milenios a las conversaciones, mientras la arquitectura aún se está construyendo y las dependencias del camino aún no han sido lo suficientemente profundas como para redirigirlas.
El mes pasado en Nueva York, nuestra primera mesa redonda reunió a representantes de antropólogos, OpenAI y otros a la misma sala que líderes religiosos de alto nivel de cada tradición. La conversación no se parece a ninguna que haya tenido en cuatro décadas en esta industria. Los líderes religiosos aportan algo que el sector tecnológico no puede: la fe de miles de millones de personas que no se preguntan si la IA es impresionante. Se preguntan si es correcto. Dejará atrás a sus comunidades o las hará avanzar.
Son las preguntas correctas. Y necesitan preguntar ahora.
La encíclica envía una señal clara a cada gobierno, cada inversor, cada empresa de tecnología: hay un electorado de casi mil quinientos millones de personas que creen que la dignidad humana no es negociable. Y están prestando atención.
La Rerum Novarum cambió el curso de la Revolución Industrial. Pero llegó demasiado tarde para quienes más lo necesitaban.
Ahora el marco ético se está escribiendo antes de que se arregle la arquitectura. Ese es el momento en el que nos encontramos.
