¿Por qué el fundador de Anthropic se sentó junto al Papa durante una advertencia sobre la IA?
En la primera enseñanza escrita importante de su papado, el Papa León XIV invocó la inteligencia artificial. El pontífice describió las amenazas más preocupantes de la tecnología para la humanidad: Sustitución de trabajadores, Acelerar la guerra y explotación del medio ambiente. En una ceremonia en honor al Día de la Emancipación de la Sagrada Enseñanza en el Vaticano, el Papa tuvo un orador invitado inusual: el cofundador de Anthropologie, Chris Olah, uno de los hombres detrás del auge de la IA que tanto preocupó a Leo.
La presencia de Olah plantea una pregunta clave: ¿Cómo pueden trabajar juntas la Iglesia católica y la startup de inteligencia artificial más valiosa del mundo, cuando la tecnología de Anthropic podría advertir a Leo contra el futuro?
La encíclica de Leo analiza detalladamente la preservación de la dignidad del trabajo humano, ya que está amenazado por la IA, pero las grandes empresas de IA, incluida Nontropical, no están dando prioridad a estas preocupaciones, dijo Pete Furlong, gerente senior de políticas e investigación del Centro de Tecnología Humana, una organización sin fines de lucro que aboga por la rendición de cuentas en torno a la IA.
“Todas estas empresas están desarrollando tecnologías diseñadas para… reemplazar a los humanos”, dijo Furlong. “Está muy en desacuerdo con lo que dijo el Papa. No se puede tener dignidad en un mundo donde se construye tecnología para reemplazar a las personas”.
Algunas ocupaciones, como codificadores, representantes de servicio al cliente y trabajadores de entrada de datos, son particularmente débil La capacidad de la IA para automatizar tareas, según el propio análisis del mercado laboral de Anthropic publicado en marzo. Una encuesta publicada el mes pasado por el centro de investigación de IA sin fines de lucro Epoch AI encontró que el 20% de los trabajadores de tiempo completo en los EE. UU. dicen que la IA Parte de su trabajo ha sido usurpado. El propio director general de Anthropic, Dario Amodei, ha advertido de una pérdida catastrófica de puestos de trabajo administrativos en los próximos años.
‘Lavado del Vaticano’
Paolo Carrozza, profesor de derecho en la Facultad de Derecho de Notre Dame y copresidente de la Junta de Supervisión de Meta, dijo que la participación de Anthropic con el Vaticano puede ser exagerada y conducir a una retórica de “sentirse bien” sin un autoexamen crítico para ninguna de las partes. “Esa es la marca de Anthropic, ¿verdad? Así es como se están diferenciando, alineándose con una voz más orientada a la seguridad y la responsabilidad. Hay algo que ganar al decir: ‘Mira, incluso el Papa está dispuesto a hablar con nosotros debido a (nuestra marca pro-seguridad). Google no estaba en el escenario y OpenAI, Carozza no estaba en el escenario’.
Carozza se mantiene optimista, aunque al principio se mostró escéptico sobre la presencia de Olah en el evento. “Tiene que haber un diálogo entre todos los actores y no puede ser una cuestión de nosotros contra ellos”, añadió.
Furlong, del Centro de Tecnología Humanitaria, está en gran medida de acuerdo. “Lo que dice el escrito del Papa contradice lo que dice Anthropic. Para mí, eso es una buena señal”, dice. Furlong cree que, por ahora, vale la pena tomar los esfuerzos de Anthropic al pie de la letra, y que es importante colaborar con los pioneros de la IA y, al mismo tiempo, desconfiar de cómo podrían aumentar las presiones financieras. haciendo público Su posición futura puede cambiar.
Olah señaló en sus comentarios que cada laboratorio de Frontier AI “opera dentro de un incentivo y una restricción que a veces puede entrar en conflicto con hacer lo correcto”.
“No importa cuán sinceramente deseemos hacer lo correcto (y creo que muchos de nosotros lo deseamos), siempre seremos influenciados por ese incentivo”, afirmó.
Algunos defensores de la seguridad de la IA creen que el Papa no ha sido lo suficientemente contundente para tratar de frenar el daño de la IA. Timnit Gebru, fundador del Instituto de Investigación de Inteligencia Artificial Distribuida, escribió en un Publicaciones de LinkedIn Esa coalición fue efectivamente un “lavado del Vaticano” y dijo que la iglesia debería asociarse con “trabajadores de datos explotados que luchan por sus derechos, aquellos que luchan contra centros de datos contaminados con agua o muchas otras víctimas en todo el mundo”.
Anthropic no se pronunció al respecto.
Anthropologie y Leo se alinean con las preocupaciones sobre la IA y la guerra
Las iglesias y los antropólogos coinciden en otras cuestiones, como la línea roja en el uso de la IA en la guerra. Leo escribe cómo la IA puede “reducir los límites de la fuerza, proteger a las personas de la responsabilidad y fomentar una cultura en la que el enemigo se reduce a una estadística y está sujeto a ‘daños colaterales'”. Pidió las “más estrictas restricciones morales” para “proteger la santidad de la vida y evitar la carrera por desarrollar tales armas”.
A principios de este año, cuando Amodi se negó a permitir que el gobierno de EE. UU. utilizara los modelos de inteligencia artificial de su empresa en armas totalmente autónomas y vigilancia masiva, generó un amargo conflicto con el presidente. Posteriormente, la administración Trump incluyó a Anthropic en la lista negra y designó a la empresa de inteligencia artificial como una amenaza a la cadena de suministro, lo que provocó una batalla judicial, que aún está en curso.
Anthropic se alinea con su marca Estar a favor de la seguridad de la IA A diferencia de su competidor OpenAI, donde alguna vez trabajó Amodei, reconoce los riesgos de sus sistemas de IA y promueve salvaguardias para el uso responsable de la IA. Un coste para la empresa. Récord de 1,6 millones de dólares En lobby en el primer trimestre de 2026, superando a su competidor OpenAI. La mayor parte de su defensa en Washington y Legislatura estatal Promueve Regulación de la IA.
Leo pide centros de datos más sostenibles mientras Anthropic continúa construyendo
Un párrafo escondido Encíclica de aproximadamente 42.000 palabras Es una leve crítica a los centros de datos que impulsan el auge de la IA y un llamado a reducir su daño ambiental. “Los sistemas de IA actuales requieren grandes cantidades de energía y agua, lo que tiene un impacto significativo en las emisiones de dióxido de carbono y exige mucho de los recursos naturales”, escribió Leo. “Por este motivo, es fundamental desarrollar soluciones tecnológicas más sostenibles que reduzcan el impacto ambiental y ayuden a proteger nuestra casa común”.
Los centros de datos han provocado una reacción violenta a nivel nacional en Estados Unidos, donde se encuentra el mayor número del mundo, por parte de comunidades preocupadas por el impacto negativo. Emisiones industriales Por las altísimas facturas de energía. Estos grupos de computadoras que consumen mucha energía son la base del negocio de Anthropic: necesitan la potencia informática para alimentar sus cada vez más potentes modelos de IA. En cambio, muchas agencias federales y las empresas más grandes del mundo confían en los modelos de inteligencia artificial de Anthropic para flujos de trabajo y análisis complejos: lograr un objetivo o elegir uno. objetivos militares.
Las ambiciones de los antropólogos pueden entrar en conflicto con el llamado de Leo a un crecimiento más sostenible. Las startups de IA prometen Invertir 50 mil millones de dólares El año pasado sobre infraestructura de IA, incluidos los centros de datos. La compañía, sin embargo, se compromete a cubrir estos beneficios a los clientes y sistemas que reduzcan el consumo de energía durante los picos de demanda para aumentar los precios de la electricidad.
