Según el cofundador de Anthropic, un sistema de inteligencia artificial trabajará con humanos para descubrir un ganador del Premio Nobel en un plazo de 12 meses, y los comerciantes contarán con la ayuda de robots bípedos en un plazo de dos años.
Jack Clarke describió una “sensación de progreso” en la tecnología e hizo una serie de predicciones, entre ellas que las empresas dirigidas únicamente por IA ganarán millones de dólares en 18 meses y que, para finales de 2028, los sistemas de IA podrán diseñar sus propios sucesores.
En un discurso en la Universidad de Oxford el miércoles, también dijo que había escenarios plausibles en los que la tecnología tenía “cero posibilidades de matar a todos los habitantes del planeta” y que era “importante dejar claro que ese riesgo no ha desaparecido”. El modelo más popular de Anthropic se llama Claude, pero recientemente presentó una versión llamada Mythos que ha demostrado ser alarmantemente capaz de explotar vulnerabilidades de ciberseguridad.
Clarke dijo a los estudiantes que sería mejor si los humanos pudieran frenar el desarrollo de la tecnología para “darnos más tiempo como especie” para afrontar el impacto de su poder. Pero eso no sucederá, dijo, “por diferentes actores y diferentes países, atrapados en la competencia entre sí, donde las rivalidades comerciales y geopolíticas a menudo ahogan los aspectos más amplios de la tecnología, existencial y entre especies”. “No es lo ideal”, afirmó.
Clark es una de las figuras principales de Anthropic, que fue fundada por investigadores de IA que abandonaron la empresa rival OpenAI por desacuerdos en materia de seguridad. La Casa Blanca de Donald Trump y otros aceleradores de IA han acusado a la compañía de 900.000 millones de dólares (670.000 millones de libras) de “infundir miedo” para poder fortalecer su posición competitiva.
Los antropólogos cuestionan esto, y Clark dice que muchas personas parecen negar el progreso de la IA. Dijo que quería animar a la humanidad a prepararse para una tecnología que “pronto será más capaz que todos nosotros colectivamente”. Comparando el fracaso de la IA para prepararse para pandemias como la de Covid, dijo: “Si nos mantenemos al margen y dejamos que la inteligencia artificial se multiplique, eventualmente nos veremos obligados a reaccionar”.
Los críticos de las empresas de IA de vanguardia como Enthropic, OpenAI y Google temen que su excesiva dependencia de unos pocos modelos de IA -que están respaldados por enormes cantidades de capital con fines de lucro- pueda crear un “punto único de falla” en el sistema global.
Profesor Edward HarcourtEl director del Instituto de Ética de la IA, que fue coanfitrión del discurso de Clark, advirtió por separado que el aumento de la IA, que hacía más por los humanos, corría el riesgo de crear una “atrofia cognitiva” que podría afectar la toma de decisiones y el juicio humanos. Abogó por modelos de IA alternativos que piden a los humanos que piensen más, a veces llamados IA “socráticas”.
Clark dijo que su predicción más conservadora era que “gran parte de la economía y la sociedad sufrirán cambios profundos”, que pueden incluir una economía de máquinas divorciada de la economía humana, robots ganando cerebros, avances en la ciencia sin humanos y herramientas científicas que los humanos nunca imaginaron pero que funcionan. Admite que algo de esto suena “una locura”.
