El CEO antropogénico dice que el crecimiento de la IA es exponencial. La investigación antropológica dice lo contrario.

Dario Amodei, director ejecutivo y fundador de Anthropic, acaba de publicar uno Ensayo en línea Que comienza comparando la IA con los hobbits. El señor de los anillos. Y no puede ser simplemente parte de ficción, si hay que creer en la tarjeta del sistema modelo Claude Mythos de Anthropic.

“La intersección de la IA y nuestras instituciones políticas se parece un poco a Los Hobbits y Bárbol”, escribió Amodei; es decir, Bárbol la Hormiga se mueve tan lentamente que ni siquiera puede entender a los veloces Hobbits. Pero luego Amodei pasa a una afirmación controvertida: la de continuar El señor de los anillos Analogía, lo que significa que los hobbits se están moviendo. Siempre significativamente más rápido.

“Las leyes de escala de la IA, que predicen el crecimiento exponencial de las capacidades cognitivas generales a medida que aumenta la potencia informática, cuentan ahora con más de una década de evidencia empírica a sus espaldas”, afirma Amodei. “Si estas leyes de escalamiento continúan solo por uno o dos años, es probable que obtengamos lo que hemos estado hablando Potente IA.”

No es una referencia única; Amodei, que está a punto de sacar provecho de una bonanza IPO de Anthropic, utiliza la palabra “índice” seis veces en el artículo. Se titula “Principio de la IA exponencial”. ¿Pero es verdad?

Dejemos de lado por un momento el dudoso artículo de OpenAI de 2020 al que Amodei se vincula para probar su afirmación, o la abundante evidencia de otros expertos en IA de que la mayoría de los grandes modelos de lenguaje tienen “poder cognitivo”. Eso no está creciendo rápidoEn todo caso. El ensayo de Amodei parece contradecir el término… bueno, etnográfico en sí.

en Tarjeta de sistema para vista previa de Claude Mythos (PDF).En el modelo que Amody promocionó por cuestiones de ciberseguridad, encontrará la siguiente afirmación: “Las ganancias (de inteligencia) que podemos identificar son Responsable con confianza de la investigación en humanos, no de la asistencia de la IA… Las afirmaciones iniciales de una victoria calificada para las grandes IA no se sostuvieron.(El énfasis es el nuestro.)

Se podría pensar que no podría ser más seguro, a menos que lea la tarjeta del sistema del otro nuevo modelo fronterizo de Anthropic, el Fable 5. Utilizando una prueba llamada Índice de Capacidades de Época, los investigadores antropológicos se propusieron específicamente ver si había evidencia de un circuito de retroalimentación que los expertos en IA llaman AGI, o superinteligencia digital. Y los resultados no podrían ser más claros.

“No vemos una aceleración sostenida del doble, característica de la IA, en el ritmo de nuestro progreso de la IA”, Tarjeta de sistema ficticia (PDF) dicho

Entonces, ¿de dónde obtiene Amodei sus datos exponenciales? Nos comunicamos con Anthropic para obtener una aclaración, pero la cita que utilizó el CEO es para un artículo de 2020. Leyes de escala para modelos de lenguaje neuronal.Coautor Jared Kaplan (entonces en OpenAI, ahora cofundador de Anthropic). La conclusión de ese artículo ha sido cuestionada durante los últimos cuatro años por otro destacado investigador de IA, Gary Marcus.

“Hay graves lagunas en el argumento de la escala”, Marco escribió en 2022.. “En realidad, podemos ya El aprendizaje profundo está llegando a límites de escala, quizás ya acercándose a un punto de rendimientos decrecientes”. Cita la investigación del modelo GPT-3 de OpenAI, que “muestra que escalar algunas medidas como la toxicidad, la veracidad, Razón y sentido común.“

Marcus fue despreciado por los verdaderos creyentes de la IA en ese momento, pero desde entonces ha sido reivindicado, especialmente desde el lanzamiento de GPT-5, que no era la superinteligencia que algunos de sus usuarios esperaban.

Encontrar evidencia del crecimiento exponencial de la IA desde entonces puede ser más difícil que ir a Mordor.

Informe adicional proporcionado por Timothy Worth