A pesar de decir una palabra La próxima burbuja de la IAAmazon es la última empresa en beneficiarse de la carrera armamentista de la IA. Meta acaba de firmar un acuerdo con Amazon por valor de miles de millones para implementar Procesador AWS Gravitón en sus 32 centros de datos durante los próximos tres años. Si bien Amazon no ha revelado el precio total del acuerdo, hemos visto empresas gastar sumas deslumbrantes para mantenerse al día con el crecimiento de su IA.
Recientemente, Meta firmó un acuerdo por seis años y 10.000 millones de dólares. Tratar con Google CloudOpenAI está de acuerdo Gastar 20 mil millones de dólares Con la puesta en marcha del chip Cerebras durante los próximos tres años se utilizarán servidores alimentados por el hardware de la empresa.
Los procesadores Graviton admiten cargas de trabajo en la nube que se ejecutan en Amazon Elastic Compute Cloud (Amazon EC2), y la compañía ha dicho durante mucho tiempo que ofrece el mejor rendimiento de su clase para cargas de trabajo en la nube.
Lo interesante aquí es que AWS Graviton es una CPU basada en ARM, en lugar de una GPU. Una CPU se refiere a la unidad central de procesamiento de una computadora, el cerebro de la computadora, mientras que una GPU es su unidad de procesamiento de gráficos, que generalmente se usa para entrenar modelos de IA.
“A medida que escalamos la infraestructura detrás de las ambiciones de IA de Meta, diversificar nuestros recursos informáticos es un imperativo estratégico”, dijo Santosh Janardhan, jefe de infraestructura de Meta. en una declaración. “AWS ha sido un socio confiable en la nube durante años, y expandirnos a Graviton nos permite ejecutar cargas de trabajo con uso intensivo de CPU detrás de IA agente con el rendimiento y la eficiencia que necesitamos a escala”.
Meta es cliente de AWS desde hace mucho tiempo, por lo que este acuerdo de chip no es sorprendente. Lo notable es que se trata del chip de la CPU en lugar de la GPU.
Normalmente, los modelos de IA se entrenan en GPU. Una vez capacitados, los agentes de IA pueden usar la CPU para cargas de trabajo más intensivas en computación, como escribir código.
Los chips Graviton están diseñados para ser eficientes en las tareas de los agentes de IA. Según Amazon, los chips Graviton 5 tienen 192 núcleos y un caché cinco veces mayor que la generación anterior, lo que reduce la latencia de comunicación entre núcleos en un 33%. Deberían ser más eficientes energéticamente, con un rendimiento un 25% mejor que la generación anterior.
“No se trata sólo de chips; se trata de proporcionar a los clientes la infraestructura base, así como datos y servicios de inferencia, para construir una IA que pueda comprender, anticipar y escalar eficientemente a miles de millones de personas en todo el mundo”, dijo Nafia Bishara, vicepresidenta de AWS. en una declaración
Parte del motivo detrás de esto también puede ser que Entropic a principios de este mes Se firma un contrato AWS acordó gastar 100 mil millones de dólares para ejecutar cargas de trabajo en la nube en los chips GPU Trianium de Amazon, mientras que Amazon acordó invertir 5 mil millones de dólares en Antropic. Es probable que Antropic haya monopolizado las existencias de chips Tranium2 a Tranium4 de Amazon, y la compañía también tiene la opción de comprar los chips de Amazon en el futuro a medida que estén disponibles.
Además de trabajar con Amazon, Meta está desarrollando su propia Silicio internoContinúa el trabajo en cuatro iteraciones de su chip MITA para IA y una asociación ampliada con Broadcom para diseñar y fabricar los chips. Meta también acordó gastar miles de millones en chips y hardware de inteligencia artificial. Nvidia y AMDAdemás de otro contrato multimillonario para utilizar unidades de procesamiento tensoriales. del alfabeto.
Un representante de Meta se negó a compartir cargas de trabajo específicas, pero dijo que la compañía respaldará el trabajo de IA con MSL (Meta Super Intelligence Labs).
