OWC Stack AI promete simplificar el procesamiento nativo de LLM grandes al inflar de alguna manera la memoria GPU de su Mac a través de Thunderbolt. Tenemos preguntas.
La mayor parte de la industria de la IA está formada por grandes actores de la IA, incluidos OpenAI, Perplexity y Anthropic, entre otros. Sin embargo, su uso puede resultar costoso, especialmente para grandes cargas de trabajo y clientes empresariales.
Una forma de reducir la factura es incorporar modelos locales de IA que se utilicen en computadoras en lugar de servidores. El problema es el coste del hardware necesario. Y también existen preocupaciones sobre la privacidad de los modelos basados en la nube.
Puedes comprar una Mac Mini y cargar un modelo en ella, pero tendrás una limitación de memoria. Debido a que todo el modelo debe mantenerse en la memoria, la cantidad instalada limita el tamaño del modelo que puede utilizar.
Existen soluciones a esta limitación, como proyectos que involucran varias Mac conectadas a Thunderbolt 5 para compartir memoria y rendimiento informático.
Sin embargo, OWC cree que puede hacerlo mejor.
Aumento de memoria de OWC Stack AI
D Pila de IA de OWCO el Thunderbolt 5 AI Accelerator and Storage Hub, que se parece mucho a una Mac Mini de estilo antiguo. Es un bloque de aluminio anodino sobre el que puedes apilar una Mac Studio, como otras bases y concentradores.
Al conectarse a una Mac mediante Thunderbolt 5, se proporciona cierta capacidad de almacenamiento, pero el beneficio real es la capacidad de ampliar la memoria efectiva de la GPU. En la práctica, utiliza flash de alta velocidad integrado para expandir la VRAM integrada de la tarjeta gráfica de una PC y, eventualmente, el silicio de Apple.
Con más memoria disponible para usar, OWC afirma que la computadora host puede manejar modelos de lenguaje grandes (LLM) mucho más grandes que la VRAM de la tarjeta gráfica por sí sola.
Esto no es lo mismo que usar una carcasa eGPU con una Mac. Según la descripción de OWC, la pila de IA actúa como una mejora de la memoria externa, no como un procesador externo.
El anuncio de OWC explica que Stack AI será compatible con Windows y Linux primero, y se espera que sea compatible con Mac en algún momento en el futuro.
La compañía dice que la conectividad Thunderbolt 5 y su pequeño tamaño lo convierten en un artículo portátil y portátil. Se puede mover entre escritorios con una computadora portátil o incluso compartirlo entre los miembros del equipo.
Cuando se trata del ecosistema de IA, OWC promete que admitirá numerosos agentes y aplicaciones de IA, incluido OpenClaw, en el lanzamiento.
AppleInsider Stack le pidió a OWC más información, incluido cómo funciona la IA, latencia, especificaciones, precios y especificaciones y precios para el soporte de Mac. Este artículo se actualizará con más información una vez que recibamos una respuesta.
Lo que OWC ha confirmado es que estará en la feria comercial Computex Taipei a partir del 2 de junio. En ese momento, surgirán detalles más específicos sobre el hardware más allá del objetivo de lanzamiento del primer trimestre. tal vez
Beneficio del procesamiento local
OWC ha dado detalles sobre Stack AI y su precio. Vemos potencial como un elemento extremadamente útil para la investigación de la IA. Por supuesto, sería una buena herramienta para los negocios y, dependiendo del precio, tal vez para todos los demás hoy en día.
El problema clave con el procesamiento nativo de IA es tener suficiente RAM para acomodar los modelos que los usuarios quieren usar. La otra es procesar consultas, una vez que tengas esa memoria disponible.
Los proyectos actuales basados en clústeres funcionan bien y se conectan entre sí a través de Thunderbolt para compartir núcleos y memoria. Este es un problema para los usuarios con problemas de liquidez que no pueden permitirse miles de dólares por una Mac con mucha memoria.
Es discutible que, con la introducción del chip M5, Apple haya recorrido un largo camino para abordar el lado del procesamiento. Los aceleradores neuronales en cada núcleo de GPU de una GPU M5 significan que hay mucha más potencia de procesamiento de aprendizaje automático disponible.
Esto hace posible hacer más con menos tareas de procesamiento local. Pero esto sólo mejora el procesamiento, no las limitaciones de memoria.
Puede obtener una MacBook Pro M5 Max de 14 pulgadas con 128 GB de memoria, pero esa es una compra de $ 5,099 con solo las actualizaciones necesarias aplicadas. Un precio elevado para conseguir tantos recuerdos.
Cuando Apple lance el equivalente M5 de Mac Mini y Mac Studio, habrá opciones de capacidad de memoria igualmente altas sobre la mesa. Pero, una vez más, serán muy valorados por los líderes de la industria.
A partir de mayo de 2026, los precios de las memorias de Apple son razonables. No está claro cuánto durará esto debido a la actual crisis de memoria que afecta a la industria en su conjunto.
Con un producto como Stack AI, es probable que compre una Mac M5 con el procesamiento y la GPU que desea, pero no necesariamente con la memoria que necesita. Stack AI se encargará de eso por ti.
Pero requiere que OWC fije el precio a un nivel que tenga sentido para que los consumidores comiencen a recorrer ese camino. OWC es sensible al precio de la memoria, como cualquier otra empresa, y esa sensibilidad afectará en última instancia el precio al que se vende Stack AI.
Actualización 28 de mayo. 10:05 a.m. ET El fundador y director ejecutivo de OWC, Larry O’Connor, nos respondió de la noche a la mañana. Para mayor claridad, citaremos directamente al Sr. O’Connor.
AppleInsider: “Al leer el comunicado, parece que es una forma basada en Thunderbolt 5 de expandir VRAM usando flash. ¿Es correcto?”
OWC:
“No exactamente. No pretendemos que Thunderbolt 5 de repente convierta el flash en RAM de GPU nativa porque la física aún importa y nada reemplaza la memoria ubicada directamente en la GPU. Lo que hace OWC Stack AI es resolver un gran problema del mundo real, que es que la mayoría de los sistemas existentes simplemente chocan contra una pared y no pueden ejecutar modelos de IA más grandes. Expanden la memoria funcional ex-memoria Stahack de forma nativa en la placa. Conectividad Thunderbolt 5 ultrarrápida y Flash de alta velocidad para el sistema, lo que permite modelos mucho más grandes, por más tiempo. sesiones y flujos de trabajo de IA locales más exigentes para completarse realmente en lugar de fallar, detenerse o volver a la nube”.
AppleInsider: “Además, veo que la compatibilidad con macOS se realizará más adelante. ¿Algún motivo para ello o algún cronograma?”
OWC:
“Para el soporte de Mac, eso es absolutamente parte de la hoja de ruta. La prioridad en este momento es garantizar que la plataforma sea estable y brinde la experiencia que prometemos porque el ecosistema de IA, los controladores, los marcos y las pilas de modelos están evolucionando increíblemente. Queríamos centrarnos en la validación temprana, no admitimos Windows y las plataformas primero, y elegiremos la plataforma. Aún no se ha anunciado un cronograma específico para Mac, pero está planeado para un lanzamiento futuro”.
