Microsoft dice que podrá ejecutar la API del modelo de idioma nativo de Windows 11 en PC que no sean Copilot+ siempre que cumpla con los nuevos requisitos de hardware: una GPU RTX 30+ con 6 GB de VRAM. Este es un gran cambio, ya que significa que los beneficios de Copilot+ para PC se están volviendo “escasos”, y no me sorprendería que Microsoft elimine por completo el requisito de NPU en el futuro.
Copilot+ PC debutó oficialmente el 18 de junio de 2024 y están realizando ventas para fabricantes de PC. Sin embargo, esto no se debe al factor “Copilot” o “NPU”. Esto se debe en gran medida a que las PC nuevas ahora se venden como “Copilot + PC”, por lo que incluso comprar una computadora portátil normal cuenta como prueba de que las PC con IA están despegando.
Para que una PC cumpla con el requisito “Copilot + PC”, debe tener 16 GB de RAM, un SSD y al menos una NPU 40 TOPS. Para aquellos que no lo saben, una NPU (unidad de procesamiento neuronal) es un chip diseñado para ejecutar modelos de IA, especializándose en eficiencia en lugar de potencia bruta. Una GPU, por otro lado, es un procesador de alta resistencia diseñado para tareas masivamente paralelas.
Microsoft le vendió la PC Copilot+ como la única forma de ejecutar IA nativa, pero eso nunca fue por diseño. Una GPU siempre puede ejecutar un modelo de IA mucho mejor que una NPU debido a su potencia bruta, pero Microsoft no quería que Copilot+ hiciera que las PC parecieran menos atractivas, por lo que limitó las capacidades nativas de IA como Windows Recall y Click to Do a las PC.
Esto significa que las PC basadas en GPU con todas las capacidades no son compatibles con las funciones nativas de IA de Windows 11, como texto a imagen, generación de texto, generación de imágenes, Windows Recall y otras capacidades, pero eso puede cambiar pronto.
A Publicar en GitHubComo lo descubrió por primera vez Windows Latest, Microsoft ha confirmado silenciosamente que las PC Copilot+ están perdiendo una de sus mayores ventajas, a medida que la IA nativa llega a las GPU RTX, siempre que cumpla con dos requisitos:
- Poseer una GPU RTX 30+
- Hay una GPU compatible con 6 GB de VRAM
Según los documentos actualizados, si es desarrollador, ahora puede ejecutar API de modelo de lenguaje nativo en PC que no sean Copilot+ con GPU.
“API de modelo de idioma en GPU (experimental). Las API de modelo de idioma ahora se ejecutan en PC que no son Copilot+ equipadas con una GPU compatible, lo que brinda capacidades de modelo de idioma nativo a una gama más amplia de dispositivos con Windows 11”, señaló Microsoft. “El hardware compatible incluye NVIDIA GeForce RTX serie 30 y posteriores con más de 6 GB de VRAM”.
Esto amplía efectivamente la gama de dispositivos con Windows 11 capaces de ejecutar modelos en idioma nativo más allá de las nuevas PC Copilot+ equipadas con NPU.
Por supuesto, una API de modelo de lenguaje no es algo que normalmente pueda ejecutar en su PC a menos que sepa cómo crear aplicaciones y realizar llamadas API, pero este es en realidad el principio del fin de las funciones exclusivas de Copilot+ para PC.
¿Cuáles son las posibles nuevas funciones de IA en todas las PC con GPU a través de la API del modelo de lenguaje?
miré hacia arriba Documentación oficial de Microsoft Para comprender cómo desbloquear esta API para todas las PC con GPU compatibles cambiaría la integración de la IA en Windows, encontré algunos detalles interesantes.
Las API de modelo de lenguaje permiten que las aplicaciones de Windows accedan a funciones de inteligencia artificial directamente en su PC, y estas API están impulsadas por un pequeño modelo de lenguaje llamado “FiSilica”. Anteriormente hemos visto menciones de Phi Silica en Microsoft Edge para Windows para funciones como “reescribir usando IA”.
Las PC con Windows no tienen modelos de IA de forma predeterminada a menos que compre una PC Copilot+, lo que significa que si ejecuta una nueva aplicación que usa la API del modelo nativo, puede llamar a Windows Update para descargar el modelo Phi Silica a su PC y ejecutarlo de forma nativa usando la GPU, si es compatible. En este momento, una aplicación puede aprovechar las siguientes funciones de IA de Windows:
- Formato de texto basado en IA en aplicaciones que utilizan la API Windows.AI.Text
- Resumidor (TextSummarizer)
- Reescribir (TextWriter)
- Texto a tabla (TextToTableConverter)
- Generación de avisos generales.
En otras palabras, podrá utilizar algunas funciones similares a ChatGPT de forma nativa en aplicaciones de Windows en PC Nvidia y todo se ejecutará localmente, lo que significa que su privacidad está completamente protegida en comparación con modelos en la nube como Copilot o ChatGPT.
En este punto, no parece que Microsoft planee llevar Windows Recall, Click to Do y AI a MS Paint en PC sin un chip NPU. Por el momento, las capacidades mejoradas de IA nativa se limitan a una única API, que impulsa la mayoría de las capacidades relacionadas con mensajes de texto y generales.
