Home Apple Modelos cada vez más reducidos y un futuro de IA en los...

Modelos cada vez más reducidos y un futuro de IA en los dispositivos

58

dentro de esta semana Reiniciar el domingoEl discurso de Apple sobre la reducción del modelo de IA podría generar enormes beneficios, convirtiéndose potencialmente en un acuerdo de mil millones de dólares si juega bien sus cartas.

Reiniciar el domingo Esta es una columna semanal que cubre algunas de las historias más ligeras en el campo de distorsión de la realidad de Apple durante los últimos siete días. Consiga todo la próxima semana con un buen primer paso.

Pequeño modelo de IA, gran valor

El 9 de julio, una startup en el mundo de la IA atrajo mucha atención. PrismML aprovecha el poder mítico de las matemáticas y la ciencia para reducir significativamente de alguna manera el tamaño de los modelos de lenguaje grandes (LLM).

Este proceso dio como resultado que modelos como el Qwen 3.6 de 54 GB se comprimieran a 4 GB sorprendentemente pequeños. Esto está reduciendo un modelo de 27 mil millones de parámetros a un tamaño que cabría en alguna memoria USB promocional de antaño.

Si bien había algunas dudas de que Apple estuviera considerando la startup, PrismML lo confirmó el 14 de julio. En una entrevista, el director ejecutivo de PrismML, Babak Hasibi, dijo que Apple y otras empresas están evaluando el funcionamiento de su tecnología.

La confirmación pública de Hassibi fue interesante, especialmente porque Apple tiende a hacer lo que otras compañías hacen con los NDA. Si bien se desconoce si Apple ha hecho lo mismo con PrismML, Hassbee parece tener suficiente confianza en la tecnología como para ignorar la ira potencial de un cliente potencialmente enorme.

Digo “cliente” porque esa es la clave en las actuales discusiones sobre adquisiciones de garantías del mercado centrado en la IA. Esto es algo que, si una empresa compra PrismML y hace que la tecnología sea exclusiva para ella, el comprador tiene una gran ventaja sobre el resto de la industria.

Una adquisición es totalmente posible para Apple, según un informe del 15 de julio de la administración de John Turnus, que cree que Apple está mostrando signos de cambiar su estrategia de adquisiciones, de gastar millones en una sola empresa a gastar miles de millones.

Este es un cambio extremadamente pequeño. ¿Qué es un decimal extra en amigos?

Estos beneficios podrían valer miles de millones de dólares para Apple, en caso de adquirir la startup. Dicho esto, también requiere que las nuevas empresas estén dispuestas a participar.

La entrevista de Haseeb no parece ser algo que nadie esté realmente dispuesto a vender. También parece que está tratando de llamar más la atención de otras empresas de IA para crear una guerra de ofertas, si la empresa quiere vender.

La alternativa es que esté tratando de conseguir tantos acuerdos de licencia lucrativos como sea posible con las empresas de IA en general. Todo ello siendo independiente.

Cualquiera de las dos rutas parece una victoria para PrismML.

Comodidad en el dispositivo

Para Apple, si la tecnología es buena, tiene grandes ventajas, especialmente para aumentar la cantidad de procesamiento en el dispositivo.

El problema actual de Apple es que los iPhone no tienen mucha memoria, al igual que la mayoría de los dispositivos de consumo de nivel básico. Si bien algunas tareas relacionadas con la IA se pueden realizar con el procesamiento en el dispositivo, se pueden descargar a un servidor en la nube.

El procesamiento remoto puede realizar tareas y cargas de trabajo mucho mayores que los teléfonos inteligentes. En parte debido a la gran cantidad de potencia de procesamiento, pero principalmente porque el servidor puede tener mucha memoria para manejar modelos grandes en primer lugar.

Siri en iPhone es mejor con iOS 27 y macOS 27 Golden Gate.

Apple ha logrado utilizar un proceso de destilación y capacitación para recrear algunas de las funciones de Google Gemini en un modelo más pequeño compatible con iPhone. Pero algo como PrismML puede ser un multiplicador de fuerza.

En primer lugar, los modelos más grandes no solo podrían funcionar perfectamente en un iPhone, sino que estos modelos destilados podrían ser incluso más pequeños. Esto libera más memoria para procesar tareas que utilizan estos modelos destilados.

Si a esto le sumamos las continuas mejoras en el procesamiento de IA que se avecinan, el iPhone del futuro podría ser una auténtica bestia.

Mejor IA en más hardware

Apple también tiene el potencial de hacer algo completamente inesperado: ampliar el alcance de Apple Intelligence.

Durante la WWDC, Apple dijo que los modelos de dispositivo más potentes solo estarán disponibles en ciertos modelos de iPhone y Mac. Estos incluyen el iPhone Air y el iPhone 17 Pro con 12 GB de memoria, el iPad M4 con 12 GB de memoria y una Mac M3 con la misma memoria o mejor.

Logotipo de estrella abstracto en color junto a la lista de texto Dispositivos Apple compatibles: iPhone Air, iPhone 17 Pro, iPad M4 y posteriores, y Mac M3 y posteriores, cada uno de los cuales requiere 12 GB de memoria

Apple dice que no todos los dispositivos tendrán el modelo de IA integrado más potente – Crédito de la imagen: Apple

El procesamiento es un factor, la memoria definitivamente será otro. No es difícil imaginar a Apple utilizando la tecnología PrismML para reducir el tamaño del “modelo de dispositivo más potente” para adaptarlo a las menores asignaciones de memoria de los modelos anteriores.

Extrapolando esto aún más, tal vez Apple podría extender la disponibilidad de Apple Intelligence a dispositivos más antiguos y con especificaciones más bajas.

Por supuesto, existen algunas desventajas, como que el procesamiento de las tareas sea mucho más lento. Los propietarios de hardware más antiguo probablemente estarán de acuerdo.

PrismML es una gran oportunidad para que Apple dé un gran salto en lo que respecta a la IA.

Si quiere dominar el campo en términos de procesamiento en dispositivos, tiene la oportunidad de dar un gran paso hacia ese objetivo.

El Sunday Reboot de la semana pasada habló sobre el iPhone 17 Pro Max entrando en una cápsula del tiempo durante 250 años y se preguntó si emergería de una sola pieza.

Enlace fuente