Meta lleva los agentes de IA al ordenador con Muse Glimmer

Meta quiere que parte de la próxima generación de inteligencia artificial deje de depender constantemente de la nube. Muse Glimmer es su nueva apuesta para conseguirlo, un modelo de unos 30.000 millones de parámetros diseñado específicamente para ejecutar agentes de IA directamente en un Mac o PC equipado con suficiente hardware. Puede trabajar sin conexión, interpretar texto e imágenes, utilizar herramientas y completar tareas de varios pasos.

Una IA pensada para trabajar en local

Muse Glimmer cuenta con aproximadamente 29.600 millones de parámetros y ha sido desarrollado para ejecutar flujos de trabajo de agentes que pueden permanecer activos en el propio dispositivo. Meta plantea casos como organizar archivos, gestionar una agenda, redactar mensajes, supervisar la experiencia de usuario en un casino online o ayudar en tareas de programación sin enviar necesariamente cada petición a servidores externos.

El modelo también es multimodal. Puede recibir texto e imágenes de forma combinada, lo que le permite analizar capturas de pantalla, gráficos o documentos y utilizar esa información para continuar una tarea.

Aquí aparece una de las diferencias importantes frente a un chatbot convencional. Glimmer está preparado para encadenar acciones, llamar a herramientas, mantener un plan durante tareas largas y volver a intentarlo cuando una operación falla.

Una sola GPU puede ser suficiente con el hardware adecuado

El gran titular del lanzamiento es que Muse Glimmer puede funcionar con una única GPU de consumo. Conviene poner ese dato en contexto, porque esto no significa que podamos instalarlo cómodamente en cualquier portátil corriente.

Un modelo de este tamaño necesitaría más de 55 GB de memoria a precisión completa. Para hacerlo viable en hardware doméstico, Meta ha recurrido a técnicas de cuantización que reducen los pesos del modelo a aproximadamente 4 bits. La versión comprimida ocupa menos de 20 GB y está diseñada para funcionar dentro de configuraciones con 24 o 32 GB de memoria disponible para la GPU y el resto de los componentes necesarios durante la inferencia.

Estamos hablando, por tanto, de hardware de consumo avanzado, no de un PC básico. La potencia necesaria para mover un modelo de este calibre contrasta con tareas habituales del navegador como reproducir vídeo en alta definición o cargar juegos de slots, que apenas requieren recursos. Meta ha realizado pruebas de exigencia real con equipos como una NVIDIA RTX 5090 y ordenadores Apple con M4 Max y M5 Max.

También ha introducido DFlash, un sistema de decodificación especulativa que utiliza un modelo auxiliar para anticipar bloques de tokens y acelerar la generación. En las pruebas publicadas por Meta, una RTX 5090 pasó de 74,9 a 233,4 tokens por segundo con esta técnica, algo más de tres veces la velocidad de referencia.

Meta abre otra puerta para los agentes de IA

Muse Glimmer se distribuye con sus pesos bajo licencia Apache 2.0 y está disponible para descarga. Meta también está trabajando para facilitar su ejecución mediante herramientas conocidas por desarrolladores y aficionados a los modelos locales, entre ellas llama.cpp, MLX, ExecuTorch, Ollama y LM Studio.

Esta apertura puede ser incluso más relevante que sus cifras. Una empresa o un desarrollador puede adaptar el modelo a un caso concreto y construir herramientas que funcionen en sus propios equipos. El procesamiento local también abre posibilidades cuando interesa trabajar sin conexión o mantener determinados datos dentro de una infraestructura propia.

Eso no significa que la nube vaya a desaparecer. Los modelos más grandes seguirán necesitando enormes cantidades de memoria y capacidad de cálculo, y podrán ofrecer mejores resultados en determinadas tareas. Muse Glimmer apunta más bien hacia un escenario híbrido en el que no todo tenga que viajar a un centro de datos.

La carrera de la IA empieza así a moverse en dos direcciones. Una consiste en fabricar modelos cada vez más grandes y potentes. La otra busca conseguir que sistemas suficientemente capaces funcionen con menos recursos y mucho más cerca del usuario.