Meta lança Muse Glimmer, um modelo de IA de agente aberto de 30B que roda localmente em PCs

A Meta tem expandido rapidamente sua família Muse de modelos de IA nos últimos meses.

No início deste mês, a Meta lançou o Muse Codeagent com tecnologia Muse Spark 1.2 para atingir o Codex da OpenAI e o Claude Code da Anthropic no mercado de codificação altamente competitivo.

A Meta anunciou hoje o Muse Glimmer, um novo modelo de agente de 30 bilhões de parâmetros otimizado para agentes locais sempre ativos e que pode ser executado em um Mac ou PC equipado com uma única GPU de consumidor.

Meta destacou que o Muse Glimmer oferece suporte a vários recursos necessários para cargas de trabalho típicas de agentes, incluindo raciocínio de longo horizonte, chamada de ferramenta confiável, recuperação de falhas, codificação e raciocínio multimodal.

Como esperado, Meta pré-treinou o Glimmer usando resultados do modelo Muse Spark por meio de destilação logit.

A execução local de um modelo 30B com total precisão normalmente requer mais de 55 GB de memória.

Muse Glimmer já está disponível através do Hugging Face, com suporte para Ollama, LM Studio, llama.cpp, MLX, ExecuTorch, vLLM e SGLang.

O CEO da Meta, Mark Zuckerberg, também revelou que a empresa lançará pesos para o modelo Muse Spark 2.1 nas próximas semanas.

Postar um comentário

Postagem Anterior Próxima Postagem