AI最前沿 88Z.ai 8 月 11 日消息，Meta 发布开源大语言模型 Muse Glimmer，参数量达 300 亿。该模型专为本地部署优化，利用 4-bit 量化与 DFlash 投机解码技术，能在 24GB 显存的 Mac 或消费级 GPU 上流畅运行，支持离线多模态感知、工具调用及代码生成。
消息要点
- Muse Glimmer 为 300 亿参数开源模型，专为本地运行优化
- 支持 24GB 显存设备流畅运行，具备离线多模态及编码能力
要点
Meta 正式开源了名为 Muse Glimmer 的大语言模型，其参数规模达到 300 亿。这款模型的核心设计理念是服务于本地常驻运行场景，旨在降低高性能 AI 应用的使用门槛。通过引入 4-bit 量化技术和 DFlash 投机解码算法，Muse Glimmer 显著提升了推理效率，使其能够在配备 24GB 显存的设备上实现流畅运行，这涵盖了大多数 Mac 电脑及主流消费级 GPU 硬件。 在功能层面，该模型不仅支持完全断网环境下的独立操作，还具备多模态感知能力，能够理解和处理多种类型的数据输入。此外，Muse Glimmer 还支持外部工具调用以及自动代码编写，为开发者和个人用户提供了强大的本地化 AI 辅助能力，无需依赖云端服务即可执行复杂任务。
资料来源与整理说明
本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述，未将其视为本站实测或独家采访结论。
- APPSO原始资料发布于
以上日期为原始资料发布日期；标题下方日期为本文在 AI最前沿的发布时间。