快讯前沿资讯

面壁智能联合清华开源端侧大模型 BitCPM-CANN

约 2 分钟阅读

AI最前沿 88Z.ai 5 月 25 日消息,面壁智能联合清华大学及 OpenBMB 开源社区,发布中国首个完全基于华为昇腾国产算力平台端到端训练的 1.58-bit 三值大模型 BitCPM-CANN。该模型提供 0.5B 至 8B 四种尺寸,采用量化感知训练技术,在推理阶段可释放约六倍显存红利,同时保持 90% 至 97.2% 的模型能力保留率,旨在为端侧 AI 应用落地及国产 NPU 生态建设提供关键基础设施支持。

消息要点

  • 中国首个基于华为昇腾端到端训练的 1.58-bit 三值大模型开源
  • 推理显存释放约六倍,模型能力保留率达 90%–97.2%
面壁智能联合清华开源端侧大模型 BitCPM-CANN 配图
面壁智能联合清华开源端侧大模型 BitCPM-CANN 配图

要点

面壁智能携手清华大学及 OpenBMB 开源社区,正式开源 BitCPM-CANN。这是中国首个完全依托华为昇腾国产算力平台进行端到端训练的 1.58-bit 三值大模型。该系列模型涵盖 0.5B、1.5B、4B 及 8B 四个不同尺寸,以满足多样化的部署需求。 在技术路径上,BitCPM-CANN 采用量化感知训练方案。这一设计使得模型在推理阶段能够释放约六倍的显存红利,显著降低硬件资源占用。与此同时,模型的能力保留率维持在 90% 至 97.2% 的高水平。此举不仅提升了运行效率,更为端侧人工智能的实际落地以及国产 NPU 生态系统的完善提供了重要的基础设施支撑。

资料来源与整理说明

本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述,未将其视为本站实测或独家采访结论。

  1. 面壁智能原始资料发布于

以上日期为原始资料发布日期;标题下方日期为本文在 AI最前沿的发布时间。

相关阅读

全部资讯
Ai最前沿