AI最前沿 88Z.ai 9 月 2 日消息，腾讯混元发布 Hy4 preview 轻量版，利用自研 Sherry 稀疏三值量化算法及 MIX-STQ1_0 混合精度逐层量化策略，将模型权重从 1.5 TB 压缩至约 214 GB。该量化版本在长文理解、多轮上下文检索及编码辅助等任务中的表现接近 BF16 原版。
消息要点
- 采用 Sherry 算法与 MIX-STQ1_0 策略，权重从 1.5 TB 压缩至约 214 GB
- 长文理解、检索及编码辅助等任务表现接近 BF16 原版
要点
腾讯混元正式推出 Hy4 preview 轻量版模型。该版本核心采用了自研的 Sherry 稀疏三值量化算法，并结合 MIX-STQ1_0 混合精度逐层量化策略，实现了显著的体积缩减。通过这一技术组合，模型权重数据量从原有的 1.5 TB 大幅压缩至约 214 GB，极大降低了存储与部署门槛。 尽管经过深度压缩，Hy4 preview 量化版在关键能力上仍保持了高水准。在长文理解、多轮上下文检索以及编码辅助等典型应用场景中，其实际表现与 BF16 原版模型非常接近，确保了轻量化同时不牺牲核心业务效果。
资料来源与整理说明
本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述，未将其视为本站实测或独家采访结论。
- 腾讯混元原始资料发布于
以上日期为原始资料发布日期；标题下方日期为本文在 AI最前沿的发布时间。