AI最前沿 88Z.ai 8 月 27 日消息，腾讯混元发布端侧翻译大模型 Hy-MT2-1.8B，利用自研压缩技术将模型体积大幅缩小至极致，在保持高质量翻译的同时优于多家商业API。该模型已完成x86算子优化，并成功应用于哔哩哔哩直播弹幕实时翻译场景，支持33种语言，单条处理耗时仅500-800毫秒。
消息要点
- 采用自研Sherry 1.25-bit等技术极致压缩模型，翻译质量优于主流商业API
- 联合英特尔优化x86算子，已落地哔哩哔哩弹幕实时翻译，支持33语种
要点
腾讯混元正式推出端侧翻译大模型 Hy-MT2-1.8B。该模型创新性地结合了2-bit量化与自研的Sherry 1.25-bit技术，成功将原本3.3GB的模型体积进行极致压缩。尽管体积大幅减小，其翻译质量几乎无损，表现甚至优于微软、豆包等主流商业API服务。 在工程落地方面，腾讯混元联合英特尔完成了针对x86架构的算子优化。目前，该模型已在哔哩哔哩直播场景中实现实际应用，专门用于弹幕的实时翻译。它支持多达33种语言，单条弹幕的翻译耗时控制在500至800毫秒之间，展现了高效的端侧推理能力。
资料来源与整理说明
本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述，未将其视为本站实测或独家采访结论。
- 腾讯混元原始资料发布于
以上日期为原始资料发布日期；标题下方日期为本文在 AI最前沿的发布时间。