快讯前沿资讯

腾讯混元开源快慢思考融合的混合专家模型Hy3 preview

约 2 分钟阅读

AI最前沿 88Z.ai 4 月 23 日消息,腾讯混元团队发布Hy3 preview模型,这是其重构训练基础设施后的首个成果。该模型采用融合快慢思考的MoE架构,具备295B总参数与21B激活参数,支持256K长上下文。作为混元系列最智能模型,它在高难度推理基准测试中表现优异,Agent及代码能力显著增强,能够一次性生成完整的微信小程序。

消息要点

  • Hy3 preview采用融合快慢思考的MoE架构,是混元重构基础设施后的首个成果
  • 模型在高难度推理榜单表现突出,可一次性生成完整微信小程序
腾讯混元开源快慢思考融合的混合专家模型Hy3 preview 配图
腾讯混元开源快慢思考融合的混合专家模型Hy3 preview 配图

要点

腾讯混元团队正式推出Hy3 preview大模型,这是团队在预训练、强化学习及基础设施层面进行全面重构后取得的首个重要成果。该模型创新性地采用了融合快慢思考机制的混合专家(MoE)架构,拥有2950亿总参数和210亿激活参数,并支持长达256K的上下文窗口,被定义为混元系列迄今为止最智能的模型。 在性能表现方面,Hy3 preview在FrontierScience-Olympiad和IMOAnswerBench等高难度推理榜单上取得了突出成绩。此外,模型的智能体协作与代码生成能力得到大幅提升,具备一次性生成完整微信小程序的强大实力,展现了其在复杂任务处理上的显著优势。

资料来源与整理说明

本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述,未将其视为本站实测或独家采访结论。

  1. 腾讯原始资料发布于

以上日期为原始资料发布日期;标题下方日期为本文在 AI最前沿的发布时间。

相关阅读

全部资讯
Ai最前沿