快讯前沿资讯

Thinking Machines 发布开源模型 Inkling 2 Mini:循环推理降低算力成本

约 1 分钟阅读

AI最前沿 88Z.ai 11 月 22 日消息,Thinking Machines 推出开源模型 Inkling 2 Mini,采用循环 Transformer 架构,在单令牌上多次运行部分层以增强内部推理能力。该模型在保持高性能的同时显著降低成本,并支持在笔记本电脑上运行。

消息要点

  • Inkling 2 Mini 采用循环 Transformer 架构,通过重复运行部分层级增强内部推理能力
  • 性能对标 Qwen3.8 27B,但成本降低约六倍,且支持笔记本本地运行

技术架构创新

Thinking Machines 正式发布了开源模型 Inkling 2 Mini。该模型采用独特的循环 Transformer 架构,其 24 个层级中的 12 个会在每个令牌生成过程中重复运行三次。这种设计允许模型在不生成额外文本输出的情况下,进行更长时间的内部推理和思考,从而以更少的词汇量解决复杂问题。

性能与成本优势

根据 Artificial Analysis 的智能指数评估,Inkling 2 Mini 的性能与 Qwen3.8 27B 模型持平,但运行成本仅为后者的六分之一左右。此外,该模型经过优化,能够在普通笔记本电脑上本地运行,为开发者和用户提供了更低门槛的高性能推理选择。

资料来源与整理说明

本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述,未将其视为本站实测或独家采访结论。

  1. the-decoder.com原始资料发布于

以上日期为原始资料发布日期;标题下方日期为本文在 AI最前沿的发布时间。

相关阅读

全部资讯
Ai最前沿