AI最前沿 88Z.ai 11 月 21 日消息,Thinking Machines 推出 Inkling 2 Mini,这是一款拥有 260 亿参数的开源权重循环 Transformer 模型。该模型通过中间层循环机制,在仅激活 54 亿参数的情况下实现深度推理,AA Index 得分达 20.1。它可在配备 32GB 内存的 Mac 上通过 Ollama 运行,并针对代理任务和编码进行了优化,同时保持了可监控性。
消息要点
- Inkling 2 Mini 采用 260 亿参数循环 Transformer 架构,中间 12 层循环三次,仅激活 54 亿参数。
- 模型可在配备 32GB 内存的 Mac 上通过 Ollama 本地运行,支持代理任务和编码场景。
- 在 ARC-AGI-2 上成本比前代降低 47%,但得分下降 32 个百分点,AA Index 得分为 20.1。
- 研究显示循环机制未显著降低可监控性,思维链虽变短但仍清晰可读。

核心架构与参数规模
Thinking Machines 回应了社区此前关于 Inkling 2 Small(5940 亿参数)体积过大的反馈,正式发布了 Inkling 2 Mini。这是一款拥有 260 亿总参数的循环 Transformer(looped transformer)模型。其架构包含 24 个层级,其中首尾各 6 层仅运行一次,而中间的 12 层则循环运行三次。这种设计使得模型在每次生成 token 时,实际激活的参数仅为 54 亿。通过这种“少写多思”的循环机制,模型能够在保持较小体积的同时,显著提升推理深度,使其足以胜任复杂的代理(agentic)工作负载,并在 AA Index 基准测试中取得了 20.1 分的成绩。
性能表现与成本效益
在 ARC-AGI 基准测试中,Inkling 2 Mini 展现了特定的性能特征。在 ARC-AGI-2 验证集上,其得分为 49.3%,单次任务成本为 0.14 美元;在 ARC-AGI-1 上,得分为 84.5%,单次任务成本为 0.06 美元。与前代产品 Inkling 2 Small 相比,Inkling 2 Mini 在 ARC-AGI-2 上的单任务成本降低了 47%,但得分也相应下降了 32 个百分点。这表明该模型在大幅降低计算资源需求和运营成本的同时,提供了一种更具性价比的轻量级推理选项,特别适合对成本敏感且需要一定推理能力的应用场景。
本地部署与开发生态
为了促进广泛采用,Thinking Machines 确保了 Inkling 2 Mini 的高可用性。该模型已集成至 Ollama 平台(预发布版本 0.40.17),用户只需配备 32GB 及以上内存的 Mac 电脑即可在本地流畅运行。此外,它还支持 NVIDIA DGX Spark 硬件,并已在 Tinker 平台上提供推理和微调服务,开发者可通过 Tinker Playground 直接体验。官方还同步发布了一个可变循环(variable-loop)的研究版模型,旨在鼓励社区进行更多样化的实验,探索循环次数对模型性能的具体影响。
可监控性与安全研究
循环架构虽然提升了推理能力,但也引发了关于模型内部状态难以监控的担忧。Thinking Machines 在发布前对此进行了专门研究。研究发现,随着循环次数的增加,模型的无思维链(no-CoT)能力随之提升。在当前规模下,尽管思维链(Chain of Thought)的长度缩短,但其内容依然清晰可读。研究团队确认,这种架构并未导致可监控性的显著下降,意味着开发者仍然可以有效地追踪和理解模型的推理过程,从而在享受循环架构带来的性能红利时,不必过度牺牲透明度和安全性。
资料来源与整理说明
本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述,未将其视为本站实测或独家采访结论。
- @thinkymachines原始资料发布于
以上日期为原始资料发布日期;标题下方日期为本文在 AI最前沿的发布时间。

