蚂蚁百灵推出原生混合推理模型 Ling-3.0-tiny

要点

蚂蚁百灵正式推出Ling-3.0-tiny原生混合推理模型。该模型总参数量达到7.9B，但在运行过程中每生成一个token仅激活1.3B参数，这种架构设计使其在保持高性能的同时大幅降低了计算资源消耗。模型针对数学推理任务以及端侧设备部署进行了深度优化，旨在提升在资源受限环境下的运行效率。 此外，Ling-3.0-tiny原生支持工具调用功能，能够直接驱动浏览器用户界面以及移动设备的自动化操作，拓展了其在实际应用场景中的交互能力。值得注意的是，该模型支持完全本地离线推理，无需依赖云端连接即可在本地设备上独立运行，为用户提供了更高的数据隐私保障和部署灵活性。