澳门大学、蚂蚁团队:迈向超长程自主智能
人类天然具备为长期目标持续努力的能力。面对一项有挑战的任务,人类可以连续工作数月甚至数年来完成特定目标。
在这项工作中,澳门大学、蚂蚁集团团队及其合作者提出了 Marathoner,一个具备超长程执行能力的自主 agentic 模型。
他们提出了完整的后训练管道,把这项关键能力注入基础模型。在超长程任务合成中,他们以来自不同 GitHub 仓库、包含 1000 多行新代码的重大版本发布 PR 作为主要来源,合成具有挑战性的任务级数据。此外,他们引入了多任务链(Multi-Task Chaining),把多个生成的任务串联成一个难度更高的任务,从而合成达到前沿难度的任务。在拒绝采样微调中,他们用强教师模型配合多种 harness 在合成任务上生成轨迹,再用经 拒绝采用筛选的轨迹对基础模型做监督微调(SFT)。在强化学习阶段,完成冷启动的模型在 rollout 过程中通过 harness 在独立沙盒里进行真实执行,有效促进了真正的超长程执行能力的获得。他们还提出了一种新的奖励策略“后期阶段奖励”,明确鼓励模型在执行的后期阶段采取有意义的操作。
在 5 个包含超长程任务的基准上的评估显示,Marathoner 相对基础取得了一致且显著的提升,甚至超过了强大的专有模型。进一步分析表明,Marathoner 在极具挑战性的任务上可以持续工作 10 小时以上,并进行 1000 次以上的工具调用。
AIChannel ai 大模型 LLM 智能体 agent 澳门大学 蚂蚁集团








