课程简介
编码智能体的能力由模型、训练数据、工具和 harness 共同塑造。传统代码数据缺少可执行环境与可靠验证,将真实 harness 接入强化学习后,又会面临环境故障、reward hacking、轨迹与策略更新不一致,以及训练和部署控制流错配等问题。
SWE-Lego、Terminal-Lego 和 SWE-Review 等工作分别探索了高质量轨迹、环境交互监督和“生成—评审—修订”闭环,也进一步揭示了两个关键问题:如何规模化构建真实、可执行、可验证的训练任务,以及如何在不改变原生 harness 的前提下开展可靠的强化学习。前者需要打通真实软件数据、运行环境与验证器,后者则需要解决轨迹对齐、奖励可信和大规模沙箱执行问题,这分别构成了 LegoFlow 与 LEGO-RL 的研究出发点。
本次分享重点研讨 LegoFlow 将真实 GitHub PR 转化为可验证的代码智能体任务,以及 LEGO-RL 有效通过模型 API 连接 OpenHands、Claude Code、OpenCode 等原生 harness 与 policy-gradient 训练,并整合沙箱执行、反作弊和训练可观测性。同时,讨论形成“任务构建—环境验证—策略训练—评测反馈—数据回流”的后训练闭环。为行业构建代码智能体的数据、训练和评测体系提供借鉴。
课程收益
目标:
系统理解 LegoX 系列在代码智能体后训练与强化学习方面的探索,包括 SWE-Lego、Terminal-Lego、SWE-Review、LegoFlow 和 Lego-RL 等相关工作。
2、掌握从真实软件工程活动中构建高质量、可执行、可验证的训练任务,以及在 OpenHands、Claude Code、OpenCode 等原生 Harness 中开展强化学习,为行业构建代码智能体的数据、训练和评测体系提供借鉴。
成功要点:
1、代码智能体的训练效果不仅取决于模型和数据规模,更取决于任务质量、交互轨迹、运行环境和验证机制。成功的关键包括:从真实 GitHub PR 中生产可复现任务;利用测试和验证器确保训练信号可信;让轨迹体现“观察—行动—验证”的环境交互过程;尽可能保持训练环境与实际部署 Harness 一致。
2、做好轨迹对齐、沙箱隔离、反作弊、故障识别、异步训练和训练可观测性。预示了仅追求更强的教师模型、更多的成功轨迹或更高的训练 Reward,并不一定能带来更强的智能体能力。
启示:
代码智能体能力并非由模型单一决定,而是数据、任务、工具、Harness、验证器和训练基础设施共同作用的结果。LegoFlow 将真实软件活动转化为规模化、可验证的训练任务,Lego-RL 则利用这些任务在原生智能体环境中完成可靠强化学习。二者结合后,可以形成“任务构建—环境验证—轨迹生成—策略训练—能力评测—失败反馈—数据回流”的持续迭代闭环,为企业建设代码智能体后训练平台、提高训练效率和降低无效数据成本提供可落地的技术思路。
受众人群
具身智能算法工程师、大模型研究员和技术负责人、AI原生应用架构师、Loop技术开发应用人员、决策智能体开发人员、机器人系统研发工程师、视频算法工程师、智能体Agent架构师以及其他对Agentic感兴趣的从业者。
课程周期
0.5天(3H)
课程大纲
课程模块 | 课程内容 |
一、LegoX 系列概览 | 分享 LegoX 面向代码智能体的数据构建、后训练、评测与反馈闭环。 |
二、LegoFlow 任务构建 | 重点讲授将真实 GitHub PR 转化为包含代码仓库、运行环境、测试和验证器的可执行任务,并通过自动验证、难度评分与标签体系支持规模化数据生产。 |
三、Lego-RL 强化学习 | 分享在 OpenHands、Claude Code 和 OpenCode 等原生 Harness 中开展强化学习,解决轨迹对齐、沙箱执行、反作弊、异步训练和训练可观测性等问题。 |
四、实验与实践经验 | 分享不同 Harness 对代码智能体能力和训练效果的影响,以及系统可靠性、训练效率和 Reward 设计方面的经验。 |
五、后训练闭环与展望 | 讨论如何连接 LegoFlow 与 Lego-RL,形成“任务生产—环境验证—策略学习—失败反馈—数据回流”的持续迭代闭环。 |
京ICP备2022035414号-1