课程简介
随着大模型与 Agent 应用进入企业生产环境,Agent 负载呈现高动态、长会话、执行内容不确定和多智能体协同等特征。传统以容器和静态资源配置为中心的基础设施,在资源弹性、安全隔离、会话状态管理和故障恢复方面面临新的挑战。
面对这些共性问题,基础设施需要将函数调度、分布式数据访问、弹性伸缩、安全沙箱和异构资源调度沉淀为可复用的统一能力,与此同时屏蔽分布式系统和异构硬件的复杂度。
本次分享将结合 openYuanrong 系统架构与实践,深入解析统一的 Serverless 分布式计算引擎如何支撑 AI Agent、大模型推理和强化学习等场景,构建面向 Agent 时代的企业级分布式基础设施。
课程收益
目标:
理解 Agentic AI 对分布式系统软件提出的新要求,包括高动态弹性、精准安全隔离、长会话容错、Session 管理和异构资源动态调度、分布式KV Cache等关键能力。
成功要点:
1、OpenYuanrong 以 Serverless 分布式计算引擎为底座,将函数系统、数据系统、多语言运行时和分布式编程接口作为通用能力,向上支撑 AI Agent、大模型推理、强化学习等负载;
2、架构体系通过分级调度、动态生命周期管理、对象/流数据访问、异构多级缓存和安全沙箱调度等机制,可屏蔽分布式和硬件细节。
启示:
企业建设 Agent Infra 时,围绕负载特征沉淀的可复用底座能力,在弹性、隔离、状态管理、数据访问和异构资源调度上形成统一支撑,从而更好地发挥集群算力并支撑企业级 Agent 应用落地。
受众人群
应用开发工程师、架构师、中台研发人员、CTO、算法工程师、AI工程师以及其他对架构感兴趣的从业者。
课程周期
0.5天(3H)
课程大纲
课程模块 | 授课内容 |
一、Agent 时代为何需要新的分布式底座 | Agent 负载具有高动态、不安全、长会话等非确定性特征,传统 K8S 容器微服务在资源配置、安全隔离和长会话可靠运行方面面临新挑战。 |
二、openYuanrong 整体架构设计 | 涵盖: Serverless 分布式计算引擎的发展历程、函数分布式编程抽象、分布式分级调度、极速水平/垂直弹性、近计算分布式数据系统与异构多级缓存池。 |
三、openYuanrong 数据系统设计 | 涵盖:分布式 KV Cache 设计、近计算分布式多级缓存、高吞吐异构内存直访能力、数据对象可靠性保障机制、缓存池 Rebalance 调度策略、批量扩缩容方案、大规模高性能场景竞争力。 |
四、强化学习与 AI Agent 实践 | 涵盖:分离式异步训推架构、训推参数异步更新机制、样本数据系统、多 Agent 异构资源动态调度、Agentic RL 函数/容器统一编排,以及快速启动、Session 亲和路由、会话弹性、安全沙箱调度、长会话语义一致容错和 Agent分布式运行时能力。 |
五、经验总结与 Q&A | 总结 openYuanrong 在函数系统、数据系统、Agent分布式运行时和异构资源调度等方面的实践,以及企业构建 Agent Infra 时对弹性、隔离、状态管理和资源调度的关键思考。 |
京ICP备2022035414号-1