课程简介
随着移动端传感器成熟、模型小型化与芯片算力跃升,端智能已具备落地基础。凭借其低成本、低延迟特性构筑差异化优势,已然成为头部科技企业的关键命题。
在传统场景中,字节跳动通过端云协同探索出可行路径,以感知智能领域以终端实时能力填补云端延迟短板,平衡体验与成本;数据智能领域则迁移部分云端推荐系统至终端,优化推荐效果、用户触达与应用体验。同时,针对端云协同的高门槛,可以构建端智能基建体系,标准化研发流程、提升迭代效能。
本次分享面对大模型浪潮,进一步探讨端侧LLM与Agent的业务应用挑战、演进思路。旨在帮助与会者,建立对终端优势的体系化认知,解析端云协同的落地方案,让企业找到结合业务需求规划适配最优路径。
课程收益
1、帮助学员精准把握端云异构本质,明晰协同分工逻辑;
2、帮助学员掌握高效协同落地方法,提升业务变现与体验;
3、帮助学员学会合规释放数据价值,缩短端云协同落地周期
受众人群
云计算与基础设施工程师、大数据工程师、应用开发与运维工程师、AI架构工程师、算法工程师及技术管理者,以及其他对端云协同技术感兴趣的人员
课程周期
0.5天(3H)
课程大纲
1、分析端云协同的现在式
1) 端智能的三要素:数据、算力、模型
2) 感知智能中的端云协同
3) 数据智能中的端云协同
4) 端云协同的意义:智能与体验的平衡
5) 效能优化:Pitaya 端智能基建
2、分享端云协同的未来
1) Scaling Law 的影响
2) SLM 应用场景与部署挑战
3) 边缘 Agent 的现状与前瞻
3、QA