首页 > 最新动态 > 手机端侧大模型技术演进与产业化路径:从可用验证到产品落地 | CNCC
最新动态
手机端侧大模型技术演进与产业化路径:从可用验证到产品落地 | CNCC
2026-09-303




本次论坛聚焦手机端侧AI大模型从技术验证走向规模化落地,围绕算力约束、精度与能耗均衡、隐私安全等关键难题,分享OPPO在端侧AI落地过程中与学术界的技术积累与实践成果,为行业提供手机端AI端侧化技术演进与工程落地参考。





论坛简介


端侧大模型是推动手机从“智能终端”演进为“个人智能体”的关键技术基础。早期大模型主要依赖云端算力,难以兼顾移动场景对实时响应、离线可用、隐私保护与个性化服务的要求。随着大语言模型、多模态模型及AI Agent技术发展,端侧AI已由单点能力验证迈向系统化、工程化落地。


为支撑复杂多模态交互、长上下文理解和自主任务执行,端侧大模型仍需突破算力、内存与能耗限制,解决模型精度与压缩效率平衡、推理时延、缓存管理、异构计算、工程部署及迭代等问题。构建端云协同体系,实现端侧模型与云端模型在数据、模型和算力层面的有效协作,是提升智能体能力、稳定性及可扩展性的关键。


本论坛将围绕端侧大模型的技术演进与产业应用,重点探讨QAT量化感知训练、稀疏化压缩、长上下文缓存、解码加速等关键技术,并交流端云协同推理、大小模型拆分聚合、多模态感知、长期记忆及个性化服务等前沿方向,共同探索手机端AI从智能助手走向个人智能体的技术路径与产业生态。



日程安排



顺序

主题

主讲嘉宾

单位

1

OPPO端侧计算实战

宋晓辉

北京欧珀通信有限公司

2

端侧AI 推理加速:从技术突破到产品落地

王锐

南京欧珀软件科技有限公司

3

从智能助手到个人智能体:未来手机端AI模型的演进与展望

纪焘

复旦大学

4

端云协同智能体系统

郑臻哲

上海交通大学

5

端侧AI大模型重构手机产业生态:从智能终端到 Agent 服务新时代

魏亦豪

亚马逊云科技



论坛主席:




吴帆



CCF杰出会员,上海交通大学计算机学院特聘教授

个人简介|曾获CCF科技进步奖一等奖、CCF-腾讯犀牛鸟卓越奖、CCF-Intel青年学者提升计划、CCF-IEEE青年科学家奖,获国家级教学成果奖二等奖、教育部自然科学奖一等奖2项,2020年获国家自然科学基金杰出青年科学基金。主要研究移动端智能计算、大小模型协同智能、分布式智能系统等,发表论文300余篇,出版英文专著1部。



论坛讲者:


宋晓辉



OPPO端侧化算法组负责人

个人简介|2023年博士毕业于中国科学院信息工程研究所。加入OPPO后负责OPPO端侧大模型算法业务,支撑OPPO四代端侧大模型的研发工作。


报告题目:OPPO端侧计算实战


报告摘要:随着端侧多模态场景扩展与长上下文需求增长,端侧大模型在prefill/decoding时延、工程链路复杂度、模型迭代周期上面临多重约束。本次分享围绕OPPO端侧化全栈实践,介绍以QAT量化感知训练为核心的协同训练体系,覆盖稀疏化压缩、长上下文Cache Eviction、解码加速训练,并结合QALFT自动化工程化与端侧训练,打通从模型压缩、编译部署到垂域落地与本地个性化的完整链路。

王锐



OPPO端推理加速组技术负责人

个人简介|在OPPO智慧工程部担任端推理加速组技术负责人。主要负责OPPO手机上通用AI推理框架的搭建、以及大模型的工程化支持和性能调优工作。


报告题目:端侧AI推理加速:从技术突破到产品落地


报告摘要:当前手机算力和工程体系已经能够支撑一部分Agent能力稳定运行。本次报告重点讲解:从手机厂商实战经验,分享端侧大模型推理能力已经达到什么程度;当前可以实现哪些Agent功能;如何通过模型压缩、推理优化、缓存优化和异构计算提升效率;如何保障Agent在真实手机环境中的运行效率和稳定性。

纪焘



复旦大学助理教授

个人简介|主要研究方向为自然语言处理与大语言模型,在ACL、NeurIPS、ICLR、AAAI、EMNLP等国际顶会上发表论文30余篇,并担任ACL25、EMNLP25领域主席。主持国家自然科学青年基金项目,参与国家重点研发计划等项目。其中“多模态大模型眸思”成果获得上海市超级博士后荣誉称号并入选国家资助博士后研究人员计划。


报告题目:从智能助手到个人智能体:未来手机端 AI 模型的演进与展望


报告摘要:随着端侧大语言模型、多模态模型和AI Agent技术的发展,手机端AI正从传统的智能助手迈向具备理解、记忆和自主服务能力的个人智能体。本报告将围绕端侧大模型高效部署、端云协同、多模态感知、长期用户记忆与个性化服务等关键技术,探讨未来手机AI端侧模型 如何从“响应用户需求”演进为“主动理解并陪伴用户”的智能伙伴,并结合业界前沿探索方向,展望下一代移动智能的技术形态与发展趋势。

郑臻哲



上海交通大学教授

个人简介|荣获CCF优秀博士论文奖,国家自然科学基金优秀青年科学基金获得者。2016-2019年在美国伊利诺伊大学香槟分校(UIUC)先后从事访问学者与博士后研究。主要研究领域包括移动智能计算以及智能体系统,已发表CCF A类期刊会议63篇。主持国家自然科学基金青年/面上/优青项目、科技部重点研发课题。曾任INFOCOM、MobiHoc会议程序委员会委员。


报告题目:端云协同智能体系统


报告摘要:端云协同智能是人工智能落地的关键技术,可弥补传统云智能在扩展性、实时性、个性化和隐私安全等方面的不足。面向动态开放环境,端云协同智能体在数据、模型与算力方面面临挑战:如何利用端上实时数据与云上预训练数据,协同端上个性小模型与云上通用大模型,并管理端侧碎片化资源与云端算力。围绕上述问题,我们研究数据互补增强、大小模型拆分聚合及异构资源协同管理,构建端云协同自演进智能计算新范式。

魏亦豪



亚马逊云科技AI应用科学家

个人简介|专注于生成式AI、大语言模型及机器学习在企业级场景的落地实践。在模型训练微调、模型推理优化与云上AI解决方案方面拥有丰富经验,致力于帮助客户将前沿AI技术转化为可规模化、可落地的业务价值。


报告题目:端侧AI大模型重构手机产业生态:从智能终端到Agent服务新时代


报告摘要:端侧AI大模型正推动手机从“智能设备”迈向具备理解、推理、执行与协同能力的个人智能体终端,并重塑芯片、操作系统、云服务、应用开发等产业环节。本报告将分析端侧AI大模型为手机厂商和云服务厂商带来的新机遇与新分工,梳理其在多模态交互、离线智能、个性化服务、内容生成、实时翻译和任务自动执行等方面的应用能力,并探讨端云通过协同推理、数据闭环和服务编排,共同重构未来智能终端与数字服务生态。


欢迎参加CNCC2026

CNCC是一个宏观论述技术趋势的大会,具有规格高、规模大、内容丰富等特点,会议形式包括大会特邀报告、大会论坛、专题论坛、特色活动及展览。大会汇聚两院院士、国内外顶尖学者、知名企业家等亲临大会,展望前沿趋势,分享创新成果。ACM、IEEE CS、IPSJ、KIISE等国际计算机组织的代表也多次获邀现场参加这一盛会。CNCC2026将于10月21-24日在四川省成都市举办,大会主题是“数聚驱动,智算未来”,欢迎各界前来参会。




图片


图片


点击“阅读原文”,加入CCF。

点我访问原文链接