CCF YOCSEF总部于2026年7月4日在北京举办了技术论坛：“可信、可控的智能体在行业落地还有多远——关键技术与实践路径”。
2026年7月4日，CCF YOCSEF总部于北京组织了一场技术论坛“可信、可控的智能体在行业落地还有多远——关键技术与实践路径”。本次论坛由CCF理事、YOCSEF总部AC、绿盟科技首席创新官刘文懋和YOCSEF总部AC、中国科学院自动化研究所副研究员赵恺担任执行主席，邀请智谱AI副总裁刘丁枭、中国科学院工业人工智能研究所副研究员杨鹏飞、北京邮电大学教授张熙、中国信息通信研究院高级业务主管静静做引导发言，邀请持安科技联合创始人兼CEO、安泉数智北区售前负责人崔英明、中国科学院软件研究所研究员宋富和百度安全解决方案架构师罗启汉作为特邀嘉宾，50余位来自学术界、工业界的青年学者围绕智能体行业落地中的关键安全技术和未来规模化应用需突破的核心问题进行了系统探讨。
（图片：论坛合影）
在引导发言环节，刘丁枭结合企业实践，介绍了智能体在企业内部与行业实践中的探索。随后，杨鹏飞、张熙、静静分别从基础设施安全、大模型安全和安全评测三个层面分享了当前进展。尽管传统安全技术持续演进，但当智能体进化为拥有自主身份的“执行主体”时，现有技术体系仍存在尚未有效解决的新挑战。
（图片：刘丁枭做引导发言）
（图片：杨鹏飞发言）
（图片：张熙发言）
（图片：静静发言）
（图片：现场讨论）
在思辨环节，与会嘉宾围绕“智能体与人的角色定位”、“智能体与人的意图对齐”和“智能体落地的安全指南”三个议题展开讨论。
在第一个议题中，何艺和崔英明从企业实践出发分享了智能体身份的必要性和管控难点。随后，围绕智能体的身份与权责，有嘉宾指出当前智能体借用人类身份的做法产生了巨大的安全风险，智能体的行为应由背后群体担责。关于智能体权限管控，有嘉宾提出实行“身份级”与“任务级”双层动态授权，但也有嘉宾表示企业当前在最小授权实践中还面临“家底不清”等挑战。在行为访问控制方面面临的审批疲劳与安全兜底的博弈，有嘉宾主张当根据影响程度动态决定。
与会专家基本达成一致：智能体不能作为独立主体存在，其身份必须与真实的人或组织强绑定，在技术层面亟需建立独立的数字身份与零信任权限体系。而推进这一体系的先决条件是完成智能体的“分类分级”。
（图片：思辨一）
针对第二个议题，围绕“意图对齐为何困难”，宋富与多名专家从语言学、大模型原理和体系架构多角度分析，其根本原因在于语言模糊与架构缺陷，导致意图传递存在天然障碍。面对无法彻底消除的偏差风险，产业界代表给出了多种务实的工程化解法，有嘉宾提出应当进行纵深防御，也有专家提出通过确定性的手段约束智能体行为，也有专家建议通过“多轮澄清+背景说明”让模型先理解再行动。意图偏差无法被完全消灭，只能被持续管理。
（图片：思辨二）
针对第三个议题，罗启汉结合场景化实践指出需从整个“智能体生态”架构层面进行系统性设计。针对智能体落地面对行业安全需求差异大的困境，多位嘉宾分享了极具启发性的思路，如知识工程、细化工作流和“人在环路”。多名嘉宾从不同角度提出了应当深入理解业务场景，建立智能体分类分级机制，进而实现有针对性的安全防护。于此，全场达成“分类分级、按场景治理”的基本原则。
（图片：思辨三）
经过三轮思辨，整场论坛形成了贯穿始终的总体判断： 智能体的可信可控是一个系统工程——需要技术层面的纵深防御与工程创新，需要管理层面的分类分级与责任厘清，也需要制度层面的标准规范与法律约束。从“养虾热”走向“治理深水区”，是智能体产业走向成熟的必经之路。基于药品说明书逻辑，论坛提出了智能体安全指南：为每个智能体建立一份涵盖身份成分、能力规格、禁忌限制、运行监测等模块的动态数据文档。智能体安全指南这份“活文档”既是安全治理工具，也是界定责任契约的制度载体。
点击“阅读原文”，加入CCF。