个人简介：吴黎兵，武汉大学二级教授、博士生导师，CCF理事/杰出会员，主要研究方向为物联网、网络安全、机器学习等。近年来主持国家自然科学基金、国家重点研发计划课题、湖北省创新群体、湖北省科技支撑计划、湖北省重点研发计划等项目的研究工作。在IEEE TMC、TIFS、TDSC、JSAC、ToN、INFOCOM、CVPR、NeurIPS、ACM MM等CCF A类期刊和会议发表论文。担任CCF A类期刊IEEE TIFS Associate Editor（2025-2027），曾多次入选全球前2%科学家榜单。

个人简介：王恩澍，武汉大学国家网络安全学院教授/博士生导师，入选国家海外引进高层次人才计划青年项目与湖北省高层次人才计划。主要从事车联网安全、自动驾驶安全、智能体安全等方向的研究工作。在IEEE TMC、 TIFS、 TDSC、 JSAC、 CVPR、 ICCV等CCF A类期刊与会议上发表论文，多篇论文获最佳论文奖和最佳学生论文奖。获湖北省科技进步一等奖。

讲者介绍：苏洲，教授、博士生导师、西安交通大学网络空间安全学院院长、长江学者特聘教授、国家重点研发计划首席科学家、爱思唯尔中国高被引学者。长期从事通信网络安全、信息安全、人工智能安全等方面研究。获IEEE MetaCom2023、IEEE VTC2023-Fall、IEEE WCNC2023、IEEE ICC2020等国际会议最佳论文奖。牵头获得陕西省自然科学一等奖，任IEEE VTS Xi’an Section Chapter 主席。

报告题目：面向智能体互联网的安全防御

报告摘要：智能体可针对特定场景并依据既定目标自行分解任务，正从孤立的专用任务系统，演变为具备自主感知、规划、决策与行动能力的交互式实体。在机器人、自动驾驶、智慧城市等场景中，海量异构智能体跨域实时协同的需求迅速增长，催生了智能体互联网（Internet of Agents, IoA），但随之暴露出身份伪造、隐私监听与幻觉级联等新型安全威胁。本报告系统分析了Agent互联网的典型安全威胁，包括Agent身份认证、可信协同、具身安全、隐私威胁等，并进一步探讨在Agent互联网中的安全防御关键技术与具体挑战。最后，针对IoA语义检索安全、Agent通信协议安全、具身智能安全等三类场景，提出具体安全防御机制，实现海量 Agent间安全可控的互联互通。

讲者介绍：吕勇强，教授，天津大学网络安全学院执行院长，国家级高层次人才，IEEE高级会员、CCF高级会员。2006年获清华大学计算机软件与理论博士学位，长期从事处理器安全研究，主要研究方向包括处理器漏洞挖掘、处理器安全验证与设计、硬件安全等。作为主要贡献人发现Intel、ARM处理器重大安全漏洞，相关成果获得处理器厂商公告认可，并围绕处理器漏洞修复、安全芯片设计与验证等开展系统研究。研究成果入选2023年世界互联网大会领先科技成果集，获中国计算机学会自然科学奖一等奖、国家科学技术进步奖二等奖等。现任IEEE TCAD、ACM IMWUT副主编，并担任中国计算机学会体系结构、集成电路、系统软件等专业委员会委员。

报告题目：网络安全智能体与认知安全：能力演进与可信行动

报告摘要：大模型驱动的网络安全智能体正从辅助分析走向自主执行，在提升漏洞发现与验证能力的同时，也带来新的安全挑战。本报告结合网络安全智能体研发实践，介绍Skill、Memory与多智能体协同对复杂任务执行的支撑作用，分析技能供应链、记忆投毒与隐私泄露等风险，探讨准入审查、形式化验证、运行时审计及记忆自检纠错等防护方法，强调通过独立执行授权和权限约束，阻断认知偏差向危险行动传导，实现认知可信、行动可控。

讲者介绍：操晓春，中山大学网络空间安全学院院长、校学术委员会委员，国家杰出青年青年科学基金获得者，主要在人工智能与网络空间安全的交叉领域从事应用基础研究。兼任中国电子学会理事、青工委副主任，中国图象图形学学会理事。获2024年中国电子学会自然科学一等奖和2019年中共中央办公厅技术进步一等奖。中国计算机学会优博、中国电子学会优博、中国科学院大学优博指导导师。培养的研究生有6人入选国家级青年人才。

报告题目：人工智能安全

报告摘要：当前主流的人工智能模型大多依赖数据驱动的函数拟合，其鲁棒性面临自然环境的烟雨雾霾等复杂扰动以及人为设计的数字物理世界对抗攻击双重挑战。报告拟介绍团队在人工智能的鲁棒性与脆弱性、多模态融合感知与安全、认知域态势感知与安全、全生命周期的安全评估等方面的近期进展。内容不仅涵盖数字域物理域对抗样本、后门攻击、隐私等传统脆弱性问题，还介绍团队在归因机制建模、反事实生成、正向扰动辅助等方向的技术探索。

讲者介绍：王志波，浙江大学教授，网络空间安全学院副院长，国自然青A、青B获得者。现为CCF杰出会员、ACM/IEEE/电子学会高级会员、网络空间安全学会青工委副主任、电子学会网络空间安全专家委员会副秘书长、CCF网络与系统安全专委会常委、CCF物联网专委会常委、人工智能学会智能信息网络专委会常委。研究方向包括智能物联网、人工智能安全、数据安全与隐私保护，发表CCF A类论文90余篇，多篇论文荣获最佳论文奖和最佳学生论文奖，连续多年入选全球前2%顶尖科学家榜单和爱思唯尔中国高被引学者榜单。主持多项国家级项目，研究成果服务于华为、阿里、蚂蚁、新华三、海康威视、杭州城市大脑等企业。荣获电子学会自然科学一等奖，浙江省自然科学一等奖、湖北省自然科学一等奖、浙江省科技进步一等奖和IEEE 可扩展技术专委会职业中期研究成就奖等多个奖项。

报告题目：迈向高效可信的端侧智能：端侧大模型高效推理与安全风险评估

报告摘要：近年来，随着终端智能化水平的不断提高，大模型正加速从云端走向终端，推动端侧智能迈入新阶段。然而，端侧设备资源受限，难以直接承载大模型，如何实现大模型在端侧的高效可信部署仍面临挑战：一方面，终端算力与内存高度受限，如何在不牺牲模型性能的前提下降低大模型的推理开销、提升推理效率？另一方面，大模型不断轻量化以适应端侧环境，其安全对齐能力是否随之退化，如何系统评估端侧大模型的越狱风险？围绕上述问题，本报告将结合最新研究成果，从视觉语言模型的轻量化Token压缩和端侧大模型的越狱风险评估两方面展开，探讨如何迈向高效且可信的端侧智能。

讲者介绍：张谧，复旦大学计算与智能创新学院教授，白泽AI负责人，专注于AI安全、大模型与智能体安全研究，在网络安全与AI领域顶会顶刊发表论文百余篇;联合起草国家标准《生成式人工智能服务安全基本要求》，任TC260人工智能安全标准工作组(WG9)专家，参与《智能体应用安全基本要求》等多项国家标准的制订;主持科技部重点研发计划课题与奇安信、华为、阿里等企业合作项目，获CCF科学技术奖自然科学二等奖等荣誉;培养硕博数十人，带领团队研发JADE大模型安全风险分析与治理平台，开源十余款Benchmark数据集与治理工具，GitHub Star数为开源中文大模型安全测评与治理平台 Top1，被新华社、人民日报、环球网、凤凰网、南方都市报等主流媒体多次报道。

报告题目：智能体安全风险分析与测评—从“说错话”到“做错事”

报告摘要：首先介绍了从大模型走向智能体—从“说错话”到“做错事”，总结了智能体安全的发展现状各个风险环节。然后分别针对通用智能体与GUI Agent的实际应用给出了多个安全风险案例。接着介绍了JADE安全风险测评与治理平台中对于通用智能体与GUI Agent的测评与治理工作，并结合DAWN SONG等知名学者的见解对智能体安全治理做出总结与展望。

讲者介绍：胡鹏飞，山东大学计算机科学与技术学院教授/博导、副院长，国家优青获得者。长期从事网络与系统安全、具身智能安全等方面研究。先后主持基金委优秀项目、重点研发计划、工信部重大专项课题等项目10余项。在IEEE S&P、USENIX Security、ACM CCS、NDSS等国内外知名会议/期刊上发表学术论文100余篇。相关成果在军队、国安等国家关键部门单位成功应用。担任IEEE TDSC、IEEE TWC等多个SCI一区期刊编委，和USENIX Security、INFOCOM等多个知名国际学术会议的的程序委员会委员。

报告题目：具身智能感知安全

报告摘要：具身智能依赖多模态感知系统完成对物理世界的建模和理解，然而感知系统易受对抗样本和跨模态欺骗攻击干扰，导致认知偏差和决策错误。在这一背景下，跨域信任边界的研究成为具身智能系统安全中的关键问题。本次报告将以典型案例为切入点，揭示跨域安全威胁的内在机理，并提出跨域信任边界的概念与防护思路，为具身智能系统安全设计提供新的视角。

讲者介绍：殷赵霞，华东师范大学信息与电子工程学院教授、博导，入选国家高层次青年人才教育部长江学者奖励计划青年学者、上海市东方英才计划青年项目等。主要从事多媒体、人工智能与信息安全研究，主持国家自然科学基金青年面上项目4项、国家重点研发计划子课题、启元实验室委托课题等20余项，在CVPR、ACL、AAAI、IEEE TDSC等国内外顶级会议与期刊发表论文80余篇。现任CCF杰出会员，CAAI、CICC、CAA终身会员及CSIG高级会员，兼CCSS信息隐藏专委副主任、女工委秘书长和CSIG数字媒体取证与安全专委常务委员等。服务中国科协、国家科技库、基金委、教育部、中国科学院学部、吴文俊人工智能奖及多省市科技人才项目评审。

报告题目：感知-认知-行动-进化：AI安全技术研究

报告摘要：面对人工智能可信与安全的国家战略需求，技术支撑已成为政策落地的关键。当前，AI正由单一模型向具备环境感知、工具调用、动作执行及持续进化能力的智能体系统跃迁，其安全挑战亦随之升级，从局部技术点演变为贯穿数据、模型与智能体全栈的系统性风险。本报告立足“感知-认知-行动-进化”全链路，从数据安全、模型安全、智能体安全三个维度，介绍课题组在AI安全领域的最新研究进展。