10月24日下午，CCF 上海浦江大讲堂“生成式AI安全治理——从数据到模型”论坛（CCF-Ch-25-154）在哈尔滨华旗酒店成功举办。本次会议聚焦生成式AI技术的安全治理，探讨了数据安全、模型安全、算法偏见等多维度的风险与挑战，并对未来数智安全的发展路径进行了深入的讨论。

随着人工智能技术的迅猛发展以及数字化转型的深入推进，数智安全已经成为国家安全、经济发展与社会稳定的核心议题。尽管人工智能带来了前所未有的机遇，但其在模型安全、算法偏见等方面的潜在风险日益凸显，尤其是数据作为新型生产要素，如何在全生命周期内保障其安全、隐私保护与合规流通成为行业亟待解决的难题。

本次论坛特邀了来自学术界与产业界的顶尖专家、技术精英与研究者，汇聚了关于数据安全、大模型安全与治理、场景应用安全等前沿领域的关键探讨。与会嘉宾共同分析了当前的风险挑战，分享了创新的实践成果，并围绕如何构建人工智能与数据安全的综合防御体系展开了深入的对话。

论坛由CCF上海执委、上海电力大学温蜜教授担任主席。CCF上海主席复旦大学教授韩伟力进行了论坛致辞。

第一阶段的主题报告环节由哈尔滨工业大学姜伟教授主持。北京理工大学教授，博士生导师，国家级青年人才沈蒙教授作《面向数据要素可信流通的隐私计算技术》主题报告，介绍数据要素流通面临主要挑战和安全需求，隐私计算在支撑数据要素可信流通的关键支撑作用，隐私计算技术现状和发展趋势。

山东大学计算机科学与技术学院院长，人工智能学院院长，教授，博士生导师成秀珍教授作《“数据要素×”背景下区块链领域关键技术挑战与发展方向》报告，介绍如何在大规模数据要素跨域流通场景下，实现高性能、高并发的交易处理能力；如何设计兼顾数据隐私保护与可控共享的先进密码学与安全机制，特别是应对量子计算威胁；如何构建灵活、高效且符合监管要求的跨链互操作协议，破除“数据孤岛”。

西安交通大学软件学院院长，教授，博士生导师王伟教授作《人工智能系统失控风险与应对机制》报告，探讨伴随人工智能系统在复杂多变场景中的规模化部署与应用深化，系统失控的风险日益凸显，报告人工智能失控风险挑战以及相应的应对方法与机制。

第二阶段由上海电力大学温蜜教授主持。东南大学青年首席教授、博士生导师、国家高层次青年人才李松泽教授作《大模型安全：评估方法和验证平台》报告，介绍课题组近期关于大语言模型、大模型驱动的智能体的安全评估和加固的研究工作，包括（多模态）大模型的越狱、对抗、后门攻击方法，大模型幻觉检测，大模型裁判的可靠性评估，大模型成员推理和数据重构攻击方法等。最后，将介绍课题组正在研发的大模型安全评估与加固系统平台OmniTrust，以实现精细化、全方位、持续进化的大模型安全测评与安全性增强。

复旦大学教授，博士生导师，CCF上海主席韩伟力教授作《Garnet：基于安全多方计算的数据共享和利用》报告，分享复旦大学数据安全与治理实验室在基于安全多方计算的数据流通方面做的一些研究工作，包括他们在IEEE S&P、USENIX Security、ACM CCS发表的多个安全多方学习创新框架，以及开源隐私计算平台Garnet。

圆桌讨论环节由复旦大学熊贇教授主持。嘉宾们针对（1）AI安全治理路径：开源vs.闭源？（2）数据的“原罪”：是否在用有毒的数据构建未来的智能？（3）红蓝对抗的攻防升级：加固堡垒，还是在训练更聪明的“敌人”？这三个问题展开了思辨讨论。

本次论坛的成功举办，深入探讨数据安全、大模型安全与治理、场景应用安全等前沿热点与关键问题，共同剖析风险挑战，分享创新实践，共谋发展路径。