首页 > 最新动态 > 从《终结者》到《我,机器人》的三定律,机器人的价值观实现
最新动态
从《终结者》到《我,机器人》的三定律,机器人的价值观实现
2024-10-1359


导读:从《终结者》系列的天网系统到《我,机器人》的三定律,人工智能的伦理边界一直是科幻与现实交织的热议话题。杨耀东博士在本次演讲中,将这些概念与现代AI技术相结合,探讨了在智能化浪潮中,如何确保机器人的行为与人类价值观保持一致。这场演讲是对技术爱好者和未来学家的一次思想盛宴,不容错过。


价值共鸣:AI伦理的智能导航仪


杨耀东教授在演讲中提出,未来的人工智能不仅要技术高超,更要具备正确的价值判断力。他倡导的价值观对齐技术,通过深度学习与伦理学原理的结合,赋予机器理解并践行人类价值准则的能力。这项技术让AI在决策时能够体现人类的道德取向,成为负责任、有温度的智能伙伴,引领AI伦理的新时代。



安全对齐:智能时代的守护神


杨耀东教授提出,为确保AI在智能化浪潮中稳健前行,安全对齐技术是关键。通过引入带安全约束的大模型对齐框架,AI不仅学会遵守规则,更能在复杂环境中自我修正,避免潜在风险。这一技术赋予AI自我监督的能力,使其在提供高效服务的同时,确保每一步决策的安全性,为智能时代的和谐发展保驾护航。



DEPS框架:开放环境的智能导航者


在探索未知环境的征途上,杨耀东教授引领我们进入DEPS框架的新纪元——一个融合描述(Describe)、解释(Explain)、规划(Plan)与选择(Select)的智能决策系统。它赋予机器人以前所未有的适应力,使其在多变的开放世界中,能够自主推理、灵活规划,以精准行动应对每一次挑战。DEPS不仅标志着AI在复杂任务解决上的一大步,更是通向自主智能未来的桥梁。


NEWS

想看更多内容?

下载Link APP,精彩内容随心看

讲者介绍


杨耀东


杨耀东博士,北京大学人工智能研究院助理教授(博雅学者)、人工智能安全与治理中心执行主任、北京智源大模型安全项目主任。国家优青(海外)、中国科协青年托举人才。在智能体交互与对齐、强化学习等领域做出突出贡献,发表百余篇顶会论文,谷歌引用超五千次。曾获多项国际大奖,带领团队在Nature Machine Intelligence发表成果,主导多个大模型价值对齐项目。现任多个顶级会议领域主席,主持多项国家级科研项目。本科毕业于中国科学技术大学,后在伦敦帝国理工大学、伦敦大学学院获得硕士及博士学位。


关于栏目

《温故知新|专题精选》是CCF Link推出的系列内容分享,内容均摘自会议语音实录,有任何问题或建议,欢迎联系CCF会议


本文所发布的所有内容,包括但不限于文字、图片、视频、图表、程序等,除特别标明外,均来源于CCF数字图书馆,版权归原作者或原出处所有。若涉及版权问题,请及时联系我们进行处理。




点击“阅读原文”,下载CCF Link。

点我访问原文链接