近日，在上海举行的未来科学大奖十周年庆典，“安全护航AI未来——计算机科学专场研讨会”由清华大学高等研究院“杨振宁讲座”教授、2019未来科学大奖-数学与计算机科学奖获奖者、未来科学大奖十周年庆典Program Committee委员王小云担任Session Chair。她对演讲嘉宾沈向洋、朱军，和对话嘉宾李舟军、任少卿、杨耀东的学术背景和科研经历进行了详细介绍。

香港科技大学校董会主席、未来论坛理事、2025未来科学大奖周Program Committee联席主席沈向洋，以《多模融合：大模型的创新与发展》为题进行主旨报告，选取技术、商业、治理等角度，讨论多模态的技术创新和融合发展。他指出，大模型是一个涵盖技术、商业、治理等多要素的概念，将赋能千行百业，影响人们工作生活的方方面面，而多模态是大模型发展中的重要里程碑，涉及算力、算法、数据等多方面因素。未来，增强模型的理解和推理能力‌，是融合多模态数据过程中的关键技术难点。同时，如何发展以人为本的机器智能，让人类与机器有效协作，也是我们必须回答好的重要课题。

清华大学教授、清华大学-博世机器学习联合研究中心主任、未来论坛青年科学家朱军以《生成式AI：从虚拟世界到物理世界》为题进行主旨报告。他表示，生成式人工智能旨在估计高维数据的分布，具有很强的通用性，已经在文本、图像、视频、3D等数字内容生成上取得显著进展，并且逐步演进到物理世界交互学习的基础模型。在技术快速发展的同时，安全问题越来越严重。朱军教授介绍了生成式AI的前沿进展，同时探讨了生成式AI的安全防范技术。

在对话环节，王小云教授作为主持，携手朱军教授，北京航空航天大学计算机学院教授、国务院学位委员会首届网络空间安全学科评议组成员、深圳智能思创科技有限公司创始人与首席科学家李舟军，蔚来集团副总裁、2023未来科学大奖-数学与计算机科学奖获奖者任少卿，北京大学人工智能研究院研究员(博雅学者)，北大-灵初智能实验室首席科学家杨耀东，共同围绕“AI发展理论转型”“传统网络安全与AI安全交叉融合”“智能辅助驾驶技术趋势”“AI安全治理体系构建”等计算机科学相关主题展开学术分享与讨论。

王小云教授表示，AI快速发展且深度应用于诸多领域，其安全性将成为未来发展核心基石。她提出，构建安全可控AI 系统、守护隐私与核心安全等问题，不仅需要工程技术创新，也需要基础科学、系统设计与治理理念的深度融合。

朱军教授指出，中国优势在于应用场景多且复杂，能牵引加速安全研究，AI的理论进展整体上落后于实际应用，亟需加强。强化技术优势方面，人才培养要梳理安全基础课程，加强密码学教学；科研环节应加强校企有效合作，发挥企业数据和学校人才优势，促进人工智能和AI安全发展。

李舟军教授表示，传统网络安全与AI安全的交叉融合可双向赋能，既可促进网络安全技术的智能化，提升其威胁感知能力，实现主动拦截与攻击溯源，又有助于提高AI系统的安全性与可信性。但这种融合亦可带来 AI 武器化等潜在风险升级。目前AI人才培养面临师资缺乏、经费与实验条件不足等问题，可通过更新教材、加强师资、打通产学研环节来弥补以上不足。

任少卿博士指出，智能驾驶有较高可能性在短期内大规模应用，追求通用性和性能提升。当前面临安全性要求极高的问题，大模型助力智能驾驶发展，通过海量数据学习、强化学习对齐开车准则。未来要在安全基础上实现拟人、多样性。通过构建可信防护体系需基础安全模型、形式化验证及在线学习验证等，以推动具身发展，实现AGI时代。

杨耀东教授表示，对齐技术让大模型符合人类指令，但目前基于强化学习的对齐较脆弱，存在逃逸方法，现有对齐多为浅层或表象对齐。未来可借助计算机和密码学领域方法增强AI安全，不过安全会牺牲性能。在治理上，中国在研究和框架上领先，有分级分类治理框架，未来需要跨学科人才和多方面投入。

文/广州日报新花城记者：张丹 通讯员：宋丹

图/广州日报新花城记者：张丹 通讯员：宋丹

广州日报新花城编辑：王锋