9月22日，第二届广东省人工智能应用对接大会在广州举行。会上，工业和信息化部电子第五研究所所长杨建军介绍了电子五所自主研发的“2+1”工具矩阵，聚焦人工智能安全综合治理，助力南方电网、中国平安、广发证券等企业发现、防范人工智能安全风险。

算法歧视和偏见、数据投毒和污染、智能体越权和目标劫持，以及个人配置错误、违规使用等，都是用户日常应用人工智能过程中可能出现的安全问题。针对上述安全风险，电子五所自主研发了“赛宝鉴言”“赛宝鉴行”“赛宝智学”三大AI安全工具，为用户应用人工智能提供系统性安全保障对策。

“赛宝鉴言”侧重于具备“言”能力的大模型，聚焦大模型生成内容和数据训练安全风险，对内容违规、幻觉失真、算法偏见等进行检测，提高模型安全水平；“赛宝鉴行”关注可执“行”的智能体，防范其可能的越权操作、指令劫持、多人交互失控等风险，保障智能体在关键场景中决策执行的准确性；“赛宝智学”则提供人工智能安全“学”的平台，可用于相关人员培训，提升AI使用者的安全意识。

杨建军表示，在南方电网、中国平安、中国移动、广发证券等各行业国央企的大模型和智能体上，“赛宝”都得到了充分应用，有效解决了大模型算法误导、数据违规泄露、智能体行为失控等问题。“赛宝智学”也已成功应用于国家网信人才基地的人员培训上，并与广州大学、华南理工大学、广州国家实验室等单位共同发起人才联合培养倡议，为人工智能行业治理提供有效助力。

文/广州日报新花城记者：方晴 见习记者 姚炜增
图/广州日报新花城记者：庄小龙
广州日报新花城编辑：刘影