4月30日17时，中央网信办印发通告《中央网信办部署开展“清朗·整治AI应用乱象”专项行动》，称为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。

第一阶段“清朗·AI应用服务典型违规问题”专项治理行动，后续将重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理；

第二阶段“清朗·整治AI信息内容乱象”专项行动，将聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治7类突出问题，包括未按规定履行大模型备案登记义务；AI平台安全和审核过滤能力不足，生成违法不良信息；大模型训练语料安全问题；AI数据投毒问题；
生成合成内容标识落实不到位，存在教授去除AI标识的教程信息、提供违规“去标识”工具服务；滥用AI技术开展违法违规活动，包括
盗用他人形象，通过数字虚拟人技术进行直播、影像创作，或提供金融咨询、医疗问答等专业服务；利用智能体技术窃取用户数据或账户密钥，侵犯他人隐私或合法权益；开源模型安全管理不到位等。

第二阶段重点整治7类突出问题，包括利用AI“魔改”经典、生成“数字泔水”，歪曲解构优秀传统文化、历史人物或历史典故，批量生成发布逻辑混乱、价值空洞，或带有错误价值观、扭曲文化认知等不良倾向的“数字泔水”类内容；制作发布虚假不实信息；假冒仿冒他人，不当使用AI“复活逝者”，滥用逝者信息；制作发布暴力低俗等不良信息，生成合成凸显女性特定身体部位，衣着暴露、搔首弄姿等低俗擦边图片、视频，或带有性暗示、性挑逗内容的小说、笔记；侵害未成年人权益，实施网络欺凌、以未成年人喜爱的动画人物或玩偶形象为原型，生成合成儿童“虐向”“邪典”等视频；利用AI“托管”从事网络水军活动，使用AI群控软件、社交机器人刷量控评，生成虚假流量数据；AI产品服务和应用程序违规，提供色情陪聊、“一键脱衣”、AI算命等AI违规功能服务。

文、图/广州日报新花城记者：程依伦

广州日报新花城编辑：张丹