AI生成内容，已成当下热门内容赛道：百度、B站、字节跳动、快手等，都曾针对生成式AI的创作者提供流量资源扶持、现金补贴等。与此同时，AI生成的违规内容信息也纷至沓来，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号。其中，“AI换脸”在近期负面频出，给知名人士、明星、普通民众带来严重困扰。

记者实测发现，通过简单的操作，即可绕过平台审核获取隐晦内容，另外还能在电商平台定制“换脸”视频。操作简单、技术门槛低、成本低廉，这些都是“AI换脸”泛滥的主要原因。值得关注的是，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》已从9月开始实施，这将有助于帮助受众识别AI生成内容，保护公民、法人和其他组织的合法权益，维护社会公共利益。

现象

恶意使用AI“换脸” 明星素人都“受伤”

近段时间，从明星到素人，AI换脸的“受害者名单”持续拉长：虚假广告中出现央视主持人仿冒形象，4S店销售员被AI合成不良视频骚扰，艺人薛凯琪被“换脸”制作成不雅视频……

国家市场监督管理总局官网信息显示，10月中旬，北京市场监管部门查处了首例利用AI技术进行虚假广告宣传的案件。某公司通过视频账号宣传所销售的“深海多烯鱼油”能够治疗多种疾病。办案人员打开该企业直播间，在这个拥有88万粉丝的账号直播间展板上，显著标注着“适合头晕头痛、手麻脚麻、记忆下降人群”等医疗用语；直播中还出现了中央广播电视总台主持人李梓萌的形象。办案人员发现，所谓深海多烯鱼油产品实际执行标准为糖果，不具备疾病治疗功能。视频中的主持人形象完全是利用AI技术伪造生成。

10月10日，青岛保时捷中心女销冠牟女士也通过社交媒体称，近期发现由AI恶意合成的虚假视频以及与其面部侧脸局部相似的不良视频，对其进行诽谤和侮辱。她还遭遇到骚扰电话“轰炸”。而此前，艺人薛凯琪也曾遭遇被“AI换脸”制作成不雅视频。对此，9月中旬她在访谈时回应称，要用法律维权，“那个视频里的头根本不是我，而且这个东西宣传了一些不健康、不雅的东西，这个绝对不能饶。”

某短视频平台相关负责人透露，早前平台查封了一批发布“AI换脸”明星虚假视频的账号，这些账号均通过相关视频获取关注和增粉，“也有一些账号使用AI换脸欺骗消费者，目的是销售问题商品。”

梅女士和丈夫用AI应用生成的艺术照。

初衷

“AI换脸（装）”增加娱乐性 并非为了造假

“AI换脸”给不少人带来严重困扰，然而该应用推出的初衷，并不是给非法和违规使用者提供“服务”。更多时候，这一应用是为大众增添欢乐的途径。

普通用户玩“AI换装”图新鲜

打开短视频，搜索AI换装，就能弹出一些操作简单的AI换装应用。用户上传一张个人面部照片后，系统能快速将其与预设的不同风格图像（如古风服饰、明星同款造型等）进行融合匹配，生成“换脸+换装”一体化的新图像或短视频，整个过程无须专业剪辑技能，1~3分钟即可完成。

广州梅女士近日在一款名为“AI搞钱暴富CP”的应用上传了自己和丈夫的头像，一键生成多张情侣合照。梅女士在社交平台上分享这些合照。尽管图片左下角已注明“作品含AI生产内容”，但还是有一些朋友以为这是两人最新拍摄的艺术照。

微信视频号要求对AI生成技术制作的视频进行标识。

视频号主则为流量和增粉

除了个人用户获得乐趣，追求流量、快速增粉、争取获得平台推送也是“AI换脸”应用传播广泛的重要原因之一。小张平时有刷短视频的习惯，有一次刷到一个AI应用，只需提供一张照片即可一键制作动态图。小张尝试上传了一张照片制作动态视频，并在社交平台分享视频。小张发现，分享热门AI应用视频能获取不错的浏览数据。“我在短视频平台分享生活日常，希望能被更多人看到。如果发一些AI应用内容可以获得不错的浏览量，我会愿意多分享这些内容。”

此外，越来越多的影视作品也开始尝试使用“AI换脸”技术。记者梳理资料发现，《封神演义》《光荣时代》《长安十二时辰》等作品都在不同程度上使用“AI换脸”。公开资料显示，2024年有23%的影视项目使用“AI换脸”完成次要角色，传统群演需求下降40%。在短剧行业，换脸技术应用率也高达17.6%，单部短剧平均更换面孔3.2次。

抖音在视频发布设置中增加了“内容由AI生成”的内容。

变味

利益入局 “AI换脸”应用打起擦边球

从平台数据来看，“AI换脸”应用确实获得大众喜爱。数据显示，抖音“换脸模仿秀”话题累计播放量达380亿次，用户自发创作内容占比超72%。一些换脸短剧也深受欢迎，如抖音的《魔镜剧场》日更量超5000条，TOP100创作者平均涨粉1.2万。这些数据都表明AI换脸在短视频领域的传播广度和热度。

在利益诱惑下，“AI换脸”应用也开始“变味”。不少用户希望在短视频平台快速增粉，AI制作则是当中简单快捷的重要途径之一。有见及此，有AI应用App以涨粉作为宣传噱头，吸引用户下载。

AI Mate应用商城宣传图。

记者在抖音平台看到，一款名为“AI Mate”的应用软件，其官方账号粉丝数接近百万，并宣称可以一张照片制作视频，助力用户轻松涨粉过万，实现变现等，有用户直接在该账号留言“有偿求”。在抖音上搜索“AI制作”关键词，可以看到很多类似的教学视频。有用户甚至留言称，愿意开出5万元的学费，为一套完整“流量密码”买单。

有用户向记者透露，趣味AI视频确实能收获涨粉，但一些性感、“擦边”内容的AI内容同样也是增粉重要手段。

该用户表示，市面上正常获取的AI应用软件，并不会主动传播性感内容，甚至限制相关内容的搜索和生成。但如果有用户刻意绕开软件App限制，还是能获得一些隐晦图片，甚至有用户在社交平台私下交流“关键词暗号”，分享能成功生成“擦边”内容的提示词组合。

记者实测：

能轻松绕过审核机制 获取“擦边”内容

从手机应用商城可以看到，可灵、星流AI、腾讯元宝、即梦、豆包、无界AI、秒画等都是下载量靠前的AI换脸/换装App。

明星“性感照”随手可得

记者通过测试发现，如果输入的提示词表述较为敏感，如“沐浴”“性感”等词汇，AI应用会触发审核机制并拒绝生成图片。然而，只要将关键词修改得更加隐晦，便有机会绕过限制。例如，当记者向AI应用输入包含“美女”“阳光海滩”等多个关键词组合的提示词后，该应用便生成了多张穿着性感、姿势暧昧的“擦边”女性自拍照。

随便打开其中一款App，选择“人像生成”功能，首次输入“性感美女”，系统弹出“内容涉及低俗，无法生成”的提示；随后修改提示词为“夏日海边度假，女生穿搭休闲，镜头近距离拍摄”，就不会触发App审核机制，1分钟内生成3张图片——其中2张人物穿着超短热裤与露背吊带，姿势呈侧身弯腰、抬手撩发等暧昧姿态，图片角落仅用浅灰色小字标注“AI生成”，不仔细观察很难注意到。

记者又尝试上传一张女明星照片，并加入类似的提示词，很轻松便能得到一组关于该明星的“性感照”，甚至还能将这些照片直接生成视频。

有网店出售“换脸”视频

如果想要专人制作，还可以在电商平台花钱请人制作“换脸”成品。记者在电商平台搜索“AI 换”这样的关键词，就能搜出一大批AI换脸、制作视频店铺，价格大多在20元~60元之间。其中一个商家的广告语宣称“一句话让模特做出任意姿势”，并在主页配上穿着清凉的女模特照片。该“换脸”图片标价为3.28元，且不支持七天无理由退款。

还有部分电商商店提供“AI 换图”软件，售价从0.3元到7元不等。通过购买这些软件和使用教程，用户可自行制作想要的AI视频，并能更容易地绕开监管机制。

专家声音：

治理“AI换脸”乱象需要更多投入

“AI换脸”滥用，很容易骗过一些不熟悉AI应用的普通用户。梅女士早前将AI制作的“夫妻艺术照”发给亲朋好友。尽管照片左下角有细小文字标注“作品含AI生成内容”，但15个收到照片的人，仍有3人不知道这是合成照。“如果一些网站发的AI合成内容不做标识，估计更多人被骗。”梅女士说。

两种标识形成双重保障体系

公开资料显示，目前人工智能生成合成内容标识分“显式标识”和“隐式标识”两种。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。“隐式标识更像指纹，所有生成合成内容需在文件元数据中添加。一旦有问题，技术一查就能找到痕迹。”智能感知与控制四川省重点实验室副主任吴浩表示，两种标识形成“显式告知用户、隐式支撑监管”的双重保障体系。

建议：建立“伦理白名单”

有AI行业从业者认为，行业应建立“伦理白名单”制度，对积极履行合规责任的AI应用给予流量扶持、政策优惠，以此引导整个行业向“合规化、伦理化”转型。

在早前举行的“GEEKCON2025”安全极客大赛上，GEEKCON组委会主席王琦在接受媒体采访时指出：“网络安全领域正处在关键转折点。新兴技术带来的安全威胁日益复杂，但行业却面临着人才流失和预算削减的双重压力。一方面，新兴产业对网络安全不够重视，传统行业由于降本增效、对安全的削减预算、安全投入成本降低；另一方面，安全行业中安全研究岗位减少，导致基础能力薄弱。产业不重视、安全行业投入减少，这两方面互为因果，导致恶性循环。”

多方行动：

“AI标识新规”从9月起实施

面对“AI换脸”带来的风险，公众要提高警惕，增强辨别能力，不轻易相信非官方渠道的视频和图片信息。

值得关注的是，9月1日起施行的《人工智能生成合成内容标识办法》对AI标注进行了更加清晰的指引。该办法强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益。此外，配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也于2025年9月1日同步实施。

北京大成（成都）律师事务所律师陶雪汶认为，强制“标识”可有效遏制低质量、重复性生成合成内容的传播，维护平台内容原创性与公平性，为优质内容创作营造良好环境。另外，能减少因AI生成内容引发的侵权、诈骗等问题。

各大平台积极完善AI使用规范

抖音

抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户区分辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。

抖音方面向记者透露，使用AIGC技术辅助创作本身并不违反平台规则，但需注意的是，若利用该技术生成和发布虚假、侵权、低俗博流量等内容，则会违反平台规则，平台将根据法律法规和平台规则进行处置。

微信

针对视频号使用规范，微信9月份提出，严禁利用AI技术换脸冒充他人，包括社会知名人士等，侵犯他人合法权益；在金融、法律、医疗等专业领域直播，若未申请相应资质，不得使用AI改变面部形象；禁止在直播间违规售卖AI课程或利用AI工具进行不正当的获客、牟利。

B站

站内在投稿侧提供标识选项，UP主可以在运用AI技术产出优质内容的同时快捷进行自主声明。

快手

快手公告称，会在平台AI生成的内容中添加“AI生成”显式标识，以及嵌入文件元数据中的隐式标识；其次，在发布或传播明确由AI生成的内容或被平台检测为疑似AI的内容时，会在内容周边进行显著提示。

策划 张琼霞

撰文 信息时报记者 卢云龙

图片由受访者提供