当前，随着AI技术快速发展，人工智能生成内容（AIGC）已经全面渗透我们生活工作各个领域。然而，技术是一把“双刃剑”，这一“工具”用得不好将会产生恶劣影响。今年全国两会上，来自美的集团的全国人大代表钟铮就提出相关建议，向AI技术滥用和违规使用“亮剑”。

钟铮

现象一：AI等技术滥用助长“黑公关”
建议：不断加强、完善法律法规

当前，数字经济蓬勃发展，网络营销已成为各类市场主体拓展市场、提升品牌影响力的核心手段，极大激活了市场活力、便利了消费者选择。

尽管如此，钟铮表示，当前网络营销环境乱象丛生，传统违规营销与技术型恶意营销交织蔓延，不仅侵害消费者与合规企业合法权益，破坏公平竞争市场秩序，更污染网络生态，阻碍数字经济高质量发展。尤为值得警惕的是，人工智能生成内容（AIGC）、生成式引擎优化（GEO）等新技术，正被滥用于实施数据污染、虚假营销，甚至黑公关等行为，进一步扭曲市场信号、误导消费者决策、破坏公平竞争秩序，成为阻碍各行业高质量发展的新型风险源。

“实际上，我们看到一些 AI技术被用在了公关，虚假营销场景层出不穷。”钟铮指出这一现象将造成的恶果：一方面，技术滥用和违规应用，将给一些企业带来不公平竞争，扰乱正常经营秩序；另一方面，对于消费者来说，会造成一些消费决策误导，从而影响消费者权益。“近年来，美的同样有被‘黑公关’的经历，尤其是在一些重要营销节点的时候，公司会留意到平台部分评论被疑似‘水军’或者‘黑公关’来‘带节奏’，这些对企业的声誉造成一定的影响。当然，我相信，这不是美的一家企业面临的问题。”她说。

在此次全国两会上，作为来自企业的人大代表，她建议未来通过不断完善法律法规，明确违规营销法律边界，解决这一问题。

例如，在《反不正当竞争法》修订中，增设条款，将利用AIGC、GEO等技术实施数据污染、虚假宣传、商业诋毁等行为明确列为不正当竞争情形，并设定阶梯式罚则，情节严重的可追究刑事责任。此外，明确企业、平台、技术服务方三方责任：企业对其发布的AI生成内容真实性负责；平台对GEO投喂内容负有主动监测与处置义务；此外，GEO服务机构不得为恶意竞争提供算法支持。

她还建议，要强化平台主体责任，构建智能审核与闭环治理机制。例如，督促大型电商平台、社交平台开发企业营销专用AI内容识别模型，提升对虚假测评、参数篡改、恶意拉踩等行为的自动识别率。推行“一次举证、全网拦截”机制，企业提交有效证据后，平台应在24小时内完成全站相似内容、同源GEO信息的排查与删除，并纳入负面样本库实现长效拦截。由网信部门推动建立跨平台虚假信息共享数据库，打通各平台审核标准与黑名单，防止违规内容“打一枪换一个地方”。

现象二： AI数字人直播“以假乱真”侵犯消费者权益
建议：关于加强对AI数字人直播管理

钟铮提出的另一个建议直指当前的AI数字人直播乱象。当前，AI数字人作为人工智能技术的重要应用形态，已广泛应用于品牌宣传、市场推广、在线教育、文化传播领域，成为促进消费升级、拓展市场的新兴力量。

但随着AI数字人制作和运营门槛降低，其在直播领域的滥用和违规现象日益增多，暴露出身份虚假、内容失范、权益纠纷、监管滞后等突出问题，这些问题若不及时治理，将扰乱市场秩序，损害用户权益，影响人工智能技术的社会信任与应用前景。“我去年有留意到一个案例，有一个明星，他同时在六个直播间直播，但是竟没有一个是他本人。这不仅误导消费者，在后期维权时还遇上很多困难。”她说。

如何破解？对此，她建议：一是要完善法律法规，强化数字人身份认证与责任追溯。“建议加快推进人工智能法等相关立法进程，设立AI数字人直播专项管理条款。”她表示，可探索推行数字人注册备案制度，强制公示其技术生成属性和背后运营主体信息，做到“数字形象可标识、责任主体可追溯”。

此外，修订《消费者权益保护法》《广告法》等，明确将数字人直播纳入监管范畴，严厉打击虚假宣传、仿冒名人等消费欺诈行为。同时，完善知识产权与人格权相关法律法规，明确 AI数字人制作中真人肖像、声音、个人信息等的授权使用边界，加大对无授权使用行为的处罚力度，保障权利人合法权益。

在源头，钟铮强调了“技术管理技术”的重要性。她称，未来可以强化技术赋能，构建实时高效的内容审核体系。例如，鼓励加大AI内容安全技术研发投入，重点突破实时多模态（音视频、文本、互动行为）内容识别与风险预警能力。此外，还可以建立“实时AI监测+人工即时复核+舆情应急响应”一体化审核机制，对重点领域、高峰时段直播实施加强巡查。建立违规直播即时处置机制，提升监管响应速度与精准度，强化对违规行为的打击力度。

值得一提的是，钟铮表示，压实多方主体责任，加强跨部门协同监管与公众监督同样重要。她建议，未来要进一步督促商家、平台、AI工具提供方履行各自主体责任，明确各方在内容审核、标识合规、权益保护等方面的义务；此外，畅通用户举报渠道，鼓励公众参与监督；建立网信、广电、市场监管等部门间的常态化协同监管机制，统一规则，共享数据，联合执法，形成监管合力。

文/广州日报新花城记者：黄子宁
图/广州日报新花城记者：陈枫
广州日报新花城编辑：何波