AI伪造央视主播带货？北京查处首例AI虚假广告案，罚款20万！

【】科技的进步带来未来世界的新图景，但也须及时纠错现实中的乱象，北京市市场监管部门近日查处了北京首例利用AI技术进行虚假广告宣传的案件。案件中，某平台网络直播间通过AI技术伪造中央广播电视总台新闻主播李梓萌的形象，为其销售的深海鱼油产品进行虚假宣传，最终被处以20万元罚款。随着AI技术在视频制作、直播带货等场景的广泛应用，如何有效规范AI技术应用、防范虚假广告宣传，也给行业监管带来多重挑战。具体情况来听第一财经广播崔琦的介绍。

 

【李梓萌AI：深海多烯鱼油产自于南美太平洋深海鱼类，水域非常干净，而且还可以解决头晕、头痛、手麻、脚麻。】

 

这段曾出现在社交平台直播间里的视频，乍看之下人物形象与声音口型都很真实，让不少消费者信以为真。

今年2月份，北京市海淀区市场监管局接到消费者举报，反映某公司通过视频账号宣传所销售的深海多烯鱼油，能够治疗多种疾病，涉嫌虚假宣传。举报人提供的视频链接显示，该企业直播间展板上显著标注着"适合头晕、头痛、手麻、脚麻，记忆下降人群"等医疗用语，直播中更是出现了央视主持人李梓萌的形象。

 

然而经过立案调查，办案人员发现这一视频完全是利用AI技术伪造生成。更严重的是，该公司销售的深海多烯鱼油产品实际执行标准为糖果，属于普通食品，根本不具备疾病治疗功能。

【我们也是向中央广播电视总台发函去进行问询，最终得到了办公厅以及李梓萌本人的一个书面的回复，表示他们对此并不知情。这个企业呢它是从网络上搜集了一些李梓萌的新闻片段，把这些新闻片段通过AI的技术去进行深度的加工，包括比如说模仿他的这个形象，她的这个声音去进行制作这个虚构的视频。】

 

使用央视主持人形象为其背书，更具有迷惑性和欺骗性。该行为本身不仅侵犯公民的肖像权，更破坏公众对主流媒体公信力的认知，破坏广告市场秩序。最终涉事企业因违反《中华人民共和国广告法》第十七条与第二十八条规定，受到行政处罚，最终决定处以20万元罚款。

 

随着人工智能与互联网传播业态深度融合，AI技术被广泛应用于视频制作、直播带货等场景。但在增加了商业利润的同时，AI技术辨识难度却不断增加，再加上互联网平台传播速度快等特点，往往难以有效辨别和防范。

 

针对AI技术滥用的风险，近期《人工智能生成合成内容标识办法》正式施行，要求对AI生成合成内容添加标识，提升可识别性。人工智能研发工程师曹建航介绍，目前已经可以做到，视频制作完成后，右下角立即自动显示 “AI生成”字样；平台还会在文件代码中嵌入专属数字水印，即便内容被转发至其他平台，通过专业工具仍能追溯到原始生成平台、生成时间及创作者信息，为跨平台监管与溯源提供技术支撑。

【现在已经可以做到全链路可追踪，目前呢我们正在积极的探索，通过一些区块链的技术去如何识别和防止用户进行一些原数据信息的篡改。】

 

中央财经大学法学院教授刘双舟则指出，目前AI广告的治理还存在一定的制度难点，同时直播间运营者、营销人员、mcn机构等从业主体的法律责任如何认定？在行业内学术界还存在不同认识。要想破解这些难题，还需要多方形成合力。

【我们碰到一个问题是传统的立法的方式可能是不够用的，因为太慢了，但是新问题层出不穷的需要解决。现在我看市场监管部门有一个比较好的趋势，对目前的法律规定不明确的，就通过出台执法指南的方式解决了我们一些执法的困境。从2020年到到现在，仅广告领域里边已经出了10个执法指南了，这个可能是一个很好的方向】

 

市场监管总局广告监管司三级调研员李博进一步补充介绍，

【近两年先后印发了多部执法指南，既防止认定面过窄，造成数字广告领域出现监管空白，又避免认定面过宽，致使监管过度，依法查处借助人工智能冒充专家学者、明星网红等公共人物，或者打造虚假人设发布广告等违法行为，后续总局将适时加大相关广告违法案件曝光力度，持续向市场释放强监管信号。】

 

在加强监管的同时，AI技术也正与数字广告行业快速融合，带来新一轮发展机遇。数据显示，2024年全国互联网广告发布收入8919.1亿元，比上年增长24%，占各类媒介广告发布收入的86.5%，为更好的规范发展，相关部门推出广告领域轻微违法容错纠错清单，同时针对重点领域制定广告发布指引，为行业赋能。