今起实施！AI生成内容必须带“身份证”

带货视频中的明星配音、短视频里突然出现的名人，可能并非本人，而是AI生成——从9月1日起，它们必须亮明身份。

9月1日，由国家互联网信息办公室、工业和信息化部等部门发布的《人工智能生成合成内容标识办法》（以下简称“《办法》”），以及配套《办法》发布的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时实施。

这意味着，从今天开始，不管是AI生成的视频、语音、文字还是图片，都必须带上“身份标签”，让用户能够分辨AI内容的真实来源。

就在今日，在上海市委网信办指导下，由上海市互联网业联合会和徐汇区委宣传部联合主办的“人工智能生成合成内容标识工作交流会”在上海模速空间举行，来自政府、产业的多元角色就《办法》落地实施首日，就技术路径以及行业实践等问题展开了交流。

《办法》对AI生成内容链条上的不同角色提出了清晰要求。上海市信息安全测评认证中心总工程师李宏达在交流会中介绍，对于生成合成服务提供者来说，需在AI生成的文字、图片、音视频等内容中添加显式和隐式标识，“这类角色通常以大模型企业为代表”。

而对于内容传播服务提供者，如B站、小红书等平台，要在传播环节核验元数据并对相关内容加注提示，让公众知晓其为AI生成，并提供必要的标识功能，提醒用户主动声明发布内容中是否包含生成合成内容。

同时，在分发环节，应用程序分发平台也应该核验相关应用的生成合成内容标识材料。对于用户来说，在上传和传播AI生成的合成内容时也应该主动标识。

此前，有微信公众号平台的内容创作者曾向第一财经记者表示，担心显式的AI标识会影响内容传播效果。对此，《办法》也进行了相关规定。李宏达介绍，根据《办法》第九条，服务提供者，也就是以AI模型公司为代表的企业，能够通过用户协议，明确特定用户的使用责任和标识义务后，提供不含显式标识的生成合成内容。同时，服务提供者依旧需要对该生成合成内容提供隐式标识。

《办法》3月份发布，9月份实施，在这半年的缓冲期里，企业也在探索符合规范的技术路径和产品方案。

MiniMax执行总编辑周晓榕在现场展示了在MiniMax、海螺、MiniMax Audio、星野平台中的文字、图片、语音和视频生成内容是如何进行显式标识的。在用户可见的界面中，MiniMax通过角标等方式清晰标注“AI生成”字样。

对于生成式语音片段，周晓榕现场播放了一段“摩斯密码”式的提示音，也就是在合成语音后接入“短长短短”的节奏信号，用来提醒用户内容为AI生成。同时，企业也可以选择在内容中直接加入“内容由AI生成”等提示语，来进行显式标注。

“标识是生成式内容可信性的基石。”周晓榕认为，对于大模型企业而言，技术硬实力决定了能否进入并留在牌桌，而可信性则决定了企业的市场拓展能力。“我们在和B端企业合作的过程当中，明确感知到了市场对合规的需求，合规能力也应当是企业市场竞争能力的一部分。”

哔哩哔哩内容产品负责人栾帅则透露，哔哩哔哩已经通过多轮公告、站内信、弹窗、制作专题视频等方式，向用户及时公布了AI标识改造功能的进度、入口和具体用法。“我们在向用户宣传法律法规要求的同时，也会引导用户规范使用AI技术来产出优质的内容。”

据了解，在过去几个月中，上海市委网信办此前已开展多层次、分阶段宣贯工作。当前，上海市委网信办已经指导成立了人工智能生成合成内容标识生态联盟，推动30余家企业开展隐式标识互认验证。