杭州日报讯  日前，记者用一站式AI创作及内容平台——即梦AI生成了一段5秒钟的短视频，“即梦AI”被标识在了视频的右下角，清晰可见。

9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行。《办法》明确所有AI生成的文字、图片、音频、视频等内容都要添加标识。

目前，各大AI平台均积极响应《办法》，出台各类细化规则，记者实测了一番，均符合《办法》要求：使用DeepSeek和Kimi生成一段文字内容，在交互界面可以看到提示“本回答由AI生成”“内容由AI生成”；通义、豆包都能在生成的图片右下角进行标识，清楚地标注“通义AI生成”“豆包AI生成”；剪映的“AI故事成片”生成的视频在开头的前两秒有“AI生成”标识，而“即梦AI”则是全程都进行了标识……

近年来，我国人工智能技术快速发展，用户规模也不断扩大，中国互联网信息中心发布的第55次《中国互联网络发展状况统计报告》显示，到2024年年底中国的生成式人工智能产品用户规模已经达到 2.49亿人。

大规模的用户数量势必带来大量的人工智能生成内容，且随着技术发展，这些内容将会变得越来越逼真。

“人工智能生成内容与人类创作内容边界模糊化，复杂的信息让大家难以辨认，AI诈骗、AI制作虚假新闻等社会问题层出不穷，还有技术滥用现象，大量无厘头的AI制作内容充斥着互联网并且得到了广泛传播。”北航杭州创新研究院副研究员胡征慧博士说，《办法》的实施提升了技术的透明度和可追溯性，为有效溯源和遏制虚假信息传播提供了技术抓手，维护网络生态安全，保障公众对网络传播内容的信任根基；细化了生成合成内容的管理规则，推动人工智能产业标准化进程，可有效构建一个更加公平、透明且高效的市场环境。

值得一提的是，2023年1月10日起施行的《互联网信息服务深度合成管理规定》针对“可能导致公众混淆或者误认的”深度合成服务情形提出显著标识要求。此次《办法》进一步细化规则，提出“显式标识”与“隐式标识”的双轨标识制度。

“显式标识是能够让大众明显感知到的标识，而隐式标识是嵌入生成合成内容的文件元数据中的，用来记录文件来源、属性和用途等信息。”浙大城市学院计算机与计算科学学院副教授魏李娜说，不易被大众感知的隐式标识更像是一张“身份证”，平时都藏好不会拿出来，一旦涉及虚假信息传播、AI诈骗等违法活动，就能快速追本溯源，大幅提高了人工智能生成合成内容治理的准确性与有效性。

事实上，两种标识仍然存在技术层面的挑战。对于显性标识来说，不同类型的内容有各自的格式标准，确保显性标识在各种格式中都能稳定呈现且不影响内容正常展示是一大挑战，同时防止显式标识被恶意篡改还需可靠的防篡改技术。

而对于技术含量更高的隐式标识，挑战更大。“如何在有限的元数据空间中嵌入必要要素信息并确保文件的正常读写与输出，以及如何保证不同环境下都能够读取到隐式标识都是难点。”魏李娜提到，为了应对挑战，会迫使各大AI平台加大技术投入，当然，这也是行业走向规范化的必要步骤。

《办法》的实施将帮助公众快速识别虚假信息，区分人类与人工智能创作的边界，加速内容识别、防篡改等技术的迭代升级，为人工智能行业参与者提供了明确的行为准则。“长远来看，有助于构建更加健康有序、更加安全可信的人工智能行业生态，助力我国抓住新一轮科技革命和产业变革机遇。”魏李娜表示。