2025年11月至2026年2月之间,网信部门连续发布三则通报,围绕人工智能生成合成内容展开集中整治。这三次发文分别指向利用AI仿冒公众人物开展直播营销、生成合成内容未依法添加标识以及传播无AI标识虚假不实信息等问题。时间间隔短、执法深入、治理范围广,生成式人工智能已经进入强监管、细监管、常态监管阶段。

图片

首先被集中整治的是利用AI仿冒公众人物形象进行直播营销的乱象。监管部门指出,部分网络账号借助换脸、语音合成等技术手段,模拟公众人物形象发布带有营销性质的内容,误导网民,涉嫌虚假宣传与侵权行为。这类行为的风险并不仅仅停留在内容失实层面,更直接触及人格权保护、广告合规以及网络信息内容治理的法律边界。监管部门不仅处置了一批违规账号,还督促平台发布治理公告并开展系统清理整治,显示出对“技术滥用+商业变现”模式的高度监管。可以看到,监管逻辑已经从单纯删除违规内容,转向对市场生态的整体审视。

图片

随后,网信部门发布关于查处人工智能生成合成内容标识违法违规问题的通报,将治理重点进一步聚焦到“标识制度”的落实情况。这次整治的核心,不再是具体内容本身,而是生成合成内容是否依法履行标识义务。部分服务提供者未在生成内容中添加显式标识,未在导出文件中嵌入标识信息,也未在元数据中设置隐式标识;部分平台未履行隐式标识核验义务,未在传播环节提供明确提示或声明功能。这实际上对应的是《人工智能生成合成内容标识办法》的制度要求,标识已经成为强制性规范,而非建议性措施。监管部门通过集中查处明确传达一个原则:只要涉及生成合成内容,就必须在技术层面实现可识别、可追溯和可核验。标识制度正在从形式要求转变为合规底线。

图片

进入2026年2月,监管重心进一步延伸至传播环节,对无AI标识的虚假不实信息展开从严整治。此次通报披露的情形更加多样,包括虚构感人故事博取流量、仿冒公众人物发布不实言论牟利、生成虚假事故现场图片扰乱公共秩序,以及对未成年人喜爱的动画角色进行低俗暴力“魔改”等内容。更为关键的是,监管部门还对分享或售卖去除AI标识教程和工具的行为进行了处置。这表明,标识制度已成为治理体系的核心支点,任何试图规避标识、对抗监管的行为,都将被视为重点打击对象。标识不再只是信息提示,而是监管部门识别生成内容、划分责任边界的重要技术抓手。

将这三次整治行动放在一起观察,可以清晰看到监管路径的演进。最初聚焦仿冒与侵权问题,随后强化生成标识制度落实,最终延伸至传播链条与技术规避行为的打击,形成了覆盖“生成—标识—传播—变现”全流程的治理闭环。监管对象也不再局限于单一账号,而是同时压实生成合成算法服务提供者与平台主体责任,要求在技术系统层面构建合规能力。这意味着,生成式人工智能的监管已经从“事后处置”走向“事前预防”和“结构性审查”。

在这样的监管环境下,相关企业必须重新审视自身的合规基础。算法备案不应被视为可有可无的手续,而是算法服务合法运营的前置条件。根据《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等制度要求,具备舆论属性或者社会动员能力的算法服务应当依法履行算法备案义务。备案不仅是身份确认,更是企业向监管部门说明算法功能定位、风险控制措施与安全管理制度的重要程序。一旦发生争议或被举报,是否依法履行备案义务,往往成为判断企业合规程度的重要依据。

图片

与此同时,生成合成内容的标识机制必须在技术层面真正落地。显式标识、隐式标识、元数据嵌入、传播环节提示与核验等措施,需要形成完整的系统结构,而不是临时补救。平台与算法服务提供者之间也应建立标识互识机制,确保生成内容在不同环节流转时保持可识别性。只有在技术架构中预设合规逻辑,企业才能在高压监管环境下保持稳定运营。

图片

监管节奏已经表明,人工智能领域的治理不会因技术创新而放松,相反,技术能力越强,责任要求越高。企业若忽视备案和标识义务,一旦触及内容风险,将面临更为严厉的行政后果。

图片

三次集中整治传递的核心信息十分明确:国家鼓励AI行业发展,但必须在法律框架内运行;生成内容可以传播,但必须真实可识别;平台可以创新,但必须承担相应主体责任。在当前环境下,主动履行算法备案义务,完善生成合成标识体系,构建系统性的合规能力,已经不是选择题,而是生成式AI企业实现长期稳定发展的前提条件。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐