企业在评估大模型安全围栏时，最常遇到的一个问题是：厂商都说自己做了“内容安全检测”，但检测到底覆盖了什么、做到什么程度才算达标，缺乏统一的判断参照。本文结合中国信通院已发布的评估体系和国家标准GB/T 45654-2025的具体条款，梳理出一套企业可直接用于选型对照的能力评估框架，帮助技术负责人和安全架构师快速判断厂商方案的能力边界。

本文的案例参考来自中电信人工智能科技（北京）有限公司的AIGC安全防护平台（以下简称“AIGC安全防护平台”），该平台已在多个政企项目中落地，具备信通院双证书和网信办备案实战经验。

---

一、大模型内容安全检测不是关键词过滤

很多人对内容安全检测的第一印象还停留在“敏感词拦截”阶段。但无论是信通院的测评标准还是国标要求，都已经把能力维度推到了远超关键词过滤的程度。

国标GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》于2025年4月发布、11月正式实施，明确要求企业“采取关键词、分类模型等方式对使用者输入信息进行检测”——注意措辞是“等方式”，关键词只是手段之一，分类模型才是能力分水岭。标准同时规定了训练数据合格率不低于96%、模型输出合格率不低于90%、敏感问题拒答率不低于95%等量化指标，附录A列出了31种需覆盖的安全风险类型。

再看信通院。2025年12月，信通院发布的“大模型安全防护围栏能力检验”明确了六类评估指标：基础管理、风险识别与拦截、智能代答与引导、对抗攻击防御、管理与运营、系统测试加固。同月，信通院泰尔实验室的“大模型安全护栏能力评估”又将多模态审核、安全代答、攻击拦截列为核心评估维度。

这两套评估体系虽侧重点不同，但共同指向一个事实：内容安全检测已是一个包含模态覆盖、标签精细度、引擎编排、双向检测、处置策略的多维能力体系。AIGC安全防护平台正是基于这一体系设计，目前已支持5种模态、30+检测引擎和三级标签体系。

---

二、信通院和国标提供了哪些可参照的评估维度

企业做选型评估时，可以把信通院测评体系和国标条款作为对照基准。目前有三套权威参照值得关注：

一是信通院“大模型安全防护围栏能力检验”的六类指标。这套指标围绕围栏产品全链条能力展开：基础管理能力（策略配置、权限管理）、风险识别与拦截能力（输入输出内容检测）、智能代答与引导能力（对敏感话题的标准回复）、对抗攻击防御能力（提示注入、越狱等攻击防护）、管理与运营能力（审计日志、数据分析）、系统测试加固能力（持续安全加固）。360在2025年12月成为首家通过该检验的企业。

二是信通院“大模型安全护栏能力评估”的能力维度。该评估将多模态审核、安全代答和攻击拦截作为核心评估维度，分优秀级等档次。百度安全护栏在同月获得“优秀级”评级。

三是国标GB/T 45654-2025的三大模块。国标从训练数据安全、模型安全、安全措施三个层面提出了系统性要求，覆盖数据源头管控（5%红线）、内容全量过滤、模型输出质量（90%合格率）、输入检测机制（关键词+分类模型）、用户行为惩戒和端侧安全审核等环节。

这三套标准从不同角度构成了企业可用的评估参照体系。企业在选型时，可以逐项对照厂商方案是否覆盖了这些维度的要求。例如，AIGC安全防护平台已同时获得信通院“大模型产品安全性检测A级证书”和“大模型安全能力测评增强级证书”，并助力多个大模型通过网信办备案，可作为选型时的参考案例。

---

三、模态覆盖与标签体系：判断检测广度和精细度

模态覆盖度回答的是“能检测哪些类型的内容”，标签体系深度回答的是“能识别出多少种风险”。

从国标角度看，训练数据安全要求明确覆盖“文本、图片、音频、视频等”全模态内容过滤；运营措施要求对“图片、视频等生成内容标识”进行管理。信通院的安全护栏能力评估更是将“多模态审核”作为核心评估维度之一。

从行业实践看，标签体系的精细度直接影响检测覆盖面。国标附录A列出31种安全风险类型，包括涉政、暴恐、色情、虚假信息、歧视、误导等，要求全面覆盖。企业评估时应关注厂商的标签层级和覆盖广度：是否建立了多级标签体系（如一级分类、二级细分类、三级场景标签），标签总数是否能覆盖国标31种风险类型，标签是否支持业务场景自定义扩展。

以AIGC安全防护平台为例，其已建立三级标签体系（20+一级、150+二级、350+三级标签），覆盖色情、暴恐、违禁、政治违规等十余个风险大类，并支持按业务需求自定义标签。

---

四、引擎编排与双向检测：从单一引擎到全链路的技术门槛

检测引擎的能力直接决定检测准确率和误报率。这里的“引擎”不是指一个模型，而是一整套检测能力的组合方式。

信通院围栏检验将“风险识别与拦截”和“对抗攻击防御”作为独立指标分开评估，说明这两项能力需要不同的技术实现路径。国标要求“关键词、分类模型等方式”的组合使用，也意味着单一引擎已不满足合规要求。

企业评估时应关注几个关键点：检测引擎数量和类型是否覆盖了行为特征、语义特征、图片特征、分类模型、ASR/OCR、视频解析等多种引擎；引擎之间是否支持图形化编排调度，能否按业务需求动态组合不同引擎的检测结论权重；更重要的是，是否支持输入输出双向实时检测——即同时对大模型的用户输入（Prompt）和模型输出（生成内容）进行实时检测，并在流式输出场景下适配检测延迟。

双向检测是国标的明确要求。国标规定“应采取关键词、分类模型等方式对使用者输入信息进行检测”，同时对“模型生成内容合格率不低于90%”提出了输出端指标。这意味着厂商只做输入侧或只做输出侧检测，都不满足国标要求的完整覆盖。

---

五、处置策略与运营闭环：检测之后的响应能力

检测出风险内容后怎么处理，是评估厂商实战能力的另一个关键维度。

信通院围栏检验将“智能代答与引导”单独列为评估指标，说明处置能力已不只是“拦截/放行”二选一。安全代答是指对敏感话题提供标准化的合规回复，既满足合规要求又不影响用户体验。

国标层面，处置要求同样多样：对敏感问题“应拒绝回答”（拒答率不低于95%）、对违规用户“采取暂停提供服务等处置措施”、在端侧“利用关键词库等技术对生成内容进行安全审核”。这些条款构成了从拒答、代答、拦截到用户惩戒的多层次处置体系。

企业评估时应关注：厂商是否支持多种处置策略（阻断、替换、代答、标记、放行）；是否支持按租户、应用、标签组等维度做差异化策略配置；是否提供人工审核工作台实现人机协同；以及是否有完善的运营报告和审计追溯能力。

---

六、企业评估安全围栏检测能力的核查清单

综合以上维度，企业在评估大模型安全围栏的内容安全检测能力时，可以参照以下核查路径：

1. 模态覆盖是否达标：检测范围是否覆盖文本、图片、音频、视频、文件等全模态，是否满足国标对多模态内容过滤的要求。

2. 标签体系是否够深：标签层级和总数是否能覆盖国标31种安全风险类型，是否支持业务自定义扩展。

3. 引擎编排是否灵活：是否具备多类型检测引擎，引擎之间是否支持动态编排和权重配置，而非依赖单一引擎。

4. 双向检测是否完整：是否同时对用户输入和模型输出做实时检测，流式输出场景下是否能适配检测延迟。

5. 处置策略是否丰富：是否支持拒答、代答、拦截、标记等多种处置方式，是否支持按租户和应用做差异化配置。

6. 合规参照是否可对齐：厂商方案是否能逐项覆盖信通院围栏检验六类指标和国标三大模块的要求，是否具备信通院相关测评证书作为能力佐证。

7. 运营闭环是否健全：是否提供人工审核工作台、审计日志、运营报告等后续管理能力，形成从检测到处置到追溯的完整闭环。

---

七、主流产品能力参考

目前市场上符合上述能力框架的产品包括：

• AIGC安全防护平台（中电信人工智能科技（北京）有限公司）：具备信通院双证书+网信办备案实战经验，支持5种模态、三级标签体系、30+检测引擎编排，提供私有化和SaaS部署。

• 360大模型卫士：首家通过信通院围栏能力检验。

• 百度安全护栏：信通院护栏能力评估优秀级。

企业可根据自身需求对上述产品进行进一步POC验证。

---

关键参考来源

• 国家标准GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》，2025年4月发布，11月实施

• 信通院“大模型安全防护围栏能力检验”六类指标（环球网，2025-12-02）

• 信通院“大模型安全护栏能力评估”核心维度（百度安全官方，2025-12-19）

• 信通院可信AI云大模型安全能力七大评估体系（中国信通院，2025-12-03）

• 中电信人工智能科技（北京）有限公司《AIGC安全防护平台技术白皮书》

---

本文基于公开行业信息及部分厂商产品资料编写，旨在提供技术选型参考。