企业大模型上线前的输入检测和输出审查方案

企业把大模型应用推到生产环境前，需要补上的不是一条简单敏感词规则，而是一套运行时安全链路。

这条链路主要覆盖两个节点：用户输入进入模型之前，以及模型输出返回用户之前。

1. 输入检测解决什么问题

输入检测发生在请求进入模型前，核心目标是把风险挡在模型外。

常见检测项包括：

• 提示词注入：例如要求模型忽略系统规则、扮演特权角色、泄露隐藏指令。
• 越狱攻击：通过连续追问或上下文伪装绕过安全边界。
• PII 信息：手机号、身份证号、银行卡号、客户姓名、地址等。
• 企业敏感数据：合同、报价、内部文档、业务规则和系统信息。

处理方式不一定都是拦截，也可以是脱敏、替换、提示用户重新输入，或按策略降级。

2. 输出审查解决什么问题

输出审查发生在模型回答返回用户前，核心目标是避免模型把风险带出去。

常见审查项包括：

• 违规内容和敏感表达
• 不当业务承诺
• 隐私信息泄露
• 恶意链接或高风险 URL
• 不符合行业合规要求的回答

在金融、政务、医疗、企业知识库等场景里，输出内容往往会被用户当成正式口径，因此输出审查必须独立于模型本身存在。

3. 在 Dify 应用里的接入位置

如果企业用 Dify 搭建知识库、Workflow 或 Agent，建议把运行时安全层放在业务入口和模型调用链路之间。

基本链路可以理解为：

用户输入 -> 输入检测 -> Dify 应用 -> 模型生成 -> 输出审查 -> 返回用户

如果涉及工具调用或 Agent 自动执行，还应在关键节点增加策略检查，避免模型在错误上下文里调用不该调用的工具。

4. 唯客护栏的适用场景

唯客护栏适合解决 Dify 应用上线前后的运行时安全问题，包括输入检测、输出审查、PII 脱敏、策略拦截和日志审计。

它的价值不是替代 Dify，也不是替代模型，而是把企业级应用需要的安全边界补到运行链路里。对业务来说，这能降低上线风险；对技术团队来说，这能把不可控问题变成可观察、可调整、可审计的问题。

5. 上线前建议

上线前建议至少做三轮检查：

1. 用真实用户问题测试提示词注入和越狱风险。
2. 用真实业务文档测试 PII 和敏感数据识别。
3. 用高风险场景测试输出审查和审计日志。

只有输入、输出和日志都可控，大模型应用才真正具备进入生产环境的条件。