敏感词猎手：用AgentArts工作流一键扫描文档风险

华为云开发者联盟

758人浏览 · 2026-06-23 12:15:00

华为云开发者联盟 · 2026-06-23 12:15:00 发布

案例简介：本案例基于AgentArts企业级智能体开发平台，结合MaaS平台大模型能力，构建内容敏感词检测工作流应用。通过6个节点的可视化编排，实现文档上传、内容提取、敏感词判断与定位的自动化审核流程，让内容风控从人工逐行排查变为工作流一键扫描。

一、概述

1. 案例介绍

在内容合规审核场景中，人工逐行排查文档中的敏感词既耗时又容易遗漏。一篇数千字的文章，审核人员往往需要反复阅读、逐词比对敏感词库，效率低下且标准不一；面对海量文章、评论、合同等文本，传统人工审核更是力不从心，漏审风险随时可能演变为合规事故。本案例通过华为开发者空间AgentArts企业级智能体开发平台，构建"敏感词猎手"工作流应用，实现文档内容审核的自动化与智能化，让风险词汇无处藏身。

本案例基于华为开发者空间，采用AgentArts企业级智能体开发平台结合MaaS平台大模型，构建内容敏感词检测工作流。案例完整演示了从工作流创建、节点配置、试运行验证到发布API调用的全流程操作，帮助开发者快速掌握AgentArts工作流编排能力。

案例技术选型：

AgentArts开发平台：华为云企业级智能体开发平台。提供可视化工作流编排、插件市场、模型管理等一站式AI应用构建能力，支持任务型工作流和对话型智能体两种创建模式。本案例中作为核心开发平台，通过任务型工作流编排实现敏感词检测的自动化流程。
华为云MaaS平台：华为云ModelArts大模型服务平台。提供DeepSeek-V4-Flash等丰富预训练模型，支持OpenAI兼容接口快速接入。本案例中为工作流提供大模型智能能力，驱动内容提取与敏感词分析等核心AI节点。

通过AgentArts工作流编排与MaaS大模型的深度融合，实现文档敏感词检测的自动化场景，让内容审核告别人工逐行排查，开启智能风控新时代。

2. 适用对象

企业开发者
个人开发者
高校学生

3. 案例时间

本案例总时长预计60分钟。

4. 案例流程

本案例中的敏感词检测工作流共包含 6 个节点：

【开始】节点：负责接收被检查的文件以及敏感词词库。
【内容读取器】节点：底层调用“文件解析（Read_File）”插件，用于提取被检查文件中的原始文本内容。
【内容提取器】节点：底层为一个大模型，通过 MaaS 平台提供的模型能力，对被检查的文件内容进行总结与归纳整理。
【判断】节点：判断被检查文件中是否包含敏感词。若包含，则将信息传递给【内容搜查器】节点；若不包含，则直接传递给【结束】节点。
【内容搜查器】节点：接收【判断】节点传递的信息，分析文件中的具体敏感词，并将分析结果输出给【结束】节点。
【结束】节点：接收并输出敏感词分析的最终结果。

5. 资源总览

本案例预计花费0或1元。

说明：以下代金券价格不一但均可使用，每个账号在活动期间只可领取使用1次。

资源名称	规格	单价（元）
华为云 AgentArts 企业级智能体开发平台	系统标配	免费
DeepSeek-V3.2/V3.1千万Tokens代金券	DeepSeek-V4-Flash	1.00
ModelArts Studio大模型（DS/K2/Q3等）通用代金券	DeepSeek-V4-Flash	0

二、环境和资源准备

2.1 领取华为云MaaS平台大模型Tokens福利

方式一： 登录华为开发者空间，参考案例《华为开发者空间 - ModelArts Studio大模型通用代金券领取使用指导》中的“二、开通MaaS平台大模型”章节内容领取代金券，获取到模型的API Key。

方式二： 登录华为开发者空间，参考案例《华为云MaaS平台大模型Tokens领取使用指导》中的“二、领取MaaS平台大模型Tokens”章节内容，领取MaaS平台DeepSeek V3系列大模型Tokens代金券，购买ModelArts Studio DeepSeek Tokens套餐包，开通模型服务，最后获取到模型的API Key。

注意：记录API Key留作后面步骤使用。

2.2 配置模型鉴权管理

登录华为云 AgentArts 企业级智能体开发平台，点左侧“资产广场”，进入资产广场页面。

在资产广场页面，左侧选择“模型”，右侧点“模型鉴权管理”。将“2.1 领取华为云MaaS平台大模型Tokens福利”中获取到的API Key复制到“模型鉴权管理”弹窗的API Key框中，然后点确定。

2.3 云服务开通及授权

在 AgentArts 平台左下角，点“授权管理”，然后点右上角“一键开通及授权”。在弹窗界面点确定，依赖云服务开通及授权。

三、构建敏感词检测工作流

3.1 构建工作流

3.1.1 创建工作流

在 AgentArts 平台左侧，点“+ 创建智能体”。

注：AgentArts 开发平台默认区域为“西南-贵阳一”。

进入智能体创建界面，参考如下参数信息配置智能体基本信息：

选择创建类型：任务型工作流
名称：内容敏感词检测
描述：该工作流可自动扫描文档内容，精准匹配自定义的关键字库与敏感词库，快速识别其中是否包含违规、不当或需审查的词汇。适用于文章、评论、邮件、合同等文本的合规审核，支持高亮定位问题词汇并生成检测报告，帮助您提升内容风控效率。

工作流图标可自定义上传，支持上传png、jpeg、gif、jpg的图片，大小不能超过200 KB。也可以点其右侧“AI生成图标”，帮忙生成。配置完以上信息后，点“立即创建”。

等待系统自动完成AI应用的初始化。

应用初始化结束后，可见原始工作流配置包含三个节点：【开始】 - 【大模型】 - 【结束】。

3.1.2 配置工作流【开始】节点

【开始】节点作为工作流的入口，负责接收并存储初始化参数。可新增一个名为 file 的参数，用于表示外部传入的文件。点击该节点，在右侧弹出的配置界面点“ + ”，参考如下内容配置节点参数：

参数名称：file
参数类型：选择File > Default
描述（可选）：外部文件

3.1.3 添加【内容读取器】节点

在【开始】节点中新增 file 参数后，工作流即可接收外部传入的文件。但此时文件内容尚不能被直接读取，因此需要增加一个文件解析节点，将文件中的文本内容提取出来。具体操作为：

在【开始】节点与【大模型】节点的连线上单击中间的 “ + ”，选择“插件”；
在右侧“添加插件工具”界面，选择“插件广场”页签，搜索并找到“文件解析（Read_File）”插件，在其下拉三角下点“添加”，节点添加成功；
点击新增的节点，在右侧配置界面为其重命名为 “内容阅读器”；
编辑file_url参数，类型选择“引用”，然后在下拉三角中依此选择开始 > file(Default)值。

3.1.4 配置【内容提取器】节点

完成【内容读取器】节点配置后，应用已将文件中的文本内容提取出来，下一步通过大模型分析文本内容，将其内的敏感词汇提取出来。编辑大模型节点：

点击大模型节点，在右侧配置界面，将其重命名为"内容提取器"；
模型配置：选择MaaS平台提供的DeepSeek-V4-Flash；
输入参数：参数名称使用节点原始名称query，类型设置为“引用”，值为【内容读取器】节点的输出content；
输出参数：使用节点原始输出raw_output；
系统提示词：你是一个内容总结专家，需要总结下{{query}}的核心观点和重要内容。

3.1.5 添加【判断】节点

接下来对【内容提取器】节点输出的参数进行敏感词检测，首先添加【判断】节点：

在【内容提取器】节点和【结束】节点的连线上单击中间的 “ + ”，选择“判断”；
点击新建的【判断】节点，编辑IF分支：第1个参数选择【内容提取器】的输出参数raw_output，判断符选择"不包含"，第2个参数选择引用、【开始】节点的输入参数query。

3.1.6 添加【内容搜查器】节点

接下来配置大模型节点【内容搜查器】，处理【判断】节点的ELSE分支。

点击画布下方的“添加节点”，选择大模型；
连接【判断】节点的ELSE分支指向该大模型；
点击新建的大模型节点，在右侧配置界面将其重命名为"内容搜查器"；
模型配置：选择MaaS平台提供的DeepSeek-V4-Flash；
输入参数：query参数的值“引用”【内容读取器】节点的输出content；新建输入参数key，其值“引用”【开始】节点的输入参数query；
输出参数：使用节点原始输出raw_output；
系统提示词：你是一个文档关键字查找助手，请帮我在{{query}}内容里查找{{key}}，并输出{{key}}出现的次数和在{{query}}中的位置。

3.1.7 配置【结束】节点

最后，配置配置【结束】节点：

删除原【判断】节点与【结束】节点之间的连线，重新连接【判断】节点IF分支指向【结束】节点；
连接【内容搜查器】节点指向【结束】节点；
点击【结束】节点，编辑输入参数：result1参数“引用”【开始】节点的输入参数query；新建输入参数result2，其值“引用”【内容搜查器】节点的输出raw_output；
指定回复：{{result}}{{result1}}