安全架构标签_AI Agent技术社区

安全架构

AI 助手接入商城、SaaS 后台，为什么安装连接器后还要再授权一次？

给商城、SaaS、CRM 或 ERP 接入本地 AI Agent 时，很多团队会遇到一个看似重复的流程：用户已经安装连接器，为什么还要打开浏览器登录业务系统？更糟的是，有些连接器会让店长填写中枢地址、Client App ID 和 Workspace。问题不在于这些信息是否敏感，而在于开发者配置和业务用户授权混在了一起。本文用四层职责、一个一键连接流程和一份验收清单，说明怎样让普通用户只负责登录、

敢敢是只喵i
2026-09-04 11:21:50

 631

 25

#人工智能 #安全架构 #运维
企业IM安全性怎么评估？私有化部署、消息加密、网络架构与安全测试指南

企业IM安全不是单一功能，而是部署架构、网络边界、消息加密、数据存储、身份权限、客户端、开放接口与审计共同构成的完整体系。本文从一条消息的完整生命周期出发，系统梳理了SaaS、私有化与内网部署的安全边界差异，澄清了私有化不等于更安全、TLS不等于端到端加密等常见误区，并给出了网络架构检查、加密方式对比、群聊密钥评估、越权测试、客户端本地数据安全、API/Webhook/AI Agent边界等17个

 tongxunjishubiji
2026-09-04 09:11:57

 432

 9

#网络 #架构 #安全架构 +1
已有业务 API，怎样判断它适不适合接给 AI Agent？用一条真实动作完成接入评估

很多团队已经拥有商城、CRM、ERP、工单或 SaaS 后台，也已经有可用的 REST API、OpenAPI 文档甚至 MCP Server。真正准备让 AI Agent 操作业务时，第一步却不应该是把整份接口文档全部导入模型，而应该挑选一条边界明确的真实业务动作，判断它是否具备可识别的业务后果、可信行动主体、原系统最终授权、风险与审批语义、幂等和失败处理，以及可还原的审计证据。本文提供一套最小

 敢敢是只喵i
2026-08-31 09:19:43

 609

 13

#人工智能 #数据库 #安全架构 +1
AI Agent 为什么能查询却不能修改后台？从工具白名单、审批到业务系统权限逐层排查

当 AI Agent 只能回答问题时，“能不能调用接口”可能只是一个产品开关。业务侧明确声明可供 Agent 使用的能力；route 只开放当前场景需要的工具源与 scope，并明确允许写入的 permission；Client、Session 和 audience 限制可进入的工作区；本地 Agent 的直接工具面被显式启用；写操作按精确 operationId 加入白名单；是否审批继续服从 A

敢敢是只喵i
2026-08-30 12:59:32

 537

 5

#人工智能 #大数据 #安全架构 +1
AI Agent 落地新里程碑：Claude in Chrome 全面上线与安全架构解析

在网络拓扑设计上，应优先选择优化了海外大模型节点路由的链路，提供高吞吐、低延迟的网络环境，以保证 Agent 的实时协同响应。在此前的实验阶段，AI 执行网页操作时往往依赖用户频繁的“一步一确认”审批模式，极大地限制了复杂任务的自动化效率。及后续更新的所有顶级模型，在面对复杂的对抗性攻击与隐蔽式提示注入测试中，均未出现任何一起攻击成功的案例。（计算机使用）技术之上。随着 AI 自主能力的释放，重复

 万联SD-WAN
2026-08-28 09:51:18

 518

 15

#人工智能 #chrome #安全架构
AI Agent 修改了后台数据，怎么知道它到底做了什么？从对话记录到执行审计

当 AI 只负责回答问题时，一段对话往往已经足够。当 AI 开始修改员工、创建工单、更新库存、提交退款或操作企业后台时，系统必须拥有独立于模型叙述的执行证据。用户目标进入会话总账；每轮 Agent 运行拥有稳定标识；每个工具调用拥有可恢复、可幂等的调用标识；审批绑定具体工具和参数快照；中枢记录脱敏的治理与执行轨迹；业务系统保留最终领域审计；Agent 的最终回答能够和真实业务结果相互校验。本地运行

 敢敢是只喵i
2026-08-28 09:33:34

 529

 6

#人工智能 #业界资讯 #安全架构 +1
本地 AI Agent 怎么操作已有业务后台？为什么不能只做一个“聊天转发器”

把 Agent 放到本地，可以带来更灵活的模型选择、更强的本地工具能力和更自然的多步编排。但本地运行不会自动产生业务身份，也不会自动获得企业权限。本地 Agent 能够自主理解和编排；中枢能够持续提供可信上下文和治理；业务系统始终保留最终授权与拒绝权。连接只是开始。当本地 Agent 开始修改员工、创建工单、更新库存或提交业务操作时，系统必须能够回答：它代表谁？为什么能做？做到了哪一步？发生后如何

 敢敢是只喵i
2026-08-26 18:14:56

 504

 18

#人工智能 #数据库 #安全架构 +1
AI Agent时代，企业即时通讯的数据安全体系如何重新设计？从聊天工具到智能通信入口

AI时代企业IM数据安全重构：从通信工具到智能入口的转型挑战随着AI技术深度融入企业即时通讯系统，传统IM已从基础沟通工具演变为连接知识库、业务系统和AI应用的智能入口。这一转变带来了全新的数据安全挑战：安全边界扩展：从消息传输安全延伸到数据全生命周期管理（输入、存储、处理、输出）风险维度增加：AI对数据的理解、关联和生成能力使安全管控需覆盖知识检索、权限过滤和内容审计技术架构升级：需建立

 tongxunjishubiji
2026-08-26 09:05:28

 456

 18

#人工智能 #大数据 #系统安全 +2
Havenlon 执行控制工程 II 02｜裁决面与执行面，为什么必须分开？

文章讨论高风险系统中一个常被忽略的问题：策略判断与现实执行不应由同一组件完成。运行时的职责应止于产生“裁决”，而执行必须经过独立边界，对执行对象、关键参数、状态、时效与证据进行再次确认。执行侧不需要重复完整策略，却必须验证“现在准备执行的，仍然是当初被允许的那件事”，并拥有拒绝一份合法裁决的权力。通过能力与权限分离，可以缩小凭据暴露范围，避免单点失陷同时击穿判断与执行。尤其在 AI Agent 场

 Lovekde_cn1
2026-08-22 16:19:02

 712

 27

#服务器 #数据库 #科技 +3
生产 Agent 的密钥和凭据边界：不要让模型直接碰 API Key

生产 AI Agent 不能把密钥当成普通上下文交给模型处理。本文拆解 secretRef、短期凭据、工具代理、权限分级、审计 trace 和泄露演练，帮助团队在放开工具调用前补齐凭据边界。

wfzgsm
2026-07-12 02:54:00

 34

#安全架构
Hermes Agent 自进化架构深度解析（五）：安全架构——注入扫描、漂移检测与防死循环

自治系统的第一条原则不是"让它更聪明"——是让它不会搞砸。Hermes 的安全防护不靠 prompt 里的提示词，靠硬编码在读写路径上的四层防护。

i晟z
2026-07-09 07:38:45

 245

 3

#架构 #安全架构 #安全
别再只看GitHub上的明星项目了——Agent开发中你一定也会遇到的10类真实问题

写这篇文章的背景很简单：最近在做一个Agent应用开发，在开发过程中踩了一堆坑。和做传统后端服务完全不同，Agent开发没有太多成熟范式可循，虽然现在GitHub上经常出现一些过万start的明星Agent项目，如果只是从使用者的角度来看，感受终究还是不够深切。这些Agent官宣的一些含金量很高的技术，不经过实际的体验，理解起来总感觉隔了一层。

程序猿李巡天
2026-04-13 20:23:01

 394

 11

#github #人工智能 #安全架构 +2
企业级 Agent 的权限控制：安全架构设计要点

本文将以资深软件工程师兼DevSecOps架构师的视角企业级Agent权限失控的核心技术根因；从零到一构建一套符合零信任架构（ZTA）、Agent原生安全原则的权限控制体系的完整流程；核心权限控制机制的架构图、数学模型、算法实现（Python）、代码片段；企业落地过程中的最佳实践和常见陷阱；企业级Agent权限控制的行业发展趋势。

后端开发笔记
2026-04-18 23:10:15

 140

 2

#安全架构 #安全
41页精品PPT|AI大模型安全架构构建与落地实践解决方案

摘要：AI大模型安全面临系统性挑战，需构建覆盖数据治理、模型防护、运行监控的全生命周期防护体系。数据安全需建立全链条加密机制，模型防护要形成三阶段纵深防御，运行监控实现毫秒级异常感知。实践应分步实施，初期聚焦高风险场景，最终形成安全左移的DevSecOps体系。该转型是企业构建AI时代数字免疫系统的战略选择，决定大模型能否安全应用于关键业务。（149字）

数以轻舟Agent
2026-04-26 07:42:48

 408

 6

#人工智能 #安全架构 #安全
41页可编辑PPT | AI大模型安全架构构建与落地实践解决方案

摘要：企业在数字化转型中面临数据安全、隐私保护和合规性挑战。本方案提出AI大模型安全架构，通过数据加密、合规管理、AI自动化、隐私保护和风险管理五大措施，保障数据安全与业务连续性。方案采用端到端加密技术，适配各地区合规要求，利用AI提升数据处理效率，强化隐私保护，并提供全面的风险管理框架，帮助企业提升运营效率，确保合规性，在竞争中保持优势。（150字）

数以轻舟Agent
2026-05-07 08:23:53

 342

 4

#人工智能 #安全架构 #安全
从普通大模型到可信分析智能体，价值交付环节的技术鸿沟究竟有多深

本文拆解了商业分析中 AI 价值交付的技术需求，指出普通大模型存在来源丢失、推理链不忠实、幻觉风险、无合规审计等局限。先见 AI 通过构建权威数据底座、TAI 可信分析体系、四大智能协同架构及企业级合规部署，从数据、推理、输出、部署层面解决可信交付问题，其与普通大模型的核心差距是工程设计目标的本质不同。

DDYKJ77
2026-05-08 17:49:31

 550

 14

#人工智能 #安全架构 #可信计算技术
Havenlon｜AI 时代的执行安全语言体系（七三）：人工停顿与执行摩擦

本文介绍了AI时代执行安全语言体系中的三个核心概念：人工停顿（Artificial Pause）、执行摩擦（Execution Friction）和人工停顿消失（Missing Human Pause）。这些机制旨在通过人为设置的等待、确认步骤和限制条件，在自动化执行链中建立安全边界，防止错误和恶意行为的无限制传播。文章还概述了AI Agent的权力结构、Tool Call与真实执行的区别，以及自

 Lovekde_cn1
2026-07-30 09:08:59

 229

 5

#人工智能 #安全 #安全架构 +1
Agent 为什么需要 guidance，但不能把 guidance 当成安全策略？

本文探讨了AI Agent在企业系统中的能力选择与安全治理问题。文章指出，Agent-facing接口需要区分"能力引导"(guidance)和"安全策略"两类信息：前者通过自然语言描述(如适用场景、返回内容、示例参数等)帮助AI更准确地选择和调用能力；后者则通过结构化声明(如权限、风险等级、审批要求等)确保安全边界。作者强调，guidance只能辅助决策，不能替代安全治理，并详细分析了guida

敢敢是只喵i
2026-07-29 10:53:35

 658

 6

#人工智能 #业界资讯 #安全架构
审计日志、应用日志和 Trace 到底有什么区别？

本文探讨了AI Agent执行业务操作时所需的三种日志记录：应用日志、Trace和审计记录，强调它们的不同功能与互补关系。应用日志主要用于系统维护和故障诊断，记录组件级运行状态；Trace还原分布式调用链路，帮助定位请求路径；审计记录则聚焦业务责任，追踪"谁以什么依据执行了什么操作"。三者通过trace_id关联但不可互相替代：审计记录需要独立的事件模型和敏感数据处理策略，不能依赖临时日志或Tra

敢敢是只喵i
2026-07-27 17:00:31

 432

 5

#人工智能 #安全架构 #业界资讯 +1
MCP 选中工具之后，到安全执行之间还缺什么？

本文探讨了AI Agent在生产环境中的安全执行链路问题，指出协议调用成功（如MCP调用）与业务操作安全完成是两个不同层次的事件。文章将执行链拆解为五种责任主体：工具协议/MCP Server负责接口调用、Agent Runtime负责工作流、共享执行控制层负责治理、企业系统负责身份与审批、业务系统保留最终授权。重点分析了权限管理的三个维度（协议授权/能力触达/业务授权）以及审批、幂等、审计等关键

 敢敢是只喵i
2026-07-22 11:46:03

 767

 21

#安全 #人工智能 #安全架构 +1
Havenlon | 杂谈：为什么越智能的 AI Agent，越需要一层“笨系统“？

摘要：一位AI工程师在修复线上bug时，AI助手因权限过大而误删数据库。文章指出AI系统普遍存在"聪明但无边界"的问题：模型越智能，越需要独立的安全机制来设定执行底线。作者提出未来AI的关键在于建立简单可靠的"刹车系统"，它不参与决策优化，只负责在危险操作前说"不"。就像汽车自动驾驶仍需机械制动一样，AI需要将能力拓展与安全边界解耦，因为

 Lovekde_cn1
2026-07-19 10:22:49

 380

 15

#安全 #人工智能 #安全架构
风险分级应该描述操作，还是直接规定审批流程？

AI Agent在企业系统中执行不同操作时的风险分级与治理机制。文章以订单查询、退款和批量通知三个典型操作为例，指出风险分级（risk.level）应独立于具体治理措施，前者描述操作后果属性，后者由组织根据自身制度、流程和业务需求决定。作者强调风险等级（low/medium/high）应基于业务后果而非技术实现，并应与审批机制、最终授权形成三层治理结构。文章提出了四步风险分级方法，并解释了保持风险

 敢敢是只喵i
2026-07-18 21:37:22

 306

 6

#人工智能 #安全架构 #业界资讯
Havenlon | 杂谈：AI Agent 为什么会放大执行缝隙

摘要：随着AI Agent（智能代理）从概念走向实际应用，其自主执行能力在提升效率的同时，也带来了新型安全挑战——执行缝隙（Execution Gap）。传统软件的执行链短且确定，而Agent通过动态拆解用户模糊意图生成多步操作，导致意图与结果间存在不可控偏移。最危险的错误并非技术漏洞，而是合法流程下的错误决策链（如误删生产环境资源）。Agent的权限组合、概率性判断固化、超人工复核速度等问题，

Lovekde_cn1
2026-07-16 09:00:00

 279

 9

#人工智能 #安全 #安全威胁分析 +1
Agent 调用业务发起退款时，审批应该放在哪一层？

在AI Agent执行退款等敏感操作时，“Human-in-the-loop”机制需分层设计，而非简单添加确认框。关键问题包括：审批意图声明（如金额阈值）、执行暂停与恢复、业务审批归属（如财务人员）、最终业务授权（如订单状态校验）。需分离四层责任：能力治理契约（何时需审批）、治理运行时（冻结参数与任务）、业务审批流程（谁有权批准）、业务系统（实时权限校验）。避免漏洞如审批后参数篡改（如199元变1

敢敢是只喵i
2026-07-15 17:58:35

 386

 7

#人工智能 #安全架构 #业界资讯 +1
[Java]StreamAPI一行代码解决集合操作，让你的开发效率翻倍！

Stream API是Java现代编程风格的一次飞跃。它通过提供强大、声明式的抽象，将开发者从繁琐的迭代细节中解放出来。掌握“一行代码”解决集合操作的技巧，不仅仅是学习一个新的API，更是思维模式的转变，转向更清晰、更高效、更不易出错的函数式编程范式。立即在你的项目中尝试使用Stream API，感受开发效率翻倍带来的愉悦吧！

mxrain
2025-10-05 06:47:38

 394

 3

#安全架构
Java 开发转安全开发：从代码审计到工具开发

Java 开发转安全开发：从代码审计到工具开发文章摘要：本文针对 Java 开发者转型安全开发提供实用指南。首先提出 Java 开发与安全开发的技能衔接框架，指出 SpringBoot、JDBC 等技能可直接转化为代码审计和安全工具开发能力。然后推荐 3 个入门级实战项目，包括 SQL 注入检测工具开发（使用 HttpClient 发送检测请求、Freemarker 生成报告等技术），帮助开发者

 跟着小美学ai
2025-10-22 09:59:55

 1003

 10

#运维 #安全架构 #安全 +2
web安全开发，在线%sql注入，xss漏洞批量扫描，web扫描%系统安全开发，基于html,css,jquery,echart,可视化,python,flask,不同角色权限制扫描，mysql数据库

一般web渗透，我们可以手写sql和xss检测，不要依赖扫描工具如awvs,御剑,appscan,xray，zap等,我们首先理解什么是sql注入，一般我们是不是找到id=1或者这个格式/goods/1，然后在参数后面添加特殊字符'让它报错，如果没有回显，我们使用sleep对吧？咱们既然理解原理我们用python去实现这一个检测过程首先我们请求网站带着我们payload，解析网站给我响应中是否有我

 Strategic_3610256651
2025-10-22 18:57:16

 343

 5

#web安全 #安全架构 #网络安全 +2
构建AI智能体安全自主系统的竞争正在升温

构建AI智能体安全自主系统的竞争正在升温

 至顶科技
2025-10-22 17:18:55

 655

 8

#人工智能 #安全架构
Windows 日志分析实战：用 Python 揪出入侵痕迹

本文介绍了如何利用Python分析Windows日志来检测入侵行为。文章首先讲解了Windows日志的3个核心认知：日志位置、存储方式和关键要素。接着详细说明了环境配置和日志获取的3种方法。核心部分提供了一个Python脚本，使用pyevtx库解析.evtx日志文件，提取事件ID、时间、来源等关键字段并转换为DataFrame格式。最后以一个暴力破解溯源案例（通过4625登录失败事件）展示了实际应

 跟着小美学ai
2025-10-27 09:42:50

 919

 12

#windows #python #开发语言 +4
《C++高效编程实战核心特性与工业级开发指南》

模块化设计：使用名字空间（`namespace module`）和接口分层（如`public`, `implementation`类）。- 频繁插入/删除：选用`std::list`或`std::vector`（注意预留容量`reserve()`）。- 使用`-O3`（如GCC/Clang）或`/Ox`（MSVC）启用最高优化，结合`-g`保留调试信息。- 函数参数：明确输入（`int& inpu

pvtqIllo
2025-11-02 14:54:38

 405

 4

#安全架构
web安全开发，php正反tree结构graph检测代码审计安全开发，基于Python,php,flask,tree,graph,mysql需要定制或是demo的公司，商家，个体朋友可以联系我们哦。

第一次帮客户做这个PHP代码审计系统Demo时，用Python+Flask搭了Web框架，MySQL 存审计结果。项目核心是把PHP代码转成正反 Tree结构和Graph图，最后咱们可以通过比对正常与异常语法树找漏洞。刚开始解析PHP语法总出错，调了好久正则匹配规则才顺。用Graph 可视化展示调用关系，漏洞点标红很直观。虽然覆盖的漏洞类型有限，但把静态分析，树形结构比对这些思路落地了，实际测几个

 Strategic_3610256651
2025-11-06 23:45:28

 498

 13

#安全 #web安全 #php +2
微软示警：OpenAI API 首次被发现滥用，黑客利用 AI 发号施令

更棘手的是，攻击者利用了.NET AppDomainManager 注入（一种通过劫持.NET 应用加载过程来执行恶意代码的隐蔽技术）这一高级手段，在受害系统中实现了。为了实现长期潜伏，恶意软件还会通过内部 Web Shell 和“战略性部署”的恶意进程来建立持久性，其最终目地是进行长期的网络间谍活动。微软特别强调，这次攻击并未利用 OpenAI 平台的任何安全漏洞或错误配置，而是滥用了 Assi

AI360labs_atyun
2025-11-13 11:46:15

 399

 5

#人工智能 #科技 #学习 +2
作为安全工程师，我为什么用 Rust 写第一个扫描器

本文从安全工程师视角探讨了扫描器开发中的语言选择问题。作者分析了Python在工程化扫描器中的局限（动态类型维护难、并发控制弱），对比了Go的优势与不足（GC不可控、资源管理粒度不够），最终选择Rust作为工程化扫描器开发语言。尽管Rust学习曲线陡峭（所有权机制和异步模型），但其明确的工程边界、可预测的高并发行为以及对资源生命周期的精细控制，使其成为长期演进型安全工具的理想选择。文章强调语言选择

 Live your give my miuss
2025-12-21 14:28:50

 538

 11

#rust #网络安全 #安全架构
2025程序员效率翻倍指南，权威盘点适合中文开发者的AI编程助手

2025程序员效率翻倍指南，权威盘点适合中文开发者的AI编程助手

 m0_74741710
2025-12-31 16:39:14

 793

 12

#人工智能 #安全架构 #copilot