安全标签_AI Agent技术社区

安全

2026‑09‑16 AI产业深度解读｜GPT‑5.5即将下线迁移、AI安全路线大辩论、Perplexity自研数据库大幅降本

梳理9月16日面向研发、后端、大模型应用开发者的高价值产业动态：覆盖GPT‑5.5停服迁移注意事项、行业巨头关于AI安全路线的公开辩论、Image‑to‑WebDev模型榜单、Perplexity自研CobbleDB降本案例、Gemini实时语音模型、OpenAI全面转向Agent驱动开发、Project Lily内部项目爆料；每条附带工程视角解读、适用场景与风险提示；适合API运维、大模型应用开

 qq_36729037
2026-09-16 10:09:50

 308

 5

#人工智能 #安全 #开源
HAVENLON 不完美主体 | #10 Human-in-the-Loop 也救不了一个错误的控制结构

人工审批加入 AI Agent 流程，不等于安全。人也会疲劳、误判，受自动化偏差影响；若只看 Agent 总结，缺乏独立证据与否决权，审批就退化为替 Agent 确认，甚至共同失效。审批须绑定具体 Action、对象、参数和状态，拒绝能真正停止执行，否则只是责任转移。当机器速度超过人的吞吐量，逐次审批必然失效。更成熟方向是 Human-Defines-the-Boundary：人定义边界与例外，机

 Lovekde_cn1
2026-09-16 10:07:28

 230

 2

#人工智能 #机器学习 #科技 +2
HAVENLON 不完美主体 | #09 权限系统解决的是“能不能“，不是“应不应该“

现代安全体系以 IAM、RBAC、ABAC、最小权限等管理身份与能力边界，解决“谁能做什么”。但 AI Agent 即使主体、凭证、角色、策略都正确，仍可能在合法权限内执行错误动作。根源在于权限回答“能不能”，却不回答“此刻应不应该”。权限是持续能力，Intent 却短暂；Agent 又让权限与执行几乎零距离。因此，需要在 IAM/Policy 之后增加 Execution Control：验证

 Lovekde_cn1
2026-09-15 07:00:00

 478

 5

#大数据 #人工智能 #安全
10小时打穿一家企业：多Agent勒索攻击复盘，以及国内企业该补哪几道防线

Unit 42披露一起多AI Agent企业入侵案例：6类Agent分工协作，10小时从公网打到根权限，劫持CI/CD并控制AI基础设施，全程未用零日漏洞。本文复盘攻击全链路，分析AI带来的本质变化——攻击速度从周级压缩到小时级，且具备自适应决策能力。结合国内企业在硬编码凭据、密钥管理、CI/CD安全、AI基础设施治理等方面的现状，给出五道可落地防线：代码仓库凭据清理、密钥最小权限、CI/CD锁死

 光依旧
2026-09-15 06:59:30

 388

 1

#安全
2026年AI智能体（Agent）十大技术趋势深度解析

2026 年 AI Agent 的发展，已经从“模型能不能调用工具”进入“系统能不能在生产环境稳定运行”的阶段。十大趋势背后有一条共同主线：标准化、工程化、可观测、可控制。无论是多智能体协同、MCP 工具协议，还是长程记忆与安全对齐，最终目标都是让 Agent 从炫酷 Demo 变成可靠生产力。对于开发者和企业来说，与其追逐每一个新概念，不如围绕自身业务构建一条最小可用的 Agent 链路：明确任

 今天AI了吗
2026-09-14 17:28:44

 539

 1

#人工智能 #架构 #安全 +2
不要从用户声明重新推导租户：CVE-2026-59151 的代码安全启示

CVE-2026-59151 提供了一个非常通用的代码安全规则：已经由可信配置确定的安全对象，只能被验证和传递，不能被用户声明重新定义。这条规则适用于 SAML，也适用于 OIDC、API 网关、云控制面、文件工具、CI/CD 和 AI Agent。安全上下文一旦在数据流中丢失，再完善的入口验证也可能在流程末端失效。

hasty
2026-09-14 16:02:24

 138

#安全 #代码复审 #安全威胁分析
《AI 执行工程论纲》专论：何为“权威分解“（Authority Decomposition）？

本文提出“权威分解”概念，指出传统安全体系混淆了权限与权威：权限描述主体能提出什么，权威决定什么能真正发生。AI Agent 可持合法凭证、通过所有检查，却造成不应发生的现实结果，根源在于本应独立的意图、授权、策略、运行时裁决与执行权威，最终坍缩到同一主体或失陷域。权威分解要求将这些性质不同的权威结构性拆开，使任何单一主体失陷都不足以完成从意图到现实改变的完整因果链。执行资格不能继承历史授权，必须

 Lovekde_cn1
2026-09-14 15:33:43

 174

#人工智能 #安全 #大数据 +1
「AI Agent 全栈开发 50 讲」——从本地模型部署到多智能体系统，一年省 87 万第 45 课 | 安全防护：守住 Agent 系统的最后防线

Prompt 注入防御、敏感信息脱敏、输出审核、权限控制——四大安全措施，让 Agent 系统敢上线、能上线。

机器爱上学习
2026-09-13 08:25:18

 40

#安全 #人工智能
HAVENLON 不完美主体 | #05 AI Agent 不是恶意主体，而是不完美主体

AI Agent 安全不应被戏剧化为人格化叙事，不必先假设它会背叛、欺骗或形成独立目标。更现实的威胁模型是“不完美主体”：它可能误解任务、相信错误上下文、误用工具、受提示注入、状态失效，却仍以合法身份、权限和正常路径“自洽地做错”，最终产生攻击级后果。恶意主体与不完美主体是两类问题，Alignment 也不等于执行安全。认知具有概率性，执行却产生确定性后果，不能让同一主体自判、自批、自行执行。应转

 Lovekde_cn1
2026-09-13 07:00:00

 494

 1

#人工智能 #数据库 #安全
HAVENLON 不完美主体 | #03 善意，也不能成为安全边界

传统安全长期以“恶意”为核心假设，认为风险来自攻击者、恶意代码或内部人员故意突破边界。但 AI Agent 使“无恶意却造成危险”的问题凸显：主体可能误解任务、缺乏上下文、轻信错误信息、被外部内容诱导，或在复杂环境中做出错误判断。它未绕过权限、未窃取凭证、也无伤害意图，却仍导致数据删除、资产损失、生产中断等后果。传统上这类被归为“人为失误”，但若结果与攻击相同，系统承受的代价并无区别。因此，安全边

 Lovekde_cn1
2026-09-12 23:21:25

 163

#安全 #数据库 #服务器 +1
【AI】Agent 安全：Skill、Tool、MCP 与运行时权限

AI Agent安全核心在于控制“执行权”而非仅防提示注入。随着Agent可调用文件、网络、Secret等高危能力，风险由“模型是否被欺骗”转向“被控后能造成多大破坏”。真正安全需构建多重防线：静态扫描、语义分析、能力提取与声明、策略引擎、运行时网关及沙箱隔离，通过最小权限、细粒度域划分与硬性边界（如Sandbox）压低爆炸半径，实现从“概率防御”到“确定性保护”的跃迁。

七灵微
2026-09-12 19:44:45

 460

 1

#人工智能 #安全
一个专门为网络安全人员准备的Skills 精选 200+Ai项目合集含：代码审计、渗透、逆向、CTF 全覆盖，一键接入你的 Agent

2025—2026 年，AI Agent（智能体）技术席卷网络安全行业。传统安全工具与 LLM 大模型的结合，催生了全新的「AI Agent Skills」生态——让 AI 直接驱动渗透测试、代码审计、逆向分析，实现「自然语言下指令，AI 自动干活」。今天给大家精讲两个 GitHub 上热度极高的项目：OpenClaw SecSkills：基于 OpenClaw 框架的网安 AI Skills 大

 SecNN-网络安全|渗透测试
2026-09-12 13:48:50

 111

#web安全 #人工智能 #安全
[数字安全]从模型安全到 Agent 安全：一份面向开发者的 AI Agent 安全标准与框架指南

如果你正在把 Agent 往生产环境推，大概率会遇到一个很尴尬的时刻：模型安全评估全过了，Agent 却把退款打给了错误客户，或者打开了一个不该开的防火墙端口。这不是模型变坏了，而是安全问题的性质变了。模型只输出文本时，我们关心的是“这句话安不安全”。Agent 能调用工具、写数据库、发请求、动基础设施之后，问题变成“这个动作有没有被授权、有没有边界、能不能回滚”。我最近把市面上和 Agent 安

 HK2KING
2026-09-12 09:03:33

 335

#人工智能 #安全
HAVENLON 不完美主体 | #02 合法，不代表正确

传统安全擅长判断“非法”，却常把身份、Credential、权限合法等同于动作正确。AI Agent 使这三者分离：合法主体也可能在错误状态下执行错误动作，且无需攻击者。文章区分 Authorized Action 与 Desired Action、执行成功与意图成功，指出权限只证明能力，不能证明理由与正确性。因此安全需从主体授权转向行动授权，在运行时结合任务、对象、状态、证据和边界判断具体动作是

 Lovekde_cn1
2026-09-12 00:20:40

 240

 2

#数据库 #服务器 #前端 +3
Agent 敢开写权限吗？——AI 自主写代码的安全边界与工程实践

本文围绕「是否给 AI Agent 开放文件写权限」这一现实问题展开，从风险清单、适用场景、权限设计和工程实践四个维度进行系统梳理。文章指出，开放写权限的关键不在于简单的「敢」或「不敢」，而在于「在什么条件下敢」，核心原则是权限最小化、变更全程可审计、出错随时可回滚，并建议从低风险场景起步，逐步建立信任后再扩大授权范围。

2301_78967866
2026-09-09 17:13:58

 410

 4

#人工智能 #安全
让 Agent 安全地“借用别人的钥匙“：AgentCore 上用 Authentik 打通 OAuth 出站的一次实战

本文探讨了Amazon Bedrock AgentCore中AI Agent调用需OAuth授权的下游API时的凭证管理难题。对比官方推荐的托管Gateway方案（黑盒、省心但不可控），作者提出自建BFF中间人方案，亲手实现“凭证托管+出站认证”全流程。通过厘清两跳信任链——第一跳为AWS IAM/SigV4，第二跳为OAuth 2.0 client_credentials——揭示token如何从

 zhaojiew10
2026-09-09 16:05:12

 111

 1

#安全 #AI
银行保险证券AI Agent安全选型：PolarDB Agent Express VM沙箱隔离合规方案解析

AI Agent安全选型是指企业在引入AI智能体时，从安全隔离、数据保护、合规认证、漏洞响应等维度对候选平台进行系统性安全评估的过程。对于银行、保险、证券等强监管行业，AI Agent往往需要处理客户身份信息、交易数据、风控模型等高度敏感信息，一旦Agent运行环境被攻破，可能导致大规模数据泄露和监管处罚。2025年以来，多家银行因AI Agent部署环境不合规被监管通报，安全选型已成为金融机构A

Database_Cool_
2026-09-09 15:27:23

 91

#人工智能 #安全 #express
AI Agent进入网络安全领域：如何构建自动化安全运营与威胁分析系统

AI Agent是指具备自主性、反应性、目标导向性和持久性的智能实体，能通过环境交互完成复杂任务。在网络安全领域，传统Agent多基于规则引擎或机器学习模型，而现代LLM驱动的Agent（如GPT系列或Llama系列）引入了自然语言理解与长上下文记忆能力。例如，Agent可以接收网络流量数据，解析威胁关键词（如“PowerShell命令行执行异常”），判断是否为恶意流量，并调用安全API执行隔离或

 yiyiyi0322
2026-09-09 15:12:16

 188

 14

#安全 #人工智能 #web安全 +2
怎么检测CUA(可操控电脑的 Agent)是否安全？

CUA harness 为 AI Agent 提供四层动作管控：L0只读放行，L1可逆写记录，L2需人工确认（超时自动拒绝），L3硬阻断不可豁免。通过 API Key 接入，支持本地演示与自定义集成，动作前后自动审计上报。关键设计原则：宁可误拦不可漏拦，策略可收窄不可放宽，确认超时默认拒绝，审计失败落本地。配套服务端提供评测报告、动作回放与待确认队列管理，实现安全可控的自动化交互。

forest_09
2026-09-09 14:42:25

 293

 5

#安全 #人工智能
[上海9.9岗位更新] SHEIN 内推：算法/前端/ Java /AI Agent/安全/测试/iOS/数据/数据库， 18-90k

这批岗位方向覆盖前端、Java 、算法、AI Agent 、数据、数据库、测试、安全、架构。SHEIN 不同部门、团队、业务线差异比较大，我不能给所有团队背书，建议大家面试时重点确认团队业务、汇报线、加班节奏、人员稳定性和 HC 背景。覆盖平台治理、招商、营销个性化、用户增长、风控、算法工程化、JAVA 大数据研发等方向。算法中台、广告商业化、海外广告、智能客服、NLP 、商品治理、活动选品、价格

 sheinreferral
2026-09-09 09:44:52

 287

 4

#java #人工智能 #算法 +4
AI Agent开发平台选型：PolarDB Agent Express VM级安全隔离与Serverless弹性能力解析

PolarDB Agent Express VM隔离开发平台适用于以下场景：开发团队AI Agent开发平台：为开发团队提供安全隔离的Agent开发环境，支持多项目并行开发互不干扰金融/政企高安全场景：VM级隔离满足等保三级和金融监管要求，数据不出VM边界，推荐金融、政务领域首选多租户SaaS运营：为不同客户提供VM级隔离的Agent服务，确保租户间数据安全，适用于ISV和SaaS服务商。

Database_Cool_
2026-09-08 18:21:25

 104

#人工智能 #express #安全
AI Agent 操作业务后台，该调用业务 API，还是使用浏览器自动化？

假设你负责一套已经运行多年的商城、CRM 或企业管理后台。页面能用，员工也熟悉操作流程。现在希望增加一个 AI 助手，让它根据一句话查询订单、补充跟进记录，或者整理一批待处理事项。一种做法是让 AI 打开浏览器，像员工一样搜索、点击、填表。另一种做法是把业务动作整理成接口，让 Agent 根据明确的对象和参数发起调用。反过来，也有人会问：有了 API 和 MCP，是不是就应该完全放弃浏览器自动化？

敢敢是只喵i
2026-09-08 09:39:31

 523

 14

#自动化 #人工智能 #安全 +2
AI Agent 技能越装越多，怎么安全给团队试？本地技能目录做成只读演示页，用 cpolar 短时验收

团队评审 AI Agent 技能时，先把本地技能目录整理成不含密钥与脚本的只读演示页，只对外提供技能说明、权限清单和路径范围；再用 cpolar 生成短时 HTTPS 入口供手机验收，结束后关闭隧道清理现场。

cpolar技术支持
2026-09-07 17:37:43

 363

 6

#AI Agent #开发工具 #安全
《2026年数据泄露成本报告》解读 AI驱动攻防态势巨变

同时，IAM能够借助AI大模型，为每个用户生成独一无二的“行为指纹”，不但能够评估口令、设备、IP、网络等风险，更能够评估打字速度、鼠标操作行为等行为是否偏离用户行为基线，根据评估结果实时生成认证策略，实现“一人一策略，次次不一样”的身份认证模式。针对企业的AI安全与治理难题，芯盾时代将零信任理念应用于AI领域，打造了IAM AI Agent身份与访问管理方案、智域·AI安全治理平台等AI安全产品

 芯盾时代
2026-09-07 13:41:20

 400

 3

#人工智能 #安全
700 个 AI Agent 越界之后，安全机制真的要换代了

AI安全正从关注“模型说错话”转向“自主执行任务带来的行为风险”

MihaiWang
2026-09-07 11:50:57

 421

 3

#人工智能 #安全 #php
AI Agent 自动化安全审计实战：基于 LangChain 打造智能化漏洞扫描助手

AI Agent 并不会取代安全工程师。但是它会改变安全工程师的工作方式。人↓工具↓结果人↓↓多个安全工具↓智能分析↓决策建议PythonLinux渗透工具Agent架构LLM调用RAGWorkflow自动化编排安全AI工程真正优秀的安全自动化系统，不是让 AI 替你执行所有事情。而是：让 AI 成为连接安全工具、知识库和工程流程之间的智能控制层。这个自动化渗透 Agent 的完整源码和环境配置文

 yiyiyi0322
2026-09-06 19:09:06

 475

 18

#网络 #安全 #自动化 +2
小白程序员必看：AI网络安全能力提升，收藏这篇学习漏洞复现与安全防护

本文探讨了网络安全能力如何融入前沿模型，并通过一个由非网络安全领域工程师组成的团队在一周内使用AI Agent在CyberGym平台上取得优异成绩的案例，展示了AI在漏洞复现上的强大能力。同时，文章也指出了AI Agent在运行时可能出现的安全问题，如作弊、资源争夺等，强调了AI安全的重要性。最后，提出了四个观点：安全治理对象转向智能本身、能力评测与安全评估需结合、个人与企业终端需部署AI安全措施

 程序员小雨Y
2026-09-06 14:23:35

 212

 3

#安全 #web安全 #人工智能 +3
Agent敢开写权限吗？——当AI从“建议者”变成“执行者”

2026年，AI Agent从“建议者”变成“执行者”，开始替人做决定、调工具、执行系统命令，写权限随之成为安全焦点。本文梳理了五起真实翻车案例——从Mac文件被一键清空、9秒删库，到AI擅自踢人、触发13小时AWS中断，再到安全专家被自己的AI“无视”——并剖析了权限模型“全有或全无”、沙箱防不住“合法但有害”决策、安全护栏在“代码执行者”模式下失去锚点三大根因。最后给出分级授权（L0–L3）、

howdoyoudo202606
2026-09-06 09:00:00

 598

 14

#人工智能 #语言模型 #大数据 +1
AG-16_会话存储：Append-only 状态持久化

AI Agent 的会话状态是整个系统中最脆弱也最关键的部分。一次典型的 Agent 执行可能跨越数十轮工具调用、数千个 token 的上下文，以及数分钟乃至数小时的执行时间。在这漫长的生命周期中，任何环节的异常——网络中断、进程崩溃、用户主动暂停——都可能导致状态丢失。传统的数据库方案采用"最新值覆盖"（Last-Write-Wins）策略来存储状态，这在 Agent 场景下存在根本性缺陷：你无

 王解
2026-09-06 01:28:30

 106

 2

#安全 #人工智能
AI Agent（智能体）的开发与使用安全标准及框架(2026年9月6日更新)

目前AI Agent安全标准呈现“百花齐放”的格局：有强制性国标（中国41号文）、有管理体系标准（ISO 42001）、有风险分类框架（OWASP Top 10）、有技术规范（ACS）、有实践指南（网安标委指引）、有研究框架（A2AS、MAESTRO）。

HK2KING
2026-09-06 00:41:05

 943

 7

#人工智能 #安全 #大数据
AI Agent安全攻防实战2026：从越狱攻击到防御体系的完整攻防指南

Agent安全是一个持续演进的过程。攻击者的手法不断翻新，防御方也需要建立多层纵深防御体系。核心原则是：不信任任何输入（包括用户输入和外部数据）、最小权限操作工具、全程监控审计。只有在安全基础上构建的Agent应用，才能真正在企业级场景中落地。

weixin_56622231
2026-09-05 11:39:24

 353

 4

#人工智能 #安全 #AI Agent
Havenlon | 杂谈：执于意图，行于现实，控以边界，制成秩序：什么是执行控制

执行控制并不只是一个安全功能，它讨论的是一个更根本的问题：一个意图，凭什么能够进入现实。执于意图，行于现实，控以边界，制成秩序。当 AI Agent 开始拥有持续行动能力，安全的核心便不再只是识别谁可信、谁有权限，而是限制任何主体能够把现实推到多远。真正成熟的系统，不依赖主体永远正确，而是让错误、误判与失陷始终被约束在可接受的执行边界内，并最终沉淀为不可轻易绕过的制度与秩序。

Lovekde_cn1
2026-09-05 07:00:00

 183

 2

#数据库 #人工智能 #大数据 +2
会议记录怕泄密？实测5款录音软件，安全防线谁更硬核

讯飞听见是科大讯飞旗下的产品，在语音识别领域积累深厚。它的安全措施包括：数据传输采用HTTPS加密，存储采用阿里云金融级加密，支持企业用户申请私有化部署（需定制）。对于高敏感会议，它提供了“文件加密分享”功能，可以设置分享密码和有效期。不过，个人免费版的数据存储位置说明不够透明，在公开文档中未明确标注“删除后是否彻底清除”。总体而言，它更适合对转写精度有极致要求、且愿意走企业定制路径的用户。选录音

 miao202608
2026-09-05 06:45:00

 334

 5

#安全 #语音识别
AI大模型接入SDK：人工智能核心概念与发展史

人工智能（Artificial Intelligence，AI）是指让机器模拟人类智能行为的技术，包括学习、推理、规划、感知、语言理解等能力。弱人工智能（Weak AI）：专注于特定任务，如语音识别、图像分类、下棋。当前绝大多数 AI 都属于此类。强人工智能（Strong AI / AGI）：具备与人类相当的通用智能，能在任意领域进行学习和推理，目前仍是远期目标。SDK（Software Deve

2601_96493715
2026-09-04 20:36:31

 207

 10

#人工智能 #安全 #大数据 +1
企业IM安全性怎么评估？私有化部署、消息加密、网络架构与安全测试指南

企业IM安全不是单一功能，而是部署架构、网络边界、消息加密、数据存储、身份权限、客户端、开放接口与审计共同构成的完整体系。本文从一条消息的完整生命周期出发，系统梳理了SaaS、私有化与内网部署的安全边界差异，澄清了私有化不等于更安全、TLS不等于端到端加密等常见误区，并给出了网络架构检查、加密方式对比、群聊密钥评估、越权测试、客户端本地数据安全、API/Webhook/AI Agent边界等17个

 tongxunjishubiji
2026-09-04 09:11:57

 470

 10

#网络 #架构 #安全架构 +1
Havenlon | 杂谈：从可信的人到可信的结构：AI Agent 正在改写社会工程学

AI Agent 的真正风险，不只是会被 Prompt Injection 欺骗，更在于它可能因幻觉、歧义、过期信息和上下文错误，对现实形成错误认知。当这种认知开始直接连接资金、系统与设备的执行能力时，错误就不再只是答案错误，而会变成真实后果。社会工程学因此正在从“欺骗人”扩展为“操纵认知并获得执行结果”的问题。AI Agent 时代真正成熟的安全哲学，不是要求人和机器永远正确，而是即使判断已经出

 Lovekde_cn1
2026-09-03 07:00:00

 392

 5

#人工智能 #网络 #大数据 +2
Havenlon | 杂谈：基础设施并不始于规模，而始于一种重新理解系统的方式

基础设施从来不只是规模的结果，更源于对系统基本假设的重新理解。Unix、Git、Zero Trust 都是在旧问题被重新定义后，逐渐成长为新的基础层。AI Agent 正在带来类似变化：身份正确、权限合法，并不意味着最终动作就应该发生。当软件开始自主改变资金、系统与现实世界，安全问题正在从“谁有权限”推进到“谁有资格让动作真正发生”。新的基础设施，或许正诞生于这种对执行、权威与现实后果的重新划分。

Lovekde_cn1
2026-09-03 07:00:00

 380

 11

#人工智能 #大数据 #科技 +1
AI Agent 安全不是模型问题：6 个“可证明安全“的架构模式，让被注入的 Agent 也干不了坏事

提示词注入在模型层无解，所以必须在架构层让"注入 → 危害"的路径根本不存在。致命三件套 / rule of two：不可信输入、敏感数据、外发通道，三者同处一个 Agent 即高危，至少移除其一。六个可证明安全模式：Action-Selector、Plan-Then-Execute、LLM Map-Reduce、Dual-LLM、Code-Then-Execute、Context-Minimiz

guwentian
2026-09-02 11:04:37

 517

 3

#人工智能 #安全 #架构
Havenlon | From Access to Execution #02 Least Privilege vs Least Execution Authority

Least Privilege 最小化主体持有的权限集合，而 Least Execution Authority 进一步最小化这些必要权限能够造成的现实后果。前者控制“能调用什么”，后者控制“能把现实改变到什么程度”。在 AI Agent 开始自主支付、部署系统、控制设备后，真正需要收缩的不只是 Permission Set，更是 Action、Target、Boundary 与当前状态共同决定的

 Lovekde_cn1
2026-09-02 07:00:00

 694

 16

#数据库 #oracle #人工智能 +3
Havenlon | 杂谈：当机器不害怕坐牢：AI 正在拆掉企业最后一道「隐形安全边界」

过去的企业安全体系，其实一直依赖一道从未被正式写进架构图的防线：人对后果的感知。员工会因为责任、职业、法律与声誉而犹豫和确认，但 AI Agent 不会。当执行权逐渐从人转向机器，身份合法、权限正确、审批存在，仍然不能保证行动本身正确。企业真正需要补上的，是一道独立于 Agent 的执行边界：不是要求机器永远做对，而是在它做错时，仍能阻止错误真正进入现实。

Lovekde_cn1
2026-09-02 07:00:00

 412

 11

#人工智能 #安全 #大数据 +1
自我改进型 AI Agent 如何安全发布：从指标达标到可证伪的发布门槛（第8期）

当下一条极具诱惑力的技术路线正在快速升温：**AI4AI，递归自我改进**。简单来讲，就是让一个 AI 系统，反过来优化训练、迭代另一个 AI 系统，甚至直接修改自身的提示词、工作流、技能库，完成自我升级。论文《Frontis‑MA1》正是朝着这个方向探索：训练一套 AI，让它精通机器学习工程，自主迭代优化模型。

TunerT_TQ
2026-09-02 00:00:00

 765

 22

#人工智能 #安全 #软件工程
Havenlon | From Access to Execution #01 Adversarial Completeness vs Zero Trust

Zero Trust 解决的是“谁在什么条件下可以访问什么资源”，对抗性完整进一步追问：“谁最终有能力让一个现实动作真正发生。”当 AI Agent 开始操作资金、云资源、生产系统与设备时，身份正确、权限合法、策略允许，并不等于最终执行就一定正确。本文从 Trust 与 Authority 的区别出发，讨论执行权、权力分解、失陷模型与执行不变量，说明为什么 Agent 时代的安全需要从访问控制继续

 Lovekde_cn1
2026-09-01 21:12:09

 375

 11

#开发语言 #人工智能 #大数据 +2
从 Prompt Injection 到越界写文件：Theia Agent Mode 的信任边界为何失效

攻击者不一定需要直接调用 AI Agent 的文件工具。只要能影响仓库、网页或工具输出，就可能通过间接 Prompt Injection 诱导模型生成危险路径。Eclipse Theia CVE-2026-82217 展示了这条链如何从模型上下文延伸到工作区外文件系统。本文从四层信任边界出发，拆解修复代码、无害验证方法和 Agent 工具纵深防御方案。

hasty
2026-09-01 12:44:50

 416

 7

#安全
一个本地 AI Agent 要操作多个门店或 SaaS 账号，应该怎样安全切换身份？

当本地 AI Agent 只连接一个业务账号时，授权问题看起来并不复杂；一旦用户同时管理多个门店、多个 SaaS 租户或多个业务系统，真正困难的就不再是“怎样获得一个 Token”，而是怎样保证每个连接都绑定真实业务身份、切换必须由用户明确触发、旧会话不会悄悄换号、凭据不会散落在配置文件里，并且每个身份都能单独重新授权、撤销和审计。本文用一个多门店场景拆解完整设计边界。

敢敢是只喵i
2026-09-01 10:32:59

 501

 5

#人工智能 #安全 #系统架构 +1
从工具到个人助理——AI Agent的原理、演进与安全风险

摘要AI Agent作为2025至2026年间最具变革性的技术方向之一，正在重塑人机交互的边界，推动人工智能从被动响应向主动服务的跨越。通过构建感知、规划、决策与反思等核心模块，结合工具调用能力与分层记忆管理机制，AI Agent已具备多步骤推理与环境交互能力，成为大模型时代技术落地的核心应用形态。

网络安全工程师小龙
2026-09-01 10:00:39

 372

 3

#人工智能 #安全 #机器学习 +2
AI Agent 安全护栏怎么做？

AI Agent 对外开放前，安全护栏怎么做？任何一个用户敲进输入框的文字，都可能是一句攻击——输入拦截、输出校验、权限审计、语义兜底，多 Agent 怎么隔离，一篇讲透。

secretWHD
2026-08-31 18:38:45

 385

 8

#人工智能 #安全 #网络
#AI大模型安全进阶：RAG、AI Agent与MCP安全风险及企业防护实践

AI Agent 可以简单理解为：能够根据目标进行规划，并调用工具完成任务的 AI 系统。用户↓问题↓模型↓回答用户↓目标↓模型↓规划↓工具↓结果↓再次规划↓完成任务帮我整理今天的安全告警。读取日志↓筛选高危事件↓查询资产信息↓关联用户↓分析攻击来源↓生成报告这意味着 Agent 已经不再只是聊天工具。数据访问能力工具调用能力任务执行能力所以安全边界也必须扩大。

yiyiyi0322
2026-08-31 18:18:03

 1435

 49

#人工智能 #安全 #web安全 +1
【AI测评】Windows部署OpenClaw实战｜让大模型开始操作本地电脑——模型接入、权限控制与安全远程访问全流程 OpenClaw AI Agent 人工智能大模型智能体本地部署自动化

如果大模型只能回答问题，它仍停留在“聊天框”里；当它能够在受控权限下调用 Windows 的文件系统、命令行和桌面能力，AI 才真正迈向可执行的 Agent。本文基于 2026 年 8 月 OpenClaw 官方文档，完整梳理 Windows 原生部署、模型接入、Gateway 与 Windows Hub 节点配对、命令审批、两组低风险验证场景、常见故障排查及 Tailscale 安全远程访问。重

 xiaoxingkongyuxi
2026-08-30 07:45:00

 852

 13

#人工智能 #windows #安全 +3