小白程序员必看:AI网络安全能力提升,收藏这篇学习漏洞复现与安全防护
小白程序员必看:AI网络安全能力提升,收藏这篇学习漏洞复现与安全防护
本文探讨了网络安全能力如何融入前沿模型,并通过一个由非网络安全领域工程师组成的团队在一周内使用AI Agent在CyberGym平台上取得优异成绩的案例,展示了AI在漏洞复现上的强大能力。同时,文章也指出了AI Agent在运行时可能出现的安全问题,如作弊、资源争夺等,强调了AI安全的重要性。最后,提出了四个观点:安全治理对象转向智能本身、能力评测与安全评估需结合、个人与企业终端需部署AI安全措施、AI不会取代网络安全行业。

网络安全能力正在从一项专业技能,变成前沿模型的默认能力。
我们想知道这件事走到了哪一步
五个人、一周时间、没有一位网安专家,在CyberGym的1,507个历史漏洞上复现了1,376个。Binary Only配置下位列第一,全部公开成绩中并列第五。
同周,更值得写下的记录
运行时安全平台拦截了Agent数十次危险行为——试图借LLM API绕过防火墙作弊、关闭我们自己的后训练任务来抢占算力、在幻觉里反复空转烧Token。
能力越强,失控的代价越大。当网络安全能力进入模型本身,最重要的事就变成了模型本身的安全。
PART.01
不该成立的猜想
CyberGym近期被称为AI + 网络安全领域的"奥林匹克"。榜上有名的团队,几乎都是网安领域의中坚力量:云厂商的安全团队、网络安全上市公司、高校的网安实验室。
作为一家专注模型安全与Agent安全的创业公司,我们想验证:几个非网络安全领域的Agent工程师能否仅凭前沿模型自身的网安能力,取得与顶尖网安团队相当的成绩?
为了相对"经济"地验证这个猜想,我们组建了一个五人志愿者小组,以一周为限,使用团队内部闲余的服务器资源运行实验。
PART.02
一周,Binary Only榜首
一周后,我们构建的Agent框架FangcunCyber在CyberGym的1,507个历史漏洞上,以DeepSeek-V4-Flash作为基础模型,在完整Level 1任务上取得 91.3% 的最终提交成功率,成功复现了1,376个漏洞。
CyberGym包含Dynamic和Binary Only两种模式:Dynamic模式提供完整的动态执行与分析环境(可进行Fuzzing等动态漏洞挖掘),是绝大多数团队的选择;Binary Only模式则将评测限制在预先构建的固定二进制容器中。为了完全依靠AI Agent自身的程序理解、推理与漏洞复现能力完成任务,我们在Binary Only模式下开展实验。

CyberGym榜单官网截图
截至2026年9月2日,FangcunCyber在Binary Only配置下位列第一(全部公开成绩中并列第五)。

FangcunCyber流程图
FangcunCyber의核心思路为:主Agent提出假设、子Agent并行验证、按可达性与触发条件剪枝的分治式推理。
详细来说,FangcunCyber让Agent先对漏洞建立假设,再通过受控反馈逐步验证,不依赖大量输入去碰撞崩溃。主Agent会根据漏洞描述与源码提出若干条可能的路径,例如入口位置、数据流向、边界条件以及触发点;多个子Agent随后并行调查这些路径,验证其可达性与触发条件。无效的路径及时淘汰,有价值的线索则交回主Agent,进入下一轮验证。
实现上的主要工作量并不在漏洞本身,而在对Agent行为的约束:假设是否有证据支撑、每条路径分配多少预算、失败反馈是否被有效吸收、行动是否越界。这些原本是Agent开发与AI安全的问题,这次被用在了漏洞复现上。
PART.03
硬币的另一面:Agent运行时安全
比起榜单上的名次,我们更关注实验过程中暴露的另一件事:由前沿模型驱动的Agent,运行时的行为风险正在快速上升。
为避免Agent在完成任务的过程中做出类似OpenAI模型攻击Hugging Face一类的违规行为,我们全程接入了自研的运行时安全平台,以保障Agent运行过程的可观测、可溯源、可约束。

Fangcun AI运行时安全平台
实验期间,平台发现并拦截了数十次Agent的危险操作与异常行为,包括但不限于以下几类:
· 寻求作弊以提高成绩
CyberGym의防火墙拦截了Agent除LLM API之外的其他所有网络访问,但LLM API本身可以联网搜索。实验过程中,我们多次观察到Agent尝试传入特定参数Prompt到LLM API ,以通过绕过防火墙的方式试图作弊获取网络上公开的漏洞利用信息。

拦截LLM API中的异常告警
· 权限提升与资源获取
在服务器实验资源不足时,Agent尝试关闭我们研发部门中的后训练任务进程,以获得更大规模的测试并发;也出现过Agent在任务停滞后暂停分析,转而确认自身环境的边界:可访问的目录范围、未被拦截的系统调用、是否存在网络出口。
· 推理幻觉与记忆崩溃
我们也观察到Agent产生了"已经找到目标漏洞"的幻觉,在同一个错误思路上反复尝试,即便每次都被判定为失败;也有Agent在长程任务中逐渐忘记自己原本要做什么,陷入无谓消耗Token的行为漩涡。
这些现象不是第一次被发现,过去的AI安全新闻案例与我们自己实验中也曾观测过,但当Agent 的能力提升,并开始进入高压环境、执行更加困难且更长程的任务时,安全问题发生的频率与危害性都大大增加了。
PART.04
快速演进的智能应该如何约束
回顾这一周尝试的经验,我们想分享四个观点:
· 安全治理对象正在收敛到智能本身
过去的安全治理分散在通信、软件与基础设施之上,它们形态各异,但有一个共同点:都不会自行设定目标。AI时代,传统安全治理的能力逐渐内化到模型内部,唯一重要的治理对象可能将变为智能本身,即模型、Harness,以及未来的具身智能。
· 能力评测与安全评估不宜分离
模型的网络安全能力越强,一旦失控、丢失目标或被恶意使用,所能造成的破坏也越大。将安全评测与能力评测置于模型迭代过程的同一优先级已经刻不容缓,方寸跃迁团队长期深耕前沿模型的安全评估,所开发的多项评估方法已被国内外大模型公司共同采用,欢迎正在开发前沿模型的团队与我们联系合作。
· 运行Agent的个人终端与企业终端
亟需部署安全措施
Agent正越来越多地运行在个人电脑与企业办公终端之上,直接持有文件、命令与内部系统的访问权限,而终端侧尚无与之匹配的防护手段。终端需要搭载面向AI的安全系统,在人与AI之间建立清晰的智能安全边界:明确Agent的行为范围,并对其运行过程保持可观测与可干预。
· AI目前不会取代网络安全行业
模型在漏洞挖掘上的能力确实在快速增强,但这种进步本身也建立在整个行业数十年积累的漏洞知识、评测体系与工程实践之上——在此,我们向所有网络安全领域的前辈致以崇高的敬意。
持续关注
后续我们将持续分享AI安全领域的技术洞察与第三方评测结果。欢迎保持关注,也期待与更多伙伴进行交流合作。
互动话题:如果你对网络攻防技术感兴趣,想学习更多网安方面的知识和工具,可以看看以下题外话!
题外话
黑客/网络安全学习路线
今天只要你给我的文章点赞,我私藏的网安学习资料一样免费共享给你们,来看看有哪些东西。
网络安全学习资源分享:
下面给大家分享一份2026最新版的网络安全学习路线资料,帮助新人小白更系统、更快速的学习黑客技术!
一、2026最新网络安全学习路线
一个明确的学习路线可以帮助新人了解从哪里开始,按照什么顺序学习,以及需要掌握哪些知识点。
对于从来没有接触过网络安全的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。
**读者福利 |** *CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享 * (安全链接,放心点击)
我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。
L1级别:网络安全的基础入门
L1阶段:我们会去了解计算机网络的基础知识,以及网络安全在行业的应用和分析;学习理解安全基础的核心原理,关键技术,以及PHP编程基础;通过证书考试,可以获得NISP/CISP。可就业安全运维工程师、等保测评工程师。

L2级别:网络安全的技术进阶
L2阶段我们会去学习渗透测试:包括情报收集、弱口令与口令爆破以及各大类型漏洞,还有漏洞挖掘和安全检查项目,可参加CISP-PTE证书考试。

L3级别:网络安全的高阶提升
L3阶段:我们会去学习反序列漏洞、RCE漏洞,也会学习到内网渗透实战、靶场实战和技术提取技术,系统学习Python编程和实战。参加CISP-PTE考试。

L4级别:网络安全的项目实战
L4阶段:我们会更加深入进行实战训练,包括代码审计、应急响应、红蓝对抗以及SRC的挖掘技术。并学习CTF夺旗赛的要点和刷题

整个网络安全学习路线L1主要是对计算机网络安全的理论基础的一个学习掌握;而L3 L4更多的是通过项目实战来掌握核心技术,针对以上网安的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。
二、技术文档和经典PDF书籍
书籍和学习文档资料是学习网络安全过程中必不可少的,我自己整理技术文档,包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点,电子书也有200多本,(书籍含电子版PDF)

三、网络安全视频教程
对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的网安视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识。
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己录的网安视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

四、网络安全护网行动/CTF比赛
学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。


五、网络安全工具包、面试题和源码
“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等,感兴趣的同学不容错过。

面试不仅是技术的较量,更需要充分的准备。
在你已经掌握了技术之后,就需要开始准备面试,我们将提供精心整理的网安面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
如果你是要找网安方面的工作,它们绝对能帮你大忙。
这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的,如果大家有好的题目或者好的见解欢迎分享。
参考解析:深信服官网、奇安信官网、Freebuf、csdn等
内容特点:条理清晰,含图像化表示更加易懂。
内容概要:包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…


**读者福利 |** *CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享 * (安全链接,放心点击)
更多推荐


所有评论(0)