这几天 AI 圈最戏剧性的新闻,可能不是 Fable 5 被下架,而是 Anthropic 遇到了一个自己很难回答的问题。

先说说背景,就在今天,美国封禁了Claude Fable 5。

 

 

Anthropic随即决定面向所有用户关闭该模型,

长期以来,Anthropic 一直是硅谷最积极推动 AI 监管的公司之一。

CEO Dario 多次公开表示,未来足够强大的 AI 模型应该受到监管,政府应该拥有阻止高风险模型部署的权力。为了证明这一点,Anthropic 这些年没少谈模型风险、能力跃迁和潜在威胁。

结果现在,监管真的来了。

Fable 5 因为安全争议被叫停,Anthropic 随后开启退款服务,大量用户开始申请退款。截止日期为6月20日。

 

于是一个有意思的矛盾出现了。

如果 Fable 5 真像宣传中那样强大到需要特殊监管,那么监管部门介入不是理所当然吗?

如果 Fable 5 没有强大到那个程度,那么过去那些关于“神话级模型”“高风险模型”的叙事,又该如何解释?

很多人把这件事理解成一次安全事故,但我觉得,它更像是一次叙事冲突。

因为 AI 公司这些年其实一直在讲两套故事。

面对用户和投资人时,讲的是能力故事——模型越来越强、Agent 越来越聪明、推理越来越接近人类专家、每一次发布会都在强调突破、飞跃和领先。

但面对监管机构时,讲的又是风险故事——模型可能失控、能力增长太快、需要建立新的监管体系、需要提前做好防范。

问题在于,这两套故事大部分时间可以同时存在。

可一旦监管部门开始认真对待风险叙事,事情就不一样了。监管机构不会帮你区分哪些是营销,哪些是警告。

他们只会看到一个结果,连你自己都认为它足够危险。那为什么不监管?

而这恰恰是 Fable 5 事件最有意思的地方。

据报道,这次导火索是 Fable 5 的越狱方法被公开传播,但从技术角度看,这其实并不是什么新鲜事。

过去几年,无论是 ChatGPT、Claude、Gemini 还是其他公开模型,都不断出现过各种越狱案例。

因为只要模型向公众开放,就不存在绝对无法绕过的安全机制。这是所有大模型公司都知道的现实。

换句话说。

如果一个模型的安全前提是“永远不会被越狱”,那它从一开始就不适合公开发布。

因为公开发布和绝对不可越狱,本来就是互相矛盾的命题,这也是为什么很多人开始质疑 Anthropic。

你一方面告诉全世界这个模型强大到需要监管,另一方面又把它推向市场。

当监管部门真的按照你的逻辑采取行动时,你又开始强调行业里其他模型也存在类似问题。

这种前后落差,自然会引发争议。

事实上,Fable 5 事件最值得关注的,可能不是模型还能不能回来,而是它暴露出了 AI 行业正在面临的新挑战。

过去大家竞争的是能力,未来竞争的维度可能会越来越复杂。

除了能力之外,还要证明自己足够安全、足够可控、足够符合监管要求。

AI 行业正在从单纯的技术竞赛,逐渐进入技术、商业和监管三条线同时竞争的阶段,而 Fable 5,或许只是第一个撞上这堵墙的模型。

从这个角度看。

监管并没有突然到来,监管只是顺着 Anthropic 自己反复讲述的故事,向前走了一步。

真正让人意外的,不是监管来了,而是当监管真的来了之后,整个行业才发现:

原来讲述风险和承担风险,从来都不是同一件事。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐