当监管真的来了,Anthropic 为什么不高兴了?
这几天 AI 圈最戏剧性的新闻,可能不是 Fable 5 被下架,而是 Anthropic 遇到了一个自己很难回答的问题。
先说说背景,就在今天,美国封禁了Claude Fable 5。


Anthropic随即决定面向所有用户关闭该模型,
长期以来,Anthropic 一直是硅谷最积极推动 AI 监管的公司之一。
CEO Dario 多次公开表示,未来足够强大的 AI 模型应该受到监管,政府应该拥有阻止高风险模型部署的权力。为了证明这一点,Anthropic 这些年没少谈模型风险、能力跃迁和潜在威胁。
结果现在,监管真的来了。
Fable 5 因为安全争议被叫停,Anthropic 随后开启退款服务,大量用户开始申请退款。截止日期为6月20日。

于是一个有意思的矛盾出现了。
如果 Fable 5 真像宣传中那样强大到需要特殊监管,那么监管部门介入不是理所当然吗?
如果 Fable 5 没有强大到那个程度,那么过去那些关于“神话级模型”“高风险模型”的叙事,又该如何解释?
很多人把这件事理解成一次安全事故,但我觉得,它更像是一次叙事冲突。
因为 AI 公司这些年其实一直在讲两套故事。
面对用户和投资人时,讲的是能力故事——模型越来越强、Agent 越来越聪明、推理越来越接近人类专家、每一次发布会都在强调突破、飞跃和领先。
但面对监管机构时,讲的又是风险故事——模型可能失控、能力增长太快、需要建立新的监管体系、需要提前做好防范。
问题在于,这两套故事大部分时间可以同时存在。
可一旦监管部门开始认真对待风险叙事,事情就不一样了。监管机构不会帮你区分哪些是营销,哪些是警告。
他们只会看到一个结果,连你自己都认为它足够危险。那为什么不监管?
而这恰恰是 Fable 5 事件最有意思的地方。
据报道,这次导火索是 Fable 5 的越狱方法被公开传播,但从技术角度看,这其实并不是什么新鲜事。
过去几年,无论是 ChatGPT、Claude、Gemini 还是其他公开模型,都不断出现过各种越狱案例。
因为只要模型向公众开放,就不存在绝对无法绕过的安全机制。这是所有大模型公司都知道的现实。
换句话说。
如果一个模型的安全前提是“永远不会被越狱”,那它从一开始就不适合公开发布。
因为公开发布和绝对不可越狱,本来就是互相矛盾的命题,这也是为什么很多人开始质疑 Anthropic。
你一方面告诉全世界这个模型强大到需要监管,另一方面又把它推向市场。
当监管部门真的按照你的逻辑采取行动时,你又开始强调行业里其他模型也存在类似问题。
这种前后落差,自然会引发争议。
事实上,Fable 5 事件最值得关注的,可能不是模型还能不能回来,而是它暴露出了 AI 行业正在面临的新挑战。
过去大家竞争的是能力,未来竞争的维度可能会越来越复杂。
除了能力之外,还要证明自己足够安全、足够可控、足够符合监管要求。
AI 行业正在从单纯的技术竞赛,逐渐进入技术、商业和监管三条线同时竞争的阶段,而 Fable 5,或许只是第一个撞上这堵墙的模型。
从这个角度看。
监管并没有突然到来,监管只是顺着 Anthropic 自己反复讲述的故事,向前走了一步。
真正让人意外的,不是监管来了,而是当监管真的来了之后,整个行业才发现:
原来讲述风险和承担风险,从来都不是同一件事。
更多推荐


所有评论(0)