回到「AI 掀桌」栏目
AI 掀桌

AI 掀桌:Anthropic 说「我们可能马上撞上递归自我改进」,也承认自己看不清

· AI Hot 编辑部

观点型拆台 · 11 月 2 日,Anthropic 的上市申请修订稿里多了一句:内部估算显示公司「可能马上就达到」自己安全政策中「由 AI 导致的显著加速进展」那条线。同时新增一句更狠的——过去没识别出这种加速,将来可能也识别不出来。这篇拆开:这句话的法律性质、那条阈值到底多高,以及同一份文件另一头写着「闭环比速度」的经营账。

Anthropic 在 11 月 2 日提交的 S-1/A 里首次写下:内部估算显示,公司「可能马上就达到」 Responsible Scaling Policy 对「由 AI 导致的显著加速进展」的定义,同时承认过去和将来都可能识别不出这种加速。它没有把任何现有模型指定为超过该阈值,并表示不认为能安全地让 Claude 无人监督地造下一代模型,正在考虑更新 RSP 把人留在回路里。

先摆事实。11 月 2 日,Anthropic 向美国证监会提交上市申请修订稿 S-1/A,距 10 月 26 日首次递交正好七天。这一版多出来的话不多,但每句都够重:内部估算显示他们「可能马上就达到」自己安全政策里那条「由 AI 导致的显著加速进展」的线;同稿还多了一句更狠的——过去没识别出这种加速,将来可能也识别不出来。先说清楚:没有任何现有模型被认定超过这条线,这不是失控公告,是招股书里的自曝。

1. 桌子一:这不是产品发布,是招股书

S-1/A 是法定招股说明书,风险因素那章是监管强制要求披露的——不是因为 Anthropic 想说,是因为不写不行。所以这句话比任何发布会都硬。

但同时,SEC 文件也是最标准的融资叙事载体。TechCrunch 报道时直接讲:一个 S-1 既是披露,也是营销。

两头都成立,这正是值得掀的地方:法律上是一份硬的风险承认,商业上顺手展示「增长引擎快得吓人」。2026 年前三季度 Anthropic 收入 332 亿美元,第三季度单季 170 亿、同比涨 1127%;同期算力支出 188 亿。翻倍的故事和「快要撞线」的故事,是同一个故事。

2. 桌子二:回到原文,这句话到底说了什么

原文第一句关键的话:过去没有识别出开发速度的显著加速,将来也可能识别不出来——而且是在加速发生之后才识别出来。翻译成大白话:仪表盘可能在响之前就是坏的。

第二句:内部估算和对未来模型的预期,而不是当前模型,表明我们可能马上就达到 Responsible Scaling Policy 对「由 AI 导致的显著加速进展」的定义。注意主语——是内部估算和对未来的预期,不是已测出的结果。

第三句:没有把任何当前模型指定为超过这条阈值,数据仍在评估。第四句:正在评估达到 AI 研发能力阈值的影响,会按 RSP 继续发布后续报告。

3. 桌子三:那条线是它自己画的,而且它自己承认画不清

这条阈值出自 Anthropic 自己的 Responsible Scaling Policy v3.4,2026 年 7 月 8 日生效。它有两条路:其一,模型能在 5 倍以内的成本完全替代公司全部研究科学家和研究工程师;其二,AI 进展速度出现「显著加速」,且大概率归因于 AI 自动化研发,而不是多招人加算力。要连续跨至少三代模型才算数。

门槛比听起来高得多。RSP 脚注解释过「速度翻倍」:如果基线是一年 3 倍算力乘 3 倍算法效率(9 倍有效规模),「速度翻倍」意味着大约 81 倍有效规模。

关键在 RSP v3.4 自己的更新日志:公司说这条阈值是为了捕捉「剧烈递归自我改进的起点」,并且——原文——「已经很难操作化」(has proven difficult to operationalize)。拼起来就是:一家公司说「我们可能马上就撞上一条自己都承认很难操作的线」。这不是技术乐观,是「仪表盘可能坏着,我们还在加速」。同稿 Anthropic 也写了另一半实话:技术上真做到,他们也不认为能安全地让 Claude 无人监督地造下一代,因此正考虑更新 RSP,把人留在回路里。

4. 桌子四:同一份文件另一头,写着「闭环比速度」

招股书里给这套机制起了个名字:closing the loop——每一代模型帮忙造下一代,把能力增益复利起来。

数字很具体:按 list price 计算,内部使用 Claude 的价值从 2026 年 1 月到 9 月涨了超过 250 倍;2026 年 4 月,这个月度价值第一次超过月度人力开支(不含股权激励)。2026 年 9 月,公司代码库超过 90% 的代码贡献由 Claude 写下,人均日均提交量是 2024 年的 45 倍以上。

亏损也别被标题吓到:前三季度净亏 1040 亿美元,但其中 943 亿是可转换票据公允价值变动,不是现金流出;真正的营业亏损是 12.6 亿,利润率约 -4%。同期算力支出 188 亿,其中第三季度 50 亿是短约算力,比长约贵不少。这才是完整的形状:加速是真的,账单是真的,看不清加速到什么程度也是真的。

5. 普通人、builder 该怎么办

普通人不用慌。没有任何现有模型被认定超过那条线,Anthropic 还明说不会让 Claude 无人监督地造下一代、正考虑把人留在回路里。这份文件不是「AI 快要失控了」的公告。

以后凡是有厂商讲「模型自己训练下一代」「AI 自我迭代」,拿这条标准去问:这个「翻倍」是谁算的?公开评测还是内部估算?

builder,三条:

1. 别把别人画的阈值当安全保证。Anthropic 自己承认这条线「很难操作化」,识别还会滞后,挡不住你业务里的风险。

2. 先量自己的基线。上个季度交付多少、人多少、算力多少,记下来。等哪天某个模型让你的某个数字翻倍,你才知道那意味着什么,而不是事后读新闻。

3. 「90% 的代码由 AI 写」别抄成 KPI。那是 Anthropic 在招股书里证明经营杠杆的数字,当团队目标就是完全不同的东西。

一家最认真做安全政策的公司,在上市申请第七天,把「我们可能马上就撞线」和「我们可能一直看不见」写在同一页上。这不是好消息也不是坏消息,是一句提醒:递归自我改进这件事,第一次有了上市公司公开文件的背书。

栏目

AI 掀桌:把 AI 圈的桌子掀开,看清谁在画饼。

订阅可行动 AI 信号

直接用 RSS,或打开预填邮件申请。没有假表单。