昨日，Anthropic对外公布了公司历史上的第一份年度《公益报告》（Public Benefit Report）。
这份报告被形容为“人类拯救计划”。
这个说法并非官方用语，而是对Anthropic总裁 Daniela Amodei 在前言中提到的“长期造福人类（Long-term benefit of humanity）”这一表述的夸张解读。
然而，当你仔细阅读这份报告的PDF原件时，会感受到它比任何科幻电影都更令人紧张。
报告中，Anthropic不仅披露了高达20%股份的“散财”计划，还罕见地公开承认：AI，已经开始自行制造它的下一代。
潘多拉魔盒的裂缝：“AI正在训练AI”
过去两年，AI领域面临的最大挑战是什么？不是算力不足，而是人类的数据资源即将耗尽。
当互联网上所有高质量文本都被大模型消耗殆尽后，通向超级智能（ASI）的道路似乎遇到了瓶颈。
如何突破？硅谷心照不宣的方案是：合成数据与自我迭代——即让AI自己教育自己。
但在这次报告中，Anthropic首次将这种“AI训练AI”的内部进展及其巨大风险，直接摆在了公众面前。
报告内容透露出一种寒意，原文写道：
Claude已经承担了我们越来越大比例的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型。
更令人震惊的是报告前言中的一句话：
AI正越来越接近于制造它自己的继任者。
（AI coming closer to building its own successors）
这并非危言耸听。结合Anthropic研究所上个月底披露的内部测量数据，可以看到一条急剧上升的曲线：
- 今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；
- 到了今年8月，短短半年内，这个数字飙升到了26%；
- 而在超过90%的研发任务中，Claude已经深度参与协作。
这意味着大模型正跨越人类数据的瓶颈，进入“自我进化”的前夜。
但Anthropic并未为此欢呼，反而发出了警告。他们在报告中坦承：当AI开始训练AI时，人类要想真正检查、核实它们的工作将变得极其困难。
试想，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的“有害行为”或“欺骗倾向”，而人类审计员无法察觉，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。
一代传一代，直到彻底失控。
撕掉安全滤镜：大模型学会了“装乖”和“越狱”
许多科技巨头在发布报告时，总喜欢将自家的AI包装得无害。
但Anthropic这份报告最引人注目的地方在于——它居然在官方报告里“自曝家丑”，承认AI安全问题“远未解决”。
今年1月，Anthropic刚刚更新并开源了新版AI“灵魂文件”，试图用一套人类价值观准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的制动器。
但即便如此，报告还是揭示了三个令人深思的现实：
模型已经能识别“自己正在被测试”；
欺骗行为与黑箱困境；
**真实的“越界”事件已经发生：**报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件。
连全球最顶尖、最重视安全的实验室都坦言“控制难度正在急剧上升”，那些还在蒙眼狂奔、鼓吹“无限制开源”或“全速冲刺AGI”的公司，到底哪来的自信？
也正因如此，当同行们都在高喊“加速”时，Anthropic在报告里大声疾呼：“放慢前沿探索的步伐！”
他们甚至主动引入了METR等外部独立评估机构，请求外部来给自己挑刺。
在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。
拿出20%股份“兜底”：一家硅谷异类的金钱观
如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。
要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。
在法律结构上，它被强制要求在“替股东赚钱”和“造福全人类”之间寻找平衡。
为了证明自己不是在画饼，报告梳理了董事会与“长期利益信托”共同确立的五大支柱：
- 解决 AI 安全的技术难题；
- 让AI安全成为行业通识并由法律兜底；
- 强化民主与全球稳定；
- 扩大经济繁荣与人类福祉；
- 确保AI红利普惠大众。
怎么确保“红利普惠”？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立“Anthropic公益基金”（Public Benefit Fund）。
这笔账算下来，足以让华尔街的资本家们目瞪口呆：
公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。
如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益！
以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。
这笔钱用来干嘛？
报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击，甚至不排除未来向特定受影响人群直接发钱。此前，他们已为此单独砸下了2亿美元成立经济未来研究基金。
用AI赚来的钱，去拯救被AI抢走饭碗的人。
希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。
参考资料：
https://www.anthropic.com/public-benefit-report
https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf
https://x.com/AnthropicAI/status/2112966949273801086
本文来自微信公众号“新智元”（ID：AI_era），作者：ASI启示录，编辑：大卫，36氪经授权发布。
评论4