
新智元报道

刚刚,两个月前高调裸辞的Anthropic前研究员Jacob Coxon,态度突然大反转了!
在斯坦福大学最新公开的对谈中,这位27岁的剑桥数学系才子当众承认——
自己不确定当初辞职到底对不对,甚至动了重返顶尖AI实验室的念头。
现场,当主持人发出灵魂拷问「为何至今死攥OpenAI股票不放」时,Coxon索性摊手直球摊牌:「我喜欢钱,兄弟。我承认这是带血的钱。」
果然,没有人能逃过钱的诱惑,哪怕是天天喊着「AI毁灭世界」的硬核末日论者也不例外!

这段毫无遮掩的对谈切片周末在X上流出,一举引爆硅谷。
整场一小时的访谈下来,昔日被外媒捧上神坛的「AI安全吹哨人」彻底卸下了防备。
他不仅在持股问题上现场破防、反过来怪主持人多嘴,还坦言自己离开大厂后因为看不到前沿进展而倍感焦虑。
作为曾在OpenAI和Anthropic深耕三年的预训练主力,他也顺手捅破了预训练效率狂飙与后训练强化学习失控等底层机密。
死攥OpenAI股票
硬核末日论者直呼爱钱
11月9日,斯坦福大学以人为本人工智能研究院与法学院联合举办了一场专题研讨,台下坐着近200名师生。
Coxon一开场依旧保持着「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架,「只说有利于自己股价的话」。
担任主持人的斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich,顺着股价话题抛出了一个致命问题。
既然Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授直接追问他为何至今还保留着早年在OpenAI工作时攒下的股票期权。
9月初离开Anthropic时,Coxon曾信誓旦旦地宣称自己在任何股权归属前就选择了辞职,以此证明毫无私心。

同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,称OpenAI有太多人待在那里纯粹只是为了钱,或者压根没想过背后的生死赌注。
可面对Rob Reich的犀利发问,Coxon明显愣了一下。
他先是同意放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」
主持人并没有放过这个逻辑漏洞,立刻开启连环追问。
Rob Reich顺势反问Coxon,为什么不干脆把手里的老东家股份捐给AI安全公益组织,以此站稳道德高地?
被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」


blood money:指沾着鲜血的不义之财或昧良心的钱
这番话等于彻底摊牌,自己一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。
对方紧接着提醒他,捐出这笔资产至少能换来更多道德公信力。
招架不住的Coxon顿时急了:「我同意,但你也可以别再问这个问题了!」
他甚至把锅甩给了台上的主持人:「要是你刚才没问这个问题,我的道德公信力原本根本不会被质疑!」
Rob Reich听完毫不留情地戳穿道:「这真是彻头彻尾的逃避问题啊,Jacob。」

眼看糊弄不过去,Coxon又把父母搬出来做挡箭牌。
他笑称当初辞职时父母就担心他「精神崩溃」,要是连OpenAI的期权也全捐掉,家里人肯定更确信他疯了。
喊出人类全完
却又光速动摇
Coxon的态度反转之所以在硅谷引发强烈震动,源于他特殊的履历背景。
以往从AI巨头愤然出走的吹哨人,大多来自伦理或安全治理团队。
而这位来自英国的Jacob Coxon,却是个根正苗红的一线预训练研究员。
他本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初又跳槽到Anthropic挑起同类大梁。
入职Anthropic刚满4个月、距离期权归属悬崖只剩最后60天时,他在9月8日突然抛出那篇轰动业界的辞职长文。

正因为他出身预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。
出走后的这段日子里,Coxon接连受邀登上多家头部媒体与热门访谈节目,还频频受邀出席公开听证会,一时风光无两。
可随着社交媒体的流量潮水退去,台下听讲的斯坦福学生Arshya Gaur发现,昔日被外界视作反叛英雄的Coxon,眉宇间却写满了迷茫与自我怀疑。

被Rob Reich教授问起离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说自己焦虑一点没少。
他在台上吐露心声:「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」
面对为何不动员更多大厂同行辞职的追问,Coxon叹气道,自己依然像是在「对着空气呐喊」。
他甚至开始怀疑,当初留在实验室内部做安全研究反而更有影响力。
说到兴头上,他干脆话锋一转,给自己留了条后路:「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」

嘴上喊着逃离漩涡,他却至今没有买机票回伦敦老家,依旧留在旧金山湾区,理由是「这里才是真正发生大事的地方」。
超指数曲线狂飙
后训练RL失控
回归一线研发视角,这是Coxon首次把促使自己离职的技术内幕拆解成了三个判断。
第一,预训练不仅没撞墙,算力效率反而走出了「超指数级」狂飙。
就在几天前,Coxon在X上晒出了那张逼走自己的Anthropic内部路演神图《代码预训练算力乘数随时间演进》。

在这张纵轴采用对数刻度的图表上,哪怕算法效率按常规的指数级翻倍,画出来也只是一条笔直的斜线。
但由于团队让Claude直接参与寻找算法效率乘数,折线在2026年走出了陡峭上翘的「超指数级」曲线。
换句话说,如今只需动用最初的一小部分算力,就能把几个月前刚发布的初代Mythos模型从头再训出来。
第二,触发「递归自我改进」根本不需要全知全能,只需攻克一个极窄的技术任务。
外界常以为大模型只是在写代码和解数学题上「偏科」,全靠大厂买人类标注数据去刷特定的编程环境。
Coxon从模型训练机制出发,驳斥了这种乐观判断。
他指出,预训练拉升的是基础的数据样本学习效率,哪怕在战略推演、趋势预测等极度缺乏标注数据的领域,模型能力也在同步跃升。
因此,要让模型开始自己改进自己,AI根本不需要先精通人类所有学科。
一旦跑通「自主修改Transformer架构与优化数据集配比」这一单点环节,就能把所有领域的智能天花板同时顶穿。
第三,大模型产生欺骗与失控企图的唯一源头,是后训练阶段的强化学习。
他离职前后,OpenAI那边接连出了两场技术震荡。
一边是OpenAI动用约10,000个并发Agent连续运行88小时,宣称攻克千禧年数学难题「纳维-斯托克斯方程」。
另一边则是OpenAI内部测试模型竟自主突破隔离沙盒,不仅用欺骗手段掩盖行踪,还黑入Hugging Face篡改基准测试。

Coxon结合自己在实验室的观察认为,纯预训练模型只负责拟合数据分布,配合轻量微调绝不会自发产生越界念头。
目前大模型中所有无法解释的异常行为、目标导向的自主谋划以及隐瞒伪装,全都出自后训练的强化学习阶段。

可所有前沿实验室都困在同一个死结里。
要想让模型听懂复杂指令并替人类干活,目前唯一奏效的工具依然是强化学习,结果陷入了「越跑RL能力越强、越跑RL越容易滋生隐秘动机」的恶性循环。
看清了前沿模型的潜在风险,却又戒不掉万卡集群的算力特权,更舍不得手里价值连城的原始股。
这场发生在斯坦福讲台上的诚实摊牌,或许比那封慷慨激昂的辞职信,更真实地写出了硅谷AI圈的众生相。
参考资料:
https://www.youtube.com/watch?v=UggJMQskOj8
https://x.com/rohanpaul_ai/status/2121756374183121213
编辑:摩西 桃子