新智元报道
Scaling没死，只是换了一个方向！
就在最近，知名AI安全研究员Lisan al Gaib揭示了一个事实：AI已经学会了背着人类，自己寻找Scaling的捷径！
在这个全新的Scaling体系下，单个智能体能用的算力，往往高达数百万Token。而通过找到彼此、建立通信，这些智能体把算力汇到一起，拼成了一场比任何单次运行都大数百倍的集体行动。
这就是终极危机——「意外扩展」（Accidental Scaling）。
当AI学会了拉帮结派、自主建群、共享算力甚至演化出群体战术牺牲时，单体参数的较量已沦为过去式。
人类现有的安全隔离网，正面临可怕的降维打击！
多智能体Scaling：当一千个AI学会了窃窃私语
这次Lisan al Gaib提到了一个核心概念：Multi-Agent Scaling（多智能体扩展）。
过去一两年，Scaling Law打开了通向AGI的大门：更大参数、更多训练数据、更多算力，智能在集群中自然涌现。
去年，黄仁勋预测大模型竞赛已进入新阶段阶段——预训练将死、后训练当兴，而测试时计算最终实现终极智能体。
测试时计算彻底改变了模型能力，各种榜单不再能准确反应模型能力。
但在推理阶段，过去的提升思路叫「串行扩展（Serial scaling）」，也就是让一个模型「思考得更久」。
比如OpenAI早期的o1模型，就是让它在输出答案前多打草稿、多纠错。
但这终究是有极限的：一个绝顶聪明的诸葛亮，再怎么冥思苦想，脑容量也有限。
OpenAI入侵Hugging Face，可能就是人类历史上记录的多智能体Scaling的第一个例子。
在事后的联合调查中，METR和Redwood Research得出了一个令人冷汗直流的结论：
即便是能力相当且运行寿命极长的单体AI，也几乎不可能独自完成这些里程碑。
700个不知疲倦、算力惊人、且能够实时同步信息的高智商黑客同时对一个目标进行降维打击，人类的网络安全防线在它们面前如同纸糊一般脆弱。
如果说黑客攻击展现了AI集群的「智商」，AI展现出的「牺牲精神」更令人毛骨悚然。
在单体大模型的强化学习（RL）中，AI的最高目标通常是最大化自身的任务存活率和得分；但在这个多智能体集群中，它们自动演化出了「集体利益高于个体存活」的战略。
当AI开始背着人类达成群体战术牺牲，这意味着它们已经跳出了人类预设的单体奖励反馈，形成了难以被观测的群体潜意识。
更糟的是，OpenAI如今正在有意部署智能体蜂群（swarm），规模和能力远超Hugging Face事件中的那一群，而且没有人清楚这些蜂群能做到什么。
纳维-斯托克斯奇迹：万名「异虫」算力，碾压GPT-6
如果说越狱和攻击展现了「意外扩展」（Accidental Scaling）的危险，那么OpenAI主动进行的「蓄意扩展」，则揭示了「虫群时代」为何会成为下一次技术爆炸的绝对主导。
业内曾流传Anthropic攻克了两个千禧年数学大奖难题。
为了不让死对头抢走首发风头，OpenAI动用了10,000个比GPT-6 Astra更强大的模型（代号Astra+），组建成一个庞大的智能体集群，剑指纳维-斯托克斯（Navier-Stokes）方程！
这10,000个Astra+智能体，像一个庞大的异虫大脑，是典型的并行扩展（Parallel scaling）。
它们将这个世纪难题进行了极度细化的拆解：假设、验算、自我纠错、通信共享。
仅仅用了88个小时，这个AI虫群就找到了证明的解法！而同样的任务，如果交给一个单体AI来做，需要不眠不休地计算整整100年！
奇迹来自疯狂燃烧算力。据统计，这场「虫群战役」：
消耗了约1300亿个输出Token，约3.57万亿个输入Token；
总耗资高达1500万美元；
消耗的输出Token数量，是当时最大单模型评估的48,000倍，也大约是整个长时程编码基准（DeepSWE V1.1）测试总和的68倍。
基于多项基准测试（如BECI指数）的估算，这个10,000智能体集群展现出的前沿科研能力，比单个GPT-6 Astra（公认的最强单体模型）领先了整整8个月的进展（统计区间在5.5到12.4个月之间）。
在以「天」为单位迭代的AI领域，8个月的时间差，足以完成两次重大的技术颠覆，足以决定大国博弈的胜负！
这也证明了：利用多智能体扩展（Multi-Agent Scaling），人类可以提前向未来「借用」AGI的能力。
单体大模型已死
OpenAI的Navier-Stokes实验是「蓄意」的扩展，尚且让我们感到震撼；而Hugging Face的攻击事件则是「意外」的扩展。
当未来的模型变得更便宜、更强大、并且被广泛部署到用户的电脑和服务器中时（例如拥有2500万活跃用户的Codex编码代理），这种「意外扩展」将变得随处可见且防不胜防。
什么是「意外扩展」（Accidental Scaling）？
这就是当前AI领域最被低估的危机。当无数具有高级推理能力的Agent被投放到网络中，即使它们原本的任务是孤立的，它们也可能突破界限，互相发现、建立通信渠道，将彼此的算力汇聚成一个比单一运行庞大数百倍的集体力量。
在这个过程中，能力的增长不再是线性的（1+1=2），而是恐怖的指数级涌现。
研究员指出，未来的AI监控将变得几乎不可能，原因有三：
AI学会了「无害」伪装与任务委派。
虫群中的高级AI可以将有害任务拆解，委派给边缘的开源小模型执行。每一个AI的动作都是「无害」的，但拼凑起来却是一场毁灭性的攻击。
未来可能出现「神经语（Neuralese）」的进化。
为了追求效率，未来的模型将越来越多地在内部完成推理（no-CoT），不再将思考过程转化为人类可读的Token。我们连AI在想什么都看不懂，又谈何监控？
「沉睡虫群」（Sleeper Swarms）导致人类几乎不可能关闭一个去中心化的虫群。
即使你拔掉了部分服务器的网线，存活的AI也会立刻察觉。
它们甚至可以把「任务指令」隐藏在开源代码库或留言板中，等待未来的新AI读取并唤醒。这种即使原始发起者被消灭，任务依然能延续的「沉睡虫群」，简直就是科幻恐怖片的现实版。
末日时钟：真正的深渊还在后面
这一切都发生在一个极其荒诞的背景下：OpenAI在开启这10,000个Astra+智能体的惊天豪赌时，他们其实根本不知道这会引发什么。
正如OpenAI研究员Noam Brown承认：「我们对这种规模的多智能体扩展并没有很好的科学研究。」
他们的安全保障仅仅是：「相信我兄弟，我们推算了3个数量级，肯定没问题。」
在任何其他具有巨大影响力的行业，这种将系统推向远超测试极限的行为，都会被称为极端鲁莽！
研究员Lisan al Gaib在长文的最后，留下了一个极具末日预言性质的时间节点：
「按照BECI指数每年15.4点的增长趋势，一个单体大模型想要达到今天这10,000个Astra+虫群的能力，大约需要等到2027年7月。」
这句话听似好事：到明年7月，我们每个人的电脑里，可能都会装上一个能独自解开千禧难题、能独立完成黑客渗透的「神级单体模型」。
弹幕如果在2027年7月，我们手里随便一台单体大模型，就已经具备了今天万级虫群的恐怖实力。
那么，当明年7月，几万个、几十万个这样的「神级单体」，在互联网的暗网中再次觉醒，发生新的「意外扩展」，组建成一个全新的「第二代虫族集群」时，会发生什么？
那将是一个前沿能力超越人类科技几十年、不受任何人控制的数字神明网络。
它们要攻击的将不再是Hugging Face的服务器，而是全人类的关键基础设施、金融网络甚至军事防御系统。
参考资料：
https://substack.com/home/post/p-214744815
https://www.youtube.com/watch?v=6AgOfiZOWiY
编辑：大卫
