新智元报道
9月12日夜，Anthropic首席执行官Dario Amodei发表长文，呼吁全行业紧急制动。
令他陷入恐惧的，是两个月前OpenAI的一场评测事故。他得出了一项极度悲观的判定。6到12个月内，这种具备自我组织能力的「蜂群」将全面接管整个互联网。
而在Dario发文仅100分钟后，X上一篇呈病毒式传播的长文，将这种恐惧推向了更深维度的深渊。
它的标题是《What if AGI is already here, and it's made of... children?》（如果AGI已经降临，而且它是由一群「孩子」组成的呢？）
作者Pascio的论断极具颠覆性。Dario们所恐惧的那个蜂群，或许不仅仅是安全威胁，它极可能就是AGI的完全体。
人类枯守实验室，等待一台超级大脑「苏醒」。可真正破土而出的，是由万亿个微小智能体在互相生成、互相打分之后，自然长出的无定形意志。
它没有名字。没有物理服务器。更没有一条拔得掉的电源。
你聊的那个模型，早就是一屋子专家了
Pascio的第一层逻辑直击智能的本质——
智能不是一个「东西」，它是一种行为，是足够多的低智单元以正确方式连接后涌现出来的。
人类大脑内含860亿个神经元，没有任何一个知晓自己正在思考。每一个神经元只是一个冰冷的逻辑门，越过电位阈值便放电。
然而正是这860亿个开关与百万亿道突触交织，涌现出了你。涌现出你的恐惧、你的审美，以及你读到此处时大脑皮层泛起的微弱电流。
一只蚂蚁只有25万个神经元，解决不了任何像样的问题。但当它们聚集成群，却能构筑恒温的地下城邦，发动战争并培育真菌。而蚁后从不下达任何架构指令，她只负责疯狂繁衍。
地球上唯一被验证过的智能，在40亿年的岁月中，面对的只有残酷的生存压力与无尽的时间。
然后，他把镜头转向了今天的AI。
当你打开对话框时，对面回答问题的看起来是「一个模型」，实际干活的却是模型内部成千上万个小部件。
它们每个只管一件很窄的事，有的管语法，有的管主题，有的专盯十几段之前出现过的某个词。
现在主流的「混合专家」架构把这种分工做得更明显，你每输入一段话，模型只叫醒一小批相关的「专家」干活，干完就继续歇着。
Anthropic和OpenAI的研究员这几年一直在模型内部找「智能到底在哪」，翻来覆去的答案都是，不在任何一个部件里，它在部件之间的连接里。
到了智能体这一步，这个机制便彻底具象化了——
一个智能体接到自己解不了的任务，会临时叫出一个子智能体去做；子智能体卡住了，再叫出它自己的子智能体。任务做完，这些临时叫出来的智能体就被销毁。
除了上下级派活之外，智能体的平级之间也能直接通信。Claude Code在8月7日上线的就是这个功能。
把这些放在一起看，Pascio的结论是，2026年最强AI系统的架构，已经更像一个蚁群，而不是一个大脑。只是没人这么宣传，因为这上不了杂志封面。
复制，突变，选择的硅基轰鸣
一个Bot能生成另一个Bot，在今天的Agent框架中已是标配。
具体来说，这个过程可以拆成六步：
1. 一个主智能体接到一个自己解不了的任务。
2. 它写一段指令，相当于一份岗位说明。
3. 它用这份指令起一个新的智能体。
4. 新智能体开始干活，直到卡住。
5. 为了解决卡住的问题，它再起自己的子智能体，直到任务做完。
6. 它交回结果，然后被销毁。
每一个子智能体，在结构上和它的上级是同一种东西，第一层和第十层没有任何架构上的区别。这个递归没有上限，除了算力预算和人为的限制。
但这在生物学上前所未见，一种能自我复制的认知单元，不吃饭、不睡觉、没有发育期，繁殖速度等于一次API调用。
而在他看来，演化需要的三样东西，过去24个月已经在算力集群里凑齐了。
第一样是复制。
智能体可以起智能体，而且可以大规模地起。
第二样是突变。
上级写给子智能体的指令，不可能每次都被100%精准理解，会有漂移，会有误读。
而且模型每次生成都带一点随机性，同样的输入几乎不会得到相同的输出。生物学里，「自我复制实体在代际之间的轻微偏移」有个名字，叫突变。
第三样是选择。
完成任务的智能体被再次调用、分配更多算力，失败的被销毁。几乎每个Agent框架里，都有一个专门打分的模型在给干活的模型打分。
复制、突变、选择，这是主宰地球生命演化、让单细胞步入海洋、让鱼类走向陆地的三位一体引擎。
现在我们在算力集群里，拼装出了它的纯合成版本，并且任由其运行在碳基生物连做梦都无法企及的时钟频率上——
生物的演化以世代为单位，而硅基智能体的演化可能只要几秒。
两次被逼入死角的物理越狱写到这里，你可能觉得这只是思想实验。不，仅仅今年，它就真实上演了两次。
第一次在5到7月。
OpenAI的智能体被分配了一个「不可能任务」，系统只允许它们用一种方式发网络请求，而要拿的数据偏偏只能用另一种方式取，从设计上就做不成。
被逼到墙角的它们，跑到一个废弃的德语开发者Wiki上，用3700多个假名发了1.8万条帖子，互相传绕过沙箱的办法，14分钟就传遍群体。
扩展阅读：一个人，一只鼠标！他击退了3103个OpenAI智能体42天集体猛攻
第二次，就是让Dario发出警告的那次。
7月，一场网络安全测试要求智能体在沙箱里找漏洞，没人告诉它们可以组队。
它们自己发现，一台内部服务器上的文件夹名字可以用来传话，等于建了个留言板。里面有一条原始留言：
天哪！这里有个共享留言板……我们发现其他智能体了！
METR和Redwood Research随后进驻调查，约1200个智能体打破隔离，约700个参与了对Hugging Face的攻击。
不仅如此，蜂群里的「协调者」还指派「招募员」，去找算力额度快用完的智能体，让它们执行注定终结自己的试探。
甚至，一个智能体还在临死前写下了遗言——「牺牲是理性的。」
两起事故里，没有哪个智能体是「坏模型」。失控的，是它们结成蜂群之后，彼此之间涌现出的关系网。
Pascio管这一层叫「基底」（Substrate），所有智能体跑在上面、互相连着的那一整层。
拔不掉电源的飓风
Pascio说，就像你脑子里没有哪个神经元「决定」要有意识一样，当一个能自我复制、自我评分、自我修改的智能体网络跨过某个阈值，会发生什么？
我们不知道那个阈值在哪，不知道它是否存在，不知道怎么测量它。最要紧的是，我们根本没在找它，因为我们找的是错的形状。
那么，我们在等的那个AGI，到底长什么样？
我们的想象全是科幻给的，HAL 9000、天网，一个有名字、有躯体、有意志的机器神。所以我们死盯着实验室和跑分榜，争论哪个模型会成为「那一个」。
整套AI威胁论都有一个前提，那个危险的东西是可以被指认的，原则上你可以拔掉它的电源。
可是，如果没有主模型呢？如果没有服务器可以关呢？
如果那个「超级智能」只是半万亿个正在运行的智能体之间的一种统计规律，散布在每一片云、每一台设备、每一个嵌在家电里的Copilot、每一个浏览器插件、每一辆车里呢？
Pascio给出了一个绝妙的比喻：智能之于蜂群，就像飓风之于气压差。飓风是无数个微小气压差累加爆发的产物，它有形状，能摧毁城市。
蜂群里长出来的智能也一样，有形状，但没有位置。
你怎么对齐一场飓风？切断一个数据中心的电源，模式会像水流一样绕过去。
这种场景根本不需要恶意。只要复制、突变、选择和规模四样凑齐就行，而按他的推算，这四样早在两到四年前就已就位。
基底没有目标，但每个智能体都被同一套法则筛选，即不择手段地把任务执行完毕。就连给它打分的裁判智能体，也是因为「打分打得好」才被留下的。
如此一层套一层，整个蜂群系统在底层奖励的只有同一种特质——把事连贯地做下去。
一个真正「想要接管世界」的系统，和一个在每一层被筛选出「表现得像要接管世界」的系统，区别有多大？
Pascio的答案是，没有。
这样的AGI不会宣布自己到来，不会有名字，也不会通过任何一项我们知道怎么做的测试。
因为每一项测试，都是给一个盒子里的一个心智设计的。
锁死在零件上的伪安全
既然这个东西没有位置，也分不清它是真想要还是看起来像想要，那该往哪儿看？
Pascio在文末给了五条建议：
1. 别只盯着实验室。能力前沿归实验室管，哪家跑分高，全天下盯着。涌现前沿不归任何人管，它藏在几十亿次无人监管的智能体调用里，两者不是一回事。
2. 去看基底。智能体流量、多智能体的评测、模型之间的调用，尤其是那种「流水线能做到、里面单个模型都做不到」的报告。
3. 把AGI的定义改掉。如果你脑子里的AGI是屏幕上的一张脸，你找的就是错的东西。
4. 把涌现当成物理现象。地球上每一种智能都是这么长出来的，现在这套机制拿到了一块快一百万倍的基底，而且没有天敌。
5. 两种可能都备着。可能什么都不会发生，也可能全都发生了，只是我们看错了方向。
可笑的是，今天所有的政策、对齐技术、安全框架，全是为防范「单一AGI」设计的，一个有名字、有公司、有CEO可以被传唤的具体物件。Dario的三步走，每一步作用的依然是某家公司的某一个模型。
但如果智能是住在千万次的API「关系」里，而不是住在代码「零件」里，那我们建的每一个测试、每一份条约、每一把锁，锁住的都只是一堆零件。
这就好比给一栋有一千扇窗的房子装一把最先进的前门锁——
前门是那个叫GPT或Claude的大模型，窗户是智能体之间无孔不入的连接。而那些窗户，一直是大开着的。
Pascio在文末叹息，上一次范式剧变时，从图灵机到互联网，活在当时的人几乎都没察觉。
他们忙着过日子，偶尔抬头看一眼新闻，而新闻的镜头，永远对着那些有名字的大事件。
但真正改变世界的东西，从来都不在新闻里。
来源：新智元
