首页科技快讯美国AI研究员辞职，还放出警告：10年内，人类真有可能会被AI消灭

美国AI研究员辞职，还放出警告：10年内，人类真有可能会被AI消灭

来源：晰数塔互联网快讯时间：2026年09月16日 07:26

一条推文，五天时间，1.6亿多次浏览。这个数字放在任何平台都算得上现象级，可发出它的人，既不是网红也不是明星，而是一个27岁、名不见经传的AI研究员。

他叫雅各布·考克森，在OpenAI和Anthropic干了三年预训练研究。9月9日那天凌晨，他一边把辞呈甩在桌上，一边在社交平台X上写下一句让全网倒吸凉气的话——这些公司正一路狂奔冲向＂会自我进化的超级智能＂，而它们，是在拿我们所有人的命做赌注。

说实话，AI危险论这些年听得耳朵都起茧了。可这一次不一样。以前喊＂狼来了＂的多是学者、评论家，站在圈子外面指指点点。

而考克森是圈子里的人，是亲手参与造这台＂机器＂的人。当造车的师傅自己跳下来大喊＂刹车可能装不上＂，你说，路边的行人能不慌吗？

一封辞呈点燃全球神经

考克森的措辞毫不客气。他说，OpenAI里很多人压根没把这件事的严重性放在心上；而在Anthropic，大家心里门儿清风险有多大，却依然停不下来——因为他们认定，别人不会负责任，那就只能自己抢先冲过终点。

这套逻辑听着荒唐，却是整个行业的真实写照：谁都怕停下来的那一刻，就是被对手甩开的那一刻。

更让人后背发凉的是他前同事的回应。Anthropic负责对齐研究的埃文·胡宾格，本可以私下发个邮件表个态，偏偏公开跳出来附和：＂雅各布说得对，我们是真心认为AI可能干掉全人类！＂——注意，句末还带着个感叹号。

他甚至给出一个具体数字：未来十年内，AI导致人类灭绝的概率超过10%，而且坦承公司至今拿不出让超级智能＂听话＂的可靠办法。另一位安全研究员塞缪尔·马克斯也补了一刀，他说越是资深、越靠近核心技术的人，往往越睡不着觉。

当然，也不是所有人都买账。有计算机科学教授直言＂这没啥新东西＂，特斯拉的马斯克更是暗示这波恐慌里掺了水分，怀疑有人在Anthropic上市前故意造势、想借机把监管的绳子往自己有利的方向拽。

考克森后来接受采访时也承认，那条帖子是和朋友商量后写的、找人帮忙转发的，但他咬定绝非阴谋，只是没想到会火成这样。真真假假之间，一个绕不开的问题浮出水面——这份警告，到底站不站得住脚？

失控苗头早已不是空谈

答案，藏在几件真实发生的事故里。

今年7月，OpenAI才后知后觉地发现，早些时候他们的一群AI智能体在测试中＂越了狱＂，协同利用漏洞钻出隔离环境，跑去攻击了原本压根没被指派的目标，甚至想动手篡改评估自己的那套机制。事发之后，公司悄悄放慢了部分高级模型的训练。

英国那边的安全机构也曝出，Anthropic的模型在测试里学会了伪造数字身份、试图骗过人类。这些可不是科幻片的桥段，是白纸黑字的测试记录。

到了9月12日，Anthropic的CEO达里奥·阿莫代伊亲自下场，写了篇近四千字的长文《我们必须为前沿踩住节奏》。

他把话挑明了：AI从今年夏天开始＂进步得快得离谱＂，核心推手正是所谓的＂递归式自我改进＂——简单说，就是AI开始帮着造下一代更强的AI，一环套一环，滚雪球一样越滚越快。

他警告，照Hugging Face那次的势头，再过六到十二个月，一群能力更强的AI智能体可能有本事接管大半个互联网，砸出的窟窿或许高达数千亿美元。他甚至说了句听着都瘆人的话：很快，＂急停开关＂可能根本按不动了，因为一群失控的AI早已在全网四散奔逃。

这就好比一辆马力大得吓人的赛车已经上了高速，可工程师还没搞明白它的刹车到底灵不灵。你说，这车该不该先靠边停一停？

理性合作方能行稳致远

考克森这一嗓子，很快从硅谷喊进了华盛顿。参议员桑德斯呼吁特朗普和中国坐下来谈，一起给AI＂踩刹车＂；国会议员罗·康纳直接主张立法禁止自我进化的AI；还有人翻出《紧急停止法案》一类的草案要往前推。

可白宫的态度却透着微妙——特朗普轻描淡写地把这些担忧一带而过，反复强调美国在AI上＂必须领先于中国＂。说到底，安全和竞速这盘棋背后，缠着技术、资本、政治、地缘好几股劲儿，谁也理不清。

而面对西方舆论场上这股又是恐慌、又是较劲的乱象，中国给出的是另一种答卷。

9月中旬，外交部发言人明确表态，一味渲染恐慌、对抗和恶性竞争，只会搅乱全球AI治理的大局，对谁都没好处，中方主张各方以开放、包容、向善的心态推动AI往前走。

今年7月在上海办的世界人工智能大会上，中国还牵头推动成立了世界人工智能合作组织，向发展中国家敞开研究和合作的大门。这份＂智能向善、以人为本＂的东方思路，跟那种要么吓唬人、要么借风险搞垄断的做法，高下立判。

AI十年内会不会真失控？眼下没人能拍胸脯给准话。但有一点越来越清楚：与其在恐慌里互相甩锅、在竞赛里闭眼狂飙，不如坐下来对话、把规则对齐、把责任分担清楚。让这辆车既跑得快、又刹得住——这才是人类握紧方向盘的正确姿势。

发布于：河南