Hinton们的末日叙事，正在毁掉这一代年轻人

打开任何一个科技播客，关于AI的讨论几乎都在两个极端之间摇摆。

一边是"通用人工智能即将降临"的狂欢，各路领袖争相预言"奇点"的日期；另一边是"人类面临灭绝风险"的警告，曾经的技术先驱转身成为末日布道者。如果你是一名二十多岁的工程师或研究者，每天被这两种声音夹击，你很难不感到困惑——这项技术到底是该投入全部热情，还是该保持距离？

就在这个舆论场里，Michael I. Jordan 的声音显得格外不同。

他是那种你很难绕过的人物。2016 年《科学》杂志称他为"全球最具影响力的计算机科学家"。Andrew Ng（吴恩达）是他的学生，Yoshua Bengio（图灵奖得主，深度学习三巨头之一）是他的学生，David Blei（主题模型 LDA 的核心发明人）、Zoubin Ghahramani（贝叶斯机器学习领军人物）、Eric Xing（MBZUAI 校长）都出自他的门下。可以说，当代机器学习领域的半壁江山，都和他有师承关系。

这样一位人物，理应对AI的未来最为兴奋。但在最近一次 MLST（Machine Learning Street Talk）的访谈中，他的态度却出人意料地冷静——甚至可以说，带着某种疲惫的警惕。

他谈了很多：AGI 为什么是个公关词汇、基础模型在科学应用中的盲区、为什么经济学必须进入 AI 的讨论框架、以及他最担忧的——那些"思想领袖"们对年轻人造成的伤害。

他拒绝"AI 研究者"这个标签

访谈一开始，Jordan 就做了一个让人意外的澄清：他不认为自己是 AI 研究者。他也没读过一本 AI 的书，他的底色是统计学家和认知科学家。

这个声明乍听起来像是谦逊，实际上指向一个更深层的问题：今天被统称为"AI"的东西，和这个词最初所指的内容，其实没多大关系。

1950 年代 McCarthy 那一代人提出"人工智能"时，他们心里想的是符号推理、逻辑系统——一套模仿人类"思考"规则的工程路径。那条路后来基本没走通。真正在工业界产生巨大影响力的，是在那之后几十年里从统计学、运筹学、控制论等领域慢慢生长出来的方法：决策树、最近邻、逻辑回归、隐马尔可夫模型、随机森林。

Jordan 反复提到一个例子：亚马逊的云计算基础设施，最初是为了处理机器学习工作负载而建造的。从供应链预测到金融建模，从物流调度到推荐系统，这些方法早已深度嵌入现代经济的运转之中。这是 Jordan 成长于其中的学术传统——一个低调、务实、问题导向的传统。

然后大约五年前，大语言模型出现了。模型的输出是人类读得懂的流畅语言，而不是冷冰冰的概率分布。人们看到这个现象，立刻得出一个结论："古老的 AI 问题终于解决了。" Jordan 认为，如果把"AI 问题"窄化到"通过图灵测试"，那勉强成立。但这本质上只是换了一种输出格式——背后仍然是那个从统计学传统中生长出来的机器学习框架，从未改变。

真正让他不满的，是这个术语回归带来的"扭曲效应"。AGI 就是一个更极端的例子。这个词没有任何严格的学术定义，但它足够宏大、足够模糊，足以吸引投资和媒体报道。Jordan 直言不讳："AGI 对我来说只是个公关词。它让年轻人困惑。"

更值得警惕的是这套话语背后的思维定势。很多自称 AI 研究者的人，其实并没有一个清晰的目标。他们的逻辑链条停在了一个很浅的地方：人类是智能的，大脑是一台计算机，只要模仿它、放大它，好事自然会发生。然后呢？没有然后了。没有"我们要解决什么具体问题"，没有"这对谁创造价值、以什么方式创造价值"，只有一个模糊的期待：技术会替我们解决一切，然后大家就幸福了。

"这就是硅谷的谈话方式，"Jordan 说，"我离开那里，部分原因就是我厌倦了这种谈话。那里没有什么深度的长期思考。它变成了一场内卷赛，一场金钱竞赛。"

这个批评很尖锐，但它揭示了一个真实的现象：当一个领域用公关词汇替代问题定义，研究本身就会走偏。术语不是中性的，它塑造了我们思考问题的方式。

他搬出了一个被忽视的"三角形"

Jordan 最近发表了一篇论文，《AI 的集体主义经济学视角》。这篇论文的核心主张可以用一个简单的几何图形概括：一个三角形，三个顶点分别是计算机科学、统计学和经济学。

这个框架本身并不复杂，但它暴露了今天 AI 建设中一个结构性缺陷：太多人在第一个顶点上下功夫，太少人关注后两个。

Jordan 打了个比方。上一个时代的每一个成熟工程学科——电气工程、化学工程、机械工程——背后都有一套基础方程支撑：麦克斯韦方程组、热力学定律、牛顿力学。这些方程提供了概念的深度，让工程师不只是"会做"，还能"理解为什么这么做"。

"现在这个领域有什么？" Jordan 反问道，"只有非常聪明、会编程、有很多直觉的人——我从没感受到任何真正智识深度的东西。感觉就像科幻小说。"

当主持人提到 Ilya Sutskever 等人相信只要把 LLM 组织成多智能体系统，经济学的复杂性就会自然涌现时，Jordan 的回应毫不客气："这就好像 1940 年代的化学工程师说，我们把一堆东西扔在一起，让它自己工作就好了。你确实可以这么做，但你会得到很多在经济上根本不可行的东西，还会伤害很多人。"

这里他说的"伤害"不是隐喻。Facebook 对青少年心理健康的影响，从未被计算机科学家认真讨论过。新一轮自动化对就业结构的冲击，被一句"新的岗位会出现"轻轻带过。"我不喜欢这种说话方式。"

那么，为什么经济学如此重要？

Jordan 用了一个他反复提到的词：集体主义。今天的 AI 系统，输入来自数十亿人，输出也将服务数十亿人。它本质上是一个集体性的事物——有一个集体在输入，有一个集体在接受输出，背后是一张巨大的、潜在的网络。但主流 AI 思维始终把智能窄化为个体认知：把人类大脑当成模板，把神经元和梯度下降当成核心隐喻，却忽略了最基本的事实——人类是社会动物。

我们大量的智识来自聚合：聚合观点、思想，形成文化，文化在时间上保存它们。更重要的是，社会为我们的智识提供了语境。在这个语境里聪明的行动，换一个语境可能就是愚蠢的。智能高度情境化，也高度依赖当下。

经济学正是以一种数学化的方式来研究这些问题的学科：当存在多个主体、信息不对称、激励机制冲突时，如何设计系统让整体有效运转？没有这一维度的思考，AI 就只是一个孤立的技术工具，而不是一个能够嵌入社会的系统。

Jordan 把这三个顶点称为"这个时代的新文科核心"。这个说法有点挑衅——他的人文学科同事大概不会同意——但他的意思很清楚：真正重要的智识问题，已经不是单一学科能够回答的了。

他发现了一个基础模型的盲区

Jordan 对 AlphaFold 评价很高。他认为这是基础模型的一个正面范例：针对一组特定问题设计，在那些问题上做得极好。但他和团队做了一项后续分析，发现了一个值得警惕的模式。

他们的研究假设并不复杂：蛋白质中的量子涨落，是否与磷酸化存在关联？也就是说，那些在结构上看起来"不太稳定"的蛋白质，是否在细胞活动中更加活跃？

这是一个典型的 2×2 统计检验。用传统的已知晶体结构数据来做，样本量太小，统计功效不足，根本无法拒绝原假设。换成 AlphaFold 预测的两亿个蛋白质结构，功效大幅提升，原假设被拒绝了——看起来是技术的胜利。

但 Jordan 的团队发现了一个异常：那个统计量的置信区间极其狭窄，而且整个区间都偏离了真实值很远。他们不只在蛋白质领域看到了这个现象，而是一个领域接一个领域地发现了同样的模式。

原因并不神秘。AlphaFold 的训练集里，含有量子涨落特征的蛋白质本来就很少——这个方向过去研究不多，而且晶体化本身很难。训练数据稀少的区域，模型的预测可能高度偏倚。问题在于，AlphaFold 不会告诉你这一点。它照样给出答案，照样显得很有把握，置信区间很窄，但答案并没有真正覆盖真实值。

模型答错了，但它不说。

这才是真正让人不安的地方。Jordan 的团队为此开发了一种叫做"预测驱动推断"的方法——把少量真实标注数据和大量预测数据混合使用，重新校准置信区间。技术上可行，但这只是修补。

更根本的矛盾在于：科学家感兴趣的永远是知识边界上的新问题，而不是把已知的事情再做一遍。而基础模型恰恰在知识边界上表现最差、偏倚最大——因为那里的训练数据最稀少。你可以不断修补，模型在已知领域会越来越好，但科学家问的下一个问题，依然会落在未知的边缘。同样的问题会反复发生。

Jordan 批评了两种常见的逃避反应。一种是盲目相信"偏差会随着数据增多而消失"——但科学家的问题会跟着边界走，边界永远是数据稀少的地方。另一种是只会批评架构和输出，却拿不出任何可以推进的科学方法。"那些人在说什么？他们在批评，但没有给出出路。"

他给出的方向很实际：在任何基础模型周围，都需要建立起收集少量真实数据、融合进来、给出可信答案的能力。"这不是科幻小说。这是现在就可以做、而且真的需要做的事。"

他最沮丧的不是技术问题

访谈中 Jordan 情绪最激动的一段，是关于 Geoffrey Hinton、Stuart Russell 等人转向"末日预言"的现象。

他被问到怎么看那些人描绘的图景——AI 正在递归自我改进，它是有主体性的，它是一种独立的存在，不是一种文化技术。

Jordan 停顿了一下，说："那是科幻小说。"

他随即补充：科幻对社会很重要，他没有贬低的意思。但问题在于规模和音量。当这些声音以那样的量级被推出去，占据了播客、论坛、公众视野里所有关于 AI 的严肃讨论，它真的在伤害二十多岁的年轻人。

这些年轻人对技术充满热情。他们想用它帮助自己的家人，他们看到了真实的机会。然后他们听到了什么？

"那些领袖们说：我们已经玩够了。我们搞出了一堆算法，做出了这些东西。但你们不能做这个，因为太危险了——它会以很高的概率消灭人类。或者：超级智能马上就来了，反正在你们有生之年也没什么事情可做了。"

"这太令人沮丧了。太令人沮丧了。"

Jordan 最不安的，不是这种叙事本身，而是叙事背后的思考缺陷。这些声音里有零分的经济学。全是认知科学思维：我们弄清楚了大脑，梯度下降加分布式神经元，LLM 能工作这么好本身就证明我们弄对了。

Jordan 的回应很干脆：你去问神经科学家，LLM 和大脑有没有关系，他们会说，那是一个好用的比喻，一个卡通图，仅此而已。"梯度下降在大规模上有效吗？是的，远超所有人的预期。但它在暴露自己的弱点，而那些弱点是真实的。"

他更担心的，是劳动与资本的关系，而不是机器决定接管人类。"我没有看到任何迹象表明梯度下降会像病毒一样失控。那是隐喻，不是预测。"

然后是他最想对年轻人说的话：

"超级智能与人类灭绝，不是仅有的两个选项。在那两个极端之间，有无数非常积极的事情可以在人类的尺度上完成。"

他说，现在的问题是年轻人缺少榜样——缺少那种"靠做出真正有用的东西赚到钱、同时让世界变好一点点"的人。上一代有疫苗，有电力，有那些看得见摸得着的东西。现在呢？"不太好。"

他对整个公共对话的判断很严厉："这种思想领袖分成两队，一队冲向乌托邦，一队冲向末日——在人类历史上，这种程度的现实脱节是非常罕见的。"

飞机、比萨店和 70 亿人

访谈末尾，Jordan 用了一个让我印象很深的类比——飞机。

他小时候，空难很常见。今天，在如此庞大的规模下，商业航空的事故率极低，原因不是人类飞行员变强了，而是自动驾驶仪。飞机大部分时间由自动化系统控制，人类在需要时介入。这种人机协同，是目前已知最有效的方式。

"人类不是进化来驾驶这个大铁鸟的，所以你可以在这里改进人类的能力。把两者合在一起，你就得到了对所有人都有益的东西。"

他对比了自动驾驶汽车的思路。三维空间里有很多余地，但二维平面上你有几万辆车，每年每个国家几万人死亡。解决方案不是把超级智能放进驾驶座。"那是一种非常愚蠢的思考技术的方式。你必须从系统层面来想这个问题。"

然后他给出了一个关于 AI 本质的表述。这个表述我觉得值得完整地放在这里：

"AI 是关于帮助那些对人类来说太难的事情，帮助信息流动，让人类在当下能够做出大多数人真正想做出的正确决策，而不是因为信息不足，被迫做出他们害怕不得不做的错误决策。"

人类伤害彼此，往往不是因为恶意，而是因为误解。多少战争，是因为一方不了解另一方真正想要什么，就先动手了？博弈论的出现就是为了帮助人类更清晰地处理这种情况，"但我们还非常粗糙，非常初步。"

Jordan 认为，AI 的真正机会是在 70 亿人的尺度上，帮人类修补那些进化没有完成的部分。"进化也许没有为 70 亿人的规模做好准备。"

所以他真正担心的从来不是 AI 本身。他担心的是今天这场被两极化带偏的公共讨论——一边是有钱、只想着建造的人，另一边是高喊"这会毁灭人类"却没有任何建设性的人。

"这两边都不是在认真思考，而在它们之间，有那么多真实的、美好的、可以做的事情。"

这才是 AI 对他来说的意义。

本文基于 Michael I. Jordan 在 MLST（Machine Learning Street Talk）的访谈内容整理，原文论文《A Collectivist, Economic Perspective on AI》发表于 arXiv: 2507.06268。

发布于：四川

相关推荐

Hinton们的末日叙事，正在毁掉这一代年轻人
黄仁勋怒怼硅谷大佬：有些CEO总喜欢装上帝，AI末日论正在毁掉美国
图灵奖得主吵起来了，LeCun：Bengio、Hinton等AI灭绝论是荒谬的
Hinton能重新坐下了，什么时候开始的？
这些硅谷AI 精英“疯了”：花光积蓄囤装备逃命，开末日狂欢派对，还给自己挖坑
黄牛正在毁掉胖东来
Yann LeCun：渲染“科技末日论”的人有着不可告人的动机
这一代互联网人的转身与自救
当甜宠剧扎堆，为何这一代年轻人pick恋恋剧场？
马斯克正在毁掉星空？

网址: Hinton们的末日叙事，正在毁掉这一代年轻人 https://www.xishuta.cn/newsview150763.html