首页科技快讯对谈田渊栋：下一个牛顿，还是人类吗？

对谈田渊栋：下一个牛顿，还是人类吗？

来源：晰数塔互联网快讯时间：2026年08月09日 19:25

大模型现在还不是科学，但它终将变成科学。

文丨程曼祺

“理想主义气质” 由什么构成？它又如何与 “固执” 区分？

作为一名 AI 研究者，田渊栋过去多年的选择和表达都与主流保持着距离。

他不止一次说：如果 Scaling Law 就是未来的全部，那会是一个悲观而无聊的未来。

这不仅是因为 Scaling Law 获取智能的方式耗能巨大，更因为这个未来少了 “智识上的突破”。

除了从海量数据中学到一种稳定的模式，宇宙中至少还有另一种更高效的学习方式：从少量的数据中捕捉精准而细微的联系，产生新知。

优秀人类研究者的这种能力，未来会不会发生在一个 AI 系统上？

这是去年下半年以来田渊栋正在做的事。离开 Meta 之后，他与前 Salesforce 首席科学家 Richard Socher，长期研究开放式学习和自我改进的 Tim Rocktäschel、Jeff Clune 等人联合创立 Recursive Superintelligence，希望让 AI 自己改进 AI。Recursive 公司目前估值 46.5 亿美元。

今年春天至今，相似的想法逐渐成为硅谷最受关注的方向之一，它被概括为 RSI（Recursive Self-Improvement）递归自进化或 Autoresearch 自动化研究。

Anthropic 发布长文《当 AI 建造自己》（When AI Builds Itself），梳理他们当前在 RSI 上的进展；Thinking Machines Lab 联创翁荔重回 OpenAI，据报道将负责 RSI。最近半年浮出水面的相关创业公司还有 OpenAI 前研究副总裁 Jerry Tworek 联合创立的 Core Automation 和 Anthropic 前 Discovery 团队联合负责人 Behnam Neyshabur 创立的 Mirendil 等。

上周三（8 月 5 日），Jeff Dean 也加入了。在 Google 任职近 27 年后，他卸任 DeepMind 和 Google Research 首席科学家，与 3 名老同事成立了公益公司 Discovery Loop，致力于让 AI 研究自动化，加速科学和工程创新。

一种推论是，AI 研究变得更自动化，关键在于模型 coding（编程）和 agentic（智能体）能力的大幅提升。如今掌握最强编程和智能体能力的 OpenAI 和 Anthropic 将继续领跑 RSI。而且一旦越过系统自我进化的关口，领先者只会越来越强。

选择创业来做这件事的田渊栋，看到了另一种可能。他认为现在的大模型仍是一个黑箱，还不是真正的科学，但它终将成为科学。找到黑箱背后的基本原理，可以帮助模型变得更强，也更安全：

也许我会是把它做出来的那个人呢？我觉得至少应该试一下。你要先有这样的想法，才会去做，否则很容易随大流。

特别的目标，往往导出特别的路径。田渊栋相信，要突破对 AI 的现有理解、继续推进 RSI，不只靠 coding，不只有 scaling law。

6 月上旬，Recursive 公司释放了第一批具体成果，用同一个 AI 系统，在 3 个基准测试上取得了 SOTA（最佳表现），分别涵盖提升模型性能、提升训练效率和 Infra 中的算子优化。

理想主义与固执的边界，会不断被阶段性的反馈校正。现在，田渊栋把他的相信变成了一场会持续发生的实验。

Coding Agent 足够强后，研究品味变得更重要了

晚点：去年下半年，你和数名研究员一起创立了 Recursive Superintelligence，简单来说，这家公司想做什么？

田渊栋：就是探索怎么用 AI 让 AI 自我进化、自我迭代，找到新的模型训练范式和逻辑，得到更好的 AI。

晚点：这是最近硅谷热议的一个方向 Recursive Self-Improvement，递归自进化。刚好你们公司的名字缩写也是 RSI。

田渊栋：对，很接近。RSI（递归自进化）从今年 4 月、5 月开始慢慢变火。不过我们去年成立公司时，大部分人还没想过这个概念。

晚点：变化怎么发生的？

田渊栋：主要还是模型的 coding（编程）能力变强了，整体能力也在提升。达到一定程度后，模型对 AI 自身有了更强的理解，你就可以让模型充当研究员，找到模型的弱点，再针对性优化。闭环一旦形成，模型就能在下一轮 loop（循环）里变得更强。

晚点：去年 5 月我们聊时，你还认为 AI 短期内不会取代顶尖研究员，因为顶尖人类研究员可以从少量数据里捕捉精准而细微的联系，而大模型要学大量复杂数据，通过统计得到一种表达。为什么现在想法变化了？

田渊栋：我现在仍然认为大模型还取代不了顶尖的人类研究员。但当模型能力达到一定程度后，它确实可以承担一部分研究工作。

一个契机是去年 8 月，我和当时的 GPT-5 合作完成了那篇 Grokking 的工作（注：一个解释模型如何产生 “顿悟” 的研究）。做完之后我意识到，模型已经强到让我不再需要实习生了。很多想法都可以通过我和模型对话来实现：我给它思路和方向，它可以改进新思路、证明新定理，代码和实验也可以交给 AI。这个研究闭环已经开始转起来了。

那时我觉得，也许 5 年后我就会被取代。与其等着自己被取代，不如开一家公司来做这件事。

晚点：去年 8 月你看到这个迹象时，业界有多少人有这种想法？

田渊栋：不多。这件事如果不亲手实践、亲身体验，是感受不到的。

这里有一个 gap：比较资深的研究者一般不会自己处理特别细节的问题，更多是考虑一些 high-level 的想法，不会真的用模型完成具体项目。而刚从学校毕业的学生则可能只把模型当成执行工具，不会用它挑战特别难的问题。

晚点：这是不是意味着，更有经验的人现在会得到更好的发挥？

田渊栋：我觉得是的，当然这也有很多争议。

在 coding agent 还没达到人类水平之前，年轻人优势明显，他们冲劲足，决策、执行很快，很多时候不用想太多，上来就干。过去 3 年基本都是这样，我们就 scale up（扩大规模），scale、scale、scale，干就完了。大模型得以快速发展。

而 coding agent 来了之后，一些多年不怎么写代码的人又重返一线，觉得 “爷的青春又回来了”。相当于执行的重任落在了 AI 身上，人更多是做判断。这时，方向选择、直觉、经验和研究品味就变得更重要了。

RSI 比 Coding 大得多

晚点：近期 Anthropic 和 OpenAI 都在明显加码 RSI：Anthropic 发布技术博客《当 AI 建造自己》（When AI Builds Itself），副标题就是 “我们在 RSI 上的探索和进展”，披露了一些内部成果：比如在人类设定问题和评分标准后，Claude 的研究 agent 累计运行约 800 小时，追回了 weak-to-strong 97% 的性能差距，作为对比，两名人类研究者用一周追回了 23%。OpenAI 再次重申时间表，说今年 9 月要做出 AI 研究实习生。怎么看这些具体动作？

田渊栋：Anthropic 目前展示的基本还是提效和加速，是代码层面的自进化，它是在一些有明确问题框架和指标的任务里，组合各种相对常规的方法，把分数做得更高。他们之前的一些工作也是如此，比如（让 AI）从头写一个 Linux、一个 C++ 编译器，这些事情虽然繁重，但路径清楚、有章可循。

这是自我进化的第一层：先把大问题拆成子任务，再看 AI 能不能在这些任务上自己越来越好。这个阶段要需要有可量化的反馈指标，它可能体现为性能提高、速度提升或延迟降低。

而我觉得更难的是研究，很多研究问题，连人都不知道怎么解决，它们需要突破性的进展或发现，AI 现在还很难完成这类工作。

晚点：现在有这样一种推论——RSI 非常倚仗 coding 和 agentic 的能力，而 OpenAI、Anthropic 在这方面最有优势，所以 RSI 的机会仍属于他们，你同意吗？

田渊栋：我觉得 RSI 比 coding 要大得多。

晚点：指问题空间还是市场规模？

田渊栋：问题、难度、可能的实现路径都比 coding 要大很多。coding agent 只是一个执行者。

晚点：除了 coding，RSI 还需要什么？

田渊栋：一个很重要的能力，是成为 AI Scientist（科学家）所需要的研究品味、方向感、理解力，以及对问题的抽象能力——能从纷繁复杂的表象中抽取概念，加以总结和思考，再应用到一个新的问题上。

这种能力大多数人也不具备，它属于广义的推理能力，但只用 reasoning（推理）也很难概括，也许可以描述为创造力，就是人的 Grokking（顿悟）。

晚点：类似我们之前说的，从少量样本中发现精准而细微的联系？

田渊栋：对，这是人类相对大模型的重要优势。大模型现在能力强，主要还是因为有大数据。对于常见、重复的领域，它能从海量数据中学到稳定的模式。

但科学研究面对的往往是数据很少、不断出现的新问题，以前没有固定模式可参考，AI 就很难找到答案。计算机科学里很多工程问题和应用研究，已经有成熟的实践和方法，AI 可以继续往前推；但真正开创性的问题则不一样。

晚点：举例而言，具体哪些问题需要这种能力？

田渊栋：一个明显的例子是理解模型本身：它怎么从数据中学到模式？怎么把模式拓展到其他方向？怎么认识世界、产生涌现？

这个问题没有现成的数据集，也没有统一的理解方式。从 2013、2014 年开始，很多理论研究者尝试用数学、物理的不同方法解释深度学习，包括重整化群（研究规律如何随尺度变化）、自旋玻璃（研究复杂无序系统）、神经正切核（近似描述神经网络的训练过程）、常微分方程、高斯过程（一种对函数进行概率建模的方法）等等，但都没有特别令人满意的结果。

一种全新的理解，可能和过去所有方向都不一样。这时就很难让 AI 照搬已有逻辑来完成。

晚点：但过去这么多年，AI 可解释性研究受阻并不影响 AI 的快速发展。RSI 一定要解决这些深层理论问题吗？

田渊栋：这就是 RSI 好的地方，它不像无人车，要么是 0，要么是 100。RSI 有很多级台阶，初级阶段就可以优化算法、提高性能，产生实际价值。再往上，可能挖出更深的东西，价值也会更大。最终的目标，是希望 AI 能像爱因斯坦或牛顿一样，从很少的样本中获得很深的知识。这非常难，但即使没有达到最高一级，前面的每一级也都有很多应用。

“强者愈强” 的变数：智能是平滑上升的，还是阶段式跳跃的？

晚点：RSI 火热的背后有一个假设——谁最先达到这个状态，就会把其他人越甩越远，而且这件事又有窗口期，如果在一定时间内做不到，就无缘决赛圈了。你觉得这个逻辑有什么漏洞吗？

田渊栋：这个逻辑基本正确。但有一个变量，就是智能提升究竟是平滑、渐进的，还是阶段式跳跃的。

如果是前者，那初创公司没什么机会，OpenAI、Anthropic 已经领先，它们会逐渐接近 RSI，它比你快一点，它就会比你快更多，这样任何一个创业公司都不可能追上。

如果是后者，初创公司有一定空间。因为智能可能沿着 S 曲线向上，中间会有阶段性的平台期，需要找到新的方法和思路才会到下一阶段，而在那之前，一批头部公司的能力会十分接近。

我觉得是有平台的，否则我也不创业了。

晚点：你这个想法现在主流吗？

田渊栋：不主流。我相信 scaling law 不是全部。为了推进它，你可能需要 10 倍的计算资源、10 倍的数据才能换来线性的性能增长。现在算力、数据和电力都已开始遇到瓶颈。你不可能把整个地球的电力都供给一家公司做自我进化，所以一定要寻找更好、更有效率的方法。

晚点：你之前说过，如果 scaling law 就是未来，那会是一个比较悲哀的未来。

田渊栋：也很无聊，因为没有智识上的新突破。我还是相信会有质的变化。RSI 这个 loop 可以在不同模型上运行，但支撑它的底层架构、数学原理和模型结构应该会发生突变。

晚点：是否达到 RSI 后会强者愈强，还有一个变量，就是智能未来的空间还有多大。

田渊栋：空间是很大的，我们才刚刚开始。就像我那本小说《破晓之钟》里写的，我们刚刚看到一点点星光，天还没有真正亮起来。

我们毕竟是从生活在地球上的可怜的猴子演化而来的生物，过去看到的东西都比较粗浅。这个世界应该还有很多事情可以做，只是我们现在看到得太少，还看不到很远的未来。

3 个基准上的 SOTA，意味着什么？

晚点：6 月 11 日你们发布了第一批具体成果，展示了在 3 个基准测试上取得的 SOTA（最佳表现）成绩，这是一些什么进展？

Recursive Superintelligence 的技术博客全文 First Steps toward Automated AI Research 地址：
https://www.recursive.com/articles/first-steps-toward-automated-ai-research

田渊栋：我们测试了三个方向：第一个是优化 NanoChat Autoresearch，在限定 5 分钟训练时间的情况下，把 BPB（每字节比特数，数值越低越好，代表压缩能力越强）降到了比社区之前的最好成绩更低；第二个是 NanoGPT Speedrun，进一步缩短模型训练时间；第三个是算子优化，在英伟达的 SOL-ExecBench 上超过了此前的 SOTA。这些成果本身都已经开源。

晚点：这三个测试是用同一个系统完成的，还是要针对不同任务做优化。

田渊栋：是同一个系统直接跑的，它们分别涉及提升训练性能、提升训练效率和 Infra 优化。几个任务的共同特点是反馈比较快，有明确指标，系统可以快速跑起来、不断迭代。这也是我们选择它们作为 first steps 的原因。

晚点：3 个 benchmark 都取得了 SOTA，但绝对数的改进很小，这是为什么？

田渊栋：其实不是这样。拿算子优化来说，这个方向一开始是我带的，我们战胜了第二名 doubleAI，这是一家以色列初创公司，是 Mobileye 创始人 Amnon Shashua 重新创业做的（Mobileye 是一家自动驾驶芯片公司，2017 年以 153 亿美元被英特尔收购）。我们的结果比他们领先了约 10%，相当于我们借助一个 RSI 系统超过了业界顶尖的专业团队，这是一个很好的结果。

NanoGPT Speedrun 也是一样。社区已经在这个 benchmark 上优化了两年，把训练时间压到了 79 秒，继续提高非常困难。我们又把它缩短了约两秒。这个绝对数字不大，但在一个已经被长期打磨、接近极限的指标上，这是比较明显的进步。

晚点：NanoChat Autoresearch 和 NanoGPT Speedrun 都是小规模模型上的测试，当你们的系统迁移到更大的模型和更复杂的架构上时，会有多大的 gap？

田渊栋：还是会有一些 gap，我们也在继续做。接下来也会扩大改进的范围，比如改进 RL（强化学习），预训练、后训练都会做。

晚点：你们有一个关于 RSI 的长期路线图吗？比如第一阶段做什么，第二阶段做什么？

田渊栋：目前没有划分得很明确。OpenAI 也是在成立 8 年后，才提出了 AGI 的 roadmap。

现在的逻辑是，先做一个能够自我规划、自我迭代的通用系统，再看它在哪些方向上表现特别好，能不能进一步应用于 AI for Science 或其他问题。

晚点：你们现在怎么获取训练 RSI 系统所需的数据？

田渊栋：这是个没有定论的问题，我们也不方便透露太多。

晚点：你们首轮融资 6.5 亿美元，算力资源够吗？

田渊栋：现阶段还可以，但比几家前沿模型公司和巨头都少得多。所以如果完全拼 scaling law，小公司肯定打不过大厂。RSI 要走下去，还是需要 scaling law 之外的创新。

大模型现在还不是科学，但它终将成为科学

晚点：关于 scaling law 之外具体有什么，现在有什么想法可以分享？

田渊栋：一个大的方向是可解释性。可解释性很重要，这意味着你真正知道模型在做什么——哪些部分在起作用，模型调用了什么能力、获得了什么知识，又是怎么得到结果的。它可以帮助我们发现很多 insight，让模型变得更强，也更安全。

晚点：但有些从业者已经不追求解释性了，或不觉得这件事有必要。

田渊栋：我可能是少数派。不少人已绝望了——大模型那么复杂，应该是没希望了解它里面在干什么了。但我不这么认为，我相信一定存在一个好的 principle（原理），能够解释模型为什么这样运转。

晚点：你的信心来自何处？

田渊栋：过去十几年，我一直在做一些理解神经网络训练算法的研究——AI 是怎么学会各种知识和模式的，梯度下降怎么影响神经网络的动力学，模型内部的权重怎么形成……

一开始很不顺，但从 2020、2021 年之后，我的分析和理解越来越深，有很多本来想不通的问题想通了，我觉得也许继续往前走是对的。

晚点：但过去这么多年的这类工作的进展都比较有限，尤其是这也并不影响模型训练本身的突飞猛进，这不影响你的信心和动力吗？

田渊栋：也许我会是把它做出来的那个人呢？我觉得至少应该试一下。你要先有这样的想法，才会去做，否则很容易随大流。

晚点：现在还在追求可解释性的人多吗？你的同行人有哪些？

田渊栋：应该说不多。这一轮 AI 热潮之后，很多做理论、模型分析和可解释性的人都加入了 OpenAI 或其他模型公司，“打不过就加入”。Mirendil 创始人 Behnam Neyshabur（ Anthropic 前 AI 科学推理团队联合负责人，今年 6 月宣布创立 RSI 初创公司 Mirendil）以前也是做理论、模型分析和理解的，他之前经常和普林斯顿的 Sanjeev Arora 合作，有很多不错的研究。

当然，加入大模型公司的原因有很多。有人是希望用更强的模型和算力来继续自己的研究；有人是放弃了原来的研究，觉得 scaling 就是一切了。

我还是希望人类保留一些多样性。如果所有人都相信 scaling law 就是一切，那实际上非常无聊。

晚点：听起来，你想把 AI 变成一门科学？

田渊栋：对，这可能是我的一个 dream 吧。现在的 AI 还很难说是一门真正的科学，但它终将成为科学。历史不会重复，但会跟过去的一些过程呼应。

晚点：AI 终将变成科学，这跟以前历史上的什么过程呼应？

田渊栋：从第谷做天文观测，到开普勒总结经验性规律，再到牛顿提出原理，现代科学诞生。

牛顿以前，大家可能觉得这些现象太复杂了，无法解释，而等原理被提出后，又会发现它其实很简单。这个过程一定会在 AI 上发生。

晚点：你觉得下一个牛顿还是人类吗？

田渊栋：不一定，可能是人类加 AI，也可能是 AI。为什么要做 RSI？就是这个原因——如果想把 AI 真正变成科学，就要用上最强的计算资源和最强的大脑，既包括人的大脑，也包括 AI 的大脑。

晚点：我们有生之年会看到图灵奖颁给一个 AI 系统吗？

田渊栋：真到那时，图灵奖也没那么重要了。AI 会变成一个知识发现系统，每隔一两个月就产生新的知识成果。

晚点：那时人类研究员或科学家还会有什么乐趣？比如你会在干什么？