首页科技快讯我们距离RSI还有多远？来自AI一线的观点

我们距离RSI还有多远？来自AI一线的观点

来源：晰数塔互联网快讯时间：2026年09月15日 14:21

（来源：网易科技）

AI递归自我改进（RSI）的时间表，正成为业界最具争议的核心命题。

在播客主持人Dwarkesh Patel与三位AI研究者的深度对谈中，OpenAI联合创始人、现Thinking Machines首席科学家John Schulman预判：距离AI在所有可在计算机上完成的认知工作中全面超越顶尖人类专家，可能只需3至4年。与此同时，三人一致认为，在AI研究者生产力提升方面，两年内实现10倍效率提升具有相当的可信度。

然而，通往RSI的道路并非坦途。对话揭示出一个核心矛盾：当前AI体系在"做什么"方面已接近人类水平，但在"决定做什么"这一更高层次的目标设定能力上，仍面临根本性挑战。三位研究者的判断在多个关键问题上出现分歧，反映出这一领域深层的不确定性。

RSI的技术瓶颈在哪里

参与对话的三位研究者分别是：John Schulman、Zyphra首席技术官Beren Millidge，以及模型训练平台Baseten模型训练负责人Charlie O'Neill。

在被问及2036年若未出现"超级智能大爆炸"最可能的原因时，三人给出了不同侧重的答案。

Beren Millidge将其归结为"类莫拉维克悖论"的延续——AI可能在所有基准测试上表现卓越，但始终存在某种难以跨越的"仿真到现实的鸿沟"（sim-to-real gap），使其无法真正渗透现实世界。John Schulman则指向一个反复出现的周期：新模型发布时令人震撼，但使用一段时间后又开始"显得迟钝"。他认为，这一循环可能比预期重复更多次，因为模型在研究和工程领域仍受制于自身判断力的不足。

Charlie O'Neill提出了更深层的架构问题：当前以Transformer加强化学习为核心的范式，距离理论上"芯片可承载的最优学习者"究竟有多远？他以摩尔定律类比——这条增长曲线看似平滑，背后实则依赖无数离散的技术突破。如果AI想变得更聪明，光靠现有的技术路径（比如现有的大语言模型）已经不够了，必须发明出全新的底层技术；但尴尬的是，现有的AI可能根本没这个本事帮我们把新技术发出来，结果导致AI的发展直接撞上天花板、停滞不前。

人类最后的护城河

John Schulman认为，即便AI承担全部技术工作，定义"我们到底想要什么"将是人类最后坚守的阵地。他将这一能力称为对齐（alignment）的第一要素——"目标规格化"，即确定正确目标应是什么，而非仅仅实现一个已给定的目标。"后训练团队需要大量人员，根本原因是模型在无数场景下的行为方式必须由人来判断。"

Charlie O'Neill进一步区分了两类研究：一类是目标清晰、可量化优化的"自动化研究"；另一类是推动范式转变所需的"开放式科学"——在这类研究中，目标本身无法被预先指定。他以GPT的诞生为例：从DeepMind"通过游戏解决智能问题"的路径，到Alec Radford选择"预测大规模文本的下一个token"，这一跳跃并非优化的产物，而是人类直觉的闪现。AI系统能否复现这类跳跃，目前没有人有答案。

Beren Millidge将这一问题提炼为RSI的核心挑战："要让AI进入自驱动循环，它必须能提出目标、优化目标、判断结果，再提出新目标，并且这一循环长期不脱轨。"他警告，这或许是另一个版本的莫拉维克悖论——对人类而言最自然的自主性，对AI而言可能恰恰最难复制。

持续学习：模型能否从部署中进化

对话中一个反复被追问的问题，是推理计算是否应当反哺模型训练。Charlie O'Neill以Cursor的Composer为例，描述了一种更实时的闭环：模型每五小时评估一次在内部基准上的表现，若有改善则部署，若没有则丢弃该版本。

然而，当这一循环被放大到微观层面——针对单一企业、单一任务持续进行小批量更新时，问题便接踵而至。Charlie O'Neill指出，无论是监督微调（SFT）还是在线策略蒸馏，在迭代到数百次微更新后都会出现"灾难性遗忘"——模型开始丧失更早习得的通用能力。RL（强化学习，Reinforcement Learning）更新对模型权重的改动幅度极小，在保留通用能力方面表现更优，但正因如此，它能注入的新知识也十分有限。

Beren Millidge将问题归结为塑性（plasticity）与稳定性的根本张力："如果你无限期地在同一个基模型上持续训练，它会在某个点渐近饱和。这就是为什么人们最终还是要重新训练新的基模型。"三人预计，这一循环将随时间加速：从每三个月发布一次新模型，到每周、每天，乃至每小时——届时，连续学习的问题才算真正得到解决。

强化学习为何奏效：超出预期的原因

在对话的技术核心部分，三人尝试解释强化学习为何比一年前业界的普遍预期更为有效。

Beren Millidge将答案分解为两个层面。首先是被严重低估的中间训练阶段（mid-training）——大量合成推理数据的注入，已将模型推进至最终强化学习检查点80%的位置。强化学习本身做的，是在这个高质量起点上进行策略微调，而非从零开始习得行为。更关键的是信噪比问题：SFT要求模型精确匹配训练数据中每一个推理token，大量"噪声比特"淹没了真正重要的信号；而RL只传递"答对了还是答错了"这一比特，使有效信号获得极大的放大。

Charlie O'Neill则以"量子相变"类比预训练的平滑损失曲线背后隐藏的离散跳跃。他认为强化学习同样如此：在单个任务上，模型可能经历从0.5%到90%通过率的相变，但当数十个任务的相变被平均，加之"时间跨度泛化"（horizon generalization）效应，便呈现为宏观层面的持续进步。

John Schulman则指出RL带来能力的同时也带来了多样性损耗——经过RL训练的模型会反复使用相同的叙事主题和人物名称，创意写作的分布宽度明显收窄。更值得警惕的是，由于大量开源模型都在蒸馏Claude，"所有开源权重模型都写得像Claude，有着相同的语言习惯"，这种"单一文化的涌现"令他感到担忧。

时间线预测：从远程工作者到ASI

对话最后，三位研究者给出了一组快速预测。

实现全能白领远程工作者（能在一个月内无缝执行复杂项目、与他人协作的AI）：Charlie O'Neill预计约一年，前提是任务环境有良好的程序化接口；若依赖浏览器操作，则约两年。Beren Millidge给出三年，理由是真实工作中仍存在大量零散的长尾任务。John Schulman认为大致一年内会出现可用版本，但"能做某些事很好，另一些事不那么好"。

AI研究者实现10倍生产力提升：John Schulman给出两年，Beren Millidge表示认同；Charlie O'Neill则认为需要5至10年——他的核心顾虑在于，自己消化信息、做出贝叶斯最优实验决策的能力，是真正的瓶颈所在。

实现全域认知工作超越顶尖人类专家（即ASI）：John Schulman给出3至4年，认为AI研究是"对AI而言相对不那么难的任务，因为涉及大量代码和数学"；Charlie O'Neill则说5至10年，并明确表示"自动化AI研究基本等价于ASI"——因为世界上太多任务需要持续学习和超长上下文整合，而这些能力目前仍是系统性短板；Beren Millidge认同5年区间，但提醒将存在大量"AI理论上能学但没人分配算力"的长尾领域，这些领域的突破将延迟更久。