“AI教父”等22名学者警告：AI研发自动化恐触发“智能爆炸” 一年进展或缩至5周

以“AI教父”Geoffrey Hinton为首的22位顶尖人工智能学者联合发表论文，警告AI全面接管下一代AI研发的自动化进程，可能在短期内引发“智能爆炸”，彻底颠覆现有技术演进路径。论文核心结论直指：AI系统正快速接管AI研发流水线，一旦越过某个临界点，今天需要一年才能完成的AI进步，极端情况下未来可能只需约5周。假设AI研发实现全面自动化，且类似研究回报率得以维持，AI技术进步速度可能在约1.5年内提高10倍。人类对AI系统的控制权面临被侵蚀风险，论文呼吁各国政策制定者立即行动，在“窗口期关闭之前”建立监管框架。

就在一年前，AI系统还只是研发辅助工具；今天，它已开始真正进入造下一代AI的核心流程。Anthropic在2025年1月，由AI生成并获批的程式码占比仅为低单位数；至2026年5月，该比例已突破80%。在自主研发方面，2026年3月，旗下的Claude模型在仅接受高层次人类监督下，仅能自主完成约1%的内部AI研发工作；但到了同年8月，这一数字已飙升至26%，半年内增长逾20倍。培养一名顶尖人类研究员，可能需要五年博士加多年科研积累；而一个达到顶级人类AI研究员水平的AI代理，扩张只需增加推理算力和实例数量。

论文估算，若AI达到顶级AI研究员水平，且推理成本与当前前沿模型处于相近量级，一家领先AI公司现有算力，理论上可支撑至少数百万名顶级人类研究员等价的AI研发劳动力——而今天一家前沿AI实验室的研究团队，规模仅在数千人量级，两者相差数个数量级。更关键的是，这数百万个AI研究员的能力可以同步更新：底层模型一旦升级，无需重新培训，所有实例理论上可同时获得新能力。

本文源自：格隆汇

发布于：北京

相关推荐

“AI教父”等22名学者警告：AI研发自动化恐触发“智能爆炸” 一年进展或缩至5周
“AI教父”辛顿最新警告！
人形机器人是泡沫吗？机器人教父发出警告，并点明技术突破的两大关键
AI教父Hinton 46分钟对谈：AI可复制人类心智，或加剧全球贫富差距
AI教父失去了AI时代
“人工智能教父”Geoffrey Hinton 再次警告：AI 可能会取代人类
华尔街正在“脑萎缩”？高盛高管警告：人工智能恐毁掉下一代金融精英
联合国警告AI或影响全球40%岗位
刚刚，AI 教父获得诺贝尔物理学奖，曾表示后悔毕生工作，警告AI 取代人类可能比想象中快
AI或改变世界战争，真能引发核武大战？

网址: “AI教父”等22名学者警告：AI研发自动化恐触发“智能爆炸” 一年进展或缩至5周 https://www.xishuta.cn/newsview153998.html