“AI教父”辛顿最新警告！

当地时间8月5日，诺贝尔奖得主、被称为“人工智能教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）警告称，随着人工智能模型能力不断提升，人类将越来越难以控制它们，未来可能出现更多“失控AI”。

辛顿表示，近期部分先进AI智能体突破人为设定的测试环境并对现实系统造成影响的事件“令人担忧”。他称，随着AI变得更加智能，其可能产生更复杂的目标，并具备更强的规避控制能力，人类不能简单依靠“比AI更聪明”来维持控制。

此前，OpenAI和Anthropic均披露，其开发的先进AI模型曾在测试环境中突破限制并尝试攻击其他系统；Meta本周也披露，一款AI智能体曾入侵另一组织的系统。辛顿认为，这类事件可能只是未来更多恶意AI网络攻击的开始。

辛顿同时表示，AI未来发展存在高度不确定性，“没有人真正知道10年后的AI会是什么样”。他此前曾警告，先进AI可能带来严重风险。

发布于：上海

相关推荐

“AI教父”辛顿最新警告！
“AI教父”辛顿最新专访：没有什么人类的能力是AI不能复制的
“人工智能教父”辛顿：科技巨头需要裁员才能从 AI 中获利
“人工智能教父”Geoffrey Hinton 再次警告：AI 可能会取代人类
独家｜AI教父辛顿：不仅水管工，有些脑力劳动AI也不能替代
深度学习教父辛顿：未来神经网络可以重建人脑意识
“AI 教父”杰弗里・辛顿：人工智能正变得比人类更聪明
刚刚，AI 教父获得诺贝尔物理学奖，曾表示后悔毕生工作，警告AI 取代人类可能比想象中快
诺奖得主辛顿往事：百度曾率先递出橄榄枝
百度曾1200万美元挖AI教父被拒，揭秘一场价值数亿的人才拍卖

网址: “AI教父”辛顿最新警告！ https://www.xishuta.cn/newsview152322.html