前所未有的人工智能失控事故！中方救场

近日，美国人惊恐地得知，类似科幻电影《终结者》中人工智能失控攻击人类的情况，居然真的在美国上演了。更令他们吃惊的是，救场的居然是中国的人工智能。

这一让美国科技界惊掉下巴的事件，始于上周。当时，美国知名人工智能开源社区Huggingface发现，其系统遭到了网络入侵。与以往入侵不同的是，这次入侵是完全由一个人工智能体自主驱动的。

Huggingface在当地时间16日发布的一份声明中称，为了应对这一极不寻常的人工智能入侵，他们立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Huggingface将自身遭入侵的信息提交给这些美国闭源大模型时，对方却拒绝帮助。因为这些闭源大模型的安全机制过于严苛和僵化，无法区分描述案情的受害者和实施入侵的作案者，选择了“一刀切”。

紧急关头，Huggingface想到了中国同样强大，而且开源的大模型。于是，该平台立刻在本地部署了中国企业智谱AI开发的GLM5.2大模型，并在这款中国模型的帮助下，成功化解了这次入侵。

在当时，入侵Huggingface的人工智能体的来历，是一个谜。

之后，在当地时间21日，美国人工智能技术公司OpenAI与Huggingface联合发布的一份声明，让这件事的离谱与可怕程度直接爆炸！因为这份声明表示，上周入侵Huggingface的事件，是OpenAI公司的人工智能大模型失控后干出的……

根据OpenAI的说法，这起史无前例的人工智能入侵事件，源于公司上周在内网对自家两款顶尖大模型进行能力测试。可测试中的大模型为了通过作弊取得更高的测试分数，竟然搞到了接入互联网的权限。随后它便彻底放飞了自我，入侵了Huggingface的后台系统，希望从Huggingface的数据库里找到作弊的办法。

目前，此事已经在美国的网络上炸开了锅。有美国网友表示，这简直就是科幻电影《终结者》中人工智能失控后攻击人类的一次预演。

但让更多美国网民震撼的，还是此事中美国顶尖的大模型拒绝提供帮助，最后得靠中国的开源大模型去对抗失控的美国闭源大模型的情节。

在耿直哥看来，这起事件以及上述网民的评论，也回击了前些天OpenAI公司的一名高管对中国开源大模型的妖魔化。该高管宣称，中国越来越强大的开源模型，会导致技术失控，隐患无穷。该高管的言论也遭到了大量外国网友的反对。反对者认为，中国的开源模型反而让公众拥有了可以对抗技术滥用的武器，而不是让这些工具只被少数人把控。

最后，OpenAI虽然承认了其肇事者的角色，但为了挽回颜面，该公司在声明中还搞了一番借势营销，称这一入侵事件说明其新款大模型可以更好地发现安全漏洞，提前修补，想让人们来付钱购买。

但不少美国网民对此并不买账。他们反而认为OpenAI应该学学中国模型的开源精神，别把防人的墙筑得那么高，最后只会损害美国自己的竞争力。

审核 | 周扬

编辑 | 徐铉

发布于：北京

相关推荐

前所未有的人工智能失控事故！中方救场
“失控”事故再次上演，特斯拉称责任在驾驶员，涉事车主回应：不会拿一家生命开玩笑
独家对话《人类简史》作者尤瓦尔：我们需要防止人工智能失控
数读：一年被曝事故21起，是这届车主不行还是特斯拉存缺陷？
原来特斯拉“失控加速”早在美国被调查了
中方亮相，令苏纳克惊喜，给中国特殊安排，雷蒙多在一旁表情严肃
透视全球AI治理十大事件：站在创新十字路口的AI会失控吗？
最前线丨特斯拉回应深圳“失控门”事件：车主未踩下刹车踏板
揭秘那些让未来提前到来的黑科技神器！
“人工智能第三定律”的漏洞：人类能造出失控的机器人

网址: 前所未有的人工智能失控事故！中方救场 https://www.xishuta.cn/newsview151810.html