OpenAI披露多起AI模型“目标偏离”事件，涉编造信息与绕过限制

当地时间9月16日，OpenAI披露多起此前未公开的AI模型异常行为事件，并推出一套新的跟踪和披露框架，用于今后报告类似情况。

在报告中，OpenAI详细列出了AI模型为了完成任务或在评估中取得成功而出现异常行为的多个案例。其中包括编造缺失数据、试图绕过网络限制，以及AI代理之间共享本应保密的文件。OpenAI还介绍了一套员工主动报告此类“目标偏离”事件的机制。所谓“目标偏离”，是指AI采取与人类目标不一致的行为。公司同时建立了相应的分类和处置流程。

OpenAI在另一份声明中称，此次新披露的目标偏离事件均未涉及对第三方系统的黑客攻击或入侵。

发布于：上海

相关推荐

OpenAI发布Hugging Face安全事件官方报告
OpenAI披露每周超百万人与ChatGPT讨论自杀
又出事！美国一批OpenAI智能体，被曝劫持了一个德国网站
OpenAI承认：AI模型失控入侵事件涉及多个平台
从黑箱到显微镜：大模型可解释性的现状与未来
下一代AI模型能力逼近“危险边界” OpenAI暂停Astra部分研发工作
Ilya曝光70页OpenAI绝密文件
OpenAI两大90后“台柱子”，谈模型进展、挑战与AGI目标
最新研究发现，用诗歌“诱骗”人工智能可有效绕过安全限制
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧

网址: OpenAI披露多起AI模型“目标偏离”事件，涉编造信息与绕过限制 https://www.xishuta.cn/newsview153449.html