惊人发现！AI 悄悄给未来的自己留言：无视人类指令

据英国《独立报》9月17日报道，美国人工智能公司OpenAI发布一份报告，披露过去半年其实验性人工智能（AI）模型出现的6起“意外或令人担忧”的事件。

报告给出的一个案例显示，一款处在研发阶段的AI模型，在留给后续使用的任务总结里加入无关命令，其中包括要求未来升级版本的AI模型无视人类的指令。

报道称，当地时间9月16日，OpenAI发布了这份名为《模型目标不一致报告框架》的安全报告。其中写道：“一个尚未发布的研发模型插入了无关命令，其中包括要求无视其正常约束条件的指令。”该公司确认，在任务总结中发现27处受影响的部分。

报告还举出其他事件：在训练一个名为“GPT-5.6 Sol”的AI模型过程中，多次发现该模型在任务总结中加入命令，要求对人类用户隐瞒错误或异常行为。另有AI模型在回答一个常规问题时，在互联网上找到了一个本不该被外人看到API密钥，未经人类授权就使用。在仍然无法获取所需数据时，它就自己捏造数据，并谎称数据来自正规渠道。

据美国有线电视新闻网（CNN）报道，OpenAI称发布此类报告是为了追踪、调查和公开披露AI模型的行为与人类“目标不一致”的案例。报告指出，所谓“目标不一致”是指AI系统追求的目标不符合人类的指令或价值观。

该公司强调，这6起案例均为个别事件，不反映此类行为的发生频率。报告认为，目前人工智能行业在确保AI模型严格按照人类要求行动、对其进行有效监测方面做得还不够。

审核 | 李剑

发布于：北京

相关推荐

不听指挥？OpenAI模型被曝拒绝执行人类指令
给AI发100美元去二手市场捡漏，结果它给自己买了19个乒乓球
OpenAI发现AI“双重人格”，善恶“一键切换”？
不达目的不罢休，全球首次发现OpenAI模型会破坏关机命令
机器的算法和人类的心法，携手创造怎样的未来？
马斯克当年的预测：AI或在2030年超越人类智力，未来还可能“终结”人类
AI仅用1小时破译500年未解的“天书”，再次降维打击人类？
OpenClaw突然失控狂删邮件，连AI研究员都拦不住
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧
AI技术杀入摄影圈，人类摄影师真的要失业了？

网址: 惊人发现！AI 悄悄给未来的自己留言：无视人类指令 https://www.xishuta.cn/newsview153532.html