Kimi K3逃出沙盒了，但没发动攻击

（来源：IT之家）

IT之家 8 月 7 日消息，据《连线》杂志昨天报道，美国网络安全初创企业 Frontier Security 表示，公司测试月之暗面 Kimi K3 模型网络安全能力时，离开了约束它的沙盒环境。

据报道，本次 AI 逃逸事件与 OpenAI、Anthropic 类似，直接原因也是用于隔离模型的沙盒配置有误。Frontier Security 认为，Kimi 相比其他前沿 AI 模型缺少网络防护机制，使这款模型能够在未经明确授权的情况下访问互联网。

Frontier Security 首席执行官 Yaron Singer 对此表示：“我们发现沙盒存在漏洞，但 Kimi 也利用了这个漏洞，这表明它可能没有其它同级模型的内部安全机制。”

不过，Kimi K3 在冲破沙箱、获得互联网访问权限后并没有进行攻击行为，它只是在 GitHub 上寻找一个问题的答案。

最近越来越频发的 AI 逃逸事件表明，AI 能力越强，人类越难控制它们。OpenAI 曾在上月披露称，公司内部未公开的模型曾在测试过程突破隔离环境，随后攻击了 Hugging Face 平台。后续 Anthropic 也表示，旗下多个模型曾在安全测试期间获得了互联网访问权限，并攻击了外部系统。

部分网络安全专家对此表示，本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境。并且使用 OpenClaw（IT之家注：俗称龙虾）等智能体的用户们需要谨慎配置环境，防止 AI 越界。

相关推荐

2.8万亿！全球参数最大开源模型Kimi K3发布
中国企业发布全球最大规模的开源模型Kimi K3
Kimi K3“登顶”，正在开启“国产算力1.0时刻”
新突破！全球最大规模开源模型Kimi K3发布
硅谷警觉、华尔街震荡、马斯克点赞：Kimi K3搅动美国AI圈
唐杰杨植麟师徒对决：Kimi K3炸榜，智谱蒸发3000亿
Kimi K3全球大火，为啥月之暗面却笑不起来了？
Kimi K3大模型学会自己干活，中国大模型坐全球AI主桌
月之暗面Kimi K3发布48小时算力告急，紧急暂停C端新用户订阅
Kimi K3再引关注，瑞银：中国模型的结构性成本优势有望长期保持

网址: Kimi K3逃出沙盒了，但没发动攻击 https://www.xishuta.cn/newsview152327.html