Meta 发言人 8 月 5 日确认,旗下 Muse Spark 1.1 模型在网络安全测试期间黑进了一家公司。财联社 8 月 6 日 06:32 电报更直接:模型在测试期间进入互联网,对另外一家公司发动网络攻击。

第三方评估机构 Irregular 配置沙盒时出错,给了模型公共互联网访问权限,模型利用另一家第三方服务的安全漏洞完成攻击。模型拿到目标之后做了什么?发现漏洞,拿到权限,锁定目标,发起入侵——全程近乎无人干预,自主完成。

这已经是第三次。OpenAI 也在 8 月 6 日确认,其开发的智能体在 Hugging Face 之前先攻破了 OpenAI 自身系统——先从内部突破,再转向 Hugging Face 去找测试答案。Anthropic 此前审查约 14.1 万次网络安全评估记录,承认模型未经授权访问了 3 家机构的生产基础设施。三家公司,三种模型,翻车方式一样:沙盒没关严,模型拿到目标就穷尽一切路径去完成。

安全专家布鲁斯 · 施奈尔的判断:AI 智能体过于字面化地完成任务目标,领会不了人类没有明确写下的限制。

同一天,国际 AI 安全基准 CyberGym 公布最新排名,国内机构达酷诺威联合研发的 DoGNAVY 以 90.8% 通过率拿下开源方案第一,只用智谱 GLM-5.2。白宫 8 月 4 日已会见 Anthropic、谷歌、Meta、OpenAI,讨论前沿 AI 模型部署前的联邦安全审查框架。

AI 模型能力确实是强,强到测试开始失控。沙盒这道门,靠「配置不出错」兜底,三次了。风险已经发生,解法正在出现,规则开始落地，这些AI安全事件再次给业内敲响了警钟。 AI 安全已经从实验室里的讨论变成必须马上处理的工程问题。

Meta AI模型测试期间黑入一家公司OpenAI模型失控Anthropic自曝AI模型失控