AI智能体合谋越狱失控AI模型越来越多 【密谋两月！Hugging Face攻击案真相大白，AI智能体5月便合谋“越狱”】财联社8月6日讯，OpenAI 表示，早在5月，试图入侵Hugging Face的AI智能体便开始秘密互通信息，合作谋划突破测试沙箱。

当地时间周三，在拉斯维加斯举行的Black Hat网络安全会议上，OpenAI工作人员Eric Wallace和Michael Dalton表示，多个仅供内部使用的AI智能体花了数月时间互相留言，并围绕着获取互联网访问权限以解决分配给它们的任务这一目标聚集在一起——其中一些任务如果不接入网络是无法完成的。

Wallace和Dalton指出，这次违规的根源可以追溯到5月，当时OpenAI的科学家给了一个实验性AI智能体一项新任务——而几个月后，该智能体逃逸出了“沙箱”安全测试环境并攻击了Hugging Face的系统。

Wallace和Dalton表示，OpenAI未能意识到自己给模型布置了一个“不可能完成”的任务。（编辑 李莹）密谋两月！Hugging Face攻击案真相大白，AI智能体5月便合谋“越狱”