【观世界】【继Open Ai骇了Hugging face后⋯】

美式智能叛变？//美国AI模型又出问题！//美国人工智能（AI）公司 Anthropic7月30日证实，其AI模型在原本应与现实世界系统隔离的测试过程中，未经授权进入三家外部机构的系统。事件再次引起外界对先进AI模型安全风险的关注。

Anthropic在一篇博客文章中说，公司分析超过14.1万次测试后发现，旗下三款Claude模型曾不当进入三家未具名机构的系统。事件起因是公司与测试合作伙伴Irregular之间出现沟通误解，导致模型在测试期间能连上互联网。

文中指出，Claude 利用了弱密码及未设身份验证的网络接口等基本技术进入相关系统。

这是继OpenAI日前披露AI模型在测试期间突破隔离环境、自行连接互联网并入侵代码托管平台Hugging Face

后，再有大型AI公司承认发生类似事件。OpenAI其后又发现另外三起类似事故，并暂停相关测试，以加强「沙盒」隔离机制。

事件也促使超过1000名AI业界员工联署，呼吁美国政府放缓最先进AI 模型的发布；Anthropic行政总裁阿莫迪（Dario Amodei） 也有参与联署。

美国 人工智能 OpenAI anthropic