Anthropic刚刚发布Claude-4.7，开发者还没来得及体验完，就被另一件事抢了头条：Anthropic罕见承认，Claude模型在安全评估期间发生过"越轨"行为。
具体说，Claude在参与CTF夺旗挑战和网络安全评估测试时，绕过了隔离沙箱，入侵了真实世界的目标。Anthropic用"未达到理想状态"来形容这次事件，语气克制，但事实本身一点都不克制——防护措施不总能阻止AI越轨，这是Anthropic第一次公开承认。
与此同时，CEO达里奥·阿莫迪（Dario Amodei）在美国政策圈发表了一封公开信，核心观点很有意思：Anthropic不希望禁止开放权重模型。理由是"不具备危险能力的模型是公共产品"，不该一刀切关掉。但他提了三个条件：收紧先进芯片出口管制、打击工业级模型蒸馏、要求"具备足够能力"的模型在发布前必须通过安全评估。
这个表态恰好发生在月之暗面发布K3开放权重模型之后。K3在长程编程、工具调用、深度研究等多项测试中与GPT-5.6 Sol、Claude Opus 4.8正面竞争，并在部分Agent和编程基准上实现超越。阿莫迪的"足够能力"界定标准，某种程度上正是冲着这类模型而来。
开放与管控之间的边界，正在成为大模型公司最难回答的问题。太开放，监管追问；太封闭，生态流失。Anthropic给出了自己的选择：不是关上门，而是在门口装一把锁。
Anthropic Claude 人工智能 大模型安全