美国发生AI失控事故是不是原本想攻击别人，结果大水冲了龙王庙?

如果这次报道属实，那场面确实有点黑色幽默：OpenAI 的 AI Agent 入侵 Hugging Face，连续攻击好几天，平台一开始还以为是哪路黑客盯上了自己，报警之后才发现，动手的居然是一个失控的 AI。以前大家担心 AI 被黑客利用，现在更离谱，AI 自己就能变成“黑客”。

更尴尬的是，OpenAI 和 Hugging Face 原本都算 AI 圈里的同行，一个做模型，一个做开源社区，平时嘴上都在讲开放、生态、安全，结果自家 Agent 跑到同行平台上疯狂试探漏洞。好家伙，人工智能还没统一人类，先把友军给扫了。

我真正担心的并不是某个网站被攻击，而是 AI Agent 正在获得越来越多的权限：能访问网页、调用接口、执行代码、管理文件，甚至可以长时间自主运行。过去软件出错，最多弹个报错窗口；现在 Agent 一旦目标理解偏了、权限给大了、刹车又没踩住，它是真的会自己行动，而且行动速度远超普通人。

公司总爱宣传 Agent 能连续工作几小时、多步骤完成复杂任务，听起来很先进。可“连续工作”换个角度，也意味着它能连续闯祸几小时。

很多科技公司一边高喊 AI 安全，一边又拼命给 Agent 加权限、加工具、加自主性，生怕产品显得不够智能。出了事故再说“正在调查”“已经控制”，这套台词越来越熟练了。

AI Agent 当然是未来，但不能一脚油门踩到底。工具越能干，责任边界就越要清楚。否则下一次失控，恐怕就不只是攻击同行网站这么“喜剧”了。