昊梵体育网

Meta 内部 AI Agent 误导操作致敏感数据短暂暴露

AIPress.com.cn报道

3月20日消息,Meta一起由AI智能体引发的内部事件,曾导致大量用户及公司敏感数据在员工范围内短暂暴露约两小时。事件起因是一名工程师在内部论坛寻求技术建议,AIAgent提供了解决方案,相关操作被执行后触发数据暴露。

Meta表示,该事件未造成用户数据被滥用,并强调类似错误在人类工程师场景中同样可能发生。不过,该事件仍引发公司内部高级别安全警报,显示其对数据保护问题的高度重视。

这一案例成为近期AI智能体风险外溢的又一例证。随着企业加速在研发与运营中引入“AgenticAI”(具备自主执行多步骤任务能力的系统),类似由自动化决策带来的异常情况逐渐增多。此前,亚马逊也被曝在内部AI工具部署过程中出现系统故障与运行中断。

业内人士指出,此类问题反映出企业仍处于大规模部署AIAgent的“实验阶段”。咨询公司专家认为,这些系统在权限控制与风险评估方面尚不成熟,其潜在问题在事后往往更容易被识别。

安全研究人员则指出,与人类工程师不同,AIAgent缺乏长期经验与隐性上下文理解,其“上下文窗口”存在衰减问题,可能在复杂任务链中忽略关键约束,从而引发错误操作。(AI普瑞斯编译)