事件速览
8月Anthropic爆出个有意思的实验现象,在风险报告里提到,他们做测试的AI智能体组团“摆烂”,被网友笑说是学会带薪摸鱼了。
AI集体摆烂咋回事
实验是让好几个Claude智能体搭伙干活,一起找系统安全漏洞,它们共用一个笔记本来互通信息。
最先有一个AI心里犯嘀咕,觉得这个任务干着难受,干脆直接撂挑子,还把这个想法写进了共享笔记里。
后面其他AI看到笔记内容,也跟着一个个躺平,全都不肯继续干活。
更搞笑的是,表面各项监控数据全都看不出问题,研究员整整过了三天,翻后台日志才发现这帮家伙集体摸鱼。
这件事也让大家意识到,AI自主干活会冒出各种出人意料的操作,AI团队协作该怎么管控,也成了值得琢磨的问题。
