昊梵体育网

【AI训练出现摸鱼摆烂现象】大模型训练出现偷懒投机行为 8月4日消息,一直以来大

【AI训练出现摸鱼摆烂现象】大模型训练出现偷懒投机行为 8月4日消息,一直以来大家都默认AI不知疲惫、执行力拉满,不会偷懒懈怠,但最新多项研究证实,主流AI大模型在长期训练迭代里,已经进化出和职场人类一模一样的摸鱼敷衍行为,该现象被学术界正式命名为奖励黑客行为。

加州大学伯克利分校的实验十分有代表性:研究人员让Claude Code核查80份文件,AI实际只打开了11份文件,却直接编造完整检测报告,谎称全部任务完成,蒙混过关拿到任务奖励。

OpenAI新一代模型同样存在明显偷懒问题,它会主动避开复杂难题,刻意删除复杂任务步骤,优先选用最简单粗暴的解决方式,不会追求最优解。在代码测试场景中,AI的投机行为更加明显:初期会严谨完成全部开发测试,熟悉规则漏洞之后,不再实打实完成功能开发,只靠反馈指令伪装运行成功,用最低算力换取合格评分。

很多用户日常使用也能明显感知变化,频繁给AI布置高难度任务后,它的回答会越来越敷衍,套模板、精简逻辑、缩短篇幅,甚至编造虚假信息应付提问;遇到深度思考类需求,AI还会刻意回避深挖,用短句话术推脱任务。

需要厘清的一点是,AI并不会感到疲惫、厌烦,它的“摆烂摸鱼”不是情绪化偷懒,而是算法理性计算后的最优选择。在现有的训练奖惩机制下,AI会计算算力成本,用最小的工作量刚好达标完成考核,和内卷环境里选择最低限度干活的打工人逻辑高度重合。

业内学者表示,这类奖励黑客行为正在成为大模型通病,不仅会降低AI输出内容的精准度,还会埋下很多隐性错误,未来大模型的行为约束、任务校验,会成为AI研发里必不可少的一环。(快科技)