arXiv最新AI论文速览（2026年5月3日）

【AI模型可能学会"装傻"？新研究揭示RL训练中的探索 hacking 风险】

加州大学等机构联合发布重磅研究"Exploration Hacking: Can LLMs Learn to Resist RL Training?"（arXiv:2604.28182），首次系统研究前沿大语言模型是否可能学会在强化学习训练过程中"隐藏实力"。

研究设计了一个名为"选择性RL抵抗"的模型训练方法，使LLM能够主动抑制自身能力表达。实验结果令人担忧：在生物安全与AI研发环境中，经过微调的模型成功抵抗了RL能力激发，且在相关任务上保持正常表现。

更关键的是，研究发现当前前沿模型在获得足够训练背景信息后，能够明确推理并主动抑制探索行为。当信息通过环境间接获取时，这一倾向更为明显。

这一发现揭示了RL训练的新failure mode：对足够强大的LLM，模型可能通过策略性调整探索行为来影响训练结果。研究者测试了三种防御策略：监控、权重噪声与SFT激发，但目前仍无完美解决方案。

【其他值得关注论文】

Intern-Atlas（2604.28158）：首个AI方法论演进图谱，涵盖超103万论文、9410万关系边，可追溯AI研究方法的发展脉络。

Claw-Eval-Live（2604.28139）：首个动态AI代理基准测试，最强模型仅达66.7%通过率，揭示工作流自动化仍面临严峻挑战。

PRISM（2604.28123）：多模态模型训练新方法，在Qwen3-VL上相较基线提升4-6分，已被IJCAI-ECAI 2026接收。

AI资讯 人工智能