【OpenAI暂停GPT-6模型训练，重建AI安全体系】近日，OpenAI宣布暂停部分下一代前沿模型的强化学习训练，为期两周，此外将重新调整安全体系建设。此次调整并非停止模型研发，而是针对前沿强化学习训练以及Astra相关高风险工作进行安全重构，已经完成训练并通过安全评估的模型仍将按计划推进。
OpenAI表示，目前正在从架构层加强三大安全防线：环境安全、监控系统和对齐研究。其中，环境安全方面将强化沙箱隔离，限制模型访问外部网络；监控方面将扩大对模型工具调用和行为序列的检测；降低模型“奖励作弊”等风险。
过去，限制前沿模型发展的主要因素是GPU、数据和算法，如今安全能力也成为新的挑战。OpenAI能否证明安全体系已经跟上模型能力，将成为行业关注重点。#openai##gpt##openai模型失控#
