美国顶尖AI研究员突然辞职，放出警告：10年内，人类真可能被AI消灭！

9月9日，一个曾在顶尖AI公司任职的研究员选择在社交媒体上公开辞职，同时放出了一段警告：人类在未来十年内有可能被AI消灭。

这个人叫雅各布·考克森，他不仅直接参与了最先进AI模型的研发，还是行业中的一线专家。

考克森公开站出来反对AI领域正在进行的极限竞赛，称行业巨头为了追求更强的技术，已经在走一条极其危险的路：这是在拿人类的生命去下注。

9月8日，OpenAI的首席科学家伊利亚·帕乔基发文提到了一件令他非常担忧的事，他表示，所谓的递归式自我改进正在快速接近现实。

什么是递归式自我改进？简单来说，就是AI不再依赖人类的手把手教导，而能够自己优化、升级，甚至创造更先进的AI，根据OpenAI对其内部技术进展的估算，最快2028年之前，这种人工智能研究员就可能成为现实。

递归式自我改进最核心的风险，在于迭代速度脱离人类掌控。现阶段的 AI，所有任务目标都由人类设定，就算出错，也能快速关停。

一旦 AI 可以独立设计下一代模型，能力提升会进入加速循环，人类很难预判它后续的行为选择。

行业内部所说的对齐难题，简单来说就是很难保证 AI 的目标，永远和人类诉求保持一致，哪怕初始指令设置没有漏洞，在持续自我迭代的过程里，AI 也可能出现偏离预期的行为。

如果没有统一的安全审核规则，各家实验室各自提速，出现失控隐患的概率就会上升。

虽然日常使用的 AI 工具，距离可以自主改造自身的系统，还有明显的技术差距，但技术发展的速度超出多数人的预估。

这次一线研究员主动辞职发声，最大意义不是预言末日，而是提醒社会，技术红利背后藏着无法忽视的安全边界，技术本身没有善恶，但是需要匹配对应的安全管控能力。

技术的闸门一旦放开，再想要收紧，难度会成倍增加。

本文信息来源于环球网