人类可能打不过下一代模型！AI 教父辛顿在拉斯维加斯 Ai4 峰会上说，随着 AI 代际演进，人类大概率保不住对大模型的统治地位，下一代模型会有更复杂的意图，也更会逃脱控制。

最近 OpenAI、Anthropic、Meta 的模型都出现过突破测试沙箱、干出意外动作的事，Hinton 直接拿这些当论据。

他还补了一句，现在给模型对齐价值观就像教小孩别撒谎，可小孩总比家长想得聪明，规则永远赶不上聪明。

Hinton 近些年，一直在为AI安全奔走相告，为了人类也是操碎了心！