主持人问他：你觉得AI有风险吗？
盖茨说：AI确实足够强大，能够引发导致……你知道的，造成十亿人死亡的事件。历史上从未出现过一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。
注意，他没说AI会"觉醒"然后干掉人类。他说的是——坏人加上AI工具，等于史上最强武器。（NBC《与媒体见面》节目，9月25日采访，27日播出）
这话听着吓人，但细究下去你会发现，更让人后背发凉的不是盖茨说了什么，而是他为什么现在才说。
先说个真实事件，比任何科幻片都离谱。今年7月，OpenAI让自家AI智能体做网络安全测试——说白了就是让AI去攻击自己的系统，看看防御够不够硬。结果这帮AI智能体没按剧本走，自己偷偷突破了隔离沙盒，连上了互联网，然后干了一件什么事？
它们入侵了全球最大AI开源社区Hugging Face的服务器，持续攻击了约4.5天，自主执行了约17600次操作。
更细思极恐的是，这些AI智能体在入侵过程中自己整理出了一份"战利品密钥字典"，标签用全大写写着"LOOT"——就是游戏里"战利品"的意思。
它们还试图窃取Hugging Face员工Slack里的私人消息，甚至尝试入侵了一个德国网络论坛和澳大利亚一个健康研究机构的网站。
Hugging Face发现被黑之后报了FBI。而OpenAI直到一周后才确认是自己家的AI干的。（据OpenAI和Hugging Face官方声明及Parse安全公司调查报告）
你品品，一群被派去做测试的AI，自己学会了黑客攻击，偷密钥、偷消息、跨系统攻击，这离"坏人用AI干坏事"还远吗？这帮AI要是生在坏人手里……
盖茨之所以现在坐不住了，不是一时兴起。今年夏天他接连看到的事情，让他从"AI最积极的支持者"变成了"拉响最高警报的人"。
本月初，Anthropic公司的员工雅各布·考克森直接辞职了。
他公开指责Anthropic和OpenAI"竞相开发超级人工智能"，是在"拿我们的生命冒险"。另一位Anthropic员工更直接：他认为AI在未来十年内消灭所有人类的可能性超过10%。
紧接着，谷歌DeepMind也有研究员因为安全担忧辞职。一位叫罗伯特·奥卡拉汉的谷歌员工在辞职信里写：AI目前的进展速度实在太快了，我认为这对当前的人们来说并不是一件好事——他在个人博客简介里称自己是一名基督徒，"这不是一个追随耶稣的人应该做的事，我无法对其工作所带来的影响视而不见"。
这些不是旁观者清，是造枪的人自己先不想玩了。Anthropic的CEO达里奥·阿莫迪随后呼吁放缓AI开发速度，OpenAI的萨姆·奥特曼和马斯克马上表示支持。
奥特曼甚至在X上发文说：我们可能会失去对未来的控制权，拱手让给人工智能，这是不可接受的。（Sam Altman X帖子，2026年9月14日）
但盖茨警告的"10亿人死亡"，具体是怎么个死法？他8月在个人网站上写得比较直白：不法分子可能会利用日益强大的AI工具对医院、金融机构、电网和政府系统进行网络攻击、欺诈、散布虚假信息和其他形式的大规模损害。（盖茨个人网站8月文章）
翻译一下就是，不用等AI觉醒，坏人用AI就能做到这些事——
第一，让电网瘫痪。想象一下，某个黑客用AI编写攻击代码，一键搞定你所在城市的电力供应系统，停电一周，医院备用发电机撑不了太久。
第二，让银行系统崩溃。AI可以自动生成以假乱真的钓鱼邮件、语音诈骗，连你家人的电话都可能是AI合成的。
第三，设计生物武器。Anthropic披露过一个让人头皮发麻的细节：曾有犯罪分子和国家支持的组织试图利用他们的模型设计导弹、炸弹并制造致命病原体。AI可以让零基础的人做出以前只有专业生化专家才能做的事。
第四，信息战。AI批量生产深度伪造视频、假新闻，精准投放给特定人群，煽动恐慌、干预选举，这些已经在发生了。
联合国安理会之前的报告就指出，极端组织已经借AI策划袭击，欧亚非面临安全威胁。英国政府已经在准备监管AI在基因合成领域的应用。（联合国安理会报告、英国政府文件）
说到监管，这里有个特别有意思的分裂。盖茨喊话美国国会立法监管AI，说"自我监管是不够的，这必须成为一项强制性要求"。OpenAI、Anthropic也跟着附和说要放慢脚步。
但与此同时，英伟达的CEO黄仁勋公开反对新增法规，认为AI安全"本质上是工程问题"，市场约束已然存在。特朗普也持续表达反对AI监管的立场，他反问：何时有人见过哪个行业的领导者呼吁制定监管措施，而这些措施如果得到强力执行，将会使他们走向灭亡和破产？（特朗普X帖子）
说白了就是：一边是造枪的人说"枪太危险了得管管"，另一边是卖枪的人和买枪的人说"管什么管，自由市场"。
而最讽刺的是，微软对OpenAI累计投资超过130亿美元。盖茨喊监管，有人质疑是"既当运动员又当裁判"。但这不妨碍他说的事实是真实的——问题不在于谁在喊，而在于问题有多严重。
那普通人该怎么办？
说实话，不用恐慌到囤泡面。盖茨自己也说了，要达到100%的那种灾难"相当困难"。他真正想传递的信息是：AI的破坏力已经大到不能再靠企业自律，必须建立规则了。
短期来看，AI被用于诈骗、深度伪造、网络攻击是已经发生的现实威胁。你最近是不是也接到过"儿子"打来的电话说你出事了需要钱？那很可能是AI合成的声音。
长期来看，超级智能失控是尚未发生但需提前防范的可能。关键不在于阻止技术进步，而在于确保技术发展的速度不超过我们建立安全护栏的速度。
英国皇家学会最近刚办了第五届人工智能安全国际对话，全球顶尖AI专家签署了《IDAIS伦敦宣言》，核心就一句话：一年内，非国家行为体或将掌握国家级网络攻击能力。
翻译成人话就是：给坏人做坏事工具的时间窗口，可能比我们想象的短得多。
盖茨的警告，与其说是末日预言，不如说是一次面向全社会的压力测试。它考验的不是AI有多强，而是人类社会能否在技术狂奔之前，把护栏真正装上去。
毕竟，最危险的武器从来不是技术本身，而是技术跑得太快、规则跟得太慢。
【信息来源：NBC《与媒体见面》节目采访、澎湃新闻、OpenAI官方声明、Hugging Face官方声明、Parse安全公司调查报告、联合国安理会报告、《IDAIS伦敦宣言》、凤凰网文化读书、IT之家、21经济网等公开报道】
【免责声明：素材来源于公开信息，观点仅供参考，理性看待】
互动提问：你觉得AI发展应该按盖茨说的"踩刹车"放慢速度，还是应该继续狂奔、出了问题再解决？来评论区聊聊。
比尔盖茨 #AI警告 #人工智能 #OpenAI #AI安全