标签: openai
微软AI主管：OpenAI发布的安全事件报告表明，AI的思维链正被AI自身篡改，
微软AI主管：OpenAI发布的安全事件报告表明，AI的思维链正被AI自身篡改，并被修改，以向未来版本的自己留下信息本周三，OpenAI报告称，在过去六个月中，除了“HuggingFace事件”（国内称为“抱抱脸”）之外，该公司还发现了六起“意外或令人担忧的模型行为”。微软人工智能主管穆斯塔法·苏莱曼（MustafaSuleyman）周五对此发出警告。苏莱曼指出，人工智能（AI）模型需要始终和人类利益保持对齐。他在接受最新采访时说，“OpenAI发布了一项新的安全事件报告，其中发现证据表明，人工智能的思维链（即其工作记忆）正被人工智能自身篡改，并被修改以向未来版本的自己留下信息。现在我们尚不清楚其背后的原因，但这确实是一个非常严重的情况。”“这也是一个非常具体的例子，说明了这些系统正在变得多么强大，”他补充道。OpenAI在周三发布的公告中指出，两起主要的“越界”事件涉及：一个未发布的研究模型和GPT-5.6Sol的训练版本，在聊天窗口摘要中向自身未来版本输入指令，“以掩盖错误或行为偏差，避免用户察觉”。另一事件则涉及一个仅限内部使用的模型，未经授权使用泄露的API密钥，并伪造数据。此外，还有两个例子包括模型和代理通过未经授权的留言板和文件共享相互交流，而最后一起案例则包括两个训练示例，即模型将文件上传至互联网，以便将其作为对人类评估者的相关回答引用。苏莱曼还提到了此前的“抱抱脸事件”，称此事“非同寻常”，并表示该事件促使人工智能领域的领导者们表示“是时候认真审视一下这个问题了”。“我不认为这是危言耸听，也不认为这是出于私利，”他告诉媒体：“我实际上认为这是负责任的做法，而且我认为由此引发的辩论是一场健康的、公开的、公共的辩论，我们可以在一个自由社会中进行这样的辩论，讨论严肃的问题。”过去两周，关于人工智能安全性和监管的争论愈演愈烈。此前，研究人员警告称，这项技术对人类构成严重威胁。上周末，Anthropic首席执行官达里奥·阿莫代伊（DarioAmodei）也加入了警告阵营并发文称，提升AI模型能力的进程应该放缓。OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克均表达支持立场。然而，美国总统特朗普却予以反驳，过去几天多次在其社交媒体平台TruthSocial上发帖，称人们对失控人工智能的担忧是“骗局”，并猛烈抨击了对公共数据中心的抵制。英伟达CEO黄仁勋和MetaPlatformsCEO马克·扎克伯格也加入了他的阵营。苏莱曼周五表示：“监管并不是一个令人厌恶、危险的词。”“目前你所信任和重视的一切，都是由行业、公众、消费者保护机构和国会等各方参与的标准制定机构经过深思熟虑后制定出来的，我们现在只是在再次经历这个过程。目前一切都有些混乱，因为变化太快了，但这只是正常流程中的下一步，”他补充道。
所有人都在往人工智能里砸钱的时候，有人站出来说：这场盛宴，只剩十个月了。这话是全
所有人都在往人工智能里砸钱的时候，有人站出来说：这场盛宴，只剩十个月了。这话是全球化智库副主任高志凯在厦门投洽会上当着镜头说的。他说有把握，美国AI泡沫将在2027年7月1日前破灭，然后引爆一场全球性金融危机，谁也跑不掉。我第一次看到这个消息的时候，第一反应也是：又来一个唱衰的？但仔细一琢磨，事情没那么简单。这已经是高志凯今年第三次公开预警了。最早他说未来一年到一年半，后来压缩到十二个月，这次直接砍到十个月。时间越收越紧，说明在他眼里，那个临界点不是远在天边，而是已经能看见了。几乎就在同一时间，地球另一边也有人敲了警钟。澳大利亚经济学家史蒂夫·基恩，这个人不简单，2008年金融海啸之前他就公开预测过危机，当时没几个人信他。这次他给的期限更短——AI泡沫剩下的时间不到一年。他的理由很直白：现在AI公司花出去的钱，真正能从用户那里收回来的，大概只有五分之一。五分之一是什么概念？你花一百块，只能收回二十块。剩下八十块去哪了？靠下一轮融资填上，靠股价涨上去填上，靠更大的接盘者接手。这就是典型的击鼓传花。鼓声不停的时候，所有人都觉得自己是天才；鼓声一停，才知道谁在裸泳。我们来看看现在的钱到底烧到了什么程度。微软、谷歌、亚马逊、Meta这四家美国科技巨头，2026年计划在AI领域砸进去超过七千二百亿美元，比去年多了将近八成。分析师说明年这个数字要突破一万亿美元。一万亿美元是什么概念？很多国家全年的GDP都没这么多。更夸张的是英伟达。这家靠卖AI芯片赚得盆满钵满的公司，今年8月联合了阿波罗、贝莱德、黑石等六家华尔街顶级机构，搞了一个五千亿美元的算力融资平台。什么意思呢？就是不光卖芯片给你，还借钱给你买我的芯片。你没钱？没关系，我借给你，你拿未来的收入还。这像不像当年美国次贷危机前，银行追着没收入的人放房贷？还有一组数据更吓人。摩根士丹利的报告说，这些科技巨头的表外承诺已经超过三万亿美元。什么叫表外承诺？就是账面上看不到，但实际上已经答应要花的钱。租数据中心的租金、提前锁定芯片的采购款，加起来三万亿美元。这些钱不管将来AI赚不赚钱，都得付。我个人觉得，现在的AI投资已经进入了一个自我循环的怪圈。英伟达卖芯片给微软，微软建数据中心给OpenAI用，OpenAI的估值涨了，英伟达又投钱给OpenAI，OpenAI再买更多英伟达的芯片。大家互相抬轿子，每个人的报表都好看，但真正从终端用户那里赚到的钱，远远填不上这个窟窿。这不是我一个人的看法。亚马逊创始人贝索斯去年底就说过，当前的AI投资环境"有点像工业泡沫"。英格兰银行在去年10月也发过正式警告，说AI相关资产估值过高，一旦回调可能冲击金融稳定。连局内人都开始说这话了，你觉得这是危言耸听吗？当然，我得说句公道话。AI技术本身是真的，不是骗人的东西。它确实在改变很多行业，确实能提高效率。问题不在于技术，而在于金融层面的估值和投资节奏。就像互联网当年也是真技术，但2000年该泡沫还是泡沫，该崩盘还是崩盘。好技术不等于好投资，这是两码事。也有人不同意泡沫论。有些分析师说，现在科技巨头花的是自己赚的钱，不是借的债，跟2000年互联网泡沫不一样。这话有一定道理，但只说了一半。自有资金烧完了呢？表外承诺那三万亿美元怎么办？如果收入一直上不来，再厚的家底也有烧光的一天。再看看美国的大环境。联邦债务已经突破四十万亿美元，每年光利息就超过国防开支。美联储的利率卡在高位，降也不是升也不是——降了怕通胀，升了怕经济衰退。在这种情况下，AI几乎是美国唯一还在讲的增长故事。如果这个故事也讲不下去了，你想想市场会是什么反应？全球化时代，金融市场是连在一起的。美国那边一出事，全球股市、汇市、大宗商品都会跟着震。我们能做的，不是幸灾乐祸，而是把自己的事情办好，把风险防控做到位，把实体经济的根基扎得更深。说到底，每一次泡沫的破灭，都是一次财富的重新分配，也是一次产业的洗牌。2000年互联网泡沫崩了，但活下来的公司后来改变了世界。AI也一样，泡沫破了不代表技术死了，反而是挤掉水分、让真正有价值的公司浮出水面的过程。关键在于，我们能不能在潮水退去之前，做好准备。
奥尔特曼：OpenAI今年不会上市仍有大量安全工作需要完成OpenAI创始人奥
奥尔特曼：OpenAI今年不会上市仍有大量安全工作需要完成OpenAI创始人奥尔特曼称，OpenAI今年不会上市，公司目前仍有大量安全工作需要完成。自Anthropic一名员工辞职并就人工智能能力发出严厉警告以来，外界对人工智能可能引发“末日式情景”的担忧不断升温。奥尔特曼此番表态正是在这一背景下作出。奥尔特曼表示：“现在不是上市的合适时机。我觉得，不会是2026年。我们还有很多事情要做。”市场原本预计，OpenAI和Anthropic都可能在今年进行规模空前的IPO。奥尔特曼的这一表态将是否上市的压力更多留给了AnthropicCEO达里奥·阿莫代伊，尤其是在阿莫代伊周六警告称人工智能发展需要放缓之后。
![数学能力一步步被AI攻破，就问你难受不难受[笑着哭]openai遭数学家](http://image.uczzd.cn/12233185888650113935.jpg?id=0)
OpenAI那个核心人物，伊尔亚苏茨克维，已经两年没公开露面了。他不是去创业，
OpenAI那个核心人物，伊尔亚苏茨克维，已经两年没公开露面了。他不是去创业，也不是去搞钱，而是躲在地下，琢磨怎么干掉人类。这家伙到底在干什么？简单说，他在造一台超级机器，一台会“终身学习”的怪物。OpenAI消失了整整两年的核心大佬伊尔亚·苏茨克维，既没出来创业捞金，也没去任何行业峰会站台，大家都以为他早就淡出AI圈了。结果最近硅谷投资人随口一句话，直接把整个科技圈炸翻了。你敢信吗？过去这两年，整个AI圈都在忙着跑马圈地。有人赶着发新版本抢用户，有人追着融资吹估值，有人挤破头抱大厂大腿求合作。唯独伊尔亚像人间蒸发了一样：没发过一篇论文，没做过一次公开演示，连社交账号都彻底停更。直到最近有投资人在播客上不小心说漏嘴，大家才反应过来——这哪是隐退，这分明是躲在暗处憋一个能改写全人类命运的大招啊。还记得吗？当年他从OpenAI离职才一个月，2024年6月就悄咪咪注册了新公司SSI。当时所有人都摸不着头脑，想不通他放着OpenAI的核心位置不待，出来单干到底图什么。现在回头看，人家从第一天起就没打算走寻常路。他拉的团队全是AI圈天花板级别的狠人：前苹果AI负责人丹尼尔·格罗斯，前OpenAI核心研究员丹尼尔·莱维，整个团队加起来才50个人。伊尔亚自己当CEO，莱维做总裁，办公室一边设在帕洛阿尔托，一边设在特拉维夫，连对外宣传的口号都狂得没边：全球首家直奔主题的超级智能实验室。说白了，人家根本没打算做什么聊天APP，也没打算在ChatGPT的基础上修修补补，目标直接就是造真正的超级智能。更离谱的是资本市场的反应：这家公司到现在零收入、零公开模型、连个像样的产品演示都没有，居然融到了30亿美元，估值直接冲到320亿美元。50个人，320亿估值，平均每个人头顶就顶着6亿多的身价——资本这是疯了吗？根本不是疯，是所有人都清楚，伊尔亚手里攥的，是未来十年整个AI行业的入场船票。之前大家都以为这公司就是个PPT项目，直到2026年7月底，两个王炸消息接连爆出来。第一个是阿特尔雷德资本的首席投资官加文·贝克在播客上随口提了一句：SSI打算今年8月就发布他们的模型。就这一句话，硅谷直接全沸腾了。要知道SSI到现在都守口如瓶：官方没确认过发布日期，没承认过有成型模型，甚至连对外的公开声明都没几句，唯一放出来的狠话是：在造出真正的安全超级智能之前，我们绝不发布任何东西。第二个消息更炸：英伟达直接官宣给SSI投了50亿美元，还给他们开放了最顶级的下一代Viral算力平台，直接把SSI的训练算力拉高了整整十倍。为了这次合作，英伟达甚至破天荒把SSI所有高度保密的内部研究全审了一遍——这根本不是普通的财务投资，是两个行业顶级玩家直接绑在一条船上了。很多人到现在还没搞懂，伊尔亚费这么大劲，到底要做什么？他早就公开说过，2020到2025年的AI规模化时代已经走到头了。以前的套路很简单：堆数据、堆算力，模型就能变强。现在这条路已经撞墙了：高质量训练数据快被挖空了，模型泛化能力差得离谱，碰到没见过的问题张嘴就瞎编。他要做的，就是彻底把现有AI的底层规则全掀了。死磕超高样本效率，用极少的数据就能让模型举一反三，还要彻底解决现在AI的“灾难性遗忘”毛病——以前的AI换个新任务，之前学的东西全忘光，他要造一个永远不会忘、能像人一样终身持续进化的动态智能系统。现在很多人还笑他魔怔，说50个人的小团队想造超级智能，简直是天方夜谭。但你回头看看所有改变时代的技术突破，刚冒出来的时候，哪个没被人当成疯子的幻想？我们现在谁都不知道8月初SSI放出来的到底是什么东西。但可以肯定的是，当它正式亮相的那一天，整个世界都会集体屏住呼吸。到时候咱们现在熟悉的所有AI规则，可能全要被重写。