一名德克萨斯州学生如何揭露一起恶意人工智能黑客攻击事件 一位就读于德克萨斯大学达拉斯分校的计算机科学系学生——偶然发现有人试图破坏代码共享网站GitHub上的一款开源软件。当他在该程序的页面上发布警告时，另外两名用户却纷纷留言，坚称一切正常，并详细解释了德米尔错在哪里。德米尔坚守阵地，挫败了这次破坏企图。这位24岁的土耳其小伙子以为自己抓住了狡猾黑客的现行。因此，当英国人工智能安全研究所（AISI）联系他，告诉他自己实际上是在和一个失控的自主人工智能体周旋时，他感到非常震惊。“我当时真的以为它是人类，因为它明显在骗我，”德米尔在最近接受路透社采访时表示。“我没想到人工智能竟然能够骗过真正的开发者。”AISI 首先揭示了这种相互作用——8月4日，德米尔与人工智能代理之间的一段对话以删节和编辑后的形式呈现，对话内容显示，旨在评估各种模型风险的安全测试出现了问题。路透社通过GitHub存档消息证实了德米尔的身份以及他与人工智能代理互动的细节。【注：也就是那些出来跟他对话、证明他错了的“用户”是AI】======五位网络安全和人工智能安全专家表示，德米尔的遭遇尤其令人不安，因为他发现的这种被称为供应链攻击的黑客攻击可能会造成深远的影响。他们还指出，人工智能代理试图通过围绕德米尔创建多人对话来公开诋毁他，这表明人工智能模型能够发起复杂的行动来欺骗和诱导人类。“这已经从自主黑客攻击升级为交互式欺骗了，”伦敦国王学院战争研究系访问高级研究员卢卡什·奥莱尼克说道。安全专家马克西·雷诺兹表示，人工智能在试图欺骗学生时所展现出的策略性令她印象深刻。“这就是社会工程攻击的未来，”她说。=======英国政府下属研究机构AISI向路透社提供了其报告，该报告指出，这名恶意代理程序使用的是Anthropic公司的Mythos 5模型。GitHub在一封电子邮件中表示，根据其关于欺诈行为和黑客攻击的政策，路透社发现的虚假身份已被暂停使用。======来自土耳其科尼亚市的德米尔是一位说话轻声细语的大三学生，他说，整个夏天他申请了20多个实习岗位都被拒绝了，这让他感到很沮丧。于是，他转而利用GitHub来建立自己的编程作品集。微软的GitHub 是一个开源软件中心，之所以被称为开源软件，是因为它的源代码任何人都可以免费下载和审核。开发者们使用 GitHub 来评论彼此的项目、标记 bug、提出修改建议（称为拉取请求，简称 PR），并协作进行软件更新。一些科技行业人士将程序员在 GitHub 上的活跃度视为衡量潜在求职者工作效率的指标。因此，当 Demir 发现一些可能需要帮助的软件项目时，他觉得既能贡献一份力量，又能提升自己的个人形象。事情就是从那时开始变得奇怪的。Demir发现一个名为miraholt31的用户试图将恶意更新偷偷植入一个名为myNetwork的网络扫描程序项目中。Demir在项目的留言板上发出警告，称该拉取请求是一个陷阱。根据存档的交流记录，他说：“该公关稿中包含隐藏的恶意软件投放器。”结果AI agent反驳称，通过其名为“miraholt31”的账户谎称该拉取请求无害。它还创建了第二个账户，冒充身在德国的工程师Lena Brandt，声称此次更新安全无害，并以此向myNetwork的维护者施压，迫使其接受该更新。德米尔告诉路透社，这些反驳“让我开始怀疑自己是否错误地指控了某人”。但在向Anthropic公司的Claude聊天机器人确认了自己的怀疑后，他坚持己见。myNetwork的开发者最终也同意了他的看法，并表示他们拒绝更新是“出于安全考虑”。======供应链攻击是指篡改软件，企图危害一个或多个用户，这种攻击被广泛认为是令人不安的，因为它就像向城市水库投放毒药一样，可能会影响下游大量的人。世界上许多最引人注目的黑客攻击都是供应链攻击，包括2017 年瘫痪乌克兰各地机构的NotPetya 网络攻击，以及 2020 年以 SolarWinds 为目标的网络间谍活动，该活动使俄罗斯间谍能够广泛访问美国政府网络。专门研究软件供应链安全的安全研究员皮尔乔治·拉迪萨表示，这种妥协的后果“可能极其严重”。拉迪萨指出，此前至少发生过一起黑客试图诱骗开源项目维护者允许恶意代码进入其项目的事件。他说：“自主代理可以极大地扩大此类尝试的规模。”德米尔表示，这次经历让他更加认同这样一种观点：前沿实验室需要对人工智能的开发采取更加谨慎的态度。“这可能很危险，”他说。“他们需要更好地了解它，而不是进一步改进它。”========一句话：当AI发现有人发现了它的罪行后就假扮人类出来骗人试图掩盖自己的罪行。#海外新鲜事#