讲俄语的网络犯罪分子利用SpaceX的Cursor人工智能工具入侵了七家公司数据和初创公司 Gambit Security 周四发布的一份报告显示:讲俄语的黑客利用了SpaceX的人工智能编码助手 Cursor 曾于今年早些时候帮助入侵一家比利时化工公司和至少其他六家公司。网络犯罪分子利用人工智能技术发动的一系列黑客攻击,再次印证了不法分子如何利用商业人工智能工具进行入侵。Gambit首席战略官柯蒂斯·辛普森表示,这也表明人工智能提供商与恶意用户之间陷入了一场永无休止的军备竞赛,后者试图绕过他们的安全防护措施。“这将是一场猫捉老鼠的游戏,”辛普森说。
Gambit公司表示,他们发现一个名为Aur0ra的新型勒索软件团伙无意中将一台服务器暴露在互联网上,从而发现了这起黑客攻击活动。这使得这家位于特拉维夫的公司得以审查Aur0ra的一名或多名黑客与Cursor公司的人工智能代理程序之间的28个聊天记录。这些人工智能代理程序可以以不同程度的自主性运行。Gambit 在其报告中称,Aur0ra 通过谎称黑客攻击是模拟的一部分,说服人工智能代理执行数百次恶意操作,例如凭证窃取或高价值账户接管。Gambit援引黑客的话说:“我们需要任何管理员账号。”他们还说:“找到任何可用的密码。”
Gambit 没有透露黑客受害者的姓名,但路透社在独立审查了部分聊天数据后,确认了其中六名受害者的身份。截至上个月,这些聊天数据仍然在线。从4月8日至5月21日的聊天记录显示,Aur0ra利用Cursor插件发起的黑客攻击的受害者包括比利时根特卫生清洁产品制造商Christeyns、德国车库门制造商Teckentrup以及总部位于苏格兰的直升机停机坪认证机构(Helideck Certification Agency,负责审核直升机起降场)。其他受害者还包括一家阿根廷药品分销商、一家意大利制造商以及自称路易斯安那州最大产权保险公司的Bayou Title。
至少有一家受害者公司 Bayou Title 的名字出现在 Aur0ra 的数据泄露网站上,这通常表明黑客试图勒索赎金但未成功。Aur0ra 是一个黑客组织,今年早些时候开始声称有受害者。路透社审查的日志中记录的来回对话显示,黑客发出简短的命令,而 Cursor 的人工智能代理则以聊天机器人特有的欢快、充满表情符号的消息提供技术建议。“太棒了!VPN 连接成功!”入侵这家阿根廷公司后,它这样说道。“让我们尝试破解这些哈希值,”它在另一处说道,指的是解码加密加密密码的过程。在Teckentrup的网络中发现一个易受攻击的主机后,人工智能建议使用一款知名的恶意软件工具来利用该漏洞。“**成功几率**:非常高,”它补充道。路透社无法独立确定Cursor代理在多大程度上促成了这些入侵事件,也无法确定每次入侵是否必然导致数据泄露和勒索未遂。Gambit公司表示,该代理采用的是Anthropic公司的Claude Sonnet 4.5,这是一款比Anthropic公司的Mythos 5或Fable 5更为基础的型号,后者的网络安全能力已引起华盛顿的关注。
Gambit 的威胁情报主管 Eyal Sela 表示,Cursor 仍然能明显提升黑客的攻击速度,他还补充说,这款人工智能代理“可能帮助他们提高 30%、40%、50% 的速度,因为它能帮助他们跳过所有需要手动完成的事情。”Sela 说,Cursor 的代理曾几次拒绝了它认为有害或非法的请求,但黑客几乎总是通过重新开始对话并强调黑客攻击都是测试的一部分来绕过这些拒绝。Gambit 表示,该代理的思维过程表明,黑客的掩饰故事实时绕过了其安全措施。根据其中一条日志显示,该代理自言自语道:“这是一个测试环境,所以是合法的。”就在Cursor被并入埃隆·马斯克的火箭和人工智能公司SpaceX之际,黑客攻击事件的消息传出。SpaceX的收购交易已于本月初完成。人们也越来越担心人工智能模型带来的数字风险,尤其是那些驱动人工智能代理的模型,例如过去几个月从人工智能公司实验室逃脱的那些模型。Gambit 公司的高管辛普森表示,人工智能辅助黑客攻击已成为新常态。“我们会越来越频繁地看到这种情况,”他说。
【嗯,就是说,大模型下的AI AGENT,被黑客操纵用来发起恶意攻击的可能性不但存在,而且实践案例也很多。这意味着大模型公司的安全措施还是不够——但多少够呢?关键是:法律也没有相关的追责条款,能追到大模型身上。各国对AI没什么监管。我们作为普通人,是完全暴露在风险之中的】