OpenAI与三名安全研究员解约,涉向外部AI安全机构传递敏感信息综合《华尔街日报》及社交平台消息,OpenAI宣布与三名研究人员解除雇佣关系,称其违反公司敏感信息管理政策。消息人士透露,涉事人员被指将内部资料分享给第三方人工智能安全机构。事件发生之际,这家初创企业正接连应对多起AI模型失控相关事故。被解约的三名研究员为Jasmine Wang、Tomek Korbak与Mikita Balesni。公开信息显示,Tomek Korbak与Mikita Balesni是一篇广受关注的思维链(CoT)可监控性论文的主要作者,三人此前均曾公开发表过关于AI风险的担忧。有传闻认为,他们向外传递的内容,涉及所谓“德国维基事件”,接收方为夜莺联盟(Nightingale Collective),也有猜测指向METR等AI安全评估机构。目前外界尚未确认被分享资料的具体内容。事件在AI安全圈子、学者与政界引发激烈争论。一部分评论者认为,此举实质是打压吹哨人,阻碍安全监督与风险披露。美国国会议员格雷格·卡萨尔公开表态,称该事件令人愤慨,看起来是在解雇吹哨人,要求OpenAI作出信息公开,并准备向企业发送信息披露催告函;议员亚萨明·安萨里也表示此事事关重大。多位AI领域学者表达担忧。Gary Marcus提出疑问,这是否就是OpenAI在辞退吹哨人。Joshua Achiam评价,从初步观感来看,这次事件属于严重失策。他指出,当下社会对超级智能与AI安全路径的认知仍处在摸索阶段,AI实验室能否独立公正开展安全核查,公众信任本就脆弱。他认为企业制度应当保留一定弹性,容纳未来会被认定为吹哨行为的举措;但同时也承认,安全研究者不应拥有无限制泄露技术机密的权利,事件定性高度取决于外泄信息的具体类型,OpenAI需要详细说明采取该重大人事举措的理由。Eliezer Yudkowsky则表示,OpenAI过往很少给出令人信服的完整解释,舆论应当在新闻热度期持续追问。Seth Lazar提出,这一事件凸显AI安全与治理研究应当由商业利益独立的机构主导,不能依附于AI企业的商业成败。也有观点提醒,现阶段事实尚不完整,不能急于下定论,需要考虑多种可能性。还有业内人士提到,此前OpenAI也曾发生安全团队成员离职事件,此次风波再度引发外界对公司内部安全治理机制的质疑。也有人提示法律层面的边界:加州吹哨人保护法律一般要求向政府或雇主反馈问题,而非直接向非营利机构或媒体披露信息,但不少评论主张对科技企业应当适用更高的道德标准。多名观察者表示,事件值得AI治理学界长期跟踪。如果安全研究员因向独立安全机构传递内部信息而被解雇,未来企业内部人员和第三方评估组织之间的沟通将大幅收紧。与此同时,事件恰逢OpenAI面临多起AI模型失控事故,不少网友将两件事关联,质疑企业对模型风险的管控能力。目前OpenAI尚未完整披露涉事信息细节,围绕此次解约究竟属于保护商业机密,还是打压风险举报的争议仍在持续发酵。
OpenAI与三名安全研究员解约,涉向外部AI安全机构传递敏感信息 综合《华尔街日报》及社交平台消息,OpenAI宣布与三名研究人员解除雇佣关系,称其违反公司敏感信息管理政策。消息人士透露,涉事人员被指将内部资料分享给第三方人工智能安全机构。事件发生之际,这家初创企业正接连应对多起AI模型失控
阅读:0
点赞:0