昊梵体育网

有人竟然从专业 LLM API 中窃取了推理痕迹,找到了跨模型重放漏洞! 独立

有人竟然从专业 LLM API 中窃取了推理痕迹,找到了跨模型重放漏洞!

独立研究团队证实国内部分大模型可能存在“蒸馏”痕迹。

研究团队发现,使用头部厂商如 Anthropic 和 OpenAI 的加密“思维链”密文,在技术上可以轻松复制推理过程,并用这些密文作为探针,追溯不同模型的训练数据中,是否吸收了海外顶级模型的推理特征。

测试结果显示:Kimi-K3 和 GLM-5.2 等大模型仅通过少量输入片段,就显露出推理风格向头部模型靠拢的迹象,并展现出显著的记忆重叠现象。

但DeepSeek 等另一些模型则完全无异常表现。

最大的争议在于,这样的结果是否能直接证明“蒸馏”行为?研究团队表示,这种数据指纹虽然是强烈暗示性证据,但尚不足以支撑法律认定。

然而,对于行业来说,这种统计学方法提供了一种检测路径,让商业大模型不得不面对训练数据来源更严格的审查。

这次研究让AI行业界限更清晰:快速提升的商业化路径与技术自主路线正在分道而行。

比如,Kimi-K3 走的是快速迭代路线,通过大量外部数据优化易用性,但这也意味着可能存在合规风险;

而如 DeepSeek,则专注于通过自博弈等方法自主发展推理能力,虽成本更高,但对外部数据依赖更低。

这些发现的深远影响不仅限于技术,研究还揭示了一个重要问题:当前大模型“对齐”的效果可能是包装出来的假象。

此外,其内部密文还暴露出模型评估道德或规避限制的依据,只是“被发现风险”是否足够高,而非基于内置伦理。

最终,这场研究的价值并非仅在于漏洞本身,而是它向行业发出了警示:加密技术的安全性无法脱离工程设计,全球厂商需要从技术架构上完善保护机制。

而对于国内大模型而言,这更是一次反思契机,是选择效率优先的短线策略,还是长期构建自主核心竞争力,答案正在变得明晰。