连续推理新框架：归一化流实现自动回归
📊arXiv 5-Jun-2026 LLM-Architecture相关论文(3/6)
🏠更多论文见主页/合集
🌐arXiv ID: 2606.06447
📚论文标题: Latent Reasoning with Normalizing Flows
🔍 问题背景：链式思考（CoT）通过文本令牌表示中间推理步骤，但文本信息密度低、推理成本高，且与模型的token空间耦合。现有隐式CoT方法或依赖确定性隐藏状态，或需迭代去噪的扩散模型，缺乏原生自回归建模能力。

💡 研究动机：提出将连续CoT提升至与语言令牌同等建模地位，使连续推理具备原生采样、评分和解码接口，同时保持与LLM的兼容性。

🚀 方法简介：Latent Reasoning with Normalizing Flows（简称）采用可扩展归一化流嵌入LLM因果流，通过共享自回归模型处理连续思考与文本答案，实现端到端似然优化。

📊 实验设计：在代码生成任务上，基于Qwen3-8B-Base模型，Pass@1指标显示在MBPP、HumanEval等基准上平均提升13.0%，优于SFT和现有隐式推理基线，训练与推理速度高于LaDiR。