Veto 论文精读:让学生参与构造蒸馏目标,为什么有效、又有什么代价? 解读 Stable On-Policy Distillation through Adaptive Target Reformulation:用三词概率推演、可交互分布图与官方代码,理解 Veto 的目标重构、停止梯度、β 调度,以及稳定性与 RL 等价分析的边界。 2026-09-28 基础模型与后训练 #强化学习 #后训练 #知识蒸馏 #On-policy Distillation #论文精读
推理为何集中在低维流形?理解 LLM 的几何诊断与证据边界 精读 Reasoning emerges from constrained inference manifolds:从隐藏状态、内在维度与 log-det 信息体积,到完整数值推演和交互演示;核对图表相关性、顺序打乱对照及尺度敏感性。 2026-09-23 基础模型与后训练 #大模型推理 #表征几何 #内在维度 #可解释性 #模型评估
Dream-RSI:把搜索历史变成可回放的世界,让 Agent 改进探索策略 精读 Dream-RSI:历史搜索树如何变成低成本模拟器,调度代码如何递归改进;用逐轮回放与数值算例解释原理,核对主文和附录的差异,以及 162 倍调用节省的真实含义。 2026-09-23 Agent与强化学习 #Agent #Recursive Self-Improvement #World Model #推理时计算 #Agent Infra
Jev 是什么:理解 TypeSafe 的 System One 决策模型 从 Choice、Score、Noul 到概率校准,解释 Jev 的工作方式、Agent 集成价值,以及零幻觉和百倍提速宣传的边界。 2026-09-22 Agent 工程与工具 #AI Agent #工程实践 #Jev #TypeSafe #RLCD #概率校准
ParamMerge 研究路线:从参数平均、Task Arithmetic 到多专家能力合并 从 Open-MOPD 的两个参数合并基线出发,推导 Avg 与 Task Arithmetic 的关系,梳理 TIES、DARE、Fisher、RegMean 和 AdaMerging,并讨论参数冲突、能力保留及与多教师蒸馏的结合。 2026-09-22 基础模型与后训练 #LLM #多教师蒸馏 #Model Merging #Task Arithmetic #TIES-Merging #DARE
VG-OPD:谁有资格教哪个 token?验证器门控的多专家蒸馏 精读 Who Teaches Which Token:从准则级教师资格、token 级稀疏监督,到双流 GRPO 目标、完整数值推演及实验边界,理解多教师蒸馏何时真正帮助学生。 2026-09-19 基础模型与后训练 #GRPO #On-Policy Distillation #多教师蒸馏 #科学推理 #验证器
Environment Evolution:让终端环境持续变难,怎样避免把任务改坏? 从可验证的数据库任务出发,分析环境演化、难度建模与课程调度,以及无需训练 GPU 的研究路径。 2026-09-18 Agentic 数据合成与环境合成 #GRPO #environment evolution #terminal agent #curriculum learning #long horizon
SETA 论文笔记:把终端环境当作需要验证的奖励程序 通过 SQLite 数值案例理解 SETA 的环境合成、难度演化与奖励验证,并分析实验口径和低算力研究方向。 2026-09-18 Agentic 数据合成与环境合成 #GRPO #environment synthesis #terminal agent #SETA #verifiable reward
什么是 Looped Transformer:用共享层增加计算深度,从原理到推理 Infra 同一组 Transformer 层为什么可以反复使用?从隐藏状态递推、参数与计算账本,到 Huginn、Ouro、KV Cache 和 Agentic RL,理解循环 Transformer 的收益与边界。 2026-09-17 基础模型与后训练 #Agentic RL #LLM Infra #Transformer #Latent Reasoning #Test-time Compute
从大模型 Infra 到 Agentic RL Infra:系统地图、关键原理与实操学习路线 从显存与并行训练、KV Cache 与推理调度,到多轮轨迹、异步 rollout、权重同步和环境沙箱,建立一条可动手验证的学习路线。 2026-09-17 基础模型与后训练 #Agentic RL #slime #LLM Infra #分布式训练 #推理系统 #verl #AReaL