AI 论文速递 — 2026年10月03日

📌 今日速览：今日研究焦点集中于三个方向：一是 LLM 训练方法学的系统性辨析——HuggingFace 热门论文《On-Policy or Off-Policy Learning?》以 114 赞领跑，对蒸馏中的 SFT 与 RL 动态进行了受控比较；二是具身智能从"单机体技能"走向"自我改进与多机协同"，RPG、InterEvolve、DuoMind 分别覆盖自主技能习得、人形机测试时进化与语义通信多机协调；三是高效化方向持续产出，TACO 优化器显著降低全参数微调的显存开销。开源社区方面，AI Agent 技能类 awesome 列表呈快速增长态势。

🔥今日热点

HuggingFace Daily Papers · 114 Upvotes

On-Policy or Off-Policy Learning? A Systematic Study of Distillation Dynamics

蒸馏中 On-policy 学习被认为可减轻灾难性遗忘、产生更稀疏的参数更新并改善泛化，但既有 SFT 与 RL 的比较往往同时变动多个变量，结论难以归因。该研究通过受控实验系统辨析蒸馏动态，为后训练（post-training）方法选择提供了更严谨的经验依据。

HOT LLM 蒸馏 post-training

arXiv · cs.AI / cs.CV · 2026-10-01

VISTA: A Visual Harness for Reasoning in an Interactive World

MIT 团队提出 VISTA 视觉工具框架，论证通用多模态模型本身具备较强推理能力，关键在于配以合适的外部"挽具"（harness）。VISTA 赋予多模态模型长时程视觉交互能力，可在多样化交互环境中完成任务，为"以 VLM 作为通用智能体骨干"的路线提供了新的实证支持。

多模态 / VLM 智能体推理

🦾具身智能与机器人

arXiv · cs.RO / cs.AI · 2026-10-01

Reconstruct, Practice, Go Real: Guided Self-Improvement for Embodied Agents

RPG 框架面向机器人执行能力的自主改进：通过重构任务、在仿真中练习、再迁移至真实世界，减少人类在技能开发、奖励设计与感知-控制集成上的持续投入，是"机器人自我提升"范式的一次系统化尝试。

具身智能自我改进 Sim2Real

arXiv · cs.RO · 2026-10-01

InterEvolve: Test-Time Evolution of Reward Programs for Humanoid Loco-Manipulation

提出人形机器人移动操作的"测试时进化"方法：无需重训练，通过对奖励程序（reward programs）的进化式搜索，复用控制器已有技能求解训练分布之外的任务，并从自身尝试中持续改进与保留所学，为人形机的开放环境适应能力提供了新路径。

人形机器人测试时进化奖励设计

arXiv · cs.RO · 2026-10-01

DuoMind: Enabling Distributed Multi-Robot Coordination with Semantic Communication

针对 VLM/VLA 能力目前集中于单体机器人的局限，DuoMind 将视觉-语言-动作能力扩展至多机器人系统，通过语义通信实现分布式多机协调，是多机协作方向与大模型能力结合的代表性进展。

多机器人 VLA 语义通信

⚙️LLM 训练与高效化

arXiv · cs.LG / math.OC · 2026-10-01

TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning

全参数微调的优化器状态显存开销是制约可微调模型规模的关键因素。TACO 以三值、列向一稀疏的结构压缩优化器状态，在保留一阶梯度信息与更新几何的同时显著降低显存占用，面向资源受限条件下的大模型微调场景。

优化器显存高效 LLM 微调

arXiv · cs.CL / cs.AI · 2026-10-01

Hierarchical Continuous Diffusion Language Models

针对离散扩散语言模型并行解码时各 token 独立采样、缺乏全局协调的结构性瓶颈，该工作提出层级化连续扩散语言模型，在连续潜空间中引入层级结构，改善需要双向推理与全局约束满足任务的生成一致性。

扩散语言模型生成建模

🌐开源与 Awesome 列表动态

GitHub · awesome 生态 · 2026-10 上旬

sindresorhus/awesome 主仓动态与 AI Agent 技能类列表兴起

主仓近月以维护性更新为主（清理归档列表、修订贡献指南），暂无 AI 方向新列表合并。但 awesome 生态中 AI Agent 技能类列表快速增长，值得关注：awesome-agent-skills（自动更新的 Agent 技能质量评级索引）、awesome-ai-tools（AI 编程工具分类参考，覆盖 IDE、终端 Agent 等）、awesome-ai-security-agents（AI 安全智能体论文/仓库/博客合集）。此类列表的涌现反映出 Agent 能力生态正走向标准化与目录化。

开源 awesome list Agent 生态

📝 编辑点评

10 月 3 日的研究图景呈现清晰的三条主线。其一，训练方法学进入"归因时代"：On-Policy vs Off-Policy 蒸馏的系统性研究之所以获得社区高度关注，在于它纠正了以往多变量混杂比较的方法论缺陷，后训练领域正从经验试错转向受控实验科学。其二，具身智能的能力边界在三个维度同步拓展——RPG 解决"技能从哪来"（自主习得）、InterEvolve 解决"新任务怎么办"（测试时进化奖励程序）、DuoMind 解决"单体到群体"（语义通信多机协调），合起来勾勒出通用机器人的能力栈雏形。其三，效率研究持续下沉到优化器层级，TACO 类工作使大模型全参数微调的硬件门槛进一步降低。开源侧值得注意的信号是 Agent 技能类 awesome 列表的批量出现，预示 Agent 能力正在形成可检索、可复用、可评级的生态基础设施。