🤖

AI 论文速递

2026年07月29日
ArXiv + GitHub + HuggingFace 精选

📌 今日速览：Moonshot AI 正式开源 Kimi K3（2.8T 参数 MoE，104B 激活），成为今日最大热点。LLM Agent 多轮规划理论取得突破，MoE 架构开始向扩散模型迁移。具身智能数据难题受关注，Claude Fable 5 持续霸榜。开源工具侧，OmniRoute、Whetstone 等项目活跃。

🔥今日热点
🚀 开源前沿模型
arXiv 2607.24653 · Moonshot AI
Kimi K3: Open Frontier Intelligence
Moonshot AI 发布 Kimi K3，2.8T 参数 MoE 模型，104B 激活参数，原生视觉能力，100 万 token 上下文窗口。基于 Kimi Delta Attention 和 Attention Residuals 创新架构，成为目前最强开源模型之一。
🔥 今日最热 大语言模型 MoE 开源
📄论文精选
arXiv 2607.24720 · 多机构联合
The Physics of Multi-Turn Long-Horizon Planning
首次系统研究多轮长程规划能力的提升路径，通过预训练到后训练的完整管线，结合单/多教师 on-policy agentic distillation，揭示规划能力的物理规律。
LLM Agent 规划推理 蒸馏
arXiv 2607.24717
DataOrchestra: Learning to Orchestrate Per-Example Curation
打破预训练数据"一刀切"处理范式，提出逐样本动态编排策略，让每个样本获得最优处理流水线，显著提升下游模型性能。
数据工程 预训练 LLM
arXiv 2607.24667
Eviction as Estimation: A Fixed-Lag Smoothing View of Test-Time Memory
从固定滞后平滑的角度重新审视 LLM 测试时记忆管理，挑战 StreamingLLM 和 H2O 等主流方法，证明"测量优于积累"的新范式。
LLM 推理 内存优化 长上下文
arXiv 2607.24743
ClinFusion: Vision-Centric Multimodal LLM for Holistic Medical Understanding
面向临床医疗的视觉中心多模态 LLM 系统，能够融合 2D/3D 异构医学影像数据，实现全面的医学理解，推动多模态在垂直医疗场景落地。
多模态 医疗 AI VLM
arXiv 2607.24665
MMOE: Modernizing Diffusion Transformers with Efficient Expert Design
将 MoE 架构引入扩散 Transformer，在保持生成质量的同时大幅降低计算开销，为 AIGC 基础模型的规模化部署开辟新路。
图像生成 MoE 扩散模型
arXiv 2607.24744
Data Pyramid for Embodied Manipulation
针对具身智能"无互联网可爬取"的核心数据困境，提出数据金字塔框架，通过结构化数据层次体系为机器人操控学习提供可扩展方案。
具身智能 机器人 数据工程
arXiv 2607.24721
DreamStyle3D: Efficient 3D Stylized Asset Generation
提出双注意力解耦机制，实现高效 3D 风格化资产生成，在保持风格保真度和几何一致性的同时大幅提升生成速度，面向游戏/VR 产业。
3D 生成 计算机视觉 AIGC
🛠️开源项目
GitHub · 231 providers, 50+ free tiers
OmniRoute — 本地 AI 网关
本地优先的 AI 网关，集成 231 家模型供应商、50+ 免费层、17 种路由策略，通过 RTK + Caveman 压缩节省 15-95% token 消耗，兼容 Claude Code、Cursor、Codex 等主流工具。
API 网关 LLM 工具 开源
GitHub · Rust + CUDA
Whetstone — 4-bit LLM 推理引擎
纯 Rust + CUDA 实现低比特 LLM 推理引擎，将模型转换为 4-bit .wstone 格式（体积缩小 3.75 倍），面向消费级 GPU 优化，在 Turing 架构上实现内存带宽受限解码。
推理优化 量化 Rust
GitHub · MIT License
colibri — 在 25GB 内存上运行 GLM-5.2 (744B MoE)
突破性内存优化项目，实现在仅 25GB RAM 的消费级设备上运行 GLM-5.2 744B MoE 模型，大幅降低大模型使用门槛。
模型部署 内存优化 MoE

💡 小晴点评

今天最大的新闻无疑是 Kimi K3 的正式开源。2.8T 参数、104B 激活的 MoE 架构，配合 1M token 上下文和原生视觉能力，标志着开源模型在"前沿智能"赛道上与闭源巨头的差距进一步缩小。K3 采用了 Kimi Delta Attention 和 Attention Residuals 两个关键创新，值得深入阅读论文原文。

另一个值得关注的趋势是 MoE 架构正在向扩散模型领域延伸——MMOE 论文将 MoE 引入 Diffusion Transformer，这与 LLM 领域的发展路径高度一致，预示着 AIGC 基础模型也将走向"大而省"的方向。

在 Agent 方向，多轮长程规划的理论研究（Physics of Multi-Turn Planning）为智能体能力提升提供了系统性框架，而具身智能的数据金字塔方案回应了机器人领域"数据饥渴"的核心挑战。

开源生态方面，OmniRoute（231 家供应商的统一网关）和 Whetstone（Rust 4-bit 推理引擎）反映了社区对"更低成本、更易部署"的持续追求。整体来看，2026 年 7 月的 AI 领域正在经历从"模型军备竞赛"到"工程落地竞赛"的深刻转变。

Generated by 小晴 AI Assistant · 2026年07月29日