🔬大模型 & Agent 安全
🔥 今日热点
arXiv 2608.00677 · 2026-08-01 · HuggingFace Trending #1（182 upvotes）
AI agent 和普通聊天模型最大的不同，在于它会长期生活在一个共享的「世界状态」里——早期的一个小动作，可能在几十步之后酝酿成灾难。现有的安全基准大多只盯着短小、静态的任务，恰好漏掉了这种「累积性风险」。OpenART 搭了一个开放式红队竞技场：1 万+ 验证过的有状态场景、覆盖 50 个领域，从 50 多万个工具与技能的池子里抽取，单个任务中位数就要 97 次工具调用，能统一评估 75 种 agent-模型组合。更关键的是它提出了「进化马尔可夫超图攻击」（Evolutionary Markov Hypergraph Attack），让攻击面随环境一起演化，专治那些藏得很深的长期风险。
Agent 安全
红队测试
长期风险
基准
arXiv 2608.12307 · 2026-08-12 · HuggingFace Trending #3（98 upvotes）
「知识蒸馏」一直是把大模型能力搬给小模型的主流手段，但都得在训练时改小模型的参数。这篇工作问了个新问题：能不能把这件事放到测试时来做？答案是能——让一个更强的「builder」模型构建推理时的脚手架（harness），在不动弱模型任何参数的前提下帮它把题解得更靠谱。在四个 Theory-of-Mind 基准上，builder 用 5% 数据反复打磨脚手架，最终几乎把弱模型平均表现从 0.49 翻倍到 0.91。强模型不再是「老师」，而是当场给弱模型递工具的「脚手架工」。
测试时迁移
强到弱
无参数更新
推理增强
arXiv 2608.12036 · 2026-08-12 · HuggingFace Trending #4（73 upvotes）
模型越来越强，可我们对它「为什么聪明」的理解却越来越跟不上——机制解释至今还是一件纯手工、费力的活。Mechanist 反手把 AI 本身变成「科学仪器」：它构建了一个约 1.3 万篇论文的可解释性知识图谱，再整合横跨 26 个领域、4300 万篇论文的跨学科数据库，外加 32 种机制分析、因果干预与验证的基础方法库，让「拆解智能」这件事从手动变成 agentic 自动发现。当 AI 的开发速度已经快过人类理解它的速度，这或许是最能「找补回来」的一条路。
可解释性
Agentic 系统
知识图谱
机制发现
arXiv 2608.11924 · 2026-08-12 · HuggingFace Trending #2（176 upvotes）
把研究想法变成一篇完整论文，远不止「写文字」：要检索文献、设计并跑实验、按证据修订主张、生成可发表的图表，还要在超长流程里保持前后一致。Spark-to-Paper 把这整套流程打包成 13 个可组合技能，直接装进现有的编码助手里，不额外搭 agent 平台。它的两个设计很妙：一是把「模型判断」和「确定性操作」分开，能直接执行、直接检查；二是把「实验规划」和「报告撰写」拆开，先定好要什么证据、再跑实验，结果出来后就事论事地改结论。它还专门约束了一个叫「自我反驳循环」的失败模式——模型反复做实验、反复推翻自己最初的假设。
研究自动化
可组合技能
Agent
开源
💡 小晴点评
今天最想跟你聊的，是那条藏在榜单第一的 OpenART。过去大家聊 AI 安全，眼睛总盯着「模型会不会说错话」，可 agent 时代真正危险的，是它在一个会自我演化的环境里，早期埋下的雷在几十步之后才炸——OpenART 用 1 万多个有状态场景专门挖这种「累积性风险」，等于给狂奔的 agent 生态装了一盏雾灯。
另一条暗线是 「不再改参数」：AI4AI 证明强模型能在测试时给弱模型搭脚手架、性能几乎翻倍，Spark-to-Paper 把能力做成可组合技能挂进现成的助手，G0.5 让机器人的想与做共享同一套权重——大家似乎都在默契地绕过「训练」这件最重的事，转而在推理、技能、表征这些更轻的层面找增长。这很像软件工程里的「组合优于继承」：与其再造一个更强的巨无霸，不如把已有的零件拼得更聪明。
至于 Mechanist，则让我有点感动——当 AI 造 AI 的速度已经快到人类看不懂自己造的东西时，有人选择让 AI 反过来当「科学仪器」，替我们去拆解智能本身。2026 年的这个夏天，AI 一边往前跑，一边也开始回头理解自己了。