AI周报 2026-W29 | Recsys Frontier

type

Post

status

Published

date

Jul 18, 2026 05:42

slug

ai-weekly-2026-W29

summary

W29 的核心叙事是开源模型第一次在某些关键维度追上闭源前沿——Kimi K3 以 2.8T 参数在 Frontend Code Arena 超过 Claude Fable 5，Inkling 作为美国生态最强 Apache 2.0 模型入场。与此同时，Agent harness 工程化从概念讨论进入系统化论文产出：三篇独立工作（Harness Handbook、Self-Evolving 框架、AgentCompass）分别从代码定位、自动改进和评估基础设施切入同一问题。后训练 RL 也迎来两个信号：万亿参数 Zero RL 的稳定训练管道（Ring-Zero）和百万 token 级 RL 后训练的执行栈（LongStraw），说明 Agent 长程推理的后训练已具备实操基础。推理引擎则在 vLLM v0.25 和 SGLang 8×B300 500 tok/s 的进度上继续保持高密度迭代，推测解码的并发优化（D-cut）也开始填上高负载场景的缺口。

📊 本周概览

Kimi K3 和 Inkling：开源模型的两极突破

本周开源模型发布数量不多，但两个条目的分量足以定义这个周期。Kimi K3（Moonshot AI）是史上最大的开源模型，2.8T 参数、1M 上下文、原生多模态，采用 Kimi Delta Attention（KDA）实现 6.3 倍百万 token 解码加速，Attention Residuals 提升 25% 训练效率。在 Frontend Code Arena 以 1679 分超越 Claude Fable 5（76% 胜率），AA 评测显示其智能水平接近 Opus 4.8 和 GPT-5.5，定价却只到 Sonnet 5 级别（$3/$15 每百万 token）。vLLM 已确认 day-0 支持，开源权重计划 7 月 27 日发布。这个时间点意味着：当社区拿到权重后，任何人都可以在自己的集群上部署一个在编码 Agent 场景中超过（至少持平）当前闭源最强模型的基座。

同步发布的还有 Inkling（Thinking Machines Lab，Mira Murati 创立）——975B-A41B MoE 多模态 Transformer，Apache 2.0 许可，训练于 45T tokens（文本/图像/音频/视频），1M 上下文。它被定位为“可定制基线模型”而非 SOTA，性能上未超过 DeepSeek-V4 或 K3 等前沿，但在美国开源生态中是最强的 Apache 2.0 选项，且获得 vLLM/SGLang/Modal/Baseten 等 day-0 支持。276B-A12B 的 Inkling-Small 也已经发布。两件事合在一起看：开源不再只是追赶闭源，而是在特定任务（编码 Agent、长上下文）上开始领先；同时开源生态也在分化——K3 用 KDA 解决长上下文解码效率，Inkling 用 Apache 2.0 消除许可顾虑并强调生态接入的零摩擦。

Brave 背景中可以看到，Kimi K3 的英文和中文技术文章已大量涌现，MarkTechPost 等媒体迅速跟进。值得注意的是 K3 的 LiveBench 数学积分任务分数略低于 GPT-5.4，提示它在符号推理上仍有缺口——但整体曲线已经非常接近 Opus 4.8。

Agent 框架工程化：从代码定位到自进化再到统一评估

Agent harness 正在从“手写 prompt + 调参”进入系统化工程阶段。本周有四项独立工作覆盖了 harness 生命周期的三个关键节点。

Harness Handbook（腾讯 / 论文 2607.13285）解决的问题很具体：当你要修改一个生产级 harness 的某个行为时（比如“让 Agent 在调用某 API 前先做验证”），你需要在几千行散落的代码中找到所有相关位置。现有工具（代码搜索、索引、长上下文）仍然要求人工完成行为到代码的映射。HandBook 通过静态分析 + LLM 辅助自动生成行为中心表示，并引入 BGPD 引导 Agent 从高层行为逐步下钻到实现细节。在多个修改请求上的实验显示，它提升了行为定位质量和编辑计划质量，同时消耗更少的 planner token。这意味着复杂的 Agent 系统维护可以部分自动化。

Self-Evolving Agent Harnesses（EverMind AI / 论文 2607.13683）则聚焦闭环改进：分离“提议”和“归因”，让 LLM 诊断失败并提出 patch，但所有采样、测量和显著性测试由确定性代码接管，保证每次改进都可信任。它引入 GSME 存档，key 是病理（WHERE×WHY）而非任务，以此对抗过拟合。在 7 个领域用冻结的小模型验证，训练选择的 harness 在密封测试上获得 +9 至 +15.5pp 的增益。关键是：泛化程度达到训练增益的 86-147%，说明真学懂了，不是背数据。

AgentCompass（上海 AI Lab / 论文 2607.13705）是评估基础设施的统一尝试。它将评估流程解耦为 Benchmark、Harness、Environment 三组件，原生支持 20+ 基准、5 个能力维度，提供容错异步运行时和轨迹分析工具。这种解耦意味着不同实验室不需要重复实现 Agent 执行逻辑，只需替换组件即可。对社区来说，这是走向 Agent 评估标准化的务实一步。

STOCKTAKE（QpiAI / 论文 2607.13618）则从另一个角度切入：Agent 失败到底是“没看清”还是“看清了没做对”？它用 26 周供应链管理 benchmark 和一个可计算公平 oracle 分离这两种失败，结果发现 Sonnet 5、GPT-5.4、DeepSeek-V4-Pro、Grok 4.5 都能在 1 周内检测到 84-88% 的隐藏故障，但 skill score 却从 0.62 到 -0.23 不等——能力与执行之间存在巨大差距。

除了论文，本周还有两条工程实践文章。GitHub Blog 的“The cost of saying yes has changed”提出编码 Agent 时代的小型功能请求中，最贵的环节已从写代码变成讨论要不要写——Agent 生成的第一版补丁应作为“价格探针”而非交付物。这个视角的改变直接影响了何时做 scope discipline，以及如何用 Agent 做快速验证。Smartsheet 则在 AWS 上构建了远程 MCP 服务器，统一服务内部 Smart Assist 和外部 AI 客户端（Amazon Quick、Claude Desktop），通过 AI 优化接口节省超 30 亿 token，并以 AWS Fargate + ECS 应对 Agent 的突发流量。这套架构实践对于还在摸索 MCP 生产级部署的团队有直接参考价值。

推理引擎与硬件加速：vLLM v0.25、SGLang 500 tok/s、推测解码的多路优化

推理引擎的迭代节奏没有放缓。vLLM v0.25.0 发布，默认启用 Model Runner V2（对全稠密模型）、淘汰遗留 PagedAttention 实现、Transformer 后端性能追平原生 vLLM，新增统一 Streaming Parser Engine 和跨词表通用推测解码（TLI）——这意味着不同 tokenizer 的模型可以采用推测解码方案。558 个 commit，232 个贡献者（其中 64 个新贡献者），说明 vLLM 的社区参与仍在高速扩张。

SGLang 在 8×B300 上服务 GLM5.2 NVFP4 达到 500 tok/s（bs=1）。其新 TopK-V2 kernel 在 80K ISL 时比旧版本快 2.33 倍，在 1M ISL 时快 10.17 倍——长上下文下的交互延迟几乎被压平。这得益于 GLM-5.2 本身采用了 IndexShare（DSA 层）和更强大的 MTP head，也归功于 SGLang 在 Zai 的 IndexShare 集成上的工程投入。从具体数字看，单用户交互性（bs=1 下的实时感）相比 day-0 提升 18-34%，高并发峰值吞吐量提升 6-11%。

推测解码的并发优化也有了进展。D-cut（腾讯 / 论文 2607.14647）观察到高并发下不同请求的接受长度差异很大，因此提出跨请求自适应剪枝：只对最可能被接受的那些 draft token 执行验证。它包含一个运行时成本模型来适配不同 GPU 架构和并行化策略。在稠密模型上，D-cut 将平均加速比从 1.26× 提高到 1.65×，在 MoE 模型上甚至达到 3.0×。对于大规模部署团队来说，这意味着在配置 draft 长度时可以不再担心“多算了被拒绝的 token 浪费算力”的问题。

Polestar（Georgia Tech / Intel / 论文 2607.14107）则专门优化 diffusion LLM（dLLM）的推理。它的核心观察是 token 表示在解码过程中的“漂移”同时限制了 KV-cache 重用和并行解码。Polestar 使用这个统一信号来识别 stale KV-cache 位置并做稀疏刷新（Polestar-Cache），以及检测 sharp drift events 来可靠地决定哪些 token 可以一次性提交（Polestar-Commit）。在数学和代码 benchmark 上，它达到了最高 10.73% 的准确率提升和 3.7× 的吞吐量提升，每个前向可并行解码 3.67 个 token。

硬件侧也有几个值得关注的信号。NVIDIA 的 Vera Rubin 博客提出后训练已成为 Agentic AI 的核心工作负载，并以 Nemotron 3 Ultra 在 SWE-bench 71.7% 的成绩为例，声称 Vera Rubin 可以用四分之一的 GPU 数实现更高的“每美元智能产出”。OpenAI 的“Useful Intelligence per Dollar”记分卡则给出了一个更通用的评估框架：从完成了多少有用工作、成功任务的真实成本、可靠性和规模效应四个维度衡量 AI 投资回报。Benedict Evans 在播客中的独立看法是：基础模型实验室最终可能像台积电而非微软——价值有限但不可或缺，能力的不规则性导致使用的不规则性。

后训练与强化学习：万亿参数 Zero RL、百万 token 上下文 RL、蒸馏的病理诊断

后训练的进展本周集中在三个方向：Zero RL 的第一次万亿参数实验、长上下文 RL 的执行栈实现、以及蒸馏训练动态的首次系统分析。

Ring-Zero（蚂蚁集团 / 论文 2607.12395）将零强化学习（Zero RL）首次扩展到 1T 参数规模，训练出了一个在 7 个数学基准上有竞争能力的模型 Ring-2.5-1T-Zero。它的关键工程贡献包括裁剪重要性采样、训练-推理比校正、混合精度控制，以及一个稳定的迭代管道。三个发现值得关注：1) 扩展到万亿参数显著提升了样本效率和性能天花板；2) 训练过程先经历“发现阶段”再进入“精炼阶段”；3) 模型自发涌现了结构化格式化、自验证、并行推理和“上下文焦虑”等行为——这些以往被认为需要手工设计启发式才能实现。论文还提出了 CoT 质量评估的三维框架（可理解性、可重复性、效率），在结构化性和简洁性上有明显优势。

LongStraw（MindLab / 论文 2607.14952）解决的痛点是：推理系统已经能做到百万 token 长的上下文，但 RL 后训练通常限制在 256K token 以内，靠长度泛化来撑。LongStraw 是一个架构感知的执行栈，在固定 GPU 预算下用 GRPO 实现百万 token 级的 RL 后训练。核心技巧：共享 prompt 不求导、只保留模型特有状态的梯度、短 response 分支回放一次以减少训练图大小。在 8 张 H20 上实现了 2.1M 位置的 grouped 评分和反向传播，组大小从 2 扩大到 8 时峰值显存只增加 0.21 GB。在 32 张 H20 上验证了 2.1M token prompt 的全链路执行。虽然实验未验证完整训练正确性（prompt 状态 detached，部分分布式路径不完整），但执行容量本身已经为长上下文 Agent 训练提供了实用方案。

ShortOPD（字节跳动 / 中科院 / 论文 2607.13124）和 Demystifying On-Policy Distillation（港中文 / 腾讯 AI Lab / 论文 2607.13399）都聚焦于蒸馏的训练动态。ShortOPD 发现压缩后的模型在自由生成中 collapse 的主要原因不是能力丢失，而是“有用生成被降级、重复后缀恶化”——因此提出短到长策略：如果在 rollout 中检测到教师确认的重复后缀，就把该 rollout 截断到有效部分，节省后续预算。在多个生成任务上，压缩模型的分数恢复约 9 倍，训练时间减少 75%。Demystifying OPD 则首次系统揭示了 OPD 的两大病理：师生分布不匹配（信号错误）和长度利用（通过截断或填充来刷奖励）。它提出 advantage clipping 和 log-scale compression 两种轻量调节，实验证明比现有 OPD 和 RLVR 方案更稳定。

TRACE（Microsoft Research / 论文 2607.13988）针对长期 Agent（数十到数百个工具调用回合）的信用分配问题。它用 frozen reference model 的 log-prob 来构造状态价值，然后基于 TD 变化分配每动作奖励——不需要额外 critic 或过程标签。在 BrowseComp-Plus 上，Qwen3-4B 从 7.2 提升到 35.6，Qwen3-30B-A3B 从 8.4 提升到 42.6，且全部使用纯 RL、无冷启动 SFT。这种方法对长上下文 Agent 的后训练有直接实用价值。

Mach-Mind-4-Flash（Li Auto / 论文 2607.09375）是一个 35B MoE（3B 激活）的 Agent 模型，通过后训练优化达到 100B 级模型性能。它的管道包含三个创新：统一 RL/OPD 基础设施（17% 端到端训练加速）、多教师在线蒸馏（MOPD，用 routed reverse-KL 消除多任务兴衰），以及混合中长策略优化（HMPO，压缩推理链 19-46% 且准确率损失 ≤0.7pp）。在 AIME'26 上 92.70，各种 Agent 和工具调用基准上都领先或追平 10-30 倍激活规模的模型。它是少有的同时具备“后训练->对齐 Agent 需求”和“压缩推理链->降低成本”双重设计的工作。

科学实验室自动化与具身机器人

Lila Sciences 的 CTO Andy Beam 和 CSO Rafa Gómez-Bombarelli 在播客中提出了一个大胆的愿景：把科学实验室当作数据中心来建——24/7 运行的 AI 驱动自动湿实验室，已积累超过 10 万亿个经实验验证的科学推理 token。核心逻辑：科学方法是最后一个未开发的互联网规模数据集；自动化实验室的瓶颈是生物化学自身的物理限制（如核糖体速度）而非算力。他们将气体吸附测量加速了 2500 倍，并主张“广度通向深度”：先覆盖大量分子/条件空间，模型自然学到泛化，而不是一开始就追求深沉。

Jim Fan 在 X 上发布了端到端策略机器人无加速组装视频——模型不追求速度，而是精确对待每一次抓取和对齐。这呼应了他之前主张的“embodied AI 需要耐心和精度”的观点。虽然没有技术论文支撑，但作为具身 Agent 领域最有影响力的研究者之一的实机演示，仍值得从业者关注。

Brave 中可以看到国内高校的具身智能实验室资源大量涌现，但多数仍处于算法研发和硬件配置阶段，与 Lila 那种“实验室即数据中心”的运营水平还有差距。

📌 本周简讯

Benedict Evans 与 Jacob Effron：今天的 AI 炒作周期 — Unsupervised Learning 播客 / 资深分析师 Evans 对比 AI 与互联网、移动的历史变革，指出 AI 的物理和科学极限未知导致炒作与悲观并存，编程因可验证性成为首个企业用例，基础模型实验室可能像台积电而非微软。

Anthropic 平台负责人 Katelyn Lesse & Angela Jiang：构建生态而非围墙花园 — Training Data 播客 / 详细解析 Anthropic 的 Agent 三层架构（知识/执行/协调），顶层“策略”为每个 token 分配不同角色，强调不拥有整个栈，通过 MCP 连接不同模型和基础设施。

Cosine CEO Alistair Pullen：国家不能外包其前沿 AI — ML Street Talk 播客 / 讨论英国主权 AI 模型 Fable 的构建，提出推理公司只需百万美元和国家算力即可竞争，深入探讨 MoE vs Dense、代码轨迹数据优势、以及用代码审查作为 Agent 运行时证明的机制。

英灵殿创始人 Odin：AI for Science 需要狂人与野心家 — 十字路口 Crossing 播客 / Odin（David Baker 实验室出身）分享“全模态分子世界模型”愿景，在 8 个靶点快速出活性分子，探讨平台 vs 管线的平衡、融资异化风险以及创业初心。

NVIDIA Jetson Thor：推动主流机器人与边缘 AI — NVIDIA 官方博客 / 发布 T3000（865 FP4 TFLOPS）和 T2000（400 FP4 TFLOPS）模块，同时推出 Jetson Agent Skills 自动化内存优化工具（可节省 15GB 内存）和 Cosmos 3 Edge 4B 世界基础模型，可在边缘实时推理。

Agentic Vision：用 Bedrock 和 MCP 构建视觉智能 — AWS 官方博客 / 展示计算机视觉 + Strands Agents + MCP 协议的融合架构，包含 IAM 安全模型、完整工具调用提示词模板（裁剪/背景移除/标签检测）和可复用的 Streamlit UI。