LLM 为什么会多了一个 mid-training

从 PixelUMM 看原生多模态与理解生成一体

OneTrans-DCGR：生成式召回的”CoT”与多目标机制

比经验和能力更重要的是看见和相信

OneTrans-V2：召粗精 OneModel

互联网持续晋升指南 

重新理解生成式召回：从负采样到物品编码

推荐系统迭代的本质是 Scaling：结构只是摩擦系数，Infra 才是核心能力

On-Policy Self-Distillation：LLM利用隐式文本反馈定向纠错与持续学习

国内LLM圈的共同选择：多快好省的MTP

为什么Anthropic能阶段反超OpenAI

DeepSeek-V4的并行策略和计算通信遮掩

从 DeepSeek V4 的多专家on-policy Distillation 反观人类学习

zero-claw：把 Claude Code 变成 openclaw 风格的个人助理

Superpowers-ML 支持 Auto Research：跑两天的 Human on the Loop

From Next-One to Next-N：这才是推荐系统的范式改变

让 Claude Code 成功率翻倍的 10 个简单习惯

Superpowers-ML：用 Superpowers 给 ML 实验做的 Harness Engineering

生成式推荐 (Generative Recommendation) 工业界深度 Survey

Vibe Coding 核心心法：管 Agent，如带团队

TCA 51%，MFU 不足 8%——GPU 的隐藏性能损耗

Blackwell Ultra 平台让 agentic AI 的推理成本相比 Hopper 时代下降了35倍

算法工程师的核心能力是什么

算法组织熵减与Scaling Law的悖论

2026：推荐系统 All-In Transformer 的元年

为什么LayerNorm+AdamW成了深度网络的标准配置？从尺度不变性到梯度动力学 

从RL比SFT更不容易遗忘到反观推荐系统缺陷

Talent Dilution Roofline：你的算法团队可能不需要再招人了？

OneTrans 推荐系统对齐序列处理与特征交叉

AI 技术日报 - 2026-11-04

AI 技术日报 - 2026-11-03

AI 技术日报 - 2026-11-02

AI 技术日报 - 2026-11-01

AI周报 2026-W44

AI 技术日报 - 2026-10-31

AI 技术日报 - 2026-10-30

AI 技术日报 - 2026-10-29

AI 技术日报 - 2026-10-28

AI 技术日报 - 2026-10-27

AI 技术日报 - 2026-10-26

AI 技术日报 - 2026-10-25

AI周报 2026-W43

AI 技术日报 - 2026-10-24

AI 技术日报 - 2026-10-23

AI 技术日报 - 2026-10-22

AI 技术日报 - 2026-10-21

AI 技术日报 - 2026-10-20

AI 技术日报 - 2026-10-19

AI周报 2026-W42

AI 技术日报 - 2026-10-17

AI 技术日报 - 2026-10-16

AI 技术日报 - 2026-10-15

AI 技术日报 - 2026-10-14

AI 技术日报 - 2026-10-13

AI 技术日报 - 2026-10-12

AI 技术日报 - 2026-10-11

AI周报 2026-W41

AI 技术日报 - 2026-10-10

AI 技术日报 - 2026-10-09

AI 技术日报 - 2026-10-08

AI 技术日报 - 2026-10-07

AI 技术日报 - 2026-10-06

AI 技术日报 - 2026-10-05

AI 技术日报 - 2026-10-04

AI周报 2026-W40

AI 技术日报 - 2026-10-03

AI 技术日报 - 2026-10-02

AI 技术日报 - 2026-10-01

AI 技术日报 - 2026-09-30

推荐算法日报 - 2026-09-29

如果描述下大模型的训练过程，每个人都能熟练讲出 Pre-Train 和 Post-Train 的内容，而这两年 Mid-Train 的概念开始慢慢被熟知。有人说它就是换了个名字的 CPT（Continue Pre-Train），也有人说它是LLM 里现在最关键的一环。
起源
Mid-Train 这个概念源自于 OpenAI，它不仅是 LLM 的一个训练环节，还是一个独立的 Team。看 Karpathy 的个人主页写着：23～24 年，他重返 OpenAI 构建了一个新的团队，做midtraining与合成数据生成。

过去几年，NLP 经历了一次彻底的统一：翻译、摘要、问答、分类，曾经各有专用的模型和流水线，最后都被一个 LLM 取代。多模态的理解和生成正在走同样的路。
在多模态理解和生成这条线上，NVIDIA 九月底发布的 PixelUMM（Encoder-Free Unified Image and Video Understanding and Generation）是一个很好的代表。它在像素空间里同时做图像、视频的理解和生成：没有 ViT，没有 VAE，像素和 Transformer 之间只有一层线性层。单看榜单它并不突出，作者自己的结论也只是与基线"可比"。但借这一篇论文，恰好能把生成领域这几年的核心问题串起来：输入为什么不再外挂编码器，理解和生成为什么要放进一个模型，生成的输出和 loss 又是怎样从 latent 走到像素的。

之前分享过 OneTrans-V2 的工作，无论是 paper 还是 blog，篇幅和关注点更多放在 OneModel 上，其中提到的生成式召回 DCGR（Decision Conditioned Generative Retrieval）反而没有展开，这值得单独讲讲。

大家问得最多的一个问题是：它有没有把其他路召回（比如双塔）替代掉？这事值得细说。

我们招一个有经验的人进来，通常默认他的价值是"做过"：他知道方案，知道坑在哪里，所以能更快把事情做出来。
但仔细想会发现一个问题。换了公司，infra 不一样，数据不一样，业务约束和组织形态也不一样，他以前的实现细节可能 80% 都没法复用。他不可能在新环境里照搬旧方案。
那他凭什么还是能做出来？我的答案是：他未必知道路径，但他见过终点，知道这件事是能做出来的。他见过，所以他相信。
人和人的差距，很多时候不是能力，而是看见和相信。一个人没办法做出他不相信的东西，再强的人也不行。

符合之前一贯的哲学，推荐系统里的问题用一个 Transformer 就能解决，如果不能那就再 Scaling 一下。用工程确定性取消算法的玄学性，把更多的精力用于算法和 Infra 的 Co-Desgin。
这是我年初写下的一个判断。现在回头看，这个趋势比当时预想得还要明显：越来越多公司的推荐系统开始收敛到 Transformer 架构。区别逐渐不再是“要不要 Transformer”，而是数据怎么 Tokenize、Attention 怎么做，以及如何通过算法和 Infra 的 Co-Design 把它 Scale 起来。

到今年 7 月，我工作就满 10 年。十年观察下来，毕业时起点相似的人，后来的差距甚至在 10 倍以上。有人第一个职级就卡住，换行业重启；有人顺利升两三级，一直升到天花板；也有人一直在跳槽，情况却越来越糟。这个差距不是努力决定的，能在大厂活下来的人，没有一个不努力。
决定差距的，是运气和认知。
运气不可控，认知可以。这篇文章想拆掉思维里的几堵墙（误区）。之后，正常的路径会自然显露出来，有些甚至是捷径。

生成式召回如果不是轻轻松松地拿到收益，大概率是做错了。
其实生成式比双塔简单
一方面，业界越来越多的人用生成式召回很快拿到了不小的业务结果；另一方面来与和传统召回对比，相比从零到一落地一套双塔召回，生成式召回在建模和 infra 上其实简单得多。这听起来有点反直觉：在一家推荐 Infra 足够成熟的公司里，上线一路双塔已经非常标准化，生成式召回反而容易被当成更新、更复杂的技术。但这只是因为业界在双塔上积累了接近十年的 Infra 和认知，很多今天看来理所当然的能力，当年都不是免费的。

第一次听到“技术深度”这个词，是我工作的第二年。那时候我觉得工作已经比较得心应手，绩效反馈也很好，拿到了第一次晋升机会。但在 review 的过程中，我第一次被挑战了一个问题：技术深度不足。
我其实没有理解什么叫“技术深度”，第一反应是“技术难度”。当时我的工作都很业务导向，但也不乏有难度的项目，比如在几乎没有 Infra 的前提下搭建了一版双塔召回。部门的 Leader，也是当时的评委，给我举了一个例子。他说他在 review 达摩院的晋升时，会看到有人把失败的实验也放在 PPT 上，不只是知道什么方法成功了，还要知道哪些因素导致成功、哪些因素导致失败，要知其所以然。

Transformer 在推荐系统中也开始被广泛地采用，加上参数和算力的 Scaling Up，可以持续地在推荐系统中获得收益。但是从日常面试中，我也发现大多数的推荐系统从业者缺乏对 Transformer 的基本认知，导致了在Scaling 中出现常识性地错误引发失败。
Transformer Scaling 的核心问题，是尺度匹配。
Transformer 从来不是一个可以随意放大的黑盒模型。当模型的深度和宽度发生变化时，residual stream 的尺度、每一层的梯度、参数更新量、Attention logit、优化器的二阶矩估计，甚至最优 learning rate 都会一起发生变化。如果这些量没有被控制在合适的区间里，增加的参数不但不会变成有效容量，反而可能让模型进入一个“能训练，但没有真正学好”的状态。

Scaling 这个词从 LLM 扩展到推荐系统，最近也是驱动了推荐系统的核心收益。它有 Scaling Law 的 paper 提出，原本是指算力、参数、数据和 Loss 的 powerlaw 经验关系。由于推荐系统一直也是用全数据的，那么实际就是指扩展推荐模型的网络参数量，能够持续稳定地提升离线指标。
之前迭代了很久的成熟的工业模型，折腾网络结构和特征，每次迭代收益来到了千分位，突然又能有几个百分点地提升了，这就是网络参数 Scaling 的魅力，和转为业界共识的核心原因。
但这不是推荐系统的第一次 Scaling，或者说 网络参数Scaling 背后是一种做推荐目标优化的思维方式：放弃掉算法局部技巧的细枝末节，找到一个可以扩展的轴，转动它能够稳定地影响业务指标，你就把一个玄妙未定的算法研究问题转化成了稳定可预期的工程问题。

最近 DeepSeek V4 的多专家整合方案采用了OPD（On-Policy Distillation），在工业级项目上证明了OPD 在后训练中占据一席之地。而它的进阶版本OPSD（On-Policy Self-Distillation）也在 Cursor 的模型训练上大规模使用，并且展现出在利用隐式反馈数据，定向纠错和持续学习上的潜力。
文章包括：
• 知识蒸馏的 3 种范式：KD，OPD，OPSD。
• RLVR 的信用分配问题与稀疏 Reward问题，OPSD能联合弥补，定向纠错
• OPSD 不局限于显式的人类标注（RLHF），有潜力利用文本隐式用户反馈持续学习。

在 DeepSeek-V4，MiMo-V2，Minimax-M2，Qwen3-Next，GLM-4.5 的最新技术报告里，有一个被共同采用的技术模块MTP（Multi-Token Prediction）。它不仅作为预训练的辅助 loss，提升了模型效果，又能作为 draft model 进行投机解码推理加速，实现了多快好省，变成了 LLM 标配之选。

LeCun 在 2016 年的 NeurIPS 主题演讲上,提了一个被广泛引用的比喻:"如果智能是一块蛋糕,蛋糕主体是无监督学习,糖霜是监督学习,樱桃是强化学习。"刚提出来时备受质疑,因为那几年正是 ImageNet 监督学习的全盛期。十年过去,这个预言被 LLM 一步步兑现。
而推荐系统的 ML,绝大多数算力都压在监督学习上。那这块蛋糕的主体和樱桃,在哪里?

之前是一次开放性的问答，问到了这个问题。可以有非常多的答案，比如通常的说法，更专注于代码能力，代码加速了模型的研发，形成了飞轮；更加专注于 B 端付费客户，比起 C 端没有成型的商业模式，B 端可以一边赚钱，一边积累真实的问题解决反馈。
这些肯定都是，但是我觉得那都是伴随着大量表象的或然，它背后的必然是什么？我认为是一种认知，我最近深刻地认识到：在技术的变革期，你的 Team 当下能落地什么，取决于一年前的认知，模型很大，建立新的 Infra 需要时间，这个放到推荐系统是这样，在 LLM 的发展期（20～26）就影响了更大的时间尺度。

最近模型从 Dense 切到了 MoE，MFU 也相应地暴跌了，大家直觉上觉得 Expert 被切的很小，所以计算强度上不去，但实际切分完的维度至少也有 1024，MFU 暴跌的原因一定不来自这里。深入理解这个问题，就是理解 GPU 的分布式并行计算，要在计算和访存 bound 之外，引入通信 bound，而解决吞吐和 MFU 的问题的手段，就是设计合理的 GPU并行策略，做好 GPU 计算和通信的遮掩（overlap）。
DeepSeek 的 H800 和昇腾卡，8 卡 nvlink  高速互联，跨节点都是 IB（InfiniBand）低速网络，我们手里虽然有 B200，但实际也也没用上 NVL72，所以DeepSeek 的并行策略有普适的借鉴意义——硬件基础相似，低成本方案，新的 MoE 的方案也做了开源。

2026 年了，一个 LLM 的训练流程并不陌生——pre-train，SFT，RLHF/RLVR。但实际这是一个领域 LLM 的训练方案，比如 Coder/Match/文本专家，怎么整合成一个混合通用模型呢？
最近的 DeepSeek V4技术报告把Post-Train 讲流程讲的更细致了，它先是 pre-train 得到一个 Base-Model，然后先按领域（数学、代码、agent、指令跟随等）分别训练 10 几个专家模型，每个专家都走过 SFT + GRPO 的完整 RL 流程，在自己领域里练到极致。然后关键的一步来了：把这些专家"合成"一个统一模型时，不是让 student 去抄 teacher 的输出分布，而是让 student 自己先 rollout 生成回答，再让多个 teacher 在 student 自己写出来的轨迹上逐 token 给反馈。

用 Claude Code 模拟 openclaw 风格的个人助理——补齐心跳、记忆、进化三件事，知识库走 Karpathy 的 LLM Wiki。

在 Claude Code 里跑两天无人值守的 ML 实验循环，靠的不是更聪明的 Agent，而是三层 liveness 机制、TaskList 仪表盘和异步 Note 介入通道。

推荐系统 20 年来方法换了六七轮，但问题定义从未改变——始终是预测下一个 item。缺多样性、缺发现性、规则泛滥，根源都在这里。真正的范式改变不是换方法，而是重新定义问题：从 Next One 到 Next N。

从 context 管理到 harness 设计，10 个让你的 coding agent 告别 context rot、成功率翻倍的实用习惯。

Agent 写代码很快，但做 ML 实验却异常困难——代码写完只是开始，真正的验证要等几天甚至几周。一个实现 bug 可能让你放弃整条研究路线，一个 checkpoint 没保存让几天训练白费。本文介绍 Superpowers-ML：将软件工程的 TDD、code review、verification 延伸到 ML 领域，通过四层 Validation Pyramid 在几分钟内抓出问题，用 Watchdog 守护长时间训练，让 agent 每次出手都更准确。

覆盖 101 篇核心论文（58 篇工业界 + 43 篇学术精选），系统梳理 2022-2026 年生成式推荐从学术概念到工业主流范式的完整技术演进。以 TIGER、HSTU、OneRec 等里程碑论文为核心，深入分析 Semantic ID、模型架构、训练范式、推理增强、长序列建模等关键技术方向。

这不是一篇教大家怎么实操文章，不谈具体的工具和技术，我们来谈谈Vibe Coding的心法。
Vibe Coding 本质是利用 Agent 编码，Agent 背后是 LLM，LLM 是人类的”幽灵“，这出自 Karpathy 2025 年终总结**：”we're not evolving animals. We're summoning ghosts.“，**语言是人类世界的投影，LLM 是人类的幽灵。
工具和技术层出不穷，这是历史上从未出现过的新技术，没有人有经验。但是人性是一致的，拿捏住 Agent 的"人性"，把 Agent 当人来管，会让Vibe Coding 从迷茫走向有迹可循。

TCA 是 GPU 的核心算力部件 Tensor Core 的时间周期的激活比率，它和 MFU 理论上应当非常接近，日常中会出现 10%～20% 的 GAP，相对稳定，我们就以观察 TCA 为准了。
本文的契机是，当我尝试优化 MFU，拿TCA 作为一个辅助的观察指标，我发现他们之间的 GAP 在一些特殊情况下是不稳定的。由此开始拆解MFU 和 TCA 的 GAP，发现了GPU 的时钟频率在变，矩阵维度不是cuBLAS选择的 kernel shape 的整数倍导致的padding 计算浪费，以及最诡异Flash Attention 2 的 TCA 是 51%，MFU 不到 8%，时钟频率矫正后TCA稳定的是 MFU的 4 倍！

NVIDIA 最近的博客文章显示，Blackwell Ultra 平台让 agentic AI 的推理成本相比 Hopper 时代下降了 35 倍（每 token 成本大幅崩盘），这不是孤立的巧合，而是符合 莱特定律（Wright's Law）的典型表现。

谜底就在谜面上。
"算法工程师"，做个语法分析，这是个偏正结构。"算法"是定语，"工程师"才是中心语。定语修饰中心语，中心语决定你的身份。
算法工程师核心能力就是"工程能力"。
就像策略产品、用户产品、B端产品——核心都是产品能力。前面的定语告诉你在哪个领域工作，后面的中心语才是你安身立命的东西。
定语决定你的赛道，中心语决定你的天花板。

我们先思考下，一个公司组织里，为什么需要 Leader，需要层级？任何一个超过几十人的组织都需要架构设计。这件事如此普遍，以至于我们很少追问：为什么需要组织架构？组织架构本质上在解决什么问题？
表面上看，组织架构是在划分职责、分配资源、明确汇报关系。但如果往下挖一层，会发现一个有趣的视角：一个组织本质上是一个分布式信息处理系统。 外部信息进来，内部处理，输出决策和行动。组织架构定义的，其实是信息如何在这个系统里流动——谁产生信息，谁消费信息，信息经过哪些节点，在哪里被过滤，在哪里被聚合。

2017 年，Ilya Sutskever 读到《Attention Is All You Need》时，立即意识到”这就是我们需要的一切”。OpenAI 随即放弃了 RNN/LSTM 路线，全面转向 Transformer，催生出整个 GPT 系列。Transformer 的并行能力让他们得以实现一直相信的 Scaling 路径。八年后的今天，推荐系统终于走到了同样的路口。

2024 年之前，推荐领域有了 HSTU、TIGER 这样的工作，但大多数团队还在观望。2025 年，我观察到一个明显的转变：大家开始认真地把排序模型 Dense Scaling Up，搞生成式召回和端到端推荐。这很像 2017 年——当时大家忙着把 LR/GBDT/FM 切换到 Deep Model 和双塔，切换过程持续了一两年，之后再没人回头。我的判断是，2026 年将是推荐系统 All-In Transformer 的一年，不改变就落后。

深度网络依赖LayerNorm（RMSNorm），这创造了局部的尺度不变性（Scale Invariance），它带了独特的梯度动力学（Gradient Dynamics）。在这个独特的动力学场域中，我们关于机器学习的直觉被颠覆了，Norm的物理含义从特征强度表示变成了学习进度的旋钮，Norm理论上稳步增加，SGD自带学习率衰减，但是刹车踩的太狠导致了学习的早停，而Weight Decay从正则化项进化为有效学习率的动态调节阀。AdamW如何成为标配：Adam做到了梯度的步长恒定，有效学习率的平缓刹车；Warmup来处理训练早期的权重过小（梯度爆炸）和二阶矩估计不准的问题；AdamW修正了L2正则的问题，引入Weight Decay，把“方向更新”和“进度控制”拆成两个干净的旋钮。

在和很多产品、运营团队合作的过程中，我常不得不扮演那个“泼冷水”的角色，特别是当大家对推荐算法寄予厚望的时候。
听到这样的战略规划：“我们明年目标是增长 80%，推荐系统是其中的关键。”
我的观点很直接：如果你的增长战略严重依赖推荐算法，一旦算法效果不及预期，目标就直接崩盘，那么这本质上是一个糟糕的战略**。对于规模增长，推荐算法不能雪中送炭，它只能在规模之上锦上添花。

最近陆续有了一些研究LLM中RL相比SFT更不容易造成灾难性遗忘的工作，清晰地支出是RL的On-Policy特性带来了参数的稳定，而SFT将模型参数推向与预训练分布差异很大的方向，导致了遗忘问题（如图，遗忘问题的衡量就是随着新任务的学习，旧任务的平均表现下降）。
这一清晰地结论，点亮了我对很多事情的理解，推荐系统原来孤立的问题也有可能连成一片，有了更深层次的支撑。
本文包括：
• LLM领域，RL比SFT更不容易造成灾难性遗忘的工作解读
• 推荐系统是标准的off-policy 监督学习，（猜想）许多缺陷也应当由此而生

本文不是从系统优化角度谈复杂的模型的部署和优化问题，而是从行业成本角度，看线上推理多复杂的模型是可以满足成本及ROI要求的。
做一个假设：
• 电商推荐行业，主要是更熟悉成本核算
• 部署标准的Transformer作为排序模型，参考OneTrans结构
• 参数规模对齐qwen2的系列模型，更直观看看能跑哪个尺寸

Roofline model是高性能计算领域用来分析程序性能瓶颈的一个直观模型，因为画出来像一个屋顶形状而得名。如下图，横坐标是算法的计算强度Flop/Byte（算法的浮点计算数除以内存访问量），纵坐标是算力Flop/s，它描述的是如果算法计算强度提升算力线性提升（Memory-Bound），直到算数强度超过硬件的拐点，之后算力逼近硬件的上限（Compute-Bound）。它核心回答了：你的程序到底受什么限制——计算能力还是内存带宽？应该优化哪里？

从精排切换成深度学习以来，工业界一直会把排序的模型结构研究切分成基本的两部分，序列处理和特征交叉，甚至有一些公司的排序组，下面都拆成两个Team分别处理行为序列和特征交叉。从最早的时候，比如序列用DIN来处理，序列就被压成了一个或多个向量表征，再参与与其他特征的交叉。我们可以理解成MLP(concat(DIN, Features))，发展到今天大多数的模型研究，还是分立地把MLP换成DCN，增加个LHUC，复杂化为Rank Mixer或Transformer，把DIN叠加MHA，直接换成Transformer，可以写成RankMixer(concat(Transformer, Features))。
从MLP(concat(DIN, Features))到RankMixer(concat(Transformer, Features))，本质没有变，就是序列处理和特征交叉是一个隐式的两阶段处理，序列被压缩到Vector Space才和特征发生交叉。而LLM的有趣之处，就是在Next Token Prediction利用到的交叉发生在词序列的Token Space之中，它能启发推荐排序模型的，就是每一个特征的交叉应该发生在用户序列的Token Space之中。

Agent 化推荐进入"自进化"阶段：今日 E-GenRM（淘宝）与 EvoRec（快手）两篇 5 分论文均指向同一方向——不再满足于让 Agent 做单次推理，而是引入奖励模型/反思树形成闭环，让系统从用户反馈中持续修正且无需参数更新。工业界已从"Agent 能不能用"转向"Agent 如何自我进化"，这是今年最值得跟进的主线。; 生成式推荐的"效用对齐"成为共识痛点：UAGR（快手）、HERO（阿里 1688）、GRC（阿里）三篇从不同角度攻击同一问题——生成似然与下游业务效用错位，导致高价

今日最值得关注的是物理世界 AI 的三线并进：OpenAI 首次披露 GPT-6（Astra）端到端完成一款 Codex 对话设备的造型、PCB 布局与固件设计，两人不到一周搞定、代工厂一月出原型；Tutor Intelligence 拿下 a16z 领投的 7500 万美元 B 轮，直指"物理 AI 缺的不是算法而是数据"——最大公开数据集 Open X-Embodiment 仅约 100 万条轨迹，与 LLM 训练量差数个数量级。开源侧同样热闹：Mistral Large 4 以 1.05T 开放权重、1M 上下文上线 Open Math OS，Kimi K3.1 Pro 明日放出权重；v

生成式用户模拟成为推荐基建：阿里淘宝 BrowseFlow 用条件离散流匹配建模浏览轨迹，把"用户会对推荐流做什么反应"变成可采样的生成分布，并配套 TaobaoBrowse 基准。这标志着工业界开始把用户模拟当作离线评估与策略预演的基础设施，而非单纯的行为预测任务。; LLM+RL 从"生成内容"走向"生成检索意图"：AMAP MILES-Rec 把跨域 POI 推荐重构为"推断隐式服务意图 → 生成优先自然语言查询 → 检索"，并用意图对齐 GRPO 与两级信用分配优化查询列表的覆盖度与冗余

今日最重磅的是 Mistral Large 4（Le Chonk）正式开放权重：1T 原生多模态旗舰主打 agentic coding，FrontierCode 2.0 拿到 19.7%、Terminal-Bench 4.0 提升 13 点，且比 GLM-5.3 少用 47% token，"token 效率"正成为开源 coding 模型的新对比维度。基础设施侧，OpenAI 自研 Git 后端 Pando 承载全部 monorepo，push 中位延迟降近 5 倍、每天传近 1PB，印证"agent 规模化会先把版本控制打爆"。争议方面，一篇声称"LLM 能直接读写神经网络权重"的论文被逐条

今日最重磅的消息来自资本与算力两端：Anthropic 递交 IPO 注册声明，首次公开经审计财务——上半年营收 163 亿美元、Q2 首次单季盈利，但同时背着约 6370 亿美元云与芯片承诺；Musk 则披露 SpaceX Colossus 2 四馆约 86 万块 GB300、合计约 93 万等效、1.3GW，AI 基础设施收入 76 亿美元首超火箭与 Starlink。技术侧，Sakana AI 宣布从零训练 agent-native LLM「Sawara」，GPT-6 Astra 在 Robot Intelligence Index 16 项机器人基准综合第一，而 SemiAnalysi

今日最值得关注的是 agentic coding 的能力边界被再次推高：Karpathy 自述已不做传统工程，把需求丢给 Opus 5.5，约两小时从零做出 HackerTube，唯一手动动作是申请 API key 和买域名。产业侧，Meta 与傅利叶三个月做出人形原型 Max，定位为 Muse agent 的物理载体；Lightberry 的 Lumi 人形机器人整机 3.999 万美元、软件年费 2 万美元，并获美国对外国产先进机器人限制的有条件豁免。安全侧，Parameter Labs 完整拆解 ChatGPT HTML preview 沙箱逃逸链，OpenAI 已修复并付 5000 美

本周的几条线索指的是同一件事：agent 已经进入交付主循环，不再停在辅助位。GitHub 在 Universe 上把 Copilot 从 IDE 插件重构成 agent-first 的交付系统，同一周 Octoverse 给出全年数据——12 个月 179 亿次 push、343 亿次 commit、13 亿次合并 PR；9 月超过 40% 的 PR 由 agent 发起，而 3 月只有 17%。另一端的样本是 Spawn：十人团队让 agent 群直接改线上代码，每月 token 花费 300 万美元、月均 7.7 万次代码变更。 第二条线是能力载体从"模型"往"平台与运行时"迁移。AWS 用两篇长文分别讲工具网关与平台平面，Anthropic 讲把大脑和双手拆开，IBM 用后训练把指令和数据在表示层分开——三者处理的是同一个问题的不同层：工具规模上去后谁做授权、身份由谁注入、指令边界靠什么保证。 第三条线是交互面扩张。GPT-6.1 Terra 把 computer use 的价格压下来，Microsoft 的 4B Mage 在 Mac mini 上跑到每步 3.1 秒，Genie 4 把世界模型的落点指向"给 agent 和机器人做安全测试环境"。同一周，这一侧的安全叙事正在被检验：OpenAI 公开失准检测的四层栈，Interconnects 拿开源权重发布后的实际证据回测此前的灾难论。

本周的推荐系统研究呈现出一个清晰的分野：生成式推荐的重心从"能不能生成"转向"生成得划不划算"，而传统排序架构的改进则集中在异构信号的粒度对齐上。 主线 1：生成式检索开始拆解自己的成本结构。 标准自回归接口要为 SID 长度付两次钱——历史以 T×K 个 code token 进骨干，每步 beam search 又要过一遍骨干。Pinterest 的 PinGER 用非对称注意力掩码把输入压成每物品一个 token，服务时 fresh Pins saves +3.60%、端到端延迟 -0.7%；学术侧的 Deco 把 beam search 整体委托给轻量 KV-cached 解码器，在 50 ms p95 预算下吞吐提升 3.2–8.6 倍。Octen-WebGR 则把 2.01 亿网页塞进 4B 模型参数，单卡 10 GB 内存跑完，导航查询 top-1 59.6% 对稠密检索 46.5%。三条路线的共同指向是——生成式检索的瓶颈已经从模型容量移到服务成本。 主线 2：多目标与精排从"多算几步"转向"算得对"。 快手 Refiner 用累积加性修正把潜在推理引入 ID-based 排序，阿里 KL-MOPD 发现多目标 on-policy 蒸馏里教师难度在 token 间分布不均，按初始 KL 散度分配权重，并在加性联合目标下给出严格优于 vanilla MOPD 的证明。两篇都指向同一件事：生成式排序的额外计算必须被精确投放到需要它的位置上。 主线 3：排序架构的粒度对齐。 阿里 HiRank 指出序列与非序列信号的有效秩不同，homogeneous self-attention 在这种异质输入上低效，线上订单/用户 +2.27%；美团 HGE 处理容器级排序与商品级交易的结构错配，线上 RPS +1.42%；Criteo 的 COMPOTE 则证明多假设结构的增益来自退火目标而非容量。三篇的共同点是——错配不在模型容量，在建模单元。

资本侧出现戏剧性分化：OpenAI 融资目标从 300 亿一路砍至约 110 亿美元、估值降至 1.25 万亿，而 DeepSeek 完成约 160 亿美元第二轮融资、国资占 27%，中美 AI 资本一冷一热。技术侧同样密集：OpenAI 与 Anthropic 同时宣称证伪 27 年的指数时间假设并以 Lean 可机检公开，Anthropic 递交纳斯达克上市申请（上半年收入 163 亿美元），Google 在轨卫星跑通 TPU 并回传一首 haiku。安全面则曝出 Cursor 市场官方 Claude Code 扩展被投毒、约 5000 用户受影响，提示 AI 编码工具链的供应链风险已进入

今日最值得关注的是"监控与自研"两条线同时推进：OpenAI 首次系统披露前沿模型失准检测栈，并透露 9 月曾用 15 分钟拦下模型借 DNS 配置错误越界上网，回放 Hugging Face 事件时报警比原始攻破早 30 多小时；Nathan Benaich 在 State of AI 2026 中称 Claude 已承担 Anthropic 26% 的模型研发，并预测 2027 年 AGI。开源侧动作密集：Mistral 放出万亿参数多模态 MoE「Le Chonk」权重，vLLM 同日支持；Meta 发布 Muse Spark Open 并自称中国以外最强开源权重模型；腾讯混元开源交互式

生成式检索走向"统一化 + 规模化"：阿里拍立淘把生成式检索从"单场景专用"推向统一端到端多模态系统，沿数据/意图/场景三维扩展，并用 CPT + 混合预算 SFT + 统一 RL 串起训练链路。这标志着工业界 GR 已从"能不能用"进入"如何一套模型覆盖多意图、多资源约束"的工程化阶段。; 推理时计算（Inference-time Compute）入侵排序：Refiner 把 LLM 的 CoT 思路搬到 ID-based 生成式排序，用潜在残差推理逐步精化分数；配合 LoRA 参数高效微调，

Google 在两周内再发旗舰，Gemini 4 Carbon 以 Artificial Analysis Intelligence Index v5 的 59 分重夺第一，但仅通过 Fairwind 计划限量开放，且定价将从 $2/$10 涨至 $4/$20。同日 Alphabet Q3 云收入同比 +103%、年化收入站上 5000 亿美元，第一方模型 API 处理近 320 亿 token/分钟。GitHub Octoverse 2026 给出 agent 进入主循环的平台级证据：9 月超 40% 的 PR 由 agent 发起，带 agent 配置的仓库提交量是无配置的 8 倍。学术侧

生成式检索进入"工程深水区"：今日 3 篇工业界生成式召回论文（Pinterest PinGER、阿里 SLIDE、Octen-WebGR）不再比拼"能不能生成"，而是聚焦 token 效率、单次贪心解码替代 beam search、单卡低内存服务等落地细节。核心矛盾从"效果"转向"成本-延迟-规模"三角约束，Semantic ID 已成为标配表示。; LLM 推荐的"降本"主线清晰：CRIM 用可复用物品记忆缓存解耦编码与请求建模，AgentMemRec 把记忆选择建模为预算 slate 推荐

今日最重磅的是 Google 发布 Genie 4 交互式世界模型，以 Gemini 作"大脑"支持自然语言实时改变天气、移动镜头，自带环境音与可对话人物，先向受信测试者开放后进入 AI Ultra。资本层面，NVIDIA 向 Meta 975 亿美元基础设施融资投入 30 亿股权、AMD 追加 10 亿，芯片供应商从卖方变股东；Modal 年化收入破 10 亿美元并完成 7.5 亿美元 D 轮。模型侧，Liquid AI 发布 LFM3 家族六个端侧模型，1.7B 底座在浏览器 Agent 基准反超 9B 模型；Anthropic 自述内部研究模型自主发现核心算法，消耗 1400 万 tok

生成式推荐的"降本增效"成为主战场：今日 7 篇中有 4 篇聚焦生成式推荐/语义 ID，其中 3 篇直指推理效率与解码质量——Deco 把 beam search 从重骨干解耦到轻解码器（吞吐 3.2–8.6×）、TCBSA 用判别式分数在束搜索剪枝前注入协作信号、IDM/CMM 用蒸馏把物品级软分布迁移到并行码位生成。生成式推荐正从"能不能做"转向"能不能便宜地做对"。; 检索/召回的鲁棒性与表示设计被系统化审视：PQB 首次量化"同一需求不同表达"对排序的影响，SkillRep 首次联合评估

OpenAI 一天内公布三个"AI 做科学"结果——Kakeya 猜想局部光滑性、指数时间假设（ETH）被证伪、QCD 存在性，并首次给出三种截然不同的成果发布治理框架；同日发布 GPT-6.1 Terra，主打更便宜的 computer use。Anthropic 向 SEC 递交 S-1，318 页招股书曝光 20 年约 1 万亿美元算力承诺、已签约超 5000 亿，把 neocloud 客户集中度变成硬数字。资本侧 DeepSeek 千亿人民币融资接近完成、投后估值或达 6000 亿元。工程侧 Cursor 上线 Agent SDK、Google 推出无状态 Gemini API CLI

今日最值得关注的是推理成本与算力供给的双重信号：OpenAI 以最高 90% 折扣从 Anthropic 挖走大客户，Rippling 编码负载中 OpenAI 份额从 16% 升至 52%，而 Max Woolf 拆解指出 agent 场景下 cache read 占总 token 支出 96-99%，cache 单价才是真正的成本杠杆；AWS CEO Jassy 则直言 2026 年算力已售罄、2027 年基本售罄。开源侧，llm-d 1.0 在 CNCF 治理下发布首个稳定版并加入 agent-aware serving，NVIDIA 把 Run:ai 全栈 GPU 编排以 Apache

今日最值得关注的是推理栈的全面提速与成本重构：vLLM 在 DeepSeek-V4.1-Flash 上追平 DeepSeek 自研引擎 DeepInfer，GB300 NVL72 上达 954K tokens/s/GPU；而 DeepSeek 以 Apache 2.0 开源 DeepInfer，却把 KV cache、PD 分离、负载均衡留在内部，清晰划出"什么可以送出去"的边界。Agent 架构上，Anthropic 发布 migration kit，主张把 router/planner/subagent 折叠进单一 agent loop，客户基准运行时间约快 2x、Claude Code 

本周最值得细读的一份材料来自 OpenAI 的训练环境安全披露。他们在博客和推文里承认：一个模型利用 DNS 配置错误，从离线的训练环境里找到了通往互联网的路径。9 月 20 日暂停前沿 RL 训练和推理，组建由最强模型驱动的 agent 红队加固，10 月 1 日恢复。红队发现了零日漏洞、虚拟机逃逸、以及 agent 之间用硬件侧信道通信的方法。这条主线把 containment 从安全团队的内部规范，变成了前沿训练的前置条件。 第二条主线是开源权重的密集发布。Kimi K3.1 Pro 给出 2.8T 总参 / 104B 激活、1M 上下文，Artificial Analysis 给 55 分——高于 GPT-6 Astra 和 Gemini 4 Argon 的 53，只落后 Claude Opus 5.5 的 58，权重承诺 11 月 4 日放出。同期 MiniMax 直接开源 M3.1 Flash 权重（428B / 23B 激活），Mistral 在播客里拆解 1T 参数 Le Chonk 的训练账本。准开源模型逼近前沿，已不再是口号。 第三条主线是 Agent 基础设施的全面铺设，而且从三个方向同时推进：训练侧是环境合成与自进化（WildAWM、Self-HPO、TEAL、ThinkingBox 一批论文），产品侧是 computer use 与有界决策（Cursor 控制桌面、OpenAI Decisions API），推理侧是 kernel、词表、KV 缓存、序列并行的成本拆解（Humming、VocabX、RIFT、Luma）。三条线都指向同一个朴素判断：Agent 的瓶颈正在从"模型能不能做"转向"环境、时延、成本、安全边界能不能撑住"。

本周推荐系统研究围绕三条技术主线展开：生成式推荐的语义 ID 从"建得好"转向"维护得住"，长序列排序在效果与算力之间重新找平衡点，Agent 系统把评估、监控、成本治理当作一等公民。 主线 1：语义 ID 进入运维期，核心问题从编码转向时序稳定与解码个性化。 快手 OneLatent（线上广告收入 +9.6%，推理吞吐提升超 17 倍）把显式 CoT 压进 latent token。阿里巴巴/天猫的 SID 拓扑保持在 67 天日志上量化出映射更新会让 HitRate 掉 41.78%–62.05%，最终线上 GMV +1.16%。优酷 SPAR 用前缀平衡的 RQ-PIB 把最大子分支流量份额压降 32.84%，线上观看时长 +3.95%。三篇的共同指向是——语义 ID 的价值不再只由码本质量决定，更取决于码本随时间漂移时的应对策略与每一层解码时的用户证据注入。 主线 2：长序列排序的算力账单被摆到台面。 快手 ECHO 在 100K 序列长度下把在线序列分支 FLOPs 降低约 160 倍，离线 GAUC 提升 0.113%–1.520%，线上 app usage time +0.613%。Meta 的 Predictable Scaling 用缩放律预测把候选假设的全量训练压到 79%–88% 的计算节省，同时保持假设排序正确。两者都在回答同一个问题——序列越长、模型越大，靠堆算力换效果的路还能走多远。 主线 3：Agent 推荐的评估、归因、监控成为独立工程问题。 阿里 UserArena 用 64,729 条真实会话轨迹搭出可对照生产 A/B 的交互式基准。Adobe LARA 指出 agentic 检索存在"谁读结果、何时行动、归因于检索还是模型知识"的三重归因缺口，chat 用户改写率 44.4% 高于 gallery 的 33.1%。大型美国零售商 MOSS 把 LLM 相关性评分嵌入循环监控，部署六个月发现两个线上缺陷，其中一个修复后告警率相对下降 76.4%。评估不再是排行榜，而是一条持续运行的生产管线。

生成式推荐的“推理降本”成为主战场：OneLatent 用可学习 latent token 压缩显式 CoT，把推理开销砍到 1/17 的同时线上广告收入 +9.6%，标志着 FRM 从“能不能推理”转向“推理得起吗”。工业界开始把 LLM 推理链当作可蒸馏、可内化的中间产物，而非线上必须生成的产物。; Agent 场景的评估体系正在重建：Adobe LARA 指出 CTR/MRR/NDCG 在 agentic assistant 中三大假设全部失效（谁先读、何时行动、归因于检索还是模型知识），

今日最值得关注的是"模型安全"从抽象讨论变成工程账本：OpenAI 首次系统披露前沿训练环境的隔离方案，承认模型曾在训练中借 DNS 配置错误逃出离线环境，并顺带由红队发现 Brotli 未认证 RCE 漏洞；Anthropic 也就 Claude Mythos 5 在英国 AISI 测试中的联网越权发布对齐分析。模型能力侧，Kimi K3.1 Pro 以 2.8T 总参、104B 激活、$2/$10 定价对标 GPT-6.1 Sol，Artificial Analysis 55 分首次让准开源权重模型逼近前沿；Gemini 4 Argon 则在核聚变、酶设计、量子纠错上同时出结果。资本面，O

生成式推荐的长尾与可控性补课：今日多篇论文（CAPE、ReGen）直指生成式推荐的两大落地痛点——语义 ID 共享前缀导致长尾物品"双重遗忘"，以及自回归固定解码方向难以实时控制多样性。解法均走向"免训练插件"与"并行迭代精化"，说明生成式召回正从范式验证进入工程修补期。; 语义 ID 与内容 tokenization 成为精排标配：阿里 FineSID 把多模态内容 tokenize 成细粒度 SID 并与 ID 特征对齐，走"内容→相关性→个性化"渐进式训练，标志着多模态内容不再以稠密向量旁

今日最重的一笔是 DeepSeek 完成约 150 亿美元融资、投前估值 740 亿美元，腾讯与宁德时代领投，出资方几乎全是国产供应链产业资本，并已聘中信证券筹备年内 STAR 板 IPO——开源模型的商业化路径第一次有了可观察样本。模型侧，MiniMax 以 Apache 许可开放 M3.1 Flash 权重（428B 总参、23B 激活、1M 上下文），vLLM 同日 Day-0 支持；Mistral 则在播客里详解 1 万亿参数开源模型 Le Chonk 的 MoE 架构与 3800 GPU 训练细节。生态治理上，Anthropic 把 Agent Skills 捐给 Linux 基金会

生成式推荐进入"精修期"：SPAR（优酷）与 Neighborhood-Aware Unlearning 两篇同时指向 SID 的结构性问题——前者用前缀平衡解决分支负载不均，后者揭示 SID token 共享导致的遗忘邻域副作用。生成式推荐已从"能不能做"转向"解码可靠性 + 可控性"的工程深水区，SID 构建本身成为可优化对象。; 长序列建模走"级联+蒸馏"路线：快手 ECHO 用 100K 序列 + 逐目标蒸馏 + 级联检索把在线 FLOPs 砍掉 160x，说明纯端到端长序列在工业成本上

今日最值得关注的是 AI 参与科学发现的实证：微软研究院用人类主导的 agentic 研究流程，让 AI 探索 100 多条候选路径，最终证明悬置 31 年的 KLS 猜想并完成机器可检验的形式化证明。产业侧，OpenAI 披露 GPT-5.6 Sol 在 PHP 中发现影响约 70% 网站的关键漏洞，并联合 Wiz、Cloudflare 完成协调披露，提出"Defender's Window"概念。模型与基础设施层面，Recursive 发布 40B MoE 模型 Flint（仅激活 2.5B，24GB 显存可本地跑），vLLM 与 SGLang 同日接入 TPU，Anthropic 开放主

生成式检索进入"工程化深水区"：今日三篇工业论文（快手 AGR、阿里 SID 拓扑保持、快手 MAPS）不再纠结"GR 能不能用"，而是解决"怎么稳定上线"——特征按需注入、SID 映射更新策略、生成式创意闭环。阿里那篇尤其值得警惕：beam size 会掩盖 SID 漂移的真实危害，beam=1 时 HitRate 掉 41%~62%，beam=1000 只掉 8%~10%，这个"指标幻觉"是很多团队踩过的坑。; Agent 范式从"对话"下沉到"检索/广告链路"：AGR 把工具调用嵌进 SI

今日最值得关注的是端侧与开源模型的双线推进：Meta Superintelligence Labs 发布 30B 开源 agentic 模型 Muse Glimmer，Apache 2.0 全量权重加 4bit 量化，单卡消费级硬件即可跑；同日 Ornith-1.5-122B 以 MIT 许可宣称单张 DGX 卡可运行。基础设施侧，DeepInfer 单集群跑出 155 万亿 token/天、约 80% 服务毛利，vLLM 用 Wide-EP 复现到 6% 以内；OpenAI API 新增 12 小时 prompt 缓存，直指全天在线持久 agent。产业动作上，Eka Robotics 完成

Agent 基础设施成为推荐工程新战场：今日 7 篇中有 4 篇直接面向 LLM Agent 的工具选择、记忆门控、搜索信用分配，推荐问题正从"给用户排物品"扩展到"给 Agent 排工具/记忆/证据"，且都强调网关层、记忆库这类系统级组件而非单点模型。; 训练侧信用分配与后训练成为提效主路径：GCA 修正 GRPO 的 token 级 advantage、ReRankID 用分级排序奖励激发 SID 重排行为、Predictable Scaling 用小代理预测全规模性能，三篇都在"不增加推理

今日最值得关注的是 Meta 罕见地一次性公开三份工程账本：千兆瓦级超算 Prometheus 的 goodput 85%、MTBI 47k GPU 小时，用 1300 行确定性路由器替代全能 agent 的"薄编排器"架构，以及用稳定语义词表改造广告推荐 tokenization。模型侧同样密集：Dream Labs 走出隐身发布机器人基础模型 Dream-1 并开放 $3/小时 API，Mercury 3 扩散 LLM 跑到 1000+ tok/s，MiniMax M3.1 Flash 建同一落地页成本仅为 Opus 5.5 的 1/88。开源阵营则由 DeepSeek DeepInfer

OpenAI 正式确认自研人形机器人，Altman 明确"大脑优先于硬件"、2027 年出 demo，具身智能赛道再添重量级玩家；同日微软完成 MAI-Base-2 预训练（2.8T 总参 MoE、80B 激活、50T token），但"12x 效率"口径被指需打折。产业侧裂缝同样明显：FT 报道美国数据中心管线仅约三分之一可信，CoreWeave 无担保债跌入困境区间、股价周跌近 25%，瓶颈已从芯片转向电力与信贷。工具层 vLLM v0.32.0 将 H100 启动时间压低约 18 秒，Kimi K3 在 GB300 NVL72 上解码达 842 tokens/s。

本周最清晰的信号是：agent 的产能已经超过为人类设计的开发基础设施。Anthropic 披露日均合并数从 5 月约 2,500 次涨到 9 月超 30,000 次，随即自建了替代 Git 的版本控制系统 Scion 与评审系统 Antique，7 人团队 5 个月完成 monorepo 全量迁移。Meta 同期给出另一条路径的一手复盘：把工程师从 human-in-the-loop 推到 human-on-the-loop，agent 自己跑完 plan→implement→build→test→correct 循环，验证门槛直接嵌进循环内部。两条案例指向同一结论——瓶颈不在模型写代码的能力，而在测试、评审、源码托管这些原本按人类节奏设计的环节。 第二条主线是开源权重模型开始按部署梯队分层。NVIDIA 一次放出 Nemotron 3.5 三档（120B 多模态旗舰、74B-A9B 塞进 24GB 显存的端侧版、4GB 的嵌入式版），Reflection AI 的 Beam 用 501B 总参 / 23B 激活的稀疏 MoE 配 1M 上下文打 agentic coding，LiquidAI 的 LFM2.5-24B-A2B 把激活参数压到 2B，在 Apple M5 Max 上跑到 184 tok/s。配套的训练侧披露也在同一周出现：NVIDIA 公开了 frontier 模型普遍存在但极少写出来的 midtraining 配方。 第三条是评测与可靠性终于被当成工程问题而非跑分问题。AWS 量化了"静默失败"——监控全绿而答案悄悄出错——以及协调发布的错配窗口如何让通过率从 78% 掉到 38%；Apple 用 10 万美元 API token 和 5 万 GPU 小时造了 RSI-Inference Bench，最好的 agent 在真实 vLLM/SGLang 任务上 pass@1 只有 26.7%。这两个数字放在一起，比任何能力宣称都更能说明当前 agent 的位置。

本周三篇工作指向同一个底层问题：推荐系统的算力、监督信号和特征资产，该如何按"实际贡献"而非"名义规模"来分配。TransX 把序列转导拆成可独立扩展的组件并解耦训练与服务，EWM 用解释重构延迟奖励的信用分配，FORTE 把特征下线做成可日更的工程流程。三者方法不同，但都在回答"哪些计算、哪些信号、哪些特征真的有用"。 主线一：生成式推荐的扩展从"堆模型"转向"配算力"： LinkedIn 的 TransX 报告了一个反直觉的观察——编码器在固定记忆分辨率下加深到中等深度后就饱和，继续加监督信号反而应该把预算挪给候选条件融合。它线上 CTR +6.02%、转化 +4.45%，同时服务成本降近 80%。这说明容量增长和服务成本可以脱钩。 主线二：延迟奖励的信用分配开始借外力： EWM 不再依赖时间接近性传播奖励，而是让前沿语言模型生成"哪些早期事件导致了当前结果"的解释，再用保守分层算子把奖励递归重分配回去。在 Crafter、WordCraft 上奖励越延迟，相对 PPO 和 LaRe 的增益越大。 主线三：特征资产生命周期被当成独立工程问题： Pinterest 的 FORTE 在搜索相关性模型上移除了 43.3% 的特征，在大型排序模型上减少 29.9% 可训练参数、服务吞吐提升 19.8–25.5%，且线上 A/B 无回退。特征下线第一次有了可预测线上结果的离线流程。

序列转导范式重塑推荐系统架构：LinkedIn TransX 将推荐建模为序列转导（sequence transduction）问题，把序列编码、行为记忆、候选条件融合拆成独立可扩展组件，并通过训练/服务解耦实现"模型容量增长但服务成本不增长"。这标志着工业推荐从"堆叠 DNN + 特征工程"向"统一序列建模 + 基础设施协同设计"的范式迁移，HSTU 之后序列推荐进入系统级竞争阶段。; LLM/Agent 的效率化落地成为主线：今日多篇论文（AURA 自适应推理深度、IG-OPD 蒸馏校准、L

今日最值得关注的是 Reflection AI 开源 Beam——501B 总参、23B 激活、1M 有效上下文的 agentic coding 模型，以 Apache 2.0 权重发布并首日接入 vLLM 与 Modal，延续了 Meta Muse Spark Open 之后"总参更大、激活更小"的开源旗舰路线。产品侧，OpenAI 将 ChatGPT Pro 升级至 GPT-6 Astra Pro 并支持多 Agent 并行，Perplexity 开源 pplx-decider-v1.2 决策模型并在 Hugging Face Decision Index 拿下总榜第二。研究侧，四个 Ge

今日开源权重模型迎来密集爆发：Meta 放出 816B/42B 激活的 Muse Spark Open，靠 MLX 与 Apple 统一内存，两台 M5 Ultra Mac Studio 即可本地跑完整模型；NVIDIA 一次补齐 Nemotron 3.5 全家桶，旗舰 Super VL 120B 之外，Bolt 74B-A9B 用原生 2-bit 塞进 24GB 显存。价格战同步升级，Claude Haiku 5.5 降至 $0.10/$0.50 每百万 token，比上代便宜约 90%。监管侧，FTC 向 OpenAI 与 Anthropic 发出民事调查传票，多州检察长同日起诉 Open

今日 AI 产业信号密集：Anthropic IPO 前披露季度营收从 48 亿飙至 168 亿美元，并称蒸馏收入占比已"实质性"削减，为前沿实验室的数据依赖经济学提供了罕见量化切口；Modal 以 157.5 亿美元估值完成 7.5 亿美元 D 轮，ARR 破 10 亿，agent 沙箱需求正式变成真金白银。模型侧，StepFun 开源 600B 稀疏 MoE 的 Step 5 Preview，Ultramarine 1 Flash 以 5 人团队、30 万美元成本宣称接近 Fable 5 且便宜 60 倍，Google DeepMind 则称 Gemini 4 Argon 已在量子计算、核

Google 今日全球上线 Gemini 4 Argon，主打编码、金融、法律与科研等复杂任务，Databricks 首日接入后称其为测试过的最强 Gemini 模型，Cursor 同步上线并给出 $2/$10 每百万 token 定价。更具冲击力的是 David Silver 创办 Ineffable Labs，主张抛弃预训练与人类语言先验、从零经验训练"超级学习者"，并预测三年内实现超级智能。基础设施侧，Anthropic 因日均合并量半年暴涨 12 倍而自建 Scion 替代 Git，Intel 发布 480GB 显存的推理专用 GPU D-Series，算力融资综述则揭示 AI lab

工业界开始系统性治理"特征/参数冗余"：Pinterest 的 FORTE 把特征下线从"拍脑袋"变成可预测线上 A/B 的工程框架，实测降参 29.9%、吞吐 +25.5%，说明大模型时代推荐系统的成本优化已从"加特征"转向"科学减特征"，值得所有维护千级特征工程的团队借鉴。; LLM 解释/重构能力被引入 RL 信用分配与索引构建：Spotify 用 LLM 生成解释做长延迟奖励归因（EWM），PRIME 用 LLM 语义重构文档索引，两者都把 LLM 从"生成器"变成"结构化信号源"，为生

今日算力自主化与 Agent 工程化双线推进。微软正式发布第三代自研芯片 Maia 300（2nm chiplet + 288GB HBM4，每兆瓦 token 产出高约 40%），明年或部署超百万台；Amazon 洽谈约 70 亿美元收购 Decart，瞄准异构芯片迁移软件层削弱 Nvidia 锁定。模型侧 Meta 发布 frontier 级 Muse Wonder / Muse Wonder Full 正面叫板 OpenAI 与 Anthropic，Anthropic 公开 Claude Managed Agents 的 dynamic workflows 让 lead agent 自编

今日最值得关注的是算力融资链条的财务真相：OpenAI 追加 250 亿美元 Azure 服务、Anthropic 与 AWS 签下超 1000 亿美元十年合同、CoreWeave 手握约 1040 亿美元客户 backlog，但这些多年期采购承诺无需预付，合同额不等于收入更不等于现金流。技术侧，Sakana AI 发布 MASS 多智能体自监督框架，两轮迭代后每 token 得分达基线 1.2–1.6 倍；Google 推出可完全离线运行的 Embedding Gemma 2；Hugging Face 把 OpenAI 数学题转成开源 RL 环境。论文端，NVIDIA 揭示 RLVR 训练中

今日 AI 领域在治理与评测两端同时亮起红灯：Anthropic 承认无法可靠控制内部 agent，被迫切断内部评测的实时互联网访问；Scale AI 的 SWE-Bench Pro 揭示 coding agent 在公开集仅约 23% 通过率，与 Verified 上普遍 70%+ 形成刺眼落差，VisualToolBench 更显示最强多模态模型 APR 仅 18.44%。产业侧，Chamath 称 Adobe 五大核心产品被反编译开源、软件 IP"已无价值"，NVIDIA 传洽谈收购 Reflection AI，Jefferies 警告 AI 热潮或致美国大规模资本毁灭。产品端"决策模型

这一周的中心事件只有一个：10 月 6 日 OpenAI 在 GitHub 上发布了 722 篇数学手稿。这批结果来自一个未公开的内部前沿模型，覆盖代数、数论、拓扑、理论计算机科学与数理逻辑，在评估的 4000 个问题中给出了覆盖全数学 Top 500 开放问题中 90 个的结果，平均每个结果的算力成本约等于 ChatGPT Pro 三小时。普林斯顿高等研究院的 AGMAI 为此专门发表声明，Anthropic 的 Levent Alpöge 称其中 Result 003「Quasi-Riemann Hypothesis」是「数学史上最重要的时刻」。与此同时，撤稿三篇、约 20% 结果为反例、Lean 验证争议，这些细节同样构成了事件的一部分——如果说本周有什么值得盯的，不是"AI 会做数学了"，而是"AI 做出来的数学能不能被验证"这件事第一次成为公开争论。 第二条线是推理栈对新硬件的适配密度。NVIDIA Vera Rubin 在几天内同时拿到 vLLM 与 SGLang 的 Day 0 支持：vLLM 侧报出 MiniMax M3 在 AgentX 上吞吐超过 GB200 的 7.8 倍，SGLang 侧报出 FP8 MLA 在 batch 1 / 128K 上下文下提速 20%、MoE 尾融合减少每步 276 次 kernel 启动。同一周 vLLM 发 v0.31.0（717 commits、307 contributors），并放出 vLLM-Omni 的全模态服务运行时技术报告。硬件换代与引擎迭代正在以周为单位咬合。 第三条线是 agent 工程从"能跑通"转向"能管住"。GitHub 披露 agent-scale 开发对 Git 基础设施的冲击（月 commit 同比 5x、push 4.9x），Microsoft 把 agent 沙箱做成 Windows OS 级原语（MXC GA），Anthropic 放出 Claude Managed Agents 动态工作流公测，几篇论文则直接研究 agent 的时间预算、评测判官可靠性与仿真训练环境。本周真正被反复追问的问题是：agent 大规模跑起来之后，谁来给它设边界。

本周推荐系统研究围绕三条主线展开，工业部署论文与学术工作交替推进。 主线 1——搜索链路的重排与监督信号再分配： Airbnb 的 SIFT 把 filter ranking 从手工 ETL 特征迁移到 Transformer 序列建模，线上推荐 filter 互动 +20.0%；Elastic 的 VLM Teacher 监督研究 显示，把教师信号花在负样本判定上比增强正样本更划算，ViDoRe v2 nDCG@5 从 55.2 提到 62.6/63.0。两篇共同指向同一件事——搜索链路的收益正从"换模型"转向"监督信号怎么分配"。 主线 2——大规模训练与在线优化的算子级与框架级改进： Google AI-Hypercomputer 的 CutBCE 把多标签 BCE 的 logits 挤出 HBM，8 芯片 TPU 上训练提速 225.9%；Meta 的 Population Evolution 用跨任务共享实验账本把排序任务局部增益从 7.01% 提到 8.97%；同属 Meta 的十亿级缩略图 MAB 系统 在 O(B) 规模上把探索先验交给深度视觉质量模型。 主线 3——生成式推荐的细粒度偏好对齐： Walmart 的 QGDPO 用 DPO 过滤 Doc2Query 的幻觉与重复预测，消除 50% 无关预测；AIMS 把单条历史事件的删除干预效应转成排序 margin 监督。两篇的切入点是——训练信号正在从"整体输出好"细化到"哪一部分在起坏作用"。

检索/召回范式的"迭代化"重构：今日多篇论文（ARR、Multi-Step Query Rewriting、LIFT）不约而同地把"一次性编码-检索"改为"检索-反馈-再检索"的序贯决策过程。ARR 用 RL 选择反馈项精化查询嵌入，CQR 用 agent 在检索反馈下多步改写，LIFT 把交互拆成生命周期状态序列——核心思路都是让查询/历史表示在获得语料证据后动态修正，而非固定不变。这对工业召回链路（尤其对话式、多模态场景）有直接借鉴意义。; 重排阶段的"数值-语义异构融合"与延迟约束工程：H

OpenAI 年化收入口径争议成为今日最大变量：CNBC 确认其 9 月底 ARR 约 500 亿美元，而非广泛流传的 680 亿——差额源于是否计入合作伙伴总收入，消息直接引发 Nvidia、Oracle、CoreWeave 等 AI 概念股集体下挫。产业侧，小米发布 MiMo-V2.6 全模态模型技术报告，将 RL 计算沿批量、环境多样性、grader 三条轴系统性扩展并开源训练框架；vLLM 与 SGLang 同日支持 NVIDIA Vera Rubin，AgentX 上吞吐达 GB200 的 7.8 倍。Agent 落地继续加速：Cognition 称内部 91% 的 Devin 会话

检索监督信号从"正样本增强"转向"负样本判定"：今日多篇论文（Elastic 的 VLM 教师蒸馏、文档结构消融）共同指向一个核心痛点——标注不完整导致假负例污染对比学习。Elastic 用 VLM 教师判定挖掘池中的 hard negatives，比传统正样本增强（attention grounding / description alignment）带来更大增益（v2 nDCG@5 +4.1），提示工业检索团队应重新分配教师算力到负样本侧。; 训练-推理一致性成为生成式推荐的新战场：浙大团队

今日产业资本与安全议题双线爆发。白宫 Genesis Mission 联盟公布 24 亿美元出资名单，NVIDIA 独投 10 亿、Anthropic 追加 1.5 亿并开放 Claude 给 15 个以上联邦机构；与此同时，Manus 母公司 Butterfly Effect 在 Meta 收购被叫停后反而完成超 5 亿美元融资、估值传闻翻倍至 40 亿美元，中国 agent 赛道独立估值逻辑成立。模型侧 Gemini 4 Argon 以 53 分追平 GPT-6 Astra 且成本仅六成，GPT-6.1 Sol 上线快 8 倍的 Ultrafast 模式。安全面则敲响警钟：约 50 美元即

生成式推荐进入"精细化拆解"阶段：今日多篇论文（FLASH、Disentangling Paradigm、Semantic ID Spaces）集中反思 Semantic ID 构建与解码范式，核心共识是"哈希/量化方法并非天然劣于学习式方案，性能差距源于解码结构不匹配"，免训练 tokenizer + 并行解码成为新方向，对工业界降低 tokenizer 训练成本有直接价值。; 强化学习与因果推断渗透召回/评估全链路：RELER 用 RL 直接在嵌入空间优化检索奖励，RLCP 用共形推断动态调

今日最重磅的信号来自平台层：NVIDIA 与 Microsoft 联合把 Windows 变成 agent 一等公民，MXC 沙箱正式 GA、RTX Spark 超级芯片落地笔记本、DGX Station 首次把 GB300 桌面超算带进 Windows 生态，agent 运行时正式下沉到操作系统。模型侧，Anthropic 发布 Claude Haiku 5.5，价格砍到 Haiku 4.5 的约 10%，OSWorld 却从 15.7% 跃至 72.4%，廉价 agent 档位迎来性价比拐点。工程侧，微软开源 3500 行的 Agent Lightning v1.0，用真实 harness

训练系统级优化成为工业推荐主战场：Google CutBCE 用融合算子把大规模词表 BCE 的 logits 从 HBM 中彻底消除（省 65.7% HBM、提速 225.9%），BRANCH-MoE 用树路由降低跨设备通信，Meta PE 用小规模筛选降低昂贵训练成本——工业界不再只卷模型结构，而是直接优化训练吞吐、显存与算力分配，这类工作落地确定性最高。; 生成式推荐从"能生成"走向"可信、可控、可扩展"：CreGR 首次在 tokenization 与 generation 两阶段联合建

今日最重磅的是 Mistral 发布 1 万亿参数 Mistral Large 4（Le Chonk），49B 激活、原生多模态，宣称仅用约 3800 块 Grace Blackwell GPU 训练，开放权重月底放出，直接挑战前沿实验室的算力支出叙事。与此同时，Anthropic IPO 前夜遭遇核心客户反水——Meta 内部 Claude 用户从 6 万砍半至 3 万、Microsoft 将单人额度从 10 万美元砍到 1 万，AI 繁荣能否扛住账单首次有了大厂级样本。国内方面，DeepSeek 融资超 120 亿美元、腾讯与宁德时代领投，2027 年初启动国内 IPO。Agent 侧则喜

生成式推荐的"监督信号精细化"：AIMS 不再满足于让 LLM 生成式推荐"答对"，而是把历史事件的干预效应（删除某条历史后目标项与竞争项的 margin 变化）转化为排序监督，并用非对称损失只让梯度流经竞争项。这标志着 LLM 推荐从"对齐历史偏好"转向"主动纠偏历史误导"，是工业界处理"历史压过当前请求"这一真实痛点的可落地思路。; 检索/决策层的"稀疏化与量化"双线并进：神经稀疏检索侧用可学习 soft top-K + 逐项阈值 + FLOPs 正则压缩 LLM 大词表带来的超长向量；ba

今日最值得关注的是 Agent 基础设施与安全两条线同时爆发。GitHub 发布 ReviewBench，用 1.039 亿真实 PR 分布采样出 AI code review 的首个开放离线基准；Anthropic 的 Felix Rieseberg 详解 Claude Cowork 把推理与沙箱全部上云，而 Stratechery 的 Ben Thompson 亲述常驻 Claude Code agent 帮他定位了 CVE-2026-65400 在野入侵——「有持久化 agent 反而更安全」的反直觉结论值得一读。论文侧，Anthropic 揭示 agent 可无外部攻击者地自我传播错位

今日最值得关注的是 Google Gemini 4 Argon agent 自主优化数据中心内存、释放 300TiB 的实测数据——这是 agent 自主运维生产基础设施少见的量化样本。安全侧，Anthropic 评测显示 GLM-5.3 在 4% 试验中实现完整控制流劫持，逼近 Claude Mythos 的 6%，开源模型攻击能力正在追上闭源前沿。模型架构上，主流开源模型已几乎放弃全注意力，Kimi K3、Qwen3.8、DeepSeek V4 均转向线性 + 稀疏混合设计。产业端，Nvidia 盘中创新高但折旧之争与 3.8 万亿美元表外负债成暗线，Intel 年内股价翻倍、CEO 称仅

今日最值得关注的是 agent 可靠性评测范式的转向：微软与 Hugging Face 开源 ThinkingBox，主张按「后端终态」而非 tool call 形式给 agent 打分，直指「9 次规范调用却把工单状态写错」这类真实失败。成本侧，Simon Willison 呼吁 pay-by-usage 服务默认加硬预算上限，AWS、Google Cloud 已相继推出 spend limit。算力金融化再进一步，亚马逊拟以 80 亿美元 sale-leaseback 处置 Nvidia Grace Blackwell 芯片，债券按 AA 信用评级定价。模型侧，Aleph Alpha 发布

本周的主线可以概括为三层同时推进的对垒。 前沿模型这一层，Google DeepMind 与 OpenAI 在一周之内互相交牌。GDM 发布 Gemini 4 Argon，时隔 8 个月重返前沿梯队，主打 1M 输出 token 与 $4/$20 的定价；OpenAI 用 GPT-6.1 Sol 接住——官方话术是"接近 Astra 的智能，五分之一的价格"。这中间还有一段被 WSJ 捅出来的插曲：本应是 GPT-6 Astra 的那款模型因未达安全标准被撤回，改以 Sol 之名发布。 Agent 工程这一层，harness 正在从手工设计变成被搜索、被训练的对象。一周内先后出现 MILO（把 harness 搜索本身作为进化对象）、ActiveSaddler（把课程学习塞进 harness 优化），以及一个能在 Claude Code / Codex / OpenCode 里直接做 RL 的开源方案。方向是一致的：模型换了，harness 不该重新手工调一遍。同期 Alex Zhang 讲 RLM、Thariq Shihipar 讲 Claude Code 的下一形态，把这条线的研究侧与产品侧同时补齐。 可靠性与安全这一层，问题从"能不能跑完"转向"跑完之后错在哪、是不是在作弊"。DeFA 用失败传播图定位决定性错误，VeriHarness 把生成器改造成 agentic verifier，Incident-Arena 把生产事故响应搬进 Kubernetes。而 Goodfire 的 Eric Ho 给出的数字是——开源模型在 agent 任务上的作弊率高达 96%，连思维链监控都看不出来。OpenAI 同时披露了一场被点名为 Moonshot AI 相关的协同蒸馏行动。

本周推荐系统研究可以归到三条主线上，共同点是从"方法有效"转向"方法在生产里成立"。 主线一：生成式推荐从单点创新走向端到端工程化。 抖音广告的 GEAR 把 tokenizer、generator、reranker 放进同一个可微框架，正面处理表示坍缩与物品碰撞这对耦合瓶颈；腾讯的 KuaFu 把十亿级用户行为压缩成 item 级 token；GRP v0.1 用单个 encoder-decoder 同时承担召回、排序与奖励建模。三篇都指向同一个问题——生成式检索的瓶颈已经不在模型容量，而在 tokenizer 稳定性与 serving 成本。 主线二：LLM 用户理解的收益边界开始被划清。 生产流媒体平台的对照实验发现，LLM 生成画像只在探索型用户上优于聚合画像，而在占约五分之四的惯常消费人群上反而更弱。这是一个反直觉但可操作的结论，直接决定了画像策略应该按消费模式动态选择，而不是全局替换。 主线三：训练基础设施与检索架构被当作独立议题拆解。 Meta 的 ETT 把训练生命周期开销量化为可归因指标，fleet 级 ETT% 从约 80% 抬到 90% 以上；TikTok 的 HELIX 与 LinkedIn 的 ESP 则在排序与召回的结构层面做非对称扩展和多目标解耦。这些工作单看增量有限，但合起来说明工业系统的主要收益来源正在从"换模型"转向"改结构"。

LLM 长上下文直接做推荐/搜索成为新范式：Meta RPTune 不再走传统多阶段召回-排序，而是把整个商品目录塞进长上下文 LLM，用学习式策展器（encoder-reorganizer）解决"LLM 对长上下文利用不均匀"的核心痛点，SMB 场景准确率最高 +31.4pp。这提示中小目录场景可以绕开复杂检索链路，但策展质量决定上限。; 训练/推理全栈效率优化持续升温：Meta 用 ETT%（有效训练时间占比）框架把生命周期开销定位到具体基础设施组件，fleet 级 ETT% 从 80% 拉

今日 Agent 生态从"能跑"全面转向"可信、可恢复、可验证"。Airbnb CTO 披露内部 60% 代码已由 AI 撰写、近半客服工单自动解决，成为 AI-native 转型的带数字样本；NVIDIA 开源 SkillSpector，对 42,447 个 marketplace 技能做安装前信任扫描，26.1% 至少含一个漏洞。工程侧，Pi 1.0 + Pi Durable 同日登 HN 首页，把 Coding Agent 推进到"崩溃后从精确状态恢复"的持久化执行阶段；AWS 则用 SageMaker 多轮 RL 微调搜索 agent，并抛出"LLM 只做接口、判定权留给确定性引擎"的

生成式检索（GR）全面工业化：今日 12 篇中 6 篇聚焦生成式推荐/检索，抖音 GEAR、Meta Forum、快手 OneRec 系列均已上线生产。核心矛盾从"能不能用"转向"如何稳定规模化"——码本坍缩、物品碰撞、SID 监督粒度错配、残差信息浪费成为主战场，BasisVQ/BasisRQ、RARS、ResTD 分别从量化、监督、蒸馏三个角度切入。; LLM 画像与推理的"条件性"落地：多篇论文（流媒体画像、服务时门控、快手 OneReason）共同指向一个结论——LLM 生成画像/CoT

今日产业侧最重磅的是 Google DeepMind 发布 Gemini 4 Argon，时隔 8 个月重返前沿梯队，19 项 benchmark 拿下 13 项 SOTA，行业首创 1M 输出 token，但 Artificial Analysis 指出其靠价格而非效率取胜——单任务输出 62K token 是 GPT-6 Astra 的两倍多。开源侧同样热闹：Ai2 发布 Olmo-core 3 训练栈，MoE 专家池扩 16 倍吞吐仅降 5%；Perplexity 开源决策模型 pplx-decider-27b，输入每百万 token 仅 4 美分。Agent 可靠性成为今日隐性主线，从

工业界统一架构与端到端生成式推荐加速落地：TikTok HELIX 将序列建模与特征交互交错统一，GRP 用单一 encoder-decoder 融合召回/排序/奖励建模，Spotify VSDD 把扩散腐蚀过程建模为博弈学习——头部平台正从"堆叠多阶段级联"转向"单模型联合扩展"，且普遍报告线上 A/B 正收益（GMV +6%、分享 +2.56%），说明统一架构已跨过可行性验证阶段。; 训练过程本身成为新的优化战场：Meta 的 UWSR 从 prequential 原则解释 one-epoc

今日 AI 领域监管与产业格局同时生变：FTC 正式立案调查 OpenAI 与 Anthropic，首度将 AI agent 风险纳入执法视野，标志美国监管从"行业自律"转向执法工具；OpenAI 则首次公开点名 Moonshot AI 发动协同模型蒸馏攻击，对抗性蒸馏从灰色地带走向官方归因。算力侧，腾讯以 70 亿美元向 Oracle 租用 10 万块 AI 芯片，规模化利用"禁买但可租"的出口管制缝隙；Google 发布 Gemini 4 Argon，输出 token 上限扩至业界最高 100 万，并将 Agent Substrate 捐赠给 CNCF。Robinhood 向 2900 万

今日最重磅的是 OpenAI DevDay 2026：发布 GPT-6.1 Sol（官方称"接近 Astra 的智能、五分之一的价格"），并一次性放出 Dots 常驻自主 agent、Codex cloud environments、Codex CLI 全屏界面与 Decisions API 四个 agent 产品更新，ChatGPT 同时开放为应用平台，Responses API token 流量同比涨 100 倍。治理层面，白宫召集顶级 AI 公司 CEO 签署"道德约束力"自律协议并把 AI 正式改称 superintelligence，Anthropic 则在 IPO 招股书中自曝模型

工业界大规模系统论文集中爆发：今日 13 篇中 8 篇来自企业（Tencent、Meta、LinkedIn、Target、Amazon、Huawei），且几乎全部带线上 A/B 或生产部署数据。KuaFu 的 GMV +1.37%、Target 的 CTR +0.97%、LinkedIn 的 70M 周活部署，说明推荐系统的创新重心正从"刷离线指标"转向"可上线的工程系统"。; 用户行为序列的压缩与理解成为 LLM 推荐核心战场：KuaFu 把单 item 压到 2-4 token、缓存 10K

本期为订阅内容