- 标签:
- 日报 (211)
- 技术趋势 (142)
- AI (137)
- 推荐系统 (116)
- 周报 (33)
- 论文 (19)
- 思考 (7)
- LLM (6)
- Agentic Engineering (6)
- 工具 (4)
- 深度学习 (4)
- 推荐 (3)
- Harness Engineering (3)
- Transformer (2)
- 强化学习 (1)
- 思维模型 (1)
- 管理 (1)
- 生成式 (1)
2026-W25 最清晰的叙事线是:开源模型前沿从追赶变为并跑,甚至在某些维度反超闭源。GLM-5.2、DeepSeek-V4、Nemotron 3 Ultra、Ling-2.6 四款模型在本周密集发布,参数规模从 284B 到 1.6T,上下文全部支持 1M token,且均以开源形式提供。社区评测和独立分析表明,这些模型在知识工作、编码、科学推理等任务上已不逊于 GPT-5.5 和 Opus 4.8——甚至更便宜。 第二条主线是 Agent 基础设施从零散工具转向平台化。Amazon Bedrock AgentCore Harness 正式 GA,两个 API 调用即可部署生产级 Agent;Cursor 推出 Git 替代品 Origin 专为 Agent 工作负载设计。与此同时,Agent 评估方法正在经历从聚合排行榜到预测有效性的范式转换——IBM 论文直接质疑静态榜单向部署场景迁移的有效性。 第三条主线是推理效率的微观创新加速。Pine AI 提出可编辑/可组合的 KV 缓存范式,将 p90 TTFT 降低 53-398x;LMSYS 用 SGLang-JAX 在 TPU 上优化 1T 参数 MoE 模型,prefill 减少 53%;Jeff Dean 发布 TPU 从 v2 到 Ironwood 的演进论文,30 倍能效提升。硬件与算法两端的协同正在使 1M token 推理变得经济可行。 此外,监管博弈在本周剧烈升温——Anthropic 限制 Fable 模型的使用条款,美国商务部随后对 Fable 和 Mythos 实施出口许可要求,Andrew Ng 称此举将加速 AI 主权运动。医疗领域也有多项产品级进展,从罕见病诊断到全身体超声 CT。
本周推荐系统研究集中在三个方向:大规模图检索的全生命周期协同设计、基于Transformer的序列建模在多平台落地、以及多任务排序架构从DNN向Transformer native的迁移。Meta、Airbnb、Alibaba、Shopee、NetEase Cloud Music等公司各自发布了线上部署工作,提供具体的AB指标。 主线1(大规模图系统的端到端设计): Meta的RankGraph-2(Meta)将图构建、表示学习、在线服务三个阶段耦合优化,在百亿节点图上计算成本降低83%、召回率是GAT+Deep Graph Infomax的3.8倍、线上CTR+0.96%、CVR+2.75%。同方向,HighLevel的ScoreGate(HighLevel)用双分数统计融合控制RAG检索数量,生产环境减少34.8% token、召回率97.77-99.34%。 主线2(生成式推荐从理论走向生产): Airbnb的JourneyFormer(Airbnb)在搜索排序中部署基于Transformer的序列模型,处理长且稀疏的用户行为;阿里巴巴的OneBar(Alibaba)用端到端生成式框架做视频电商查询推荐,GMV提升21.67%。两篇共同指向——生成式推荐需要在实际约束(冷启动、延迟、标签稀疏)下做工程折中,而非单纯追求离线指标。 主线3(多任务排序的Transformer-native范式): Shopee的OneRank(Shopee)消除编码器-预测器分离,在Transformer内部做任务私有通道和梯度分离,线上CTR+1.2%、CVR+0.8%。网易云音乐的PIANO(NetEase Cloud Music)用可学习[CLS] token实现列表级多目标重排,CTR+0.62%、CVR+4.45%。两者都说明:将多目标推理内化到Transformer堆中比外挂MLP更有效。
本周推荐系统研究围绕三条技术主线展开:生成式推荐从架构完备走向工业级工程落地,其中编辑性、长序列建模、物品级评分等关键能力被逐一攻克;LLM增强的推荐从离线推理迈向在线实时,谷歌与快手等团队实现了十亿用户规模的实时用户画像与意图推理;召回排序系统的成本与效率优化出现系统性方案,小红书以90%硬件成本节省为代价将聚类ANNS部署至SSD存储,同时CTR模型的残差路径设计开始突破缩放定律瓶颈。 主线1(生成式检索工程化): 快手推出的OneRetrieval首次实现了可编辑的生成式检索,在替换倒排索引分支后显著提升订单量与CTR;Yandex的Gryphon引入联合训练的物品级评分组件,替换超过15个候选生成器与粗排阶段,召回量Recall@1000提升3.7%;京东的AdaGRPO通过自适应门控GRPO损失,将HR@10从11.01%提升至12.18%;Meta的Beyond Item IDs提出Global-Aware Compression Transformer,将峰值内存降低一个数量级;阿里的SSRLive通过动态语义ID融入用户-主播交互信号,线上观看时长+3.38%。 主线2(LLM推荐实时化): 谷歌的LLM-Based User Personas框架实现了十亿用户规模的实时自然语言用户画像生成,结合知识蒸馏与异步推理在线上A/B测试中显著提升用户价值;快手的AIR通过离线生成原子意图、在线检索组合的方式实现了400倍推理加速,GMV+3.446%;DoorDash的Mind the Gap利用分层RAG从餐厅订单中生成多级分类特征,在零售品类上CTR+2.1%;OPPO的ToolRec为小布助手(1.5亿月活)构建了双层级点击校准机制,CTR显著提升。 主线3(召回排序系统效率优化): 小红书的Helmsman在40台SSD服务器上替代了原需35000核与0.35PB DRAM的HNSW集群,硬件成本节省90%;DeRes通过双路径残差架构在工业CTR数据集上AUC+0.32%,且计算-AUC缩放定律显示8层DeRes匹配16层OneTrans(2倍计算节省);Meta的DUET将用户行为分离为点击与转化两个流,分别用专用Transformer预训练,离线NE降低0.38%;eBay的Representation Curriculum通过分阶段训练缓解曝光依赖信号,冷启动Recall+5.2%。
本周的叙事可以用一个词概括:兑现——模型厂商在推理效率、Agent真实能力、平台生态三个方向集中交付上季度承诺的成果。微软CEO Satya Nadella在Build大会后连续两场深度访谈中,将公司定位从“前沿模型提供商”重新定义为“前沿智能平台”,并透露出OpenAI关系的新平衡。同时,NVIDIA、Google、微软在推理侧密集出货:Nemotron 3 Ultra以550B MoE架构实现5倍Agent推理加速,Gemma 4推出12B端侧多模态模型,微软MAI系列一口气发布7款模型并公布MAIA 200芯片的30%性价比优势。Agent评估领域,Andon Labs用自动售货机揭示基准与现实之间的巨大鸿沟,而OpenWebRL则在视觉web Agent上证明多轮RL的有效性。形式化定理证明方面,Goedel-Architect和LEAP两篇论文将开源系统推向99.2% MiniF2F和满分Putnam的新水平。最后,OpenAI的Lockdown Mode和Dreaming记忆升级在安全和产品体验上完成了碎片拼图——Lockdown Mode提供了一种确定性对抗Prompt注入的方案,Dreaming则让ChatGPT的记忆从用户手动保存进化到后台主动合成。
本周推荐系统研究围绕三条技术主线展开。 主线1:生成式推荐从“能跑”走向““跑得稳”——语义ID与推理能力成为工业焦点。 Pinterest的UniPinRec实现了检索与排序的全栈统一(线上engagement +1%,延迟-11.1%),跳出了生成式推荐仅做检索的边界。快手的OneReason(线上部署)则揭示了思考模式在生成式推荐中无效的根本原因——感知与认知双因素缺失,并给出三级CoT格式和专化-统一训练的解决方案。两者的共同指向是:生成式推荐的核心瓶颈已从模型架构转移至数据形态(语义ID)与系统协同。 主线2:跨域冷启动从“搬特征”到“学迁移”——LLM作为跨域桥接器开始大规模落地。 快手的RGCD-Rep(服务4亿+用户)用MLLM推理蒸馏将短视频用户兴趣迁移至直播,冷启动参与度显著提升。Meta的Quantizing Intent论文(线上AUC +1.522%冷启)则将有机feed行为量化为语义ID注入广告排序,证明行为富集度决定跨域迁移质量。两篇的共同发现是:跨域迁移的关键不在对齐特征,而在构建可迁移的语义表征。 主线3:LLM/Agent增强推荐走向行业差异化——从通用检索到垂直场景的深度适配。 理想汽车的HPRO(132天A/B,销量+9.5%)将偏好优化引入销售线索评分,解决稀疏监督和漏斗层级问题。快手的Taiji(CTR +12.4%,收入+15.2%)提出帕累托最优策略优化,在语义与ID之间找到最优权衡点。Syft的DynaTree(生存率提升1.5倍)则用离线智能体建树+在线轻量子树选择解决时间敏感新闻检索的效率问题。这些工作表明,LLM在推荐中的应用正从“通用方案”走向“场景定制”。
本周 AI 产业的核心叙事围绕一条主线展开:Agent 从“帮开发者写代码”正式演变为“在后台独立工作”,而支撑这一转变的推理效率、安全评估和资本军备竞赛同步加速。Anthropic 的 Opus 4.8 和 Dynamic Workflows 将并行子 Agent 数量推到数百个,OpenAI 的 Codex 扩展至 Windows 平台并支持移动端远程监控,xAI 也以极低定价推出专长 agentic coding 的 grok-build-0.1——这些都不是“更好的 Tab 补全”,而是让 Agent 以异步队友身份参与开发的新范式。Latent Space 对 Cognition 和 OpenInspect 创始人的访谈系统梳理了从 Copilot (第一波) 到本地 Agent (第二波) 再到异步 Agent (第三波) 的演进,其中 Cursor CEO 提到的“第三时代”在本周被多家实际操作验证。 与范式并行的是资本对 Agent 赛道的押注:Anthropic 完成 965 亿美元 H 轮(估值 9650 亿),营收年化 470 亿;Cognition 以 260 亿估值融得 10 亿美元 D 轮,预计年底 ARR 超 10 亿。模型层同样密集更新——Claude Opus 4.8 在多项编码和 Agent 基准上超越 GPT-5.5,诚实性提升约 4 倍;MiniMax-M2 以 9.8B 激活参数实现 229.9B 总参的 MoE 性能;Qwen-VLA 则将视觉-语言-动作统一进单一模型,在 7 个机器人基准上达到 SOTA。推理效率方面,vLLM 集成 fastokens 用 Rust BPE tokenizer 消除长上下文瓶颈,MobileMoE 在商品手机上实现 1.8–3.8× 加速,Orbit 基础设施(tweet)甚至能在单节点 8×B200 上训练万亿参数模型的 RL。安全侧同样有进展,OpenAI 发布第三方评估共享手册,Redpanda 提出 out-of-band 元数据通道架构用于 Agent 安全治理,Onyx Security 推出企业级 Agent 监控。 以下是四个主题的详细分析。
本周推荐系统研究围绕三条技术主线展开。 工业级知识蒸馏进入迁移率量化时代: 字节跳动、Meta、微软、阿里分别展示了大规模蒸馏框架。字节的Rec-Distill(24B教师、20K序列)实现蒸馏迁移率>60%,阿里GPlan将LLM推理压缩为隐式token,Meta的LoopFM通过结构化中间表示让蒸馏迁移率翻倍,微软HARNESS-LM以190M参数恢复教师98%精度。四篇的共同指向是——蒸馏已经不只是模型压缩手段,而是把大模型能力“货币化”为可量化的业务指标。 生成式推荐从项目生成走向意图序列与条件生成: 阿里QGS在Quark搜索部署conditional next-item预测,Netflix揭示1B参数生成式推荐中不同任务的缩放天花板,清华SID碰撞分析发现Hit@10被高估103%。三篇共同说明——生成式推荐正在进入精细化评估和条件控制阶段。 推荐系统缩放从“堆参数”转向多维协同与测试时计算: Coupang系统研究CVR模型在骨干、嵌入、数据三个维度的可加缩放效应;阿里UTTSI首次将test-time compute引入CTR,无模型修改下CTR提升5.3%;Meta的rank-aware decomposition使DLRM吞吐量提升87.5%。缩放的核心矛盾已从“能不能大”变为“怎么用得巧”。
2026-W21 的核心叙事线只有一条:Agent 从「模型能力」正式转向「系统基础设施」。 Google I/O 2026 是这波浪潮的爆发点——Gemini 3.5 Flash 将「前沿智能+行动能力」打包成一个 4 倍速度、一半成本的 API,Managed Agents 让开发者用 YAML 定义 Agent 并托管在云端沙箱,Antigravity 则将 Agent 推入桌面和后台。但更值得注意的不是 Google 一家:Qwen3.7-Max 在同一周发布了 35 小时自主执行能力,Daytona 的沙箱基础设施已跑到日均 85 万次,IBM 和 Hugging Face 联合推出的 Open Agent Leaderboard 首次评测完整 Agent 系统而非模型。 这三个信号指向同一个判断——Agent 正在经历「从 demo 到部署」的 infrastructure 陡坡。 框架层(Langflow、Multica、12-Factor Agents)在解决编排与可观测性,沙箱层(Daytona、阿里云 AgentRun、AWS 博客方案)在解决安全与状态管理,评测层(Open Agent Leaderboard、Cameron Wolfe 指南)在解决「怎么知道我做的 Agent 好不好」。与此同时,NVIDIA、Together AI、Amazon 等实验室发布了大量训练推理优化论文,IXT、Dynatrain、CODA、DualKV 等系统级创新在推动效率边界。 第二条线索是自主科学发现从「学术畅想」走向「可验证结果」。OpenAI 模型首次自主解决 Erdős 1946 年提出的离散几何猜想,Sam Altman 在推文中称「这是一个大里程碑」。Meta FAIR 的 AIRA 系统让 Agent 自主设计出超越 Llama 3.2 的神经网络架构。这些事件虽然数量不多,但质量极高——不再是「AI 辅助科学家」,而是「AI 作为发现者」。 本周还有一项底层警示:RoPE 机制在长上下文中的局限性被严格证明(UIUC & Amazon AGI),表明现有位置编码范式可能需要根本性革新。
本周推荐系统研究围绕三条技术主线展开:生成式推荐从“验证可行性”走向“工业级部署与优化”,去偏与校准技术从单一方法走向融合框架,搜索召回系统在冷启动和异构加速上取得具体突破。 生成式推荐进入工业化深水区: 快手、腾讯、美团的四篇部署论文覆盖了推理增强(RPORec)、长兴趣建模(GenLI)、世界知识融合(LWGR)等核心痛点。共同的指向是——生成式推荐的核心问题已从“能不能用”转变为“如何稳定、可控地替换或增强传统pipeline”。 去偏与校准从“纠正均值”走向“治理分布”: 字节跳动的PEARL、快手的DADF、Pinterest的PRL-PUTS分别从对比百分位、残差校正、效用权重调优三个角度,给出了生产级解决方案。其中PEARL的Watch Duration +2.10%和DADF的时间花费+0.347%表明,分布级别偏差校正仍有显著收益空间。 搜索召回系统聚焦冷启动与系统效率: 淘宝的GrowthGR(新商品GMV+5.3%)和Airbnb的合成数据框架(查询长度KL散度降至0.66)展示了LLM+反事实推断在冷启动中的工程潜力。华为与京东合作的Ascend-RaBitQ将billion-scale向量搜索的NPU加速提升至4.6倍,为大规模召回提供了硬件-算法协同的新基准。
本周推荐系统研究围绕三条技术主线展开:生成式推荐架构从tokenizer优化走向推理效率提升,LLM增强推荐从孤立的辅助模块演化为具备记忆与推理能力的智能体,系统工程层的量化与线程编排成为工业部署的实际瓶颈突破点。 主线 1“生成式推荐的解耦与加速”: 阿里在TmallAPP上线 CQ-SID / EG-GRPO,以类别感知语义ID和专家引导强化学习实现GMV +1.15%,生成召回贡献72.63%购买。Tencent与清华的 AsymRec 提出非对称连续-离散框架,用多专家投影替代对称量化,平均提升15.8%。美团的 DIG 将tokenizer嵌入判别式排序模型端到端训练,同时提升检索与排序。Snap的 SID-MLP 用MLP蒸馏替代Transformer解码器,加速8.74倍且精度持平。这些工作的共同指向是——生成式推荐正在从“能跑”向“跑得稳、跑得快”过渡,核心手段是解耦输入输出表示与替换密度过高的结构。 主线 2“LLM推荐向推理与记忆演进”: Microsoft Research的 PGR 引入前瞻引导检索,用Tree-of-Thought扩展查询步骤,在MemoryQuest上召回提升近3倍。美团的 RecRM-Bench 提供了100万条结构化条目覆盖指令遵循、事实一致性等四维奖励,为智能体推荐系统提供基础。SDAR(美团)用门控辅助目标稳定OPSD蒸馏,在ALFWorld、Search-QA等基准上相对GRPO提升7-10%。差异在于——PGR侧重检索前的前瞻推理,SDAR侧重训练中的稳定性,但共同挑战是LLM在推荐场景中的记忆与推理能力仍远未成熟。 主线 3“系统协同设计成为工业落地关键”: Meta的 LoKA 通过Probe-Mods-Dispatch三件套在FP8下实现训练吞吐+20%、推理加速+40%且无质量损失。Xiaohongshu的 CCD-Level Thread Orchestration 利用CCD架构的缓存特性,在ANNS服务上取得3.7x吞吐提升和30-90% P999延迟降低。Baidu的 Efficient Generative Targeting 结合量化、稀疏化和并行验证,实现1.8倍推理加速并部署于广告系统。这些工作表明——模型架构改进的边际效应递减时,硬件感知的系统优化正成为实际收益的主要来源。
编码 Agent 的交付形态正在经历一次收敛与分化并存的阶段。一方面,OpenAI 将 Codex 推向 Windows 沙箱和移动端,Anthropic 推出官方 Skills 仓库,Garry Tan 开源 gstack——Agent 工具链从“写代码”向“管理工程团队”的方向迈了一大步。另一方,学术界则在追问:当 Agent 规模扩张到百万级别时,涌现行为的归因如何做到可计算、可证明。 与此同时,LLM 架构创新进入密集发布期。Sebastian Raschka 的综述文章系统梳理了 Gemma 4 到 DeepSeek V4 共十多篇架构论文,Nous Research 一周之内抛出两项核心技术——Token Superposition Training 和 Lighthouse Attention,分别将预训练和长上下文推理的 wall-clock 速度推高 2-3 倍和 17 倍。NVIDIA 的 Star Elastic 和 AWS 的 Priming 则从后训练和模型转换角度,提供了更经济的多模型族管理方法。 推理基础设施层面,SGLang 和 vLLM 在一周内相继合并了对 DeepSeek V4、Laguna-XS.2 等新架构的支持,KV Offload、HiSparse、MegaMoE 内核等优化密集上架。Cerebras 以 600 亿美元 IPO 收盘,Stratechery 的 Ben Thompson 则从芯片架构差异出发,预言推理算力市场将走向异构化。本周的三条主线——Agent 工具链标准化、架构创新的规模化验证、推理部署的工业化追赶——互相交织,指向同一个判断:2026 年正是从“模型试验”向“系统工程”过渡的关键季度。