推荐算法日报 - 2026-06-19

type

Post

status

Published

date

Jun 19, 2026 05:00

slug

daily-report-2026-06-19

summary

全链路协同设计成为工业界新范式：Meta 的 RankGraph-2 和 Airbnb 的 JourneyFormer 都展示了从数据构建、模型训练到在线服务的端到端协同优化思路。RankGraph-2 更是明确提出图构建、训练、服务三阶段生命周期协同设计，通过各阶段需求相互约束来提升整体效率，这标志着工业界推荐系统正从单点优化走向全链路系统级优化。; 多语言/跨域检索成为热点，工业界与学术界共同发力：今日有多篇论文聚焦多语言或跨域场景。Baidu 的 Querit-Reranker 通过标签无

Section 1: 📊 Trend Analysis

🔥 全链路协同设计成为工业界新范式：Meta 的 RankGraph-2 和 Airbnb 的 JourneyFormer 都展示了从数据构建、模型训练到在线服务的端到端协同优化思路。RankGraph-2 更是明确提出图构建、训练、服务三阶段生命周期协同设计，通过各阶段需求相互约束来提升整体效率，这标志着工业界推荐系统正从单点优化走向全链路系统级优化。

💡 多语言/跨域检索成为热点，工业界与学术界共同发力：今日有多篇论文聚焦多语言或跨域场景。Baidu 的 Querit-Reranker 通过标签无关的分布适应和模型合并，实现了高效的多语言重排序；Korea University 的 SHIFT 则用训练-free方法缓解语言偏差。这表明随着全球化业务扩展，多语言检索的实用化需求正在快速增长。

Section 2: 📋 今日速览

Meta 在推荐场景提出 RankGraph-2，首次协同设计百亿节点图的构建、训练和服务三阶段，通过子采样、预计算邻域和残差量化索引，将服务计算成本降低 83%。线上 A/B 实验 CTR +0.96%、CVR +2.75%，已支撑 20+ 检索上线。↗

Airbnb 在搜索排序场景部署 JourneyFormer 序列模型，针对用户长序列和稀疏预订标签，详细设计了事件选择、ID嵌入、标签归因等生产方案。线上 A/B 测试在 2 个业务面上均取得关键业务指标显著提升。↗

University of Georgia 等 提出 SAERec，用稀疏自编码器从 LLM 文本嵌入中自动解耦细粒度可解释意图，替代传统聚类方法。多分支注意力机制融合个人与公共意图，在多个公开数据集上超越 SOTA，并提供人类可理解的解释。↗

Baidu & 中科院 提出 Querit-Reranker 多语言重排序器，通过合成查询挖掘和教师软标签实现标签无关的分布适应，并用球形线性插值合并模型。0.4B 参数模型在 BEIR 上 nDCG@10 从 54.11 提升至 59.28，已开源。↗

Korea University 提出 SHIFT，一种训练-free 的索引侧特征变换方法，通过平行翻译对估计相对语言向量来修正文档嵌入，缓解多语言检索中的语言偏差。在四个 MLIR 基准上验证了有效性。↗

Korea University 发现 SPLADE 训练中 MLM 头 L2 范数过大会导致训练崩溃，提出初始化时对 MLM 头投影进行常数因子缩放。该零成本调整显著提升了 ModernBERT 等大范数骨干的稳定性，在域内和域外检索基准上均达到或超越 BERT-SPLADE。↗

Section 3: 📰 Daily Digest

1. RankGraph-2: Lifecycle Co-Design for Billion-Node Graph Learning in Recommendation

🔗 原文： https://arxiv.org/abs/2606.18379

🏷️ 来源： 🏭 工业界 | Meta

⭐ 评分： ⭐⭐⭐⭐⭐ (5/5)

🎯 推荐理由： 生命周期协同设计，百亿节点图检索端到端优化，线上显著提升。

📝 摘要： 针对百亿节点图检索中图构建、表示学习和在线服务三阶段孤立优化的问题，Meta 提出 RankGraph-2 框架，首次实现三阶段生命周期协同设计。服务端通过协同学习的残差量化索引避免昂贵的在线 KNN，将计算成本降低 83%；训练端利用相似检索可容忍预计算邻域的特性，消除在线图基础设施；构建端通过带流行度偏差校正的子采样将百亿边降至千亿，并支持小时级刷新。该框架在二分图上召回率比 GAT+Deep Graph Infomax 高 3.8 倍，在物品检索上比 PyTorch-BigGraph 高 2.1 倍，线上 A/B 实验带来 CTR +0.96%、CVR +2.75% 的提升，已支撑 Meta 20+ 检索上线。

2. JourneyFormer: Encoding Airbnb Guest Journey with Sequence Modeling

🔗 原文： https://arxiv.org/abs/2606.19108

🏷️ 来源： 🏭 工业界 | Airbnb

⭐ 评分： ⭐⭐⭐⭐⭐ (5/5)

🎯 推荐理由： Airbnb搜索排序序列建模实战，含线上A/B提升。

📝 摘要： Airbnb 在搜索排序场景部署 JourneyFormer 序列模型，直面用户长序列（探索性强）和预订标签稀疏的生产挑战。论文详细披露了从事件选择、ID 嵌入、模型架构到标签归因的全套设计决策，并介绍了加速训练和推理的定制策略。JourneyFormer 在 2 个业务面上通过线上 A/B 测试验证了离线排序指标和关键业务指标的显著提升。该工作对工业界处理长序列和稀疏标签的序列建模有直接的工程借鉴价值。

3. SAERec: Constructing Fine-grained Interpretable Intents Priors via Sparse Autoencoders for Recommendation

🔗 原文： https://arxiv.org/abs/2606.18897

🏷️ 来源： 🎓 学术界 | University of Georgia, Shanghai AI Laboratory, The Hong Kong Polytechnic University

⭐ 评分： ⭐⭐⭐⭐ (4/5)

🎯 推荐理由： 用稀疏自编码器从文本中自动构建细粒度可解释意图，提升推荐效果与可解释性。

📝 摘要： 针对现有意图推荐方法依赖序列质量、需预设意图数量且缺乏语义基础的问题，SAERec 创新性地利用稀疏自编码器（SAE）从 LLM 文本嵌入中自动解耦出细粒度、可解释的意图空间。该方法将文本视为高密度信息源而非辅助信号，提取个人意图（匹配当前兴趣）和公共意图（如质量、价格），并通过多分支注意力机制注入序列模型。在多个公开数据集上，SAERec 一致超越 SOTA 基线，同时提供人类可理解的解释，为推荐系统的可解释性提供了新思路。

4. Querit-Reranker: Training Compact Multilingual Rerankers via Efficient Label-Free Distribution Adaptation

🔗 原文： https://arxiv.org/abs/2606.19037

🏷️ 来源： 🤝 产学合作 | Chinese Academy of Sciences, Baidu

⭐ 评分： ⭐⭐⭐⭐ (4/5)

🎯 推荐理由： 高效多语言重排序器，标签无关分布适应，性能显著提升。

📝 摘要： 针对多语言重排序器适应新分布需要大量标注数据的问题，Baidu 与中科院提出 Querit-Reranker，通过标签无关的分布适应管道训练。该管道先在大规模排序数据上学习通用相关性，再通过合成查询挖掘和教师软标签适应目标分布，最后用球形线性插值合并多个检查点，避免运行时集成开销。0.4B 参数模型在 BEIR 上 nDCG@10 从 54.11 提升至 59.28，在 MIRACL 上从 59.87 提升至 67.70，4B 模型在 MTEB 多语言重排序上达到公开模型 SOTA，已开源。

5. SHIFT: Semantic Harmonization via Index-side Feature Transformation for Multilingual Information Retrieval

🔗 原文： https://arxiv.org/abs/2606.18801

🏷️ 来源： 🎓 学术界 | Korea University

⭐ 评分： ⭐⭐⭐ (3/5)

🎯 推荐理由： 训练-free方法缓解多语言检索语言偏差，简单有效。

📝 摘要： 针对多语言稠密检索模型中普遍存在的语言偏差（倾向于返回与查询同语言的文档），Korea University 提出 SHIFT，一种训练-free 的索引侧特征变换方法。SHIFT 利用平行翻译对估计每个目标语言相对于源语言的相对语言向量，在索引阶段从文档嵌入中减去该向量以校正语言偏移。在四个 MLIR 基准和多种稠密检索模型上的实验表明，SHIFT 能有效缓解语言偏差并提升检索性能，方法简单且无需额外训练。

🎯 今日主题：生成式推荐中用户行为序列长度怎么定？固定窗口还是自适应

引子

——

生成式推荐（GenRec）将推荐任务建模为用户行为序列的 next-item 预测，序列长度直接决定了模型能捕捉的时间跨度和计算成本。早期工业部署的 GenRec 最大序列长度常限制在 10,000 以内 [Kuaishou]，但头部用户的真实交互序列可达数十万甚至上百万 [Meta]。如何在推荐质量与在线延迟之间权衡序列长度，成为 GenRec 落地的关键设计选择。最近 GEMs、GBLA、DV365 等多篇工作分别从固定窗口、自适应截断、全历史稀疏化三个方向给出答案 [Kuaishou][Yandex][Meta]。本文梳理这三种策略的动机、方案与效果，为工业选型提供参考。

固定长度窗口：截断的收益与代价

固定窗口是最直接的策略：保留最近 N 条交互，丢弃更早的记录。许多工业系统采用此方案，例如 Snapchat 在生成式检索中将序列长度从 120 提升到 480 后，R@5 和 N@5 分别提升 31.5% 和 26.5% [Snapchat]。HSTU 在 8192 长度上训练并部署了 1.5 万亿参数模型，线上指标提升 12.4% [2402.17152]。Airbnb 的 JourneyFormer 也使用固定长度窗口建模用户旅程 [2409.12740]。

固定窗口的优势是简单、工程成熟、推理延迟可预测。但缺点也很明显：

长历史信息丢失：DV365 指出，Instagram 线上用户历史平均约 1500 条，最长 2000 条，但通过离线拼接可将历史长度扩展到平均 4 万、最长 7 万 [Meta]。固定 480 或 8192 的窗口会截断 90% 以上的历史。

注意力近因偏差：GEMs 的分析显示，GenRec 的自注意力会严重偏向近期片段，难以利用长期历史 [Kuaishou]。这导致单纯增加窗口长度带来的收益是次线性的 [Kuaishou]。

计算成本高：Transformer 自注意力的复杂度是 O(L^2)，HSTU 通过 FlashAttention 优化后，在 8192 长度上仍需要大量计算资源 [2402.17152]。许多系统被迫使用更短的窗口（如 OneRanker 固定 2048）以确保延迟 [Tencent]。

因此，固定窗口适用于用户历史长度相对均匀、延迟敏感的场景。但当头部用户历史远超窗口时，简单的截断会损失长期兴趣信号。

基于注意力衰减的自适应长度选择

自适应长度策略根据序列内容动态决定保留多少历史。主流方法有两类：

时序衰减式注意：为较早的行为赋予更小的注意力权重。Knowledge Graph-augmented Sequential Recommendation 使用自适应时间衰减核，根据时间间隔对老交互降权 [journals.riverpublishers.com]。GEMs 将序列划分为近期、中期、生命周期三个流，分别采用实时提取器、轻量索引器（cross-attention）、离线-在线压缩模块处理不同时间尺度的信息，并通过参数无关的融合策略整合 [Kuaishou]。这种显式分段比隐式衰减更可控，已在工业部署中验证。

重要性感知注意：Forget Attention 提出基于 SISA 分值的注意力，自动判断哪些历史行为对当前预测更重要，并赋予更高权重 [2606.02332]。APAO 通过自适应前缀感知优化，在训练阶段动态调整序列前缀的损失权重，从而隐含地影响模型对不同位置行为的关注度 [Tsinghua]。

自适应方法的优势是可以在不增加窗口上限的前提下，让模型关注更有信息量的历史。但其工程实现更复杂：需要额外的模块或超参数来控制衰减曲线；而且如果训练和推理时的序列分布不一致（例如训练时使用长序列，推理时截断），会出现训练-推理不一致性问题 [Linkedin]。OneRank 和 GEMs 都通过专门设计的模型结构（如条件注意力、多流解码）来缓解这一 gap [Kuaishou][Tencent]。

常见方案对比：

GEMs：三流分段，工业部署成功 [Kuaishou]

GBLA：使用线性注意力 + 卷积实现 O(L) 复杂度，支持 32k 序列 [Yandex]

Forget Attention：通过 SSM 通道实现递归式衰减 [2606.02332]

自适应时间衰减核：知识图谱增强，但尚未在 GenRec 中大规模应用 [journals.riverpublishers.com]

全历史序列的稀疏化表示与计算开销

不截断历史，而是通过压缩或稀疏化来降低计算成本。代表方法包括：

离线导出用户画像嵌入：DV365 的做法是训练一个独立的 foundation model，读取用户 4 万条历史，输出固定维度的用户嵌入（多切片摘要）。这个嵌入被注入线上模型作为额外特征，而不是让线上模型直接处理长序列。这种方法将长历史计算从在线链路转移到离线预计算，线上只需要存储和传递一个嵌入，因此计算开销极低 [Meta]。Instagram 用它服务了 15 个模型，并在线验证了 1 年以上 [Meta]。

层级 / 混合模型：HyMiRec 使用轻量级 Transformer 先对长序列进行粗粒度兴趣抽取，再结合最后若干条细粒度行为进行推荐，将计算复杂度从 O(L) 降低到 O(K)（K << L）[Xiaohongshu]。GEMs 的生命周期流也采用类似的离线-在线两阶段压缩 [Kuaishou]。

线性注意力替代：GBLA 提出门控双向线性注意力，将复杂度降为 O(L)，在 32k 序列上比 FlashAttention-v3 快 8.2 倍，同时保持与全自注意力接近的效果 [Yandex]。在 Yandex Music 数据集上验证了工业可行性。

这类方法的共同思路是：用离线预计算或更高效的注意力机制，将全历史信息浓缩为低维表示，避免在线推理时直接处理长序列。DV365 的效果增量显著：在 Instagram Reels 的排序和召回模型上均有提升 [Meta]。但注意，离线嵌入需要定期更新，对用户行为变化的响应有一定延迟。

工业落地启示

在 GenRec 中确定序列长度，不存在万能选择。以下是基于现有工作的实践建议：

1. 先评估用户历史分布：如果 95% 的用户历史小于 2000，固定窗口（如 480 或 2048）配合 FlashAttention 已能获得足够效果 [Snapchat][Tencent]。如果存在大量长尾活跃用户，则应考虑自适应或全历史压缩方案。

2. 离线-在线分离是低成本方案：DV365 的模式（离线 foundation model 生产嵌入，线上模型消费嵌入）对现有架构改动小，且已被验证在 Instagram 规模化有效 [Meta]。适合快速试水的团队。

3. 若要求端到端，选择线性注意力或分段流：GBLA 提供 O(L) 线性注意力，工程上较容易替换 [Yandex]。GEMs 的三流设计更复杂，但效果更精细 [Kuaishou]。注意自适应方法需要额外维护注意力衰减曲线或分段策略，会增加系统复杂度。

4. 不要盲目追求最长序列：Snapchat 的实验显示，从 120 提升到 480 收益显著，但后续更长序列的边际收益递减（sub-linear）[Kuaishou][Snapchat]。建议在增量实验中逐步增长序列长度，同时监控计算开销和推荐质量的 Pareto 前沿。