本周概览
本周推荐系统研究围绕三条技术主线展开:序列编码算力的复用方式、生成式检索的合规生成、以及长尾与多目标约束下的可达性建模。
主线 1——基础模型范式从"端到端堆大"转向"分离复用": 字节跳动的 SepLRM 把多个端到端大推荐模型重组为一个 RFM(推荐基础模型)加多个垂直模型,以编码器最后一层的 KV 缓存作为共享接口,报告约 100% 的能力迁移率,并在两个大规模工业场景上线。部署在 FP&A SaaS 的 CascadeRec 用两级 LLM 重排级联,路由器只把可能受益于额外推理的请求升级到昂贵层,一个多月的生产 A/B 里推理成本降约 10%、无明显质量回退。两者的共同判断是:序列编码这件事不该被每个推荐阶段各跑一遍。
主线 2——约束解码成为生成式检索的一等公民: Uber Eats 的 LEGIT 把实时资格与去重规则转成两棵 trie 上的区间查询,每 token 开销从直接 GPU 实现的 5 倍压到约 1.7 倍;RoutingTrie(Google)在生产回放里把 Hit@100 从 67.5% 提到 96.1%,代价是 1.1 ms 延迟;淘宝闪购的 TS-GEAR 把地理可达性直接写进语义 ID 的生成目标,而不是事后过滤。
主线 3——长尾可达性与多样性的评估口径在收紧: ReSID(阿里巴巴)首次把长尾可达性拆到 SID 构建、解码、匹配三段分别分析,结论是同等码长下并行 SID 在尾部物品上稳定优于顺序 SID;快手的 KuaiRecV2 把多样性放进统一 rubric,要求精度、多样性、多任务指标同时提升才算有效进步。
推荐基础模型与规模化训练
基础模型范式要解决的核心问题不是"能不能更大",而是"同一份序列编码能不能被多个下游任务共用"。
SepLRM(字节跳动)把这个问题在接口层面做了切分。传统 E2E 大推荐模型对每条行为序列做一次编码,然后各阶段各业务线各自重复这项计算。SepLRM 改用编码器-解码器结构:编码器输出的最后一层状态被导出为与候选无关的 KV 缓存,下游垂直模型在缓存之上构造候选条件化的 query,保持与 E2E 版本相同的 query-KV 交互形式。这个设计选择的关键在于,KV 缓存保留了细粒度行为信息,而聚合后的用户 embedding 或候选相关的 logits 都做不到这一点。为了让它可服务,作者联合设计了缓存压缩、训练与服务流程,以及分布式 KV 缓存存储 LG-Store。三个大规模数据集上达到 SOTA,迁移率约 100%,并已部署在两个大规模工业场景。这条思路延续了多任务建模中显式刻画跨任务结构的做法,例如 Learned Cross-Task Relationships 用任务标签联合分布建模成对关系,SepLRM 则把"跨任务共享"下沉到了缓存这一层。
CascadeRec(FP&A SaaS provider)处理的是 LLM 重排的成本问题。系统跑在 AWS EKS 与 GKE 上,为多个企业租户提供内容推荐。Tier-1 轻量模型处理全部请求,路由器只把可能有收益的请求升级到 Tier-2(自一致性采样、多路径推理或更大模型)。值得记录的发现来自公开基准上的分段分析:对历史稀疏的用户,统一上 LLM 重排会让 NDCG@10 下降最多 30%,唯一统计显著的收益出现在历史最长的那一段;把冷启动用户升级到贵的那层,损失反而更大。这直接支撑了他们按 segment 门控的上线策略。多租户负载不均衡是级联设计的另一驱动力。相关工作里,BracketRank 用淘汰赛式推理重排把 BRIGHT 做到 26.56 nDCG@10,LHF 则从检索器融合角度恢复 17-61% 的 oracle 覆盖差距——CascadeRec 关注的是同一件事的算力分配侧。
Feature-invariant scaling laws 提出的观察是:即使施加不同的特征变更,模型性能随训练规模的变化仍遵循可预测的缩放律。据此可以用小规模实验加统计推断,带置信区间地预测全规模 A/B 效果,把中性和退化的变更提前过滤掉。验证覆盖三类模型家族(Wukong、HSTU、LLM-based)与 40 多项架构、优化、数据变更,并在 MovieLens-20M 上找到若干进一步改进 HSTU 的变更。这条线前面有 LUM 的三步范式把参数推到 70 亿、OneRec-V2 用 lazy decoder-only 把训练资源压掉 90%,本周这篇把缩放律从"怎么变大"挪到了"怎么少做实验"。
KuaiRecV2(快手)是一个基准而非方法。它包含百万级多模态物品信息、30 天长期交互记录与动态视频候选池,把三个此前被分开评估的挑战塞进同一个 rubric:大规模持续学习(动态物品池与分布漂移下的长期有效性)、组合多样性(token 级与物品级同时处理精度-多样性权衡)、多任务奖励平衡(生成模型能建模序列分布但对多任务需求可控性差)。评测准则很硬:新方法必须在所有指标上同时提升才算进步。这条准则对生成式推荐的冲击不小——EGR 这类用共享 LLM 统一物品与用户表示、在 Snap DPA 上拿到 +2.91% 转化率的工作,以及 R4T 用 RL 编译扩散把 fan-out 延迟降一个数量级的工作,在新口径下都需要重新审一遍多样性代价。
生成式检索的语义 ID 与约束解码
这一批工作的共同背景是:生成式检索在工业界已经跨过"能不能用",进入"生成出来的东西合不合规"。合规包括三件事——ID 是否指向真实且可服务的物品、整页结果是否满足业务规则、候选集合整体的价值是否被优化。
本期为订阅内容
订阅 RecsysFrontier,在 Substack 阅读本期全文
- 每天的 AI / 推荐系统前沿日报,第一时间读到
- 每周周报,一周重点一次看完
- 订阅期内所有日报周报全文
本期将于 11 月 21 日免费开放