推荐算法日报 · 2026-10-31

October 31, 2026 less than 1 minute read

总览

今天到手的论文不多，但两条主线挺清楚：一条是在拿不到 propensity 的现实系统里，离线评估怎么才能站得住脚；另一条是把预训练自回归表征往推荐侧搬。第一篇是我今天最想细读的，它没有绕开多阶段广告系统里 auction、targeting、缓存这些根本记不下 propensity 的复杂情况，而是用 domain classifier 反推 density ratio、做混合加权来训练共享 reward model，思路很清晰；更难得的是，它敢把“生产上第一第二名只差 0.15%、50 次子采样里 24 次顺序翻转”这种负结果明确摆出来，我认为这种诚实比多刷两个点更值钱。它把 value error 拆成 overlap 误差、cold-start mass、replay 采样误差三部分，并给出“要么信离线、要么直接送 A/B”的路由规则；这套把评估结论和实验预算联系起来的视角，比理论 bound 本身更有工程价值，权重裁剪加 ESS 当 overlap 诊断也是能直接抄进工作流的细节。第二篇走的是另一条路，把预训练自回归的 latent embedding 往推荐场景用，方向不算新，但 DoorDash 的落地细节值得快速扫一眼方法部分。整体判断是今天没有范式级的东西，干货集中在前一篇。今天优先看第一篇，第二篇过一下方法就够。

论文列表

1. Beyond IPS: Reliable Counterfactual Evaluation in Multi-Stage Ad Systems without Logged Propensities

论文链接：AlphaXiv
更新时间：2026-10-29 14:13 UTC
机构：未披露机构
工业优先级：强

没有倾向值，广告离线评估还能信吗

各位算法同学们，多阶段广告系统做离线评估，最尴尬的不是模型不够强，而是你根本没有倾向值：缓存、人群定向、业务规则一介入，曝光分布就不等于排序模型的输出分布，IPS 和它的自归一化变体直接失去前提。这篇来自 Meta 的工作把“没有 propensity 时该怎么信 DM replay”讲成了一套工程判断，既给出误差上界，也给出“什么时候信离线、什么时候老实排队走 A/B”的规则。

📄 Beyond IPS: Reliable Counterfactual Evaluation in Multi-Stage Ad Systems without Logged Propensities

🔧 不加权就会偏：只训练一个共享 reward model，用多分类域分类器估计密度比，把监督损失按“候选策略的混合分布”重新加权，全程不碰 propensity，代价只是多一次多分类加一次加权训练。

🧩 误差可以拆开看：作者推导出 DM replay 价值估计的高概率误差上界，把它分成 overlap 项、cold-start 项和有限 replay 样本项，将“有支撑处的模型误差”和“没支撑处的误差”之间的有限样本权衡明确写了出来。

⚙️ 给出一条决策规则：用 cold-start mass 导出渐近判据，判断某个候选是能靠离线排序定下来，还是必须送去线上 A/B 验证，正好对应 A/B 名额稀缺的现实。

📊 在可配置的广告投放模拟器和某大规模 CTR 排序系统的生产流量上，共对比 6 个估计器；混合加权版本在两种设定下都优于未加权的 DM，模拟器里 overlap 越低，增益越明显。

✅ 再叠加 doubly robust 修正后，Top-1 选对率在生产流量上最高，在模拟器的低、中 overlap 区间也最高。

📈 论文没有把增益压成单一百分比，更该记住的是趋势：收益集中在 overlap 低的位置，也就是最需要离线评估筛选候选的地方。

总结感想：如果你在多阶段广告或推荐里做模型筛选、A/B 名额又紧张，这套“加权 DM 加 cold-start 判据”可以照着实现一版。需要注意的问题在于，密度比估计在 overlap 极低时本身会不稳，β 默认均匀也意味着候选集合得先固定；落地时先盯 Top-1 选对率和选错带来的 regret，再和 IPS、DR 基线在同等 overlap 条件下比，别只比较拟合误差的绝对值。

2. PALATE: Pretrained Autoregressive LATent Embeddings

论文链接：AlphaXiv
更新时间：2026-10-29 00:31 UTC
机构：DoorDash
工业优先级：未标注
备注：Accepted to GRAIL @ CIKM 2026. 5 pages, 2 figures, 3 tables

一个冻结向量，比模型里现搭的注意力还猛？

各位算法同学们，先甩个反常识的结论：在DoorDash的广告排序里，一个每天离线刷新一次、梯度完全不回传的256维用户向量，是整套特征里单特征增益最大的那个，而在排序模型里现搭一个DIN注意力模块叠上去，只多了一点点。

📄 PALATE: Pretrained Autoregressive LATent Embeddings

🔧 把用户历史当成一句话来续写：用GPT式decoder（3层3头、768宽、200长度上下文）预测用户接下来会点或下单哪几个商家，取最后一个token的hidden state当用户向量，冻结后喂给DCNv2排序模型，Discovery和Search两个意图完全相反的界面共用一个向量。

🧩 探索加权损失：外卖场景复购极重，下一位大概率是历史里已有的店，uniform loss下模型躺着猜复购就能拿高分。他们把目标商家的新老状态做成权重，新商家0.9、复购0.1，把表示往“尝新”方向拽。

⚙️ 两阶段课程加精心设计的负样本：先点击预训练保广度，再从该checkpoint热启动做转化微调锐化购买意图；负样本用约6万热门商家固定池和“曝光未下单”做硬负，再混随机与in-batch负样本压成本。

📊 离线单特征增益最大：Discovery相对Eval-AUC +0.59%，Search +0.57%。

📈 在线作为打包重训的一部分上线：Discovery收入+0.79%、转化率+1.17%；Search收入+0.94%、转化率+1.50%。

✅ 同一个冻结向量同时吃到浏览型探索场景和查询型意图场景，这点比数字本身更有意思。

总结下我的判断：如果你做的是复购重、标的物几十万量级、又不想给每个排序任务重搭一套序列建模的场景，这套“训练一次、冻结复用、当普通稠密特征”的路子是划算的。要盯的是探索权重那个比例（他们扫了uniform、3:1、9:1，最后取0.9/0.1）和硬负池的更新频率；坑在每日刷新任务的延迟，新鲜行为进不来时向量会钝，另外别指望它替代序列内建模，它更像一个便宜的公共底座。