小红书精读：GenRec: An LLM-Backed Recommendation Ranker at Netflix

Netflix的LLM排序器有点强

各位算法同学们，这篇论文讲的是Netflix把推荐排序器整体换成了大语言模型，用自然语言直接表示用户历史、物品和上下文，而且在大规模A/B测试里真的打败了线上跑了很多年的传统排序模型，值得细读。

📄 GenRec: An LLM-Backed Recommendation Ranker at Netflix

🔧 技术创新点：把手工构造的几千个特征交互直接丢掉，改为对用户行为和上下文做“语言化”描述，让模型自己看到原始文字，创新点在于“上下文工程”。 🧩 两阶段训练框架：第一阶段用Netflix自有数据继续预训练基础LLM，建立用户和内容理解能力；第二阶段用排序专用的数据、标签和奖励信号做后训练，两者分工明确，更新节奏也解耦。 ⚙️ 在生成式LLM上加了目录感知的打分头，一次前向就能给整个目录打分，配合prefill-only推理，不需要逐token生成，服务端成本可控；还把多路奖励信号用加权排序损失融进训练。

📊 离线效果：只用了生产模型约1/40的Phase-2标注样本和更少输入信号，离线MRR相对提升约1.6%，说明数据效率确实高。 ✅ 线上效果：约10%流量跑4周，短期首页参与度和长期核心指标都达到统计显著提升，长期核心指标相对提升约0.006%，别小看这个数，Netflix体量下已经算赢。 📈 成本控制：通过事件筛选和压缩，把输入上下文从约5000 token减到约1700 token，离线指标几乎没有掉，推理成本直接降到原来的约1/3。

个人觉得这篇的工程参考价值很大，它证明了LLM排序器在真实工业场景里是能落地的，不是只能发paper。最难的部分其实是上下文设计和成本权衡，但论文给出了很具体的操作路径，跟着做一遍应该能少踩不少坑。

原文：AlphaXiv