小红书精读:PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
PushDualGen:生成式推荐也能讲清理由
各位算法同学们,今天聊一篇快手发表在工业推荐上的工作:用轻量级生成模型同时输出语义ID和可跳过解释,既保住效果又让推荐逻辑可追溯,已在快手推送场景全量上线。
📄 PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
🔧 核心创新之一是并行语义ID,用多个独立的embedding slot做量化,避免传统残差量化层层累积误差,长行为序列能被压成更紧凑离散序列。
🧩 第二个创新是双生成目标,先生成SID再生成一段可跳过的解释文案,解释不是硬性推理链,线上可以只跑SID,解释按需生成,兼顾可解释性和推理开销。
⚙️ 第三个是表示融合,把生成模型产出的Top-20 SID编码后与用户特征加权融合,再走ANN检索,让生成信号补全点击行为之外的用户兴趣。
📊 线上A/B测试覆盖1.5亿用户,有效播放率相对提升8.50%,不满率相对下降37.70%。
📈 点击PV相对提升0.43%,DAU相对提升0.05%,说明推送吸引力和用户留存都有正收益。
✅ 消融实验显示SID适配阶段贡献最大,去掉后Pass@1从0.335降到0.319,并行SID和多token绑定也都有正向提升。
总体来说,PushDualGen把“可解释性”做成了可选附件,落地代价小,非常适合工业推送这类高吞吐、低延迟场景。不过论文里LLM用的是0.6B小模型,效果和更大模型之间的差距没细聊,想迁移到别的场景可能需要重新调SID的码本和融合权重,这块坑应该不少。

原文:AlphaXiv