小红书精读:Sona Technical Report
🔥单模型生成式推荐:替代整个级联
各位算法同学们,今天分享一篇来自Yandex Music的技术报告,讲的是用单个生成式推荐模型直接替代生产环境里的整套多阶段推荐级联,在线效果还显著提升。
📄 Sona Technical Report
🔧 单模型统一生成与排序:encoder把用户行为序列编码为共享隐状态,decoder做候选生成,Ranking Module做排序,一次前向搞定两件事。 🧩 完全去手工特征:模型和teacher只靠日志事件字段和学到的Semantic ID,不再需要几百维人工特征,连大transformer的信号都省了。 ⚙️ 联合训练与蒸馏:next-token prediction和teacher蒸馏共同更新encoder,teacher只在训练时提供排序目标,serving时只部署单模型。
📊 在线A/B实验中,Sona替换了包含15+候选生成器的整个生产级联,Active Users提升4.53%。 📈 Total Listening Time提升6.30%。 ✅ Likes提升11.42%,且Active Users增量是此前最强模型Argus的2.35倍。
我的感觉是,这篇工作把生成式推荐从离线可行性推到了线上可部署的程度,纯事件输入也能打。落地时可能要注意history compression和teacher规模带来的训练成本,以及线上模型更新频率,这些细节决定了它能不能在自家场景复现。

原文:AlphaXiv