小红书精读:UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking

less than 1 minute read

🔧 数据模型协同缩放,搜索排序新高度

各位算法同学们,今天聊一篇来自淘宝的搜索排序论文。它把数据和模型放在一起缩放,而不是只堆参数,离线在线都涨得很明显,值得一看。

📄 UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking

🔧 核心思想是数据与架构协同设计。纯参数缩放会边际收益递减,问题其实出在数据上,所以要同时扩数据和改模型。 🔧 数据侧提出ES³,做全域样本扩展:域内加入未曝光样本并设计分层标签归属,把跨域反馈补到搜索样本上;跨域则把非搜索交互改造成带伪查询的搜索样式样本,样本量能放大5倍。 🔧 模型侧提出HHSFT,用异构分层特征交互处理复杂特征分布,再用全域用户兴趣融合做跨域知识迁移,避免直接混数据带来的负迁移。

📊 在淘宝几十亿样本上,HHSFT+ES³比基础MLP模型AUC提升1.14%,GAUC提升0.86%,模型参数300M,TFLOPs只有1.22。 📈 线上A/B测试10天,购买转化提升1.70%,GMV提升2.04%,统计显著。 ✅ 有意思的是,同样扩数据,标准backbone会掉0.43% AUC,但配合HHSFT能涨0.32%,说明架构必须跟着数据一起设计。

整体感觉落地性强,ES³只在训练时加开销,线上推理零成本。但要注意跨域样本的负迁移,直接拼数据会翻车,DREF和DAPGA这两个模块是收益关键,值得细读。

图 1

图 2

原文:AlphaXiv

Updated: