小红书精读:Reasoning Reranking with Semantic IDs as the Sole Item Representation
不给物品文本,8B模型照样能重排
各位算法同学们,把候选物品的标题、类目、caption 全删掉,只留三个语义 ID token,8B 模型的重排结果能和读两万 token 文本的强 LLM 打平。这篇把“纯 SID 到底能不能支撑 listwise 重排”当成一个可控实验来做,没有只是顺手用一下 ID。
📄 Reasoning Reranking with Semantic IDs as the Sole Item Representation
🔧 造了个 ReRankID testbed:同一批用户和候选集可以分别渲染成纯 SID、纯 caption、两者混合,历史长度(0 到 256)和候选数量(10 到 100)每次只变一个维度,排序质量和不合格输出(照抄输入顺序、推理死循环、格式坏掉)分开统计;这一点比多数重排论文做得更清楚。
🧩 先诊断再训练:未经后训练的 SID 模型几乎不做重排,直接把输入顺序原样返回,即使给上可读 caption 也没修好,只是把失败形式换了个样子;SID prompt 比文本短约 20 倍(最长历史下约 28 倍),但更长历史并没有带来持续收益。
⚙️ 同一协议下比较了 SFT、拒绝采样自训练(RFT)、on-policy 蒸馏(OPD)和带排序 verifier 的 RLVR;SFT 就能消掉照抄和死循环,在 8B 上 RLVR 又在 SFT 之上再涨一截,并用分级排序奖励优于二值 top-1 奖励。
📊 8B RLVR 版是最强的纯 SID 重排模型,和读文本的 LLM 相比,prompt 短约 20 倍。 📈 完全不给历史时它仍高于随机,caption 参考模型做不到这一点。 ✅ 历史拉长到文本 prompt 超过 50k token 时,它保持收益,caption 参考模型已经不再提升。 🔍 配对 rationale 审计:它比文本参考更会讲权衡,但描述它没见过文本的物品时更不准。
总结:如果你们线上已经是 SID 索引的生成式推荐,想在最后一级加 reasoning 重排又不想承担几万 token 的 prompt 成本,这个方向可以直接试;重点看 rank 指标、照抄输入顺序的比例和输出格式失败率。需要注意的地方在于,它的 rationale 只能当排序解释看,不能当物品描述用;另外它比的是 caption 参考模型,不是最强文本重排器,在 1.7B 上 RLVR 相对 SFT 基本没赚,别指望小模型白捡。
原文:AlphaXiv