小红书精读:From Item Scores to Semantic Tokens: Test-Time Collaborative Adaptation for Generative Recommendation

less than 1 minute read

beam剪掉的item,解码时还能捞回来

各位算法同学们,生成式推荐的beam search一旦剪枝就回不了头,可那个被剪掉的item,在同一份历史的判别式模型眼里可能排在全库第二。这篇论文要做的事,就是在剪枝发生之前把这个信号塞进解码过程,而且两个模型全程不训练。

📄 From Item Scores to Semantic Tokens: Test-Time Collaborative Adaptation for Generative Recommendation

🔧 真正的难点在于两个预测空间不对齐:判别式模型给的是完整item分,生成式模型选的是可能被多个item共享的prefix-token边,所以item级别的分数没法直接加到token决策上。作者的做法是先把判别分减去Top-R阈值变成margin(对分数整体平移不变),再用预计算的item-to-path映射把这些margin聚合到共享语义边上,得到历史相关的协作势能,在每次beam选择前修正累计路径分。因为边是共享的,这个势能还能顺带把Top-R之外的item托上来。

🧩 干预强度不靠手调:用当前历史的最大softmax归一化判别分当置信度门控,判别模型自己都没底时,就把干预幅度压小。

⚙️ 理论部分给了目标prefix在全局beam竞争下的存活充分条件,以及低置信度时分数扰动的上界,这两条比只说“有效”更值得看。

📊 用了4个数据集×3组生成-判别模型配对,做的是全目录评测而不是采样评测,一致优于强baseline。

📈 在新兴兴趣场景下,准确率和目标路径存活率都有提升;对共享prefix做定向干预的对照实验,也支持了修正本身在起作用。

✅ 和直接把native beam加宽相比,精度-延迟的折中更划算,这对线上延迟敏感的团队最实际。

总结:适合已经上线semantic-ID生成式召回、又不想重训生成器的团队,属于低成本试验。要盯的指标是目标路径存活率和新兴兴趣/长尾命中,别只看总体HR、NDCG;坑在于判别式模型本身不够准时,会被门控直接压掉,收益归零,另外item-to-path映射要提前建好并跟ID体系同步,换一套语义ID就得重建。

原文:AlphaXiv

Updated: