小红书精读:Think Harder Where It Matters: Item-Level Adaptive Recursion for Sequential Recommendation

less than 1 minute read

序列推荐每层都跑满?76%没必要

各位算法同学们,一条用户行为序列里,76% 的 item 过一层就收敛了,剩下 6.7% 得跑满三层才稳——可现在的序列推荐还是给每个 item 分配一样的计算深度。这篇就是把“固定深度”这个默认设定拆开看的工作。

📄 Think Harder Where It Matters: Item-Level Adaptive Recursion for Sequential Recommendation

🔧 诊断一:把某个 item 在第 ℓ 层之后的表示冻结,看 Top-30 推荐集变不变,定义出“饱和深度”。在训练好的三层 SASRec 上,76.14% 的 item 第 1 层就饱和,93.28% 在 2 层内饱和,只有 6.72% 要跑到第 3 层,而且同一序列里浅饱和和深饱和的 item 经常同时存在。

🧩 诊断二:只放开最近 5 个位置的深度(1/2/3 任选),用 ground truth 当 oracle 选最优分配,固定深度只在 4.6% 的序列里是最优解,剩下 95.4% 都能靠非均匀分配把目标 item 排得更前。

⚙️ LoopRec 的做法是递归复用同一个权重共享 block,在每个递归边界放一个轻量二值 gate,逐 item 判断退出还是继续。因为所有深度共用一套参数,早退和晚退的表示天然落在同一特征空间,也不需要额外的深度标签。

📊 限制在尾部 5 个位置的 oracle 相比固定深度:NDCG@20 +7.1%,MRR@20 +6.5%,HR@20 +8.8%。

📈 具体 case 上排名提升明显,比如 24→13、7→4,同时尾部计算量只有固定深度的 40%~67%。

✅ 三个公开数据集 × 四类 backbone,LoopRec 都稳定优于同深度预算的固定深度版本。

✅ 学出来的分配和 oracle 偏好对得上:低频 item 和更近的交互自然被分到更深的递归。

总结感想:这篇的重点在于“计算预算按 item 分配”这个视角,适合在序列推荐里卡在固定层数、又想省推理成本的同学。落地要盯两个数:平均实际递归深度(决定延迟和到底省没省算力),以及低频 item 上的收益是否稳定。坑主要在 gate 阈值和最大递归层数,上限设太高早退机制基本白忙;另外务必和同参数量、同平均深度的固定版本比,不然增益说不清是来自自适应还是来自更多计算。

原文:AlphaXiv

Updated: