小红书精读：Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation

生成式推荐的两大结构裂缝，被腾讯补上了

各位算法同学们，生成式推荐把每个item拆成多token的语义ID再摊平成序列，听起来很优雅，但item边界就这么被抹掉了，解码时一个token错位就整条路径跑偏。腾讯这篇工作直接捅破了这层窗户纸，还给出了三个轻量修补模块。

📄 Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation

🔧 技术创新点一：Item Context-Aware Attention (ICA)。每个item的多个token先通过带可学习query的cross-attention聚合成一个item级上下文向量，再用门控残差融合回每个token。门控值学出来稳定在0.35-0.38，既保留了token本身的层级语义，又让模型重新“看见”item边界。

🧩 技术创新点二：Hierarchical Path Reranking (HPR)。不改变beam search宽度，每层用双塔对比学习打分器，对beam展开后的候选路径做全局语义重排，拿用户偏好锚点和累计路径embedding的相似度来纠正浅层错误。论文给出了一个很漂亮的恒等式：收益=被救回的ground-truth概率减去被误伤的概率，然后证明这俩是可衡量的。

⚙️ 技术创新点三：Dual-Path Decoding (DPD)。用正交旋转把item embedding劈成两个互补子空间，各自训一个解码器做beam search，最后在item ID空间做OR融合。两个通道的Top-K池Jaccard重叠只有0.17-0.18，意味着一个通道漏掉的item有大概率被另一个通道捞回来。

📊 实验效果：Beauty上R@10从最强基线APAO的0.0795提到0.0927，相对涨了16.6%；Sports上R@10和N@10分别+8.8%和+16.7%。腾讯媒体平台离线Hit@5从OneRec的0.5459提到0.6015，线上A/B测试点击率+0.60%、点击UV+1.34%、总阅读时长+1.70%。参数量比TIGER还少2.8M，训练推理耗时几乎没增加。

总结：这套组合拳把生成式推荐的“结构性裂缝”拆成编码侧的item边界消失和解码侧的语义漂移，分别用ICA和HPR+DPD去修，思路很干净，消融也证实收益可叠加。建议做生成式推荐的同学重点盯两个指标：离线R@10和线上阅读时长。坑在于双解码器和正交tokenizer的预训练要额外调，但论文给的效率数据说明落地成本可控。

原文：AlphaXiv