小红书精读:SPARC: Sequence-aware Progressive Attribute Routing and Compression Framework for Generative Recommendation
🧠 静态SID不够用?先理解再压缩试试
各位算法同学们,生成式推荐里每个历史行为只给一个token,却要装下品类、品牌、价格、行为类型和时间戳,这可能吗?SPARC说可以,而且是在不增加主模型输入长度的前提下。这篇来自阿里,专门解决静态SID放不进动态上下文的问题,思路很值得琢磨。
📄 SPARC: Sequence-aware Progressive Attribute Routing and Compression Framework for Generative Recommendation
🔧 先做字段级上下文建模:把同一字段类型(比如品牌)在用户历史里按顺序建模,得到上下文感知的字段表示,而不是孤立地看待每一次点击或购买。
🧩 再做上下文感知属性路由:综合原始字段、上下文字段和字段身份,把它们路由到固定数量的槽位中,在预算不变的前提下保留互补信息,避免直接压缩造成信息丢失。
⚙️ 最后做跨交互轻量整合:把中间token重新组织成细粒度序列,做轻量级跨交互建模,再把每个历史行为压回单个token喂给生成主模型。整体原则是“先理解再压缩”,不增加主模型输入长度。
📊 在淘宝工业数据集和两个Amazon公开数据集上,SPARC一致优于强常规基线和生成式基线。
📈 和静态压缩变体对比,提升主要来自上下文条件的信息保留,而不是压缩模块本身更强。说明“什么时候该保留什么信息”比“能不能压缩”更关键。
各位算法同学们,这个工作对工业生成式推荐很有参考价值,尤其是那些想往输入里塞更多特征又怕序列太长的场景。落地时要注意:路由槽位数量和字段选择都是超参数,不同业务可能要重新调;前处理模块虽然轻量,但毕竟多了几步,工程上要控制好延迟。


原文:AlphaXiv