小红书精读:Generative Spatiotemporal Intent Sequence Recommendation via Implicit Reasoning in Amap

less than 1 minute read

高德把大模型推理塞进小模型🔧

各位算法同学们,把 CoT 蒸馏进小模型,难点从来不是压得够小,而是压完之后它还愿不愿意按场景改计划。高德这篇 GPlan 做的是地图首页的生成式时空意图序列推荐,目标不是猜下一个 POI,而是直接生成一串能落地的意图,比如打车、酒店签到、附近吃饭。

📄 Generative Spatiotemporal Intent Sequence Recommendation via Implicit Reasoning in Amap

🧩 PICD 渐进式隐式 CoT 蒸馏:把老师的显式推理按 context、strategy、step 三级逐步换成位置特定的 latent token 三元组,学生只吐隐式 think token 再接意图序列,省掉长推理文本的解码开销。

🔧 顺手配了个 CALR 压缩感知学习率,学习率切换跟着压缩课程的状态走,而不是按固定步数拍脑袋。

⚙️ SC-DPO 时空反事实对齐:对时间或地点做最小扰动,构造双向偏好对,用带参考锚点的 DPO 让模型做到上下文一变计划就得变,同时别把 SFT 学到的规划能力带崩。

📊 数据侧:1000 条专家校准的意图、环境、逻辑种子三元组,再用 Qwen3-235B-A22B 做 few-shot 合成,过格式、schema、逻辑不变量三层过滤。

📈 论文给的对照例子:跨城旅客 15:00 落地后,GPlan 的 5 步意图在锚定去酒店之后,把后续 POI 重新基准到酒店区域;listwise baseline 还在按机场位置打分,退化成通用卡片。

✅ 离线和线上 A/B 都报告了序列连贯性、上下文响应性的提升,但摘要没给具体幅度,复现时得盯论文表格里的指标定义和 baseline 设置,别只看结论句。

总结感想:这个方向是对的,工业推荐要的不是会思考,而是思考完还能在延迟预算内交付。要留意的坑有两个,latent token 的可解释性和线上监控怎么做,以及反事实扰动造得对不对,弱了学不到、强了会把偏好学偏。如果你的场景也是多步意图串行触发,这篇的蒸馏课程和偏好构造值得拆开看;只想提升单点 CTR 的话,收益可能不在这个层面。

原文:AlphaXiv

Updated: