小红书精读：ScalarLens: Numerical Embeddings with Stable Coordinates and Contextual Responses for CTR Prediction

🔍同一个数值，CTR证据会反号

各位算法同学们，同一个数值区间，在不同上下文里的点击证据能正负反转。这篇把数值 embedding 从“一个标量一个表示”改成“坐标稳定、响应看上下文”，而且没动 CTR backbone。

📄 ScalarLens: Numerical Embeddings with Stable Coordinates and Contextual Responses for CTR Prediction

🔧 核心是把数值接口拆成两个可检查对象：坐标只由标量本身决定，响应才吃类别和辅助数值上下文。上下文不能移动坐标，只能改它怎么被解释。

🧩 坐标用单调局部 mesh 生成，保留数值顺序；响应是有界低秩动态，固定步数更新，不替换类别 token，也不另起一套交互 backbone。

⚙️ 模块只返回数值 embedding，类别 embedding 原样绕过。作者类比计算物理里的 model reduction，作为 inductive bias，而不是说 CTR 数据服从物理定律。

📊 主评估 1,539 次 run，覆盖 19 种表示、3 个数据集、9 个 backbone、3 个 seed。原始数值尺度下，27 个设置里 25 个排第一，剩下 2 个排第二。

📈 Criteo 验证集上，I7 的 (2,3] 区间在 C17 分组下残差点击证据为 -3.2、+3.5、+5.8 个百分点；在 I11 不同范围下为 +6.8、+1.9、-7.2，符号会反。

✅ 匹配消融显示，scale correction、额外局部容量、generic conditioning 都复现不了增益；统一标准化重跑后，对 DEER、DAES、NaryDis 仍有显著优势。

总结一句：如果你在做 CTR 数值特征，这篇适合看它怎么划“坐标 vs 响应”的边界。要盯原始尺度和标准化后是否都稳、换 backbone 后排名是否保持；坑在上下文来源选择和训练/服务同步，别把无关上下文也塞进响应。

原文：AlphaXiv