小红书精读：Hierarchical Exponential-Gaussian Mixtures for Watch-Time Distribution Prediction

EGMN会崩？HEGM：时长预测更稳了

各位算法同学们，你以为SOTA的时长分布预测模型就稳了吗？这篇论文用大规模复现实验告诉你，EGMN会方差坍缩、组件冗余、还有一堆不干活的分量，排名甚至干不过简单回归。作者基于此提出了HEGM，一个更稳的层次化混合模型，线上A/B测试还涨了9.26%的会话深度。

📄 Hierarchical Exponential-Gaussian Mixtures for Watch-Time Distribution Prediction

🔧 第一点：作者先给EGMN做了个“体检”，发现它在工业规模下容易方差坍缩，也就是某个高斯分量的方差趋近于零，导致NLL很低但预测失真；同时组件冗余和无效分量浪费了模型容量。这些诊断让改进有的放矢。

🧩 第二点：HEGM把时长分布拆成“跳过”和“观看”两个层次，用指数分布建模快速跳过，高斯混合建模真实观看，避免强制高斯偏移，这样结构上更贴合短视频消费行为。

⚙️ 第三点：加入KL方差正则化防止方差坍缩，并用结构化初始化让每个分量一开始就有明确分工，同时去掉了原来的熵正则器，最终在稳定性和可解释性上明显改善。

📊 在KuaiRec和VK-LSVD公共数据集上，HEGM相比EGMN提升了XAUC排序质量和阈值事件预测AUC，点估计MAE/MSE也保持同等水平。

📈 在282M交互的工业数据集上，同样验证了排序和阈值预测优势，混合分量利用率更高，不再有“死分量”。

✅ 线上跑了一个半月的A/B测试，会话深度显著提升+9.26%，且计算开销可接受，代码已开源。

总结一下，这篇的价值在于把EGMN的“暗病”挖了出来，并给出了可复现的修法。如果你是做短视频推荐或时长预测的，值得盯一下XAUC和阈值AUC这两个指标，别只看NLL。坑就是KL正则化和初始化对超参有点敏感，上线前需要多调一调。

原文：AlphaXiv