小红书精读:TSWAP: A Multilingual Retrieval-Augmented Thai Wellness Advisor
8语泰医RAG,零样本但量化有坑
✨ 各位算法同学们,一篇把RAG落地细节写透的论文:八种语言零样本,不微调模型,但一个量化坑直接让泰语变乱码——部署前必看。
📄 TSWAP: A Multilingual Retrieval-Augmented Thai Wellness Advisor
🔧 混合检索:稠密bge-m3加稀疏BM25,RRF融合,top10召回后cross-encoder重排序取3,相似度够高直接跳过重排。 🧩 强制检索路由:第一轮查询分类器把实体查询绑死tool_choice,杜绝模型从参数记忆里编推荐,这是“不微调”也能落地的关键。 ⚙️ 多语言零样本翻译-检索:八种语言共用英文prompt,先把查询翻译成泰语再检索,回答用用户语言,没有语言模板。
📊 发布首个泰医检索基准:50问,Recall@5=0.88,但草药和套餐子集只有0.75,短板明显。 📈 生产QA日志:259例test-retest通过率91.1%;无安全prompt时,模型会给出完整用药剂量表。 ✅ 无知识库时零条可验证推荐,证明检索是唯一可信来源;还发现4-bit AWQ量化会破坏泰语声调符号。
💡 这篇最值钱的是两个可迁移结论:量化要按目标语言校准,安全要靠路由而不是生成后过滤。对做多语言RAG的朋友,尤其是小语种,避坑意义大于技术新意。落地时记得盯泰语变音和紧急路由,别光调向量。
原文:AlphaXiv