与效用相关性：RAG的过程监督改写

于红博

摘要: 检索增强生成系统通常存在优化检索相关性和生成效用之间的差距：检索到的文档可能在主题上相关，但仍然缺乏生成期间有效推理所需的内容。虽然现有的“桥接”模块试图重写检索的文本以获得更好的生成效果，但我们展示它们未能捕捉到真正的文档效用。在这项工作中，我们提出了R2U，其关键区别在于直接优化以最大化通过过程监督生成正确答案的概率。由于这种直接观察是昂贵的，我们还提出通过从LLMs缩放监督来近似一个高效的蒸馏管道，这有助于较小的重写模型更好地泛化。我们在多个开放领域的问答基准测试中评估了我们的方法。实证结果显示与强桥接基线相比的持续改进。

更新时间: 2025-09-19 04:24:57

领域: cs.CL,cs.AI

下载: http://arxiv.org/abs/2509.15577v1