DQ-LoRe 是什么？用双重查询和低秩重排序为大模型挑选示例

DQ-LoRe 是一个为大模型自动挑选上下文学习示例的框架，由中山大学和香港中文大学的研究人员提出，论文标题是《DQ-LoRe：基于双重查询和低秩近似重排序的上下文学习》，发表于 ICLR 2024。名字中的 DQ 指双重查询（Dual Queries），LoRe 指低秩近似重排序（Low-rank approximation Re-ranking）。

背景：示例选得好，效果差很多

上下文学习，也就是少样本提示，是在提示词中给大模型几个“问题加解答”的示例，让模型照着示例的方式解决新问题。研究发现，示例选得好不好，对模型的表现影响很大：和当前问题相关、解题思路相近的示例，能显著提高准确率；不相关的示例则帮助有限，甚至起反作用。一个常见的做法是根据问题的文字相似度，从示例库中检索最相似的几个示例。但对于数学这类推理问题，文字上相似的题目，解题思路可能完全不同；文字上不相似的题目，思路反而可能相同。

DQ-LoRe 怎么做

第一步，双重查询。第一次查询：先用简单的方法检索出一些初始示例，让大模型根据这些示例为当前问题生成一段思维链，也就是解题的推理过程。第二次查询：把原始问题和模型生成的思维链结合起来，再去示例库中检索。因为思维链反映了解题的思路，这样检索出的示例，在解题方法上和当前问题更接近，而不只是文字表面相似。

第二步，低秩近似重排序。检索出的候选示例转换成向量后，向量中可能包含很多冗余和噪声信息，影响相似度的判断。DQ-LoRe 用主成分分析等低秩近似的方法，对这些向量进行降维，保留最主要、最能区分推理模式的信息，去掉干扰，然后再重新计算相似度，对候选示例进行重排序，挑出最合适的那几个。

效果

论文报告，DQ-LoRe 在为 GPT-4 等模型自动选择示例方面超过了之前的方法，在数学推理基准 GSM8K 上，把 GPT-4 的准确率从之前方法的 92.5% 提升到了 94.2%；在示例分布与测试问题分布不一致的情况下，也表现出更好的鲁棒性。这项工作表明，在为推理任务挑选示例时，关注“推理过程是否相似”比只看“问题文字是否相似”更有效。