📌 一句话总结:
本工作系统性研究了检索增强问答(RAG)中一个被长期忽视却极其关键的问题:当证据不足时,大语言模型是否应该“承认不知道”,并提出一种自适应滑动窗口提示策略,在减少 token 消耗的同时显著缓解幻觉问题。
🔍 背景问题:
随着长上下文 LLM 的发展,RAG 系统往往倾向于把更多检索结果一股脑塞进上下文,但这带来了两个结构性风险:
1️⃣ 冗余与无关信息大量堆积,干扰模型推理,反而降低准确率;
2️⃣ 当前指令微调后的 LLM 存在强烈“必须回答”的偏置,在信息不足时更倾向于编造答案而非拒答,这是开放域 QA 中幻觉的主要来源之一 。
💡 方法简介:
作者提出一种 adaptive prompting(自适应提示)范式,将传统“整包上下文一次性输入”的 RAG,重构为一个顺序化、可中止的推理流程:
模型不再同时看到所有检索文档,而是按照检索分数排序,用滑动窗口逐段读取;
在每个窗口中,LLM 被要求判断“是否已有充分信息作答”,若否,则明确输出“Answer not found”并继续;
窗口大小作为关键超参数,用于权衡“召回率”与“噪声累积”,从而实现一种 divide-and-conquer 的 RAG 推理机制。
这一设计不仅缓解了长上下文噪声问题,还在逻辑上为“拒答”这一能力创造了显式决策节点。
📊 实验结果:
在 Natural Questions、TriviaQA 与 HotpotQA 三个标准开放域 QA 数据集上:
自适应提示在 Exact Match 上整体优于或匹配 Top-K 全上下文基线;
平均使用 Wiki 页面数量显著减少,token 开销下降约 1.5×,推理成本更低;
分析显示,窗口顺序至关重要:若先输入高置信度页面,可显著降低模型在负样本窗口中的幻觉率;
更关键的是,在纯负窗口测试中,零样本 LLM 仍有超过 50% 的概率“胡乱作答”,且 few-shot ICL 几乎无法缓解这一问题,揭示了拒答能力并非靠提示工程即可解决。
那么,如何系统的去学习大模型LLM?
作为一名深耕行业的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。
所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。
由于篇幅有限,⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》,扫码获取~
👉大模型学习指南+路线汇总👈
我们这套大模型资料呢,会从基础篇、进阶篇和项目实战篇等三大方面来讲解。
👉①.基础篇👈
基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程,带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门大模型。
👉②.进阶篇👈
接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。
👉③.实战篇👈
实战篇会手把手带着大家练习企业级的落地项目(已脱敏),比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等,从而帮助大家更好的应对大模型时代的挑战。
👉④.福利篇👈
最后呢,会给大家一个小福利,课程视频中的所有素材,有搭建AI开发环境资料包,还有学习计划表,几十上百G素材、电子书和课件等等,只要你能想到的素材,我这里几乎都有。我已经全部上传到CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
相信我,这套大模型系统教程将会是全网最齐全 最易懂的小白专用课!!