神农架林区网站建设_网站建设公司_Sketch_seo优化

检索增强生成（RAG）的兴起改变了 AI 和搜索领域的范式，通过将向量搜索与生成模型的力量融合在一起。然而，这项技术并非没有局限性。所谓搜索增强生成，首先必须有搜索这一步，而搜索这一步有很多难点：向量召回准确率的提升很难，所以一般会考虑传统的BM25搜索和向量搜索一起进行搜索。但有时候依然效果不好，自己想要的没被召回来。

这时候我们来借鉴一下传统的搜索技术看看有什么可以进行优化的。在真正的搜索之前其实有 查询词处理与文本理解 这一步，其涉及到很多NLP技术，比如分词，NER，同义词，词权重，意图识别，查询词的改写等一系列的NLP任务。这样可以丰富搜索信息让搜索更加准确。

我们可不可以借用大模型去优化 查询词处理与文本理解 这一重要步骤呢。接下来笔者介绍的RAG-FUSE 就是利用大模型对query进行改写，丰富了搜索信息。所以其实当RAG效果不好时，在query预处理上做文章也能收到效果。

一、RAG-Fusion方案

RAG-fusion 方案其实简单来说就是使用 LLM 将 用户原始查询 改写成N个不同的查询，然后分别进行检索，最终汇众多路检索的结果，进行重新排列，以选择最相关的答案。

主要流程如下图所示：

查询生成/改写：使用 LLM 模型对用户的初始查询，进行改写生成多个查询。

向量搜索：对每个生成的查询进行基于向量的搜索，形成多路搜索召回。

倒数排序融合RRF：应用倒数排名融合算法，根据文档在多个查询中的相关性重新排列文档。

重排: 使用更高精度的排序模型对上一步RRF排序结果进行重排。

输出生成：然后可以参考重新排列后的TOPK搜索结果，生成最终输出。

RAG-Fusion

二、倒数排序融合 Reciprocal rank fusion (RRF)

RRF一个将各个不同的召回路中序列进行融合排序的方案。混排公式如下：

RRF

• D - 文档集
• R - 文档在某路召回路的排名
• K - 通常默认设置为 60

一言以蔽之就是：将文档在每个序列中 排名的倒数是相加 作为最终的排序得分，然后倒序排列。这个公式主要是想衡量一个文档是不是在N个序列中都排在前面，如果在每一个召回序列中都排在前面，在混合过程中也将它排在前面。

比如下图是一个搜索query,通过三种不同的召回方式进行了搜索召回：

1.title的BM25得分

2.content的BM25得分

3.语义相似性得分

这3路召回中，每路召回的序列都不一样，然后对这3个序列进行混合的案例 其中docment-2在3个序列中分别排在1，3，2。综合得分 1/1 + 1/3 +1/2 = 1.83

三、RAG-Fusion实战

这里的代码来自于https://github.com/Raudaschl/rag-fusion，整个流程就是：

查询改写—>多路搜索召回（内部逻辑没实现）—>倒数排序融合—>结果输出。

并没有重排步骤，以及基于搜索结果的生成过程。

import osimport openai # 导入 openai 库import random # 导入 random 库# 初始化 OpenAI APIopenai.api_key = os.getenv("OPENAI_API_KEY") # 从环境变量中获取 OpenAI API 密钥，也可以直接在 main.py 中设置if openai.api_key is None: # 如果没有找到 OpenAI API 密钥，抛出异常 raise Exception("No OpenAI API key found. Please set it as an environment variable or in main.py")# 定义一个函数，使用 OpenAI 的 ChatGPT 模型来生成多个查询def generate_queries_chatgpt(original_query): response = openai.ChatCompletion.create( # 调用 OpenAI 的 ChatCompletion 接口，创建一个聊天对话 model="gpt-3.5-turbo", # 使用 gpt-3.5-turbo 模型 messages=[ # 设置聊天消息 {"role": "system", "content": "You are a helpful assistant that generates multiple search queries based on a single input query."}, # 系统角色的消息，介绍自己的功能 {"role": "user", "content": f"Generate multiple search queries related to: {original_query}"}, # 用户角色的消息，输入一个原始查询 {"role": "user", "content": "OUTPUT (4 queries):"} # 用户角色的消息，指定输出的查询个数 ] ) generated_queries = response.choices[0]["message"]["content"].strip().split("\\n") # 从响应中获取生成的查询，去掉首尾空格，按换行符分割 return generated_queries # 返回生成的查询# 定义一个模拟函数，用于模拟向量搜索，返回随机的分数def vector_search(query, all_documents): available_docs = list(all_documents.keys()) # 获取所有文档的键（文档名） random.shuffle(available_docs) # 随机打乱文档的顺序 selected_docs = available_docs[:random.randint(2, 5)] # 随机选择 2 到 5 个文档作为搜索结果 scores = {doc: round(random.uniform(0.7, 0.9), 2) for doc in selected_docs} # 为每个文档生成一个 0.7 到 0.9 之间的随机分数，保留两位小数 return {doc: score for doc, score in sorted(scores.items(), key=lambda x: x[1], reverse=True)} # 按分数降序排序，返回文档和分数的字典# 定义一个函数，实现互换排名融合算法def reciprocal_rank_fusion(search_results_dict, k=60): fused_scores = {} # 创建一个空字典，用于存储融合后的分数 print("Initial individual search result ranks:") # 打印初始的各个查询的搜索结果排名 for query, doc_scores in search_results_dict.items(): # 遍历每个查询和对应的文档分数 print(f"For query '{query}': {doc_scores}") # 打印每个查询和对应的文档分数 for query, doc_scores in search_results_dict.items(): # 再次遍历每个查询和对应的文档分数 for rank, (doc, score) in enumerate(sorted(doc_scores.items(), key=lambda x: x[1], reverse=True)): # 按分数降序排序，遍历每个文档和对应的排名 if doc not in fused_scores: # 如果文档不在融合分数的字典中 fused_scores[doc] = 0 # 初始化文档的融合分数为 0 previous_score = fused_scores[doc] # 获取文档的之前的融合分数 fused_scores[doc] += 1 / (rank + k) # 根据互换排名融合算法，更新文档的融合分数 print(f"Updating score for {doc} from {previous_score} to {fused_scores[doc]} based on rank {rank} in query '{query}'") # 打印更新文档分数的过程 reranked_results = {doc: score for doc, score in sorted(fused_scores.items(), key=lambda x: x[1], reverse=True)} # 按融合分数降序排序，返回重新排名的结果 print("Final reranked results:", reranked_results) # 打印最终的重新排名的结果 return reranked_results # 返回重新排名的结果# 定义一个模拟函数，用于模拟生成输出def generate_output(reranked_results, queries): return f"Final output based on {queries} and reranked documents: {list(reranked_results.keys())}"# 返回一个字符串，包含生成的查询和重新排名的文档# 预定义的文档集合（通常这些文档会来自搜索数据库）all_documents = { "doc1": "Climate change and economic impact.", "doc2": "Public health concerns due to climate change.", "doc3": "Climate change: A social perspective.", "doc4": "Technological solutions to climate change.", "doc5": "Policy changes needed to combat climate change.", "doc6": "Climate change and its impact on biodiversity.", "doc7": "Climate change: The science and models.", "doc8": "Global warming: A subset of climate change.", "doc9": "How climate change affects daily weather.", "doc10": "The history of climate change activism."}# 主函数if __name__ == "__main__": original_query = "impact of climate change"# 设置原始查询为“影响气候变化” generated_queries = generate_queries_chatgpt(original_query) # 调用 generate_queries_chatgpt 函数，生成多个查询 all_results = {} # 创建一个空字典，用于存储所有查询的搜索结果 for query in generated_queries: # 遍历每个生成的查询 search_results = vector_search(query, all_documents) # 调用 vector_search 函数，对每个查询进行向量搜索 all_results[query] = search_results # 将每个查询的搜索结果存入字典 reranked_results = reciprocal_rank_fusion(all_results) # 调用 reciprocal_rank_fusion 函数，对所有查询的搜索结果进行互换排名融合 final_output = generate_output(reranked_results, generated_queries) # 调用 generate_output 函数，生成最终的输出 print(final_output) # 打印最终的输出

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】