阿拉善盟网站建设_网站建设公司_RESTful_seo优化

ReKnoS是浙江大学提出的新型知识图谱推理框架，通过"超关系"概念解决大模型处理知识图谱的高非检索率问题。该框架能同时表示多条关系路径，扩展搜索空间而不丢弃潜在连接，显著提高检索效率和准确性。实验表明，ReKnoS在九个真实数据集上平均准确率提升2.92%，且效率优于传统方法，为复杂知识图谱推理提供了新思路。

笔记整理：吕恬雯，浙江大学研究生，研究方向为大语言模型、AI for Science

论文链接：https://openreview.net/pdf?id=rTCJ29pkuA

发表会议：ICLR 2025

1. 动机

大型语言模型（LLMs）在处理知识图谱（KGs）方面取得了进展，但现有的方法存在很高的非检索率（non-retrieval rate）。这种限制降低了基于知识图谱问答的准确性。

分析表明，贪婪搜索（greedy search）和前向推理（forward reasoning）的结合是导致此问题的主要原因。非检索失败的主要原因可分为三类：

（1）误导（Misdirection）（占68.8%）：即正确的路径与检索到的路径并行，但模型在第一步选错后就很难再找到正确路径。

（2）深度限制（Depth Limitation）（占25.2%）：正确路径的长度超过了最大允许的推理长度。

（3）路径缺失（Path Absence）（占6.0%）。

现有方法的共同限制：

（1）基于子图的检索（subgraph reasoning）：结构化强但理解性弱。

（2）基于 LLM 的迭代推理（LLM reasoning，如 ToG）：理解强但路径容易走偏。两者都依赖单一步的贪心策略，导致错误累积，无法解决误导和深度限制问题。

2. 贡献

本文的主要贡献有：

（1）设计：提出了超关系（super-relations）的概念，即特定领域内一组关系的集合。使用超关系可以通过包含大量关系来进行高效推理，同时增强推理路径的深度和宽度，以解决非检索问题。

（2）框架：提出了一个名为ReKnoS（Reason over Knowledge Graphs with Super-Relations）的新型推理框架。该框架集成了超关系，能同时表示多条关系路径，在不丢弃潜在连接的情况下显著扩展搜索空间。

（3）实验：在九个真实世界的数据集上进行了实验。结果表明，ReKnoS在检索成功率和搜索空间大小方面均显著优于传统方法，平均准确率提高了2.92%。

3. 方法

本文提出的ReKnoS框架旨在利用超关系来扩展搜索并提高检索效率。

（1）核心概念：超关系（Super-Relations）超关系被定义为一组更细粒度的、详细的关系的集合。例如，超关系 “music.featured_artist” 可以包括 “music.featured_artist.recordings” 和 “music.featured_artist.albums” 等具体关系。在Wikidata等知识图谱中，这种层级关系是固有的（例如，将第二级关系视为超关系)。

（2）ReKnoS 框架流程

框架最多包含 L 个推理步骤。

• 步骤 0：分析器（Analyzer）

• 从输入问题中提取查询实体（Topic Entity）。

• 步骤 1…L：推理（Reasoning Steps）

1. 候选选择（Candidate Selection）：在第 步，框架首先确定候选超关系集 ，这些超关系必须与第 步选定的超关系集 中的至少一个超关系相连。
2. 评分（Scoring）：LLM 对 中的所有候选超关系进行评分（范围0到1）。然后，框架选择得分最高的 N 个超关系，组成新的超关系集 。
3. 决策与实体提取（Decision & Entity Extraction）：LLM 根据当前检索到的路径和实体，决定是（a）从当前实体中提取答案，还是（b）继续进行下一步推理。
4. 路径选择（Path Selection）：框架会从多条可能的“超关系路径”中，选出得分最高的 K 条路径 ，路径得分由其包含的超关系得分之和确定。
5. 最终实体选择（Final Entity Selection）：提取满足这 K 条最优超关系路径的最终实体集 。

• 步骤 L+1：积分器（Integrator）

• LLM 汇总所有收集到的推理路径和最终实体，生成最终答案。

（3）效率优势与 ToG 等基线方法相比，ReKnoS 的效率更高。ToG 需要评估的路径数随深度 呈指数增长（）。而 ReKnoS 在每一步中，LLM 评估的超关系数量最多为 N（即候选集大小），与深度无关，显著减少了LLM的调用次数。

4. 实验

（1）数据集和基线

• 数据集：使用了9个数据集，涵盖多种KGQA任务，如GrailQA、CWQ、WebQSP、SimpleQA，以及T-REx、HotpotQA等。
• 基线：包括IO、CoT、Self-Consistency，以及SOTA的KG推理方法：StructGPT、Think-on-Graph (ToG) 和 KG-Agent。
• 度量标准：主要是 Hits@1（精确匹配准确率）。

（2）核心结果

• 性能对比：ReKnoS 在大多数数据集上均优于所有基线，尤其是在需要复杂推理的数据集上（如GrailQA和CWQ） 。例如，在GrailQA上，使用GPT-3.5时，ReKnoS (71.9%) 优于 KG-Agent (68.9%)；使用GPT-40-mini时，ReKnoS (80.5%) 优于 KG-Agent (77.5%) 。

• 超关系分析：ReKnoS 具有明显更大的搜索空间。在GrailQA上，其平均搜索空间大小（即搜索过程中遇到的事实三元组数量）比 KG-Agent 和 ToG 分别高出 42% 和 55%。这使得ReKnoS更有可能检索到正确的答案三元组。

• 效率分析：ReKnoS 在保持卓越性能的同时，实现了最低的平均LLM调用次数。例如，在WebQSP上，ReKnoS 平均调用 3.7 次，而 ToG 为 15.3 次。ReKnoS的调用次数（）与搜索宽度 N 无关，而 ToG 的调用次数（）则依赖于 N。

• 超参数分析：增加搜索宽度 N 和最大长度 L 均能带来性能提升。当 N 从 3 降到 1 时，性能显著下降（例如 L=3 时，Hits@1 从 81.1% 降至 76.2%），表明 N（即搜索宽度）对框架性能至关重要。

5. 总结

本文提出了 ReKnoS 框架，该框架利用“超关系”在知识图谱推理过程中包含大量关系。通过实现多关系路径的同时表示和探索，ReKnoS 显著扩展了KG的推理搜索空间，同时避免了有价值信息的丢失。大量实验证明，ReKnoS 的性能超越了现有的SOTA基线，展示了超关系在推进复杂KG推理任务方面的潜力。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2025 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？