昆明市网站建设_网站建设公司_数据统计_seo优化

前言

近年来，GPT-4V、Gemini Pro Vision 等多模态大模型快速兴起，将图像、文本、音频等多种数据类型统一理解的能力，拓展到了搜索问答、辅助诊疗、法律检索等更复杂的任务场景中。

相比传统大语言模型（LLMs），多模态大模型具备更强的上下文理解能力，适配更丰富的输入方式，具备更广泛的落地潜力。

但与此同时，这些模型也继承了LLMs的一个老毛病：幻觉。尤其是在处理图文混合输入时，模型可能产生与事实不符、逻辑混乱的输出。为了解决这一问题，RAG（检索增强生成）成为业内主流方案——通过外部向量数据库提供的高相关内容，帮助模型“补课”，降低幻觉概率。

在 Zilliz 主办的一场非结构化数据 Meetup 上，来自 TruEra（已被 Snowflake 收购）的开发布道师 Josh Reini 深入讲解了多模态 RAG 架构的实际挑战与落地经验，并分享了如何借助开源工具 TruLens 进行系统级评估，以及如何集成 Milvus 向量数据库来提升检索效果。

01

为什么说多模态RAG会成为大趋势？

与传统只接受文本输入的语言模型不同，多模态大模型可并行处理图像、文字、视频等多种模态，在理解力和生成能力上更接近“现实场景”。

例如，仅依靠图像输入让模型生成中国神话角色“哪吒”的形象，可能出现“双头七臂”之类的误解；但一旦配合如“三头六臂”的文本提示，生成结果便能更准确地符合文化设定。

为了让模型具有“长期记忆”，多模态RAG可以将来自外部的图像、文字、音频、视频等信息嵌入（embedding）到向量数据库（如 Milvus 或托管版 Zilliz Cloud）中，结合检索与生成，形成增强的智能推理能力。

这种多模态RAG能力，相比传统LLM，相当于给一个聪明的大脑，加上了负责记忆的海马体之外，还打通了视觉、听觉等五感，从而更好的理解与响应用户需求。

02

多模态 RAG 系统架构拆解

我们以“图像问答”任务为例，来理解多模态 RAG 的工作流程：

多模态RAG系统工作流程

1. Multimodal Input Processing（多模态输入处理）：RAG系统接收用户的查询问题以及相关图像。
2. Embedding：使用多模态embedding模型将图像和文本查询转换为统一的向量表达，从而能够分析、理解、比较不同模态输入之间的关系。
3. Vector Database Retrieval（向量数据库检索）：系统使用 embedding 查询 Milvus或者Zilliz Cloud 数据库，返回相似图像及其关联注释；
4. Completion（完成）：检索到的数据（相似图像及其注释）与原始输入查询结合，形成大模型生成响应的上下文窗口。
5. Response（响应）：多模态大模型据此输出更精准、更具语境感的答案。

03

为什么原型无法直接上线？

尽管多模态RAG的效果在demo阶段常常令人惊艳，但一旦进入生产环境，问题随之暴露：如何判断模型是否在“胡说”？是否检索对了内容？是否真正用了检索到的内容？不同组件出了问题，怎么排查？

这些问题的核心在于——缺少系统性评估机制。而这对于教育、医疗、金融等高准确率要求行业，评估工具不可或缺。

目前常见的开源或商用评估工具包括 TruLens、Ragas、LangSmith、LangFuse、OpenAI Evals、DeepEval 和 Phoenix。

其中，TruLens 是目前多模态支持度最强、社区活跃度最高的方案之一，支持与向量数据库、OpenAI、LangChain 等框架无缝集成。

04

如何用 TruLens 评估多模态 RAG：三大核心指标

概括而言，Trulens的优势在于监控、测试和调试应用的能力。通过集成 TruLens，开发团队可以在系统运行过程中持续记录日志、收集反馈，并在每次迭代中明确优化方向。

在典型的RAG系统中，需要评估三个核心组件如下：

RAG的三个核心组件

1. Query（查询）：即用户发送的查询，可能是文本或文本和图像组合的形式。我们需要评估输入是否清晰、是否会引发歧义（如图文冲突）。
2. Context（检索上下文）：系统从向量数据库中检索到的相关信息，如图像和文本。这部分，需要评估系统从向量数据库中检索回来的内容是否与问题相关，是否提供了有用信息。
3. Response（模型输出）：LLM或多模态模型基于检索到的上下文和原始查询生成答案。这部分，评估生成的回答是否基于上下文，是否存在逻辑错误或编造内容。

基于此，TruLens的所有评估，主要基于三大方面出发：

Context Relevance（上下文相关性）：检索到的内容是否与原始问题匹配？

Groundedness（基于事实）：回答是否有检索内容支撑？

Answer Relevance（答案相关性）：最终回答是否有用、准确、有逻辑？

05

实战：X-ray Insight 的医学图像问答系统

在一次黑客松中，X-ray Insight 团队构建了一个基于 Milvus 和 TruLens 的图像问答系统，用于 X 光图像辅助诊断。

系统流程如下：

第一步，图像预处理：用户上传 X 光图与诊断，其中， X 光图系统生成 embedding后，与元数据（诊断）一起加载到Milvus/Zilliz向量数据库

第二步，向量检索：Milvus 检索相似病例图像及诊断注释；

第三步，诊断生成：多模态模型结合原始输入和注释生成建议诊断；

第四步，系统评估：TruLens 评估生成诊断是否真实可靠，并根据获得的反馈进行改进。（准确说，这个评估流程其实从预处理阶段就已经伴随产生）

X-ray Insight系统的工作流程

结论

多模态RAG架构的出现，无疑让我们离“通用人工智能”的愿景更近了一步。但它并不是银弹。再先进的模型，也可能在关键时刻出现幻觉，真正决定一个AI系统能否落地并可持续演进的，不是它能生成什么，而是我们是否有能力让它做的更好。

而围绕做的更好，必须要有充分的工程实践，以及对细节的打磨。过程中，像Milvus这样的向量数据库，可以把RAG系统的“知识外脑”变得可扩展、可控、可观测。TruLens则把评估从事后倒查，变成过程中优化，成为系统性设计的一部分。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】