大模型应用开发 / 系统课时

设计项目总体架构

设计项目总体架构

RAG 知识库项目需要把文档处理、向量检索、大模型生成和应用服务连接起来。本课将从工程视角拆分系统模块,明确数据如何流动、服务如何协作,最终形成可扩展的项目架构。

学习目标

  • 理解 RAG 项目的核心模块划分和职责边界
  • 掌握从数据进入到答案生成的完整链路
  • 能够根据业务需求设计基础 RAG 系统结构

RAG 项目的整体组成

一个可维护的 RAG 系统通常不是单个模型调用,而是一条由多个阶段组成的数据处理链路。用户问题经过检索找到相关知识,再交给生成模型组织答案。

RAG 项目整体架构与数据流

典型 RAG 架构可以分为数据接入、索引构建、检索服务、生成服务、评测观测和应用接口六个部分。每个模块独立演进,可以方便替换存储、模型或业务入口。

数据接入与索引构建

数据接入模块负责收集原始知识,包括 Markdown、PDF、网页内容和数据库记录。进入系统后的文档需要经过清洗、切片和结构化处理,才能用于后续检索。

索引构建模块会把文本转换为向量表示,并保存到向量数据库中。核心目标不是保存原文,而是建立语义关联,让相似问题能够找到相关内容。

python
from dataclasses import dataclass

@dataclass
class DocumentChunk:
    content: str
    source: str

# 示例:切片后的知识单元,后续会生成向量并写入索引
chunk = DocumentChunk(
    content="RAG 通过检索知识增强大模型回答能力",
    source="rag-intro.md"
)

print(chunk.source)

预期输出

text
rag-intro.md

检索与生成服务协作

用户提交问题后,检索服务负责根据查询向量寻找相关知识片段。生成服务再结合用户问题和检索结果生成最终回答。

检索阶段关注召回质量,生成阶段关注表达质量,两者需要通过清晰接口连接,避免业务逻辑和模型调用强耦合。

应用接口与评测观测

应用接口层负责向网页、移动端或内部系统提供能力。它通常包含身份认证、请求管理和结果返回等功能。

评测观测模块用于记录检索命中情况、回答质量、响应时间和资源消耗。没有观测能力的 RAG 系统难以定位效果下降原因。

架构设计时的关键取舍

小型项目可以将多个模块部署在同一服务中,以降低开发复杂度。生产系统通常会拆分检索、模型调用和存储组件,提高扩展能力。

设计架构时需要优先保证数据流清晰,再根据访问量、数据规模和团队维护能力决定拆分程度。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

设计项目总体架构

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通