大模型应用开发 / 系统课时
设计项目总体架构
设计项目总体架构
RAG 知识库项目需要把文档处理、向量检索、大模型生成和应用服务连接起来。本课将从工程视角拆分系统模块,明确数据如何流动、服务如何协作,最终形成可扩展的项目架构。
学习目标
- 理解 RAG 项目的核心模块划分和职责边界
- 掌握从数据进入到答案生成的完整链路
- 能够根据业务需求设计基础 RAG 系统结构
RAG 项目的整体组成
一个可维护的 RAG 系统通常不是单个模型调用,而是一条由多个阶段组成的数据处理链路。用户问题经过检索找到相关知识,再交给生成模型组织答案。

典型 RAG 架构可以分为数据接入、索引构建、检索服务、生成服务、评测观测和应用接口六个部分。每个模块独立演进,可以方便替换存储、模型或业务入口。
数据接入与索引构建
数据接入模块负责收集原始知识,包括 Markdown、PDF、网页内容和数据库记录。进入系统后的文档需要经过清洗、切片和结构化处理,才能用于后续检索。
索引构建模块会把文本转换为向量表示,并保存到向量数据库中。核心目标不是保存原文,而是建立语义关联,让相似问题能够找到相关内容。
python
from dataclasses import dataclass
@dataclass
class DocumentChunk:
content: str
source: str
# 示例:切片后的知识单元,后续会生成向量并写入索引
chunk = DocumentChunk(
content="RAG 通过检索知识增强大模型回答能力",
source="rag-intro.md"
)
print(chunk.source)预期输出
text
rag-intro.md检索与生成服务协作
用户提交问题后,检索服务负责根据查询向量寻找相关知识片段。生成服务再结合用户问题和检索结果生成最终回答。
检索阶段关注召回质量,生成阶段关注表达质量,两者需要通过清晰接口连接,避免业务逻辑和模型调用强耦合。
应用接口与评测观测
应用接口层负责向网页、移动端或内部系统提供能力。它通常包含身份认证、请求管理和结果返回等功能。
评测观测模块用于记录检索命中情况、回答质量、响应时间和资源消耗。没有观测能力的 RAG 系统难以定位效果下降原因。
架构设计时的关键取舍
小型项目可以将多个模块部署在同一服务中,以降低开发复杂度。生产系统通常会拆分检索、模型调用和存储组件,提高扩展能力。
设计架构时需要优先保证数据流清晰,再根据访问量、数据规模和团队维护能力决定拆分程度。
按自己的节奏,确认真正理解。