大模型应用开发 / 系统课时

项目架构设计

项目架构设计

本课综合运用前面所学内容,为一个"企业知识库问答助手"项目设计整体架构,明确项目目标、模块划分与技术选型,作为后续两课实现和部署的基础。

学习目标

  • 能够明确一个综合项目的目标与核心需求
  • 掌握将项目拆分为清晰模块的方法
  • 完成关键组件的技术选型

图片说明

项目目标与最小需求

项目目标是让用户可以基于企业内部文档提问,系统在无法从知识库找到答案时,能够调用外部工具(如订单查询接口)补充信息,并在多轮对话中保持上下文。最小需求包括:文档知识库问答、至少一个自定义工具、多轮对话记忆,以及对外暴露的接口层。

模块划分

如上图所示,项目划分为四个主要部分:API 服务层负责接收和转发请求;RAG 问答模块负责基于向量数据库回答知识类问题;Agent 工具调用模块负责在需要外部信息时调用工具;对话记忆模块负责跨轮次保留上下文。各模块通过统一的 Agent 入口协调,而不是相互硬编码调用。

技术选型

项目结构建议如下:

text
project/
  app/
    main.py          # API 入口
    agent.py         # Agent 与工具定义
    rag.py           # 检索链定义
    memory.py        # 记忆存储管理
  data/
    docs/            # 原始知识库文档
  requirements.txt

向量数据库选用 Chroma 便于本地开发和演示;接口层选用 FastAPI,便于后续课程直接对接部署;模型选用 gpt-4o-mini 兼顾成本与效果,后续可根据实际效果调整为更强的模型。

按自己的节奏,确认真正理解。

目录与阅读设置

记录一个想法

项目架构设计

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通