大模型应用开发 / 系统课时

选择开发技术栈

选择开发技术栈

RAG 项目最容易在一开始就陷入“先选最热门工具”的误区。更稳妥的方法是先确认团队能力、数据规模、延迟目标和运维条件,再分别选择编程语言、RAG 框架、模型服务、向量数据库与接口框架。

学习目标

  • 根据项目阶段和约束判断技术栈应偏轻量还是偏平台化
  • 为五个技术层分别列出最关键的选择条件
  • 用一份可审查的栈清单固定决策,避免工具堆叠

先确定项目约束

技术选型先回答“项目要承受什么”,再回答“用什么”。原型验证通常更看重开发速度和低运维成本;进入生产后,稳定性、可观测性、权限、成本和扩展能力会逐渐变成硬约束。

场景 优先目标 更合适的技术特征
单人或小组原型 尽快验证检索质量 语言统一、依赖少、托管服务多
小型生产应用 稳定上线与快速迭代 成熟框架、可观测、可水平扩展
多团队平台 治理与复用 标准接口、权限隔离、独立服务化、统一监控

如果团队已经有成熟的后端语言、部署平台和数据库体系,通常应优先复用,而不是为了 RAG 单独引入另一整套运维栈。技术栈越多,升级、排障、监控和权限治理的成本越高。

按五层分别做选择

编程语言首先看团队熟练度和模型生态;RAG 框架看是否真的需要工作流编排、工具调用、记忆或复杂链路;模型服务重点比较质量、延迟、上下文长度、限流和成本;向量数据库关注数据量、过滤、更新频率、备份与运维方式;接口框架则要匹配并发模型、鉴权、流式响应和现有服务规范。

用栈清单固定决策

下面这份 YAML 是技术选型记录,不是某个框架的运行配置。它的作用是强迫项目把五层都写清楚,并让每个选择都能对应到一个实际约束。

yaml
project:
  stage: production
  team_size: 4
  priority: stable_iteration

constraints:
  max_p95_latency_ms: 3000
  managed_service_preferred: true
  self_hosting_capacity: limited

stack:
  language: Python
  rag_framework: minimal_orchestration
  model_service: managed_api
  vector_database: managed_vector_store
  api_framework: async_python_api

预期结果

text
五个技术层都有明确选择,并且每项都能追溯到团队能力、延迟目标、数据规模或运维约束;如果某一项没有对应约束,就应继续简化或补充理由。

真正落地时,可以把这份记录放进项目仓库并在架构评审时更新。验证重点不是这些字符串能否“运行”,而是它们是否覆盖了语言、编排、模型、向量存储和 API 五层,而且没有两套职责重复的组件。

避免三类常见选型错误

第一类是为“未来可能需要”提前引入重量级框架,结果大部分能力长期不用;第二类是同时使用多个职责重叠的 RAG 框架,让文档结构、检索接口和调用链变得难以追踪;第三类是只比较模型效果,却忽略限流、数据合规、向量库备份和接口超时等生产约束。

当两个候选方案都能满足需求时,优先选择团队更熟悉、依赖更少、故障边界更清楚的一套。RAG 技术栈的目标不是“组件越多越完整”,而是让检索链路和生成链路以最低复杂度稳定运行。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

选择开发技术栈

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通