大模型应用开发 / 系统课时
选择开发技术栈
选择开发技术栈
RAG 项目最容易在一开始就陷入“先选最热门工具”的误区。更稳妥的方法是先确认团队能力、数据规模、延迟目标和运维条件,再分别选择编程语言、RAG 框架、模型服务、向量数据库与接口框架。
学习目标
- 根据项目阶段和约束判断技术栈应偏轻量还是偏平台化
- 为五个技术层分别列出最关键的选择条件
- 用一份可审查的栈清单固定决策,避免工具堆叠
先确定项目约束
技术选型先回答“项目要承受什么”,再回答“用什么”。原型验证通常更看重开发速度和低运维成本;进入生产后,稳定性、可观测性、权限、成本和扩展能力会逐渐变成硬约束。
| 场景 | 优先目标 | 更合适的技术特征 |
|---|---|---|
| 单人或小组原型 | 尽快验证检索质量 | 语言统一、依赖少、托管服务多 |
| 小型生产应用 | 稳定上线与快速迭代 | 成熟框架、可观测、可水平扩展 |
| 多团队平台 | 治理与复用 | 标准接口、权限隔离、独立服务化、统一监控 |
如果团队已经有成熟的后端语言、部署平台和数据库体系,通常应优先复用,而不是为了 RAG 单独引入另一整套运维栈。技术栈越多,升级、排障、监控和权限治理的成本越高。
按五层分别做选择
编程语言首先看团队熟练度和模型生态;RAG 框架看是否真的需要工作流编排、工具调用、记忆或复杂链路;模型服务重点比较质量、延迟、上下文长度、限流和成本;向量数据库关注数据量、过滤、更新频率、备份与运维方式;接口框架则要匹配并发模型、鉴权、流式响应和现有服务规范。
用栈清单固定决策
下面这份 YAML 是技术选型记录,不是某个框架的运行配置。它的作用是强迫项目把五层都写清楚,并让每个选择都能对应到一个实际约束。
project:
stage: production
team_size: 4
priority: stable_iteration
constraints:
max_p95_latency_ms: 3000
managed_service_preferred: true
self_hosting_capacity: limited
stack:
language: Python
rag_framework: minimal_orchestration
model_service: managed_api
vector_database: managed_vector_store
api_framework: async_python_api预期结果
五个技术层都有明确选择,并且每项都能追溯到团队能力、延迟目标、数据规模或运维约束;如果某一项没有对应约束,就应继续简化或补充理由。真正落地时,可以把这份记录放进项目仓库并在架构评审时更新。验证重点不是这些字符串能否“运行”,而是它们是否覆盖了语言、编排、模型、向量存储和 API 五层,而且没有两套职责重复的组件。
避免三类常见选型错误
第一类是为“未来可能需要”提前引入重量级框架,结果大部分能力长期不用;第二类是同时使用多个职责重叠的 RAG 框架,让文档结构、检索接口和调用链变得难以追踪;第三类是只比较模型效果,却忽略限流、数据合规、向量库备份和接口超时等生产约束。
当两个候选方案都能满足需求时,优先选择团队更熟悉、依赖更少、故障边界更清楚的一套。RAG 技术栈的目标不是“组件越多越完整”,而是让检索链路和生成链路以最低复杂度稳定运行。