大模型应用开发 / 系统课时

接入模型与密钥配置

接入模型与密钥配置

本课解决 RAG 项目中模型访问参数管理的问题,完成大语言模型和嵌入模型的安全接入,并通过基础调用验证配置链路是否可用。

学习目标

  • 理解 RAG 中生成模型与嵌入模型的配置职责。
  • 掌握使用环境变量管理 API 密钥的方法。
  • 能够编写简单调用程序验证模型连接。

认识模型接入配置边界

RAG 系统通常同时依赖嵌入模型和生成模型。嵌入模型负责把文档和查询转换为向量,生成模型负责根据检索结果生成最终回答。两类模型的访问地址、密钥和参数需要独立管理。

配置时应避免把密钥直接写入源码。源码可能进入代码仓库、日志或构建产物,导致凭证泄露。更推荐使用环境变量或密钥管理服务,在运行环境注入敏感信息。

使用环境变量加载密钥

本地开发可以通过环境变量保存模型访问凭证,应用启动时读取配置。

bash
export LLM_API_KEY=<ID>
export EMBEDDING_API_KEY=<ID>
export LLM_MODEL=example-chat-model

预期结果

text
环境变量已写入当前终端会话,应用可读取对应配置。

应用代码只负责读取配置,不关心密钥来源。

python
import os

# 从运行环境读取模型配置,避免密钥进入代码仓库
llm_key = os.getenv("LLM_API_KEY")
embedding_key = os.getenv("EMBEDDING_API_KEY")
model_name = os.getenv("LLM_MODEL", "default-model")

if not llm_key or not embedding_key:
    raise RuntimeError("缺少模型访问密钥")

print(model_name)

预期输出

text
default-model

实际模型名称可能根据部署环境不同而变化。

验证基础调用链路

完成配置后,应先验证最小调用链,而不是直接接入完整 RAG 流程。验证顺序通常是:读取配置、创建模型客户端、发送简单请求、检查返回结果。

如果调用失败,可以优先检查密钥是否过期、环境变量是否生效、模型名称是否正确,以及网络是否允许访问模型服务。

常见配置错误

密钥配置错误通常表现为认证失败;模型参数错误通常表现为资源不存在;网络问题则可能表现为连接超时。排查时应区分认证、参数和网络三个层面。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

接入模型与密钥配置

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通