大模型应用开发 / 系统课时
发送基础请求
发送基础请求
这一节完成一次最小可用的同步文本生成调用:准备消息和模型参数,发出请求,再从响应对象读取最终文本。示例把凭证与模型名都放在环境变量中,便于直接替换运行环境。
学习目标
- 构造一组最小消息并设置模型参数
- 使用客户端发送同步生成请求
- 从响应对象稳定读取文本并定位常见失败
准备请求输入
下面以 OpenAI Python SDK 的 Responses API 为例。运行前需要已安装对应 SDK,并在环境中设置 OPENAI_API_KEY 与一个当前可用的 OPENAI_MODEL。把模型名留在环境变量里,可以避免示例和部署环境被某个固定模型版本绑定。
消息列表中每个对象包含角色与内容。最小场景只需要一条 user 消息;真正的应用可以在后续再增加系统指令、多轮上下文或工具调用。
完成一次同步调用
import os
from openai import OpenAI
api_key = os.getenv("OPENAI_API_KEY")
model = os.getenv("OPENAI_MODEL")
if not api_key or not model:
raise SystemExit("OPENAI_API_KEY or OPENAI_MODEL is missing")
client = OpenAI(api_key=api_key)
messages = [
{
"role": "user",
"content": "用一句话解释什么是向量数据库。",
}
]
response = client.responses.create(
model=model,
input=messages,
max_output_tokens=120,
)
print(f"response_id={response.id}")
print(response.output_text)预期输出
response_id=<ID>
<VALUE><ID> 是本次请求的响应标识,<VALUE> 是模型生成的文本,具体措辞每次都可能不同。只要程序返回非空文本且没有抛出认证、模型或网络异常,就说明基础调用链路已经跑通。
读取响应时不要猜数组位置
响应对象通常还包含元数据、工具调用或多段输出。只为取得最终文本时,优先使用 SDK 提供的 output_text 聚合字段,而不是假定第一项、第一段内容永远就是文本。这样后续加入更多输出类型时,读取逻辑更不容易被响应结构变化打断。
请求参数也应只保留当前任务真正需要的部分。初次联通时先固定一条简单消息和较小的 max_output_tokens,确认网络、凭证、模型和解析路径都正常,再逐步增加上下文与高级参数。
请求失败的定位顺序
认证错误先检查 OPENAI_API_KEY 是否被当前进程读取,以及凭证是否仍有效;模型错误检查 OPENAI_MODEL 是否填写了当前账户可访问的模型;限流或配额错误需要降低并发、等待重试或检查项目额度;连接超时则优先检查代理、DNS、出口网络和客户端超时配置。
基础请求跑通后的可靠判据很简单:凭证从环境读取、模型名可替换、同步调用成功、最终文本可直接取得。后续扩展多轮对话、流式输出或工具调用时,都应继续保留这条最小链路作为联通性基线。