AI Agent / 系统课时
完成首次对话调用
完成首次对话调用
本课将配置、HTTP 适配器和结果判断连起来。把前两节的 model_config.py 和 model_client.py 放在同一目录,再保存下面的代码为 first_chat.py。默认通过 HTTPX 模拟接口返回,可以先在没有 API 密钥的环境验证。
python
import argparse
import json
import httpx
from model_client import ModelClient, ModelClientError
from model_config import load_config
def first_chat(client):
reply = client.chat([{"role": "user", "content": "请用一句话解释 AI Agent。"}])
if reply.refusal:
raise ModelClientError("模型拒绝了请求")
if reply.finish_reason in {"length", "content_filter", "tool_calls"}:
raise ModelClientError(f"未获得完整文本,结束原因 {reply.finish_reason}")
if reply.finish_reason != "stop":
raise ModelClientError("未获得完整文本,未知结束原因")
if not reply.text or not reply.text.strip():
raise ModelClientError("模型未返回可用文本")
return reply
def demo_handler(request):
if request.url.path != "/v1/chat/completions" or request.method != "POST":
return httpx.Response(404)
payload = json.loads(request.content)
if payload["model"] != "demo" or request.headers.get("authorization") != "Bearer local-test-only":
return httpx.Response(401)
return httpx.Response(200, json={
"choices": [{"message": {"content": "Agent 会在受控循环中选择行动。"}, "finish_reason": "stop"}],
"usage": {"prompt_tokens": 12, "completion_tokens": 10, "total_tokens": 22},
})
def main():
parser = argparse.ArgumentParser()
parser.add_argument("--live", action="store_true")
live = parser.parse_args().live
try:
if live:
config = load_config()
transport = None
else:
config = load_config({"MODEL_BASE_URL": "https://provider.example/v1",
"MODEL_NAME": "demo", "MODEL_API_KEY": "local-test-only"})
transport = httpx.MockTransport(demo_handler)
with ModelClient(config, transport=transport) as client:
reply = first_chat(client)
except (ValueError, ModelClientError) as error:
parser.exit(1, f"调用失败:{error}\n")
print(f"text: {reply.text}")
print(f"finishReason: {reply.finish_reason}")
print(f"totalTokens: {reply.usage.get('total_tokens')}")
if __name__ == "__main__":
main()运行 python first_chat.py,会得到固定文本、finishReason: stop 和 totalTokens: 22。如果已经在进程环境配置了可信地址、模型和密钥,可自行运行 python first_chat.py --live 发起一次模型请求,文本和用量会变化。
判断结果能否进入后续流程
HTTP 200 表示接口返回了数据。客户端还需核对内容是否符合预期。本节只要求完整文本,因此 length(截断)、content_filter(过滤)或 tool_calls(待处理工具)都不会直接当成成功答复。后续工具章节会单独处理调用列表和回填结果。模型拒绝也可能伴随 stop,要独立检查 refusal。用量缺失时显示 None,不能当成零消耗。
401 或 403 优先查账号与权限,404 核对基地址拼出的资源路径,429 区分速率和配额。日志可以保留请求标识、错误类别、耗时及结束原因。生产代码应按已知结束原因归类,未知供应商值可归入协议异常。
按自己的节奏,确认真正理解。