AI Agent / 系统课时

完成首次对话调用

完成首次对话调用

本课将配置、HTTP 适配器和结果判断连起来。把前两节的 model_config.py 和 model_client.py 放在同一目录,再保存下面的代码为 first_chat.py。默认通过 HTTPX 模拟接口返回,可以先在没有 API 密钥的环境验证。

python
import argparse
import json
import httpx

from model_client import ModelClient, ModelClientError
from model_config import load_config

def first_chat(client):
    reply = client.chat([{"role": "user", "content": "请用一句话解释 AI Agent。"}])
    if reply.refusal:
        raise ModelClientError("模型拒绝了请求")
    if reply.finish_reason in {"length", "content_filter", "tool_calls"}:
        raise ModelClientError(f"未获得完整文本,结束原因 {reply.finish_reason}")
    if reply.finish_reason != "stop":
        raise ModelClientError("未获得完整文本,未知结束原因")
    if not reply.text or not reply.text.strip():
        raise ModelClientError("模型未返回可用文本")
    return reply

def demo_handler(request):
    if request.url.path != "/v1/chat/completions" or request.method != "POST":
        return httpx.Response(404)
    payload = json.loads(request.content)
    if payload["model"] != "demo" or request.headers.get("authorization") != "Bearer local-test-only":
        return httpx.Response(401)
    return httpx.Response(200, json={
        "choices": [{"message": {"content": "Agent 会在受控循环中选择行动。"}, "finish_reason": "stop"}],
        "usage": {"prompt_tokens": 12, "completion_tokens": 10, "total_tokens": 22},
    })

def main():
    parser = argparse.ArgumentParser()
    parser.add_argument("--live", action="store_true")
    live = parser.parse_args().live
    try:
        if live:
            config = load_config()
            transport = None
        else:
            config = load_config({"MODEL_BASE_URL": "https://provider.example/v1",
                                  "MODEL_NAME": "demo", "MODEL_API_KEY": "local-test-only"})
            transport = httpx.MockTransport(demo_handler)
        with ModelClient(config, transport=transport) as client:
            reply = first_chat(client)
    except (ValueError, ModelClientError) as error:
        parser.exit(1, f"调用失败:{error}\n")
    print(f"text: {reply.text}")
    print(f"finishReason: {reply.finish_reason}")
    print(f"totalTokens: {reply.usage.get('total_tokens')}")

if __name__ == "__main__":
    main()

运行 python first_chat.py,会得到固定文本、finishReason: stop 和 totalTokens: 22。如果已经在进程环境配置了可信地址、模型和密钥,可自行运行 python first_chat.py --live 发起一次模型请求,文本和用量会变化。

判断结果能否进入后续流程

HTTP 200 表示接口返回了数据。客户端还需核对内容是否符合预期。本节只要求完整文本,因此 length(截断)、content_filter(过滤)或 tool_calls(待处理工具)都不会直接当成成功答复。后续工具章节会单独处理调用列表和回填结果。模型拒绝也可能伴随 stop,要独立检查 refusal。用量缺失时显示 None,不能当成零消耗。

401 或 403 优先查账号与权限,404 核对基地址拼出的资源路径,429 区分速率和配额。日志可以保留请求标识、错误类别、耗时及结束原因。生产代码应按已知结束原因归类,未知供应商值可归入协议异常。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

完成首次对话调用

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通