机器学习与深度学习 / 系统课时

部署基础预测接口

部署基础预测接口

学习目标

  • 封装可加载的预测流水线
  • 定义明确的 HTTP 输入输出契约
  • 验证接口启动、预测和错误处理

接口的最小职责

预测接口负责校验输入、转换为训练期字段结构、调用已加载模型并返回预测结果。模型应在应用启动时加载一次,不能每个请求重复读取文件。

输入字段需要明确类型、单位和允许范围;输出至少包含预测类别、概率和模型版本。

创建可运行接口

先安装依赖:

bash
pip install fastapi uvicorn scikit-learn pandas

预期结果:

text
依赖安装成功,命令结束时不出现 ERROR。
已安装的具体版本以当前 Python 环境为准。

创建 app.py:

python
from contextlib import asynccontextmanager

import pandas as pd
from fastapi import FastAPI
from pydantic import BaseModel, Field
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler

MODEL_VERSION = "demo-1.0"
model: Pipeline | None = None

class PredictRequest(BaseModel):
    age: float = Field(ge=0, le=120)
    income: float = Field(ge=0)

@asynccontextmanager
async def lifespan(app: FastAPI):
    global model
    # 教学示例在启动时训练;生产环境应从可信文件加载模型
    X = pd.DataFrame({
        "age": [20, 25, 35, 45, 55, 65],
        "income": [2000, 3500, 6000, 9000, 12000, 15000],
    })
    y = [0, 0, 0, 1, 1, 1]
    model = Pipeline([
        ("scale", StandardScaler()),
        ("classifier", LogisticRegression(random_state=42)),
    ])
    model.fit(X, y)
    yield
    model = None

app = FastAPI(lifespan=lifespan)

@app.post("/predict")
def predict(request: PredictRequest) -> dict:
    if model is None:
        raise RuntimeError("模型尚未加载")

    frame = pd.DataFrame([request.model_dump()])
    probability = float(model.predict_proba(frame)[0, 1])
    prediction = int(probability >= 0.5)

    return {
        "prediction": prediction,
        "probability": round(probability, 6),
        "modelVersion": MODEL_VERSION,
    }

启动命令:

bash
uvicorn app:app --host 127.0.0.1 --port 8000

预期结果:

text
服务启动成功,并监听 http://127.0.0.1:8000。
终端日志中的时间和进程 ID 会因环境不同而变化。

实际端口可按环境调整。

调用并验证

bash
curl -X POST "http://127.0.0.1:8000/predict"           -H "Content-Type: application/json"           -d '{"age":50,"income":11000}'

预期结果:

text
HTTP 状态码为 200。
响应体包含 prediction、probability 和 modelVersion;
本示例输入通常得到 prediction=1,概率值可能随库版本略有变化。

输入负数收入时,Pydantic 应返回 422 校验错误。

生产化补充

生产环境还需要请求日志、追踪 ID、超时、并发控制、健康检查、鉴权、模型文件校验和灰度发布。不要记录完整敏感特征;日志应只保留必要标识和诊断信息。

接口上线前要用固定样本对比离线脚本与接口输出,确保字段顺序、单位和预处理完全一致。

接口工程验收

接口启动时应完成模型文件存在性、哈希、依赖版本和固定样本自检;任何一项失败都应让服务进入不健康状态,而不是继续接收请求。健康检查需要区分进程存活和模型可预测,避免“接口返回 200 但模型未加载”。

并发测试要记录吞吐量、平均延迟、P95 与 P99 延迟和内存占用。批量预测可设计数组接口,减少网络和序列化开销,但要限制批量大小。错误响应应包含稳定错误码和追踪 ID,不能把完整堆栈暴露给调用方。

发布时先以影子流量比较旧服务与新服务输出,再逐步放量。若概率分布、错误率或延迟超过阈值,应自动停止发布并切回上一稳定版本。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

部署基础预测接口

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通