机器学习与深度学习 / 系统课时
部署基础预测接口
部署基础预测接口
学习目标
- 封装可加载的预测流水线
- 定义明确的 HTTP 输入输出契约
- 验证接口启动、预测和错误处理
接口的最小职责
预测接口负责校验输入、转换为训练期字段结构、调用已加载模型并返回预测结果。模型应在应用启动时加载一次,不能每个请求重复读取文件。
输入字段需要明确类型、单位和允许范围;输出至少包含预测类别、概率和模型版本。
创建可运行接口
先安装依赖:
bash
pip install fastapi uvicorn scikit-learn pandas预期结果:
text
依赖安装成功,命令结束时不出现 ERROR。
已安装的具体版本以当前 Python 环境为准。创建 app.py:
python
from contextlib import asynccontextmanager
import pandas as pd
from fastapi import FastAPI
from pydantic import BaseModel, Field
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
MODEL_VERSION = "demo-1.0"
model: Pipeline | None = None
class PredictRequest(BaseModel):
age: float = Field(ge=0, le=120)
income: float = Field(ge=0)
@asynccontextmanager
async def lifespan(app: FastAPI):
global model
# 教学示例在启动时训练;生产环境应从可信文件加载模型
X = pd.DataFrame({
"age": [20, 25, 35, 45, 55, 65],
"income": [2000, 3500, 6000, 9000, 12000, 15000],
})
y = [0, 0, 0, 1, 1, 1]
model = Pipeline([
("scale", StandardScaler()),
("classifier", LogisticRegression(random_state=42)),
])
model.fit(X, y)
yield
model = None
app = FastAPI(lifespan=lifespan)
@app.post("/predict")
def predict(request: PredictRequest) -> dict:
if model is None:
raise RuntimeError("模型尚未加载")
frame = pd.DataFrame([request.model_dump()])
probability = float(model.predict_proba(frame)[0, 1])
prediction = int(probability >= 0.5)
return {
"prediction": prediction,
"probability": round(probability, 6),
"modelVersion": MODEL_VERSION,
}启动命令:
bash
uvicorn app:app --host 127.0.0.1 --port 8000预期结果:
text
服务启动成功,并监听 http://127.0.0.1:8000。
终端日志中的时间和进程 ID 会因环境不同而变化。实际端口可按环境调整。
调用并验证
bash
curl -X POST "http://127.0.0.1:8000/predict" -H "Content-Type: application/json" -d '{"age":50,"income":11000}'预期结果:
text
HTTP 状态码为 200。
响应体包含 prediction、probability 和 modelVersion;
本示例输入通常得到 prediction=1,概率值可能随库版本略有变化。输入负数收入时,Pydantic 应返回 422 校验错误。
生产化补充
生产环境还需要请求日志、追踪 ID、超时、并发控制、健康检查、鉴权、模型文件校验和灰度发布。不要记录完整敏感特征;日志应只保留必要标识和诊断信息。
接口上线前要用固定样本对比离线脚本与接口输出,确保字段顺序、单位和预处理完全一致。
接口工程验收
接口启动时应完成模型文件存在性、哈希、依赖版本和固定样本自检;任何一项失败都应让服务进入不健康状态,而不是继续接收请求。健康检查需要区分进程存活和模型可预测,避免“接口返回 200 但模型未加载”。
并发测试要记录吞吐量、平均延迟、P95 与 P99 延迟和内存占用。批量预测可设计数组接口,减少网络和序列化开销,但要限制批量大小。错误响应应包含稳定错误码和追踪 ID,不能把完整堆栈暴露给调用方。
发布时先以影子流量比较旧服务与新服务输出,再逐步放量。若概率分布、错误率或延迟超过阈值,应自动停止发布并切回上一稳定版本。
按自己的节奏,确认真正理解。