计算机视觉 / 系统课时

开发项目推理程序

开发项目推理程序

本课把训练得到的最终权重接入一个可直接运行的推理程序,完成图片、视频和摄像头输入处理、检测结果保存、告警规则判断与运行验证。完成后,你将得到项目交付阶段可复用的统一推理入口。

学习目标

  • 使用最终权重完成图片、视频和摄像头推理
  • 将检测结果转换为业务规则并输出明确状态
  • 通过正常、告警和空结果样本验证程序可用性

推理链路与验收口径

项目推理不是只调用一次模型,而是把输入读取、模型预测、结果解析、业务判断、可视化和文件保存串成稳定链路。任何一环缺失,程序都难以用于现场演示或后续部署。

项目推理程序的数据处理链路

验收时至少检查四点:程序能加载指定权重;不同输入类型能被正确识别;无目标时不会异常;命中业务条件时能输出 ALERT,否则输出 PASS。

实现完整推理程序

下面的程序默认读取 weights/best.pt 和 data/demo.jpg。将 SOURCE 改为视频路径即可处理视频,改为字符串 "0" 可打开默认摄像头。程序依赖本地 YOLOv5 源码目录,因此 yolov5、权重和输入文件必须真实存在。

python
from collections import Counter
from pathlib import Path

import cv2
import torch

REPO_DIR = Path("yolov5")
WEIGHTS_PATH = Path("weights/best.pt")
SOURCE = "data/demo.jpg"  # 图片、视频路径,或摄像头编号字符串 "0"
OUTPUT_DIR = Path("runs/project-infer")

CONF_THRESHOLD = 0.35
IOU_THRESHOLD = 0.45
IMAGE_SIZE = 640
SHOW_WINDOW = True  # 服务器无桌面环境时改为 False

# 根据项目类别名称调整;出现任一目标即触发告警
ALERT_CLASSES = {"no_helmet", "smoke"}
MAX_ALERT_COUNT = 0
IMAGE_SUFFIXES = {".jpg", ".jpeg", ".png", ".bmp", ".webp"}

def load_model():
    if not REPO_DIR.exists():
        raise FileNotFoundError(f"YOLOv5 源码目录不存在: {REPO_DIR}")
    if not WEIGHTS_PATH.is_file():
        raise FileNotFoundError(f"权重文件不存在: {WEIGHTS_PATH}")

    device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
    # 使用本地源码加载,确保推理结构与训练版本一致
    model = torch.hub.load(
        str(REPO_DIR),
        "custom",
        path=str(WEIGHTS_PATH),
        source="local",
        force_reload=False,
    )
    model.to(device)
    model.conf = CONF_THRESHOLD
    model.iou = IOU_THRESHOLD
    return model, device

def infer_frame(model, frame):
    results = model(frame, size=IMAGE_SIZE)
    detections = results.xyxy[0].detach().cpu().tolist()

    counts = Counter()
    # 只把达到阈值的最终检测结果计入业务规则
    for _, _, _, _, confidence, class_id in detections:
        if confidence >= CONF_THRESHOLD:
            counts[model.names[int(class_id)]] += 1

    alert_count = sum(counts[name] for name in ALERT_CLASSES)
    status = "ALERT" if alert_count > MAX_ALERT_COUNT else "PASS"

    # 在模型标注结果上叠加业务状态,便于现场查看
    annotated = results.render()[0].copy()
    label = f"RULE: {status}"
    color = (0, 0, 255) if status == "ALERT" else (0, 180, 0)
    cv2.putText(
        annotated,
        label,
        (20, 40),
        cv2.FONT_HERSHEY_SIMPLEX,
        1.0,
        color,
        2,
        cv2.LINE_AA,
    )
    return annotated, counts, status

def format_counts(counts):
    if not counts:
        return "none"
    return ", ".join(f"{name}:{count}" for name, count in sorted(counts.items()))

def process_image(model, source_path):
    frame = cv2.imread(str(source_path))
    if frame is None:
        raise ValueError(f"无法读取图片: {source_path}")

    annotated, counts, status = infer_frame(model, frame)
    output_path = OUTPUT_DIR / f"{source_path.stem}_result.jpg"
    cv2.imwrite(str(output_path), annotated)
    if SHOW_WINDOW:
        cv2.imshow("YOLOv5 Result", annotated)
        cv2.waitKey(0)
        cv2.destroyAllWindows()

    print(f"source={source_path}")
    print(f"detections={format_counts(counts)}")
    print(f"business_rule={status}")
    print(f"saved_to={output_path}")

def process_stream(model, source):
    capture_source = int(source) if source.isdigit() else source
    cap = cv2.VideoCapture(capture_source)
    if not cap.isOpened():
        raise ValueError(f"无法打开视频源: {source}")

    width = int(cap.get(cv2.CAP_PROP_FRAME_WIDTH))
    height = int(cap.get(cv2.CAP_PROP_FRAME_HEIGHT))
    fps = cap.get(cv2.CAP_PROP_FPS) or 25.0
    output_path = OUTPUT_DIR / "stream_result.mp4"
    # 按原视频尺寸写出结果,摄像头模式可按 q 提前结束
    writer = cv2.VideoWriter(
        str(output_path),
        cv2.VideoWriter_fourcc(*"mp4v"),
        fps,
        (width, height),
    )

    total_counts = Counter()
    alert_frames = 0
    frame_count = 0

    while True:
        ok, frame = cap.read()
        if not ok:
            break
        annotated, counts, status = infer_frame(model, frame)
        writer.write(annotated)
        total_counts.update(counts)
        alert_frames += int(status == "ALERT")
        frame_count += 1

        if SHOW_WINDOW:
            cv2.imshow("YOLOv5 Result", annotated)
            if cv2.waitKey(1) & 0xFF == ord("q"):
                break

    cap.release()
    cv2.destroyAllWindows()
    writer.release()
    print(f"source={source}")
    print(f"frames={frame_count}")
    print(f"detections={format_counts(total_counts)}")
    print(f"alert_frames={alert_frames}")
    print(f"saved_to={output_path}")

def main():
    OUTPUT_DIR.mkdir(parents=True, exist_ok=True)
    model, device = load_model()
    print(f"device={device}")

    source_path = Path(SOURCE)
    if source_path.suffix.lower() in IMAGE_SUFFIXES:
        process_image(model, source_path)
    else:
        process_stream(model, SOURCE)

if __name__ == "__main__":
    main()

预期输出(保存为 infer_project.py 并执行 python infer_project.py,类别和数量以实际模型结果为准):

text
device=<DEVICE>
source=data/demo.jpg
detections=helmet:2, person:2
business_rule=PASS
saved_to=runs/project-infer/demo_result.jpg

实际设备可能显示 cpu 或 cuda:0。如果图片没有任何目标,detections 应输出 none,程序仍应正常保存标注结果。

运行与验证

先使用一张类别清晰的正常图片确认权重、类别名称和保存路径正确,再使用包含 no_helmet 或 smoke 的样本确认告警分支。最后补充一张无目标图片,验证空检测结果不会导致计数或绘制逻辑报错。

业务规则必须建立在模型类别名称之上。若训练数据中的类别叫 without_helmet,而代码仍判断 no_helmet,模型即使检出目标也不会触发告警,因此交付前应核对 model.names 与规则集合。

常见问题

出现 No such file or directory 时,先检查当前工作目录,而不是直接修改代码中的相对路径。建议始终从项目根目录运行程序,使 yolov5、weights、data 和 runs 的相对位置保持一致。

视频可以打开但输出文件无法播放时,通常是编码器或宽高读取失败。应确认输入首帧尺寸不为零,并根据目标环境将 mp4v 替换为可用编码器,再重新完成播放验证。

本课总结

  • 推理程序应统一处理输入、预测、业务判断、可视化和结果保存
  • 业务告警依赖真实类别名称,必须与最终权重保持一致
  • 正常、告警和空结果样本共同构成最小验收集

下一课预告

下一课将整理权重、配置、代码、数据说明、指标报告和部署文档,并通过版本号与校验文件形成可追踪的项目交付包。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

开发项目推理程序

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通