16-10 交付推理环境
题目
从新环境安装项目,加载选定模型,核对同一输入的命令行、Python 调用和 HTTP 响应。
推导与做法
三个入口必须读取同一份权重、同一份预处理和同一特征顺序。独立核对时使用确定权重,把输出固定为 10,避免训练波动掩盖交付错误。
题解把检查点写入临时目录,分别用 Predictor.pages、独立 CLI 进程和 FastAPI TestClient 预测 30 分钟、1 次,三个结果均为 10。完整项目再用选中的真实模型重复同一检查;新环境安装时包含 serve 可选项,并从源码目录外启动。
过程图
%% 每个节点保留输入、执行位置或执行后的实际状态。
flowchart TD
S0["一份检查点保存权重与尺度"]
S1["Python调用读取它"]
S0 --> S1
S2["CLI新进程与HTTP启动也读取它"]
S1 --> S2
S3["相同30分钟1次:三个入口都为10"]
S2 --> S3
classDef default fill:#EEF0FB,stroke:#4657B5,color:#24324A
linkStyle default stroke:#4657B5
实现与运行
查看带注释实现。本题与相关处理函数放在同一章节代码文件中;启动工具负责定位相邻项目和选择题号。
在配套目录的 PyTorch与模型开发/training_project 中运行。先按项目 README 执行 uv sync --locked。接口题先安装 serve 可选项:uv sync --locked --extra serve。
# 使用项目解释器运行本题,题号决定执行哪一组演示。
uv run python "../../学习索引/参考实现/代码/ch16.py" 16-10
程序按题号输出处理后的值、查询结果或状态。先和前面的手算比较,再修改一项输入重跑。
查看本题运行结果
# 与上面的手算状态和题目数值逐项比较。
{
"python": 10.0,
"CLI": 10.0,
"HTTP": 10.0
}