16-05 检查验证数据泄漏

题目

故意在全部样本上拟合统计量，再只改变验证组，比较训练统计与预测的变化，随后改回训练组拟合。

推导与做法

训练组固定为 1、2，验证组先为 100，再改成 1000。若在全体样本上拟合，均值从 103/3 变成 1003/3；模型的训练输入竟受到尚未用于训练的数据影响。

只在训练组拟合，两次均值都为 1.5，尺度也保持相同。验证与测试只应用这份转换，不能各自重新拟合一份看起来“更标准”的数据。

过程图

%% 每个节点保留输入、执行位置或执行后的实际状态。 flowchart TD S0["训练数据固定1、2"] S1["验证数据100改1000"] S0 --> S1 S2["全体拟合均值随验证变化"] S1 --> S2 S3["训练组拟合始终1.5，不受验证变化影响"] S2 --> S3 classDef default fill:#EEF0FB,stroke:#4657B5,color:#24324A linkStyle default stroke:#4657B5

实现与运行

查看带注释实现。本题与相关处理函数放在同一章节代码文件中；启动工具负责定位相邻项目和选择题号。

在配套目录的 PyTorch与模型开发/training_project 中运行。先按项目 README 执行 uv sync --locked。接口题先安装 serve 可选项：uv sync --locked --extra serve。

# 使用项目解释器运行本题，题号决定执行哪一组演示。
uv run python "../../学习索引/参考实现/代码/ch16.py" 16-05

程序按题号输出处理后的值、查询结果或状态。先和前面的手算比较，再修改一项输入重跑。

查看本题运行结果

# 与上面的手算状态和题目数值逐项比较。
{
  "leaky_before": 34.33333206176758,
  "leaky_after": 334.3333435058594,
  "training_only_before": 1.5,
  "training_only_after": 1.5
}