假设、基线与消融
基线回答"比什么好",消融回答"好在哪个部分",敏感性分析回答"在什么条件下好"。本章讲如何选择公平的基线(调优程度、算力预算、数据)、设计有信息量的消融,以及避免"稻草人基线"。
证据链的三个环节
Section titled “证据链的三个环节”一个实证主张("在条件 X 下因为机制 Y 在指标 Z 上优于基线 B")需要三个环节的证据:
- 基线回答"比什么好";
- 消融回答"好在哪个部分";
- 敏感性分析回答"在什么条件下好"(对超参、数据量、场景的稳健性)。
三者缺一,主张就只被部分支撑:没有消融,涨点可能来自无关组件;没有敏感性分析,结论只在一个设置下成立却写成通用结论。
选择公平的基线
Section titled “选择公平的基线”基线必须与你的方法获得同等的调优努力。 "稻草人基线"(strawman baseline)是评审最常指出的不公平:基线用默认参数,新方法精调三周。公平性 checklist:
- 调优:基线做了同等程度的超参搜索吗?搜索预算(多少组配置)在论文里报告了吗?
- 算力:基线的计算预算与你的方法对等吗?("我们的方法更省"必须以"同预算下更好"为前提)
- 数据:基线用了同样的数据与预处理吗?数据增强、额外数据的使用是否对等?
- 版本:基线用的是社区公认的强实现还是老旧实现?有更新的官方版本吗?
- 复现:基线的数字是你复现的(有 commit 可查)还是引用的?引用的数字与你的设置一致吗?
设计有信息量的消融
Section titled “设计有信息量的消融”- 每次只去掉一个组件:多组件同时移除会掩盖交互效应;
- 消融要有信息量:去掉最可疑的组件(主张依赖的那个机制)优先于形式化的全量扫描;
- 报告失败的变体与成功的一样重要:尝试过但无效的变体是证据的一部分,写进论文或附录——它同时是对抗确认偏误的记录(见科学方法在 CS 中的形态)。
消融与实验的整体安排见实验设计;报告规范见统计显著性与效应量。
- 基线必须与你的方法获得同等的调优努力
- 消融每次只去掉一个组件
- 报告失败的变体与成功的一样重要