跳转到内容

假设、基线与消融

基线回答"比什么好",消融回答"好在哪个部分",敏感性分析回答"在什么条件下好"。本章讲如何选择公平的基线(调优程度、算力预算、数据)、设计有信息量的消融,以及避免"稻草人基线"。

一个实证主张("在条件 X 下因为机制 Y 在指标 Z 上优于基线 B")需要三个环节的证据:

  • 基线回答"比什么好";
  • 消融回答"好在哪个部分";
  • 敏感性分析回答"在什么条件下好"(对超参、数据量、场景的稳健性)。

三者缺一,主张就只被部分支撑:没有消融,涨点可能来自无关组件;没有敏感性分析,结论只在一个设置下成立却写成通用结论。

基线必须与你的方法获得同等的调优努力。 "稻草人基线"(strawman baseline)是评审最常指出的不公平:基线用默认参数,新方法精调三周。公平性 checklist:

  • 调优:基线做了同等程度的超参搜索吗?搜索预算(多少组配置)在论文里报告了吗?
  • 算力:基线的计算预算与你的方法对等吗?("我们的方法更省"必须以"同预算下更好"为前提)
  • 数据:基线用了同样的数据与预处理吗?数据增强、额外数据的使用是否对等?
  • 版本:基线用的是社区公认的强实现还是老旧实现?有更新的官方版本吗?
  • 复现:基线的数字是你复现的(有 commit 可查)还是引用的?引用的数字与你的设置一致吗?
  • 每次只去掉一个组件:多组件同时移除会掩盖交互效应;
  • 消融要有信息量:去掉最可疑的组件(主张依赖的那个机制)优先于形式化的全量扫描;
  • 报告失败的变体与成功的一样重要:尝试过但无效的变体是证据的一部分,写进论文或附录——它同时是对抗确认偏误的记录(见科学方法在 CS 中的形态)。

消融与实验的整体安排见实验设计;报告规范见统计显著性与效应量。

  • 基线必须与你的方法获得同等的调优努力
  • 消融每次只去掉一个组件
  • 报告失败的变体与成功的一样重要