大小样本机器学习 大样本小样本原则

样本大小指在一次实验研究中参与个体或收集记录的数量。样本大小很重要，因为它会直接影响估计总体参数的精度。本文针对该主题，通过示例让你对样本大小、置信度、置信区间有基本的理解。

什么是置信区间

实际应用中通常对衡量总体参数感兴趣，总体参数是描述总体的一些特征。

假如我们想了解某个地区所有人员的平均身高。但如果对每个人进行测量太费时费力，通常做法是从总体随机抽取一些样本，然后使用样本估计总体参数。
举例，我们在城市中随机抽取100人，收集样本的身高数据。然后计算样本的平均身高，但我们不能确定样本均值就是总体均值。当然样本选取要有代表性，不能产生幸存者偏差，本文不讨论样本抽取方法。

考虑到不确定性，我们可以使用置信区间。置信区间是包含具有一定置信水平的总体参数值范围。

总体均值置信区间计算公式：

置信区间 = $\overline{x} +/- z*(s/\sqrt{n})$

• $\overline{x}$
• z 选择的z值（又称为标准分数）
• s 样本标注差
• n 样本大小

选择的z值取决于你选择的置信水平，下表显示了常用置信水平/(置信度)对应的z值:

置信水平(Confidence Level)	z-value
0.90	1.645
0.95	1.96
0.99	2.58

样本大小与置信区间

假设要估计海龟种群的平均重量。我们随机收集了一些海龟样本，并提供了以下信息:

样本大小为n=25
样本平均重量为$\overline{x}$=300磅
样本标准差为s=18.5

下面计算90%置信度的总体平均重量的置信区间：

• 90%置信区间：300 +/- 1.644*(18.5/$\sqrt{25}$) = [293.91, 306.09]

这表示有90%把握说明海龟总体真实平均重量在 [293.91, 306.09]范围。

现状假设我们收集了50个样本，而不是25个样本，那么再次计算90%置信度的置信区间：

• 90%置信区间：300 +/- 1.644*(18.5/$\sqrt{50}$) = [295.79, 304.30]

我们看到这个置信区间比上面的更窄，也就是说这个估计比上面更精确。下面我们再次加大样本数据，计算100个样本的置信区间：

• 90%置信区间：300 +/- 1.644*(18.5/$\sqrt{100}$) = [296.96, 303.04]

100个样本比上面更精确了。我们看下表三个范围对比：

样本大小	90% 置信宽度
25	12.18
50	8.51
100	6.08

结论是:样本量越大，我们就能越精确地估计总体参数。