译者：GeneZC

torch.nn.init.calculate_gain(nonlinearity, param=None)

返回给定非线性函数的推荐的增益值。对应关系如下表：

非线性函数

增益

Linear / Identity

PyTorch 1.0 中文文档：torch.nn.init_可选参数

Conv{1,2,3}D

PyTorch 1.0 中文文档：torch.nn.init_可选参数

Sigmoid

PyTorch 1.0 中文文档：torch.nn.init_可选参数

Tanh

PyTorch 1.0 中文文档：torch.nn.init_可选参数_04

ReLU

PyTorch 1.0 中文文档：torch.nn.init_初始化_05

Leaky Relu

PyTorch 1.0 中文文档：torch.nn.init_均匀分布_06

参数：

  • nonlinearity – 非线性函数 (nn.functional 中的名字)
  • param – 对应非线性函数的可选参数

例子

>>> gain = nn.init.calculate_gain('leaky_relu')
torch.nn.init.uniform_(tensor, a=0, b=1)

用均匀分布

PyTorch 1.0 中文文档：torch.nn.init_可选参数_07

初始化输入 Tensor。

阅读全文／改进本文