Dropout

class torch.nn.Dropout(p=0.5, inplace=False)

在训练过程中，以概率 p 随机将输入张量的一些元素置为零。

零元素是独立地为每次前向调用选择的，并从伯努利分布中采样。

每个通道将在每次前向调用时独立归零。

这已被证明是一种有效的正则化技术，并防止了神经元的共适应，如论文中所述 通过防止特征检测器的共适应来改进神经网络。

此外，输出在训练期间按 $\frac{1}{1-p}$ 的比例进行缩放。这意味着在评估期间，模块仅计算一个恒等函数。

Parameters

• p (float) – 元素被置零的概率。默认值：0.5

• inplace (bool) – 如果设置为 True，将在原地执行此操作。默认值：False

Shape:

• 输入: $(*)$. 输入可以是任何形状

• 输出: $(*)$. 输出与输入形状相同

示例：

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)