Shortcuts

torch.nn.functional.mish

torch.nn.functional.mish(input, inplace=False)[源代码]

应用 Mish 函数,逐元素进行。

Mish: 一种自正则化的非单调神经激活函数。

Mish(x)=xTanh(Softplus(x))\text{Mish}(x) = x * \text{Tanh}(\text{Softplus}(x))

详情请参见 Mish

Return type

张量

优云智算