speechbrain.nnet.activations 模块

实现激活函数的库。

Authors

摘要

类：

`GumbelSoftmax`	从Gumbel-Softmax分布中采样并可选地离散化。
`Softmax`	计算2D、3D或4D输入张量的softmax。
`Swish`	该类实现了来自https://arxiv.org/pdf/2005.03191.pdf的Swish激活函数

class speechbrain.nnet.activations.Softmax(apply_log=False, dim=-1, reshape=True, dtype=torch.float32)[source]

基础：Module

计算2D、3D或4D输入张量的softmax。

Parameters:

Example

>>> classifier = Softmax()
>>> inputs = torch.rand(10, 50, 40)
>>> output = classifier(inputs)
>>> output.shape
torch.Size([10, 50, 40])

返回输入张量的softmax。

class speechbrain.nnet.activations.GumbelSoftmax(tau, hard=False, apply_log=False)[source]

基础：Module

从Gumbel-Softmax分布中采样，并可选择离散化。

Parameters:

Example

>>> x = torch.randn((8, 40, 120))
>>> act = GumbelSoftmax(0.8, True)
>>> x = act(x)

返回输入张量的Gumbel softmax。

class speechbrain.nnet.activations.Swish(beta: float = 1.0)[source]

基础：Module

该类实现了来自https://arxiv.org/pdf/2005.03191.pdf的Swish激活函数

给定输入 x。Swish(x) = x / (1 + exp(beta * x))

Example

>>> x = torch.randn((8, 40, 120))
>>> act = Swish()
>>> x = act(x)

返回经过Swish激活函数处理的输入张量。