#

ALiBi()

AvgPool1d(kernel_size[, stride, padding])

应用一维平均池化。

AvgPool2d(kernel_size[, stride, padding])

应用二维平均池化。

AvgPool3d(kernel_size[, stride, padding])

应用三维平均池化。

BatchNorm(num_features[, eps, momentum, ...])

对2D或3D输入应用批量归一化。

CELU([alpha])

应用连续可微指数线性单元。

Conv1d(in_channels, out_channels, kernel_size)

在多通道输入序列上应用一维卷积。

Conv2d(in_channels, out_channels, kernel_size)

对多通道输入图像应用二维卷积。

Conv3d(in_channels, out_channels, kernel_size)

在多通道输入图像上应用三维卷积。

ConvTranspose1d(in_channels, out_channels, ...)

在多通道输入序列上应用一维转置卷积。

ConvTranspose2d(in_channels, out_channels, ...)

在多通道输入图像上应用二维转置卷积。

ConvTranspose3d(in_channels, out_channels, ...)

在多通道输入图像上应用三维转置卷积。

Dropout([p])

在训练期间随机将一部分元素置零。

Dropout2d([p])

在训练期间应用2D通道级别的dropout。

Dropout3d([p])

在训练期间应用3D通道级别的dropout。

Embedding(num_embeddings, dims)

实现一个简单的查找表,将每个输入整数映射到一个高维向量。

ELU([alpha])

应用指数线性单元。

GELU([approx])

应用高斯误差线性单元。

GLU([axis])

应用门控线性单元函数。

GroupNorm(num_groups, dims[, eps, affine, ...])

对输入应用组归一化 [1]。

GRU(input_size, hidden_size[, bias])

一个门控循环单元(GRU)RNN层。

HardShrink()

应用HardShrink函数。

HardTanh()

应用HardTanh函数。

Hardswish()

逐元素应用hardswish函数。

InstanceNorm(dims[, eps, affine])

对输入应用实例归一化 [1]。

LayerNorm(dims[, eps, affine, bias])

对输入应用层归一化 [1]。

LeakyReLU([negative_slope])

应用Leaky修正线性单元。

Linear(input_dims, output_dims[, bias])

对输入应用仿射变换。

LogSigmoid()

应用Log Sigmoid函数。

LogSoftmax()

应用Log Softmax函数。

LSTM(input_size, hidden_size[, bias])

一个LSTM循环层。

MaxPool1d(kernel_size[, stride, padding])

应用一维最大池化。

MaxPool2d(kernel_size[, stride, padding])

应用二维最大池化。

MaxPool3d(kernel_size[, stride, padding])

应用三维最大池化。

Mish()

逐元素应用Mish函数。

MultiHeadAttention(dims, num_heads[, ...])

实现具有多个头的缩放点积注意力。

PReLU([num_parameters, init])

应用逐元素的参数化ReLU。

QuantizedEmbedding(num_embeddings, dims[, ...])

Embedding相同,但具有量化权重矩阵。

QuantizedLinear(input_dims, output_dims[, ...])

使用量化权重矩阵对输入应用仿射变换。

RMSNorm(dims[, eps])

对输入应用均方根归一化 [1]。

ReLU()

应用修正线性单元。

ReLU6()

应用修正线性单元6。

RNN(input_size, hidden_size[, bias, ...])

一个Elman循环层。

RoPE(dims[, traditional, base, scale])

实现旋转位置编码。

SELU()

应用缩放指数线性单元。

Sequential(*modules)

一个按顺序调用传递的可调用对象的层。

Sigmoid()

应用Sigmoid函数,逐元素操作。

SiLU()

应用Sigmoid线性单元。

SinusoidalPositionalEncoding(dims[, ...])

实现正弦位置编码。

Softmin()

应用Softmin函数。

Softshrink([lambd])

应用Softshrink函数。

Softsign()

应用Softsign函数。

Softmax()

应用Softmax函数。

Softplus()

应用Softplus函数。

Step([threshold])

应用阶跃激活函数。

Tanh()

应用双曲正切函数。

Transformer(dims, num_heads, ...)

实现了一个标准的Transformer模型。

Upsample(scale_factor[, mode, align_corners])

对输入信号进行空间上采样。