工具

用于推测性解码的工具。

类

一个残差块模块。

class ResBlock

基础：Module

一个残差块模块。

该模块执行线性变换，然后进行SiLU激活，并将结果添加到原始输入中，创建残差连接。

Parameters:: hidden_size (int) – 块中隐藏层的大小。

__init__(hidden_size, bias=True)

ResBlock的初始化函数。

参数: hidden_size (int): 块中隐藏层的大小。

forward(x)

ResBlock的前向传递。

Parameters:: x (torch.Tensor) – 输入张量。
Returns:: 残差连接和激活后的输出。
Return type:: torch.Tensor