Table of Contents

Shortcuts

TanhGate¶

class torchtune.modules.TanhGate[source]¶

实现一个基本的可学习门来缩放层输出

forward(x: Tensor) → Tensor[source]¶

Parameters:: x (torch.Tensor) – 输入张量到门
Returns:: 门控后的输出张量。具有与x相同的形状。
Return type:: torch.Tensor