torch.nn.attention.bias

定义与scaled_dot_product_attention一起工作的偏置子类

因果偏差

CausalBias

表示因果关注模式的偏差。

causal_lower_right	创建一个右下三角形的因果偏差。
causal_upper_left	创建一个左上角三角形的因果偏差。
CausalVariant	用于注意力机制中的因果变体的枚举。