LazyLinear

class torch.nn.LazyLinear(out_features, bias=True, device=None, dtype=None)

一个 torch.nn.Linear 模块，其中 in_features 是推断出来的。

在本模块中，权重和偏置属于torch.nn.UninitializedParameter 类。它们将在第一次调用forward完成后进行初始化，并且 该模块将成为一个常规的torch.nn.Linear模块。Linear的in_features参数 是从input.shape[-1]推断出来的。

查看 torch.nn.modules.lazy.LazyModuleMixin 以获取关于惰性模块及其限制的更多文档。

Parameters

• out_features (int) – 每个输出样本的大小

• 偏置 (未初始化参数) – 如果设置为 False，该层将不会学习一个加性偏置。 默认值: True

Variables

• 权重 (torch.nn.parameter.UninitializedParameter) – 模块的可学习权重，形状为 $(\text{out\_features}, \text{in\_features})$。这些值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in\_features}}$

• 偏置 (torch.nn.parameter.UninitializedParameter) – 模块的可学习偏置，形状为 $(\text{out\_features})$。 如果 bias 为 True，则值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$，其中 $k = \frac{1}{\text{in\_features}}$

cls_to_become

别名 Linear