Shortcuts

torch.nn.utils.prune.ln_structured

torch.nn.utils.prune.ln_structured(module, name, amount, n, dim, importance_scores=None)[源代码]

通过移除沿指定维度具有最低 Ln-范数的通道来修剪张量。

修剪与module中名为name的参数对应的张量, 通过移除指定dim上具有最低Ln-范数的(当前未修剪的)通道, 移除的通道数量为amount。 通过以下方式就地修改模块(并返回修改后的模块):

  1. 添加一个名为 name+'_mask' 的命名缓冲区,对应于修剪方法应用于参数 name 的二进制掩码。

  2. 将参数 name 替换为其修剪后的版本,而原始(未修剪)参数存储在一个名为 name+'_orig' 的新参数中。

Parameters
  • 模块 (nn.Module) – 包含要剪枝的张量的模块

  • 名称 (字符串) – 在 模块 中进行剪枝操作的参数名称。

  • amount (intfloat) – 要剪枝的参数数量。 如果 float,应在 0.0 和 1.0 之间,并表示要剪枝的参数比例。如果 int,它表示要剪枝的参数的绝对数量。

  • n (int, float, inf, -inf, 'fro', 'nuc') – 参见 torch.norm() 中参数 p 的有效条目文档。

  • dim (int) – 要定义剪枝通道的维度索引。

  • importance_scores (torch.Tensor) – 重要性分数的张量(与模块参数形状相同),用于计算剪枝的掩码。 该张量中的值表示被剪枝参数中相应元素的重要性。 如果未指定或为None,则将使用模块参数本身。

Returns

修改后的(即修剪过的)输入模块版本

Return type

模块 (nn.Module)

示例

>>> from torch.nn.utils import prune
>>> m = prune.ln_structured(
...     nn.Conv2d(5, 3, 2), 'weight', amount=0.3, dim=1, n=float('-inf')
... )
优云智算