Shortcuts

torch.jit.unused

torch.jit.unused(fn)[源代码]

这个装饰器向编译器指示应忽略一个函数或方法,并将其替换为引发异常。这允许你在模型中保留尚未与TorchScript兼容的代码,并仍然导出你的模型。

示例(在方法上使用 @torch.jit.unused):

import torch
import torch.nn as nn

class MyModule(nn.Module):
    def __init__(self, use_memory_efficient):
        super().__init__()
        self.use_memory_efficient = use_memory_efficient

    @torch.jit.unused
    def memory_efficient(self, x):
        import pdb
        pdb.set_trace()
        return x + 10

    def forward(self, x):
        # 使用尚未可脚本化的内存高效模式
        if self.use_memory_efficient:
            return self.memory_efficient(x)
        else:
            return x + 10

m = torch.jit.script(MyModule(use_memory_efficient=False))
m.save("m.pt")

m = torch.jit.script(MyModule(use_memory_efficient=True))
# 异常抛出
m(torch.rand(100))
优云智算