Shortcuts

准备

class torch.ao.quantization.prepare(model, inplace=False, allow_list=None, observer_non_leaf_module_list=None, prepare_custom_config_dict=None)[源代码]

准备用于量化校准或量化感知训练的模型副本。

量化配置应预先分配给.qconfig属性中的各个子模块。

模型将会附加观察者或伪量化模块,并且qconfig将会传播。

Parameters
  • 模型 – 需要就地修改的输入模型

  • inplace – 就地执行模型转换,原始模块会被改变

  • allow_list – 可量化模块列表

  • observer_non_leaf_module_list – 我们想要添加观察者的非叶模块列表

  • prepare_custom_config_dict – 自定义配置字典,用于准备函数

# prepare_custom_config_dict 的示例:
prepare_custom_config_dict = {
    # 用户将手动定义对应的观察模块类,该类具有一个 from_float 类方法,用于将
    # 浮点自定义模块转换为观察自定义模块
    "float_to_observed_custom_module_class": {
        CustomModule: ObservedCustomModule
    }
 }
优云智算