模式

此模块包含量化模式的模式描述符。

QuantizeExportModeDescriptor

用于描述量化模式导出的类。

QuantizeModeDescriptor

用于描述"quant"模式的类。

class QuantizeExportModeDescriptor

基础:_ModeDescriptor

用于描述量化模式导出的类。

请注意,此模式只是一个占位符,用于抛出错误,因为我们目前不支持导出量化模型。它用于正确表明,如果我们想要进行模式的链式/堆叠操作,quantize 模式确实需要一个导出模式。

property config_class: Type[ModeloptBaseConfig]

指定模式的配置类。

property convert: Callable[[Module, ModeloptBaseConfig], Tuple[Module, Dict[str, Any]]]

模式的入口点,用于转换模型。

property is_export_mode: bool

指定模式是否为导出模式。

property name: str

返回模式的值(字符串表示)。

property restore: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], Module]

模式的入口点,用于恢复模型。

class QuantizeModeDescriptor

基础:_ModeDescriptor

用于描述"quant"模式的类。

此模式的属性可以通过源代码进行检查。

property config_class: Type[ModeloptBaseConfig]

指定模式的配置类。

property convert: Callable[[Module, ModeloptBaseConfig], Tuple[Module, Dict[str, Any]]]

模式的入口点,用于转换模型。

property export_mode: str | None

与此模式的导出模式相对应的模式。

property name: str

返回模式的值(字符串表示)。

property next_modes: Set[str] | None

必须立即跟随此模式的模式。

property restore: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], Module]

模式的入口点,用于恢复模型。

property update_for_new_mode: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], None]

模式在更新模型状态之前的入口点。

property update_for_save: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], None]

模式在保存前更新模型状态的入口点。