模式
此模块包含量化模式的模式描述符。
类
用于描述量化模式导出的类。 |
|
用于描述 |
- class QuantizeExportModeDescriptor
基础:
_ModeDescriptor用于描述量化模式导出的类。
请注意,此模式只是一个占位符,用于抛出错误,因为我们目前不支持导出量化模型。它用于正确表明,如果我们想要进行模式的链式/堆叠操作,
quantize模式确实需要一个导出模式。- property config_class: Type[ModeloptBaseConfig]
指定模式的配置类。
- property convert: Callable[[Module, ModeloptBaseConfig], Tuple[Module, Dict[str, Any]]]
模式的入口点,用于转换模型。
- property is_export_mode: bool
指定模式是否为导出模式。
- property name: str
返回模式的值(字符串表示)。
- property restore: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], Module]
模式的入口点,用于恢复模型。
- class QuantizeModeDescriptor
基础:
_ModeDescriptor用于描述
"quant"模式的类。此模式的属性可以通过源代码进行检查。
- property config_class: Type[ModeloptBaseConfig]
指定模式的配置类。
- property convert: Callable[[Module, ModeloptBaseConfig], Tuple[Module, Dict[str, Any]]]
模式的入口点,用于转换模型。
- property export_mode: str | None
与此模式的导出模式相对应的模式。
- property name: str
返回模式的值(字符串表示)。
- property next_modes: Set[str] | None
必须立即跟随此模式的模式。
- property restore: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], Module]
模式的入口点,用于恢复模型。
- property update_for_new_mode: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], None]
模式在更新模型状态之前的入口点。
- property update_for_save: Callable[[Module, ModeloptBaseConfig, Dict[str, Any]], None]
模式在保存前更新模型状态的入口点。