获取量化器模式¶
- torchtune.training.get_quantizer_mode(quantizer: Optional[Callable]) Optional[str][source]¶
给定一个量化器对象，返回一个指定量化类型的字符串。
例如，在int4仅权重量化的情况下，我们将返回“4w”。 如果量化器未被识别为已知的量化器，我们将返回None。
目前支持：
Int8DynActInt4WeightQuantizer: “8da4w”Int4WeightOnlyQuantizer: “4w”Int8DynActInt4WeightQATQuantizer: “8da4w-qat”Int4WeightOnlyQATQuantizer: “4w-qat”
- Parameters:
quantizer (可选[Callable]) – 一个可调用对象，实现了quantize方法。
- Returns:
量化模式。
- Return type:
可选[str]
