Shortcuts

PerChannelMinMaxObserver

class torch.ao.quantization.observer.PerChannelMinMaxObserver(ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[源代码]

用于基于运行时每个通道的最小值和最大值计算量化参数的观察者模块。

此观察器使用张量的最小/最大统计信息来计算每个通道的量化参数。该模块记录传入张量的运行最小值和最大值,并使用此统计信息来计算量化参数。

Parameters
  • ch_axis – 通道轴

  • dtype – 实现参考模型规范所需的quantize节点的dtype参数。

  • qscheme – 要使用的量化方案

  • reduce_range – 将量化数据类型的范围减少1位

  • quant_min – 最小量化值。如果未指定,它将遵循8位设置。

  • quant_max – 最大量化值。如果未指定,它将遵循8位设置。

  • eps (张量) – 用于float32的Epsilon值,默认为torch.finfo(torch.float32).eps

量化参数的计算方式与 MinMaxObserver相同,不同之处在于运行时的最小/最大值是按通道存储的。 因此,缩放因子和零点也是按通道计算的。

注意

如果运行最小值等于运行最大值,则比例和零点分别设置为1.0和0。

reset_min_max_vals()[源代码]

重置最小/最大值。

优云智算