实例归一化

实例归一化 - 22

版本

此版本的运算符自版本22起可用。

摘要

执行实例归一化，如论文中所述 https://arxiv.org/abs/1607.08022。

y = scale * (x - mean) / sqrt(variance + epsilon) + B, 其中均值和方差是按每个实例每个通道计算的。

属性

  • epsilon - FLOAT (默认值为 '1e-05'):

    用于避免除以零的epsilon值。

输入

  • 输入 (异构) - T:

    来自前一个操作符的输入数据张量；对于图像情况，维度为（N x C x H x W），其中N是批量大小，C是通道数，H和W是数据的高度和宽度。对于非图像情况，维度形式为（N x C x D1 x D2 … Dn），其中N是批量大小。

  • scale (异构) - T:

    输入大小为C的一维尺度张量。

  • B（异质的） - T：

    输入大小为C的一维偏置张量。

输出

  • 输出 (异构) - T:

    输出张量与输入形状相同。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) ):

    将输入和输出类型限制为浮点张量。

实例归一化 - 6

版本

此版本的运算符自版本6起可用。

摘要

执行实例归一化，如论文https://arxiv.org/abs/1607.08022中所述。

y = scale * (x - mean) / sqrt(variance + epsilon) + B, 其中均值和方差是按每个实例的每个通道计算的。

属性

  • epsilon - FLOAT (默认值为 '1e-05'):

    用于避免除以零的epsilon值。

输入

  • 输入 (异构) - T:

    来自前一个操作符的输入数据张量；对于图像情况，维度为（N x C x H x W），其中N是批量大小，C是通道数，H和W是数据的高度和宽度。对于非图像情况，维度形式为（N x C x D1 x D2 … Dn），其中N是批量大小。

  • scale (异构) - T:

    输入大小为C的一维尺度张量。

  • B（异质的） - T：

    输入大小为C的一维偏置张量。

输出

  • 输出 (异构) - T:

    输出张量与输入形状相同。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。

实例归一化 - 1

版本

此版本的运算符自版本1起可用。

总结

执行实例归一化，如论文https://arxiv.org/abs/1607.08022中所述。

y = scale * (x - mean) / sqrt(variance + epsilon) + B, 其中均值和方差是按每个实例每个通道计算的。

属性

  • consumed_inputs - INTS :

    遗留优化属性。

  • epsilon - FLOAT (默认值为 '1e-05'):

    用于避免除以零的epsilon值，默认值为1e-5f。

输入

  • 输入 (异构) - T:

    输入的四维张量，形状为NCHW。

  • scale (异构) - T:

    输入大小为C的一维尺度张量。

  • B（异质的） - T：

    输入大小为C的一维偏置张量。

输出

  • 输出 (异构) - T:

    输出的4维张量与输入的形状相同。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。