Dropout

Dropout - 22

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 22

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本22起可用。

摘要

Dropout 接受一个输入浮点张量，一个可选的输入比例（浮点标量）和一个可选的输入训练模式（布尔标量）。它产生两个张量输出，输出（浮点张量）和掩码（可选的 Tensor）。如果 training_mode 为真，则输出 Y 将是一个随机 dropout；请注意，此 Dropout 通过以下公式对掩码输入数据进行缩放，因此要将训练模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此操作符具有可选的输入/输出。有关可选参数表示的更多详细信息，请参见ONNX IR。可以使用空字符串代替实际参数的名称来表示缺少的参数。尾随的可选参数（后面没有跟随实际存在的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

在1到3个输入之间。

  • data (异构) - T:

    输入数据作为Tensor。

  • ratio (可选, 异构) - T1:

    随机丢弃的比例，取值范围为[0, 1)。如果未设置此输入，或者设置为0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常是训练期间的情况。它是一个可选值，如果未指定，则默认为0.5。

  • training_mode (可选, 异构) - T2:

    如果设置为true，则表示在训练中使用dropout。这是一个可选值，因此除非明确指定，否则为false。如果为false，则忽略ratio，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，并且如果请求mask作为输出，它将包含所有1。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask（可选，异构）- T2:

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) ):

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz) ):

    将输入‘ratio’类型限制为浮点张量。

  • T2 在 ( tensor(bool) ) 中:

    将输出‘mask’类型限制为布尔张量。

Dropout - 13

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 13

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本13起可用。

摘要

Dropout 接受一个输入浮点张量，一个可选的输入比例（浮点标量）和一个可选的输入 training_mode（布尔标量）。它产生两个张量输出，output（浮点张量）和 mask（可选的 Tensor）。如果 training_mode 为真，则输出 Y 将是一个随机 dropout；请注意，此 Dropout 通过以下公式对掩码输入数据进行缩放，因此要将训练模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此操作符具有可选的输入/输出。有关可选参数表示的更多详细信息，请参见ONNX IR。可以使用空字符串代替实际参数的名称来表示缺少的参数。尾随的可选参数（后面没有跟随实际存在的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

在1到3个输入之间。

  • data (异构) - T:

    输入数据作为Tensor。

  • ratio (可选, 异构) - T1:

    随机丢弃的比例，取值范围为[0, 1)。如果未设置此输入，或者设置为0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常是训练期间的情况。它是一个可选值，如果未指定，则默认为0.5。

  • training_mode (可选, 异构) - T2:

    如果设置为true，则表示在训练中使用dropout。这是一个可选值，因此除非明确指定，否则为false。如果为false，则忽略ratio，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，并且如果请求mask作为输出，它将包含所有1。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask（可选，异构） - T2:

    输出掩码。

类型约束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) ):

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入‘ratio’类型限制为浮点张量。

  • T2 在 ( tensor(bool) ) 中:

    将输出‘mask’类型限制为布尔张量。

Dropout - 12

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 12

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本12起可用。

总结

Dropout 接受一个输入浮点张量，一个可选的输入比例（浮点标量）和一个可选的输入训练模式（布尔标量）。它产生两个张量输出，输出（浮点张量）和掩码（可选的 Tensor）。如果 training_mode 为真，则输出 Y 将是一个随机 dropout；请注意，此 Dropout 通过以下公式对掩码输入数据进行缩放，因此要将训练模型转换为推理模式，用户可以简单地不传递 training_mode 输入或将其设置为 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此操作符具有可选的输入/输出。有关可选参数表示的更多详细信息，请参见ONNX IR。可以使用空字符串代替实际参数的名称来表示缺少的参数。尾随的可选参数（后面没有跟随实际存在的参数）也可以简单地省略。

属性

  • seed - INT :

    （可选）随机生成器的种子，如果未指定，我们将自动生成一个。

输入

在1到3个输入之间。

  • data (异构) - T:

    输入数据作为Tensor。

  • ratio (可选, 异构) - T1:

    随机丢弃的比例，取值范围为[0, 1)。如果未设置此输入，或者设置为0，则输出将是输入的简单副本。如果非零，输出将是缩放输入的随机丢弃，这通常是训练期间的情况。它是一个可选值，如果未指定，则默认为0.5。

  • training_mode (可选, 异构) - T2:

    如果设置为true，则表示在训练中使用dropout。这是一个可选值，因此除非明确指定，否则为false。如果为false，则忽略ratio，并且操作模拟推理模式，其中不会从输入数据中丢弃任何内容，并且如果请求mask作为输出，它将包含所有1。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask（可选，异构）- T2:

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入‘ratio’类型限制为浮点张量。

  • T2 在 ( tensor(bool) ) 中:

    将输出‘mask’类型限制为布尔张量。

Dropout - 10

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 10

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本10起可用。

摘要

Dropout 接受一个浮点张量输入并产生两个张量输出，输出（浮点张量）和掩码（Tensor）。根据是否处于测试模式，输出 Y 将是一个随机 dropout 或输入的简单副本。请注意，我们的 Dropout 实现在训练阶段进行了缩放，因此在测试阶段不需要做任何处理。该操作符具有可选的输入/输出。有关可选参数表示的更多详细信息，请参见 ONNX IR。可以使用空字符串代替实际参数的名称来表示缺少的参数。尾随的可选参数（那些后面没有实际参数的参数）也可以简单地省略。

属性

  • ratio - FLOAT (默认值为 '0.5'):

    随机丢弃的比例

输入

  • data (异构) - T:

    输入数据作为Tensor。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask (可选, 异构) - T1:

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。

  • T1 在 ( tensor(bool) ) 中:

    将输出掩码类型限制为布尔张量。

Dropout - 7

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 7

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本7起可用。

摘要

Dropout 接受一个输入数据（Tensor）并生成两个 Tensor 输出，输出（Tensor）和掩码（Tensor）。根据是否处于测试模式，输出 Y 将是一个随机 dropout，或者输入的简单副本。请注意，我们的 Dropout 实现在训练阶段进行了缩放，因此在测试阶段不需要做任何处理。 此操作符具有可选的输入/输出。有关可选参数表示的更多详细信息，请参见 ONNX IR。可以使用空字符串代替实际参数的名称来表示缺少的参数。尾随的可选参数（那些后面没有跟随实际参数的参数）也可以简单地省略。

属性

  • 比率 - 浮点数 (默认值为 '0.5'):

    随机丢弃的比例

输入

  • data (异构) - T:

    输入数据作为Tensor。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask（可选，异构） - T:

    输出掩码。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。

Dropout - 6

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 6

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: True

此版本的运算符自版本6起可用。

摘要

Dropout 接受一个输入数据（Tensor）并生成两个 Tensor 输出，输出（Tensor）和掩码（Tensor）。根据是否处于测试模式，输出 Y 将是一个随机 dropout，或者输入的简单副本。请注意，我们的 Dropout 实现在训练阶段进行了缩放，因此在测试阶段不需要做任何处理。

属性

  • is_test - INT (默认值为 '0'):

    (int, 默认值 0) 如果非零，则在测试模式下运行 dropout，其中输出简单地是 Y = X。

  • ratio - FLOAT (默认值为 '0.5'):

    (float, 默认值 0.5) 随机丢弃的比例

输入

  • data (异构) - T:

    输入数据作为Tensor。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask (可选, 异构) - T:

    输出掩码。如果is_test不为零，则不填充此输出。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。

Dropout - 1

版本

  • 名称: Dropout (GitHub)

  • 域名: main

  • since_version: 1

  • 函数: False

  • support_level: SupportType.COMMON

  • 形状推断: False

此版本的运算符自版本1起可用。

总结

Dropout 接收一个输入数据（Tensor）并生成两个 Tensor 输出，输出（Tensor）和掩码（Tensor）。根据是否处于测试模式，输出 Y 将是一个随机 dropout，或者输入的简单复制。请注意，我们的 Dropout 实现在训练阶段进行了缩放，因此在测试阶段不需要做任何处理。

属性

  • consumed_inputs - INTS :

    遗留优化属性。

  • is_test - INT (默认值为 '0'):

    (int, 默认值 0) 如果非零，则在测试模式下运行 dropout，其中输出简单地是 Y = X。

  • 比率 - 浮点数 (默认值为 '0.5'):

    (float, 默认值 0.5) 随机丢弃的比例

输入

  • data (异构) - T:

    输入数据作为Tensor。

输出

在1和2之间输出。

  • 输出 (异构) - T:

    输出。

  • mask（可选，异构） - T:

    输出掩码。如果is_test不为零，则不填充此输出。

类型约束

  • T 在 ( tensor(double), tensor(float), tensor(float16) ) 中:

    将输入和输出类型限制为浮点张量。