功能
一些支持性函数。
类
一个通用的张量裁剪函数。 |
- class ClipFunction
基础:
Function一个通用的张量裁剪函数。
Pytorch的clamp()仅支持标量范围,不支持广播。此实现使用min/max,更为通用。梯度是根据IBM的PACT论文https://arxiv.org/abs/1805.06085定义的,这也是Tensorflow的clip_by_value()的行为。
- static backward(ctx, grad_output)
clip函数的反向传播。
- static forward(ctx, input, clip_value_min, clip_value_max)
clip函数的前向传递。