LibMTL.weighting.GradDrop

class GradDrop[来源]

基础类:LibMTL.weighting.abstract_weighting.AbsWeighting

梯度符号丢弃(GradDrop)。

该方法在Just Pick a Sign: Optimizing Deep Multitask Models with Gradient Sign Dropout (NeurIPS 2020)中提出,并由我们实现。

Parameters:

leak (float, default=0.0) – 权重矩阵的泄漏参数。

警告

GradDrop 不支持参数梯度,即 rep_grad 必须为 True

backward(losses, **kwargs)[来源]
Parameters:
  • losses (列表) – 每个任务的损失列表。

  • kwargs (dict) – 一个包含加权方法超参数的字典。