DeltaPointwiseLoss
- class DeltaPointwiseLoss(margin: float | None = 0.0, margin_activation: str | Module | None = 'softplus', reduction: str = 'mean')[source]
基础类:
PointwiseLoss用于逐点差异损失的通用类。
逐点损失
激活
边距
公式
实施
逐点铰链
ReLU
\(\lambda \neq 0\)
\(g(s, l) = \max(0, \lambda -\hat{l}*s)\)
软点向铰链
softplus
\(\lambda \neq 0\)
\(g(s, l) = \log(1+\exp(\lambda -\hat{l}*s))\)
逐点逻辑(softplus)
softplus
\(\lambda = 0\)
\(g(s, l) = \log(1+\exp(-\hat{l}*s))\)
初始化损失。
- Parameters:
属性摘要
优化损失超参数的默认策略
方法总结
forward(logits, labels)计算给定分数和标签的损失。
属性文档
- hpo_default: ClassVar[Mapping[str, Any]] = {'margin': {'high': 3, 'low': 0, 'type': <class 'float'>}, 'margin_activation': {'choices': {'hard', 'relu', 'soft', 'softplus'}, 'type': 'categorical'}}
优化损失超参数的默认策略
方法文档