torch

模块

modelopt.torch.distill

用于torch的蒸馏API子包。

modelopt.torch.export

导出包。

modelopt.torch.nas

NAS/基于剪枝的模型设计和优化的主模块。

modelopt.torch.opt

用于通用模型优化基础设施的模块。

modelopt.torch.prune

为剪枝算法提供的简化API,适用于modelopt.torch.nas

modelopt.torch.quantization

量化包。

modelopt.torch.sparsity

稀疏化算法的API。

modelopt.torch.speculative

推测解码优化。

modelopt.torch.trace

用于逐层依赖分析的追踪模块。

modelopt.torch.utils

实用函数。

用于torch的模型优化和部署子包。