sparsegpt

SparseGPT的实用函数。

类

SparseGPTSearcher

基于SparseGPT的稀疏掩码搜索算法。

函数

create_sgpt_mask	为给定的张量创建一个稀疏掩码。
invert	反转一个Hessian矩阵。
prepare	准备逆Hessian矩阵。

class SparseGPTSearcher

基础类: BaseSparseSearcher

基于SparseGPT的稀疏掩码搜索算法。

after_search()

从网络中移除Hessian工件。

before_search()

注册前向钩子以收集Hessian矩阵。

property default_search_config: Dict[str, Any]

获取搜索器的默认配置。

create_sgpt_mask(tensor, hessian, config)

为给定的张量创建一个稀疏掩码。

Parameters:

• 张量 (Tensor) –

• hessian (张量) –

• config (Dict[str, Any]) –

Return type:

张量

invert(hessian)

反转一个Hessian矩阵。

Parameters:

hessian (张量) –

Return type:

张量

prepare(tensor, hessian, hessian_damp)

准备逆Hessian矩阵。

Parameters:

• 张量 (Tensor) –

• hessian (张量) –

• hessian_damp (float) –

Return type:

元组[张量, 张量]