Maxim Kochurov 的文章

高斯过程：HSGP 高级用法

希尔伯特空间高斯过程近似是一种低秩高斯过程近似方法，特别适合在像PyMC这样的概率编程语言中使用。它使用一组预先计算且固定的基函数来近似高斯过程，这些基函数不依赖于协方差核的形式或其超参数。这是一种参数化近似，因此在PyMC中可以通过pm.Data或pm.set_data像线性模型一样进行预测。您不需要定义非参数高斯过程依赖的.conditional分布。这使得将HSGP（而不是GP）集成到现有的PyMC模型中更加容易。此外，与其他许多高斯过程近似方法不同，HSGP可以在模型的任何地方使用，并且可以与任何似然函数一起使用。

阅读更多...

高斯过程：HSGP 高级用法

希尔伯特空间高斯过程近似是一种低秩高斯过程近似方法，特别适合在像PyMC这样的概率编程语言中使用。它使用一组预先计算且固定的基函数来近似高斯过程，这些基函数不依赖于协方差核的形式或其超参数。这是一种参数化近似，因此在PyMC中可以通过pm.Data或pm.set_data像线性模型一样进行预测。您不需要定义非参数高斯过程依赖的.conditional分布。这使得将HSGP（而不是GP）集成到现有的PyMC模型中更加容易。此外，与其他许多高斯过程近似方法不同，HSGP可以在模型的任何地方使用，并且可以与任何似然函数一起使用。

阅读更多 ...

高斯过程：HSGP 高级用法

希尔伯特空间高斯过程近似是一种低秩高斯过程近似方法，特别适合在像PyMC这样的概率编程语言中使用。它使用一组预先计算且固定的基函数来近似高斯过程，这些基函数不依赖于协方差核的形式或其超参数。这是一种参数化近似，因此在PyMC中可以通过pm.Data或pm.set_data像线性模型一样进行预测。您不需要定义非参数高斯过程依赖的.conditional分布。这使得将HSGP（而不是GP）集成到现有的PyMC模型中更加容易。此外，与其他许多高斯过程近似方法不同，HSGP可以在模型的任何地方使用，并且可以与任何似然函数一起使用。

阅读更多 ...

高斯过程：HSGP 高级用法

希尔伯特空间高斯过程近似是一种低秩高斯过程近似方法，特别适合在像PyMC这样的概率编程语言中使用。它使用一组预先计算且固定的基函数来近似高斯过程，这些基函数不依赖于协方差核的形式或其超参数。这是一种参数化近似，因此在PyMC中可以通过pm.Data或pm.set_data像线性模型一样进行预测。您不需要定义非参数高斯过程依赖的.conditional分布。这使得将HSGP（而不是GP）集成到现有的PyMC模型中更加容易。此外，与其他许多高斯过程近似方法不同，HSGP可以在模型的任何地方使用，并且可以与任何似然函数一起使用。

阅读更多 ...

PyMC中的变分推断简介

计算贝叶斯模型后验量的最常见策略是通过采样，特别是马尔可夫链蒙特卡洛（MCMC）算法。尽管采样算法及其相关计算在性能和效率上不断改进，但MCMC方法在数据规模上仍然扩展性差，对于超过几千个观测值的情况变得不可行。一种更具扩展性的替代方法是变分推断（VI），它将计算后验分布的问题重新表述为一个优化问题。

阅读更多...

使用PyMC进行变分推断简介

计算贝叶斯模型后验量的最常见策略是通过采样，特别是马尔可夫链蒙特卡洛（MCMC）算法。尽管采样算法及其相关计算在性能和效率上不断改进，但MCMC方法在数据规模上仍然扩展性差，对于超过几千个观测值的情况变得不可行。一种更具扩展性的替代方法是变分推断（VI），它将计算后验分布的问题重新表述为一个优化问题。

阅读更多...

经验近似概述

对于大多数模型，我们使用Metropolis或NUTS等采样MCMC算法。在PyMC中，我们习惯于存储MCMC样本的轨迹，然后使用它们进行分析。PyMC中的变分推断子模块有一个类似的概念：Empirical。这种近似方法为SVGD采样器存储粒子。独立SVGD粒子和MCMC样本之间没有区别。Empirical充当MCMC采样输出与apply_replacements或sample_node等全功能VI工具之间的桥梁。有关接口描述，请参见变分API快速入门。这里我们将只关注Emprical，并概述Empirical近似的特定内容。

阅读更多...

经验近似概述

对于大多数模型，我们使用Metropolis或NUTS等采样MCMC算法。在PyMC中，我们习惯于存储MCMC样本的轨迹，然后使用它们进行分析。PyMC中的变分推断子模块有一个类似的概念：Empirical。这种近似方法为SVGD采样器存储粒子。独立SVGD粒子与MCMC样本之间没有区别。Empirical充当MCMC采样输出与apply_replacements或sample_node等全功能VI工具之间的桥梁。有关接口描述，请参见变分API快速入门。这里我们将只关注Emprical，并概述Empirical近似的特定内容。

阅读更多...