高斯局部水平模型

简介

高斯状态空间模型——通常被称为结构时间序列或不可观测成分模型——提供了一种将时间序列分解为多个不同成分的方法。如果误差项联合服从高斯分布，则可以使用卡尔曼滤波器以闭合形式提取这些成分，并通过预测误差分解和最大似然估计来估计参数。

一个经典的单变量结构时间序列模型是局部水平模型。我们可以将其表示为时变水平项和不规则项的组合：

\[y_{t} = \mu_{t} + \epsilon_{t}\]

\[\mu_{t} = \mu_{t-1} + \eta_{t}\]

\[\epsilon_{t} \sim N\left(0,\sigma_{\epsilon}^{2}\right)\]

\[\eta_{t} \sim N\left(0,\sigma_{\eta}^{2}\right)\]

示例

我们将使用诺丁汉森林和德比两支足球队从竞技历史开始以来直接对决比赛中的进球数数据。我们感兴趣的是了解这些比赛随着时间的推移是否变得进球更多或更少。

import numpy as np
import pyflux as pf
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline

nile = pd.read_csv('https://vincentarelbundock.github.io/Rdatasets/csv/datasets/Nile.csv')
nile.index = pd.to_datetime(nile['time'].values,format='%Y')
plt.figure(figsize=(15,5))
plt.plot(nile.index,nile['Nile'])
plt.ylabel('Discharge Volume')
plt.title('Nile River Discharge');
plt.show()

这里定义一个Local Level模型如下：

model = pf.LLEV(data=nile, target='Nile')

我们也可以使用更高级别的封装器，它允许我们指定分布族，不过如果我们选择一个非高斯分布族，模型将以不同的方式进行估计（不是通过卡尔曼滤波器）：

model = pf.LocalLevel(data=nile, target='Nile', family=pf.Normal())

接下来我们估计潜在变量。对于这个例子，我们将使用最大似然点质量估计 \(z^{MLE}\)：

x = model.fit()
x.summary()

LLEV
======================================== =================================================
Dependent Variable: Nile                 Method: MLE
Start Date: 1871-01-01 00:00:00          Log Likelihood: -641.5238
End Date: 1970-01-01 00:00:00            AIC: 1287.0476
Number of observations: 100              BIC: 1292.258
==========================================================================================
Latent Variable           Estimate   Std Error  z        P>|z|    95% C.I.
========================= ========== ========== ======== ======== ========================
Sigma^2 irregular         15098.5722
Sigma^2 level             1469.11317
==========================================================================================

我们可以使用plot_fit()来绘制样本内拟合图：

model.plot_fit(figsize=(15,10))

该模型在20世纪初适应了较低的水平。

我们可以使用Durbin和Koopman(2002)的模拟平滑器来模拟局部水平状态的抽样，通过simulation_smoother()实现：

plt.figure(figsize=(15,5))
for i in range(10):
    plt.plot(model.index, model.simulation_smoother(
            model.latent_variables.get_z_values())[0][0:model.index.shape[0]])
plt.show()

如果我们想绘制滚动样本内预测，可以使用plot_predict_is()方法：

model.plot_predict_is(h=20,figsize=(15,5))

我们可以使用plot_predict()查看样本外预测结果：

model.plot_predict(h=5,figsize=(15,5))

如果我们希望以DataFrame格式获取预测结果，可以直接使用predict()方法。

类描述

class LLEV(data, integ, target)

局部水平模型。

参数	类型	描述
data	pd.DataFrame or np.ndarray	包含单变量时间序列
integ	int	数据差分次数 (默认: 0)
target	string or int	指定使用DataFrame/array中的哪一列。

属性

latent_variables

一个包含模型潜在变量信息的pf.LatentVariables()对象，包括先验设置、任何拟合值、初始值和其他潜在变量信息。当模型被拟合时，这里就是潜在变量被更新/存储的地方。有关此对象内属性的信息以及访问潜在变量信息的方法，请参阅潜在变量文档。

方法

adjust_prior(index, prior)

调整模型潜在变量的先验分布。潜在变量及其索引可以通过打印附加到模型实例的latent_variables属性来查看。

参数	类型	描述
index	int	要更改的潜变量索引
prior	pf.Family instance	Prior distribution, e.g. pf.Normal()

返回: void - 修改模型的 latent_variables 属性

fit(method, **kwargs)

估计模型的潜在变量。用户选择一个推断选项，该方法会返回一个结果对象，同时更新模型的latent_variables属性。

参数	类型	描述
method	str	推断选项：例如 'M-H' 或 'MLE'

请参阅文档中的贝叶斯推断和经典推断部分，了解完整的推断选项列表。可以输入与所选特定推断模式相关的可选参数。

返回: 包含估计潜在变量信息的pf.Results实例

plot_fit(**kwargs)

绘制模型对数据的拟合情况。可选参数包括figsize，即绘图图形的尺寸。

返回 : void - 显示一个matplotlib绘图

plot_ppc(T, nsims)

绘制后验预测检查的直方图，使用用户选择的差异度量。此方法仅在使用贝叶斯推断进行拟合时有效。

参数	类型	描述
T	function	Discrepancy, e.g. np.mean or np.max
nsims	int	PPC需要进行多少次模拟

返回值: void - 显示一个matplotlib绘图

plot_predict(h, past_values, intervals, **kwargs)

绘制模型的预测结果，并附带置信区间。

参数	类型	描述
h	int	预测向前多少步
past_values	int	要绘制的历史数据点数量
intervals	boolean	是否绘制区间

可选参数包括figsize - 图表绘制的尺寸。请注意 如果您使用最大似然估计或变分推断，显示的区间将不会 反映潜在变量的不确定性。只有Metropolis-Hastings方法能提供完全贝叶斯 预测区间。由于平均场推断的局限性（无法考虑后验相关性）， 变分推断的贝叶斯区间不予显示。

返回 : void - 显示一个matplotlib绘图

plot_predict_is(h, fit_once, fit_method, **kwargs)

绘制模型在样本内的滚动预测。这意味着用户假装数据的最后一部分是样本外的，并在每个时间段后进行预测并评估其表现。用户可以选择是在开始时一次性拟合参数，还是在每个时间步都进行拟合。

参数	类型	描述
h	int	使用多少个先前的时间步
fit_once	boolean	是否只拟合一次，还是每个时间步都拟合
fit_method	str	选择哪种推断方法，例如'MLE'

可选参数包括figsize - 要绘制的图形尺寸。h是一个整数，表示要模拟性能的前几步。

返回 : void - 显示一个matplotlib绘图

plot_sample(nsims, plot_data=True)

绘制模型后验预测密度的样本。此方法仅适用于通过贝叶斯推断拟合的模型。

参数	类型	描述
nsims	int	需要抽取的样本数量
plot_data	boolean	是否同时绘制真实数据

返回 : void - 显示一个matplotlib绘图

plot_z(indices, figsize)

返回潜在变量及其相关不确定性的绘图。

参数	类型	描述
indices	int or list	要绘制的潜变量索引
figsize	tuple	matplotlib图形的大小

返回 : void - 显示一个matplotlib绘图

ppc(T, nsims)

返回后验预测检验的p值。此方法仅在您使用贝叶斯推断进行拟合时才有效。

参数	类型	描述
T	function	Discrepancy, e.g. np.mean or np.max
nsims	int	PPC需要进行多少次模拟

返回值: int - 差异检验的p值

predict(h, intervals=False)

返回模型预测结果的DataFrame。

参数	类型	描述
h	int	预测向前多少步
intervals	boolean	是否返回预测区间

请注意，如果您使用最大似然估计或变分推断，显示的区间将不会反映潜在变量的不确定性。只有Metropolis-Hastings方法能提供完全贝叶斯预测区间。由于平均场推断的局限性（未考虑后验相关性），变分推断的贝叶斯区间未予显示。

返回 : pd.DataFrame - 模型预测结果

predict_is(h, fit_once, fit_method)

返回模型样本内滚动预测的DataFrame。

参数	类型	描述
h	int	使用多少个先前的时间步
fit_once	boolean	是否只拟合一次，还是每个时间步都拟合
fit_method	str	选择哪种推断方法，例如'MLE'

返回 : pd.DataFrame - 模型预测结果

sample(nsims)

返回从后验预测密度中抽取的数据的np.ndarray数组。此方法仅在您使用贝叶斯推断拟合模型时才有效。

参数	类型	描述
nsims	int	进行多少次后验抽样

返回值 : np.ndarray - 来自后验预测密度的样本。

simulation_smoother(beta)

返回从Durbin和Koopman(2002)模拟平滑器中抽取的数据的np.ndarray数组。

参数	类型	描述
beta	np.array	潜在变量的np.array数组

如果已经拟合了模型，建议直接使用model.latent_variables.get_z_values()作为beta输入。

返回 : np.ndarray - 来自模拟平滑器的样本

参考文献

Durbin, J. 和 Koopman, S. J. (2002). 一种简单高效的状态空间时间序列分析模拟平滑器。Biometrika, 89(3):603–615.

Harvey, A. C. (1989). 《预测、结构时间序列模型与卡尔曼滤波》。 剑桥大学出版社，剑桥。