Skip to article frontmatterSkip to article content
Site not loading correctly?

This may be due to an incorrect BASE_URL configuration. See the MyST Documentation for reference.

平稳模型

Abstract

本节首先会介绍平稳性的概念,之后介绍常见的平稳模型及其性质,最后介绍模型的可逆性。

Keywords:MAARARMAYule-Walker Equation

平稳性 (Stationarity)

为了更好地分析序列的统计性质,我们往往会对序列做一些假设,所以本节引入平稳性的概念。平稳性分为强平稳性和弱平稳性:

不过强平稳性中的联合分布在现实的条件中难以计算,故下面给出条件弱化后的弱平稳性概念:

对于弱平稳序列来说,因为协方差 Cov(Xi,Xj)\mathrm{Cov}(X_{i},X_{j}) 只与滞后阶数 k=i−jk=i-j 有关,所以定义只与滞后阶数 kk 相关的自协方差函数与自相关函数:

在整个时间序列教程中使用弱平稳作为平稳的衡量标准,即:

序列 {Yt} 平稳⇔序列 {Yt} 弱平稳.\text{序列 } \{Y_t\} \text{ 平稳} \Leftrightarrow \text{序列 } \{Y_t\} \text{ 弱平稳}.

白噪声序列 (White Noise)

方差为 \sigma_e^2=1 的白噪声序列示意图

Figure 1:方差为 σe2=1\sigma_e^2=1 的白噪声序列示意图


一般线性过程 (General Linear Process)


滑动平均模型 (Moving Average Models)

参数为 \boldsymbol{\theta}=(0.75,-0.35)^\top 的 MA(2) 模型示意图

Figure 2:参数为 θ=(0.75,−0.35)⊤\boldsymbol{\theta}=(0.75,-0.35)^\top 的 MA(2)MA(2) 模型示意图

自协方差与自相关系数

对于 qq 阶参数为 (θ1,⋯ ,θq)⊤(\theta_1,\cdots,\theta_q)^\top 的滑动平均序列 {Yt}\{Y_t\} ,自相关系数为

ρk={−θk+θk+1θ1+θk+2θ2+⋯+θqθq−k1+θ12+θ22+⋯+θq2,k=1,2,…,q,0,k>q.\rho_{k}=\begin{cases}\dfrac{-\theta_{k}+\theta_{k+1}\theta_{1}+\theta_{k+2}\theta_{2}+\cdots +\theta_{q}\theta_{q-k}}{1+\theta_{1}^{2}+\theta_{2}^{2}+\cdots+\theta_{q}^{2}},\quad & k=1,2,\ldots,q, \\ 0,\quad &k>q.\end{cases}

下面我们以前述的参数为 θ=(0.75,−0.35)⊤\boldsymbol{\theta}=(0.75,-0.35)^\top 的 MA(2)MA(2) 模型为例计算不同阶的自相关系数。首先,一阶自相关系数为

ρ1=−0.75−0.75×0.351+0.752+(−0.35)2≈−0.601.\rho_1 = \frac{-0.75 - 0.75 \times 0.35}{1+0.75^2 + (-0.35)^2} \approx -0.601.

从 下图 YtY_t 与 Yt−1Y_{t-1} 的散点图中可以看出 YtY_t 和 Yt−1Y_{t-1} 确实存在负相关的关系。

MA(2) 模型的 Y_{t-1} - Y_{t} 散点图

Figure 3:MA(2)MA(2) 模型的 Yt−1Y_{t-1} - YtY_{t} 散点图

二阶自相关系数为

ρ2=−(−0.35)1+0.752+(−0.35)2≈0.208.\rho_2 = \frac{-(-0.35)}{1+0.75^2 + (-0.35)^2} \approx 0.208.
MA(2) 模型的二阶自相关系数 \rho_2 示意图

Figure 4:MA(2)MA(2) 模型的二阶自相关系数 ρ2\rho_2 示意图

MA(2) 模型的三阶自相关系数 \rho_3 示意图

Figure 5:MA(2)MA(2) 模型的三阶自相关系数 ρ3\rho_3 示意图


自回归模型 (Autoregressive Models)

参数为 \boldsymbol{\phi}=(0.72,-0.25)^\top 的 AR(2) 模型示意图

Figure 6:参数为 ϕ=(0.72,−0.25)⊤\boldsymbol{\phi}=(0.72,-0.25)^\top 的 AR(2)AR(2) 模型示意图

Yule-Walker 方程

假设 pp 阶自回归模型 AR(p)AR(p) 是平稳的 (平稳性条件在 模型的平稳条件中讲述)并且序列的均值为 0 ,则 YsY_s 与 YtY_t 的协方差 Cov(Ys,Yt)\mathrm{Cov}(Y_s,Y_t) 只与时间差 s−ts-t 有关。对于递推公式

Yt=et+ϕ1Yt−1+⋯+ϕpYt−p,Y_t = e_t + \phi_1 Y_{t-1} + \cdots + \phi_p Y_{t-p},

等式两边同乘 Yt−k(k∈{1,…,p})Y_{t-k}(k\in \{1,\ldots,p\}) 并对等式两边取期望可得:

E[YtYt−k]=E[etYt−k]+ϕ1E[Yt−1Yt−k]+⋯+ϕkE[Yt−kYt−k]+⋯+ϕpE[Yt−pYt−k],\mathbb{E}[Y_t Y_{t-k}] = \mathbb{E}[e_t Y_{t-k}] + \phi_1 \mathbb{E}[Y_{t-1}Y_{t-k}] + \cdots + \phi_k \mathbb{E}[Y_{t-k}Y_{t-k}] + \cdots + \phi_p \mathbb{E}[Y_{t-p}Y_{t-k}],

由于 Cov(Yt,Yt−k)=E[YtYt−k]−E[Yt]E[Yt−k]=E[YtYt−k]\mathrm{Cov}(Y_t,Y_{t-k})=\mathbb{E}[Y_t Y_{t-k}] - \mathbb{E}[Y_t]\mathbb{E}[Y_{t-k}]=\mathbb{E}[Y_t Y_{t-k}],所以上述等式用 E[YtYt−k]=γk\mathbb{E}[Y_t Y_{t-k}]=\gamma_k 代入可得:

γk=ϕ1γk−1+⋯+ϕkγ0+⋯+ϕpγ∣p−k∣,\gamma_k = \phi_1 \gamma_{k-1} + \cdots + \phi_k \gamma_0 + \cdots + \phi_p \gamma_{|p-k|},

同除 γ0=Var(Yk)\gamma_0 = \mathrm{Var}(Y_k) 可得Yule-Walker方程:

{ρ1=ϕ1+ϕ2ρ1+⋯+ϕpρp−1,ρ2=ϕ1ρ1+ϕ2+⋯+ϕpρp−2,⋮ρp=ϕ1ρp−1+ϕ2ρp−2+⋯+ϕp.\begin{cases} \rho_1 &= \phi_1 + \phi_2 \rho_1 + \cdots + \phi_p \rho_{p-1},\\ \rho_2 &= \phi_1 \rho_1 + \phi_2 + \cdots + \phi_p \rho_{p-2},\\ &\vdots\\ \rho_p &= \phi_1 \rho_{p-1} + \phi_2 \rho_{p-2} + \cdots + \phi_p.\\ \end{cases}

Yule-Walker 方程的


混合模型 (ARMA)

参数为 \boldsymbol{\phi}=(0.62,-0.18)^\top、\boldsymbol{\theta}=(0.65) 的 ARMA(2,1) 模型示意图

Figure 7:参数为 ϕ=(0.62,−0.18)⊤\boldsymbol{\phi}=(0.62,-0.18)^\top、θ=(0.65)\boldsymbol{\theta}=(0.65) 的 ARMA(2,1)ARMA(2,1) 模型示意图

混合模型自协方差的计算

与滑动平均模型和自回归模型的计算思路相同,混合模型的自协方差可以通过同时使用以下两种方法来计算: