二、AR模型的定义

p阶自回归模型，简称AP(p)模型：

其中，模型的自回归系数

满足AR(p)模型的时间序列称为AR(p)序列

AR(p)模型一般考虑两种情况：零均值AR(p)模型、中心化AR(p)模型

1、我们首先考虑零均值AR(p)模型，下面简称为AR(p)模型。零均值也就是常系数项 a0=0 的情形，这时，模型等号右侧的项均是时间t的函数

特别地，单摆模型就是AR(1)模型：

其特征多项式 的根为 ，要使其为稳定系统的充要条件是根在单位圆外|z1|>1。

简单变形为差分方程

此差分方程的解为 ，其中 为一个常数

这里还需额外注意一下，（+的左边）是非齐次方程的特解，（+的右边）是齐次方程的通解。

根据方差的平方提取特性（也就是白噪声的方差sigma的平方 * 系数aj的平方），可得AR(p)模型的方差

接下来考虑一下AR(p)模型的平稳性：

将AR(1)模型的根 在单位圆外|z1|>1的条件扩展到AP(p)模型，得到AR(p)模型稳定性的条件：

定义其特征方程的系数

AR(p)模型可写成

此式为模型的传递形式

3、然后我们考虑中心化AR(p)模型，也就是非零均值AR(p)模型

对于非零均值AR(p)序列,首先取数学期望，得

a. 考虑平稳序列，均值函数为常数，即

b.{ }是白噪声序列，所以它的期望为0， ，所以得均值为

而零均值平稳序列有 =0，所以非零均值平稳序列可以通过平移 而变为零均值平稳序列AR(p)

4. 零均值AR(p)模型的逆转形式。详见另一篇文 https://zhuanlan.zhihu.com/p/337693633

三、平稳AR序列的统计学性质

1、均值接上文，对于具体观测的一个平稳AR(p)序列，总体均值u可以通过样本均值 估计，然后利用 得到中心化的平稳AR(p)序列

2、方差

对于平稳AR(p)模型的逆转形式，两边取方差可得

因为 是呈指数下降，所以平稳AR(p)序列的方差有界

3、自协方差函数

4、自相关系数

5、偏自相关系数

以上3个单独写在另一篇文章里，https://zhuanlan.zhihu.com/p/338439772

四、AR模型参数的估计

1、最小二乘估计

2、最大似然估计

经典方法，不过度赘述

五、AR模型的定阶

根据样本偏自相关系数的截尾步数可以初步得到AR模型的阶数p，然而此时未必是最优的。所以还需要一些准则来实现满足要求（残差序列方差较小、模型阶数较低）的最合适的阶数p

1、FPE准则 最终预报误差（Final Prediction Error）准则

2、 AIC准则 Akaike准则

既要衡量模型对原始数据的拟合程度，也要考虑模型的复杂程度（模型中所含待估参数的个数）

其中拟合残差方差为模型阶数p的函数，p+1为模型中待估参数的个数（p个自回归系数+1个方差）

3、BIC准则 贝叶斯信息准则

解决了AIC准则在样本量较大时p值估计过高的倾向

AR模型的检验

检验残差

定性检验：残差自相关图判别法。如果残差是白噪声，理论上其延迟任何阶数之后自相关系数均为0，实际中不可能全为0，但是通常在零附近95%的置信水平（2倍标准差）以内。

定量检验：构造检验统计量再进行假设检验。比如Q统计量，检验最多滞后 k 的自相关等于零的原假设（即，数据值在某一滞后数之前是随机和独立的）。如果p>0.05，接受原假设，认为是白噪声

检验步骤：

step 1. 平稳性检验和白噪声检验

• 平稳性检验：原数据无明显的周期性和趋势性，可以初步认为该数据是平稳的；
• 白噪声检验：利用样本计算出样本自相关系数和偏自相关系数。看图，自相关系数是否落入2倍标准差的范围内，如果未落入，则说明该数据不是白噪声

step2. 模型识别和参数估计

模型识别：

自相关系数是具备周期性，即拖尾性。

偏自相关系数是否具备截尾性，在h阶之后截尾？

进而判定AR(h)模型

参数估计：

最大似然估计、或者最小二乘法估计得到模型参数 ，计算BIC值和AIC值

Step3. 模型的检验

白噪声检验：观察残差的自相关图和片自相关图，系数是否都在2倍标准差之内？
参数的显著性检验：构造检验统计量，比如Q统计量，检验模型的有效性