一、时间序列与ARMA模型 自回归滑动平均模型（ARMA模型，Auto-Regression and Moving Average Model）是研究时间序列的重要方法，由自回归模型（AR模型）与滑动平均模型（MA模型）为基础“混合”而成，具有适用范围广、预测误差小的特点。
一般 p阶自回归过程AR(p) 是：
（1-1） 其中{
}为白噪声，
为自回归模型的参数。
若用滞后算子L表示，则式（1-1）可以用滞后算子的p阶多项式来描述。
（1-2） 其中，
称为特征多项式或自回归算子。
如果时序{
}满足方程：
（1-3） 则称{
}为 q阶滑动平均过程 ，简写为 MA(q) 。
其中{
}为白噪声，
为滑动平均模型的参数。
自回归移动平均过程具有随机性的特点，它包括了两个不同的部分，即自回归、移动平均。
如果前p代表一部分的阶数值的上限值，用q代表后一部分的阶数值的上限值，那么 自回归滑动平均过程 就可以表示为 ARMA(p,q) 。
具体表达式如下：
（1-4） 其中{
}为白噪声，
为自回归模型的参数，
为滑动平均模型的参数。
二、ARMA模型的建立 ARMA建模步骤 （1）对输入的数据进行判断，判断其是否为平稳非纯随机序列，若平稳则直接进入步骤2；若不平稳则进行数据处理，处理后才能进入步骤2。
（2）通过自相关和偏自相关函数，并结合AIC或BIC准则对建立的模型进行模型识别和定阶。
（3）完成模型识别和定阶后，进入模型的参数估计阶段。
（4）完成参数估计后，对拟合的模型进行适应性检验。
如果拟合模型通过检验，则开始进行预测阶段。
若模型检验不通过，则重新进行模型识别和检验，即重复步骤2，重新选择模型。
（5）最后，利用适应性高的拟合模型，来预测序列的未来变化趋势。
数据的平稳性检验与处理 假如时间序列符合下列要求：（1）对任意时间t，其均值恒为常数；（2）对于任意的时间t与s，此时间序列的相关系数是由两个时间点之间的时间段决定的，两个时间点的起始点不会造成任何影响。
这样的时间序列就是平稳时间序列。
若一个AR过程是一个平稳过程，则其特征方程的根绝对值应在单位圆之外；而MA过程包含一组有限的、平稳的白噪声的线性组合，因此，MA过程是“天生”平稳的。
ARMA模型可以看成是AR模型和MA模型的组合，而MA过程必定是平稳的。
所以，ARMA模型的平稳性只需检验AR部分的平稳性。
平稳性检验的方法有数据图、逆序检验、游程检验、单位根检验、DF检验、 ADF检验 等。
在实际中，常常会遇到输入的时间序列经检验是非平稳的，这样就无法采用ARMA模型，通常的处理方法是采用差分的方法将它们变换为平稳的。
经差分后，如果时间序列检验为平稳，就对差分后的时间序列进行处理，便可建立对应的平稳随机过程或模型。
一个非平稳时间序列接受了d次差分处理并成为平稳序列时，就能够用一个平稳的ARMA(p,q)模型当作其对应的模型，则称该原始时间序列是一个 自回归积分滑动平均时间序列 ，表示成 ARIMA(p,d,q) 。
模型识别和定阶 模型的识别方法一般有两种，一种是自相关函数（ACF），另一种是偏自相关函数（PACF）。
这两种方法是识别ARMA模型最有效的方法。
可以采用两种函数的截尾性质来判断该模型的类型。
使用自相关函数和偏自相关函数的截尾来判断模型为ARMA模型时，并不能确定p和q的阶数，为了比较精确的确定p和q的阶数，就必须与常用的定阶准则联合起来应用。
如今应用最为广泛的是AIC（最小信息量准则（A-Information Criterion））和BIC准则。
AIC准则是拟合精度和参数个数的加权函数，使AIC函数达到最小值的模型被认为是最优模型。
设{
}为一时间序列的样本，我们用AR(n)模型来描述它。
是拟合残差方差，定义AIC准则函数如下：
（2-1）
（2-2） 其中M(N)等于
或
，我们便取
为最佳自回归模型阶数。
BIC准则定义如下：
（2-3） 其中，n为参数个数。
若某一阶数
满足
（2-4） 其中M(N)等于
或
，则为最佳系数。
模型参数估计和适应性检验 任何ARMA或MA过程可以用一个无限阶的AR过程表示，所以如果选择了一个不合适的模型，但只要模型的阶数足够高，它仍然能够比较好地逼近被建模的随机过程。
在这三种参数模型中，AR模型得到了普遍应用，其原因是AR模型的参数计算过程是线性方程，比较简便。
MA模型一般需要数量很多的参数；ARMA模型虽然所需的参数数量最少，但参数估计的算法是非线性方程组，其运算远比AR模型复杂。
再考虑到任意ARMA或MA信号模型可以用无限阶或阶数足够大的AR模型来表示，我们就将ARMA模型转换为AR模型，并用Bury递推算法求解参数。
详见 点击打开链接 。