差分方程的解析解
例题．求$y_t=a_0+a_1y_{t-1}+\epsilon_t$的解析解
当初始条件已知，即$y_0$已知时，迭代算法如下：
- 向前迭代算法
$$y_1=a_0+a_1y_0+\epsilon_1$$
$$y_2=a_0+a_1y_1+\epsilon_2$$
$$y_3=a_0+a_1y_2+\epsilon_3$$
$$…$$
$$y_t=a_0+a_1y_{t-1}+\epsilon_t$$
以上列举了该差分方程的所有项，我们要做的就是通过这些递推关系来逐步迭代，当迭代完所有项之后，最终可以得到目标解析解.
$$y_1=a_0+a_1y_0+\epsilon_1$$
$$y_2=a_0+a_1y_1+\epsilon_2=a_0+a_1(a_0+a_1y_0+\epsilon_1)+\epsilon_2=$$
$$a_0+a_0a_1+{a_1}^2y_0+a_1\epsilon_1+\epsilon_2=[a_0(1+a_1)]+[a_1^2y_0]+[a_1\epsilon_1+\epsilon_2]$$
$$y_3=a_0+a_1y_2+\epsilon_3=a_0+a_1(a_0+a_0a_1+{a_1}^2y_0+a_1\epsilon_1+\epsilon_2)+\epsilon_3=$$
$$[a_0+a_0a_1+a_0{a_1}^2]+[a_1^3y_0]+[a_1^2\epsilon_1+a_1\epsilon_2+\epsilon_3]=[a_0(1+a_1+a_1^2)]+[a_1^3y_0]+[a_1^2\epsilon_1+a_1\epsilon_2+\epsilon_3]$$
$$…$$
由数学归纳法，递推下去，则有：
$$y_t=[a_0(a_1+a_1^2+…+a_1^{t-1})]+[a_1^ty_0]+[a_1^{t-1}\epsilon_1+a_1^{t-2}\epsilon_2+…+a_1^0\epsilon_t]=$$
$$a_0\sum_{i=0}^{t-1}a_1^i+a_1^ty_0+\sum_{i=0}^{t-1}a_1^i\epsilon_{t-i}$$
上式便是目标解析解，因为$y_0$已知，即不含有任何未知项.
之所以称之为“向前迭代法”，是因为迭代的索引是从$y_1$开始，一步一步往前面跑去，逐步迭代得到到目标式$y_n$的.
你肯定会想到，既然有向前迭代，那么一定有向后迭代了，没错，向后迭代就是从最后一项$y_t$逐渐向$y_0$进行迭代.
- 向后迭代
同样是求解$y_t=a_0+a_1y_{t-1}+\epsilon_t$的解析解:
$$y_t=a_0+a_1y_{t-1}+\epsilon_t$$
$$y_{t-1}=a_0+a_1y_{t-2}+\epsilon_{t-1}$$
$$y_{t-2}=a_0+a_1y_{t-3}+\epsilon_{t-2}$$
$$…$$
$$y_2=a_0+a_1y_1+\epsilon_2$$
$$y_1=a_0+a_1y_0+\epsilon_1$$
$$y_0=a_0+a_1y_{-1}+\epsilon_0$$
开始迭代：(前面写了两次迭代过程,总共迭代$t-1$次)
$$y_t=a_0+a_1y_{t-1}+\epsilon_t=$$
$$a_0+a_1(a_0+a_1y_{t-2}+\epsilon_{t-1})+\epsilon_t=$$
$$a_0+a_1a_0+a_1^2y_{t-2}+a_1\epsilon_{t-1}+\epsilon_t=$$
$$[a_0(1+a_1)]+[a_1^2y_{t-2}]+[a_1\epsilon_{t-1}+\epsilon_t]$$
$$a_0+a_1a_0+a_1^2(a_0+a_1y_{t-3}+\epsilon_{t-2})+a_1\epsilon_{t-1}+\epsilon_t=$$
$$[a_0+a_1a_0+a_1^2a_0]+[a_1^3y_{t-3}]+[a_1^2\epsilon_{t-2}+a_1\epsilon_{t-1}+\epsilon_t]=$$
$$[a_0(1+a_1+a_1^2)]+[a_1^3y_{t-3}]+[a_1^2\epsilon_{t-2}+a_1\epsilon_{t-1}+\epsilon_t]=$$
$$…$$
$$=[a_0(1+a_1+a_1^2+…+a_1^{t-1})]+[a_1^ty_0]+[a_1^{t-1}\epsilon_{1}+a_1^{t-2}\epsilon_{2}+…+a_1^0\epsilon_t]＝$$
$$a_0\sum_{i=0}^{t-1}a_1^i+a_1^ty_0+\sum_{i=0}^{t-1}a_1^i\epsilon_{t-i}$$
而当初始条件未知，即$y_0$未知时，我们需要对上面得到的差分方程的解继续化：
$$y_t=a_0\sum_{i=0}^{t-1}a_1^i+a_1^ty_0+\sum_{i=0}^{t-1}a_1^i\epsilon_{t-i}=$$
$$a_0\sum_{i=0}^{t-1}a_1^i+a_1^t(a_0+a_1y_{-1}+\epsilon_0)+\sum_{i=0}^{t-1}a_1^i\epsilon_{t-i}=$$
$$a_0\sum_{i=0}^{t-1}a_1^i+(a_0a_1^t+a_1^{t+1}y_{-1}+a_1^t\epsilon_0)+\sum_{i=0}^{t-1}a_1^i\epsilon_{t-i}=$$
$$a_0\sum_{i=0}^{t}a_1^i+a_1^{t+1}y_{-1}+\sum_{i=0}^{t}a_1^i\epsilon_{t-i}=$$
$$…$$
$$=a_0\sum_{i=0}^{(t-1)+m}a_1^i+a_1^{t+m}y_{-m}+\sum_{i=0}^{(t-1)+m}a_1^i\epsilon_{t-i}$$
由于初始条件未知，我们现在来讨论解是否存在，即解的敛散性:
- 当$|a_1|<1$时，第一项出现等比数列求和，由无穷递缩等比数列性质，当$m\rightarrow\infty$时，第一项收敛到$\frac{a_0}{1-a_1}$;第二项中的$a_1^{t+m}$会收敛到０，因此第二项将收敛到０;第三项是一个有界量，类似于白噪声序列.
所以此时的解为
$$y_t=\frac{a_0}{1-a_1}+\sum_{i=0}^{t+m-1}a_1^i\epsilon_{t-i}$$ - 当$|a_1|>1$时，发散；
- 当$|a_1|＝1$时，直接代回到最开始的式子，即得
$$y_t=a_0t+y_0+\sum_{i=0}^{t-1}\epsilon_{t-i}=a_0t+y_0+\sum_{i=1}^{t}\epsilon_{i}$$
以上便是针对例题展开的求解过程
而对于一般的线性差分方程
$$y_t=a_0+a_1y_{t-1}+a_2y_{t-2}…+a_ny_{t-n}+x(t)．．．（１）$$
其齐次线性差分方程为
$$y_t=a_1y_{t-1}+a_2y_{t-2}…+a_ny_{t-n}．．．（２）$$
我们首先要明确，
- 对于齐次线性差分方程（２式），对任意常数$A$，如果$y_t^h$是其一个解，那么$Ay_t^h$也是其一个解.
- 而对于非齐次线性差分方程（１式），我们需要求其一个特解及其对应的齐次线性差分方程的一个通解.
我们接下来将介绍一种新的解法（不同于之前的迭代法），称之为备选（特征根法）解法，来求解非齐次线性差分方程，即（１）式.
步骤如下：
(1)建立齐次线性差分方程（２）式，求齐次方程的解$y_t^{h_1},y_t^{h_2},…,y_t^{h_n}$；
(2)求出非齐次线性差分方程(1)式的一个特解$y_t^p$；
(3)非齐次线性差分方程（１）式的通解即为其自身的一个特解加上其对应的齐次线性差分方程的一个通解，即
$$y_t=y_t^p+A_1y_t^{h_1}+A_2y_t^{h_2}+…+A_ny_t^{h_n}$$
其中$A_1,A_2,…A_n$是任意常数；
(4)若已知初始条件$y_0,y_1,…$，则可以求出$A_1,A_2,…A_n$.(选)
其中第一步是最麻烦的，所以下面我们将针对第一步，即齐次线性差分方程的求解问题展开讨论
例题：解齐次线性差分方程
$$y_t=a_1y_{t-1}+a_2y_{t-2}…+a_ny_{t-n}$$
- 一阶齐次差分方程$y_t=ay_{t-1}$，
通解为$Aa^t$ ,可以用迭代法证明，用特征根法更为简单：
猜想其解的形式为$y_t=A\alpha^t$，代入上式，得$A\alpha^t=aA\alpha^{t-1}$，即$\alpha=a$，故通解为$y_t=aA\alpha^{t-1}=Aa^t$. - 二阶齐次差分方程$y_t=a_1y_{t-1}+a_2y_{t-2}$ ，
利用特征根法，猜想其解的形式为$y_t=A\alpha^t$，代入上式，得：
$$A\alpha^t=a_1A\alpha^{t-1}+a_2A\alpha^{t-2}$$
化简，得：
$$\alpha^2=a_1\alpha+a_2$$
移项，得：
$$\alpha^2-a_1\alpha-a_2=0$$
从而解得特征根为
$$\alpha_{1}=\frac{a_1{+}\sqrt{a_1^2+4a_2}}{2}$$
$$\alpha_{2}=\frac{a_1{-}\sqrt{a_1^2+4a_2}}{2}$$
其中$d=a_1^2+4a_2$
$d$有三种情况：$d>0,d＝０,d<0$，下面就分这三种情况来讨论(下面的内容很重要!)
(1)当$d=a_1^2+4a_2>0$时，$\alpha_1,\alpha_2$为互不相同的实根，此时的通解为$y_t=A_1\alpha_1^t+A_2\alpha_2^t$，其中$A_1,A_2$为任意常数.
当$|\alpha_1|$或者$｜\alpha_2｜$大于1时，发散；
当$|\alpha_1|$或者$｜\alpha_2｜$小于1时，收敛.
(2)当$d=a_1^2+4a_2=0$时，即$a_2=-\frac{a_1^2}{4}$时，$\alpha_1=\alpha_2$为重根，代回上面的特征根方程有$\alpha_1=\alpha_2=\frac{a_1}2$，此时$A\alpha_1^t=A{(\frac{a_1}2})^t$是方程的一个解（俩都一样，算一个），并且可以验证，$At{(\frac{a_1}2})^t$也是方程的一个解，所以此时方程的通解为$y_t=A_1{(\frac{a_1}2})^t+A_2t{(\frac{a_1}2})^t$，其中$A_1,A_2$为任意常数.
当$|\frac{a_1}2|<1$时，收敛；
当$|\frac{a_1}2|>1$时，发散.
(3)当$d=a_1^2+4a_2<0$时，即$a_2<-{\frac{a_1^2}4}<=0$，$\alpha_1,\alpha_2$为共轭复根，且
$$\alpha_1=\frac{a_1+i\sqrt{-d}}2$$
$$\alpha_1=\frac{a_1-i\sqrt{-d}}2$$
由于$a+bi=r(cos\theta+isin\theta)$，所以得到$r=\sqrt{a^2+b^2}$，并且我们要知道$cos\theta=\frac{a}{r}$
回到题目，计算得$r=\sqrt{({\frac{a_1}{2})}^2+{-\frac{-d}{4}}}=\sqrt{-a_2}$，从而得$cos\theta=\frac{\frac{a_1}{2}}{\sqrt{-a_2}}=\frac{a_1}{2\sqrt{-a_2}}$.
所以得到
$$\alpha_1=a+bi=r(cos\theta+isin\theta)=re^{i\theta}$$
$$\alpha_2=a-bi=r(cos\theta-isin\theta)=re^{-i\theta}$$
所以
$${\alpha_1}^t={(a+bi)}^t=r^t(cos\theta+isin\theta)^t=r^te^{it\theta}$$
$${\alpha_2}^t={(a-bi)}^t=r^t(cos\theta-isin\theta)^t=r^te^{-it\theta}$$
所以通解为
$$y_t=A_1r^te^{it\theta}+A_2r^te^{-it\theta}=r^t(A_1e^{it\theta}+A_2e^{-it\theta})$$
其中$A_1,A_2$为任意常数.
当$r=\sqrt{-a_2}>1$时，即$a_2<-1$时，发散；
当$r=\sqrt{-a_2}<1$时，即$-1<a_2<=0$时，收敛；
当$r=\sqrt{-a_2}＝1$时，即$a_2=-1$时，波动增幅不变；
以上便是二阶齐次差分方程所有可能情况下的解的求法以及解的敛散性的判别.
下面呢，我们将推广到一般的$n$阶齐次差分方程：
$$y_t=a_1y_{t-1}+a_2y_{t-2}+…+a_ny_{t-n}，a_n!=0$$
假设解的形式为$A\alpha^t$，则特征方程为
$$\alpha^n-a_1\alpha^{n-1}-a_2\alpha^{n-2}-…-a_n=0$$
从中可以解出非零的
$$\alpha_1,\alpha_2,…,\alpha_n$$
同样分３种情况，即$\alpha_1,\alpha_2,…,\alpha_n$是互不相同的实根，$\alpha_1,\alpha_2,…,\alpha_n$中有相同的实根和$\alpha_1,\alpha_2,…,\alpha_n$有复根.
(1)$\alpha_1,\alpha_2,…,\alpha_n$是$n$个互不相同的实根时，通解为$y_t=A_1\alpha_1^t+A_2\alpha_2^t+…+A_n\alpha_n^t$；
(2)$\alpha_1,\alpha_2,…,\alpha_n$中有相同的实根时，不妨设$\alpha_1=\alpha_2=…=\alpha_d$，$\alpha_{d+1},\alpha_{d+2},…,\alpha_n$互不相同，则通解为
$$y_t=(A_1+A_2t+A_3t^2+…+A_dt^{d-1})\alpha_1^t+A_{d+1}\alpha_{d+1}^t+A_{d+2}\alpha_{d+2}^t+…+A_{n}\alpha_{n}^t$$
(3)$\alpha_1,\alpha_2,…,\alpha_n$有复根时，不妨设$\alpha_1,\alpha_2$为复根，$\alpha_3,\alpha_2,…,\alpha_n$互不相同.
设$\alpha_1=a+bi,\alpha_2=a-bi$，由于$r=\sqrt{a^2+b^2}，cos\theta=\frac{a}r$，所以有
$$\alpha_1=re^{i\theta}$$
$$\alpha_2=re^{-i\theta}$$
所以通解为
$$y_t=r^t(A_1e^{it\theta}+A_2e^{-it\theta})+A_3\alpha_3^t+A_4\alpha_4^t+…+A_n\alpha_n^t$$
其中$A_1,A_2,…A_n$为任意常数.
