4 マルコフ連鎖
Exercise 4.1 \(m\)は非負の整数，\(N\)は正の整数とする．また\(x\)は\(0\le x\le N\)なる整数とする．ライト・フィッシャーモデルに対し\(\mathbb{E}[X_{m+1}|X_m=x]\)および\(\operatorname{Var}(X_{m+1}|X_m=x)\)を求めよ．
Solution. \(X_{m+1}\)は\(X_m=x\)で条件つけたもと\(\mathcal{B}(N, x/N)\)に従う．よって二項分布の性質より
\[\begin{align*}
\mathbb{E}[X_{m+1}|X_m=x]&=N\frac{x}{N}=x\\
\operatorname{Var}[X_{m+1}|X_m=x]&=N\frac{x}{N}\left(1-\frac{x}{N}\right)=N^{-1}x(N-x)
\end{align*}\]
Exercise 4.2 \(N\)は正の整数，\(x\)は\(0\le x\le N\)なる整数とする．ライト・フィッシャーモデルにたいし，
\[
\mathbb{E}[X_m(N-X_m)|X_m=x]=(1-N^{-1})x(N-x)
\]
を示せ．
Solution. 条件つき期待値，分散の計算から
\[\begin{align*}
\mathbb{E}[X_m(N-X_m)|X_m=x]&=N\mathbb{E}[X_{m+1}|X_m=x]-\mathbb{E}[X_{m+1}^2|X_m=x]\\
&=N\mathbb{E}[X_{m+1}|X_m=x]-(\operatorname{V}[X_{m+1}|X_m=x]+\mathbb{E}[X_{m+1}|X_m=x]^2)\\
&=Nx-(N^{-1}x(N-x)+x^2)=(1-N^{-1})x(N-x)
\end{align*}\]
を得る．
Exercise 4.3 \(m\)は非負の整数，\(N\)は正の整数とする．ライト・フィッシャーモデルに対し\(\operatorname{Cov}(X_{m+1}, X_m)=\operatorname{Var}(X_m)\)を示せ．
Solution. \[\begin{align*}
\mathbb{E}[X_{m+1}|X_m=x]=x
\end{align*}\]
だから，任意の\(m=0,1,\ldots\)にたいし，\(\mathbb{E}[X_m]=\mathbb{E}[X_0]\)かつ，
\[\begin{align*}
\mathbb{E}[X_{m+1}X_m]
&=\sum_{x=0}^N\mathbb{E}[X_{m+1}|X_m=x]~x~\mathbb{P}(X_m=x)\\
&=\sum_{x=0}^N~x^2~\mathbb{P}(X_m=x)\\
&=\mathbb{E}[X_m^2].
\end{align*}\]
よって
\[\begin{align*}
\operatorname{Cov}(X_{m+1},X_m)&=\mathbb{E}[(X_{m+1}-x)(X_m-x)]\\
&=\mathbb{E}[X_{m+1}X_m]-x^2\\
&=\mathbb{E}[X_m^2]-x^2\\
&=\operatorname{Var}[X_m].
\end{align*}\]
Exercise 4.4 ライト・フィッシャーモデルに対し
\[
\lim_{m\rightarrow\infty}\operatorname{Var}(X_m)=N\mathbb{E}[X_0]-\mathbb{E}[X_0]^2
\]
であることを示せ．
Solution. 定理4.1の証明の中で
\[
\mathbb{E}[X_m(N-X_m)]=(1-N^{-1})^m\mathbb{E}[X_0(N-X_0)]
\]
がえられている．したがって\(m\rightarrow\infty\)として
\[
\lim_{m\rightarrow\infty}\mathbb{E}[X_m(N-X_m)]=0
\]
である．よって\(\mathbb{E}[X_m]=\mathbb{E}[X_0]\)より
\[
\lim_{m\rightarrow\infty}\mathbb{E}[X_m^2]=N\mathbb{E}[X_0].
\]
ゆえに
\[\begin{align*}
\lim_{m\rightarrow\infty}\operatorname{Var}[X_m]&=
\lim_{m\rightarrow\infty}(\mathbb[X_m^2]-\mathbb{E}[X_m]^2)\\
&=N\mathbb{E}[X_0]-\mathbb{E}[X_0]^2.
\end{align*}\]
Exercise 4.5 \(m\)は非負の整数，\(x\)は実数とする．
自己回帰過程に対し，
\(\mathbb{E}[X_{m+1}|X_m=x]\)および\(\operatorname{Var}(X_{m+1}|X_m=x)\)を求めよ．
Solution. 式(4.1)より
\[\begin{align*}
\mathbb{E}[X_{m+1}|X_m=x]&=\mathbb{E}[\mu+\alpha(X_m-\mu)+W_m|X_m=x]\\
&=\mu+\alpha(x-\mu).
\end{align*}\]
また
\[\begin{align*}
\operatorname{Var}[X_{m+1}|X_m=x]&=\operatorname{Var}[\mu+\alpha(X_m-\mu)+W_m|X_m=x]\\
&=\operatorname{Var}[W_m|X_m=x]=\sigma^2.
\end{align*}\]
Exercise 4.6 各\(m=1,2,\ldots\)について\(\mu_m,\mu\)は実数，\(\sigma^2_m, \sigma^2\)は正の実数とする．また，\(\mu_m\rightarrow\mu, \sigma^2_m\rightarrow\sigma^2\)とする．このとき，
\[\begin{align*}
\mathcal{N}(\mu_m,\sigma^2_m)~\longrightarrow~\mathcal{N}(\mu,\sigma^2)
\end{align*}\]
となることを示せ（特性関数が収束することを見ればいい）．
Solution. 確率分布の収束は，その特性関数の収束と同値である．正規分布\(\mathcal{N}(\mu,\sigma^2)\)の特性関数は
\[
\varphi(t)=\exp\left(\mu t\mathbf{i}-\frac{\sigma^2}{2}t^2\right)
\]
であるから，
\[
\exp\left(\mu_m t\mathbf{i}-\frac{\sigma_m^2}{2}t^2\right)
\longrightarrow
\exp\left(\mu t\mathbf{i}-\frac{\sigma^2}{2}t^2\right)
\]
より結論を得る．
Exercise 4.7 \(x, \lambda\)は正の実数，\(m\)は正の整数とする．確率分布\(G=\mathcal{N}(0,1)\)としたときの\(\mathbb{R}_+\)上のランダムウォークにたいし，
\[
\mathbb{E}[\exp(-\lambda X_{m+1})|X_m=x]
\]
を求めよ．
Solution. \(X_m=x\)のもと，\(X_{m+1}=\max\{0, x+W_{m+1}\}\)で\(W_{m+1}\)は標準正規分布に従う．
\[\begin{align*}
\exp(-\lambda X_{m+1})=
\begin{cases}
1&\mathrm{if}\ W_{m+1}\le -x\\
\exp(-\lambda(x+W_{m+1})&\mathrm{if}\ W_{m+1}>-x
\end{cases}
\end{align*}\]
である．したがって，
\[\begin{align*}
\mathbb{E}[\exp(-\lambda X_{m+1})|X_m=x]&=
\mathbb{P}(W_{m+1}\le -x)+\int_{-x}^\infty\exp(-\lambda(x+w))\frac{1}{\sqrt{2\pi}}\exp(-w^2/2)\mathrm{d}w\\
&=\Phi(-x)+\exp(-\lambda+\lambda^2/2)\int_{-x}^\infty\frac{1}{\sqrt{2\pi}}\exp(-(w+\lambda)^2/2)\mathrm{d}w
\end{align*}\]
となる．ただし，\(\Phi(x)=1-\Phi(-x)\)は標準正規分布の累積分布関数である．よって
\(u=w+\lambda\)と変数変換すれば
\[\begin{align*}
\mathbb{E}[\exp(-\lambda X_{m+1})|X_m=x]
&=\Phi(-x)+\exp(-\lambda+\lambda^2/2)\int_{-x+\lambda}^\infty\frac{1}{\sqrt{2\pi}}\exp(-w^2/2)\mathrm{d}w\\
&=\Phi(-x)+\exp(-\lambda+\lambda^2/2)(1-\Phi(-x+\lambda))
\end{align*}\]
を得る．
Exercise 4.8 例4.6のマルコフ連鎖にたいし，\(\gamma<1\)のとき
\[
\lim_{m\rightarrow\infty}\mathbb{E}[X_m|X_0=x]
\]
および
\[
\lim_{m\rightarrow\infty}\operatorname{Var}[X_m|X_0=x]
\]
を求めよ．
Solution. \(\gamma=\alpha^2+\beta^2\sigma^2<1\)より，とくに\(|\alpha|<1\)である．
マルコフカーネルの定義から
\[
\mathbb{E}[X_m]=\alpha\mathbb{E}[X_{m-1}]=\cdots=\alpha^m\mathbb{E}[X_0]
\]
より，\(m\rightarrow\infty\)とすると
\[\begin{align*}
\lim_{m\rightarrow\infty}\mathbb{E}[X_m]=0
\end{align*}\]
を得る．一方，例4.6の途中の式から，
\[\begin{align*}
\lim_{m\rightarrow\infty}\mathbb{E}[X_m^2]&=
\lim_{m\rightarrow\infty}\left\{\sum_{i=0}^{m-1}\gamma^i\sigma^2+\gamma^m\mathbb{E}[X_0^2|X_0=x]\right\}\\
&=
\sum_{i=0}^\infty\gamma^i\sigma^2=\frac{\sigma^2}{1-\gamma}
\end{align*}\]
をえる．
Exercise 4.9 例4.7の自己回帰過程において，\(\alpha=-1\)のとき不変確率分布が存在しないことを示せ．
Solution. 例4.7の式(4.10)より，もし不変確率分布\(\Pi\)が存在するなら，その特性関数を\(\psi(u)\)と書くと
\[
\psi(u)=\psi(-u)\exp(-u^2\sigma^2/2)=\psi(u)\exp(-u^2\sigma^2)
\]
を得る．したがって\(u\)が\(0\)でないなら，
\(\exp(-u^2\sigma^2)<1\)より，必然的に\(\psi(u)=0\)でなければならない．すると特性関数の連続性から
\(\psi(0)=0\)の必要がある．いっぽう，これは特性関数のもう一つの性質である\(\psi(0)=1\)に矛盾している．したがって不変分布は存在しない．
Exercise 4.10 実数\(\mu\)に対し，
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}
\end{align*}\]
を求めよ．
Solution. 定義から
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{-\infty}^\infty|\phi(x)-\phi(x-\mu)|\mathrm{d}x
\end{align*}\]
である．ここで，
\[\begin{align*}
\begin{cases}
\phi(x)\ge \phi(x-\mu)&\mathrm{if}\ \|x\|\le \|x-\mu\|\\
\phi(x) <\phi(x-\mu)&\mathrm{if}\ \|x\|> \|x-\mu\|
\end{cases}
\end{align*}\]
だから，
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{\|x\|\le \|x-\mu\|}(\phi(x)-\phi(x-\mu))\mathrm{d}x
+
\frac{1}{2}\int_{\|x\|> \|x-\mu\|}(\phi(x-\mu)-\phi(x))\mathrm{d}x
\end{align*}\]
となる．この２つの積分を計算して足し合わせればよいが，じつはこの２つの積分は同じ値になる．なぜなら，これらが図4.7の青い領域，緑の領域それぞれを表すからだ．だから，２つの積分のうち，片方を求めて二倍すればよい．したがって求める値は
\[\begin{align*}
\int_{\|x\|\le \|x-\mu\|}(\phi(x)-\phi(x-\mu))\mathrm{d}x&=
\int_{-\infty}^{\mu/2}(\phi(x)-\phi(x-\mu))\mathrm{d}x\\
&=\Phi(\mu/2)-\Phi(-\mu/2)).
\end{align*}\]
Exercise 4.11 実数\(\sigma^2>1\)に対し，
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(0,\sigma^2)\|_{\mathrm{TV}}
\end{align*}\]
を求めよ．
Solution. 前の問題と同じように，定義から
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{-\infty}^\infty|\phi(x)-\sigma^{-1}\phi(x/\sigma)|\mathrm{d}x
\end{align*}\]
である．ここで
\[\begin{align*}
\phi(x)\ge \sigma^{-1}\phi(x/\sigma)\Longleftrightarrow
2\left(1-\sigma^{-2}\right)^{-1}\log \sigma\ge x^2
\end{align*}\]
となる．実数\(\eta=\left(2\left(1-\sigma^{-2}\right)^{-1}\right)^{1/2}\)とすると，前の問題と同じ議論により，
\[\begin{align*}
\|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}&=\frac{1}{2}\int_{\|x\|\le \eta}\left(\phi(x)-\sigma^{-1}\phi(x/\sigma)\right)\mathrm{d}x
+
\frac{1}{2}\int_{\|x\|> \eta}\left(\sigma^{-1}\phi(x/\sigma)-\phi(x)\right)\mathrm{d}x\\
&=
\int_{\|x\|\le \eta}\left(\phi(x)-\sigma^{-1}\phi(x/\sigma)\right)\mathrm{d}x\\
&=
\Phi(\eta)-\Phi(-\eta)-\Phi(\eta/\sigma)+\Phi(\eta/\sigma).
\end{align*}\]
Exercise 4.12 \(P, Q\)が確率関数\(p(x), q(x)\)を持つとき，
\[
\sum_{x\in E}\min\{p(x), q(x)\}>0
\]
なら，\(P, Q\)は互いに特異ではない．とくに，\(p(x)>0, q(x)>0\)なる\(x\)があれば\(P, Q\)は互いに特異ではないことを示せ．
Solution. 仮定は，ある\(x^*\)があって，\(\min\{p(x^*),q(x^*)\}>0\)となるということである．いっぽう，もし\(P, Q\)が特異なら，ある集合\(A\)があって，
\(P(A)=Q(A^c)=0\)となる．もし\(x^*\)が\(A\)に含まれるなら，
\[
P(A)\ge p(x^*)>0
\]
となり矛盾するし，もし\(A^c\)に含まれるなら
\[
Q(A)\ge q(x^*)>0
\]
となりやはり矛盾する．だから，\(P, Q\)は互いに特異ではない．