§B4.14確率漸化式

最終更新

状態を過不足なく分け、一歩先へ移る確率を用いて漸化式を立てます。

1 状態と遷移

定義 1.1 (状態確率と遷移確率).nn回目に状態iiにある確率をpn(i)p_n(i)とします。状態iiから次に状態jjへ移る条件付き確率を、状態iiからjjへの遷移確率といいます。

各状態から着目する状態へ入る場合を排反に分けると、次の状態確率を求めることができます。

2 完結した二状態の例

ある機械は、毎日の終わりに正常または故障のいずれかの状態にあります。正常ならば翌日も正常である確率を0.70.7、故障ならば修理によって翌日に正常である確率を0.20.2とします。初日は正常であるとします。

例 2.1 (二状態モデルの設定).nn日目に正常である確率をpnp_nとすると、故障である確率は1−pn1-p_nです。翌日に正常である場合を、前日に正常であった場合と故障であった場合に分けると、

pn+1=0.7pn+0.2(1−pn)=0.5pn+0.2,p1=1p_{n+1}=0.7p_n+0.2(1-p_n)=0.5p_n+0.2,\qquad p_1=1

を得ます。

定理 2.2 (二状態例の一般項). 上の二状態モデルでは、

pn=0.4+0.6(12)n−1p_n=0.4+0.6\left(\frac12\right)^{n-1}

が成り立ちます。

証明. 不動点α\alphaはα=0.5α+0.2\alpha=0.5\alpha+0.2を満たすのでα=0.4\alpha=0.4です。したがって

pn+1−0.4=0.5(pn−0.4)p_{n+1}-0.4=0.5(p_n-0.4)

です。p1−0.4=0.6p_1-0.4=0.6なので、等比数列の一般項から結論を得ます。▨

注意 2.3 (確率としての検算).0.4≤pn≤10.4\le p_n\le1なので、一般項は確率の範囲にあります。またnnを大きくするとpnp_nは0.4へ近づき、漸化式の不動点と一致します。

状態を一つの確率だけで表すことができるのは、全状態が二つで、もう一方の確率が1−pn1-p_nと決まるためです。三状態以上では、通常は複数の状態確率を同時に追います。

例 2.4 (三状態への拡張). 状態を晴れ、曇り、雨の三つに分ける場合、nn日目の確率をsn,cn,rns_n,c_n,r_nとし、sn+cn+rn=1s_n+c_n+r_n=1を保ちながら、各遷移確率を係数とする連立漸化式を立てます。一つの確率だけを追うと、前日の残り二状態を区別することができません。

3 演習

  1. 上の機械が初日に故障している場合のpnp_nを求めます。
  2. 正常から正常へ移る確率をaa、故障から正常へ移る確率をbbとするとき、漸化式と不動点を求めます。
  3. 求めた一般項が0以上1以下にあり、漸化式と初期条件を満たすことを代入して確認します。

1ではp1=0p_1=0なのでpn=0.4−0.4(1/2)n−1p_n=0.4-0.4(1/2)^{n-1}です。2ではpn+1=apn+b(1−pn)p_{n+1}=ap_n+b(1-p_n)であり、a−b≠1a-b\ne1ならば不動点はb/(1−a+b)b/(1-a+b)です。3では1の式を代入すると初期値は0であり、

pn+1=0.4−0.42n=0.5(0.4−0.42n−1)+0.2p_{n+1}=0.4-\frac{0.4}{2^n} =0.5\left(0.4-\frac{0.4}{2^{n-1}}\right)+0.2

が成り立ちます。また0≤pn<0.40\le p_n<0.4なので確率の範囲にあります。

例題

条件と何を求めるかを確認してから、式と答えの対応を見比べてください。

はじめの状態を p_0 == 1 として、n 回の操作の後に指定した状態にある確率 p_n を n の式で表せ。

解法の型1回の操作で場合分けして p_(n+1) == a p_n + b を立て、不動点 α\alpha== b/(1−a) を引いて (p_n − α)\alpha) を公比 a の等比数列にする

  1. 表の出る確率が 1/3 である硬貨を繰り返し投げる。n 回投げたとき、表の出た回数が偶数(0 回も含む)である確率を p_n とする。p_n を求めよ。

    p0=1,pn+1=23 pn+13 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{2}{3}\,p_n + \dfrac{1}{3}\,(1 - p_n)
  2. 点 P は部屋 A、部屋 B のいずれかにいる。1回の操作でサイコロを1個投げ、P が A にいるときは出た目が 2 以下なら B へ移り(それ以外は A に留まる)、P が B にいるときは出た目が 1 以下なら A へ移る(それ以外は B に留まる)。はじめ P は A にいる。n 回の操作の後に P が A にいる確率 p_n を求めよ。

    p0=1,pn+1=23 pn+16 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{2}{3}\,p_n + \dfrac{1}{6}\,(1 - p_n)

演習

問題を解いてから「解答・解説」を開けます。

はじめの状態を p_0 == 1 として、n 回の操作の後に指定した状態にある確率 p_n を n の式で表せ。

演習を読み込み中…

前提記事