状態を過不足なく分け、一歩先へ移る確率を用いて漸化式を立てます。
1 状態と遷移
定義 1.1 (状態確率と遷移確率).回目に状態にある確率をとします。状態から次に状態へ移る条件付き確率を、状態からへの遷移確率といいます。
各状態から着目する状態へ入る場合を排反に分けると、次の状態確率を求めることができます。
2 完結した二状態の例
ある機械は、毎日の終わりに正常または故障のいずれかの状態にあります。正常ならば翌日も正常である確率を、故障ならば修理によって翌日に正常である確率をとします。初日は正常であるとします。
例 2.1 (二状態モデルの設定).日目に正常である確率をとすると、故障である確率はです。翌日に正常である場合を、前日に正常であった場合と故障であった場合に分けると、
を得ます。
定理 2.2 (二状態例の一般項). 上の二状態モデルでは、
が成り立ちます。
証明. 不動点はを満たすのでです。したがって
です。なので、等比数列の一般項から結論を得ます。▨
注意 2.3 (確率としての検算).なので、一般項は確率の範囲にあります。またを大きくするとは0.4へ近づき、漸化式の不動点と一致します。
状態を一つの確率だけで表すことができるのは、全状態が二つで、もう一方の確率がと決まるためです。三状態以上では、通常は複数の状態確率を同時に追います。
例 2.4 (三状態への拡張). 状態を晴れ、曇り、雨の三つに分ける場合、日目の確率をとし、を保ちながら、各遷移確率を係数とする連立漸化式を立てます。一つの確率だけを追うと、前日の残り二状態を区別することができません。
3 演習
- 上の機械が初日に故障している場合のを求めます。
- 正常から正常へ移る確率を、故障から正常へ移る確率をとするとき、漸化式と不動点を求めます。
- 求めた一般項が0以上1以下にあり、漸化式と初期条件を満たすことを代入して確認します。
1ではなのでです。2ではであり、ならば不動点はです。3では1の式を代入すると初期値は0であり、
が成り立ちます。またなので確率の範囲にあります。