§E14.16単調尤度比と最強力検定

最終更新

Neyman–Pearson の補題は、単純帰無仮説と一つの単純対立仮説を固定したときに、尤度比によって最強力検定を構成する。しかし、対立仮説が複数の母数を含むとき、各対立母数に対する最強力検定が同じ棄却域をもつとは限らない。

例えば、分散が既知である正規分布の平均が基準値より大きいかを検定する場合、同じ水準で検定を比較すると、どの対立平均に対しても、標本平均が適切な閾値を上回るときに帰無仮説を棄却する検定が最適となる。この共通性は、二つの母数の尤度比が標本平均の順序に沿って単調に変化することから生じる。一方、平均が基準値と異なるかを問う両側検定では、基準値より大きい対立と小さい対立が互いに反対の棄却域を要求するため、すべての検定の中で一様最強力な検定は一般には存在しない。

単調尤度比は、単純対立ごとの最適性を片側の複合対立全体に共通する一様最強力性へ拡張するための基本的な構造である。両側問題では、検出力が対立仮説の下で有意水準を下回らないという不偏性を課すと、一径数指数型分布族などで一様最強力不偏検定を構成することができる。

この二つの考え方は、尤度比による単純仮説の検定と、指数型分布族や正規標本に対する複合仮説の最適検定とを結び付ける。

本記事では、複合仮説に対する最適検定の基本的な構成と代表例を扱う。

1 一様最強力検定と単調尤度比

定義 1.1 (一様最強力検定). 統計モデル(Pθ)θ∈Θ(P_\theta)_{\theta\in\Theta}において、Θ=Θ0⊔Θ1\Theta=\Theta_0\sqcup\Theta_1とし、0<α<10<\alpha<1とする。水準α\alphaの検定φ∗\varphi^*が、任意の水準α\alphaの検定φ\varphiと任意のθ∈Θ1\theta\in\Theta_1に対して

Eθφ∗≥EθφE_\theta\varphi^*\geq E_\theta\varphi

を満たすとき、φ∗\varphi^*を 一様最強力検定 (uniformly most powerful test)(UMP 検定)という。比較対象には、標本の任意の可測関数である無作為化検定を含める。

定義 1.2 (単調尤度比).Θ⊆R\Theta\subseteq\Rとし、(Pθ)θ∈Θ(P_\theta)_{\theta\in\Theta}をシグマ有限測度ν\nuに関して有限値非負密度fθf_\thetaをもつ統計モデルとする。実数値統計量TTに対して、任意のθ1<θ2\theta_1<\theta_2について

T(x)≤T(y)⟹fθ2(x)fθ1(y)≤fθ1(x)fθ2(y)T(x)\leq T(y)\quad\Longrightarrow\quad f_{\theta_2}(x)f_{\theta_1}(y) \leq f_{\theta_1}(x)f_{\theta_2}(y)

がν⊗ν\nu\otimes\nuに関してほとんど至る所で成り立つとき、この族はTTに関して 単調尤度比 (monotone likelihood ratio) をもつという。両方の分母が正ならば、この不等式はfθ2/fθ1f_{\theta_2}/f_{\theta_1}がTTの順序に関して非減少であることを表す。積の形の定義は、密度が零となる点にも適用される。

補題 1.3.Θ⊆R\Theta\subseteq\R上の支配された族(Pθ)(P_\theta)が実数値統計量TTに関して単調尤度比をもつとする。任意の有界非減少 Borel 関数g:R→Rg:\R\to\Rに対して、θ↦Eθg(T)\theta\mapsto E_\theta g(T)は非減少である。

証明.θ1<θ2\theta_1<\theta_2を取り、対応する密度をf1,f2f_1,f_2と書く。各密度の積分が1であることと Fubini の定理§E9.11 定理 3.2により

Eθ2g(T)−Eθ1g(T)=12∬(g(T(y))−g(T(x)))(f2(y)f1(x)−f1(y)f2(x)) dν(x)dν(y).\begin{aligned} E_{\theta_2}g(T)-E_{\theta_1}g(T) =\frac12\iint \bigl(g(T(y))-g(T(x))\bigr) \bigl(f_2(y)f_1(x)-f_1(y)f_2(x)\bigr) \,d\nu(x)d\nu(y). \end{aligned}

被積分関数の絶対値は2sup⁡∣g∣{f2(y)f1(x)+f1(y)f2(x)}2\sup|g|\{f_2(y)f_1(x)+f_1(y)f_2(x)\}以下であり、可積分である。T(x)<T(y)T(x)<T(y)ならば二つの因子はともに非負であり、T(x)>T(y)T(x)>T(y)ならばともに非正である。T(x)=T(y)T(x)=T(y)ならば第一因子は零である。したがって積分は非負である。▨

定理 1.4 (Karlin–Rubin の定理).Θ⊆R\Theta\subseteq\R上の支配された族(Pθ)(P_\theta)が実数値統計量TTに関して単調尤度比をもつとする。θ0∈Θ\theta_0\in\Theta、0<α<10<\alpha<1とし、Θ∩(θ0,∞)≠∅\Theta\cap(\theta_0,\infty)\ne\varnothingとする。あるc∈Rc\in\Rとγ∈[0,1]\gamma\in[0,1]が存在して、検定

φ∗(x)=1{T(x)>c}+γ1{T(x)=c}\varphi^*(x)=\mathbf1_{\{T(x)>c\}}+\gamma\mathbf1_{\{T(x)=c\}}

はEθ0φ∗=αE_{\theta_0}\varphi^*=\alphaを満たす。この検定は

H0:θ≤θ0,H1:θ>θ0H_0:\theta\leq\theta_0,\qquad H_1:\theta>\theta_0

に対する水準α\alphaの UMP 検定である。また、帰無仮説をθ=θ0\theta=\theta_0に限定しても、同じ片側対立に対する UMP 検定である。

証明.FFをPθ0P_{\theta_0}の下でのTTの分布関数とし、c=inf⁡{t:F(t)≥1−α}c=\inf\{t:F(t)\geq1-\alpha\}と置く。分布関数の右連続性と両端極限§E11.3 命題 2.2により、ccは有限であり、

Pθ0(T>c)≤α≤Pθ0(T≥c)P_{\theta_0}(T>c)\leq\alpha\leq P_{\theta_0}(T\geq c)

である。Pθ0(T=c)>0P_{\theta_0}(T=c)>0ならば

γ=α−Pθ0(T>c)Pθ0(T=c)\gamma=\frac{\alpha-P_{\theta_0}(T>c)}{P_{\theta_0}(T=c)}

とし、分母が零ならばγ=0\gamma=0とする。いずれの場合も帰無期待値はα\alphaである。t↦1{t>c}+γ1{t=c}t\mapsto\mathbf1_{\{t>c\}}+\gamma\mathbf1_{\{t=c\}}は非減少なので、補題 1.3により、すべてのθ≤θ0\theta\leq\theta_0でEθφ∗≤αE_\theta\varphi^*\leq\alphaである。

θ1>θ0\theta_1>\theta_0を固定し、密度をf0,f1f_0,f_1と書く。A={φ∗>0}A=\{\varphi^*>0\}、B={φ∗<1}B=\{\varphi^*<1\}と置くと、α>0\alpha>0とα<1\alpha<1によりPθ0(A)>0P_{\theta_0}(A)>0、Pθ0(B)>0P_{\theta_0}(B)>0である。x∈Bx\in Bとy∈Ay\in AならばT(x)≤T(y)T(x)\leq T(y)なので、単調尤度比の不等式から

r(x)≤r(y),r=f1f0on {f0>0}r(x)\leq r(y),\qquad r=\frac{f_1}{f_0}\quad\text{on }\{f_0>0\}

がPθ0⊗Pθ0P_{\theta_0}\otimes P_{\theta_0}に関してほとんど至る所で成り立つ。したがって

ess supBr≤ess infAr\mathop{\mathrm{ess\,sup}}_{B}r \leq\mathop{\mathrm{ess\,inf}}_{A}r

である。ここで本質的上限と下限はPθ0P_{\theta_0}に関して取る。実際、左辺が右辺を超えれば、その間の実数qqに対してB∩{r>q}B\cap\{r>q\}とA∩{r<q}A\cap\{r<q\}がともに正の確率をもち、積交差の不等式に反する。rrはPθ0P_{\theta_0}-ほとんど確実に有限であり、AAの確率は正なので、この二つの量の間に有限なk≥0k\geq0を取ることができる。

x∈B∩{f0=0}x\in B\cap\{f_0=0\}に対しても、y∈A∩{f0>0}y\in A\cap\{f_0>0\}との積交差の不等式を用いると、f1(x)f0(y)≤0f_1(x)f_0(y)\leq0となる。 Fubini の定理とPθ0(A)>0P_{\theta_0}(A)>0により、f1=0f_1=0がB∩{f0=0}B\cap\{f_0=0\}上でν\nu-ほとんど至る所で成り立つ。ゆえにf1>kf0f_1>kf_0ではφ∗=1\varphi^*=1、f1<kf0f_1<kf_0ではφ∗=0\varphi^*=0であり、§E14.15 定理 2.1の符号条件が成立する。同補題により、Eθ0φ≤αE_{\theta_0}\varphi\leq\alphaを満たす任意の検定φ\varphiに対してEθ1φ∗≥Eθ1φE_{\theta_1}\varphi^*\geq E_{\theta_1}\varphiである。検定φ∗\varphi^*はθ1\theta_1に依存しないので、すべての片側対立について最強力である。複合帰無に対する水準α\alphaの検定もEθ0φ≤αE_{\theta_0}\varphi\leq\alphaを満たすため、結論を得る。▨

例 1.5.XXが(0,θ)(0,\theta)上の一様分布に従い、θ>0\theta>0を未知母数とする。密度はfθ(x)=θ−11(0,θ)(x)f_\theta(x)=\theta^{-1}\mathbf1_{(0,\theta)}(x)である。θ1<θ2\theta_1<\theta_2、x≤yx\leq yに対して、fθ2(x)fθ1(y)>0f_{\theta_2}(x)f_{\theta_1}(y)>0ならば0<x≤y<θ10<x\leq y<\theta_1であり、積交差の両辺は等しい。それ以外では左辺は零である。したがってT=XT=Xに関して単調尤度比をもつ。帰無母数の境界をθ0>0\theta_0>0とすると、定理 1.4により

φ∗(x)=1{x>(1−α)θ0}\varphi^*(x)=\mathbf1_{\{x>(1-\alpha)\theta_0\}}

はθ≤θ0\theta\leq\theta_0対θ>θ0\theta>\theta_0の UMP 検定である。検出力はθ≤(1−α)θ0\theta\leq(1-\alpha)\theta_0では零であり、それより大きいθ\thetaでは1−(1−α)θ0/θ1-(1-\alpha)\theta_0/\thetaである。対立母数の下で正の確率をもつ{X>θ0}\{X>\theta_0\}は、帰無母数θ0\theta_0では確率零である。

2 積分制約と不偏検定

定理 2.1 (一般化 Neyman–Pearson 補題).m∈N≥1m\in\NNとし、測度空間(X,A,ν)(\mathcal X,\mathcal A,\nu)上の実可積分関数f0,f1,…,fmf_0,f_1,\ldots,f_mと実数k1,…,kmk_1,\ldots,k_mを取る。検定φ∗:X→[0,1]\varphi^*:\mathcal X\to[0,1]が、ほとんど至る所で

φ∗=1if f0>∑j=1mkjfj,φ∗=0if f0<∑j=1mkjfj\varphi^*=1\quad\text{if }f_0>\sum_{j=1}^mk_jf_j,\qquad \varphi^*=0\quad\text{if }f_0<\sum_{j=1}^mk_jf_j

を満たすとする。このとき、各jjについて∫φfj dν=∫φ∗fj dν\int\varphi f_j\,d\nu=\int\varphi^*f_j\,d\nuを満たす任意の検定φ\varphiに対して

∫φf0 dν≤∫φ∗f0 dν\int\varphi f_0\,d\nu\leq\int\varphi^*f_0\,d\nu

である。さらに、kj≥0k_j\geq0である添字では、対応する等式制約を∫φfj dν≤∫φ∗fj dν\int\varphi f_j\,d\nu\leq\int\varphi^*f_j\,d\nuに置き換えても結論は成立する。

証明. 符号条件により

(φ∗−φ)(f0−∑j=1mkjfj)≥0(\varphi^*-\varphi)\left(f_0-\sum_{j=1}^mk_jf_j\right)\geq0

がほとんど至る所で成り立つ。この積は∣f0∣+∑j∣kj∣∣fj∣|f_0|+\sum_j|k_j||f_j|に支配されるため可積分である。積分して項を移すと

∫(φ∗−φ)f0 dν≥∑j=1mkj∫(φ∗−φ)fj dν≥0\int(\varphi^*-\varphi)f_0\,d\nu \geq\sum_{j=1}^mk_j\int(\varphi^*-\varphi)f_j\,d\nu\geq0

となる。最後の不等式は、等式制約の項が零であり、不等式制約の項の係数が非負であることによる。▨

定義 2.2 (不偏検定と類似検定). 統計モデル(Pθ)θ∈Θ(P_\theta)_{\theta\in\Theta}と分割Θ=Θ0⊔Θ1\Theta=\Theta_0\sqcup\Theta_1、0<α<10<\alpha<1を取る。水準α\alphaの検定φ\varphiがすべてのθ∈Θ1\theta\in\Theta_1でEθφ≥αE_\theta\varphi\geq\alphaを満たすとき、φ\varphiを水準α\alphaの 不偏検定 (unbiased test) という。任意の水準α\alphaの不偏検定と比較して、すべての対立母数で検出力が最大である不偏検定を、一様最強力不偏検定 (uniformly most powerful unbiased test)(UMPU 検定)という。また、すべてのθ∈Θ0\theta\in\Theta_0でEθφ=αE_\theta\varphi=\alphaを満たす検定を、帰無族に対するサイズα\alphaの 類似検定 (similar test) という。

補題 2.3.fη=hexp⁡{ηT−A(η)}f_\eta=h\exp\{\eta T-A(\eta)\}を自然母数空間HH上の一径数指数型分布族とする。任意の検定φ\varphiの検出力βφ(η)=Eηφ\beta_\varphi(\eta)=E_\eta\varphiはint⁡(H)\tpint{H}で微分可能であり、

βφ′(η)=Eη(Tφ)−EηT Eηφ\beta_\varphi'(\eta)=E_\eta(T\varphi)-E_\eta T\,E_\eta\varphi

を満たす。J⊆HJ\subseteq H、η0∈int⁡(J)\eta_0\in\tpint{J}、0<α<10<\alpha<1とすると、H0:η=η0H_0:\eta=\eta_0対H1:η∈J∖{η0}H_1:\eta\in J\setminus\{\eta_0\}の任意の水準α\alphaの不偏検定は

Eη0φ=α,Eη0(Tφ)=αEη0TE_{\eta_0}\varphi=\alpha,\qquad E_{\eta_0}(T\varphi)=\alpha E_{\eta_0}T

を満たす。

証明.§E14.5 命題 5.7を有界関数φ\varphiと定数関数1に適用する。非正規化積分の商を微分し、A′(η)=EηTA'(\eta)=E_\eta Tを用いると、表示した微分公式を得る。必要な一次積率の絶対可積分性も同命題が与える。不偏検定については、η≠η0\eta\ne\eta_0でβφ(η)≥α\beta_\varphi(\eta)\geq\alphaである。η0\eta_0はJJの内点なので、連続性からβφ(η0)≥α\beta_\varphi(\eta_0)\geq\alphaとなり、水準条件から等号が成り立つ。ゆえにβφ\beta_\varphiはη0\eta_0で極小値を取り、βφ′(η0)=0\beta_\varphi'(\eta_0)=0である。微分公式を用いれば第二制約を得る。▨

3 両側検定の境界と一様最強力不偏性

補題 3.1.PPをR\R上の確率測度とし、∫∣t∣ dP(t)<∞\int|t|\,dP(t)<\infty、0<α<10<\alpha<1とする。PPが一点に集中しないならば、有限なc1≤c2c_1\leq c_2と Borel 関数a:R→[0,1]a:\R\to[0,1]が存在して、

a(t)=1(c1<t<c2),a(t)=0(t<c1 または t>c2)a(t)=1\quad(c_1<t<c_2),\qquad a(t)=0\quad(t<c_1\text{ または }t>c_2)

かつ

∫a dP=1−α,∫ta(t) dP(t)=(1−α)∫t dP(t)\int a\,dP=1-\alpha,\qquad \int ta(t)\,dP(t)=(1-\alpha)\int t\,dP(t)

を満たす。端点でのaaの値は[0,1][0,1]内で選ぶ。c1=c2c_1=c_2の場合も許す。

証明.FFをPPの分布関数とし、0<v<10<v<1に対してQ(v)=inf⁡{t:F(t)≥v}Q(v)=\inf\{t:F(t)\geq v\}と置く。§E11.3 命題 2.2によりQ(v)Q(v)は有限で非減少であり、Q(v)≤tQ(v)\leq tとv≤F(t)v\leq F(t)は同値である。したがって一様分布に従うV∈(0,1)V\in(0,1)についてP(Q(V)≤t)=F(t)P(Q(V)\leq t)=F(t)であり、§E11.3 定理 2.3によりQ(V)Q(V)の分布はPPである。特にQ∈L1(0,1)Q\in L^1(0,1)であり、∫01Q(v) dv=∫t dP(t)\int_0^1Q(v)\,dv=\int t\,dP(t)である。

m=1−αm=1-\alphaとし、0≤s≤α0\leq s\leq\alphaに対して

I(s)=∫ss+mQ(v) dvI(s)=\int_s^{s+m}Q(v)\,dv

と置く。sj→ss_j\to sならば、積分区間の指示関数は端点以外で収束し、被積分関数は∣Q∣|Q|に支配される。優収束定理§E9.7 定理 3.2によりIIは連続である。また

m∫01Q−I(0)=∫0m∫m1(Q(w)−Q(v)) dw dv>0.m\int_0^1Q-I(0) =\int_0^m\int_m^1\bigl(Q(w)-Q(v)\bigr)\,dw\,dv>0.

非負の被積分関数の積分が零ならば、下側区間のほとんどすべての値と上側区間のほとんどすべての値が等しくなり、QQはほとんど至る所定数となる。これはPPが一点に集中しないという仮定に反するので、不等号は厳密である。同じ理由で

I(α)−m∫01Q=∫0α∫α1(Q(w)−Q(v)) dw dv>0.I(\alpha)-m\int_0^1Q =\int_0^\alpha\int_\alpha^1\bigl(Q(w)-Q(v)\bigr)\,dw\,dv>0.

中間値の定理により、あるs∈(0,α)s\in(0,\alpha)がI(s)=m∫01QI(s)=m\int_0^1Qを満たす。

c1=Q(s)c_1=Q(s)、c2=Q(s+m)c_2=Q(s+m)と置く。s,s+m∈(0,1)s,s+m\in(0,1)なので、両端点は有限である。c1<c2c_1<c_2のとき、開区間(c1,c2)(c_1,c_2)でa=1a=1、閉区間[c1,c2][c_1,c_2]の外でa=0a=0とする。t=c1,c2t=c_1,c_2に原子があれば

a(t)=∣(F(t−),F(t)]∩[s,s+m]∣P({t})a(t)=\frac{\left|(F(t-),F(t)]\cap[s,s+m]\right|}{P(\{t\})}

とし、原子がなければa(t)=0a(t)=0とする。ここで∣⋅∣|\cdot|は区間の長さである。c1=c2=cc_1=c_2=cのときはQ(v)=cQ(v)=cがs<v<s+ms<v<s+mで成り立つので、P({c})≥mP(\{c\})\geq mである。この場合にはa(c)=m/P({c})a(c)=m/P(\{c\})、t≠ct\ne cでa(t)=0a(t)=0とする。

いずれの場合も、分位順位の区間(s,s+m)(s,s+m)をQQで写した測度はa(t)P(dt)a(t)P(dt)である。実際、c1<t<c2c_1<t<c_2を満たす値の逆像はこの順位区間に含まれ、t<c1t<c_1またはt>c2t>c_2の逆像は含まれない。原子{t}\{t\}の逆像の長さはF(t)−F(t−)F(t)-F(t-)であり、区間との共通部分の長さが上の分子である。原子でない端点の逆像は長さ零である。よって全質量はmm、一次積率はI(s)=m∫t dP(t)I(s)=m\int t\,dP(t)となる。▨

補題 3.2.PPをR\R上の確率測度とし、∫∣t∣ dP(t)<∞\int|t|\,dP(t)<\inftyとする。c1≤c2c_1\leq c_2を有限な実数とし、ψ∗:R→[0,1]\psi^*:\R\to[0,1]はt<c1t<c_1またはt>c2t>c_2で1、c1<t<c2c_1<t<c_2で0であるとする。δ≠0\delta\ne0かつ∫eδt dP(t)<∞\int e^{\delta t}\,dP(t)<\inftyならば、

∫ψ dP=∫ψ∗ dP,∫tψ(t) dP(t)=∫tψ∗(t) dP(t)\int\psi\,dP=\int\psi^*\,dP,\qquad \int t\psi(t)\,dP(t)=\int t\psi^*(t)\,dP(t)

を満たす任意の Borel 関数ψ:R→[0,1]\psi:\R\to[0,1]に対して

∫eδtψ(t) dP(t)≤∫eδtψ∗(t) dP(t)\int e^{\delta t}\psi(t)\,dP(t) \leq\int e^{\delta t}\psi^*(t)\,dP(t)

である。同じ結論は、任意の確率空間上の実可積分変数TTと検定φ\varphiについて、ψ(T)\psi(T)をφ\varphiに置き換えても成立する。

証明.c1<c2c_1<c_2のとき、L(t)=a+btL(t)=a+btを(c1,eδc1)(c_1,e^{\delta c_1})と(c2,eδc2)(c_2,e^{\delta c_2})を通る直線とする。関数r(t)=eδtr(t)=e^{\delta t}はr′′(t)=δ2eδt>0r''(t)=\delta^2e^{\delta t}>0を満たす。そのためr−Lr-Lは[c1,c2][c_1,c_2]上で非正であり、区間の外では非負である。後者は、r′r'が増加するため区間の外の割線の傾きが[c1,c2][c_1,c_2]の割線の傾きを同じ向きに比較することから従う。c1=c2=cc_1=c_2=cの場合は、接線L(t)=eδc{1+δ(t−c)}L(t)=e^{\delta c}\{1+\delta(t-c)\}を取ればr−L≥0r-L\geq0、r(c)−L(c)=0r(c)-L(c)=0となる。いずれの場合も、定理 2.1を目的関数eδte^{\delta t}と制約関数1,t1,tに適用することができる。一般の確率空間上では目的関数をeδTe^{\delta T}、制約関数を1,T1,Tとする。同じ符号不等式が各標本点で成立するので、同補題が結論を与える。▨

定理 3.3.fη=hexp⁡{ηT−A(η)}f_\eta=h\exp\{\eta T-A(\eta)\}を一径数指数型分布族とし、母数集合JJの内点η0\eta_0と0<α<10<\alpha<1を取る。H0:η=η0H_0:\eta=\eta_0対H1:η∈J∖{η0}H_1:\eta\in J\setminus\{\eta_0\}に対して、水準α\alphaの UMPU 検定が存在する。TTが帰無分布の下で一点に集中しないならば、有限なc1≤c2c_1\leq c_2と境界での無作為化を選び、

φ∗(x)=1(T(x)<c1 または T(x)>c2),φ∗(x)=0(c1<T(x)<c2)\varphi^*(x)=1\quad(T(x)<c_1\text{ または }T(x)>c_2),\qquad \varphi^*(x)=0\quad(c_1<T(x)<c_2)

かつ

Eη0φ∗=α,Eη0(Tφ∗)=αEη0TE_{\eta_0}\varphi^*=\alpha,\qquad E_{\eta_0}(T\varphi^*)=\alpha E_{\eta_0}T

を満たす検定を取ることができる。この形で二つの制約を満たすどの検定も、同じ二制約を満たす任意の検定と比較して、すべての対立母数で検出力が最大であり、UMPU である。TTが一点に集中する場合には、定数検定φ∗=α\varphi^*=\alphaが UMPU である。

証明.§E14.5 命題 5.7によりEη0∣T∣<∞E_{\eta_0}|T|<\inftyである。TTの帰無分布が一点に集中しない場合、補題 3.1の受容関数aaに対してφ∗=1−a(T)\varphi^*=1-a(T)と置くと、表示した形と二つの制約を得る。

任意のη∈J∖{η0}\eta\in J\setminus\{\eta_0\}を取り、δ=η−η0\delta=\eta-\eta_0と置く。密度比は

dPηdPη0=exp⁡{δT−A(η)+A(η0)}\frac{dP_\eta}{dP_{\eta_0}} =\exp\{\delta T-A(\eta)+A(\eta_0)\}

であるから、Eη0eδT<∞E_{\eta_0}e^{\delta T}<\inftyである。二つの制約を満たす任意の検定φ\varphiに補題 3.2を適用し、正の定数e−A(η)+A(η0)e^{-A(\eta)+A(\eta_0)}を掛けると

Eηφ∗≥EηφE_\eta\varphi^*\geq E_\eta\varphi

を得る。定数検定φ=α\varphi=\alphaも二つの制約を満たすので、Eηφ∗≥αE_\eta\varphi^*\geq\alphaである。したがってφ∗\varphi^*は不偏である。任意の不偏競合は補題 2.3により二つの制約を満たすため、φ∗\varphi^*は UMPU である。

T=t0T=t_0がPη0P_{\eta_0}-ほとんど確実に成り立つ場合、密度比は定数であり、その期待値が1であることから、すべてのη∈J\eta\in JでPη=Pη0P_\eta=P_{\eta_0}となる。水準α\alphaの検定の検出力は全母数でα\alpha以下であるから、定数検定α\alphaが結論を満たす。▨

例 3.4.X∼Bin⁡(2,p)X\sim\operatorname{Bin}(2,p)、0<p<10<p<1とし、p=1/2p=1/2対p≠1/2p\ne1/2を水準α=1/4\alpha=1/4で検定する。密度は(2x)exp⁡{ηx−2log⁡(1+eη)}\binom2x\exp\{\eta x-2\log(1+e^\eta)\}、η=log⁡(p/(1−p))∈R\eta=\log(p/(1-p))\in\Rである。帰無分布は0,1,20,1,2にそれぞれ確率1/4,1/2,1/41/4,1/2,1/4を与え、帰無平均は1である。

φ∗(0)=12,φ∗(1)=0,φ∗(2)=12\varphi^*(0)=\frac12,\qquad \varphi^*(1)=0,\qquad \varphi^*(2)=\frac12

とすると、E1/2φ∗=1/4E_{1/2}\varphi^*=1/4、E1/2(Xφ∗)=1/4E_{1/2}(X\varphi^*)=1/4である。よって定理 3.3により UMPU である。検出力は

12{(1−p)2+p2}=14+(p−12)2\frac12\{(1-p)^2+p^2\}=\frac14+\left(p-\frac12\right)^2

となる。二つの端の原子での無作為化が、サイズと一次積率の両制約を同時に満たしている。

4 類似検定と Neyman 構造

定義 4.1 (Neyman 構造). 統計モデルの帰無族(Pθ)θ∈Θ0(P_\theta)_{\theta\in\Theta_0}と、その族に対する十分統計量SS、検定φ\varphi、0<α<10<\alpha<1を取る。すべてのθ∈Θ0\theta\in\Theta_0について

Eθ[φ∣S]=αPθ-ほとんど確実にE_\theta[\varphi\mid S]=\alpha \qquad P_\theta\text{-ほとんど確実に}

が成り立つとき、φ\varphiはSSに関してサイズα\alphaの Neyman 構造 (Neyman structure) をもつという。

定理 4.2. 帰無族(Pθ)θ∈Θ0(P_\theta)_{\theta\in\Theta_0}に対してSSが十分かつ有界完備であるとする。0<α<10<\alpha<1に対して、検定φ\varphiがサイズα\alphaの類似検定であることと、SSに関してサイズα\alphaの Neyman 構造をもつことは同値である。

証明. 十分性により、すべての帰無母数に共通な、SSの終域で可測な関数ggを取り、g(S)=Eθ[φ∣S]g(S)=E_\theta[\varphi\mid S]と書く。ggを[0,1][0,1]へ切断しても各母数の条件付き期待値の版は変わらない。類似性を仮定すると、条件付き期待値の期待値保存により、すべてのθ∈Θ0\theta\in\Theta_0でEθ[g(S)−α]=0E_\theta[g(S)-\alpha]=0である。g−αg-\alphaは有界なので、有界完備性からg(S)=αg(S)=\alphaが各PθP_\theta-ほとんど確実に成り立つ。逆に、この条件付き等式の期待値を取ればEθφ=αE_\theta\varphi=\alphaとなり、類似性を得る。▨

5 未知分散の正規平均

補題 5.1.n≥2n\geq2、σ2>0\sigma^2>0とし、Y1,…,YnY_1,\ldots,Y_nをN(0,σ2)N(0,\sigma^2)からの独立同分布標本とする。

T=∑i=1nYi,U=∑i=1nYi2,W=TnUT=\sum_{i=1}^nY_i,\qquad U=\sum_{i=1}^nY_i^2,\qquad W=\frac{T}{\sqrt{nU}}

と置き、U=0U=0ではW=0W=0と定める。このときU∼Gamma⁡(n/2,1/(2σ2))U\sim\operatorname{Gamma}(n/2,1/(2\sigma^2))であり、WWとUUは独立である。WWの密度は

q(w)=(1−w2)(n−3)/2B(1/2,(n−1)/2)1(−1,1)(w)q(w)=\frac{(1-w^2)^{(n-3)/2}}{B(1/2,(n-1)/2)}\mathbf1_{(-1,1)}(w)

である。特にこの密度は母分散に依存せず、原点について対称で、(−1,1)(-1,1)上で正である。

証明.Yˉ=T/n\bar Y=T/nとし、Z=nYˉ/σZ=\sqrt n\bar Y/\sigma、B=∑i(Yi−Yˉ)2/σ2B=\sum_i(Y_i-\bar Y)^2/\sigma^2と置く。§E14.3 定理 4.1により、Z∼N(0,1)Z\sim N(0,1)とB∼χn−12B\sim\chi^2_{n-1}は独立である。標準正規密度の対称性から、任意の Borel 集合D⊆(0,∞)D\subseteq(0,\infty)について

P(Z>0,Z2∈D)=P(Z<0,Z2∈D)=12P(Z2∈D)P(Z>0,Z^2\in D)=P(Z<0,Z^2\in D)=\frac12P(Z^2\in D)

となる。したがってε=sign⁡Z\varepsilon=\operatorname{sign}ZはZ2Z^2と独立であり、ε=1,−1\varepsilon=1,-1を等確率で取る。ZZとBBの独立性も用いると、ε\varepsilonは(Z2,B)(Z^2,B)と独立である。

§E14.3 補題 2.1と§E14.3 定理 1.5により、

R=Z2Z2+B∼Beta⁡ ⁣(12,n−12),V=Z2+B∼Gamma⁡ ⁣(n2,12)R=\frac{Z^2}{Z^2+B}\sim\operatorname{Beta}\!\left(\frac12,\frac{n-1}2\right),\qquad V=Z^2+B\sim\operatorname{Gamma}\!\left(\frac n2,\frac12\right)

は独立である。さらにε\varepsilonは(R,V)(R,V)と独立であるから、W=εRW=\varepsilon\sqrt RはU=σ2VU=\sigma^2Vと独立である。 Gamma 密度に変数変換u=σ2vu=\sigma^2vを施すと、UUの表示した分布を得る。 Beta 密度とr=w2r=w^2、dr=2∣w∣ dwdr=2|w|\,dwを用い、各符号の確率1/21/2を掛けると、WWの密度は表示したqqになる。▨

補題 5.2.n≥2n\geq2、μ0∈R\mu_0\in\R、0<α<10<\alpha<1とし、X1,…,XnX_1,\ldots,X_nはN(μ,σ2)N(\mu,\sigma^2)からの独立同分布標本で、(μ,σ2)∈R×(0,∞)(\mu,\sigma^2)\in\R\times(0,\infty)とする。

T=∑i(Xi−μ0),U=∑i(Xi−μ0)2T=\sum_i(X_i-\mu_0),\qquad U=\sum_i(X_i-\mu_0)^2

と置く。H0:μ=μ0H_0:\mu=\mu_0対H1:μ≠μ0H_1:\mu\ne\mu_0の任意の水準α\alphaの不偏検定φ\varphiは、すべてのσ2>0\sigma^2>0に対して

Eμ0,σ2[φ∣U]=α,Eμ0,σ2[Tφ∣U]=0E_{\mu_0,\sigma^2}[\varphi\mid U]=\alpha,\qquad E_{\mu_0,\sigma^2}[T\varphi\mid U]=0

をほとんど確実に満たす。

証明.Yi=Xi−μ0Y_i=X_i-\mu_0とすると、標本の密度は

fη,τ(y)=exp⁡{ηT+τU−A(η,τ)},η=μ−μ0σ2,τ=−12σ2<0f_{\eta,\tau}(y)=\exp\{\eta T+\tau U-A(\eta,\tau)\},\qquad \eta=\frac{\mu-\mu_0}{\sigma^2},\qquad \tau=-\frac1{2\sigma^2}<0

と書くことができる。平方完成による正規化定数は

A(η,τ)=n2log⁡π−τ−nη24τA(\eta,\tau)=\frac n2\log\frac\pi{-\tau}-\frac{n\eta^2}{4\tau}

であり、任意のη∈R\eta\in\Rとτ<0\tau<0で有限である。τ\tauを固定すると一径数指数型分布族であり、帰無母数はη=0\eta=0である。補題 2.3により、不偏検定は全τ<0\tau<0で

E0,τφ=α,E0,τ(Tφ)=0E_{0,\tau}\varphi=\alpha,\qquad E_{0,\tau}(T\varphi)=0

を満たす。第二式ではE0,τT=0E_{0,\tau}T=0を用いた。

帰無密度はexp⁡{τU−A(0,τ)}\exp\{\tau U-A(0,\tau)\}であるから、因子分解定理§E14.5 定理 3.1によりUUは帰無族に対して十分である。補題 5.1により、その分布族は固定 shapen/2n/2と全正 rate をもつ Gamma 族である。この Gamma 族へ、§E14.10 定理 4.1を標本サイズ1、t(u)=ut(u)=u、h(u)=un/2−11(0,∞)(u)h(u)=u^{n/2-1}\mathbf1_{(0,\infty)}(u)、J=(−∞,0)J=(-\infty,0)として適用すると、UUの完備性を得る。特に有界完備であるため、類似性と定理 4.2から第一の条件付き等式を得る。

また∣Tφ∣≤∣T∣≤nU|T\varphi|\leq|T|\leq\sqrt{nU}であり、§E14.3 命題 1.3により、これはすべての帰無母数で可積分である。§E14.5 命題 3.3により、母数によらない有限値可測関数bbを取り、b(U)=E0,τ[Tφ∣U]b(U)=E_{0,\tau}[T\varphi\mid U]と書くことができる。条件付き期待値の絶対値評価からE0,τ∣b(U)∣≤E0,τ∣Tφ∣<∞E_{0,\tau}|b(U)|\leq E_{0,\tau}|T\varphi|<\inftyであり、期待値保存からE0,τb(U)=0E_{0,\tau}b(U)=0である。 Gamma 族の完備性をbbに適用すると、第二の条件付き等式を得る。▨

定理 5.3.n≥2n\geq2、0<α<10<\alpha<1、μ0∈R\mu_0\in\Rとし、X1,…,XnX_1,\ldots,X_nをN(μ,σ2)N(\mu,\sigma^2)からの独立同分布標本とする。母分散σ2>0\sigma^2>0は未知である。

Xˉ=1n∑iXi,S2=1n−1∑i(Xi−Xˉ)2\bar X=\frac1n\sum_iX_i,\qquad S^2=\frac1{n-1}\sum_i(X_i-\bar X)^2

とし、qtn−1(1−α/2)q_{t_{n-1}}(1-\alpha/2)を自由度n−1n-1のtt分布の1−α/21-\alpha/2分位点とする。検定

φ∗(X)=1{∣n(Xˉ−μ0)S∣>qtn−1(1−α/2)}\varphi^*(X)=\mathbf1_{\left\{\left|\frac{\sqrt n(\bar X-\mu_0)}S\right|>q_{t_{n-1}}(1-\alpha/2)\right\}}

は、H0:μ=μ0H_0:\mu=\mu_0対H1:μ≠μ0H_1:\mu\ne\mu_0に対する水準α\alphaの UMPU 検定である。S=0S=0となる標本上ではφ∗=0\varphi^*=0と定める。

証明.Yi=Xi−μ0Y_i=X_i-\mu_0、T=∑iYiT=\sum_iY_i、U=∑iYi2U=\sum_iY_i^2とし、自然母数(η,τ)∈R×(−∞,0)(\eta,\tau)\in\R\times(-\infty,0)を補題 5.2の証明のように取る。この正規族の密度表示と因子分解定理§E14.5 定理 3.1により、(T,U)(T,U)は十分統計量である。任意の検定φ\varphiは有界であるから、§E14.5 命題 3.3により、母数によらない Borel 関数ggで

g(T,U)=Eη,τ[φ∣T,U],0≤g≤1g(T,U)=E_{\eta,\tau}[\varphi\mid T,U],\qquad 0\leq g\leq1

がすべての(η,τ)(\eta,\tau)についてほとんど確実に成り立つように取ることができる。従ってEη,τg(T,U)=Eη,τφE_{\eta,\tau}g(T,U)=E_{\eta,\tau}\varphiである。以下、基準測度をQ=P0,−1/2Q=P_{0,-1/2}とする。

補題 5.1の密度をqqと書き、u>0u>0に対して

qu(t)=1nuq ⁣(tnu)q_u(t)=\frac1{\sqrt{nu}}q\!\left(\frac{t}{\sqrt{nu}}\right)

と置く。帰無ではW=T/nUW=T/\sqrt{nU}とUUが独立なので、qu(t) dtq_u(t)\,dtはTTのU=uU=uにおける条件付き分布を与える。すなわち、任意の非負 Borel 関数bbに対して、積分公式

EQb(T,U)=∫0∞∫Rb(t,u)qu(t) dt QU(du)E_Q b(T,U)=\int_0^\infty\int_\R b(t,u)q_u(t)\,dt\,Q_U(du)

が成立する。独立な(W,U)(W,U)に Tonelli の定理§E9.11 定理 2.3を適用し、内側でt=nu wt=\sqrt{nu}\,wと変数変換すればこの等式を得る。特にquq_uは(−nu,nu)(-\sqrt{nu},\sqrt{nu})に支持をもち、原点について対称である。

Mu(η)=∫eηtqu(t) dtM_u(\eta)=\int e^{\eta t}q_u(t)\,dtと置くと、0<Mu(η)<∞0<M_u(\eta)<\inftyである。測度変更の補題§E14.5 補題 2.2により、対立母数を含む任意の(η,τ)(\eta,\tau)で

Eη,τ[g(T,U)∣U=u]=∫g(t,u)eηtqu(t) dtMu(η)E_{\eta,\tau}[g(T,U)\mid U=u] =\frac{\int g(t,u)e^{\eta t}q_u(t)\,dt}{M_u(\eta)}

がPη,τP_{\eta,\tau}のUUの分布についてほとんど至る所で成り立つ。実際、条件付き分子と分母に共通な正因子exp⁡{(τ+1/2)u−A(η,τ)+A(0,−1/2)}\exp\{(\tau+1/2)u-A(\eta,\tau)+A(0,-1/2)\}が相殺される。分子・分母の可測性は上の反復積分公式から従い、分母は正かつ有限である。したがって条件付き族は、各u>0u>0でqu(t) dtq_u(t)\,dtを基準とする自然母数空間R\Rの指数型分布族である。

密度qqの対称性と正値性から、∫∣w∣>kq(w) dw=α\int_{|w|>k}q(w)\,dw=\alphaを満たすk∈(0,1)k\in(0,1)が一意に存在する。ψu∗(t)=1{∣t∣>knu}\psi_u^*(t)=\mathbf1_{\{|t|>k\sqrt{nu}\}}と置くと

∫ψu∗qu=α,∫tψu∗(t)qu(t) dt=0=α∫tqu(t) dt\int\psi_u^*q_u=\alpha,\qquad \int t\psi_u^*(t)q_u(t)\,dt=0=\alpha\int tq_u(t)\,dt

である。ゆえに定理 3.3により、この条件付き族においてψu∗\psi_u^*は不偏であり、各η≠0\eta\ne0での検出力は、二つの制約を満たすすべての関数の検出力以上である。

競合φ\varphiを水準α\alphaの不偏検定とする。補題 5.2と塔の性質により、帰無基準測度の下で

∫g(t,u)qu(t) dt=α,∫tg(t,u)qu(t) dt=0\int g(t,u)q_u(t)\,dt=\alpha,\qquad \int tg(t,u)q_u(t)\,dt=0

がQUQ_U-ほとんど至る所で成り立つ。第二式には、TφT\varphiの可積分性とTTが(T,U)(T,U)可測であることを用いる。全Pη,τP_{\eta,\tau}はQQと同値なので、そのUUの分布もQUQ_Uと同値である。したがって各対立母数で、ほとんどすべてのuuについて

Eη,τ[ψU∗(T)∣U=u]≥Eη,τ[φ∣U=u]E_{\eta,\tau}[\psi_U^*(T)\mid U=u] \geq E_{\eta,\tau}[\varphi\mid U=u]

であり、UUについて積分すれば無条件の検出力の比較を得る。また条件付き族の不偏性から、ψU∗(T)\psi_U^*(T)自身の対立での検出力はα\alpha以上であり、帰無でのサイズはα\alphaである。

最後に、U>0U>0かつS>0S>0となる確率1の集合上で

n(Xˉ−μ0)S=n−1 W1−W2,W=TnU\frac{\sqrt n(\bar X-\mu_0)}S =\frac{\sqrt{n-1}\,W}{\sqrt{1-W^2}},\qquad W=\frac{T}{\sqrt{nU}}

である。右辺の絶対値は∣W∣∈[0,1)|W|\in[0,1)に関して狭義増加である。§E14.3 定理 4.3と§E14.3 命題 2.4により、その帰無での両側確率α\alphaの閾値はqtn−1(1−α/2)q_{t_{n-1}}(1-\alpha/2)である。従ってψU∗(T)\psi_U^*(T)は、零集合上を除いて主張のφ∗\varphi^*に等しく、UMPU である。▨

6 検定と最精密な信頼集合

定義 6.1 (信頼集合と一様最精密性). 統計モデル(Pθ)θ∈Θ(P_\theta)_{\theta\in\Theta}、0<α<10<\alpha<1と、各ϑ∈Θ\vartheta\in\Thetaについて可測な関数cϑ:X→[0,1]c_\vartheta:\mathcal X\to[0,1]を取る。標本と独立なV∼Unif⁡(0,1)V\sim\operatorname{Unif}(0,1)を用いて

C(X,V)={ϑ∈Θ:V≤cϑ(X)}C(X,V)=\{\vartheta\in\Theta:V\leq c_\vartheta(X)\}

と定める。すべてのθ∈Θ\theta\in\Thetaで

Pθ(θ∈C)=Eθcθ≥1−αP_\theta(\theta\in C)=E_\theta c_\theta\geq1-\alpha

ならば、CCを信頼水準1−α1-\alphaの 信頼集合 (confidence set) という。ここで確率は独立な無作為化変数も含めて取る。

各候補母数ϑ\varthetaに対して集合Aϑ⊆Θ∖{ϑ}A_\vartheta\subseteq\Theta\setminus\{\vartheta\}を指定する。同じ信頼水準をもつ任意の信頼集合DDと、任意のθ∈Aϑ\theta\in A_\varthetaに対して

Pθ(ϑ∈C)≤Pθ(ϑ∈D)P_\theta(\vartheta\in C)\leq P_\theta(\vartheta\in D)

が成り立つとき、CCはこの比較範囲で 一様最精密 (uniformly most accurate) であるという。特にAϑ=Θ∖{ϑ}A_\vartheta=\Theta\setminus\{\vartheta\}ならば、すべての誤った候補母数の包含確率を同時に最小にする。

定理 6.2. 統計モデル(Pθ)θ∈Θ(P_\theta)_{\theta\in\Theta}と0<α<10<\alpha<1を取り、各ϑ∈Θ\vartheta\in\Thetaに対してAϑ⊆Θ∖{ϑ}A_\vartheta\subseteq\Theta\setminus\{\vartheta\}を指定する。各検定φϑ\varphi_\varthetaが、単純帰無θ=ϑ\theta=\varthetaと対立θ∈Aϑ\theta\in A_\varthetaに対する水準α\alphaの UMP 検定ならば、cϑ=1−φϑc_\vartheta=1-\varphi_\varthetaによる信頼集合は、信頼水準1−α1-\alphaをもち、指定した比較範囲で一様最精密である。

証明.cϑ=1−φϑc_\vartheta=1-\varphi_\varthetaと置くと、Eϑcϑ=1−Eϑφϑ≥1−αE_\vartheta c_\vartheta=1-E_\vartheta\varphi_\vartheta\geq1-\alphaなので、信頼水準の条件が成り立つ。競合する信頼集合DDの包含関数をdϑd_\varthetaとすると、1−dϑ1-d_\varthetaは帰無θ=ϑ\theta=\varthetaの下で期待値がα\alpha以下の検定である。 UMP 性により、θ∈Aϑ\theta\in A_\varthetaに対して

Eθφϑ≥Eθ(1−dϑ)E_\theta\varphi_\vartheta\geq E_\theta(1-d_\vartheta)

となる。両辺を1から引けばPθ(ϑ∈C)≤Pθ(ϑ∈D)P_\theta(\vartheta\in C)\leq P_\theta(\vartheta\in D)を得る。▨

例 6.3.n≥2n\geq2、σ2>0\sigma^2>0とし、X1,…,XnX_1,\ldots,X_nをN(μ,σ2)N(\mu,\sigma^2)からの独立同分布標本とする。ここではσ2\sigma^2は既知とする。Φ\Phiを標準正規分布関数とする。μ1<μ2\mu_1<\mu_2に対する標本密度の比は

exp⁡{μ2−μ1σ2∑iXi−n(μ22−μ12)2σ2}\exp\left\{\frac{\mu_2-\mu_1}{\sigma^2}\sum_iX_i -\frac{n(\mu_2^2-\mu_1^2)}{2\sigma^2}\right\}

であり、標本和に関して増加する。§E14.3 定理 4.1の標本平均の分布と定理 1.4により、各ϑ∈R\vartheta\in\Rに対して

φϑ(X)=1{Xˉ>ϑ+Φ−1(1−α)σ/n}\varphi_\vartheta(X)=\mathbf1_{\{\bar X>\vartheta+\Phi^{-1}(1-\alpha)\sigma/\sqrt n\}}

はμ=ϑ\mu=\vartheta対μ>ϑ\mu>\varthetaの UMP 検定である。これらの検定を反転すると、定理 6.2により

C(X)=[Xˉ−Φ−1(1−α)σn,∞)C(X)=\left[\bar X-\Phi^{-1}(1-\alpha)\frac\sigma{\sqrt n},\infty\right)

は信頼水準1−α1-\alphaをもち、真の母平均μ\muより小さい任意の候補ϑ<μ\vartheta<\muについて、その候補を含む確率を同時に最小にする。比較対象は、同じ信頼水準をもつすべての信頼集合である。

前提記事

10 本の記事・単元を表示