誤差・条件数・安定性 | 数値解析 I

1 ノルムと全微分

定義 1.1. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。線形写像 $A\colon\R^n\to\R^m$ に対して

\lVert A\rVert:=\sup\{\lVert Ah\rVert\mid h\in\R^n,\ \lVert h\rVert=1\}

を、固定した二つのノルムに関する $A$ の作用素ノルム (operator norm induced by norms) という。

補題 1.2. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。

任意の線形写像 $A\colon\R^n\to\R^m$ に対して $\lVert A\rVert$ は有限であり、任意の $h\in\R^n$ に対して $\lVert Ah\rVert\le\lVert A\rVert\lVert h\rVert$ が成り立つ。さらに $\lVert v\rVert=1$ かつ $\lVert Av\rVert=\lVert A\rVert$ を満たす $v\in\R^n$ が存在する。
$U\subset\R^n$ を開集合、 $x\in U$ とする。実数 $\rho>0$ が存在して、 $\lVert h\rVert<\rho$ を満たす任意の $h\in\R^n$ に対して $x+h\in U$ が成り立つ。
$U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像、 $x\in U$ 、 $A\colon\R^n\to\R^m$ を線形写像とする。 $F$ が $x$ で全微分可能であり $DF(x)=A$ であることと、任意の $\varepsilon>0$ に対して実数 $\rho>0$ が存在し、 $\lVert h\rVert<\rho$ を満たす任意の $h\in\R^n$ に対して $x+h\in U$ かつ $\lVert F(x+h)-F(x)-Ah\rVert\le\varepsilon\lVert h\rVert$ が成り立つことは同値である。

証明. 演習とする（問題 7.1）。▨

2 前進誤差と後退誤差

定義 2.1. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像とし、 $x\in U$ を入力、 $F(x)$ を出力と呼ぶ。 $x\in U$ と $\hat y\in\R^m$ に対して次のように定める。

$\lVert\hat y-F(x)\rVert$ を $\hat y$ の絶対前進誤差 (absolute forward error) という。 $F(x)\ne0$ のとき、 $\lVert\hat y-F(x)\rVert/\lVert F(x)\rVert$ を $\hat y$ の相対前進誤差 (relative forward error) という。 $F(x)=0$ のときは相対前進誤差を定めず、絶対前進誤差を用いる。
$P\subset\R^n$ を部分集合とし、 $P$ の元を許容する摂動と呼ぶ。 $E_P(x,\hat y):=\{\Delta x\in P\mid x+\Delta x\in U,\ F(x+\Delta x)=\hat y\}$ と置き、 $\eta_P(x,\hat y):=\inf\{\lVert\Delta x\rVert\mid\Delta x\in E_P(x,\hat y)\}$ を $\hat y$ の絶対後退誤差 (absolute backward error) という。ただし $E_P(x,\hat y)=\varnothing$ のとき $\eta_P(x,\hat y):=+\infty$ とする。 $x\ne0$ のとき、 $\eta_P(x,\hat y)/\lVert x\rVert$ を $\hat y$ の相対後退誤差 (relative backward error) という。 $x=0$ のときは相対後退誤差を定めず、絶対後退誤差を用いる。 $P=\R^n$ のとき添字 $P$ を省く。

例 2.2. $a\ne0$ と $b$ を実数とし、 $\R$ のノルムを絶対値とする。一次方程式 $ax=b$ の解を、入力 $b$ の写像 $g(b)=b/a$ （ $g\colon\R\to\R$ ）と見る。近似値 $\hat x\in\R$ に対して $g(b+\Delta b)=\hat x$ となる $\Delta b$ は $a\hat x-b$ だけであるから、絶対後退誤差は $\lvert a\hat x-b\rvert$ 、絶対前進誤差は $\lvert\hat x-b/a\rvert=\lvert a\hat x-b\rvert/\lvert a\rvert$ である。 $b\ne0$ ならば、相対後退誤差と相対前進誤差はどちらも $\lvert a\hat x-b\rvert/\lvert b\rvert$ である。 $b=0$ ならば出力は $0$ であり、相対前進誤差は定めない。

同じ方程式を、入力 $(a,b)$ の写像 $S(a,b)=b/a$ （ $S\colon\{(a,b)\in\R^2\mid a\ne0\}\to\R$ ）と見て、 $\R^2$ に $\lVert(a,b)\rVert_\infty=\max\{\lvert a\rvert,\lvert b\rvert\}$ を入れ、許容する摂動を $P=\R\times\{0\}$ （ $a$ だけの摂動）とする。 $E_P((a,b),\hat x)$ は $a+\Delta a\ne0$ かつ $(a+\Delta a)\hat x=b$ を満たす $(\Delta a,0)$ の全体である。 $b\ne0$ 、 $\hat x\ne0$ ならば $E_P((a,b),\hat x)=\{(b/\hat x-a,0)\}$ であり、絶対後退誤差は $\lvert b/\hat x-a\rvert$ である。 $b\ne0$ 、 $\hat x=0$ ならば、および $b=0$ 、 $\hat x\ne0$ ならば、条件を満たす $a+\Delta a\ne0$ は存在せず、絶対後退誤差は $+\infty$ である。 $b=0$ 、 $\hat x=0$ ならば $(0,0)\in E_P((a,b),\hat x)$ であり、絶対後退誤差は $0$ である。

3 条件数

定義 3.1. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像、 $x\in U$ とする。 $\delta>0$ に対して

s(\delta):=\sup\left\{\frac{\lVert F(x+\Delta x)-F(x)\rVert}{\lVert\Delta x\rVert}\ \middle|\ \Delta x\in\R^n,\ 0<\lVert\Delta x\rVert\le\delta,\ x+\Delta x\in U\right\}\in[0,+\infty]

と置く。補題 1.2 (2)により上限をとる集合は空でなく、 $s$ は $\delta$ について単調非減少であるから、極限 $\kappa_{\mathrm{abs}}(F,x):=\lim_{\delta\to+0}s(\delta)=\inf_{\delta>0}s(\delta)\in[0,+\infty]$ が定まる。 $\kappa_{\mathrm{abs}}(F,x)$ を $F$ の $x$ における絶対条件数 (absolute condition number) という。 $x\ne0$ かつ $F(x)\ne0$ のとき、

\kappa_{\mathrm{rel}}(F,x):=\lim_{\delta\to+0}\sup\left\{\frac{\lVert F(x+\Delta x)-F(x)\rVert/\lVert F(x)\rVert}{\lVert\Delta x\rVert/\lVert x\rVert}\ \middle|\ \Delta x\in\R^n,\ 0<\lVert\Delta x\rVert\le\delta\lVert x\rVert,\ x+\Delta x\in U\right\}

を $F$ の $x$ における相対条件数 (relative condition number) という。 $x=0$ または $F(x)=0$ のときは相対条件数を定めず、絶対条件数を用いる。 $\kappa_{\mathrm{rel}}(F,x)$ が大きいとき $F$ は $x$ で悪条件 (ill-conditioned) であるといい、小さいとき良条件 (well-conditioned) であるという。この二語は条件数の値の大小を比較して述べる語であり、閾値を定めない。

命題 3.2. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像、 $x\in U$ とする。

$x\ne0$ かつ $F(x)\ne0$ ならば、 $\kappa_{\mathrm{rel}}(F,x)=\kappa_{\mathrm{abs}}(F,x)\lVert x\rVert/\lVert F(x)\rVert$ が成り立つ。
$F$ が $x$ で全微分可能ならば、 $\kappa_{\mathrm{abs}}(F,x)=\lVert DF(x)\rVert$ が成り立つ。したがって、さらに $x\ne0$ かつ $F(x)\ne0$ ならば、 $\kappa_{\mathrm{rel}}(F,x)=\lVert DF(x)\rVert\lVert x\rVert/\lVert F(x)\rVert$ が成り立つ。

証明.(1)を示す。 $0<\lVert\Delta x\rVert$ を満たす $\Delta x$ について、 $\kappa_{\mathrm{rel}}(F,x)$ の定義の商は $(\lVert x\rVert/\lVert F(x)\rVert)\cdot\lVert F(x+\Delta x)-F(x)\rVert/\lVert\Delta x\rVert$ に等しい。条件 $0<\lVert\Delta x\rVert\le\delta\lVert x\rVert$ のもとでの上限は $(\lVert x\rVert/\lVert F(x)\rVert)s(\delta\lVert x\rVert)$ であり、 $\delta\to+0$ として主張を得る。

(2)を示す。 $A:=DF(x)$ と置き、 $\varepsilon>0$ をとる。補題 1.2 (3)により、 $\rho>0$ が存在して、 $\lVert h\rVert<\rho$ ならば $x+h\in U$ かつ $\lVert F(x+h)-F(x)-Ah\rVert\le\varepsilon\lVert h\rVert$ である。 $0<\delta<\rho$ とする。 $0<\lVert\Delta x\rVert\le\delta$ ならば、補題 1.2 (1)により

\lVert F(x+\Delta x)-F(x)\rVert\le\lVert A\Delta x\rVert+\varepsilon\lVert\Delta x\rVert\le(\lVert A\rVert+\varepsilon)\lVert\Delta x\rVert

であるから、 $s(\delta)\le\lVert A\rVert+\varepsilon$ である。補題 1.2 (1)により $\lVert v\rVert=1$ かつ $\lVert Av\rVert=\lVert A\rVert$ を満たす $v$ をとる。 $\Delta x:=\delta v$ は $x+\Delta x\in U$ を満たし、

\lVert F(x+\Delta x)-F(x)\rVert\ge\delta\lVert Av\rVert-\varepsilon\delta=(\lVert A\rVert-\varepsilon)\lVert\Delta x\rVert

であるから、 $s(\delta)\ge\lVert A\rVert-\varepsilon$ である。したがって $0<\delta<\rho$ に対して $\lvert s(\delta)-\lVert A\rVert\rvert\le\varepsilon$ であり、 $\kappa_{\mathrm{abs}}(F,x)=\lVert A\rVert$ が成り立つ。後半は(1)から従う。▨

系 3.3. $I\subset\R$ を開集合、 $f\colon I\to\R$ を関数とし、 $\R$ のノルムを絶対値とする。 $f$ が $x\in I$ で微分可能ならば $\kappa_{\mathrm{abs}}(f,x)=\lvert f'(x)\rvert$ であり、さらに $x\ne0$ かつ $f(x)\ne0$ ならば

\kappa_{\mathrm{rel}}(f,x)=\left\lvert\frac{xf'(x)}{f(x)}\right\rvert

である。

証明. 微分係数の定義により $\lvert f(x+h)-f(x)-f'(x)h\rvert/\lvert h\rvert\to0$ （ $h\to0$ ）であるから、 $f$ は $x$ で全微分可能であり、 $Df(x)$ は $h\mapsto f'(x)h$ である。その作用素ノルムは $\lvert f'(x)\rvert$ であり、命題 3.2 (2)により主張が成り立つ。▨

例 3.4. $\R$ のノルムを絶対値とする。

$f(x)=\sqrt x$ （ $x>0$ ）は $f'(x)=1/(2\sqrt x)$ を満たし、系 3.3により任意の $x>0$ で $\kappa_{\mathrm{rel}}(f,x)=1/2$ である。
$f(x)=\log x$ （ $x>0$ ）は $f'(x)=1/x$ を満たし、 $x\ne1$ ならば $\kappa_{\mathrm{rel}}(f,x)=1/\lvert\log x\rvert$ である。 $x=1+10^{-6}$ では $\kappa_{\mathrm{rel}}(f,x)=1000000.49999\ldots$ である。 $x=1$ では出力が $0$ であり、絶対条件数 $\kappa_{\mathrm{abs}}(f,1)=1$ を用いる。
$a\in\R$ を固定し、 $f(x)=x-a$ とする。 $x\ne0$ かつ $x\ne a$ ならば $\kappa_{\mathrm{rel}}(f,x)=\lvert x\rvert/\lvert x-a\rvert$ であり、 $a\ne0$ ならば $x\to a$ のとき $+\infty$ に発散する。 $x=a$ では出力が $0$ であり、 $\kappa_{\mathrm{abs}}(f,a)=1$ を用いる。
$g(t)=\log(1+t)$ （ $t>-1$ ）は $g'(t)=1/(1+t)$ を満たし、 $t\ne0$ ならば $\kappa_{\mathrm{rel}}(g,t)=\frac{\lvert t\rvert}{(1+t)\lvert\log(1+t)\rvert}$ である。 $t=10^{-6}$ では $\kappa_{\mathrm{rel}}(g,t)=0.99999950\ldots$ であり、入力 $x=1+t$ に対する $\log x$ の相対条件数 $1000000.49999\ldots$ とは異なる。 $\tau(t)=1+t$ と置くと $g=\log\circ\tau$ であり、(3)を $a=-1$ として $\kappa_{\mathrm{rel}}(\tau,t)=\lvert t\rvert/\lvert1+t\rvert$ 、したがって $\kappa_{\mathrm{rel}}(g,t)=\kappa_{\mathrm{rel}}(\tau,t)\,\kappa_{\mathrm{rel}}(\log,1+t)$ が成り立つ。

定理 3.5. $n\in\NN$ とし、定義域と値域の $\R^n$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $F\colon\R^n\to\R^n$ を可逆な線形写像とする。

任意の $x\ne0$ に対して $\kappa_{\mathrm{rel}}(F,x)=\lVert F\rVert\lVert x\rVert/\lVert Fx\rVert$ が成り立つ。
任意の $x\ne0$ に対して $\kappa_{\mathrm{rel}}(F,x)\le\lVert F\rVert\lVert F^{-1}\rVert$ が成り立ち、等号が成り立つことと $\lVert Fx\rVert=\lVert x\rVert/\lVert F^{-1}\rVert$ であることは同値である。等号を満たす $x\ne0$ が存在する。したがって $\max_{x\ne0}\kappa_{\mathrm{rel}}(F,x)=\lVert F\rVert\lVert F^{-1}\rVert$ である。

証明. $F(x+h)-F(x)-Fh=0$ であるから、 $F$ は各点で全微分可能であり $DF(x)=F$ である。 $x\ne0$ ならば $F$ の単射性により $Fx\ne0$ であるから、命題 3.2 (2)により(1)が成り立つ。

(2)を示す。 $x\ne0$ とし、 $y:=Fx\ne0$ と置く。補題 1.2 (1)により

\frac{\lVert x\rVert}{\lVert Fx\rVert}=\frac{\lVert F^{-1}y\rVert}{\lVert y\rVert}\le\lVert F^{-1}\rVert

であり、(1)により $\kappa_{\mathrm{rel}}(F,x)\le\lVert F\rVert\lVert F^{-1}\rVert$ である。 $\lVert F\rVert>0$ であるから、等号は $\lVert x\rVert/\lVert Fx\rVert=\lVert F^{-1}\rVert$ と同値であり、 $\lVert F^{-1}\rVert>0$ により $\lVert Fx\rVert=\lVert x\rVert/\lVert F^{-1}\rVert$ と同値である。補題 1.2 (1)により $\lVert y_0\rVert=1$ かつ $\lVert F^{-1}y_0\rVert=\lVert F^{-1}\rVert$ を満たす $y_0$ をとり、 $x_0:=F^{-1}y_0\ne0$ と置くと、 $\lVert x_0\rVert/\lVert Fx_0\rVert=\lVert F^{-1}\rVert$ である。▨

例 3.6. $0<\sigma<1$ とし、 $\R^2$ の定義域と値域に $\lVert(h_1,h_2)\rVert_\infty=\max\{\lvert h_1\rvert,\lvert h_2\rvert\}$ を入れ、 $F(h_1,h_2)=(h_1,\sigma h_2)$ と置く。 $\lVert F(h_1,h_2)\rVert_\infty=\max\{\lvert h_1\rvert,\sigma\lvert h_2\rvert\}\le\lVert(h_1,h_2)\rVert_\infty$ であり $\lVert Fe_1\rVert_\infty=1$ であるから $\lVert F\rVert=1$ である。 $F^{-1}(h_1,h_2)=(h_1,h_2/\sigma)$ について同様に $\lVert F^{-1}\rVert=1/\sigma$ であり、 $\lVert F^{-1}e_2\rVert_\infty=1/\sigma$ である。定理 3.5 (1)により $\kappa_{\mathrm{rel}}(F,e_1)=1$ 、 $\kappa_{\mathrm{rel}}(F,e_2)=1/\sigma=\lVert F\rVert\lVert F^{-1}\rVert$ である。入力 $e_2$ を $te_1$ （ $t>0$ ）だけ摂動すると、出力の相対変化は $\lVert F(te_1)\rVert_\infty/\lVert Fe_2\rVert_\infty=t/\sigma$ であり、入力の相対変化 $t$ の $1/\sigma$ 倍である。入力 $e_2$ を $te_2$ だけ摂動すると、出力の相対変化は $\sigma t/\sigma=t$ であり、入力の相対変化の $1$ 倍である。

注意 3.7. $A$ を $n$ 次の実可逆行列とし、 $\R^n$ にノルムを固定する。右辺 $b$ を入力として解 $A^{-1}b$ を返す写像は可逆な線形写像であり、その逆写像は $x\mapsto Ax$ である。定理 3.5により、 $b\ne0$ における相対条件数は $\lVert A^{-1}\rVert\lVert b\rVert/\lVert A^{-1}b\rVert$ であり、その $b\ne0$ 全体にわたる最大値は $\lVert A^{-1}\rVert\lVert A\rVert$ である。例 3.6の $F$ を $A^{-1}$ とする例が示すように、固定した $b$ の相対条件数はこの最大値より小さいことがある。行列 $A$ の成分も摂動する場合の感度は、 $(A,b)$ を入力とする別の写像の条件数である。

4 有限の摂動

命題 4.1. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像、 $x\in U$ 、 $\Delta x\in\R^n$ 、 $L\ge0$ を実数とし、任意の $t\in[0,1]$ に対して $x+t\Delta x\in U$ であり、 $F$ が $x+t\Delta x$ で全微分可能であって $\lVert DF(x+t\Delta x)\rVert\le L$ を満たすとする。このとき

\lVert F(x+\Delta x)-F(x)\rVert\le L\lVert\Delta x\rVert

が成り立つ。特に $x\ne0$ かつ $F(x)\ne0$ ならば、 $\lVert F(x+\Delta x)-F(x)\rVert/\lVert F(x)\rVert\le(L\lVert x\rVert/\lVert F(x)\rVert)\cdot\lVert\Delta x\rVert/\lVert x\rVert$ である。

証明. $\Delta x=0$ ならば両辺は $0$ である。 $\Delta x\ne0$ とし、 $g(t):=F(x+t\Delta x)$ （ $t\in[0,1]$ ）と置き、 $\varepsilon>0$ をとる。 $t\in[0,1]$ と $y:=x+t\Delta x$ について、補題 1.2 (3)を $\varepsilon=1$ として適用すると $\rho_t>0$ が存在し、 $t'\in[0,1]$ が $\lvert t'-t\rvert\lVert\Delta x\rVert<\rho_t$ を満たせば、補題 1.2 (1)により $\lVert g(t')-g(t)\rVert\le(\lVert DF(y)\rVert+1)\lvert t'-t\rvert\lVert\Delta x\rVert$ である。したがって $g$ は $[0,1]$ 上で連続であり、 $\varphi(t):=\lVert g(t)-g(0)\rVert-(L\lVert\Delta x\rVert+\varepsilon)t$ も $[0,1]$ 上で連続であって、 $T:=\{t\in[0,1]\mid\varphi(t)\le0\}$ は $0$ を含む閉集合である。 $c:=\sup T$ と置くと $c\in T$ である。 $c<1$ と仮定する。 $y:=x+c\Delta x$ とすると、補題 1.2 (3)により $\rho>0$ が存在して、 $\lVert h\rVert<\rho$ ならば $\lVert F(y+h)-F(y)-DF(y)h\rVert\le(\varepsilon/\lVert\Delta x\rVert)\lVert h\rVert$ である。 $0<\sigma<\min\{1-c,\ \rho/\lVert\Delta x\rVert\}$ を満たす $\sigma$ をとり、 $h:=\sigma\Delta x$ とすると、補題 1.2 (1)により

\lVert g(c+\sigma)-g(c)\rVert\le\lVert DF(y)\rVert\sigma\lVert\Delta x\rVert+\varepsilon\sigma\le(L\lVert\Delta x\rVert+\varepsilon)\sigma

である。 $c\in T$ であるから

\lVert g(c+\sigma)-g(0)\rVert\le\lVert g(c+\sigma)-g(c)\rVert+\lVert g(c)-g(0)\rVert\le(L\lVert\Delta x\rVert+\varepsilon)(c+\sigma)

であり、 $c+\sigma\in T$ となって $c=\sup T$ に反する。したがって $c=1$ であり、 $\lVert F(x+\Delta x)-F(x)\rVert=\lVert g(1)-g(0)\rVert\le L\lVert\Delta x\rVert+\varepsilon$ である。 $\varepsilon>0$ は任意であるから主張が成り立つ。▨

例 4.2. $a\ne0$ と $b\ne0$ を実数とし、 $\psi(\alpha)=b/\alpha$ （ $\alpha\ne0$ ）を一次方程式 $\alpha x=b$ の解を係数 $\alpha$ の関数と見た写像とする。系 3.3により $\kappa_{\mathrm{rel}}(\psi,a)=\lvert a\cdot(-b/a^2)/(b/a)\rvert=1$ である。 $-1<\theta<0$ とし、係数を $a$ から $a(1+\theta)$ へ摂動する。出力の相対変化は

\frac{\lvert\psi(a(1+\theta))-\psi(a)\rvert}{\lvert\psi(a)\rvert}=\left\lvert\frac{1}{1+\theta}-1\right\rvert=\frac{\lvert\theta\rvert}{1+\theta}

であり、一次の予測 $\kappa_{\mathrm{rel}}(\psi,a)\lvert\theta\rvert=\lvert\theta\rvert$ より大きい。 $a$ と $a(1+\theta)$ を結ぶ線分上で $\lvert\psi'(\alpha)\rvert=\lvert b\rvert/\alpha^2\le\lvert b\rvert/(a^2(1+\theta)^2)=:L$ であるから、命題 4.1により出力の相対変化は $L\lvert a\theta\rvert/\lvert b/a\rvert=\lvert\theta\rvert/(1+\theta)^2$ 以下である。 $\theta=-1/2$ では、出力の相対変化は $1$ 、一次の予測は $1/2$ 、有限近傍の評価は $2$ である。

5 後退誤差から前進誤差へ

定理 5.1. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像、 $x\in U$ とし、 $x\ne0$ かつ $F(x)\ne0$ を仮定する。 $P\subset\R^n$ と $\hat y\in\R^m$ に対して、 $\eta:=\eta_P(x,\hat y)/\lVert x\rVert$ を $\hat y$ の相対後退誤差とする。

$\kappa_{\mathrm{rel}}(F,x)<+\infty$ とする。任意の $\varepsilon>0$ に対して $\eta_0>0$ が存在し、 $\eta<\eta_0$ を満たす任意の $P$ と $\hat y$ について $\frac{\lVert\hat y-F(x)\rVert}{\lVert F(x)\rVert}\le(\kappa_{\mathrm{rel}}(F,x)+\varepsilon)\eta$ が成り立つ。 $F$ が $x$ で全微分可能ならば $\kappa_{\mathrm{rel}}(F,x)=\lVert DF(x)\rVert\lVert x\rVert/\lVert F(x)\rVert<+\infty$ である。
$\rho>0$ と $L\ge0$ を実数とし、 $B:=\{z\in\R^n\mid\lVert z-x\rVert<\rho\lVert x\rVert\}$ が $B\subset U$ を満たし、 $F$ が $B$ の各点で全微分可能であって、任意の $z\in B$ に対して $\lVert DF(z)\rVert\le L$ であるとする。 $\eta<\rho$ を満たす任意の $P$ と $\hat y$ について $\frac{\lVert\hat y-F(x)\rVert}{\lVert F(x)\rVert}\le\frac{L\lVert x\rVert}{\lVert F(x)\rVert}\,\eta$ が成り立つ。
$F$ が $x$ で全微分可能であるとする。 $\lVert v\rVert=1$ を満たす任意の $v\in\R^n$ に対して $\lim_{t\to+0}\frac{\lVert F(x+tv)-F(x)\rVert/\lVert F(x)\rVert}{t/\lVert x\rVert}=\frac{\lVert DF(x)v\rVert\lVert x\rVert}{\lVert F(x)\rVert}\le\kappa_{\mathrm{rel}}(F,x)$ が成り立ち、右の不等式が等号となることと $\lVert DF(x)v\rVert=\lVert DF(x)\rVert$ は同値である。等号を満たす $v$ が存在する。 $n=1$ ならば、 $\lVert v\rVert=1$ を満たす任意の $v$ で等号が成り立つ。

証明.(1)を示す。 $\kappa:=\kappa_{\mathrm{rel}}(F,x)$ と置き、 $\delta>0$ に対して $\kappa$ の定義の上限を $S(\delta)$ と書く。 $S(\delta)\to\kappa$ （ $\delta\to+0$ ）であるから、 $S(\eta_0)\le\kappa+\varepsilon$ を満たす $\eta_0>0$ がある。 $\eta<\eta_0$ とし、 $\eta<\eta'\le\eta_0$ を満たす $\eta'$ をとる。 $\eta_P(x,\hat y)<\eta'\lVert x\rVert$ であるから、下限の定義により $\lVert\Delta x\rVert<\eta'\lVert x\rVert$ を満たす $\Delta x\in E_P(x,\hat y)$ が存在する。 $\Delta x=0$ ならば $\hat y=F(x)$ である。 $\Delta x\ne0$ ならば $0<\lVert\Delta x\rVert\le\eta_0\lVert x\rVert$ 、 $x+\Delta x\in U$ 、 $F(x+\Delta x)=\hat y$ であるから

\frac{\lVert\hat y-F(x)\rVert}{\lVert F(x)\rVert}\le S(\eta_0)\frac{\lVert\Delta x\rVert}{\lVert x\rVert}\le(\kappa+\varepsilon)\eta'

である。 $\eta'\to\eta+0$ として主張の不等式を得る。後半は命題 3.2 (2)と補題 1.2 (1)による。

(2)を示す。 $\eta<\eta'<\rho$ を満たす $\eta'$ をとり、 $\lVert\Delta x\rVert<\eta'\lVert x\rVert$ を満たす $\Delta x\in E_P(x,\hat y)$ をとる。 $t\in[0,1]$ に対して $\lVert(x+t\Delta x)-x\rVert\le\lVert\Delta x\rVert<\rho\lVert x\rVert$ であるから $x+t\Delta x\in B$ であり、命題 4.1により $\lVert\hat y-F(x)\rVert=\lVert F(x+\Delta x)-F(x)\rVert\le L\lVert\Delta x\rVert\le L\eta'\lVert x\rVert$ である。両辺を $\lVert F(x)\rVert$ で割り、 $\eta'\to\eta+0$ として主張を得る。

(3)を示す。 $A:=DF(x)$ 、 $r(h):=F(x+h)-F(x)-Ah$ と置く。補題 1.2 (3)により $\lVert r(tv)\rVert/t\to0$ （ $t\to+0$ ）であり、

\left\lvert\frac{\lVert F(x+tv)-F(x)\rVert}{t}-\lVert Av\rVert\right\rvert\le\frac{\lVert r(tv)\rVert}{t}

であるから、 $\lVert F(x+tv)-F(x)\rVert/t\to\lVert Av\rVert$ である。両辺に $\lVert x\rVert/\lVert F(x)\rVert$ を掛けて極限の等式を得る。補題 1.2 (1)により $\lVert Av\rVert\le\lVert A\rVert$ であり、命題 3.2 (2)により $\lVert A\rVert\lVert x\rVert/\lVert F(x)\rVert=\kappa_{\mathrm{rel}}(F,x)$ であるから、不等式と等号の条件が成り立つ。等号を満たす $v$ は補題 1.2 (1)により存在する。 $n=1$ ならば、 $\lVert h\rVert=\lvert h\rvert\lVert1\rVert$ であり、 $\lVert v\rVert=1$ を満たす $v$ は $\pm1/\lVert1\rVert$ である。 $\lVert Av\rVert=\lVert A1\rVert/\lVert1\rVert$ であり、 $\lVert A\rVert=\sup_{\lvert h\rvert=1/\lVert1\rVert}\lvert h\rvert\lVert A1\rVert=\lVert A1\rVert/\lVert1\rVert$ であるから、 $\lVert Av\rVert=\lVert A\rVert$ である。▨

定義 5.2. $n,m\in\NN$ とし、 $\R^n$ と $\R^m$ にそれぞれノルムを固定して、どちらも $\lVert\cdot\rVert$ と書く。 $U\subset\R^n$ を開集合、 $F\colon U\to\R^m$ を写像とする。 $\mathfrak S$ を浮動小数点数系からなる空でない集合とし、 $\Phi\in\mathfrak S$ の単位丸め誤差を $u_\Phi$ と書く。各 $\Phi\in\mathfrak S$ に対して、集合 $D_\Phi\subset U\setminus\{0\}$ と写像 $\hat F_\Phi\colon D_\Phi\to\R^m$ が与えられているとする（ $\hat F_\Phi(x)$ は、 $\Phi$ の演算を用いる算法が入力 $x$ に対して返す値を表す）。

実数 $c\ge0$ が存在して、任意の $\Phi\in\mathfrak S$ と $x\in D_\Phi$ に対して $\hat F_\Phi(x)$ の相対後退誤差が $cu_\Phi$ 以下であるとき、 $(\hat F_\Phi)_{\Phi\in\mathfrak S}$ は定数 $c$ で後退安定 (backward stable) であるという。
$n$ 、 $m$ 、ノルム、 $U$ 、 $F$ 、 $\mathfrak S$ 、 $D_\Phi$ 、 $\hat F_\Phi$ が正の整数 $N$ （入力の次元や演算回数など、問題の規模を表す整数）を添字にもつ族として与えられ、各 $N$ について定数 $c_N$ で後退安定であるとき、この族は定数 $(c_N)_N$ で後退安定であるという。定数 $c_N$ は $N$ に依存してよく、 $\Phi$ と $x$ には依存しない。

注意 5.3.定義 5.2の $\mathfrak S$ が $\inf_{\Phi\in\mathfrak S}u_\Phi>0$ を満たすとする。 $(\hat F_\Phi)_{\Phi\in\mathfrak S}$ がある定数で後退安定であることと、実数 $C\ge0$ が存在して任意の $\Phi\in\mathfrak S$ と $x\in D_\Phi$ に対して $\hat F_\Phi(x)$ の相対後退誤差が $C$ 以下であることは同値である。実際、定数 $c$ で後退安定ならば $u_\Phi\le1/2$ から相対後退誤差は $c/2$ 以下であり、相対後退誤差が $C$ 以下ならば $C\le(C/\inf_{\Phi\in\mathfrak S}u_\Phi)u_\Phi$ から $(\hat F_\Phi)_{\Phi\in\mathfrak S}$ は定数 $C/\inf_{\Phi\in\mathfrak S}u_\Phi$ で後退安定である。

定義 5.4. $n\in\NN$ とし、 $\R^n$ にノルム $\lVert\delta\rVert_\infty=\max_i|\delta_i|$ 、 $\R$ に絶対値を入れる。 $U\subset\R^n$ を開集合、 $f\colon U\to\R$ を写像、 $x\in U$ とする。 $\delta\in\R^n$ に対して $x\circ\delta:=(x_1\delta_1,\dots,x_n\delta_n)$ と置く。 $U_x:=\{\delta\in\R^n\mid x+x\circ\delta\in U\}$ は連続写像 $\delta\mapsto x+x\circ\delta$ による $U$ の逆像であるから、 $0$ を含む開集合である。 $G_x\colon U_x\to\R$ を $G_x(\delta):=f(x+x\circ\delta)$ で定める。

$f(x)\ne0$ のとき、 $G_x$ の $0$ における絶対条件数（定義 3.1）を用いて $\kappa_{\mathrm{comp}}(f,x):=\kappa_{\mathrm{abs}}(G_x,0)/|f(x)|$ と置き、これを $f$ の $x$ における成分ごとの相対条件数 (componentwise relative condition number) という。 $f(x)=0$ のときは成分ごとの相対条件数を定めない。
$\hat y\in\R$ に対して、 $G_x$ の入力 $0$ における $\hat y$ の絶対後退誤差（定義 2.1 (2)） $\eta_{\mathrm{comp}}(f,x,\hat y):=\inf\{\lVert\delta\rVert_\infty\mid\delta\in U_x,\ f(x+x\circ\delta)=\hat y\}$ を $\hat y$ の成分ごとの相対後退誤差 (componentwise relative backward error) という。

命題 5.5. $\Phi$ を基数 $\beta$ 、仮数桁数 $p$ の浮動小数点数系、 $u$ をその単位丸め誤差、 $N_{\max}$ をその最大元、 $\operatorname{fl}$ を $\Phi$ の最近接丸めとする。 $a,b\in\Phi$ が $\lvert ab\rvert\le N_{\max}$ を満たし、 $ab=0$ であるか $ab$ が正規範囲にあるとする。このとき、実数 $\tilde a,\tilde b$ が存在して

\operatorname{fl}(ab)=\tilde a\tilde b,\qquad\lvert\tilde a-a\rvert\le u\lvert a\rvert,\qquad\lvert\tilde b-b\rvert\le u\lvert b\rvert

が成り立つ。特に、 $\R^2$ に $\lVert(a,b)\rVert_\infty=\max\{\lvert a\rvert,\lvert b\rvert\}$ を入れ、 $M(a,b)=ab$ と置くと、 $(a,b)\ne(0,0)$ ならば $\operatorname{fl}(ab)$ の $M$ に関する相対後退誤差は $u$ 以下である。また、 $\eta_{\mathrm{comp}}(M,(a,b),\operatorname{fl}(ab))\le u$ である。

証明. $ab=0$ ならば、§E20.1 系 3.2 (1)により $\operatorname{fl}(ab)=0=ab$ であり、 $\tilde a:=a$ 、 $\tilde b:=b$ とする。 $ab$ が正規範囲にあるならば、§E20.1 系 3.2 (2)により $\operatorname{fl}(ab)=ab(1+\delta)$ 、 $\lvert\delta\rvert\le u$ を満たす $\delta$ がある。 $u=\beta^{1-p}/2\le1/2$ であるから $1+\delta>0$ であり、 $\tilde a:=a\sqrt{1+\delta}$ 、 $\tilde b:=b\sqrt{1+\delta}$ と置くと $\tilde a\tilde b=ab(1+\delta)=\operatorname{fl}(ab)$ である。

\lvert\tilde a-a\rvert=\lvert a\rvert\,\lvert\sqrt{1+\delta}-1\rvert=\lvert a\rvert\frac{\lvert\delta\rvert}{1+\sqrt{1+\delta}}\le u\lvert a\rvert

であり、 $\tilde b$ についても同様である。 $\Delta:=(\tilde a-a,\tilde b-b)$ は $M((a,b)+\Delta)=\operatorname{fl}(ab)$ と $\lVert\Delta\rVert_\infty\le u\lVert(a,b)\rVert_\infty$ を満たすから、 $\Delta\in E((a,b),\operatorname{fl}(ab))$ であり、相対後退誤差は $u$ 以下である。 $a\ne0$ のとき $\xi_1:=(\tilde a-a)/a$ 、 $a=0$ のとき $\xi_1:=0$ と置き、 $\xi_2$ を $b$ 、 $\tilde b$ から同様に定めると、 $\lvert\tilde a-a\rvert\le u\lvert a\rvert$ と $\lvert\tilde b-b\rvert\le u\lvert b\rvert$ から $\xi:=(\xi_1,\xi_2)\in\R^2$ は $(a,b)\circ\xi=(\tilde a-a,\tilde b-b)$ と $\lVert\xi\rVert_\infty\le u$ を満たし、 $M((a,b)+(a,b)\circ\xi)=\operatorname{fl}(ab)$ であるから、 $\eta_{\mathrm{comp}}(M,(a,b),\operatorname{fl}(ab))\le u$ である。▨

例 5.6. $N\ge2$ を整数とし、 $\R^N$ に $\lVert x\rVert_\infty=\max_i\lvert x_i\rvert$ 、 $\R$ に絶対値を入れ、 $F_N(x)=x_1\cdots x_N$ と置く。 $\mathfrak S_N$ を $(N-1)u_\Phi<1$ を満たす浮動小数点数系 $\Phi$ の全体とする。 $\Phi\in\mathfrak S_N$ に対し、 $D_\Phi$ を $x\in\Phi^N$ であって、 $\hat p_1:=x_1$ 、 $\hat p_j:=\operatorname{fl}(\hat p_{j-1}x_j)$ （ $j=2,\ldots,N$ ）の各段の厳密な積 $\hat p_{j-1}x_j$ が正規範囲にあるものの全体とし、 $\hat F_\Phi(x):=\hat p_N$ と置く。 $x\in D_\Phi$ とすると、 $n=N$ と $x_1,\ldots,x_N$ は $(N-1)u_\Phi<1$ と各段の厳密な積が正規範囲にあることを満たすから、§E20.1 例 4.2により $\hat p_N=x_1\cdots x_N\prod_{j=2}^N(1+\delta_j)$ 、 $\lvert\delta_j\rvert\le u_\Phi$ である。 $\tilde x_1:=x_1$ 、 $\tilde x_j:=x_j(1+\delta_j)$ （ $j=2,\ldots,N$ ）と置くと、 $F_N(\tilde x)=\hat p_N$ と $\lVert\tilde x-x\rVert_\infty=\max_{2\le j\le N}\lvert\delta_jx_j\rvert\le u_\Phi\lVert x\rVert_\infty$ が成り立つ。したがってこの族は定数 $c_N=1$ で後退安定である。

例 5.7. $\Phi$ を binary64 の浮動小数点数系（基数 $2$ 、仮数桁数 $53$ 、指数範囲 $[-1022,1023]$ ）、 $\operatorname{fl}$ を最近接偶数丸めとし、 $u=2^{-53}$ とする。 $\R$ のノルムを絶対値とし、 $g(x)=x-1$ に対して、入力 $x$ を $\hat x:=\operatorname{fl}(x)$ へ丸めてから $\operatorname{fl}(\hat x-1)$ を返す算法を考える。 $x=21/10$ では $\hat x=4728779608739021\cdot2^{-51}$ 、 $\hat x-x=2^{-51}/5$ であり、 $\hat x-1=4953959590107546\cdot2^{-52}$ は $2^{52}\le4953959590107546<2^{53}$ から§E20.1 補題 1.2 (1)により $\Phi$ に属する。 $x=1000001/1000000$ では $\hat x=4503604130970123\cdot2^{-52}$ 、 $\hat x-x=-5789\cdot2^{-46}/10^6$ であり、 $\hat x-1=4503599627\cdot2^{-52}=(4503599627\cdot2^{20})\cdot2^{-72}$ は $2^{52}\le4503599627\cdot2^{20}<2^{53}$ から§E20.1 補題 1.2 (1)により $\Phi$ に属する。どちらの入力でも§E20.1 系 3.2 (1)により計算値は $g(\hat x)$ であり、 $g$ は単射であるから $E(x,g(\hat x))=\{\hat x-x\}$ である。相対後退誤差は $\lvert\hat x-x\rvert/\lvert x\rvert$ 、相対前進誤差は $\lvert\hat x-x\rvert/\lvert x-1\rvert$ である。 $x=21/10$ では、相対後退誤差は $(8/21)u$ 、相対前進誤差は $(8/11)u$ である。 $x=1000001/1000000$ では、相対後退誤差は $(740992/1000001)u$ 、相対前進誤差は $740992u\approx8.23\times10^{-11}$ である。どちらの入力でも相対後退誤差は $u$ 以下である。 $g(x+\Delta x)-g(x)=\Delta x$ であるから、相対前進誤差は相対後退誤差のちょうど $\kappa_{\mathrm{rel}}(g,x)=\lvert x\rvert/\lvert x-1\rvert$ 倍、すなわち $21/11$ 倍と $1000001$ 倍であり、定理 5.1 (1)の評価は $\varepsilon=0$ で等号として成り立つ。

例 5.8. $\Phi$ 、 $\operatorname{fl}$ 、 $u$ を例 5.7と同じとし、 $x=10^8$ とする。 $f(x)=1/(x(x+1))$ は系 3.3により $\kappa_{\mathrm{rel}}(f,x)=(2x+1)/(x+1)<2$ を満たす。 $f(x)$ の二つの計算値を

\hat y_1:=\operatorname{fl}\bigl(\operatorname{fl}(1/x)-\operatorname{fl}(1/\operatorname{fl}(x+1))\bigr),\qquad \hat y_2:=\operatorname{fl}\bigl(1/\operatorname{fl}(x\cdot\operatorname{fl}(x+1))\bigr)

と置く。 $2^{53}$ 未満の正の整数 $k$ は、 $2^e\le k<2^{e+1}$ を満たす整数 $e$ について $k=(k2^{52-e})\cdot2^{e-52}$ 、 $2^{52}\le k2^{52-e}<2^{53}$ と書けるから、§E20.1 補題 1.2 (1)により $\Phi$ に属する。したがって $x$ と $x+1$ は $\Phi$ に属する。 $x(x+1)=5000000050000000\cdot2^{1}$ は $2^{52}\le5000000050000000<2^{53}$ を満たすから、§E20.1 補題 1.2 (1)により $\Phi$ に属する。§E20.1 系 3.2 (1)により $\operatorname{fl}(x+1)=x+1$ 、 $\operatorname{fl}(x(x+1))=x(x+1)$ であり、§E20.1 系 3.2 (2)により $\hat y_2=f(x)(1+\delta)$ 、 $\lvert\delta\rvert\le u$ である。 $\hat y_2$ の相対前進誤差は $u$ 以下である。 $\hat y_1$ については、§E20.1 系 3.2 (2)により $\operatorname{fl}(1/x)=(1/x)(1+\delta_1)$ 、 $\operatorname{fl}(1/(x+1))=(1/(x+1))(1+\delta_2)$ （ $\lvert\delta_i\rvert\le u$ ）であり、その差 $d$ は $\lvert d-f(x)\rvert\le u(1/x+1/(x+1))=(2x+1)uf(x)$ を満たす。 $10^{-17}<(1-(2x+1)u)f(x)\le d\le1/x$ であるから $d$ は正規範囲にあり、 $\hat y_1=d(1+\delta_3)$ 、 $\lvert\delta_3\rvert\le u$ である。したがって $\hat y_1$ の相対前進誤差は $(2x+1)u(1+u)+u\approx2.2\times10^{-8}$ 以下である。 CPython の float で二つの式を計算し、計算値を有理数として $f(x)$ と比べると、 $\hat y_2$ の相対前進誤差は $5.35\times10^{-17}\approx0.48u$ 、 $\hat y_1$ の相対前進誤差は $1.03\times10^{-8}\approx9.3\times10^{7}u$ であり、比は約 $1.9\times10^{8}$ である。入力は $\Phi$ の元であるから入力の丸めは無く、二つの式は相対条件数が $2$ 未満の同じ写像 $f$ を $x$ で評価している。

6 残差と求根

命題 6.1. $I\subset\R$ を区間、 $f\colon I\to\R$ を $I$ 上で連続かつ $I$ の内部で微分可能な関数とし、 $r,x\in I$ が $f(r)=0$ を満たすとする。実数 $m>0$ が存在して、 $r$ と $x$ の間にある任意の $t$ （ $\min\{r,x\}<t<\max\{r,x\}$ ）に対して $\lvert f'(t)\rvert\ge m$ が成り立つならば、

\lvert x-r\rvert\le\frac{\lvert f(x)\rvert}{m}

である。

証明. $x=r$ ならば両辺は $0$ である。 $x\ne r$ とし、 $a:=\min\{r,x\}$ 、 $b:=\max\{r,x\}$ と置く。 $[a,b]\subset I$ であり、 $(a,b)$ は $I$ の内部に含まれるから、§D1.14 定理 3.1により $f(b)-f(a)=f'(c)(b-a)$ を満たす $c\in(a,b)$ がある。 $f(r)=0$ であるから $\lvert f(x)\rvert=\lvert f'(c)\rvert\lvert x-r\rvert\ge m\lvert x-r\rvert$ である。▨

例 6.2. $a>0$ とし、 $f(t)=a(t-1)$ の零点 $r=1$ を近似値 $x=2$ で近似する。残差は $\lvert f(x)\rvert=a$ 、誤差は $\lvert x-r\rvert=1$ である。 $\lvert f'\rvert=a$ であるから命題 6.1を $m=a$ で適用することができ、評価 $\lvert x-r\rvert\le\lvert f(x)\rvert/a=1$ は等号で成り立つ。 $a=1$ でも $a=10^{-12}$ でも誤差は $1$ であり、残差は $1$ と $10^{-12}$ である。 $x$ は定数項を摂動した関数 $f-f(x)$ の零点であり、定数項に対する絶対後退誤差は残差 $\lvert f(x)\rvert$ に等しい。定数項 $\gamma$ を入力とし $f-\gamma$ の零点 $1+\gamma/a$ を出力とする写像の絶対条件数は $1/a$ であり、 $a=10^{-12}$ では残差 $10^{-12}$ が誤差 $1$ へ $10^{12}$ 倍に拡大される。

例 6.3. $r>0$ とし、 $\varepsilon\in\C$ が $0<\lvert\varepsilon\rvert<r^2$ を満たすとする。 $p(z)=z^2$ 、 $q(z)=-\varepsilon$ と置き、 $\Gamma$ を中心 $0$ 、半径 $r$ の反時計回りの円周とする。 $p,q$ は $\C$ の上の正則関数、 $\Gamma$ は $\C$ の内部で零ホモローグなサイクルであり、 $\lvert\Gamma\rvert$ の上で $\lvert q(z)\rvert=\lvert\varepsilon\rvert<r^2=\lvert p(z)\rvert$ であるから、§E5.14 定理 4.1を $D=\C$ として適用し、§E5.5 命題 5.6 (1)により $\lvert a\rvert<r$ で $n(\Gamma,a)=1$ 、 $\lvert a\rvert>r$ で $n(\Gamma,a)=0$ であることを用いると、 $z^2-\varepsilon$ は $p$ と同じく $\lvert z\rvert<r$ に重複度込みで二つの零点をもつ。 $\varepsilon=\lvert\varepsilon\rvert e^{i\vartheta}$ と書き、 $w:=\lvert\varepsilon\rvert^{1/2}e^{i\vartheta/2}$ と置くと $w^2=\varepsilon$ であり、 $z^2-\varepsilon=(z-w)(z+w)$ から零点は $\pm w$ 、移動量は $\lvert w\rvert=\lvert\varepsilon\rvert^{1/2}$ である。 $\lvert\varepsilon\rvert^{1/2}/\lvert\varepsilon\rvert=\lvert\varepsilon\rvert^{-1/2}$ は $\varepsilon\to0$ で有界でなく、零点の移動量は $C\lvert\varepsilon\rvert$ の形で抑えられない。 $\varepsilon=10^{-12}$ 、 $r=10^{-2}$ では零点は $\pm10^{-6}$ であり、移動量は $10^6\varepsilon$ である。実数 $\varepsilon>0$ について、 $p-\varepsilon$ の零点 $\sqrt\varepsilon$ と $x=0$ の間では $\inf\lvert(p-\varepsilon)'(t)\rvert=\inf_{0<t<\sqrt\varepsilon}2t=0$ であり、命題 6.1の仮定は満たされない。実数 $\varepsilon$ が $\lvert\varepsilon\rvert<1$ を満たすとき、 $z^2-1-\varepsilon$ の零点 $\sqrt{1+\varepsilon}$ と $x=1$ の間で $\lvert2t\rvert\ge2\min\{1,\sqrt{1+\varepsilon}\}$ であるから、命題 6.1により $\lvert\sqrt{1+\varepsilon}-1\rvert\le\lvert\varepsilon\rvert/(2\min\{1,\sqrt{1+\varepsilon}\})$ であり、移動量は $\lvert\varepsilon\rvert$ の一次で抑えられる。 $\varepsilon\mapsto\sqrt{1+\varepsilon}$ の $0$ における絶対条件数は系 3.3により $1/2=1/\lvert p_1'(1)\rvert$ （ $p_1(z)=z^2-1$ ）である。

7 演習

問題 7.1.補題 1.2の証明を完成させよ。

解答.

$\lVert\cdot\rVert_2$ を Euclid ノルムとする。§E12.1 命題 2.2により、定数 $c_1,C_1,c_2,C_2>0$ が存在して、任意の $h\in\R^n$ と $k\in\R^m$ に対して $c_1\lVert h\rVert_2\le\lVert h\rVert\le C_1\lVert h\rVert_2$ 、 $c_2\lVert k\rVert_2\le\lVert k\rVert\le C_2\lVert k\rVert_2$ が成り立つ。

補題 1.2 (1)を示す。§E4.2 命題 1.4により、 $\lVert Ah\rVert\le C_2\lVert Ah\rVert_2\le C_2\lVert A\rVert_{\mathrm{op}}\lVert h\rVert_2\le(C_2\lVert A\rVert_{\mathrm{op}}/c_1)\lVert h\rVert$ であり、 $\lVert A\rVert$ は有限である。 $h\ne0$ ならば $h/\lVert h\rVert$ は $\lVert\cdot\rVert$ の単位ベクトルであるから $\lVert Ah\rVert\le\lVert A\rVert\lVert h\rVert$ であり、 $h=0$ でも成り立つ。 $K:=\{h\in\R^n\mid\lVert h\rVert=1\}$ と置く。 $\lvert\lVert h\rVert-\lVert h'\rVert\rvert\le\lVert h-h'\rVert\le C_1\lVert h-h'\rVert_2$ であるから $h\mapsto\lVert h\rVert$ は Euclid 距離について連続であり、 $K$ は閉集合 $\{1\}$ の逆像として閉である。 $K$ の元は $\lVert h\rVert_2\le1/c_1$ を満たすので $K$ は有界である。§E2.9 定理 4.3により $K$ はコンパクトであり、 $n\ge1$ であるから $K$ は空でない。 $\lvert\lVert Ah\rVert-\lVert Ah'\rVert\rvert\le\lVert A\rVert C_1\lVert h-h'\rVert_2$ であるから $h\mapsto\lVert Ah\rVert$ は $K$ 上で連続であり、§E4.1 定理 5.1により $K$ 上で最大値 $\sup_{h\in K}\lVert Ah\rVert=\lVert A\rVert$ をとる点 $v$ が存在する。

補題 1.2 (2)を示す。 $U$ は開集合であるから、 $r>0$ が存在して $\lVert h\rVert_2<r$ ならば $x+h\in U$ である。 $\rho:=c_1r$ と置くと、 $\lVert h\rVert<\rho$ ならば $\lVert h\rVert_2\le\lVert h\rVert/c_1<r$ である。

補題 1.2 (3)を示す。 $R(h):=F(x+h)-F(x)-Ah$ と置く。 $h\ne0$ に対して

\frac{\lVert R(h)\rVert}{\lVert h\rVert}\le\frac{C_2}{c_1}\frac{\lVert R(h)\rVert_2}{\lVert h\rVert_2},\qquad\frac{\lVert R(h)\rVert_2}{\lVert h\rVert_2}\le\frac{C_1}{c_2}\frac{\lVert R(h)\rVert}{\lVert h\rVert}

であり、 $c_1\lVert h\rVert_2\le\lVert h\rVert\le C_1\lVert h\rVert_2$ から $\lVert h\rVert\to0$ と $\lVert h\rVert_2\to0$ は同値である。 $F$ が $x$ で全微分可能で $DF(x)=A$ ならば、§E4.2 定義 1.2により $\lVert R(h)\rVert_2/\lVert h\rVert_2\to0$ （ $h\to0$ ）であり、左の不等式から $\lVert R(h)\rVert/\lVert h\rVert\to0$ （ $\lVert h\rVert\to0$ ）である。 $\varepsilon>0$ に対して、 $\rho>0$ を補題 1.2 (2)の値以下で、 $0<\lVert h\rVert<\rho$ ならば $\lVert R(h)\rVert\le\varepsilon\lVert h\rVert$ となるようにとる。 $R(0)=0$ であるから主張の条件が成り立つ。逆に主張の条件が成り立つならば $\lVert R(h)\rVert/\lVert h\rVert\to0$ であり、右の不等式から $\lVert R(h)\rVert_2/\lVert h\rVert_2\to0$ である。§E4.2 定義 1.2により $F$ は $x$ で全微分可能であって $A$ は全微分の定義を満たし、§E4.2 命題 1.5 (1)により $A=DF(x)$ である。▨

問題 7.2. $U:=\{(a,b)\in\R^2\mid a\ne0\}$ とし、 $\R^2$ に $\lVert(a,b)\rVert_\infty=\max\{\lvert a\rvert,\lvert b\rvert\}$ 、 $\R$ に絶対値を入れ、 $S(a,b)=b/a$ と置く。 $b\ne0$ ならば

\kappa_{\mathrm{rel}}(S,(a,b))=\frac{(\lvert a\rvert+\lvert b\rvert)\max\{\lvert a\rvert,\lvert b\rvert\}}{\lvert a\rvert\lvert b\rvert}

であることを示せ。また、この値が $2$ 以上であり、 $\lvert a\rvert=\lvert b\rvert$ のときに限り $2$ に等しいことを示せ。

解答.

$(h,k)\in\R^2$ が $\lvert h\rvert<\lvert a\rvert$ を満たすとき $(a+h,b+k)\in U$ であり、 $A(h,k):=-bh/a^2+k/a$ と置くと

S(a+h,b+k)-S(a,b)-A(h,k)=\frac{ka-bh}{a(a+h)}-\frac{ka-bh}{a^2}=-\frac{h(ka-bh)}{a^2(a+h)}

である。 $\lvert ka-bh\rvert\le(\lvert a\rvert+\lvert b\rvert)\lVert(h,k)\rVert_\infty$ と $\lvert h\rvert\le\lVert(h,k)\rVert_\infty$ から、 $\lVert(h,k)\rVert_\infty\le\lvert a\rvert/2$ ならば $\lvert a+h\rvert\ge\lvert a\rvert/2$ であり、右辺の絶対値は $2(\lvert a\rvert+\lvert b\rvert)\lVert(h,k)\rVert_\infty^2/\lvert a\rvert^3$ 以下である。 $\varepsilon>0$ に対して $\rho:=\min\{\lvert a\rvert/2,\ \varepsilon\lvert a\rvert^3/(2(\lvert a\rvert+\lvert b\rvert))\}$ と置けば、 $\lVert(h,k)\rVert_\infty<\rho$ のとき $(a+h,b+k)\in U$ かつ剰余の絶対値は $\varepsilon\lVert(h,k)\rVert_\infty$ 以下である。補題 1.2 (3)により $S$ は $(a,b)$ で全微分可能であり、 $DS(a,b)=A$ である。 $\lVert(h,k)\rVert_\infty=1$ ならば $\lvert A(h,k)\rvert\le\lvert b\rvert/a^2+1/\lvert a\rvert$ であり、 $h=-\operatorname{sgn}b$ 、 $k=\operatorname{sgn}a$ で等号が成り立つので、 $\lVert A\rVert=(\lvert a\rvert+\lvert b\rvert)/a^2$ である。命題 3.2 (2)により

\kappa_{\mathrm{rel}}(S,(a,b))=\frac{\lvert a\rvert+\lvert b\rvert}{a^2}\cdot\frac{\max\{\lvert a\rvert,\lvert b\rvert\}}{\lvert b\rvert/\lvert a\rvert}=\frac{(\lvert a\rvert+\lvert b\rvert)\max\{\lvert a\rvert,\lvert b\rvert\}}{\lvert a\rvert\lvert b\rvert}

である。 $\lvert a\rvert+\lvert b\rvert\ge2\min\{\lvert a\rvert,\lvert b\rvert\}$ と $\max\{\lvert a\rvert,\lvert b\rvert\}\min\{\lvert a\rvert,\lvert b\rvert\}=\lvert a\rvert\lvert b\rvert$ から値は $2\min\{\lvert a\rvert,\lvert b\rvert\}\max\{\lvert a\rvert,\lvert b\rvert\}/(\lvert a\rvert\lvert b\rvert)=2$ 以上であり、等号は $\lvert a\rvert+\lvert b\rvert=2\min\{\lvert a\rvert,\lvert b\rvert\}$ 、すなわち $\lvert a\rvert=\lvert b\rvert$ のときに限り成り立つ。▨

§E20.2誤差・条件数・安定性