【これなら分かる最適化数学】第1章 数学的準備に登場する定理たち

これなら分かる最適化数学―基礎原理から計算手法まで

これなら分かる最適化数学―基礎原理から計算手法まで

この本を読んでいる。易しい例題が豊富なので比較的スラスラ読めるが、忘れっぽい性格なので、登場する定理を中心に結果をまとめていく。

【定理1.1】
曲線f(x,y)=0の点(x,y)における法線ベクトルは\nabla f=(\frac{\partial f}{\partial x},\frac{\partial f}{\partial y})である。

【定理1.2】
(\overline{x},\overline{y})における曲線f(x,y)=0の接線は次式で表される。
\frac{\partial\overline{f}}{\partial x}(x-\overline{x})+\frac{\partial\overline{f}}{\partial y}(y-\overline{y})=0
ベクトル表現を用いると次のようにかける。
(\nabla\overline{f}, \vec{x}-\vec{\overline{x}})=0
ただし、(\vec{x},\vec{y})はベクトルの内積を意味する。

【定理1.3】
局面f(x,y,z)=0の点(x,y,z)における法線ベクトルは\nabla f=(\frac{\partial f}{\partial x},\frac{\partial f}{\partial y},\frac{\partial f}{\partial z})である。

【定理1.4】
(\overline{x},\overline{y},\overline{z})における曲面f(x,y,z)=0の接平面は次式で表される。
\frac{\partial\overline{f}}{\partial x}(x-\overline{x})+\frac{\partial\overline{f}}{\partial y}(y-\overline{y})+\frac{\partial\overline{f}}{\partial z}(z-\overline{z})=0

【定理1.5】
\nabla(\vec{a},\vec{x})=\vec{a}

【定義 2次形式fの係数行列】
Aを対称行列とする。2次形式fは次のように表され、Aを2次形式fの係数行列と呼ぶ。
f=(\vec{x},A\vec{x})
2次形式の係数行列は常に対称行列と約束する。

【定理1.6】
2次形式の微分
\nabla(\vec{x},A\vec{x})=2A\vec{x}

【定理1.7】
任意のベクトルx,yと、任意の行列Aに対して次が成り立つ。
(A\vec{x},\vec{y})=(\vec{x},A^{T}\vec{y})

【定理1.8】
n\times n対称行列はn個の固有値\lambda_1,\cdots,\lambda_nをもつ。それらは全て実数であり、対応する実数の固有ベクトルからなる正規直交系\{\vec{u_{1}},\cdots,\vec{u_{n}}\}が存在する。

【定義 対称行列の対角化】
対称行列Aの固有値に対する固有ベクトルの正規直交系\vec{u_1},\vec{u_2},\cdots,\vec{u_n}を用いて
U=(\vec{u_1},\vec{u_2},\cdots,\vec{u_n})
と置く(Uを直交行列と呼ぶ)。
このとき、U^{T}U=I(単位行列)。
また、次が成り立つ。
U^{T}AU=\left(\begin{array}{cccc}\lambda_{1} & &  &\\  & \lambda_{2} &  & \\  &  & \ldots & \\  &  &  & \lambda_{n}\\ \end{array} \right)
これから次が導かれる。
A=U\left(\begin{array}{cccc}\lambda_{1} & &  &\\  & \lambda_{2} &  & \\  &  & \ldots & \\  &  &  & \lambda_{n}\\ \end{array} \right)U^{T}
対称行列Aをこのように分解することをスペクトル分解(または固有値分解)と呼ぶ。

【定理1.9】
任意の2次形式(\vec{x},A\vec{x})は変数変換によって2乗和の形の標準形に直せる。このときの係数は係数行列Aの固有値であり、変数変換の行列は単位固有ベクトルの正規直交系から得られる。すなわち、次が成り立つ。
\vec{x^{'}}=U^{T}\vec{x}
(\vec{x},A\vec{x})=(\vec{x^{'}},U^{T}AU\vec{x^{'}})=(\vec{x^{'}},\left(\begin{array}{cccc}\lambda_{1} & &  &\\  & \lambda_{2} &  & \\  &  & \ldots & \\  &  &  & \lambda_{n}\\ \end{array} \right)\vec{x^{'}})=\begin{eqnarray}\sum_{k}\lambda_k x_{k}^{'}^{2}\end{eqnarray}

【定理1.10】
Aが正値対称行列である必要十分条件は任意の0でないベクトルxに対して次式が成り立つことである。
(\vec{x},A\vec{x})>0

【定理1.11】
Aが半正値対称行列である必要十分条件は任意のベクトルxに対して次式が成り立つことである。
(\vec{x},A\vec{x})\ge 0

【定理1.12】
Aが半正値対称行列のとき、2次形式(\vec{x},A\vec{x})を最大にする単位ベクトル\vec{x}はAの最大固有値に対する固有ベクトルであり、(\vec{x},A\vec{x})の最大値は行列Aの最大固有値に等しい。

【定理1.13】
Aが半正値対称行列のとき、2次形式(\vec{x},A\vec{x})を最小にする単位ベクトル\vec{x}はAの最小固有値に対する固有ベクトルであり、(\vec{x},A\vec{x})の最小値は行列Aの最小固有値に等しい。