ベクトル空間の内積 - 数学についていろいろ解説するブログ

はじめに

この記事はベクトル空間の内積について解説している。ベクトル空間についての知識は既知としているため、知らない場合や忘れてしまった場合には以下の記事を参照するといいだろう。

shakayami-math.hatenablog.com

内積の定義

${V}$ をベクトル空間とする。このとき、 ${\langle ,\rangle:V^2\to\mathbb{R}}$ が ${V}$ の内積であるとは、次の3条件を満たすことをいう。

双線形性。つまり ${x,y,z\in V,a,b\in\mathbb{R}}$ に対して、 ${\langle ax+by,z\rangle=a\langle x,z\rangle + b\langle y,z\rangle}$ が成り立つ。
交換性。つまり ${x,y\in V}$ について、 ${\langle x,y\rangle = \langle y,x\rangle}$ が成り立つ。
正値性。つまり ${x\in V-\{0\}}$ について ${\langle x,x\rangle \gt 0}$ となり、 ${\langle 0,0\rangle = 0}$ となる。

内積の具体例

${\mathbb{R}^n}$ において、 ${x=(x_1,\ldots,x_n),y=(y_1,\ldots,y_n)}$ とおいたとき、 ${\langle x,y\rangle=x_1y_1+\cdots + x_ny_n}$ と定義するとき、これは内積となる。また、 ${\mathbb{R}^n}$ に対してこのように内積を定めたものを、 ${n}$ 次元ユークリッド空間という。
${[a,b]}$ で連続な関数全体からなるベクトル空間について、 ${\langle f,g\rangle = \int_{a}^{b} f(x)g(x) dx}$ としたとき、これは内積となる。
${M_n(\mathbb{R})}$ 、つまり実数成分の ${n}$ 次正方行列全体の集合について、 ${\langle A,B\rangle=\mathrm{tr} (A\ {}^{t}B)}$ とすると、これも内積となる。

また、以降は、 ${\sqrt{\langle x,x\rangle} =\parallel x\parallel}$ と表記する。

シュワルツの不等式

任意のベクトルについて、 ${-\parallel x\parallel \parallel y\parallel \leq \langle x,y\rangle\leq \parallel x\parallel \parallel y\parallel}$ が成立する。（シュワルツの不等式）

証明は ${\parallel xt+y\parallel^2\geq 0}$ であることを利用する。これを ${t}$ について整理すると、

$$t^2\parallel x\parallel ^2 +2\langle x,y\rangle t+\parallel y\parallel ^2\geq 0$$

となるため、これを ${t}$ についての2次方程式としてみると、判別式 ${D\leq 0}$ をみたす。

よって、 ${\langle x,y\rangle^2\leq \parallel x\parallel^2\parallel y\parallel ^2}$ となる。

${\parallel x\parallel,\parallel y\parallel\geq 0}$ より求めるべき不等式は成立することが示された。（証明終わり）

三角不等式

内積によって ${\parallel x\parallel}$ というように記号を定義した場合、これは距離としての性質を保っている。距離の性質にはいくつかあるが、その中でも三角不等式を満たしていることだけは証明しておこう。三角不等式とは、つまり

${\parallel x+y\parallel \leq \parallel x\parallel +\parallel y\parallel }$ を示せばよい。これは先程示したシュワルツの不等式を用いて示すことができる。

$$\langle x,y\rangle \leq \parallel x\parallel \parallel y\parallel$$

から、

$$\parallel x\parallel^2+2\langle x,y\rangle +\parallel y\parallel^2 \leq \parallel x\parallel^2+2\parallel x\parallel \parallel y\parallel +\parallel y\parallel^2$$

より、

$$\parallel x+y\parallel^2\leq (\parallel x\parallel +\parallel y\parallel)^2$$

二乗している中身はどちらも正なためルートをとっても不等式の順序は保たれている。よって三角不等式 ${\parallel x+y\parallel \leq \parallel x \parallel +\parallel y\parallel}$ が成立する。

なす角と直交性

また、シュワルツの不等式から、 ${x,y\neq 0}$ とおくと、 ${-1\leq \frac{\langle x,y\rangle}{\parallel x\parallel \parallel y\parallel}\leq 1}$ という不等式が成り立つ。

よって、 ${\frac{\langle x,y\rangle}{\parallel x\parallel \parallel y\parallel}=\cos{\theta}}$ となるような ${0\leq\theta\leq \pi}$ が存在する。よってこの ${\theta}$ をベクトル ${x,y}$ によりなす角と呼ぶ場合もある。

さらに、ベクトル ${x,y}$ がなす角が ${\pi/2}$ である場合、ベクトル ${x,y}$ は直交するという。つまり ${\langle x,y\rangle=0}$ かつ ${x,y\neq 0}$ ならば一般に ${x,y}$ は直交するということができる。

正規直交基底

ベクトル空間 ${V}$ の次元を ${n}$ とする。このとき、その基底 ${e_1,\ldots,e_n}$ が、 ${\langle e_i,e_j\rangle =\delta_{ij}}$ を満たすとき、これを正規直交基底という。

また、 ${\delta_{ij}}$ はクロネッカーのデルタというものであり、 ${i=j}$ ならば1,それ以外ならば0となる。つまり基底のすべてのベクトルのノルム（＝長さ）が1であり（正規）、どの異なる2ベクトル同士の内積も0になる（直交）という条件を満たした基底と考えることができる。

グラムシュミットの正規直交化法

実はどのような有限次元ベクトル空間 ${V}$ とそこで定義された内積 ${\langle,\rangle}$ に対して、必ず正規直交基底が存在することが知られている。それどころか具体的な構成方法までも明らかとなっている。その構成方法として知られているものが、グラムシュミットの方法である。

グラムシュミットを適用させるためには、まずは（正規直交基底とは限らない） ${V}$ の基底 ${v_1,\ldots,v_n}$ を用意する。そして ${w_1,\ldots,w_n}$ を以下のように定義する。

$$w_1=v_1,w_{k+1}=v_{k+1}-\sum_{i=1}^{k}\frac{\langle v_{k+1},w_i\rangle}{\parallel w_i\parallel ^2}w_i$$

このように定義すると ${w_1,\ldots,w_n}$ は直交するので、あとは ${w_i}$ を ${\frac{w_i}{\parallel w_i\parallel}}$ というように変換したら正規化できるので、それで正規直交基底を具体的に構成できるということになる。

内積を表現する行列

${\mathbb{R}^n}$ における内積はある ${n}$ 次正方行列 ${S}$ が存在して、 ${\langle x,y\rangle ={}^tx S y}$ というように書くことができる。例えば、ユークリッドの内積の場合 ${S}$ を単位行列とすればよい。

ここで、 ${e_1,\ldots,e_n\in\mathbb{R}^n}$ を基本ベクトルとしよう。つまり ${e_i}$ の ${j}$ 番目の成分が ${\delta_{ij}}$ となるように定めている。（注：この時点で ${e_1,\ldots,e_n}$ が一般化された内積で正規直交基底になっているとは限らない）

このとき、定められた内積について、対応する行列 ${S}$ を

$$S=\left(\begin{array}{ccc}\langle e_1,e_1 \rangle&\cdots & \langle e_1, e_n \rangle\\ \vdots&\ddots&\vdots\\ \langle e_n,e_1\rangle&\cdots&\langle e_n, e_n \rangle \end{array}\right)$$

というように定義した場合、 ${\langle x,y\rangle={}^txSy}$ という形になる。

ここで、 ${S}$ で表現できる内積が存在する場合、 ${S}$ は半正定値行列となる。なぜならば ${{}^txSx\geq 0}$ であることが内積の定義から従う必要があるが、それが半正定値行列であることと同値な条件となっているからである。逆に ${S}$ が半正定値行列である場合、 ${{}^txSy}$ は内積となる。