线性代数:内积空间

内积空间

现将「长度」、「距离」的概念推广到一般的线性空间中。距离可以看作是长度的派生概念,而长度又可以看成是内积的派生概念。这里给出复数域上内积的定义,因为实数域可以看成是复数域的特例。

存在某种规则,使得复数域上的线性空间中任意一组有序向量,都唯一地对应一个复数,记为,适合如下4条规则:

  1. 为任一复数
  2. 且等号成立当且仅当

则称在上定义了一个内积的内积。有限维实内积空间称为Euclid空间或欧氏空间,有限维复内积空间称为酉空间

例如两个列向量,若是维实列向量空间上的,则标准内积定义为

若是维复列向量空间上的,则标准内积定义为

再例如,区间上连续函数全体构成的线性空间,,定义

是一个内积,于是成为无限维实内积空间。

有了内积的概念后,可以定义向量的长度(或范数)。向量的长度(或范数)定义为

利用范数可定义内积空间两个向量的距离。设之间的距离

内积与范数之间满足的如下关系称为Cauchy-Schwarz不等式

是实内积空间时,非零向量之间的夹角满足

如果,则称垂直或正交,用来表示,此时的夹角为

内积的表示和正交基

现研究给定有限维内积空间下的一组基后,如何用坐标向量来表示向量的内积。具体来说,是内积空间的一组基,如果

利用向量内积的性质,当是欧氏空间(实内积空间)时,

写成矩阵形式

其中矩阵

称为基向量Gram矩阵或内积空间在给定基下的度量矩阵。于是便得到内积在给定基下的表示

其中分别是向量在给定基下的坐标向量。容易验证是正定实对称矩阵。由此看出,若给定维欧式空间的一组基,则欧式空间上的内积和阶正定实对称矩阵一一对应。

是酉空间(复内积空间),用表示在给定基下的度量矩阵,则有

其中分别是向量在给定基下的坐标向量,是正定Hermite矩阵

那么,很自然地会提出这样的问题:中是否存在一组基,它的Gram矩阵是单位阵?如果存在,那么在这组基下的内积表示会特别简单。此时度量矩阵,则有

把内积空间中满足上面条件的一组基称为标准正交基。在标准正交基下,度量矩阵就是单位阵。内积空间中线性无关的一组向量可通过Gram-Schmidt正交化方法转化成一组正交基。所以,任一有限维内积空间均有标准正交基。

是内积空间的子空间,令

容易验证的子空间,称为正交补空间。可以得到结论,,且上任一组标准正交基均可扩张为上的标准正交基,很明显,的一组标准正交基和的一组标准正交基一起组成的一组标准正交基。

若对任意的和任意的均有,则称子空间正交。若两两正交,则称的正交和,记为

正交和一定是直和,而且任一子空间必与其余子空间的和正交。

伴随算子

内积空间的线性变换称为线性算子。对于内积空间上的线性算子,若存在上的线性算子,使得

对一切都成立,则称伴随算子。可以证明,伴随算子是唯一的。

内积空间中的线性算子在标准正交基下的表示矩阵为,如果是酉空间,则在同一组基下的表示矩阵为,即共轭转置;如果是欧氏空间,那么的表示矩阵为,即转置。

正交变换和酉变换

是数域上的内积空间,是实数域或复数域,的线性映射。若对任意,有

则称保持内积的线性映射。又若是同构线性映射,则称保积同构保持向量的长度和向量间的距离。而且可以证明,若的保持范数的线性映射,则保持内积。

进一步地,都是维内积空间(同为实空间或复空间),若的线性映射,则下面命题等价:

  1. 保持内积
  2. 是保积同构
  3. 将任一组标准正交基变成的一组标准正交基
  4. 将某一组标准正交基变成的一组标准正交基

而且,同构的充要条件是它们具有相同的维数。

是欧氏空间,则上保持内积的线性变换称为正交变换或正交算子;若是酉空间,则上保持内积的线性变换称为酉变换或酉算子。这两种线性变换都是将一组标准正交基变成另一组标准正交基。是正交变换或酉变换的充要条件是非异,且

阶实方阵满足,则称正交矩阵。若阶复方阵满足,则称酉矩阵。若是欧式空间(酉空间)上的正交变换(酉变换),则的任意一组标准正交基下的表示矩阵为正交矩阵(酉矩阵)。

自伴随算子

现在有类似的问题,在什么条件下内积空间上的线性变换在一组基下的表示矩阵有比较简单的形状。设维内积空间在两组标准正交基下的表示矩阵分别为,两组基之间的过渡矩阵为。若是欧氏空间,则两组标准正交基之间的过渡矩阵是正交矩阵,矩阵正交相似,有

是酉空间,则两组标准正交基之间的过渡矩阵是酉矩阵,矩阵酉相似,有

一般的矩阵寻找正交(酉)标准型很困难,于是接下来讨论一类特殊的矩阵:Hermite矩阵实对称矩阵。若内积空间上的线性变换满足,则称是自伴随算子。若是欧式空间,称为对称算子或对称变换;若是酉空间,称为Hermite算子或Hermite变换。

维酉空间,上的自伴随算子,则的特征值全是实数,且属于不同特征值的特征向量互相正交。类似地,Hermite矩阵的特征值全部都是实数,实对称矩阵的特征值也全是实数,这两种矩阵属于不同特征值的特征向量互相正交。由此得到如下结论:设维内积空间,上的自伴随算子,则存在的一组标准正交基,使得在这组基下的表示矩阵为实对角阵,且这组基恰为个线性无关的特征向量。

类似地,对于矩阵也有相应的结论。若是Hermite矩阵,则存在酉矩阵,使得为实对角阵,即Hermite矩阵酉相似于实对角阵。又若是实对称矩阵,则存在正交矩阵,使得为实对角阵,即实对称矩阵正交相似于实对角阵。上述两种情况中的矩阵个列向量恰为矩阵个两两正交且长度等于的特征向量。实对称(Hermite)矩阵的特征值是实对称(Hermite)矩阵正交(酉)相似的全系不变量。

基于上面的结论,可得到实二次型的正定性与矩阵特征值之间的关系:变元实二次型,是正定型当且仅当矩阵的特征值全为正数,是负定型当且仅当矩阵的特征值全为负数,是半正定型当且仅当矩阵的特征值全非负,是半负定型当且仅当矩阵的特征值全非正。