一对矩阵的相关性_矩阵分析学习笔记（1）

线性空间与线性映射

一、线性空间的概念：

1. 记实数域 为
   , 复数域为
   ， 统称数域
   。设有一非空
   集合记为
   , 对集合
   中的元素定义二元加法运算和数乘运算。（二元加法运算和数乘运算是一种线性映射，集合
   的元素可以为：数组（n tuple）、函数（多项式函数、连续函数、分段可积函数等）、有向线段等）
2. 二元加法运算+ :
   ： 对于
   中任意元素
   和
   , 在
   中都有唯一元素
   与之对应，使得
   。 加法运算满足以下4条性质： 1. 交换律：
   2. 结合律：
   3. 零元素：在
   中存在零元
   ，满足
   4. 负元素：对于
   中 的任意元素
   , 都在
   中 存在元素
   , 满足
3. 二元数乘运算
   :
   ： 对于
   中 的任意元素
   , 与数域
   中的数
   定义数乘运算，在
   中存在元素
   , 使得
   。数乘运算满足以下4条性质： 1.
   2.
   3 .
   4.
   其中
   与
   是集合
   中的元素，
   和
   是数域
   中的数。

且则称 集合

是 数域

上的线性空间 。

remark 1: 空间这个概念只是为了类比2维或3维几何空间的一个概念，更好的理解为元素的集合，线性空间中的元素统称为抽象向量(The form that vectors take doesn't really matter, it can be anything)。 remark 2: 集合

的中元素为：数组、函数、有向线段时，对应称为数域空间、函数空间、几何空间。

remark 3: 特别地，对于几何空间（有向线段的集合），加法运算采用平行四边形或三角形法则进行计算，数乘运算表示对有向线段进行同向或反向伸缩。

1.1 线性相关性：
线性相关性可以用线性非齐次方程组的解集来描述， 设抽象矩阵

由

个抽象向量组成，方程组

1. 若方程（1）不存在非零解(即只有
   , 式（1）成立)，则称向量组
   线性无关；
2. 若方程（1）存在非零解，则称向量组
   线性相关；

1.2 有限维线性空间

的

是数域

上的线性空间， 有正整数

及

中向量组

满足以下两个条件：

1. （线性无关性）
   线性无关；
2. （生成性） 任取向量
   均可由
   线性表示：即

则称

是

上的

维线性空间。 向量组

为线性空间

的一组基（该空间的一种坐标系）， 矩阵

称为基矩阵，向量

称为抽象向量

在基

下的坐标。

remark 1: 基向量组的线性无关线保证空间中的抽象向量在该基下的坐标是唯一的，生成性保证空间中的任意向量在该基下都有坐标；

remark 2: 抽象向量的坐标

，因此基（坐标系）实现了

维线性空间到

维标准线性空间

的一一对应（基（坐标系）提供了一种将抽象向量具体化的操作）；

例：

是函数空间

中的一个元素，则

则

被具体化为

。

remark 3:

维线性空间的基向量组

要满足3个条件： （1）向量组个数为

；（2）

线性无关（保证该空间中每一个点的坐标的唯一性）；（3）可表示性，即 任取

,

有解（就是能找到对应坐标）；

remark 4: 线性空间的基不是唯一的（一个空间可以有不同的坐标系），一个向量在不同的基下的坐标也是不一样的。设向量组

与向量组

是

维线性空间

中的两组不同的基，且有

则称方阵

为基向量组

到基向量组

的过渡矩阵。特别地，当

是标准正交基时, 矩阵

称为酉矩阵即(

), 此时过渡

为上三角矩阵，且其对角线上元素为正实数，

称为正交-三角 分解（Gram-Schmidt标准正交化，（将一般基转换成标准正交基的方法）。

1.3 标准线性空间

1. 标准线性空间
   的标准基为：
   ， 标准基构成了单位矩阵
   .
2. 标准线性空间的一般基向量组
   拼成的（非抽象的矩阵）
   是非奇异矩阵.
3. 齐次线性方程组的解集称为矩阵
   的核（kernel）
   .

1.4 线性子空间：
定义： 设

是数域

上的线性空间

的子集合,

。如果空间

中的元素满足：

1. （加法封闭性）若
   , 有
2. (数乘封闭性)
   ， 有

则称

是线性空间

的线性子空间。

生成子空间：设

是线性空间

中的一组向量， 则集合

称为向量组

的生成子空间，可以证明

是

的子空间。（

可以理解为由向量组

线性组合生成的全体向量的集合，向量组

提供了空间

的一种表达方式，

• 给定矩阵
  , 则
  的子空间
  称为矩阵
  的像(Image)），写成
  . 齐次线性方程组的
  解空间称为矩阵
  的核（kernel）
  .