1. 可解的条件 Solvability conditions on b

   仍 取 A = [ 1 2 2 2 2 4 6 8 3 6 8 10 ] 仍取A=\\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } \\\\ { 2 } & { 4 } & { 6 } & { 8 } \\\\ { 3 } & { 6 } & { 8 } & { 10 } \\end{array} \\right] 仍取A=⎣⎡​123​246​268​2810​⎦⎤​，则方程为 [ 1 2 2 2 2 4 6 8 3 6 8 10 ] ( x 1 x 2 x 3 x 4 ) = [ b 1 b 2 b 3 ] \\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } \\\\ { 2 } & { 4 } & { 6 } & { 8 } \\\\ { 3 } & { 6 } & { 8 } & { 10 } \\end{array} \\right] \\left( \\begin{array} { l } { x _ { 1 } } \\\\ { x _ { 2 } } \\\\ { x _ { 3 } } \\\\ { x _ { 4 } } \\end{array} \\right)=\\left[ \\begin{array} { l } { b _ { 1 } } \\\\ { b _ { 2 } } \\\\ { b _ { 3 } } \\end{array} \\right] ⎣⎡​123​246​268​2810​⎦⎤​⎝⎜⎜⎛​x1​x2​x3​x4​​⎠⎟⎟⎞​=⎣⎡​b1​b2​b3​​⎦⎤​

  矩阵 A A A的第三行为第一行和第二行的加和， 因此 A x = b Ax=b Ax=b中 b b b的第 3 个分量也要等于其第 1 和第 2 个分量的和。若 b b b不满足 b 3 = b 1 + b 2 b_3=b_1+b_2 b3​=b1​+b2​ 则方程组无解。

[ 1 2 2 2 b 1 2 4 6 8 b 2 3 6 8 10 b 3 ] \\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } & { b_1 }\\\\ { 2 } & { 4 } & { 6 } & { 8 } & { b_2 } \\\\ { 3 } & { 6 } & { 8 } & { 10 } & { b_3 }\\end{array} \\right] ⎣⎡​123​246​268​2810​b1​b2​b3​​⎦⎤​

增 广 矩 阵 ： [ A , b ] 增广矩阵：[A,b] 增广矩阵：[A,b]

  检验 A x = b Ax=b Ax=b是否可解的方法是对增广矩阵进行行消元。如果矩阵 A A A的行被完全消去的话，则对应的 b b b的分量也要得 0。在本例中，矩阵 A A A的第三行被消去。

[ 1 2 2 2 b 1 2 4 6 8 b 2 3 6 8 10 b 3 ] → [ 1 2 2 2 b 1 0 0 2 4 b 2 − 2 ∗ b 1 0 0 2 4 b 3 − 3 ∗ b 1 ] → [ 1 2 2 2 b 1 0 0 2 4 b 2 − 2 ∗ b 1 0 0 0 0 b 3 − b 1 − b 2 ] \\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } & { b_1 }\\\\ { 2 } & { 4 } & { 6 } & { 8 } & { b_2 } \\\\ { 3 } & { 6 } & { 8 } & { 10 } & { b_3 }\\end{array} \\right] \\rightarrow \\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } & { b_1 } \\\\ { 0 } & { 0 } & { 2 } & { 4 } & { b_2-2*b_1 } \\\\ { 0} & { 0 } & { 2 } & { 4 } & { b_3 -3*b_1}\\end{array} \\right] \\rightarrow \\left[ \\begin{array} { c c c c } { 1 } & { 2 } & { 2 } & { 2 } & { b_1 }\\\\ { 0 } & { 0 } & { 2 } & { 4 } & { b_2-2*b_1 } \\\\ { 0} & { 0 } & { 0 } & { 0 } & { b_3 -b_1-b_2}\\end{array} \\right] ⎣⎡​123​246​268​2810​b1​b2​b3​​⎦⎤​→⎣⎡​100​200​222​244​b1​b2​−2∗b1​b3​−3∗b1​​⎦⎤​→⎣⎡​100​200​220​240​b1​b2​−2∗b1​b3​−b1​−b2​​⎦⎤​

  如果 A x = b Ax=b Ax=b有解，则 b 3 − b 1 − b 2 = 0 b_3-b_1-b_2=0 b3​−b1​−b2​=0。在本例中我们假设： b = [ 1 5 6 ] b=\\left[ \\begin{array} { l } { 1 } \\\\ { 5 } \\\\ { 6 } \\end{array} \\right] b=⎣⎡​156​⎦⎤​。

  可解的条件：只有当 b b b处于矩阵的列空间 C ( A ) C(A) C(A)之中时，方程才有解。

  等价的另一种描述方式为：矩阵 A A A的行向量若经过线性组合为零向量时，则对应的 b b b经同样的线性组合后也为0（注意是单个0）。

2. 特解 A particular solution

  求 A x = b Ax=b Ax=b特解的方法是将自由变量均赋为0，求解其主变量。
  本例中，令 x 2 = x 4 = 0 x_2=x_4=0 x2​=x4​=0得到方程组：
x 1 + 2 x 3 = 1 2 x 2 = 3 \\left. \\begin{array} { r } { x _ { 1 } + 2 x _ { 3 } = 1 } \\\\ { 2 x _ { 2 } = 3 } \\end{array} \\right. x1​+2x3​=12x2​=3​

  可解得 x 3 = 3 2 ， x 1 = − 2 x_3=\\frac{3}{2}，x_1=-2 x3​=23​，x1​=−2。

x p = [ − 2 0 3 2 0 ] x_p=\\left[ \\begin{array} { c } { - 2 } \\\\ { 0} \\\\ { \\frac { 3 } { 2 }} \\\\ 0 \\end{array} \\right] xp​=⎣⎢⎢⎡​−2023​0​⎦⎥⎥⎤​

3. 通解 Complete solution

  为求得 A x = b Ax=b Ax=b的所有解，我们首先检验方程是否可解，然后找到一个特解。将特解和矩阵零空间的向量相加即为方程的通解。

3.1 与零空间进行线性组合 Combined with nullspace

A x p = b Ax_p=b Axp​=b

A x n = 0 Ax_n=0 Axn​=0

A ( x p + x n ) = b A(x_p+x_n)=b A(xp​+xn​)=b

   A x = b Ax=b Ax=b的通解为 x c o m p l e t e = x p + x n x_{complete}=x_p+x_n xcomplete​=xp​+xn​，其中 x n x_n xn​ 为矩阵零空间中的一般向量。将 A x p = b Ax_p=b Axp​=b和 A x n = 0 Ax_n=0 Axn​=0相加可得 A ( x p + x n ) = b A(x_p+x_n)=b A(xp​+xn​)=b。

  将 A A A转换成rref，则结果如下所示：
x 1    x 2    x 3     x 4 x_1 \\ \\ x_2 \\ \\ x_3 \\ \\ \\ x_4 x1​  x2​  x3​   x4​
R = [ 1 2 0 − 2 0 0 1 2 0 0 0 0 ] R=\\left[ \\begin{array} { l l l l } { 1 } & { 2 } & { 0 } & { - 2 } \\\\ { 0 } & { 0 } & { 1 } & { 2 } \\\\ { 0 } & { 0 } & { 0 } & { 0 } \\end{array} \\right] R=⎣⎡​100​200​010​−220​⎦⎤​

  将 x 2 x_2 x2​和 x 3 x_3 x3​进行互换，则为：
[ 1 0 2 − 2 0 1 0 2 0 0 0 0 ] \\left[ \\begin{array} { l l l l } { 1 } & { 0 } & { 2 } & { - 2 } \\\\ { 0 } & { 1 } & { 0 } & { 2 } \\\\ { 0 } & { 0 } & { 0 } & { 0 } \\end{array} \\right] ⎣⎡​100​010​200​−220​⎦⎤​

  互换后的结果应该为 [ − F I ] \\left[ \\begin{array} { c } { - F } \\\\ { I } \\end{array} \\right] [−FI​]，即 [ − 2 2 0 − 2 1 0 0 1 ] \\left[ \\begin{array} { c c } { - 2 } & { 2 } \\\\ { 0 } & { - 2 } \\\\ { 1 } & { 0 } \\\\ { 0 } & { 1 } \\end{array} \\right] ⎣⎢⎢⎡​−2010​2−201​⎦⎥⎥⎤​。再把 x 2 x_2 x2​和 x 3 x_3 x3​互换即为：

[ − 2 2 1 0 0 − 2 0 1 ] \\left[ \\begin{array} { r r } { - 2 } & { 2 } \\\\ { 1 } & { 0 } \\\\ { 0 } & { - 2 } \\\\ { 0 } & { 1 } \\end{array} \\right] ⎣⎢⎢⎡​−2100​20−21​⎦⎥⎥⎤​

  因此方程 A x = [ 1 5 6 ] Ax=\\left[ \\begin{array} { l } { 1 } \\\\ { 5 } \\\\ { 6 } \\end{array} \\right] Ax=⎣⎡​156​⎦⎤​的通解即为：
x c o m p l e t e = [ − 2 0 3 2 0 ] + c 1 [ − 2 1 0 0 ] + c 2 [ 2 0 − 2 1 ] x_{complete}=\\left[ \\begin{array} { c } { - 2 } \\\\ { 0} \\\\ { \\frac { 3 } { 2 }} \\\\ 0 \\end{array} \\right]+c_1\\left[ \\begin{array} { c } { - 2 } \\\\ { 1 } \\\\ { 0 } \\\\ { 0 } \\end{array} \\right]+c_2\\left[ \\begin{array} { c } { 2 } \\\\ { 0 } \\\\ { - 2 } \\\\ { 1 } \\end{array} \\right] xcomplete​=⎣⎢⎢⎡​−2023​0​⎦⎥⎥⎤​+c1​⎣⎢⎢⎡​−2100​⎦⎥⎥⎤​+c2​⎣⎢⎢⎡​20−21​⎦⎥⎥⎤​

  其中 c 1 c_1 c1​和 c 2 c_2 c2​为任意实数。

  方程的解 A x = b Ax=b Ax=b构成了穿过 x p x_p xp​点并和矩阵零空间平行的“平面“，矩阵的零空间 N ( A ) N(A) N(A)是 R 4 R^4 R4空间中的二维子空间，但该平面并不是 R 4 R^4 R4空间的子空间（因为没有过零点）。

4. 秩 Rank

  假设矩阵的shape为 m ∗ n m*n m∗n，如果矩阵的秩为 r r r，则必有 r ≤ m r \\leq m r≤m 且 r ≤ n r \\leq n r≤n。

4.1 列满秩

  列满秩为 r = n r=n r=n，零空间 N ( A ) N(A) N(A)之内只有零向量。原因：每列都有主元， x x x的每一个分量都是主变量，没有自由变量。方程无解或者有唯一解 x p x_p xp​。

A = [ 1 3 2 1 6 1 5 1 ] → [ 1 0 0 1 0 0 0 0 ] = R A=\\left[ \\begin{array} { l l } { 1 } & { 3 } \\\\ { 2 } & { 1 } \\\\ { 6 } & { 1 } \\\\ { 5 } & { 1 } \\end{array} \\right] \\rightarrow \\left[ \\begin{array} { l l } { 1 } & { 0 } \\\\ { 0 } & { 1 } \\\\ { 0 } & { 0 } \\\\ { 0 } & { 0 } \\end{array} \\right] = R A=⎣⎢⎢⎡​1265​3111​⎦⎥⎥⎤​→⎣⎢⎢⎡​1000​0100​⎦⎥⎥⎤​=R

  4个方程，2个未知数。

R = [ I 0 ] R=\\left[ \\begin{array} { l } { I } \\\\ { 0 } \\end{array} \\right] R=[I0​]

4.2 行满秩

  行满秩为 r = m r=m r=m，每行都有主元，无论 b b b取何值，方程 A x = b Ax=b Ax=b都有解。主变量 r r r个，自由变量 n − r n-r n−r个即 n − m n-m n−m个。

A = [ 1 3 6 5 3 1 1 1 ] → [ 1 0 ∗ ∗ 0 1 ∗ ∗ ] = R A=\\left[ \\begin{array} { l l l l } { 1 } & { 3 } & { 6 } & { 5 } \\\\ { 3 } & { 1 } & { 1 } & { 1 } \\end{array} \\right] \\rightarrow \\left[ \\begin{array} { c c c } { 1 } & { 0 } & { * } & { * } \\\\ { 0 } & { 1 } & { * } & { * } \\end{array} \\right]=R A=[13​31​61​51​]→[10​01​∗∗​∗∗​]=R

R = [ I F ] R=[I \\quad F] R=[IF]

4.3 满秩

  满秩 r = m = n r=m=n r=m=n，矩阵可逆。零空间只有零向量，无论 b b b取何值，方程 A x = b Ax=b Ax=b都有唯一解。
R = I R=I R=I

  简单来说， R R R的倒数行是否为零行决定了是否有解。如果没有零行，则一定有解。

  秩决定了方程组解的数量。