线性代数（1）——线性方程组的几何意义

线性代数的基本问题是求解 $n$ 个未知数的 $n$ 个线性方程；

例如： $\begin{matrix} 2x - y = 0\\ -x + 2y = 3\end{matrix}$ （方程1）。

在线性代数的第一讲中，我们从Row Picture、Column Picture、Matrix Picture三个角度来看这个问题。

上面的系统是二维的 $(n = 2)$ 。通过添加第三个变量 $z$ ，我们可以将其扩展到三维。

1. Row Picture（行图像）

行图像：是通过将线性方程组看作是平面或空间中直线、平面等几何对象的交集来理解。例如，对于一个二元一次方程组（方程1），可以将每个方程在二维平面上表示为一条直线。通过求解这两条直线的交点，就得到了方程组的解。查看图 1，我们看到这个方程组的解是 $x = 1,y = 2$ 。

图 1：直线 2x - y = 0 和 -x + 2y = 3 相交于点 (1, 2)

我们将这个解代入原始方程组来检查我们的工作： $\begin{matrix} 2 \times 1 - 2 = 0 \\ -1 + 2\times 2 = 3 \end{matrix}$
如果是三元一次方程组，则可以在三维空间中用平面来表示每个方程，方程组的解就是这些平面的交点。

2.Column Picture（列图像）

列图像：是将线性方程组中的系数矩阵的列向量看作是基本向量，方程组的解是这些基本向量的线性组合。

线性组合：给定一组向量 $\vec{x}_1,\vec{x}_2,\cdots,\vec{x}_n$ 和一组标量 $a_1,a_2,\cdots,a_n$ （实数或复数），则向量 $\vec{x}=\vec{x}_1a_1 + \vec{x}_2a_2+\cdots + \vec{x}_na_n$ ，称为向量组 $a_1,a_2,\cdots,a_n$ 的线性组合。

对于线性方程组：

$\begin{bmatrix}a_{11}&a_{12}&\cdots&a_{1n}\\a_{21}&a_{22}&\cdots&a_{2n}\\\vdots&\vdots&\ddots&\vdots\\a_{m1}&a_{m2}&\cdots&a_{mn}\end{bmatrix}\begin{bmatrix}x_1\\x_2\\\vdots\\x_n\end{bmatrix}=\begin{bmatrix}b_1\\b_2\\\vdots\\b_m\end{bmatrix}$

可以将系数矩阵 $A$ 的列向量表示为 $\vec{a}_1,\vec{a}_2,\cdots,\vec{a}_n$ ，那么方程组可以写成 $x_1\vec{a}_1 + x_2\vec{a}_2+\cdots + x_n\vec{a}_n=\vec{b}$ 。这里，向量 $\vec{b}$ 是由向量 $\vec{a}_1,\vec{a}_2,\cdots,\vec{a}_n$ 线性组合得到的，求解方程组就是确定线性组合的系数 $x_1,x_2,\cdots,x_n$ 。

在列图像中，我们通过将方程组列中的系数转换为向量，将线性方程组重写为一个单一方程：

$x\begin{bmatrix}2\\ -1\end{bmatrix}+y\begin{bmatrix}-1\\ 2\end{bmatrix}=\begin{bmatrix}0\\ 3\end{bmatrix}$

给定两个向量 $c$ 和 $d$ 以及标量 $x$ 和 $y$ ，和 $xc + yd$ 被称为 $c$ 和 $d$ 的线性组合。线性组合在线性代数是中非常重要。 $x$ 份的向量 $\begin{bmatrix}2\\ -1\end{bmatrix}$ 加上 $y$ 份的向量 $\begin{bmatrix}-1\\ 2\end{bmatrix}$ 等于向量 $\begin{bmatrix}0\\ 3\end{bmatrix}$ 。从几何角度看，我们要找到 $x$ 和 $y$ 的值，使得 $x$ 份的向量 $\begin{bmatrix}2\\ -1\end{bmatrix}$ 加上 $y$ 份的向量 $\begin{bmatrix}-1\\ 2\end{bmatrix}$ 等于向量 $\begin{bmatrix}0\\ 3\end{bmatrix}$ 。如图2所示， $x = 1$ 且 $y = 2$ ，这与图2中的行图像一致。

图 2：列向量的线性组合等于向量 b

在三维空间中，列图像要求我们找到三个三维向量的线性组合，使其等于向量 $b$ 。

3. Matrix Picture（矩阵图像）

矩阵图像主要是从矩阵的角度来整体看待线性方程组。将线性方程组用矩阵形式表示为 $Ax = b$ ，其中 $A$ 是系数矩阵， $x$ 是未知向量， $b$ 是常数向量。可以通过矩阵的运算和性质来求解方程组，比如利用矩阵的逆、高斯消元法等方法。矩阵图像更侧重于从整体的矩阵结构和运算规则来分析和解决线性代数问题。

我们将方程组 $\begin{matrix} 2x - y = 0\\ -x + 2y = 3\end{matrix}$ 写为一个单一方程，通过使用矩阵和向量： $\begin{bmatrix}2 & -1\\ -1 & 2\end{bmatrix}\begin{bmatrix}x\\ y\end{bmatrix}=\begin{bmatrix}0\\ 3\end{bmatrix}$ 矩阵 $A=\begin{bmatrix}2 & -1\\ -1 & 2\end{bmatrix}$ 被称为系数矩阵。向量 $x=\begin{bmatrix}x\\ y\end{bmatrix}$ 是未知数向量。方程右边的值形成向量 $b$ ： $Ax = b$ 。三维矩阵图像与二维的非常相似，只是向量和矩阵的大小增加了。

4.矩阵乘法

我们如何将矩阵 $A$ 乘以向量 $x$ 呢？

$\begin{bmatrix}2 & 5\\ 1 & 3\end{bmatrix}\begin{bmatrix}1\\ 2\end{bmatrix}=?$

一种方法是将 $x$ 的元素看作是矩阵列向量线性组合的系数：

$\begin{bmatrix}2 & 5\\ 1 & 3\end{bmatrix}\begin{bmatrix}1\\ 2\end{bmatrix}=1\begin{bmatrix}2\\ 1\end{bmatrix}+2\begin{bmatrix}5\\ 3\end{bmatrix}=\begin{bmatrix}12\\ 7\end{bmatrix}$

这种方法表明 $Ax$ 是 $A$ 列向量的线性组合。

你也可以通过计算 $A$ 的每一行与向量 $x$ 的点积来计算 $Ax$ ：

$\begin{bmatrix}2 & 5\\ 1 & 3\end{bmatrix}\begin{bmatrix}1\\ 2\end{bmatrix}=\begin{bmatrix}2×1 + 5×2\\ 1×1 + 3×2\end{bmatrix}=\begin{bmatrix}12\\ 7\end{bmatrix}$

矩阵乘法：设A是一个m×n的矩阵，B是一个的n×p矩阵，那么矩阵A与B的乘积AB是一个m×p的矩阵。其(i,j)位置的元素是A的第i行与B的第j列对应元素乘积之和。

例如：设 $A=\begin{bmatrix}1&2\\3&4\end{bmatrix},B=\begin{bmatrix}5&6\\7&8\end{bmatrix}$ ，

则 $AB=\begin{bmatrix}1\times5 + 2\times7&1\times6 + 2\times8\\3\times5 + 4\times7&3\times6 + 4\times8\end{bmatrix}=\begin{bmatrix}19&22\\43&50\end{bmatrix}$

5.线性无关性

在列图像和矩阵图像中，方程右边是一个向量 $b$ 。给定一个矩阵 $A$ ，我们能否对每一个可能的向量 $b$ 求解 $Ax = b$ 呢？

换句话说，列向量的线性组合是否填满 $xy$ 平面（在三维情况下是空间）呢？如果答案是“否”，我们说 $A$ 是一个奇异矩阵。在这种奇异情况下，它的列向量是线性相关的；这些向量的所有线性组合位于一个点或一条直线上（在二维情况下）或位于一个点、一条直线或一个平面上（在三维情况下）。这些组合不能填满整个空间。

线性无关 :对于一组向量 $\vec{v}_1, \vec{v}_2, \cdots, \vec{v}_n$ ，如果只有当所有的标量 $c_1 = c_2 = \cdots = c_n = 0$ 时，等式 $c_1\vec{v}_1 + c_2\vec{v}_2 + \cdots + c_n\vec{v}_n=\vec{0}$ 才成立，那么称这组向量是线性无关的；否则，如果存在不全为零的标量使得上述等式成立，则称这组向量是线性相关的。

例如：在三维空间中，向量 $\vec{i}=\begin{bmatrix}1\\0\\0\end{bmatrix},\vec{j}=\begin{bmatrix}0\\1\\0\end{bmatrix},\vec{k}=\begin{bmatrix}0\\0\\1\end{bmatrix}$ 是线性无关的。因为如果 $c_1\vec{i}+c_2\vec{j}+c_3\vec{k}=\vec{0}$ ，即 $c_1\begin{bmatrix}1\\0\\0\end{bmatrix}+c_2\begin{bmatrix}0\\1\\0\end{bmatrix}+c_3\begin{bmatrix}0\\0\\1\end{bmatrix}=\begin{bmatrix}0\\0\\0\end{bmatrix}$ ，则必然有 $c_1 = c_2 = c_3 = 0$ 。而向量 $\vec{v}_1=\begin{bmatrix}1\\2\\3\end{bmatrix},\vec{v}_2=\begin{bmatrix}2\\4\\6\end{bmatrix}$ 是线性相关的，因为 $2\vec{v}_1-\vec{v}_2 = 2\begin{bmatrix}1\\2\\3\end{bmatrix}-\begin{bmatrix}2\\4\\6\end{bmatrix}=\begin{bmatrix}0\\0\\0\end{bmatrix}$ ，这里 $c_1 = 2,c_2=-1$ 不全为零。