线性代数
- 向量
- 向量的模(长度)
- 单位向量 (unit Vector)
- 标准单位向量
- 两个向量“相乘”,结果是一个数!(标量)
- 两个向量相乘,更严格的说法:两个向量的点乘,或两个向量的内积
- 向量点乘的应用
- 判断两个向量的夹角。
- 如果点乘结果 = 0 ,两个向量垂直
- 如果点乘结果 > 0 ,两个向量夹角为锐角
- 如果点乘结果 < 0 ,两个向量夹角为钝角
- 判断两个向量的相似程度(推荐系统)
- 几何计算中,求投影点的坐标
- 判断两个向量的夹角。
- A + B = B + A
- (A + B) + C = A + (B + C)
- (ck)A = c(kA)
- (c+k)A = cA+kA
- k(A+B) = kA + kB
- 存在矩阵O,满足:A + O = A
- 存在矩阵-A,满足:A +(-A)= 0 ,且 -A 唯一
- 矩阵(系统系数)和向量相乘 A a = b
- 矩阵A的列数必须和向量a的元素个数相等
- 矩阵A的行数没有限制
- 矩阵A实际上将向量a转换成了向量b
- 可以把矩阵理解成向量的函数
- 矩阵乘法 A * B = C
- 矩阵A的列数和矩阵B的行数相等
- A是m * k的矩阵,B是k * n的矩阵,则结果矩阵是m * n的矩阵
- 矩阵乘法不遵守交换律,很有可能交换后,不能相乘,即使能相乘,结果也不一样
- 矩阵乘法遵循
- (A * B) *C = A * (B * C)
- A * (B + C) = A * B + A * C
- (B + C) * A = B * A + C * A
- 矩阵的幂
- 矩阵的幂: A^k = A * A ***** A
- 只有方阵才可以进行矩阵的幂
- 矩阵的转置
- 矩阵的转置 - 行变成列,列变成行
- 矩阵转置的性质
- A^T^T = A
- (A+B)^T = A^T+B^T
- (k * A)^T = k * A^T
- (A*B)^T = B^T * A^T
- 主对角线都是1,其它都为0。(相当于数字系统中的1)
- I * A = A
- A * I = A
- I * A = A * I = A
- 矩阵中 AB = BA = I ,则称B是A的逆矩阵。记做B=A^-1。A称为可逆矩阵,或者叫非奇异矩阵,有些矩阵是不可逆的!称为不可逆矩阵,或者奇异矩阵。
- (AB)^-1 = B^-1A^-1
- 看待矩阵的视角(1):二维数据
- 看待矩阵的视角(2):系统
- 看待矩阵的视角(3):变换(向量的函数)
- 看待矩阵的视角(4):空间
一个方程的左右两边同时乘以一个常数,一个方程加(减)另一个方程。交换矩阵的两行。
曾广矩阵
- 前向过程(从上到下)
- 选择最上的主元,化为1
- 主元下面的所有行减去主元所在行的某个倍数,使得主元下面所有的元素都为0
- 后向过程(从下到上)
- 选择最下的主元
- 主元上面的所有行减去主元所在行的某个倍数,使得主元上面所有的元素都为0
-
阶梯型矩阵(行最简形式)
- 非零行的第一个元素(首元)为1
- 首元所在列的其它元素均为0
-
线性方程组解的结构
- 方程组有唯一解 A非零行 = 未知数的个数
- 方程组有无数解 A非邻行 < 未知数个数
方程个数 < 未知数 | 方程个数 = 未知数 | 方程个数 > 未知数 |
---|---|---|
无解 | 无解 | 无解 |
" " | 唯一解 | 唯一解 |
无数解 | 无数解 | 无数解 |
- 等号右侧的值都为0
- 肯定有解
- 非齐次线性方程组
(A|I) -> (I|A^-1) 我们用高斯-约旦求出了右逆,如果一个方针A有右逆B,则B也是A的左逆,即B是A的逆
对单位矩阵进行一次初等变换得到的结果矩阵
矩阵的逆为什么重要?
更关键的是:矩阵的逆和很多重要的命题连接在了一起 这些命题是等价的
- 对于方阵A 线性系统Ax=0只有唯一解,x=0
- 矩阵A可逆,A是非奇异矩阵
- rref(A) = I
- A可以表示成一系列初等矩阵的乘积
以上四个命题,相互等价
将矩阵A分解为 A = LU
L:Lower Triangle Matrix 下三角矩阵 U:Upper Triangle Matrix 上三角矩阵
矩阵的LU分解
- A = L U
- A = L D U
- A = P L U
- A = P L U P'
一组向量,如果两两正交,则成为正交向量组。
正交非零向量组一定线性无关
如果一个空间的一组正交基,模均为1,则称这组基是一组标准正交基。
一个空间的标准正交基也有无数组
标准正交矩阵的重要性质:
- Q^-1 = Q^T 标准正交矩阵的逆,等于它的转置
- Q^T * Q = I
矩阵的QR分解
- A = QR
- R = Q^-1 * A
- R = Q^T * A