线性代数主要引入了几个工具,然后用这些工具解决了三个方面的问题。
本文也分成三个部分,第一部分重点介绍这几个概念的性质、几何意义、其计算方法,第二部分着重于如何解方程组,第三部分介绍相似理论,第四部分二次型。
沿着坐标轴方程的单位向量叫做基向量,比如在平面内,有两个基向量i,j:
i在x轴方向上长度为1,在y轴方向上程度为0:
j在x轴方向上长度为0,在y轴方向上程度为1:
很明显,向量是基向量的线性组合。
当两向量线性相关时,两向量共线,即
从这里可以看出,增加线性相关的向量并不能使要表达的张成空间更大,线性组合所能表达的张成空间是有线性无关的向量决定的。
同样的道理,在三维空间中,如果有一个向量落在前两个向量组成的平面内,也不能增加所要表达的张成空间。
线性无关向量集是张成空间的一个基。因为线性相关的向量对张成空间的表达没有任何影响,而线性无关的向量却可以决定张成空间的表达。
另外,矩阵中线性无关向量就是线性变换后线性空间的基。
矩阵乘法的几何意义是对一个向量做线性变换。而矩阵所描述的是如何更改基向量。实际上矩阵中的值就是变换后的基向量。例如:
的意思是让
的基由
变为
两个矩阵相乘实际上是表达了两种线性变换的叠加。例如,对向量v连续做两次线性变换等效于直接做一次线性变换:
所以可以得矩阵乘法公式是:第一行乘第一列,第二行乘第二列.......
以二阶为例:
用初等矩阵左乘一个矩阵相当于对这个矩阵做相同的初等行变换。
用初等矩阵右乘一个矩阵相当于对这个矩阵做相同的初等列变换。
二维行列式的几何意义是经过线性变换后张成空间单位面积改变的比例。
相应的,三维空间中,行列式的几何意义是经过线性变换后张成空间单位体积改变的比例。
行列式为0,说明经过线性变换后,体积或面积没有了,也就是被降维了,即矩阵中有线性相关的列。
这也可以用来解释为什么没有2*3的行列式。
行列式的性质:
计算:
主(正)对角线相乘加正号,副(负)对角线相乘加负号。
展开式法:
注意矩阵与行列式与实数的乘法,,这是因为2A会使A的每行都乘2,取行列式后,每行都可以提出来一个2.
余子式表示行列式去掉第i行和第j列后,剩下的元素组成的新的行列式。
代数余子式
这其实是按第i行展开的逆用。
只要空间没被降维,即,那么就一定能找到一个逆向的变换。
因为,而线性变换A可以同时拆分乘多个初等变换
,所以有定理:可逆矩阵A,经过若干次初等行变换一定可以化成同阶单位阵E,即:
两边同时乘以得
所以用同样的变换可以把A化乘E,也可以将E化成。
伴随矩阵与逆矩阵作用相似,都是还原一个线性变换,区别是:
逆矩阵是将拉长的维度压缩,将压缩的维度拉长。
伴随矩阵是让拉长的维度保持不变,拉长其它所有的维度
所以伴随矩阵与逆矩阵有倍数关系:
行列式刚好是前面提到的张成空间被放大的比例。
上式两边同时乘E,可得
由此可以得到的数值为:
是代数余子式竖着写,因为只有这样才能使
假设A是拉长某一个维度,则会拉长剩余的维度,所以有
转置矩阵的几何意义比较难以理解,好在翻遍整个线性代数转置出现的次数极少,说明至少在考研中转置不重要,只需从数值层面将转置理解为行和列互换即可。
矩阵的秩是经过线性变换后空间的维度。
通过初等变化将矩阵化为阶梯形,阶梯数即为矩阵的秩。
代表了什么?升维了吗?
不,化简后为,还是二维的,只是把二维的坐标用三维表示了而已,本质还是二维,可以理解乘三维中的平面。
呢?
这是实打实的降维没错了,3维降到二维了。
把它理解成向量w经过线性变换
是一维的,所以一定是降维了。把向量映射到了直线上,这点有点像PCA降维。
的结果是法向量,大小等于
与
围成的平行四边形的面积。注意叉积的结果是向量。
对于秩和伴随的公式给出证明:
穿脱原则:
逆、伴随、转置可以交换:
按照中学的加减消元法解方程组,可以对它做3种操作:
这些操作相当于做初等行变换,也就是说,对方程组做初等行变换后得到的方程组是同解的。做这部分题时要想着解的是方程组,要与中学知识相对照。
基础解系是一组线性无关的解向量,用它可以线性表出所有的解。
基础解系的个数为
解之前先判断是否有解:
例如:
所以我们用初等行变换把系数矩阵化为阶梯型:
计算基础解系的个数:
对自由变量用1,0和0,1赋值,带入同解方程组,得:
所以通解为:
解之前先判断是否有解:
无穷多解时的通解等于对应齐次方程的通解加非齐次线性方程特解。
例如:
所以我们用初等行变换把系数矩阵化为阶梯型:
计算基础解系的个数:
对自由变量用1,0和0,1赋值,带入对应齐次方程的同解方程组,求出对应齐次方程的解向量:
用全0赋值,带入非齐次方程的同解方程组,求出非齐次方程的特解:
结合起来得到通解:
对于特殊的方程组,即系数矩阵是方阵的方程组,有一个比化阶梯形简单的解法。
非齐次方程组实质上是找一个向量x,它在经过线性变换A后为b.
当时,x被降维,若
,说明降维后仍与b维度相同,有无穷多解;
当时,x被降维,若
,说明降维后与b维度不同,无解。
齐次方程组,表示向量x经过线性变换A后是0向量,此时有两种情况:
根据中学的知识,求两个方程组和
的公共解,只需将其联立:
方程组(Ⅰ)和方程组(Ⅱ)同解就是两个方程组的解一模一样。即:
(Ⅰ)的解能表示(Ⅱ)的解,且(Ⅱ)的解能表示(Ⅰ)的解。
注:相似理论讨论的矩阵都是方阵。
对二维的空间做线性变换后,有些向量只改变了大小,没有改变方向。
这些向量就是该二维空间的特征向量。大小改变的比例就是特征值。移项得特征方程:
这就是一个齐次线性方程组,若有解则:
可以解出特征值。注意:这个行列式为
的三阶方程,但总可以通过变换将
作为某行的公因式提出,从而行列式变为
的二阶方程。
将解出的特征值代入特征方程:
即可解出特征向量.
重要结论:
常用性质:
若,则A与B相似,记为
。
设为B的特征值,则
. 由:
得也是A的特征值,所以当
时:
若矩阵A相似于对角矩阵,即:
左右两端同时乘P:
将P做列分块:
整理得:
即:
由此可得结论,若A相似于对角矩阵,则:
奇异值分解:可以看作是相似对角化在mxn矩阵上的推广。
若,对P做列分块,有:
从而得出结论:
所以若,则P为正交矩阵。
若,换言之它是关于主对角线对称的,这样的矩阵被称为实对称矩阵。
实对称矩阵有很多性质:
注:二次型讨论的矩阵都是实对称矩阵。
二次形是一个二次齐次多项式。
为什么多项式的内容会放到线性代数里面?
因为任何一个二次形都可以化成的形式,其中A是实对称矩阵。
标准型:只有二次项,没有交叉项的二次形。
规范型:系数为的标准形。
正惯性指数=二次项正系数个数=正特征值个数
负惯性指数=二次项负系数个数=负特征值个数
例如:
化成矩阵形式为:
二次项前面的系数写到主对角线上,交叉项前面的系数除2,写到对称的两侧。
将二次形化标准形有配方法和正交变换法,配方法较为简单,这里主要介绍一下正交变换法。
由二次项的多项式化为矩阵形式的过程可知,A的主对角线是二次项系数,其它位置是交叉项系数,因为实对称矩阵必可用正交矩阵相似对角化,所以只要将A相似对角化,交叉项就会消失。即:
相似是变换到最佳位置,而合同也是变换,但是没变换到最佳位置。“最佳位置”有,就是相似。没到最佳位置时
,为合同。
相似时特征值完全一样。合同时正负特征值个数相同,即正负惯性指数相同。
二次形,如果A的特征值都是正的,则A被称为正定矩阵,二次形为正定二次形。
显然正定二次形化为标准形后,对角线全正,其余位置都是0,二次项系数都为正,没有交叉项,所以正定二次形一定为正。