1、中科院矩阵分析第一章矩阵的代数性质1矩阵是线性映射的表示：线性映射的相加表示为矩阵的相加线性映射的复合表示为矩阵的相乘2矩阵是一种语言，它是表示复杂系统的有力工具。学习矩阵理论的重要用途之一就是学会用矩阵表示复杂系统的关系， 培养根据矩阵推演公式的能力是学习矩阵论的目的之一。定义一个矩阵有几种方式：可以通过定义矩阵的每一个元素来定义一个矩阵，也可以通过矩阵具有的性质来定义一个矩阵。如：对称矩阵可以定义为：aij=aji也可以定义为：(x, Ay)=(Ax,y),还可以定义为： Ax= f(x),其中f(x)=x TAx/2,即它对向量x的作用相当于函数 f(x)在x处的梯度。3.矩阵可以表示为
2、图像矩阵的大小可以表示为图像。反之，一幅灰度图像本身就是矩阵。图像压缩就是矩 阵的表示问题这时矩阵相邻元素间有局部连续性，既相邻的元素的值大都差别不大。4.矩阵是二维的(几何性质)矩阵能够在二维的纸张和屏幕等平面媒体上表示，使得用矩阵表示的问题显得简单清 楚，直观，易于理解和交流。很多二元关系很直观的就表示为矩阵，如关系数据库中的属性和属性值，随机马尔科夫链 的状态转移概率矩阵，图论中的有向图或无向图的矩阵表示等。第一章：线性空间和线性变换1. 线性空间集合与映射集合是现代数学最重要的概念，但没有严格的定义。集合与其说是一个数学概念，还不如说是一种思维方式，即用集合 (整体)的观点思考问题。整
3、个数学发展的历史就是从特殊到一般，从个体到整体的发展历程。集合的运算及规则，两个集合的并、交运算以及一个集合的补；集合中元素没有重合， 子集，元素设S, S为集合映射：为一个规则 ：S S,使得S中元素a和S中元素对应， 记为a= (a)，或：a a.映射最本质的特征在于对于 S中的任意一个元素在 S中仅有唯一的一个元素和它对应。映射的原象，象；映射的复合。满射 ，单射,映射。若S和S相同，则称为变换。若S为数域，则称 为函数。线性空间的定义和性质定义1.1设V是一个非空集合，它的元素用 x,y,z等表示，并称之为向量； K是一个数域，它的元素用k,l,m等表示，如果 V满足下列条件(I) 在
4、 V 中定义一个加法运算，即当 x,y V 时，有惟一的 x y V ，且加法运算满足下列性质(1)结合律 x (y z) (x y) z;(2)交换律 x y y x;(3)存在零元素 0，使 x+0=x ；(4) 存在负元素，即对任何一向量 x V，存在向量y，使x+y=0 ,则称y为x的负元素，记为-x，于是有x+(-x) = 0(II) 在V中定义数乘运算，即当 x V, k K,有唯一的kx V,且数乘运算满足下列性质( 5)数因子分配律 k(x+y)= kx+ky ;(6)分配律 (k+l)x = k x+l x ;(7)结合律 k(l x)=(k l ) x ;(8)1 x =
5、x则称 V 为数域 K 上的线性空间或向量空间。特别地， 当 K 为实数域 R 时，则称 V 为实线性空间； 当 K 为复数域 C 时，则称 V 为复线性 (酉 )空间。例：次数不超过 n 1 的多项式 Pn 全体按照通常的多项式加法和数乘构成一个线性的多项式 函数空间；即：f(x)=a oxn 1+aixn 2+.+an 2x+an 1g(x)=b oxn 1+bixn 2+. +bn 2X+bn 1定义 f(x) g(x)=f(x)+g(x),k f(x)=( k ao)xn 1+(k ai)xn 2+(k an 2)x+ k an 1n 维实向量的全体按照通常的向量加法和数乘构成一个实线
6、性空间 ,我们把这个空间称为实向量空间；即： x, y Rn， 定义： (x y)i=xi+yi ,(kx)i=kxi所有 m n 实矩阵的全体按照通常的矩阵加法和数乘构成一个实线性空间， 称之为矩阵空间； 由例如，取 V=R, x,y V, 定义 x y=(x3+y3)1/3, kx=k1/3x， k R.易验证这样定义的加法和数乘仍然构成一个线性空间。线性空间中，向量的关系：线性相关：若存在一组不全为零的数 ci,c2,m,使得C1X1+C2X2+CmXm=O则称向量组X1,X2,N线性相关，否则为线性无关。 极大线性无关组：一个不可能再往里添加向量而保持 它们的线性无关性引理 1.1：线
7、性无关组总是可以扩充为极大线性无关组。例如： x1=(1,0,0)T,x2=(0,1,0)T, 则设x3=( , , )T,其中 表示任意的数，只要 0，则 x1,x2,x3 就为极大线性无关组。引理 1.2：在一个线性空间中任两个极大线性无关组若它们的所含向量个数都有限，则所含 向量个数一定相同 .证明：设X1,X2, xm和yi,y2, -yn为线性空间V中的两个极大线性无关组。则存在矩阵 A,B使得(X1,X2, ,Xm)=(y1,y2, ,yn)A (1)(y1,y2, ,yn)=(X1,X2, ,Xm)B (2)将式 (1) 代入式 (2) 可得(y1,y2, ,yn)=(X1,X2
8、, Xm)B=(y1,y2, ,yn)AB (3)另一方面，我们知道(y1,y2, ,yn)=(y1,y2, ,yn) En (4)其中，En为n阶单位矩阵。由于 yi,y2,yn为极大线性无关组，因此表示系数矩阵应该唯一，也就说，由式 (3)和式(4)可得 AB = En， 由此有trace(AB )= trace( E n)= n (5)类似地，将式 (2)代入式 (1)可得(X1,X2，Xm)=(X1,X2, -Xm)BA= (X1,X2,心比皿 ,再由X1,X2，Xm为极大线性无关组可得 BA = Em,由此有trace(BA)= trace( E m)= m (6)这样利用矩阵迹算子
9、 trace( )的性质，联合式 (5)和式 (6)可得n= trace(AB)= trace(BA)=m。定义为线性空间的维数。因此，这两个极大线性无关组所含向量个数相同。(定义)线性空间V的维数：V中极大线性无关组的所含向量的个数,维数有限的称为有限维空间，否则称为无穷维空间。这个定义之所以有意义，是因为在引理 1.2 中我们证明了极大线性无关组的个数是相同的。本书仅仅研究有限维空间，这里得到的结论有些可以直接推广到无穷维空间，但有些却不 可能。必须小心！在后面的讨论中我们仅仅讨论有限维空间，而不一一说明。线性空间中向量的表示 线性空间的基：若线性空间 V的向量X1,X2,X满足1)X1,
10、X2, ,Xr 线性无关；2)V 中的任意向量 X 都是 X1,X2, ,Xr 的线性组合； 则称X1,X2,x为V的一个基或基底，相应地称 Xi为基向量。 推论 1.1： 线性空间中任意一组极大无关组构成它的一个基。定义1.2:称线性空间 Vn的一个基X1,X2，,x为Vn的一个坐标系。设向量 X Vn,它在该个基下的线性表示为X = C1 X1 + C2X2+CnXn 则称Ci,C2,Cn为X在该坐标系下的坐标或分量，有时我们称 n 维向量 (C1,C2, Cn)T 为向量 X 在该个基下的表示。这实际定义在 V和Rn或(Cn)的之间一一映射:V Rn(或 Cn):x V (C1,C2,
11、-,Cn)T Rn(或 Cn)数域相同的线性空间和 n维列向量空间的关系：定理1.2在一个基下我们看到任意 n维线性空间V和n维列向量空间Rn(或Cn)代数同构,即存在V和Rn或(Cn)的之间一一映射:V Rn(或 Cn)使得(x+y)= (x)+ (y), x, y V(kx) =k (x), x V, k K，也就是保持加法和数乘运算。(按后面的定义， 实际为可逆的线性映射)。这个定理说明虽然 n维线性空间有无穷多，但是从代数的角度我们仅仅研究 n维实(或复)向量空间就足够了。例如：前面介绍次数不超过 n 1的多项式全体按照通常的多项式加法和数乘构成一个线性的多项式函数空间 Pn，选择Pn
12、的一个基X1=1,X2=X,X3=X2,x=Xn 1,则任意次数不超过 n 1的多项式 f(x) = a oxn 1+a1xn 2+an2x+an 1=(1,x,x2，,)(a 1, an 2,a)T这样(an 1, an 2,a)T就是多项式f(x)在基X1,X2，,x的坐标。显然我们可以看成将 f(x)映射为(an 1, an 2,a)T，这时明显可见映射为线性的，即若:f(x) ( an 1, an 2,a)T:g(x) ( bn 1, bn 2,，b)T则 :f(x)+g(x) (an 1+bn 1, an 2+bn 2,a+bo)T基变换与坐标变换在线性空间Vn中，同一向量对不同的基
13、， 它的坐标表示是不一样的。 当由一个基X1,X2,x变换为另一个基 y1,y2,y时，则由基的定义可得ry1=C11X1+C21X2+Cn1XnJ y2= C12X1 + C22X2+Cn2Xnyn= C1nX1 + C2nX2+CnnXn或用矩阵形式写为Y = XC 称为基变换公式 (1.1)其中矩阵C为C11 C12 C1nC21 C22Cn2 称为由旧基到新基的过渡矩阵。Cn1 Cn2，c nnY=(y 1,y2,，y), X= (x 1,x2, - ,x)实(复)矩阵A为奇异矩阵定义为：存在非零 n维实(复)向量x使得Ax = 0.推论1.2过渡矩阵非奇异.(自行证明)从推论1.2我
14、们可以发现，任何一个非奇异矩阵都可以看成是线性空间的两个基之间的过渡矩阵，换句话说，是一个基在另一个基下的坐标表示。向量在不同基下的表示坐标的关系：设由一个基xi,x2,x变换为另一个基yi,y2,y时过渡矩阵为C,向量x在基xi,x2,x 和基yi,y2,y的坐标表示分别为=1, 2,，nT, = 1, 2,，nT 则有x=X =Y =(X C) = X (C ),从而有 =C 或者 =C-1 或用分量形式推导得nnnnnnxixikykk cik xixicik kiikik i iiiiki即为 =C线性子空间定义：设Vi是数域K上线性空间V的非空子集合，且对 V已有的线性运算满足以下条
15、件(1)对加法封闭： 若x, y Vi，则x+y Vi(2)对数乘封闭：若 x Vi, k K,则kx Vi.则称 V1 为 V 的线性子空间或子空间。 仅由 0 元素构成的子空间为零子空间。 注意：零子空间的维数为 0 而不是 i。 子空间的运算：交， 和，直和 两个子空间Vi,V2的交Vi V2仍为子空间。 定义i.8设Vi, V2为数域K上的线性空间 V的子空间，且x Vi, y V2,则由x+y的全体构成的集合称为 Vi和V2的和，记为Vi+V2.记 Vi+V2=z | z=x+y, x Vi,y V2。显然，两个子空间 Vi, V2的和Vi+V2仍为子空间，并且交与和分别满足结合律，
16、 即(Vi V2)V3=Vi (V2 V3),(Vi+V2)+ V3=Vi+(V2 +V3),从而它们都可以推广到几个子空间的情形 ,并且Vi V2 Vn或Vi+V2+Vn有意义。子空间的维数公式： dim Vi+dim V 2=dim (V i+V2)+dim(V i V2)直和的定义： 若Vi V2=0,则Vi+V2为Vi,V2的直和，记为Vi V2o性质：对于 Vi$V2中的元素 乙在Vi和V2分别存在唯一 x和y使得z = x + y.即z的分解唯一。显然有 ViV2 dim(V i V2)=0dim V i+dim V 2=dim (V i V2)子空间的构成：i )由几个子空间的交
17、或和构成。2)向量X1,X2,x组扩张而成。由单个非零向量 x 对数乘运算封闭构成的一维子空间L( X )= z | z=k X, k K.同理记 L(X1,X2, Xm)=L( X1)+L( X2)+ +L(Xm)显然 dim(L( xi,x2,xm) m思考题 1：一个 n 维线性空间的真子空间有多少？思考题2 :若Vi,V2,V为线性空间V的真子空间，证明存在一个向量X V,但X Vi V2Vm成立。特别讨论在实线性空间 Rm中矩阵A=(a j) Rm n的列向量构成的子空间 L(ai,a2,a)称为矩阵 A 的值域 (列空间 ),记为R(A)=L(a 1,a2, ,an) Rm矩阵的秩
18、 矩阵的列秩:由矩阵的列向量构成的最大无关组的个数。 矩阵的行秩:由矩阵的行向量构成的最大无关组的个 数。定理 : 矩阵的行秩和列秩相同。证明:由于 rank(A)=rank(AA T) rank(A T)同样， rank(A T) rank(A)这样， rank(A)= rank(A T) ， 即矩阵的行秩和列秩相同 . 从而它们称为矩阵的秩，记为 rank(A).定理 dim(R(A)=rank(A).定义1.7设在实线性空间 Rn中矩阵A=(aj) Rm n,称集合x|Ax=O为矩阵A的核空间，记为N(A), 即 N(A)=X|AX=0 Rn.称N(A)的维数为 A的零度，记为 n(A)
19、,即n (A)=dim(N(A).定理: dim(R(A)+dim(N(A)= n.思考：若A Cn n,R(A) N(A)成立吗？举例说明？成立的条件是什么？不一定成立如2 线性映射 ,线性函数，线性变换及它们的矩阵表示 表示是什么？表示究是本质来说是一种映射，它把我们不熟悉或抽象的事物映射为我们 熟知或具体的事物。例如：抽象的线性空间在一个基下可表示为实或复的向量空间。同样地，线性空间之间的线性映射都可以表示为矩阵。这正是矩阵的代数本质所在。 (向量为特殊的矩阵 )这就是本节所研究的内容。定义：数域相同的线性空间 X到线性空间Y的映射T称为线性映射，若 T满足下列条件：1)T(X+y)=T
20、(X)+T(y)2)T(kX)=kT(X) 若线性空间 W 和线性空间 V 的维数分别为： m=dim(W),n=dim(V)xi,X2,x以及yi,y2,yn分别为 W和V的一个基， 则线性映射可以表示为一个 Rn m(或者Cn m)的矩阵。设向量 Txi 在基 y1,y2, ,yn 的坐标表示为Txi=(yi,y2,y) (aii,a2i, -ani)T=(y i,y2,，y)ai, i=1,2，,m 记矩阵 A=( ai,a2，am),而基为 Y=(y 1,y2, ,yn), X= (x 1,x2, ,xm)。则有 TX=(Tx 1,Tx2, ,Txm)=Y A (2.1)对任意向量x在
21、基X1,X2,，加的坐标表示为 =1, 2，mT，向量Tx在基yi,y2,y的坐标表示为 =1, 2，nT，那么我们有 Tx=Y =T(X )=(TX) =(TX1,TX2,Txn)=Y (A ) =A (2.2)从而对于线性映射 T ,在基X和Y的下的表示为矩阵 A.T : x y = T x 其中 x=X , y=YA: = A注意对于同一映射，若基 X 和 Y 选择不同，则 T 的表示 A 一般不相同。 一个很自然的问题就是各种表示之间的关系如何？若用映射的形式我们可以表示为 :A= (T; X,Y) (2.3)设线性空间 W 的另一组为 X, 且 X=XC, 线性空间 V 的另一组为
22、Y, 且 Y=YD, 或 Y=Y D 1 (注意，因为 C 和 D 分别为过渡矩阵，从而可逆 )设线性映射T在基X和Y下的矩阵为 A,即TX=Y A则 TX=T(XC)=(TX)C( 由(2.1)1=(YA)C=Y(AC)=YD 1AC=YA从而我们有 A= D 1AC (2.4)这就是线性映射在不同基下的矩阵表示的关系式。注意： D Rn n, A Rn m, C Rm m.线性映射的复合： S: W V; T: V Z定义 (T S)(x)=T(S(x).其中 W, V 和 Z 为线性空间， S 和 T 都为线性映射。 很明显， 线性映射的复合仍为线性映射。设X1, X2,xn为 W的一个
23、基，y1,y2, ,yn 为 V 的一个基Z1,Z2,Z为 Z的一个基，S在W和V的当前基下的表示为 A,而T在V和Z的当前基下的表示为 B,则它们的复合T S在当前基下的矩阵表示为 BA.由于映射的复合一般不可交换，从而对应的矩阵的乘法也不可交换， 即 BA=AB 一般不成立。思考题：根据( 2.3)，若用映射的形式我们可以表示为 :BA= (T S; X, Z)可见，T S的矩阵表示和 V的基Y的选择无关，假如选择另外一组 V 的基 Y ,证明这一点。定理：设 T 为线性空间 W 到线性空间 V 的线性映射，则 W 内的线性子空间 W 1在 V 中的 象 V1 为 V 的线性子空间。反之，
24、 V 中的线性子空间 V1 的逆象T -1(V 1)= x | y V1 s.t. y=Tx ,x W也为 W 中的线性子空间。证明：利用子空间的定义，显然可以得到。定理：设T为线性空间 W到线性空间V的线性映射，Wi, W2为W内的子空间，贝U1). T(W 1+W 2)= T(W 1)+T(W 2)2). T(W1 W2) T(W1) T(W2) (思考为什么等式不能成立？ )记 R(T) 为 W 在 V 中的象，称之为值域， 即R(T)= y V | y=Tx, x W 记 N(T) 为 V 中零向量空间的逆象 T -1 (0),称之为 T 的核，即N(T)= x| Tx=0, x W
25、T 的值域 R(T) 的维数 dim(R(T) 称为 T 的秩，其核子空间的维数 dim(N(T) 称为 T 的亏度。 dim(R(T)+ dim(N(T)=dim(W)证明：设Xi,X2,X为N(T)的一个基，扩充它们使之为 W的一个基：X1,X2,X,Xr+1,X,那么我们证明T(Xr+i),T(x)为R(T)的一个基。首先证明 T(Xr+i),T(X)线性无关设 tr+lT(Xr+1)+ +tnT(X n)=0贝V T(tr+lXr+l+tnXn)=O,从而 tr+lXr+l+tnXn N(T)所以tr+1 Xr+1 +tnXn能够被 X1,X2,X线性表示。因此存在tl,t使得 tix
26、i+trXr=t r+1 Xr+1 + +tnXn,即tlX1 +trXr t r+1 Xr+1 tnXn=0因此匕ti=t2= =tr=tr+1= =tn=0这样就说明T(Xr+l),T(X)线性无关。其次我们证明对于任给 y R(T) , y能被T(x r+1),T(x)线性表示由于y R(T),因此存在X W使得y=T(X).由于X1,X2，,X,Xr+1 ,Xi为 W 一个基，因此存在 t1,t,tr+1 ,n使得X=t 1X1 +trXr+t r+1Xr+1 + +tnXn从而 y=T(X)=T(t 1X什+trXr+t r+1 Xr+1 + +tnXn)=t1T(X 1)+ +1r
27、T(X r)+t r+1 T(X r+1 )+ +tnT(Xn)= tr+1 T(Xr+1)+ +tnT(Xn)因此y能够被T(x r+1 ),T(X)线性表示。同时由于 T(Xr+1 ),T(X)线性无关。这样它们就构 成了 R(T) 的一个基。从而有dim(R(T)+ dim(N(T)=dim(W)证毕例：对于 Rn到Rm的线性映射 T,对于任给x Rn,T(x)=Ax,其中A为Rm n的矩阵，这时 R(T)=R(A) ，即 A 的列向量构成的线性子空间 N(T) 为 AX=0 的解的全体构成的子空间 由 dim(R(T)+ dim(N(T)=dim(W) 可以看出， AX=0 的基础解系
28、的个数为 n r(A) ，其中 r(A)=R(T) 为 A 的秩 这个结论我们在高等数学里已经得到过 对于W到V的两个的线性映射 T1和T2分另临义它们的加法和数乘如下：(T 什T2)(x)=T 1X+T 2X (2.4)(kT1)(x) = k (T1X) (2.5)那么有以下定理：定理 2.4：所有 W 到 V 的线性映射的全体按 (2.4)和 (2.5)定义的加法和数乘构成一个线性空 间。这个空间的维数为 mn.从这里我们可以看到，借助矩阵表示，我们可以完全利用矩阵运算研究线性映射，其实反 过来也是对的，即，有时我们可以借助线性映射来研究矩阵。有时候，如果我们利用线性 映射的某些特点可以
29、证明矩阵的某些性质，如下例所示。例 设 A Cm n, B Cn p. 则 N( AB )=B 1N( A) R(B), 线性映射复合的维数公式：dim(N( AB )=dim(N( B)+ dim(N( A) R(B) dim(R( AB )=dim(R( B) dim(N( A) R(B) 所以可以证明， rank(A)+ rank(B) n rank(AB) dim(R(AB)+dim(R(BC) dim(R(B) dim(R(ABC) 证明： 1). 显然 N(AB)=B 1N(A) R(B) 成立; 2). 欲证 dim(N( AB )=dim(N( B)+ dim(N( A) R(
30、B)， 显然存在 x1,x2,.,xr Cp 使得Bxi, BX2,., Bxr 为 N(A) R(B)的一个基，那么显然Xi,X2,.,Xr线性无关。再取N(B)的一个基为Xr+i,X r+2,.,Xs,那么可以证明X1,X2,.,Xr, Xi+1 ,X r+2,.,Xs,为 N(AB)的一个基。从而有dim(N( AB)=dim(N(B)+ dim(N( A) R(B) 类似地可以证明dim(R(AB)=dim(R(B) dim(N( A) R(B)或者由dim(R(AB)+dim(N(AB)=dim(R(B)+dim(N(B)可得 dim(R(B) dim(R(AB)=dim(N( A) R(B)3). dim(R(B) dim(R(AB)=dim(N( A) R(B) dim(N( A)=n dim(
