《線(xiàn)性代數(shù)之矩陣運(yùn)算》課件

線(xiàn)性代數(shù)之矩陣運(yùn)算課程概述矩陣基本概念數(shù)據(jù)的表格形式表示矩陣運(yùn)算加法、乘法、轉(zhuǎn)置等實(shí)際應(yīng)用什么是矩陣？矩陣定義按行列排列的數(shù)字、符號(hào)或表達(dá)式的矩形陣列m×n矩陣表示m行n列的數(shù)表，常用大寫(xiě)字母表示元素表示aij表示第i行第j列的元素矩陣的類(lèi)型方陣行數(shù)等于列數(shù)的矩陣1行矩陣只有一行的矩陣2列矩陣只有一列的矩陣3對(duì)角矩陣主對(duì)角線(xiàn)外元素全為零4特殊矩陣單位矩陣主對(duì)角線(xiàn)為1，其余為0零矩陣所有元素均為0三角矩陣上/下三角區(qū)域全為0矩陣的基本性質(zhì)相等矩陣對(duì)應(yīng)元素均相等轉(zhuǎn)置矩陣行列互換共軛矩陣元素取復(fù)數(shù)共軛矩陣加法定義對(duì)應(yīng)位置元素相加C=A+B，其中cij=aij+bij性質(zhì)交換律：A+B=B+A結(jié)合律：(A+B)+C=A+(B+C)矩陣加法示例2×2矩陣加法對(duì)應(yīng)位置元素直接相加維度要求必須維度相同才能相加3×3矩陣加法9個(gè)元素分別相加矩陣減法定義對(duì)應(yīng)位置元素相減性質(zhì)C=A-B，其中cij=aij-bij與加法關(guān)系A(chǔ)-B=A+(-B)矩陣的數(shù)乘定義標(biāo)量與矩陣每個(gè)元素相乘表示kA中，(kA)ij=k·aij分配律k(A+B)=kA+kB矩陣乘法（一）定義C=AB，其中cij=Σaik·bkj條件A的列數(shù)必須等于B的行數(shù)特性一般情況下，AB≠BA矩陣乘法（二）1結(jié)合律(AB)C=A(BC)2左分配律A(B+C)=AB+AC3右分配律(A+B)C=AC+BC矩陣乘法示例12×2矩陣乘法四個(gè)元素分別計(jì)算2不同維度矩陣乘法結(jié)果維度為m×p3計(jì)算過(guò)程行與列的點(diǎn)積運(yùn)算矩陣乘法的應(yīng)用線(xiàn)性變換旋轉(zhuǎn)、縮放、剪切等操作圖像處理圖像濾波、銳化、模糊等三維建?？臻g變換和投影矩陣轉(zhuǎn)置定義A^T表示，行列互換(A^T)ij=Aji性質(zhì)二次轉(zhuǎn)置恢復(fù)原矩陣(A^T)^T=A轉(zhuǎn)置改變矩陣維度轉(zhuǎn)置矩陣的運(yùn)算規(guī)則規(guī)則數(shù)學(xué)表達(dá)式加法轉(zhuǎn)置(A+B)^T=A^T+B^T乘法轉(zhuǎn)置(AB)^T=B^TA^T數(shù)乘轉(zhuǎn)置(kA)^T=k(A^T)對(duì)稱(chēng)矩陣定義滿(mǎn)足A=A^T的矩陣所有元素關(guān)于主對(duì)角線(xiàn)對(duì)稱(chēng)性質(zhì)aij=aji特征值總是實(shí)數(shù)可正交對(duì)角化矩陣的冪定義A^n表示A自乘n次計(jì)算方法連續(xù)矩陣乘法性質(zhì)A^m·A^n=A^(m+n)3應(yīng)用馬爾可夫鏈、網(wǎng)絡(luò)分析4初等矩陣類(lèi)型一交換兩行或兩列類(lèi)型二某行或列乘以非零常數(shù)類(lèi)型三某行加上另一行的倍數(shù)矩陣的行列式定義方陣A的行列式記為|A|或det(A)性質(zhì)|AB|=|A|·|B|計(jì)算方法按行（列）展開(kāi)、對(duì)角線(xiàn)法則矩陣的秩1滿(mǎn)秩矩陣最大線(xiàn)性無(wú)關(guān)向量組數(shù)2秩的性質(zhì)rank(A)≤min(m,n)3與線(xiàn)性相關(guān)性關(guān)系秩表示線(xiàn)性無(wú)關(guān)行（列）數(shù)矩陣的逆可逆定義存在A^(-1)使AA^(-1)=A^(-1)A=I可逆條件|A|≠0逆矩陣性質(zhì)(AB)^(-1)=B^(-1)A^(-1)逆矩陣的計(jì)算方法伴隨矩陣法A^(-1)=adj(A)/|A|適合低維矩陣初等行變換法[A|I]→[I|A^(-1)]適合計(jì)算機(jī)求解矩陣方程AX=B求解左乘A^(-1)：X=A^(-1)B可解條件A必須是可逆矩陣XA=B求解右乘A^(-1)：X=BA^(-1)分塊矩陣矩陣的特征值和特征向量定義Ax=λx，其中λ為特征值，x為特征向量計(jì)算方法|A-λI|=0求解特征方程代入特征值求特征向量相似矩陣定義B=P^(-1)AP，則A與B相似性質(zhì)相似矩陣有相同特征值相似對(duì)角化將矩陣轉(zhuǎn)化為對(duì)角矩陣形式正交矩陣定義Q^TQ=QQ^T=I性質(zhì)Q^(-1)=Q^T應(yīng)用旋轉(zhuǎn)變換、坐標(biāo)系變換二次型定義x^TAx的形式A必須是對(duì)稱(chēng)矩陣標(biāo)準(zhǔn)形通過(guò)正交變換化為對(duì)角形式y(tǒng)^TDy，其中D為對(duì)角矩陣正定矩陣定義對(duì)稱(chēng)矩陣且所有特征值為正1判定方法順序主子式全為正2應(yīng)用優(yōu)化問(wèn)題、機(jī)器學(xué)習(xí)3矩陣分解LU分解A=LUL為下三角矩陣，U為上三角矩陣QR分解A=QRQ為正交矩陣，R為上三角矩陣奇異值分解（SVD）1定義A=UΣV^T2性質(zhì)適用于任意矩陣3應(yīng)用數(shù)據(jù)壓縮、降維、圖像處理矩陣的跡定義tr(A)=Σaii，主對(duì)角線(xiàn)元素和性質(zhì)tr(AB)=tr(BA)與特征值關(guān)系tr(A)=Σλi，等于特征值之和矩陣指數(shù)定義e^A=I+A+A^2/2!+A^3/3!+...計(jì)算方法冪級(jí)數(shù)展開(kāi)、對(duì)角化方法應(yīng)用微分方程求解、動(dòng)力系統(tǒng)矩陣范數(shù)Frobenius范數(shù)所有元素平方和的平方根譜范數(shù)最大奇異值應(yīng)用誤差分析、優(yōu)化算法Kronecker積定義A?B，結(jié)果為分塊矩陣計(jì)算(A?B)ij=aijB性質(zhì)(A?B)(C?D)=(AC)?(BD)應(yīng)用量子計(jì)算、圖像處理Hadamard積定義A°B，對(duì)應(yīng)元素相乘(A°B)ij=aij·bij與矩陣乘法區(qū)別Hadamard積：對(duì)應(yīng)元素相乘矩陣乘法：行與列的內(nèi)積Moore-Penrose廣義逆1定義滿(mǎn)足四個(gè)Penrose方程的矩陣A?2性質(zhì)對(duì)任意矩陣都存在唯一的廣義逆3應(yīng)用最小二乘問(wèn)題、欠定方程求解矩陣微分定義矩陣函數(shù)對(duì)矩陣變量的導(dǎo)數(shù)基本規(guī)則?Xtr(AX)=A^T優(yōu)化應(yīng)用梯度下降、牛頓法矩陣在線(xiàn)性方程組中的應(yīng)用矩陣表示Ax=bA為系數(shù)矩陣，b為常數(shù)向量解的存在性b∈Col(A)時(shí)有解解的唯一性Ker(A)={0}時(shí)解唯一最小二乘法問(wèn)題表示Ax≈b，求使||Ax-b||最小的x正規(guī)方程A^TAx=A^Tb解的計(jì)算x=(A^TA)^(-1)A^Tb矩陣在線(xiàn)性回歸中的應(yīng)用x值實(shí)際y預(yù)測(cè)y主成分分析（PCA）1矩陣表示基于協(xié)方差矩陣的特征分解2步驟計(jì)算協(xié)方差矩陣的特征值和特征向量3特征向量作用指示主成分方向矩陣在圖論中的應(yīng)用鄰接矩陣Aij表示節(jié)點(diǎn)i和j之間的連接無(wú)權(quán)圖中元素為0或1拉普拉斯矩陣L=D-AD為度矩陣，A為鄰接矩陣矩陣在馬爾可夫鏈中的應(yīng)用轉(zhuǎn)移矩陣P表示狀態(tài)轉(zhuǎn)移概率1穩(wěn)態(tài)分布滿(mǎn)足π=πP的概率向量π2計(jì)算方法求轉(zhuǎn)移矩陣的特征向量3應(yīng)用網(wǎng)頁(yè)排名、隨機(jī)過(guò)程4矩陣在計(jì)算機(jī)圖形學(xué)中的應(yīng)用矩陣在密碼學(xué)中的應(yīng)用Hill密碼使用矩陣進(jìn)行加密加密過(guò)程c=Kmmod26解密過(guò)程m=K^(-1)cmod26安全性基于矩陣求逆的復(fù)雜性矩陣在量子力學(xué)中的應(yīng)用量子態(tài)表示矢量和態(tài)矩陣量子門(mén)幺正矩陣表示測(cè)量操作投影矩陣表示矩陣在網(wǎng)頁(yè)排名中的應(yīng)用PageRank網(wǎng)頁(yè)重要性的度量轉(zhuǎn)移矩陣表示網(wǎng)頁(yè)間鏈接特征向量方法求解主特征向量矩陣在信號(hào)處理中的應(yīng)用離散傅里葉變換DFT矩陣運(yùn)算快速算法降低計(jì)算復(fù)雜度卷積的矩陣表示Toeplitz矩陣便于數(shù)學(xué)分析和處理矩陣在控制理論中的應(yīng)用1狀態(tài)空間表示dx/dt=Ax+Bu2可控性可控性矩陣秩的判定3可觀測(cè)性可觀測(cè)性矩陣秩的判定矩陣在經(jīng)濟(jì)學(xué)中的應(yīng)用模型表示方式投入產(chǎn)出模型x=Ax+d求解x=(I-A)^(-1)d意義產(chǎn)業(yè)間相互依賴(lài)關(guān)系矩陣在數(shù)據(jù)壓縮中的應(yīng)用原始圖像完整數(shù)據(jù)信息SVD壓縮保留主要奇異值壓縮結(jié)果減少數(shù)據(jù)量的同時(shí)保留主要信息矩陣在機(jī)器學(xué)習(xí)中的應(yīng)用算法實(shí)現(xiàn)高效矩陣計(jì)算2協(xié)方差矩陣特征相關(guān)性分析核矩陣非線(xiàn)性關(guān)系映射矩陣計(jì)算的數(shù)值方法迭代法Jacobi方法Gauss-Seidel方法共軛梯度法直接法高斯消元法LU分解法Cholesky分解法大規(guī)模矩陣計(jì)算稀疏矩陣大多數(shù)元素為零存儲(chǔ)方式壓縮行存儲(chǔ)格式并行計(jì)算多核CPU和GPU加速矩陣計(jì)算的軟件工具M(jìn)ATLAB專(zhuān)業(yè)科學(xué)計(jì)算軟件NumPyPython科學(xué)計(jì)算庫(kù)Julia高性能數(shù)值計(jì)算語(yǔ)言矩陣?yán)碚摰那把匮芯?隨機(jī)矩陣?yán)碚?/p>