矩陣的QR分解，格拉姆施密特過程的矩陣表示
? ? ? ? 首先先簡單的回顧一下Gram-Schmidt正交化過程的核心思想。即，如何把一組線性無關(guān)的向量構(gòu)造成一組標(biāo)準(zhǔn)正交向量，或者說，如何把一般的線性無關(guān)矩陣A變成標(biāo)準(zhǔn)正交矩陣Q。
? ? ? ? 給定一組線性無關(guān)的向量a,b,c，我們希望構(gòu)造出一組相互垂直的單位向量q1,q2,q3。
第一步：
????????得到這組正交向量中的第一個向量A，這就是說，我們令新的正交向量中的第一個向量A與向量a的方向相同，且大小相同。（這里我們用到了矩陣A中的向量a）
第二步：
? ? ? ? 現(xiàn)在，A已經(jīng)確定了，第二個向量B必須垂直于A。我們令b減去b在A上的投影Pb，得到我們想要的第二個向量B。a,b與A,B不同，但都在同一個平面內(nèi)。
注意：向量B一定不等于0，因?yàn)锽是b在a(A)上的投影/分量之外的分量e。如果a,b線性相關(guān)，則b在a上投影后再無其他分量。這與a,b線性無關(guān)這一事實(shí)相左。(這里我們用到了矩陣A中的向量b)
第三步：
????????現(xiàn)在我們基于c去找第三個向量C，C必須垂直于A,B所張成的平面，即A,B所在的子空間。我們令c減去c在這個平面上的投影Pc(注意：c在A,B所構(gòu)建的子空間上的投影，等于向量c分別在A和B上的投影之和),得到向量C。（這里我們用到了矩陣A中的向量c）
????????如果矩陣A中還有第四個，第五個向量d,e,f,g......的話，我們只需在這個基礎(chǔ)上重復(fù)上述過程就能找到新的正交向量D,E,F,G......。
第四步：
當(dāng)我們把前面的正交向量A,B,C全部找完以后，讓他們分別除以各自的長度，最終得到一組標(biāo)準(zhǔn)正交向量q1,q2,q3。這最后一步被稱為向量的歸一化。
下面給出了gram-schmidt正交過程的一個實(shí)例，已知一組線性無關(guān)的向量a,b,c：
第一步：令A(yù)=a得到
第二步：從b中減去b在A上的投影得到
第三步：從c中減去c在AB平面上的投影得到
第四步：歸一化
一般而言，A,B,C往往會含有分?jǐn)?shù)。而幾乎所有的q1,q2,q3都會包含根號。
結(jié)論：
????????任何一個線性無關(guān)的向量組a1,a2,...,an都可以用Gram-schmidt正交化過程轉(zhuǎn)化成一個正交向量組A1,A2,...,An：首先令A(yù)1=a1,然后使每個Ai與前面的A1,A2,...,Ai-1均正交
對每個i而言，由原來a1,a2,...,ai所張成的子空間也由A1,A2,...,Ai所張成。對所有Ai歸一化后最終得到的向量組qi是一組標(biāo)準(zhǔn)正交向量
QR分解
? ? ? ? 正如我們在高斯消元法看到的，通過對矩陣A的一系列消元，最終的得到了消元矩陣U。事后，我把每一步的消元過程記錄下來并以矩陣的形式表示得到了上三角矩陣L，得到了矩陣A的LU分解。Gram-schmidt正交化過程也相仿，通過一系列計(jì)算把矩陣A變成了標(biāo)準(zhǔn)正交矩陣Q，應(yīng)當(dāng)也能找到一個方法把這個過程記錄下來，并用矩陣的形式表示。
? ? ? ? LU分解的精髓在于，通過矩陣L我們能把計(jì)算結(jié)果U還原回去，這里也一樣。要知道怎么把Gram-Schmidt正交化最終得到的結(jié)果q1,q2,q3還原回去？
根據(jù)我們剛才的例子，有：
如果用q1,q2,q3來表示a,b,c則有如下方程組：
結(jié)合上述左右兩個方程組，最終得到如下方程組：
（記作：QR方程組）
上面的這個用q1,q2,q3的線性組合來表示a,b,c的方程組用矩陣的形式可寫作：
????????原來的矩陣A被分解成了一個標(biāo)準(zhǔn)正交矩陣Q和一個上三角矩陣R的乘積，得到了線性代數(shù)中和LU分解同樣重要，同樣有用的另一個分解，QR分解。
? ? ? ? 矩陣R對角線上的元素正好是正交向量A,B,C的長度?，F(xiàn)在我們再回過頭去看看上面的QR方程組，可以看到QR方程組把a(bǔ),b,c這三個矩陣A中的列向量表示成了q1,q2,q3的線性組合。且，a是q1的線性組合(相應(yīng)的權(quán)重系數(shù)在R的第一列)，不涉及q2,q3。b是q1,q2的線性組合(相應(yīng)的權(quán)重系數(shù)在R的第二列)，不涉及q3。只有c是q1,q2,q3的線性組合(相應(yīng)的權(quán)重系數(shù)在R的第三列)。這也是為什么R是一個上三角矩陣的原因。又因?yàn)镽對角線上的元素都是正的，因而是可逆的，由此，得出了關(guān)于QR分解的重要結(jié)論：
? ? ? ? 任何由一組線性無關(guān)的列向量所組成的矩陣A都可以分解為A=QR的形式。Q的列向量一組標(biāo)準(zhǔn)正交向量，R是一個可逆的上三角矩陣。如果原矩陣A是方陣，則矩陣Q和矩陣R也是方陣，同時方陣矩陣Q也順理成章的成為了標(biāo)準(zhǔn)正交矩陣。
QR分解的一般形式：
? ? ? ? 在之前的例子中，我基于一個實(shí)例得到了A的QR分解。并且發(fā)現(xiàn)向量a,b,c是單位正交向量q1,q2,q3的線性組合?，F(xiàn)在我們已經(jīng)發(fā)現(xiàn)了a,b,c與q1,q2,q3之間的聯(lián)系，只需重新用q1,q2,q3來表示a,b,c(即：把原始向量中的a,b,c用q1,q2,q3的線性組合來表示)就能找到矩陣A與矩陣Q之間的聯(lián)系---矩陣R。
第一步：
首先，我們知道合成a與q1方向相同(a與q2,q3無關(guān))，且a在q1上的投影就是a，建立了q1與a的關(guān)系
又因?yàn)?，我們已知q1為單位向量，所以上式可簡化為：
第二步：b等于b在q1,q2上的投影之和(與q3無關(guān))
根據(jù)q1,q2的長度為1，得到：
?
第三步：c等于c在q1,q2,q3這三個向量上的投影之和
? 根據(jù)q1,q2,q3的長度都為1，得到：?
? ??
至此，已經(jīng)得到了a,b,c基于q1,q2,q3的線性組合，用方程表示如下：
將上述方程寫成矩陣的形式，即得到了著名的QR分解的矩陣表達(dá)式：
A=QR是gram-schmidt正交化過程的nutshell。等式兩邊同時乘以Q的逆矩陣，得到：
QR分解的應(yīng)用
用QR分解求解一般線性方程組：
1，將A=QR代入Ax=b，得到QRx=b。
2，等式兩邊同時乘以，并利用，得到
3，令，得到。
4，先用正向迭代法算出y，然后用反向迭代法算出x。
用QR分解求解正規(guī)方程：
1，當(dāng)方程組Ax=b無解時，兩邊同時乘以得到正規(guī)方程。
2，代入A=QR后，
3，正規(guī)方程可簡化為，等式兩邊同時乘以的逆得到
??（全文完）
作者 --- 松下J27
參考文獻(xiàn)(鳴謝)：
1，Introduction to Linear Algebra，F(xiàn)ifth Edition - Gilbert Strang
2，線性代數(shù)及其應(yīng)用，候自新，南開大學(xué)出版社 1990
3，Linear Algebra and Its Applications, Second Edition, Gilbert Strang, 1980
4，Linear Algebra and Its Applications, Fourth Edition, Gilbert Strang, 2005
5，Gram-Schmidt 正交化與 QR 分解 | 線代啟示錄
（配圖與本文無關(guān)）文章來源：http://www.zghlxwxcb.cn/news/detail-718981.html
版權(quán)聲明：文中的部分圖片，文字或者其他素材，可能來自很多不同的網(wǎng)站和說明，在此沒法一一列出，如有侵權(quán)，請告知，立即刪除。歡迎大家轉(zhuǎn)載，但是，如果有人引用或者COPY我的文章，必須在你的文章中注明你所使用的圖片或者文字來自于我的文章，否則，侵權(quán)必究。 ----松下J27文章來源地址http://www.zghlxwxcb.cn/news/detail-718981.html
到了這里，關(guān)于線性代數(shù) --- 矩陣的QR分解，A=QR的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
