本文參考www.deeplearningbook.org一書第二章2.3 Identity and Inverse Matrices 2.4 Linear Dependence and Span

本文圍繞線性方程求解依次介紹矩陣的逆、線性組合、線性獨(dú)立等線性代數(shù)的基礎(chǔ)知識(shí)點(diǎn)。

一、線性方程

本文主要圍繞求解線性方程展開，我們先把線性方程寫出來，方程如下：

其中，是已知的；，是已知的；，是未知的，需要我們求解。即上述方程已知和，求。

為了求，有很多思路，其中有個(gè)思路就是通過矩陣的逆來求。對(duì)于一些，可以通過矩陣的逆來求。

二、單位矩陣（identity matrix）和矩陣的逆（matrix inverse）

在介紹矩陣的逆之前，需要先了解下單位矩陣。

單位矩陣

單位矩陣是指這樣一個(gè)矩陣：當(dāng)一個(gè)矩陣乘一個(gè)向量，相乘的結(jié)果依然是這個(gè)向量，那么這個(gè)矩陣就是單位矩陣。即對(duì)?，有?，其中?。

單位矩陣的形式是很簡單的，矩陣的主對(duì)角線上的值為1，其余位置的值都為0。例如：

? ? ? ? ;? ? ? ? ；? ? ? ? ；等等

單位矩陣有一個(gè)性質(zhì)，那就是對(duì)于，有?。

矩陣的逆

如果一個(gè)矩陣??滿足，那么矩陣??就是矩陣??的逆（更具體來講叫左逆）。我們一般把這樣的矩陣??計(jì)作，即。

根據(jù)矩陣的逆的定義，我們可以推導(dǎo)出來以下結(jié)論：

推導(dǎo)1、當(dāng)矩陣??是方陣時(shí)，矩陣??的逆才有可能存在；當(dāng)矩陣??不是方陣時(shí)，矩陣??的逆一定不存在。

推導(dǎo)2、當(dāng)矩陣??是方陣時(shí)，矩陣??的逆可能存在，也可能不存在；不是所有的方陣都有逆矩陣。

推導(dǎo)3、當(dāng)矩陣??是方陣并且矩陣??的逆存在時(shí)，也是方陣，并且是唯一的。

關(guān)于這三個(gè)推導(dǎo)的證明會(huì)寫在另外一篇文章里～

那么如果是方陣并且矩陣??的逆存在的話，我們可以用來求解線性方程里的。具體求解過程如下：

?

我們可以得到：如果矩陣??的逆存在的話，對(duì)于任意的，都可以求出線性方程里的，由于是唯一的，所以對(duì)于固定的，求出的只有一個(gè)。

也就是說如果矩陣??的逆存在，那么線性方程對(duì)所有的??，都有解且解唯一，反之也成立。我們暫且把這個(gè)結(jié)論計(jì)作結(jié)論1。

當(dāng)然，如果矩陣??的逆不存在的話（包括不是方陣、是方陣但的逆矩陣不存在），就不能上述求解過程來求解，但是并不代表沒有解，這時(shí)只對(duì)于一部分來講有解，稍后會(huì)講到。

那么當(dāng)矩陣??的逆不存在時(shí)，我們?cè)鯓忧蠼饽兀课覀兘酉聛硪刖€性獨(dú)立這個(gè)概念。

三、線性組合和線性獨(dú)立

求解方程里的可能有哪些情況呢？我們不妨先列舉出來可能出現(xiàn)的情況。

①有一個(gè)解。②沒有解。③有無數(shù)解。④有幾個(gè)解。

對(duì)于④，我們可以先排除掉。因?yàn)槿绻匠讨挥袃蓚€(gè)解??和??，那么?也然是方程的解，與只有兩個(gè)解矛盾（簡單證明一下就能明白）。

我們已經(jīng)知道，如果矩陣??的逆存在的話，對(duì)于任意，方程里的都有解并且唯一，是①這種情況。那么什么樣的和能有②、③這種情況呢？我們接下來從線性組合的角度來理解下①②③這三種情況。

線性組合

我們可以把求解的過程想成這樣：

把矩陣的每一列看成是從原點(diǎn)出發(fā)，沿著不同方向延伸的向量；決定延伸到多遠(yuǎn)，決定的第??列延伸到多遠(yuǎn)；然后我們看看有多少種方法能夠到達(dá)?（也就是求解）。

那么可以寫成如下形式：

?

其中??指的第??列（向量），?指?的第??個(gè)數(shù)值（實(shí)數(shù)）。

式子里的??一般叫做線性組合。我們可以對(duì)線性組合做個(gè)一般性的描述：一組向量?的線性組合就是給每個(gè)向量乘上一個(gè)實(shí)數(shù)系數(shù)再將向量相加后得到的向量：

?

一組向量的跨度（span）就是這組向量通過線性組合能夠得到的所有向量。?的所有列向量的跨度就是所能代表的所有向量（任意改變每個(gè)維度的值）。

有了跨度這個(gè)概念之后，我們可以這樣理解，如果??在?的所有列向量的跨度里，那么就存在，使得，也就是說??有解。?的所有列向量的跨度也可以叫做的列空間。

線性獨(dú)立

我們先從一個(gè)問題入手分析，那就是要使得線性方程對(duì)所有的??，都有解，?需要滿足什么條件。

如果要使得線性方程對(duì)所有的??，都有解，那么需要使得所有的?都應(yīng)該在的列空間里，那么就需要滿足的列空間就是??（如果的一個(gè)向量不在的列空間里，那么這個(gè)向量作為里的??時(shí)，無解）。要使得的列空間就是?，首先?（）必須至少要有列，也就是。舉個(gè)例子，比如是一個(gè)??矩陣，是3維向量，是 2 維向量，那么隨意改變每個(gè)維度的值最多也只能使這個(gè)線性組合布滿由的兩個(gè)列向量為邊界的一個(gè)平面（里的一個(gè)平面），?在這個(gè)平面里?，方程有解，?不在這個(gè)平面里?，方程無解。其次??中至少能找出一組個(gè)沒有冗余的列向量。舉個(gè)例子，比如是一個(gè)??矩陣，的兩個(gè)列向量是相同的，是2維向量，是 2 維向量，那么隨意改變每個(gè)維度的值最多也只能使這個(gè)線性組合是一條直線（里的一條直線），而不能覆蓋整個(gè)平面?，?在這個(gè)直線上?，方程有解，?不在這個(gè)直線上?，方程無解。這里所說到的沒有冗余一般叫做線性獨(dú)立，如果一組向量里的任何一個(gè)向量不可能由其他向量通過線性組合的方式得到，那么這組向量就是線性獨(dú)立的。（線性獨(dú)立用來形容一組向量）

通過分析，我們可以得出如下結(jié)論：

結(jié)論2：如果線性方程對(duì)所有的??，都有解，那么一定有，反之不成立。

結(jié)論3：如果線性方程對(duì)所有的??，都有解，那么在?中至少存在一組?個(gè)列向量線性獨(dú)立，反義也成立。在?中只能找出?一組?個(gè)列向量線性獨(dú)立，有唯一解，在?中能找出2組及以上個(gè)列向量線性獨(dú)立，有無數(shù)解。

?

我們可以將結(jié)論1和結(jié)論3對(duì)比得出：如果在?中只存在一組?個(gè)列向量線性獨(dú)立，那么并且線性方程對(duì)所有的??，都有解（唯一解），那么可逆，然后我們可以得到可逆矩陣一定是方陣，也可以得到如果矩陣可逆，那么?的個(gè)列向量線性獨(dú)立，反之也成立。

?

如果在?中能找出2組及以上個(gè)列向量線性獨(dú)立，那么，那么不是方陣當(dāng)然也不可逆。

四、總結(jié)

對(duì)于方程：

本文就講到這里啦，歡迎各位大佬留言呀～文章來源地址http://www.zghlxwxcb.cn/news/detail-475391.html

到了這里，關(guān)于線性代數(shù)：線性方程求解、矩陣的逆、線性組合、線性獨(dú)立的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！