矩陣
直觀理解
一個(gè) m × n m \times n m×n的大小矩陣,直觀上看是 m × n m \times n m×n的數(shù)字按矩陣排列。
從向量的角度看,看做是 n n n個(gè) m m m維列向量從左到右的排列,也可以看做 m m m個(gè) n n n維行向量從上到下的疊放。
特殊矩陣
-
方陣:行數(shù)等于列數(shù)
-
對(duì)稱矩陣:原矩陣與其轉(zhuǎn)置矩陣相等: A = A T A = A^T A=AT
轉(zhuǎn)置:原始矩陣行列互換后得到的新矩陣,稱為原矩陣 A A A的轉(zhuǎn)置矩陣,記作: A T A^T AT
-
行矩陣和列矩陣可以看做是向量
-
零矩陣:元素全為0,記作: O m × n O_{m \times n} Om×n?
-
對(duì)角矩陣:非對(duì)角元素全部為0的方陣
-
單位矩陣:對(duì)角元素全為1的對(duì)角矩陣
矩陣的基本運(yùn)算
- 矩陣加法:兩個(gè)同等規(guī)模的矩陣之間,對(duì)應(yīng)行列元素相加即可
- 矩陣的數(shù)量乘法:將矩陣中每個(gè)元素都乘數(shù)乘的數(shù)
可見矩陣的運(yùn)算系統(tǒng)中也包含線性運(yùn)算
-
矩陣與矩陣相乘,舉例: A A A, B B B兩個(gè)矩陣
-
首先如果想要得到 A × B A \times B A×B的合法條件是, A A A的列數(shù)等于 B B B的行數(shù)
-
左邊矩陣決定了目標(biāo)矩陣的行數(shù)
-
右邊矩陣決定了目標(biāo)矩陣的列數(shù)
-
具體運(yùn)算:乘積C的第m行第n列的元素等于矩陣A的第m行的元素與矩陣B的第n列對(duì)應(yīng)元素乘積之和。
-
矩陣( A A A)乘向量( x x x)的本質(zhì):改變空間位置
矩陣乘向量的具體運(yùn)算可以看成是矩陣相乘的特殊情況,不做過多介紹。
-
從矩陣列的角度
假設(shè) A = [ c o l 1 ? c o l 2 ? . . . . . . ? c o l n ] A = [col_1~col_2~......~col_n] A=[col1??col2??......?coln?],其中 c o l col col表示矩陣列表示的向量
A x = [ c o l 1 ? c o l 2 ? . . . . . . ? c o l n ] [ x 1 ? x 2 ? . . . ? x n ] T = x 1 c o l 1 + x 2 c o l 2 + . . . + x n c o l n Ax = [col_1~col_2~......~col_n] [x_1~x_2~...~x_n]^T = x_1col_1 + x_2col_2 + ...+x_ncol_n Ax=[col1??col2??......?coln?][x1??x2??...?xn?]T=x1?col1?+x2?col2?+...+xn?coln?
可以看出:矩陣和向量相乘的過程就是對(duì)原矩陣的各列向量進(jìn)行線性組合的過程,而線性組合的各系數(shù)就是向量的對(duì)應(yīng)各成分。
-
進(jìn)一步引申:變換向量的基底
x = ? [ x 1 x 2 . . . x n ] = x 1 ? [ 1 0 . . . 0 ] + x 2 ? [ 0 1 . . . 0 ] + . . . + x n ? [ 0 0 . . . 1 ] x = \ \left [ \begin{matrix} x_1 \\ x_2 \\... \\x_n \\ \end{matrix} \right ] = x_1\ \left [ \begin{matrix} 1 \\ 0 \\... \\0 \\ \end{matrix} \right ] + x_2\ \left [ \begin{matrix} 0 \\ 1 \\... \\0 \\ \end{matrix} \right ] + ...+ x_n\ \left [ \begin{matrix} 0 \\ 0 \\... \\1 \\ \end{matrix} \right ] x=? ?x1?x2?...xn?? ?=x1?? ?10...0? ?+x2?? ?01...0? ?+...+xn?? ?00...1? ??,向量 x x x?表示為在基底為 ( [ 1 0 . . . 0 ] , [ 0 1 . . . 0 ] , . . . , [ 0 0 . . . 1 ] ) (\left [ \begin{matrix} 1 \\ 0 \\... \\0 \\ \end{matrix} \right ], \left [ \begin{matrix} 0 \\ 1 \\... \\0 \\ \end{matrix} \right ],...,\left [ \begin{matrix} 0 \\ 0 \\... \\1 \\ \end{matrix} \right ]) ( ?10...0? ?, ?01...0? ?,..., ?00...1? ?)的坐標(biāo)。
我們來看一下在矩陣的作用下會(huì)發(fā)生怎樣的變化。
A x = [ a 11 … a 1 n ? ? a m 1 a m n ] m × n ? [ x 1 x 2 . . . x n ] = x 1 ? [ a 11 a 21 . . . x m 1 ] + x 2 ? [ a 12 a 22 . . . x m 2 ] + . . . + x n ? [ a 1 n a 2 n . . . x m n ] Ax=\begin{bmatrix} a_{11} & \dots & a_{1n}\\ & \ddots & \vdots\\ a_{m1} & & a_{mn} \end{bmatrix}_{m \times n}\ \left [ \begin{matrix} x_1 \\ x_2 \\... \\x_n \\ \end{matrix} \right ] = x_1\ \left [ \begin{matrix} a_{11} \\ a_{21} \\... \\x_{m1} \\ \end{matrix} \right ] + x_2\ \left [ \begin{matrix} a_{12} \\ a_{22} \\... \\x_{m2} \\ \end{matrix} \right ] + ...+x_n\ \left [ \begin{matrix} a_{1n} \\ a_{2n} \\... \\x_{mn} \\ \end{matrix} \right ] Ax= ?a11?am1??…??a1n??amn?? ?m×n?? ?x1?x2?...xn?? ?=x1?? ?a11?a21?...xm1?? ?+x2?? ?a12?a22?...xm2?? ?+...+xn?? ?a1n?a2n?...xmn?? ?
可以看出矩陣對(duì)于向量的作用相當(dāng)于對(duì)其基底做了映射轉(zhuǎn)換,由舊基底轉(zhuǎn)換為“新基底”。
映射后向量維數(shù)取決于矩陣的行數(shù)。
至于為啥”新基底“加引號(hào),請(qǐng)往下看。
-
特殊情況
對(duì)于 m × n m \times n m×n的矩陣 A A A和 n n n維列向量 x x x, x x x的 n n n個(gè) n n n維默認(rèn)基向量構(gòu)成的基底被轉(zhuǎn)換成了 n n n個(gè) m m m維的目標(biāo)向量。
- 當(dāng) n > m n > m n>m時(shí),這 n n n個(gè)新向量線性相關(guān),因此不能構(gòu)成基底。
- 當(dāng) n < m n < m n<m時(shí),這 n n n個(gè)新向量不足以表示 R m R^m Rm向量空間的所有向量,也不能構(gòu)成基底。
- 當(dāng)且僅當(dāng) n = m n =m n=m并且這 n n n個(gè)新向量線性無關(guān)時(shí),才能被稱為變換了基底
以上所說的基底都是相對(duì)于 R m R^m Rm向量空間而言
矩陣:空間映射關(guān)系
由于矩陣的作用,原始向量的空間位置甚至其所在空間的維度和形態(tài)都發(fā)生了改變,這就是矩陣乘法的空間映射作用
以下假設(shè)矩陣 A A A中的 n n n個(gè)列向量線性無關(guān)
矮胖矩陣對(duì)空間的降維壓縮
當(dāng) m < n m< n m<n的時(shí)候,矩陣是一個(gè)外表"矮胖’的矩陣,向量 x x x是 R n R^n Rn空間中的一個(gè) n n n維向量, x x x的 n n n個(gè)基向量 e e e分別被矩陣 A A A映射成了 n n n個(gè) m m m維向量,由于 m < n m<n m<n,這一組目標(biāo)向量所能張成的空間維數(shù)最大就是 m m m。這樣一來,在矩陣 A A A的作用下,位于 R n R^n Rn空間中的任意向量 x x x,經(jīng)過映射作用,都轉(zhuǎn)換到了一個(gè)維數(shù)更低的新空間中的新位置。由此我們看出,“矮胖"矩陣 A A A壓縮了原始空間 R n R^n Rn。
高瘦矩陣無法覆蓋目標(biāo)空間
簡(jiǎn)單來說就是高瘦矩陣通過對(duì)原向量空間的映射是不能夠表示目標(biāo)向量空間的所有向量的。
其實(shí)變換后的空間是不會(huì)增多的
m
×
n
m \times n
m×n矩陣中的
m
>
n
m > n
m>n這種情況,我們稱之為"高瘦"矩陣。
x
x
x的
n
n
n個(gè)基向量
e
e
e,分別被矩陣
A
A
A映射成了
n
n
n個(gè)
m
m
m維向量,由于
m
>
n
m > n
m>n,看上去
x
x
x映射后的目標(biāo)向量的維數(shù)提高了,變成了
m
m
m維。那我們能不能說:經(jīng)過矩陣
A
A
A的映射,原始向量
x
x
x構(gòu)成的空間
R
n
R^n
Rn變成了維數(shù)更高的空間
R
m
R^m
Rm呢?答案是否定的,哲學(xué)點(diǎn)說,一個(gè)事物無中生有,那是不可能的,平白無故的一個(gè)向量攜帶的信息怎么能增加呢?
方陣映射
假設(shè)方陣 A n × n A_{n\times n} An×n?
- 當(dāng)方陣 A A A中 n n n個(gè)列向量線性無關(guān)時(shí),意味著原始向量的基被映射成新向量后,仍然可以構(gòu)成 R n R^n Rn空間里的一組基底。
- 當(dāng)方陣 A A A中 n n n個(gè)列向量線性相關(guān)時(shí),方陣則退化成了矮胖矩陣,參考前面所述即可。
矩陣的秩
我們把一個(gè)空間經(jīng)過矩陣映射后得到的新空間稱之為他的像空間。我們發(fā)現(xiàn),一個(gè)原始空間,經(jīng)過幾個(gè)形狀相同的矩陣進(jìn)行映射,像空間的維數(shù)可能不同;經(jīng)過幾個(gè)不同形狀的矩陣進(jìn)行映射,又有可能得到維數(shù)相同的像空間。那么決定因素是什么?
決定因素就是空間映射矩陣的列向量,列向量張成空間的維數(shù)就是原始空間映射后的像空間維數(shù)。我們給矩陣列向量的張成空間維數(shù)取了一個(gè)名字,就叫作:矩陣的秩。從另一方面看,秩也可以說是該矩陣線性無關(guān)的列的個(gè)數(shù)。文章來源:http://www.zghlxwxcb.cn/news/detail-466112.html
間的維數(shù)可能不同;經(jīng)過幾個(gè)不同形狀的矩陣進(jìn)行映射,又有可能得到維數(shù)相同的像空間。那么決定因素是什么?
決定因素就是空間映射矩陣的列向量,列向量張成空間的維數(shù)就是原始空間映射后的像空間維數(shù)。我們給矩陣列向量的張成空間維數(shù)取了一個(gè)名字,就叫作:矩陣的秩。從另一方面看,秩也可以說是該矩陣線性無關(guān)的列的個(gè)數(shù)。文章來源地址http://www.zghlxwxcb.cn/news/detail-466112.html
到了這里,關(guān)于機(jī)器學(xué)習(xí)-線性代數(shù)-矩陣與空間映射的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!