??注意：速讀可直接跳轉(zhuǎn)至“4、知識(shí)點(diǎn)總結(jié)”及“5、計(jì)算例題”部分

一、向量、矩陣范數(shù)與譜半徑

??當(dāng)涉及到線性代數(shù)和矩陣?yán)碚摃r(shí)，向量、矩陣范數(shù)以及譜半徑是非常重要的概念，下面將詳細(xì)介紹這些內(nèi)容：

1、向量范數(shù)

a. 定義及性質(zhì)

??考慮一個(gè) $n$ 維向量 $x$，定義一個(gè)實(shí)值函數(shù) $N(x)$，記作 $N(x)=\Vert x\Vert$。如果 $N(x)$ 滿足以下條件，那么它就是 $x$ 上的一個(gè)向量范數(shù)（或向量模）：

1. 非負(fù)性： $N(x)\ge 0$，且 $N(x)=0$當(dāng)且僅當(dāng) $x$ 是零向量。

$$\Vert x\Vert \ge 0$$$$\Vert x\Vert =0\text{?當(dāng)且僅當(dāng)?}x=0$$

2. 齊次性： 對(duì)于任意實(shí)數(shù) $\alpha$（或復(fù)數(shù)），有 $N(\alpha x)=|\alpha |?N(x)$。

$$\Vert \alpha x\Vert =|\alpha |?\Vert x\Vert$$

3. 三角不等式： 對(duì)于任意向量 $x$ 和 $y$，有 $N(x+y)\le N(x)+N(y)$。

   $$\Vert x+y\Vert \le \Vert x\Vert +\Vert y\Vert$$

補(bǔ)充解釋

• 非負(fù)性： 范數(shù)是非負(fù)的，即它不會(huì)為負(fù)值。當(dāng)且僅當(dāng)向量是零向量時(shí)，范數(shù)為零。

• 齊次性： 范數(shù)在縮放（乘以常數(shù)）下保持一致，即放大或縮小向量會(huì)按比例影響其范數(shù)。

• 三角不等式： 范數(shù)的三角不等式表示通過(guò)兩邊之和的方式度量?jī)蓚€(gè)向量之間的距離。它確保了向量空間中的“三角形”不會(huì)變得扭曲。

范數(shù)差

??由上述三角不等式可推導(dǎo)出： $$\Vert x?y\Vert \ge |\Vert x\Vert ?\Vert y\Vert |$$

• 推導(dǎo)過(guò)程
  • 根據(jù)向量范數(shù)的三角不等式，對(duì)于任意向量 $x$ 和 $y$，有：$$\Vert x?y\Vert \le \Vert x\Vert +\Vert y\Vert$$ 其中

b. 常見(jiàn)的向量范數(shù)

$l_1$、$l_2$、$l_{\infty }$ 范數(shù)

??對(duì)于一個(gè) $n$維向量 $x=(x_1,x_2,\dots ,x_n)$ ：

1. $l_1$ 范數(shù)：
   $$\Vert x{\Vert }_1=\sum _{i=1}^n|x_i|$$

2. $l_2$ 范數(shù)：
   $$\Vert x{\Vert }_2=\sqrt{\sum _{i=1}^n{x}_i^2}$$

3. $l_{\infty }$ 范數(shù)：
   $$\Vert x{\Vert }_{\infty }=\underset{1\le i\le n}{\max }|x_i|$$

性質(zhì)

• 非負(fù)性：

  $$\Vert x{\Vert }_1,\Vert x{\Vert }_2,\Vert x{\Vert }_{\infty }\ge 0$$

• 齊次性： 對(duì)于每個(gè) $x$ 和標(biāo)量 $\alpha$，這三種范數(shù)都滿足齊次性，即
  $$\Vert \alpha x{\Vert }_1=|\alpha |?\Vert x{\Vert }_1$$ $$\Vert \alpha x{\Vert }_2=|\alpha |?\Vert x{\Vert }_2$$ $$\Vert \alpha x{\Vert }_{\infty }=|\alpha |?\Vert x{\Vert }_{\infty }$$

• 三角不等式： 對(duì)于每對(duì)向量 $x$ 和 $y$，這三種范數(shù)都滿足三角不等式：
  $$\Vert x+y{\Vert }_1\le \Vert x{\Vert }_1+\Vert y{\Vert }_1$$$$\Vert x+y{\Vert }_2\le \Vert x{\Vert }_2+\Vert y{\Vert }_2$$$$\Vert x+y{\Vert }_{\infty }\le \Vert x{\Vert }_{\infty }+\Vert y{\Vert }_{\infty }$$

關(guān)系

• $l_1$ 范數(shù)、$l_2$ 范數(shù)、$l_{\infty }$ 范數(shù)之間存在關(guān)系：
  $$\Vert x{\Vert }_{\infty }\le \Vert x{\Vert }_2\le \sqrt{n}\Vert x{\Vert }_{\infty }$$ $$\Vert x{\Vert }_{\infty }\le \Vert x{\Vert }_1\le n\Vert x{\Vert }_{\infty }$$

2、矩陣范數(shù)

a. 矩陣的范數(shù)

??矩陣的范數(shù)是定義在矩陣空間上的實(shí)值函數(shù)，用于度量矩陣的大小或度量。對(duì)于一個(gè)矩陣 $A$，矩陣范數(shù)通常表示為 $N(A)$ 或 $||A||$，滿足以下條件：

1. 非負(fù)性（Non-negativity）：對(duì)于任意矩陣 $A$，有 $N(A)\ge 0$，且等號(hào)成立當(dāng)且僅當(dāng) $A$ 是零矩陣。

2. 齊次性（Homogeneity）：對(duì)于任意標(biāo)量 $k$ 和矩陣 $A$，有 $N(kA)=|k|?N(A)$。

3. 三角不等式（Triangle Inequality）：對(duì)于任意兩個(gè)矩陣 $A$ 和 $B$，有 $N(A+B)\le N(A)+N(B)$。

b. 常見(jiàn)的矩陣范數(shù)

相容范數(shù)

• 對(duì)于任意兩個(gè)矩陣 $A$ 和 $B$，有 $||AB||\le ||A||?||B||$，這被稱為相容性質(zhì)。
• 對(duì)于任意矩陣 $A$ 和向量 $x$，有 $||Ax||\le ||A||?||x||$，這也是相容性質(zhì)。

算子范數(shù)

具體而言，常用的算子范數(shù)是 $p$范數(shù)，其中 $p$ 是一個(gè)實(shí)數(shù)。

• 當(dāng) $p=\infty$ 時(shí)，算子范數(shù)被定義為矩陣行的絕對(duì)值之和的最大值。即，
  $$||A|{|}_{\infty }=\underset{1\le i\le n}{\max }\sum _{j=1}^n|a_{ij}|$$
• 當(dāng) $p=1$ 時(shí)，算子范數(shù)被定義為矩陣列的絕對(duì)值之和的最大值。即，
  $$||A|{|}_1=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$
• 當(dāng) $p=2$ 時(shí)，算子范數(shù)被定義為 $A$ 的譜半徑。譜半徑是矩陣的特征值的按模最大值，表示為 $$p(A)=\max |\lambda |$$其中 $\lambda$ 是 $A$ 的特征值。

3、譜半徑

??待完善……

4、知識(shí)點(diǎn)總結(jié)

1. 向量范數(shù)

• $l_1$ 范數(shù)（曼哈頓范數(shù)）：
  $$||x|{|}_1=\sum _{i=1}^n|x_i|$$

• $l_2$ 范數(shù)（歐幾里得范數(shù)）：
  $$||x|{|}_2=\sqrt{\sum _{i=1}^n{x}_i^2}$$

• $l_{\infty }$ 范數(shù)（無(wú)窮范數(shù)）：
  $$||x|{|}_{\infty }=\underset{1\le i\le n}{\max }|x_i|$$

2. 矩陣范數(shù)

• 弗羅貝尼烏斯范數(shù)（矩陣中每項(xiàng)數(shù)的平方和的開(kāi)方值）
  $$||A|{|}_F=\sqrt{\sum _{i=1}^n\sum _{j=1}^n|a_{ij}{|}^2}$$
• 算子范數(shù)
  • 行和范數(shù)：當(dāng) $p=\infty$ 時(shí)，算子范數(shù)被定義為矩陣中各行元素按絕對(duì)值求和所得的最大和數(shù)，即，
    $$||A|{|}_{\infty }=\underset{1\le i\le n}{\max }\sum _{j=1}^n|a_{ij}|$$
  • 列和范數(shù)：當(dāng) $p=1$ 時(shí)，算子范數(shù)被定義為
    矩陣列的絕對(duì)值之和的最大值。即，
    $$||A|{|}_1=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$
  • 當(dāng) $p=2$ 時(shí)，算子范數(shù)即$A$ 的譜半徑,譜半徑是矩陣的特征值的按模最大值
    $$||A|{|}_2=\sqrt{{\lambda }_{\text{max}}(A^{T}A)}=p(A)=\max |\lambda |$$

3. 譜半徑

??譜半徑是矩陣的特征值按模最大的那個(gè)值，對(duì)于一個(gè) $n\times n$ 的矩陣 $A$，其譜半徑 $p(A)$ 定義為：

p ( A ) = max ? { ∣ λ ∣ ? ∣ ? λ ?是? A ?的特征值 } p(A) = \max \{|\lambda| \ | \ \lambda \text{ 是 } A \text{ 的特征值}\} p(A)=max{∣λ∣?∣?λ?是?A?的特征值}

5、計(jì)算例題

對(duì)于矩陣 $$A=\left[\begin{array}{cc}2& 1\\ ?1& 4\end{array}\right]$$計(jì)算其各種范數(shù)：

∥ A ∥ 1 = max ? j ∑ i ∣ a i j ∣ = max ? { 3 , 5 } = 5 \|A\|_1 = \max_j \sum_i |a_{ij}| = \max\{3, 5\} = 5 ∥A∥1?=jmax?i∑?∣aij?∣=max{3,5}=5

∥ A ∥ ∞ = max ? i ∑ j ∣ a i j ∣ = max ? { 3 , 5 } = 5 \|A\|_\infty = \max_i \sum_j |a_{ij}| = \max\{3, 5\} = 5 ∥A∥∞?=imax?j∑?∣aij?∣=max{3,5}=5

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\text{max}}(A^{T}A)}$$

計(jì)算 $A^{T}A$ 的特征值，找到最大特征值 ${\lambda }_{\text{max}}$：

$$A^{T}A=\left[\begin{array}{cc}5& ?2\\ ?2& 17\end{array}\right]$$

特征值為 ${\lambda }_1=11+2\sqrt{10}$, ${\lambda }_2=11?2\sqrt{10}$。

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\text{max}}}=\sqrt{11+2\sqrt{10}}=4.162277$$

3. 譜半徑：

   p ( A ) = max ? { ∣ λ ∣ } = 3 p(A) = \max \{|\lambda|\} =3 p(A)=max{∣λ∣}=3

   對(duì)$A$ 求特征值，找到最大的絕對(duì)值。文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-824818.html

• 1范數(shù)：5
• ∞范數(shù)：5
• 2范數(shù)：4.162277
• 譜半徑：3

到了這里，關(guān)于【數(shù)值計(jì)算方法（黃明游）】解線性代數(shù)方程組的迭代法（一）：向量、矩陣范數(shù)與譜半徑【理論到程序】的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！