內積

一、歐幾里得空間

定義:設\boldsymbol{V}是實數域\mathbb{R}的線性空間,映射\tau: \boldsymbol{V}\times\boldsymbol{V}\rightarrow\mathbb{R}稱為\boldsymbol{V}上的內積(Inner product),記作<\boldsymbol{v}_1,\boldsymbol{v}_2>,滿足:

  • 對稱性:<\boldsymbol{v}_1,\boldsymbol{v}_2>=<\boldsymbol{v}_2,\boldsymbol{v}_1>
  • 對第二個元素的線性性:<\boldsymbol{v}_1,\boldsymbol{v}_2k+\boldsymbol{v}_3l>=<\boldsymbol{v}_1,\boldsymbol{v}_2>k+<\boldsymbol{v_1,\boldsymbol{v}_3}>l
  • 正定性,非零向量\boldsymbol{v}跟自己的內積是大于0的,<\boldsymbol{v},\boldsymbol{v}>\ >\ 0

對于第二條性質的解釋,內積本來是一個二元函數,當將第一個參數固定住,就變成了關于第二個參數的一元函數,此時這個函數是一個線性函數(映射),即<\boldsymbol{v}_1,\cdot>\rightarrow\mathbb{R}這個映射是線性的,線性組合的像等于像的線性組合。

\mathbb{R}上線性空間上定義了內積,就稱為內積空間,若空間是有限維的,則稱為歐幾里得空間。

<\boldsymbol{0}, \boldsymbol{v}>=<\boldsymbol{v},\boldsymbol{0}>=<\boldsymbol{v},\boldsymbol{0+0}>=<\boldsymbol{v},\boldsymbol{0}>+<\boldsymbol{v},\boldsymbol{0}>\Rightarrow<\boldsymbol{0},\boldsymbol{v}>=0

\mathbb{R}^n上的標準內積

\mathbb{R}^n\times\mathbb{R}^n\rightarrow \mathbb{R}計算為:<\boldsymbol{x},\boldsymbol{y}>=\boldsymbol{x}^T\boldsymbol{y}=\sum_{k=1}^nx_iy_i證明這是不是內積,就挨個check一下那三條性質。

函數的內積

連續函數空間\boldsymbol{V}=\mathcal{C}([a,b],\mathbb{R}^n),設兩個向量\boldsymbol{f}(t),\boldsymbol{g}(t),其中\boldsymbol{f}(t)=\left[ \begin{matrix} f_1(t)\\f_2(t)\\\vdots\\f_n(t) \end{matrix} \right], \boldsymbol{g}(t)=\left[ \begin{matrix} g_1(t)\\g_2(t)\\\vdots\\g_n(t) \end{matrix} \right],t\in[a,b]定義內積<\boldsymbol{f},\boldsymbol{g}>=\int_a^b\boldsymbol{f}^T\boldsymbol{g}\ dt=\int_a^b\sum_{k=1}^nf_i(t)g_i(t)dt

二、復內積和酉空間(Unitary Space,也稱為辛空間)

定義:設\boldsymbol{V}\mathbb{C}上的線性空間,復內積:\boldsymbol{V}\times\boldsymbol{V}\rightarrow\mathbb{C}滿足:

  • <\boldsymbol{v}_1,\boldsymbol{v}_2>=\overline{<\boldsymbol{v}_2,\boldsymbol{v}_1>}
  • 對第二個元素的線性性
  • 正定性:<\boldsymbol{v},\boldsymbol{v}>\in\mathbb{R}且大于0

有限維的復內積空間稱為酉空間

對第一個元素是共軛線性的:<k\boldsymbol{v}_1+l\boldsymbol{v}_2,\boldsymbol{v}_3>=\overline{<\boldsymbol{v}_3,k\boldsymbol{v}_1+l\boldsymbol{v}_2>}=\overline{<\boldsymbol{v}_3,\boldsymbol{v}_1>k+<\boldsymbol{v}_3,\boldsymbol{v}_2>l}\\=\overline{<\boldsymbol{v}_3,\boldsymbol{v}_1>}\overline{k}+\overline{<\boldsymbol{v}_3,\boldsymbol{v}_2>}\overline{l}=\overline{k}<\boldsymbol{v}_1,\boldsymbol{v}_2>+\overline{l}<\boldsymbol{v}_2,\boldsymbol{v}_3>

標準酉空間\mathbb{C}^n

\mathbb{C}^n上定義復內積<\boldsymbol{v}_1,\boldsymbol{v}_2>=\overline{\boldsymbol{v}_1}^T\boldsymbol{v}_2=\sum_{k=1}^n\overline{x}_iy_i

線性組合的內積的矩陣表示:\left<\sum_{i=1}^s\boldsymbol{\alpha}_ik_i,\sum_{i=1}^t\boldsymbol{\beta}_il_i\right>=[\overline{k_1},\overline{k_2},\cdots,\overline{k_s}]\left[ \begin{matrix} <\boldsymbol{\alpha}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_1,\boldsymbol{\beta}_t>\\<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_t>\\ \vdots &\vdots &\ddots &\vdots\\<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_t> \end{matrix} \right] \left[\begin{matrix} l_1\\l_2\\\vdots\\l_t \end{matrix} \right]=\sum_{i=1}^s\sum_{i=1}^t\overline{k_i}<\boldsymbol{\alpha}_i,\boldsymbol{\beta}_j>l_j

Gram矩陣

\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s是內積空間的一個向量組,則矩陣G(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s)=\left[ \begin{matrix} <\boldsymbol{\alpha}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_t>\\<\boldsymbol{\beta}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_t>\\ \vdots &\vdots &\ddots &\vdots\\<\boldsymbol{\beta}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_t> \end{matrix} \right]其中基向量組的Gram矩陣稱為度量矩陣

性質:

  • Hermit性:\overline{\boldsymbol{G}}^T=\boldsymbol{G},證明簡單,<\boldsymbol{\beta}_i,\boldsymbol{\beta}_j> = \overline{<\boldsymbol{\beta}_j,\boldsymbol{\beta}_i>}
  • 非負定性:\forall \boldsymbol{z}\in\mathbb{C}^s,有\overline{\boldsymbol{z}}^T\boldsymbol{G}\boldsymbol{z}\ge 0,證明:\left[\overline{z_1},\overline{z_2},\cdots,\overline{z_s}\right]\left[\begin{matrix} <\boldsymbol{\beta}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_s>\\<\boldsymbol{\beta}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_s>\\\vdots&\vdots\vdots&\ddots&\vdots\\<\boldsymbol{\beta}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_s > \end{matrix}\right]\left[\begin{matrix}z_1\\z_2\\\vdots\\z_s\end{matrix}\right] =\left< \sum_{k=1}^sz_k\boldsymbol{\beta}_k,\sum_{k=1}^sz_k\boldsymbol{\beta}_k \right>\ge 0
  • \boldsymbol{G}正定\Leftrightarrow 向量組\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s線性無關,證明:設\boldsymbol{z}\ne\boldsymbol{0},則\sum_{k=1}^sz_k\boldsymbol{\beta}_k\ne0,再根據上一條性質即可證明。
  • rank(\boldsymbol{G})=rank(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s)

\mathbb{C}^n上的Gram矩陣,有一個向量組\boldsymbol{B}_{n\times s}=[\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s],這里是具體的向量,不是抽象的,則\boldsymbol{G}(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s) = \overline{\boldsymbol{B}}^T\boldsymbol{B },證明:(\overline{\boldsymbol{B}}^T\boldsymbol{B})_{ij}=\overline{\boldsymbol{\beta}_i}^T\boldsymbol{\beta}_j=<\boldsymbol{\beta}_i,\boldsymbol{\beta}_j>=\boldsymbol{G}_{ij}

f,g \in \boldsymbol{V} = \mathcal{C}([a,b],\mathbb{R}),其中<f,g>=\int_a^bf(t)g(t)dt,Gram矩陣\boldsymbol{G}(\boldsymbol{f}_1,\boldsymbol{f}_2,\cdots,\boldsymbol{f}_s)=\left[ \begin{matrix} \displaystyle\int_a^bf_1(t)f_1(t)dt & \displaystyle\int_a^bf_1(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_1(t)f_s(t)\\\displaystyle\int_a^bf_2(t)f_1(t)dt&\displaystyle\int_a^bf_2(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_2(t)f_s(t)dt\\\vdots&\vdots&\ddots&\vdots\\\displaystyle\int_a^bf_s(t)f_1(t)dt&\displaystyle\int_a^bf_s(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_s(t)f_s(t)dt \end{matrix} \right]

三、向量的長度和距離

定義:\left\| \boldsymbol{\alpha} \right\| = \sqrt[]{\left<\boldsymbol{\boldsymbol{\alpha},\boldsymbol{\alpha}}\right>}\\ d(\boldsymbol{\alpha},\boldsymbol{\beta})=\left\| \boldsymbol{\alpha}-\boldsymbol{\beta } \right\|

  • 正性:\left\| \boldsymbol{\alpha} \right\| \ge 0,iff \boldsymbol{\alpha}=\boldsymbol{0}時,\|\boldsymbol{\alpha}\|=0
  • 正齊性:\|k\boldsymbol{\alpha}\|=|k|\|\boldsymbol{\alpha}\|
  • 三角不等式:\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|\ge\|\boldsymbol{\alpha}\|+\|\boldsymbol{\beta}\|
  • Cauchy-Schwarz不等式:|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>|\le \|\boldsymbol{\alpha}\|\cdot\|\boldsymbol{\beta}\|
  • 平行四邊形公式:\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|^2+\|\boldsymbol{\alpha}-\boldsymbol{\beta}\|^2=2\left( \|\boldsymbol{\alpha}\|^2+\|\boldsymbol{\beta}\|^2 \right)

證明Cauchy-Schwarz不等式:\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>=|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>|e^{i\theta}兩邊乘以e^{i\theta}的倒數\left< \boldsymbol{\alpha},\boldsymbol{\beta} \right>e^{-i\theta}=|\left<\boldsymbol{\alpha},\boldsymbol{\beta }\right>|\\\Rightarrow\left<\boldsymbol{\alpha}e^{i\theta},\boldsymbol{\beta}\right>=|\left<\boldsymbol{\alpha},\boldsymbol{\beta }\right>|\in\mathbb{R}\boldsymbol{\alpha}e^{i\theta}=\boldsymbol{\alpha}',要證明\left<\boldsymbol{\alpha}',\boldsymbol{\beta}\right>\le\|\boldsymbol{\alpha}'\|\cdot\|\boldsymbol{\beta}\|,則左邊=|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>| \\右邊=\|\boldsymbol{\alpha}e^{i\theta}\|\cdot\|\boldsymbol{\beta}\|=\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|等號成立的條件是\boldsymbol{\alpha}\boldsymbol{\beta}線性相關。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容

  • 內積空間是一種特殊的賦范空間,從泛函分析發展的歷史上看,人們首先注意到的是內積空間而不是賦范空間。 內積空間特別是...
    TonnyYan閱讀 6,519評論 0 2
  • 【轉載】線性代數基礎知識 原文地址:http://blog.csdn.net/longxinchen_ml/art...
    劉卡卡愛吃烤土豆閱讀 1,266評論 0 0
  • 每天五分鐘帶你解決一個深度學習問題。 向量的內積 在數學中,點積又稱數量積或標量積,是一種接受兩個等長的數字序列、...
    人工智能人話翻譯官閱讀 3,238評論 1 5
  • 未來的汽車可以在陸地上跑,也可以在天上飛,還可以在水面上游還可以自由導航。未來的汽車不用燒油,太陽能就可以 開動。...
    寶貝0閱讀 220評論 0 0
  • 大概是在某一個夏天的晚上 你發了這句話 如今卻變成了我的心情 今晚天氣有點熱 在南方在這座城市 到了十一月份 依舊...
    森念念閱讀 241評論 0 0