前言
近期在自學機器學習，把筆記做個整理，以方便查閱和整理知識框架。喜歡探討機器學習或者Android開發技術的同學可以加學習小組QQ群: 193765960。
本文是機器學習的第二篇，僅是根據自己的理解做一個學習筆記，如果有大牛發現我這個小菜鳥的學習路線跑偏了，還希望能夠提醒一下哈，在此表示感謝。
版權歸作者所有，如有轉發，請注明文章出處：https://xiaodanchen.github.io/archives/
數學基礎教材名目（我自己根據理解指定的，不一定準確）
- 線性代數（同濟大學 第四版）
- 概率論與數理統計（浙江大學 第三版）
- 復變函數（西安交通大學 第四版）
- 隨機過程極其應用（陸大絟 清華大學）
概率論與數理統計
第一章 概率論的基本概念
- 確定性現象：在一定條件下必然發生的現象。
- 統計規律性：在大量的重復試驗或觀察中所呈現出的固有規律性。
- 隨機現象：在個別試驗中其結果呈現不確定性，在大量重復試驗中其結果又具有統計規律性的現象。
隨機試驗
我們將具有以下三個特點的試驗稱為隨機試驗：
- 可在相同的條件下重復試驗。
- 能事先明確試驗的所有可能出現的結果。
- 進行一次試驗，不能確定會出現哪一個試驗結果。
樣本空間，隨機事件
樣本空間：隨機試驗E所有可能出現的結果所組成的已知的集合S，樣本空間的元素稱為樣本點。
隨機事件：試驗E的樣本空間S的子集，嚴格說是S中滿足某些條件的子集，簡稱事件。由一個樣本點組成的單點集，稱為基本事件。
必然事件：樣本空間S。
不可能事件：空集{% math%}\varnothing {% endmath%}
事件間的關系及事件運算
- 若{% math%}A\subset B{% endmath%},稱事件B包含事件A
- 若{% math%}A\subset B{% endmath%} 且{% math%}B\subset A{% endmath%}即A=B,責稱事件B等于事件A
- {% math%}A\cup B = \left { x\mid x\in A或 x\in B\right }{% endmath%} 稱為事件A與事件B的和事件。類似的{% math%}\bigcup_{k=1}^{n}A_k{% endmath%}稱為n個事件{% math%}A_1，A_2，...,A_n{% endmath%}的和事件。{% math%}\bigcup_{k=1}^{\infty }A_k{% endmath%}稱為可列事件{% math%}A_1，A_2，...{% endmath%}的和事件。
- {% math%}A\cap B = \left { x\mid x\in A且 x\in B\right }{% endmath%} 稱為事件A與事件B的積事件。{% math%}A\cap B{% endmath%}也記作AB。類似的{% math%}\bigcap_{k=1}^{n}A_k{% endmath%}稱為n個事件{% math%}A_1，A_2，...,A_n{% endmath%}的積事件。{% math%}\bigcap_{k=1}^{\infty }A_k{% endmath%}稱為可列事件{% math%}A_1，A_2，...{% endmath%}的積事件。
- {% math%}A-B = \left { x\mid x\in A或 x\notin B\right }{% endmath%} 稱為事件A與B的差事件。
- 若{% math%}A\cap B = \varnothing {% endmath%}則稱事件A與B互不相容或者互斥。
- 若{% math%}A\cup B = S且A\cap B = \varnothing {% endmath%}則稱事件A與B互為逆事件或者互為對立事件。
時間運算
- 交換律：{% math%}A\cup B = b\cup A; A\cap B = B\cap A{% endmath%}
- 結合律：{% math%}A\cup (B\cup C) = (A\cup B)\cup C;A\cap (B\cap C) = (A\cap B)\cap C;{% endmath%}
- 分配律：{% math%}A\cup (B\cap C) = (A\cup B)\cap (A\cup C);A\cap (B\cup C) = (A\cap B)\cup (A\cap C);{% endmath%}
- 德.摩根律：{% math%}\overline{A\cup B} = \overline{A} \cap \overline{B};\overline{A\cap B} = \overline{A} \cup \overline{B};{% endmath%}
頻率與概率
定義：
在n次試驗中，事件A發生的次數稱為頻數，記為{% math%}n_A{% endmath%}。比值{% math%}\frac{n_A}{n}{% endmath%}稱為事件A發生的頻率
{% math%}{% endmath%}
