前言
? ? ? ? 神經網絡，聽起來高大上的一個名詞，他是人工智能領域不可或缺的組成部分。作為一個自學的小白，我跟大家一起分享一下自己的學習心得。其中可能存在錯誤，歡迎指正。
神經網絡的基本結構
? ? ? ? 下圖是一個基本的神經網絡的結構，神經網絡包括3個主要元素：輸入、權重、激活函數。輸入的數據有不同的權重，每個神經元根據所有輸入的數據以及激活函數判斷輸出的值，這即為神經網絡最基本的結構。
圖1 神經網絡結構圖
我們以Xj表示輸入，Wj表示該輸入的權重，常用的激活函數有：
閥值函數：
公式1 閥值函數
其中threshold為閥值。為了簡化書寫，我們令b=-threshold，且將Xj和Wj分別以向量X和W的形式表示。
公式2 閥值函數化簡
Sigmoid(S型)函數:
公式3 Sigmoid(S型)函數
? ? ? 把它們放在?起來更清楚地說明，?個具有輸?x1，x2，...，權重w1，w2，...，和偏置b 的S型神經元的輸出是：
公式4 Sigmoid(S型)函數
? ? ? ? S型函數在輸入為很大整數時輸出1，在輸入為很小的負數時輸出0。與閥值函數近似。
