智慧型控制 Intelligent Control

感知器神經元模型 Perceptron Neuron Model

感知器神經元 Perceptron Neuron

感知器(perceptron)是最早的類神經網路之一。每個外部輸入乘上對應的權值 \(w_{1,j}\),加總後送進硬限制轉移函數(hardlim);硬限制函數另外還經由偏權值接收一個恆為 1 的輸入:

輸入感知器神經元p1​p2​p3​pR​⋮w1,1​w1,R​Σb1naa = hardlim(Wp + b)R=輸入向量的元素個數 $$n = \mathbf{Wp} + b = \begin{bmatrix} w_{1,1} & w_{1,2} & \cdots & w_{1,R} \end{bmatrix}\begin{bmatrix} p_1 \\ p_2 \\ \vdots \\ p_R \end{bmatrix} + b,\qquad a = \operatorname{hardlim}(n) = \begin{cases} 1, & n \ge 0 \\ 0, & n < 0 \end{cases}$$

(補充)因為輸出只有 0 與 1,感知器把輸入空間切成兩半:\(\mathbf{Wp} + b \ge 0\) 的一側輸出 1,另一側輸出 0。分界 \(\mathbf{Wp} + b = 0\) 在兩個輸入時是一條直線、三個輸入時是一個平面。也因此,單層感知器只能分類線性可分的問題,詳見學習規則頁的決策邊界。

感知器網路 Perceptron Architecture

(原講義為手冊英文截圖,以下改寫為中文。)感知器網路是一層 S 個感知器神經元,經由權值 \(w_{i,j}\) 連到 R 個輸入。和前面一樣,下標 \(i\)、\(j\) 表示 \(w_{i,j}\) 是第 \(j\) 個輸入到第 \(i\) 個神經元的連結強度。完整畫法與一般的單層網路相同,只是轉移函數都換成 hardlim;簡化畫法如下:

輸入一層神經元RpR × 1WS × RbS × 11+n​S × 1SaS × 1a = hardlim(Wp + b)方塊下的數字是矩陣(向量)大小:列數 × 行數 $$\mathbf a^1 = \operatorname{hardlim}(\mathbf{IW}^{1,1}\mathbf p^1 + \mathbf b^1)$$

R 為輸入的元素個數,\(S^1\) 為第 1 層的神經元個數。(補充)S 個神經元各自畫一條分界線,輸出是 S 個 0/1 組成的向量,最多可表示 \(2^S\) 種類別;但實際能切出幾個區域還受輸入維度限制,例如兩個輸入時,3 條直線最多只能把平面切成 7 區。

原圖對照(取自 Matlab 手冊)
原圖
原圖
原圖
原圖