簡單神經元 Simple Neuron
單一純量輸入的神經元 Simple Neuron
(原圖取自 Matlab 手冊,以下說明為補充)最簡單的神經元只有一個純量輸入 \(p\)。輸入先乘上權值 \(w\),再送進轉移函數 \(f\) 得到輸出 \(a\)。加上偏權值(bias)\(b\) 的神經元,則把 \(wp\) 與 \(b\) 相加成淨輸入 \(n\),再經轉移函數:
$$n = wp + b,\qquad a = f(n) = f(wp + b)$$偏權值可以看成一個輸入恆為 1 的權值。它讓 \(n\) 平移:即使 \(p = 0\),淨輸入仍是 \(b\)。\(w\) 與 \(b\) 都是可調整的參數,類神經網路的「學習」就是依某種規則調整它們,讓網路表現出想要的行為。
轉移函數 Transfer Functions
原講義列出三種最常用的轉移函數:
| 函數 | 定義 | 值域 | 常用於 |
|---|---|---|---|
hardlim 硬限制 | \(a = 1\)(\(n \ge 0\));\(a = 0\)(\(n < 0\)) | {0, 1} | 感知器:把輸入分成兩類 |
purelin 線性 | \(a = n\) | 任意實數 | 線性網路、多層網路的輸出層 |
logsig 對數 S 形 | \(a = \dfrac{1}{1 + e^{-n}}\) | (0, 1) | 倒傳遞網路的隱藏層(可微分) |
tansig 正切 S 形(補充) | \(a = \tanh n = \dfrac{e^{n} - e^{-n}}{e^{n} + e^{-n}}\) | (−1, 1) | 倒傳遞網路的隱藏層 |
每個函數右邊的小方塊圖示,就是網路圖中代表該轉移函數的符號。注意 hardlim 在 \(n = 0\) 時輸出 1。
互動神經元 Try It
原講義建議執行 Matlab 示範程式 nnd2n1(一個輸入)與 nnd2n2(兩個輸入)。下方動畫提供相同的實驗:調整輸入、權值、偏權值與轉移函數,觀察淨輸入 \(n\) 與輸出 \(a\)。切到「兩個輸入」時,右圖顯示整個輸入平面的輸出,黃線 \(n = 0\) 就是之後感知器的決策邊界:




