神經(jīng)網(wǎng)絡分類器（神經(jīng)網(wǎng)絡分類器原理）

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于神經(jīng)網(wǎng)絡分類器的問題，以下是小編對此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，越精準，寫出的就越詳細，有微信小程序端、在線網(wǎng)頁版、PC客戶端

官網(wǎng)：https://ai.de1919.com。

創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè)，服務客戶遍布全球各地，如需了解SEO相關(guān)業(yè)務請撥打電話175-8598-2043，或添加微信：1454722008

本文目錄:

• 1、神經(jīng)網(wǎng)絡中的對抗攻擊與對抗樣本

• 2、什么是BP神經(jīng)網(wǎng)絡？

• 3、如何通過人工神經(jīng)網(wǎng)絡實現(xiàn)圖像識別

• 4、設計一個BP神經(jīng)網(wǎng)絡分類器進行分類，輸入向量為P=（1 -1 -2 -4；2 1 1 0），輸出向量為T=（0 1 1 0）

一、神經(jīng)網(wǎng)絡中的對抗攻擊與對抗樣本

對抗攻擊

對抗攻擊論文參考：

《Intriguing properties of neural networks》

《神經(jīng)網(wǎng)絡有趣的特性》

《Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey》，以下簡稱『Survey』。

圖片做適當修改后能欺騙深度學習模型的可能性

1.舉例理解：

左邊是一張能夠被GoogLeNet正常分類為熊貓的圖片，在添加一定的噪音后變成右圖，在人的肉眼看來，它還是熊貓，但GoogLeNet會判定為長臂猿。這種被修改后人類無法明顯察覺，卻被機器識別錯誤的數(shù)據(jù)即為 對抗樣本 ，而這整個過程就可以理解為 對抗攻擊 。

2.數(shù)學理解：

神經(jīng)網(wǎng)絡中每層神經(jīng)元的輸入 a = g(Wx+b)，其中 g 為激活函數(shù)，W 為權(quán)重參數(shù)，x 為上一層的樣本數(shù)據(jù)，b 為偏置參數(shù)，那么從拓撲學角度來看，在一個二維平面上，這個過程相當于哪幾個步驟呢？

（1）一次使用權(quán)重參數(shù)矩陣 W 的線性變換

（2）一次使用偏執(zhí)向量 b 的移動

（3）一次應用非線性激活函數(shù) g 的變換

在 二維平面 ，其實是將整個平面進行了 旋轉(zhuǎn)、移動和拉伸 三步。

分類問題

簡單分類問題：通過較少幾次變換將問題轉(zhuǎn)換為一條直線可分割的空間。

既是一層神經(jīng)網(wǎng)絡就可以完成分類，通過變換空間布局，最終通過一條直線完成分類。

舉例：

簡單轉(zhuǎn)換ing........

轉(zhuǎn)換結(jié)果看下圖

復雜分類問題：通過多幾次的轉(zhuǎn)換完成將問題轉(zhuǎn)換為一條直線可分割的空間。

就是多層神經(jīng)網(wǎng)絡完成分類，通過變換空間布局，最終通過一條直線完成分類。

舉例：

動態(tài)多步轉(zhuǎn)換

以上是從低維度理解神經(jīng)網(wǎng)絡的訓練，其中也有難以拉伸的例外，下圖所示的圓套圓的情況，就是難以在二維空間將其拉伸到理想的位置的例子。

但，增加神經(jīng)元，可以在 三維空間 中輕松將其分離。

看！

歸納 同樣對于復雜問題可以通過，增加神經(jīng)元在高維度通過更長且復雜的方式解決。

但是例如兩個相互套起來的環(huán)，按照推測需要在四維空間中才能完全分開，然而我們難以想象四維空間，在現(xiàn)實世界的數(shù)據(jù)集中，這種死結(jié)或者纏繞問題可能會更復雜。

對于神經(jīng)網(wǎng)絡來，可以選擇 將打成死結(jié)的數(shù)據(jù)盡可能拉伸開，而不是完全解開 ，如下圖，對于分類問題來說，已經(jīng)具有較高的準確率和召回率。

部分情況下，為了更精確地分類，較寬的神經(jīng)網(wǎng)絡可能相對深度來說更重要。

綜上所述

1. 神經(jīng)網(wǎng)絡中包含語義信息的不在每個獨立的神經(jīng)單元，而是整個空間。 神經(jīng)網(wǎng)絡在最后一層能將樣本中諸多變化的因子理清楚并理解其語義，并不是因為某個獨立神經(jīng)元中包含了什么特定的語義，而是 對整個空間進行變換后從最終的表征層中學到的 ，經(jīng)過學習，神經(jīng)網(wǎng)絡會 放大某些相關(guān)因子，同時縮小某些無關(guān)因子 。

2. 神經(jīng)網(wǎng)絡學習到的輸入到輸出的映射在很大程度上是不連續(xù)的。 就像上面圖中為了解開一個死結(jié)所做的拉伸結(jié)果一樣， 在人看來，在拉伸距離較大的地方我們可以認為這種映射是連續(xù)的， 然而 對于仍然纏繞在一起的部分，之前可以用來劃分界限的直線或者超平面已經(jīng)無法連續(xù) 。

通過仔細觀察可以區(qū)分出來，但是上文只是一個簡單的例子，現(xiàn)實世界中的真實數(shù)據(jù)較為復雜，對于肉眼來說可能很難分清楚纏繞在一起的部分。對于神經(jīng)網(wǎng)絡來說， 對抗樣本已經(jīng)嚴重的跨過了用于分類的界限 ，而對于肉眼其實還 看不出來它有移動。

（）線性特性的攻擊行為（）和（）高效制造對抗樣本的方法（）

參考論文：

《Explaining and harnessing adversarial examples》

《對抗性例子的解讀和掌握》

深度神經(jīng)網(wǎng)絡在高緯空間中的線性特性已經(jīng)足以產(chǎn)生這種攻擊行為 ，并提出了一種 更高效生成對抗樣本的方法 ，接下來我們就簡單分析一下這一理論和方法。

目前神經(jīng)網(wǎng)絡為了提高訓練效率所使用的激活函數(shù)在局部都過于線性。

例如：

類比先前舉出的拓撲學例子，在 最后的表征層 都是 通過直線或超平面完成的分類 ，在線性的假設下，暫且不通過二維或三維空間來理解，先從一個簡單的數(shù)學公式角度開始。

數(shù)學解釋

公式內(nèi)容解釋：

w 是訓練好的參數(shù)向量

x 表示真實樣本數(shù)據(jù)向量

η 表示給圖像加入的噪音向量

x ~表示加入噪音后新生成的樣本

當加入足夠小的 η 時，肉眼無法區(qū)分出 x 的變化，直觀感覺上左邊的式子可能也不會變化很大。

事實上 ，然而 η 當?shù)姆较蚺c w 完全一致的時候，即使很小，也會使整個激活值變化很大。

假設證明：

如果 w 是一個 n 維向量，而其權(quán)值的平均大小為 m，那么激活值將會增加 nm?？梢?，在一個肉眼幾乎無法差覺的擾動干擾下，對神經(jīng)網(wǎng)絡最終激活層的計算會產(chǎn)生巨大的干擾，從而迷惑神經(jīng)網(wǎng)絡訓練出來的模型。

尋找正確方向

當 η 與 w 的方向一致時會使激活值最大，那么，如何找到這個正確的方向呢？

結(jié)論，那就是損失函數(shù)在待構(gòu)造樣本上的梯度方向，即下面的式子。

ε 是一個調(diào)節(jié)系數(shù)

sign() 是一個符號函數(shù)，代表的意思也很簡單，就是取一個值的符號

（當值大于 0 時取 1，當值等于 0 時取 0，當值小于 0 時取 -1）

▽ 表示求 x 的梯度，可以理解為偏導，

J 是訓練模型的損失函數(shù)。

結(jié)論的由來

在正常的神經(jīng)網(wǎng)絡模型訓練過程中，有一個過程叫反向傳播，就是對參數(shù)求偏導，然后將參數(shù)更新，我們結(jié)合下面這張圖看一下。

假設圖中的函數(shù)即為 損失函數(shù) ，為了使損失函數(shù)降到最低，我們會根據(jù)當前值的梯度去調(diào)整。

當梯度小于 0 的時候我們可以看出，當前值需要右移。

而當梯度大于 0 的時候，當前值需要左移。

這個過程實際上就是用 θ 減去 θ。擴展到損失函數(shù) J(θ, x, y) 中，θ 即為 我們要調(diào)整的參數(shù) ，因此在樣本 x 和 y 不改變的情況下，我們會**不斷去調(diào)整參數(shù) θ **以尋求局部最優(yōu)解，即 θ = θ - θ 。

生成對抗樣本，也可以采用類似的方法，那就是 固定參數(shù) θ，調(diào)整 x 同時使損失函數(shù)增大 ，而不是變小，此時就應該讓 x 往相反的方向走，即 x = x + x ，這樣是不是很容易可以理解上面 η 的定義呢？在實踐中，我們還需要通過 ε 這個參數(shù)來 調(diào)節(jié)噪音的大小 ，這種方法相比之前提到的優(yōu)化方法非常高效，基本只需要一次計算就可以找到對抗樣本，因此作者將這種方法叫做 快速梯度符號法 （Fast Gradient Sign Method，F(xiàn)GSM）。總結(jié)一下FGSM，這種方法通過替換目標值 y 就可以 讓攻擊樣本朝著指定的分類目標走 ，即，可以做任意目標的欺騙。

將線性假設簡化到二維空間，我們要求的 η 其方向正好就接近于參數(shù) w 的方向，不再展開說明，有興趣的讀者可以自行畫一畫。

建立在一個高維空間線性的假設或猜測前提下，需要 實驗 支撐，根據(jù)下列圖片分析展開。

圖片解釋

這張圖是對數(shù)據(jù)集CIFAR-10的分類器的決策邊界示意圖。

其中每個小格子代表的是不同的CIFAR-10樣本，

每個小格子中：

橫向從左往右代表的是FGSM算法中的梯度方向，

縱向代表的是FGSM梯度方向的正交方向，

白色表示模型能分類正確的情況

彩色代表預測出錯的情況

不同的顏色代表不同的錯誤預測分類。

可以看出，在出錯的區(qū)域都程線性分布，另外，如果橫軸的方向走的不夠遠，即便再往其他方向走都無法使模型出錯，而一單進入這個區(qū)域，就會出現(xiàn)大量的對抗樣本。而在隨機找到的對抗樣本中，這種分布也是很隨機的，甚至很難找到，見下圖。

從實驗結(jié)果表明

高維空間中的線性假設也是合理的

舉例

一匹叫做 Clever Hans 的馬，剛出現(xiàn)的時候人們認為這匹馬會做算術(shù)，但實際上它只是會閱讀人的表情，當它點馬蹄的次數(shù)接近正確答案時，人們的表情會更興奮，它就知道該這個時候停止了。

隱喻神經(jīng)網(wǎng)絡，一個測試效果良好的分類器，其實并不像人類一樣學習到了所分類樣本的真正底層概念，只不過剛好構(gòu)建了一個在訓練數(shù)據(jù)上運行相當良好的模型，所以，你以為你以為的就是你以為的嗎？

分類器能夠在訓練集的不同子集上訓練時獲得大致相同的分類權(quán)重，因為機器學習算法能夠泛化， 基礎分類權(quán)重的穩(wěn)定性反過來又會導致對抗性樣本的穩(wěn)定性。因此， 對抗攻擊可以認為是存在于任何神經(jīng)網(wǎng)絡模型。

以上是論文二的線性特性的攻擊行為

高效制造對抗樣本的方法

目前來看還沒有能夠完全抵抗這種攻擊的方法，其實結(jié)合攻擊的原理也不難看出，即便分類器做得再好，總能使一個樣本用最小的干擾走到錯誤的分類區(qū)域，我們能做的更多是如何構(gòu)造魯棒性更強的模型，同時也保持對這個領域的關(guān)注?！篠urvey』（注意第一篇論文的引用有注釋）中總結(jié)的目前抵御攻擊的辦法可以分為三大類：

1.修改訓練樣本 ———— 通過添加更多的對抗樣本到訓練集中可以有效避免一部分攻擊 ，但這更像是一種無奈的做法， 當擴大樣本集的時候，其實分類邊界有可能也在隨之擴大 。

2.修改訓練網(wǎng)絡 ，這類方法會對訓練網(wǎng)絡做出一定調(diào)整，其中有一種方式是模擬生物學 在最后一層使用更加非線性的激活函數(shù) ，但這種方式又會 導致訓練效率和效果下降 。修改訓練網(wǎng)絡的方法分為 完全抵抗 和 僅檢測 兩種方式，完全抵抗其實就是讓模型能將對抗樣本識別為正確的分類，而僅檢測是為了發(fā)現(xiàn)這種攻擊樣本，從而拒絕服務。

3.附加網(wǎng)絡 ，這種方式是在 不改變原有模型的情況下使用額外的網(wǎng)絡進行輔助 ，這樣可以使原有網(wǎng)絡保持不變，其中最有效的一種方式是生成式對抗網(wǎng)絡——GAN。同樣的，這種方式也分為 完全抵抗 和 僅檢測 兩種方式。

總結(jié)一下

定義：

對抗樣本：是指在數(shù)據(jù)集中通過故意添加細微的干擾所形成的輸入樣本，會導致模型以高置信度給出一個錯誤的輸出。

原因分析：

對抗樣本出現(xiàn)的主要原因之一是過度線性， 神經(jīng)網(wǎng)絡主要是基于線性塊構(gòu)建的，實現(xiàn)的整體函數(shù)被證明是高度線性的，如果一個線性函數(shù)具有許多輸入，那么它的值可以非常迅速地改變。

參考：

二、什么是BP神經(jīng)網(wǎng)絡？

BP算法的基本思想是：學習過程由信號正向傳播與誤差的反向回傳兩個部分組成；正向傳播時，輸入樣本從輸入層傳入，經(jīng)各隱層依次逐層處理，傳向輸出層，若輸出層輸出與期望不符，則將誤差作為調(diào)整信號逐層反向回傳，對神經(jīng)元之間的連接權(quán)矩陣做出處理，使誤差減小。經(jīng)反復學習，最終使誤差減小到可接受的范圍。具體步驟如下：

1、從訓練集中取出某一樣本，把信息輸入網(wǎng)絡中。

2、通過各節(jié)點間的連接情況正向逐層處理后，得到神經(jīng)網(wǎng)絡的實際輸出。

3、計算網(wǎng)絡實際輸出與期望輸出的誤差。

4、將誤差逐層反向回傳至之前各層，并按一定原則將誤差信號加載到連接權(quán)值上，使整個神經(jīng)網(wǎng)絡的連接權(quán)值向誤差減小的方向轉(zhuǎn)化。

5、対訓練集中每一個輸入—輸出樣本對重復以上步驟，直到整個訓練樣本集的誤差減小到符合要求為止。

三、如何通過人工神經(jīng)網(wǎng)絡實現(xiàn)圖像識別

人工神經(jīng)網(wǎng)絡（Artificial Neural Networks）（簡稱ANN）系統(tǒng)從20 世紀40 年代末誕生至今僅短短半個多世紀，但由于他具有信息的分布存儲、并行處理以及自學習能力等優(yōu)點，已經(jīng)在信息處理、模式識別、智能控制及系統(tǒng)建模等領域得到越來越廣泛的應用。尤其是基于誤差反向傳播（Error Back Propagation）算法的多層前饋網(wǎng)絡（Multiple-Layer Feedforward Network）(簡稱BP 網(wǎng)絡)，可以以任意精度逼近任意的連續(xù)函數(shù)，所以廣泛應用于非線性建模、函數(shù)逼近、模式分類等方面。

目標識別是模式識別領域的一項傳統(tǒng)的課題，這是因為目標識別不是一個孤立的問題，而是模式識別領域中大多數(shù)課題都會遇到的基本問題，并且在不同的課題中，由于具體的條件不同，解決的方法也不盡相同，因而目標識別的研究仍具有理論和實踐意義。這里討論的是將要識別的目標物體用成像頭(紅外或可見光等)攝入后形成的圖像信號序列送入計算機，用神經(jīng)網(wǎng)絡識別圖像的問題。

一、BP 神經(jīng)網(wǎng)絡

BP 網(wǎng)絡是采用Widrow-Hoff 學習算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡。一個典型的BP 網(wǎng)絡采用的是梯度下降算法，也就是Widrow-Hoff 算法所規(guī)定的。backpropagation 就是指的為非線性多層網(wǎng)絡計算梯度的方法。一個典型的BP 網(wǎng)絡結(jié)構(gòu)如圖所示。

我們將它用向量圖表示如下圖所示。

其中：對于第k 個模式對，輸出層單元的j 的加權(quán)輸入為

該單元的實際輸出為

而隱含層單元i 的加權(quán)輸入為

該單元的實際輸出為

函數(shù)f 為可微分遞減函數(shù)

其算法描述如下：

（1）初始化網(wǎng)絡及學習參數(shù)，如設置網(wǎng)絡初始權(quán)矩陣、學習因子等。

（2）提供訓練模式，訓練網(wǎng)絡，直到滿足學習要求。

（3）前向傳播過程：對給定訓練模式輸入，計算網(wǎng)絡的輸出模式，并與期望模式比較，若有誤差，則執(zhí)行（4）；否則，返回（2）。

（4）后向傳播過程：a. 計算同一層單元的誤差；b. 修正權(quán)值和閾值；c. 返回（2）

二、 BP 網(wǎng)絡隱層個數(shù)的選擇

對于含有一個隱層的三層BP 網(wǎng)絡可以實現(xiàn)輸入到輸出的任何非線性映射。增加網(wǎng)絡隱層數(shù)可以降低誤差，提高精度，但同時也使網(wǎng)絡復雜化，增加網(wǎng)絡的訓練時間。誤差精度的提高也可以通過增加隱層結(jié)點數(shù)來實現(xiàn)。一般情況下，應優(yōu)先考慮增加隱含層的結(jié)點數(shù)。

三、隱含層神經(jīng)元個數(shù)的選擇

當用神經(jīng)網(wǎng)絡實現(xiàn)網(wǎng)絡映射時，隱含層神經(jīng)元個數(shù)直接影響著神經(jīng)網(wǎng)絡的學習能力和歸納能力。隱含層神經(jīng)元數(shù)目較少時，網(wǎng)絡每次學習的時間較短，但有可能因為學習不足導致網(wǎng)絡無法記住全部學習內(nèi)容；隱含層神經(jīng)元數(shù)目較大時，學習能力增強，網(wǎng)絡每次學習的時間較長，網(wǎng)絡的存儲容量隨之變大，導致網(wǎng)絡對未知輸入的歸納能力下降，因為對隱含層神經(jīng)元個數(shù)的選擇尚無理論上的指導，一般憑經(jīng)驗確定。

四、神經(jīng)網(wǎng)絡圖像識別系統(tǒng)

人工神經(jīng)網(wǎng)絡方法實現(xiàn)模式識別，可處理一些環(huán)境信息十分復雜，背景知識不清楚，推理規(guī)則不明確的問題，允許樣品有較大的缺損、畸變，神經(jīng)網(wǎng)絡方法的缺點是其模型在不斷豐富完善中，目前能識別的模式類還不夠多，神經(jīng)網(wǎng)絡方法允許樣品有較大的缺損和畸變，其運行速度快，自適應性能好，具有較高的分辨率。

神經(jīng)網(wǎng)絡的圖像識別系統(tǒng)是神經(jīng)網(wǎng)絡模式識別系統(tǒng)的一種，原理是一致的。一般神經(jīng)網(wǎng)絡圖像識別系統(tǒng)由預處理，特征提取和神經(jīng)網(wǎng)絡分類器組成。預處理就是將原始數(shù)據(jù)中的無用信息刪除，平滑，二值化和進行幅度歸一化等。神經(jīng)網(wǎng)絡圖像識別系統(tǒng)中的特征提取部分不一定存在，這樣就分為兩大類：① 有特征提取部分的：這一類系統(tǒng)實際上是傳統(tǒng)方法與神經(jīng)網(wǎng)絡方法技術(shù)的結(jié)合，這種方法可以充分利用人的經(jīng)驗來獲取模式特征以及神經(jīng)網(wǎng)絡分類能力來識別目標圖像。特征提取必須能反應整個圖像的特征。但它的抗干擾能力不如第2類。② 無特征提取部分的：省去特征抽取，整副圖像直接作為神經(jīng)網(wǎng)絡的輸入，這種方式下，系統(tǒng)的神經(jīng)網(wǎng)絡結(jié)構(gòu)的復雜度大大增加了，輸入模式維數(shù)的增加導致了網(wǎng)絡規(guī)模的龐大。此外，神經(jīng)網(wǎng)絡結(jié)構(gòu)需要完全自己消除模式變形的影響。但是網(wǎng)絡的抗干擾性能好，識別率高。

當BP 網(wǎng)用于分類時，首先要選擇各類的樣本進行訓練，每類樣本的個數(shù)要近似相等。其原因在于一方面防止訓練后網(wǎng)絡對樣本多的類別響應過于敏感，而對樣本數(shù)少的類別不敏感。另一方面可以大幅度提高訓練速度，避免網(wǎng)絡陷入局部最小點。

由于BP 網(wǎng)絡不具有不變識別的能力，所以要使網(wǎng)絡對模式的平移、旋轉(zhuǎn)、伸縮具有不變性，要盡可能選擇各種可能情況的樣本。例如要選擇不同姿態(tài)、不同方位、不同角度、不同背景等有代表性的樣本，這樣可以保證網(wǎng)絡有較高的識別率。

構(gòu)造神經(jīng)網(wǎng)絡分類器首先要選擇適當?shù)木W(wǎng)絡結(jié)構(gòu)：神經(jīng)網(wǎng)絡分類器的輸入就是圖像的特征向量；神經(jīng)網(wǎng)絡分類器的輸出節(jié)點應該是類別數(shù)。隱層數(shù)要選好，每層神經(jīng)元數(shù)要合適，目前有很多采用一層隱層的網(wǎng)絡結(jié)構(gòu)。然后要選擇適當?shù)膶W習算法，這樣才會有很好的識別效果。在學習階段應該用大量的樣本進行訓練學習，通過樣本的大量學習對神經(jīng)網(wǎng)絡的各層網(wǎng)絡的連接權(quán)值進行修正，使其對樣本有正確的識別結(jié)果，這就像人記數(shù)字一樣，網(wǎng)絡中的神經(jīng)元就像是人腦細胞，權(quán)值的改變就像是人腦細胞的相互作用的改變，神經(jīng)網(wǎng)絡在樣本學習中就像人記數(shù)字一樣，學習樣本時的網(wǎng)絡權(quán)值調(diào)整就相當于人記住各個數(shù)字的形象，網(wǎng)絡權(quán)值就是網(wǎng)絡記住的內(nèi)容，網(wǎng)絡學習階段就像人由不認識數(shù)字到認識數(shù)字反復學習過程是一樣的。神經(jīng)網(wǎng)絡是按整個特征向量的整體來記憶圖像的，只要大多數(shù)特征符合曾學習過的樣本就可識別為同一類別，所以當樣本存在較大噪聲時神經(jīng)網(wǎng)絡分類器仍可正確識別。在圖像識別階段，只要將圖像的點陣向量作為神經(jīng)網(wǎng)絡分類器的輸入，經(jīng)過網(wǎng)絡的計算，分類器的輸出就是識別結(jié)果。

五、仿真實驗

1、實驗對象

本實驗用MATLAB 完成了對神經(jīng)網(wǎng)絡的訓練和圖像識別模擬。從實驗數(shù)據(jù)庫中選擇0～9 這十個數(shù)字的BMP 格式的目標圖像。圖像大小為16×8 像素，每個目標圖像分別加10％、20％、30％、40％、50％大小的隨機噪聲，共產(chǎn)生60 個圖像樣本。將樣本分為兩個部分，一部分用于訓練，另一部分用于測試。實驗中用于訓練的樣本為40個，用于測試的樣本為20 個。隨機噪聲調(diào)用函數(shù)randn(m,n)產(chǎn)生。

2、網(wǎng)絡結(jié)構(gòu)

本試驗采用三層的BP 網(wǎng)絡，輸入層神經(jīng)元個數(shù)等于樣本圖像的象素個數(shù)16×8 個。隱含層選24 個神經(jīng)元，這是在試驗中試出的較理想的隱層結(jié)點數(shù)。輸出層神經(jīng)元個數(shù)就是要識別的模式數(shù)目，此例中有10 個模式，所以輸出層神經(jīng)元選擇10 個，10 個神經(jīng)元與10 個模式一一對應。

3、基于MATLAB 語言的網(wǎng)絡訓練與仿真

建立并初始化網(wǎng)絡

% ================
S1 = 24;% 隱層神經(jīng)元數(shù)目S1 選為24
[R,Q] = size(numdata);
[S2,Q] = size(targets);
F = numdata;
P=double(F);
net = newff(minmax(P),[S1 S2],{'logsig'
'logsig'},'traingda','learngdm')

這里numdata 為訓練樣本矩陣，大小為128×40， targets 為對應的目標輸出矩陣，大小為10×40。

newff(PR,[S1 S2…SN],{TF1 TF2…TFN}，BTF,BLF,PF)為MATLAB 函數(shù)庫中建立一個N 層

前向BP 網(wǎng)絡的函數(shù)，函數(shù)的自變量PR 表示網(wǎng)絡輸入矢量取值范圍的矩陣[Pmin max];S1~SN 為各層神經(jīng)元的個數(shù)；TF1~TFN 用于指定各層神經(jīng)元的傳遞函數(shù)；BTF 用于指定網(wǎng)絡的訓練函數(shù)；BLF 用于指定權(quán)值和閥值的學習函數(shù)；PF 用于指定網(wǎng)絡的性能函數(shù)，缺省值為‘mse’。

設置訓練參數(shù)

net.performFcn = 'sse'; %平方和誤差
性能函數(shù)
net.trainParam.goal = 0.1; %平方和誤
差目標
net.trainParam.show = 20; %進程顯示
頻率
net.trainParam.epochs = 5000;%最大訓
練步數(shù)
net.trainParam.mc = 0.95; %動量常數(shù)
網(wǎng)絡訓練
net=init(net);%初始化網(wǎng)絡
[net,tr] = train(net,P,T);％網(wǎng)絡訓練
對訓練好的網(wǎng)絡進行仿真
D=sim(net,P);
A = sim(net,B);

B 為測試樣本向量集,128×20 的點陣。D 為網(wǎng)絡對訓練樣本的識別結(jié)果，A 為測試樣本的網(wǎng)絡識別結(jié)果。實驗結(jié)果表明：網(wǎng)絡對訓練樣本和對測試樣本的識別率均為100％。如圖為64579五個數(shù)字添加50%隨機噪聲后網(wǎng)絡的識別結(jié)果。

六、總結(jié)

從上述的試驗中已經(jīng)可以看出，采用神經(jīng)網(wǎng)絡識別是切實可行的，給出的例子只是簡單的數(shù)字識別實驗，要想在網(wǎng)絡模式下識別復雜的目標圖像則需要降低網(wǎng)絡規(guī)模，增加識別能力，原理是一樣的。

四、設計一個BP神經(jīng)網(wǎng)絡分類器進行分類，輸入向量為P=（1 -1 -2 -4；2 1 1 0），輸出向量為T=（0 1 1 0）

y =

0.6544 0.6499 0.6500 0.6499

是預測的輸出變量

以上就是關(guān)于神經(jīng)網(wǎng)絡分類器相關(guān)問題的回答。希望能幫到你，如有更多相關(guān)問題，您也可以聯(lián)系我們的客服進行咨詢，客服也會為您講解更多精彩的知識和內(nèi)容。

推薦閱讀：

深度神經(jīng)網(wǎng)絡的定義（深度神經(jīng)網(wǎng)絡的定義是什么）

循環(huán)神經(jīng)網(wǎng)絡應用舉例（循環(huán)神經(jīng)網(wǎng)絡應用舉例分析）

內(nèi)科排行榜（全國神經(jīng)內(nèi)科排行榜）

下列對各種分工方式的敘述正確的是（下列對各種分工方式的敘述正確的是）

杭州最繁華的cbd（杭州最繁華的商場是哪個-）