正文

神經(jīng)網(wǎng)絡算法實驗報告（神經(jīng)網(wǎng)絡算法實驗報告總結）

發(fā)布時間：2023-04-14 04:39:50 稿源：創(chuàng)意嶺閱讀： 127

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關于神經(jīng)網(wǎng)絡算法實驗報告的問題，以下是小編對此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等

只需要輸入關鍵詞，就能返回你想要的內(nèi)容，越精準，寫出的就越詳細，有微信小程序端、在線網(wǎng)頁版、PC客戶端

官網(wǎng)：https://ai.de1919.com。

創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè)，服務客戶遍布全球各地，如需了解SEO相關業(yè)務請撥打電話175-8598-2043，或添加微信：1454722008

本文目錄:

1、人工神經(jīng)網(wǎng)絡的主要研究成果
2、如何用神經(jīng)網(wǎng)絡遺傳算法求極值？
3、30分鐘講清楚深度神經(jīng)網(wǎng)絡
4、求高人解釋一下這個MATLAB的BP神經(jīng)網(wǎng)絡預測算法的程序。

神經(jīng)網(wǎng)絡算法實驗報告（神經(jīng)網(wǎng)絡算法實驗報告總結）

一、人工神經(jīng)網(wǎng)絡的主要研究成果

1 人工神經(jīng)網(wǎng)絡產(chǎn)生的背景

自古以來，關于人類智能本源的奧秘，一直吸引著無數(shù)哲學家和自然科學家的研究熱情。生物學家、神經(jīng)學家經(jīng)過長期不懈的努力，通過對人腦的觀察和認識，認為人腦的智能活動離不開腦的物質基礎，包括它的實體結構和其中所發(fā)生的各種生物、化學、電學作用，并因此建立了神經(jīng)元網(wǎng)絡理論和神經(jīng)系統(tǒng)結構理論，而神經(jīng)元理論又是此后神經(jīng)傳導理論和大腦功能學說的基礎。在這些理論基礎之上，科學家們認為，可以從仿制人腦神經(jīng)系統(tǒng)的結構和功能出發(fā)，研究人類智能活動和認識現(xiàn)象。另一方面，19世紀之前，無論是以歐氏幾何和微積分為代表的經(jīng)典數(shù)學，還是以牛頓力學為代表的經(jīng)典物理學，從總體上說，這些經(jīng)典科學都是線性科學。然而，客觀世界是如此的紛繁復雜，非線性情況隨處可見，人腦神經(jīng)系統(tǒng)更是如此。復雜性和非線性是連接在一起的，因此，對非線性科學的研究也是我們認識復雜系統(tǒng)的關鍵。為了更好地認識客觀世界，我們必須對非線性科學進行研究。人工神經(jīng)網(wǎng)絡作為一種非線性的、與大腦智能相似的網(wǎng)絡模型，就這樣應運而生了。所以，人工神經(jīng)網(wǎng)絡的創(chuàng)立不是偶然的，而是20世紀初科學技術充分發(fā)展的產(chǎn)物。

2 人工神經(jīng)網(wǎng)絡的發(fā)展

人工神經(jīng)網(wǎng)絡的研究始于40年代初。半個世紀以來，經(jīng)歷了興起、高潮與蕭條、高潮及穩(wěn)步發(fā)展的遠為曲折的道路。

1943年，心理學家W.S.Mcculloch和數(shù)理邏輯學家W.Pitts 提出了M—P模型，這是第一個用數(shù)理語言描述腦的信息處理過程的模型，雖然神經(jīng)元的功能比較弱，但它為以后的研究工作提供了依據(jù)。1949年，心理學家D.O.Hebb提出突觸聯(lián)系可變的假設，根據(jù)這一假設提出的學習規(guī)律為神經(jīng)網(wǎng)絡的學習算法奠定了基礎。 1957 年，計算機科學家Rosenblatt提出了著名的感知機模型，它的模型包含了現(xiàn)代計算機的一些原理，是第一個完整的人工神經(jīng)網(wǎng)絡，第一次把神經(jīng)網(wǎng)絡研究付諸工程實現(xiàn)。由于可應用于模式識別，聯(lián)想記憶等方面，當時有上百家實驗室投入此項研究，美國軍方甚至認為神經(jīng)網(wǎng)絡工程應當比“原子彈工程”更重要而給予巨額資助，并在聲納信號識別等領域取得一定成績。1960年，B.Windrow和E.Hoff提出了自適應線性單元，它可用于自適應濾波、預測和模式識別。至此，人工神經(jīng)網(wǎng)絡的研究工作進入了第一個高潮。

1969年，美國著名人工智能學者M.Minsky和S.Papert編寫了影響很大的Perceptron一書，從理論上證明單層感知機的能力有限，諸如不能解決異或問題，而且他們推測多層網(wǎng)絡的感知機能力也不過如此，他們的分析恰似一瓢冷水，很多學者感到前途渺茫而紛紛改行，原先參與研究的實驗室紛紛退出，在這之后近10年，神經(jīng)網(wǎng)絡研究進入了一個緩慢發(fā)展的蕭條期。這期間，芬蘭學者T.Kohonen 提出了自組織映射理論，反映了大腦神經(jīng)細胞的自組織特性、記憶方式以及神經(jīng)細胞興奮刺激的規(guī)律；美國學者S.A.Grossberg的自適應共振理論（ART ）；日本學者K.Fukushima提出了認知機模型；ShunIchimari則致力于神經(jīng)網(wǎng)絡有關數(shù)學理論的研究等，這些研究成果對以后的神經(jīng)網(wǎng)絡的發(fā)展產(chǎn)生了重要影響。

美國生物物理學家J.J.Hopfield于1982年、1984年在美國科學院院刊發(fā)表的兩篇文章，有力地推動了神經(jīng)網(wǎng)絡的研究，引起了研究神經(jīng)網(wǎng)絡的又一次熱潮。 1982 年，他提出了一個新的神經(jīng)網(wǎng)絡模型——hopfield網(wǎng)絡模型。他在這種網(wǎng)絡模型的研究中，首次引入了網(wǎng)絡能量函數(shù)的概念，并給出了網(wǎng)絡穩(wěn)定性的判定依據(jù)。1984年，他又提出了網(wǎng)絡模型實現(xiàn)的電子電路，為神經(jīng)網(wǎng)絡的工程實現(xiàn)指明了方向，他的研究成果開拓了神經(jīng)網(wǎng)絡用于聯(lián)想記憶的優(yōu)化計算的新途徑，并為神經(jīng)計算機研究奠定了基礎。1984年Hinton等人將模擬退火算法引入到神經(jīng)網(wǎng)絡中，提出了Boltzmann機網(wǎng)絡模型，BM 網(wǎng)絡算法為神經(jīng)網(wǎng)絡優(yōu)化計算提供了一個有效的方法。1986年，D.E.Rumelhart和J.LMcclelland提出了誤差反向傳播算法，成為至今為止影響很大的一種網(wǎng)絡學習方法。1987年美國神經(jīng)計算機專家R.Hecht—Nielsen提出了對向傳播神經(jīng)網(wǎng)絡，該網(wǎng)絡具有分類靈活，算法簡練的優(yōu)點，可用于模式分類、函數(shù)逼近、統(tǒng)計分析和數(shù)據(jù)壓縮等領域。1988年L.Ochua 等人提出了細胞神經(jīng)網(wǎng)絡模型，它在視覺初級加工上得到了廣泛應用。

為適應人工神經(jīng)網(wǎng)絡的發(fā)展，1987年成立了國際神經(jīng)網(wǎng)絡學會，并決定定期召開國際神經(jīng)網(wǎng)絡學術會議。1988年1月Neural Network 創(chuàng)刊。1990年3月IEEE Transaction on Neural Network問世。我國于1990年12月在北京召開了首屆神經(jīng)網(wǎng)絡學術大會，并決定以后每年召開一次。1991 年在南京成立了中國神經(jīng)網(wǎng)絡學會。 IEEE 與INNS 聯(lián)合召開的IJCNN92已在北京召開。這些為神經(jīng)網(wǎng)絡的研究和發(fā)展起了推波助瀾的作用，人工神經(jīng)網(wǎng)絡步入了穩(wěn)步發(fā)展的時期。

90年代初，諾貝爾獎獲得者Edelman提出了Darwinism模型，建立了神經(jīng)網(wǎng)絡系統(tǒng)理論。同年，Aihara等在前人推導和實驗的基礎上，給出了一個混沌神經(jīng)元模型，該模型已成為一種經(jīng)典的混沌神經(jīng)網(wǎng)絡模型，該模型可用于聯(lián)想記憶。 Wunsch 在90OSA 年會上提出了一種AnnualMeeting，用光電執(zhí)行ART，學習過程有自適應濾波和推理功能，具有快速和穩(wěn)定的學習特點。1991年，Hertz探討了神經(jīng)計算理論，對神經(jīng)網(wǎng)絡的計算復雜性分析具有重要意義；Inoue 等提出用耦合的混沌振蕩子作為某個神經(jīng)元，構造混沌神經(jīng)網(wǎng)絡模型，為它的廣泛應用前景指明了道路。1992年，Holland用模擬生物進化的方式提出了遺傳算法，用來求解復雜優(yōu)化問題。1993年方建安等采用遺傳算法學習，研究神經(jīng)網(wǎng)絡控制器獲得了一些結果。1994年Angeline等在前人進化策略理論的基礎上，提出一種進化算法來建立反饋神經(jīng)網(wǎng)絡，成功地應用到模式識別，自動控制等方面；廖曉昕對細胞神經(jīng)網(wǎng)絡建立了新的數(shù)學理論和方法，得到了一系列結果。HayashlY根據(jù)動物大腦中出現(xiàn)的振蕩現(xiàn)象，提出了振蕩神經(jīng)網(wǎng)絡。1995年Mitra把人工神經(jīng)網(wǎng)絡與模糊邏輯理論、生物細胞學說以及概率論相結合提出了模糊神經(jīng)網(wǎng)絡，使得神經(jīng)網(wǎng)絡的研究取得了突破性進展。Jenkins等人研究光學神經(jīng)網(wǎng)絡，建立了光學二維并行互連與電子學混合的光學神經(jīng)網(wǎng)絡，它能避免網(wǎng)絡陷入局部最小值，并最后可達到或接近最理想的解；SoleRV等提出流體神經(jīng)網(wǎng)絡，用來研究昆蟲社會，機器人集體免疫系統(tǒng)，啟發(fā)人們用混沌理論分析社會大系統(tǒng)。1996年，ShuaiJW’等模擬人腦的自發(fā)展行為，在討論混沌神經(jīng)網(wǎng)絡的基礎上提出了自發(fā)展神經(jīng)網(wǎng)絡。1997、1998年董聰?shù)葎?chuàng)立和完善了廣義遺傳算法，解決了多層前向網(wǎng)絡的最簡拓樸構造問題和全局最優(yōu)逼近問題。

隨著理論工作的發(fā)展，神經(jīng)網(wǎng)絡的應用研究也取得了突破性進展，涉及面非常廣泛，就應用的技術領域而言有計算機視覺，語言的識別、理解與合成，優(yōu)化計算，智能控制及復雜系統(tǒng)分析，模式識別，神經(jīng)計算機研制，知識推理專家系統(tǒng)與人工智能。涉及的學科有神經(jīng)生理學、認識科學、數(shù)理科學、心理學、信息科學、計算機科學、微電子學、光學、動力學、生物電子學等。美國、日本等國在神經(jīng)網(wǎng)絡計算機軟硬件實現(xiàn)的開發(fā)方面也取得了顯著的成績，并逐步形成產(chǎn)品。在美國，神經(jīng)計算機產(chǎn)業(yè)已獲得軍方的強有力支持，國防部高級研究計劃局認為“神經(jīng)網(wǎng)絡是解決機器智能的唯一希望”，僅一項8 年神經(jīng)計算機計劃就投資4億美元。在歐洲共同體的ESPRIT計劃中，就有一項特別項目：“神經(jīng)網(wǎng)絡在歐洲工業(yè)中的應用”，單是生產(chǎn)神經(jīng)網(wǎng)絡專用芯片這一項就投資2200萬美元。據(jù)美國資料聲稱，日本在神經(jīng)網(wǎng)絡研究上的投資大約是美國的4倍。我國也不甘落后，自從1990 年批準了南開大學的光學神經(jīng)計算機等3項課題以來，國家自然科學基金與國防預研基金也都為神經(jīng)網(wǎng)絡的研究提供資助。另外，許多國際著名公司也紛紛卷入對神經(jīng)網(wǎng)絡的研究，如Intel、IBM、Siemens、HNC。神經(jīng)計算機產(chǎn)品開始走向商用階段，被國防、企業(yè)和科研部門選用。在舉世矚目的海灣戰(zhàn)爭中，美國空軍采用了神經(jīng)網(wǎng)絡來進行決策與控制。在這種刺激和需求下，人工神經(jīng)網(wǎng)絡定會取得新的突破，迎來又一個高潮。自1958年第一個神經(jīng)網(wǎng)絡誕生以來，其理論與應用成果不勝枚舉。人工神經(jīng)網(wǎng)絡是一個快速發(fā)展著的一門新興學科，新的模型、新的理論、新的應用成果正在層出不窮地涌現(xiàn)出來。

3 人工神經(jīng)網(wǎng)絡的發(fā)展前景

針對神經(jīng)網(wǎng)絡存在的問題和社會需求，今后發(fā)展的主要方向可分為理論研究和應用研究兩個方面。

（1）利用神經(jīng)生理與認識科學研究大腦思維及智能的機理、計算理論，帶著問題研究理論。

人工神經(jīng)網(wǎng)絡提供了一種揭示智能和了解人腦工作方式的合理途徑，但是由于人類起初對神經(jīng)系統(tǒng)了解非常有限，對于自身腦結構及其活動機理的認識還十分膚淺，并且?guī)в心撤N“先驗”。例如， Boltzmann機引入隨機擾動來避免局部極小，有其卓越之處，然而缺乏必要的腦生理學基礎，毫無疑問，人工神經(jīng)網(wǎng)絡的完善與發(fā)展要結合神經(jīng)科學的研究。而且，神經(jīng)科學，心理學和認識科學等方面提出的一些重大問題，是向神經(jīng)網(wǎng)絡理論研究提出的新挑戰(zhàn)，這些問題的解決有助于完善和發(fā)展神經(jīng)網(wǎng)絡理論。因此利用神經(jīng)生理和認識科學研究大腦思維及智能的機理，如有新的突破，將會改變智能和機器關系的認識。

利用神經(jīng)科學基礎理論的研究成果，用數(shù)理方法探索智能水平更高的人工神經(jīng)網(wǎng)絡模型，深入研究網(wǎng)絡的算法和性能，如神經(jīng)計算、進化計算、穩(wěn)定性、收斂性、計算復雜性、容錯性、魯棒性等，開發(fā)新的網(wǎng)絡數(shù)理理論。由于神經(jīng)網(wǎng)絡的非線性，因此非線性問題的研究是神經(jīng)網(wǎng)絡理論發(fā)展的一個最大動力。特別是人們發(fā)現(xiàn)，腦中存在著混沌現(xiàn)象以來，用混沌動力學啟發(fā)神經(jīng)網(wǎng)絡的研究或用神經(jīng)網(wǎng)絡產(chǎn)生混沌成為擺在人們面前的一個新課題，因為從生理本質角度出發(fā)是研究神經(jīng)網(wǎng)絡的根本手段。

（2）神經(jīng)網(wǎng)絡軟件模擬，硬件實現(xiàn)的研究以及神經(jīng)網(wǎng)絡在各個科學技術領域應用的研究。

由于人工神經(jīng)網(wǎng)絡可以用傳統(tǒng)計算機模擬，也可以用集成電路芯片組成神經(jīng)計算機，甚至還可以用光學的、生物芯片的方式實現(xiàn)，因此研制純軟件模擬，虛擬模擬和全硬件實現(xiàn)的電子神經(jīng)網(wǎng)絡計算機潛力巨大。如何使神經(jīng)網(wǎng)絡計算機與傳統(tǒng)的計算機和人工智能技術相結合也是前沿課題；如何使神經(jīng)網(wǎng)絡計算機的功能向智能化發(fā)展，研制與人腦功能相似的智能計算機，如光學神經(jīng)計算機，分子神經(jīng)計算機，將具有十分誘人的前景。

4 哲理

（1）人工神經(jīng)網(wǎng)絡打開了認識論的新領域

認識與腦的問題，長期以來一直受到人們的關注，因為它不僅是有關人的心理、意識的心理學問題，也是有關人的思維活動機制的腦科學與思維科學問題，而且直接關系到對物質與意識的哲學基本問題的回答。人工神經(jīng)網(wǎng)絡的發(fā)展使我們能夠更進一步地既唯物又辯證地理解認識與腦的關系，打開認識論的新領域。人腦是一個復雜的并行系統(tǒng)，它具有“認知、意識、情感”等高級腦功能，用人工進行模擬，有利于加深對思維及智能的認識，已對認知和智力的本質的研究產(chǎn)生了極大的推動作用。在研究大腦的整體功能和復雜性方面，人工神經(jīng)網(wǎng)絡給人們帶來了新的啟迪。由于人腦中存在混沌現(xiàn)象，混沌可用來理解腦中某些不規(guī)則的活動，從而混沌動力學模型能用作人對外部世界建模的工具，可用來描述人腦的信息處理過程?；煦绾椭悄苁怯嘘P的，神經(jīng)網(wǎng)絡中引入混沌學思想有助于提示人類形象思維等方面的奧秘。人工神經(jīng)網(wǎng)絡之所以再度興起，關鍵在于它反映了事物的非線性，抓住了客觀世界的本質，而且它在一定程度上正面回答了智能系統(tǒng)如何從環(huán)境中自主學習這一最關鍵的問題，從認知的角度講，所謂學習，就是對未知現(xiàn)象或規(guī)律的發(fā)現(xiàn)和歸納。由于神經(jīng)網(wǎng)絡具有高度的并行性，高度的非線性全局作用，良好的容錯性與聯(lián)想記憶功能以及十分強的自適應、自學習功能，而使得它成為揭示智能和了解人腦工作方式的合理途徑。但是，由于認知問題的復雜性，目前，我們對于腦神經(jīng)網(wǎng)的運行和神經(jīng)細胞的內(nèi)部處理機制，如信息在人腦是如何傳輸、存貯、加工的？記憶、聯(lián)想、判斷是如何形成的？大腦是否存在一個操作系統(tǒng)？還沒有太多的認識，因此要制造人工神經(jīng)網(wǎng)絡來模仿人腦各方面的功能，還有待于人們對大腦信息處理機理認識的深化。

（2）人工神經(jīng)網(wǎng)絡發(fā)展的推動力來源于實踐、理論和問題的相互作用

隨著人們社會實踐范圍的不斷擴大，社會實踐層次的不斷深入，人們所接觸到的自然現(xiàn)象也越來越豐富多彩、紛繁復雜，這就促使人們用不同的原因加以解釋不同種類的自然現(xiàn)象，當不同種類的自然現(xiàn)象可以用同樣的原因加以解釋，這樣就出現(xiàn)了不同學科的相互交叉、綜合，人工神經(jīng)網(wǎng)絡就這樣產(chǎn)生了。在開始階段，由于這些理論化的網(wǎng)絡模型比較簡單，還存在許多問題，而且這些模型幾乎沒有得到實踐的檢驗，因而神經(jīng)網(wǎng)絡的發(fā)展比較緩慢。隨著理論研究的深入，問題逐漸地解決特別是工程上得到實現(xiàn)以后，如聲納識別成功，才迎來了神經(jīng)網(wǎng)絡的第一個發(fā)展高潮?？蒑inisky認為感知器不能解決異或問題，多層感知器也不過如此，神經(jīng)網(wǎng)絡的研究進入了低谷，這主要是因為非線性問題沒得到解決。隨著理論的不斷豐富，實踐的不斷深入，現(xiàn)在已證明Minisky的悲觀論調(diào)是錯誤的。今天，高度發(fā)達的科學技術逐漸揭示了非線性問題是客觀世界的本質。問題、理論、實踐的相互作用又迎來了人工神經(jīng)網(wǎng)絡的第二次高潮。目前人工神經(jīng)網(wǎng)絡的問題是智能水平不高，還有其它理論和實現(xiàn)方面的問題，這就迫使人們不斷地進行理論研究，不斷實踐，促使神經(jīng)網(wǎng)絡不斷向前發(fā)展。總之，先前的原因遇到了解釋不同的新現(xiàn)象，促使人們提出更加普遍和精確的原因來解釋。理論是基礎，實踐是動力，但單純的理論和實踐的作用還不能推動人工神經(jīng)網(wǎng)絡的發(fā)展，還必須有問題提出，才能吸引科學家進入研究的特定范圍，引導科學家從事相關研究，從而逼近科學發(fā)現(xiàn)，而后實踐又提出新問題，新問題又引發(fā)新的思考，促使科學家不斷思考，不斷完善理論。人工神經(jīng)網(wǎng)絡的發(fā)展無不體現(xiàn)著問題、理論和實踐的辯證統(tǒng)一關系。

（3 ）人工神經(jīng)網(wǎng)絡發(fā)展的另一推動力來源于相關學科的貢獻及不同學科專家的競爭與協(xié)同

人工神經(jīng)網(wǎng)絡本身就是一門邊緣學科，它的發(fā)展有更廣闊的科學背景，亦即是眾多科研成果的綜合產(chǎn)物，控制論創(chuàng)始人Wiener在其巨著《控制論》中就進行了人腦神經(jīng)元的研究；計算機科學家Turing就提出過B網(wǎng)絡的設想；Prigogine提出非平衡系統(tǒng)的自組織理論，獲得諾貝爾獎；Haken研究大量元件聯(lián)合行動而產(chǎn)生宏觀效果，非線性系統(tǒng)“混沌”態(tài)的提出及其研究等，都是研究如何通過元件間的相互作用建立復雜系統(tǒng)，類似于生物系統(tǒng)的自組織行為。腦科學與神經(jīng)科學的進展迅速反映到人工神經(jīng)網(wǎng)絡的研究中，例如生物神經(jīng)網(wǎng)絡理論，視覺中發(fā)現(xiàn)的側抑制原理，感受野概念等，為神經(jīng)網(wǎng)絡的發(fā)展起了重要的推動作用。從已提出的上百種人工神經(jīng)網(wǎng)絡模型中，涉及學科之多，令人目不暇接，其應用領域之廣，令人嘆為觀止。不同學科專家為了在這一領域取得領先水平，存在著不同程度的競爭，所有這些有力地推動了人工神經(jīng)網(wǎng)絡的發(fā)展。人腦是一個功能十分強大、結構異常復雜的信息系統(tǒng)，隨著信息論、控制論、生命科學，計算機科學的發(fā)展，人們越來越驚異于大腦的奇妙，至少到目前為止，人類大腦信號處理機制對人類自身來說，仍是一個黑盒子，要揭示人腦的奧秘需要神經(jīng)學家、心理學家、計算機科學家、微電子學家、數(shù)學家等專家的共同努力，對人類智能行為不斷深入研究，為人工神經(jīng)網(wǎng)絡發(fā)展提供豐富的理論源泉。另外，還要有哲學家的參與，通過哲學思想和自然科學多種學科的深層結合，逐步孕育出探索人類思維本質和規(guī)律的新方法，使思維科學從朦朧走向理性。而且，不同領域專家的競爭與協(xié)調(diào)同有利于問題清晰化和尋求最好的解決途徑?？v觀神經(jīng)網(wǎng)絡的發(fā)展歷史，沒有相關學科的貢獻，不同學科專家的競爭與協(xié)同，神經(jīng)網(wǎng)絡就不會有今天。當然，人工神經(jīng)網(wǎng)絡在各個學科領域應用的研究反過來又推動其它學科的發(fā)展，推動自身的完善和發(fā)展。

二、如何用神經(jīng)網(wǎng)絡遺傳算法求極值？

===============學習神經(jīng)網(wǎng)絡可以到<神經(jīng)網(wǎng)絡之家>================

可以先用matlab神經(jīng)網(wǎng)絡工具箱訓練網(wǎng)絡,當網(wǎng)絡訓練好之后,把網(wǎng)絡存起來.

然后編寫遺傳算法,你知道,遺傳算法是每代不斷迭代的,然后每代會根據(jù)適應度決定是否進入下一代,這里的適應度你就用sim(net,x)得到的值的倒數(shù)(或者類似的)作為適應度,然后其它就和遺傳算法沒什么兩樣了.最后得到的最優(yōu)解, 就是網(wǎng)絡的最優(yōu)解. 也就是你要的結果了.

不過兄弟,這想法很牛B,很值得鼓勵這樣的想法.但我不得不說兩句,從實際角度來說,這樣的實現(xiàn)沒有太大的意義. 你的目的就是想從數(shù)據(jù)中找到Y最小的時候,X的什么值, 但數(shù)據(jù)上畢竟只是數(shù)據(jù),不管你怎么繞,透露出來的信息還是有限的,不管怎么繞,其實數(shù)據(jù)能提供最大限度的信息就是:在Y=10.88時,即X1=25,X2=24....X6=1.5時,Y是最小值的, 這是數(shù)據(jù)能提供的最大限度的信息,你再怎么繞, 其實當你懂得神經(jīng)網(wǎng)絡的深層原理時,你會發(fā)現(xiàn),你的方案并沒能挖掘出更優(yōu)的解(因為數(shù)據(jù)的信息是有限的),這只是把自己繞暈了

不過能有這樣的想法,兄弟肯定是個學習的好材料,加油.

===============學習神經(jīng)網(wǎng)絡可以到<神經(jīng)網(wǎng)絡之家>================

三、30分鐘講清楚深度神經(jīng)網(wǎng)絡

這兩年神經(jīng)網(wǎng)絡各種火。但對很多人而言，只是聽著覺得各種高大上，究其本質，還是聽不懂。下面我們花三十分鐘把這個事情講清楚。

神經(jīng)網(wǎng)絡算法是最早來源于某神經(jīng)生理學家和某數(shù)學家聯(lián)合發(fā)表的一篇論文，他們對人類神經(jīng)運行規(guī)律的提出了一個猜想，并嘗試給出一個建模來模擬人類神經(jīng)元的運行規(guī)律。

神經(jīng)網(wǎng)絡一開始由于求解問題的不穩(wěn)定，以及范圍有限被拋棄。后面又在各個大神的努力下，對遇到的問題一個個解決，加上因為游戲帶來的計算能力的提升獲得了一個爆發(fā)式的增長。

下面我們講講神經(jīng)網(wǎng)絡是啥以及遇到的問題和探索出來的解決方案，最終我們給出一個深度神經(jīng)網(wǎng)絡的默認的最優(yōu)配置項。

建立M個隱藏層，按順序建立輸入層跟隱藏層的聯(lián)結，最后建立隱藏層跟輸出層的聯(lián)結。為每個隱藏層的每個節(jié)點選擇激活函數(shù)。求解每個聯(lián)結的權重和每個節(jié)點自帶的bias值。參見下圖。

所謂激活函數(shù)就是對各個路徑的輸入求和之后進一步增強的函數(shù) 。

典型的有如下幾個：

下面這個圖里面，是已知的各個聯(lián)結線的權值，求y1, y2

這個練習可以測試對神經(jīng)網(wǎng)絡的理解。

所謂神經(jīng)網(wǎng)絡問題的訓練本質，就是已知 y1,y2....yn，已知x1, x2....xm，求解每個連接的權值和每個神經(jīng)元上的偏差值。對單層的激活函數(shù)為RELU的神經(jīng)網(wǎng)絡而言就是， y = max(sum(w * x)+b, 0)，已知y和x，求解w和b。

對于以上求解w和b的值，科學家們發(fā)現(xiàn)可以通過反向傳播和梯度下降相結合來求解。就是一開始用隨機數(shù)初始化我們每個聯(lián)結的權值，然后通過神經(jīng)網(wǎng)絡計算出來的y值跟真實的y值做比對。如果這個值相差比較大，則修改當前層的聯(lián)結的權重。當發(fā)現(xiàn)這個值相差不大時，則修改更低一層的權重。這個步驟一直重復，逐步傳遞到第一層的權值。

三大問題：

針對這三個問題，大拿們開始了一場探索之旅。

神經(jīng)網(wǎng)絡的求解是通過反向傳播的技術來解決的。通過梯度下降法。問題是，反向傳播從輸出層開始一步一步傳到Layer 1時，越到低層，聯(lián)結的權值變化越小，直到?jīng)]變化。這種叫梯度消失。還有一些呢？則是越到第一層，變化越來越大。這種叫梯度爆炸。常見于RNN。

解決方案探索如下：

目前來說，通常用1+2 多于 3 多于 4。就是現(xiàn)在一般使用He initialization跟ReLU的演進版本作為作為激活函數(shù)來解決梯度消失和爆炸的問題，其次才使用Batch Normalization，最后使用Gradient Clipping。

通常來說，我們很難獲得足夠的標記好的訓練數(shù)據(jù)。常用解決方案如下：

對于大規(guī)模數(shù)據(jù)的訓練，很多時候速度很慢。除了解決梯度消失或爆炸的問題之外，還有使用AdamOptimizer替代GradientDescentOptimizer會大大加快收斂速度。

我們后面會教大家用tensorflow構造出一個神經(jīng)網(wǎng)絡并求解。

四、求高人解釋一下這個MATLAB的BP神經(jīng)網(wǎng)絡預測算法的程序。

不知道他寫的好不好，我的想法是用四個季度的輸入去預測下一個季度的輸出，這樣就能夠產(chǎn)生8組參數(shù)。但是輸出的只能是第四年的第一個季度。再用預測值去進行再預測，不知道第四個季度的誤差會多大。你可以試試。

以上就是關于神經(jīng)網(wǎng)絡算法實驗報告相關問題的回答。希望能幫到你，如有更多相關問題，您也可以聯(lián)系我們的客服進行咨詢，客服也會為您講解更多精彩的知識和內(nèi)容。