前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 手寫 識別系統(tǒng) 應(yīng)用

隨著計(jì)算機(jī)技術(shù)的快速發(fā)展，其在人們的辦公學(xué)習(xí)和日常生活成了不可替代的工具。鍵盤已經(jīng)幾乎完全替代了筆在人們生活中的地位，隨之而來的后果就是人們越來越少的區(qū)書寫漢字，導(dǎo)致越來越多的中國人甚至都忘記了漢字該如何書寫，這種現(xiàn)象在很多研究和報(bào)道中都有體現(xiàn)。計(jì)算機(jī)和鍵盤是由西方國家發(fā)明的，其符合西方國家的語言習(xí)慣，對于中國人來說，用字母、符號去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼，對于文化程度較低的使用者來說，這些都限制著他們使用計(jì)算機(jī)。鑒于計(jì)算機(jī)鍵盤的這些缺陷，聯(lián)機(jī)手寫輸入法應(yīng)運(yùn)而生，這為計(jì)算機(jī)的輸入帶來了新的發(fā)展機(jī)遇和挑戰(zhàn)。

1 聯(lián)機(jī)漢字手寫識別的意義及難點(diǎn)

聯(lián)機(jī)漢字識別是用書寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過數(shù)字化書寫板的軌跡通過采樣系統(tǒng)按時間先后發(fā)送到計(jì)算機(jī)中，計(jì)算機(jī)則自動的完成漢字的識別和顯示。

1.1 聯(lián)機(jī)漢字手寫識別的意義

聯(lián)機(jī)手寫漢字識別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習(xí)慣，實(shí)現(xiàn)用戶的手寫輸入，對于長時間不提筆寫字的用戶來說能夠加強(qiáng)其對漢字書寫方面的認(rèn)識，防止“提筆忘字”現(xiàn)象的繼續(xù)惡化。其次，手寫漢字輸入不需要學(xué)習(xí)和記憶計(jì)算機(jī)的漢字編碼規(guī)則，其完全符合中國人的寫字習(xí)慣，使人機(jī)之間的交流更人性化，更方便快捷。另外，隨著移動智能終端的不斷普及，聯(lián)機(jī)漢字手寫識別的應(yīng)用范圍將進(jìn)一步擴(kuò)大，以適用于不同層次人群對信息輸入的需要，具有較大的市場發(fā)展前景。

1.2 聯(lián)機(jī)手寫漢字識別問題的難點(diǎn)

手寫漢字識別是光學(xué)字符讀出器中最難的部分，也是其最終的目標(biāo)，手寫漢字識別的應(yīng)用主要依賴于其正確識別率和識別速度[1]。手寫漢字識別系統(tǒng)的問題具有其特殊性：

（1）中國漢字量大。我國目前的常用漢字大概在4000個左右，在實(shí)際應(yīng)用中的漢字識別系統(tǒng)應(yīng)該能夠完全識別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識別的正確率和識別速度一直不高。

（2）字體多，結(jié)構(gòu)復(fù)雜。漢字的手寫字體豐富多彩，且漢字的筆畫繁多，以及復(fù)雜的結(jié)構(gòu)，再加上漢字中的形近字頗多，這些都為漢字識別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書寫變化大。不同用戶在進(jìn)行手寫輸入時其字體的變化是很大的，這種變化因人而異，對漢字識別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型，通常簡稱為神經(jīng)網(wǎng)絡(luò)，是一種仿生物神經(jīng)的信號處理模型。在二十世紀(jì)四十年代初人們開始進(jìn)行神經(jīng)網(wǎng)絡(luò)的研究，經(jīng)過幾十年的發(fā)展，神經(jīng)網(wǎng)絡(luò)也產(chǎn)生了一系列的突破，目前應(yīng)用最多的是Hopfield模型和BP算法。

神經(jīng)網(wǎng)絡(luò)的一般模型一般包括十個方面：環(huán)境、處理單元、傳播規(guī)則、神經(jīng)網(wǎng)絡(luò)的狀態(tài)、互聯(lián)模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數(shù)和學(xué)習(xí)算法。其中，神經(jīng)元、互聯(lián)模式、學(xué)習(xí)算法是神經(jīng)網(wǎng)絡(luò)模型中的三個關(guān)鍵因素。神經(jīng)網(wǎng)絡(luò)的一個重要內(nèi)容就是學(xué)習(xí)，其學(xué)習(xí)方式可以分為監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)，其學(xué)習(xí)過程一般遵循Hebb規(guī)則，誤差修正學(xué)習(xí)算法以及勝者為王的學(xué)習(xí)規(guī)則，其中Hebb規(guī)則是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中最基本的規(guī)則。

人工神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)越性。首先其具有主動學(xué)習(xí)的功能，在漢字識別過程中，先將漢字模板及可能的識別結(jié)果輸入到神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)能夠通過其自身的學(xué)習(xí)過程來實(shí)現(xiàn)對漢字的識別，自學(xué)功能對于神經(jīng)網(wǎng)絡(luò)的預(yù)測功能具有非常重要的意義。其次，神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有聯(lián)想存儲功能，其反饋功能能夠?qū)崿F(xiàn)這種聯(lián)想。另外，通過計(jì)算機(jī)的高速運(yùn)算能力，神經(jīng)網(wǎng)絡(luò)具有高速尋找優(yōu)化解的能力。

3 人工神經(jīng)網(wǎng)絡(luò)在聯(lián)機(jī)手寫識別系統(tǒng)中的應(yīng)用

漢字識別屬于大類別模式識別，人工神經(jīng)網(wǎng)絡(luò)可以通過函數(shù)逼近、數(shù)據(jù)分類、數(shù)據(jù)聚類三種作用方式以及“聯(lián)想”的特殊模式對漢字進(jìn)行識別。Hopfield神經(jīng)網(wǎng)絡(luò)作為反饋網(wǎng)絡(luò)的一種，其自聯(lián)想記憶網(wǎng)絡(luò)可以使系統(tǒng)不需要通過大量的訓(xùn)練即可對漢字進(jìn)行識別，因此Hopfield神經(jīng)網(wǎng)絡(luò)對于漢字識別來說具有獨(dú)特的優(yōu)勢。其中的離散型Hopfield神經(jīng)網(wǎng)絡(luò)能夠通過串行異步和并行同步的工作方式，使其反饋過程具有非常好的穩(wěn)定性，而網(wǎng)絡(luò)只有通過不斷的演變穩(wěn)定在某一吸引子狀態(tài)時，才能夠?qū)崿F(xiàn)正確的聯(lián)想。

聯(lián)機(jī)手寫識別可以分為訓(xùn)練階段和識別階段。訓(xùn)練階段流程依次為：標(biāo)準(zhǔn)書寫字符圖像預(yù)處理，提取特征并建立特征庫，建立Hopfield網(wǎng)絡(luò)模型，訓(xùn)練網(wǎng)絡(luò)，保存權(quán)值。識別階段的流程為：坐標(biāo)序列轉(zhuǎn)化為bmp圖像，預(yù)處理測試樣本，提取特征，送入網(wǎng)絡(luò)運(yùn)行，運(yùn)行網(wǎng)絡(luò)到平衡狀態(tài)，分析結(jié)果值。根據(jù)聯(lián)機(jī)手寫識別的工作流程以及Hopfield網(wǎng)絡(luò)模型的理論，基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結(jié)

手寫識別系統(tǒng)能夠彌補(bǔ)普通鍵盤的不足，在提高漢字書寫頻率的同時，能夠滿足不同層次人群對計(jì)算機(jī)應(yīng)用的技術(shù)需要。基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識別系統(tǒng)一起自身獨(dú)特的性能，不僅能夠滿足手寫漢字識別的正確率，而且其識別過程速度非?？?。因此它對于實(shí)現(xiàn)聯(lián)機(jī)手寫識別以及圖像識別具有非常重要的意義。

參考文獻(xiàn)

[1]俞慶英.聯(lián)機(jī)手寫漢字識別系統(tǒng)的研究與實(shí)現(xiàn)[D].安徽大學(xué)，2005（5）.

[2]郭力賓.交叉點(diǎn)的神經(jīng)網(wǎng)絡(luò)識別及聯(lián)機(jī)手寫字符的概率神經(jīng)網(wǎng)絡(luò)識別初探[D].大連理工大學(xué)，2003（03）.

[3]趙蓉.基于神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識別系統(tǒng)研究與實(shí)現(xiàn)[D].西安電子科技大學(xué)，2011（01）.

第2篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】PID控制;BP神經(jīng)網(wǎng)絡(luò);模糊PID控制

Abstruct：PID control are widely used in industrial process control，but the traditional PID control because of its control parameters are fixed，and it is difficult to adjust its parameters online.So this paper studies a new adaptive fuzzy PID control method，to solve problem without the ability to learn，and put forward a kind of adaptive fuzzy control method based on BP neural network in this paper.It is the effective combination of fuzzy control，neural network and PID control.Simulation results show that this fuzzy PID control method based on BP neural network has good control effect.

Keywords：PID control;BP neural network;Fuzzy PID control

1.引言

常規(guī)PID在控制領(lǐng)域被廣泛應(yīng)用，利用數(shù)學(xué)算法來整定參數(shù)。而且隨著控制系統(tǒng)的復(fù)雜，被控對象很難建立數(shù)學(xué)模型，人們開始探索新的控制方式。模糊控制不要求掌握被控對象的精確的數(shù)學(xué)模型，根據(jù)人工控制規(guī)則組織控制決策表，然后由該表決定控制量的大小。在一般的模糊系統(tǒng)設(shè)計(jì)中，規(guī)則是由經(jīng)驗(yàn)豐富的專業(yè)人員以語言的方式表達(dá)出來的。但對于某些問題即使是很有經(jīng)驗(yàn)的專業(yè)人員也很難將他們的經(jīng)驗(yàn)總結(jié)、歸納為一些比較明確而簡化的規(guī)則。在這種情況下，就可以應(yīng)用神經(jīng)網(wǎng)絡(luò)的方法，依靠BP神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)功能，實(shí)現(xiàn)模糊控制的神經(jīng)、模糊融合技術(shù)，并借助其并行分布的結(jié)構(gòu)來估計(jì)輸入到輸出的映射關(guān)系，直接從原始的工作數(shù)據(jù)中歸納出若干控制規(guī)則。從而為模糊系統(tǒng)建立起行之有效的決策規(guī)則。

2.PID控制器原理

2.1 PID控制的微分方程

PID控制器是一種線性控制器，它將給定值r（t）與實(shí)際輸出值c（t）的偏差的比例（p）、積分（I）、微分（D）通過線性組合構(gòu)成控制量，對控制對象進(jìn)行控制。

式中：

2.2 PID控制器各環(huán)節(jié)的作用

（1）比例環(huán)節(jié)：及時成比例地反應(yīng)控制系統(tǒng)的偏差信號e（t），偏差一旦產(chǎn)生，控制器立即產(chǎn)生控制作用以減小偏差。

（2）積分環(huán)節(jié)：積分作用會使系統(tǒng)穩(wěn)定性下降，Kd大會使系統(tǒng)不穩(wěn)定，但能消除靜態(tài)誤差。

（3）微分環(huán)節(jié)：能反應(yīng)偏差信號的變化趨勢，并能在偏差信號值變得太大之前，在系統(tǒng)中引入一個早期修正信號，從而加快系統(tǒng)的動作速度，減小調(diào)節(jié)時間。Kd偏大時，超調(diào)較大，調(diào)節(jié)時間短;Kd偏小時，超調(diào)量也較大，調(diào)節(jié)時間長;只有Kd合適時才能超調(diào)小，時間短。

3.BP神經(jīng)網(wǎng)絡(luò)與模糊控制

模糊控制是運(yùn)用語言歸納操作人員的控制策略，運(yùn)用變量和模糊集合理論形成控制算法的一種控制。如何讓機(jī)器像人一樣識別、理解模糊規(guī)則并進(jìn)行模糊邏輯推理，最終得出新的結(jié)論并實(shí)現(xiàn)自動控制是模糊控制研究的主要內(nèi)容。模糊控制器的基本結(jié)構(gòu)如圖1所示。

圖1 模糊控制結(jié)構(gòu)

人工神經(jīng)網(wǎng)絡(luò)是由大量人工神經(jīng)元經(jīng)廣泛互連二組成的，它可用來模擬腦神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能。人工神經(jīng)網(wǎng)絡(luò)可以看成是以人工神經(jīng)元為節(jié)點(diǎn)，用有向加權(quán)弧連接起來的有向圖。BP網(wǎng)絡(luò)是一種利用誤差反向傳播訓(xùn)練算法的神經(jīng)網(wǎng)絡(luò)，是一種有隱含層的多層前饋網(wǎng)絡(luò)，系統(tǒng)地解決了多層網(wǎng)絡(luò)中隱含單元連接權(quán)的學(xué)習(xí)問題。BP學(xué)習(xí)算法的基本原理是梯度最速下降法，它的中心思想是調(diào)整權(quán)值使網(wǎng)絡(luò)總誤差最小。也就是采用梯度搜索技術(shù)，以期使網(wǎng)絡(luò)的實(shí)際輸出值與期望輸出值的誤差均方值為最小。網(wǎng)絡(luò)學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程。其結(jié)構(gòu)如圖2所示。

圖2中隱含層第一層神經(jīng)元為7個，分別對應(yīng)7個模糊子集：NB、NM、NS、ZO、PS、PM、PB。第二層49個神經(jīng)元代表49條規(guī)則。第三層7個神經(jīng)元代表輸出的7個模糊子集。模糊控制不依靠對象的數(shù)學(xué)模型，但模糊規(guī)則的建立需要人工經(jīng)驗(yàn)。采用BP算法對工程經(jīng)驗(yàn)和專家經(jīng)驗(yàn)的模糊規(guī)則進(jìn)行訓(xùn)練，其實(shí)就是把模糊規(guī)則用神經(jīng)網(wǎng)絡(luò)來表示，即經(jīng)過神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，將模糊規(guī)則以加權(quán)系數(shù)的形式表現(xiàn)出來，規(guī)則的生成就轉(zhuǎn)化為加權(quán)系數(shù)的確定和修改。

神經(jīng)網(wǎng)絡(luò)是大規(guī)模并行運(yùn)算，但由于網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜，訓(xùn)練和學(xué)習(xí)需要大量的時間，所以目前還無法實(shí)現(xiàn)實(shí)時控制。在具體應(yīng)用中，我們是先離線將神經(jīng)網(wǎng)絡(luò)的各層權(quán)值和閾值訓(xùn)練出來，將其參數(shù)固定下來，然后將有系統(tǒng)檢測、計(jì)算得到的誤差變化直接代入非線性映射關(guān)系中，由計(jì)算機(jī)算出控制量，再用作被控對象。在matlab下以、、為輸出的BP網(wǎng)絡(luò)仿真訓(xùn)練如圖3、圖4、圖5所示。

4.模糊PID控制器的原理與仿真

對于某一BP神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)，其中內(nèi)部變化及被控對象的數(shù)學(xué)模型為：

利用模糊控制對PID參數(shù)實(shí)現(xiàn)在線調(diào)節(jié)，原理如圖6。

圖6 模糊PID控制原理圖

采用Z-N法和試湊法相結(jié)合，借助MATLAB的SIMULINK平臺，對被控對象進(jìn)行常規(guī)PID仿真。參數(shù)值：kp=15，ki=6，kd=0.05。如圖7。作為比較，建立模糊PID控制器的仿真模型如圖8。

圖9、圖10分別為被控對象G（s）在階躍輸入下常規(guī)PID和模糊PID仿真結(jié)果的比較。

經(jīng)過仿真發(fā)現(xiàn)，常規(guī)PID控制缺點(diǎn)是超調(diào)量大，調(diào)節(jié)時間長，動態(tài)性能差。優(yōu)點(diǎn)是控制精度高，穩(wěn)定性能好。模糊控制動態(tài)性能很好，上升速度快，基本無超調(diào)。但由于模糊化所造成的穩(wěn)態(tài)誤差，在沒有積分環(huán)節(jié)的情況下很難消除，故穩(wěn)態(tài)性能差。模糊PID繼承了二者的優(yōu)點(diǎn)，摒棄二者缺點(diǎn)，具有更全面優(yōu)良的控制性能。

5.結(jié)論

針對大滯后、慢時變、非線性的復(fù)雜系統(tǒng)，提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的模糊PID控制算法，該算法不依賴被控對象的精確數(shù)學(xué)模型，可實(shí)現(xiàn)在線自調(diào)整模糊規(guī)則，從而增強(qiáng)了模糊控制器的自學(xué)習(xí)能力。通過算法的仿真研究，驗(yàn)證了算法的可行性。

參考文獻(xiàn)

[1]李華.計(jì)算機(jī)控制系統(tǒng)[M].北京：機(jī)械工業(yè)出版社，2007.

[2]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京：機(jī)械工業(yè)出版社，2007.

[3]蔡自興.智能控制[M].北京：電子工業(yè)出版社，2003.

[4]李國勇.智能控制及其MATLAB實(shí)現(xiàn)[M].北京：電子工業(yè)出版社，2005.

[5]張德豐.MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)[M].北京：機(jī)械工業(yè)出版社，2009.

[6]劉金琨.先進(jìn)PID控制及其MATLAB仿真[M].北京：電子工業(yè)出版社，2003.

[7]劉玲.三容水箱的單神經(jīng)元自適應(yīng)PID控制研究[J].信息技術(shù)，2005，3（8）：32-137.

第3篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞 直覺模糊邏輯；直覺模糊規(guī)則；區(qū)間值描述；自適應(yīng)直覺模糊神經(jīng)網(wǎng)絡(luò)

中圖分類號：TP183 文獻(xiàn)標(biāo)識碼：A 文章編號：1671-7597（2013）24-0045-02

基于自適應(yīng)網(wǎng)絡(luò)的模糊推理系統(tǒng)（ANFIS）采用反向傳播算法和最小二乘法調(diào)整模糊推理系統(tǒng)的參數(shù)，并能自動產(chǎn)生模糊規(guī)則，堪稱模糊神經(jīng)網(wǎng)絡(luò)的經(jīng)典之作。自此，由于自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)通過控制模糊規(guī)則的自動生成和修剪，可得到一個規(guī)則數(shù)更小和泛化能力更佳的網(wǎng)絡(luò)結(jié)構(gòu)，動態(tài)模糊神經(jīng)網(wǎng)絡(luò)就成為模糊神經(jīng)網(wǎng)絡(luò)研究的熱點(diǎn)。為了克服動態(tài)模糊神經(jīng)網(wǎng)絡(luò)的高斯隸屬度函數(shù)的不足，文獻(xiàn)[1]在采用橢圓基函數(shù)使隸屬函數(shù)寬度自適應(yīng)輸入變量的基礎(chǔ)上，提出廣義動態(tài)模糊神經(jīng)網(wǎng)絡(luò)（GD-FNN）。Gang等進(jìn)一步將隸屬函數(shù)寬度自適應(yīng)于神經(jīng)元，提出一種結(jié)構(gòu)更為緊湊的自組織模糊神經(jīng)網(wǎng)絡(luò)（SOFNN）。

直覺模糊集是對模糊集最有影響的擴(kuò)展，語義描述上具有獨(dú)到的優(yōu)勢，并成功拓展到模糊推理、信息決策、非線性計(jì)算等領(lǐng)域。本文針對T-S模糊規(guī)則在語義描述上存在不足，在Xu最近提出的直覺模糊數(shù)運(yùn)算的基礎(chǔ)上給出了一種適合網(wǎng)絡(luò)計(jì)算的直覺模糊規(guī)則，并將動態(tài)模糊神經(jīng)網(wǎng)絡(luò)拓展，提出了一種自適應(yīng)直覺模糊神經(jīng)網(wǎng)（AIFNN）結(jié)構(gòu)。

1 直覺模糊邏輯和規(guī)則

模糊集的隸屬函數(shù)值僅是一個單一值，不能同時描述支持、反對和猶豫。20世紀(jì)80年代末，Atanassov對Zadeh的模糊集合概念進(jìn)行了一系列的拓展，提出了直覺模糊集的概念和理論。Gau于1993年提Vague集合理論，并構(gòu)造了Vague集隸屬度的子區(qū)間描述。最近，徐澤水教授提出了基于隸屬度的區(qū)間值描述的直覺模糊集，并在直覺模糊集上構(gòu)造了一系列運(yùn)算規(guī)則。

定義1：（直覺模糊集）設(shè)是一個給定論域，則上的一個直覺模糊集為

（1）

其中定義隸屬函數(shù)為：

非隸屬函數(shù)為：

且恒有

并定義猶豫度或不確定度為：

定義2：（基于Vague集隸屬度的直覺模糊集）設(shè)為上的一個Vague集，則的隸屬函數(shù)滿足：

（2）

即為[0，1]的子區(qū)間，重新定義直覺模糊集為，其中滿足式（1），當(dāng)退化為模糊集。

定義3：（基于區(qū)間值描述的直覺模糊規(guī)則）設(shè)區(qū)間值為神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中定義2給定的直覺模糊數(shù)區(qū)間值表示，表示直覺模糊數(shù)的隸屬度中心，表示直覺模糊數(shù)的隸屬度寬度，且滿足

如是自然的將T-S模糊神經(jīng)網(wǎng)絡(luò)規(guī)則拓展為直覺模糊規(guī)則，具有以下的形式：

（3）

其中是直覺模糊集，為輸入變量數(shù)，是直覺模糊規(guī)則數(shù)。

2 AIFNN結(jié)構(gòu)和直覺模糊算子的數(shù)值計(jì)算

AIFNN的結(jié)構(gòu)是一個六層的網(wǎng)絡(luò)結(jié)構(gòu)，如圖1所示。

圖1 AIFNN的結(jié)構(gòu)

第一層：輸入層，每個節(jié)點(diǎn)分別表示一個輸入語言變量。

第二層：隸屬函數(shù)層，每個節(jié)點(diǎn)分別表示一個直覺模糊隸屬函數(shù)。隸屬函數(shù)如下式所示：

（4）

其中，作為高斯隸屬函數(shù)的中心，和 （ ）是高斯隸屬函數(shù)的寬度。因此，節(jié)點(diǎn)隸屬度函數(shù)的區(qū)間值輸出。

第三層：范數(shù)層，每個節(jié)點(diǎn)分別代表一條直覺模糊規(guī)則中的if部分，采用一個簡化的直覺模糊Bonferroni平均算子，第個節(jié)點(diǎn)的條件輸出為區(qū)間值：

（5）

第四層：結(jié)論層，每個節(jié)點(diǎn)分別代表一條直覺模糊規(guī)則中的then部分，采用直覺模糊權(quán)重平均算子的變形，計(jì)算第個節(jié)點(diǎn)的結(jié)論輸出為一區(qū)間值：

（6）

第五層：輸出處理層，輸出為，通過面積中心法進(jìn)行求解，如下式所示：

（7）

其中和由歸一化計(jì)算隸屬度函數(shù)求得：

（8）

第六層：輸出層，每一個節(jié)點(diǎn)都與一個語言變量相關(guān)聯(lián)，通過去模糊化算子計(jì)算輸出。

（9）

3 基于AIFNN的非線性函數(shù)逼近

通過典型的非線性函數(shù)逼近驗(yàn)證AIFNN算法的有效性，其試驗(yàn)效果圖如圖2所示。從圖（a）可以看出，規(guī)則是一條一條地生成的；從圖（b）可以看出，均方根誤差陡峭的地方，表明該處生成了或刪除了規(guī)則；圖（c）為訓(xùn)練集的目標(biāo)值和AIFNN輸出的實(shí)際值的比較，期望值與實(shí)際值基本重合在一起；圖（d）為訓(xùn)練集目標(biāo)值與AIFNN輸出的實(shí)際值之間的誤差；圖（e）為測試集的目標(biāo)值和AIFNN輸出的實(shí)際值的比較；圖（f）為測試集目標(biāo)值與AIFNN輸出的實(shí)際值之間的誤差。

為評估非線性函數(shù)逼近性能，采用誤差平均百分比（APE）度量算法性能。

定義如下：

（10）

其中為第個樣本的理想目標(biāo)值，為第個樣本的網(wǎng)絡(luò)實(shí)際輸出。

采用典型的三變量非線性函數(shù)為例，描述如下：

（11）

在定義域中隨機(jī)選取216個訓(xùn)練樣本和125個測試樣本。

表1 非線性函數(shù)逼近性能比較

算法 規(guī)則數(shù)目 參數(shù)數(shù)目 訓(xùn)練APE 測試APE

ANFIS 8 50 0.043 1.066

GD-FNN 10 64 2.11 1.54

SOFNN 9 60 1.1380 1.1244

FAOS-PFNN 7 35 1.89 2.95

AIFNN 5 50 0.7420 0.9051

從表1可以看出，AIFNN生成的規(guī)則數(shù)最小，測試的APE最小，因此，生成的網(wǎng)絡(luò)具有結(jié)構(gòu)最緊湊和泛化性能最佳的特點(diǎn)。相對于GD-FNN和SOFNN性能顯著提高，究其原因，高斯隸屬函數(shù)的寬度對網(wǎng)絡(luò)的結(jié)構(gòu)和泛化能力影響巨大。AIFNN采用UKF學(xué)習(xí)高斯隸屬函數(shù)寬度的環(huán)節(jié)，減小了對初值的依賴，并且精度能夠達(dá)到二階以上。更重要的是，AIFNN將高斯隸屬函數(shù)的寬度定義為一個直覺模糊數(shù)的區(qū)間值表示，在不確定性表達(dá)和處理上更為靈活。

（a）規(guī)則的生成和刪除 （b）均方根誤差

（c）訓(xùn)練期望值與實(shí)際值 （d）訓(xùn)練函數(shù)值的誤差

（e）測試期望值與實(shí)際值 （f）測試函數(shù)值的誤差

圖2 AIFNN非線性函數(shù)逼近

4 結(jié)束語

本文提出了AIFNN的結(jié)構(gòu)，結(jié)構(gòu)辨識和參數(shù)學(xué)習(xí)同時進(jìn)行，采用動態(tài)的模糊規(guī)則的修剪策略。AIFNN將高斯隸屬函數(shù)的寬度定義為一個直覺模糊數(shù)描述的區(qū)間值，在不確定性表達(dá)和處理上更為靈活。此外，AIFNN增加了一個用UKF學(xué)習(xí)高斯隸屬函數(shù)寬度的環(huán)節(jié)，減小了對初值的依賴，并且精度能夠達(dá)到二階以上。因此，AIFNN訓(xùn)練的網(wǎng)絡(luò)結(jié)構(gòu)更為緊湊，泛化性能更佳。通過函數(shù)逼近實(shí)例，表明本文算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)的有效性，并且性能具有整體優(yōu)勢。

第4篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

人腦是自生命誕生以來，生物經(jīng)過數(shù)十億年漫長歲月進(jìn)化的結(jié)果，是具有高度智能的復(fù)雜系統(tǒng)，它不必采用繁復(fù)的數(shù)字計(jì)算和邏輯運(yùn)算，卻能靈活處理各種復(fù)雜的，不精確的和模糊的信息，善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機(jī)制極其復(fù)雜，從結(jié)構(gòu)上看它是包含有140億神經(jīng)細(xì)胞的大規(guī)模網(wǎng)絡(luò)。單個神經(jīng)細(xì)胞的工作速度并不高（毫秒級），但它通過超并行處理使得整個系統(tǒng)實(shí)現(xiàn)處理的高速性和信息表現(xiàn)的多樣性。

因此，從信息處理的角度對人腦進(jìn)行探究，并由此研制出一種象人腦一樣能夠“思維”的智能計(jì)算機(jī)和智能信息處理方法，一直是人工智能追求的目標(biāo)。

神經(jīng)網(wǎng)絡(luò)就是通過對人腦的基本單元---神經(jīng)元的建模和聯(lián)結(jié)，來探索模擬人腦神經(jīng)系統(tǒng)功能的模型，并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。本文介紹神經(jīng)網(wǎng)絡(luò)的特征以及近年來有關(guān)神經(jīng)網(wǎng)絡(luò)和混沌理論、模糊計(jì)算和遺傳算法等相結(jié)合的混合神經(jīng)網(wǎng)絡(luò)探究的動態(tài)。

一．神經(jīng)網(wǎng)絡(luò)和聯(lián)結(jié)主義

回顧認(rèn)知科學(xué)的發(fā)展，有所謂符號主義和聯(lián)結(jié)主義兩大流派。符號主義從宏觀層次上，撇開人腦的內(nèi)部結(jié)構(gòu)和機(jī)制，僅從人腦外在表現(xiàn)出來的智能現(xiàn)象出發(fā)進(jìn)行探究。例如，將記憶、判定、推理、學(xué)習(xí)等心理活動總結(jié)成規(guī)律、甚至編制成規(guī)則，然后用計(jì)算機(jī)進(jìn)行模擬，使計(jì)算機(jī)表現(xiàn)出各種智能。

符號主義認(rèn)為，熟悉的基本元素是符號，認(rèn)知過程是對符號表示的運(yùn)算。人類的語言，文字的思維均可用符號來描述，而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實(shí)現(xiàn)的系統(tǒng)具有串行、線性、準(zhǔn)確、簡潔、易于表達(dá)的特征，體現(xiàn)了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計(jì)算機(jī)探究計(jì)劃就是其主要代表。

聯(lián)接主義則和其不同，其特征是從微觀出發(fā)。聯(lián)接主義認(rèn)為符號是不存在的，認(rèn)知的基本元素就是神經(jīng)細(xì)胞（神經(jīng)元），認(rèn)知過程是大量神經(jīng)元的聯(lián)接，以及這種聯(lián)接所引起的神經(jīng)元的不同興奮狀態(tài)和系統(tǒng)所表現(xiàn)出的總體行為。八十年代再度興起的神經(jīng)網(wǎng)絡(luò)和神經(jīng)計(jì)算機(jī)就是這種聯(lián)接主義的代表。

神經(jīng)網(wǎng)絡(luò)的主要特征是摘要：大規(guī)模的并行處理和分布式的信息存儲，良好的自適應(yīng)、自組織性，以及很強(qiáng)的學(xué)習(xí)功能、聯(lián)想功能和容錯功能。和當(dāng)今的馮．諾依曼式計(jì)算機(jī)相比，更加接近人腦的信息處理模式。主要表現(xiàn)如下摘要：

神經(jīng)網(wǎng)絡(luò)能夠處理連續(xù)的模擬信號。例如連續(xù)灰度變化的圖象信號。

能夠處理混沌的、不完全的、模糊的信息。

傳統(tǒng)的計(jì)算機(jī)能給出精確的解答，神經(jīng)網(wǎng)絡(luò)給出的是次最優(yōu)的逼近解答。

神經(jīng)網(wǎng)絡(luò)并行分布工作，各組成部分同時參和運(yùn)算，單個神經(jīng)元的動作速度不高，但總體的處理速度極快。

神經(jīng)網(wǎng)絡(luò)信息存儲分布于全網(wǎng)絡(luò)各個權(quán)重變換之中，某些單元障礙并不影響信息的完整，具有魯棒性。

傳統(tǒng)計(jì)算機(jī)要求有準(zhǔn)確的輸入條件，才能給出精確解。神經(jīng)網(wǎng)絡(luò)只要求部分條件，甚至對于包含有部分錯誤的輸入，也能得出較好的解答，具有容錯性。

神經(jīng)網(wǎng)絡(luò)在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機(jī)器人控制等方面有優(yōu)勢。

符號主義和聯(lián)接主義兩者各有特色，學(xué)術(shù)界目前有一種看法摘要：認(rèn)為基于符號主義得傳統(tǒng)人工智能和基于聯(lián)接主義得神經(jīng)網(wǎng)絡(luò)是分別描述人腦左、右半腦的功能，反映了人類智能的兩重性摘要：精確處理和非精確處理，分別面向熟悉的理性和感性兩個方面，兩者的關(guān)系應(yīng)該是互補(bǔ)而非互相代替。理想的智能系統(tǒng)及其表現(xiàn)的智能行為應(yīng)是兩者相互結(jié)合的結(jié)果。

接下去的新問題是，符號AI和聯(lián)接AI具體如何結(jié)合，兩者在智能系統(tǒng)中相互關(guān)系如何？分別扮演什么角色？目前這方面發(fā)表的文獻(xiàn)很多，大致有如下幾種類型摘要：

1．松耦合模型摘要：符號機(jī)制的專家系統(tǒng)和聯(lián)接機(jī)制的神經(jīng)網(wǎng)絡(luò)通過一個中間媒介（例如數(shù)據(jù)文件）進(jìn)行通訊。

2．緊耦合模型摘要：和松耦合模型相比較，其通訊不是通過外部數(shù)據(jù)進(jìn)行，而是直接通過內(nèi)部數(shù)據(jù)完成，具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結(jié)構(gòu)等。

3．轉(zhuǎn)換模型摘要：將專家系統(tǒng)的知識轉(zhuǎn)換成神經(jīng)網(wǎng)絡(luò)，或把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換成專家系統(tǒng)的知識，轉(zhuǎn)換前的系統(tǒng)稱為源系統(tǒng)，轉(zhuǎn)換后的系統(tǒng)稱為目標(biāo)系統(tǒng)，由一種機(jī)制轉(zhuǎn)成另一種機(jī)制。假如源系統(tǒng)是專家系統(tǒng)，目標(biāo)系統(tǒng)是神經(jīng)網(wǎng)絡(luò)，則可獲得學(xué)習(xí)能力及自適應(yīng)性；反之，可獲得單步推理能力、解釋能力及知識的顯式表示。當(dāng)然，轉(zhuǎn)換需要在兩種的機(jī)制之間，確定結(jié)構(gòu)上的一致性，目前主要新問題是還沒有一種完備而精確的轉(zhuǎn)換方法實(shí)現(xiàn)兩者的轉(zhuǎn)換。有待進(jìn)一步探究。

4．綜合模型摘要：綜合模型共享數(shù)據(jù)結(jié)構(gòu)和知識表示，這時聯(lián)接機(jī)制和符號機(jī)制不再分開，兩者相互結(jié)合成為一個整體，既具有符號機(jī)制的邏輯功能，又有聯(lián)接機(jī)制的自適應(yīng)和容錯性的優(yōu)點(diǎn)和特征。例如聯(lián)接主義的專家系統(tǒng)等。

近年來神經(jīng)網(wǎng)絡(luò)探究的另一個趨向，是將它和模糊邏輯、混沌理論、遺傳進(jìn)化算法等相結(jié)合，即所謂“混合神經(jīng)網(wǎng)絡(luò)”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法，人們希望通過她們之間的相互結(jié)合，能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。

二．混沌理論和智能信息處理

混沌理論是對貌似無序而實(shí)際有序，表面上看來是雜亂無章的現(xiàn)象中，找出其規(guī)律，并予以處理的一門學(xué)科。早在七十年代，美國和歐洲的一些物理學(xué)家、生物學(xué)家、數(shù)學(xué)家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯(lián)系。生物學(xué)家發(fā)現(xiàn)在人類的心臟中有混沌現(xiàn)象存在，血管在顯微鏡下交叉纏繞，其中也有驚人的有序性。在生物腦神經(jīng)系統(tǒng)中從微觀的神經(jīng)膜電位到宏觀的腦電波，都可以觀察到混沌的性態(tài)，證實(shí)混沌也是神經(jīng)系統(tǒng)的正常特性。

九十年代開始，則更進(jìn)一步將混沌和神經(jīng)網(wǎng)絡(luò)結(jié)合起來，提出多種混沌神經(jīng)網(wǎng)絡(luò)模型，并探索應(yīng)用混沌理論的各種信息處理方法。例如，在神經(jīng)元模型中，引入神經(jīng)膜的不應(yīng)性，探究神經(jīng)元模型的混沌響應(yīng)，探究在神經(jīng)網(wǎng)絡(luò)的方程中，不應(yīng)性項(xiàng)的定標(biāo)參數(shù)，不定性時間衰減常數(shù)等參數(shù)的性質(zhì)，以及這些參數(shù)于神經(jīng)網(wǎng)絡(luò)混沌響應(yīng)的關(guān)系，并確定混沌---神經(jīng)網(wǎng)絡(luò)模型具有混沌解的參數(shù)空間。經(jīng)過試驗(yàn)，由這種混沌神經(jīng)網(wǎng)絡(luò)模型所繪出的輸出圖形和腦電圖極為相似。

現(xiàn)代腦科學(xué)把人腦的工作過程看成為復(fù)雜的多層次的混沌動力學(xué)系統(tǒng)。腦功能的物理基礎(chǔ)是混沌性質(zhì)的過程，腦的工作包含有混沌的性質(zhì)。通過混沌動力學(xué)，探究、分析腦模型的信息處理能力，可進(jìn)一步探索動態(tài)聯(lián)想記憶、動態(tài)學(xué)習(xí)并應(yīng)用到模式識別等工程領(lǐng)域。例如摘要：

對混沌的隨機(jī)不規(guī)則現(xiàn)象，可利用混沌理論進(jìn)行非線性猜測和決策。

對被噪聲所掩蓋的微弱信號，假如噪聲是一種混沌現(xiàn)象，則可通過非線性辨識，有效進(jìn)行濾波。

利用混沌現(xiàn)象對初始值的敏銳依靠性，構(gòu)成模式識別系統(tǒng)。

探究基于混沌---神經(jīng)網(wǎng)絡(luò)自適應(yīng)存儲檢索算法。該算法主要包括三個步驟，即摘要：特征提取、自適應(yīng)學(xué)習(xí)和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結(jié)構(gòu)來描述，這種分支結(jié)構(gòu)有可能通過少數(shù)幾個系統(tǒng)參數(shù)的變化來加以控制，使復(fù)雜新問題簡單化。自適應(yīng)學(xué)習(xí)采用神經(jīng)網(wǎng)絡(luò)的誤差反傳學(xué)習(xí)法。檢索過程是通過一個具有穩(wěn)定吸引子的動力學(xué)系統(tǒng)來完成，即利用輸入的初始條件和某個吸引子（輸出）之間的存在直接對應(yīng)關(guān)系的方法進(jìn)行檢索。利用這種方法可應(yīng)用于模式識別。例如黑白圖象的人臉識別。

三．模糊集理論和模糊工程

八十年代以來在模糊集理論和應(yīng)用方面，也有很大進(jìn)展。1983年美國西海岸AI探究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場，1986年美國將模糊邏輯導(dǎo)入OPS---5，并探究成功模糊專家系統(tǒng)外殼FLOPS，1987年英國發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外，各國還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實(shí)際應(yīng)用于智能控制、模式識別、醫(yī)療診斷、故障檢測等方面。

模糊集理論和神經(jīng)網(wǎng)絡(luò)雖然都屬于仿效生物體信息處理機(jī)制以獲得柔性信息處理功能的理論，但兩者所用的探究方法卻大不相同，神經(jīng)網(wǎng)絡(luò)著眼于腦的微觀網(wǎng)絡(luò)結(jié)構(gòu)，通過學(xué)習(xí)、自組織化和非線性動力學(xué)理論形成的并行分析方法，可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能，按照人為引入的隸屬度函數(shù)，邏輯的處理包含有模糊性的語言信息。

神經(jīng)網(wǎng)絡(luò)和模糊集理論目標(biāo)相近而方法各異。因此假如兩者相互結(jié)合，必能達(dá)到取長補(bǔ)短的功能。將模糊和神經(jīng)網(wǎng)絡(luò)相結(jié)合的探究，約在15年前便已在神經(jīng)網(wǎng)絡(luò)領(lǐng)域開始，為了描述神經(jīng)細(xì)胞模型，開始采用模糊語言，把模糊集合及其運(yùn)算用于神經(jīng)元模型和描述神經(jīng)網(wǎng)絡(luò)系統(tǒng)。目前，有關(guān)模糊---神經(jīng)網(wǎng)絡(luò)模型的探究大體上可分為兩類摘要：一類是以神經(jīng)網(wǎng)絡(luò)為主，結(jié)合模糊集理論。例如，將神經(jīng)網(wǎng)絡(luò)參數(shù)模糊化，采用模糊集合進(jìn)行模糊運(yùn)算。另一類以模糊集、模糊邏輯為主，結(jié)合神經(jīng)網(wǎng)絡(luò)方法，利用神經(jīng)網(wǎng)絡(luò)的自組織特性，達(dá)到柔性信息處理的目的。

和神經(jīng)網(wǎng)絡(luò)相比，模糊集理論和模糊計(jì)算是更接近實(shí)用化的理論，非凡近年來美國和日本的各大公司都紛紛推出各種模糊芯片，研制了型號繁多的模糊推理板，并實(shí)際應(yīng)用于智能控制等各個應(yīng)用領(lǐng)域，建立“模糊工程”這樣一個新領(lǐng)域。日本更首先在模糊家電方面打開市場，帶有模糊控制，甚至標(biāo)以神經(jīng)---模糊智能控制的洗衣機(jī)、電冰箱、空調(diào)器、攝象機(jī)等已成為新一代家電的時髦產(chǎn)品。我國目前市場上也有許多洗衣機(jī)，例如榮事達(dá)洗衣機(jī)就是采用模糊神經(jīng)網(wǎng)絡(luò)智能控制方式的洗衣機(jī)。

四．遺傳算法

遺傳算法（GeneticAlgorithm摘要：GA）是模擬生物的進(jìn)化現(xiàn)象（自然、淘汰、交叉、忽然變異）的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現(xiàn)象的工程模型。

GA的歷史可追溯到1960年，明確提出遺傳算法的是1975年美國Michigan大學(xué)的Holland博士，他根據(jù)生物進(jìn)化過程的適應(yīng)現(xiàn)象，提出如下的GA模型方案摘要：

1．將多個生物的染色體（Chromosmoe）組成的符號集合，按文字進(jìn)行編碼，稱為個體。

2．定義評價(jià)函數(shù)，表示個體對外部環(huán)境的適應(yīng)性。其數(shù)值大的個體表示對外部環(huán)境的適應(yīng)性高，它的生存（子孫的延續(xù)）的概率也高。

3．每個個體由多個“部分”組合而成，每個部分隨機(jī)進(jìn)行交叉及忽然變異等變化，并由此產(chǎn)生子孫（遺傳現(xiàn)象）。

4．個體的集合通過遺傳，由選擇淘汰產(chǎn)生下一代。

遺傳算法提出之后，很快得到人工智能、計(jì)算機(jī)、生物學(xué)等領(lǐng)域科學(xué)家的高度重視，并在各方面廣泛應(yīng)用。1989年美國Goldberg博士發(fā)表一本專著摘要：“GeneticAlgorithmsinSearch，OptimizationandMachineLearning”。出版后產(chǎn)生較大影響，該書對GA的數(shù)學(xué)基礎(chǔ)理論，GA的基本定理、數(shù)理分析以及在搜索法、最優(yōu)化、機(jī)器學(xué)習(xí)等GA應(yīng)用方面進(jìn)行了深入淺出的介紹，并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會議”（ICGA）。以后每隔兩年召開一次。近年來，遺傳算法發(fā)展很快，并廣泛應(yīng)用于信息技術(shù)的各個領(lǐng)域，例如摘要：

智能控制摘要：機(jī)器人控制。機(jī)器人路徑規(guī)劃。

工程設(shè)計(jì)摘要：微電子芯片的布局、布線；通信網(wǎng)絡(luò)設(shè)計(jì)、濾波器設(shè)計(jì)、噴氣發(fā)動機(jī)設(shè)計(jì)。

圖象處理摘要：圖象恢復(fù)、圖象識別、特征抽取。

調(diào)度規(guī)劃摘要：生產(chǎn)規(guī)劃、調(diào)度新問題、并行機(jī)任務(wù)分配。

優(yōu)化理論摘要：TSP新問題、背包新問題、圖劃分新問題。

人工生命摘要：生命的遺傳進(jìn)化以及自增殖、自適應(yīng)；免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的探究。

神經(jīng)網(wǎng)絡(luò)、模糊集理論和以遺傳算法為代表的進(jìn)化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標(biāo)相近而方法各異；將它們相互結(jié)合，必能達(dá)到取長補(bǔ)短、各顯優(yōu)勢的效果。例如，遺傳算法和神經(jīng)網(wǎng)絡(luò)和模糊計(jì)算相結(jié)合方面就有摘要：

神經(jīng)網(wǎng)絡(luò)連續(xù)權(quán)的進(jìn)化。

傳統(tǒng)神經(jīng)網(wǎng)絡(luò)如BP網(wǎng)絡(luò)是通過學(xué)習(xí)，并按一定規(guī)則來改變數(shù)值分布。這種方法有練習(xí)時間過長和輕易陷入局部優(yōu)化的新問題。采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)可以克服這個缺點(diǎn)。

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化。

目前神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)全靠設(shè)計(jì)者的經(jīng)驗(yàn)，由人事先確定，還沒有一種系統(tǒng)的方法來確定網(wǎng)絡(luò)結(jié)構(gòu)，采用遺傳算法可用來優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的進(jìn)化。

第5篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)模糊控制PID控制

0 引言

隨著我國市場經(jīng)濟(jì)的迅速發(fā)展，水對人民生活與工業(yè)生產(chǎn)的影響日益加強(qiáng)，與此同時用戶對供水系統(tǒng)可靠性和供水質(zhì)量的要求也越來越高；另外，資源的緊缺和人們環(huán)保意識的增加，如何把先進(jìn)的自動化技術(shù)、控制技術(shù)、通訊及網(wǎng)絡(luò)技術(shù)等應(yīng)用到供水領(lǐng)域，成為對供水系統(tǒng)的新要求，因此無論是在性能方面考慮還是在節(jié)能方面考慮，供水系統(tǒng)都需要巨大的變革。

1 傳統(tǒng)控制策略

由于變頻調(diào)速恒壓供水系統(tǒng)具有典型的大延遲性、非線性，而且城市用水具有季節(jié)性、時間性、水壓擾動量大等特點(diǎn)。因此，雖然統(tǒng)治工業(yè)控制領(lǐng)域多年的傳統(tǒng)PID控制有很多優(yōu)點(diǎn)并且長期應(yīng)用于供水系統(tǒng)，但是其固定參數(shù)模式致使其不適宜應(yīng)用于恒壓供水系統(tǒng)。由于PID控制擁有很多較好的優(yōu)點(diǎn)，諸如：原理簡單，使用方便，適應(yīng)強(qiáng)，魯棒性強(qiáng)等優(yōu)點(diǎn)。因此在工業(yè)控制中人們往往還是會想到PID控制。根據(jù)被控對象的不同制定合適的KP、KI、KD參數(shù)，可以獲得滿意的控制效果。然而，PID控制并非盡如人意，因?yàn)镻ID控制適合系統(tǒng)模型非時變的情況。對于一個時變系統(tǒng)，由于PID的參數(shù)不會隨系統(tǒng)變化而動態(tài)的調(diào)整KP、KI、KD參數(shù)，這樣會使控制作用變差，甚至造成系統(tǒng)不穩(wěn)定。

與傳統(tǒng)PID控制相比，模糊控制具有很多優(yōu)點(diǎn)。模糊控制是建立在模糊數(shù)學(xué)基礎(chǔ)上的一種智能控制技術(shù)，可以達(dá)到傳統(tǒng)控制策略無法達(dá)到的效果。模糊控制能較好得跟隨系統(tǒng)狀態(tài)的變化動態(tài)調(diào)整自身控制參數(shù)，不需要建立精確的控制對象模型，因而在實(shí)際上的應(yīng)用越來越廣泛。

但是作為一門較為新型的控制科學(xué)，還沒有系統(tǒng)的方法來指導(dǎo)設(shè)計(jì)參數(shù)精良的模糊控制器。模糊控制器控制規(guī)則的確定以及其可調(diào)節(jié)性是對其控制效果影響最大的一方面。尤其是控制規(guī)則的合理制定是模糊控制中的重要部分。目前存在的主要問題是在建立模糊控制規(guī)則時要考慮若干參數(shù)的選擇是否合適，恰當(dāng)?shù)倪x擇參數(shù)是非常重要的。如在供水系統(tǒng)的水壓控制中，系統(tǒng)誤差和誤差變化率的動態(tài)范圍需要反復(fù)多次整定以滿足控制需要。

盡管模糊推理系統(tǒng)的設(shè)計(jì)（隸屬度函數(shù)及模糊規(guī)則的建立）不主要依靠對象的模型，但是它卻相當(dāng)依靠專家或操作人員的經(jīng)驗(yàn)和知識。若缺乏這樣的經(jīng)驗(yàn)和知識，則很難期望它能夠得到滿意的控制效果。神經(jīng)網(wǎng)絡(luò)的出現(xiàn)很好的彌補(bǔ)了這一缺陷。神經(jīng)網(wǎng)絡(luò)系統(tǒng)的一大特點(diǎn)就是其自學(xué)習(xí)功能，將這種自學(xué)習(xí)的方法應(yīng)用于對模糊特征的分析與建模上，產(chǎn)生了自適應(yīng)的神經(jīng)網(wǎng)絡(luò)技術(shù)。這種自適應(yīng)的神經(jīng)網(wǎng)絡(luò)技術(shù)對于模糊系統(tǒng)的模型建立是非常有效的工具。而自適應(yīng)神經(jīng)模糊系統(tǒng)就是基于數(shù)據(jù)的建模方法，該系統(tǒng)中的模糊隸屬度函數(shù)及模糊規(guī)則是通過對大量已知數(shù)據(jù)的學(xué)習(xí)得到的，而不是基于經(jīng)驗(yàn)或直覺任意給定的，這對于那些特性還不被人們所完全了解或者特性非常復(fù)雜的系統(tǒng)尤為重要。

神經(jīng)網(wǎng)絡(luò)可以與模糊控制相結(jié)合組成神經(jīng)網(wǎng)絡(luò)模糊控制，兩者各有所長，神經(jīng)網(wǎng)絡(luò)能夠通過給定的經(jīng)驗(yàn)集學(xué)習(xí)并生成映射規(guī)則，但其規(guī)則不可見；模糊控制制定的規(guī)則雖然可見，但是其自學(xué)習(xí)能力欠缺，導(dǎo)致其規(guī)則的動態(tài)調(diào)整不足。因此有必要將上述兩點(diǎn)結(jié)合。

2 新型控制策略

由于供水系統(tǒng)的非線性、大慣性及純滯后性等特點(diǎn)，很顯然單純依靠PID、模糊控制和神經(jīng)網(wǎng)絡(luò)控制都不能實(shí)現(xiàn)很好的控制效果。因此可以考慮應(yīng)用一種綜合的控制策略以實(shí)現(xiàn)對供水系統(tǒng)的良好控制?；诖吮疚奶岢隽艘环N新型控制策略――神經(jīng)模糊PID控制算法，該算法可以綜合以上各算法的優(yōu)點(diǎn)，它不僅具有神經(jīng)網(wǎng)絡(luò)控制的自學(xué)習(xí)自組織能力，還具有模糊控制的魯棒性強(qiáng)、適應(yīng)性強(qiáng)的優(yōu)點(diǎn)，另外還擁有PID控制的實(shí)現(xiàn)簡單方便等優(yōu)點(diǎn)，優(yōu)于以往的算法。

如圖顯示了神經(jīng)網(wǎng)絡(luò)模糊PID控制器的結(jié)構(gòu)框圖，該控制器是由三部分組成：

①神經(jīng)網(wǎng)絡(luò)控制器：控制模糊規(guī)則的動態(tài)調(diào)整，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)，使模糊規(guī)則的生成轉(zhuǎn)變?yōu)榧訖?quán)系數(shù)的確定和調(diào)節(jié)。根據(jù)供水系統(tǒng)的運(yùn)行狀態(tài)，調(diào)節(jié)PID控制器參數(shù)，使供水系統(tǒng)最終達(dá)到最優(yōu)控制。

②模糊控制器：對系統(tǒng)的輸入輸出變量進(jìn)行模糊化和歸一化運(yùn)算。這些運(yùn)算的意義是鑒于模糊控制的強(qiáng)魯棒性和非線性控制作用，對輸入到神經(jīng)網(wǎng)絡(luò)的模糊規(guī)則進(jìn)行預(yù)處理，避免了神經(jīng)網(wǎng)絡(luò)采用sigmoid激活函數(shù)時，由于輸入過大而導(dǎo)致輸出飽和。

③傳統(tǒng)PID控制器：直接對供水系統(tǒng)的控制過程進(jìn)行閉環(huán)控制，并且三個參數(shù)KP、KI、KD實(shí)行在線調(diào)節(jié)，使控制作用時刻跟蹤系統(tǒng)的變化。

以上過程簡要說來就是使輸出層神經(jīng)元的輸出狀態(tài)與PID控制器的KP、KI、KD參數(shù)相對應(yīng)，這樣可以通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力實(shí)現(xiàn)加權(quán)系數(shù)調(diào)整，進(jìn)而使其穩(wěn)定狀態(tài)與PID的最優(yōu)控制相對應(yīng)，最終利用PID控制器的輸出u來實(shí)現(xiàn)對供水系統(tǒng)的水壓的控制。

參考文獻(xiàn)：

[1]劉萍麗.交流變頻恒壓供水控制器的設(shè)計(jì).大連海事大學(xué)碩士學(xué)位論文.2005.

[2]謝靜，韋力.新型恒壓供水系統(tǒng)[J].應(yīng)用能源技術(shù)，11，2010：42-45.

作者簡介：

謝靜（1968-），女，陜西省咸陽市人，講師，碩士，研究方向：電工電子、控制工程理論及應(yīng)用

第6篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

1模糊系統(tǒng)的Takagi?Sugeno模型

模糊系統(tǒng)理論［11］是溝通經(jīng)典數(shù)學(xué)的精確性與現(xiàn)實(shí)世界中大量存在的不精確性之間的橋梁。它是以模糊集合的形式表示系統(tǒng)所含的模糊性并能處理這些模糊性的系統(tǒng)理論，能夠有效地處理系統(tǒng)的不確定性、測量的不精確性等模糊性。Takagi－Sugeno模糊系統(tǒng)（T－S模糊系統(tǒng)）作為函數(shù)模糊系統(tǒng)的一種特例，由于構(gòu)成的各條規(guī)則采用線性方程式作為結(jié)論，使得模型的全局輸出具有良好的數(shù)學(xué)表達(dá)特性，這在處理多變量系統(tǒng)時能有效地減少模糊規(guī)則個數(shù)，具有很大的優(yōu)越性［12］。其規(guī)則表達(dá)如下［13］：式中：Rj為第j條模糊規(guī)則；xi為模糊語言變量；Aij（xi）為xi的第j個語言變量值，它是定義在xi論域上的一個模糊集合，相應(yīng)的隸屬度函數(shù)為μjAi（xi）；pkji為模糊系統(tǒng)參數(shù)；yj為根據(jù)模糊規(guī)則得到的輸出；If部分是前提或前件，then部分是結(jié)論或后件。

2T?S模糊神經(jīng)網(wǎng)絡(luò)

模糊系統(tǒng)在模糊建模的過程中常存在學(xué)習(xí)能力缺乏，辨識過程復(fù)雜，模型參數(shù)優(yōu)化困難等問題。而人工神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和自適應(yīng)的能力，具有強(qiáng)大的非線性處理能力。二者的結(jié)合構(gòu)成模糊神經(jīng)網(wǎng)絡(luò)，可以有效地發(fā)揮模糊邏輯與神經(jīng)網(wǎng)絡(luò)的各自優(yōu)勢，彌補(bǔ)各自的不足［14］。

2．1T?S模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)基于標(biāo)準(zhǔn)型的T－S模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。第5層是輸出層，它所實(shí)現(xiàn)的是清晰化計(jì)算。T－S模糊神經(jīng)網(wǎng)絡(luò)由前件網(wǎng)絡(luò)和后件網(wǎng)絡(luò)兩部分組成。前件網(wǎng)絡(luò)用來匹配模糊規(guī)則的前件，其結(jié)構(gòu)與圖1的前4層結(jié)構(gòu)完全相同；后件網(wǎng)絡(luò)用來產(chǎn)生模糊規(guī)則的后件，由N個結(jié)構(gòu)相同的并列子網(wǎng)絡(luò)組成［15］。

2．2T?S模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法T－S模糊神經(jīng)網(wǎng)絡(luò)需要學(xué)習(xí)的參數(shù)主要有后件網(wǎng)絡(luò)的連接權(quán)pkki以及前件網(wǎng)絡(luò)第二層各結(jié)點(diǎn)隸屬函數(shù)的中心值ckj及寬度σkj。令上述T－S模型的參數(shù)pkji固定，則T－S模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)可簡化為圖1。簡化結(jié)構(gòu)本質(zhì)上也是一種多層前饋網(wǎng)絡(luò)，所以可仿照BP網(wǎng)絡(luò)用誤差反傳的方法來設(shè)計(jì)調(diào)整參數(shù)的學(xué)習(xí)算法［15］。

3應(yīng)用研究

以下通過實(shí)例介紹T－S模糊神經(jīng)網(wǎng)絡(luò)在地下水水質(zhì)評價(jià)中的應(yīng)用。

3．1研究區(qū)概況吉林省西部地區(qū)位于松嫩平原的西南部，地理坐標(biāo)為東經(jīng)123°09′～124°22′，北緯44°57′～45°46′。研究區(qū)東接吉林省長春市，南接四平市及遼寧省，西鄰，北接黑龍江省，東北以嫩江、松花江和拉林河與黑龍江省為界。吉林省西部屬半干旱半濕潤的大陸性季風(fēng)氣候區(qū)，四季變化明顯。該區(qū)多年平均氣溫3～6℃，多年平均降雨量為400～500mm。研究區(qū)大部分屬于松嫩盆地，該盆地為一個巨大的含水層系統(tǒng)，埋藏有多層含水層，包括孔隙潛水含水層和承壓水含水層（分別為淺層、中深層）、上第三系大安組、泰康組孔隙－裂隙含水層（深層）和白堊系下統(tǒng)及上統(tǒng)裂隙孔隙含水層（深層）。研究區(qū)的地下水補(bǔ)給來源主要為降水入滲，排泄以潛水蒸發(fā)和人工開采為主。

3．2原始數(shù)據(jù)原始數(shù)據(jù)取自于吉林西部2005年50個地下水水化學(xué)監(jiān)測點(diǎn)的水質(zhì)監(jiān)測數(shù)據(jù)，結(jié)合研究區(qū)地下水水質(zhì)狀況，有針對性地選擇了鐵、氨氮、硝酸鹽、亞硝酸鹽、硫酸鹽、氯化物、溶解性總固體、氟化物和總硬度共9項(xiàng)指標(biāo)作為評價(jià)因子。地下水水

3．3神經(jīng)網(wǎng)絡(luò)的準(zhǔn)備工作（1）訓(xùn)練樣本、檢驗(yàn)樣本及其期望目標(biāo)的生成。采用Mat－lab7．0的linspace函數(shù)在各級評價(jià)標(biāo)準(zhǔn)之間按隨機(jī)均勻分布方式內(nèi)插生成訓(xùn)練樣本。各級評價(jià)標(biāo)準(zhǔn)之間生成500個，共2000個訓(xùn)練樣本，以解決僅利用各級評價(jià)標(biāo)準(zhǔn)作為訓(xùn)練樣本，導(dǎo)致訓(xùn)練樣本數(shù)過少的問題［16］。檢驗(yàn)樣本用生成訓(xùn)練樣本同理的方法生成400個樣本。小于一級標(biāo)準(zhǔn)的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為按照生成訓(xùn)練樣本和檢驗(yàn)樣本的內(nèi)例產(chǎn)生對應(yīng)的0～1．5之間的數(shù)值；一、二級標(biāo)準(zhǔn)之間的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為按照生成訓(xùn)練樣本和檢驗(yàn)樣本的內(nèi)例產(chǎn)生對應(yīng)的1．5～2．5之間的數(shù)值；同理，二、三級和三、四級標(biāo)準(zhǔn)之間的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為2．5～3．5、3．5～4．5之間的數(shù)值。（2）水質(zhì)評價(jià)等級的劃分界限。據(jù)上述生成訓(xùn)練樣本與檢驗(yàn)樣本目標(biāo)輸出的思路可以確定一、二、三、四、五各級水的網(wǎng)絡(luò)輸出范圍分別為：＜1．5、1．5～2．5、2．5～3．5、3．5～4．5、＞4．5。（3）原始數(shù)據(jù)的預(yù)處理。利用Matlab7．0中的mapminmax函數(shù)將原始數(shù)據(jù)歸一化到0與1之間。

3．4T?S模糊神經(jīng)網(wǎng)絡(luò)的建立、訓(xùn)練、檢驗(yàn)及水質(zhì)評價(jià)

3．4．1T?S模糊神經(jīng)網(wǎng)絡(luò)的建立模糊神經(jīng)網(wǎng)絡(luò)的構(gòu)建根據(jù)訓(xùn)練樣本維數(shù)確定模糊神經(jīng)網(wǎng)絡(luò)輸入／輸出結(jié)點(diǎn)數(shù)、模糊隸屬度函數(shù)個數(shù)。由于輸入數(shù)據(jù)為9維，輸出數(shù)據(jù)為1維，通過試錯法確定模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為9－18－1，即有18個隸屬度函數(shù)。選擇10組系數(shù)p0－p9，模糊隸屬度函數(shù)中心和寬度c和σ隨機(jī)得到，通過動態(tài)BP算法對網(wǎng)絡(luò)的權(quán)值在線調(diào)整。隸屬度函數(shù)采用高斯函數(shù)，模糊推理采用sum－product［14］，解模糊采用加權(quán)平均法。網(wǎng)絡(luò)模型的概化如圖1所示。T－S模糊神經(jīng)網(wǎng)絡(luò)的第3層輸出為輸入數(shù)據(jù)的隸屬度函數(shù)；第4層輸出為第條規(guī)則的平均激活度；后件網(wǎng)絡(luò)實(shí)現(xiàn)了T－S模型模糊規(guī)則空間到輸出空間的映射，輸出為yj＝pkj0＋pjk1x1＋…＋pjkmxm和y＝∑αk×yj。

第7篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】模糊神經(jīng)網(wǎng)絡(luò)；建設(shè)工程；成本估算

當(dāng)前我國建設(shè)工程的規(guī)模和數(shù)量急劇增加，在社會信息化建設(shè)的背景下，建設(shè)工程也要適應(yīng)社會的需要加強(qiáng)建設(shè)管理部門的社會信息化建設(shè)。而工程項(xiàng)目的成本管理則是信息化建設(shè)的重要組成部分。原有的成本估算的方法，大多依靠工程造價(jià)管理人員的主觀經(jīng)驗(yàn)，但是在社會信息化背景下，這種估算方法已經(jīng)不能滿足工程建設(shè)精細(xì)化的需要，此時神經(jīng)模糊網(wǎng)絡(luò)系統(tǒng)結(jié)合了模糊理論和神經(jīng)網(wǎng)絡(luò)的優(yōu)勢開始出現(xiàn)，并逐漸成為當(dāng)今建設(shè)工程成本估算的主要應(yīng)用方法。模糊神經(jīng)網(wǎng)絡(luò)可以有效的處理非線性、模糊性的問題，擁有巨大的發(fā)展?jié)摿?。模糊神?jīng)網(wǎng)絡(luò)主要是由人工神經(jīng)系統(tǒng)和模糊系統(tǒng)結(jié)合而成。人工神經(jīng)網(wǎng)絡(luò)主要是模仿人腦的思維而形成，具有強(qiáng)大的自主學(xué)習(xí)和聯(lián)想的能力，但是卻不能很好的利用已有經(jīng)驗(yàn)，因此存在一定的局限性。而模糊系統(tǒng)，可以很容易的利用已有經(jīng)驗(yàn)，使問題推理的過程更加簡捷。所以兩者的結(jié)合，可以起到良好的優(yōu)勢互補(bǔ)的作用[1]。

一、模糊神經(jīng)網(wǎng)絡(luò)的基本狀況

1.模糊神經(jīng)網(wǎng)絡(luò)的產(chǎn)生

模糊神經(jīng)網(wǎng)絡(luò)最早出現(xiàn)在日本，時間大致為上世紀(jì)80年代末。經(jīng)過一段時間的發(fā)展，直到上世紀(jì)90年代初，歐美國家開始在此基礎(chǔ)上加深了模糊神經(jīng)網(wǎng)路在眾領(lǐng)域的應(yīng)用。目前模糊神經(jīng)網(wǎng)絡(luò)已經(jīng)被應(yīng)用到眾多領(lǐng)域中，如工業(yè)控制領(lǐng)域、模式識別應(yīng)用、軟件估算領(lǐng)域等。而軟件估算的應(yīng)用就是本文主要探討的應(yīng)用方面。

2.模糊神經(jīng)網(wǎng)絡(luò)的特征

模糊神經(jīng)網(wǎng)絡(luò)實(shí)際上是模糊技術(shù)和人工神經(jīng)技術(shù)有機(jī)結(jié)合的產(chǎn)物。這兩種技術(shù)方法可以有效的對信息進(jìn)行智能化處理。但是分開來看兩者之前存在明顯的優(yōu)勢互補(bǔ)的作用。具體的可以分為四個方面進(jìn)行比較：（1）知識表達(dá)。模糊技術(shù)在知識的表達(dá)上具有表達(dá)清晰，便于理解的優(yōu)勢，而人工神經(jīng)網(wǎng)絡(luò)卻存在知識表達(dá)不明確，不易理解的缺陷。（2）知識存儲。模糊技術(shù)的知識存儲特點(diǎn)是規(guī)則集中，而人工神經(jīng)網(wǎng)絡(luò)技術(shù)的存儲特點(diǎn)則為分布式存儲。（3）知識運(yùn)用。模糊技術(shù)在知識的運(yùn)用上具有計(jì)算量小的特點(diǎn)，而人工神經(jīng)技術(shù)卻正好相反具有計(jì)算量較大的優(yōu)勢。（4）知識獲取。模糊技術(shù)具有不能自動獲取的缺陷，而人工神經(jīng)系統(tǒng)卻可以自主進(jìn)行學(xué)習(xí) [2]。

二、模糊神經(jīng)網(wǎng)絡(luò)的建模應(yīng)用

（一）模糊神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)

模糊神經(jīng)網(wǎng)絡(luò)，通常是由n個輸入組合而成，并具有一定的結(jié)構(gòu)特征（如圖一所示）。模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)，主要由四個層次組成。

在函數(shù)式（1）和（2）中，W1和W2可以看做是輸入層到規(guī)則層的網(wǎng)絡(luò)權(quán)值矩陣；而W2和B矩陣則可以看做是模糊子集在函數(shù)中的具體參數(shù)。此時可以對W2和B進(jìn)行調(diào)節(jié)（即調(diào)節(jié)模糊子集在函數(shù)中的形狀），這樣做的目的是可以更好的對模糊規(guī)則進(jìn)行調(diào)整。

3.推理層

每一條If-Then規(guī)則在表達(dá)上可以將其表示成在模糊集空間上的一個相關(guān)的模糊蘊(yùn)涵關(guān)系。實(shí)際上模糊蘊(yùn)涵具有多樣的預(yù)算模式，而每一種不同的運(yùn)算模式都可以對不同的模糊算子進(jìn)行選擇，這樣便會產(chǎn)生多樣的模糊推理規(guī)則。比較經(jīng)常用到的規(guī)則通常有“乘積規(guī)則”以及“最大和最小的規(guī)則”，而再此設(shè)計(jì)中我們主要對“乘積規(guī)則”進(jìn)行具體利用。具體如下所示：我們設(shè)T為模糊的算子，此時經(jīng)過模糊推理的應(yīng)用，可以將此層的輸出表示為：

（二）網(wǎng)絡(luò)權(quán)值調(diào)整

對模糊邏輯的參數(shù)的具體網(wǎng)絡(luò)權(quán)值進(jìn)行調(diào)整的目的，是為了更好達(dá)到輸入和輸出的取值。通常情況下這種調(diào)節(jié)方法被稱作網(wǎng)絡(luò)的參數(shù)訓(xùn)練。而常用的訓(xùn)練方法則為遺傳算法。這種算法的形式主要是對生物進(jìn)行的過程進(jìn)行隨機(jī)抽取的通過交叉和變異以有效減少初始值的一種具有全局性特征的優(yōu)化方法，主要的實(shí)施步驟分為編碼、適配度、遺傳操作三個過程。

三、在建設(shè)工程成本估算中的具體應(yīng)用

例如我們可以基于組合模糊神經(jīng)網(wǎng)絡(luò)，來估算某一建筑工程的成本估算。首先要采集相關(guān)的樣本數(shù)據(jù)，然后經(jīng)過討論，選擇出對工程成本影響較大的因素（如建筑整體面積、建設(shè)層數(shù)、裝飾墻材料應(yīng)用、房間構(gòu)成等），將其設(shè)為X，此時可以看出建筑面積和建設(shè)的層數(shù)為一個確定的向量，設(shè)為X1，而裝飾墻材料應(yīng)用。

結(jié)語：

當(dāng)前，有效的簡化工程成本編制工作，完善成本估算數(shù)據(jù)的精確度的首要方法就是先進(jìn)的成本管理手段的運(yùn)用。而模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行工程成本估算的方法，具有簡捷、精確的特性，對于彌補(bǔ)我國建設(shè)工程成本管理中的問題，具有重要的應(yīng)用價(jià)值，需要通過我們不斷的努力，使其更好的應(yīng)用發(fā)展。

參考文獻(xiàn)：

[1] 郝勝蘭.基于模糊神經(jīng)網(wǎng)絡(luò)的房產(chǎn)軟件項(xiàng)目成本估算研究[D].大連海事大學(xué)，2012.

第8篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞:學(xué)生綜合素質(zhì)評價(jià);BP神經(jīng)網(wǎng)絡(luò);算法設(shè)計(jì)

中圖分類號:TP311文獻(xiàn)標(biāo)識碼:A文章編號:1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

學(xué)校德育教育是提高學(xué)生綜合素質(zhì)的重要一環(huán),在學(xué)校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數(shù)據(jù)處理,為了體現(xiàn)其科學(xué)性和公平性,采用先進(jìn)的計(jì)算機(jī)技術(shù)進(jìn)行學(xué)生綜合素質(zhì)量化評估勢在必行。

1 問題的提出

據(jù)調(diào)查,目前在學(xué)校里對學(xué)生素質(zhì)評價(jià)的方法,主要有以下幾種:

1) 定性描述法

在學(xué)期或?qū)W年結(jié)束時,班主任根據(jù)學(xué)生在班級、學(xué)校和社會活動中的行為表現(xiàn),運(yùn)用文字對學(xué)生的綜合素質(zhì)進(jìn)行描述,作為對學(xué)生的評價(jià)。這種方法在評價(jià)學(xué)生綜合素質(zhì)時起過一定的作用,但是,由于教師對學(xué)生綜合素質(zhì)評價(jià)的內(nèi)容不明確,要求不統(tǒng)一,帶有一定的主觀片面性和模糊性。

2) 等級劃分法

班主任根據(jù)平時對學(xué)生的觀察和了解,對學(xué)生的綜合素質(zhì)行為劃分出優(yōu)、良、中、差四個等級。它只能說明每個學(xué)生綜合素質(zhì)發(fā)展的程度,在班集體中所處的地位,但缺乏具體內(nèi)容,學(xué)生對于自己或他人的優(yōu)點(diǎn)和缺點(diǎn)、以及個人今后的努力方向都不明確。

3) 自我總結(jié)法

這種方法是以學(xué)生為主,在教師的指導(dǎo)下總結(jié)自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結(jié)欄內(nèi)。這種方法是以學(xué)生的自我評價(jià)為主,它對于提高學(xué)生的自我評價(jià)能力,具有一定的促進(jìn)作用。但是,由于沒有老師和同學(xué)們參加評價(jià),其評價(jià)結(jié)果缺乏客觀性。

4) 小組評議法

是以班級小組評議為主。通過開評議會的形式,對全組成員分別進(jìn)行評議,肯定成績,提出缺點(diǎn),最后把大家的意見集中起來,作為對學(xué)生的評價(jià)結(jié)果。它具有一定的客觀性,可是,沒有教師參加評議,影響了評價(jià)結(jié)果的可信度。

上述各種方法的都有一定的長處,也有一定的缺點(diǎn)。例如,對學(xué)生的綜合素質(zhì)的結(jié)構(gòu),沒有明確統(tǒng)一的規(guī)定和具體要求;不能同時吸收各方面的意見參加評價(jià);沒有制定較為符合需要的綜合素質(zhì)量表和采用科學(xué)的測量手段等等。所以,評價(jià)的結(jié)果往往帶有主觀片面性,評語內(nèi)容的不確定性,以及處在同一等級的同學(xué)之間存在差異的模糊性。于是最近又提出了對學(xué)生綜合素質(zhì)定量進(jìn)行測量和評價(jià)。

5) 定量分?jǐn)?shù)法

將構(gòu)成學(xué)生綜合素質(zhì)的各種因素?cái)?shù)量化,并制定出綜合素質(zhì)量表。在具體的進(jìn)行測量和評價(jià)時,把學(xué)生綜合素質(zhì)所含每種因素的發(fā)展程度分為優(yōu)、良、中、差四個等級,每個等級分別對應(yīng)一定的標(biāo)準(zhǔn)值。對不同因素確定不同的權(quán)重大小,再綜合學(xué)生每個因素所取得的標(biāo)準(zhǔn)值,最后得出學(xué)生的綜合素質(zhì)分。

用定量的方法對學(xué)生的綜合素質(zhì)發(fā)展程度進(jìn)行評價(jià)時,不同因素需要確定不同的權(quán)重大小。權(quán)重的大小對評估結(jié)果十分重要,它反映了各指標(biāo)的相對重要性。由于對不同的因素的權(quán)重是人為給定的,而學(xué)生綜合素質(zhì)的各項(xiàng)因素對學(xué)生的整體素質(zhì)存在不可確定的影響程度,因些在對學(xué)生的測量和評定過程中必然受到主觀因素及模糊隨機(jī)性的影響。并且這種方法需要消耗大量的人力和時間。

為了探討這個問題,我們根據(jù)BP神經(jīng)網(wǎng)絡(luò)的基本概念和原理,用神經(jīng)網(wǎng)絡(luò)自我學(xué)習(xí)的方法,對中學(xué)生綜合素質(zhì)進(jìn)行測量和評價(jià)。BP神經(jīng)網(wǎng)絡(luò)能利用經(jīng)驗(yàn)樣本對神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,達(dá)到神經(jīng)網(wǎng)絡(luò)的自我學(xué)習(xí),在網(wǎng)絡(luò)中自動建立一個多輸入變量與輸出變量間的非線性映射過程,無需建立具體的數(shù)學(xué)模型和規(guī)則,可以處理那些難以用模型或規(guī)則描述的過程或系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有自組織、自學(xué)習(xí)、自適應(yīng)的特點(diǎn),能通過連接權(quán)重的不斷調(diào)整,克服權(quán)重確定的困難,弱化人為因素,自動適應(yīng)信息、學(xué)習(xí)新知識,最終通過學(xué)習(xí)訓(xùn)練對實(shí)際學(xué)習(xí)樣本提出合理的求解規(guī)則,對學(xué)生的綜合素質(zhì)的整體評定具有十分重要的意義。首先我們來了解BP神經(jīng)網(wǎng)絡(luò)的基本原理。

2BP神經(jīng)網(wǎng)絡(luò)的基本原理

1) 神經(jīng)元網(wǎng)絡(luò)基本概念

神經(jīng)網(wǎng)絡(luò)是單個并行處理元素的集合,從生物學(xué)神經(jīng)系統(tǒng)得到啟發(fā)。在自然界,網(wǎng)絡(luò)功能主要由神經(jīng)節(jié)決定,可以通過改變連接點(diǎn)的權(quán)重來訓(xùn)練神經(jīng)網(wǎng)絡(luò)完成特定的功能。如圖1所示。這里,網(wǎng)絡(luò)將根據(jù)輸出和目標(biāo)的比較而進(jìn)行調(diào)整,直到網(wǎng)絡(luò)輸出和目標(biāo)匹配。

2) 神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)

圖2所示為一個單標(biāo)量輸入且無偏置的神經(jīng)元。

神經(jīng)元輸出計(jì)算公式為:a=f(wp+b)。神經(jīng)元中的w和b都是可調(diào)整的標(biāo)量參數(shù)?？梢赃x擇特定的傳輸函數(shù),通過調(diào)整權(quán)重 和偏置參量 訓(xùn)練神經(jīng)網(wǎng)絡(luò)做一定的工作,或者神經(jīng)網(wǎng)絡(luò)自己調(diào)整參數(shù)以得到想要的結(jié)果。

3) BP結(jié)構(gòu)及算法描述

在實(shí)際應(yīng)用中,神經(jīng)網(wǎng)絡(luò)用得最廣泛的是反向傳播網(wǎng)絡(luò)(BP網(wǎng)絡(luò)),典型的BP網(wǎng)絡(luò)是三層網(wǎng)絡(luò),包括輸入層、隱含層和輸出層,各層之間實(shí)行全連接。

BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微傳輸函數(shù)的多層網(wǎng)絡(luò)。網(wǎng)絡(luò)的學(xué)習(xí)過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經(jīng)元的狀態(tài)只影響到下一層神經(jīng)元網(wǎng)絡(luò),如果輸出層不能得到期望輸出,就是實(shí)際輸出值與期望輸出值之間有誤差,那么轉(zhuǎn)入反向傳播過程,將誤差信號沿原來的連接通路返回,通過修改各層神經(jīng)元的權(quán)值,逐次地向輸入層傳播去進(jìn)行計(jì)算,再經(jīng)過正向傳播過程,這兩個過程的反復(fù)運(yùn)用,使得誤差信號最小。實(shí)際上,誤差達(dá)到人們所希望的要求時,網(wǎng)絡(luò)的學(xué)習(xí)過程就結(jié)束了。

4) 反向傳播算法

反向傳播學(xué)習(xí)算法最簡單的應(yīng)用是沿著性能函數(shù)最速增加的方向一梯度的負(fù)方向更新權(quán)重和偏置。這種遞歸算法可以寫成:

xk+1=xk-ak*gk

這里xk是當(dāng)前權(quán)重和偏置向量,gk是當(dāng)前梯度,ak是學(xué)習(xí)速率。在神經(jīng)元中,學(xué)習(xí)速度又稱為“學(xué)習(xí)速率”,它決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量(即該值的存在是神經(jīng)元網(wǎng)絡(luò)的一個必須的參數(shù))。大的學(xué)習(xí)速度可能導(dǎo)致系統(tǒng)的不穩(wěn)定,但小的學(xué)習(xí)速度將會導(dǎo)致訓(xùn)練較長,收斂速度很慢,通常情況下取值在0-01～0,8之間。

3 基于BP神經(jīng)網(wǎng)絡(luò)的學(xué)生綜合素質(zhì)量化評估模型

從上述對神經(jīng)元網(wǎng)絡(luò)基本概念的研究,我們可以看出BP神經(jīng)網(wǎng)絡(luò)主要根據(jù)所提供的數(shù)據(jù),通過學(xué)習(xí)和訓(xùn)練,找出輸入與輸出之間的內(nèi)在聯(lián)系,從而求取問題的解,而不是完全依據(jù)對問題的經(jīng)驗(yàn)知識和規(guī)則,因而具有自適應(yīng)功能,這對于弱化權(quán)重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數(shù)據(jù),具有泛化功能和很強(qiáng)的容錯能力;由于實(shí)際對學(xué)生量化評估往往是非常復(fù)雜的,各個因素之間相互影響,呈現(xiàn)出復(fù)雜的非線性關(guān)系,人工神經(jīng)網(wǎng)絡(luò)為處理這類非線性問題提供了強(qiáng)有力的工具。因此與其它評定方法相比,基于神經(jīng)網(wǎng)絡(luò)的評價(jià)方法越來越顯示出它的優(yōu)越性。結(jié)合學(xué)校對學(xué)生進(jìn)行綜合素質(zhì)評估考核的具體問題,我們提出以下設(shè)計(jì)。

3.1量化評估內(nèi)容的確定

1) 確定學(xué)生的綜合素質(zhì)結(jié)構(gòu)

學(xué)生的綜合素質(zhì)結(jié)構(gòu),主要是根據(jù)一定歷史階段的社會要求、學(xué)校對學(xué)生的傳統(tǒng)要求,以及各個不同年齡階段學(xué)生心理和生理發(fā)展的特征來確定的,它具有一定的社會性、科學(xué)性、可行性。以教育部提出的職業(yè)學(xué)校學(xué)生發(fā)展目標(biāo)為依據(jù),評定內(nèi)容包括:道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動與健康、審美與表現(xiàn)、職業(yè)技能等6個層次。每個層次又包括各種因素,各層次和因素之間又是相互聯(lián)系和相互促進(jìn)的,它既反映了社會的、學(xué)校的具體要求,又符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律。當(dāng)然,在實(shí)際評價(jià)學(xué)生中,可以根據(jù)學(xué)校的實(shí)際特點(diǎn)進(jìn)一步確定各要素,進(jìn)一步構(gòu)成學(xué)生綜合素質(zhì)評價(jià)的綜合評價(jià)指標(biāo)體系。

2) 學(xué)生綜合素質(zhì)評價(jià)的結(jié)構(gòu)設(shè)計(jì)

用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)生綜合素質(zhì)評價(jià)結(jié)構(gòu)的設(shè)計(jì)如圖3所示。對學(xué)生的綜合素質(zhì)進(jìn)行量化評估時,從輸入層輸入評價(jià)學(xué)生綜合素質(zhì)的n個評價(jià)指標(biāo)因素信息,經(jīng)隱含層處理后傳入輸入層,其輸出值y即為學(xué)生評估結(jié)果。這n個評價(jià)指標(biāo)因素的設(shè)置,要考慮到能符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律,能全面評價(jià)學(xué)生的綜合素質(zhì)狀況。

網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)選擇十分重要,由于輸入層與隱含層神經(jīng)元個數(shù)的增加會增加網(wǎng)絡(luò)的表達(dá)能力,不僅會降低系統(tǒng)的性能,同時也會影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經(jīng)元的數(shù)目。為使模型即有理論價(jià)值又有可操作性,本例對應(yīng)于對學(xué)生綜合素質(zhì)考核結(jié)構(gòu)的六個因素,本文采用6個輸入神經(jīng)元,分別為道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動與健康、審美與表現(xiàn)、職業(yè)技能等評價(jià)指標(biāo)。由于目前隱單元數(shù)尚無一般的指導(dǎo)原則,為了兼顧網(wǎng)絡(luò)的學(xué)習(xí)能力和學(xué)習(xí)速度,隱含層神經(jīng)元的個數(shù)選擇采用試算法,在網(wǎng)絡(luò)訓(xùn)練過程中進(jìn)行調(diào)整。筆者首先選定15,用訓(xùn)練樣本來學(xué)習(xí),然后減少隱含層單元數(shù)后再進(jìn)行學(xué)習(xí),通過觀察訓(xùn)練誤差變化的大小來調(diào)整隱單元數(shù)。其原則是:若在減少隱單元數(shù)進(jìn)行訓(xùn)練時過程平衡(即逐步收斂并達(dá)到較小的誤差)且誤差無顯著增加,則說明減少隱單元數(shù)是合適的;否則表明隱單元數(shù)不宜減少,而應(yīng)增加隱單元數(shù)直到滿意為止。選擇一個輸入神經(jīng)元為學(xué)生綜合素質(zhì)最終評價(jià)結(jié)果,分別以0、0,5、1對應(yīng)于學(xué)生評議等級的優(yōu)、良、中三種不同的評價(jià)結(jié)果。經(jīng)過多次實(shí)驗(yàn),最后得到適宜的網(wǎng)絡(luò)模型為6-4-1網(wǎng)絡(luò)模式。

3.2 量化評估模型

1) 指標(biāo)體系的規(guī)范化處理

根據(jù)神經(jīng)網(wǎng)絡(luò)計(jì)算規(guī)則,為了保證輸出在線性部分,不到兩端去,應(yīng)保證輸入輸出在0-1之間,反傳達(dá)時也一樣,輸出應(yīng)在0~1之間。因此要將原始數(shù)據(jù)歸一預(yù)處理,變換為[0,1]區(qū)間的數(shù)值,得到規(guī)范化數(shù)據(jù),作為輸入輸出節(jié)點(diǎn)的樣本數(shù)據(jù)。原始數(shù)據(jù)采用我校高一年一個班級的50名學(xué)生的學(xué)生綜合素質(zhì)各項(xiàng)指標(biāo)因素樣本數(shù)據(jù),將實(shí)際數(shù)據(jù)分為兩組:前40名學(xué)生的各項(xiàng)指標(biāo)因素成績樣本數(shù)據(jù)作為學(xué)習(xí)樣本,后10名學(xué)生的成績數(shù)據(jù)作為測試樣本。

2) 學(xué)習(xí)算法

本模型采用6-4-1BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其中輸入層為6個指標(biāo)值和一個閾值。模型初始化時對所有的連接權(quán)賦予(0,1)上分布的隨機(jī)數(shù),閾值取1。權(quán)值的修正依據(jù)帶慣性因子的delta規(guī)則。根據(jù)多次試驗(yàn)的結(jié)果,其中,慣性因子α=0.075,學(xué)習(xí)率η=0.85,將樣本數(shù)據(jù)40組為一次循環(huán),每次循環(huán)記錄40組樣本中最大的學(xué)習(xí)誤差。經(jīng)過多次的學(xué)習(xí),最后觀察網(wǎng)絡(luò)輸入與期望輸出的相對誤差,當(dāng)誤差小于0.005時,學(xué)習(xí)結(jié)束?？梢缘玫饺绻龃髽颖镜膫€數(shù),精度還會進(jìn)一步提高。

本文探討了神經(jīng)網(wǎng)絡(luò)在學(xué)生綜合素質(zhì)評價(jià)上的應(yīng)用方法,可取得較為理想的結(jié)果,它可以解決用傳統(tǒng)統(tǒng)計(jì)方法不能或不易解決的問題。但是由于它是一種黑盒方法,無法表達(dá)和分析評估系統(tǒng)的輸入與輸出間的關(guān)系,因此也難于對所得結(jié)果作任何解釋,對求得的結(jié)果作統(tǒng)計(jì)檢驗(yàn);再者,采用神經(jīng)網(wǎng)絡(luò)作評價(jià)系統(tǒng)時,由沒有一個便于選定最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法,只能花大量時間采用湊試法,從許多次實(shí)驗(yàn)中找出“最合適”的一種;還有樣本數(shù)據(jù)需要足夠的多,才能得到較為理想的結(jié)果。

參考文獻(xiàn):

[1] 高長梅,趙承志,白昆榮.學(xué)校德育工作全書(上)[M].北京:人民日報(bào)出版社,2005.

[2] 聞新,周露,李翔,張寶偉.MATLAB神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用[M].北京:科學(xué)出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學(xué)出版社,2006.

第9篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

人工神經(jīng)網(wǎng)絡(luò)是近年來迅猛發(fā)展的前沿課題，它對突破現(xiàn)有科學(xué)技術(shù)的瓶頸起到重大的作用。本文剖析了人工神經(jīng)網(wǎng)絡(luò)的特征、模型結(jié)構(gòu)以及未來的發(fā)展趨勢。

【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò) 神經(jīng)元 矩陣

1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)（ANN）是一種用計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng)模擬生物神經(jīng)網(wǎng)絡(luò)的智能神經(jīng)系統(tǒng)，它是在現(xiàn)代神經(jīng)生物學(xué)研究成果的基礎(chǔ)上發(fā)展起來的，模擬人腦信息處理機(jī)制的一種網(wǎng)絡(luò)系統(tǒng)，它不但具有處理數(shù)值數(shù)據(jù)的計(jì)算能力，而且還具有處理知識的學(xué)習(xí)、聯(lián)想和記憶能力。

人工神經(jīng)網(wǎng)絡(luò)模擬了大腦神經(jīng)元的組織方式，反映了人腦的一些基本功能，為研究人工智能開辟了新的途徑。它具有以下基本特征：

1.1 并行分布性

因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)中的神經(jīng)元排列并不是雜亂無章的，往往是以一種有規(guī)律的序列排列，這種結(jié)構(gòu)非常適合并行計(jì)算。同時如果將每一個神經(jīng)元看作是一個基本的處理單元，則整個系統(tǒng)可以是一個分布式處理系統(tǒng)，使得計(jì)算快速。

1.2 可學(xué)習(xí)性和自適應(yīng)性

一個相對很小的人工神經(jīng)網(wǎng)絡(luò)可存儲大量的專家知識，并能根據(jù)學(xué)習(xí)算法，或利用指導(dǎo)系統(tǒng)模擬現(xiàn)實(shí)環(huán)境（稱為有教師學(xué)習(xí)），或?qū)斎脒M(jìn)行自適應(yīng)學(xué)習(xí)（稱為無教師學(xué)習(xí)），可以處理不確定或不知道的事情，不斷主動學(xué)習(xí)，不斷完善知識的存儲。

（3）魯棒性和容錯性

由于采用大量的神經(jīng)元及其相互連接，具有聯(lián)想映射與聯(lián)想記憶能力，容錯性保證網(wǎng)絡(luò)將不完整的、畸變的輸入樣本恢復(fù)成完整的原型，魯棒性使得網(wǎng)絡(luò)中的神經(jīng)元或突觸遭到破壞時網(wǎng)絡(luò)仍然具有學(xué)習(xí)和記憶能力，不會對整體系統(tǒng)帶來嚴(yán)重的影響。

1.3 泛化能力

人工神經(jīng)網(wǎng)絡(luò)是大規(guī)模的非線性系統(tǒng)，提供了系統(tǒng)協(xié)同和自組織的潛力，它能充分逼近任意復(fù)雜的非線性關(guān)系。如果輸入發(fā)生較小變化，則輸出能夠保持相當(dāng)小的差距。

1.4 信息綜合能力

任何知識規(guī)則都可以通過對范例的學(xué)習(xí)存儲于同一個神經(jīng)網(wǎng)絡(luò)的各連接權(quán)值中，能同時處理定量和定性的信息，適用于處理復(fù)雜非線性和不確定對象。

2 人工神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)是在對人腦思維方式研究的基礎(chǔ)上，將其抽象模擬反映人腦基本功能的一種并行處理連接網(wǎng)絡(luò)。神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本處理單元。

在神經(jīng)網(wǎng)絡(luò)的發(fā)展過程中，從不同角度對神經(jīng)網(wǎng)絡(luò)進(jìn)行了不同層次的描述和模擬，提出了各種各樣的神經(jīng)網(wǎng)絡(luò)模型，其中最具有代表性的神經(jīng)網(wǎng)絡(luò)模型有：感知器、線性神經(jīng)網(wǎng)絡(luò)、BP網(wǎng)絡(luò)、自組織網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)等等。

3 神經(jīng)元矩陣

神經(jīng)元矩陣是神經(jīng)網(wǎng)絡(luò)模型的一種新構(gòu)想，是專門為神經(jīng)網(wǎng)絡(luò)打造的一個矩陣，它符合神經(jīng)元的一切特征。

神經(jīng)元矩陣采用矩陣形式，它可為n維向量組成。引入向量觸頭和信使粒的概念，向量觸頭可生長，即長度可變，方向可變，信使?？伞坝问帯痹诰仃囍?，建立各種聯(lián)系。如圖1即是神經(jīng)元矩陣模型

（1）容器可產(chǎn)生一種無形的約束力，使系統(tǒng)得以形成，容器不是全封閉的，從而保證系統(tǒng)與外界的溝通和交互；各向量間可用相互作用的力來聯(lián)系，而各個信使粒則受控于容器、中空向量以及其它的信使粒。各神經(jīng)元之間自主交互，神經(jīng)元矩陣是一種多層次的管理，即一層管理一層。系統(tǒng)具有明顯的層級制和分塊制，每層每塊均獨(dú)立且協(xié)同工作，即每層每塊均含組織和自組織因素。

（2）向量觸頭是中空的，信使?？梢酝ㄟ^向量或存儲于向量中，所以又稱為中空向量。向量存儲了信使粒后，可以吸引更多的信使粒在附近，或使鄰近向量轉(zhuǎn)向、伸長，進(jìn)而形成相對穩(wěn)定的信息通路。

（3）當(dāng)兩條或更多的信息通路匯集時，可能伴隨著通路的增強(qiáng)、合并，以及信使粒的聚集、交換，這是神經(jīng)元矩陣運(yùn)算的一種主要形式。通路的形成過程，也就是是神經(jīng)元矩陣分塊、分層、形成聯(lián)接的過程，也為矩陣系統(tǒng)宏觀管理、層級控制的實(shí)現(xiàn)奠定了基礎(chǔ)。

神經(jīng)元矩陣亦是一種具有生物網(wǎng)絡(luò)特征的數(shù)學(xué)模型，綜合了數(shù)學(xué)上矩陣和向量等重要概念，是一種立體的矩陣結(jié)構(gòu)。尤其是將矩陣的分塊特性和向量的指向特征結(jié)合起來，更好的體現(xiàn)了神經(jīng)網(wǎng)絡(luò)的整體性和單元獨(dú)立性，系統(tǒng)的組織和自組織特征也更為凸顯。信使粒以“點(diǎn)”的數(shù)學(xué)概念，增強(qiáng)了系統(tǒng)的信息特征，尤其是增強(qiáng)了矩陣的存儲和運(yùn)算功能。

4 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展趨勢

人工神經(jīng)網(wǎng)絡(luò)是邊緣叉科學(xué)，它涉及計(jì)算機(jī)、人工智能、自動化、生理學(xué)等多個學(xué)科領(lǐng)域，研究它的發(fā)展具有非常重要意義。針對神經(jīng)網(wǎng)絡(luò)的社會需求以及存在的問題，今后神經(jīng)網(wǎng)絡(luò)的研究趨勢主要側(cè)重以下幾個方面。

4.1 增強(qiáng)對智能和機(jī)器關(guān)系問題的認(rèn)識

人腦是一個結(jié)構(gòu)異常復(fù)雜的信息系統(tǒng)，我們所知道的唯一智能系統(tǒng)，隨著信息論、控制論、計(jì)算機(jī)科學(xué)、生命科學(xué)的發(fā)展，人們越來越驚異于大腦的奇妙。對人腦智能化實(shí)現(xiàn)的研究，是神經(jīng)網(wǎng)絡(luò)研究今后的需要增強(qiáng)的地發(fā)展方向。

4.2 發(fā)展神經(jīng)計(jì)算和進(jìn)化計(jì)算的理論及應(yīng)用

利用神經(jīng)科學(xué)理論的研究成果，用數(shù)理方法探索智能水平更高的人工神經(jīng)網(wǎng)絡(luò)模型，深入研究網(wǎng)絡(luò)的算法和性能，使離散符號計(jì)算、神經(jīng)計(jì)算和進(jìn)化計(jì)算相互促進(jìn)，開發(fā)新的網(wǎng)絡(luò)數(shù)理理論。

4.3 擴(kuò)大神經(jīng)元芯片和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的作用

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)體現(xiàn)了結(jié)構(gòu)和算法的統(tǒng)一，是硬件和軟件的混合體，神經(jīng)元矩陣即是如此。人工神經(jīng)網(wǎng)絡(luò)既可以用傳統(tǒng)計(jì)算機(jī)來模擬，也可以用集成電路芯片組成神經(jīng)計(jì)算機(jī)，甚至還可以生物芯片方式實(shí)現(xiàn)，因此研制電子神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)潛力巨大。如何讓傳統(tǒng)的計(jì)算機(jī)、人工智能技術(shù)和神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)相融合也是前沿課題，具有十分誘人的前景。

4.4 促進(jìn)信息科學(xué)和生命科學(xué)的相互融合

信息科學(xué)與生命科學(xué)的相互交叉、相互促進(jìn)、相互滲透是現(xiàn)代科學(xué)的一個顯著特點(diǎn)。神經(jīng)網(wǎng)絡(luò)與各種智能處理方法有機(jī)結(jié)合具有很大的發(fā)展前景，如與專家系統(tǒng)、模糊邏輯、遺傳算法、小波分析等相結(jié)合，取長補(bǔ)短，可以獲得更好的應(yīng)用效果。

參考文獻(xiàn)

[1]鐘珞.饒文碧.鄒承明著.人工神經(jīng)網(wǎng)絡(luò)及其融合應(yīng)用技術(shù).科學(xué)出版社.