前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經網絡的特性主題范文,僅供參考,歡迎閱讀并收藏。
【關鍵詞】測試 GRNN類神經網絡 應用 探討
1 類人工神經網絡特性
類人工神經網絡技術(Artificial Neural Networks)是近年發展起來的一個新的研究領域,反映了人腦功能的若干基本特性,從而使計算機能夠模仿人的大腦,具有較強的形象思維能力。
我們目前應用的神經網絡多是模糊神經網絡,即神經網絡與模糊系統的結合,此方法既改進了原有的測試系統的實時性能,又使神經網絡學習得到了指導,有利于收斂。但是,此方法單純地強調了無模型的冗余式學習和模擬,必然造成對計量對象以及計量目標本身的忽略。所以,我們開始嘗試使用多層反饋式神經網絡,即本文要探討的GRNN(Generlized Regnssion Neurl Network)神經網絡。通過上面的介紹我們可以總結出類人工神經網絡具有以下優點非線性映射逼近能力;
(1)對信息的并行分布處理能力;
(2)高強的容錯能力;
(3)對學習結果的泛化和自適應能力;
(4)很強的信息綜合能力;
(5)信息的優化計算能力;
(6) 便于集成實現和計算模擬
2 建議在石油領域應用類人工神經網絡于產量預測
由于上述類神經網絡的優點,我們可以知道可以通過監督學習的方法,將專家的故障分析經驗傳遞給神經網絡,或用神經網絡來建立參數觀測系統,從而避免了數學建模的困難,同時,診斷信息還能被用于系統的容錯控制。我們利用三層GRNN神經網絡來訓練網絡,可以根據輸入到網絡的一些樣本提供一套權重來進行石油領域的一些預測,在網絡訓練之后,可以將任何新輸入的資料劃分為有效產能或無效產能。
雖然神經網絡作為一種分類工具似乎比其他方法較具吸引力,在石油領域解決實際問題的應用到目前為止還不多。神經網絡(ANN)人工智能方法能處理一系列的信息輸入如比率等,并能產生相應的輸出,而其運算分析能生成一個成功反映所有輸入輸出變量相應關系的模式。除此之外,神經網絡并不依賴于變量之間必須線性相關或是相互獨立的假設。變量之間存有微妙聯系,如同數據不連續或不完全一樣,均可被系統辨識并生成定性評估。簡而言之,除了部分不明確的結果之外,神經網絡能夠在相似點和類似點方面給出有根據的結論,在很大程度上,神經網絡方法在油井的判別上有相似的
作用。
3 GRNN類神經網絡模型數學模型及計算
3.1 GRNN類神經網絡模型數學模型
GRNN(Generlized Regnssion Neurl
Network)是徑向基函數神經網絡的一種,主要用于函數逼近。GRNN 網絡為含1個輸入層、1個隱層和1個輸出層的3層結構神經網絡。隱層傳遞函數為徑向基函數Radbas,輸出層為線性函數Purelin:Radbs(x)=exp(-x2),Purelin(x)=x,GRNN網絡設置隱層的權重W1為:W1=P’式中為P’輸入向量P的轉置矩陣:隱層的偏差b1為:b1 =0.8326/ spread
式中spread為徑向基函數的展形。輸出層的權重W2=T,T為目標向量。
模型設計輸入變量為油井的平均壓力和平均氣溫,輸出變量為油井的月平均流量。為防止部分神經元達到過飽和,提高網絡收斂程度和計算速度,對原始資料應做標準化處理。
3.2 GRNN類神經網絡模型數學計算
測試實驗目的是了解新的井身結構及管柱所允許的單井產能,并盡可能求取最大產量。設計采用6個油嘴進行回壓法測試。回壓測試結束后用21.57mm油嘴測試,日產油300.44×104m3,預測生產壓差6.056MPa。井下入四支高精度PPC型存儲式井下電子壓力溫度計同時測試。采用MCALLSTER型的直讀式電子井下壓力溫度計,取得了較好效果。
井筒中的動力異常是造成壓力異常的主要原因。分隔器密封不嚴、節流影響、井筒積液、溫度變化都會造成井筒中的動力異常。采用變井筒溫度模型井的試井數據進行了校正,校正后的平均地層壓力上升了約1.2MPa,壓力恢復曲線也呈上升趨勢。從圖1中看出GRNN模擬效果極好,驗證結果也基本令人滿意。
4 結論和展望
4.1 結論
大慶油田由于多年開采,井下地質條件復雜,使用神經網絡模型(如GRNN和BP神經網絡)進行監測效果分析,可獲得比較好的結果;
在儲層四性特征及其四特性關系研究的基礎上,以巖心分析數據為標定,測井為工具,GRNN神經網絡為方法,基本可以實現儲層物性參數的精確預測,且比常規數理方法具有較高的精度,顯示出BP神經網絡在儲層參數預測中具有較為廣闊的應用前景。
多層反饋式神經網絡具有特定的標準結構和非線性收斂特性。在求解具體問題時,只要把具體確定的能量函數與標準能量函數相對應,就能確定相應的神經網絡參數。在合適的能量函數指導下,根據計量目標設計基于反饋式神經網絡的系統結構和動態參數,并將基于此網絡的參數辯識和計量結合起來,使其具有更強的自適應性。
4.2 展望
(1)如何在矢量控制的框架下補償參數隨時間常數的變化對計量性能帶來的影響,是一個重要的研究課題,也是我們以往研究結果的基礎上進一步努力的方向;
(2)GRNN神經網絡的優越特性必然能在其它的石油領域中得到更廣泛的應用,關于此項的研究任務是一項長期的任務。
參考文獻
摘要:
針對水文時間序列的非平穩性特征,以長江三峽宜昌站1904~2003年年平均流量為例,分別建立了小波分析(WA)與BP神經網絡和徑向基函數神經網絡(RBF)耦合的預測模型,探究了兩種組合模型的預測效果,并與傳統的單一人工神經網絡模型對比;并采用5種常見的預測性能評價指標分析預測效果。結果表明:組合模型預測成果的精度較單一模型顯著提高;組合和單一模型中RBF網絡模型均優于BP網絡模型;小波徑向基函數神經網絡組合模型具有較優的預測精度和泛化能力,是提高預測精度的有效方法,在徑流預測中具有可行性。
關鍵詞:
ATrous小波分析;BP神經網絡;徑向基函數神經網絡;預測模型;水文預報
中長期水文預報是根據已知水文與氣象要素信息對未來一定時期內的水文狀態作出定性和定量的預測。目前,通常預報的水文要素有流量、水位、冰情和旱情等[1]。水文時間序列預測對防汛、抗旱、水資源開發利用等具有重大的實用意義,然而水文系統是一個高度復雜的非線性系統,在由降雨經過蒸散發、下滲、截留、填洼形成徑流的過程中,還受到流域地形地貌、氣候變化、人類活動等因子的干預,因此,水文時間序列表現出極大的復雜性,給預測帶來一定困難。傳統的中長期水文預報大多采用回歸分析法和時間序列分析方法[2]。常用的回歸分析法主要有一元線性回歸分析法、多元線性回歸分析法、逐步回歸分析法、最小二乘回歸分析法、聚類分析法和主成分分析法等[2],其因建模簡單、易于實現的優點成為了徑流中長期預報應用最早也是最廣的方法[3],但回歸分析法中存在因子個數合理性的選擇、預報成果取均值而忽略了極大與極小值情況等問題;時間序列分析法常用自回歸序列(AR)模型、滑動平均序列(MA)模型、自回歸滑動平均序列(ARMA)模型、求和自回歸滑動平均序列(ARIMA)混合模型、門限自回歸序列(TAR)模型等[4]。
該方法能夠很好地分析和處理具有季節性、趨勢性的水文預報問題,但在建模過程中存在模型參數估計和合理定階等問題[2]。隨著計算機技術的發展,一些智能新方法被廣泛應用于中長期水文預測中,主要包括模糊分析、人工神經網絡、灰色系統分析、混沌理論、投影尋蹤、小波分析等方法[5],然而目前還沒有一種水文預報模型能夠對所有水文序列具有完全適應性。近年來,小波分析和人工神經網絡組合模型成為中長期徑流預測的研究熱點[6-7]。利用小波變換可將徑流序列的趨勢項、周期項和隨機項成分較好地分離,為克服水文時間序列成因復雜、難以詳盡表述其變化規律等困難提供了一種便利的分析技術[8],再將不同頻率下的小波變換成分輸入神經網絡進行預測,能夠較好地提高預測精度。只有選擇合適的小波神經網絡組合模型的結構,才能得到精度更高的預報結果。本文提出將小波分析與不同類型的神經網絡組合,分別建立小波分析與加動量的BP神經網絡相結合、小波與RBF網絡相結合的徑流預報模型,對兩種組合模型及傳統單一的神經網絡模型的模擬效果進行對比分析。
1模型結構及原理
1.1小波分析對水文時間序列進行小波分析時,使用連續小波變換或離散小波變換得到的小波變換系數冗余,因此常用快速的小波變換算法計算,不涉及具體的小波函數,主要有Mallat算法和ATrous算法。相比原始時間序列,Mallat算法重構后的時間序列因其二進抽取、插值處理,容易出現相位失真[9-11],并會發生一定的偏移,而ATrous算法為無抽取離散小波變換,具備平移時不變性的特性,它只是對濾波器組進行內插補零,其每級分解系數和原始時間序列的長度保持一致,因此本文小波分析采用ATrous算法。
1.2BP神經網絡BP神經網絡的拓撲結構圖如圖1所示[12]。BP神經網絡預測模型,運用了神經網絡可以任意逼近非線性函數的特性,輸入與輸出間的復雜關系表示具有非線式的特點,其適用性明顯高于一般顯式線性預測模型[12]。水文時間序列是受多因子復雜影響的一種非穩定性的時間序列,并非可用單一的線性或非線性函數計算所得。BP神經網絡相當于一個“黑箱”模式,不需要知道輸入與輸出數據間的函數關系,僅通過對輸入輸出數據進行訓練學習,獲得誤差達到最優的一種映射關系,就可將訓練好的模型用于預測,它具有自學習、計算簡單、容錯性較好、泛化能力較強的特點。
1.3徑向基函數神經網絡徑向基函數神經網絡(RBF,RadialBasisFunc-tion)是一種能夠以任意精度逼近任意非線性函數的神經網絡結構,具有單隱層的3層向前網絡[12],其中隱層函數為徑向基函數。RBF神經網絡僅對輸入空間的某一局部區域存在少數的神經元,用來決定網絡的輸出,且RBF網絡中的重要參數中心向量和寬度向量是根據樣本集中的訓練模式來試算確定或者初始化的,因此,RBF神經網絡具有避免陷入局部極小值的解域中的優點。RBF神經網絡的拓撲結構圖如圖2所示[12]。
2預測性能評價指標
為了對預測模型的適應性進行分析,需用預測成果的精度來度量。本文采用常用的3種誤差評定方法和預測值的相對誤差小于10%和20%的合格率,來評價模型的預測精度[13-14]。NMSE和MRE反映出實測值和預測值之間的偏差,NMSE和MAE越小,表明預測值越接近于實測值,即預測的效果越好。DVS以百分比形式表示正確預測目標值變化方向,其值越大,表明預測效果越好。以預測值相對誤差滿足小于10%和小于20%的合格率來反映預測值與實測值之間的逼近程度,其值越大,預測效果越好。
3模型仿真
長江宜昌水文站是長江上游出口的唯一控制站,且三峽工程位于其上游約44km處,對宜昌站年徑流量的預測具有重要的實踐意義。本文利用宜昌站1904~2003年為期100a的實測年均流量資料,采用MATLAB編程,利用小波神經網絡組合模型對其預測,選取兩種不同神經網絡模型對比分析。
3.1小波變換本文選取宜昌站100a年均徑流量,利用ATrous算法進行分解尺度為3的小波變換,求取徑流序列的細節系數W1、W2、W3和近似系數C3,用作神經網絡輸入。小波分析成果見圖3。
3.2基于小波變換的BP模型構建一個3層雙隱層的BP神經網絡模型,可以以任意精度逼近給定的非線性函數,而雙隱層可以提高模型的逼近精度。小波BP網絡模型即將BP神經網絡模型中對徑流量直接輸入預測替換為對小波變換系數的預測。小波分析將具有復雜非穩定性特征的徑流量分解成不同頻率的高頻細節序列和低頻概貌序列,因此可以更好地利用神經網絡模擬成因復雜、具有時-頻特征的徑流量序列的形態變化特征和趨勢。構建一個4-10-8-1結構的3層雙隱層BP模型,隱含層函數選用transig,輸出層函數選用purelin,采用有動量加自適應lr梯度下降法選擇參數,設置最大訓練次數為5000、訓練要求精度0.00001、學習速率0.01。利用Matlab軟件進行網絡訓練,對預測結果進行反歸一化處理,得到最終預測結果,成果見表1。
3.3基于小波變換的RBF模型與小波BP網絡模型類似,將歸一化后的前90a的年均徑流量小波變換系數作為RBF網絡模型訓練樣本的輸入,Q(t+T)作為訓練樣本輸出,預見期為2a,后10a的資料作為測試。不同于BP神經網絡的初始權值選取對于網絡訓練的精度影響很大這一特點,RBF神經網絡只需用試錯法調整參數SPREAD。在Matlab平臺上,調用RBF模型,調用方式為net=newrb(P,T,GOAL,SPREAD,MN,DF),SPREAD為徑向基層的擴展速度常數,其取值會影響神經網絡的運算速度和精度[10]。通過試算得SPREAD的最優解為67.3。將訓練好的模型用來預測后10a的年均徑流量,成果見表1。
3.4單一人工神經網絡模型直接將實測的年均徑流量作為模型的輸入,預見期為2a。因徑流的成因復雜及形成過程具有較多干擾因素,單一的人工神經網絡模型不一定能較好地模擬其內部的變化特征,本文分別采用單一的BP神經網絡和RBF網絡對后10a的年均徑流量進行預測,預測成果見表1。
4模型適用性分析
根據三峽宜昌站100a徑流量資料,建立不同組合的小波神經網絡模型,利用Matlab軟件平臺對模型進行網絡學習,分別調試不同模型得到最優預測徑流量,成果見表1。為了判斷4種預測模型的預測結果是否保持實測序列的主要統計特性和變化特征,采用以下5種常見的預測性能評價指標驗證模型的適用性,成果詳見表2。(1)由宜昌站1994~2003年年均流量的預測值與實測值比較計算得NMSE、MRE、DVS、合格率e<10%和合格率e<20%的5種誤差評定參數。從預測整體NMSE和MRE上看,小波人工神經網絡組合模型預測精度明顯高于傳統單一的人工神經網絡模型,而組合模型中,小波RBF網絡模型預測效果更優,單一神經網絡模型中RBF網絡預測精度也高于BP網絡。這表明,組合模型用于長江徑流預測是合理可行的,具有較好的預測精度和泛化能力,是提高模型預測精度的有效方法。但BP神經網絡存在收斂速度較慢、易陷入局部極值、易發生“過擬合”或“欠擬合”情形等缺陷[15],而RBF神經網絡以對點徑向對稱且衰減的非負非線性函數為傳遞函數[16],能夠避免BP網絡產生的缺點,具有更好的逼近能力。(2)小波RBF神經網絡DVS表明,預測目標值方向的正確率高達88.89%,單一的BP網絡的DVS指標卻只有33.33%。這表明,小波神經網絡組合模型較單一神經網絡模型能更準確地預測目標值變化方向,RBF神經網絡在模式識別能力方面也優于BP神經網絡。(3)多數小波神經網絡組合模型成果的預測相對誤差小于10%,而單一神經網絡合格率則只接近半數,其中無論組合模型還是單一模型,RBF模型預測值的合格率都要高于BP神經網絡模型。由表2可知,4種模型預測精度基本達到(合格率e<20%),即人工神經網絡由于其較強的非線性映射能力、魯棒性、容錯性和自適應、自組織、自學習等特性[17],對于水文徑流量預測具有可行性,而進行小波分析處理后再建立神經網絡模型能提高預測的精度,選擇合適的神經網絡模型則能優化預測成果。
5結語
筆者提出小波分析與不同人工神經網絡耦合的預測模型。組合模型可將高度復雜的非穩定年徑流序列分頻率提取的成分輸入人工神經網絡進行預測,巧妙地避開了單一預測模型預測精度不高的問題;而不同的小波神經網絡組合模型則進一步探討了小波分析和不同人工神經網絡耦合的密切程度,得到預測精度較高的小波神經網絡模型的組合結構。本文以宜昌水文站100a實測年均徑流量序列為例,進行實例對比驗證。對比分析模型模擬成果表明,小波神經網絡組合模型對徑流預測的適應性強于人工神經網絡模型,而小波RBF網絡模型比小波BP網絡模型具有更優適應性,小波RBF網絡模型能更好地揭示水文隨機序列的變化特性且提高了預測精度和速率,為水文工作提供了有效可行的預報方法,對水文資料的預測和插補延長具有實際意義。
參考文獻:
[1]包為民.水文預報[M].北京:中國水利水電出版社,2009.
[2]宋一凡,郭中小,盧亞靜.基于遺傳算法優化的小波神經網絡在中長期水文預報中的應用———以三門峽為例[J].中國水利水電科學研究院學報,2014,12(4):337-343.
[3]宋荷花,胡國華,李正最.湘江流域中長期水文預報[D].長沙:長沙理工大學,2008.
[4]鐘登華,王仁超,皮鈞.水文預報時間序列神經網絡模型[J].水利學報,1995,(2):69-74.
[5]王麗學,楊軍,孫靚,等.基于灰色系統與RBF神經網絡的中長期水文預報[J].人民長江,2015,46(17):15-17.
[6]BatesJM,GrangerCWJ.Thecombinationofforecasts[J].Opera-tionalResearchQuarterly,1969,20(1):451-468.
[7]王文圣,丁晶,李躍清.水文小波分析[M].北京:化學工業出版社,2005.
[8]LiZuoyong.Progressofstudyonhydrologywaterresourceandwaterenvironment[J].JournalofSichuanUniversity:EngineeringScienceEdition,2002,34(2):1-4.
[9]孫延奎.小波分析及其應用[M].北京:機械工業出版社,2005.
[10]李賢彬,丁晶,李后強.基于子波變換序列的人工神經網絡組合預測[J].水利學報,1999,(2):1-4.
[11]MATLAB中文論壇.MATLAB神經網絡30個案例分析[M].北京:北京航空航天大學出版社,2010.
[12]楊淑瑩.模式識別與智能計算:Matlab技術實現[M].北京:電子工業出版社,2008.
[13]汪麗娜,陳曉宏,李艷.不同徑流尺度的小波神經網絡預測[J].華南師范大學學報:自然科學版,2013,45(2):104-106.
[14]SL250-2000水文情報預報規范[S].
[15]崔東文,金波.改進BP神經網絡模型在小康水利綜合評價中的應用[J].河海大學學報:自然科學版,2014,42(4):306-313.
[16]黃劍竹.改進RBF-Adadoost模型及其在年徑流預測中的應用[J].人江,2015,45(1):32-36.
摘要:常規PID控制器以其算法簡單、可靠性高等優點,在工業生產得到了廣泛應用。但是,PID控制器存在控制參數不易在線實時整定、難于對復雜對象進行有效控制等不足。利用神經網絡自學習、自適應和非線性映射等特點,將神經網絡和PID控制相結合,形成一種PID神經網絡控制系統,可對工業中使用的具有大時滯、慢時變、非線性特點的電爐系統進行有效辨識與控制。
關鍵詞:PID神經網絡;智能控制器;滯后系統;時變系統;電爐控制系統
中圖分類號:TP18文獻標識碼:A文章編號:1009-3044(2009)28-8028-03
Application of PID Neural Network in Electric Cooker Controlling Systems
REN Hui, WANG Wei-zhi
(Institute of Automation, Fuzhou University,Fuzhou 350002, China)
Abstract: General PID controller, because its algorithm is simple and high reliability,so has been widely used in industrial production. However, PID controller, there is not easy to line real-time control parameter tuning, is difficult for complex objects such as lack of effective control. Using neural network self-learning, adaptive and nonlinear mapping characteristics of neural network and PID control combined to form a PID neural network control system can be used in industry with a large time lag, slow time-varying, nonlinear characteristics of electric systems for effective identification and control.
Key words: PID neural network;intelligent controller;time lag system;time-varying system;electric cooker systems
近年來,隨著神經網絡理論的發展,將控制中應用最廣泛的PID的控制器與具有自學習功能的神經網絡相結合,已成為智能控制研究的一個新方向。并且,在這個方向上已取得了一些研究成果 。其主要的結合方式是在常規PID控制器的基礎上增加一個神經網絡模塊,利用神經網絡來在線調節 PID參數,但缺點是結構較復雜。本文介紹的PID神經網絡是將PID控制規律融進神經網絡之中構成的,實現了神經網絡和PID控制規律的本質結合。它屬于多層前向網絡,但是它與一般的多層前向網絡又不完全相同,一般的多層前向網絡中的全部神經元的輸入輸出特性都是相同的,而PID-NN的隱含層是由比例、積分、微分三個單元組成,是一種動態前向網絡,更適合于控制系統。各層神經元個數、連接方式、連接權值是按控制規律的基本原則和已有的經驗確定的,保證了系統穩定和快速收斂。由于PID神經網絡控制器是將神經網絡和PID控制規律融為一體,所以其既具有常規PID控制器結構簡單、參數物理意義明確之優點,同時又具有神經網絡自學習、自適應的功能,可將PID神經網絡應用于對工業控制領域的復雜非線性對象的控制。
本文提出一種基于PID神經網絡的控制方案,用來對大時滯、慢時變、非線性的電爐系統進行辨識與控制。
1 PID神經網絡控制系統
1.1 PID神經網絡的結構
PID神經網絡是一個 3層的前向網絡,包括輸入層、隱含層和輸出層,其結構如圖1所示。網絡的輸入層有2個神經元,分別對應系統的輸人和輸出;隱含層有3個神經元,各神經元的輸出函數互不相同,分別對應比例(P)、積分(I)、微分(D)3個部分;網絡的輸出層完成PID-NN控制規律的綜合。網絡的前向計算實現PID神經網絡的控制規律,網絡的反向算法實現PID神經網絡參數的自適應調整。
1.2 控制系統結構及其工作原理
PID神經網絡控制系統結構如圖2所示。控制系統包含PID神經網絡辨識器(PID-NNI )和PID神經網絡控制器((PID-NNC )。其中r(k)為系統的設定輸入,y(k)為被控對象的實際輸出,y~(k)為PID-NNI的輸出,u(k)為PID-NNC的輸出。系統的工作原理是:利用神經網絡的非線性函數逼近能力和學習記憶功能,由PID-NNI在線對被控對象模型進行辨識。它利用輸出偏差(e1(k)=y(k)-y~(k) ),修正網絡權值,使之逐步適應被辨識對象的特性。當它學習到與被控對象基本一致時,PID-NNC利用系統偏差 (e2(k)=r(k)-y~(k)),通過反傳算法實時調整自身權值,以跟上系統的變化,達到有效控制的目的。
2 PID神經網絡學習算法
關鍵詞:神經網絡;上證指數;預測
1.引言
金融時間序列的預測對于投資決策以及規避風險有重要的意義,其中股票市場走勢預測始終更是金融領域分析的熱點和難點。對于金融時間序列的預測是否足夠準確影響著預測方法的有效性,較低的準確率使得預測失去了實際應用的意義。目前的金融時間序列預測方法有很大一部分是通過使用神經網絡進行預測,神經網絡本身具有良好的擬合非線性的特性,克服了類似于AR模型、MA模型和AMRA模型難于擬合非平穩序列的缺點[1]。在理論上,神經網絡可以擬合任何函數,具有很好的自適應性和學習性。同時,由于神經網絡計算的高效性,被廣泛應用于預測時間序列領域。目前常用的用于預測時間序列的神經網絡有BP神經網絡、徑向基神經網絡以及小波神經網絡。本文將對這三種神經網絡在預測上證指數中的準確率進行比較分析。
2.神經網絡概述及原理
2.1.BP神經網絡
BP神經網絡是一種多層前饋神經網絡,該網絡的主要特點是信號前向傳遞,誤差反向傳播[2]。向前傳遞是由輸入層接收到外界信號后將信息傳入到隱含層進行處理運算,之后傳入到輸出層。如果輸出層得出的結果與預期不一致則產生預測誤差,接下來就開始反向傳遞,根據預測誤差調整網絡權值和閥值,從而使BP神經網絡預測輸出不斷逼近期望輸出。
2.1.1 BP神經網絡結構
BP神經網絡模型如圖1所示,包括輸入層、輸出層和隱含層。輸入層負責將輸入信號傳遞給隱含層,輸入結點本身沒有計算功能。
2.1.2 BP神經網絡模型的建立
BP神經網絡模型通過Matlab軟件進行編程建模,數據的選取是利用大智慧軟件選取1990-2012的5302個收盤價作為樣本,其中,前5150個樣本為訓練樣本訓練神經網絡,后152個樣本為測試樣本。為了提高神經網絡的預測效率,加快訓練速度,所以在訓練神經網絡之前將原始數據歸一化。歸一化公式為:(x-xmin)/(xmax-xmin),其中xmax代表最大值,xmin表示最小值;根據上證指數的特性,將BP網絡的結構設計為三層,即輸入層,隱含層和輸出層;輸入層有6個結點,即式(1)中的輸入變量xi(i=1,2,…,n),表示預測時間結點的前6日收盤價;隱含層是該模型的運算核心,共有8個結點,其執行式(1)的運算,隱含層的輸出結果為中間變量Oj(j=1,2…,l),變量Oj將被傳入到輸出節點進行運算;輸出層有一個結點,執行式(3)的運算;選取第7日的收盤價為預期輸出。
2.2.徑向基神經網絡
徑向基神經網絡即徑向基函數神經網絡。該型神經網絡從輸入層到隱含層通過徑向基函數完成非線性變換;而隱單元到輸出是線性映射的,因此輸出層權值的調整可通過線性規劃方程直接算出[3]。徑向基神經網絡一般有三層即輸入層、隱含層和輸出層。輸人層由輸入結點組成;隱含層中神經元采用的是徑向基函數,該函數是局部響應函數;第三層為輸出層。徑向基神經網絡的節點激活函數采用徑向基函數。
2.2.1徑向基神經網絡結構
輸入層只負責信號輸入,輸入層與隱含層的連接權值都為1,即輸入層與隱含層的權值不用調整改變。隱含層結點的輸出為:
3.實驗結果
3.1三種神經網絡模型的預測結果比較
4 結語:
上證指數的走勢可以視為經濟的運轉狀況的反映,而經濟的運行狀況受到社會中的各種因素和因素間的交互效應的影響,從而上證指數的走勢具有很強的非平穩性以及非規律性,很難預測準確。本文比較了BP神經網絡、徑向基神經網絡、小波神經網絡對預測上證指數的準確性,發現BP神經網絡的預測效果是三種神經網絡最好的,表明BP型神經網絡相比之下更加適用于對上證指數的預測。(作者單位:北京信息科技大學經濟管理學院)
參考文獻:
[1]徐超,魏連鑫,王衛新.基于小波網絡的上證指數預測實證分析[J].時代金融,2011.(24):146.
[2]史峰,王小川,郁磊,李洋.Matlab神經網絡30個案例分析[M].北京:北京航空航天大學出版社,2010.
[3]左喆,董申.基于神經網絡的股票市場預測[J].財經論壇,2010.(24):204-205.
關鍵詞:神經網絡 網絡方法 環境色譜法 多個節點 信息模型
中圖分類號:X83 文獻標識碼:A 文章編號:1674-098X(2017)05(a)-0126-02
從近幾年在國內神經網絡的使用來看,在環境監測中也有著非常良好的效果。無論是從色譜法、光譜法還是整個環境的評價都帶來了很多新的成果。該文主要是通過對神經網絡相關分類的闡述,結合神經網絡在環境監測中的應用效果,希望能給神經網絡對環境監測中做一些回顧和總結[1]。
1 網絡方法類別
由于著重的角度關系,網絡法會有多種不同的類別,由于神經網絡是多個節點的連接,有相當多復雜的算法,基于神經網絡,可以總共闡述兩大類的情況,包括有管理和無管理的網絡方法。關于這兩種的不同點就在于它們是否需要對現有的樣本進行訓練。有管理的網絡方法是需要訓練,而無管理的網絡方法是無需進行訓練,它需要與其他的化合物相結合使用,里面會涉及到網絡與遺傳法、偏最小二乘法等分析方法來進行分析比較。另外根據網絡的結構不同,也可以把網絡方法給分成前向和后向的網絡方法,而如果是從網絡活動方式的差別,也可以將其分為隨機和確定兩種網絡方法。
2 關于環境監測的化學方面的應用
在化學方面,國內與有很多用于化合物的一些研究,比如一些有機結構分析,還有化學反應、蛋白質結構等等的分析。在進行定量的構效關系分析中,可以把釀酒的酵母菌來作為一種模型的指示物,建立相關網絡模型,然后對生物的毒性進行進一步預測,當然,在分析過程中還存在著很多的問題,通過比較一些網絡模型,然后計算它們之間的權值,再篩選相出相應的參數,學者們在分析的時候也會對多層前傳網絡進行探討分析,盡量減低誤差,通過多方向的非線性校準,并且進行數據解析,然后表明引射能力,通過建立神經網絡來不斷接近規律的程度,擬定相關的指標數[2]。
3 分光光度的方法應用
在化學分析進程中,通過多元校正和分辨是相對來說較好的一種方法。隨著相關方法的不斷普及,目前大多數是使網絡和現有的紫外光譜法相互關聯,利用線性網絡、BP網絡等來用于多個分組的報道[3]。鄧勃等[4]學者在分析的時候,認為除了人工神經網絡,迭代目標轉換因子的分析法相比較起來也是一種不錯的選擇,兩種方法各有優勢,并且產生的網絡法的誤差一般都不會很大。孫益民等專家在分析時,利用現有的人工神經網絡先后側出的光度法,并且可以測定比如銅、鎳,并且這個分析方式非常的簡單和方便[5]。
4 神經網絡對X射線中的熒光光譜法的應用
研究人員通過神經網絡建立與X射線熒光譜譜法的關系,通過多個不同的神經網絡來應用,可以通過他們之間的連接來測定酸溶鋁,通過神經網絡的設置,可以測定里面的最低的鋁值,通過神經網絡與BP的網絡模型的設立,可以直接輸入測出來的鋁含量情況,然后通過鋁含量來側出酸溶出來的鋁的數值。BP模型可以結合現有的神經網絡系統,充分的在現有的信息模型上應用,通過利用網絡神經的結構,不僅可以做一些化學分析,還可以通過神經網絡來檢測環境監測中涉及到的紅外譜圖等的分析,這為環境分析提供了非常有意義的方向,并且給環境監測提供了新的檢測方法[6]。
5 環境監測中的色譜法的研究
在關于色譜法的研究中,人工神經網絡也有可以應用的方向[7]。色譜法中的小波分析,與人工神經網絡的結合,小波分析的主要目的是為了得到重疊的色譜峰的信息,運用神經網絡分析之后,可以在其中建立相關的模型,通過兩者的結合來分開重疊的色譜峰信息,眾所周知,把重疊色譜分開是一個非常復雜的工程,它們之間需要運用大量的元素來分開,效率極低,極其浪費時間。因為其內里復雜的重疊組織,而現在,人工神經網絡為其分離提供了一種新的嘗試[8],不僅如此,通過人工神經網絡的方法不僅可以分離,而且可以在分離之后得到更加精確的色譜信息。研究工作者在模擬退火神經網絡的時候,會運用藥物來優化整個分離的條件,這對于提高色譜精確度也非常有效。
6 環境監測中的評價
通過之前提到的BP網絡,通過介紹與人工神經網絡模型的結合,來闡述了整個模型應用的原理,通過綜合相關的分析方法可以對環境監測中的適用性進行分析評價,這樣表現出來的結果會更加客觀。研究者可以從有預測模型中表現的結果,在水庫里進行抽樣,提取水庫中的相關元素進行預測,確認是否與實際結果一致,可以通過建立人工神經網絡來對水質中的污染指數進行評價,然后得出相應的成果。
7 結語
人工神經網絡在整個環境監測中有著非常重要的作用,它擁有一些比較有意義特性,總共可以總結為以下3個方面:第一,人工神經網絡具有自學習的特性。可以通過大量的圖像來設計,進行相關的圖像識別,把不同的幾個圖像進行整合分析,并且把與之相互對應的結果嵌入到神經網絡系統中,系統會根據自己特有的自學功能,對以后相關的圖像進行識別操作,它可以給人們提供一些預測結果,甚至在未來的無論是經濟還是政治等方面提供一些預測,預測經濟和市場,給未來的發展提供引導。第二,系統具有可存儲的特性。人工神經網絡里面包含了一種反饋的功能,而通過輸入信息和模型整合,聯系不同元素之間的關系,得出一些可能的聯想信息。最后,神經網絡還有一項功能便是優化得出答案的能力。
一般問題的因果關系都會涉及到多個方面,那么如何在多個元素中抽絲剝繭,不斷地優化整個系統,是神經網絡的一個主要的功能,它可以通過計算來得到最優化的解,即便其中的運算量牽連的比較多,但是結合神經網絡中反饋聯想的功能,再包括計算機強大的運算效率,那么得到答案有時候也是比較容易的。
人工神經網絡在環境監測中表現的效果比較好,但是除此之外,在其他領域,運用神經系統也可以得到一些相關的數據,比如經濟領域,它可以通過建立信息模型,來進行市場預測和風險評估,這些都是很好的應用方式。在未來的實踐中,隨著經驗的積累,神經網絡的應用在環境監測中會不斷地深入,通過在色譜、光度等領域的剖析,為未來的環境監測效果提供了更多的可能性。
參考文獻
[1] 黃勝林.遺傳優化神經網絡在大壩變形監測中的應用[D].遼寧工程技術大學,2012.
[2] 熊勛.人工神經網絡在環境質量評價和預測中的應用研究[D].華中科技大學,2009.
[3] 王學.無線傳感器網絡在遠程環境監測中的應用[D].山東師范大學,2011.
[4] 武藝.人工神經網絡在土壤質量監測中的應用[D].浙江海洋學院,2015.
[5] 黃湘君.基于主成分分析的BP神經網絡在電力系統負荷預測中的應用[J].科技信息:科學?教研,2008(16):313-314.
[6] 李春梅,周驥平,顏景平.人工神經網絡在機器人視覺中的應用[J].制造業自動化,2000(9):33-36,49.
[7] 涂曄,車文剛.BP神經網絡在福利彩票預測中的應用[A].中國智能計算大會[C].2009.
[8] 李巖,韓秋,鄭萬仁.BP神經網絡在電力需求決策中的應用[J].現代經濟信息,2009(22):325-326.
[關鍵詞] 廣義回歸神經網絡 經濟預測 評價指標體系
一般常用的預測方法包括時間序列方法(移動平滑法、指數平滑法、隨機時間序列方法),相關(回歸)分析法,灰色預測方法等。這些方法大都集中于對因果關系回歸模型和時間序列模型的分析,建立的模型不能全面和本質的反映所預測的動態數據的內在結構和復雜特性。人工神經網絡是有大量簡單的處理單元組成的非線形、自適應、自組織系統,它的重要特點是通過網絡學習達到其輸出與期望輸出相符的結果,具有很強的自學自適應、魯棒性、容錯性、存儲記憶的能力,人工神經網絡具有傳統建模方法所不具備的很多優點,有很好的非線形映射能力,對被建模對象的經驗知識要求不多,一般不必事先知道有關被建模對象的結構、參數和動態特性等方面的知識。只需要給出對象的輸入和輸出數據,通過網絡本身的學習功能就可以達到輸入和輸出的映射關系。相對于傳統的根據數據分析預測方法,它更適合處理模糊、非線形的和模式特征不明確的問題。人工神經網絡中有各種模型,其中廣義回歸神經網絡(Generalized Regression Neural Network, GRNN)是Donald F.Specht提出的一種新型神經網絡,本文將探討該神經網絡模型在經濟預測中的應用。
一、廣義回歸神經網絡
廣義回歸神經網絡(GRNN)是徑向基函數神經網絡的一種,有三層組織結構。第一層為輸入層,有信號源結點組成。第二層為徑向基隱含層,神經元個數等于訓練樣本數,由所描述問題而定,第三層為線性輸出層,其權函數為規范化點積權函數,計算網絡的輸出。
GRNN網絡連接權值的學習修正使用BP算法,由于網絡隱含層結點中的作用函數采用高斯函數,從而具有局部逼近能力,此為該網絡之所以學習速度快的原因,此外,由于GRNN中人為調節參數很少,只有一個閾值,網絡的學習全部依耐數據樣本,這個特點決定網絡得以最大可能地避免人為主觀假定對預測結果的影響。
二、GRNN在經濟預測中的應用
本文根據對GDP影響因素的分析,這里分別取固定資產投資、從業人員數量、能源生產總量、財政支出、貨運量、人均收入、進出口量,貨幣供應量等8項指標作為GDP預測的影響因子,以第一產業,第二產業,第三產業生產總值作為GDP的輸出因子,即網絡的輸出。由此來構建廣義回歸神經網絡。
我們通過查《中國統計年鑒》,利用1990年~1999年共10年的歷史統計數據作為網絡的訓練樣本,2000年~2003年共4年的歷史統計數據作為網絡的外推測試樣本。
應用MATLAB7編程,創建一個GRNN網絡,輸入向量組數為10,每組向量的元素個數為8,中間層徑向基神經元個數為10,輸出層有線性神經元個數3。對網絡進行訓練和測試。我們將光滑因子分別設置為0.01,0.02,0.03,0.04,0.05,通過不斷的嘗試,我們得到光滑因子為0.01時,網絡的誤差最小,逼近效果相對最好,如圖1所示,網絡此時的逼近誤差基本均在0附近,網絡訓練符合要求。
通過2000年至2003年共4年的數據進行網絡外推預測測試,得到預測誤差曲線如圖2,網絡的輸出誤差分別在0.12和0.25之間。應該說在訓練樣本較少的情況下這種誤差是可以接受的。因此可以用GRNN神經網絡進行預測,將2007年的相關數據進行輸入網路中,就可以得到2008年的各產業的經濟生產總值了。
三、結論
通過以上對GRNN在經濟預測中的應用分析可以看出,GRNN神經網絡模型在預測方面有很好的優勢,其預測精度較高,對參數的要求較低,只需一個光滑因子,但模型本身也有一定局限,其對樣本數據依耐很強,隨著時間推移,其預測結果偏差會越來越大,因此模型更適合于短期預測。如要應用于長期預測,就需不斷增加新樣本數據,對模型進行完善。
參考文獻:
[1]喬維德:基于BP神經網絡的電力企業信息化水平評價指標體系的研究[J].電氣時代,2004,A20
[2]歐邦才:基于BP神經網絡的經濟預測方法[J].南京工程學院學報(自然科學版),2004(2),11~14
[3]飛思科技產品研發中心:神經網絡理論與MATLAB7實現[M].北京:電子工業出版社,2005,117
關鍵詞:神經網絡 入侵檢測;自動變速率;隨機優化算子
中圖分類號:TP18 文獻標識碼:A 文章編號:1009-3044(2014)03-0614-03
隨著互聯網應用的發展,更現顯了網絡安全的重要性。入侵檢測技術在安全防護中是一種主動防護技術,能及時地檢測各種惡意入侵,并在網絡系統受到危害時進行響應,因此在為安全防御體系中入侵檢測系統占有重要的地位。但是在現實的應用中,入侵檢測系統沒有充分發揮其作用。這是因為,不斷變化的入侵方式要求入侵檢測模型必須具有分析大量數據的能力。無論這些數據是不完全的,是非結構化的,或者是含有噪音的。而且,有些攻擊是由處于不同網絡位置上的多個攻擊者協作進行的,這就要求入侵檢測模型又必須具備處理來自非線性數據源的大量數據的能力。神經網絡具有聯想記憶能力、自學習能力和模糊運算的能力。因此將神經網絡應用入侵檢測中,它不僅可以識別出曾見過的入侵,還可以識別出未曾見過的入侵。該文首先介紹了一種改進的神經網絡算法,然后分析了該算法在入侵檢測中的應用,并給出試驗仿真結果。
1 BP神經網絡與入侵檢測
1.1 BP神經網絡的特點與不足
BP神經網絡是神經網絡模型中應用最廣泛一種。它基于成熟的BP算法,主要有以下幾個特點:1)它能夠實現自組織、自學習,根據給定的輸入輸出樣本自動調整它的網絡參數來模擬輸入輸出之間的非線性關系。2)在存儲上采用分布式存儲,所有的信息分布存儲在每一個神經元中。3)它還可以實現并行處理,下一層的每個神經元可以根據接收到的上一層信息同時獨立地計算。這些特點使其很適合應用于入侵檢測技術,滿足入侵檢測的適應性、可靠性、安全性和高效性的要求。
但是傳統的BP算法也存在著以下幾個方面的不足:1)局部極??;2)學習算法收斂速度慢;3)隱含層節點選取缺乏理論;4)加入新的樣本會影響已經學完的樣本;5)每次輸入樣本特征的數目必須確定且相同。
1.2 入侵檢測技術
通過對系統數據的分析,當發現有非授權的網絡訪問和攻擊行為時,采取報警、切斷入侵線路等措施來維護網絡安全,這被就是入侵檢測技術。采用此技術設計的系統稱為入侵檢測系統。根據采用的技術來說入侵檢測系統應具有以下幾個特性:1)監視用戶及系統活動;2) 分析用戶及系統活動;3) 異常行為模式分析;4) 識別已知的進攻活動模式并反映報警;5) 系統構造和弱點的審計,操作系統的審計跟蹤管理;6) 評估重要的系統和數據文件的完整性,并識別用戶違反安全策略的行為。
目前最常用的攻擊手段有:拒絕服務、探測、非授權訪問和非授權獲得超級用戶權限攻擊。而且這些攻擊手段在實際中還有很大的變異,因此給入侵檢測帶來了一定的難度。BP神經網絡的自組織自學習能力,使得經過訓練后的BP神經網絡對以前觀察到的入侵檢測行為模式進行歸納總結,除了可以識別出已經觀察到的攻擊,還可以識別出由已知攻擊變異出的新的攻擊,甚至是全新的攻擊。
2.3 改進的神經網絡算法
人工神經網絡在模式識別、非線性處理、信號檢測等領域應用非常多,這是由于人工神經網絡具有的良好的自適應和自組織性,高度的非線性特性以及大規模并行處理和分布式信息存儲能力的特性。BP神經網絡算法實質上是非線性優化問題的梯度算法,該算法在收斂性問題上存在限制與不足。即該算法學習的結果不能保證一定收斂到均方誤差的全局最小點,也有可能落入局部極小點,使算法不收斂,導致陷入錯誤的工作模式。因此本文選擇了改進的神經網絡,改進主要有以下幾點:
2)自動變速率學習法
傳統的BP算法是以梯度為基礎,采用LMS學習問題的最陡下降法,學習步長是一個固定不變的較小值,不利于網絡的收斂。因此,選擇了基于梯度方向來自動調節學習速率的方法。利用梯度確定學習的方向,由速率決定在梯度方向上學習的步長。因此,如果相鄰兩次的梯度方向相同則說明在該方向是有利收斂的方向,如果相鄰兩次的梯度方向相反則說明此處存在不穩定。因此,可以利用兩次相對梯度變化來確定學習步長,當兩次梯度方向相同時則增大學習步長,加快在該方向上的學習速度;而如果兩次梯度方向相反那么減小學習步長,加快整個網絡的收斂速度。這種方法的自適應速率調節公式如下:
2)引入遺忘因子
本文所采用的自適應變速率學習法是依據相鄰兩次梯度變化來確定學習步長的算法,但單純的學習速率的變化還不能即完全地既保證收斂速度,又不至于引起振蕩。因此考慮變相的學習速率的學習。即在權值的調節量上再加一項正比于前幾次加權的量。權值調節量為:
我們將[τ]稱為遺忘因子。遺忘因子項的引入就是對學習過程中等效的對學習速率進行微調的效果。遺忘因子起到了緩沖平滑的作用,使得調節向著底部的平均方向變化。
3)隨機優化算子
雖然采用自動變速率學習法,并引入遺忘因子的神經網絡算法可以對學習速率進行微調,但是仍存在著BP神經網絡的限制與不足因此引入隨機優化算子。也就是當網絡的權值誤差迭代一定的次數后,仍沒有明顯的收斂,或者系統誤差函數的梯度連續幾次發生改變,這說明網絡進入了一個比較疲乏的狀態,需要借助外界的推動力來激活網絡。當發現上述的兩種情況時,就產生與權值維數相同的隨機數,并將隨機數與權值直接相加,然后判斷系統誤差的變化。如果誤差沒有降低,那么就再繼續產生隨機數來修改權值,直到誤差減少,再從新的權值開始繼續BP算法。隨機優化算子可以令搜索方向隨機變化,從而擺脫局部極小點。
4)改進算法與傳統算法比較
以200個訓練樣本為例,分別采用改進的BP神經網絡和經典BP神經網絡的方法進行學習、訓練。兩種算法的誤差收斂對比曲線如圖1所示。
3 采用改進算法的入侵檢測仿真實驗
入侵檢測系統進行測試和評估需要標準的、可重現的并包含入侵的大量數據。本仿真實驗選取DARPA數據集網絡連接數據集作為實驗數據。然后,對這些數據選三組特征值進行實驗,并給出實驗結果。
3.1 數據源的選取
該實驗的數據采用DARPA 1988入侵檢測評估數據庫的數據。該數據有大量的連接數據記錄。每個一記錄代表一次網絡連接,且每個記錄均有41個特征值,其中各個特征的含義不同,大致可分為三類:1)表示網絡連接內容特征;2)表示網絡連接基本特征;3)表示網絡連接流量特征。
模擬的入侵主要有以下四種類型:DOS 、 R2L、U2R、Probing,考慮到設計的實用性分別對三類特征值用神經網絡分別進行訓練和識別。實驗選取了13000組數據進行仿真實驗,其中3000組用于訓練神經網絡,10000組用于系統測試。
3.2 仿真實驗結果
對三類特征組的訓練集數據應用改進神經網絡分別訓練出三個神經網絡,表示網絡連接內容特征的神經網絡,表示網絡連接基本特征的神經網絡以及表示網絡連接流量的特征的神經網絡在訓練成功時的迭代步數分別為7056,386,3030。然后再對測試集數據進行測試,結果如下:
1)表示網絡連接內容特征組,利用改進神經網絡進行檢測識別,結果如表1所示。
2)表示網絡連接基本特征組,利用改進神經網絡進行檢測識別,結果如表2所示。
3)網絡連接流量特征組,利用改進神經網絡進行檢測識別,結果如表3所示:
從表中數據可以看出對常見的四種攻擊,不同的特征分組在改進神經網絡的作用下檢測各有優勢。
4 結論
論文采用自動變速率學習法,利用遺忘因子進行微調,同時引入隨機優化算子對BP神經網絡進行了改進。改進神經網絡的收斂速度比經典BP神經網絡更快,同時穩定性也較好。并將該算法應用于入侵檢測實驗,實驗結果顯示改進后的算法具有較好的識別攻擊的能力。
參考文獻:
[1] 肖道舉,毛輝.BP神經網絡在入侵檢測中的應用[J].華中科技大學學報,2003(5).
[2] 汪潔.基于神經網路的入侵檢測系統的設計與實現[J].計算機應用與軟件,2013(5).
關鍵詞:電加熱爐;BP神經網絡;PID控制
中圖分類號:TP23文獻標識碼:A文章編號:1672-3198(2008)05-0322-02
1 基于BP神經網絡的PID控制
BP算法是在導師指導下,適合于多層神經元網絡的一種學習,它是建立在梯度下降法的基礎上的。理論證明,含有一個隱含層的BP網絡可以實現以任意精度近似任何連續非線性函數。
BP神經網絡結構如圖1所示,由三層(輸人層、隱含層、輸出層)網絡組成,使輸出層的神經元狀態對應PID控制器的三個可調參數Kp、Ki、Kd。通過神經網絡的自學習、加權系數調整使神經網絡輸出對應于某種最優控制律下的PID控制器參數。
圖1 BP網絡結構
基于BP(Baekpropgation)網絡的PID控制系統結構如圖2所示,控制器由常規的PID控制器和神經網絡兩部分組成,常規PID控制器直接對被控對象進行閉環控制,并且其控制參數為Kp、Ki、Kd在線調整方式;神經網絡根據系統的運行狀態,調節PID控制器的參數,以期達到某種性能指標的最優化,使輸出層神經元的輸出對應于PID控制器的三個可調參數Kp、Ki、Kd。通過神經網絡的自學習、加權系數的調整,使神經網絡輸出對應于某種最優控制規律下的PID控制器參數。
圖2 神經網絡PID控制器結構圖
2 改進型BP神經網絡
基本BP神經網絡主要存在以下兩個缺陷:其一,傳統BP網絡是一個非線形優化問題,不可避免的存在局部極小問題。網絡的權值和閥值沿局部改善的方向不斷修正,力圖達到使誤差函數 最小化的全局解,但實際上常得到的是局部最優點;其二,學習過程中,誤差函數下降慢,學習速度緩,易出現一個長時間的誤差坦區,即出現平臺。
目前已有不少人對此提出改進的方法。如在修改權值中加入“動量項”,采用Catchy誤差估計器代替傳統的LMS誤差估計器等。本文在此探討通過變
換梯度來加快網絡訓練的收斂速度的共軛梯度算法,利用這種算法改善收斂速度與收斂性能。改進共軛梯度算法在不增加算法復雜性的前提下可以提高收斂速度,并且可以沿共軛方向達到全局最優即全局極值點。它要求在算法進行過程中采用線性搜索,本文采用Fletcher-Reeves線性搜索方法,以保證算法的收斂速度。
將改進共軛梯度法應用于BP網絡的控制算法如下:
1)選取初始點w(0)和初始搜索方向d(0)=-g(0);
2)對k=0,1,2,…,n-1,BP網絡的權值修正公式為
w(k+1)=w(k)+α(k)d(k)(1)
式中:α(k)為學習速率,使式(1)取得極?。籨(k)為第k次迭代的共軛方向。
3)計算新的梯度矢量g(k+1);
4)若k=n-1,則用w(n)代替w(0),并返回步驟(1);否則轉步驟(5);
5)計算第(k+1)迭代的共軛方向
d(k+1)=-g(k+1)+β(k)d(k)(2)
式中
β(k)=gT(k)g(k)gT(k-1)g(k-1)(Fletcher-Reeves公式)(3)
6)如果dT(k+1)g(k+1)>0,則用w(n)代替w(0),并返回步驟(1);否則轉步驟(2)。
3 仿真試驗
本文以電加熱爐為控制對象,其數學模型可以用一階慣性環節加上一個大的純滯后環節來表示,傳遞函數為:
G(s)=KpTps+1e-τs=148286s+1e-200s
構造兩個3-5-3結構的BP神經網絡,以誤差、誤差的積分、誤差的微分為網絡的輸入;選取學習速率η=0.01、慣性系數α=0.04,加權系數初始矩陣取區間[0 0.5]上的隨機數,傳統與改進的BP神經網絡的加權系數分別使用負梯度法、改進共軛梯度法進行自整定。
由于電加熱爐是溫度參數的定值控制,且存在干擾和對象參數變化的情況,為驗證改進BP神經網絡PID控制的效果,分別對其跟蹤設定值特性、及適應對象參數變化的能力進行仿真研究,并與基于傳統BP神經網絡PID控制器的控制效果進行比較分析。圖3為單位階躍響應曲線,圖4為過程對象單位階躍響應曲線是在控制器參數不變的情況下改變對象G(S)參數的仿真結果。(注:以下各圖中實線或“I”均表示改進BP神經網絡PID控制結果,虛線、點線或“T”表傳統BP神經網絡PID控制器的控制結果;A、B、C分別表示G(S)三種參數變化了的模型)
從仿真結果看,改進BP神經網絡PID控制器比傳統BP神經網絡PID控制器在控制性能上有了一定程度的提高,尤其是在系統穩定時間和抗干擾性方面的優化較為明顯。這主要是因為在BP算法中采用了改進共軛梯度法,加快了BP算法的收斂速度,從而保證了系統穩定時間較短,又具有較好的泛化能力,因此,具有較強的抗干擾和適應參數變化的能力
4 結論
改進共軛梯度BP算法在不增加算法復雜度的情況下,通過梯度的共軛方向來尋求網絡的全局最優值,從而避免網絡陷入局部極小值。本文將其替代傳統的BP算法構造智能PID控制器,并進行了以電加熱爐為模型的控制系統仿真。結果表明,這種改進算法能夠有效提高網絡的訓練速度,改善網絡的收斂性能,避免網絡陷入局部極小值,取得了良好的控制性能。
參考文獻
[1]陳巍, 吳捷. 具有輔助調節功能的遞歸神經網絡自適應PID控制[J]. 信息與控制, 2000, 29(5): 461-470.
[2]李奇, 李世華. 一類神經網絡智能PID控制算法的分析與改進[J]. 控制與決策, 1998, 13(4): 312-316.
[3]李士勇著. 模糊控制、神經控制和智能控制論[M]. 哈爾濱: 哈爾并工業大學出版社, 1996.
[4]高雋. 人工神經網絡原理及仿真實例[M]. 北京:機械工業出版社, 2003, 7-20.
為尋求一種簡便的船舶運動模型辨識方法,根據船舶動力學與運動學基本方程的結構形式,建立一種基于Elman神經網絡的辨識模型,給出網絡結構的選取和確定方法.以載質量為5萬t的散貨船為例,利用國際海事組織要求的幾個典型的船舶操縱試驗數據對網絡進行訓練,計算權值矩陣,獲得該船舶可用于船舶操縱性分析的神經網絡模型.將網絡計算結果代入船舶運動學方程進行船舶航跡仿真,并與試驗航跡數據進行對比, 驗證網絡模型的精確性.比較仿真驗證結果和試驗數據可知,該網絡模型能基本反映被辨識船舶的動態特性,驗證其有效性和準確性.
關鍵詞:
船舶動力學模型; 船舶運動學方程; 神經網絡; 系統辨識
中圖分類號: U661.33;TP183
文獻標志碼: A
0引言
目前對于船舶操縱運動數學模型的研究基本上從兩方面著手:一是機理建模研究,從基本運動方程出發,通過確定其水動力求解其運動參數的水動力模型;二是辨識建模研究,將船舶看作一個動態系統,舵角作為輸入,船舶運動參數作為輸出,進行水動力參數辨識和函數形式傳遞的船舶模型辨識.前一種方法需要測量和計算復雜的水動力導數,工作量大,而且某些水動力導數的理論估算目前還不能滿足工程精度的要求,只能通過拘束船模試驗精確確定,費用高,可行性較低.后一種方法中的水動力參數辨識,存在無法完全辨識的問題,而傳遞函數形式的船舶模型,更適合于寬闊水域的船舶操縱,不適合具有高強機動性的船舶操縱控制,若要應用于仿真,還需補充目前尚無統一形式的船舶縱向方程[1].近幾年,隨著神經網絡研究的再度興起,神經網絡在模式識別、系統辨識、圖像處理和自動控制等眾多領域得到廣泛應用[24],在運動建模與仿真,特別是在船舶操縱性中的應用也越來越受到國內外眾多學者[58]的關注.神經網絡具有自學習、自適應的能力,能夠從輸入數據中自動學習,抽取包含在數據中的映射關系,因此可以用來學習船舶在航行過程中的動態操縱特性.目前, 在系統辨識中應用最多的是多層前向網絡. 該網絡具有逼近任意連續非線性函數的能力, 但這種網絡結構一般是靜態的, 而人們更關心控制系統的動態特性, 這恰恰是反向傳播(BackPropagation,BP)神經網絡等前饋型網絡所缺乏的.與靜態前饋型神經網絡不同,動態遞歸網絡通過存儲內部狀態使其具備映射動態特征的功能, 從而使系統具有適應時變特性的能力, 更適合于非線性動態系統的辨識.動態遞歸神經網絡是控制系統建模和辨識中極具發展潛力的網絡.[9]本文將動態遞歸神經網絡應用于船舶操縱運動辨識,建立一種基于Elman神經網絡的辨識模型.該網絡模型與已知的船舶動力學基本模型相對應,使網絡結構具有明確的物理意義.隨后,利用幾種典型的船舶操縱性試驗數據對網絡模型進行訓練和驗證,得到比較滿意的結果.
1船舶運動數學模型
船舶的實際運動是一種具有6個自由度的異常復雜的運動.對大多數情況下的船舶運動及控制而言,可以忽略船舶垂蕩、橫搖和縱搖運動.國際海事組織(International Maritime Organization,IMO)要求的幾種典型的船舶操縱性試驗極少包含對船舶垂蕩、橫搖和縱搖運動的數據記錄.本文的主要目的在于驗證Elman神經網絡對船舶運動辨識的可行性.考慮上述原因,僅對船舶3自由度運動進行辨識與建模,不考慮風、浪和流等外界條件的影響.
船舶3自由度的動力學方程[5]為