五月激情开心网,五月天激情社区,国产a级域名,婷婷激情综合,深爱五月激情网,第四色网址

神經網絡算法優選九篇

時間:2023-02-27 11:15:41

引言:易發表網憑借豐富的文秘實踐,為您精心挑選了九篇神經網絡算法范例。如需獲取更多原創內容,可隨時聯系我們的客服老師。

第1篇

1、BP(Back Propagation)網絡是1986年由Rumelhart和McCelland為首的科學家小組提出,是一種按誤差逆傳播算法訓練的多層前饋網絡,是應用最廣泛的神經網絡模型之一。BP網絡能學習和存貯大量的輸入-輸出模式映射關系,而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法,通過反向傳播來不斷調整網絡的權值和閾值,使網絡的誤差平方和最小。BP神經網絡模型拓撲結構包括輸入層(input)、隱層(hide layer)和輸出層(output layer)。

2、BP神經網絡算法是在BP神經網絡現有算法的基礎上提出的,是通過任意選定一組權值,將給定的目標輸出直接作為線性方程的代數和來建立線性方程組,解得待求權,不存在傳統方法的局部極小及收斂速度慢的問題,且更易理解。

(來源:文章屋網 )

第2篇

【關鍵詞】深度學習 卷積神經網絡 權值共享 下采樣 R-CNN Fast-R-CNN

1 緒論

隨著電子信息技術的快速發展,芯片的設計與生產進入了納米時代,計算機的計算能力與計算速度得到了空前的提高,但是人們的需求是無限的,要求計算機能更加任性化的服務于我們的生活,這也就要求計算機本身能像人一樣識別與感知周圍的環境,并對復雜的環境做出正確的判斷。而圖片信息是我們周圍環境最直觀的,最容易獲取的信息,要求計算機能對為的環境做出識別與判斷也就要求計算機能夠智能的識別圖像信息。深度學習是機器學習中的一個新的研究領域。通過深度學習的方法構建深度網絡來抽取目標特征進而識別周圍的環境。卷積神經網絡對圖像的處理具有平移,旋轉,扭曲不變的優良特性。在處理圖像是更加快捷和便利。卷積神經網絡使得計算機在感知識別周圍環境的能力有了巨大的提升,使得計算機更加智能。卷積神經網絡擁有強大的特征提取能力,使得其在圖像分類識別,目標跟蹤等領域有著強大的運用。

1.1 國內外研究現狀

1986年,Rumelhart和Mc Celland提出BP算法。BP算法反向傳導神經網絡輸出誤差進行訓練神經網絡。通過BP算法,神經網絡能夠從大量訓練數據中的學習到相關統計信息,學習到的數據統計信息能夠反映關于輸入-輸出數據模型的函數映射關系。

自2006年以來,Geoffery Hinton教授提出深度信念網絡。從此深度學習在學術界持續升溫。深度學習不僅改變著傳統的機器學習方法,也影響著我們對人類感知的理解,迄今已在語音識別和圖像理解等應用領域引起了突破性的變革。各種相關的算法和模型都取得了重要的突破,使得深度學習在圖像分類,語音識別,自然語言處理等領域有廣泛的運用。

2013年百度成立百度深度學習研究院以來我國的人工智能領域取得了長足的進步。在人工智能專家吳恩達的帶領下,百度陸續推出一系列人工智能產品,無人駕駛技術,DuerOS語音交互計算平臺,人臉識別技術,美樂醫等優秀產品。此外Imagenet圖像識別大賽中也誕生了一系列經典的神經網絡結構,VGG,Fast-R-CNN,SPP-net等等,可以說人工智能技術在近幾年得到了空前的發展。

2 深度學習概述

深度學習是機器學習的一個新方向,通過學習樣本數據內在規律和深層特征深度,深度學習神經網絡能夠像人一樣有分析和學的能力,尤其在文字處理,圖像識別,語音等領域更加突出。能夠自主學習一些新的東西。目前深度學習使用的典型技術是通過特征表達和分類器來進行目標識別等任務的。并在語音識別、圖像處理、機器翻譯等領域取得很多成果。

深度學習不同于以往的淺層學習,淺層學習模型值包含一個隱藏層,或者不存在隱藏層,深度學習則是由很多隱藏層組成的,上一層的輸出作為下一層的輸入,實驗對輸入信息進行分級表達。目前深度學習框架主要包含三種深度學習框架,如圖1、2、3所示。

3 卷積神經網絡

卷積神經網絡的結構層次比傳統的神經網絡復雜,卷積神經網絡包含大量的隱藏層,相鄰的卷積核或者下采樣核采用局部感受野全鏈接,神經元權值共享的規則,因此卷積神經網絡訓練參數的數量遠比傳統神經網絡少,卷積神經網絡在訓練和前向測試的復雜度大幅度降低,同時也減少了神經網絡訓練參數過擬合的幾率。卷積神經網絡主要有兩部分,分別是卷積核和下采樣核。卷積核主要對上一層的圖像進行卷積運算,提取圖像特征,下采樣核則是對上層的數據進行將為處理,減少神經網絡的復雜度。

卷積神經網絡中每一個神經元的輸入與前一層的局部感受野相連,提取局部感受野的特征,比如圖像的輪廓,顏色等特征,而這些特征不僅包括傳統人類能理解的特征,也包括神經網絡自身能夠識別的特征,卷積核全職共享,因此這些特征提取與圖像的位置無關。

圖4是經典的LeNet5卷積神經網絡架構,LeNet5架構中卷積核和下采樣核交替出現,下采樣核及時的將卷積核生成的特征向量進行降維,減少神經網絡的運算量。LeNet5算法在1962年幼Hubel等人提出,在識別手寫數字mnist中有極高的準確率。

4 R-CNN、Fast-R-CNN對比分析

卷積神經網絡在對圖像進行識別具有平移,旋轉,扭曲不變的優良特性,并且能夠實現高準確率識別圖像,但是在現實生活運用中往往需要神經網絡標記出目標的相對位置,這是傳統卷積神經網絡不具備的功能。因此在前人傳統卷積神經網路基礎上對卷積神經網絡進行改進,產生了具有對圖像中目標進行識別和定位的卷積神經網絡R-CNN,Fast-R-CNN等改良算法。

4.1 R-CNN

R-CNN為Region Convoluntional Neural Network的縮寫即對圖像進行局部區域的卷積處理,其核心思想主要是利用候選區圖像對物體探測中位置信息進行精確處理和利用監督式預訓練和區域特殊化的微調方法,代替了傳統的非監督式預訓練和監督式微調。

在CNN中,全連接層輸入是固定大小的,因此R-CNN用計算機視覺算法將每一張圖片分割成1000-2000張的候選區圖片后,要將這些候選區圖片進行變換,生成固定大小的候選圖片,在訓練提取特征時一般采用經過預訓練的模型參數進行finetuning,榱嗽黽友盜費本,模型在也將生成的候選框以及標定的標簽作為訓練樣本進行訓練。R-CNN采用SVMs分類器對特征向量進行分類,在訓練SVMs時將候選框經過卷積神經網絡提取的特征和SVM標定結果輸入到SVMs分類器訓練分類器模型。而在測試時將圖像全部候選框經過卷積神經網絡提取的特征輸入到SVMs分類器中,得到每一類的評分結果。但是R-CNN在處理一張圖片是要處理需要對一張圖片1000-2000個候選區圖像進行前向運算,保存所有后選取圖片的特征值,要求計算硬件有大量的存儲空間,同時處理每一張圖片的時間也會增加。由于訓練集龐大,本文采用hard negative mining method方法提高存儲的利用率。

R-CNN的體現出了極大的優勢,其中MAP也可以大幅度提高,但是正如本文上述,R-CNN計算的時間成本很大,達不到實時的計算效果,R-CNN在對候選區進行處理時會使得圖像失真,部分信息丟失。

4.2 Fast-R-CNN

Fast-R-CNN則是再次改進的一種基于卷積神經網絡目標跟蹤定位算法。相比于R-CNN,Fast-R-CNN從單輸入變為雙輸入,在全連接層后有了兩個輸出,引入了Rol層。

Fast-R-CNN在運行的時候同樣會生成大量的候選區,同時將原始的圖片用卷積神經網絡進行特征提取,將原始圖片提取的特征與生成的候選區坐標送入Rol層為每一個候選區生成一個固定大小的特征向量。最后將Rol生成的特征向量全連接層產生最終的LOSS。Fast-R-CNN中的LOSS采用多LOSS模式,SoftMax LOSS用于計算K+1分類的損失,K為第K個目標,1為背景;Regression LOSS計算候選區的四個角的坐標。

Fast-R-CNN在MAP上有了大幅度的提升,速度也得到了提升,但是在計算候選區是仍存在瓶頸,這也是限制Fast-R-CNN速度的因素。

5 實驗測試

對于本文提出的卷積神經網絡識別圖像定位圖像目標算法R-CNN,Fast-R-CNN,在本章給出實驗結果。實驗平臺為基于Linux系統的debian8下運行caffe進行訓練,采用顯卡K620進行實驗。

訓練模型初始化參數在是服從高斯隨機分布,R-CNN采用的網絡結構如圖7所示,Fast-R-CNN的網絡結構如圖8所示。

本次實現的訓練樣本為錄制實驗室視頻數據,將視頻數據轉換成幀圖片,對每張圖片數據進行裁剪,裁剪后圖像大小在256*256,共有500張,再將裁剪后的圖片進行旋轉,平移,扭曲,鏡像,加噪聲等處理,最后生成144萬張樣本圖片,其中136.8萬張圖片作為訓練樣本,7.2萬張作為測試樣本。

6 總結

在目標識別定位領域,卷積神經網絡具有強大的圖像處理能力,對圖像的識別定位具有很高度平移,旋轉,扭曲不變形的優良性能。卷積神經網絡架構R-CNN和Fast-R-CNN都有強大的圖像處理能力。Fast-R-CNN在識別準確率上比R-CNN高。R-CNN算法復雜,對一張圖片需要進行1000-2000次的卷積運算,特征重復提取。因此在訓練和前向測試時,R-CNN用的時間長,不能很好的適用于處理實時圖片數據,尤其視頻數據。R-CNN在對每個候選區進行特征提取之后需要將提取的特征向量存入內存,降低訓練測試時間的同時也需要耗費大量內存。因此從各方面分析可知,Fast-R-CNN性能優于R-CNN。

參考文獻

[1]謝寶劍.基于卷積神經網絡圖像分類方法研究[D].合肥工業大學,2015.

[2]鄭胤,陳權崎,章毓晉.深度學習及其在目標和行為識別中的新進展[J].中國圖象圖形學報,2014(02):175-184.

[3]陳先昌.基于卷積神經網絡的深度學習算法與運用研究[D].杭州:浙江工商大學,2006(04):603-617.

[4]李彥冬,郝宗波,雷航等.卷積神經網絡研究綜述[J].計算機應用,2016.

[5]Gibson.J J.The perception of the Visual World[J].Cambridge,England,1950.

[6]HORN B,SCHUNCK P.Determining optical flow[J].Artificial Intelligence, 1981,17:185-203.

[7]R.Girshick,J.Donahue,T. Darrell,and J.Malik,“Rich feature hierarchies for accurate object detection and semantic segmentation,”in CVPR,2014

[8]Ross Girshick,Wicrosoft Research. Fast R-CNN,.

[9]R.Girshick.Fast R-CNN. arXiv:1504.08083,2015.

第3篇

關鍵詞:期貨經紀公司 綜合實力 主成分分析 聚類分析

人工神經網絡(ANN)是大腦及其活動的一個理論化的數學模型,由大量的處理單元(神經元)互連而成的,是神經元聯結形式的數學抽象,是一個大規模的非線性自適應模型。人工神經網絡具有高速的運算能力,很強的自學習能力、自適應能力和非線性映射能力以及良好的容錯性,因而它在模式識別、圖像處理、信號及信息處理、系統優化和智能控制等許多領域得到了廣泛的應用。

人工神經網絡的學習算法可以分為:局部搜索算法,包括誤差反傳(BP)算法、牛頓法和共軛梯度法等;線性化算法;隨機優化算法,包括遺傳算法(GA)、演化算法(EA)、模擬退火算法(SA)等。

蟻群算法是一種基于模擬螞蟻群行為的隨機搜索優化算法。雖然單個螞蟻的能力非常有限,但多個螞蟻構成的群體具有找到蟻穴與食物之間最短路徑的能力,這種能力是靠其在所經過的路徑上留下的一種揮發性分泌物(pheromone)來實現的。螞蟻個體間通過這種信息的交流尋求通向食物的最短路徑。已有相關計算實例表明該算法具有良好的收斂速度,且在得到的最優解更接近理論的最優解。

本文嘗試將蟻群算法引入到前向神經網絡的優化訓練中來,建立了基于該算法的前向神經網絡訓練模型,編制了基于C++語言的優化計算程序,并針對多個實例與多個算法進行了比較分析。

前向神經網絡模型

前向人工神經網絡具有數層相連的處理單元,連接可從一層中的每個神經元到下一層的所有神經元,且網絡中不存在反饋環,是常用的一種人工神經網絡模型。在本文中只考慮三層前向網絡,且輸出層為線性層,隱層神經元的非線性作用函數(激活函數)為雙曲線正切函數:

其中輸入層神經元把輸入網絡的數據不做任何處理直接作為該神經元的輸出。設輸入層神經元的輸出為(x1,x2,Λ,xn),隱層神經元的輸入為(s1,s2,Λ,sh),隱層神經元的輸出為(z1,z2,Λ,zh),輸出層神經元的輸出為(y1,y2,Λ,ym),則網絡的輸入-輸出為:

其中{wij}為輸入層-隱層的連接權值,{wi0}隱層神經元的閾值,{vki}為隱層-輸出層的連接權值,{vk0}為輸出層神經元的閾值。網絡的輸入-輸出映射也可簡寫為:

1≤k≤m (5)

前向神經網絡的訓練樣本集為

A={Xi,Tii=1,2,A,n)}

(其中Xi∈Rn,為第i組訓練數據的輸入,Ti∈Rm為與第i組訓練數據的輸入對應的期望輸出,Tki為輸出層第k個神經元的期望輸出),設第i組訓練數據的輸入的實際輸出為Yi∈Rm,Yki為輸出層第k個神經元的實際輸出,則基于該訓練樣本集的誤差函數為

該函數是一個具有多個極小點的非線性函數,則對該前向神經網絡的訓練過程為調整各個神經元之間的連接權值和閥值{wij},{wi0},{vki},{vk0},直至誤差函數E達到最小。

誤差反向傳播算法(BP算法)是一種梯度下降算法,具有概念清楚、計算簡單的特點,但是它收斂緩慢,且極易陷入局部極小,且對于較大的搜索空間,多峰值和不可微函數也不能搜索到全局極小。為此人們提出了很多改進的學習算法,其中最簡單且容易實現的是加入動量項的變學習率BP算法,這種算法一般都比較有效,但是收斂速度還是比較慢,仍是局部搜索算法,從本質上仍然擺脫不了陷入局部極小的可能。為了擺脫局部極小,人們已經嘗試將可用于非線性優化的遺傳算法、演化算法以及模擬退火算法等進行前向人工神經網絡的訓練。

蟻群算法

蟻群算法簡介

螞蟻在路徑上前進時會根據前邊走過的螞蟻所留下的分泌物選擇其要走的路徑。其選擇一條路徑的概率與該路徑上分泌物的強度成正比。因此,由大量螞蟻組成的群體的集體行為實際上構成一種學習信息的正反饋現象:某一條路徑走過的螞蟻越多,后面的螞蟻選擇該路徑的可能性就越大。螞蟻的個體間通過這種信息的交流尋求通向食物的最短路徑。蟻群算法就是根據這一特點,通過模仿螞蟻的行為,從而實現尋優。這種優化過程的本質在于:

選擇機制:分泌物越多的路徑,被選擇的概率越大。

更新機制:路徑上面的分泌物會隨螞蟻的經過而增長,而且同時也隨時間的推移逐漸揮發消失。

協調機制:螞蟻間實際上是通過分泌物來互相通信、協同工作的。

蟻群算法正是充分利用了選擇、更新和協調的優化機制,即通過個體之間的信息交流與相互協作最終找到最優解,使它具有很強的發現較優解的能力。

蟻群算法具體實現

蟻群算法求解連續空間上的優化問題 以求解非線形規劃問題為例。考慮如下的非線性規劃問題:minF(x1,x2,Λ,xn),使得,ai1x1+ai2x2+Λ+ainxn≥bi,i=1,2,Λ,r。這里F為任一非線形函數,約束條件構成Rn上的一個凸包。可以使用不等式變換的方法求得包含這個凸包的最小的n維立方體。設該立方體為

設系統中有m只螞蟻,我們將解的n個分量看成n個頂點,第i個頂點代表第i個分量,在第i個頂點到第i+1個頂點之間有ki條連線,代表第i個分量的取值可能在ki個不同的子區間。我們記其中第j條連線上在t時刻的信息量為τij(t)。每只螞蟻要從第1個頂點出發,按照一定的策略選擇某一條連線到達第2個頂點,再從第2個頂點出發,…,在到達第n個頂點后,在kn條連線中選取某一條連線到達終點。每個螞蟻所走過的路徑代表一個解的初始方案,它指出解的每一個分量所在的子區間。用pijk(t)表示在t時刻螞蟻k由城市i轉移到城市j的概率,則(式(7))

為了確定解的具體值,可在各個子區間已有的取值中保存若干個適應度較好的解的相應分量作為候選組,為了加快收斂速度,參考具有變異特征的蟻群算法提出的具有變異特征的蟻群算法,使用遺傳操作在候選組中確定新解的相應分量的值。首先可隨機在候選組中選擇兩個值,然后對他們實行交叉變換、變異變換,以得到新值作為解的相應分量。該候選組中的值在動態的更新,一旦有一個更好的解的分量在該子區間中,就用這個值替換其中的較差者。

在m只螞蟻得到m個解后,要對它們進行評估,本人使用Lagrange函數作為評估解的優劣的適應度函數,否則要對每個解進行合法性檢查并去除其中的不合法解。然后要根據適應度函數值更新各條邊上的信息量。要根據下式對各路徑上的信息量作更新:

Δτijk表示螞蟻k在本次循環中在城市i和j之間留下的信息量。

重復這樣的迭代過程,直至滿足停止條件。

候選組里的遺傳操作 若候選組里的候選值的個數gi=0,即候選組里沒有候選值,此時則產生一個[li+(j-1)×length,min(ui,li+j×length]間的隨即數作為解分量的值wij,vij,跳過選擇、交叉、變異等遺傳操作。

若gi=1,即候選組里只有一個候選值wik,vik,則跳過交叉、選擇等操作,直接對這個候選值wik,vik進行變異操作。

若gi=2,即候選組里有兩個候選值,則跳過選擇操作,直接對這兩個候選值進行交叉、變異等操作。

否則,選擇兩個分量后進行交叉、變異操作。

在選擇操作中,根據候選組里各候選值的適應度的大小,用“賭輪”的方法選取兩個值。設第j個值所在解的適應度為fj,則它被選中的概率為

在交叉操作中,設所選擇的兩個值為wij(1),vij(1)和wij(2),vij(2),其適應度分別為f1,f2,且f1>f2,我們以概率Pcross進行交叉操作。隨機產生p∈[0,1],若p>Pcross,則進行交叉操作。取隨機數r∈[0,1],交叉結果值

在所有螞蟻都得到解以后,修改邊條上的信息量按式(8)和式(9)相應地更新各子區間上的信息量。但對Δτijk的更新應按下式進行:

其中W為一個常數,fk為螞蟻k的解的適應度。

前向神經網絡的訓練過程

基于上述的定義,用蟻群算法訓練具有三層前向神經網絡,可按以下步驟進行:

輸入相關參數:輸入最大迭代次數number,每次迭代選取的適應度最好的解的個數num,每個分量的ki個子區間中信息量最大的子區間被選種的概率q0(其余子區間被選中概率為(1-q0))。

初始化:通過神經網絡在控制變量可行域內隨機產成m只螞蟻,即產生m組{wij},{wi0},{vki},{vk0},且各個分量均為[-1,1]區間內的隨機數。

迭代過程:對于n個分量,分別對m個螞蟻進行循環更新相應的信息量τij(t),對候選組中的分量進行遺傳操作,計算新解的適應度,對各邊的信息量進行修改,根據適應度的優劣增刪候選組中的值。判斷是否滿足結束條件,若不滿足則繼續迭代。

第(3)步的具體算法如下:

while not結束條件(如最大迭代次數) do

{for i=1 to n do (對n個分量循環)

{for k=1 to m do (對m個螞蟻循環)

{根據q0和概率pijk(t)確定第i個分量的值在第j個子區間;

局部更新第j個子區間的信息量τij(t);

在第j個子區間候選組里通過遺傳操作生成第i個分量值;}

計算新解的適應度函數值;}

修改個條邊上的信息量;

取適應度最好的num個解將其各分量直接插入相應的子區間的候選組中,并淘汰候選組中的較差者。}

上述過程中根據下列公式選取第i個分量的值所在的子區間號j:

由于算法中以q0的概率選擇ki個子區間中信息量最大的子區間,因此信息量最大的那個子區間常常被選中,這就使得新一代解的該分量值集中在這個子區間,容易發生停滯現象。為了避免這種現象,在上述過程中對所選的子區間的信息量進行局部更新,對被選中的子區間立即適當地減少其信息量,使其他螞蟻選中該子區間的概率降低。設第k個個體的第i個分量選中第j個子區間,則按下式局部更新子區間j的信息量:

這樣,更新后的信息量是原來的信息量和有關第i個分量各子區間的最小信息量的凸組合。當信息量最大的子區間被多次選中之后,信息量減少到ki個子區間的信息量的平均水平,從而螞蟻選擇其他子區間的概率增加,增加了所建立解的多樣性,同時也有效減少了停滯現象的發生。

實驗結果

為了評價蟻群算法的性能,筆者做了大量的計算機模擬試驗,在此給出了兩個函數COS(X)和SIN(X)函數的實驗結果,選擇螞蟻群規模m=20;每次迭代選取的適應度最好的解的個數num=10;每個分量的ki個子區間中信息量最大的子區間被選中的概率q0=0.8;前向神經網絡的輸入層有1個神經元,隱層有10個神經元,輸出層有1個神經元,多個方法SIN(X)函數的試驗結果列于表1,多個方法COS(X)函數的試驗結果列于表2。

結論

本文給出了基于蟻群算法的三層前向神經網絡的訓練模型,并建立了一種新的網絡訓練算法。從試驗結果分析,與演化算法、模擬退火算法、加動量項的BP算法相比,蟻群算法具有較快的收斂速度,能夠達到較小的均方誤差值,因此,此方法收斂過程有比較明顯的優勢和穩定性。

網絡訓練算法。從試驗結果分析,與演化算法、模擬退火算法、加動量項的BP算法相比,蟻群算法具有較快的收斂速度,能夠達到較小的均方誤差值,因此,此方法收斂過程有比較明顯的優勢。

參考文獻:

1.褚蕾蕾,周夢等.計算智能的數學基礎[Z].科學出版社,2002

2.呂崗,陳小平,趙鶴鳴.一種優化多層前向網絡的IA-BP混合算法[J].計算機工程與應用,2003.27

3.王建群,盧志華.三層前向人工神經網絡全局最優逼近[J].數學的實踐與認識,2003.7

4.陳陵,沈潔,秦玲.蟻群算法求解連續空間優化問題的一種方法.軟件學報,2002

5.Dorigo, M., Luca, M. A study of some properties of Ant-Q. Technical Report, TR/IRIDIA/1996-4, IRIDIA, University Libre de Bruxelles,1996

6.Gambardella, L.M., Dorigo, M. Ant-Q: a reinforcement learning approach to the traveling salesman problem. In: Prieditis, A., Russell, S., eds. Proceedings of the 12th International Conference on Machine Learning. Tahoe, CA: Morgan Kaufmann, 1995

7.Sheng, Jie, Chen, Ling. A new approach to solving nonlinear programming. Journal of System Science and System Engineering, 2002

8.Wu, Qing-hong, Zhang, Ji-hui, Xu, Xin-he, An ant colony algorithm with mutation features. Jurnal of Computer Research & Development, 1999

作者簡介:

王晶(1980-),女,河北保定人,碩士研究生,主要研究領域為人工智能與數據處理。

張國立(1959-),男,吉林榆樹人,教授,主要研究領域為智能計算理論、方法及其在電力市場中的應用。

第4篇

計算機網絡拓撲結構主要是指計算機連接網絡之后,其自身設備與傳輸媒介所共同組成的一種物理構成模式,其網絡拓撲結構的形式主要是由通信子網來決定的,其結構的主要功能是實現數據信息的網絡共享、處理及交換,并要在一定程度上提升網絡數據信息運行的可靠性,站在網絡拓撲的結構來講,計算機網絡結構的主要部分是鏈路與結點,計算機網絡實質上是由一組結點以及多條鏈路所共同組成的一種模擬結構。計算機網絡通常表示為:G=<V,E>,其中V表示的是網絡結點集,E表示的是鏈路集,如果應用Va來表示結構中增加的結點集,Eb來表示增加的連接集,那么就能夠得到其拓撲擴展的計算機網絡結構為G’=<V’,E’>。

2基于計算機網絡連接優化中的神經網絡算法

本次研究中分析的均場神經網絡算法實際上是一種神經網絡算法與均場退火技術相結合的算法,應用這種方法能夠有效的增強計算機的網絡連接,并且達到更優化、更快的連接效果,這其實是一種利潤最大化的網絡優化算法,其能夠最大限度的提高計算機網絡的性價比。

2.1神經網絡算法

人工神經網絡屬于非線性動力學系統,其能夠對信息進行分布式的存儲及協同處理,其在人工神經網絡之上的人工神經網絡系統的基礎之上,應用網絡算法及網絡模型進行各種信號的處理,或者是對某種運行模式進行識別,從而建立其一個獨立的專家系統,或者是構成機器人,當前在多個領域中,人工神經網絡系統都得到了廣泛的應用,在該基礎上所發展起來的人工神經網絡算法是一種監督性的學習算法,人們對于其重視程度逐漸增加,但是在實際的應用中,其存在收斂速度較慢的缺陷,難以保證將收斂程度壓制到全局的最小點,容易導致計算機網絡學習及記憶不穩定性增強的問題,這會對計算機網絡的連接效果造成直接的影響,做好其網絡連接的優化非常的必要。

2.2均場神經網絡算法

在基于計算機網絡連接增強優化下的均場神經網絡算法的研究中,對其網絡效果進行判斷,需要建立起一個完整的場均神經網絡模型,在模型的構建過程中,應該做好函數法構造過程中的目標函數的構建問題,具體的構建方式表現為:應用Si來表示Hopfield計算網絡中的一個神經元狀態,并且規定當Si=1時,表示的含義是網絡選中了連接i,可以實現正常的連接,當Si=0時,表示的含義是:網絡中沒有選中連接i,網絡無法實現正常連接,再應用罰函數法就結構來進行網絡模型的創建。

2.3實例分析

根據上文中分析的計算方法,在得到計算結果之后,能夠對均場網絡算法的可行性及有效性進行判定,我們分別采用模擬退火算法、遺傳算法、均場神經網絡算法進行比較,結果顯示模擬退火算法需要計算99次,這樣才能保證計算出規定的連接集,并從中獲取一定的利潤值,在遺傳算法中需要進行96次的計算,在均場神經網絡算法中,需要實施88次的計算,均場神經網絡算法在獲得網路連接效果等方面,更快、更加有效,更適宜應用于計算機網絡連接的增強優化以及網絡結構拓撲的擴展工作中。

3結束語

第5篇

關鍵詞:計算機網絡模型;神經網絡算法;分析

中圖分類號:TP393 文獻標識碼:A 文章編號:1009-3044(2016)35-0212-02

計算機網絡是人們多年研究科技進步最重要的成果,其被廣泛運用到教育、工作、科學等方面,也具有良好的成就。目前,基于服務器的集線式網絡具有實現網絡互連的功能,但也成為了網絡進一步發展的阻礙。雖然大量的信息能夠豐富網絡中的內容,但是其中的多媒體技術發展卻使網絡運行力不從心,比如圖像、聲音等,全面優化計算機網絡整體性能是其發展的必要途徑。將神經網絡算法與計算機網絡相結合,能夠有效解決大規模復雜性的問題。

1淺析神經網絡算法

1.1神經網絡算法內涵

思維界認為,人類大腦思維包括靈感思維、邏輯思維、形象思維三種方式,神經網絡模擬的就是人類思維的形象思維,是一種非線性動力學系統。神經網絡算法指的是邏輯性思維根據邏輯規則推理的過程。神經網絡的內容目前被廣泛研究,包括建立理論模型、生物原型研究、建立網絡模型與算法研究、人工神經網絡應用系統等。

優化網絡的神經網絡主要是Hopfield神經網絡,是1982年由美國物理學家提出的,它能夠模擬神經網絡的記憶機理,是全連接的神經網絡。Hopfield神經網絡中的每個神經元都能夠信號輸出,還能夠將信號通過其他神經元為自己反饋,那么其也稱之為反饋性神經網絡。

1.2神經網絡優化的基礎

Hopfield神經網絡其實是一個分線性動力系統演變的過程,通過能量函數分析系統的穩定性,將能量函數看做需要優化的問題目標函數。將能量函數的初始狀態轉變為穩定點這一過程,就成為求解優化問題過程,這個過程也可以稱為在計算機聯想記憶基礎上解決優化問題的過程。

1.3神經網絡優化模型的算法

反饋網絡的聯想記憶和優化是相對的,通過優化計算得知W,其目的就是為了找出E的最小穩定狀態;聯想記憶的穩定狀態是特定的,要通過一些過程才能夠找到適合的W。這個過程中的關鍵就是將問題的目標函數通過二次型能量函數進行表達。如下式所述:

Hopfield神經網絡比較常見的類型有DHNN(離散型)和CHNN(連續性)兩種,他們的動態方程分e為:

DHNN(離散型)動態方程:ui=fi(v1,v2,...,vN)

Vi=g(ui),vi∈{0,1},i=1,2,...,N

式子中的gi表示為階躍函數,vi=g(ui)[(1, ui>0)(0, ui

CHNN(連續性)動態方程:dui/dt=fi(v1,v2,...,vN)

Vi=gi(ui),i=1,2,...,N

式子中的gi表示為常用函數sigmoid,vi=gi(ui)=1/2[1+tanh(ui/u0)],u0表示的為可控函數的斜率,當u0=0的時候,gi就為階躍函數。【1】

1.4神經網絡算法的優化步驟

其一,通過合適的問題將方法表述出來,使神經網絡的輸出和這一問題的解相互對應;

其二,創建有效的能量函數,要求問題的最優解能夠對應最小值;

其三,使用有利條件和能量函數創建網絡參數;

其四,創建對應的動態方程和神經網絡;

其五,使用有效的初值,要求網絡根據動態方程進行驗算,直到收斂。

2基于神經網絡算法的網絡流優化模型

網絡流優化模型的關鍵就是最小切割、圖的劃分和最大流問題,下面一一描述:

最小切割:最小切割是指尋找使隔集容量達到最小的切割。圖的切割是指劃分一個N―n1Un2,一個隔集為一組弧(i,j),i∈n1,j∈n2,隔集弧的權值總和為它的容量。使N=(W,T)是T=0的網絡,要求能量最小為N圖的最小切割。

圖的劃分:圖的劃分指的是將圖劃分為K個部分,要求每個部分中的節點數都相等。

最大流問題。要求有向圖G(v,e)中的開始點為S,結束點為Z,邊容量為Cij。如果每條邊都有非負數fij,并且每條邊為fij≤Cij且除了S和Z之外具有∑fij=∑fki。當S和Z有∑fsi=∑fiz=W的時候,W的最大值≤任何切割的容量。【2】

3基于神經網絡算法的動態路由選擇模型

通信網中的物理網絡的連接一般是點到點,其可以用無向圖G=(v,e)來表示,將交換節點表示為頂點,通路表示為邊,每一邊都有最大容量,為了能夠滿足網絡中點和點能夠相互通信,還E能夠根據網絡業務的量和用戶呼叫為基礎進行路由安排。現在一般使用的都是靜態方式,能夠提供給動態路由一些可能性,其的優化模型是:

如果網絡圖是G=(v,e),而且對網絡中的邊進行編號,路徑經過的邊表示為1,路徑不經過的邊表示為0,L*M神經元表示為L需要這多個路由,將備選的路由數量表示為M,如果通信網中具有N個節點,那么目標函數就是E=E1+E2+E3。【3】

4結束語

基于神經網絡算法的優化網絡模型有著簡單、穩定、快速、規范的優勢,其與其他算法相結合,能夠較大程度的提高計算機網絡模型的整體性能。但是Hopfield神經網絡算法中的優化網絡模型并不嚴格,它有著核心策略下降的缺點,那么在使用過程中會出現網絡收斂的最優解呈局面狀態、網絡收斂解不可行、網絡參數的不正當選擇會導致偏差等,所以在今后就要深入研究計算機網絡模型中的神經網絡算法,使其更加完善。

參考文獻:

[1]丁建立.基于神經網絡算法的計算機網絡優化模型研究[J].洛陽師范學院學報,2003, 22(2):59-62.

第6篇

關鍵詞:ART2神經網絡;模式漂移;標幺值;距離

中圖分類號:TP183文獻標識碼:A

文章編號:1001-9081(2007)04-0945-03

0引言

基于自適應共振理論的ART2神經網絡,采用競爭學習和自穩機制原理來實現穩定的分類,在語音、視覺、嗅覺和字符識別等領域得到廣泛應用。在注意子系統對輸入模式通過向量歸一化和非線性變換預處理過程中,易將重要但幅度較小的分量作為基底噪音而濾除,這樣在分類過程中就丟失了重要的信息;同時,在學習過程中還存在因權值修正問題而造成的模式漂移現象。針對模式漂移等不足,國內外提出了許多解決辦法,主要是結合遺傳算法或小波等算法進行互補[1,2]。本文分析了造成這些不足的原因,提出了標幺值和基于類內樣本與類中心的距離不同而對類中心偏移產生不同影響的思想,提出了改進算法,仿真實驗證明改進算法能有效地改善模式漂移現象。

1傳統ART2神經網絡簡介[3,4]

一種典型的ART2神經網絡結構如圖1所示:圖中只畫出了維數為q的樣本X的第j個分量Xj

的處理結構圖。

整個系統分為注意子系統和定向子系統兩部分。注意子系統完成由底向上矢量的競爭選擇及矢量間相似程度的比較,定向子系統檢查相似度能否達到檢測標準,并做出相應的動作,共振或者重置。

在注意子系統F1層特征表示場對輸入模式X通過向量歸一化和非線性變換進行預處理,以達到抑制噪聲增強對比的作用,得到自穩后的輸入模式U。

否則,當前激活節點I被重置并被屏蔽,在剩余節點中繼續搜尋最匹配的。如果所有節點均不能通過警戒測試則開辟新的輸出節點,即創建一個新類。并對新類所對應的內星及外星連接權矢量進行初始化:

2網絡的分析和學習算法的改進

注意子系統F1層特征表示場要對輸入模式X通過向量歸一化和非線性變換進行預處理,在很多應用場合,由于輸入模式X的分量的單位各不相同,會出現一些重要但幅值較小的分量,例如輸入X=(70,2,85),三個分量代表不同的特征而單位不同,如果分量x2是一個很重要的量,經F1層特征表示場對輸入模式X通過向量歸一化,按照式(1)進行計算得:

被當作基底噪聲而濾除,影響了分類的正確性。造成這種現象的主要原因是因為各分量的度量標準不同,如果輸入分量變成無單位的值,將極大改善這種狀況。工程計算中,往往不用各物理量的實際值,而是用實際值和相同單位的某一選定的基值的比值(標幺值)來進行計算。標幺值=實際值/基值,它是個相對值,沒有單位。因此,在輸入前應該對輸入向量進行無單位化預處理。具體算法如下:

在聚類中,樣本之間的距離常作為它們是否屬于同一類一個判別標準,因此,將輸入模式與現有的模板中心的距離引入了匹配度檢驗階段及權值修改中,這將有效地改善模式漂移現象,具體改進算法如下:

3)權值的修正,根據輸入樣本與模板中心的距離來調整,基于如下的思想:對于同一個類的樣本,當新增加一個樣本,距離模板中心越遠的樣本對模板中心的遷移影響越大。這樣得到的模板中心就會盡可能的接近真正的聚類中心,將改善模式漂移現象。權值的修正采用如下的修正公式:

3實例分析

為分析方便,文章采用文獻[6]的實例,該組模式共有89個,其幅角分別為1°,2°,…,89°,其幅角作為序編號對各模式進行了標記。因為樣本是二維數據,雖然幅值都為1,如果僅用幅角表征,相當于將其轉化成一維的樣本,顯然僅將幅角作為輸入是不合理的。表征平面上的坐標有極坐標和直角坐標,由于極坐標的兩個分量幅值和幅角的單位量綱不同,而直角坐標的兩個分量單位卻是相同的,基于前面的分析,最好采用相同的單位,因此采用直角坐標來表征這組模式,分別為(cos1°,sin1°),(cos2°,sin2°),…,(cos89°,sin89°)。對于這組數據,分別采用順序,逆序和隨機輸入的方式輸入到傳統ART2神經網絡和本文的改進ART2神經網絡。

3.1順序輸入方式

對于順序輸入比較結果見表1。其中參數如下:

傳統的ART2神經網絡參數為:a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.99,ww=0.01。

改進的ART2神經網絡參數為:a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.9,ξ=0.97,ww=0.01。

可以看出,改進的ART2神經網絡克服了傳統ART2不能識別模式漸變過程的弱點,無超大類和樣本混疊現象,良好地實現了分類。

對于逆序輸入模式數據的分類結果基本類同于順序輸入方式下得到的結果。

3.2隨機輸入方式

將以上89個模式以隨機輸入的方式輸入到傳統ART2神經網絡和本文的改進網絡,共做10次實現,觀察結果,表2列出具有代表性的一次分類結果。

兩種ART2神經網絡均將所有模式分為三類,其中傳統的ART2神經網絡的第一類模式序號均小于31,其規模僅有13個模式,屬于超小類,缺少量為17個。第二類序號小于30的模式有18個,序號大于60的模式有6個,其規模為53個,屬超大類,超出量為23個。第三類序號小于61的模式有3個,其規模為25個模式,缺少量為4個。第一類和第二類出現交混量,比例為0∶16,即本屬于第一類的16個數據被錯分到第二類,第一類與第三類交混量的比例為0∶1,第二類與第三類的交混量的比例為7∶2。

可以看出改進的ART2神經網絡沒有出現超大或超小類,同時交混量的數量也很少,說明改進的ART2神經網絡分類性能顯著提高。同時對其他幾組結果進行分析,可知傳統的ART2網絡分類結果受模式輸入順序的影響較大,而改進的ART2網絡的分類結果較為一致,說明改進后的ART2網絡具有一定的魯棒性。

4結語

第7篇

關鍵詞:車牌定位;脈沖神經網絡(SNN);邊緣檢測;車牌定位;字符分割;字符識別 文獻標識碼:A

中圖分類號:TP391 文章編號:1009-2374(2016)32-0013-02 DOI:10.13535/ki.11-4406/n.2016.32.006

現在車牌定位已經提出了很多方法,其中經常用到的是基于黑白圖像定位、基于顏色特征算法和基于車牌邊緣檢測算法。大多數算法都是基于單一特征來進行車牌定位提取,這樣的定位方法在確定車牌區域上存在著明顯的局限性,受到特定條件的限制。車牌區域主要有以下特征:顏色特征、幾何特征、位置特征、紋理特征、灰度跳變特征、投影特征和頻譜特征等。車牌和字符的顏色共有五種組合分別為:藍底白字、黃底黑字、白底黑字、黑底白字以及白底紅字,其中一些小型和大型車輛的牌照底色會跟著省份的變化而略有不同。本文綜合分析車牌的特征,提出了基于脈沖神經網絡顏色特征提取的車牌粗定位和基于脈沖神經網絡的邊緣檢測的精確定位。

1 算法描述及流程

首先輸入拍攝的彩色車牌圖像,利用SNN對車牌圖像進行顏色特征提取,接著經過一系列處理實現車牌的粗定位,然后運用灰度化、邊緣檢測、形態學處理和二值化等技術對粗定位車牌進行處理,再采用行列掃描投影法進行精確定位,最終提取出正確的車牌區域,其中的邊緣檢測也是基于SNN。基于SNN的車牌定位流程如圖1所示:

2 車牌的粗定位

以藍色為例,上述算法的具體步驟如下:(1)輸入彩色車牌圖像;(2)將三幅成分圖、和中的每個像素轉換為脈沖序列;(3)計算其脈沖序列的放電頻數,分別用維數為的數組、和來存儲;(4)將三個像素閾值、、轉換為脈沖序列,并計算其放電頻數,分別用、和來存儲;(5)判斷是否滿足、、,如果滿足的話,令,否則令。

如果,則在坐標處的像素為藍色。其他顏色原理相同。

3 車牌的精確定位

本文主要基于感受野和脈沖神經元來檢測車牌圖像的邊緣,其網絡的結構如圖3所示。該網絡有三層:第一層為光感輸入層;第二層為中間層,四個并行神經元矩陣、、、對應四種不同的感受野,為了簡化只畫出了每個矩陣中的一個神經元。在突觸連接中的“X”代表興奮性突觸,“”代表抑制性突觸,中間層通過不同的權重矩陣連接光感輸入層,分別執行上、下、左、右邊緣的檢測,這些權重矩陣能改變圖像中不同尺寸感受野的大小;第三層為輸出層,其中每一個神經元累加來自第二層對應四個并行神經元矩陣的輸出。通過繪制輸出層的脈沖頻率圖,能得到對應于輸入圖像的邊緣圖。本文主要介紹神經元通過權重矩陣連接到光感輸入層的感受野,其響應了感受野的右邊緣。此脈沖神經網絡檢測右邊緣的原理如下:

如果一個灰度均勻圖像位于該感受野中時,產生一個均勻的脈沖的輸出,膜電勢不會變化,不會有脈沖序列產生;如果一個邊緣明確的圖像位于感受野中,感受野的左半部分產生一個較強的信號,右半部分產生一個符號相反的較弱的信號,由于左半部分興奮信號沒有被右半部抑制信號抵消,因此膜電勢上升得很快,最終產生響應右邊緣的脈沖序列。突觸權重矩陣相當于在感受野內檢測邊緣的一個濾波器,其他三個邊緣原理相同。輸出層神經元累積來自中間層的四個神經元矩陣的輸出,然后響應位于感受野任意方向的邊緣。

如圖4所示,通過與canny邊緣檢測和sobel邊緣檢測對比,可知sobel邊緣檢測結果缺失了部分邊緣,canny邊緣檢測能力很強,但是提取了很多無用的邊緣,然而SNN邊緣檢測結果最好,彌補了兩者的缺點。

4 實驗結果及分析

使用Visual C++ 2012開發工具搭建此算法的軟件實驗平臺,共收集了樣本400張(全國各個省份的車牌),并且針對各種底色車牌逐一進行提取,有366張可以成功定位,定位率達到91.5%。從以上實驗結果可知該算法能達到很好的定位效果。

5 結語

本文主要介紹了基于脈沖神經網絡的車牌定位算法,分別從車牌粗定位和精確定位兩方面進行了系統的分析,綜合運用了圖像處理中的灰度化處理、邊緣檢測、二值化等技術對車牌圖像進行分析和處理,充分利用車牌顏色和紋理等特征對車牌進行提取。由于客觀條件和時間的限制,本文的研究還存在很多不足,有很多方面需要進一步提高。

參考文獻

[1] 孫杰.車牌定位分割技術的研究與實現[D].東北電力大學,2007.

[2] 張燕,任安虎.多特征與BP神經網絡車牌識別系統研究[J].科學技術與工程,2012,(22).

[3] 陳麗娟.基于脈沖神經網絡的車牌識別系統的設計與實現[D].福建師范大學,2015.

[4] QingXiang Wu,Martin McGinnity,Liam Maguire,Ammar Belatreche,Brendan Glackin.Edge Detection Based on Spiking Neural Network Model[J].Third International Conference on Intelligent Computing,ICIC 2007.

[5] 陳浩.基于脈沖神經網絡模型的車輛車型識別研究[D].福建師范大學,2011.

第8篇

關鍵詞: 網絡流量檢測; 群智能算法; RBF神經網絡; 網絡安全

中圖分類號: TN926?34; TP393 文獻標識碼: A 文章編號: 1004?373X(2016)20?0012?03

Abstract: The application of swarm intelligence optimizing neural network in network security and a network traffic detection model based on neural network algorithm are studied in this paper. QAPSO algorithm is used to optimize the basis function center and base function width of RBF neural network, and the connection weights of the output layer and the hidden layer as well. The detection model studied in this paper is analyzed by means of an example. The collected data is used to train the network traffic identification system and test its performance. The method researched in this paper is compared with the algorithms based on the conventional PSO and HPSO. The results show that the detection method has a faster recognition speed and better recognition accuracy, and can avoid the occurrence of local optimal solutions.

Keywords: network traffic detection; swarm intelligence algorithm; RBF neural network; network security

0 引 言

隨著互聯網技術不斷發展和普及,互聯網絡中的應用和服務類型不斷增加,為了提高網絡安全,保護網民、公司企業以及政府部門等的財產與利益,需要對網絡流量進行高效的監測[1?2]。

RBF神經網絡具有強大的非線性擬合能力,即非線性映射能力,以及自學能力,同時便于計算機實現,因而在網絡流量檢測等網絡安全領域得到了廣泛應用。但是RBF神經網絡的性能特別依賴網絡參數選取的好壞,而傳統RBF神經網絡參數通常由人為按經驗或隨機選取,因此網絡的性能具有較強的隨機性[3?4]。

近年來,群智能優化算法逐漸發展并得到較為廣泛的應用,其中粒子群優化算法是一種能夠全局優化,具有建模速度快、收斂效率高的群智能優化算法,然而使用常規PSO算法優化神經網絡仍然存在收斂速度和全局優化能力不能夠達到平衡等問題[5?7]。因此本文研究一種基于量子自適應粒子群優化算法(QAPSO),對RBF神經網絡的基函數中心[Ci]、基函數的寬度[σi]以及輸出層與隱含層的連接權值[wi]進行優化。

1 基于群智能優化的神經網絡算法

本文研究的QAPSO優化算法主要分為4部分,分別為初始化種群、估計進化狀態、控制參數自適應以及處理變異[8]。

1.1 初始化種群

2 實例分析

為驗證本文建立基于QAPSO優化RBF神經網絡的網絡流量檢測模型的性能,使用基于Libsvm軟件包的C#程序并結合數值計算軟件Matlab R2014對網絡流量進行采集、計算以及分類。網絡流量檢測類型如表2所示。

表2 網絡流量檢測類型

使用常規PSO優化算法及HPSO優化算法對RBF神經網絡進行優化,并建立同樣的網絡流量檢測模型,使用同樣的訓練數據樣本進行訓練,使用同樣的測試數據樣本進行性能測試。常規PSO優化算法的參數為空間維度[D=24],粒子數量[N=30],最大迭代次數[tmax=200],連接權值[w=0.9~0.4],加速系數[c1]和[c2]均為2。HPSO優化算法的參數為空間維度[D=24],粒子數量[N=30],最大迭代次數[tmax=200],連接權值[w=0.8~0.2],加速系數[c1]和[c2]均為2.5,[Vmaxd=0.5×Range]。QAPSO算法的參數為空間維度[D=24],粒子數量[N=30],最大迭代次數[tmax=200],連接權值[w=0.8~0.2],加速系數[c1]和[c2]為1.5~2.5,[Vmaxd=Range],[r1d]和[r2d]為0~1之間的隨機數。

從圖1可以看出,常規PSO優化算法使得適應度函數收斂到穩定值時的迭代次數為171次,HPSO優化算法使用了112次,而本文研究的QAPSO優化算法只使用了76次。同時,本文研究的QAPSO優化算法的收斂值更低,適應度函數的值即為RBF神經網絡的訓練誤差,因此適應度函數越小,RBF神經網絡的訓練誤差越小,性能越好。因此,本文研究的QAPSO優化算法相比另外兩種PSO優化算法具有更快的收斂速度和更高的收斂精度,極大地提高了RBF神經網絡的泛化能力。使用本文研究的QAPSO?RBF檢測模型及常規PSO和HPSO優化RBF算法的檢測模型對實驗數據進行識別。表3為三種檢測模型的檢測準確率與反饋率對比。圖2為三種模型的平均檢測率和反饋率對比。

通過表3的數據可以看出,本文研究的QAPSO?RBF檢測模型對12種類型網絡服務與應用均有較好的識別準確率和反饋率,平均識別準確率達到了92.81%,比HPSO?RBF算法的平均識別準確率高出3.49%,比PSO?RBF算法的平均識別準確率高出6.99%。QAPSO?RBF識別算法的平均識別反饋率達到了94.81%,比HPSO?RBF算法的平均識別反饋率高出3.51%,比PSO?RBF算法的平均識別反饋率高出7.28%。可表明相比其他粒子群優化算法,本文研究的QAPSO優化算法在進行多次迭代后仍然具有較好的活躍性,跳出局部最優解,對最佳值的全局搜索能力具有非常顯著的提高,加快了算法收斂速率,提高了識別準確率。

3 結 論

本文研究一種群智能優化神經網絡算法的網絡流量檢測模型。通過實際測試驗證,相比其他粒子群優化算法,本文研究的QAPSO優化算法在進行多次迭代后仍然具有較好的活躍性,跳出局部最優解,對最佳值的全局搜索能力具有非常顯著的提高,加快了算法收斂速率,提高了識別準確率。

參考文獻

[1] 盧金娜.基于優化算法的徑向基神經網絡模型的改進及應用[D].太原:中北大學,2015.

[2] 鐘建坤,周永福.群智能算法優化神經網絡在網絡安全的應用研究[J].激光雜志,2015,36(4):143?146.

[3] 李博.粒子群優化算法及其在神經網絡中的應用[D].大連:大連理工大學,2005.

[4] 蔣林利.改進的PSO算法優化神經網絡模型及其應用研究[D].廈門:廈門大學,2014.

[5] 陳偉.基于群體智能算法的人工神經網絡優化及其應用[D].無錫:江南大學,2007.

[6] 劉曉剛.群體智能算法在RBF神經網絡中的應用[D].青島:青島大學,2008.

[7] 馬汝輝.基于網絡流量異常檢測的網絡安全技術研究[D].無錫:江南大學,2008.

第9篇

[關鍵詞]無線傳感器,路由,BP神經網絡

中圖分類號:TN929.5 文獻標識碼:A 文章編號:1009-914X(2015)41-0243-01

1.概述

近年來,微電子機械系統、無線通訊和數字化電子領域快速發展,使得開發出用于短距離通信的低能耗、低成本、多功能傳感器節點成為可能。這些節點能感知環境,數據處理和通訊[1]。基于傳感器節點協作的傳感器網絡提升了應用領域與能量,傳感器網絡是傳統傳感器研究的重大改進。

傳感器網絡有廣泛的應用領域,可以用于監控和收集分布式區域中的各種目標和信息。圖1展示了一個經典的WSNs,該領域主要是設計一個有效的路由算法,增進通訊連通能力,目標是減少能量消耗、延長傳感器網絡的生命周期。與能量消耗相關的論文研究成功近年來不斷涌現。

2.無線傳感器路由問題建模

一個大的傳感器網絡由很多簇組成。傳感器節點并不直接發送數據,而是在一個簇中由一個中心節點(Sink)完成數據收集工作。但是,由于發射信號限制,一個傳感器節點只能和它發射半徑之內的其它節點相連,本文的內容就是針對一個簇之內的信息收集工作展開的。

S是所有傳感器節點的集合,E是一個節點的連接集合。是簇中的一個節點,代表著在節點u和v之間傳輸 1k的數據需要消耗的能量,本文使用如下無線通訊模型:接收1KB的數據包消耗傳感器節點 1k的電能,發送放大器的能量消耗與距離相關,節點(u, v)之間用C(u, v)代表[2]。信息收集路徑從sink節點開始,完成信息收集之后返回到同一節點,代表著一個完整的路徑,so是sink節點。路由的能量消耗按如下公式定義:

D 代表傳輸數據的大小,是一個動態值。

3.基于BP神經網絡的數據融合模型

反向傳播網絡(BP網絡)是前向神經網絡中最重要的一種,該網絡的監督學習算法采用誤差反向傳播算法。該算法[3]的學習過程主要有兩個:信號的正向傳播與誤差的反向傳播。主要是通過修正各層神經元的權值,使得總的誤差信號最小。近幾年,,研究人員開展了很多基于神經網絡的無線傳感器網絡數據融合方面的研究工作。實驗結果表明,把BP神經網絡應用傳感器數據融合中,可以大大降低傳送數據的特征維數,提高無線網絡的數據融合效率。

3.1 BP神經網絡

BP網絡是利用BP算法的前向型神經網絡,其是在多層感知器的基礎上增加了反向傳播信號,可以較好地處理非線性的數據信息,具有較好的泛化能力,廣泛地應用在系統模型辨識、預測或控制。

BP神經網絡中的神經元模型中的激發函數通常選用非線性的Sigmoid函數:

只有當系統特性在正負區間變化時,激發函數選擇對稱的Sigmoid函數,又稱為雙曲函數:

BP神經網絡的網絡結構由輸入層、輸出層和隱層組成,其中隱層可以有多層,不過最常用還是單隱層的三層BP網絡。

3.2 BP神經網絡權值調整規則

BP網絡的學習過程是就將誤差反向傳播并修正網絡權值直到網絡的總誤差最小。定義BP神經網絡的輸入輸出模型對應的系統誤差函數為:

利用梯度最速下降法解析如何調整連接權值使誤差函數E最小。

BP神經網絡訓練過程[4]:當確定網絡結構后,始對BP神經網絡進行訓練。BP神經網絡的學習是由信號的正向傳播與誤差的反向傳播兩個過程組成的,在正向傳播時,輸入樣本信號從輸入層進入網絡,通過隱層處理最后傳送給輸出層,如果輸出結果與期望值不符,則把誤差進行反向傳播,根據上面的權值調整系數調整權值的變化,直到網絡輸出層的輸出結果滿足要求為止。

4.基于BP神經網絡的 路由仿真實驗

無線傳感器網絡與神經網絡在有些地方很類似,比如無線傳感器網絡中的傳感器節點具有感知數據處理信息的能力,相當于神經網絡中的神經元;無線傳感器網絡節點之間通過一定的規則傳遞信息,則相當于連接神經元的突觸。神經網絡算法與無線傳感器網絡中應用的數據融合技術有相同的功能,即通過一定的規則對大量的數據進行運算處理,從而得到反映這些數據特征的結果。因此,可以把神經網絡算法應用到無線傳感器網絡中實現數據的融合。

實驗中,設置傳感器節點數目為 100,200,300,400 和 500。傳感器網絡環境是一個 200m*200m 的空間[5-6]。令傳輸數據的大小為 1KB,發射半徑分別為 20m 和 30m。實驗結果是 50 次運行的平均值。圖2 和圖 3現實了算法在不同數據集上最有解的變化趨勢,從中可以看出能量的逐步變化,并且,圖 3 的能量消耗更小,因為發射半徑較大。

5.結論

本文利用BP神經網絡模型解決無線傳感器網絡路由問題,實驗中,采用了不同規模的網絡實驗數據,并同該領域其它經典算法進行比較,驗證了本文所提方法在該領域的有效性。下一步的可針對模型在大規模數據集上表現沒有中小規模優秀的問題方面展開。

參考文獻

[1]張重毅,適用于無線傳感器網絡的移動路由算法[D]. 吉林: 吉林大學計算機科學與技術學院, 2007.

[2] 李鳳保,李凌.無線傳感器網絡技術綜述[J]. 儀器儀表學報, 2005,26(3):559-561.

[3] Shih E, Cho S, Ickes N, Min R, Sinha A, Wang A, Chandrakasan A. Physical layer driven protocol and algorithm design forenergy-efficient wireless sensor networks[C]. Proceedings of the ACM MobiCom 2001, Rome: ACM Press, 2001, 272-286.

[4] 唐勇,周明天,張欣.無線傳感器網絡路由協議研究進展[J]. 軟件學報,2006,17(3):410-421.

相關文章
相關期刊
主站蜘蛛池模板: sese天堂| 无码一区二区三区视频 | 国产成人三级经典中文 | 欧美高清不卡视频 | 久久中文字幕不卡一二区 | 美女网站免费看 | 国产在线精品成人一区二区三区 | 久久国产福利 | 国产99精品在线观看 | 日韩每日更新 | 国产一级免费在线观看 | 国产一级毛片视频 | 久久福利资源站免费观看i 久久福利资源国产精品999 | 国产综合免费视频 | 九九久久久久午夜精选 | 久久一区二区精品 | 久久国产精品夜色 | 伊人国产在线观看 | 97精品国产福利一区二区三区 | 一级毛片在线全部免费播放 | 欧美不卡精品中文字幕日韩 | 四虎在线影视在线影库 | 久久99爰这里有精品国产 | 精选国产门事件福利在线观看 | 欧美福利二区 | 大陆高清自拍 | 国产成人涩涩涩视频在线观看免费 | 99ri精品视频在线观看播放 | 欧美色资源 | 国产人成亚洲第一网站在线播放 | 久久精品网 | 99热综合在线 | 国产精品…在线观看 | 国产精品无需播放器 | 日韩午夜精品 | 偷柏自拍亚洲欧美综合在线图 | 99久热这里只有精品免费 | 久久婷婷五色综合夜啪 | 玖玖视频精品 | 欧美黄色一级视频 | 久久亚洲私人国产精品 |