神經網絡與智能信息處理分析論文

時間:2022-11-04 02:11:00

導語:神經網絡與智能信息處理分析論文一文來源于網友上傳,不代表本站觀點,若需要原創文章可咨詢客服老師,歡迎參考。

神經網絡與智能信息處理分析論文

關鍵詞:

80年代初,在美國、日本、接著在我國國內都掀起了一股研究神經網絡理論和神經計算機的熱潮,并將神經網絡原理應用于圖象處理、模式識別、語音綜合及機器人控制等領域。近年來,美國等先進國家又相繼投入巨額資金,制定出強化研究計劃,開展對腦功能和新型智能計算機的研究。

人腦是自生命誕生以來,生物經過數十億年漫長歲月進化的結果,是具有高度智能的復雜系統,它不必采用繁復的數字計算和邏輯運算,卻能靈活處理各種復雜的,不精確的和模糊的信息,善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機制極其復雜,從結構上看它是包含有140億神經細胞的大規模網絡。單個神經細胞的工作速度并不高(毫秒級),但它通過超并行處理使得整個系統實現處理的高速性和信息表現的多樣性。

因此,從信息處理的角度對人腦進行研究,并由此研制出一種象人腦一樣能夠“思維”的智能計算機和智能信息處理方法,一直是人工智能追求的目標。

神經網絡就是通過對人腦的基本單元---神經元的建模和聯結,來探索模擬人腦神經系統功能的模型,并研制一種具有學習、聯想、記憶和模式識別等智能信息處理功能的人工系統。本文介紹神經網絡的特點以及近年來有關神經網絡與混沌理論、模糊計算和遺傳算法等相結合的混合神經網絡研究的動態。

一.神經網絡和聯結主義

回顧認知科學的發展,有所謂符號主義和聯結主義兩大流派。符號主義從宏觀層次上,撇開人腦的內部結構和機制,僅從人腦外在表現出來的智能現象出發進行研究。例如,將記憶、判斷、推理、學習等心理活動總結成規律、甚至編制成規則,然后用計算機進行模擬,使計算機表現出各種智能。

符號主義認為,認識的基本元素是符號,認知過程是對符號表示的運算。人類的語言,文字的思維均可用符號來描述,而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實現的系統具有串行、線性、準確、簡潔、易于表達的特點,體現了邏輯思維的基本特性。七十年代的專家系統和八十年代日本的第五代計算機研究計劃就是其主要代表。

聯接主義則與其不同,其特點是從微觀出發。聯接主義認為符號是不存在的,認知的基本元素就是神經細胞(神經元),認知過程是大量神經元的聯接,以及這種聯接所引起的神經元的不同興奮狀態和系統所表現出的總體行為。八十年代再度興起的神經網絡和神經計算機就是這種聯接主義的代表。

神經網絡的主要特征是:大規模的并行處理和分布式的信息存儲,良好的自適應、自組織性,以及很強的學習功能、聯想功能和容錯功能。與當今的馮.諾依曼式計算機相比,更加接近人腦的信息處理模式。主要表現如下:

☆神經網絡能夠處理連續的模擬信號。例如連續灰度變化的圖象信號。

☆能夠處理混沌的、不完全的、模糊的信息。

☆傳統的計算機能給出精確的解答,神經網絡給出的是次最優的逼近解答。

☆神經網絡并行分布工作,各組成部分同時參與運算,單個神經元的動作速度不高,但總體的處理速度極快。

☆神經網絡信息存儲分布于全網絡各個權重變換之中,某些單元障礙并不影響信息的完整,具有魯棒性。

☆傳統計算機要求有準確的輸入條件,才能給出精確解。神經網絡只要求部分條件,甚至對于包含有部分錯誤的輸入,也能得出較好的解答,具有容錯性。

☆神經網絡在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機器人控制等方面有優勢。

符號主義和聯接主義兩者各有特色,學術界目前有一種看法:認為基于符號主義得傳統人工智能和基于聯接主義得神經網絡是分別描述人腦左、右半腦的功能,反映了人類智能的兩重性:精確處理和非精確處理,分別面向認識的理性和感性兩個方面,兩者的關系應該是互補而非互相代替。理想的智能系統及其表現的智能行為應是兩者相互結合的結果。

接下去的問題是,符號AI和聯接AI具體如何結合,兩者在智能系統中相互關系如何?分別扮演什么角色?目前這方面發表的文獻很多,大致有如下幾種類型:

1.松耦合模型:符號機制的專家系統與聯接機制的神經網絡通過一個中間媒介(例如數據文件)進行通訊。

2.緊耦合模型:與松耦合模型相比較,其通訊不是通過外部數據進行,而是直接通過內部數據完成,具有較高的效率。其主要類型有嵌入式系統和黑板結構等。

3.轉換模型:將專家系統的知識轉換成神經網絡,或把神經網絡轉換成專家系統的知識,轉換前的系統稱為源系統,轉換后的系統稱為目標系統,由一種機制轉成另一種機制。如果源系統是專家系統,目標系統是神經網絡,則可獲得學習能力及自適應性;反之,可獲得單步推理能力、解釋能力及知識的顯式表示。當然,轉換需要在兩種的機制之間,確定結構上的一致性,目前主要問題是還沒有一種完備而精確的轉換方法實現兩者的轉換。有待進一步研究。

4.綜合模型:綜合模型共享數據結構和知識表示,這時聯接機制和符號機制不再分開,兩者相互結合成為一個整體,既具有符號機制的邏輯功能,又有聯接機制的自適應和容錯性的優點和特點。例如聯接主義的專家系統等。

近年來神經網絡研究的另一個趨勢,是將它與模糊邏輯、混沌理論、遺傳進化算法等相結合,即所謂“混合神經網絡”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法,人們希望通過她們之間的相互結合,能夠獲得具有有柔性信息處理功能的系統。下面分別介紹。

二.混沌理論與智能信息處理

混沌理論是對貌似無序而實際有序,表面上看來是雜亂無章的現象中,找出其規律,并予以處理的一門學科。早在七十年代,美國和歐洲的一些物理學家、生物學家、數學家就致力于尋求在許許多多不同種類的不規則性之間的聯系。生物學家發現在人類的心臟中有混沌現象存在,血管在顯微鏡下交叉纏繞,其中也有驚人的有序性。在生物腦神經系統中從微觀的神經膜電位到宏觀的腦電波,都可以觀察到混沌的性態,證明混沌也是神經系統的正常特性。

九十年代開始,則更進一步將混沌和神經網絡結合起來,提出多種混沌神經網絡模型,并探索應用混沌理論的各種信息處理方法。例如,在神經元模型中,引入神經膜的不應性,研究神經元模型的混沌響應,研究在神經網絡的方程中,不應性項的定標參數,不定性時間衰減常數等參數的性質,以及這些參數于神經網絡混沌響應的關系,并確定混沌---神經網絡模型具有混沌解的參數空間。經過試驗,由這種混沌神經網絡模型所繪出的輸出圖形和腦電圖極為相似。

現代腦科學把人腦的工作過程看成為復雜的多層次的混沌動力學系統。腦功能的物理基礎是混沌性質的過程,腦的工作包含有混沌的性質。通過混沌動力學,研究、分析腦模型的信息處理能力,可進一步探索動態聯想記憶、動態學習并應用到模式識別等工程領域。例如:

☆對混沌的隨機不規則現象,可利用混沌理論進行非線性預測和決策。

☆對被噪聲所掩蓋的微弱信號,如果噪聲是一種混沌現象,則可通過非線性辨識,有效進行濾波。

☆利用混沌現象對初始值的敏銳依賴性,構成模式識別系統。

☆研究基于混沌---神經網絡自適應存儲檢索算法。該算法主要包括三個步驟,即:特征提取、自適應學習和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結構來描述,這種分支結構有可能通過少數幾個系統參數的變化來加以控制,使復雜問題簡單化。自適應學習采用神經網絡的誤差反傳學習法。檢索過程是通過一個具有穩定吸引子的動力學系統來完成,即利用輸入的初始條件與某個吸引子(輸出)之間的存在直接對應關系的方法進行檢索。利用這種方法可應用于模式識別。例如黑白圖象的人臉識別。

三.模糊集理論與模糊工程

八十年代以來在模糊集理論和應用方面,也有很大進展。1983年美國西海岸AI研究所發表了稱為REVEAL的模糊輔助決策系統并投入市場,1986年美國將模糊邏輯導入OPS---5,并研究成功模糊專家系統外殼FLOPS,1987年英國發表采用模糊PROLOG的智能系統FRIL等。除此通用工具的研制以外,各國還開發一系列用于專用目的的智能信息處理系統并實際應用于智能控制、模式識別、醫療診斷、故障檢測等方面。

模糊集理論和神經網絡雖然都屬于仿效生物體信息處理機制以獲得柔性信息處理功能的理論,但兩者所用的研究方法卻大不相同,神經網絡著眼于腦的微觀網絡結構,通過學習、自組織化和非線性動力學理論形成的并行分析方法,可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能,按照人為引入的隸屬度函數,邏輯的處理包含有模糊性的語言信息。

神經網絡和模糊集理論目標相近而方法各異。因此如果兩者相互結合,必能達到取長補短的作用。將模糊和神經網絡相結合的研究,約在15年前便已在神經網絡領域開始,為了描述神經細胞模型,開始采用模糊語言,把模糊集合及其運算用于神經元模型和描述神經網絡系統。目前,有關模糊---神經網絡模型的研究大體上可分為兩類:一類是以神經網絡為主,結合模糊集理論。例如,將神經網絡參數模糊化,采用模糊集合進行模糊運算。另一類以模糊集、模糊邏輯為主,結合神經網絡方法,利用神經網絡的自組織特性,達到柔性信息處理的目的。

與神經網絡相比,模糊集理論和模糊計算是更接近實用化的理論,特別近年來美國和日本的各大公司都紛紛推出各種模糊芯片,研制了型號繁多的模糊推理板,并實際應用于智能控制等各個應用領域,建立“模糊工程”這樣一個新領域。日本更首先在模糊家電方面打開市場,帶有模糊控制,甚至標以神經---模糊智能控制的洗衣機、電冰箱、空調器、攝象機等已成為新一代家電的時髦產品。我國目前市場上也有許多洗衣機,例如榮事達洗衣機就是采用模糊神經網絡智能控制方式的洗衣機。

四.遺傳算法

遺傳算法(GeneticAlgorithm:GA)是模擬生物的進化現象(自然、淘汰、交叉、突然變異)的一種概率搜索和最優化方法。是模擬自然淘汰和遺傳現象的工程模型。

GA的歷史可追溯到1960年,明確提出遺傳算法的是1975年美國Michigan大學的Holland博士,他根據生物進化過程的適應現象,提出如下的GA模型方案:

1.將多個生物的染色體(Chromosmoe)組成的符號集合,按文字進行編碼,稱為個體。

2.定義評價函數,表示個體對外部環境的適應性。其數值大的個體表示對外部環境的適應性高,它的生存(子孫的延續)的概率也高。

3.每個個體由多個“部分”組合而成,每個部分隨機進行交叉及突然變異等變化,并由此產生子孫(遺傳現象)。

4.個體的集合通過遺傳,由選擇淘汰產生下一代。

遺傳算法提出之后,很快得到人工智能、計算機、生物學等領域科學家的高度重視,并在各方面廣泛應用。1989年美國Goldberg博士發表一本專著:“GeneticAlgorithmsinSearch,OptimizationandMachineLearning”。出版后產生較大影響,該書對GA的數學基礎理論,GA的基本定理、數理分析以及在搜索法、最優化、機器學習等GA應用方面進行了深入淺出的介紹,并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會議”(ICGA)。以后每隔兩年召開一次。近年來,遺傳算法發展很快,并廣泛應用于信息技術的各個領域,例如:

智能控制:機器人控制。機器人路徑規劃。

工程設計:微電子芯片的布局、布線;通信網絡設計、濾波器設計、噴氣發動機設計。

圖象處理:圖象恢復、圖象識別、特征抽取。

調度規劃:生產規劃、調度問題、并行機任務分配。

優化理論:TSP問題、背包問題、圖劃分問題。

人工生命:生命的遺傳進化以及自增殖、自適應;免疫系統、生態系統等方面的研究。

神經網絡、模糊集理論和以遺傳算法為代表的進化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標相近而方法各異;將它們相互結合,必能達到取長補短、各顯優勢的效果。例如,遺傳算法與神經網絡和模糊計算相結合方面就有:

☆神經網絡連續權的進化。

傳統神經網絡如BP網絡是通過學習,并按一定規則來改變數值分布。這種方法有訓練時間過長和容易陷入局部優化的問題。采用遺傳算法優化神經網絡可以克服這個缺點。

☆神經網絡結構的進化。

目前神經網絡結構的設計全靠設計者的經驗,由人事先確定,還沒有一種系統的方法來確定網絡結構,采用遺傳算法可用來優化神經網絡結構。

☆神經網絡學習規則的進化。

采用遺傳算法可使神經網絡的學習過程能夠適應不同問題和環境的要求。

☆基于遺傳算法的模糊推理規則的優化,以及隸屬度函數的自適應調整也都取得很好效果。