計算智能（ComputationalIntelligence,CI）第1講概論本講要點1.1關于計算智能1.2人工神經網絡1.3模糊系統1.4進化計算1.5人工神經網絡、模糊系統和進化計算的相互融合1.1關于計算智能（ComputationalIntelligence,CI）1.1.1什么是計算智能1.1.2計算智能所包含的領域1.1.1關于計算智能92年，美國學者James首次提出：計算智能(CI)是依靠生產者提供的數字、數據材料進行加工處理，而不是依賴于知識；人工智能（ArtificialIntelligence,AI）則是須用知識進行處理。94年，James在Florida,Orlando,94IEEEWCCI會議上又闡述他的觀點，智能有三個層次：InstituteofElectricalandElectronicsEngineers生物智能（BiologicalIntelligence,BI）由人腦的物理化學過程反映出來的，人腦是有機物，它是智能的基礎。人工智能（ArtificialIntelligence,AI）是非生物的，人造的，常用符號來表示，AI的來源是人類知識的精華。計算智能（ComputationalIntelligence,CI）是由數學方法和計算機實現的，CI的來源是數值計算的傳感器。關系：

a)從復雜性來看：BI>AI>CI；b)從所屬關系來看：CI是AI的一個子集，AI是CI到BI的過渡，因為AI中除計算算法之外，還包括符號表示及數值信息處理。也有些人認為CI不屬于AI，僅有部分重合。

1.1.2計算智能所包含的領域人工神經網絡（ArtificialNeuralNetwork,ANN）模糊系統（FuzzySystem,FS）進化計算（EvolutionComputing,EC）1.2人工神經網絡1.2.1什么是神經網絡1.2.2人工神經網絡研究的歷史1.2.3神經網絡的研究概況1.2.4人工神經網絡的應用領域1.2.1什么是神經網絡人工神經網絡(簡稱神經網絡)是由大量的、功能比較簡單的形式神經元（Neurons）互相連接而構成的復雜網絡系統，用它可以模擬大腦的許多基本功能和簡單的思維方式。

神經網絡理論突破了傳統的、線性處理的數字電子計算機的局限，是一個非線形動力學系統，并以分布式存儲和并行協同處理為特色，雖然單個神經元的結構和功能極其簡單有限，但是大量的神經元構成的網絡系統所實現的行為卻是極其豐富多彩的。兩種人工智能技術的比較

1.2.2人工神經網絡研究的歷史

第一階段初始發展期（40年代－60年代）1．1943年，美國心理學家McCulloch和數學家Pitts合作提出了形式神經元的數學模型，即M-P模型。能完成有限的邏輯運算。2．1949年，心理學家Hebb提出了改變神經元間連接強度的Hebb規則。3．1957年，計算機科學家Rosenblatt用硬件完成了最早的神經網絡模型，稱之為感知器（Perceptron）用來模擬生物的感知和學習能力。4．1962年，電機工程師Windrow和Hoff提出了自適應線形元件Adaline是一個連續取值的線形網絡，在信號處理系統中用于抵消通訊中的回波和噪聲，應用十分廣泛。第二階段低谷期（60年代末－70年代末）原因：1.69年，人工智能之父Minskey和Papert發表了《Perceptron》一書指出了Perceptron無科學價值而言，連XOR邏輯分類都做不到，只能作線性劃分。2.Von.Neumann機的興盛期，陶醉在成功的喜悅之中，掩蓋了新型計算機的發展的必然。但是仍然有不少有識之士不斷努力：1.Boston大學的Grossberg和Carpenter提出了自適應共振理論ART網絡。2.芬蘭的Heisinki大學的Kohonen提出了自組織映射網絡。3.日本的大坂大學的Fukushima提出了神經認知機網絡模型。4.日本東京大學的Amari對神經網絡進行了數學理論的研究，為神經網絡的研究奠定了理論基礎。第三階段興盛期（80年代以后）原因：1.70年代末期研究和試圖模擬視聽覺的人工智能專家遇到了挫折，人們習以為常的知識難能教給計算機。2.計算機的科學家發現前面有不可逾越的鴻溝，線路微型的物理極限,人們思考Von.Neumann機到底還能走多遠。3.腦科學、生物學、光學的進步為人工神經網絡的發展打下了基礎。興盛期的代表人物：1.1982年，加州大學的物理學家Hopfield提出了Hopfield網絡模型，并用電路實現。2.1985年，Rumelhart提出了BP算法。3.Hinton等人提出了Boltzman機模型。4.1988年，蔡少堂提出了細胞神經網絡模型。1.2.3神經網絡的研究概況神經網絡的研究主要可分為以下三個方面：1）大腦和神經系統的信息處理原理。2）構造能實現信息處理的神經網絡模型。3）能實現信息處理基本原理的技術研究一神經計算機。

美國軍方認為神經網絡技術是比原子彈工程更重要的技術。美國國防部(DARPA)曾宣布執行一項總投資為4億美元的八年計劃，其主要研究目標為：連續語音信號識別、聲納信號識別、目標識別及跟蹤等。

日本通產省早在1988年也提出了所謂人類尖端科學計劃(HumanFrontierScienceProgram)，即所謂的第六代計算機計劃，研制能模擬人類智能行為的計算機系統。

到目前為止，已經發表了多達幾十種的神經網絡模型，它們具備不同的信息處理能力，典型的神經網絡模型如表1.2所示。1.2.3神經網絡的研究概況神經網絡的相關會議1987年6月21至24日在美國加州圣地亞哥(SanDiego)召開的第一屆神經網絡國際會議;1988年，我國在北京召開了神經網絡的國際研究工作會議，并出版了論文集。1989年10月在北京又召開了神經網絡及其應用討論會。1990年12月在北京召開了我國首屆神經網絡學術大會，并決定以后每年召開一次年會。1991年冬在南京召開的第二屆中國神經網絡學術大會上，宣布成立中國神經網絡學會。1.2.3神經網絡的研究概況神經網絡的主要國際性雜志(1)NeuralNetworks(國際神經網絡協會會刊)(2)IEEETransactionsonNeuralNetworks(3)IEEETransactionsonParallelDistributedSystem(4)ConnectionsScience(5)Neurocomputing(6)NeuralComputation(7)InternationalJournalofNeuralSystems1.2.4人工神經網絡的應用領域模式識別、分類

用于語言，文字，圖像的識別，用于醫學特征的分類，診斷指紋鑒別等函數逼近（曲線擬合）用于非線性控制的函數建模，擬和非線性曲線，機器人的軌跡控制等數據壓縮在通信中的編碼壓縮和恢復，圖像數據的壓縮和存儲以及圖像特征的抽取等預測股市預測，天氣預測等1.3模糊系統1.3.1模糊系統理論的起源和發展1.3.2模糊系統的研究范疇1.3.1模糊系統理論的起源和發展1.1965年，美國控制論專家、加利福尼亞大學教授扎德(L.A.Zadeh)首先提出模糊集合概念,發表了開創性論文《模糊集合論(Fuzzysets)》。他提出,模糊數學的核心思想就是運用數學手段,仿效人腦思維，對復雜事物進行模糊處理。模糊數學在基礎理論和實際應用等方面引起了各國學者的極大興趣,并產生了許多有價值的應用和驚人的成果。2.1973年，扎德教授又提出模糊邏輯(FuzzyLogic)的理論，并積極倡導將模糊理論向人工智能方向發展。模糊邏輯的研究雖然時間還不長，但在智能模擬和智能控制等領域卻已有了飛快的發展。3.

1974年，印度裔英國學者馬德尼(E.H.Mamdani)首先將模糊理論用于鍋爐和蒸汽機的控制，并實驗成功，開創了模糊控制的新領域。4.

80年代后期以來，在日本采用模糊控制技術的家電產品大量上市，模糊技術在圖像識別、自動控制、市場預測、人工智能等領域普遍應用，掀起了一股模糊熱。日本、美國和我國都成功地研制出了智能化的模糊推理機，這表現了模糊理論的強大生命力和偉大意義。5.

另一方面，模糊理論在學術界也得到了普遍的認同和重視。1992年，IEEE召開了第一屆關于模糊系統的國際會議（FUZZ－IEEE），并決定以后每年舉行一次。1993年IEEE創辦了專刊IEEETransactiononFuzzySystem。

6.當前，模糊理論和應用正向深度和廣度進一步發展，發展的速度越來越快，研究成果大量涌現，已經成為世界各國高科技競爭的重要領域之一。

1.3.2模糊系統的研究范疇模糊系統基于模糊數學理論，能對復雜事物進行模糊處理。模糊數學的理論基礎包括模糊邏輯、模糊規則、模糊推理、隸屬度和模糊集合等。1.4進化計算

進化計算（EvolutionComputing）是采用簡單的編碼技術來表示各種復雜的結構，并通過簡單的遺傳操作和優勝劣汰的自然選擇來指導學習和確定搜索的方向。由于它采用種群（即一組表示）的方式組織搜索，這使得它可以同時搜索解空間內的多個區域，特別適合大規模并行計算。進化計算具有自組織、自適應、自學習的特點，并且不受其搜索空間限制性條件（如可微、單峰等）的約束，不需要其它輔助信息（如導數）。這使得進化計算不僅能獲得較高的效率，而且操作簡單、通用性強。1.4.1進化計算的發展過程1.4.2進化計算的主要分支1.4.3進化計算的主要特點1.4.1進化計算的發展過程進化計算在20世紀六七十年代并未受到普遍的重視。其主要原因：1）因為這些方法本身還不夠成熟；2）由于這些方法需要較大的計算量，而當時的計算機還不夠普及且速度較慢，這樣便限制了它們的應用；3）當時基于符號處理的人工智能方法正處于其頂峰時期，使得人們難以認識到其它方法的有效性及適應性。2.到了80年代，人工智能方法的局限性越來越突出，并且隨著計算機速度的提高和并行計算機的普及，已使得進化計算對機器速度的要求不再是制約其發展的因素。進化計算的不斷發展及其在一些應用領域內取得的成功，已表現出了良好的應用前景。3.由于進化計算在機器學習、過程控制、經濟預測、工程優化等領域取得的成功，引起了各領域科學家們的極大興趣，自80年代中期以來，世界上許多國家都掀起了進化計算的研究熱潮。目前，有數種以進化計算為主題的國際會議在世界各地定期召開，并已出版了兩種以上專門關于進化計算的雜志。可以預料，隨著進化計算理論研究的不斷深入和應用領域的不斷拓廣，進化計算必將取得更大的成功。1.4.2

進化計算的主要分支

進化計算的三大分支包括：遺傳算法(GeneticAlgorithm,簡稱GA)進化規劃（EvolutionProgramming,簡稱EP）進化策略（EvolutionStrategies,簡ES）。

這三個分支在算法實現方面具有一些細微的差別，但它們具有一個共同的特點，即都是借助生物進化的思想和原理來解決實際問題。

①遺傳算法遺傳算法是一類通過模擬生物界自然選擇和自然遺傳機制的隨機化搜索算法，由美國J.Holand教授于1975年首次提出。它是利用某種編碼技術作用于稱為染色體的二進制數串，其基本思想是模擬由這些串組成的種群的進化過程，通過有組織地然而是隨機地信息交換來重新組合那些適應性好的串。遺傳算法對求解問題的本身一無所知，它所需要的僅是對算法所產生的每個染色體進行評價，并根據適應性來選擇染色體，使適應性好的染色體比適應性差的染色體有更多的繁殖機會。

遺傳算法尤其適用于處理傳統搜索方法難于解決的復雜的非線性問題，可廣泛用于組合優化、機器學習、自適應控制、規劃設計和人工生命等領域,是21世紀有關智能計算中的關鍵技術之一。

②進化策略1964年，由德國柏林工業大學的I.Rechenberg等人提出。在求解流體動力學柔性彎曲管的形狀優化問題時，用傳統的方法很難優化設計中描述物體形狀的參數，從而利用生物變異的思想來隨機地改變參數值并獲得了較好的結果。隨后，他們便對這種方法進行了深入的研究和發展，形成了進化計算的另一個分支―進化策略。進化策略與遺傳算法的不同之處在于：進化策略直接在解空間上進行操作，強調進化過程中從父體到后代行為的自適應性和多樣性，強調進化過程中搜索步長的自適應性調節；而遺傳算法是將原問題的解空間映射到位串空間之中，然后再施行遺傳操作，它強調個體基因結構的變化對其適應度的影響。進化策略主要用于求解數值優化問題。③進化規劃進化規劃的方法最初是由美國人L.J.Fogel等人在20世紀60年代提出的。他們在人工智能的研究中發現，智能行為要具有能預測其所處環境的狀態，并按照給定的目標作出適當的響應的能力。在研究中，他們將模擬環境描述成是由有限字符集中符號組成的序列。1.4.3進化計算的主要特點

進化算法與傳統的算法具有很多不同之處，但其最主要的特點體現在下述兩個方面：①

智能性進化計算的智能性包括自組織、自適應和自學習性等。應用進化計算求解問題時，在確定了編碼方案、適應值函數及遺傳算子以后，算法將根據“適者生存、不適應者淘汰”的策略，利用進化過程中獲得的信息自行組織搜索，從而不斷地向最佳解方向逼近。

自然選擇消除了傳統算法設計過程中的一個最大障礙：即需要事先描述問題的全部特點，并說明針對問題的不同特點算法應采取的措施。于是，利用進化計算的方法可以解決那些結構尚無人能理解的復雜問題。②本質并行性進化計算的本質并行性表現在兩個方面：一是進化計算是內在并行的，即進化計算本身非常適合大規模并行。二是進化計算的內含并行性，由于進化計算采用種群的方式組織搜索，從而它可以同時搜索解空間內的多個區域，并相互交流信息，這種搜索方式使得進化計算能以較少的計算獲得較大的收益。

1.5人工神經網絡、模糊系統、進化計算的相互融合

人工神經網絡能夠通過學習和訓練獲得用數據表達的知識，除了可以記憶已知的信息之外，神經網絡還具有較強的概括能力和聯想記憶能力。但神經網絡的推理知識表示體現在網絡連接權值