第1章優(yōu)化算法基本理論.ppt

智能優(yōu)化算法,第一章優(yōu)化算法基本理論第二章神經(jīng)網(wǎng)絡(luò)基本理論第三章遺傳算法基本理論第四章蟻群算法基本理論第五章蜂群算法基本理論第六章粒子群算法基本理論第七章魚群算法基本理論第八章其他群智能優(yōu)化算法,課程結(jié)構(gòu)及學(xué)時安排,1.1優(yōu)化的概念與方法1.1.1優(yōu)化的概念1.1.2優(yōu)化的一般數(shù)學(xué)模型1.1.3優(yōu)化的分類1.1.4優(yōu)化問題的求解方法1.1.5常用的無約束優(yōu)化方法1.2智能優(yōu)化的概念及分類1.2.1智能優(yōu)化的概念1.2.2智能優(yōu)化的分類1.3群體智能的概念及分類1.3.1群體智能的概念1.3.2群體智能的分類1.3.3群體智能的特點(diǎn)1.3.2群體智能算法的一般流程,第1章優(yōu)化算法基本理論,1.1優(yōu)化的概念及方法1.1.1優(yōu)化的概念優(yōu)化、最優(yōu)化均是一個術(shù)語，是指關(guān)于求解一個問題的“最優(yōu)”解的計算科學(xué)的一個分支，也就是從各種可能方案中選取一個最好的，以達(dá)到最優(yōu)目標(biāo)。從數(shù)學(xué)意義上說，最優(yōu)化方法是一種求極值的方法，即在一組約束為等式或不等式的條件下，使系統(tǒng)的目標(biāo)函數(shù)達(dá)到極值，即最大值或最小值。從經(jīng)濟(jì)意義上說，是在一定的人力、物力和財力資源條件下，使經(jīng)濟(jì)效果達(dá)到最大（如產(chǎn)值、利潤），或者在完成規(guī)定的生產(chǎn)或經(jīng)濟(jì)任務(wù)下，使投入的人力、物力和財力等資源為最少。,1.1優(yōu)化的概念及方法,優(yōu)化技術(shù)是一種以數(shù)學(xué)為基礎(chǔ)、用于求解各種工程問題優(yōu)化解的應(yīng)用技術(shù)。,1.2智能優(yōu)化的概念及方法,1.2智能優(yōu)化的概念及方法1.2.1智能優(yōu)化的概念人工智能（ArtificialIntelligent，簡稱AI）是在計算機(jī)科學(xué)、控制論、信息論、哲學(xué)、語言學(xué)等多種學(xué)科研究基礎(chǔ)上發(fā)展起來的一門綜合性交叉學(xué)科。即人工智能就是用人工的方法在機(jī)器（計算機(jī)）上實(shí)現(xiàn)的智能，或者說是人們使機(jī)器具有類似于人的智能。智能優(yōu)化算法（intelligentoptimizationalgorithms）是以模擬物質(zhì)變化過程或模擬生命體而設(shè)計的搜索方式為基礎(chǔ)的各類算法的總稱。有時也稱為啟發(fā)式算法（modernheuristicalgorithms）、仿生算法、演化算法或進(jìn)化算法。,1.2智能優(yōu)化的概念及方法,智能優(yōu)化算法的本質(zhì)都屬于隨機(jī)性算法，最大優(yōu)點(diǎn)是不需要目標(biāo)函數(shù)具有可導(dǎo)性，甚至不需要目標(biāo)函數(shù)有明確的表達(dá)形式，只要知道輸入輸出即可。1.2.2智能優(yōu)化的分類兔子理論：為了找出地球上最高的山，一群兔子開始想辦法。兔子朝著比現(xiàn)在高的地方跳去。他們找到了不遠(yuǎn)處的最高山峰。但是這座山不一定是珠穆朗瑪峰。這就是局部搜索，它不能保證局部最優(yōu)值就是全局最優(yōu)值。兔子喝醉了。他隨機(jī)地跳了很長時間。這期間，它可能走向高處，也可能踏入平地。但是，他漸漸清醒了并朝最高方向跳去。這就是模擬退火。,1.2智能優(yōu)化的概念及方法,兔子們吃了失憶藥片，并被發(fā)射到太空，然后隨機(jī)落到了地球上的某些地方。他們不知道自己的使命是什么。但是，如果你過幾年就殺死一部分海拔低的兔子，多產(chǎn)的兔子們自己就會找到珠穆朗瑪峰。這就是遺傳算法。兔子們知道一個兔的力量是渺小的。他們互相轉(zhuǎn)告著，哪里的山已經(jīng)找過，并且找過的每一座山他們都留下一只兔子做記號。他們制定了下一步去哪里尋找的策略。這就是禁忌搜索。,1.3群體智能的概念及方法,1.3群體智能的概念及方法1.3.1群體智能的概念群體智能（SI）簡稱群智能，指的是簡單智能的個體通過合作表現(xiàn)出復(fù)雜智能行為的特性，也就是無智能的主體通過合作表現(xiàn)出智能行為的特性。其本質(zhì)上是一種概率搜索，不需要問題的梯度信息。群體智能算法的基本思想是模擬自然界生物的群體行為來構(gòu)造隨機(jī)優(yōu)化算法。將搜索和優(yōu)化過程模擬成個體的進(jìn)化或覓食過程，用搜索空間中的點(diǎn)模擬自然界中的個體，將求解問題的目標(biāo)函數(shù)度量成個體對環(huán)境的適應(yīng)能力，將個體的優(yōu)勝劣汰過程或覓食過程類比為搜索和優(yōu)化過程中用好的可行解取代較差可行解的迭代過程。,1.2智能優(yōu)化的概念及方法,因此，形成一種以“生成+檢驗(yàn)”特征的迭代搜索算法，是一種求解極值問題的自適應(yīng)人工智能技術(shù)。也可以說，群智能是一種自下而上的優(yōu)化方法，即首先設(shè)計單個實(shí)體的感知、行為機(jī)制，然后將一個或一群實(shí)體置于環(huán)境中，讓它們在與環(huán)境的交互作用中解決問題。1.3.2群體智能的分類由于群體智能是由社會性動物的自組織行為產(chǎn)生的，因此新算法不斷涌現(xiàn)。根據(jù)目前的有關(guān)報道，主要有粒子群算法、蟻群算法、魚群算法、蜂群算法、蛙跳算法、布谷鳥算法、螢火蟲算法、蝙蝠算法、磷蝦群算法、細(xì)菌覓食算法、煙花算法、頭腦風(fēng)暴算法、智能水滴算法、磁鐵算法等等。,1.2智能優(yōu)化的概念及方法,1.3.3群體智能的特點(diǎn)靈活性：群體可以適應(yīng)隨時變化的系統(tǒng)或網(wǎng)絡(luò)環(huán)境；分布性：在群體智能中，相互協(xié)作的個體是分布式存在的，其初始分布狀態(tài)可以是均勻或非均勻隨機(jī)分布，且無中心，個體間完全自組織，體現(xiàn)出群體的智能特征。穩(wěn)健性：不存在中心或統(tǒng)一的控制，即使某個個體失敗，整個群體仍然具有完成任務(wù)的能力，不會出現(xiàn)由于某一個或某幾個個體出現(xiàn)故障而影響整個問題的求解。也就是說群體智能的整體智慧是通過個體間以及個體與環(huán)境間的相互作用而綜合體現(xiàn)出來的，因此單個個體對整體的影響較小，不會因其中一個個體的因素影響整體性能?！痉€(wěn)健性】指在不同條件和環(huán)境下算法的適應(yīng)性和有效性。,1.2智能優(yōu)化的概念及方法,簡單性：群體智能中的個體是低智能和簡單的，每個個體只能感知局部信息，也只能與局部個體進(jìn)行信息交流，并且群體中每個個體的能力或遵循的行為規(guī)則非常簡單，因而群體智能的實(shí)現(xiàn)比較方便。可擴(kuò)充性：群體智能中的個體不僅可以進(jìn)行相互之間的直接通信，也可以通過環(huán)境進(jìn)行非直接通信，即個體之間通過所處的小環(huán)境作為媒介進(jìn)行交互，具有自組織性。這樣就使得整個系統(tǒng)具備良好的可擴(kuò)展性。自組織性：個體活動既不受中央控制，也不受局部監(jiān)管，即群體表現(xiàn)出來的復(fù)雜行為是通過簡單個體的交互而凸現(xiàn)出來的智能。,1.2智能優(yōu)化的概念及方法,1.3.4群體智能的一般流程Step1：設(shè)置參數(shù)，初始化種群；Step2