Lokális optimalizáció
Feladat: f(x) lokális minimumának meghatározása
0.Adott egy kezdeti pont: x0
1.Jelöljünk ki egy új xi pontot, ahol (lehetőleg) f (xi ) ≤ f (xi-1 )
2.Vizsgáljuk meg a leállási kritériumot:
•Ha teljesül, akkor előre a 3. pontba
•Ha nem, akkor vissza az 1. pontba
3.Vége
Lokális optimalizáció
Amire figyelni kell :
•A kezdőpont kijelölésétől függ a végeredmény
(ha egyáltalán lesz)
•Az egyes módszerek konvergencia tulajdonságai eltérőek
•A nem megfelelő leállási kritérium következménye :
Rossz eredmény / végtelen számítás
Lokális optimalizáció
A módszerek csoportosítása:
•„Direkt” vagy „derivált mentes” módszerek : csak f (x) kell
•„Gradiens alapú” módszerek : f ’(x) illetve f ’’(x) is kell
A módszer kiválasztásánál felmerülő kérdések:
•Deriválható-e egyáltalán f (x) ?
•Mekkora f (x) kiszámításának a költsége ?
•Mekkora f ’(x) kiszámításának a kötsége ?
Lokális optimalizáció
Direkt módszerek :
•Intervallum felezés
•Nelder-Mead szimplex módszer ( NEM LP! )
Gradiens alapú módszerek :
•Legmeredekebb ereszkedés módszere
Nelder-Mead szimplex módszer
Lokális optimalizáció
2D
Szimplex n dimenzióban: n+1csúcspontból álló poligon.
Minden csúcsra kiszámítjuk f (x)-et.
Műveletek:
•Tükrözés
•Zsugorítás
•Nyújtás
Nelder-Mead szimplex módszer
Lokális optimalizáció
Jellemzők:
•Rendkívül stabil
•Olcsó f (x) esetén jó
•Rosszul konvergál
Lokális optimalizáció
Intervallum felezés („Golden Section Search”)
Rokon : Függvény zérushelyeinek keresése intervallum felezéssel
Különbség : A minimum 2 helyett csak 3 ponttal képezhető le
Zérushely : f (x1 ) × f (x2 ) < 0
Minimum : f (x2 ) < f (x1 ) és f (x2 ) < f (x3 )
Lokális optimalizáció
x0
x1
x2
x3
1.A középső pontok f (x) értékeialapján jelöljük ki az új pontot
2.Mégpedig a kisebb fv. értékűközépső és a szélső pont közé
3.A túloldali szélső pont kiesik
4.Az új pont kijelölésénél azaranymetszés szabályai szerintosztjuk ketté az intervallumot
G ≈ 0.381966
x2’
x0’
x1’
x3’
x2’ – x1’ = G · (x3 – x2)
Lokális optimalizáció
Legmeredekebb ereszkedés („Steepest descent”)
•Csak deriválható függvények esetén alkalmazható
•Számtalan módszer alapját adja
•Valamelyik rokonát célszerű alkalmazni
Lokális optimalizáció
Gradiens függvény
Kezdőpont
Lokális optimalizáció
Metszet a legnagyobb lejtésd = - g (x1, x2) irányában
Az f (x1, x2) függvény értékea metszet mentén az α lépés-nagyság függvényében
Lokális optimalizáció
A legkisebb f (x1, x2)-teredményező lépés után
Ha a minimumot választottuk, ottaz irány menti derivált 0, ezért akövetkező lépés merőleges lesz
Lokális optimalizáció
Cikk-cakk a lokális minimumig
Lokális optimalizáció
Lehetőségek
•Hibrid módszerek létrehozása
•Lendület ill. adaptivitás bevezetése a konvergencia gyorsítására
•Kezdeti pont intelligens kiválasztása
•Leállási feltételek fejlesztése
•…