核方法的若干關鍵問題研究及其在人臉圖像分析中的應用.pdf

1、核方法作為一種非線性方法，對于非線性模式分類問題，具有堅實的理論支撐和強大的應用潛力。它具有兩個顯著的特點：首先是在線性與非線性之間架設起一座橋梁，其次是通過巧妙地引入核函數(shù)，避免了維數(shù)災難，也沒有增加計算復雜度。目前，支持向量機樣本約簡、核函數(shù)構造以及多重核學習都是核方法研究的重要方向。在支持向量機樣本約簡方面，一些研究致力于開發(fā)基于核聚類的樣本約簡方法；在核函數(shù)構造方面，利用數(shù)據(jù)的特性構造高效的專用核在很多應用領域尚未實現(xiàn)；在多重核

2、學習方面，目前的多重核學習是在支持向量機的框架下提出并發(fā)展起來的，迄今還極少見到基于多重核的子空間分析方法的報告。
　　 本文的主要工作包括以下三個方面。
　　 ⑴提出了一種“自頂向下”的層次核聚類方法-核二分k-均值聚類算法(KBK)，該方法能夠在核特征空間中快速產(chǎn)生規(guī)模相近的簇；在此基礎上，提出了支持向量機樣本約簡的KBK-SR算法，它將一個經(jīng)過改造的KBK聚類過程與一個樣本移除過程相結合，作為支持向量機訓練的預處理

3、過程。理論分析和實驗都表明，KBK-SR算法能夠在保持較高測試精度的同時，快速有效地進行支持向量機樣本約簡。
　　 ⑵針對人臉圖像的光照變化，為基于核的LDA識別方法提出了一種系統(tǒng)的核學習方法。該方法從朗伯假設出發(fā)，通過最大化類內(nèi)和類間相似度的差來學習核矩陣，進而使用散亂數(shù)據(jù)插值技術將核矩陣推廣為被我們稱作ILLUM核的核函數(shù)。在可變光照條件下的人臉圖像集上的實驗表明，我們的ILLUM核能夠使基于核的LDA方法很好地處理人臉圖像

4、識別中的光照問題，在這個意義下，ILLUM核顯著優(yōu)于線性核和高斯徑向基核等常用核。
　　 ⑶提出了多重核線性判別分析(MKDA)方法，首先針對基于核的LDA給出了一種多重核的構造方法，繼而通過使用拉格朗日乘子法優(yōu)化最大邊緣準則，在基于核的LDA的框架下導出了MKDA權值優(yōu)化的迭代算法。在實驗部分，一方面，優(yōu)化權值后的MKDA在幾個UCI標準數(shù)據(jù)集上顯示了高于單個核KDDA的鑒別性能；另一方面，將MKDA的權值優(yōu)化算法用于核選擇，