深度神經網絡可視化技術研究與應用.pdf

1、深度神經網絡雖然在許多模式識別任務（如大規(guī)模圖像識別）中取得了巨大成功，但仍然有很多問題亟待解決。一方面，研究人員發(fā)現深度神經網絡雖然在圖像分類等任務中性能顯著，但依然會犯一些人類不會犯的錯誤。另一方面，研究人員也仍然不清楚深度神經網絡是如何從大規(guī)模數據中學習到有效的特征表示。深度神經網絡的缺陷和它的“黑盒子”特性促進了深度可視化技術的發(fā)展。深度可視化技術旨在通過以生成圖像的方式來可視化深度神經網絡中的單個神經元、特征映射或者卷積層等所

2、學習到的特征表示，幫助理解神經網絡是如何從數據中學習特征提取，幫助分析提取到的特征有什么優(yōu)缺點，從而幫助設計更好的網絡結構來提升網絡的優(yōu)點、避免缺點。
　　深度可視化技術已經成為了深度學習中一個學術研究熱點，但仍然處于探索階段。本文的主要研究對象是深度神經網絡中數以千計的卷積濾波器。深度神經網絡中不同的濾波器會從輸入圖像中提取不同特征表示。已有的研究表明低層的卷積核提取了圖像的低級語義特性（如邊緣、角點），高層的卷積濾波器提取了圖

3、像的高層語義特性（如圖像類別）。但是，由于深度神經網絡會以逐層復合的方式從輸入數據中提取特征，我們仍然無法像Sobel算子提取的圖像邊緣結果圖一樣直觀地觀察到深度神經網絡中的卷積濾波器從輸入圖像中提取到的特征表示。
　　本文提出特征映射可視化方法來可視化深度神經網絡中的卷積濾波器從輸入圖像中提取到的特征表示。特征映射可視化會強化感興趣的卷積濾波器所對應的特征映射，并抑制同層其他濾波器所對應的特征映射，得到調制碼之后再通過編碼反轉方

4、法來生成新圖像，使得新圖像在該層的濾波響應與調制碼相同。生成的新圖像與感興趣的濾波器具有一一映射關系，能夠反映出該濾波器從輸入圖像中提取到的特征表示。通過特征映射可視化研究我們發(fā)現，深度神經網絡中的每一個卷積濾波器都從輸入圖像中提取到一種特殊的紋理基元圖像。低層的濾波器提取的紋理基元比較簡單，顏色單一；高層的濾波器提取的紋理基元比較復雜，顏色豐富?；谔卣饔成淇梢暬慕Y果，本文還提出了圖像的紋理模型，并應用于圖像風格轉移和圖像紋理分類任