池化（Pooling）簡易手算範例+原理介紹 與 應用心得整理

資料來源: https://zh.wikipedia.org/wiki/%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C#%E6%B1%A0%E5%8C%96%E5%B1%A4

https://www.jiqizhixin.com/graph/technologies/0a4cedf0-0ee0-4406-946e-2877950da91d

    池化（Pooling）是摺積/捲積/卷積(convolution)神經網絡中的一個重要的概念，它實際上是一種形式的降採樣(降維度)。

    其中有多種不同形式的非線性池化函數，而其中“最大池化（Max pooling）”是最為常見的；它是將輸入的圖像劃分為若干個矩形區域，對每個子區域輸出最大值；這種機制能夠有效的原因在於，在發現一個特徵之後，它的精確位置遠不及它和其他特徵的相對位置的關係重要。

    池化層會不斷地減小數據的空間大小，因此參數的數量和計算量也會下降，這在一定程度上也控制了過擬合通；常來說CNN的捲積層之間都會周期性地插入池化層。

    池化層通常會分別作用於每個輸入的特徵並減小其大小。目前最常用形式的池化層是每隔2個元素從圖像劃分出的區塊，然後對每個區塊中的4個數取最大值。這將會減少75%的數據量。

    除了最大池化之外，池化層也可以使用其他池化函數，例如“平均池化”甚至“L2-範數池化”等。

    下圖為最大池化（Max pooling）過程的示意圖：