2 / 24 · 概念
卷積與互相關
對 [1,2;4,5] 使用核心 [1,0;0,-1],互相關與反轉核心的結果各是多少?
單元可免費閱讀,註冊課程即可儲存學習進度。
確立核心方向
神經網路的卷積通常使用互相關:將儲存的核心與輸入視窗配對,不反轉核心。數學卷積則會反轉核心。索引方程式比運算子的名稱更有用。對稱核心可能掩蓋方向錯誤,因此應先用非對稱數值驗證。
對單一通道、單位步幅,且沒有填補或膨脹的情況,使用:
h,w 定位輸出,r,s 定位核心元素。兩個核心索引都不反轉。
計算範例
使用輸入視窗 [1,2;4,5] 與核心 [1,2;3,4]。互相關得到 1×1+2×2+4×3+5×4=37。將核心的兩個軸都反轉得到 [4,3;2,1],結果為 4+6+8+5=23。加入偏置二後,得到 39 與 25。規格決定應執行哪個操作。
將輸入延伸為 [1,2,3;4,5,6;7,8,9]。原本的核心產生 [37,47;67,77]。右上視窗為 [2,3;5,6],其乘積總和是 2+6+15+24=47。視窗移動會改變輸入座標,但絕不改變儲存權重的順序。負權重也遵循相同索引規則。例如,[1,0,-1] 明確表示以左側樣本減去右側樣本。
多通道時,各通道視窗累加至同一個輸出元素。每個輸出通道都有自己的核心集合與一個偏置。通道是歸約索引,而非視窗滑動的空間位置。分組卷積限制這些連接,因此需要明確的群組映射。
記錄輸入視窗、核心順序、部分乘積與偏置。若測試資料過於規則,只檢查最終陣列可能漏掉彼此抵銷的索引錯誤。此處的非對稱範例可降低這項風險。請對照 ONNX Conv 官方文件 檢查張量與權重慣例;本課程的數值測試資料為獨立建構。
自己試試看
對 [1,2;4,5] 使用核心 [1,0;0,-1],互相關與反轉核心的結果各是多少?
查看解說
互相關為 1−5=−4。反轉核心 [−1,0;0,1] 得到 −1+5=4。此測試資料透過符號改變揭露方向差異。