Convolution et corrélation croisée

Définir l’orientation du noyau

La convolution des réseaux neuronaux utilise généralement la corrélation croisée : associez le noyau stocké à la fenêtre d’entrée sans l’inverser. La convolution mathématique inverse le noyau. L’équation des indices est plus utile que le nom de l’opérateur. Un noyau symétrique peut masquer une erreur d’orientation : commencez donc la vérification avec des valeurs asymétriques.

Pour un canal, un pas unitaire, sans remplissage ni dilatation, utilisez :

Ici, h, w repèrent la sortie et r, s un élément du noyau. Aucun des deux indices du noyau n’est inversé.

Exemple détaillé

Utilisez la fenêtre d’entrée [1, 2;4, 5] et le noyau [1, 2;3, 4]. La corrélation croisée donne 1×1+2×2+4×3+5×4=37. Inverser les deux axes du noyau donne [4, 3;2, 1], produisant 4+6+8+5=23. Ajouter un biais de deux produit 39 et 25. La spécification détermine l’opération souhaitée.

Étendez l’entrée à [1, 2, 3;4, 5, 6;7, 8, 9]. Le noyau d’origine produit [37, 47;67, 77]. La fenêtre supérieure droite est [2, 3;5, 6], dont les produits totalisent 2+6+15+24=47. Déplacer une fenêtre modifie les coordonnées d’entrée ; cela ne change jamais l’ordre des poids stockés. Les poids négatifs suivent la même règle d’indexation. Par exemple, [1, 0, -1] soustrait explicitement l’échantillon droit de l’échantillon gauche.

Avec plusieurs canaux, accumulez la fenêtre de chaque canal dans le même élément de sortie. Chaque canal de sortie possède sa propre collection de noyaux et un biais. Les canaux sont des indices de réduction, et non des positions spatiales sur lesquelles glisse une fenêtre. La convolution groupée restreint ces connexions et nécessite une correspondance explicite des groupes.

Consignez la fenêtre d’entrée, l’ordre du noyau, les produits partiels et le biais. Vérifier seulement un tableau final peut manquer des erreurs d’indexation qui se compensent sur des jeux d’essai trop réguliers. Les exemples asymétriques réduisent ce risque. Comparez les conventions des tenseurs et des poids à la documentation officielle de Conv dans ONNX ; les jeux numériques de cette leçon sont construits indépendamment.