कन्वोल्यूशन और क्रॉस-कॉरिलेशन

कर्नेल दिशा तय करें

न्यूरल नेटवर्क कन्वोल्यूशन आमतौर पर क्रॉस-कॉरिलेशन लेता है: संग्रहीत कर्नेल को बिना उलटे इनपुट विंडो से जोड़ें। गणितीय कन्वोल्यूशन कर्नेल उलटता है। ऑपरेटर नाम से सूचकांक समीकरण अधिक उपयोगी है। सममित कर्नेल दिशा गलती छिपा सकता है, इसलिए असममित मान से सत्यापन शुरू करें।

एक चैनल, इकाई स्ट्राइड और बिना पैडिंग या डाइलेशन में:

यहाँ h,w आउटपुट और r,s कर्नेल तत्व का स्थान देते हैं। कोई कर्नेल सूचकांक उलटा नहीं है।

हल किया उदाहरण

इनपुट विंडो [1,2;4,5] और कर्नेल [1,2;3,4] लें। क्रॉस-कॉरिलेशन 1×1+2×2+4×3+5×4=37 है। दोनों कर्नेल अक्ष उलटने से [4,3;2,1] और 4+6+8+5=23 मिलता है। दो का बायस जोड़ने से 39 तथा 25 हैं। विनिर्देश इच्छित ऑपरेशन तय करता है।

इनपुट [1,2,3;4,5,6;7,8,9] तक बढ़ाएँ। मूल कर्नेल [37,47;67,77] देता है। ऊपर-दाईं विंडो [2,3;5,6] के गुणनफल 2+6+15+24=47 हैं। विंडो चलाने से इनपुट निर्देशांक बदलते हैं; संग्रहीत वज़न क्रम कभी नहीं। ऋणात्मक वज़न का भी यही नियम है। जैसे [1,0,-1] बाएँ नमूने से दायाँ स्पष्ट घटाता है।

कई चैनलों में हर चैनल की विंडो उसी आउटपुट तत्व में जोड़ें। हर आउटपुट चैनल के अपने कर्नेल और एक बायस हैं। चैनल रिडक्शन सूचकांक हैं, विंडो खिसकाने के स्थानिक स्थान नहीं। समूह कन्वोल्यूशन कनेक्शन सीमित करता है और स्पष्ट समूह मैपिंग चाहिए।

इनपुट विंडो, कर्नेल क्रम, आंशिक गुणनफल और बायस लॉग करें। बहुत नियमित फ़िक्स्चर पर केवल अंतिम सरणी जाँचना एक-दूसरे को काटती सूचकांक त्रुटियाँ छोड़ सकता है। ये असममित उदाहरण जोखिम घटाते हैं। टेंसर और वज़न नियम आधिकारिक ONNX Conv दस्तावेज़ से तुलना करें; इस पाठ के संख्यात्मक फ़िक्स्चर स्वतंत्र बनाए गए हैं।