इन्फ़रेंस और प्रशिक्षण

डेटापाथ से पहले गणना तय करें

इन्फ़रेंस अग्रगामी पास में पहले चुने हुए स्थिर वज़न इनपुट पर लगाता है। प्रशिक्षण हानि भी निकालता है, ग्रेडिएंट पीछे फैलाता है और वज़न बदलता है। इसलिए अग्रगामी कन्वोल्यूशन करने वाला सर्किट इन्फ़रेंस ऑपरेशन दिखाता है; अपने आप प्रशिक्षण नहीं। इस पाठ्यक्रम में छोटा पूर्णांक इन्फ़रेंस पथ बनेगा। ग्रेडिएंट हार्डवेयर, ऑप्टिमाइज़र, वर्गीकरण शुद्धता और स्वचालित मॉडल आयात अभ्यास से बाहर हैं।

बैच N, इनपुट चैनल C, स्थानिक आयाम H तथा W, आउटपुट चैनल M और R गुणा S कर्नेल का अनुबंध लिखें। हम NCHW क्रम लेते हैं। सामान्य आउटपुट तत्व C×R×S गुणनफल जोड़ता है। N×M×Ho×Wo आउटपुट में N×M×Ho×Wo×C×R×S MAC हैं। यहाँ एक MAC एक गुणा और उसका संचय है। फ़्लोटिंग-पॉइंट ऑपरेशन रिपोर्ट गुणा और जोड़ अलग गिन सकती है, इसलिए तुलना से पहले गिनती नियम बताएँ।

हल किया उदाहरण

N=1, C=2, H=W=5, M=3 और 3×3 कर्नेल लें, स्ट्राइड एक और पैडिंग बिना। स्थानिक आउटपुट 3×3 है। 27 आउटपुट तत्व हर बार 18 गुणनफल जोड़ते हैं, कुल 486 MAC। बायस वेक्टर में तीन संग्रहीत संख्याएँ, हर आउटपुट चैनल की एक हैं, लेकिन बायस 27 आउटपुट स्थानों पर जुड़ता है। MAC परिभाषा चुपचाप बदलने के बजाय ये जोड़ अलग बताएँ।

क्रम शुद्धता का हिस्सा है। चैनल-प्रथम इनपुट पठन और वज़न की स्थानिक-प्रथम व्याख्या हर मान वैध होने पर भी गलत ऑपरैंड जोड़ती है। संदर्भ आउटपुट में चैनल तथा स्थानिक निर्देशांक दोनों लिखें। एक बैच से शुरू करें, हर टेंसर फ़ाइल तय करें और मूल अनुबंध स्थिर होने पर ही बैच आयाम बढ़ाएँ।

स्वीकृत आकार, स्ट्राइड, पैडिंग और संख्यात्मक सीमाएँ लिखें। असमर्थित अनुरोध स्पष्ट अस्वीकार करें। लचीली सॉफ़्टवेयर सरणी से RTL के हर आकार समर्थन का प्रमाण नहीं मिलता। संदर्भ आउटपुट आवृत्ति, शक्ति या मॉडल शुद्धता भी नहीं मापता। आगे अभ्यास सटीक मान और बताई धारणाओं वाले चक्र अनुमान अलग करते हैं। प्रशिक्षण के अग्रगामी, पश्चगामी और अपडेट चरणों के लिए आधिकारिक PyTorch ट्यूटोरियल देखें।