17 / 24 · अवधारणा
PE, डेटा प्रवाह और MAC पुनः उपयोग
P=3,M=2,K=8 को चार आउटपुट-स्थिर PE पर मैप करें। लेखन छोड़कर MAC चक्र और उपयोगी MAC-स्थान उपयोग दर क्या हैं?
पाठ पढ़ना मुफ़्त है। प्रगति सेव करने के लिए नामांकन करें।
तय करें कि क्या पास रहता है
PE गुणा, संचय और छोटी स्थानीय स्थिति वाला प्रसंस्करण तत्व है। अधिक PE संभावित समांतरता तभी बढ़ाते हैं जब ऑपरैंड और आंशिक योग उन तक पहुँच सकें। डेटा प्रवाह लूप अक्ष समय और PE स्थान पर मैप करता है और स्थानीय मान चुनता है। समान MAC संख्या में बहुत अलग गति चाहिए हो सकती है।
आउटपुट-स्थिर ऑपरैंड देते हुए आउटपुट आंशिक योग स्थानीय रखता है। वज़न-स्थिर इनपुटों में वज़न रखता और आंशिक योग चलाता या जोड़ता है। इनपुट-स्थिर वज़नों में पुनः उपयोग के लिए इनपुट रखता है। हर नाम घटाए जाने वाले परिवहन को पहचानता है; बाकी सभी स्थानांतरण हटाता नहीं। रणनीतियाँ मिलाते समय वास्तविक पथ बताएँ।
आउटपुट-स्थिर मैपिंग उदाहरण
P=4 स्थानिक स्थान,M=2 आउटपुट चैनल,K=9 पद से आठ आउटपुट और 72 MAC। चार PE एक-एक आउटपुट लेकर प्रति चक्र एक पद करते हैं। पहले चार आउटपुट नौ चक्र, फिर अगले चार नौ: अठारह MAC चक्र। हर समूह के बाद बिना ओवरलैप एक साथ परिणाम-लेखन का एक चक्र जोड़ें तो कुल बीस। MAC स्थान पूरा उपयोग हैं, लेकिन पूरा ऑपरेशन उपयोग दर में लेखन भी है।
एक पैच के दो आउटपुट चैनल अलग PE पर रखकर साझा इनपुट प्रसारित करें। नौ-नमूना पैच दोनों के लिए अलग पढ़ना आपूर्ति सीमा पर अठारह पठन; एक बार पढ़कर बाँटना नौ है। इसमें स्थानीय PE पठन या पड़ोसी पैच पुनः उपयोग नहीं। ट्रैफ़िक किस सीमा पर गिनते हैं बताएँ।
स्थानीय क्षमता जितने आंशिक योग ही रखें। चार PE पर सात आउटपुट में दूसरे समूह में एक PE खाली है। वैधता मास्क उसका झूठा परिणाम रोके और उपयोग दर उपयोगी MAC गिने।
आंशिक योग चलाने में int8 ऑपरैंड से चौड़े स्थानांतरण चाहिए हो सकते हैं। हर मान वर्ग की चौड़ाई और पठन/लेखन संख्या लिखें। सटीक पूर्णांक योग पुनः क्रमित करने से परिणाम रहता है, लेकिन बीच की क्लिपिंग समानता तोड़ सकती है। MIT की Eyeriss परियोजना पुनः उपयोग पर ध्यान देने वाले त्वरक का प्राथमिक उदाहरण है। यहाँ PE संख्या और समयक्रम अलग काल्पनिक शिक्षण उदाहरण हैं।
खुद आज़माएँ
P=3,M=2,K=8 को चार आउटपुट-स्थिर PE पर मैप करें। लेखन छोड़कर MAC चक्र और उपयोगी MAC-स्थान उपयोग दर क्या हैं?
व्याख्या पढ़ें
छह आउटपुट को दो समूह और सोलह MAC चक्र चाहिए। 64 PE-चक्र स्थान और 48 उपयोगी MAC से 75% मिलता है।