बैंडविड्थ और गणना सीमाएँ

अंकगणित को डेटा दें

MAC संख्या काम मापती है; बैंडविड्थ ऑपरैंड पहुँचने की गति। चार एकल-MAC PE आदर्श चार MAC प्रति चक्र देते हैं। हर MAC के दो एक-बाइट ऑपरैंड लाने में आठ बाइट/चक्र चाहिए। पुनः उपयोग बाहरी ट्रैफ़िक घटाता है, लेकिन स्थानीय बफ़र में PE को देने के पर्याप्त पोर्ट चाहिए। बाहरी बैंडविड्थ और आंतरिक पठन पोर्ट माँग अलग हैं।

गणना निचली सीमा MAC संख्या/उपलब्ध MAC दर है। स्थानांतरण निचली सीमा बाइट/बैंडविड्थ है। पूर्ण ओवरलैप में कुल समय उनके अधिकतम से कम नहीं। बिना ओवरलैप जोड़ें। आरंभ,बर्स्ट,पता तैयारी,अंतिम भाग और लेखन वास्तविक समयक्रम बढ़ा सकते हैं।

काल्पनिक डिज़ाइन उदाहरण

N=1,C=2,H=W=6,M=4 और बिना पैडिंग 3×3 कन्वोल्यूशन लें। आउटपुट 4×4 और काम 1152 MAC। हर टेंसर एक बार लाया जाए, हैलो पुनः लोड या आंशिक योग बाहर रखने बिना। Int8 इनपुट 72,वज़न 72,आउटपुट 64 और 32-बिट बायस 16:कुल 224 बाइट।

चार PE में गणना सीमा 288 चक्र। एक बाइट/चक्र पर स्थानांतरण 224, इसलिए पूर्ण ओवरलैप सीमा 288। आधा बाइट/चक्र में 448 और वही बड़ी सीमा। एक बाइट/चक्र बिना ओवरलैप सरल योग 512। हर संख्या के साथ धारणाएँ रखें।

इस पुनः उपयोग में अंकगणितीय तीव्रता 1152/224≈5.14 MAC/बाइट। हर MAC के दोनों ऑपरैंड लाने से 2304 ऑपरैंड बाइट; आउटपुट और बायस सहित 2384। काम समान, गति अलग। जानबूझकर कैश,संपीड़न और बस संरेखण छोड़ता है; हार्डवेयर माप नहीं।

अद्वितीय टेंसर आकार,वास्तविक पठन/लेखन बाइट,आंशिक योग ट्रैफ़िक,उपयोगी PE ऑपरेशन और कुल चक्र लिखें। निष्क्रिय चक्र इनपुट कमी,आउटपुट रुकावट,अंतिम भाग और नियंत्रण में बाँटें। स्थानांतरण मुख्य हो तो PE दुगुने समय आधा नहीं करते। अच्छे पुनः उपयोग को अधिक भंडारण चाहिए हो सकता है, इसलिए पिछले टाइल बजट के साथ देखें।