स्केल और शून्य बिंदु

वास्तविक शून्य का कोड

अफ़ाइन क्वांटाइज़ेशन धनात्मक स्केल s और पूर्णांक शून्य बिंदु z लेता है। हमारा पूर्णांक अनुबंध x/s को निकटतम पूर्णांक तक राउंड करता है, सटीक बराबरी में सम चुनता है, z जोड़ता है और भंडारण सीमा तक संतृप्त करता है। डीक्वांटाइज़ेशन कोड को लगभग s(q−z) समझता है। वास्तविक मान पूर्णांक ग्रिड में मैप करने से आमतौर पर जानकारी खोती है।

s=0.25,z=128 के uint8 इनपुट में वास्तविक शून्य कोड 128 है। 130 और 126 कोड 0.5 और −0.5 हैं। कच्चा पैडिंग कोड शून्य −32 होगा। कच्चे कोड वाला बफ़र पैडिंग में z डाले। पहले से केंद्रित कोड वाला बफ़र पूर्णांक शून्य डाले। डेटापाथ में वह रूपांतरण बिंदु चिह्नित करें।

डॉट प्रोडक्ट हल करें

इनपुट [130,126] से 128 घटाकर [2,−2] केंद्रित करें। वज़न [3,−2] का स्केल 0.5 और शून्य बिंदु शून्य है। 2×3+(−2)×(−2)=10 जोड़ें। संचायक का वास्तविक स्केल 0.25×0.5=0.125, इसलिए वास्तविक परिणाम 1.25 है। आउटपुट स्केल 0.25 और शून्य बिंदु 128 में कोड 133 है। गैरशून्य वज़न शून्य बिंदु भी गुणा से पहले घटाना चाहिए।

प्रति-टेंसर क्वांटाइज़ेशन स्केल साझा करता है। प्रति-चैनल वज़न क्वांटाइज़ेशन में चैनल-विशिष्ट बायस और आउटपुट रूपांतरण चाहिए। दो चैनल के वज़न स्केल 0.5 और 0.25 हों तो संचायक कोड दस क्रमशः 1.25 और 0.625 है। सॉफ़्टवेयर लचीलापन किसी व्यवस्था का हार्डवेयर समर्थन स्थापित नहीं करता।

0.625 को स्केल 0.25 पर क्वांटाइज़ करने से बराबरी 2.5, राउंड दो और कोड 130 है। डीक्वांटाइज़ेशन 0.5, त्रुटि −0.125 है। इनपुट 0.375 भी वही कोड पाता है। ग्रिड त्रुटि संतृप्ति त्रुटि से अलग है: सीमा-बाहर इनपुट क्लिप करना आधे स्केल कदम से अधिक हो सकता है। पूर्णांक नियम ONNX QuantizeLinear से तुलना करें। अभ्यास जानबूझकर छोटा int8/uint8 उपसमुच्चय लागू करते हैं।