Bit và đơn vị dấu phẩy cố định

Gắn đơn vị cho số nguyên

Dấu phẩy cố định biểu diễn giá trị thực bằng mã số nguyên và thang cố định. Ta xác định tổng tám bit, lưu trữ có dấu bù hai và bốn bit phần lẻ, F=4. Mã q biểu diễn q×2⁻⁴. Quy ước tên định dạng Q có thể khác nhau về việc dấu có tính là bit nguyên không, nên viết rõ tổng độ rộng, tính có dấu và F. Các mã −128 đến 127 biểu diễn −8 đến 7.9375.

Cùng mẫu bit đổi ý nghĩa theo thang. Mã 24 biểu diễn 1.5 tại F=4 nhưng ba tại F=3. Cộng mã có đơn vị khác nhau là sai ngay cả với bộ cộng rộng. Căn thang trước và xác định việc làm tròn, tràn mà căn chỉnh tạo ra.

Ví dụ tính toán

Mã hóa 1.5 thành 24 và −0.75 thành −12. Tích số nguyên là −288. Độ rộng phần lẻ được cộng, nên tích có F=8 và biểu diễn −288/256=−1.125. Hai toán hạng tám bit có dấu có tích đầy đủ vừa mười sáu bit, nhưng tổng nhiều tích cần tính riêng độ rộng bộ tích lũy. Làm tròn mỗi tích về F=4 tạo lỗi tại mỗi số hạng. Quy ước giữ thang tích suốt tích lũy và làm tròn một lần tại đầu ra.

Bias thực 0.5 trở thành mã 128 tại F=8. Cộng nó cho −160, biểu diễn −0.625. Cộng mã tám, là bias tại F=4, sẽ dùng đơn vị sai. Ghi thang bias bên cạnh mã được lưu.

Khi mở rộng mã bù hai âm, lặp bit dấu. Biểu diễn tám bit của −12 là 11110100; mở rộng mười sáu bit là 1111111111110100. Mở rộng bằng 0 đổi thành dương 244. Khai báo toán hạng và giá trị trung gian RTL có dấu, xác định rõ độ rộng thay vì giả định đích hẹp sửa kích thước biểu thức.

Thang lũy thừa hai làm quan hệ dịch dễ kiểm tra. Lượng tử hóa affine tổng quát dùng thang dương khác và điểm 0. Giữ mã, thang và giá trị biểu diễn cùng nhau trong ghi chú thiết kế để nhân, tích lũy và chuyển đổi cuối vẫn dễ hiểu.