PE, luồng dữ liệu và tái sử dụng MAC

Quyết định thứ ở lại gần

PE là phần tử xử lý có nhân, tích lũy và trạng thái cục bộ nhỏ. Nhiều PE chỉ tăng khả năng đồng thời khi toán hạng và tổng riêng có thể tới chúng. Luồng dữ liệu ánh xạ các trục vòng lặp vào thời gian và vị trí PE, chọn giá trị ở lại cục bộ. Cùng số MAC có thể cần di chuyển rất khác nhau.

Giữ đầu ra tại chỗ giữ tổng riêng đầu ra cục bộ trong khi cấp toán hạng. Giữ trọng số tại chỗ giữ trọng số qua các đầu vào và di chuyển hoặc kết hợp tổng riêng. Giữ đầu vào tại chỗ giữ giá trị đầu vào để tái sử dụng qua trọng số. Mỗi tên xác định một dạng di chuyển được giảm; không loại mọi lần truyền khác. Mô tả đường thực khi kết hợp chiến lược tái sử dụng.

Tính ánh xạ giữ đầu ra tại chỗ

P=4 vị trí không gian,M=2 kênh đầu ra,K=9 số hạng rút gọn cho tám đầu ra và 72 MAC. Bốn PE mỗi phần tử sở hữu một đầu ra và thực thi một số hạng mỗi chu kỳ. Bốn đầu ra đầu mất chín chu kỳ, rồi bốn tiếp theo mất chín: mười tám chu kỳ MAC. Thêm một chu kỳ ghi kết quả đồng thời sau mỗi nhóm, không chồng lấp, cho tổng hai mươi chu kỳ. Ô MAC được dùng hết, nhưng mức sử dụng toàn phép toán còn gồm ghi.

Đặt hai kênh đầu ra cho cùng patch trên PE khác nhau và phát chung đầu vào. Đọc riêng patch chín mẫu đó cho cả hai kênh cần mười tám lần đọc tại biên cấp; đọc một lần rồi chia sẻ cần chín. Không tính đọc cục bộ PE hay tái sử dụng giữa patch lân cận. Nêu ranh giới đếm lưu lượng.

Chỉ giữ số tổng riêng mà lưu trữ cục bộ cho phép. Bảy đầu ra trên bốn PE để một PE chưa dùng ở nhóm thứ hai. Mặt nạ hợp lệ phải chặn kết quả giả của nó, và mức sử dụng phải đếm MAC hữu ích.

Di chuyển tổng riêng có thể cần truyền rộng hơn toán hạng int8. Ghi độ rộng và số đọc/ghi mỗi loại giá trị. Đổi thứ tự tổng số nguyên chính xác giữ kết quả, nhưng cắt trung gian có thể phá tương đương đó. Dự án Eyeriss của MIT cung cấp ví dụ gốc về thiết kế bộ gia tốc chú trọng tái sử dụng. Số PE và lịch ở đây là ví dụ giảng dạy giả định riêng.