PE, aliran data, dan penggunaan ulang MAC

Tentukan apa yang tetap dekat

PE adalah elemen pemrosesan dengan perkalian, akumulasi, dan sedikit keadaan lokal. Lebih banyak PE meningkatkan kemungkinan konkurensi hanya jika operand dan jumlah parsial dapat mencapainya. Aliran data memetakan sumbu perulangan ke waktu dan posisi PE serta memilih nilai mana yang tetap lokal. Jumlah MAC identik dapat memerlukan pergerakan yang sangat berbeda.

Keluaran menetap menjaga jumlah parsial keluaran tetap lokal sambil memasok operand. Bobot menetap mempertahankan bobot untuk berbagai masukan dan memindahkan atau menggabungkan jumlah parsial. Masukan menetap mempertahankan nilai masukan untuk digunakan ulang pada berbagai bobot. Setiap nama mengidentifikasi pergerakan yang dikurangi; tidak menghilangkan seluruh transfer lainnya. Jelaskan jalur sebenarnya ketika menggabungkan strategi penggunaan ulang.

Contoh pemetaan keluaran menetap

P=4 posisi spasial,M=2 kanal keluaran,K=9 suku reduksi memberi delapan keluaran dan 72 MAC. Empat PE masing-masing memiliki satu keluaran dan mengeksekusi satu suku per siklus. Empat keluaran pertama membutuhkan sembilan siklus, lalu empat berikutnya sembilan: delapan belas siklus MAC. Tambahkan satu siklus penulisan hasil serentak setelah setiap kelompok tanpa tumpang tindih, sehingga total dua puluh siklus. Slot MAC digunakan penuh, tetapi utilisasi seluruh operasi juga mencakup penulisan.

Tempatkan dua kanal keluaran untuk patch yang sama pada PE berbeda dan siarkan masukan bersamanya. Membaca patch sembilan sampel itu secara terpisah untuk kedua kanal membutuhkan delapan belas pembacaan pada batas pasokan; membaca sekali dan berbagi membutuhkan sembilan. Ini tidak menghitung pembacaan PE lokal atau penggunaan ulang antarpatch tetangga. Nyatakan batas tempat lalu lintas dihitung.

Pertahankan hanya jumlah parsial sebanyak yang diizinkan penyimpanan lokal. Tujuh keluaran pada empat PE menyisakan satu PE tidak terpakai dalam kelompok kedua. Mask validitas harus menekan hasil palsunya dan utilisasi harus menghitung MAC berguna.

Pergerakan jumlah parsial dapat membutuhkan transfer lebih lebar daripada operand int8. Catat lebar dan jumlah baca/tulis untuk setiap kelas nilai. Mengubah urutan jumlah bilangan bulat tepat mempertahankan hasil, tetapi pemotongan antara dapat merusak kesetaraan tersebut. Proyek Eyeriss dari MIT menyediakan contoh primer desain akselerator yang mempertimbangkan penggunaan ulang. Jumlah PE dan jadwal di sini merupakan contoh pengajaran hipotetis terpisah.