PEs, Datenfluss und MAC-Wiederverwendung

Entscheiden, was in der Nähe bleibt

Ein PE ist ein Verarbeitungselement mit Multiplikation, Akkumulation und kleinem lokalem Zustand. Mehr PEs erhöhen die mögliche Parallelität nur, wenn Operanden und Teilsummen sie erreichen können. Der Datenfluss bildet Schleifenachsen auf Zeit und PE-Positionen ab und wählt lokal verbleibende Werte. Identische MAC-Anzahlen können sehr unterschiedliche Datenbewegung erfordern.

Ausgabestationärer Datenfluss hält eine Ausgabeteilsumme lokal und führt Operanden zu. Gewichtsstationärer Datenfluss erhält Gewichte über Eingaben hinweg und bewegt oder kombiniert Teilsummen. Eingabestationärer Datenfluss hält Eingabewerte zur Wiederverwendung über Gewichte hinweg. Jeder Name bezeichnet eine verringerte Bewegung, beseitigt aber nicht alle anderen Übertragungen. Beschreiben Sie beim Kombinieren von Wiederverwendungsstrategien die tatsächlichen Pfade.

Durchgerechnete ausgabestationäre Abbildung

P=4 räumliche Positionen,M=2 Ausgabekanäle,K=9 Reduktionsterme ergeben acht Ausgaben und 72 MACs. Vier PEs besitzen jeweils eine Ausgabe und führen einen Term pro Takt aus. Die ersten vier Ausgaben benötigen neun Takte, die nächsten vier ebenfalls neun: achtzehn MAC-Takte. Ergänzen Sie nach jeder Gruppe einen Takt für gleichzeitiges Ergebnisschreiben ohne Überlappung, insgesamt zwanzig Takte. Die MAC-Plätze sind vollständig genutzt, aber die Auslastung der Gesamtoperation enthält auch Schreiben.

Platzieren Sie zwei Ausgabekanäle desselben Fensters auf verschiedenen PEs und verteilen Sie ihre gemeinsame Eingabe. Dieses Fenster mit neun Proben für beide Kanäle getrennt zu lesen benötigt achtzehn Lesezugriffe an der Zuführungsgrenze; einmaliges Lesen und Teilen benötigt neun. Lokale PE-Lesezugriffe und Wiederverwendung zwischen benachbarten Fenstern sind dabei nicht gezählt. Geben Sie die Grenze an, an der Datenverkehr gezählt wird.

Halten Sie nur so viele Teilsummen, wie lokaler Speicher erlaubt. Sieben Ausgaben auf vier PEs lassen in der zweiten Gruppe ein PE ungenutzt. Eine Gültigkeitsmaske muss dessen falsches Ergebnis unterdrücken und die Auslastung muss nützliche MACs zählen.

Teilsummenbewegung kann breitere Übertragungen benötigen als die Bewegung von int8-Operanden. Erfassen Sie Breite und Lese-/Schreibanzahlen jeder Werteklasse. Umordnung exakter Ganzzahlsummen erhält ihr Ergebnis, Zwischenbegrenzung kann diese Gleichwertigkeit jedoch zerstören. Das Eyeriss-Projekt des MIT liefert ein Primärbeispiel eines wiederverwendungsbewussten Beschleunigerentwurfs. PE-Anzahlen und Abläufe hier sind getrennte hypothetische Lehrbeispiele.