PE, flusso dei dati e riuso dei MAC

Decidi ciò che rimane vicino

Un PE è un elemento di elaborazione con moltiplicazione, accumulo e un piccolo stato locale. Più PE aumentano la concorrenza possibile soltanto quando operandi e somme parziali possono raggiungerli. Il flusso dei dati associa gli assi dei cicli al tempo e alle posizioni dei PE e sceglie quali valori rimangono locali. Conteggi MAC identici possono richiedere movimenti molto diversi.

Le uscite stazionarie mantengono locale una somma parziale di uscita fornendo gli operandi. I pesi stazionari conservano i pesi tra gli ingressi e muovono o combinano somme parziali. Gli ingressi stazionari conservano i valori di ingresso per il riuso tra pesi. Ogni nome identifica un movimento ridotto; non elimina ogni altro trasferimento. Descrivi i percorsi effettivi quando combini strategie di riuso.

Associazione svolta con uscite stazionarie

P=4 posizioni spaziali,M=2 canali di uscita,K=9 termini di riduzione danno otto uscite e 72 MAC. Quattro PE possiedono ciascuno un'uscita ed eseguono un termine per ciclo. Le prime quattro uscite richiedono nove cicli, poi le successive quattro ne richiedono nove: diciotto cicli MAC. Aggiungi un ciclo di scrittura simultanea dei risultati dopo ogni gruppo senza sovrapposizione, ottenendo venti cicli totali. Le posizioni MAC sono pienamente utilizzate, ma l'utilizzo dell'operazione completa include anche la scrittura.

Colloca due canali di uscita per la stessa patch su PE diversi e distribuisci il loro ingresso condiviso. Leggere separatamente quella patch di nove campioni per entrambi i canali richiede diciotto letture al confine di alimentazione; leggere una volta e condividere ne richiede nove. Questo non conta letture locali dei PE o riuso tra patch vicine. Dichiara il confine a cui viene contato il traffico.

Conserva soltanto tante somme parziali quante ne permette la memoria locale. Sette uscite su quattro PE lasciano un PE inutilizzato nel secondo gruppo. Una maschera di validità deve sopprimere il suo falso risultato e l'utilizzo deve contare MAC utili.

Muovere somme parziali può richiedere trasferimenti più larghi rispetto a operandi int8. Registra larghezza e conteggi di letture/scritture per ogni classe di valori. Riordinare somme intere esatte conserva il loro risultato, ma una limitazione intermedia può rompere tale equivalenza. Il progetto Eyeriss del MIT fornisce un esempio primario di progettazione di acceleratori attenta al riuso. I conteggi PE e le pianificazioni qui sono esempi didattici ipotetici separati.