PE, flujo de datos y reutilización MAC

Decide qué permanece cerca

Un PE es un elemento de procesamiento con multiplicación, acumulación y un pequeño estado local. Más PE aumentan la concurrencia posible solo si pueden llegar a ellos los operandos y las sumas parciales. El flujo de datos asigna los ejes de bucle al tiempo y a las posiciones de PE y elige qué valores permanecen locales. Números idénticos de MAC pueden requerir movimientos muy distintos.

La salida estacionaria mantiene local una suma parcial de salida mientras suministra operandos. Los pesos estacionarios conservan pesos entre entradas y desplazan o combinan sumas parciales. La entrada estacionaria conserva valores de entrada para reutilizarlos entre pesos. Cada nombre identifica un movimiento que se reduce; no elimina todas las demás transferencias. Describe los recorridos reales al combinar estrategias de reutilización.

Asignación resuelta de salida estacionaria

P=4 posiciones espaciales,M=2 canales de salida,K=9 términos de reducción dan ocho salidas y 72 MAC. Cuatro PE poseen una salida cada uno y ejecutan un término por ciclo. Las primeras cuatro salidas tardan nueve ciclos y las siguientes cuatro otros nueve: dieciocho ciclos MAC. Añade un ciclo de escritura simultánea de resultados después de cada grupo sin solapamiento, lo que da veinte ciclos totales. Las posiciones MAC se utilizan por completo, pero la utilización de toda la operación también incluye la escritura.

Coloca dos canales de salida del mismo parche en PE diferentes y difunde su entrada compartida. Leer ese parche de nueve muestras por separado para ambos canales requiere dieciocho lecturas en el límite de suministro; leerlo una vez y compartirlo requiere nueve. Esto no cuenta lecturas locales de PE ni reutilización entre parches vecinos. Indica el límite en el que se cuenta el tráfico.

Conserva solo tantas sumas parciales como permita el almacenamiento local. Siete salidas sobre cuatro PE dejan un PE sin usar en el segundo grupo. Una máscara de validez debe suprimir su resultado falso y la utilización debe contar las MAC útiles.

Desplazar sumas parciales puede requerir transferencias más anchas que desplazar operandos int8. Registra anchura y número de lecturas y escrituras de cada clase de valores. Reordenar sumas enteras exactas conserva su resultado, pero el recorte intermedio puede romper esa equivalencia. El proyecto Eyeriss del MIT proporciona un ejemplo primario de diseño de aceleradores atento a la reutilización. Los números de PE y las planificaciones de aquí son ejemplos didácticos hipotéticos independientes.