Ancho de banda y cotas de cálculo

Alimenta la aritmética

El número de MAC mide trabajo; el ancho de banda mide con qué rapidez pueden llegar los operandos. Cuatro PE de una MAC ofrecen cuatro MAC ideales por ciclo. Recuperar dos operandos de un byte para cada MAC exigiría ocho bytes por ciclo. La reutilización reduce el tráfico externo, pero los búferes locales siguen necesitando suficientes puertos para alimentar los PE. El ancho de banda externo y la demanda de puertos internos de lectura son cantidades distintas.

La cota inferior de cálculo es el número de MAC dividido por la tasa MAC disponible. La cota inferior de transferencia es bytes divididos por ancho de banda. Con solapamiento perfecto, el tiempo total no puede mejorar el máximo de ambas. Sin solapamiento, súmalas. Arranque, ráfagas, configuración de direcciones, colas finales y escritura pueden aumentar una planificación real.

Diseño hipotético resuelto

Usa N=1, C=2, H=W=6, M=4 y convolución 3×3 sin relleno. La salida es 4×4 y el trabajo 1152 MAC. Supón que cada tensor se recupera una vez, sin recargas de halo ni volcado de sumas parciales. Las entradas int8 usan 72 bytes, los pesos 72, las salidas 64 y los sesgos de 32 bits 16:224 bytes en total.

Cuatro PE dan una cota de cálculo de 288 ciclos. A un byte por ciclo, la transferencia requiere 224 ciclos, así que la cota con solapamiento perfecto es 288. A medio byte por ciclo, las transferencias requieren 448 ciclos y se convierten en la cota mayor. Sin solapamiento a un byte por ciclo, la suma sencilla es 512 ciclos. Adjunta estos supuestos a cada número declarado.

Bajo este supuesto de reutilización, la intensidad aritmética es 1152/224≈5.14 MAC por byte. Recuperar en cambio ambos operandos para cada MAC usa 2304 bytes de operandos; salidas y sesgos elevan el total a 2384. El trabajo permanece igual; cambia el movimiento. Esto ignora intencionadamente cachés, compresión y alineación del bus y no es una medición de hardware.

Registra el tamaño único de tensores, los bytes reales leídos y escritos, el tráfico de sumas parciales, las operaciones PE útiles y los ciclos totales. Clasifica los ciclos inactivos por falta de entrada, bloqueo de salida, colas finales y control. Duplicar los PE no puede reducir el tiempo a la mitad cuando dominan las transferencias. Mejorar la reutilización puede necesitar más almacenamiento, así que considera este análisis junto con el presupuesto anterior de bloques.