Altifigence Academy

9 / 24 · Khái niệm

Tham chiếu tích chập trực tiếp

Với đầu vào [2,3], trọng số [4,−1] và bias một, kết quả sai nào xảy ra nếu cộng bias mỗi lần lặp kênh đầu vào?

Ưu tiên tham chiếu có thể xem xét

Mô hình chuẩn ưu tiên quy ước rõ ràng hơn tốc độ. Lặp kênh đầu ra, hàng đầu ra và cột đầu ra; rồi rút gọn kênh đầu vào cùng hàng, cột kernel. Tính mỗi tọa độ đầu vào và cấp 0 ngoài giới hạn. Cách này làm lộ đầu ra sai đầu tiên và số hạng cụ thể lệch đi. Không cần mô phỏng thứ tự vòng lặp tối ưu của phần cứng.

y[m,h,w]=b[m]+∑c∑r∑sx[c,hSh−Pt+rDh,wSw−Pl+sDw]w[m,c,r,s]y[m,h,w]=b[m]+\sum_c\sum_r\sum_s x[c,hS_h-P_t+rD_h,wS_w-P_l+sD_w]w[m,c,r,s]

Khởi tạo bộ tích lũy bằng b[m] một lần mỗi đầu ra. Cộng trong phép rút gọn sẽ lặp bias. Trong mô hình số nguyên, x và w là mã đã trừ điểm 0, bias dùng thang tích.

Ví dụ nhiều kênh

Dùng hai kênh đầu vào 1×1 chứa hai và ba. Kênh đầu ra 0 có trọng số [4,−1] và bias một, cho 1+8−3=6. Kênh đầu ra một có trọng số [−2,5] và bias −1, cho −1−4+15=10. Bộ tích lũy chung phải bắt đầu đầu ra thứ hai độc lập thay vì giữ kết quả thứ nhất.

Với đầu vào [1,2,3;4,5,6;7,8,9] và kernel [1,2;3,4], kỳ vọng [37,47;67,77]. Các tích đầu được ghi là 1,4,12,20. Tiếp theo là 2,6,15,24. Xem một vị trí tính tay; chỉ giá trị cuối có thể che lỗi bù nhau.

So mô hình trực tiếp với mô hình tạo patch và tính tích vô hướng có cấu trúc riêng. Dùng chung hàm địa chỉ trong cả hai có thể dùng chung lỗi. Kết hợp cấu trúc độc lập với dữ liệu tính tay. Giữ hạt giống ngẫu nhiên tái lập được và giữ tensor gây lỗi. So cả bộ tích lũy chưa chuyển đổi và mã đầu ra cuối để định vị lỗi số.

model.mjs chấp nhận X[C][H][W] và W[M][C/G][R][S], với một lô ngầm định. Nó kiểm tra tensor hình chữ nhật, tương thích kênh và nhóm. Không nhập mô hình framework. Dùng giá trị khác nhau, số âm và trọng số bất đối xứng thay vì dữ liệu toàn 0. So quy ước với ONNX Conv đồng thời ghi giới hạn của mô hình giảng dạy.

Tự thử

Với đầu vào [2,3], trọng số [4,−1] và bias một, kết quả sai nào xảy ra nếu cộng bias mỗi lần lặp kênh đầu vào?

Đọc giải thích

Kết quả đúng là 1+8−3=6. Lặp bias hai lần cho 8−3+2=7. Khởi tạo bias ngoài phép rút gọn kênh.

Lựa chọn áp dụng cho trình duyệt này. Có thể đổi ở chân trang bất cứ lúc nào.