Tích chập và tương quan chéo

Xác lập hướng kernel

Tích chập mạng nơ-ron thường dùng tương quan chéo: ghép kernel được lưu với cửa sổ đầu vào mà không đảo nó. Tích chập toán học đảo kernel. Phương trình chỉ số hữu ích hơn tên phép toán. Kernel đối xứng có thể che lỗi hướng, nên bắt đầu kiểm chứng bằng giá trị bất đối xứng.

Với một kênh, bước trượt một, không đệm hoặc giãn, dùng:

Ở đây h,w định vị đầu ra, r,s định vị phần tử kernel. Không chỉ số kernel nào bị đảo.

Ví dụ tính toán

Dùng cửa sổ đầu vào [1,2;4,5] và kernel [1,2;3,4]. Tương quan chéo cho 1×1+2×2+4×3+5×4=37. Đảo cả hai trục kernel cho [4,3;2,1], tạo 4+6+8+5=23. Thêm bias hai tạo 39 và 25. Đặc tả quyết định phép toán dự định.

Mở rộng đầu vào thành [1,2,3;4,5,6;7,8,9]. Kernel gốc tạo [37,47;67,77]. Cửa sổ trên phải là [2,3;5,6], tổng tích bằng 2+6+15+24=47. Di chuyển cửa sổ đổi tọa độ đầu vào; không bao giờ đổi thứ tự trọng số được lưu. Trọng số âm theo cùng quy tắc chỉ số. Ví dụ [1,0,-1] trừ rõ mẫu bên phải khỏi mẫu bên trái.

Với nhiều kênh, tích lũy cửa sổ mỗi kênh vào cùng phần tử đầu ra. Mỗi kênh đầu ra có bộ kernel riêng và một bias. Kênh là chỉ số rút gọn, thay vì vị trí không gian nơi cửa sổ trượt. Tích chập nhóm giới hạn kết nối đó và cần ánh xạ nhóm rõ ràng.

Ghi cửa sổ đầu vào, thứ tự kernel, tích riêng và bias. Chỉ kiểm tra mảng cuối có thể bỏ sót các lỗi chỉ số bù nhau trên dữ liệu quá đều. Ví dụ bất đối xứng ở đây giảm nguy cơ đó. So sánh quy ước tensor và trọng số với tài liệu ONNX Conv chính thức; dữ liệu số trong bài được xây dựng độc lập.