2 / 24 · Konsep
Konvolusi dan korelasi silang
Berapa hasil korelasi silang dan kernel terbalik untuk [1,2;4,5] dengan kernel [1,0;0,-1]?
Pelajaran dapat dibaca gratis. Daftar untuk menyimpan progres.
Tetapkan orientasi kernel
Konvolusi jaringan saraf umumnya menggunakan korelasi silang: pasangkan kernel tersimpan dengan jendela masukan tanpa membaliknya. Konvolusi matematis membalik kernel. Persamaan indeks lebih berguna daripada nama operator. Kernel simetris dapat menyembunyikan kesalahan orientasi, jadi mulailah verifikasi dengan nilai asimetris.
Untuk satu kanal, stride satu, tanpa padding atau dilation, gunakan:
Di sini h,w menentukan lokasi keluaran dan r,s menentukan elemen kernel. Tidak ada indeks kernel yang dibalik.
Contoh perhitungan
Gunakan jendela masukan [1,2;4,5] dan kernel [1,2;3,4]. Korelasi silang menghasilkan 1×1+2×2+4×3+5×4=37. Membalik kedua sumbu kernel memberikan [4,3;2,1], menghasilkan 4+6+8+5=23. Penambahan bias dua menghasilkan 39 dan 25. Spesifikasi menentukan operasi yang dimaksud.
Perluas masukan menjadi [1,2,3;4,5,6;7,8,9]. Kernel asli menghasilkan [37,47;67,77]. Jendela kanan atas adalah [2,3;5,6], yang hasil perkaliannya berjumlah 2+6+15+24=47. Memindahkan jendela mengubah koordinat masukan; tidak pernah mengubah urutan bobot tersimpan. Bobot negatif mengikuti aturan indeks yang sama. Misalnya, [1,0,-1] secara eksplisit mengurangkan sampel kanan dari kiri.
Dengan beberapa kanal, akumulasikan jendela setiap kanal ke elemen keluaran yang sama. Setiap kanal keluaran memiliki kumpulan kernelnya sendiri dan satu bias. Kanal merupakan indeks reduksi, bukan posisi spasial tempat jendela bergeser. Konvolusi berkelompok membatasi koneksi itu dan memerlukan pemetaan kelompok eksplisit.
Catat jendela masukan, urutan kernel, hasil perkalian parsial, dan bias. Memeriksa hanya larik akhir dapat melewatkan kesalahan pengindeksan yang saling meniadakan pada fixture terlalu teratur. Contoh asimetris di sini mengurangi risiko tersebut. Bandingkan konvensi tensor dan bobot dengan dokumentasi resmi ONNX Conv; fixture numerik pelajaran ini dibuat secara independen.
Coba sendiri
Berapa hasil korelasi silang dan kernel terbalik untuk [1,2;4,5] dengan kernel [1,0;0,-1]?
Baca penjelasan
Korelasi silang adalah 1−5=−4. Kernel terbalik [−1,0;0,1] menghasilkan −1+5=4. Fixture ini mengungkap orientasi melalui perubahan tanda.