Skip to main content

Table 5 Convolution matrices of the benchmark filters

From: FIR filter optimization for video processing on FPGAs

Filter

Convolution matrix

Gaussian 3 × 3, B c  = 8 bits

3 21 3 21 159 21 3 21 3

Gaussian 5 × 5, B c  = 12 bits

0 0 1 0 0 0 46 343 46 0 1 343 2 , 534 343 1 0 46 343 46 0 0 0 1 0 0

Laplacian 3 × 3, B c  = 8 bits

5 21 5 21 - 107 21 5 21 5

Unsharp 3 × 3, B c  = 8 bits

- 3 - 11 - 3 - 11 69 - 11 - 3 - 11 - 3

Unsharp 3 × 3, B c  = 12 bits

- 43 - 171 - 43 - 171 1109 - 171 - 43 - 171 - 43

Lowpass 5 × 5, B c  = 8 bits

22 88 132 88 22 88 140 103 140 88 132 103 106 103 132 88 140 103 140 88 22 88 132 88 22

Lowpass 9 × 9, B c  = 10 bits

- 1 - 7 - 25 - 50 - 62 - 50 - 25 - 7 - 1 - 7 - 25 - 10 73 130 73 - 10 - 25 - 7 - 25 - 10 117 165 126 165 117 - 10 - 25 - 50 73 165 194 303 194 165 73 - 50 - 62 130 126 303 268 303 126 130 - 62 - 50 73 165 194 303 194 165 73 - 50 - 25 - 10 117 165 126 165 117 - 10 - 25 - 7 - 25 - 10 73 130 73 - 10 - 25 - 7 - 1 - 7 - 25 - 50 - 62 - 50 - 25 - 7 - 1

Lowpass 15 × 15, B c  = 12 bits

0 0 1 5 13 27 40 45 40 27 13 5 1 0 0 0 2 7 13 2 - 41 - 103 - 133 - 103 - 41 2 13 7 2 0 1 7 10 - 21 - 93 - 137 - 101 - 64 - 101 - 137 - 93 - 21 10 7 1 5 13 - 21 - 106 - 122 - 41 - 17 - 43 - 17 - 41 - 122 - 106 - 21 13 5 13 2 - 93 - 122 - 8 79 199 304 199 79 - 8 - 122 - 93 2 13 27 - 41 - 137 - 41 79 333 613 662 613 333 79 - 41 - 137 - 41 27 40 - 103 - 101 - 17 199 613 904 1 , 097 904 613 199 - 17 - 101 - 103 40 45 - 133 - 64 - 43 304 662 1 , 097 1 , 197 1 , 097 662 304 - 43 - 64 - 133 45 40 - 103 - 101 - 17 199 613 904 1 , 097 904 613 199 - 17 - 101 - 103 40 27 - 41 - 137 - 41 79 333 613 662 613 333 79 - 41 - 137 - 41 27 13 2 - 93 - 122 - 8 79 199 304 199 79 - 8 - 122 - 93 2 13 5 13 - 21 - 106 - 122 - 41 - 17 - 43 - 17 - 41 - 122 - 106 - 21 13 5 1 7 10 - 21 - 93 - 137 - 101 - 64 - 101 - 137 - 93 - 21 10 7 1 0 2 7 13 2 - 41 - 103 - 133 - 103 - 41 2 13 7 2 0 0 0 1 5 13 27 40 45 40 27 13 5 1 0 0

Highpass 5 × 5, B c  = 8 bits

- 2 - 7 - 10 - 7 - 2 - 7 - 3 8 - 3 - 7 - 10 8 121 8 - 10 - 7 - 3 8 - 3 - 7 - 2 - 7 - 10 - 7 - 2

Highpass 9 × 9, B c  = 10 bits

0 - 2 - 6 - 11 - 14 - 11 - 6 - 2 0 - 2 - 7 - 10 - 3 4 - 3 - 10 - 7 - 2 - 6 - 10 - 1 - 2 - 11 - 2 - 1 - 10 - 6 - 11 - 3 - 2 - 11 - 1 - 11 - 2 - 3 - 11 - 14 4 - 11 - 1 500 - 1 - 11 4 - 14 - 11 - 3 - 2 - 11 - 1 - 11 - 2 - 3 - 11 - 6 - 10 - 1 - 2 - 11 - 2 - 1 - 10 - 6 - 2 - 7 - 10 - 3 4 - 3 - 10 - 7 - 2 0 - 2 - 6 - 11 - 14 - 11 - 6 - 2 0

Highpass 15 × 15, B c  = 12 bits

0 0 0 - 1 - 3 - 6 - 8 - 10 - 8 - 6 - 3 - 1 0 0 0 0 0 - 2 - 5 - 8 - 8 - 5 - 4 - 5 - 8 - 8 - 5 - 2 0 0 0 - 2 - 6 - 9 - 8 - 6 - 10 - 13 - 10 - 6 - 8 - 9 - 6 - 2 0 - 1 - 5 - 9 - 8 - 8 - 14 - 14 - 11 - 14 - 14 - 8 - 8 - 9 - 5 - 1 - 3 - 8 - 8 - 8 - 15 - 15 - 15 - 19 - 15 - 15 - 15 - 8 - 8 - 8 - 3 - 6 - 8 - 6 - 14 - 15 - 17 - 21 - 18 - 21 - 17 - 15 - 14 - 6 - 8 - 6 - 8 - 5 - 10 - 14 - 15 - 21 - 19 - 23 - 19 - 21 - 15 - 14 - 10 - 5 - 8 - 10 - 4 - 13 - 11 - 19 - 18 - 23 2 , 028 - 23 - 18 - 19 - 11 - 13 - 4 - 10 - 8 - 5 - 10 - 14 - 15 - 21 - 19 - 23 - 19 - 21 - 15 - 14 - 10 - 5 - 8 - 6 - 8 - 6 - 14 - 15 - 17 - 21 - 18 - 21 - 17 - 15 - 14 - 6 - 8 - 6 - 3 - 8 - 8 - 8 - 15 - 15 - 15 - 19 - 15 - 15 - 15 - 8 - 8 - 8 - 3 - 1 - 5 - 9 - 8 - 8 - 14 - 14 - 11 - 14 - 14 - 8 - 8 - 9 - 5 - 1 0 - 2 - 6 - 9 - 8 - 6 - 10 - 13 - 10 - 6 - 8 - 9 - 6 - 2 0 0 0 - 2 - 5 - 8 - 8 - 5 - 4 - 5 - 8 - 8 - 5 - 2 0 0 0 0 0 - 1 - 3 - 6 - 8 - 10 - 8 - 6 - 3 - 1 0 0 0