Skip to main content

Table 3 Performance of the estimation method: Precision.

From: SQNR Estimation of Fixed-Point DSP Algorithms

 

Estimation error

Benchmark

[120,100)1 dB

[100,80) dB

[80,60) dB

 dB

 

(dB)2 (%)3

(dB) (%)

(dB) (%)

(dB) (%)

0.11

0.24

0.09

0.09

0.07

0.17

0.07

0.44

0.11

0.11

0.08

0.42

0.21

0.88

0.27

0.68

0.04

0.03

0.04

0.04

0.06

0.74

0.04

0.09

0.24

0.69

0.18

0.33

0.20

0.15

0.19

0.46

0.03

0.01

0.02

0.03

0.03

0.16

0.16

1.16

0.07

0.54

0.07

0.11

0.06

0.50

0.09

0.72

0.05

0.57

0.04

0.40

0.04

0.57

0.13

1.19

0.27

0.98

0.24

0.71

0.29

0.17

0.18

1.52

0.39

5.00

0.17

1.55

0.76

5.96

1.12

12.12

0.09

0.41

0.14

0.90

0.16

1.74

0.82

6.96

0.09

0.46

0.08

0.24

0.15

0.78

0.92

3.73

0.09

0.46

0.08

0.07

0.13

1.08

1.09

5.51

1.14

3.33

0.49

1.84

0.81

6.70

1.43

16.67

All

1.14

0.20

0.49

0.09

0.81

1.26

1.43

3.52

  1. 1Error constraint, 2, 3 (average),
  2. * It contains loops.