OSDN Git Service

use correct rounding functions
authorMichael Niedermayer <michaelni@gmx.at>
Tue, 19 Sep 2006 09:31:00 +0000 (09:31 +0000)
committerMichael Niedermayer <michaelni@gmx.at>
Tue, 19 Sep 2006 09:31:00 +0000 (09:31 +0000)
this should fix a floating point exception on some systems
lets hope these arent missing anywhere, if so another solution must be found

Originally committed as revision 6290 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/mpegaudiodec.c

index de0fa8d..178bb09 100644 (file)
@@ -430,9 +430,9 @@ static int decode_init(AVCodecContext * avctx)
         for(i=0; i<512*16; i++){
             int exponent= (i>>4);
             double f= pow(i&15, 4.0 / 3.0) * pow(2, (exponent-400)*0.25 + FRAC_BITS + 5);
-            expval_table[exponent][i&15]= lrintf(f);
+            expval_table[exponent][i&15]= llrint(f);
             if((i&15)==1)
-                exp_table[exponent]= lrintf(f);
+                exp_table[exponent]= llrint(f);
         }
 
         for(i=0;i<7;i++) {