libavcodec/simple_idct.c

   1 /*
   2  * Simple IDCT
   3  *
   4  * Copyright (c) 2001 Michael Niedermayer <michaelni@gmx.at>
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 /**
  24  * @file
  25  * simpleidct in C.
  26  */
  27
  28 #include "libavutil/intreadwrite.h"
  29 #include "avcodec.h"
  30 #include "dsputil.h"
  31 #include "mathops.h"
  32 #include "simple_idct.h"
  33
  34 #define BIT_DEPTH 8
  35 #include "simple_idct_template.c"
  36 #undef BIT_DEPTH
  37
  38 #define BIT_DEPTH 10
  39 #include "simple_idct_template.c"
  40 #undef BIT_DEPTH
  41
  42 /* 2x4x8 idct */
  43
  44 #define CN_SHIFT 12
  45 #define C_FIX(x) ((int)((x) * (1 << CN_SHIFT) + 0.5))
  46 #define C1 C_FIX(0.6532814824)
  47 #define C2 C_FIX(0.2705980501)
  48
  49 /* row idct is multiple by 16 * sqrt(2.0), col idct4 is normalized,
  50    and the butterfly must be multiplied by 0.5 * sqrt(2.0) */
  51 #define C_SHIFT (4+1+12)
  52
  53 static inline void idct4col_put(uint8_t *dest, int line_size, const DCTELEM *col)
  54 {
  55     int c0, c1, c2, c3, a0, a1, a2, a3;
  56     const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
  57
  58     a0 = col[8*0];
  59     a1 = col[8*2];
  60     a2 = col[8*4];
  61     a3 = col[8*6];
  62     c0 = ((a0 + a2) << (CN_SHIFT - 1)) + (1 << (C_SHIFT - 1));
  63     c2 = ((a0 - a2) << (CN_SHIFT - 1)) + (1 << (C_SHIFT - 1));
  64     c1 = a1 * C1 + a3 * C2;
  65     c3 = a1 * C2 - a3 * C1;
  66     dest[0] = cm[(c0 + c1) >> C_SHIFT];
  67     dest += line_size;
  68     dest[0] = cm[(c2 + c3) >> C_SHIFT];
  69     dest += line_size;
  70     dest[0] = cm[(c2 - c3) >> C_SHIFT];
  71     dest += line_size;
  72     dest[0] = cm[(c0 - c1) >> C_SHIFT];
  73 }
  74
  75 #define BF(k) \
  76 {\
  77     int a0, a1;\
  78     a0 = ptr[k];\
  79     a1 = ptr[8 + k];\
  80     ptr[k] = a0 + a1;\
  81     ptr[8 + k] = a0 - a1;\
  82 }
  83
  84 /* only used by DV codec. The input must be interlaced. 128 is added
  85    to the pixels before clamping to avoid systematic error
  86    (1024*sqrt(2)) offset would be needed otherwise. */
  87 /* XXX: I think a 1.0/sqrt(2) normalization should be needed to
  88    compensate the extra butterfly stage - I don't have the full DV
  89    specification */
  90 void ff_simple_idct248_put(uint8_t *dest, int line_size, DCTELEM *block)
  91 {
  92     int i;
  93     DCTELEM *ptr;
  94
  95     /* butterfly */
  96     ptr = block;
  97     for(i=0;i<4;i++) {
  98         BF(0);
  99         BF(1);
 100         BF(2);
 101         BF(3);
 102         BF(4);
 103         BF(5);
 104         BF(6);
 105         BF(7);
 106         ptr += 2 * 8;
 107     }
 108
 109     /* IDCT8 on each line */
 110     for(i=0; i<8; i++) {
 111         idctRowCondDC_8(block + i*8);
 112     }
 113
 114     /* IDCT4 and store */
 115     for(i=0;i<8;i++) {
 116         idct4col_put(dest + i, 2 * line_size, block + i);
 117         idct4col_put(dest + line_size + i, 2 * line_size, block + 8 + i);
 118     }
 119 }
 120
 121 /* 8x4 & 4x8 WMV2 IDCT */
 122 #undef CN_SHIFT
 123 #undef C_SHIFT
 124 #undef C_FIX
 125 #undef C1
 126 #undef C2
 127 #define CN_SHIFT 12
 128 #define C_FIX(x) ((int)((x) * 1.414213562 * (1 << CN_SHIFT) + 0.5))
 129 #define C1 C_FIX(0.6532814824)
 130 #define C2 C_FIX(0.2705980501)
 131 #define C3 C_FIX(0.5)
 132 #define C_SHIFT (4+1+12)
 133 static inline void idct4col_add(uint8_t *dest, int line_size, const DCTELEM *col)
 134 {
 135     int c0, c1, c2, c3, a0, a1, a2, a3;
 136     const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
 137
 138     a0 = col[8*0];
 139     a1 = col[8*1];
 140     a2 = col[8*2];
 141     a3 = col[8*3];
 142     c0 = (a0 + a2)*C3 + (1 << (C_SHIFT - 1));
 143     c2 = (a0 - a2)*C3 + (1 << (C_SHIFT - 1));
 144     c1 = a1 * C1 + a3 * C2;
 145     c3 = a1 * C2 - a3 * C1;
 146     dest[0] = cm[dest[0] + ((c0 + c1) >> C_SHIFT)];
 147     dest += line_size;
 148     dest[0] = cm[dest[0] + ((c2 + c3) >> C_SHIFT)];
 149     dest += line_size;
 150     dest[0] = cm[dest[0] + ((c2 - c3) >> C_SHIFT)];
 151     dest += line_size;
 152     dest[0] = cm[dest[0] + ((c0 - c1) >> C_SHIFT)];
 153 }
 154
 155 #define RN_SHIFT 15
 156 #define R_FIX(x) ((int)((x) * 1.414213562 * (1 << RN_SHIFT) + 0.5))
 157 #define R1 R_FIX(0.6532814824)
 158 #define R2 R_FIX(0.2705980501)
 159 #define R3 R_FIX(0.5)
 160 #define R_SHIFT 11
 161 static inline void idct4row(DCTELEM *row)
 162 {
 163     int c0, c1, c2, c3, a0, a1, a2, a3;
 164     //const uint8_t *cm = ff_cropTbl + MAX_NEG_CROP;
 165
 166     a0 = row[0];
 167     a1 = row[1];
 168     a2 = row[2];
 169     a3 = row[3];
 170     c0 = (a0 + a2)*R3 + (1 << (R_SHIFT - 1));
 171     c2 = (a0 - a2)*R3 + (1 << (R_SHIFT - 1));
 172     c1 = a1 * R1 + a3 * R2;
 173     c3 = a1 * R2 - a3 * R1;
 174     row[0]= (c0 + c1) >> R_SHIFT;
 175     row[1]= (c2 + c3) >> R_SHIFT;
 176     row[2]= (c2 - c3) >> R_SHIFT;
 177     row[3]= (c0 - c1) >> R_SHIFT;
 178 }
 179
 180 void ff_simple_idct84_add(uint8_t *dest, int line_size, DCTELEM *block)
 181 {
 182     int i;
 183
 184     /* IDCT8 on each line */
 185     for(i=0; i<4; i++) {
 186         idctRowCondDC_8(block + i*8);
 187     }
 188
 189     /* IDCT4 and store */
 190     for(i=0;i<8;i++) {
 191         idct4col_add(dest + i, line_size, block + i);
 192     }
 193 }
 194
 195 void ff_simple_idct48_add(uint8_t *dest, int line_size, DCTELEM *block)
 196 {
 197     int i;
 198
 199     /* IDCT4 on each line */
 200     for(i=0; i<8; i++) {
 201         idct4row(block + i*8);
 202     }
 203
 204     /* IDCT8 and store */
 205     for(i=0; i<4; i++){
 206         idctSparseColAdd_8(dest + i, line_size, block + i);
 207     }
 208 }
 209
 210 void ff_simple_idct44_add(uint8_t *dest, int line_size, DCTELEM *block)
 211 {
 212     int i;
 213
 214     /* IDCT4 on each line */
 215     for(i=0; i<4; i++) {
 216         idct4row(block + i*8);
 217     }
 218
 219     /* IDCT4 and store */
 220     for(i=0; i<4; i++){
 221         idct4col_add(dest + i, line_size, block + i);
 222     }
 223 }