OSDN Git Service

avcodec/vp9block: fix runtime error: signed integer overflow: 196675 * 20670 cannot...
[android-x86/external-ffmpeg.git] / libavcodec / r210dec.c
1 /*
2  * R210 decoder
3  *
4  * Copyright (c) 2009 Reimar Doeffinger <Reimar.Doeffinger@gmx.de>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "internal.h"
25 #include "libavutil/bswap.h"
26 #include "libavutil/common.h"
27
28 static av_cold int decode_init(AVCodecContext *avctx)
29 {
30     if ((avctx->codec_tag & 0xFFFFFF) == MKTAG('r', '1', '0', 0)) {
31         avctx->pix_fmt = AV_PIX_FMT_BGR48;
32     } else {
33         avctx->pix_fmt = AV_PIX_FMT_RGB48;
34     }
35     avctx->bits_per_raw_sample = 10;
36
37     return 0;
38 }
39
40 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
41                         AVPacket *avpkt)
42 {
43     int h, w, ret;
44     AVFrame *pic = data;
45     const uint32_t *src = (const uint32_t *)avpkt->data;
46     int aligned_width = FFALIGN(avctx->width,
47                                 avctx->codec_id == AV_CODEC_ID_R10K ? 1 : 64);
48     uint8_t *dst_line;
49     int r10 = (avctx->codec_tag & 0xFFFFFF) == MKTAG('r', '1', '0', 0);
50     int le = avctx->codec_tag == MKTAG('R', '1', '0', 'k') &&
51              avctx->extradata_size >= 12 && !memcmp(&avctx->extradata[4], "DpxE", 4) &&
52              !avctx->extradata[11];
53
54     if (avpkt->size < 4 * aligned_width * avctx->height) {
55         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
56         return AVERROR_INVALIDDATA;
57     }
58
59     if ((ret = ff_get_buffer(avctx, pic, 0)) < 0)
60         return ret;
61
62     pic->pict_type = AV_PICTURE_TYPE_I;
63     pic->key_frame = 1;
64     dst_line = pic->data[0];
65
66     for (h = 0; h < avctx->height; h++) {
67         uint16_t *dst = (uint16_t *)dst_line;
68         for (w = 0; w < avctx->width; w++) {
69             uint32_t pixel;
70             uint16_t r, g, b;
71             if (avctx->codec_id == AV_CODEC_ID_AVRP || r10 || le) {
72                 pixel = av_le2ne32(*src++);
73             } else {
74                 pixel = av_be2ne32(*src++);
75             }
76             if (avctx->codec_id == AV_CODEC_ID_R210 || r10) {
77                 b =  pixel <<  6;
78                 g = (pixel >>  4) & 0xffc0;
79                 r = (pixel >> 14) & 0xffc0;
80             } else {
81                 b = (pixel <<  4) & 0xffc0;
82                 g = (pixel >>  6) & 0xffc0;
83                 r = (pixel >> 16) & 0xffc0;
84             }
85             *dst++ = r | (r >> 10);
86             *dst++ = g | (g >> 10);
87             *dst++ = b | (b >> 10);
88         }
89         src += aligned_width - avctx->width;
90         dst_line += pic->linesize[0];
91     }
92
93     *got_frame      = 1;
94
95     return avpkt->size;
96 }
97
98 #if CONFIG_R210_DECODER
99 AVCodec ff_r210_decoder = {
100     .name           = "r210",
101     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed RGB 10-bit"),
102     .type           = AVMEDIA_TYPE_VIDEO,
103     .id             = AV_CODEC_ID_R210,
104     .init           = decode_init,
105     .decode         = decode_frame,
106     .capabilities   = AV_CODEC_CAP_DR1,
107     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
108 };
109 #endif
110 #if CONFIG_R10K_DECODER
111 AVCodec ff_r10k_decoder = {
112     .name           = "r10k",
113     .long_name      = NULL_IF_CONFIG_SMALL("AJA Kona 10-bit RGB Codec"),
114     .type           = AVMEDIA_TYPE_VIDEO,
115     .id             = AV_CODEC_ID_R10K,
116     .init           = decode_init,
117     .decode         = decode_frame,
118     .capabilities   = AV_CODEC_CAP_DR1,
119     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
120 };
121 #endif
122 #if CONFIG_AVRP_DECODER
123 AVCodec ff_avrp_decoder = {
124     .name           = "avrp",
125     .long_name      = NULL_IF_CONFIG_SMALL("Avid 1:1 10-bit RGB Packer"),
126     .type           = AVMEDIA_TYPE_VIDEO,
127     .id             = AV_CODEC_ID_AVRP,
128     .init           = decode_init,
129     .decode         = decode_frame,
130     .capabilities   = AV_CODEC_CAP_DR1,
131     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
132 };
133 #endif