OSDN Git Service

Round correctly chroma picture height.
authorVitor Sessak <vitor1001@gmail.com>
Fri, 5 Mar 2010 20:04:24 +0000 (20:04 +0000)
committerVitor Sessak <vitor1001@gmail.com>
Fri, 5 Mar 2010 20:04:24 +0000 (20:04 +0000)
Fix issue 956.

Originally committed as revision 22223 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/imgconvert.c

index e1dde81..0fb2fe6 100644 (file)
@@ -760,8 +760,8 @@ int avpicture_layout(const AVPicture* src, enum PixelFormat pix_fmt, int width,
 
     for (i=0; i<data_planes; i++) {
         if (i == 1) {
-            w = ((width >> desc->log2_chroma_w) * pf->depth + 7) / 8;
-            h = height >> desc->log2_chroma_h;
+            w = (- ((-width) >> desc->log2_chroma_w) * pf->depth + 7) / 8;
+            h = -((-height) >> desc->log2_chroma_h);
             if (pix_fmt == PIX_FMT_NV12 || pix_fmt == PIX_FMT_NV21)
                 w <<= 1;
         } else if (i == 3) {