lavc/utils: print error message on get_buffer related errors

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mdutils: print error message on error get_buffer related errors

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  cosmetics: Consistently use C-style comments with multiple inclusion guards
  anm: fix a few Doxygen comments
  misc typo and wording fixes
  attributes: add av_noreturn
  attributes: drop pointless define guards
  configure: do not disable av_always_inline with --enable-small
  flvdec: initial stream switch support
  avplay: fix write on freed memory for rawvideo
  snow: remove a VLA used for edge emulation
  x86: lavfi: fix gradfun/yadif build with mmx/sse disabled
  snow: remove the runs[] VLA.
  snow: Check mallocs at init
  flacdec: remove redundant setting of avctx->sample_fmt

Conflicts:
ffplay.c
libavcodec/h264.c
libavcodec/snow.c
libavcodec/snow.h
libavcodec/snowdec.c
libavcodec/snowenc.c
libavformat/flvdec.c
libavutil/attributes.h
tools/patcheck

Merged-by: Michael Niedermayer <michaelni@gmx.at>

lavf/segment: rename SegmentContext.pb to list_pb

The new name is more auto-explicative, as the pb is used for the segment
list file.

lavf/segment: add error log in case of invalid filename template

Better rather than silently exit.

lavf/segment: fix logic for segmenting audio-only inputs

Also add a comment for clarifying the logic.

Fix trac ticket #1290.

lavf/segment: add more information in log message in seg_write_packet()

doc: add documentation regarding MIPS optimizations

Add doc/mips.txt document with short explanation regarding targeted
platform for MIPS optimizations and regarding MIPS copyright notice.

Signed-off-by: Nedeljko Babic <nbabic@mips.com>
Signed-off-by: Stefano Sabatini <stefasab@gmail.com>

lavf/segment: remove unused offset variable

lavf/segment: apply misc fixes to the private options internal documentation

Option help message tell what the option *does*, not what the set field
represents.

lavf/segment: slightly simplify fail logic in seg_write_packet()

lavf/segment: move list filename printing logic from segment_end() to segment_start()

Allow to deal with the list file printing only in a single point, thus
simplifying logic, and allow a bit of factorization (no special case
needed when printing the first file name of the list).

Suggest aresample filter if it was not compiled but requested.

avcodec_align_dimensions2: support 12 & 14 bit planar colorspaces

Reviewed-by: Jean First <jeanfirst@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

imgconvert: add planar RGB formats to pix_fmt_info

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

imgconvert: add yuv 9,10,12,14 bit planar YUV formats to pix_fmt_info

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavutil: add 12 and 14 bit planar colorspaces

Reviewed-by: Jean First <jeanfirst@gmail.com>
Reviewed-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cosmetics: Consistently use C-style comments with multiple inclusion guards

anm: fix a few Doxygen comments

misc typo and wording fixes

attributes: add av_noreturn

Also use it in the declaration of the various exit_program
implementations in avtools.

inspired by a clang-scan report.

attributes: drop pointless define guards

the av_-prefixed attributes must not be defined outside of this file

configure: do not disable av_always_inline with --enable-small

Currently, --enable-small turns av_always_inline into plain inline,
which is more or less ignored by the compiler.  While the intent of
this is probably to reduce code size by avoiding some inlining, it
has more far-reaching effects.

We use av_always_inline in two situations:

1. The body of a function is smaller than the call overhead.
   Instances of these are abundant in libavutil, the bswap.h
   functions being good examples.

2. The function is a template relying on constant propagation
   through inlined calls for sane code generation.  These are
   often found in motion compensation code.

Both of these types of functions should be inlined even if targeting
small code size.

Although GCC has heuristics for detecting the first of these types,
it is not always reliable, especially when the function uses inline
assembler, which is often the reason for having those functions in
the first place, so making it explicit is generally a good idea.

The size increase from inlining template-type functions is usually
much smaller than it seems due to different branches being mutually
exclusive between the different invocations.  The dead branches can,
however, only be removed after inlining and constant propagation have
been performed, which means the initial cost estimate for inlining
these is much higher than is actually the case, resulting in GCC
often making bad choices if left to its own devices.

Furthermore, the GCC inliner limits how much it allows a function to
grow due to automatic inlining of calls, and this appears to not take
call overhead into account.  When nested inlining is used, the limit
may be hit before the innermost level is reached.  In some cases, this
has prevented inlining of type 1 functions as defined above, resulting
in significant performance loss.

Signed-off-by: Mans Rullgard <mans@mansr.com>

flvdec: initial stream switch support

Codec change midstream gets mapped to a separate stream.

avplay: fix write on freed memory for rawvideo

Do not assume avpacket and the decoded frames are independent.

To be absolutely sure and not sprinkle av_free_packet around the code
the call had been placed before getting the frame and on the error path.

snow: remove a VLA used for edge emulation

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: lavfi: fix gradfun/yadif build with mmx/sse disabled

These functions are defined conditionally so any uses need to have
preprocessor guards.

Signed-off-by: Mans Rullgard <mans@mansr.com>

jvdec: check if there is enough data

Signed-off-by: Paul B Mahol <onemda@gmail.com>

jvdec: remove redundant check

Signed-off-by: Paul B Mahol <onemda@gmail.com>

jvdec: remove buf_size

It is same as avpkt->size.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

jvdec: stop reading partial palette

Signed-off-by: Paul B Mahol <onemda@gmail.com>

tools: add bisect script

This script works like "git bisect" except that you can
specify with "bisect need ffmpeg|ffplay|ffserver|ffprobe" which tool(s)
are needed for testing a checkout

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

yadif/x86: add prototypes for functions, make code valid C again.

Broken by: libav (a87b17f3283aada762820f1b797eeb7a2dff6c61)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

jvdec: check that the video_size fits in the packet.

Prevents use of out of array data and fate failure.

Found-by: durandal_1707
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

jvdec: fix memleak of jv->frames

Signed-off-by: Paul B Mahol <onemda@gmail.com>

snow: remove the runs[] VLA.

Signed-off-by: Martin Storsjö <martin@martin.st>

snow: Check mallocs at init

Signed-off-by: Martin Storsjö <martin@martin.st>

jvdemux: correct size for truncated packets

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: add test for Bitmap Brothers JV demuxer

Signed-off-by: Paul B Mahol <onemda@gmail.com>

fate: add test for Bitmap Brothers JV video

Signed-off-by: Paul B Mahol <onemda@gmail.com>

h264pred: assert that depth is supported

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264dsp: assert that depth is supported

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

dsputil: assert that depth is supported

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavfi: remove vsrc_buffer.h API

The vsrc_buffer.h is not installed since commit 0b3b95813576, so there is
no point into keeping it around.

The buffersrc.h API, which is more powerful, should be used instead.

lavc/rawdec: add assertion check in raw_decode()

Check on an implicit assumption done on the number of coded bits for
paletted rawvideo with coded bits == 2.

lavc/rawdec: prefer constant AVPALETTE_SIZE over 256*4

Improve readability.

h264: sps: handle more profiles

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: add support for constraint_set4_flag / constraint_set5_flag

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

x86/gradfun: fix compilation failure on open solaris

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Revert "alsdec: remove dead assignments"

This reverts commit 4ca6d206d1b5beea42c4290d2ee801aaf5cd31f0.

The assignment is not dead, this should fix fate failures on BSD

has_decode_delay_been_guessed: tighten up the heuristic.

This adds the minimum delay needed with the current decoder to
recognize the reorder buffer size for the reference bitstreams.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

has_decode_delay_been_guessed: skip guessing when sps.num_reorder_frames is available

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: drop strict 1 for MR4_TANDBERG_C.264 and MR5_TANDBERG_C.264

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: add avpriv_h264_has_num_reorder_frames()

This function exports the exact sps.num_reorder_frames value

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flacdec: remove redundant setting of avctx->sample_fmt

Signed-off-by: Mans Rullgard <mans@mansr.com>

has_decode_delay_been_guessed: improve heuristic

This allows MR4_TANDBERG_C.264 and MR5_TANDBERG_C.264 to be decoded without -strict 1

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doc/developer: refer to av_malloc() instead of malloc()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  asfdec: read attached pictures.
  apetag: reindent
  apetag: export attached covers as video streams.
  apetag: fix the amount of data read from binary tags.
  apetag: make sure avio_get_str() doesn't read more than it should.
  mov: read itunes cover art.
  snow: remove VLA in mc_block()
  intfloat: Don't use designated initializers in the public headers
  snow: remove a VLA.
  doc: Remind devs to check return values, especially for malloc() et al
  MS ATC Screen (aka MSS3) decoder
  vf_yadif: move x86 init code to x86/yadif.c
  vf_gradfun: move x86 init code to x86/gradfun.c
  roqvideo: Remove a totally unused dspcontext
  smacker: remove some unused code
  dsicin: remove dead assignment
  aacdec: remove dead assignment
  rl2: remove dead assignment
  proresenc: make a variable local to the loop where it is used
  alsdec: remove dead assignments

Conflicts:
Changelog
doc/developer.texi
libavcodec/allcodecs.c
libavcodec/avcodec.h
libavcodec/version.h
libavfilter/gradfun.h
libavfilter/x86/gradfun.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

mem: heap memory poisoning.

Enable it by default with FATE.
limitation: not random, and not supported with realloc.

vc1dsp: use av_assert2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

resample2: use av_assert()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr: fix warning: passing argument 2 of s->mix_any_f from incompatible pointer type

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr: fix warning: passing argument 1 of s->mix_any_f from incompatible pointer type

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr: fix warning: passing argument 2 of ctx->simd_f from incompatible pointer type

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr: fix mix* related function pointer warnings

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

asfdec: read attached pictures.

apetag: reindent

apetag: export attached covers as video streams.

apetag: fix the amount of data read from binary tags.

Substract the filename size from the data size.

apetag: make sure avio_get_str() doesn't read more than it should.

mov: read itunes cover art.

lavf/wtvdec: add missing { } around if.

This should fix the current failures spotted by FATE.

snow: remove VLA in mc_block()

Signed-off-by: Mans Rullgard <mans@mansr.com>

intfloat: Don't use designated initializers in the public headers

intfloat.h is a public header, and is now (since a1245d5ca) included
by mathematics.h, which many external callers include.

This fixes building third party applications that include
mathematics.h in a language that doesn't support designated
initalizers.

Signed-off-by: Martin Storsjö <martin@martin.st>

wmaenc: dont mess with the bitrate.

The bitrate is not writeable by an encoder.
Fixes generation of invalid wma

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

snow: remove a VLA.

Signed-off-by: Martin Storsjö <martin@martin.st>

doc: Remind devs to check return values, especially for malloc() et al

MS ATC Screen (aka MSS3) decoder

wtvdec: return error when filetime_to_iso8601/crazytime_to_iso8601 conversion fails

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vf_yadif: move x86 init code to x86/yadif.c

Signed-off-by: Mans Rullgard <mans@mansr.com>

vf_gradfun: move x86 init code to x86/gradfun.c

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: make fast_unaligned configureable

Fixes Ticket1481

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

roqvideo: Remove a totally unused dspcontext

Signed-off-by: Martin Storsjö <martin@martin.st>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  opt/eval: Include mathematics.h for NAN/INFINITY
  mathematics: Don't use division by zero in NAN/INFINITY macros
  wma: Lower the maximum number of channels to 2
  x86: cpu: clean up check for cpuid instruction support
  ARM: generate position independent code to access data symbols

Conflicts:
libavutil/opt.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

mov: add workaround for incorrect 0 time point.

Fixes Ticket1471

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

smacker: remove some unused code

This removes some code apparently left over from vlc reader
debugging.

Signed-off-by: Mans Rullgard <mans@mansr.com>

dsicin: remove dead assignment

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacdec: remove dead assignment

Signed-off-by: Mans Rullgard <mans@mansr.com>

rl2: remove dead assignment

Signed-off-by: Mans Rullgard <mans@mansr.com>

proresenc: make a variable local to the loop where it is used

This moves the mbs_per_slice declaration inside the only loop
where it is used.  Fixes a dead assignment.

Signed-off-by: Mans Rullgard <mans@mansr.com>

alsdec: remove dead assignments

Signed-off-by: Mans Rullgard <mans@mansr.com>

RELEASE: update, seem this has been forgotten

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf/aiffdec: handle ID3 chunk

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: clear the ref lists when the reference are cleared.

Fixes reading of freed arrays (Ticket1498)

Found-by: Piotr Bandurski <ami_stuff@o2.pl>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: check log2_max_poc_lsb for validity

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf/segment: rename variable "size" to "list_size"

The new name is more meaningful/less confusing.

lavf/segment: pass the top level chained muxer format context to segment_end()

Consistent with segment_start() and less confusing.

opt/eval: Include mathematics.h for NAN/INFINITY

These files use NAN/INFINITY but didn't include mathematics.h to get
the fallback definitions if the system lacks the macros.

Signed-off-by: Martin Storsjö <martin@martin.st>

mathematics: Don't use division by zero in NAN/INFINITY macros

Some compilers, MSVC among them, don't recognize the divisions by
zero as meaning infinity/nan.

These macros should, according to the standard, expand to constant
expressions, but this shouldn't matter for our usage.

Signed-off-by: Martin Storsjö <martin@martin.st>

ituh263dec: use av_assert

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>