ffmpeg: get rid of the 'q' key schizofrenia

SIGINT for quitting should be enough for everybody.

rtpdec_qdm2: Don't try to parse data packet if no configuration is received

The later parsing of payload data depends on the configuration
being present. If it hasn't been configured properly yet,
parsing a data packet may lead to a crash.

Signed-off-by: Martin Storsjö <martin@martin.st>

ac3enc: put the counting of stereo rematrixing bits in the same place to
make the code easier to understand.

ac3enc: clean up count_frame_bits() and count_frame_bits_fixed()

mpegvideo: make FF_DEBUG_DCT_COEFF output coeffs via av_log() instead of just via AVFrame.

This allows the values to be used without changing C code and is closer to how
the other DEBUG flags work.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

srtdec: make sure we don't write past the end of buffer

Signed-off-by: Aurelien Jacobs <aurel@gnuage.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

wmaenc: improve channel count and bitrate error handling in encode_init()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskaenc: make sure we don't produce invalid file with no codec ID

Signed-off-by: Aurelien Jacobs <aurel@gnuage.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: check that pointers were initialized before accessing them

Signed-off-by: Aurelien Jacobs <aurel@gnuage.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: fix function name in compute_pkt_fields2 av_dlog message

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: fix av_find_best_stream when providing a wanted stream.

In the main loop, stream_number is incremented after checking the stream type,
so the search usually will not find the wanted stream.

This patch eliminates the useless stream_number variable and introduces a new
one, called real_stream_index to store the real stream index of the current
stream, no matter if we are looping through all the streams or only the streams
of a program.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: fix av_find_best_stream when decoder_ret is given and using a related stream.

Yet another fix for the code originally designed for use without related_stream.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: factorize quality calculation

Calculate quality value once per stream in print_report().
Also fix segfault, as coded_frame can be NULL.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

tiff: add support for SamplesPerPixel tag in tiff_decode_tag()

Format detection and internal frame initialization is moved to a
separate init_image() function, which is called when all the tags have
been read, and so both BitsPerSample and SamplesPerPixel information
has been collected.

This fixes decoding of the file 11.tiff from roundup issue #1925.

Based on a patch by Kostya Shishkov <kostya.shishkov@gmail.com>.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

tiff: Prefer enum TiffCompr over int for TiffContext.compr.

This is safer and helps debugging.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

mov: Support edit list atom version 1.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

configure: Enable libpostproc automatically if GPL code is enabled.

Enabling libpostproc automatically should give it more compile coverage
and save the FATE box maintainers some configuration hassles.

Cosmetics: fix prototypes in oggdec

Signed-off-by: Diego Biurrun <diego@biurrun.de>

oggdec: fix memleak with continuous streams.

This avoids the creation of a new AVStream instead of replacing it when
a stream reset occurs (track change with some webradios for example).

Signed-off-by: Diego Biurrun <diego@biurrun.de>

matroskaenc: add missing new line in av_log() call

Signed-off-by: Aurelien Jacobs <aurel@gnuage.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

dnxhdenc: add AVClass in private context.

Fixes private options.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

movenc: fix yuv range in avid atoms used by dnxhd.

yuv range: full 1 / normal 2

Signed-off-by: Anton Khirnov <anton@khirnov.net>

movenc: fix adpcm mono muxing.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegts: do not output known sized packet if an unbounded packet is already queued.

Fix issue #2624.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffprobe: tweak error message in open_input_file()

Replace "codec (id=%d)" with "codec with id %d", slightly more
readable.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

patcheck: warn about assert usage

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: sort filter deps entries

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Replace int_fast integer types with their sized standard posix counterparts.

The _fast integer types provide no realworld benefits, but may introduce
portability issues and are just plain ugly.

jfdct: Replace sized int_fast integer types with plain int/unsigned.

int/unsigned is the natural memory access type for CPUs, using sized types
for temporary variables, counters and similar just increases code size and
can possibly cause a slowdown.

configure: Do not unconditionally add -D_POSIX_C_SOURCE to CPPFLAGS.

Adding _POSIX_C_SOURCE to CPPFLAGS globally produces all sorts of problems
since it causes certain system functions to be hidden on some (BSD) systems.
The solution is to only add the flag on systems that really require it, i.e.
glibc-based ones.

This change makes BSD systems compile out-of-the-box without the need for
adding specific flags manually.  It also allows dropping a number of flags
set manually on a file-per-file basis, but were only present to work around
breakage introduced by the presence of _POSIX_C_SOURCE.

Also add _XOPEN_SOURCE to CPPFLAGS for glibc systems.  We use XSI extensions
in several places already, so it is preferable to define it globally instead
of littering source files with individual #defines only needed for glibc.

nsv: Fix misdetection of MP3 files as NSV.

If an MP3 file contains the string NSVs, the NSV probe will confuse it for an
NSV file. Check for 0xBEEF after a Video/Audio chunk to achieve more accuracy.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

oggdec: use explicit AVInputFormat struct initializers

Signed-off-by: Diego Biurrun <diego@biurrun.de>

oggdec: simplify ogg_probe

Signed-off-by: Diego Biurrun <diego@biurrun.de>

swscale: fix YUV420P 9/10bit support.

Fix handling of input if not in native endianness, and add support for
9/10-bit output. This allows us to force endianness of YUV420P 9/10bit
in the H264/10bit fate tests, which should fix them on big-endian
systems.

10-bit H.264 x86 chroma v loopfilter asm

Also delete some unused deblock asm macros.

Port SMPTE S302M audio decoder from FFmbc 0.3.

Fix crash of interlaced MPEG2 decoding

Problem description, preliminary review discussion at
http://thread.gmane.org/gmane.comp.video.ffmpeg.devel/127731

h264pred: fix one more aliasing violation.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

doc/APIchanges: fill in missing hashes and dates.

flacenc: use proper initializers for AVOption default values.

default_val was recently changes from double to a union, current code
wasn't updated for that.

lavc: deprecate named constants for deprecated antialias_algo.

aac: workaround for compilation on cygwin

On cygwin, math.h needs to be included before float.h because of a bug
in the system headers. Including libavutil/libm.h first works around
this issue.

Longer discussion of the topic:
http://thread.gmane.org/gmane.comp.video.ffmpeg.devel/128582

swscale: extend YUV422p support to 10bits depth

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

tiff: add support for inverted FillOrder for uncompressed data

Fix decoding of file b.tif, trac issue #168.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Remove unused softfloat implementation.

The softfloat functionality is unused, not installed and incomplete.
On platforms without floating point units, the compiler provides a softfloat
implementation so there is no point in carrying this code around locally.

h264pred: fix aliasing violations.

Tested to fix Haiku H264/10bit fate failures, may also fix others.

rotozoom: Eliminate French variable name.

rotozoom: Check return value of fread().

This fixes the warnings:
tests/rotozoom.c:252: warning: ignoring return value of ‘fread’, declared with attribute warn_unused_result
tests/rotozoom.c:254: warning: ignoring return value of ‘fread’, declared with attribute warn_unused_result

rotozoom: Return an error value instead of calling exit().

rotozoom: Make init_demo() return int and check for errors on invocation.

rotozoom: Drop silly UINT8 typedef.

rotozoom: Drop some unnecessary parentheses.

rotozoom: K&R coding style cosmetics

rtsp: Only do keepalive using GET_PARAMETER if the server supports it

This is more like what VLC does. If the server doesn't mention
supporting GET_PARAMETER in response to an OPTIONS request,
VLC doesn't send any keepalive requests at all. After this patch,
libavformat will still send OPTIONS keepalives if GET_PARAMETER
isn't explicitly said to be supported.

Some RTSP cameras don't support GET_PARAMETER, and will
close the connection if this is sent as keepalive request
(but support OPTIONS just fine, but probably don't need any
keepalive at all). Some other cameras don't support using
OPTIONS as keepalive, but require GET_PARAMETER instead.

Signed-off-by: Martin Storsjö <martin@martin.st>

ffmpeg: call pre_process_video_frame() only if decoding is needed

In output_packet(), move the pre_process_video_frame() call inside the
if (ist->decoding_needed) { } block. This way
pre_process_video_frame() is not called when stream-copy has been
selected.

Also simplify.

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: reformat resample condition code in transcode()

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: factorize resampling condition check in do_video_out()

Simplify and improve readability.

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: prefer "dec" over "ist->st->codec" in do_video_out() snippet

Simplify, ease readability.

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: improve reporting if size/pixel format changes

Use av_log() rather than fprintf(stderr, ...), and show information
related to the previous size/pixel format configuration.

Consistent with the corresponding message issued in case of audio
configuration change.

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: warns the user when the selected pixel format is ignored

Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffplay: add a dummy option -i so that it is easy to switch between ffmpeg -i "file" and ffplay -i "file".

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cosmetics: Fix crazy formatting in resample.

Allow resampling with no channel count change for up to 8 channels.

Don't allow unsupported resampling configurations.

Port x86 10-bit H.264 deblock asm from x264

Update x86 H.264 deblock asm

Includes AVX versions from x264.

AVOptions: make default_val a union, as proposed in AVOption2.

This breaks API and ABI.

arm/h264pred: add missing argument type.

h264dsp_mmx: place bracket outside #if/#endif block.

Should fix compile on systems missing yasm/nasm.

lavf/utils: fix ff_interleave_compare_dts corner case.

This should fix behavior introduced by commit
96573c0d7605672d69b42ae1dcf18764ce47c71a. Av_rescale_rnd() is not
lossless so if two timestamps are equal after being rescaled they are
not always actually identical. This patch use av_compare_ts() to get
always a correct result.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

fate: add 10-bit H264 tests.

h264: do not print "too many references" warning for intra-only.

Fixes issue 2679.

Enable decoding of high bit depth h264.

This patch completes the high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Adds 8-, 9- and 10-bit versions of some of the functions used by the h264 decoder.

This patch lets e.g. dsputil_init chose dsp functions with respect to
the bit depth to decode. The naming scheme of bit depth dependent
functions is <base name>_<bit depth>[_<prefix>] (i.e. the old
clear_blocks_c is now named clear_blocks_8_c).

Note: Some of the functions for high bit depth is not dependent on the
bit depth, but only on the pixel size. This leaves some room for
optimizing binary size.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Add support for higher QP values in h264.

In high bit depth, the QP values may now be up to (51 + 6*(bit_depth-8)).

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Add the notion of pixel size in h264 related functions.

In high bit depth the pixels will not be stored in uint8_t like in the
normal case, but in uint16_t. The pixel size is thus 1 in normal bit
depth and 2 in high bit depth.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Make the h264 loop filter bit depth aware.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Template dsputil_template.c with respect to pixel size, etc.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Template h264idct_template.c with respect to pixel size, etc.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Move some functions in dsputil.c into a new file dsputil_template.c.

The functions moved are used when decoding h264.
Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Move the functions in h264idct into a new file h264idct_template.c.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Move the functions in h264pred.c into a new file h264pred_template.c.

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Preparatory patch for high bit depth h264 decoding support.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Add pixel formats for 9- and 10-bit yuv420p.

Also add support for these formats in libswscale.

Needed for high bit depth h264 decoding.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Choose h264 chroma dc dequant function dynamically.

Needed for high bit depth h264 decoding.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

h264: DSP'ize MBAFF loopfilter.

ffmpeg: Simplify decode loop condition to not use next_pts

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

lavc: move some flac-specific options to its private context.

ffmpeg: remove unused fields AVOutputStream.original_width/height

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: remove unused variable padding_src in do_video_out()

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: fix negative verbosity.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cmdutils: add OPT_INT check in parse_number_or_die()

Check that the value passed for an OPT_INT option is an int, fail
otherwise.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

ffmpeg: rename configure_filters() to configure_video_filters()

Mostly useful for the audio-filters branch, to make more apparent the
distinction between configure_audio_filters() and
configure_video_filters().

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

cmdutils: remove list_fmts(), simplify

The function was only used in opt_sample_fmt() for listing the sample
formats. Move list_fmts() functionality directly into
opt_sample_fmt().

Also fix the warning:
ffmpeg.c: In function ‘opt_audio_sample_fmt’:
ffmpeg.c:2877: warning: passing argument 1 of ‘list_fmts’ from incompatible pointer type
cmdutils.h:163: note: expected ‘void (*)(char *, int,  int)’ but argument is of type ‘char * (*)(char *, int,  enum AVSampleFormat)’

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Add missing CONFIG_AVFILTER check.

Fix configure --disable-avfilter issue.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegaudiodec: group #includes more sanely

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: remove #if 0 blocks

Signed-off-by: Mans Rullgard <mans@mansr.com>

ffmpeg.c: reset avoptions after each input/output file.

This is consistent with how all the other options work.

ffmpeg.c: store per-output stream sws flags.