x86: cavs: Put mmx-specific code into its own init function

Before, this code was labeled as mmxext and enabled both for the
3dnow and the mmxext case.

x86: Remove some duplicate function declarations

afifo: fix request_samples on the last frame in certain cases

The current code can fail to return the last frame if it contains
exactly the requested number of samples.

Fixes the join filter test, which previously did not include the last
408 samples in most cases.

CC:libav-stable@libav.org

Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: Factor out WAVEFORMATEX parsing

Makes the code simpler to follow.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: Add ACTRAC3+ guid

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: Perform full lookup on WAVEFORMATEXTENSIBLE subformat guid

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: Move guid structs and helper functions into riff

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: check for eof if chunk size and code are 0

Prevent an infinite loop.

Inspired by a patch from Michael Niedermayer

CC: libav-stable@libav.org
Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

ppc: hpeldsp: Include attributes.h

This fixes building in configurations where altivec is disabled.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Remove unused inline asm instruction defines

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Remove now unused variables

Signed-off-by: Martin Storsjö <martin@martin.st>

cosmetics: bfin: Fix indentation in the dsputil init function

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Remove non-8bpp draw_edge

It is never used.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Merge 9-10 bpp functions for get_pixels and draw_edge

These only care about pixel storage unit size, not actual bits
used (i.e. they don't clip).

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Remove unused 32-bit functions

Previously, if dct_bits was set to 32, we used separate 32-bit
versions of these functions. Since dct_bits now is removed,
remove the unused 32-bit versions of the functions.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Remove dct_bits

dct_bits is never set except in h264, where it is never used,
thus remove it.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Remove hpel functions (moved to hpeldsp)

Signed-off-by: Martin Storsjö <martin@martin.st>

alpha: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

sparc: hpeldsp: Move vis half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

sh4: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

bfin: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

arm: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

ppc: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: hpeldsp: Move half-pel assembly from dsputil to hpeldsp

Signed-off-by: Martin Storsjö <martin@martin.st>

mjpeg: Use hpeldsp instead of dsputil for half-pel functions

Signed-off-by: Martin Storsjö <martin@martin.st>

svq1enc: Use hpeldsp instead of dsputil for half-pel functions

Signed-off-by: Martin Storsjö <martin@martin.st>

svq3: Use hpeldsp instead of dsputil for half-pel functions

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: Use hpeldsp instead of dsputil for half-pel functions

This also converts vc1, since that is mpegvideo-based.

Signed-off-by: Martin Storsjö <martin@martin.st>

svq1: Use hpeldsp instead of dsputil for half-pel functions

This makes svq1 independent of dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

mimic: Use hpeldsp instead of dsputil for half-pel functions

Signed-off-by: Martin Storsjö <martin@martin.st>

interplayvideo: Use hpeldsp instead of dsputil for half-pel functions

This makes interplayvideo independent of dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

bink: Use hpeldsp instead of dsputil for half-pel functions

Signed-off-by: Martin Storsjö <martin@martin.st>

indeo3: Use hpeldsp instead of dsputil for half-pel functions

This makes the Indeo 3 decoder independent of dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp56: Use hpeldsp instead of dsputil for half-pel functions

This makes vp5 and vp6 independent of dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp3: Use hpeldsp instead of dsputil for half-pel functions

This makes vp3 independent of dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

hpeldsp: Add half-pel functions (currently copies of dsputil)

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: cosmetics: More sensible order for entries in video filter file

fate: Rename video filters file and add separate video filters target

fate: Split audio filters into their own separate file

fate: Reuse VREF and AREF variables where appropriate

h264: fully support cropping.

Based on a patch by Vittorio Giovara <vittorio.giovara@gmail.com>

Fixes Bug 378.

ff_get_buffer(): allocate the frame for max(coded,display) dimensions

Needed e.g. for h264 cropping to work properly.

mp3dec: fallback to generic seeking when a TOC is not present

Fixes seeking without a Xing/Info header.

CC: libav-stable@libav.org
Signed-off-by: Anton Khirnov <anton@khirnov.net>

indeo3: check motion vectors.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

indeo3: fix data size check

The data offsets are relative to the bistream header, which is 16 bytes
after the start of the data.
Fixes invalid reads with corrupted files.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

indeo3: switch parsing the header to bytestream2

Also add an additional sanity check to the alt_quant table.
Fixes invalid reads with corrupted files.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

rv10: check that extradata is large enough

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

rv10: return meaningful error codes.

Also improve some error messages.

rv10: cosmetics, reformat

qdm2: check that the FFT size is a power of 2

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

svq1dec: clip motion vectors to the frame size.

Fixes invalid reads for corrupted files.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

svq1dec: check that the reference frame has the same dimensions as the current one

They can be different if the last keyframe failed to decode correctly.
Fixes possible invalid reads in such a case.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

af_channelmap: cosmetics, use an extra local variable to shorten the code

af_channelmap: sanity check input channel indices in all cases.

Fixes invalid reads from non-existing channels.

CC:libav-stable@libav.org

cmdutils: Fix build with lavfi disabled

Signed-off-by: Diego Biurrun <diego@biurrun.de>

flvenc: do not mux more than one stream per type

FLV does not support multiple audio or video streams.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

fate: Set the bitexact flag for vp3/vp5/vp6 tests

This is required since there are bit-inexact implementations
of the vp3 idct (for bfin).

Signed-off-by: Martin Storsjö <martin@martin.st>

vp3: Use full transpose for all IDCTs

This way, the special IDCT permutations are no longer needed. This
is similar to how H264 does it, and removes the dsputil dependency
imposed by the scantable code.

Also remove the unused type == 0 cases from the plain C version
of the idct.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp3: bfin: Transpose the IDCTs

While this change isn't bitexact, the IDCTs weren't bitexact to
start with either.

This simplifies decoupling vp3 from dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Move constants to the only place where they are used

Signed-off-by: Martin Storsjö <martin@martin.st>

bfin: Match DEFUN_END macros to the right functions

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: dsputil: Move some ifdefs to avoid unused variable warnings

x86: dsputil: cosmetics: Remove two pointless variable indirections

x86: dsputil: Refactor some ff_{avg|put}_pixels function declarations

x86: dsputil: ff_h263_*_loop_filter declarations to a more suitable place

x86: h264qpel: int --> ptrdiff_t for some line_size parameters

FATE: add a test for the interlace filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: new interlace filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cmdutils: allow -h filter=<name> to print information about a filter.

avtools: move media_type_string() from avprobe to cmdutils.

It will be useful outside of avprobe.

avconv: print filter options in -h full output.

avconv: update to the new options syntax.

The separators were changed from ',' to '|' in all the filters.

lavfi: do not segfault on NULL passed to avfilter_get_by_name()

lavfi: change the filter registering system to match the other libraries

Removes an arbitrary hardcoded limit on the number of filters.

lavfi: add a function for counting elements in AVFilterPad arrays.

The caller needs to know what valid indices can be passed to
avfilter_pad_get_name/type.

lavfi: mark filters with dynamic number of inputs or outputs with special flags

This will be useful in avtools in the following commits.
Any other caller might also want to know this information.

lavfi: add avfilter_init_dict() for initializing a filter with a dict.

lavfi: add avfilter_init_str() to replace avfilter_init_filter().

Drop the unused opaque parameter from its signature.

lavfi: make avfilter_free() remove the filter from its graph.

lavfi: add AVFilterContext.graph.

It will be useful in the following commits.

lavfi: deprecate avfilter_graph_add_filter().

Since this function adds a standalone filter to a filter graph and we do
not support creating such filters, there is no reason for this function
to exist.

lavfi: replace avfilter_open() with avfilter_graph_alloc_filter().

Since we do not support "standalone" filters not attached to an
AVFilterGraph, we should not have a public function to create such
filters. In addition that function is horribly named, the action it does
cannot be possibly described as "opening" a filter.

lavfi: merge avfiltergraph.h into avfilter.h

We do not support using filters without AVFilterGraph in practice
anyway, so there is no point in pretending we do.

lavfi: add const to the pads parameter of avfilter_pad_get_name/type

lavfi: add const to AVFilterContext.filter.

lavfi should never modify the filter through that pointer.

doc: document the prores encoder options

Adapted from the author's blag.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

Cosmetics, restore alphabetic order in atomics lists.

img2enc: add an option for overwriting one file with subsequent images

Based on a patch by Michael Niedermayer <michaelni@gmx.at>.

Move misplaced file author information where it belongs

lavc: don't overwrite display dimensions with coded dimensions.

lavc: extend / update the [coded_]{width,height} doxy

h261: Move encoder/decoder shared table init to common code

h261: Move shared data tables from a header to a proper C file

dsputil: Make dsputil selectable

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Only initialize dsputil if error resilience is enabled

It is only used for error resilience. This allows building the
h264 decoder without dsputil, if error resilience is disabled.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Integrate clear_blocks calls with IDCT

The non-intra-pcm branch in hl_decode_mb (simple, 8bpp) goes from 700
to 672 cycles, and the complete loop of decode_mb_cabac and hl_decode_mb
(in the decode_slice loop) goes from 1759 to 1733 cycles on the clip
tested (cathedral), i.e. almost 30 cycles per mb faster.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Clear the mb members via memset instead of using dsputil

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Make square put/avg_pixels functions local to h264qpel

Put a copy of the 8bit functions only in dsputil, where they are
used for some other things (e.g. mpeg4qpel, mspel, cavsqpel).

Signed-off-by: Martin Storsjö <martin@martin.st>

x86inc: Fix number of operands for cmp* instructions

cmp{p,s}{s,d} instructions do take an imm8 operand.

Signed-off-by: Diego Biurrun <diego@biurrun.de>