h264: rename h264.[ch] to h264dec.[ch]

This is more consistent with the naming of other decoders.

h264: factor out setting frame properties / side data

Right now this code is mixed with selecting the next output frame. Move
it to a separate function called from h264_field_start(), which is a
more appropriate place for this.

h264: drop unused NAL_FF_IGNORE

h264: move a per-field block from decode_slice_header() to field_start()

This is a more appropriate place for it.

h264: only allow ending a field/starting a new one before finish_setup()

Doing this after ff_thread_finish_setup() is called is invalid and can
conflict with reads from the other thread.

h264: store {curr,max}_pic_num in the per-slice context

While the value of those variables will be constant for the whole frame,
they are only used in two functions called from slice header decoding.
Moving them to the per-slice context allows us to make the H264Context
passed to slice_header_parse() constant.

h264: decode the poc values from the slice header into the per-slice context

Copy them into the decoder-global context in field_start(). This avoids
modifying the decoder-global context during bitstream parsing.

h264: set mb_aff_frame in frame_start()

Avoid unnecessary modification of the decoder-global state in per-slice
code.

h264: move the block starting a new field out of slice_header_parse()

There is no bitstream parsing in that block and messing with
decoder-global state is not something that belongs into header parsing.

Nothing else in this function depends on the value of current_slice,
except for two validity checks. Those checks are also moved out of
slice_header_parse().

h264: pass a H2645NAL to slice header decoding

Replace the decoder-global nal_unit_type/nal_ref_idc variables with the
per-NAL ones. The decoder-global ones still cannot be removed because
they are used by hwaccels.

fate: Add TrueMotion 2 RT tests

fate: Move Duck Truemotion 1 and 2 tests to vpx.mak

Add TrueMotion 2.0 Real Time decoder

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

fate: Add tests for MagicYUV

Add MagicYUV decoder

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

ffv1: Error out on unsupported format

Transparency is supported only by YUV and within specific bit depths.

checkasm: Add tests for h264 idct

The tests are inspired by similar tests for vp9 by
Ronald Bultje.

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Support prores with multiple stsd

This function needs to return false, or data in the additional tables
will be skipped, and the decoder will not be able to decode frames
associated with them.

mov: Implement support for multiple sample description tables

Store data from each stsd in a separate extradata buffer, keep track of
the stsc index for read and seek operations, switch buffers when the
index differs. Decoder is notified with an AV_PKT_DATA_NEW_EXTRADATA
packet side data.

Since H264 supports this notification, and can be reset midstream, enable
this feature only for multiple avcC's. All other stsd types (such as
hvc1 and hev1) need decoder-side changes, so they are left disabled for
now.

This is implemented only in non-fragmented MOVs.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

h264: Support AV_PKT_DATA_NEW_EXTRADATA

lavc: Document AV_PKT_DATA_NEW_EXTRADATA

x86: Add missing movsxd for the int stride parameter

Signed-off-by: Martin Storsjö <martin@martin.st>

avdevice: Ignore timefilter test program

LICENSE: Fix silly typo

h264: Drop unused function check_opcodes()

avpacket: Error out when creating 0-sized side data

This mimics the behaviour of other av_*_new_side_data().
This is not caught by the malloc check, since padding
is always added to the allocated size.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

pixdesc: Use C99 array to list color properties names

h264: Fix decoding delay for Intra only streams

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add H.264 MVC profiles

h264: factor out setting the parameter sets for a frame

h264: pass just the PPS to get_chroma_qp()

It does not need the whole context. This will simplify the following
commit.

h264: merge the two reinit blocks in slice_header_parse()

The only difference is that the first of them contains a
ff_h264_flush_change() call. While that is not necessary in the second
block, it should cause no problems either.

Reduce the verbosity of the reinit log message from info to verbose,
since now it will be displayed during every decode session.

h264: factor starting a new field out of parsing the slice header

h264: postpone generating the implicit MMCOs

Do it right before the MMCOs are applied to the DPB. This will allow
moving the frame_start() call out of the slice header parsing, since
generating the implicit MMCOs needs to be done after frame_start().

h264: decode the MMCOs into per-slice contexts

They are stored in the slice header, so technically they are per-slice
(though they must be the same in every slice). This will simplify the
following commits.

h264: rename mmco_index to nb_mmco

The variable stores the number of mmco entries, so the current name is
misleading.

h264: move initializing the slice start out of h264_slice_header_parse()

h264: move calculating the POC out of h264_slice_header_parse()

This function does not do any bitstream parsing and it depends on the
current frame being allocated, so this will allow the frame_start() to
be moved out eventually.

h264: move building the reference list out of h264_slice_header_parse()

This does not do any bitstream parsing and will allow moving out other
code in later commits.

h264: move initing the implicit pred weight table out of h264_slice_header_parse()

It depends on the reference list, so this will allow moving out the
reference list construction and consequently other code it depends on.

h264: split reading the ref list modifications and actually building the ref list

This will allow postponing the reference list construction (and by
consequence some other functions, like frame_start) until the whole
slice header has been parsed.

h264: move initialising the implicit pred weight table for MBAFF

Do it where the normal implicit table is initialised.

h264: call ff_h264_fill_mbaff_ref_list() when constructing the normal ref list

There is no real reason to call it separately.

h264: move initialising the explicit pred weight table for MBAFF

Currently it's done in the code that initialises the ref list for
MBAFF, which is not a logical place for it. Move it to the function that
parses the pred table from the bitstream, which is analogous to what is
done for the implicit weight table as well.

h264: drop an outdated comment

h264: move direct mode inits out of h264_slice_header_parse()

This code does not do any bitstream parsing, it just initializes some
internal state.

h264: start splitting decode_slice_header()

That function is currently very long and entangles bitstream parsing and
decoder configuration. This makes the code much harder to read than
necessary.

Begin splitting the code that configures the decoder state based on the
slice header information from the parsing of the slice header.

vaapi_h265: cu_qp_delta should not be used in constant-QP mode

vaapi_h264: Add source version identifier as unregistered SEI

Contains the libavcodec version, the VAAPI version and the libva
driver vendor string.

vaapi_h264: Add support for SEI messages

Send buffering_period and pic_timing messages when in modes
targetting bitrate.  Also adds NAL HRD parameters to VUI.

vaapi_encode: Add support for writing arbitrary additional packed headers

vaapi_h264: Add support for VUI parameters

Supports aspect ratio, colour format and timing information.

h264: drop unused H264Context.gb

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Drop unnecessary golomb.h #includes

Drop unnecessary unary.h #includes

dvbsub_parser: Add missing mem.h #include

gsm: Move requant_tab table to the gsm tables file

This avoids duplicating the table in the gsm template file.
Also adjust the table type to uint8_t to save space.

mpc: Drop unused GetBitContext context member

svq1enc: Drop unused GetBitContext context member

vorbis: Kill some pointless debug code

mss2: Drop a silly assert

get_bits: Move BITSTREAM_READER_LE definition before all relevant #includes

This avoids the danger that get_bits.h might get indirectly #included before
BITSTREAM_READER_LE is defined.

Also sort headers into canonical order where appropriate.

indeo2: Drop disabled big-endian ir2_codes table

Only the little-endian variant of the table is ever used.

Remove unnecessary get_bits.h #includes

sgirledec: simplify, no need to use reget buffer

Signed-off-by: Paul B Mahol <onemda@gmail.com>

aic: add frame threading support

Signed-off-by: Paul B Mahol <onemda@gmail.com>

fate: Move Canopus decoder tests to a separate file

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

avconv: Do not copy extradata if source buffer is empty

Fixes clang-usan runtime error "null pointer passed as argument 2,
which is declared to never be null" while streamcopying.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

vp9: Return the correct size when decoding a superframe

According to avcodec.h, avcodec_decode_video2 should return the number of
bytes used if a frame was decoded.

The current implementation returns size - used size of all the subframes.
This fixes the VLC's bug https://trac.videolan.org/vlc/ticket/16836.

The superframe is always fully consumed.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

build: Only enable symbol reduction if the compiler does proper DCE

With compilers that do not support proper dead code elimination, like
Sun C 5.12, linking fails due to missing references to unavailable,
but also unused, symbols.

Bug-Id: 895

build: Simplify postprocessing of linker version script files

Generate the files in a single postprocessing step w/o intermediate files.

build: Change structure of the linker version script templates

Split version files into one line per symbol/directive to allow compatibility
with the Solaris linker without preprocessing and eliminate $ from version file
templates to simplify the postprocessing shell command.

build: Print a message when generating version scripts

asm: FF_-prefix internal macros used in inline assembly

These warnings conflict with system macros on Solaris, producing
truckloads of warnings about macro redefinition.

Drop unnecessary libavutil/x86/asm.h #includes

ac3: Check the array bound before dereferencing

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vaapi_h264: Add trivial support for low-power encoding

Experimental; requires Skylake and VAAPI 0.39.1 (not yet released).
Also increases the allowed range of the quality option - in low-power
mode, the Intel driver supports levels 1-8 (and 0 meaning default).

vaapi_h264: Fix frame_num after non-reference frames

Non-reference frames (nal_ref_idc == 0) should be discardable, so
frame_num does not advance after them.  Before this change, a stream
containing unreferenced B-frames would be rejected by the reference
decoder.

vaapi_encode: Check config attributes before creating config

This prevents attempts to use unsupported modes, such as low-power
H.264 mode on non-Skylake targets.  Also fixes a crash on invalid
configuration, when trying to destroy an invalid VA config/context.

build: Ignore generated mapfile and remove it on distclean

FATE: drop the audio stream from the dxtory test

This is a video test and there are no audio packets in the sample
anyway.

avconv: fix parsing bitstream filters

The current code modifies the user-supplied string, which is shared for
the whole output file. So a bitstream filter specification applied to
multiple streams would not work correctly.

avconv: fix a check for av_bsf_get_by_name() return value

avconv_vaapi: use the hwcontext device creation API

avconv_dxva2: use the hwcontext device creation API

avconv_vdpau: use the hwcontext device creation API

hwcontext_vaapi: implement device creation

hwcontext_dxva2: implement device creation

hwcontext_cuda: implement device creation

hwcontext_vdpau: implement device creation

hwcontext: add a function for opening devices

lavc: handle hw_frames_ctx where necessary

avcodec_copy_context() didn't handle hw_frames_ctx references correctly
which could cause crashes.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

golomb: Give svq3_get_se_golomb()/svq3_get_ue_golomb() better names

fate: More fine-grained dependencies for demuxer tests

fate: More fine-grained dependencies for voice codec tests

rtsp: Use avcodec_descriptor_get instead of avcodec_find_decoder

This is only used for logging a human readable codec name for
debugging.

Signed-off-by: Martin Storsjö <martin@martin.st>

avcodec: Bump micro version after changing public JPEG 2000 defines

jpeg2000: Fix profile define values

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avfiltergraph: check the query_formats() return value

lavc: document that avcodec_close() should not be used

We cannot deprecate it until the new parser API is in place, because of
the way libavformat works. But the majority of the users can already
simply replace it with avcodec_free_context(), which will simplify the
transition once it is finally deprecated.