lavc: make avpriv_mpa_decode_header private on next bump

It's not used by anything outside of lavc anymore.

mp3dec: replace avpriv_mpa_decode_header with avpriv_mpegaudio_decode_header

The latter does not require a full AVCodecContext and still provides all
the functionality needed here.

mpegaudiodecheader: check the header in avpriv_mpegaudio_decode_header

Almost all the places from which this function is called already check
the header manually and in the two that don't (the mp3 muxer) the check
should not cause any problems.

lavc: get the profile name through the codec descriptor in avcodec_string()

lavc: add profiles to AVCodecDescriptor

The profiles are a property of the codec, so it makes sense to export
them through AVCodecDescriptors, not just the codec implementations.

lavc: print the name of the codec, not its implementation, in avcodec_string

r3d: do not create the audio stream until we know the sample rate

ff_parse_specific_params: do not use AVCodecContext.frame_size

It will not be set unless the muxing codec context is also the encoding
context, which is discouraged. When the frame size is not known from
av_get_audio_frame_duration(), the fallback should still be good enough.

rmenc: do not use AVCodecContext.frame_size

It will not be set if the stream codec context is not the encoding
context. Use av_get_audio_frame_duration() instead, it should work for
all audio codecs supported by the muxer.

mpegvideo_enc: actually add the side data with vbv_delay to the packet

Fixes 2507b5dd674834be7261772996f47ae3b95cca69

hevcdsp: use a macro for .rodata section

fixes assembling on OS/2

Signed-off-by: Dave Yeo <dave.r.yeo@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

openh264: Directly include the deprecation guards header

Make easier to avoid compile failure when reworking the internal
headers.

log: Use a do {} while (0) for tlog

Avoid the warning `-Wempty-body`.

matroskadec: Fix sample_aspect_ratio for stereo matroska content

matroskaenc applies divisors to the display width/height when generating
stereo content. This patch adds the corresponding multipliers to matroskadec
so that the original sample aspect ratio can be recovered.

Signed-off-by: wm4 <nfxjfg@googlemail.com>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

sgienc: Make sure to initialize skipped header portions

Fix fate tests with asan. Introduced during bytestream2 porting
(in revision 62cc8f4d79dad119e8efeaae080a58a8dcb1e89d).

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

lavc: Drop exporting 2-pass encoding stats

These variables are coming from mpegvideoenc where are supposedly used
as bit counters on various frame properties. However their use is
unclear as they lack documentation, are available only from a very small
subset of encoders, and they are hardly used in the wild. Also frame_bits
in aacenc is employed in a similar way.

Remove this functionality from AVCodecContex, these variable are mostly
frame properties, and too few encoders support setting them with anything
useful.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

lavc: Deprecate coder_type and its symbols

Most option values are simply unused or ignored and in practice the
majory of codecs only need to check whether to enable rle or not.

Add appropriate codec private options which better expose the allowed
features.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

h264: do not call frame_start() for missing frames

We do not need to do a full setup like for a real frame, just allocate a
buffer and set cur_pic(_ptr).

aacdec: fix aac_static_table_init() prototype

avpacket: use ERANGE instead of EOVERFLOW

EOVERFLOW seems to be unavailable on certain platforms.

rtsp: free opts dictionary on failure of getnameinfo

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc-test: add a missing va_end call

Signed-off-by: Martin Storsjö <martin@martin.st>

mxfenc: always assume long gop

Checking the codec context parameters to find out this information is
far too unreliable to be useful, so it is safer to assume B-frames are
always present.

lavc: export Dirac parsing API used by the ogg demuxer as public

Also, stop using AVCodecContext for storing the stream parameters.

mpegenc: use the CPB props side data

Do not access the encoder options, since it makes no sense when the
AVStream codec context is not the encoding context.

movenc: use the CPB props side data

Do not access the encoder options, since it makes no sense when the
AVStream codec context is not the encoding context.

qsvenc: export CPB props side data

nvenc: export CPB props side data

mpegvideo_enc: export vbv_delay in side data

Deprecate AVCodecContext.vbv_delay

mpegvideo_enc: export CPB props side data

libx264: export CPB props side data

libvpxenc: export CPB props side data

libopenh264enc: export CPB props side data

lavc: add a packet side data type for VBV-like parameters

avconv: pass the global codec side data to the muxer

lavc: add stream-global packet side data

This is similar to what is done for AVStream.

avpacket: add a function for wrapping existing data as side data

h264: derive the delay from the level when it's not present

Fall back to maximum DPB size if the level is unknown.

This should be more spec-compliant and does not depend on the caller
setting has_b_frames before opening the decoder.

The old behaviour, when the delay is supplied by the caller setting
has_b_frames, can still be obtained by setting strict_std_compliance
below normal.

h264: set frame_num in start_frame(), not decode_slice_header()

That is a more appropriate place for it, since it is not allowed to
change between slices.

h264: eliminate default_ref_list

According to the spec, the reference list for a slice should be
constructed by first generating an initial (what we now call "default")
reference list and then optionally applying modifications to it.

Our code has an optimization where the initial reference list is
constructed for the first inter slice and then rebuilt for other slices
if needed. This, however, adds complexity to the code, requires an extra
2.5kB array in the codec context and there is no reason to think that it
has any positive effect on performance. Therefore, simplify the code by
generating the reference list from scratch for each slice.

hevcdsp: add x86 SIMD for MC

checkasm: add HEVC MC tests

hevc: change the stride of the MC buffer to be in bytes instead of elements

Currently, the frame stride is passed in bytes, while the MC buffer size
is in int16_t elements, This can be confusing, so pass both strides in
bytes.

hevcdsp: split the pred functions by width

This should allow for more efficient SIMD.

hevcdsp: split the epel functions by width

This should allow for more efficient SIMD.

hevcdsp: split the qpel functions by width instead of by the subpixel fraction

This should allow for more efficient SIMD.

Keep the C versions as they are now, to allow the compiler to inline the
interpolation coefficients.

log: Use a do {} while (0) for dlog

Avoid the warning `-Wempty-body`.

imgconvert: Re-enable the deprecation warnings

The end-marked was typoed in

f7edcac040f73635fc1127489c9bb29ca8b43532

avpicture: Suppress warning from deprecated code

aac: Provide more information on the failure message

Bug-Id: 761

g723: Add missing header

Unbreak make check.

configure: Add -framework CoreVideo when building the avfoundation indev

This fixes builds with --disable-vda, which previously failed with
undefined references to CVImageBuffer* and CVPixelBuffer* functions.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Replace `pr` since it is not provided by busybox

While pr is a valid POSIX.1 command, its usage in configure
is a little borderline and is possible to replace it with
printf.

Bug-Id: 913

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avi: Spin out the logic to position to the next non-interleaved stream

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

build: Move -Wcast-qual to the extra_warnings

It amounts to about 1/2 of the warnings generated and does not help
spotting anything useful.

avi: Validate the stream-id for DV as well

Avoid false positives while syncing.

Bug-Id: ffmpeg/4086
Bug-Id: 879

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avi: Use the correct data type

avio_tell returns an int64_t.

vsrc_color: Drop unneeded variable

Bug-Id: CID 1339818

lavf: G.723.1 muxer

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

lavc: G.723.1 encoder

Additional improvements by Michael Niedermayer <michaelni@gmx.at>.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

g723_1: Move sharable functions to a separate file

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

g723_1: Rename files to better reflect their purpose

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

g723_1: Handle values at the ends of the table in lsp2lpc()

Fixes out of array reads.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

matroska: Warn when metadata references a non-existent element

Avoid some confusion when the information is not present.

Bug-Id: 902

dvenc: Validate the frame size before copying it

pgssubdec: fix API compability layer

Copy pointers to AVPicture after memory has been allocated.
Fixes NULL pointers in AVPicture after a17a7661906ba295d67afd80ac0770422e1b02b3.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doc: Amend the MSYS2 Documentation

Explain better which environment is discouraged and mention the
shortcuts names.

avfoundation: Simple capture

Originally based on the capture written by
Thilo Borgmann <thilo.borgmann@mail.de>.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: ObjC support

Assume that the default C compiler and the default ObjC compiler match
(default for OSX).

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

nut: Mark non-fatal errors as warnings

And make one more informative.

nut: Provide more information on failure

rtsp: Log getaddrinfo failures

And forward the logging contexts when needed.

udp: Provide additional information on getaddrinfo failure

udp: Use the logging context

rtsp: Do not assume getnameinfo cannot fail

And properly report the error when it happens.

movenc-test: Fix integer overflows

Signed-off-by: Martin Storsjö <martin@martin.st>

texturedsp: Explicitly cast RGBA parameters to unsigned

Silences warnings when using -Wshift-overflow (GCC 6+).
Found-by: James Almer <jamrial@gmail.com>

texturedspenc: Avoid using separate variables

Use the result directly, removing an unneeded cast.

textureencdsp: cosmetics: Use normal static const for tables

sgi: Correctly propagate meaningful error values

fate: Rework sgi tests into a suite and add the missing ones

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

sgienc: Support encoding high bit depth images with RLE

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

sgienc: Use a local RLE encoding function

SGI RLE encoding is slighlty different than the one provided by rle
module (especially at high bit depth). The pixel count function however
does not change, so it is simply made library-public.

sgienc: Port to bytestream2

sgienc: Do not end RLE lines with 0s

This is never mentioned in the specifications, and decoders work
just as fine without it. Update the fate references since the compressed
file is smaller.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

libvpxenc: remove some unused ctrl id mappings

VP8E_UPD_ENTROPY, VP8E_UPD_REFERENCE, VP8E_USE_REFERENCE were removed
from libvpx and the remaining values were never used here

Reviewed-by: Michael Niedermayer <michael@niedermayer.cc>
Signed-off-by: James Zern <jzern@google.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doc: Document better how to use MSYS2

asfdec: handle the case when the stream index has an invalid value better

The demuxer returned INVALIDDATA and failed to demux the remaining data
when an invalid stream index was read, now it just skips the asf packet
for the stream with an invalid stream index and continues demuxing.

Reported-By: Hendrik Leppkes
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dcadec: Do not check for overreads in auxiliary data

The auxiliary data length field is not reliable,
and incorrect overread errors could be returned
for valid, real-world bitstreams.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

oggparsespeex: Fix unchecked malloc

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: Clearly state that MSYS native builds are discouraged

MSYS, as per cygwin, by default uses a custom posix abstraction
in the form of a "msys2.dll". Programs build that way are harder to
distribute and use.

MSYS2 provides alternate launcher scripts that provide a MINGW
environment nearly out of box.

lavc: Deprecate avctx.rtp_callback field

This function returns the encoded data of a frame, one slice at a time
directly when that slice is encoded, instead of waiting for the full
frame to be done. However this field has a debatable usefulness, since
it looks like it is just a convoluted way to get data at lowest
possible latency, or a somewhat hacky way to store h263 in RFC-2190
rtp encapsulation.

Moreover when multi-threading is enabled (which is by default) the order
of returned slices is not deterministic at all, making the use of this
function not reliable at all (or at the very least, more complicated
than it should be).

So, for the reasons stated above, and being used by only a single encoder
family (mpegvideo), this field is deemed unnecessary, overcomplicated,
and not really belonging to libavcodec. Libavformat features a complete
implementation of RFC-2190, for any other case.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

doc/encoders: document the QSV option mappings

qsvenc: expose additional encoding options

qsvenc: support more RC methods

qsvenc: factor out common options

qsvenc: fix setting maxrate for VBR

qsvenc: print the actual video parameters used by MSDK

mpegvideo_enc: enable rtp_mode when multiple slices are used

Currently, multiple slices with just one thread produce corrupted
output.

Additionally, enable slice structured mode for h263(+)

Bug-Id: 912
CC: libav-stabl@libav.org

mpevideo_enc: disallow multiple slices for h261 and flv

They do not work and produce corrupted output.

CC: libav-stable@libav.org