libmp3lame: use planar sample formats

vorbisenc: use float planar sample format

ffm: do not write or read the audio sample format

parseutils: fix parsing of invalid alpha values

An alpha specifier outside the valid range results in a conversion from
double to long with undefined result.  Range-checking the double and
only converting it after it passes avoids this.

Fixes fate-parseutils errors on some systems.

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc/RELEASE_NOTES: update for the 9 release.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

smoothstreamingenc: Add a more verbose error message

This helps tracking down the cause if this happens to be an issue.

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreamingenc: Ignore the return value from mkdir

We don't need to return an error if the directory already existed.
We make sure that the directory actually is properly writeable later
within ism_write_header by writing a manifest anyway.

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreamingenc: Try writing a manifest when opening the muxer

This allows failing cleaner and earlier if unable to write to
the output directory.

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreamingenc: Move the output_chunk_list and write_manifest functions up

This allows calling write_manifest from ism_write_header without
a forward declaration.

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreamingenc: Properly return errors from ism_flush to the caller

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreamingenc: Check the output UrlContext before accessing it

This code can be called with a NULL UrlContext if writing of the
trailer involves seeking.

Signed-off-by: Martin Storsjö <martin@martin.st>

yuv4mpeg: return proper error codes.

Fixes Bug 373.

CC:libav-stable@libav.org

Give all anonymously typedeffed structs in headers a name

Anonymous structs cannot be forward declared and have no benefit.

fate: Add parseutils test

parseutils-test: Drop random colors from parsing test

This guarantees stable output for comparing test results.

vf_pad/scale: use double precision for aspect ratios.

Fixes Bug 203.

CC:libav-stable@libav.org

build: error on variable-length arrays

With all the VLAs gone, make sure they never come back.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ppc: swscale: rework yuv2planeX_altivec()

This gets rid of the variable-length scratch buffer by filtering 16
pixels at a time and writing directly to the destination.  The extra
loads this requires to load the source values are compensated by not
doing a round-trip to memory before shifting.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ppc: fmtconvert: kill VLA in float_to_int16_interleave_altivec()

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: dsputil: kill VLA in gmc_mmx()

Instead of using an evil VLA, fall back to C version when edge
emulation is needed.  MPEG4 GMC is a rarely used fringe feature
so the speed loss is an acceptable cost for safer code.

Signed-off-by: Mans Rullgard <mans@mansr.com>

libspeexenc: Updated commentary to reflect recent changes

Signed-off-by: Martin Storsjö <martin@martin.st>

libspeexenc: Add an option for enabling DTX

Discontinuous transmission is an addition to VAD/VBR operation, that
allows to greatly reduce bitrate for silent chunks or stationary
noises.

Signed-off-by: Martin Storsjö <martin@martin.st>

doc/APIchanges: fill in missing dates and hashes.

lavr: bump major to 1 and declare it stable.

lavr: change the type of the data buffers to uint8_t**.

This is more consistent with what the rest of Libav does.

This breaks API.

lavc: deprecate the audio resampling API.

It has been superseded by lavr.

h264: don't touch H264Context->ref_count[] during MB decoding

The variable is copied to subsequent threads at the same time, so this
may cause wrong ref_count[] values to be copied to subsequent threads.

This bug was found using TSAN.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

x86: get_cpu_flags: add necessary ifdefs around function body

ff_get_cpu_flags_x86() requires cpuid(), which is conditionally defined
elsewhere in the file.  Surrounding the function body with ifdefs allows
building even when cpuid is not defined.  An empty cpuflags mask is
returned in this case.

x86: Drop CPU detection intrinsics

Now that there is CPU detection in YASM, there will always be one of
inline or external assembly enabled, which obviates the need to fall
back on CPU detection through compiler intrinsics.

x86: Add YASM implementations of cpuid and xgetbv from x264

This allows detecting CPU features with builds that have neither
gcc inline assembly nor the right compiler intrinsics enabled.

configure: add --enable-lto option

This works with gcc.  Other compilers might need to have a flag
mapping added.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: cpu: Break out test for cpuid capabilities into separate function

x86: ff_get_cpu_flags_x86(): Avoid a pointless variable indirection

build: Factor out mpegaudio dependencies to CONFIG_MPEGAUDIO

A new hidden config variable is added for the codecs that depend on the
mpegaudio parts.

segment: Add comments about calls that only are relevant for some muxers

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Add an option for omitting the first header and final trailer

This allows writing totally bare segments, without any header/trailer
included anywhere.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Flush buffered data before finishing a segment

This makes sure any buffered data is written to the segment, for
muxers that buffer up data internally (e.g. fragmented mp4).

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Set the resend_headers flag for each segment

This makes sure new inline headers are emitted when the next
packet is written. This allows segmenting mpegts without calling
write_header/write_trailer (nor freeing/reiniting the muxer)
for each segment.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Add an option for disabling writing of a header/trailer to each segment

Some segmented formats (such as fragmented mp4) are "bare", as in,
the segment files do not have the same headers/trailers as full normal
files of that format have.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Free and reinit the muxer before calling avformat_write_header

This makes sure the muxers are set up in the way they expect
with no data left around from the previous run (which could
cause various issues including memory leaks, depending on the chaine
muxer).

This fixes memory leaks with the mpegts and flv muxers. It also
makes the usage of chained muxers correct.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Use the public av_write_header/av_write_trailer functions

With this change, the segmenter muxer doesn't rely on anything
not available/supported to libavformat external users, making
the segmenter muxer do things just like a normal segmenter
application using libavformat would do.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Properly create new AVStreams for the chained muxer

Before, the chained muxer reused the AVStreams array from
the outer muxer, which made it impossible to use the proper
public functions (such as av_write_frame) when calling the
chained muxer.

Signed-off-by: Martin Storsjö <martin@martin.st>

segment: Add a missing space

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_overlay: properly sync inputs.

Right now it incorrectly assumes that the frames are sent in the proper
order, which worked with old ffmpeg and avconv versions by accident.

vf_overlay: get rid of pointless messing with timebase.

Output frames correspond 1:1 to input frames on the main input.
So use the main input timebase for output.

samplefmt: make av_samples_alloc() initialize the data to silence.

Right now the buffer is zeroed, which does not represent silence for U8(P).

libspeexdec: handle NULL return value from speex_packet_to_header()

This will happen when the extradata is not a valid Speex header.

h264probe: Don't error out on bits that no longer are reserved

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: set extended_data in ff_update_duplicate_context()

AVFrame.extended_data has to reset to the AVFrame.data of the current
thread context after copying the frame contents.
Fixes crashes with frame-threading after 2bc0de38584.

libspeexdec: properly handle DTX for multiple frames-per-packet

libspeexdec: move the SpeexHeader from LibSpeexContext to where it is used

libspeexdec: simplify setting of frame_size

libspeexdec: set channel_layout

libspeexdec: If the channel count is not valid, decode as stereo.

When initialized as stereo, libspeex can decode either mono or stereo packets
and will output stereo.

libspeexdec: improve setting of Speex mode and sample rate

If there is no extradata and the sample rate given by the user is not valid,
decode as ultra-wideband.

libspeex: Add a private option for enabling VAD

Speex detects non-speech periods and encodes them with just enough bits
to reproduce the background noise, aka ``comfort noise generation''.

Signed-off-by: Martin Storsjö <martin@martin.st>

xtea: Test inplace decryption

Based on test code by: Giorgio Vazzana <mywing81@gmail.com>

Signed-off-by: Martin Storsjö <martin@martin.st>

xtea: Fix CBC decryption when src==dst

Signed-off-by: Martin Storsjö <martin@martin.st>

xtea: Factorize testing into a separate function

Based on a patch by Michael Niedermayer.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Refactor HAVE_ options available on the command line

avconv/avprobe: Add missing 'void' to exit_program() definition

Allow use of strncpy()

There are cases where strncpy() does exactly what is required.
A blanket ban forces more convoluted solutions to be used in those
cases and has been a cause of bugs.

Signed-off-by: Mans Rullgard <mans@mansr.com>

blowfish: Add more tests

Test inplace ECB, normal CBC and inplace CBC encryption/decryption.

Signed-off-by: Martin Storsjö <martin@martin.st>

blowfish: Fix CBC decryption with dst==src

Signed-off-by: Martin Storsjö <martin@martin.st>

blowfish: Factorize testing into a separate function

Signed-off-by: Martin Storsjö <martin@martin.st>

ARM: use numeric ID for Tag_ABI_align_preserved

Some old assemblers still in use do not support named tags.

Signed-off-by: Mans Rullgard <mans@mansr.com>

segment: Pass the interrupt callback on to the chained AVFormatContext, too

This might not be needed at the moment, but it's good practice to
pass it to all chained AVFormatContexts, if it would happen to be
used there at a later point.

Signed-off-by: Martin Storsjö <martin@martin.st>

ARM: bswap: drop armcc version of av_bswap16()

This function causes several versions of armcc to miscompile code,
and the performance impact is small.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ARM: set Tag_ABI_align_preserved in all asm files

All our ARM asm preserves alignment so setting this attribute
in a common location is simpler.  This removes numerous warnings
when linking with armcc.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ARM: fix Thumb PIC on Apple

LDR with register offset and PC as base register is not available in
the Thumb instruction set so the addition must be done separately.

Signed-off-by: Mans Rullgard <mans@mansr.com>

nut: add do {} while (0) to GET_V

Make it consistent with the other function-like macros.

tiffenc: Check av_malloc() results.

tiffenc: Simplify pixel format setup using AVPixFmtDescriptor.

Use atexit() instead of defining a custom exit_program() interface.

msvc: Fix detection of VFW & Avisynth required libs

It should be vfw32.lib with MSVC.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avformat: refactor avformat_write_header

Split away option settings, sanity checks and general setup.

avformat: refactor avformat_write_header

Mostly cosmetic changes adding some intermediate to shorten the lines.

avformat: split muxing functions from util.c

adpcmdec: set AVCodec.sample_fmts

twinvq: use planar sample format

ralf: use planar sample format

mpc7/8: use planar sample format

iac/imc: use planar sample format

dcadec: use float planar sample format

cook: use planar sample format

atrac3: use float planar sample format

apedec: output in planar sample format

8svx: use planar sample format

avconv: improve sample format negotiation for decoder request

This takes into account planar vs. packed when comparing to find the closest
sample format match.

Opus encoder using libopus

Signed-off-by: Diego Biurrun <diego@biurrun.de>

mpegts: Drop pointless casting of hex_dump_debug arguments

avformat: const correctness for av_hex_dump / av_hex_dump_log

wmadec: Adjust debug printf argument length modifier

avcodec: Convert some commented-out printf/av_log instances to av_dlog

avcodec: Drop silly and/or broken printf debug output

avcodec: Drop some silly commented-out av_log() invocations

avformat: Convert some commented-out printf/av_log instances to av_dlog

avformat: Remove non-compiling and/or silly commented-out printf/av_log statements

Remove some silly disabled code.

ac3dec: ensure get_buffer() gets a buffer for the correct number of channels

If there is an error during frame parsing, but AVCodecContext.channels was
changed and AC3DecodeContext.out_channels was set previously, the two may not
match.

Fixes CVE-2012-2802
Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org