doc: use Doxyfile template

Instead of passing environment variables to the Doxygen process,
Doxyfile will be autogenerated from Doxyfile.in template.

meson: Fix libtool version number

libtool uses CURRENT:REVISION:AGE for library versions and the formula
for calculating the file numbers is (CURRENT-AGE).(AGE).(REVISION). To
keep compatibility with libtool, meson build should follow the same
formula

With this fix, we will avoid https://github.com/intel/libva/issues/181
when bumping a new version

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Revert "fei_hevc: Add control to use avc VME to do intra prediction for HEVC FEI"

This reverts commit 71fd9ec67bf26f82421546c82750c3cc08c9a6a8.

fei_hevc: Add control to use avc VME to do intra prediction for HEVC FEI

Signed-off-by: dlin2 <decai.lin@intel.com>

android: fix typo introduced by 4cc9a74b

Update some comments about VADRMPRIMESurfaceDescriptor

width/height in VADRMPRIMESurfaceDescriptor specifies the
surface width/height in pixels

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

va_trace: Remove unused variable

Leftover from recent commit 35d7d312d45f9fd42dd

> va_trace.c:270:31: warning: unused variable 'pconfig_info'
>     struct trace_config_info *pconfig_info;
>                               ^

Signed-off-by: Victor Toso <victortoso@redhat.com>

android: remove useless vaPutSurface

vaPutSurface only used in libva-utils. The actual application/omx
implementation never use it.
It will introduce many header files in android framework.Android change
rapidly, the directory or file name changed in versionto version. It's
hard to catch up and maintain support for many versionof android.

meson: add va_fei_hevc.h

Fixes: #168

Add documents for VP9/VP9/HEVC/JPEG/FEI

Fixes#163

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Update for  the documents generation

Fixes#163

this  will update the documents.

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Fix tracing index allocation issue

Fixes #142

Signed-off-by: peng.chen <peng.c.chen@intel.com>

add comments for FEI

add more detail comments for FEI interfaces

Signed-off-by: xinfengz <carl.zhang@intel.com>

va: add missing error status/error message map.

when add a new VAStatus type, need to update vaErrorStr.

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

Expose the encode passes interface.

Add meson support

Fixes: #134

Signed-off-by: Víctor Manuel Jáquez Leal <vjaquez@igalia.com>

remove max_display_attributes value check.

max_display_attributes maybe is zero, because driver dont support display attribute

Signed-off-by: XinfengZhang <carl.zhang@intel.com>

deprecated VAEncSliceParameterBuffer.

VAEncSliceParamerterBuffer will be deprecated, All applications
can use VAEncSliceParameterBufferXXX (XXX = MPEG2, HEVC, H264,
JPEG).

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

Update some comment about FEI in VA-API.

FEI have added in VA-API, update the comments.

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

trace: init mutex before attempting to lock it

Call pthread_mutex_init before any calls to pthread_mutex_lock.

va_TraceInit(...) calls start_tracing2log_file(...) which
calls pthread_mutex_lock on the pva_trace->resource_mutex.
Thus, we need to ensure the mutex is initialized properly via
pthread_mutex_init before attempting to lock it.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Revert "configure: set strict default compiler flags"

This reverts commit 6ca99be5042558035a78ffa87cfcd853611591cc.

Strict compilation flags are not consistent across different
versions of GCC and cause issues for users with older GCC
versions.

Since we have little control over which compiler version
is used by user, ensuring that strict compilation works properly
across all known used compilers would be a maintenance
headache.

Instead, don't enforce strict compilation and let users choose
when to enforce it via user-defined C/CXXFLAGS.

Fixes #152

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Add a new DRM PRIME memory type

This is more flexible than the existing DRM PRIME type, allowing multiple
objects and planes with different formats and modifiers.  It supports
export only via vaExportSurfaceHandle().

Fixes #10.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add a new interface for exporting surfaces

Signed-off-by: Mark Thompson <sw@jkqxz.net>

HEVC FEI support

 HEVC FEI support, new HEVC FEI buffer in va.h and add va_fei_hevc.h

Signed-off-by: Kelvin Hu <kelvin.hu@intel.com>

Statistics function for FEI and non-FEI

A pre-processing function for getting some statistics and motion vectors
is added, and some extra controls for Encode pipeline are provided. The
application can optionally call the statistics function to get motion
vectors and statistics like variances, distortions before calling Encode
function via this entry point.

Signed-off-by: Kelvin Hu <kelvin.hu@intel.com>
Signed-off-by: Jonathan Bian <jonathan.bian@intel.com>
Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>
Signed-off-by: Zhong Li <zhong.li@intel.com>
Signed-off-by: Daniel Charles <daniel.charles@intel.com>

report QP Block Size

Signed-off-by: Carl.Zhang<carl.zhang@intel.com>

add decode stream out buffer type

stream out buffer include intermedia data of decoder

Signed-off-by: Carl.Zhang<carl.zhang@intel.com>

add common error for coded status of encode

an  VA_CODED_BUF_STATUS_BAD_BITSTREAM is added for bad streams

Signed-off-by: xfengcarl <carl.zhang@intel.com>

add perMB skip disable control.

per MB skip buffer can disable skip/direct for each MB
Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add sequence display extension support for MPEG2 encode

Signed-off-by: Carl.Zhang<carl.zhang@intel.com>

add controls for encode quality

it include sub pel mode support, quality tuning, rounding inter...

Signed-off-by: Carl.Zhang<carl.zhang@intel.com>

add mb number in decode MB errors

Signed-off-by: xfengcarl <carl.zhang@intel.com>

slide window support

slide window can reduce bit tolerance.
also include encode tile support attrib

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add VAConfigAttribDecProcessing for decode post process

Decode post processing is same context with decode context
post processing is called by driver internally

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add NV21 fourcc

add NV21 forcc pre-definition

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add RGB 10-bit packed format

RGB 10-bit packed format with upper 2 bits as alpha channel.
The existing pre-defined fourcc codes can be used to signal
the position of each component for this RT format.

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add new BRC method

VA_RC_ICQ: Intelligent Constant Quality. Provided an initial ICQ_quality_factor,
           adjusts QP at a frame and MB level based on motion to improve subjective quality.
VA_RC_CFS: Constant Frame Size.
VA_RC_PARALLEL: For hierachical B, B frames can be refered by other B frames.
Currently three layers of hierachy are defined:
B0 - regular B, no reference to other B frames.
B1 - reference to only I, P and regular B0 frames.
B2 - reference to any other frames, including B1.
In Hierachical B structure, B frames on the same layer can be processed
simultaneously. And BRC would adjust accordingly. This is so called
Parallel BRC.
Author: pylee <penne.y.lee@intel.com>
Author: Austin Yuan <shengquan.yuan@intel.com>
Author: Penne <penne.y.lee@intel.com>
Author:Wang, Ce <ce.wang@intel.com>

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>
Conflicts:
va/va.h

add encoding dirty rectangle. Read-only.

user provided rectangles which indicate the rectangular areas
where the content has changed as compared to the previous picture.  The regions of the
picture that are not covered by dirty rectangles are assumed to have not changed
compared to the previous picture.  The encoder may do some optimizations based on
this information.the ROI information is passed to the driver using VAEncMiscParameterTypeDirtyRect.

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add support for processing rate

application can query/get attribute of processing rate by VAConfigAttribProcessingRate
and query the processing rate of driver by vaQueryProcessingRate

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

Add encoding intra refresh attribute

This attribute conveys whether the driver supports certain types of intra refresh methods
for encoding (e.g. adaptive intra refresh or rolling intra refresh).

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add Encoding quantization

quary or get whether the driver supports certain types of quantization methods
for encoding (e.g. trellis).then set quantization setting by VAEncMiscParameterQuantization

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

expose driver capibility of resolution

application can get the maxium resolution supported by driver
through these two attribute:VAConfigAttribMaxPictureWidth & VAConfigAttribMaxPictureHeight

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add VAConfigAttribDecJPEG attributes

VAConfigAttribDecJPEG is for JPEG decode capabilities such as rotation

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

add 2D buffer support

standard usage: permb  control buffer, it is always a 2D buffer related with MB Postion

Signed-off-by: Carl.Zhang <carl.zhang@intel.com>

enhance h264 encode vui header setting

it's from h264 spec, add fix bit rate, low delay , mv over boundary flags

Signed-off-by: xfengcarl <carl.zhang@intel.com>

enhence enc feature for vp8

add tempral_id for current frame

Signed-off-by: xfengcarl <carl.zhang@intel.com>

Add message callbacks for drivers to use

This adds a mechanism for drivers to propagate arbitrary log messages
back to the API user.  It is intended to be used to replace all use of
logging to stdout/stderr in drivers.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Move driver context allocation to common code

This will be required to set common options on a newly-created driver
context.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

new VPP features

new features:Total Color Correction, Non-Linear Anamorphic Scaling.
new color standard: sRGB stRGB, xvYCC601, xvYCC709, BT.2020

Signed-off-by: xfengcarl <carl.zhang@intel.com>

New VAAPI definition for multi-frame processing applicable for Encode, FEI Encode/ENC/Pre-ENC, and VPP in future.

Signed-off-by: Artem Shaporenko artem.shaporenko@intel.com

configure: set strict default compiler flags

Use -Wall -Werror compiler flags for stricter compilation.

Fixes #146

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

build: Remove unused macro

Remove -DLINUX macro definition as compiler parameters because it is
not used.

Fixes: #147

va: Add missing enums to string conversions

Those enum were recently added and their conversion to strings were
missing.

Fixes: #144

coverity: fix check_after_deref

- /va/x11/dri2_util.c:
> libva-1.8.3/va/x11/dri2_util.c:218: check_after_deref: Null-checking
> "device_name" suggests that it may be null, but it has already been
> dereferenced on all paths leading to the check.

Signed-off-by: Victor Toso <victortoso@redhat.com>

Add fields for intensity compensation in VC-1 interlaced decoding

Intensity compensation in P interlaced field pictures needs more
elements from the VC-1 bitstream.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

wayland: fix toctou violation when opening drm device

A file's attributes could change between the stat() and the
open() operations.  Thus, check file attributes on the opened
file descriptor instead of the filename.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

va_fool: check fstat result

Check fstat return value for errors before attempting to use
the result.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

va_drm: dlopen correct version of libva-x11

Determine the correct SONAME automatically.

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

Merge branch 'v2.0-branch' into master

Conflicts:
configure.ac

libva 2.0.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

libva 2.0.0.pre3

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix returning of old info callback

Thanks to Sreerenj Balachandran <sreerenj.balachandran@intel.com> for
noticing this error.

Signed-off-by: Mark Thompson <sw@jkqxz.net>
(cherry picked from commit cb1f254ec65954ff7585f40df4b38337c462b14c)

Fix returning of old info callback

Thanks to Sreerenj Balachandran <sreerenj.balachandran@intel.com> for
noticing this error.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

libva 2.0.0.pre2

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix build issue on Android

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Bump libva to 2.0.1.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update NEWS

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix segmentation fault in VA tracer

The first parameter of va_{error,info}Message is VADisplay

This fixes https://github.com/01org/libva/issues/123

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add reserved bytes to most structures

The reserved bytest must be set to 0, then we can add new fields to those
structures in future without worrying about the API compatibility too
much.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update the comments of packed header

Driver requires packed header when the related VAConfigAttribEncPackedHeaders
is set.

Signed-off-by: Carl,Zhang <carl.zhang@intel.com>
Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add or update the comment for num_ref_idx_{l0,l1}_default_active_minus1

Both AVC and HEVC APIs requires application set the right
value for num_ref_idx_{l0,l1}_active_minus1 when
num_ref_idx_active_override_flag is 0.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update some comment about VA-API

VA-API is not only for decode but also for encode and video processing
by now.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update the comments for context and surface

Remove the limitation that a surface can't be shared between different
contexts at the same time.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

va: Use new va*Str() functions

Signed-off-by: Kelly Ledford <kelly.ledford@intel.com>

va: Add functions for converting common enums to strings

Signed-off-by: Kelly Ledford <kelly.ledford@intel.com>

va_internal:  list va_internal on noinst_HEADERS

va_internal.h is not to be installed

Signed-off-by: Daniel Charles <daniel.charles@intel.com>

optimize values for VAConfigAttribEncSliceStructure

redefine VA_ENC_SLICE_STRUCTURE_ARBITRARY_ROW to non-zero value
all slice structure attributes value can OR'd together.

Signed-off-by: xfengcarl <carl.zhang@intel.com>

Fix deprecated warning

enums marked as deprecated should not be used any more.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

va: Add the fourcc of I420 format

i965 will return the I420 in vaQuerySurfaceAttributes, but va.h didn't
add the pre-define fourcc, and will deprecate IYUV because it same as
I420 but most user perfer I420.

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

Remove the comment about vaGetSurfaceAttributes()

vaGetSurfaceAttributes() was removed years ago, so remove the
corresponding comments

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use portable types for VA structures

We have already defined VA structures using portable types in some
header files. Use portable types in the remaining header files to
keep the style consistency,

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Deprecate packed misc packed header

All applications can use VAEncPackedHeaderRawData to insert a packed
header on demand

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Delete libva-tpi and libva-egl backends

The APIs/data structures defined in va_tpi.h and va_egl.h are used
to implement buffer sharing between libva and the 3rd party libraries.
We have an official buffer sharing machnism in VA core, so libva-tpi and
libva-egl are unnecessary any more.

However va_egl.h or va_tpi.h is included uselessly in a few places,
e.g. https://github.com/01org/libyami/blob/apache/vaapi/vaapidisplay.h#L22
So va_egl.h and va_tpi.h are kept with a deprecation warning message.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

dec/VC1: Update the comment for b_picture_fraction

b_picture_fraction is used as an index in practice, so I updated the
comments to reduce the confusion to user

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update the data structure for HEVC decoding

We have defined a codec-independent slice parameter buffer (VASliceParameterBufferBase)
for base mode slice decoding for all codecs, so VASliceParameterBufferBaseHEVC is
unnecessary. Fortunately VASliceParameterBufferBaseHEVC isn't used publicly, hence
we remove VASliceParameterBufferBaseHEVC from VA-API 1.0.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

update VAEncMacroblockParameterBufferH264

The type of bits should be a struct type, otherwise the flags in bits
will be impacted each other.

In addtion this adds a reserved byte to bits struct in inter_fields,
this should fix https://github.com/01org/libva/issues/35

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix a typo in VAConfigAttribValEncROI

The current delat is typo. This fix breaks API, fortunately
roi_rc_qp_delat_support isn't used widely

This fixes https://github.com/01org/libva/issues/32

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

va_egl.h:  add license to file

license missing on header file.  Taken from c file

Signed-off-by: Daniel Charles <daniel.charles@intel.com>

Note flags which have been renamed in the H.264 standard

residual_colour_transform_flag and pic_order_present_flag have
different names in newer versions of the H.264 standard, so add a
comment with the new name to reduce confusion.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Detect short reads when filling fool buffers

Mainly to fix the warning (glibc marks read(2) with warn_unused_result).
The function continues anyway when this happens (matching current
behaviour when the file can't be opened at all).

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add namespace prefix to global DRI functions in libva-x11

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add namespace prefix to globals

Add "va_" prefix to trace_flag, fool_codec and fool_postp to avoid
polluting the global namespace.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Deprecate H.264 baseline profile and FMO support

This is not now and never will be supported by any hardware, nor is
it supported by any current software.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add a macro to indicate deprecation

This will generate a warning on gcc and compatible (clang, icc),
and do nothing with other compilers.  There is a separate macro
for enum variables, because gcc did not support deprecating them
until version 6.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Make logging callbacks library-safe

Move the logging callbacks into the display context, rather than
having them as global state.  Add user-context parameter as well so
that users can distinguish between callbacks in different instances.

The default behaviour does not change, and LIBVA_MESSAGING_LEVEL
continues to be respected in that case.

Since we're breaking API here, also rename vaMessageCallback to
VAMessageCallback to be consistent with all other types.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Move VADisplay allocation to common code

This is slightly cleaner, and will be required to set common
options on a newly-created display.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Move some common macro definitions to the new internal header

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Move declarations for internal functions to new header

The new header is internal-only and will not be installed.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Refine the data type of slice_data_flag in VASliceParameterBufferHEVC to be consistent with other codecs

Currently the data type of slice_data_flag in VASliceParameterBufferHEVC is
uint16_t while it is uint32_t for other codecs. It is inconsistent.
As the memory is allocated as aligned, it still allocates four bytes for it.
So it will be better to use the consistent data type.

This fixes https://github.com/01org/libva/issues/58

Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>

libva 2.0.0.pre1 for development

ABI was broken in the previous versions, so we will bump the VA API version
to 1.0.0 and library version to 2.0.0 for next release. Some data
structures will be changed or removed in the next commits

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>