android: avoid compile warnnings

To avoid the warnings(errors):

hardware/intel/common/vaapi/src/gen75_vme.c:1070:5: error: variable 'i965_kernel_num' is used uninitialized whenever switch default is taken [-Werror,-Wsometimes-uninitialized]
    default:
    ^~~~~~~
hardware/intel/common/vaapi/src/gen75_vme.c:1078:35: note: uninitialized use occurs here
    vme_context->vme_kernel_sum = i965_kernel_num;
                                  ^~~~~~~~~~~~~~~

hardware/intel/common/vaapi/src/gen9_vme.c:2036:5: error: variable 'i965_kernel_num' is used uninitialized whenever switch default is taken [-Werror,-Wsometimes-uninitialized]
    default:
    ^~~~~~~
hardware/intel/common/vaapi/src/gen9_vme.c:2044:35: note: uninitialized use occurs here
    vme_context->vme_kernel_sum = i965_kernel_num;
                                  ^~~~~~~~~~~~~~~

I am not going to disable the warning (by -Wno-sometimes-uninitialized)
since it's still a useful checking from the compiler.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: ignore unimportant compile warnnings

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

HEVC encoder: correct the minimal bitrate for VBR

This fixes https://github.com/intel/intel-vaapi-driver/issues/430

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>
Tested-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Merge branch 'v2.3-branch' into master

intel-vaapi-driver 2.3.0

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

intel-vaapi-driver 2.3.0.pre2

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Fix memory leak

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

intel-vaapi-driver 2.3.0.pre1

Update NEWS and bump a new version

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

intel-vaapi-driver 2.4.0.pre1

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Merge branch 'v2.2-branch' into intel--master

gen8_post_processing: optimization for gen8_pp_object_walker

gen8_pp_object_walker makes an unnecessary function call, checks a
return value that is always zero and makes non-indexed variable
assignments.  All of which occurs inside nested for loops.

Move non-indexed assignments outside the iterative block and inline the
rest. This decreases frame drops for saturating workloads.

Fixes: #252

Signed-off-by: Cole Nelson <colex.nelson@intel.com>

gen75_proc_picture: check return value from gen75_vpp_vebox

gen75_vpp_vebox will check many things like invalid param, unsupported features.
Better check the return value

vp8/enc: Avoid out of boundary MVs

This patch makes sure all MVs are in the right range, otherwise
out of boundary MVs will result in corrupted frame.

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

avc/enc: Fix bitrate reset

Use the right target bitrate once user changes the bitrate on the fly

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Add a new CFL PCI ID

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Add a new KBL PCI ID

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Check for -fstack-protector

Not all toolchains provide support for -fstack-protector. This patch
provides a configure check to avoid build errors like

/home/buildroot/buildroot/output/host/opt/ext-toolchain/bin/../lib/gcc/x86_64-buildroot-linux-uclibc/6.4.0/../../../../x86_64-buildroot-linux-uclibc/bin/ld: cannot find -lssp_nonshared
/home/buildroot/buildroot/output/host/opt/ext-toolchain/bin/../lib/gcc/x86_64-buildroot-linux-uclibc/6.4.0/../../../../x86_64-buildroot-linux-uclibc/bin/ld: cannot find -lssp

Enable multiple pass by default

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Change the sequence of reading MMIO registers

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Removed the padded bytes

Image status mask and ctrl are used as compare mask and data
in MI_CONDITIONAL_BATCH_BUFFER_END, so they must be adjacent
in memory

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Use the original picture size

vp8_context->frame_width/vp8_context->frame_height is aligned to 16 bytes,
however the original size is required

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Correct the base address for the 2nd level batchbuffer

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

libva-intel-driver 2.2.0

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

intel-vaapi-driver 2.2.1.pre1 for development

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

intel-vaapi-driver 2.2.0.pre1

Update NEWS and bump the version for 2.2.0.pre1

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

VPP: clear a surface using media pipeline on GEN8+

Remove the extra sync between BCS and CS rings

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

render: clear background using 3D pipeline on GEN8+

Remove the extra sync between BCS and CS rings

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Update some CSC kernels for packed pixels

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Move the function declaration to an internal header file

gen9_p010_scaling_post_processing was added for VPP internal usage only

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Don't show an error on hybrid driver failure

Distribution wants to have situation where both
hybrid/i965 drivers are avaible. Even when only the latter
is relevant on a given hardware.

Signed-off-by: Nicolas Chauvet <kwizart@gmail.com>

android: get vaapi version from configure.ac

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: get libva version from va_version.h

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

Update README.md

Fix title

Always set pre/post deblocking output buffer

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

genX_mfd: fix out-of-bounds reference pixel replication

Out-of-bounds reference pixel replication should take into account the frame
coding mode of the reference frame(s), not the frame coding mode of the
current frame.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

i965_pciids: add kbl-y refresh PCI ID

Signed-off-by: Patrick Waterlander <patrick.waterlander@intel.com>

make sure there is no copy_buffer_to_golden/copy_buffer_to_alternate if refresh_golden/refresh_alternate is set

make sure reference objects are placed in the same slot / remove asserts

vp8 encoder parameter check - do not check for ref frames if no no_ref_X flag is set

In VP8 encoding not always all reference frames (last, golden, altref) are provided.
This is indicated with the flags ref_flags.bits.no_ref_last, ref_flags.bits.no_ref_gf
and ref_flags.bits.no_ref_arf in VAEncPictureParameterBufferVP8.
While checking picture parameters, make sure that assert errors concerning invalid
reference frame only occure if no_ref_X is not set.

Use f_code to determine max MV length

The motion vector length is constrained by the level but not set by it -
we should instead use the f_code values to set the max MV length.

This fixes encoding when the f_code values are not set to the highest
allowed for the level, and also adds support for intermediate levels such
as High 1440 which were not previously handled here.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Do not return FEI caps for non-FEI entrypoints

Signed-off-by: Mark Thompson <sw@jkqxz.net>

genX_mfd: ignore FASTUVMC for interlace frame P and B pictures

Interlace frame P and B pictures should ignore the FASTUVMC syntax element, as
stated in section 10.7.3.7 of VC-1 spec. Furthermore, prevent using the MVMODE
syntax element for interlace frame P and B pictures, as these picture types do
not include MVMODE or MVMODE2.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

Set the right height for VP9 encoding

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Add '-fstack-protector' to CFLAGS

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Use the new link URLs

We moved libva from github/01org to github/intel, however some files
still have links to the old 01org URLs, this commit updates these
links to the new intel URLs. In addition, this commit added a contact
email address for security issue reporting

This fixes https://github.com/intel/intel-vaapi-driver/issues/364

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Fix packed headers attribute test in vaCreateConfig()

If packed headers are supported, then the provided value must be some
(possibly empty) subset of the supported headers.

This fixes config creation with an empty packed header set, which the
user may pass if they don't want to provide any packed headers.  This
pattern is used in at least libavcodec, where VP9 encoding is broken
prior to this change.

Since there is intent to deprecate this behaviour in future, also add
warnings to this case and the other possible failure modes here.

Fixes #362.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Fix a potential over run issue

Remove dead code

GEN95_AVC_MAX_LAMBDA is always less than 0xfffa and 0xffef

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Remove self-assignment

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix typo of variable name in JPEG decoding

h2 is typo of h1

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add the missing 'break' in switch

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove dead code

tmp_id is always VA_INVALID_ID

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove 'if' statement

The two branches execute the same code

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix typo of variable name

It should be height instead of width

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove decode code.

The condition 'qp < 0' is not true.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Don't compare an array against NULL

Instead we should use the corresponding pointers

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Make sure a pointer is valid before using

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Don't compare an unsigned variable with 0

For an unsigned variable xxx, 'xxx < 0U' is always false, and 'xxx >=
0U' is always true

In addition, this commit fixes a minor syntax error.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Check function return value

i965_gpe_allocate_2d_resource() may return error

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Correct the valid buffer size

Otherwise it might result in out-of-bounds access of i965->va_vendor

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove implicit truncation from unsigned int to bit field

All the members of struct i965_sampler_8x8_coefficient are signed
int of 8 bit long (ranging from -128 to 127).

But there is an assignation of 1U<<7 which is implicitly truncated
to -128.

To make explicit the casting, without losing the expresiveness of
the bitwise operation, this patch adds a macro which uses the
anonymous union technique.

Remove implicit truncations from int to bit-field

All the members in the structures scoreboard1 and scoreboard2 are
signed int of 4 bit long (this means they only admit values from
-8 to 7).

Along the code, these structures are assigned with values bigger
than 7 which are implicitly truncated to negative numbers. For
example, 0xF -> -1 or 0xE -> -2

It is better to explictly show the assigned values than rely on
implicit convertions. This patch aims to that direction.

Remove spurious assignations

build: fix meson build

When X11 is found, the variable assigned is HAVE_X11 but the used
one is WITH_X11, failing to define it in the config header.

Update .travis.yml

Like what we did in commit 14a2088 for libva, the corresponding fix is
also required for this driver to avoid locking dpkg file by an
unattended `apt-get` call

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Merge branch 'v2.1-branch' into master

intel-vaapi-driver 2.1.0

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Add meson support

build: delete shaders targets at distclean

build: EXTRA_DIST doesn't recognize wildcards

build: add to VPATH src and build dirs

In order to make out-of-tree builds and distcheck to work, we should
set the VPATH to look for sources also in srcdir and builddir.

build: automake options in configure.ac

Consolidate automake options in configure.ac rather than have them
dispersed.

build: remove undefined variable

WAYLAND_CFLAGS is not defined by configure.ac

build: autotools: clean check for wayland dependency

Clean up the the checks for wayland dependencies.

build: autotools: don't check for X11 libraries

The driver doesn't link with any X11 library so there is no need to
check for their pkgconfig's data.

build: autotools: don't check for EGL

libEGL is loaded in run-time using dlopen, thus there is no need to
check for it at comiplation time.

build: autotools: check for dlopen library

build: autotools: remove useless --enable-drm parameter

Link with libdrm is mandatory, thus there is no need for a configure
parameter.

In the other hand, link with libva-drm is only required when the unit
tests are enabled.

build: test: enable out-of-source building

It is a good practice to build packages out-of-source tree, but its
support for the unit test is not correct. This patch enables it.

build: automake: add -Wno-portability

In order to suppress the warning

src/Makefile.am:117: warning: '%'-style pattern rules are a GNU make extension

build: Remove unused variable

Fixes: #327

build: Add libdrm_intel dependency

Fixes: #326

build: fix variable name

intel-vaapi-driver 2.1.0.pre1

Update NEWS and bump a new version

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Support VBR for HEVC 10bit

VBR should be returned when querying the supported RC modes for
VAProfileHEVCMain10/VAEntrypointEncSlice pair

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

intel-vaapi-driver 2.1.1.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test: add virtual dtor to abstract classes

Abstract classes should have virtual destructors.
Missing virtual dtor's can be detected with
-Wnon-virtual-dtor compiler flag, too.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Fix a typo

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add the missing files to the corresponding lists

Otherwise, the tar ball created by 'make dist' doesn't include these
files

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

i965_avc_encoder: Fix possible NULL pointer dereferencing

ENC/VP8: set value to VA_ATTRIB_NOT_SUPPORTED when querying VAConfigAttribEncPackedHeaders

vaGetConfigAttributes() should return VA_ATTRIB_NOT_SUPPORTED if the
corresponding attribute is not supported for a given profile/entrypoint
pair. The driver doesn't support any packed header from application for
VP8 encoding.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Return surface width/height in pixels

width/height in VADRMPRIMESurfaceDescriptor specifies the
surface width/height in pixels in VA-API, so we should set
the corresponding variables in pixels in the driver

This fixes https://github.com/01org/intel-vaapi-driver/issues/342,
thanks pkerling for the investigation and proposed fix for this issue.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Enable VP9 non-low power encoding

We re-use KBL VP9 code

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add support for VDEnc VP9 CBR/VBR mode on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add support for VDEnc VP9 CQP mode on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add flags for VP9 low power encoding mode

Add some related checks as well

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add a flag for VP9 BRC mode in struct hw_codec_info

Use this new flag to check the supported BRC mode

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add vdenc common commands for CNL

It provides helper functions for low power encoding on CNL

Signed-off-by: peng.chen <peng.c.chen@intel.com>
Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add HuC common commands for CNL

It provides helper functions for low power encoding on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add GPE function for MI_COPY_MEM_MEM command

This function is used to reads 4 bytes from memory and stores the value
of that 4 bytes to back to memory, both source and destination addresses
are Per Process Graphics Address

It is a helper function for low power encoding support

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>