Do CSC/scaling from 8bit 420 YUV to RGB32 in the common path

A new vpp shader is added

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Do CSC/scaling for YV12/IMC1/IMC3 surface in the common path

The existing vpp shader is re-used

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Allow loading mulitple kernels for a single GPE for the common path on GEN8

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Move reserved bytes to the end of the structure

This structure defines the input parameters from driver to common
csc/scaling shader, so the corresponding vpp shaders are updated as
well. In addition, more reserved bytes are added for future use

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add info messages for failure cases of vaExportSurfaceHandle()

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add new functions for logging

These use the error and info callbacks added recently to libva.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

AVC encoder: fix ROI CQP array indexing

Use correct variable for ROI indexing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

AVC encoder: fix ROI config for CQP

Introduced in:

commit 972e6f2b36499389bc7cb7bb34414423b5525143
Author: Xiang, Haihao <haihao.xiang@intel.com>
Date:   Wed Jan 4 09:40:47 2017 +0800

    AVC encoder: use generic ROI parameters

num_roi setting was lost and thus always 0, which essentially
disabled the "for (j = num_roi; j ; j--)" loop in the
VA_RC_CQP case.

Fix this by ensuring num_roi is set to the correct value stored
in the common structure.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Implement vaExportSurfaceHandle()

This is a new interface in libva to support wider use-cases of passing
surfaces to external APIs.  In particular, this does not require creation
of derived images before export, and offers richer metadata such as DRM
format information.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

test: add null check assertions to object_heap tests

Ensure objects are not NULL before dereferencing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

vme_context->private_enc_ctx: check null before dereference

Ensure priv_ctx is not null before dereferencing it.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

fix possible null dereference after null check

obj_surf_input and obj_surf_output are dereferenced unconditionally
and required for successful control flow.  Thus, verify they
are not null, else return error.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

fix inadvertent logic error in conditional

The condition:

  slice_param->slice_type != SLICE_TYPE_I ||
    slice_param->slice_type != SLICE_TYPE_SI

...is always true.  This appears to be an inadvertent
logic error by original author.  The assumption is that
&& was the intention and makes more sense, thus change it
to us && instead of ||.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

test: fix use of uninitialized variable

Initialize VAImage variable at the point of declaration.

Since i965_DeriveImage is declared as extern in the tests,
a static scanner appears to be unable to detect that VAImage is
actually initialized by the i965_DeriveImage implementation
in the driver.  This causes it to flag it as "use of an
uninitialized variable" along the success path.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

gtest: Fix 5 failed cases on legacy platforms

Some legacy platforms only support VAProfileH264StereoHigh decoding

[----------] Global test environment tear-down
[==========] 599 tests from 16 test cases ran. (335 ms total)
[  PASSED  ] 594 tests.
[  FAILED  ] 5 tests, listed below:
[  FAILED  ] AVCDecode/I965ConfigTest.Create/3, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointVLD
[  FAILED  ] AVCEncode/I965ConfigTest.Create/12, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncSlice
[  FAILED  ] AVCEncode/I965ConfigTest.Create/13, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncSliceLP
[  FAILED  ] AVCEncode/I965ConfigTest.Create/14, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncPicture
[  FAILED  ] AVCEncode/I965ConfigTest.Create/15, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointFEI

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add upper bound check in HCP_IND_OBJ_BASE_ADDR_STATE

The commit 29e375a fixed some VP9 decoding artifacts reported in
https://github.com/01org/intel-vaapi-driver/issues/262, but we still
see artifacts when decoding some VP9 clips. More investigations show
that the artifacts are caused by graphics address 0

The graphics address for a GEM BO may be 0 since the commit
below was merged into i915 KMD

commit 2889caa9232109afc8881f29a2205abeb5709d0c
Author: Chris Wilson <chris@chris-wilson.co.uk>
Date:   Fri Jun 16 15:05:19 2017 +0100

    drm/i915: Eliminate lots of iterations over the execobjects array

So we never saw this issue before commit 2889caa

Setting upper bound to 0 causes that HW ignores upper bound check, which
works for non-zero base graphics address in HCP pipeline, however the
upper bound check is required for graphics address 0, so we add the bound
check no matter what is the graphics address

This fixes https://github.com/01org/intel-vaapi-driver/issues/297

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

vp9enc: limit min_qp of brc to be non-zero

If base_qindex (luma_ac_qindex) is equal to zero, the enode mode will be
lossless mode when
luma_dc_qindex_delta/chroma_ac_qindex_delta/chroma_dc_qindex_delta are
also zero. In this case, the tx_mode should be set to ONLY_4X4, but current
driver only support TX_MODE_SELECT. This will cause the lossless mode
encoding failure.
Limitting the min_qp to be non-zero can force the encoding mode to be normal
mode.
It is to fix issue #284

Signed-off-by: Zhong Li <zhong.li@intel.com>

fix memset size for fixed array

Use sizeof on fixed array instead of hard-coded value.

The hard-coded value did not account for the size of the
data type (uint32_t) and therefore did not zero out the
entire array, rather it only zero'd out number of elements
bytes.

This prevents compiler memset-elt-size error when using
-Wall -Werror compiler flags.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

gen5_6: fix null shader generation

Also null.g4b is not required here.

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

h264: fix null shader generation

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

Merge branch 'v2.0-branch' into master

Conflicts:
configure.ac

intel-vaapi-driver 2.0.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test/streamables: use new vaStr methods when appropriate

New vaStr methods were added in libva 2.0.

Fixes #273

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

intel-vaapi-driver 2.0.0.pre3

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Change the vertical alignment for linear surface

The memory is allocated together for planar YUV, but we may use
Y, U, V surfaces for 3-plane YUV or Y, UV surfaces for 2-plane YUV
separately, e.g. a NV12 surface is taken as 2 separate surfaces by
the implemetation of vaPutSurface() in the driver. The memory format
for each surface is either linear or tiled. In the past we thought linear
surface requires 4K aligned surface base address, like as tiled surface,
so we set the alighment for height to 16. Actually linear surface only
requires base address is naturally-aligned to the element size. In
addition, some operations in the driver requires surface height is a
multiple of 4. so we can set the alignment for height to 4 for linear
surface.

In addition, it is wrong to check whether surface height is aligned to 16

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
(cherry picked from commit c8f2493fd870438c3b7b1c269ca95ef334ed094a)

Remove some unused static tables

Also fix a minor infelicity highlighted by astyle.

Remove unused variable

The last reference to it was removed in c408627e.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Change the vertical alignment for linear surface

The memory is allocated together for planar YUV, but we may use
Y, U, V surfaces for 3-plane YUV or Y, UV surfaces for 2-plane YUV
separately, e.g. a NV12 surface is taken as 2 separate surfaces by
the implemetation of vaPutSurface() in the driver. The memory format
for each surface is either linear or tiled. In the past we thought linear
surface requires 4K aligned surface base address, like as tiled surface,
so we set the alighment for height to 16. Actually linear surface only
requires base address is naturally-aligned to the element size. In
addition, some operations in the driver requires surface height is a
multiple of 4. so we can set the alignment for height to 4 for linear
surface.

In addition, it is wrong to check whether surface height is aligned to 16

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

intel-vaapi-driver 2.0.0.pre2

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Bump intel-vaapi-driver to 2.0.1.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update NEWS

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update Makefile.am for 'make dist'

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Initialize kernel_param for the scaling kernel of avc encoder

Signed-off-by: Peng.Chen <peng.c.chen@intel.com>

Don't create SEI unit

Instead the application should provide a right packed SEI buffer if
SEI is required because it is hard to know the value for each SEI
element in the driver.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Revert "test: ignore deprecated-declarations for GCC >= 6.x"

This reverts commit ba9d2268b81e5bdde6ec80d52c28fd03d6ae5abe.

Remove VAProfileH264Baseline from gtest

VAProfileH264Baseline was marked as deprecated

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix deprecated warning

enums and VA features marked as deprecated should not be used any more.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix a typo in VAConfigAttribValEncROI

The corresponding typo in libva has been fixed in libva 2.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use the latest symbol name

A namespace prefix has been added to global DRI functions
in libva-x11, so the driver should be updated as well

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test: ignore deprecated-declarations for GCC >= 6.x

In libva 2.0 the VAProfileH264Baseline declaration has been
deprecated.

In the test/Makefile.am, we use -Wall -Werror so all warnings
are treated as errors.  For GCC < 6.x, deprecated-declarations
are not flagged as warnings, thus don't break compilation.
However, GCC >= 6.x treats deprecated-declarations as warnings
and therefore breaks compilation.

Ignore deprecated-declarations with the -Wno-deprecated-declarations
compiler flag for now.

Fixes #219

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

intel-vaapi-driver 2.0.0.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

change file name prefix from gen9 to i965 for avc encoder

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

update gen8 avc encoder code path

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add init kernel, set curbe, send surface for gen8 avc encoder

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add structures and const tables related with gen8 avc

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add gen8 avc encoder kernel

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>
Conflicts:
src/gen9_avc_encoder_kernels.c

change prefix of function name from gen9 to i965 in gpe utils

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

make gpe utils compatible with gen8

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>

Update the right codename for KBL/GLK

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Set pipe_buffer_state before ind_obj_base_addr for VP9 decoder

it fixed a potential VP9 decoding issue at some cases

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the support of Coffee Lake

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add several asserts to detect unvalid NULL pointer

Signed-off-by: peng.chen <peng.c.chen@intel.com>

gen6_mfd: Check ptr before dereferencing

gen7_mfd: Check ptr before dereferencing

gen8_mfd: Check ptr before dereferencing

FEI: validate VAConfigAttribRateControl in i965_CreateConfig

VAEntrypointFEI only supports VA_RC_CQP in VAConfigAttribRateControl
config attribute.  Return VA_STATUS_ERROR_INVALID_CONFIG if it's
set to anything else.

Fixes #257

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

FEI: test: update brc expectation for VAEntrypointFEI

VAEntrypointFEI only supports VA_RC_CQP.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

FEI: Bump the required VA-API version

FEI support has been added in VA-API version 0.40.1, which
is the minum required version for the driver too.

libva PR: https://github.com/01org/libva/pull/105

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: tests: Add VAEntrypointFEI

Add the FEI entrypoint in test case scenarios

Fixes #228

FEI: Select VME and/or PAK as per user request

Driver supports VME only(ENC), PAK only(PAK)
and VME_PAK(ENC_PAK) modes.

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI : Add FEI support for AVC Encode in SKL

Below is the list of contributions from Zhong Li <zhong.li@intel.com>

a) Fixed issues with P/B Macroblock encoding
b) Fixed a GPU Hang with I frame encoding and unnecessary flushing in PAK
c) Fixed the avc and fei kernel size setting error
d) Disabled all scaling operations because of no HME support

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add GEN9 AVC FEI specific constants

Added curbe init data for I,P,B and I_DIST kernels

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add AVC FEI media kernels for SKL

We only have the media kernel binaries at this point.

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add basic infrastructure for FEI enablement

Add necessary changes in common structures and apis
to support FEI (Flexible Encoder Infrastructure).

* add support for the new entrypoing VAEntrypointFEI
* fixes in vaQueryConfigEntrypoints(), vaGetConfigAttributes(),
vaCreateContext(), vaCreateBuffer(), vaRenderPicture() and vaEndPicture()

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Add a new shader for CSC/scaling from P010/I010 to YUY2/UYVY/NV12/I420 on GEN9

With the new shader, the driver can convert 10bit surface to 8bit
surface in a single step

This fixes https://github.com/01org/intel-vaapi-driver/issues/212

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update the P010/I010 shader on GEN9

This fixes the conversion from I010 to P010

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Return UYVY format for vaQuerySurfaceAttributes

The driver supports UYVY surface, but UYVY is missed in
vaQuerySurfaceAttributes.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use single GPE context for the optimization for 8bit/10bit scaling/CSC

The interface description table can used for multiple kernels and we can
use interface offset to specify the used kernel

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Try the fast path of CSC/scaling first in va{Get,Put}Image()

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Factor out CSC/scaling in the fast path

The factored-out code will be re-used for va{Get,Put}Image()
implementation

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

wayland: Implement registry remove handler

Wayland event handlers are never optional. libwayland-client will abort
the program if events for unbound handlers are to be dispatched.
Although the event queue is only dispatched a few times during
initialization for getting the wl_drm global and authenticating the DRM
device, in rare circumstances it can happen that another global such as
a wl_output - or even wl_drm itself - is removed during that time, which
would crash the program. Implement the handler to fix this.

Signed-off-by: Philipp Kerling <pkerling@casix.org>

Merge branch 'v1.8-branch' into master

test: fix AVCEContextTest/RateControl regression

Update AVCEContextTest/RateControl expectations that changed
since PR #197

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

test: add status expectation in I965TestFixture::createConfig

Add VAStatus parameter to I965TestFixture::createConfig to allow
users to pass in the expected status for testing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

avoid NULL pointer deref in i965_CreateConfig

The attrib_found pointer variable might be NULL in many cases.
Thus, check it before attempting to dereference it.

Fixes #246

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

add  brc mode check for AVC when creating the config

v0:this add the RC check for AVC encoder

Fixes #35

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

VAEncROI on GEN7 chipset fix

Copying line intel_h264_enc_roi_config() from gen75_vme.c to gen7_vme.c

Add the configure attributes of EncMaxRefs for GEN9 HEVC encoder

Fixes #200

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Do not apply AUD hack to non-RawData headers

Headers which are not VAEncPackedHeaderRawData should not be inserted
at the front of the access unit by the AUD hack - if they are, they will
end up duplicated if they match the test because they are also placed
later in the access unit.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Update new media kernels for HEVC encoder

Fixes #240

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Correct the data type

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Don't align the bitrate to 1000 for VDEnc AVC encoding

The HuC accepts the real bitrate setting

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Initialize the HME mv cost table for VDEnc AVC encoding

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

add VC-1 intensity compensation for SNB

implement intensity compensation for VC-1 decoding

Intensity compensation was not present for B-frames, but only for P-frames. When a P-frame flags intensity compensation for its forward reference frame, all subsequent B-frames that use this reference frame as well, need to do intensity compensation as well.

test: fix GCC 7.1.1 warnings/errors

Fixes #236: add explicit braces to avoid 'ambiguous else' warning.

Signed-off-by: Kelly Ledford <kelly.ledford@intel.com>

Encoder: Avoid memory leak

An internal surface is created when the input surface doesn't meet the
HW requirement for encoding, however this surface is not destroyed when
the corresponding context is destroyed which causes the memory leak
issue. This patch fixes this issue.

This fixes https://github.com/01org/libyami/issues/751

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove useless frame dimension check for VP9

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Don't check the stride in the y direction for a single plane surface

obj_surface->height is used to calculate the offset for U/V plane. for a
surface with single plane, the check is unnecessary

This fixes https://github.com/01org/intel-vaapi-driver/issues/222

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Reviewed-by: Daniel Charles <daniel.charles@intel.com>
Tested-by: Daniel Charles <daniel.charles@intel.com>

Add HEVC ROI attributes for VAConfigAttribEncROI

Fixes #179

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the support of ROI for HEVC encoder on GEN9 SKL+

Fixes #179

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Parse ROI Misc parameters for CQP mode

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Update media kernels for hevc encoder

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Fix VDENC_PIPE_BUF_ADDR_STATE for AVC VDEnc encoding

DW22-DW27 are the first 2 reference surfaces in list0, not the down
scaling referece surfaces.

This fixes https://github.com/01org/intel-vaapi-driver/issues/224

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Enc: add max ref number query for AVC encoder on SKL+

Fixes #199

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Remove generated file from tree and on clean

Signed-off-by: Philipp Kerling <pkerling@casix.org>

intel-vaapi-driver 1.8.3

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

wayland: Also support wl_drm version 1

Just using version 2 without checking would lead to a protocol error
bringing down the entire application, and wl_drm version 1 is still
supported since v2 only adds PRIME capabilities.

Fix the ROI bottom setting issue in vdenc

Signed-off-by: peng.chen <peng.c.chen@intel.com>

wayland: Use private event queue for compositor communication

(Ab)using the default queue that the application might itself use
already and work on in parallel to initializing libva is not
thread-safe. Make it thread-safe by setting a private queue on a
wrapped wl_display. Also print some more error messages in case things
go wrong.

Signed-off-by: Philipp Kerling <pkerling@casix.org>
Signed-off-by: Olivier Crete <olivier.crete@collabora.com>