genX_mfd: fix intensity compensation for frame-interlaced content

When frame-interlaced pictures are signalled to be intensity
compensated, we need to set the hardware to compensating both the top and
the bottom field.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen7_mfd: remove obsolete gen7_vc1_surface fields

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

i965_decoder_utils: enable decoding of VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen8_mfd: add support for VC-1 interlaced intensity compensation

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen8_mfd: add support for VC-1 interlaced reference frames

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen8_mfd: add support for VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen7_mfd: add support for VC-1 interlaced intensity compensation

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen7_mfd: add support for VC-1 interlaced reference frames

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen7_mfd: add support for VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen75_mfd: add support for VC-1 interlaced intensity compensation

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen75_mfd: add support for VC-1 interlaced reference frames

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen75_mfd: add support for VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

i965_decoder_utils: add support for VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix calculation of motion vector mode

As stated in the PRM, the FastUVMCFlag field should be equal to the LSB
of the Motion Vector Mode field. This also conforms to VC-1 spec, as
FASTUVMC controls whether color difference motion vectors are
reconstructed with quarter of half pixel resolution.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: no raw coded bitplanes for skipped pictures

Skipped pictures should not signal raw coded bitplanes as there are no
MBs encoded. Failure to do so results in decoding errors.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix BitplanePresentFlag for skipped pictures

Skipped pictures do not pass a bitplane buffer. We do, however,
locally encode a bitplane buffer with only the SKIPMB bit set. The
presence of this buffer must be passed through the BitplanePresentFlag
hardware field.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: align dmv buffer use with VC-1 spec and PRM

As stated in VC-1 spec, the direct MV buffer will be written when
decoding a P frame. Subsequently, the direct MV buffer is read when
decoding a B frame that backward references this P frame.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: no need for loop filtering for skipped pictures

Skipped pictures are equal to their reference frame and, therefore,
should not pass the loop filter. Although the loop filter was already
a null operation as all transform coefficients are zero for skipped
pictures, this may save some cyles in the decoder hardware.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: remove mapping of I frame to BI frame

This mapping does not make sense. Unless the mapping is some workaround
for a hardware quirk, we should be able to safely remove it. If this
breaks things, we can always put it back accompanied with an explanation
in the code.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: change order within if-else

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: use input range instead of mapped range in comparison

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: remove one-to-one mapping for picture_type

In genX_mfd_vc1_pic_state, the logic of picture_type is not very clear
as it is mapped from the input range to the hardware range. The mapping,
however, is an identity mapping that, effectively, only maps a skipped
picture to a P picture. By putting the skipped picture logic explicitly
in the ocde, we can remove the unnecessary mapping and make the logic
much more clear.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix unnecessary variable reuse
Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: do not scale dmv buffer with height

PRM states that for VC-1 the direct motion vector buffer may be scaled
with frame height but should not be scaled with frame width. Hardware
assumes frame width is fixed at 128 MBs.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: align hardware programming of Y Offset for V(Cr) with comment

Although the PRM does not state that this field must be zero for
non-JPEG, we might as well set it to zero as indicated in the comment
and to make its use more clear.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix hardware programming for bitplanes coded in raw mode

Bitplanes that are coded in raw mode are signalled through the
raw_coding flags in the VAPictureParameterBufferVC1 structure. The
absence of a bitplane does not necessarily imply that this bit is
encoded in raw mode. A progressive P picture in advanced profile, for
example, does not encode the SKIPMB bitplane nor does it encode this
bit in raw mode.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: mask unused bits in bitplane_present.value

Due to the union construct, unused bits in bitplane_present.value might
be uninitialized even when the used bits are all set to a value.
Masking the unused bits prevents spurious true values when all used
bits are unset, e.g. skipped pictures.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix bitplane encoding for skipped pictures

VC-1 skipped pictures do not encode a slice or MB layer, nor do they
encode any bitplanes. For a skipped picture, we should unconditionally
encode the bitplane buffer with only the SKIPMB bit set. Furthermore,
we optimize the static picture_type comparison out of the double loop.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen75_mfd: Check ptr before dereferencing

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: remove emulation byte on MB layer boundary

As stated in the PRM, VC-1 decoder hardware cannot handle the case
where the second 0x00 byte in the emulation prevention pattern
0x00 0x00 0x03 (0x00-0x03) coincides with the start of the
MB layer. Fixed by overwriting the 0x03 byte with the previous 0x00
byte and adjusting the MB layer byte offset accordingly.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

Do CSC/scaling from 8bit 420 YUV to RGB32 in the common path

A new vpp shader is added

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Do CSC/scaling for YV12/IMC1/IMC3 surface in the common path

The existing vpp shader is re-used

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Allow loading mulitple kernels for a single GPE for the common path on GEN8

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Move reserved bytes to the end of the structure

This structure defines the input parameters from driver to common
csc/scaling shader, so the corresponding vpp shaders are updated as
well. In addition, more reserved bytes are added for future use

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add info messages for failure cases of vaExportSurfaceHandle()

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add new functions for logging

These use the error and info callbacks added recently to libva.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

AVC encoder: fix ROI CQP array indexing

Use correct variable for ROI indexing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

AVC encoder: fix ROI config for CQP

Introduced in:

commit 972e6f2b36499389bc7cb7bb34414423b5525143
Author: Xiang, Haihao <haihao.xiang@intel.com>
Date:   Wed Jan 4 09:40:47 2017 +0800

    AVC encoder: use generic ROI parameters

num_roi setting was lost and thus always 0, which essentially
disabled the "for (j = num_roi; j ; j--)" loop in the
VA_RC_CQP case.

Fix this by ensuring num_roi is set to the correct value stored
in the common structure.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Implement vaExportSurfaceHandle()

This is a new interface in libva to support wider use-cases of passing
surfaces to external APIs.  In particular, this does not require creation
of derived images before export, and offers richer metadata such as DRM
format information.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

test: add null check assertions to object_heap tests

Ensure objects are not NULL before dereferencing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

vme_context->private_enc_ctx: check null before dereference

Ensure priv_ctx is not null before dereferencing it.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

fix possible null dereference after null check

obj_surf_input and obj_surf_output are dereferenced unconditionally
and required for successful control flow.  Thus, verify they
are not null, else return error.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

fix inadvertent logic error in conditional

The condition:

  slice_param->slice_type != SLICE_TYPE_I ||
    slice_param->slice_type != SLICE_TYPE_SI

...is always true.  This appears to be an inadvertent
logic error by original author.  The assumption is that
&& was the intention and makes more sense, thus change it
to us && instead of ||.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

test: fix use of uninitialized variable

Initialize VAImage variable at the point of declaration.

Since i965_DeriveImage is declared as extern in the tests,
a static scanner appears to be unable to detect that VAImage is
actually initialized by the i965_DeriveImage implementation
in the driver.  This causes it to flag it as "use of an
uninitialized variable" along the success path.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

gtest: Fix 5 failed cases on legacy platforms

Some legacy platforms only support VAProfileH264StereoHigh decoding

[----------] Global test environment tear-down
[==========] 599 tests from 16 test cases ran. (335 ms total)
[  PASSED  ] 594 tests.
[  FAILED  ] 5 tests, listed below:
[  FAILED  ] AVCDecode/I965ConfigTest.Create/3, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointVLD
[  FAILED  ] AVCEncode/I965ConfigTest.Create/12, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncSlice
[  FAILED  ] AVCEncode/I965ConfigTest.Create/13, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncSliceLP
[  FAILED  ] AVCEncode/I965ConfigTest.Create/14, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointEncPicture
[  FAILED  ] AVCEncode/I965ConfigTest.Create/15, where GetParam() = VAProfileH264MultiviewHigh : VAEntrypointFEI

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add upper bound check in HCP_IND_OBJ_BASE_ADDR_STATE

The commit 29e375a fixed some VP9 decoding artifacts reported in
https://github.com/01org/intel-vaapi-driver/issues/262, but we still
see artifacts when decoding some VP9 clips. More investigations show
that the artifacts are caused by graphics address 0

The graphics address for a GEM BO may be 0 since the commit
below was merged into i915 KMD

commit 2889caa9232109afc8881f29a2205abeb5709d0c
Author: Chris Wilson <chris@chris-wilson.co.uk>
Date:   Fri Jun 16 15:05:19 2017 +0100

    drm/i915: Eliminate lots of iterations over the execobjects array

So we never saw this issue before commit 2889caa

Setting upper bound to 0 causes that HW ignores upper bound check, which
works for non-zero base graphics address in HCP pipeline, however the
upper bound check is required for graphics address 0, so we add the bound
check no matter what is the graphics address

This fixes https://github.com/01org/intel-vaapi-driver/issues/297

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

vp9enc: limit min_qp of brc to be non-zero

If base_qindex (luma_ac_qindex) is equal to zero, the enode mode will be
lossless mode when
luma_dc_qindex_delta/chroma_ac_qindex_delta/chroma_dc_qindex_delta are
also zero. In this case, the tx_mode should be set to ONLY_4X4, but current
driver only support TX_MODE_SELECT. This will cause the lossless mode
encoding failure.
Limitting the min_qp to be non-zero can force the encoding mode to be normal
mode.
It is to fix issue #284

Signed-off-by: Zhong Li <zhong.li@intel.com>

fix memset size for fixed array

Use sizeof on fixed array instead of hard-coded value.

The hard-coded value did not account for the size of the
data type (uint32_t) and therefore did not zero out the
entire array, rather it only zero'd out number of elements
bytes.

This prevents compiler memset-elt-size error when using
-Wall -Werror compiler flags.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

gen5_6: fix null shader generation

Also null.g4b is not required here.

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

h264: fix null shader generation

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

Merge branch 'v2.0-branch' into master

Conflicts:
configure.ac

intel-vaapi-driver 2.0.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test/streamables: use new vaStr methods when appropriate

New vaStr methods were added in libva 2.0.

Fixes #273

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

intel-vaapi-driver 2.0.0.pre3

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Change the vertical alignment for linear surface

The memory is allocated together for planar YUV, but we may use
Y, U, V surfaces for 3-plane YUV or Y, UV surfaces for 2-plane YUV
separately, e.g. a NV12 surface is taken as 2 separate surfaces by
the implemetation of vaPutSurface() in the driver. The memory format
for each surface is either linear or tiled. In the past we thought linear
surface requires 4K aligned surface base address, like as tiled surface,
so we set the alighment for height to 16. Actually linear surface only
requires base address is naturally-aligned to the element size. In
addition, some operations in the driver requires surface height is a
multiple of 4. so we can set the alignment for height to 4 for linear
surface.

In addition, it is wrong to check whether surface height is aligned to 16

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
(cherry picked from commit c8f2493fd870438c3b7b1c269ca95ef334ed094a)

Remove some unused static tables

Also fix a minor infelicity highlighted by astyle.

Remove unused variable

The last reference to it was removed in c408627e.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Change the vertical alignment for linear surface

The memory is allocated together for planar YUV, but we may use
Y, U, V surfaces for 3-plane YUV or Y, UV surfaces for 2-plane YUV
separately, e.g. a NV12 surface is taken as 2 separate surfaces by
the implemetation of vaPutSurface() in the driver. The memory format
for each surface is either linear or tiled. In the past we thought linear
surface requires 4K aligned surface base address, like as tiled surface,
so we set the alighment for height to 16. Actually linear surface only
requires base address is naturally-aligned to the element size. In
addition, some operations in the driver requires surface height is a
multiple of 4. so we can set the alignment for height to 4 for linear
surface.

In addition, it is wrong to check whether surface height is aligned to 16

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

intel-vaapi-driver 2.0.0.pre2

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Bump intel-vaapi-driver to 2.0.1.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update NEWS

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update Makefile.am for 'make dist'

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Initialize kernel_param for the scaling kernel of avc encoder

Signed-off-by: Peng.Chen <peng.c.chen@intel.com>

Don't create SEI unit

Instead the application should provide a right packed SEI buffer if
SEI is required because it is hard to know the value for each SEI
element in the driver.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Revert "test: ignore deprecated-declarations for GCC >= 6.x"

This reverts commit ba9d2268b81e5bdde6ec80d52c28fd03d6ae5abe.

Remove VAProfileH264Baseline from gtest

VAProfileH264Baseline was marked as deprecated

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix deprecated warning

enums and VA features marked as deprecated should not be used any more.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix a typo in VAConfigAttribValEncROI

The corresponding typo in libva has been fixed in libva 2.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use the latest symbol name

A namespace prefix has been added to global DRI functions
in libva-x11, so the driver should be updated as well

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test: ignore deprecated-declarations for GCC >= 6.x

In libva 2.0 the VAProfileH264Baseline declaration has been
deprecated.

In the test/Makefile.am, we use -Wall -Werror so all warnings
are treated as errors.  For GCC < 6.x, deprecated-declarations
are not flagged as warnings, thus don't break compilation.
However, GCC >= 6.x treats deprecated-declarations as warnings
and therefore breaks compilation.

Ignore deprecated-declarations with the -Wno-deprecated-declarations
compiler flag for now.

Fixes #219

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

intel-vaapi-driver 2.0.0.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

change file name prefix from gen9 to i965 for avc encoder

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

update gen8 avc encoder code path

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add init kernel, set curbe, send surface for gen8 avc encoder

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add structures and const tables related with gen8 avc

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

add gen8 avc encoder kernel

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>
Conflicts:
src/gen9_avc_encoder_kernels.c

change prefix of function name from gen9 to i965 in gpe utils

Signed-off-by: Wang Tiatian <tiantian.wang@intel.com>

make gpe utils compatible with gen8

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>

Update the right codename for KBL/GLK

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Set pipe_buffer_state before ind_obj_base_addr for VP9 decoder

it fixed a potential VP9 decoding issue at some cases

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the support of Coffee Lake

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add several asserts to detect unvalid NULL pointer

Signed-off-by: peng.chen <peng.c.chen@intel.com>

gen6_mfd: Check ptr before dereferencing

gen7_mfd: Check ptr before dereferencing

gen8_mfd: Check ptr before dereferencing

FEI: validate VAConfigAttribRateControl in i965_CreateConfig

VAEntrypointFEI only supports VA_RC_CQP in VAConfigAttribRateControl
config attribute.  Return VA_STATUS_ERROR_INVALID_CONFIG if it's
set to anything else.

Fixes #257

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

FEI: test: update brc expectation for VAEntrypointFEI

VAEntrypointFEI only supports VA_RC_CQP.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

FEI: Bump the required VA-API version

FEI support has been added in VA-API version 0.40.1, which
is the minum required version for the driver too.

libva PR: https://github.com/01org/libva/pull/105

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: tests: Add VAEntrypointFEI

Add the FEI entrypoint in test case scenarios

Fixes #228

FEI: Select VME and/or PAK as per user request

Driver supports VME only(ENC), PAK only(PAK)
and VME_PAK(ENC_PAK) modes.

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI : Add FEI support for AVC Encode in SKL

Below is the list of contributions from Zhong Li <zhong.li@intel.com>

a) Fixed issues with P/B Macroblock encoding
b) Fixed a GPU Hang with I frame encoding and unnecessary flushing in PAK
c) Fixed the avc and fei kernel size setting error
d) Disabled all scaling operations because of no HME support

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add GEN9 AVC FEI specific constants

Added curbe init data for I,P,B and I_DIST kernels

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add AVC FEI media kernels for SKL

We only have the media kernel binaries at this point.

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

FEI: Add basic infrastructure for FEI enablement

Add necessary changes in common structures and apis
to support FEI (Flexible Encoder Infrastructure).

* add support for the new entrypoing VAEntrypointFEI
* fixes in vaQueryConfigEntrypoints(), vaGetConfigAttributes(),
vaCreateContext(), vaCreateBuffer(), vaRenderPicture() and vaEndPicture()

Fixes #228

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Add a new shader for CSC/scaling from P010/I010 to YUY2/UYVY/NV12/I420 on GEN9

With the new shader, the driver can convert 10bit surface to 8bit
surface in a single step

This fixes https://github.com/01org/intel-vaapi-driver/issues/212

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update the P010/I010 shader on GEN9

This fixes the conversion from I010 to P010

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Return UYVY format for vaQuerySurfaceAttributes

The driver supports UYVY surface, but UYVY is missed in
vaQuerySurfaceAttributes.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use single GPE context for the optimization for 8bit/10bit scaling/CSC

The interface description table can used for multiple kernels and we can
use interface offset to specify the used kernel

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Try the fast path of CSC/scaling first in va{Get,Put}Image()

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Factor out CSC/scaling in the fast path

The factored-out code will be re-used for va{Get,Put}Image()
implementation

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>