test: fix AVCEContextTest/RateControl regression

Update AVCEContextTest/RateControl expectations that changed
since PR #197

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

test: add status expectation in I965TestFixture::createConfig

Add VAStatus parameter to I965TestFixture::createConfig to allow
users to pass in the expected status for testing.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

avoid NULL pointer deref in i965_CreateConfig

The attrib_found pointer variable might be NULL in many cases.
Thus, check it before attempting to dereference it.

Fixes #246

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

add  brc mode check for AVC when creating the config

v0:this add the RC check for AVC encoder

Fixes #35

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

VAEncROI on GEN7 chipset fix

Copying line intel_h264_enc_roi_config() from gen75_vme.c to gen7_vme.c

Add the configure attributes of EncMaxRefs for GEN9 HEVC encoder

Fixes #200

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Do not apply AUD hack to non-RawData headers

Headers which are not VAEncPackedHeaderRawData should not be inserted
at the front of the access unit by the AUD hack - if they are, they will
end up duplicated if they match the test because they are also placed
later in the access unit.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Update new media kernels for HEVC encoder

Fixes #240

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Correct the data type

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Don't align the bitrate to 1000 for VDEnc AVC encoding

The HuC accepts the real bitrate setting

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Initialize the HME mv cost table for VDEnc AVC encoding

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

add VC-1 intensity compensation for SNB

implement intensity compensation for VC-1 decoding

Intensity compensation was not present for B-frames, but only for P-frames. When a P-frame flags intensity compensation for its forward reference frame, all subsequent B-frames that use this reference frame as well, need to do intensity compensation as well.

test: fix GCC 7.1.1 warnings/errors

Fixes #236: add explicit braces to avoid 'ambiguous else' warning.

Signed-off-by: Kelly Ledford <kelly.ledford@intel.com>

Encoder: Avoid memory leak

An internal surface is created when the input surface doesn't meet the
HW requirement for encoding, however this surface is not destroyed when
the corresponding context is destroyed which causes the memory leak
issue. This patch fixes this issue.

This fixes https://github.com/01org/libyami/issues/751

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove useless frame dimension check for VP9

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Don't check the stride in the y direction for a single plane surface

obj_surface->height is used to calculate the offset for U/V plane. for a
surface with single plane, the check is unnecessary

This fixes https://github.com/01org/intel-vaapi-driver/issues/222

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Reviewed-by: Daniel Charles <daniel.charles@intel.com>
Tested-by: Daniel Charles <daniel.charles@intel.com>

Add HEVC ROI attributes for VAConfigAttribEncROI

Fixes #179

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the support of ROI for HEVC encoder on GEN9 SKL+

Fixes #179

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Parse ROI Misc parameters for CQP mode

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Update media kernels for hevc encoder

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Fix VDENC_PIPE_BUF_ADDR_STATE for AVC VDEnc encoding

DW22-DW27 are the first 2 reference surfaces in list0, not the down
scaling referece surfaces.

This fixes https://github.com/01org/intel-vaapi-driver/issues/224

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Enc: add max ref number query for AVC encoder on SKL+

Fixes #199

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Remove generated file from tree and on clean

Signed-off-by: Philipp Kerling <pkerling@casix.org>

wayland: Also support wl_drm version 1

Just using version 2 without checking would lead to a protocol error
bringing down the entire application, and wl_drm version 1 is still
supported since v2 only adds PRIME capabilities.

Fix the ROI bottom setting issue in vdenc

Signed-off-by: peng.chen <peng.c.chen@intel.com>

wayland: Use private event queue for compositor communication

(Ab)using the default queue that the application might itself use
already and work on in parallel to initializing libva is not
thread-safe. Make it thread-safe by setting a private queue on a
wrapped wl_display. Also print some more error messages in case things
go wrong.

Signed-off-by: Philipp Kerling <pkerling@casix.org>
Signed-off-by: Olivier Crete <olivier.crete@collabora.com>

wayland: Bump wayland-client dependency to 1.11.0

Signed-off-by: Philipp Kerling <pkerling@casix.org>

wayland: Cleanup wl_registry on terminate

Signed-off-by: Philipp Kerling <pkerling@casix.org>
Signed-off-by: Olivier Crete <olivier.crete@collabora.com>

Bump intel-vaapi-driver to 1.8.4.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Check pointers against NULL before using

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add gen9_hevc_enc_kernels.h to the corresponding list

Otherwise the package created by 'make dist' doesn't include the
missing file, which will break the build

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

correct subsampling calculate methods of various fourcc that jpeg support.

This fixes https://github.com/01org/intel-vaapi-driver/issues/10

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>

ENC: add RC query for AVC mb rc mode on SKL+

v0: add h264_brc_mode to store the RC capability of H264

Fixes #168

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Fix: AVC/HEVC encoder quality range should be 7 on SKL+

Fixes #192

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Enable is_16bpp flag of gpe_surface for P010 surface

It is only for media_block_rw mode

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Fix the max slice number definition error in hevc encoder

The real max slice number is defined by I965_MAX_NUM_SLICE,
so also need to use this macro in hevc encoder

Fixes #162

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Use ASSERT_RET() instead of assert() for some assertions

This avoids assertion fault, and the caller can handle the error
properly when the driver returns false or error.

This avoids the assertion fault in
https://github.com/01org/intel-vaapi-driver/issues/186, it also avoids
the assertion fault after https://github.com/01org/libva/issues/51 is fixed
in libva.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add the missing parameter type in a function definition

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

decode: release huffman_table from decode state

In i965_destroy_context, ensure we release the huffman_table
buffer_store from the decode state to avoid memory leak.

Fixes #190

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

gen9_avc_encoder: brc_curbe_size is not static anymore

Static memory allocation in general is the allocation of memory at compile
time before the associated program is executed.

And this is the case when compiling with clang: it tries to optimize the
allocation of static memory in compilation time, thus commit f896ca2a breaks
the compilation, since the structure can only be defined at execution time.

Fix #184

Signed-off-by: Víctor Manuel Jáquez Leal <vjaquez@igalia.com>

gen9_avc_encoder: Fix mbenc curbe size of KBL and GLK

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Use the down sampled NV12 surface as the RAW surface

This NV12 surface is converted from the input P010 surface
as the input of some kernels

Signed-off-by: peng.chen <peng.c.chen@intel.com>

README.md: update Slack Team invite URL

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Fix AUD insert issue in AVC encoder with GEN6/7.5/8.

If find the AUD NAL in raw data list, it will insert AUD first in
the bitstream.

Fix #155

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

Fix typo in comments.

Signed-off-by: Jun Zhao <jun.zhao@intel.com>

Gen9 H.264 encoders: Fix condition for enabling MB rate control

As documented in va.h, it should not be enabled when the user passes
the value 2 here.  This now matches the behaviour of the H.265
encoder.

Fixes #166.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Bump intel-vaapi-driver to 1.8.3.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

VP8 encoder can support VBR method since using the new media kernel

This fixes https://github.com/01org/intel-vaapi-driver/issues/164

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

This silences a gcc warning

This fixes https://github.com/01org/intel-vaapi-driver/issues/114

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Fix coding style in the previous commits

Otherwise the pre-commit hook will block the changes to these files
in the future.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

ENC: fix the low quality at the first GOP for AVC encoder on the platform previous SKL

RC logic initialize the big QP at the first GOP, this cause the low quality.

Fixes #147

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Improve the performance of HEVC fast level encoding

Fixes #137

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Fix: AVC encoder cause bad frame when quality level 1 on SKL/APL

Fixes #158

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Enc:support multi slice for AVC encoder on SKL/APL/KBL

this patch enable the multi slice of AVC encoder. The VA_ENC_SLICE_STRUCTURE_ARBITRARY_MACROBLOCKS is added.

Fixes #142

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

test/jpege: skip >4k res test cases on CHV/BSW

Only Gen9+ supports res > 4K for JPEG encoding.

Fixes #149

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

android: move the libraries to /vendor

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

Make the compiler happy

To avoid the error:

src/gen6_mfc_common.c:487:1: error: control may reach end of non-void function [-Werror,-Wreturn-type]
}
^

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

Move source lists into Makefile.sources

Factor the source lists into a shared makefile. This prevents duplicate of
source lists, and hence prevents the Android build from breaking as often.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: set the installation path

Use the path similar to linux desktop.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: remove the unused script

The gen_version.sh violates the read-only rule of Android build system.
The rules to generate intel_version.h are rewritten. Remove this unused
script.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: fix the rules to generate intel_version.h

Android source tree has to be read-only. The generated files should
be put to the $(OUT)/gen/ dir. Rewrite the makefile to be compliant
with the rules.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: remove deprecated include paths

The include paths are exported from the linked modules directly.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

android: remove redundant -DANDROID

It has already been defined by the Android build system.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

Remove the unnecessary exec bit

These files are not executables.

Signed-off-by: Chih-Wei Huang <cwhuang@linux.org.tw>

Add the support of multi-slices for the HEVC encoder

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Enc: support AVC MVC encoder on SKL/APL/KBL

Fixes #143

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Fix the suspicious reference before check NULL pointer

Fix #140
https://github.com/01org/intel-vaapi-driver/issues/140

Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>

Merge branch 'v1.8-branch' into 01org--master

Conflicts:
configure.ac
src/gen9_avc_const_def.c
src/gen9_avc_encoder.c
src/gen9_avc_encoder.h
src/gen9_avc_encoder_kernels.c
src/gen9_vme.c
src/i965_avc_encoder_common.h
src/i965_drv_video.c
src/i965_encoder.c
src/i965_encoder_common.h

gen9_vp9_encoder: fix parameters sent to the shaders

buffer fullness intially has to be set to half the target bitrate.
Also the scaled 4x width and height in mb has to be updated properly
for distortion buffer to operate properly

v2: remove downscaled_width_4x_in_mb and dowscaled_height_4x_in_mb from
gen9_encoder_context_vp9

Fixes #132
TEST="see bug for proper test analysis"

Signed-off-by: Daniel Charles <daniel.charles@intel.com>

Enable HEVC encoder for GLK

Fix https://github.com/01org/intel-vaapi-driver/issues/134

Signed-off-by: jkyu <jiankang.yu@intel.com>

Set the quality range and default level for hevc encoder

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the RC_VBR in GetConfigAttributes for HEVC encoding

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Improve the HEVC encoding quality on SKL/APL/KBL

V1:
1, Update the commit date
2, Add extern to a function prototype
3, Reallocate resource for different resolution pictures
4, Move static constant array ftq_25i[]
5, Free res_pak_slice_batch_buffer before flush the batch buffer
6, Add cache attribute setting
7, Fix write domain issue of output surface
8, Remove the wrong bit setting in pipe_select
9, Correct the licensing declaration
10, Move hevc enc apis declaration to the enc common api file
11, Add two field bits in PAK pic_state

V2:
1, Move QM/FM default tables out of the function
2, Set the private_data for obj_surface before allocating the surface
3, Move hevc_qpc_table[] into gen9_hevc_encoder.c
4, Alocate independent ME gpe context for each HMEs
5, Reconfigure the VFE state
6, Remove the i965_zero_gpe_resource in ALLOC_GPE_RESOURCE
7, Unify the coding style

V3:
1, Fix memory clear size mistake in intra_distortion
2, Disable multi-slices support for HEVC encoding

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the new kernel binary for the improved HEVC encoder on SKL/APL/KBL

V1:
Move kernel binary into new file

V2:
Unify the coding style

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Check and allocate (if not exist) bo for dst_obj_surface in vpp

    This fixes #20
    https://github.com/01org/intel-vaapi-driver/issues/20

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>

ENC: add AUD nal unit at the beginning of picture

v0:parse nal type with generic method

Fixes #110

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

dri: error for more unimplemented surface formats

Such as commit 396bf01a, RGB formats are not display correctly
in X11. Hence, return unimplemented error.

Fixes #131

Signed-off-by: Víctor Manuel Jáquez Leal <vjaquez@igalia.com>

Fix: check height alignment against hpitch

Commit 43a75ea introduced a regression when importing dmabuf from v4l2,
returning VA_STATUS_ERROR_INVALID_PARAMETER.

This is because, when checking the check height alignment, the wpitch
was used, when hpitch is the one to compare.

Fixes #129

Signed-off-by: Víctor Manuel Jáquez Leal <vjaquez@igalia.com>

intel-vaapi-driver 1.8.1

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add pre-commit hook

Check that the code follows a consistant coding style before committing.
The current command will be interrupted if the commit doesn't follow the
code style

This fixes https://github.com/01org/intel-vaapi-driver/issues/99

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Unify the coding style in the driver

Linux coding style is used in the driver source code. Use the command
below to format/indent .c/.h files

$> astyle --style=linux -cnpUH -s4 -M120 <file>

A script of style_unify is added in the top-level directory to
handle all .c/.h files in the driver. There is no change to any
functionality

This fixes https://github.com/01org/intel-vaapi-driver/issues/99

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

gen9_avc_encoder: macro optimization

Avoid duplicated multiplication, do the frame size
calculation once and reuse the result.

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Add imported surface alignment check

This fixes issues #62
https://github.com/01org/intel-vaapi-driver/issues/62

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>
Reviewed-by: Zhao Yakui <yakui.zhao@intel.com>

Fix wrong y_cb/cr_offset when the imported surfaces's fourcc is VA_FOURCC_411P

Signed-off-by: Wang Tiantian <tiantian.wang@intel.com>
Reviewed-by: Zhao Yakui <yakui.zhao@intel.com>

Add the video encoder support for GLK

HEVC encoder will be enabled later.
Fix https://github.com/01org/intel-vaapi-driver/issues/111

Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>
Signed-off-by: Wang, TianTian<tiantian.wang@intel.com>
Signed-off-by: jkyu <jiankang.yu@intel.com>

Bump intel-vaapi-driver to 1.8.2.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

intel-vaapi-driver 1.8.1.pre1

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test: check whether MVC encoding is support

This fixes https://github.com/01org/intel-vaapi-driver/issues/123

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
(cherry picked from commit e3c99c4a993e4fc9d1c693a99453770bc0d95f1b)

test: check whether MVC encoding is support

This fixes https://github.com/01org/intel-vaapi-driver/issues/123

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

ENC: Disable the ROI feature of AVC encoder on SKL/APL/KBL

this is WA to disable the feature as the new improved AVC encoder does not support it by now.

Fixes #108

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>
(cherry picked from commit eb2b7f3e9f40f32506136be4f2cec3f1b8d1699f)

ENC:disable SVC feature of AVC encoder on SKL/APL/KBL

this is WA to disable SVC featrue as new improved AVC does not support it

Fixes #116

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>
(cherry picked from commit e984be6a7b6d019fed79db037683cfec4ef09ab9)

ENC: Add the attribute of VAConfigAttribEncMaxSlices for AVC/HEVC encoder

this patch enable the VAConfigAttribEncMaxSlices attribute and
this also add WA to disable multi slcie feature on APL/KBL/SKL as the improved AVC encoder does not support it.

Fixes #117

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>
(cherry picked from commit 49a6356ac4585cfdf85b852b566d29667219055d)

ENC: disable MVC feature of AVC encoder on SKL/APL/KBL

this is WA to disable the MVC feature as the new improved AVC encoder does not support it by now.

Fixes #115

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>
(cherry picked from commit 94425f771292bb0430b755c172a8dfa5c1b80631)

ENC: Disable the ROI feature of AVC encoder on SKL/APL/KBL

this is WA to disable the feature as the new improved AVC encoder does not support it by now.

Fixes #108

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

ENC:disable SVC feature of AVC encoder on SKL/APL/KBL

this is WA to disable SVC featrue as new improved AVC does not support it

Fixes #116

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

ENC: Add the attribute of VAConfigAttribEncMaxSlices for AVC/HEVC encoder

this patch enable the VAConfigAttribEncMaxSlices attribute and
this also add WA to disable multi slcie feature on APL/KBL/SKL as the improved AVC encoder does not support it.

Fixes #117

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

ENC: disable MVC feature of AVC encoder on SKL/APL/KBL

this is WA to disable the MVC feature as the new improved AVC encoder does not support it by now.

Fixes #115

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Fix spelling of 'extended'

Signed-off-by: Sebastian Ramacher <sramacher@debian.org>

intel-vaapi-driver 1.8.0

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>