Don't compare an array against NULL

Instead we should use the corresponding pointers

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Make sure a pointer is valid before using

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Don't compare an unsigned variable with 0

For an unsigned variable xxx, 'xxx < 0U' is always false, and 'xxx >=
0U' is always true

In addition, this commit fixes a minor syntax error.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Check function return value

i965_gpe_allocate_2d_resource() may return error

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Correct the valid buffer size

Otherwise it might result in out-of-bounds access of i965->va_vendor

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Remove implicit truncation from unsigned int to bit field

All the members of struct i965_sampler_8x8_coefficient are signed
int of 8 bit long (ranging from -128 to 127).

But there is an assignation of 1U<<7 which is implicitly truncated
to -128.

To make explicit the casting, without losing the expresiveness of
the bitwise operation, this patch adds a macro which uses the
anonymous union technique.

Remove implicit truncations from int to bit-field

All the members in the structures scoreboard1 and scoreboard2 are
signed int of 4 bit long (this means they only admit values from
-8 to 7).

Along the code, these structures are assigned with values bigger
than 7 which are implicitly truncated to negative numbers. For
example, 0xF -> -1 or 0xE -> -2

It is better to explictly show the assigned values than rely on
implicit convertions. This patch aims to that direction.

Remove spurious assignations

build: fix meson build

When X11 is found, the variable assigned is HAVE_X11 but the used
one is WITH_X11, failing to define it in the config header.

Update .travis.yml

Like what we did in commit 14a2088 for libva, the corresponding fix is
also required for this driver to avoid locking dpkg file by an
unattended `apt-get` call

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Merge branch 'v2.1-branch' into master

intel-vaapi-driver 2.1.0

Signed-off-by: Haihao Xiang <haihao.xiang@intel.com>

Add meson support

build: delete shaders targets at distclean

build: EXTRA_DIST doesn't recognize wildcards

build: add to VPATH src and build dirs

In order to make out-of-tree builds and distcheck to work, we should
set the VPATH to look for sources also in srcdir and builddir.

build: automake options in configure.ac

Consolidate automake options in configure.ac rather than have them
dispersed.

build: remove undefined variable

WAYLAND_CFLAGS is not defined by configure.ac

build: autotools: clean check for wayland dependency

Clean up the the checks for wayland dependencies.

build: autotools: don't check for X11 libraries

The driver doesn't link with any X11 library so there is no need to
check for their pkgconfig's data.

build: autotools: don't check for EGL

libEGL is loaded in run-time using dlopen, thus there is no need to
check for it at comiplation time.

build: autotools: check for dlopen library

build: autotools: remove useless --enable-drm parameter

Link with libdrm is mandatory, thus there is no need for a configure
parameter.

In the other hand, link with libva-drm is only required when the unit
tests are enabled.

build: test: enable out-of-source building

It is a good practice to build packages out-of-source tree, but its
support for the unit test is not correct. This patch enables it.

build: automake: add -Wno-portability

In order to suppress the warning

src/Makefile.am:117: warning: '%'-style pattern rules are a GNU make extension

build: Remove unused variable

Fixes: #327

build: Add libdrm_intel dependency

Fixes: #326

build: fix variable name

intel-vaapi-driver 2.1.0.pre1

Update NEWS and bump a new version

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Support VBR for HEVC 10bit

VBR should be returned when querying the supported RC modes for
VAProfileHEVCMain10/VAEntrypointEncSlice pair

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

intel-vaapi-driver 2.1.1.pre1 for development

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

test: add virtual dtor to abstract classes

Abstract classes should have virtual destructors.
Missing virtual dtor's can be detected with
-Wnon-virtual-dtor compiler flag, too.

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Fix a typo

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add the missing files to the corresponding lists

Otherwise, the tar ball created by 'make dist' doesn't include these
files

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

i965_avc_encoder: Fix possible NULL pointer dereferencing

ENC/VP8: set value to VA_ATTRIB_NOT_SUPPORTED when querying VAConfigAttribEncPackedHeaders

vaGetConfigAttributes() should return VA_ATTRIB_NOT_SUPPORTED if the
corresponding attribute is not supported for a given profile/entrypoint
pair. The driver doesn't support any packed header from application for
VP8 encoding.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Return surface width/height in pixels

width/height in VADRMPRIMESurfaceDescriptor specifies the
surface width/height in pixels in VA-API, so we should set
the corresponding variables in pixels in the driver

This fixes https://github.com/01org/intel-vaapi-driver/issues/342,
thanks pkerling for the investigation and proposed fix for this issue.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Enable VP9 non-low power encoding

We re-use KBL VP9 code

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add support for VDEnc VP9 CBR/VBR mode on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add support for VDEnc VP9 CQP mode on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add flags for VP9 low power encoding mode

Add some related checks as well

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add a flag for VP9 BRC mode in struct hw_codec_info

Use this new flag to check the supported BRC mode

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add vdenc common commands for CNL

It provides helper functions for low power encoding on CNL

Signed-off-by: peng.chen <peng.c.chen@intel.com>
Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Add HuC common commands for CNL

It provides helper functions for low power encoding on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add GPE function for MI_COPY_MEM_MEM command

This function is used to reads 4 bytes from memory and stores the value
of that 4 bytes to back to memory, both source and destination addresses
are Per Process Graphics Address

It is a helper function for low power encoding support

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Avoid dereferencing a pointer before checking pointer against NULL

It is possible a sequence parameter buffer is not provided by
application.

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

New PCI IDs for CFL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

CQP is supported for jpeg

This fixed regression since 336d891

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

VP8 encoding doesn't require packed header

The corresponding value is set to VA_ENC_PACKED_HEADER_NONE when
querying the supported packed headers. This fixes the regression
caused by cccf2a3 when using FFmpeg/vaapi

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

ENC:fix min resolution check for encoder

JPEG encoder allow min resolution 1x1
add min resolution check in vaCreateContext to avoid gtest failture
add fix for gtest case
fix the regression in 88249259d4abb2fd701ed3db229941738da2497e

Fixes #330 #333
Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

test/avce_context: update RC expectation for Stats entrypoint

Rate control attribute is unsupported for AVCE VAEntrypointStats.

This fixes the following test regressions since 336d8913aa30:

AVCEncode/AVCEContextTest.RateControl/3, where GetParam()
  = (VAProfileH264ConstrainedBaseline, VAEntrypointStats)

AVCEncode/AVCEContextTest.RateControl/7, where GetParam()
  = (VAProfileH264Main, VAEntrypointStats)

AVCEncode/AVCEContextTest.RateControl/11, where GetParam()
  = (VAProfileH264High, VAEntrypointStats)

Signed-off-by: U. Artie Eoff <ullysses.a.eoff@intel.com>

Check the flags of the packed headers when creating a config

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Check the requirement on RC mode

This fixes https://github.com/01org/intel-vaapi-driver/issues/337

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Check decoding mode

VA_DEC_SLICE_MODE_NORMAL is supported only for decoding

This fixes https://github.com/01org/intel-vaapi-driver/issues/336

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Update .gitignore

Filter out generated Gen assembly files

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

Use generic register instead of acc0 to calculate the Y/U/V or R/G/B offset

The instruction 'mov' cannot assign acc0 with :v anymore on CNL, so all AVS shaders
doesn't work as expected. Replacing acc0 with GRF registers works well on CNL and it
works on GEN8/GEN9 too.

v2: update code style

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

ENC: add sanity check for invalid input resolution of encoder

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

ENC: add mininum resolution query for encoder

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Fix AVC encoding regression on KBL/GLK/CFL

adaptive transform decision is disabled by default for KBL/GLK/CFL

This fixes https://github.com/01org/intel-vaapi-driver/issues/323

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

enc: Add restriction to vp9 encoder frame rate to avoid hang

Signed-off-by: jkyu <jiankang.yu@intel.com>

ENC: fix AVC multi slice

Fixes #324

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Enc: fix AVC mbenc curbe paraterer on CNL

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

ENC/jpeg: fix regression with Small optimization

This fixes 6c1b9b345982babde748518de1834e2af8bcf321:
Small optimization while removing warning

The higher 16 bit of dword_qm[j] (j = 0, 1, ..., 31) is
65535 / (raster_qm[i + 1]) (i = 0, 2, 4, ..., 62)

This fixes https://github.com/01org/intel-vaapi-driver/issues/319

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

VDENC: Add the VDENC H264 on CNL

Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>
Signed-off-by: Pengfei Qu <pengfei.qu@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the HEVC encoder on CNL

It was initialed by Yakui

Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add common HCP implementation for CNL

Signed-off-by: peng.chen <peng.c.chen@intel.com>

ENC: enable avc encoder on cnl

Signed-off-by: Pengfei Qu <pengfei.qu@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

ENC: add AVC encoder media kernel on CNL

Signed-off-by: Pengfei Qu <pengfei.qu@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add support for VP8 encode on CNL

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Add the initial support of CNL

Signed-off-by: Zhao Yakui <yakui.zhao@intel.com>
Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>
Signed-off-by: peng.chen <peng.c.chen@intel.com>

Fix: AVC encoder use at most 4 fwd ref frames and 1 bwd ref frames

Fixes #272

Signed-off-by: Pengfei Qu <Pengfei.Qu@intel.com>

Stats/PreEnc: tests: Add VAEntryPointStats

Add the Stats entrypoint in test case scenarios.

intel-vaapi-driver PR: https://github.com/01org/intel-vaapi-driver/pull/282
libva PR: https://github.com/01org/libva/pull/110

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Stats/PreEnc: Add GEN9 AVC PreEnc support

The AVC PreEnc includes three stage processing:

1: It does the dowscaling of source and reference pictures.
Also generate the variance and pixel average of current frame,
past and future ref based on user request.

2: Second stage involves the Hierarchical Motion Estimation
Only the 4x hme is supported in PreEnc.

3:Third stage is a PreProc which can generate the Motion Vectors and
Distortion values

libva PR: https://github.com/01org/libva/pull/110

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Stat/PreEnc: Add GEN9 AVC PreEnc specific constants

* Added preproc curbe init data for I,P and B frames.
* Add preproc ftq lut init constants

libva PR: https://github.com/01org/libva/pull/110

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Stats/PreEnc: Add basic infrastructure for PreEnc enablement

Add necessary changes in common structures and apis
to support Stats Entrypoint.

* add support for the new entrypoint VAEntrypointStats
* added new preproc encode operation enum
* define virtual methods for preproc_set_curbe/send_surface
* add fixes in vaQueryConfigEntrypoints(), vaQueryConfigProfiles,
  vaGetConfigAttributes(), vaQuerySurfaceAttributes(),
  vaCreateContext(), vaCreateBuffer(),vaBeginPicture(),
  vaRenderPicture() and vaEndPicture()
* If PreEnc enabled, only invoke VME.

Note: Enabled the PreEnc Support only for avc encode in Skylake.

libva PR: https://github.com/01org/libva/pull/110

Signed-off-by: Sreerenj Balachandran <sreerenj.balachandran@intel.com>

Add informational messages for developers on failed H.265 checks

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add informational messages for developers on failed H.264 checks

Includes a warning if the level appears to be invalid, but continues anyway
in this case (it could be a correct future value or an unknown extension).

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Fix coding style error from astyle

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Add support for H.264 levels 6, 6.1 and 6.2

Fixes #307.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Convert H.264 level limit lookup functions to use a table

Do not abort on unknown values - instead use the limits for the nearest
valid value of level_idc less than the given one.

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Remove unused functions for slice and mv limits

Signed-off-by: Mark Thompson <sw@jkqxz.net>

Include missing do in do/while macro

i965_encoder_vp8.c:1895:123: note: put the semicolon on a separate line
                             to silence this warning
i965_encoder_vp8.c:1898:112: warning: while loop has empty body

> ALLOC_VP8_RESOURCE_BUFFER(pak_mpu_tpu_picture_state_buffer,
>                           VP8_PICTURE_STATE_SIZE,
>                           "Picture state buffer");

Signed-off-by: Victor Toso <victortoso@redhat.com>

Use enum's type name to fix implicit conversion

The implicit conversion happens because there is another enum defined with
the name GEN9_HEVC_ENC_SURFACE_TYPE introduced in the same commit 455351f9

To avoid the several warnings below (by clang), let's use the enum's
defined type name.

gen9_hevc_encoder.c:5754:34: warning: implicit conversion from
enumeration type 'enum _GEN9_HEVC_ENC_SURFACE_TYPE' to different
enumeration type 'enum GEN9_HEVC_ENC_SURFACE_TYPE' [-Wenum-conversion]
     HEVC_ENC_SURFACE_Y_2X, bti_idx,
     ^~~~~~~~~~~~~~~~~~~~~

Signed-off-by: Victor Toso <victortoso@redhat.com>

Fix coding style

Fix requested by the pre-commit hook introduced in 2f0a8449f37b
> astyle --style=linux -cnpUH -s4 -M120 \
> src/gen9_hevc_encoder.c src/i965_encoder_vp8.c

This is necessary to avoid unrelated changes in the next two commits.

Signed-off-by: Victor Toso <victortoso@redhat.com>

Fix possible implicit conversion

Change variables and function's return type to unsigned int to be able to
hold 4010803200 (level_idc is 186) which is bigger then INT_MAX.

> gen9_hevc_enc_utils.c:72:19: warning: implicit conversion from 'long' to
> 'int' changes value from 4010803200 to -284164096 [-Wconstant-conversion]
>         max_bps = 4010803200;
>                 ~ ^~~~~~~~~~

Signed-off-by: Victor Toso <victortoso@redhat.com>

Fix check return value without assignment

gen9_hevc_encoder.c:1248:19: warning: using the result of an assignment
as a condition without parentheses [-Wparentheses]
    if (va_status |= VA_STATUS_SUCCESS)
        ~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~

Signed-off-by: Victor Toso <victortoso@redhat.com>

i965: Remove negative check on unsigned variable

Since its intoduction at 58a4a6afe80835829e95d

> i965_drv_video.c:2860:23: warning: comparison of unsigned
> expression < 0 is always false [-Wtautological-compare]
>    if ((num_elements < 0) ||
>         ~~~~~~~~~~~~ ^ ~

Signed-off-by: Victor Toso <victortoso@redhat.com>

Small optimization while removing warning

Removed the helper array and its initialization loop as we can achieve the
same with two variables in one loop.

This patch also removes the warning below:

> gen8_mfc.c:2735:9: warning: variable 'i' is incremented both in the loop
> header and in the loop body [-Wfor-loop-analysis]
>         i++;
>         ^
> gen8_mfc.c:2732:25: note: incremented here
>     for (i = 0; i < 64; i++) {
>                         ^

Signed-off-by: Victor Toso <victortoso@redhat.com>

VC1: Fix for frame coding mode

Some VC1 clips might be marked interlaced but have fcm < 2, and the
wrong fcm will lead to undefined behavior, such as GPU hang.

This fixes https://github.com/01org/intel-vaapi-driver/issues/316

Signed-off-by: Xiang, Haihao <haihao.xiang@intel.com>

genX_mfd: add comment on dmv buffer scaling

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: optimize comparison out of loop

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix code indenting

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen8_mfd: program hardware for range reduction scaling

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: clean up the use of profile bitstream element

Only gen6 needs mapping from input range to the hardware range for
the profile bitstream element. For gen7 and up there is no need for a
mapping as the hardware uses only one bit indicating simple/main profile
or advanced profile. Therefore, we can remove the mapping for gen7 and
clean up the code a bit.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix range reduction scaling

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix dmv buffer size calculation

The picture size may vary within a VC-1 stream. We should calculate
the dmv buffer size from the size of the surface instead of the
size of the first picture that uses the surface. Subsequent pictures
may be larger, which could overflow the dmv buffer.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

genX_mfd: fix intensity compensation for frame-interlaced content

When frame-interlaced pictures are signalled to be intensity
compensated, we need to set the hardware to compensating both the top and
the bottom field.

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen7_mfd: remove obsolete gen7_vc1_surface fields

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

i965_decoder_utils: enable decoding of VC-1 interlaced pictures

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>

gen8_mfd: add support for VC-1 interlaced intensity compensation

Signed-off-by: Jerome Borsboom <jerome.borsboom@carpalis.nl>