media: hantro: Add quirk for NV12/NV12_4L4 capture format
authorEzequiel Garcia <ezequiel@collabora.com>
Tue, 16 Nov 2021 14:38:34 +0000 (14:38 +0000)
committerMauro Carvalho Chehab <mchehab+huawei@kernel.org>
Mon, 22 Nov 2021 07:42:24 +0000 (07:42 +0000)
commitbb91e46eb017876689757cc208c047c518b4189b
tree1773494569a043907685020958ed2a5ca9eda036
parent53a3e71095c572333ceea30762565dbedec951ca
media: hantro: Add quirk for NV12/NV12_4L4 capture format

The G2 core decoder engine produces NV12_4L4 format,
which is a simple NV12 4x4 tiled format. The driver currently
hides this format by always enabling the post-processor engine,
and therefore offering NV12 directly.

This is done without using the logic in hantro_postproc.c
and therefore makes it difficult to add VP9 cleanly.

Since fixing this is not easy, add a small quirk to force
NV12 if HEVC was configured, but otherwise declare NV12_4L4
as the pixel format in imx8mq_vpu_g2_variant.dec_fmts.

This will be used by the VP9 decoder which will be added soon.

Signed-off-by: Ezequiel Garcia <ezequiel@collabora.com>
Signed-off-by: Andrzej Pietrasiewicz <andrzej.p@collabora.com>
Signed-off-by: Hans Verkuil <hverkuil-cisco@xs4all.nl>
Signed-off-by: Mauro Carvalho Chehab <mchehab+huawei@kernel.org>
drivers/staging/media/hantro/hantro_v4l2.c
drivers/staging/media/hantro/imx8m_vpu_hw.c