mirror of
https://repo.dactyloidae.xyz/Dactyloidae/UXP.git
synced 2026-10-08 16:27:31 +09:00
Update aom to slightly newer commit ID
This commit is contained in:
trav90
Roy Tam
parent
1c8af26369
commit
76f1e6edca
311 changed files with 55292 additions and 33790 deletions
312
third_party/aom/av1/common/common_data.h
vendored
312
third_party/aom/av1/common/common_data.h
vendored
|
|
@ -21,105 +21,117 @@ extern "C" {
|
|||
#endif
|
||||
|
||||
#if CONFIG_EXT_PARTITION
|
||||
#define IF_EXT_PARTITION(...) __VA_ARGS__
|
||||
#define IF_EXT_PARTITION(...) __VA_ARGS__,
|
||||
#else
|
||||
#define IF_EXT_PARTITION(...)
|
||||
#endif
|
||||
|
||||
// Log 2 conversion lookup tables for block width and height
|
||||
static const uint8_t b_width_log2_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t b_width_log2_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
0, 0, 0,
|
||||
#endif
|
||||
0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, IF_EXT_PARTITION(4, 5, 5)
|
||||
0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, IF_EXT_PARTITION(4, 5, 5) 0, 2, 1, 3
|
||||
};
|
||||
static const uint8_t b_height_log2_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t b_height_log2_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
0, 0, 0,
|
||||
#endif
|
||||
0, 1, 0, 1, 2, 1, 2, 3, 2, 3, 4, 3, 4, IF_EXT_PARTITION(5, 4, 5)
|
||||
0, 1, 0, 1, 2, 1, 2, 3, 2, 3, 4, 3, 4, IF_EXT_PARTITION(5, 4, 5) 2, 0, 3, 1
|
||||
};
|
||||
// Log 2 conversion lookup tables for modeinfo width and height
|
||||
static const uint8_t mi_width_log2_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t mi_width_log2_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
0, 0, 0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, IF_EXT_PARTITION(4, 5, 5)
|
||||
0, 0, 0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, IF_EXT_PARTITION(4, 5, 5) 0,
|
||||
2, 1, 3
|
||||
#else
|
||||
0, 0, 0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, IF_EXT_PARTITION(3, 4, 4)
|
||||
0, 0, 0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, IF_EXT_PARTITION(3, 4, 4) 0, 1, 0, 2
|
||||
#endif
|
||||
};
|
||||
static const uint8_t mi_height_log2_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t mi_height_log2_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
0, 0, 0, 0, 1, 0, 1, 2, 1, 2, 3, 2, 3, 4, 3, 4, IF_EXT_PARTITION(5, 4, 5)
|
||||
0, 0, 0, 0, 1, 0, 1, 2, 1, 2, 3, 2, 3, 4, 3, 4, IF_EXT_PARTITION(5, 4, 5) 2,
|
||||
0, 3, 1
|
||||
#else
|
||||
0, 0, 0, 0, 1, 0, 1, 2, 1, 2, 3, 2, 3, IF_EXT_PARTITION(4, 3, 4)
|
||||
0, 0, 0, 0, 1, 0, 1, 2, 1, 2, 3, 2, 3, IF_EXT_PARTITION(4, 3, 4) 1, 0, 2, 0
|
||||
#endif
|
||||
};
|
||||
|
||||
static const uint8_t mi_size_wide[BLOCK_SIZES] = {
|
||||
/* clang-format off */
|
||||
static const uint8_t mi_size_wide[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, 8, 16, 16, IF_EXT_PARTITION(16, 32, 32)
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, 8, 16, 16,
|
||||
IF_EXT_PARTITION(16, 32, 32) 1, 4, 2, 8
|
||||
#else
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, IF_EXT_PARTITION(8, 16, 16)
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, IF_EXT_PARTITION(8, 16, 16) 1, 2, 1, 4
|
||||
#endif
|
||||
};
|
||||
static const uint8_t mi_size_high[BLOCK_SIZES] = {
|
||||
static const uint8_t mi_size_high[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, 16, 8, 16, IF_EXT_PARTITION(32, 16, 32)
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, 16, 8, 16,
|
||||
IF_EXT_PARTITION(32, 16, 32) 4, 1, 8, 2
|
||||
#else
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, IF_EXT_PARTITION(16, 8, 16)
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, IF_EXT_PARTITION(16, 8, 16) 2, 1, 4, 1
|
||||
#endif
|
||||
};
|
||||
/* clang-format on */
|
||||
|
||||
// Width/height lookup tables in units of various block sizes
|
||||
static const uint8_t block_size_wide[BLOCK_SIZES] = {
|
||||
static const uint8_t block_size_wide[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
2, 2, 4,
|
||||
2, 2, 4,
|
||||
#endif
|
||||
4, 4, 8, 8, 8, 16, 16, 16, 32, 32, 32, 64, 64, IF_EXT_PARTITION(64, 128, 128)
|
||||
4, 4, 8, 8, 8, 16, 16,
|
||||
16, 32, 32, 32, 64, 64, IF_EXT_PARTITION(64, 128, 128) 4,
|
||||
16, 8, 32
|
||||
};
|
||||
|
||||
static const uint8_t block_size_high[BLOCK_SIZES] = {
|
||||
static const uint8_t block_size_high[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
2, 4, 2,
|
||||
2, 4, 2,
|
||||
#endif
|
||||
4, 8, 4, 8, 16, 8, 16, 32, 16, 32, 64, 32, 64, IF_EXT_PARTITION(128, 64, 128)
|
||||
4, 8, 4, 8, 16, 8, 16,
|
||||
32, 16, 32, 64, 32, 64, IF_EXT_PARTITION(128, 64, 128) 16,
|
||||
4, 32, 8
|
||||
};
|
||||
|
||||
static const uint8_t num_4x4_blocks_wide_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_4x4_blocks_wide_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 1, 2, 2, 2, 4, 4, 4, 8, 8, 8, 16, 16, IF_EXT_PARTITION(16, 32, 32)
|
||||
1, 1, 2, 2, 2, 4, 4, 4, 8, 8, 8, 16, 16, IF_EXT_PARTITION(16, 32, 32) 1,
|
||||
4, 2, 8
|
||||
};
|
||||
static const uint8_t num_4x4_blocks_high_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_4x4_blocks_high_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 2, 1, 2, 4, 2, 4, 8, 4, 8, 16, 8, 16, IF_EXT_PARTITION(32, 16, 32)
|
||||
1, 2, 1, 2, 4, 2, 4, 8, 4, 8, 16, 8, 16, IF_EXT_PARTITION(32, 16, 32) 4,
|
||||
1, 8, 2
|
||||
};
|
||||
static const uint8_t num_8x8_blocks_wide_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_8x8_blocks_wide_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, IF_EXT_PARTITION(8, 16, 16)
|
||||
1, 1, 1, 1, 1, 2, 2, 2, 4, 4, 4, 8, 8, IF_EXT_PARTITION(8, 16, 16) 1, 2, 1, 4
|
||||
};
|
||||
static const uint8_t num_8x8_blocks_high_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_8x8_blocks_high_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, IF_EXT_PARTITION(16, 8, 16)
|
||||
1, 1, 1, 1, 2, 1, 2, 4, 2, 4, 8, 4, 8, IF_EXT_PARTITION(16, 8, 16) 2, 1, 4, 1
|
||||
};
|
||||
static const uint8_t num_16x16_blocks_wide_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_16x16_blocks_wide_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 4, 4, IF_EXT_PARTITION(4, 8, 8)
|
||||
1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 4, 4, IF_EXT_PARTITION(4, 8, 8) 1, 1, 1, 2
|
||||
};
|
||||
static const uint8_t num_16x16_blocks_high_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_16x16_blocks_high_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
1, 1, 1,
|
||||
#endif
|
||||
1, 1, 1, 1, 1, 1, 1, 2, 1, 2, 4, 2, 4, IF_EXT_PARTITION(8, 4, 8)
|
||||
1, 1, 1, 1, 1, 1, 1, 2, 1, 2, 4, 2, 4, IF_EXT_PARTITION(8, 4, 8) 1, 1, 2, 1
|
||||
};
|
||||
|
||||
// AOMMIN(3, AOMMIN(b_width_log2(bsize), b_height_log2(bsize)))
|
||||
|
|
@ -130,11 +142,12 @@ static const uint8_t size_group_lookup[BLOCK_SIZES] = {
|
|||
0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 3, IF_EXT_PARTITION(3, 3, 3)
|
||||
};
|
||||
|
||||
static const uint8_t num_pels_log2_lookup[BLOCK_SIZES] = {
|
||||
static const uint8_t num_pels_log2_lookup[BLOCK_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
2, 3, 3,
|
||||
#endif
|
||||
4, 5, 5, 6, 7, 7, 8, 9, 9, 10, 11, 11, 12, IF_EXT_PARTITION(13, 13, 14)
|
||||
4, 5, 5, 6, 7, 7, 8, 9, 9, 10, 11, 11, 12, IF_EXT_PARTITION(13, 13, 14) 6,
|
||||
6, 8, 8
|
||||
};
|
||||
|
||||
/* clang-format off */
|
||||
|
|
@ -424,9 +437,11 @@ static const BLOCK_SIZE subsize_lookup[PARTITION_TYPES][BLOCK_SIZES] =
|
|||
};
|
||||
|
||||
static const TX_SIZE max_txsize_lookup[BLOCK_SIZES] = {
|
||||
#if CONFIG_CB4X4
|
||||
// 2X2, 2X4, 4X2,
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, TX_2X2, TX_2X2,
|
||||
#elif CONFIG_CB4X4
|
||||
TX_4X4, TX_4X4, TX_4X4,
|
||||
#endif
|
||||
// 4X4
|
||||
TX_4X4,
|
||||
|
|
@ -457,10 +472,12 @@ static const TX_SIZE max_txsize_lookup[BLOCK_SIZES] = {
|
|||
|
||||
#if CONFIG_RECT_TX && (CONFIG_EXT_TX || CONFIG_VAR_TX)
|
||||
static const TX_SIZE max_txsize_rect_lookup[BLOCK_SIZES] = {
|
||||
#if CONFIG_CB4X4
|
||||
// 2X2, 2X4, 4X2,
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, TX_2X2, TX_2X2,
|
||||
#endif // CONFIG_CB4X4
|
||||
#elif CONFIG_CB4X4
|
||||
TX_4X4, TX_4X4, TX_4X4,
|
||||
#endif
|
||||
// 4X4
|
||||
TX_4X4,
|
||||
// 4X8, 8X4, 8X8
|
||||
|
|
@ -487,10 +504,49 @@ static const TX_SIZE max_txsize_rect_lookup[BLOCK_SIZES] = {
|
|||
#endif // CONFIG_EXT_PARTITION
|
||||
#endif // CONFIG_TX64X64
|
||||
};
|
||||
|
||||
#if CONFIG_EXT_TX && CONFIG_RECT_TX_EXT
|
||||
static const TX_SIZE quarter_txsize_lookup[BLOCK_SIZES] = {
|
||||
#if CONFIG_CB4X4
|
||||
// 2X2, 2X4, 4X2,
|
||||
TX_INVALID, TX_INVALID, TX_INVALID,
|
||||
#endif
|
||||
// 4x4,
|
||||
TX_INVALID,
|
||||
// 4x8, 8x4, 8x8,
|
||||
TX_INVALID, TX_INVALID, TX_INVALID,
|
||||
// 8x16, 16x8, 16x16,
|
||||
TX_4X16, TX_16X4, TX_INVALID,
|
||||
// 16x32, 32x16, 32x32,
|
||||
TX_8X32, TX_32X8, TX_INVALID,
|
||||
// 32x64, 64x32, 64x64
|
||||
TX_INVALID, TX_INVALID, TX_INVALID,
|
||||
#if CONFIG_EXT_PARTITION
|
||||
// 64x128, 128x64, 128x128
|
||||
TX_INVALID, TX_INVALID, TX_INVALID,
|
||||
#endif
|
||||
};
|
||||
#endif // CONFIG_EXT_TX && CONFIG_RECT_TX_EXT
|
||||
#else
|
||||
#define max_txsize_rect_lookup max_txsize_lookup
|
||||
#endif // CONFIG_RECT_TX && (CONFIG_EXT_TX || CONFIG_VAR_TX)
|
||||
|
||||
static const TX_TYPE_1D vtx_tab[TX_TYPES] = {
|
||||
DCT_1D, ADST_1D, DCT_1D, ADST_1D,
|
||||
#if CONFIG_EXT_TX
|
||||
FLIPADST_1D, DCT_1D, FLIPADST_1D, ADST_1D, FLIPADST_1D, IDTX_1D,
|
||||
DCT_1D, IDTX_1D, ADST_1D, IDTX_1D, FLIPADST_1D, IDTX_1D,
|
||||
#endif // CONFIG_EXT_TX
|
||||
};
|
||||
|
||||
static const TX_TYPE_1D htx_tab[TX_TYPES] = {
|
||||
DCT_1D, DCT_1D, ADST_1D, ADST_1D,
|
||||
#if CONFIG_EXT_TX
|
||||
DCT_1D, FLIPADST_1D, FLIPADST_1D, FLIPADST_1D, ADST_1D, IDTX_1D,
|
||||
IDTX_1D, DCT_1D, IDTX_1D, ADST_1D, IDTX_1D, FLIPADST_1D,
|
||||
#endif // CONFIG_EXT_TX
|
||||
};
|
||||
|
||||
#if CONFIG_RECT_TX && (CONFIG_EXT_TX || CONFIG_VAR_TX)
|
||||
// Same as "max_txsize_lookup[bsize] - TX_8X8", except for rectangular
|
||||
// block which may use a rectangular transform, in which case it is
|
||||
|
|
@ -571,7 +627,7 @@ static const int32_t intra_tx_size_cat_lookup[BLOCK_SIZES] = {
|
|||
/* clang-format on */
|
||||
|
||||
static const TX_SIZE sub_tx_size_map[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, // TX_2X2
|
||||
#endif
|
||||
TX_4X4, // TX_4X4
|
||||
|
|
@ -594,7 +650,7 @@ static const TX_SIZE sub_tx_size_map[TX_SIZES_ALL] = {
|
|||
};
|
||||
|
||||
static const TX_SIZE txsize_horz_map[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, // TX_2X2
|
||||
#endif
|
||||
TX_4X4, // TX_4X4
|
||||
|
|
@ -617,7 +673,7 @@ static const TX_SIZE txsize_horz_map[TX_SIZES_ALL] = {
|
|||
};
|
||||
|
||||
static const TX_SIZE txsize_vert_map[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, // TX_2X2
|
||||
#endif
|
||||
TX_4X4, // TX_4X4
|
||||
|
|
@ -639,7 +695,7 @@ static const TX_SIZE txsize_vert_map[TX_SIZES_ALL] = {
|
|||
TX_8X8, // TX_32X8
|
||||
};
|
||||
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
#define TX_SIZE_W_MIN 2
|
||||
#else
|
||||
#define TX_SIZE_W_MIN 4
|
||||
|
|
@ -647,7 +703,7 @@ static const TX_SIZE txsize_vert_map[TX_SIZES_ALL] = {
|
|||
|
||||
// Transform block width in pixels
|
||||
static const int tx_size_wide[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
2,
|
||||
#endif
|
||||
4, 8, 16, 32,
|
||||
|
|
@ -657,7 +713,7 @@ static const int tx_size_wide[TX_SIZES_ALL] = {
|
|||
4, 8, 8, 16, 16, 32, 4, 16, 8, 32
|
||||
};
|
||||
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
#define TX_SIZE_H_MIN 2
|
||||
#else
|
||||
#define TX_SIZE_H_MIN 4
|
||||
|
|
@ -665,7 +721,7 @@ static const int tx_size_wide[TX_SIZES_ALL] = {
|
|||
|
||||
// Transform block height in pixels
|
||||
static const int tx_size_high[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
2,
|
||||
#endif
|
||||
4, 8, 16, 32,
|
||||
|
|
@ -677,41 +733,41 @@ static const int tx_size_high[TX_SIZES_ALL] = {
|
|||
|
||||
// Transform block width in unit
|
||||
static const int tx_size_wide_unit[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
1, 2, 4, 8, 16,
|
||||
#if CONFIG_TX64X64
|
||||
32,
|
||||
#endif // CONFIG_TX64X64
|
||||
2, 4, 4, 8, 8, 16, 2, 8, 4, 16
|
||||
#else // CONFIG_CB4X4
|
||||
#else // CONFIG_CHROMA_2X2
|
||||
1, 2, 4, 8,
|
||||
#if CONFIG_TX64X64
|
||||
16,
|
||||
#endif // CONFIG_TX64X64
|
||||
1, 2, 2, 4, 4, 8, 1, 4, 2, 8
|
||||
#endif // CONFIG_CB4X4
|
||||
#endif // CONFIG_CHROMA_2X2
|
||||
};
|
||||
|
||||
// Transform block height in unit
|
||||
static const int tx_size_high_unit[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
1, 2, 4, 8, 16,
|
||||
#if CONFIG_TX64X64
|
||||
32,
|
||||
#endif // CONFIG_TX64X64
|
||||
4, 2, 8, 4, 16, 8, 8, 2, 16, 4
|
||||
#else // CONFIG_CB4X4
|
||||
#else // CONFIG_CHROMA_2X2
|
||||
1, 2, 4, 8,
|
||||
#if CONFIG_TX64X64
|
||||
16,
|
||||
#endif // CONFIG_TX64X64
|
||||
2, 1, 4, 2, 8, 4, 4, 1, 8, 2
|
||||
#endif // CONFIG_CB4X4
|
||||
#endif // CONFIG_CHROMA_2X2
|
||||
};
|
||||
|
||||
// Transform block width in log2
|
||||
static const int tx_size_wide_log2[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
1,
|
||||
#endif
|
||||
2, 3, 4, 5,
|
||||
|
|
@ -723,7 +779,7 @@ static const int tx_size_wide_log2[TX_SIZES_ALL] = {
|
|||
|
||||
// Transform block height in log2
|
||||
static const int tx_size_high_log2[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
1,
|
||||
#endif
|
||||
2, 3, 4, 5,
|
||||
|
|
@ -733,8 +789,11 @@ static const int tx_size_high_log2[TX_SIZES_ALL] = {
|
|||
3, 2, 4, 3, 5, 4, 4, 2, 5, 3
|
||||
};
|
||||
|
||||
#define TX_UNIT_WIDE_LOG2 (MI_SIZE_LOG2 - tx_size_wide_log2[0])
|
||||
#define TX_UNIT_HIGH_LOG2 (MI_SIZE_LOG2 - tx_size_high_log2[0])
|
||||
|
||||
static const int tx_size_2d[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
4,
|
||||
#endif
|
||||
16, 64, 256, 1024,
|
||||
|
|
@ -745,7 +804,7 @@ static const int tx_size_2d[TX_SIZES_ALL] = {
|
|||
};
|
||||
|
||||
static const BLOCK_SIZE txsize_to_bsize[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
BLOCK_2X2, // TX_2X2
|
||||
#endif
|
||||
BLOCK_4X4, // TX_4X4
|
||||
|
|
@ -753,22 +812,22 @@ static const BLOCK_SIZE txsize_to_bsize[TX_SIZES_ALL] = {
|
|||
BLOCK_16X16, // TX_16X16
|
||||
BLOCK_32X32, // TX_32X32
|
||||
#if CONFIG_TX64X64
|
||||
BLOCK_64X64, // TX_64X64
|
||||
#endif // CONFIG_TX64X64
|
||||
BLOCK_4X8, // TX_4X8
|
||||
BLOCK_8X4, // TX_8X4
|
||||
BLOCK_8X16, // TX_8X16
|
||||
BLOCK_16X8, // TX_16X8
|
||||
BLOCK_16X32, // TX_16X32
|
||||
BLOCK_32X16, // TX_32X16
|
||||
BLOCK_INVALID, // TX_4X16
|
||||
BLOCK_INVALID, // TX_16X4
|
||||
BLOCK_INVALID, // TX_8X32
|
||||
BLOCK_INVALID, // TX_32X8
|
||||
BLOCK_64X64, // TX_64X64
|
||||
#endif // CONFIG_TX64X64
|
||||
BLOCK_4X8, // TX_4X8
|
||||
BLOCK_8X4, // TX_8X4
|
||||
BLOCK_8X16, // TX_8X16
|
||||
BLOCK_16X8, // TX_16X8
|
||||
BLOCK_16X32, // TX_16X32
|
||||
BLOCK_32X16, // TX_32X16
|
||||
BLOCK_4X16, // TX_4X16
|
||||
BLOCK_16X4, // TX_16X4
|
||||
BLOCK_8X32, // TX_8X32
|
||||
BLOCK_32X8, // TX_32X8
|
||||
};
|
||||
|
||||
static const TX_SIZE txsize_sqr_map[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, // TX_2X2
|
||||
#endif
|
||||
TX_4X4, // TX_4X4
|
||||
|
|
@ -791,7 +850,7 @@ static const TX_SIZE txsize_sqr_map[TX_SIZES_ALL] = {
|
|||
};
|
||||
|
||||
static const TX_SIZE txsize_sqr_up_map[TX_SIZES_ALL] = {
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
TX_2X2, // TX_2X2
|
||||
#endif
|
||||
TX_4X4, // TX_4X4
|
||||
|
|
@ -864,6 +923,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
// ss_x == 0 ss_x == 0 ss_x == 1 ss_x == 1
|
||||
// ss_y == 0 ss_y == 1 ss_y == 0 ss_y == 1
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{
|
||||
// BLOCK_2X2
|
||||
{ { TX_2X2, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
|
|
@ -927,15 +987,77 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
#else // CONFIG_CHROMA_2X2
|
||||
{
|
||||
// BLOCK_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#if CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
{
|
||||
// BLOCK_2X4
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#if CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
{
|
||||
// BLOCK_2X4
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#if CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_TX64X64
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
#endif // CONFIG_CHROMA_2X2
|
||||
#endif
|
||||
{
|
||||
// BLOCK_4X4
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_2X2, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
{ { TX_4X4, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
#else
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_CB4X4
|
||||
#endif // CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -955,7 +1077,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_4X8
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_2X2, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
{ { TX_4X4, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
#else
|
||||
|
|
@ -967,7 +1089,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
#if CONFIG_TX64X64
|
||||
{ { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_TX64X64
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X8, TX_4X4 }, { TX_2X2, TX_2X2 } }, // used
|
||||
#else
|
||||
{ { TX_4X8, TX_4X4 }, { TX_4X4, TX_4X4 } }, // used
|
||||
|
|
@ -984,7 +1106,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_8X4
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_2X2, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
{ { TX_4X4, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
#else
|
||||
|
|
@ -997,7 +1119,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif // CONFIG_TX64X64
|
||||
{ { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_8X4, TX_2X2 }, { TX_4X4, TX_2X2 } }, // used
|
||||
#else
|
||||
{ { TX_8X4, TX_4X4 }, { TX_4X4, TX_4X4 } }, // used
|
||||
|
|
@ -1013,7 +1135,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_8X8
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_2X2, TX_2X2 }, { TX_2X2, TX_2X2 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1036,7 +1158,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_8X16
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1052,14 +1174,14 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
|
||||
{ { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
|
||||
{ { TX_8X16, TX_8X8 }, { TX_4X8, TX_4X8 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_4X16, TX_4X8 }, { TX_4X16, TX_4X8 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
{
|
||||
// BLOCK_16X8
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1076,13 +1198,13 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
|
||||
{ { TX_16X8, TX_8X4 }, { TX_8X8, TX_8X4 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_16X4, TX_16X4 }, { TX_8X4, TX_8X4 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
{
|
||||
// BLOCK_16X16
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1105,7 +1227,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_16X32
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1123,12 +1245,12 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_16X32, TX_16X16 }, { TX_8X16, TX_8X16 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_8X32, TX_8X16 }, { TX_4X16, TX_4X16 } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
},
|
||||
{
|
||||
// BLOCK_32X16
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1147,11 +1269,11 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_INVALID, TX_INVALID }, { TX_INVALID, TX_INVALID } },
|
||||
{ { TX_32X8, TX_32X8 }, { TX_16X8, TX_16X4 } },
|
||||
},
|
||||
{
|
||||
// BLOCK_32X32
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1174,7 +1296,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_32X64
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1197,7 +1319,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_64X32
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1220,7 +1342,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_64X64
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1244,7 +1366,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
#if CONFIG_EXT_PARTITION
|
||||
{
|
||||
// BLOCK_64X128
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1267,7 +1389,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_128X64
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1290,7 +1412,7 @@ static const TX_SIZE uv_txsize_lookup[BLOCK_SIZES][TX_SIZES_ALL][2][2] = {
|
|||
},
|
||||
{
|
||||
// BLOCK_128X128
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
@ -1371,7 +1493,7 @@ static const struct {
|
|||
static const TX_SIZE uvsupertx_size_lookup[TX_SIZES][2][2] = {
|
||||
// ss_x == 0 ss_x == 0 ss_x == 1 ss_x == 1
|
||||
// ss_y == 0 ss_y == 1 ss_y == 0 ss_y == 1
|
||||
#if CONFIG_CB4X4
|
||||
#if CONFIG_CHROMA_2X2
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
#endif
|
||||
{ { TX_4X4, TX_4X4 }, { TX_4X4, TX_4X4 } },
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue