JP7628633B2 - ビデオ信号の符号化方法および復号化方法並びにその装置 - Google Patents

Description

本願は、ビデオ信号の符号化方法および復号化方法並びにその装置に関する。

ディスプレイパネルの大型化の傾向に伴い、より高品質なビデオサービスが徐々に追求されている。高画質なビデオサービスの最大の問題は、データ量の大幅な増加であり、これらの問題を解決するために、ビデオ圧縮率の向上を目的とする研究が活発に行われている。代表的な例として、２００９年で動画エキスパートグループ（ＭＰＥＧ：Ｍｏｔｉｏｎ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔｓ Ｇｒｏｕｐ）および国際電気通信連合（ＩＴＵ－Ｔ：Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎ Ｕｎｉｏｎ－Ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎ）のビデオコーディングエキスパートグループ（ＶＣＥＧ：Ｖｉｄｅｏ Ｃｏｄｉｎｇ Ｅｘｐｅｒｔｓ Ｇｒｏｕｐ）はビデオコーディング共同チーム（ＪＣＴ－ＶＣ：Ｊｏｉｎｔ Ｃｏｌｌａｂｏｒａｔｉｖｅ Ｔｅａｍ ｏｎ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）を結成した。ＪＣＴ－ＶＣは、Ｈ．２６４／ＡＶＣと比べて約２倍の圧縮性能を有するビデオ圧縮規格である高効率ビデオコーディング（ＨＥＶＣ：Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）を提案し、当該規格は２０１３年１月２５日に承認された。しかしながら、高画質なビデオサービスの急速な発展に伴い、ＨＥＶＣの性能も徐々にその限界を示している。

本願の目的は、ビデオ信号の符号化または復号化において、現在のブロックに隣接する隣接ブロックのイントラ予測モードに基づいて、候補イントラ予測モードを導出する方法および前記方法を実行するための装置を提供することである。

本願の目的は、ビデオ信号の符号化または復号化において、コーディングブロックまたは変換ブロックを複数のサブブロックに分割し、各サブブロックに対してイントラ予測を実行する方法および前記方法を実行するための装置を提供することである。

本願の目的は、ビデオ信号の符号化または復号化において、コーディングブロックまたは変換ブロックを複数のサブブロックに分割し、サブブロックのうちの一部のみに対して変換を実行する方法および前記方法を実行するための装置を提供することである。

本願が実現しようとする技術的課題は、以上で言及された技術的課題に限定されず、言及されていない他の技術的課題は、以下の記載から当業者に明確に理解されることができる。

本願のビデオ信号復号化または符号化方法は、現在のブロックの参照サンプルラインを決定することと、前記現在のブロックのイントラ予測モードと同じ候補イントラ予測モードが存在するか否かを決定することと、決定された結果に基づいて、前記現在のブロックのイントラ予測モードを導出することと、前記参照サンプルラインおよび前記イントラ予測モードに従って、前記現在のブロックに対してイントラ予測を実行することと、を含む。この場合、前記候補イントラ予測モードのうちの少なくとも１つは、前記現在のブロックの上端隣接ブロックのイントラ予測モードおよび前記現在のブロックの左側隣接ブロックのイントラ予測モードのうちの最大値にオフセットを加算または減算して導出されることであり得る。

本願のビデオ信号復号化または符号化方法において、前記上端隣接ブロックのイントラ予測モードおよび前記左側隣接ブロックのイントラ予測モードの差が６４である場合、前記候補イントラ予測モードのうちの少なくとも１つは、前記最大値に２を加算または減算して導出されることであり得る。

本願のビデオ信号復号化または符号化方法において、前記参照サンプルラインのインデックスに従って、前記候補イントラ予測モードの数は異なってもよい。

本願のビデオ信号復号化または符号化方法において、前記現在のブロックを複数のサブブロックに分割するか否かを決定することをさらに含み、前記現在のブロックを複数のサブブロックに分割する場合、前記複数のサブブロックは１つのイントラ予測モードを共有できる。

本願のビデオ信号復号化または符号化方法において、前記複数のサブブロックのうちの一部に対して、逆変換をスキップできる。

本願のビデオ信号復号化または符号化方法において、前記サブブロックの幅に従って、サブブロックの水平方向変換タイプを決定し、前記サブブロックの高さに従って、前記サブブロックの垂直方向変換タイプを決定できる。

本願のビデオ信号復号化または符号化方法において、前記サブブロックの形状に従って、サブブロックの水平方向変換タイプおよび垂直方向変換タイプを決定できる。

以上の本願に対して要約されている特徴は、後述される本願の具体的な説明における例示的な実施形態に過ぎず、本願の範囲を限定するものではない。

本願の発明は以下の技術的効果を有する。

本願によれば、現在のブロックに隣接する隣接ブロックのイントラ予測モードと類似した候補イントラ予測モードを導出することにより、イントラ予測効率を向上させることができる。

本願によれば、コーディングブロックまたは変換ブロックを複数のサブブロックに分割し、各サブブロックに対してイントラ予測を実行することにより、イントラ予測効率を向上させることができる。

本願によれば、コーディングブロックまたは変換ブロックを複数のサブブロックに分割し、サブブロックのうちの一部のみに対して変換を実行することにより、符号化または復号化効率を向上させることができる。

本願で取得できる効果は、以上で言及された効果に限定されず、言及されていない他の効果は、以下の記載から当業者に明確に理解されることができる。

本願の実施例のビデオ符号化器（エンコーダ）のブロック図である。 本願の実施例のビデオ復号化器（デコーダ）のブロック図である。 本願の実施例の基本的なコーディングツリーユニットを示す図面である。 コーディングブロックの複数の分割形状を示す図面である。 コーディングツリーユニットの分割形状の概略図である。 本願の実施例のインター予測方法のフローチャートである。 コロケイテッドブロックを示す図面である。 本願の一実施例のイントラ予測方法のフローチャートである。 各参照サンプルラインに含まれる参照サンプルを示す図面である。 イントラ予測モードを示す図面である。 参照サンプルを一列に配列した一次元配列の例の概略図である。 参照サンプルを一列に配列した一次元配列の例の概略図である。 方向性イントラ予測モードがＸ軸に平行な直線と形成された角度の概略図である。 現在のブロックが非正方形形状である場合、予測サンプルが取得される形態の概略図である。 広角イントラ予測モードを示す図面である。 垂直方向パーティショニングおよび水平方向パーティショニングの例を示す図面である。 コーディングブロックの分割形状を決定する例を示す図面である。 コーディングブロックの分割形状を決定する例を示す図面である。 コーディングブロックのイントラ予測モードに基づいて、コーディングブロックの分割形状を決定する例を示す図面である。 コーディングブロックの分割形状を説明するための図面である。 予測符号化モードがサブブロックごとに異なるように設定された例を示す図面である。 ＰＤＰＣを適用する形態を示す図面である。 第２の変換を実行するサブブロックを示す図面である。 第２の変換を実行するサブブロックを示す図面である。 現在のブロックの変換タイプが決定される例を説明する図面である。 サブブロックの変換タイプを決定する例を示す図面である。 サブブロックの残差係数が０に設定される例を説明する図面である。 ビットストリームによってシグナルリングされる情報に基づいて変換および／または量子化を実行するサブブロックの位置を特定する例を示す。 ブロック強度を決定するプロセスを示すフローチャートである。 事前に定義されたフィルタ候補を示す。

以下は図面を参照して、本願の実施例を詳しく説明する。

ビデオの符号化および復号化は、ブロック単位で実行される。一例として、コーディングブロック、変換ブロックまたは予測ブロックに対して、変換、量子化、予測、インループフィルタリングまたは復元などの符号化または復号化処理が実行されることができる。

以下は、符号化または復号化対象となるブロックを「現在のブロック」と称する。一例として、現在のブロックは、現在の符号化または復号化処理ステップに従って、コーディングブロック、変換ブロックまたは予測ブロックに表すことができる。

さらに、本明細書で使用される用語「ユニット」は、特定の符号化または復号化プロセスを実行するための基本単位を示し、「ブロック」は所定のサイズのサンプルアレイを示すものとして理解できる。特に明記しない限り、「ブロック」と「ユニット」は、同じ意味で使用され得る。一例として、後述される実施例において、コーディングブロックと符号化単位は、互いに同等の意味を有することとして理解できる。

図１は、本願の実施例のビデオ符号化器のブロック図である。

図１に示されたように、ビデオ符号化装置１００は、画像分割部１１０、予測部１２０、１２５、変換部１３０、量子化部１３５、再ソート部１６０、エントロピー符号化部１６５、逆量子化部１４０、逆変換部１４５、フィルタ部１５０およびメモリ１５５を備えることができる。

図１に示される各構成部は、ビデオ符号化装置では、互いに異なる特徴的な機能を示すために、独立して図示されたものであるが、各構成部が分離されたハードウェアや１つのソフトウェア構成単位で構成されることを意味しない。即ち、各構成部は説明の便宜上、各構成部にリストされ、各構成部のうちの少なくとも２個の構成部は合わせて１つの構成部に構成され、または１つの構成部が複数の構成部に分けて機能を実行でき、これらの各構成部の統合された実施例および分離された実施例も、本願の本質から逸脱しない限り、本願の保護範囲に含まれる。

さらに、一部の構成要素は、本願で本質的な機能を実行するために不可欠な構成要素ではなく、単に性能を向上させるための選択的な構成要素であり得る。本願は、本願の本質を具現するのに必要不可欠な構成部のみを含むことができ（即ち、本願は、単に性能を向上させるためにのみ使用される構成要素を含まなくてもよい）、単に性能向上のために使用される選択的な構成要素を除いた、必要な構成要素のみを含む構造も本願の保護範囲に含まれる。

画像分割部１１０は、入力された画像を少なくとも１つの処理単位に分割できる。この場合、処理単位は予測単位（ＰＵ：Ｐｒｅｄｉｃｔｉｏｎ Ｕｎｉｔ）でもよく、変換単位（ＴＵ：Ｔｒａｎｓｆｏｒｍ Ｕｎｉｔ）でもよく、符号化単位（ＣＵ：Ｃｏｄｉｎｇ Ｕｎｉｔ）でもよい。画像分割部１１０では、１つの画像を、複数の符号化単位、予測単位および変換単位の組合せに分割し、所定の基準（例えば、コスト関数）に従って、符号化単位、予測単位および変換単位の組み合わせを選択して、画像を符号化することができる。

例えば、１つの画像は複数の符号化単位に分割できる。画像から符号化単位を分割するために、クアッドツリー構造（Ｑｕａｄ Ｔｒｅｅ Ｓｔｒｕｃｔｕｒｅ）などの再帰ツリ構造を使用することができるが、１つのビデオまたは最大の符号化単位（ｌａｒｇｅｓｔ ｃｏｄｉｎｇ ｕｎｉｔ）をルートとして異なる符号化単位に分割される符号化ユニットは、分割された符号化単位の数だけの子ノードを使用して分割されることができる。所定の制限に従ってこれ以上分割されない符号化単位はリーフノードとなる。即ち、１つの符号化単位に対して正方形分割のみが可能であると仮定すると、１つの符号化単位は最大４個の異なる符号化単位に分割できる。

以下、本願の実施例において、符号化単位が符号化を実行する単位の意味で使用してもよく、復号化を実行する単位の意味で使用してもよい。

予測単位は、１つの符号化単位内で少なくとも１つの同じサイズの正方形または長方形などの形を持って分割されたものであってもよく、１つの符号化単位内で分割された予測単位のいずれか予測単位が、別の予測単位と異なる形状および／またはサイズと有するように分割されたものであってもよい。

符号化単位を基にイントラ予測を実行する予測単位を生成するとき、最小さい符号化単位ではない場合、複数の予測単位Ｎ×Ｎを分割せずにイントラ予測を実行できる。

予測部１２０、１２５は、インター予測を実行するインター予測部１２０とイントラ予測を実行するイントラ予測部１２５を備えることができる。予測単位に対してインター予測を使用するか、イントラ予測を実行するかを決定し、各予測方法に基づく具体的な情報（例えば、イントラ予測モード、動きベクトル、参照画像など）を決定できる。この場合、予測を実行する処理単位は、予測方法および具体的なコンテンツが決められる処理単位と異なることができる。例えば、予測方法および予測モードなどは、予測単位に決定され、予測の実行も変換単位で実行されることができる。生成された予測ブロックと元のブロックとの残差値（残差ブロック）は変換部１３０に入力されることができる。さらに、予測のために使用される予測モード情報、動きベクトル情報などは、残差値と共にエントロピー符号化部１６５で符号化されて復号化器にシグナリングされることができる。特定の符号化モードを使用するとき、予測部１２０、１２５を介して、予測ブロックを生成せずに、元のブロックをそのまま符号化して復号化部に伝送することができる。

インター予測部１２０は、現在の画像の前の画像または後の画像のうちの少なくとも１つの画像の情報に基づいて予測単位を予測でき、場合によっては、現在の画像内の符号化された部分的な領域の情報に従って予測単位を予測することもできる。インター予測部１２０は、参照画像補間部、動き予測部、運動補正部を備えることができる。

参照画像補間部は、メモリ１５５から提供された参照画像情報を取得し、参照画像で整数ピクセル以下のピクセル情報を生成できる。輝度ピクセルである場合、１／４ピクセル単位で整数ピクセル以下のピクセル情報を生成するために、フィルタ係数を異にするＤＣＴベースの８タップ補間フィルタ（ＤＣＴ－ｂａｓｅｄ Ｉｎｔｅｒｐｏｌａｔｉｏｎ Ｆｉｌｔｅｒ）を使用することができる。色差信号である場合、１／８ピクセル単位で整数ピクセル以下のピクセル情報を生成するために、フィルタ係数を異にするＤＣＴベースの４タップ補間フィルタ（ＤＣＴ－ｂａｓｅｄ Ｉｎｔｅｒｐｏｌａｔｉｏｎ Ｆｉｌｔｅｒ）を使用することができる。

動き予測部は参照画像補間部によって補間された参照画像に基づいて、動き予測を実行することができる。動きベクトルを計算するために使用される方法として、完全検索ブロックマッチングアルゴリズム（ＦＢＭＡ：Ｆｕｌｌ ｓｅａｒｃｈ－ｂａｓｅｄ Ｂｌｏｃｋ Ｍａｔｃｈｉｎｇ Ａｌｇｏｒｉｔｈｍ）、３段探索（ＴＳＳ：Ｔｈｒｅｅ Ｓｔｅｐ Ｓｅａｒｃｈ）、新しい３段探索アルゴリズム（ＮＴＳ：Ｎｅｗ Ｔｈｒｅｅ－Ｓｔｅｐ Ｓｅａｒｃｈ Ａｌｇｏｒｉｔｈｍ）などの複数の方法を使用できる。動きベクトルは、補間されたピクセルに基づいて、１／２または１／４ピクセル単位の動きベクトル値を有し得る。動き予測部は、動き予測方法を異にして現在の予測単位を予測できる。動き予測方法として、スキップ（Ｓｋｉｐ）モード、マージ（Ｍｅｒｇｅ）モード、高度な動きベクトル予測（ＡＭＶＰ：Ａｄｖａｎｃｅｄ Ｍｏｔｉｏｎ Ｖｅｃｔｏｒ Ｐｒｅｄｉｃｔｉｏｎ）モード、イントラブロックコピー（Ｉｎｔｒａ Ｂｌｏｃｋ Ｃｏｐｙ）モードなどの複数のモードを使用できる。

イントラ予測部１２５は、現在の画像内のピクセル情報である現在のブロックの周りの参照ピクセル情報に基づいて予測単位を生成できる。現在の予測単位の隣接ブロックはインター予測を実行するブロックであるため、参照ピクセルがインター予測を実行するピクセルである場合、インター予測を実行するブロックに含まれる参照ピクセルを、周辺のイントラ予測を実行するブロックの参照ピクセル情報に置き換えて使用することができる。即ち、参照ピクセルが使用できない場合、使用できる参照ピクセルのうちの少なくとも１つの参照ピクセルで使用できない参照ピクセル情報を代わることができる。

イントラ予測では、予測モードは、予測方向に従って参照ピクセル情報を使用する方向性予測モードと、予測実行時に方向性情報を使用しない非方向性モードを有し得る。輝度情報を予測するためのモードは、色差情報を予測するためのモードと異なることができ、色差情報を予測するために、輝度情報を予測するために使用されるイントラ予測モード情報または予測された輝度信号情報を使用できる。

イントラ予測を実行するとき、予測単位のサイズが変換単位のサイズと同じである場合、予測単位の左側のピクセル、左上のピクセル、上端のピクセルに従って、予測単位に対するイントラ予測を実行できる。しかしながら、イントラ予測を実行するとき、予測単位のサイズが変換単位のサイズと異なる場合、変換単位に基づく参照ピクセルを使用して、イントラ予測を実行できる。さらに、最小符号化単位にのみ、Ｎ×Ｎ分割を使用するイントラ予測を使用できる。

イントラ予測方法は、予測モードに従って、参照ピクセルにイントラ平滑化（ＡＩＳ：Ａｄａｐｔｉｖｅ Ｉｎｔｒａ Ｓｍｏｏｔｈｉｎｇ）フィルタを適用した後、予測ブロックを生成することができる。参照ピクセルに適用されるＡＩＳフィルタの種類は異なってもよい。イントラ予測方法を実行するために、現在の予測単位のイントラ予測モードは、現在の予測単位の周辺に存在する予測単位のイントラ予測モードから予測できる。周辺予測単位から予測されたモード情報を使用して現在の予測単位の予測モードを予測するとき、現在の予測単位が周辺予測単位のイントラ予測モードと同じである場合、所定の識別子情報を使用して、現在の予測単位が周辺予測単位の予測モードと同じであることを示す情報を伝送でき、現在の予測単位が周辺予測単位の予測モードと異なる場合、エントロピー符号化を実行し、現在のブロックの予測モード情報を符号化できる。

さらに、予測部１２０、１２５によって生成された予測単位に基づいて予測を実行する予測単位と予測単位の元のブロックとの差である残差値（Ｒｅｓｉｄｕａｌ）情報を含む残差ブロックを生成できる。生成された残差ブロックは変換部１３０に入力できる。

変換部１３０では、離散コサイン変換（ＤＣＴ：Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）、離散サイン変換（ＤＳＴ：Ｄｉｓｃｒｅｔｅ Ｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）、ＫＬＴなどの変換方法を使用して、元のブロックと予測部１２０、１２５によって生成された予測単位の残差値（ｒｅｓｉｄｕａｌ）情報とを含む残差ブロックを変換させる。残差ブロックを変換するために、ＤＣＴを適用するか、またはＤＳＴを適用するか、またはＫＬＴを適用するかは、残差ブロックを生成するために使用される予測単位のイントラ予測モード情報に基づいて決定されることができる。

量子化部１３５は、変換部１３０で周波数領域に変換された値を量子化することができる。量子化係数は、ブロックまたはビデオの重要性に従って変化される。量子化部１３５によって計算された値は逆量子化部１４０および再ソート部１６０に提供されることができる。

再ソート部１６０は、量子化された残差値に対して係数値の再ソートを実行できる。

再ソート部１６０は、係数スキャン（Ｃｏｅｆｆｉｃｉｅｎｔ Ｓｃａｎｎｉｎｇ）方法を介して、二次元のブロック形状係数を一次元のベクトル形状に変換できる。例えば、再ソート部１６０は、ジグザグスキャン（Ｚｉｇ－Ｚａｇ Ｓｃａｎ）方法を使用して、ＤＣ係数から高周波数領域係数までスキャンして、一次元のベクトル形状に変換できる。変換単位のサイズおよびイントラ予測モードに従ってジグザグスキャンをすることの代わりに、二次元ブロック形状係数を列方向にスキャンする垂直スキャン、二次元ブロック形状係数を行方向にスキャンする水平スキャンを使用することもできる。即ち、変換単位のサイズおよびイントラ予測モードに従って、ジグザグスキャン、垂直方向スキャンおよび水平方向スキャンのうち、どのようなスキャン方法を使用するかを決定することができる。

エントロピー符号化部１６５は、再ソート部１６０によって計算された値に基づいて、エントロピー符号化を実行できる。エントロピー符号化は、例えば、指数ゴロム（Ｅｘｐｏｎｅｎｔｉａｌ Ｇｏｌｏｍｂ）、コンテキスト適応型可変長コーディング（ＣＡＶＬＣ：Ｃｏｎｔｅｘｔ－Ａｄａｐｔｉｖｅ Ｖａｒｉａｂｌｅ Ｌｅｎｇｔｈ Ｃｏｄｉｎｇ）、コンテキスト適応型バイナリ算術コーディング（ＣＡＢＡＣ：Ｃｏｎｔｅｘｔ－Ａｄａｐｔｉｖｅ Ｂｉｎａｒｙ Ａｒｉｔｈｍｅｔｉｃ Ｃｏｄｉｎｇ）などの複数の符号化方法を使用できる。

エントロピー符号化部１６５は、再ソート部１６０および予測部１２０、１２５から符号化単位の残差値係数情報、ブロックタイプ情報、予測モード情報、分割単位情報、予測単位情報および伝送単位情報、動きベクトル情報、参照フレーム情報、ブロックの補間情報、フィルタリング情報などの複数の情報を符号化することができる。

エントロピー符号化部１６５は、再ソート部１６０から入力された符号化単位の係数値に対してエントロピー符号化を実行できる。

逆量子化部１４０および逆変換部１４５は、量子化部１３５で量子化された値を逆量子化し、変換部１３０で変換された値を逆変換する。逆量子化部１４０および逆変換部１４５によって生成された残差値（Ｒｅｓｉｄｕａｌ）は、予測部１２０、１２５に含まれる動き予測部、運動補正部およびイントラ予測部を介して予測された予測単位と併せて、復元ブロック（Ｒｅｃｏｎｓｔｒｕｃｔｅｄ Ｂｌｏｃｋ）を生成することができる。

フィルタ部１５０は、ディブロッキングフィルタ、オフセット補正部、適応ループフィルタ（ＡＬＦ：Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ）のうちの少なくとも１つを備えることができる。

ディブロッキングフィルタは、復元された画像からブロック間の境界によって引き起きされるブロック歪みを除去できる。ディブロッキングを実行するか否かを判断するために、ブロックに含まれるいくつかの列または行に含まれるピクセルに基づいて、現在のブロックに対してディブロッキングフィルタを適用するか否かを判断することができる。ブロックに対してディブロッキングフィルタを適用する場合、必要なディブロッキングフィルタリング強度に従って、強力なフィルタ（Ｓｔｒｏｎｇ Ｆｉｌｔｅｒ）または弱いフィルタ（Ｗｅａｋ Ｆｉｌｔｅｒ）を適用できる。さらに、ディブロッキングフィルタを適用する態様において、垂直フィルタリングおよび水平フィルタリングを実行するとき、水平方向フィルタリングおよび垂直方向フィルタリングに並列処理されるようにすることができる。

オフセット補正部は、ディブロッキングを実行するビデオに対して、ピクセル単位で元のビデオとのオフセットを補正できる。特定の画像に対するオフセット補正を実行するために、ビデオに含まれるピクセルを所定の数の領域に区別した後、オフセットを実行する領域を決定し、対応する領域にオフセットを適用する方法、または各ピクセルのエッジ情報を考慮してオフセットを適用する方法を使用することができる。

適応ループフィルタリング（ＡＬＦ：Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒｉｎｇ）は、フィルタリングされた復元ビデオと元のビデオを比較した値に基づいて実行されることができる。画像に含まれるピクセルを所定のグループに分けた後、対応するグループに適用される１つのフィルタを決定して、グループごとに差別的にフィルタリングすることができる。ＡＬＦを適用するか否かに関する情報である輝度信号は、符号化単位（ＣＵ：Ｃｏｄｉｎｇ Ｕｎｉｔ）ごとに伝送されることができ、適用されるＡＬＦフィルタの形状およびフィルタ係数は、各ブロックごとに異なることができる。さらに、適用対象ブロックの特性に関係なく、同じ形状（固定の形状）のＡＬＦフィルタを使用することもできる。

メモリ１５５は、フィルタ部１５０によって計算された復元ブロックまたは復元画像を記憶することができ、記憶された復元ブロックまたは画像は、インター予測を実行するとき、予測部１２０、１２５に提供されることができる。

図２は、本願の実施例のビデオ復号化器（デコーダ）のブロック図である。

図２に示されたように、ビデオ復号化器２００は、エントロピー復号化部２１０、再ソート部２１５、逆量子化部２２０、逆変換部２２５、予測部２３０、２３５、フィルタ部２４０、メモリ２４５を備えることができる。

ビデオ符号化器でビデオビットストリームを入力するとき、入力されたビットストリームはビデオ符号化器と反対する手順で復号化することができる。

エントロピー復号化部２１０は、ビデオ符号化器のエントロピー符号化部でエントロピー符号化を実行したことと反対する手順でエントロピー復号化を実行することができる。例えば、ビデオ符号化器で実行される方法と対応して、指数ゴロム（Ｅｘｐｏｎｅｎｔｉａｌ Ｇｏｌｏｍｂ）、ＣＡＶＬＣ（Ｃｏｎｔｅｘｔ－Ａｄａｐｔｉｖｅ Ｖａｒｉａｂｌｅ Ｌｅｎｇｔｈ Ｃｏｄｉｎｇ）、ＣＡＢＡＣ（Ｃｏｎｔｅｘｔ－Ａｄａｐｔｉｖｅ Ｂｉｎａｒｙ Ａｒｉｔｈｍｅｔｉｃ Ｃｏｄｉｎｇ）などの複数の方法を使用できる。

エントロピー復号化部２１０は、符号化器で実行されるイントラ予測およびインター予測に関連する情報を復号化することができる。

再ソート部２１５は、エントロピー復号化部２１０でエントロピー復号化されたビットストリームを符号化部で再ソートする方法に基づいて、再ソートを実行することができる。一次元ベクトルの形状で表す係数を二次元のブロック形状の係数に再度復元して、再ソートを実行することができる。再ソート部２１５は、符号化部で実行された係数スキャンに関連する情報を受け入れ、対応する符号化部で実行されるスキャン順序に基づいて、逆にスキャンする方法で再ソートを実行することができる。

逆量子化部２２０は、符号化器によって提供される量子化パラメータおよび再ソートされたブロックの係数値に基づいて逆量子化を実行することができる。

逆変換部２２５は、ビデオ符号化器で実行する量子化結果に対して変換部で実行する変換、即ち、ＤＣＴ、ＤＳＴおよびＫＬＴに対して、逆ＤＣＴ、逆ＤＳＴおよび逆ＫＬＴのような逆変換を実行することができる。逆変換は、ビデオ符号化器で決定された伝送単位に基づいて実行することができる。ビデオ復号化器の逆変換部２２５では、予測方法、現在のブロックのサイズおよび予測方向などの複数の情報に従って、変換方法（例えば、ＤＣＴ、ＤＳＴ、ＫＬＴ）を選択的に実行できる。

予測部２３０、２３５は、エントロピー復号化部２１０で提供される予測ブロックの生成関連情報およびメモリ２４５で提供される、前に復号化されたブロックまたは画像情報に基づいて予測ブロックを生成できる。

前述したように、ビデオ符号化器の動作と同じくイントラ予測を実行するとき、予測単位のサイズが変換単位のサイズと同じである場合、予測単位の左側のピクセル、左上のピクセル、上端のピクセルに基づいて、予測単位対するイントラ予測を実行するが、イントラ予測を実行するとき、予測単位のサイズが変換単位のサイズと異なると、変換単位に基づく参照ピクセルを使用してイントラ予測を実行できる。さらに、最小符号化単位にのみＮ×Ｎ分割を使用するイントラ予測を実行することもできる。

予測部２３０、２３５は、予測単位判別部、インター予測部およびイントラ予測部を備えることができる。予測単位判別部は、エントロピー復号化部２１０で入力された予測単位情報、イントラ予測方法の予測モード情報、インター予測方法の動き予測関連情報などの様々な情報を受け入れ、現在の符号化単位で予測単位を区別し、予測単位がインター予測を実行するか、それともイントラ予測を実行するかを判別することができる。インター予測部２３０は、ビデオ符号化器で提供される現在の予測単位のインター予測に必要な情報を使用して、現在の予測単位に含まれる現在の画像の前の画像または後の画像のうちの少なくとも１つの画像に含まれる情報に基づいて、現在の予測単位に対するインター予測を実行できる。または、現在の予測単位を含む現在の画像で、復元された部分的な領域の情報に基づいて、インター予測を実行することもできる。

インター予測を実行するために、符号化単位を基準として、対応する符号化単位に含まれる予測単位の動き予測方法がスキップモード（Ｓｋｉｐ Ｍｏｄｅ）、マージモード（Ｍｅｒｇｅ モード）、動きベクトル予測モード（ＡＭＶＰ Ｍｏｄｅ）、イントラブロックコピーモードのうちのどのような方法であるかを判断できる。

イントラ予測部２３５は、現在の画像内のピクセル情報に基づいて、予測ブロックを生成できる。予測単位がイントラ予測を実行する予測単位である場合、ビデオ符号化器で提供される予測単位のイントラ予測モード情報に基づいてイントラ予測を実行できる。イントラ予測部２３５は、ＡＩＳ（Ａｄａｐｔｉｖｅ Ｉｎｔｒａ Ｓｍｏｏｔｈｉｎｇ）フィルタ、参照ピクセル補間部、ＤＣフィルタを備えることができる。ＡＩＳフィルタは、現在のブロックの参照ピクセルに対してフィルタリングを実行する部分として、現在の予測単位の予測モードに従ってフィルタを適用するか否かを決定して適用することができる。ビデオ符号化器で提供される予測単位の予測モードおよびＡＩＳフィルタ情報をしようして、現在のブロックの参照ピクセルに対してＡＩＳフィルタリングを実行することができる。現在のブロックの予測モードがＡＩＳフィルタリングを実行していないモードである場合、ＡＩＳフィルタは適用されないことがある。

参照ピクセル補間部は、予測単位の予測モードが参照ピクセル値を補間したピクセル値に基づいてイントラ予測を実行する予測モードである場合、参照ピクセル値を補間して、整数値以下のピクセルユニットの参照ピクセルを生成できる。現在の予測単位の予測モードが参照ピクセル値を補間せずに予測ブロックを生成する予測モードである場合、参照ピクセルは補間されなくてもよい。ＤＣフィルタは、現在のブロックの予測モードがＤＣモードである場合、フィルタリングを介して予測ブロックを生成することができる。

復元されたブロックまたは画像はフィルタ部２４０に提供されることができる。フィルタ部２４０は、ディブロッキングフィルタ、オフセット補正部、ＡＬＦを備えることができる。

ビデオ符号化器から対応するブロックまたは画像にディブロッキングフィルタを適用したか否かに関する情報、ディブロッキングフィルタを適用した場合、強いフィルタを適用したかまたは弱いフィルタを適用したかに関する情報を取得することができる。ビデオ復号化器のディブロッキングフィルタは、ビデオ符号化器によって提供されるディブロッキングフィルタの関連情報を受け入れることができ、ビデオ復号化器は対応するブロックのディブロッキングフィルタリングを実行することができる。

オフセット補正部は、符号化するときに、ビデオに適用されるオフセット補正の種類およびオフセット値情報などに基づいて、復元されたビデオに対してオフセット補正を実行することができる。

ＡＬＦは、符号化器から提供されたＡＬＦ適用するか否かの情報、ＡＬＦ係数情報などに基づいて、符号化単位に適用されることができる。このようなＡＬＦ情報は、特定のパラメータセットに含まれて提供されることができる。

メモリ２４５は、復元された画像またはブロックを記憶して、参照画像または参照ブロックとして使用できるようにし、さらに、復元された画像を出力部に提供することができる。

図３は、本願の実施例の基本的なコーディングツリーユニットを示す図面である。

最大サイズのコーディングブロックをコーディングツリーブロックと定義することができる。１つの画像は、複数のコーディングツリーユニット（ＣＴＵ：Ｃｏｄｉｎｇ Ｔｒｅｅ Ｕｎｉｔ）に分割される。コーディングツリーユニットは、最大サイズの符号化単位であって、ＬＣＵ（Ｌａｒｇｅｓｔ Ｃｏｄｉｎｇ Ｕｎｉｔ）と称することもできる。図３は、１つの画像が複数のコーディングツリーユニットに分割された例を示す。

コーディングツリーユニットのサイズは、画像レベルまたはシーケンスレベルで定義されることができる。そのため、コーディングツリーユニットのサイズを示す情報は、画像パラメータセットまたはシーケンスパラメータセットを介して、シグナルリングされることができる。

一例として、シーケンス内の画像全体に対するコーディングツリーユニットのサイズは、１２８ｘ１２８に設定されることができる。または、画像レベルで、１２８ｘ１２８または２５６ｘ２５６のいずれかをコーディングツリーユニットのサイズに決定することができる。一例として、第１画像では、コーディングツリーユニットのサイズが、１２８ｘ１２８に設定され、第２画像では、コーディングツリーユニットのサイズが、２５６ｘ２５６に設定されることができる。

コーディングツリーユニットを分割して、コーディングブロックを生成することができる。コーディングブロックは、符号化または復号化処理のための基本ユニットを示す。一例として、コーディングブロックごとに予測または変換するか、またはコーディングブロックごとに予測符号化モードを決定することができる。ここで、予測符号化モードは予測ビデオを生成する方法を示す。一例として、予測符号化モードは、画面内予測（イントラ予測：Ｉｎｔｒａ Ｐｒｅｄｉｃｔｉｏｎ）、画面間予測（インター予測：Ｉｎｔｅｒ Ｐｒｅｄｉｃｔｉｏｎ）、現在の画像参照（ＣＰＲ：Ｃｕｒｒｅｎｔ Ｐｉｃｔｕｒｅ Ｒｅｆｅｒｅｎｃｉｎｇまたはイントラブロックコピー（ＩＢＣ：Ｉｎｔｒａ Ｂｌｏｃｋ Ｃｏｐｙ））または複合予測（Ｃｏｍｂｉｎｅｄ Ｐｒｅｄｉｃｔｉｏｎ）を含み得る。コーディングブロックに対して、イントラ予測、インター予測、現在の画像参照または複合予測のうちの少なくとも１つの予測符号化モードを使用して、コーディングブロックに対する予測ブロックを生成することができる。

現在のブロックの予測符号化モードを示す情報はビットストリームを介してシグナルリングされることができる。一例として、前記情報は、予測符号化モードがイントラモードであるかインタモードであるかを示す１ビット識別子であり得る。現在のブロックの予測符号化モードがインタモードとして決定された場合に限り、現在の画像参照または複合予測を使用できる。

現在の画像参照は、現在の画像を参照画像に設定し、現在の画像内の符号化または復号化された領域から現在のブロックの予測ブロックを取得するためのものである。ここで、現在の画像は、現在のブロックを含む画像を指す。現在のブロックに現在の画像参照が適用されるか否かを示す情報は、ビットストリームを介してシグナルリングされることができる。一例として、前記情報は１ビットの識別子であり得る。前記識別子が真である場合、現在のブロックの予測符号化モードは、現在の画像参照に決定され、前記識別子が偽である場合、現在のブロックの予測モードは、インター予測に決定されることができる。

または、参照画像インデックスに基づいて、現在のブロックの予測符号化モードを決定することができる。一例として、参照画像インデックスが現在の画像を指す場合、現在のブロックの予測符号化モードが現在の画像参照であると決定することができる。参照画像インデックスが現在の画像ではなく他の画像を指す場合、現在のブロックの予測符号化モードがインター予測であると決定することができる。即ち、現在の画像参照は、現在の画像内の符号化または復号化された領域の情報を使用する予測方法であり、インター予測は符号化または復号化された別の画像の情報を使用する予測方法である。

複合予測は、イントラ予測、インター予測および現在の画像参照のうちの２個以上を組み合わせる符号化モードを示す。一例として、複合予測を適用する場合、イントラ予測、インター予測または現在の画像参照のいずれかに基づいて第１予測ブロックを生成し、別の１つに基づいて第２予測ブロックを生成できる。第１予測ブロックおよび第２予測ブロックが生成されると、第１予測ブロックおよび第２予測ブロックの平均演算または加重和演算を介して最終的な予測ブロックを生成することができる。複合予測を適用するか否かを示す情報は、ビットストリームを介してシグナルリングすることができる。前記情報は１ビットの識別子であり得る。

図４は、コーディングブロックの複数の分割形状を示す図面である。

コーディングブロックは、クアッドツリー分割、バイナリツリー分割またはトリプルツリー分割に基づいて複数のコーディングブロックに分割されることができる。分割されたコーディングブロックも、クアッドツリー分割、バイナリツリー分割またはトリプルツリー分割に基づいて複数のコーディングブロックに再び分割できる。

クアッドツリー分割は、現在のブロックを４個のブロックに分割する分割方法を示す。クアッドツリー分割の結果、現在のブロックは４個の正方形のパーティションに分割されることができる（図４の（ａ）「ＳＰＬＩＴ＿ＱＴ」を参照）。

バイナリツリー分割は、現在のブロックを２個のブロックに分割する分割方法を示す。垂直方向に沿って（即ち、現在のブロックを横切る垂直線を使用する）現在のブロックを２個のブロックに分割することを垂直方向バイナリツリー分割と称し、水平方向に沿って（即ち、現在のブロックを横切る水平線を使用する）現在のブロックを２個のブロックに分割することを水平方向バイナリツリー分割と称することができる。バイナリツリー分割の結果、現在のブロックは２個の非正方形のパーティションに分割されることができる。図４の（ｂ）「ＳＰＬＩＴ＿ＢＴ＿ＶＥＲ」は、垂直方向バイナリツリー分割結果を示し、図４の（ｃ）「ＳＰＬＩＴ＿ＢＴ＿ＨＯＲ」は、水平方向バイナリツリー分割結果を示す。

トリプルツリー分割は、現在のブロックを３つのブロックに分割する分割方法を示す。垂直方向に沿って（即ち、現在のブロックを横切る２個の垂直線を使用する）現在のブロックを３つのブロックに分割することを垂直方向トリプルツリー分割と称し、水平方向に沿って（即ち、現在のブロックを横切る２個の水平線を使用する）現在のブロックを３つのブロックに分割することを水平方向トリプルツリー分割と称することができる。トリプルツリー分割の結果、現在のブロックは３つの非正方形のパーティションに分割されることができる。この場合、現在のブロックの中央に位置するパーティションの幅または高さは、他のパーティションの幅または高さの２倍であり得る。図４の（ｄ）「ＳＰＬＩＴ＿ＴＴ＿ＶＥＲ」は、垂直方向トリプルツリー分割結果を示し、図４の（ｅ）「ＳＰＬＩＴ＿ＴＴ＿ＨＯＲ」は、水平方向トリプルツリー分割結果を示す。

コーディングツリーユニットの分割回数を分割深さ（Ｐａｒｔｉｔｉｏｎｉｎｇ Ｄｅｐｔｈ）と定義することができる。シーケンスレベルまたは画像レベルでは、コーディングツリーユニットの最大の分割深さを決定できる。これにより、コーディングツリーユニットの最大の分割深さはシーケンスまたは画像ごとに異なることができる。

または、各分割方法の最大分割の深さを個別に決定することができる。一例として、クアッドツリー分割を許可する最大分割の深さは、バイナリツリー分割および／またはトリプルツリー分割を許可する最大分割の深さと異なることができる。

符号化器は、現在のブロックの分割形状または分割深さのうちの少なくとも１つを示す情報をビットストリームによってシグナリングされることができる。復号化器は、ビットストリームから解析された前記情報に基づいて、コーディングツリーユニットの分割形状および分割深さを決定できる。

図５は、コーディングツリーユニットの分割形状を示す図面である。

クアッドツリー分割、バイナリツリー分割および／またはトリプルツリー分割などの分割方法を使用してコーディングブロックを分割することをマルチツリー分割（Ｍｕｌｔｉ Ｔｒｅｅ Ｐａｒｔｉｔｉｏｎｉｎｇ）と称することができる。

コーディングブロックにマルチツリー分割を適用して生成されたコーディングブロックを下部コーディングブロックと称することができる。コーディングブロックの分割深さがｋである場合、下部コーディングブロックの分割深さをｋ＋１に設定する。

逆に、分割深さがｋ＋１であるコーディングブロックに対して、分割深さがｋであるコーディングブロックを上部コーディングブロックと称することができる。

現在のコーディングブロックの分割タイプは、上部コーディングブロックの分割形状または隣接コーディングブロックの分割タイプのうちの少なくとも１つに基づいて決定されることができる。ここで、隣接コーディングブロックは、現在のコーディングブロックに隣接し、現在のコーディングブロックの上端隣接ブロック、左側隣接ブロックまたは左上隅に隣接する隣接ブロックのうちの少なくとも１つを含み得る。ここで、分割タイプは、クアッドツリー分割であるか否か、バイナリツリー分割であるか否か、バイナリツリー分割方向であるか否か、トリプルツリー分割であるか否か、またはトリプルツリー分割方向であるか否かのうちの少なくとも１つを含み得る。

コーディングブロックの分割形状を決定するために、コーディングブロックが分割されるか否かを示す情報は、ビットストリームを介してシグナリングされることができる。前記情報は、１ビットの識別子「ｓｐｌｉｔ＿ｃｕ＿ｆｌａｇ」であり、前記識別子は真であることは、コーディングブロックがクアッドツリー分割方法に従って分割されることを示す。

ｓｐｌｉｔ＿ｃｕ＿ｆｌａｇが真である場合、コーディングブロックがクアッドツリー分割されるか否かの情報が、ビットストリームを介してシグナリングされることができる。前記情報は１ビットの識別子ｓｐｌｉｔ＿ｑｔ＿ｆｌａｇであり、前記識別子が真である場合、コーディングブロックは４個のブロックに分割できる。

一例として、図５に示された例において、コーディングツリーユニットがクアッドツリー分割に伴い、分割深さが１である４個のコーディングブロックを生成することに図面された。さらに、クアッドツリー分割結果として生成された４個のコーディングブロックのうちの第１コーディングブロックおよび第４コーディングブロックにクアッドツリー分割に再び適用されることを図示された。その結果、分割深さが２である４個のコーディングブロックを生成できる。

さらに、分割深さが２であるコーディングブロックにクアッドツリー分割を再び適用することにより、分割深さが３であるコーディングブロックを生成できる。

コーディングブロックにクアッドツリー分割が適用されなかった場合、コーディングブロックのサイズ、コーディングブロックが画像境界に位置するか否か、最大分割の深さまたは隣接ブロックの分割形状のうちの少なくとも１つを考慮して、前記コーディングブロックに対してバイナリツリー分割またはトリプルツリー分割を実行するか否かを決定することができる。前記コーディングブロックに対してバイナリツリー分割またはトリプルツリー分割を実行すると決定した場合、分割方向を示す情報はビットストリームを介してシグナリングされることができる。前記情報は１ビットの識別子ｍｔｔ＿ｓｐｌｉｔ＿ｃｕ＿ｖｅｒｔｉｃａｌ＿ｆｌａｇであり得る。前記識別子に基づいて、分割方向が垂直方向であるかまたは水平方向であるかを決定することができる。加えて、バイナリツリー分割またはトリプルツリー分割のいずれが前記コーディングブロックに適用されるかを示す情報は、ビットストリームを介してシグナリングされることができる。前記情報は、１ビットの識別子ｍｔｔ＿ｓｐｌｉｔ＿ｃｕ＿ｂｉｎａｒｙ＿ｆｌａｇであり得る。前記識別子に基づいて、前記コーディングブロックにバイナリツリー分割を適用されるかトリプルツリー分割が適用されるかを決定することができる。

一例として、図５に示された例において、分割深さが１であるコーディングブロックに垂直方向バイナリツリー分割を適用し、前記分割結果として生成されたコーディングブロックのうちの左側コーディングブロックに垂直方向トリプルツリー分割が適用され、右側コーディングブロックに垂直方向バイナリツリー分割が適用されることとして図示された。

インター予測は、前の画像の情報を使用して現在のブロックを予測する予測符号化モードである。一例として、前の画像内の現在のブロックと同じ位置にあるブロック（以下は、コロケイテッドブロック（ｃｏｌｌｏｃａｔｅｄ ｂｌｏｃｋ）と称する）を現在のブロックの予測ブロックと設定することができる。以下は、現在のブロックと同じ位置にあるブロックに基づいて生成された予測ブロックをコロケイテッド予測ブロック（Ｃｏｌｌｏｃａｔｅｄ Ｐｒｅｄｉｃｔｉｏｎ Ｂｌｏｃｋ）と称する。

逆に、前の画像にある物体が現在の画像で別の位置に動くと、物体の動きを使用して現在のブロックを効果的に予測できる。例えば、前の画像を現在の画像と比較することにより、物体の動き方向およびサイズを知られると、物体の動き情報に従って、現在のブロックの予測ブロック（または、予測ビデオ）を生成することができる。以下は動き情報によって生成された予測ブロックを動き予測ブロックと称することができる。

現在のブロックから予測ブロックを差分して、残差ブロック（ｒｅｓｉｄｕａｌ ｂｌｏｃｋ）を生成することができる。この場合、物体が移動すると、コロケイテッド予測ブロックの代わりに移動予測ブロックを使用し、それにより、残差ブロックのエネルギを減らし、これにより、残差ブロックの圧縮性能を向上させることができる。

上記のように、動き情報を使用して予測ブロックを生成することを動き補償予測と称することができる。ほとんどのインター予測では、動き補償予測に基づいて予測ブロックを生成できる。

動き情報は、動きベクトル、参照画像インデックス、予測方向または双方向加重値インデックスのうちの少なくとも１つを含み得る。動きベクトルは物体の移動方向およびサイズを示す。参照画像インデックスは、参照画像リストに含まれる参照画像のうちの現在のブロックの参照画像を指示する。予測方向は、一方向Ｌ０予測、一方向Ｌ１予測または双方向予測（Ｌ０予測およびＬ１予測）のうちのいずれかを指す。現在のブロックの予測方向に従って、Ｌ０方向の動き情報またはＬ１方向の動き情報のうちの少なくとも１つを使用できる。双方向加重値インデックスは、Ｌ０予測ブロックに適用される加重値およびＬ１予測ブロックで適用される加重値を特定できる。

図６は、本願の実施例のインター予測方法のフローチャートである。

図６に示されたように、インター予測方法は、現在のブロックのインター予測モードを決定することと（Ｓ６０１）、決定されたインター予測モードに従って現在のブロックの動き情報を取得することと（Ｓ６０２）、取得された動き情報に基づいて現在のブロックに対する動き補償予測を実行することと（Ｓ６０３）、を含む。

ここで、インター予測モードは、現在のブロックの動き情報を決定するための複数の方法を示し、平行移動（Ｔｒａｎｓｌａｔｉｏｎ）動き情報を使用するインター予測モードと、アフィン（Ａｆｆｉｎｅ）動き情報を使用するインター予測モードを含み得る。一例として、平行移動動き情報を使用するインター予測モードは、マージモードと動きベクトル予測モードとを含み得、アフィン動き情報を使用するインター予測モードは、アフィンマージモードとアフィン動きベクトル予測モードとを含み得る。インター予測モードに従って、現在のブロックに隣接する隣接ブロックまたはビットストリームから解析された情報に基づいて現在のブロックの動き情報を決定できる。

一例として、現在のブロックと同じ画像に含まれる空間隣接ブロックまたは現在のブロックと異なる画像に含まれるコロケイテッドブロックの動き情報に従って、現在のブロックの動き情報を取得することができる。空間隣接ブロックは、現在のブロックの上端に隣接する隣接ブロック、左側に隣接する隣接ブロック、左上隅に隣接する隣接ブロック、右上隅に隣接する隣接ブロックまたは左下隅に隣接する隣接ブロックのうちの少なくとも１つを含む。コロケイテッドブロックは、参照画像内の現在のブロックと同じ位置およびサイズを有し得る。一例として、図７はコロケイテッドブロックを示す図面である。参照画像はインデックス情報が指示する参照画像に従って決定されることができる。

現在のブロックの動きベクトルの精度は、複数の動きベクトル精度候補からいずれか１つを決定できる。一例として、動きベクトル精度候補は、８分の１ピクセル（ｏｃｔｏ ｐｅｌ）、４分の１ピクセル（ｑｕａｒｔｅｒ ｐｅｌ）、２分の１ピクセル（ｈａｌｆ ｐｅｌ）、整数ピクセル（ｉｎｔｅｇｅｒ ｐｅｌ）、２の整数倍ピクセル（２－ｉｎｔｅｇｅｒ ｐｅｌ）または４の整数倍ピクセル（４－ｉｎｔｅｇｅｒ ｐｅｌ）のうちの少なくとも１つを含み得る。動きベクトル精度候補の数または種類は、シーケンス、スライスまたはブロックユニットに従って決定されることができる。一例として、動きベクトル精度候補の数または種類を決定するための情報は、ビットストリームを介してシグナリングされることができる。または、現在のブロックのインター予測モードまたはアフィン動きモデルを使用するか否かに基づいてモデル動きベクトル精度候補の数または種類を決定できる。複数の動きベクトル精度候補のいずれか１つを特定するための情報も、ビットストリームを介してシグナリングされることができる。

イントラ予測は、現在のブロックの周辺に符号化または復号化された復元サンプルを使用して現在のブロックを予測することを指す。この場合、現在のブロックのイントラ予測では、ループフィルタリングを適用する前の復元サンプルを使用できる。

イントラ予測方法は、行列（Ｍａｔｒｉｘ）に基づくイントラ予測および周辺復元サンプルとの方向性を考慮した通常のイントラ予測を含む。現在のブロックのイントラ予測方法を指示する情報は、ビットストリームを介してシグナリングされることができる。前記情報は１ビットの識別子であり得る。または、現在のブロックの位置、サイズ、形状または隣接ブロックのイントラ予測方法のうちの少なくとも１つに基づいて、現在のブロックのイントラ予測方法を決定することができる。一例として、現在のブロックが画像境界をまたがって存在する場合、現在のブロックには、行列に基づくイントラ予測が適用されないように設定されることができる。

行列に基づくイントラ予測は、符号化器および復号化器で事前に記憶された行列と、現在のブロックの周辺の復元サンプルとの間の行列積に基づいて、現在のブロックの予測ブロックを取得する方法である。事前に記憶された複数の行列のいずれかを特定する情報は、ビットストリームを介してシグナリングされることができる。復号化器は、前記情報および現在のブロックのサイズに基づいて、現在のブロックのイントラ予測のための行列を決定することができる。

通常のイントラ予測は、非方向性イントラ予測モードまたは方向性イントラ予測モードに基づいて、現在のブロックに対する予測ブロックを取得する方法である。以下は、図面を参照して、通常のイントラ予測に基づくイントラ予測の実行プロセスをより詳しく説明する。

図８は、本願の実施例のイントラ予測方法のフローチャートである。

現在のブロックの参照サンプルラインを決定することができる（Ｓ８０１）。参照サンプルラインは、現在のブロックの上端および／または左側からｋ番目離れたラインに含まれる参照サンプルのセットを意味する。参照サンプルは、現在のブロックの周辺の符号化または復号化された復元サンプルから取得されることができる。

複数の参照サンプルラインのうち、現在のブロックの参照サンプルラインを識別するインデックス情報は、ビットストリームを介してシグナリングされることができる。一例として、現在のブロックの参照サンプルラインを特定するためのインデックス情報ｉｎｔｒａ＿ｌｕｍａ＿ｒｅｆ＿ｉｄｘは、ビットストリームを介してシグナリングされることができる。前記インデックス情報は、コーディングブロックユニットでシグナリングされることができる。

複数の参照サンプルラインは、現在のブロックの上端および／または左側の１ライン目、２ライン目、３ライン目または４ライン目のうちの少なくとも１つを含み得る。複数の参照サンプルラインの現在のブロックの上端に隣接する行および現在のブロックの左側に隣接する列によって構成された参照サンプルラインを隣接参照サンプルラインと称し、他の参照サンプルラインを非隣接参照サンプルラインと称することができる。

図９は、参照サンプルラインを示す図面である。

図９では、現在のブロックに隣接する行または列によって構成された１つの隣接参照サンプルラインと現在のブロックに隣接しない行または列によって構成された３つの非隣接参照サンプルラインを図示する。

複数の参照サンプルラインのうちの一部のみを現在のブロックの参照サンプルラインに選択されることができる。一例として、図９に示された参照サンプルラインのうち、第２非隣接参照サンプルライン以外の残りの参照サンプルラインを候補参照サンプルラインに設定することができる。表１は、各候補参照サンプルラインに割り当てられるインデックスを示す。

説明された数より多くまたはより少ない候補参照サンプルラインを設定することもできる。さらに、候補参照サンプルラインに設定された非隣接参照サンプルラインの数または位置は、説明された例に限定されない。一例として、第１非隣接参照サンプルライン及び第３非隣接参照サンプルラインを候補参照サンプルラインに設定し、または第２非隣接参照サンプルラインおよび第３非隣接参照サンプルラインを候補参照サンプルラインに設定することもできる。または、第１非隣接参照サンプルライン、第２非隣接参照サンプルラインおよび第３非隣接参照サンプルラインをすべて候補参照サンプルラインに設定することもできる。

候補参照サンプルラインの数または種類は、現在のブロックのサイズ、形状、位置、サブブロックに分割するか否か、またはイントラ予測モードのうちの少なくとも１つに基づいて決定されることができる。

現在のブロックの位置、サイズ、形状または隣接ブロックの予測符号化モードのうちの少なくとも１つに基づいて現在のブロックの参照サンプルラインを決定することもできる。一例として、現在のブロックが画像、タイル、スライスまたはコーディングツリーユニットの境界に接する場合、隣接参照サンプルラインを現在のブロックの参照サンプルラインに決定することができる。

または、現在のブロックが非正方形である場合、隣接参照サンプルラインを現在のブロックの参照サンプルラインに決定することができる。または、現在のブロックの幅および高さの比が閾値以上または閾値以下である場合、隣接参照サンプルラインを現在のブロックの参照サンプルラインに決定することができる。

参照サンプルラインは、現在のブロックの上端に位置する上端参照サンプルと現在のブロックの左側に位置する左側参照サンプルとを含み得る。上端参照サンプルおよび左側参照サンプルは、現在のブロックの周辺の復元サンプルから取得されることができる。前記復元サンプルは、ループフィルタを適用する前の状態であり得る。

参照サンプルラインに含まれる参照サンプルの数は、参照サンプルラインと参照サンプルラインとの間の距離に基づいて決定されることができる。一例として、現在のブロックとの距離がｉである参照サンプルラインに含まれる参照サンプル数は、現在のブロックとの距離がｉ－１である参照サンプルラインに含まれる参照サンプル数より多いことができる。そのため、非隣接参照サンプルラインに含まれる参照サンプル数は隣接参照サンプルラインに含まれる参照サンプル数より多い。

現在のブロックとの距離がｉである非隣接参照サンプルラインに含まれる参照サンプル数と、隣接参照サンプルラインに含まれる参照サンプルの数との差分を、参照サンプル数量オフセットと定義することができる。この場合、現在のブロックの上端に位置する上端参照サンプルの数の差分をｏｆｆｓｅｔＸ［ｉ］と定義し、現在のブロックの左側に位置する左側参照サンプルの数の差分をｏｆｆｓｅｔＹ［ｉ］と定義することができる。ｏｆｆｓｅｔＸおよびｏｆｆｓｅｔＹは、現在のブロックと非隣接参照サンプルラインの距離に基づいて決定されることができる。一例として、ｏｆｆｓｅｔＸおよびｏｆｆｓｅｔＹはｉの整数倍に設定されることができる。一例として、ｏｆｆｓｅｔＸ［ｉ］およびｏｆｆｓｅｔ［ｉ］は２ｉであり得る。

または、現在のブロックの幅と高さの比に基づいて、参照サンプル数オフセットを決定することもできる。式１は、現在のブロックの幅と高さの比を数値化する一例を示したものである。

式１に示されたものと異なる方法を使用して、現在のブロックの幅と高さの比を数値化することもできる。

現在のブロックの幅と高さの比に基づいて、ｏｆｆｓｅｔＸおよびｏｆｆｓｅｔＹの値を決定することができる。例えば、ｗｈＲａｔｉｏの値が１より大きい場合、ｏｆｆｓｅｔＸの値をｏｆｆｓｅｔＹより大きく設定することができる。一例として、ｏｆｆｓｅｔＸの値は１に設定でき、ｏｆｆｓｅｔＹの値は０に設定できる。逆に、ｗｈＲａｔｉｏの値が１より小さい場合、ｏｆｆｓｅｔＸよりもｏｆｆｓｅｔＹの値を大きく設定することができる。一例として、ｏｆｆｓｅｔＸの値を０に設定でき、ｏｆｆｓｅｔＹの値は１に設定できる。

ｘ軸とｙ軸の座標が同じである左上参照サンプル以外に、現在のブロックとの距離がｉである非隣接参照サンプルラインは、（ｒｅｆＷ＋ｏｆｆｓｅｔＸ［ｉ］）個の上端参照サンプルと（ｒｅｆＨ＋ｏｆｆｓｅｔＹ［ｉ］）個の左側参照サンプルによって構成できる。ここで、ｒｅｆＷおよびｒｅｆＨは隣接参照サンプルラインの長さを示し、それぞれ以下の式２および３に示されたように設定できる。

式２および式３では、ｎＴｂＷは、イントラ予測を実行するコーディングブロックまたは変換ブロックの幅を示し、ｎＴｂＨは、イントラ予測を実行するコーディングブロックまたは変換ブロックの高さを示す。

結果、現在のブロックとの距離がｉである参照サンプルラインは（ｒｅｆＷ＋ｒｅｆＨ＋ｏｆｆｓｅｔＸ［ｉ］＋ｏｆｆｓｅｔＹ［ｉ］＋１）個の参照サンプルによって構成できる。

現在のブロックのイントラ予測モードに従い、参照サンプルラインに属する参照サンプルのうちの少なくとも１つを使用して予測サンプルを取得する。

次に、現在のブロックのイントラ予測モードを決定できる（Ｓ８０２）。現在のブロックのイントラ予測モードについては、非方向性イントラ予測モードまたは方向性イントラ予測モードのうちの少なくとも１つが、現在のブロックのイントラ予測モードに決定されることができる。非方向性イントラ予測モードは、ｐｌａｎｎｅｒとＤＣとを含み、方向性イントラ予測モードは、左下端対角線方向から右上端対角線方向まで、３３個または６５個のモードを含む。

図１０は、イントラ予測モードを示す図面である。

図１０の（ａ）は、３５個のイントラ予測モードを示し、図１０の（ｂ）は６７個のイントラ予測モードを示す。

図１０に示された数より多くまたはより少ないイントラ予測モードを定義することもできる。

現在のブロックに隣接する隣接ブロックのイントラ予測モードに基づいて最確モード（ＭＰＭ：Ｍｏｓｔ Ｐｒｏｂａｂｌｅ Ｍｏｄｅ）を設定できる。ここで、隣接ブロックは、現在のブロックの左側に隣接する左側隣接ブロックと、現在のブロックの上端に隣接する上端隣接ブロックとを含み得る。現在のブロックの左上サンプルの座標を（０，０）と称する場合、左側隣接ブロックは、（－１，０）、（－１，Ｈ－１）または（－１，（Ｈ－１）／２）位置のサンプルを含み得る。ここで、Ｈは、現在のブロックの高さを示す。上端隣接ブロックは、（０，－１）、（Ｗ－１，－１）または（（Ｗ－１）／２，－１）位置のサンプルを含み得る。ここで、Ｗは現在のブロックの幅を示す。

隣接ブロックが通常のイントラ予測で符号化されるとき、隣接ブロックのイントラ予測モードに基づいてＭＰＭを取得できる。具体的には、左側隣接ブロックのイントラ予測モードを変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡに設定でき、上端隣接ブロックのイントラ予測モードを変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢに設定できる。

この場合、隣接ブロックを使用できない場合（例えば、隣接ブロックが符号化または復号化されていない場合、または隣接ブロックの位置が画像境界を超えた場合）、隣接ブロックが行列に基づくイントラ予測で符号化される場合、隣接ブロックがインター予測で符号化される場合または隣接ブロックが現在のブロックと異なるコーディングツリーユニットに含まれる場合、隣接ブロックのイントラ予測モードに基づいて導出される変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸ（ここで、ＸはＡまたはＢである）をデフォルトモードに設定できる。ここで、デフォルトモードは、ｐｌａｎｎｅｒ、ＤＣ、垂直方向モードまたは水平方向モードのうちの少なくとも１つを含み得る。

または、隣接ブロックが行列のイントラ予測で符号化されるとき、行列のいずれかに対して特定するためのインデックス値に対応するイントラ予測モードをｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸに設定できる。そのため、行列を特定するためのインデックス値とイントラ予測モードのマッピング関係を示すルックアップテーブルは、符号化器および復号化器に事前に記憶されることができる。

変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよび変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢに基づいて、ＭＰＭを取得できる。一例として、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢをＭＰＭに設定し、またはｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡまたはｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうち、大きい値または小さい値と類似するイントラ予測モードをＭＰＭに設定できる。ここで、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸ（ＸはＡまたはＢである）に類似したイントラ予測モードは、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸとインデックス差分値が±１または±２であるイントラ予測モードであり得る。

ＭＰＭリストに含まれるＭＰＭの数は、符号化器および復号化器で事前に設定できる。一例として、ＭＰＭの数は３、４、５または６であり得る。または、ＭＰＭの数を示す情報は、ビットストリームを介してシグナリングされることができる。または、隣接ブロックの予測符号化モード、現在のブロックのサイズ、形状または参照サンプルラインインデックスのうちの少なくとも１つに基づいて、ＭＰＭの数を決定できる。一例として、隣接参照サンプルラインが現在のブロックの参照サンプルラインと決定された場合、Ｎ個のＭＰＭが使用され、逆に、非隣接参照サンプルラインが現在のブロックの参照サンプルラインと決定された場合、Ｍ個のＭＰＭを使用できる。ＭがＮより小さい自然数であり、一例として、Ｎは６であり、Ｍは５、４または３であり得る。そのため、現在のブロックの参照サンプルラインのインデックスが０であり、ＭＰＭ識別子が真であると、現在のブロックのイントラ予測モードは６個の候補イントラ予測モードのいずれかと決定でき、逆に、現在のブロックの参照サンプルラインのインデックスが０より大きく、ＭＰＭ識別子が真であると、現在のブロックのイントラ予測モードは、５個の候補イントラ予測モードのいずれかと決定できる。

または、現在のブロックの参照サンプルラインのインデックスと関係なく固定された数（例えば、６個または５個）のＭＰＭ候補を使用できる。

後述の実施例では、ＭＰＭの数が６個であると仮定し、６個のＭＰＭをＭＰＭ［０］、ＭＰＭ［１］、ＭＰＭ［２］、ＭＰＭ［３］、ＭＰＭ［４］およびＭＰＭ［５］と称することにする。ＭＰＭの数が６個より少ない実施例において、後述の実施例で説明される６個のＭＰＭのうちの一部のみを使用して実現できる。または、ＭＰＭの数が６個より多い実施例において、後続の実施例で説明される６個のＭＰＭを含んで実現できる。

ＭＰＭの初期値はｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡと異なる非方向性イントラ予測モードまたは方向性イントラ予測モードに設定できる。ここで、ＭＰＭに設定できる方向性イントラ予測モードは、垂直方向のイントラ予測モード、水平方向のイントラ予測モード、左下端対角線方向のイントラ予測モード、左上端対角線方向のイントラ予測モードまたは右上端対角線方向のイントラ予測モードのうちの少なくとも１つを含み得る。一例として、ＭＰＭの初期値は以下のように設定できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＝＝ＩＮＴＲＡ＿ＰＬＡＮＡＲ）？ＩＮＴＲＡ＿ＤＣ：ＩＮＴＲＡ＿ＰＬＡＮＡＲ
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［３］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［４］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［５］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ３４
上述した例において、（（Ａ）？Ｂ：Ｃ）は、Ａに記載の条件が真である場合、Ｂ値を返し、Ａに記載の条件が偽である場合、Ｃ値を返す関数を示す。

ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと同じであり、且つｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが方向性イントラ予測モードである場合、ＭＰＭ［０］をｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡに設定し、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡに類似したイントラ予測モードをＭＰＭに設定できる。ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡに類似したイントラ予測モードは、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡとのインデックス差分値が±１または±２であるイントラ予測モードであり得る。ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡに類似したイントラ予測モードを導出するために、モジュラス演算（％）およびオフセットを使用できる。さらに、非方向性イントラ予測モードまたはｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡとの角度差分が事前に定義された値であるイントラ予測モードのうちの少なくとも１つをＭＰＭに設定できる。ここで、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡとの角度差分が事前に定義された値であるイントラ予測モードは、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡと垂直なイントラ予測モードまたはｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡと反対方向のイントラ予測モードであり得る。一例として、ＭＰＭは以下のように取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＰＬＡＮＡＲ
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＤＣ
ＭＰＭ［３］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋６２）％６５）
ＭＰＭ［４］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ－１）％６５）
ＭＰＭ［５］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋９４）％６５）
ＭＰＭ［３］は、（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ－１）に対応し、ＭＰＭ［４］は、（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋１）に対応する。ＭＰＭ［５］は、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡと垂直なイントラ予測モードを示す。

ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと異なる場合、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢをそれぞれＭＰＭ［０］およびＭＰＭ［１］に設定できる。または、ｃａｎｄＩｎｔｒａＰｒｅｄＡをｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと比較して、最大値をＭＰＭ［０］に設定し、最小値をＭＰＭ［１］に設定できる。逆に、最小値をＭＰＭ［０］に設定し、最大値をＭＰＭ［１］に設定することもできる。

この場合、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが両方とも方向性イントラ予測モードである場合、非方向性イントラ予測モードＭＰＭに設定できる。一例として、ｐｌａｎｎｅｒおよびＤＣはそれぞれＭＰＭ［２］およびＭＰＭ［３］に設定できる。

加えて、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうち、値が大きいものまたは小さいものに類似したイントラ予測モードをＭＰＭに設定できる。ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸに類似したイントラ予測モードは、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸにオフセットを加算または減算して取得できる。この場合、オフセットの最大サイズは、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうちの最大値と最小値との差分に基づいて決定されることができる。一例として、オフセットは、１または２などの自然数であり得る。

一例として、ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ）からＭＩＮ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ）を差分した値が６４または１ではない場合、ＭＰＭ［４］およびＭＰＭ［５］は以下の式で取得できる。

ＭＰＭ［４］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋６２）％６５
ＭＰＭ［５］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）－１）％６５
ここで、ＭＡＸ（Ａ，Ｂ）関数はＡおよびＢのうち、大きい値を返す関数であり、ＭＩＮ（Ａ，Ｂ）関数はＡおよびＢのうち、小さい値を返す関数である。ＭＰＭ［４］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）－１）に対応し、ＭＰＭ［５］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋１）に対応する。逆に、ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ）からＭＩＮ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ）を差分した値が６４または１である場合、ＭＰＭ［４］およびＭＰＭ［５］は以下のように取得できる。

ＭＰＭ［４］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋６１）％６５
ＭＰＭ［５］＝２＋（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）％６５
ＭＰＭ［４］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）－２）に対応し、ＭＰＭ［５］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋２）に対応する。

ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのいずれかが方向性イントラ予測モードであり、別の１つが非方向性イントラ予測モードである場合、ＭＩＮ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａｐｒｅｄＭｏｄｅＢ）と異なる非方向性イントラ予測モード、ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ）に類似した方向性イントラ予測モード、またはＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａｐｒｅｄＭｏｄｅＢ）との角度差分が事前に定義された値であるイントラ予測モードのうちの少なくとも１つをＭＰＭに設定できる。一例として、ＭＰＭ［２］ないしＭＰＭ［５］は以下のように取得できる。

ＭＰＭ［２］＝！ＭＩＮ（ＭＰＭ［０］，ＭＰＭ［１］）
ＭＰＭ［３］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋６２）％６５
ＭＰＭ［４］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）－１）％６５
ＭＰＭ［５］＝２＋（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋９４）％６５
ＭＰＭ［２］は、ＭＰＭ［０］またはＭＰＭ［１］と異なる非方向性イントラ予測モードを示す。例えば、ＭＩＮ（ＭＰＭ［０］，ＭＰＭ［１］）がＤＣである場合、ＭＰＭ［２］をｐｌａｎｎｅｒに設定し、ＭＩＮ（ＭＰＭ［０］，ＭＰＭ［１］）がｐｌａｎｎｅｒである場合、ＭＰＭ［２］をＤＣに設定する。ＭＰＭ［３］は、（（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）－１）に対応し、ＭＰＭ［４］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）＋１）に対応する。ＭＰＭ［５］は、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）と垂直なイントラ予測モードを示す。上記した例と異なり、（ＭＡＸ（ＭＰＭ［０］，ＭＰＭ［１］）に２を加算または２を減算して得たＭＰＭをＭＰＭリストに追加することもできる。

ｃａｎｄＩｎｔｒａＰｒｅｄＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＢのいずれかが非方向性イントラモードであり、別の１つが方向性イントラ予測モードである場合、即ち、ｃａｎｄＩｎｔｒａＰｒｅｄＡおよびＰｒｅｄＩｎｔｒａＰｒｅｄＢのいずれかが２より小さく、別の１つが２より大きいか等しい場合、ｃａｎｄＩｎｔｒａＰｒｅｄＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＢのうちの最大値をＭＰＭに設定できる。さらに、前記最大値に類似したイントラ予測モードまたは前記最大値に垂直なイントラ予測モードをＭＰＭに設定できる。一例として、ＭＰＭ［０］ないしＭＰＭ［５］は以下のように取得できる。

ＭＰＭ［０］＝ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＰＬＡＮＡＲ
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＤＣ
ＭＰＭ［３］＝２＋（（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）＋６２）％６５
ＭＰＭ［４］＝２＋（（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ］）－１）％６５
ＭＰＭ［５］＝２＋（（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）＋９４）％６５
ＭＰＭ［３］は、（（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）－１）に対応し、ＭＰＭ［４］は、（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）＋１）に対応する。ＭＰＭ［５］は、（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）と垂直なイントラ予測モードを示す。上記した例示と異なり、（ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＡ，ｃａｎｄＩｎｔｒａＰｒｅｄＢ）に２を加算または２を減算して得たＭＰＭをＭＰＭリストに追加することもできる。

現在のブロックの参照サンプルラインのインデックスを考慮して、ＭＰＭを取得できる。特に、非隣接参照サンプルラインが現在のブロックの参照サンプルラインと決定された場合、ｐｌａｎｎｅｒまたはＤＣなどの非方向性予測モードをＭＰＭに設定しなくてもよい。一例として、ＭＰＭの初期値は、隣接参照サンプルラインが現在のブロックの参照サンプルラインと決定されたか否かに従って以下のように設定できる。

ＭＰＭ［０］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［１］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ：＝＝ＩＮＴＲＡ＿ＰＬＡＮＡＲ？ＩＮＴＲＡ＿ＤＣ：ＩＮＴＲＡ＿ＰＬＡＮＡＲ）：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［３］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ３４
ＭＰＭ［４］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ６６
ＭＰＭ［５］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ３４：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ４２
現在のブロックの参照サンプルラインが非隣接参照サンプルラインであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが両方とも方向性イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［３］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［４］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［５］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ３４
現在のブロックの参照サンプルラインが非隣接参照サンプルラインであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのいずれかが非方向性イントラ予測モードで、別の１つが方向性イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ＭＡＸ（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ，ｃａｎｄＩｎｔｒａｐｒｅｄＭｏｄｅＢ）
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［３］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［４］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ３４
ＭＰＭ［５］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ６６
複数のＭＰＭを含むＭＰＭリストを生成した後、現在のブロックのイントラ予測モードと同じＭＰＭがＭＰＭリストに含まれるか否かを示す情報はビットストリームを介してシグナリングされる。前記情報が１ビットである識別子は、ＭＰＭ識別子と称し得る。前記ＭＰＭ識別子は、現在のブロックと同じＭＰＭがＭＰＭリストに含まれると示す場合、ＭＰＭの１つのＭＰＭを識別するインデックス情報はビットストリームを介して信号をシグナリングされることができる。一例として、複数のＭＰＭのうちのいずれかを特定するインデックス情報ｍｐｍ＿ｉｄｘはビットストリームを介してシグナリングされることができる。前記インデックス情報により特定されたＭＰＭは、現在のブロックのイントラ予測モードに設定できる。前記ＭＰＭ識別子が、現在のブロックと同じＭＰＭが、ＭＰＭリストに含まれていないと示す場合、ＭＰＭ以外の残余イントラ予測モードのうちのいずれかを指示する残余モード情報は、ビットストリームを介してシグナリングされることができる。残余モード情報が、ＭＰＭ以外の残余イントラ予測モードにインデックスを再割り当てるとき、現在のブロックのイントラ予測モードに対応するインデックス値を指す。復号化器は、ＭＰＭを昇順で配列し、残余モード情報をＭＰＭと比較して、現在のブロックのイントラ予測モードを決定できる。一例として、残余モード情報がＭＰＭに等しいか小さい場合、残余モード情報に１を加算して現在のブロックのイントラ予測モードを取得できる。

現在のブロックのイントラ予測モードを取得するとき、ＭＰＭの一部と残余モード情報との比較をスキップできる。一例として、ＭＰＭの非方向性イントラ予測モードとして使用されるＭＰＭは比較対象から排除できる。非方向性イントラ予測モードがＭＰＭに設定された場合、残余モード情報は、方向性イントラ予測モードを指すことが明らかであるため、非方向性イントラ予測モード以外の残余ＭＰＭを残余モード情報と比較して、現在のブロックのイントラ予測モードを取得できる。非方向性イントラ予測モードを比較対象として除外する代わりに、残余モード情報に非方向性イントラ予測モードの数を加算した後、その結果値を残余ＭＰＭと比較することができる。

デフォルトモードをＭＰＭに設定する代わりに、現在のブロックのイントラ予測モードがデフォルトモードであるか否かを示す情報を、ビットストリームを介してシグナリングすることができる。前記情報が１ビットの識別子であり、前記識別子をデフォルトモード識別子と称し得る。前記デフォルトモード識別子は、ＭＰＭ識別子が現在のブロックと同じＭＰＭがＭＰＭリストに含まれていることを示す場合にのみ、シグナリングされることができる。上記のように、デフォルトモードは、ｐｌａｎｎｅｒ、ＤＣ、垂直方向モードまたは水平方向モードのうちの少なくとも１つを含み得る。一例として、ｐｌａｎｎｅｒがデフォルトモードに設定された場合、デフォルトモード識別子は、現在のブロックのイントラ予測モードがｐｌａｎｎｅｒであるか否かを指示できる。デフォルトモード識別子が、現在のブロックのイントラ予測モードがデフォルトモードではないことを指す場合、インデックス情報によって指示された複数のＭＰＭのうちの１つを現在のブロックのイントラ予測モードに設定することができる。

デフォルトモード識別子を使用するとき、デフォルトモードと同じイントラ予測モードは、ＭＰＭに設定されないように、設定されることができる。一例として、デフォルトモード識別子が、現在のブロックのイントラ予測モードがｐｌａｎｎｅｒであるか否かを指示する場合、上記の６個のＭＰＭのｐｌａｎｎｅｒに対応するＭＰＭを、別のモードに置換し、またはｐｌａｎｎｅｒに対応するＭＰＭ以外の５個のＭＰＭを使用して、現在のブロックのイントラ予測モードを取得できる。

複数のイントラ予測モードがデフォルトモードに設定された場合、デフォルトモードのいずれかを指示するインデックス情報がよりシグナリングされることもできる。現在のブロックのイントラ予測モードは前記インデックス情報が指すデフォルトモードに設定できる。

現在のブロックの参照サンプルラインのインデックスが０ではない場合、デフォルトモードを使用しないように設定できる。一例として、非隣接参照サンプルラインが現在のブロックの参照サンプルラインであると決定された場合、ＤＣモードまたはｐｌａｎｎｅｒモードなどの非方向性イントラ予測モードを使用しないように設定できる。そのため、参照サンプルラインのインデックスが０ではない場合、デフォルトモード識別子をシグナリングせず、前記デフォルトモード識別子の値を事前に定義された値（即ち、偽）に設定できる。

現在のブロックのイントラ予測モードが決定された後、決定されたイントラ予測モードに基づいて、現在のブロックに関する予測サンプルを取得できる（Ｓ８０３）。

ＤＣモードが選択された場合、参照サンプルの平均値に基づいて、現在のブロックに対する予測サンプルを生成できる。具体的には、予測ブロック内のすべてのサンプルの値は参照サンプルの平均値に基づいて生成できる。平均値は、現在のブロックの上端に位置する上端参照サンプルおよび現在のブロックの左側に位置する左側参照サンプルのうちの少なくとも１つに基づいて取得できる。

現在のブロックの形状に従って、平均値を取得するために使用される参照サンプル数または範囲は異なる。一例として、現在のブロックが、幅が高さより大きい非正方形ブロックである場合、上端参照サンプルのみを使用して平均値を計算できる。逆に、現在のブロックが、幅が高さより小さい非正方形ブロックである場合、左側参照サンプルのみを使用して平均値を計算できる。即ち、現在のブロックの幅が高さと異なる場合、長さがもっと長い側に隣接する参照サンプルのみを使用して平均値を計算できる。または、現在のブロックの幅と高さの比率に基づいて、上端参照サンプルのみを使用して平均値を計算するか左側参照サンプルのみを使用して平均値を計算するかを決定できる。

ｐｌａｎｎｅｒモードが選択された場合、水平方向予測サンプルおよび垂直方向予測サンプルを使用して予測サンプルを取得できる。ここで、水平方向予測サンプルは、予測サンプルと同じ水平線に位置する左側参照サンプルおよび右側参照サンプルに基づいて取得され、垂直方向予測サンプルは、予測サンプルと同じ垂直線に位置する上端参照サンプルおよび下端参照サンプルに基づいて取得される。ここで、右側参照サンプルは、現在のブロックの右上隅に隣接する参照サンプルを複製して生成でき、下端参照サンプルは、現在のブロックの左下隅に隣接する参照サンプルを複製して生成できる。水平方向予測サンプルは、左側参照サンプルと右側参照サンプルとの加重和演算に基づいて取得でき、垂直方向予測サンプルは、上端参照サンプルと下端参照サンプルとの加重和演算に基づいて取得できる。この場合、各参照サンプルに対応する加重値は予測サンプルの位置に従って決定できる。予測サンプルは、水平方向予測サンプルと垂直方向予測サンプルとの平均演算または加重和演算に基づいて取得できる。加重和演算を実行するとき、予測サンプルの位置に基づいて、水平方向予測サンプルおよび垂直方向予測サンプルに与える加重値を決定できる。

方向性予測モードが選択されたとき、選択された方向性予測モードの予測方向（または予測角度）を示すためのパラメータを決定できる。以下の表２は、各イントラ予測モードのイントラ方向パラメータｉｎｔｒａＰｒｅｄＡｎｇを示す。

表２は、３５個のイントラ予測モードが定義されたとき、インデックスが２ないし３４のいずれかである各イントラ予測モードのイントラ方向パラメータを示す。３３個より多い方向性イントラ予測モードが定義されているとき、表２をさらに細分化し、各方向性イントラ予測モードのイントラ方向パラメータを設定できる。

現在のブロックの上端参照サンプルおよび左側参照サンプルを一列に並べた後、イントラ方向パラメータの値に基づいて予測サンプルを取得できる。この場合、イントラ方向パラメータの値が負の場合、左側参照サンプルおよび上端参照サンプルを一列に並べる。

図１１および図１２は、参照サンプルを一列に並べた一次元配列の例を示す図面である。

図１１は、参照サンプルを垂直方向に沿って配列した垂直方向一次元配列の例を示し、図１２は、参照サンプルを水平方向に沿って配列した水平方向一次元配列の例を示す。３５個のイントラ予測モードを定義すると仮定して、図１１および図１２の実施例を説明する。

イントラ予測モードインデックスが１１ないし１８のうちのいずれかである場合、上端参照サンプルを反時計回りの方向に回転する水平方向一次元配列を適用でき、イントラ予測モードインデックスが１９ないし２５のうちのいずれかである場合、左側参照サンプルを時計回りの方向に回転する垂直方向一次元配列を適用できる。イントラ予測モードの角度に従って参照サンプルを一列に並べることができる。

イントラ方向パラメータに基づいて、参照サンプル決定パラメータを決定できる。参照サンプル決定パラメータは、参照サンプルを特定するための参照サンプルインデックスおよび参照サンプルで適用される加重値を決定するための加重値パラメータを含み得る。

参照サンプルインデックスｉＩｄｘおよび加重値パラメータｉｆａｃｔは、それぞれ以下の式４および５で取得できる。

式４および５では、Ｐ_ａｎｇは、イントラ方向パラメータを示す。参照サンプルインデックスｉＩｄｘに従って特定された参照サンプルは整数ピクセル（Ｉｎｔｅｇｅｒ ｐｅｌ）に対応する。

予測サンプルを取得するために、少なくとも１つ参照サンプルを特定できる。具体的には、予測モードの傾きを考慮して、予測サンプルを取得するために使用された参照サンプルの位置を特定できる。一例として、参照サンプルインデックスｉＩｄｘを使用して、予測サンプルを取得するために使用された参照サンプルを特定できる。

この場合、イントラ予測モードの傾きが１つの参照サンプルで表されていない場合、複数の参照サンプルを補間して予測サンプルを生成できる。一例として、イントラ予測モードの傾きが、予測サンプルと第１参照サンプルとの間の傾きと、予測サンプルと第２参照サンプルとの間の傾きとの間の値である場合、第１参照サンプルおよび第２参照サンプルを補間して予測サンプルを取得できる。即ち、イントラ予測角度に基づく角線（Ａｎｇｕｌａｒ Ｌｉｎｅ）が整数ピクセルに位置する参照サンプルを通過しない場合、前記角線が通過する位置の左右または上下に隣接する位置に位置する参照サンプルを補間して予測サンプルを取得できる。

以下の式６は、参照サンプルに基づいて予測サンプルを取得する例を示す。

式６では、Ｐは予測サンプルを示し、Ｒｅｆ＿１Ｄは一次元配列の参照サンプルのうちのいずれかを示す。この場合、参照サンプルの位置は、予測サンプルの位置（ｘ，ｙ）および参照サンプルインデックスｉＩｄｘに従って決定できる。

イントラ予測モードの傾きが１つの参照サンプルによって表される場合、加重値パラメータｉ_ｆａｃｔは０に設定される。そのため、式６は以下の式７に示されたように簡略化できる。

複数のイントラ予測モードに基づいて現在のブロックに対するイントラ予測を実行することもできる。一例として、予測サンプルに従ってイントラ予測モードを取得でき、各予測サンプルに割り当てられるイントラ予測モードに基づいて、予測サンプルを取得できる。

または、領域に従ってイントラ予測モードを取得でき、各領域に割り当てられたイントラ予測モードに基づいて、各領域に対するイントラ予測を実行できる。ここで、前記領域は少なくとも１つのサンプルを含み得る。前記領域のサイズまたは形状のうちの少なくとも１つは、現在のブロックのサイズ、形状またはイントラ予測モードのうちの少なくとも１つに基づいて適応的に決定できる。または、符号化器および復号化器で、現在のブロックのサイズまたは形状から独立して、領域のサイズまたは形状のうちの少なくとも１つが事前に定義されていてもよい。

または、それぞれ複数のイントラ予測に基づいてイントラ予測を実行し、複数回のイントラ予測を介して取得された複数の予測サンプルの平均演算または加重和演算に基づいて最終的な予測サンプルを取得できる。一例として、第１イントラ予測モードに基づいてイントラ予測を実行して、第１予測サンプルを取得し、第２イントラ予測モードに基づいてイントラ予測を実行して、第２予測サンプルを取得できる。その後、第１予測サンプルと第２予測サンプルとの平均演算または加重和演算に基づいて最終的な予測サンプルを取得できる。この場合、第１予測サンプルおよび第２予測サンプルのそれぞれに割り当てられた加重値は、第１イントラ予測モードが非方向性または方向性予測モードであるか否か、第２イントラ予測モードが非方向性または方向性予測モードであるか否か、または隣接ブロックのイントラ予測モードのうちの少なくとも１つに従って決定できる。

複数のイントラ予測モードは、非方向性イントラ予測モードと方向性予測モードとの組み合わせ、方向性予測モードとの組み合わせまたは非方向性予測モードとの組み合わせであり得る。

図１３は、方向性イントラ予測モードがＸ軸と平行な直線と形成された角度を例示する図面である。

図１３に示された例のように、方向性予測モードは左下の対角線方向ないし右上の対角線方向の間に存在できる。ｘ軸と方向性予測モードが形成された角度で説明すると、方向性予測モードは４５度（左下の対角線方向）ないし－１３５度（右上の対角線方向）の間に存在することができる。

現在のブロックが非正方形である場合、現在のブロックのイントラ予測モードに従って、イントラ予測角度に従う角線に位置する参照サンプルの予測サンプルにより近い参照サンプルの代わりに、予測サンプルにより遠い参照サンプルを使用して予測サンプルを取得する状況が発生する可能性がある。

図１４は、現在のブロックが非正方形である場合、予測サンプルが取得される形態の概略図である。

一例として、図１４の（ａ）に示されたように、現在のブロックが幅が高さより大きい非正方形であり、現在のブロックのイントラ予測モードが０度ないし４５度の間の角度を有する方向性イントラ予測モードであると仮定する。上記の場合では、現在のブロックの右側の列の近くの予測サンプルＡを取得するとき、前記角度に従う角度モードに位置する参照サンプルのうち、前記予測サンプルに近い上端参照サンプルＴの代わりに、前記予測サンプルと遠い左側参照サンプルＬを使用する状況が発生する可能性がある。

別の例として、図１４の（ｂ）に示されたように、現在のブロックが高さが幅より大きい非正方形であり、現在のブロックのイントラ予測モードが－９０度ないし－１３５度の間の方向性イントラ予測モードであると仮定する。上記の場合では、現在のブロックの下端の行の近くの予測サンプルＡを取得するとき、前記角度に従う角度モードに位置する参照サンプルのうち、前記予測サンプルに近い左側参照サンプルＬの代わりに、前記予測サンプルと遠い上端参照サンプルＴを使用する状況が発生する可能性がある。

上述した問題を解消するために、現在のブロックが非正方形である場合、現在のブロックのイントラ予測モードを反対の方向のイントラ予測モードに置換できる。そのため、非正方形ブロックに対して、図１０に示された方向性予測モードより大きいまたはより小さい角度を有する方向性予測モードを使用できる。このような方向性イントラ予測モードを広角イントラ予測モード（ｗｉｄｅ ａｎｇｌｅ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ）と定義できる。広角イントラ予測モードは、４５度ないし－１３５度の範囲に含まれない方向性イントラ予測モードを示す。

図１５は、広角イントラ予測モードを示す図面である。

図１５に示された例では、インデックスが－１ないし－１４であるイントラ予測モードおよびインデックスが６７ないし８０の間であるイントラ予測モードは、広角イントラ予測モードを示す。

図１５では、角度が４５度より大きい１４個の広角イントラ予測モード（－１ないし－１４）および角度が－１３５度より小さい１４個の広角イントラ予測モード（６７ないし８０）を例示したが、これより多い数またはより小さい数の広角イントラ予測モードが定義されることができる。

広角イントラ予測モードを使用するとき、上端参照サンプルの長さは２Ｗ＋１に設定でき、左側参照サンプルの長さは２Ｈ＋１に設定できる。

広角イントラ予測モードを使用することと伴い、図１４（ａ）に示されたサンプルＡは、参照サンプルＴを使用して予測でき、図１４の（ｂ）に示されたサンプルＡは参照サンプルＬを使用して予測できる。

元のイントラ予測モードおよびＮ個の広角イントラ予測モードを加えて、合計６７＋Ｎ個のイントラ予測モードを使用できる。一例として、表３は、２０個の広角イントラ予測モードを定義するとき、イントラ予測モードのイントラ方向パラメータを示す。

現在のブロックが非正方形であり、Ｓ８０２で取得された現在のブロックのイントラ予測モードが変換範囲に属する場合、現在のブロックのイントラ予測モードを広角イントラ予測モードに変換できる。前記変換範囲は、現在のブロックのサイズ、形状または比率のうちの少なくとも１つに基づいて決定できる。ここで、前記比率は、現在のブロックの幅と高さとの比率を表示する。

現在のブロックが幅が高さより大きい非正方形である場合、変換範囲は、右上の対角線方向のイントラ予測モードインデックス（例えば、６６）ないし（右上対角線方向のイントラ予測モードのインデックス、－Ｎ）に設定できる。ここで、Ｎは、現在のブロックの比率に基づいて決定できる。現在のブロックのイントラ予測モードが変換範囲に属する場合、前記イントラ予測モードを広角イントラ予測モードに変換できる。前記変換は、前記イントラ予測モードから事前に定義された値を減算することであり得、事前に定義された値は、広角イントラ予測モード以外のイントラ予測モードの合計（例えば、６７）であり得る。

前記実施例によれば、６６番ないし５３番間のイントラ予測モードは、それぞれ－１番ないし－１４番間の広角イントラ予測モードに変換できる。

現在のブロックの高さが幅より大きい非正方形である場合、変換範囲は左下の対角線方向のイントラ予測モードインデックス（例えば、２）ないし（左下の対角線方向のイントラ予測モードのインデックス、＋Ｍ）に設定できる。ここで、Ｍは、現在のブロックの比率に基づいて決定できる。現在のブロックのイントラ予測モードが変換範囲に属する場合、前記イントラ予測モードを広角イントラ予測モードに変換できる。前記変換は前記イントラ予測モードに事前に定義された値を加算することであり得、事前に定義された値は、広角イントラ予測モード以外の方向性イントラ予測モードの合計（例えば、６５）であり得る。

前記実施例によれば、２番ないし１５番間のイントラ予測モードのそれぞれは、６７番ないし８０番間の広角イントラ予測モードに変換できる。

以下は、変換範囲に属するイントラ予測モードを広角イントラ代替予測モードと称する。

変換範囲は、現在のブロックの比率に基づいて決定できる。一例として、表４および表５は、それぞれ広角イントラ予測モード以外の３５個のイントラ予測モードが定義される場合および６７個のイントラ予測モードが定義される場合、変換範囲を示す。

表４および表５に示されたように、変換範囲に含まれる広角イントラ代替予測モードの数は現在のブロックの比率によって異なってもよい。

現在のブロックの比率をさらに細分化し、以下の表６に示されたように変換範囲を設定することもできる。

非隣接参照サンプルラインが現在のブロックの参照サンプルラインに決定された場合、または、複数の参照サンプルラインからある１つのマルチラインイントラ予測符号化方法を選択する場合では、広角イントラ予測モードを使用しないように設定できる。即ち、現在のブロックが非正方形であり、現在のブロックのイントラ予測モードが変換範囲に属する場合としても、現在のブロックのイントラ予測モードを広角イントラ予測モードに変換しなくてもよい。

または、現在のブロックのイントラ予測モードが広角イントラ予測モードであると決定された場合、非隣接参照サンプルラインを現在のブロックの参照サンプルラインとして使用できないと設定し、または複数の参照サンプルラインのうちのいずれかを選択するマルチラインイントラ予測符号化方法が使用されない場合、隣接参照サンプルラインが現在のブロックの参照サンプルラインに決定されることができる。

広角イントラ予測モードを使用しない場合、ｒｅｆＷおよびｒｅｆＨをｎＴｂＷとｎＴｂＨとの合計に設定できる。そのため、左上参照サンプル以外に、現在のブロックとの距離がｉである非隣接参照サンプルは、（ｎＴｂＷ＋ｎＴｂＨ＋ｏｆｆｓｅｔＸ［ｉ］）個の上端参照サンプルと（ｎＴｂＷ＋ｎＴｂＨ＋ｏｆｆｓｅｔＹ［ｉ］）個の左側参照サンプルとを含み得る。即ち、現在のブロックとの距離がｉである非隣接参照サンプルは（２ｎＴｂＷ＋２ｎＴｂＨ＋ｏｆｆｓｅｔＸ［ｉ］＋ｏｆｆｓｅｔＹ［ｉ］＋１）個の参照サンプルを含み得る。例えば、ｗｈＲａｔｉｏの値が１より大きい場合、ｏｆｆｓｅｔＸの値をｏｆｆｓｅｔＹの値より大きく設定することができる。一例として、ｏｆｆｓｅｔＸの値は１に設定でき、ｏｆｆｓｅｔＹの値は０に設定できる。逆に、ｗｈＲａｔｉｏの値が１より小さい場合、ｏｆｆｓｅｔＹの値をｏｆｆｓｅｔＸの値より大きく設定できる。一例として、ｏｆｆｓｅｔＸの値を０に設定でき、ｏｆｆｓｅｔＹの値は１に設定できる。

元のイントラ予測モードに広角イントラ予測モードを追加し使用して、広角イントラ予測モードを符号化するために必要なリソースが増加され、符号化効率は低下する。そのため、広角イントラ予測モードをそのまま符号化する代わりに、広角イントラ予測モードに対する代替イントラ予測モードを符号化することにより、符号化効率を向上させることができる。

一例として、現在のブロックが６７番の広角イントラ予測モードを使用して符号化されたとき、６７番の広角代替イントラ予測モードである２番を現在のブロックのイントラ予測モードで符号化することができる。さらに、現在のブロックが－１番の広角イントラ予測モードで符号化されるとき、－１番の広角代替イントラ予測モードである６６番を現在のブロックのイントラ予測モードで符号化することができる。

復号化器は、現在のブロックのイントラ予測モードを復号化し、復号化されたイントラ予測モードが変換範囲に含まれているか否かを判断できる。復号化されたイントラ予測モードが、広角代替イントラ予測モードである場合、イントラ予測モードを広角イントラ予測モードに変換できる。

または、現在のブロックが広角イントラ予測モードで符号化される場合、広角イントラ予測モードをそのまま符号化することもできる。

イントラ予測モードの符号化は、上記のＭＰＭリストに基づいて実現できる。具体的には、隣接ブロックが広角イントラ予測モードで符号化される場合、前記広角イントラ予測モードに対応する広角代替イントラ予測モードに基づいてＭＰＭを設定できる。一例として、隣接ブロックが広角イントラ予測モードで符号化される場合、変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸ（ＸはＡまたはＢである）を広角イントラ予測モード代替イントラ予測モードに設定できる。

または、隣接ブロックの広角イントラ予測モードに基づいてＭＰＭを設定することもできる。一例として、隣接ブロックが広角イントラ予測モードで符号化される場合、変数ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＸを広角イントラ予測モードに設定できる。

現在のブロックの参照サンプルラインが非隣接参照サンプルラインであるか否か、または複数の参照サンプルラインのうちの１つを選択したマルチラインイントラ予測符号化方法が適用されるか否かに基づいて、ＭＰＭを取得できる。一例として、現在のブロックの参照サンプルラインが非隣接参照サンプルラインであり、現在のブロックに隣接する隣接ブロックのイントラ予測モードが広角イントラ予測モードである場合、デフォルトモードを現在のブロックのＭＰＭに設定できる。

一例として、左側隣接ブロックのイントラ予測モードに基づいて得たｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが、上端隣接ブロックのイントラ予測モードに基づいて得たｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと同じであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが、ｐｌａｎｎｅｒまたはＤＣである場合、現在のブロックの参照サンプルラインのインデックスが０であるか否かを考慮して、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？Ｉｎｔｒａ＿Ｐｌａｎａｒ：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［１］＝（ＩｎｔｒａＬｕｍａＲｅｆＬｉｎｅＩｄｘ＝＝０）？Ｉｎｔｒａ＿ＤＣ：ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
即ち、現在のブロックの参照サンプルラインのインデックスが０である場合、ｐｌａｎｎｅｒモードおよびＤＣモードをＭＰＭに設定し、逆に、現在のブロックの参照サンプルラインインデックスが０ではない場合、垂直方向イントラ予測モード（ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０）および水平方向イントラ予測モード（ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８）をＭＰＭに設定できる。

現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと同じであるが、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが広角イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
または、以下のようにＭＰＭを取得することもできる。

ＭＰＭ［０］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
即ち、現在のブロックの参照サンプルラインインデックスが０ではない場合、広角イントラ予測モードをＭＰＭに設定しなくてもよい。

ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと同じであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが方向性イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋６１）％６４）
ＭＰＭ［２］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ－１）％６４）
現在のブロックの参照サンプルラインのインデックスが０であり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢと異なる場合、ＭＰＭ［０］およびＭＰＭ［１］はそれぞれｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢに設定できる。ＭＰＭ［２］は、ｐｌａｎｎｅｒ、ＤＣおよび垂直方向モードのＭＰＭ［０］およびＭＰＭ［１］と異なることとして設定できる。

現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうちのいずれかがｐｌａｎｎｅｒであり、別の１つがＤＣである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが両方とも広角イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２
ＭＰＭ［１］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８
ＭＰＭ［２］＝ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０
現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうちのいずれかが広角イントラ予測モードである場合、ｃａｎｄＩｎｔｒａｐｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうち、非広角イントラ予測モードであることをＭＰＭ［０］に設定し、ＭＰＭ［０］に類似したイントラ予測モードをＭＰＭ［１］およびＭＰＭ［２］に設定できる。一例として、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが非広角イントラ予測モードであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが広角イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋６１）％６４）
ＭＰＭ［２］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ－１）％６４）
逆に、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが広角イントラ予測モードであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが非広角イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ
ＭＰＭ［１］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ＋６１）％６４）
ＭＰＭ［２］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ－１）％６４）
現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうちのいずれかがｐｌａｎｎｅｒまたはＤＣであり、別の１つが非広角イントラ予測モードである場合、ｃａｎｄＩｎｔｒａｐｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢのうち、非広角イントラ予測モードであることを、ＭＰＭ［０］に設定し、ＭＰＭ［０］に類似したイントラ予測モードをＭＰＭ［１］およびＭＰＭ［２］に設定できる。一例として、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡが非広角イントラ予測モードであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢがｐｌａｎｎｅｒまたはＤＣである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ
ＭＰＭ［１］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ＋６１）％６４）
ＭＰＭ［２］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡ－１）％６４）
逆に、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡがｐｌａｎｎｅｒまたはＤＣであり、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが非広角イントラ予測モードである場合、以下のようにＭＰＭを取得できる。

ＭＰＭ［０］＝ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ
ＭＰＭ［１］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ＋６１）％６４）
ＭＰＭ［２］＝２＋（（ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢ－１）％６４）
現在のブロックの参照サンプルラインのインデックスが０ではなく、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢが両方とも非広角イントラ予測モードである場合、ｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＡおよびｃａｎｄＩｎｔｒａＰｒｅｄＭｏｄｅＢをそれぞれＭＰＭ［０］およびＭＰＭ［１］に設定できる。垂直方向イントラ予測モード（ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０）、水平方向イントラ予測モード（ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８）または左下の対角線方向イントラ予測モード（ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ２）のうちのＭＰＭ［０］およびＭＰＭ［１］と重複しないいずれの１つをＭＰＭ［２］に設定できる。

コーディングブロックまたは変換ブロックを複数のサブブロック（またはサブパーティション）に分割できる。コーディングブロックまたは変換ブロックが複数のサブブロックに分割された場合、各サブブロックに対して予測、変換および量子化を実行することができる。コーディングブロックまたは変換ブロックを複数のサブブロックに分割することをサブパーティションイントラ符号化方法と定義できる。

サブパーティションイントラ符号化方法が適用されるか否かを示す情報は、ビットストリームを介してシグナリングされることができる。前記情報は１ビットの識別子であり得る。一例として、コーディングブロックまたは変換ブロックが複数のサブブロックに分割されるか否かを示す構文要素「ｉｎｔｒａ＿ｓｕｂｐａｒｔｉｔｉｏｎｓ＿ｍｏｄｅ＿ｆｌａｇ」は、ビットストリームを介してシグナリングされることができる。

または、コーディングブロックまたは変換ブロックのサイズ、形状またはイントラ予測モードのうちの少なくとも１つに基づいて、サブパーティションイントラ符号化方法が適用されるか否かを決定できる。一例として、コーディングブロックのイントラ予測モードが非方向性イントラ予測モード（例えば、ｐｌａｎｎｅｒまたはＤＣ）または事前に定義された方向性イントラ予測モード（例えば、水平方向のイントラ予測モード、垂直方向のイントラ予測モードまたは対角線方向のイントラ予測モード）である場合、サブパーティションイントラ符号化方法を適用しなくてもよい。または、コーディングブロックのサイズが閾値より小さい場合、サブパーティションイントラ符号化方法が使用されないように設定できる。

または、コーディングブロックのイントラ予測モードに基づいて、サブブロックに対するイントラ予測を実行する場合、サブブロックのイントラ予測のとき、隣接サブブロックに含まれる復元サンプルを参照サンプルとして使用する必要があるか否かに基づいて、サブパーティションイントラ符号化方法が適用されるか否かを決定できる。一例として、コーディングブロックが、イントラ予測モードが対角線方向イントラ予測モードまたは広角イントラ予測モードであり、前記イントラ予測モードに基づいてサブブロックに対するイントラ予測を実行するとき、隣接サブブロックを参照サンプルとして使用できない場合、サブパーティションイントラ符号化方法が使用されないように設定できる。

または、コーディングブロックの高さと幅との比率が閾値以上または閾値以下である場合、サブパーティションイントラ符号化方法が使用されないように設定できる。または、コーディングブロックの高さまたは幅のうちの少なくとも１つが閾値以下である場合、サブパーティションイントラ符号化方法を使用しなくてもよい。一例として、コーディングブロックの高さおよび幅が両方とも閾値以下である場合、サブパーティションイントラ符号化方法を使用しなくてもよい。閾値は符号化器および復号化器の事前に定義された値を有し得る。または、閾値を決定するための情報はビットストリームを介してシグナリングされることができる。

または、コーディングブロックまたは変換ブロックのサイズ、形状またはイントラ予測モードのうちの少なくとも１つに従って、サブパーティションイントラ符号化方法を適用するか否かを示すための識別子をシグナリングするか否かを決定できる。一例として、コーディングブロックの高さおよび幅が両方とも閾値以下である場合、および／またはコーディングブロックのサイズが閾値以上である場合にのみ、サブパーティションイントラ符号化方法を適用するか否かを示すための識別子を符号化してシグナリングされることができる。サブパーティションイントラ符号化方法を適用するか否かを示す識別子が符号化されていない場合、サブパーティションイントラ符号化方法を適用しなくてもよい。

サブパーティションイントラ符号化方法を適用する場合、コーディングブロックまたは変換ブロックの分割形状を決定できる。ここで、分割形状はコーディングブロックまたは変換ブロックの分割方向を示す。一例として、垂直方向パーティショニングは、少なくとも１つの垂直線を使用してコーディングブロックまたは変換ブロックを分割することを指し、水平方向パーティショニングは、少なくとも１つの水平線を使用してコーディングブロックまたは変換ブロックを分割することを指す。

図１６は、垂直方向パーティショニングおよび水平方向パーティショニングの例を示す図面である。

図１６の（ａ）は、コーディングブロックが２個のサブブロックに分割された例を示し、図１６の（ｂ）は、コーディングブロックが４個のサブブロックに分割された例を示す。

コーディングブロックおよび変換ブロックの分割形状を決定するための情報は、ビットストリームを介してシグナリングされることができる。一例として、コーディングブロックまたは変換ブロックが垂直方向パーティショニングを適用したか、水平方向パーティショニングを適用したかを示す情報は、ビットストリームを介してシグナリングされることができる。前記情報は１ビットの識別子ｉｎｔｒａ＿ｓｕｂｐａｒｔ＿ｔｙｐｅ＿ｆｌａｇであり得る。前記識別子の値が１であることは、コーディングブロックまたは変換ブロックが水平方向に沿ってパーティショニングされることを示し、前記識別子の値が０である場合、コーディングブロックまたは変換ブロックが垂直方向に沿ってパーティショニングされることを示す。

または、コーディングブロックまたは変換ブロックのサイズ、形状またはイントラ予測モードに基づいて、コーディングブロックまたは変換ブロックの分割形状を決定できる。一例として、コーディングブロックの幅と高さとの比率に基づいて、コーディングブロックの分割形状を決定できる。例えば、コーディングブロックの幅と高さとの比率を示すｗｈＲａｔｉｏ値が第１閾値以上である場合、コーディングブロックに対して垂直方向パーティショニングを適用できる。そうでない場合、コーディングブロックに対して水平方向パーティショニングを適用できる。

図１７は、コーディングブロックの分割形状を決定する例を示す図面である。

説明の便宜上、第１閾値を２と仮定する。図１７の（ａ）に示された例において、コーディングブロックのｗｈＲａｔｉｏが１であり、これは第１閾値より小さい。そのため、コーディングブロック分割形状を示す情報に対する符号化をスキップし、コーディングブロックに対して水平方向パーティショニングを適用できる。

図１７の（ｂ）に示された例において、コーディングブロックのｗｈＲａｔｉｏが２であり、これは第１閾値と同じである。そのため、コーディングブロック分割形状を表す情報に対する符号化をスキップし、コーディングブロックに対して垂直方向パーティショニングを適用できる。

第１閾値のシンボルと反対する第２閾値を使用してコーディングブロックの分割形状を決定することもできる。一例として、ｗｈＲａｔｉｏ値が第２閾値以下である場合、コーディングブロックに水平方向パーティショニングを適用でき、そうでない場合、コーディングブロックに垂直方向パーティショニングを適用できる。第１閾値および第２閾値の絶対値が同じであり得、これらのシンボルは異なってもよい。一例として、第１閾値がＮ（ここで、Ｎは１、２、４などの整数である）である場合、第２閾値は－Ｎであり得る。

図１８は、コーディングブロックの分割形状を決定する例を示す図面である。

説明の便宜上、第２閾値は－２と仮定する。図１８の（ａ）に示された例において、コーディングブロックのｗｈＲａｔｉｏが－１であり、これは第２閾値より大きい。そのため、コーディングブロック分割形状を示す情報に対する符号化をスキップし、コーディングブロックに対して垂直方向パーティショニングを適用できる。

図１８の（ｂ）に示された例において、コーディングブロックのｗｈＲａｔｉｏが－２、であり、これは第２閾値と同じである。そのため、コーディングブロック分割形状を示す情報に対する符号化をスキップし、コーディングブロックに対して水平方向パーティショニングを適用できる。

または、第１閾値および第２閾値を基準としてコーディングブロックの分割形状を決定できる。一例として、ｗｈＲａｔｉｏの値が第１閾値以上である場合、コーディングブロックに対して水平方向パーティショニングを採用し、ｗｈＲａｔｉｏの値が第２閾値以下である場合、コーディングブロック采用垂直方向パーティショニングを採用できる。ｗｈＲａｔｉｏの値が第１閾値と第２閾値との間にある場合、ビットストリームから情報を解析し、現在のブロックの分割形状を決定できる。

第１閾値および第２閾値は、符号化器および復号化器で事前に定義できる。または、シーケンス、画像またはスライスに従って第１閾値および第２閾値を定義できる。

または、コーディングブロックまたは変換ブロックのサイズに基づいて分割形状を決定できる。一例として、コーディングブロックのサイズがＮ×ｎである場合、垂直方向パーティショニングを適用でき、コーディングブロックのサイズがｎ×Ｎである場合、水平方向パーティショニングを適用できる。ここで、ｎはＮより小さい自然数であり得る。Ｎおよび／またはｎは、符号化器および復号化器で事前に定義された値であり得る。または、Ｎおよび／またはｎを決定するための情報はビットストリームを介してシグナリングすることができる。一例として、Ｎは３２、６４、１２８または２５６などであり得る。そのため、コーディングブロックのサイズが１２８×ｎ（ここで、ｎは１６、３２または６４などの自然数である）である場合、垂直方向パーティショニングを適用でき、コーディングブロックのサイズがｎ×１２８である場合、水平方向パーティショニングを適用できる。

または、コーディングブロックまたは変換ブロックのイントラ予測モードに基づいて、コーディングブロックまたは変換ブロックの分割形状を決定できる。一例として、コーディングブロックのイントラ予測モードが水平方向または水平方向に類似した方向である場合、コーディングブロックに対して垂直方向パーティショニングを適用できる。ここで、水平方向に類似した方向のイントラ予測モードは、水平方向のイントラ予測モード（例えば、図１０の（ｂ）に示されたＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８）とのインデックス差が閾値以下であるイントラ予測モード（例えば、ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ１８±Ｎ）を示す。逆に、コーディングブロックのイントラ予測モードが垂直方向または垂直方向に類似した方向である場合、コーディングブロックに対して水平方向パーティショニングを適用できる。ここで、垂直方向に類似した方向のイントラ予測モードは、垂直方向のイントラ予測モード（例えば、図１０の（ｂ）に示されたＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０）とのインデックス差が閾値以下であるイントラ予測モード（例えば、ＩＮＴＲＡ＿ＡＮＧＵＬＡＲ５０±Ｎ）を示す。ここで、閾値Ｎは符号化器および復号化器で事前に定義された値であり得る。または、閾値Ｎを決定するための情報はシーケンスレベル、画像レベルまたはスライスレベルからシグナリングできる。

図１９は、コーディングブロックのイントラ予測モードに基づいてコーディングブロックの分割形状を決定する例の概略図である。

図１９の（ａ）に示されたように、コーディングブロックのイントラ予測モードが垂直方向に類似した方向である場合、コーディングブロックに対して水平方向パーティショニングを適用できる。

逆に、図１９の（ｂ）に示されたように、コーディングブロックのイントラ予測モードが水平方向に類似した方向である場合、コーディングブロックに対して垂直方向パーティショニングを適用できる。

示された例と異なり、コーディングブロックのイントラ予測モードが水平方向または水平方向に類似した方向である場合、水平方向パーティショニングを適用でき、コーディングブロックのイントラ予測モードが垂直方向または垂直方向に類似した方向である場合、垂直方向パーティショニングを適用することもできる。

垂直方向パーティショニングまたは水平方向パーティショニングを適用するとき、コーディングブロックまたは変換ブロックを分割することにより生成されたサブブロックの幅または高さのうちの少なくとも１つが閾値より小さいか否かに基づいて、コーディングブロックまたは変換ブロックの分割形状を決定できる。ここで、閾値は２、４または８などの整数であり得る。

図２０は、コーディングブロックの分割形状を説明するための概略図である。

図２０の（ａ）に示された４×８サイズのコーディングブロックに対して水平方向パーティショニングを適用する場合、前記コーディングブロックは２×８サイズのサブブロックに分割される。この場合、サブブロックの幅は閾値より小さくなるため、前記コーディングブロックに対して、水平方向パーティショニングを使用できなくなる。逆に、４×８サイズのコーディングブロックに対して垂直方向パーティショニングを適用する場合、前記コーディングブロックは４×４サイズのサブブロックに分割される。サブブロックの幅および高さは両方とも閾値以上であるため、前記コーディングブロックに対して、垂直方向パーティショニングを使用できる。前記コーディングブロックに対して、垂直方向パーティショニングのみを使用でき、そのため、前記コーディングブロックの分割形状を示す情報に対する符号化をスキップし、前記コーディングブロックに対して垂直方向パーティショニングを適用できる。

図２０の（ｂ）に示された８×４サイズのコーディングブロックに対して垂直方向パーティショニングを適用する場合、前記コーディングブロックは８×２サイズのサブブロックに分割される。この場合、サブブロックの高さが閾値より小さくなるため、前記コーディングブロックに対して、垂直方向パーティショニングを使用できなくなる。逆に、８×４サイズのコーディングブロックに対して水平方向パーティショニングを適用する場合、前記コーディングブロックは４×４サイズのサブブロックに分割される。サブブロックの幅および高さは両方とも閾値以上であるため、前記コーディングブロックに対して、水平方向パーティショニングを使用できる。前記コーディングブロックに対して、水平方向パーティショニングのみを使用でき、そのため、前記コーディングブロックの分割形状を示す情報に対する符号化をスキップし、前記コーディングブロックに対して垂直方向パーティショニングを適用できる。

垂直方向パーティショニングおよび水平方向パーティショニングが両方とも使用できる場合、コーディングブロックの分割形状を示す情報を解析して、コーディングブロックの分割形状を決定できる。

サブブロックの数は、コーディングブロックまたは変換ブロックのサイズまたは形状のうちの少なくとも１つに基づいて決定されることができる。一例として、コーディングブロックの幅または高さのうちのいずれかが８で、別の１つが４である場合、コーディングブロックは２個のサブブロックに分割できる。逆に、コーディングブロックの幅および高さが両方とも８以上であるかまたはコーディングブロックの幅または高さのうちのいずれかが８より大きい場合、コーディングブロックは４個のサブブロックに分割できる。要するに、コーディングブロックが４×４サイズである場合、コーディングブロックはサブブロックに分割しなくてもよい。コーディングブロックが４×８または８×４サイズである場合、コーディングブロックを２個のサブブロックに分割できる。他の場合、コーディングブロックを４個のサブブロックに分割できる。

または、サブブロックのサイズ、形状またはサブブロック数を示す情報は、ビットストリームを介してシグナリングすることができる。サブブロック数を示す情報に従って、サブブロックのサイズまたは形状を決定できる。または、サブブロックサイズまたは形状を示す情報に従って、サブブロックの数を決定できる。

サブパーティションイントラ符号化方法を適用する場合、コーディングブロックまたは変換ブロックを分割することを介して生成されたサブブロックは、同じイントラ予測モードを使用できる。一例として、コーディングブロックに隣接する隣接ブロックのイントラ予測モードに基づいて、コーディングブロックに対するＭＰＭを取得し、取得したＭＰＭに従って、コーディングブロックに対するイントラ予測モードを決定できる。コーディングブロックのイントラ予測モードを決定した場合、各サブブロックは決定されたイントラ予測モードを使用してイントラ予測を実行できる。

サブパーティションイントラ符号化方法を適用する場合、ＭＰＭのうちのいずれかをコーディングブロックのイントラ予測モードに決定できる。即ち、サブパーティションイントラ符号化方法を適用する場合、ＭＰＭ識別子をシグナリングしなくても、ＭＰＭ識別子は真であると見なすことができる。

または、サブパーティションイントラ符号化方法を適用する場合、事前に定義された候補イントラ予測モードのうちのいずれかをコーディングブロックのイントラ予測モードに決定できる。一例として、水平方向のイントラ予測モード、垂直方向のイントラ予測モード、対角線方向のイントラ予測モード（例えば、左上のイントラ予測モード、右上のイントラ予測モードまたは左下のイントラ予測モードのうちの少なくとも１つ）または非方向性イントラ予測モード（例えば、ｐｌａｎｎｅｒまたはＤＣのうちの少なくとも１つ）のうちのいずれかをコーディングブロックのイントラ予測モードに決定できる。事前に定義された候補イントラ予測モードのいずれかを特定するインデックス情報は、ビットストリームを介して信号をシグナリングされることができる。

本願の一実施例によれば、サブブロックのうちの少なくとも１つのイントラ予測モードを他のサブブロックと異なるように設定できる。一例として、Ｎ番目のサブブロックのイントラ予測モードは、Ｎ－１番目のサブブロックのイントラ予測モードをオフセットと加算または減算して取得できる。オフセットは符号化器および復号化器で事前に定義できる。または、コーディングブロックのサイズ、形状、イントラ予測モード、サブブロックのサイズ、形状、サブブロックの数またはコーディングブロックの分割方向のうちの少なくとも１つに基づいてオフセットを取得できる。または、オフセットを取得するための情報をビットストリームを介して信号をシグナリングできる。

または、Ｎ－１番目のサブブロックのイントラ予測モードが非方向性モードである場合、Ｎ番目のサブブロックのイントラ予測モードもＮ－１番目のサブブロックのイントラ予測モードと同じく設定され、Ｎ－１番目のサブブロックのイントラ予測モードが角度モードである場合、Ｎ－１番目のサブブロックのイントラ予測モードをオフセットと加算または減算して、取得されたイントラ予測モードを、Ｎ番目のサブブロックのイントラ予測モードと同じく設定できる。

または、複数のサブブロックのうちの一部に対して方向性イントラ予測モードを適用し、残りのサブブロックに対して非方向性イントラ予測モードを適用できる。サブブロックのサイズ、形状、位置またはサブブロックの数のうちの少なくとも１つに従って、非方向性イントラ予測モードを適用するサブブロックを決定できる。または、複数のサブブロックのいずれかを適用された方向性イントラ予測モードが事前に定義された値である場合にのみ、別の１つに対して非方向性イントラ予測モードを適用することができる。

または、ＭＰＭから各サブブロックのイントラ予測モードを取得できる。そのため、各サブブロックに対して、ＭＰＭのいずれかを特定するインデックス情報をシグナリングできる。

または、事前に定義された候補イントラ予測モードから各サブブロックのイントラ予測モードを取得できる。そのため、各サブブロックに対して、事前に定義された候補イントラ予測モードのいずれかを特定するインデックス情報をシグナリングできる。

または、サブブロックのイントラ予測モードが同じく設定されたか否かを示す情報は、ビットストリームを介して信号をシグナリングされることができる。

サブブロックの量子化パラメータを別々に決定できる。そのため、各サブブロックの量子化パラメータの値は異なるように設定できる。各サブブロックの量子化パラメータを決定するために、前のサブブロックの量子化パラメータとの差分値を示す情報を符号化することができる。一例として、Ｎ番目のサブブロックに対して、Ｎ番目のサブブロックの量子化パラメータとＮ－１番目のサブブロックの量子化パラメータとの差分値を符号化することができる。

サブブロックのイントラ予測は参照サンプルを使用して実行できる。この場合、参照サンプルは、サブブロックに隣接する隣接ブロックの復元サンプルから取得できる。サブブロックに隣接する隣接ブロックが前記サブブロックと同じコーディングブロックに含まれる他のサブブロックである場合、前記他のサブブロックの復元サンプルに基づいて、前記サブブロックの参照サンプルを取得できる。一例として、第１サブブロックが第２サブブロックの左側または上端に位置する場合、第１サブブロックの復元サンプルから第２サブブロックの参照サンプルを取得できる。そのため、サブブロック間では、並列イントラ予測を適用しなくてもよい。即ち、コーディングブロックに含まれるサブブロックに対して、符号化または復号化することを順次に実行できる。そのため、第１サブブロックの符号化または復号化するが完成した後、第２サブブロックに対するイントラ予測を実行できる。

サブパーティションイントラ符号化方法を適用する場合、複数の参照サンプルライン候補のいずれかを選択するマルチラインイントラ予測符号化方法を使用しないように設定できる。マルチラインイントラ予測符号化方法を使用しない場合、各サブブロックに隣接する隣接参照サンプルラインを各サブブロックの参照サンプルラインに決定できる。

または、サブパーティションイントラ符号化方法を適用する場合でも、マルチラインイントラ予測符号化方法を使用できる。そのため、各サブブロックに対して、参照サンプルラインを特定するためのインデックス情報をシグナリングできる。または、複数のサブブロックのうちのいずれかにのみ、参照サンプルラインを特定するためのインデックス情報をシグナリングし、残りのサブブロックにも、前記インデックス情報をそのまま適用できる。または、コーディングブロックに対して参照サンプルラインを特定するためのインデックス情報をシグナリングし、前記コーディングブロックに含まれる複数のサブブロックが前記インデックス情報を共有するように設定できる。

または、サブブロックのうち、事前に定義された位置、または事前に定義されたパーティションインデックスを含むサブブロックのみ、マルチラインイントラ予測符号化方法を使用するように設定できる。一例として、複数のサブブロックのうち、パーティションインデックスが０であるサブブロックまたはコーディングブロックの上端境界または左側境界に接続するサブブロックにのみ、参照サンプルライン候補のいずれかを特定するインデックス情報をシグナリングすることができる。残余サブブロックに対して、マルチラインイントラ予測符号化方法を適用しなくてもよい。そのため、残余サブブロックは隣接参照サンプルラインを使用してイントラ予測を実行できる。

サブブロックごとに予測符号化モードを異なるように設定できる。一例として、一部のサブブロックに対して、イントラ予測を適用でき、他のサブブロックに対して、インター予測、現在の画像参照または複合予測を適用できる。

図２１は、サブブロックごとに予測符号化モードを異なるように設定する例を示す図面である。

サブブロックごとにイントラ予測モードを異なるように設定し、または予測符号化モードを異なるように設定できる。一例として、図２１に示された例において、サブブロック０およびサブブロック１に画面内予測を適用し、サブブロック１およびサブブロック２に現在の画像参照を適用する場合を図面に示す。

現在の画像参照を使用する場合、現在の画像またはスライス（またはタイルグループ）の復号化された領域からサブブロックの予測ブロックを取得できる。現在の画像参照を適用する場合、サブブロックの予測ブロックを特定するために、動きベクトルを取得できる。現在の画像参照における動きベクトルを「ブロックベクトル」とも称し得る。

動きベクトルは、コーディングブロックまたはサブブロックに隣接する隣接ブロックの動きベクトルに基づいて取得できる。または、ビットストリームを介して動きベクトルを決定するための情報がシグナリングされることもできる。

この場合、サブブロックの動きベクトルの最大値は、サブブロックまたはサブブロックが属するコーディングブロックまたは変換ブロックのサイズに従って決定できる。一例として、サブブロックの動きベクトルは、サブブロックが属するコーディングブロックまたは変換ブロックの境界を超えないように設定できる。即ち、サブブロックの予測ブロックは、サブブロックが属するコーディングブロック内の前記サブブロックの前に符号化または復号化された領域から取得できる。

動きベクトルの代わりに、コーディングブロック内の復号化されたサブブロックのいずれかを示すインデックス情報を符号化してシグナリングすることができる。サブブロックの予測ブロックは、インデックス情報に従って特定された事前に復号化されたサブブロックに決定できる。

別の一例として、サブブロックの動きベクトルが、サブブロックが属するコーディングブロックまたは変換ブロックの境界を超えることを許可することもできる。

イントラ予測を実行した結果で予測ブロックが生成された場合、予測ブロックに含まれる予測サンプルのそれぞれの位置に基づいて、予測サンプルを更新できる。このような更新方法を、サンプルポジションベースのイントラ加重予測方法（または、ＰＤＰＣ：Ｐｏｓｉｔｉｏｎ Ｄｅｐｅｎｄｅｎｔ Ｐｒｅｄｉｃｔｉｏｎ Ｃｏｍｂｉｎａｔｉｏｎ）と称することができる。

ＰＤＰＣを使用するかは、現在のブロックのサイズ、形状、イントラ予測モード、現在のブロックの参照サンプルライン、現在のブロックのサイズ、または色度成分に従って決定できる。一例として、現在のブロックのイントラ予測モードがｐｌａｎｎｅｒ、ＤＣ、垂直方向、水平方向、インデックス値が垂直方向より小さいモードまたはインデックス値が水平方向より大きいモードのうちの少なくとも１つである場合、ＰＤＰＣを使用できる。または、現在のブロックの幅または高さのうちの少なくとも１つが４より大きい場合にのみＰＤＰＣを使用できる。または、現在のブロックの参照画像線ラインのインデックスが０である場合にのみＰＤＰＣを使用できる。または、現在のブロックの参照画像ラインのインデックスがプリセットの値以上である場合にのみＰＤＰＣを使用できる。または、輝度成分にのみＰＤＰＣを使用できる。または、前記例示された条件のうちの２つ以上を満たすか否かに従って、ＰＤＰＣを使用するか否かを決定できる。

または、サブパーティションイントラ符号化方法を使用したか否かに従って、ＰＤＰＣを使用するか否かを決定できる。一例として、コーディングブロックまたは変換ブロックにサブパーティションイントラ符号化方法を適用する場合、ＰＤＰＣを使用しないように設定できる。または、コーディングブロックまたは変換ブロックに対してサブパーティションイントラ符号化方法を適用する場合、複数のサブブロックのうちの少なくとも１つにＰＤＰＣを適用することができる。この場合、ＰＤＰＣ適用対象であるサブブロックは、コーディングブロックまたはサブブロックのサイズ、形状、位置、イントラ予測モードまたは参照サンプルラインインデックスのうちの少なくとも１つに基づいて決定できる。一例として、コーディングブロックの上端および／または左側境界に隣接するサブブロックまたはコーディングブロックの下端および／または右側境界に隣接するサブブロックにＰＤＰＣを適用できる。または、サブブロックのサイズまたは形状に基づいて、コーディングブロックに含まれるすべてのサブブロックにＰＤＰＣを適用するように設定するか、またはコーディングブロックに含まれるすべてのサブブロックにＰＤＰＣを適用しないように設定できる。さらに一例として、コーディングブロック内のすべてのサブブロックにＰＤＰＣを適用することもできる。

または、コーディングブロックまたは変換ブロックを分割して生成されたサブブロックのサイズ、形状、イントラ予測モードまたは参照画像インデックスのうちの少なくとも１つが、事前に設定された条件を満たすか否かに従って、サブブロックごとにＰＤＰＣを適用するか否かを決定できる。一例として、サブブロックの幅または高さのうちの少なくとも１つが４より大きい場合、サブブロックにＰＤＰＣを適用できる。

別の一例として、ビットストリームを介してＰＤＰＣを適用するか否かを示す情報がシグナリングされることができる。

または、現在のブロックのサイズ、形状、イントラ予測モードまたは予測サンプルの位置のうちの少なくとも１つに基づいてＰＤＰＣが適用される領域を決定できる。一例として、現在のブロックのイントラ予測モードが垂直方向より大きいインデックスを有する場合、ｘ軸座標またはｙ軸座標のうちの少なくとも１つが閾値より大きい予測サンプルを補正せず、ｘ軸座標とｙ軸座標が閾値以下である予測サンプルにのみ補正操作を実行することができる。一例として、現在のブロックのイントラ予測モードが水平方向より小さいインデックスを有する場合、ｘ軸座標またはｙ軸座標のうちの少なくとも１つが閾値より大きい予測サンプルを補正せず、ｘ軸座標またはｙ軸座標が閾値以下である予測サンプルにのみ補正操作を実行することができる。この場合、閾値は現在のブロックのサイズ、形状またはイントラ予測モードのうちの少なくとも１つに基づいて決定できる。

イントラ予測サンプルを介して予測サンプルを取得すると、取得された予測サンプルの位置に基づいて、前記予測サンプルを補正するために使用される参照サンプルを決定できる。説明の便宜上、後述の実施例では、予測サンプルを補正するために使用される参照サンプルをＰＤＰＣ参照サンプルと称する。さらに、イントラ予測を介して取得された予測サンプルを第１予測サンプルと称し、第１予測サンプルを補正して取得された予測サンプルを第２予測サンプルと称する。

図２２は、ＰＤＰＣの適用形態の概略図である。

少なくとも１つのＰＤＰＣ参照サンプルを使用して第１予測サンプルを補正できる。ＰＤＰＣ参照サンプルは、現在のブロックの左上隅に隣接する参照サンプル、現在のブロックの上端に位置する上端参照サンプルまたは現在のブロックの左側に位置する左側参照サンプルのうちの少なくとも１つを含み得る。

現在のブロック参照サンプルラインに属する参照サンプルのうちの少なくとも１つをＰＤＰＣ参照サンプルに設定できる。または、現在のブロックの参照サンプルラインと関係なく、インデックスが０である参照サンプルラインに属する参照サンプルのうちの少なくとも１つをＰＤＰＣ参照サンプルに設定できる。一例として第１予測サンプルがインデックスが１であるかまたはインデックスが２である参照サンプルラインに含まれる参照サンプルを使用して取得されることであっても、第２予測サンプルはインデックスが０である参照サンプルラインに含まれる参照サンプルを使用して取得できる。

第１予測サンプルを補正するために使用されるＰＤＰＣ参照サンプルの数または位置は、現在のブロックのイントラ予測モード、現在のブロックのサイズ、現在のブロックの形状または第１予測サンプルの位置のうちの少なくとも１つに従って決定できる。

一例として、現在のブロックのイントラ予測モードがｐｌａｎｎｅｒまたはＤＣモードである場合、上端参照サンプルおよび左側参照サンプルを使用して第２予測サンプルを取得できる。この場合、上端参照サンプルは第１予測サンプルと垂直する参照サンプル（例えば、ｘ座標が同じである参照サンプル）であり得、左側参照サンプルは第１予測サンプルと水平する参照サンプル（例えば、ｙ座標が同じである参照サンプル）であり得る。

現在のブロックのイントラ予測モードが水平方向イントラ予測モードである場合、上端参照サンプルを使用して第２予測サンプルを取得できる。この場合、上端参照サンプルは、第１予測サンプルと垂直する参照サンプルであり得る。

現在のブロックのイントラ予測モードが垂直方向イントラ予測モードである場合、左側参照サンプルを使用して第２予測サンプルを取得できる。この場合、左側参照サンプルは第１予測サンプルと水平する参照サンプルであり得る。

現在のブロックのイントラ予測モードが左下の対角線方向または右上の対角線方向イントラ予測モードである場合、左上参照サンプル、上端参照サンプルおよび左側参照サンプルに基づいて第２予測サンプルを取得できる。左上参照サンプルは現在のブロックの左上隅に隣接する参照サンプル（例えば、（－１，－１）位置である参照サンプル）であり得る。上端参照サンプルは第１予測サンプルの右上の対角線方向に位置する参照サンプルであり得、左側参照サンプルは第１予測サンプルの左下の対角線方向に位置する参照サンプルであり得る。

要するに、第１予測サンプルの位置が（ｘ，ｙ）である場合、Ｒ（－１，－１）は左上参照サンプルに設定でき、Ｒ（ｘ＋ｙ＋１，－１）またはＲ（ｘ，－１）は上端参照サンプルに設定できる。さらに、Ｒ（－１，ｘ＋ｙ＋１）またはＲ（－１，ｙ）は左側参照サンプルに設定できる。

別の一例として、現在のブロックの形状または広角イントラモードを適用したか否かの２個のうちの少なくとも１つに従って、左側参照サンプルまたは上端参照サンプルの位置を決定できる。

具体的には、現在のブロックのイントラ予測モードが広角イントラ予測モードである場合、第１予測サンプルの対角線方向に位置する参照サンプルからオフセット距離だけ離れた参照サンプルはＰＤＰＣ参照サンプルに設定できる。一例として、上端参照サンプルＲ（ｘ＋ｙ＋ｋ＋１，－１）および左側参照サンプルＲ（－１，ｘ＋ｙ－ｋ＋１）はＰＤＰＣ参照サンプルに設定できる。

この場合、オフセットｋは広角イントラ予測モードに基づいて決定できる。式８および式９は、広角イントラ予測モードに基づいてオフセットを取得する例を示す。

第２予測サンプルは第１予測サンプルとＰＤＰＣ参照サンプルとの加重和演算に基づいて決定されることができる。一例として、第２予測サンプルは以下の１０に基づいて取得されることができる。

上記の式１０では、Ｒ_Ｔは左側参照サンプルを示し、Ｒ_ＴＬは上端参照サンプルを示し、ＲＴＬは左上参照サンプルを示す。ｐｒｅｄ（ｘ，ｙ）は（ｘ，ｙ）位置の予測サンプルを示す。ｗＬは左側参照サンプルの加重値を示し、ｗＴは上端参照サンプルの加重値を示し、ｗＴＬは左上参照サンプルの加重値を示す。第１予測サンプルの加重値は最大値から参照サンプルの加重値を減算して取得できる。説明の便宜上、ＰＤＰＣ参照サンプルに割り当てられた加重値をＰＤＰＣ加重値と称する。

各参照サンプルに割り当てられた加重値は、現在のブロックのイントラ予測モードまたは第１予測サンプルの位置のうちの少なくとも１つに基づいて決定されることができる。

一例として、ｗＬ、ｗＴまたはｗＴＬのうちの少なくとも１つは、予測サンプルのｘ軸座標値またはｙ軸座標値のうちの少なくとも１つと比例または反比例関係にあり得る。または、ｗＬ、ｗＴまたはｗＴＬのうちの少なくとも１つは、現在のブロックの幅または高さのうちの少なくとも１つと比例または反比例関係にあり得る。

現在のブロックのイントラ予測モードがＤＣであると、ＰＤＰＣ加重値は以下の式１１に示されたように決定されることができる。

上記の式１１では、ｘおよびｙは第１予測サンプルの位置を示す。

上記の式１１では、変位演算で使用されるパラメータｓｈｉｆｔは、現在のブロックの幅または高さに基づいて取得することができる。一例として、パラメータｓｈｉｆｔは以下の式１２または式１３に基づいて取得できる。

または、現在のブロックのイントラ方向パラメータに従ってパラメータｓｈｉｆｔを取得することもできる。

パラメータｓｈｉｆｔを取得するために使用されるパラメータの数または種類は、現在のブロックのイントラ予測モードにより異なることができる。一例として、現在のブロックのイントラ予測モードがｐｌａｎｎｅｒ、ＤＣ、垂直方向または水平方向である場合、式１２または式１３ン位示されたように、現在のブロックの幅および高さを使用してパラメータｓｈｉｆｔを取得することができる。現在のブロックのイントラ予測モードが垂直方向イントラ予測モードより大きいインデックスを有するイントラ予測モードである場合、現在のブロックの高さおよびイントラ方向パラメータを使用してパラメータｓｈｉｆｔを取得することができる。現在のブロックのイントラ予測モードが水平方向イントラ予測モードより小さいインデックスを有するイントラ予測モードである場合、現在のブロックの幅およびイントラ方向パラメータを使用してパラメータｓｈｉｆｔを取得することができる。

現在のブロックのイントラ予測モードがｐｌａｎｎｅｒである場合、ｗＴＬの値を０に設定できる。ｗＬおよびｗＴは以下の式１４に基づいて取得できる。

現在のブロックのイントラ予測モードが水平方向イントラ予測モードである場合、ｗＴを０に設定し、同じ方法でｗＴＬおよびｗＬを設定することができる。逆に、現在のブロックのイントラ予測モードが垂直方向イントラ予測モードである場合、ｗＬを０に設定し、同じ方法でｗＴＬおよびｗＴを設定することができる。

現在のブロックのイントラ予測モードが垂直方向イントラ予測モードより大きいインデックスを有し、且つ、右上方向に向くイントラ予測モードである場合、以下の式１５に示されたようにＰＤＰＣ加重値を取得できる。

現在のブロックのイントラ予測モードが水平方向イントラ予測モードより小さいインデックスを有し、且つ、左下方向に向くイントラ予測モードである場合、以下の式１６に示されたようにＰＤＰＣ加重値を取得できる。

上述した実施例に示されたように、予測サンプルの位置ｘおよびｙに基づいてＰＤＰＣ加重値を決定することができる。

別の一例として、サブブロックユニットに従って、ＰＤＰＣ参照サンプルにそれぞれ割り当てられた加重値を決定することもできる。サブブロックに含まれる予測サンプルは同じＰＤＰＣ加重値を共有できる。

加重値の基本ユニットを決定するために使用されるサブブロックサイズは、符号化器および復号化器で事前に定義できる。一例として、それぞれ２×２サイズまたは４×４サイズのサブブロックに対して加重値を決定することができる。

または、現在のブロックのサイズまたは形状に従って、サブブロックのサイズ、形状または数を決定することができる。一例として、コーディングブロックのサイズと関係なく、コーディングブロックを４個のサブブロックに分割することができる。または、コーディングブロックのサイズに従って、コーディングブロックを４個のまたは１６のサブブロックに分割することができる。

または、現在のブロックのイントラ予測モードに基づいて、サブブロックのサイズ、形状または数を決定することもできる。一例として、現在のブロックのイントラ予測モードが水平方向である場合、Ｎ個の列（またはＮ個の行）を１つのサブブロックに設定でき、逆に、現在のブロックのイントラ予測モードが垂直方向である場合、Ｎ個の行（またはＮ個の列）を１つのサブブロックに設定することができる。

式１７ないし１９は、２×２サイズのサブブロックのＰＤＰＣ加重値を決定する例を示す。式１７は、現在のブロックのイントラ予測モードがＤＣモードである場合の例を与える。

上記の式１７では、Ｋの値はサブブロックのサイズに基づいて決定されることができる。

式１８は、現在のブロックのイントラ予測モードが垂直方向イントラ予測モードより大きいインデックスを有し、且つ、右上方向に向くイントラ予測モードである場合の例を与える。

式１９は、現在のブロックのイントラ予測モードが水平方向イントラ予測モードより小さいインデックスを有し、且つ、左下方向に向くイントラ予測モードである場合の例を与える。

式１７ないし１９では、ｘおよびｙはサブブロック内の基準サンプルの位置を示す。基準サンプルは、サブブロックの左上に位置するサンプル、サブブロックの中央に位置するサンプルまたはサブブロックの右下に位置するサンプルのうちのいずれかであり得る。

式２０ないし２２は、４×４サイズのサブブロックのＰＤＰＣ加重値を決定する例を示す。式２０は、現在のブロックのイントラ予測モードがＤＣモードである場合の例を与える。

式２１は、現在のブロックのイントラ予測モードが垂直方向イントラ予測モードより大きいインデックスを有し、且つ、右上方向に向くイントラ予測モードである場合を例示する。

式２２は、現在のブロックのイントラ予測モードが水平方向イントラ予測モードより小さいインデックスを有し、且つ、左下方向に向くイントラ予測モードである場合を例示する。

上述した実施例において、第１予測サンプルまたはサブブロックに含まれる予測サンプルの位置に従ってＰＤＰＣ加重値を決定する場合を説明している。現在のブロックの形状に従って、ＰＤＰＣ加重値を決定することもできる。

一例として、ＤＣモードである場合、現在のブロックが幅が高さより大きい非正方形または高さが幅より大きい非正方形であるか否かにより、ＰＤＰＣ加重値の取得方法も異なる。

式２３は、現在のブロックが幅が高さより大きい非正方形である場合にＰＤＰＣ加重値を取得する例であり、式２４は現在のブロックが高さが幅より大きい非正方形である場合にＰＤＰＣ加重値を取得する例である。

現在のブロックが非正方形である場合、広角イントラ予測モードを使用して現在のブロックを予測することができる。広角イントラ予測モードを適用する場合、ＰＤＰＣを適用して第１予測サンプルを更新することもできる。

現在のブロックに広角イントラ予測を適用する場合、コーディングブロックの形状に従ってＰＤＰＣ加重値を決定することができる。

一例として、現在のブロックが幅が高さより大きい非正方形である場合、第１予測サンプルの位置に従って、第１予測サンプル左下に位置する左側参照サンプルと比べて、第１予測サンプル右上に位置する上端参照サンプルが第１予測サンプルとより近接する場合が発生する可能性がある。そのため、第１予測サンプル補正態様において、上端参照サンプルに適用される加重値を左側参照サンプルに適用される加重値より大きく設定することができる。

逆に、現在のブロックが高さが幅より大きい非正方形である場合、第１予測サンプルの位置に従って、第１予測サンプル右上に位置する上端参照サンプルと比べて、第１予測サンプル左下に位置する左側参照サンプルが第１予測サンプルとより近接する場合が発生する可能性がある。そのため、第１予測サンプル補正態様において、左側参照サンプルに適用される加重値を上端参照サンプルに適用される加重値より大きく設定することができる。

式２５は、現在のブロックのイントラ予測モードがインデックスが６６より大きい広角イントラ予測モードである場合にＰＤＰＣ加重値を取得する例を示す。

式２６は、現在のブロックのイントラ予測モードがインデックスが０より小さい広角イントラ予測モードである場合にＰＤＰＣ加重値を取得する例を示す。

現在のブロックの比率に基づいてＰＤＰＣ加重値を決定することもできる。現在のブロックの比率は、現在のブロックの幅と高さとの比率を示し、以下の式２７に示されたように定義されることができる。

現在のブロックのイントラ予測モードに従って、ＰＤＰＣ加重値を取得する方法を可変的に決定できる。

一例として、式２８および式２９は、現在のブロックのイントラ予測モードがＤＣである場合にＰＤＰＣ加重値を取得する例を示す。具体的には、式２８は、現在のブロックが幅が高さより大きい非正方形である場合の例であり、式２９は、現在のブロックが高さが幅より大きい非正方形である場合の例である。

式３０は、現在のブロックのイントラ予測モードがインデックスが６６より大きい広角イントラ予測モードである場合にＰＤＰＣ加重値を取得する例を示す。

式３１は、現在のブロックのイントラ予測モードがインデックスが０より小さい広角イントラ予測モードである場合にＰＤＰＣ加重値を取得する例を示す。

元の画像が予測画像を差分することにより残差画像を取得することができる。この場合、残差ビデオを周波数領域に変換するとき、周波数成分の高周波成分を除去しても、ビデオの主観的な品質が大幅に低下することはない。そのため、高周波成分の値を小さくさせるかまたは高周波成分の値を０に設定すると、視覚的な歪みを大幅に発生しない同時に圧縮効率を向上させることができる効果を有する。残差画像を二次元周波数成分に分解し、且つ上述した特性を反映するために、現在のブロックを変換することができる。前記変換は、ＤＣＴ（Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）またはＤＳＴ（Ｄｉｓｃｒｅｔｅ Ｓｉｎｅ Ｔｒａｎｆｏｒｍ）などの変換方法を使用して実行できる。

ＤＣＴはコサイン変換を使用して、残差ビデオを二次元周波数成分に分解（または変換）することであり、ＤＳＴはコサイン変換を使用して、残差ビデオを二次元周波数成分に分解（または変換）することである。残差ビデオの変換結果、周波数成分は画像特徴として表すことができる。一例として、Ｎ×Ｎサイズのブロックに対してＤＣＴ変換を実行するとき、Ｎ２個の画像特徴に対応する重みを取得できる。変換により、Ｎ×Ｎサイズのブロックに含まれる各画像特徴に対応する重みを取得できる。使用された変換方法に従って、画像特徴に対応する重みをＤＣＴ係数またはＤＳＴ係数と称し得る。

変換方法ＤＣＴは、主に、０でではない低周波成分が大量に分布されたビデオに使用される。変換方法ＤＳＴは、主に、高周波成分が大量に分布されたビデオに使用される。

ＤＣＴまたはＤＳＴ以外の変換方法を使用して残差ビデオを変換することもできる。

以下は、残差ビデオを二次元周波数成分に変換する場合を二次元画像変換と称する。さらに、変換結果の取得された画像特徴に対応する重みを変換係数と称する。一例として、変換係数はＤＣＴ係数またはＤＳＴ係数を示すことができる。後述する主変換および第２の変換が両方とも適用される場合、変換係数は第２の変換結果として生成された画像特徴に対応する重みを示すことができる。

変換方法はブロックをユニットとして決定されることができる。変換方法は現在のブロックの予測符号化モード、現在のブロックのサイズまたは現在のブロックのサイズのうちの少なくとも１つに基づいて決定されることができる。一例として、現在のブロックがイントラ予測モードで符号化され、現在のブロックのサイズがＮ×Ｎより小さい場合、変換方法ＤＳＴを使用して変換できる。逆に、前記条件を満たさない場合、変換方法ＤＣＴを使用して変換できる。

残差ビデオのうちの一部のブロックに対して、二次元ビデオ変換を実行しなくてもよい。二次元ビデオ変換を実行しない場合を変換スキップ（Ｔｒａｎｓｆｏｒｍ Ｓｋｉｐ）と称し得る。変換スキップを適用する場合、変換を実行しない残差を対象として量子化を適用することができる。

ＤＣＴまたはＤＳＴを使用して現在のブロックを変換した後、変換された現在のブロックをさらに変換できる。この場合、ＤＣＴまたはＤＳＴに基づく変換を主変換に定義し、主変換を適用したブロックに対してさらに変換する場合を第２の変換と定義することができる。

主変換は複数の変換コア候補のいずれかを使用して実行できる。一例として、ＤＣＴ２、ＤＣＴ８またはＤＣＴ７のうちのいずれかを使用して主変換できる。

水平方向および垂直方向に対して異なる変換コアを使用することもできる。水平方向変換コアおよび垂直方向変換コアの組み合わせを示す情報は、ビットストリームを介してシグナリングすることができる。

主変換および第２の変換の実行ユニットは異なってもよい。一例として、８×８ブロックに対して主変換を実行し、変換された８×８ブロックの４×４サイズのサブブロックに対して第２の変換を実行することができる。この場合、第２の変換を実行しない他の領域の変換係数が０に設定されることができる。

または、４×４ブロックに対して主変換を実行し、変換された４×４ブロックを含む８×８サイズ領域に対して第２の変換を実行することもできる。

第２の変換を実行するか否かを示す情報は、ビットストリームを介してシグナリングすることができる。

または、水平方向変換コアが垂直方向変換コアが同じであるか否か人従って、第２の変換を実行するか否かを決定することができる。一例として、水平方向変換コアが垂直方向変換コアと同じである場合にのみ第２の変換を実行できる。または、水平方向変換コアが垂直方向変換コアと異なる場合にのみ第２の変換を実行できる。

または、水平方向の変換および垂直方向の変換に事前に定義された変換コアを使用した場合にのみ第２の変換を許可することができる。一例として、水平方向の変換および垂直方向の変換にＤＣＴ２変換コアが使用された場合、第２の変換を許可できる。

または、現在のブロックの０以外の変換係数の数に従って第２の変換を実行するか否かを決定できる。一例として、現在のブロックの０以外の変換係数が閾値より小さいまたは等しい場合、第２の変換を使用しないように設定でき、現在のブロックの０以外の変換係数が閾値より大きい場合、第２の変換を使用するように設定できる。現在のブロックがイントラ予測で符号化される場合にのみ、第２の変換を使用するように設定することもできる。

現在のブロックの形状に従って、第２の変換を実行しようとするサブブロックのサイズまたは形状を決定することができる。

図２３及び図２４は、第２の変換を実行するサブブロックの概略図を示す。

現在のブロックが正方形であると、主変換を実行した後、現在のブロックの左上のＮ×Ｎサイズのサブブロックを対象として第２の変換を実行することができる。一例として、現在のブロックが８×８サイズのコーディングブロックである場合、現在のブロックに対して主変換した後、現在のブロックの左上４×４サイズのサブブロックを対象として第２の変換を実行することができる（図２３を参照）。

現在のブロックが幅が高さより４倍以上大きい非正方形である場合、主変換を実行した後、現在のブロック左上の（ｋＮ）×（４ｋＮ）サイズのサブブロックを対象として第２の変換を実行することができる。一例として、現在のブロックが１６×４サイズの非正方形である場合、現在のブロックを主変換した後、現在のブロックの左上２×８サイズのサブブロックを対象として第２の変換を実行することができる（図２４の（ａ）を参照）。

現在のブロックが高さが幅より４倍以上大きい非正方形である場合、主変換を実行した後、現在のブロック左上の（４ｋＮ）×（ｋＮ）サイズのサブブロックを対象として第２の変換を実行することができる。一例として、現在のブロックが１６×４サイズの非正方形である場合、現在のブロックを主変換した後、現在のブロックの左上２×８サイズのサブブロックを対象として第２の変換を実行することができる（図２４の（ｂ）を参照）。

復号化器で第２の変換の逆変換（第２逆変換）を実行し、その実行結果に従って、主変換の逆変換（第１逆変換）を実行することができる。前記第２逆変換および第１逆変換の実行結果に従って、現在のブロックに対する残差信号を取得する。

現在のブロックの変換タイプを示す情報はビットストリームを介してシグナリングすることができる。前記情報は、水平方向の変換タイプと垂直方向の変換タイプとの組み合わせのうちの１つのインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘであり得る。

インデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘによって特定された変換タイプ候補に従って、垂直方向の変換コアおよび水平方向の変換コアを決定することができる。表７および表８は、ｔｕ＿ｍｔｓ＿ｉｄｘによる変換タイプ組み合わせを示す。

変換タイプはＤＣＴ２、ＤＳＴ７、ＤＣＴ８または変換スキップのうちのいずれかに決定できる。または、変換スキップ以外に、変換コアのみを使用して変換タイプ組み合わせ候補を構成することもできる。

表７を使用する場合、ｔｕ＿ｍｔｓ＿ｉｄｘが０であると、水平方向および垂直方向に変換スキップを適用することができる。ｔｕ＿ｍｔｓ＿ｉｄｘが１であると、水平方向および垂直方向にＤＣＴ２を適用することができる。ｔｕ＿ｍｔｓ＿ｉｄｘが３であると、水平方向にＤＣＴ８を適用し、垂直方向にＤＣＴ７を適用することができる。

表８を使用する場合、ｔｕ＿ｍｔｓ＿ｉｄｘが０であると、水平方向および垂直方向にＤＣＴ２を適用することができる。ｔｕ＿ｍｔｓ＿ｉｄｘが１であると、水平方向および垂直方向に変換スキップを適用することができる。ｔｕ＿ｍｔｓ＿ｉｄｘが３であると、水平方向にＤＣＴ８を適用し、垂直方向にＤＣＴ７を適用することができる。

現在のブロックのサイズ、形状または非０係数の数のうちの少なくとも１つに従って、インデックス情報が符号化するか否かを決定することができる。一例として、非０係数の数が閾値より等しいまたは少ない場合、インデックス情報をシグナリングせず、現在のブロックに対してデフォルト変換タイプを適用することができる。ここで、デフォルト変換タイプはＤＳＴ７であり得る。または、デフォルトモードは現在のブロックのサイズ、形状またはイントラ予測モードにより異なってもよい。

閾値は現在のブロックのサイズまたは形状に基づいて決定されることができる。一例として、現在のブロックのサイズが３２×３２より小さいまたは等しい場合、閾値を２に設定でき、現在のブロックが３２×３２より大きい場合（例えば、現在のブロックが３２×６４または６４×３２サイズのコーディングブロックである場合）、閾値を４に設定できる。

複数のルックアップテーブルは符号化器または復号化器に事前に記憶されることができる。複数のルックアップテーブルの変換タイプ組み合わせ候補に割り当てられたインデックス値、変換タイプ組み合わせ候補の種類または変換タイプ組み合わせ候補の数のうちの少なくとも１つは異なってもよい。

現在のブロックのサイズ、形状、予測符号化モード、イントラ予測モード、第２の変換を適用するか否かまたは隣接ブロックに対して変換スキップを適用するか否かのうちの少なくとも１つに基づいて、現在のブロックのルックアップテーブルを選択できる。

一例として、現在のブロックのサイズが４×４以下である場合または現在のブロックがインター予測で符号化される場合、表７のルックアップテーブルを使用でき、現在のブロックのサイズが４×４より大きい場合または現在のブロックがイントラ予測で符号化される場合、表８のルックアップテーブルを使用できる。

または、複数のルックアップテーブルのいずれかを指示する情報は、ビットストリームを介してシグナリングすることができる。復号化器は前記情報に基づいて、現在のブロックに対するルックアップテーブルを選択することができる。

別の一例として、現在のブロックのサイズ、形状、予測符号化モード、イントラ予測モード、第２の変換を適用するか否かまたは隣接ブロックに対して変換スキップを適用するか否かのうちの少なくとも１つに基づいて、変換タイプ組み合わせ候補に割り当てられたインデックスを適応的に決定できる。一例として、現在のブロックのサイズが４×４である場合に変換スキップに割り当てられたインデックスは、現在のブロックサイズが４×４より大きい場合に変換スキップに割り当てられたインデックスより小さい値を有し得る。具体的には、現在のブロックのサイズが４×４である場合、変換スキップにインデックス０を割り当てることができ、現在のブロックが４×４より大きく且つ１６×１６以下である場合、変換スキップに０より大きいインデックス（例えば、インデックス１）を割り当てることができる。現在のブロックが１６ｘ１６より大きい場合、変換スキップされたインデックスに最大値（例えば、５）を割り当てることができる。

または、現在のブロックがインター予測で符号化される場合、変換スキップにインデックス０を割り当てることができる。現在のブロックがイントラ予測で符号化される場合、変換スキップに０より大きいインデックス（例えば、インデックス１）を割り当てることができる。

または、現在のブロックがインター予測で符号化される４×４サイズのブロックである場合、変換スキップにインデックス０を割り当てることができる。逆に、現在のブロックがインター予測で符号化されないかまたは現在のブロックが４×４より大きい場合、変換スキップに値が０より大きいインデックス（例えば、インデックス１）を割り当てることができる。

表７および表８で例示された変換タイプ組み合わせ候補と異なる変換タイプ組み合わせ候補を定義し使用できる。一例として、水平方向変換または垂直方向変換のいずれかに変換スキップを適用でき、別の１つに対して、ＤＣＴ７、ＤＣＴ８またはＤＳＴ２などの変換コアを適用した変換タイプ組み合わせ候補を使用できる。この場合、現在のブロックのサイズ（例えば、幅および／または高さ）、形状、予測符号化モードまたはイントラ予測モードのうちの少なくとも１つに基づいて、変換スキップを水平方向または垂直方向として使用される変換タイプ候補として使用するか否かを決定することができる。

または、ビットストリームを介して特定の変換タイプ候補が使用できるか否かを示す情報をシグナリングすることができる。一例として、水平方向および垂直方向に対して変換スキップを変換タイプ候補として使用できるか否かを示す識別子をシグナリングできる。前記識別子に従って、複数の変換タイプ組み合わせ候補のうちの特定の変換タイプ組み合わせ候補を含むか否かを決定することができる。

または、ビットストリームを介して特定の変換タイプ候補が現在のブロックに適用されるか否かの情報をシグナリングすることができる。一例として、水平方向および垂直方向にＤＣＴ２を適用するか否かを示す識別子ｃｕ＿ｍｔｓ＿ｆｌａｇをシグナリングできる。ｃｕ＿ｍｔｓ＿ｆｌａｇの値が１である場合、ＤＣＴ２を垂直方向および水平方向に対する変換コアに設定することができる。当ｃｕ＿ｍｔｓ＿ｆｌａｇの値が１である場合、ＤＣＴ８またはＤＳＴ７を垂直方向および水平方向に対する変換コアに設定することができる。または、ｃｕ＿ｍｔｓ＿ｆｌａｇの値が１である場合、複数の変換タイプ組み合わせ候補のいずれかを特定する情報ｔｕ＿ｍｔｓ＿ｉｄｘをシグナリングできる。

現在のブロックが幅が高さより大きい非正方形または高さが幅より大きい非正方形である場合、ｃｕ＿ｍｔｓ＿ｆｌａｇの符号化をスキップでき、ｃｕ＿ｍｔｓ＿ｆｌａｇの値は０であるとみなす。

現在のブロックのサイズ、形状またはイントラ予測モーに従ってド、使用できる変換タイプ組み合わせ候補の数を異なるように設定することができる。一例として、現在のブロックが正方形である場合、３つ以上の変換タイプ組み合わせ候補を使用でき、現在のブロックが非正方形である場合、２個の変換タイプ組み合わせ候補を使用できる。または、現在のブロックが正方形である場合、変換タイプ組み合わせ候補のうちの水平方向のみに対する変換タイプおよび垂直方向に対する変換タイプと異なる変換タイプ組み合わせ候補のみを使用できる。

現在のブロックが使用できる変換タイプ組み合わせ候補が３つ以上である場合、変換タイプ組み合わせ候補の１つを指示するインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘをシグナリングできる。現在のブロックが使用できる変換タイプ組み合わせ候補が２個である場合、変換タイプ組み合わせ候補の１つを指示する識別子ｍｔｓ＿ｆｌａｇをシグナリングできる。表９は、現在のブロックの形状に従って変換タイプ組み合わせ候補に必要な情報を特定するコーディング形状を示す。

現在のブロックの形状に従って、変換タイプ組み合わせ候補のインデックスを再ソート（またはＲｅｏｒｄｅｒｉｎｇ）することができる。一例として、現在のブロックが正方形である場合、変換タイプ組み合わせ候補に割り当てられたインデックスは、現在のブロックが非正方形である場合に変換タイプ組み合わせ候補割り当てられたインデックスと異なってもよい。一例として、現在のブロックが正方形である場合、以下の表１０に基づいて、変換タイプ組み合わせを選択でき、現在のブロックが非正方形である場合、以下の表１１に基づいて、変換タイプ組み合わせを選択できる。

現在のブロックの水平方向非０係数の数または垂直方向非０係数の数に基づいて変換タイプを決定することができる。ここで、水平方向非０係数の数は１ｘＮ（ここで、Ｎは現在のブロックの幅である）に含まれる非０係数の数を示し、垂直方向非０係数の数はＮｘ１（ここで、Ｎは現在のブロックの高さである）に含まれる非０係数の数を示す。水平方向非０係数の最大値が閾値より小さいまたは等しい場合、水平方向に主変換タイプを適用でき、水平方向非０係数の最大値が閾値より大きい場合、水平方向に第２の変換タイプを適用できる。垂直方向非０係数の最大値が閾値より小さいまたは等しい場合、垂直方向に主変換タイプを適用でき、垂直方向非０係数の最大値が閾値より大きい場合、垂直方向に第２の変換タイプを適用できる。

図２５は、現在のブロックの変換タイプを決定することを説明する例の図である。

一例として、現在のブロックがイントラ予測で符号化され、現在のブロックの水平方向非０係数の最大値が２以下である場合（図２５の（ａ）を参照）、水平方向の変換タイプをＤＳＴ７に決定できる。

現在のブロックがイントラ予測で符号化され、現在のブロックの垂直方向非０係数の最大値が２より大きい場合（図２５の（ｂ）を参照）、ＤＣＴ２またはＤＣＴ８を垂直方向の変換タイプに決定できる。

ビットストリームからシグナリングする情報に基づいて現在のブロック変換タイプを明示的に決定するか否かを示す情報は、ビットストリームを介してシグナリングすることができる。一例として、シーケンスレベルでは、イントラ予測で符号化されるブロックに対して変換タイプを明示的に決定することを許可するか否かを示す情報ｓｐｓ＿ｅｘｐｌｉｃｉｔ＿ｉｎｔｒａ＿ｍｔｓ＿ｆｌａｇおよび／またはインター予測で符号化されるブロックに対して許可変換タイプ決定を明示的に決定することを許可するか否かを示す情報ｓｐｓ＿ｅｘｐｌｉｃｉｔ＿ｉｎｔｅｒ＿ｍｔｓ＿ｆｌａｇをシグナリングできる。

変換タイプを決定することを許可する場合、ビットストリームからシグナリングされたインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘに基づいて、現在のブロックの変換タイプを決定することができる。逆に、変換タイプを決定することを許可しない場合、現在のブロックのサイズ、形状、サブブロックユニットが変換を許可するか非かまたは０ではない変換係数を含むサブブロックの位置のうちの少なくとも１つに基づいて変換タイプを決定することができる。一例として、現在のブロックの水平方向変換タイプは、現在のブロックの幅に基づいて決定でき、現在のブロックの垂直方向変換タイプは現在のブロックの高さに基づいて決定できる。例えば、現在のブロックの幅が４より小さいかまたは１６より大きい場合、水平方向の変換タイプはＤＣＴ２に決定できる。そうでない場合、水平方向の変換タイプはＤＳＴ７に決定できる。例えば、現在のブロックの高さが４より小さいかまたは１６より大きい場合、垂直方向の変換タイプはＤＣＴ２に決定できる。そうでない場合、垂直方向の変換タイプはＤＳＴ７に決定できる。ここで、水平方向の変換タイプおよび垂直方向の変換タイプを決定するために、幅および高さと比較する閾値は、現在のブロックのサイズ、形状またはイントラ予測モードのうちの少なくとも１つに基づいて決定できる。

または、現在のブロックが高さが幅と同じである正方形である場合、水平方向変換タイプおよび垂直方向変換タイプを同じく設定でき、一方、現在のブロックが高さが幅と異なる非正方形である場合、水平方向変換タイプおよび垂直方向変換タイプを異なるように設定できる。一例として、現在のブロックの幅が高さより大きい場合、水平方向の変換タイプをＤＳＴ７に決定し、垂直方向の変換タイプをＤＣＴ２に決定することができる。一例として、現在のブロックの高さが幅より大きい場合、垂直方向の変換タイプをＤＳＴ７に決定し、水平方向の変換タイプをＤＣＴ２に決定することができる。

変換タイプ候補の数および／または種類または変換タイプ組み合わせ候補の数および／または種類は、変換タイプを明示的に決定することを許可するか否かにより異なる。一例として、変換タイプを明示的に決定することを許可する場合、ＤＣＴ２、ＤＳＴ７およびＤＣＴ８は変換タイプ候補として使用できる。そのため、水平方向変換タイプおよび垂直方向変換タイプは、それぞれＤＣＴ２、ＤＳＴ８またはＤＣＴ８に設定できる。変換タイプを明示的に決定することを許可しない場合、ＤＣＴ２およびＤＳＴ７のみ変換タイプ候補として使用できる。そのため、水平方向変換タイプおよび垂直方向変換タイプは、それぞれＤＣＴ２またはＤＳＴ７に決定できる。

コーディングブロックまたは変換ブロックを複数のサブブロックに分割し、複数のサブブロックに対してそれぞれ変換することができる。一例として、コーディングブロックに上記のサブパーティションイントラ予測符号化方法を適用する場合、コーディングブロックを複数のサブブロックに分割し、複数のサブブロックに対してそれぞれ変換できる。

サブブロックそれぞれの変換タイプは互いに異なることができる。一例として、複数のサブブロックの第１サブブロックに対する変換タイプが決定された場合、残りのサブブロックに対して、前記第１サブブロックの変換タイプを残りのサブブロックに適用することもできる。または、コーディングブロックのために使用される変換タイプを決定でき、コーディングブロックの変換タイプをサブブロックの変換タイプに決定できる。

別の一例として、複数のサブブロックの変換タイプを別々に決定できる。各サブブロックの変換タイプは、各サブブロックに対してシグナリングする情報に基づいて決定できる。一例として、各サブブロックに対してインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘをシグナリングできる。インデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘは、複数の水平方向の変換タイプと垂直方向の変換タイプとの組み合わせのいずれかを特定できる。ｔｕ＿ｍｔｓ＿ｉｄｘの値に従って、水平方向の変換タイプおよび垂直方向の変換タイプはＤＣＴ２、ＤＳＴ７またはＤＣＴ８に決定できる。インデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘに基づいて、水平方向の変換タイプおよび垂直方向の変換タイプが同じであるか否かを決定できる。

現在のサブブロックの変換タイプが前のサブブロックと同じ変換タイプを使用するか否かを示す情報をシグナリングできる。前記情報が前のサブブロックと同じ変換タイプを使用すると示す場合、現在のサブブロックのインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘに対する符号化をスキップし、前のサブブロックの変換タイプを現在のサブブロックに適用することができる。逆に、前記情報が前のサブブロックと異なる変換タイプを使用すると示す場合、現在のサブブロックのインデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘを符号化することができる。この場合、現在のサブブロックのインデックス情報は、前のサブブロックのインデックス情報が指示する変換タイプ組み合わせ以外の他の変換タイプ組み合わせのうちのいずれかを指示できる。

または、コーディングブロックが複数のサブブロックに分割された場合、変換タイプを明示的に決定することを許可しないように設定できる。明示的な変換タイプを許可する場合、インデックス情報ｔｕ＿ｍｔｓ＿ｉｄｘに基づいて変換タイプを決定できる。逆に、変換タイプを明示的に決定することを許可しない場合、含まれるサブブロックサイズ、形状または非０係数を含むサブブロック位置のうちの少なくとも１つに従って変換タイプを決定できる。

図２６は、サブブロックの変換タイプを決定する例の概略図である。

図２６は、サブブロックの高さと幅との比率が１：２または２：１である例を示す。

水平方向変換タイプおよび垂直方向変換タイプは各サブブロックの幅および高さに基づいて決定できる。一例として、図２６の（ａ）および（ｂ）に示されたように、サブブロックの幅が閾値より小さい場合、主変換タイプ（例えば、ＤＣＴ２）を水平方向変換タイプとして使用できる。逆に、サブブロックの幅が閾値以上である場合、第２の変換タイプ（例えば、ＤＳＴ７）を水平方向変換タイプとして使用できる。

さらに、サブブロックの高さが閾値より小さい場合、主変換タイプ（例えば、ＤＣＴ２）を垂直方向変換タイプとして使用できる。逆に、サブブロックの幅が閾値以上である場合、第２の変換タイプ（例えば、ＤＳＴ７）を垂直方向変換タイプとして使用できる。

ここで、閾値は２、４または８などの自然数であり得る。閾値はコーディングブロックのサイズ、形状、イントラ予測モードまたは予測符号化モードのうちの少なくとも１つに基づいて可変的に決定できる。または、閾値を決定するための情報はビットストリームを介してシグナリングすることができる。

上述した例において、サブブロックの幅および高さを１つの閾値と比較する例を例示したが、サブブロックの幅および高さを２個の閾値を比較して変換タイプを決定することもできる。一例として、サブブロックの幅が第１閾値より小さいかまたは第２閾値より大きい場合、水平方向の変換タイプをＤＣＴ２に決定することができる。そうでない場合、水平方向の変換タイプをＤＳＴ７に決定できる。さらに、サブブロックの高さが第１閾値より小さいかまたは第２閾値より大きい場合、垂直方向の変換タイプをＤＣＴ２に決定することができる。そうでない場合、垂直方向の変換タイプをＤＳＴ７に決定できる。第２閾値は第１閾値より大きい自然数であり、第１閾値は２、４または８などの自然数であり得、第２閾値は８、１６または３２などの自然数であり得る。

別の一例として、サブブロックが高さが幅と同じである正方形である場合、水平方向変換タイプおよび垂直方向変換タイプを同じく設定でき、一方、サブブロックが高さが幅と異なる非正方形である場合、水平方向変換タイプおよび垂直方向変換タイプを異なるように設定できる。一例として、サブブロックの幅が高さより大きい場合、水平方向の変換タイプをＤＳＴ７に決定し、垂直方向の変換タイプをＤＣＴ２に決定することができる。サブブロックの高さが幅より大きい場合、垂直方向の変換タイプをＤＳＴ７に決定し、水平方向の変換タイプをＤＣＴ２に決定することができる。

複数のサブブロックのうちの少なくとも１つに含まれる残差係数の値を０に設定することができる。ここで、残差係数は変換されて生成された変換係数、変換スキップされて生成された変換スキップ係数または前記変換係数または変換スキップ係数を量子化して生成された量子化された係数を意味する。一例として、コーディングブロックの境界から所定の距離以上離れているサブブロックに含まれる残差係数の値を０に設定することができる。

図２７は、サブブロックの残差係数が０に設定されることを説明する例の図である。

図２７に示された例において、ＣＢＦ（Ｃｏｄｅｄ Ｂｌｏｃｋ Ｆｌａｇ）はサブブロックに０ではない残差係数があるか否かを示す。ＣＢＦの値が０であることは、サブブロックに０ではない残差係数がいないことを示し、ＣＢＦの値が１であることは、サブブロックに０ではない残差係数があることを示す。

コーディングブロックの境界からサブブロックへの距離が閾値以上である場合、サブブロックに含まれる残差係数は０に設定できる。この場合、コーディングブロックの境界からサブブロックへの距離は、コーディングブロック境界に位置する第１サンプル、サブブロックに含まれる第２サンプルに基づいて取得できる。一例として、第１サンプは、コーディングブロックの左上隅に位置するサンプル、左下隅に位置するサンプル、左中に位置するサンプル、右上隅に位置するサンプル、右下隅に位置するサンプル、右中に位置するサンプル、上中に位置するサンプルまたは下中に位置するサンプルであり得る。第２サンプは、サブブロックの左上隅に位置するサンプル、左下隅に位置するサンプル、左中に位置するサンプル、右上隅に位置するサンプル、右下隅に位置するサンプル、右中に位置するサンプル、上中に位置するサンプルまたは下中に位置するサンプルであり得る。

閾値はコーディングブロックのサイズ、形状、コーディングブロックに含まれるサブブロックの数またはサブブロックのサイズのうちの少なくとも１つに基づいて決定できる。または、閾値を決定するための情報はビットストリームを介してシグナリングすることができる。

一例として、現在のブロックに垂直方向パーティショニングを適用する場合、コーディングブロック左側境界との距離が閾値以上であるサブブロックの残差係数は０に設定できる。コーディングブロックサイズが６４であり、閾値が３２である場合、図２７の（ａ）に示されたように、コーディングブロックの左側境界との距離が３２以上であるサブブロック（Ｓｕｂ－ＣＵ２およびＳｕｂ－ＣＵ３）の残差係数は０に設定できる。

または、現在のブロックに水平方向パーティショニングを適用する場合、コーディングブロック上端境界との距離が閾値以上であるサブブロックの残差係数は０に設定できる。コーディングブロックのサイズが６４であり、閾値が３２である場合、図２７の（ｂ）に示されたように、コーディングブロックの上端境界との距離が３２以上であるサブブロック（Ｓｕｂ－ＣＵ２およびＳｕｂ－ＣＵ３）の残差係数は０に設定できる。

示された例と異なり、コーディングブロック境界との距離が閾値より小さいサブブロックに含まれる残差係数を０に設定できる。

または、複数のサブブロックのうち、位置が事前に設定されたサブブロック以外の他のサブブロックの残差係数が０に設定されることもできる。一例として、コーディングブロックに垂直方向パーティショニングを適用する場合、複数のサブブロックの左端または右端に位置するサブブロック以外の他のサブブロックの残差係数が０に設定されることもできる。または、コーディングブロックに水平方向パーティショニングを適用する場合、複数のサブブロックの上端または下端に位置するサブブロック以外の他のサブブロックの残差係数が０に設定されることもがきる。

サブブロックに対して、ＣＢＦのコーディングなどの非０係数があるか否かを示す情報をスキップできる。ＣＢＦの符号化をスキップする場合、コーディングブロック境界とサブブロックとの距離またはサブブロックの位置に従って、各サブブロックが０ではない残差係数を含むか否かを決定することができる。一例として、図２７に示された例において、サブブロック０およびサブブロック１（ｓｕｂ－ＣＵ０、ｓｕｂ－ＣＵ１）のＣＢＦ値が１であり、サブブロック２およびサブブロック３（ｓｕｂ－ＣＵ２、ｓｕｂ－ＣＵ３）のＣＢＦ値が０であると取得することができる。

非０係数を含むサブブロックに対して、変換および／または量子化を実行でき、一方、非０係数を含まないサブブロックに対して、変換および量子化をスキップできる。

別の一例として、コーディングブロックまたは変換ブロックの一部の領域のみ変換することを示す情報は、コーディングしてシグナリングされることができる。前記情報は１ビットの識別子ｃｕ＿ｓｂｔ＿ｆｌａｇであり得る。前記識別子が１であることは、コーディングブロックまたは変換ブロックを分割して生成された複数のサブブロックのうちの一部のみ変換することを示し、前記識別子が０であることは、コーディングブロックまたは変換ブロックをサブブロックを分割して変換する必要ないことを示す。

コーディングブロックの一部の領域のみ変換する方法は、コーディングブロックに対してサブパーティションイントラ符号化方法を適用する場合にのみ許可される。そのため、コーディングブロックに対してサブパーティションイントラ符号化方法を適用する場合にのみ、ｃｕ＿ｓｂｔ＿ｆｌａｇｇはコーディングしてシグナリングされることができる。ｃｕ＿ｓｂｔ＿ｆｌａｇの値が１である場合、コーディングブロックまたは変換ブロックを分割して生成された複数のサブブロックのうちの一部に対して変換し、残りのサブブロックの残差係数は０に設定できる。ｃｕ＿ｓｂｔ＿ｆｌａｇの値が１である場合、すべてのサブブロックに対して変換することができる。

または、コーディングブロックに対してサブパーティションイントラ符号化方法を適用する場合、ｃｕ＿ｓｂｔ＿ｆｌａｇの符号化をスキップし、ｃｕ＿ｓｂｔ＿ｆｌａｇの値を１に設定することができる。

別の一例として、コーディングブロックの予測符号化モードがインター予測または現在の画像参照である場合にのみ、コーディングブロックの一部の領域に対して変換する方法を許可できる。コーディングブロックがインター予測または現在の画像参照で符号化される場合、コーディングブロックの一部の領域にのみ変換するか非かを示す情報は、コーディングしてシグナリングされることができる。コーディングブロックの一部の領域にのみ変換する場合、コーディングブロックの分割形状を示す情報に対してコーディングしてシグナリングされることができる。コーディングブロックの分割形状を示す情報は、コーディングブロックが４個のサブブロックに分割されたか否かを示す情報、コーディングブロックの分割方向を示す情報またはサブブロック数を示す情報のうちの少なくとも１つを含み得る。一例として、ｃｕ＿ｓｂｔ＿ｆｌａｇが１つである場合、コーディングブロックが４個のサブブロックに分割されたか否かを示す識別子ｃｕ＿ｓｂｔ＿ｑｕａｄｔｒｅｅ＿ｆｌａｇをシグナリングできる。ｃｕ＿ｓｂｔ＿ｑｕａｄｔｒｅｅ＿ｆｌａｇが１である場合、コーディングブロックが４個のサブブロックに分割されたことを示す。一例として、３つの垂直線または３つの水平線を使用して、コーディングブロックを４個のサブブロックに分割するか、または１つの垂直線および１つの水平線を使用して、コーディングブロックを４個のサブブロックに分割することができる。ｃｕ＿ｓｂｔ＿ｑｕａｄｔｒｅｅ＿ｆｌａｇが０である場合、コーディングブロックが２個のサブブロックに分割されたことを示す。一例として、１つの垂直線または１つの水平線を使用して、コーディングブロックを２個のサブブロックに分割することができる。

さらに、コーディングブロックの分割方向を示す識別子は、ビットストリームを介してシグナリングすることができる。一例として、コーディングブロックに水平方向パーティショニングを適用するか非かを示す識別子ｃｕ＿ｓｂｔ＿ｈｏｒｉｚｏｎｔａｌ＿ｆｌａｇはコーディングしてシグナリングされることができる。ｃｕ＿ｓｂｔ＿ｈｏｒｉｚｏｎｔａｌ＿ｆｌａｇの値が１であることは、コーディングブロックに対して水平方向パーティショニングを適用することを示し、ｃｕ＿ｓｂｔ＿ｈｏｒｉｚｏｎｔａｌ＿ｆｌａｇの値が０であることは、コーディングブロックに対して垂直方向パーティショニングを適用することを示す。

非０係数がいないサブブロックまたは変換を実行しないサブブロックの位置を示す情報は、ビットストリームを介してシグナリングすることができる。前記情報に基づいて、変換および／または量子化されたサブブロックおよび変換および／または量子化をスキップするサブブロックを決定することができる。

図２８は、ビットストリームによってシグナリングされる情報を介して変換および／または量子化を実行するサブブロックの位置を指示する例である。

特定の位置または第１サブブロックに非０係数があるか否かを示す識別子ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇはシグナリングできる。ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が１であることは、コーディングブロックの上端または左側に位置するサブブロックが変換および／または量子化されたことを示し、コーディングブロックの右側または下端に位置するサブブロックを変換および／または量子化していないことを示す。ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が０であることは、コーディングブロックの上端または左側に位置するサブブロックが変換および／または量子化されたことを示し、コーディングブロックの右側または下端に位置するサブブロックを変換および／または量子化していないことを示す。

コーディングブロックを４個のサブブロックに分割する場合、ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇはＮ個のサブブロックに対して変換および／または量子化を実行したことを示す。一例として、ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が１であることは上端または左側の２個のサブブロックに対して変換および／または量子化を実行することを示し、ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が０であることは、右側または下端の２個のサブブロックンに対して変換および／または量子化を実行したことを示す。

図面に示された例と異なり、Ｎの値を１または３に設定することもできる。

変換および／または量子化されていないサブブロックの残差係数は０に設定できる。

コーディングブロックの分割方向およびサブブロックの位置に従って、サブブロックの変換タイプを決定することができる。一例として、コーディングブロックが垂直方向に沿って分割されサブブロックの左側に位置するサブブロックを変換する場合、水平方向変換タイプおよび垂直方向変換タイプを異なるように設定できる。一例として、水平方向変換タイプはＤＣＴ８に設定でき、垂直方向変換タイプはＤＳＴ７に設定できる。逆に、コーディングブロックが垂直方向に沿って分割されサブブロックの右側に位置するサブブロックを変換する場合、サブブロックの水平方向変換タイプおよび垂直方向変換タイプは同じく設定できる。一例として、水平方向変換タイプおよび垂直方向変換タイプはＤＳＴ７に設定できる。

または、コーディングブロックが水平方向に沿って分割されサブブロックの上端に位置するサブブロックを変換する場合、水平方向変換タイプおよび垂直方向変換タイプを異なるように設定できる。一例として、水平方向変換タイプはＤＳＴ７に設定でき、垂直方向変換タイプはＤＣＴ８に設定できる。逆に、コーディングブロックが水平方向に沿って分割されサブブロックの下端に位置するサブブロックを変換する場合、サブブロックの水平方向変換タイプおよび垂直方向変換タイプは同じく設定できる。一例として、水平方向変換タイプおよび垂直方向変換タイプはＤＳＴ７に設定できる。

サブブロックに対して、ＣＢＦのコーディングなどの非０係数があるか否かを示す情報をスキップできる。ＣＢＦの符号化をスキップする場合、変換されるブロックの位置に従って、各サブブロックに０ではない残差係数が含まれるか否かを決定することができる。一例として、ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が０である場合、左側または上端に位置するサブブロックのＣＢＦ値が０であると取得でき、右側または下端に位置するサブブロックのＣＢＦ値が１であると取得できる。または、ｓｂｔ＿ｕｐｌｅｆｔ＿ｆｌａｇの値が１である場合、左側または上端に位置するサブブロックのＣＢＦ値が１であると取得でき、右側または下端に位置するサブブロックのＣＢＦ値が０であると取得できる。

変換されるサブブロックの復元サンプルは予測サンプルと残差サンプルとの合計で取得できる。逆に、変換がスキップされるサブブロックでは、予測サンプルは復元サンプルに設定できる。量子化は、ブロックのエネルギを減らすためであり、量子化プロセスは、変換係数を特定の定数値で除算するプロセスを含む。前記定数値は、量子化パラメータに従って取得でき、量子化パラメータは１ないし６３の間の値に定義できる。

符号化器で変換および量子化実行すると、復号化器は逆量子化および逆変換を介して残差ブロックを取得できる。復号化器は、測ブロックを残差ブロックと加算して現在のブロックに対する復元ブロックを取得できる。

現在のブロックの復元ブロックを取得すると、ループフィルタリング（Ｉｎ－ｌｏｏｐ ｆｉｌｔｅｒｉｎｇ）を介して量子化およびコーディングプロセスで発生される情報損失を低減することができる。ループフィルタリングは、ディブロッキングフィルタ（Ｄｅｂｌｏｃｋｉｎｇ ｆｉｌｔｅｒ）、サンプル適応オフセットフィルタ（ＳＡＯ：Ｓａｍｐｌｅ Ａｄａｐｔｉｖｅ Ｏｆｆｓｅｔ ｆｉｌｔｅｒ）または適応ループフィルタ（Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ：ＡＬＦ）のうちの少なくとも１つを含み得る。以下、ループフィルタリングを適用する前の復元ブロックを第１復元ブロックと称し、ループフィルタリングを適用した後の復元ブロックを第２復元ブロックと称する。

第１復元ブロックに対してディブロッキングフィルタ、ＳＡＯまたはＡＬＦのうちの少なくとも１つを適用して第２復元ブロックを取得することができる。この場合、ＳＡＯまたはＡＬＦはディブロッキングフィルタを適用した後適用することができる。

ディブロッキングフィルタは、ブロックをユニットとして量子化して発生されたブロック境界のブロッキングアーティファクト（Ｂｌｏｃｋｉｎｇ Ａｒｔｉｆａｃｔ）を軽減するために使用される。ディブロッキングフィルタを適用するために、第１復元ブロックと隣接復元ブロックとの間のブロック強度（ＢＳ：Ｂｌｏｃｋｉｎｇ Ｓｔｒｅｎｇｔｈ）を決定できる。

図２９は、ブロック強度を決定するプロセスのフローチャートである。

図２９に示された例では、Ｐは第１復元ブロックを示し、Ｑは隣接復元ブロックを示す。ここで、隣接復元ブロックは現在のブロックの右側または上端に隣接することができる。

図２９に示された例では、ＰおよびＱの予測符号化モード、０ではない変換係数を含むか否か、同じ参照画像を使用してインター予測するか非かまたは動きベクトルの差が閾値以上であるか否かに従ってブロック強度を決定する場合を図面に示す。

ブロック強度に基づいて、ディブロッキングフィルタを適用するか否か決定することができる。一例として、ブロック強度が０である場合、フィルタリングしなくてもよい。

ＳＡＯは、周波数領域で量子化することと伴って発生されたリンギングアーティファクト（Ｒｉｎｇｉｎｇ Ａｒｔｉｆａｃｔ）軽減するために使用される。ＳＡＯは、第１復元ビデオのパターンに基づいて決定されたオフセットを加算または減算することを介して実行されることができる。オフセットの決定方法は、境界補正（ＥＯ：Ｅｄｇｅ Ｏｆｆｓｅｔ）またはサイドバンド補正（ＢＯ：Ｂａｎｄ Ｏｆｆｓｅｔ）を含む。ＥＯは、隣接ピクセルのパターンに従って現在のサンプルの補正値を決定する方法を示す。ＢＯは領域内の類似の輝度値を有するピクセルのセットに対して共通補正値を適用する方法を示す。具体的には、ピクセル輝度を３２の等間隔に分けて、類似の輝度値を有するピクセルを１つのセットに設定することができる。一例として、３２のサイドバンドのうち隣接する４個のバンドを一グループに設定し、４個のバンドに属するサンプルに対して同じ補正値を適用することができる。

ＡＬＦは、第１復元ビデオまたはディブロッキングフィルタを適用した復元ビデオに対して、事前に定義されたサイズまたは形状のフィルタを適用して第２復元ビデオを生成する方法である。以下の式３２はＡＬＦの適用例を示す。

画像、コーディングツリーユニット、コーディングブロック、予測ブロックまたは変換ブロックをユニットとして、事前に定義されたフィルタ候補のうちのいずれかを選択することができる。各フィルタ候補のサイズまたは形状のうちのいずれかは異なってもよい。

図３０は、事前に定義されたフィルタ候補を示す。

図３０に示されたように、５×５、７×７または９×９サイズのひし形ウィンドウのうちの少なくとも１つを選択できる。

色度成分に対して、５×５サイズのひし形ウィンドウのみ使用できる。

復号化するプロセスまたはコーディングプロセスを中心として説明する実施例をコーディングプロセスまたは復号化するプロセスに適用し、これも本願のカテゴリに含まれる。所定の順序で説明する実施例を説明コンテンツが異なる順序に変更し、これも本願のカテゴリに含まれる。

上述した実施例は一連のステップまたは順序図に基づいて説明されているが、これは発明の順序を制限するものではなく、必要に従って同時に実行または異なる順序に従って実行できる。さらに、上述した実施例では、ブロック図を構成する構成要素（例えば、ユニット、モジュールなど）は、それぞれハードウェア装置またはソフトウェアで実現されてもよく、複数の構成要素によって結合されて１つのハードウェア装置またはソフトウェアで実現されてもよい。上述した実施例は、様々なコンピュータ構成要素を介して実行できるプログラム命令の形態で実現され、コンピュータ可読記録媒体に記録されることができる。前記コンピュータ可読記録媒体は、プログラム命令、データファイル、データ構造などの独立または組み合わせることができる。コンピュータ可読記録媒体の例では、ハードディスク、ソフトディスクおよび磁気テープなどの磁気媒体、ＣＤ－ＲＯＭ、ＤＶＤなどの光記録媒体、フロッピーディスク（ｆｌｏｐｔｉｃａｌ ｄｉｓｋ）などの磁気－光媒体（ｍａｇｎｅｔｏ－ｏｐｔｉｃａｌ ｍｅｄｉａ）、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどの特別に構成されたプログラム命令を記憶、実行するハードウェア装置を含む。前記ハードウェア装置は、本願の処理を実行するために、１つ以上のソフトウェアモジュールで回転するように構成され得、その逆も同様である。

本願は画像を符号化または復号化する電子機器に適用されることができる。

Claims (13)

1. ビデオ復号化方法であって、
   現在のブロックの参照サンプルラインを決定することと、
   前記現在のブロックのイントラ予測モードと同じ候補イントラ予測モードが存在するか否かを決定することと、
   決定された結果に基づいて、前記現在のブロックのイントラ予測モードを導出することと、
   前記参照サンプルラインおよび前記イントラ予測モードに従って、前記現在のブロックに対してイントラ予測を実行することであって、
   前記候補イントラ予測モードのうちの少なくとも１つは、前記現在のブロックの上端隣接ブロックのイントラ予測モードおよび前記現在のブロックの左側隣接ブロックのイントラ予測モードのうちの最大値にオフセットを加算または減算して導出されることであることと、
   前記現在のブロックの変換タイプ候補を決定することであって、前記変換タイプ候補の数は、前記現在のブロックが変換タイプを明示的に決定することを許可するか否かにより異なることと、
   前記現在のブロックを複数のサブブロックに分割するか否かを決定することと、を含み、
   前記現在のブロックを複数のサブブロックに分割する場合、前記サブブロックの形状に従って、前記サブブロックの水平方向変換タイプおよび垂直方向変換タイプを決定することを特徴とする、前記ビデオ復号化方法。
2. 前記複数のサブブロックは１つのイントラ予測モードを共有することを特徴とする、
   請求項１に記載のビデオ復号化方法。
3. 前記複数のサブブロックのうちの一部に対して、逆変換がスキップされることを特徴とする、
   請求項２に記載のビデオ復号化方法。
4. 前記サブブロックの幅に従って、前記サブブロックの水平方向変換タイプを決定し、前記サブブロックの高さに従って、前記サブブロックの垂直方向変換タイプを決定することを特徴とする、
   請求項２に記載のビデオ復号化方法。
5. ビデオ符号化方法であって、
   現在のブロックの参照サンプルラインを決定することと、
   前記現在のブロックのイントラ予測モードと同じ候補イントラ予測モードが存在するか否かを決定することと、
   決定された結果に基づいて、前記現在のブロックのイントラ予測モードを導出することと、
   前記参照サンプルラインおよび前記イントラ予測モードに従って、前記現在のブロックに対してイントラ予測を実行することであって、
   前記候補イントラ予測モードのうちの少なくとも１つは、前記現在のブロックの上端隣接ブロックのイントラ予測モードおよび前記現在のブロックの左側隣接ブロックのイントラ予測モードのうちの最大値にオフセットを加算または減算して導出されることであることと、
   前記現在のブロックの変換タイプ候補を決定することであって、前記変換タイプ候補の数は、前記現在のブロックが変換タイプを明示的に決定することを許可するか否かにより異なることと、
   前記現在のブロックを複数のサブブロックに分割するか否かを決定することと、を含み、
   前記現在のブロックを複数のサブブロックに分割する場合、前記サブブロックの形状に従って、前記サブブロックの水平方向変換タイプおよび垂直方向変換タイプを決定することを特徴とする、前記ビデオ符号化方法。
6. 前記複数のサブブロックは１つのイントラ予測モードを共有することを特徴とする、
   請求項５に記載のビデオ符号化方法。
7. 前記複数のサブブロックのうちの一部に対して、変換がスキップされることを特徴とする、
   請求項６に記載のビデオ符号化方法。
8. 前記サブブロックの幅に従って、前記サブブロックの水平方向変換タイプを決定し、前記サブブロックの高さに従って、前記サブブロックの垂直方向変換タイプを決定することを特徴とする、
   請求項６に記載のビデオ符号化方法。
9. 復号化器であって、
   プロセッサによって実行可能な命令を格納するためのメモリと、
   請求項１ないし４のいずれか一項に記載のビデオ復号化方法を実行するための命令を実行するためのプロセッサと、を備える、前記復号化器。
10. 符号化器であって、
    プロセッサによって実行可能な命令を格納するためのメモリと、
    請求項５ないし８のいずれか一項に記載のビデオ符号化方法を実行するための命令を実行するためのプロセッサと、を備える、前記符号化器。
11. 復号化器であって、
    現在のブロックの参照サンプルラインを決定するための手段と、
    前記現在のブロックのイントラ予測モードと同じ候補イントラ予測モードが存在するか否かを決定するための手段と、
    決定された結果に基づいて、前記現在のブロックのイントラ予測モードを導出するための手段と、
    前記参照サンプルラインおよび前記イントラ予測モードに従って、前記現在のブロックに対してイントラ予測を実行するための手段であって、
    前記候補イントラ予測モードのうちの少なくとも１つは、前記現在のブロックの上端隣接ブロックのイントラ予測モードおよび前記現在のブロックの左側隣接ブロックのイントラ予測モードのうちの最大値にオフセットを加算または減算して導出されることである手段と、
    前記現在のブロックの変換タイプ候補を決定する手段であって、前記変換タイプ候補の数は、前記現在のブロックが変換タイプを明示的に決定することを許可するか否かにより異なる手段と、
    前記現在のブロックを複数のサブブロックに分割するか否かを決定する手段と、を備え、
    前記現在のブロックを複数のサブブロックに分割する場合、前記サブブロックの形状に従って、前記サブブロックの水平方向変換タイプおよび垂直方向変換タイプを決定することを特徴とする、前記復号化器。
12. 符号化器であって、
    現在のブロックの参照サンプルラインを決定するための手段と、
    前記現在のブロックのイントラ予測モードと同じ候補イントラ予測モードが存在するか否かを決定するための手段と、
    決定された結果に基づいて、前記現在のブロックのイントラ予測モードを導出するための手段と、
    前記参照サンプルラインおよび前記イントラ予測モードに従って、前記現在のブロックに対してイントラ予測を実行するための手段であって、
    前記候補イントラ予測モードのうちの少なくとも１つは、前記現在のブロックの上端隣接ブロックのイントラ予測モードおよび前記現在のブロックの左側隣接ブロックのイントラ予測モードのうちの最大値にオフセットを加算または減算して導出されることである手段と、
    前記現在のブロックの変換タイプ候補を決定する手段であって、前記変換タイプ候補の数は、前記現在のブロックが変換タイプを明示的に決定することを許可するか否かにより異なる手段と、
    前記現在のブロックを複数のサブブロックに分割するか否かを決定する手段と、を備え、
    前記現在のブロックを複数のサブブロックに分割する場合、前記サブブロックの形状に従って、前記サブブロックの水平方向変換タイプおよび垂直方向変換タイプを決定することを特徴とする、前記符号化器。
13. プロセッサによって実行されると、プロセッサに請求項１ないし４のいずれか一項に記載のビデオ復号化方法、または請求項５ないし８のいずれか一項に記載のビデオ符号化方法を実行させる命令を格納する、非一時的なコンピュータ可読媒体。