JP7853396B2 - 三次元データ生成方法、三次元データ取得方法、三次元データ生成装置、及び三次元データ取得装置 - Google Patents

Description

本開示は、三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置に関する。

自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。

三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ－４ ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。

また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｌｉｂｒａｒｙ）などによって一部サポートされている。

また、三次元の地図データを用いて、車両周辺に位置する施設を検索し、表示する技術が知られている（例えば、特許文献１参照）。

国際公開第２０１４／０２０６６３号

三次元データの符号化及び復号において、複数の符号化方式が用いられる可能性がある。

本開示は、複数の符号化方式が用いられる場合であっても、正しく三次元データを復号できる符号化ストリームを生成できる三次元データ符号化方法或いは三次元データ符号化装置、又は、正しく三次元データを復号できる三次元データ復号方法或いは三次元データ復号装置を提供することを目的とする。

本開示の一態様に係る三次元データ生成方法は、位置情報を含む三次元データを符号化した符号化ストリームを取得し、前記符号化ストリームを格納した１以上のユニットを生成し、前記ユニットは、前記三次元データの符号化に用いた符号化方式としてビデオベース符号化方式を示す第１情報、及び、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む。

本開示の一態様に係る三次元データ取得方法は、１以上のユニットを取得し、前記１以上のユニットから、位置情報を含む三次元データを符号化することで生成された符号化ストリームを取得し、前記ユニットは、前記三次元データの符号化に用いられた符号化方式としてビデオベース符号化方式を示す第１情報を含み、前記ユニットは、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む。

本開示の一態様に係る三次元データ符号化方法は、三次元データを符号化することで符号化ストリームを生成し、前記符号化ストリームの制御情報に、第１符号化方式と第２符号化方式のうち、前記符号化に用いた符号化方式を示す情報を格納する。

本開示の一態様に係る三次元データ復号方法は、三次元データを符号化することで生成された符号化ストリームの制御情報に含まれる、第１符号化方式と第２符号化方式のうち、前記三次元データの符号化に用いられた符号化方式を示す情報に基づき、符号化ストリームの符号化に用いられた符号化方式を判定し、判定した前記符号化方式を用いて前記符号化ストリームを復号する。

本開示は、複数の符号化方式が用いられる場合であっても、正しく三次元データを復号できる符号化ストリームを生成できる三次元データ符号化方法或いは三次元データ符号化装置、又は、正しく三次元データを復号できる三次元データ復号方法或いは三次元データ復号装置を提供できる。

図１は、実施の形態１に係る三次元データ符号化復号システムの構成を示す図である。 図２は、実施の形態１に係る点群データの構成例を示す図である。 図３は、実施の形態１に係る点群データ情報が記述されたデータファイルの構成例を示す図である。 図４は、実施の形態１に係る点群データの種類を示す図である。 図５は、実施の形態１に係る第１の符号化部の構成を示す図である。 図６は、実施の形態１に係る第１の符号化部のブロック図である。 図７は、実施の形態１に係る第１の復号部の構成を示す図である。 図８は、実施の形態１に係る第１の復号部のブロック図である。 図９は、実施の形態１に係る第２の符号化部の構成を示す図である。 図１０は、実施の形態１に係る第２の符号化部のブロック図である。 図１１は、実施の形態１に係る第２の復号部の構成を示す図である。 図１２は、実施の形態１に係る第２の復号部のブロック図である。 図１３は、実施の形態１に係るＰＣＣ符号化データに関わるプロトコルスタックを示す図である。 図１４は、実施の形態１に係るプロトコルスタックを示す図である。 図１５は、実施の形態１に係るＮＡＬユニットのシンタックス例を示す図である。 図１６は、実施の形態１に係るＮＡＬユニットヘッダのシンタックス例を示す図である。 図１７は、実施の形態１に係るｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅのセマンティクス例を示す図である。 図１８は、実施の形態１に係るｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。 図１９は、実施の形態１に係る符号化処理のフローチャートである。 図２０は、実施の形態１に係る第２の復号部による復号処理のフローチャートである。 図２１は、実施の形態１に係る第１の復号部による復号処理のフローチャートである。 図２２は、実施の形態２に係るプロトコルスタックを示す図である。 図２３は、実施の形態２に係るコーデック２用のＮＡＬユニットのシンタックス例を示す図である。 図２４は、実施の形態２に係るコーデック２用のＮＡＬユニットヘッダのシンタックス例を示す図である。 図２５は、実施の形態２に係るｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。 図２６は、実施の形態２に係るコーデック１用のＮＡＬユニットのシンタックス例を示す図である。 図２７は、実施の形態２に係るコーデック１用のＮＡＬユニットヘッダのシンタックス例を示す図である。 図２８は、実施の形態２に係るｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。 図２９は、実施の形態２に係る符号化処理のフローチャートである。 図３０は、実施の形態２に係る復号処理のフローチャートである。 図３１は、実施の形態３に係るプロトコルスタックを示す図である。 図３２は、実施の形態３に係るＮＡＬユニットのシンタックス例を示す図である。 図３３は、実施の形態３に係るＮＡＬユニットヘッダのシンタックス例を示す図である。 図３４は、実施の形態３に係るｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。 図３５は、実施の形態３に係る符号化処理のフローチャートである。 図３６は、実施の形態３に係る復号処理のフローチャートである。 図３７は、実施の形態の変形例に係る符号化処理のフローチャートである。 図３８は、実施の形態の変形例に係る復号処理のフローチャートである。 図３９は、実施の形態４に係る符号化部のブロック図である。 図４０は、実施の形態４に係る復号部のブロック図である。 図４１は、実施の形態４に係る符号化処理のフローチャートである。 図４２は、実施の形態４に係る復号処理のフローチャートである。

本開示の一態様に係る三次元データ符号化方法は、三次元データを符号化することで符号化ストリームを生成し、前記符号化ストリームの制御情報に、第１符号化方式と第２符号化方式のうち、前記符号化に用いた符号化方式を示す情報を格納する。

これによれば、三次元データ復号装置は、当該三次元データ符号化方法で生成された符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号装置は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

例えば、前記三次元データは、位置情報を含み、前記符号化では、前記位置情報を符号化し、前記格納では、前記位置情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いた符号化方式を示す情報を格納してもよい。

例えば、前記三次元データは、位置情報と属性情報とを含み、前記符号化では、前記位置情報と前記属性情報とをそれぞれ符号化し、前記格納では、前記位置情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いた符号化方式を示す情報を格納し、前記属性情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記属性情報の符号化に用いた符号化方式を示す情報を格納してもよい。

これによれば、位置情報と属性情報とに異なる符号化方式を用いることができるので、符号化効率を向上できる。

例えば、前記三次元データ符号化方法は、さらに、前記符号化ストリームを１以上のユニットに格納してもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報を含んでもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報を含んでもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで共通した定義を有する情報を含んでもよい。

本開示の一態様に係る三次元データ復号方法は、三次元データを符号化することで生成された符号化ストリームの制御情報に含まれる、第１符号化方式と第２符号化方式のうち、前記三次元データの符号化に用いられた符号化方式を示す情報に基づき、符号化ストリームの符号化に用いられた符号化方式を判定し、判定した前記符号化方式を用いて前記符号化ストリームを復号する。

これによれば、三次元データ復号方法は、符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号方法は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで共通した定義を有する情報を含んでもよい。

例えば、前記三次元データは、位置情報と属性情報とを含み、前記符号化ストリームは、前記位置情報の符号化データと前記属性情報の符号化データとを含み、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いられた符号化方式を示す情報に基づき、前記位置情報の符号化に用いられた符号化方式を判定し、前記符号化ストリームに含まれる前記属性情報の制御情報に含まれる、前記第１符号化方式と前記第２符号化方式のうち、前記属性情報の符号化に用いられた符号化方式を示す情報に基づき、前記属性情報の符号化に用いられた符号化方式を判定し、前記復号では、判定した前記位置情報の符号化に用いられた符号化方式を用いて前記位置情報の符号化データを復号し、判定した前記属性情報の符号化に用いられた符号化方式を用いて前記属性情報の符号化データを復号してもよい。

これによれば、位置情報と属性情報とに異なる符号化方式を用いることができるので、符号化効率を向上できる。

例えば、前記符号化ストリームは１以上のユニットに格納されており、前記三次元データ復号方法は、さらに、前記１以上のユニットから前記符号化ストリームを取得してもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報を含んでもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報を含んでもよい。

例えば、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで共通した定義を有する情報を含んでもよい。

また、本開示の一態様に係る三次元データ符号化装置は、属性情報を有する複数の三次元点を符号化する三次元データ符号化装置であって、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、三次元データを符号化することで符号化ストリームを生成し、前記符号化ストリームの制御情報に、第１符号化方式と第２符号化方式のうち、前記符号化に用いた符号化方式を示す情報を格納する。

これによれば、三次元データ復号装置は、当該三次元データ符号化装置で生成された符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号装置は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

また、本開示の一態様に係る三次元データ復号装置は、属性情報を有する複数の三次元点を復号する三次元データ復号装置であって、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、三次元データを符号化することで生成された符号化ストリームの制御情報に含まれる、第１符号化方式と第２符号化方式のうち、前記三次元データの符号化に用いられた符号化方式を示す情報に基づき、符号化ストリームの符号化に用いられた符号化方式を判定し、判定した前記符号化方式を用いて前記符号化ストリームを復号する。

これによれば、三次元データ復号装置は、符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号装置は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。

以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。

（実施の形態１）
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。

本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報を送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元データ復号方法及び三次元データ復号装置、並びに、当該符号化データを多重化する三次元データ多重化方法、並びに、当該符号化データを伝送する三次元データ伝送方法について説明する。

特に、現在、点群データの符号化方式として第１の符号化方法、及び第２の符号化方法が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるＭＵＸ処理（多重化）、又は、伝送或いは蓄積ができないという課題がある。

また、ＰＣＣ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｃｏｍｐｒｅｓｓｉｏｎ）のように、第１の符号化方法と第２の符号化方法の２つのコーデックが混在するフォーマットをサポートする方法はこれまで存在しない。

本実施の形態では、第１の符号化方法と第２の符号化方法の２つのコーデックが混在するＰＣＣ符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法について説明する。

まず、本実施の形態に係る三次元データ（点群データ）符号化復号システムの構成を説明する。図１は、本実施の形態に係る三次元データ符号化復号システムの構成例を示す図である。図１に示すように、三次元データ符号化復号システムは、三次元データ符号化システム４６０１と、三次元データ復号システム４６０２と、センサ端末４６０３と、外部接続部４６０４とを含む。

三次元データ符号化システム４６０１は、三次元データである点群データを符号化することで符号化データ又は多重化データを生成する。なお、三次元データ符号化システム４６０１は、単一の装置により実現される三次元データ符号化装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ符号化装置は、三次元データ符号化システム４６０１に含まれる複数の処理部のうち一部を含んでもよい。

三次元データ符号化システム４６０１は、点群データ生成システム４６１１と、提示部４６１２と、符号化部４６１３と、多重化部４６１４と、入出力部４６１５と、制御部４６１６とを含む。点群データ生成システム４６１１は、センサ情報取得部４６１７と、点群データ生成部４６１８とを含む。

センサ情報取得部４６１７は、センサ端末４６０３からセンサ情報を取得し、センサ情報を点群データ生成部４６１８に出力する。点群データ生成部４６１８は、センサ情報から点群データを生成し、点群データを符号化部４６１３へ出力する。

提示部４６１２は、センサ情報又は点群データをユーザに提示する。例えば、提示部４６１２は、センサ情報又は点群データに基づく情報又は画像を表示する。

符号化部４６１３は、点群データを符号化（圧縮）し、得られた符号化データと、符号化過程において得られた制御情報と、その他の付加情報とを多重化部４６１４へ出力する。付加情報は、例えば、センサ情報を含む。

多重化部４６１４は、符号化部４６１３から入力された符号化データと、制御情報と、付加情報とを多重することで多重化データを生成する。多重化データのフォーマットは、例えば蓄積のためのファイルフォーマット、又は伝送のためのパケットフォーマットである。

入出力部４６１５（例えば、通信部又はインタフェース）は、多重化データを外部へ出力する。または、多重化データは、内部メモリ等の蓄積部に蓄積される。制御部４６１６（またはアプリ実行部）は、各処理部を制御する。つまり、制御部４６１６は、符号化及び多重化等の制御を行う。

なお、センサ情報が符号化部４６１３又は多重化部４６１４へ入力されてもよい。また、入出力部４６１５は、点群データ又は符号化データをそのまま外部へ出力してもよい。

三次元データ符号化システム４６０１から出力された伝送信号（多重化データ）は、外部接続部４６０４を介して、三次元データ復号システム４６０２に入力される。

三次元データ復号システム４６０２は、符号化データ又は多重化データを復号することで三次元データである点群データを生成する。なお、三次元データ復号システム４６０２は、単一の装置により実現される三次元データ復号装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ復号装置は、三次元データ復号システム４６０２に含まれる複数の処理部のうち一部を含んでもよい。

三次元データ復号システム４６０２は、センサ情報取得部４６２１と、入出力部４６２２と、逆多重化部４６２３と、復号部４６２４と、提示部４６２５と、ユーザインタフェース４６２６と、制御部４６２７とを含む。

センサ情報取得部４６２１は、センサ端末４６０３からセンサ情報を取得する。

入出力部４６２２は、伝送信号を取得し、伝送信号から多重化データ（ファイルフォーマット又はパケット）を復号し、多重化データを逆多重化部４６２３へ出力する。

逆多重化部４６２３は、多重化データから符号化データ、制御情報及び付加情報を取得し、符号化データ、制御情報及び付加情報を復号部４６２４へ出力する。

復号部４６２４は、符号化データを復号することで点群データを再構成する。

提示部４６２５は、点群データをユーザに提示する。例えば、提示部４６２５は、点群データに基づく情報又は画像を表示する。ユーザインタフェース４６２６は、ユーザの操作に基づく指示を取得する。制御部４６２７（またはアプリ実行部）は、各処理部を制御する。つまり、制御部４６２７は、逆多重化、復号及び提示等の制御を行う。

なお、入出力部４６２２は、点群データ又は符号化データをそのまま外部から取得してもよい。また、提示部４６２５は、センサ情報などの付加情報を取得し、付加情報に基づいた情報を提示してもよい。また、提示部４６２５は、ユーザインタフェース４６２６で取得されたユーザの指示に基づき、提示を行ってもよい。

センサ端末４６０３は、センサで得られた情報であるセンサ情報を生成する。センサ端末４６０３は、センサ又はカメラを搭載した端末であり、例えば、自動車などの移動体、飛行機などの飛行物体、携帯端末、又はカメラなどがある。

センサ端末４６０３で取得可能なセンサ情報は、例えば、（１）ＬＩＤＡＲ、ミリ波レーダ、又は赤外線センサから得られる、センサ端末４６０３と対象物との距離、又は対象物の反射率、（２）複数の単眼カメラ画像又はステレオカメラ画像から得られるカメラと対象物との距離又は対象物の反射率等である。また、センサ情報は、センサの姿勢、向き、ジャイロ（角速度）、位置（ＧＰＳ情報又は高度）、速度、又は加速度等を含んでもよい。また、センサ情報は、気温、気圧、湿度、又は磁気等を含んでもよい。

外部接続部４６０４は、集積回路（ＬＳＩ又はＩＣ）、外部蓄積部、インターネットを介したクラウドサーバとの通信、又は、放送等により実現される。

次に、点群データについて説明する。図２は、点群データの構成を示す図である。図３は、点群データの情報が記述されたデータファイルの構成例を示す図である。

点群データは、複数の点のデータを含む。各点のデータは、位置情報（三次元座標）、及びその位置情報に対する属性情報とを含む。この点が複数集まったものを点群と呼ぶ。例えば、点群は対象物（オブジェクト）の三次元形状を示す。

三次元座標等の位置情報（Ｐｏｓｉｔｉｏｎ）をジオメトリ（ｇｅｏｍｅｔｒｙ）と呼ぶこともある。また、各点のデータは、複数の属性種別の属性情報（ａｔｔｒｉｂｕｔｅ）を含んでもよい。属性種別は、例えば色又は反射率などである。

１つの位置情報に対して１つの属性情報が対応付けられてもよいし、１つの位置情報に対して複数の異なる属性種別を持つ属性情報が対応付けられてもよい。また、１つの位置情報に対して同じ属性種別の属性情報が複数対応付けられてもよい。

図３に示すデータファイルの構成例は、位置情報と属性情報とが１対１に対応する場合の例であり、点群データを構成するＮ個の点の位置情報と属性情報とを示している。

位置情報は、例えば、ｘ、ｙ、ｚの３軸の情報である。属性情報は、例えば、ＲＧＢの色情報である。代表的なデータファイルとしてｐｌｙファイルなどがある。

次に、点群データの種類について説明する。図４は、点群データの種類を示す図である。図４に示すように、点群データには、静的オブジェクトと、動的オブジェクトとがある。

静的オブジェクトは、任意の時間（ある時刻）の三次元点群データである。動的オブジェクトは、時間的に変化する三次元点群データである。以降、ある時刻の三次元点群データをＰＣＣフレーム、又はフレームと呼ぶ。

オブジェクトは、通常の映像データのように、ある程度領域が制限されている点群であってもよいし、地図情報のように領域が制限されていない大規模点群であってもよい。

また、様々な密度の点群データがあり、疎な点群データと、密な点群データとが存在してもよい。

以下、各処理部の詳細について説明する。センサ情報は、ＬＩＤＡＲ或いはレンジファインダなどの距離センサ、ステレオカメラ、又は、複数の単眼カメラの組合せなど様々な方法で取得される。点群データ生成部４６１８は、センサ情報取得部４６１７で得られたセンサ情報に基づき点群データを生成する。点群データ生成部４６１８は、点群データとして、位置情報を生成し、位置情報に、当該位置情報に対する属性情報を付加する。

点群データ生成部４６１８は、位置情報の生成又は属性情報の付加の際に、点群データを加工してもよい。例えば、点群データ生成部４６１８は、位置が重複する点群を削除することでデータ量を減らしてもよい。また、点群データ生成部４６１８は、位置情報を変換（位置シフト、回転又は正規化など）してもよいし、属性情報をレンダリングしてもよい。

なお、図１では、点群データ生成システム４６１１は、三次元データ符号化システム４６０１に含まれるが、三次元データ符号化システム４６０１の外部に独立して設けられてもよい。

符号化部４６１３は、点群データを予め規定された符号化方式に基づき符号化することで符号化データを生成する。符号化方式には大きく以下の２種類がある。一つ目は、位置情報を用いた符号化方式であり、この符号化方式を、以降、第１の符号化方式と記載する。二つ目は、ビデオコーデックを用いた符号化方式であり、この符号化方式を、以降、第２の符号化方式と記載する。

復号部４６２４は、符号化データを予め規定された符号化方式に基づき復号することで点群データを復号する。

多重化部４６１４は、符号化データを、既存の多重化方式を用いて多重化することで多重化データを生成する。生成された多重化データは、伝送又は蓄積される。多重化部４６１４は、ＰＣＣ符号化データの他に、映像、音声、字幕、アプリケーション、ファイルなどの他のメディア、又は基準時刻情報を多重化する。また、多重化部４６１４は、さらに、センサ情報又は点群データに関連する属性情報を多重してもよい。

多重化方式又はファイルフォーマットとしては、ＩＳＯＢＭＦＦ、ＩＳＯＢＭＦＦベースの伝送方式であるＭＰＥＧ－ＤＡＳＨ、ＭＭＴ、ＭＰＥＧ－２ ＴＳ Ｓｙｓｔｅｍｓ、ＲＭＰなどがある。

逆多重化部４６２３は、多重化データからＰＣＣ符号化データ、その他のメディア、及び時刻情報などを抽出する。

入出力部４６１５は、多重化データを、放送又は通信など、伝送する媒体又は蓄積する媒体にあわせた方法を用いて伝送する。入出力部４６１５は、インターネット経由で他のデバイスと通信してもよいし、クラウドサーバなどの蓄積部と通信してもよい。

通信プロトコルとしては、ｈｔｔｐ、ｆｔｐ、ＴＣＰ又はＵＤＰなどが用いられる。ＰＵＬＬ型の通信方式が用いられてもよいし、ＰＵＳＨ型の通信方式が用いられてもよい。

有線伝送及び無線伝送のいずれが用いられてもよい。有線伝送としては、Ｅｔｈｅｒｎｅｔ（登録商標）、ＵＳＢ、ＲＳ－２３２Ｃ、ＨＤＭＩ（登録商標）、又は同軸ケーブルなどが用いられる。無線伝送としては、無線ＬＡＮ、Ｗｉ－Ｆｉ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）又はミリ波などが用いられる。

また、放送方式としては、例えばＤＶＢ－Ｔ２、ＤＶＢ－Ｓ２、ＤＶＢ－Ｃ２、ＡＴＳＣ３．０、又はＩＳＤＢ－Ｓ３などが用いられる。

図５は、第１の符号化方式の符号化を行う符号化部４６１３の例である第１の符号化部４６３０の構成を示す図である。図６は、第１の符号化部４６３０のブロック図である。第１の符号化部４６３０は、点群データを第１の符号化方式で符号化することで符号化データ（符号化ストリーム）を生成する。この第１の符号化部４６３０は、位置情報符号化部４６３１と、属性情報符号化部４６３２と、付加情報符号化部４６３３と、多重化部４６３４とを含む。

第１の符号化部４６３０は、三次元構造を意識して符号化を行うという特徴を有する。また、第１の符号化部４６３０は、属性情報符号化部４６３２が、位置情報符号化部４６３１から得られる情報を用いて符号を行うという特徴を有する。第１の符号化方式は、ＧＰＣＣ（Ｇｅｏｍｅｔｒｙ ｂａｓｅｄ ＰＣＣ）とも呼ばれる。

点群データは、ＰＬＹファイルのようなＰＣＣ点群データ、又は、センサ情報から生成されたＰＣＣ点群データであり、位置情報（Ｐｏｓｉｔｉｏｎ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、及びその他の付加情報（ＭｅｔａＤａｔａ）を含む。位置情報は位置情報符号化部４６３１に入力され、属性情報は属性情報符号化部４６３２に入力され、付加情報は付加情報符号化部４６３３に入力される。

位置情報符号化部４６３１は、位置情報を符号化することで符号化データである符号化位置情報（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ）を生成する。例えば、位置情報符号化部４６３１は、８分木等のＮ分木構造を用いて位置情報を符号化する。具体的には、８分木では、対象空間が８個のノード（サブ空間）に分割され、各ノードに点群が含まれるか否かを示す８ビットの情報（オキュパンシー符号）が生成される。また、点群が含まれるノードは、さらに、８個のノードに分割され、当該８個のノードの各々に点群が含まれるか否かを示す８ビットの情報が生成される。この処理が、予め定められた階層又はノードに含まれる点群の数の閾値以下になるまで繰り返される。

属性情報符号化部４６３２は、位置情報符号化部４６３１で生成された構成情報を用いて符号化することで符号化データである符号化属性情報（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ）を生成する。例えば、属性情報符号化部４６３２は、位置情報符号化部４６３１で生成された８分木構造に基づき、処理対象の対象点（対象ノード）の符号化において参照する参照点（参照ノード）を決定する。例えば、属性情報符号化部４６３２は、周辺ノード又は隣接ノードのうち、８分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。

また、属性情報の符号化処理は、量子化処理、予測処理、及び算術符号化処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、符号化のパラメータの決定に参照ノードの状態（例えば、参照ノードに点群が含まれる否かを示す占有情報）を用いること、である。例えば、符号化のパラメータとは、量子化処理における量子化パラメータ、又は算術符号化におけるコンテキスト等である。

付加情報符号化部４６３３は、付加情報のうち、圧縮可能なデータを符号化することで符号化データである符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）を生成する。

多重化部４６３４は、符号化位置情報、符号化属性情報、符号化付加情報及びその他の付加情報を多重化することで符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。

次に、第１の符号化方式の復号を行う復号部４６２４の例である第１の復号部４６４０について説明する。図７は、第１の復号部４６４０の構成を示す図である。図８は、第１の復号部４６４０のブロック図である。第１の復号部４６４０は、第１の符号化方式で符号化された符号化データ（符号化ストリーム）を、第１の符号化方式で復号することで点群データを生成する。この第１の復号部４６４０は、逆多重化部４６４１と、位置情報復号部４６４２と、属性情報復号部４６４３と、付加情報復号部４６４４とを含む。

図示しないシステムレイヤの処理部から符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）が第１の復号部４６４０に入力される。

逆多重化部４６４１は、符号化データから、符号化位置情報（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ）、符号化属性情報（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ）、符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）、及び、その他の付加情報を分離する。

位置情報復号部４６４２は、符号化位置情報を復号することで位置情報を生成する。例えば、位置情報復号部４６４２は、８分木等のＮ分木構造で表される符号化位置情報から三次元座標で表される点群の位置情報を復元する。

属性情報復号部４６４３は、位置情報復号部４６４２で生成された構成情報に基づき、符号化属性情報を復号する。例えば、属性情報復号部４６４３は、位置情報復号部４６４２で得られた８分木構造に基づき、処理対象の対象点（対象ノード）の復号において参照する参照点（参照ノード）を決定する。例えば、属性情報復号部４６４３は、周辺ノード又は隣接ノードのうち、８分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。

また、属性情報の復号処理は、逆量子化処理、予測処理、及び算術復号処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、復号のパラメータの決定に参照ノードの状態（例えば、参照ノードに点群が含まれる否かを示す占有情報）を用いること、である。例えば、復号のパラメータとは、逆量子化処理における量子化パラメータ、又は算術復号におけるコンテキスト等である。

付加情報復号部４６４４は、符号化付加情報を復号することで付加情報を生成する。また、第１の復号部４６４０は、位置情報及び属性情報の復号処理に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。

次に、第２の符号化方式の符号化を行う符号化部４６１３の例である第２の符号化部４６５０について説明する。図９は、第２の符号化部４６５０の構成を示す図である。図１０は、第２の符号化部４６５０のブロック図である。

第２の符号化部４６５０は、点群データを第２の符号化方式で符号化することで符号化データ（符号化ストリーム）を生成する。この第２の符号化部４６５０は、付加情報生成部４６５１と、位置画像生成部４６５２と、属性画像生成部４６５３と、映像符号化部４６５４と、付加情報符号化部４６５５と、多重化部４６５６とを含む。

第２の符号化部４６５０は、三次元構造を二次元画像に投影することで位置画像及び属性画像を生成し、生成した位置画像及び属性画像を既存の映像符号化方式を用いて符号化するという特徴を有する。第２の符号化方式は、ＶＰＣＣ（Ｖｉｄｅｏ ｂａｓｅｄ ＰＣＣ）とも呼ばれる。

点群データは、ＰＬＹファイルのようなＰＣＣ点群データ、又は、センサ情報から生成されたＰＣＣ点群データであり、位置情報（Ｐｏｓｉｔｉｏｎ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、及びその他の付加情報ＭｅｔａＤａｔａ）を含む。

付加情報生成部４６５１は、三次元構造を二次元画像に投影することで、複数の二次元画像のマップ情報を生成する。

位置画像生成部４６５２は、位置情報と、付加情報生成部４６５１で生成されたマップ情報とに基づき、位置画像（Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）を生成する。この位置画像は、例えば、画素値として距離（Ｄｅｐｔｈ）が示される距離画像である。なお、この距離画像は、一つの視点から複数の点群を見た画像（一つの二次元平面に複数の点群を投影した画像）であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。

属性画像生成部４６５３は、属性情報と、付加情報生成部４６５１で生成されたマップ情報とに基づき、属性画像を生成する。この属性画像は、例えば、画素値として属性情報（例えば色（ＲＧＢ））が示される画像である。なお、この画像は、一つの視点から複数の点群を見た画像（一つの二次元平面に複数の点群を投影した画像）であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。

映像符号化部４６５４は、位置画像及び属性画像を、映像符号化方式を用いて符号化することで、符号化データである符号化位置画像（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）及び符号化属性画像（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ Ｉｍａｇｅ）を生成する。なお、映像符号化方式として、公知の任意の符号化方式が用いられてよい。例えば、映像符号化方式は、ＡＶＣ又はＨＥＶＣ等である。

付加情報符号化部４６５５は、点群データに含まれる付加情報、及びマップ情報等を符号化することで符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）を生成する。

多重化部４６５６は、符号化位置画像、符号化属性画像、符号化付加情報、及び、その他の付加情報を多重化することで符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。

次に、第２の符号化方式の復号を行う復号部４６２４の例である第２の復号部４６６０について説明する。図１１は、第２の復号部４６６０の構成を示す図である。図１２は、第２の復号部４６６０のブロック図である。第２の復号部４６６０は、第２の符号化方式で符号化された符号化データ（符号化ストリーム）を、第２の符号化方式で復号することで点群データを生成する。この第２の復号部４６６０は、逆多重化部４６６１と、映像復号部４６６２と、付加情報復号部４６６３と、位置情報生成部４６６４と、属性情報生成部４６６５とを含む。

図示しないシステムレイヤの処理部から符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）が第２の復号部４６６０に入力される。

逆多重化部４６６１は、符号化データから、符号化位置画像（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）、符号化属性画像（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ Ｉｍａｇｅ）、符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）、及び、その他の付加情報を分離する。

映像復号部４６６２は、符号化位置画像及び符号化属性画像を、映像符号化方式を用いて復号することで、位置画像及び属性画像を生成する。なお、映像符号化方式として、公知の任意の符号化方式が用いられてよい。例えば、映像符号化方式は、ＡＶＣ又はＨＥＶＣ等である。

付加情報復号部４６６３は、符号化付加情報を復号することで、マップ情報等を含む加情報を生成する。

位置情報生成部４６６４は、位置画像とマップ情報とを用いて位置情報を生成する。属性情報生成部４６６５は、属性画像とマップ情報とを用いて属性情報を生成する。

第２の復号部４６６０は、復号に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。

以下、ＰＣＣ符号化方式における課題を説明する。図１３は、ＰＣＣ符号化データに関わるプロトコルスタックを示す図である。図１３には、ＰＣＣ符号化データに、映像（例えばＨＥＶＣ）又は音声などの他のメディアのデータを多重し、伝送又は蓄積する例を示す。

多重化方式及びファイルフォーマットは、様々な符号化データを多重し、伝送又は蓄積するための機能を有している。符号化データを伝送又は蓄積するためには、符号化データを多重化方式のフォーマットに変換しなければならない。例えば、ＨＥＶＣでは、ＮＡＬユニットと呼ばれるデータ構造に符号化データを格納し、ＮＡＬユニットをＩＳＯＢＭＦＦに格納する技術が規定されている。

一方、現在、点群データの符号化方式として第１の符号化方法（Ｃｏｄｅｃ１）、及び第２の符号化方法（Ｃｏｄｅｃ２）が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるＭＵＸ処理（多重化）、伝送及び蓄積ができないという課題がある。

なお、以降において、特定の符号化方式の記載がなければ、第１の符号化方式、及び第２の符号化方式のいずれかを示すものとする。

以下、本実施の形態に係るＮＡＬユニットの定義方法について説明する。例えば、ＨＥＶＣなどの、これまでのコーデックでは、１つのコーデックに対して、１つのフォーマットのＮＡＬユニットが定義されている。しかし、ＰＣＣのように、第１の符号化方法と第２の符号化方法との２つのコーデック（以降、ＰＣＣコーデックと称する）が混在するフォーマットをサポートする方法はこれまで存在しない。

本実施の形態では、ＮＡＬユニットとしてＰＣＣコーデック共通のフォーマットを定義し、さらに、ＰＣＣコーデックに依存するＮＡＬユニットの識別子を定義する。図１４は、この場合のプロトコルスタックを示す図である。図１５～図１７は、コーデック共通のＮＡＬユニットフォーマットの例を示す図である。図１５は、共通ＰＣＣ ＮＡＬユニット（Ｃｏｍｍｏｎ ＰＣＣ ＮＡＬ Ｕｎｉｔ）のシンタックス例を示す図である。図１６は、共通ＰＣＣ ＮＡＬユニットヘッダ（Ｃｏｍｍｏｎ ＰＣＣ ＮＡＬ Ｕｎｉｔ Ｈｅａｄｅｒ）のシンタックス例を示す図である。図１７は、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅのセマンティクス例を示す図である。図１８は、コーデック依存のＮＡＬユニットタイプ定義の例を示す図であり、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。

ＮＡＬユニットフォーマットとして、ＰＣＣコーデック共通のＮＡＬユニットフォーマットが定義される。ＮＡＬユニット（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ）は、ヘッダ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）、ペイロード（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｐａｙｌｏａｄ）、及びトレイリングビット（ｔｒａｉｌｉｎｇ＿ｂｉｔｓ）を含む。第１の符号化方法及び第２の符号化方法のいずれのコーデックのデータが格納される場合にも、同じフォーマットが使用される。

ＮＡＬユニットヘッダ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）には、コーデックタイプ（ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｅ）、及びＮＡＬユニットタイプ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）が格納される。コーデックタイプは、ＮＡＬユニットに格納される符号化データのＰＣＣコーデックが、第１の符号化方法であるか、第２の符号化方法であるかを示す。

ＮＡＬユニットタイプは、コーデックに依存するＮＡＬユニットのタイプを示し、コーデック毎にタイプが定義される。コーデックタイプが第１の符号化方法である場合には、ＮＡＬユニットタイプは、第１の符号化方法用に定義されたＮＡＬユニットタイプを示す。コーデックタイプが第２の符号化方法である場合には、ＮＡＬユニットタイプは、第２の符号化方法用に定義されたＮＡＬユニットタイプを示す。つまり、第１の符号化方法用に定義されたＮＡＬユニットタイプと、第２の符号化方法用に定義されたＮＡＬユニットタイプとには、同一の値に対して異なる意味が対応づけられる。

なお、ヘッダにおいて、コーデックタイプの機能をＮＡＬユニットタイプにマージしてもよい。例えば、ＮＡＬユニットタイプの一部の情報を用いてコーデックタイプを示してもよい。

次に、本実施の形態に係る符号化処理について説明する。図１９は、本実施の形態に係る符号化処理のフローチャートである。同図の処理は、上記の定義を用いた場合の第１の符号化部４６３０又は第２の符号化部４６５０の処理を示す。なお、以下では第１の符号化部４６３０又は第２の符号化部４６５０を区別せずに符号化部４６１３とも記す。また、同図の処理は、主に、図６に示す多重化部４６３４又は図１０に示す多重化部４６５６により行われる。

なお、同図の処理は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれか一方で符号化する例を示しており、どちらのＰＣＣコーデックで符号化するかは既知であるものとする。例えば、いずれのＰＣＣコーデックを用いるかはユーザ又は外部装置等により指定されてもよい。

まず、符号化部４６１３は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれかのコーデックを用いて符号化する（Ｓ４６０１）。

使用したコーデックが第２の符号化方法である場合（Ｓ４６０２で第２の符号化方法）、符号化部４６１３は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６０３）。また、符号化部４６１３は、ＮＡＬユニットヘッダのｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第２の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６０４）。そして、符号化部４６１３は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６１３は、生成したＮＡＬユニットを送信する（Ｓ４６０５）。

一方、使用したコーデックが第１の符号化方法である場合（Ｓ４６０２で第１の符号化方法）、符号化部４６１３は、ＮＡＬユニットヘッダのｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６０６）。また、符号化部４６１３は、ＮＡＬユニットヘッダのｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第１の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６０７）。そして、符号化部４６１３は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６１３は、生成したＮＡＬユニットを送信する（Ｓ４６０５）。

なお、符号化部４６１３は、ステップＳ４６０３及びＳ４６０６において、ｐｃｃ＿ｃｏｄｅ＿ｔｙｐｅの機能がｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに含まれる場合、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに、ＮＡＬユニットが第１の符号化方法であるか第２の符号化方法であるかを示してもよい。

次に、本実施の形態に係る第１の復号部４６４０及び第２の復号部４６６０による復号処理について説明する。図２０は、第２の復号部４６６０による復号処理を示すフローチャートである。また、同図の処理は、主に、図１２に示す逆多重化部４６６１により行われる。

なお、同図の処理は、ＰＣＣデータを第２の符号化方法、及び第１の符号化方法のいずれか一方で符号化する例を示している。また、この方式では、第２の復号部４６６０に含まれる逆多重化部４６６１は、ＮＡＬユニットヘッダに含まれる情報を参照して、ＮＡＬユニットのコーデックタイプを識別できる。よって、逆多重化部４６６１は、コーデックタイプに応じて必要な情報を映像復号部４６６２に出力できる。

まず、第２の復号部４６６０は、ＮＡＬユニットを受信する（Ｓ４６１１）。例えば、このＮＡＬユニットは、上述した符号化部４６１３における処理で生成されたものである。つまり、このＮＡＬユニットのヘッダは、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅ及びｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを含む。

次に、第２の復号部４６６０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示すか、第２の符号化方法を示すかを判定する（Ｓ４６１２）。

ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４６１２で第２の符号化方法）、第２の復号部４６６０は、ＮＡＬユニットのペイロードに含まれるデータが、第２の符号化方法を用いて符号化されたデータであると判断する（Ｓ４６１３）。そして、第２の復号部４６６０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第２の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６１４）。そして、第２の復号部４６６０は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６１５）。

一方、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示す場合（Ｓ４６１２で第１の符号化方法）、第２の復号部４６６０は、ＮＡＬユニットのペイロードに含まれるデータが、第１の符号化方法で符号化されたデータであると判断する（Ｓ４６１６）。この場合、第２の復号部４６６０は、当該ＮＡＬユニットを処理しない（Ｓ４６１７）。

なお、ステップＳ４６１２において、ｐｃｃ＿ｃｏｄｅ＿ｔｙｐｅの機能がｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに含まれる場合、第２の復号部４６６０は、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを参照して、ＮＡＬユニットに含まれるデータに使用されているコーデックが第１の符号化方法であるか第２の符号化方法であるかを判定してもよい。

図２１は、第１の復号部４６４０による復号処理を示すフローチャートである。また、同図の処理は、主に、図８に示す逆多重化部４６４１により行われる。

なお、同図の処理は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれか一方で符号化する例を示している。また、この方式では、第１の復号部４６４０に含まれる逆多重化部４６４１は、ＮＡＬユニットヘッダに含まれる情報を参照して、ＮＡＬユニットのコーデックタイプを識別できる。よって、逆多重化部４６４１は、コーデックタイプに応じて必要な情報を位置情報復号部４６４２及び属性情報復号部４６４３に出力できる。

まず、第１の復号部４６４０は、ＮＡＬユニットを受信する（Ｓ４６２１）。例えば、このＮＡＬユニットは、上述した符号化部４６１３における処理で生成されたものである。つまり、このＮＡＬユニットのヘッダは、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅ及びｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを含む。

次に、第１の復号部４６４０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示すか、第２の符号化方法を示すかを判定する（Ｓ４６２２）。

ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４６２２で第２の符号化方式）、第１の復号部４６４０は、ＮＡＬユニットのペイロードに含まれるデータが、第２の符号化方法を用いて符号化されたデータであると判断する（Ｓ４６２３）。この場合、第１の復号部４６４０は、当該ＮＡＬユニットは処理しない（Ｓ４６２４）。

一方、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示す場合（Ｓ４６２２で第１の符号化方法）、第１の復号部４６４０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４６２５）。そして、第１の復号部４６４０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第１の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６２６）。そして、第１の復号部４６４０は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６２７）。

（実施の形態２）
本実施の形態では、ＮＡＬユニットの定義の別の手法について説明する。本実施の形態では、ＮＡＬユニットとしてＰＣＣコーデック毎に異なるフォーマットを定義する。さらに、ＰＣＣコーデック毎に独立にＮＡＬユニットの識別子を定義する。

図２２は、この場合のプロトコルスタックを示す図である。図２３は、コーデック２用のＮＡＬユニット（ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ）のシンタックス例を示す図である。図２４は、コーデック２用のＮＡＬユニットヘッダ（ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）のシンタックス例を示す図である。図２５は、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。

図２６は、コーデック１用のＮＡＬユニット（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ）のシンタックス例を示す図である。図２７は、コーデック１用のＮＡＬユニットヘッダ（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）のシンタックス例を示す図である。図２８は、ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクス例を示す図である。

ＮＡＬユニットフォーマットとして、ＰＣＣコーデック毎に独立にＮＡＬユニットフォーマットが定義される。ＮＡＬユニット（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ）は、ヘッダ（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）、ペイロード（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｐａｙｌｏａｄ、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｐａｙｌｏａｄ）、及びトレイリングビット（ｔｒａｉｌｉｎｇ＿ｂｉｔｓ）を含む。第１の符号化方法用のＮＡＬユニット（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ）と第２の符号化方法用のＮＡＬユニット（ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ）は、同じ構成でもよいし、異なる構成でもよい。第１の符号化方法用のＮＡＬユニットと第２の符号化方法用のＮＡＬユニットとのサイズが異なってもよい。

第１の符号化方法で符号化されたデータは第１の符号化方法用のＮＡＬユニットに格納される。第２の符号化方法で符号化されたデータは第２の符号化方法用のＮＡＬユニットに格納される。

ＮＡＬユニットヘッダ（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）には、ＮＡＬユニットタイプ（ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ、ｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）が格納される。ＮＡＬユニットタイプは、コーデック毎に独立であり、コーデック毎にタイプが定義される。つまり、第１の符号化方法用のＮＡＬユニットには、第１の符号化方法用に定義されたＮＡＬユニットタイプが記載される。第２の符号化方法用のＮＡＬユニットには、第２の符号化方法用に定義されたＮＡＬユニットタイプが記載される。

本方式を用いることで、第１の符号化方法と第２の符号化方法とを、異なるコーデックとして扱うことができる。

次に、本実施の形態に係る符号化処理について説明する。図２９は、本実施の形態に係る符号化処理のフローチャートである。同図の処理は、上記定義を用いた場合の第１の符号化部４６３０又は第２の符号化部４６５０の処理を示す。また、同図の処理は、主に、図６に示す多重化部４６３４又は図１０に示す多重化部４６５６により行われる。

なお、同図の処理は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれか一方で符号化する例を示しており、どちらのＰＣＣコーデックで符号化するかは既知であるものとする。例えば、いずれのＰＣＣコーデックを用いるかはユーザ又は外部装置等により指定されてもよい。

まず、符号化部４６１３は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれかのコーデックを用いて符号化する（Ｓ４６３１）。

使用したコーデックが第２の符号化方法である場合（Ｓ４６３２で第２の符号化方法）、符号化部４６１３は、第２の符号化方法用のＮＡＬユニットフォーマットでＮＡＬユニットを生成する（Ｓ４６３３）。次に、符号化部４６１３は、ＮＡＬユニットヘッダに含まれるｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第２の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６３４）。そして、符号化部４６１３は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６１３は、生成したＮＡＬユニットを送信する（Ｓ４６３５）。

一方、使用したコーデックが第１の符号化方法である場合（Ｓ４６３２で第１の符号化方法）、符号化部４６１３は、第１の符号化方法用のＮＡＬユニットフォーマットでＮＡＬユニットを生成する（Ｓ４６３６）。次に、符号化部４６１３は、ＮＡＬユニットヘッダのｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第１の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６３７）。そして、符号化部４６１３は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６１３は、生成したＮＡＬユニットを送信する（Ｓ４６３５）。

次に、本実施の形態に係る復号処理について説明する。図３０は、本実施の形態に係る復号処理のフローチャートである。同図の処理は、上記定義を用いた場合の第１の復号部４６４０又は第２の復号部４６６０の処理を示す。なお、以下では第１の復号部４６４０又は第２の復号部４６６０を区別せずに復号部４６２４とも記す。また、同図の処理は、主に、図８に示す逆多重化部４６４１又は図１２に示す逆多重化部４６６１により行われる。

なお、同図の処理は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれか一方で符号化する例を示しており、どちらのＰＣＣコーデックで符号化されているかは既知であるものとする。例えば、使用されているコーデックを示す情報が伝送信号、多重化データ、又は符号化データに含まれており、復号部４６２４は、当該情報を参照して使用されているコーデックを判定する。なお、復号部４６２４は、これらの信号とは別に取得した信号に基づき、使用されているコーデックを判定してもよい。

使用されているコーデックが第２の符号化方法である場合（Ｓ４６４１で第２の符号化方法）、復号部４６２４は、第２の符号化方法用フォーマットのＮＡＬユニットを受信する（Ｓ４６４２）。次に、復号部４６２４は、ＮＡＬユニットが第２の符号化方法用であるとして、第２の符号化方法用のＮＡＬユニットフォーマット及び第２の符号化方法用のｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを用いてデータを識別する（Ｓ４６４３）。次に、復号部４６２４は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６４４）。

一方、使用されているコーデックが第１の符号化方法である場合（Ｓ４６４１で第１の符号化方法）、復号部４６２４は、第１の符号化方法用フォーマットのＮＡＬユニットを受信する（Ｓ４６４５）。次に、復号部４６２４は、ＮＡＬユニットが第１の符号化方法用であるとして、第１の符号化方法用のＮＡＬユニットフォーマット及び第１の符号化方法用のｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを用いてデータを識別する（Ｓ４６４６）。次に、復号部４６２４は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７４７）。

（実施の形態３）
本実施の形態では、ＮＡＬユニットの定義の別の手法について説明する。本実施の形態では、ＮＡＬユニットとしてＰＣＣコーデック共通のフォーマットを定義する。また、ＰＣＣコーデック共通のＮＡＬユニットの識別子を定義する。

図３１は、この場合のプロトコルスタックを示す図である。図３２～図３４は、コーデック共通のＮＡＬユニットフォーマットの例を示す図である。図３２は、共通ＰＣＣ ＮＡＬユニット（Ｃｏｍｍｏｎ ＰＣＣ ＮＡＬ Ｕｎｉｔ）のシンタックス例を示す図である。図３３は、共通ＰＣＣ ＮＡＬユニットヘッダ（Ｃｏｍｍｏｎ ＰＣＣ ＮＡＬ Ｕｎｉｔ Ｈｅａｄｅｒ）のシンタックス例を示す図である。図３４は、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅのセマンティクス例を示す図である。

ＮＡＬユニットフォーマットとして、ＰＣＣコーデック共通のＮＡＬユニットフォーマットが定義される。ＮＡＬユニット（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ）は、ヘッダ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）、ペイロード（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｐａｙｌｏａｄ）、及びトレイリングビット（ｔｒａｉｌｉｎｇ＿ｂｉｔｓ）を含む。第１の符号化方法と第２の符号化方法のいずれのコーデックのデータが格納される場合にも、同じフォーマットが使用される。

ＮＡＬユニットヘッダ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｈｅａｄｅｒ）には、ＮＡＬユニットタイプ（ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）が格納される。ＮＡＬユニットタイプは、コーデック共通であり、コーデック共通のタイプが定義される。つまり、第１の符号化方法用のＮＡＬユニット、第２の符号化方法用のＮＡＬユニットともに、共通に定義されたＮＡＬユニットタイプが記載される。図３４に示す例において、例えば、ＰＣＣ ＤａｔａＡは、コーデック１の符号化データであり、ＰＣＣ ＤａｔａＢは、コーデック２の符号化データであり、ＰＣＣ ＭｅｔａＤａｔａＡは、コーデック１の付加情報であり、ＰＣＣ ＭｅｔａＤａｔａＢは、コーデック２の付加情報である。

本方式を用いることで、第１の符号化方法と第２の符号化方法とを、同じコーデックとして扱うことができる。

次に、本実施の形態に係る符号化処理について説明する。図３５は、本実施の形態に係る符号化処理のフローチャートである。同図の処理は、上記の定義を用いた場合の第１の符号化部４６３０又は第２の符号化部４６５０の処理を示す。また、同図の処理は、主に、図６に示す多重化部４６３４又は図１０に示す多重化部４６５６により行われる。

なお、同図の処理は、ＰＣＣデータを第２の符号化方法、及び第１の符号化方法のいずれか一方で符号化する例を示しており、どちらのＰＣＣコーデックで符号化するかは既知であるものとする。例えば、いずれのＰＣＣコーデックを用いるかはユーザ又は外部装置等により指定されてもよい。

まず、符号化部４６１３は、ＰＣＣデータを第２の符号化方法、及び第１の符号化方法のいずれかのコーデックを用いて符号化する（Ｓ４６５１）。次に、符号化部４６１３は、ＰＣＣ共通のＮＡＬユニットフォーマットでＮＡＬユニットを生成する（Ｓ４６５２）。

次に、符号化部４６１３は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅにＰＣＣ共通のＮＡＬユニットの識別子を設定する（Ｓ４６５３）。次に、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを送信する（Ｓ４６５４）。

次に、本実施の形態に係る復号処理について説明する。図３６は、本実施の形態に係る復号処理のフローチャートである。同図の処理は、上記定義を用いた場合の第１の復号部４６４０又は第２の復号部４６６０の処理を示す。また、同図の処理は、主に、図８に示す逆多重化部４６４１又は図１２に示す逆多重化部４６６１により行われる。

なお、同図の処理は、ＰＣＣデータを第２の符号化方法、及び第１の符号化方法のいずれか一方で符号化する例を示している。

まず、復号部４６２４は、ＮＡＬユニットに含まれるデータの符号化に使用されているコーデックを判定する（Ｓ４６６１）。例えば、復号部４６２４は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを参照することで、使用されているコーデックを判定する。

使用されているコーデックが第２の符号化方法である場合（Ｓ４６６１で第２の符号化方法）、復号部４６２４は、ＰＣＣ共通のフォーマットのＮＡＬユニットを受信する（Ｓ４６６２）。次に、復号部４６２４は、ＮＡＬユニットは共通であるとして、共通のＮＡＬユニットフォーマット及び共通のｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを用いてデータを識別する（Ｓ４６６３）。次に、復号部４６２４は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６６４）。

一方、使用されているコーデックが第１の符号化方法である場合（Ｓ４６６１で第１の符号化方法）、復号部４６２４は、ＰＣＣ共通のフォーマットのＮＡＬユニットを受信する（Ｓ４６６５）。次に、復号部４６２４は、ＮＡＬユニットは共通であるとして、共通のＮＡＬユニットフォーマット及び共通のｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを用いてデータを識別する（Ｓ４６６６）。次に、復号部４６２４は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６６７）。

以下、上記の実施の形態１～実施の形態３の変形例について説明する。ＰＣＣコーデックタイプを示すその他の方法として以下の方法を用いてもよい。

実施の形態１、実施の形態２、及び実施の形態３では、第１の符号化方法と第２の符号化方法との２つのコーデックが混在する場合を説明したが、ＰＣＣコーデックが３つ以上である場合も上記の手法を適用可能である。

また、実施の形態１及び実施の形態３では、ＮＡＬユニットヘッダ内でＰＣＣコーデックの識別情報（実施の形態１におけるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅ、及び、実施の形態３ｂにおけるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を記載したが、コーデックの識別情報を他の場所に格納してもよい。

また、第１の符号化方法及び第２の符号化方法は、上記の例に限定されず、任意のコーデックであってもよい。例えば、第１の符号化方法及び第２の符号化方法は、ＧＰＣＣを細分化した複数のコーデックであってもよいし、ＶＰＣＣを細分化した複数のコーデックであってもよい。例えば、第１の符号化方法及び第２の符号化方法は、共にＶＰＣＣであり、用いられる映像符号方式が異なってもよい。映像符号化方式は、例えば、ＡＶＣ又はＨＥＶＣであってもよい。また、第１の符号化方法及び第２の符号化方法のいずれか一方またはその両方は、映像、音声、テキストアプリケーションなど、その他の符号化方式を含む符号化方法であってもよい。

例えば、コーデックの識別情報は、ＰＣＣ符号化ストリームに含まれる制御情報に含まれてもよい。ここで制御情報とは、例えば、パラメータセット、又はＳＥＩ（Ｓｕｐｐｌｅｍｅｎｔａｌ Ｅｎｈａｎｃｅｍｅｎｔ Ｉｎｆｏｒｍａｔｉｏｎ）などのメタデータ等である。

図３７は、この場合における符号化部４６１３による符号化処理のフローチャートである。まず、符号化部４６１３は、ＰＣＣデータを符号化し（Ｓ４６７１）、符号化データ内の所定の位置（例えばパラメータセット）にＰＣＣコーデックの識別情報を記載する（Ｓ４６７２）。次に、符号化部４６１３は、符号化データを含むＮＡＬユニットを生成し、生成したＮＡＬユニットを送信する（Ｓ４６７３）。

また、ＰＣＣコーデックの識別情報がｐｒｏｆｉｌｅと定義され、ＰＣＣコーデックの識別情報がメタデータに示されてもよい。また、シーケンス全体に同一のコーデックが用いられている場合、シーケンスパラメータセットに、ＰＣＣコーデックの識別情報が含まれてもよい。また、ＰＣＣフレーム毎に異なるコーデックで符号化されている場合、フレーム毎の情報を記載するパラメータセットに、ＰＣＣコーデックの識別情報が含まれてもよい。例えば、位置情報と属性情報とでコーデックが違う場合のようにＰＣＣのデータ毎に異なるコーデックが用いられる場合、データ毎の情報を記載するパラメータセットに、ＰＣＣコーデックの識別情報が含まれてもよい。つまり、位置情報のコーデックを示す情報が位置情報の制御情報（パラメータセット等）に含まれ、属性情報のコーデックを示す情報が属性情報の制御情報（パラメータセット等）に含まれてもよい。

なお、コーデックの識別情報は、上記のいずれかに格納されてもよいし、複数の位置に格納されてもよい。例えば、コーデックの識別情報は、符号化ストリーム内と、ＮＡＬユニットヘッダとの両方に格納されてもよい。また、複数の位置にコーデックの識別情報が格納される場合、複数の位置に、同一の情報が格納されてもよいし、異なる情報が格納されてもよい。異なる情報とは、例えば、ＧＰＣＣ又はＶＰＣＣを示す情報と、ＧＰＣＣ又はＶＰＣＣを細分化した複数のコーデックのいずれかを示す情報とである。

復号部４６２４に含まれる逆多重化部４６４１又は４６６１は、ＮＡＬユニットにパラメータセットが含まれる場合には、パラメータセットの中の記載を解析することにより、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであるか第２の符号化方法で符号化されたデータであるかを判断できる。これにより、復号部４６２４は、復号に必要のないＮＡＬユニットを早くフィルタリングできる。

図３８は、この場合の復号部４６２４による復号処理のフローチャートである。まず、復号部４６２４は、ＮＡＬユニットを受信し（Ｓ４６７５）、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを用いてＰＣＣコーデックの識別情報が記載される所定のデータ（例えば上記パラメータセット）を識別する（Ｓ４６７６）。次に、復号部４６２４は、所定のデータ（例えばパラメータセット）を解析することで所定のデータ内に示されるＰＣＣコーデックを識別する（Ｓ４６７７）。次に、復号部４６２４は、識別したＰＣＣコーデックを用いて符号化データを復号する（Ｓ４６７８）。

また、上記では、符号化ストリームがＮＡＬユニットに格納される例を示したが、ＮＡＬユニットの代わりに予め定められた方式の単位（ユニット）が用いられてもよい。

（実施の形態４）
本実施の形態では、上述した第１の符号化部４６３０及び第２の符号化部４６５０の両方の機能を持つ符号化部４６７０、並びに、第１の復号部４６４０及び第２の復号部４６６０の両方の機能を持つ復号部４６８０について説明する。

図３９は、本実施の形態に係る符号化部４６７０のブロック図である。この符号化部４６７０は、上述した第１の符号化部４６３０及び第２の符号化部４６５０と、多重化部４６７１とを含む。多重化部４６７１は、第１の符号化部４６３０で生成された符号化データと第２の符号化部４６５０で生成された符号化データとを多重化し、得られた符号化データを出力する。

図４０は、本実施の形態に係る復号部４６８０のブロック図である。この復号部４６８０は、上述した第１の復号部４６４０及び第２の復号部４６６０と、逆多重化部４６８１とを含む。逆多重化部４６８１は、入力された符号化データから、第１の符号化方法が用いられている符号化データと、第２の符号化方法が用いられている符号化データとを抽出する。逆多重化部４６８１は、第１の符号化方法が用いられている符号化データを第１の復号部４６４０に出力し、第２の符号化方法が用いられている符号化データを第２の復号部４６６０に出力する。

上記の構成により、符号化部４６７０は、第１の符号化方法及び第２の符号化方法を選択的に用いて点群データを符号化することができる。また、復号部４６８０は、第１の符号化方式を用いて符号化された符号化データ、第２の符号化方式を用いて符号化された符号化データ、及び、第１の符号化方式と第２の符号化方式との両方を用いて符号化された符号化データを復号できる。

例えば、符号化部４６７０は、点群データ単位、又はフレーム単位で符号化方法（第１の符号化方法及び第２の符号化方法）を切り替えてもよい。また、符号化部４６７０は、符号化可能な単位で符号化方法を切り替えてもよい。

符号化部４６７０は、例えば、上記実施の形態１又は実施の形態３で説明した、ＰＣＣコーデックの識別情報を含む符号化データ（符号化ストリーム）を生成する。

復号部４６８０に含まれる逆多重化部４６８１は、例えば、実施の形態１又は実施の形態３で説明した、ＰＣＣコーデックの識別情報を用いて、データを識別する。逆多重化部４６８１は、当該データが第１の符号化方法で符号化されたデータである場合には、第１の復号部４６４０に当該データを出力し、当該データが第２の符号化方法で符号化されたデータである場合には、当該データを第２の復号部４６６０に出力する。

なお、符号化部４６７０は、ＰＣＣコーデックの識別情報以外にも、両方の符号化方法を用いたか、いずれか一方の符号化方法を用いたかを示す情報を制御情報として送出してもよい。

次に、本実施の形態に係る符号化処理について説明する。図４１は、本実施の形態に係る符号化処理のフローチャートである。実施の形態１、実施の形態２、実施の形態３、及び変形例で説明した、ＰＣＣコーデックの識別情報を用いることにより、複数コーデックに対応した符号化処理が可能となる。なお、図４１は、実施の形態１の手法を用いた場合の例を示すが、他の手法に対しても同様の処理が適用できる。

まず、符号化部４６７０は、ＰＣＣデータを第１の符号化方法、第２の符号化方法のいずれか一方又は両方のコーデックで符号化する（Ｓ４６８１）。

使用したコーデックが第２の符号化方法である場合（Ｓ４６８２で第２の符号化方法）、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６８３）。次に、符号化部４６７０は、ＮＡＬユニットヘッダのｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第２の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６８４）。そして、符号化部４６７０は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６７０は、生成したＮＡＬユニットを送信する（Ｓ４６８５）。

一方、使用したコーデックが第１の符号化方法である場合（Ｓ４６８２で第１の符号化方法）、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６８６）。次に、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第１の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６８７）。次に、符号化部４６７０は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６７０は、生成したＮＡＬユニットを送信する（Ｓ４６８５）。

次に、本実施の形態に係る復号処理について説明する。図４２は、本実施の形態に係る復号処理のフローチャートである。実施の形態１、実施の形態２、実施の形態３、及び変形例で説明した、ＰＣＣコーデックの識別情報を用いることにより、複数コーデックに対応した復号処理が可能となる。なお、図４２は、実施の形態１の手法を用いた場合の例を示すが、他の手法に対しても同様の処理が適用できる。

まず、復号部４６８０は、ＮＡＬユニットを受信する（Ｓ４６９１）。例えば、このＮＡＬユニットは、上述した符号化部４６７０における処理で生成されたものである。

次に、復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示すか、第２の符号化方法を示すかを判定する（Ｓ４６９２）。

ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４６９２で第２の符号化方法）、復号部４６８０は、ＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであると判断する（Ｓ４６９３）。そして、第２の復号部４６６０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第２の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６９４）。そして、復号部４６８０は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６９５）。

一方、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示す場合（Ｓ４６９２で第１の符号化方法）、復号部４６８０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４６９６）。そして、復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第１の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６９７）。そして、復号部４６８０は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６９８）。

以上のように、本開示の一態様に係る三次元データ符号化装置は、三次元データ（例えば点群データ）を符号化することで符号化ストリームを生成し（例えば、図３７のＳ４６７１）、前記符号化ストリームの制御情報（例えば、パラメータセット）に、第１符号化方式と第２符号化方式のうち、前記符号化に用いた符号化方式を示す情報（例えば、コーデックの識別情報）を格納する（例えば、図３７のＳ４６７２）。

これによれば、三次元データ復号装置は、当該三次元データ符号化装置で生成された符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号装置は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

例えば、前記三次元データは、位置情報を含む。三次元データ符号化装置は、前記符号化では、前記位置情報を符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いた符号化方式を示す情報を格納する。

例えば、前記三次元データは、位置情報と属性情報とを含む。三次元データ符号化装置は、前記符号化では、前記位置情報と前記属性情報とを符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いた符号化方式を示す情報を格納し、前記属性情報の制御情報に、前記第１符号化方式と前記第２符号化方式のうち、前記属性情報の符号化に用いた符号化方式を示す情報を格納する。

これによれば、位置情報と属性情報とに異なる符号化方式を用いることができるので、符号化効率を向上できる。

例えば、前記三次元データ符号化方法は、さらに、前記符号化ストリームを１以上のユニット（例えば、ＮＡＬユニット）に格納する（例えば、図３７のＳ４６７３）。

例えば、実施の形態１の図１５～図１８で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、実施の形態２の図２３～図２８で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報（例えば、ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ又はｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、実施の形態３の図３２～図３４で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで共通した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。

また、本実施の形態に係る三次元データ復号装置は、三次元データを符号化することで生成された符号化ストリームの制御情報（例えば、パラメータセット）に含まれる、第１符号化方式と第２符号化方式のうち、前記三次元データの符号化に用いられた符号化方式を示す情報（例えば、コーデックの識別情報）に基づき、符号化ストリームの符号化に用いられた符号化方式を判定し（例えば、図３８のＳ４６７７）、判定した前記符号化方式を用いて前記符号化ストリームを復号する（例えば、図３８のＳ４６７８）。

これによれば、三次元データ復号装置は、符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方式を判定できる。よって、三次元データ復号装置は、複数の符号化方式が用いられる場合においても正しく符号化ストリームを復号できる。

例えば、前記三次元データは、位置情報を含み、前記符号化ストリームは、前記位置情報の符号化データを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いられた符号化方式を示す情報に基づき、前記位置情報の符号化に用いられた符号化方式を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方式を用いて前記位置情報の符号化データを復号する。

例えば、前記三次元データは、位置情報と属性情報とを含み、前記符号化ストリームは、前記位置情報の符号化データと前記属性情報の符号化データとを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第１符号化方式と前記第２符号化方式のうち、前記位置情報の符号化に用いられた符号化方式を示す情報に基づき、前記位置情報の符号化に用いられた符号化方式を判定し、前記符号化ストリームに含まれる前記属性情報の制御情報に含まれる、前記第１符号化方式と前記第２符号化方式のうち、前記属性情報の符号化に用いられた符号化方式を示す情報に基づき、前記属性情報の符号化に用いられた符号化方式を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方式を用いて前記位置情報の符号化データを復号し、判定した前記属性情報の符号化に用いられた符号化方式を用いて前記属性情報の符号化データを復号する。

これによれば、位置情報と属性情報とに異なる符号化方式を用いることができるので、符号化効率を向上できる。

例えば、前記符号化ストリームは１以上のユニット（例えば、ＮＡＬユニット）に格納されており、三次元データ復号装置は、さらに、前記１以上のユニットから前記符号化ストリームを取得する。

例えば、実施の形態１の図１５～図１８で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、実施の形態２の図２３～図２８で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで独立した定義を有する情報（例えば、ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ又はｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、実施の形態３の図３２～図３４で説明したように、前記ユニットは、前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方式と前記第２符号化方式とで共通した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。

例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。

以上、本開示の実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等について説明したが、本開示は、この実施の形態に限定されるものではない。

また、上記実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。

また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。

また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。

また、本開示は、三次元データ符号化装置及び三次元データ復号装置等により実行される三次元データ符号化方法又は三次元データ復号方法等として実現されてもよい。

また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。

また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。

以上、一つまたは複数の態様に係る三次元データ符号化装置及び三次元データ復号装置等について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。

本開示は、三次元データ符号化装置及び三次元データ復号装置に適用できる。

４６０１ 三次元データ符号化システム
４６０２ 三次元データ復号システム
４６０３ センサ端末
４６０４ 外部接続部
４６１１ 点群データ生成システム
４６１２ 提示部
４６１３ 符号化部
４６１４ 多重化部
４６１５ 入出力部
４６１６ 制御部
４６１７ センサ情報取得部
４６１８ 点群データ生成部
４６２１ センサ情報取得部
４６２２ 入出力部
４６２３ 逆多重化部
４６２４ 復号部
４６２５ 提示部
４６２６ ユーザインタフェース
４６２７ 制御部
４６３０ 第１の符号化部
４６３１ 位置情報符号化部
４６３２ 属性情報符号化部
４６３３ 付加情報符号化部
４６３４ 多重化部
４６４０ 第１の復号部
４６４１ 逆多重化部
４６４２ 位置情報復号部
４６４３ 属性情報復号部
４６４４ 付加情報復号部
４６５０ 第２の符号化部
４６５１ 付加情報生成部
４６５２ 位置画像生成部
４６５３ 属性画像生成部
４６５４ 映像符号化部
４６５５ 付加情報符号化部
４６５６ 多重化部
４６６０ 第２の復号部
４６６１ 逆多重化部
４６６２ 映像復号部
４６６３ 付加情報復号部
４６６４ 位置情報生成部
４６６５ 属性情報生成部
４６７０ 符号化部
４６７１ 多重化部
４６８０ 復号部
４６８１ 逆多重化部

Claims (18)

1. 位置情報を含む三次元データを符号化した符号化ストリームを取得し、
   前記符号化ストリームを格納した１以上のユニットを生成し、
   前記ユニットは、前記三次元データの符号化に用いた符号化方式としてビデオベース符号化方式を示す第１情報、及び、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む
   三次元データ生成方法。
2. 前記第１情報は、前記ビデオベース符号化方式である第１符号化方式、又は前記ビデオベース符号化方式とは異なる第２符号化方式を示す情報を含み、
   前記ユニットは、
   前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有する
   請求項１記載の三次元データ生成方法。
3. 前記第１情報は、前記ビデオベース符号化方式である第１符号化方式、又は前記ビデオベース符号化方式とは異なる第２符号化方式を示す情報を含み、
   前記ユニットは、
   前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有する
   請求項１記載の三次元データ生成方法。
4. 前記ユニットは、
   前記複数の映像符号化方式のうち異なる映像符号化方式が用いられた複数のビデオベース符号化方式で共通したフォーマットを有する
   請求項１記載の三次元データ生成方法。
5. 前記ユニットは、
   前記複数の映像符号化方式のうち異なる映像符号化方式が用いられた複数のビデオベース符号化方式で独立したフォーマットを有する
   請求項１記載の三次元データ生成方法。
6. 前記第１情報及び第２情報は、前記ユニット内の同一のヘッダに格納される
   請求項１～５のいずれか一項に記載の三次元データ生成方法。
7. 前記第１情報及び第２情報は、前記ユニット内の異なるヘッダに格納される
   請求項１～５のいずれか一項に記載の三次元データ生成方法。
8. 前記第１情報は前記ユニットのヘッダに格納され、
   前記第２情報は前記符号化ストリーム内に格納される
   請求項１～５のいずれか一項に記載の三次元データ生成方法。
9. １以上のユニットを取得し、
   前記１以上のユニットから、位置情報を含む三次元データを符号化することで生成された符号化ストリームを取得し、
   前記ユニットは、前記三次元データの符号化に用いられた符号化方式としてビデオベース符号化方式を示す第１情報を含み、
   前記ユニットは、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む
   三次元データ取得方法。
10. 前記第１情報は、前記ビデオベース符号化方式である第１符号化方式、又は前記ビデオベース符号化方式とは異なる第２符号化方式を示す情報を含み、
    前記ユニットは、
    前記第１符号化方式と前記第２符号化方式とで共通したフォーマットを有する
    請求項９記載の三次元データ取得方法。
11. 前記第１情報は、前記ビデオベース符号化方式である第１符号化方式、又は前記ビデオベース符号化方式とは異なる第２符号化方式を示す情報を含み、
    前記ユニットは、
    前記第１符号化方式と前記第２符号化方式とで独立したフォーマットを有する
    請求項９記載の三次元データ取得方法。
12. 前記ユニットは、
    前記複数の映像符号化方式のうち異なる映像符号化方式が用いられた複数のビデオベース符号化方式で共通したフォーマットを有する
    請求項９記載の三次元データ取得方法。
13. 前記ユニットは、
    前記複数の映像符号化方式のうち異なる映像符号化方式が用いられた複数のビデオベース符号化方式で独立したフォーマットを有する
    請求項９記載の三次元データ取得方法。
14. 前記第１情報及び第２情報は、前記ユニット内の同一のヘッダに格納される
    請求項９～１３のいずれか一項に記載の三次元データ取得方法。
15. 前記第１情報及び第２情報は、前記ユニット内の異なるヘッダに格納される
    請求項９～１３のいずれか一項に記載の三次元データ取得方法。
16. 前記第１情報は前記ユニットのヘッダに格納され、
    前記第２情報は前記符号化ストリーム内に格納される
    請求項９～１３のいずれか一項に記載の三次元データ取得方法。
17. プロセッサと、
    メモリとを備え、
    前記プロセッサは、前記メモリを用いて、
    位置情報を含む三次元データを符号化した符号化ストリームを取得し、
    前記符号化ストリームを格納した１以上のユニットを生成し、
    前記ユニットは、前記三次元データの符号化に用いた符号化方式としてビデオベース符号化方式を示す第１情報、及び、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む
    三次元データ生成装置。
18. プロセッサと、
    メモリとを備え、
    前記プロセッサは、前記メモリを用いて、
    １以上のユニットを取得し、
    前記１以上のユニットから、位置情報を含む三次元データを符号化することで生成された符号化ストリームを取得し、
    前記ユニットは、前記三次元データの符号化に用いられた符号化方式としてビデオベース符号化方式を示す第１情報を含み、
    前記ユニットは、複数の映像符号化方式のうち、前記ビデオベース符号化方式に用いられた映像符号化方式を示す第２情報を含む
    三次元データ取得装置。