JP7640587B2 - 映像ピクチャにおけるサブピクチャ数の制約 - Google Patents
映像ピクチャにおけるサブピクチャ数の制約 Download PDFInfo
- Publication number
- JP7640587B2 JP7640587B2 JP2022575464A JP2022575464A JP7640587B2 JP 7640587 B2 JP7640587 B2 JP 7640587B2 JP 2022575464 A JP2022575464 A JP 2022575464A JP 2022575464 A JP2022575464 A JP 2022575464A JP 7640587 B2 JP7640587 B2 JP 7640587B2
- Authority
- JP
- Japan
- Prior art keywords
- sub
- picture
- video
- layer
- sli
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/31—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Aiming, Guidance, Guns With A Light Source, Armor, Camouflage, And Targets (AREA)
Description
本願は、2020年6月8日出願の米国特許仮出願第63/036,365号の優先権および利益を主張する、2021年6月7日出願の国際特許出願第PCT/US2021/036257号に基づく。法に基づくすべての目的のために、上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
本明細書は、映像コーディング技術に関する。具体的には、サブピクチャシーケンスのためのレベル情報を規定し、信号通知することに関する。本発明は、シングルレイヤ映像コーディングおよびマルチレイヤ映像コーディングに対応する任意の映像コーディング規格または非標準映像コーデック、例えば、開発中の汎用映像コーディング(VVC)に適用してもよい。
APS Adaptation Parameter Set(適応パラメータセット)
AU Access Unit(アクセスユニット)
AUD Access Unit Delimiter(アクセスユニット区切り文字)
AVC Advanced Video Coding(高度映像コーディング)
BP Buffering Period(バッファリング期間)
CLVS Coded Layer Video Sequence(コーディッドレイヤ映像シーケンス)
CPB Coded Picture Buffer(コーディッドピクチャバッファ)
CRA Clean Random Access(クリーンランダムアクセス)
CTU Coding Tree Unit(コーディングツリーユニット)
CVS Coded Video Sequence(コーディッド映像シーケンス)
DPB Decoded Picture Buffer(復号されたピクチャバッファ)
DPS Decoding Parameter Set(復号パラメータセット)
DUI Decoding Unit Information(復号ユニット情報)
EOB End Of Bitstream(ビットストリーム終端)
EOS End Of Sequence(シーケンス終端)
GCI General Constraints Information(一般的な制約情報)
GDR Gradual Decoding Refresh(漸次的復号リフレッシュ)
HEVC High Efficiency Video Coding(高効率映像コーディング)
HRD Hypothetical Reference Decoder(仮想参照デコーダ)
IDR Instantaneous Decoding Refresh(瞬時復号リフレッシュ)
JEM Joint Exploration Model(共同探索モデル)
MCTS Motion-Constrained Tile Sets(動き制約タイルセット)
NAL Network Abstraction Layer(ネットワーク抽象化レイヤ)
OLS Output Layer Set(出力レイヤセット)
PH Picture Header(ピクチャヘッダ)
PPS Picture Parameter Set(ピクチャパラメータセット)
PT Picture Timing(ピクチャタイミング)
PTL Profile, Tier and Level(プロファイル、ティアおよびレベル)
PU Picture Unit(ピクチャユニット)
RRP Reference Picture Resampling(参照ピクチャ再サンプリング)
RBSP Raw Byte Sequence Payload(生バイトシーケンスペイロード)
SEI Supplemental Enhancement Information(補足強化情報)
SH Slice Header(スライスヘッダ)
SLI Subpicture Level Information(サブピクチャレベル情報)
SPS Sequence Parameter Set(シーケンスパラメータセット)
SVC Scalable Video Coding(スケーラブル映像コーディング)
VCL Video Coding Layer(映像コーディングレイヤ)
VPS Video Parameter Set(映像パラメータセット)
VTM VVC Test Model(VVC試験モデル)
VUI Video Usability Information(映像ユーザビリティ情報)
VVC Versatile Video Coding(汎用映像コーディング)
映像コーディング規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4Visualを作り、両団体はH.262/MPEG-2VideoとH.264/MPEG-4AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像コーディング規格は、時間的予測と変換コーディングが利用されるハイブリッド映像コーディング構造に基づく。HEVCを超えた将来の映像コーディング技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Model)と呼ばれる参照ソフトウェアに組み込まれてきた。JVETは四半期に1回開催され、新しいコーディング規格はHEVCに比べて50%のビットレート低減を目指している。2018年4月のJVET会議において、新しい映像コーディング規格を「VVC(Versatile Video Coding)」と正式に命名し、その時、第1版のVVCテストモデル(VTM)をリリースした。VVCの標準化に寄与する努力が続けられているので、すべてのJVET会議において、VVC標準に新しいコーディング技術が採用されている。毎回の会議の後、VVC作業草案およびテストモデルVTMは更新される。VVCプロジェクトは、現在、2020年7月の会合における技術完成(FDIS)を目指している。
HEVCには、正規のスライス、依存性のあるスライス、タイル、WPP(Wavefront Parallel Processing)という4つの異なる画像分割スキームがあり、これらを適用することで、最大転送ユニット(MTU)サイズのマッチング、並列処理、エンドツーエンドの遅延の低減が可能になる。
VVCにおいて、1つのピクチャは、1または複数のタイル行および1または複数のタイル列に分割される。1つのタイルは、1つのピクチャの1つの矩形領域を覆う1つのCTUのシーケンスである。1つのタイルにおけるCTUは、そのタイル内でラスタスキャン順にスキャンされる。
AVCおよびHEVCにおいて、ピクチャの空間的解像度は、新しいSPSを使用する新しいシーケンスがIRAPピクチャで始まらない限り、変更することができない。VVCは、常にイントラコーディング化されたIRAPピクチャを符号化せずに、ある位置のシーケンス内でピクチャの解像度を変更することを可能にする。この特徴は、参照ピクチャがデコードされている現在のピクチャと異なる解像度を有する場合、インター予測に使用される参照ピクチャをリサンプリングすることが必要であるため、参照ピクチャリサンプリング(RPR)と称する。
SVC(Scalable Video Coding、時には、映像コーディングにおけるスケーラビリティとも呼ばれる)は、BL(Base Layer:基本レイヤ)(時には、RL(Reference Layer:参照レイヤ)と呼ばれる)および1または複数のEL(Enhancement Layer:スケーラブルエンハンスメントレイヤ)が使用される映像コーディングを参照する。SVCにおいて、ベースレイヤは、基本品質レベルの映像データを担持することができる。1つ以上のエンハンスメントレイヤは、例えば、より高い空間的、時間的、および/または信号対雑音(SNR)レベルをサポートするように、追加の映像データを担持することができる。エンハンスメントレイヤは、前の、符号化されたレイヤに対して定義されてもよい。例えば、下層がBLとして機能し、上層がELとして機能することができる。中間レイヤは、ELまたはRLのいずれか、またはその両方として機能することができる。例えば、中間レイヤ(例えば、最下レイヤでも最上レイヤでもないレイヤ)は、中間レイヤの下のレイヤ、例えば、ベースレイヤまたは任意の介在する増強レイヤのためのELであってもよく、同時に、中間レイヤの上の1つ以上の増強レイヤのためのRLとしての役割を果たす。同様に、HEVC規格のマルチビューまたは3D拡張では、複数のビューが存在してもよく、1つのビューの情報を利用して別のビューの情報をコーディング(例えば、符号化または復号)することができる(例えば、動き推定、動きベクトル予測および/または他の冗長性)。
360°映像のストリーミング、すなわち、全方向性映像のストリーミングにおいて、任意の特定の瞬間に、全方向性映像球体全体のサブセット(すなわち、現在のビューポート)のみがユーザにレンダリングされ、一方、ユーザは、自分の頭をいつでも回して視線の向きを変更し、その結果、現在のビューポートを変更することができる。クライアント側が現在のビューポートで覆われていない領域を少なくともある程度低品質に表現し、かつユーザにレンダリングする準備ができていることが望ましいが、ユーザが突然その視線方向を球面上の任意の場所に変えた場合に備えて、すぐにユーザにレンダリングされている現在のビューポートに対してのみ、全方向性映像の高品質表現が必要となる。全方位映像全体の高品質表現を適切な粒度でサブピクチャに分割することにより、このような最適化が有効化される。VVCを使用して、2つの表現は、互いに独立した2つのレイヤとして符号化され得る。
AVC、HEVC、VVCはパラメータ集合を規定する。パラメータセットのタイプは、SPS、PPS、APS、VPS等である。SPS、PPSは、AVC、HEVC、VVCのすべてでサポートされている。VPSは、HEVCから導入されたものであり、HEVCおよびVVCの両方に含まれる。APSは、AVCまたはHEVCに含まれていなかったが、最近のVVC草案のテキストに含まれている。
映像コーディング規格は、通常、プロファイルおよびレベルを規定する。一部の映像コーディング規格は、HEVCや開発中のVVCなどのティアも規定する。
最近のVVC草案テキストにおいて、VVCにおけるサブピクチャシーケンスのレベル情報の規定および信号通知は、サブピクチャレベル情報(SLI)SEIメッセージによるものであり、VVCのC.7項で規定されるサブピクチャサブビットストリーム抽出処理を適用することで、ビットストリームからサブピクチャシーケンスを抽出することができる。
サブピクチャレベル情報SEIメッセージは、付録Aに従ってサブピクチャシーケンスを含む抽出されたビットストリームの適合性を試験する場合に、ビットストリームにおけるサブピクチャシーケンスが適合するレベルに関する情報を含む。
CLVSの任意のピクチャにサブピクチャレベル情報SEIメッセージが存在する場合、CLVSの第1のピクチャに対してサブピクチャレベル情報SEIメッセージが存在するものとする。サブピクチャレベル情報SEIメッセージは、現在のレイヤについて、現在のピクチャからCLVSの終わりまで復号順で持続する。同じCLVSに適用されるすべてのサブピクチャレベル情報SEIメッセージは、同じコンテンツを有するものとする。1つのサブピクチャシーケンスは、1つのCLVS内のすべてのサブピクチャで構成され、これらのサブピクチャは同じサブピクチャインデックス値を有する。
1つのCLVSに対して1つのサブピクチャレベル情報SEIメッセージが存在する場合、sps_subpic_treated_as_pic_flag[i]の値は、0~sps_num_subpics_minus1の範囲内にある各iの値において、1に等しいものとすることが、ビットストリーム適合性の要件である。
sli_ref_level_fraction_minus1[i][j]が存在しない場合、その値は、Ceil(256*SubpicSizeY[j]÷PicSizeInSamplesY*MaxLumaPs(general_level_idc)÷MaxLumaPs(sli_ref_level_idc[i])-1に等しいと推論される。
変数LayerRefLevelFraction[i][j]は、sli_ref_level_fraction_minus1[i][j]+1に等しく設定される。
変数OlsRefLevelFraction[i][j]は、sli_non_subpic_layers_fraction[i]+(256-sli_non_subpic_layers_fraction[i])÷256*(sli_ref_level_fraction_minus1[i][j]+1)に等しく設定される。
変数SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]は、以下のように導出される。
SubpicCpbSizeVcl[i][j]=Floor(CpbVclFactor*MaxCPB*OlsRefLevelFraction[i][j]÷256) (D.6)
SubpicCpbSizeNal[i][j]=Floor(CpbNalFactor*MaxCPB*OlsRefLevelFraction[i][j]÷256) (D.7)
A.4.2項で規定されるように、sli_ref_level_idc[i]から導出されたMaxCPBを用いる。
変数SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]は、以下のように導出される。
SubpicBitRateVcl[i][j]=Floor(CpbVclFactor*ValBR*OlsRefLevelFraction[0][j]÷256) (D.8)
SubpicBitRateNal[i][j]=Floor(CpbNalFactor*ValBR*OlsRefLevelFraction[0][j]÷256) (D.9)
ここで、ValBRの値は、以下のように導出される。
-VPSまたはSPSにおけるそれぞれのHRDパラメータにおいてbit_rate_value_minus1[Htid][ScIdx]が利用可能である場合、ValBRは、(bit_rate_value_minus1[Htid][ScIdx]+1)*2(6+bit_rate_scale)に等しく設定され、ここでHtidは考慮されたサブレイヤインデックス、ScIdxは考慮されたスケジュールインデックスである。
-そうでない場合、ValBRは、A.4.2項で規定されるように、sli_ref_level_idc[0]から導出されたMaxBRに等しく設定される。
注記1-サブピクチャを抽出するとき、結果として得られるビットストリームは、SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]以上のCpbSize(VPS、SPSのいずれかに示される、または推論される)と、SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]以上のBitRate(VPS、SPSのいずれかに示される、または推論される)を有する。
抽出処理への入力ビットストリームにおいて、sps_num_subpics_minus1が0より大きいレイヤから、jが0からsps_num_subpics_minus1までの範囲内にあるj番目のサブピクチャを、0より大きいsps_num_subpics_minus1を有するレイヤから抽出し、general_tier_flagが0に等しく、levelがsli_ref_level_idc[i](iは0からnum_ref_level_minus1の範囲)に等しいプロファイルに適合することによって得られるビットストリーム中の各レイヤは、付録Cで規定される各ビットストリーム適合性試験において、以下の制約に従うものとするのがビットストリーム適合性の要件である。
-Ceil(256*SubpicSizeY[j]÷LayerRefLevelFraction[i][j])は、MaxLumaPs以下であるものとする。ここで、MaxLumaPsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
-Ceil(256*(sps_subpic_width_minus1[j]+1)*CtbSizeY÷LayerRefLevelFraction[i][j])の値は、Sqrt(MaxLumaPs*8)以下であるものとする。
-Ceil(256*(sps_subpic_height_minus1[j]+1)*CtbSizeY÷LayerRefLevelFraction[i][j])の値は、Sqrt(MaxLumaPs*8)以下であるものとする。
-SubpicWidthInTiles[j]の値は、MaxTileCols以下であり、SubpicHeightInTiles[j]の値は、MaxTileRows以下であるものとする。ここで、MaxTileColsおよびMaxTileRowsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
-SubpicWidthInTiles[j]*SubpicHeightInTiles[j]の値は、MaxTileCols*MaxTileRows*LayerRefLevelFraction[i][j]以下であるものとする。ここで、MaxTileColsおよびMaxTileRowsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
jが0からsps_num_subpics_minus1までの範囲内にあるj番目のサブピクチャを抽出し、general_tier_flagが0に等しく、レベルがref_level_idc[i](iは0からsli_num_ref_level_minus1の範囲)に等しいプロファイルに適合することによって得られる各レイヤは、付録Cで規定される各ビットストリーム適合性試験において、以下の制約に従うものとするのがビットストリーム適合性の要件である。
-AU0のSubpicSizeInSamplesYの値について、j番目のサブピクチャに対応するAU0のNumBytesInNalUnit変数の合計は、AU0のSubpicSizeInSamplesYの値に対して、FormatCapabilityFactor*(Max(SubpicSizeY[j],fR*MaxLumaSr*OlsRefLevelFraction[i][j]÷256)+MaxLumaSr*(AuCpbRemovalTime[0]-AuNominalRemovalTime[0])*OlsRefLevelFraction[i][j])÷(256*MinCr)以下とする。ここで、MaxLumaSrとFormatCapabilityFactorは、レベルsli_ref_level_idc[i]においてそれぞれ、AU0に適用される表A.2および表A.3で規定された値であり、MinCrは、A.4.2に示したように導出される。
-AU0のSubpicSizeInSamplesYの値について、j番目のサブピクチャに対応するAUn(nは0より大きい)のNumBytesInNalUnit変数の合計は、FormatCapabilityFactor*MaxLumaSr*(AuCpbRemovalTime[n]-AuCpbRemovalTime[n-1])*OlsRefLevelFraction[i][j]÷(256*MinCr)以下とする。ここで、MaxLumaSrとFormatCapabilityFactorは、レベルsli_ref_level_idc[i]において、それぞれAUnに適用される表A.2および表A.3で規定された値であり、MinCrは、A.4.2に示したように導出される。
サブピクチャシーケンスレベルインジケータSubpicLevelIdcの値は、以下のように導出される。
SubpicLevelIdc=general_level_idc
SubpicLevelIdx=0
for(i=num_ref_level_minus1;i>=1;i--)
if(OlsLevelFraction[i]<=256){
SubpicLevelIdc=sli_ref_level_idc[i]
SubpicLevelIdx=i
} (D.10)
general_tier_flagが0に等しく、かつSubpicLevelIdcに等しいレベルを有するプロファイルに準拠するサブピクチャシーケンスビットストリームは、付録Cで規定されるように、各ビットストリーム適合性試験のための以下の制約に従うものとする。
-VCL HRDパラメータの場合、SubpicCpbSizeVcl[i]は、CpbVclFactor*MaxCPB以下とする。ここで、表A.3にCpbVclFactorを規定し、表A.1にMaxCPBをCpbVclFactorビットの単位で規定される。
-NAL HRDパラメータの場合、SubpicCpbSizeNal[i]は、CpbNalFactor*MaxCPB以下とする。ここで、表A.3にCpbNalFactorを規定し、表A.1にMaxCPBをCpbNalFactorビットの単位で規定される。
-VCL HRDパラメータの場合、SubpicBitRateVcl[i]は、CpbVclFactor*MaxBR以下とする。ここで、表A.3にCpbVclFactorを規定し、表A.1にMaxBRをCpbVclFactorビットの単位で規定される。
-NAL HRDパラメータの場合、SubpicBitRateNal[i]は、CpbNalFactor*MaxBR以下とする。ここで、表A.3にCpbNalFactorを規定し、表A.1にMaxBRをCpbNalFactorビットの単位で規定される。
注記2-サブピクチャシーケンスが抽出されるとき、結果として得られるビットストリームは、SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]以上のCpbSize(VPS、SPSのいずれかに示される、または推論される)と、SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]以上のBitRate(VPS、SPSのいずれかに示される、または推論される)を有する。
既存のサブピクチャシーケンスのレベル情報の規定および信号通知のためのVVC設計は、以下の問題を有する。
上記課題を解決するために、以下に示す方法が開示されている。本発明は、一般的な概念を説明するための例と見なされるべきであり、狭義に解釈されるべきではない。さらに、本発明は、個々に適用されてもよいし、任意に組み合わせて適用されてもよい。
1)第1の問題を解決するために、sli_max_sublayers_minus1、sli_sublayer_info_present_flag、および信号通知された部分および参照レベル指標のサブレイヤのループを追加し、PTL構文構造におけるレベル情報の信号通知と整合性をとる。
a.一例において、さらに、sli_cbr_constraint_flagもまたサブレイヤに固有にされ、すなわち、sli_cbr_constraint_flag[k]に変更され、サブレイヤのためにループ内に移動される。
i.一例において、さらに、下位サブレイヤのsli_cbr_constraint_flag[k]が存在しない場合、sli_cbr_constraint_flag[k+1]に等しいと推論される。
b.一例において、さらに、下位サブレイヤのための分数または参照レベル指標が存在しない場合、次の上位サブレイヤのためのものと同じであると推論される。
2)第2の問題を解決するために、SLI SEIメッセージがビットストリームに含まれているか、または外部手段によって提供されるかのいずれかで、パラメータセットおよび他の3つの適合性/HRD関連のSEIメッセージ、即ちPT、BP、DUI SEIメッセージと整合性をとることを可能にする。
3)第3の問題を解決するために、持続性範囲を1つのCVSから1つ以上のCVSに変更し、レベル情報が信号通知されるまたは信号通知されてもよいVPSおよびSPSと整合性を取るようにする。
4)第4の問題を解決するため、1つのピクチャにつき1つのサブピクチャを有するレイヤが1つ以上存在する場合を含むように、サブピクチャシーケンスの定義を変更する。
5)第5の問題を解決するために、1つのCVSに対して1つのSLI SEIメッセージが存在する場合、sps_num_subpics_minus1の値は、1つのピクチャ当たり複数のサブピクチャを有するレイヤ内のピクチャによって参照されるすべてのSPSに対して同じであることを要件とする。
6)第6の問題を解決するために、sli_num_subpics_minus1のセマンティクスを、構文要素が1つのピクチャ当たり複数のサブピクチャを有するレイヤのサブピクチャに関するものとなるように規定する。
7)第7の問題を解決するために、SLI SEIメッセージのセマンティクスにおける最後の制約セットにおいて、変数SubpicLevelIdcおよびSubpicLevelIdxの両方並びに配列SubpicCpbSizeVcl、SubpicCpbSizeNal、SubpicBitRateVcl、およびSubpicBitRateNalに配列インデックス、サブピクチャシーケンスのインデックスを追加する。
以下は、本章の上記に要約されたいくつかの発明の態様のためのいくつかの例示的な実施形態であり、VVC仕様に適用できる。既に追加または修正された最も関連する部分には太字のイタリック体において下線を付し、削除された部分のうちのいくつかは、[[]]を使用して示す。
本実施形態は、項目1~7およびその一部の小項目についてである。
Claims (14)
- 映像データを処理する方法であって、
規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの変換を行うことを含み、
サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルを記述する情報を含み、1つ以上のOLSにおける、参照シーケンスパラメータセットが、サブピクチャの数が1よりも大きいことを示す特定の値を備えた第1の構文要素を有するレイヤを、マルチサブピクチャレイヤと呼び、
前記1つ以上のOLSのセットにおけるコーディッド映像シーケンス(CVS)を、対象のCVSと呼び、
前記規則は、前記サブピクチャシーケンスの第1サブピクチャシーケンスが、(1)同じサブピクチャインデックスを有し、且つ前記マルチサブピクチャレイヤにおけるレイヤに含まれる対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有し且つOLSのレイヤに含まれるが前記マルチサブピクチャレイヤには含まれない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する、映像データを処理するための方法。 - 前記規則は、ビットストリーム適合性が、コーディッド映像シーケンスに対して前記SLI SEIメッセージが存在することに呼応して、前記マルチサブピクチャレイヤのピクチャによって参照されるすべてのシーケンスパラメータセットについて、前記第1の構文要素の値が同じであることを要求することを規定する、請求項1に記載の方法。
- 1つ以上のOLSのコーディッド映像シーケンス(CVS)の任意のアクセスユニットに対してSLI SEIメッセージが存在することに呼応して、前記規則は、このSLI SEIメッセージがこのCVSの第1のアクセスユニットに対して存在することを規定する、請求項1または請求項2に記載の方法。
- 前記SLI SEIメッセージは、前記ビットストリームに含まれるか、または外部から提供されるかのいずれかによって、前記現在のアクセスユニットに対して存在することを許可される、請求項1から請求項3のいずれか1項に記載の方法。
- 前記SLI SEIメッセージの構文構造における第2の構文要素は、対象のCVSにおけるマルチサブピクチャレイヤにおけるピクチャにおけるサブピクチャの数を規定する、請求項1から請求項4のいずれか1項に記載の方法。
- SLI SEIメッセージは、現在のアクセスユニットから、ビットストリームの終わりまで、または、このSLI SEIメッセージとは異なるコンテンツを含む後続のSLI SEIメッセージを含む次のアクセスユニットまで、復号順に続く、請求項1から請求項5のいずれか1項に記載の方法。
- 前記規則は、同じCVSに適用可能なすべてのSLI SEIメッセージが同じコンテンツを有することを規定する、請求項1から請求項6のいずれか1項に記載の方法。
- サブピクチャレベルの指標を示す第1の変数は、各々のサブピクチャシーケンスの値を含むように規定される、請求項1から請求項7のいずれか1項に記載の方法。
- サブピクチャレベルのインデックスを示す第2の変数は、各々のサブピクチャシーケンスの値を含むように規定される、請求項1から請求項8のいずれか1項に記載の方法。
- 前記変換は、前記映像を前記ビットストリームに符号化することを含む、請求項1から9のいずれか1項に記載の方法。
- 前記変換は、前記ビットストリームから前記映像を復号することを含む、請求項1から9のいずれか1項に記載の方法。
- 処理装置と、命令を備える非一時的メモリと、を含む、映像データを処理するための装置であって、前記命令は、前記処理装置により実行されると、前記処理装置に、
規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの変換を行わせ、
サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルを記述する情報を含み、1つ以上のOLSにおける、参照シーケンスパラメータセットが、サブピクチャの数が1よりも大きいことを示す特定の値を備えた第1の構文要素を有するレイヤを、マルチサブピクチャレイヤと呼び、
前記1つ以上のOLSのセットにおけるコーディッド映像シーケンス(CVS)を、対象のCVSと呼び、
前記規則は、前記サブピクチャシーケンスの第1サブピクチャシーケンスが、(1)同じサブピクチャインデックスを有し、且つ前記マルチサブピクチャレイヤにおけるレイヤに含まれる対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有し且つOLSのレイヤに含まれるが前記マルチサブピクチャレイヤには含まれない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する、映像データを処理するための装置。 - 命令を記憶する非一時的なコンピュータ可読記憶媒体であって、前記命令は、処理装置に、
規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの変換を行わせ、
サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルを記述する情報を含み、1つ以上のOLSにおける、参照シーケンスパラメータセットが、サブピクチャの数が1よりも大きいことを示す特定の値を備えた第1の構文要素を有するレイヤを、マルチサブピクチャレイヤと呼び、
前記1つ以上のOLSのセットにおけるコーディッド映像シーケンス(CVS)を、対象のCVSと呼び、
前記規則は、前記サブピクチャシーケンスの第1サブピクチャシーケンスが、(1)同じサブピクチャインデックスを有し、且つ前記マルチサブピクチャレイヤにおけるレイヤに含まれる対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有し且つOLSのレイヤに含まれるが前記マルチサブピクチャレイヤには含まれない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する、非一時的なコンピュータ可読記憶媒体。 - 映像のビットストリームを記憶する方法であって、
規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像から前記映像のビットストリームを生成することと、
前記ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することと、を含み、
サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルを記述する情報を含み、1つ以上のOLSにおける、参照シーケンスパラメータセットが、サブピクチャの数が1よりも大きいことを示す特定の値を備えた第1の構文要素を有するレイヤを、マルチサブピクチャレイヤと呼び、
前記1つ以上のOLSのセットにおけるコーディッド映像シーケンス(CVS)を、対象のCVSと呼び、
前記規則は、前記サブピクチャシーケンスの第1サブピクチャシーケンスが、(1)同じサブピクチャインデックスを有し、且つ前記マルチサブピクチャレイヤにおけるレイヤに含まれる対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有し且つOLSのレイヤに含まれるが前記マルチサブピクチャレイヤには含まれない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する、方法。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063036365P | 2020-06-08 | 2020-06-08 | |
| US63/036,365 | 2020-06-08 | ||
| PCT/US2021/036257 WO2021252396A1 (en) | 2020-06-08 | 2021-06-07 | Constraints on number of subpicture in a video picture |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023529431A JP2023529431A (ja) | 2023-07-10 |
| JP7640587B2 true JP7640587B2 (ja) | 2025-03-05 |
Family
ID=78846488
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022575464A Active JP7640587B2 (ja) | 2020-06-08 | 2021-06-07 | 映像ピクチャにおけるサブピクチャ数の制約 |
| JP2022575463A Active JP7538256B2 (ja) | 2020-06-08 | 2021-06-07 | 映像ビットストリームにおけるサブレイヤ信号通知 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022575463A Active JP7538256B2 (ja) | 2020-06-08 | 2021-06-07 | 映像ビットストリームにおけるサブレイヤ信号通知 |
Country Status (7)
| Country | Link |
|---|---|
| US (3) | US11849136B2 (ja) |
| EP (2) | EP4154525A4 (ja) |
| JP (2) | JP7640587B2 (ja) |
| KR (2) | KR102708610B1 (ja) |
| CN (3) | CN115843431B (ja) |
| PL (1) | PL4154524T3 (ja) |
| WO (3) | WO2021252393A1 (ja) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4078960A1 (en) * | 2019-12-20 | 2022-10-26 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Video data stream, video encoder, apparatus and methods for hrd timing fixes, and further additions for scalable and mergeable bitstreams |
| WO2023132993A1 (en) | 2022-01-10 | 2023-07-13 | Innopeak Technology, Inc. | Signaling general constraints information for video coding |
Family Cites Families (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10034018B2 (en) * | 2011-09-23 | 2018-07-24 | Velos Media, Llc | Decoded picture buffer management |
| US10021394B2 (en) * | 2012-09-24 | 2018-07-10 | Qualcomm Incorporated | Hypothetical reference decoder parameters in video coding |
| US9479773B2 (en) * | 2012-09-24 | 2016-10-25 | Qualcomm Incorporated | Access unit independent coded picture buffer removal times in video coding |
| US9319703B2 (en) * | 2012-10-08 | 2016-04-19 | Qualcomm Incorporated | Hypothetical reference decoder parameter syntax structure |
| US9942545B2 (en) * | 2013-01-03 | 2018-04-10 | Texas Instruments Incorporated | Methods and apparatus for indicating picture buffer size for coded scalable video |
| US9521393B2 (en) * | 2013-01-07 | 2016-12-13 | Qualcomm Incorporated | Non-nested SEI messages in video coding |
| UA115804C2 (uk) * | 2013-04-07 | 2017-12-26 | Долбі Інтернешнл Аб | Сигналізація зміни наборів рівнів виведення |
| KR102127281B1 (ko) * | 2013-04-08 | 2020-06-26 | 지이 비디오 컴프레션, 엘엘씨 | 효율적인 다-시점/계층 코딩을 허용하는 코딩 개념 |
| US10187662B2 (en) * | 2013-10-13 | 2019-01-22 | Sharp Kabushiki Kaisha | Signaling parameters in video parameter set extension and decoder picture buffer operation |
| WO2015056182A2 (en) * | 2013-10-15 | 2015-04-23 | Nokia Technologies Oy | Video encoding and decoding |
| US20150237356A1 (en) * | 2014-02-18 | 2015-08-20 | Microsoft Corporation | Host encoder for hardware-accelerated video encoding |
| JP6329246B2 (ja) * | 2014-03-14 | 2018-05-23 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | 画像復号装置 |
| EP3120553B1 (en) * | 2014-03-17 | 2022-02-23 | Nokia Technologies Oy | An apparatus, a method and a computer program for video coding and decoding |
| US20150264404A1 (en) * | 2014-03-17 | 2015-09-17 | Nokia Technologies Oy | Method and apparatus for video coding and decoding |
| US9788007B2 (en) * | 2014-06-20 | 2017-10-10 | Qualcomm Incorporated | Profile, tier, level for the 0-th output layer set in video coding |
| US10432951B2 (en) * | 2014-06-24 | 2019-10-01 | Qualcomm Incorporated | Conformance and inoperability improvements in multi-layer video coding |
| US10904521B2 (en) * | 2017-03-03 | 2021-01-26 | Qualcomm Incorporated | Extracting MCTS sub-bitstreams for video coding |
| US10701400B2 (en) * | 2017-03-21 | 2020-06-30 | Qualcomm Incorporated | Signalling of summarizing video supplemental information |
| WO2018221368A1 (ja) * | 2017-05-31 | 2018-12-06 | シャープ株式会社 | 動画像復号装置、及び動画像符号化装置 |
| TW202101985A (zh) | 2019-03-11 | 2021-01-01 | 美商Vid衡器股份有限公司 | 子圖片適應性解析度改變方法及裝置 |
| EP4078960A1 (en) * | 2019-12-20 | 2022-10-26 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Video data stream, video encoder, apparatus and methods for hrd timing fixes, and further additions for scalable and mergeable bitstreams |
| US12395651B2 (en) * | 2020-05-22 | 2025-08-19 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Subpicture-related video coding concepts |
| US20220109865A1 (en) * | 2020-10-02 | 2022-04-07 | Sharp Kabushiki Kaisha | Systems and methods for signaling picture buffer information for intra random access point picture sub-bitstreams in video coding |
-
2021
- 2021-06-07 JP JP2022575464A patent/JP7640587B2/ja active Active
- 2021-06-07 CN CN202180041271.XA patent/CN115843431B/zh active Active
- 2021-06-07 JP JP2022575463A patent/JP7538256B2/ja active Active
- 2021-06-07 WO PCT/US2021/036253 patent/WO2021252393A1/en not_active Ceased
- 2021-06-07 KR KR1020227042894A patent/KR102708610B1/ko active Active
- 2021-06-07 EP EP21822302.2A patent/EP4154525A4/en active Pending
- 2021-06-07 KR KR1020227042895A patent/KR102808741B1/ko active Active
- 2021-06-07 WO PCT/US2021/036254 patent/WO2021252394A1/en not_active Ceased
- 2021-06-07 CN CN202180041401.XA patent/CN115804086A/zh active Pending
- 2021-06-07 CN CN202180041267.3A patent/CN115699728A/zh active Pending
- 2021-06-07 WO PCT/US2021/036257 patent/WO2021252396A1/en not_active Ceased
- 2021-06-07 EP EP21821188.6A patent/EP4154524B1/en active Active
- 2021-06-07 PL PL21821188.6T patent/PL4154524T3/pl unknown
-
2022
- 2022-12-06 US US18/076,085 patent/US11849136B2/en active Active
- 2022-12-06 US US18/076,045 patent/US11831895B2/en active Active
-
2023
- 2023-11-24 US US18/518,768 patent/US12489915B2/en active Active
Non-Patent Citations (2)
| Title |
|---|
| Benjamin Bross, et al.,Versatile Video Coding (Draft 9),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 18th Meeting: by teleconference, 15-24 April 2020,<JVET-S0152-v4_SpecText.docx>,庁内DB(送付可),2020年06月03日,p.483 |
| Robert Skupin, et al.,AHG9/12: On subpicture conformance,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 19th Meeting: by teleconference, 22 June -1 July 2020,JVET-S0098,庁内DB(送付可),2020年05月22日,pp.1-2 |
Also Published As
| Publication number | Publication date |
|---|---|
| US11831895B2 (en) | 2023-11-28 |
| JP2023529430A (ja) | 2023-07-10 |
| CN115843431B (zh) | 2025-10-14 |
| KR102808741B1 (ko) | 2025-05-15 |
| WO2021252393A1 (en) | 2021-12-16 |
| PL4154524T3 (pl) | 2026-04-20 |
| CN115804086A (zh) | 2023-03-14 |
| US11849136B2 (en) | 2023-12-19 |
| EP4154525A1 (en) | 2023-03-29 |
| EP4154524A1 (en) | 2023-03-29 |
| KR102708610B1 (ko) | 2024-09-20 |
| US12489915B2 (en) | 2025-12-02 |
| BR112022025036A2 (pt) | 2022-12-27 |
| US20230099628A1 (en) | 2023-03-30 |
| JP7538256B2 (ja) | 2024-08-21 |
| EP4154524B1 (en) | 2026-01-28 |
| EP4154524A4 (en) | 2023-11-15 |
| US20240107046A1 (en) | 2024-03-28 |
| CN115699728A (zh) | 2023-02-03 |
| KR20230019846A (ko) | 2023-02-09 |
| CN115843431A (zh) | 2023-03-24 |
| WO2021252394A1 (en) | 2021-12-16 |
| EP4154525A4 (en) | 2023-10-25 |
| WO2021252396A1 (en) | 2021-12-16 |
| EP4154524C0 (en) | 2026-01-28 |
| US20230100470A1 (en) | 2023-03-30 |
| KR20230019847A (ko) | 2023-02-09 |
| JP2023529431A (ja) | 2023-07-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7506185B2 (ja) | サブビットストリーム抽出処理におけるコーディングされた映像の操作 | |
| JP7544843B2 (ja) | サブピクチャとスケーラビリティの組み合わせ | |
| JP7506184B2 (ja) | 映像コーディングにおけるスケーリングウィンドウ | |
| JP7511680B2 (ja) | サブピクチャサブビットストリーム抽出プロセスにおける補足エンハンスメント情報の処理 | |
| JP7564250B2 (ja) | 映像コーディングにおける補足強化情報メッセージのスケーラブルネスティング | |
| JP7549045B2 (ja) | マルチレイヤ映像ビットストリームのサブビットストリーム抽出 | |
| WO2021257529A1 (en) | Decoded picture buffer management and subpictures in video coding | |
| JP7640587B2 (ja) | 映像ピクチャにおけるサブピクチャ数の制約 | |
| JP7513756B2 (ja) | サブレイヤ数制限 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230125 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230125 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240227 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240312 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240612 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240827 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241127 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250121 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250220 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7640587 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |