Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4358215B2 - 動画像符号化装置及びその方法 - Google Patents
[go: Go Back, main page]

JP4358215B2 - 動画像符号化装置及びその方法 - Google Patents

動画像符号化装置及びその方法 Download PDF

Info

Publication number
JP4358215B2
JP4358215B2 JP2006263493A JP2006263493A JP4358215B2 JP 4358215 B2 JP4358215 B2 JP 4358215B2 JP 2006263493 A JP2006263493 A JP 2006263493A JP 2006263493 A JP2006263493 A JP 2006263493A JP 4358215 B2 JP4358215 B2 JP 4358215B2
Authority
JP
Japan
Prior art keywords
time
division
encoding
image
initial delay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006263493A
Other languages
English (en)
Other versions
JP2008085673A (ja
Inventor
淳 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2006263493A priority Critical patent/JP4358215B2/ja
Priority to US11/832,396 priority patent/US20080075164A1/en
Publication of JP2008085673A publication Critical patent/JP2008085673A/ja
Application granted granted Critical
Publication of JP4358215B2 publication Critical patent/JP4358215B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/149Data rate or code amount at the encoder output by estimating the code amount by means of a model, e.g. mathematical model or statistical model
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Algebra (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、入力画像を時間方向に分割して符号化する場合にビットレート制御を効率良く行うことで高品質な時間分割符号化を実現する動画像符号化装置及びその方法に関する。
動画像の符号化速度を向上させるため、複数のCPUやハードウェアを使用して符号化処理を並列化する方法がある。
画面内を分割して並列にエンコードする方法(特許文献1参照)は、各処理間の通信がピクチャ単位に複数回発生する。これに対し、画面間を分割(時間分割)して並列にエンコードする方法は、各処理間の通信が時間分割されたピクチャ数単位に複数回発生する程度で、通信オーバーヘッドが少なく効率が良い。
時間分割符号化の場合、分割して符号化されたビットストリームを最終的に1つのビットストリームに結合する必要がある。その際、結合されるビットストリーム間でデコーダバッファの連続性を保障する必要がある。すなわち、終端占有量が次の分割点の初期占有量を上回る必要がある。例えば、複数のビットストリームをバッファの連続性を保障しながら結合する方法として、特許文献2、3などが挙げられる。
特開2005−136633公報 特開2004−297829公報 特開2003−111024公報
上記方法は、ビットストリームを結合するために分割点の直前のビットストリームの後半部分を再符号化する。その際、元のビットストリームよりも符号量が少なくなるように制御してバッファ占有量を調整している。このため、分割点で画質劣化を伴う場合がある。
一方、分割間を符号化する際にバッファ占有量を調整しようとしても、因果律から正確な初期バッファ占有量は、直前の分割間の符号化が終わらない限り不明であるという問題点がある。
分割なしで符号化を行った場合のバッファ占有量の遷移、すなわち、時間的変化を表したものが図5とした場合、分割して符号化した場合の理想的な分割間の初期占有量位置は図6となる。実際は符号化しないとわからないため、時間分割符号化時はなんらか初期バッファ占有量を決めて符号化を行うしかない。
単純な方法としては、図7に示すように所定の値を全ての分割点の初期占有量(もしくは、初期遅延量)にするというものが挙げられる。デコーダバッファの連続性を保障するために、分割点の終端では既に決められた次の分割点の初期占有量を超えるようにビットレート制御が行われ、図8に示すように理想的な各ピクチャにおける符号量との間に差が生じる。各ピクチャの符号量が理想的なものと比較して減少するため、分割なしの符号化と比較して高画質な符号化が困難となる。
そこで本発明は、時間分割した場合でも効率的なビットレート制御が可能であって、高画質で、高速な並列エンコードを実現する動画像符号化装置及びその方法を提供することを目的とする。
本発明は、入力画像を解析して符号量割り当てを算出する符号量割り当て部と、前記符号量割り当てに従って、仮想的なデコーダバッファのバッファ占有量の時間的変化を予測する予測部と、前記入力画像を時間方向に複数の分割点で分割して、複数の時間分割画像を生成する分割部と、(1)前記分割点での前記バッファ占有量を伝送ビットレートで割って得られる第1の時間、または、(2)前記各時間分割画像のうちの最初にデコードされる画像のデコード開始時刻から、前記各時間分割画像の一つ前の時間分割画像のうちの最後の画像の仮想的なデコーダバッファへの伝送が終了する伝送終了時刻を減算して得られる第2の時間のいずれかを初期遅延時間として算出する初期遅延時間算出部と、前記符号量割り当て及び前記初期遅延時間に従って、前記各時間分割画像をそれぞれ符号化し、分割ビットストリームをそれぞれ生成する符号化部と、前記各分割ビットストリームを1つのビットストリームに結合する結合部と、を有する動画像符号化装置である。
本発明によれば、時間分割した場合でも効率的なビットレート制御が可能となり、時間分割なしの符号化と同等の高画質を実現しつつ、高速な並列エンコードを実現することが可能となる。
以下、本発明の各実施形態の動画像符号化装置について図面に基づいて説明する。
(第1の実施形態)
以下、本発明の第1の実施形態の動画像符号化装置について図1〜図2に基づいて説明する。
(1)動画像符号化装置の構成
図1は、本実施形態に係わる時間分割による動画像符号化装置を示すブロック図である。
図1における画像分割装置101は、動画像を入力として受け取り、それを画像間で時間分割し、各時間分割した画像に対する様々な符号化パラメータを合わせて出力する。
画像符号化装置102〜106は、その時間分割された画像及び符号化パラメータを受け取り、画像を圧縮し、それぞれ圧縮したデータであるビットストリームを出力する。これら画像符号化装置102〜106は、H.264/MPEG−4 AVCを用いて画像を圧縮することとする。
ビットストリーム結合装置107は、時間分割して符号化されたビットストリームを受け取り、時間方向に正しい順番で再生可能なように結合して1つのビットストリームとして出力する。
符号量割り当て装置108は、入力画像を解析して符号量割り当てを算出する。
バッファ占有量予測装置109は、算出された符号量割り当てに応じて仮想的なデコーダバッファの遷移である時間的変化を予測するためにシミュレーションする。
初期遅延量算出装置110は、シミュレーションされたバッファ挙動に基づいて入力画像が分割された点での初期遅延時間である初期遅延量を算出する。
なお、この動画像符号化装置は、例えば、汎用のコンピュータ装置を基本ハードウェアとして用いることでも実現することが可能である。そして、上記のコンピュータ装置に搭載されたプロセッサにプログラムを実行させることにより実現することができる。このとき、動画像符号化装置は、上記のプログラムをコンピュータ装置に予めインストールすることで実現してもよいし、CD−ROMなどの記憶媒体に記憶して、あるいはネットワークを介して上記のプログラムを配布して、このプログラムをコンピュータ装置に適宜インストールすることで実現してもよい。また、上記のコンピュータ装置に内蔵あるいは外付けされたメモリ、ハードディスクもしくはCD−R、CD−RW、DVD−RAM、DVD−Rなどの記憶媒体などを適宜利用して実現することができる。
(2)動画像符号化装置の動作
次に、本実施形態に係わる動画像符号化装置の動作について図2に基づいて説明する。図2は、動画像符号化装置の動作を示すフローチャートである。
(2−1)画像の時間分割
まず、画像分割装置101は、入力画像を受け取り、画像を時間軸方向に分割する(ステップ201)。
分割点の設定方法は、例えば下記のようなものがある。
第1の設定方法としては、シーンチェンジ部分に設定するものが挙げられる。
例えば、入力画像間の相関が低い部分、すなわちシーンチェンジ部分に設定する。時間分割して符号化する場合は、分割点における符号化順で先頭のピクチャはIDRピクチャ(H.264以外はIピクチャ)として符号化する必要がある。シーンチェンジ時は画面間相関が低いことから、Iピクチャで符号化を行う方が、符号化効率が良いため、そこに分割点を設定すると符号化効率面でも有効である。また、ユーザーが指定するチャプターや、ランダムアクセスに有効な位置もシーンチェンジ部分であることが多い。
第2の設定方法としては、所定のフレーム数で分割するというものがある。
シーンチェンジ毎では、各分割点の長さがばらばらとなるため、各分割画像の符号化時間にばらつきが生じ、最適な並列処理ができない。
例えば、本実施形態では分割された画像をそれぞれ符号化する画像符号化装置が5つ存在するため、入力画像の総数が10000フレームであったとすれば、10000/5=2000フレームで分割すれば、それぞれの5つの画像符号化装置にかかる付加が均等化され、効率的な並列処理が可能となる。
あるいはさらに細かく、10000/(5×α)のように分割することで、各分割間における符号化の難しさによる処理時間の差が分散されやすくなる。
第3の設定方法としては、GOP(Group Of Picture)長の倍数で分割する方法がある。この設定方法は、画面間予測構造の制御や符号化効率を踏まえたものである。
第4の設定方法としては、両者の方法を合わせて、シーンチェンジ毎に分割した後の各分割間が、例えば150フレーム以上の長さがあれば、さらに150フレーム間隔で分割するというものも考えられる。
(2−2)入力画像の解析
符号量割り当て装置108は、入力画像を受け取り、その入力画像の特性を解析して符号量割り当てを行う(ステップ202)。
画像の特性を解析して符号量を割り当てる方法は例えば下記のようなものがある。
入力画像を特定の量子化幅で一度符号化(仮符号化)し、その符号化結果から符号化複雑度を取得し、それに基づいて符号量を割り当てる方式(2パスビットレート制御)が挙げられる。
この場合、仮符号化を一度行うため、画像の分割情報を用いれば、各GOP構造がわかるため、より精度があがる。この情報は画像分割装置101から取得することが可能である。
また、仮符号化を行う場合は、この後に説明を行うが、画像符号化装置102〜105を使うことで並列に符号化でき、符号化時間を短縮することが可能となる。
なお、上記説明では、2パスビットレート制御を用いて符号量割り当て装置が動作することを想定しているが、本実施形態は符号量の割り当て方式に限定されるものではない。
例えば、簡易的な解析として画面間の差分、画面内アクティビティや動き補償した後の残差信号の2乗和などを用いて符号化複雑度を計算してもよい。
符号量の割り当ての単位としては、GOP単位あるいはピクチャ単位、スライス単位、マクロブロック(MB)単位など考えられ、いずれの粒度で行ってもかまわない。本実施形態ではピクチャ単位として以降説明を行う。
(2−3)バッファ占有量のシミュレーション
バッファ占有量予測装置109は、ピクチャ単位で割り当てられた符号量に基づいて、仮想的なデコーダバッファ(例えば、MPEG−2、MPEG−4においてはVBV(Video Buffer Verify)、H.264においてCPB(Coding Picture Buffer)のバッファ占有量のシミュレーションを行う(ステップ203)。
なお、スライス単位あるいはMB単位で符号量割り当てが行われている場合は、ピクチャ単位に累積した値に変換した後、同様なシミュレーションを行う。
GOP単位で符号量割り当てが行われている場合は、GOP単位でのバッファシミュレーションを行えばよい。但し、この場合はGOP内でのデコーダバッファの挙動がわからないため、GOP内でバッファエラーが発生している場合があるかもしれないため、最良の方法とはいえない。
しかしながら、本実施形態は、GOP単位での符号量割り当ての場合でも処理自体は破綻するものではないため、GOP単位での符号量割り当てにおいても実現は可能となっている。具体的にGOP単位の符号量割り当てでも、動作可能という説明は後述する。
仮想的なデコーダバッファの挙動としては、VBVモデルとCPBモデルがある。CBR(Constant Bit Rate)時はVBV=CPBであり、VBR(Variable Bit Rate)時はデコーダバッファへの符号量伝送が止まる場合、VBVの遅延量がCPBよりも大きくなる動作となる。H.264は本来CPBモデルであるが、本実施形態ではVBVモデルを用いてバッファシミュレーションを行う。符号量割り当てに従ってバッファシミュレーションを行った様子を図9に示す。
(2−4)バッファエラーの検出
シミュレーションを行った結果、例えばバッファがアンダーフローする場合やCBR時においてはオーバーフローする場合が検出されれば、符号量割り当て装置108にその情報を通知する(ステップ204)。
符号量割り当て装置108はその情報に基づいて符号量割り当てを再度やり直す。バッファエラーが検出されなければ次の処理に進む。
(2−5)初期遅延量の算出
初期遅延量算出装置110は、シミュレーションされたバッファ占有量に基づいて初期遅延量を算出する(ステップ205)。
初期遅延量の算出式は以下の通りとなる。

initial_delay=buffer_occupancy/transfer_bitrate

initial_delayは初期遅延量(秒)を表す。H.264の場合、初期遅延量は90000単位となるため、initial_delayは90000倍されて符号化される。buffer_occupancyは仮想デコーダバッファの占有量(ビット)であり、transfer_bitrateは仮想的なデコーダバッファに伝送される符号量速度(ビット/秒)である。
また、初期遅延量は、言い換えると、シミュレーションで当該時間分割画像における最初の画像が前記仮想的なデコーダバッファから引き去られる時間から、直前の分割点における一つ前の時間分割画像の最後の画像が仮想的なデコーダバッファに伝送終了時刻を減算したものである。最初の画像が前記仮想的なデコーダバッファから引き去られる時間は、仮想的なデコーダバッファの占有量(例えば、図9の縦軸の値)から推定される時刻(同じく、図9の横軸の値)である。そして、最初の画像が前記仮想的なデコーダバッファから引き去られる時間がデコード開始時刻と等しいため、最初の画像のデコード開始時刻から、直前の分割点の最後の画像が仮想的なデコーダバッファに伝送終了時刻を減算したものである。
各分割間を符号化する際に初期パラメータとして分割点における初期遅延量が必要となるため、初期遅延量算出装置110によって算出される。したがって、既に述べたように符号量割り当てがGOP単位であったとしても、GOP単位の符号量割り当てに従って仮想的なデコーダバッファのシミュレーションをすれば、初期遅延量の算出が可能となる。CBR時は上記シミュレーションされたバッファ占有量の値に基づいて、上記の数式の通り算出すれば良い。
VBR時は算出方法を工夫することで、時間分割符号化におけるビットレート制御を安定して行えるようになる。
分割間における仮想デコーダバッファの連続性を保障するには、VBR時は「終端占有量>=次の初期占有量」となる必要がある。割り当て符号量と実際に発生する符号量には誤差が生じるため、画像符号化装置102〜106は、その誤差をフィードバックしてビットレート制御しながら符号化をすることになる。例えば、分割内の序盤で割り当てられた符号量よりも多く符号が発生し続けた場合、そのフィードバックは分割内の後半に強くかけられることになり、分割内の後半で画質が低下する可能性がある。「次の初期占有量」を低く見積もって算出すれば、分割間における仮想デコーダバッファの連続性の保障にマージンが生まれ、分割内の後半でビットレート制御のフィードバックを強くかける必要がなくなり、画質がより安定する。「次の初期占有量」を低く見積もる方法として、図10に示すようにCPBモデルを用いて仮想的なデコーダバッファのシミュレーションを行い直す方法がある。
バッファ占有量予測装置109は、バッファシミュレーションはVBVモデルで行っているが、初期遅延量算出装置110で、初期遅延量を計算する部分をCPBモデルでバッファシミュレーションを補正することで、その初期遅延量を小さく算出することが可能で、かつ各ピクチャに割り当てられている符号量にも影響がないため画質与える影響はない。
(2−6)符号化
画像符号化装置102〜106は、上記で得られた初期遅延量、符号量割り当て情報、その他の符号化パラメータ及び分割された画像を受け取り、それらの情報に基づいて符号化を行う(ステップ206)。
通常、割り当てられた符号量と実際に発生する符号量には誤差が生じるため、画像符号化装置はビットレート制御を行う必要がある。特に、仮想的なデコーダバッファの挙動がCBRであった場合、「終端占有量=次の初期占有量」としなければならないため、符号量の制御は重要となる。
分割内の符号化を行う際に、次の分割点の初期遅延量をパラメータとして受け取っておけば、目標となる「終端占有量」がわかるため、分割内の符号化が終了する際、「終端占有量」が「次の初期占有量」を上回る場合はフィラーデータを出力して「終端占有量=次の初期占有量」すればよい。
なお、初期遅延量算出装置110がVBR挙動に基づいて初期遅延量を算出した場合も上記の動作のように分割内の終端でフィラーデータを出力して、「終端占有量=次の初期占有量」となるように制御することも可能である。
分割内の終端のビットレートの収束性をあげるため、フィードバックの強いレート制御を行うと、分割内の終端だけ画質が劣化する場合が発生し、主観画質は良くない。終端でフィードバックを強くするよりもmarign分の符号量を全体から調整し、結果的に符号量が余れば最後にフィラーデータによる補正を行うほうが、全体を通して安定した画質になる場合がある。分割内の符号化が終了した後、ビットストリームを出力する。
(2−7)結合
ビットストリーム結合装置107は、画像符号化装置102〜106が出力したビットストリームを受け取り、時間軸上に正しい順番で再生できるように結合していく(ステップ207)。
分割されて符号化された全てのビットストリームを貯めてから、結合しても良いし、時間軸上に結合できるビットストリームが存在すれば随時結合しても良い。
ビットストリーム結合装置107は、画像符号化装置102〜106それぞれからビットストリームを受け取るため、どの画像符号化装置が符号化処理を終了したかがわかる。この情報を画像分割装置101に通知することで、画像分割装置101は符号化が終了した画像符号化装置に次のデータ群を送り、継続して符号化処理を行うことができる。
画像符号化装置102〜106が直接、画像分割装置101に符号化が終了した旨を通知して、データ群を要求しても良い。
最終的に全ての符号化処理が終了し、1つのビットストリームに纏め上げた後、出力することで、時間分割による符号化処理が終了する。
(第2の実施形態)
以下、本発明の第2の実施形態の動画像符号化装置について図3と図11に基づいて説明する。なお、動画像符号化装置の構成は、第1の実施形態の動画像符号化装置のブロック図の構成と同様である。
本実施形態の動画像符号化装置の動作について図3のフローチャートで説明する。
バッファ占有量予測装置109によるVBVモデルに基づいたバッファシミュレーションを行うところまでは、第1の実施形態と同様である。そして、本実施形態では、各分割点での初期遅延量算出装置110による初期遅延量の算出方法が異なる。
VBR時において、符号化が難しいシーンには伝送符号量と同等の符号量を割り当てる場合は少なくない。そのような場合、VBV=CPB動作となり、第1の実施形態では初期占有量を低く見積もることはできない。そこで、本実施形態では所定の割合で初期占有量を低く見積もって、初期遅延量算出装置110が初期遅延量を算出する(ステップ304)。
その様子を図11に示す。バッファ占有量予測装置109によるバッファのシミュレーションが点線である。初期遅延量算出装置110は、初期占有量を低く見積もって(図ではmargin分)、バッファシミュレーション及び符号量割り当て装置108で算出された符号量割り当てを調整する。
符号量割り当てを調整した後、調整された符号量割り当てに基づいてバッファ占有量予測装置109で再度シミュレーションすることで、バッファシミュレーションを調整してもよい。
符号量割り当て及びバッファシミュレーションの調整方法であるが、例えばmargin分のビット量を、その分割内の各ピクチャに割り当てられた符号量から均等に減じてもよい。各ピクチャの符号化方法の違い(例えば、I、P、Bピクチャ)で割り当てられている符号量に差があれば、分割内に割り当てられた総符号量とmarginとの比に応じて、各ピクチャの符号量を減じてもよい。
符号量割り当て及びバッファシミュレーションが調整された結果、バッファエラーが発生しているか否か確認を行う(ステップ305)。
バッファエラーが生じていれば、符号量割り当て装置108にその情報を通知する。符号量割り当て装置108はその情報に基づいて符号量割り当てを再度やり直す。バッファエラーが検出されなければ次の処理に進む。
以降の符号化処理は第1の実施形態と同様である。
(第3の実施形態)
以下、本発明の第3の実施形態の動画像符号化装置について図4に基づいて説明する。なお、動画像符号化装置の構成は、第1の実施形態の動画像符号化装置のブロック図の構成と同様である。
本実施形態の動画像符号化装置の動作について図4のフローチャートに基づいて説明する。
バッファ占有量予測装置109によるVBVモデルに基づいたバッファシミュレーションを行うところまでは、第1の実施形態と同様である。本実施形態では、バッファ占有量予測装置109がシミュレーションをした後の処理が異なる。
第1、第2の実施形態で述べたように分割間において、デコーダバッファの連続性を保障しやすいようにmarginを取っているが、例えば、その分割点のバッファ占有量が非常に低い位置にある場合は、marginを十分に取ることが不可能となる。そこで、バッファシミュレーションした後、所定のバッファ占有量(例えばデコーダバッファサイズの20%)を下回る位置に分割点を設定しないように、画像分割装置101で画像の分割点を補正し直す。
補正の方法としては、単純にその分割点をなくし、画像間を結合するだけでもよいし、結合した場合、次に例えば所定のバッファ占有量(例えば、デコーダバッファサイズの70%)を上回る位置で分割しなおしてもよい。
所定のバッファ占有量は、仮想的なデコーダバッファに伝送される符号量速度あるいは画像を符号化する平均符号量から算出してもよい。
デコーダバッファサイズが非常に大きく、伝送符号量や平均符号量が非常に低い場合は、例えばデコーダバッファサイズの5%程度でも十分である。
分割点を補正された画像に対して、符号量割り当て装置108で再度符号量の割り当てを行い、その符号量割り当て結果に基づいて、バッファ占有量予測装置109でバッファシミュレーションを行う。分割点におけるバッファ占有量が所定の量を下回っていなければ、次の処理へと進む。以降の処理は第2の実施形態と同様である。
なお、本実施形態におけるフローチャートは第2の実施形態と同様となっている(ステップ404以降がステップ304以降と同じ)が、第1の実施形態と入れ替わってもよい。すなわちステップ403の次にステップ204に移り、バッファエラーがあればステップ402へ戻り、なければステップ205に移ることも可能である。
(変更例)
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
例えば、上記実施形態における画像符号化装置102〜106は、H.264/MPEG−4 AVCを用いて画像を圧縮していたが、本実施形態は符号化方式に限定されるものではなく、例えばMPEG−2やMPEG−4においても同様な効果が得られる。
また、本実施形態における画像符号化装置102〜106は、5つとしているが、本発明は画像符号化装置の数で限定されるものではない。画像符号化装置の数がより多ければ、より並列度が高まり高速に符号化できる。
本発明の実施形態を示すブロック図である。 本発明の第1の実施形態のフローチャートである。 本発明の第2の実施形態のフローチャートである。 本発明の第3の実施形態のフローチャートである。 時間分割なしのバッファ占有量遷移図である。 時間分割ありのバッファ占有量遷移図(理想的な場合)である。 時間分割ありのバッファ占有量遷移図(各初期占有量が同じ場合)である。 時間分割ありのバッファ占有量遷移図(レート制御後)である。 時間分割ありのバッファ占有量遷移図(2パス制御後) 時間分割ありのバッファ占有量遷移図(2パス制御+初期占有量制御)である。 時間分割ありのバッファ占有量遷移図(初期占有量を低く見積もる)である。
符号の説明
101 画像分割装置
102 画像符号化装置A
103 画像符号化装置B
104 画像符号化装置C
105 画像符号化装置D
106 画像符号化装置E
107 ビットストリーム結合装置
108 符号量割り当て装置
109 バッファ占有量予測装置
110 初期遅延量算出装置

Claims (28)

  1. 入力画像を解析して符号量割り当てを算出する符号量割り当て部と、
    前記符号量割り当てに従って、仮想的なデコーダバッファのバッファ占有量の時間的変化を予測する予測部と、
    前記入力画像を時間方向に複数の分割点で分割して、複数の時間分割画像を生成する分割部と、
    (1)前記分割点での前記バッファ占有量を伝送ビットレートで割って得られる第1の時間、または、(2)前記各時間分割画像のうちの最初にデコードされる画像のデコード開始時刻から、前記各時間分割画像の一つ前の時間分割画像のうちの最後の画像の仮想的なデコーダバッファへの伝送が終了する伝送終了時刻を減算して得られる第2の時間のいずれかを初期遅延時間として算出する初期遅延時間算出部と、
    前記符号量割り当て及び前記初期遅延時間に従って、前記各時間分割画像をそれぞれ符号化し、分割ビットストリームをそれぞれ生成する符号化部と、
    前記各分割ビットストリームを1つのビットストリームに結合する結合部と、
    を有する動画像符号化装置。
  2. 前記符号化部を複数有し、前記各符号化部は、前記時間分割画像をそれぞれ符号化して分割ビットストリームをそれぞれ生成する、
    請求項1記載の動画像符号化装置。
  3. 前記初期遅延時間算出部は、
    前記第2の時間、または、前記第2の時間より短い第3の時間を、前記各分割点の初期遅延時間として算出する、
    請求項1記載の動画像符号化装置。
  4. 前記初期遅延時間算出部は、
    前記第1の時間、または、前記第2の時間の小さい方を前記初期遅延時間とする、
    請求項1記載の動画像符号化装置。
  5. 前記符号化部は、
    前記入力画像の分割間の符号化終端において、次に時間分割画像が続いているとしたら設定されるであろう初期遅延時間が、前記初期遅延時間算出部で算出された次の初期遅延時間を上回る場合、前記両初期遅延時間が等しくなるように前記符号化終端でスタッフィング、または、フィラーデータを出力する、
    請求項1記載の動画像符号化装置。
  6. 前記予測部は、
    VBVモデルに基づいて予測を行う、
    請求項1記載の動画像符号化装置。
  7. 前記分割部は、
    前記入力画像における画像間の相関が低い部分で分割する、
    請求項1記載の動画像符号化装置。
  8. 前記分割部は、
    前記分割後の画像数が、任意の画像数より大きい場合には、さらに前記任意の画像数で分割する、
    請求項7記載の動画像符号化装置。
  9. 前記分割部は、前記入力画像を任意の画像数で分割する、
    請求項1記載の動画像符号化装置。
  10. 前記符号化部を複数有し、前記各符号化部は、前記時間分割画像をそれぞれ符号化して分割ビットストリームをそれぞれ生成し、
    前記分割部における前記任意の画像数は、前記入力画像の総数を、前記符号化部の数で割った値を上限とする、
    請求項9記載の動画像符号化装置。
  11. 前記任意の画像数は、GOP長の倍数である、
    請求項8記載の動画像符号化装置。
  12. 前記分割部は、前記バッファ占有量の時間的変化が所定の占有量を下回る位置で前記画像の分割を行わない、
    請求項1記載の動画像符号化装置。
  13. 前記符号量割り当て部は、
    前記第2の時間から前記第3の時間を引いた差分時間の間に伝送される割り当て符号量を減少させる、
    請求項3記載の動画像符号化装置。
  14. 入力画像を解析して符号量割り当てを算出する符号量割り当てステップと、
    前記符号量割り当てに従って、仮想的なデコーダバッファのバッファ占有量の時間的変化を予測する予測ステップと、
    前記入力画像を時間方向に複数の分割点で分割して、複数の時間分割画像を生成する分割ステップと、
    (1)前記分割点での前記バッファ占有量を伝送ビットレートで割って得られる第1の時間、または、(2)前記各時間分割画像のうちの最初にデコードされる画像のデコード開始時刻から、前記各時間分割画像の一つ前の時間分割画像のうちの最後の画像の仮想的なデコーダバッファへの伝送が終了する伝送終了時刻を減算して得られる第2の時間のいずれかを初期遅延時間として算出する初期遅延時間算出ステップと、
    前記符号量割り当て及び前記初期遅延時間に従って、前記各時間分割画像をそれぞれ符号化し、分割ビットストリームをそれぞれ生成する符号化ステップと、
    前記各分割ビットストリームを1つのビットストリームに結合する結合ステップと、
    動画像符号化方法。
  15. 前記符号化ステップは、
    前記時間分割画像をそれぞれ並列に符号化して分割ビットストリームをそれぞれ生成する、
    請求項14記載の動画像符号化方法。
  16. 前記初期遅延時間算出ステップは、
    前記第2の時間、または、前記第2の時間より短い第3の時間を、前記各分割点の初期遅延時間として算出する、
    請求項14記載の動画像符号化方法。
  17. 前記初期遅延時間算出ステップは、
    前記第1の時間、または、前記第2の時間の小さい方を前記初期遅延時間とする、
    請求項14記載の動画像符号化方法。
  18. 前記符号化ステップは、
    前記入力画像の分割間の符号化終端において、次に時間分割画像が続いているとしたら設定されるであろう初期遅延時間が、前記初期遅延時間算出ステップで算出された次の初期遅延時間を上回る場合、前記両初期遅延時間が等しくなるように前記符号化終端でスタッフィング、または、フィラーデータを出力する、
    請求項14記載の動画像符号化方法。
  19. 前記予測ステップは、
    VBVモデルに基づいて予測を行う、
    請求項14記載の動画像符号化方法。
  20. 前記符号量割り当てステップは、
    前記第2の時間から前記第3の時間を引いた差分時間の間に伝送される割り当て符号量を減少させる、
    請求項16記載の動画像符号化方法。
  21. 入力画像を解析して符号量割り当てを算出する符号量割り当て機能と、
    前記符号量割り当てに従って、仮想的なデコーダバッファのバッファ占有量の時間的変化を予測する予測機能と、
    前記入力画像を時間方向に複数の分割点で分割して、複数の時間分割画像を生成する分割機能と、
    (1)前記分割点での前記バッファ占有量を伝送ビットレートで割って得られる第1の時間、または、(2)前記各時間分割画像のうちの最初にデコードされる画像のデコード開始時刻から、前記各時間分割画像の一つ前の時間分割画像のうちの最後の画像の仮想的なデコーダバッファへの伝送が終了する伝送終了時刻を減算して得られる第2の時間のいずれかを初期遅延時間として算出する初期遅延時間算出機能と、
    前記符号量割り当て及び前記初期遅延時間に従って、前記各時間分割画像をそれぞれ符号化し、分割ビットストリームをそれぞれ生成する符号化機能と、
    前記各分割ビットストリームを1つのビットストリームに結合する結合機能と、
    をコンピュータに実現させるための動画像符号化プログラム。
  22. 前記画像符号化機能を複数有し、各画像符号化機能は、前記時間分割画像をそれぞれ符号化して分割ビットストリームをそれぞれ生成する、
    請求項21記載の動画像符号化プログラム。
  23. 前記初期遅延時間算出機能は、
    前記第2の時間、または、前記第2の時間より短い第3の時間を、前記各分割点の初期遅延時間とする、
    請求項21記載の動画像符号化プログラム。
  24. 前記初期遅延時間算出機能は、
    前記第1の時間、または、前記第2の時間の小さい方を前記初期遅延時間とする、
    請求項21記載の動画像符号化プログラム。
  25. 前記符号化機能は、
    前記入力画像の分割間の符号化終端において、次に時間分割画像が続いているとしたら設定されるであろう初期遅延時間が、前記初期遅延時間算出機能で算出された次の初期遅延時間を上回る場合、前記両初期遅延時間が等しくなるように前記符号化終端でスタッフィング、または、フィラーデータを出力する、
    請求項21記載の動画像符号化プログラム。
  26. 前記予測機能は、
    VBVモデルに基づいて予測を行う、
    請求項21記載の動画像符号化プログラム。
  27. 前記分割機能は、
    前記入力画像における画像間の相関が低い部分で分割する、
    請求項21記載の動画像符号化プログラム。
  28. 前記符号量割り当て機能は、
    前記第2の時間から前記第3の時間を引いた差分時間の間に伝送される割り当て符号量を減少させる、
    請求項23記載の動画像符号化プログラム。
JP2006263493A 2006-09-27 2006-09-27 動画像符号化装置及びその方法 Expired - Fee Related JP4358215B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006263493A JP4358215B2 (ja) 2006-09-27 2006-09-27 動画像符号化装置及びその方法
US11/832,396 US20080075164A1 (en) 2006-09-27 2007-08-01 Motion picture encoding apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006263493A JP4358215B2 (ja) 2006-09-27 2006-09-27 動画像符号化装置及びその方法

Publications (2)

Publication Number Publication Date
JP2008085673A JP2008085673A (ja) 2008-04-10
JP4358215B2 true JP4358215B2 (ja) 2009-11-04

Family

ID=39224911

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006263493A Expired - Fee Related JP4358215B2 (ja) 2006-09-27 2006-09-27 動画像符号化装置及びその方法

Country Status (2)

Country Link
US (1) US20080075164A1 (ja)
JP (1) JP4358215B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008153525A1 (en) * 2007-06-14 2008-12-18 Thomson Licensing A system and method for time optimized encoding
JP4582185B2 (ja) * 2008-04-22 2010-11-17 ソニー株式会社 情報処理装置及び情報処理方法
KR101517768B1 (ko) * 2008-07-02 2015-05-06 삼성전자주식회사 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
WO2010032457A1 (ja) * 2008-09-16 2010-03-25 パナソニック株式会社 撮像装置および動画データ作成方法
CN102217315B (zh) * 2008-11-12 2016-03-09 汤姆森特许公司 用于画面组的并行多线程视频编码的i帧去闪烁
CN102217308B (zh) 2008-11-13 2014-10-22 汤姆森特许公司 使用画面组合并和位分配的多线程视频编码
JP5152402B2 (ja) 2009-02-27 2013-02-27 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
JP2014179707A (ja) 2013-03-13 2014-09-25 Toshiba Corp 画像符号化装置、及びその方法
US10271112B2 (en) * 2015-03-26 2019-04-23 Carnegie Mellon University System and method for dynamic adaptive video streaming using model predictive control
JP6046761B2 (ja) * 2015-04-06 2016-12-21 日本電信電話株式会社 符号量算出方法、符号量算出装置及び符号量算出プログラム
JP7238441B2 (ja) 2019-02-04 2023-03-14 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
US12354358B2 (en) * 2020-06-10 2025-07-08 Nokia Technologies Oy System and signalling of video splitter and merger for parallel network based media processing

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5122873A (en) * 1987-10-05 1992-06-16 Intel Corporation Method and apparatus for selectively encoding and decoding a digital motion video signal at multiple resolution levels
EP0514663A3 (en) * 1991-05-24 1993-07-14 International Business Machines Corporation An apparatus and method for motion video encoding employing an adaptive quantizer
US5231484A (en) * 1991-11-08 1993-07-27 International Business Machines Corporation Motion video compression system with adaptive bit allocation and quantization
US5694170A (en) * 1995-04-06 1997-12-02 International Business Machines Corporation Video compression using multiple computing agents
US5949490A (en) * 1997-07-08 1999-09-07 Tektronix, Inc. Distributing video buffer rate control over a parallel compression architecture
JP4186242B2 (ja) * 1997-12-26 2008-11-26 ソニー株式会社 画像信号処理装置及び画像信号処理方法
US6480539B1 (en) * 1999-09-10 2002-11-12 Thomson Licensing S.A. Video encoding method and apparatus
DE10102159C2 (de) * 2001-01-18 2002-12-12 Fraunhofer Ges Forschung Verfahren und Vorrichtung zum Erzeugen bzw. Decodieren eines skalierbaren Datenstroms unter Berücksichtigung einer Bitsparkasse, Codierer und skalierbarer Codierer
JP4203707B2 (ja) * 2001-01-31 2009-01-07 日本電気株式会社 事前解析を用いた動画像符号化装置、動画像符号化方法、及びそのプログラム。
JP2002315004A (ja) * 2001-04-09 2002-10-25 Ntt Docomo Inc 画像符号化方法及び装置、画像復号方法及び装置、並びに画像処理システム
US7738551B2 (en) * 2002-03-18 2010-06-15 International Business Machines Corporation System and method for processing a high definition television (HDTV) image
BRPI0318759B1 (pt) * 2002-11-25 2018-02-27 Godo Kaisha Ip Bridge 1 “Método e aparelho de codificação de imagem móvel”

Also Published As

Publication number Publication date
US20080075164A1 (en) 2008-03-27
JP2008085673A (ja) 2008-04-10

Similar Documents

Publication Publication Date Title
JP3866538B2 (ja) 動画像符号化方法及び装置
CN102006471B (zh) 视频编码的图片级速率控制
US9094684B2 (en) Method for dual pass rate control video encoding
US8837602B2 (en) Content adaptive video encoder and coding method
EP2403248B1 (en) Moving picture encoding device, moving picture encoding method, and moving picture encoding computer program
US20080075164A1 (en) Motion picture encoding apparatus and method
JP4366571B2 (ja) 動画像符号化装置及び方法
JP2005538606A (ja) ビデオシーケンスのレートを制御する方法及び装置並びにビデオ符号化装置
JP2011151838A (ja) マルチパスのビデオ符号化
CN101069432B (zh) 用于视频编码器速率控制的量化参数的确定方法和设备
US7274739B2 (en) Methods and apparatus for improving video quality in statistical multiplexing
US6226326B1 (en) Coding device and coding method
JP5706759B2 (ja) 画像符号化装置及び画像符号化方法
KR101285654B1 (ko) 메타 데이터와 미디어 데이터가 분리되어 있는 파일 형식의 멀티미디어 컨텐츠를 프로그래시브 다운로드하기 위한 실시간 트랜스코딩 장치
JP2009171339A (ja) 動画像符号化装置、方法及びプログラム
JP2005045736A (ja) 画像信号符号化方法及び装置、符号化制御装置並びにプログラム
JP3889552B2 (ja) 符号量割り当て装置および方法
JP4231045B2 (ja) 動画像符号化方法及び装置
KR100949755B1 (ko) 비디오 시퀀스의 레이트를 제어하는 방법 및 장치, 비디오부호화 장치
JPWO2008053557A1 (ja) 動画像再符号化装置、動画像再符号化方法、動画像再符号化プログラムおよび動画像再符号化プログラムを格納した記録媒体
JP2008109693A (ja) 動画像再符号化装置
JP2006287444A (ja) ビデオ情報編集装置、方法及びプログラム
JP2002152735A (ja) 画像再符号化装置
KR20090049109A (ko) 고정 비트율 영상 서비스를 위한 비트 할당 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090714

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090805

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130814

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees