JP4338787B2 - 映像圧縮のための方法及び装置 - Google Patents
映像圧縮のための方法及び装置 Download PDFInfo
- Publication number
- JP4338787B2 JP4338787B2 JP52435798A JP52435798A JP4338787B2 JP 4338787 B2 JP4338787 B2 JP 4338787B2 JP 52435798 A JP52435798 A JP 52435798A JP 52435798 A JP52435798 A JP 52435798A JP 4338787 B2 JP4338787 B2 JP 4338787B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- block
- circuit
- motion
- encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/004—Predictors, e.g. intraframe, interframe coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
これらの画像を形成する方法は様々な段階に分割されうる。
この方法は第一に、構成要素オブジェクトを記述し、そこから可視のシーンを構築するようそれらのオブジェクトを組み立てるためのモデリング段階、即ち記述モデルを使用してオブジェクトを計算又は捕捉する段階を含む。
例えばオブジェクトが多数の基本多角形面又はファセットに分割される多角形タイプのモデルを引き合いに出そう。これらの基本幾何エンティティを定義し、組み立て、又は修正するためにグラフィックプリミティブが使用される。
これらのモデルは解釈可能である:これらは種々のグラフィックエンジン、例えば三角形の色づけ(又は「陰影処理」)、テクスチャのアンチエイリアシング等に関連しうる。これらは、動き、爆発等の行動的なものもテクスチャ、色、鏡面効果等の視覚的なものもある能力、即ち属性又は機能を有する。これらは、シナリオを実現しているときに環境、例えば光、他のオブジェクトと相互作用することが可能である。従って、第二に、時間(ここでは所与の適用を行うための時間)を通じてこれらのモデルの大局的な構成を支配する動いているシーンの構築、即ちシナリオ又はアニメーションの定義が行われる。
最後に、用途(CAD、画像の生成、シミュレーション等)に依存して、最終段階は、このシナリオからディジタル画像を生成することを含む。この最後の段階はレンダリング又は画像「表現」方法と称され、できる限り現実感のあるシーンを表現することを目的とする。これは計算時間が非常に多くかかり、使用されるモデルに関して、また関わってくるプログラムに関係するデータに関して大きなメモリ容量を必要とすることがある。例えばラジオシティ又はレイ・トレーシングといった表現方法は質の良い画像を得ることを可能にするが、より高い費用がかかり、実装される計算アルゴリズムは非常に複雑である。
ディジタル画像によって表わされる情報のボリュームは、JPEG,H.263,MPEG−1,MPEG−2及び間もなく実現されるMPEG−4といった様々な圧縮標準の開発を引き起こし、当該技術と互換性のある情報のボリュームを、記憶にせよ伝送のためにせよ、操作することを可能にした。今日のところ、より一般的であるMPEG−2標準は、MPEG標準で定義される様々なプロファイル及びレベル、そのうち従来のテレビジョンフォーマットの画像のためのMP@ML(「Main Profile at Main Level」)が最もよく知られている、を援用してあらゆる既存のフォーマットの画像を圧縮することを可能にする。かかるビデオ画像圧縮を実行する符号器の構造は、従来技術によれば、画像の様々なタイプ、即ちイントラ画像、予測画像、又は双方向画像(夫々I,P,B)に依存し、主な差異は予測の時間的モードである。符号化カーネルは従来どおり、DCT(「離散コサイン変換」)に基づく周波数分解とそれに続く量子化及びエントロピー符号化を含んでおり、それにより符号器の出力において標準に準拠せねばならない2値列、即ち特定の構文を得る。
時間的予測は、例えば16×16画素の大きさの画像ブロックに基づいて、時間的に離れた画像間の動きを推定することによって行われる。動きは、現在画像のブロックと先行又は後続画像の探索窓のブロックとの間の相関から演繹される。次に、画像の8×8画素の大きさの各ブロックが計算された変位ベクトルを用いて予測され、推定ブロックと原ブロックとの間の誤差のみが符号化される。
従来画像又は合成画像のいずれのデータであってもよいデータの圧縮は、従って、動き推定といった従来の方法を使用する。かかる計算を実行する回路及び関連する回路は複雑であり、かかる構成の費用は高い。例えば、動き推定回路及び動き補償内挿回路はおそらくMPEG−2タイプの符号器の複雑さの半分の原因となっている。
従来の方法による動き情報は、常に実際の動きに対応するわけではなく、ただ単に一般的に輝度情報に関する相関を含む。画像の動きベクトルからなるベクトルの場が実際の動きを反映しないということは、特にベクトルの差分符号化の場合は、データの最適な圧縮を妨げる。これは、均一な動きのゾーンに対応するマクロブロックについては、差分符号化において同一又は僅かに異なったベクトルを伝送する費用がランダムなベクトルを伝送する費用よりも小さいためである。
更に、従来の「ブロックマッチング」方法によって得られた動きベクトルが必ずしも実際の動きを反映しないということは、例えばディジタルビデオレコーダのスローモーションモード等の周波数の変換の間の良い質の画像の内挿又は外挿を実行するためにベクトル場を使用することを妨げる。
正しくない動きベクトル場はまた、マクロブロックよりもむしろ画像のための輪郭情報を使用する符号化の新しい技術の使用を妨げる。これは、これらの新しい技術によるデータの圧縮が画像セグメント化と、均一なゾーンを定義するこれらの「セグメント」の実際の変位に基づいているためである。
従って、動き推定の信頼性の欠如は、圧縮率又は所与のビットレートに対する画質の面での符号器の性能の最適化、及び復号器におけるこの動き情報の効果的な使用を妨げる。
本発明は、合成画像の符号化において上述の欠点を軽減することを目的とする。
このため、本発明の主題は、数学的データに基づいてシーンをモデリングする処理段階と、上記モデリングから合成画像を形成するための画像レンダリングの段階と、この合成画像を画像ブロックへ分割化する段階と、残差ブロックを与えるために少なくとも1つの動きベクトルに基づいて定義される少なくとも1つの合成画像のブロックに基づいて現在画像ブロックの差分符号化を行う段階とを含む、スクリプトの主体であるシーンを記述する合成画像のシーケンスのディジタルデータを圧縮する方法であって、上記動きベクトルは合成スクリプトから発せられ、シーケンスの主体であるシーンを構成する様々なオブジェクトの見かけの動きを定義する数学的データから計算されることを特徴とする方法である。
また、本発明の主題は、数学的データに基づいて合成されるべき画像を有するシーンをモデリングする処理回路と、合成画像を発生し獲得された画像を画像ブロックへ分割化するために処理回路からキューを受信する、画像レンダリングを行い画像をブロックへ分割化する回路と、予測ブロックを与えるために上記処理回路からキューを受信する画像ブロック動き補償回路と、残差ブロックを与えるよう、画像レンダリング及び画像ブロックへの分割化のための回路から発せられる現在ブロックと、動き補償回路から発せられる予測ブロックとの間の差を取るための減算器と、モード選択回路によってエネルギー規準の関数として選択される画像レンダリング及び画像ブロックへの分割化のための回路から発せられる画像ブロック又は減算器から発せられる残差ブロックのための離散コサイン変換回路と、変換された係数を量子化するための回路とを含む、スクリプトの主体であるシーンを記述するための合成画像のシーケンスのディジタルデータを圧縮する装置であって、上記動き補償回路は、現在ブロックに関連し予測ブロックを定義する動きベクトルを計算するために、処理回路によって与えられシーンを構成するモデリングされたオブジェクトの変位を表わす数学的データを使用することを特徴とする装置である。
他の実施例によれば、本発明の主題は、数学的データに基づいて合成されるべき画像を有するシーンをモデリングする処理回路と、合成画像を生じさせ獲得された画像を画像ブロックへ分割化させるために処理回路からキューを受信する画像レンダリングを行い画像をブロックに分割化する回路と、上記処理回路からキューを受信する画像ブロック動き補償回路とを含む、スクリプトの主体であるシーンを記述するための合成画像のシーケンスのディジタルデータを圧縮する装置であって、Nを所定の数とすると、シーケンスのNの画像のうちの1つの画像をイントラモードで送信し、この画像Nは表現計算及び画像ブロックへの分割化のための回路によって表現計算される主体であり、他の画像は現在ブロックと予測ブロックとの間の差を表わす残差ブロックによってインターモードで送信され、残差ブロックはヌルであり、数学的データから計算される単一の動きベクトルによって定義されることを特徴とする装置である。
概して、画像レンダリングの技術は「オブジェクト」指向シナリオを画像として表わすことにある。ここで、スクリプト、即ちシナリオは、シーンの中のオブジェクト及びそれらの様々な属性に関するあらゆる可能な情報を含んでいる。画像合成の場合、2次元又は3次元スクリプトは時間を通じた諸オブジェクトの正確な配置を与える。このスクリプトは次に、最終的なディジタルビデオ画像を発生(レンダリング)するはたらきをする。従って、可視画像を形成する画素からなる、即ちモデリングされていない情報を使用する代わりに、画像シーケンス中の実際の動きを計算するためにモデリングツールが使用される。
推定された動きではなく実際の動きを使用することによる複雑さの減少の他に、予測の品質及び符号器の大局的な性能を改善することが可能である。
本発明の他の特徴及び利点は、非制限的な例として与えられ、添付の図面に関して与えられる以下の説明より明らかとなろう。図中、
図1は本発明による映像圧縮装置のアーキテクチャを示す図であり、
図2はかかる装置の簡単化されたアーキテクチャを示す図である。
図1は本発明による装置の第1の変形を示す図である。
上述のように、画像合成に関する計算は複雑性が大きく、一般的に専用ワークステーションによって実行される。ここでは処理回路1として称されるかかるワークステーションは、スクリプトの主体であるシーンを表わすこれらの合成画像を生成するためにスクリプトに基づいて前もって定義されたシーンのモデリングを実行する。このようにして処理回路から得られた情報は、画像「レンダリング」回路2及びインタフェース回路6に、並列に伝送される。レンダリング回路の出力は、画像ブロックへの分割化のための回路3の入力及び動き補償回路7の第1の入力に、並列に連結される。
分割化回路の第1の出力は、モード選択回路5の第1の入力に直接連結される。
分割化回路のn個のうちの第2の出力iは、減算器4iのn個のうちの第1の入力に連結される。減算器4iの出力は、モード選択回路5のn個のうちの第2の入力iに連結される。
インタフェース回路6の出力のほうは動き補償回路7の第2の入力に連結される。動き補償回路のn個のうちの出力iは、減算器4iの第2の入力に連結される。
モード選択回路5の出力は、直列に配置された離散コサイン変換計算回路8、量子化回路9、及び可変長符号化回路10を通じて装置の出力に連結される。装置の出力である可変長符号化回路の出力は、量子化回路9(ビットレート調整を含む)の第2の入力へ戻される。動き補償回路7の他の出力は、可変長符号化回路10の第2の入力に連結される。本例では、動き補償7は前に復号化された画像、即ち再構成された画像なしで実行される。すると、「ドリフト」として知られる予測誤り累積問題が生じうる。方法を改善するために、補償回路7に対して前に復号化された画像を与える逆量子化、逆DCTを有する負帰還ループを使用することが可能である。
従って処理回路1は、シナリオの数学的形成に必要とされるコンピュータツールを象徴する。その機能は、上述のように、3次元でシーンをモデリングすること、即ちシーンを形成するオブジェクト及びスクリプトによって定義されるそれらの動きの数学的な式を定義することである。これらの数学的モデリングデータは、処理回路にとってアクセス可能であり、例えば予め定義されたモデルを記憶しているコンピュータファイルに由来してもよい。
画像レンダリング回路の役割は、合成画像を生成することである。これはモデリングされたシーンから画素への変換を行なう。得られた画像の輝度及び色度ディジタル情報は、MPEG−2標準に従って4つの8×8画素画像ブロックからなる16×16画素の大きさのブロックであるマクロブロックへの各画像の分割化を行なう分割化回路3へ伝送される。
インタフェース回路6の役割は、適用、ここでは画像合成によって与えられる変位情報を、動き補償回路7に伝送されるマクロブロックごとの動きの場に変換することである。各マクロブロックには、処理回路1から受信されたシーンのモデリングのための数学的データからこのインタフェース回路によって計算された少なくとも1つの動きベクトルが関連づけられる。並進、回転、相似拡大等といった数学的変形は、各マクロブロックに関連づけられた2次元ベクトルとして表わされる。
もちろん、動きベクトルは、例えばシーンの視点の変位を考慮した、オブジェクトの見かけの動きを表わす。
この変位の変換は以下のように実行される。
まず、変位は、3次元ベクトルによって定義されるオブジェクト並進であり、その3次元ベクトルの画像の面への投影が該面での座標のベクトル(Dx,Dy)を与えると仮定する。このオブジェクトの一部を表わす全ての画像マクロブロック全体に、この同一のベクトルが関連づけられ、これがMPEG標準で定義される動きベクトル(Dx,Dy)と見なされる。
オブジェクトの境界におけるマクロブロックといった、覆われた又は覆われていないゾーンといった特定的な場合がやはり存在する。
境界のブロックに関する限り、最も簡単な解決法は、マクロブロック中の多数派ベクトル、即ちそのマクロブロックの中の最多数の画素に対応するベクトルを、そのマクロブロックに関連する動きベクトルとすることである。また、背景に対応するベクトルよりもむしろ、オブジェクトに対応するベクトルを選択することも考えられる。この選択は最高ではない。というのも、上述の装置は、最も適したモード、例えば再構成(よって推定された動き)が良くない場合にイントラモードを選択するモード選択回路を有するからである。
覆われたマクロブロック/覆われていないマクロブロックに関して、最も簡単な解決法は、これらの覆われたマクロブロック又は覆われていないマクロブロックに対応するゾーンはあまりよく再構成されないことはわかっているので、そのマクロブロックにはゼロの動きを割り当てることである。より精巧な解決法は、B(双方向)画像に関して前方及び後方ベクトルのための規定を与えるMPEG−2構文によって与えられる。それによると、これらの2つの種類のベクトルが、処理回路1によって与えられるデータに基づいて動きインタフェース回路6によって計算され、従って、処理されるマクロブロックに関連する前方及び後方動きベクトルとみなされる。すると、覆われていないゾーンは(時間について)前向きの動きによって、覆われたゾーンは後向きの動きによって再構成されうる。符号化のモードの選択もここでモード選択回路によって実行される。
MPEG標準は実際、マクロブロックに対して様々なタイプのベクトル、即ち:
処理されるマクロブロックに対応する画像の前の画像及び後の画像を夫々考慮する「前方」又は「後方」単方向タイプのベクトル;
モード選択回路が双方向予測モードを選択する場合に使用される双方向タイプのベクトル、を割り当てることを可能とする。
これは実際はマクロブロックに関連づけられる2つのベクトルを含み、処理されるマクロブロックは、前方ベクトル及び後方ベクトルによって、これらのベクトルによって定義される2つのマクロブロックの平均であるマクロブロックとマッチングされる。この平均化はマッチングされる画素の輝度と処理されるマクロブロックへの時間的な距離との関数である。これらのベクトルは上で定義されたものと同一であってもよい。
動き補償回路7は、動きベクトル場及び表現計算回路によって伝送される先行(及び後続)画像に基づいて、予測画像、即ち動き補償された画像の計算を行なうと共に、そのようにして得られた画像のマクロブロックへの分割化を行なう。
分割化回路3によって伝送される現在マクロブロックは減算器4の正の入力上で受信され、補償回路7によって伝送される、予測画像の対応するマクロブロックは減算器の負の入力上で受信される。減算器の出力において得られる「残差」、即ち各画素に対して形成される差に対応するマクロブロックが、モード選択回路5へ送信される。
実際、上で定義される各タイプの動きベクトルに対応して、補償回路によって計算される予測画像がある。従ってこの回路は選択されるベクトルのタイプと同じ数の出力nを有し、各出力は、他方の入力上で画像の現在ブロックを受信する減算器4iに連結される。計算された全てのタイプの残差は、モード選択回路のn個の入力上へ送信される。モード選択回路はもう一つの入力があって、そこで分割化回路3から直接、現在マクロブロックを受信する。
モード選択回路5はマクロブロックが符号化されるべきモードを決定する。使用可能な符号化のモードは、例えば以下の通りである:
動き補償あり、又は動き補償なしの、即ち動きベクトルの送信を伴う、又は伴わない符号化;
イントラ符号化又は非イントラ符号化(画像間符号化、同様のパリティ又は同様でないパリティのフレーム間符号化、予測フレーム間又は予測双方向符号化等);
非イントラ符号化の場合、残差の符号化を行う、又は(残差が非常に小さい場合に)行わない。
モードの選択は、各モードにおいてマクロブロックエネルギー計算を行うことによって、また最も小さいエネルギーを与えるものを選択することによって行われる。大半の場合、エネルギー計算は絶対値の総和によって近似される。
選択されたブロックは次に、離散コサイン変換、量子化、及び可変長符号化タイプの符号化を受ける。ビットレートは量子化器へ送信されるべく装置の出力において引き出され、この調整ループは、簡単化のため量子化回路の中に含まれるビットレート調整ブロックによって量子化間隔に作用する。
処理されるマクロブロックに関連するベクトルは、動き補償回路によって、マクロブロックの量子化された係数によってこれらの値の多重化を行う可変長符号化回路10に送信される。
この装置を、例えば減算器に提出される予測マクロブロックのタイプを制限することによって簡単化することももちろん考えられる。すると、インタフェース回路が保有している情報から最も良い相関を可能にするモードを演繹しうる場合、モードの選択は部分的に上流で実行されうる。
インタフェース回路は次にこのモードを課するためにモード選択回路5の補助入力上にモードキューを送信する。
図2は他の図式的な実施例を示す図である。
処理回路11の出力は、画像レンダリング計算回路12の入力と動きインタフェース回路13の入力とへ並列に連結される。双方向リンクがこれらの画像レンダリング計算回路と動きインタフェース回路を接続する。画像レンダリング計算回路12の出力は、直列配置された離散コサイン変換計算回路14、量子化回路15、及び可変長符号化回路16を通じて装置の出力に連結される。装置の出力である可変長符号化回路の出力は、調整ループを構成するために量子化回路15の第2の入力へ戻される。
動き補償回路13の出力は、可変長符号化回路16の第2の入力に連結される。
処理回路11は、図1に示される処理回路と同じ特徴及び機能を有する。
ここで、回路12によって行われる表現計算の、図1に図示される計算との違いは、サンプリングによって行われる、即ち伝送されるべき画像のシーケンスのN枚の画像ごとに1枚の画像について実行されるという点である。
この回路によって構成される画像は次にマクロブロック及び画像のブロックへ分割化され、この機能はまたこの画像表現回路によっても実行される。ブロックは相次いで、これらのブロックのコサイン変換を行う離散コサイン変換を計算する回路14、変換された係数の量子化、待機及びこれらの係数の直列化を行う量子化回路15、及び直列化されたデータのエントロピー符号化を行う可変長符号化回路16へ送信される。調整ループが装置の出力においてビットレートを引き出して、量子化器15の中に組み込まれたビットレート調整回路へ供給する。該ビットレート調整回路は、かかる調整を行うために量子化間隔に作用する。
動きインタフェース回路13は、図1の動きインタフェース回路6について記載されたのと同様に動きベクトル場を計算し、現在処理されているマクロブロックに割り当てられる動きベクトルを可変長符号化回路へ送信する。動きインタフェース回路13はまた、前記動きベクトルに対応するモードキューを与える。前記可変長符号化回路は、現在マクロブロックに関連する動きベクトルを、符号化モード並びにこのマクロブロックの変換及び量子化されたデータと共に多重化を行い、この全てを当該装置からの出力として送信する。
動きインタフェース回路13と表現計算回路12との間のリンクは、マクロブロックの分割化、DCT回路へ送信される現在マクロブロック、符号化のモード等に関する情報を交換することを可能にする。
従ってここで、多大な計算時間を消費する画像レンダリング手順は簡単化される。これは、幾つかの合成画像のみを使用し、またその際に欠けている画像間の動きを使用することに基づく。計算された合成画像は、時間について離れており(即ちN個の画像期間毎に1つの画像)、典型的には符号器によってイントラモードで符号化された画像を表わす。言うところの欠けている画像は計算されず、送信されず、記憶されない。復号器が、送信されてくる動きキューを援用してこれらの欠けている画像を生成する役割を担う。従って、全ては、あたかも符号器が、予測誤り画像がヌルである(動き補償された予測が消去されている)構成であるかのように行われる。
回路13によって伝送される符号化のモードは、レンダリング回路によって処理される画像に依存する。計算される画像がイントラ符号化に対応するとき、これらの画像に対する動きベクトルは送信されない。中間画像はゼロの予測誤り(残差マクロブロックの係数がゼロ)でインターモードで符号化された画像とみなされ、動きベクトルによって表わされる動きは推定されたのではない、実際に計算された動きであり、合成画像には雑音がないと仮定される。復号器では、これらのインター画像は、上述のように、イントラ画像及び各インター画像に対して送信される動きベクトルから再生成される。
この用途では、マクロブロックごとの動き(動きベクトル)は不正確であってもよく、境界のブロックの欠陥は補正されず、照明はイントラ画像間では一定であると仮定される。かかる装置は、ビデオゲームといった画質がより低くともよい用途のために使用される。処理速度、データ圧縮、及び低い費用の構成は、画質を犠牲にしてでもかかる装置に課される特徴である。
この装置の画質に関する第1の改善点では、符号化のモードは処理されるマクロブロックのタイプに依存する。図2に点線で示される誤りインタフェース回路17が、この新しい機能を実行するために付加される。
誤りインタフェース回路は、画像レンダリング計算回路12との間で、現在マクロブロックの符号化に関する情報を交換するために処理回路11から情報を受信する。
誤りインタフェース回路の役割は、動いているオブジェクトの輪郭において生ずる誤りを検出することである。当該のマクロブロックに対して特定の処理が与えられる。送信されるべきマクロブロックが境界ブロックである場合、情報が処理回路11から生ずる情報に基づいて誤りを計算する回路によって計算されるか、又は画像レンダリング計算回路を通じて動きインタフェース回路13から受信されるとき、誤りインタフェース回路は、画像レンダリング計算回路上にこれらの境界ブロックのための画像レンダリングの計算を課する。すると、このマクロブロックに対してモードは強制的にイントラにされ、情報は動きインタフェース回路13へ送信される。簡単化された表現計算は従って、インターモードで符号化された画像、即ち画像のこれらのブロックに対してのみ画像レンダリング計算回路12によって行われる。
装置の第2の改善点は、図2に点線によって示される照明インタフェース18を追加することである。
照明インタフェース18は、画像レンダリング計算回路12との間で現在マクロブロックの符号化に関する情報を交換するために処理回路11から情報を受信する。
照明インタフェース回路の機能は、照明モデルを符号器用の誤り画像へ変換することである。オブジェクトキューからMPEG標準に準拠する符号化に適したキューへの切換えは、例えばある画像から別の画像への照明の変化が予測誤りであるとみなすことによって行われる。従って、ある画像から別の画像への処理されるマクロブロックの輝度の変化に関するキュー〔情報〕が照明インタフェース18によって画像レンダリング計算回路12へ送信される。次いでこのキュー〔情報〕が、予測誤りとみなされるので、残差ブロックの形でレンダリング回路によってDCT計算回路へ送信される。動きインタフェース13はこの処理されたマクロブロックについて計算される動きベクトル及び対応するモードタイプを同時に送信する。復号器において、再構成されたブロックは、残差ブロックが付加される動きベクトルに対応するブロックとなる。
装置の第3の改善点は、領域キューを量子化器15へ送信することを可能とする領域インタフェース19を追加することにある。
この領域インタフェース19は処理回路11からキューを受信し、画像レンダリング計算回路12との間で現在ブロックの符号化に関する情報を交換し、量子化器15へ領域情報を送信する。
このインタフェースは、処理回路11から生ずるモデリング情報の関数として画像を領域へ分割化する。ラベルは各領域に割り当てられ、より正確には各ブロックに、該ブロックが属する領域の関数として割り当てられ、ブロックによる画像の分割化に関するデータは画像レンダリング計算回路12から生ずる。量子化回路15によって計算される量子化間隔は、量子化間隔によって復号器へ「搬送される」領域キューを送信するよう、このラベルの関数として変更される。この変更は領域の特性、即ち、非均一領域及び/又は低い動きの領域の量子化間隔の減少、非常に高くテクスチャ化された領域又は大きな動きの領域での増加に依存する。従って、所与のビットレートでは復号化された画像の品質は改善され、より高くテクスチャ化されたゾーン又は大きな動きのゾーンではブロックの中の欠陥があまりよく気づかれないことを可能とする。
動きベクトルに対する技術と同じ技術は、所属の曖昧な場合に使用されえ、即ち、主領域が大多数がこのブロックの中にある場合(大多数モード)はブロックは主領域に所属すると宣言され、或いは画像の主オブジェクトがこのブロックの少なくとも一部分を形成する場合(主オブジェクトモード)はブロックは画像の主領域に所属すると宣言される。
このインタフェースは、符号器の性能及び可能な適用を改善することを可能とし、即ち、主な改善は例えば上述からわかるように小さな動きの均一でないゾーンの量子化間隔の減少によるものであり、2次元又は3次元適用では、復号器に関する相互作用性の改善は領域キューによるものである。
もちろん、これらは例示的な実施例であり、様々な変形は所望の画質、適用、処理速度、又は圧縮の度合いによって組み合わせられるか又は別個とされうる。
このように、図2の装置は図1の装置の機能に非常に良く組み込まれることができ、その逆もまた可能である。例えば、表現計算のため及び画像ブロックへの分割化のための回路12は、動き補償回路13からの情報に基づいて差分ブロック又は残差ブロックの計算のための減算器4iの機能を実行すると共に、DCT回路14に画像ブロックを与えるモード選択器の機能を実施しうる。動作モードの数は、もちろん回路の複雑性という不利益を伴うが、このように増加されうる。
上述の方法及び装置は、送信された圧縮されたデータ及び復号化の両方に関してMPEGタイプのデータ圧縮標準と完全に互換性がある。
本願はビデオゲーム、対話型アプリケーション、又は仮想現実適用のための再生中(仮想スタジオ、漫画、映像合成又はフィルム、特殊効果)の画像の合成に適用される。
本発明は、本発明によって簡単化のレベルが得られる内蔵型プラットフォーム(ワークステーション、ゲームコンソール)の中で実施されうる。
Claims (10)
- 一つ又は複数のオブジェクトを含むシーンを記述する合成画像のシーケンスのディジタルデータを圧縮する方法であって、シーンは、オブジェクトおよびその動きを定義する式を使う数学的モデルによって定義されるものであり、
上記数学的モデルからピクセル表現の、ある視点からの前記シーンの表現である合成画像を生成する画像レンダリング段階と、
この合成画像を画像ブロックに分割する段階と、
現在画像のあるブロックについて、該ブロックの上記現在画像と前の画像との間の動きに対応する動きベクトルを決定する段階と、
上記動きベクトルに従って上記前の画像における予測されたブロックを計算する段階と、
上記シーケンスの少なくとも一つの合成画像について、合成画像のあるブロックと対応する予測されたブロックとの間の差を取ることによって残差ブロックを与え、該残差ブロックを符号化して圧縮されたデータを与える段階とを含んでおり、
上記動きベクトルを決定する段階が、
上記数学的モデルによって与えられるオブジェクトの動きの情報を、少なくとも該オブジェクトの一部を含むブロックについて、上記合成画像中の見かけの動きに変換し、変換された動きの情報を、少なくとも上記の該オブジェクトの一部を含むブロックに対して割り当てることを含むことを特徴とする方法。 - 上記画像レンダリングは、Nを所定の数として、シーケンスのN枚の画像のうちの1枚の画像である選択された画像についてのみ実行され、該選択された画像はイントラモードで符号化され、
上記差を取ることによって残差ブロックを与え、該残差ブロックを符号化して圧縮されたデータを与える段階は、上記選択された画像以外の画像である中間画像のブロックに対して実行されることを特徴とする、請求項1記載の方法。 - 上記差を取ることによって残差ブロックを与え、該残差ブロックを符号化して圧縮されたデータを与える段階は、中間画像の全ブロックについて、すべての値がゼロである残差ベクトルを与えることを特徴とする、請求項2記載の方法。
- 画像の境界画像ブロックの符号化は強制的にイントラモードにされ、ここで、境界画像ブロックとは、少なくともあるオブジェクトの境界の一部を含む画像ブロックであることを特徴とする、請求項1乃至3のうちいずれか1項記載の方法。
- 上記画像の諸領域へのセグメント化を行い、上記画像の各ブロックに対して該ブロックが属する領域に従ってラベルを割り当て、領域情報を送信するようこのラベルの関数として量子化間隔を修正することを特徴とする、請求項1乃至4のうちいずれか1項記載の方法。
- 一つ又は複数のオブジェクトを含むシーンを記述する合成画像のシーケンスのディジタルデータを圧縮する装置であって、シーンは、オブジェクトおよびその動きを定義する式を使う数学的モデルによって定義されるものであり:
上記シーンの数学的モデルを与える処理回路と、
上記処理回路から受信した数学的データに基づいて、上記数学的モデルからピクセル表現の、ある視点からの前記シーンの表現である合成画像を生成し、この合成画像を画像ブロックに分割する画像レンダリング回路とを含んでおり、
当該装置がさらに、
現在画像のあるブロックについて、上記現在画像と前の画像との間の上記ブロックの動きに対応する動きベクトルを決定する、動きインタフェース回路と、
上記動きベクトルに従って上記前の画像における予測されたブロックを計算する動き補償回路と、
上記シーケンスの少なくとも一つの合成画像について、画像レンダリング回路からの合成画像のあるブロックと動き補償回路からの対応する予測されたブロックとの間の差を取ることによって残差ブロックを与える減算器と、
上記画像レンダリング回路からの画像ブロック又は上記減算器からの残差ブロックを符号化して圧縮されたデータを与える符号器とを含み、
上記動きインタフェース回路は、動きベクトルの決定を:
上記数学的モデルによって与えられるオブジェクトの動きの情報を、少なくとも該オブジェクトの一部を含むブロックについて、上記合成画像中の見かけの動きに変換し、変換された動きの情報を、少なくとも上記の該オブジェクトの一部を含むブロックに対して割り当てることによって行うことを特徴とする装置。 - 請求項6記載の装置であって、
上記符号器が離散コサイン変換回路を含み、
当該回路がさらに、上記符号器が上記画像レンダリング回路からの画像ブロックを符号化してイントラ符号化を実行するか上記減算器からの残差ブロックを符号化してインター符号化を実行するかを選択するモード選択回路を有することを特徴とする装置。 - 上記画像レンダリング回路は、Nを所定の数として、シーケンスのN枚の画像のうちの1枚の画像である選択された画像についてのみ合成画像を生成するよう構成されており、
当該装置は該選択された画像をイントラモードで送信するよう構成されており、
上記選択された画像以外の画像はインターモードで送信され、該インターモードにおいては、予測ブロックを定義し上記動きインタフェース回路からくる動きベクトルのみが送信され、残差ブロックの値はゼロと考えられることを特徴とする、請求項6記載の装置。 - 予測ブロックに伴う誤りが所定の閾値を超過した場合に現在ブロックの符号化を強制的にイントラモードにするよう、現在ブロックと予測ブロックとの間の誤りを検出するための誤りインタフェース回路を含むことを特徴とする、請求項8記載の装置。
- 上記ディジタルデータはMPEG2形式又は派生形式によって圧縮されることを特徴とする、請求項7乃至9のうちいずれか1項記載の装置。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| FR9614601A FR2756399B1 (fr) | 1996-11-28 | 1996-11-28 | Procede et dispositif de compression video pour images de synthese |
| FR96/14601 | 1996-11-28 | ||
| PCT/FR1997/002118 WO1998024061A1 (fr) | 1996-11-28 | 1997-11-24 | Procede et dispositif de compression video |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2001505381A JP2001505381A (ja) | 2001-04-17 |
| JP4338787B2 true JP4338787B2 (ja) | 2009-10-07 |
Family
ID=9498128
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP52435798A Expired - Fee Related JP4338787B2 (ja) | 1996-11-28 | 1997-11-24 | 映像圧縮のための方法及び装置 |
Country Status (12)
| Country | Link |
|---|---|
| US (1) | US6501796B1 (ja) |
| EP (1) | EP0941522B1 (ja) |
| JP (1) | JP4338787B2 (ja) |
| KR (1) | KR100499057B1 (ja) |
| CN (1) | CN1099656C (ja) |
| AU (1) | AU5228798A (ja) |
| BR (1) | BR9713157A (ja) |
| DE (1) | DE69715239T2 (ja) |
| FR (1) | FR2756399B1 (ja) |
| ID (1) | ID23677A (ja) |
| RU (1) | RU2209527C2 (ja) |
| WO (1) | WO1998024061A1 (ja) |
Families Citing this family (50)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1061750A3 (en) * | 1999-06-18 | 2010-05-05 | THOMSON multimedia | Picture compression process, especially of the MPEG2 type |
| US6891893B2 (en) * | 2000-04-21 | 2005-05-10 | Microsoft Corp. | Extensible multimedia application program interface and related methods |
| US6940912B2 (en) * | 2000-04-21 | 2005-09-06 | Microsoft Corporation | Dynamically adaptive multimedia application program interface and related methods |
| US7649943B2 (en) * | 2000-04-21 | 2010-01-19 | Microsoft Corporation | Interface and related methods facilitating motion compensation in media processing |
| US7634011B2 (en) * | 2000-04-21 | 2009-12-15 | Microsoft Corporation | Application program interface (API) facilitating decoder control of accelerator resources |
| EP1460377A3 (de) * | 2003-03-21 | 2004-09-29 | Leica Geosystems AG | Verfahren und Vorrichtung zur Bildverarbeitung in einem geodätischen Messgerät |
| US20050135481A1 (en) * | 2003-12-17 | 2005-06-23 | Sung Chih-Ta S. | Motion estimation with scalable searching range |
| JP4591657B2 (ja) * | 2003-12-22 | 2010-12-01 | キヤノン株式会社 | 動画像符号化装置及びその制御方法、プログラム |
| US7983835B2 (en) | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
| US7145562B2 (en) * | 2004-05-03 | 2006-12-05 | Microsoft Corporation | Integration of three dimensional scene hierarchy into two dimensional compositing system |
| US8031190B2 (en) | 2004-05-03 | 2011-10-04 | Microsoft Corporation | Translating two-dimensional user input on three-dimensional scene |
| RU2270528C1 (ru) * | 2004-08-12 | 2006-02-20 | Борис Иванович Волков | Способ сжатия и восстановления цифровых данных и устройство его осуществления |
| CN100357888C (zh) * | 2005-01-05 | 2007-12-26 | 英业达股份有限公司 | 游戏开发系统以及方法 |
| US8780957B2 (en) | 2005-01-14 | 2014-07-15 | Qualcomm Incorporated | Optimal weights for MMSE space-time equalizer of multicode CDMA system |
| WO2006099082A2 (en) | 2005-03-10 | 2006-09-21 | Qualcomm Incorporated | Content adaptive multimedia processing |
| KR20080016696A (ko) | 2005-05-31 | 2008-02-21 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 이미지 처리를 위한 변환 파라미터들의 계산 |
| KR100716999B1 (ko) | 2005-06-03 | 2007-05-10 | 삼성전자주식회사 | 영상의 대칭성을 이용한 인트라 예측 방법, 이를 이용한영상의 복호화, 부호화 방법 및 장치 |
| US7548853B2 (en) * | 2005-06-17 | 2009-06-16 | Shmunk Dmitry V | Scalable compressed audio bit stream and codec using a hierarchical filterbank and multichannel joint coding |
| US8879635B2 (en) | 2005-09-27 | 2014-11-04 | Qualcomm Incorporated | Methods and device for data alignment with time domain boundary |
| RU2378790C1 (ru) * | 2005-09-27 | 2010-01-10 | Квэлкомм Инкорпорейтед | Методики масштабируемости на основе информации содержимого |
| US8948260B2 (en) | 2005-10-17 | 2015-02-03 | Qualcomm Incorporated | Adaptive GOP structure in video streaming |
| US8654848B2 (en) | 2005-10-17 | 2014-02-18 | Qualcomm Incorporated | Method and apparatus for shot detection in video streaming |
| US9131164B2 (en) | 2006-04-04 | 2015-09-08 | Qualcomm Incorporated | Preprocessor method and apparatus |
| US7733350B2 (en) * | 2006-06-30 | 2010-06-08 | Microsoft Corporation | Anisometric texture synthesis |
| CA2655952A1 (en) * | 2006-07-07 | 2008-01-10 | Telefonaktiebolaget Lm Ericsson (Publ) | Device and method for simplifying vector graphics |
| US20080043832A1 (en) * | 2006-08-16 | 2008-02-21 | Microsoft Corporation | Techniques for variable resolution encoding and decoding of digital video |
| US8773494B2 (en) | 2006-08-29 | 2014-07-08 | Microsoft Corporation | Techniques for managing visual compositions for a multimedia conference call |
| BRPI0716814A2 (pt) * | 2006-09-20 | 2013-11-05 | Nippon Telegraph & Telephone | Método de codificação de imagem, e método de decodificação, aparelhos para isso, aparelho de decodificação de imagem, programas para isso, e mídias de armazenamento para armazenar os programas |
| EP2066133A4 (en) * | 2006-09-20 | 2015-11-18 | Nippon Telegraph & Telephone | BILDCODE PROCEDURE, DECODING METHOD, DEVICE FOR IT, IMAGE DECODING DEVICE, PROGRAM THEREFOR AND THE PROGRAM CONTAINING STORAGE MEDIUM |
| WO2008053746A1 (fr) * | 2006-10-30 | 2008-05-08 | Nippon Telegraph And Telephone Corporation | Procédé de génération d'informations de référence prédictives, procédé de codage et de décodage d'image dynamiques, leur dispositif, leur programme et support de stockage contenant le programme |
| JP4826546B2 (ja) * | 2007-06-18 | 2011-11-30 | ソニー株式会社 | 画像処理装置、画像処理方法、及びプログラム |
| RU2339082C1 (ru) * | 2007-08-03 | 2008-11-20 | Виталий Оскарович Гроппен | Способ компрессии и декомпрессии статических изображений и видеоинформации в цифровой форме |
| US8473288B2 (en) * | 2008-06-19 | 2013-06-25 | Panasonic Corporation | Quantizer, encoder, and the methods thereof |
| US20110135005A1 (en) * | 2008-07-20 | 2011-06-09 | Dolby Laboratories Licensing Corporation | Encoder Optimization of Stereoscopic Video Delivery Systems |
| JP5169978B2 (ja) * | 2009-04-24 | 2013-03-27 | ソニー株式会社 | 画像処理装置および方法 |
| KR101714776B1 (ko) * | 2009-05-18 | 2017-03-09 | 코닌클리케 필립스 엔.브이. | 3d 트릭플레이용 엔트리 포인트들 |
| KR101457894B1 (ko) | 2009-10-28 | 2014-11-05 | 삼성전자주식회사 | 영상 부호화 방법 및 장치, 복호화 방법 및 장치 |
| RU2420912C1 (ru) * | 2009-11-24 | 2011-06-10 | Федеральное государственное унитарное предприятие "Научно-исследовательский институт телевидения" | Способ распространения и транскодирования видеоконтента |
| BR112012019680A2 (pt) | 2010-02-09 | 2016-05-03 | Nippon Telegraph & Telephone | método de codificação preditiva de vetor de movimento, método de decodificação preditiva de vetor de movimento, aparelho de codificação de imagem em movimento, aparelho de decodificação de imagem em movimento e programas destes. |
| US9497481B2 (en) | 2010-02-09 | 2016-11-15 | Nippon Telegraph And Telephone Corporation | Motion vector predictive encoding method, motion vector predictive decoding method, moving picture encoding apparatus, moving picture decoding apparatus, and programs thereof |
| CN102835110B (zh) * | 2010-02-09 | 2015-07-29 | 日本电信电话株式会社 | 运动矢量预测编码方法、运动矢量预测解码方法、运动图像编码装置、运动图像解码装置及其程序 |
| KR20150013776A (ko) * | 2010-04-09 | 2015-02-05 | 미쓰비시덴키 가부시키가이샤 | 동화상 부호화 장치 및 동화상 복호 장치 |
| EP2599083B1 (en) * | 2010-07-26 | 2016-01-27 | Koninklijke Philips N.V. | Determining representative images for a video |
| CN103222265B (zh) * | 2010-09-30 | 2017-02-08 | 三菱电机株式会社 | 运动图像编码装置、运动图像解码装置、运动图像编码方法以及运动图像解码方法 |
| CN102055982B (zh) * | 2011-01-13 | 2012-06-27 | 浙江大学 | 三维视频编解码方法及装置 |
| CN102833490A (zh) * | 2011-06-15 | 2012-12-19 | 新诺亚舟科技(深圳)有限公司 | 一种互动视频的编辑播放方法、系统及电子学习设备 |
| RU2476933C1 (ru) * | 2011-06-16 | 2013-02-27 | Федеральный научно-производственный центр Открытое акционерное общество "Научно-производственное объединение "Марс" | Способ моделирования изображений с изменяющимися корреляционными свойствами |
| WO2013026155A1 (en) * | 2011-08-19 | 2013-02-28 | Alexander Zhirkov | Multi-structural, multi-level information formalization and structuring method, and associated apparatus |
| KR101653692B1 (ko) | 2013-08-19 | 2016-09-02 | 후아웨이 테크놀러지 컴퍼니 리미티드 | 데이터 오브젝트 처리 방법 및 장치 |
| RU2557449C1 (ru) * | 2014-04-07 | 2015-07-20 | Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "Военная академия связи имени Маршала Советского Союза С.М. Буденного" Министерства Обороны Российской Федерации (Минобороны России) | Способ кодирования и декодирования видеоинформации на основе трехмерного дискретного косинусного преобразования |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE3382806T2 (de) * | 1982-06-11 | 1996-11-14 | Mitsubishi Electric Corp | Vektorquantisierer |
| SU1574152A1 (ru) * | 1988-06-27 | 1994-03-30 | Томский Институт Автоматизированных Систем Управления И Радиоэлектроники | Телевизионное следящее устройство |
| US5262856A (en) * | 1992-06-04 | 1993-11-16 | Massachusetts Institute Of Technology | Video image compositing techniques |
| CA2144253C (en) * | 1994-04-01 | 1999-09-21 | Bruce F. Naylor | System and method of generating compressed video graphics images |
| US5486863A (en) * | 1994-04-29 | 1996-01-23 | Motorola, Inc. | Method for determining whether to intra code a video block |
| CN1312549C (zh) * | 1995-02-13 | 2007-04-25 | 英特特拉斯特技术公司 | 用于安全交易管理和电子权利保护的系统和方法 |
| ZA962305B (en) * | 1995-03-22 | 1996-09-27 | Idt Deutschland Gmbh | Method and apparatus for coordination of motion determination over multiple frames |
-
1996
- 1996-11-28 FR FR9614601A patent/FR2756399B1/fr not_active Expired - Fee Related
-
1997
- 1997-11-24 BR BR9713157-1A patent/BR9713157A/pt active Search and Examination
- 1997-11-24 EP EP97947128A patent/EP0941522B1/fr not_active Expired - Lifetime
- 1997-11-24 DE DE69715239T patent/DE69715239T2/de not_active Expired - Lifetime
- 1997-11-24 US US09/308,518 patent/US6501796B1/en not_active Expired - Lifetime
- 1997-11-24 WO PCT/FR1997/002118 patent/WO1998024061A1/fr not_active Ceased
- 1997-11-24 ID IDW990439D patent/ID23677A/id unknown
- 1997-11-24 CN CN97180123A patent/CN1099656C/zh not_active Expired - Fee Related
- 1997-11-24 RU RU99113845/09A patent/RU2209527C2/ru not_active IP Right Cessation
- 1997-11-24 AU AU52287/98A patent/AU5228798A/en not_active Abandoned
- 1997-11-24 JP JP52435798A patent/JP4338787B2/ja not_active Expired - Fee Related
- 1997-11-24 KR KR10-1999-7004479A patent/KR100499057B1/ko not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| DE69715239D1 (de) | 2002-10-10 |
| AU5228798A (en) | 1998-06-22 |
| CN1099656C (zh) | 2003-01-22 |
| JP2001505381A (ja) | 2001-04-17 |
| EP0941522A1 (fr) | 1999-09-15 |
| WO1998024061A1 (fr) | 1998-06-04 |
| FR2756399A1 (fr) | 1998-05-29 |
| ID23677A (id) | 2000-05-11 |
| US6501796B1 (en) | 2002-12-31 |
| EP0941522B1 (fr) | 2002-09-04 |
| BR9713157A (pt) | 2000-02-08 |
| KR100499057B1 (ko) | 2005-07-01 |
| RU2209527C2 (ru) | 2003-07-27 |
| FR2756399B1 (fr) | 1999-06-25 |
| KR20000057175A (ko) | 2000-09-15 |
| CN1253647A (zh) | 2000-05-17 |
| DE69715239T2 (de) | 2003-05-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4338787B2 (ja) | 映像圧縮のための方法及び装置 | |
| US5742289A (en) | System and method of generating compressed video graphics images | |
| CN103250182B (zh) | 用于色调映射hdr数据视频流的方法和系统 | |
| US11412233B2 (en) | Methods for MR-DIBR disparity map merging and disparity threshold determination | |
| CN100581250C (zh) | 用于三维计算机图形压缩的系统和方法 | |
| US11381835B2 (en) | Systems and methods for game-generated motion vectors | |
| JP2003533101A (ja) | 予測符号化オブジェクトベース画像信号を予測符号化ブロックベース画像信号にトランスコーディングするトランスコーディング方法およびトランスコーダ | |
| JPH10108201A (ja) | 輪郭線映像信号符号化方法及びその装置 | |
| CN103716643A (zh) | 用于使用内容信息改进视频编码的系统和方法 | |
| JPH10208060A (ja) | 物体輪郭線映像信号符号化方法及び装置 | |
| JP2002369205A (ja) | 動画像生成装置 | |
| JP2002523987A (ja) | ディジタル画像の符号化方法および符号化装置ならびにディジタル画像の復号方法および復号装置 | |
| MXPA99004805A (en) | Method and device for video compression | |
| Galpinab et al. | Computed 3D models for very low bitrate video coding | |
| CN119767020A (zh) | 基于图像相似性的视频编码方法、系统、设备和存储介质 | |
| Giesen | Efficient Compression and Rendering in a Client-Server setting | |
| Chiueh | Zodiac2: An Authoring Tool for Active Video Content | |
| Bülow et al. | Compression of Stereo Disparity Streams Using Wavelets and Optical Flow | |
| Rehan | New efficient block-based motion estimation algorithms for video compression and their hardware implementations | |
| Chaddha et al. | Model-based compression for synthetic animations | |
| KR19980074268A (ko) | VOP(Video Object Planes) 영상정보 부호화방식의 물체영역 정의방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041122 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071211 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080307 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080507 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080903 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20081016 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090210 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090430 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090602 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090701 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120710 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120710 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130710 Year of fee payment: 4 |
|
| LAPS | Cancellation because of no payment of annual fees |