Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4147789B2 - 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体 - Google Patents
[go: Go Back, main page]

JP4147789B2 - 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体 - Google Patents

画像処理装置および画像処理方法、並びにプログラムおよび記録媒体 Download PDF

Info

Publication number
JP4147789B2
JP4147789B2 JP2002061420A JP2002061420A JP4147789B2 JP 4147789 B2 JP4147789 B2 JP 4147789B2 JP 2002061420 A JP2002061420 A JP 2002061420A JP 2002061420 A JP2002061420 A JP 2002061420A JP 4147789 B2 JP4147789 B2 JP 4147789B2
Authority
JP
Japan
Prior art keywords
block
pixel
interest
attention
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002061420A
Other languages
English (en)
Other versions
JP2003264833A (ja
Inventor
哲二郎 近藤
秀雄 中屋
俊彦 浜松
秀樹 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002061420A priority Critical patent/JP4147789B2/ja
Publication of JP2003264833A publication Critical patent/JP2003264833A/ja
Application granted granted Critical
Publication of JP4147789B2 publication Critical patent/JP4147789B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理装置および画像処理方法、並びにプログラムおよび記録媒体に関し、特に、例えば、画像を、少なくとも2次元DCT(Discrete Cosine Transform)変換することにより符号化した符号化データを、効率的に、高画質の画像に復号することができるようにする画像処理装置および画像処理方法、並びにプログラムおよび記録媒体に関する。
【0002】
【従来の技術】
例えば、ディジタル画像データは、そのデータ量が多いため、そのまま記録や伝送を行うには、大容量の記録媒体や伝送媒体が必要となる。そこで、一般には、画像データを圧縮符号化することにより、そのデータ量を削減してから、記録や伝送が行われる。
【0003】
画像データを圧縮符号化する方式としては、例えば、画像データを、水平および垂直の2方向についてDCT変換する2次元DCT変換を利用したものがあり、その代表的なものとしては、例えば、静止画の圧縮符号化方式であるJPEG(Joint Photographic Experts Group)方式や、動画の圧縮符号化方式であるMPEG(Moving Picture Experts Group)方式等がある。
【0004】
例えば、JPEG方式による画像データの符号化/復号は、図1に示すように行われる。
【0005】
即ち、図1(A)は、従来のJPEG符号化装置の一例の構成を示している。
【0006】
符号化対象の画像データは、ブロック化回路1に入力され、ブロック化回路1は、そこに入力される画像データを、横×縦が8×8画素の64画素でなるブロックに分割する。ブロック化回路1で得られる各ブロックは、DCT回路2に供給される。DCT回路2は、ブロック化回路1からのブロックに対して、DCT処理を施し(2次元DCT変換し)、1個のDC(Direct Current)成分(直流成分)と、水平方向および垂直方向についての63個のAC(Alternating Current)成分(交流成分)の、合計64個のDCT係数に変換する。各ブロックごとの64個のDCT係数は、DCT回路2から量子化回路3に供給される。
【0007】
量子化回路3は、所定の量子化テーブルにしたがって、DCT回路2からのDCT係数を量子化し、その量子化結果(以下、適宜、量子化DCT係数という)を、量子化に用いた量子化テーブルとともに、エントロピー符号化回路4に供給する。
【0008】
ここで、図1(B)は、量子化回路3において用いられる量子化テーブルの例を示している。量子化テーブルには、一般に、人間の視覚特性を考慮して、重要性の高い低周波数のDCT係数は細かく量子化し、重要性の低い高周波数のDCT係数は粗く量子化するような量子化ステップが設定されており、これにより、画像の画質の劣化を抑えて、効率の良い圧縮が行われるようになっている。
【0009】
エントロピー符号化回路4は、量子化回路3からの量子化DCT係数に対して、例えば、ハフマン符号化等のエントロピー符号化処理を施して、量子化回路3からの量子化テーブルを付加し、その結果得られる符号化データを、JPEG符号化結果として出力する。
【0010】
次に、図1(C)は、図1(A)のJPEG符号化装置が出力する符号化データを復号する、従来のJPEG復号装置の一例の構成を示している。
【0011】
符号化データは、エントロピー復号回路11に入力され、エントロピー復号回路11は、符号化データを、エントロピー符号化された量子化DCT係数と、量子化テーブルとに分離する。さらに、エントロピー復号回路11は、エントロピー符号化された量子化DCT係数をエントロピー復号し、その結果得られる量子化DCT係数を、量子化テーブルとともに、逆量子化回路12に供給する。逆量子化回路12は、エントロピー復号回路11からの量子化DCT係数を、同じくエントロピー復号回路11からの量子化テーブルにしたがって逆量子化し、その結果得られるDCT係数を、逆DCT回路13に供給する。逆DCT回路13は、逆量子化回路12からのDCT係数に、逆DCT処理を施し(2次元逆DCT変換し)、その結果得られる8×8画素の復号ブロックを、ブロック分解回路14に供給する。ブロック分解回路14は、逆DCT回路13からの復号ブロックのブロック化を解くことで、復号画像を得て出力する。
【0012】
【発明が解決しようとする課題】
図1(A)のJPEG符号化装置では、その量子化回路3において、ブロックの量子化に用いる量子化テーブルの量子化ステップを大きくすることにより、符号化データのデータ量を削減することができる。即ち、高圧縮を実現することができる。
【0013】
しかしながら、量子化ステップを大きくすると、いわゆる量子化誤差も大きくなることから、図1(C)のJPEG復号装置で得られる復号画像の画質が劣化する。即ち、復号画像には、ぼけや、ブロック歪み、モスキートノイズ等が顕著に現れる。
【0014】
従って、符号化データのデータ量を削減しながら、復号画像の画質を劣化させないようにするには、あるいは、符号化データのデータ量を維持して、復号画像の画質を向上させるには、一般には、JPEG復号した後に、何らかの画質向上のための処理を行う必要がある。
【0015】
しかしながら、JPEG復号した後に、画質向上のための処理を行うことは、処理が煩雑になり、最終的に復号画像が得られるまでの時間も長くなる。
【0016】
MPEG方式においても、JPEG方式と同様に、画像データ(動画像データ)が2次元DCT変換され、量子化されるため、JPEG方式における場合と同様に、復号画像の画質が劣化する。
【0017】
本発明は、このような状況に鑑みてなされたものであり、画像データをJPEG符号化やMPEG符号化等した符号化データを、効率的に、画質の良い復号画像に復号することができるようにするものである。
【0018】
【課題を解決するための手段】
本発明の第1の画像処理装置は、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、符号化データから取得する2次元DCT係数取得手段と、復号対象として注目している画素である注目画素を含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、注目画素が位置するかを判定する領域判定手段と、少なくとも、注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出手段と、注目画素が、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目画素と点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退手段と、注目画素が、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目画素が、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目画素が、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目画素が、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作手段と、学習用の画像データを、少なくとも、所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、学習用の画像データを構成する各画素を学習の教師となる教師データとし、教師データのうちの注目している注目教師データに対して、DCT係数抽出手段と同様に抽出した生徒データとしての2次元DCT係数と学習係数との積和演算で得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに求めた学習係数のなかから、注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、DCT係数抽出手段により抽出されたDCT係数との積和演算を行うことにより、注目画素の画素値を予測する予測手段とを備えることを特徴とする。
【0019】
本発明の第1の画像処理方法は、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、符号化データから取得する2次元DCT係数取得ステップと、復号対象として注目している画素である注目画素を含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、注目画素が位置するかを判定する領域判定ステップと、少なくとも、注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目画素と点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目画素が、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目画素が、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目画素が、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習用の画像データを、少なくとも、所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、学習用の画像データを構成する各画素を学習の教師となる教師データとし、教師データのうちの注目している注目教師データに対して、DCT係数抽出手段と同様に抽出した生徒データとしての2次元DCT係数と学習係数との積和演算で得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに求めた学習係数のなかから、注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、注目画素の画素値を予測する予測ステップとを備えることを特徴とする。
【0020】
本発明の第1のプログラムは、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、符号化データから取得する2次元DCT係数取得ステップと、復号対象として注目している画素である注目画素を含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、注目画素が位置するかを判定する領域判定ステップと、少なくとも、注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目画素と点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目画素が、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目画素が、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目画素が、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習用の画像データを、少なくとも、所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、学習用の画像データを構成する各画素を学習の教師となる教師データとし、教師データのうちの注目している注目教師データに対して、DCT係数抽出手段と同様に抽出した生徒データとしての2次元DCT係数と学習係数との積和演算で得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに求めた学習係数のなかから、注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、注目画素の画素値を予測する予測ステップとをコンピュータに行わせることを特徴とする。
【0021】
本発明の第1の記録媒体は、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、符号化データから取得する2次元DCT係数取得ステップと、復号対象として注目している画素である注目画素を含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、注目画素が位置するかを判定する領域判定ステップと、少なくとも、注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目画素が、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目画素と点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目画素が、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目画素が、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目画素が、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目画素が、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習用の画像データを、少なくとも、所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、学習用の画像データを構成する各画素を学習の教師となる教師データとし、教師データのうちの注目している注目教師データに対して、DCT係数抽出手段と同様に抽出した生徒データとしての2次元DCT係数と学習係数との積和演算で得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに求めた学習係数のなかから、注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、注目画素の画素値を予測する予測ステップとをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴とする。
【0022】
本発明の第2の画像処理装置は、学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得手段と、学習用の画像データを構成する各画素を、学習の教師となる教師データとして、教師データのうちの、注目している教師データである注目教師データを予測するのに用いる2次元DCT係数を抽出するDCT係数抽出手段と、注目教師データを含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、注目教師データが位置するかを判定する領域判定手段と、注目教師データが、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目教師データの位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目教師データと点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退手段と、注目教師データが、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目教師データが、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目教師データが、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目教師データが、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作手段と、学習係数とDCT係数抽出手段により抽出された2次元DCT係数との積和演算を行うことにより得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに学習を行うことにより、縮退画素位置情報ごとの学習係数を求める学習手段とを備えることを特徴とする。
【0023】
本発明の第2の画像処理方法は、学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、学習用の画像データを構成する各画素を、学習の教師となる教師データとして、教師データのうちの、注目している教師データである注目教師データを予測するのに用いる2次元DCT係数を抽出するDCT係数抽出ステップと、注目教師データを含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、注目教師データが位置するかを判定する領域判定ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目教師データの位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目教師データと点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目教師データが、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目教師データが、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目教師データが、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習係数とDCT係数抽出ステップの処理により抽出された2次元DCT係数との積和演算を行うことにより得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに学習を行うことにより、縮退画素位置情報ごとの学習係数を求める学習ステップとを備えることを特徴とする。
【0024】
本発明の第2のプログラムは、学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、学習用の画像データを構成する各画素を、学習の教師となる教師データとして、教師データのうちの、注目している教師データである注目教師データを予測するのに用いる2次元DCT係数を抽出するDCT係数抽出ステップと、注目教師データを含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、注目教師データが位置するかを判定する領域判定ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目教師データの位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目教師データと点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目教師データが、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目教師データが、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目教師データが、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習係数とDCT係数抽出ステップの処理により抽出された2次元DCT係数との積和演算を行うことにより得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに学習を行うことにより、縮退画素位置情報ごとの学習係数を求める学習ステップとをコンピュータに行わせることを特徴とする。
【0025】
本発明の第2の記録媒体は、学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、学習用の画像データを構成する各画素を、学習の教師となる教師データとして、教師データのうちの、注目している教師データである注目教師データを予測するのに用いる2次元DCT係数を抽出するDCT係数抽出ステップと、注目教師データを含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、注目教師データが位置するかを判定する領域判定ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目教師データの位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力し、注目教師データが、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目教師データと点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報を、縮退画素位置情報として出力する画素位置情報縮退ステップと、注目教師データが、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号を、そのままとし、注目教師データが、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転し、注目教師データが、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号を反転し、注目教師データが、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号を反転するとともに、注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、学習係数とDCT係数抽出ステップの処理により抽出された2次元DCT係数との積和演算を行うことにより得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに学習を行うことにより、縮退画素位置情報ごとの学習係数を求める学習ステップとをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴とする。
【0026】
本発明の第1の画像処理装置および画像処理方法、並びにプログラムにおいては、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数が、符号化データから取得され、復号対象として注目している画素である注目画素を含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、注目画素が位置するかが判定され、少なくとも、注目ブロックの2次元DCT係数すべてが抽出され、注目画素が、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目画素の位置を表す情報が、縮退画素位置情報として出力され、注目画素が、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力され、注目画素が、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目画素と線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力され、注目画素が、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目画素と点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力される。また、注目画素が、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号が、そのままとされ、注目画素が、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号が反転され、注目画素が、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号が反転され、注目画素が、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号が反転されるとともに、注目ブロックの偶数行に位置するものの符号が反転される。学習用の画像データを符号化した符号化データから、少なくとも、学習用の画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとし、学習用の画像データを構成する各画素を、学習の教師となる教師データとし、教師データのうちの注目している注目教師データに対して、DCT係数抽出手段と同様に抽出した生徒データとしての2次元DCT係数と学習係数との積和演算で得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに求めた学習係数のなかから、注目画素の縮退画素位置情報に対応する学習係数が取得され、その取得された学習係数と、抽出されたDCT係数との積和演算が行われることにより、注目画素の画素値が予測される。
【0027】
本発明の第2の画像処理装置および画像処理方法、並びにプログラムにおいては、学習用の画像データが符号化され、その結果得られる符号化データから、少なくとも、画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数が、学習の生徒となる生徒データとして取得される。さらに、学習用の画像データを構成する各画素を、学習の教師となる教師データとして、教師データのうちの、注目している教師データである注目教師データを予測するのに用いる2次元DCT係数が抽出され、注目教師データを含むブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、注目教師データが位置するかが判定される。注目教師データが、注目ブロックの左上の領域に位置する場合、注目ブロックにおける注目教師データの位置を表す情報が、縮退画素位置情報として出力され、注目教師データが、注目ブロックの右上の領域に位置する場合、注目ブロックを左右に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力され、注目教師データが、注目ブロックの左下の領域に位置する場合、注目ブロックを上下に2等分する線について、注目教師データと線対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力され、注目教師データが、注目ブロックの右下の領域に位置する場合、注目ブロックを左右に2等分する線と上下に2等分する線との交点について、注目教師データと点対称の位置にある注目ブロックの左上の領域における画素の位置を表す情報が、縮退画素位置情報として出力される。また、注目教師データが、注目ブロックの左上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数の符号が、そのままとされ、注目教師データが、注目ブロックの右上の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号が反転され、注目教師データが、注目ブロックの左下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数行に位置するものの符号が反転され、注目教師データが、注目ブロックの右下の領域に位置する場合、抽出された注目ブロックの2次元DCT係数のうち、注目ブロックの偶数列に位置するものの符号が反転されるとともに、注目ブロックの偶数行に位置するものの符号が反転される。そして、学習係数と、抽出された2次元DCT係数との積和演算を行うことにより得られる注目教師データの予測値の予測誤差が統計的に最小になるように縮退画素位置情報ごとに学習が行われることにより、縮退画素位置情報ごとの学習係数が求められる。
【0028】
【発明の実施の形態】
図2は、本発明を適用した画像伝送システムの一実施の形態の構成例を示している。
【0029】
伝送すべき画像データは、エンコーダ21に供給されるようになっており、エンコーダ21は、そこに供給される画像データを、少なくとも、所定のブロックごとに2次元DCT変換することにより符号化する。即ち、エンコーダ21では、そこに供給される画像データが、静止画または動画の画像データである場合には、その静止画または動画の画像データが、例えば、それぞれJPEG符号化またはMPEG符号化される。
【0030】
エンコーダ21が画像データを符号化することにより得られる符号化データは、例えば、半導体メモリ、光磁気ディスク、磁気ディスク、光ディスク、磁気テープ、相変化ディスクなどでなる記録媒体23に記録され、あるいは、また、例えば、地上波、衛星回線、CATV(Cable Television)網、インターネット、公衆回線などでなる伝送媒体24を介して伝送される。
【0031】
デコーダ22は、記録媒体23または伝送媒体24を介して提供される符号化データを受信して、画像データに復号する。この復号された画像データ(復号画像データ)は、例えば、図示せぬモニタに供給されて表示等される。
【0032】
次に、図2のエンコーダ21に供給される画像データが静止画である場合には、エンコーダ21は、その画像データを、例えばJPEG符号化する。この場合、エンコーダ21は、例えば、前述の図1(A)に示したJPEG符号化装置と同様に構成され、画像データをJPEG符号化し、符号化データとして出力する。
【0033】
図3は、図2のエンコーダ21において静止画の画像データがJPEG符号化される場合の、図2のデコーダ22の構成例を示している。
【0034】
符号化データは、エントロピー復号回路31に供給されるようになっており、エントロピー復号回路31は、符号化データを、エントロピー復号して、その結果得られるブロックごとの量子化DCT係数Qを、係数変換回路32に供給する。
【0035】
係数変換回路32は、エントロピー復号回路31からの量子化DCT係数Qを逆量子化して、8×8のブロックごとのDCT係数とし、そのDCT係数と、後述する学習を行うことにより求められるタップ係数を用いて、所定の予測演算を行うことにより、ブロックごとのDCT係数を、8×8画素の元のブロックに復号する。
【0036】
ブロック分解回路33は、係数変換回路32において得られる、復号されたブロック(復号ブロック)のブロック化を解くことで、復号画像を得て出力する。
【0037】
次に、図4のフローチャートを参照して、図3のデコーダ22の処理について説明する。
【0038】
符号化データは、エントロピー復号回路31に順次供給され、ステップS1において、エントロピー復号回路31は、符号化データをエントロピー復号し、ブロックごとの量子化DCT係数Qを、係数変換回路32に供給する。係数変換回路32は、ステップS2において、エントロピー復号回路31からのブロックごとの量子化DCT係数Qを逆量子化し、その結果得られるDCT係数と、学習を行うことによりあらかじめ得られているタップ係数とを用いた予測演算を行うことにより、ブロックごとの画素値を復号して、ブロック分解回路33に供給する。ブロック分解回路33は、ステップS3において、係数変換回路32からの画素値のブロック(復号ブロック)のブロック化を解くブロック分解を行い、その結果得られる復号画像を出力して、処理を終了する。
【0039】
次に、図3の係数変換回路32では、例えば、本件出願人が先に提案しているクラス分類適応処理を利用して、量子化DCT係数を、画素値に復号することができる。
【0040】
クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものであり、適応処理は、以下のような手法のものである。
【0041】
即ち、適応処理では、例えば、DCT係数と、所定のタップ係数との線形結合により、元の画素の予測値を求めることで、DCT係数が、元の画素値に復号される。
【0042】
具体的には、例えば、いま、ある画像を教師データとするとともに、その画像を、ブロック単位でDCT処理し、さらに量子化して得られるDCT係数(あるいは、そのDCT係数をさらに逆量子化して得られるDCT係数)を生徒データとして、教師データである画素の画素値yの予測値E[y]を、幾つかのDCT係数x1,x2,・・・の集合と、所定のタップ係数w1,w2,・・・の線形結合により規定される線形1次結合モデルにより求めることを考える。この場合、予測値E[y]は、次式で表すことができる。
【0043】
Figure 0004147789
【0044】
式(1)を一般化するために、タップ係数wjの集合でなる行列W、生徒データxijの集合でなる行列X、および予測値E[yj]の集合でなる行列Y’を、
【数1】
Figure 0004147789
で定義すると、次のような観測方程式が成立する。
【0045】
XW=Y’・・・(2)
ここで、行列Xの成分xijは、i件目の生徒データの集合(i件目の教師データyiの予測に用いる生徒データの集合)の中のj番目の生徒データを意味し、行列Wの成分wjは、生徒データの集合の中のj番目の生徒データとの積が演算されるタップ係数を表す。また、yiは、i件目の教師データを表し、従って、E[yi]は、i件目の教師データの予測値を表す。なお、式(1)の左辺におけるyは、行列Yの成分yiのサフィックスiを省略したものであり、また、式(1)の右辺におけるx1,x2,・・・も、行列Xの成分xijのサフィックスiを省略したものである。
【0046】
そして、この観測方程式に最小自乗法を適用して、元の画素値yに近い予測値E[y]を求めることを考える。この場合、教師データとなる真の画素値yの集合でなる行列Y、および画素値yに対する予測値E[y]の残差eの集合でなる行列Eを、
【数2】
Figure 0004147789
で定義すると、式(2)から、次のような残差方程式が成立する。
【0047】
XW=Y+E・・・(3)
【0048】
この場合、元の画素値yに近い予測値E[y]を求めるためのタップ係数wjは、自乗誤差
【数3】
Figure 0004147789
を最小にすることで求めることができる。
【0049】
従って、上述の自乗誤差をタップ係数wjで微分したものが0になる場合、即ち、次式を満たすタップ係数wjが、元の画素値yに近い予測値E[y]を求めるため最適値ということになる。
【0050】
【数4】
Figure 0004147789
・・・(4)
【0051】
そこで、まず、式(3)を、タップ係数wjで微分することにより、次式が成立する。
【0052】
【数5】
Figure 0004147789
・・・(5)
【0053】
式(4)および(5)より、式(6)が得られる。
【0054】
【数6】
Figure 0004147789
・・・(6)
【0055】
さらに、式(3)の残差方程式における生徒データxij、タップ係数wj、教師データyi、および残差eiの関係を考慮すると、式(6)から、次のような正規方程式を得ることができる。
【0056】
【数7】
Figure 0004147789
・・・(7)
【0057】
なお、式(7)に示した正規方程式は、行列(共分散行列)Aおよびベクトルvを、
【数8】
Figure 0004147789
で定義するとともに、ベクトルWを、数1で示したように定義すると、式
AW=v・・・(8)
で表すことができる。
【0058】
式(7)における各正規方程式は、生徒データxijおよび教師データyiのセットを、ある程度の数だけ用意することで、求めるべきタップ係数wjの数Jと同じ数だけたてることができ、従って、式(8)を、ベクトルWについて解くことで(但し、式(8)を解くには、式(8)における行列Aが正則である必要がある)、最適なタップ係数(ここでは、自乗誤差を最小にするタップ係数)wjを求めることができる。なお、式(8)を解くにあたっては、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることが可能である。
【0059】
以上のようにして、最適なタップ係数wjを求めておき、さらに、そのタップ係数wjを用い、式(1)により、元の画素値yに近い予測値E[y]を求めるのが適応処理である。
【0060】
なお、例えば、教師データとして、JPEG符号化する画像と同一画質の画像を用いるとともに、生徒データとして、その教師データをDCTおよび量子化して得られるDCT係数を用いた場合、タップ係数としては、JPEG符号化された画像データを、元の画像データに復号するのに、予測誤差が、統計的に最小となるものが得られることになる。
【0061】
従って、JPEG符号化を行う際の圧縮率を高くしても、即ち、量子化に用いる量子化ステップを粗くしても、適応処理によれば、予測誤差が、統計的に最小となる復号処理が施されることになり、実質的に、JPEG符号化された画像の復号処理と、その画質を向上させるための処理とが、同時に施されることになる。その結果、圧縮率を高くしても、復号画像の画質を維持することができる。
【0062】
また、例えば、教師データとして、JPEG符号化する画像よりも高画質の画像を用いるとともに、生徒データとして、その教師データの画質を、JPEG符号化する画像と同一画質に劣化させ、さらに、DCT変換および量子化して得られるDCT係数を用いた場合、タップ係数としては、JPEG符号化された画像データを、高画質の画像データに復号するのに、予測誤差が、統計的に最小となるものが得られることになる。
【0063】
従って、この場合、適応処理によれば、JPEG符号化された画像の復号処理と、その画質をより向上させるための処理とが、同時に施されることになる。なお、上述したことから、教師データまたは生徒データとなる画像の画質を変えることで、復号画像の画質を任意のレベルとするタップ係数を得ることができる。
【0064】
なお、上述のことは、JPEG符号化された画像の他、例えば、MPEG符号化された画像についても、同様である。
【0065】
図5は、以上のようなクラス分類適応処理により、量子化DCT係数を画素値に復号する、図3の係数変換回路32の構成例を示している。
【0066】
エントロピー復号回路31(図3)が出力するブロックごとの量子化DCT係数は、逆量子化回路40に供給されるようになっている。
【0067】
逆量子化回路40は、ブロックごとの量子化DCT係数を逆量子化し、これによりDCT係数のブロックを取得して、予測タップ抽出回路41およびクラスタップ抽出回路42に供給する。
【0068】
予測タップ抽出回路41は、そこに供給されるDCT係数のブロックの画素を、例えば、いわゆるラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出回路41は、注目画素の画素値を予測するのに用いるDCT係数を、逆量子化回路40の出力から抽出し、予測タップとする。
【0069】
即ち、予測タップ抽出回路41は、例えば、図6に示すように、注目画素を含むブロックのすべてのDCT係数、つまり、8×8の64個のDCT係数を、予測タップとして抽出する。従って、ここでは、あるブロックのすべての画素について、同一の予測タップが構成される。但し、予測タップは、注目画素ごとに、異なるDCT係数で構成することが可能である。
【0070】
予測タップ抽出回路41において得られる注目画素についての予測タップは、積和演算回路45に供給される。
【0071】
クラスタップ抽出回路42は、注目画素を、幾つかのクラスのうちのいずれかにクラス分けするためのクラス分類に用いるDCT係数を、逆量子化回路40の出力から抽出して、クラスタップとする。
【0072】
即ち、クラスタップ抽出回路42は、例えば、図6に示したように、注目画素を含むブロックのすべてのDCT係数、つまり、8×8の64個のDCT係数を、クラスタップとして抽出する。従って、ここでは、あるブロックのすべての画素について、同一のクラスタップが構成される。但し、クラスタップは、注目画素ごとに、異なるDCT係数で構成することが可能である。
【0073】
なお、予測タップやクラスタップは、上述したタップ構造のものに限定されるものではない。
【0074】
クラスタップ抽出回路42において得られる、注目画素のクラスタップは、クラス分類回路43に供給されるようになっており、クラス分類回路43は、クラスタップ抽出回路42からのクラスタップに基づき、注目画素をクラス分類し、その結果得られるクラスに対応するクラスコードを出力する。
【0075】
ここで、クラス分類を行う方法としては、例えば、ADRC(Adaptive Dynamic Range Coding)等を採用することができる。
【0076】
ADRCを用いる方法では、クラスタップを構成するDCT係数が、ADRC処理され、その結果得られるADRCコードにしたがって、注目画素のクラスが決定される。
【0077】
なお、KビットADRCにおいては、例えば、クラスタップを構成するDCT係数の最大値MAXと最小値MINが検出され、DR=MAX-MINを、集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、クラスタップを構成するDCT係数がKビットに再量子化される。即ち、クラスタップを構成するDCT係数の中から、最小値MINが減算され、その減算値がDR/2Kで除算(量子化)される。そして、以上のようにして得られる、クラスタップを構成するKビットの各DCT係数を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、クラスタップが、例えば、1ビットADRC処理された場合には、そのクラスタップを構成する各DCT係数は、最小値MINが減算された後に、最大値MAXと最小値MINとの平均値で除算され、これにより、各DCT係数が1ビットとされる(2値化される)。そして、その1ビットのDCT係数を所定の順番で並べたビット列が、ADRCコードとされ、このADRCコードがクラスコードとして出力される。
【0078】
なお、クラス分類回路43には、例えば、クラスタップを構成するDCT係数のレベル分布のパターンを、そのままクラスコードとして出力させることも可能であるが、この場合、クラスタップが、N個のDCT係数で構成され、各DCT係数に、Kビットが割り当てられているとすると、クラス分類回路43が出力するクラスコードの場合の数は、(2NK通りとなり、DCT係数のビット数Kに指数的に比例した膨大な数となる。
【0079】
従って、クラス分類回路43においては、クラスタップの情報量を、上述のADRC処理や、ベクトル量子化、その他の手法によって圧縮することにより、クラス分類を行うのが好ましい。
【0080】
クラス分類回路43は、例えば、上述のように、クラスタップをADRC処理することにより得られるADRCコードを、注目画素のクラスを表すクラスコードとして出力し、このクラスコードは、係数テーブル記憶部44に、アドレスとして与えられる。
【0081】
係数テーブル記憶部44は、後述するような学習処理が行われることにより得られるタップ係数が登録された係数テーブルを記憶しており、クラス分類回路43が出力するクラスコードに対応するアドレスに記憶されているタップ係数を積和演算回路45に出力する。
【0082】
ここで、ブロックをDCT変換/逆DCT変換する場合は、そのブロックにおける各画素の空間上の位置を表す位置情報が、DCT変換/逆DCT変換に用いられるコサイン(cosine)関数の位相という形で考慮される。
【0083】
一方、適応処理では、予測タップを構成するDCT係数と、タップ係数とを用いた式(1)の線形1次予測演算が行われるが、この線形1次予測演算では、復号しようとしている画素(注目画素)の位置情報が考慮されない(式(1)には、位置情報を考慮するような関数が存在しない)。そこで、注目画素の位置情報を考慮した線形1次予測演算を行うために、積和演算回路45では、注目画素の位置によって異なるタップ係数が用いられるようになっている。即ち、同一のクラスに分類される画素であっても、ブロックにおける位置が異なる場合には、異なるタップ係数を用いて、線形1次予測演算が行われるようになっている。この場合、線形1次予測演算に用いるタップ係数が、ブロックにおける注目画素の位置によって切り替えられることとなるが、この注目画素の位置を表す情報を、以下、適宜、画素位置モードという。
【0084】
いまの場合、ブロックは8×8画素で構成されるから、64カ所の位置が存在し、ここでは、例えば、ラスタスキャン順で、n番目の位置を、画素位置モード#n−1と表すこととする。従って、ここでは、図6に示した8×8のブロックのマス目に付した数字が、画素位置モードを表す。
【0085】
以上から、ここでは、画素位置モードが、0乃至63の64モード存在し、各クラスについて、64の画素位置モードそれぞれに対応するタップ係数のセット、即ち、64セットのタップ係数が用意されており、係数テーブル記憶部44には、1つのクラスコードに対応するアドレスに対して、64セットのタップ係数が記憶されている。
【0086】
積和演算回路45は、予測タップ抽出回路41が出力する予測タップと、係数テーブル記憶部44が出力するタップ係数とを取得し、その予測タップとタップ係数とを用いて、式(1)に示した線形予測演算(積和演算)を行うことにより、注目画素を復号する。そして、積和演算回路45は、注目画素を含むブロック(以下、適宜、注目ブロックという)の8×8画素の画素値の復号結果を得ると、その注目ブロックの画素値を、ブロック分解回路33(図3)に出力する。
【0087】
ここで、予測タップ抽出回路41においては、上述したように、注目ブロックの各画素が、順次、注目画素とされるが、積和演算回路45は、注目ブロックの、注目画素となっている画素の位置、つまり、画素位置モードに対応した動作モードとなって、処理を行う。
【0088】
即ち、例えば、注目ブロックの画素のうち、ラスタスキャン順で、n番目の画素を、pn-1と表し、画素pn-1が、注目画素となっている場合、積和演算回路45は、画素位置モード#n−1の処理を行う。
【0089】
具体的には、上述したように、係数テーブル記憶部44は、注目画素のクラスについて、64セットのタップ係数を出力するが、そのうちの画素pn-1を復号するためのタップ係数のセットをWn-1と表すと、積和演算回路45は、動作モードが、画素位置モード#n−1のときには、予測タップと、注目画素のクラスに対応する64セットのタップ係数のうちのセットWn-1とを用いて、式(1)の積和演算を行い、その積和演算結果を、画素pn-1の復号結果とする。
【0090】
なお、積和演算回路45は、注目画素の画素位置モードを、モード制御部46の出力に基づいて認識する。即ち、予測タップ抽出回路41は、いま注目画素となっている画素の位置情報(例えば、注目ブロックにおける注目画素の座標など)を、モード制御部46に供給するようになっており、モード制御部46は、予測タップ抽出回路41から供給される注目画素の位置情報に基づき、その注目画素の画素位置モードを判定する。そして、モード制御部46は、注目画素の画素位置モードを、積和演算回路45に供給する。
【0091】
次に、図7のフローチャートを参照して、図5の係数変換回路32の処理について説明する。
【0092】
エントロピー復号回路31(図3)が出力するブロックごとの量子化DCT係数は、逆量子化回路40に供給され、逆量子化回路40は、ステップS11において、そこに供給されるブロックごとの量子化DCT係数の逆量子化を開始する。逆量子化回路40が逆量子化を行うことにより得られるブロックごとのDCT係数は、順次、予測タップ抽出回路41およびクラスタップ抽出回路42に供給される。
【0093】
予測タップ抽出回路41は、逆量子化回路40から供給されるDCT係数のブロックを、順次、注目ブロックとする。そして、予測タップ抽出回路41は、ステップS12において、注目ブロックの画素のうち、ラスタスキャン順で、まだ注目画素としていないものを注目画素として選択し、その注目画素の位置情報を、モード制御部46に出力して、ステップS13に進む。
【0094】
ステップS13では、モード制御部46が、予測タップ抽出回路41からの位置情報に基づいて、注目画素の画素位置モード#nを判定し、その画素位置モード#nを、積和演算回路45に供給して、ステップS14に進む。
【0095】
ステップS14では、クラスタップ抽出回路42は、逆量子化回路40から供給されるDCT係数の中から、注目画素をクラス分類するのに用いるものを抽出して、クラスタップを構成する。即ち、ここでは、クラスタップ抽出回路42は、注目画素を含むブロックの64個のDCT係数を、例えば、ラスタスキャン順に抽出し、その64個のDCT係数のシーケンスを、注目画素のクラスタップとする。この注目画素のクラスタップは、クラスタップ抽出回路42からクラス分類回路43に供給される。
【0096】
クラス分類回路43は、ステップS15において、クラスタップ抽出回路42からのクラスタップを用いて、注目画素をクラス分類し、その結果得られるクラスコードを、係数テーブル記憶部44に出力する。
【0097】
係数テーブル記憶部44は、クラス分類回路43からのクラスコードを受信すると、ステップS16において、そのクラスコードに対応するアドレスに記憶されている64セットのタップ係数を読み出し、積和演算回路45に出力する。
【0098】
そして、ステップS17に進み、予測タップ抽出回路41は、注目画素の画素値を予測するのに用いるDCT係数を抽出し、予測タップを構成する。即ち、予測タップ抽出回路41は、注目画素を含むブロックの64個のDCT係数を、例えば、ラスタスキャン順に抽出し、その64個のDCT係数のシーケンスを、注目画素の予測タップとする。この予測タップは、予測タップ抽出回路41から積和演算回路45に供給される。
【0099】
ここで、図5の係数変換回路32では、各ブロックごとに、そのブロックのすべての画素について、同一の予測タップが構成されることになるので、実際には、ステップS17の予測タップを構成する処理は、注目ブロックについて、最初に注目画素とされる画素に対してだけ行えば、残りの63画素に対しては、行う必要がない。このことは、ステップS14のクラスタップを構成する処理、およびステップS15のクラス分類処理についても、同様である。
【0100】
積和演算回路45は、ステップS18において、ステップS16で係数テーブル記憶部44が出力する64セットのタップ係数のうち、注目画素の画素位置モードに対応するタップ係数のセットを取得して、ステップS19に進み、そのタップ係数のセットと、ステップS17で予測タップ抽出回路41から供給される予測タップとを用いて、式(1)に示した積和演算を行い、注目画素の画素値の復号値を得る。
【0101】
そして、ステップS20に進み、予測タップ抽出回路41は、注目ブロックのすべての画素を、注目画素として処理を行ったかどうかを判定する。ステップS16において、注目ブロックのすべての画素を、注目画素として、まだ処理を行っていないと判定された場合、ステップS12に戻り、予測タップ抽出回路41は、注目ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【0102】
また、ステップS20において、注目ブロックのすべての画素を、注目画素として処理を行ったと判定された場合、即ち、注目ブロックのすべての画素の復号値が得られた場合、積和演算回路45は、その復号値で構成されるブロック(復号ブロック)を、ブロック分解回路33(図3)に出力し、ステップS21に進む。
【0103】
ステップS21では、予測タップ抽出回路41が、逆量子化回路40が出力するDCT係数のブロックすべてを、注目ブロックとして処理したかどうかを判定する。ステップS21において、逆量子化回路40が出力するDCT係数のブロックすべてが、まだ、注目ブロックとされていないと判定された場合、予測タップ抽出回路41は、逆量子化回路40が出力するDCT係数のブロックのうち、まだ、注目ブロックとしていないブロックを、新たに注目ブロックとして、ステップS12に戻り、以下、同様の処理が繰り返される。
【0104】
また、ステップS21において、逆量子化回路40が出力するDCT係数のブロックすべてが、注目ブロックとして処理されたと判定された場合、処理を終了する。
【0105】
次に、図8は、図5の係数テーブル記憶部44に記憶させるタップ係数の学習処理を行う学習装置の構成例を示している。
【0106】
ブロック化回路61には、1枚以上の学習用の画像データ(ここでは、静止画の画像データ)が供給されるようになっており、このブロック化回路61、さらには、その後段のDCT回路62、量子化回路63、および逆量子化回路64では、学習用の画像データがJPEG符号化における場合と同様にして符号化され、その結果得られる符号化データから、DCT係数が、タップ係数の学習の生徒となる生徒データとして取得される。
【0107】
即ち、ブロック化回路61は、学習用の画像データを、JPEG符号化における場合と同様に、8×8画素のブロックにブロック化する。このブロックごとの画像データは、DCT回路62によって読み出されるとともに、タップ係数の学習の教師となる教師データとして、正規方程式加算回路68によって読み出される。
【0108】
DCT回路62は、ブロック化回路61がブロック化した画像データのブロックを、順次読み出し、そのブロックをDCT変換することで、DCT係数のブロックを求める。このDCT係数のブロックは、量子化回路63に供給される。
【0109】
量子化回路63は、DCT回路62からのDCT係数のブロックを、JPEG符号化に用いられるのと同一の量子化テーブルにしたがって量子化し、その結果得られるブロックごとの量子化DCT係数を、逆量子化回路64に供給する。逆量子化回路64は、量子化回路64から供給されるブロックごとの量子化DCT係数を逆量子化し、これにより、ブロックごとのDCT係数を、生徒データとして求める。
【0110】
予測タップ抽出回路65は、ブロック化回路61でブロック化された学習用の画像データのブロックを、順次、注目ブロックとし、さらに、その注目ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、注目画素として、その注目画素について、図5の予測タップ抽出回路41が構成するのと同一の予測タップを、逆量子化回路64から、必要なDCT係数(生徒データ)を抽出する(読み出す)ことで構成する。この予測タップは、予測タップ抽出回路65から正規方程式加算回路68に供給される。
【0111】
また、予測タップ抽出回路65は、図5の予測タップ抽出回路41と同様に、注目画素の位置情報を、モード制御部71に供給する。
【0112】
クラスタップ抽出回路66は、注目ブロックについて、図5のクラスタップ抽出回路42が構成するのと同一のクラスタップを、逆量子化回路64から、必要なDCT係数を抽出する(読み出す)ことで構成する。このクラスタップは、クラスタップ抽出回路66からクラス分類回路67に供給される。
【0113】
クラス分類回路67は、クラスタップ抽出回路66からのクラスタップを用いて、図5のクラス分類回路43と同一の処理を行うことで、注目画素をクラス分類し、その結果得られるクラスコードを、正規方程式加算回路68に供給する。
【0114】
正規方程式加算回路68は、ブロック化回路61から、教師データとしての注目画素(の画素値)を読み出し、その教師データと、予測タップ抽出回路65からの生徒データとしての予測タップ(を構成するDCT係数)とを対象とした足し込みを、クラスごとに、かつ画素位置モードごとに行う。
【0115】
即ち、正規方程式加算回路68は、クラス分類回路67から供給されるクラスコードに対応するクラスごとに、かつモード制御部71が出力する画素位置モードごとに、予測タップ(生徒データ)を用い、式(8)の行列Aにおける各コンポーネントとなっている、生徒データどうしの乗算(xinim)と、サメーション(Σ)に相当する演算を行う。
【0116】
さらに、正規方程式加算回路68は、やはり、クラス分類回路67から供給されるクラスコードに対応するクラスごとに、かつモード制御部71が出力する画素位置モードごとに、予測タップ(生徒データ)および注目画素(教師データ)を用い、式(8)のベクトルvにおける各コンポーネントとなっている、生徒データと教師データの乗算(xini)と、サメーション(Σ)に相当する演算を行う。
【0117】
正規方程式加算回路68は、以上の足し込みを、教師データとしての学習用の画像データのすべての画素を注目画素として行い、これにより、各クラスについて、画素位置モードごとに、式(8)に示した正規方程式をたてる。
【0118】
タップ係数決定回路69は、正規方程式加算回路68においてクラスごとに、かつ、画素位置モードごとに求められた正規方程式を解くことにより、クラスごとに、64の画素位置モードに対応する64セットのタップ係数を求め、係数テーブル記憶部70の、各クラスに対応するアドレスに供給する。
【0119】
なお、学習用の画像として用意する画像の枚数や、その画像の内容等によっては、正規方程式加算回路68において、タップ係数を求めるのに必要な数の正規方程式が得られないクラスや画素位置モードが生じる場合があり得るが、タップ係数決定回路69は、そのようなクラスや画素位置モードについては、例えば、デフォルトのタップ係数を出力する。
【0120】
係数テーブル記憶部70は、タップ係数決定回路69から供給されるクラスごとの64セットのタップ係数を記憶する。
【0121】
モード制御部71は、予測タップ抽出回路65から供給される注目画素の位置情報に基づき、その注目画素の画素位置モードを判定する。そして、モード制御部71は、注目画素の画素位置モードを、正規方程式加算回路68に供給する。
【0122】
次に、図9のフローチャートを参照して、図8の学習装置の処理(学習処理)について説明する。
【0123】
学習処理では、まず最初に、ステップS31において、ブロック化回路61、DCT回路62、量子化回路63、および逆量子化回路64が、学習用の画像データをJPEG符号化し、さらに、その符号化データから、生徒データとなるDCT係数を取得する。
【0124】
即ち、ブロック化回路61は、学習用の画像データを、JPEG符号化における場合と同様に、8×8画素のブロックにブロック化する。DCT回路62は、ブロック化回路61がブロック化した画像データのブロックを、順次読み出し、DCT変換することで、DCT係数のブロックとする。量子化回路63は、DCT回路62において得られたDCT係数のブロックを順次読み出し、JPEG符号化に用いられるのと同一の量子化テーブルにしたがって量子化して、量子化DCT係数で構成されるブロックとする。そして、逆量子化回路64は、量子化回路63から、量子化DCT係数のブロックを順次読み出して逆量子化し、生徒データとしてのブロックごとのDCT係数を求める。
【0125】
その後、予測タップ抽出回路65は、ブロック化回路61でブロック化された画像データのブロックを、順次、注目ブロックとする。そして、予測タップ抽出回路65は、ステップS32において、注目ブロックの画素のうち、ラスタスキャン順で、まだ注目画素としていないものを注目画素として選択し、その注目画素の位置情報を、モード制御部71に出力して、ステップS33に進む。
【0126】
ステップS33では、モード制御部71が、予測タップ抽出回路65からの位置情報に基づいて、注目画素の画素位置モード#nを判定し、その画素位置モード#nを、正規方程式加算回路68に供給して、ステップS34に進む。
【0127】
ステップS34では、クラスタップ抽出回路66は、逆量子化回路64から、注目画素をクラス分類するのに用いるDCT係数を読み出して、クラスタップを構成する。即ち、ここでは、クラスタップ抽出回路64は、図5のクラスタップ抽出回路42と同様に、注目画素を含むブロックの64個のDCT係数を、ラスタスキャン順に抽出し、その64個のDCT係数のシーケンスを、注目画素のクラスタップとする。この注目画素のクラスタップは、クラスタップ抽出回路66からクラス分類回路67に供給される。
【0128】
クラス分類回路67は、ステップS35において、クラスタップ抽出回路66からのクラスタップを用いて、注目画素をクラス分類し、その結果得られるクラスコードを、正規方程式加算回路68に出力する。
【0129】
一方、予測タップ抽出回路65は、ステップS36において、逆量子化回路64から、注目画素の画素値を予測するのに用いるDCT係数を読み出し、予測タップとして構成する。即ち、予測タップ抽出回路65は、注目画素を含むブロックの64個のDCT係数を、例えば、ラスタスキャン順に抽出し、その64個のDCT係数のシーケンスを、注目画素の予測タップとする。この予測タップは、予測タップ抽出回路65から正規方程式加算回路68に供給される。
【0130】
ここで、図8の学習装置では、図5の係数変換回路32における場合と同様に、各ブロックごとに、そのブロックのすべての画素について、同一の予測タップが構成されるので、実際には、ステップS36の予測タップを構成する処理は、注目ブロックについて、最初に注目画素とされる画素に対してだけ行えば、残りの63画素に対しては、行う必要がない。このことは、ステップS34のクラスタップを構成する処理、およびステップS35のクラス分類処理についても、同様である。
【0131】
その後、ステップS37において、正規方程式加算回路68が、ブロック化回路61から、教師データ(注目教師データ)としての注目画素を読み出し、予測タップ抽出回路65からの生徒データとしての予測タップ(を構成するDCT係数)、および教師データとしての注目画素を対象として、式(8)の行列Aとベクトルvの、上述したような足し込みを、クラス分類回路67からの注目画素のクラスコードごとに、かつモード制御部71からの注目画素の画素位置モードごとに行う。
【0132】
そして、ステップS38に進み、予測タップ抽出回路65は、注目ブロックのすべての画素を、注目画素として、足し込みを行ったかどうかを判定する。ステップS38において、注目ブロックのすべての画素を、注目画素として、まだ足し込みを行っていないと判定された場合、ステップS32に戻り、予測タップ抽出回路65は、注目ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【0133】
また、ステップS38において、注目ブロックのすべての画素を、注目画素として、足し込みを行ったと判定された場合、ステップS39に進み、予測タップ抽出回路65は、ブロック化回路61でブロック化された学習用の画像データのブロックすべてを、注目ブロックとして処理を行ったかどうかを判定する。ステップS39において、学習用の画像データのブロックすべてを、注目ブロックとして、まだ処理を行っていないと判定された場合、予測タップ抽出回路65は、学習用の画像データのブロックのうち、まだ、注目ブロックとされていないものが、新たに注目ブロックとされ、ステップS32に戻り、以下、同様の処理が繰り返される。
【0134】
一方、ステップS39において、学習用の画像データのブロックすべてを、注目ブロックとして処理を行ったと判定された場合、正規方程式加算回路68は、各クラスについての画素位置モードごとの正規方程式を、タップ係数決定回路69に供給し、ステップS40に進む。
【0135】
ステップS40では、タップ係数決定回路69が、各クラスの画素位置モードごとの正規方程式を解くことにより、各クラスごとに、そのクラスの64の画素位置モードそれぞれに対応する64セットのタップ係数を求め、係数テーブル記憶部70の、各クラスに対応するアドレスに供給して記憶させ、処理を終了する。
【0136】
以上のようにして、係数テーブル記憶部70に記憶された各クラスごとのタップ係数が、図5の係数テーブル記憶部44に記憶されている。
【0137】
従って、係数テーブル記憶部44に記憶されたタップ係数は、DCT係数を用いた線形予測演算を行うことにより得られる元の画素値の予測値の予測誤差(ここでは、自乗誤差)が、統計的に最小になるように学習を行うことにより求められたものであり、その結果、図5の係数変換回路32によれば、JPEG符号化された画像を、元の画像に限りなく近い画像に復号することができる。
【0138】
また、上述したように、JPEG符号化された画像の復号処理と、その画質を向上させるための処理とが、同時に施されることとなるので、JPEG符号化された画像から、効率的に、画質の良い復号画像を得ることができる。
【0139】
ところで、図5の係数変換回路32では、図10(A)に示すように、各ブロックについて、0乃至63の64モードの画素位置モードが存在し、積和演算回路45において、画素位置モードごとのタップ係数を用いて、式(1)の線形予測演算が行われるから、注目画素についてクラス分類を行わないとしても、つまり、クラスの総数が1クラスであるとしても、タップ係数は、64セット必要になる。
【0140】
また、図5の係数変換回路32では、図10(B)に示すように、予測タップ抽出回路41において、注目画素を含むブロック(注目ブロック)の64個のDCT係数すべてが、ラスタスキャン順に抽出され、その64個のDCT係数のシーケンスが予測タップとされることから、その予測タップを構成するDCT係数(以下、適宜、DCT係数タップという)を用いて、式(1)の線形予測演算を行うには、64個のタップ係数が必要となる。
【0141】
即ち、いま、ブロックにおけるある画素の画素位置モードを#nとすると、図5の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0142】
n=Fn,0×f0+Fn,1×f1+・・・+Fn,63×f63・・・(9)
【0143】
但し、fi-1は、予測タップとしての64個のDCT係数のシーケンスのうちの、先頭からi番目のDCT係数を表す。また、Fn,i-1は、画素位置モード#nのタップ係数のセットのうちの、予測タップとしての64個のDCT係数のシーケンスの先頭からi番目のDCT係数fi-1と乗算されるタップ係数を表す。
【0144】
式(9)において、画素位置モード#nは、0乃至63の64個の値を取り得るから、クラスの総数が1クラスであったとしても、タップ係数の個数は、64×64=4096個必要となる。さらに、注目画素についてクラス分類が行われる場合には、そのクラスの総数をCとすると、4096×C個のタップ係数が必要となる。従って、図5の係数テーブル記憶部44としては、少なくとも、そのような数のタップ係数を記憶することのできる記憶容量のものが必要となる。
【0145】
また、学習装置では、各クラスについて、64個の画素位置モードごとに、正規方程式がたてられる。従って、ブロックにおける各画素の位置を考慮しない場合、つまり、画素位置モードを1つのモードだけとする場合に比較して、教師データと生徒データの組が、64個の画素位置モードごとの正規方程式に分散されることとなり、このため、学習効率が1/64に低下する。
【0146】
そこで、図11は、本発明を適用した係数変換回路32の第1実施の形態の構成例を示している。なお、図中、図5における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図11の係数変換回路32は、モード制御部46に代えてモード制御部81が設けられているとともに、符号制御部82が新たに設けられている他は、図5における場合と基本的に同様に構成されている。
【0147】
モード制御部81は、図5のモード制御部46における場合と同様に、予測タップ抽出回路41から供給される注目画素の位置情報に基づいて、その画素位置モードを判定する。さらに、モード制御部81は、注目画素の画素位置モードを、例えば、1/4に縮退し、ブロックにおける画素の数よりも総数が少ない(総数が1/4の)画素位置モードである縮退画素位置モードを得て、積和演算回路45に供給する。また、モード制御部81は、後述するような注目画素の領域情報を得て、その領域情報に基づき、符号制御部82を制御する。
【0148】
符号制御部82には、予測タップ抽出回路41が出力する注目画素についての予測タップが供給されるようになっており、符号制御部82は、モード制御部81の制御にしたがい、予測タップ抽出回路41からの予測タップを構成するDCT係数の符号を操作し、積和演算回路45に出力する。
【0149】
ここで、図11の実施の形態では、モード制御部81において、画素位置モードが1/4に縮退され(減らされ)、縮退画素位置モードとされる。そして、モード制御部81から積和演算回路45に対しては、縮退画素位置モードが供給され、積和演算回路45では、注目画素の縮退画素位置モードに対応するタップ係数のセットを用いて、式(1)の線形予測演算が行われる。
【0150】
従って、図11の実施の形態では、タップ係数は、各クラスについて、縮退画素位置モードごとに存在すれば足り、縮退画素位置モードは、ここでは、画素位置モードの総数の1/4、つまり16モード(=64モード/4)であるから、タップ係数の総数を少なくすることができる。
【0151】
即ち、図11の係数テーブル記憶部44においては、各クラスについて、16の縮退画素位置モードごとのタップ係数のセット、つまり16セットのタップ係数が記憶されている。従って、各クラスについて、64の画素位置モードごとのタップ係数のセット(64セットのタップ係数)を記憶する図5における場合に比較して、係数テーブル記憶部44として、記憶容量の小さいものを採用することが可能となる。
【0152】
次に、図12を参照して、モード制御部81による画素位置モードの縮退(画素位置モードの縮退画素位置モードへの変換)と、符号制御部82による予測タップの符号の操作について説明する。
【0153】
モード制御部81は、注目画素が、注目ブロックにおける複数の領域のうちのいずれに位置するかによって、その注目画素の画素位置モードを縮退画素位置モードに変換する。
【0154】
即ち、モード制御部81は、注目ブロックを、垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの4×4の領域のうちのいずれの領域に、注目画素が位置するかを判定する。
【0155】
注目画素が位置する領域(以下、適宜、注目領域という)が、注目ブロックの左上の領域(左上領域)である場合、モード制御部81は、注目ブロックにおける注目画素の位置を表す情報を、縮退画素位置モードとして出力する。即ち、この場合、モード制御部81は、例えば、図12(A−1)に示すように、注目ブロックの4×4の左上領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。ここで、図12(A−1)の実施の形態では、4×4の左上領域のラスタスキャン順に、0から15までの縮退画素位置モードが割り当てられている。即ち、例えば、いま、注目ブロックの左からx番目で、上からy番目の画素を、p(x,y)と表すこととすると、左上領域に位置する画素p(1,1),p(2,1),p(3,1),p(4,1),p(1,2),p(2,2),p(3,2),p(4,2),p(1,3),p(2,3),p(3,3),p(4,3),p(1,4),p(2,4),p(3,4),p(4,4)については、縮退画素位置モード#0,#1,#2,#3,#4,#5,#6,#7,#8,#9,#10,#11,#12,#13,#14,#15が、それぞれ出力される。
【0156】
さらに、注目領域が左上領域である場合には、モード制御部81は、予測タップを構成するDCT係数の符号を、そのままとするように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップとしてのDCT係数を、図12(A−2)に示すように、そのまま積和演算回路45に供給する。
【0157】
積和演算回路45は、動作モードが縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0158】
従って、左上領域に位置する注目画素の縮退画素位置モードを#n’とすると、図11の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0159】
n'=Fn',0×f0+Fn',1×f1+・・・+Fn',63×f63・・・(10)
【0160】
但し、Fn',i-1は、縮退画素位置モード#n’のタップ係数のセットのうちの、予測タップとしての64個のDCT係数のシーケンスの先頭からi番目のDCT係数fi-1と乗算されるタップ係数を表す。
【0161】
次に、注目領域が、注目ブロックの右上の領域(右上領域)である場合、モード制御部81は、注目ブロックを左右に2等分する線(以下、適宜、垂直分割線という)について、注目画素と線対称の位置にある注目ブロックの左上領域における画素の位置を表す情報としての縮退画素位置モードを、注目画素の縮退画素位置モードとして出力する。即ち、モード制御部81は、例えば、図12(B−1)に示すように、注目ブロックの4×4の右上領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。従って、右上領域に位置する画素p(8,1),p(7,1),p(6,1),p(5,1),p(8,2),p(7,2),p(6,2),p(5,2),p(8,3),p(7,3),p(6,3),p(5,3),p(8,4),p(7,4),p(6,4),p(5,4)については、左上領域に位置する画素p(1,1)乃至p(4,4)における場合と同様に、縮退画素位置モード#0乃至#15が、それぞれ出力される。
【0162】
さらに、注目領域が右上領域である場合には、モード制御部81は、予測タップを構成するDCT係数のうち、注目ブロックの偶数列(最左列を第1列とする)に位置するものの符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(B−2)に影を付して示す注目ブロックの偶数列に位置するものの符号を反転し、積和演算回路45に供給する。
【0163】
積和演算回路45は、動作モードが縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0164】
従って、右上領域に位置する注目画素の縮退画素位置モードを#n’とすると、図11の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0165】
n'=Fn',0×f0+Fn',1×(−f1)+・・・+Fn',63×(−f63)・・・(11)
【0166】
なお、式(11)においては、予測タップを構成する注目ブロックの64個のDCT係数のうち、偶数列に位置するもの(以下、適宜、偶数列DCT係数という)に対して、(−1)が乗算されることにより、その偶数列DCT係数の符号が反転されている(+から−、または−から+にされている)。
【0167】
ここで、注目領域が、右上領域である場合、モード制御部81は、上述のように、垂直分割線について、注目画素と線対称の位置にある左上領域における画素(以下、適宜、垂直線対称画素という)の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0168】
このように、右上領域の画素の縮退画素位置モードを、その垂直線対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、右上領域の画素と、その垂直線対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0169】
即ち、右上領域の画素と、その垂直線対称画素とは、垂直分割線に対して左右対称となる位置関係を有し、右上領域の画素の画素値は、その位置関係が左右対称になっている垂直線対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、右上領域の画素の位置におけるDCT係数の基底となるコサイン波形には、その垂直線対称画素の位置におけるDCT係数の基底となるコサイン波形の左右を反転したコサイン波形が割り当てられることになる。このため、右上領域の画素の画素値を予測する場合には、式(11)に示したように、偶数列DCT係数の符号を反転することとしている。
【0170】
即ち、図13は、偶数列DCT係数となっているDCT係数の1つであるf1の基底となっているコサイン波形(図13(A))と、偶数列DCT係数ではないDCT係数の1つであるf2の基底となっているコサイン波形(図13(B))とを示している。
【0171】
図13(A)に実線で示す偶数列DCT係数f1の基底のコサイン波形は、その左右を反転すると、図13(A)に点線で示す波形となり、この左右反転波形(点線の波形)は、元のコサイン波形(実線の波形)の符号を反転したもの(−1倍したもの)となる。
【0172】
一方、図13(B)に実線で示す、偶数列DCT係数でないDCT係数f2の基底のコサイン波形は、その左右を反転すると、やはり、図13(B)に実線で示す波形に一致する。
【0173】
従って、空間領域において、右上領域の画素を、その垂直線対称画素と対応させることは、周波数領域において、偶数列DCT係数の基底のコサイン波形の符号を反転させることと等価である。
【0174】
このため、右上領域の画素の縮退画素位置モードを、垂直線対称画素の縮退画素位置モードと兼用して、右上領域の画素の画素値を予測する場合には、式(11)に示したように、偶数列DCT係数の符号が反転される。
【0175】
なお、上述のように、偶数列DCT係数でないDCT係数の基底のコサイン波形は、その左右を反転しても、元のコサイン波形に一致するので、偶数列DCT係数でないDCT係数については、符号を反転する必要はない。
【0176】
次に、注目領域が、注目ブロックの左下の領域(左下領域)である場合、モード制御部81は、注目ブロックを上下に2等分する線(以下、適宜、水平分割線という)について、注目画素と線対称の位置にある注目ブロックの左上領域における画素の位置を表す情報としての縮退画素位置モードを、注目画素の縮退画素位置モードとして出力する。即ち、モード制御部81は、例えば、図12(C−1)に示すように、注目ブロックの4×4の左下領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。従って、左下領域に位置する画素p(1,8),p(2,8),p(3,8),p(4,8),p(1,7),p(2,7),p(3,7),p(4,7),p(1,6),p(2,6),p(3,6),p(4,6),p(1,5),p(2,5),p(3,5),p(4,5)については、左上領域に位置する画素p(1,1)乃至p(4,4)における場合と同様に、縮退画素位置モード#0乃至#15が、それぞれ出力される。
【0177】
さらに、注目領域が左下領域である場合には、モード制御部81は、予測タップを構成するDCT係数のうち、注目ブロックの偶数行(最上行を第1行とする)に位置するものの符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(C−2)に影を付して示す注目ブロックの偶数行に位置するものの符号を反転し、積和演算回路45に供給する。
【0178】
積和演算回路45は、動作モードが縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0179】
従って、左下領域に位置する注目画素の縮退画素位置モードを#n’とすると、図11の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0180】
n'=Fn',0×f0+Fn',1×f1+・・・+Fn',63×(−f63)・・・(12)
【0181】
なお、式(12)においては、予測タップを構成する注目ブロックの64個のDCT係数のうち、偶数行に位置するもの(以下、適宜、偶数行DCT係数という)に対して、(−1)が乗算されることにより、その偶数行DCT係数の符号が反転されている。
【0182】
ここで、注目領域が、左下領域である場合、モード制御部81は、上述のように、水平分割線について、注目画素と線対称の位置にある左上領域における画素(以下、適宜、水平線対称画素という)の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0183】
このように、左下領域の画素の縮退画素位置モードを、その水平線対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、左下領域の画素と、その水平線対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0184】
即ち、左下領域の画素と、その水平線対称画素とは、水平分割線に対して上下対称となる位置関係を有し、左下領域の画素の画素値は、その位置関係が上下対称になっている水平線対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、左下領域の画素の位置におけるDCT係数の基底となるコサイン波形には、その水平線対称画素の位置におけるDCT係数の基底となるコサイン波形の上下を反転したコサイン波形が割り当てられることになる。このため、左下領域の画素の画素値を予測する場合には、式(12)に示したように、偶数行DCT係数の符号を反転することとしている。
【0185】
即ち、偶数行DCT係数の基底のコサイン波形は、その上下を反転すると、図13(A)に示した偶数列DCT係数における場合と同様に、元のコサイン波形の符号を反転したもの(−1倍したもの)となる。
【0186】
一方、偶数行DCT係数でないDCT係数の基底のコサイン波形は、その上下を反転すると、図13(B)に示した偶数列DCT係数でないDCT係数における場合と同様に、元の波形に一致する。
【0187】
従って、空間領域において、左下領域の画素を、その水平線対称画素と対応させることは、周波数領域において、偶数行DCT係数の基底のコサイン波形の符号を反転させることと等価である。
【0188】
このため、左下領域の画素の縮退画素位置モードを、水平線対称画素の縮退画素位置モードと兼用して、左下領域の画素の画素値を予測する場合には、式(12)に示したように、偶数行DCT係数の符号が反転される。
【0189】
なお、上述のように、偶数行DCT係数でないDCT係数の基底のコサイン波形は、その上下を反転しても、元のコサイン波形に一致するので、偶数行DCT係数でないDCT係数については、符号を反転する必要はない。
【0190】
次に、注目領域が、注目ブロックの右下の領域(右下領域)である場合、モード制御部81は、注目ブロックの垂直分割線と水平分割線との交点(以下、適宜、ブロック中心点という)について、注目画素と点対称の位置にある注目ブロックの左上領域における画素の位置を表す情報としての縮退画素位置モードを、注目画素の縮退画素位置モードとして出力する。即ち、モード制御部81は、例えば、図12(D−1)に示すように、注目ブロックの4×4の右下領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。従って、右下領域に位置する画素p(8,8),p(7,8),p(6,8),p(5,8),p(8,7),p(7,7),p(6,7),p(5,7),p(8,6),p(7,6),p(6,6),p(5,6),p(8,5),p(7,5),p(6,5),p(5,5)については、左上領域に位置する画素p(1,1)乃至p(4,4)における場合と同様に、縮退画素位置モード#0乃至#15が、それぞれ出力される。
【0191】
さらに、注目領域が右下領域である場合には、モード制御部81は、予測タップを構成するDCT係数のうち、偶数列DCT係数の符号を反転するとともに、偶数行DCT係数の符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(D−2)に影を付して示す注目ブロックの偶数列DCT係数にのみなっているものと、偶数行DCT係数にのみなっているものの符号を反転し、積和演算回路45に供給する。なお、この場合、予測タップを構成するDCT係数のうち、偶数列DCT係数にもなっており、偶数行DCT係数にもなっているものは、符号が2回反転されるため、結局、元の符号に戻される。
【0192】
積和演算回路45は、動作モードが縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0193】
従って、右下領域に位置する注目画素の縮退画素位置モードを#n’とすると、図11の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0194】
n'=Fn',0×f0+Fn',1×(−f1)+・・・+Fn',63×f63・・・(13)
【0195】
なお、式(13)においては、予測タップを構成する注目ブロックの64個のDCT係数のうち、偶数列DCT係数と偶数行DCT係数の両方に対して、(−1)が乗算されることにより、偶数列DCT係数または偶数行DCT係数のうちのいずれか一方のみになっているDCT係数の符号が反転されている。
【0196】
ここで、注目領域が、右下領域である場合、モード制御部81は、上述のように、ブロック中心点について、注目画素と点対称の位置にある左上領域における画素(以下、適宜、点対称画素という)の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0197】
このように、右下領域の画素の縮退画素位置モードを、その点対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、右下領域の画素と、その点対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0198】
即ち、右下領域の画素と、その点対称画素とは、ブロック中心点に対して点対称となる位置関係を有し、つまり、垂直分割線に対して線対称に移動し、さらに、水平分割線に対して線対称に移動した位置関係を有し、右下領域の画素の画素値は、その位置関係が点対称になっている点対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、右下領域の画素の位置におけるDCT係数の基底となるコサイン波形には、その点対称画素の位置におけるDCT係数の基底となるコサイン波形の左右を反転し、さらに、上下を反転したコサイン波形が割り当てられることになる。このため、右下領域の画素の画素値を予測する場合には、式(13)に示したように、偶数列DCT係数の符号を反転し、さらに偶数行DCT係数の符号を反転することとしている。
【0199】
即ち、上述したように、偶数列DCT係数の基底のコサイン波形は、その左右を反転すると、元のコサイン波形の符号を反転したものとなり、偶数行DCT係数の基底のコサイン波形は、その上下を反転すると、元のコサイン波形の符号を反転したものとなる。
【0200】
従って、空間領域において、右下領域の画素を、その点対称画素と対応させることは、周波数領域において、偶数行DCT係数の基底のコサイン波形の符号を反転させるとともに、偶数行DCT係数の基底のコサイン波形の符号を反転させることと等価である。
【0201】
このため、左下領域の画素の画素値を予測する場合には、式(13)に示したように、偶数列DCT係数にのみなっているDCT係数と、偶数行DCT係数にのみなっているDCT係数の符号が反転される。
【0202】
なお、偶数列DCT係数でもあり、偶数行DCT係数でもあるDCT係数については、符号の反転が2度行われることにより、結局、元の符号に戻るため、符号の反転を行う必要はない。
【0203】
式(10)乃至(13)において、縮退画素位置モード#n’は、0乃至15の16個の値を取り得るから、クラスの総数が1クラスであるとすると、必要なタップ係数の総数は、64×16=1024個となる。従って、画素位置モードを縮退しない場合(上述したように、必要なタップ係数の総数は4096個)に比較して、係数テーブル記憶部44としては、記憶容量の小さいもの(単純には、図5における場合の1/4の記憶容量のもの)を採用することが可能となる。
【0204】
なお、上述の場合には、符号制御部82において、予測タップ抽出回路41が出力する予測タップを構成するDCT係数の符号を操作するようにしたが、符号制御部82では、積和演算回路45が用いるタップ係数の符号を操作するようにし、積和演算回路45において、実質的に、式(10)乃至式(13)の予測式が計算されるようにすることも可能である。
【0205】
次に、図14は、図11のモード制御部81の構成例を示している。
【0206】
領域判定部91には、予測タップ抽出回路41(図11)が出力する注目画素の位置情報が供給されるようになっており、領域判定部91は、その位置情報に基づき、注目領域を判定する。即ち、領域判定部91は、注目画素が、注目ブロックの左上領域、右上領域、左下領域、右下領域のうちのいずれに位置するかを判定する。そして、領域判定部91は、注目領域の判定結果を、領域情報(注目領域が、注目ブロックの左上領域、右上領域、左下領域、右下領域のうちのいずれであるかを表す情報)を出力する。この領域情報は、モード縮退部93に供給されるとともに、符号制御部82(図11)にも供給される。そして、符号制御部82では、この領域情報に基づき、図12で説明したような予測タップの符号の操作(制御)が行われる。
【0207】
画素位置モード判定部92には、予測タップ抽出回路41(図11)が出力する注目画素の位置情報が供給されるようになっており、画素位置モード判定部92は、その位置情報に基づき、注目画素の画素位置モードが、図6に示した64個の画素位置モードのうちのいずれであるかを判定し、モード縮退部93に供給する。
【0208】
モード縮退部93は、領域判定部91から供給される注目画素についての領域情報に基づき、画素位置モード判定部92から供給される注目画素の画素位置モードを縮退し、縮退画素位置モードを出力する。
【0209】
即ち、モード縮退部93は、注目領域が左上領域である場合、画素位置モード判定部92が出力する画素位置モードが表す注目画素の位置に対応して、図12(A−1)に示した0乃至15のうちのいずれかの値を、縮退画素位置モードとして出力する。
【0210】
また、モード縮退部93は、注目領域が右上領域である場合、画素位置モード判定部92が出力する画素位置モードが表す注目画素の位置に対応して、図12(B−1)に示した0乃至15のうちのいずれかの値を、縮退画素位置モードとして出力する。さらに、モード縮退部93は、注目領域が左下領域である場合、画素位置モード判定部92が出力する画素位置モードが表す注目画素の位置に対応して、図12(C−1)に示した0乃至15のうちのいずれかの値を、縮退画素位置モードとして出力し、注目領域が右下領域である場合、画素位置モード判定部92が出力する画素位置モードが表す注目画素の位置に対応して、図12(D−1)に示した0乃至15のうちのいずれかの値を、縮退画素位置モードとして出力する。
【0211】
モード縮退部93が出力する注目画素の縮退画素位置モードは、積和演算回路45(図11)に供給され、積和演算回路45では、その縮退画素位置モードに対応するタップ係数を用いて、式(1)の線形予測演算が行われる。
【0212】
次に、図15のフローチャートを参照して、図11の係数変換回路32の処理について説明する。
【0213】
エントロピー復号回路31(図3)が出力するブロックごとの量子化DCT係数は、逆量子化回路40に供給され、逆量子化回路40は、ステップS51において、そこに供給されるブロックごとの量子化DCT係数の逆量子化を開始する。逆量子化回路40が逆量子化を行うことにより得られるブロックごとのDCT係数は、順次、予測タップ抽出回路41およびクラスタップ抽出回路42に供給される。
【0214】
予測タップ抽出回路41は、逆量子化回路40から供給されるDCT係数のブロックを、順次、注目ブロックとする。そして、予測タップ抽出回路41は、ステップS52において、注目ブロックの画素のうち、ラスタスキャン順で、まだ注目画素としていないものを注目画素として選択し、その注目画素の位置情報を、モード制御部81に出力して、ステップS53に進む。
【0215】
ステップS53では、モード制御部81(図14)の領域判定部91と画素位置モード判定部92が、予測タップ抽出回路41からの位置情報に基づいて、注目画素の領域情報と画素位置モード#nをそれぞれ判定し、ステップS54に進む。ステップS54では、モード制御部81のモード縮退部93が、注目画素の画素位置モード#nを、その領域情報に基づいて縮退し、縮退画素位置モード#n’を求める。そして、注目画素の領域情報は、領域判定部91から符号制御部82に供給され、注目画素の縮退画素位置モード#n’は、モード縮退部93から積和演算回路45に供給される。
【0216】
その後、ステップS55において、クラスタップ抽出回路42は、逆量子化回路40から供給されるDCT係数の中から、注目画素をクラス分類するのに用いるものを抽出して、クラスタップを構成する。即ち、ここでは、クラスタップ抽出回路42は、例えば、図7のステップS14における場合と同様にして、注目画素のクラスタップを構成し、クラス分類回路43に供給する。
【0217】
クラス分類回路43は、ステップS56において、クラスタップ抽出回路42からのクラスタップを用いて、注目画素をクラス分類し、その結果得られるクラスコードを、係数テーブル記憶部44に出力する。
【0218】
係数テーブル記憶部44は、クラス分類回路43からのクラスコードを受信すると、ステップS57において、そのクラスコードに対応するアドレスに記憶されている16セットのタップ係数を読み出し、積和演算回路45に出力する。
【0219】
即ち、図11の係数テーブル記憶部44は、上述したように、各クラスについて、縮退画素位置モードの総数である16セットのタップ係数を記憶しており、その中から、注目画素のクラスコードに対応するアドレスに記憶されている16セットのタップ係数を読み出し、積和演算回路45に出力する。
【0220】
そして、ステップS58に進み、予測タップ抽出回路41は、注目画素の画素値を予測するのに用いるDCT係数を抽出し、予測タップとして構成する。即ち、予測タップ抽出回路41は、例えば、図7のステップS17における場合と同様にして、注目画素の予測タップを構成し、符号制御部82に供給する。
【0221】
さらに、ステップS58では、符号制御部82は、予測タップ抽出回路41からの予測タップの符号を、モード制御部81からの注目画素についての領域情報に基づいて操作する。
【0222】
即ち、符号制御部82は、領域情報において、注目領域が左上領域であることが示されている場合、図12(A−2)で説明したように、予測タップ抽出回路41からの予測タップを、そのまま積和演算回路45に供給する。
【0223】
また、符号制御部82は、領域情報において、注目領域が左上領域であることが示されている場合、図12(B−2)で説明したように、予測タップ抽出回路41からの予測タップを構成するDCT係数のうち、偶数列DCT係数の符号を反転し、積和演算回路45に供給する。
【0224】
さらに、符号制御部82は、領域情報において、注目領域が左上領域であることが示されている場合、図12(C−2)で説明したように、予測タップ抽出回路41からの予測タップを構成するDCT係数のうち、偶数行DCT係数の符号を反転し、積和演算回路45に供給する。
【0225】
また、符号制御部82は、領域情報において、注目領域が左上領域であることが示されている場合、図12(D−2)で説明したように、予測タップ抽出回路41からの予測タップを構成するDCT係数のうち、偶数列DCT係数または偶数行DCT係数にのみなっているDCT係数の符号を反転し、積和演算回路45に供給する。
【0226】
積和演算回路45は、ステップS59において、ステップS57で係数テーブル記憶部44が出力する16セットのタップ係数のうち、注目画素の縮退画素位置モード#n’に対応するタップ係数のセットを取得して、ステップS60に進み、そのタップ係数のセットと、ステップS58で符号制御部82から供給される予測タップとを用いて、式(1)に示した積和演算を行い、注目画素の画素値の復号値を得る。
【0227】
そして、ステップS61に進み、予測タップ抽出回路41は、注目ブロックのすべての画素を、注目画素として処理を行ったかどうかを判定する。ステップS61において、注目ブロックのすべての画素を、注目画素として、まだ処理を行っていないと判定された場合、ステップS52に戻り、予測タップ抽出回路41は、注目ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【0228】
また、ステップS61において、注目ブロックのすべての画素を、注目画素として処理を行ったと判定された場合、即ち、注目ブロックのすべての画素の復号値が得られた場合、積和演算回路45は、その復号値で構成されるブロック(復号ブロック)を、ブロック分解回路33(図3)に出力し、ステップS62に進む。
【0229】
ステップS62では、予測タップ抽出回路41が、逆量子化回路40が出力するDCT係数のブロックすべてを、注目ブロックとして処理したかどうかを判定する。ステップS62において、逆量子化回路40が出力するDCT係数のブロックすべてが、まだ、注目ブロックとされていないと判定された場合、予測タップ抽出回路41は、逆量子化回路40が出力するDCT係数のブロックのうち、まだ、注目ブロックとしていないブロックを、新たに注目ブロックとして、ステップS52に戻り、以下、同様の処理が繰り返される。
【0230】
また、ステップS62において、逆量子化回路40が出力するDCT係数のブロックすべてが、注目ブロックとして処理されたと判定された場合、処理を終了する。
【0231】
以上のように、図11の係数変換回路32では、画素位置モードが縮退されるので、タップ係数の総数が少なくて済み、係数テーブル記憶部44として、記憶容量の小さいものを採用して、効率的に、高画質の画像を復号することが可能となる。
【0232】
次に、図16は、図11の係数テーブル記憶部44に記憶させるタップ係数の学習処理を行う学習装置の構成例を示している。なお、図中、図8における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図16の学習装置は、モード制御部71に代えて、モード制御部101が設けられているとともに、符号制御部102が新たに設けられている他は、図8における場合と基本的に同様に構成されている。
【0233】
モード制御部101は、図11のモード制御部81(図14)と同様に構成され、予測タップ抽出回路65から供給される注目画素の位置情報に基づいて、その画素位置モードを判定し、さらに、その画素位置モードを縮退することにより、縮退画素位置モードを得て、正規方程式加算回路68に供給する。また、モード制御部101は、やはり、図11のモード制御部81と同様に、注目画素の領域情報を判定し、その領域情報に基づき、符号制御部102を制御する。
【0234】
符号制御部102には、予測タップ抽出回路65が出力する注目画素についての予測タップが供給されるようになっており、符号制御部102は、図11の符号制御部82と同様に、モード制御部101の制御にしたがい、予測タップ抽出回路65からの予測タップを構成するDCT係数の符号を操作し、正規方程式加算回路68に出力する。
【0235】
次に、図17のフローチャートを参照して、図16の学習装置の処理(学習処理)について説明する。
【0236】
学習処理では、まず最初に、ステップS71において、図9のステップS31における場合と同様に、ブロック化回路61、DCT回路62、量子化回路63、および逆量子化回路64が、学習用の画像データをJPEG符号化し、さらに、その符号化データから、生徒データとなるDCT係数を取得する。
【0237】
その後、予測タップ抽出回路65は、ブロック化回路61でブロック化された画像データのブロックを、順次、注目ブロックとする。そして、予測タップ抽出回路65は、ステップS72において、注目ブロックの画素のうち、ラスタスキャン順で、まだ注目画素としていないものを注目画素として選択し、その注目画素の位置情報を、モード制御部101に出力して、ステップS73に進む。
【0238】
ステップS73では、モード制御部101が、予測タップ抽出回路65からの位置情報に基づいて、注目画素の画素位置モード#nと領域情報を判定し、ステップS74に進む。ステップS74では、モード制御部101が、注目画素の画素位置モード#nを、その領域情報に基づいて縮退し、縮退画素位置モード#n’を求める。そして、モード制御部101は、注目画素の縮退画素位置モード#n’を、正規方程式加算回路68に供給するとともに、領域情報を、符号制御部102に供給して、ステップS75に進む。
【0239】
ステップS75では、クラスタップ抽出回路66は、逆量子化回路64から、注目画素をクラス分類するのに用いるDCT係数を読み出し、例えば、図9のステップS34における場合と同様にして、クラスタップを構成して、クラス分類回路67に供給する。
【0240】
クラス分類回路67は、ステップS76において、クラスタップ抽出回路66からのクラスタップを用い、図9のステップS35における場合と同様にして、注目画素をクラス分類し、その結果得られるクラスコードを、正規方程式加算回路68に出力する。
【0241】
一方、予測タップ抽出回路65は、ステップS77において、逆量子化回路64から、注目画素の画素値を予測するのに用いるDCT係数を読み出し、図9のステップS36における場合と同様にして、予測タップを構成する。この予測タップは、予測タップ抽出回路65から符号制御部102に供給される。
【0242】
さらに、ステップS77では、符号制御部102が、符号制御部82が図15のステップS58で行うのと同様にして、予測タップ抽出回路65からの予測タップの符号を、モード制御部101からの注目画素についての領域情報に基づいて操作し、正規方程式加算回路68に供給して、ステップS78に進む。
【0243】
ステップS78では、正規方程式加算回路68が、ブロック化回路61から、教師データとしての注目画素を読み出し、予測タップ抽出回路65からの生徒データとしての予測タップ(を構成するDCT係数)、および教師データとしての注目画素を対象として、式(8)の行列Aとベクトルvの、上述したような足し込みを、クラス分類回路67からの注目画素のクラスコードごとに、かつモード制御部101からの注目画素の縮退画素位置モードごとに行う。
【0244】
そして、ステップS79に進み、予測タップ抽出回路65は、注目ブロックのすべての画素を、注目画素として、足し込みを行ったかどうかを判定する。ステップS79において、注目ブロックのすべての画素を、注目画素として、まだ足し込みを行っていないと判定された場合、ステップS72に戻り、予測タップ抽出回路65は、注目ブロックの画素のうち、ラスタスキャン順で、まだ、注目画素とされていない画素を、新たに注目画素として、以下、同様の処理を繰り返す。
【0245】
また、ステップS79において、注目ブロックのすべての画素を、注目画素として、足し込みを行ったと判定された場合、ステップS80に進み、予測タップ抽出回路65は、ブロック化回路61でブロック化された学習用の画像データのブロックすべてを、注目ブロックとして処理を行ったかどうかを判定する。ステップS80において、学習用の画像データのブロックすべてを、注目ブロックとして、まだ処理を行っていないと判定された場合、予測タップ抽出回路65は、学習用の画像データのブロックのうち、まだ、注目ブロックとされていないものを、新たに注目ブロックとし、ステップS72に戻り、以下、同様の処理が繰り返される。
【0246】
一方、ステップS80において、学習用の画像データのブロックすべてを、注目ブロックとして処理を行ったと判定された場合、正規方程式加算回路68は、各クラスについての画素位置モードごとの正規方程式を、タップ係数決定回路69に供給し、ステップS81に進む。
【0247】
ステップS81では、タップ係数決定回路69が、各クラスの縮退画素位置モードごとの正規方程式を解くことにより、各クラスごとに、そのクラスの16の縮退画素位置モードそれぞれに対応する16セットのタップ係数を求め、係数テーブル記憶部70の、各クラスに対応するアドレスに供給して記憶させ、処理を終了する。
【0248】
以上のように、図16の学習装置では、各クラスについて、16個の縮退画素位置モードごとに、正規方程式がたてられる。従って、図8の学習装置のように、64個の画素位置モードごとに正規方程式がたてられる場合に比較して、学習効率を4倍(=(1/16)/(1/64))に向上させることができる。
【0249】
次に、図5の係数変換回路32では、図10(A)と同一の図18(A)に示すように、各ブロックについて、0乃至63の64個の画素位置モードが存在するから、上述のように、注目画素についてクラス分類を行わないとしても(クラスの総数が1クラスであるとしても)、64セットのタップ係数が必要になる。
【0250】
また、図5の係数変換回路32では、図10(B)と同一の図18(B)に示すように、注目画素を含むブロック(注目ブロック)の64個のDCT係数すべてが予測タップとされることから、上述したように、式(1)の線形予測演算を行うには、64個のタップ係数が必要となる。
【0251】
ところで、予測タップは、注目ブロックの64個のDCT係数すべての他だけでなく、他の情報、即ち、例えば、図18(C)に示すように、注目ブロックの上、左、右、下にそれぞれ隣接する4画素a,b,c,dをも用いて構成される場合がある。
【0252】
ここで、画素aは、注目ブロックの上に隣接する8画素のうちの、注目画素と同一の列に位置する画素であり、画素bは、注目ブロックの左に隣接する8画素のうちの、注目画素と同一の行に位置する画素である。また、画素cは、注目ブロックの右に隣接する8画素のうちの、注目画素と同一の行に位置する画素であり、画素dは、注目ブロックの下に隣接する8画素のうちの、注目画素と同一の列に位置する画素である。
【0253】
なお、以下、適宜、画素a,b,c,dを、それぞれ、上隣接ブロック画素、左隣接ブロック画素、右隣接ブロック画素、下隣接ブロック画素という。また、以下、適宜、画素a乃至dを、まとめて、隣接ブロック画素という。
【0254】
このように、予測タップが、注目ブロックの64個のDCT係数すべての他、注目ブロックに隣接する4画素で構成される場合、式(1)の線形予測演算を行うには、68(=64+4)個のタップ係数が必要となる。
【0255】
即ち、この場合、ブロックにおけるある画素の画素位置モードを#nとすると、図5の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0256】
n=An×a+Bn×b+Cn×c+Dn×d
+Fn,0×f0+Fn,1×f1+・・・+Fn,63×f63・・・(14)
【0257】
但し、fi-1は、予測タップとしての64個のDCT係数のシーケンスのうちの、先頭からi番目のDCT係数を表す。また、Fn,i-1は、画素位置モード#nのタップ係数のセットのうちの、予測タップとしての64個のDCT係数のシーケンスの先頭からi番目のDCT係数fi-1と乗算されるタップ係数を表す。また、An,Bn,Cn,Dnは、画素位置モード#nのタップ係数のセットのうちの、予測タップとしての画素(の画素値)a,b,c,dと乗算されるタップ係数をそれぞれ表す。
【0258】
式(14)において、画素位置モード#nは、0乃至63の64個の値を取り得るから、クラスの総数が1クラスであったとしても、タップ係数の個数は、64×68=4352個必要となる。さらに、注目画素についてクラス分類が行われる場合には、そのクラスの総数をCとすると、4352×C個のタップ係数が必要となる。従って、図5の係数テーブル記憶部44としては、少なくとも、そのような数のタップ係数を記憶することのできる記憶容量のものが必要となる。
【0259】
即ち、予測タップを、注目ブロックの64個のDCT係数すべてだけでなく、他の情報も用いて構成すると、図5の係数テーブル記憶部44としては、予測タップを、注目ブロックの64個のDCT係数だけで構成する場合に比較して、より大容量のものが必要となる。
【0260】
さらに、この場合も、画素位置モード#nは、0乃至63の64個の値を取り得るから、やはり、ブロックにおける各画素の位置を考慮しない場合(画素位置モードを1つのモードだけとする場合)に比較して、学習装置における学習効率は1/64に低下する。
【0261】
そこで、図19は、本発明を適用した係数変換回路32の第2実施の形態の構成例を示している。なお、図中、図11における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図19の係数変換回路32は、タップ構造記憶部111および逆DCT回路112が新たに設けられている他は、図11における場合と基本的に同様に構成されている。
【0262】
タップ構造記憶部111には、モード制御部81から、領域情報が供給されるようになっており、タップ構造記憶部111は、予測タップ抽出回路41が構成する予測タップのタップ構造を制御する。即ち、タップ構造記憶部111は、注目領域と、予測タップのタップ構造を表すタップ構造情報とを対応付けて記憶しており、モード制御部81から供給される領域情報が表す注目領域と対応付けられているタップ構造情報を読み出し、予測タップ抽出回路41に供給する。
【0263】
逆DCT回路112には、逆量子化回路40が出力するブロックごとのDCT係数が供給されるようになっており、逆DCT回路112は、そのブロックごとのDCT係数を逆DCT変換し、ブロックごとの画素値を求めて、予測タップ抽出回路41に供給する。
【0264】
なお、図19の実施の形態では、予測タップ抽出回路41は、タップ構造記憶部111から供給されるタップ構造情報が表すタップ構造の予測タップを構成する。さらに、予測タップ抽出回路41は、逆量子化回路40から供給されるDCT係数から、注目ブロックのDCT係数を抽出する他、逆DCT回路112から供給される画素から、注目画素についての隣接ブロック画素a乃至dを抽出し、その隣接ブロック画素a乃至dをも用いて、タップ構造記憶部111から供給されるタップ構造情報が表すタップ構造の予測タップを構成する。
【0265】
次に、図20を参照して、タップ構造情報記憶部111による予測タップのタップ構造の制御について説明する。
【0266】
注目領域が左上領域である場合、モード制御部81は、図12(A−1)と同一の図20(A−1)に示すように、注目ブロックの4×4の左上領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。
【0267】
一方、タップ構造記憶部111は、上隣接ブロック画素a、左隣接ブロック画素b、右隣接ブロック画素c、下隣接ブロック画素dの(画素値の)シーケンスに、注目ブロックの64個のDCT係数のシーケンスを接続した並びを表すタップ構造情報を、注目領域が左上領域である旨の領域情報に対応付けて記憶している。なお、ここでは、注目領域が左上領域である旨の領域情報に対応付けられているタップ構造情報が表すタップ構造が、例えば、デフォルトのタップ構造とされているものとする。
【0268】
注目領域が左上領域である場合には、予測タップ抽出回路41は、上述のようなデフォルトのタップ構造を表すタップ構造情報にしたがい、逆量子化回路40の出力からDCT係数を抽出するとともに、逆DCT回路112の出力から画素を抽出することによって、デフォルトのタップ構造の予測タップを構成する。
【0269】
即ち、予測タップ抽出回路41は、逆DCT回路40の出力から、図20(A−3)に示すように、上隣接ブロック画素a、左隣接ブロック画素b、右隣接ブロック画素c、下隣接ブロック画素dを抽出し、その順番の並びのタップ(a,b,c,d)を構成する。さらに、予測タップ抽出回路41は、逆量子化回路40の出力から、注目ブロックの64個のDCT係数すべてを抽出し、ラインスキャン順の並びのタップを構成する。そして、予測タップ抽出回路41は、隣接ブロック画素のタップの後に、DCT係数のタップを接続(配置)することで、予測タップを構成し、符号制御部82に供給する。
【0270】
注目領域が左上領域である場合、モード制御部81は、上述したように、予測タップを構成するDCT係数の符号を、そのままとするように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを、図12(A−2)と同一の図20(A−2)に示すように、そのまま積和演算回路45に供給する。
【0271】
積和演算回路45は、動作モードが、縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWnとを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0272】
従って、左上領域に位置する注目画素の縮退画素位置モードを#n’とすると、図19の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0273】
n'=An'×a+Bn'×b+Cn'×c+Dn'×d
+Fn',0×f0+Fn',1×f1+・・・+Fn',63×f63・・・(15)
【0274】
但し、An',Bn',Cn',Dn'は、縮退画素位置モード#n’のタップ係数のセットのうちの、デフォルトのタップ構造の予測タップを構成する隣接ブロック画素(の画素値)a,b,c,dと乗算されるタップ係数を表す。
【0275】
なお、式(15)は、上述した式(10)の右辺に、予測タップを構成する隣接ブロック画素a乃至dに関する項An'×a+Bn'×b+Cn'×c+Dn'×dが付加されたものとなっている。
【0276】
次に、注目領域が右上領域である場合、モード制御部81は、図12(B−1)と同一の図20(B−1)に示すように、注目ブロックの4×4の右上領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。
【0277】
一方、タップ構造記憶部111は、上隣接ブロック画素a、右隣接ブロック画素c、左隣接ブロック画素b、下隣接ブロック画素dのシーケンスに、注目ブロックの64個のDCT係数のシーケンスを接続した並びを表すタップ構造情報を、注目領域が右上領域である旨の領域情報に対応付けて記憶している。即ち、タップ構造記憶部111は、デフォルトのタップ構造における左隣接ブロック画素bと右隣接ブロック画素cとを入れ替えたタップ構造を表すタップ構造情報を、注目領域が右上領域である旨の領域情報に対応付けて記憶している。
【0278】
注目領域が右上領域である場合には、予測タップ抽出回路41は、上述のようなタップ構造を表すタップ構造情報にしたがい、逆量子化回路40の出力からDCT係数を抽出するとともに、逆DCT回路112の出力から画素を抽出することによって、予測タップを構成する。
【0279】
即ち、予測タップ抽出回路41は、逆DCT回路40の出力から、図20(B−3)に示すように、上隣接ブロック画素a、左隣接ブロック画素b、右隣接ブロック画素c、下隣接ブロック画素dを抽出し、左隣接ブロック画素bと右隣接ブロック画素cの順番を入れ替えたタップ(a,c,b,d)を構成する。さらに、予測タップ抽出回路41は、逆量子化回路40の出力から、注目ブロックの64個のDCT係数すべてを抽出し、ラインスキャン順の並びのタップを構成する。そして、予測タップ抽出回路41は、隣接ブロック画素のタップの後に、DCT係数のタップを接続することで、予測タップを構成し、符号制御部82に供給する。
【0280】
注目領域が右上領域である場合、モード制御部81は、上述したように、予測タップを構成するDCT係数のうち、偶数列DCT係数の符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(B−2)と同一の図20(B−2)に影を付して示す偶数列DCT係数の符号を反転し、積和演算回路45に供給する。
【0281】
積和演算回路45は、動作モードが、縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0282】
従って、右上領域に位置する注目画素の縮退画素位置モードを#n’とすると、図19の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0283】
n'=An'×a+Bn'×c+Cn'×b+Dn'×d
+Fn',0×f0+Fn',1×(−f1)+・・・+Fn',63×(−f63)・・・(16)
【0284】
なお、式(16)は、上述した式(11)の右辺に、予測タップを構成する隣接ブロック画素a乃至dに関する項An'×a+Bn'×c+Cn'×b+Dn'×dが付加されたものとなっている。
【0285】
ここで、注目領域が、右上領域である場合、モード制御部81は、上述のように、垂直線対称画素の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0286】
このように、右上領域の画素の縮退画素位置モードを、その垂直線対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、右上領域の画素と、その垂直線対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0287】
即ち、右上領域の画素と、その垂直線対称画素とは、垂直分割線に対して左右対称となる位置関係を有し、右上領域の画素の画素値は、その位置関係が、垂直分割線に対して左右反対になっている垂直線対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、右上領域の画素の画素値を予測するにあたっては、予測タップを構成する隣接ブロック画素の位置関係も、デフォルトのタップ構造における場合の左右の位置関係を反対にしたものとする必要がある。
【0288】
このため、式(16)では、式(15)における左隣接ブロック画素bと右隣接ブロック画素cの位置関係が入れ替えられている。
【0289】
なお、式(16)では、式(11)における場合と同様に、偶数列DCT係数の符号も反転されている。
【0290】
次に、注目領域が左下領域である場合、モード制御部81は、図12(C−1)と同一の図20(C−1)に示すように、注目ブロックの4×4の左下領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。
【0291】
一方、タップ構造記憶部111は、下隣接ブロック画素d、左隣接ブロック画素b、右隣接ブロック画素c、上隣接ブロック画素aのシーケンスに、注目ブロックの64個のDCT係数のシーケンスを接続した並びを表すタップ構造情報を、注目領域が左下領域である旨の領域情報に対応付けて記憶している。即ち、タップ構造記憶部111は、デフォルトのタップ構造における上隣接ブロック画素aと下隣接ブロック画素dとを入れ替えたタップ構造を表すタップ構造情報を、注目領域が左下領域である旨の領域情報に対応付けて記憶している。
【0292】
注目領域が左下領域である場合には、予測タップ抽出回路41は、上述のようなタップ構造を表すタップ構造情報にしたがい、逆量子化回路40の出力からDCT係数を抽出するとともに、逆DCT回路112の出力から画素を抽出することによって、予測タップを構成する。
【0293】
即ち、予測タップ抽出回路41は、逆DCT回路40の出力から、図20(C−3)に示すように、上隣接ブロック画素a、左隣接ブロック画素b、右隣接ブロック画素c、下隣接ブロック画素dを抽出し、上隣接ブロック画素aと下隣接ブロック画素dの順番を入れ替えたタップ(d,b,c,a)を構成する。さらに、予測タップ抽出回路41は、逆量子化回路40の出力から、注目ブロックの64個のDCT係数すべてを抽出し、ラインスキャン順の並びのタップを構成する。そして、予測タップ抽出回路41は、隣接ブロック画素のタップの後に、DCT係数のタップを接続することで、予測タップを構成し、符号制御部82に供給する。
【0294】
注目領域が左下領域である場合、モード制御部81は、上述したように、予測タップを構成するDCT係数のうち、偶数行DCT係数の符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(C−2)と同一の図20(C−2)に影を付して示す偶数行DCT係数の符号を反転し、積和演算回路45に供給する。
【0295】
積和演算回路45は、動作モードが、縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0296】
従って、左下領域に位置する注目画素の縮退画素位置モードを#n’とすると、図19の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0297】
n'=An'×d+Bn'×b+Cn'×c+Dn'×a
+Fn',0×f0+Fn',1×f1+・・・+Fn',63×(−f63)・・・(17)
【0298】
なお、式(17)は、上述した式(12)の右辺に、予測タップを構成する隣接ブロック画素a乃至dに関する項An'×d+Bn'×b+Cn'×c+Dn'×aが付加されたものとなっている。
【0299】
ここで、注目領域が、左下領域である場合、モード制御部81は、上述のように、水平線対称画素の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0300】
このように、左下領域の画素の縮退画素位置モードを、その水平線対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、左下領域の画素と、その水平線対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0301】
即ち、左下領域の画素と、その水平線対称画素とは、水平分割線に対して上下対称となる位置関係を有し、左下領域の画素の画素値は、その位置関係が、水平分割線に対して上下反対になっている水平線対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、左下領域の画素の画素値を予測するにあたっては、予測タップを構成する隣接ブロック画素の位置関係も、デフォルトのタップ構造における場合の上下の位置関係を反対にしたものとする必要がある。
【0302】
このため、式(17)では、式(15)における上隣接ブロック画素aと下隣接ブロック画素dの位置関係が入れ替えられている。
【0303】
なお、式(17)では、式(12)における場合と同様に、偶数行DCT係数の符号も反転されている。
【0304】
次に、注目領域が右下領域である場合、モード制御部81は、図12(D−1)と同一の図20(D−1)に示すように、注目ブロックの4×4の右下領域のいずれに、注目画素が位置するかによって、0乃至15の16モードの縮退画素位置モードのうちのいずれかを、注目画素の縮退画素位置モードとして出力する。
【0305】
一方、タップ構造記憶部111は、下隣接ブロック画素d、右隣接ブロック画素c、左隣接ブロック画素b、上隣接ブロック画素aのシーケンスに、注目ブロックの64個のDCT係数のシーケンスを接続した並びを表すタップ構造情報を、注目領域が右下領域である旨の領域情報に対応付けて記憶している。即ち、タップ構造記憶部111は、デフォルトのタップ構造における左隣接ブロック画素bと右隣接ブロック画素cとを入れ替えるとともに、上隣接ブロック画素aと下隣接ブロック画素dとを入れ替えたタップ構造を表すタップ構造情報を、注目領域が右下領域である旨の領域情報に対応付けて記憶している。
【0306】
注目領域が右下領域である場合には、予測タップ抽出回路41は、上述のようなタップ構造を表すタップ構造情報にしたがい、逆量子化回路40の出力からDCT係数を抽出するとともに、逆DCT回路112の出力から画素を抽出することによって、予測タップを構成する。
【0307】
即ち、予測タップ抽出回路41は、逆DCT回路40の出力から、図20(D−3)に示すように、上隣接ブロック画素a、左隣接ブロック画素b、右隣接ブロック画素c、下隣接ブロック画素dを抽出し、左隣接ブロック画素bと右隣接ブロック画素cの順番を入れ替えるとともに、上隣接ブロック画素aと下隣接ブロック画素dの順番を入れ替えたタップ(d,c,b,a)を構成する。さらに、予測タップ抽出回路41は、逆量子化回路40の出力から、注目ブロックの64個のDCT係数すべてを抽出し、ラインスキャン順の並びのタップを構成する。そして、予測タップ抽出回路41は、隣接ブロック画素のタップの後に、DCT係数のタップを接続することで、予測タップを構成し、符号制御部82に供給する。
【0308】
注目領域が右下領域である場合、モード制御部81は、上述したように、予測タップを構成するDCT係数のうち、偶数列DCT係数の符号を反転するとともに、偶数行DCT係数の符号を反転するように、符号制御部82を制御する。従って、この場合、符号制御部82は、予測タップ抽出回路41が出力する注目画素についての予測タップを構成するDCT係数のうち、図12(D−2)と同一の図20(D−2)に影を付して示す偶数列DCT係数または偶数行DCT係数にのみなっているDCT係数の符号を反転し、積和演算回路45に供給する。
【0309】
積和演算回路45は、動作モードが、縮退画素位置モード#n’のときには、予測タップと、注目画素のクラスに対応する16セットのタップ係数のうちのセットWn'とを用いて、式(1)の積和演算を行い、その積和演算結果を、注目画素の復号結果とする。
【0310】
従って、右下領域に位置する注目画素の縮退画素位置モードを#n’とすると、図19の積和演算回路45において、その画素の画素値の予測値Lnは、式(1)に対応する次式にしたがって求められる。
【0311】
n'=An'×d+Bn'×c+Cn'×d+Dn'×a
+Fn',0×f0+Fn',1×(−f1)+・・・+Fn',63×f63・・・(18)
【0312】
なお、式(18)は、上述した式(13)の右辺に、予測タップを構成する隣接ブロック画素a乃至dに関する項An'×d+Bn'×c+Cn'×b+Dn'×aが付加されたものとなっている。
【0313】
ここで、注目領域が、右下領域である場合、モード制御部81は、上述のように、点対称画素の縮退画素位置モードを、注目画素の縮退画素位置モードとして採用することにより、画素位置モードを縮退する。
【0314】
このように、右下領域の画素の縮退画素位置モードを、その点対称画素の縮退画素位置モードと兼用する場合、仮に、クラス分類を行わないとすれば、右下領域の画素と、その点線対称画素とは、同一のタップ係数のセットを用いて予測されることになる。
【0315】
即ち、右下領域の画素と、その点対称画素とは、垂直分割線に対して左右対称となり、かつ水平分割線に対して上下対称となる位置関係を有し、右下領域の画素の画素値は、その位置関係が、垂直分割線に対して左右反対になっており、かつ水平分割線に対して上下反対になっている点対称画素と同一の縮退画素位置モードに対応するタップ係数のセットを用いて予測される。従って、右下領域の画素の画素値を予測するにあたっては、予測タップを構成する隣接ブロック画素の位置関係も、デフォルトのタップ構造における場合の左右の位置関係と上下の位置関係を反対にしたものとする必要がある。
【0316】
このため、式(18)では、式(15)における左隣接ブロック画素bと右隣接ブロック画素cの位置関係が入れ替えられているとともに、上隣接ブロック画素aと下隣接ブロック画素dの位置関係が入れ替えられている。
【0317】
なお、式(18)では、式(13)における場合と同様に、偶数列DCT係数または偶数行DCT係数にのみなっているDCT係数の符号も反転されている。
【0318】
式(15)乃至(18)においても、式(10)乃至(13)における場合と同様に、縮退画素位置モード#n’は、0乃至15の16個の値を取り得るから、クラスの総数が1クラスであるとすると、必要なタップ係数の総数は、68×16=1088個となる。従って、画素位置モードを縮退しない場合(上述したように、必要なタップ係数の総数は4352個)に比較して、係数テーブル記憶部44としては、記憶容量の小さいものを採用することが可能となる。
【0319】
次に、図21のフローチャートを参照して、図19の係数変換回路32の処理について説明する。
【0320】
エントロピー復号回路31(図3)が出力するブロックごとの量子化DCT係数は、逆量子化回路40に供給され、ステップS91において、逆量子化回路40は、そこに供給されるブロックごとの量子化DCT係数の逆量子化を開始する。逆量子化回路40が逆量子化を行うことにより得られるブロックごとのDCT係数は、順次、予測タップ抽出回路41、クラスタップ抽出回路42、および逆DCT回路112に供給される。さらに、ステップS91では、逆DCT回路112が、逆量子化回路40が出力するブロックごとのDCT係数の逆DCT変換を開始し、その逆DCT変換により得られるブロックごとの画素(画素値)は、順次、予測タップ抽出回路41に供給される。
【0321】
予測タップ抽出回路41は、逆量子化回路40から供給されるDCT係数のブロックを、順次、注目ブロックとする。そして、以下、ステップS92乃至S97において、図15のステップS52乃至S57における場合とそれぞれ同様の処理が行われる。
【0322】
そして、ステップS97において、係数テーブル記憶部44から積和演算回路45に対して、注目画素のクラスに対応する16セットのタップ係数が供給されると、ステップS98に進み、タップ構造記憶部111は、モード制御部81がステップS93で出力する領域情報に対応付けられているタップ構造情報を読み出し、予測タップ抽出回路41に供給して、ステップS99に進む。
【0323】
ステップS99では、予測タップ抽出回路41が、逆量子化回路40と逆DCT回路112の出力から、注目画素の画素値を予測するのに用いるDCT係数と隣接ブロック画素をそれぞれ抽出し、ステップS98でタップ構造記憶部111から供給されるタップ構造情報が表すタップ構造の予測タップを構成する。この予測タップは、予測タップ抽出回路41から符号制御部82に供給される。
【0324】
さらに、ステップS99では、符号制御部82が、予測タップ抽出回路41からの注目画素の予測タップの符号を、モード制御部81から供給される注目画素についての領域情報に基づき、図15のステップS58における場合と同様に操作し、積和演算回路45に供給する。
【0325】
そして、ステップS100に進み、以下、ステップS100乃至S103において、図15のステップS59乃至S62における場合とそれぞれ同様の処理が行われ、ステップS103において、逆量子化回路40が出力するDCT係数のブロックすべてが、注目ブロックとして処理されたと判定されると、処理を終了する。
【0326】
以上のように、予測タップを、注目ブロックのDCT係数の他、隣接ブロック画素をも用いて構成する場合には、より高画質の復号画像を得ることが可能となる。
【0327】
なお、上述の場合には、注目ブロックのDCT係数の他、隣接ブロック画素を用いて、予測タップを構成するようにしたが、予測タップは、隣接ブロック画素以外の、注目ブロックの上側、下側、左側、または右側にそれぞれ位置する画素に関する情報である上側画素情報、下側画素情報、左側画素情報、または右側画素情報を用いて構成することが可能である。ここで、隣接ブロック画素以外の上側画素情報、下側画素情報、左側画素情報、または右側画素情報としては、例えば、注目ブロックの上、下、左、または右に隣接ブロックのDCT係数等を採用することが可能である。但し、上側画素情報、下側画素情報、左側画素情報、および右側画素情報として、どのような情報を用いる場合でも、上述の隣接ブロック画素における場合と同様に、予測タップの左右または上下の位置関係を反転させる必要がある。
【0328】
次に、図22は、図19の係数テーブル記憶部44に記憶させるタップ係数の学習処理を行う学習装置の構成例を示している。なお、図中、図16における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図22の学習装置は、タップ構造記憶部121と逆DCT回路122が新たに設けられている他は、図16における場合と基本的に同様に構成されている。
【0329】
タップ構造記憶部121は、図19のタップ構造記憶部111と同様に、予測タップ抽出回路65が構成する予測タップのタップ構造を制御する。即ち、タップ構造記憶部121には、モード制御部101から、領域情報が供給されるようになっている。そして、タップ構造記憶部121は、注目領域と、予測タップのタップ構造を表すタップ構造情報とを対応付けて記憶しており、モード制御部101から供給される領域情報が表す注目領域と対応付けられているタップ構造情報を読み出し、予測タップ抽出回路65に供給する。
【0330】
逆DCT回路122には、逆量子化回路64が出力するブロックごとのDCT係数が供給されるようになっており、逆DCT回路122は、図19の逆DCT回路112と同様に、逆量子化回路64が出力するブロックごとのDCT係数を逆DCT変換し、ブロックごとの画素値を求めて、予測タップ抽出回路65に供給する。
【0331】
なお、図22の実施の形態では、予測タップ抽出回路65は、図19の予測タップ抽出回路41と同様に、タップ構造記憶部121から供給されるタップ構造情報が表すタップ構造の予測タップを構成する。さらに、予測タップ抽出回路65は、やはり、図19の予測タップ抽出回路41と同様に、逆量子化回路64から供給されるDCT係数から、注目ブロックのDCT係数を抽出する他、逆DCT回路122から供給される画素から、注目画素についての隣接ブロック画素a乃至dを抽出し、その隣接ブロック画素a乃至dをも用いて、タップ構造情報が表すタップ構造の予測タップを構成する。
【0332】
次に、図23のフローチャートを参照して、図22の学習装置の処理(学習処理)について説明する。
【0333】
学習処理では、まず最初に、ステップS111において、図17のステップS71における場合と同様に、ブロック化回路61、DCT回路62、量子化回路63、および逆量子化回路64が、学習用の画像データをJPEG符号化し、さらに、その符号化データから、生徒データとなるDCT係数を取得する。さらに、ステップS111では、逆DCT回路122が、逆量子化回路64で得られたブロックごとのDCT係数を逆DCT変換し、これにより、ブロックごとの画素(画素値)を取得する。
【0334】
そして、予測タップ抽出回路65は、ブロック化回路61でブロック化された画像データのブロックを、順次、注目ブロックとし、その後、ステップS112乃至S116において、図17のステップS72乃至S76における場合とそれぞれ同様の処理が行われる。
【0335】
そして、ステップS116において、クラス分類回路67から正規方程式加算回路68に対して、注目画素のクラスコードが出力されると、ステップS117に進み、タップ構造記憶部121は、モード制御部101がステップS113で出力する領域情報に対応付けられているタップ構造情報を読み出し、予測タップ抽出回路6に供給して、ステップS118に進む。
【0336】
ステップS118では、予測タップ抽出回路65が、逆量子化回路64と逆DCT回路122の出力から、注目画素の画素値を予測するのに用いるDCT係数と隣接ブロック画素をそれぞれ抽出し、ステップS117でタップ構造記憶部121から供給されるタップ構造情報が表すタップ構造の予測タップを構成する。この予測タップは、予測タップ抽出回路65から符号制御部102に供給される。
【0337】
さらに、ステップS118では、符号制御部102が、予測タップ抽出回路65からの注目画素の予測タップの符号を、モード制御部101から供給される注目画素についての領域情報に基づき、図17のステップS77における場合と同様に操作し、正規方程式加算回路68に供給する。
【0338】
そして、ステップS119に進み、以下、ステップS119乃至S122において、図17のステップS78乃至S81における場合とそれぞれ同様の処理が行われ、これにより、タップ係数決定回路69において、各クラスごとに、そのクラスの16の縮退画素位置モードそれぞれに対応する16セットのタップ係数が求められ、係数テーブル記憶部70の、各クラスに対応するアドレスに供給されて記憶され、処理を終了する。
【0339】
以上のように、予測タップを、注目ブロックのDCT係数以外の情報を用いて構成する場合においても、画素位置モードを縮退することにより、図16の実施の形態における場合と同様に、学習効率を向上させることができる。
【0340】
次に、画素位置モードの縮退は、上述のように、注目画素が右上領域、左下領域、または右下領域の画素である場合に、その注目画素の画素位置モードを、垂直分割線に対して注目画素と線対称の位置にある画素(垂直線対称画素)、水平分割線に対して注目画素と線対称の位置にある左上領域の画素(水平線対称画素)、またはブロック中心点に対して注目画素と点対称の位置にある左上領域の画素(点対称画素)の画素位置モードと兼用することで行うようにしているため、予測タップについては、図12や図20で説明したように、DCT係数の基底となっているコサイン波形や、隣接ブロック画素の位置の左右、上下、または左右と上下の両方の位置関係を反対にする(位置関係を反転する)必要がある。
【0341】
一方、上述の場合には、係数変換回路32のクラス分類回路43や、学習装置のクラス分類回路67において、注目ブロックのDCT係数すべてをクラスタップとして、そのクラスタップをADRC処理することにより、クラス分類を行うようにしたため、即ち、クラス分類を、上述のような画素位置モードの兼用による画素位置モードの縮退の影響を受けない方法で行うようにしていたため、クラス分類については、予測タップについて行う必要があるような位置関係の反転は、行う必要がなかった。
【0342】
しかしながら、クラス分類を、例えば、注目ブロックと、その上下左右に隣接するブロックそれぞれとの間の関係に基づいて行うような場合には、予測タップについて行う位置関係の反転と同様の操作を、クラスコードについて行う必要がある。
【0343】
そこで、図24は、本発明を適用した係数変換回路32の第3実施の形態の構成例を示している。なお、図中、図19における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図24の係数変換回路32は、クラスコード操作部131が新たに設けられている他は、図11における場合と基本的に同様に構成されている。
【0344】
但し、図24の実施の形態では、クラスタップ抽出回路42において、注目ブロックと、その上下左右に隣接するブロックそれぞれとの間において、エッジが繋がっている等の、何らかの連続性があるかどうかを表す情報を含むクラスタップが、逆量子化回路40の出力から抽出され、クラス分類回路43では、そのようなクラスタップに基づいて、クラス分類が行われるようになっている。
【0345】
クラスコード操作部131には、クラス分類回路43が出力する注目画素のクラスコードと、モード制御部81が出力する注目画素の領域情報が供給されるようになっている。そして、クラスコード操作部131は、注目画素のクラスコードを、注目画素の領域情報に基づいて操作し、係数テーブル記憶部44に供給する。
【0346】
次に、図25は、図24のクラスタップ抽出回路42の構成例を示している。
【0347】
1次元逆DCT変換部141には、逆量子化回路40(図24)が出力するブロックごとのDCT係数が供給されるようになっている。そして、1次元逆DCT変換部141は、逆量子化回路40から供給されるブロックごとのDCT係数を、1次元逆DCT変換することにより、水平方向の空間周波数成分を表す水平1次元DCT係数と、垂直方向の空間周波数成分を表す垂直1次元DCT係数とを求める。
【0348】
ここで、図26および図27を参照して、図25の1次元逆DCT変換部141が行う1次元逆DCT変換について説明する。
【0349】
MPEGやJPEG等のDCT変換を利用した画像の符号化方式では、画像データが、横×縦が8×8のブロック単位で、水平方向および垂直方向の2次元のDCT変換(2次元DCT変換)/逆DCT変換(2次元逆DCT変換)が行われる。
【0350】
ここで、MPEGやJPEG符号化された符号化データに含まれるDCT係数は、水平方向と垂直方向の2方向の空間周波数成分を表すものであり、1次元DCT係数と区別するために、以下、適宜、2次元DCT係数という。
【0351】
さらに、以下、適宜、画素値から2次元DCT係数への変換を、2次元DCT変換と、2次元DCT係数から画素値への変換を、2次元逆DCT変換と、それぞれいう。前述の図1におけるDCT回路2で行われるDCT変換は、2次元DCT変換であり、また、上述の逆DCT回路112(図19等)や逆DCT回路122(図22等)で行われる逆DCT変換は、2次元逆DCT変換である。
【0352】
いま、図26(A)に示す8×8のブロックにおける画素値を、8行×8列の行列Xで表すとともに、図26(B)に示す8×8のブロックにおけるDCT係数を、8行×8列の行列Fで表すこととすると、2次元DCT変換/2次元逆DCT変換は、次式で表すことができる。
【0353】
CXCT=F・・・(19)
TFC=X・・・(20)
【0354】
ここで、上付のTは、転置を表す。また、Cは、8行×8列のDCT変換行列で、その第i+1行第j+1列のコンポーネントcijは、次式で表される。
【0355】
ij=Ai×cos((2j+1)×i×π/16)・・・(21)
【0356】
但し、式(21)において、i=0のときは、Ai=1/(2√2)であり、i≠0のときは、Ai=1/2である。また、iとjは、0乃至7の範囲の整数値である。
【0357】
式(19)は、画素値Xを、2次元DCT係数Fに変換する2次元DCT変換を表し、式(20)は、2次元DCT係数Fを、画素値Xに変換する2次元逆DCT変換を表す。
【0358】
従って、式(20)によれば、2次元DCT係数Fは、その左側から行列CTをかけるとともに、その右側から行列Cをかけることにより、画素値Xに変換されるが、1次元逆DCT変換部141は、2次元DCT係数Fに対して、その左側から行列CTをかけるだけか、または、その右側から行列Cをかけるだけかすることにより、1次元DCT係数を求める。
【0359】
即ち、1次元逆DCT変換部141は、2次元DCT係数Fに対して、その左側から行列CTだけをかける。この場合、図26(C)に示すように、2次元DCT係数Fにおける垂直方向が空間領域に変換され、水平方向が周波数領域のままとされる垂直1次元逆DCT変換が行われることとなり、その結果、水平方向の空間周波数成分を表す水平1次元DCT係数vXhFを得ることができる。
【0360】
また、1次元逆DCT変換部141は、2次元DCT係数Fに対して、その右側から行列Cだけをかける。この場合、図26(D)に示すように、2次元DCT係数Fにおける水平方向が空間領域に変換され、垂直方向が周波数領域のままとされる水平1次元逆DCT変換が行われることとなり、その結果、垂直方向の空間周波数成分を表す垂直1次元DCT係数hXvFを得ることができる。
【0361】
なお、横×縦が8×8の2次元DCT係数Fを、垂直1次元逆DCT変換した場合には、8×1の水平1次元DCT係数が、8セット(8行分)得られることになる(図26(C))。また、2次元DCT係数Fを、水平1次元逆DCT変換した場合には、1×8の垂直1次元DCT係数が、8セット(8列分)得られることになる(図26(D))。
【0362】
そして、ある行における8×1の水平1次元DCT係数については、その左端のDCT係数が、その行の8画素の画素値の直流成分(DC成分)(8画素の画素値の平均値)を表し、他の7つのDCT係数が、その行の水平方向の交流成分(AC成分)を表す。また、ある列における1×8の垂直1次元DCT係数については、その最上行のDCT係数が、その列の8画素の画素値の直流成分を表し、他の7つのDCT係数が、その列の垂直方向の交流成分を表す。
【0363】
ここで、式(19)によれば、水平1次元DCT係数は、2次元DCT係数Fに対応する画素値Xに対して、その右側から行列CTをかける水平1次元DCT変換を行うことによっても求めることができる。また、垂直1次元DCT係数は、2次元DCT係数Fに対応する画素値Xに対して、その左側から行列Cをかける垂直1次元DCT変換を行うことによっても求めることができる。
【0364】
図27は、実際の画像と、その画像についての2次元DCT係数、水平1次元DCT係数、および垂直1次元DCT係数を示している。
【0365】
なお、図27は、8×8ブロックの画像と、その画像についての2次元DCT係数、水平1次元DCT係数、および垂直1次元DCT係数を示している。また、図27(A)が、実際の画像を、図27(B)が、2次元DCT係数を、図27(C)が、水平1次元DCT係数を、図27(D)が、垂直1次元DCT係数を、それぞれ示している。
【0366】
ここで、図27(A)の画像は、8ビットの画素値を有するものであり、そのような画素値から求められるDCT係数は、負の値も取り得る。但し、図27(B)乃至図27(D)の実施の形態では、求められたDCT係数に対して、128(=27)を加算し、その加算値が0未満となるものは0にクリップするとともに、加算値が256以上となるものは255にクリップすることにより、0乃至255の範囲のDCT係数を、図示してある。
【0367】
2次元DCT係数には、8×8画素のブロック全体の情報が反映されているため、2次元DCT係数からでは、ブロック内の特定の画素の情報等の局所的な情報を把握するのは困難である。これに対して、水平1次元DCT係数または垂直1次元DCT係数には、ブロックのある1行または1列だけの情報が、それぞれ反映されているため、2次元DCT係数に比較して、ブロック内の局所的な情報を容易に把握することができる。
【0368】
即ち、ブロックのある行の特徴は、その行の8×1の水平1次元DCT係数から把握することができ、ある列の特徴は、その列の1×8の垂直1次元DCT係数から把握することができる。さらに、ブロックのある画素の特徴は、その画素が位置する行の8×1の水平1次元DCT係数と、その画素が位置する列の1×8の垂直1次元DCT係数とから把握することができる。
【0369】
また、左右に隣接するブロックどうしの境界の状態は、ブロック全体の情報が反映された2次元DCT係数よりも、ブロックの境界部分の垂直方向の空間周波数成分を表す垂直1次元DCT係数を用いた方が、より正確に把握することができる。さらに、上下に隣接するブロックどうしの境界の状態も、ブロック全体の情報が反映された2次元DCT係数よりも、ブロックの境界部分の水平方向の空間周波数成分を表す水平1次元DCT係数を用いた方が、より正確に把握することができる。
【0370】
なお、以下、適宜、垂直1次元DCT係数と水平1次元DCT係数とをまとめて、1次元DCT係数という。
【0371】
図25に戻り、1次元逆DCT変換部141は、注目ブロックの1次元DCT係数と、注目ブロックの上下左右に隣接するブロックそれぞれの1次元DCT係数を求めると、それらの1次元DCT係数を、境界1次元DCT係数抽出部144、および隣接1次元DCT係数抽出部145に供給する。
【0372】
境界1次元DCT係数抽出部144は、1次元逆DCT変換部141の出力から、注目ブロックの上側の境界(1行目の)の水平1次元DCT係数(以下、適宜、上境界1次元DCT係数という)、下側の境界の(8行目の)垂直1次元DCT係数(以下、適宜、下境界1次元DCT係数という)、左側の境界の(1列目の)垂直1次元DCT係数(以下、適宜、左境界1次元DCT係数という)、および右側の境界の(8列目の)垂直1次元DCT係数(以下、適宜、右境界1次元DCT係数という)を抽出して出力する。
【0373】
ここで、以下、適宜、上境界1次元DCT係数、下境界1次元DCT係数、左境界1次元DCT係数、および右境界1次元DCT係数を、まとめて、境界1次元DCT係数という。
【0374】
隣接1次元DCT係数抽出部145は、1次元逆DCT変換部141の出力から、注目ブロックの上に隣接するブロックにおける、注目ブロックと隣接する水平1次元DCT係数(以下、適宜、上隣接1次元DCT係数という)、注目ブロックの下に隣接するブロックにおける、注目ブロックと隣接する水平1次元DCT係数(以下、適宜、下隣接1次元DCT係数という)、注目ブロックの左に隣接するブロックにおける、注目ブロックと隣接する垂直1次元DCT係数(以下、適宜、左隣接1次元DCT係数という)、および注目ブロックの右に隣接するブロックにおける、注目ブロックと隣接する垂直1次元DCT係数(以下、適宜、右隣接1次元DCT係数という)を抽出して出力する。
【0375】
ここで、以下、適宜、上隣接1次元DCT係数、下隣接1次元DCT係数、左隣接1次元DCT係数、および右隣接1次元DCT係数を、まとめて、隣接1次元DCT係数という。
【0376】
クラスタップ抽出回路42は、逆量子化回路40の出力から、上述したようにして、境界1次元DCT係数、および隣接1次元DCT係数をクラスタップとして抽出し、クラス分類回路43(図24)に供給する。
【0377】
次に、図28は、図24のクラス分類回路43の構成例を示している。
【0378】
ACパワー算出部151は、クラスタップ抽出回路42が出力するクラスタップとしての境界1次元DCT係数と、隣接1次元DCT係数を受信し、それぞれの交流成分のパワー(以下、適宜、ACパワーという)を求め、連続性判定部154に供給する。
【0379】
即ち、ACパワー算出部151は、図29に示すように、境界1次元DCT係数から、水平1次元DCT係数である上境界1次元DCT係数と下境界1次元DCT係数を抽出するとともに、隣接1次元DCT係数から、水平1次元DCT係数である上隣接1次元DCT係数と下隣接1次元DCT係数を抽出し、水平方向のACパワーを求める。さらに、ACパワー算出部151は、図29に示すように、境界1次元DCT係数から、垂直1次元DCT係数である左境界1次元DCT係数と右境界1次元DCT係数を抽出するとともに、隣接1次元DCT係数から、垂直1次元DCT係数である左隣接1次元DCT係数と右隣接1次元DCT係数を抽出し、垂直方向のACパワーを求める。
【0380】
ここで、1次元DCT係数の7つの交流成分をACnと表すこととすると(n=1,2,・・・,7)、ACパワーPACは、例えば、次式によって計算される。
【0381】
AC=ΣACn 2・・・(22)
【0382】
但し、式(22)において、Σは、変数nを1から7に変えてのサメーションを表す。
【0383】
なお、以上のようにして、1次元DCT係数から求められるACパワーは、その1次元DCT係数に対応する8画素の交流成分の電力と捉えることができ、従って、画像のアクティビティを表すということができる。
【0384】
図28に戻り、DC成分抽出部152は、クラスタップ抽出回路42(図24)が出力するクラスタップとしての境界1次元DCT係数と、隣接1次元DCT係数を受信し、それぞれの直流成分(DC成分)を抽出して、連続性判定部154に供給する。
【0385】
即ち、DC成分抽出部152は、境界1次元DCT係数と、隣接1次元DCT係数における8×1の水平1次元DCT係数(上境界1次元DCT係数、下境界1次元DCT係数、上隣接1次元DCT係数、下隣接1次元DCT係数)については、その最も左側に位置する直流成分を抽出し、連続性判定部154に供給する。また、DC成分抽出部152は、境界1次元DCT係数と、隣接1次元DCT係数における1×8の垂直1次元DCT係数(左境界1次元DCT係数、右境界1次元DCT係数、左隣接1次元DCT係数、右隣接1次元DCT係数)については、その最も上側に位置する直流成分を抽出し、連続性判定部154に供給する。
【0386】
AC内積算出部153は、クラスタップ抽出回路42(図24)から供給されるクラスタップとしての境界1次元DCT係数の交流成分と、隣接1次元DCT係数の交流成分とを、それぞれベクトルのコンポーネントとみなして、その2つのベクトルの内積(AC内積)を求め、連続性判定部154に供給する。
【0387】
即ち、図30に示すように、AC内積算出部153は、上境界1次元DCT係数の交流成分と、上境界1次元DCT係数に隣接する上隣接1次元DCT係数の交流成分とを、それぞれベクトルのコンポーネントとみなして、その2つのベクトルのAC内積(以下、上内積という)を、次式にしたがって求める。
【0388】
I=Σ(ACn×ACn’)・・・(23)
【0389】
但し、式(23)において、Iは、AC内積を表す。さらに、ACnは、注目ブロックについての上境界1次元DCT係数のn番目の交流成分を表し、ACn’は、注目ブロックについての上隣接1次元DCT係数のn番目の交流成分を表す。また、Σは、nを1から7に変えてのサメーションを表す。
【0390】
AC内積算出部153は、下境界1次元DCT係数と下隣接1次元DCT係数、左境界1次元DCT係数と左隣接1次元DCT係数、または右境界1次元DCT係数と右隣接1次元DCT係数それぞれについても、式(23)にしたがい、AC内積を求める。
【0391】
ここで、以下、適宜、注目ブロックについての下境界1次元DCT係数と下隣接1次元DCT係数とから求められるAC内積を、下内積と、左境界1次元DCT係数と左隣接1次元DCT係数とから求められるAC内積を、左内積と、右境界1次元DCT係数と右隣接1次元DCT係数とから求められるAC内積を、右内積と、それぞれいう。
【0392】
AC内積は、注目ブロックの境界を挟む境界1次元DCT係数と隣接1次元DCT係数の交流成分が類似する場合、即ち、境界1次元DCT係数の交流成分をコンポーネントとするベクトルと、隣接1次元DCT係数の交流成分をコンポーネントとするベクトルとがつくる角度が90度未満(以上)である場合に正の値(0以上の値)となる。従って、AC内積が正の値であることは、注目ブロックの境界を挟む境界1次元DCT係数に対応する8画素と、隣接1次元DCT係数に対応する8画素の波形パターンが似ていることを表しており、例えば、注目ブロックとそれに隣接するブロックの境界において、その境界を横切る形で連続しているエッジが存在することを表す。
【0393】
再び図28に戻り、連続性判定部154は、ACパワー算出部151から供給される境界1次元DCT係数から求められたACパワー、および隣接1次元DCT係数から求められたACパワー、DC成分抽出部152から供給される境界1次元DCT係数の直流成分、および隣接1次元DCT係数の直流成分、並びにAC内積算出部153から供給される上内積、下内積、左内積、および右内積に基づき、注目ブロックの上下左右それぞれの境界部分における画像の連続性を、注目ブロックとその上下左右に隣接するブロックとの間に関する上側ブロック間情報、下側ブロック間情報、左側ブロック間情報、右側ブロック間情報として判定する。さらに、連続性判定部154は、注目ブロックの上下左右それぞれの境界部分における画像の連続性の判定結果である上側ブロック間情報、下側ブロック間情報、左側ブロック間情報、および右側ブロック間情報に基づいて、注目画素をクラス分類し、そのクラスを表すクラスコードを出力する。
【0394】
即ち、連続性判定部154は、注目ブロックと、その上下左右に隣接するブロックそれぞれとの間の画像のつながり具合を表す画像の連続性を判定する。そして、連続性判定部154は、注目ブロックの上下左右の各境界部分について、画像の連続性の有無を表す4ビットを、クラスコードとして出力する。従って、ここでは、注目画素は、16(=24)クラスのうちのいずれかにクラス分類されることになる。
【0395】
ここで、連続性判定部154が出力する4ビットのクラスコードを、その最上位ビットから順に、(B4,B3,B2,B1)と表すこととすると、ビットB4,B3,B2,B1は、それぞれ、注目ブロックの上側、下側、左側、右側の境界部分における連続性を表す。また、例えば、1になっているビットは、画像が連続していること(連続性があること)を表し、0になっているビットは、画像が不連続であること(連続性がないこと)を表す。
【0396】
なお、連続性判定部154において、連続性の判定は、例えば、次のようにして行われる。
【0397】
即ち、連続性判定部154は、例えば、注目ブロックについての上境界1次元DCT係数の直流成分DCと、その上境界1次元DCT係数と対応する(隣接する)上隣接1次DCT係数の直流成分DC’との差分絶対値|DC−DC’|が、所定の閾値TH1よりも大きい(または以上である)という条件を、境界部エッジ条件として、そのような境界部エッジ条件が満たされるかどうかを判定する。
【0398】
境界部エッジ条件が満たされる場合、即ち、注目ブロックについての上境界1次DCT係数の直流成分DCと、上隣接1次DCT係数の直流成分DC’との差が非常に大きく、従って、注目ブロックの上側の境界部分にエッジが存在し、注目ブロックとその上側に隣接するブロックの画像パターンにつながりがないと考えられる場合、連続性判定部154は、4ビットのクラスコードのうち、上側の連続性を表す第4ビット(最下位ビットを第1ビットとする)B4に、連続性がないことを表す0をセットする。
【0399】
また、境界部エッジ条件が満たされない場合、連続性判定部154は、注目ブロックについて、上境界1次元DCT係数から求められたACパワー、上隣接1次元DCT係数から求められたACパワー、さらには、上境界1次元DCT係数の直流成分、上隣接1次元DCT係数の直流成分に基づき、注目ブロックの上側の境界部分が平坦であるという平坦性条件が満たされるかどうかを判定する。
【0400】
即ち、連続性判定部154は、例えば、次式で表される条件を、平坦性条件として、そのような平坦性条件が満たされるかどうかを判定する。
【0401】
(PAC≦TH2)∩(PAC’≦TH2)∩(|DC−DC’|≦TH3)・・・(24)
【0402】
AC’≦TH4・・・(25)
【0403】
但し、式(24)および(25)において、TH2,TH3,TH4は、所定の閾値であり、閾値TH4は、閾値TH2よりも十分小さいものとする。また、式(24)および(25)において、PACは、注目ブロックについての上境界1次元DCT係数から求められたACパワーを表し、PAC’は、注目ブロックについての上隣接1次元DCT係数から求められたACパワーを表す。さらに、式(24)において、DCは、注目ブロックについての上境界1次元DCT係数の直流成分を表し、DC’は、注目ブロックについての上隣接1次元DCT係数の直流成分を表す。また、∩は、論理積を表す。
【0404】
式(24)は、注目ブロックについての上境界1次元DCT係数と上隣接1次元DCT係数からそれぞれ求められるACパワーPACとPAC’が、いずれも閾値TH2以下で(または未満で)、かつ、それぞれの直流成分DCとDC’の差分絶対値|DC−DC’|が、閾値TH3以下(または未満)の場合に、真となる。また、式(25)は、注目ブロックについての上隣接1次元DCT係数から求められたACパワーPAC’が、閾値TH4以下(または未満)の場合に、真となる。
【0405】
ここで、閾値TH4は、上述したように、閾値TH2よりも十分小さい、例えば、0に近い値であり、従って、式(25)は、注目ブロックについての上隣接1次元DCT係数から求められたACパワーPAC’が0に近い場合に、真となる。
【0406】
なお、ここでは、平坦性条件は、例えば、式(24)および(25)のうちのいずれか一方が真であれば満たされるものとする。
【0407】
平坦性条件が満たされる場合、連続性判定部154は、4ビットのクラスコードのうち、上側の連続性を表す第4ビットB4に、連続性があることを表す1をセットする。
【0408】
また、平坦性条件が満たされない場合、連続性判定部154は、注目ブロックについて求められたAC内積に基づき、注目ブロックの境界部分が連続しているという連続性条件が満たされるかどうかを判定する。
【0409】
即ち、連続性判定部154は、例えば、注目ブロックについての上内積が、正の値(または0以上)であるという条件を、連続性条件として、そのような連続性条件が満たされるかどうかを判定する。
【0410】
連続性条件が満たされる場合、連続性判定部154は、4ビットのクラスコードのうち、上側の連続性を表す第4ビットB4に、連続性があることを表す1をセットする。
【0411】
また、連続性条件が満たされない場合、即ち、境界部エッジ条件が満たされず、さらに、平坦性条件および連続性条件も満たされたない場合、連続性判定部154は、4ビットのクラスコードのうち、上側の連続性を表す第4ビットB4に、連続性がないことを表す0をセットする。
【0412】
連続性判定部154は、上側の境界部分についての他、下側、左側、および右側の境界部分についても、上側の境界部分に対するのと同様の処理を行い、これにより、4ビットのクラスコードの第4ビットB4、第3ビットB3、第2ビットB2、第1ビットB1に、注目ブロックの上側、下側、左側、右側それぞれの境界部分における画像の連続性を表す値をセットして出力する。
【0413】
なお、ここでは、説明を簡単にするために、注目画素を、注目ブロックの上下左右それぞれの境界部分における連続性の有無にしたがってクラス分類するようにしたが、注目画素のクラス分類は、注目ブロックの境界部分における連続性の有無の他、平坦性その他にも基づいて行うことが可能である。
【0414】
また、以下、適宜、上述したようにして、図24のクラス分類回路43(の連続性判定部154(図28)が出力する4ビットのクラスコードの第4ビットB4、第3ビットB3、第2ビットB2、または第1ビットB1を、それぞれ、上側ブロック間コード、下側ブロック間コード、左側ブロック間コード、または右側ブロック間コードという。
【0415】
次に、図31を参照して、図24のクラスコード操作部131によるクラスコードの操作について説明する。
【0416】
クラスコード操作部131は、上述したように、モード制御部81から供給される注目画素の領域情報に基づき、クラス分類回路43が出力するクラスコードを操作する。
【0417】
即ち、注目領域が左上領域である場合、クラスコード操作部131は、図31(A)に示すように、クラス分類回路43が出力する4ビットのクラスコード(B4,B3,B2,B1)を、そのまま、注目画素のクラスコードとして出力する。
【0418】
即ち、注目領域が左上領域であり、注目画素が、左上領域の16カ所のうちのいずれかに位置する場合には、注目画素の、左上領域における位置を表す値0乃至15のうちのいずれかが、そのまま、注目画素の縮退画素位置モードとして採用されることから、クラスコード操作部131は、クラス分類回路43が出力するクラスコード(B4,B3,B2,B1)を、そのまま、注目画素のクラスコードとして出力する。
【0419】
次に、注目領域が右上領域である場合、クラスコード操作部131は、図31(B)に示すように、クラス分類回路43が出力する4ビットのクラスコード(B4,B3,B2,B1)における左側ブロック間コードB2と右側ブロック間コードB1とを入れ替え、新たなクラスコード(B4,B3,B1,B2)を生成し、これを、注目画素のクラスコードとして出力する。
【0420】
即ち、注目領域が右上領域である場合、右上領域の画素である注目画素の縮退画素位置モードは、上述したように、垂直分割線に対して線対称の位置にある左上領域の垂直線対称画素の縮退画素位置モードと兼用されるが(同一とされるが)、この場合、注目画素と、垂直線対称画素とは、空間領域において、左右の位置関係が反対になっている。このため、クラスコード操作部131は、クラス分類回路43が出力するクラスコード(B4,B3,B2,B1)についても、注目ブロックの左右の境界部分の連続性を表す左側ブロック間コードB2と右側ブロック間コードB1とを入れ替える操作を行い、その結果得られる新たなクラスコード(B4,B3,B1,B2)を、注目画素のクラスコードとして出力する。
【0421】
従って、この場合、クラス分類回路43が出力するクラスコードが、例えば、(0,0,0,1)であるとすると、クラスコード操作部131は、その第2ビットと第1ビットとを入れ替え、(0,0,1,0)を、注目画素のクラスコードとして出力する。
【0422】
次に、注目領域が左下領域である場合、クラスコード操作部131は、図31(C)に示すように、クラス分類回路43が出力する4ビットのクラスコード(B4,B3,B2,B1)における上側ブロック間コードB4と下側ブロック間コードB3とを入れ替え、新たなクラスコード(B3,B4,B2,B1)を生成し、これを、注目画素のクラスコードとして出力する。
【0423】
即ち、注目領域が左下領域である場合、左下領域の画素である注目画素の縮退画素位置モードは、上述したように、水平分割線に対して線対称の位置にある左上領域の水平線対称画素の縮退画素位置モードと兼用されるが(同一とされるが)、この場合、注目画素と、水平線対称画素とは、空間領域において、上下の位置関係が反対になっている。このため、クラスコード操作部131は、クラス分類回路43が出力するクラスコード(B4,B3,B2,B1)についても、注目ブロックの上下の境界部分の連続性を表す上側ブロック間コードB4と下側ブロック間コードB3とを入れ替える操作を行い、その結果得られる新たなクラスコード(B4,B3,B2,B1)を、注目画素のクラスコードとして出力する。
【0424】
次に、注目領域が右下領域である場合、クラスコード操作部131は、図31(D)に示すように、クラス分類回路43が出力する4ビットのクラスコード(B4,B3,B2,B1)における左側ブロック間コードB2と右側ブロック間コードB1とを入れ替えるとともに、上側ブロック間コードB4と下側ブロック間コードB3とを入れ替え、新たなクラスコード(B3,B4,B1,B2)を生成し、これを、注目画素のクラスコードとして出力する。
【0425】
即ち、注目領域が右下領域である場合、右下領域の画素である注目画素の縮退画素位置モードは、上述したように、ブロック中心点に対して点対称の位置にある左上領域の点対称画素の縮退画素位置モードと兼用されるが(同一とされるが)、この場合、注目画素と、点対称画素とは、空間領域において、左右の位置関係と上下の位置関係が反対になっている。このため、クラスコード操作部131は、クラス分類回路43が出力するクラスコード(B4,B3,B2,B1)についても、その左側ブロック間コードB2と右側ブロック間コードB1とを入れ替える操作を行うとともに、上側ブロック間コードB4と下側ブロック間コードB3とを入れ替える操作を行い、その結果得られる新たなクラスコード(B3,B4,B1,B2)を、注目画素のクラスコードとして出力する。
【0426】
次に、図32のフローチャートを参照して、図24の係数変換回路32の処理について説明する。
【0427】
図24の係数変換回路32では、ステップS137で、クラスコード操作部131が、クラス分類回路43が出力するクラスコードを操作することを除き、図21における場合と同様の処理が行われる。
【0428】
即ち、ステップS131乃至S136では、図21のステップS91乃至S96における場合とそれぞれ同様の処理が行われる。
【0429】
但し、ステップS135では、クラスタップ抽出回路42において、図25乃至図27で説明したクラスタップが抽出され、ステップS136では、クラス分類回路43において、図28乃至図30で説明したクラス分類が行われる。
【0430】
そして、ステップS136において、クラス分類回路43が注目画素のクラスコードを出力すると、ステップS137に進み、クラスコード操作部131は、モード制御部81が出力する注目画素の領域情報に基づき、クラス分類回路43が出力するクラスコードを、図31で説明したようにして操作し、係数テーブル記憶部44に供給する。
【0431】
係数テーブル記憶部44は、クラスコード操作部131から、注目画素のクラスコードを受信すると、ステップS138に進み、図21のステップS97における場合と同様に、注目画素のクラスコードに対応するアドレスに記憶されている16セットのタップ係数を読み出し、積和演算回路45に出力する。
【0432】
以下、ステップS139乃至S144に順次進み、図21のステップS98乃至S103における場合とそれぞれ同様の処理が行われ、ステップS144において、逆量子化回路40が出力するDCT係数のブロックすべてが、注目ブロックとして処理されたと判定されると、処理を終了する。
【0433】
次に、図33は、図24の係数テーブル記憶部44に記憶させるタップ係数の学習処理を行う学習装置の構成例を示している。なお、図中、図22における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図33の学習装置は、クラスコード操作部161が新たに設けられている他は、図24における場合と基本的に同様に構成されている。
【0434】
但し、図33の実施の形態においては、クラスタップ抽出回路66とクラス分類回路67は、図24のクラスタップ抽出回路42とクラス分類回路43における場合とそれぞれ同様の処理を行うようになっている。
【0435】
クラスコード操作部131は、モード制御部101が出力する領域情報に基づき、クラス分類回路67が出力するクラスコードについて、図24のクラスコード操作部131における場合と同一の操作を行い、正規方程式加算回路68に供給する。
【0436】
次に、図34のフローチャートを参照して、図33の学習装置の処理(学習処理)について説明する。
【0437】
図33の学習装置では、ステップS157で、クラスコード操作部161が、クラス分類回路67が出力するクラスコードを操作することを除き、図23における場合と同様の処理が行われる。
【0438】
即ち、ステップS151乃至S156では、図23のステップS111乃至S116における場合とそれぞれ同様の処理が行われる。
【0439】
但し、ステップS155では、クラスタップ抽出回路66において、図25乃至図27で説明したクラスタップが抽出され、ステップS156では、クラス分類回路67において、図28乃至図30で説明したクラス分類が行われる。
【0440】
そして、ステップS156において、クラス分類回路67が注目画素のクラスコードを出力すると、ステップS157に進み、クラスコード操作部161は、モード制御部101が出力する注目画素の領域情報に基づき、クラス分類回路67が出力するクラスコードを、図31で説明したようにして操作し、正規方程式加算回路68に供給する。
【0441】
その後は、ステップS158に進み、以下、ステップS158乃至S163において、図23のステップS117乃至S122における場合とそれぞれ同様の処理が行われる。これにより、タップ係数決定回路69において、各クラスごとに、16の縮退画素位置モードそれぞれに対応する16セットのタップ係数が求められ、係数テーブル記憶部70の、各クラスに対応するアドレスに供給されて記憶され、処理を終了する。
【0442】
なお、上述の図5、図11、図19、および図24の実施の形態においては、逆量子化回路40を設けて、係数変換回路32を構成するようにしたが、係数変換回路32は、逆量子化回路40を設けずに構成することが可能である。但し、係数変換回路32を、逆量子化回路40を設けずに構成する場合には、その係数変換回路32で用いるタップ係数を学習する学習装置(図8、図16、図22、図33)も、逆量子化回路64を設けずに構成する必要がある。
【0443】
次に、上述の実施の形態では、図2のエンコーダ21に供給される画像データが静止画であり、エンコーダ21において、その画像データがJPEG符号化される場合について説明したが、図2の画像伝送システムは、動画の画像データを符号化する場合にも適用可能である。
【0444】
そこで、図35は、動画の画像データを符号化する図2のエンコーダ21の構成例を示している。
【0445】
なお、図35の実施の形態では、画像データが、例えば、MPEG符号化されるようになっている。
【0446】
即ち、MPEG符号化の対象である動画の画像データを構成するフレーム(またはフィールド)は、順次、動き検出回路201と演算器202に供給される。
【0447】
動き検出回路201は、そこに供給されるフレームについて、マクロブロック単位で、動きベクトルを検出し、エントロピー符号化回路206および動き補償回路210に供給する。
【0448】
演算器202は、そこに供給される画像が、I(Intra)ピクチャであれば、そのままブロック化回路203に供給し、P(Predictive)またはB(Bidirectionally predictive)ピクチャであれば、動き補償回路100から供給される予測画像との差分を演算して、その差分値を、ブロック化回路203に供給する。
【0449】
ブロック化回路203は、演算器202の出力を、8×8画素のブロックにブロック化し、DCT回路204に供給する。DCT回路204は、ブロック化回路203からのブロックを2次元DCT変換し、その結果得られる2次元DCT係数を、量子化回路205に供給する。量子化回路205は、DCT回路203からのブロック単位の2次元DCT係数を所定の量子化ステップで量子化し、その結果得られる量子化DCT係数をエントロピー符号化回路206に供給する。エントロピー符号化回路206は、量子化回路205からの量子化DCT係数を可変長符号化等することによりエントロピー符号化し、動き検出回路201からの動きベクトルや、その他の必要な情報を付加する。そして、エントロピー符号化回路206は、その結果得られる符号化データを、MPEG符号化結果として出力する。
【0450】
量子化回路205が出力する量子化DCT係数のうち、IピクチャおよびPピクチャは、後で符号化されるPピクチャやBピクチャの参照画像として用いるのにローカルデコードする必要があるため、エントロピー符号化回路206の他、逆量子化回路207にも供給される。
【0451】
逆量子化回路207は、量子化回路205からの量子化DCT係数を逆量子化することにより、2次元DCT係数とし、逆DCT回路208に供給する。逆DCT回路208は、逆量子化回路207からの2次元DCT係数を2次元逆DCT変換し、演算器209に出力する。演算器209には、逆DCT回路208の出力の他、動き補償回路210が出力する予測画像も供給されるようになっており、演算器209は、逆DCT回路208の出力が、Pピクチャのものである場合には、その出力と、動き補償回路210の出力とを加算することで、元の画像を復号し、動き補償回路210に供給する。また、演算器209は、逆DCT回路208の出力が、Iピクチャのものである場合には、その出力は、Iピクチャの復号画像となっているので、そのまま、動き補償回路210に供給する。
【0452】
動き補償回路210は、演算器209から供給される、ローカルデコードされた画像を参照画像として、その参照画像に対し、動き検出回路201からの動きベクトルにしたがった動き補償を施すことにより、予測画像を生成し、演算器202および209に供給する。
【0453】
次に、図36は、エンコーダ21において画像データがMPEG符号化される場合の、図2のデコーダ22の構成例を示している。
【0454】
エンコーダ21(図35)が出力する符号化データ(ビデオストリーム)は、分離部221に供給される。分離部221は、符号化データから、コーデッドブロックパターン(Coded Block Pattern)(以下、適宜、CBPという)、DCTタイプ、量子化DCT係数のVLC(可変長符号化)コード、量子化スケール、動きベクトル、動き補償タイプ(frame motion type, field motion type)等を分離して出力する。
【0455】
DCT係数抽出/逆量子化部222は、分離部221が出力する量子化DCT係数のVLCコード、量子化スケール、およびDCTタイプを受信し、2次元DCT係数を復号する。即ち、DCT係数抽出/逆量子化部2は、分離部221が出力する量子化DCT係数のVLCコードを可変長復号し、8×8画素のブロックごとの量子化DCT係数を求める。さらに、DCT係数抽出/逆量子化部2は、ブロックごとの量子化DCT係数を、分離部221が出力する量子化スケールによって逆量子化し、ブロックごとの2次元DCT係数を求める。DCT係数抽出/逆量子化部2で得られたブロックごとの2次元DCT係数は、周波数領域動き補償加算部223に供給される。
【0456】
一方、動き補償部224は、分離部221が出力する動きベクトルや動き補償タイプを受信し、その動き補償タイプに基づいて、参照画像となるフレーム(またはフィールド)を、後述する画像メモリ229から読み出す。さらに、動き補償部224は、画像メモリ229から読み出した参照画像に対して、分離部221が出力する動きベクトルにしたがった動き補償を施し、その結果得られる予測画像を、画像メモリ225に供給して記憶させる。
【0457】
ここで、いま、復号の対象となっているブロックを、以下、適宜、注目ブロックという。
【0458】
DCT変換部226は、分離部221が出力するDCTタイプに基づき、DCT係数抽出/逆量子化部2が出力する注目ブロックのDCTタイプを認識する。さらに、DCT変換部226は、注目ブロックのDCTタイプに基づいて、画像メモリ225に記憶された予測画像から、ブロックと同一の大きさの8×8画素を選択し、2次元DCT変換することで、2次元DCT係数に変換する。この予測画像から得られた2次元DCT係数(以下、適宜、予測DCT係数という)は、DCT変換部226から周波数領域動き補償加算部223に供給される。
【0459】
周波数領域動き補償加算部223には、DCT変換部226から、8×8の予測DCT係数が供給される他、分離部221から、注目ブロックを含むマクロブロック(以下、適宜、注目マクロブロックという)のCBPが供給されるとともに、DCT係数抽出/逆量子化部222から、注目ブロックが供給される。
【0460】
周波数領域動き補償加算部223は、注目マクロブロックのCBPに基づき、必要に応じて、注目ブロックの各2次元DCT係数と、対応する予測DCT係数とを加算することで、注目ブロックの画素値を2次元DCT変換した注目DCTブロックを求める。
【0461】
即ち、注目ブロックがイントラ符号化されているものである場合、その注目ブロックの2次元DCT係数は、画素値のブロック(画素ブロック)を2次元DCT変換したものとなっているから、周波数領域動き補償加算部223は、その注目ブロックを、そのまま、注目DCTブロックとする。
【0462】
また、注目ブロックがノンイントラ符号化されているものである場合、その注目ブロックは、画素値のブロック(画素ブロック)と、予測画像との差分値(残差画像)を2次元DCT変換したものとなっているから、周波数領域動き補償加算部223は、その注目ブロックの各2次元DCT係数と、DCT変換部226において8×8画素の予測画像を2次元DCT変換して得られる8×8の予測DCT係数のうちの対応するものとを加算することにより、注目DCTブロックを求める。
【0463】
周波数領域動き補償加算部223において求められた注目DCTブロックは、バッファメモリ227に供給されて一時記憶される。
【0464】
ここで、バッファメモリ227に記憶されるブロックの2次元DCT係数は、ブロックのピクチャタイプによらず、また、ブロックがイントラ符号化またはノンイントラ符号化されたかによらず、元の画像の画素値(残差画像ではなく、元の画像)をDCT変換したものとなっている。
【0465】
なお、ここでいう元の画像は、残差画像と予測画像とを加算して得られるものを意味し、MPEG符号化の対象となった原画像そのものではない。
【0466】
係数変換回路228は、バッファメモリ227に記憶された2次元DCT係数を用いて、上述したクラス分類適応処理を行うことにより、2次元DCT係数のブロックを、画素値のブロックに復号し、画像メモリ229とピクチャ選択部230に供給する。
【0467】
画像メモリ229は、係数変換回路228から供給される復号画像データのうち、IピクチャとPピクチャの復号画像データを、その後に復号される符号化データの参照画像として一時記憶する。なお、MPEGでは、Bピクチャは参照画像とされないことから、係数変換回路228が出力する復号画像が、Bピクチャの画像である場合には、その復号画像は、画像メモリ229に記憶されない。
【0468】
ピクチャ選択部230は、係数変換回路228が出力する復号画像、または画像メモリ229に記憶された復号画像のフレーム(またはフィールド)を、表示順に選択して出力する。即ち、MPEGでは、画像のフレーム(またはフィールド)の表示順と復号順(符号化順)とが一致していないため、ピクチャ選択部230は、復号順に並んでいる復号画像のフレーム(またはフィールド)を表示順に並べ替えて出力する。
【0469】
次に、図37は、図36の周波数領域動き補償加算部223およびDCT変換部226の構成例を示している。
【0470】
DCT変換部226は、(8×8画素)サンプリング部241とDCT部242から構成され、画像メモリ225に記憶された予測画像を2次元DCT変換した予測DCT係数を生成するようになっている。
【0471】
即ち、サンプリング部241には、画像メモリ225に記憶された予測画像と、分離部221(図36)が出力する注目ブロック(を含むマクロブロック)のDCTタイプが供給されるようになっている。
【0472】
ここで、画像メモリ225には、動き補償部224(図36)から、マクロブロックと同一の大きさである16×16画素の予測画像が供給されるようになっており、画像メモリ225は、注目ブロックに対応する16×16画素の予測画像を記憶する。従って、画像メモリ225は、少なくとも16×16画素の画像を記憶することのできる記憶容量を有している。
【0473】
サンプリング部241は、画像メモリ225に記憶された16×16画素の予測画像を、注目ブロックのDCTタイプにしたがってサンプリングし、ブロックと同一の大きさの8×8画素の予測画像を生成する。
【0474】
即ち、例えば、いま、エンコーダ21が画像データをMPEG2方式で符号化するものとすると、MPEG2では、DCTタイプとして、フレームDCTとフィールドDCTを選択することができる。一方、画像メモリ225に記憶された16×16画素の予測画像は、フレーム構造になっており、注目ブロックの構造と一致する場合と、一致しない場合とがある。
【0475】
具体的には、注目ブロックがフレーム構造である場合には、注目ブロックがフレーム構造で、画像メモリ225に記憶された16×16画素の予測画像もフレーム構造であるから、両者は一致した構造(フレーム構造)のものとなる。
【0476】
従って、注目ブロックが、図38(A)に示すように、マクロブロック(注目マクロブロック)の左上、左下、右上、または右下のブロックである場合、サンプリング部241は、図38(B)に示すように、画像メモリ225に記憶された16×16画素の予測画像のうち、左上、左下、右上、または右下の8×8画素を、それぞれサンプリングし、これにより、注目ブロックの各画素と空間的に対応する位置にある8×8画素の予測画像を得て、DCT部242に供給する。
【0477】
ここで、図38において(後述する図39においても同様)、影を付してあるラインは、奇数ライン(トップフィールド)を表し、影を付していないラインは、偶数ライン(ボトムフィールド)を表す。
【0478】
一方、注目ブロックがフィールド構造である場合は、注目ブロックがフィールド構造で、画像メモリ225に記憶された16×16画素の予測画像がフレーム構造であるから、両者は、異なる構造のものとなる。
【0479】
即ち、この場合、注目ブロックを含むマクロブロック(注目マクロブロック)は、図39(A)に示すように、上側の8ラインが奇数ライン(トップフィールド)で構成され、下側の8ラインが偶数ライン(ボトムフィールド)で構成される。
【0480】
従って、注目ブロックが、注目マクロブロックの左上のブロックである場合、その注目ブロックの8×8画素は、図39(B)に示すように、画像メモリ225に記憶された16×16画素の予測画像のうちの、8つの奇数ライン(影を付してあるライン)の左側の8画素に対応する。また、注目ブロックが、注目マクロブロックの左下のブロックである場合、その注目ブロックの8×8画素は、図39(B)に示すように、画像メモリ225に記憶された16×16画素の予測画像のうちの、8つの偶数ライン(影を付してないライン)の左側の8画素に対応する。さらに、注目ブロックが、注目マクロブロックの右上のブロックである場合には、その注目ブロックの8×8画素は、図39(B)に示すように、画像メモリ225に記憶された16×16画素の予測画像のうちの、8つの奇数ライン(影を付してあるライン)の右側の8画素に対応し、また、注目ブロックが、注目マクロブロックの右下のブロックである場合には、その注目ブロックの8×8画素は、図39(B)に示すように、画像メモリ225に記憶された16×16画素の予測画像のうちの、8つの偶数ライン(影を付してないライン)の右側の8画素に対応する。
【0481】
そこで、サンプリング部241は、注目ブロックが、フィールド構造である場合には、画像メモリ225に記憶された16×16画素の予測画像のうち、注目マクロブロックにおける注目ブロックの位置に対応する、上述のような8×8画素をサンプリングし、これにより、注目ブロックの各画素と空間的に対応する位置にある8×8画素の予測画像を得て、DCT部242に供給する。
【0482】
DCT部242は、サンプリング部241から供給される、注目ブロックの各画素と空間的に対応する位置にある8×8画素の予測画像を2次元DCT変換し、これにより、8×8の予測DCT係数を得て、周波数領域動き補償加算部223に供給する。
【0483】
なお、サンプリング部241において、注目ブロックの構造は、分離部221(図36)が出力する注目ブロック(を含む注目マクロブロック)のDCTタイプに基づいて認識される。
【0484】
周波数領域動き補償加算部223は、DCT係数選択部251、加算部252、および選択部253から構成され、DCT係数抽出/逆量子化部222(図36)から供給される注目ブロックの2次元DCT係数と、DCT変換部226から供給される予測DCT係数とを、必要に応じて加算することにより、注目ブロックの元の画像の2次元DCT係数を求める。
【0485】
即ち、DCT係数選択部251には、DCT係数抽出/逆量子化部222(図36)が出力する注目ブロックの2次元DCT係数と、分離部221(図36)が出力する注目ブロック(を含む注目マクロブロック)のCBPが供給されるようになっている。
【0486】
注目ブロックがイントラ符号化されたものである場合、DCT係数選択部251は、注目ブロックを、そのまま出力する。DCT係数選択部251の出力は、加算部252と選択部253に供給される。
【0487】
加算部252は、注目ブロックがイントラ符号化されたものである場合、特に処理を行わず、また、選択部253は、DCT係数選択部251の出力を選択し、後段のバッファメモリ227(図36)に供給する。
【0488】
従って、注目ブロックがイントラ符号化されたものである場合、即ち、DCT係数抽出/逆量子化部222(図36)が出力する注目ブロックの2次元DCT係数が、注目ブロックの元の画像を2次元DCT変換したものである場合には、DCT係数抽出/逆量子化部222(図36)が出力する注目ブロックの2次元DCT係数が、そのまま、バッファメモリ227(図36)に供給される。
【0489】
一方、DCT係数選択部251は、注目ブロックがノンイントラ符号化されたものである場合、その注目ブロックのCBPを参照し、残差画像の2次元DCT係数の有無を認識する。即ち、注目ブロックがノンイントラ符号化されたものである場合には、その注目ブロックには、原則として、残差画像の2次元DCT係数が配置されるが、残差画像の2次元DCT係数(量子化された2次元DCT係数)がすべて0となるときには、CBPが0とされ、2次元DCT係数は配置されない。そして、この場合、注目ブロックの画像は、予測画像に一致する。
【0490】
そこで、DCT係数選択部251は、注目ブロックがノンイントラ符号化されたものであり、そのCBPが0である場合には、残差画像の2次元DCT係数として0を出力する。
【0491】
また、DCT係数選択部251は、注目ブロックがノンイントラ符号化されたものであり、そのCBPが1である場合、DCT係数抽出/逆量子化部222(図36)が出力する注目ブロックには、残差画像の2次元DCT係数が配置されているから、その2次元DCT係数を選択して出力する。
【0492】
DCT係数選択部251の出力は、上述したように、加算部252と選択部253に供給される。
【0493】
加算部252は、注目ブロックがノンイントラ符号化されたものである場合、DCT係数選択部251の出力と、DCT変換部226(のDCT部242)が出力する予測画像の2次元DCT係数とを加算し、これにより、注目ブロックについて、元の画像の2次元DCT係数を得て、選択部253に供給する。
【0494】
選択部253は、注目ブロックがノンイントラ符号化されたものである場合、演算部72の出力を選択し、後段のバッファメモリ227(図36)に供給する。
【0495】
従って、注目ブロックがノンイントラ符号化されたものである場合において、注目ブロックのCBPが0であるときには、注目ブロックの画像が、予測画像に一致するため、加算部252において、DCT係数選択部251が出力する0と、DCT部242が出力する予測画像のDCT係数(予測DCT係数)とが加算されることにより、注目ブロックの元の画像の2次元DCT係数が求められる。
【0496】
また、注目ブロックのCBPが1であるときには、加算部252において、DCT係数選択部251が出力する注目ブロックの残差画像のDCT係数と、DCT部242が出力する予測画像のDCT係数(予測DCT係数)とが加算されることにより、やはり、注目ブロックの元の画像の2次元DCT係数が求められる。
【0497】
そして、選択部253では、加算部252において上述したようにして得られる、注目ブロックの元の画像の2次元DCT係数が選択されて出力される。
【0498】
なお、図36のデコーダ22では、周波数領域において、残差画像と予測画像とを加算して、元の画像の2次元DCT係数を求めるようにしたが、即ち、残差画像の2次元DCT係数と、予測画像の2次元DCT係数とを加算して、元の画像の2次元DCT係数を求めるようにしたが、元の画像の2次元DCT係数は、その他、例えば、符号化データを、MPEG復号し、これにより得られる復号画像データをブロック単位で2次元DCT変換することにより求めるようにすることも可能である。
【0499】
また、元の画像の2次元DCT係数は、DCT係数抽出/逆量子化部222の出力を2次元逆DCT変換することにより得られる残差画像と、係数変換回路228の出力を参照画像として動き補償を行うことにより得られる予測画像とを、時間領域において加算し、その加算結果を、2次元DCT変換することによって求めても良い。
【0500】
次に、図40は、図36の係数変換回路228の構成例を示している。なお、図中、図11の係数変換回路32における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図40の係数変換回路228は、逆量子化回路40が設けられていない他は、図11の係数変換回路32と基本的に同様に構成されている。
【0501】
従って、図40の係数変換回路228では、バッファメモリ227(図36)に記憶された2次元DCT係数が、図11の係数変換回路32における場合と基本的に同様に処理されることにより、画素値に復号される。
【0502】
但し、MPEGでは、予測方式の違いにより、Iピクチャ、Pピクチャ、Bピクチャの3つのピクチャタイプがあるので、図40の係数テーブル記憶部44には、その3つのピクチャタイプごとに、タップ係数が記憶されており、各ピクチャタイプの画像の復号は、そのピクチャタイプ用のタップ係数を用いて行われるようになっている。
【0503】
このため、図40の係数変換回路228で用いられるタップ係数の学習は、ピクチャタイプごとに行われるようになっている。
【0504】
即ち、図41は、図40の係数変換回路228で用いられるIピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図16における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0505】
生徒データ生成部261には、学習用の画像データ(ここでは、動画の画像データ)が供給されるようになっており、生徒データ生成部261は、学習用の画像データから、生徒データを生成する。
【0506】
即ち、生徒データ生成部261は、MPEGエンコーダ262、分離部263、およびDCT係数抽出/逆量子化部264から構成されている。
【0507】
MPEGエンコーダ262は、図35のエンコーダ21と同様に構成されており、学習用の画像データとしての動画の画像データを、順次、MPEG符号化し(例えば、MPEG2方式で符号化し)、その結果得られる符号化データを、分離部263に供給する。分離部263とDCT係数抽出/逆量子化部264は、図36の分離部221とDCT係数抽出/逆量子化部222とそれぞれ同様に構成されており、符号化データから、量子化DCT係数を分離、抽出し、逆量子化して出力する。
【0508】
なお、分離部263およびDCT係数抽出/逆量子化部264は、Iピクチャのみを対象に処理を行う。
【0509】
従って、DCT係数抽出/逆量子化部264からは、Iピクチャについての2次元DCT係数が出力され、PピクチャやBピクチャのデータは出力されない。
【0510】
DCT係数抽出/逆量子化部264が出力するIピクチャについての2次元DCT係数は、生徒データとして、予測タップ抽出回路65およびクラスタップ抽出回路66に供給される。
【0511】
一方、学習用の画像データは、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65、クラスタップ抽出回路66、クラス分類回路67、正規方程式加算回路68、タップ係数決定回路69、係数テーブル記憶部70、モード制御部101、および符号制御部102において、上述の生徒データおよび教師データを用いて、図16における場合と同様の処理が行われることにより、Iピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0512】
次に、図42は、図40の係数変換回路228で用いられるPピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図16または図41における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図42の学習装置は、生徒データ生成部261に代えて、生徒データ生成部271が設けられている他は、図41における場合と基本的に同様に構成されている。
【0513】
ここで、Pピクチャは、時間的に先行して復号(符号化)されるIまたはPピクチャを参照画像として予測符号化(ノンイントラ符号化)されるため、即ち、原画像から予測画像を減算した残差画像が2次元DCT変換されるため、図36のデコーダ22では、先に復号されたIまたはPピクチャに動き補償を施し、その結果得られる予測画像の2次元DCT係数と、Pピクチャの残差画像の2次元DCT係数とを加算した後に、係数変換回路228において、クラス分類適応処理を施すようになっている。
【0514】
従って、Pピクチャ用のタップ係数の学習においては、Pピクチャの残差画像の2次元DCT係数に、予測画像の2次元DCT係数を加算したものを、生徒データとして用いる必要がある。
【0515】
ところで、Pピクチャの予測画像は、先に復号されたIまたはPピクチャを参照画像として、その参照画像に、動き補償を施すことで得ることができるが、いまの場合、Pピクチャのタップ係数を学習しようとしているので、Pピクチャ用のタップ係数は存在しない。
【0516】
一方、Iピクチャ用のタップ係数は、図41の学習装置において、あらかじめ求めておくことができる。
【0517】
そこで、図42の学習装置では、生徒データ生成部271において、Iピクチャを参照画像として予測符号化されるPピクチャのブロックから、生徒データが生成されるようになっている。
【0518】
即ち、生徒データ生成部271において、MPEGエンコーダ272は、図35のエンコーダ21と同様に構成され、学習用の画像データをMPEG符号化し、その結果得られる符号化データを、分離部273に供給する。分離部273とDCT係数抽出/逆量子化部274は、図36の分離部221とDCT係数抽出/逆量子化部222とそれぞれ同様に構成されており、符号化データから、量子化DCT係数を分離、抽出し、逆量子化する。
【0519】
なお、分離部273およびDCT係数抽出/逆量子化部274は、Iピクチャと、Pピクチャの予測符号化されたブロックのみを対象に処理を行う。また、分離部273は、符号化データから、量子化DCT係数の他、量子化スケールやDCTタイプや動きベクトル等のサイドインフォメーションも、必要に応じて分離する。
【0520】
DCT係数抽出/逆量子化部274は、Iピクチャの2次元DCT係数を得た場合、そのIピクチャの2次元DCT係数を、係数変換回路276に供給する。
【0521】
また、DCT係数抽出/逆量子化部274は、Pピクチャの予測符号化されたブロックの2次元DCT係数、即ち、Pピクチャの残差画像の2次元DCT係数を得た場合、その残差画像の2次元DCT係数を、周波数領域動き補償加算部275に供給する。
【0522】
さらに、DCT係数抽出/逆量子化部274は、Pピクチャの予測符号化されたブロックの動きベクトルを得た場合、その動きベクトルを、動き補償部278に供給する。
【0523】
係数変換回路276は、図41の学習装置で得られたIピクチャ用のタップ係数を記憶しており、そのタップ係数と、DCT係数抽出/逆量子化部274から供給されるIピクチャの2次元DCT係数とを用いて、図40の係数変換回路228における場合と同様の処理を行うことにより、Iピクチャの復号画像を得る。このIピクチャの復号画像は、参照画像として、Iピクチャストレージ277に供給されて記憶される。
【0524】
その後、動き補償部278は、DCT係数抽出/逆量子化部274から供給される動きベクトルによって動き補償を施すべき参照画像としてのIピクチャを、Iピクチャストレージ277から読み出し、そのIピクチャに動き補償を施すことで、予測画像を生成する。この予測画像は、画像メモリ279に供給されて記憶される。画像メモリ279に記憶された予測画像は、DCT変換部280において2次元DCT係数に変換され、周波数領域動き補償加算部275に供給される。周波数領域動き補償加算部275は、DCT係数抽出/逆量子化部274から供給されるPピクチャの残差画像の2次元DCT係数と、DCT変換部280から供給される予測画像の2次元DCT係数とを加算する。
【0525】
即ち、動き補償部278、画像メモリ279、DCT変換部280、および周波数領域動き補償加算部275は、図36の動き補償部224、画像メモリ225、DCT変換部226、周波数領域動き補償加算部223と同様に構成されるものであり、従って、周波数領域動き補償加算部275において、DCT係数抽出/逆量子化部274からのPピクチャの残差画像の2次元DCT係数と、DCT変換部280からの予測画像の2次元DCT係数とが加算されることにより、Pピクチャの元の画像(上述したように、原画像ではない)を2次元DCT変換した2次元DCT係数が得られる。
【0526】
周波数領域動き補償加算部275で得られたPピクチャの元の画像の2次元DCT係数は、生徒データとして、予測タップ抽出回路65およびクラスタップ抽出回路66に供給される。
【0527】
一方、学習用の画像データは、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65乃至係数テーブル記憶部70、モード制御部101、および符号制御部102において、上述の生徒データおよび教師データを用いて、図16における場合と同様の処理が行われることにより、Pピクチャ用(正確には、Pピクチャの予測符号化されたブロック用)のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0528】
次に、図43は、図40の係数変換回路228で用いられるBピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、Bピクチャ用のタップ係数を学習する学習装置も、図42のPピクチャ用のタップ係数を学習する学習装置と同様に、生徒データ生成部だけが、図41のIピクチャ用のタップ係数を学習する学習装置と異なるだけであるため、図43においては、Bピクチャ用のタップ係数を学習する学習装置の生徒データ生成部だけを図示してある。
【0529】
Bピクチャも、Pピクチャと同様に、時間的に先行して復号されるIまたはPピクチャを参照画像として予測符号化(ノンイントラ符号化)されるため、即ち、原画像から予測画像を減算した残差画像が2次元DCT変換されるため、図36のデコーダ22では、先に復号されたIまたはPピクチャに動き補償を施し、その結果得られる予測画像の2次元DCT係数と、Bピクチャの残差画像の2次元DCT係数とを加算した後に、係数変換回路228において、クラス分類適応処理を施すようになっている。
【0530】
従って、Bピクチャ用のタップ係数の学習においては、Bピクチャの残差画像の2次元DCT係数に、予測画像の2次元DCT係数を加算したものを、生徒データとして用いる必要がある。
【0531】
そこで、図43の学習装置では、そのような生徒データを生成して、学習を行うようになっている。
【0532】
即ち、MPEGエンコーダ291には、学習用の画像データが供給されるようになっている。MPEGエンコーダ291は、図35のエンコーダ21と同様に構成されており、学習用の画像データをMPEG符号化し、その結果得られる符号化データを、分離部292に供給する。分離部292とDCT係数抽出/逆量子化部293は、図36の分離部221とDCT係数抽出/逆量子化部222とそれぞれ同様に構成されており、符号化データから、量子化DCT係数を分離、抽出し、逆量子化して出力する。
【0533】
DCT係数抽出/逆量子化部293が出力するIピクチャの2次元DCT係数は、係数変換回路295に供給される。また、DCT係数抽出/逆量子化部293が出力するPピクチャの2次元DCT係数は、周波数領域動き補償加算部294に供給される。さらに、DCT係数抽出/逆量子化部293が出力するBピクチャの2次元DCT係数は、周波数領域動き補償加算部305に供給される。
【0534】
ここで、分離部292は、符号化データから、量子化DCT係数の他、量子化スケールやDCTタイプや動くベクトル等のサイドインフォメーションも、必要に応じて分離し、DCT係数抽出/逆量子化部293を介して、必要なブロックに供給する。なお、サイドインフォメーションについては、図43の実施の形態では、DCT係数抽出/逆量子化部293から動き補償部297へのPピクチャの動きベクトルの供給と、DCT係数抽出/逆量子化部293から動き補償部302へのBピクチャの動きベクトルの供給だけを、図示してある。
【0535】
また、DCT係数抽出/逆量子化部293は、Bピクチャの予測符号化されたブロックの2次元DCT係数、即ち、残差画像の2次元DCT係数だけを、周波数領域動き補償加算部305に供給する。
【0536】
さらに、DCT係数抽出/逆量子化部293は、Pピクチャについては、予測符号化されたブロックの2次元DCT係数だけを、周波数領域動き補償加算部294に供給する。なお、DCT係数抽出/逆量子化部293では、PおよびBピクチャのイントラ符号化されたブロックの2次元DCT係数は、係数変換回路295に供給され、以下、イントラ符号化されたIピクチャと同様に処理される。
【0537】
係数変換回路295は、図41の学習装置で得られたIピクチャ用のタップ係数を記憶しており、そのタップ係数と、DCT係数抽出/逆量子化部274から供給されるIピクチャのブロックの2次元DCT係数、またはイントラ符号化されたPピクチャのブロックの2次元DCT係数とを用いて、図40の係数変換回路228における場合と同様の処理を行うことにより、Iピクチャの復号画像、またはイントラ符号化されたPピクチャの復号画像を得る。Iピクチャの復号画像は、参照画像として、Iピクチャストレージ296に供給されて記憶され、Pピクチャの復号画像は、Pピクチャストレージ301に供給されて記憶される。
【0538】
その後、動き補償部297は、DCT係数抽出/逆量子化部293から供給される動きベクトルによって動き補償を施すべき参照画像としてのIピクチャを、Iピクチャストレージ296から読み出し、そのIピクチャに動き補償を施すことで、Pピクチャの予測画像を生成する。このPピクチャの予測画像は、画像メモリ298に供給されて記憶される。画像メモリ298に記憶された予測画像は、DCT変換部299において2次元DCT係数に変換され、周波数領域動き補償加算部294に供給される。周波数領域動き補償加算部294は、DCT係数抽出/逆量子化部293から供給されるPピクチャの残差画像の2次元DCT係数と、DCT変換部299から供給される予測画像の2次元DCT係数とを加算する。
【0539】
即ち、動き補償部297、画像メモリ298、DCT変換部299、および周波数領域動き補償加算部294は、図36の動き補償部224、画像メモリ225、DCT変換部226、周波数領域動き補償加算部223と同様に構成されるものであり、従って、周波数領域動き補償加算部294において、DCT係数抽出/逆量子化部293からのPピクチャの残差画像の2次元DCT係数と、DCT変換部299からの予測画像の2次元DCT係数とが加算されることにより、Pピクチャの元の画像(上述したように、原画像ではない)を2次元DCT変換した2次元DCT係数が得られる。
【0540】
周波数領域動き補償加算部294で得られたPピクチャの元の画像の2次元DCT係数は、係数変換回路300に供給される。
【0541】
係数変換回路300は、図42の学習装置で得られたPピクチャ用のタップ係数を記憶しており、そのタップ係数と、DCT係数抽出/逆量子化部294から供給されるノンイントラ符号化されたPピクチャのブロックの2次元DCT係数とを用いて、図40の係数変換回路228における場合と同様の処理を行うことにより、ノンイントラ符号化されたPピクチャの復号画像を得る。このノンイントラ符号化されたPピクチャの復号画像は、Pピクチャストレージ301に供給されて記憶される。なお、上述したように、Pピクチャストレージ301は、係数変換回路295から供給される、イントラ符号化されたPピクチャのブロックの復号画像も記憶する。
【0542】
その後、動き補償部302は、DCT係数抽出/逆量子化部293から供給されるBピクチャの動きベクトルによって動き補償を施すべき参照画像としてのIまたはPピクチャを、Iピクチャストレージ296またはPピクチャストレージ301から読み出し、そのIまたはPピクチャに動き補償を施すことで、Bピクチャの予測画像を生成する。このBピクチャの予測画像は、画像メモリ303に供給されて記憶される。画像メモリ303に記憶された予測画像は、DCT変換部304において2次元DCT係数に変換され、周波数領域動き補償加算部305に供給される。周波数領域動き補償加算部305は、DCT係数抽出/逆量子化部293から供給されるBピクチャの残差画像の2次元DCT係数と、DCT変換部304から供給される予測画像の2次元DCT係数とを加算する。
【0543】
即ち、動き補償部302、画像メモリ303、DCT変換部304、および周波数領域動き補償加算部305は、図36の動き補償部224、画像メモリ225、DCT変換部226、周波数領域動き補償加算部223と同様に構成されるものであり、従って、周波数領域動き補償加算部305において、DCT係数抽出/逆量子化部293からのBピクチャの残差画像の2次元DCT係数と、DCT変換部304からの予測画像の2次元DCT係数とが加算されることにより、Bピクチャの元の画像(上述したように、原画像ではない)を2次元DCT変換した2次元DCT係数が得られる。
【0544】
周波数領域動き補償加算部305で得られたBピクチャの元の画像の2次元DCT係数は、生徒データとして出力される。そして、以降は、図41の学習装置における場合と同様の処理が行われ、これにより、Bピクチャ用(正確には、Bピクチャの予測符号化されたブロック用)のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0545】
図40の係数テーブル記憶部44には、以上のような学習によって、各クラスごとに求められた16の縮退画素位置モードそれぞれごとの、I,P,Bピクチャ用のタップ係数が記憶されている。
【0546】
なお、図40の係数変換回路228では、Iピクチャのブロックについては、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。また、PピクチャまたはBピクチャのブロックについては、そのブロックが予測符号化(ノンイントラ符号化)されている場合には、PピクチャまたはBピクチャ用のタップ係数を用いてクラス分類適応処理がそれぞれ行われるが、ブロックがイントラ符号化されている場合には、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0547】
また、上述の場合には、I,P,Bピクチャそれぞれ用のタップ係数を学習するようにしたが、Bピクチャ用のタップ係数の学習は省略することが可能である。この場合、図40の係数変換回路228では、PピクチャとBピクチャの予測符号化されたブロックについて、例えば、いずれも、Pピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0548】
さらに、上述の場合には、ピクチャタイプ別に、タップ係数の学習を行うようにしたが、タップ係数の学習は、ピクチャタイプに関係なく行うようにすることも可能である。
【0549】
次に、図44は、図36の係数変換回路228の第2の構成例を示している。なお、図中、図19の係数変換回路32における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図44の係数変換回路228は、逆量子化回路40が設けられていない他は、図19の係数変換回路32と基本的に同様に構成されている。
【0550】
従って、図44の係数変換回路228では、バッファメモリ227(図36)に記憶された2次元DCT係数が、図19の係数変換回路32における場合と基本的に同様に処理されることにより、画素値に復号される。
【0551】
但し、図44の実施の形態でも、図40における場合と同様に、係数テーブル記憶部44には、その3つのピクチャタイプごとに、タップ係数が記憶されており、各ピクチャタイプの画像の復号は、そのピクチャタイプ用のタップ係数を用いて行われるようになっている。
【0552】
次に、図45は、図44の係数変換回路228で用いられるIピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図22または図41における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0553】
図45の実施の形態では、生徒データ生成部261において、図41における場合と同様にして、生徒データが生成される。
【0554】
そして、学習用の画像データが、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65、クラスタップ抽出回路66、クラス分類回路67、正規方程式加算回路68、タップ係数決定回路69、係数テーブル記憶部70、モード制御部101、符号制御部102、タップ構造記憶部121、および逆DCT回路122において、上述の生徒データおよび教師データを用いて、図22における場合と同様の処理が行われることにより、Iピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0555】
次に、図46は、図44の係数変換回路228で用いられるPピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図22、図42、または図45における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図46の学習装置は、生徒データ生成部261に代えて、生徒データ生成部271が設けられている他は、図45における場合と基本的に同様に構成されている。
【0556】
図46の実施の形態では、生徒データ生成部271において、図42における場合と同様にして、生徒データが生成される。
【0557】
そして、学習用の画像データが、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65、クラスタップ抽出回路66、クラス分類回路67、正規方程式加算回路68、タップ係数決定回路69、係数テーブル記憶部70、モード制御部101、符号制御部102、タップ構造記憶部121、および逆DCT回路122において、上述の生徒データおよび教師データを用いて、図22における場合と同様の処理が行われることにより、Pピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0558】
次に、図47は、図44の係数変換回路228で用いられるBピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、Bピクチャ用のタップ係数を学習する学習装置も、図46のPピクチャ用のタップ係数を学習する学習装置と同様に、生徒データ生成部だけが、図45のIピクチャ用のタップ係数を学習する学習装置と異なるだけであるため、図47においては、Bピクチャ用のタップ係数を学習する学習装置の生徒データ生成部だけを図示してある。
【0559】
図47の実施の形態では、図43における場合と同様にして、生徒データが生成される。
【0560】
そして、以降は、図45の学習装置における場合と同様の処理が行われ、これにより、Bピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0561】
図44の係数テーブル記憶部44には、以上のような学習によって、各クラスごとに求められた16の縮退画素位置モードそれぞれごとの、I,P,Bピクチャ用のタップ係数が記憶されている。
【0562】
なお、図44の係数変換回路228では、Iピクチャのブロックについては、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。また、PピクチャまたはBピクチャのブロックについては、そのブロックが予測符号化されている場合には、PピクチャまたはBピクチャ用のタップ係数を用いてクラス分類適応処理がそれぞれ行われるが、ブロックがイントラ符号化されている場合には、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0563】
また、上述の場合には、I,P,Bピクチャそれぞれ用のタップ係数を学習するようにしたが、Bピクチャ用のタップ係数の学習は省略することが可能である。この場合、図44の係数変換回路228では、PピクチャとBピクチャの予測符号化されたブロックについて、例えば、いずれも、Pピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0564】
さらに、上述の場合には、ピクチャタイプ別に、タップ係数の学習を行うようにしたが、タップ係数の学習は、ピクチャタイプに関係なく行うようにすることも可能である。
【0565】
次に、図48は、図36の係数変換回路228の第3の構成例を示している。なお、図中、図24の係数変換回路32における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図48の係数変換回路228は、逆量子化回路40が設けられていない他は、図24の係数変換回路32と基本的に同様に構成されている。
【0566】
従って、図48の係数変換回路228では、バッファメモリ227(図36)に記憶された2次元DCT係数が、図24の係数変換回路32における場合と基本的に同様に処理されることにより、画素値に復号される。
【0567】
但し、図48の実施の形態でも、図40における場合と同様に、係数テーブル記憶部44には、その3つのピクチャタイプごとに、タップ係数が記憶されており、各ピクチャタイプの画像の復号は、そのピクチャタイプ用のタップ係数を用いて行われるようになっている。
【0568】
次に、図49は、図48の係数変換回路228で用いられるIピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図33または図41における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0569】
図49の実施の形態では、生徒データ生成部261において、図41における場合と同様にして、生徒データが生成される。
【0570】
そして、学習用の画像データが、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65、クラスタップ抽出回路66、クラス分類回路67、正規方程式加算回路68、タップ係数決定回路69、係数テーブル記憶部70、モード制御部101、符号制御部102、タップ構造記憶部121、逆DCT回路122、およびクラスコード操作部161において、上述の生徒データおよび教師データを用いて、図33における場合と同様の処理が行われることにより、Iピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0571】
次に、図50は、図48の係数変換回路228で用いられるPピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、図中、図33、図42、または図49における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図50の学習装置は、生徒データ生成部261に代えて、生徒データ生成部271が設けられている他は、図49における場合と基本的に同様に構成されている。
【0572】
図50の実施の形態では、生徒データ生成部271において、図42における場合と同様にして、生徒データが生成される。
【0573】
そして、学習用の画像データが、教師データとして、正規方程式加算回路68に供給され、以下、予測タップ抽出回路65、クラスタップ抽出回路66、クラス分類回路67、正規方程式加算回路68、タップ係数決定回路69、係数テーブル記憶部70、モード制御部101、符号制御部102、タップ構造記憶部121、逆DCT回路122、およびクラスコード操作部161において、上述の生徒データおよび教師データを用いて、図33における場合と同様の処理が行われることにより、Pピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0574】
次に、図51は、図48の係数変換回路228で用いられるBピクチャ用のタップ係数を学習する場合の学習装置の一実施の形態の構成例を示している。なお、Bピクチャ用のタップ係数を学習する学習装置も、図50のPピクチャ用のタップ係数を学習する学習装置と同様に、生徒データ生成部だけが、図49のIピクチャ用のタップ係数を学習する学習装置と異なるだけであるため、図51においては、Bピクチャ用のタップ係数を学習する学習装置の生徒データ生成部だけを図示してある。
【0575】
図51の実施の形態では、図43における場合と同様にして、生徒データが生成される。
【0576】
そして、以降は、図49の学習装置における場合と同様の処理が行われ、これにより、Bピクチャ用のタップ係数が、各クラスごとに、かつ各縮退画素位置モードごとに求められる。
【0577】
図48の係数テーブル記憶部44には、以上のような学習によって、各クラスごとに求められた16の縮退画素位置モードそれぞれごとの、I,P,Bピクチャ用のタップ係数が記憶されている。
【0578】
なお、図48の係数変換回路228では、Iピクチャのブロックについては、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。また、PピクチャまたはBピクチャのブロックについては、そのブロックが予測符号化されている場合には、PピクチャまたはBピクチャ用のタップ係数を用いてクラス分類適応処理がそれぞれ行われるが、ブロックがイントラ符号化されている場合には、Iピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0579】
また、上述の場合には、I,P,Bピクチャそれぞれ用のタップ係数を学習するようにしたが、Bピクチャ用のタップ係数の学習は省略することが可能である。この場合、図48の係数変換回路228では、PピクチャとBピクチャの予測符号化されたブロックについて、例えば、いずれも、Pピクチャ用のタップ係数を用いてクラス分類適応処理が行われる。
【0580】
さらに、上述の場合には、ピクチャタイプ別に、タップ係数の学習を行うようにしたが、タップ係数の学習は、ピクチャタイプに関係なく行うようにすることも可能である。
【0581】
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【0582】
そこで、図52は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
【0583】
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク405やROM403に予め記録しておくことができる。
【0584】
あるいはまた、プログラムは、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体411に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体411は、いわゆるパッケージソフトウエアとして提供することができる。
【0585】
なお、プログラムは、上述したようなリムーバブル記録媒体411からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部408で受信し、内蔵するハードディスク405にインストールすることができる。
【0586】
コンピュータは、CPU(Central Processing Unit)402を内蔵している。CPU402には、バス401を介して、入出力インタフェース410が接続されており、CPU402は、入出力インタフェース410を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部407が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)403に格納されているプログラムを実行する。あるいは、また、CPU402は、ハードディスク405に格納されているプログラム、衛星若しくはネットワークから転送され、通信部408で受信されてハードディスク405にインストールされたプログラム、またはドライブ409に装着されたリムーバブル記録媒体411から読み出されてハードディスク405にインストールされたプログラムを、RAM(Random Access Memory)404にロードして実行する。これにより、CPU402は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU402は、その処理結果を、必要に応じて、例えば、入出力インタフェース410を介して、LCD(Liquid CryStal Display)やスピーカ等で構成される出力部406から出力、あるいは、通信部408から送信、さらには、ハードディスク405に記録等させる。
【0587】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
【0588】
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0589】
なお、本実施の形態では、教師データの予測値を、式(1)の線形1次予測演算によって求めるようにしたが、教師データの予測値は、その他、例えば、2次以上の高次の式を用いて求めるようにすることが可能である。
【0590】
また、例えば、図24または図33の実施の形態のように、クラスコード操作部131または161を設ける場合には、タップ構造記憶部111と逆DCT回路112、またはタップ構造記憶部121と逆DCT回路122を設けずに、装置を構成することが可能である。
【0591】
さらに、本実施の形態では、予測タップの符号とクラスコードの操作、予測タップのタップ構造の制御を、注目領域に基づいて行うようにしたが、注目領域は、注目画素の画素位置モードから認識することができるので、予測タップの符号の操作等は、注目画素の画素位置モードに基づいて行うことも可能である。
【0592】
また、本実施の形態では、注目ブロックの左上領域を基準として、予測タップの符号の操作、クラスコードの操作、タップ構造の制御について説明したが、予測タップの符号の操作等は、左上領域以外の右上領域や、左下領域、右下領域を基準として行うことが可能である。即ち、右上領域、左下領域、または右下領域を基準とした予測タップの符号の操作等は、注目ブロックを右に90度、左に90度、または180度だけそれぞれ回転した状態を考えることにより、左上領域を基準とした場合と同様に行うことができる。
【0593】
なお、本発明は、MPEG1,2,4、JPEG方式その他の2次元DCT変換を用いる符号化方式で符号化された画像データを復号する場合に適用可能である。
【0594】
【発明の効果】
本発明の第1の画像処理装置および画像処理方法、並びにプログラムによれば符号化データを、効率的に、画質の良い復号画像に復号することが可能となる。
【0595】
本発明の第2の画像処理装置および画像処理方法、並びにプログラムによればタップ係数を学習する学習効率を向上させることが可能となる。
【図面の簡単な説明】
【図1】従来のJPEG符号化とJPEG復号を説明するための図である。
【図2】本発明を適用した画像伝送システムの一実施の形態の構成例を示すブロック図である。
【図3】デコーダ22の第1の構成例を示すブロック図である。
【図4】デコーダ22の処理を説明するフローチャートである。
【図5】係数変換回路32の第1の構成例を示すブロック図である。
【図6】予測タップを説明するための図である。
【図7】係数変換回路32の処理を説明するフローチャートである。
【図8】タップ係数を学習する学習装置の第1の構成例を示すブロック図である。
【図9】学習装置の処理を説明するフローチャートである。
【図10】画素位置モードの総数と、タップ係数の総数を説明するための図である。
【図11】係数変換回路32の第2の構成例を示すブロック図である。
【図12】縮退画素位置モードと、予測タップの符号の制御を説明するための図である。
【図13】DCT係数の基底となっているコサイン波形の左右の反転を説明するための図である。
【図14】モード制御部81の構成例を示すブロック図である。
【図15】係数変換回路32の処理を説明するフローチャートである。
【図16】タップ係数を学習する学習装置の第2の構成例を示すブロック図である。
【図17】学習装置の処理を説明するフローチャートである。
【図18】注目ブロックのDCT係数と、隣接ブロック画素とを用いて構成される予測タップを説明するための図である。
【図19】係数変換回路32の第3の構成例を示すブロック図である。
【図20】隣接ブロック画素の位置の反転を説明するための図である。
【図21】係数変換回路32の処理を説明するフローチャートである。
【図22】タップ係数を学習する学習装置の第3の構成例を示すブロック図である。
【図23】学習装置の処理を説明するフローチャートである。
【図24】係数変換回路32の第4の構成例を示すブロック図である。
【図25】クラスタップ抽出回路42の構成例を示すブロック図である。
【図26】1次元DCT係数を説明するための図である。
【図27】1次元DCT係数を説明するためのディスプレイ上に表示された中間階調の写真である。
【図28】クラス分類回路43の構成例を示すブロック図である。
【図29】ACパワー算出部151の処理を説明するための図である。
【図30】AC内積算出部153の処理を説明するための図である。
【図31】クラスコード操作部131の処理を説明するための図である。
【図32】係数変換回路32の処理を説明するフローチャートである。
【図33】タップ係数を学習する学習装置の第4の構成例を示すブロック図である。
【図34】学習装置の処理を説明するフローチャートである。
【図35】エンコーダ21の構成例を示すブロック図である。
【図36】デコーダ22の第2の構成例を示すブロック図である。
【図37】周波数領域動き補償加算部223とDCT変換部226の構成例を示すブロック図である。
【図38】サンプリング部241の処理を説明するための図である。
【図39】サンプリング部241の処理を説明するための図である。
【図40】係数変換回路228の第1の構成例を示すブロック図である。
【図41】Iピクチャ用のタップ係数を学習する学習装置の第1の構成例を示すブロック図である。
【図42】Pピクチャ用のタップ係数を学習する学習装置の第1の構成例を示すブロック図である。
【図43】Bピクチャ用のタップ係数を学習する学習装置の第1の構成例を示すブロック図である。
【図44】係数変換回路228の第2の構成例を示すブロック図である。
【図45】Iピクチャ用のタップ係数を学習する学習装置の第2の構成例を示すブロック図である。
【図46】Pピクチャ用のタップ係数を学習する学習装置の第2の構成例を示すブロック図である。
【図47】Bピクチャ用のタップ係数を学習する学習装置の第2の構成例を示すブロック図である。
【図48】係数変換回路228の第3の構成例を示すブロック図である。
【図49】Iピクチャ用のタップ係数を学習する学習装置の第3の構成例を示すブロック図である。
【図50】Pピクチャ用のタップ係数を学習する学習装置の第3の構成例を示すブロック図である。
【図51】Bピクチャ用のタップ係数を学習する学習装置の第3の構成例を示すブロック図である。
【図52】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【符号の説明】
21 エンコーダ, 22 デコーダ, 23 記録媒体, 24 伝送媒体, 31 エントロピー復号回路, 32 係数変換回路, 33 ブロック分解回路, 40 逆量子化回路, 41 予測タップ抽出回路, 42 クラスタップ抽出回路, 43 クラス分類回路, 44 係数テーブル記憶部, 45 積和演算回路, 46 モード制御部, 61 ブロック化回路, 62 DCT回路, 63 量子化回路, 64 逆量子化回路, 65 予測タップ抽出回路, 66 クラスタップ抽出回路, 67 クラス分類回路, 68 正規方程式加算回路, 69 タップ係数決定回路, 70 係数テーブル記憶部, 71,81 モード制御部, 82 符号制御部, 91 領域判定部,92 画素位置モード判定部, 93 モード縮退部, 101 モード制御部, 102 符号制御部, 111 タップ構造記憶部, 112 逆DCT回路, 121 タップ構造記憶部, 122 逆DCT回路, 131 クラスコード操作部, 141 1次元逆DCT変換部, 144 境界1次元DCT係数抽出部, 145 隣接1次元DCT係数抽出部, 151 ACパワー算出部, 152 DC成分抽出部, 153 AC内積算出部, 154 連続性判定部, 161 クラスコード操作部, 201 動き検出回路, 202 演算器, 203 ブロック化回路, 204 DCT回路, 205 量子化回路, 206 エントロピー符号化回路, 207 逆量子化回路, 208 逆DCT回路, 209 演算器, 210 動き補償回路, 221 分離部, 222 DCT係数抽出/逆量子化部, 223 周波数領域動き補償加算部, 224 動き補償部, 225 画像メモリ, 226 DCT変換部, 227 バッファメモリ, 228 係数変換回路, 229 画像メモリ, 230 ピクチャ選択部, 241 サンプリング部, 242 DCT部, 251 DCT係数選択部, 252 加算部, 253 選択部, 261 生徒データ生成部, 262 MPEGエンコーダ, 263 分離部, 264 DCT係数抽出/逆量子化部, 271 生徒データ生成部, 272 MPEGエンコーダ, 273 分離部, 274 DCT係数抽出/逆量子化部, 275 周波数領域動き補償加算部, 276 係数変換回路, 277 Iピクチャストレージ, 278 動き補償部, 279 画像メモリ, 280 DCT変換部, 291 MPEGエンコーダ, 292 分離部, 293 DCT係数抽出/逆量子化部, 294 周波数領域動き補償加算部, 295 係数変換回路, 296 Iピクチャストレージ, 297 動き補償部, 298 画像メモリ, 299 DCT変換部, 300 係数変換回路, 301 Pピクチャストレージ, 302 動き補償部, 303 画像メモリ, 304 DCT変換部, 305 周波数領域動き補償加算部,401 バス, 402 CPU, 403 ROM, 404 RAM, 405 ハードディスク, 406 出力部, 407 入力部, 408 通信部, 409 ドライブ, 410 入出力インタフェース, 411 リムーバブル記録媒体

Claims (20)

  1. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号する画像処理装置であって、
    前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記符号化データから取得する2次元DCT係数取得手段と、
    復号対象として注目している画素である注目画素を含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、前記注目画素が位置するかを判定する領域判定手段と、
    少なくとも、前記注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出手段と、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目画素と点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退手段と、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作手段と、
    学習用の画像データを、少なくとも、前記所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、前記学習用の画像データを構成する各画素を前記学習の教師となる教師データとし、前記教師データのうちの注目している注目教師データに対して、前記DCT係数抽出手段と同様に抽出した前記生徒データとしての2次元DCT係数と学習係数との積和演算で得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに求めた前記学習係数のなかから、前記注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出手段により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測する予測手段と
    を備えることを特徴とする画像処理装置。
  2. 前記DCT係数抽出手段は、少なくとも、前記注目ブロックの2次元DCT係数すべてと、前記注目ブロックの上側、下側、左側、または右側にそれぞれ位置する画素に関する情報である上側画素情報、下側画素情報、左側画素情報、または右側画素情報とを抽出し、
    前記予測手段は、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記上側画素情報、前記下側画素情報、前記左側画素情報、および前記右側画素情報と前記DCT係数抽出手段により抽出されたDCT係数を所定の順序で、前記縮退画素位置情報に対応する学習係数と積和演算し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記所定の順序の前記左側画素情報と右側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記所定の順序の前記上側画素情報と下側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記所定の順序の前記左側画素情報と右側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記上側画素情報、下側画素情報、左側画素情報、または右側画素情報は、前記注目ブロックの上側、下側、左側、または右側にそれぞれ位置する画素の2次元DCT係数である
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記上側画素情報、下側画素情報、左側画素情報、または右側画素情報は、前記注目ブロックの上側、下側、左側、または右側に隣接する前記ブロックの画素の2次元DCT係数である
    ことを特徴とする請求項に記載の画像処理装置。
  5. 前記注目画素とその周辺の画素の2次元DCT係数を用いた ADRC 処理結果を、前記注目画素のクラスに対応するクラスコードとして出力するクラス分類手段をさらに備え、
    前記予測手段は、前記クラスごとに、かつ、前記縮退画素位置情報ごとに、前記注目教師データの予測値の予測誤差が統計的に最小になるように求めた前記学習係数のなかから、前記注目画素のクラスコードが表すクラスで、かつ、縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出手段により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測する
    ことを特徴とする請求項1に記載の画像処理装置。
  6. 前記DCT係数抽出手段は、前記注目ブロックの上側、下側、左側、および右側の境界の画素の1次元DCT係数である上側境界1次元DCT係数、下側境界1次元DCT係数、左側境界1次元DCT係数、および右側境界1次元DCT係数と、前記注目ブロックの上側、下側、左側、および右側に隣接するブロックの前記注目ブロックと隣接する画素の1次元DCT係数である上側隣接1次元DCT係数、下側隣接1次元DCT係数、左側隣接1次元DCT係数、および右側隣接1次元DCT係数を抽出し、
    1次元DCT係数のn個の交流成分をACnと表すとき、PAC=ΣACn 2により、上側、下側、左側、および右側のACパワーPACを求め、
    境界1次元DCT係数の直流成分DCと、隣接1次元DCT係数の直流成分DC’を上側、下側、左側、および右側のそれぞれについて求め、
    境界1次元DCT係数の交流成分ACnと、隣接1次元DCT係数の交流成分ACn’との内積であるAC内積を、上側、下側、左側、および右側のそれぞれについて求め、
    前記注目ブロックと、それに隣接するブロックとが連続するか否かを判定する連続性判定処理を、前記注目ブロックの上側、下側、左側、および右側の境界のそれぞれについて行い、その結果を上側ブロック間コード、下側ブロック間コード、左側ブロック間コード、および右側ブロック間コードのセットを前記注目画素のクラスに対応するクラスコードとして出力するクラス分類手段と
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記クラス分類手段が出力するクラスコードを、そのまま、前記注目画素のクラスコードとして出力し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記左側ブロック間コードと右側ブロック間コードとを入れ替え、前記注目画素のクラスコードとして出力し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記上側ブロック間コードと下側ブロック間コードとを入れ替え、前記注目画素のクラスコードとして出力し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記左側ブロック間コードと右側ブロック間コードとを入れ替えるとともに、前記上側ブロック間コードと下側ブロック間コードとを入れ替え、前記注目画素のクラスコードとして出力するクラスコード操作手段をさらに備え、
    前記予測手段は、前記クラスごとに、かつ、前記縮退画素位置情報ごとに、前記注目教師データの予測値の予測誤差が統計的に最小になるように求めた前記学習係数のなかから、前記注目画素のクラスコードが表すクラスで、かつ、縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出手段により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測し、
    前記連続性判定処理は、
    境界1次元DCT係数の直流成分DCと、隣接1次元DCT係数の直流成分DC’との差分絶対値|DC−DC’|が所定の閾値TH1より大きいかまたは閾値TH1以上という境界部エッジ条件を満たすかどうかを判定し、前記境界部エッジ条件が満たされる場合、ブロック間コードとして連続性がないことを表す0をセットし、
    前記境界部エッジ条件が満たされない場合、所定の閾値TH2乃至TH4(TH2>TH4)に対して、(PAC≦TH2)∩(PAC’≦TH2)∩(|DC−DC’|≦TH3)か、または、PAC’≦TH4 のいずれか一方が満たされるか否かを平坦性条件として判定し、いずれか一方が満たされる場合に、前記平坦性条件が満たされるとしてブロック間コードとして連続性があることを表す1をセットし、
    前記平坦性条件が満たされない場合、注目ブロックについての内積が正の値かまたは0以上であるかどうかを連続性条件として判定し、前記連続性条件が満たされる場合にブロック間コードとして連続性があることを表す1をセットし、前記連続性条件が満たされない場合にブロック間コードとして連続性がないことを表す0をセットする処理である
    ことを特徴とする請求項に記載の画像処理装置。
  7. 前記符号化データは、前記画像データを、JPEG(Joint Photographic Experts Group)またはMPEG(Moving Picture Experts Group)の規格に準拠して符号化したものである
    ことを特徴とする請求項1に記載の画像処理装置。
  8. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号する画像処理方法であって、
    前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記符号化データから取得する2次元DCT係数取得ステップと、
    復号対象として注目している画素である注目画素を含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、前記注目画素が位置するかを判定する領域判定ステップと、
    少なくとも、前記注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目画素と点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    学習用の画像データを、少なくとも、前記所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、前記学習用の画像データを構成する各画素を前記学習の教師となる教師データとし、前記教師データのうちの注目している注目教師データに対して、前記DCT係数抽出手段と同様に抽出した前記生徒データとしての2次元DCT係数と学習係数との積和演算で得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに求めた前記学習係数のなかから、前記注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測する予測ステップと
    を備えることを特徴とする画像処理方法。
  9. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号する画像処理を、コンピュータに行わせるプログラムであって、
    前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記符号化データから取得する2次元DCT係数取得ステップと、
    復号対象として注目している画素である注目画素を含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、前記注目画素が位置するかを判定する領域判定ステップと、
    少なくとも、前記注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目画素と点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    学習用の画像データを、少なくとも、前記所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、前記学習用の画像データを構成する各画素を前記学習の教師となる教師データとし、前記教師データのうちの注目している注目教師データに対して、前記DCT係数抽出手段と同様に抽出した前記生徒データとしての2次元DCT係数と学習係数との積和演算で得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに求めた前記学習係数のなかから、前記注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測する予測ステップと
    を備えることを特徴とするプログラム。
  10. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号する画像処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記符号化データから取得する2次元DCT係数取得ステップと、
    復号対象として注目している画素である注目画素を含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、右下の4つの領域のうちのいずれの領域に、前記注目画素が位置するかを判定する領域判定ステップと、
    少なくとも、前記注目ブロックの2次元DCT係数すべてを抽出するDCT係数抽出ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目画素と線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目画素と点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目画素が、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目画素が、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目画素が、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    学習用の画像データを、少なくとも、前記所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、前記学習用の画像データを符号化した符号化データから取得して学習の生徒となる生徒データとし、前記学習用の画像データを構成する各画素を前記学習の教師となる教師データとし、前記教師データのうちの注目している注目教師データに対して、前記DCT係数抽出手段と同様に抽出した前記生徒データとしての2次元DCT係数と学習係数との積和演算で得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに求めた前記学習係数のなかから、前記注目画素の縮退画素位置情報に対応する学習係数を取得し、その学習係数と、前記DCT係数抽出ステップの処理により抽出されたDCT係数との積和演算を行うことにより、前記注目画素の画素値を予測する予測ステップと
    をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
  11. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号するのに用いる学習係数を学習する画像処理装置であって、
    学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得手段と、
    前記学習用の画像データを構成する各画素を、学習の教師となる教師データとして、前記教師データのうちの、注目している教師データである注目教師データを予測するのに用いる前記2次元DCT係数を抽出するDCT係数抽出手段と、
    前記注目教師データを含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、前記注目教師データが位置するかを判定する領域判定手段と、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目教師データの位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目教師データと点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退手段と、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作手段と、
    前記学習係数と前記DCT係数抽出手段により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行うことにより、前記縮退画素位置情報ごとの前記学習係数を求める学習手段と
    を備えることを特徴とする画像処理装置。
  12. 前記DCT係数抽出手段は、少なくとも、前記注目ブロックの2次元DCT係数すべてと、前記注目ブロックの上側、下側、左側、または右側にそれぞれ位置する画素に関する情報である上側画素情報、下側画素情報、左側画素情報、または右側画素情報とを抽出し、
    前記学習手段は、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記上側画素情報、前記下側画素情報、前記左側画素情報、および前記右側画素情報と前記DCT係数抽出手段により抽出されたDCT係数を所定の順序で、前記縮退画素位置情報に対応する学習係数と積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行い、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記所定の順序の前記左側画素情報と右側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行い、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記所定の順序の前記上側画素情報と下側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行い、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記所定の順序の前記左側画素情報と右側画素情報とを入れ替えた順序で、前記縮退画素位置情報に対応する学習係数と積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行う
    ことを特徴とする請求項12に記載の画像処理装置。
  13. 前記上側画素情報、下側画素情報、左側画素情報、または右側画素情報は、前記注目ブロックの上側、下側、左側、または右側にそれぞれ位置する画素の2次元DCT係数である
    ことを特徴とする請求項12に記載の画像処理装置。
  14. 前記上側画素情報、下側画素情報、左側画素情報、または右側画素情報は、前記注目ブロックの上側、下側、左側、または右側に隣接する前記ブロックの画素の2次元DCT係数である
    ことを特徴とする請求項13に記載の画像処理装置。
  15. 前記注目教師データとその周辺の画素の2次元DCT係数を用いた ADRC 処理結果を、前記注目教師データのクラスを表すクラスコードとして出力するクラス分類手段をさらに備え、
    前記学習手段は、前記学習係数と前記DCT係数抽出手段により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記学習係数を求める学習を、前記クラスごとに、かつ前記縮退画素位置情報ごとに行うことにより、前記クラスごとに、前記縮退画素位置情報ごとの前記学習係数を求める
    ことを特徴とする請求項11に記載の画像処理装置。
  16. 前記DCT係数抽出手段は、前記注目ブロックの上側、下側、左側、および右側の境界の画素の1次元DCT係数である上側境界1次元DCT係数、下側境界1次元DCT係数、左側境界1次元DCT係数、および右側境界1次元DCT係数と、前記注目ブロックの上側、下側、左側、および右側に隣接するブロックの前記注目ブロックと隣接する画素の1次元DCT係数である上側隣接1次元DCT係数、下側隣接1次元DCT係数、左側隣接1次元DCT係数、および右側隣接1次元DCT係数を抽出し、
    1次元DCT係数のn個の交流成分をACnと表すとき、PAC=ΣACn 2により、上側、下側、左側、および右側のACパワーPACを求め、
    境界1次元DCT係数の直流成分DCと、隣接1次元DCT係数の直流成分DC’を上側、下側、左側、および右側のそれぞれについて求め、
    境界1次元DCT係数の交流成分ACnと、隣接1次元DCT係数の交流成分ACn’との内積であるAC内積を、上側、下側、左側、および右側のそれぞれについて求め、
    前記注目ブロックと、それに隣接するブロックとが連続するか否かを判定する連続性判定処理を、前記注目ブロックの上側、下側、左側、および右側の境界のそれぞれについて行い、その結果を上側ブロック間コード、下側ブロック間コード、左側ブロック間コード、および右側ブロック間コードのセットを前記注目教師データのクラスを表すクラスコードとして出力するクラス分類手段と
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記クラス分類手段が出力するクラスコードを、そのまま、前記注目教師データのクラスコードとして出力し、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記左側ブロック間コードと右側ブロック間コードとを入れ替え、前記注目教師データのクラスコードとして出力し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記上側ブロック間コードと下側ブロック間コードとを入れ替え、前記注目教師データのクラスコードとして出力し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記クラス分類手段が出力するクラスコードにおける前記左側ブロック間コードと右側ブロック間コードとを入れ替えるとともに、前記上側ブロック間コードと下側ブロック間コードとを入れ替え、前記注目教師データのクラスコードとして出力するクラスコード操作手段をさらに備え、
    前記学習手段は、前記学習係数と前記DCT係数抽出手段により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記学習係数を求める学習を、前記クラスごとに、かつ、前記縮退画素位置情報ごとに学習を行うことにより、前記クラスごとに、前記縮退画素位置情報ごとの前記学習係数を求め、
    前記連続性判定処理は、
    境界1次元DCT係数の直流成分DCと、隣接1次元DCT係数の直流成分DC’との差分絶対値|DC−DC’|が所定の閾値TH1より大きいかまたは閾値TH1以上という境界部エッジ条件を満たすかどうかを判定し、前記境界部エッジ条件が満たされる場合、ブロック間コードとして連続性がないことを表す0をセットし、
    前記境界部エッジ条件が満たされない場合、所定の閾値TH2乃至TH4(TH2>TH4)に対して、(PAC≦TH2)∩(PAC’≦TH2)∩(|DC−DC’|≦TH3)か、または、PAC’≦TH4 のいずれか一方が満たされるか否かを平坦性条件として判定し、いずれか一方が満たされる場合に、前記平坦性条件が満たされるとしてブロック間コードとして連続性があることを表す1をセットし、
    前記平坦性条件が満たされない場合、注目ブロックについての内積が正の値かまたは0以上であるかどうかを連続性条件として判定し、前記連続性条件が満たされる場合にブロック間コードとして連続性があることを表す1をセットし、前記連続性条件が満たされない場合にブロック間コードとして連続性がないことを表す0をセットする処理である
    ことを特徴とする請求項11に記載の画像処理装置。
  17. 前記生徒データ取得手段は、前記学習用の画像データを、JPEG(Joint Photographic Experts Group)またはMPEG(Moving Picture Experts Group)の規格に準拠して符号化し、前記符号化データを得る
    ことを特徴とする請求項11に記載の画像処理装置。
  18. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号するのに用いる学習係数を学習する画像処理方法であって、
    学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、
    前記学習用の画像データを構成する各画素を、学習の教師となる教師データとして、前記教師データのうちの、注目している教師データである注目教師データを予測するのに用いる前記2次元DCT係数を抽出するDCT係数抽出ステップと、
    前記注目教師データを含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、前記注目教師データが位置するかを判定する領域判定ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目教師データの位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目教師データと点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    前記学習係数と前記DCT係数抽出ステップの処理により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行うことにより、前記縮退画素位置情報ごとの前記学習係数を求める学習ステップと
    を備えることを特徴とする画像処理方法。
  19. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号するのに用いる学習係数を学習する画像処理を、コンピュータに行わせるプログラムであって、
    学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、
    前記学習用の画像データを構成する各画素を、学習の教師となる教師データとして、前記教師データのうちの、注目している教師データである注目教師データを予測するのに用いる前記2次元DCT係数を抽出するDCT係数抽出ステップと、
    前記注目教師データを含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、前記注目教師データが位置するかを判定する領域判定ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目教師データの位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目教師データと点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    前記学習係数と前記DCT係数抽出ステップの処理により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行うことにより、前記縮退画素位置情報ごとの前記学習係数を求める学習ステップと
    を備えることを特徴とするプログラム。
  20. 画像データを、少なくとも、所定のブロックごとに2次元DCT(Discrete Cosine Transform)変換して得られる符号化データを復号するのに用いる学習係数を学習する画像処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    学習用の画像データを符号化し、その結果得られる符号化データから、少なくとも、前記画像データを所定のブロックごとに2次元DCT変換して得られる2次元DCT係数を、学習の生徒となる生徒データとして取得する生徒データ取得ステップと、
    前記学習用の画像データを構成する各画素を、学習の教師となる教師データとして、前記教師データのうちの、注目している教師データである注目教師データを予測するのに用いる前記2次元DCT係数を抽出するDCT係数抽出ステップと、
    前記注目教師データを含む前記ブロックである注目ブロックを垂直方向と水平方向にそれぞれ2等分して得られる左上、右上、左下、および右下の4つの領域のうちのいずれの領域に、前記注目教師データが位置するかを判定する領域判定ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、前記注目ブロックにおける注目教師データの位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、前記注目ブロックを左右に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、前記注目ブロックを上下に2等分する線について、前記注目教師データと線対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、前記注目ブロックを左右に2等分する線と上下に2等分する線との交点について、前記注目教師データと点対称の位置にある前記注目ブロックの左上の領域における画素の位置を表す情報を、前記縮退画素位置情報として出力する画素位置情報縮退ステップと、
    前記注目教師データが、前記注目ブロックの左上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数の符号を、そのままとし、
    前記注目教師データが、前記注目ブロックの右上の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの左下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数行に位置するものの符号を反転し、
    前記注目教師データが、前記注目ブロックの右下の領域に位置する場合、抽出された前記注目ブロックの2次元DCT係数のうち、前記注目ブロックの偶数列に位置するものの符号を反転するとともに、前記注目ブロックの偶数行に位置するものの符号を反転する符号操作ステップと、
    前記学習係数と前記DCT係数抽出ステップの処理により抽出された前記2次元DCT係数との積和演算を行うことにより得られる前記注目教師データの予測値の予測誤差が統計的に最小になるように前記縮退画素位置情報ごとに学習を行うことにより、前記縮退画素位置情報ごとの前記学習係数を求める学習ステップと
    をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2002061420A 2002-03-07 2002-03-07 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体 Expired - Fee Related JP4147789B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002061420A JP4147789B2 (ja) 2002-03-07 2002-03-07 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002061420A JP4147789B2 (ja) 2002-03-07 2002-03-07 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2003264833A JP2003264833A (ja) 2003-09-19
JP4147789B2 true JP4147789B2 (ja) 2008-09-10

Family

ID=29195738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002061420A Expired - Fee Related JP4147789B2 (ja) 2002-03-07 2002-03-07 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP4147789B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107005702B (zh) 2014-11-14 2020-10-16 华为技术有限公司 用于处理数字图像的块的系统和方法
WO2016074746A1 (en) 2014-11-14 2016-05-19 Huawei Technologies Co., Ltd. Systems and methods for mask based processing of a block of a digital image
BR112017010160B1 (pt) 2014-11-14 2023-05-02 Huawei Technologies Co., Ltd Aparelho e método para gerar uma pluralidade de coeficientes de transformada, método para codificar um quadro, aparelho e método para decodificar um quadro e meio legível por computador
CN113435535B (zh) * 2021-07-13 2024-09-20 北京达佳互联信息技术有限公司 图像识别模型的训练方法、图像识别方法及设备

Also Published As

Publication number Publication date
JP2003264833A (ja) 2003-09-19

Similar Documents

Publication Publication Date Title
CN108028941B (zh) 用于通过超像素编码和解码数字图像的方法和装置
CN100568739C (zh) 数据处理装置和方法
CN104718758A (zh) 变换域帧内预测
JPH1175186A (ja) スケーリングされた順方向および逆方向の離散コサイン変換と、これを使用するビデオ圧縮伸長システム
JP2004528791A (ja) インターフレーム符号化方法および装置
CN113822801A (zh) 基于多分支卷积神经网络的压缩视频超分辨率重建方法
Philips et al. State-of-the-art techniques for lossless compression of 3D medical image sets
JP4147789B2 (ja) 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体
Saberi et al. The best and most efficient video compression methods
JP4517448B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4419287B2 (ja) 画像処理装置および画像処理方法、並びに記録媒体
JP4752088B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP2004135254A (ja) 画像処理装置
JP4154647B2 (ja) データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
JP4538698B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4678454B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
Dikbas et al. Lossless image compression using adjustable fractional line-buffer
JP4154902B2 (ja) 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体
JP4538699B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP4081745B2 (ja) 復号装置および復号方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP4154903B2 (ja) 画像処理装置および画像処理方法、並びにプログラムおよび記録媒体
Võ et al. Low line memory visually lossless compression for color images using non-uniform quantizers
Furht „Image presentation and compression”
JP4491701B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
Sreenivasulu Implementation of Novel Image Compression Techniques using Machine Learning Algorithms on HEVC

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080327

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080603

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080616

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130704

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees