Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4183993B2 - Filter device - Google Patents
[go: Go Back, main page]

JP4183993B2 - Filter device - Google Patents

Filter device Download PDF

Info

Publication number
JP4183993B2
JP4183993B2 JP2002206915A JP2002206915A JP4183993B2 JP 4183993 B2 JP4183993 B2 JP 4183993B2 JP 2002206915 A JP2002206915 A JP 2002206915A JP 2002206915 A JP2002206915 A JP 2002206915A JP 4183993 B2 JP4183993 B2 JP 4183993B2
Authority
JP
Japan
Prior art keywords
pixels
filter
block
neighboring pixels
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002206915A
Other languages
Japanese (ja)
Other versions
JP2004056190A (en
Inventor
実俊 飯田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2002206915A priority Critical patent/JP4183993B2/en
Publication of JP2004056190A publication Critical patent/JP2004056190A/en
Application granted granted Critical
Publication of JP4183993B2 publication Critical patent/JP4183993B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ディジタル・ビデオ信号処理の分野に関し、特に、画像信号をブロック単位に直交変換し、その係数を量子化して符合化する符合化装置の復号化画像において、量子化雑音によって生じるブロック歪みを目立たなくするための後処理フィルタに関する。
【0002】
【従来の技術】
図7は従来のビデオ映像信号の処理を行なう装置の構成を示すブロック図である。図7を参照して、DVDなどの記録媒体10に記録された映像信号はシステム多重復号器20をへて、ビデオ復号器30で復号され、復号化された画像はフィルタ装置40でフィルタ処理され、NTSC/PALエンコーダ50で符号化され、図示の無いモニタに出力される。
【0003】
ビデオ映像は、一連の情報ビットを用いてディジタル信号によって表すことができる。携帯電話回線や公衆電話回線のような帯域が制限されている特定の回線では、低ビットレートの画像符合化が画像の転送や通信のために特に有益である。そのため、低ビットレート符合化によって生成されるビデオ映像の画質が切実な問題となっている。
【0004】
一般に符合化画像の画質は使用される符合化技術の方式と目標ビットレートによって判定される。目標ビットレートを低くした場合、つまり画像を高能率に圧縮した場合、様々な圧縮符合化技術に特有の画質劣化が生じることが多い。例えば、DCT(離散コサイン変換)等を用いてブロック単位で画像圧縮を行う符合化方式の場合、ブロックの境界が不連続となるブロック歪みを生じることがある。
【0005】
ブロック歪みは、ブロック単位で処理を行う圧縮符合化技術においいて視覚的に最も目立つ画質劣化であり、画質を向上させるためにはこれを低減または除去する必要がある。そのために従来行われてきた方法は、ブロック歪みを含む復号画像に対して局所的または大域的にスムージングによるフィルタ処理を行うことであった。
【0006】
図9および図10は、図8に示したフィルタ装置40によるスムージングによるブロック歪みのフィルタ処理を説明するための図である。図9は大域的なスムージングによるフィルタ処理が適した場合の例であり、図10は局所的なスムージングによるフィルタ処理が適した場合の例を示す。図9(A)および図10(A)はフィルタ処理前の復号画像の輝度値を示し、図9(B)および図10(B)はフィルタ処理後の輝度値を示す。これらの図では、画像中のブロック境界に直交したラインが代表として示されており、黒丸で画素の輝度レベルを表している。
【0007】
図9(A)および図10(A)に示すように、ブロック境界の左右で輝度レベルの差分、すなわちブロック境界が不連続となるブロック歪みが生じている。このようなブロック歪みがあると、復号画像がその場所においてモザイク的に見えてしまい、視覚的に見づらいものとなってしまう。
【0008】
そこで従来は、9(B)に示すように、ブロック境界における輝度レベルの差分を大域的なスムージングによるフィルタ処理によって鈍らせ、輝度値の直線的なエッジを無くすことによってブロック歪みを低減するか、あるいは図10(B)に示すように、ブロック境界における輝度レベルの差分をブロック境界近辺の画素だけ局所的なスムージングによるフィルタ処理によって鈍らせてブロック歪みを低減していた。
【0009】
そのような処理を行なう従来のフィルタ装置40の構成を図8に示す。図8を参照して、従来のフィルタ装置40は復号化画像信号を入力する復号器41と、復号化画像を遅延させる遅延回路42と、復号化画像および遅延回路42で遅延された画像を入力するフィルタ44と復号器41からの制御信号に応じてフィルタ44を制御する制御回路43とを含む。
【0010】
【発明が解決しようとする課題】
従来のフィルタ処理は上記のように行なわれていた。しかしながら、インターレースの復号画像に対して垂直方向に、前記2種類のスムージングによるフィルタ処理を行うと、輪郭のはっきりした物体が上下に移動するときに、輪郭が2重に見えることがあるなど、画質劣化が生じていた。また、ブロック境界全てに前記2種類のスムージングによるフィルタ処理を行うと、復号画像の高域成分が除去され、画像が全体的にぼやけてしまうという問題があった。
【0011】
本発明は、このような状況に鑑みてなされたものであり、復号画像の高域成分を損なうこと無くブロック歪みが低減または除去でき、しかも、インターレースの復号画像に対しても画質劣化なくブロック歪みが低減または除去できるフィルタ装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
この発明に係るフィルタ装置は、複数のブロックに分割され、ブロック単位で符号化された画像信号をブロック単位で順次復号化して得られるインターレースの復号化画像信号に対して復号化画像信号のラインに交わる第1の方向に沿った画素を第1の方向に沿ってそろえるような遅延を行なう遅延手段と、復号化画像信号の第1の方向のブロック歪みを判定する第1判定手段とを備え第1判定手段は、ブロックの境界に交わるように第1の方向に沿って並ぶ所定の数の近傍画素について、隣接する近傍画素間の画素値の差分に基づき、低周波か否かを判定することで、第1の方向のブロック歪みを判定する第1副判定手段を含み、第1判定手段で得られた判定結果を基に遅延手段で遅延をした画像信号を第1の方向にフィルタ処理する第1フィルタ手段をさらに備え第1フィルタ手段は、第1副判定手段が、近傍画素が低周波でないと判定した場合にはフィルタ処理を行なわず、第1フィルタ手段から出力された画像信号の第1の方向に交わる第2の方向のブロック歪みを判定する第2判定手段と、第2判定手段で得られた判定結果を基に、第1フィルタ手段から出力された画像信号を第2の方向にフィルタ処理する第2フィルタ手段とをさらに備える。
好ましくは、第1副判定手段は、隣接する近傍画素間の画素値の差分の絶対値のいずれもが所定のしきい値以下であるかどうかを判定し、第1フィルタ手段は、第2副判定手段が絶対値のいずれかが所定のしきい値より大きいと判定した場合には、近傍画素に対してフィルタ処理を行なわない。
【0013】
この発明においては、第1の方向と第1の方向に交わる第2の方向別にそれぞれの方向で予め歪の有無の判定を行ない、その後それぞれの方向でフィルタ処理を行なっている。したがって、歪の多いときのみにフィルタ処理を行なうため復号画像の高域成分が全て除去されるということは無いとともに、インターレース画像で画質の劣化の生じる方向のみにおけるフィルタ処理が可能になる。
【0014】
その結果、復号画像の高域成分を損なうこと無くブロック歪みが低減または除去でき、しかも、インターレースの復号画像に対しても画質劣化なくブロック歪みが低減または除去できるフィルタ装置を提供することができる。
【0015】
さらに好ましくは、第2判定手段は、ブロックの境界に交わるように第2の方向に沿って並ぶ所定の数の第2方向近傍画素について、隣接する第2方向近傍画素間の画素値の差分に基づき、低周波か否かを判定することで、第2の方向のブロック歪みを判定する第2副判定手段を含み、第2フィルタ手段は、第2副判定手段が第2方向近傍画素が低周波であると判定した場合には、第2方向近傍画素に対してフィルタ処理を行ない、第2副判定手段が第2方向近傍画素が低周波でないと判定した場合には、第2方向近傍画素に含まれ、第2方向近傍画素の数より少ない画素に対してフィルタ処理を行なう。
【0017】
なお、第1および第2判定手段は、それぞれブロック境界を挟んで隣接する2画素の画素値の差分の絶対値と所定のしきい値とを比較する手段と、2画素の画素値の差分の絶対値と隣接する近傍画素間の画素値の差分の絶対値のうち最大のものとを比較する手段とを含んでもよい。
【0018】
さらに好ましくは、第1方向は垂直方向であり、第2方向は水平方向である。
【0019】
【発明の実施の形態】
以下に、本発明の実施の形態を図面を参照して説明する。
【0020】
図1は、本発明にかかる、ブロック歪みを低減または除去するフィルタ装置の一実施形態を示す従来の図8に対応する図である。
【0021】
図1を用いてフィルタ装置100の構成および動作を説明する。図1を参照して、フィルタ装置100はラインメモリ101と、垂直ブロック歪み判定部102と、垂直フィルタ103と、水平ブロック歪み判定部104と、水平フィルタ105とを含む。
【0022】
次に動作について図2から図4を参照して説明する。ここでは、画像信号をブロック単位(例えば8x8のブロック)に直交変換し、その係数を量子化して符合化する符合化装置により圧縮された画像の復号化画像が入力された場合の処理に関して説明する。
【0023】
入力復号化画像があるフィールドでのインターレース画像の場合のブロック境界とその近傍の画素を図2に示す。ここでは、インターレース画像の場合フィールド毎に処理を行うので、図2で示した通り、入力復号化画像がインターレース画像のとき、垂直方向には4画素毎にブロック境界が存在し、水平方向には8画素毎にブロック境界が存在する。フレーム画像として表示した場合の垂直方向の画素を図3に示す。図3では、図2のv0、v1、v2、v3がそれぞれline0、2、4、6の画素となり、次のフィールドではv0’、v1’、v2’、v3’がそれぞれline1、3、5、7の画素となる。すなわち、v0、v1、v2、v3とv0’ 、v1’、v2’、v3’とはそれぞれ同じ位置のデータである。
【0024】
復号化画像は、ラインメモリ101に入力され、所定の遅延を行って、垂直ブロック歪み判定部102と垂直フィルタ103に送られる。
【0025】
垂直ブロック歪み判定部102では、ラインメモリ101で所定の遅延を行った信号が入力され、図4に示すフローチャートに従って、ブロック歪みの有無を判定する。ここで、所定の遅延とは次の時間を言う。すなわち、垂直フィルタにおいてはフィルタする画素が同じ時間にあることが必要である。たとえば、図2のv0、v1、v2でフィルタする場合、v0を2ライン分、v1を1ライン分遅延させて、時間的に同じ位置にくるようにしている。
【0026】
ここで、図4のフローチャートについて説明する。最初に、ブロック境界近傍の画素(図2のv0〜v7)について、隣接する画素の差分の絶対値と所定のしきい値thv1を比較して低周波かどうかを判定する(ステップ11、以下ステップを省略する)。例えば図2のv0〜v7において隣接する画素の差分の絶対値は、以下のd0、d1、d2、d4、d5、d6で表現できる。
【0027】
d0=|v1−v0|
d1=|v2−v1|
d2=|v3−v2|
d4=|v5−v4|
d5=|v6−v5|
d6=|v7−v6|
この隣接する画素の差分の絶対値(d0、d1、d2、d4、d5、d6)全ての値が所定のしきい値thv1より小さい場合、ブロック境界近傍は平坦であるので、低周波であると判定する。
【0028】
次にブロック境界に隣接する2画素(図2のv3、v4)の差分の絶対値d3=|v4−v3|と所定のしきい値thv2とを比較し、さらに前記ブロック境界に隣接する2画素の差分の絶対値d3とブロック境界近傍の隣接する2画素の差分の絶対値の最大値maxv1(d0、d1、d2、d4、d5、d6の最大値)とを比較して、ブロック歪みの有無を判定する(S12)。
【0029】
すなわち、ブロック境界に隣接する2画素の差分の絶対値d3がしきい値thv2より大きい場合、画像に含まれるエッジと判定する。また、ブロック境界に隣接する2画素の差分の絶対値d3がmaxv1より小さい場合も画像に含まれるエッジと判定する。前記2つの条件で画像に含まれるエッジでは無いと判定された場合に、ブロック歪みがあると判定する。
【0030】
ここで、このしきい値thv2等の値はフィルタ装置100に入力される実際の画像データを見て判断された経験値である。したがって、入力画像の解像度やビットレートによって異なる。
【0031】
垂直フィルタ103では、ラインメモリ101で所定の遅延を行った信号が入力され、垂直ブロック歪み判定部102でブロック歪みがあると判定された場合、ブロック境界を中心とした4画素(図2のv2〜v5)に対してフィルタ処理を行う(S13)。
【0032】
垂直フィルタ103で処理した信号は、水平ブロック歪み判定部104と水平フィルタ105に入力される。水平ブロック歪み判定部104では、入力信号に対して、図5に示すフローチャートに従って、ブロック歪みの有無を判定する。ここで、図5のフローチャートについて説明する。最初に、ブロック境界近傍の画素(図2のh0〜h7)について、隣接する画素の差分の絶対値と所定のしきい値thh1とを比較して低周波かどうかを判定する(S21)。例えば図2のh0〜h7において隣接する画素の差分の絶対値は、以下のD0、D1、D2、D4、D5、D6で表現できる。
【0033】
D0=|h1−h0|
D1=|h2−h1|
D2=|h3−h2|
D4=|h5−h4|
D5=|h6−h5|
D6=|h7−h6|
この隣接する画素の差分の絶対値(D0、D1、D2、D4、D5、D6)全ての値がthh1より小さい場合、ブロック境界近傍は平坦であるので、低周波であると判定し、それ以外の場合は非低周波であると判定する。
【0034】
低周波と判定された場合は(S21でYES)、ブロック境界に隣接する2画素(図2のh3、h4)の差分の絶対値(D3=|h4−h3|)と所定のしきい値thh2とを比較し、さらに前記ブロック境界に隣接する2画素の差分の絶対値D3とブロック境界近傍の隣接する2画素の差分の絶対値の最大値maxh1(D0、D1、D2、D4、D5、D6の最大値)とを比較して、ブロック歪みの有無を判定する(S22)。
【0035】
ブロック境界に隣接する2画素の差分の絶対値D3が所定のしきい値thh2より大きい場合、画像に含まれるエッジと判定する。また、ブロック境界に隣接する2画素の差分の絶対値D3がmaxh1より小さい場合も画像に含まれるエッジと判定する。よって、前記2つの条件で画像に含まれるエッジでは無いと判定された場合に(S22でYES)、ブロック歪みがあると判定する。
【0036】
ブロック境界付近の画素列が非低周波であると判定された場合は(S21でNO)、ブロック境界に隣接する2画素(図2のh3、h4)の差分の絶対値(D3)と所定のしきい値thh3とを比較し、さらにブロック境界に隣接する2画素の差分の絶対値D3とブロック境界近傍の隣接する2画素の差分の絶対値の最大値maxh1とを比較して、ブロック歪みの有無を判定する(S24)。ブロック境界に隣接する2画素の差分の絶対値D3が所定のしきい値thh3より大きい場合、画像に含まれるエッジと判定する。また、ブロック境界に隣接する2画素の差分の絶対値D3がmaxh1より小さい場合も画像に含まれるエッジと判定する。よって、前記2つの条件で画像に含まれるエッジでは無いと判定された場合に(S24でYES)、ブロック歪みがあると判定する。
【0037】
水平フィルタ105では、垂直フィルタ103での処理を行った信号が入力され、水平ブロック歪み判定部104で低周波でのブロック歪みがあると判定された場合、ブロック境界を中心とした8画素(図2のh0〜h7)に対してフィルタ処理を行う。また、水平ブロック歪み判定部104で非低周波でのブロック歪みがあると判定された場合、高域成分が含まれていると考えられるのでブロック全体にフィルタ処理して画像がぼやけることを防ぐため、ブロック境界を中心とした2画素(図2のh3、h4)に対してのみフィルタ処理を行う。
【0038】
ここで、垂直フィルタ103に対しても非低周波の場合のフィルタ処理を行うことも考えられる。しかし、インターレース画像に対して非低周波の場合のフィルタ処理であるブロック境界を中心とした2画素に対するフィルタ処理を行うと、入力復号化画像が輪郭のはっきりした物体が上下に移動するような画像のときに、輪郭が2重に見えることがあるなど、画質劣化が生じるという問題がある。
【0039】
このことについて、図6を用いて説明する。図6(A)はフィルタ処理前のインターレース画像の例であり、第1フィールドの画素はV0〜V7で、第2フィールドの画素はV0’〜V7’である。図6(A)の第1フィールドが、非低周波でブロック歪みがあると判定され、第2フィールドではブロック歪みが無いと判定された場合、図6の(A)のV3、V4に対してフィルタ処理が行われる。図6(B)は、フィルタ処理後のインターレース画像を示している。図6(A)のV0〜V3とV0’〜V2’が白を表し、V4〜V7とV3’〜V7’が黒を表すとすると、図6(A)のV3、V4に対してフィルタ処理を行った結果、図6(B)のV3、V4はグレーになる。図6(B)をフレームで表示すると、V2’、V3、V3’、V4、V4’は白、グレー、黒、グレー、黒となって、輪郭が2重に見えることになる。よって、入力復号化画像がインターレースの場合は、垂直方向に非低周波のフィルタ処理を行わないことで、上記のようなグレーの画素の発生を防ぎ、高画質化することを可能としている。
【0040】
このように、本発明によれば、入力復号化画像の高域成分を損なうこと無くブロック歪みが低減または除去でき、さらに入力復号化画像がインターレースの場合には、垂直方向に非低周波のフィルタ処理を行わないことで、高画質化することが可能となる。
【0041】
なお、本実施形態では、ブロック単位が8x8ブロックの場合について説明したが、その他のブロック単位でも構わない。また、図1では先に垂直方向のブロック歪みの低減または除去を行い、次に水平方向のブロック歪みの低減または除去を行うようにしたが、この順番は逆でも構わない。
【0042】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【0043】
【発明の効果】
以上のように、この発明によれば、第1の方向と第1の方向に交わる第2の方向別にそれぞれの方向で予め歪の有無の判定を行ない、その後それぞれの方向でフィルタ処理を行なっている。したがって、歪の多いときのみにフィルタ処理を行なうため復号画像の高域成分が全て除去されるということは無いとともに、インターレース画像で画質の劣化の生じる方向のみにおけるフィルタ処理が可能になる。その結果、復号画像の高域成分を損なうこと無くブロック歪みが低減または除去でき、しかも、インターレースの復号画像に対しても画質劣化なくブロック歪みが低減または除去できるフィルタ装置を提供することができる。
【図面の簡単な説明】
【図1】 本発明によるフィルタ装置の実施の形態を示すブロック図である。
【図2】 ブロック境界とその近傍の画素を説明するための図である。
【図3】 フレーム画像の画素を説明するための図である。
【図4】 垂直ブロック歪み判定部の処理を説明するためフローチャートである。
【図5】 水平ブロック歪み判定部の処理を説明するためフローチャートである。
【図6】 インターレース画像のフィルタ処理を説明するための図である。
【図7】 ビデオ映像処理装置の全体構成を示すブロック図である。
【図8】 フィルタ装置の構成を示すブロック図である。
【図9】 スムージングによるブロック歪みのフィルタ処理を説明するための図である。
【図10】 スムージングによるブロック歪みのフィルタ処理を説明するための図である。
【符号の説明】
100フィルタ装置、101 ラインメモリ、102 垂直ブロック歪み判定部、103 垂直フィルタ、104 水平ブロック歪み判定部、105 水平フィルタ。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to the field of digital video signal processing, and more particularly to block distortion caused by quantization noise in a decoded image of an encoding device that performs orthogonal transformation on an image signal in units of blocks and quantizes and encodes coefficients thereof. The present invention relates to a post-processing filter for making the image less noticeable.
[0002]
[Prior art]
FIG. 7 is a block diagram showing a configuration of a conventional apparatus for processing a video image signal. Referring to FIG. 7, the video signal recorded on the recording medium 10 such as a DVD passes through the system multiplex decoder 20, is decoded by the video decoder 30, and the decoded image is filtered by the filter device 40. , Encoded by the NTSC / PAL encoder 50 and output to a monitor (not shown).
[0003]
A video image can be represented by a digital signal using a series of information bits. For certain lines with limited bandwidth, such as mobile phone lines and public telephone lines, low bit rate image encoding is particularly useful for image transfer and communication. Therefore, the image quality of the video image generated by the low bit rate coding is a serious problem.
[0004]
In general, the quality of an encoded image is determined by the encoding technique used and the target bit rate. When the target bit rate is lowered, that is, when an image is compressed with high efficiency, image quality degradation unique to various compression coding techniques often occurs. For example, in the case of an encoding method in which image compression is performed in units of blocks using DCT (Discrete Cosine Transform) or the like, block distortion in which block boundaries are discontinuous may occur.
[0005]
Block distortion is visually most noticeable image quality degradation in compression coding technology that performs processing in units of blocks, and it is necessary to reduce or eliminate this in order to improve image quality. For this purpose, a conventionally performed method is to perform filtering processing by smoothing locally or globally on a decoded image including block distortion.
[0006]
FIG. 9 and FIG. 10 are diagrams for explaining block distortion filter processing by smoothing by the filter device 40 shown in FIG. FIG. 9 shows an example in the case where the filtering process by global smoothing is suitable, and FIG. 10 shows an example in the case where the filtering process by local smoothing is suitable. 9A and 10A show the luminance values of the decoded image before the filtering process, and FIGS. 9B and 10B show the luminance values after the filtering process. In these figures, a line orthogonal to the block boundary in the image is shown as a representative, and the luminance level of the pixel is represented by a black circle.
[0007]
As shown in FIGS. 9A and 10A, a difference in luminance level between the left and right of the block boundary, that is, block distortion in which the block boundary becomes discontinuous occurs. If there is such block distortion, the decoded image will look like a mosaic at that location, making it difficult to see visually.
[0008]
Therefore, conventionally, as shown in 9 (B), the difference in the luminance level at the block boundary is blunted by the filtering process by global smoothing, and the block distortion is reduced by eliminating the linear edge of the luminance value, Alternatively, as shown in FIG. 10B, the difference in luminance level at the block boundary is dulled only by pixels near the block boundary by filter processing using local smoothing to reduce block distortion.
[0009]
FIG. 8 shows a configuration of a conventional filter device 40 that performs such processing. Referring to FIG. 8, a conventional filter device 40 receives a decoder 41 for receiving a decoded image signal, a delay circuit 42 for delaying the decoded image, and a decoded image and an image delayed by the delay circuit 42. And a control circuit 43 for controlling the filter 44 in accordance with a control signal from the decoder 41.
[0010]
[Problems to be solved by the invention]
Conventional filter processing has been performed as described above. However, if the two types of smoothing filter processing are performed in the vertical direction on the interlaced decoded image, the contour may appear double when an object with a clear contour moves up and down. Deterioration has occurred. In addition, when the two kinds of smoothing filter processing are performed on all block boundaries, there is a problem in that the high frequency components of the decoded image are removed and the image is blurred as a whole.
[0011]
The present invention has been made in view of such a situation, and block distortion can be reduced or eliminated without impairing the high frequency components of the decoded image. An object of the present invention is to provide a filter device that can reduce or eliminate the above.
[0012]
[Means for Solving the Problems]
The filter device according to the present invention provides a line of a decoded image signal with respect to an interlaced decoded image signal obtained by sequentially decoding an image signal divided into a plurality of blocks and encoded in units of blocks. the first pixel in the direction with delay and delay means for performing such align along a first direction, and a first determining means for determining block distortion in the first direction of the decoded image signal intersect, The first determination means determines whether or not a predetermined number of neighboring pixels arranged in the first direction so as to intersect with the block boundary is a low frequency based on a difference in pixel values between neighboring neighboring pixels. Thus, the image processing apparatus includes a first sub-determination unit that determines block distortion in the first direction, and filters the image signal delayed by the delay unit based on the determination result obtained by the first determination unit in the first direction. First Further comprising a filter means, first filter means, the first sub-determination unit, without filtering when it is determined that the neighboring pixel is not a low frequency, a first image signal output from the first filter means Based on the determination result obtained by the second determination means and the second determination means for determining the block distortion in the second direction intersecting with the direction of the image signal in the second direction And a second filter means for performing a filtering process .
Preferably, the first sub-determination unit determines whether any of the absolute values of the pixel value differences between adjacent neighboring pixels is equal to or less than a predetermined threshold value, and the first filter unit includes the second sub-determination unit. If the determination means determines that any of the absolute values is greater than the predetermined threshold value, the neighboring pixels are not filtered.
[0013]
In the present invention, the presence / absence of distortion is determined in advance in each direction for each second direction that intersects the first direction and the first direction, and then the filter process is performed in each direction. Accordingly, since the filtering process is performed only when there is a lot of distortion, all the high frequency components of the decoded image are not removed, and the filtering process can be performed only in the direction in which the image quality is deteriorated in the interlaced image.
[0014]
As a result, it is possible to provide a filter device that can reduce or remove block distortion without impairing the high-frequency component of the decoded image, and can reduce or remove block distortion with respect to an interlaced decoded image without image quality deterioration.
[0015]
More preferably, the second determination means calculates a difference in pixel values between adjacent second direction neighboring pixels for a predetermined number of second direction neighboring pixels arranged along the second direction so as to cross a block boundary. Based on the second sub-determination means for determining the block distortion in the second direction by determining whether or not the frequency is low. The second filter means includes a second sub-determination means in which the second direction neighboring pixels are low. If it is determined that the frequency is a frequency, filtering is performed on the neighboring pixels in the second direction, and if the second sub-determining means determines that the neighboring pixels in the second direction are not low frequency, the neighboring pixels in the second direction The filtering process is performed on the pixels that are included in the number of pixels that are less than the number of pixels in the second direction.
[0017]
The first and second determination means includes means for comparing the absolute value of the difference between the pixel values of two pixels and the adjacent sides of the their respective block boundary and a predetermined threshold voltage; 2 pixels of the pixel values it may include means for comparing the largest of the absolute value and the absolute value of the difference between pixel values of neighboring pixels adjacent the differential.
[0018]
More preferably, the first direction is a vertical direction and the second direction is a horizontal direction.
[0019]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below with reference to the drawings.
[0020]
FIG. 1 is a view corresponding to FIG. 8 of the related art showing an embodiment of a filter device for reducing or eliminating block distortion according to the present invention.
[0021]
The configuration and operation of the filter device 100 will be described with reference to FIG. Referring to FIG. 1, filter device 100 includes a line memory 101, a vertical block distortion determination unit 102, a vertical filter 103, a horizontal block distortion determination unit 104, and a horizontal filter 105.
[0022]
Next, the operation will be described with reference to FIGS. Here, a description will be given of processing in a case where a decoded image of an image compressed by an encoding device that performs orthogonal transform on an image signal in block units (for example, an 8 × 8 block) and quantizes and encodes the coefficients is input. .
[0023]
FIG. 2 shows a block boundary and its neighboring pixels in the case of an interlaced image in a field having an input decoded image. Here, since processing is performed for each field in the case of an interlaced image, as shown in FIG. 2, when the input decoded image is an interlaced image, a block boundary exists every 4 pixels in the vertical direction, and in the horizontal direction, There is a block boundary every 8 pixels. FIG. 3 shows the pixels in the vertical direction when displayed as a frame image. In FIG. 3, v0, v1, v2, and v3 in FIG. 2 are pixels of lines 0, 2, 4, and 6, respectively, and in the next field, v0 ′, v1 ′, v2 ′, and v3 ′ are respectively lines1, 3, 5, 7 pixels. That is, v0, v1, v2, v3 and v0 ′, v1 ′, v2 ′, v3 ′ are data at the same position.
[0024]
The decoded image is input to the line memory 101 and sent to the vertical block distortion determination unit 102 and the vertical filter 103 with a predetermined delay.
[0025]
The vertical block distortion determination unit 102 receives a signal delayed by a predetermined delay in the line memory 101, and determines the presence or absence of block distortion according to the flowchart shown in FIG. Here, the predetermined delay means the next time. That is, in the vertical filter, the pixels to be filtered must be at the same time. For example, when filtering by v0, v1, and v2 in FIG. 2, v0 is delayed by two lines and v1 is delayed by one line so as to be in the same position in time.
[0026]
Here, the flowchart of FIG. 4 will be described. First, with respect to pixels near the block boundary (v0 to v7 in FIG. 2), the absolute value of the difference between adjacent pixels is compared with a predetermined threshold thv1 to determine whether the frequency is low (step 11, the following steps) Is omitted). For example, the absolute value of the difference between adjacent pixels in v0 to v7 in FIG. 2 can be expressed by the following d0, d1, d2, d4, d5, and d6.
[0027]
d0 = | v1-v0 |
d1 = | v2-v1 |
d2 = | v3-v2 |
d4 = | v5-v4 |
d5 = | v6-v5 |
d6 = | v7−v6 |
When all the absolute values (d0, d1, d2, d4, d5, d6) of the differences between adjacent pixels are smaller than the predetermined threshold thv1, the vicinity of the block boundary is flat, so the frequency is low. judge.
[0028]
Next, the absolute value d3 = | v4-v3 | of the difference between two pixels adjacent to the block boundary (v3, v4 in FIG. 2) is compared with a predetermined threshold thv2, and further, two pixels adjacent to the block boundary Is compared with the absolute value maxv1 (maximum value of d0, d1, d2, d4, d5, and d6) of the absolute value of the difference between two adjacent pixels in the vicinity of the block boundary and the presence or absence of block distortion. Is determined (S12).
[0029]
That is, when the absolute value d3 of the difference between two pixels adjacent to the block boundary is larger than the threshold value thv2, it is determined that the edge is included in the image. Further, when the absolute value d3 of the difference between two pixels adjacent to the block boundary is smaller than maxv1, it is determined that the edge is included in the image. If it is determined that the edge is not included in the image under the two conditions, it is determined that there is block distortion.
[0030]
Here, the value such as the threshold value thv2 is an empirical value determined by looking at actual image data input to the filter device 100. Therefore, it differs depending on the resolution and bit rate of the input image.
[0031]
In the vertical filter 103, when a signal having a predetermined delay is input from the line memory 101 and the vertical block distortion determination unit 102 determines that there is block distortion, four pixels centering on the block boundary (v 2 in FIG. 2). To v5) are filtered (S13).
[0032]
The signal processed by the vertical filter 103 is input to the horizontal block distortion determination unit 104 and the horizontal filter 105. The horizontal block distortion determination unit 104 determines the presence or absence of block distortion with respect to the input signal according to the flowchart shown in FIG. Here, the flowchart of FIG. 5 will be described. First, for pixels near the block boundary (h0 to h7 in FIG. 2), the absolute value of the difference between adjacent pixels is compared with a predetermined threshold value thh1 to determine whether the frequency is low (S21). For example, the absolute value of the difference between adjacent pixels in h0 to h7 in FIG. 2 can be expressed by the following D0, D1, D2, D4, D5, and D6.
[0033]
D0 = | h1-h0 |
D1 = | h2-h1 |
D2 = | h3-h2 |
D4 = | h5-h4 |
D5 = | h6-h5 |
D6 = | h7−h6 |
When all the absolute values (D0, D1, D2, D4, D5, D6) of the differences between adjacent pixels are smaller than thh1, the block boundary vicinity is flat, so it is determined that the frequency is low. In the case of, it is determined that the frequency is non-low frequency.
[0034]
If it is determined that the frequency is low (YES in S21), the absolute value (D3 = | h4-h3 |) of the difference between two pixels adjacent to the block boundary (h3, h4 in FIG. 2) and a predetermined threshold thh2 Further, the absolute value D3 of the difference between two pixels adjacent to the block boundary and the maximum value maxh1 (D0, D1, D2, D4, D5, D6) of the absolute value of the difference between two adjacent pixels near the block boundary And the presence or absence of block distortion is determined (S22).
[0035]
When the absolute value D3 of the difference between two pixels adjacent to the block boundary is larger than a predetermined threshold value thh2, it is determined that the edge is included in the image. Further, when the absolute value D3 of the difference between two pixels adjacent to the block boundary is smaller than maxh1, it is determined that the edge is included in the image. Therefore, when it is determined that the edge is not included in the image under the two conditions (YES in S22), it is determined that there is block distortion.
[0036]
If it is determined that the pixel row near the block boundary has a non-low frequency (NO in S21), the absolute value (D3) of the difference between two pixels adjacent to the block boundary (h3, h4 in FIG. 2) and a predetermined value The threshold value thh3 is compared, and the absolute value D3 of the difference between the two pixels adjacent to the block boundary is compared with the maximum value maxh1 of the absolute value of the difference between the two adjacent pixels near the block boundary. The presence or absence is determined (S24). When the absolute value D3 of the difference between two pixels adjacent to the block boundary is larger than a predetermined threshold value thh3, it is determined that the edge is included in the image. Further, when the absolute value D3 of the difference between two pixels adjacent to the block boundary is smaller than maxh1, it is determined that the edge is included in the image. Therefore, if it is determined that the edge is not included in the image under the two conditions (YES in S24), it is determined that there is block distortion.
[0037]
In the horizontal filter 105, when the signal processed by the vertical filter 103 is input and the horizontal block distortion determination unit 104 determines that there is a block distortion at a low frequency, eight pixels centered on the block boundary (see FIG. Filter processing is performed on h0 to h7) of 2. Further, when the horizontal block distortion determination unit 104 determines that there is a non-low frequency block distortion, it is considered that a high frequency component is included, so that the entire block is filtered to prevent the image from blurring. Filter processing is performed only on two pixels (h3 and h4 in FIG. 2) centering on the block boundary.
[0038]
Here, it is also conceivable to perform filter processing for the non-low frequency for the vertical filter 103 as well. However, if the interlaced image is filtered for two pixels centered on the block boundary, which is a filtering process in the case of non-low frequencies, the input decoded image is an image in which an object with a clear outline moves up and down. In this case, there is a problem that the image quality is deteriorated, for example, the contour may appear double.
[0039]
This will be described with reference to FIG. FIG. 6A shows an example of an interlaced image before filter processing. The pixels in the first field are V0 to V7, and the pixels in the second field are V0 ′ to V7 ′. When it is determined that the first field in FIG. 6A has a non-low frequency block distortion and the second field has no block distortion, V3 and V4 in FIG. Filter processing is performed. FIG. 6B shows the interlaced image after the filter processing. If V0 to V3 and V0 ′ to V2 ′ in FIG. 6A represent white and V4 to V7 and V3 ′ to V7 ′ represent black, filtering is performed on V3 and V4 in FIG. As a result, V3 and V4 in FIG. When FIG. 6B is displayed in a frame, V2 ′, V3, V3 ′, V4, and V4 ′ become white, gray, black, gray, and black, and the outline looks double. Therefore, when the input decoded image is interlaced, the generation of gray pixels as described above can be prevented and image quality can be improved by not performing non-low frequency filter processing in the vertical direction.
[0040]
As described above, according to the present invention, block distortion can be reduced or removed without damaging the high frequency component of the input decoded image. Further, when the input decoded image is interlaced, a non-low-frequency filter is used in the vertical direction. By not performing the processing, it is possible to improve the image quality.
[0041]
In the present embodiment, the case where the block unit is an 8 × 8 block has been described, but other block units may be used. In FIG. 1, the vertical block distortion is first reduced or removed, and then the horizontal block distortion is reduced or removed. However, this order may be reversed.
[0042]
The embodiment disclosed this time should be considered as illustrative in all points and not restrictive. The scope of the present invention is defined by the terms of the claims, rather than the description above, and is intended to include any modifications within the scope and meaning equivalent to the terms of the claims.
[0043]
【The invention's effect】
As described above, according to the present invention, the presence / absence of distortion is determined in advance in each direction for each second direction that intersects the first direction and the first direction, and then the filter process is performed in each direction. Yes. Accordingly, since the filtering process is performed only when there is a lot of distortion, all the high frequency components of the decoded image are not removed, and the filtering process can be performed only in the direction in which the image quality is deteriorated in the interlaced image. As a result, it is possible to provide a filter device that can reduce or remove block distortion without impairing the high-frequency component of the decoded image, and can reduce or remove block distortion with respect to an interlaced decoded image without image quality deterioration.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an embodiment of a filter device according to the present invention.
FIG. 2 is a diagram for explaining a block boundary and its neighboring pixels.
FIG. 3 is a diagram for explaining pixels of a frame image.
FIG. 4 is a flowchart for explaining processing of a vertical block distortion determination unit;
FIG. 5 is a flowchart for explaining processing of a horizontal block distortion determination unit;
FIG. 6 is a diagram for describing interlaced image filtering.
FIG. 7 is a block diagram showing an overall configuration of a video image processing apparatus.
FIG. 8 is a block diagram illustrating a configuration of a filter device.
FIG. 9 is a diagram for explaining block distortion filter processing by smoothing;
FIG. 10 is a diagram for explaining block distortion filtering processing by smoothing;
[Explanation of symbols]
100 filter device, 101 line memory, 102 vertical block distortion determination unit, 103 vertical filter, 104 horizontal block distortion determination unit, 105 horizontal filter.

Claims (4)

複数のブロックに分割され、前記ブロック単位で符号化された画像信号を前記ブロック単位で順次復号化して得られるインターレースの復号化画像信号に対して前記復号化画像信号のラインに交わる第1の方向に沿った画素を前記第1の方向に沿ってそろえるような遅延を行なう遅延手段と、
前記復号化画像信号の前記第1の方向のブロック歪みを判定する第1判定手段とを備え、
前記第1判定手段は、前記ブロックの境界に交わるように前記第1の方向に沿って並ぶ所定の数の近傍画素について、各前記ブロック中において隣接する前記近傍画素間の画素値の差分に基づき、低周波か否かを判定することで、前記第1の方向のブロック歪みを判定する第1副判定手段を含み、
前記第1判定手段で得られた判定結果を基に前記遅延手段で前記遅延をした画像信号を前記第1の方向にフィルタ処理する第1フィルタ手段をさらに備え、
前記第1フィルタ手段は、前記第1副判定手段が、前記近傍画素が低周波でないと判定した場合にはフィルタ処理を行なわず、
前記第1フィルタ手段から出力された画像信号の前記第1の方向に交わる第2の方向のブロック歪みを判定する第2判定手段とを備え
前記第2判定手段は、前記ブロックの境界に交わるように前記第2の方向に沿って並ぶ所定の数の第2方向近傍画素について、各前記ブロック中において隣接する前記第2方向近傍画素間の画素値の差分に基づき、低周波か否かを判定することで、前記第2の方向のブロック歪みを判定する第2副判定手段を含み、
前記第2判定手段で得られた判定結果を基に、前記第1フィルタ手段から出力された画像信号を前記第2の方向にフィルタ処理する第2フィルタ手段とをさらに備え、
前記第2フィルタ手段は、前記第2副判定手段が前記第2方向近傍画素が低周波であると判定した場合には、前記第2方向近傍画素に対してフィルタ処理を行ない、前記第2副判定手段が前記第2方向近傍画素が低周波でないと判定した場合には、前記第2方向近傍画素に含まれ、前記第2方向近傍画素の数より少ない画素に対してフィルタ処理を行なう、フィルタ装置。
A first direction that intersects a line of the decoded image signal with respect to an interlaced decoded image signal obtained by sequentially decoding the image signal divided into a plurality of blocks and encoded in units of blocks in units of blocks Delay means for delaying the pixels along the first direction along the first direction;
First determining means for determining block distortion in the first direction of the decoded image signal;
The first determination unit is configured to determine a predetermined number of neighboring pixels arranged along the first direction so as to intersect a boundary of the block , based on a difference in pixel values between neighboring pixels in each block. , Including a first sub-determination unit that determines block distortion in the first direction by determining whether the frequency is low.
Further comprising first filter means for filtering the image signal delayed by the delay means in the first direction based on the determination result obtained by the first determination means;
The first filter means does not perform filter processing when the first sub-determination means determines that the neighboring pixels are not low frequency,
And a second determination means for determining the block distortion in the first second direction intersecting the direction of the image signal output from the first filter means,
The second determination unit is configured to determine a predetermined number of second direction neighboring pixels arranged along the second direction so as to intersect with a boundary of the block, and between the neighboring pixels in the second direction adjacent to each other in the block. Including second sub-determination means for determining block distortion in the second direction by determining whether the frequency is low based on a difference between pixel values;
Based on the determination result obtained by the second judging means further example Bei and second filter means for filtering the image signal output from said first filter means in the second direction,
When the second sub-determination unit determines that the pixels in the second direction vicinity are low frequency, the second filter unit performs a filtering process on the pixels in the second direction vicinity, and A filter that performs a filtering process on pixels that are included in the second direction neighboring pixels and that are smaller than the number of the second direction neighboring pixels when the judging unit judges that the second direction neighboring pixels are not low frequency; apparatus.
前記第1副判定手段は、前記隣接する近傍画素間の画素値の差分の絶対値のいずれもが所定のしきい値以下であるかどうかを判定し、
前記第1フィルタ手段は、前記第1副判定手段が前記絶対値のいずれかが前記所定のしきい値より大きいと判定した場合には、前記近傍画素に対してフィルタ処理を行なわない、請求項1に記載のフィルタ装置。
The first sub-determination means determines whether any of absolute values of pixel value differences between the adjacent neighboring pixels is equal to or less than a predetermined threshold;
The said 1st filter means does not perform a filter process with respect to the said vicinity pixel, when the said 1st sub determination means determines that any of the said absolute value is larger than the said predetermined threshold value. 2. The filter device according to 1.
前記第1および第2判定手段は、それぞれ
ブロック境界を挟んで隣接する2画素の画素値の差分の絶対値と所定のしきい値とを比較する手段と、
前記2画素の画素値の差分の絶対値と前記隣接する近傍画素間の画素値の差分の絶対値のうち最大のものとを比較する手段とを含む、請求項1または2に記載のフィルタ装置。
The first and second determining means each compare an absolute value of a difference between pixel values of two adjacent pixels across a block boundary with a predetermined threshold;
And means for comparing the the largest of the absolute values of differences between pixel values of neighboring pixels that the absolute value and the adjacent difference between the pixel values of the two pixels, the filter device according to claim 1 or 2 .
前記第1の方向は垂直方向であり、第2の方向は水平方向である、請求項1からのいずれか1項に記載のフィルタ装置。The first direction is a vertical direction, the second direction is a horizontal direction, the filter device according to any one of claims 1 to 3.
JP2002206915A 2002-07-16 2002-07-16 Filter device Expired - Fee Related JP4183993B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002206915A JP4183993B2 (en) 2002-07-16 2002-07-16 Filter device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002206915A JP4183993B2 (en) 2002-07-16 2002-07-16 Filter device

Publications (2)

Publication Number Publication Date
JP2004056190A JP2004056190A (en) 2004-02-19
JP4183993B2 true JP4183993B2 (en) 2008-11-19

Family

ID=31931509

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002206915A Expired - Fee Related JP4183993B2 (en) 2002-07-16 2002-07-16 Filter device

Country Status (1)

Country Link
JP (1) JP4183993B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100618849B1 (en) 2004-07-22 2006-09-01 삼성전자주식회사 Apparatus and method for filtering blocking phenomenon in video
JP2006279308A (en) 2005-03-28 2006-10-12 Toshiba Corp Information processing apparatus and image processing method
JP4967921B2 (en) * 2007-08-10 2012-07-04 セイコーエプソン株式会社 Apparatus, method, and program for image processing
KR101392482B1 (en) * 2007-08-30 2014-05-07 삼성전자주식회사 System and method for blocking effect removal
JP4902553B2 (en) * 2008-01-08 2012-03-21 日本電信電話株式会社 Image encoding method, image decoding method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs
JP4825230B2 (en) * 2008-02-27 2011-11-30 富士通株式会社 Deblocking filter
JP2013012815A (en) * 2011-06-28 2013-01-17 Sony Corp Image processing apparatus and image processing method
GB2561782B (en) * 2011-11-08 2019-01-16 Kt Corp Method and apparatus for encoding image, and method and apparatus for decoding image

Also Published As

Publication number Publication date
JP2004056190A (en) 2004-02-19

Similar Documents

Publication Publication Date Title
US6792152B1 (en) Image coding method, image coding/decoding method, image coder, or image recording/reproducing apparatus
US20100315558A1 (en) Content adaptive noise reduction filtering for image signals
KR101622363B1 (en) Method for detection of film mode or camera mode
US6643410B1 (en) Method of determining the extent of blocking artifacts in a digital image
KR100720841B1 (en) Apparatus and method for video decoding using filtering step to reduce block effect
JPH08307870A (en) Blocking effect removal circuit
JP4183993B2 (en) Filter device
JPH08251422A (en) Block distortion corrector and image signal expansion device
US7983504B2 (en) Sign coring for contour reduction
EP1655967A1 (en) Method and apparatus for encoding and decoding image data
US5748788A (en) Image processing method and apparatus
JP3344957B2 (en) Image processing method
US8077999B2 (en) Image processing apparatus and method for reducing blocking effect and Gibbs effect
JP4380498B2 (en) Block distortion reduction device
JP3627291B2 (en) Block distortion removing apparatus and method
JP2643636B2 (en) Signal processing method
US20030210830A1 (en) Image signal distortion removal apparatus, and image signal distortion removal method
CN1294760C (en) Method and decoder for processing digital video signal
EP1392062A2 (en) Video data compression
JPH11112978A (en) Signal processing method and signal reproducing device
JP2007336075A (en) Block distortion reducing device
JP2005524303A (en) Digital image processing method for low-rate applications
JP2859274B2 (en) Image denoising method
JP4264604B2 (en) Image signal processing apparatus and image signal processing method
JP3945503B2 (en) Coefficient data generation apparatus and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070628

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080616

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080826

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080903

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees