Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4089178B2 - Image processing apparatus, image processing method, and program - Google Patents
[go: Go Back, main page]

JP4089178B2 - Image processing apparatus, image processing method, and program - Google Patents

Image processing apparatus, image processing method, and program Download PDF

Info

Publication number
JP4089178B2
JP4089178B2 JP2001171296A JP2001171296A JP4089178B2 JP 4089178 B2 JP4089178 B2 JP 4089178B2 JP 2001171296 A JP2001171296 A JP 2001171296A JP 2001171296 A JP2001171296 A JP 2001171296A JP 4089178 B2 JP4089178 B2 JP 4089178B2
Authority
JP
Japan
Prior art keywords
pixel
hue
background
gradation change
gradation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001171296A
Other languages
Japanese (ja)
Other versions
JP2002369002A (en
Inventor
泰祐 赤堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Business Technologies Inc
Original Assignee
Konica Minolta Business Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Business Technologies Inc filed Critical Konica Minolta Business Technologies Inc
Priority to JP2001171296A priority Critical patent/JP4089178B2/en
Publication of JP2002369002A publication Critical patent/JP2002369002A/en
Application granted granted Critical
Publication of JP4089178B2 publication Critical patent/JP4089178B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Color, Gradation (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、下地調整を行う画像処理装置、画像処理方法およびプログラムに関する。
【0002】
この明細書において「下地調整」とは、下地飛ばし処理を行うことの他に、それ以外の下地の処理をも含む概念である。また、「下地飛ばし処理」とは、下地領域(画像が紙に印刷されたものであれば、紙地が現れた領域)の各画素データの明度(階調値)を、白に相当する最大値へ変換することを指す。
【0003】
【従来の技術】
一般に、画像処理装置では入力された画像データから下地となる領域を検出し、非下地領域の画像をより鮮明に表現するために、検出された下地領域に対して下地飛ばしなどの下地調整を行うことが行われている。
【0004】
下地となる領域は、ある特定の明度(階調)レベルの出現頻度が最も多くなる傾向を示すので、従来、画像処理装置が行う下地飛ばし処理としては、図9(a)に示すように入力画像中の各画素データが表す明度(階調値)のヒストグラムを作成して、明度の度数が最も多い階調レベルmを求め、その階調レベルmよりも明度が高い領域(これを「下地領域」とみなす。)では、図9(b)に示すように明度データLを白に相当する最大値(255)へ変換するものが知られている(例えば特開平2000−83166号公報)。または、図9(c)に示すように、下地領域では明度Lを最大値(255)へ変換するとともに、その階調レベルm以下の領域(これを「非下地領域」と呼ぶ。)では、変換後の明度L′が連続するように、下地飛ばし処理を行わない場合の勾配α1(=1)よりも大きい勾配α2で線形変換するものが知られている。
【0005】
【発明が解決しようとする課題】
ところが、このようにある特定の明度(階調)レベルを設定し、これに基づいて下地領域を検出しているので、非下地領域中の画像データに設定された明度(階調)レベルの画素があったとしても、これを下地領域として下地調整を行ってしまっていた。
【0006】
例えば、図10(a)に示すように、入力画像がなめらかに階調変化するグラデーションを有する場合がある。なお、図10(a)上段は画像をビットマップイメージで表し、図10(a)下段はその画像の中央線Cに沿った濃度プロファイルを示している(図10(b)(c)において同様。)。この例では、入力画像は中央部から周辺部へ向かって次第に暗くなるグラデーションを有している。この入力画像に対して、図9(b)(c)のような下地飛ばし処理を施した場合、それぞれ図10(b)(c)に示すように画像の中央部が平坦な白になり、グラデーションが失われるという問題がある。例えば、図11に示す子供の写真画像のように、本来ならばグラデーションを有する子供の肌が白く抜けてしまう(白抜け領域をIで示す。)。この結果、写真画像の滑らかな階調性が損なわれてしまっていた。
【0007】
そこで、この発明の課題は、下地調整を行いながらもグラデーション領域に白抜けが発生するのを防止できる画像処理装置、画像処理方法およびその画像処理方法を実行するためのプログラムを提供することにある。
【0008】
【課題を解決するための手段】
上記課題を解決するため、請求項1に記載の画像処理装置は
画像データを入力する入力手段と
上記入力手段によって入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する基準レベル算出手段と
上記基準レベル算出手段によって算出された基準レベルに基づいて、上記入力画像データ中の下地領域に含まれた画素を検出する下地画素検出手段と
上記下地領域に含まれた画素について下地調整を行う下地調整手段と
上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する階調変化量算出手段と
上記階調変化量算出手段によって算出された階調変化量に基づいて、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する階調変化状況識別手段と
上記階調変化状況識別手段によって識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせる制御手段
を備えたことを特徴とする。
【0009】
既述のように、「下地調整」の具体的な一例は、下地飛ばし処理を行うことである。
【0010】
この請求項1の画像処理装置では、まず入力手段によって画像データを入力する。次に、基準レベル算出手段は、上記入力手段によって入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する。上記基準レベル算出手段によって算出された基準レベルに基づいて、下地画素検出手段は上記入力画像データ中の下地領域に含まれた画素を検出する。ここで、階調変化量算出手段は、上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する。上記階調変化量算出手段によって算出された階調変化量に基づいて、階調変化状況識別手段は、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する。そして、制御手段は上記階調変化状況識別手段によって識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせる。
【0011】
このように、この画像処理装置では、上記下地領域に含まれた第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせている。例えば、下地調整が下地飛ばし処理である場合グラデーション領域に白抜けが発生するのを防止し、グラデーション領域の階調性を維持することができる。
【0012】
なお、この明細書において「グラデーション領域」とは、複数並ぶ画素の明度や色相が一方向又は複数方向に関して徐々に変化している領域を意味する。
【0013】
請求項2に記載の画像処理装置は、請求項1に記載の画像処理装置において、上記階調変化量算出手段は、上記下地領域に含まれた上記第1の画素を基準として複数方向に並んだ第2の画素の階調変化量を算出することを特徴とする。
【0014】
この請求項2の画像処理装置では、上記階調変化量算出手段は、上記下地領域に含まれた上記第1の画素を基準として複数方向に並んだ第2の画素の階調変化量を算出するので、階調変化状況識別手段によって、上記第1の画素の周辺にグラデーションが存在するか否かを精度良く識別できる
【0015】
請求項に記載の画像処理装置は、請求項1または2に記載の画像処理装置において
上記下地領域に含まれた上記第1の画素の色相を抽出する色相抽出手段と
上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出手段によって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する色相判別手段とを備え
上記制御手段は、上記色相判別手段による識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせることを特徴とする。
【0016】
この請求項の画像処理装置では、色相抽出手段は、上記下地領域に含まれた上記第1の画素の色相を抽出する。色相判別手段は、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出手段によって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する。そして、上記制御手段は、上記色相判別手段による識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせる。したがって、例えば、下地調整が下地飛ばし処理である場合、上記第1の画素が同じ色相で明度が徐々に変化するグラデーション領域内の画素である場合に限り、その第1の画素について上記下地調整手段に下地飛ばし処理を禁止させることができる。この結果、互いに色相が異なる領域が接している境界付近で、下地飛ばし処理の採否の精度が高まる。したがって、下地飛ばし処理を行うべきでないグラデーション領域と、下地飛ばし処理を行うべき領域とが接している場合に、それらの領域が接している境界を下地調整後に明瞭に再現できる。
【0017】
請求項4に記載の画像処理装置は、請求項3に記載の画像処理装置において、
上記色相判別手段は、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出手段によって階調変化量を算出した方向に並ぶ第2の画素の色相とが一致するとき、上記第1の画素の色相と上記第2の画素の色相との間に相関があると識別し、上記第1の画素の色相と上記第2の画素の色相とが一致しないとき、上記第1の画素の色相と上記第2の画素の色相との間に相関がないと識別することを特徴とする。
【0018】
この請求項4に記載の画像処理装置では、上記第1の画素の色相と上記第2の画素の色相との間に相関があるか否かが、上記第1の画素の色相と上記第2の画素の色相とが一致するか否かに応じて識別される。
【0019】
請求項5に記載の画像処理方法は、画像処理装置によって実行される画像処理方法であって、
画像データを入力する入力ステップ
上記入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する基準レベル算出ステップ
上記算出された基準レベルに基づいて、上記入力画像データ中の下地領域に含まれた画素を検出する下地画素検出ステップ
上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する階調変化量算出ステップ
上記算出された階調変化量に基づいて、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する階調変化状況識別ステップ
上記識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について下地調整を行う制御をする制御ステップと
を備えたことを特徴とする。
【0020】
この請求項5の画像処理方法では、まず、画像データを入力する(入力ステップ)。次に、上記入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する(基準レベル算出ステップ)。次に、上記算出された基準レベルに基づいて、上記入力画像データ中の下地領域に含まれた画素を検出する(下地画素検出ステップ)。次に、上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する(階調変化量算出ステップ)。次に、上記算出された階調変化量に基づいて、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する(階調変化状況識別ステップ)。そして、上記識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について下地調整を行う制御をする(制御ステップ)
【0021】
このように、この画像処理方法では、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について下地調整を行う制御をする。したがって、例えば、下地調整が下地飛ばし処理である場合グラデーション領域に白抜けが発生するのを防止し、グラデーション領域の階調性を維持することができる。
【0022】
請求項6に記載の画像処理方法は、請求項5に記載の画像処理方法において、上記階調変化量算出ステップでは、上記下地領域に含まれた上記第1の画素を基準として複数方向に並んだ第2の画素の階調変化量を算出することを特徴とする。
【0023】
この請求項6の画像処理方法では、上記階調変化量算出ステップによって、上記第1の画素の周辺にグラデーションが存在するか否かを精度良く識別できる。
【0024】
請求項7に記載の画像処理方法は、請求項5または6に記載の画像処理方法において、
上記階調変化状況識別ステップの後で、上記制御ステップの前に、
上記下地領域に含まれた上記第1の画素の色相を抽出する色相抽出ステップと、
上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出ステップによって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する色相判別ステップとを備え、
上記制御ステップでは、上記色相判別ステップによる識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について下地調整を行う制御をすることを特徴とする。
【0025】
この請求項7の画像処理方法では、色相抽出ステップによって、上記下地領域に含まれた上記第1の画素の色相を抽出する。色相判別ステップでは、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出ステップによって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する。そして、上記制御ステップでは、上記色相判別ステップによる識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について上記下地調整ステップに下地調整を禁止させる一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について上記下地調整ステップによって下地調整を行わせる。したがって、例えば、下地調整が下地飛ばし処理である場合、上記第1の画素が同じ色相で明度が徐々に変化するグラデーション領域内の画素である場合に限り、その第1の画素について上記下地調整ステップに下地飛ばし処理を禁止させることができる。この結果、互いに色相が異なる領域が接している境界付近で、下地飛ばし処理の採否の精度が高まる。したがって、下地飛ばし処理を行うべきでないグラデーション領域と、下地飛ばし処理を行うべき領域とが接している場合に、それらの領域が接している境界を下地調整後に明瞭に再現できる。
【0026】
請求項8に記載の画像処理方法は、請求項7に記載の画像処理方法において、
上記色相判別ステップでは、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出ステップによって階調変化量を算出した方向に並ぶ第2の画素の色相とが一致するとき、上記第1の画素の色相と上記第2の画素の色相との間に相関があると識別し、上記第1の画素の色相と上記第2の画素の色相とが一致しないとき、上記第1の画素の色相と上記第2の画素の色相との間に相関がないと識別することを特徴とする。
【0027】
この請求項8に記載の画像処理装置では、上記第1の画素の色相と上記第2の画素の色相との間に相関があるか否かを、上記第1の画素の色相と上記第2の画素の色相とが一致するか否かに応じて識別できる。
【0028】
請求項に記載のプログラムは、請求項5から8までのいずれか一つに記載の画像処理方法をコンピュータに実行させるためのプログラムである。
【0029】
この請求項のプログラムによれば、請求項5から8までのいずれか一つに記載の画像処理方法をコンピュータに実行させることができる。
【0030】
【発明の実施の形態】
以下、この発明を図示の実施の形態により詳細に説明する。
【0031】
図1は、この発明を適用した一実施形態の画像読取装置300のブロック構成を示している。
【0032】
この画像読取装置300は、ユーザが各種設定・入力を受けるための操作パネル100と、この装置全体を制御するCPU(中央演算処理装置)200と、このCPU200が実行すべきプログラムを格納したROM(リード・オンリ・メモリ)を備えている。また、この画像読取装置300は、原稿から画像データを得る入力手段としてのCCDセンサ111と、その画像データに画像処理を施すためのA/D変換部310、シェーディング補正部320、変倍・移動制御部330、Lab変換部340、下地レベル調整部350、逆Lab変換部360、LOG補正部370A、色補正処理部370B、領域判別部390およびMTF補正処理部380を備えている。
【0033】
図示しない露光ランプによって原稿面が照射され、原稿面からの反射光が光学系によって導かれてCCDセンサ111に入射する。CCDセンサ111の光電変換によって得られたアナログ信号は、A/D変換部310で、R(レッド),G(グリーン),B(ブルー)の多値デジタル画像データに変換される。そのRGB画像データは、シェーディング補正部320で、CCDセンサ111における画素間の濃度ムラおよび露光ランプの配光ムラ等によって生じた読取りバラツキが解消するように補正された後、変倍・移動制御部330へ出力される。
【0034】
入力されたRGB画像データは、上記変倍・移動制御部330において、予め・操作者により指示されていた倍率に変更されたり、画像の位置を移動されたりする処理を施された後、Lab変換部340へ出力される。
【0035】
変倍・移動制御部330から出力されたRGB画像データは、Lab変換部340でL(明度データ)並びにaおよびb(色度データ)に表色系が変換される。この変換によって得られたLab画像データは下地レベル調整部350へ出力される。なお、明度データLは256(0〜255)階調で表現される。
【0036】
下地レベル調整部350は、入力されたLab画像データに対して下地調整を行って、原稿の裏写り、下地かぶりを防止する。
【0037】
下地調整後のLab画像データは、逆Lab変換部360で再びRGB画像データに変換されて、LOG補正部370Aおよび色補正処理部370Bへ出力される。
【0038】
LOG補正部370Aは、入力された輝度データであるRGB画像データをトナー色に対応するY(イエロー),M(マゼンタ),C(シアン)の濃度データヘ変換する。一方、色補正処理部370Bは、そのYMC濃度データからUCR(下色除去)処理や墨入れ(BP)処理によってK(ブラック)の濃度データを生成する。なお、濃度データは256(0〜255)階調で表現される。
【0039】
濃度データであるCMYK画像データは、MTF補正処理部380でエッジ処理を施された上で、プリンタ(図示せず)へ出力される。
【0040】
一方、逆Lab変換部360から出力されたRGB画像データは、領域判別部390にも入力される。この領域判別部390は、入力されたRGB画像データに基づいて、対応する画素がエッジ部のものか否かなどの判別をする。
【0041】
さて、図2は下地レベル調整部350のブロック構成を示している。この下地レベル調整部350は、入力されたLab画像データのうち明度データLに対して所定の処理を実行する基準レベル算出部351、飛び画素検出部352、階調変化量算出部353およびグラデーション検出部354を備えるとともに、入力されたLab画像データのうち色相データa,bに対して所定の処理を実行する色相算出部355および色相判別部356を備えている。また、この下地レベル調整部350は、制御手段としての下地調整制御部357と、この下地調整制御部357からの下地処理制御信号に応じて下地調整を行う下地調整部358とを備えている。
【0042】
基準レベル算出部351は、入力されたLab画像データから、明度(階調値)Lのヒストグラムを作成して、明度Lの度数が最も多い階調レベルmを求める。そして、そのレベルmを、下地領域と非下地領域とを分けるための基準レベルとして飛び画素検出部352へ出力する。
【0043】
飛び画素検出部352は、下地画素検出手段として働いて、基準レベルmに基づいて、入力されたLab画像データ中の下地領域に含まれた画素を検出する。具体的には、入力されたLab画像データ中の各画素について、その画素の明度データLと基準レベルmとを比較して、その画素の明度Lが基準レベルmよりも高ければ、その画素は下地領域に含まれた画素(これを適宜「飛び画素」という。)であると判別する。一方、その画素の明度Lが基準レベルmよりも低ければ、その画素は非下地領域に含まれた画素であると判別する。飛び画素検出部352は、入力されたLab画像データ中の各画素について、この判別結果を表す飛び画素判別信号を下地調整制御部357へ出力する。
【0044】
階調変化量算出部353は、図3に示すように、各飛び画素Pについて、その飛び画素Pを中心として放射状に複数方向の階調変化量SL1,SL2,…,SLnを算出する。階調変化量は、処理対象となった飛び画素Pを中心として縦k個×横k個(kは3以上の自然数である。)の画素からなるウィンドウを形成し、グラディエントやラプラシアンなどの微分フィルタを用いて算出される。この結果、飛び画素Pを中心として、算出した方向の数(この例ではn=8個)分だけ階調変化量が得られる。なお、図4は、(a)ステップ、(b)ライン、(c)ルーフと呼ばれるタイプの濃淡断面と、それに対応するグラジエントフィルタを通して得られたデータと、ラプラシアンフィルタを通して得られたデータとをそれぞれ対応させて示している。
【0045】
図2中に示すグラデーション検出部354は、階調変化状況識別手段として働き、階調変化量算出部353によって算出された階調変化量SL1,SL2,…,SLnに基づいて、上記飛び画素Pの周辺の階調変化状況を識別する。具体的には、階調変化量SL1,SL2,…,SLnと予め設定された二つの基準値REF1,REF2(ただし、REF1<REF2である。)とをそれぞれ比較する。ここで、REF1は平坦とグラデーションとを区別するための値、基準値REF2はグラデーションとエッジとを区別するための値である。上記飛び画素Pについて、いずれかの階調変化量SLi(i=1,2,…,n)がREF1よりも大きく、かつREF2よりも小さければ、上記飛び画素Pはグラデーション領域内の画素であると判断される。なお、階調変化量SLiがREF1よりも小さければ、その方向に関してその飛び画素Pが平坦領域に存在し、階調変化量SLiがREF2よりも大きければ、その方向に関してその飛び画素Pがエッジに存在すると判断される。そして、グラデーション検出部354は、上記飛び画素Pがグラデーション領域内の画素であるか否かを表すn個のグラデーション検出信号を下地調整制御部357へ出力する。
【0046】
色相算出部355は、色相抽出手段として働いて、入力されたLab画像データ中の色相データa,bをもとに、飛び画素P自身の色相を算出する。図5に示すように、飛び画素P自身の色相は、a−b平面上でarctan(b/a)で表される。また、色相算出部355は、飛び画素Pに対して上記階調変化量算出部353によって階調変化量SL1,SL2,…,SLnを算出した各方向に並ぶ画素の色相を算出する。或る方向に関して並ぶ画素の色相は、例えば、その方向に並ぶ画素の色相のヒストグラムを算出し、最も頻度の高い色相を採用することによって代表される。または、或る方向に関して並ぶ画素の色相は、その方向に並ぶ画素の色相の平均値を採用することによって代表される。色相算出部355は、飛び画素P自身の色相と上記n方向に並ぶ画素の色相との、計(n+1)個の色相を表す色相情報を色相判別部356へ出力する。
【0047】
なお、スクリーン印刷による画像などでは、単一画素は原色データを持ち、各原色の面積率によって色相が定められる。この場合には、単一画素の色相のみからでは或る面積を占める画像の色相が分からないので、飛び画素Pの周辺に存在する複数の画素の色相から飛び画素Pの色相を算出する。
【0048】
色相判別部356は、色相算出部355からの色相情報に基づいて、飛び画素Pの色相と上記n方向に並ぶ画素の色相との間の相関、この例では飛び画素Pの色相と上記n方向に並ぶ画素の色相とが一致するか否かを識別する。そして、色相判別部356は、これらの識別結果を表すn個の色相判別信号を下地調整制御部357へ出力する。
【0049】
下地調整制御部357は、上記飛び画素検出部352からの飛び画素判別信号、上記グラデーション検出部354からのグラデーション検出信号、および上記色相判別部356色相判別信号に基づいて、上記下地調整部358に下地調整を行わせるか禁止させるかを表す下地処理制御信号を作成する。
【0050】
例えば、上記飛び画素Pが同じ色相で明度が徐々に変化するグラデーション領域内の画素であれば、その飛び画素Pについて下地調整部358に下地飛ばし処理を禁止させる一方、上記飛び画素Pがそれ以外の領域に含まれた画素であれば、その飛び画素Pについて下地調整部358に下地飛ばし処理を行わせることを表す下地処理制御信号を作成する。
【0051】
下地調整部358は、下地調整制御部357から下地飛ばし処理を禁止することを表す下地処理制御信号(ノンアクティブ)を受けない限り、下地飛ばし処理を行うようになっている。この例では、下地調整部358が行う下地飛ばし処理は、図9(a)に示したように入力画像中の各画素データが表す明度(階調値)のヒストグラムを作成して、明度の度数が最も多い基準レベルmを求め、その基準レベルmよりも明度が高い領域(これを「下地領域」とみなす。)では、図9(b)に示したように明度データLを白に相当する最大値(255)へ変換するものとする。
【0052】
図6は、下地レベル調整部350の全体的な制御フローを示している。以下、下地レベル調整部350の動作を、図6のフローと、図7(a)(b)に例示した画像データ(ビットマップイメージで表す。)および明度プロファイルを参照しながら説明する。なお、図7(a)(b)では、それぞれ上段が画像データを表し、下段が対応する各画像データの明度プロファイルを表している。
【0053】
図7(a)上段は入力画像データ(原画)を例示している。この入力画像データには、背景である下地領域1と、非下地領域としての円錐形の明度プロファイルを持つグラデーション領域3とが存在している。明度データは、図7(a)下段に示すように、下地領域1ではL=m1(≒200)、グラデーション領域3では中央部がL=255(白)、縁部がL≒100になっている。
【0054】
まず、基準レベル算出部351によって基準レベルmを求める(図6のS1)。図7(a)の例では基準レベルmはm1よりも若干低いレベルになっている。
【0055】
次に、飛び画素検出部352によって、入力されたLab画像データ中の下地領域1に含まれた画素(飛び画素)を検出する(図6のS2)。
【0056】
次に、階調変化量算出部353によって、或る飛び画素を処理対象し、その飛び画素(処理対象飛び画素)を中心として放射状に複数方向の階調変化量SL1,SL2,…,SLnを算出する(S3)。
【0057】
次に、グラデーション検出部354によって、階調変化量SL1,SL2,…,SLnと予め設定された二つの基準値REF1,REF2(ただし、REF1<REF2である。)とをそれぞれ比較する(S4)。既述のように、REF1は平坦とグラデーションとを区別するための値、基準値REF2はグラデーションとエッジとを区別するための値である。ここで、上記処理対象飛び画素について、いずれの階調変化量SLiもREF1よりも小、またはいずれの階調変化量SLiもREF2よりも大であれば、上記処理対象飛び画素はグラデーション領域外の画素であると判断して(S4でNO)、以降の処理をスルーする。
【0058】
一方、上記処理対象飛び画素について、いずれかの階調変化量SLi(i=1,2,…,n)がREF1よりも大きく、かつREF2よりも小さければ、上記処理対象飛び画素はグラデーション領域内の画素であると判断される(S4でYES)。この場合、色相算出部355によって、上記処理対象飛び画素に対して上記階調変化量算出部353によって階調変化量SL1,SL2,…,SLnを算出した各方向に並ぶ画素の色相を算出する(S5)。また、色相算出部355によって、入力画像データ中の色相データa,bをもとに、上記処理対象飛び画素自身の色相を算出する(S6)。
【0059】
次に、色相算出部355からの色相情報に基づいて、色相判別部356によって、上記処理対象飛び画素の色相と上記n方向のうちいずれか一方向に並ぶ画素の色相とが一致するか否かを識別する(S7)。ここで、上記処理対象飛び画素の色相と上記n方向に並ぶ画素の色相とがいずれも一致しなければ(S7でNO)、以降の処理をスルーする。
【0060】
一方、上記処理対象飛び画素の色相と上記n方向のうちいずれか一方向に並ぶ画素の色相とが一致すれば、上記処理対象飛び画素が同じ色相で明度が徐々に変化するグラデーション領域内の画素であると判断される(S7でYES)。この場合、下地調整制御部357は、その処理対象飛び画素について下地調整部358に下地飛ばし処理を禁止(キャンセル)させることを表す下地処理制御信号を作成する(S8)。そして、全ての飛び画素に対してステップS3〜S8の処理を繰り返す(S9)。
【0061】
この後、下地調整部358によって、下地調整制御部357からの下地処理制御信号に応じて下地調整を行う。この例では、上記処理対象飛び画素が同じ色相で明度が徐々に変化するグラデーション領域内の画素であれば、その処理対象飛び画素について下地飛ばし処理を行わない。一方、上記処理対象飛び画素がそれ以外の領域に含まれた画素であれば、その処理対象飛び画素について下地飛ばし処理を行う。
【0062】
この結果、図7(b)に示すように、グラデーション領域3の明度プロファイルは入力画像データのものと同じで、下地領域1の明度だけが255(白)に変換された画像データが得られる。したがって、グラデーション領域3に白抜けが発生するのを防止できる。しかも、互いに色相が異なる領域1,3が接している境界付近で、下地飛ばし処理の採否の精度が高まる。例えば図8に示すように、下地飛ばし処理を行うべきでないグラデーション画像(写真画像)A1と、下地飛ばし処理を行うべき枠画像A2とが接している場合に、それらの画像A1,A2が接している境界を下地調整後に明瞭に再現できる。
【0063】
なお、本実施形態では、下地レベル調整部350が処理する入カ画像データとしてL,a,bを使用したが、明度および色相情報を含むものであれば他の色空間のデータであっても良い。
【0064】
上記実施の形態では、下地調整の例として下地飛ばし処理を述べたが、下地調整は下地を特定の色(たとえば中間色)に着色する処理であっても良い。
【0065】
【発明の効果】
以上より明らかなように、この発明の画像処理装置によれば、グラデーション領域に白抜けが発生するのを防止し、この領域の階調性を維持することができる。
【0066】
この発明の画像処理方法によれば、グラデーション領域に白抜けが発生するのを防止し、この領域の階調性を維持することができる。
【0067】
また、この発明のプログラムによれば、この発明の画像処理方法をコンピュータに実行させることができる。
【図面の簡単な説明】
【図1】 この発明を適用した一実施形態の画像読取装置300のブロック構成を示す図である。
【図2】 下地レベル調整部350のブロック構成を示す図である。
【図3】 飛び画素Pについて、その飛び画素Pを中心として階調変化量を算出する方向を示す図である。
【図4】 (a)ステップ、(b)ライン、(c)ルーフと呼ばれるタイプの濃淡断面と、それに対応するグラジエントフィルタを通して得られたデータと、ラプラシアンフィルタを通して得られたデータとをそれぞれ対応させて示す図である。
【図5】 飛び画素P自身の色相をa−b平面上で表す図である。
【図6】 下地レベル調整部350の制御フローを示す図である。
【図7】 画像データおよび明度プロファイルを示す図である。
【図8】 下地飛ばし処理を行うべきでないグラデーション画像(写真画像)A1と、下地飛ばし処理を行うべき枠画像A2とが接している画像データを示す図である。
【図9】 従来の下地飛ばし処理を説明する図である。
【図10】 従来の下地飛ばし処理による問題点を説明する図である。
【図11】 下地飛ばし処理後の良くない写真画像を例示する図である。
【符号の説明】
1 下地領域
3 非下地領域
300 画像読取装置
350 下地レベル調整部
[0001]
BACKGROUND OF THE INVENTION
  The present invention relates to an image processing apparatus, an image processing method, and a program for performing background adjustment.
[0002]
  In this specification, “background adjustment” is a concept that includes other background processing in addition to performing background removal processing. “Background removal processing” means that the brightness (gradation value) of each pixel data of the background area (or the area where the paper background appears if the image is printed on paper) is the maximum corresponding to white. Refers to conversion to a value.
[0003]
[Prior art]
  In general, an image processing apparatus detects a background area from input image data, and performs background adjustment such as background removal on the detected background area in order to express an image of a non-background area more clearly. Things have been done.
[0004]
  The background region shows the tendency that the appearance frequency of a specific lightness (gradation) level is the highest. Therefore, as background removal processing conventionally performed by an image processing apparatus, input as shown in FIG. A histogram of the brightness (gradation value) represented by each pixel data in the image is created, the gradation level m having the highest brightness level is obtained, and an area having a brightness higher than the gradation level m (this is referred to as “background” 9), it is known that the brightness data L is converted to a maximum value (255) corresponding to white as shown in FIG. 9B (for example, Japanese Patent Laid-Open No. 2000-83166). Alternatively, as shown in FIG. 9C, the lightness L is converted to the maximum value (255) in the background area, and the area below the gradation level m (this is referred to as a “non-background area”). It is known that linear conversion is performed with a gradient α2 larger than the gradient α1 (= 1) when the background removal process is not performed so that the converted lightness L ′ is continuous.
[0005]
[Problems to be solved by the invention]
  However, since a certain brightness (gradation) level is set and the background area is detected based on this, pixels of the brightness (gradation) level set in the image data in the non-background area are detected. Even if there was, there was a base adjustment using this as a base region.
[0006]
  For example, as shown in FIG. 10A, the input image may have a gradation that smoothly changes in gradation. 10A shows the image as a bitmap image, and FIG. 10A shows the density profile along the center line C of the image (the same applies to FIGS. 10B and 10C). .) In this example, the input image has a gradation that gradually becomes darker from the center to the periphery. When the background removal process as shown in FIGS. 9B and 9C is performed on this input image, the center of the image becomes flat white as shown in FIGS. 10B and 10C, respectively. There is a problem that gradation is lost. For example, like the child's photographic image shown in FIG. 11, the skin of the child who originally has gradation is whitened (the white area is indicated by I). As a result, the smooth gradation of the photographic image has been impaired.
[0007]
  SUMMARY OF THE INVENTION An object of the present invention is to provide an image processing apparatus, an image processing method, and a program for executing the image processing method that can prevent white spots from occurring in a gradation area while performing background adjustment. .
[0008]
[Means for Solving the Problems]
  In order to solve the above problem, an image processing apparatus according to claim 1 is provided.,
  Input means for inputting image data;,
  Reference level calculation means for calculating a reference level for separating the background area and the non-background area from the input image data input by the input means;,
  Ground pixel detection means for detecting pixels included in the ground area in the input image data based on the reference level calculated by the reference level calculation means;,
  Background adjustment means for performing background adjustment on the pixels included in the background area;,
  Included in the base areaBased on the first pixel,At least in one directionOf the second pixelGradation change amount calculating means for calculating the gradation change amount;,
  Based on the gradation change amount calculated by the gradation change amount calculation means,Whether or not there is a gradation around the first pixel included in the background area as a gradation change situationGradation change status identifying means for identifying,
  Based on the gradation change situation identified by the gradation change situation identification means,When gradation exists around the first pixel, the background adjustment unit prohibits the background adjustment for the first pixel, while gradation does not exist around the first pixel.the aboveFirstControl means for performing background adjustment on the pixel by the background adjustment meansWhen
It is provided with.
[0009]
  As described above, a specific example of “background adjustment” is to perform background removal processing.
[0010]
  In the image processing apparatus according to the first aspect, first, image data is input by the input means. Next, the reference level calculation means calculates a reference level for separating the background area and the non-background area from the input image data input by the input means. Based on the reference level calculated by the reference level calculation means, the background pixel detection means detects pixels included in the background area in the input image data. Here, the gradation change amount calculation means is included in the background area.Based on the first pixel,At least in one directionOf the second pixelThe gradation change amount is calculated. Based on the gradation change amount calculated by the gradation change amount calculating means, the gradation change status identifying means isWhether or not gradation exists in the vicinity of the first pixel included in the background area as a gradation change situationIdentify. And the control means,Based on the gradation change situation identified by the gradation change situation identification means,When gradation exists around the first pixel, the background adjustment unit prohibits the background adjustment for the first pixel, while gradation does not exist around the first pixel.the aboveFirstThe background adjustment is performed on the pixel by the background adjustment means.
[0011]
  Thus, in this image processing apparatus,When gradation exists around the first pixel included in the background area, the background adjustment unit prohibits the background adjustment for the first pixel, while gradation does not exist around the first pixel. Whenthe aboveFirstBackground adjustment is performed on the pixel by the background adjustment means. For example, when the background adjustment is a background removal process,It is possible to prevent white spots from occurring in the gradation area and maintain the gradation of the gradation area.
[0012]
  In this specification, the “gradation area” means an area where the brightness and hue of a plurality of pixels are gradually changing in one direction or a plurality of directions.
[0013]
  The image processing device according to claim 2 is the image processing device according to claim 1, wherein the gradation change amount calculation means is included in the ground region.FirstPixelStandardAs multiple directions2nd pixel lined up inIt is characterized in that the gradation change amount is calculated.
[0014]
  In the image processing apparatus according to claim 2, the gradation change amount calculating unit includes the ground area included in the ground region.FirstPixelStandardAs multiple directions2nd pixel lined up inIs calculated by the gradation change status identifying means.FirstAround the pixelWhether there is a gradient in theAccurately identifyit can.
[0015]
  Claim3The image processing apparatus according to claim 1.Or 2In the image processing apparatus described in,
  The above contained in the ground areaFirstA hue extraction means for extracting the hue of a pixel;,
  the aboveFirstPixel hue and aboveFirstThe pixels are arranged in the direction in which the gradation change amount is calculated by the gradation change amount calculation means.SecondBetween pixel hueWhether there is a correlationAnd a hue discrimination means for identifying,
  The control means is based on the identification result by the hue discrimination means,When there is a correlation between the hue of the first pixel and the hue of the second pixel, the background adjustment unit prohibits the background adjustment for the first pixel, while the hue of the first pixel When there is no correlation with the hue of the second pixel,the aboveFirstThe background adjustment is performed on the pixel by the background adjustment means.
[0016]
  This claim3In the image processing apparatus, the hue extracting means includes the above-described background region.FirstExtract the hue of the pixel. The hue discrimination means is the aboveFirstPixel hue and aboveFirstThe pixels are arranged in the direction in which the gradation change amount is calculated by the gradation change amount calculation means.SecondBetween pixel hueWhether there is a correlationIdentify. And the said control means is based on the identification result by the said hue discrimination means,When there is a correlation between the hue of the first pixel and the hue of the second pixel, the background adjustment unit prohibits the background adjustment for the first pixel, while the hue of the first pixel When there is no correlation with the hue of the second pixel,the aboveFirstThe background adjustment is performed on the pixel by the background adjustment means. Therefore, for example, when the background adjustment is a background removal process, the aboveFirstOnly if the pixel is in a gradation area with the same hue and gradually changing brightnessFirstIt is possible to prohibit the background adjustment unit from performing background removal processing for pixels. As a result, the accuracy of acceptance / rejection of the background removal process is increased near the boundary where the regions having different hues are in contact with each other. Therefore, when the gradation area that should not be subjected to the background removal process is in contact with the area that should be subjected to the background removal process, the boundary between the areas can be clearly reproduced after the background adjustment.
[0017]
  The image processing device according to claim 4 is the image processing device according to claim 3,
  The hue determination unit matches the hue of the first pixel with the hue of the second pixel arranged in the direction in which the gradation change amount is calculated by the gradation change amount calculation unit with respect to the first pixel. When identifying that there is a correlation between the hue of the first pixel and the hue of the second pixel, and when the hue of the first pixel and the hue of the second pixel do not match, It is characterized in that there is no correlation between the hue of the first pixel and the hue of the second pixel.
[0018]
  In the image processing apparatus according to claim 4, whether or not there is a correlation between the hue of the first pixel and the hue of the second pixel depends on whether the hue of the first pixel and the second pixel or not. Is identified according to whether or not the hue of the pixel matches.
[0019]
  The image processing method according to claim 5An image processing method executed by the image processing apparatus,
  Enter image dataInput stepWhen,
  A reference level for dividing the background area and the non-background area is calculated from the input image data input above.Reference level calculation stepWhen,
  Based on the calculated reference level, pixels included in the background area in the input image data are detected.Base pixel detection stepWhen,
  Included in the base areaBased on the first pixel,At least in one directionOf the second pixelCalculate gradation changeTone change calculation stepWhen,
  Based on the calculated gradation change amount,Whether or not there is a gradation around the first pixel included in the background area as a gradation change situationIdentifyGradation change status identification stepWhen,
  Based on the identified tone change situation,When gradation exists around the first pixel, background adjustment is prohibited for the first pixel, while gradation does not exist around the first pixel.the aboveFirstPerform background adjustment for pixelsControl steps to control and
It is provided with.
[0020]
  In the image processing method of claim 5, first, image data is input.(Input step). Next, a reference level for separating the background area and the non-background area is calculated from the input image data input above.(Reference level calculation step). Next, pixels included in the background area in the input image data are detected based on the calculated reference level.(Background pixel detection step). Next, it was included in the ground areaBased on the first pixel,At least in one directionOf the second pixelCalculate gradation change(Tone change calculation step). Next, based on the calculated gradation change amount,Whether or not there is a gradation around the first pixel included in the background area as a gradation change situationIdentify(Gradation change status identification step). And based on the identified gradation change situation,When gradation exists around the first pixel, background adjustment is prohibited for the first pixel, while gradation does not exist around the first pixel.the aboveFirstPerform background adjustment for pixelsControl (control step).
[0021]
  Thus, in this image processing method,When gradation is present around the first pixel, background adjustment is prohibited for the first pixel, while when gradation is not present around the first pixel, background adjustment is performed for the first pixel. Control to do. Therefore,For example, when the background adjustment is a background removal process,It is possible to prevent white spots from occurring in the gradation area and maintain the gradation of the gradation area.
[0022]
  The image processing method according to claim 6 comprises:6. The image processing method according to claim 5, wherein in the gradation change amount calculating step, gradation change amounts of second pixels arranged in a plurality of directions with the first pixel included in the background region as a reference are used. It is characterized by calculating.
[0023]
  In the image processing method of claim 6,The gradation change amount calculating step can accurately identify whether or not there is a gradation around the first pixel.
[0024]
  The image processing method according to claim 7 is the image processing method according to claim 5 or 6,
  After the gradation change situation identification step and before the control step,
  A hue extraction step of extracting the hue of the first pixel included in the background region;
  Whether there is a correlation between the hue of the first pixel and the hue of the second pixel arranged in the direction in which the gradation change amount is calculated in the gradation change calculation step for the first pixel A hue discrimination step for identifying
  In the control step, when there is a correlation between the hue of the first pixel and the hue of the second pixel based on the identification result in the hue determination step, background adjustment is prohibited for the first pixel. On the other hand, when there is no correlation between the hue of the first pixel and the hue of the second pixel, control is performed to perform background adjustment for the first pixel.
[0025]
  In the image processing method according to the seventh aspect, the hue of the first pixel included in the background region is extracted by the hue extraction step. In the hue determination step, between the hue of the first pixel and the hue of the second pixel arranged in the direction in which the gradation change amount is calculated by the gradation change amount calculation step with respect to the first pixel. Identify whether there is a correlation. In the control step, when there is a correlation between the hue of the first pixel and the hue of the second pixel based on the identification result in the hue determination step, the background of the first pixel While the adjustment step prohibits background adjustment, when there is no correlation between the hue of the first pixel and the hue of the second pixel, the background adjustment is performed on the first pixel by the background adjustment step. . Therefore, for example, when the background adjustment is a background removal process, the background adjustment step is performed for the first pixel only when the first pixel is a pixel in a gradation region where the brightness gradually changes with the same hue. The background removal process can be prohibited. As a result, the accuracy of acceptance / rejection of the background removal process increases near the boundary where the regions having different hues are in contact with each other. Therefore, when the gradation area that should not be subjected to the background removal process is in contact with the area that should be subjected to the background removal process, the boundary between the areas can be clearly reproduced after the background adjustment.
[0026]
  The image processing method according to claim 8 is the image processing method according to claim 7,
  In the hue determination step, the hue of the first pixel matches the hue of the second pixel arranged in the direction in which the gradation change amount is calculated in the gradation change amount calculation step with respect to the first pixel. When identifying that there is a correlation between the hue of the first pixel and the hue of the second pixel, and when the hue of the first pixel and the hue of the second pixel do not match, It is characterized in that there is no correlation between the hue of the first pixel and the hue of the second pixel.
[0027]
  In the image processing apparatus according to claim 8, whether or not there is a correlation between the hue of the first pixel and the hue of the second pixel is determined based on whether or not there is a correlation between the hue of the first pixel and the second pixel. Can be identified according to whether or not the hue of the pixel matches.
[0028]
  Claim9The program described inThe image processing method according to claim 5.Is a program for causing a computer to execute.
[0029]
  This claim9According to the program of claim 5,To any one of 8This image processing method can be executed by a computer.
[0030]
DETAILED DESCRIPTION OF THE INVENTION
  Hereinafter, the present invention will be described in detail with reference to the illustrated embodiments.
[0031]
  FIG. 1 shows a block configuration of an image reading apparatus 300 according to an embodiment to which the present invention is applied.
[0032]
  The image reading apparatus 300 includes an operation panel 100 for a user to receive various settings / inputs, a CPU (Central Processing Unit) 200 that controls the entire apparatus, and a ROM (ROM) that stores a program to be executed by the CPU 200. Read-only memory). The image reading apparatus 300 also includes a CCD sensor 111 as input means for obtaining image data from a document, an A / D conversion unit 310 for performing image processing on the image data, a shading correction unit 320, and scaling / movement. A control unit 330, a Lab conversion unit 340, a background level adjustment unit 350, an inverse Lab conversion unit 360, a LOG correction unit 370A, a color correction processing unit 370B, an area determination unit 390, and an MTF correction processing unit 380 are provided.
[0033]
  The document surface is irradiated by an exposure lamp (not shown), and reflected light from the document surface is guided by the optical system and enters the CCD sensor 111. An analog signal obtained by photoelectric conversion of the CCD sensor 111 is converted into multi-value digital image data of R (red), G (green), and B (blue) by an A / D converter 310. The RGB image data is corrected by the shading correction unit 320 so as to eliminate reading variations caused by density unevenness between pixels in the CCD sensor 111 and light distribution unevenness of the exposure lamp. 330 is output.
[0034]
  The input RGB image data is subjected to processing for changing to a magnification previously designated by the operator or moving the position of the image in the scaling / movement control unit 330, and then performing Lab conversion. Is output to the unit 340.
[0035]
  The RGB image data output from the scaling / movement control unit 330 is converted into a color system in L (lightness data) and a and b (chromaticity data) by the Lab conversion unit 340. Lab image data obtained by this conversion is output to the background level adjustment unit 350. The lightness data L is expressed by 256 (0 to 255) gradations.
[0036]
  The background level adjustment unit 350 performs background adjustment on the input Lab image data to prevent document show-through and background fogging.
[0037]
  The Lab image data after the background adjustment is converted again to RGB image data by the inverse Lab conversion unit 360 and output to the LOG correction unit 370A and the color correction processing unit 370B.
[0038]
  The LOG correction unit 370A converts the input RGB data, which is luminance data, into Y (yellow), M (magenta), and C (cyan) density data corresponding to the toner color. On the other hand, the color correction processing unit 370B generates K (black) density data from the YMC density data by UCR (under color removal) processing and inking (BP) processing. The density data is expressed in 256 (0 to 255) gradations.
[0039]
  The CMYK image data, which is density data, is subjected to edge processing by the MTF correction processing unit 380 and then output to a printer (not shown).
[0040]
  On the other hand, the RGB image data output from the inverse Lab conversion unit 360 is also input to the region determination unit 390. The area determination unit 390 determines whether or not the corresponding pixel is an edge part based on the input RGB image data.
[0041]
  FIG. 2 shows a block configuration of the background level adjustment unit 350. The background level adjustment unit 350 includes a reference level calculation unit 351, a jump pixel detection unit 352, a gradation change amount calculation unit 353, and a gradation detection unit that perform predetermined processing on the lightness data L of the input Lab image data. Of the input Lab image data.Hue data a, bAre provided with a hue calculation unit 355 and a hue determination unit 356 for executing predetermined processing. In addition, the background level adjustment unit 350 includes a background adjustment control unit 357 as a control unit, and a background adjustment unit 358 that performs background adjustment according to a background processing control signal from the background adjustment control unit 357.
[0042]
  The reference level calculation unit 351 creates a histogram of lightness (tone value) L from the input Lab image data, and obtains the gray level m having the highest frequency of lightness L. Then, the level m is output to the skipped pixel detection unit 352 as a reference level for separating the background area and the non-background area.
[0043]
  The skip pixel detection unit 352 functions as a background pixel detection unit and detects pixels included in the background region in the input Lab image data based on the reference level m. Specifically, for each pixel in the input Lab image data, the lightness data L of the pixel is compared with the reference level m, and if the lightness L of the pixel is higher than the reference level m, the pixel is It is determined that the pixel is included in the base region (this is referred to as “flight pixel” as appropriate). On the other hand, if the brightness L of the pixel is lower than the reference level m, it is determined that the pixel is a pixel included in the non-background region. The jump pixel detection unit 352 outputs a jump pixel determination signal representing the determination result to the background adjustment control unit 357 for each pixel in the input Lab image data.
[0044]
  As shown in FIG. 3, the gradation change amount calculation unit 353 calculates, for each skipped pixel P, gradation change amounts SL1, SL2,..., SLn in a plurality of directions radially about the skipped pixel P. The gradation change amount forms a window composed of k vertical pixels × k horizontal pixels (k is a natural number of 3 or more) around the skipped pixel P to be processed, and a gradient or Laplacian derivative. Calculated using a filter. As a result, the gradation change amount is obtained by the number of calculated directions (n = 8 in this example) with the skipped pixel P as the center. Note that FIG. 4 shows (a) step, (b) line, (c) shaded type cross section called roof, data obtained through the corresponding gradient filter, and data obtained through the Laplacian filter, respectively. Shown in correspondence.
[0045]
  The gradation detection unit 354 shown in FIG. 2 functions as a gradation change state identification unit, and the jump pixel P is based on the gradation change amounts SL1, SL2,..., SLn calculated by the gradation change amount calculation unit 353. The gradation change situation around is identified. Specifically, the gradation change amounts SL1, SL2,..., SLn are respectively compared with two preset reference values REF1, REF2 (where REF1 <REF2). Here, REF1 is a value for distinguishing between flat and gradation, and the reference value REF2 is a value for distinguishing between gradation and edge. If any gradation change amount SLi (i = 1, 2,..., N) is larger than REF1 and smaller than REF2, the skip pixel P is a pixel in the gradation area. It is judged. If the gradation change amount SLi is smaller than REF1, the skip pixel P exists in the flat region with respect to that direction, and if the gradation change amount SLi is greater than REF2, the skip pixel P becomes an edge with respect to that direction. It is judged that it exists. Then, the gradation detection unit 354 outputs n gradation detection signals indicating whether or not the skip pixel P is a pixel in the gradation region to the background adjustment control unit 357.
[0046]
  The hue calculation unit 355 functions as a hue extraction unit, and calculates the hue of the skip pixel P itself based on the hue data a and b in the input Lab image data. As shown in FIG. 5, the hue of the skipped pixel P itself is represented by arctan (b / a) on the ab plane. In addition, the hue calculation unit 355 calculates the hues of the pixels arranged in each direction in which the gradation change amounts SL1, SL2,..., SLn are calculated by the gradation change amount calculation unit 353 for the skipped pixel P. The hue of pixels arranged in a certain direction is represented, for example, by calculating a hue histogram of pixels arranged in that direction and adopting the most frequently used hue. Alternatively, the hue of pixels arranged in a certain direction is represented by adopting the average value of the hues of pixels arranged in that direction. The hue calculation unit 355 outputs hue information representing a total of (n + 1) hues of the hue of the skipped pixel P itself and the hues of the pixels arranged in the n direction to the hue determination unit 356.
[0047]
  In an image or the like by screen printing, a single pixel has primary color data, and the hue is determined by the area ratio of each primary color. In this case, since the hue of an image occupying a certain area is not known only from the hue of a single pixel, the hue of the jump pixel P is calculated from the hues of a plurality of pixels existing around the jump pixel P.
[0048]
  Based on the hue information from the hue calculation unit 355, the hue determination unit 356 correlates between the hue of the skipped pixel P and the hue of the pixels arranged in the n direction, in this example, the hue of the skipped pixel P and the n direction. It is identified whether or not the hues of the pixels lined up in line match. Then, the hue determination unit 356 outputs n hue determination signals representing these identification results to the background adjustment control unit 357.
[0049]
  The background adjustment control unit 357 sends the background adjustment unit 358 to the background adjustment unit 358 based on the jump pixel determination signal from the jump pixel detection unit 352, the gradation detection signal from the gradation detection unit 354, and the hue determination unit 356. A background processing control signal indicating whether background adjustment should be performed or prohibited is created.
[0050]
  For example, if the skipped pixel P is a pixel in the gradation area where the brightness gradually changes with the same hue, the background adjustment unit 358 is prohibited from performing background skip processing for the skipped pixel P, while the skipped pixel P is otherwise If the pixel is included in this area, a background processing control signal indicating that the background adjustment unit 358 performs background removal processing for the skipped pixel P is generated.
[0051]
  The background adjustment unit 358 performs background removal processing unless receiving a background processing control signal (non-active) indicating that background removal processing is prohibited from the background adjustment control unit 357. In this example, the background removal process performed by the background adjustment unit 358 creates a histogram of lightness (tone value) represented by each pixel data in the input image as shown in FIG. 9 is obtained, and in an area where the brightness is higher than the reference level m (this is regarded as a “background area”), the brightness data L corresponds to white as shown in FIG. It shall be converted to the maximum value (255).
[0052]
  FIG. 6 shows an overall control flow of the background level adjustment unit 350. Hereinafter, the operation of the background level adjustment unit 350 will be described with reference to the flow of FIG. 6 and the image data (represented by a bitmap image) and the brightness profile illustrated in FIGS. 7A and 7B. In FIGS. 7A and 7B, the upper row represents image data, and the lower row represents the brightness profile of each corresponding image data.
[0053]
  The upper part of FIG. 7A illustrates input image data (original image). This input image data includes a background area 1 as a background and a gradation area 3 having a conical brightness profile as a non-background area. As shown in the lower part of FIG. 7A, the brightness data is L = m1 (≈200) in the background area 1, L = 255 (white) in the center in the gradation area 3, and L≈100 in the edge. Yes.
[0054]
  First, the reference level m is obtained by the reference level calculation unit 351 (S1 in FIG. 6). In the example of FIG. 7A, the reference level m is slightly lower than m1.
[0055]
  Next, the skip pixel detection unit 352 detects a pixel (a skip pixel) included in the background region 1 in the input Lab image data (S2 in FIG. 6).
[0056]
  Next, a gradation change amount calculation unit 353 processes a certain skipped pixel, and calculates gradation change amounts SL1, SL2,..., SLn in a plurality of directions radially around the skipped pixel (processing target skipped pixel). Calculate (S3).
[0057]
  Next, the gradation detecting unit 354 compares the gradation change amounts SL1, SL2,..., SLn with two preset reference values REF1, REF2 (where REF1 <REF2) (S4). . As described above, REF1 is a value for distinguishing between flat and gradation, and the reference value REF2 is a value for distinguishing between gradation and edge. Here, if any gradation change amount SLi is smaller than REF1 or any gradation change amount SLi is larger than REF2 for the processing target skip pixel, the processing target skip pixel is outside the gradation region. The pixel is determined to be a pixel (NO in S4), and the subsequent processing is passed.
[0058]
  On the other hand, if any gradation change amount SLi (i = 1, 2,..., N) is larger than REF1 and smaller than REF2 for the processing target skipped pixel, the processing target skipped pixel is in the gradation area. (S4: YES). In this case, the hue calculation unit 355 calculates the hues of the pixels arranged in each direction in which the gradation change amounts SL1, SL2,..., SLn are calculated by the gradation change amount calculation unit 353 with respect to the processing target skipped pixels. (S5). Further, the hue calculation unit 355 calculates the hue of the processing target skipped pixel itself based on the hue data a and b in the input image data (S6).
[0059]
  Next, based on the hue information from the hue calculation unit 355, the hue determination unit 356 determines whether the hue of the skip target pixel matches the hue of the pixels arranged in one of the n directions. Is identified (S7). Here, if the hue of the skip target pixel does not match the hue of the pixels arranged in the n direction (NO in S7), the subsequent processing is passed.
[0060]
  On the other hand, if the hue of the processing target skipped pixel matches the hue of the pixel aligned in any one of the n directions, the pixel in the gradation area where the processing target skipped pixel has the same hue and the brightness gradually changes. (YES in S7). In this case, the background adjustment control unit 357 creates a background processing control signal indicating that the background adjustment unit 358 prohibits (cancels) the background removal processing for the processing target skipped pixel (S8). And the process of step S3-S8 is repeated with respect to all the skip pixels (S9).
[0061]
  Thereafter, the background adjustment unit 358 performs background adjustment in accordance with the background processing control signal from the background adjustment control unit 357. In this example, if the processing target skip pixel is a pixel in the gradation region where the brightness gradually changes with the same hue, the background skip processing is not performed on the processing target skip pixel. On the other hand, if the processing target skip pixel is a pixel included in another region, the background skip processing is performed on the processing target skip pixel.
[0062]
  As a result, as shown in FIG. 7B, the brightness profile of the gradation area 3 is the same as that of the input image data, and image data in which only the brightness of the background area 1 is converted to 255 (white) is obtained. Therefore, white spots can be prevented from occurring in the gradation area 3. Moreover, the accuracy of acceptance / rejection of the background removal process is increased near the boundary where the regions 1 and 3 having different hues contact each other. For example, as shown in FIG. 8, when a gradation image (photo image) A1 that should not be subjected to background removal processing is in contact with a frame image A2 that should be subjected to background removal processing, these images A1 and A2 are in contact with each other. The boundary can be clearly reproduced after the substrate adjustment.
[0063]
  In this embodiment, L, a, and b are used as input image data to be processed by the background level adjustment unit 350. However, as long as lightness and hue information is included, data in other color spaces may be used. good.
[0064]
  In the above embodiment, the background removal process has been described as an example of the background adjustment, but the background adjustment may be a process of coloring the background to a specific color (for example, an intermediate color).
[0065]
【The invention's effect】
  As is clear from the above, according to the image processing apparatus of the present invention, white spots are prevented from occurring in the gradation area, and the gradation of this area can be maintained.
[0066]
  According to the image processing method of the present invention, white spots can be prevented from occurring in the gradation area, and the gradation of this area can be maintained.
[0067]
  Further, according to the program of the present invention, the computer can execute the image processing method of the present invention.
[Brief description of the drawings]
FIG. 1 is a diagram showing a block configuration of an image reading apparatus 300 according to an embodiment to which the invention is applied.
FIG. 2 is a diagram showing a block configuration of a ground level adjustment unit 350;
FIG. 3 is a diagram illustrating a direction in which a gradation change amount is calculated with respect to a skipped pixel P with the skipped pixel P as a center.
FIGS. 4A and 4B correspond to a shade section of a type called “a” step, “b” line, and “c” roof, and data obtained through a corresponding gradient filter and data obtained through a Laplacian filter, respectively. FIG.
FIG. 5 is a diagram illustrating the hue of a skipped pixel P itself on an ab plane.
6 is a diagram illustrating a control flow of a background level adjustment unit 350. FIG.
FIG. 7 is a diagram showing image data and a brightness profile.
FIG. 8 is a diagram illustrating image data in which a gradation image (photo image) A1 that should not be subjected to background removal processing and a frame image A2 that should be subjected to background removal processing are in contact with each other.
FIG. 9 is a diagram for explaining a conventional background removal process.
FIG. 10 is a diagram illustrating a problem caused by a conventional background removal process.
FIG. 11 is a diagram illustrating a bad photographic image after the background removal process.
[Explanation of symbols]
  1 Ground area
  3 Non-ground area
  300 Image reader
  350 Ground level adjuster

Claims (9)

画像データを入力する入力手段と、
上記入力手段によって入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する基準レベル算出手段と、
上記基準レベル算出手段によって算出された基準レベルに基づいて、上記入力画像データ中の下地領域に含まれた画素を検出する下地画素検出手段と、
上記下地領域に含まれた画素について下地調整を行う下地調整手段と、
上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する階調変化量算出手段と、
上記階調変化量算出手段によって算出された階調変化量に基づいて、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する階調変化状況識別手段と、
上記階調変化状況識別手段によって識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存在するとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせる制御手段と
を備えたことを特徴とする画像処理装置。
Input means for inputting image data;
Reference level calculation means for calculating a reference level for separating the background area and the non-background area from the input image data input by the input means;
Ground pixel detection means for detecting pixels included in the ground area in the input image data based on the reference level calculated by the reference level calculation means;
Background adjustment means for adjusting the background for the pixels included in the background area;
Gradation change amount calculating means for calculating the gradation change amount of the second pixels arranged in at least one direction with reference to the first pixel included in the base region;
Based on the gradation change amount calculated by the gradation change amount calculating means, it is identified whether or not a gradation exists around the first pixel included in the background area as a gradation change situation. Gradation change status identifying means;
On the basis of the gradation change situation identified by the gradation change situation identification means, when gradation exists around the first pixel, the background adjustment means prohibits the background adjustment for the first pixel. An image processing apparatus comprising: a control unit that causes the background adjustment unit to perform background adjustment on the first pixel when gradation does not exist around the first pixel.
請求項1に記載の画像処理装置において、
上記階調変化量算出手段は、上記下地領域に含まれた上記第1の画素を基準として複数方向に並んだ第2の画素の階調変化量を算出することを特徴とする画像処理装置。
The image processing apparatus according to claim 1.
The image processing apparatus according to claim 1, wherein the gradation change amount calculating means calculates a gradation change amount of second pixels arranged in a plurality of directions with the first pixel included in the background region as a reference .
請求項1または2に記載の画像処理装置において、
上記下地領域に含まれた上記第1の画素の色相を抽出する色相抽出手段と、
上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出手段によって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する色相判別手段とを備え、
上記制御手段は、上記色相判別手段による識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について上記下地調整手段に下地調整を禁止させる一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について上記下地調整手段によって下地調整を行わせることを特徴とする画像処理装置。
The image processing apparatus according to claim 1 or 2 ,
Hue extraction means for extracting the hue of the first pixel included in the background area;
Whether there is a correlation between the color of the first pixel, the hue of the second pixels arranged in the direction of calculation of gradation change amount by the gradation change amount calculating means with respect to the first pixel And a hue discrimination means for identifying
The control means has the background adjustment means for the first pixel when there is a correlation between the hue of the first pixel and the hue of the second pixel based on the identification result by the hue discrimination means. The background adjustment is prohibited, and when there is no correlation between the hue of the first pixel and the hue of the second pixel, the background adjustment unit performs the background adjustment on the first pixel. A featured image processing apparatus.
請求項3に記載の画像処理装置において、The image processing apparatus according to claim 3.
上記色相判別手段は、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出手段によって階調変化量を算出した方向に並ぶ第2の画素の色相とが一致するとき、上記第1の画素の色相と上記第2の画素の色相との間に相関があると識別し、上記第1の画素の色相と上記第2の画素の色相とが一致しないとき、上記第1の画素の色相と上記第2の画素の色相との間に相関がないと識別することを特徴とする画像処理装置。The hue determination unit matches the hue of the first pixel with the hue of the second pixel arranged in the direction in which the gradation change amount is calculated by the gradation change amount calculation unit with respect to the first pixel. When identifying that there is a correlation between the hue of the first pixel and the hue of the second pixel, and when the hue of the first pixel and the hue of the second pixel do not match, An image processing apparatus that identifies that there is no correlation between the hue of the first pixel and the hue of the second pixel.
画像処理装置によって実行される画像処理方法であって、
画像データを入力する入力ステップと、
上記入力された入力画像データから、下地領域と非下地領域とを分けるための基準レベルを算出する基準レベル算出ステップと、
上記算出された基準レベルに基づいて、上記入力画像データ中の下地領域に含まれた画素を検出する下地画素検出ステップと、
上記下地領域に含まれた第1の画素を基準として、少なくとも一方向に並んだ第2の画素の階調変化量を算出する階調変化量算出ステップと、
上記算出された階調変化量に基づいて、階調変化状況として、上記下地領域に含まれた上記第1の画素の周辺にグラデーションが存在するか否かを識別する階調変化状況識別ステップと、
上記識別された階調変化状況に基づいて、上記第1の画素の周辺にグラデーションが存 在するとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の周辺にグラデーションが存在しないとき、上記第1の画素について下地調整を行う制御をする制御ステップ
を備えたことを特徴とする画像処理方法。
An image processing method executed by an image processing apparatus,
An input step for inputting image data;
A reference level calculating step for calculating a reference level for separating the background area and the non-background area from the input image data input;
A background pixel detection step for detecting pixels included in the background area in the input image data based on the calculated reference level;
A gradation change amount calculating step for calculating a gradation change amount of the second pixels arranged in at least one direction with reference to the first pixel included in the base region;
A gradation change situation identifying step for identifying whether or not gradation exists around the first pixel included in the background area as a gradation change situation based on the calculated gradation change amount; ,
Based on the identified tone change situation, when the gradient in the periphery of the first pixel exists, while prohibiting base adjustment for the first pixel, gradients around the first pixel An image processing method comprising: a control step of performing background adjustment for the first pixel when it does not exist .
請求項5に記載の画像処理方法において、The image processing method according to claim 5,
上記階調変化量算出ステップでは、上記下地領域に含まれた上記第1の画素を基準として複数方向に並んだ第2の画素の階調変化量を算出することを特徴とする画像処理方法。In the gradation change amount calculating step, the gradation change amount of second pixels arranged in a plurality of directions with respect to the first pixel included in the background region is calculated.
請求項5または6に記載の画像処理方法において、The image processing method according to claim 5 or 6,
上記階調変化状況識別ステップの後で、上記制御ステップの前に、After the gradation change situation identification step and before the control step,
上記下地領域に含まれた上記第1の画素の色相を抽出する色相抽出ステップと、A hue extraction step of extracting the hue of the first pixel included in the background region;
上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出ステップによって階調変化量を算出した方向に並ぶ第2の画素の色相との間に相関があるか否かを識別する色相判別ステップとを備え、Whether there is a correlation between the hue of the first pixel and the hue of the second pixel arranged in the direction in which the gradation change amount is calculated in the gradation change calculation step for the first pixel A hue discrimination step for identifying
上記制御ステップでは、上記色相判別ステップによる識別結果に基づいて、上記第1の画素の色相と上記第2の画素の色相との間に相関があるとき、上記第1の画素について下地調整を禁止する一方、上記第1の画素の色相と上記第2の画素の色相との間に相関がないとき、上記第1の画素について下地調整を行う制御をすることを特徴とする画像処理方法。In the control step, when there is a correlation between the hue of the first pixel and the hue of the second pixel based on the identification result in the hue determination step, background adjustment is prohibited for the first pixel. On the other hand, when there is no correlation between the hue of the first pixel and the hue of the second pixel, control is performed to perform background adjustment for the first pixel.
請求項7に記載の画像処理方法において、The image processing method according to claim 7,
上記色相判別ステップでは、上記第1の画素の色相と、上記第1の画素に対して上記階調変化量算出ステップによって階調変化量を算出した方向に並ぶ第2の画素の色相とが一致するとき、上記第1の画素の色相と上記第2の画素の色相との間に相関があると識別し、上記第1の画素の色相と上記第2の画素の色相とが一致しないとき、上記第1の画素の色相と上記第2の画素の色相との間に相関がないと識別することを特徴とする画像処理方法。In the hue determination step, the hue of the first pixel matches the hue of the second pixel arranged in the direction in which the gradation change amount is calculated in the gradation change amount calculation step with respect to the first pixel. When identifying that there is a correlation between the hue of the first pixel and the hue of the second pixel, and when the hue of the first pixel and the hue of the second pixel do not match, An image processing method characterized by discriminating that there is no correlation between the hue of the first pixel and the hue of the second pixel.
請求項5から8までのいずれか一つに記載の画像処理方法をコンピュータに実行させるためのプログラム。A program for causing a computer to execute the image processing method according to any one of claims 5 to 8 .
JP2001171296A 2001-06-06 2001-06-06 Image processing apparatus, image processing method, and program Expired - Fee Related JP4089178B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001171296A JP4089178B2 (en) 2001-06-06 2001-06-06 Image processing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001171296A JP4089178B2 (en) 2001-06-06 2001-06-06 Image processing apparatus, image processing method, and program

Publications (2)

Publication Number Publication Date
JP2002369002A JP2002369002A (en) 2002-12-20
JP4089178B2 true JP4089178B2 (en) 2008-05-28

Family

ID=19013084

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001171296A Expired - Fee Related JP4089178B2 (en) 2001-06-06 2001-06-06 Image processing apparatus, image processing method, and program

Country Status (1)

Country Link
JP (1) JP4089178B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4771087B2 (en) * 2007-02-28 2011-09-14 富士ゼロックス株式会社 Image processing apparatus and image processing program

Also Published As

Publication number Publication date
JP2002369002A (en) 2002-12-20

Similar Documents

Publication Publication Date Title
US20060238827A1 (en) Image processing apparatus, image processing system, and image processing program storage medium
US8395832B2 (en) Image processing apparatus
JPH03256178A (en) Picture/character area identifying system for image processor
JP2002232708A (en) Image processing apparatus, image forming apparatus including the same, and image processing method
JP2001128013A (en) Processing color images
US7672533B2 (en) Judging image type with an image scanning device
JP4089178B2 (en) Image processing apparatus, image processing method, and program
JP2005286571A (en) Image processing apparatus, image forming apparatus provided with image processing apparatus, image processing method, image processing program, and recording medium recording image processing program
JPH07264409A (en) Image processing device
JP3847565B2 (en) Image processing apparatus, image forming apparatus including the same, and image processing method
JP4039911B2 (en) Image processing apparatus and image processing method
JP2003230006A (en) Image processing method, image processing apparatus, and image forming apparatus
JP7123752B2 (en) Image processing apparatus, image forming apparatus, image processing method, image processing program, and recording medium
JP4334504B2 (en) Image processing apparatus, image forming apparatus, image processing method, computer program, and recording medium
JP3927426B2 (en) Image processing method, image processing apparatus, and image forming apparatus including the same
JP4134531B2 (en) Image processing apparatus, image processing method, and program
JP2005027110A (en) Image processing apparatus, image reading apparatus including the same, image forming apparatus, image processing method, image processing program, and recording medium
JP3255085B2 (en) Image area determination method and apparatus, image processing apparatus
JP2003224718A (en) Image processing method and image processing apparatus
JP4086537B2 (en) Image processing method, image processing apparatus, image forming apparatus, computer program, and recording medium
JP4958626B2 (en) Image processing method, image processing apparatus, image forming apparatus, computer program, and recording medium
JPH08116462A (en) Image processing unit
US7262884B2 (en) Image processing apparatus and image processing method
JPH1051655A (en) Image processing device and optical character reader
CN100499732C (en) Image processing method, image processing apparatus

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20050614

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060421

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20060421

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080218

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110307

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110307

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120307

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130307

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140307

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees