Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4094435B2 - 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置 - Google Patents
[go: Go Back, main page]

JP4094435B2 - 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置 - Google Patents

光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置 Download PDF

Info

Publication number
JP4094435B2
JP4094435B2 JP2003007537A JP2003007537A JP4094435B2 JP 4094435 B2 JP4094435 B2 JP 4094435B2 JP 2003007537 A JP2003007537 A JP 2003007537A JP 2003007537 A JP2003007537 A JP 2003007537A JP 4094435 B2 JP4094435 B2 JP 4094435B2
Authority
JP
Japan
Prior art keywords
optical system
density
monitoring
adjustment variable
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003007537A
Other languages
English (en)
Other versions
JP2004221988A (ja
Inventor
宗利 今田
良夫 脇田
淳代 佐野
臣一 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Technos Co Ltd
Original Assignee
Sharp Corp
Technos Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp, Technos Co Ltd filed Critical Sharp Corp
Priority to JP2003007537A priority Critical patent/JP4094435B2/ja
Publication of JP2004221988A publication Critical patent/JP2004221988A/ja
Application granted granted Critical
Publication of JP4094435B2 publication Critical patent/JP4094435B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理の対象とされる被写体を撮影する条件である光学系の環境設定を行なう画像処理方法および画像処理装置に関する。
【0002】
【従来の技術】
従来、工場の生産ラインでは、製品や部品等を対象に固体識別、検査、位置計測などを行なう場合、たとえばカメラなどの撮像手段を用いて前記製品や部品等の被写体の画像を入力し、入力された画像を処理することによって、前述の固体識別、検査、位置計測などの目的を達成する画像処理装置が用いられている。
【0003】
前述の被写体の固体識別、検査、位置計測などのために必要とされる被写体の画像を入力する際の撮影条件、すなわち画像処理装置に備わる光学系の環境設定の項目には、撮像手段であるカメラのレンズの焦点合わせ(以後、フォーカスと呼ぶ)および絞り、カメラのシャッタ速度、照明手段の照射光量がある。レンズのフォーカスや絞りの設定は、被写体の形状や被写体に対する照射光量によってそれぞれ異なる。カメラのシャッタ速度の設定は、被写体が移動しているか静止しているかによって異なり、移動している場合にはシャッタ速度を余り遅くすることができないという制約がある。照明手段の照射光量は、被写体の形状、材質および画像入力の対象とする部分によって適正量が異なる。
【0004】
従来、被写体の状態に応じて照射光量ならびにフォーカス、絞りおよびシャッタ速度を組合せるという複雑な光学系の環境設定は、操作者がモニタ画面を目視することによって行なわれるので、経験と熟練とが必要とされている。したがって、照明手段の経年劣化や外乱光の影響などの外的要因によって、一旦設定された光学系の環境の変更を余儀なくされるとき、経験が浅くまた練度の低い操作者では対応することが不可能であり、熟練者が現場で調整して再設定しなければならないのが実情である。また操作者が経験の深い熟練者であっても、適切と判断される光学系の環境設定が操作者毎に異なるので、同一の被写体であっても、設定される光学系の環境が操作者毎に異なるという問題もある。
【0005】
光学系の環境設定項目のうち、撮像手段に備わるレンズのフォーカスおよび絞りは、一度設定するとたとえばねじロック機構などによって固定される場合が多いので、自動調整(設定)の対象とするには困難がある。一方光学系の環境設定項目のうち、撮像手段のシャッタ速度と照明手段の照射光量とは、設定した状態で固定されることがないので、自動調整(設定)の対象として扱い易い。
【0006】
このようなことから、従来技術では、カメラで今回撮像された画像の濃度平均値と前回撮像された画像の濃度平均値との差、すなわち濃度の変化量を求め、その変化量が予め設定されている閾値を超える場合、その変化量に基づいてシャッタ速度を決定するというカメラのシャッタ速度の自動設定方法が提案されている(特許文献1参照)。
【0007】
またもう一つの従来技術では、カメラで撮影された画像の濃度のヒストグラムを作成し、被写体から切り出すべき画像の形成画素数を基に得られる2値化閾値と、暗部の山と明部の山との間部分の度数分布が最も小さい部分の濃度値である2値化閾値とが一致するように、外部調光機能を有する照明装置の照射光量を自動調整する方法が提案されている(特許文献2参照)。
【0008】
【特許文献1】
特開2001−230967号公報
【特許文献2】
特開平6−139341号公報
【0009】
【発明が解決しようとする課題】
しかしながら、特許文献1に開示される方法では、濃度変化量に対応するシャッタ速度の設定するべき値は自動で求められるけれども、求められた値にシャッタ速度を実際に設定するには、操作者が求められた値を入力しなければならない。また撮像手段の仕様として準備されているシャッタ速度のすべてに対応する濃度変化量のデータを予め作成しておかなければならないという問題がある。
【0010】
また特許文献2に開示される方法は、その適用が画像情報を2値化処理できる被写体に限定され、たとえばフラットパネルのような被写体と背景との区別が無い場合や被写体の照度と背景の照度とが分離できない場合などには、適用できないという問題がある。
【0011】
本発明の目的は、光学系の環境設定項目のうちシャッタ速度および照射光量から選択される光学系調整変数と画像濃度とが線形関係にあることに基づいて、操作者の操作によることなく光学系調整変数すなわち光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置を提供することである。
【0012】
【課題を解決するための手段】
本発明は、撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定を行なう画像処理方法であって、
被写体を撮影することによって得られる撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、
前記監視ウインドウ毎に画像濃度の平均値である平均濃度davを求め、
前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲内であるか否かを判断し、
前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲外である前記監視ウインドウが少なくとも1つ存在するとき、前記被写体を撮影する撮像手段のシャッタ速度または前記被写体を光照射する照明手段の照射光量の少なくともいずれか一方を光学系調整変数として選択し、
選択された光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する前記監視ウインドウの画像の濃度を求めて、光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成し、
線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を設定することによって光学系の環境を自動調整することを特徴とする画像処理方法である。
【0013】
本発明に従えば、被写体を撮影することによって得られる撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、監視ウインドウ毎に画像濃度の平均値である平均濃度davが予め定める監視濃度範囲内であるか否かを判断し、平均濃度davが予め定める監視濃度範囲外である前記監視ウインドウが少なくとも1つ存在するときには、シャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択し、選択された光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成し、この線形変換式に基づいて、平均濃度davに対応して定められる光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を自動で調整設定する。このように、光学系の環境であるシャッタ速度または照射光量が、線形変換式という定量化手段によって定量的かつ自動的に適正な値に設定されるので、操作者の操作によることなく、したがって操作者の技能に熟練を必要とせず、再現性よく光学系の環境設定を行なうことが可能になる。
【0014】
また本発明は、撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定を行なう画像処理方法であって、
前記被写体を撮影する撮像手段のシャッタ速度と、前記被写体を光照射する照明手段の照射光量とを予め定める値に仮設定した状態で、前記撮像手段に備わるレンズのフォーカスと絞りとを設定し、
設定されたレンズのフォーカスおよび絞りの環境で、前記撮像手段のシャッタ速度と前記照明手段の照射光量とを所望の値に設定し、
前記撮像手段による撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、監視ウインドウ毎に画像濃度の平均値である平均濃度davを求め、
前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲内であるか否かを判断し、
前記監視ウインドウ毎の前記平均濃度davが前記監視濃度範囲外である前記監視ウインドウが少なくとも1つ存在するとき、シャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択し、
選択された光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する前記監視ウインドウの画像の濃度を求めて、光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成し、
線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を設定することによって光学系の環境を自動調整することを特徴とする画像処理方法である。
【0015】
本発明に従えば、撮像手段による撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、監視ウインドウ毎の画像濃度の平均値である平均濃度davが、光学系の環境の適否を判別するための基準となる監視濃度範囲内であるか否かによって、光学系の環境の適否を診断することができる。さらに診断結果が不適であるときには、シャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択し、選択された光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を監視ウインドウ毎に作成し、この線形変換式に基づいて、平均濃度davに対応して定められる光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を自動で調整設定する。このように、光学系の環境であるシャッタ速度または照射光量が、線形変換式という定量化手段によって定量的かつ自動的に適正な値に設定されるので、操作者の操作によることなく、したがって操作者の技能に熟練を必要とせず、再現性よく光学系の環境設定を行なうことが可能になる。
【0016】
また、光学系の環境の適否を診断することによって、画像処理によるたとえば固体識別や検査における検出不良の原因が、光学系環境の不適に起因するものか、被写体の不良に起因するものかを明らかにすることができる。したがって、前述の固体識別や検査における検出不良原因の解析に要する時間を短縮することが可能になる。
【0017】
また本発明は、撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定をすることのできる画像処理装置において、
前記被写体を光量可変に照射することのできる照明手段と、
被写体を撮影する撮像手段であって、シャッタ速度、絞りおよびフォーカス調整の可能な撮像手段と、
前記撮像手段によって撮影される画像全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、前記監視ウインドウの画像の濃度を求める画像処理を行ない、前記監視ウインドウ毎に画像濃度の平均値である平均濃度davを演算するとともに、前記監視ウインドウ毎に平均濃度davに基づいて監視濃度範囲を設定する画像処理手段と、
前記平均濃度davおよび前記監視濃度範囲がストアされる記憶手段と、
前記監視濃度範囲を記憶手段から読出し、前記撮像手段によって撮影される前記監視ウインドウの画像の濃度が、前記監視濃度範囲内であるか否かを判断する判断手段と、
前記シャッタ速度または前記照射光量の少なくともいずれか一方を光学系調整変数として選択する選択手段と、
選択手段によって選択される光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する画像の濃度を求めて、光学系調整変数と画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成する線形変換式作成手段と、
線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を制御する制御手段とを含み、光学系の環境を自動調整することを特徴とする画像処理装置である。
【0018】
本発明に従えば、画像処理装置は、撮像手段によって撮影される画像全域のうち監視するべき部位に設定される監視ウインドウの画像の濃度が、たとえば画像の濃度の平均値である平均濃度davに基づいて設定される監視濃度範囲内にあるか否かによって、光学系の環境の適否を診断することができる。さらに光学系の環境診断の結果が不適であるとき、画像処理装置は、光学系の環境設定項目であるシャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択し、選択される光学系調整変数と画像の濃度との関係として与えられる線形変換式を監視ウインドウ毎に作成し、この線形変換式に基づいて、画像の平均濃度davに対応して定められる光学系調整変数の値になるように、シャッタ速度または照射光量を制御手段によって自動で設定することができる。このようにして、操作者の操作によることなく、したがって操作者の技能に熟練を必要とせず、再現性よく光学系の環境を自動調整することの可能な画像処理装置が実現される。
【0019】
【発明の実施の形態】
図1は、本発明の実施の一形態である画像処理装置1の構成を簡略化して示すブロック図である。本実施の形態の画像処理装置1は、撮像されるべき被写体2を撮影し、撮影された被写体2の画像処理を行なうに際し、撮影条件である光学系の環境設定をすることが可能であり、工場の生産ラインなどに設けられて製品や部品等を対象に固体識別、検査、位置計測等に用いられる。
【0020】
画像処理装置1は、被写体2を光量可変に照射することのできる照明手段3と、被写体2を撮影する撮像手段4であって、シャッタ速度、絞りおよびフォーカス調整の可能な撮像手段4と、操作者が、撮像手段4のシャッタ速度および照明手段3の照射光量を仮設定する場合、設定値を入力するために用いられる入力手段5と、撮像手段4によって撮影される画像の濃度を求める画像処理を行ない、画像濃度の平均値である平均濃度davを演算するとともに、平均濃度davに基づいて監視濃度範囲を設定する画像処理手段6と、画像処理手段6による平均濃度davおよび監視濃度範囲がストアされる記憶手段であるRandom Access Memory7(略称RAM)と、監視濃度範囲をRAM7から読出し、撮像手段4によって撮影される画像の濃度が監視濃度範囲内であるか否かを判断する判断手段8と、シャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択する選択手段9と、選択手段9によって選択される光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する画像の濃度を求めて、光学系調整変数と画像の濃度との関係として与えられる線形変換式を作成する線形変換式作成手段10と、線形変換式作成手段10によって作成される線形変換式に基づいて、前述の平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を制御する制御手段11とを含む。
【0021】
被写体2は、前述のように固体識別、検査、位置計測などの対象とされる製品または部品等であり、半導体チップその他種々の物が挙げられる。照明手段3は、光の出射源である光源12と、光源12に対して電力量を可変に供給できる電源13とを含む。光源12には、たとえば発光ダイオード(略称LED)やタングステンランプが好適に用いられ、電源13から供給される電力量に応じて、被写体2を照射する光が光量可変に出射される。
【0022】
撮像手段4は、Charge Coupled Device(略称CCD)素子を備えるCCDカメラ14と、CCDカメラ14に対する入出力信号をアナログ/デジタルに相互変換するアナログ/デジタル(略称A/D)変換器15と、CCDカメラ14からの画像情報を信号処理して後述の処理回路20へ出力するとともに、処理回路20からの出力に応答してCCDカメラ14の動作制御を行なう信号を出力する撮像表示制御器16と、撮像表示制御器16に接続されてCCDカメラ14による画像情報の随時書込み/読出しが可能な記憶手段であるフレームメモリ17とを含む。
【0023】
CCDカメラ14には、図示を省くけれども、レンズが備えられ、レンズまわりには、レンズの焦点を調整するためのフォーカス機構、露出調整のための絞り機構および速度を可変に設定できるシャッタ機構が設けられる。これらの各機構は、撮像表示制御器16を介して処理回路20からの制御信号によって調整可能であり、また手動で調整することも可能なように構成される。また撮像手段4には、モニタ18が含まれてもよい。モニタ18は、液晶や陰極線管などによって構成され、本実施の形態では、デジタル/アナログ(略称D/A)変換器19を介して撮像表示制御器16に接続されて、CCDカメラ14による画像情報を可視像として表示する。
【0024】
処理回路20は、Central Processing Unit(略称CPU)を搭載するたとえばマイクロコンピュータなどによって実現される。この処理回路20が、前述の画像処理手段6、判断手段8、選択手段9、線形変換式作成手段10および制御手段11を含む構成である。処理回路20は、Read Only Memory21(略称ROM)に予めストアされてあるプログラムに従って動作し、前述の各手段として機能するとともに画像処理装置1全体の動作を制御する。
【0025】
入力手段5は、リモート設定キーである。入力手段はキーボードなどであってもよく、キーボードから各種の設定値を入力するように構成されてもよい。しかしながら、キーボードから各種の設定値をすべて数値入力すると操作が繁雑になり入力所要時間も長くなるので、本実施の形態では、入力手段5をリモート設定キーとし、前述のRAM7に、たとえばテーブルデータとして予めストアされる各種の設定値を処理回路20によって読出し、読出された設定値をモニタ18に表示し、表示された設定値からキー操作により選択して入力する構成とした。入力手段5は、入出力(I/O)インターフェイス22を介して、処理回路20を初めとする装置の各手段に接続される。なお入出力インターフェイス22には、前述の照明手段3の電源13が接続される。
【0026】
以下処理回路20に含まれる画像処理手段6、判断手段8、選択手段9、線形変換式作成手段10および制御手段11の動作について説明する。
【0027】
画像処理手段6は、撮像手段4による撮像画面に形成または撮像画面を区分することによって形成される領域である監視ウインドウを設定し、各監視ウインドウについて画像濃度の平均値である平均濃度davを求め、光学系の環境の適否を判別するための基準となる監視濃度範囲を平均濃度davに基づいて定める。監視濃度範囲を定める方法は、特に限定されることはないけれども、たとえば平均濃度davのプラスマイナス(±)10%を初期値として定められることが好ましい。また画像処理手段6は、監視ウインドウ内の画像にとどまらず、撮像画面全域および撮像画面内において任意に定められる領域の画像濃度および平均濃度davを求めることができる。画像処理手段6によって求められた各監視ウインドウについての平均濃度davと監視濃度範囲とは、前述のようにRAM7にストアされる。
【0028】
判断手段8は、設定された光学系環境において、画像処理手段6によって求められる各監視ウインドウの画像濃度を、RAM7から読出される各監視ウインドウ毎に定められた監視濃度範囲と比較して監視濃度範囲内にあるか否かを判断、すなわち光学系の環境を診断し、判断結果を選択手段9、モニタ18、出力手段24に出力する。出力手段24には、たとえば警報ブザーが用いられる。
【0029】
選択手段9は、判断手段8の判断結果に応答し、画像濃度が監視濃度範囲外である監視ウインドウが1つでも存在、すなわち光学系の環境が不適であると診断されるとき、シャッタ速度または照射光量のいずれか一方を光学系調整変数として選択する。この選択は、シャッタ速度と照射光量とに優先順位を付けておくことなどによって実行することができる。
【0030】
図2は、監視ウインドウ設定の状態と線形変換式とを例示する図である。図2を参照して線形変換式作成手段10の動作について説明する。図2では、被写体に金属端子25の出ているコネクタ26をとりあげた場合について示す。本実施の形態では、監視濃度範囲を設定して画像濃度を監視するとともに、線形変換式を作成するべき監視ウインドウが4つ設定される。第1監視ウインドウ27は、金属端子25を含んで設定され、第2および第3監視ウインドウ28,29は、コネクタ26の白色樹脂部分にそれぞれ設定され、第4監視ウインドウ30は、コネクタ26が載置される搬送台の表面に対して設定され、この搬送台の表面を背景と呼ぶことがある。
【0031】
それぞれ設定された各監視ウインドウに対し、光学系調整変数がたとえば照明手段3による照射光量の場合、入力手段5からの入力操作によって最小から最大まで(たとえば8ビット調光の場合零(0)から255まで)変化させる。変化の各段階における各照射光量に対する監視ウインドウの濃度を画像処理手段6によって求める。線形変換式作成手段10は、照射光量のボリュウム値と濃度との関係を、第1〜第4監視ウインドウ27,28,29,30のそれぞれについて求める。照射光量のボリュウム値と濃度との関係は、ほぼ線形式として得られる。この線形式および線形式をグラフ化したものを含めて、ここでは線形変換式と呼ぶ。
【0032】
光学系調整変数がたとえば撮像手段4のシャッタ速度の場合、入力手段5からの入力操作によって最小から最大まで(たとえば1/10000から1/30まで)変化させる。変化の各段階における各シャッタ速度に対する監視ウインドウの濃度を画像処理手段6によって求める。線形変換式作成手段10は、シャッタ速度値と濃度との関係を、第1〜第4監視ウインドウ27,28,29,30のそれぞれについて求める。前述と同様シャッタ速度値と濃度との関係は、ほぼ線形式として得られる。
【0033】
図2(b)には、光学系調整変数が照射光量の場合についての線形変換式を示す。図2(b)に示すライン31が、第1監視ウインドウ27すなわち金属端子部の画像の線形変換式であり、ライン32およびライン33が、第2および第3監視ウインドウ28,29すなわち白色樹脂部の画像の線形変換式であり、ライン34が、第4監視ウインドウ30すなわち背景画像の線形変換式である。ライン32およびライン33には、高濃度側において、照射光量ボリュウム値が変化しているにも関らず濃度の変化しない部分があり、この部分を便宜上「平坦部」と呼ぶ。一方、ライン32およびライン33の前記「平坦部」を除く部分、ならびにライン31およびライン34は、1次の線形関係にあり、照射光量ボリュウム値と濃度とを互いに変換できるので、この部分を便宜上「変換部」と呼ぶ。線形変換式作成手段10によって、各環境ウインドウ27,28,29,30について得られる線形変換式は、RAM7にストアされる。
【0034】
制御手段11は、設定されている光学系の環境下で画像処理手段6によって求められる各監視ウインドウの画像の平均濃度davを用い、平均濃度davに対応して線形変換式から定められる光学系調整変数の値を求める。次に、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を制御する。このように、制御手段11は、線形変換式と監視ウインドウの画像について得られる平均濃度davとを用いて、光学系の環境である光学系調整変数を自動調整することができる。
【0035】
前述のように光学系の環境のうち、光学系調整変数として選択されるシャッタ速度と照射光量とは自動調整される。次に光学系の環境のうち、残るレンズのフォーカスおよび絞りの設定について説明する。レンズのフォーカスおよび絞りは、被写体2を撮像手段4で撮影して得られる画像をモニタ18に表示し、操作者が、モニタ18画面を目視しながらフォーカスつまみおよび絞りつまみをそれぞれ調整することによって、設定される。レンズのフォーカスおよび絞りは、操作者の目視判断によることなく、以下に述べるような定量化された指標に基づいて設定されてもよい。
【0036】
レンズのフォーカスは、前述の画像処理手段6に以下のような機能を持たせることによって、定量化して設定することができる。画像処理手段6によって、撮像手段4で撮影された画像の濃度を1次微分し、1次微分によって得られる濃度の差分の和である差分和を演算する画像処理を行なう。画像濃度の1次微分による差分和は、フォーカスつまみを回して所定範囲内の各値に設定した状態で求められる。フォーカスつまみの各設定値毎に求められる差分和のうち、最大差分和を示したフォーカスつまみの位置をフォーカスの最適値として選択し設定する。
【0037】
レンズの絞りは、画像処理手段6にさらに以下の機能を持たせることによって、定量化して設定することができる。画像処理手段6は、撮像手段4によって撮影された画像の濃度分布を求め、さらに濃度分布に基づいて濃度の最大値Dmaxと最小値Dminとの絶対値差分である濃度幅Dwを求める演算を行なう。図3は、画像処理手段6によって画像の濃度分布を求めた例を示す図である。図3では、濃度を横軸に、当該濃度の頻度を画素数で縦軸に示す。濃度幅Dwは、濃度分布を示すライン35によって与えられる濃度最大値Dmaxと濃度最小値Dminとの絶対値差分(|Dmax−Dmin|)で与えられる。画像濃度分布における濃度幅Dwは、CCDカメラ14に備わるレンズの絞りつまみを回して所定範囲内の各値に設定した状態で求められる。絞りつまみの各設定値毎に求められる濃度幅Dwのうち、最大濃度幅を示した絞りつまみの位置を絞りの最適値として選択する。
【0038】
前述のように本実施の形態では、フォーカスつまみおよび絞りつまみを操作者が人手によって調整するけれども、フォーカスつまみおよび絞りつまみ値をテーブルデータとしてモニタ18に表示し、入力手段5でそれぞれの値を選択して入力することによって、処理回路20および撮像表示制御器16を介して調整するように構成されてもよい。
【0039】
図4は、本発明の実施の態様である画像処理方法を説明するフローチャートである。図4を参照し、図1に示す画像処理装置1を用いた画像処理方法について説明する。ステップs0では、図1に示す画像処理装置1と、被写体2とを準備し、被写体2の撮像を開始できる状態にある。ステップs1では、固定環境を設定する。ここで固定環境とは、撮像手段4に備わるレンズのフォーカスと絞りとを意味する。本実施の態様では、レンズのフォーカスと絞りとは、操作者によって一旦設定された後、画像処理装置1において自動調整されることなく、設定された条件に固定されたまま用いられるので、固定環境と呼ぶ。
【0040】
図5は、固定環境設定動作を説明するフローチャートである。図5を参照して先の図4に示すステップs1の固定環境設定動作を説明する。ステップs11では、CCDカメラ14のシャッタ速度を仮設定する。シャッタ速度は、被写体2が静止状態であれば、たとえば60分の1(1/60)秒または100分の1(1/100)秒に設定され、被写体2が移動状態であれば、移動速度に応じた値に設定される。ステップs12では、照明手段3の照射光量が仮設定される。本実施の態様では、操作者が、モニタ18に表示される被写体2の画像を観察しながら照射光量を仮設定する。
【0041】
ステップs13では、固定環境の一つであるレンズのフォーカスが設定される。本実施の態様では、レンズのフォーカス設定、すなわちピント調整は、操作者が、モニタ18に表示される被写体2の画像を観察しながらフォーカスつまみを回して好適なピントになるように行なわれる。なおピント調整は、操作者がモニタ18を観察しながら行なう方法に限定されることなく、前述のように被写体2を含む画像を画像処理手段6によって1次微分して濃度の差分和を算出し、差分和が最大になるフォーカスつまみ値を最適フォーカスとして設定する方法によってもよい。
【0042】
ステップs14では、固定環境の一つであるレンズの絞りが設定される。本実施の態様では、レンズの絞り設定、すなわち画像の明るさおよびコントラストの調整は、操作者が、モニタ18に表示される被写体2の画像を観察しながら絞りつまみを回して好適な画像の明るさとコントラストとになるように行なわれる。なお絞り調整は、操作者がモニタ18を観察しながら行なう方法に限定されることなく、前述のように被写体2を含む画像を画像処理手段6によって濃度分布および濃度幅Dwを求める演算を行い、濃度幅Dwが最大になる絞りつまみ値を最適絞りとして設定する方法によってもよい。
【0043】
図4に戻って、ステップs2では、調整環境を設定する。ここで調整環境とは、撮像手段4に備わるCCDカメラ14のシャッタ速度と照明手段3による照射光量とを意味する。シャッタ速度と照射光量とは、設定した環境下において画像濃度が監視濃度範囲外であるとき、前述の線形変換式作成手段10による線形変換式に基づいて、画像処理装置1において自動調整されるので、調整環境と呼ぶ。しかしながら、このステップs2では、シャッタ速度と照射光量とは、まだ自動調整によることなく操作者によって設定される。
【0044】
図6は、調整環境設定動作を説明するフローチャートである。図6を参照して図4に示すステップs2の調整環境設定動作を説明する。ステップs21では、固定環境が設定された状態で、先のステップs1において仮設定されたシャッタ速度を、操作者が微調整して再設定する。このとき、被写体2が移動状態であれば、画像がぶれることを防止するために、被写体2の移動速度に対してシャッタ速度の遅い方の限界を超えないように留意する必要がある。ステップs22では、固定環境が設定された状態で、先のステップs1において仮設定された照射光量を、操作者がモニタ18に表示される画像を観察しながら再調整して設定する。
【0045】
図4に戻って、ステップs3では、環境監視設定を行なう。本ステップでは、ステップs1およびs2において設定した光学系の環境を、固体識別や検査などの実稼働時に監視するために監視ウインドウと監視濃度とを設定する。図7は、環境監視設定動作を説明するフローチャートである。図7を参照して図4に示すステップs3の環境監視設定動作を説明する。
【0046】
ステップs31では、被写体2を含んで得られる撮像画面内において、光学系の環境を監視するべき部位に前述の図2(a)に例示するような監視ウインドウを設ける。ステップs32では、画像処理手段6によって、設定した監視ウインドウの平均濃度davを求める。ステップs33では、監視ウインドウについて得られた平均濃度davに基づいて監視濃度範囲を設定する。本実施の態様では、監視濃度範囲を、監視ウインドウについて得られた平均濃度davの±10%、すなわち0.90dav以上、1.10dav以下の範囲に設定した。
【0047】
ステップs34では、被写体2の種類によって予め定められる数の監視ウインドウを設定したか否かが判断される。この判断は、被写体2の種類毎に設定するべき監視ウインドウの数を、テーブルデータとしてRAM7にストアしておくとともに、初期値「0」として設定し、前述の監視ウインドウを1つ設けるごとに、初期値に「1」を加算するようにし、画像処理手段6が、この加算結果と前述のRAM7から読出した監視ウインドウの数と比較することによって、行なうことができる。判断結果が否定で、設定した監視ウインドウの数が、RAM7から読出した値未満であるとき、ステップs31へ戻り、監視ウインドウの設定以降のステップを繰返す。判断結果が肯定で、設定した監視ウインドウの数が、RAM7から読出した値に一致するとき、メインのフローへ進む。
【0048】
図4へ戻って、ステップs4では、光学系環境の自動調整および設定を行う。このステップにおいて自動調整の対象とされる光学系の環境は、前述のステップs2において述べた調整環境であるシャッタ速度と照射光量とである。本ステップでは、シャッタ速度または照射光量のうちからいずれかを光学系調整変数として選択し、選択した光学系調整変数と画像濃度との線形変換式を作成するとともに、監視ウインドウの画像濃度を監視し、画像濃度が監視濃度範囲外である監視ウインドウが存在する場合、光学系調整変数として選択されたシャッタ速度または照射光量を、線形変換式に基づいて自動調整して設定する。
【0049】
図8は、線形変換式を作成する動作を説明するフローチャートである。図8を参照して図4のステップs4における光学系環境の自動調整設定動作のうち、線形変換式作成動作を説明する。ステップs411では、選択手段9が、光学系の環境因子のうち、調整環境であるシャッタ速度または照射光量のいずれかを光学系調整変数として選択する。
【0050】
なお照明手段3に、照射光量を手動調整する機能しか備えられていない場合、光学系調整変数は、必然的にシャッタ速度が選択される。また被写体の移動速度が速い場合、シャッタ速度は移動速度に応じた短い時間に設定され、調整範囲をほとんど設定することができないので、光学系調整変数には、必然的に照射光量が選択される。
【0051】
ステップs412では、選択された光学系調整変数がシャッタ速度であるか否かが判断される。判断結果が肯定でシャッタ速度が選択されているとき、ステップs413へ進み、判断結果が否定で照射光量が選択されているとき、ステップs414へスキップする。ステップs413では、被写体が移動状態である場合、シャッタ速度に下限値(遅い方の限界値)を設定する。これにより処理時間オーバーと映像ぶれとを防止する。撮像手段4の仕様として定められるシャッタ速度の下限値以上の範囲内で調整できず、処理時間や画像ぶれを考慮した移動状態で調整する場合は、「調整無」を選択する。静止させて調整変数を求める場合は、「調整有」を選択する。
【0052】
ステップs414では、再度光学系調整変数がシャッタ速度であるか否かが判断される。判断結果が肯定で、光学系調整変数がシャッタ速度であるとき、ステップs415へ進み、判断結果が否定で、光学系調整変数が照射光量であるとき、ステップs416へ進む。ステップs415では、シャッタ速度を予め定める変動範囲内の全シャッタ速度に変動させ、各シャッタ速度における監視ウインドウ内の画像濃度を求める。一方ステップs416では、照射光量を予め定める変動範囲内の全照射光量に変動させ、各照射光量における監視ウインドウ内の画像濃度を求める。
【0053】
ステップs417では、シャッタ速度と画像濃度、または照射光量と画像濃度との関係から、線形変換式を作成する。ステップs418では、作成された線形変換式における「平坦部」と「変換部」との境界値を求めて、線形変換式とともに境界値もRAM7へストアする。なお線形変換式に「平坦部」が生じない場合には、境界値がなくてもよい。ステップs419では、被写体2の種類によって予め定められる数の監視ウインドウについて、線形変換式を作成したか否かが判断される。判断結果が否定であるとき、ステップs414へ戻り以降のステップを行なう。判断結果が肯定であるとき、メインのフローへ進む。
【0054】
図9は、線形変換式に基づいて光学系調整変数を自動調整して設定する動作を説明するフローチャートである。ステップs420のスタートでは、メインのフローにおけるステップs0と重複する形でスタートステップが設けられる。監視ウインドウ内の画像濃度を監視して診断し、診断結果に応答して光学系調整変数を自動調整する動作は、ラインの生産稼働中に常時実行されてもよいけれども、その実行中、ラインは生産稼働ではなく調整稼働の状態におかれるので、生産効率の観点からは好ましくない。光学系環境の診断および自動調整は、ラインを長時間停止した後に立上げ稼働させるとき、また画像処理装置を用いた固体識別不良や検査不良などが発生し、ラインの稼働条件を調整した後に立上げ稼働させるときなどに限定して実行されることが好ましい。したがって、実行開始を指示するためのステップを設けることとした。ステップs420では、入力手段5に予め定めるキーを操作することによって、光学系環境の監視および自動調整動作開始を指示する信号が入力された状態である。
【0055】
ステップs421では、撮像手段4によって被写体を含む画像を取込む。ステップs422では、監視ウインドウ内の画像の濃度(監視用画像濃度)を求める。この監視用画像濃度は、監視ウインドウ内の画像の平均濃度davである。ステップs423では、判断手段8は、監視用画像濃度とRAM7から読出された監視濃度範囲とを比較すなわち画像濃度を診断し、診断結果をRAM7にストアする。ステップs424では、被写体の種類によって予め定められる数の監視ウインドウについて画像濃度診断を行なったか否かが判断される。判断結果が否定で、診断した監視ウインドウの数が、予め定められる数未満であるとき、ステップs422へ戻り以降のステップを行なう。判断結果が肯定で、診断した監視ウインドウの数が、予め定められる数に一致するとき、ステップs425へ進む。
【0056】
ステップs425では、判断手段8は、予め定められる数の監視ウインドウすべてについての診断結果をRAM7から読出し、監視用画像濃度が監視濃度範囲外である監視ウインドウが存在するか否かを判断する。判断結果が否定で、すべての監視ウインドウの監視用画像濃度が、監視濃度範囲内であるとき、光学系環境は適正であるのでステップs431へ進む。ステップs431では、判断手段8は、「監視OK」をモニタ18に表示させるとともに出力手段24に出力させ、ステップs432(s5)へ進み光学系環境の自動調整動作が終了する。
【0057】
一方判断結果が肯定で、監視用画像濃度が監視濃度範囲外である監視ウインドウが、1つでも存在するとき、判断手段8からの出力信号によって、「監視NG(No Good)」をモニタ18に表示させるとともに出力手段24に出力する。なお、このとき監視用画像濃度の監視濃度範囲外であった監視ウインドウの数が同時に表示される。
【0058】
ステップs427では、制御手段11が、RAM7にストアされている当該監視ウインドウに対応する線形変換式を読出し、線形変換式に基づいて監視用画像濃度である平均濃度davに対応する光学系調整変数の値を求める。ステップs428では、制御手段11は、さらに前ステップで求めた光学系調整変数の値になるように、選択された光学系調整変数を自動調整し設定する。
【0059】
ステップs429では、光学系調整変数すなわち照射光量とシャッタ速度との両方について、監視用画像濃度が監視濃度範囲外であった監視ウインドウに対する光学系調整変数の調整が完了したか否かが判断される。なお照射光量が手動調整である場合、また被写体の移動速度が速くシャッタ速度の設定可能な範囲が狭い場合などのように、光学系調整変数として用いることのできるものが、照射光量またはシャッタ速度のいずれか一方しか無いとき、このステップs429は実行されることなく次のステップへ進む。
【0060】
判断結果が否定であるとき、ステップs421へ戻り以降のステップを繰返す。判断結果が肯定であるとき、すなわち監視用画像濃度が監視濃度範囲外である監視ウインドウについて調整が完了したけれども、「監視OK」の出力が得られなかったとき、ステップs430へ進む。ステップs430では、判断手段8が、「光学系環境異常」をモニタ18に表示するとともに出力手段24に出力して、ステップs432(s5)へ進み、光学系環境の自動調整動作を完了する。
【0061】
なお「光学系環境異常」が出力された場合、「監視NG」である監視ウインドウの数によって、撮像画面の全エリアが異常であるのか、または特定エリアが異常であるのかを判別し、光源12の玉切れ、シャッタ速度異常、その他外部環境の異常などの項目順に従って点検を行なう。点検の結果、たとえば光源12の玉切れが異常原因であれば、玉を交換した後、光学系の環境を再構築して診断および自動調整動作を実行する。
【0062】
【発明の効果】
本発明によれば、光学系の環境設定項目のうち、シャッタ速度または照射光量が、線形変換式という定量化手段によって定量的かつ自動的に適正な値に設定されるので、操作者の操作によることなく、したがって操作者の技能に熟練を必要とせず、再現性よく光学系の環境設定を行なうことが可能になる。
【0063】
また、光学系の環境の適否を診断することによって、画像処理によるたとえば固体識別や検査における検出不良の原因が、光学系環境の不適に起因するものか、被写体の不良に起因するものかを明らかにすることができる。したがって、前述の固体識別や検査における検出不良原因の解析に要する時間を短縮することが可能になる。
【図面の簡単な説明】
【図1】本発明の実施の一形態である画像処理装置1の構成を簡略化して示すブロック図である。
【図2】監視ウインドウ設定の状態と線形変換式とを例示する図である。
【図3】画像処理手段6によって画像の濃度分布を求めた例を示す図である。
【図4】本発明の実施の態様である画像処理方法を説明するフローチャートである。
【図5】固定環境設定動作を説明するフローチャートである。
【図6】調整環境設定動作を説明するフローチャートである。
【図7】環境監視設定動作を説明するフローチャートである。
【図8】線形変換式を作成する動作を説明するフローチャートである。
【図9】線形変換式に基づいて光学系調整変数を自動調整して設定する動作を説明するフローチャートである。
【符号の説明】
1 画像処理装置
2 被写体
3 照明手段
4 撮像手段
5 入力手段
6 画像処理手段
7 RAM
8 判断手段
9 選択手段
10 線形変換式作成手段
11 制御手段
12 光源
13 電源
14 CCDカメラ
15 A/D変換器
16 撮像表示制御器
17 フレームメモリ
18 モニタ
19 D/A変換器
20 処理回路
21 ROM
22 I/Oインターフェイス

Claims (3)

  1. 撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定を行なう画像処理方法であって、
    被写体を撮影することによって得られる撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、
    前記監視ウインドウ毎に画像濃度の平均値である平均濃度davを求め、
    前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲内であるか否かを判断し、
    前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲外である前記監視ウインドウが少なくとも1つ存在するとき、前記被写体を撮影する撮像手段のシャッタ速度または前記被写体を光照射する照明手段の照射光量の少なくともいずれか一方を光学系調整変数として選択し、
    選択された光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する前記監視ウインドウの画像の濃度を求めて、光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成し、
    線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を設定することによって光学系の環境を自動調整することを特徴とする画像処理方法。
  2. 撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定を行なう画像処理方法であって、
    前記被写体を撮影する撮像手段のシャッタ速度と、前記被写体を光照射する照明手段の照射光量とを予め定める値に仮設定した状態で、前記撮像手段に備わるレンズのフォーカスと絞りとを設定し、
    設定されたレンズのフォーカスおよび絞りの環境で、前記撮像手段のシャッタ速度と前記照明手段の照射光量とを所望の値に設定し、
    前記撮像手段による撮像画面全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、監視ウインドウ毎に画像濃度の平均値である平均濃度davを求め、
    前記監視ウインドウ毎の前記平均濃度davが予め定める監視濃度範囲内であるか否かを判断し、
    前記監視ウインドウ毎の前記平均濃度davが前記監視濃度範囲外である前記監視ウインドウが少なくとも1つ存在するとき、シャッタ速度または照射光量の少なくともいずれか一方を光学系調整変数として選択し、
    選択された光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する前記監視ウインドウの画像の濃度を求めて、光学系調整変数と監視ウインドウの画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成し、
    線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を設定することによって光学系の環境を自動調整することを特徴とする画像処理方法。
  3. 撮像されるべき被写体を撮影し、撮影された被写体の画像処理を行なうに際し、撮影条件である光学系の環境設定をすることのできる画像処理装置において、
    前記被写体を光量可変に照射することのできる照明手段と、
    被写体を撮影する撮像手段であって、シャッタ速度、絞りおよびフォーカス調整の可能な撮像手段と、
    前記撮像手段によって撮影される画像全域のうち監視するべき部位に監視ウインドウを1または2以上設定し、前記監視ウインドウの画像の濃度を求める画像処理を行ない、前記監視ウインドウ毎に画像濃度の平均値である平均濃度davを演算するとともに、前記監視ウインドウ毎に平均濃度davに基づいて監視濃度範囲を設定する画像処理手段と、
    前記平均濃度davおよび前記監視濃度範囲がストアされる記憶手段と、
    前記監視濃度範囲を記憶手段から読出し、前記撮像手段によって撮影される前記監視ウインドウの画像の濃度が、前記監視濃度範囲内であるか否かを判断する判断手段と、
    前記シャッタ速度または前記照射光量の少なくともいずれか一方を光学系調整変数として選択する選択手段と、
    選択手段によって選択される光学系調整変数を変動させ、光学系調整変数の変動に伴って変動する画像の濃度を求めて、光学系調整変数と画像の濃度との関係として与えられる線形変換式を前記監視ウインドウ毎に作成する線形変換式作成手段と、
    線形変換式に基づいて、前記平均濃度davに対応して定められる光学系調整変数の値を求め、求められた光学系調整変数の値になるように、光学系調整変数として選択されたシャッタ速度または照射光量を制御する制御手段とを含み、光学系の環境を自動調整することを特徴とする画像処理装置。
JP2003007537A 2003-01-15 2003-01-15 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置 Expired - Lifetime JP4094435B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003007537A JP4094435B2 (ja) 2003-01-15 2003-01-15 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003007537A JP4094435B2 (ja) 2003-01-15 2003-01-15 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置

Publications (2)

Publication Number Publication Date
JP2004221988A JP2004221988A (ja) 2004-08-05
JP4094435B2 true JP4094435B2 (ja) 2008-06-04

Family

ID=32897604

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003007537A Expired - Lifetime JP4094435B2 (ja) 2003-01-15 2003-01-15 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置

Country Status (1)

Country Link
JP (1) JP4094435B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007196301A (ja) * 2006-01-24 2007-08-09 Denso Corp 画像を用いた自動運転装置及び自動運転方法

Also Published As

Publication number Publication date
JP2004221988A (ja) 2004-08-05

Similar Documents

Publication Publication Date Title
US6542180B1 (en) Systems and methods for adjusting lighting of a part based on a plurality of selected regions of an image of the part
US8289382B2 (en) Method for producing high-quality reproductions of the front and/or rear sections of the eye
US8169502B2 (en) Video camera
CN110196576A (zh) 图像处理系统以及设定方法
JP3590533B2 (ja) 内視鏡装置
WO2020049688A1 (ja) 光源制御装置、内視鏡システム、及び、調光制御方法
JP4608089B2 (ja) 開ループ光強度較正方法及び装置
JP4360011B2 (ja) 画像処理装置および画像処理方法、並びに記録媒体
JP4094435B2 (ja) 光学系の環境を自動調整することを特徴とする画像処理方法および画像処理装置
KR101396342B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP4551270B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびカメラ
JP5609459B2 (ja) 二値化処理方法及び画像処理装置
JP5587083B2 (ja) 撮像装置及びその制御方法
JP4477782B2 (ja) 被測定物のイメージにおける複数選択領域該当箇所の照明調整装置及び方法
JP2003015211A (ja) 撮影装置、撮影方法及び撮影システム
JP4459506B2 (ja) 内視鏡用自動調光装置および電子内視鏡装置
EP1599038A1 (en) Electronic camera
JP4080897B2 (ja) 画像処理方法および画像処理装置
US5710841A (en) Method for improving the contrast in photographic film materials
JP2005221708A (ja) 顕微鏡撮影装置、明るさ調整方法および明るさ調整プログラム
JP2000237144A (ja) 眼科撮影装置
CN100451819C (zh) 投影机及曝光调整方法
JP2007006343A (ja) 撮像システム
JP4131007B2 (ja) 内視鏡用自動調光装置および電子内視鏡装置
JPH07241270A (ja) 光源電圧可変式電子内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050701

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080304

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080305

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110314

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110314

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110314

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110314

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120314

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130314

Year of fee payment: 5