JP4450464B2 - 赤外線撮像装置 - Google Patents
赤外線撮像装置 Download PDFInfo
- Publication number
- JP4450464B2 JP4450464B2 JP2000005476A JP2000005476A JP4450464B2 JP 4450464 B2 JP4450464 B2 JP 4450464B2 JP 2000005476 A JP2000005476 A JP 2000005476A JP 2000005476 A JP2000005476 A JP 2000005476A JP 4450464 B2 JP4450464 B2 JP 4450464B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- focus
- temperature range
- infrared
- evaluation value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Photometry And Measurement Of Optical Pulse Characteristics (AREA)
- Automatic Focus Adjustment (AREA)
Description
【発明の属する技術分野】
本発明は、赤外線撮像装置に関し、詳しくはオートフォーカス機能を有する赤外線撮像装置に関する。
【0002】
【従来の技術】
被写体からの可視光線を用いる通常のビデオカメラでは、種々のオートフォーカス方式が提案され、製品化されている。例えば、カメラから被写体に向けて光(赤外線)を発射し、被写体で反射してカメラに戻ってきた光を受光して被写体までの距離を測定するアクティブ方式、被写体からの可視光の位相差を利用するパッシブ方式等がある。また、近年急激に普及してきたディジタルカメラでは、撮像素子から得られた映像信号の演算処理によりフォーカスが合った状態を検出するインナーフォーカス方式が多く用いられている。
【0003】
インナーフォーカス方式は、例えば特開平3−2685858号公報に開示されているように、映像信号の輝度情報を高域通過フィルタ(HPF)に通し、得られた高域成分からエッジ成分を抽出し、これを評価することによりフォーカスが合っているか否かを判断する。このインナーフォーカス方式は、撮像素子から得られた映像信号を利用してフォーカスの合否を検出するので、特別なセンサを必要とせず、しかもパララックス(視差)が少ないといった利点を有する。
【0004】
【発明が解決しようとする課題】
しかしながら、上記のインナーフォーカス方式は、映像信号の輝度情報を用いてフォーカスの合否を判断するので、得られる映像のコントラストが少ない場合はさほど有効ではない。また、赤外線ビデオカメラは輝度情報ではなく温度情報を抽出して映像化するものであるから、上記のインナーフォーカス方式をそのまま赤外線ビデオカメラに適用することはできない。
【0005】
輝度情報に代えて温度情報を用いることにより、インナーフォーカス方式を赤外線ビデオカメラに適用することが考えられる。しかし、赤外線ビデオカメラの精度上の問題があり、このため、フォーカスの合否に関して、温度境界におけるコントラスト(温度差)が、可視光線の輝度の場合ほど明確でないという問題がある。
【0006】
そこで、本発明は、上記のような従来の問題を解決し、簡単な構成によって赤外線撮像装置のオートフォーカスを実現することを目的とする。
【0007】
被写体を含む撮像対象からの赤外線をフォーカスレンズを介して赤外線検出センサに集光し、赤外線検出センサから得られた赤外線撮像情報を処理装置で処理して得られたイメージを表示画面に表示する赤外線撮像装置であって、前記フォーカスレンズを光軸方向に駆動するフォーカスレンズ駆動装置が設けられ、前記処理装置が、前記フォーカスレンズ駆動装置を制御することによって前記フォーカスレンズを光軸方向に所定ピッチで移動させながら、前記フォーカスレンズの位置のそれぞれの評価値として、当該位置における前記赤外線撮像情報に含まれる全画素または特定の領域の画素のうち、所定の温度範囲内にある温度の情報を有する画素の総数を算出し、前記各位置のうち、前記評価値が極大又は極小となる位置をベストフォーカスの位置と判定する、ことを特徴とする。このような構成により、赤外線撮像装置におけるインナーオートフォーカスが可能となる。
【0008】
例えば被写体にフォーカスが合っていない状態では、被写体の周囲に被写体とほぼ同じ温度情報を有する画素で構成されたオーラ部が形成されるので、所定の温度範囲内にある温度の情報を有する画素の総数がベストフォーカス時より多くなる。したがって、所定の温度範囲内にある温度の情報を有する画素の総数(評価値)が極小となる位置をベストフォーカスの位置と判定することができる。
【0009】
また、赤外線撮像情報の全領域のうちの特定の領域を設定する手段が赤外線撮像装置に備えられる。前記処理装置は、設定された前記特定の領域に含まれる全画素のうち、所定の温度範囲内にある温度の情報を有する画素の総数を前記評価値として算出し、該評価値が極大又は極小となる位置をベストフォーカスの位置と判定する。この構成によれば、画面の全領域ではなく、その一部、例えば中央部を評価値算出の対象領域として設定することができる。
【0010】
更に好ましい構成として、所定の温度範囲として、フォーカスの対象となる被写体(例えば人体)の予測可能な温度範囲を設定する。
また、所定の温度範囲として、フォーカスの対象となる被写体(例えば人体)の予測可能な温度範囲を含まず、かつ、フォーカスの対象とならない非被写体(例えば背景となる物体)の予測可能な温度範囲を含まない温度範囲を設定する。
【0011】
また、所定の温度範囲として、フォーカスの対象とならない非被写体の予測可能な温度範囲を設定する。前述のように、例えば被写体にフォーカスが合っていない状態では、被写体の周囲に被写体とほぼ同じ温度情報を有する画素で構成されたオーラ部が形成される。この結果、背景となる非被写体の温度範囲内にある温度の情報を有する画素の総数がベストフォーカス時より少なくなる。したがって、非被写体の予測可能な温度範囲を所定の温度範囲として設定した場合は、この温度範囲内にある温度の情報を有する画素の総数(評価値)が極大となる位置をベストフォーカスの位置と判定すればよい。
【0012】
また、前記評価値が極大又は極小となる位置が複数得られたとき、それら複数の位置の中からベストフォーカスの位置を1つ選択する手段を備えている構成が好ましい。
【0013】
また、処理装置が、画面を複数の領域に分割し、各領域ごとに所定の温度範囲内にある温度の情報を有する画素の総数を算出し、該算出結果に基づいて、フォーカスを合わせるべき領域を決定するフォーカス領域自動決定処理を更に実行することが好ましい。
【0014】
更に好ましくは、所定の温度範囲として、フォーカスの対象となる被写体の予測可能な温度範囲を設定し、前記処理装置が、所定の温度範囲内にある温度の情報を有する画素の総数が最も多い領域を、フォーカスを合わせるべき領域として決定する。
【0015】
また、処理装置が、所定の温度範囲内にある温度の情報を有する画素の総数を算出し、該算出結果に基づいて、フォーカスを合わせるべき複数の領域を選定して表示し、使用者が複数の領域の中から1つを決定するように構成してもよい。
【0016】
【発明の実施の形態】
以下、本発明の実施形態を図面に基づいて説明する。
図1は、本発明の実施形態に係る赤外線撮像装置の全体構成を示すブロック図である。
赤外線撮像装置10は、フォーカスレンズ11、赤外線検出センサ12、A/D変換器13、ディジタル信号処理回路14、フォーカスレンズ駆動装置15、表示装置16を備えている。被写体の情報を含む赤外線がフォーカスレンズ11を通って赤外線検出センサ(イメージセンサ)12に結像する。赤外線検出センサ12は、受光した赤外線情報を電気信号(アナログ信号)に変換しA/D変換器13に与える。A/D変換器13はアナログ信号をディジタル信号に変換してディジタル信号処理回路14に与える。
【0017】
ディジタル信号処理回路14はコンピュータ等で構成され、入力された赤外線撮像信号(ディジタル信号)から被写体のイメージを再現し、映像信号として表示装置16へ出力する。表示装置16は、CRT、LCD等で構成され、ディジタル信号処理回路14から与えられる映像信号にしたがって被写体の赤外線によるイメージを画面に表示する。また、ディジタル信号処理回路14は、A/D変換器13から入力されたディジタル信号(被写体の赤外線撮像信号)に基づいて、フォーカスレンズ駆動装置15を介してフォーカスレンズ11を駆動するオートフォーカス制御をも実行する。
【0018】
図2は、赤外線撮像装置のオートフォーカス時の動作を示すブロック図である。デジタル信号処理回路14は、フォーカスを合わせるために、フォーカスレンズを少しずつ移動させる指令21をフォーカスレンズ駆動装置15に与える。フォーカスレンズ駆動装置15は与えられた指令にしたがって、フォーカスレンズ11を光軸方向(矢印参照)に移動させる。フォーカスレンズ11が移動すると、その結果、フォーカスレンズ11を通って赤外線検出センサ12に結像する被写体の赤外線撮像情報が変化する。この変化はA/D変換器13を介してディジタル信号処理回路14に与えられるディジタル信号に反映される。
【0019】
デジタル信号処理回路14は、与えられたディジタル信号(赤外線撮像情報)に基づいて以下に述べる評価値を計算する。フォーカスレンズの移動可能範囲又は指定された移動範囲内において、所定のピッチでフォーカスレンズ11を移動させながら、各位置での評価値を計算する。その結果得られるフォーカスレンズの位置に対する評価値の変化から、例えば評価値が極大又は極小なる位置をベストフォーカス位置として求める。
【0020】
上記の評価値として、例えば所定の温度範囲内にある画素の総数を求める。赤外線撮像情報は、被写体の各点(イメージの画素に対応する)の温度情報の集合として二次元のイメージを形成するものである。そこで、被写体の注目温度近傍において下限温度Tlower及び上限温度Tupperを設定し、この温度範囲内にある画素数の総和を評価値として下式(数1)から求める。
【0021】
【数1】
【0022】
式(数1)において、E(p)はフォーカスレンズの位置(以下、レンズ位置という)pでの評価値、Xは映像の幅(横方向サイズ)、Yは映像の高さ(縦方向サイズ)、d(x,y)は画素(x,y)での温度(に相当する値)である。関数f(t)は、温度tがTlower≦t≦Tupperのときf(t)=1、それ以外のときはf(t)=0となる。
【0023】
したがって、上式(数1)によれば、温度が下限温度Tlowerから上限温度Tupperrの間にある画素の総数である評価値E(p)が算出される。この評価値E(p)が極小となる位置pをベストフォーカス位置とする。フォーカスがずれていると、図3に示すように、被写体31の周りに被写体31の温度に近いドーナッツ状のオーラ部32が感知されやすくなる。このとき、下限温度Tlowerから上限温度Tupperrの温度範囲に対応する部分が被写体31の輪郭内から、オーラ部32の外縁まで広がり、この温度範囲内にある画素の総数が多くなる。それゆえ、上述のように、温度が下限温度Tlowerから上限温度Tupperrの間にある画素の総数である評価値E(p)が極小となる位置pをベストフォーカスとすることにより、オートフォーカスが実行される。
【0024】
上記の実施形態において、フォーカスがずれていると被写体の画素が他の部分(すなわち非被写体部)に分散すると考えることもできる。逆に非被写体部の画素が被写体に分散して現れる可能性も考えられ、この場合は式(数1)による簡単な計算のみでは、正確なフォーカスが得られないことになる。そこで、次式(数2)のように、注目温度の分散を考慮した評価値を計算することが望ましい。
【0025】
【数2】
【0026】
式(数2)では、注目温度の画素(x,y)と他の注目温度の画素(w,z)との距離が考慮されている。フォーカスが合えば被写体温度の分散が小さくなり、評価値E(p)は一層小さくなる。したがって、評価値E(p)が最小となる位置pをベストフォーカスとすることにより、オートフォーカスが実行される。
【0027】
また、上記の実施形態は得られた赤外線映像の全体を対象として、各画素の情報から評価値を求めているが、評価値を求める対象領域を絞ってもよい。例えば図4に示すように、赤外線映像の全体のうち、左上のコーナ位置Pstart(xstart,ystart)及び右下のコーナ位置Pend(xend,yend)で規定される矩形領域を評価値を求める対象領域とすれば、上式(数2)は下式(数3)のようになる。
【0028】
【数3】
【0029】
を評価式とすることができる。この場合も上述の処理と同じ処理によってオートフォーカスが実行される。
また、フォーカスの対象である被写体の温度範囲だけでなく、フォーカスの対象とならない非被写体(例えば背景となる物体)の温度範囲も分かっている場合は、更に精密な評価値の算出による正確なオートフォーカスが可能となる。すなわち、被写体の温度範囲をTlower≦t≦Tupperに設定し、非被写体の温度範囲をRlower≦t≦Rupperに設定した場合、下式(数4)から評価値E(p)を求める。
【0030】
【数4】
【0031】
式(数4)において、関数O(t)は、温度tが被写体の温度範囲にも非被写体の温度範囲にも含まれない場合、すなわち、t<Tlower又はTupper<tで、かつ、t<Rlower又はRupper<tのときにO(t)=1となり、それ以外の場合(被写体の温度範囲又は非被写体の温度範囲に含まれる場合)はO(t)=0となる。したがって、式(数4)はフォーカスが合えば実存しないはずの温度情報を有する画素の総数を算出していることになる。この算出結果である評価値E(p)が極小となる位置pをベストフォーカスとすることにより、オートフォーカスが実行される。
【0032】
また、非被写体の温度範囲のみが分かっている場合は、非被写体の温度範囲のみを設定して評価値を求め、オートフォーカスを実行することが可能である。つまり、非被写体の温度範囲をRlower≦t≦Rupperに設定した場合、式(数1)、式(数2)又は式(数3)におけるf(t)を値tがRlower<t<Rupperのときf(t)=1、それ以外のときはf(t)=0として、評価値E(p)を求める。この場合、フォーカスが合えば図3に示したオーラ部32が小さくなり、その分だけ非被写体(被写体31の背景部分)が広くなる。したがって、評価値E(p)が極大となる位置pをベストフォーカスとすることにより、オートフォーカスが実行される。
【0033】
例えば、面状の背景に対して被写体を含む複数の物体が撮像範囲に含まれる場合、上述のようにして求めた評価値の極小値又は極大値が、フォーカスレンズの光軸方向での移動に伴って複数現れることがある。この場合は、評価値E(p)が極小値又は極大値になる複数の位置のうち、例えば撮像装置に最も近い物体に対応する位置をベストフォーカスとして決定するようにあらかじめ決めておく。あるいは、複数の位置をベストフォーカスの候補として画面に表示し、使用者がその時点で入力する条件(例えば撮像装置に最も近い、又は最も遠い物体を選択)にしたがってベストフォーカスの位置を選択するように構成してもよい。
【0034】
次に、画面上のどの部分にフォーカスを合わせるかを決定するためのフォーカス領域自動決定方法の実施形態について説明する。
図5は、本発明によるフォーカス領域自動決定方法の一例を示している。画面51を複数の領域(図5では16個の領域)に分割する。そして、それぞれの領域内において、上述のような計算により所定温度範囲にある画素の総数を算出し、所定の温度範囲にある画素の総数が最も多い領域を、フォーカスを合わせるべき領域と決定する。図5の例では、被写体52が主としてハッチングされた領域53に存在している。したがって、被写体52の温度が既知の場合は、その温度を含む範囲を上記の所定温度範囲として設定することにより、領域53がフォーカスを合わせるべき領域と決定されることになる。
【0035】
ただし、画面を分割する数、領域の形及び大きさは上記の例に限らず任意に決めることができる。中心領域に重みを与える方法を併用しても良い。
また、フォーカスの対象である被写体の温度範囲だけでなく、フォーカスの対象とならない非被写体(例えば背景となる物体)の温度範囲も分かっている場合は、オートフォーカス方法の実施形態で述べたのと同様に、被写体の温度範囲及び非被写体の温度範囲を指定してもよい。この場合、被写体の温度範囲にある画素の総数が最も多く、かつ、非被写体の温度範囲にある画素の総数が最も少ない領域を、フォーカスを合わせるべき領域と決定する。
【0036】
更に、被写体の温度範囲内の温度情報を有する画素の総数が多い領域が画面内に複数存在する場合が考えられる。例えば図6に示すように、被写体52の温度に近い温度の他の物体54が画面内に存在する場合である。この場合は、領域53のみならず領域55も所定温度範囲(被写体の温度範囲)内の温度情報を有する画素の総数が多くなる。そして、上記の画素の総数が最も多い領域を選択したとき、領域53が選択されずに領域55が選択される可能性もある。このような場合は、フォーカスを合わせるべき領域を1つの領域まで自動的に絞り込むのではなく、複数の候補領域を画面上に提示し、使用者がポインティングデバイス等の入力装置を用いて最終的に1つの領域を選択するように構成することが好ましい。
【0037】
以上、本発明の実施形態を説明したが、本発明は上記の実施形態に限らず、種々の形態で実施することが可能である。
【0038】
【発明の効果】
以上に説明したように、本発明の赤外線撮像装置によれば、処理装置が、フォーカスレンズ駆動装置を制御することによってフォーカスレンズを光軸方向に所定ピッチで移動させながら、各フォーカスレンズ位置において赤外線撮像情報から温度に関する評価値を算出し、得られたフォーカスレンズ位置と評価値との関係からベストフォーカスを判定するので、特別な付加機構を設けることなくオートフォーカスが実現する。
【0039】
特に、フォーカスの対象となる被写体の予測可能な温度範囲を設定し、この範囲内にある温度の情報を有する画素の総数を評価値として算出することにより、オートフォーカスが簡単な構成で実現される。
【0040】
更に、フォーカスの対象とならない非被写体の温度範囲を予測可能である場合は、この温度範囲も設定することにより、オートフォーカスの精度を上げることができる。
【0041】
また、画面を複数の領域に分割し、各領域ごとに所定の温度範囲内にある温度の情報を有する画素の総数を算出し、該算出結果に基づいて、フォーカスを合わせるべき領域を決定するフォーカス領域自動決定処理をも実行することができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る赤外線撮像装置の全体構成を示すブロック図である。
【図2】赤外線撮像装置のオートフォーカス時の動作を示すブロック図である。
【図3】フォーカスが合っていないときに、被写体の周りに現れるドーナッツ状のオーラ部を示す図である。
【図4】赤外線映像の全体のうちの評価値を求める対象として設定される矩形領域を例示する図である。
【図5】本発明によるフォーカス領域自動決定方法の一例を示す図である。
【図6】被写体の温度に近い温度の他の物体が画面内に存在する状態を示す図である。
【符号の説明】
10 赤外線撮像装置
11 フォーカスレンズ
12 赤外線検出センサ
13 A/D変換器
14 ディジタル信号処理回路(処理装置)
15 フォーカスレンズ駆動装置
16 表示装置
Claims (1)
- 被写体を含む撮像対象からの赤外線をフォーカスレンズを介して赤外線検出センサに集光し、赤外線検出センサから得られた赤外線撮像情報を処理装置で処理して得られたイメージを表示画面に表示する赤外線撮像装置であって、
前記フォーカスレンズを光軸方向に駆動するフォーカスレンズ駆動装置が設けられ、
前記処理装置が、
前記フォーカスレンズ駆動装置を制御することによって前記フォーカスレンズを光軸方向に所定ピッチで移動させながら、前記フォーカスレンズの位置のそれぞれの評価値として、当該位置における前記赤外線撮像情報に含まれる全画素または特定の領域の画素のうち、所定の温度範囲内にある温度の情報を有する画素の総数を算出し、
前記各位置のうち、前記評価値が極大又は極小となる位置をベストフォーカスの位置と判定する、
ことを特徴とする赤外線撮像装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2000005476A JP4450464B2 (ja) | 2000-01-14 | 2000-01-14 | 赤外線撮像装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2000005476A JP4450464B2 (ja) | 2000-01-14 | 2000-01-14 | 赤外線撮像装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2001194579A JP2001194579A (ja) | 2001-07-19 |
| JP4450464B2 true JP4450464B2 (ja) | 2010-04-14 |
Family
ID=18534141
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2000005476A Expired - Fee Related JP4450464B2 (ja) | 2000-01-14 | 2000-01-14 | 赤外線撮像装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4450464B2 (ja) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5993133B2 (ja) * | 2011-11-24 | 2016-09-14 | 株式会社キーエンス | 画像処理センサ、フォーカス調整方法及びコンピュータプログラム |
| JP6797070B2 (ja) * | 2017-04-28 | 2020-12-09 | 日本アビオニクス株式会社 | 赤外線撮影装置 |
| JP7187221B2 (ja) * | 2018-09-04 | 2022-12-12 | アズビル株式会社 | 焦点調整支援装置および焦点調整支援方法 |
| KR102450595B1 (ko) * | 2020-10-26 | 2022-10-07 | 삼성전기주식회사 | 적외선 이미지 센서 및 적외선 카메라 모듈 |
-
2000
- 2000-01-14 JP JP2000005476A patent/JP4450464B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2001194579A (ja) | 2001-07-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7676604B2 (ja) | 撮像装置、コンピュータプログラム、および撮像制御方法 | |
| JP7424521B2 (ja) | 電子機器、及びプログラム | |
| KR101173471B1 (ko) | 오토 포커스 기능을 가진 촬영장치 | |
| JP2010093422A (ja) | 撮像装置 | |
| US12132987B2 (en) | Image pickup apparatus capable of setting focus detection area to area that user wants to set for detectable subject, image processing apparatus, control method for image processing apparatus, control method for image pickup apparatus, and storage medium | |
| JP7646389B2 (ja) | 撮像装置、コンピュータプログラム、記憶媒体及び撮像装置の制御方法 | |
| US7725019B2 (en) | Apparatus and method for deciding in-focus position of imaging lens | |
| JP6635764B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
| US8358847B2 (en) | Display apparatus and display method | |
| JP4450464B2 (ja) | 赤外線撮像装置 | |
| JP7152557B2 (ja) | 撮像装置、撮像方法、プログラム、及び記録媒体 | |
| JP2003075713A (ja) | オートフォーカス装置及び方法、並びにカメラ | |
| CN101116325A (zh) | 成像装置 | |
| JP2020115204A (ja) | 撮像装置 | |
| JP2007133301A (ja) | オートフォーカスカメラ | |
| JP5965654B2 (ja) | 追尾装置及び撮像装置、撮像装置に用いる追尾方法 | |
| JP2580516B2 (ja) | 実時間3次元運動測定装置およびその方法 | |
| US12621569B2 (en) | Image pickup apparatus capable of setting focus detection area to area that user wants to set for detectable subject, image processing apparatus, control method for image processing apparatus, control method for image pickup apparatus, and storage medium | |
| US11800245B2 (en) | Image pickup apparatus capable of keeping focus on subject even when moving direction of subject changes in time series, control method for image pickup apparatus, and storage medium | |
| JP5094561B2 (ja) | カメラ | |
| JP2012151910A (ja) | 撮像装置及びプログラム | |
| JP2004219943A (ja) | モニタ付き合焦装置 | |
| WO2024203228A1 (ja) | 焦点制御装置及び方法、並びに撮像装置、プログラム及び記録媒体 | |
| KR20230155967A (ko) | 거리정보 생성 장치 및 방법 | |
| JP2021005763A (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091104 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091224 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100126 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100126 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130205 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130205 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140205 Year of fee payment: 4 |
|
| LAPS | Cancellation because of no payment of annual fees |