JP4316629B2 - 画像処理システム、画像取得方法及びプログラム - Google Patents
画像処理システム、画像取得方法及びプログラム Download PDFInfo
- Publication number
- JP4316629B2 JP4316629B2 JP2007087187A JP2007087187A JP4316629B2 JP 4316629 B2 JP4316629 B2 JP 4316629B2 JP 2007087187 A JP2007087187 A JP 2007087187A JP 2007087187 A JP2007087187 A JP 2007087187A JP 4316629 B2 JP4316629 B2 JP 4316629B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- imaging
- area
- illumination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Description
本発明の第1の実施形態に係る画像処理システムについて説明する。
上述の構成例では、照明制御部3として、特定の形状の穴が開けられた遮光板を用いた。これ以外にも、LED照明などを用いた場合、LED自体に強い光の指向性を持たせることができる。指向性の強いLEDを下向きに並べた長方形の照明部2を用意すれば、その真下に、照明部分の大きさを1面とする直方体の空間が照らされることになる。このような場合は、照明制御部3は、LEDに指向性を持たせるレンズである。
また、上述の構成例では、画像取得部4として、CCDイメージセンサーを用い、連続する2フレームの撮像を第1の撮像、第2の撮像とし、その差分画像を計算した。一般的に、CCDイメージセンサーは、光電変換部で光を電荷に変換した後、電荷転送部で転送し、最後に電荷量を電圧に変換して出力する。電圧をA/D変換し、デジタルデータで出力する場合もある。光電変換部から電荷転送部への移動が、偶数ライン、奇数ラインで別々に行うことができるCCDイメージセンサーもある。そのようなCCDイメージセンサーを用いた場合、電荷転送部に、第1の画像の情報と、第2の画像の情報が交互に並ぶように制御することで、1フレーム分の画像で、第1の画像と第2の画像を同時に取得することができる。この場合、CCDイメージセンサーの出力で、ライン毎に第1の画像と第2の画像が交互に出力されるため、ラインバッファだけで、差分動作が行えるという利点もある。この構成については、特開平11−316645号公報に詳述されている。
上述の構成例では、設定された注目領域と第3の画像(差分画像)から、第2の画像(自然画像)を加工したが、場合によっては、第1の画像を加工しても良い。撮像される領域自体が暗いか、照明部2が領域を照らす光の大部分を占めているような場合は、第2の画像では、暗くなってしまい、適切な画像でなくなってしまうことがある。そのような場合は、第1の画像を加工して提示することで、見やすい画像を提示することができる。また、環境の状態や、画像の状態によって、第1の画像と第2の画像とのいずれを加工するのかを、切り替えるようにしても良い。
また、上述の構成例では、基本的に監視したい領域(注目領域)を、照明が照らされる領域と、画像または部分画像が切り取る領域との交差部分として設定した。より自由度の高い注目領域の設定を行いたい場合は、さらに別の照明を用いて空間を区切ることもできる。
上述の構成例では、時間的に連続する2回の撮像を行い、その差分画像を取得しているが、撮像間隔と周りの環境光の変動の関係によっては、注意が必要となる。例えば、環境光が通常の蛍光灯照明であれば、この環境光は、電源周波数に関連して、100Hz(関東)または120Hz(関西)の周期で明るさが変動する。この周期と全く関係ない間隔、期間で2回の撮像が行われると、2回の撮像の間に環境光の強さが変わり、差分画像として環境光の変動成分が現れてしまう。この場合、例えば、撮像期間を、1/100秒もしくは1/120秒かその整数倍にすることで、撮像期間に入る、環境光の変動周期の数が同じになるため、環境光変動の影響を受けないようになる。また、撮像間隔を1/100秒もしくは1/120秒かその整数倍にすることで、2回の撮像に関与する環境光の位相がそろうため、やはり環境光変動の影響を受けないようになる。このように、場合によっては、環境光の変動に適した動作を行う必要がある。
本発明の第2の実施形態に係る画像処理システムについて説明する。
また、本実施形態は、コンピュータに所定の手順を実行させるための、あるいはコンピュータを所定の手段として機能させるための、あるいはコンピュータに所定の機能を実現させるためのプログラムとして実施することもできる。加えて該プログラムを記録したコンピュータ読取り可能な記録媒体として実施することもできる。
Claims (10)
- タイミング信号を発生するタイミング信号発生部と、
前記タイミング信号により発光の有無が制御される照明部と、
前記照明部が空間の限定された領域を照らすように調整する照明制御部と、
前記照明部が発光しているときの画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記照明部の照らす限定された領域の一部を切り取る画像である第1の画像を取得するために、前記タイミング信号に従って前記照明部とは異なる位置から撮像を行う第1の撮像部と、
前記照明部が発光していないときに前記第1の画像と同じ領域を撮像した第2の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行う第2の撮像部と、
前記第1の画像と前記第2の画像との差分である第3の画像を取得する差分画像取得部と、
前記第1又は第2の画像中に、前記限定された領域に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定する注目領域設定部と、
前記第3の画像から、前記注目領域内に存在する画像を抜き出す画像加工部とを備えたことを特徴とする画像処理システム。 - タイミング信号を発生するタイミング信号発生部と、
前記タイミング信号により発光の有無が制御される第1の照明部と、
前記第1の照明部が空間の限定された第1領域を照らすように調整する第1の照明制御部と、
前記タイミング信号により前記第1の照明部が発光していないときに発光するように制御される第2の照明部と、
前記第2の照明部が、空間の限定された第2領域を照らすように調整する第2の照明制御部と、
前記第1の照明部が発光しているときの画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記第1領域の一部を切り取る画像である第1の画像を取得するために、前記タイミング信号に従って前記第1及び第2の照明部とは異なる位置から撮像を行う第1の撮像部と、
前記第1及び第2の照明部がいずれも発光していないときに前記第1の画像と同じ領域を撮像した第2の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行う第2の撮像部と、
前記第2の照明部が発光しているときに前記第1及び第2の画像と同じ領域を撮像した第4の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行う第3の撮像部と、
前記第1の画像と前記第2の画像との差分である第3の画像と、前記第4の画像と前記第2の画像との差分である第5の画像とを取得する差分画像取得部と、
前記第1、第2又は第4の画像中において、前記第1領域と前記第2領域との両方に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定する注目領域設定部と、
前記第3の画像と第5の画像との両方に存在する画像のうちから、前記注目領域内に存在する画像を抜き出す画像加工部とを備えたことを特徴とする画像処理システム。 - 近赤外光を発光する照明部と、
前記照明部が空間の限定された領域を照らすように調整する照明制御部と、
前記照明部が発光する近赤外光の反射光による画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記照明部の照らす限定された領域の一部を切り取る画像である第1の画像を取得するために、前記照明部とは異なる位置から撮像を行う第1の撮像部と、
前記第1の画像と同じ領域を撮像した自然画像である第2の画像を取得するために、前記位置から撮像を行う第2の撮像部と、
前記第2の画像中に、前記限定された領域に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定する注目領域設定部と、
前記第1の画像から、前記注目領域内に存在する画像を抜き出す画像加工部とを備えたことを特徴とする画像処理システム。 - 前記画像加工部は、求めた前記加工用画像をマスクとして、前記加工対象画像から、該マスク中に存在する画像に対応する領域を抜き出したものを、前記出力用画像として生成することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理システム。
- 前記画像加工部は、前記加工対象画像のうち、求めた該加工用画像中に存在する画像に対応する領域を強調したものを、前記出力用画像として生成することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理システム。
- 照明部と、該照明部が空間の限定された領域を照らすように調整する照明制御部とを備えた画像処理システムの画像取得方法において、
タイミング信号発生部が、タイミング信号を発生し、
前記タイミング信号により前記照明部が発光・非発光を繰り返し、
第1の撮像部が、前記照明部が発光しているときの画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記照明部の照らす限定された領域の一部を切り取る画像である第1の画像を取得するために、前記タイミング信号に従って前記照明部とは異なる位置から撮像を行い、
第2の撮像部が、前記照明部が発光していないときに前記第1の画像と同じ領域を撮像した第2の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行い、
差分画像取得部が、前記第1の画像と前記第2の画像との差分である第3の画像を取得し、
注目領域設定部が、前記第1又は第2の画像中に、前記限定された領域に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定し、
画像加工部が、前記第3の画像から、前記注目領域内に存在する画像を抜き出すことを特徴とする画像取得方法。 - 第1及び第2の照明部と、該第1の照明部が空間の限定された第1領域を照らすように調整する第1の照明制御部と、該第2の照明部が、空間の限定された第2領域を照らすように調整する第2の照明制御部とを備えた画像処理システムの画像取得方法において、
タイミング信号発生部が、タイミング信号を発生し、
前記タイミング信号により、前記第1の照明部が、発光と非発光とを繰り返し、
前記タイミング信号により、前記第2の照明部が、前記第1の照明部が発光していないときでの発光と、非発光とを繰り返し、
第1の撮像部が、前記第1の照明部が発光しているときの画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記第1領域の一部を切り取る画像である第1の画像を取得するために、前記タイミング信号に従って前記第1及び第2の照明部とは異なる位置から撮像を行い、
第2の撮像部が、前記第1及び第2の照明部がいずれも発光していないときに前記第1の画像と同じ領域を撮像した第2の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行い、
第3の撮像部が、前記第2の照明部が発光しているときに前記第1及び第2の画像と同じ領域を撮像した第4の画像を取得するために、前記タイミング信号に従って前記位置から撮像を行い、
差分画像取得部が、前記第1の画像と前記第2の画像との差分である第3の画像と、前記第4の画像と前記第2の画像との差分である第5の画像とを取得し、
注目領域設定部が、前記第1、第2又は第4の画像中において、前記第1領域と前記第2領域との両方に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定し、
画像加工部が、前記第3の画像と第5の画像との両方に存在する画像のうちから、前記注目領域内に存在する画像を抜き出すことを特徴とする画像取得方法。 - 近赤外光を発光する照明部と、該照明部が空間の限定された領域を照らすように調整する照明制御部とを備えた画像処理システムの画像取得方法において、
前記照明部が、継続的に発光し、
第1の撮像部が、前記照明部が発光する近赤外光の反射光による画像であり且つ画像全体又はその部分画像の捉える撮像範囲が前記照明部の照らす限定された領域の一部を切り取る画像である第1の画像を取得するために、前記照明部とは異なる位置から撮像を行い、
第2の撮像部が、前記第1の画像と同じ領域を撮像した自然画像である第2の画像を取得するために、前記位置から撮像を行い、
注目領域設定部が、前記第2の画像中に、前記限定された領域に対応する画像領域の任意の一部を含む画像領域を、注目領域として設定し、
画像加工部が、前記第1の画像から、前記注目領域内に存在する画像を抜き出すことを特徴とする画像取得方法。 - 前記画像加工部は、求めた前記加工用画像をマスクとして、前記加工対象画像から、該マスク中に存在する画像に対応する領域を抜き出したものを、前記出力用画像として生成することを特徴とする請求項7ないし9のいずれか1項に記載の画像取得方法。
- 前記画像加工部は、前記加工対象画像のうち、求めた該加工用画像中に存在する画像に対応する領域を強調したものを、前記出力用画像として生成することを特徴とする請求項7ないし9のいずれか1項に記載の画像取得方法。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007087187A JP4316629B2 (ja) | 2007-03-29 | 2007-03-29 | 画像処理システム、画像取得方法及びプログラム |
| US12/050,102 US8169496B2 (en) | 2007-03-29 | 2008-03-17 | Image processing system and image acquisition method |
| US13/438,537 US8723980B2 (en) | 2007-03-29 | 2012-04-03 | Image processing system and image acquisition method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007087187A JP4316629B2 (ja) | 2007-03-29 | 2007-03-29 | 画像処理システム、画像取得方法及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2008252173A JP2008252173A (ja) | 2008-10-16 |
| JP4316629B2 true JP4316629B2 (ja) | 2009-08-19 |
Family
ID=39793583
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007087187A Expired - Fee Related JP4316629B2 (ja) | 2007-03-29 | 2007-03-29 | 画像処理システム、画像取得方法及びプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (2) | US8169496B2 (ja) |
| JP (1) | JP4316629B2 (ja) |
Families Citing this family (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4316629B2 (ja) * | 2007-03-29 | 2009-08-19 | 株式会社東芝 | 画像処理システム、画像取得方法及びプログラム |
| FR2928809B1 (fr) * | 2008-03-17 | 2012-06-29 | Antoine Doublet | Systeme interactif et procede de commande d'eclairages et/ou de diffusion d'images |
| JP5462480B2 (ja) * | 2008-12-19 | 2014-04-02 | パナソニック株式会社 | 撮像装置 |
| JP5060580B2 (ja) | 2010-04-09 | 2012-10-31 | トヨタ自動車株式会社 | スペクトル測定装置 |
| JP5519381B2 (ja) | 2010-04-09 | 2014-06-11 | トヨタ自動車株式会社 | スペクトル測定装置 |
| JP5714960B2 (ja) * | 2011-03-31 | 2015-05-07 | セコム株式会社 | 監視範囲検知装置 |
| JP5714961B2 (ja) * | 2011-03-31 | 2015-05-07 | セコム株式会社 | 監視検知装置 |
| US20130342690A1 (en) * | 2012-06-26 | 2013-12-26 | Thomas H. Williams | Technique for Enhancing the Quality of Compressed Video Images |
| CN103873754A (zh) * | 2012-12-13 | 2014-06-18 | 联想(北京)有限公司 | 一种图像提取的方法和设备 |
| JP6429176B2 (ja) * | 2014-09-16 | 2018-11-28 | 華為技術有限公司Huawei Technologies Co.,Ltd. | 画像処理方法および装置 |
| GB2537826A (en) * | 2015-04-23 | 2016-11-02 | Ambx Uk Ltd | Image capture system |
| GB2538256B (en) * | 2015-05-12 | 2021-08-04 | Thermoteknix Systems Ltd | Optical data insertion device |
| JP2017121041A (ja) * | 2015-12-11 | 2017-07-06 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 撮像装置 |
| TWI755234B (zh) * | 2020-01-15 | 2022-02-11 | 承奕科技股份有限公司 | 智慧型遠距離紅外線補光燈組 |
| US11983886B2 (en) * | 2020-10-14 | 2024-05-14 | Shutterfly, Llc | System for background and floor replacement in full-length subject images |
Family Cites Families (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH01296785A (ja) * | 1988-05-24 | 1989-11-30 | Fujitsu Ltd | 画像重畳装置 |
| JPH07154777A (ja) | 1993-11-30 | 1995-06-16 | Matsushita Electric Ind Co Ltd | 画像処理装置およびテレビ電話装置 |
| US6144366A (en) * | 1996-10-18 | 2000-11-07 | Kabushiki Kaisha Toshiba | Method and apparatus for generating information input using reflected light image of target object |
| JP3814353B2 (ja) | 1996-11-20 | 2006-08-30 | キヤノン株式会社 | 画像分割方法および画像分割装置 |
| JPH10228802A (ja) | 1997-02-13 | 1998-08-25 | Nippon Hoso Kyokai <Nhk> | エリアスポットライト装置 |
| JPH11134505A (ja) | 1997-10-31 | 1999-05-21 | Terumo Corp | 画像抽出装置およびこれを用いた画像表示装置 |
| US6292169B1 (en) * | 1998-02-13 | 2001-09-18 | Kabushiki Kaisha Toshiba | Information input apparatus |
| JP3736829B2 (ja) | 1998-02-13 | 2006-01-18 | 株式会社東芝 | 情報入力装置 |
| JP3591808B2 (ja) * | 1998-03-17 | 2004-11-24 | 株式会社東芝 | 画像入力装置および方法および記録媒体 |
| JPH11265249A (ja) * | 1998-03-17 | 1999-09-28 | Toshiba Corp | 情報入力装置および情報入力方法および記録媒体 |
| JP2000175176A (ja) | 1998-12-04 | 2000-06-23 | Hitachi Ltd | 移動物体の監視方法および画像監視装置 |
| GB2372391A (en) * | 2001-02-16 | 2002-08-21 | Hewlett Packard Co | Removal of specular reflection |
| JP2004304718A (ja) * | 2003-04-01 | 2004-10-28 | Nara Institute Of Science & Technology | 近接領域画像抽出装置及び近接領域画像抽出方法 |
| JP4057996B2 (ja) | 2003-12-15 | 2008-03-05 | 株式会社東芝 | 固体撮像装置およびそれを利用した撮像システム |
| JP3906202B2 (ja) | 2003-12-15 | 2007-04-18 | 株式会社東芝 | 固体撮像装置およびそれを利用した撮像システム |
| JP2005354155A (ja) * | 2004-06-08 | 2005-12-22 | Matsushita Electric Ind Co Ltd | 動画撮像装置 |
| JP2006134035A (ja) | 2004-11-05 | 2006-05-25 | Fuji Heavy Ind Ltd | 移動物体検出装置および移動物体検出方法 |
| JP4534756B2 (ja) * | 2004-12-22 | 2010-09-01 | ソニー株式会社 | 画像処理装置、画像処理方法、撮像装置、プログラム、及び記録媒体 |
| JP4839632B2 (ja) * | 2005-02-25 | 2011-12-21 | ソニー株式会社 | 撮像装置 |
| US7755672B2 (en) * | 2006-05-15 | 2010-07-13 | Zoran Corporation | Techniques for modifying image field data obtained using illumination sources |
| JP4316629B2 (ja) * | 2007-03-29 | 2009-08-19 | 株式会社東芝 | 画像処理システム、画像取得方法及びプログラム |
-
2007
- 2007-03-29 JP JP2007087187A patent/JP4316629B2/ja not_active Expired - Fee Related
-
2008
- 2008-03-17 US US12/050,102 patent/US8169496B2/en not_active Expired - Fee Related
-
2012
- 2012-04-03 US US13/438,537 patent/US8723980B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| US8723980B2 (en) | 2014-05-13 |
| US8169496B2 (en) | 2012-05-01 |
| US20120268607A1 (en) | 2012-10-25 |
| US20080239087A1 (en) | 2008-10-02 |
| JP2008252173A (ja) | 2008-10-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4316629B2 (ja) | 画像処理システム、画像取得方法及びプログラム | |
| CN102473061B (zh) | 滚动图像捕获系统中的环境校正 | |
| US10395498B2 (en) | Fire detection apparatus utilizing a camera | |
| CN100510933C (zh) | 改善了动态范围的视频摄像机、记录系统和记录方法 | |
| US9148581B2 (en) | Multi-function control illumination device | |
| US20160307424A1 (en) | Smoke Detection System and Method Using a Camera | |
| JP2011233983A (ja) | 撮像装置 | |
| JP5397714B1 (ja) | 監視用カメラ装置 | |
| KR101262745B1 (ko) | 이미지 센서 및 이를 포함하는 촬영 장치 | |
| JP2011010258A (ja) | 画像処理装置、画像表示システム、画像抽出装置 | |
| JP2014017114A (ja) | 照明システム | |
| WO2018005616A1 (en) | Smoke detection system and method using a camera | |
| JP5277805B2 (ja) | 物体抽出装置、物体抽出方法および物体抽出プログラム | |
| JP6884219B2 (ja) | 画像解析技法 | |
| US9118782B1 (en) | Optical interference mitigation | |
| JP2013126165A (ja) | 撮像装置、撮像方法及びプログラム | |
| JP2011182026A (ja) | 画像処理装置、画像表示システム、画像抽出装置 | |
| JP2006277085A (ja) | 光学式ポインティング制御装置及び該装置を用いたポインティングシステム | |
| JP6351151B2 (ja) | 画像センサチェックアダプタ及び画像センサ | |
| JP2011009803A (ja) | 光無線通信装置、光無線通信携帯端末、送信装置、光無線通信方法、およびプログラム | |
| KR100518298B1 (ko) | 영상신호가 없는 구간에서의 밝기 측정을 이용한 감시카메라의 주간/야간모드 동작장치 및 동작방법 | |
| KR101067382B1 (ko) | 차량번호 식별이 용이한 씨씨티브이용 카메라의 조명제어장치 | |
| JP4576625B2 (ja) | 情報伝送システム、撮像装置、及び、受光制御方法 | |
| JP4969336B2 (ja) | カメラおよびカメラを用いた監視装置 | |
| WO2015104187A1 (en) | Detecting coded light |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090128 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090203 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090406 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090428 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090520 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 4316629 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120529 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120529 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130529 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130529 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140529 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |