Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4178433B2 - 監視装置 - Google Patents
[go: Go Back, main page]

JP4178433B2 - 監視装置 - Google Patents

監視装置 Download PDF

Info

Publication number
JP4178433B2
JP4178433B2 JP18870699A JP18870699A JP4178433B2 JP 4178433 B2 JP4178433 B2 JP 4178433B2 JP 18870699 A JP18870699 A JP 18870699A JP 18870699 A JP18870699 A JP 18870699A JP 4178433 B2 JP4178433 B2 JP 4178433B2
Authority
JP
Japan
Prior art keywords
video camera
comparison circuit
point
corresponding point
output signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP18870699A
Other languages
English (en)
Other versions
JP2001016487A (ja
Inventor
潔 中川
眞也 福島
正義 石丸
武彦 上野
義雄 佐々木
正宏 土肥
高秀 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP18870699A priority Critical patent/JP4178433B2/ja
Publication of JP2001016487A publication Critical patent/JP2001016487A/ja
Application granted granted Critical
Publication of JP4178433B2 publication Critical patent/JP4178433B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Emergency Alarm Devices (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、車両の前方などを監視するための監視装置に関する。
【0002】
【従来の技術】
夜間、街路照明のない道路を車で走行する場合、たとえヘッドライトをハイビーム状態にしても、前方の障害物、風景、道路の状況(例えば道路がどのように曲がっているか)などを肉眼により認識することは、かなり困難である。このため、夜間の車両の運転は、大きなストレスを受けてしまう。
【0003】
【発明が解決しようとする課題】
そこで、車両の前方を赤外線ランプにより照明しながら赤外線ビデオカメラにより撮像し、その撮像画面をダッシュボードなどに配置したディスプレイに表示させることが考えられる。つまり、そのようにすれば、ディスプレイを見ることにより前方を監視できることになる。
【0004】
しかし、実際には、そのようにしても、運転者がうっかり前方の障害物を見落としてしまうこともある。
【0005】
この発明は、このような問題点を解決できるようにするものである。
【0006】
【課題を解決するための手段】
この発明においては、
車両の中央に配置される第1のビデオカメラと、
この第1のビデオカメラと光軸が同一の平面内において平行となるように、上記第1のビデオカメラの左側に配置される第2のビデオカメラと、
上記第1のビデオカメラと光軸が上記平面内において平行となるように、上記第1のビデオカメラの右側に配置される第3のビデオカメラと、
上記第1のビデオカメラの出力信号から、この第1のビデオカメラの撮像した画面において基準となる第1の点の基準信号を形成して出力する第1の対応点形成回路と、
上記第2または第3のビデオカメラの一方の出力信号から、そのビデオカメラの撮像した画面において基準となる第2の点の基準信号を形成して出力する第2の対応点形成回路と、
上記第1の対応点形成回路の出力信号と、上記第2のビデオカメラの出力信号とが供給され、上記第1のビデオカメラの撮像した上記第1の点と、上記第2のビデオカメラの撮像した画面のうちの上記第1の点に対応する点との位置を比較する第1の対応点比較回路と、
上記第1の対応点形成回路の出力信号と、上記第3のビデオカメラの出力信号とが供給され、上記第1のビデオカメラの撮像した上記第1の点と、上記第3のビデオカメラの撮像した画面のうちの上記第1の点に対応する点との位置を比較する第2の対応点比較回路と、
上記第2の対応点形成回路の出力信号と、上記第2または第3のビデオカメラの他方の出力信号とが供給され、上記第2または第3のビデオカメラの一方の撮像した上記第2の点と、上記第2または第3のビデオカメラの他方の撮像した画面のうちの上記第2の点に対応する点との位置を比較する第3の対応点比較回路と、
上記第1の対応点形成回路の出力信号と、上記第1の対応点比較回路の出力信号とが供給され、上記第1および第2のビデオカメラの撮像した画面における上記第1の点のずれの方向および大きさを示す第1のデータを出力する第1のずれ量比較回路と、
上記第1の対応点形成回路の出力信号と、上記第2の対応点比較回路の出力信号とが供給され、上記第1および第3のビデオカメラの撮像した画面における上記第1の点のずれの方向および大きさを示す第2のデータを出力する第2のずれ量比較回路と、
上記第2の対応点形成回路の出力信号と、上記第3の対応点比較回路の出力信号とが供給され、上記第2および第3のビデオカメラの撮像した画面における上記第2の点のずれの方向および大きさを示す第3のデータを出力する第3のずれ量比較回路と、
上記第1〜第3のずれ量比較回路から出力される上記第1〜第3のデータの多数決比較を行う多数決比較回路と、
この多数決比較回路から上記第1〜第3の対応点比較回路にフィードバックを行うためのフィードバックラインと、
上記多数決比較回路の出力により、上記第1のビデオカメラの出力信号を3次元画像の信号にする3次元化回路と、
この3次元化回路の出力と、ユーザの設定した距離のデータとを比較する距離比較回路と、
この距離比較回路の出力が供給されるアラームと、
上記第1のビデオカメラの出力信号が供給されるディスプレイ装置と
を有し、
上記第1のビデオカメラの撮像した画面を上記ディスプレイ装置に表示し、
上記多数決比較回路は、上記第1〜第3のずれ量比較回路から供給された上記第1〜第3のデータうちの1つのデータが、他の2つのデータより所定値以上異なるとき、上記第1〜第3の対応点比較回路のうち、その所定値以上異なるデータを出力した対応点比較回路に、上記所定値以上異なるデータが補正されるように、上記フィードバックラインを通 じてフィードバックを行い、
上記3次元画像が上記ユーザの設定した距離よりも近いとき、これを上記アラームから音響を出力して通知する
ようにした監視装置
とするものである。
したがって、ユーザの設定した距離内に障害物が位置すると、これが正確に検出され、音響により通知される。
【0007】
【発明の実施の形態】
図1において、符号11、21、31は赤外線ビデオカメラを示す。これらビデオカメラ11、21、31は、3組のステレオカメラを構成して車両の前方についての3次元情報を得るためのものであり、このため、車両に対して例えば図2に示すように配置されている。
【0008】
すなわち、ビデオカメラ11、21、31は、車両の内部からフロントガラス越しに前方の風景を撮影できるように、フロントガラスの上部に前方を向いて設けられている。そして、このとき、ビデオカメラ11、21、31は、それらの光軸が同一水平面内において平行となるように、並んで配置されるとともに、カメラ11が中央となり、カメラ21がカメラ11の左側、カメラ31がカメラ11の右側となるように配置されている。
【0009】
なお、ビデオカメラ11、21、31の画角は、その撮影画面が運転者の見る風景とオーバーラップするように、11°〜12°とされている。また、ビデオカメラ11、21、31は、例えば可視光カットフィルタを装着しないことにより撮像感度が高められている。
【0010】
さらに、車両の前方を近赤外線により照射するため、例えば図2に示すように、ビデオカメラ11、21、31の間に、2つの近赤外線ランプ82、83が配置されている。このとき、ランプ82、83が車両の前方を集中して照射するように、ランプ82、83の水平方向の配光特性は15°〜20°程度とされている。
【0011】
したがって、夜間の走行時、車両の前方は、近赤外線および自車のヘッドライトにより照射されることになり、ビデオカメラ11、21、31からは前方の風景を撮像したビデオ信号S11、S21、S31がそれぞれ出力される。
【0012】
そして、中央のビデオカメラ11から出力されるビデオ信号S11がディスプレイ装置70に供給される。このディスプレイ装置70は、ヘッドアップ型ディスプレイとされているもので、例えば図2に示すように、表示スクリーンに対応するコンバイナ部71と、プロジェクタ部72とを有する。
【0013】
そして、コンバイナ部71は、多層光干渉膜やホログラム回折格子などにより、高い反射率と高い透過率とが得られるように構成され、フロントガラスのうち、運転者の前方に位置する部分に設けられる。
【0014】
また、プロジェクタ部72は、例えば液晶プロジェクタにより構成されてダッシュボードに設けられ、その投射光がコンバイナ部71に投射される。なお、ビデオ信号S11はプロジェクタ部72に供給される。
【0015】
そして、図1の装置においては、左側のビデオカメラ21と中央のビデオカメラ11とにより第1のステレオカメラが構成され、このステレオカメラにより撮像した2つの画面において対応する点のずれの方向および大きさが検出される。
【0016】
すなわち、ビデオカメラ11、21からのビデオ信号S11、S21が、輪郭抽出回路12、22に供給されて画像の輪郭を示すビデオ信号S12、S22が取り出される。
【0017】
そして、ビデオ信号S12が対応点形成回路13に供給されて対応点のデータの信号S13が形成され、この信号S13が対応点比較回路24に基準信号として供給される。また、ビデオ信号S22が対応点比較回路24に比較入力として供給される。こうして、対応点比較回路24において、カメラ11、21の撮像した画面における対応点が比較される。
【0018】
そして、対応点比較回路24の比較出力がずれ量比較回路25に供給されるとともに、信号S13がずれ量比較回路25に基準信号として供給され、比較回路25からは、中央のカメラ11の撮像した対応点を基準としたときのカメラ21が撮像した対応点のずれの方向および大きさを示す信号S25が取り出され、この信号S25が多数決比較回路51に供給される。
【0019】
また、図1の装置においては、中央のビデオカメラ11と右側のビデオカメラ31とにより第2のステレオカメラが構成され、このステレオカメラにより撮像した2つの画面における対応する点のずれの方向および大きさが検出される。
【0020】
すなわち、対応点形成回路13からの信号S13が対応点比較回路34に基準信号として供給される。また、ビデオカメラ31からのビデオ信号S31が、輪郭抽出回路32に供給されて画像の輪郭を示すビデオ信号S32が取り出され、この信号S32が対応点比較回路34に比較入力として供給される。こうして、対応点比較回路34において、カメラ11、31の撮像した画面における対応点が比較される。
【0021】
そして、対応点比較回路34の比較出力がずれ量比較回路35に供給されるとともに、信号S13がずれ量比較回路35に基準信号として供給され、比較回路35からは、中央のカメラ11の撮像した対応点を基準としたときのカメラ31が撮像した対応点のずれの方向および大きさを示す信号S35が取り出され、この信号S35が多数決比較回路51に供給される。
【0022】
さらに、図1の装置においては、左側のビデオカメラ21と右側のビデオカメラ31とにより第3のステレオカメラが構成され、このステレオカメラにより撮像した2つの画面において対応する点のずれの方向および大きさが検出される。
【0023】
すなわち、ビデオ信号S32が対応点形成回路43に供給されて対応点のデータの信号S43が形成され、この信号S43が対応点比較回路44に基準信号として供給される。また、ビデオ信号S22が対応点比較回路44に比較入力として供給される。こうして、対応点比較回路44において、カメラ31、21の撮像した手段における対応点が比較される。
【0024】
そして、対応点比較回路44の比較出力がずれ量比較回路45に供給されるとともに、信号S43がずれ量比較回路45に基準入力として供給され、比較回路45からは、右側のカメラ31の撮像した対応点を基準としたときのカメラ21が撮像した対応点のずれの方向および大きさを示す信号S45が取り出され、この信号S45が多数決比較回路51に供給される。
【0025】
そして、多数決比較回路51においては、これに供給された信号S25、S35、S44が多数決比較されて最も確かである信号、すなわち、信号S25、S35、S45のうち、2つあるいは3つが一致する信号が、対応点のずれを正しく示している信号である判断され、その信号が出力信号S51として取り出される。
【0026】
なお、このとき、多数決比較回路51においては、これに供給された信号S25、S35、S45のうちの1つが他の2つから大きく異なるときには、対応点比較回路14、24、34において使用された対応点のどれかに誤りがあると判断され、対応点比較回路14、24、34のうち、該当する対応点比較回路に補正信号がフィードバックされて対応点が補正される。
【0027】
そして、対応点形成回路13からの信号S13が3次元化回路52に供給されるとともに、多数決比較回路51の出力信号S51が3次元化回路52に供給され、信号S13は、この信号S13による画像を3次元化したときのデータの信号S52に変換される。
【0028】
続いて、この信号S52が距離比較回路61に供給されるとともに、距離設定回路62にから設定信号S62が距離比較回路61に供給される。この場合、設定信号S62は、何m先の障害物まで検出するか、その距離を示す信号である。こうして、距離比較回路61においては、信号S52による3次元画像までの距離と、設定信号S62の示す距離とが比較される。
【0029】
そして、信号S52による3次元画像(前方の風景)に、設定信号S62の示す距離以内の部分があるとき、これを示す信号S61が距離比較回路61から出力され、この信号S61がアラーム63に供給される。
【0030】
このような構成によれば、中央のビデオカメラ11により撮像されたビデオ信号S11がプロジェクタ部72に供給され、その投射光がコンバイナ部71に投射されるので、運転者は、コンバイナ部71の向こう側に、ビデオ信号S11による画面を虚像の状態で見ることができる。つまり、運転者は、ビデオカメラ11の撮像した赤外線画面をフロントガラス越しに見ることができる。
【0031】
そして、信号S52による3次元画像(前方の風景)に、設定信号S62の示す距離以内の部分があるとき、信号S61がアラーム63に供給されるので、設定信号S62を例えば100 mに設定してある場合には、車両の前方100 m以内に障害物が位置したとき、信号S61によりアラーム63が鳴る。つまり、前方100 mに障害物のあることが音響により警告される。
【0032】
こうして、上述の装置によれば、赤外線ビデオカメラ11、21、31により車両の前方をステレオ撮像して障害物までの距離を判断し、その距離が運転者の設定した距離内であれば、警告音を鳴らすようにしている。また、ヘッドアップ型ディスプレイ70により、赤外線により撮像した前方の風景をフロントガラス越しに映している。
【0033】
したがって、夜間の走行時、運転者がうっかり前方の障害物を見落としても、警告音がなったとき、前方を見れば、フロントガラス越しに映し出されている前方の風景により、障害物の存在を知ることができる。また、運転者に危険を通知するとき、視覚だけでなく、視覚と聴覚とに訴えるようにしているので、危険の通知を確実なものにすることができる。
【0034】
さらに、対応点のずれを示す信号として3つの信号S25、S35、S45を形成し、これら信号S25、S35、S45の多数決比較から正しいと思われる信号S51を得るようにしているので、障害物までの距離を正確に測定することができる。
【0035】
また、ディスプレイ装置70を、ヘッドアップ型としているので、その表示画面を見る場合と、車両の前方を見る場合とで視線の動きや焦点調整を最小に抑えることができ、運転者の負担を減らすことができる。
【0036】
なお、上述においては、装置を夜間に使用した場合であるが、昼間も使用することもでき、その場合には、ランプ82、83およびディスプレイ装置70をオフにしておけばよい。
【0037】
また、上述においては、車両の前方を監視する場合であるが、ビデオカメラ11、21、31を車両の後方に後方を向いて設ければ、車両の後方の状況を知ることができ、例えば駐車場などでバックするときであれば、後方の障害物の有無を音響により知ることができ、高速道路で車線変更をするときであれば、後続車の異常接近の有無を音響により知ることができる。
【0038】
さらに、上述においては、前方の障害物をアラーム63から出力される音響により警告する場合であるが、音声合成などによる音声により警告することもできる。また、障害物までの距離に対応してアラーム音を変更することもできる。さらに、上述においては、3台の赤外線ビデオカメラ11、21、31を配置した場合であるが、より多くの赤外線ビデオカメラを配置すれば、信頼性および精度を向上させることができる。
【0039】
【発明の効果】
フロントガラス越しに前方の障害物は見えているが、運転者はそれをまったく意識していないような場合でも、この発明によれば、視覚と聴覚の両方に訴えるので、どちらかの感覚が意識下にない場合でも、それを補うことができる。
【図面の簡単な説明】
【図1】この発明の一形態を示す系統図である。
【図2】この発明の一形態を示す配置図である。
【符号の説明】
11…赤外線ビデオカメラ、12…輪郭抽出回路、13…対応点形成回路、21…赤外線ビデオカメラ、22…輪郭抽出回路、24…対応点比較回路、25…ずれ量比較回路、31…赤外線ビデオカメラ、32…輪郭抽出回路、34…対応点比較回路、35…ずれ量比較回路、43…対応点形成回路、44…対応点比較回路、45…ずれ量比較回路、51…多数決比較回路、52…3次元化回路、61…距離比較回路、62…距離設定回路、63…アラーム、70…ディスプレイ装置

Claims (2)

  1. 車両の中央に配置される第1のビデオカメラと、
    この第1のビデオカメラと光軸が同一の平面内において平行となるように、上記第1のビデオカメラの左側に配置される第2のビデオカメラと、
    上記第1のビデオカメラと光軸が上記平面内において平行となるように、上記第1のビデオカメラの右側に配置される第3のビデオカメラと、
    上記第1のビデオカメラの出力信号から、この第1のビデオカメラの撮像した画面において基準となる第1の点の基準信号を形成して出力する第1の対応点形成回路と、
    上記第2または第3のビデオカメラの一方の出力信号から、そのビデオカメラの撮像した画面において基準となる第2の点の基準信号を形成して出力する第2の対応点形成回路と、
    上記第1の対応点形成回路の出力信号と、上記第2のビデオカメラの出力信号とが供給され、上記第1のビデオカメラの撮像した上記第1の点と、上記第2のビデオカメラの撮像した画面のうちの上記第1の点に対応する点との位置を比較する第1の対応点比較回路と、
    上記第1の対応点形成回路の出力信号と、上記第3のビデオカメラの出力信号とが供給され、上記第1のビデオカメラの撮像した上記第1の点と、上記第3のビデオカメラの撮像した画面のうちの上記第1の点に対応する点との位置を比較する第2の対応点比較回路と、
    上記第2の対応点形成回路の出力信号と、上記第2または第3のビデオカメラの他方の出力信号とが供給され、上記第2または第3のビデオカメラの一方の撮像した上記第2の点と、上記第2または第3のビデオカメラの他方の撮像した画面のうちの上記第2の点に対応する点との位置を比較する第3の対応点比較回路と、
    上記第1の対応点形成回路の出力信号と、上記第1の対応点比較回路の出力信号とが供給され、上記第1および第2のビデオカメラの撮像した画面における上記第1の点のずれの方向および大きさを示す第1のデータを出力する第1のずれ量比較回路と、
    上記第1の対応点形成回路の出力信号と、上記第2の対応点比較回路の出力信号とが供給され、上記第1および第3のビデオカメラの撮像した画面における上記第1の点のずれの方向および大きさを示す第2のデータを出力する第2のずれ量比較回路と、
    上記第2の対応点形成回路の出力信号と、上記第3の対応点比較回路の出力信号とが供給され、上記第2および第3のビデオカメラの撮像した画面における上記第2の点のずれの方向および大きさを示す第3のデータを出力する第3のずれ量比較回路と、
    上記第1〜第3のずれ量比較回路から出力される上記第1〜第3のデータの多数決比較を行う多数決比較回路と、
    この多数決比較回路から上記第1〜第3の対応点比較回路にフィードバックを行うためのフィードバックラインと、
    上記多数決比較回路の出力により、上記第1のビデオカメラの出力信号を3次元画像の信号にする3次元化回路と、
    この3次元化回路の出力と、ユーザの設定した距離のデータとを比較する距離比較回路と、
    この距離比較回路の出力が供給されるアラームと、
    上記第1のビデオカメラの出力信号が供給されるディスプレイ装置と
    を有し、
    上記第1のビデオカメラの撮像した画面を上記ディスプレイ装置に表示し、
    上記多数決比較回路は、上記第1〜第3のずれ量比較回路から供給された上記第1〜第3のデータうちの1つのデータが、他の2つのデータより所定値以上異なるとき、上記第1〜第3の対応点比較回路のうち、その所定値以上異なるデータを出力した対応点比較回路に、上記所定値以上異なるデータが補正されるように、上記フィードバックラインを通じてフィードバックを行い、
    上記3次元画像が上記ユーザの設定した距離よりも近いとき、これを上記アラームから音響を出力して通知する
    ようにした監視装置。
  2. 請求項1に記載の監視装置において、
    上記第1〜第3のビデオカメラが赤外線ビデオカメラであり、
    上記ディスプレイ装置がヘッドアップ型ディスプレイである
    ようにした監視装置。
JP18870699A 1999-07-02 1999-07-02 監視装置 Expired - Fee Related JP4178433B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18870699A JP4178433B2 (ja) 1999-07-02 1999-07-02 監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18870699A JP4178433B2 (ja) 1999-07-02 1999-07-02 監視装置

Publications (2)

Publication Number Publication Date
JP2001016487A JP2001016487A (ja) 2001-01-19
JP4178433B2 true JP4178433B2 (ja) 2008-11-12

Family

ID=16228388

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18870699A Expired - Fee Related JP4178433B2 (ja) 1999-07-02 1999-07-02 監視装置

Country Status (1)

Country Link
JP (1) JP4178433B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4192827B2 (ja) * 2004-04-19 2008-12-10 ソニー株式会社 車載用画像表示装置
JP5939692B2 (ja) * 2013-05-13 2016-06-22 財團法人中華顧問工程司 踏切障害物多重コンピューター視覚識別システム

Also Published As

Publication number Publication date
JP2001016487A (ja) 2001-01-19

Similar Documents

Publication Publication Date Title
JP7055743B2 (ja) 複数カメラを用いた車両用モニタリングシステム
US6447128B1 (en) Rearview mirror assembly for a vehicle with monitor
CN102910130B (zh) 一种现实增强型的驾驶辅助预警系统
CN101081608B (zh) 驾驶支援方法以及驾驶支援装置
JP3559083B2 (ja) 運転支援装置
JP2018117320A (ja) 電子ミラーの映像合成装置及び映像合成方法
CN113655618A (zh) 一种基于双目视觉的arhud图像显示方法和装置
JP2000242896A (ja) モニタ装置
JP2005538656A (ja) 自動車用の立体的暗視装置
JP2008236711A (ja) 運転支援方法及び運転支援装置
JP2014028593A (ja) 車両用表示装置
TWM562412U (zh) 車輛之環景偵測系統
CN219266667U (zh) 平视显示装置
JP4178433B2 (ja) 監視装置
WO2021131529A1 (ja) ヘッドアップディスプレイ装置
CN108345116A (zh) 三维抬头显示器装置以及带有该装置的汽车
CN100554878C (zh) 立体光学模块和立体摄像机
JP2005182305A (ja) 車両走行支援装置
JP4238949B2 (ja) 赤外線式監視装置
JP6941472B2 (ja) 映像再生装置、映像再生システム、及び映像再生方法
JP4192827B2 (ja) 車載用画像表示装置
JP2004159186A (ja) 監視用車載撮像システム
JP2001099668A (ja) ナビゲーション装置
JP2006341713A (ja) ヘッドライト照射方向変更システム、及びヘッドライト照射方向変更方法
JP2017062448A (ja) 情報表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080731

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080813

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110905

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees