Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3841142B2 - 車両用撮像装置 - Google Patents
[go: Go Back, main page]

JP3841142B2 - 車両用撮像装置 - Google Patents

車両用撮像装置 Download PDF

Info

Publication number
JP3841142B2
JP3841142B2 JP2000038597A JP2000038597A JP3841142B2 JP 3841142 B2 JP3841142 B2 JP 3841142B2 JP 2000038597 A JP2000038597 A JP 2000038597A JP 2000038597 A JP2000038597 A JP 2000038597A JP 3841142 B2 JP3841142 B2 JP 3841142B2
Authority
JP
Japan
Prior art keywords
angle
imaging
reference line
vehicle
lateral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000038597A
Other languages
English (en)
Other versions
JP2001225709A (ja
Inventor
貴志 太田
廉夫 本山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Motors Corp
Original Assignee
Mitsubishi Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Motors Corp filed Critical Mitsubishi Motors Corp
Priority to JP2000038597A priority Critical patent/JP3841142B2/ja
Publication of JP2001225709A publication Critical patent/JP2001225709A/ja
Application granted granted Critical
Publication of JP3841142B2 publication Critical patent/JP3841142B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Traffic Control Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車両用撮像装置に係り、詳しくは、車両に搭載された撮像装置の撮像中心、即ち光軸のずれを補正する技術に関する。
【0002】
【関連する背景技術】
近年、車両にCCDカメラ等の撮像装置を搭載し、車両前方の状況、例えば路面上の白線や先行車を当該撮像装置により判定し、自車が車線を外れないよう、或いは自車と先行車との車間距離が一定に保たれるよう走行を制御するシステムが開発され実用化されている。
【0003】
しかしながら、このようなCCDカメラ等の撮像装置は、走行中の振動等により当該撮像装置の取付け状態が変化する等して撮像中心、即ち光軸がずれることがあり、このように光軸がずれると、上記制御を適正に継続することができず好ましいことではない。また、このように光軸がずれた場合には、撮像装置の取付け状態を修正すればよいのであるが、当該修正作業は容易なものではなく、車両走行中に光軸がずれたような場合には、即座に対応できないという問題があった。
【0004】
そこで、車両走行中に光軸がずれたような場合であっても当該光軸のずれを補正によって修正することができるよう、撮像手段により所定の領域を撮像し、該撮像データに基づく走行車線の消失点位置と予め設定された消失点位置とのずれ量に応じて消失点位置の座標補正を行う技術が特開平9−189517号公報に開示されている。
【0005】
【発明が解決しようとする課題】
しかしながら、上記公報に開示された技術では、走行車線の消失点位置を求めるため、車両は長い直線路を走行している必要があり、車両がカーブを走行している場合や車線に対して斜行しているような場合には、上記ずれ量を正確に算出できず、適正な補正を行うことができないという問題がある。実際問題として、そのような長い直線路は少なく、上記公報に開示の技術は現実的なものとはいえない。
【0006】
本発明はこのような問題点を解決するためになされたもので、その目的とするところは、車両走行中であっても走行路の状況に拘わらず容易且つ適正に光軸補正可能な車両用撮像装置を提供することにある。
【0007】
【課題を解決するための手段】
上記した目的を達成するために、請求項1の発明では、車両前方及び後方の所定領域を撮像する前方撮像手段及び後方撮像手段と、前記各撮像手段からの情報に基づき、車両が走行する走行車線と略平行な基準線を設定する基準線設定手段と、前記基準線と前記両撮像手段の各撮像中心方向とのなす横ずれ角を検出する横ずれ角検出手段と、前記各撮像手段の重心から前記基準線に沿ってそれぞれ所定距離の位置に前記基準線と直交するよう仮想設定される各基準面と前記各撮像中心方向との交点の前記基準線からの横ずれ量を前記各撮像手段毎にそれぞれ算出する横ずれ量算出手段と、前記両横ずれ量の差と前記各基準面間の距離とに基づき、前記各交点間を結ぶ仮想基準線と前記基準線とのなす基準横角度を算出する基準横角度算出手段と、前記横ずれ角から前記基準横角度を減算して学習補正角を算出する学習補正角算出手段と、前記学習補正角算出手段の算出結果に基づき、前記撮像中心方向を補正する撮像中心方向補正手段とを備えることを特徴としている。
【0008】
つまり、本発明では、前方撮像手段及び後方撮像手段の2個の撮像手段を用い、これら撮像手段の各撮像中心方向と走行車線に略平行な基準線とのなす角を横ずれ角として求め、また、各撮像手段の重心から基準線に沿ってそれぞれ所定距離の位置に基準線と直交するよう仮想設定される各基準面と各撮像中心方向との交点の基準線からの横ずれ量を各撮像手段毎にそれぞれ算出し、両横ずれ量の差と各基準面間の距離とに基づいて各交点間を結ぶ仮想基準線と基準線とのなす基準横角度を算出し、さらに、上記横ずれ角から基準横角度を減算して学習補正角を算出し、該学習補正角に基づいて撮像中心方向を補正するようにしている。
【0009】
そして、このように各撮像中心方向を補正すると、横ずれ角が変更されてさらに基準横角度が変化し学習補正角が更新されることになるが、この学習補正角の更新は横ずれ角と基準横角度とが一致するまで継続されることになり、これにより撮像中心方向が適正なものに学習補正される。
即ち、本発明によれば、車両がカーブを走行している場合や車線に対して斜行しているような場合であっても、撮像中心方向の学習補正が容易且つ適正に実施される。
【0010】
【発明の実施の形態】
以下、本発明の実施形態を添付図面に基づき説明する。
図1を参照すると、本発明に係る車両用撮像装置の概略構成図が示されている。
同図に示すように、車両用撮像装置は、前方カメラであるCCDカメラ(前方撮像手段)10と後方カメラであるCCDカメラ(後方撮像手段)20とが車両1に搭載され、これらCCDカメラ10とCCDカメラ20からの撮像情報が電子コントロールユニット(ECU)30に入力されるように構成されている。そして、さらに、ECU30を介して当該撮像情報がディスプレイ40に平面画像として出力されるようにされている。
【0011】
詳しくは、CCDカメラ10は車両1の中心軸線CLと撮像中心線(撮像中心方向)、即ち光軸とが一致するよう車両1のルーフ中央先端部下面に締結具等により固定されており、CCDカメラ20もやはり車両1の前後軸線CLと撮像中心線、即ち光軸とが一致するよう車両1のルーフ中央後端部下面に締結具等により固定されている。つまり、CCDカメラ10とCCDカメラ20は、ウィンドシールドガラスまたはリヤウィンドウガラスを透して車両前方或いは車両後方を撮像可能に車両1の室内側に取り付けられており、工場出荷時には、ともに光軸が中心軸線CL上に乗るよう調整されている。なお、CCDカメラ10、20は室外に取り付けられていてもよい。
【0012】
ECU30についても室内側に設けられており、ディスプレイ40は例えばインストルメントパネル中央に設けられている。なお、ディスプレイ40上の画像は、例えば、CCDカメラ10からの車両前方の映像とCCDカメラ20の車両後方の映像とを切り換えて表示可能であり、通常はCCDカメラ10からの車両前方の映像が表示されている。
【0013】
そして、このように構成された撮像装置では、路面上の白線や先行車を認識し判定することが可能とされており、これらの情報は各種走行制御に用いられる。例えば、ここでは説明を省略するが、これらの情報は、車両1が車線を外れないよう自車を案内する車線逸脱防止制御や、先行車との車間距離が一定に保たれるよう自車を案内する車間距離制御に利用される。
【0014】
ところで、このような車両用撮像装置では、上述したように、車両走行中の振動や外力等によってCCDカメラ10やCCDカメラ20の取付け状態が変化し、光軸がずれることがある。このように光軸がずれると、上記車線逸脱防止制御や車間距離制御等を正確に実施できないことになり好ましいことではない。
そこで、本発明では、このような状況であっても車線逸脱防止制御や車間距離制御を良好に継続可能なよう、CCDカメラ10やCCDカメラ20の光軸がずれても、これらを適正に補正する光軸学習を行うようにしている。以下、本発明に係る光軸学習の学習手順について説明する。
【0015】
図2を参照すると、ECU30が実行する本発明に係る光軸学習のルーチンがフローチャートで示されており、さらに図3乃至図5を参照すると、CCDカメラ10とCCDカメラ20の光軸がずれた場合の光軸学習の学習手法が、例えばCCDカメラ10,20からの撮像情報に基づきECU30で演算処理された車両上視図(平面図)に基づいて模式的に示されている。詳しくは、図3が光軸学習の学習開始状態を、図4が学習中期を、図5が学習完了状態をそれぞれ示している。
【0016】
図3乃至図5中の符号Wは走行車線を示す白線を示しており、符号Sは当該白線W、即ち走行車線と略平行となるよう設定される基準線を示している(基準線設定手段)。また、符号XはCCDカメラ10の重心から基準線Sに沿って所定距離(所定位置)Lfだけ車両前方に基準線Sに直交するよう仮想設定される前方基準面であり、符号Yは同様にCCDカメラ20の重心から基準線Sに沿って所定距離(所定位置)Lrだけ車両後方に基準線Sに直交するよう仮想設定される後方基準面である。
【0017】
そして、図3乃至図5に示すように、ここでは、例えば車両1が走行車線に対して斜行している場合、即ち車両1が前後軸線CLで見て白線W(即ち基準線S)に対し角度θを有して走行している場合を想定して説明する。
なお、これら図3乃至図5では、理解し易いよう、CCDカメラ10やCCDカメラ20の取付け状態の変化量、つまり光軸のずれ量については大きく誇張して示してある。
【0018】
図3の学習開始状態から説明すると、図2のステップS10において、先ず、前方カメラであるCCDカメラ10からの撮像情報に基づき、CCDカメラ10の光軸の基準線Sからの横ずれ角θftを検出する(横ずれ角検出手段)。
次のステップS12では、横ずれ角θftと後述する学習補正角θfcとの差から学習後の横ずれ角θfを求める。しかしながら、この学習開始時点では学習補正角θfcは値0であるので、学習後の横ずれ角θfは即ち横ずれ角θftとなる。
【0019】
そして、ステップS14では、横ずれ角θfに基づき、基準線Sから前方基準面XとCCDカメラ10の光軸との交点、即ち前方基準点aまでの距離、つまり横ずれ量efを算出する(横ずれ量算出手段)。
次のステップS16では、上記同様にして、後方カメラであるCCDカメラ20からの撮像情報に基づき、CCDカメラ20の光軸の基準線Sからの横ずれ角θrtを検出する。そして、ステップS18では、やはり上記同様にして横ずれ角θrtを学習後の横ずれ角θrに設定する。さらに、ステップS20では、横ずれ角θrに基づき、基準線Sから後方基準面YとCCDカメラ20の光軸との交点、即ち後方基準点bまでの横ずれ量erを算出する。
【0020】
そして、前方基準点aと後方基準点bとが設定されると、図中に破線で示すように前方基準点aと後方基準点bとを結ぶ仮想基準線Uが仮想設定され、ステップS22では、この仮想基準線Uと基準線Sとのなす横方向角度、即ち基準横角度θfrを横ずれ量ef,erを用いて次の近似式(1)より算出する(基準横角度算出手段)。
【0021】
θfr=(ef−er)/Lfr …(1)
ここに、Lfrは前方基準面Xと後方基準面Y間の距離である。
このように、CCDカメラ10の光軸の横ずれ角θf、CCDカメラ20の光軸の横ずれ角θr、基準横角度θfrが求められたら、ステップS24及びステップS26において、図6(a)、(b)に示すブロック図により横ずれ角θf及び横ずれ角θrから基準横角度θfrを減算し、当該減算結果に基づいて学習補正角θfc及び学習補正角θrcを求める。つまり、次式(2)、(3)により学習補正角θfc及び学習補正角θrcをそれぞれ求める(学習補正角算出手段)。
【0022】
θfc=θfc+Kf・(θf−θfr)・DT …(2)
θrc=θrc+Kr・(θr−θfr)・DT …(3)
ここに、Kf 、Krはそれぞれ学習ゲインであり、DTは当該学習ルーチンの実行周期である。
このようにして学習補正角θfc及び学習補正角θrcが求められたら、ステップS10に戻り、当該ルーチンを繰り返し実行する。
【0023】
つまり、ステップS10において再びCCDカメラ10の光軸の基準線Sからの横ずれ角θftを検出し、ステップS12において、図4の学習中期の図に示すように、横ずれ角θftと上記学習補正角θfcとの差より学習後の横ずれ角θf(θf=θft−θfc)を求め、CCDカメラ10の光軸を補正する(撮像中心方向補正手段)。そして、ステップS14において、やはり図4に示すように、学習後の横ずれ角θfに基づき、新たに設定される前方基準点aまでの横ずれ量efを算出する。
【0024】
同様に、ステップS16において再びCCDカメラ20の光軸の基準線Sからの横ずれ角θrtを検出し、ステップS18において、図4に示すように、横ずれ角θrtと上記学習補正角θrcとの差より学習後の横ずれ角θr(θr=θrt−θrc)を求め、CCDカメラ20の光軸を補正する(撮像中心方向補正手段)。そして、ステップS20において、当該学習後の横ずれ角θrに基づき、新たに設定される後方基準点bまでの横ずれ量erを算出する。
【0025】
そして、ステップS22において、新たに設定される前方基準点aと後方基準点bとを結ぶ新たな仮想基準線Uと基準線Sとの横方向角度、即ち基準横角度θfrを新たな横ずれ量ef,erを用いて上記近似式(1)より再び算出し、ステップS24及びステップS26において、上式(2)、(3)により学習補正角θfc及び学習補正角θrcを更新する。
【0026】
このように、学習補正角θfc及び学習補正角θrcに基づいてCCDカメラ10,20の光軸を補正するようにすると、図3と図4との比較により明らかなように、仮想基準線Uは前後軸線CLに重なる側に変化する。つまり、基準横角度θfrが、学習後の横ずれ角θf及び横ずれ角θrに一致するよう、ひいては車両1の前後軸線CLと基準線Sとのなす角度θに近づくように変化する。このことは、CCDカメラ10,20の各光軸が車両1の前後軸線CLに徐々に一致するよう補正されることを意味する。
【0027】
そして、当該学習ルーチンが繰り返し実行され、学習が進むと、いずれ学習後の横ずれ角θf及び横ずれ角θrが基準横角度θfrに一致することになり、つまり上式(2)、(3)の(θf−θfr)、(θr−θfr)の項が値0となり、最終的にステップS24及びステップS26における学習補正角θfc及び学習補正角θrcは常に一定の値に収束し、当該光軸の補正が完了した状態となる。
【0028】
光軸の補正、即ち光軸学習が完了すると、図5の学習完了状態の図に示すように、学習後の横ずれ角θf及び横ずれ角θrが基準横角度θfr、ひいては角度θと完全に一致することになる。つまり、当該光軸学習が完了すると、仮想基準線Uと車両1の前後軸線CLとが平行になり、CCDカメラ10,20の各光軸の方向が当該前後軸線CLの方向と完全に一致することになる。
【0029】
そして、これら学習補正角θfc及び学習補正角θrcをエンジンOFF時にECU30に記憶し次回の初期値とすれば、次回は最初から正しい光軸で制御を開始することができることになる。なお、この場合であっても、再び車両の振動等により光軸がずれた場合には、上記同様に光軸を正しい方向に補正することができることはいうまでもない。
【0030】
図7を参照すると、学習補正角θfc及び学習補正角θrcがそれぞれの真値に収束する学習過程の実験データがタイムチャートで示されているが、本発明の車両用撮像装置によれば、当該学習補正を実施することにより、このように、学習補正角θfc及び学習補正角θrcが各真値に速やか且つ正確に収束し、CCDカメラ10,20の光軸補正が極めて適正に行われることとなる。
【0031】
つまり、前方カメラであるCCDカメラ10と後方カメラであるCCDカメラ20の2台の撮像手段を用いることにより、制御上重要となるCCDカメラ10の光軸を常に適正なものに維持しておくことが可能となる。
特に、本発明に係る光軸学習では、学習を車両1付近の情報のみで実施できることになるので、車両1がカーブを走行している場合や上記実施形態のように車線に対して斜行しているような場合であっても、走行路の状況に拘わらず常に光軸補正を行うことが可能である。
【0032】
これにより、車両1が走行中にCCDカメラ10,20の光軸がずれた場合であっても、速やかに補正を行って車線逸脱防止制御や車間距離制御を誤作動なく常に良好に継続することが可能とされる。
ところで、上記実施形態では、図3乃至図5に示すように、検出される横ずれ角θft,θrtが常時同一であるものとしているが、学習ルーチンを繰り返し実行する毎に検出される横ずれ角θft,θrtは本来的には時々刻々変化するものである。しかしながら、このように検出する毎に横ずれ角θft,θrtが変化したとしても、上記各式から明らかなように、その変化は学習補正角θfc及び学習補正角θrcに対し何ら影響を与えるものではなく、検出される横ずれ角θft,θrtに拘わらず、光軸補正は常に良好に継続実施される。
【0033】
また、上記実施形態では、CCDカメラ10,20の各光軸が同一側にずれた場合を例に光軸学習手順を説明したが、上記学習手法によれば、当然ながら、CCDカメラ10,20の各光軸が互いに異なる側にずれた場合であっても上記同様に良好に光軸を補正可能である。
【0034】
【発明の効果】
以上詳細に説明したように、本発明の請求項1の車両用撮像装置によれば、前方撮像手段及び後方撮像手段の2個の撮像手段を用い、これら撮像手段の各撮像中心方向と走行車線に略平行な基準線との横ずれ角を求め、基準線と直交するよう仮想設定される各基準面と各撮像中心方向との交点の基準線からの横ずれ量を各撮像手段毎にそれぞれ算出し、両横ずれ量の差と各基準面間の距離とに基づいて各交点間を結ぶ仮想基準線と基準線とのなす基準横角度を算出し、さらに、上記横ずれ角から基準横角度を減算して学習補正角を算出し、該学習補正角に基づいて撮像中心方向を補正するようにしたので、車両がカーブを走行している場合や車線に対して斜行しているような場合であっても、撮像中心方向の学習補正を容易且つ適正に実施することができる。
【0035】
従って、車両走行中に撮像中心方向がずれた場合であっても、速やかに撮像中心方向の補正を行って撮像中心方向を適正に維持することができる。
【図面の簡単な説明】
【図1】本発明に係る車両用撮像装置を示す概略構成図である。
【図2】本発明に係る光軸学習のルーチンを示すフローチャートである。
【図3】光軸学習の学習開始状態を示す模式図である。
【図4】光軸学習の学習中期を示す模式図である。
【図5】光軸学習の学習完了状態を示す模式図である。
【図6】学習補正角θfc(a)及び学習補正角θrc(b)を求めるブロック図である。
【図7】学習補正角θfc及び学習補正角θrcがそれぞれの真値に収束する学習過程の実験データを示すタイムチャートである。
【符号の説明】
1 車両
10 CCDカメラ(前方撮像手段)
20 CCDカメラ(後方撮像手段)
30 電子コントロールユニット(ECU)
40 ディスプレイ
CL 中心軸線
S 基準線
U 仮想基準線
W 白線
X 前方基準面
Y 後方基準面

Claims (1)

  1. 車両前方及び後方の所定領域を撮像する前方撮像手段及び後方撮像手段と、
    前記各撮像手段からの情報に基づき、車両が走行する走行車線と略平行な基準線を設定する基準線設定手段と、
    前記基準線と前記両撮像手段の各撮像中心方向とのなす横ずれ角を検出する横ずれ角検出手段と、
    前記各撮像手段の重心から前記基準線に沿ってそれぞれ所定距離の位置に前記基準線と直交するよう仮想設定される各基準面と前記各撮像中心方向との交点の前記基準線からの横ずれ量を前記各撮像手段毎にそれぞれ算出する横ずれ量算出手段と、
    前記両横ずれ量の差と前記各基準面間の距離とに基づき、前記各交点間を結ぶ仮想基準線と前記基準線とのなす基準横角度を算出する基準横角度算出手段と、
    前記横ずれ角から前記基準横角度を減算して学習補正角を算出する学習補正角算出手段と、
    前記学習補正角算出手段の算出結果に基づき、前記撮像中心方向を補正する撮像中心方向補正手段と、
    を備えたことを特徴とする車両用撮像装置。
JP2000038597A 2000-02-16 2000-02-16 車両用撮像装置 Expired - Lifetime JP3841142B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000038597A JP3841142B2 (ja) 2000-02-16 2000-02-16 車両用撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000038597A JP3841142B2 (ja) 2000-02-16 2000-02-16 車両用撮像装置

Publications (2)

Publication Number Publication Date
JP2001225709A JP2001225709A (ja) 2001-08-21
JP3841142B2 true JP3841142B2 (ja) 2006-11-01

Family

ID=18562309

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000038597A Expired - Lifetime JP3841142B2 (ja) 2000-02-16 2000-02-16 車両用撮像装置

Country Status (1)

Country Link
JP (1) JP3841142B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3617502B2 (ja) 2002-04-11 2005-02-09 日産自動車株式会社 車線逸脱防止装置
JP2006232112A (ja) * 2005-02-25 2006-09-07 Mazda Motor Corp 車両の障害物認識装置
JP5375958B2 (ja) 2009-06-18 2013-12-25 富士通株式会社 画像処理装置および画像処理方法
JP6260233B2 (ja) * 2013-12-02 2018-01-17 富士通株式会社 情報処理装置、カメラ取付角度の推定方法、及びプログラム

Also Published As

Publication number Publication date
JP2001225709A (ja) 2001-08-21

Similar Documents

Publication Publication Date Title
US7571053B2 (en) Lane deviation prevention apparatus
JP3818653B2 (ja) 車両用走行支援装置
JP4235026B2 (ja) 駐車支援装置
CN102549631B (zh) 车辆周围监视装置
US9610976B2 (en) Lane departure prevention control system for vehicle
US20030045973A1 (en) Motor vehicle parking support unit and method thereof
JP2018180941A (ja) 傾斜検出装置
KR101481134B1 (ko) 자율 주행 차량의 센서융합을 통한 곡률반경 추정시스템 및 방법
JP2008143430A (ja) 駐車支援装置
JP2007290557A (ja) 駐車支援装置及び駐車支援方法
JP6567936B2 (ja) 操舵支援制御装置
WO2005111966A1 (ja) 車両用走行区分線認識装置
JP5150958B2 (ja) 車両走行支援装置、車両、車両走行支援プログラム
JPH1040499A (ja) 車両の外界認識装置
JP2019051822A (ja) 駐車支援装置
US20050269145A1 (en) Steering assistance method and device for a motor vehicle
JP3841142B2 (ja) 車両用撮像装置
CN110645994A (zh) 一种车载实景增强导航系统及方法
JP2022060077A (ja) 自動操舵制御装置
JP3402054B2 (ja) 道路白線認識装置
JP4670528B2 (ja) 撮像装置のずれ検出方法、撮像装置のずれ補正方法及び撮像装置
JP2010012838A (ja) 駐車支援装置、及び駐車支援方法
JP6759132B2 (ja) ヘッドアップディスプレイ装置及び表示制御方法
JPH11337310A (ja) 車両用位置検出装置
JPH11198714A (ja) 自動車用ヘッドライトの配光制御装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060801

R151 Written notification of patent or utility model registration

Ref document number: 3841142

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090818

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100818

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100818

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110818

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120818

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130818

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130818

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140818

Year of fee payment: 8

EXPY Cancellation because of completion of term