Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3672731B2 - Range finder device - Google Patents
[go: Go Back, main page]

JP3672731B2 - Range finder device - Google Patents

Range finder device Download PDF

Info

Publication number
JP3672731B2
JP3672731B2 JP10486598A JP10486598A JP3672731B2 JP 3672731 B2 JP3672731 B2 JP 3672731B2 JP 10486598 A JP10486598 A JP 10486598A JP 10486598 A JP10486598 A JP 10486598A JP 3672731 B2 JP3672731 B2 JP 3672731B2
Authority
JP
Japan
Prior art keywords
light
laser
light intensity
light source
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP10486598A
Other languages
Japanese (ja)
Other versions
JPH11142122A (en
Inventor
健夫 吾妻
謙也 魚森
森村  淳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP10486598A priority Critical patent/JP3672731B2/en
Publication of JPH11142122A publication Critical patent/JPH11142122A/en
Application granted granted Critical
Publication of JP3672731B2 publication Critical patent/JP3672731B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、物体の3次元形状の計測を行うレンジファインダ装置に関する。
【0002】
【従来の技術】
投影光と観察画像の三角測量に基づいて3次元形状計測を行うレンジファインダ装置としては、例えば、図25に示すようなものが提案されている。
【0003】
図25において、1A、1Bは波長のわずかに異なるレーザ光源、2は前記波長の異なるレーザ光源からのレーザ光を合成するハーフミラー、3は前記レーザ光源の光強度を制御する光源制御部、4はレーザ光を走査する回転ミラー、5は回転ミラーを制御する回転制御部、6は被写体、7はCCD上に像を結ぶためのレンズ、8A、8Bはレーザ光源の波長の光を分離する光波長分離フィルタ、9A、9Bはモノクロ画像を撮像するCCD、9Cはカラー画像を撮像するCCD、10A、10Bはモノクロカメラの信号処理部、11はカラーカメラの信号処理部、12はCCD9A、9Bによって撮影したレーザ光の強度から被写体の距離もしくは形状を計算する距離計算部、13は装置全体の同期を調整する制御部である。以下、このように構成されたレンジファインダ装置の動作について説明する。
【0004】
レーザ光源1A、1Bは波長のわずかに異なるレーザ光を発する。このレーザ光は、後述の回転ミラーの走査方向と垂直な光断面を有するライン光であり、回転ミラーが水平方向に走査する場合は垂直方向のライン光となる。これら2つの光源の波長特性を図26に示す。波長の近い2つの光源を用いるのは、被写体の反射率の波長依存性の影響を受けにくくするためである。レーザ光源1A、1Bから発せられたレーザ光はハーフミラー2によって合成され、回転ミラー4によって被写体6に走査される。
【0005】
このレーザ光の走査は、回転制御部5がフィールド周期で回転ミラー4を駆動することにより行われる。その際に、双方の光源の光強度を1フィールド周期内で、図27(a)に示すように変化させる。レーザ光強度の変化とミラー角の駆動とを同期させることにより、2つのレーザ光強度をCCD9A、9Bによりモニタしてその光強度比を算出することにより、一走査周期における時刻を測定することができる。例えば、図27(b)に示すように、光強度がIA0/IB0の場合には、走査時刻はt0と測定され、その測定値から回転ミラー4の回転角(φ)が判明する。
【0006】
このように、2つのレーザ光強度の比とミラー角(すなわち光源側から見た被写体の角度)とが1対1に対応させることにより、後述する距離計算部において、双方の光源の光を撮影した信号レベルの比から三角測量の原理により被写体の距離もしくは形状が計算される。
【0007】
レンズ7はCCD9A、9B、9C上に被写体の像を結ぶ。光波長分離フィルタ8Aは、光源1Aの波長の光を透過し、他の波長の光を反射する。光波長分離フィルタ8Bは、光源1Bの波長の光を透過し、他の波長の光を反射する。その結果、光源1A、1Bの光の被写体からの反射光はCCD9A、9Bにより撮影され、他の波長の光はカラー画像としてCCD9Cにより撮影される。
【0008】
光源A信号処理部10Aと光源B信号処理部10Bは、CCD9A、9Bの出力について通常のモノクロカメラと同様の信号処理を行う。カラーカメラ信号処理部11は、CCD9Cの出力について通常のカラーカメラの信号処理を行う。
【0009】
距離計算部12は、各光源の波長についてCCD9A、9Bにより撮影された信号レベルの比、基線長、画素の座標値から、各画素について距離計算を行う。
【0010】
図28(a)(b)は、その距離計算を図形的に説明する図である。同図において、Oはレンズ7の中心、Pは被写体上の点、Qは回転ミラーの回転軸の位置である。また、説明を簡単にするため、CCD9の位置を被写体側に折り返して示している。また、OQの長さ(基線長)をL、xz平面内でQから見たPの角度をφ、yz平面内でOからみたPの角度をωとすると、図計的な関係より、Pの3次元座標は以下の式で計算される。
【0011】
【数1】

Figure 0003672731
式(1)のφについては、前述のとおり、CCD9A、9Bによりモニタしたレーザ光源1A、1Bの光強度比によって計算し、θ、ωについては画素の座標値から計算する。式(1)に示した値のうち、すべてを計算すると形状を求めることになり、zのみであれば距離画像を求めることになる。
【0012】
【発明が解決しようとする課題】
しかしながら、上記のような構成では、2つのレーザ光強度の双方を走査フィールド内で変化させているため、図27(b)に示すように、光強度比の変化率はリニアにならず、走査開始時刻と走査終了時刻とで曲線的に変動する。CCD9A、9Bにより撮影した画像データのノイズに起因するレーザ光強度比の誤差は距離もしくは形状の計測誤差の主な原因となるが、レーザ光強度比の変化率が一定でない場合には、ノイズに起因する光強度測定誤差が発生しやすいという問題がある。
【0013】
本発明はかかる問題点に鑑みてなされたものであり、光学系、信号処理系でのノイズの影響を低減し、計測精度を向上するレンジファインダ装置を提供することを目的とする。
【0014】
【課題を解決するための手段】
本発明は、上記課題を解決するために、以下の構成を採る。
【0015】
本発明は、1波長のレーザー光源に対する光強度変調信号に振幅が時間的に変化する高周波を重畳し、強度変調した前記レーザー光を回転ミラーにより被写体に走査し、被写体からの反射光をCCDにより撮像する一方、前記CCDの着目画素近傍での光強度分布について上限と下限の2つの包絡線検出と局所平均検出を行ない、前記2つの包絡線の差と前記局所平均値の比に基づいて光源から見た被写体への角度情報を計算し、前記着目画素の座標値に基づいて前記CCDから見た被写体への角度情報を計算し、計算した前記角度情報と基線長とを用いてフィールド期間毎に各画素について距離計測を行うものである。
【0016】
この構成により、1波長のレーザー光源による1回の走査からフィールド毎に各画素についての距離計測を行うことができる。
【0017】
また、本発明は、単一波長の光を発するレーザ光源からの光を被写体に走査させる走査手段と、前記走査手段の走査周期と同期して前記レーザ光の光強度を変化させ、かつ、振幅が時間的に変化する高周波を重畳する光強度制御手段と、前記被写体からの反射光から前記波長と同一波長の光を分離する波長分離手段と、分離した前記光を撮像するCCDと、前記CCDの着目画素近傍での光強度分布について上限と下限の2つの包絡線検出と局所平均検出を行ない、前記2つの包絡線の差と前記局所平均値の比に基づいて光源から見た被写体への角度情報を計算し、前記着目画素の座標値に基づいて前記CCDから見た被写体への角度情報を計算し、計算した前記角度情報と基線長とを用いてフィールド期間毎に各画素について距離計測を行う距離計測手段と、を具備するレンジファインダ装置である。
【0039】
【発明の実施の形態】
本発明のレンジファインダ装置は、複数の波長の光を発する光源からのレーザ光を被写体に走査させる走査手段と、この走査手段の走査周期と同期して前記レーザ光の光強度を変化させる光強度制御手段と、前記被写体からの反射レーザ光から前記複数の波長と同一波長の光を各々分離する波長分離手段と、前記分離した光の光強度比から前記走査手段における計測点の角度を算出し被写体までの距離計算を行う距離計算手段と、を具備する構成とした。
この構成により、レーザ強度比の誤差による走査手段における計測点の角度誤差を小さくすることができるため、光学系、信号処理系でのノイズの影響を低減し、計測精度を向上するレンジファインダ装置を得ることができる。
また、本発明は、上記レンジファインダ装置において、光強度制御手段は、走査周期の前半区間では、一方のレーザ光強度を一定にし、他方のレーザ光強度を直線的に変化させる一方、走査周期の後半区間では、一方のレーザ光強度を直線的に変化させ、他方のレーザ光強度を一定にするよう構成した。
この構成により、レーザ光強度比の変化率を全走査区間において常に一定にすることができるとともに、レーザ光強度の比の範囲を大きくとることができるので、ノイズの影響によるレーザ光強度比の計測誤差を最小限に抑えることができ、その結果正確に光源側から見た計測点の角度(φ)を決定できることとなる。
また、本発明は、上記レンジファインダ装置において、距離計算手段は、レーザ光強度の大小関係とレーザ光強度の比との双方から、走査手段における計測点の角度を決定するよう構成した。
この構成により、現在の走査点が、走査区間の前半、後半のいずれのどの点に存在するかが確実に検出できる。
また、本発明は、上記レンジファインダ装置において、光強度制御手段は、予め測定したノイズレベルの特性に応じてレーザ光強度を補正するよう構成した。
この構成により、予め測定した装置の光学系、信号処理系に起因するノイズを補正するようにレーザ光強度を制御することができ、ノイズの影響を更に低減し、計測精度を格段と向上するレンジファインダ装置を得ることができる。
また、本発明は、上記レンジファインダ装置において、距離計算手段は、着目画素近傍の複数の周辺画素におけるレーザ光強度比の平均値、重み付け平均値、または、着目画素と周辺画素とのメディアン値を用いて、着目画素におけるレーザ強度比を計算する構成とした。
この構成により、レーザ光強度比の一様な領域においてはレーザ強度比のノイズを低減でき、また、ランダムに生じるノイズについてはノイズレベルをn分の1(nは対象とする周辺画素数)にすることができ、計測精度の向上が図られる。
また、本発明は、上記レンジファインダ装置において、距離計算手段は、各光源のレーザー光の垂直方向の強度分布と各受光部の感度特性を考慮して光強度を補正し、補正後の光強度の比を用いて距離計算を行なう構成とした。
この構成により、2つのレーザー光源からのライン光の垂直方向の強度分布(垂直プロファイル)が一致しない場合でも、計測精度を保つことができる。
また、本発明は、上記レンジファインダ装置において、距離計算手段は、各光源のレーザー光の垂直方向の強度分布と各受光部の感度特性を考慮して光強度比を補正し、補正後の光強度比を用いて距離計算を行う構成とした。
この構成により、2つのレーザー光源からのライン光の垂直方向の強度分布(垂直プロファイル)が一致しない場合でも、計測精度を保つことができる。
また、本発明は、上記レンジファインダ装置において、前記被写体からの反射レーザ光を受光するカメラを有し、このカメラと光源とを、光源からの光線のカメラ視野内での軌跡であるエピポーラ線が平行になるような位置関係に配置する構成とした。
この構成により、基準距離における光強度もしくは光強度比の補正による距離測定精度 の改善効果が、被写体距離が基準距離から離れた場合にも得ることができる。
また、本発明は、上記レンジファインダ装置において、レーザ光の光強度を変化させる際に、レーザー光の強度変調信号に高周波を重畳する構成とした。
この構成により、スペックルノイズを低減し、距離測定精度を改善し測定可能距離範囲を拡大することができる。
また、本発明は、上記レンジファインダ装置において、走査手段は、ガルバノミラーとポリゴンミラーを用いることにより、レーザ光を被写体に走査させる構成とした。
この構成により、垂直方向の光強度比を一定にしたレーザー光走査を行え、光強度もしくは光強度比の補正を行わずに、距離計測を行うことができる。
また、本発明は、上記レンジファインダ装置において、波長分離手段は、撮像面に対して傾斜させて配置した干渉フィルターにより、波長分離を行なう構成とした。
この構成により、光源のコヒーレンスにより生じるモアレ縞の発生を低減することができる。
(実施の形態1)
以下、本発明の実施の形態に係るレンジファインダ装置について、図面を用いて説明する。
【0040】
図1は、本発明の実施の形態1におけるレンジファインダ装置の概略構成を示すブロック図である。図1において、101A、101Bは波長のわずかに異なるレーザ光源、102は前記波長の異なるレーザ光源からのレーザ光を合成するハーフミラー、103は前記レーザ光源の光強度を制御する光源制御部、104はレーザ光を走査する回転ミラー、105は回転ミラーを制御する回転制御部、106は被写体、107はCCD上に像を結ぶためのレンズ、108A、108Bはレーザ光源の波長の光を分離する光波長分離フィルタ、109A、109Bはモノクロ画像を撮像するCCD、109Cはカラー画像を撮像するCCD、110A、10Bはモノクロカメラの信号処理部、111はカラーカメラの信号処理部、112はCCD109A、109Bによって撮影したレーザ光の強度から被写体の距離もしくは形状を計算する距離計算部、113は装置全体の同期を調整する制御部である。以下に上記構成の動作について説明する。
【0041】
101A、101Bは波長のわずかに異なるレーザ光(後述する回転ミラー104による走査方向と垂直な光切断面を持つライン光)を発する。この波長特性は、図10に示したものと同様である。波長の近い2つの光源を用いるのは、被写体の反射率の波長依存性の影響を受けにくくするためである。双方の光源から発せられたレーザ光はハーフミラー102によって合成され、回転ミラー104によって被写体106に走査される。
【0042】
その際、双方のレーザ光源の光強度をフィールド周期内で、図2に示すように変化させる。つまり、走査周期の前半区間では、一方のレーザ光の光強度を一定にし、他方のレーザ光の光強度を直線的に変化させる一方、走査周期の後半区間では、一方のレーザ光強度を直線的に変化させ、後者のレーザ光強度を一定にする。更に、信号レベルの比を、レベル小の値/レベル大の値として計算するよう構成されている。
【0043】
従って、レーザ光強度比の変化率は、全走査区間において、常に一定となる。
【0044】
回転制御部105は、フィールド周期で回転ミラーを駆動しレーザ光を走査する。レーザ光強度の変化とミラー角の駆動を同期させることにより、後述する距離計算部において、2つのレーザ光強度の比と両者の大小関係から、光源側から見た計測点の角度を決定できる。
【0045】
図3は、制御部113からの垂直同期信号(a)と光源101A、光源101Bの強度変調信号(b)(c)、回転ミラー104の駆動信号(d)のタイミング図である。図示するように、光源101A、101Bの強度変調信号(b)(c)と回転ミラー104の駆動信号(d)を制御部113からの垂直同期信号(a)に同期させて、レーザ光強度比を変化させながらレーザ光を走査する。
【0046】
レンズ107はCCD109A、109B、109C上に被写体の像を結ぶ。光波長分離フィルタ108Aは、光源101Aの波長の光を透過し、他の波長の光を反射する。光波長分離フィルタ108Bは、光源101Bの波長の光を反射し、他の波長の光を透過する。その結果、光源101A、101Bの光の被写体からの反射光は各々CCD109A、109Bにより撮影され、他の波長の光はカラー画像としてCCD109Cにより撮影される。
【0047】
光源A信号処理部110Aと光源B信号処理部110Bは、CCD109A、109Bの出力について通常のモノクロカメラと同様の信号処理を行う。カラーカメラ信号処理部111は、CCD109Cの出力について通常のカラーカメラの信号処理を行う。
【0048】
距離計算部112は、各光源の波長についてCCD109A、109Bにより撮影された信号レベルの比、基線長、画素の座標値から、各画素について距離計算を行う。
【0049】
この距離計算は、既に図11により説明したと同様の方法により、式(1)によって計算される。
【0050】
式(1)のφについては、前述のとおり、CCD9A、9Bによりモニタしたレーザ光源1A、1Bの光強度比によって計算し、θ、ωについては画素の座標値から計算する。φの計算は従来と同様の方法により行うが、実施の形態1では、走査周期の半周期において一方のレーザ光強度を一定にし他方のレーザ光強度をリニアに変化させるようにするとともに、2つのレーザ光強度の比と両者の大小関係とから、1走査期間内での走査時刻を測定して回転ミラー104の回転角を算出するようにしたため、レーザ光強度比の変化率を全走査区間において常に一定にすることができるとともに、レーザ光強度の比の範囲を大きくとることができるので、ノイズの影響によるレーザ光強度比の計測誤差を最小限に抑えることができ、その結果正確に光源側から見た計測点の角度(φ)を決定できることとなる。2つのレーザ光強度の比と両者の大小関係とから回転ミラー104の回転角を算出するには、これらを予めテーブル化して用意しておき都度参照することにより処理の高速化を図り得る。
【0051】
このようにして求めた計測点の角度(φ)を用いて、式(1)に示した値のうち、x、y、zのすべてを計算すると形状を求めることができ、zのみであれば距離画像を求めることができる。
【0052】
以上のように実施の形態1によれば、レーザ強度比の変化率を角度によらず一定にすることにより、レーザ強度比の計測誤差による角度誤差、形状もしくは距離の計測誤差を低減することができる。
【0053】
(実施の形態2)
本発明の実施の形態2においては、カメラにより撮影されたビデオ信号のノイズレベルに応じて、レーザ光強度を走査周期内に変化させることにより、レーザ光強度比の誤差による角度誤差を小さくし、計測精度を向上させる例について示す。
【0054】
図4は、本発明の実施の形態2におけるレンジファインダ装置の構成図である。図4において、実施の形態1と同じ動作を行うものについては同一の符号を付し説明を省略する。実施の形態2は、光源制御部403と距離計算部412の動作についてのみ、実施の形態1と異なる。以下、この光源制御部403、距離計算部412の動作について説明する。
【0055】
光源制御部403は、CCD109A、109Bによって撮影されたビデオ信号のノイズレベルに応じて、角度誤差が最小となる強度変調を行う。この光源制御部403における強度変調について以下に説明する。
【0056】
距離計算部412におけるレーザ強度比の計算は、CCD109Aにより撮影された信号レベルをSA、CCD109Bにより撮影された信号レベルをSBとし、カメラのγ特性を1とすると、SB<SAとなっている場合は、理想的には以下の式(2)によって計算される。
【数2】
Figure 0003672731
実際には、それぞれの信号レベルにノイズが含まれているため、式(3)を計算していることになる。
【数3】
Figure 0003672731
ここで、n(SA)、n(SB)は信号レベルに対するノイズレベルの分布であり、波長の近い2つの光源101A、101Bの波長を撮影した信号SA、SBについて同一の分布をするものとしている。
【0057】
今、信号レベルに対して確率的に分布するノイズレベルの代表値をRMS値σとすると、距離計算部412におけるレーザ強度比は、レーザ光強度比が大きく見積もられる場合は、
【数4】
Figure 0003672731
となり、
逆にレーザ光強度比が小さく見積もられる場合は、
【数5】
Figure 0003672731
となる。
【0058】
従って、レーザ強度比の誤差の範囲は、式(4)式(5)と式(2)の差から、以下の式(6)に示す範囲となる。
【数6】
Figure 0003672731
SA、n(SA)はフィールド周期の前半の期間で一定としているので、式(6)において、レーザ光強度比の誤差は式(6)の分子によって決まることとなる。
【0059】
レーザ光強度比と回転ミラーの駆動信号は、図3に示すように、フィールド周期内で時間と共に変化するため、観測されるレーザ光強度比の誤差は時間の誤差すなわち光源から見た角度の誤差となる。角度誤差を小さくするためには、レーザ光強度比の誤差に比例して光源1Bの強度が変化するようにすればよく、また、光源1Bの強度がフィールド周期の前半の期間で単調増加する必要があるという条件から、信号レベルに対するノイズレベルの分布について、角度誤差を最小化する光源1Bの強度変調関数IB(t)を式(7)を式(8)の境界条件で数値的に解くことにより決定できる。
【数7】
Figure 0003672731
【数8】
Figure 0003672731
ここで、式(7)の定数Aは式(8)の境界条件から決まる定数である。
式(7)を式(8)の境界条件を満たすように解くことにより、フィールド周期内で角度誤差を一定にする強度変調関数を決定して角度誤差を最小化することができる。
【0060】
なお、式(7)からの強度変調関数IB(t)の決定方法として、2次関数、双曲線等の曲線当てはめを用いても、ほぼ同じ効果を得ることができること、勿論である。
【0061】
図5は、出力30mW、波長830nmのレーザ光源により1mの距離にある複数の色の色指標にレーザ光を一様なレーザパワー密度で投射し、赤外感度のあるCCDで撮影したビデオ信号について、画面中央部の領域において測定したノイズレベル(RMS値)を示すものである。このノイズレベルは、CCDの暗電流ノイズ、ショットノイズ、アンプのノイズ、スペックルノイズ等の複数のノイズ成分を含んだ形で測定されている。これらのノイズのうち支配的な成分は光源のコヒーレンスに起因するスペックルノイズである。
【0062】
図6は、図5の1mの距離の被写体についての信号レベルとノイズレベルの関係に対して、角度誤差がフィールド周期内で一定となるように補正した強度変調信号の図である。被写体の距離が1m以外の場合には、被写体の距離に応じた信号レベルとノイズレベルの関係を予め測定するか、1mの被写体距離の関係から予測することにより、設定した距離での誤差を少なくして測定精度を改善できる。被写体距離が1m以外の時の信号レベルとノイズレベルの関係は、信号レベルが距離の2乗に反比例して減少するとし、また、信号レベルに対するノイズレベルの値は距離によらず同じであるとすることで予測できる。
【0063】
また、信号レベルの増加に伴うノイズレベルの増加(ショットノイズ)は、信号レベルの1/2乗に比例することが知られている。図7は、そのようなノイズレベルと信号レベルの関係を示している。図7のようなノイズレベルと信号レベルの関係の場合にも、上記の図5のノイズレベルと信号レベルの関係からの強度変調関数の決定方法と同じ方法によって、強度変調関数を決定できる。
【0064】
また、被写体の距離としては予め設定したものに限らず、前フィールドでの計測値の画像内の距離の平均値や、中央部を優先的に重み付けした重み付け平均を現フィールドでのノイズレベルを決定するための被写体距離としてもよい。
【0065】
以上のように実施の形態2によれば、レーザ光強度を、カメラにより撮影されたビデオ信号の信号レベルとノイズレベルとの関係に応じて補正した上で、走査周期内で変化させることにより、レーザ光強度比の誤差による角度誤差を小さくし、計測精度を向上させることができる。
【0066】
なお、実施の形態2におけるノイズの主成分であるスペックルノイズは、レーザー光源のコヒーレンスが原因で生じる。この光源のコヒーレンス性を減少させる方法について以下に説明する。
【0067】
図20は、高周波信号を重畳した光源の強度変調信号の説明図である。同図に示すように、光源の強度変調信号に高周波信号を重畳することにより、局所的な平均レベル(図20中の破線)を変化させずにレーザーパワーを高速に変化させることができる。レーザーパワーが変化するとレーザーの発振モードが変化し、スペックルの強度も変化する。したがって、もとの変調信号(60Hz)と比べて周波数の高い(例えば数kHz程度の)高周波を重畳することにより、スペックルノイズのレベルを低減することができ、このような方法も本発明に含まれる。
【0068】
(実施の形態3)
本発明の実施の形態3においては、着目画素におけるレーザ光強度比を近傍の複数の画素におけるレーザ光強度比を用いて計算することにより、レーザ光強度比の誤差を減少させ、計測精度を改善する例について示す。
【0069】
図8は、本発明の実施の形態3におけるレンジファインダ装置の構成図である。図8において、本発明の実施の形態1もしくは実施の形態2と同一の動作をするものについては、図1もしくは図4と同一の符号を付し説明を省略する。以下、光源制御部803、距離計算部812の動作について説明する。
【0070】
光源制御部803は、本発明の実施の形態1、実施の形態2における光源制御部と同一の動作をし、レーザ光源の光強度比を制御する。また、距離計算部812は、着目画素におけるレーザ光強度比を、周囲の複数の画素(例えば3×3画素)におけるレーザ光強度比の平均として計算し、その値を用いて実施の形態1、実施の形態2と同一の距離計算を行うようにした。
【0071】
実施の形態3では、その距離計算に際して、レーザ光強度比として、着目画素の周囲の複数の画素におけるレーザ光強度比の平均を用いることとしたため、レーザ光強度比の一様な領域においてレーザ強度比のノイズを低減できる。ランダムに生じるノイズについては、周囲のn×n画素におけるレーザ光強度比の平均を計算することで、ノイズレベルをn分の1にすることができ、その結果計測精度を改善できる。
【0072】
なお、距離計算部812におけるレーザ光強度比の計算は、着目画素とその周囲の画素の平均とするものに限る必要はない。例えば、平均値の差が大きいほど重みが小さくなる重み付け平均によって、レーザ光強度比を決定することにより、レーザ光強度比が急激に変化する物体輪郭付近における測定誤差を低減できる。また、着目画素とその周囲の画素のメディアン値としてレーザ光強度比を決定するようにしてもよい。
【0073】
また、距離計算部812において、レーザー光強度比を着目画素とその周囲の画素における値から計算するかわりに、着目画素における距離計測値を着目画素とその周囲の画素における距離計測値の平均値、重み付け平均値、もしくは、メディアン値として計算しても同様の効果を得ることができ、本発明に含まれる。
【0074】
以上のように実施の形態3によれば、着目画素におけるレーザ光強度比を近傍の複数の画素におけるレーザ光強度比を用いて計算することにより、レーザ光強度比の誤差を減少させ、計測精度を改善することができる。
【0075】
(実施の形態4)
本発明の実施の形態4においては、レーザー光源の垂直方向の強度分布(垂直プロファイル)による影響を信号処理により補正し、計測精度を改善する例について示す。
【0076】
図9は、本発明の実施の形態4におけるレンジファインダ装置の構成図である。図9において、本発明の実施の形態1〜3と同一の動作をするものについては、図1、図4もしくは図8と同一の符号を付し説明を省略する。以下、距離計算部901の動作について説明する。
【0077】
距離計算部901は、着目画素におけるレーザー光強度(すなわち輝度)を画素のy座標値に応じて補正し、補正後のレーザー光強度を用いて実施の形態1〜3と同一の距離計算を行うようにした。
【0078】
実施の形態4では、その距離計算に際して、レーザー光強度の垂直方向の分布(垂直プロファイル)を考慮してレーザー光強度を補正し、補正後のレーザー光強度から距離計算を行うため、2つのレーザー光源の垂直プロファイルが一致しない場合でも、計測精度を保つことができる。
【0079】
以下に、レーザー光強度の垂直方向の分布(垂直プロファイル)について説明する。
【0080】
図10は、レーザー光源とスリット光生成のための光学系の説明図である。図10において、1001はレーザー発信器、1002はレーザーダイオード、1003はコリメータレンズ、1004はシリンドリカルレンズである。
【0081】
レーザーダイオード1002は、レーザー発信器内の駆動回路によって駆動され一定波長の光を発する。
【0082】
図11は、レーザーダイオード1002の光強度の方向性を示す特性図である。同図に示すように、レーザーダイオードが発する光の強度は、ピーク強度を中心にしたガウス状の分布を持つ。
【0083】
コリメータレンズ1003は、レーザーダイオード1002の発するレーザー光を集光しビーム光を生成する。
【0084】
シリンドリカルレンズ1004は、コリメータレンズ1003が生成したビーム光を鉛直方向に拡大し、スリット光を生成する。図11に示すように、レーザーダイオードの発する光の強度はガウス状の分布をしているため、これを集光し垂直方向に拡大したスリット光の光強度は垂直方向に一様にはならず、水平方向の光強度分布については、分布幅が小さいため問題とはならない。
【0085】
図12は、2つのレーザー光源の垂直方向の光強度分布(垂直プロファイル)の一例を示す。レーザーダイオードの光強度の方向性は、個々のレーザーによって異なるため、2つのレーザー光源の垂直プロファイルは一致しない。
【0086】
本発明によるレンジファインダ装置では、レーザー強度比の水平方向の変化を用いて距離測定を行うため、垂直方向のレーザー強度比の変化は距離測定精度の誤差の原因となる。実施の形態4では、着目画素における光強度について、垂直プロファイルが平坦になる補正(即ち、図12において各データとピーク値P1もしくはP2との比を用いた補正)を行い、補正後の光強度を用いて距離計算を行うようにした。
【0087】
図13は、実施の形態4における距離計算部901の構成図である。同図において、1301A,1301Bは垂直プロファイル補正テーブル、1302は2つの光強度を光源からの角度情報に変換するLUT、1303は着目画素のx座標値をカメラからの角度情報に変換するLUT、1304は距離計算に必要な基線長(光源とカメラのレンズ中心間の距離)を記憶するメモリである。以下、上記構成の動作について説明する。
【0088】
垂直プロファイル補正テーブル1301A,1301Bは、光源A、光源Bそれぞれのレーザー光の垂直プロファイルの補正係数を保持する。補正係数は画像の各y座標毎に、図11中のピーク値P1もしくはP2と各垂直プロファイルデータの比として求める。垂直プロファイルデータは、距離一定の面に時間変調を行わないレーザー光を照射しこれを撮像することにより得る。着目画素のy座標値に応じて補正係数を乗ずることにより、垂直プロファイルの補正を行う。
【0089】
実施の形態4では、式(1)のzを求める計算式を変形した以下の式(9)を計算する。
【数9】
Figure 0003672731
LUT1302は、補正後の2つのレーザー光強度の比を光源からの角度情報
【数10】
Figure 0003672731
に変換する。
【0090】
図14は2つのレーザー光強度の比と光源からの角度情報(数10)との関係を示す。図14の変換特性の計算方法について以下に説明する。
【0091】
まず、既知の一定距離の基準面に図2に示す時間変調をかけたレーザー光を投射し、これを撮像する。次に、撮像した画像に対して垂直プロファイル補正を行う。そして、カメラパラメータ(焦点距離と撮像面上での画素寸法)を用い、各画素について垂直プロファイル補正後の光強度の大小関係に応じて光強度比と光源からの角度情報式(10)の値を計算する。
【0092】
図19は、このような計算を行なった後の光強度比と角度情報式(10)の分布を示す説明図である。光強度に含まれるノイズのために、計算された光強度比と角度情報式(10)は幅をもった分布となる。レーザー光強度の比と光源からの角度情報式(10)との関係は、光強度の大小関係(光源101Aの光強度≦光源101Bの光強度の場合と光源101Aの光強度≧光源101Bの光強度の場合)に応じて、関数(例えば3次式)当てはめを行うことにより得られる。関数当てはめに際しては、図15において光強度比が1となる時の角度情報式(10)の平均値(図15中の点A)を通るという条件をつけることにより、光強度比1付近での精度を改善できる。すなわち、上記条件がない場合には、光強度の大小関係に応じて当てはめた2つの関数が光強度比1以下で交差したり、1以上で交差することとなり、光強度比1付近で距離測定精度が低下する。その理由は、光強度比1付近においては、光強度に含まれるノイズにより光強度の大小関係の逆転が起こり得るからである。
【0093】
LUT1303は、着目画素のx座標を式(11)で示すカメラからの角度情報に変換するために、1ライン分の値を保持する。
【数11】
Figure 0003672731
この式(11)の画像の各x座標における値は、上述の図28の図形的な関係から、レンズ焦点距離と撮像面上での1画素の寸法から決定できる。
【0094】
LUT1302、LUT1303からの角度情報とメモリ1304からの基線長値より、3角測量の式式(9)が計算でき、画像の各画素について距離zを計算できる。
【0095】
距離zの計算は、図13に示すように最終の除算以外、LUT等のメモリ参照と加算、乗算回路によって実現できる。また、最終の除算についても、入力の値に対する計算結果をメモリに保持することで、メモリ参照で実現可能である。したがって、各画素についての距離計算はビデオレートでの処理が十分可能である。
【0096】
図16は実施の形態4における処理の手順を示す。初期設定処理として垂直プロファイル補正データを計算し(ST1601)、その結果を用いて光強度比から1/tanφへの変換特性を計算する(ST1602)。そして、ビデオレート処理として、上記垂直プロファイル補正データと光強度から1/tanφへの変換特性を用いて、距離計算を行う(ST1603)。
【0097】
以上のように実施の形態4によれば、距離計算に際して、レーザー光強度の垂直方向の分布(垂直プロファイル)を考慮してレーザー光強度補正し、補正後のレーザー光強度から距離計算を行うため、2つのレーザー光源の垂直プロファイルが一致しない場合でも、計測精度を保つことができる。
【0098】
なお、実施の形態4における垂直プロファイルの影響の補正では、光強度比を計算する前の段階で垂直プロファイルを平坦化するものについて述べたが、着目画素のy座標値に応じて光強度比を計算後に補正し、補正後の光強度比を角度情報に変換しても、数学的に同一の処理であり、本発明に含まれることは明らかである。
【0099】
なお、実施の形態4における垂直プロファイルの影響の補正では、基準面での垂直プロファイルに基づく補正を行っているため、被写体が基準面から離れると計測精度が劣化することが考えられる。この点を考慮して、被写体と基準面の距離によらない垂直プロファイル補正を実現する撮像面と光源の配置について以下に説明する。
【0100】
図17は、ライン光の撮像の説明図である。同図において、1701はレーザー光源、1702はコリメートレンズ、1703はシリンドリカルレンズ、1704は回転ミラー、1705はカメラである。レーザー光源1701から発せられたレーザー光は、コリメートレンズ1702によりコリメートされビーム光となり、シリンドリカルレンズ1703により鉛直方向にのみ拡散されてライン光となり、回転ミラー1704によって計測空間を走査される。ここで、ライン光のそれぞれの方向に進む光が、撮像時に画像中のどこに写るかを考える。
【0101】
図18は、図17に示した光の通る点a1,a2,b1,b2,c1,c2が、撮像時に画像中に写る位置を示している。図18は、空間中を進む光(3次元空間中の直線)が撮像(透視変換)により画像中の直線(2次元空間中の直線)に投影されることを示す。
【0102】
図18において、画像中に投影された直線は、画像内で左側が3次元空間中ではカメラから遠く、逆に右側が3次元空間中でカメラに近い。この直線は一般的には画像内で水平とはならないため、基準距離と被写体の距離が離れると、垂直プロファイル補正が正しく行えなくなる。
【0103】
ライン光撮像時に、ライン光に含まれるすべての方向に進む光の軌跡が画像内で水平になれば、基準距離での垂直プロファイルに基づく光強度補正を被写体の距離によらず適用できる。垂直プロファイル補正は、画像内でのy座標値に応じて行うためである。そのような光源と撮像面の配置について以下に説明する。
【0104】
図19は、空間内の直線の撮像面への射影の定式化の説明図である。同図において、Oはレンズ中心、Aは光源位置(扇状のライン光の要の位置)。また、簡単のため撮像面はZ=fの位置にあるとする。Aの位置ベクトルを(lx,ly,lz)、光源からの光の方向ベクトルを(dx,dy,dz)とする。光の通る直線は、
【数12】
Figure 0003672731
となり、これを撮像面に透視変換することは、式(12)の直線を含み原点O(レンズ中心)を通る平面
【数13】
Figure 0003672731
と、平面Z=fの交線を求めることと等しい。式(13)の面の法線ベクトルは、(dx,dy、dz)と(lx,ly,lz)の双方と垂直であるので、
【数14】
Figure 0003672731
とおける。ここで、上記交線が水平になる条件a=0から、
【数15】
Figure 0003672731
が導かれる。ここで、光の進行方向(dx,dy,dz)はライン光を回転ミラーで走査するため一定ではない。任意の(dx,dy,dz)について(数15)を満たす条件から、
【数16】
Figure 0003672731
を得る。すなわち、レンズ中心と光源を結ぶ線分が、撮像面のx軸と水平になるように光源を配置することにより、基準距離と被写体との距離によらず垂直プロファイル補正を行うことができる。
【0105】
なお、実施の形態4における光強度補正では、垂直1ライン分の補正テーブルで実現できる垂直プロファイルの影響の補正について述べたが、1画面分の補正テーブルを用いることにより、着目画素のx座標値、y座標値に応じた補正(例えばレンズの周辺減光の補正)を同様の構成で行うことができ、本発明に含まれる。
【0106】
なお、実施の形態4では、レーザービーム光からライン光を生成し、ライン光を回転ミラー(ガルバノミラー)にて水平走査する構成としているが、レーザービーム光をガルバノミラーとポリゴンミラーを用いて2次元的に走査してもよい。
【0107】
図21は、ガルバノミラーとポリゴンミラーによるレーザービーム光の走査の説明図である。図21において、2101は、ガルバノミラー。2102はポリゴンミラーである。ガルバノミラー2101はレーザービーム光を垂直走査し、ポリゴンミラー2102はレーザービーム光を水平走査する。両者の走査により被写体空間でレーザー光を走査できる。実施の形態4においては、光源として2つのレーザー光源を用いているが、ガルバノミラーとポリゴンミラーによる走査により、レーザー強度比を垂直方向に一定に保つことが容易となり、垂直プロファイルの補正を行なわずに距離計測を行え、本発明に含まれる。
【0108】
なお、実施の形態5では距離zを計測するものについて述べたが、式(1)のx,y,zをすべて計測することにより、3次元座標値(x、y、z)の計測が行えることはもちろんである。
【0109】
なお、本発明の実施の形態1〜4による距離計測は、2波長の光源を用いた1フィールド毎の距離計測を行うようにしたが、前記実施の形態における各波長用のレーザー強度変調信号(2種類)をフィールド毎に切り替えて1つのレーザー光源の光強度を制御することにより、1波長の光源によって1フレーム毎の距離計測を行うようにしてもよい。
【0110】
(実施の形態5)
本発明の実施の形態5は、1波長の光源でフィールド毎に距離計算を行う実施の形態に言及する。図22は本発明の実施の形態5におけるレンジファインダ装置の構成図である。本発明の実施の形態1〜4の構成と同一の動作をするものについては、上記実施の形態とと同一の符号を付して説明を省略する。上記実施の形態との相違点は、光源制御部2201、レーザー光源2202、可視光を反射し赤外光を透過する赤外透過フィルター2203、レーザー光源2202の波長の光だけを透過する干渉フィルタ2204、距離計算部2205、装置全体の同期を制御する制御部2206を設けた点にある。
【0111】
光源制御部2201は、図23(a)もしくは(b)に示す強度変調信号によってレーザ光源2202を駆動する。図23に示す強度変調信号は、その包絡線(上下2つ)の差と局所的な平均の比がフィールド期間内の時間(すなわち回転ミラー104から見た被写体の角度)と一意に対応している。
【0112】
被写体106からの反射光は赤外透過フィルターによって赤外光と可視光に分離され、可視光はカラーCCD109Cにて撮像される。一方、赤外光は干渉フィルタ22204によって光源波長の光だけが透過され赤外感度のあるモノクロCCD109Aによって撮像される。
【0113】
なお、干渉フィルタ265をモノクロCCD109Aと平行に配置すると、レーザー光源のコヒーレンス性により、撮像した画像中にモアレ縞が発生するため、CCD109Aに対して傾けて配置する。
【0114】
干渉フィルタの透過波長特性は、入射光がフィルタ面に対して垂直な角度から離れて入射すると、透過波長ピークが短波長側にシフトするため、該シフト量を予め考慮し光源波長よりも長波長側に透過波長ピークのある干渉フィルタを用いる。
【0115】
距離計算部2205は、画像として得られた光強度の各ラインについて包絡線検出と局所平均検出を行い、距離を計算する。
【0116】
図24は、距離計算部2205の構成の1例を示すブロック図である。同図に示すように、距離計算部2205は、包絡線・局所平均検出部2401、包絡線の値(上下2つ)の差と局所平均値との比を、光源からの角度情報に変換するLUT2402、着目画素のx座標をカメラからの角度情報に変換するLUT2403、基線長の値を保持するメモリ2404、とを有する。
【0117】
光強度の包絡線は、着目画素近傍で光強度の極大値、極小値検出結果を空間的にそれぞれ補間することによって検出する。
【0118】
LUT2402、LUT2403の出力とメモリ2404の基線長の値から、各画素についての距離を計算することができる。
【0119】
以上のように、実施の形態5によれば1波長のレーザー光源を用いて、光強度変調信号の包絡線の差と平均光強度との比によって光源からの角度情報を与え、これとCCDからの角度情報と基線長による三角測量により、フィールド周期毎に各画素についての距離計測を行うことができる。
【0120】
また、レーザー光源の波長だけを透過する干渉フィルタをCCDに対して傾斜配置することにより、レーザー光のコヒーレンス性によるモアレ縞の発生を低減できる。
【0121】
【発明の効果】
以上説明したように、本発明によれば、一方のレーザ強度を一定に保ち、他方レーザ強度を直線的に変化させて、レーザ強度比をフィールド期間内で直線的に変化させることにより、レーザ強度比の変化率を角度によらず一定にでき、レーザ光強度比の計測誤差による角度誤差、形状もしくは距離の計測誤差を低減することができる。
【0122】
また、レーザ光強度を、カメラにより撮影されたビデオ信号の信号レベルとノイズレベルの関係に応じて補正した上で、走査周期内に変化させることにより、レーザ光強度比の誤差による角度誤差を小さくし、計測精度を向上させることができる。
【0123】
また、着目画素におけるレーザ光強度比を近傍の複数の画素におけるレーザ光強度比を用いて計算することにより、レーザ光強度比の誤差を減少させ、計測精度を改善することができる。
【0124】
また、距離計算に際して、レーザー光強度の垂直方向の分布(垂直プロファイル)を考慮してレーザー光強度補正し、補正後のレーザー光強度から距離計算を行うため、2つのレーザー光源の垂直プロファイルが一致しない場合でも、計測精度を保つことができる。
さらに、撮像系のレンズ中心と光源を結ぶ線分が、撮像面のx軸と水平になるように光源を配置することにより、基準距離と被写体との距離によらず垂直プロファイル補正を正確に行うことができる。
【0125】
また、レーザー光の走査にガルバノミラーとポリゴンミラーの双方を用いることにより、垂直プロファイル補正の不要なレンジファインダを構成できる。
【0126】
また、1波長のレーザー光源を用いて、光強度変調信号の包絡線の差と平均光強度との比によって光源からの角度情報を与え、これとCCDからの角度情報と基線長による三角測量により、フィールド周期毎に各画素についての距離計測を行うことができる。
【0127】
さらに、レーザー光源の波長だけを透過する干渉フィルタをCCDに対して傾斜配置することにより、レーザー光のコヒーレンス性によるモアレ縞の発生を低減でき、その実用的効果は大きい。
【図面の簡単な説明】
【図1】本発明の実施の形態1におけるレンジファインダ装置の構成を示すブロック図
【図2】実施の形態1におけるレンジファインダ装置のレーザ光源の強度変調の特性図
【図3】実施の形態1における動作のタイミング図
【図4】本発明の実施の形態2におけるレンジファインダ装置の構成を示すブロック図
【図5】実施の形態2における信号レベルとノイズレベルの関係を示す特性図
【図6】実施の形態2におけるレーザ光源の強度変調の特性図
【図7】形態2における信号レベルの1/2乗に比例して増加するノイズレベルの特性図
【図8】本発明の実施の形態3におけるレンジファンダ装置の構成を示すブロック図
【図9】本発明の実施の形態4におけるレンジファインダ装置の構成を示すブロック図
【図10】実施の形態4におけるレーザー光源からライン光を生成する光学系の説明図
【図11】実施の形態4におけるレーザーダイオードの方向特性を示す特性図
【図12】実施の形態4におけるライン光の垂直プロファイルの説明図
【図13】実施の形態4における距離計算部の構成図
【図14】実施の形態4におけるレーザー光強度と角度情報1/tanφの関係を示す特性図
【図15】実施の形態4における光強度比に対する角度情報1/tanφの分布を示す説明図
【図16】実施の形態4における処理の流れ図
【図17】実施の形態4におけるライン光の撮像の説明図(その1)
【図18】実施の形態4におけるライン光の撮像の説明図(その2)
【図19】実施の形態4における3次元空間内の直線の撮像面への射影の定式化の説明図
【図20】実施の形態4における高周波信号を重畳した光源の強度変調信号の説明図
【図21】実施の形態4におけるガルバノミラーとポリゴンミラーによるレーザービーム光の走査の説明図
【図22】本発明の実施の形態5におけるレンジファインダ装置の構成図
【図23】実施の形態5におけるレーザー光の強度変調信号の説明図
【図24】実施の形態5における距離計算部の構成を示すブロック図
【図25】従来のレンジファインダ装置の構成図
【図26】従来のレンジファインダ装置の光源の波長特性を示す特性図
【図27】従来のレンジファインダ装置の光源の強度変調の特性図
【図28】レンジファインダにおける計測原理図
【符号の説明】
101A、101B レーザ光源
102 ハーフミラー
103 光源制御部
104 回転ミラー
105 回転制御部
106 被写体
107 レンズ
108A、108B 光波長分離フィルタ
109A、109B モノクロCCD
109C カラーCCD
110A、110B モノクロカメラ信号処理部
111 カラーカメラ信号処理部
130 距離計算部
113 制御部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a range finder device that measures a three-dimensional shape of an object.
[0002]
[Prior art]
As a range finder device that performs three-dimensional shape measurement based on the triangulation of the projection light and the observation image, for example, the one shown in FIG. 25 has been proposed.
[0003]
In FIG. 25, 1A and 1B are laser light sources having slightly different wavelengths, 2 is a half mirror that combines laser light from laser light sources having different wavelengths, and 3 is a light source control unit that controls the light intensity of the laser light source. Is a rotating mirror that scans the laser beam, 5 is a rotation control unit that controls the rotating mirror, 6 is a subject, 7 is a lens for forming an image on the CCD, and 8A and 8B are light beams that separate light of the wavelength of the laser light source. Wavelength separation filters, 9A and 9B are CCDs that capture monochrome images, 9C is a CCD that captures color images, 10A and 10B are monochrome camera signal processing units, 11 are color camera signal processing units, and 12 are CCDs 9A and 9B. A distance calculator 13 calculates the distance or shape of the subject from the intensity of the captured laser beam, and 13 is a controller that adjusts the synchronization of the entire apparatus. Hereinafter, the operation of the range finder apparatus configured as described above will be described.
[0004]
The laser light sources 1A and 1B emit laser beams having slightly different wavelengths. This laser light is a line light having an optical cross section perpendicular to the scanning direction of a rotating mirror, which will be described later, and becomes a vertical line light when the rotating mirror scans in the horizontal direction. The wavelength characteristics of these two light sources are shown in FIG. The reason why two light sources having close wavelengths are used is to make them less susceptible to the wavelength dependence of the reflectance of the subject. Laser light emitted from the laser light sources 1 </ b> A and 1 </ b> B is combined by the half mirror 2, and scanned by the subject 6 by the rotating mirror 4.
[0005]
The scanning of the laser light is performed by the rotation control unit 5 driving the rotating mirror 4 with a field period. At that time, the light intensities of both light sources are changed within one field period as shown in FIG. By synchronizing the change of the laser light intensity and the driving of the mirror angle, the two laser light intensities are monitored by the CCDs 9A and 9B, and the light intensity ratio is calculated, thereby measuring the time in one scanning cycle. it can. For example, as shown in FIG. 27B, when the light intensity is IA0 / IB0, the scanning time is measured as t0, and the rotation angle (φ) of the rotating mirror 4 is determined from the measured value.
[0006]
In this way, the ratio of the two laser light intensities and the mirror angle (that is, the angle of the subject as viewed from the light source side) have a one-to-one correspondence, so that the distance calculation unit (to be described later) captures the light from both light sources. The distance or shape of the subject is calculated from the ratio of the signal levels based on the triangulation principle.
[0007]
The lens 7 forms a subject image on the CCDs 9A, 9B, and 9C. The optical wavelength separation filter 8A transmits light having the wavelength of the light source 1A and reflects light having other wavelengths. The optical wavelength separation filter 8B transmits light having the wavelength of the light source 1B and reflects light having other wavelengths. As a result, the reflected light from the subject of the light sources 1A and 1B is photographed by the CCDs 9A and 9B, and light of other wavelengths is photographed by the CCD 9C as a color image.
[0008]
The light source A signal processing unit 10A and the light source B signal processing unit 10B perform signal processing similar to that of a normal monochrome camera on the outputs of the CCDs 9A and 9B. The color camera signal processing unit 11 performs normal color camera signal processing on the output of the CCD 9C.
[0009]
The distance calculation unit 12 calculates the distance for each pixel from the ratio of the signal levels photographed by the CCDs 9A and 9B, the base line length, and the pixel coordinate value for the wavelength of each light source.
[0010]
FIGS. 28A and 28B are diagrams for explaining the distance calculation graphically. In the figure, O is the center of the lens 7, P is a point on the subject, and Q is the position of the rotation axis of the rotating mirror. For the sake of simplicity, the position of the CCD 9 is shown folded back toward the subject. Further, when the length (baseline length) of OQ is L, the angle of P viewed from Q in the xz plane is φ, and the angle of P viewed from O in the yz plane is ω, P The three-dimensional coordinates are calculated by the following formula.
[0011]
[Expression 1]
Figure 0003672731
As described above, φ in Expression (1) is calculated based on the light intensity ratio of the laser light sources 1A and 1B monitored by the CCDs 9A and 9B, and θ and ω are calculated from the coordinate values of the pixels. If all of the values shown in Equation (1) are calculated, the shape is obtained, and if only z is obtained, the distance image is obtained.
[0012]
[Problems to be solved by the invention]
However, in the configuration as described above, since both the two laser light intensities are changed within the scanning field, the change rate of the light intensity ratio is not linear as shown in FIG. The curve fluctuates between the start time and the scan end time. The error in the laser light intensity ratio caused by noise in the image data taken by the CCDs 9A and 9B is the main cause of the distance or shape measurement error. There is a problem that the resulting light intensity measurement error tends to occur.
[0013]
The present invention has been made in view of such problems, and an object thereof is to provide a range finder device that reduces the influence of noise in an optical system and a signal processing system and improves measurement accuracy.
[0014]
[Means for Solving the Problems]
The present invention adopts the following configuration in order to solve the above-described problems.
[0015]
  The present invention superimposes a high-frequency whose amplitude changes with time on a light intensity modulation signal for a laser light source of one wavelength, scans the subject with the laser light whose intensity has been modulated by a rotating mirror, and reflects light reflected from the subject with a CCD. On the other hand, two envelope detections of the upper limit and the lower limit and local average detection are performed on the light intensity distribution in the vicinity of the target pixel of the CCD, and a light source is obtained based on a ratio between the difference between the two envelopes and the local average value. The angle information to the subject viewed from the angle is calculated, the angle information to the subject viewed from the CCD is calculated based on the coordinate value of the target pixel, and the field information is calculated for each field period using the calculated angle information and the base line length. In addition, distance measurement is performed for each pixel.
[0016]
  With this configuration,Distance measurement for each pixel can be performed for each field from one scan with a laser light source of one wavelength.
[0017]
  Also,The present invention includes a scanning unit that scans light from a laser light source that emits light of a single wavelength, a light intensity of the laser beam that changes in synchronization with a scanning period of the scanning unit, and an amplitude that is time The light intensity control means for superimposing the changing high frequency, the wavelength separation means for separating the light having the same wavelength from the reflected light from the subject, the CCD for imaging the separated light, and the attention of the CCD The upper and lower envelope envelope detection and local average detection are performed on the light intensity distribution in the vicinity of the pixel, and the angle information to the subject viewed from the light source based on the ratio of the difference between the two envelopes and the local average value Is calculated, and angle information to the subject viewed from the CCD is calculated based on the coordinate value of the pixel of interest, and distance measurement is performed for each pixel for each field period using the calculated angle information and the base line length. distance A range finder apparatus comprising: means measuring the.
[0039]
DETAILED DESCRIPTION OF THE INVENTION
  The rangefinder apparatus of the present invention includes a scanning unit that scans a subject with laser light from a light source that emits light of a plurality of wavelengths, and a light intensity that changes the light intensity of the laser light in synchronization with a scanning cycle of the scanning unit. A control means, wavelength separation means for separating light having the same wavelength as the plurality of wavelengths from the reflected laser light from the subject, and an angle of a measurement point in the scanning means from the light intensity ratio of the separated light. Distance calculating means for calculating the distance to the subject.
With this configuration, the angle error of the measurement point in the scanning means due to the error of the laser intensity ratio can be reduced, so that the range finder device that reduces the influence of noise in the optical system and the signal processing system and improves the measurement accuracy is provided. Can be obtained.
In the range finder apparatus, the light intensity control means may make one laser light intensity constant and linearly change the other laser light intensity in the first half of the scanning period, while changing the scanning period. In the latter half section, one laser beam intensity is linearly changed and the other laser beam intensity is made constant.
With this configuration, the rate of change of the laser light intensity ratio can be kept constant throughout the entire scanning interval, and the range of the laser light intensity ratio can be increased, so the measurement of the laser light intensity ratio due to the influence of noise can be achieved. The error can be minimized, and as a result, the angle (φ) of the measurement point viewed from the light source side can be determined accurately.
Further, according to the present invention, in the range finder apparatus, the distance calculation unit is configured to determine the angle of the measurement point in the scanning unit from both the magnitude relation of the laser beam intensity and the ratio of the laser beam intensity.
With this configuration, it is possible to reliably detect at which point in the first half or second half of the scanning section the current scanning point is present.
Further, according to the present invention, in the range finder apparatus, the light intensity control means is configured to correct the laser light intensity in accordance with the characteristic of the noise level measured in advance.
With this configuration, the laser beam intensity can be controlled so as to correct the noise caused by the optical system and signal processing system of the apparatus measured in advance, and the range that further reduces the influence of noise and greatly improves measurement accuracy. A finder device can be obtained.
According to the present invention, in the range finder device, the distance calculation means calculates the average value of the laser light intensity ratio, the weighted average value, or the median value between the target pixel and the peripheral pixels in a plurality of peripheral pixels near the target pixel. The laser intensity ratio in the pixel of interest was calculated.
With this configuration, the laser intensity ratio noise can be reduced in a region where the laser light intensity ratio is uniform, and the noise level is reduced to 1 / n (n is the number of peripheral pixels of interest) for randomly generated noise. Measurement accuracy can be improved.
In the range finder apparatus according to the present invention, the distance calculation means corrects the light intensity in consideration of the vertical intensity distribution of the laser light of each light source and the sensitivity characteristics of each light receiving unit, and the corrected light intensity. The distance is calculated using the ratio of.
With this configuration, the measurement accuracy can be maintained even when the vertical intensity distributions (vertical profiles) of the line lights from the two laser light sources do not match.
In the range finder apparatus, the distance calculation means corrects the light intensity ratio in consideration of the vertical intensity distribution of the laser light of each light source and the sensitivity characteristics of each light receiving unit, and the corrected light. The distance is calculated using the intensity ratio.
With this configuration, the measurement accuracy can be maintained even when the vertical intensity distributions (vertical profiles) of the line lights from the two laser light sources do not match.
Further, the present invention provides the above range finder apparatus, further comprising a camera that receives reflected laser light from the subject, and the camera and the light source are connected to an epipolar line that is a locus in the camera field of light from the light source. It was set as the structure arrange | positioned in the positional relationship which becomes parallel.
This configuration enables distance measurement accuracy by correcting the light intensity or light intensity ratio at the reference distance. This improvement effect can also be obtained when the subject distance is away from the reference distance.
In the range finder apparatus, the high frequency is superimposed on the intensity modulation signal of the laser light when the light intensity of the laser light is changed.
With this configuration, speckle noise can be reduced, distance measurement accuracy can be improved, and the measurable distance range can be expanded.
Further, according to the present invention, in the above range finder apparatus, the scanning unit uses a galvano mirror and a polygon mirror to scan the subject with laser light.
With this configuration, laser light scanning with a constant light intensity ratio in the vertical direction can be performed, and distance measurement can be performed without correcting the light intensity or the light intensity ratio.
Further, according to the present invention, in the above-described range finder device, the wavelength separation unit is configured to perform wavelength separation by using an interference filter arranged to be inclined with respect to the imaging surface.
With this configuration, it is possible to reduce the occurrence of moire fringes caused by the coherence of the light source.
  (Embodiment 1)
  Hereinafter, embodiments of the present invention will be described.1The rangefinder apparatus according to the present invention will be described with reference to the drawings.
[0040]
FIG. 1 is a block diagram showing a schematic configuration of a range finder apparatus according to Embodiment 1 of the present invention. In FIG. 1, 101A and 101B are laser light sources having slightly different wavelengths, 102 is a half mirror that combines laser beams from laser light sources having different wavelengths, 103 is a light source control unit that controls the light intensity of the laser light source, 104 Is a rotating mirror that scans the laser beam, 105 is a rotation control unit that controls the rotating mirror, 106 is a subject, 107 is a lens for forming an image on the CCD, and 108A and 108B are light beams that separate light of the wavelength of the laser light source. Wavelength separation filter, 109A and 109B are CCDs for capturing monochrome images, 109C is a CCD for capturing color images, 110A and 10B are signal processing units for monochrome cameras, 111 are signal processing units for color cameras, and 112 are CCD 109A and 109B. Distance to calculate the distance or shape of the subject from the intensity of the captured laser beam Calculation unit, 113 is a control unit for adjusting the synchronization entire device. The operation of the above configuration will be described below.
[0041]
101A and 101B emit laser beams having slightly different wavelengths (line beams having a light cutting plane perpendicular to a scanning direction by a rotating mirror 104 described later). This wavelength characteristic is the same as that shown in FIG. The reason why two light sources having close wavelengths are used is to make them less susceptible to the wavelength dependence of the reflectance of the subject. Laser beams emitted from both light sources are combined by a half mirror 102 and scanned onto a subject 106 by a rotating mirror 104.
[0042]
At that time, the light intensities of both laser light sources are changed within the field period as shown in FIG. That is, in the first half of the scanning cycle, the light intensity of one laser beam is made constant and the light intensity of the other laser beam is changed linearly, while in the second half of the scanning cycle, the intensity of one laser beam is linear. The intensity of the latter laser beam is made constant. Further, the ratio of the signal level is calculated as a value of small level / large value of level.
[0043]
Accordingly, the rate of change of the laser light intensity ratio is always constant throughout the entire scanning section.
[0044]
The rotation control unit 105 scans the laser beam by driving the rotating mirror in the field period. By synchronizing the change of the laser light intensity and the driving of the mirror angle, the distance calculation unit, which will be described later, can determine the angle of the measurement point viewed from the light source side from the ratio of the two laser light intensities and the magnitude relationship between them.
[0045]
FIG. 3 is a timing chart of the vertical synchronization signal (a) from the control unit 113, the intensity modulation signals (b) and (c) of the light source 101A and the light source 101B, and the drive signal (d) of the rotating mirror 104. As shown in the figure, the intensity modulation signals (b) and (c) of the light sources 101A and 101B and the drive signal (d) of the rotating mirror 104 are synchronized with the vertical synchronization signal (a) from the control unit 113, and the laser light intensity ratio is obtained. The laser beam is scanned while changing.
[0046]
The lens 107 forms an image of the subject on the CCDs 109A, 109B, and 109C. The optical wavelength separation filter 108A transmits light having the wavelength of the light source 101A and reflects light having other wavelengths. The optical wavelength separation filter 108B reflects light having the wavelength of the light source 101B and transmits light having other wavelengths. As a result, the reflected light from the subject of the light sources 101A and 101B is captured by the CCDs 109A and 109B, respectively, and light of other wavelengths is captured by the CCD 109C as a color image.
[0047]
The light source A signal processing unit 110A and the light source B signal processing unit 110B perform signal processing similar to that of a normal monochrome camera on the outputs of the CCDs 109A and 109B. The color camera signal processing unit 111 performs normal color camera signal processing on the output of the CCD 109C.
[0048]
The distance calculation unit 112 calculates the distance for each pixel from the ratio of signal levels photographed by the CCDs 109A and 109B, the base line length, and the pixel coordinate values for the wavelengths of the respective light sources.
[0049]
This distance calculation is calculated by equation (1) in the same manner as already described with reference to FIG.
[0050]
As described above, φ in Expression (1) is calculated based on the light intensity ratio of the laser light sources 1A and 1B monitored by the CCDs 9A and 9B, and θ and ω are calculated from the coordinate values of the pixels. The calculation of φ is performed by the same method as in the prior art. In the first embodiment, the intensity of one laser beam is made constant and the intensity of the other laser beam is changed linearly in the half cycle of the scanning period. Since the scanning time within one scanning period is measured and the rotation angle of the rotating mirror 104 is calculated from the ratio of the laser light intensity and the magnitude relationship between the two, the rate of change of the laser light intensity ratio is calculated over the entire scanning interval. The laser light intensity ratio can be kept constant and the range of the laser light intensity ratio can be increased, so that the measurement error of the laser light intensity ratio due to the influence of noise can be minimized. The angle (φ) of the measurement point viewed from the above can be determined. In order to calculate the rotation angle of the rotating mirror 104 from the ratio of the two laser light intensities and the magnitude relationship between the two, it is possible to speed up the processing by preparing them in advance as a table and referring to them each time.
[0051]
Using the angle (φ) of the measurement point thus obtained, the shape can be obtained by calculating all of x, y and z among the values shown in the equation (1). A distance image can be obtained.
[0052]
As described above, according to the first embodiment, by making the rate of change of the laser intensity ratio constant regardless of the angle, the angle error due to the measurement error of the laser intensity ratio, the measurement error of the shape or the distance can be reduced. it can.
[0053]
(Embodiment 2)
In Embodiment 2 of the present invention, the angle error due to the laser light intensity ratio error is reduced by changing the laser light intensity within the scanning period in accordance with the noise level of the video signal photographed by the camera. An example of improving measurement accuracy will be described.
[0054]
FIG. 4 is a configuration diagram of the range finder apparatus according to the second embodiment of the present invention. In FIG. 4, the same reference numerals are given to those performing the same operation as in the first embodiment, and the description thereof is omitted. The second embodiment differs from the first embodiment only in the operations of the light source control unit 403 and the distance calculation unit 412. Hereinafter, operations of the light source control unit 403 and the distance calculation unit 412 will be described.
[0055]
The light source control unit 403 performs intensity modulation that minimizes the angle error in accordance with the noise level of the video signal captured by the CCDs 109A and 109B. The intensity modulation in the light source control unit 403 will be described below.
[0056]
The distance calculation unit 412 calculates the laser intensity ratio when the signal level photographed by the CCD 109A is SA, the signal level photographed by the CCD 109B is SB, and the γ characteristic of the camera is 1, SB <SA. Is ideally calculated by the following equation (2).
[Expression 2]
Figure 0003672731
Actually, since noise is included in each signal level, equation (3) is calculated.
[Equation 3]
Figure 0003672731
Here, n (SA) and n (SB) are noise level distributions with respect to the signal level, and the same distribution is applied to the signals SA and SB obtained by imaging the wavelengths of the two light sources 101A and 101B having close wavelengths. .
[0057]
Now, assuming that the representative value of the noise level probabilistically distributed with respect to the signal level is the RMS value σ, the laser intensity ratio in the distance calculation unit 412 is as follows.
[Expression 4]
Figure 0003672731
And
Conversely, if the laser light intensity ratio is estimated to be small,
[Equation 5]
Figure 0003672731
It becomes.
[0058]
Therefore, the range of the error of the laser intensity ratio is the range shown in the following formula (6) from the difference between formula (4), formula (5), and formula (2).
[Formula 6]
Figure 0003672731
Since SA and n (SA) are constant in the first half of the field period, in equation (6), the error in the laser light intensity ratio is determined by the numerator in equation (6).
[0059]
As shown in FIG. 3, the laser light intensity ratio and the driving signal of the rotating mirror change with time within the field period, so the observed laser light intensity ratio error is the time error, that is, the angle error viewed from the light source. It becomes. In order to reduce the angle error, the intensity of the light source 1B should be changed in proportion to the error of the laser light intensity ratio, and the intensity of the light source 1B needs to increase monotonously in the first half of the field period. For the distribution of the noise level with respect to the signal level, the intensity modulation function IB (t) of the light source 1B that minimizes the angle error is numerically solved with the boundary condition of equation (7) and equation (8). Can be determined.
[Expression 7]
Figure 0003672731
[Equation 8]
Figure 0003672731
Here, the constant A in the equation (7) is a constant determined from the boundary condition in the equation (8).
By solving Equation (7) so as to satisfy the boundary condition of Equation (8), the intensity modulation function that makes the angle error constant within the field period can be determined, and the angle error can be minimized.
[0060]
Of course, the same effect can be obtained even if curve fitting such as a quadratic function or a hyperbola is used as a method of determining the intensity modulation function IB (t) from the equation (7).
[0061]
FIG. 5 shows a video signal obtained by projecting laser light with a uniform laser power density onto a color index of a plurality of colors at a distance of 1 m from a laser light source having an output of 30 mW and a wavelength of 830 nm and captured by a CCD having infrared sensitivity. The noise level (RMS value) measured in the central area of the screen is shown. This noise level is measured in a form including a plurality of noise components such as CCD dark current noise, shot noise, amplifier noise, and speckle noise. The dominant component of these noises is speckle noise due to the coherence of the light source.
[0062]
FIG. 6 is a diagram of an intensity modulation signal in which the angle error is corrected so as to be constant within the field period with respect to the relationship between the signal level and the noise level for the subject at a distance of 1 m in FIG. When the subject distance is other than 1 m, the error at the set distance can be reduced by measuring the relationship between the signal level and the noise level according to the subject distance in advance or by predicting from the subject distance relationship of 1 m. Measurement accuracy can be improved. The relationship between the signal level and the noise level when the subject distance is other than 1 m is assumed that the signal level decreases in inverse proportion to the square of the distance, and the value of the noise level with respect to the signal level is the same regardless of the distance. Can be predicted.
[0063]
Further, it is known that an increase in noise level (shot noise) accompanying an increase in signal level is proportional to the 1/2 power of the signal level. FIG. 7 shows the relationship between such noise level and signal level. Also in the case of the relationship between the noise level and the signal level as shown in FIG. 7, the intensity modulation function can be determined by the same method as the method for determining the intensity modulation function from the relationship between the noise level and the signal level in FIG.
[0064]
In addition, the subject distance is not limited to a preset distance, and the average value of the distance in the image of the measured value in the previous field and the weighted average weighted preferentially in the center determine the noise level in the current field. It may be a subject distance for
[0065]
As described above, according to the second embodiment, the laser light intensity is corrected according to the relationship between the signal level of the video signal photographed by the camera and the noise level, and then changed within the scanning cycle. The angle error due to the laser light intensity ratio error can be reduced, and the measurement accuracy can be improved.
[0066]
Note that speckle noise, which is the main component of noise in the second embodiment, is caused by coherence of the laser light source. A method for reducing the coherence of the light source will be described below.
[0067]
FIG. 20 is an explanatory diagram of an intensity modulation signal of a light source on which a high frequency signal is superimposed. As shown in the figure, by superposing a high frequency signal on the intensity modulation signal of the light source, the laser power can be changed at high speed without changing the local average level (broken line in FIG. 20). When the laser power changes, the laser oscillation mode changes and the speckle intensity also changes. Therefore, the level of speckle noise can be reduced by superimposing a high frequency (for example, about several kHz) higher in frequency than the original modulation signal (60 Hz), and such a method is also included in the present invention. included.
[0068]
(Embodiment 3)
In Embodiment 3 of the present invention, the laser light intensity ratio at the pixel of interest is calculated using the laser light intensity ratios at a plurality of neighboring pixels, thereby reducing errors in the laser light intensity ratio and improving measurement accuracy. An example will be shown.
[0069]
FIG. 8 is a configuration diagram of the range finder apparatus according to Embodiment 3 of the present invention. In FIG. 8, the same reference numerals as those in FIG. 1 or FIG. 4 are used for the same operations as those in the first or second embodiment of the present invention, and the description thereof is omitted. Hereinafter, operations of the light source control unit 803 and the distance calculation unit 812 will be described.
[0070]
The light source control unit 803 performs the same operation as the light source control unit in the first and second embodiments of the present invention, and controls the light intensity ratio of the laser light source. The distance calculation unit 812 calculates the laser light intensity ratio at the target pixel as an average of the laser light intensity ratios at a plurality of surrounding pixels (for example, 3 × 3 pixels), and uses the value to calculate the first embodiment, The same distance calculation as in the second embodiment is performed.
[0071]
In Embodiment 3, since the average of the laser light intensity ratios at a plurality of pixels around the pixel of interest is used as the laser light intensity ratio in the distance calculation, the laser intensity is uniform in the region where the laser light intensity ratio is uniform. Ratio noise can be reduced. For randomly generated noise, by calculating the average of the laser light intensity ratios in the surrounding n × n pixels, the noise level can be reduced to 1 / n, and as a result, the measurement accuracy can be improved.
[0072]
The calculation of the laser light intensity ratio in the distance calculation unit 812 need not be limited to the average of the target pixel and the surrounding pixels. For example, the measurement error in the vicinity of the object contour where the laser light intensity ratio changes abruptly can be reduced by determining the laser light intensity ratio by a weighted average in which the weight becomes smaller as the average value difference is larger. Further, the laser light intensity ratio may be determined as the median value of the pixel of interest and the surrounding pixels.
[0073]
Further, in the distance calculation unit 812, instead of calculating the laser light intensity ratio from the values of the pixel of interest and the surrounding pixels, the distance measurement value of the pixel of interest is calculated as the average value of the distance measurement values of the pixel of interest and the surrounding pixels, The same effect can be obtained by calculating as a weighted average value or a median value, and is included in the present invention.
[0074]
As described above, according to the third embodiment, the laser light intensity ratio at the target pixel is calculated using the laser light intensity ratios at a plurality of neighboring pixels, thereby reducing the error of the laser light intensity ratio and measuring accuracy. Can be improved.
[0075]
(Embodiment 4)
In the fourth embodiment of the present invention, an example in which the measurement accuracy is improved by correcting the influence of the intensity distribution (vertical profile) in the vertical direction of the laser light source by signal processing will be described.
[0076]
FIG. 9 is a configuration diagram of the range finder apparatus in the fourth embodiment of the present invention. 9, the same reference numerals as those in FIG. 1, FIG. 4, or FIG. 8 are used for the same operations as in the first to third embodiments of the present invention, and the description thereof is omitted. Hereinafter, the operation of the distance calculation unit 901 will be described.
[0077]
The distance calculation unit 901 corrects the laser light intensity (that is, luminance) at the pixel of interest according to the y coordinate value of the pixel, and performs the same distance calculation as in the first to third embodiments using the corrected laser light intensity. I did it.
[0078]
In the fourth embodiment, in calculating the distance, the laser light intensity is corrected in consideration of the vertical distribution (vertical profile) of the laser light intensity, and the distance is calculated from the corrected laser light intensity. Measurement accuracy can be maintained even when the vertical profiles of the light sources do not match.
[0079]
Hereinafter, the vertical distribution (vertical profile) of the laser light intensity will be described.
[0080]
FIG. 10 is an explanatory diagram of a laser light source and an optical system for generating slit light. In FIG. 10, 1001 is a laser transmitter, 1002 is a laser diode, 1003 is a collimator lens, and 1004 is a cylindrical lens.
[0081]
The laser diode 1002 is driven by a drive circuit in the laser transmitter and emits light having a predetermined wavelength.
[0082]
FIG. 11 is a characteristic diagram showing the directionality of the light intensity of the laser diode 1002. As shown in the figure, the intensity of light emitted from the laser diode has a Gaussian distribution centered on the peak intensity.
[0083]
The collimator lens 1003 collects the laser light emitted from the laser diode 1002 and generates beam light.
[0084]
The cylindrical lens 1004 expands the beam light generated by the collimator lens 1003 in the vertical direction to generate slit light. As shown in FIG. 11, since the intensity of the light emitted from the laser diode has a Gaussian distribution, the light intensity of the slit light that is condensed and expanded in the vertical direction is not uniform in the vertical direction. The light intensity distribution in the horizontal direction is not a problem because the distribution width is small.
[0085]
FIG. 12 shows an example of the vertical light intensity distribution (vertical profile) of two laser light sources. Since the directivity of the light intensity of the laser diode is different for each laser, the vertical profiles of the two laser light sources do not match.
[0086]
In the range finder apparatus according to the present invention, distance measurement is performed using a horizontal change in the laser intensity ratio, and therefore a change in the laser intensity ratio in the vertical direction causes an error in distance measurement accuracy. In the fourth embodiment, the light intensity at the target pixel is corrected so that the vertical profile becomes flat (that is, correction using the ratio between each data and the peak value P1 or P2 in FIG. 12), and the corrected light intensity. The distance was calculated using.
[0087]
FIG. 13 is a configuration diagram of the distance calculation unit 901 in the fourth embodiment. In the figure, 1301A and 1301B are vertical profile correction tables, 1302 is an LUT that converts two light intensities into angle information from the light source, and 1303 is an LUT that converts the x coordinate value of the pixel of interest into angle information from the camera, 1304 Is a memory for storing the base line length (distance between the light source and the lens center of the camera) necessary for distance calculation. The operation of the above configuration will be described below.
[0088]
The vertical profile correction tables 1301A and 1301B hold the correction coefficients for the vertical profiles of the laser beams of the light sources A and B, respectively. The correction coefficient is obtained as a ratio between the peak value P1 or P2 in FIG. 11 and each vertical profile data for each y coordinate of the image. The vertical profile data is obtained by irradiating a surface with a constant distance with a laser beam that is not time-modulated and imaging it. The vertical profile is corrected by multiplying the correction coefficient in accordance with the y coordinate value of the pixel of interest.
[0089]
In the fourth embodiment, the following formula (9) obtained by modifying the calculation formula for obtaining z in formula (1) is calculated.
[Equation 9]
Figure 0003672731
The LUT 1302 calculates the ratio of the two laser light intensities after correction and angle information from the light source.
[Expression 10]
Figure 0003672731
Convert to
[0090]
FIG. 14 shows the relationship between the ratio of the two laser light intensities and the angle information (Equation 10) from the light source. A method for calculating the conversion characteristics of FIG. 14 will be described below.
[0091]
First, a laser beam subjected to time modulation shown in FIG. 2 is projected onto a known reference surface at a constant distance, and this is imaged. Next, vertical profile correction is performed on the captured image. Then, using the camera parameters (focal length and pixel size on the imaging surface), the value of the light intensity ratio and the angle information expression (10) from the light source according to the magnitude relationship of the light intensity after vertical profile correction for each pixel. Calculate
[0092]
FIG. 19 is an explanatory diagram showing the distribution of the light intensity ratio and the angle information formula (10) after performing such a calculation. Because of the noise included in the light intensity, the calculated light intensity ratio and the angle information equation (10) have a distribution with a width. The relationship between the ratio of the laser light intensity and the angle information expression (10) from the light source is as follows: light intensity magnitude relationship (light intensity of light source 101A ≦ light intensity of light source 101B and light intensity of light source 101A ≧ light of light source 101B) (In the case of intensity), it is obtained by performing a function (for example, cubic expression) fitting. In fitting the function, a condition that the average value (point A in FIG. 15) of the angle information equation (10) when the light intensity ratio is 1 in FIG. Accuracy can be improved. That is, in the absence of the above conditions, the two functions applied according to the magnitude relationship of the light intensity intersect at a light intensity ratio of 1 or less, or intersect at a light intensity ratio of 1 or more. Accuracy is reduced. The reason is that, in the vicinity of the light intensity ratio 1, the magnitude relationship of the light intensity can be reversed due to noise included in the light intensity.
[0093]
The LUT 1303 holds a value for one line in order to convert the x coordinate of the pixel of interest into angle information from the camera represented by Expression (11).
## EQU11 ##
Figure 0003672731
The value at each x coordinate of the image of the expression (11) can be determined from the lens focal length and the size of one pixel on the imaging surface from the graphical relationship of FIG.
[0094]
From the angle information from the LUT 1302 and the LUT 1303 and the baseline length value from the memory 1304, the triangulation equation (9) can be calculated, and the distance z can be calculated for each pixel of the image.
[0095]
The calculation of the distance z can be realized by a memory reference and addition / multiplication circuit such as an LUT other than the final division as shown in FIG. The final division can also be realized by referring to the memory by holding the calculation result for the input value in the memory. Therefore, the distance calculation for each pixel can be sufficiently processed at the video rate.
[0096]
FIG. 16 shows a processing procedure in the fourth embodiment. As initial setting processing, vertical profile correction data is calculated (ST1601), and the conversion characteristic from the light intensity ratio to 1 / tanφ is calculated using the result (ST1602). As the video rate processing, distance calculation is performed using the vertical profile correction data and the conversion characteristic from light intensity to 1 / tanφ (ST1603).
[0097]
As described above, according to the fourth embodiment, when calculating the distance, the laser light intensity is corrected in consideration of the vertical distribution (vertical profile) of the laser light intensity, and the distance is calculated from the corrected laser light intensity. Even when the vertical profiles of the two laser light sources do not match, the measurement accuracy can be maintained.
[0098]
In the correction of the influence of the vertical profile in the fourth embodiment, the vertical profile is flattened before the light intensity ratio is calculated, but the light intensity ratio is changed according to the y coordinate value of the pixel of interest. Even if the correction is made after the calculation and the corrected light intensity ratio is converted into the angle information, it is obvious that the processing is mathematically the same and is included in the present invention.
[0099]
In the correction of the influence of the vertical profile in the fourth embodiment, since the correction based on the vertical profile on the reference plane is performed, it is conceivable that the measurement accuracy deteriorates when the subject moves away from the reference plane. Considering this point, the arrangement of the imaging surface and the light source for realizing vertical profile correction independent of the distance between the subject and the reference surface will be described below.
[0100]
FIG. 17 is an explanatory diagram of line light imaging. In the figure, 1701 is a laser light source, 1702 is a collimating lens, 1703 is a cylindrical lens, 1704 is a rotating mirror, and 1705 is a camera. Laser light emitted from the laser light source 1701 is collimated by the collimating lens 1702 to become beam light, diffused only in the vertical direction by the cylindrical lens 1703 to become line light, and scanned in the measurement space by the rotating mirror 1704. Here, consider where in the image the light traveling in each direction of line light appears in the image.
[0101]
FIG. 18 shows positions where the light passing points a1, a2, b1, b2, c1, and c2 shown in FIG. 17 appear in the image at the time of imaging. FIG. 18 shows that light traveling in space (a straight line in a three-dimensional space) is projected onto a straight line in an image (a straight line in a two-dimensional space) by imaging (perspective transformation).
[0102]
In FIG. 18, the straight line projected in the image is far from the camera in the three-dimensional space on the left side, and conversely, the right side is close to the camera in the three-dimensional space. Since this straight line is generally not horizontal in the image, vertical profile correction cannot be performed correctly if the reference distance and the subject distance are separated.
[0103]
If the trajectory of light traveling in all directions included in the line light becomes horizontal in the image during line light imaging, light intensity correction based on the vertical profile at the reference distance can be applied regardless of the distance of the subject. This is because the vertical profile correction is performed according to the y coordinate value in the image. The arrangement of such a light source and imaging surface will be described below.
[0104]
FIG. 19 is an explanatory diagram for formulating the projection of a straight line in the space onto the imaging surface. In the figure, O is the center of the lens, and A is the light source position (the position of the fan-shaped line light). For the sake of simplicity, it is assumed that the imaging surface is at a position of Z = f. The position vector of A is (lx, ly, lz), and the direction vector of light from the light source is (dx, dy, dz). The straight line through which the light passes
[Expression 12]
Figure 0003672731
The perspective transformation to the imaging surface is a plane that includes the straight line of Expression (12) and passes through the origin O (lens center).
[Formula 13]
Figure 0003672731
Is equivalent to obtaining the intersection line of the plane Z = f. Since the normal vector of the surface of equation (13) is perpendicular to both (dx, dy, dz) and (lx, ly, lz),
[Expression 14]
Figure 0003672731
You can. Here, from the condition a = 0 where the intersection line becomes horizontal,
[Expression 15]
Figure 0003672731
Is guided. Here, the traveling direction (dx, dy, dz) of the light is not constant because the line light is scanned by the rotating mirror. From the condition satisfying (Equation 15) for any (dx, dy, dz),
[Expression 16]
Figure 0003672731
Get. That is, the vertical profile correction can be performed regardless of the distance between the reference distance and the subject by arranging the light source so that the line segment connecting the lens center and the light source is parallel to the x-axis of the imaging surface.
[0105]
In the light intensity correction in the fourth embodiment, the correction of the influence of the vertical profile that can be realized by the correction table for one vertical line has been described. However, by using the correction table for one screen, the x coordinate value of the pixel of interest The correction according to the y-coordinate value (for example, correction of the peripheral light attenuation of the lens) can be performed with the same configuration, and is included in the present invention.
[0106]
In the fourth embodiment, line light is generated from laser beam light, and the line light is horizontally scanned by a rotating mirror (galvano mirror). However, the laser beam light is generated by using a galvano mirror and a polygon mirror. You may scan dimensionally.
[0107]
FIG. 21 is an explanatory diagram of laser beam light scanning by a galvanometer mirror and a polygon mirror. In FIG. 21, reference numeral 2101 denotes a galvanometer mirror. Reference numeral 2102 denotes a polygon mirror. The galvanometer mirror 2101 vertically scans the laser beam light, and the polygon mirror 2102 horizontally scans the laser beam light. Laser light can be scanned in the subject space by scanning both. In the fourth embodiment, two laser light sources are used as light sources. However, scanning with a galvanometer mirror and a polygon mirror makes it easy to keep the laser intensity ratio constant in the vertical direction without correcting the vertical profile. The distance measurement can be performed, and is included in the present invention.
[0108]
In addition, although Embodiment 5 described what measures distance z, three-dimensional coordinate value (x, y, z) can be measured by measuring all x, y, z of Formula (1). Of course.
[0109]
In the distance measurement according to the first to fourth embodiments of the present invention, the distance measurement for each field using a light source of two wavelengths is performed, but the laser intensity modulation signal for each wavelength ( Two types) may be switched for each field, and the light intensity of one laser light source may be controlled to perform distance measurement for each frame using a light source of one wavelength.
[0110]
(Embodiment 5)
Embodiment 5 of the present invention refers to an embodiment in which distance calculation is performed for each field with a light source of one wavelength. FIG. 22 is a configuration diagram of the range finder apparatus in the fifth embodiment of the present invention. Components that perform the same operations as those of the first to fourth embodiments of the present invention are denoted by the same reference numerals as those of the above-described embodiments, and description thereof is omitted. The difference from the above embodiment is that a light source control unit 2201, a laser light source 2202, an infrared transmission filter 2203 that reflects visible light and transmits infrared light, and an interference filter 2204 that transmits only light having a wavelength of the laser light source 2202 are used. The distance calculation unit 2205 and the control unit 2206 for controlling the synchronization of the entire apparatus are provided.
[0111]
The light source controller 2201 drives the laser light source 2202 with the intensity modulation signal shown in FIG. 23 (a) or (b). In the intensity modulation signal shown in FIG. 23, the difference between the envelopes (upper and lower) and the local average ratio uniquely correspond to the time within the field period (that is, the angle of the subject viewed from the rotating mirror 104). Yes.
[0112]
The reflected light from the subject 106 is separated into infrared light and visible light by an infrared transmission filter, and the visible light is imaged by the color CCD 109C. On the other hand, only the light of the light source wavelength is transmitted through the interference filter 22204, and the infrared light is imaged by the monochrome CCD 109A having infrared sensitivity.
[0113]
If the interference filter 265 is disposed in parallel with the monochrome CCD 109A, moire fringes are generated in the captured image due to the coherence of the laser light source, and therefore, the interference filter 265 is inclined with respect to the CCD 109A.
[0114]
The transmission wavelength characteristic of the interference filter is that when incident light is incident at an angle away from the angle perpendicular to the filter surface, the transmission wavelength peak shifts to the short wavelength side. An interference filter having a transmission wavelength peak on the side is used.
[0115]
The distance calculation unit 2205 performs envelope detection and local average detection for each line of light intensity obtained as an image, and calculates a distance.
[0116]
FIG. 24 is a block diagram illustrating an example of the configuration of the distance calculation unit 2205. As shown in the figure, the distance calculation unit 2205 converts the ratio between the envelope / local average detection unit 2401 and the difference between the envelope values (upper and lower) and the local average value into angle information from the light source. LUT 2402, LUT 2403 for converting the x coordinate of the pixel of interest into angle information from the camera, and a memory 2404 for holding a baseline length value.
[0117]
The envelope of the light intensity is detected by spatially interpolating the maximum value and minimum value detection results of the light intensity in the vicinity of the target pixel.
[0118]
The distance for each pixel can be calculated from the output of the LUT 2402 and the LUT 2403 and the value of the baseline length of the memory 2404.
[0119]
As described above, according to the fifth embodiment, the angle information from the light source is given by the ratio between the difference in the envelope of the light intensity modulation signal and the average light intensity using the laser light source of one wavelength, and this is obtained from the CCD. The distance measurement for each pixel can be performed for each field period by the triangulation using the angle information and the baseline length.
[0120]
Further, by arranging an interference filter that transmits only the wavelength of the laser light source at an inclination with respect to the CCD, it is possible to reduce the generation of moire fringes due to the coherence of the laser light.
[0121]
【The invention's effect】
As described above, according to the present invention, the laser intensity can be changed by keeping one laser intensity constant, changing the other laser intensity linearly, and changing the laser intensity ratio linearly within the field period. The rate of change of the ratio can be made constant regardless of the angle, and the angle error due to the measurement error of the laser light intensity ratio, the measurement error of the shape or the distance can be reduced.
[0122]
In addition, the laser beam intensity is corrected according to the relationship between the signal level of the video signal photographed by the camera and the noise level, and then changed within the scanning cycle, thereby reducing the angle error due to the laser beam intensity ratio error. In addition, measurement accuracy can be improved.
[0123]
Further, by calculating the laser light intensity ratio at the pixel of interest using the laser light intensity ratios at a plurality of neighboring pixels, errors in the laser light intensity ratio can be reduced and measurement accuracy can be improved.
[0124]
Also, when calculating the distance, the laser light intensity is corrected in consideration of the vertical distribution (vertical profile) of the laser light intensity, and the distance is calculated from the corrected laser light intensity, so the vertical profiles of the two laser light sources match. Even if not, measurement accuracy can be maintained.
Furthermore, by arranging the light source so that the line connecting the lens center of the imaging system and the light source is horizontal with the x-axis of the imaging surface, vertical profile correction is performed accurately regardless of the distance between the reference distance and the subject. be able to.
[0125]
In addition, by using both a galvanometer mirror and a polygon mirror for laser light scanning, a range finder that does not require vertical profile correction can be configured.
[0126]
Also, angle information from the light source is given by the ratio of the envelope difference of the light intensity modulation signal and the average light intensity using a laser light source of one wavelength, and this is triangulated by the angle information from the CCD and the baseline length. The distance for each pixel can be measured for each field period.
[0127]
Furthermore, by arranging an interference filter that transmits only the wavelength of the laser light source with respect to the CCD, the generation of moire fringes due to the coherence of the laser light can be reduced, and its practical effect is great.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a configuration of a range finder device according to a first embodiment of the present invention.
FIG. 2 is a characteristic diagram of intensity modulation of a laser light source of the rangefinder device in the first embodiment.
FIG. 3 is a timing chart of the operation in the first embodiment.
FIG. 4 is a block diagram showing a configuration of a range finder device in a second embodiment of the present invention.
FIG. 5 is a characteristic diagram showing a relationship between a signal level and a noise level in the second embodiment.
FIG. 6 is a characteristic diagram of intensity modulation of a laser light source in the second embodiment.
FIG. 7 is a characteristic diagram of a noise level that increases in proportion to the 1/2 power of the signal level in the second embodiment.
FIG. 8 is a block diagram showing a configuration of a range funder device according to a third embodiment of the present invention.
FIG. 9 is a block diagram illustrating a configuration of a range finder device according to a fourth embodiment of the present invention.
10 is an explanatory diagram of an optical system that generates line light from a laser light source according to Embodiment 4. FIG.
FIG. 11 is a characteristic diagram showing direction characteristics of a laser diode in the fourth embodiment.
12 is an explanatory diagram of a vertical profile of line light in Embodiment 4. FIG.
FIG. 13 is a configuration diagram of a distance calculation unit in the fourth embodiment.
14 is a characteristic diagram showing the relationship between laser light intensity and angle information 1 / tanφ in Embodiment 4. FIG.
15 is an explanatory diagram showing a distribution of angle information 1 / tan φ with respect to a light intensity ratio in Embodiment 4. FIG.
FIG. 16 is a flowchart of processing in the fourth embodiment.
17 is an explanatory diagram of line light imaging according to the fourth embodiment (part 1); FIG.
18 is an explanatory diagram of line light imaging in the fourth embodiment (part 2); FIG.
FIG. 19 is an explanatory diagram for formulating projection of a straight line in a three-dimensional space onto an imaging surface in the fourth embodiment.
20 is an explanatory diagram of an intensity modulation signal of a light source on which a high-frequency signal is superimposed in Embodiment 4. FIG.
FIG. 21 is an explanatory diagram of scanning of laser beam light by a galvanometer mirror and a polygon mirror in Embodiment 4.
FIG. 22 is a configuration diagram of a range finder device according to a fifth embodiment of the present invention.
23 is an explanatory diagram of a laser beam intensity modulation signal in Embodiment 5. FIG.
FIG. 24 is a block diagram showing a configuration of a distance calculation unit in the fifth embodiment.
FIG. 25 is a configuration diagram of a conventional range finder device.
FIG. 26 is a characteristic diagram showing wavelength characteristics of a light source of a conventional range finder device.
FIG. 27 is a characteristic diagram of intensity modulation of a light source of a conventional range finder device.
FIG. 28 is a measurement principle diagram in the range finder.
[Explanation of symbols]
101A, 101B Laser light source
102 half mirror
103 Light source controller
104 Rotating mirror
105 Rotation control unit
106 subjects
107 lenses
108A, 108B Optical wavelength separation filter
109A, 109B Monochrome CCD
109C color CCD
110A, 110B Monochrome camera signal processor
111 Color camera signal processor
130 Distance calculator
113 Control unit

Claims (2)

1波長のレーザー光源に対する光強度変調信号に振幅が時間的に変化する高周波を重畳し、強度変調した前記レーザー光を回転ミラーにより被写体に走査し、被写体からの反射光をCCDにより撮像する一方、While a high frequency whose amplitude changes with time is superimposed on a light intensity modulation signal for a one-wavelength laser light source, the laser light whose intensity is modulated is scanned on a subject by a rotating mirror, and reflected light from the subject is imaged by a CCD,
前記CCDの着目画素近傍での光強度分布について上限と下限の2つの包絡線検出と局所平均検出を行ない、前記2つの包絡線の差と前記局所平均値の比に基づいて光源から見た被写体への角度情報を計算し、前記着目画素の座標値に基づいて前記CCDから見た被写体への角度情報を計算し、計算した前記角度情報と基線長とを用いてフィールド期間毎に各画素について距離計測を行う距離計測方法。  A subject viewed from a light source based on a ratio between the difference between the two envelopes and the local average value by performing two envelope detections of the upper and lower limits and a local average detection for the light intensity distribution in the vicinity of the target pixel of the CCD. Is calculated for each pixel for each field period using the calculated angle information and baseline length based on the coordinate value of the pixel of interest. A distance measurement method that measures distance.
単一波長の光を発するレーザ光源からの光を被写体に走査させる走査手段と、前記走査手段の走査周期と同期して前記レーザ光の光強度を変化させ、かつ、振幅が時間的に変化する高周波を重畳する光強度制御手段と、前記被写体からの反射光から前記波長と同一波長の光を分離する波長分離手段と、分離した前記光を撮像するCCDと、前記CCDの着目画素近傍での光強度分布について上限と下限の2つの包絡線検出と局所平均検出を行ない、前記2つの包絡線の差と前記局所平均値の比に基づいて光源から見た被写体への角度情報を計算し、前記着目画素の座標値に基づいて前記CCDから見た被写体への角度情報を計算し、計算した前記角度情報と基線長とを用いてフィールド期間毎に各画素について距離計測を行う距離計測手段と、を具備するレンジファインダ装置。A scanning unit that scans a subject with light from a laser light source that emits light of a single wavelength, a light intensity of the laser beam is changed in synchronization with a scanning period of the scanning unit, and an amplitude changes with time. A light intensity control means for superimposing a high frequency; a wavelength separation means for separating light having the same wavelength from the reflected light from the subject; a CCD for imaging the separated light; and a vicinity of the target pixel of the CCD. Two envelope detections of the upper and lower limits and local average detection are performed for the light intensity distribution, and the angle information to the subject viewed from the light source is calculated based on the ratio between the difference between the two envelopes and the local average value, Distance measuring means for calculating angle information to the subject viewed from the CCD based on the coordinate value of the pixel of interest, and measuring the distance for each pixel for each field period using the calculated angle information and baseline length; Rangefinder having a.
JP10486598A 1997-09-04 1998-04-15 Range finder device Expired - Fee Related JP3672731B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10486598A JP3672731B2 (en) 1997-09-04 1998-04-15 Range finder device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9-255951 1997-09-04
JP25595197 1997-09-04
JP10486598A JP3672731B2 (en) 1997-09-04 1998-04-15 Range finder device

Publications (2)

Publication Number Publication Date
JPH11142122A JPH11142122A (en) 1999-05-28
JP3672731B2 true JP3672731B2 (en) 2005-07-20

Family

ID=26445241

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10486598A Expired - Fee Related JP3672731B2 (en) 1997-09-04 1998-04-15 Range finder device

Country Status (1)

Country Link
JP (1) JP3672731B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12589502B2 (en) 2021-09-22 2026-03-31 Kabushiki Kaisha Toshiba Cargo-handling apparatus, control device, control method, and storage medium

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002131016A (en) 2000-10-27 2002-05-09 Honda Motor Co Ltd Distance measuring device and distance measuring method
JP2009092479A (en) * 2007-10-05 2009-04-30 Hexagon Metrology Kk Three-dimensional shape measuring instrument
JP5488953B2 (en) * 2008-09-17 2014-05-14 新日鐵住金株式会社 Method and apparatus for inspection of uneven surface
CN102029554B (en) * 2010-11-22 2013-05-08 浙江大学 Quick measurement system for circular trace motion error based on sweep frequency laser interference
US9400246B2 (en) * 2011-10-11 2016-07-26 Kla-Tencor Corporation Optical metrology tool equipped with modulated illumination sources
CN102589576B (en) * 2012-01-16 2014-05-07 徐从裕 Error separation method for improving measuring accuracy of grating sensor
DE102015100706A1 (en) * 2014-12-15 2016-06-16 Vorwerk & Co. Interholding Gmbh Automatically movable cleaning device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12589502B2 (en) 2021-09-22 2026-03-31 Kabushiki Kaisha Toshiba Cargo-handling apparatus, control device, control method, and storage medium

Also Published As

Publication number Publication date
JPH11142122A (en) 1999-05-28

Similar Documents

Publication Publication Date Title
JP7371443B2 (en) 3D measuring device
US9435891B2 (en) Time of flight camera with stripe illumination
US20200166333A1 (en) Hybrid light measurement method for measuring three-dimensional profile
US6441888B1 (en) Rangefinder
JP4111592B2 (en) 3D input device
US6600168B1 (en) High speed laser three-dimensional imager
US10419741B2 (en) Systems and methods for compression of three dimensional depth sensing
US9170097B2 (en) Hybrid system
US20200081530A1 (en) Method and system for registering between an external scene and a virtual image
CN104007550B (en) Light beam scan type display device
EP0458168A2 (en) Three dimensional color imaging
JP7270702B2 (en) Depth sensing system and method
JP3672731B2 (en) Range finder device
CN118265889A (en) Method and device for measuring depth information of a scene using structured light generated by at least one parallel radiation source
JPH1194520A (en) Real-time range finder
CN115390087A (en) Laser line scanning three-dimensional imaging system and method
EP0882211B1 (en) A method and apparatus for reducing the unwanted effects of noise present in a three-dimensional color imaging system
JP7438555B2 (en) 3D measurement method and 3D measurement device
JP3538009B2 (en) Shape measuring device
CN115150545B (en) Measurement system for acquiring three-dimensional measurement points
US6373561B2 (en) Device and method for detecting depth and color information of an object to be surveyed
JP4317300B2 (en) Range finder device
CN117804342A (en) Three-dimensional scanner and three-dimensional scanning method
JP3668466B2 (en) Real-time range finder
Chen et al. A light modulation/demodulation method for real-time 3d imaging

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050420

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080428

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090428

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100428

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110428

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110428

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120428

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees