JP4062145B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP4062145B2 JP4062145B2 JP2003082155A JP2003082155A JP4062145B2 JP 4062145 B2 JP4062145 B2 JP 4062145B2 JP 2003082155 A JP2003082155 A JP 2003082155A JP 2003082155 A JP2003082155 A JP 2003082155A JP 4062145 B2 JP4062145 B2 JP 4062145B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- vehicle
- unit
- imaging
- lane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Input (AREA)
- Image Processing (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Closed-Circuit Television Systems (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、移動体の移動する走行路の状態を把握するための撮像装置に関するものである。
【0002】
【従来の技術】
従来、車両に搭載されたカメラにより車両が走行している走行路及びその周囲に対する撮像動作が行われることによって得られる撮像出力信号に基づいて、走行路に関する各種情報を獲得し、それらの情報を車両の制御及び車両の運転者に対する補助などに利用するようにした種々の走行路認識システムが知られている(例えば、特許文献1及び特許文献2参照)。
【0003】
特許文献1に記載の走行路認識システムでは、光学ズーミング機構によりシャッター速度より速いズーミング速度でズーミング動作を行うことによって走行路の走行車線が認識される。
【0004】
また、特許文献2に記載の画像処理装置では、デジタルズーム機構により1の画像の各部分においてズーム倍率を変更し、遠方部分はズーム倍率を大きくし、至近部分はズーム倍率を小さくすることによって走行路の走行車線が認識される。
【0005】
【特許文献1】
特許第3229687号公報
【特許文献2】
特許第3084208号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上記の特許文献1の走行路認識システムでは、光学ズーミング機構により光学的にズーミングを行うため、耐久性に問題があり、部品点数が多くなるため、低コスト化及び小型化が困難である。
【0007】
また、上記の特許文献2の画像処理装置では、デジタルズーム機構によりズーミング動作を行っているが、このズーミング動作は、撮像された画像の遠方部分はズーム倍率を大きくし、至近部分はズーム倍率を小さくしている。この場合、ズーム倍率の異なる位置において、対象物の位置合わせが必要となり、画像処理が煩雑になるという問題がある。
【0008】
一般に、一台のカメラで車両の前方の走行路の車線を撮影する装置があるが、このような装置では、広い範囲を認識するために広角レンズを備えた構成にすると、遠方の車線を認識することが困難となり、遠方の車線を認識するために望遠レンズを備えた構成にすると、認識可能な視野が狭くなり、近方の車線を認識することが困難となるという問題がある。
【0009】
本発明は、上記の問題を解決するためになされたもので、広い視野を確保するとともに、遠方の走行路の状態を正確に認識することが可能な撮像装置を提供することを目的とするものである。
【0010】
【課題を解決するための手段】
本発明に係る撮像装置は、複数の画素が2次元的に配置されてなる撮像面に結像される光像を各画素で電気信号に光電変換する撮像センサと、撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像を前記撮像面に結像する結像部と、前記撮像センサによって得られる画像の像高が大きい中心部分で前記移動体の走行する走行路の状態を認識する認識部とを備える。
【0011】
この構成によれば、撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像が撮像面に結像され、撮像センサによって得られる画像の像高が大きい中心部分で移動体の走行する走行路の状態が認識されるので、広い視野を確保するとともに、遠方の走行路の状態を正確に認識することができる。
【0012】
また、上記の撮像装置において、前記撮像センサ及び前記結像部のうちのいずれか一方を光軸に対して垂直な方向に相対的にずらす駆動部をさらに備え、前記撮像センサによって撮像された画像の像高が大きい部分を中心部分からずらすことが好ましい。
【0013】
この構成によれば、駆動部によって、撮像センサ及び結像部のうちのいずれか一方が光軸に対して垂直な方向に相対的にずらされ、撮像センサによって撮像された画像の像高が大きい部分が中心部分からずらされるので、撮像画像における像高の大きい領域を移動させることができ、不要な情報を表示することなく、画像データを有効に利用することができる。
【0014】
また、上記の撮像装置において、前記移動体は、道路を走行する車両であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する道路の車線を認識する車線認識部と、前記車両の走行状態を検出する車両状態検出部と、前記車線認識部によって認識された車線と、前記車両状態検出部によって検出された車両の走行状態とに基づいて、前記車両が危険な状態にあるか否かを判断する危険判断部とを備え、前記危険判断部によって前記車両が危険な状態にあると判断された場合、前記車両の運転者に対して危険な状態にあることを報知する報知部をさらに備えることが好ましい。
【0015】
この構成によれば、移動体は、道路を走行する車両であり、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する道路の車線が認識される。そして、車両状態検出部によって車両の走行状態が検出され、危険判断部によって、車線認識部によって認識された車線と、車両状態検出部によって検出された車両の走行状態とに基づいて、車両が危険な状態にあるか否かが判断される。報知部によって、危険判断部によって車両が危険な状態にあると判断された場合、車両の運転者に対して危険な状態にあることが報知される。
【0016】
したがって、車両の運転者は安全に車両を走行させることができ、万が一、車両が危険な状態、つまり、事故を起こす可能性がある状態になったとしても、未然にこれを防ぐことができる。
【0017】
また、上記の撮像装置において、前記車線認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する車線を認識し、前記車線認識部によって認識された車線が、前記撮像センサによって得られる画像の像高が大きい中心部分で常に認識されるように前記車両の運動を制御する車両運動制御部をさらに備えることが好ましい。
【0018】
この構成によれば、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する車線が認識され、車両運動制御部によって、車線認識部によって認識された車線が、撮像センサによって得られる画像の像高が大きい中心部分で常に認識されるように車両の運動が制御されるので、車両の自律誘導を行うことができる。
【0019】
また、上記の撮像装置において、前記撮像装置のパン方向への駆動量を算出するパン用駆動量算出部と、前記パン用駆動量算出部によって算出された駆動量に基づいて前記撮像装置をパン方向に駆動するパン用駆動部と、前記撮像装置のチルト方向への駆動量を算出するチルト用駆動量算出部と、前記チルト用駆動量算出部によって算出された駆動量に基づいて前記撮像装置をチルト方向に駆動するチルト用駆動部とをさらに備え、前記認識部は、前記撮像センサによって得られる画像の像高が小さい周辺部分において、移動体の走行する走行路に設けられた誘導マーカの位置を認識し、前記パン用駆動量算出部は、前記認識部によって認識された前記誘導マーカの位置を、前記撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのパン方向への駆動量を算出し、前記チルト用駆動量算出部は、前記認識部によって認識された前記誘導マーカの位置を、前記撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのチルト方向への駆動量を算出することが好ましい。
【0020】
この構成によれば、認識部によって、撮像センサによって得られる画像の像高が小さい周辺部分において、移動体の走行する走行路に設けられた誘導マーカの位置が認識される。そして、パン用駆動量算出部によって、認識部によって認識された誘導マーカの位置を、撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのパン方向への駆動量が算出され、チルト用駆動量算出部によって、認識部によって認識された誘導マーカの位置を、撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのチルト方向への駆動量が算出される。パン用駆動部によって、パン用駆動量算出部によって算出された駆動量に基づいて撮像装置がパン方向に駆動され、チルト用駆動部によって、チルト用駆動量算出部によって算出された駆動量に基づいて撮像装置がチルト方向に駆動される。
【0021】
したがって、撮像センサによって得られる画像の像高が小さい周辺部分で誘導マーカが認識された場合、撮像装置をパン方向及びチルト方向に駆動することで、像高が大きい中心部分で誘導マーカを認識することができるので、高い精度で誘導マーカを認識することができる。
【0022】
【発明の実施の形態】
以下、本発明に係る実施形態を図面に基づいて説明する。なお、本実施形態では、撮像装置が設けられる移動体を車両として説明するが、本発明は特にこれに限定されず、所定の走行路を走行する他の移動体でもよい。
【0023】
(第1の実施形態)
本発明の第1の実施形態である撮像装置について説明する。図1は、第1の実施形態における撮像装置の構成を示すブロック図である。図1に示すように、撮像装置は、結像部1、撮像センサ2、撮像センサ駆動部(駆動部に相当する)3、A/D変換部4、第1の画像メモリ5、車線認識部6、車両状態センサ(車両状態検出部に相当する)7、車両状態判断部8、危険判断部9、警報装置(報知部に相当する)10、車両運動制御装置11、スイッチ12、画像処理部13、第2の画像メモリ14及び画像表示装置15を備えて構成される。
【0024】
結像部1は、視野の中心に対応する網膜上の中心窩と呼ばれる範囲で視力が最も高く、この中心窩から離れるに従って視力が急激に減少するという人間の眼球の特性を模したレンズ(以下、「中心窩レンズ」とする)からなり、撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像を結像部1の後方に配設された撮像センサ2の撮像面上に結像させるものである。撮像センサ2には、中心部分の対象物が拡大され、周辺部分の対象物が縮小された光像が撮像面上に結像される。なお、結像部1は、移動体の移動方向における走行路の光像が、常に中心部分に撮像されるように設けられている。中心窩レンズを用いて撮像された画像は、中心部分の像高が大きく、周辺部分の像高が中央部分よりも小さくなっており、中心部分から周辺部分にかけて歪が生じる。
【0025】
図2は、中心窩レンズのレンズ特性を表す図である。なお、図2において、横軸は画角θを表し、縦軸は像高yを表している。図2に示すように、画角θが小さい領域では、画角θに対して像高yは、略線形であって、画角θの単位変化に対するその変化量が大きい。一方、画角θが大きい領域では、画角θに対して像高yは、非線形であって、画角θの単位変化に対するその変化量は、画角θの増大に伴って徐々に小さくなり、像高yは、略一定値に飽和する。つまり、画素サイズと画素ピッチとが一定の撮像センサにおいては、画角θが小さい領域では、解像度が高く、画角θが大きい領域では、解像度が低い。したがって、画角θの小さい部分の光像は像高yが大きくなるため、画像の中心部分において対象物は拡大され、画像の周辺部分において対象物は圧縮される。
【0026】
図1に戻って、撮像センサ2は、長方形状の撮像領域を備えたCCDカラーエリアセンサ(以下、CCDとする)からなり、結像部1により結像された被写体の光像を、R(赤),G(緑),B(青)の色成分の画像信号(各画素で受光された画像信号の信号列からなる信号)に光電変換して出力するものである。
【0027】
撮像センサ駆動部3は、撮像センサ2を駆動するものであり、撮像センサ2のCCD上の撮像領域を設定することによって所定の撮像領域の画像信号を出力するように撮像センサ2を駆動する。
【0028】
A/D変換部4は、撮像センサ2から出力された画像信号の各画素信号(アナログ信号)をデジタル信号に変換する。第1の画像メモリ5は、A/D変換部4によってデジタル信号に変換された画像信号を記憶する。
【0029】
車線認識部6は、撮像センサ2によって撮像された画像における車両が走行する走行路(この場合、道路)に設けられた白線表示の像に対応する部分を認識する。具体的に、車線認識部6は、撮像センサ2によって撮像された画像の中から、あらかじめ設定されている抽出色条件に該当する画素を抽出し、抽出した画素に対する位置座標データに基づいて左右の車線を認識し、認識結果を車線情報として危険判断部9に出力する。なお、抽出色条件とは、特定の輝度及び色差に関するデータであり、例えば、白線表示を除く走行路の輝度及び色差に関するデータをメモリ(図示省略)に格納しておき、必要に応じて読み出される。車線認識部6は、抽出色条件に該当する画素と、抽出色条件に該当しない画素との境界を検出することによって車線を認識する。
【0030】
車両状態センサ7は車両の走行状態を検出するセンサであり、検出された車両の走行状態は車両状態情報として車両状態判断部8に出力される。なお、車両状態センサ7には、車両の速度を検出する車速度センサ、ステアリング角度を検出するセンサ及びブレ−キング状態を検出するセンサ等の車両の走行状態を検出するセンサが含まれ、車両状態情報とは、車両の速度、ステアリング角度、ブレーキング状態等から得られる車両の走行状態に関する情報である。車両状態判断部8は、車両状態センサ7から入力される車両状態情報により、自車両の走行状態を判断し、その判断結果を危険判断部9に出力する。
【0031】
危険判断部9は、車線認識部6から入力される車線情報と、車両状態判断部8から入力される判断結果とに基づいて、自車両が危険な状態にあるか否かを判断する。例えば、危険判断部9は、車線認識部6から入力される車線の曲率を算出し、車両状態センサ7によって検出された速度で車両が曲がれるか否かを判断し、車両が曲がることができないと判断すると、自車両が危険な状態にあるとして、警報装置10及び車量運動制御装置11を駆動する。また、例えば、危険判断部9は、車線認識部6から入力される車線の位置が所定の期間内において所定の範囲内に検出されない場合、車両が蛇行していると判断し、自車両が危険な状態にあるとして、警報装置10及び車量運動制御装置11を駆動する。
【0032】
警報装置10は、危険判断部9によって車両が危険な状態にあると判断された場合、車両が危険な状態にあることを音声又は視認可能な表示によって運転者に報知する。音声によって報知する場合、例えば、ブザー音等の警告音を鳴らすことによって車両が危険な状態にあることを運転者に報知する。また、視認可能な表示によって報知する場合、例えば、LEDを発光させることによって車両が危険な状態にあることを運転者に報知する。
【0033】
車両運動制御装置11は、車両の運動、例えば、駆動系、制動系及び操舵系等の制御を行う。例えば、車両運動制御装置11は、危険判断部9によって車両が危険な状態にあると判断された場合、自動的に車両の速度を制御して車両を減速させる。なお、車両運動制御装置11は、危険判断部9によって車両が危険な状態にあると判断された場合、自動的にブレーキを動作させてもよい。
【0034】
なお、本実施形態における撮像装置は、警報装置10及び車両運動制御装置11を備える構成であるが、本発明は特にこれに限定されず、警報装置10及び車両運動制御装置11のいずれか一方のみを備える構成であってもよい。
【0035】
スイッチ12は、第1の画像メモリ5と画像処理部13との接続、第1の画像メモリ5と第2の画像メモリ14との接続を切り換える。なお、本実施形態では、スイッチ12によって接続を切り換えているが、本実施形態は特にこれに限定されず、第1の画像メモリ5は、画像処理部13及び第2の画像メモリ14のうちのいずれか一方のみと接続されている構成でもよい。
【0036】
画像処理部13は、中心窩レンズを用いて撮像された歪のある画像から歪を除去する処理を行う。中心窩レンズを用いて撮像した場合、上述のように画像の中心部分から周辺部分にかけて歪が生じるため、この歪を除去する処理が必要である。そこで、画像処理部13は、中心窩レンズを用いて撮像された画像の歪を除去して歪のない画像を作成する。
【0037】
第2の画像メモリ14は、スイッチ12によって第1の画像メモリ5と画像処理部13とが接続されている場合、画像処理部13によって歪が除去された画像を記憶する。また、第2の画像メモリ14は、スイッチ12によって第1の画像メモリ5と第2の画像メモリ14とが接続されている場合、第1の画像メモリ5に記憶されている画像を読み出して記憶する。
【0038】
画像表示装置15は、運転者に車両の移動方向の様子を表示するものであり、画像メモリ14に記憶されている画像データ読み出して表示する。なお、画像表示装置15としては、例えば、車両に設けられたカーナビゲーション等のモニタ装置、車両のフロントガラスに設けられたヘッドアップディスプレイ装置等がある。なお、スイッチ12によって第1の画像メモリ5と第2の画像メモリ14とが接続されている場合、画像表示装置15に表示される画像には歪があり、特に、表示される画像の周辺部分で歪が大きくなる。
【0039】
次に、図1に示す第1の実施形態における撮像装置の動作について説明する。図3は、図1に示す第1の実施形態における撮像装置の動作の一例を示すフローチャートである。
【0040】
ステップS1において、撮像センサ2は、結像部1によって結像された車両の移動方向の光像を撮像する。撮像された光像は光電変換され画像信号としてA/D変換部4に入力される。A/D変換部4は、入力されたアナログの画像信号をデジタルに変換し、第1の画像メモリ5に出力する。ステップS2において、第1の画像メモリ5は、画像データを一時的に記憶する。
【0041】
ステップS3において、車線認識部6は、撮像センサ2によって撮像された画像における車線を表す部分を認識する。車線認識部6によって認識された車線情報は、危険判断部9に出力される。
【0042】
ステップS4において、車両状態センサ7は車両の走行状態を検出する。車両状態センサ7によって検出された車両の走行状態は、車両状態判断部8に出力される。
【0043】
ステップS5において、車両状態判断部9は、車両状態センサ7によって検出された車両の走行状態を判断する。車両状態判断部9によって判断された判断結果は、危険判断部9に出力される。
【0044】
ステップS6において、危険判断部9は、車線認識部6によって認識された車線と、車両状態判断部8によって判断された判断結果とに基づいて、現在、自車両が危険な状態にあるか否かを判断する。ここで、自車両が危険な状態にあると判断されると(ステップS7でYES)、ステップS8に移行し、自車両が危険な状態でないと判断されると(ステップS7でNO)、ステップS10に移行する。
【0045】
ステップS8において、危険判断部9は、自車両が危険な状態であると判断した場合、警報装置10を駆動する。警報装置10は、例えば、警告音を鳴らすことによって運転者に対して自車両が危険な状態にあることを報知する。
【0046】
ステップS9において、危険判断部9は、自車両が危険な状態であると判断した場合、車両運動制御装置11を駆動する。車両運動制御装置11は、例えば、自動的に車両の速度を制御して車両を減速させることで車両の運動を制御する。
【0047】
ここで、第1の画像メモリ5と画像処理部13とが接続されている場合(ステップS10でYES)、ステップS11に移行し、第1の画像メモリ5と第2の画像メモリ14とが接続されている場合(ステップS10でNO)、ステップS12に移行する。
【0048】
ステップS11において、画像処理部13は、第1の画像メモリ5から中心窩レンズで撮像された画像データを読み出し、当該画像の歪を除去するための画像処理を行う。
【0049】
ステップS12において、第2の画像メモリ14は、第1の画像メモリ5と画像処理部13とが接続されている場合、画像処理部13によって歪が除去された画像データを記憶し、第1の画像メモリ5と第2の画像メモリ14とが接続されている場合、第1の画像メモリ5から中心窩レンズで撮像された画像データを読み出して記憶する。ステップS13において、画像表示装置15は、第2の画像メモリ14に記憶されている画像データを表示する。
【0050】
図4は、単焦点広角レンズを用いて車両の前方の様子を撮像した場合における撮像画像の一例を示す図である。車両は道路R上を走行しており、道路Rは車両の左側の白線表示LHと右側の白線表示RHとで挟まれている。図4に示すように、結像部1に単焦点広角レンズを用いて撮像した画像P1は、視野は広いが遠方の道路状態を認識することが困難である。そこで、本実施形態では、上述の中心窩レンズを用いて車両の前方を撮像することによって、広い視野が得られ、遠方の走行路の状態を正確に認識することが可能な画像を撮像する。
【0051】
図5は、中心窩レンズを用いて車両の前方の様子を撮像した場合における撮像画像の一例を示す図である。車両は道路R上を走行しており、道路Rは車両の左側の白線表示LHと右側の白線表示RHとで挟まれている。図5に示す円形状の領域S内の画像は、中心窩レンズによって拡大される画像であり、領域S外の画像は、中心窩レンズによって縮小される画像である。なお、実際に撮像される画像において、中心窩レンズによって拡大される範囲と中心窩レンズによって縮小される範囲とは、図5の領域Sに示すような明瞭な境界で表されるのではなく、中心窩レンズによって拡大される範囲から中心窩レンズによって縮小される範囲へと徐々に移行する。図5に示すように、中心窩レンズを用いて車両の前方を撮像した場合、撮像画像P2は、中心部分が拡大して表示され、周辺部分が縮小して表示されるため、遠方の白線表示LH,RH及び道路Rは、近方の白線表示LH,RH及び道路Rよりも拡大して表示されることとなる。そのため、中心窩レンズを用いた場合、図4に示すような単焦点広角レンズを用いた場合に比して、遠方の走行路の状態を正確に認識することができる。また、中心窩レンズを用いた場合、広角に撮像することができるので、望遠レンズを用いた場合に比して、近方の走行路の状態を認識することができる。
【0052】
このように、撮像された画像の中心部分の領域Sで像高が大きく、周辺部分で中心部分の領域Sよりも像高が小さくなるように車両の移動方向の光像が撮像面に結像され、撮像センサ2によって得られる画像の像高が大きい中心部分の領域Sで車両の走行する走行路の状態が認識されるので、広い視野を確保するとともに、遠方の走行路の状態を正確に認識することができる。
【0053】
また、車線認識部6によって、撮像センサ2によって得られる画像の像高が大きい中心部分の領域Sで車両の走行する道路の車線が認識される。そして、車両状態センサ7によって車両の走行状態が検出され、危険判断部9によって、車線認識部6によって認識された車線と、車両状態センサ7によって検出された車両の走行状態とに基づいて、車両が危険な状態にあるか否かが判断される。警報装置10によって、危険判断部9によって車両が危険な状態にあると判断された場合、車両の運転者に対して危険な状態にあることが報知される。したがって、車両の運転者は安全に車両を走行させることができ、万が一、車両が危険な状態、つまり、事故を起こす可能性がある状態になったとしても、未然にこれを防ぐことができる。
【0054】
さらに、光学的なズーミング機構を使用しないので、耐久性の向上、装置の小型化及び低コスト化を図ることができる。
【0055】
(第2の実施形態)
本発明の第2の実施形態である撮像装置について説明する。図5に示すように、中心窩レンズを用いて車両の前方を撮像した場合、撮像画像P2の中心部分の画像が拡大される。その結果、撮像画像P2の上部分には空などの不要な情報が含まれ、画像データを有効に利用することができない場合がある。そこで、第2の実施形態では、画像データを有効に利用するために、像高が大きい領域Sを画面の上方にずらすことによって、近方の走行路の状態を広範囲に撮像する。
【0056】
図1に示す撮像センサ駆動部3は、上記第1の実施形態における機能に加えて、さらに、撮像センサ2を物理的に下方に移動させる。すなわち、撮像センサ駆動部3は、撮像センサ2を下方に移動させることによって、結像部1の光軸が撮像センサ2の撮像面の上方に移動することとなり、その結果、像高が大きい領域Sが画面の上方に移動することとなる。
【0057】
図6は、撮像センサの位置を結像部の光軸に対して下方にずらした場合における撮像画像の一例を示す図である。図6に示すように、撮像センサ2の位置を結像部1の光軸に対して下方にずらすことによって、像高の大きい領域Sは撮像画像P3の中央部分から上部分に移動し、遠方の白線表示LH,RH及び道路Rが近方の白線表示LH,RH及び道路Rよりも拡大して表示されることとなる。さらに、像高の大きい領域Sが撮像画像P3の中央部分から上部分に移動することによって、撮像画像P3の下部分には、近方の白線表示LH,RH及び道路Rがより広範囲に表示されることとなる。
【0058】
このように、結像部1と撮像センサ2との位置を相対的にずらすことによって、撮像画像における像高の大きい領域Sを上方に移動させることができ、不要な情報を表示することなく、画像データを有効に利用することができる。
【0059】
なお、本実施形態では、撮像センサ駆動部3によって撮像センサ2を移動させることによって、結像部1と撮像センサ2との位置を相対的にずらしているが、本発明は特にこれに限定されず、結像部1を物理的に移動させることによって、結像部1と撮像センサ2との位置を相対的にずらしてもよい。すなわち、撮像装置は、結像部の位置を撮像センサに対して相対的にずらすレンズ駆動部をさらに備え、レンズ駆動部は、結像部1を構成するレンズの位置を、光軸の垂直方向に対して上方に移動させる。すなわち、レンズ駆動部は、結像部1を上方に移動させることによって、結像部1の光軸が撮像センサ2の撮像面の上方に移動することとなり、その結果、像高の大きい領域Sが画面の上方に移動することとなる。
【0060】
また、本実施形態では、撮像センサ2によって撮像される撮像画像P2の上部分に不要な情報が含まれているため、像高の大きい領域Sを撮像センサ2の撮像面の上方に移動するようにしているが、本発明は特にこれに限定されず、例えば、撮像センサ2によって撮像される撮像画像P2の下部分に不要な情報が含まれている場合は、撮像センサ2を上方に移動させ、像高の大きい領域Sを撮像センサ2の撮像面の下方に移動するようにしてもよい。すなわち、撮像センサ2によって撮像される撮像画像P2における不要な情報が含まれている位置に応じて、結像部1及び撮像センサ2のうちのいずれか一方を相対的にずらせばよい。
【0061】
また、本発明に係る撮像装置は、遠方を拡大し、近方を広角に撮像することが可能な中心窩レンズを用いているため、自車両が走行中の走行車線の他に隣接する複数の走行車線を撮像することができる。図7は、複数の走行車線が撮像された場合における撮像画像の一例を示す図である。図7に示すように、撮像画像P4には、第1走行レーンR1、第2走行レーンR2、第3走行レーンR3、第4走行レーンR4及び第5走行レーンR5が撮像されている。第1走行レーンR1は、第1白線表示H1及び第2白線表示H2によって挟まれる走行レーンであり、第2走行レーンR2は、第2白線表示H2及び第3白線表示H3によって挟まれる走行レーンであり、第3走行レーンR3は、第3白線表示H3及び第4白線表示H4によって挟まれる走行レーンであり、第4走行レーンR4は、第4白線表示H4及び第5白線表示H5によって挟まれる走行レーンであり、第5走行レーンR5は、第5白線表示H5及び第6白線表示H6によって挟まれる走行レーンである。
【0062】
図7に示すように、中心窩レンズは広い視野を有するので、自車両が走行している走行レーンR3の他に、周辺の走行レーンR1,R2,R4,R5も認識することができる。すなわち、車線認識部6は、撮像センサ2によって撮像された複数の車線を認識し、自車両が走行している走行レーンを認識する。車線認識部6は、車線認識部6によって認識された走行レーンを走行レーン情報として車両誘導装置(いわゆる、公知のカーナビゲーションシステム)に出力する。車両誘導装置は、自車両が走行している走行レーンの渋滞情報、工事情報及び事故情報等と、車線認識部6から入力される走行レーン情報とに基づいて、自車両を適切な走行車線に誘導する。
【0063】
このように、遠方を拡大し、近方を広角に撮像することが可能な中心窩レンズを用いた撮像装置は、車両の移動方向の走行路の状態を広い範囲で撮像することができるので、複数の車線を認識することができ、さらに、自車両が現在どの走行レーンを走行しているかを認識することができる。
【0064】
(第3の実施形態)
本発明の第3の実施形態である撮像装置について説明する。従来、撮像装置によって1本の白線表示を検出して車両を自律誘導する技術が知られており、この従来の撮像装置では、主に単焦点レンズが用いられている。そこで、第3の実施形態における撮像装置は、中心窩レンズによって走行路に設けられた白線表示を認識し、車両を自律誘導する。
【0065】
図8は、中心窩レンズを用いて走行路の車線(白線表示)を撮像した場合における撮像画像の一例を示す図である。なお、矢印YSは車両の進行方向を表している。図8に示す撮像画像P5には、現在の情報として像高の大きい領域Sで白線表示HNが拡大して撮像されており、車線認識部6は、白線表示を正確に認識することができる。また、中心窩レンズは、広角に撮像することも可能であるので、撮像画像P5における周辺部分の画像には、中心部分の像高の大きい領域Sで認識している白線表示HNの前方及び後方の状態を検出することができる。つまり、車線認識部6は、進行方向側の白線表示HFを未来の情報とし、進行方向と反対側の白線表示HPを過去の情報として認識することができる。そして、車両運動制御装置11は、車線認識部6によって認識された車線が撮像センサ2によって得られる画像の像高が大きい中心部分で常に認識されるように車両の運動を制御する。したがって、本実施形態における撮像装置は、現在の情報を正確に認識できるとともに、未来の情報及び過去の情報も認識することができるので、より高度な誘導制御が可能となる。
【0066】
この構成によれば、車線認識部6によって、撮像センサ2によって得られる画像の像高が大きい中心部分で車両の走行する車線が認識され、車両運動制御装置11によって、車線認識部6によって認識された車線が撮像センサ2によって得られる画像の像高が大きい中心部分で常に認識されるように車両の運動が制御されるので、車両の自律誘導を行うことができる。
【0067】
なお、本実施形態では、走行路に設けられた白線表示を認識するとしているが、本発明は特にこれに限定されず、走行路に設けられた縁石等の他の対象物を認識してもよい。
【0068】
(第4の実施形態)
本発明の第4の実施形態である撮像装置について説明する。第4の実施形態では、撮像装置がパン方向及びチルト方向に駆動する機能をさらに有している。
【0069】
図9は、パン方向及びチルト方向に駆動する撮像装置の外観を示す概略図である。撮像装置100は、パン用アクチュエータ(パン用駆動部に相当する)110及びチルト用アクチュエータ(チルト用駆動部に相当する)120をさらに備えて構成される。撮像装置100は、上記第1の実施形態から第3の実施形態において説明した撮像装置のうちのいずれかで構成され、パン用アクチュエータ110は、撮像装置100をパン方向(図9の矢印Y1に示す方向)に駆動するものである。チルト用アクチュエータ120は、撮像装置100をチルト方向(図9の矢印Y2に示す方向)に駆動するものである。
【0070】
図10は、撮像装置のパン・チルト機構に関する主な構成を示すブロック図である。図10に示すように、撮像装置100は、車線認識部6、パン・チルト制御部(パン用駆動量算出部及びチルト用駆動量算出部に相当する)101、パン用モータドライバ102、チルト用モータドライバ103、パン用駆動モータ104及びチルト用駆動モータ105を備えて構成される。パン用アクチュエータ110は、パン用モータドライバ102及びパン用駆動モータ104で構成され、チルト用アクチュエータ120は、チルト用モータドライバ103及びチルト用駆動モータ105で構成されている。
【0071】
パン・チルト制御部101は、撮像画像の周辺部分で検出された白線表示を、撮像画像の中心部分で撮像するためのパン方向への駆動量を算出し、算出された駆動量でパン用駆動モータ104を駆動するための制御信号を出力する。また、パン・チルト制御部103は、撮像画像の周辺部分で検出された白線表示を、撮像画像の中心部分で撮像するためのチルト方向への駆動量を算出し、算出された駆動量でチルト用駆動モータ105を駆動するための制御信号を出力する。
【0072】
パン用モータドライバ102は、パン用駆動モータ106を駆動するためのドライバであり、パン・チルト制御部101から出力される制御信号に基づいてパン用駆動モータ104を駆動する。チルト用モータドライバ103は、チルト用駆動モータ105を駆動するためのドライバであり、パン・チルト制御部101から出力される制御信号に基づいてチルト用駆動モータ105を駆動する。
【0073】
パン用駆動モータ104は、撮像装置100をパン方向に駆動するためのモータであり、所定の軸を中心として撮像装置100を左右に回転させる。チルト用駆動モータ105は、撮像装置100をチルト方向に駆動するためのモータであり、所定の軸を中心として撮像装置100を上下に回転させる。
【0074】
車両の自律誘導に必要な誘導マーカ(この場合、白線表示)が、撮像センサ2によって撮像された撮像画像における中央部分の像高の大きい領域Sに撮像されていない場合、正確に白線表示を認識するために、撮像画像の周辺部分で検出された白線表示を撮像画像の中心部分で撮像する必要がある。また、自律誘導制御中において、白線表示が撮像センサ2によって撮像されている撮像画像の中心部分から外れた場合、白線表示を撮像画像の中心部分に再位置決めする必要がある。そこで、パン・チルト制御部101は、車線認識部6によって撮像画像の周辺部分で認識された白線表示を、撮像画像の中心部分で撮像するためのパン方向及びチルト方向への駆動量を算出し、算出された駆動量をパン用アクチュエータ110及びチルト用アクチュエータ120に出力する。パン用アクチュエータ110は、算出された駆動量に基づいて撮像装置100をパン方向に回転させ、チルト用アクチュエータ120は、算出された駆動量に基づいて撮像装置100をチルト方向に回転させる。
【0075】
このように、パン用アクチュエータ110及びチルト用アクチュエータ120によって、撮像センサ2によって撮像された撮像画像の周辺部分で認識された白線表示が、像高の大きい撮像画像の中心部分に移動されるので、白線表示を常に正確に認識することができる。
【0076】
次に、本発明に係る撮像装置を用いて道路標識を認識する場合について説明する。図11は、撮像センサ2によって撮像された画像の周辺部分に道路標識が存在する場合における撮像画像の一例を示す図であり、図12は、撮像センサ2によって撮像された画像の中央部分に道路標識が存在する場合における撮像画像の一例を示す図である。なお、道路標識には、規制標識、指示標識、警戒標識、禁止標識、指導標識及び案内標識が含まれる。
【0077】
図11に示す撮像画像P6には、案内標識である交差点名を表す交差点名表示板HS及び信号機SGが周辺部分に撮像されている。交差点名表示板HSは、車両が走行している道路付近の地名を表示しており、図11では、一例として、「百舌鳥」という地名が表示されている。信号機SGは、所定の配色パターンで点滅可能に配色されており、図11では、一例として、左から青色、黄色、赤色の配色パターンで点滅可能に配色されている。図11に示す撮像画像P6において、交差点名表示板SHは、像高の小さい撮像画像P6の周辺部分で撮像されているため、運転者にとって視認することが困難になっている。そこで、図12に示すように、交差点名表示板HSを、像高の大きい撮像画像P6の中心部分の領域Sで撮像することで、視認可能に表示する。
【0078】
パン・チルト制御部101は、撮像画像P6の周辺部分で認識された交差点名表示板SHを、撮像画像の中心部分で撮像するためのパン方向及びチルト方向への駆動量を算出し、算出された駆動量をパン用アクチュエータ110及びチルト用アクチュエータ120に出力する。なお、撮像画像の周辺部分における交差点名表示板SHの認識方法は、あらかじめ交差点名表示板SHの形状及び色を抽出条件としてメモリに記憶しておき、撮像画像P6の各画素と抽出条件とを比較することによって交差点名表示板SHを認識する。また、交差点名表示板SHが信号機SGとともに設置されている場合、信号機SGを認識してもよい。つまり、あらかじめ信号機SGの配色パターンを抽出条件としてメモリに記憶しておき、撮像画像P6の各画素と抽出条件とを比較することによって交差点名表示板SHを認識する。パン用アクチュエータ110は、算出された駆動量に基づいて撮像装置100をパン方向に回転させ、チルト用アクチュエータ120は、算出された駆動量に基づいて撮像装置100をチルト方向に回転させる。
【0079】
このようにして、交差点名表示板SHを撮像画像の像高の大きい領域Sで撮像することによって、図12に示すように、撮像画像P7の中心部分に交差点名表示板SHが拡大されて表示され、運転者は容易に視認することができるようになる。
【0080】
なお、本実施形態では、案内標識の一例としての交差点名表示板SHを認識する場合について説明したが、本発明は特にこれに限定されず、例えば、規制標識、指示標識、警戒標識、禁止標識、指導標識及び他の案内標識等の各種道路標識を認識してもよい。
【0081】
次に、上述の撮像装置を自律搬送車に適用した場合について説明する。従来、走行路に設けられたレールや磁気シート等に沿って自走する自律搬送車が知られている。レールや磁気シートを用いた自律搬送車は、レイアウト変更に手間がかかるという問題を有していた。そこで、自律搬送車に中心窩レンズを用いた撮像装置を設け、撮像装置は、中心窩レンズによって走行路に設けられた白線表示等の誘導ラインを認識することで、自律搬送車を自走させる。
【0082】
図13は、本発明に係る撮像装置を適用した自律搬送車の外観を示す概略図である。自律搬送車200は、その前方に2つの撮像装置100を備える。2つの撮像装置100は、所定の輻輳角を有して設けられている。また、自律搬送車200が走行する走行路Rには、断続的に白線表示Hが設けられている。撮像装置100は、広範囲に撮像することが可能な中心窩レンズによって前方の白線表示Hを撮像するので、断続的に設けられた白線表示Hを見逃すことなく認識することができ、自律搬送車を精度よく誘導することができる。また、一般的に、連続して設けられた誘導マーカよりも、断続的に設けられた誘導マーカのほうが、ライン変更が簡単であるため、工場内において、断続的な誘導マーカ(この場合、白線表示H)を使用することによって、生産ラインのライン変更に対して、より柔軟に対応することができる。さらに、2つの撮像装置100は、所定の輻輳角を有して設けられているので、三角測量方法を用いることによって誘導マーカまでの距離を算出することができ、立体視を行うことができる。つまり、自律搬送車200は、立体視を行うことで、走行路Rの前方に存在する障害物を検出することができ、障害物を検出することによって、障害物を回避することができ、より高度な誘導制御を行うことができる。
【0083】
なお、本実施形態では、自律搬送車200に2つの撮像装置100を設けているが、本発明は特にこれに限定されず、撮像装置100を1つだけ設けてもよい。この場合、部品点数を削減することができ、部品にかかるコストを削減することができる。
【0084】
また、本実施形態では、走行路Rに白線表示Hを断続的に設けているが、本発明は特にこれに限定されず、走行路Rに白線表示Hを連続的に設けてもよい。
【0085】
また、2足歩行を行うことによって移動する2足歩行型移動ロボットに撮像装置を適用することができる。すなわち、撮像装置に設けられた中心窩レンズは、人間の目の機能を模したものであるので、本撮像装置を2足歩行型移動ロボットに適用することによって、より人間に近い動作を実現することができ、立体視を含めたロボットの自律誘導に広く適用することができる。
【0086】
また、本実施形態では、白線表示を用いて車線及び誘導マーカを認識しているが、本発明は特にこれに限定されず、白色以外の他の色の車線にも適用可能である。すなわち、移動体が走行する走行路において車線及び誘導マーカを認識することが可能であれば、車線及び誘導マーカがいかなる色であってもよい。
【0087】
さらに、本実施形態では、結像部1は、移動体の前方の光像を撮像センサ2の撮像面に結像させているが、本発明は特にこれに限定されず、移動体の後方の光像を撮像センサ2の撮像面に結像させてもよい。
【0088】
なお、上述した具体的実施形態には以下の構成を有する発明が主に含まれている。
【0089】
(1)複数の画素が2次元的に配置されてなる撮像面に結像される光像を各画素で電気信号に光電変換する撮像センサと、
撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像を前記撮像面に結像する結像部と、
前記撮像センサによって得られる画像の像高が大きい中心部分で前記移動体の走行する走行路の状態を認識する認識部とを備えることを特徴とする撮像装置。
【0090】
(2)前記移動体の走行する走行路の状態は、車両の走行する走行路に設けられた車線であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車線を認識することを特徴とする上記(1)記載の撮像装置。
【0091】
この構成によれば、移動体の走行する走行路の状態は、車両の走行する走行路に設けられた車線であり、認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車線が認識される。
【0092】
(3)前記移動体の走行する走行路の状態は、車両の走行する走行路に設けられた道路標識であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記道路標識を認識することを特徴とする上記(1)記載の撮像装置。
【0093】
この構成によれば、移動体の走行する走行路の状態は、車両の走行する走行路に設けられた道路標識であり、認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で道路標識が認識される。
【0094】
(4)前記移動体の走行する走行路の状態は、車両の走行する走行路に設けられた複数の車線であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記複数の車線を認識することで、複数の車線のうちの隣り合う2つの車線で挟まれる複数の走行レーンのうちの現在走行中の走行レーンを認識することを特徴とする上記(1)記載の撮像装置。
【0095】
この構成によれば、移動体の走行する走行路の状態は、車両の走行する走行路に設けられた複数の車線であり、認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で複数の車線が認識され、複数の車線のうちの隣り合う2つの車線で挟まれる複数の走行レーンのうちの現在走行中の走行レーンが認識される。
【0096】
(5)前記移動体は、道路を走行する車両であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する道路の車線を認識する車線認識部と、前記車両の走行状態を検出する車両状態検出部と、前記車線認識部によって認識された車線と、前記車両状態検出部によって検出された車両の走行状態とに基づいて、前記車両が危険な状態にあるか否かを判断する危険判断部とを備え、前記危険判断部によって前記車両が危険な状態にあると判断された場合、前記車両の運動を制御する車両運動制御部をさらに備えることを特徴とする上記(1)記載の撮像装置。
【0097】
この構成によれば、移動体は、道路を走行する車両であり、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する道路の車線が認識され、車両状態検出部によって、車両の走行状態が検出され、危険判断部によって、車線認識部によって認識された車線と、車両状態検出部によって検出された車両の走行状態とに基づいて、車両が危険な状態にあるか否かが判断され、車両運動制御部によって、危険判断部によって車両が危険な状態にあると判断された場合、車両の運動が制御される。
【0098】
(6)前記移動体は、道路を走行する車両であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する道路の車線の曲率を認識する車線認識部と、前記車両の速度を検出する車両速度検出部と、前記車線認識部によって認識された車線の曲率と、前記車両速度検出部によって検出された車両の速度とに基づいて、前記車両が前記車線を曲がれるか否かを判断する危険判断部とを備え、前記危険判断部によって前記車両が前記車線を曲がれないと判断された場合、前記車両の運転者に対して危険な状態にあることを報知する報知部をさらに備えることを特徴とする請求項1又は2記載の撮像装置。
【0099】
この構成によれば、移動体は、道路を走行する車両であり、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する道路の車線の曲率が認識され、車両速度検出部によって、車両の速度が検出され、危険判断部によって、車線認識部によって認識された車線の曲率と、車両速度検出部によって検出された車両の速度とに基づいて、車両が車線を曲がれるか否かが判断され、報知部によって、危険判断部によって車両が車線を曲がれないと判断された場合、車両の運転者に対して危険な状態にあることが報知される。
【0100】
(7)前記移動体は、道路を走行する車両であり、前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する道路の車線の曲率を認識する車線認識部と、前記車両の速度を検出する車両速度検出部と、前記車線認識部によって認識された車線の曲率と、前記車両速度検出部によって検出された車両の速度とに基づいて、前記車両が前記車線を曲がれるか否かを判断する危険判断部とを備え、前記危険判断部によって前記車両が前記車線を曲がれないと判断された場合、前記車両を減速させる車両運動制御部をさらに備えることを特徴とする上記(1)記載の撮像装置。
【0101】
この構成によれば、移動体は、道路を走行する車両であり、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する道路の車線の曲率が認識され、車両速度検出部によって、車両の速度が検出され、危険判断部によって、車線認識部によって認識された車線の曲率と、車両速度検出部によって検出された車両の速度とに基づいて、車両が車線を曲がれるか否かが判断され、車両運動制御部によって、危険判断部によって車両が車線を曲がれないと判断された場合、車両が減速される。
【0102】
【発明の効果】
請求項1に記載の発明によれば、撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像が撮像面に結像され、撮像センサによって得られる画像の像高が大きい中心部分で移動体の走行する走行路の状態が認識されるので、広い視野を確保するとともに、遠方の走行路の状態を正確に認識することができる。
【0103】
請求項2に記載の発明によれば、駆動部によって、撮像センサ及び結像部のうちのいずれか一方が光軸に対して垂直な方向に相対的にずらされ、撮像センサによって撮像された画像の像高が大きい部分が中心部分からずらされるので、撮像画像における像高の大きい領域を移動させることができ、不要な情報を表示することなく、画像データを有効に利用することができる。
【0104】
請求項3に記載の発明によれば、車両の運転者は安全に車両を走行させることができ、万が一、車両が危険な状態、つまり、事故を起こす可能性がある状態になったとしても、未然にこれを防ぐことができる。
【0105】
請求項4に記載の発明によれば、車線認識部によって、撮像センサによって得られる画像の像高が大きい中心部分で車両の走行する車線が認識され、車両運動制御部によって、車線認識部によって認識された車線が、撮像センサによって得られる画像の像高が大きい中心部分で常に認識されるように車両の運動が制御されるので、車両の自律誘導を行うことができる。
【0106】
請求項5に記載の発明によれば、撮像センサによって得られる画像の像高が小さい周辺部分で誘導マーカが認識された場合、撮像装置をパン方向及びチルト方向に駆動することで、像高が大きい中心部分で誘導マーカを認識することができるので、高い精度で誘導マーカを認識することができる。
【図面の簡単な説明】
【図1】 第1の実施形態における撮像装置の構成を示すブロック図である。
【図2】 中心窩レンズのレンズ特性を表す図である。
【図3】 図1に示す第1の実施形態における撮像装置の動作の一例を示すフローチャートである。
【図4】 単焦点広角レンズを用いて車両の前方の様子を撮像した場合における撮像画像の一例を示す図である。
【図5】 中心窩レンズを用いて車両の前方の様子を撮像した場合における撮像画像の一例を示す図である。
【図6】 撮像センサの位置を結像部の光軸に対して下方にずらした場合における撮像画像の一例を示す図である。
【図7】 複数の走行車線が撮像された場合における撮像画像の一例を示す図である。
【図8】 中心窩レンズを用いて走行路の白線表示を撮像した場合における撮像画像の一例を示す図である。
【図9】 パン方向及びチルト方向に駆動する撮像装置の外観を示す概略図である。
【図10】 撮像装置のパン・チルト機構に関する主な構成を示すブロック図である。
【図11】 撮像センサによって撮像された画像の周辺部分に道路標識が存在する場合における撮像画像の一例を示す図である。
【図12】 撮像センサによって撮像された画像の中央部分に道路標識が存在する場合における撮像画像の一例を示す図である。
【図13】 本発明に係る撮像装置を適用した自律搬送車の外観を示す概略図である。
【符号の説明】
1 結像部
2 撮像センサ
3 撮像センサ駆動部
4 A/D変換部
5 第1の画像メモリ
6 車線認識部
7 車両状態センサ
8 車両状態判断部
9 危険判断部
10 警報装置
11 車両運動制御装置
12 スイッチ
13 画像処理部
14 第2の画像メモリ
15 画像表示装置[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an imaging apparatus for grasping the state of a traveling path on which a moving body moves.
[0002]
[Prior art]
Conventionally, on the basis of an imaging output signal obtained by performing an imaging operation on a traveling road on which the vehicle is traveling and its surroundings by a camera mounted on the vehicle, various information on the traveling road is obtained and the information is obtained. Various travel path recognition systems are known which are used for vehicle control and assistance to a vehicle driver (see, for example, Patent Document 1 and Patent Document 2).
[0003]
In the travel path recognition system described in Patent Document 1, a travel lane on a travel path is recognized by performing a zooming operation at a zoom speed faster than the shutter speed by an optical zooming mechanism.
[0004]
In the image processing apparatus described in Patent Document 2, the zoom magnification is changed in each part of one image by the digital zoom mechanism, the zoom magnification is increased in the distant part, and the zoom magnification is decreased in the closest part. The driving lane is recognized.
[0005]
[Patent Document 1]
Japanese Patent No. 3229687
[Patent Document 2]
Japanese Patent No. 3084208
[0006]
[Problems to be solved by the invention]
However, in the above-described traveling path recognition system of Patent Document 1, since optical zooming is performed optically by an optical zooming mechanism, there is a problem in durability, and the number of parts increases, so that cost reduction and downsizing are difficult. .
[0007]
In the image processing apparatus disclosed in Patent Document 2, a zooming operation is performed by a digital zoom mechanism. This zooming operation increases the zoom magnification in a distant portion of a captured image and decreases the zoom magnification in a close portion. is doing. In this case, there is a problem that the object needs to be aligned at positions with different zoom magnifications, and the image processing becomes complicated.
[0008]
In general, there is a device that captures the lane of the road ahead of the vehicle with a single camera, but in such a device, if a configuration with a wide-angle lens is used to recognize a wide range, a far lane is recognized. However, when a configuration including a telephoto lens for recognizing a far lane is used, there is a problem that a recognizable field of view becomes narrow and it is difficult to recognize a near lane.
[0009]
The present invention has been made to solve the above-described problem, and an object of the present invention is to provide an imaging apparatus capable of ensuring a wide field of view and accurately recognizing the state of a distant traveling path. It is.
[0010]
[Means for Solving the Problems]
An imaging apparatus according to the present invention includes an imaging sensor that photoelectrically converts an optical image formed on an imaging surface in which a plurality of pixels are two-dimensionally arranged into an electrical signal at each pixel, and a central portion of the captured image An image portion obtained by the imaging sensor, and an imaging unit that forms an optical image in the moving direction of the moving body on the imaging surface so that the image height is large at the peripheral portion and smaller than the central portion at the peripheral portion. A recognizing unit that recognizes a state of a traveling path on which the moving body travels at a central portion having a large height.
[0011]
According to this configuration, the light image in the moving direction of the moving object is formed on the imaging surface so that the image height is large in the center portion of the captured image and the image height is smaller in the peripheral portion than the center portion. Since the state of the traveling road on which the moving body travels is recognized at the central portion where the image height of the image obtained by the sensor is large, it is possible to ensure a wide field of view and accurately recognize the state of the far traveling road.
[0012]
The image pickup apparatus may further include a drive unit that shifts one of the image sensor and the image forming unit in a direction perpendicular to the optical axis, and the image captured by the image sensor. It is preferable to shift the portion having a large image height from the center portion.
[0013]
According to this configuration, either one of the imaging sensor and the imaging unit is relatively displaced in the direction perpendicular to the optical axis by the driving unit, and the image height of the image captured by the imaging sensor is large. Since the portion is shifted from the center portion, a region having a large image height in the captured image can be moved, and image data can be used effectively without displaying unnecessary information.
[0014]
In the imaging apparatus, the moving body is a vehicle traveling on a road, and the recognition unit determines a lane of the road on which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large. Based on the lane recognition unit that recognizes, the vehicle state detection unit that detects the traveling state of the vehicle, the lane recognized by the lane recognition unit, and the traveling state of the vehicle detected by the vehicle state detection unit, A risk determination unit that determines whether or not the vehicle is in a dangerous state. When the risk determination unit determines that the vehicle is in a dangerous state, the vehicle is dangerous to the driver of the vehicle. It is preferable to further include a notification unit that notifies that the vehicle is in a state.
[0015]
According to this configuration, the moving body is a vehicle that travels on the road, and the lane recognition unit recognizes the lane of the road on which the vehicle travels at the central portion where the image height of the image obtained by the imaging sensor is large. Then, the vehicle running state is detected by the vehicle state detecting unit, and the vehicle is dangerous based on the lane recognized by the lane recognition unit by the danger determining unit and the running state of the vehicle detected by the vehicle state detecting unit. It is determined whether or not it is in the correct state. When the notification unit determines that the vehicle is in a dangerous state, the notification unit notifies the driver of the vehicle that the vehicle is in a dangerous state.
[0016]
Therefore, the driver of the vehicle can drive the vehicle safely, and even if the vehicle is in a dangerous state, that is, a state that may cause an accident, this can be prevented in advance.
[0017]
In the imaging apparatus, the lane recognition unit recognizes a lane in which the vehicle travels in a central portion where an image height of an image obtained by the imaging sensor is large, and the lane recognized by the lane recognition unit is It is preferable to further include a vehicle motion control unit that controls the motion of the vehicle so that the image portion obtained by the imaging sensor is always recognized at a central portion where the image height is large.
[0018]
According to this configuration, the lane recognizing unit recognizes the lane in which the vehicle travels at the central portion where the image height of the image obtained by the imaging sensor is large, and the lane recognized by the lane recognizing unit by the vehicle motion control unit is Since the movement of the vehicle is controlled so that it is always recognized at the central portion where the image height of the image obtained by the imaging sensor is large, the vehicle can be guided autonomously.
[0019]
Further, in the above-described imaging device, the pan driving amount calculation unit that calculates the driving amount in the pan direction of the imaging device, and the panning of the imaging device based on the driving amount calculated by the pan driving amount calculation unit. A pan driving unit for driving in the direction, a tilt driving amount calculating unit for calculating a driving amount in the tilt direction of the imaging device, and the driving amount calculated by the tilt driving amount calculating unit. And a tilt driving unit that drives the mobile phone in a tilt direction, and the recognition unit includes a guide marker provided on a traveling path on which the moving body travels in a peripheral portion where an image height of an image obtained by the imaging sensor is small. The pan driving amount calculation unit recognizes the position, and moves the position of the guidance marker recognized by the recognition unit to a central portion where the image height of the image obtained by the imaging sensor is large. The tilt driving amount calculation unit calculates the driving amount in the pan direction for causing the position of the guide marker recognized by the recognition unit to be a central portion where the image height of the image obtained by the imaging sensor is large. It is preferable to calculate the amount of drive in the tilt direction for moving to the right.
[0020]
According to this configuration, the position of the guidance marker provided on the travel path on which the mobile object travels is recognized in the peripheral portion where the image height of the image obtained by the imaging sensor is small. Then, the pan driving amount calculation unit calculates the driving amount in the pan direction for moving the position of the guidance marker recognized by the recognition unit to the center portion where the image height of the image obtained by the imaging sensor is large, The drive amount calculation unit for tilt calculates the drive amount in the tilt direction for moving the position of the guidance marker recognized by the recognition unit to the center portion where the image height of the image obtained by the imaging sensor is large. The imaging device is driven in the pan direction by the pan driving unit based on the driving amount calculated by the pan driving amount calculating unit, and based on the driving amount calculated by the tilt driving amount calculating unit by the tilt driving unit. Thus, the imaging device is driven in the tilt direction.
[0021]
Therefore, when the guidance marker is recognized in the peripheral portion where the image height of the image obtained by the imaging sensor is small, the guidance marker is recognized in the central portion where the image height is large by driving the imaging device in the pan direction and the tilt direction. Therefore, the guidance marker can be recognized with high accuracy.
[0022]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments according to the present invention will be described below with reference to the drawings. In the present embodiment, the moving body provided with the imaging device is described as a vehicle. However, the present invention is not particularly limited thereto, and may be another moving body that travels on a predetermined traveling path.
[0023]
(First embodiment)
An imaging apparatus according to a first embodiment of the present invention will be described. FIG. 1 is a block diagram illustrating the configuration of the imaging apparatus according to the first embodiment. As shown in FIG. 1, the imaging apparatus includes an imaging unit 1, an imaging sensor 2, an imaging sensor driving unit (corresponding to a driving unit) 3, an A /
[0024]
The imaging unit 1 has the highest visual acuity in a range called a fovea on the retina corresponding to the center of the field of view, and a lens that imitates the characteristics of a human eyeball (hereinafter, the visual acuity rapidly decreases as the distance from the fovea increases). The optical image in the moving direction of the moving object is formed so that the image height is large in the central part of the captured image and the image height is smaller in the peripheral part than in the central part. An image is formed on the imaging surface of the imaging sensor 2 disposed behind the unit 1. On the imaging sensor 2, an optical image in which the object in the central part is enlarged and the object in the peripheral part is reduced is formed on the imaging surface. The imaging unit 1 is provided so that the light image of the traveling path in the moving direction of the moving body is always captured at the center portion. An image captured using the foveal lens has a large image height in the central portion and a lower image height in the peripheral portion than in the central portion, and distortion occurs from the central portion to the peripheral portion.
[0025]
FIG. 2 is a diagram illustrating lens characteristics of the foveal lens. In FIG. 2, the horizontal axis represents the field angle θ, and the vertical axis represents the image height y. As shown in FIG. 2, in the region where the angle of view θ is small, the image height y is substantially linear with respect to the angle of view θ, and the amount of change with respect to the unit change of the angle of view θ is large. On the other hand, in the region where the angle of view θ is large, the image height y is non-linear with respect to the angle of view θ, and the amount of change with respect to the unit change of the angle of view θ gradually decreases as the angle of view θ increases. The image height y is saturated to a substantially constant value. That is, in an imaging sensor with a fixed pixel size and pixel pitch, the resolution is high in a region where the angle of view θ is small, and the resolution is low in a region where the angle of view θ is large. Accordingly, since the image height y of the light image in the portion with the small angle of view θ is large, the object is enlarged in the central portion of the image, and the object is compressed in the peripheral portion of the image.
[0026]
Returning to FIG. 1, the image sensor 2 includes a CCD color area sensor (hereinafter referred to as a CCD) having a rectangular image pickup region, and an optical image of the subject imaged by the image forming unit 1 is represented by R ( It is photoelectrically converted into an image signal (a signal composed of a signal train of image signals received by each pixel) of red, G (green), and B (blue) color components and output.
[0027]
The imaging
[0028]
The A /
[0029]
The lane recognition unit 6 recognizes a portion corresponding to an image of a white line display provided on a travel path (in this case, a road) on which the vehicle travels in the image captured by the image sensor 2. Specifically, the lane recognition unit 6 extracts pixels corresponding to the preset extraction color condition from the image captured by the imaging sensor 2 and determines the left and right sides based on the position coordinate data for the extracted pixels. The lane is recognized, and the recognition result is output to the
[0030]
The
[0031]
The
[0032]
When the
[0033]
The vehicle
[0034]
In addition, although the imaging device in this embodiment is a structure provided with the
[0035]
The
[0036]
The
[0037]
When the
[0038]
The
[0039]
Next, the operation of the imaging apparatus in the first embodiment shown in FIG. 1 will be described. FIG. 3 is a flowchart showing an example of the operation of the imaging apparatus according to the first embodiment shown in FIG.
[0040]
In step S <b> 1, the imaging sensor 2 captures a light image in the moving direction of the vehicle imaged by the imaging unit 1. The captured light image is photoelectrically converted and input to the A /
[0041]
In step S <b> 3, the lane recognition unit 6 recognizes a portion representing the lane in the image captured by the image sensor 2. The lane information recognized by the lane recognition unit 6 is output to the
[0042]
In step S4, the
[0043]
In step S <b> 5, the vehicle
[0044]
In step S6, the
[0045]
In step S <b> 8, the
[0046]
In step S <b> 9, the
[0047]
Here, when the
[0048]
In step S <b> 11, the
[0049]
In step S <b> 12, when the
[0050]
FIG. 4 is a diagram illustrating an example of a captured image in a case where a front state of the vehicle is captured using a single-focus wide-angle lens. The vehicle travels on the road R, and the road R is sandwiched between the white line display LH on the left side of the vehicle and the white line display RH on the right side. As shown in FIG. 4, an image P <b> 1 captured using a single-focus wide-angle lens in the imaging unit 1 has a wide field of view, but it is difficult to recognize a distant road state. Therefore, in this embodiment, a wide field of view is obtained by imaging the front of the vehicle using the above-mentioned foveal lens, and an image capable of accurately recognizing the state of a distant traveling path is captured.
[0051]
FIG. 5 is a diagram illustrating an example of a captured image in a case where the front side of the vehicle is imaged using the foveal lens. The vehicle travels on the road R, and the road R is sandwiched between the white line display LH on the left side of the vehicle and the white line display RH on the right side. The image in the circular area S shown in FIG. 5 is an image enlarged by the foveal lens, and the image outside the area S is an image reduced by the foveal lens. In the actually captured image, the range enlarged by the foveal lens and the range reduced by the foveal lens are not represented by clear boundaries as shown in the region S in FIG. It gradually shifts from a range enlarged by the foveal lens to a range reduced by the foveal lens. As shown in FIG. 5, when the front of the vehicle is imaged using the foveal lens, the captured image P2 is displayed with the central portion enlarged and the peripheral portion reduced, so that a distant white line is displayed. The LH, RH and the road R are displayed in an enlarged manner than the nearby white line display LH, RH and the road R. Therefore, when the foveal lens is used, it is possible to accurately recognize the state of the distant traveling path as compared with the case where the single focus wide-angle lens as shown in FIG. 4 is used. Further, when the foveal lens is used, it is possible to pick up an image at a wide angle, so that it is possible to recognize the state of the near traveling path as compared with the case where the telephoto lens is used.
[0052]
As described above, the light image in the moving direction of the vehicle is formed on the imaging surface so that the image height is large in the region S of the central portion of the captured image and the image height is smaller in the peripheral portion than the region S of the central portion. Since the state of the traveling road on which the vehicle travels is recognized in the central region S where the image height of the image obtained by the image sensor 2 is large, a wide field of view is ensured and the state of the far traveling road is accurately determined. Can be recognized.
[0053]
Further, the lane recognition unit 6 recognizes the lane of the road on which the vehicle travels in the central region S where the image height of the image obtained by the imaging sensor 2 is large. Then, the
[0054]
Furthermore, since no optical zooming mechanism is used, durability can be improved, and the size and cost of the apparatus can be reduced.
[0055]
(Second Embodiment)
An imaging apparatus according to a second embodiment of the present invention will be described. As shown in FIG. 5, when the front of the vehicle is imaged using the foveal lens, the image of the central portion of the captured image P2 is enlarged. As a result, unnecessary information such as sky is included in the upper part of the captured image P2, and the image data may not be used effectively. Therefore, in the second embodiment, in order to effectively use the image data, the state of the nearby traveling road is imaged over a wide range by shifting the region S having a large image height upward on the screen.
[0056]
In addition to the function in the first embodiment, the image
[0057]
FIG. 6 is a diagram illustrating an example of a captured image when the position of the imaging sensor is shifted downward with respect to the optical axis of the imaging unit. As shown in FIG. 6, by shifting the position of the image sensor 2 downward with respect to the optical axis of the imaging unit 1, the region S having a large image height moves from the central portion to the upper portion of the captured image P <b> 3, and is far away. The white line displays LH and RH and the road R are displayed larger than the nearby white line displays LH and RH and the road R. Furthermore, when the region S having a large image height moves from the central portion to the upper portion of the captured image P3, the nearby white line displays LH and RH and the road R are displayed in a wider range in the lower portion of the captured image P3. The Rukoto.
[0058]
As described above, by relatively shifting the positions of the imaging unit 1 and the imaging sensor 2, the region S having a large image height in the captured image can be moved upward, without displaying unnecessary information. Image data can be used effectively.
[0059]
In the present embodiment, the image sensor 2 is moved by the image
[0060]
In the present embodiment, since unnecessary information is included in the upper part of the captured image P2 captured by the image sensor 2, the region S having a large image height is moved above the imaging surface of the image sensor 2. However, the present invention is not particularly limited to this. For example, when unnecessary information is included in the lower part of the captured image P2 captured by the image sensor 2, the image sensor 2 is moved upward. The region S having a large image height may be moved below the imaging surface of the imaging sensor 2. That is, either one of the imaging unit 1 and the imaging sensor 2 may be relatively shifted in accordance with the position where unnecessary information is included in the captured image P2 captured by the imaging sensor 2.
[0061]
In addition, since the imaging apparatus according to the present invention uses a foveal lens that is capable of enlarging a distant area and imaging a near area at a wide angle, a plurality of adjacent vehicles in addition to a traveling lane in which the host vehicle is traveling The traveling lane can be imaged. FIG. 7 is a diagram illustrating an example of a captured image when a plurality of traveling lanes are captured. As shown in FIG. 7, in the captured image P4, the first travel lane R1, the second travel lane R2, the third travel lane R3, the fourth travel lane R4, and the fifth travel lane R5 are captured. The first travel lane R1 is a travel lane sandwiched between the first white line display H1 and the second white line display H2, and the second travel lane R2 is a travel lane sandwiched between the second white line display H2 and the third white line display H3. Yes, the third travel lane R3 is a travel lane sandwiched between the third white line display H3 and the fourth white line display H4, and the fourth travel lane R4 is a travel sandwiched between the fourth white line display H4 and the fifth white line display H5. The fifth traveling lane R5 is a traveling lane sandwiched between the fifth white line display H5 and the sixth white line display H6.
[0062]
As shown in FIG. 7, since the foveal lens has a wide field of view, it is possible to recognize the surrounding traveling lanes R1, R2, R4, and R5 in addition to the traveling lane R3 in which the host vehicle is traveling. That is, the lane recognition unit 6 recognizes a plurality of lanes imaged by the imaging sensor 2 and recognizes a travel lane in which the host vehicle is traveling. The lane recognition unit 6 outputs the travel lane recognized by the lane recognition unit 6 to the vehicle guidance device (so-called known car navigation system) as travel lane information. The vehicle guidance device sets the host vehicle to an appropriate driving lane based on traffic jam information, construction information, accident information, and the like of the driving lane in which the host vehicle is driving, and the driving lane information input from the lane recognition unit 6. Induce.
[0063]
In this way, the imaging device using the foveal lens capable of enlarging the distant and imaging the near at a wide angle can capture the state of the traveling path in the moving direction of the vehicle in a wide range. A plurality of lanes can be recognized, and furthermore, the traveling lane in which the host vehicle is currently traveling can be recognized.
[0064]
(Third embodiment)
An imaging apparatus according to a third embodiment of the present invention will be described. Conventionally, a technique for autonomously guiding a vehicle by detecting one white line display by an imaging device is known, and in this conventional imaging device, a single focus lens is mainly used. Therefore, the imaging apparatus according to the third embodiment recognizes the white line display provided on the travel path by the foveal lens and autonomously guides the vehicle.
[0065]
FIG. 8 is a diagram illustrating an example of a captured image in a case where a lane (white line display) of a traveling road is captured using a foveal lens. The arrow YS represents the traveling direction of the vehicle. In the captured image P5 shown in FIG. 8, the white line display HN is enlarged and captured in the region S having a large image height as current information, and the lane recognition unit 6 can accurately recognize the white line display. In addition, since the foveal lens can capture images at a wide angle, the peripheral image in the captured image P5 includes a front and rear of the white line display HN recognized in the region S having a large image height in the central portion. The state of can be detected. That is, the lane recognition unit 6 can recognize the white line display HF on the traveling direction side as future information and the white line display HP on the opposite side to the traveling direction as past information. The vehicle
[0066]
According to this configuration, the lane recognizing unit 6 recognizes the lane in which the vehicle travels in the central portion where the image height of the image obtained by the imaging sensor 2 is large, and the vehicle
[0067]
In this embodiment, the white line display provided on the road is recognized. However, the present invention is not particularly limited to this, and other objects such as curbs provided on the road may be recognized. Good.
[0068]
(Fourth embodiment)
An imaging apparatus according to a fourth embodiment of the present invention will be described. In the fourth embodiment, the imaging apparatus further has a function of driving in the pan direction and the tilt direction.
[0069]
FIG. 9 is a schematic diagram illustrating an appearance of an imaging apparatus that is driven in the pan direction and the tilt direction. The
[0070]
FIG. 10 is a block diagram illustrating a main configuration related to the pan / tilt mechanism of the imaging apparatus. As shown in FIG. 10, the
[0071]
The pan /
[0072]
The
[0073]
The
[0074]
When the guidance marker (in this case, white line display) necessary for autonomous guidance of the vehicle is not captured in the region S having a large image height at the center portion in the captured image captured by the imaging sensor 2, the white line display is accurately recognized. In order to do this, it is necessary to capture the white line display detected in the peripheral portion of the captured image at the central portion of the captured image. In addition, during the autonomous guidance control, when the white line display deviates from the center portion of the captured image captured by the image sensor 2, it is necessary to reposition the white line display to the center portion of the captured image. Therefore, the pan /
[0075]
As described above, the white line display recognized in the peripheral portion of the captured image captured by the image sensor 2 is moved to the central portion of the captured image with a high image height by the
[0076]
Next, a case where a road sign is recognized using the imaging device according to the present invention will be described. FIG. 11 is a diagram illustrating an example of a captured image in the case where a road sign is present in the peripheral portion of the image captured by the image sensor 2, and FIG. 12 illustrates a road in the central portion of the image captured by the image sensor 2. It is a figure which shows an example of the captured image in case a label | marker exists. The road sign includes a regulation sign, an instruction sign, a warning sign, a prohibition sign, a guidance sign, and a guidance sign.
[0077]
In the picked-up image P6 shown in FIG. 11, an intersection name display board HS that represents an intersection name that is a guide sign and a traffic light SG are imaged in the peripheral portion. The intersection name display plate HS displays a place name near the road on which the vehicle is traveling, and in FIG. 11, the place name “Hundred Bird” is displayed as an example. The traffic lights SG are arranged so as to be blinkable in a predetermined color arrangement pattern. In FIG. 11, as an example, the traffic lights SG are arranged so as to be blinkable in blue, yellow, and red color arrangement patterns from the left. In the picked-up image P6 shown in FIG. 11, the intersection name display board SH is picked up in the peripheral portion of the picked-up image P6 having a small image height, so that it is difficult for the driver to visually recognize it. Therefore, as shown in FIG. 12, the intersection name display plate HS is displayed so as to be visible by capturing an image in the region S in the center of the captured image P6 having a large image height.
[0078]
The pan /
[0079]
In this way, by capturing the intersection name display plate SH in the region S where the image height of the captured image is large, as shown in FIG. 12, the intersection name display plate SH is enlarged and displayed at the center of the captured image P7. Thus, the driver can easily visually recognize the driver.
[0080]
In the present embodiment, the case of recognizing the intersection name display board SH as an example of a guide sign has been described. However, the present invention is not particularly limited to this, for example, a regulation sign, an instruction sign, a warning sign, a prohibition sign Various road signs such as guidance signs and other guidance signs may be recognized.
[0081]
Next, a case where the above-described imaging device is applied to an autonomous transport vehicle will be described. 2. Description of the Related Art Conventionally, an autonomous guided vehicle that travels along a rail, a magnetic sheet, or the like provided on a traveling path is known. Autonomous transport vehicles using rails and magnetic sheets have a problem that it takes time to change the layout. Therefore, an imaging device using a foveal lens is provided in the autonomous conveyance vehicle, and the imaging device recognizes a guide line such as a white line display provided on the traveling path by the foveal lens, thereby allowing the autonomous conveyance vehicle to self-run. .
[0082]
FIG. 13 is a schematic diagram showing an external appearance of an autonomous guided vehicle to which the imaging apparatus according to the present invention is applied. The
[0083]
In the present embodiment, the two
[0084]
In the present embodiment, the white line display H is intermittently provided on the travel path R. However, the present invention is not particularly limited thereto, and the white line display H may be continuously provided on the travel path R.
[0085]
Further, the imaging device can be applied to a biped walking mobile robot that moves by performing bipedal walking. In other words, the foveal lens provided in the imaging device imitates the function of the human eye, so that the operation closer to a human is realized by applying this imaging device to a biped walking mobile robot. It can be widely applied to autonomous guidance of robots including stereoscopic vision.
[0086]
In the present embodiment, the lane and the guidance marker are recognized using the white line display, but the present invention is not particularly limited to this, and can be applied to lanes of colors other than white. In other words, the lane and the guide marker may be any color as long as the lane and the guide marker can be recognized on the travel path on which the mobile body travels.
[0087]
Furthermore, in this embodiment, the imaging unit 1 forms an optical image in front of the moving body on the imaging surface of the imaging sensor 2, but the present invention is not particularly limited to this, and the rear side of the moving body. An optical image may be formed on the imaging surface of the imaging sensor 2.
[0088]
The specific embodiments described above mainly include inventions having the following configurations.
[0089]
(1) an imaging sensor that photoelectrically converts a light image formed on an imaging surface in which a plurality of pixels are two-dimensionally arranged into an electrical signal at each pixel;
An imaging unit that forms a light image in the moving direction of the moving body on the imaging surface so that the image height is large in the center portion of the captured image and the image height is smaller in the peripheral portion than the center portion;
An image pickup apparatus comprising: a recognition unit that recognizes a state of a traveling path on which the moving body travels at a central portion where an image height of an image obtained by the image pickup sensor is large.
[0090]
(2) The state of the travel path on which the moving body travels is a lane provided on the travel path on which the vehicle travels, and the recognizing unit is the center portion where the image height of the image obtained by the imaging sensor is large. The imaging apparatus according to (1), wherein a lane is recognized.
[0091]
According to this configuration, the state of the travel path on which the moving body travels is the lane provided on the travel path on which the vehicle travels, and the lane is in the center portion where the image height of the image obtained by the imaging sensor is large by the recognition unit. Is recognized.
[0092]
(3) The state of the travel path on which the mobile body travels is a road sign provided on the travel path on which the vehicle travels, and the recognition unit is a central portion where the image height of the image obtained by the imaging sensor is large. The imaging apparatus according to (1), wherein the road sign is recognized.
[0093]
According to this configuration, the state of the travel path on which the moving body travels is a road sign provided on the travel path on which the vehicle travels, and the recognition unit performs a central portion where the image height of the image obtained by the imaging sensor is large. A road sign is recognized.
[0094]
(4) The state of the travel path on which the mobile body travels is a plurality of lanes provided on the travel path on which the vehicle travels, and the recognition unit is a central portion where the image height of the image obtained by the imaging sensor is large. The above-described (1) is characterized by recognizing the plurality of lanes to recognize a currently traveling lane among a plurality of lanes sandwiched between two adjacent lanes of the plurality of lanes. The imaging device described.
[0095]
According to this configuration, the state of the travel path on which the moving body travels is a plurality of lanes provided on the travel path on which the vehicle travels, and the central portion where the image height of the image obtained by the imaging sensor is large by the recognition unit. Thus, a plurality of lanes are recognized, and a currently traveling lane is recognized among a plurality of lanes sandwiched between two adjacent lanes of the plurality of lanes.
[0096]
(5) The moving body is a vehicle that travels on a road, and the recognition unit recognizes a lane of the road on which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large. The vehicle is dangerous based on a vehicle state detection unit that detects a traveling state of the vehicle, a lane recognized by the lane recognition unit, and a vehicle traveling state detected by the vehicle state detection unit. A risk determination unit that determines whether the vehicle is in a state, and further includes a vehicle motion control unit that controls the motion of the vehicle when the risk determination unit determines that the vehicle is in a dangerous state. The imaging apparatus according to (1), characterized in that:
[0097]
According to this configuration, the moving body is a vehicle that travels on the road, and the lane recognition unit recognizes the lane of the road on which the vehicle travels in the central portion where the image height of the image obtained by the imaging sensor is large, and the vehicle state The vehicle driving state is detected by the detection unit, and the vehicle is in a dangerous state based on the lane recognized by the lane recognition unit by the danger determination unit and the vehicle driving state detected by the vehicle state detection unit. If the vehicle motion control unit determines that the vehicle is in a dangerous state, the vehicle motion control unit controls the motion of the vehicle.
[0098]
(6) The moving body is a vehicle traveling on a road, and the recognition unit recognizes a curvature of a lane of the road on which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large. The vehicle is based on a recognition unit, a vehicle speed detection unit that detects the speed of the vehicle, a curvature of the lane recognized by the lane recognition unit, and a vehicle speed detected by the vehicle speed detection unit. A risk determination unit that determines whether or not the lane can be turned, and the vehicle is in a dangerous state for a driver of the vehicle when the risk determination unit determines that the vehicle cannot turn the lane. The imaging apparatus according to claim 1, further comprising a notification unit that notifies
[0099]
According to this configuration, the moving body is a vehicle that travels on the road, and the lane recognition unit recognizes the curvature of the lane of the road on which the vehicle travels in the central portion where the image height of the image obtained by the imaging sensor is large. The vehicle speed is detected by the vehicle speed detection unit, and the vehicle determines the lane based on the curvature of the lane recognized by the lane recognition unit by the danger determination unit and the vehicle speed detected by the vehicle speed detection unit. It is determined whether or not the vehicle can turn, and the notification unit notifies the driver of the vehicle that the vehicle is in a dangerous state when the danger determination unit determines that the vehicle cannot turn the lane.
[0100]
(7) The moving body is a vehicle traveling on a road, and the recognition unit recognizes a curvature of a lane of the road on which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large. The vehicle is based on a recognition unit, a vehicle speed detection unit that detects the speed of the vehicle, a curvature of the lane recognized by the lane recognition unit, and a vehicle speed detected by the vehicle speed detection unit. A risk determination unit that determines whether or not the lane can be turned, and further includes a vehicle motion control unit that decelerates the vehicle when the risk determination unit determines that the vehicle cannot turn the lane. The imaging device according to (1), characterized in that
[0101]
According to this configuration, the moving body is a vehicle that travels on the road, and the lane recognition unit recognizes the curvature of the lane of the road on which the vehicle travels in the central portion where the image height of the image obtained by the imaging sensor is large. The vehicle speed is detected by the vehicle speed detection unit, and the vehicle determines the lane based on the curvature of the lane recognized by the lane recognition unit by the danger determination unit and the vehicle speed detected by the vehicle speed detection unit. It is determined whether or not the vehicle can turn, and when the vehicle motion control unit determines that the vehicle cannot turn the lane, the vehicle is decelerated.
[0102]
【The invention's effect】
According to the first aspect of the present invention, the light image in the moving direction of the moving body is formed on the imaging surface so that the image height is large at the central portion of the captured image and the image height is smaller at the peripheral portion than at the central portion. Since the state of the traveling road on which the moving body travels is recognized at the central part where the image height obtained by the imaging sensor is large, the wide field of view is ensured and the state of the far traveling road is accurately recognized. can do.
[0103]
According to the second aspect of the present invention, an image picked up by the image pickup sensor in which one of the image pickup sensor and the image forming portion is relatively shifted in the direction perpendicular to the optical axis by the drive portion. Since the portion having a large image height is shifted from the center portion, a region having a large image height in the captured image can be moved, and image data can be used effectively without displaying unnecessary information.
[0104]
According to the invention described in
[0105]
According to the fourth aspect of the present invention, the lane recognizing unit recognizes the lane in which the vehicle travels at the central portion where the image height of the image obtained by the imaging sensor is large, and the vehicle motion control unit recognizes the lane recognizing unit. Since the movement of the vehicle is controlled so that the lane thus detected is always recognized at the central portion where the image height of the image obtained by the imaging sensor is large, the vehicle can be guided autonomously.
[0106]
According to the fifth aspect of the present invention, when the guidance marker is recognized in the peripheral portion where the image height of the image obtained by the imaging sensor is small, the image height is increased by driving the imaging device in the pan direction and the tilt direction. Since the guidance marker can be recognized at the large central portion, the guidance marker can be recognized with high accuracy.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a configuration of an imaging apparatus according to a first embodiment.
FIG. 2 is a diagram illustrating lens characteristics of a foveal lens.
FIG. 3 is a flowchart illustrating an example of the operation of the imaging apparatus according to the first embodiment illustrated in FIG.
FIG. 4 is a diagram illustrating an example of a captured image in a case where a front state of a vehicle is captured using a single-focus wide-angle lens.
FIG. 5 is a diagram illustrating an example of a captured image in a case where an image of the front of the vehicle is captured using a foveal lens.
FIG. 6 is a diagram illustrating an example of a captured image when the position of the imaging sensor is shifted downward with respect to the optical axis of the imaging unit.
FIG. 7 is a diagram illustrating an example of a captured image when a plurality of traveling lanes are captured.
FIG. 8 is a diagram illustrating an example of a captured image when a white line display of a traveling road is captured using a foveal lens.
FIG. 9 is a schematic diagram illustrating an appearance of an imaging apparatus that is driven in a pan direction and a tilt direction.
FIG. 10 is a block diagram illustrating a main configuration related to a pan / tilt mechanism of the imaging apparatus.
FIG. 11 is a diagram illustrating an example of a captured image in a case where a road sign is present in the peripheral portion of the image captured by the image sensor.
FIG. 12 is a diagram illustrating an example of a captured image in a case where a road sign is present at the center of the image captured by the image sensor.
FIG. 13 is a schematic diagram showing an external appearance of an autonomous guided vehicle to which an imaging apparatus according to the present invention is applied.
[Explanation of symbols]
1 Imaging unit
2 Imaging sensor
3 Imaging sensor driver
4 A / D converter
5 First image memory
6 Lane recognition part
7 Vehicle condition sensor
8 Vehicle state judgment part
9 Risk judgment department
10 Alarm device
11 Vehicle motion control device
12 switch
13 Image processing unit
14 Second image memory
15 Image display device
Claims (5)
撮像された画像の中心部分で像高が大きく、周辺部分で中心部分よりも像高が小さくなるように移動体の移動方向の光像を前記撮像面に結像する結像部と、
前記撮像センサによって得られる画像の像高が大きい中心部分で前記移動体の走行する走行路の状態を認識する認識部とを備えることを特徴とする撮像装置。An imaging sensor that photoelectrically converts a light image formed on an imaging surface in which a plurality of pixels are two-dimensionally arranged into an electrical signal at each pixel;
An imaging unit that forms a light image in the moving direction of the moving body on the imaging surface so that the image height is large in the center portion of the captured image and the image height is smaller in the peripheral portion than the center portion;
An image pickup apparatus comprising: a recognition unit that recognizes a state of a traveling path on which the moving body travels at a central portion where an image height of an image obtained by the image pickup sensor is large.
前記撮像センサによって撮像された画像の像高が大きい部分を中心部分からずらすことを特徴とする請求項1記載の撮像装置。A drive unit that relatively shifts one of the imaging sensor and the imaging unit in a direction perpendicular to the optical axis;
The image pickup apparatus according to claim 1, wherein a portion where an image height of an image picked up by the image pickup sensor is large is shifted from a center portion.
前記認識部は、前記撮像センサによって得られる画像の像高が大きい中心部分で前記車両の走行する道路の車線を認識する車線認識部と、
前記車両の走行状態を検出する車両状態検出部と、
前記車線認識部によって認識された車線と、前記車両状態検出部によって検出された車両の走行状態とに基づいて、前記車両が危険な状態にあるか否かを判断する危険判断部とを備え、
前記危険判断部によって前記車両が危険な状態にあると判断された場合、前記車両の運転者に対して危険な状態にあることを報知する報知部をさらに備えることを特徴とする請求項1又は2記載の撮像装置。The moving body is a vehicle traveling on a road,
The recognition unit is a lane recognition unit that recognizes a lane of a road on which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large
A vehicle state detection unit for detecting a traveling state of the vehicle;
A risk determination unit that determines whether or not the vehicle is in a dangerous state based on a lane recognized by the lane recognition unit and a running state of the vehicle detected by the vehicle state detection unit;
2. The information processing apparatus according to claim 1, further comprising: a notifying unit that notifies the driver of the vehicle that the vehicle is in a dangerous state when the danger determining unit determines that the vehicle is in a dangerous state. 2. The imaging device according to 2.
前記車線認識部によって認識された車線が、前記撮像センサによって得られる画像の像高が大きい中心部分で常に認識されるように前記車両の運動を制御する車両運動制御部をさらに備えることを特徴とする請求項3記載の撮像装置。The lane recognition unit recognizes a lane in which the vehicle travels at a central portion where an image height of an image obtained by the imaging sensor is large,
The vehicle further includes a vehicle motion control unit that controls the motion of the vehicle so that the lane recognized by the lane recognition unit is always recognized at a central portion where an image height of an image obtained by the imaging sensor is large. The imaging device according to claim 3.
前記パン用駆動量算出部によって算出された駆動量に基づいて前記撮像装置をパン方向に駆動するパン用駆動部と、
前記撮像装置のチルト方向への駆動量を算出するチルト用駆動量算出部と、
前記チルト用駆動量算出部によって算出された駆動量に基づいて前記撮像装置をチルト方向に駆動するチルト用駆動部とをさらに備え、
前記認識部は、前記撮像センサによって得られる画像の像高が小さい周辺部分において、移動体の走行する走行路に設けられた誘導マーカの位置を認識し、
前記パン用駆動量算出部は、前記認識部によって認識された前記誘導マーカの位置を、前記撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのパン方向への駆動量を算出し、
前記チルト用駆動量算出部は、前記認識部によって認識された前記誘導マーカの位置を、前記撮像センサによって得られる画像の像高が大きい中心部分に移動させるためのチルト方向への駆動量を算出することを特徴とする請求項1〜4のいずれかに記載の撮像装置。A pan driving amount calculating unit that calculates a driving amount in the pan direction of the imaging device;
A pan driving unit that drives the imaging apparatus in the pan direction based on the driving amount calculated by the pan driving amount calculating unit;
A drive amount calculation unit for tilt that calculates a drive amount in the tilt direction of the imaging device;
A tilt drive unit that drives the imaging device in a tilt direction based on the drive amount calculated by the tilt drive amount calculation unit;
The recognizing unit recognizes a position of a guide marker provided on a traveling path on which the moving body travels in a peripheral portion where an image height of an image obtained by the imaging sensor is small;
The pan driving amount calculation unit calculates a driving amount in the pan direction for moving the position of the guidance marker recognized by the recognition unit to a central portion where an image height of an image obtained by the imaging sensor is large. And
The tilt drive amount calculation unit calculates a drive amount in the tilt direction for moving the position of the guidance marker recognized by the recognition unit to a central portion where an image height of an image obtained by the imaging sensor is large. The imaging apparatus according to claim 1, wherein:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003082155A JP4062145B2 (en) | 2003-03-25 | 2003-03-25 | Imaging device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003082155A JP4062145B2 (en) | 2003-03-25 | 2003-03-25 | Imaging device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2004289738A JP2004289738A (en) | 2004-10-14 |
| JP4062145B2 true JP4062145B2 (en) | 2008-03-19 |
Family
ID=33295518
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003082155A Expired - Fee Related JP4062145B2 (en) | 2003-03-25 | 2003-03-25 | Imaging device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4062145B2 (en) |
Families Citing this family (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2006046715A1 (en) * | 2004-10-29 | 2006-05-04 | Matsushita Electric Industrial Co., Ltd. | Entertainment system |
| JP4566822B2 (en) | 2005-05-24 | 2010-10-20 | 本田技研工業株式会社 | Image display device for vehicle |
| WO2007032427A1 (en) * | 2005-09-16 | 2007-03-22 | Pioneer Corporation | Drive support device, imaging control method, imaging control program, and recording medium |
| FR2896219B1 (en) * | 2006-01-19 | 2008-02-22 | Valeo Vision Sa | METHOD FOR ADJUSTING THE ORIENTATION OF A CAMERA INSTALLED IN A VEHICLE AND SYSTEM FOR IMPLEMENTING SAID METHOD |
| JP5229726B2 (en) * | 2008-08-20 | 2013-07-03 | 国立大学法人東京工業大学 | Long-distance target search camera system |
| JP2011095321A (en) * | 2009-10-27 | 2011-05-12 | Toshiba Alpine Automotive Technology Corp | Image display device for vehicle |
| JP5046310B1 (en) * | 2011-04-01 | 2012-10-10 | 日本輸送機株式会社 | Unmanned vehicle and unmanned transport system |
| JP5966123B2 (en) * | 2012-04-19 | 2016-08-10 | 株式会社ユピテル | Drive recorder and program |
| DE102014215372A1 (en) * | 2014-08-05 | 2016-02-11 | Conti Temic Microelectronic Gmbh | Driver assistance system |
| WO2018030319A1 (en) * | 2016-08-12 | 2018-02-15 | パナソニックIpマネジメント株式会社 | Rangefinding system and mobile system |
| JP7266165B2 (en) * | 2017-12-19 | 2023-04-28 | パナソニックIpマネジメント株式会社 | Imaging device, imaging system, and display system |
-
2003
- 2003-03-25 JP JP2003082155A patent/JP4062145B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2004289738A (en) | 2004-10-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US7538795B2 (en) | Monitor device for moving body | |
| KR101544524B1 (en) | Display system for augmented reality in vehicle, and method for the same | |
| EP2863181B1 (en) | Intersection navigation system, method, and program | |
| US7366595B1 (en) | Vehicle drive assist system | |
| JP5023872B2 (en) | Image display control device and image display control system | |
| US8477191B2 (en) | On-vehicle image pickup apparatus | |
| JP4062145B2 (en) | Imaging device | |
| JP2005222425A (en) | Vehicle periphery monitoring device, vehicle periphery monitoring method, control program, and readable recording medium | |
| JP2013008070A (en) | Sign recognition device and sign recognition method | |
| WO2018030319A1 (en) | Rangefinding system and mobile system | |
| JP3405378B2 (en) | Vehicle surrounding information display device | |
| JP2018007038A (en) | Electronic device, automobile, imaging device, and image recording device | |
| JP3980304B2 (en) | Parking assistance device | |
| JP2012153256A (en) | Image processing apparatus | |
| JP2005038225A (en) | Lane tracking device | |
| JP6573218B2 (en) | VEHICLE IMAGE DISPLAY DEVICE AND SETTING METHOD | |
| JP6439233B2 (en) | Image display apparatus for vehicle and image processing method | |
| JP2006178652A (en) | Vehicle periphery recognition system and image processing apparatus | |
| JP2009265802A (en) | Vehicle visual field support device | |
| JP2005343417A (en) | Parking assist device | |
| JP2001071790A (en) | Vehicle display device | |
| JP4445370B2 (en) | Vehicle periphery monitoring device | |
| JP4677820B2 (en) | Predicted course display device and predicted course display method | |
| JP4755501B2 (en) | Lane detection device and lane departure warning device | |
| JP2004051063A (en) | Vehicle periphery recognition device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050325 |
|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050325 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071122 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071204 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071217 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110111 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110111 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120111 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130111 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |