JP3395634B2 - オプティカルフロー式後方情報検出装置 - Google Patents
オプティカルフロー式後方情報検出装置Info
- Publication number
- JP3395634B2 JP3395634B2 JP06158998A JP6158998A JP3395634B2 JP 3395634 B2 JP3395634 B2 JP 3395634B2 JP 06158998 A JP06158998 A JP 06158998A JP 6158998 A JP6158998 A JP 6158998A JP 3395634 B2 JP3395634 B2 JP 3395634B2
- Authority
- JP
- Japan
- Prior art keywords
- optical flow
- vehicle
- optical
- flow
- risk
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
れた画像上の移動ベクトル(オプティカルフロー)を用
いて後方(特に、後側方)から接近する車両を検出す
る、オプティカルフロー式後方情報検出装置に関する。 【0002】 【従来の技術】従来より、カメラ等で撮像された時刻の
異なる2画像中の同一点の移動ベクトルを算出し、算出
した移動ベクトルから接近する移動物体の存在を検出す
る技術が知られており、特に、自動車の分野において、
カメラ等で自車両の後方を撮像して、後側方(例えば、
隣レーンの後方)から接近してくる他車両の存在を検出
するオプティカルフロー式後方情報検出装置が知られて
いる。 【0003】このオプティカルフロー式後方情報検出装
置は、近年、開発が進められている自動走行制御装置、
即ち、走行中の道路に対する車両の位置姿勢や他車両と
の相対的関係の把握を行ない、これに基づいて自動車の
自動走行制御を行なう装置の要素技術としても有望であ
り、各種のオプティカルフロー式後方情報検出装置が提
案されている。 【0004】例えば、特開平8−83345号公報に開
示された技術(第1従来技術)は、画像中に大きな占有
面積の移動物体が存在する場合でも、確実に移動物体に
起因するオプティカルフローを抽出し、さらに、抽出し
たオプティカルフローによりその移動物体が接近してい
るものか否かを判定する方法に関する技術である。ま
た、特開平9−18863号公報に開示された技術(第
2従来技術)は、複数のカメラ又は旋回可能なカメラを
そなえることにより、車両後方の監視領域を広げて安全
性を高めようとするものである。 【0005】 【発明が解決しようとする課題】上述のように、従来よ
りオプティカルフロー式後方情報検出装置について種々
の研究開発が行なわれているが、その多くはオプティカ
ルフローにより物体の移動を把握することを主目的とし
ており、オプティカルフロー自身が如何なる情報を有し
ており、それをどう活用するかについての検討は進んで
いないのが現状である。例えば、上述の第1従来技術で
は、移動物体が接近していると判定された時には、警報
信号を出力するようになっているが、ここでは、オプテ
ィカルフローは単に移動物体が接近しているか否かの判
定基準として利用されているにすぎず、単に移動物体が
接近しているからといって、必ずしも警報を出すべきも
のとは限らない。 【0006】ところで、隣レーンに車線変更をしようと
する時は、ドライバは、隣レーンの後方から走行してく
る後続車両を確認し、危険かどうか判断してから車線変
更を行なっている。このとき、ドライバは、後続車両と
自車両との車間距離や相対速度を、距離計や速度計で計
測して危険かどうか判断している分けではない。バック
ミラー等を介してドライバ自身の目に映った後続車両の
大きさや動きから、車線変更の危険度を判断しているの
である。 【0007】このドライバの目に映る後続車両の大きさ
や動きは、オプティカルフローにも反映され、後続車両
が接近してくると、その後続車両に対応したオプティカ
ルフローの発生数も増加し、また、オプティカルフロー
の大きさ(ベクトルの長さ)も大きくなる。したがっ
て、この点に着目すれば、オプティカルフローの変化を
通して、後方から接近する後続車両に対する危険度を判
定することは可能であると考えられる。 【0008】第2従来技術では、後続車両に対応する発
散方向のオプティカルフローに対して、その大きさに重
み付けをし、重み付けをした値が或るしきい値を越えた
ら危険と判断するようになっている。ところが、この第
2従来技術では、オプティカルフローと危険度とがどの
ように対応しているのか明確でなく、また、如何なる重
み付けをするのかも記載がない。つまり、オプティカル
フローの大きさに重み付けをした値を危険度判定と結び
付ける具体的妥当性に欠けており、また、オプティカル
フローの性質、即ち、撮像角度等の微妙な変化により消
失,発生し、連続的には変化しない点についての考慮は
されていない。 【0009】さらに、後側方から接近してくる後続車両
は常に1台とは限らず、複数の後続車両が接近してくる
場合がある。この場合、ドライバ自身の視覚に基づく
と、最も自車両に接近している車両や、又は、急接近し
てくる車両等の特定の車両を基準に危険度を判断する。
一方、撮像画像から抽出されるオプティカルフローにも
複数台分のオプティカルフローが含まれており、その中
のどのオプティカルフローを基準に選定するかにより、
危険度の判定精度が変化する。したがって、このような
場合のオプティカルフローの選定も、ドライバ自身が判
断する際の選定基準と合致したものとしたい。 【0010】本発明は、上述の課題に鑑み創案されたも
ので、オプティカルフローの有する危険度に関する情報
としての有用性に着目し、複数台の接近車両が存在する
場合でも常に安定した危険度判定を行なえるようにし
た、オプティカルフロー式後方情報検出装置を提供する
ことを目的とする。 【0011】 【課題を解決するための手段】このため、本発明のオプ
ティカルフロー式後方情報検出装置では、撮像手段によ
り所定周期で撮像された自車両後方の複数画像からオプ
ティカルフロー算出手段によりオプティカルフローを算
出して、自車両に接近する物体を検出するが、まず、グ
ループ化処理手段によりオプティカルフローの大きさの
分布に基づいてオプティカルフローをオプティカルフロ
ー群にグループ化し、グループ化された複数のオプティ
カルフロー群の中から判定対象選定手段により危険度判
定対象とするオプティカルフロー群を選定する。そし
て、判定対象選定手段で選定された判定対象オプティカ
ルフロー群に属するオプティカルフローの大きさの平均
値を演算手段で演算し、得られたオプティカルフローの
大きさの平均値に基づき、危険度判定手段により判定対
象オプティカルフロー群に該当する物体の接近の危険度
を判定する。 【0012】これにより、オプティカルフローの有する
危険度に関する情報が有効活用されるとともに、常に安
定した危険度判定が行なわれる。 【0013】 【発明の実施の形態】以下、図面により、本発明の実施
の形態について説明すると、図1〜図8は本明の一実施
形態としてのオプティカルフロー式後方情報検出装置
(以下、単に後方情報検出装置という)を示すものであ
る。本後方情報検出装置は、図1に示すように、車両1
の所定の位置(例えばリヤウインドウの上部又は下部)
に自車両後方の道路状況を撮像する撮像手段としてのC
CDカメラ2をそなえており、CCDカメラ2で得られ
た画像情報(アナログ画像信号)は、車両1内部にそな
えられたECU10へ入力されるようになっている。 【0014】ECU10は、A/D変換器3,第1フレ
ームメモリ4A,第2フレームメモリ4B,オプティカ
ルフロー算出手段(DSP)5,演算手段6,危険度判
定手段7から構成されており、CCDカメラ2から入力
されたアナログ画像信号は、まず、A/D変換器3によ
ってデジタル画像信号へ変換処理されるようになってい
る。 【0015】そして、A/D変換器3で処理されたデジ
タル画像信号は、第1フレームメモリ4A,第2フレー
ムメモリ4Bに交互に周期的に格納されるようになって
いる。このデジタル画像信号の格納周期は、後述のオプ
ティカルフロー(以下、単にフローとも略す)の算出等
の画像処理能力で決まるが、ここでは、例えば、10フ
レーム(1フレーム1/30秒)毎に5フレームの位相
差で各フレームメモリ4A,4Bにデジタル画像信号が
入力されるようになっているものとする。 【0016】オプティカルフロー算出手段5は、各フレ
ームメモリ4A,4Bに格納された撮像時間の異なるデ
ジタル画像信号に基づきオプティカルフローを算出する
ようになっている。このオプティカルフロー算出手段5
におけるオプティカルフローの算出処理について説明す
ると、次のようになる。まず、第1フレームメモリ4A
に格納された時間tにおける撮像画像(第1フレーム)
から着目画像(画素)を抽出し、続いて、第2フレーム
メモリ4Bに格納された時間t+Δt〔Δt=5/30
秒(5フレーム分)〕における撮像画像(第2フレー
ム)の着目画像(画素)を抽出する。この着目画素の設
定は、一定の閾値以上の画素を選定するようにしてもよ
く、また、撮像画像上において周囲画素の輝度の平均よ
りも特に高輝度の画素を選定するようにしてもよい。 【0017】ここで、図2(a),(b)に示すよう
に、異なる時間において、後方から隣車線(以下、隣レ
ーンという)上を接近してくる後続車両101,102
を撮像したとする。図2(a)に示す画像100Aを時
間tにおける撮像画像とし、図2(b)に示す画像10
0Bを時間t+Δtにおける撮像画像とすると、それぞ
れの画像100A,100Bから例えば着目画素PA1,
PA2,PA3,PA4,PB1,PB2,PB3,PB4を抽出す
る。なお、ここでは、説明の便宜上、各画像100A,
100Bにおける各車両101,102に対応する着目
画素は各2つとしているが、実際はさらに多くの着目画
素を抽出することになる。 【0018】そして、それぞれの着目画素PA1,PA2,
PA3,PA4,PB1,PB2,PB3,P B4にウインドウ
SA1,SA2,SA3,SA4,SB1,SB2,SB3,SB4を設
定し、2画面100A,100B間のウインドウSA1〜
SA4,SB1〜SB4の同一性を検証して、2画面100
A,100B間の対応する着目画素を求めるようになっ
ているのである。このウインドウの同一性の検証方法と
しては、公知の方法を用いることができ、例えば、特開
平8−83345号公報に記載されているように、相関
法や勾配法により検証することができる。 【0019】そして、2画面100A,100B間の対
応する着目画素が求められると、これらの着目画素を結
んだベクトルがオプティカルフローとなるのである。こ
こでは、ウインドウはSA1とSB1と、SA2とSB2と、S
A3とSB3と、SA4とSB4とが同一であるので、着目画素
はPA1とPB1と、PA2とPB2と、PA3とPB3と、PA4と
PB4とが対応しており、それぞれを結ぶことによりオプ
ティカルフローf1 ,f2 ,f3 ,f4 が求められる。 【0020】このようにして、他の対応する着目画素に
ついても対応を検証していくことにより、図2(c)に
示すように、後方を走行する後続車両101,102に
対応した複数のオプティカルフローが得られるのであ
る。なお、後続車両101,102以外にも、道路標識
103等の周囲風景に対応したオプティカルフローも得
られるが、これらは自車両から相対的に遠ざかるように
(いわゆる無限遠点方向に収束するように)移動してい
るので、後続車両101,102に対応するオプティカ
ルフローとは、ベクトルの向きが逆となる。そこで、オ
プティカルフロー算出手段5では、ベクトルの向きに閾
値を設け、自車両に接近する方向のオプティカルフロー
のみ算出するようになっている。 【0021】ところで、ここで得られたオプティカルフ
ローは、実際の車両と後続車両との位置関係に対してど
のように対応しているのか説明すると、図3に示すよう
な幾何学的関係で表すことができる。図3は、水平面内
での幾何学的関係を表したものであるが、隣車線までの
距離をW、自車両から後続車両までの距離をZとし、C
CDカメラ2の画面上での横方向距離をX、CCDカメ
ラ2の焦点距離をDとしている。ここで、Nフレーム間
(N/30秒間)での後続車両の相対移動距離をdz、
CCDカメラ2の画面上での横方向移動距離をdxとす
ると、画面上横方向移動距離dxは、次のように表され
る。 dx=W×D×(1/(Z−dz)−1/Z) ・・・・・・・・(1) また、自車両に対する後続車両の相対速度をVs とする
と、Nフレーム間での後続車両の相対移動距離dzは
(Vs /30)×Nとなるので、画面上水平方向移動距
離dxは、次のように表すことができる。 dx=W×D×(30/(30×Z−Vs ×N)−1/Z)・・・・・(2) この画面上水平方向移動距離dxを画素単位であらわし
た、フレームメモリ上の水平移動距離dPx(pixel)は、
CCDカメラ2の水平有効サイズをL1、水平画素数を
n1とすると、次式のように表すことができる。 dPx(pixel)=dx×(n1/L1) =W×D×(30/(30×Z−Vs ×N)−1/Z) ×(n1/L1) ・・・・・・・・(3) 同様に、フレームメモリ上の垂直移動距離dPy(pixel)
は、CCDカメラ2の設置高さをH、CCDカメラ2の
垂直有効サイズをL2、垂直画素数をn2とすると、次
式のように表すことができる。 dPy(pixel)=H×D×(30/(30×Z−Vs /N)−1/Z) ×(n2/L2) ・・・・・・・・(4) ここで、フレームメモリ上のオプティカルフローの大き
さdPaは、水平移動距離dPx(pixel),垂直移動距離
dPy(pixel)を用いると、 dPa =(dPx2+dPy2)1/2 ・・・・・・・・(5) であらわすことができるので、(3)式,(4)式に示
す水平移動距離dPx(pixel),垂直移動距離dPy(pixe
l)と相対速度Vs ,車間距離Zとの関係から、相対速度
Vs が大きく、車間距離Zが短いほど、オプティカルフ
ローの大きさ(以下、単にフローの大きさという)dP
aは大きくなることがわかる。つまり、仮に相対速度V
s が一定ならば、フローの大きさdPaが大きくなるほ
ど、自車両と後続車両との車間距離Zが詰まってきてい
ると判定することができる。 【0022】このフローの大きさdPaの算出は、演算
手段6において行なわれ、演算手段6は、後方を走行す
る後続車両に対応する全てのオプティカルフローについ
て、それらの大きさdPaを算出し、オプティカルフロ
ーの発生番地(画像上における着目画素の番地)と対応
させるようになっている。ところで、(3)〜(5)式
より、車間距離Z,相対速度Vsが同一ならばオプティ
カルフローの大きさdPaも等しいことがわかる。つま
り、後続車両から発生する複数のオプティカルフローに
ついて考えた場合、同一の後続車両から発生するオプテ
ィカルフローであれば、その大きさdPaは略等しく、
逆に異なる後続車両から発生するオプティカルフローで
あれば、その大きさdPaも異なるといえる。 【0023】また、この逆も言え、画像上のオプティカ
ルフローの大きさdPaが同一であれば、それは同一の
後続車両から発生した可能性が高く、大きさdPaの異
なる複数のオプティカルフローが存在していれば、複数
の後続車両が存在していると判断することができる。し
たがって、大きさdPaの異なる複数のオプティカルフ
ローが検出された場合、同じ大きさdPaのオプティカ
ルフローをグループ化して一つのオプティカルフロー群
とすることにより、オプティカルフロー群の位置と個数
から後続車両の位置と台数を推定することが可能とな
る。 【0024】本後方情報検出装置では、演算手段6の機
能要素であるグループ化処理手段6Aにより、上述のオ
プティカルフローのグループ化処理を行なうようになっ
ている。例えば、図2(c)では、後続車両101,1
02に対応するオプティカルフローf1 ,f2 ,f3 ,
f4 が存在するが、後続車両101に対応するオプティ
カルフローf1 ,f2 は大きさが略等しく、また、後続
車両101に対応するオプティカルフローf3 ,f4 は
大きさが略等しく、そして、オプティカルフローf1 ,
f2 とオプティカルフローf3 ,f4 とでは大きさは異
なる。 【0025】そこで、グループ化処理手段6Aでは、オ
プティカルフローf1 ,f2 とこれらと同じ大きさの他
のオプティカルフローとをグループ化してオプティカル
フロー群F1 として設定し、オプティカルフローf3 ,
f4 とこれらと同じ大きさの他のオプティカルフローと
をグループ化してオプティカルフロー群F2 として設定
するようになっている。 【0026】なお、グループ化に際しては、グループ化
処理手段6Aはオプティカルフローの大きさdPaのみ
ならず、オプティカルフローの向きや発生番地の位置関
係も考慮に入れるようになっている。例えば、同じ大き
さのオプティカルフローであっても向きが全く異なれば
同一の物体から発生したものではないと判断し、また、
同じ大きさの2つのオプティカルフローの間に、大きさ
の異なるオプティカルフローが存在していれば、2つの
オプティカルフローの間に連続性がないので異なる物体
から発生したオプティカルフローと判断するようになっ
ている。 【0027】また、グループ化処理手段6Aで設定した
オプティカルフロー群の数、即ち、推定される後続車両
の台数は、台数表示手段9に入力され、台数表示手段9
によりドライバに対して表示されるようになっている。
例えば、図2(c)の場合では、2つのオプティカルフ
ロー群F1 ,F2 が存在するので、台数表示手段9には
2台と表示される。 【0028】こうしてグループ化処理手段6Aによるオ
プティカルフローのグループ化が行なわれると、演算手
段6は、さらに、その機能要素である判定対象選定手段
6Bにより、グループ化された複数のオプティカルフロ
ー群の中から危険度判定の対象とするべきオプティカル
フロー群を選定するようになっている。判定対象選定手
段6Bは、まず、グループ化処理手段6Aでグループ化
された複数のオプティカルフロー群について、それぞれ
の重心位置、即ち、オプティカルフロー群を構成する複
数のオプティカルフローの水平方向,垂直方向の平均発
生番地を算出するようになっている。 【0029】そして、各オプティカルフロー群の重心位
置を比較し、垂直方向の重心位置が最も下方にあるオプ
ティカルフロー群を危険度の判定対象に選定するように
なっている。つまり、判定対象選定手段6Bは、自車両
に最接近している後続車両を危険度の対象と選定するの
である。例えば、図2(c)の場合では、2つのオプテ
ィカルフロー群F1 ,F2 の重心位置O1 ,O2 を比較
すると、重心O2 の方が下方に位置しているので、判定
対象選定手段6Bは、オプティカルフロー群F 2 が自車
両に最接近している後続車両に該当すると判定する。 【0030】このようにして、自車両に最接近している
後続車両に該当するオプティカルフロー群が危険度判定
対象に選定されると、演算手段6は、選定されたオプテ
ィカルフロー群、図2(c)においてはオプティカルフ
ロー群F2 を、演算対象のオプティカルフロー群Fa と
して設定し、以下の演算処理を行なうようになってい
る。 【0031】まず、演算手段6は、演算対象として設定
したオプティカルフロー群Fa におけるオプティカルフ
ローの総数(以下、単にフローの総数という)M、即
ち、オプティカルフロー群Fa に対応する着目画素の総
数を算出するようになっている。なお、このフローの総
数Mは、被検出車両の前面面積をA、CCDカメラ2の
総画素数をAc 、CCDカメラ2の水平画角をθ1、C
CDカメラ2の垂直画角をθ2としたとき、次式のよう
に算出することができる。 M=A×Ac /(4×tan(θ1/2)×tan(θ2/2))/Z2 ・・・・・・・・(6) さらに、演算手段6は、先に算出したオプティカルフロ
ー群Fa に対応するM個のフローの大きさdPa の総
和、即ち、オプティカルフロー群Fa に対応するオプテ
ィカルフローの総量(以下、単にフローの総量という)
ΣdPa を算出するようになっている。そして、算出し
たフローの総数M、フローの総量ΣdPaから、フロー
の大きさdPa の平均値dPave.(dPave.=ΣdPa
/M)を算出するようになっている。 【0032】こうして演算手段6において演算されたオ
プティカルフロー群Fa のフローの大きさの平均値dP
ave.は、危険度判定手段7において、オプティカルフロ
ー群Fa に該当する後続車両102の危険度、即ち、自
車両が後続車両102の走行する隣車線へ車線変更する
際の危険度を判定する際の基準とされる。つまり、危険
度判定手段7は、フローの大きさの平均値dPave.が所
定値を越えたときには、隣車線への車線変更は危険と判
定して警報表示モニター8を作動させるようになってい
るのである。なお、警報表示モニター8は、フローの大
きさの平均値dPave.に基づく危険度が段階的に示され
るようになっており、危険度が所定値を越えた時には、
警報音や警報表示によってドライバに警告するようにな
っている。 【0033】ここで、フローの大きさの平均値dPave.
を危険度判定の基準に適用する意義について説明する
と、まず、その前に危険度情報として一般に用いられる
減速度関数について説明する必要がある。通常、2台の
車両が前後に連なって走行する場合の安全走行距離Ds
は、先行車両がブレーキをかけた場合を想定して次式の
ように定められている。 Ds =Vr ×Tm +Vr2/2/Ar −Vf2/2/Af ・・・・・・・(7) 上式においてTm は車間時間であり、Vf ,Vr はそれ
ぞれ自車両(即ち、先行車両), 後続車両の車速、Af
,Ar はそれぞれ自車両(即ち、先行車両),後続車両
の減速度を示している。 【0034】ここで、高速道路での通常走行では、車間
時間Tm は1〜2秒、一般的なドライバが踏める最大減
速度は6.0m/s2と言われており、車間時間Tm を1.
3秒、自車両の減速度Af を6.0m/s2とすると、後続
車両の減速度Ar は次式で表すことができる。 Ar =(Vr2/2)/(Ds −1.3×Vr +Vf2/12)・・・・・(8) 上式は、車速Vf で走行中の自車両が、通常考えられる
最大減速度(6.0m/s2)で急減速した時に、一般的な
車間時間1.3秒の安全車間距離Ds を保つのに必要
な、車速Vr で走行中の後続車に要求される減速度Ar
に対応しており、この減速度Ar が一般的に危険度とし
て用いられている減速度関数である。 【0035】この減速度関数Ar により表される危険度
は、(8)式からもわかるように、車間距離Ds が短い
ほど、また、車両間の速度差(即ち、Vr −Vf )が大
きいほど、大きくなっており、実際の走行におけるドラ
イバの感覚にも適合したものである。したがって、この
減速度関数により表される危険度と同様の特性をもった
危険度判定のパラメータを設定することが有意義と考え
られる。 【0036】ところで、(3)式〜(5)式で表される
フローの大きさdPa も、前述のように相対速度Vs が
大きいほど、また、車間距離Zが短いほど、大きくなっ
ているので、減速度関数Ar により表される危険度とそ
の特性が一致している。ところが、オプティカルフロー
の算出基準となる画像上の着目画素は、輝度差に基づい
て設定されるため、光の反射具合等により突然消失する
ことがある。このような場合、オプティカルフローも消
失してしまうため、任意の一つのオプティカルフローに
着目しただけでは、連続的にフローの大きさdPa の評
価を行ない危険度を判定することはできない。 【0037】一方、前述のフローの総数Mやフローの総
和ΣdPa を危険度判定のパラメータとして適用するこ
とも考えられる。しかしながら、フローの総数Mは、
(6)式に示すように、車間距離Zが短いほど大きくな
る点では、減速度関数Ar により表される危険度と特性
が一致するが、被検出車両の前面面積Aの影響を受け、
また、相対速度とは無関係である。このため、フローの
総数Mが大きくなったとしても、それが車間距離が短く
なったためなのか、それとも被検出車両が大きいためな
のか区別がつかない。また、実際の走行では、オプティ
カルフローの発生総数は被検出車両の前面面積の他に、
車両の形状や色の影響も受け、さらには、前述のよう
に、オプティカルフローの一つ一つは、光の反射具合等
により消失したり発生したりするため、正確な危険度判
定をすることはできない。 【0038】同様に、フローの総量ΣdPa では、
(3)式〜(6)式から分かるように、相対速度Vs が
大きいほど、また、車間距離Zが短いほど大きくなる点
では、減速度関数Ar により表される危険度と一致する
が、被検出車両の前面面積Aの影響を受ける点ではフロ
ーの総数Mと同様であり、相対速度Vs ,車間距離Zに
基づく正確な危険度判定をすることはできない。 【0039】これに対し、フローの大きさの平均値dP
ave.では、フローの総和ΣdPa をフローの総数Mで除
算することにより、被検出車両の前面面積Aや車両の形
状や色等の影響は排除される。また、複数のフローの大
きさdPa の平均であるため、仮に着目画素の一つが画
面上から消失したとしても、フローの大きさの平均値d
Pave.の連続性が失われたり、大きく変化したりするこ
とはない。 【0040】そして、図4に示すように、フローの大き
さの平均値dPave.の車間距離Zに対する特性は、減速
度関数Ar により表される危険度の特性と一致してい
る。なお、ここでは、フローの大きさの平均値dPave.
を(3)式〜(5)式から算出されるフローの大きさd
Pa で表しており、(3)式,(4)式における各変数
の値は次の値を用いている。W:3.5m,H:1.4
m,D:0.0015m,N:5フレーム,n1:25
6pixel ,n2:240pixel ,L1:0.00654
m,L2:0.00489m,Vs :40km/h。ま
た、減速度関数により表される危険度Ar の算出にあた
り(8)式における各変数は次の値を用いている。Vf
:80km/h,Vr :120km/h。 【0041】つまり、フローの大きさの平均値dPave.
を危険度判定の基準とすることにより、減速度関数Ar
により表される危険度と同様に、車間距離Zが短いほ
ど、また、相対速度Vs が大きいほど危険度が大きくな
るという、実際の走行におけるドライバの感覚にも適合
した危険度判定を行なうようになっているのである。こ
こで、図5,図6は、実際に車両に本オプティカルフロ
ー式後方情報検出装置を搭載し実験した結果を示すもの
である。 【0042】まず、図5は、フローの総数Mの理論値と
実験値とを比較したものであり、実線は(6)式で示さ
れるフローの総数Mの理論値であり、□は相対速度Vs
を40km/hに設定した場合の実験値、▲は相対速度
Vs を5km/hに設定した場合の実験値である。図5
に示すように、車間距離Zが短いほどフローの総数Mも
増加傾向にはあるが、理論値にはのっておらず、また、
相対速度Vs が小さいほど不安点になっている。したが
って、この実験結果からも、フローの総数Mは危険度と
しては不適当であることがわかる。また、実験データに
はないが、フローの総量ΣdPa も同様のことが言え
る。 【0043】一方、図6は、フローの大きさの平均値d
Pave.の理論値と実験値とを比較したものであり、実線
は(3)式〜(5)式で示されるフローの大きさdPav
e.の理論値である。また、■,△は実験で得られたフロ
ーの大きさの平均値dPave.であり、△は昼間の実験デ
ータを示し、■は夜間の実験データを示している。図6
に示すように、危険度の高い状況、即ち、相対速度が大
きく車間距離が狭い状況でも、フローの大きさの平均値
dPave.は安定して理論値にのっており、フローの大き
さの平均値dPave.を危険度として用いることが可能で
あることが、この実験結果からも確認できる。 【0044】そして、■で示す夜間の実験データの方
が、△で示す昼間の実験データよりもより理論値にのっ
ていることがわかるが、これは、夜間におけるオプティ
カルフローはそのほとんどがヘッドライトより発生する
ので、コントラストが強く、また、発生範囲が安定して
おり、これにより後続車両のみに基づくフローの大きさ
の平均値dPave.を正確に算出できるからである。した
がって、この実験データより、ドライバにとっては危険
度が大きい夜間ほどより正確な危険度判定を行なうこと
ができるという、フローの大きさの平均値dPave.を危
険度として用いることの有用性が確認される。 【0045】本発明の一実施形態としてのオプティカル
フロー式後方情報検出装置は上述のように構成されてい
るので、例えば、図7,図8に示すような流れで危険度
判定処理が行なわれる。図7に示すように、まず、CC
Dカメラ2より時間tにおいて撮像した後方画像を、A
/D変換器3でA/D変換して第1フレームメモリ4A
に格納する(ステップS100)。次いで、そのΔt時
間〔例えば、5/30秒(5フレーム分)〕後に撮像し
た後方画像を第2フレームメモリ4Bに格納する(ステ
ップS200)。 【0046】オプティカルフロー算出手段5では、各フ
レームメモリ4A,4Bに格納されたそれぞれの画像か
ら輝度差に基づいて着目画素を抽出し、2つの画像間に
おける着目画素の対応を求める(ステップS300)。
そして、対応する着目画素を結んだベクトルとしてのオ
プティカルフローを得る。このとき、CCDカメラ2で
撮像される画像には、後続車両等の他に道路標識等の周
囲風景も含まれるが、オプティカルフロー算出手段5で
は、2画面間の対応着目画素を結んだベクトルの向きに
閾値を設け、後続車両等の自車両に接近する移動物体に
対応するオプティカルフローのみを算出する(以上、ス
テップS400)。 【0047】演算手段6では、オプティカルフロー算出
手段5で算出された後続車両に対応するオプティカルフ
ローに基づき危険度、即ち、オプティカルフローの大き
さの平均値dPave.を算出する(ステップS500)。
この危険度(平均値)dPave.の算出は次のように行な
う。図8に示すように、まず、演算手段6では、オプテ
ィカルフロー算出手段5で算出された全オプティカルフ
ローについて、その大きさdPa を算出する(ステップ
S510)。そして、演算手段6の機能要素であるグル
ープ化処理手段6Aでは、オプティカルフローをその大
きさdPaの分布に基づき、また、オプティカルフロー
の向きや発生番地の位置関係も考慮に入れてグループ化
する(ステップS520)。このとき、グループ化によ
り形成された複数のオプティカルフロー群の個数は、台
数表示手段9において、自車両に接近する後続車両の台
数として表示する。次に、判定対象選定手段6Bでは、
グループ化処理手段6Aにおいて形成された複数のオプ
ティカルフロー群のそれぞれについて重心位置を算出
し、重心位置が最下方にあるオプティカルフロー群を危
険度の判定対象に選定する(ステップS530)。 【0048】危険度の判定対象となるオプティカルフロ
ー群Fa が選定されると、演算手段6では、オプティカ
ルフロー群Fa に属するオプティカルフローの総数Mを
算出し(ステップS540)、次に、オプティカルフロ
ー群Fa に対応するM個のフローの大きさdPa の総
和、即ち、フローの総量ΣdPa を算出し(ステップS
550)、算出したフローの総数M、フローの総量Σd
Pa から、フローの大きさdPa の平均値dPave.(d
Pave.=ΣdPa /M)を算出して危険度とする(ステ
ップS560)。 【0049】危険度判定手段7では、演算手段6におい
て演算された危険度(フローの大きさの平均値dPav
e.)を予め設定した所定値と比較し(ステップS60
0)、危険度が所定値を越えたときには、隣レーンへの
車線変更は危険と判定して警報表示モニター8に警報表
示させる。(ステップS700) このように、本オプティカルフロー式後方情報検出装置
では、複数のオプティカルフローが得られた場合、これ
らのオプティカルフローをその大きさdPaの分布に基
づいて関連付けられるオプティカルフロー群にグループ
化するようになっているので、自車両に接近する車両が
複数存在する場合、オプティカルフロー群の数により接
近する後続車両の台数を把握することができるという利
点がある。 【0050】そして、オプティカルフロー群の位置関係
から自車両に最接近している車両に該当するオプティカ
ルフロー群を特定することができ、このオプティカルフ
ロー群に基づいて危険度を算出することにより、ドライ
バの感覚に合致した危険度判定を行なうことができると
いう利点がある。また、本オプティカルフロー式後方情
報検出装置では、オプティカルフローの大きさdPaに
基づき隣レーンへの車線変更時の危険度判定を行なって
いるが、オプティカルフローの大きさdPa自体は、フ
ローの総数Mやフローの総量ΣdPa のように後続車両
の大きさの影響を受けず、また、オプティカルフローの
大きさdPa と減速度関数Ar による危険度との相対速
度Vs ,車間距離Zに対する特性は一致しているので、
被検出車両の大きさによらず均一に、かつ、ドライバの
感覚にも適合した危険度判定を行なうことができる。 【0051】そして、一つのオプティカルフローの大き
さdPa を基準とするのではなく、後続車両に対応する
全てのオプティカルフローの大きさの平均値dPave.を
基準として危険度判定を行なっているので、光の反射具
合の変化等によりオプティカルフローが消失したり、ま
た、後続車両の接近によりオプティカルフローが増加し
たような場合でも、それらの影響を受けずに、常に安定
した危険度判定を行なうことが可能である。 【0052】特に、危険度が高い場面、例えば、後続車
両と自車両との車間距離Zが非常に狭くなっており、か
つ相対速度Vs が大きいような場合には、危険度に関す
る情報も安定性が強く要求される。このような場合、C
CDカメラ2上での後続車両の画像も大きくなるので、
平均化処理のサンプルとなる後続車両に対応するオプテ
ィカルフローの総数も増加し、また、相対速度Vs が大
きいほどオプティカルフローの大きさdPa も大きくな
るので、オプティカルフローの大きさの平均値dPave.
の算出精度も向上し、より安定した危険度判定が可能と
なる。 【0053】さらに、夜間もドライバにとっては危険度
が大きいが、夜間におけるオプティカルフローはそのほ
とんどがヘッドライトより発生するので、コントラスト
が強く且つ発生範囲が安定している。このため、後続車
両のみに基づくフローの大きさの平均値dPave.を正確
に算出することができ、正確且つ安定した危険度判定が
可能になるという利点もある。 【0054】なお、本発明は上述した実施形態に限定さ
れるものではなく、本発明の趣旨を逸脱しない範囲で種
々変形して実施することができ、例えば、本実施形態で
は、判定対象選定手段6Bによる自車両へ最接近した車
両の選定において、画像上の最下方に位置するオプティ
カルフロー群を最接近車両と選定するようになっている
が、CCDカメラ2で得られた画像情報から道路上の白
線を抽出し、抽出した白線との位置関係から最接近車両
を特定するようにしてもよい。 【0055】また、本実施形態のように自車両へ最接近
した車両を危険度の判定対象とするのではなく、次のよ
うにして危険度の判定対象を選定してもよい。つまり、
判定対象選定手段6Bにおいて、各オプティカルフロー
群について重心位置を算出するとともに、併せてオプテ
ィカルフロー群の平均ベクトル、即ち、平均の大きさと
方向とを算出する。そして、これらの重心位置,ベクト
ルの大きさ,方向に基づき各オプティカルフロー群の画
面上での移動軌跡を算出し、画面の下端若しくは左端ま
たは右端に最も早く到達すると予想されるオプティカル
フロー群を危険度の判定対象に選定する。 【0056】このようにして危険度の判定対象とするオ
プティカルフロー群を選定することにより、自車両に最
も早く到達すると予測される車両に基づいた危険度の算
出が可能となり、ドライバの感覚により合致した危険度
判定を行なうことができるようになる。また、夜間にお
いては、得られるオプティカルフローはヘッドライトか
ら発生したもののみであるという特徴から、グループ化
処理手段6Aにおけるオプティカルフローのグループ化
を次のようにして行なうようにしてもよい。 【0057】つまり、通常ヘッドライトは車両に2つ設
けられており、ヘッドライト間の距離は車幅を越えるこ
とはない。また、ヘッドライトの大きさも車種によって
大きな差はない。したがって、ヘッドライトの大きさと
2つのヘッドライト間の距離との関係は一定範囲内に収
まると考えられ、同様に、画像上における1つのヘッド
ライトに相当するオプティカルフローの総数と、ヘッド
ライトに相当する2つのオプティカルフロー群間の距離
の関係も一定範囲に収まると考えられる。 【0058】そこで、夜間においては、まず、1つのヘ
ッドライトに相当するオプティカルフローの塊毎にオプ
ティカルフロー群を設定する。そして、各オプティカル
フロー群に属するオプティカルフローの総数と、オプテ
ィカルフロー群相互間の距離とを上述の一定範囲の関係
に照らし合わせ、対応する2つのオプティカルフロー群
を特定する。特定された対応する2つのオプティカルフ
ロー群は、1台の後続車両に相当するものとしてカップ
リングし、1つのオプティカルフロー群として再設定す
る。 【0059】このように、ヘッドライトに相当する2つ
のオプティカルフロー群の相関関係に基づき1台の後続
車両に該当するオプティカルフロー群を特定することに
より、異車両間でのオプティカルフローの混同が防止さ
れ、夜間におけるより正確な車両台数の把握が可能にな
るとともに、危険度判定もより正確に行なうことが可能
となるという利点がある。 【0060】 【発明の効果】以上詳述したように、本発明のオプティ
カルフロー式後方情報検出装置によれば、オプティカル
フローをその大きさの分布に基づいて関連付けられるオ
プティカルフロー群にグループ化するようになっている
ので、自車両に接近する物体が複数存在する場合でも、
得られるオプティカルフローの中から危険度の判定対象
とすべき物体に該当するオプティカルフロー群を選定す
ることができ、選定したオプティカルフロー群について
危険度を判定するので、ドライバの感覚に合致した危険
度判定を行なうことができる。 【0061】そして、危険度の判定は、選定したオプテ
ィカルフロー群に属するオプティカルフローの大きさの
平均値に基づき行なっているので、光の反射具合の変化
等の撮像状況によるオプティカルフローの消失,発生
や、移動物体の大きさによるオプティカルフローの総数
の大小の影響を受けることなく、後側方から接近してく
る移動物体に対する危険度を均一且つ安定して判定する
ことができる。
ー式後方情報検出装置の構成を模式的に示すブロック図
である。 【図2】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置にかかるオプティカルフローの算
出方法について説明するための図であり、(a)は時間
tにおける撮像画像を示す図、(b)は時間t+Δtに
おける撮像画像を示す図、(c)は(a),(b)の撮
像画像から得られるオプティカルフローを示す図であ
る。 【図3】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置にかかる実際の自車両及び後続車
両の位置関係とオプティカルフローとの幾何学的な対応
関係を示す図である。 【図4】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置にかかるオプティカルフローの大
きさの平均値と車間距離との関係と、減速度関数による
危険度と車間距離との関係とを一つのグラフ上に表し、
それらの一致性を示す図である。 【図5】オプティカルフローの総数の実験値と理論値と
の対応関係を示す図である。 【図6】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置にかかるオプティカルフローの大
きさの平均値の実験値と理論値との対応関係を示す図で
ある。 【図7】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置の危険度判定処理の全体の流れを
説明するためのフローチャートである。 【図8】本発明の一実施形態としてのオプティカルフロ
ー式後方情報検出装置のオプティカルフローの大きさの
平均値の算出処理の流れを説明するためのフローチャー
トである。 【符号の説明】 2 CCDカメラ(撮像手段) 3 A/D変換器 4A 第1フレームメモリ 4B 第2フレームメモリ 5 オプティカルフロー算出手段(DSP) 6 演算手段 6A グループ化処理手段 6B 判定対象選定手段 7 危険度判定手段 8 警報表示モニター 9 台数表示手段 10 ECU 100A,100B 撮像画像 PA1,PA2,PA3,PA4,PB1,PB2,PB3,PB4 着
目画素 SA1,SA2,SA3,SA4,SB1,SB2,SB3,SB4 ウ
インドウ f1 ,f2 ,f3 ,f4 オプティカルフロー
Claims (1)
- (57)【特許請求の範囲】 【請求項1】 自車両後方を所定周期で撮像する撮像手
段と、該撮像手段で得られた複数画像からオプティカル
フローを算出するオプティカルフロー算出手段とをそな
え、該オプティカルフロー算出手段で算出された該オプ
ティカルフローから該自車両に接近する複数の物体を検
出するオプティカルフロー式後方情報検出装置におい
て、 該オプティカルフローの大きさの分布に基づき該オプテ
ィカルフローをオプティカルフロー群にグループ化する
グループ化処理手段と、 該グループ化処理手段でグループ化された複数の該オプ
ティカルフロー群の中から危険度判定対象とするオプテ
ィカルフロー群を選定する判定対象選定手段と、 該判定対象選定手段で選定された該判定対象オプティカ
ルフロー群に属するオプティカルフローの大きさの平均
値を演算する演算手段と、 該演算手段で演算されたオプティカルフローの大きさの
平均値に基づき該判定対象オプティカルフロー群に該当
する物体の接近の危険度を判定する危険度判定手段とを
そなえたことを特徴とする、オプティカルフロー式後方
情報検出装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP06158998A JP3395634B2 (ja) | 1998-03-12 | 1998-03-12 | オプティカルフロー式後方情報検出装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP06158998A JP3395634B2 (ja) | 1998-03-12 | 1998-03-12 | オプティカルフロー式後方情報検出装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH11255051A JPH11255051A (ja) | 1999-09-21 |
| JP3395634B2 true JP3395634B2 (ja) | 2003-04-14 |
Family
ID=13175498
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP06158998A Expired - Fee Related JP3395634B2 (ja) | 1998-03-12 | 1998-03-12 | オプティカルフロー式後方情報検出装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3395634B2 (ja) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3905727B2 (ja) | 2001-07-13 | 2007-04-18 | 日産自動車株式会社 | 車両の車線追従制御装置 |
| KR100630088B1 (ko) | 2004-12-28 | 2006-09-27 | 삼성전자주식회사 | 옵티컬 플로우를 이용한 차량 감시 장치 및 방법 |
| JP4289421B2 (ja) * | 2007-05-14 | 2009-07-01 | 株式会社デンソー | 車両制御装置 |
| WO2009005025A1 (ja) * | 2007-07-03 | 2009-01-08 | Konica Minolta Holdings, Inc. | 移動物体検出装置 |
| CN102368352B (zh) * | 2011-10-08 | 2013-10-30 | 中盟智能科技(苏州)有限公司 | 交通信息采集方法及装置 |
| JP6944328B2 (ja) * | 2017-09-29 | 2021-10-06 | 株式会社デンソー | 車両の周辺監視装置と周辺監視方法 |
| CN117141553B (zh) * | 2022-05-24 | 2025-12-02 | 上海泽高电子工程技术股份有限公司 | 一种列车接近预警方法 |
-
1998
- 1998-03-12 JP JP06158998A patent/JP3395634B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH11255051A (ja) | 1999-09-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113998034B (zh) | 骑乘者辅助系统和方法 | |
| US10387733B2 (en) | Processing apparatus, processing system, and processing method | |
| CA2949200C (en) | Processing apparatus, processing system, processing program, and processing method | |
| JP4287532B2 (ja) | 車両用後側方監視装置 | |
| JP3452268B2 (ja) | 車両用後側方監視方法 | |
| CN100552742C (zh) | 安全运动支持装置 | |
| KR101891460B1 (ko) | 차도 위의 반사체를 인식하고 평가하기 위한 방법 및 장치 | |
| US20150332103A1 (en) | Processing apparatus, computer program product, and processing method | |
| JP2863381B2 (ja) | 車両用監視方法 | |
| JP3747599B2 (ja) | 車両用障害物検出装置 | |
| JP2017005678A (ja) | 車載カメラ・システム並びに画像処理装置 | |
| JP4980970B2 (ja) | 撮像手段の調整装置および物体検出装置 | |
| JPH1139597A (ja) | 車両の衝突防止装置 | |
| US20200118280A1 (en) | Image Processing Device | |
| JP3351340B2 (ja) | オプティカルフロー式後方情報検出装置 | |
| JP3395634B2 (ja) | オプティカルフロー式後方情報検出装置 | |
| US20220299860A1 (en) | Extensiview and adaptive lka for adas and autonomous driving | |
| JPH1114346A (ja) | 車両用障害物検出装置 | |
| JP3464368B2 (ja) | 車両用後側方監視装置 | |
| KR101706682B1 (ko) | 시인성이 향상되는 곡선도로용 영상제공장치 | |
| JP7474370B2 (ja) | 画像処理装置、車両、画像処理方法、画像処理プログラム及びサーバ | |
| KR20160092403A (ko) | 차량 운전 보조 장치 및 차량 운전 보조 장치의 제어 방법 | |
| JP7185571B2 (ja) | 視認方向推定装置、視認方向推定方法、およびプログラム | |
| JP3402023B2 (ja) | 後側方車両報知装置 | |
| WO2025229754A1 (ja) | 車両制御装置および車両制御方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20030107 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R370 | Written measure of declining of transfer procedure |
Free format text: JAPANESE INTERMEDIATE CODE: R370 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080207 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090207 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090207 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100207 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110207 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110207 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120207 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120207 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130207 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140207 Year of fee payment: 11 |
|
| LAPS | Cancellation because of no payment of annual fees |