Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3764086B2 - 車両用情報提供装置 - Google Patents
[go: Go Back, main page]

JP3764086B2 - 車両用情報提供装置 - Google Patents

車両用情報提供装置 Download PDF

Info

Publication number
JP3764086B2
JP3764086B2 JP2001331287A JP2001331287A JP3764086B2 JP 3764086 B2 JP3764086 B2 JP 3764086B2 JP 2001331287 A JP2001331287 A JP 2001331287A JP 2001331287 A JP2001331287 A JP 2001331287A JP 3764086 B2 JP3764086 B2 JP 3764086B2
Authority
JP
Japan
Prior art keywords
area
image
search
vehicle
information providing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001331287A
Other languages
English (en)
Other versions
JP2003134508A (ja
Inventor
弘 服部
伸治 長岡
正人 渡辺
孝之 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2001331287A priority Critical patent/JP3764086B2/ja
Priority to DE10247371A priority patent/DE10247371B4/de
Priority to GB0223887A priority patent/GB2383222B/en
Priority to US10/273,314 priority patent/US7141796B2/en
Publication of JP2003134508A publication Critical patent/JP2003134508A/ja
Application granted granted Critical
Publication of JP3764086B2 publication Critical patent/JP3764086B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/182Network patterns, e.g. roads or rivers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、例えば車両の周辺に存在する物体を検出して表示する車両用情報提供装置に関する。
【0002】
【従来の技術】
従来、歩行者等の走行路上の障害物を車両の運転者に通知するために、車両の前方に搭載された1つあるいは複数の赤外線カメラの画像を、運転席から目視可能な位置に表示し、運転者の前方視界を補助するものがある。運転者に表示される画像は、例えば自車両のコンソールに設置されるNAVIDisplayやフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するHUD(Head Up Display )、更には自車両の走行状態を数字で表すメータと一体化されたメータ一体Display等の画像表示装置に表示される。
また、このように車両の周辺の環境を赤外線カメラによって撮影し、運転者に表示する装置としては、例えば特開平11−328364号公報に示すようなものが知られている。この装置では、皮膚が露出している検出対象者の頭部の温度が他の部分の温度より高く、比較的赤外線カメラの画像として捉えやすいことを利用して、まず検出対象者の頭部位置を判別し、判別した頭部位置の情報に基づいて検出対象者の身体に相当する領域を決定する。これにより、例えば歩行者の頭部のみならず身体全体を運転者に表示して注意を促すことができる。
【0003】
【発明が解決しようとする課題】
しかし、上述のような従来の装置では、検出対象者を正面から撮影している場合、顔面の皮膚は他の部分と比較して赤外線放射量が多いため、検出対象者の頭部位置を判別しやすく、そこから身体全体の領域を決定することが容易にできるものの、後ろから検出対象者を撮影したような場合等では、顔面以外の部分が抜き出されることがあり、頭部位置を判別することが難しかった。
また、直射日光にさらされて温度が上昇している部分や、風を受けて温度が下降している部分等、検出対象者の人体部位の温度は、その状態や環境によっても変化するため、撮影された画像から必ずしも温度の高低によって頭部位置を判別できるとは限らず、頭部位置として認識した部分から決定した身体に相当する領域が、実際の検出対象者が存在する領域とは異なる可能性があった。
【0004】
本発明は、上記課題に鑑みてなされたもので、赤外線カメラにより撮影された画像の特徴から、人物の存在範囲を決定して表示する車両用情報提供装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
上記課題を解決するために、請求項1の発明に係わる車両用情報提供装置は、赤外線カメラにより撮影された画像を表示する車両用情報提供装置であって、前記画像を多値化処理することにより検出された物体の存在領域を抽出領域(例えば実施の形態の第1検出エリア51)として設定する抽出領域設定手段(例えば実施の形態のステップS1〜ステップS18)と、前記抽出領域の周辺に探索領域(例えば実施の形態の探索エリア54〜58)を設定する探索領域設定手段(例えば実施の形態のステップS21〜ステップS24)と、前記探索領域内の輝度変化を探索し、輝度変化がある領域を前記抽出領域と共に同一物体として強調表示する物体認識手段(例えば実施の形態のステップS25〜ステップS37)とを備えたことを特徴とする。
以上の構成を備えた車両用情報提供装置は、抽出領域設定手段が設定した抽出領域を基準にして探索領域を設定し、抽出領域の周囲に輝度変化のある領域を探索することで、抽出領域に捉えられた物体と同一の物体を捉えているであろう領域を、抽出領域と共に強調表示することができるようになる。
【0006】
請求項2の発明に係わる車両用情報提供装置は、請求項1に記載の車両用情報提供装置において、2つの赤外線カメラと、前記2つの赤外線カメラにより撮影された画像の視差を求める視差算出手段(例えば実施の形態のステップS34)とを備え、前記物体認識手段が、輝度変化があると共に、前記抽出領域と視差が同一の領域を同一物体として強調表示することを特徴とする。
以上の構成を備えた車両用情報提供装置は、輝度変化があると共に抽出領域と視差が同一の領域を、抽出領域に捉えられた物体と同一の物体を捉えているであろう領域として認識し、抽出領域と共に強調表示することができるようになる。
【0007】
請求項3の発明に係わる車両用情報提供装置は、請求項1、または請求項2に記載の車両用情報提供装置において、前記抽出領域の上下に隣接して設定された前記探索領域(例えば実施の形態の探索エリア52、53)が前記画像の範囲を越える場合に、前記物体認識手段が、輝度変化の探索を中止することを特徴とする。
以上の構成を備えた車両用情報提供装置は、探索領域設定手段が抽出領域の上下に探索領域を設定すると画像の領域を越えてしまう場合、物体認識手段が、抽出領域に物体の大部分が捉えられていると判断して物体の探索を行わずに抽出領域のみ強調表示を行う。
【0008】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。
図1は、本発明の一実施の形態の車両用情報提供装置の構成を示すブロック図である。
図1において、符号1は、本実施の形態の車両用情報提供装置を制御するCPU(中央演算装置)を備えた画像処理ユニットであって、遠赤外線を検出可能な2つの赤外線カメラ2R、2Lと当該車両のヨーレートを検出するヨーレートセンサ3、更に、当該車両の走行速度(車速)を検出する車速センサ4とブレーキの操作を検出するためのブレーキセンサ5が接続される。これにより、画像処理ユニット1は、車両の周辺の赤外線画像と車両の走行状態を示す信号から、車両前方の歩行者や動物等の動く物体を検出し、衝突の可能性が高いと判断したときに警報を発する。
【0009】
また、画像処理ユニット1には、音声で警報を発するためのスピーカ6と、赤外線カメラ2R、2Lにより撮影された画像を表示し、衝突の危険性が高い対象物を車両の運転者に認識させるための、例えば自車両の走行状態を数字で表すメータと一体化されたメータ一体Displayや自車両のコンソールに設置されるNAVIDisplay、更にフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するHUD(Head Up Display )7a等を含む画像表示装置7が接続されている。
【0010】
また、画像処理ユニット1は、入力アナログ信号をディジタル信号に変換するA/D変換回路、ディジタル化した画像信号を記憶する画像メモリ、各種演算処理を行うCPU(中央演算装置)、CPUが演算途中のデータを記憶するために使用するRAM(Random Access Memory)、CPUが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)、スピーカ6の駆動信号、HUD7a等の表示信号などを出力する出力回路を備えており、赤外線カメラ2R、2L及びヨーレートセンサ3、車速センサ4、ブレーキセンサ5の各出力信号は、ディジタル信号に変換されてCPUに入力されるように構成されている。
【0011】
また、図2に示すように、赤外線カメラ2R、2Lは、自車両10の前部に、自車両10の車幅方向中心部に対してほぼ対象な位置に配置されており、2つの赤外線カメラ2R、2Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ2R、2Lは、対象物の温度が高いほど、その出力信号レベルが高くなる(輝度が増加する)特性を有している。
また、HUD7aは、自車両10のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【0012】
次に、本実施の形態の動作について図面を参照して説明する。
図3は、本実施の形態の車両用情報提供装置の画像処理ユニット1における処理手順を示すフローチャートである。
まず、画像処理ユニット1は、赤外線カメラ2R、2Lの出力信号である赤外線画像を取得して(ステップS1)、A/D変換し(ステップS2)、グレースケール画像を画像メモリに格納する(ステップS3)。なお、ここでは赤外線カメラ2Rにより右画像が得られ、赤外線カメラ2Lにより左画像が得られる。また、右画像と左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ(視差)によりその対象物までの距離を算出することができる。
【0013】
次に、赤外線カメラ2Rにより得られた右画像を基準画像とし、その画像信号の2値化処理、すなわち、輝度閾値ITHより明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行う(ステップS4)。
図4(a)は、赤外線カメラ2Rにより得られたグレースケール画像を示し、これに2値化処理を行うことにより、図4(b)に示すような画像を得る。なお、図4(b)において、例えばP1からP4の枠で囲った物体を、表示画面上に白色として表示される対象物(以下「高輝度領域」という)とする。
赤外線画像から2値化された画像データを取得したら、2値化した画像データをランレングスデータに変換する処理を行う(ステップS5)。
【0014】
図5(a)は、これを説明するための図であり、この図では2値化により白となった領域を画素レベルでラインL1〜L8として示している。ラインL1〜L8は、いずれもy方向には1画素の幅を有しており、実際にはy方向には隙間なく並んでいるが、説明のために離間して示している。またラインL1〜L8は、x方向にはそれぞれ2画素、2画素、3画素、8画素、7画素、8画素、8画素、8画素の長さを有している。ランレングスデータは、ラインL1〜L8を各ラインの開始点(各ラインの左端の点)の座標と、開始点から終了点(各ラインの右端の点)までの長さ(画素数)とで示したものである。例えばラインL3は、(x3,y5)、(x4,y5)及び(x5,y5)の3画素からなるので、ランレングスデータとしては、(x3,y5,3)となる。
【0015】
次に、ランレングスデータに変換された画像データから、対象物のラベリングをする(ステップS6)ことにより、対象物を抽出する処理を行う(ステップS7)。すなわち、ランレングスデータ化したラインL1〜L8のうち、図5(b)に示すように、y方向に重なる部分のあるラインL1〜L3を1つの対象物1とみなし、ラインL4〜L8を1つの対象物2とみなし、ランレングスデータに対象物ラベル1、2を付加する。この処理により、例えば図4(b)に示す高輝度領域が、それぞれ対象物1から4として把握されることになる。
【0016】
対象物の抽出が完了したら、次に、図5(c)に示すように、抽出した対象物の重心G、面積S及び破線で示す外接四角形の縦横比ASPECTを算出する(ステップS8)。
ここで、面積Sは、ランレングスデータの長さを同一対象物について積算することにより算出する。また、重心Gの座標は、面積Sをx方向に2等分する線のx座標と、y方向に2等分する線のy座標として算出する。更に、縦横比ASPECTは、図5(c)に示すDyとDxとの比Dy/Dxとして算出する。なお、重心Gの位置は、外接四角形の重心位置で代用してもよい。
【0017】
対象物の重心、面積、外接四角形の縦横比が算出できたら、次に、対象物の時刻間追跡、すなわちサンプリング周期毎の同一対象物の認識を行う(ステップS9)。時刻間追跡は、アナログ量としての時刻tをサンプリング周期で離散化した時刻をkとし、図6(a)に示すように時刻kで対象物A、Bを抽出した場合、時刻(k+1)で抽出した対象物C、Dと、対象物A、Bとの同一性判定を行う。具体的には、以下の同一性判定条件1)〜3)を満たすときに、対象物A、Bと対象物C、Dとは同一であると判定し、対象物C、Dをそれぞれ対象物A、Bというラベルに変更することにより、時刻間追跡が行われる。
【0018】
1)時刻kにおける対象物i(=A,B)の画像上での重心位置座標を、それぞれ(xi(k),yi(k))とし、時刻(k+1)における対象物j(=C,D)の画像上での重心位置座標を、(xj(k+1),yj(k+1))としたとき、|xj(k+1)−xi(k)|<Δx|yj(k+1)−yi(k)|<Δyであること。ただし、Δx、Δyは、それぞれx方向及びy方向の画像上の移動量の許容値である。
2)時刻kにおける対象物i(=A,B)の画像上での面積をSi(k)とし、時刻(k+1)における対象物j(=C,D)の画像上での面積をSj(k+1)としたとき、Sj(k+1)/Si(k)<1±ΔSであること。ただし、ΔSは面積変化の許容値である。
3)時刻kにおける対象物i(=A,B)の外接四角形の縦横比をASPECTi(k)とし、時刻(k+1)における対象物j(=C,D)の外接四角形の縦横比をASPECTj(k+1)としたとき、ASPECTj(k+1)/ASPECTi(k)<1±ΔASPECTであること。ただし、ΔASPECTは縦横比変化の許容値である。
【0019】
例えば、図6(a)と(b)とを対比すると、各対象物は画像上での大きさが大きくなっているが、対象物Aと対象物Cとが上記同一性判定条件を満たし、対象物Bと対象物Dとが上記同一性判定条件を満たすので、対象物C、Dはそれぞれ対象物A、Bと認識される。このようにして認識された各対象物の(重心の)位置座標は、時系列位置データとしてメモリに格納され、後の演算処理に使用される。
なお、以上説明したステップS4〜S9の処理は、2値化した基準画像(本実施形態では、右画像)について実行する。
次に、車速センサ4により検出される車速VCAR及びヨーレートセンサ3より検出されるヨーレートYRを読み込み、ヨーレートYRを時間積分することより、図7に示すように自車両10の回頭角θrを算出する(ステップS10)。
【0020】
一方、ステップS9とステップS10の処理に平行して、ステップS11〜S13では、対象物と自車両10との距離zを算出する処理を行う。この演算はステップS9、及びステップS10より長い時間を要するため、ステップS9、S10より長い周期(例えばステップS1〜S10の実行周期の3倍程度の周期)で実行される。
まず、基準画像(右画像)の2値化画像によって追跡される対象物の中の1つを選択することにより、図8(a)に示すように右画像から探索画像R1(ここでは、外接四角形で囲まれる領域全体を探索画像とする)を抽出する(ステップS11)。
【0021】
次に、左画像中から探索画像に対応する画像(以下「対応画像」という)を探索する探索領域を設定し、相関演算を実行して対応画像を抽出する(ステップS12)。具体的には、図8(b)に示すように、探索画像R1の各頂点座標に応じて、左画像中に探索領域R2を設定し、探索領域R2内で探索画像R1との相関の高さを示す輝度差分総和値C(a,b)を下記式(1)により算出し、この総和値C(a,b)が最小となる領域を対応画像として抽出する。なお、この相関演算は、2値化画像ではなくグレースケール画像を用いて行う。
また同一対象物についての過去の位置データがあるときは、その位置データに基づいて探索領域R2より狭い領域R2a(図8(b)に破線で示す)を探索領域として設定する。
【数1】
Figure 0003764086
ここで、IR(m,n)は、図9に示す探索画像R1内の座標(m,n)の位置の輝度値であり、IL(a+m−M,b+n−N)は、探索領域内の座標(a,b)を基点とした、探索画像R1と同一形状の局所領域R3内の座標(m,n)の位置の輝度値である。基点の座標(a,b)を変化させて輝度差分総和値C(a,b)が最小となる位置を求めることにより、対応画像の位置が特定される。
【0022】
ステップS12の処理により、図10に示すように探索画像R1と、この対象物に対応する対応画像R4とが抽出されるので、次に、探索画像R1の重心位置と、画像中心線LCTRとの距離dR(画素数)及び対応画像R4の重心位置と画像中心線LCTRとの距離dL(画素数)を求め、下記式(2)に適用して、自車両10と、対象物との距離zを算出する(ステップS13)。
【数2】
Figure 0003764086
ここで、Bは基線長、赤外線カメラ2Rの撮像素子の中心位置と、赤外線カメラ2Lの撮像素子の中心位置との水平方向の距離(両赤外線カメラの光軸の間隔)、Fは赤外線カメラ2R、2Lのレンズの焦点距離、pは赤外線カメラ2R、2Lの撮像素子内の画素間隔であり、Δd(=dR+dL)が視差量である。
【0023】
ステップS10における回頭角θrの算出と、ステップS13における対象物との距離算出が完了したら、画像内の座標(x,y)及び式(2)により算出した距離zを下記式(3)に適用し、実空間座標(X,Y,Z)に変換する(ステップS14)。
ここで、実空間座標(X,Y,Z)は、図2に示すように、赤外線カメラ2R、2Lの取り付け位置の中点の位置(自車両10に固定された位置)を原点Oとして、図示のように定め、画像内の座標は、画像の中心を原点として水平方向をx、垂直方向をyと定めている。
【数3】
Figure 0003764086
ここで、(xc,yc)は、右画像上の座標(x,y)を、赤外線カメラ2Rの取り付け位置と、実空間原点Oとの相対位置関係に基づいて、実空間原点Oと画像の中心とを一致させた仮想的な画像内の座標に変換したものである。またfは、焦点距離Fと画素間隔pとの比である。
【0024】
また、実空間座標が求められたら、自車両10が回頭することによる画像上の位置ずれを補正するための回頭角補正を行う(ステップS15)。
回頭角補正は、図7に示すように、時刻kから(k+1)までの期間中に自車両10が例えば左方向に回頭角θrだけ回頭すると、カメラによって得られる画像上では、図11に示すようにΔxだけx方向にずれるので、これを補正する処理である。具体的には、下記式(4)に実空間座標(X,Y,Z)を適用して、補正座標(Xr,Yr,Zr)を算出する。算出した実空間位置データ(Xr,Yr,Zr)は、対象物毎に対応づけてメモリに格納する。なお、以下の説明では、回頭角補正後の座標を(X,Y,Z)と表示する。
【数4】
Figure 0003764086
【0025】
実空間座標に対する回頭角補正が完了したら、次に、同一対象物について、ΔTのモニタ期間内に得られた、回頭角補正後のN個の実空間位置データ(例えばN=10程度)、すなわち時系列データから、対象物と自車両10との相対移動ベクトルに対応する近似直線LMVを求める(ステップS16)。
具体的には、近似直線LMVの方向を示す方向ベクトルL=(lx,ly,lz)(|L|=1)とすると、下記式(5)で表される直線を求める。
【数5】
Figure 0003764086
ここでuは、任意の値をとる媒介変数であり、Xav、Yav、及びZavは、それぞれ実空間位置データ列のX座標の平均値、Y座標の平均値、及びZ座標の平均値である。
なお、式(5)は媒介変数uを消去すれば下記式(5a)のようになる。
(X−Xav)/lx=(Y−Yav)/ly=(Z−Zav)/lz・・・(5a)
【0026】
また、例えばP(0),P(1),P(2),…,P(N−2),P(N−1)が回頭角補正後の時系列データを示す場合、近似直線LMVは、この時系列データの平均位置座標Pav=(Xav,Yav,Zav)を通り、各データ点からの距離の2乗の平均値が最小となるような直線として求められる。
ここで、各データ点の座標を示すPに付した()内の数値はその値が増加するほど過去のデータであることを示す。例えば、P(0)は最新の位置座標、P(1)は1サンプル周期前の位置座標、P(2)は2サンプル周期前の位置座標を示す。
【0027】
次いで、最新の位置座標P(0)=(X(0),Y(0),Z(0))と、(N−1)サンプル前(時間ΔT前)の位置座標P(Nー1)=(X(N−1),Y(N−1),Z(N−1))を近似直線LMV上の位置に補正する。具体的には、前記式(5a)にZ座標Z(0)、Z(N−1)を適用することにより、すなわち下記式(6)により、補正後の位置座標Pv(0)=(Xv(0),Yv(0),Zv(0))及びPv(N−1)=(Xv(N−1),Yv(N−1),Zv(N−1))を求める。
【数6】
Figure 0003764086
【0028】
式(6)で算出された位置座標Pv(N−1)からPv(0)に向かうベクトルとして、相対移動ベクトルが得られる。
このようにモニタ期間ΔT内の複数(N個)のデータから対象物の自車両10に対する相対移動軌跡を近似する近似直線を算出して相対移動ベクトルを求めることにより、位置検出誤差の影響を軽減して対象物との衝突の可能性をより正確に予測することが可能となる。
また、ステップS16において、相対移動ベクトルが求められたら、次に、検出した対象物との衝突の可能性を判定する警報判定処理を行う(ステップS17)。
【0029】
警報判定処理(ステップS17)は、以下に示す衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれかにより、自車両10と検出した対象物との衝突の可能性を判定する処理である。以下、図12に示すように、自車両10の進行方向に対してほぼ90°の方向から、速度Vpで進行してくる動物20がいる場合を例に取って説明する。
【0030】
<衝突判定処理>
まず、画像処理ユニット1は、動物20が時間ΔTの間に距離Zv(N−1)から距離Zv(0)に接近したことにより、下記式(7)を用いてZ方向の相対速度Vsを算出し、衝突判定処理を行う。衝突判定処理は、下記式(8)及び(9)が成立するとき、衝突の可能性があると判定する処理である。
Vs=(Zv(N−1)−Zv(0))/ΔT ・・・(7)
Zv(0)/Vs≦T ・・・(8)
|Yv(0)|≦H ・・・(9)
ここで、Zv(0)は最新の距離検出値(vは近似直線LMVによる補正後のデータであることを示すために付しているが、Z座標は補正前と同一の値である)であり、Zv(N−1)は、時間ΔT前の距離検出値である。またTは、余裕時間であり、衝突の可能性を予測衝突時刻より時間Tだけ前に判定することを意図したものである。従って、Tは例えば2〜5秒程度に設定される。またHは、Y方向、すなわち高さ方向の範囲を規定する所定高さであり、例えば自車両10の車高の2倍程度に設定される。
【0031】
<接近判定領域内か否かの判定処理>
ここでは、対象物が接近判定領域内に存在するか否かを判定する。例えば、図13は、赤外線カメラ2R、2Lで監視可能な領域を太い実線で示す外側の三角形の領域AR0で示し、更に領域AR0内の、Z1=Vs×Tより自車両10に近い領域AR1、AR2、AR3を、警報判定領域としている。
ここで、領域AR1は、自車両10の車幅αの両側に余裕β(例えば50〜100cm程度とする)を加えた範囲に対応する領域、換言すれば自車両10の車幅方向中心部の軸の両側に(α/2+β)の幅を有する領域であって、対象物がそのまま存在し続ければ衝突の可能性がきわめて高いので、接近判定領域と呼ぶ。領域AR2、AR3は、接近判定領域よりX座標の絶対値が大きい(接近判定領域の横方向外側の)領域であり、この領域内にある対象物については、後述する侵入衝突判定を行うので、侵入判定領域と呼ぶ。なおこれらの領域は、前記式(9)に示したようにY方向には、所定高さHを有する。
【0032】
<侵入衝突判定処理>
侵入衝突判定処理は、具体的には、画像上での最新のx座標であるxc(0)(文字cは前述したように画像の中心位置を実空間原点Oに一致させる補正を行った座標であることを示すために付している)と、時間ΔT前のx座標であるxc(N−1)との差が下記式(10)を満たすか否かを判別し、満たす場合に衝突の可能性が高いと判定する。
【数7】
Figure 0003764086
なお、図12に示すように、自車両10の進行方向に対してほぼ90°の方向から進行してくる動物20がいた場合、Xv(Nー1)/Zv(N−1)=Xv(0)/Zr(0)であるとき、換言すれば動物の速度Vpと相対速度Vsの比Vp/Vs=Xr(Nー1)/Zr(N−1)であるとき、自車両10から動物20を見る方位角θdは一定となり、衝突の可能性が高い。式(10)は、この可能性を自車両10の車幅αを考慮して判定するものである。
【0033】
警報判定処理(ステップS17)において衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれにおいても、自車両10と検出した対象物との衝突の可能性がないと判定された場合(ステップS17のNO)、ステップS1へ戻り、上述の処理を繰り返す。
また、警報判定処理(ステップS17)において衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれかにより、自車両10と検出した対象物との衝突の可能性があると判定された場合(ステップS17のYES)、ステップS18の警報出力判定処理へ進む。
【0034】
ステップS18では、以下のようにして警報出力判定処理、すなわち警報出力を行うか否かの判定を行う(ステップS18)。
警報出力判定処理は、まずブレーキセンサ5の出力BRから自車両10の運転者がブレーキ操作を行っているか否かを判別する。
もし、自車両10の運転者がブレーキ操作を行っている場合には、それによって発生する加速度Gs(減速方向を正とする)を算出し、この加速度Gsが所定閾値GTHより大きいときは、ブレーキ操作により衝突が回避されると判定して警報出力判定処理を終了し(ステップS18のNO)、ステップS1へ戻り、上述の処理を繰り返す。
これにより、適切なブレーキ操作が行われているときは、警報を発しないようにして、運転者に余計な煩わしさを与えないようにすることができる。
【0035】
また、加速度Gsが所定閾値GTH以下であるとき、または自車両10の運転者がブレーキ操作を行っていなければ、直ちにステップS19の処理へ進み(ステップS18のYES)、対象物と接触する可能性が高いので、スピーカ3を介して音声による警報を発する(ステップS19)とともに、画像表示装置7に、例えば赤外線カメラ2Rにより得られるグレースケール画像を表示し、接近してくる対象物に強調表示枠を設定することで、自車両10の運転者に対して、対象物を強調映像として表示する(ステップS20)。
なお、所定閾値GTHは、下記式(11)のように定める。これは、ブレーキ操作中の加速度Gsがそのまま維持された場合に、距離Zv(0)以下の走行距離で自車両10が停止する条件に対応する値である。
【数8】
Figure 0003764086
【0036】
次に、図14と図18に示すフローチャート、及び図15から図17に示す図面を参照して、図3に示したフローチャートのステップS20における強調映像出力処理について説明する。
(第1の実施例)
図14は、第1の実施例による強調映像出力処理の全体動作を示すフローチャートである。
図14において、まず、画像処理ユニット1は2値化及び相関演算によって検出された対象物のエリア(以下、「第1検出エリア」という)の大きさを基準として、第1検出エリアの上下方向の領域を第1検出エリアの大きさと同一の大きさに分割して複数のエリアを設定し、これを探索エリアとする(ステップS21)。
また、第1検出エリアの上下方向の領域を分割して複数の探索エリアを設定するにあたっては、分割した探索エリアが基準画像(右画像)の領域内にあるか否かの判定を行い(ステップS22)、探索エリアが基準画像からはみ出るまでステップS21へ戻り、領域のエリア分割(探索エリアの設定)を繰り返す(ステップS22のYES)。
【0037】
一方、探索エリアが基準画像からはみ出たら(ステップS22のNO)、基準画像内の分割されたエリア数を計数する(ステップS23)。
そして、基準画像領域内にあるエリアの数が1個より多いか否かを判定する(ステップS24)。
ステップS24において、基準画像領域内にあるエリアの数が1個の場合(エリアの数が基準画像領域内にある第1検出エリア1個とその上下に基準画像領域をはみ出す探索エリア2個の合計3個の場合)(ステップS24のNO)、第1検出エリアを強調表示エリアに設定する(ステップS25)。
図15は、対象物30が人間であると共に基準画像領域50内にあるエリアの数が1個の場合の画像例を示す。図15(a)は、第1検出エリア51に対象物30の全身が捉えられている場合で、対象物30のエリアサイズと距離により判断できる。一方、図15(b)は、対象物30の身体の一部が第1検出エリア51に捉えられている場合である。どちらの場合も、基準画像領域50内にある第1検出エリア51とその上下に基準画像領域50からはみ出す探索エリア52、53が設定され、合計3個のエリアから構成されている。
【0038】
また、ステップS24において、基準画像領域内にあるエリアの数が1個より多い場合(ステップS24のYES)、第1検出エリア51を含む列を基準として探索エリア設定を行うために、列を区別するためのレジスタjをリセット(j=0)する(ステップS26)。
そして、探索エリア内の画像に輝度変化が認められるか否か、レジスタjにより指定された列の中の探索エリアを探索エリア毎に縦方向に判定し、画像に輝度変化が認められる探索エリアにはフラグを設定する輝度変化探索処理を行う(ステップS27)。なお、輝度変化探索処理の詳細は後述する。
図16(a)は、対象物30が人間であると共に基準画像領域50内にあるエリアの数が1個より多い場合の画像例を示す。例えば、図16(a)は、第1検出エリア51とその上下方向に存在し基準画像領域50からはみ出す探索エリア54、55、更には基準画像領域50内に存在する複数の探索エリア56の合計M個のエリアからなる列を構成している。また、この列を基準とするために、この列を「j=0」の列とする。
【0039】
次に、レジスタjにより指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがあるか否かを判定する(ステップS28)。
ステップS28において、指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがある場合(ステップS28のYES)、jを1つ増やす(j=j+1)ことで今探索した隣の列を指定し(ステップS29)、ステップS27へ戻り、新しい列に対する輝度変化探索処理を行う(ステップS27)。
また、ステップS28において、指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがない場合(ステップS28のNO)、jをリセット(j=0)し(ステップS30)、jを1つ減らす(j=j−1)ことで、上述の探索とは反対側の列を指定する(ステップS31)。
そして、上述のステップS27と同様に、輝度変化探索処理を行う(ステップS32)。
【0040】
次に、上述のステップS28と同様に、レジスタjにより指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがあるか否かを判定する(ステップS33)。
ステップS33において、指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがある場合(ステップS33のYES)、ステップS31へ戻り、jを1つ減らす(j=j−1)ことで今探索した隣の列を指定し、ステップS32において新しい列に対する輝度変化探索処理を行う(ステップS32)。
図16(b)は、j=2まで探索して輝度変化の認められる探索エリアが存在しなかったため、j=0に対して反対側のj=−1を探索する場合を示した図である。
【0041】
また、ステップS33において、指定された列の中の探索エリア内の画像に、輝度変化が認められることを示すフラグがない場合(ステップS33のNO)、基準画像領域50内の探索が終了したと判断して、次に、フラグが設定された探索エリアに対する視差計算を行う(ステップS34)。
そして、第1検出エリア51と視差が異なる(自車両10からの距離が異なる)探索エリアのフラグを解除する(ステップS35)。
また、視差の異なる探索エリアを排除したら、第1検出エリア51及びフラグの設定された探索エリアを包含するように強調表示出力を行う(ステップS36)。
なお、ステップS25において設定された強調表示出力、及びステップS36において設定された強調表示出力は、画像表示装置7へ出力され(ステップS37)、強調表示出力処理は終了する。
図17(a)は、図16(a)、(b)を基に、第1検出エリア51及び輝度変化の認められる探索エリアを内包する強調表示枠59を設定した状態を表す。また、画像表示装置7に出力される際には、図17(b)に示すように、対象物形状が認識しやすい対象物全てを内包する強調表示枠59が、表示されるグレースケール画像上に設定されることになる。
【0042】
次に、図18に示すフローチャートを用いて、輝度変化探索処理について説明する。
輝度変化探索処理は、探索エリア内の画像に輝度変化が認められるか否かを、レジスタjにより指定された列の中の探索エリア毎に判定し、画像に輝度変化が認められる探索エリアにはフラグを設定する処理であって、指定された列に対して列内の探索エリアを行の方向(縦方向)に探索する。
まず、行の方向に探索を行うために、行を区別するためのレジスタiをリセット(i=1)する(ステップS41)。
次に、レジスタiにより指定された行の探索エリアについて、探索エリアのグレースケール画像に輝度変化が認められるか否かを探索する(ステップS42)。
そして、指定された探索エリアのグレースケール画像の輝度変化が大きいか否かを判定し(ステップS43)、輝度変化が大きい場合(ステップS43のYES)、該当する探索エリアにフラグを設定する(ステップS44)。
【0043】
輝度変化の大きい探索エリアにフラグが設定されたら、次の行の探索を行うためにiを1つ増やす(i=i+1)ことで今探索した次の行を指定する(ステップS45)
また、指定された探索エリアのグレースケール画像の輝度変化が大きくない場合(ステップS43のNO)、何もせずにステップS45へ進む。
なお、図16(a)、(b)に示すように、各列の第1検出エリア51と探索エリアの合計数はM個であるので、レジスタiの値を判定し(ステップS46)、輝度変化探索処理はiの値がMより大きくなるまで、ステップS42へ戻り、上述の処理を繰り返す(ステップS46のNO)。
従って、図14に示すフローチャートのステップS24において、基準画像領域50内にあるエリアの数が1個より多い場合(ステップS24のYES)は、基準画像領域50からはみ出した各列内の探索エリア(j=0の列では探索エリア54、55)についても輝度変化探索処理が実行される。
また、ステップS46において、iの値がMより大きくなったら(i>M)(ステップS46のYES)、輝度変化探索処理を終了する。
【0044】
次に、図19(a)、(b)、図20に示す図面を参照し、強調映像出力処理について、特にエリアの分割方法及び探索方法における別の実施例を説明する。(第2の実施例)
図19(a)は、強調映像出力処理の第2の実施例について説明した図である。第1の実施例が列方向へ探索エリアを拡張する場合に、上下方向にM個含まれている探索エリア全てを対象にして列方向の拡張を行うのに対して、第2の実施例では、左右j=±1より外の列に対しては、フラグの設定された探索エリアが存在する行のエリアのみ拡張して探索を行う。図19(a)では、j=1、またはj=−1において輝度変化が認められたi=2、3、4の探索エリア57についてのみ、j=2、またはj=−2の列において輝度変化探索処理が行われる。
【0045】
具体的には、下記のように探索エリアをA(i、j)と表現し、輝度変化ありを○、輝度変化なしを×で表現する場合、
A( 1,-1):×、A( 1, 0):×、A( 1, 1):× → エリア拡大無し
A( 2,-1):×、A( 2, 0):○、A( 2, 1):× → エリア拡大無し
A( 3,-1):○、A( 3, 0):○、A( 3, 1):○ → エリア拡大有り
A( 4,-1):○、A( 4, 0):○、A( 4, 1):○ → エリア拡大有り
A( 5,-1):○、A( 5, 0):○、A( 5, 1):○ → エリア拡大有り
A( 6,-1):×、A( 6, 0):×、A( 6, 1):× → エリア拡大無し



A( M,-1):×、A( M, 0):×、A( M, 1):× → エリア拡大無し
のように輝度変化処理が行われる。
これにより、1つ前の列において輝度変化が認められなかった行では、その外側も輝度変化が認められる可能性が少ないので、無駄な輝度変化探索処理を省くことで、画像処理ユニット1の処理負荷が軽減される。
【0046】
(第3の実施例)
図19(b)は、強調映像出力処理の第3の実施例について説明した図である。第3の実施例では、第1検出エリア51の大きさを基準に、探索エリアを横方向に広げたエリアを設定し、列方向へ探索エリアを拡張する場合は、第1検出エリア51と同じ列において輝度変化の認められた行を対象に行う。図19(b)では、第1検出エリア51の大きさを基準に、探索エリアを横方向に広げたエリアをj=0として示し、j=1、またはj=−1の列においては、j=0のエリアにおいて輝度変化の認められたi=1からi=6の探索エリア58を対象に輝度変化探索処理が行われる。
これにより、輝度変化の有無により輝度変化探索処理の対象の行を決定する処理を、列方向の拡張を行うたびに判定する処理が不要となるため、更に画像処理ユニット1の処理負荷が軽減される。
【0047】
(第4の実施例)
図20は、強調映像出力処理の第4の実施例について説明した図である。第4の実施例では、第1検出エリア51の大きさに係わらず、所定の大きさの探索エリアによって基準画像領域50を分割し、輝度変化探索処理を行う。
図20では、第1検出エリア51より大きめの探索エリアによって、輝度変化探索処理が実行される。
但し、これにより、第1検出エリア51の大きさに係わらず基準画像領域50内の輝度変化探索処理を実行できるので、画像処理ユニット1の処理負荷が大幅に軽減されるものの、探索エリアの大きさと対象物30の大きさとの差が大きい場合は、検出精度の低下や検出速度の低下を招く場合があることを考慮する必要がある。
【0048】
なお、更に上述の第1から第4の実施例に付け加えるならば、探索エリアを拡張する場合に、2台の赤外線カメラ2R、2Lの画像同士の視差計算を先に行い、同一の視差を持つ探索エリアの部分のみ拡張するようにしても良い。
また、同じ物体であっても所定値以上の輝度変化がない部分もあるので、この部分を上下に包含するように広げても良い。
また、第1検出エリア51と視差の異なるエリアのフラグを解除して区別することで、対象物が重なっている場合でも、対象物を区別して抽出することができる。例えば、車両等の後ろに対象物が存在する場合の隠蔽を検出した場合、探索エリア内には輝度変化があると共に、該探索エリアは第1検出エリア51とは異なる視差値を有し、このような視差値を有する探索エリアが複数個存在する。そこで視差値よりエリアの距離が求まり、人物が車両等の物体の後ろに存在すると考えられる場合は、隠蔽されているエリアを除いた部分を強調表示するようにしても良い。
【0049】
次に、探索エリアの分割例について、その他の分割例を図面を参照して説明する。
図21(a)は、上述の第1から第4の実施例において説明した対象物30の頭部と同様に、対象物30の腹部を検出した第1検出エリア51に基づいて設定された中間サイズの探索エリアによる基準画像の分割例である。
図21(b)は、対象物30の手の先部分を検出した第1検出エリア51に基づいて設定された小さいサイズの探索エリアによる基準画像の分割例である。
図22は、対象物30の両肩から胸部を検出した第1検出エリア51に基づいて設定された横に大きいサイズの探索エリアによる基準画像の分割例である。図22に示すように、第1検出エリア51の横方向のサイズが大きい場合には、画像の視差から求められる対象物との距離によって、探索エリアの横方向サイズを調整するようにしても良い。
【0050】
なお、上述した実施の形態では、自車両の前方を監視する例を示したが、自車両の後方など、いずれの方向を監視するようにしてもよい。
また、上述した実施の形態では、赤外線カメラ2R、2Lを用意し、視差により対象物との距離も同一物体を抽出するための判断材料として利用したが、赤外線カメラは1台でも良く、この場合、同一物体を抽出するための判断材料から対象物までの距離は除外するものとする。
【0051】
また、本実施の形態では、画像処理ユニット1が、抽出領域設定手段と、探索領域設定手段と、物体認識手段と、視差算出手段とを含んでいる。より具体的には、図3のS1〜S18が抽出領域設定手段に相当し、図14のS21〜S24が探索領域設定手段に相当し、図14のS25〜S37が物体認識手段に相当する。更に、図14のS34が視差算出手段に相当する。
【0052】
以上説明したように、本実施の形態の車両用情報提供装置は、最初の検出された第1検出エリア51を基準にして、その周囲に探索エリアを設定し、探索エリア内の画像に輝度変化が認められ、かつ2台の赤外線カメラを用いる場合は、第1検出エリア51と同じ視差を持つ探索エリアを第1検出エリア51と同一物体の画像と判定することで、確実に対象物全体を捉えた画像エリアを抽出することができる。
従って、従来は人間の身体部位の中で一番表面温度が高いであろう頭部が抽出されたとして処理を行うために、直射日光にさらされて温度が上昇している部分や、風を受けて温度が下降している部分等、検出対象者の人体部位の温度の変化によって発生する誤検出が問題とされていたが、これにより身体のどの部分が最初に検出されても、必ず対象物の全体(検出対象者の全身)を捉えることができるようになるという効果が得られる。
【0053】
【発明の効果】
以上の如く、請求項1に記載の車両用情報提供装置によれば、抽出領域設定手段が設定した抽出領域を基準にして探索領域を設定し、抽出領域の周囲に輝度変化のある領域を探索することで、抽出領域に捉えられた物体と同一の物体を捉えているであろう領域を、抽出領域と共に強調表示することができるようになる。従って、抽出領域の大きさに基づいて探索領域を設定すると、対象物の大きさに比例する抽出領域の大きさによって、探索領域の大きさが対象物に対して適切に設定されるので、画像領域内を探索領域により探索して物体全体を検出する検出速度が向上するという効果が得られる。
【0054】
請求項2に記載の車両用情報提供装置によれば、輝度変化があると共に抽出領域と視差が同一の領域を、抽出領域に捉えられた物体と同一の物体を捉えているであろう領域として認識し、抽出領域と共に強調表示することができるようになる。
従って、複数の物体が重なるような状態にあっても、2台のカメラの画像の視差(物体までの距離)が同じ領域を選択することによって、複数の物体を分離して表示できるという効果が得られる。
【0055】
請求項3に記載の車両用情報提供装置によれば、探索領域設定手段が抽出領域の上下に探索領域を設定すると画像の領域を越えてしまう場合、物体認識手段が、抽出領域に物体の大部分が捉えられていると判断して物体の探索を行わずに抽出領域のみ強調表示を行う。
従って、抽出領域に物体の大部分が捉えられていると判断して物体の探索を中止することで、不要な計算の実行を回避することができるという効果が得られる。
【図面の簡単な説明】
【図1】 本発明の一実施の形態の車両用情報提供装置の構成を示すブロック図である。
【図2】 車両における赤外線カメラやセンサ、ディスプレイ等の取り付け位置を示す図である。
【図3】 同実施の形態の車両用情報提供装置の全体動作を示すフローチャートである。
【図4】 赤外線カメラにより得られるグレースケール画像とその2値化画像を示す図である。
【図5】 ランレングスデータへの変換処理及びラベリングを示す図である。
【図6】 対象物の時刻間追跡を示す図である。
【図7】 対象物画像の回頭角補正を示す図である。
【図8】 右画像中の探索画像と、左画像に設定する探索領域を示す図である。
【図9】 探索領域を対象とした相関演算処理を示す図である。
【図10】 対象物の距離算出における対象物視差の算出方法を示す図である。
【図11】 車両の回頭により発生する画像上の対象物位置のずれを示す図である。
【図12】 衝突が発生しやすい場合を示す図である。
【図13】 車両前方の領域区分を示す図である。
【図14】 同実施の形態の第1の実施例による強調映像出力処理動作を示すフローチャートである。
【図15】 同実施の形態の画像内エリア分割結果の一例を示す図面である。
【図16】 同実施の形態の第1の実施例による画像内の領域探索手順を示す図面である。
【図17】 同実施の形態の第1の実施例による画像内の領域探索手順を示す図面である。
【図18】 同実施の形態の車両用情報提供装置の輝度変化探索処理動作を示すフローチャートである。
【図19】 同実施の形態の第2、第3の実施例による画像内の領域探索手順を示す図面である。
【図20】 同実施の形態の第4の実施例による画像内の領域探索手順を示す図面である。
【図21】 同実施の形態の画像内エリア分割結果の一例を示す図面である。
【図22】 同実施の形態の画像内エリア分割結果の一例を示す図面である。
【符号の説明】
1 画像処理ユニット
2R、2L 赤外線カメラ
3 ヨーレートセンサ
4 車速センサ
5 ブレーキセンサ
6 スピーカ
7 画像表示装置
10 自車両
S1〜S18 抽出領域設定手段
S21〜S24 探索領域設定手段
S25〜S37 物体認識手段
S34 視差算出手段

Claims (3)

  1. 赤外線カメラにより撮影された画像を表示する車両用情報提供装置であって、
    前記画像を多値化処理することにより検出された物体の存在領域を抽出領域として設定する抽出領域設定手段と、
    前記抽出領域の周辺に探索領域を設定する探索領域設定手段と、
    前記探索領域内の輝度変化を探索し、輝度変化がある領域を前記抽出領域と共に同一物体として強調表示する物体認識手段と
    を備えたことを特徴とする車両用情報提供装置。
  2. 2つの赤外線カメラと、
    前記2つの赤外線カメラにより撮影された画像の視差を求める視差算出手段とを備え、
    前記物体認識手段が、輝度変化があると共に、前記抽出領域と視差が同一の領域を同一物体として強調表示する
    ことを特徴とする請求項1に記載の車両用情報提供装置。
  3. 前記抽出領域の上下に隣接して設定された前記探索領域が前記画像の範囲を越える場合に、
    前記物体認識手段が、輝度変化の探索を中止する
    ことを特徴とする請求項1、または請求項2に記載の車両用情報提供装置。
JP2001331287A 2001-10-29 2001-10-29 車両用情報提供装置 Expired - Fee Related JP3764086B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2001331287A JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置
DE10247371A DE10247371B4 (de) 2001-10-29 2002-10-10 Fahrzeuginformation-Bereitstellungsvorrichtung
GB0223887A GB2383222B (en) 2001-10-29 2002-10-14 Vehicle information providing apparatus
US10/273,314 US7141796B2 (en) 2001-10-29 2002-10-17 Vehicle information providing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001331287A JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置

Publications (2)

Publication Number Publication Date
JP2003134508A JP2003134508A (ja) 2003-05-09
JP3764086B2 true JP3764086B2 (ja) 2006-04-05

Family

ID=19146890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001331287A Expired - Fee Related JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置

Country Status (4)

Country Link
US (1) US7141796B2 (ja)
JP (1) JP3764086B2 (ja)
DE (1) DE10247371B4 (ja)
GB (1) GB2383222B (ja)

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10253510A1 (de) * 2002-11-16 2004-05-27 Robert Bosch Gmbh Vorrichtung und Verfahren zur Verbesserung der Sicht in einem Kraftfahrzeug
JP3987048B2 (ja) * 2003-03-20 2007-10-03 本田技研工業株式会社 車両周辺監視装置
US6866225B2 (en) 2003-04-30 2005-03-15 The Boeing Company Method and system for presenting moving simulated images in a moving vehicle
US7046259B2 (en) * 2003-04-30 2006-05-16 The Boeing Company Method and system for presenting different views to passengers in a moving vehicle
US7088310B2 (en) * 2003-04-30 2006-08-08 The Boeing Company Method and system for presenting an image of an external view in a moving vehicle
KR100543709B1 (ko) * 2003-12-23 2006-01-20 삼성전자주식회사 이동체의 회전 이동량 이용 방법과 장치 및 컴퓨터프로그램을 저장하는 컴퓨터로 읽을 수 있는 기록 매체
US8587664B2 (en) * 2004-02-02 2013-11-19 Rochester Institute Of Technology Target identification and location system and a method thereof
JP4376653B2 (ja) * 2004-02-17 2009-12-02 富士重工業株式会社 車外監視装置
JP3934119B2 (ja) * 2004-06-14 2007-06-20 本田技研工業株式会社 車両周辺監視装置
JP3987057B2 (ja) * 2004-06-14 2007-10-03 本田技研工業株式会社 車両周辺監視装置
JP4449618B2 (ja) * 2004-07-22 2010-04-14 株式会社デンソー 車両周辺監視システム
US7545955B2 (en) 2004-11-30 2009-06-09 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
DE102005056645B4 (de) * 2004-11-30 2010-09-16 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
DE102005056647B4 (de) * 2004-11-30 2011-02-03 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
JP4461091B2 (ja) 2004-11-30 2010-05-12 本田技研工業株式会社 位置検出装置及びその補正方法
US7590263B2 (en) 2004-11-30 2009-09-15 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
JP3970876B2 (ja) 2004-11-30 2007-09-05 本田技研工業株式会社 車両周辺監視装置
JP4246690B2 (ja) 2004-11-30 2009-04-02 本田技研工業株式会社 画像情報処理システム、画像情報処理方法、画像情報処理プログラムおよび自動車
JP4224449B2 (ja) 2004-11-30 2009-02-12 本田技研工業株式会社 画像抽出装置
DE102005056665B4 (de) * 2004-11-30 2011-03-17 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
US7599521B2 (en) 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
JP4246691B2 (ja) 2004-11-30 2009-04-02 本田技研工業株式会社 画像情報処理システム、画像情報処理方法、画像情報処理プログラム、及び自動車
JP4032052B2 (ja) 2004-11-30 2008-01-16 本田技研工業株式会社 位置検出装置及びその補正方法
JP4094604B2 (ja) 2004-11-30 2008-06-04 本田技研工業株式会社 車両周辺監視装置
JP4128562B2 (ja) 2004-11-30 2008-07-30 本田技研工業株式会社 車両周辺監視装置
JP4530827B2 (ja) * 2004-12-08 2010-08-25 ダイハツ工業株式会社 画像処理方法及び画像処理装置
US7489236B2 (en) * 2005-04-29 2009-02-10 Chavarria Faustino V Pedestrian alert system for vehicles
US7528372B2 (en) 2005-10-19 2009-05-05 Csi Technology, Inc. Apparatus and method for infrared imaging with performance algorithm
JP2007174113A (ja) * 2005-12-20 2007-07-05 Sumitomo Electric Ind Ltd 障害物検出システム及び障害物検出方法
DE102006047777A1 (de) * 2006-03-17 2007-09-20 Daimlerchrysler Ag Virtuelles Spotlight zur Kennzeichnung von interessierenden Objekten in Bilddaten
JP4910529B2 (ja) * 2006-07-14 2012-04-04 住友電気工業株式会社 障害物検出システム及び障害物検出方法
GB2443664A (en) * 2006-11-10 2008-05-14 Autoliv Dev An infra red object detection system de-emphasizing non relevant hot objects
JP4887537B2 (ja) * 2007-08-02 2012-02-29 本田技研工業株式会社 車両周辺監視装置
US8391557B2 (en) * 2007-09-14 2013-03-05 Magna International Inc. Object detection and ranging method
JP4858574B2 (ja) * 2009-05-19 2012-01-18 トヨタ自動車株式会社 物体検出装置
FR2947935B1 (fr) * 2009-07-08 2012-03-02 Valeo Vision Sas Procede de definition d'une fenetre de recherche
JP5158063B2 (ja) * 2009-12-02 2013-03-06 株式会社デンソー 車両用表示装置
DE102010007603A1 (de) * 2010-02-05 2011-08-11 Kässbohrer Geländefahrzeug AG, 88471 Arbeitsfahrzeug
KR101726682B1 (ko) * 2011-04-27 2017-04-13 한화테크윈 주식회사 객체 정보 산출 방법 및 장치
JP5645769B2 (ja) * 2011-08-01 2014-12-24 株式会社日立製作所 画像処理装置
EP2669846B1 (en) * 2012-06-01 2017-11-01 Ricoh Company, Ltd. Target recognition system and target recognition method executed by the target recognition system, target recognition program executed on the target recognition system, and recording medium storing the target recognition program
CN103568990A (zh) * 2012-07-23 2014-02-12 北京新岸线移动多媒体技术有限公司 一种实现车辆安全预警的方法和系统
JP5895858B2 (ja) * 2013-01-16 2016-03-30 トヨタ自動車株式会社 対象物検出装置及び対象物検出方法、警報装置及び警報方法、運転支援装置及び運転支援方法
CN104149685A (zh) * 2013-05-13 2014-11-19 赵盾 一种汽车警示器
JP5870993B2 (ja) * 2013-12-27 2016-03-01 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
JP5942979B2 (ja) * 2013-12-27 2016-06-29 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
DE102014003550A1 (de) * 2014-03-12 2014-09-18 Daimler Ag Verfahren und Vorrichtung zur Unterstützung eines Fahrers beim Führen eines Fahrzeugs
KR102451091B1 (ko) 2015-07-08 2022-10-05 엘지이노텍 주식회사 차량용 이동체 정보 제공 장치 및 방법과, 이 방법을 실행하기 위한 프로그램을 기록한 기록 매체
CN106564428A (zh) * 2015-10-12 2017-04-19 常州博显汽车电子有限公司 一种基于红外的刹车提醒系统和提醒方法
CN105291978B (zh) * 2015-11-27 2016-09-14 安徽工程大学 车辆变道辅助预警系统及其控制方法
EP3583450A1 (en) 2017-02-20 2019-12-25 3M Innovative Properties Company Optical articles and systems interacting with the same
KR20200061370A (ko) 2017-09-27 2020-06-02 쓰리엠 이노베이티브 프로퍼티즈 캄파니 장비 및 안전 모니터링을 위하여 광학 패턴들을 이용하는 개인 보호 장비 관리 시스템
TWI688502B (zh) * 2018-02-14 2020-03-21 先進光電科技股份有限公司 用於警告車輛障礙物的設備
CN109163707B (zh) * 2018-09-06 2019-11-26 百度在线网络技术(北京)有限公司 障碍物感知方法、系统、计算机设备、计算机存储介质
WO2021008712A1 (en) * 2019-07-18 2021-01-21 Toyota Motor Europe Method for calculating information relative to a relative speed between an object and a camera
WO2021016819A1 (zh) * 2019-07-29 2021-02-04 深圳市大疆创新科技有限公司 一种车辆的交互方法、设备、系统及可读存储介质
US20220242433A1 (en) * 2021-02-02 2022-08-04 GM Global Technology Operations LLC Saliency-based presentation of objects in an image
CN114283548A (zh) * 2021-12-27 2022-04-05 北京科技大学天津学院 一种无人机火灾持续监测方法及其系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2992178B2 (ja) * 1993-06-24 1999-12-20 シャープ株式会社 画像処理装置
JP3866328B2 (ja) * 1996-06-06 2007-01-10 富士重工業株式会社 車両周辺立体物認識装置
JP3759280B2 (ja) * 1997-04-15 2006-03-22 富士通株式会社 道路監視用事象検知装置
JP4135123B2 (ja) * 1998-05-13 2008-08-20 日産自動車株式会社 表示処理装置
JP4118452B2 (ja) * 1999-06-16 2008-07-16 本田技研工業株式会社 物体認識装置
JP3515926B2 (ja) * 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP3280001B2 (ja) * 1999-09-16 2002-04-30 富士重工業株式会社 ステレオ画像の位置ずれ調整装置
JP2003016429A (ja) * 2001-06-28 2003-01-17 Honda Motor Co Ltd 車両周辺監視装置
US7366325B2 (en) * 2003-10-09 2008-04-29 Honda Motor Co., Ltd. Moving object detection using low illumination depth capable computer vision

Also Published As

Publication number Publication date
US7141796B2 (en) 2006-11-28
DE10247371B4 (de) 2007-11-22
DE10247371A1 (de) 2003-07-24
GB2383222A (en) 2003-06-18
JP2003134508A (ja) 2003-05-09
GB0223887D0 (en) 2002-11-20
US20030083790A1 (en) 2003-05-01
GB2383222B (en) 2003-12-31

Similar Documents

Publication Publication Date Title
JP3764086B2 (ja) 車両用情報提供装置
JP3739693B2 (ja) 画像認識装置
JP4410292B1 (ja) 車両の周辺監視装置
JP3515926B2 (ja) 車両の周辺監視装置
JP4615139B2 (ja) 車両の周辺監視装置
JP5706874B2 (ja) 車両の周辺監視装置
JP3934119B2 (ja) 車両周辺監視装置
JP4104867B2 (ja) ナイトビジョンシステム
US20070211919A1 (en) Vehicle surroundings monitoring apparatus
US20050276450A1 (en) Vehicle surroundings monitoring apparatus
JP2003016429A (ja) 車両周辺監視装置
JP2003216949A (ja) 赤外線画像処理装置
US20060115115A1 (en) Vehicle surroundings monitoring apparatus
JP4094604B2 (ja) 車両周辺監視装置
JP4128562B2 (ja) 車両周辺監視装置
JP3916930B2 (ja) 進入警報装置
JP4528283B2 (ja) 車両周辺監視装置
JP3949628B2 (ja) 車両の周辺監視装置
JP4943403B2 (ja) 車両の周辺監視装置
JP4567072B2 (ja) 車両周辺監視装置
JP3898157B2 (ja) 赤外線画像認識装置
JP3844750B2 (ja) 赤外線画像認識装置、及び赤外線画像認識装置を用いた警報装置
JP3961269B2 (ja) 障害物警報装置
JP5430633B2 (ja) 車両周辺監視装置
JP4425852B2 (ja) 車両周辺監視装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060118

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100127

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100127

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110127

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110127

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120127

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120127

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130127

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130127

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140127

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees