Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4337929B2 - 移動状態推定装置 - Google Patents
[go: Go Back, main page]

JP4337929B2 - 移動状態推定装置 - Google Patents

移動状態推定装置 Download PDF

Info

Publication number
JP4337929B2
JP4337929B2 JP2007332275A JP2007332275A JP4337929B2 JP 4337929 B2 JP4337929 B2 JP 4337929B2 JP 2007332275 A JP2007332275 A JP 2007332275A JP 2007332275 A JP2007332275 A JP 2007332275A JP 4337929 B2 JP4337929 B2 JP 4337929B2
Authority
JP
Japan
Prior art keywords
feature point
feature
candidate
points
state estimation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007332275A
Other languages
English (en)
Other versions
JP2009156611A (ja
Inventor
尚秀 内田
達也 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2007332275A priority Critical patent/JP4337929B2/ja
Priority to CN2008801224746A priority patent/CN101910781B/zh
Priority to DE112008004291.8T priority patent/DE112008004291B4/de
Priority to US12/682,976 priority patent/US8559674B2/en
Priority to DE112008003486.9T priority patent/DE112008003486B4/de
Priority to PCT/JP2008/073375 priority patent/WO2009081920A1/ja
Publication of JP2009156611A publication Critical patent/JP2009156611A/ja
Application granted granted Critical
Publication of JP4337929B2 publication Critical patent/JP4337929B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、画像センサが撮像した画像に基づいてその画像センサを搭載する移動体の移動状態を推定する移動状態推定装置に関する。
従来、単眼カメラによって自車両の位置及び姿勢を推定する移動体周辺監視装置が知られている(例えば、特許文献1参照。)。
この移動体周辺監視装置は、自車両が移動している間にその自車両に搭載される単眼カメラが第一時点において撮像した画像から路面上の四つ以上の特徴点を抽出し、その特徴点を追跡しながら、その単眼カメラが第二時点において撮像した画像からそれら路面上の特徴点に対応する対応点を抽出し、それら特徴点の二次元座標とそれら対応点の二次元座標とに基づいてホモグラフィを算出して、第一時点における単眼カメラの位置及び姿勢と第二時点における単眼カメラの位置及び姿勢との間の相対的な変化を導き出すようにする。
その結果、この移動体周辺監視装置は、その単眼カメラを搭載する自車両の位置及び姿勢を推定することができる。
特開2004−198211号公報
しかしながら、特許文献1は、単眼カメラによって撮像された路面上の白線、凹凸、段差、模様等から四つ以上の特徴点をその移動体周辺監視装置が抽出することを記載するがそれら特徴点の選択方法については何ら記載していない。その結果、その移動体周辺監視装置は、距離的又は方向的に偏った特徴点を抽出することで自車両の位置及び姿勢の推定精度を低下させてしまう場合がある。
また、特許文献1に記載の移動体周辺監視装置は、単眼カメラが撮像した他車両等の移動体上の点を特徴点として抽出してしまい、自車両の位置及び姿勢の推定精度を低下させてしまう場合もある。
上述の点に鑑み、本発明は、移動体に搭載された画像センサが撮像した画像に基づくその移動体の移動状態の推定をより精度高く実現する移動状態推定装置を提供することを目的とする。
上述の目的を達成するために、第一の発明に係る移動状態推定装置は、第一時点において移動体に搭載された画像センサが撮像した画像内の特徴点候補を抽出する特徴点候補抽出手段と、前記特徴点候補の実在位置と前記移動体との間の位置関係を取得する位置関係取得手段と、前記位置関係に基づいて特徴点候補から特徴点を選択する特徴点選択手段と、第二時点において前記画像センサが撮像した画像内の前記特徴点に対応する対応点を抽出する対応点抽出手段と、前記特徴点の座標と前記対応点の座標とに基づいて第一時点から第二時点までの前記移動体の移動状態を推定する移動状態推定手段と、を備えることを特徴とする。
また、第二の発明は、第一の発明に係る移動状態推定装置であって、前記位置関係は、特徴点候補の実在位置と前記移動体との間の距離、前記移動体から見た特徴点候補の実在位置の方向、又は、前記移動体に対する特徴点候補の実在位置の相対速度を含むことを特徴とする。
また、第三の発明は、第一又は第二の発明に係る移動状態推定装置であって、前記特徴点選択手段は、特徴点候補が静止しているか否かを判断し、静止している特徴点候補から特徴点を選択することを特徴とする。
また、第四の発明は、第一乃至第三の何れかの発明に係る移動状態推定装置であって、前記特徴点選択手段は、各特徴点の実在位置と前記移動体との間の距離の差がそれぞれ所定値以上となるよう特徴点を選択することを特徴とする。
また、第五の発明は、第一乃至第四の何れかの発明に係る移動状態推定装置であって、前記特徴点選択手段は、前記移動体から見た各特徴点の実在位置の方向間の角度が所定値以上となるよう特徴点を選択することを特徴とする。
また、「特徴点」とは、ホモグラフィを生成するために用いる画像内の座標点(画素)であり、所定条件の下、特徴点候補の中から選択される座標点(画素)である。なお、座標系は、例えば、画像センサが撮像した画像の左下隅の画素を原点(0、0)としながら、原点の右隣の画素が座標(1、0)となり、原点の上隣の画素が座標(0、1)となるようにする。
また、「特徴点候補」とは、特徴点となり得る画像内の座標点(画素)であり、例えば、隣接する画素との間の輝度差が所定値以上となる画素、所定の輝度パターンに合致する画素群の中心画素等、所定の条件に基づいて画像から抽出可能な画素が表す座標点である。
また、「対応点」とは、一の画像内で特徴点として選択された座標点(画素)が表す被写体の、他の画像内における座標点(画素)であり、例えば、一の画像内で選択された特徴点をその中心画素として含む画素群の輝度パターンと他の画像内の輝度パターンとをパターンマッチング処理により照合することで抽出される。なお、輝度パターンは、色パターン等の他の特性値に基づくパターンであってもよい。
また、「位置関係」とは、特徴点を含む特徴点候補の実在位置と画像を撮像した画像センサを搭載する移動体との間の相対位置に関する情報であり、例えば、特徴点を含む特徴点候補の実在位置と自車両との間の距離、自車両から見た特徴点候補の実在位置の方向、自車両に対する特徴点候補の実在位置の相対速度等を含む。
上述の手段により、本発明は、移動体に搭載された画像センサが撮像した画像に基づくその移動体の移動状態の推定をより精度高く実現する移動状態推定装置を提供することができる。
以下、図面を参照しつつ、本発明を実施するための最良の形態の説明を行う。
図1は、本発明に係る移動状態推定装置の構成例を示す図であり、移動状態推定装置100は、車両の並進又は回転といった移動状態を推定する車載装置であって、制御装置1を有し、制御装置1は、CAN(Controller Area Network)等の車載LANを介して画像センサ2、測距センサ3、車速センサ4、操舵角センサ5、表示装置6及び音声出力装置7に接続される。
制御装置1は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備えたコンピュータであって、例えば、特徴点候補抽出手段10、位置関係取得手段11、特徴点選択手段12、対応点抽出手段13及び移動状態推定手段14のそれぞれに対応するプログラムをROMに記憶しながら、各手段に対応する処理をCPUに実行させる。
画像センサ2は、車両周辺の画像を取得するためのセンサであり、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えるカメラであって、夜間撮影が可能な赤外線カメラや被写体までの距離を測定可能なステレオカメラであってもよい。
画像センサ2は、例えば、車室内のルームミラー付近に撮像方向を固定させた状態で設置され、所定間隔で撮像した画像を制御装置1に出力する。
測距センサ3は、自車両周辺の物体と自車両との間の相対位置に関する情報を取得するためのセンサであり、例えば、フロントグリルやフロントバンパー付近に固定的に設置されるミリ波センサ、レーザレーダセンサ、超音波センサ等であって、自車両周辺に向かって電波、光又は超音波を発射し、その反射波を受信するまでの時間やドップラー効果によって生ずるその反射波の周波数差に基づいて自車両周辺の物体と自車両との間の距離や自車両周辺の物体の相対速度を算出し、算出した値を制御装置1に出力する。
車速センサ4は、自車両の速度を測定するセンサであり、例えば、各車輪に取り付けられ各車輪とともに回転する磁石による磁界の変化をMR(Magnetic Resistance)素子が磁気抵抗として読み取り、これを回転速度に比例したパルス信号として取り出すことで車輪の回転速度及び車両の速度を検出し、検出した値を制御装置1に出力する。
操舵角センサ5は、車輪の操舵角に関連するステアリングシャフトの回転角を測定するためのセンサであり、例えば、ステアリングシャフトに埋め込まれた磁石による磁気抵抗をMR素子により読み取りステアリングシャフトの回転角を検出し、検出した値を制御装置1に出力する。
表示装置6は、各種情報を表示するための装置であり、例えば、液晶ディスプレイであって、画像センサ2が取得した画像や各種テキストメッセージを表示する。
音声出力装置7は、各種情報を音声出力するための装置であり、例えば、車載スピーカであって、警報音や音声案内を音声出力する。
次に、制御装置1が有する各種手段について説明する。
特徴点候補抽出手段10は、特徴点候補を抽出するための手段であり、例えば、画像センサ2が撮像した自車両周辺の画像に対して、グレースケール化処理、二値化処理、エッジ検出処理等の画像処理を施して特徴点候補を抽出する。
特徴点候補抽出手段10は、例えば、隣接する画素との間の輝度差が所定値以上となる画素、所定の輝度パターンに合致する画素群の中心画素等を特徴点候補として抽出し、その位置(座標値)をRAMに記憶する。
位置関係取得手段11は、特徴点候補の実在位置と自車両の実在位置との間の相対的な位置関係を取得するための手段であり、例えば、測距センサ3の出力に基づいて、特徴点候補抽出手段10が抽出した特徴点候補の実在位置と測距センサ3(自車両)との間の距離(以下、「間隔距離」とする。)、測距センサ3(自車両)から見た特徴点候補の実在位置の方向(以下、「実在方向」とする。)、測距センサ3(自車両)に対する特徴点候補の実在位置の相対速度等を取得する。
また、位置関係取得手段11は、特徴点候補毎に取得した間隔距離、実在方向及び相対速度を、特徴点抽出手段10が記憶した特徴点候補の座標値に関連付けてRAMに記憶する。
特徴点選択手段12は、特徴点候補の中から特徴点を選択するための手段であり、例えば、位置関係取得手段11が取得した、測距センサ3(自車両)に対する特徴点候補の実在位置の相対速度に基づいて、その実在位置が移動体(例えば、歩行者、又は、走行中の他車両等である。)上にある特徴点候補を後続の処理で用いる特徴点候補から除外し、その実在位置が静止体(例えば、道路標示、道路標識、ガードレール、信号機、又は、停止中の他車両等である。)上にある特徴点候補のみを後続の処理で用いる特徴点候補として抽出する。
特徴点候補の実在位置が移動体上にある場合、仮にその特徴点候補を特徴点として選択してしまったときには、その特徴点の移動と自車両の移動とを区別するのが困難になるからであり、その結果、自車両の移動状態の推定精度を低減させてしまうからである。
その後、特徴点選択手段12は、例えば、特徴点候補の実在位置と測距センサ3(自車両)との間の距離である間隔距離に基づいて、その間隔距離が最も小さい特徴点候補を第一特徴点として選択する。
なお、特徴点選択手段12は、間隔距離が最も大きい特徴点候補を第一特徴点として選択してもよく、測距センサ3(自車両)から見た特徴点候補の実在位置の方向である実在方向に基づいて、その実在方向が所定角度(例えば、自車両前方を0度として時計回りに角度を増大させる場合の0度である。)以上でかつ最も近い角度となる特徴点候補を第一特徴点として選択してもよい。
更に、特徴点選択手段12は、第一特徴点に対する間隔距離と他の特徴点候補に対する間隔距離とに基づいて、その間隔距離と第一特徴点に対する間隔距離と間の差が所定値以上であり、かつ、最も小さい値となる特徴点候補を第二特徴点候補として選択する。
以後、特徴点選択手段12は、同様に、第三特徴点、第四特徴点、第五特徴点というように、ホモグラフィを生成するために必要十分な数の特徴点を選択するまで、特徴点の選択を継続する。
また、特徴点選択手段12は、第一特徴点に対する実在方向と他の特徴点候補に対する実在方向とに基づいて、その実在方向と第一特徴点に対する実在方向との間の角度が所定値以上であり、かつ、最も小さい値となる特徴点候補を第二特徴点候補として選択するようにしてもよい。
この場合も同様に、特徴点選択手段12は、第三特徴点、第四特徴点、第五特徴点を、第二特徴点を選択したように選択し、ホモグラフィを生成するために必要十分な数の特徴点を選択するまで、特徴点の選択を継続する。
なお、特徴点選択手段12は、間隔距離及び実在方向の双方が所定の条件を満たす特徴点候補を特徴点として選択するようにしてもよく、或いは、画像センサ2が撮像した画像を複数の小区分に分割し、各区分に存在する特徴点候補から所定数の特徴点を選択するようにしてもよい。
図2A〜図2Cは、複数の特徴点候補から特徴点を選択する方法を説明するための図であり、図2Aは、移動状態推定装置100が他車両V2及びV3上で特徴点候補(図中×印)を抽出し、自車両V1に対する各特徴点候補の実在位置の相対速度を取得し、走行中の他車両V3上の特徴点候補C1を後続の処理で用いる特徴点候補から除外しながら停止中の他車両V2上の特徴点候補C2のみを後続の処理で用いる特徴点候補として保持した状態を示す。
また、図2Bは、移動状態推定装置100がガードレール上で特徴点候補(図中×印)を抽出し、自車両V1と各特徴点候補の実在位置との間の間隔距離を取得し、間隔距離が最も小さい特徴点候補を第一特徴点P1とした上で、第一特徴点P1に対する間隔距離D1と第二特徴点P2に対する間隔距離D2との間の差、及び、第二特徴点P2に対する間隔距離D2と第三特徴点P3に対する間隔距離D3との間の差が所定値以上となるように、第二特徴点P2及び第三特徴点P3を選択した状態を示す。なお、第四特徴点(図示せず。)以降も同様に選択されるものとする。
また、図2Cは、移動状態推定装置100が道路標示(車線境界線)で特徴点候補(図中×印)を抽出し、自車両V1から見た各特徴点候補の実在位置の実在方向を取得し、実在方向が0度以上でかつ最も0度に近い特徴点候補を第一特徴点P1とした上で、第一特徴点P1に対する実在方向と第二特徴点P2に対する実在方向との間の角度α、及び、第二特徴点P2に対する実在方向と第三特徴点P3に対する実在方向との間の角度βが所定値以上となるように、第二特徴点P2及び第三特徴点P3を選択した状態を示す。なお、第四特徴点(図示せず。)以降も同様に選択されるものとする。
また、特徴点選択手段12は、ホモグラフィを算出するために必要十分な数の特徴点を選択した場合に、それら特徴点に対応する画素を含む画素群(例えば、5ピクセル×5ピクセルである。)の輝度パターンをRAMに記憶し、後述の対応点抽出手段13が別の画像からそれら特徴点に対応する対応点をパターンマッチングにより抽出できるようにする。
対応点抽出手段13は、対応点を抽出するための手段であり、例えば、画像センサ2が撮像した画像であって特徴点候補抽出手段10が特徴点候補の抽出に用いた画像(以下、「第一画像」とする。)とは異なる画像(以下、「第二画像」とし、第二画像は、例えば、第一画像を取得してから所定時間が経過した後に画像センサ2が撮像する画像である。)における輝度パターンと、特徴点選択手段12がRAMに記憶した各特徴点に関する輝度パターンとをパターンマッチング処理を用いて照合することにより、特徴点選択手段12によって選択された各特徴点に対応する対応点を抽出する。
対応点抽出手段13は、例えば、車速センサ4及び操舵角センサ5の出力に基づいて自車両の移動状態を大まかに推定することで、各輝度パターンを用いたパターンマッチング処理の対象となる画像範囲を限定するようにしてもよい。パターンマッチング処理の効率を向上させるためである。
また、対応点抽出手段13は、対応点(各特徴点に対応する対応点であり、ここでは後述の二次対応点と区別するために特に一次対応点とする。)を抽出した場合に、それら一次対応点に対応する画素を含む画素群(例えば、5ピクセル×5ピクセルである。)の輝度パターンをRAMに記憶し、対応点抽出手段13が更に別の画像からそれら一次対応点に対応する更に別の対応点(二次対応点)をパターンマッチングにより抽出できるようにしてもよい。
これにより、移動状態推定装置100は、特徴点、一次対応点、二次対応点、三次対応点というように特徴点を順次追跡することにより、その特徴点の選択に用いた画像を取得した時刻からの自車両の移動状態を継続的に推定することができる。
移動状態推定手段14は、自車両の移動状態を推定するための手段であり、例えば、特徴点選択手段12が選択した特徴点の二次元座標と、対応点抽出手段13が抽出した対応点の二次元座標とを用いてホモグラフィを生成し、特徴点候補抽出手段10が特徴点候補の抽出に用いた第一画像を画像センサ2が撮像した時点から、対応点抽出手段13が対応点の抽出に用いた第二画像を画像センサ2が撮像した時点までの自車両の並進及び回転の状態を推定する。
制御装置1は、例えば、測距センサ3の出力に基づいて自車両から所定範囲内にある障害物(例えば、縁石、ブロック塀等である。)を検出した時点で自車両の移動状態の推定を開始させることで、その後、自車両が右左折をする場合に、画像センサ2の撮像範囲からその障害物が逸脱したときにも、推定した自車両の移動状態に基づいて自車両とその障害物とが接触する可能性の有無を判断することができる。
そして、制御装置1は、自車両とその障害物とが接触する可能性が高いと判断した場合に、表示装置6に警告メッセージを表示させたり、音声出力装置7から警報音を出力させたりして、運転者の注意を喚起するようにする。
また、制御装置1は、推定した自車両の移動状態に基づいて、自車両とその障害物との間の位置関係を表す疑似画像を表示装置6に表示させ、その障害物との接触を回避すべく自車両の運転操作を支援するようにしてもよい。
次に、図3を参照しながら、移動状態推定装置100が自車両の移動状態を推定する処理(以下、「移動状態推定処理」とする。)を詳細に説明する。図3は、移動状態推定処理の流れを示すフローチャートであり、移動状態推定装置100の制御装置1は、例えば、ウインカーが操作された後、自車両が右左折を完了するまでの間、この移動状態推定処理を繰り返し実行するものとする。
なお、移動状態推定装置100は、車速が所定値未満となっている場合や、シフト位置が「R(後退)」位置にセットされている場合等、自車両と障害物とが接触する可能性の高い状態が検出されている場合に、この移動状態推定処理を繰り返し実行するようにしてもよい。
最初に、制御装置1は、時刻T1において画像センサ2が撮像した画像データを取得し(ステップS1)、特徴点候補抽出手段10によりその画像データに各種画像処理を施した上で隣接する画像の輝度差が所定値以上となる一対の画像のうち輝度が大きい方の画像を特徴点候補として抽出する(ステップS2)。
その後、制御装置1は、位置関係取得手段11により測距センサ3が出力する値に基づいて各特徴点候補の実在位置と測距センサ3の位置との間の相対的な位置関係を取得し(ステップS3)、各特徴点候補の座標値に相対速度、間隔距離及び実在方向を対応付けてRAMに記憶する。
その後、制御装置1は、特徴点選択手段12により、位置関係取得手段11が取得した各特徴点候補の実在位置の相対速度と車速センサ4が出力する自車両の速度と操舵角センサ5が出力する自車両の操舵角(進行方向)とに基づいて各特徴点候補の実在位置が静止しているか或いは移動しているかを判断し、その実在位置が移動体上にある特徴点候補を後続の処理で使用される特徴点候補から除外し、一方で、その実在位置が静止体上にある特徴点候補のみを後続の処理で使用される特徴点候補としてそのまま保持するようにする(ステップS4)。
その後、制御装置1は、特徴点選択手段12により、位置関係取得手段11が取得した各特徴点候補の実在位置の間隔距離に基づいて、その実在位置の間隔距離が最も短い特徴点候補を第一特徴点として選択する(ステップS5)。
その後、制御装置1は、特徴点選択手段12により、第一特徴点の実在位置の間隔距離を基準としながら、間隔距離同士の差が所定値以上となるよう他の特徴点を順次選択する(ステップS6)。
ホモグラフィを算出するために必要十分な数の特徴点を選択した場合、制御装置1は、特徴点選択手段12により、それら特徴点に対応する画素を含む所定の画素範囲(例えば、5×5ピクセル)の輝度パターンをRAMに記憶し(ステップS7)、後に撮像される別の画像から対応点を抽出できるようにする。
次に、制御装置1は、時刻T2(時刻T2は、時刻T1以後である。)において画像センサ2が撮像した画像データを取得し(ステップS8)、対応点抽出手段13によりその画像データにステップS1と同じ画像処理を施した上で、車速センサ4及び操舵角センサ5の出力に基づいて、特徴点毎に記憶された輝度パターンによるパターンマッチング処理の対象となる画素範囲を輝度パターン毎に限定する(ステップS9)。パターンマッチング処理の効率を向上させるためである。なお、対応点抽出手段13は、各特徴点の座標のみに基づいて対象となる画素範囲を限定するようにしてもよく、対象となる画素範囲を限定することなくパターンマッチング処理を実行するようにしてもよい。
その後、制御装置1は、対応点抽出手段13により、輝度パターン毎に限定された画素範囲に対して各輝度パターンによるパターンマッチング処理を実行させ、照合できた輝度パターンの中心画素をその特徴点に対応する対応点として抽出する(ステップS10)。
最後に、制御装置1は、移動状態推定手段14により、特徴点選択手段12が選択した各特徴点の二次元座標と、対応点抽出手段13が抽出した各対応点の二次元座標とに基づいてホモグラフィを算出し、時刻T1から時刻T2までの間に生じた自車両の並進及び回転の状態を推定して(ステップS11)、この移動状態推定処理を一旦終了させる。
このように、移動状態推定装置100は、画像センサ2の出力と測距センサ3の出力とを併用しながらその実在位置が距離的、方向的に偏らない特徴点を選択し、それら特徴点の座標とそれら特徴点に対応する対応点の座標とに基づいてホモグラフィを算出することで、画像センサ2の移動状態、ひいては、自車両の移動状態を高精度に推定することができる。
特徴点の実在位置に偏りがある場合には、それら特徴点を選択する際に混入する、自車両や被写体の振動、画像処理における誤差等に起因するノイズの影響を受け易くなるからであり、特徴点の実在位置を距離的、方向的に分散させることでそれらノイズの影響を緩和することができるからである。
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施例に種々の変形及び置換を加えることができる。
例えば、上述の実施例において、移動状態推定装置100は、測距センサ3の出力に基づいて、特徴点候補の実在位置の間隔距離、実在方向及び相対速度を取得するが、被写体までの距離を測定可能なステレオカメラの出力に基づいて特徴点候補の実在位置の間隔距離、実在方向及び相対速度を取得するようにしてもよい。この場合、移動状態推定装置100は、測距センサ3を省略することができる。
また、上述の実施例では、車両の移動状態を推定するようにしているが、産業ロボット、船舶、自動二輪車、航空機等の他の移動体の移動状態を推定するようにしてもよい。この場合、前後左右の平面上の移動状態に加え、上下方向への移動状態をも推定するようにしてもよい。
また、上述の実施例において、対応点抽出手段13は、特徴点に対応する対応点を抽出するためにパターンマッチング処理を用いるが、対応点を抽出可能であれば他の何れの方法を用いてもよく、例えば、オプティカルフローを利用して対応点を抽出するようにしてもよい。
本発明に係る移動状態推定装置の構成例を示す図である。 複数の特徴点候補から特徴点を選択する方法の説明図(その1)である。 複数の特徴点候補から特徴点を選択する方法の説明図(その2)である。 複数の特徴点候補から特徴点を選択する方法の説明図(その3)である。 移動状態推定処理の流れを示すフローチャートである。
符号の説明
1 制御装置
2 画像センサ
3 測距センサ
4 車速センサ
5 操舵角センサ
6 表示装置
7 音声出力装置
10 特徴点候補抽出手段
11 位置関係取得手段
12 特徴点選択手段
13 対応点抽出手段
14 移動状態推定手段
100 移動状態推定装置
D1〜D3 間隔距離
α、β 実在方向間角度
P1 第一特徴点
P2 第二特徴点
P3 第三特徴点
V1 自車両
V2 停止中の他車両
V3 走行中の他車両

Claims (4)

  1. 第一時点において移動体に搭載された画像センサが撮像した画像内の特徴点候補を抽出する特徴点候補抽出手段と、
    前記移動体に搭載された測距センサの出力に基づいて前記特徴点候補の実在位置と前記移動体との間の位置関係を取得する位置関係取得手段と、
    前記特徴点候補の実在位置と前記移動体との間の距離、前記移動体から見た前記特徴点候補の実在位置の方向、又は、前記移動体に対する前記特徴点候補の実在位置の相対速度を含む前記位置関係に基づいて前記特徴点候補から特徴点を選択する特徴点選択手段と、
    第二時点において前記画像センサが撮像した画像内の前記特徴点に対応する対応点を抽出する対応点抽出手段と、
    前記特徴点の座標と前記対応点の座標とに基づいて第一時点から第二時点までの前記移動体の移動状態を推定する移動状態推定手段と、
    を備えることを特徴とする移動状態推定装置。
  2. 前記特徴点選択手段は、特徴点候補が静止しているか否かを判断し、静止している特徴点候補から特徴点を選択する、
    ことを特徴とする請求項1に記載の移動状態推定装置。
  3. 前記特徴点選択手段は、各特徴点の実在位置と前記移動体との間の距離の差がそれぞれ所定値以上となるよう特徴点を選択する、
    ことを特徴とする請求項1又は2に記載の移動状態推定装置。
  4. 前記特徴点選択手段は、前記移動体から見た各特徴点の実在位置の方向間の角度が所定値以上となるよう特徴点を選択する、
    ことを特徴とする請求項1乃至3の何れか一項に記載の移動状態推定装置。
JP2007332275A 2007-12-25 2007-12-25 移動状態推定装置 Expired - Fee Related JP4337929B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2007332275A JP4337929B2 (ja) 2007-12-25 2007-12-25 移動状態推定装置
CN2008801224746A CN101910781B (zh) 2007-12-25 2008-12-24 移动状态推测装置
DE112008004291.8T DE112008004291B4 (de) 2007-12-25 2008-12-24 Bewegungszustand-Schätzvorrichtung
US12/682,976 US8559674B2 (en) 2007-12-25 2008-12-24 Moving state estimating device
DE112008003486.9T DE112008003486B4 (de) 2007-12-25 2008-12-24 Bewegungszustand-Schätzvorrichtung
PCT/JP2008/073375 WO2009081920A1 (ja) 2007-12-25 2008-12-24 移動状態推定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007332275A JP4337929B2 (ja) 2007-12-25 2007-12-25 移動状態推定装置

Publications (2)

Publication Number Publication Date
JP2009156611A JP2009156611A (ja) 2009-07-16
JP4337929B2 true JP4337929B2 (ja) 2009-09-30

Family

ID=40801220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007332275A Expired - Fee Related JP4337929B2 (ja) 2007-12-25 2007-12-25 移動状態推定装置

Country Status (5)

Country Link
US (1) US8559674B2 (ja)
JP (1) JP4337929B2 (ja)
CN (1) CN101910781B (ja)
DE (2) DE112008003486B4 (ja)
WO (1) WO2009081920A1 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9691281B2 (en) * 2010-03-24 2017-06-27 Telenav, Inc. Navigation system with image assisted navigation mechanism and method of operation thereof
JP5182594B2 (ja) * 2010-03-31 2013-04-17 アイシン・エィ・ダブリュ株式会社 画像処理システム
DE102010063133A1 (de) * 2010-12-15 2012-06-21 Robert Bosch Gmbh Verfahren und System zur Bestimmung einer Eigenbewegung eines Fahrzeugs
US9147260B2 (en) 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
US9020187B2 (en) 2011-05-27 2015-04-28 Qualcomm Incorporated Planar mapping and tracking for mobile devices
DE102011109491A1 (de) * 2011-08-04 2013-02-07 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Fahrunterstützungsvorrichtung zur Unterstützung der Befahrung enger Fahrwege
JP5727356B2 (ja) * 2011-11-30 2015-06-03 日立オートモティブシステムズ株式会社 物体検知装置
EP2701093B1 (en) * 2012-08-20 2016-06-22 Honda Research Institute Europe GmbH Sensing system and method for detecting moving objects
US9227563B2 (en) * 2012-09-14 2016-01-05 Bendix Commercial Vehicle Systems Llc Backward movement indicator apparatus for a vehicle
WO2014101219A1 (zh) * 2012-12-31 2014-07-03 青岛海信信芯科技有限公司 一种动作识别方法及电视机
AU2013402725B2 (en) * 2013-10-07 2018-04-12 Apple Inc. Method and system for providing position or movement information for controlling at least one function of a vehicle
US9575560B2 (en) 2014-06-03 2017-02-21 Google Inc. Radar-based gesture-recognition through a wearable device
US9778749B2 (en) 2014-08-22 2017-10-03 Google Inc. Occluded gesture recognition
US11169988B2 (en) 2014-08-22 2021-11-09 Google Llc Radar recognition-aided search
JP5949861B2 (ja) * 2014-09-05 2016-07-13 トヨタ自動車株式会社 車両の接近物体検出装置及び車両の接近物体検出方法
JP6234349B2 (ja) * 2014-09-16 2017-11-22 株式会社東芝 移動体位置推定装置、移動体位置推定方法及び移動体位置推定プログラム
US9600080B2 (en) 2014-10-02 2017-03-21 Google Inc. Non-line-of-sight radar-based gesture recognition
US9802539B2 (en) 2015-04-01 2017-10-31 Robert Bosch Gmbh Distance and direction estimation of a target point from a vehicle using monocular video camera
EP3289432B1 (en) * 2015-04-30 2019-06-12 Google LLC Rf-based micro-motion tracking for gesture tracking and recognition
US10088908B1 (en) 2015-05-27 2018-10-02 Google Llc Gesture detection and interactions
CN105004336A (zh) * 2015-07-10 2015-10-28 中国科学院深圳先进技术研究院 一种机器人的定位方法
JP2017034444A (ja) 2015-07-31 2017-02-09 オリンパス株式会社 撮像装置および撮像方法
JP6499047B2 (ja) * 2015-09-17 2019-04-10 株式会社東芝 計測装置、方法及びプログラム
US10817065B1 (en) 2015-10-06 2020-10-27 Google Llc Gesture recognition using multiple antenna
CN105353379B (zh) * 2015-11-30 2017-10-20 燕山大学 一种多移动体的防碰撞测距权利分配方法
JP6564713B2 (ja) * 2016-02-01 2019-08-21 三菱重工業株式会社 自動運転制御装置、車両及び自動運転制御方法
JP6786264B2 (ja) 2016-05-27 2020-11-18 株式会社東芝 情報処理装置、情報処理方法、および車両
KR102528004B1 (ko) * 2016-07-25 2023-05-02 현대모비스 주식회사 어라운드 뷰 생성 장치 및 그 방법
KR102313026B1 (ko) * 2017-04-11 2021-10-15 현대자동차주식회사 차량 및 차량 후진 시 충돌방지 보조 방법
EP3904995A4 (en) * 2018-12-28 2022-02-23 Panasonic Intellectual Property Management Co., Ltd. LOCATION DEVICE
US10949886B2 (en) * 2019-03-12 2021-03-16 Xevo Inc. System and method for providing content to a user based on a predicted route identified from audio or images
JP7227112B2 (ja) * 2019-09-27 2023-02-21 日立Astemo株式会社 物体検出装置、走行制御システム、および走行制御方法
US20220270349A1 (en) * 2021-02-25 2022-08-25 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and program
JP7632248B2 (ja) * 2021-11-26 2025-02-19 トヨタ自動車株式会社 車両撮影システムおよび車両撮影方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4672175B2 (ja) * 2000-05-26 2011-04-20 本田技研工業株式会社 位置検出装置、位置検出方法、及び位置検出プログラム
JP3784761B2 (ja) * 2002-09-24 2006-06-14 日信工業株式会社 車両用前後加速度センサの異常判定装置
JP2004198211A (ja) 2002-12-18 2004-07-15 Aisin Seiki Co Ltd 移動体周辺監視装置
JP2006350897A (ja) * 2005-06-20 2006-12-28 Toyota Central Res & Dev Lab Inc 運動計測装置
JP4670709B2 (ja) * 2006-03-31 2011-04-13 株式会社デンソー 車両用衝突検知システム
JP4889351B2 (ja) * 2006-04-06 2012-03-07 株式会社トプコン 画像処理装置及びその処理方法
JP2007332275A (ja) 2006-06-15 2007-12-27 Dainippon Printing Co Ltd 液晶組成物、カラーフィルタおよび液晶表示装置

Also Published As

Publication number Publication date
CN101910781B (zh) 2012-02-22
CN101910781A (zh) 2010-12-08
US8559674B2 (en) 2013-10-15
DE112008003486B4 (de) 2017-06-22
JP2009156611A (ja) 2009-07-16
DE112008003486T5 (de) 2010-12-30
DE112008004291B4 (de) 2023-12-07
WO2009081920A1 (ja) 2009-07-02
US20100226544A1 (en) 2010-09-09

Similar Documents

Publication Publication Date Title
JP4337929B2 (ja) 移動状態推定装置
US8320628B2 (en) Method and system for assisting driver
CN109017570B (zh) 车辆周围场景呈现方法和装置、车辆
JP6231345B2 (ja) 車両用発進支援装置
CN102059978B (zh) 驾驶辅助方法与系统
CN111937002B (zh) 障碍物检测装置、自动制动装置、障碍物检测方法以及自动制动方法
JP5012718B2 (ja) 画像処理装置
US8289189B2 (en) Camera system for use in vehicle parking
US20150292891A1 (en) Vehicle position estimation system
JP5561064B2 (ja) 車両用対象物認識装置
EP3349143B1 (en) Nformation processing device, information processing method, and computer-readable medium
KR20180092765A (ko) 탑뷰 영상을 이용한 차선인식 장치 및 방법
JP6496619B2 (ja) 車両用駐車支援装置
JPWO2011013813A1 (ja) 車載装置および画像処理プログラム
US20090052779A1 (en) Object recognizing apparatus
WO2011039977A1 (ja) 横断歩道標示検出方法および横断歩道標示検出装置
JP2018073275A (ja) 画像認識装置
JP4901275B2 (ja) 走行誘導障害物検出装置および車両用制御装置
JP4721278B2 (ja) 車線逸脱判定装置、車線逸脱防止装置および車線追従支援装置
JP2005170290A (ja) 障害物検出装置
JP2004221871A (ja) 車輌周辺監視装置
US20180186287A1 (en) Image processing device and image processing method
KR101853652B1 (ko) 어라운드뷰 생성 방법 및 이를 수행하는 장치
WO2012144053A1 (ja) 車両用周辺障害物表示装置及び車両用周辺障害物表示方法
WO2023244937A1 (en) Systems and methods for autonomous vehicle sensor calibration and validation

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090609

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090622

R151 Written notification of patent or utility model registration

Ref document number: 4337929

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120710

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130710

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees