JP7359715B2 - 道路形状推定装置 - Google Patents
道路形状推定装置 Download PDFInfo
- Publication number
- JP7359715B2 JP7359715B2 JP2020023609A JP2020023609A JP7359715B2 JP 7359715 B2 JP7359715 B2 JP 7359715B2 JP 2020023609 A JP2020023609 A JP 2020023609A JP 2020023609 A JP2020023609 A JP 2020023609A JP 7359715 B2 JP7359715 B2 JP 7359715B2
- Authority
- JP
- Japan
- Prior art keywords
- line
- lane
- road
- learning
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Description
本開示の一つの局面は、道路の白線等の認識が容易ではない等の各種の環境においても、機械学習の技術を考慮に入れて、自車線の前方の道路の形状を精度良く推定することが可能な技術を提供することにある。
推定処理部は、画像取得部によって取得された画像に基づいて、自車両が走行する自車両の前方の自車線の形状を推定するように構成されている。
状態遷移判定部は、非学習推定部で用いた区分線に関する情報と、部分学習推定部で用いた区分線に関する情報と、全学習推定部で用いた画像境界線に関する情報と、のうち少なくとも2種の推定部おける情報を比較し、非学習推定部による自車線の道路の形状の推定結果と、部分学習推定部による自車線の道路の形状の推定結果と、全学習推定部による自車線の道路の形状の推定結果と、のうちいずれの推定結果を用いるかを判定するように構成されている。
これにより、各種の道路の環境においても、機械学習の技術を考慮に入れて、自車線の前方の道路の形状を精度良く推定することができるという顕著な効果を奏する。
推定処理部は、画像取得部によって取得された画像に基づいて、自車両が走行する自車両の前方の自車線の形状を推定するように構成されている。
(3)本開示の更に他の一態様の道路形状推定装置(9)は、画像取得部(15、S100)と推定処理部(17)と学習認識部(31、S120)と利用判定部(33、S170)と非学習取得部(43、S110)とを備えている。
推定処理部は、画像取得部によって取得された画像に基づいて、自車両が走行する自車両の前方の自車線の形状を推定するように構成されている。
非学習取得部は、学習認識部による認識結果を利用することなく、画像取得部によって取得された自車両の前方の画像に基づいて、自車両の前方の自車線の情報を取得するように構成されている。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
[1.第1実施形態]
[1-1.全体構成]
まず、本第1実施形態の道路形状推定装置を備えた車両システムの全体構成について説明する。
画像取得部15は、自車両1の前方を撮影した車載カメラ5の画像を取得するように構成されている。
次に、推定処理部17の構成について説明する。
推定処理部17は、図4に機能的に示すように、エッジ抽出部21、マーカ抽出部23、マーカ判定部25、線候補抽出部27、境界線選択部29、学習認識部31、利用判定部33、道路形状推定部35を備えている。また、道路形状推定部35は、部分学習推定部37、全学習推定部39、状態遷移判定部41を備えている。
(手順A)
手順Aは、ディープラーニングによる機械学習を利用することなく、車載カメラ5によって撮影された画像を用いて、道路に描かれたレーンマーカ(以下、マーカ)の抽出を行い、そのマーカを利用して道路形状を推定する手順である。例えば、図4で「非学習」と記載の経路による手順である。
手順Bは、まず、機械学習を利用することなく、車載カメラ5によって撮影された画像を用いて、道路上のマーカの抽出を行い、さらに、そのマーカを利用するとともに機械学習を利用して道路形状を推定する手順である。例えば、図4で「一部学習利用」と記載の経路による手順である。
手順Cは、主として機械学習を利用して道路形状を推定する手順である。例えば、図4で「全学習利用」と記載の経路による手順である。
エッジ抽出部21は、車載カメラ5にて撮影された画像から、輝度値の変化が大きい画素であるエッジ点を抽出するように構成されている。
例えば、自車両1の前方を撮影して多数の画像を取得する。そして、多数の画像に対して、映っている物体等が、例えば、道路の領域と、他車両の領域と、他車両や道路以外の領域とに区分し、更に道路の領域を自車線の領域とそれ以外の領域とに区分する。そして、このように複数の領域に区分した多数の画像に対してディープラーニングによる学習を行う。
具体的には、道路形状推定部35は、現在走行中の道路の形状等の特徴を示す道路パラメータとして、例えば車線位置,車線傾き,車線曲率,車線幅などの各種の道路パラメータを推定する。
部分学習推定部37は、マーカ抽出部23によって抽出されたマーカが、学習認識部31によって得られた自車線の領域の境界を示す画像境界線GKに沿ったマーカである場合に、マーカを用いて得られた区分線に基づいて、詳しくは区分線の候補から選択された境界線に基づいて、自車両1の前方の自車線の道路の形状を推定するように構成されている。
状態遷移判定部41は、部分学習推定部37によって得られた区分線における認識可能な距離、即ち、マーカから得られた区分線における第1認識距離と、全学習推定部39によって得られた認識可能な距離、即ち、画像境界線GKにおける第2認識距離と、を比較する。そして、この比較により、好ましい(即ち、大きな)認識距離を有する方の道路の形状の推定結果を採用するように構成されている。
なお、後述する変形例1に示すように、道路形状推定部35は、非学習推定部45を備えていてもよい。この非学習推定部45は、学習認識部31による認識結果を利用することなく、マーカ抽出部23によって抽出されたマーカを用いて区分線を抽出し、その区分線に基づいて自車両1の前方の自車線の道路の形状を推定するように構成されている。
次に、上述した利用判定部33における判定の条件について、詳細に説明する。
利用判定部33は、下記の(条件A)~(条件E)のいずれかの判定条件に基づいて、学習認識部31によって得られた自車線の領域の認識結果を利用するか否かを判定する。以下、各条件について説明する。
条件Aとして、学習認識部31による自車線の領域の幅方向における境界を示す複数の境界点と、複数の境界点の配置を近似線にて近似したフィッティング線と、のフィッティング誤差を用いる。
例えば、図7に示すように、学習認識部31によって、最新の撮影された画像について、自車線の領域と他の領域とを区分した画像、即ち学習に基づいて形成された画像である学習画像が得られた場合を例に挙げて説明する。この学習画像において、自車線の領域にて、同図の横方向に延びる線を同図の上下方向に等間隔で複数引き、それらの線と自車線の領域の左右の境界との交点を境界点とする。これにより、自車線の左右の境界に沿って複数の境界点が得られる。
条件Bとして、学習認識部31による自車線の領域の幅方向における境界を示す複数の境界点の配置を近似線にて近似したフィッティング線と、学習認識部31による前記認識結果を利用することなく、画像取得部15による自車両1の前方の画像に基づいて得られた自車線の幅方向における領域の区分を示す区分線と、の位置の誤差を用いる。
図9に示すように、上述したフィッティング線を作成する。また、学習認識部31による認識結果を利用することなく、上述した公知の方法によって、マーカ抽出部23にて抽出されたマーカを線候補抽出部27にて接続して、自車線の境界を示す区分線である境界線を取得する。例えば、マーカの幅方向の両側の線のうち、例えば車線の内側の線を用いて、同図の一点鎖線で示す境界線を作成する。
(条件C)
条件Cとして、自車両1の前方の道路が、学習認識部31による前記認識結果を利用する処理に適しない所定の道路であることを認識するシーン認識の結果を用いる。
例えば、複合線とは、自車線の幅方向における一方の側に、複数の区分線等が存在するものである。複合線を検出する技術は、例えば特許第4207935号公報等に記載がある。
自車両1が区分線等を跨ぐ跨ぎ路を検出する技術は、例えば特開2015-174494号公報等に記載がある。
条件Dとして、学習認識部31による自車線の領域の幅方向における境界を示す複数の境界点の配置を近似線にて近似したフィッティング線を使用する場合に、フィッティング線を挟む所定幅の範囲において、誤差が少ない境界点数を示す逆引きされる境界点数、または、全境界点数における前記逆引きされる境界点数の割合を示す逆引き率を用いる。
条件Eとして、学習認識部31による自車線の領域の幅方向における境界を示す複数の境界点の配置を近似線にて近似したフィッティング線を使用して求めた道路の形状の認識距離と、学習認識部31による前記認識結果を利用することなく、画像取得部15による自車両の前方の画像に基づいて得られた自車線の幅方向における領域の区分を示す区分線を使用して求めた道路の形状の認識距離と、の差分を用いる。
次に、道路形状推定装置9にて実施される処理について、図11を用いて説明する。道路形状推定装置9は、自車両1の走行中、図11の推定処理を周期的に繰り返し実行する。
S100の処理の後に、S110及びS120にて、読み込んだ画像をそれぞれ処理する。
S140では、機械学習を利用しないので、例えば前記特開2018-181093号公報に記載のような従来の方法で道路形状を推定し、一旦本処理を終了する。
具体的には、マーカ判定部25にて、マーカ抽出部23で抽出したマーカが、学習認識部31によって得られた自車線の領域の境界を示す画像境界線GKに沿ったマーカであるか否かを判定する。
また、画像境界線GKの最も遠い位置、即ち自車両1から最も遠い距離を、第2認識距離として求める。
なお、S150での処理が、部分学習推定部37での処理に該当し、S150での処理が、全学習推定部39での処理に該当する。
[1-5.効果]
本第1実施形態では、上述した構成によって、以下の効果を得ることができる。
[1-6.文言の対応関係]
本第1実施形態と本開示との関係において、自車両1が自車両に対応し、車載カメラ5が車載カメラに対応し、道路形状推定装置9が道路形状推定装置に対応し、画像取得部15が画像取得部に対応し、推定処理部17が推定処理部に対応する。マーカ抽出部23がマーカ抽出部に対応し、マーカ判定部25がマーカ判定部に対応し、学習認識部31が学習認識部に対応し、利用判定部33が利用判定部に対応する。部分学習推定部37が部分学習推定部に対応し、全学習推定部39が全学習推定部に対応し、状態遷移判定部41が状態遷移判定部に対応し、非学習推定部45が非学習推定部に対応し、非学習取得部43が非学習推定部に対応する。なお、マーカ抽出部23と線候補抽出部27と境界線選択部29とが非学習取得部に対応する。
次に、第1実施形態の変形例1について説明する。本変形例1は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
但し、本変形例1では、S130で機械学習を利用すると判定された場合でも、図15のS140にて、前記図11のS140での処理と同様に、従来方法にて道路形状の推定を行う。
(3)さらに、他の方法として、S180では、従来方法と機械学習とを組み合わせたS150で得られた第1認識距離と、従来方法のS140で得られた第4認識距離とを比較し、認識距離が大きな方の道路形状の推定結果を採用してもよい。
この変形例1においても、第1実施形態と同様な効果を奏する。
次に、第1実施形態の変形例2について説明する。本変形例2は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
(1)例えば、自車両1の前方の他車両が走行した経路(即ち、軌跡)から道路形状を推定し、この推定結果を用いて、上述した第1実施形態等による道路形状の推定結果の適否を判定してもよい。例えば、他車両の軌跡から得られたカーブの向きが前記第1実施形態の方法によって得られたカーブの向きと反対の場合等のように、前記第1実施形態による推定結果が適切でない可能性があるときには、前記第1実施形態による推定結果を採用しないようにしてもよい。
(2)また、例えば、ヨーレートセンサによって求めた自車両1のヨーレートを用いて、公知の方法で車線曲率等の道路形状を推定し、この推定結果を用いて、上述した第1実施形態等による道路形状の推定結果の適否を判定してもよい。
(4)前記第1実施形態又は前記変形例1においては、認識距離の大きさを用いて比較したが、推定した道路の形状自体を比較して、いずれかの推定部39、37、45の推定結果を採用するようにしてもよい。
[2.第2実施形態]
次に、第2実施形態について説明する。本第2実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
例えば、図16の右図及び左図に示すように、左側走行において自車両1の前方にて自車線が分岐する場合、例えば左に分岐する場合には、自車線の左側の境界に沿って、所定幅の実線で示す左側の境界線KL1が引かれている。また、例えば自車線の右側の境界に沿って、所定幅の破線で示す右側の境界線KRが引かれている。
図17のS200では、学習認識部31による認識結果を利用することなく、線候補抽出部27にて、マーカ同士を接続して区分線の候補を抽出する。つまり、自車線に沿って延びる線を抽出する。そして、その抽出した線のうち、Y字形状又はV字形状の線が存在するか否かを判定する。ここで肯定判断されるとS210に進み、一方否定判断されると一旦本処理を終了する。
S220では、図16の左図に示すように、現時点で、自車線の境界線として認識している、左側の境界線KL1と右側の境界線KRとの間隔、即ち認識中のペアの間隔が、進行方向(即ち、同図上側)に行くほど広がっているか否かを判定する。ここで肯定判断されるとS230に進み、一方否定判断されると一旦本処理を終了する。
以上詳述したように、本第2実施形態では、学習認識部31による認識結果を利用することなく、自車両1の前方の画像に基づいて、自車両1の前方の自車線の幅が、自車両1の位置より前方の方が広がっていると判断された場合に、自車線の左側又は右側の境界を示す境界線の候補が複数あるときには、前記所定の選択条件に基づいて、複数の境界線の候補から自車線として確からしい境界線の候補を再選択する。
次に、第3実施形態について説明する。本第3実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
本第3実施形態は、道路形状推定装置9にて、主として、学習認識部31による認識結果を用いて道路形状の推定を行うものである。
学習認識部31は、画像取得部15によって取得された自車両1の前方の画像に対して、自車両1の前方の画像のディープラーニングによる機械学習の結果を用いて、自車両1の前方の道路の領域と道路以外の領域と他車両の領域とを(即ち、3つのクラスを)認識するように構成されている。
マーカ除外部53は、学習認識部31の認識結果に基づいて、マーカ抽出部23によって抽出されたマーカのうち、区分線を構成するマーカとして適切でないマーカを除外するように構成されている。
次に、本第3実施形態における処理の概要について、図19に基づいて説明する。
例えば、学習認識部31によって、図19の上図に示すような画像(即ち、学習画像)が得られた場合を考える。ここでは、ディープラーニングの機械学習を利用した学習画像として、道路の領域と道路以外の領域(即ちその他の領域)と他車両の領域とが区分されている画像が得られている。
次に、本第3実施形態における道路形状の推定処理について、図20のフローチャートに基づいて説明する。
S300の処理の後に、S310及びS320にて、読み込んだ画像をそれぞれ処理する。なお、S320の処理とS310の処理とは、並列に行ってもよいが、直列に行ってもよい。例えばS310の処理の後にS320の処理を行っても、その逆に、S320の処理の後にS310の処理を行ってもよい。
また、S320では、学習認識部31にて、読み込んだ画像から、前記図19の上図に示すように、道路の領域と道路以外の領域と他車両の領域とを区分した画像(即ち、学習画像)を作成する。
S310及びS320の処理の後に、S330に進む。このS330では、マーカ抽出部23にて抽出したマーカから、不要なマーカを除外する。つまり、前記図19に示した路外マーカを除外する。
続くS360では、前記S150と同様に、道路形状推定部35にて、自車線の境界線から道路形状を推定して、一旦本処理を終了する。
次に、第4実施形態について説明する。本第4実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
まず、本第4実施形態における処理の概要について説明する。
本第4実施形態では、下記(a)~(c)の内容に基づいて、道路の暫定供用区間を検出する。
図21に例示するように、2車線の道路では、自車線の左側に、白線である左側の境界線61があり、対向車線の右側に、白線である右側の境界線63がある。そして、暫定供用区間では、自車線と対向車線との間に、特別な構成の中央帯65がある。中央帯65は、自車線側に、黄線である左側の中央線67と白線である左側の中央線69とを備え、対向車線側に、黄線である右側の中央線71と白線である右側の中央線73とを備えている。
なお、道路を撮影した画像は、各画素のデータとして、赤色成分値(即ち、R値)、緑色成分値(即ち、G値)、及び青色成分値(即ち、B値)を有するカラー画像である。これらの、R値、G値、B値は、各色における輝度のデータである。
[4-2.処理の原理]
次に、上述した(a)~(c)に関する線色判定処理の原理について説明する。
この色は、RGBにより規定できるので、道路を撮影した画像から例えば白線を抽出するために、白色に対応したRGBの各輝度の判定値を設定し、この判定値を満たす場合には、その線を白線と認定している。
[4-3.処理]
以下、図22のフローチャートに従って、線色判定処理について説明する。
S430では、自車線の右側にて道路に沿って延びる線がある場合に、当該線の線幅が閾値以上であるか否かを判定する。ここで肯定判断されるとステップ440に進み、一方否定判断されると一旦本処理を終了する。
また、ある線(例えば、ある中央線)に対して、白線であるという白線判定と、黄線であるという黄線判定との両方が成立する場合が考えられるが、その場合には、黄線であると判定するようにしてもよい。つまり、線の色をRGBの各値の組み合わせによって判定する場合には、白線と判定する条件と黄線と判定する条件とを一部重なるように設定することがある。このようなときには、同じ線が白線の判定条件と黄線の判定条件との両方を満たす場合が考えられるが、その場合には、その線を黄線と判定するようにしてもよい。
本第4実施形態は、第1実施形態と同様な効果を奏する。また、本第4実施形態では、上述した線色判定処理を用いることによって、黄線を好適に抽出できるので、暫定供用区間を精度よく検出することができる。
次に、第5実施形態について説明する。本第5実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
まず、本第5実施形態の道路形状推定装置9で実施される処理の原理について説明する。
このような処理を行うことにより、下記の効果が得られる。
例えば前記図24に示すように、早期抽出された区分線が自車両1の車両幅を通る場合がある。このような場合には、早期抽出された区分線を、レーンキープ制御等を行う車両において、レーンキープ制御等に用いる区分線として採用することは適当ではない。
次に、本第5実施形態における推定処理部17の構成について説明する。つまり、早期に区分線を抽出するとともに、道路パラメータの差し替えを禁止するための構成について説明する。
以下、各部における機能について説明する。
次に、本第5実施形態の道路形状推定装置9で実施される処理について説明する。
図28のフローチャートに示すように、S500では、分岐区間において早期の区分線を抽出するための条件(即ち、早期判定条件)が成立したか否かを判定する。ここで肯定判断されるとS510に進み、一方否定判断されると一旦本処理を終了する。
(条件1)
マーカから構成された近接領域の道路に沿った長さが20m以上。
マーカから構成された近接領域のうち最も近い位置と最も遠い位置と、学習画像から得られた自車線の境界とのズレ量とを比較し、両方の位置ともズレ量が所定位置未満。例えば、画像において12ピクセル未満。
前記条件1、2の状態が、画像の3フレーム連続して成立。
なお、このS500で否定された場合には、上述した従来と同様な条件が成立したときと同様に、区画線の抽出を行い、その区分線に基づいて道路パラメータを算出する。例えば、マーカから構成された近接領域の最も近い位置が自車両1から20m未満となった場合に、その近接領域から自車両1側に引いた区分線が、車両幅よりも外側(即ち、図24の左側)にある場合には、その区分線に基づいて道路パラメータを抽出する。
続くS550では、道路パラメータが、例えば前回の値に比べて所定の判定値以上に変化(即ち、急変)したか否かを判定する。つまり、道路の形状等の状況が、例えば前回検出した状態から所定以上に変化(即ち、急変)したか否か、例えば急カーブであるか否かを判定する。ここで肯定判断されるとS560に進み、一方否定判断されると一旦本処理を終了する。
なお、道路パラメータは、道路の形状(例えば、カーブ)等の状況を示す指標であるので、上述のような車線曲率や車線幅などの各種の道路パラメータを採用できるが、それ以外の道路の形状等の状況を示す指標を採用することもできる。
[5-4.道路パラメータ]
ここで、道路パラメータについて簡単に説明する。
次に、境界線のデータを区分線のデータに差し替える場合には、時点t3における区分線の測定点のデータd3と、前回予測した道路パラメータp3とに基づいて、次の時点t4における道路パラメータp4を推定する。
このようにして、道路の境界として確定する認識線として、今までの認識線である境界線を新たに早期に抽出した区分線に切り替えた場合に、道路パラメータが急変するような状況では、道路パラメータが急変しないように、徐々に変更するようにする。
本第5実施形態は第1実施形態と同様な効果を奏する。
また、本第5実施形態では、分岐路がある道路において早期に区分線を抽出できるので、レーンキープ制御等の車両の制御を安定して行うことができる。
以上、本開示の実施形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
(6b)本開示において、学習認識部の認識結果を用いて自車両の前方の自車線の形状を推定する方法としては、部分学習推定部又は全学習推定部によって自車線の形状を推定する方法を採用できる。
(6c)本開示に記載の道路形状推定装置での処理の手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリを構成することによって提供された専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の道路形状推定装置での処理の手法は、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。
Claims (4)
- 自車両(1)の前方を撮影した車載カメラ(5)の画像を取得するように構成された画像取得部(15、S100)と、
前記画像取得部によって取得された画像に基づいて、前記自車両が走行する前記自車両の前方の自車線の形状を推定するように構成された推定処理部(17)と、
を備え、
前記推定処理部は、
前記画像取得部によって取得された前記自車両の前方の画像に対して、前記自車両の前方の画像のディープラーニングによる機械学習の結果を用いて、前記自車両の前方の前記自車線の領域を認識するように構成された学習認識部(31、S120)と、
前記学習認識部による前記認識の結果を利用することなく、前記画像取得部によって取得された前記自車両の前方の画像に基づいて、前記自車両の前方の前記自車線の幅方向における領域の区分を示す区分線を構成するマーカを抽出するように構成されたマーカ抽出部(23、S110)と、
を備えるとともに、
前記学習認識部による前記認識の結果を利用することなく、前記マーカ抽出部によって抽出された前記マーカを用いて前記区分線を抽出し、前記区分線に基づいて前記自車両の前方の前記自車線の道路の形状を推定するように構成された非学習推定部(45、S140)と、
前記マーカ抽出部によって抽出された前記マーカが、前記学習認識部によって得られた前記自車線の領域の境界を示す画像境界線に沿ったマーカである場合に、当該マーカを用いて得られた前記区分線に基づいて前記自車両の前方の前記自車線の道路の形状を推定するように構成された部分学習推定部(37、S150)と、
前記学習認識部によって得られた前記自車線の領域の境界を示す画像境界線に基づいて、前記自車両の前方の前記自車線の道路の形状を推定するように構成された全学習推定部(39、S160)と、
のうち、少なくとも2種の前記推定部(45、37、39)を備え、
前記非学習推定部で用いた前記区分線から得られる前記自車線として認識できる認識距離と、前記部分学習推定部で用いた前記区分線から得られる前記自車線として認識できる認識距離と、前記全学習推定部で用いた前記画像境界線から得られる前記自車線として認識できる認識距離と、のうち少なくとも2種の前記推定部における前記認識距離を比較し、前記比較の結果に基づいて、前記非学習推定部による前記自車線の道路の形状の推定結果と、前記部分学習推定部による前記自車線の道路の形状の推定結果と、前記全学習推定部による前記自車線の道路の形状の推定結果と、のうちいずれの推定結果を用いるかを判定するように構成された状態遷移判定部(41、S170)と、
を備えるとともに、
前記状態遷移判定部は、前記比較する対象の前記認識距離のうち、当該認識距離が最大である前記推定部による前記推定結果を用いるように構成された、
道路形状推定装置。 - 請求項1に記載の道路形状推定装置であって、
前記推定処理部は、
前記画像取得部から得られる前記自車両の前方の画像を用い、前記道路の暫定供用区間を示す前記道路の中央側に沿った黄色線の有無に基づいて、前記道路が前記暫定供用区間であるか否かを判定するように構成された暫定供用判定部(57)、
を備えた、道路形状推定装置。 - 請求項2に記載の道路形状推定装置であって、
前記暫定供用判定部は、
以下の(F)~(J)のうち、少なくとも(F)~(I)の全ての条件が満たされた場合には、前記暫定供用区間を示す前記黄色線を検出するための条件を調整するように構成された線色判定部、
を備えた、道路形状推定装置。
(F)前記自車線の右側にて前記道路に沿って延びる多重線が存在すること
(G)前記自車線の左側にて前記道路に沿って延びる線が実線であること
(H)前記自車線の右側にて前記道路に沿って延びる黄色線がないこと
(I)前記自車線の右側にて前記道路に沿って延びる線がある場合に、当該線の線幅が閾値以上であること
(J)前記自車線の右側に沿って、ポール及び/又は縁石による境界を示す構造物が存在すること - 請求項3に記載の道路形状推定装置であって、
前記暫定供用判定部は、前記線色判定部にて調整された条件に基づいて、前記黄色線が認識された場合に、前記暫定供用区間であると判定するように構成された、
道路形状推定装置。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020023609A JP7359715B2 (ja) | 2020-02-14 | 2020-02-14 | 道路形状推定装置 |
| US17/174,289 US11710294B2 (en) | 2020-02-14 | 2021-02-11 | Apparatus for estimating road parameter |
| JP2023092615A JP7538290B2 (ja) | 2020-02-14 | 2023-06-05 | 道路形状推定装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020023609A JP7359715B2 (ja) | 2020-02-14 | 2020-02-14 | 道路形状推定装置 |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023092615A Division JP7538290B2 (ja) | 2020-02-14 | 2023-06-05 | 道路形状推定装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2021128612A JP2021128612A (ja) | 2021-09-02 |
| JP7359715B2 true JP7359715B2 (ja) | 2023-10-11 |
Family
ID=77272671
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020023609A Active JP7359715B2 (ja) | 2020-02-14 | 2020-02-14 | 道路形状推定装置 |
| JP2023092615A Active JP7538290B2 (ja) | 2020-02-14 | 2023-06-05 | 道路形状推定装置 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023092615A Active JP7538290B2 (ja) | 2020-02-14 | 2023-06-05 | 道路形状推定装置 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US11710294B2 (ja) |
| JP (2) | JP7359715B2 (ja) |
Families Citing this family (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021169013A (ja) * | 2020-08-10 | 2021-10-28 | 株式会社三洋物産 | 遊技機 |
| KR102487408B1 (ko) * | 2021-09-07 | 2023-01-12 | 포티투닷 주식회사 | 로컬맵에 기초한 차량의 라우팅 경로 결정 장치, 방법 및 이를 기록한 기록매체 |
| JP7552629B2 (ja) * | 2022-02-15 | 2024-09-18 | トヨタ自動車株式会社 | 情報処理装置および情報処理システム |
| CN114694115B (zh) * | 2022-03-24 | 2025-09-02 | 商汤集团有限公司 | 一种道路障碍物检测方法、装置、设备及存储介质 |
| US11628859B1 (en) | 2022-07-29 | 2023-04-18 | Plusai, Inc. | Vehicle placement on aerial views for vehicle control |
| US11634156B1 (en) | 2022-07-29 | 2023-04-25 | Plusai, Inc. | Aerial view generation for vehicle control |
| CN115248448B (zh) * | 2022-09-22 | 2022-12-16 | 毫末智行科技有限公司 | 基于激光雷达的路沿检测方法、装置、设备及存储介质 |
| CN115797881B (zh) * | 2022-12-26 | 2026-03-03 | 江苏大学 | 一种用于交通道路路面信息的多任务联合感知网络模型及检测方法 |
| US12380710B2 (en) * | 2022-12-30 | 2025-08-05 | Rivian Ip Holdings, Llc | System and method for deep learning based lane curvature detection from 2D images |
| CN116453079B (zh) * | 2023-03-20 | 2025-10-21 | 武汉理工大学 | 基于光照补偿下的夜间车道线识别方法 |
| JP2024164418A (ja) | 2023-05-15 | 2024-11-27 | 株式会社Subaru | 道路曲率推定装置 |
| EP4478304A1 (en) * | 2023-06-13 | 2024-12-18 | Zenseact AB | Model-based road estimation |
| CN117291842B (zh) * | 2023-10-31 | 2025-11-14 | 厦门中科星晨科技有限公司 | 一种无人集卡摄像头标定的校正方法 |
| CN117576651B (zh) * | 2024-01-18 | 2024-06-18 | 合众新能源汽车股份有限公司 | 一种用于辅助驾驶的车道线拟合方法、系统及车辆 |
| CN118628998A (zh) * | 2024-08-09 | 2024-09-10 | 小米汽车科技有限公司 | 车道线处理方法、装置、车辆、存储介质与程序产品 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018181093A (ja) | 2017-04-18 | 2018-11-15 | 株式会社Soken | 区画線認識装置 |
| JP2019139762A (ja) | 2018-02-12 | 2019-08-22 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 車両走行のための情報を提供する方法 |
Family Cites Families (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5089545B2 (ja) | 2008-09-17 | 2012-12-05 | 日立オートモティブシステムズ株式会社 | 道路境界検出判断装置 |
| JP5094658B2 (ja) | 2008-09-19 | 2012-12-12 | 日立オートモティブシステムズ株式会社 | 走行環境認識装置 |
| JP5074365B2 (ja) | 2008-11-28 | 2012-11-14 | 日立オートモティブシステムズ株式会社 | カメラ装置 |
| JP5075152B2 (ja) | 2009-03-24 | 2012-11-14 | 日立オートモティブシステムズ株式会社 | 車両制御装置 |
| JP5441549B2 (ja) | 2009-07-29 | 2014-03-12 | 日立オートモティブシステムズ株式会社 | 道路形状認識装置 |
| JP5391926B2 (ja) | 2009-08-19 | 2014-01-15 | 日産自動車株式会社 | 車線認識装置 |
| JP5716945B2 (ja) | 2010-03-19 | 2015-05-13 | トヨタ自動車株式会社 | 車両制御装置 |
| JP5603687B2 (ja) | 2010-07-15 | 2014-10-08 | 富士重工業株式会社 | 車両用白線認識装置 |
| JP5739460B2 (ja) | 2013-02-14 | 2015-06-24 | 本田技研工業株式会社 | 車両の走行支援装置 |
| JP6087858B2 (ja) | 2014-03-24 | 2017-03-01 | 株式会社日本自動車部品総合研究所 | 走行区画線認識装置及び走行区画線認識プログラム |
| JP6449627B2 (ja) * | 2014-11-25 | 2019-01-09 | 株式会社Soken | 走行区画線認識装置 |
| US10102435B2 (en) * | 2016-08-10 | 2018-10-16 | Omnivision Technologies, Inc. | Lane departure warning system and associated methods |
| JP6674365B2 (ja) | 2016-10-21 | 2020-04-01 | 株式会社Soken | 区画線認識装置 |
| JP6702849B2 (ja) | 2016-12-22 | 2020-06-03 | 株式会社Soken | 区画線認識装置 |
| US10331957B2 (en) * | 2017-07-27 | 2019-06-25 | Here Global B.V. | Method, apparatus, and system for vanishing point/horizon estimation using lane models |
| US11022971B2 (en) * | 2018-01-16 | 2021-06-01 | Nio Usa, Inc. | Event data recordation to identify and resolve anomalies associated with control of driverless vehicles |
| JP6859374B2 (ja) * | 2019-01-11 | 2021-04-14 | 本田技研工業株式会社 | 予測装置、予測方法、およびプログラム |
-
2020
- 2020-02-14 JP JP2020023609A patent/JP7359715B2/ja active Active
-
2021
- 2021-02-11 US US17/174,289 patent/US11710294B2/en active Active
-
2023
- 2023-06-05 JP JP2023092615A patent/JP7538290B2/ja active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018181093A (ja) | 2017-04-18 | 2018-11-15 | 株式会社Soken | 区画線認識装置 |
| JP2019139762A (ja) | 2018-02-12 | 2019-08-22 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 車両走行のための情報を提供する方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP7538290B2 (ja) | 2024-08-21 |
| JP2021128612A (ja) | 2021-09-02 |
| US11710294B2 (en) | 2023-07-25 |
| JP2023110046A (ja) | 2023-08-08 |
| US20210256274A1 (en) | 2021-08-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7359715B2 (ja) | 道路形状推定装置 | |
| KR101864066B1 (ko) | 차선 인식 장치, 차선 이탈 판단 장치, 차선 인식 방법 및 차선 이탈 판단 방법 | |
| CN109670376B (zh) | 车道线识别方法及系统 | |
| CN101405783B (zh) | 道路区划线检测装置 | |
| US8750567B2 (en) | Road structure detection and tracking | |
| US7668341B2 (en) | Image recognition apparatus and image recognition method | |
| CN104781829B (zh) | 用于识别车辆在车道上的位置的方法和设备 | |
| JP6538547B2 (ja) | 道路曲率計測装置 | |
| US20100110193A1 (en) | Lane recognition device, vehicle, lane recognition method, and lane recognition program | |
| JP4744537B2 (ja) | 走行レーン検出装置 | |
| CN104603841B (zh) | 行车线标识识别装置 | |
| KR20150102546A (ko) | 차선 인식 장치 및 방법 | |
| JP2012168884A (ja) | 車線境界検出装置及び車線境界検出方法 | |
| US20160140401A1 (en) | Road surface information acquisition apparatus | |
| JP6904764B2 (ja) | 区画線認識装置 | |
| JP5974923B2 (ja) | 道路端検出システム、方法およびプログラム | |
| JP2016218539A (ja) | 車両の走路認識装置 | |
| JP5888275B2 (ja) | 道路端検出システム、方法およびプログラム | |
| JP6608664B2 (ja) | 自車位置認識装置 | |
| CN113822149B (zh) | 一种基于无人机视角的应急车道视觉检测方法和系统 | |
| JP5189556B2 (ja) | 車線検出装置 | |
| JP4775658B2 (ja) | 地物認識装置・自車位置認識装置・ナビゲーション装置・地物認識方法 | |
| JP5874602B2 (ja) | 退出道路案内システム、方法およびプログラム | |
| JP7745057B2 (ja) | 運転支援装置およびプログラム | |
| JP5724473B2 (ja) | 車両用画像認識装置、車両用画像認識方法、プログラム及び媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220413 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230323 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230605 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230905 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230928 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7359715 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |