Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7700715B2 - Object recognition device and program - Google Patents
[go: Go Back, main page]

JP7700715B2 - Object recognition device and program - Google Patents

Object recognition device and program Download PDF

Info

Publication number
JP7700715B2
JP7700715B2 JP2022048607A JP2022048607A JP7700715B2 JP 7700715 B2 JP7700715 B2 JP 7700715B2 JP 2022048607 A JP2022048607 A JP 2022048607A JP 2022048607 A JP2022048607 A JP 2022048607A JP 7700715 B2 JP7700715 B2 JP 7700715B2
Authority
JP
Japan
Prior art keywords
distance
image
reliability
vehicle
actual distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022048607A
Other languages
Japanese (ja)
Other versions
JP2023141983A (en
Inventor
敏彦 寺田
雄也 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2022048607A priority Critical patent/JP7700715B2/en
Publication of JP2023141983A publication Critical patent/JP2023141983A/en
Application granted granted Critical
Publication of JP7700715B2 publication Critical patent/JP7700715B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Traffic Control Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Image Analysis (AREA)

Description

本発明は、物体認識装置及びプログラムに関する。 The present invention relates to an object recognition device and a program.

物体認識装置として、撮像装置により撮像された画像に基づいて、自車両から物体までの距離を認識するものが知られている。例えば、特許文献1に記載された物体認識装置は、画像内における物体の下端を示す水平エッジに基づいて算出された距離と、画像内における物体の左右端を示す垂直エッジに基づいて算出された距離との平均値を、自車両から物体までの実距離として認識する。 There are known object recognition devices that recognize the distance from the vehicle to an object based on an image captured by an imaging device. For example, the object recognition device described in Patent Document 1 recognizes the actual distance from the vehicle to the object as the average of a distance calculated based on a horizontal edge that indicates the bottom edge of the object in the image and a distance calculated based on a vertical edge that indicates the left and right edges of the object in the image.

特開2011-180020号公報JP 2011-180020 A

自車両の走行状況によっては、画像内における物体の認識精度の低下等により、水平エッジ及び垂直エッジそれぞれに基づいて算出された距離の精度が低下し得る。この場合、実距離の精度低下が生じることが考えられる。ここで、水平エッジ及び垂直エッジを実距離の算出に用いる以外にも、2つの異なる手法を用いて実距離を算出する場合には、同様の問題が生じる。 Depending on the driving conditions of the vehicle, the accuracy of the distance calculated based on the horizontal and vertical edges may decrease due to a decrease in the accuracy of recognizing objects in the image. In this case, the accuracy of the actual distance may decrease. Here, the same problem occurs when calculating the actual distance using two different methods other than using the horizontal and vertical edges to calculate the actual distance.

本発明は、上記事情に鑑みてなされたものであり、その主たる目的は、自車両から物体までの実距離の信頼度が低下していることを適正に判定することができる物体認識装置及びプログラムを提供することである。 The present invention has been made in consideration of the above circumstances, and its main objective is to provide an object recognition device and program that can properly determine whether the reliability of the actual distance from the vehicle to an object has decreased.

本発明は、撮像装置により撮像された画像を取得し、その画像内に存在する物体について自車両からの距離を算出する物体認識装置であって、
前記画像内における前記物体の下端部分の位置である下端位置に基づいて、前記自車両から前記物体までの距離を第1距離として算出する第1算出部と、
前記画像内における前記物体の大きさに基づいて、前記自車両から前記物体までの距離を第2距離として算出する第2算出部と、
前記第1距離と前記第2距離とに基づいて、前記自車両から前記物体までの実際の距離を実距離として算出する実距離算出部と、
前記第1距離と前記第2距離との距離差に基づいて、前記実距離の信頼度を判定する信頼度判定部と、
を備える。
The present invention provides an object recognition device that acquires an image captured by an imaging device and calculates a distance from a vehicle to an object present in the image,
a first calculation unit that calculates a distance from the host vehicle to the object as a first distance based on a bottom position that is a position of a bottom end portion of the object in the image;
a second calculation unit that calculates a distance from the host vehicle to the object as a second distance based on a size of the object in the image;
an actual distance calculation unit that calculates an actual distance from the host vehicle to the object based on the first distance and the second distance;
a reliability determination unit that determines a reliability of the actual distance based on a distance difference between the first distance and the second distance;
Equipped with.

画像内における物体の下端位置に基づいて算出される第1距離と、画像内における物体の大きさに基づいて算出される第2距離とを用い、自車両から物体までの実距離が算出される構成では、これらいずれか一方により実距離が算出される場合に比べて、実距離の精度を高めることができる。ただし、第1距離及び第2距離のうち少なくとも一方の精度が低下していると、実距離の精度低下が生じることが考えられる。 In a configuration in which the actual distance from the vehicle to an object is calculated using a first distance calculated based on the bottom edge position of the object in the image and a second distance calculated based on the size of the object in the image, the accuracy of the actual distance can be improved compared to when the actual distance is calculated using only one of these distances. However, if the accuracy of at least one of the first distance and the second distance is reduced, it is conceivable that the accuracy of the actual distance will be reduced.

そこで、本発明では、第1距離と第2距離との距離差に基づいて、各実距離の信頼度を判定する構成とした。この場合、第1距離と第2距離との距離差が大きければ、それら各距離のいずれかの精度が低下している可能性があり、その距離差を把握することで、実距離の信頼度を適正に判定することができる。 Therefore, in the present invention, the reliability of each actual distance is determined based on the distance difference between the first distance and the second distance. In this case, if the distance difference between the first distance and the second distance is large, the accuracy of one of these distances may be reduced, and by understanding this distance difference, the reliability of the actual distance can be appropriately determined.

走行支援システムの構成図。FIG. 1 is a configuration diagram of a driving assistance system. 自車両の進行方向前方を撮像した画像を示す図。FIG. 2 is a diagram showing an image captured of a scene ahead in the traveling direction of the host vehicle; 画像認識処理の処理手順を示すフローチャート。11 is a flowchart showing the procedure of an image recognition process. 第2実施形態に係る画像認識処理の処理手順を示すフローチャート。10 is a flowchart showing the processing procedure of image recognition processing according to a second embodiment.

<第1実施形態>
以下、本発明に係る物体認識装置を、車両の走行支援システムに適用した実施形態について、図面を参照しつつ説明する。
First Embodiment
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an embodiment in which an object recognition device according to the present invention is applied to a vehicle driving assistance system will be described with reference to the drawings.

図1に示すように、本実施形態に係る走行支援システム10は、レーダ装置21と、撮像装置22と、車速センサ23と、操舵角センサ24と、角度センサ25と、受信装置26と、ECU30と、被制御装置40とを備えている。本実施形態では、ECU30が走行支援装置に相当する。 As shown in FIG. 1, the driving assistance system 10 according to this embodiment includes a radar device 21, an imaging device 22, a vehicle speed sensor 23, a steering angle sensor 24, an angle sensor 25, a receiving device 26, an ECU 30, and a controlled device 40. In this embodiment, the ECU 30 corresponds to the driving assistance device.

レーダ装置21は、例えば、ミリ波帯の高周波信号を送信波とする公知のミリ波レーダである。レーダ装置21は、例えば、自車両の前部においてその光軸が自車両前方を向くように取り付けられ、所定の検知角に入る領域を物体検知可能な検知範囲とし、検知範囲内の物体の位置を検知する。具体的には、レーダ装置21は、所定周期で探査波を送信し、複数のアンテナにより反射波を受信する。レーダ装置21は、探査波の送信時刻と反射波の受信時刻とにより、物体との距離を算出する。また、レーダ装置21は、物体に反射された反射波の、ドップラー効果により変化した周波数により、相対速度を算出する。加えて、複数のアンテナが受信した反射波の位相差により、物体の方位を算出する。レーダ装置21は、物体との距離、相対速度及び物体の方位といった検知データをECU30へ出力する。 The radar device 21 is, for example, a known millimeter wave radar that transmits high-frequency signals in the millimeter wave band. The radar device 21 is, for example, attached to the front of the vehicle with its optical axis facing forward, and detects the position of an object within a detection range that is within a predetermined detection angle. Specifically, the radar device 21 transmits search waves at a predetermined cycle and receives the reflected waves by multiple antennas. The radar device 21 calculates the distance to the object based on the transmission time of the search wave and the reception time of the reflected wave. The radar device 21 also calculates the relative speed based on the frequency of the reflected wave reflected by the object, which has changed due to the Doppler effect. In addition, the radar device 21 calculates the direction of the object based on the phase difference of the reflected waves received by the multiple antennas. The radar device 21 outputs detection data such as the distance to the object, the relative speed, and the direction of the object to the ECU 30.

撮像装置22は、自車両に1つのみ設置される単眼カメラである。撮像装置22は、例えばCCDカメラ、CMOSイメージセンサ、近赤外線カメラ等である。撮像装置22は、例えば、車両の車幅方向中央の所定高さに取り付けられており、自車両前方へ向けて所定角度範囲で広がる領域を俯瞰視点から撮像する。撮像装置22は、逐次撮像する撮像画像をECU30へ逐次出力する。なお、撮像装置22は、自車両に複数設置されるステレオカメラであってもよい。 The imaging device 22 is a monocular camera installed in only one vehicle. The imaging device 22 is, for example, a CCD camera, a CMOS image sensor, a near-infrared camera, etc. The imaging device 22 is attached, for example, at a predetermined height in the center of the vehicle width direction, and captures an image of an area extending in a predetermined angular range forward of the vehicle from a bird's-eye view. The imaging device 22 sequentially outputs the captured images to the ECU 30. Note that the imaging device 22 may be a stereo camera installed in multiple locations in the vehicle.

車速センサ23は、自車両の走行速度を検知するセンサであり、自車両の走行速度に応じた走行速度信号をECU30に出力する。操舵角センサ24は、ステアリングホイールの操舵角を検知するセンサであり、操舵角の変化に応じた操舵角信号をECU30に出力する。角度センサ25は、自車両の車体に取り付けられたジャイロセンサ及び加速度センサを含み、ジャイロセンサにより検出された角速度及び加速度センサにより検知された加速度から、自車両のピッチ角を検知する。角度センサ25は、検知した自車両のピッチ角信号をECU30に出力する。 The vehicle speed sensor 23 is a sensor that detects the traveling speed of the host vehicle, and outputs a traveling speed signal corresponding to the traveling speed of the host vehicle to the ECU 30. The steering angle sensor 24 is a sensor that detects the steering angle of the steering wheel, and outputs a steering angle signal corresponding to the change in steering angle to the ECU 30. The angle sensor 25 includes a gyro sensor and an acceleration sensor attached to the body of the host vehicle, and detects the pitch angle of the host vehicle from the angular velocity detected by the gyro sensor and the acceleration detected by the acceleration sensor. The angle sensor 25 outputs a detected pitch angle signal of the host vehicle to the ECU 30.

受信装置26は、衛星測位システムからの測位信号の受信装置であり、例えばGPS受信装置である。受信装置26は、自車の走行する道路や、その周辺の道路についての道路情報を受信し、受信した道路情報をECU30に出力する。道路情報には、少なくとも道路の勾配情報が含まれる。 The receiving device 26 is a receiving device for a positioning signal from a satellite positioning system, for example a GPS receiving device. The receiving device 26 receives road information about the road on which the vehicle is traveling and the surrounding roads, and outputs the received road information to the ECU 30. The road information includes at least road gradient information.

ECU30が提供する機能は、実体的なメモリ装置に記録されたソフトウェア及びそれを実行するコンピュータ、ソフトウェアのみ、ハードウェアのみ、あるいはそれらの組合せによって提供することができる。例えば、ECU30がハードウェアである電子回路によって提供される場合、それは多数の論理回路を含むデジタル回路、又はアナログ回路によって提供することができる。例えば、ECU30は、自身が備える記憶部としての非遷移的実体的記録媒体(non-transitory tangible storage medium)に格納されたプログラムを実行する。プログラムには、後述する各演算処理のプログラムが含まれる。プログラムが実行されることにより、プログラムに対応する方法が実行される。記憶部は、例えば不揮発性メモリである。なお、記憶部に記憶されたプログラムは、例えば、インターネット等のネットワークを介して更新可能である。 The functions provided by the ECU 30 can be provided by software recorded in a physical memory device and a computer that executes the software, by software alone, by hardware alone, or by a combination of these. For example, when the ECU 30 is provided by an electronic circuit that is hardware, it can be provided by a digital circuit including a large number of logic circuits, or an analog circuit. For example, the ECU 30 executes a program stored in a non-transitory tangible storage medium that serves as a storage unit that the ECU 30 has. The program includes programs for each arithmetic process, which will be described later. When the program is executed, a method corresponding to the program is performed. The storage unit is, for example, a non-volatile memory. The programs stored in the storage unit can be updated, for example, via a network such as the Internet.

ECU30は、入力情報に基づいて、自車両の周辺に存在する物体を認識する物体認識処理を行う。物体認識処理では、少なくとも自車両から当該物体までの距離が認識される。物体には、四輪自動車、バイク、自転車、人(歩行者)等が含まれる。なお、物体認識処理については後述する。 Based on the input information, the ECU 30 performs object recognition processing to recognize objects present around the vehicle. In the object recognition processing, at least the distance from the vehicle to the object is recognized. Objects include four-wheeled vehicles, motorbikes, bicycles, people (pedestrians), etc. The object recognition processing will be described later.

ECU30は、物体認識処理の結果に基づいて、走行支援制御を行う。本実施形態では、ECU30は、走行支援制御として、物体との衝突を抑制する衝突抑制動作を行う。 The ECU 30 performs driving assistance control based on the results of the object recognition process. In this embodiment, the ECU 30 performs a collision prevention operation to prevent a collision with an object as driving assistance control.

ECU30は、自車両の前方に存在する物体に対する衝突予測時間TTC(Time to collision)が所定の閾値を下回った場合に、衝突抑制動作の実施条件が成立することとしている。衝突予測時間TTCとは、現在の自車速度で走行した場合に、何秒後に物体に衝突するかを示す評価値であり、衝突予測時間TTCが小さいほど衝突の危険性は高くなり、衝突予測時間TTCが大きいほど衝突の危険性は低くなる。衝突予測時間TTCは、例えば、自車両に対する物体の相対距離を、自車両に対する物体の相対速度で除算した値である。 The ECU 30 determines that the condition for performing collision prevention operation is met when the collision prediction time TTC (Time to Collision) for an object in front of the vehicle falls below a predetermined threshold. The collision prediction time TTC is an evaluation value that indicates how many seconds it will take for the vehicle to collide with an object if traveling at the current vehicle speed. The smaller the collision prediction time TTC, the higher the risk of collision, and the larger the collision prediction time TTC, the lower the risk of collision. The collision prediction time TTC is, for example, a value obtained by dividing the relative distance of the object to the vehicle by the relative speed of the object to the vehicle.

ECU30は、衝突抑制動作として、警報装置41、アクセル装置42、ブレーキ装置43及び操舵装置44を含む被制御装置40を作動させる。警報装置41は、自車両の運転者に対する警報を行う装置であって、例えば車室内に設置されたスピーカやブザーなどの聴覚的な報知を行う装置、ディスプレイや警告灯などの視覚的な報知を行う装置である。アクセル装置42は、車両動力源としてのエンジンやモータであり、自車両に駆動力を付与する装置である。ブレーキ装置43は、油圧アクチュエータ等の作動により自車両の制動を行う装置である。操舵装置44は、操舵用モータ等の作動により自車両の操舵を行う装置である。本実施形態では、ECU30は、衝突抑制動作として、ブレーキ装置43による自車両の制動を行う。 The ECU 30 operates the controlled devices 40, including the warning device 41, accelerator device 42, brake device 43, and steering device 44, as a collision prevention operation. The warning device 41 is a device that issues a warning to the driver of the vehicle, and is, for example, a device that issues an auditory notification such as a speaker or buzzer installed in the vehicle cabin, or a device that issues a visual notification such as a display or warning light. The accelerator device 42 is an engine or motor as a vehicle power source, and is a device that applies driving force to the vehicle. The brake device 43 is a device that brakes the vehicle by operating a hydraulic actuator or the like. The steering device 44 is a device that steers the vehicle by operating a steering motor or the like. In this embodiment, the ECU 30 brakes the vehicle by the brake device 43 as a collision prevention operation.

以下、ECU30が行う物体認識処理について説明する。ECU30は、物体認識処理として、撮像装置22により撮像された画像を取得し、その画像内に存在する物体について自車両からの距離を算出する画像認識処理を行う。本実施形態では、ECU30は、種別認識部31、設定部32、第1算出部33、第2算出部34及び実距離算出部35を備える。なお、以下では、図2を用いつつ画像認識処理の説明を行う。図2は、自車両の進行方向前方を撮像した画像Gの一例である。画像G内には、物体として、人50が撮像されている。 The object recognition process performed by the ECU 30 will be described below. As part of the object recognition process, the ECU 30 performs image recognition processing to acquire an image captured by the imaging device 22 and calculate the distance from the vehicle to objects present in the image. In this embodiment, the ECU 30 includes a type recognition unit 31, a setting unit 32, a first calculation unit 33, a second calculation unit 34, and an actual distance calculation unit 35. The image recognition process will be described below with reference to FIG. 2. FIG. 2 is an example of an image G captured in front of the vehicle in the direction of travel. A person 50 is captured in the image G as an object.

種別認識部31は、画像内における物体の種別を認識する。本実施形態では、種別認識部31は、画像内の物体を囲う矩形領域を抽出するとともに、矩形領域内の画像について、物体種別の確からしさを示す種別スコアを算出する。種別認識部31は、複数の種別認識対象(例えば、バス、トラック、普通自動車、バイク、自転車、大人及び子供等)を予め定めておき、その認識対象を定義した学習データを用いて、矩形領域内の画像について個々に種別スコアを算出する。学習データの様態は任意であるが、例えばディープラーニングによって生成された学習データを用いるとよい。種別スコアは、矩形領域内の画像ごとに、いずれの種別に該当するかの確率で表されるものであるとよい。図2では、種別認識部31は、画像G内における人50を囲う矩形領域Rを抽出するとともに、人50の種別スコアを、「子供:85%」、「大人:10%」、「それ以外の物体:5%」のように算出する。この場合、種別認識部31は、種別スコアの子供である確率が最も高いため、人50の種別を子供として認識する。なお、種別認識部31は、種別スコアに基づいて物体の種別を認識することに代えて、矩形領域内の画像に対してテンプレートマッチング処理を行うことにより、物体の種別を認識してもよい。 The type recognition unit 31 recognizes the type of object in the image. In this embodiment, the type recognition unit 31 extracts a rectangular area surrounding an object in the image, and calculates a type score indicating the likelihood of the object type for the image in the rectangular area. The type recognition unit 31 predetermines multiple type recognition targets (e.g., buses, trucks, ordinary cars, motorcycles, bicycles, adults, children, etc.), and calculates a type score for each image in the rectangular area using learning data that defines the recognition targets. The form of the learning data is arbitrary, but it is preferable to use learning data generated by deep learning, for example. The type score may be expressed as the probability that each image in the rectangular area corresponds to a certain type. In FIG. 2, the type recognition unit 31 extracts a rectangular area R surrounding a person 50 in the image G, and calculates the type score of the person 50 as "child: 85%", "adult: 10%", and "other objects: 5%". In this case, the type recognition unit 31 recognizes the type of person 50 as a child because the type score indicates the highest probability of being a child. Note that instead of recognizing the type of object based on the type score, the type recognition unit 31 may recognize the type of object by performing template matching processing on the image within the rectangular area.

なお、種別認識部31は、例えば、画像内の各画素に対して動きベクトルを算出し、同じ向きと大きさの動きベクトルを備える画素の集まりを同一の物体を構成する画素であるとして、物体を囲う矩形領域を抽出すればよい。動きベクトルは、画像内の物体を構成する各画素における時系列での変化方向と大きさとを示すベクトルである。 The type recognition unit 31 may, for example, calculate a motion vector for each pixel in the image, and extract a rectangular area surrounding the object by considering a group of pixels with motion vectors of the same direction and magnitude as pixels that constitute the same object. A motion vector is a vector that indicates the direction and magnitude of change over time in each pixel that constitutes an object in the image.

設定部32は、画像内における物体の実際の大きさの基準値である大きさ基準値を設定する。大きさ基準値は、物体の種別ごとに予め定められている。本実施形態では、設定部32は、大きさ基準値として、物体の種別に対応した物体の高さ幅値を設定する。設定部32は、高さ幅値として、大人に対して1.7m、子供に対して1.2m、普通自動車に対して2.0m、バス等の大型車に対して3.5mを対応付ける。図2では、設定部32は、子供として認識した人50の大きさ基準値を1.2mに設定する。なお、設定部32は、大きさ基準値として、物体の高さ幅値に代えて、物体の種別に対応した物体の横幅値を設定してもよい。 The setting unit 32 sets a size reference value that is a reference value for the actual size of an object in an image. The size reference value is determined in advance for each type of object. In this embodiment, the setting unit 32 sets the height width value of an object corresponding to the type of object as the size reference value. The setting unit 32 associates the height width value with 1.7 m for adults, 1.2 m for children, 2.0 m for regular cars, and 3.5 m for large vehicles such as buses. In FIG. 2, the setting unit 32 sets the size reference value of a person 50 recognized as a child to 1.2 m. Note that the setting unit 32 may set the width value of an object corresponding to the type of object instead of the height width value of the object as the size reference value.

第1算出部33は、画像内における物体の下端部分の位置である下端位置に基づいて、自車両から物体までの距離を第1距離として算出する。本実施形態では、図2に示すように、第1算出部33は、人50の下端位置と、撮像装置22の無限遠点FOEとの隔たりに対応する画素数Lに基づいて、第1距離を算出する。第1算出部33は、画素数Lが小さい場合に、画素数Lが大きい場合に比べて第1距離を長く算出する。なお、第1算出部33は、画素数Lに代えて、人50の下端位置と画像Gの下端位置との隔たりに対応する画素数に基づいて、第1距離を算出してもよい。この場合、第1算出部33は、人50の下端位置と画像Gの下端位置との隔たりに対応する画素数が大きい場合に、当該画素数が小さい場合に比べて第1距離を長く算出すればよい。 The first calculation unit 33 calculates the distance from the vehicle to the object as the first distance based on the bottom position, which is the position of the bottom end of the object in the image. In this embodiment, as shown in FIG. 2, the first calculation unit 33 calculates the first distance based on the number of pixels L corresponding to the distance between the bottom end position of the person 50 and the point at infinity FOE of the imaging device 22. When the number of pixels L is small, the first calculation unit 33 calculates the first distance to be longer than when the number of pixels L is large. Note that the first calculation unit 33 may calculate the first distance based on the number of pixels corresponding to the distance between the bottom end position of the person 50 and the bottom end position of the image G instead of the number of pixels L. In this case, when the number of pixels corresponding to the distance between the bottom end position of the person 50 and the bottom end position of the image G is large, the first calculation unit 33 may calculate the first distance to be longer than when the number of pixels is small.

第2算出部34は、画像内における物体の大きさと、設定部32により設定された物体の大きさ基準値とに基づいて、自車両から物体までの距離を第2距離として算出する。第2算出部34は、物体の大きさ基準値が同一であれば、画像内における物体の大きさが大きい場合に、画像内における物体の大きさが小さい場合に比べて第2距離を短く算出する。また、第2算出部34は、画像内における物体の大きさが同一であれば、物体の大きさ基準値が小さい場合に、物体の大きさ基準値が大きい場合に比べて第2距離を短く算出する。本実施形態では、図2に示すように、第2算出部34は、画像内における物体の大きさとして、矩形領域Rの上端位置から下端位置までの隔たりに対応する画素数Hを用いる。なお、第2算出部34は、画像内における物体の大きさとして、画素数Hに代えて、矩形領域Rの左端位置から右端位置までの隔たりに対応する画素数を用いてもよい。 The second calculation unit 34 calculates the distance from the vehicle to the object as the second distance based on the size of the object in the image and the size reference value of the object set by the setting unit 32. If the size reference value of the object is the same, the second calculation unit 34 calculates the second distance to be shorter when the size of the object in the image is large than when the size of the object in the image is small. Also, if the size of the object in the image is the same, the second calculation unit 34 calculates the second distance to be shorter when the size reference value of the object is small than when the size reference value of the object is large. In this embodiment, as shown in FIG. 2, the second calculation unit 34 uses the number of pixels H corresponding to the distance from the top end position to the bottom end position of the rectangular region R as the size of the object in the image. Note that the second calculation unit 34 may use the number of pixels corresponding to the distance from the left end position to the right end position of the rectangular region R instead of the number of pixels H as the size of the object in the image.

実距離算出部35は、第1距離と第2距離とに基づいて、自車両から物体までの実際の距離を実距離として算出する。実距離は、例えば、衝突抑制動作において、衝突予測時間TTCの算出に用いられる。本実施形態では、実距離算出部35は、実距離として、第1距離及び第2距離の平均値を算出する。 The actual distance calculation unit 35 calculates the actual distance from the vehicle to the object based on the first distance and the second distance. The actual distance is used, for example, to calculate the collision prediction time TTC in the collision prevention operation. In this embodiment, the actual distance calculation unit 35 calculates the average value of the first distance and the second distance as the actual distance.

ここで、画像内における物体の下端位置に基づいて算出される第1距離と、画像内における物体の大きさに基づいて算出される第2距離とが用いられ、自車両から物体までの実距離が算出される構成では、これらいずれか一方により実距離が算出される場合に比べて、実距離の精度を高めることができる。ただし、自車両の走行状況によっては、第1距離及び第2距離のうち少なくとも一方の精度が低下し、実距離の精度低下が生じることが考えられる。 In this configuration, the first distance calculated based on the bottom edge position of the object in the image and the second distance calculated based on the size of the object in the image are used to calculate the actual distance from the vehicle to the object, and the accuracy of the actual distance can be improved compared to when the actual distance is calculated using only one of these distances. However, depending on the driving conditions of the vehicle, the accuracy of at least one of the first distance and the second distance may decrease, resulting in a decrease in the accuracy of the actual distance.

そこで、本実施形態では、ECU30は、実距離の信頼度を判定すべく、信頼度判定部36を備える。信頼度判定部36は、第1距離と第2距離との距離差に基づいて、実距離の信頼度を判定する。ここで、第1距離と第2距離との距離差は、第1距離と第2距離との差の絶対値である。 Therefore, in this embodiment, the ECU 30 includes a reliability determination unit 36 to determine the reliability of the actual distance. The reliability determination unit 36 determines the reliability of the actual distance based on the distance difference between the first distance and the second distance. Here, the distance difference between the first distance and the second distance is the absolute value of the difference between the first distance and the second distance.

図3に、ECU30が実施する画像認識処理の処理手順を示す。この処理は、所定周期で繰り返し実施される。 Figure 3 shows the procedure for the image recognition process performed by the ECU 30. This process is repeated at a predetermined interval.

ステップS10では、撮像装置22により撮像された画像及び走行状況情報を取得する。走行状況情報は、自車両のピッチ角に関する情報及び自車両が走行する道路の勾配に関する情報である。自車両が走行する道路の勾配に関する情報は、例えば、受信装置26から取得する道路情報である。自車両のピッチ角に関する情報は、例えば、角度センサ25のピッチ角信号である。本実施形態において、ステップS10が「取得部」に相当する。 In step S10, the image captured by the imaging device 22 and driving condition information are acquired. The driving condition information is information related to the pitch angle of the vehicle and information related to the gradient of the road on which the vehicle is traveling. The information related to the gradient of the road on which the vehicle is traveling is, for example, road information acquired from the receiving device 26. The information related to the pitch angle of the vehicle is, for example, the pitch angle signal of the angle sensor 25. In this embodiment, step S10 corresponds to the "acquisition unit."

ステップS11では、第1距離D1を算出する。本実施形態では、画像内における物体の下端位置と、撮像装置22の無限遠点FOEとの隔たりに対応する画素数に基づいて、第1距離D1を算出する。 In step S11, the first distance D1 is calculated. In this embodiment, the first distance D1 is calculated based on the number of pixels corresponding to the distance between the bottom edge position of the object in the image and the point at infinity FOE of the imaging device 22.

ステップS12では、種別認識処理を行う。本実施形態では、種別認識処理は、画像内における物体を囲う矩形領域を抽出するとともに、矩形領域内の画像の種別スコアに基づいて、物体の種別を認識する処理である。ステップS13では、種別認識処理によって画像内の物体の種別が認識されたか否かの判定を行う。ステップS13において否定判定された場合、ステップS22に進む。一方、ステップS13において肯定判定された場合、ステップS14に進む。 In step S12, a type recognition process is performed. In this embodiment, the type recognition process is a process in which a rectangular area surrounding an object in an image is extracted, and the type of object is recognized based on the type score of the image in the rectangular area. In step S13, it is determined whether or not the type of object in the image has been recognized by the type recognition process. If a negative determination is made in step S13, the process proceeds to step S22. On the other hand, if a positive determination is made in step S13, the process proceeds to step S14.

ステップS14では、画像内における物体の大きさ基準値を設定する。本実施形態では、大きさ基準値として、種別認識処理により認識した物体の種別に対応した物体の高さ幅値を設定する。 In step S14, a size reference value for an object in an image is set. In this embodiment, the size reference value is set to the height and width value of the object corresponding to the type of object recognized by the type recognition process.

ステップS15では、第2距離D2を算出する。本実施形態では、画像内の物体を囲う矩形領域の上端位置から下端位置までの隔たりに対応する画素数と、その物体の大きさ基準値とに基づいて、第2距離D2を算出する。 In step S15, the second distance D2 is calculated. In this embodiment, the second distance D2 is calculated based on the number of pixels corresponding to the distance from the top to bottom of a rectangular area surrounding an object in the image and a reference value for the size of the object.

ステップS16では、画像内の物体が低身長の人であるか否かを判定する。本実施形態では、画像内の物体が人であり、かつ、その大きさ基準値が低身長閾値を下回る場合に、画像内の物体が低身長の人であると判定する。例えば、低身長閾値は、物体種別が大人である場合の大きさ基準値として1.7mが設定され、物体種別が子供である場合の大きさ基準値として1.2mが設定される場合には、1.2mから1.7mまでの間の値に設定されるとよい。 In step S16, it is determined whether the object in the image is a person of short stature. In this embodiment, if the object in the image is a person and its size reference value is below the short stature threshold, the object in the image is determined to be a person of short stature. For example, if 1.7 m is set as the size reference value when the object type is an adult and 1.2 m is set as the size reference value when the object type is a child, the short stature threshold may be set to a value between 1.2 m and 1.7 m.

ステップS16において否定判定した場合、ステップS20に進む。一方、ステップS16において肯定判定した場合、ステップS17に進む。 If the determination in step S16 is negative, the process proceeds to step S20. On the other hand, if the determination in step S16 is positive, the process proceeds to step S17.

ステップS17では、自車両前方において、自車両が走行する道路の勾配が上り勾配及び下り勾配のうちいずれか一方であるか否かを判定する。自車両前方の道路勾配の判定は、走行状況情報のうち少なくとも自車両が走行する道路の勾配に関する情報に基づいて行えばよい。ステップS17において肯定判定した場合、ステップS21に進む。一方、ステップS17において否定判定した場合、ステップS18に進む。 In step S17, it is determined whether the gradient of the road ahead of the vehicle on which the vehicle is traveling is either an upward gradient or a downward gradient. The gradient of the road ahead of the vehicle may be determined based on at least information on the gradient of the road on which the vehicle is traveling, which is included in the driving situation information. If a positive determination is made in step S17, the process proceeds to step S21. On the other hand, if a negative determination is made in step S17, the process proceeds to step S18.

ステップS18では、自車両のピッチングが発生したか否かを判定する。自車両のピッチングには、自車両が加減速することにより発生するピッチングと、自車両が走行する道路環境に起因して瞬間的に発生するピッチングとが含まれる。自車両のピッチングが発生したか否かの判定は、走行状況情報のうち少なくとも自車両のピッチ角に関する情報に基づいて行えばよい。ステップS18において肯定判定した場合、ステップS21に進む。ステップS18において否定判定した場合、ステップS19に進む。 In step S18, it is determined whether pitching of the host vehicle has occurred. Pitching of the host vehicle includes pitching that occurs due to acceleration or deceleration of the host vehicle, and pitching that occurs momentarily due to the road environment on which the host vehicle is traveling. The determination of whether pitching of the host vehicle has occurred may be made based on at least information related to the pitch angle of the host vehicle among the driving condition information. If a positive determination is made in step S18, the process proceeds to step S21. If a negative determination is made in step S18, the process proceeds to step S19.

ステップS19では、実距離の信頼度判定を行う。本実施形態では、第1距離D1と第2距離D2と差の絶対値である距離差ΔDが、距離差閾値Dth以下であるか否かを判定することにより、実距離の信頼度判定を行う。ここで、距離差閾値Dthは固定値である。ステップS19において肯定判定した場合、ステップS20に進み、実距離の信頼度が高いと判定する。一方、ステップS19において否定判定した場合、ステップS21に進み、実距離の信頼度が低いと判定する。 In step S19, the reliability of the actual distance is determined. In this embodiment, the reliability of the actual distance is determined by determining whether the distance difference ΔD, which is the absolute value of the difference between the first distance D1 and the second distance D2, is equal to or less than the distance difference threshold Dth. Here, the distance difference threshold Dth is a fixed value. If the determination is positive in step S19, the process proceeds to step S20, where it is determined that the reliability of the actual distance is high. On the other hand, if the determination is negative in step S19, the process proceeds to step S21, where it is determined that the reliability of the actual distance is low.

本実施形態では、ステップS20において実距離の信頼度が高いと判定した場合、ステップS22に進み、第1距離D1と第2距離D2との平均値である実距離を、画像認識処理の処理結果として採用する。この場合、例えば、衝突抑制動作において、衝突予測時間TTCの算出に実距離が用いられる。一方、ステップS21において実距離の信頼度が低いと判定した場合、ステップS23に進み、実距離を、画像認識処理の処理結果として採用しない。この場合、例えば、衝突抑制動作において、衝突予測時間TTCの算出には、レーダ装置21により検知された物体との距離及び相対速度が用いられる。 In this embodiment, if it is determined in step S20 that the reliability of the actual distance is high, the process proceeds to step S22, where the actual distance, which is the average value of the first distance D1 and the second distance D2, is adopted as the processing result of the image recognition process. In this case, for example, in the collision prevention operation, the actual distance is used to calculate the collision prediction time TTC. On the other hand, if it is determined in step S21 that the reliability of the actual distance is low, the process proceeds to step S23, where the actual distance is not adopted as the processing result of the image recognition process. In this case, for example, in the collision prevention operation, the distance and relative speed to the object detected by the radar device 21 are used to calculate the collision prediction time TTC.

以上詳述した本実施形態によれば、以下の効果が得られるようになる。 The present embodiment described above provides the following advantages:

第1距離D1と第2距離D2との距離差ΔDに基づいて、実距離の信頼度を判定する構成とした。この場合、第1距離D1と第2距離D2との距離差ΔDが大きければ、それら各距離D1,D2のいずれかの精度が低下している可能性があり、その距離差ΔDを把握することで、実距離の信頼度を適正に判定することができる。 The reliability of the actual distance is determined based on the distance difference ΔD between the first distance D1 and the second distance D2. In this case, if the distance difference ΔD between the first distance D1 and the second distance D2 is large, the accuracy of either of the distances D1 and D2 may be reduced, and by understanding the distance difference ΔD, the reliability of the actual distance can be properly determined.

物体の大きさ基準値が、物体の実際の大きさよりも小さく設定されることが考えられる。例えば、物体としての人の種別が、実際は大人であるにもかかわらず子供であると誤って判定されてしまうことが考えられる。この場合、物体の大きさ基準値が、物体の実際の大きさよりも小さく設定され、第2距離D2が実際の距離よりも短く算出されることが懸念される。 It is possible that the reference value for the size of an object is set smaller than the actual size of the object. For example, it is possible that the type of person as an object is erroneously determined to be a child when in fact the person is an adult. In this case, there is a concern that the reference value for the size of an object is set smaller than the actual size of the object, and the second distance D2 is calculated to be shorter than the actual distance.

この点を考慮し、物体の大きさ基準値に基づいて、実距離の信頼度判定を行うか否かを判定する構成とした。詳しくは、画像内の物体が人であり、かつ、その大きさ基準値が低身長閾値を下回る場合に、画像内の物体が低身長の人であると判定される。画像内の物体が低身長の人であると判定された場合に、自車両が走行する道路の勾配、自車両のピッチングの発生及び距離差ΔDによる実距離の信頼度判定が行われる。これにより、物体の大きさ基準値が誤って設定されることにより、第2距離D2が実際よりも短く算出され、不要な衝突抑制動作が実施されることが懸念される状況において、実距離の信頼度を判定することができる。 Taking this into consideration, the system is configured to determine whether or not to perform a reliability determination of the actual distance based on the size reference value of the object. In more detail, if the object in the image is a person and its size reference value is below the short height threshold, the object in the image is determined to be a short person. If the object in the image is determined to be a short person, the reliability of the actual distance is determined based on the gradient of the road on which the vehicle is traveling, the occurrence of pitching of the vehicle, and the distance difference ΔD. This makes it possible to determine the reliability of the actual distance in a situation where there is concern that an incorrectly set size reference value for the object will cause the second distance D2 to be calculated as shorter than the actual distance, resulting in unnecessary collision prevention operations being performed.

自車両にピッチングが発生している状況、又は自車両前方において自車両が走行する道路が勾配を有する状況では、画像内の物体における下端位置に基づいて算出される第1距離D1に誤差が生じる可能性が高い。この場合、実距離の信頼度判定を適切に実施できないことが懸念される。 When the vehicle is pitching or the road ahead of the vehicle has a slope, there is a high possibility that an error will occur in the first distance D1 calculated based on the bottom end position of the object in the image. In this case, there is a concern that the reliability of the actual distance cannot be appropriately determined.

そこで、本実施形態では、走行状況情報に基づいて、実距離の信頼度判定を行うか否かが判定される。これにより、実距離の信頼度判定を適切に実施できない状況において、実距離の信頼度判定が行われることを抑制することができる。 Therefore, in this embodiment, it is determined whether or not to perform a reliability determination of the actual distance based on the driving situation information. This makes it possible to prevent a reliability determination of the actual distance from being performed in a situation in which the reliability determination of the actual distance cannot be performed appropriately.

<第2実施形態>
以下、第2実施形態について、第1実施形態との相違点を中心に説明する。第1実施形態では、信頼度判定部36による判定結果に基づいて、第1距離D1と第2距離D2との平均値である実距離を、画像認識処理の処理結果として採用するか否かが判定された。これに対して、本実施形態では、信頼度判定部36による判定結果に基づいて、画像認識処理の処理結果として採用される実距離の値が変更される。
Second Embodiment
The second embodiment will be described below, focusing on the differences from the first embodiment. In the first embodiment, whether or not to adopt the actual distance, which is the average value of the first distance D1 and the second distance D2, as the processing result of the image recognition process was determined based on the determination result by the reliability determination unit 36. In contrast, in this embodiment, the value of the actual distance adopted as the processing result of the image recognition process is changed based on the determination result by the reliability determination unit 36.

図4に、ECU30が実施する画像認識処理の処理手順を示す。この処理は、所定周期で繰り返し実施される。なお、図4では、図3と重複する処理について同じステップ番号を付している。 Figure 4 shows the procedure for the image recognition process performed by the ECU 30. This process is repeated at a predetermined interval. Note that in Figure 4, the same step numbers are used for processes that overlap with Figure 3.

ステップS13において否定判定した場合、第2距離D2の精度が低下するため、ステップS19の処理を適切に行うことができないと判定し、ステップS30に進む。ステップS30では、実距離の信頼度が低いと判定する。この場合、ステップS31において、第1距離D1及び第2距離D2に基づいて算出される実距離を、画像認識処理の処理結果として採用しない。 If the result of step S13 is negative, it is determined that the accuracy of the second distance D2 is reduced, and therefore it is determined that the processing of step S19 cannot be performed appropriately, and the process proceeds to step S30. In step S30, it is determined that the reliability of the actual distance is low. In this case, in step S31, the actual distance calculated based on the first distance D1 and the second distance D2 is not adopted as the processing result of the image recognition process.

ステップS17において肯定判定した場合、第1距離D1の精度が低下すると判定し、ステップS30に進む。ステップS18において肯定判定した場合も、第1距離D1の精度が低下すると判定し、ステップS30に進む。 If the determination in step S17 is positive, it is determined that the accuracy of the first distance D1 has decreased, and the process proceeds to step S30. If the determination in step S18 is positive, it is also determined that the accuracy of the first distance D1 has decreased, and the process proceeds to step S30.

ステップS13において肯定判定し、かつ、ステップS17~S19において否定判定した場合、ステップS32に進む。ステップS32では、第2距離D2の信頼度が低いと判定する。この場合、ステップS33において、第1距離D1及び第2距離D2のうち第1距離D1を、画像認識処理の処理結果である実距離として採用する。本実施形態において、ステップS13~S15,S17~S20,S22,S30~S33が「変更部」に相当する。 If the answer is positive in step S13 and negative in steps S17 to S19, the process proceeds to step S32. In step S32, it is determined that the reliability of the second distance D2 is low. In this case, in step S33, of the first distance D1 and the second distance D2, the first distance D1 is adopted as the actual distance, which is the processing result of the image recognition process. In this embodiment, steps S13 to S15, S17 to S20, S22, and S30 to S33 correspond to the "change unit."

本実施形態では、ステップS19の処理において、距離差閾値Dthとして、画像内の物体の種別に応じて異なる値を用いる。詳しくは、種別認識処理により認識された種別が人種別である場合において実距離の信頼度判定に用いる距離差閾値Dthの値を、種別認識処理より認識された種別が車両種別である場合において実距離の信頼度判定に用いる距離差閾値Dthの値よりも小さくする。ここで、人種別には、人であると認識される種別であって、例えば大人及び子供等が含まれる。また、車両種別には、車両であると認識される種別であって、例えば普通自動車、トラック及びバス等が含まれる。 In this embodiment, in the process of step S19, a different value is used as the distance difference threshold Dth depending on the type of object in the image. In detail, the value of the distance difference threshold Dth used to determine the reliability of the actual distance when the type recognized by the type recognition process is a human type is set to be smaller than the value of the distance difference threshold Dth used to determine the reliability of the actual distance when the type recognized by the type recognition process is a vehicle type. Here, the human type is a type recognized as a person, such as an adult and a child. Also, the vehicle type is a type recognized as a vehicle, such as a passenger car, a truck, a bus, etc.

以上詳述した本実施形態によれば、以下の効果が得られるようになる。 The present embodiment described above provides the following advantages:

本実施形態によれば、距離差ΔD、物体の種別及び走行状況情報に基づいて、実距離の信頼度の低下要因が判定される。実距離の信頼度の低下要因が、第2距離D2の信頼度低下であると判定された場合、画像認識処理の処理結果である実距離として第1距離D1が採用される。これにより、実距離の信頼度が低下する状況であっても、実距離の精度低下を抑制しつつ、第1距離D1及び第2距離D2に基づいて実距離を算出することができる。 According to this embodiment, the cause of the decrease in the reliability of the actual distance is determined based on the distance difference ΔD, the type of object, and the driving situation information. If it is determined that the cause of the decrease in the reliability of the actual distance is a decrease in the reliability of the second distance D2, the first distance D1 is adopted as the actual distance, which is the processing result of the image recognition process. As a result, even in a situation where the reliability of the actual distance decreases, the actual distance can be calculated based on the first distance D1 and the second distance D2 while suppressing a decrease in the accuracy of the actual distance.

ステップS12の種別認識処理において、少なくとも、大きさが異なる複数の人種別と、大きさが異なる複数の車両種別とを区別して認識することが考えられる。この場合、対象物体としての人について人種別が誤認識されること、及び対象物体としての車両について車両種別が誤認識されることがあると考えられる。例えば、対象物体としての人の種別が、実際は大人であるにもかかわらず、誤って子供と認識されたり、対象物体としての車両の種別が、実際はバスであるにもかかわらず、誤って普通自動車と認識されたりすることがあると考えられる。人種別や車両種別が誤認識されると、対象物体の大きさ基準値が誤って設定され、第2距離D2の精度が低下し、距離差ΔDが大きくなる。 In the type recognition process in step S12, it is considered that at least a plurality of different sizes of people types and a plurality of different sizes of vehicle types are recognized by distinguishing between them. In this case, it is considered that the race type of the person as the target object may be erroneously recognized, and the vehicle type of the vehicle as the target object may be erroneously recognized. For example, it is considered that the type of the person as the target object may be erroneously recognized as a child when it is actually an adult, and the type of the vehicle as the target object may be erroneously recognized as a passenger car when it is actually a bus. When the race type or vehicle type is erroneously recognized, the size reference value of the target object is set incorrectly, the accuracy of the second distance D2 decreases, and the distance difference ΔD increases.

ただし、この場合、人種別の区別を行う際の大きさの違いと、車両種別の区別を行う際の大きさの違いとを比べると、前者の方が、違いが小さい。そのため、仮に距離差閾値Dthとして一定の値を用いると、対象物体の種別が人種別に含まれる場合において、信頼度判定の際に高信頼度であるとの誤判定が生じることが懸念される。 However, in this case, the difference in size when distinguishing by race is smaller than the difference in size when distinguishing by vehicle type. Therefore, if a fixed value is used as the distance difference threshold Dth, there is a concern that when the type of target object is included in the race type, the reliability determination may be erroneously determined to be high reliability.

そこで、本実施形態では、種別認識処理により認識された種別が人種別である場合において実距離の信頼度判定に用いる距離差閾値Dthの値が、種別認識処理より認識された種別が車両種別である場合において実距離の信頼度判定に用いる距離差閾値Dthの値よりも小さくされる。これにより、対象物体の種別が人種別である場合において、人種別の誤認識が発生することにより生じる実距離の信頼度低下を適切に判定することができる。 Therefore, in this embodiment, the value of the distance difference threshold Dth used to determine the reliability of the actual distance when the type recognized by the type recognition process is a race type is made smaller than the value of the distance difference threshold Dth used to determine the reliability of the actual distance when the type recognized by the type recognition process is a vehicle type. This makes it possible to appropriately determine the decrease in reliability of the actual distance caused by erroneous recognition of race when the type of the target object is a race type.

<他の実施形態>
上記実施形態を例えば次のように変更してもよい。
<Other embodiments>
The above embodiment may be modified, for example, as follows.

・上記実施形態では、設定部32は、種別認識部31により認識された物体の種別に基づいて、画像内の物体について大きさ基準値を設定したが、これを変更してもよい。 - In the above embodiment, the setting unit 32 sets a size reference value for an object in an image based on the type of object recognized by the type recognition unit 31, but this may be changed.

設定部32は、第1算出部33により算出された第1距離及び画像内における物体の大きさに基づいて、物体の実際の大きさを推定するとともに、その推定値に基づいて、物体の大きさ基準値を設定してもよい。この場合、設定部32は、画像内における物体の大きさが同一であれば、画像内の物体の下端位置に基づく第1距離が長い場合に、第1距離が短い場合に比べて物体の大きさの推定値を大きく推定すればよい。また、設定部32は、第1距離が同一であれば、画像内における物体の大きさが大きい場合に、画像内における物体の大きさが小さい場合に比べて物体の大きさの推定値を大きく推定すればよい。設定部32は、物体の大きさとして想定される値であるカテゴリ値のうち、物体の大きさの推定値に最も近いカテゴリ値を物体の大きさ基準値として選択すればよい。 The setting unit 32 may estimate the actual size of the object based on the first distance calculated by the first calculation unit 33 and the size of the object in the image, and may set the object size reference value based on the estimated value. In this case, if the size of the object in the image is the same, when the first distance based on the bottom end position of the object in the image is long, the setting unit 32 may estimate the estimated value of the object size to be larger than when the first distance is short. Also, if the first distance is the same, when the size of the object in the image is large, the setting unit 32 may estimate the estimated value of the object size to be larger than when the size of the object in the image is small. The setting unit 32 may select, as the object size reference value, a category value closest to the estimated value of the object size, from among category values that are values assumed to be the size of the object.

本実施形態では、先の図3に示した画像認識処理において、ステップS12,S13の処理を行わなくてもよい。つまり、画像認識処理において、種別認識処理を行うことなく、実距離の算出及び実距離の信頼度判定を行うことができる。 In this embodiment, in the image recognition process shown in FIG. 3, steps S12 and S13 do not need to be performed. In other words, in the image recognition process, the actual distance can be calculated and the reliability of the actual distance can be determined without performing type recognition processing.

・上記実施形態では、衝突抑制動作として、ブレーキ装置43による自車両の制動を行う構成としたが、これを変更してもよい。例えば、衝突抑制動作として、警報装置41による警報及び操舵装置44による自車両の操舵のいずれかを実施する構成であってもよい。 - In the above embodiment, the collision prevention operation is configured to brake the vehicle using the brake device 43, but this may be changed. For example, the collision prevention operation may be configured to either issue a warning using the warning device 41 or steer the vehicle using the steering device 44.

・上記実施形態では、走行支援制御として、衝突抑制動作を行う構成としたが、これを変更してもよい。例えば、走行支援制御として、ACC(Adaptive Cruise Control)制御を行う構成としてもよい。ACC制御は、自車両の進行方向前方を走行する他車両が先行車両として選出され、アクセル装置42、ブレーキ装置43及び操舵装置44を用いて自車両が制御されることにより、先行車両に対して追従走行が行われる制御である。また、例えば、走行支援制御として、物体認識処理によって認識された自車両から物体までの距離を、ディスプレイ等に表示してもよい。 - In the above embodiment, the driving assistance control is configured to perform a collision prevention operation, but this may be changed. For example, the driving assistance control may be configured to perform ACC (Adaptive Cruise Control). ACC control is a control in which another vehicle traveling ahead of the host vehicle in the direction of travel is selected as a preceding vehicle, and the host vehicle is controlled using the accelerator device 42, the brake device 43, and the steering device 44 to follow the preceding vehicle. In addition, for example, the driving assistance control may be to display on a display or the like the distance from the host vehicle to an object recognized by object recognition processing.

・本開示に記載の車両制御装置及びその手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリを構成することによって提供された専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の車両制御装置及びその手法は、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。もしくは、本開示に記載の車両制御装置及びその手法は、一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリと一つ以上のハードウェア論理回路によって構成されたプロセッサとの組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されていてもよい。 The vehicle control device and the method thereof described in the present disclosure may be realized by a dedicated computer provided by configuring a processor and memory programmed to execute one or more functions embodied in a computer program. Alternatively, the vehicle control device and the method thereof described in the present disclosure may be realized by a dedicated computer provided by configuring a processor with one or more dedicated hardware logic circuits. Alternatively, the vehicle control device and the method thereof described in the present disclosure may be realized by one or more dedicated computers configured by combining a processor and memory programmed to execute one or more functions with a processor configured with one or more hardware logic circuits. In addition, the computer program may be stored in a computer-readable non-transient tangible recording medium as instructions executed by the computer.

22…撮像装置、30…ECU、33…第1算出部、34…第2算出部、35…実距離算出部、36…信頼度判定部、50…人。 22...imaging device, 30...ECU, 33...first calculation unit, 34...second calculation unit, 35...actual distance calculation unit, 36...reliability determination unit, 50...person.

Claims (6)

撮像装置(22)により撮像された画像を取得し、その画像内に存在する物体(50)について自車両からの距離を算出する物体認識装置(30)であって、
前記画像内における前記物体の下端部分の位置である下端位置に基づいて、前記自車両から前記物体までの距離を第1距離として算出する第1算出部(33)と、
前記画像内における前記物体の大きさに基づいて、前記自車両から前記物体までの距離を第2距離として算出する第2算出部(34)と、
前記第1距離と前記第2距離とに基づいて、前記自車両から前記物体までの実際の距離を実距離として算出する実距離算出部(35)と、
前記第1距離と前記第2距離との距離差に基づいて、前記実距離の信頼度を判定する信頼度判定部(36)と、
を備える物体認識装置。
An object recognition device (30) that acquires an image captured by an imaging device (22) and calculates a distance from a vehicle to an object (50) present in the image,
a first calculation unit (33) that calculates a distance from the host vehicle to the object as a first distance based on a bottom end position that is a position of a bottom end portion of the object in the image;
a second calculation unit (34) that calculates a distance from the host vehicle to the object as a second distance based on a size of the object in the image;
an actual distance calculation unit (35) that calculates an actual distance from the host vehicle to the object based on the first distance and the second distance;
a reliability determination unit (36) that determines the reliability of the actual distance based on a distance difference between the first distance and the second distance;
An object recognition device comprising:
前記物体の実際の大きさの基準値である大きさ基準値を設定する設定部(32)を備え、
前記第2算出部は、前記画像内における前記物体の大きさと、前記設定部により設定された前記物体の前記大きさ基準値とに基づいて、前記第2距離を算出し、
前記信頼度判定部は、前記物体の前記大きさ基準値に基づいて、当該物体の前記実距離の信頼度判定を行うか否かを判定する、請求項1に記載の物体認識装置。
A setting unit (32) for setting a size reference value which is a reference value of the actual size of the object,
the second calculation unit calculates the second distance based on a size of the object in the image and the size reference value of the object set by the setting unit;
The object recognition device according to claim 1 , wherein the reliability determining unit determines whether or not to determine the reliability of the actual distance to the object based on the size reference value of the object.
前記自車両のピッチ角に関する情報及び前記自車両が走行する道路の勾配に関する情報のうち少なくとも一方である前記自車両の走行状況情報を取得する取得部を備え、
前記信頼度判定部は、前記走行状況情報に基づいて、前記実距離の信頼度判定を行うか否かを判定する、請求項1又は2に記載の物体認識装置。
an acquisition unit that acquires driving status information of the host vehicle, the driving status information being at least one of information regarding a pitch angle of the host vehicle and information regarding a gradient of a road on which the host vehicle is traveling;
The object recognition device according to claim 1 , wherein the reliability determination unit determines whether or not to perform a reliability determination of the actual distance based on the traveling condition information.
対象物体として人と車両とを含み、物体の種別認識として、少なくとも、大きさが異なる複数の人種別と、大きさが異なる複数の車両種別とを区別して認識する種別認識部(31)を備え、
前記第2算出部は、前記画像内における前記物体の大きさと、前記種別認識部により認識された種別とに基づいて、前記第2距離を算出し、
前記信頼度判定部は、
前記距離差が閾値よりも大きければ前記実距離の信頼度が低いと判定し、前記距離差が前記閾値よりも小さければ前記実距離の信頼度が高いと判定するものであり、
前記種別認識部により認識された種別が人である場合において前記実距離算出部により算出された前記実距離の信頼度判定に用いる前記閾値を、前記種別認識部により認識された種別が車両である場合において前記実距離算出部により算出された前記実距離の信頼度判定に用いる前記閾値よりも小さくする、請求項1に記載の物体認識装置。
The system includes a type recognition unit (31) that includes people and vehicles as target objects and recognizes, as object type recognition, at least a plurality of human types having different sizes and a plurality of vehicle types having different sizes by distinguishing between them,
The second calculation unit calculates the second distance based on a size of the object in the image and the type recognized by the type recognition unit;
The reliability determination unit is
If the distance difference is greater than a threshold, it is determined that the reliability of the actual distance is low, and if the distance difference is smaller than the threshold, it is determined that the reliability of the actual distance is high.
2. The object recognition device according to claim 1, wherein the threshold value used to determine the reliability of the actual distance calculated by the actual distance calculation unit when the type recognized by the type recognition unit is a human is set smaller than the threshold value used to determine the reliability of the actual distance calculated by the actual distance calculation unit when the type recognized by the type recognition unit is a vehicle.
前記物体の種別を認識する種別認識部(31)と、
前記自車両のピッチ角及び前記自車両が走行する道路の勾配のうち少なくとも一方である前記自車両の走行状況情報を取得する取得部と、を備え、
前記信頼度判定部は、前記距離差、前記物体の種別及び前記走行状況情報に基づいて、前記実距離の信頼度の低下要因を判定し、
前記低下要因に応じて、前記実距離算出部により算出される前記実距離の値を変更する変更部を備える請求項1に記載の物体認識装置。
A type recognition unit (31) that recognizes the type of the object;
an acquisition unit that acquires driving status information of the host vehicle, the driving status information being at least one of a pitch angle of the host vehicle and a gradient of a road on which the host vehicle is traveling;
The reliability determination unit determines a cause of a decrease in reliability of the actual distance based on the distance difference, the type of the object, and the traveling situation information,
The object recognition device according to claim 1 , further comprising a change unit that changes the value of the actual distance calculated by the actual distance calculation unit in accordance with the cause of the decrease.
制御装置(30)によって実行され、撮像装置(22)により撮像された画像を取得し、その画像内に存在する物体(50)について自車両からの距離を算出するプログラムであって、
前記画像内における前記物体の下端部分の位置である下端位置に基づいて、前記自車両から前記物体までの距離を第1距離として算出する第1算出ステップと、
前記画像内における前記物体の大きさに基づいて、前記自車両から前記物体までの距離を第2距離として算出する第2算出ステップと、
前記第1距離と前記第2距離とに基づいて、前記自車両から前記物体までの実際の距離を実距離として算出する実距離算出ステップと、
前記第1距離と前記第2距離との距離差に基づいて、前記実距離の信頼度を判定する信頼度判定ステップと、
を含むプログラム。
A program executed by a control device (30), acquiring an image captured by an imaging device (22), and calculating a distance from a vehicle to an object (50) present in the image,
a first calculation step of calculating a distance from the host vehicle to the object as a first distance based on a bottom position that is a position of a bottom end portion of the object in the image;
a second calculation step of calculating a distance from the host vehicle to the object as a second distance based on a size of the object in the image;
an actual distance calculation step of calculating an actual distance from the host vehicle to the object based on the first distance and the second distance;
a reliability determination step of determining a reliability of the actual distance based on a distance difference between the first distance and the second distance;
Programs including.
JP2022048607A 2022-03-24 2022-03-24 Object recognition device and program Active JP7700715B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022048607A JP7700715B2 (en) 2022-03-24 2022-03-24 Object recognition device and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022048607A JP7700715B2 (en) 2022-03-24 2022-03-24 Object recognition device and program

Publications (2)

Publication Number Publication Date
JP2023141983A JP2023141983A (en) 2023-10-05
JP7700715B2 true JP7700715B2 (en) 2025-07-01

Family

ID=88205186

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022048607A Active JP7700715B2 (en) 2022-03-24 2022-03-24 Object recognition device and program

Country Status (1)

Country Link
JP (1) JP7700715B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7757904B2 (en) * 2022-08-09 2025-10-22 トヨタ自動車株式会社 Object detection device, object detection method, and computer program for object detection

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002327635A (en) 2001-04-27 2002-11-15 Nissan Motor Co Ltd Travel control device for vehicles
JP2014167677A (en) 2013-02-28 2014-09-11 Fujifilm Corp Inter-vehicle distance calculation device and motion controlling method for the same

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002327635A (en) 2001-04-27 2002-11-15 Nissan Motor Co Ltd Travel control device for vehicles
JP2014167677A (en) 2013-02-28 2014-09-11 Fujifilm Corp Inter-vehicle distance calculation device and motion controlling method for the same

Also Published As

Publication number Publication date
JP2023141983A (en) 2023-10-05

Similar Documents

Publication Publication Date Title
US11097726B2 (en) Lane keeping assist system and method for improving safety in preceding vehicle follower longitudinal control
CN109204311B (en) A vehicle speed control method and device
JP6536521B2 (en) Object detection apparatus and object detection method
JP6190758B2 (en) Object recognition device and vehicle
JP4211809B2 (en) Object detection device
US10037700B2 (en) Driving support apparatus for a vehicle
WO2017111135A1 (en) Travel assistance device and travel assistance method
US9778352B2 (en) Object recognition apparatus
KR20200047886A (en) Driver assistance system and control method for the same
CN107408346B (en) Vehicle control device and vehicle control method
CN110194152B (en) Autonomous emergency braking system and method for a vehicle at an intersection
WO2016159288A1 (en) Target presence determination method and device
CN108137007B (en) Vehicle control device and vehicle control method
US20180246187A1 (en) Object detection apparatus and object detection method
KR20200115827A (en) Driver assistance system, and control method for the same
US20240383479A1 (en) Vehicular sensing system with lateral threat assessment
KR20210029927A (en) RaDAR apparatus, recognizing target Method of RaDAR apparatus, and system for controlling vehicle including it
US10406977B2 (en) Vehicle driving assistance apparatus and vehicle driving assistance method
JP7700715B2 (en) Object recognition device and program
JP2018097689A (en) Vehicle control device and vehicle control method
US12153128B2 (en) Apparatus and method for vehicle control in the presence of temporarily obscured moving obstacles
US11938879B2 (en) Vehicle control device, information processing apparatus, operation methods thereof, and storage medium
JP4872517B2 (en) Obstacle recognition device
KR20220092303A (en) Vehicle and control method thereof
JP7740086B2 (en) Periphery monitoring device and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250520

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250602

R150 Certificate of patent or registration of utility model

Ref document number: 7700715

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150