Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6899673B2 - Object distance detector - Google Patents
[go: Go Back, main page]

JP6899673B2 - Object distance detector - Google Patents

Object distance detector Download PDF

Info

Publication number
JP6899673B2
JP6899673B2 JP2017049343A JP2017049343A JP6899673B2 JP 6899673 B2 JP6899673 B2 JP 6899673B2 JP 2017049343 A JP2017049343 A JP 2017049343A JP 2017049343 A JP2017049343 A JP 2017049343A JP 6899673 B2 JP6899673 B2 JP 6899673B2
Authority
JP
Japan
Prior art keywords
search
setting unit
unit
image
distance detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017049343A
Other languages
Japanese (ja)
Other versions
JP2018151999A (en
Inventor
佐々本 学
学 佐々本
松尾 茂
松尾  茂
野中 進一
進一 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Priority to JP2017049343A priority Critical patent/JP6899673B2/en
Publication of JP2018151999A publication Critical patent/JP2018151999A/en
Application granted granted Critical
Publication of JP6899673B2 publication Critical patent/JP6899673B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、物体距離検出装置に関する。 The present invention relates to an object distance detecting device.

本技術分野の背景技術として、例えば特許文献1には、ステレオカメラによる距離検出における演算量の増大を抑える手法が提案されている。 As a background technique in the present technical field, for example, Patent Document 1 proposes a method of suppressing an increase in the amount of calculation in distance detection by a stereo camera.

具体的には、特許文献1では、画像を縮小し、解像度を落した縮小画像でステレオ距離検出を行い、解像度を落さない画像で領域を区切ってステレオ距離検出を行うことが述べられている。 Specifically, Patent Document 1 describes that an image is reduced, stereo distance detection is performed on a reduced image with a reduced resolution, and stereo distance detection is performed by dividing an area with an image that does not reduce the resolution. ..

特開2015−230703号公報Japanese Unexamined Patent Publication No. 2015-230703

特許文献1に記載の技術は、画像を縮小して解像度を落した画像で距離検出を行うので、演算負荷を低減することができるが、情報量が落ちてしまうので、検出する距離の精度は被写体の距離に関わらず低下してしまうおそれがある。また、画像を縮小するための処理回路が必要となる。 The technique described in Patent Document 1 can reduce the calculation load because the distance is detected on the image whose resolution is reduced by reducing the image, but the amount of information is reduced, so that the accuracy of the detected distance is high. It may decrease regardless of the distance of the subject. In addition, a processing circuit for reducing the image is required.

そこで、本発明は、物体検知精度の向上と演算負荷の低減を両立させることができる物体距離検出装置を提供することを目的とする。 Therefore, an object of the present invention is to provide an object distance detection device capable of achieving both improvement in object detection accuracy and reduction in calculation load.

本発明の物体距離検出装置は、一例として、複数の撮像部と、複数の前記撮像部のうちの一つの前記撮像部で撮影された基準画像内の特定の画像要素に対応する画像要素を、他の前記撮像部で撮影される参照画像内で探索する際の条件を設定する探索条件設定部と、前記探索条件設定部で設定された条件に基づいて前記探索を行い、該探索によって得られる視差に基づいて物体の距離を検出するステレオ距離検出部と、を備え、前記ステレオ距離検出部は、前記探索条件設定部で設定される第1の探索条件に基づいて所定の画像領域の探索を行った後、検出された前記物体の画像領域を、前記基準画像に対する前記参照画像内での探索密度を変化させて設定される第2の探索条件に基づいて探索を行う。 As an example, the object distance detection device of the present invention includes a plurality of imaging units and an image element corresponding to a specific image element in a reference image captured by one of the plurality of imaging units. The search is performed based on the search condition setting unit that sets the conditions for searching in the reference image captured by the other imaging unit and the conditions set by the search condition setting unit, and is obtained by the search. A stereo distance detection unit that detects the distance of an object based on a parallax is provided, and the stereo distance detection unit searches for a predetermined image area based on a first search condition set by the search condition setting unit. After that, the detected image region of the object is searched based on the second search condition set by changing the search density in the reference image with respect to the reference image.

本発明は、物体検知精度の向上と演算負荷の低減を両立させることができる物体距離検出装置を提供することができる。 The present invention can provide an object distance detection device that can achieve both improvement in object detection accuracy and reduction in calculation load.

本発明の実施例における物体距離検出装置の構成を示す図である。It is a figure which shows the structure of the object distance detection apparatus in the Example of this invention. 本発明の実施例で撮像される撮像画像の一例を示す図である。It is a figure which shows an example of the captured image imaged in the Example of this invention. 本発明の実施例で撮像される撮像画像と領域制御の一例を示す図である。It is a figure which shows an example of the captured image and area control imaged in the Example of this invention. 本発明の実施例で指定される探索範囲の指定方法の一例を示す図である。It is a figure which shows an example of the method of specifying the search range specified in the Example of this invention. 本発明の実施例における物体距離検出装置の処理タイミングを示す図である。It is a figure which shows the processing timing of the object distance detection apparatus in the Example of this invention. 本発明の実施例における物体距離検出装置の処理フローを示す図である。It is a figure which shows the processing flow of the object distance detection apparatus in the Example of this invention. 本発明の実施例における撮影画像と認識結果の一例を示す図である。It is a figure which shows an example of the photographed image and the recognition result in the Example of this invention. 本発明の実施例におけるステレオ距離検出部の消費電流の一例を示す図である。It is a figure which shows an example of the current consumption of the stereo distance detection part in the Example of this invention. 本発明の実施例における領域制御の他の例を示す図である。It is a figure which shows another example of area control in the Example of this invention. 本発明の実施例における撮影画像と認識結果の一例を示す図である。It is a figure which shows an example of the photographed image and the recognition result in the Example of this invention. 本発明の別の実施例における物体距離検出装置の構成を示す図である。It is a figure which shows the structure of the object distance detection apparatus in another Example of this invention.

以下、図面を用いて本発明の実施形態を説明する。
図1は、本発明の物体距離検出装置の一実施例の構成を示す図である。1は本実施例の物体距離検出装置であり、例えば車両の前方に搭載され、信号や標識、障害物などを認識して運転者を支援する安全システムの一部として構成するものである。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a diagram showing a configuration of an embodiment of an object distance detecting device of the present invention. Reference numeral 1 denotes an object distance detecting device of the present embodiment, which is mounted in front of a vehicle, for example, and is configured as a part of a safety system that recognizes signals, signs, obstacles, and the like to assist the driver.

101、102は撮像部であり、画像センサに光学レンズが装着されている。これらの撮像部は、所定のタイミングで1枚の画像の撮像を繰り返し、撮像した画像を出力する。撮像部101と撮像部102は、所定の距離で左右に離れて設置され、撮像部101と撮像部102で撮影した画像のずれ、いわゆる視差から、被写体までの距離を算出できる。 Reference numerals 101 and 102 are imaging units, and an optical lens is attached to the image sensor. These imaging units repeatedly capture one image at a predetermined timing and output the captured image. The imaging unit 101 and the imaging unit 102 are installed at a predetermined distance to the left and right, and the distance to the subject can be calculated from the deviation of the images captured by the imaging unit 101 and the imaging unit 102, that is, the so-called parallax.

なお、図1では物体距離検出装置1の構成要素が同一の筐体に収められる例を示したが、例えば撮像部101、102を、他の構成要素とは別の筐体にまとめて収めてもよいし(同図点線枠11)、撮像部101、102をそれぞれ別の筐体に収めて車両に取り付けてもよい。その場合、画像信号は図示しない接続ケーブルで接続すればよい。接続ケーブルを用いて画像を伝送する方法としては、LVDS(Low Voltage Differential Signaling)方式の差動伝送路を用いた伝送方法などがある。 Although FIG. 1 shows an example in which the components of the object distance detection device 1 are housed in the same housing, for example, the imaging units 101 and 102 are housed together in a housing different from the other components. Alternatively, the imaging units 101 and 102 may be housed in separate housings and attached to the vehicle. In that case, the image signal may be connected with a connection cable (not shown). As a method of transmitting an image using a connection cable, there is a transmission method using a differential transmission line of an LVDS (Low Voltage Differential Signaling) method.

また、撮像部101と撮像部102の画像センサをカラー画像センサとすることで、撮像した画像の色情報を取得することが可能になり、交通信号や先行車の後尾灯の状態を、輝度情報に加えて色情報からも判断できるようになる。 Further, by using the image sensors of the imaging unit 101 and the imaging unit 102 as color image sensors, it is possible to acquire the color information of the captured image, and the brightness information of the traffic signal and the state of the taillight of the preceding vehicle can be obtained. In addition, it will be possible to judge from the color information.

103は画像補正部であり、撮像部101、102からの画像を取り込み、それぞれの画像の輝度を合わせるように予め計測されている補正値で補正し、さらにレンズによる画像の歪の補正と、撮像部101、102の画像の水平位置を合わせるようにこれも予め計測されている補正値で補正する。補正値の計測は、物体距離検出装置の製造工程で行われる。補正値適用前の装置毎で、特定の被写体を撮像し、取得した画像の輝度が均一になるような画素毎の輝度補正値、およびレンズ歪を打ち消し、画像が水平になるような画素毎の幾何補正値を求め、それぞれ補正テーブルとして、装置毎に例えば図示しない不揮発性メモリに保存しておく。また、後述の処理領域設定部106からの指示により、取り込んだ画像のうち、補正する領域を座標で設定できる構成となっている。 Reference numeral 103 denotes an image correction unit, which captures images from the imaging units 101 and 102, corrects them with correction values measured in advance so as to match the brightness of each image, and further corrects image distortion by a lens and images. This is also corrected by a pre-measured correction value so as to align the horizontal positions of the images of units 101 and 102. The measurement of the correction value is performed in the manufacturing process of the object distance detection device. For each device before applying the correction value, the brightness correction value for each pixel that images a specific subject and makes the brightness of the acquired image uniform, and for each pixel that cancels the lens distortion and makes the image horizontal. The geometric correction value is obtained, and each device is stored as a correction table in, for example, a non-volatile memory (not shown). Further, in the captured image, the area to be corrected can be set by the coordinates according to the instruction from the processing area setting unit 106 described later.

105はステレオ距離検出部であり、画像補正部103からの画像を入力して被写体の距離を検出する。距離を検出する方法として例えば次のような方法がある。ステレオ距離検出部105は、画像補正部103からの画像を取り込み、視差の算出を行う。前述のように、撮像部101と撮像部102は所定の距離で左右に離れて設置されているので、撮像した画像は視差を持つ。この視差を算出するいわゆるステレオ処理を行う。 Reference numeral 105 denotes a stereo distance detection unit, which detects the distance of the subject by inputting an image from the image correction unit 103. For example, there are the following methods for detecting the distance. The stereo distance detection unit 105 captures the image from the image correction unit 103 and calculates the parallax. As described above, since the imaging unit 101 and the imaging unit 102 are installed at a predetermined distance from each other to the left and right, the captured images have parallax. So-called stereo processing for calculating this parallax is performed.

視差の算出手法としては、例えば、ブロックマッチング方式がある。ステレオ距離検出部105は、例えば画像補正選択部103からの画像のうち、後述の処理領域設定部106により指定された画像の領域について視差の算出を行う。 As a parallax calculation method, for example, there is a block matching method. The stereo distance detection unit 105 calculates the parallax for, for example, the area of the image designated by the processing area setting unit 106, which will be described later, among the images from the image correction selection unit 103.

具体的には、まず撮像部101で撮影した画像の指定された画像領域上から小さく切出した所定のサイズ、例えば縦8画素、横8画素のブロック領域に対応する、撮像部102の画像上の領域を探索する。撮像部102の画像上で、同じサイズのブロック領域を水平方向に、後述の探索範囲設定部107により探索密度として指定された画素数ずつずらしていき、その際の相関値を評価する。その際、水平方向への探索幅として、探索範囲設定部107により指定された画素数分の探索範囲について探索を行う。例えば探索範囲を128画素とし、探索密度を2画素とする組み合わせや、探索範囲を32画素とし、探索密度を1画素とする組み合わせを設定することで、処理領域の指定も合わせて計算の処理負荷と精度を制御することが可能になる。探索密度は、大きくすると距離の精度は粗くなるが探索範囲での処理負荷が軽減し、小さくするほど検出する距離の精度は高くなる。 Specifically, first, on the image of the image pickup unit 102, which corresponds to a block area of a predetermined size, for example, 8 pixels in the vertical direction and 8 pixels in the horizontal direction, which is cut out from the designated image area of the image captured by the image pickup unit 101. Explore the area. On the image of the image pickup unit 102, the block area of the same size is shifted in the horizontal direction by the number of pixels designated as the search density by the search range setting unit 107 described later, and the correlation value at that time is evaluated. At that time, the search is performed for the search range corresponding to the number of pixels specified by the search range setting unit 107 as the search width in the horizontal direction. For example, by setting a combination in which the search range is 128 pixels and the search density is 2 pixels, or a combination in which the search range is 32 pixels and the search density is 1 pixel, the processing load of calculation including the designation of the processing area is set. And the accuracy can be controlled. The larger the search density, the coarser the accuracy of the distance, but the processing load in the search range is reduced, and the smaller the search density, the higher the accuracy of the detected distance.

そして、撮像部101と撮像部102における一致したブロック領域の位置の差が、画素数で表される視差となる。この視差を用いてブロック領域に映っている対象物の実環境での距離を求めることができる。なお、この例は、距離を求める対象となる画像要素として、ブロック領域を採用したものである。相関値の評価のための一致比較の手法としては、例えば、比較するブロック領域内の画素の輝度の差分の総和が小さくなった位置を視差とする。 Then, the difference in the positions of the matching block regions between the imaging unit 101 and the imaging unit 102 becomes the parallax represented by the number of pixels. Using this parallax, the distance of the object reflected in the block area in the real environment can be obtained. In this example, a block area is adopted as an image element for which the distance is to be obtained. As a method of matching comparison for evaluating the correlation value, for example, the position where the sum of the luminance differences of the pixels in the block region to be compared becomes small is taken as the parallax.

検出される距離は、撮像部101、撮像部102のレンズ焦点距離、撮像部101と撮像部102の距離、上記で求めた視差、および撮像センサの画素ピッチから求められることは公知である。ただし、距離の算出方法はこれに限定するものではない。また、距離を求める対象となる画像要素として、上述のブロック領域に限られず、撮像センサを構成する個々の画素を採用してもよい。物体を検出する方法は、例えば、ほぼ同一の距離を示す距離情報が近くに存在する場合、それらを一つの集合としてグループ化し、そのグループの大きさが一定以上のときにそのグループを物体とみなす。 It is known that the detected distance can be obtained from the lens focal length of the imaging unit 101 and the imaging unit 102, the distance between the imaging unit 101 and the imaging unit 102, the parallax obtained above, and the pixel pitch of the imaging sensor. However, the method of calculating the distance is not limited to this. Further, the image element for which the distance is to be obtained is not limited to the above-mentioned block region, and individual pixels constituting the image sensor may be adopted. The method of detecting an object is, for example, when distance information indicating almost the same distance exists nearby, they are grouped as one set, and when the size of the group is a certain size or more, the group is regarded as an object. ..

110は、探索条件設定部であり、画像補正部103で補正する画像領域と、ステレオ距離検出部105により、前述の複数の撮像部のうちの一つで撮影された基準画像内の特定の画像要素に対応する画像要素を他の撮像部で撮影される参照画像内で探索する際の条件を設定する。具体的には、探索条件設定部110は、後述する処理領域設定部106と探索範囲設定部107とを備える。 Reference numeral 110 denotes a search condition setting unit, which is a specific image in a reference image captured by an image region corrected by the image correction unit 103 and a reference image captured by one of the plurality of imaging units described above by the stereo distance detection unit 105. Set the conditions for searching the image element corresponding to the element in the reference image captured by another imaging unit. Specifically, the search condition setting unit 110 includes a processing area setting unit 106 and a search range setting unit 107, which will be described later.

106は、処理領域設定部であり、予め定めた、または、後述のステレオ距離検出部105の結果に基づいて、ステレオ距離検出部105において距離を検出する画像の領域を設定し、また、後述の認識部108において物体を認識するための、物体を含む画像領域を設定する。 Reference numeral 106 denotes a processing area setting unit, which sets an image area for detecting a distance in the stereo distance detection unit 105, which is determined in advance or based on the result of the stereo distance detection unit 105 described later, and is also described later. An image area including an object is set in the recognition unit 108 for recognizing the object.

107は、探索範囲設定部であり、予め定めた、または、ステレオ距離検出部105の結果に基づいて、ステレオ距離検出部105において距離を検出するための探索範囲、および、基準画像に対する参照画像内での前述のブロック領域に切出した画像要素の画素単位の移動量である探索密度を設定する。 Reference numeral 107 denotes a search range setting unit, which is a search range for detecting a distance in the stereo distance detection unit 105 based on a predetermined or result of the stereo distance detection unit 105, and in a reference image with respect to a reference image. The search density, which is the amount of movement of the image element cut out in the above-mentioned block area in each pixel, is set.

ここで、第1の探索条件として、例えば画像領域を撮影画像のほぼ全体を指定し、また探索範囲は128画素、探索密度は2画素と予め定めた値を指定する。第2の探索条件として、ステレオ距離検出部105の結果に基づいて限定した領域を設定し、また、探索範囲を64画素、探索密度を1画素と設定する。 Here, as the first search condition, for example, the image area is designated as almost the entire captured image, the search range is 128 pixels, and the search density is 2 pixels, which are predetermined values. As the second search condition, a limited area is set based on the result of the stereo distance detection unit 105, and the search range is set to 64 pixels and the search density is set to 1 pixel.

ステレオ距離検出部105は、補正部103からの画像の内、設定された領域について、設定された探索範囲と探索密度で前述の距離検出を行い、その結果を後述の認識部108に出力する。これにより、ステレオ距離検出部105による距離検出の領域および探索範囲、探索密度をそれぞれ決定することが可能となり、処理負荷の増大を回避できる。 The stereo distance detection unit 105 performs the above-mentioned distance detection in the set area in the image from the correction unit 103 with the set search range and search density, and outputs the result to the recognition unit 108 described later. This makes it possible for the stereo distance detection unit 105 to determine the distance detection area, the search range, and the search density, respectively, and it is possible to avoid an increase in the processing load.

108は認識部であり、ステレオ距離検出部105からの検出結果と処理領域設定部106からの領域指定を受け取り、画像上の物体の認識を行い、認識結果の情報を物体距離検出装置1の外部へ出力する。ステレオ距離検出部105で求めた、処理領域設定部106で指定された領域の距離情報に基づいて物体を認識する。物体を認識する方法は、前述の、検出したグループの大きさと形状に基づき、例えば車両や歩行者であることを検出する。物体の大きさや形状は、参照データとして予め保持しているパターンデータとの比較から検出する方法がある。この処理方式によれば、自車両から前方の物体たとえば歩行者や車両の距離が精度よく得られるので、自車両の減速や停止などの衝突回避のための情報として用いられる。上述では、ステレオ距離検出部105の検出結果として、一定の大きさの距離グループを物体と検知し、その結果を探索条件設定部110に出力する例を示したが、認識部108の認識結果を探索条件設定部110に出力してもよい。 Reference numeral 108 denotes a recognition unit, which receives the detection result from the stereo distance detection unit 105 and the area designation from the processing area setting unit 106, recognizes the object on the image, and transmits the recognition result information to the outside of the object distance detection device 1. Output to. The object is recognized based on the distance information of the area specified by the processing area setting unit 106 obtained by the stereo distance detection unit 105. The method of recognizing an object is based on the size and shape of the detected group described above, and detects, for example, a vehicle or a pedestrian. There is a method of detecting the size and shape of an object by comparing it with pattern data held in advance as reference data. According to this processing method, since the distance of an object in front of the own vehicle, such as a pedestrian or a vehicle, can be obtained with high accuracy, it is used as information for avoiding a collision such as deceleration or stop of the own vehicle. In the above, as the detection result of the stereo distance detection unit 105, an example of detecting a distance group of a certain size as an object and outputting the result to the search condition setting unit 110 has been shown, but the recognition result of the recognition unit 108 is shown. It may be output to the search condition setting unit 110.

なお、物体距離検出装置1は、例えば点線枠12内の撮像部101、102、画像補正部103、ステレオ距離検出部105は電子回路で構成され、それ以外の構成要素は図示しないマイコンなどによるソフトウェア処理で実現される。ステレオ距離検出部105をソフトウェア処理で実現することも可能である。 In the object distance detection device 1, for example, the image pickup units 101 and 102, the image correction unit 103, and the stereo distance detection unit 105 in the dotted line frame 12 are composed of electronic circuits, and other components are software by a microcomputer or the like (not shown). It is realized by processing. It is also possible to realize the stereo distance detection unit 105 by software processing.

図2は、本発明の物体距離検出装置の一実施例で撮像される撮像画像の一例を示す図である。同図中、1001は撮像部101で撮像され、補正部103で補正された撮像画像を、1002は、撮像部102で撮像され、補正部103で補正された撮像画像を示す。202、203、204は被写体である歩行者、対向車、交通信号である。 FIG. 2 is a diagram showing an example of a captured image captured by an embodiment of the object distance detecting device of the present invention. In the figure, 1001 shows an image taken by the image pickup unit 101 and corrected by the correction unit 103, and 1002 shows an image taken by the image pickup unit 102 and corrected by the correction unit 103. 202, 203, and 204 are pedestrians, oncoming vehicles, and traffic signals that are the subjects.

また、201、209は、撮像画像1001および撮像画像1002のうち共通して撮像されている領域である共通撮像領域を示す。前述のように撮像画像1001と撮像画像1002の間には、共通して撮像されている領域のずれがあり、このずれ量すなわち視差により、被写体の距離を算出する。 Further, 201 and 209 indicate a common imaging region which is a region commonly captured in the captured image 1001 and the captured image 1002. As described above, there is a deviation in the region that is commonly captured between the captured image 1001 and the captured image 1002, and the distance of the subject is calculated from this deviation amount, that is, the parallax.

図3は、本発明の物体距離検出装置の一実施例で撮像される撮像画像と探索条件設定の一例を示す図である。同図中、201は、例えば撮像部101で撮像され、補正部103で補正された撮像画像のうち、前述のように撮像部102で撮像された画像と共通して撮像されている領域を示す。 FIG. 3 is a diagram showing an example of a captured image captured by an embodiment of the object distance detecting device of the present invention and search condition setting. In the figure, 201 indicates, for example, a region of the captured image captured by the imaging unit 101 and corrected by the correction unit 103, which is captured in common with the image captured by the imaging unit 102 as described above. ..

205、206、207および208は撮像画像201のうち、処理領域設定部106で設定された処理領域である。処理領域208は、第1の探索条件で設定される処理領域であり、処理領域205、206、207は、第1の探索条件でステレオ距離検出部105にて距離検出処理が行われた結果に基づいて第2の探索条件として設定される処理領域である。即ち、第1の探索条件でステレオ距離検出部105が処理領域208の内、処理領域205、206、207に物体の存在とその距離を検出し、第2の探索条件として、処理領域205、206、207について探索範囲設定部107が探索密度を細かく設定することで、歩行者202、対向車203、交通信号204を含む領域の物体の距離検出処理が行われる。 205, 206, 207 and 208 are processing areas set by the processing area setting unit 106 in the captured image 201. The processing area 208 is a processing area set by the first search condition, and the processing areas 205, 206, and 207 are the results of the distance detection processing performed by the stereo distance detection unit 105 under the first search condition. It is a processing area set as a second search condition based on the above. That is, the stereo distance detection unit 105 detects the existence of an object and its distance in the processing areas 205, 206, and 207 in the processing areas 208 under the first search condition, and the processing areas 205 and 206 are used as the second search condition. , 207, the search range setting unit 107 finely sets the search density, so that the distance detection process of the object in the region including the pedestrian 202, the oncoming vehicle 203, and the traffic signal 204 is performed.

図4は、本発明の物体距離検出装置の一実施例の距離と視差の関係、および探索範囲設定部107による探索範囲の設定方法の一例を示す図である。
視差は画素の単位で表され、前述の撮像部101で撮影された画像から撮像部102で撮影された画像のずれ量を示す。距離と視差は反比例の関係であり、距離が近いと視差が大きく、距離が遠いと視差が小さい。従って、距離が遠いほど検出誤差が大きくなり精度が落ちることになる。
FIG. 4 is a diagram showing a relationship between a distance and a parallax according to an embodiment of the object distance detecting device of the present invention, and an example of a method of setting a search range by the search range setting unit 107.
The parallax is expressed in units of pixels, and indicates the amount of deviation of the image captured by the imaging unit 102 from the image captured by the imaging unit 101 described above. The distance and parallax are inversely proportional, and the parallax is large when the distance is short, and small when the distance is long. Therefore, the longer the distance, the larger the detection error and the lower the accuracy.

例えば、前述の歩行者202の含む領域205が、ステレオ距離検出部105において約5mと検出された場合、その際の視差としては、同図から60画素となる。従って、第2の探索条件として、探索範囲設定部107は、歩行者202の距離の探索範囲として、60画素を中心に51画素から70画素の20画素幅の範囲を処理領域205に対して設定する。その際、探索密度を1画素に設定する。同様に、交通信号204、対向車203の領域である処理領域207、206に対し、それぞれ約20m、約50mと距離が検出された場合、探索範囲として、23画素から37画素の15画素幅、1画素から10画素の10画素幅をそれぞれ設定し、探索密度を1画素に設定する。 For example, when the area 205 included in the pedestrian 202 is detected by the stereo distance detection unit 105 to be about 5 m, the parallax at that time is 60 pixels from the figure. Therefore, as a second search condition, the search range setting unit 107 sets a range of 20 pixel widths of 51 pixels to 70 pixels with respect to the processing area 205 as a search range for the distance of the pedestrian 202. To do. At that time, the search density is set to 1 pixel. Similarly, when distances of about 20 m and about 50 m are detected with respect to the processing areas 207 and 206, which are the areas of the traffic signal 204 and the oncoming vehicle 203, the search range is 15 pixel width of 23 to 37 pixels. The 10 pixel widths of 1 pixel to 10 pixels are set respectively, and the search density is set to 1 pixel.

これにより、各処理領域において、第1の探索条件にてステレオ距離検出部105で検出した距離を中心に、限られた探索範囲で視差を算出すればよく、処理負荷が軽減される。また探索密度としては、それぞれ異ならせてもよく、視差値の大きいところでは探索密度を大きくすることで、距離精度を損なうことなく処理負荷を更に低減できる。 As a result, in each processing region, the parallax may be calculated in a limited search range centering on the distance detected by the stereo distance detection unit 105 under the first search condition, and the processing load is reduced. Further, the search densities may be different from each other, and by increasing the search density where the parallax value is large, the processing load can be further reduced without impairing the distance accuracy.

また、設定した探索範囲では距離が検出できなかった場合は、設定した探索範囲を広げて、広げた範囲の探索処理をすることで処理負荷を最小限に抑えることができる。なお、領域205については、距離が近く検出の精度が確保できることから、第2の探索条件からはずし、第2の探索条件としては遠方の物体を含む領域に限定することでさらに処理負荷を低減することができる。 Further, when the distance cannot be detected in the set search range, the processing load can be minimized by expanding the set search range and performing the search process in the expanded range. Since the distance of the region 205 is short and the accuracy of detection can be ensured, the processing load is further reduced by removing it from the second search condition and limiting the region 205 to the region including a distant object as the second search condition. be able to.

図5は、本発明の物体距離検出装置の一実施例の処理タイミングを示す図である。同図中、(5−1)は第1の探索条件での画像補正部103とステレオ処理検出部105の処理タイミングを、(5−2)は第2の探索条件での画像補正部103とステレオ距離検出部105の処理タイミングを示す。 FIG. 5 is a diagram showing processing timing of an embodiment of the object distance detecting device of the present invention. In the figure, (5-1) is the processing timing of the image correction unit 103 and the stereo processing detection unit 105 under the first search condition, and (5-2) is the image correction unit 103 under the second search condition. The processing timing of the stereo distance detection unit 105 is shown.

(5−1)では、第1の探索条件での画像補正部103とステレオ距離検出部105による、前述の距離検出処理が行われる。また、(5−2)では、第2の探索条件である処理領域設定部106の指定するそれぞれの処理領域205,206,207について、探索範囲設定部107の指定する各処理領域の探索範囲について指定する探索密度でステレオ距離検出部105において距離検出が行われる。自車両から近い物体を含む領域から順番に処理をすることで、後続の認識部108でより早く認識が可能となり、安全性を確保することができる。 In (5-1), the above-mentioned distance detection process is performed by the image correction unit 103 and the stereo distance detection unit 105 under the first search condition. Further, in (5-2), regarding the processing areas 205, 206, and 207 specified by the processing area setting unit 106, which is the second search condition, the search range of each processing area specified by the search range setting unit 107 is obtained. Distance detection is performed by the stereo distance detection unit 105 at the specified search density. By processing in order from the area including the object closest to the own vehicle, the subsequent recognition unit 108 can recognize the object more quickly, and the safety can be ensured.

このように、ステレオ距離検出部105における距離検出処理は、指定された必要な処理領域についてのみ、それぞれの処理領域において適切な探索密度で必要最小限の探索範囲で距離検出処理が行われるので、撮像した画像の全領域について全範囲の詳細な距離探索をする必要はなく、処理の負荷が低減できる。 As described above, in the distance detection process in the stereo distance detection unit 105, the distance detection process is performed only for the designated required processing area with an appropriate search density and the minimum necessary search range in each processing area. It is not necessary to perform a detailed distance search for the entire range of the entire region of the captured image, and the processing load can be reduced.

図6は、本発明の物体距離検出装置の一実施例の処理フローを示す図である。まず、撮像部101および102により画像を撮影する(S601:Sはステップを表す)。撮影したそれぞれの画像は、前述した通り、処理領域設定部106により第1の探索条件の処理領域が画像補正部103およびステレオ距離検出部105に対し設定され(S602)、画像補正部103により輝度補正、レンズ歪補正や水平位置合わせが行われる(S603)。また、探索範囲設定部107により第1の探索条件の探索範囲と探索密度がステレオ距離検出部105に対し設定される(S604)。次にステレオ処理検出部105により、設定された処理領域内の物体の検出とその距離が検出される(S605)。 FIG. 6 is a diagram showing a processing flow of an embodiment of the object distance detecting device of the present invention. First, images are taken by the imaging units 101 and 102 (S601: S represents a step). As described above, in each of the captured images, the processing area of the first search condition is set for the image correction unit 103 and the stereo distance detection unit 105 by the processing area setting unit 106 (S602), and the brightness is set by the image correction unit 103. Correction, lens distortion correction and horizontal alignment are performed (S603). Further, the search range setting unit 107 sets the search range and the search density of the first search condition for the stereo distance detection unit 105 (S604). Next, the stereo processing detection unit 105 detects an object in the set processing area and its distance (S605).

その検出結果から、第2の探索条件として、処理領域設定部106において、処理すべき領域情報を画像補正部103とステレオ距離検出部105に出力し(S606)、また、探索範囲設定部107において、検出した物体の距離情報から、その物体を含む領域での探索すべき探索範囲と探索密度を決定しステレオ距離検出部105に出力する(S607)。画像補正部103により第2の探索条件による処理領域の画像補正が行われる(S608)。 From the detection result, as a second search condition, the processing area setting unit 106 outputs the area information to be processed to the image correction unit 103 and the stereo distance detection unit 105 (S606), and the search range setting unit 107. From the distance information of the detected object, the search range and the search density to be searched in the area including the object are determined and output to the stereo distance detection unit 105 (S607). The image correction unit 103 corrects the image of the processing area according to the second search condition (S608).

次に、得られた検出結果に基づいてステレオ距離検出部105により、指定された各領域において、それぞれの探索範囲で詳細な距離を検出する(S609)。 Next, based on the obtained detection result, the stereo distance detection unit 105 detects a detailed distance in each search range in each designated area (S609).

最後に認識部108により、各処理領域の物体の距離検出結果に基づいて、物体の認識処理を行い、認識結果を出力する(S610)。これらの処理を例えば1フレーム毎に繰り返し行う。 Finally, the recognition unit 108 performs object recognition processing based on the distance detection result of the object in each processing area, and outputs the recognition result (S610). These processes are repeated, for example, every frame.

図7は、本発明の物体距離検出装置の一実施例における撮影画像と認識結果の一例を示す図である。
701は、ある時点で撮像部101により撮像された画像であり、撮像部102もほぼ同様の画像を撮影し取得している。また、702、703、704は、物体の認識結果であり、画像内の枠と距離表示は撮像した画像にはなく、画像上に重ねて明示的に示したものである。
FIG. 7 is a diagram showing an example of a captured image and a recognition result in an embodiment of the object distance detecting device of the present invention.
Reference numeral 701 is an image captured by the imaging unit 101 at a certain point in time, and the imaging unit 102 also captures and acquires an substantially similar image. Further, 702, 703, and 704 are the recognition results of the object, and the frame and the distance display in the image are not shown in the captured image, but are explicitly shown on the image.

前述の処理領域205から検出した歩行者202が距離5.2mと、処理領域206から検出した対向車203が距離53.1m、処理領域207の交通信号204が距離19.7mの位置にあることを検出している。このように、撮影した画像全体に亘って精度の高い物体の距離検出を実現できる。 The pedestrian 202 detected from the processing area 205 is at a distance of 5.2 m, the oncoming vehicle 203 detected from the processing area 206 is at a distance of 53.1 m, and the traffic signal 204 at the processing area 207 is at a distance of 19.7 m. Is being detected. In this way, it is possible to realize highly accurate distance detection of an object over the entire captured image.

本実施例によれば、撮影画像から物体とその距離を粗く検出し、その結果に基づいて物体を含む領域に対し、距離の探索範囲を限定して正確な距離検出処理を行うので、撮像画像全体についての物体認識が、処理負荷の増大なく可能になる。 According to this embodiment, an object and its distance are roughly detected from the captured image, and based on the result, an accurate distance detection process is performed for a region including the object by limiting the search range of the distance. Object recognition of the whole becomes possible without increasing the processing load.

図8は、本発明の物体距離検出装置の一実施例における距離検出動作時の距離検出部105の消費電流波形の模式図である。
図8(A)は、本発明に拠らず、撮像画像全領域に亘って、ステレオ処理による距離検出を行った場合の動作電流波形であり、フレーム全体に亘って電力が消費される。
図8(B)は、本発明の物体距離検出装置の一実施例における距離検出動作時の電流波形であり、図8(A)に対し、フレーム内の限られたタイミングで電力が消費されるので、消費電力の削減を実現できる。
FIG. 8 is a schematic diagram of the current consumption waveform of the distance detection unit 105 during the distance detection operation in one embodiment of the object distance detection device of the present invention.
FIG. 8A is an operating current waveform when distance detection is performed by stereo processing over the entire region of the captured image, not based on the present invention, and power is consumed over the entire frame.
FIG. 8B is a current waveform during a distance detection operation in an embodiment of the object distance detection device of the present invention, and power is consumed at a limited timing within the frame with respect to FIG. 8A. Therefore, it is possible to reduce power consumption.

図9は、本発明の物体距離検出装置の別の実施例の構成を示す図である。物体距離検出装置1は、自動車などの車両に搭載されており、同図中、801は車両制御部である。認識部108の出力が車両制御部801に入力されている。また、認識部108には、撮影画像中の距離情報から、路面部分を他の物体と分離して路面領域として検出し、その領域を探索条件設定部110に出力する路面検出部1081を備え、さらに認識部108は、図示しないが車両速度や操舵角などの車両情報を入力して、自車両の走行経路を予測し、探索条件設定部110に出力する走行経路予測部1082を備える。 FIG. 9 is a diagram showing a configuration of another embodiment of the object distance detecting device of the present invention. The object distance detection device 1 is mounted on a vehicle such as an automobile, and in the figure, 801 is a vehicle control unit. The output of the recognition unit 108 is input to the vehicle control unit 801. Further, the recognition unit 108 includes a road surface detection unit 1081 that separates the road surface portion from other objects from the distance information in the captured image, detects it as a road surface region, and outputs the region to the search condition setting unit 110. Further, although not shown, the recognition unit 108 includes a travel route prediction unit 1082 that inputs vehicle information such as vehicle speed and steering angle, predicts the travel route of the own vehicle, and outputs the output to the search condition setting unit 110.

探索条件設定部110は、路面検出部1081により検出された路面情報を入力し、路面上の物体の距離を検出するよう、画像補正部103およびステレオ距離検出部での処理領域を設定する。これにより、ステレオ距離検出部105で路面上の物体の正確な距離を検出し認識部108にて認識することで、自車両の障害物をいち早く認識でき、安全な走行を維持できる。また、探索条件設定部110は、走行経路予測部1082から、これから走行していく経路上の物体の距離を検出するよう、処理領域を設定することで、上記のように自車両の走行経路上の障害物を認識して、安全な走行を実現できる。 The search condition setting unit 110 inputs the road surface information detected by the road surface detection unit 1081 and sets the processing area in the image correction unit 103 and the stereo distance detection unit so as to detect the distance of the object on the road surface. As a result, the stereo distance detection unit 105 detects the exact distance of the object on the road surface and the recognition unit 108 recognizes it, so that the obstacle of the own vehicle can be recognized quickly and safe driving can be maintained. Further, the search condition setting unit 110 sets the processing area so that the travel route prediction unit 1082 detects the distance of the object on the route to be traveled, so that the search condition setting unit 110 sets the processing area on the travel route of the own vehicle as described above. It is possible to recognize obstacles and realize safe driving.

また、探索範囲設定部107は、図示しないが自車両の車両速度を入力して、例えば速度が早い場合は探索範囲を広く設定し、遅い場合は狭く設定することで、最小限の処理量で距離検出処理を確実に行うことができる。 Further, although not shown, the search range setting unit 107 inputs the vehicle speed of the own vehicle, for example, when the speed is high, the search range is set wide, and when the speed is slow, the search range is set narrow, so that the processing amount is minimized. The distance detection process can be performed reliably.

さらに、図10に示すように、例えば処理領域設定部106は第2の探索条件として、画像全体である処理領域210を処理領域とし、その際、探索制御部は、前述のように60画素を中心に50画素から70画素の範囲を探索範囲に設定し、自車両の例えば2mから10mまでといった近傍距離を検出するようにすることで、自車両の近傍については、全画面を距離検出の対象とすることができ、安全性を高めることできる。 Further, as shown in FIG. 10, for example, the processing area setting unit 106 sets the processing area 210, which is the entire image, as the processing area as the second search condition, and at that time, the search control unit uses 60 pixels as described above. By setting the range of 50 pixels to 70 pixels in the center as the search range and detecting the proximity distance of the own vehicle, for example, from 2 m to 10 m, the entire screen is the target of distance detection for the vicinity of the own vehicle. And can improve safety.

また、ステレオ距離検出部105は、近接する複数の物体を例えばまとめて処理し、処理領域設定部106はそれを一つの領域とし、また探索範囲設定部107はステレオ距離検出部105で検出しまとめた一つの領域内の物体の距離を包括して探索範囲を設定することで、多数の物体が存在する場合にも対応できる。 Further, the stereo distance detection unit 105 processes a plurality of adjacent objects together, for example, the processing area setting unit 106 treats them as one area, and the search range setting unit 107 detects and collects them by the stereo distance detection unit 105. By setting the search range including the distances of objects in one area, it is possible to deal with the case where a large number of objects exist.

図9の車両制御部801は、認識部108による認識結果を受け、車両の他の図示しない装置に対し制御を行う。車両の制御としては、歩行者の接近や、赤信号や道路標識を検出したことによる、運転者への警告ランプの点灯、警告音の発生、ブレーキ制動による減速、停止制御、先行車追従時のスロットル、ブレーキ制御、その他の衝突回避や車線維持のための舵角制御などである。これらの車両制御情報は物体距離検出装置1から図示しない他の装置に対して、車内ネットワークを介して出力する。 The vehicle control unit 801 of FIG. 9 receives the recognition result by the recognition unit 108 and controls other devices (not shown) of the vehicle. Vehicle control includes lighting of warning lamps for drivers due to approaching pedestrians and detection of red lights and road signs, generation of warning sounds, deceleration by braking, stop control, and when following a preceding vehicle. Throttle, brake control, and other steering angle controls for collision avoidance and lane keeping. These vehicle control information is output from the object distance detection device 1 to other devices (not shown) via the in-vehicle network.

なお、図9では車両制御部801は物体距離検出装置1とは同一筐体に収められる例を示したが、それに限るものではなく、前述のように、撮像部101、102を別筐体としてもよい。 Note that FIG. 9 shows an example in which the vehicle control unit 801 is housed in the same housing as the object distance detection device 1, but the present invention is not limited to this, and as described above, the imaging units 101 and 102 are used as separate housings. May be good.

図11は、本発明の物体距離検出装置のさらに別の実施例の構成を示す図である。901はネットワーク撮像部、903はLAN(Local Area Network)であり、904は制御部である。ネットワーク撮像部901は、LAN903を介して制御部904と接続されている。また、902は画像圧縮・インタフェース部、905はネットワークインタフェース部、906は画像伸張部である。 FIG. 11 is a diagram showing the configuration of still another embodiment of the object distance detecting device of the present invention. Reference numeral 901 is a network imaging unit, 903 is a LAN (Local Area Network), and 904 is a control unit. The network imaging unit 901 is connected to the control unit 904 via the LAN 903. Further, 902 is an image compression / interface unit, 905 is a network interface unit, and 906 is an image expansion unit.

撮像部101、撮像部102で撮影した画像は、画像補正部103において、輝度補正、レンズ歪補正や水平位置合わせが行われる。次に画像圧縮・インタフェース部902は、画像補正部103からの画像を圧縮してLAN903に送信する。画像圧縮の方式としては処理時間を少なくするため、複数の画像の時間的相関関係を使わず、一枚の画像内で圧縮を行う画面内圧縮方式を用いる方式がある。また、映像圧縮符号化方式を選択して切り換えてもよい。 The image captured by the imaging unit 101 and the imaging unit 102 is subjected to luminance correction, lens distortion correction, and horizontal alignment in the image correction unit 103. Next, the image compression / interface unit 902 compresses the image from the image correction unit 103 and transmits it to the LAN 903. As an image compression method, in order to reduce the processing time, there is a method using an in-screen compression method that compresses within one image without using the temporal correlation of a plurality of images. Further, the video compression coding method may be selected and switched.

画像圧縮・インタフェース部902は、圧縮符号化データを生成し、所定のネットワークプロトコルに従ってデータを送信する。なお、画像補正部103は制御部904の画像伸張部906の後段に設けてもよいが、ネットワーク撮像部901の画像圧縮・インタフェース部902の前段で処理することにより、レンズ歪などを補正した後に画像圧縮することで、画像圧縮の高効率化と高画質化が見込まれる。その場合は、処理領域設定部106による処理領域の設定は、ネットワークインタフェース部905からLAN903を介して、画像圧縮・インタフェース部902および画像補正部103に伝達される。 The image compression / interface unit 902 generates compressed coded data and transmits the data according to a predetermined network protocol. The image correction unit 103 may be provided after the image expansion unit 906 of the control unit 904, but after the lens distortion and the like are corrected by processing in the front stage of the image compression / interface unit 902 of the network image pickup unit 901. Image compression is expected to improve the efficiency and image quality of image compression. In that case, the processing area setting by the processing area setting unit 106 is transmitted from the network interface unit 905 to the image compression / interface unit 902 and the image correction unit 103 via the LAN 903.

制御部904においては、ネットワークインタフェース部905において、圧縮画像データの受信を、LAN903を介して行う。制御部904のネットワークインタフェース部905で受信した圧縮画像データは、画像伸張部906において、処理領域設定部106により設定された処理領域について元の画像に伸張され、ステレオ距離検出部105により距離が検出される。これ以降の処理は前述の通りである。 In the control unit 904, the network interface unit 905 receives the compressed image data via the LAN 903. The compressed image data received by the network interface unit 905 of the control unit 904 is expanded to the original image for the processing area set by the processing area setting unit 106 in the image expansion unit 906, and the distance is detected by the stereo distance detection unit 105. Will be done. The subsequent processing is as described above.

本実施例によれば、LAN906を介して圧縮画像を送信するので、撮像部側の処理量を減らすことができ、撮像部側の軽量化、低消費電力化、筐体が小さくなることによる、車両設置への寸法制限を低減することが可能になる。 According to this embodiment, since the compressed image is transmitted via LAN906, the processing amount on the imaging unit side can be reduced, the weight on the imaging unit side is reduced, the power consumption is reduced, and the housing is reduced. It is possible to reduce the dimensional restrictions on vehicle installation.

なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。 The present invention is not limited to the above-described examples, and includes various modifications. For example, the above-described embodiment has been described in detail in order to explain the present invention in an easy-to-understand manner, and is not necessarily limited to the one including all the described configurations. Further, it is possible to replace a part of the configuration of one embodiment with the configuration of another embodiment, and it is also possible to add the configuration of another embodiment to the configuration of one embodiment. Further, it is possible to add / delete / replace a part of the configuration of each embodiment with another configuration.

また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。 In addition, each of the above configurations may be configured in part or in whole in hardware, or may be configured to be realized by executing a program in a processor. In addition, the control lines and information lines indicate those that are considered necessary for explanation, and do not necessarily indicate all the control lines and information lines in the product. In practice, it can be considered that almost all configurations are interconnected.

1…物体距離検出装置、101〜102…撮像部、103…画像補正部、105…ステレオ距離検出部、106…処理領域設定部、107…探索範囲設定部、108…認識部、110…探索条件設定部、201…共通撮像領域、202〜204…被写体、205〜210…処理領域、702〜704…認識結果、801…車両制御部、901…ネットワーク撮像部、902…画像圧縮・インタフェース部、903…LAN、904…制御部、905…ネットワークインタフェース部、906…画像伸張部。 1 ... Object distance detection device, 101-102 ... Imaging unit, 103 ... Image correction unit, 105 ... Stereo distance detection unit, 106 ... Processing area setting unit, 107 ... Search range setting unit, 108 ... Recognition unit, 110 ... Search condition Setting unit, 201 ... Common imaging area, 202 to 204 ... Subject, 205 to 210 ... Processing area, 702 to 704 ... Recognition result, 801 ... Vehicle control unit, 901 ... Network imaging unit, 902 ... Image compression / interface unit, 903 ... LAN, 904 ... Control unit, 905 ... Network interface unit, 906 ... Image expansion unit.

Claims (11)

複数の撮像部と、
複数の前記撮像部のうちの一つの前記撮像部で撮影された基準画像内の特定の画像要素に対応する画像要素を、他の前記撮像部で撮影される参照画像内で探索する際の条件を設定する探索条件設定部と、
前記探索条件設定部で設定された条件に基づいて前記探索を行い、該探索によって得られる視差に基づいて物体の距離を検出するステレオ距離検出部と、を備え、
前記ステレオ距離検出部は、
前記探索条件設定部で設定される第1の探索条件に基づいて所定の画像領域の探索を行った後、
検出された前記物体の画像領域を、前記基準画像に対する前記参照画像内での探索密度を変化させて設定される第2の探索条件に基づいて探索を行い、
前記探索条件設定部は、
前記探索を行う領域を前記基準画像内で設定する処理領域設定部と、
前記基準画像に対する前記参照画像内での前記画像要素の画素単位の探索幅である前記探索の範囲を設定し、前記探索密度を再設定する探索範囲設定部と、を備え、
前記処理領域設定部は、前記ステレオ距離検出部で得られた複数の物体を含む処理領域を設定し、
前記探索範囲設定部は、前記ステレオ距離検出部で検出された複数の前記物体の距離に基づいて、前記探索の範囲を設定する、物体距離検出装置。
With multiple imaging units
Conditions for searching an image element corresponding to a specific image element in a reference image captured by one of the plurality of imaging units in a reference image captured by the other imaging unit. Search condition setting unit to set
A stereo distance detection unit that performs the search based on the conditions set by the search condition setting unit and detects the distance of the object based on the parallax obtained by the search is provided.
The stereo distance detection unit
After searching a predetermined image area based on the first search condition set by the search condition setting unit,
The detected image area of the object was, had row a search based on the second search condition set by changing the search density in said reference image with respect to the reference image,
The search condition setting unit is
A processing area setting unit that sets the search area in the reference image, and
A search range setting unit for setting a search range which is a search width for each pixel of the image element in the reference image with respect to the reference image and resetting the search density is provided.
The processing area setting unit sets a processing area including a plurality of objects obtained by the stereo distance detection unit.
The search range setting unit is an object distance detection device that sets the search range based on the distances of a plurality of the objects detected by the stereo distance detection unit.
複数の撮像部と、
複数の前記撮像部のうちの一つの前記撮像部で撮影された基準画像内の特定の画像要素に対応する画像要素を、他の前記撮像部で撮影される参照画像内で探索する際の条件を設定する探索条件設定部と、
前記探索条件設定部で設定された条件に基づいて前記探索を行い、該探索によって得られる視差に基づいて物体の距離を検出するステレオ距離検出部と、を備え、
前記ステレオ距離検出部は、
前記探索条件設定部で設定される第1の探索条件に基づいて所定の画像領域の探索を行った後、
検出された前記物体の画像領域を、前記基準画像に対する前記参照画像内での探索密度を変化させて設定される第2の探索条件に基づいて探索を行い、
前記探索条件設定部は、
前記探索を行う領域を前記基準画像内で設定する処理領域設定部と、
前記基準画像に対する前記参照画像内での前記画像要素の画素単位の探索幅である前記探索の範囲を設定し、前記探索密度を再設定する探索範囲設定部と、を備え、
前記探索範囲設定部は、前記ステレオ距離検出部で前記物体の距離が検出できなかった場合、前記探索の範囲を拡大し、
前記ステレオ距離検出部において、拡大した前記探索の範囲について距離を検出する、物体距離検出装置。
With multiple imaging units
Conditions for searching an image element corresponding to a specific image element in a reference image captured by one of the plurality of imaging units in a reference image captured by the other imaging unit. Search condition setting unit to set
A stereo distance detection unit that performs the search based on the conditions set by the search condition setting unit and detects the distance of the object based on the parallax obtained by the search is provided.
The stereo distance detection unit
After searching a predetermined image area based on the first search condition set by the search condition setting unit,
The detected image area of the object was, had row a search based on the second search condition set by changing the search density in said reference image with respect to the reference image,
The search condition setting unit is
A processing area setting unit that sets the search area in the reference image, and
A search range setting unit for setting a search range which is a search width for each pixel of the image element in the reference image with respect to the reference image and resetting the search density is provided.
When the stereo distance detection unit cannot detect the distance of the object, the search range setting unit expands the search range.
An object distance detection device that detects a distance with respect to the expanded search range in the stereo distance detection unit.
請求項1又は2に記載の物体距離検出装置において、
前記探索密度は、前記基準画像に対する前記参照画像内での前記画像要素の画素単位の移動ステップ量である、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The object distance detection device, wherein the search density is a pixel-by-pixel movement step amount of the image element in the reference image with respect to the reference image.
請求項1又は2に記載の物体距離検出装置において、
前記処理領域設定部は、前記ステレオ距離検出部により前記第1の探索条件に基づいて取得した前記物体を含む一つまたは複数の領域を、前記第2の探索条件における探索を行う領域として設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The processing area setting unit sets one or a plurality of areas including the object acquired by the stereo distance detection unit based on the first search condition as a region for performing a search under the second search condition. , Object distance detector.
請求項1又は2に記載の物体距離検出装置において、
前記探索範囲設定部は、前記処理領域設定部で設定された処理領域に対して、前記第1の探索条件よりも細かい前記探索密度を、前記第2の探索条件として設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The search range setting unit sets the search density, which is finer than the first search condition, as the second search condition for the processing area set by the processing area setting unit. ..
請求項1又は2に記載の物体距離検出装置において、
前記探索範囲設定部は、前記ステレオ距離検出部により前記第1の探索条件に基づいて取得した前記物体の距離情報に応じて、前記処理領域設定部で設定された処理領域に対して、前記第1の探索条件よりも小さい探索範囲を、前記第2の探索条件として設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The search range setting unit refers to the processing area set by the processing area setting unit according to the distance information of the object acquired by the stereo distance detection unit based on the first search condition. An object distance detection device that sets a search range smaller than the search condition of 1 as the second search condition.
請求項1又は2に記載の物体距離検出装置において、
前記処理領域設定部で設定された領域に基づいて、複数の前記撮像部で撮影された画像の所定領域の幾何補正を行う幾何補正部を備える、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
An object distance detecting device including a geometric correction unit that geometrically corrects a predetermined area of an image captured by a plurality of the imaging units based on an area set by the processing area setting unit.
請求項1又は2に記載の物体距離検出装置において、
路面を検出する路面検出手段を備え、
前記処理領域設定部は、前記路面検出手段で検出した路面を含む領域を処理領域として設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
Equipped with a road surface detecting means for detecting the road surface
The processing area setting unit is an object distance detecting device that sets an area including a road surface detected by the road surface detecting means as a processing area.
請求項1又は2に記載の物体距離検出装置において、
走行経路を予測する走行経路予測手段を備え、
前記処理領域設定部は、前記走行経路予測手段で予測した経路を含む領域を処理領域として設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
Equipped with a travel route prediction means for predicting a travel route,
The processing area setting unit is an object distance detection device that sets an area including a route predicted by the traveling route prediction means as a processing area.
請求項1又は2に記載の物体距離検出装置において、
前記探索範囲設定部は、車速に応じて探索範囲を変化させて設定する、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The search range setting unit is an object distance detection device that changes and sets the search range according to the vehicle speed.
請求項1又は2に記載の物体距離検出装置において、
前記探索範囲設定部は、近傍距離に相当する探索範囲を前記探索範囲とし、
前記処理領域設定部は、全画像領域を処理領域とする、物体距離検出装置。
In the object distance detecting device according to claim 1 or 2.
The search range setting unit, a search range corresponding to the vicinity distance in the range of the search,
The processing area setting unit is an object distance detection device having the entire image area as a processing area.
JP2017049343A 2017-03-15 2017-03-15 Object distance detector Active JP6899673B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017049343A JP6899673B2 (en) 2017-03-15 2017-03-15 Object distance detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017049343A JP6899673B2 (en) 2017-03-15 2017-03-15 Object distance detector

Publications (2)

Publication Number Publication Date
JP2018151999A JP2018151999A (en) 2018-09-27
JP6899673B2 true JP6899673B2 (en) 2021-07-07

Family

ID=63679592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017049343A Active JP6899673B2 (en) 2017-03-15 2017-03-15 Object distance detector

Country Status (1)

Country Link
JP (1) JP6899673B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7118020B2 (en) * 2019-02-27 2022-08-15 日立Astemo株式会社 Arithmetic device, parallax calculation method
WO2020183711A1 (en) * 2019-03-14 2020-09-17 オムロン株式会社 Image processing device and three-dimensional measuring system
JP7438713B2 (en) * 2019-10-28 2024-02-27 キヤノン株式会社 Imaging device, method and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001116512A (en) * 1999-10-20 2001-04-27 Matsushita Electric Ind Co Ltd Inter-vehicle distance measuring method and inter-vehicle distance measuring device
JP3936313B2 (en) * 2002-07-02 2007-06-27 本田技研工業株式会社 Image recognition device
JP5172314B2 (en) * 2007-12-14 2013-03-27 日立オートモティブシステムズ株式会社 Stereo camera device
US20140198977A1 (en) * 2012-03-21 2014-07-17 Texas Instruments Incorporated Enhancement of Stereo Depth Maps
JP6209825B2 (en) * 2013-02-15 2017-10-11 株式会社リコー Parallax detection device and parallax detection method
JP2015230703A (en) * 2014-06-06 2015-12-21 日本電産エレシス株式会社 Object detection device and object detection method
JP6548518B2 (en) * 2015-08-26 2019-07-24 株式会社ソニー・インタラクティブエンタテインメント INFORMATION PROCESSING APPARATUS AND INFORMATION PROCESSING METHOD

Also Published As

Publication number Publication date
JP2018151999A (en) 2018-09-27

Similar Documents

Publication Publication Date Title
JP6660751B2 (en) Imaging device
JP6723079B2 (en) Object distance detection device
JP6060282B2 (en) In-vehicle camera image processing device
US20220024452A1 (en) Image processing apparatus, imaging apparatus, moveable body, and image processing method
JP2007172035A (en) Onboard image recognition device, onboard imaging device, onboard imaging controller, warning processor, image recognition method, imaging method and imaging control method
JP7278846B2 (en) OBJECT POSITION DETECTION DEVICE, TRIP CONTROL SYSTEM, AND TRIP CONTROL METHOD
US8160300B2 (en) Pedestrian detecting apparatus
US20180321030A1 (en) Image processing device
CN114521180B (en) Object detection device, driving control system, and driving control method
JP6899673B2 (en) Object distance detector
JP6891082B2 (en) Object distance detector
CN112758086B (en) External environment recognition device
US11157755B2 (en) Image processing apparatus
WO2020021949A1 (en) Imaging system for railway vehicle
JP4324413B2 (en) Outside vehicle monitoring apparatus and outside vehicle monitoring method
JP4471881B2 (en) Obstacle recognition device and obstacle recognition method
WO2023112127A1 (en) Image recognition device and image recognition method
CN119445497A (en) Information processing device
JP2021190093A (en) External environment recognition device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170317

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210323

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210331

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210615

R150 Certificate of patent or registration of utility model

Ref document number: 6899673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250