Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5172482B2 - Vehicle periphery monitoring device - Google Patents
[go: Go Back, main page]

JP5172482B2 - Vehicle periphery monitoring device - Google Patents

Vehicle periphery monitoring device Download PDF

Info

Publication number
JP5172482B2
JP5172482B2 JP2008149484A JP2008149484A JP5172482B2 JP 5172482 B2 JP5172482 B2 JP 5172482B2 JP 2008149484 A JP2008149484 A JP 2008149484A JP 2008149484 A JP2008149484 A JP 2008149484A JP 5172482 B2 JP5172482 B2 JP 5172482B2
Authority
JP
Japan
Prior art keywords
occlusion
animal
designated
captured image
extracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008149484A
Other languages
Japanese (ja)
Other versions
JP2009295018A (en
Inventor
幸大 松田
弘 服部
泉 高津戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2008149484A priority Critical patent/JP5172482B2/en
Publication of JP2009295018A publication Critical patent/JP2009295018A/en
Application granted granted Critical
Publication of JP5172482B2 publication Critical patent/JP5172482B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置に関する。   The present invention relates to a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle.

従来、この種の車両周辺監視装置として本出願人は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された対象物の画像領域に、異なる方向の幅の比率が所定範囲となる第1の対象物領域と、該第1の対象物領域の下方に該第1の対象物領域よりも面積が小さい複数の第2の対象物領域とが含まれるかに応じて、対象物の種別を判定する対象物種別判定手段とを備えることを特徴とする車両周辺監視装置を提案している(特許文献1参照)。本従来技術によれば、該対象物の種別が、異なる方向の幅の比率が所定範囲となる形状の胴部を有する動物であるか否かを判定することができる。   Conventionally, the applicant of this type of vehicle periphery monitoring apparatus is a vehicle periphery monitoring apparatus that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, and the object is obtained from the captured image. An object extraction means for extracting the image area, a first object area in which a ratio of widths in different directions falls within a predetermined range in the image area of the object extracted by the object extraction means, and the first Object type determining means for determining the type of the object depending on whether a plurality of second object areas having an area smaller than that of the first object area are included below the object area The vehicle periphery monitoring apparatus characterized by providing is proposed (refer patent document 1). According to this prior art, it is possible to determine whether or not the type of the object is an animal having a trunk having a shape in which the ratio of the widths in different directions falls within a predetermined range.

また、この種の車両周辺監視装置としては、自車両の左側に設置された左側撮影手段、及び右側に設置された右側撮影手段を具備し、当該各撮影手段にて撮影された画像を車両内にて画面表示する車両周辺監視装置において、前記右側撮影手段により、自車両の右側から接近する移動物体が撮影され、その後、当該接近する移動物体が画面から消失した際には、消失後この旨を運転者に報知することを特徴とする車両周辺監視装置が知られている(特許文献2参照)。本従来技術によれば、右側画像に映し出された車両を検出し、且つ、この車両が右側画像から消失した場合には、左側画像にオクルージョンが発生する可能性があるものと判断して、ブザー、インジケータ、或いはモニタ表示にて、これを自車両の乗員に通知することができる。従って、乗員は、オクルージョンの発生をいち早く知ることができる。   In addition, this type of vehicle periphery monitoring device includes a left-side photographing unit installed on the left side of the host vehicle and a right-side photographing unit installed on the right side, and images captured by the respective photographing units are stored in the vehicle. When the moving object approaching from the right side of the host vehicle is photographed by the right-side photographing means and then the approaching moving object disappears from the screen, this is indicated after the disappearance. A vehicle periphery monitoring device is known (see Patent Document 2). According to this prior art, when a vehicle displayed in the right image is detected and the vehicle disappears from the right image, it is determined that there is a possibility that occlusion occurs in the left image, and the buzzer is This can be notified to an occupant of the host vehicle by an indicator or a monitor display. Therefore, the occupant can quickly know the occurrence of occlusion.

しかしながら、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生すると、車両周辺監視装置は、オクルージョン発生前及びオクルージョン解消後において動物が同一であるか否かが不明となってしまうことになり、オクルージョン発生前までに追跡していた動物の位置情報を有効に活用することができないという問題がある。
特開2007−310705号公報 特開2004−159268号公報
However, if an occlusion occurs while an animal is being tracked by the imaging means mounted on the vehicle, the vehicle periphery monitoring device will be unclear whether the animal is the same before the occlusion occurrence and after the occlusion elimination. Therefore, there is a problem that it is not possible to effectively use the position information of the animals tracked before the occurrence of occlusion.
JP 2007-310705 A JP 2004-159268 A

本発明は、以上の問題点に鑑み、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該動物の位置を高精度で補完することができる車両周辺監視装置を提供することを目的とする。   In view of the above problems, the present invention provides a vehicle periphery capable of highly accurately complementing the position of the animal during the occurrence of occlusion when the occlusion occurs while the animal is being tracked by the imaging means mounted on the vehicle. An object is to provide a monitoring device.

上記課題を解決するために、第1発明の車両周辺監視装置は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、 前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の位置及び胴部に対する頭部の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段とを備えることを特徴とする。   In order to solve the above problems, a vehicle periphery monitoring device according to a first aspect of the present invention is a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, wherein the captured image Object extraction means for extracting the image area of the object from the object, and whether the object of the image area extracted by the object extraction means is a designated animal having a head on either side of the torso Animal determination means for determining whether or not, occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image has occurred during tracking of the object in the captured image, and the occlusion determination And the object extracted by the object extracting means is the designated animal by the animal determining means. The position of the designated animal during the occurrence of the occlusion is complemented based on the position of the designated animal extracted from the captured image before the occurrence of the occlusion and the position of the head with respect to the trunk. And a position complementing means.

第1発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。   According to the vehicle periphery monitoring device of the first invention, if the designated animal has a head on either the left or right side of the torso, the direction in which the designated animal moves is the direction from the torso to the head. In view of the prediction, when the occlusion occurs while the designated animal is being tracked by the photographing means mounted on the vehicle, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.

また、第2発明の車両周辺監視装置は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、オクルージョン発生前及びオクルージョン解消後において前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の胴部に対する頭部の位置及び前記指定動物の位置と、前記オクルージョンが解消した後の前記撮像画像から抽出された前記指定動物の位置とに基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段とを備えることを特徴とする。 A vehicle periphery monitoring device according to a second aspect of the present invention is a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, wherein the image area of an object is detected from the captured image. And an animal for determining whether the object in the image area extracted by the object extraction means is a designated animal having a head on either side of the torso The occlusion is generated by the determination means, the occlusion determination means for determining whether or not the occlusion in which the object disappears from the captured image has occurred during the tracking of the object in the captured image, and the occlusion determination means. The object extracted by the object extraction means before the occurrence of occlusion and after occlusion elimination is determined to be the animal. A position of the head with respect to the torso of the designated animal extracted from the captured image before the occurrence of the occlusion and the position of the designated animal when the determination means determines that the animal is the designated animal, and the occlusion And a position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of the designated animal extracted from the captured image after the resolution is resolved.

第2発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前の指定動物の位置とオクルージョン解消後の指定動物の位置からオクルージョン発生中の指定動物の位置がより正確に予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。   According to the vehicle periphery monitoring device of the second aspect of the present invention, if the designated animal has a head on either the left or right side of the trunk, the direction in which the designated animal moves is the direction from the trunk to the head. In view of the fact that the position of the designated animal during the occurrence of the occlusion is predicted more accurately from the predicted position of the designated animal before the occurrence of the occlusion and the position of the designated animal after the occlusion cancellation, the photographing means mounted on the vehicle When the occlusion occurs during tracking of the designated animal, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.

また、第3発明の車両周辺監視装置は、第2発明の車両周辺監視装置において、前記位置補完手段が、前記撮像画像において前記指定動物の胴部に対して頭部が存在する側に将来において該指定動物が存在すると予測される予測領域を設定し、前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物を基準として設定した前記予測領域に、前記オクルージョンが解消した後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物が存在するか否かを判定し、前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物が存在すると判定したことを要件として、前記オクルージョン発生前及びオクルージョン解消後のそれぞれにおける前記指定動物の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする。   Further, the vehicle periphery monitoring device according to a third aspect of the present invention is the vehicle periphery monitoring device according to the second aspect of the present invention, wherein the position complementing means is located in the future on the side where the head is present with respect to the trunk of the designated animal in the captured image. The prediction area where the designated animal is predicted to be present is set, and the prediction area set based on the designated animal extracted as the object by the object extraction unit from the captured image before the occlusion occurs In addition, it is determined whether or not the designated animal extracted as the object by the object extraction unit from the captured image after the occlusion is eliminated, and the object extraction unit by the object extraction unit As a requirement that the designated animal extracted as an object is present, it is a requirement before the occurrence of occlusion and after the elimination of occlusion. Based on the position of the specified animals in respectively, characterized in that it complements the position of the designated animals in the occlusion occurs.

第3発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する動物であれば、動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、予測領域にオクルージョン発生後の撮像画像から対象物抽出手段により対象物として抽出された指定動物が存在すればオクルージョン発生前の指定動物とからオクルージョン発生中の指定動物の位置が更に正確に予測されることに鑑みて、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。   According to the vehicle periphery monitoring device of the third aspect of the present invention, if the animal has a head on either the left or right side of the torso, the direction in which the animal moves is predicted to be the direction from the torso to the head. In addition, if there is a designated animal extracted as an object from the captured image after occurrence of occlusion by the object extraction means in the prediction region, the position of the designated animal during the occurrence of occlusion is more accurately determined from the designated animal before the occurrence of occlusion. In view of the prediction, when an occlusion occurs while an animal is being tracked by an imaging means mounted on the vehicle, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.

また、第4発明の車両周辺監視装置は、第3発明の車両周辺監視装置において、前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物と、前記オクルージョンが解消した後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物との姿勢が同一であるか否かを前記指定動物の胴部に対して頭部が存在する側に基づいて決定し、同一であると決定された場合に前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする。   The vehicle periphery monitoring device according to a fourth aspect of the present invention is the vehicle periphery monitoring device according to the third aspect, wherein the designated animal extracted as the target object by the target object extraction means from the captured image before the occlusion occurs. Whether the posture of the designated animal extracted from the captured image after the occlusion is eliminated by the object extraction means as the object is the same as the head of the designated animal The position of the designated animal during the occurrence of the occlusion is complemented when it is determined that the same is present and is determined to be the same.

第4発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前及びオクルージョン解消後において指定動物の胴部に対する頭部の位置が同一であれば当該指定動物であると更にまた正確に予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。   According to the vehicle periphery monitoring apparatus of the fourth aspect of the present invention, if the designated animal has a head on either the left or right side of the trunk, the direction in which the designated animal moves is the direction from the trunk to the head. In view of the fact that the position of the head relative to the torso of the designated animal is the same before and after the occurrence of occlusion, the designated animal is more accurately predicted. When the occlusion occurs while the designated animal is being tracked by the photographing means, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.

本発明の一実施形態を以下に図1〜図6を参照して説明する。   An embodiment of the present invention will be described below with reference to FIGS.

まず、図1及び図2を参照して、本実施形態の車両の周辺監視装置のシステム構成を説明する。図1は該周辺監視装置の全体構成を示すブロック図、図2は該周辺監視装置を搭載した車両(自車両)の外観を示す斜視図である。尚、図2では、周辺監視装置の一部の構成要素の図示を省略している。   First, with reference to FIG.1 and FIG.2, the system configuration | structure of the vehicle periphery monitoring apparatus of this embodiment is demonstrated. FIG. 1 is a block diagram showing the overall configuration of the periphery monitoring device, and FIG. 2 is a perspective view showing the appearance of a vehicle (own vehicle) equipped with the periphery monitoring device. In FIG. 2, illustration of some components of the periphery monitoring device is omitted.

図1及び図2を参照して、本実施形態の周辺監視装置は、画像処理ユニット1を備える。画像処理ユニット1には、自車両10の前方の画像を撮像する撮像手段としての2つの赤外線カメラ2R,2Lが接続されると共に、自車両10の走行状態を検出するセンサとして、自車両10のヨーレートを検出するヨーレートセンサ3、自車両10の走行速度(車速)を検出する車速センサ4、及び自車両10のブレーキ操作の有無を検出するブレーキセンサ5とが接続されている。更に、画像処理ユニット1には、音声などによる聴覚的な注意喚起情報を出力するためのスピーカ6、及び赤外線カメラ2R,2Lにより撮像された撮像画像や視覚的な注意喚起情報を表示するための表示装置7が接続されている。   With reference to FIGS. 1 and 2, the periphery monitoring device of the present embodiment includes an image processing unit 1. The image processing unit 1 is connected with two infrared cameras 2R and 2L as imaging means for capturing an image in front of the host vehicle 10, and as a sensor for detecting the traveling state of the host vehicle 10, the image processing unit 1 A yaw rate sensor 3 that detects the yaw rate, a vehicle speed sensor 4 that detects the traveling speed (vehicle speed) of the host vehicle 10, and a brake sensor 5 that detects the presence or absence of a brake operation of the host vehicle 10 are connected. Further, the image processing unit 1 displays a speaker 6 for outputting auditory alert information such as voice and the like, and images captured by the infrared cameras 2R and 2L and visual alert information. A display device 7 is connected.

尚、赤外線カメラ2R,2Lが本発明における撮像手段に相当する。   The infrared cameras 2R and 2L correspond to the imaging means in the present invention.

画像処理ユニット1は、詳細な図示は省略するが、A/D変換回路、マイクロコンピュータ(CPU、RAM、ROM等を有する)、画像メモリなどを含む電子回路により構成され、赤外線カメラ2R,2L、ヨーレートセンサ3、車速センサ4及びブレーキセンサ5から出力されるアナログ信号が、A/D変換回路によりデジタルデータ化されて、マイクロコンピュータに入力される。そして、マイクロコンピュータは、入力されたデータを基に、人(歩行者、自転車に乗っている者)などの対象物を検出し、検出した対象物が所定の注意喚起要件を満す場合にスピーカ6や表示装置7により運転者に注意喚起を発する処理を実行する。   Although not shown in detail, the image processing unit 1 includes electronic circuits including an A / D conversion circuit, a microcomputer (having a CPU, a RAM, a ROM, and the like), an image memory, and the like. The infrared cameras 2R, 2L, Analog signals output from the yaw rate sensor 3, the vehicle speed sensor 4, and the brake sensor 5 are converted into digital data by an A / D conversion circuit and input to a microcomputer. The microcomputer detects an object such as a person (pedestrian or person riding a bicycle) based on the input data, and the speaker detects when the detected object satisfies a predetermined alerting requirement. 6 or a display device 7 is used to execute a process for alerting the driver.

尚、画像処理ユニット1は、本発明における対象物抽出手段、動物判定手段、オクルージョン判定手段、及び位置補完手段としての機能を備えている。   The image processing unit 1 has functions as an object extraction unit, an animal determination unit, an occlusion determination unit, and a position complementing unit in the present invention.

図2に示すように、赤外線カメラ2R,2Lは、自車両10の前方を撮像するために、自車両10の前部(図ではフロントグリルの部分)に取り付けられている。この場合、赤外線カメラ2R,2Lは、それぞれ、自車両10の車幅方向の中心よりも右寄りの位置、左寄りの位置に配置されている。それら位置は、自車両10の車幅方向の中心に対して左右対称である。そして、赤外線カメラ2R,2Lは、それらの光軸が互いに平行に自車両10の前後方向に延在し、且つ、それぞれの光軸の路面からの高さが互いに等しくなるように固定されている。尚、赤外線カメラ2R,2Lは、遠赤外域に感度を有し、それにより撮像される物体の温度が高いほど、出力される映像信号のレベルが高くなる(映像信号の輝度が高くなる)特性を有している。   As shown in FIG. 2, the infrared cameras 2 </ b> R and 2 </ b> L are attached to the front portion (the front grill portion in the figure) of the host vehicle 10 in order to image the front of the host vehicle 10. In this case, the infrared cameras 2R and 2L are respectively disposed at a position on the right side and a position on the left side of the center of the host vehicle 10 in the vehicle width direction. These positions are symmetrical with respect to the center of the vehicle 10 in the vehicle width direction. The infrared cameras 2R and 2L are fixed so that their optical axes extend in parallel in the front-rear direction of the host vehicle 10 and the heights of the optical axes from the road surface are equal to each other. . The infrared cameras 2R and 2L have sensitivity in the far-infrared region, and the higher the temperature of the object to be imaged, the higher the level of the output video signal (the luminance of the video signal increases). have.

また、本実施形態では、表示装置7として、自車両10のフロントウィンドウに画像情報を表示するヘッド・アップ・ディスプレイ7a(以下、HUD7aという)を備えている。尚、表示装置7として、HUD7aの代わりに、もしくは、HUD7aと共に、自車両10の車速などの走行状態を表示するメータに一体的に設けられたディスプレイ、あるいは、車載ナビゲーション装置に備えられたディスプレイを用いてもよい。   In the present embodiment, the display device 7 includes a head-up display 7a (hereinafter referred to as HUD 7a) that displays image information on the front window of the host vehicle 10. As the display device 7, instead of the HUD 7a, or together with the HUD 7a, a display provided integrally with a meter for displaying a traveling state such as the vehicle speed of the host vehicle 10 or a display provided in an in-vehicle navigation device is provided. It may be used.

次に、本実施形態の周辺監視装置の全体的動作を図3のフローチャートを参照して説明する。尚、図3のフローチャートの処理は、例えば本出願人による特開2001−6096号の図3、及び特開2007−310705号の図3に記載されている処理と同じであるので、その同じ処理については、本明細書での詳細な説明は省略する。   Next, the overall operation of the periphery monitoring device of this embodiment will be described with reference to the flowchart of FIG. 3 is the same as the process described in FIG. 3 of Japanese Patent Application Laid-Open No. 2001-6096 and FIG. 3 of Japanese Patent Application Laid-Open No. 2007-310705 by the applicant of the present invention. The detailed description in this specification will be omitted.

まず、画像処理ユニット1は、赤外線カメラ2R、2Lにより赤外線撮像画像を取得する(図3/STEP1)。   First, the image processing unit 1 acquires infrared captured images by the infrared cameras 2R and 2L (FIG. 3 / STEP 1).

次いで、画像処理ユニット1は、基準画像(右画像)を2値化する(図3/STEP2)。   Next, the image processing unit 1 binarizes the reference image (right image) (FIG. 3 / STEP 2).

次いで、画像処理ユニット1は、前記2値化画像に対してSTEP3〜5の処理を実行し、該2値化画像から対象物(より正確には対象物に対応する画像領域)を抽出する。まず、前記2値化画像の高輝度領域を構成する画素群をランレングスデータに変換する(図3/STEP3)。次いで、基準画像の縦方向に重なりを有するライン群のそれぞれにラベル(識別子)を付する(図3/STEP4)。次いで、ライン群のそれぞれを対象物として抽出する(図3/STEP5)。   Next, the image processing unit 1 performs the processing of STEP 3 to STEP 5 on the binarized image, and extracts an object (more precisely, an image area corresponding to the object) from the binarized image. First, the pixel group constituting the high luminance area of the binarized image is converted into run length data (FIG. 3 / STEP 3). Next, a label (identifier) is attached to each line group that overlaps in the vertical direction of the reference image (FIG. 3 / STEP 4). Next, each line group is extracted as an object (FIG. 3 / STEP 5).

次いで、画像処理ユニット1は、上記の如く抽出した各対象物の重心の位置(基準画像上での位置)と面積と外接四角形の縦横比とを求める(図3/STEP6)。   Next, the image processing unit 1 obtains the position of the center of gravity of each object extracted as described above (position on the reference image), the area, and the aspect ratio of the circumscribed rectangle (FIG. 3 / STEP 6).

次いで、画像処理ユニット1は、前記STEP5で抽出した対象物の時刻間追跡、すなわち、画像処理ユニット1の演算処理周期毎の同一対象物の認識を行なう(図3/STEP7)。   Next, the image processing unit 1 traces the object extracted in STEP 5 during the time, that is, recognizes the same object for each arithmetic processing period of the image processing unit 1 (FIG. 3 / STEP 7).

次いで、画像処理ユニット1は、前記車速センサ4及びヨーレートセンサ5の出力(車速の検出値及びヨーレートの検出値)を読み込む(図3/STEP8)。   Next, the image processing unit 1 reads the outputs (vehicle speed detection value and yaw rate detection value) of the vehicle speed sensor 4 and the yaw rate sensor 5 (FIG. 3 / STEP 8).

一方、画像処理ユニット1は、STEP7,8の処理と並行して、STEP10の処理を実行する。まず、前記基準画像のうち、各対象物に対応する領域(例えば該対象物の外接四角形の領域)を探索画像として抽出する(図3/STEP10)。次いで、探索画像との相関性が最も高い領域が、探索画像に対応する画像(探索画像と同等の画像)である対応画像として抽出される(図3/STEP11)。次いで、右画像における前記探索画像の重心の横方向位と、左画像における前記対応画像の重心の横方向位置との差分の画素数を視差として算出し、対象物の自車両10からの距離(自車両10の前後方向における距離)が算出される(図3/STEP12)。   On the other hand, the image processing unit 1 executes the processing of STEP 10 in parallel with the processing of STEP 7 and STEP 8. First, in the reference image, an area corresponding to each object (for example, a circumscribed square area of the object) is extracted as a search image (FIG. 3 / STEP 10). Next, the region having the highest correlation with the search image is extracted as a corresponding image that is an image corresponding to the search image (an image equivalent to the search image) (FIG. 3 / STEP 11). Next, the number of pixels of the difference between the lateral position of the center of gravity of the search image in the right image and the lateral position of the center of gravity of the corresponding image in the left image is calculated as parallax, and the distance of the object from the host vehicle 10 ( The distance in the front-rear direction of the host vehicle 10 is calculated (FIG. 3 / STEP 12).

次いで、画像処理ユニット1は、各対象物の実空間上での位置(自車両10に対する相対位置)である実空間位置を算出する(図3/STEP13)。   Next, the image processing unit 1 calculates a real space position that is a position (relative position with respect to the host vehicle 10) of each object in the real space (FIG. 3 / STEP 13).

次いで、画像処理ユニット1は、対象物の実空間位置(X,Y,Z)のうちのX方向の位置Xを前記STEP8で求めた回頭角の時系列データに応じて補正する(図3/STEP14)。   Next, the image processing unit 1 corrects the position X in the X direction of the real space position (X, Y, Z) of the object according to the time-series data of the turning angle obtained in STEP 8 (FIG. 3 / (STEP 14).

次いで、画像処理ユニット1は、対象物の自車両10に対する移動ベクトルを求める(図3/STEP15)。   Next, the image processing unit 1 obtains a movement vector of the object relative to the host vehicle 10 (FIG. 3 / STEP 15).

次いで、STEP15において、相対移動ベクトルが求められたら、検出した対象物との接触の可能性を判定する注意喚起判定処理を行う(図3/STEP16)。   Next, when a relative movement vector is obtained in STEP 15, a warning determination process for determining the possibility of contact with the detected object is performed (FIG. 3 / STEP 16).

次いで、画像処理ユニット1は、STEP16の注意喚起判定処理において、いずれの対象物も注意喚起発生要件を満たさない(注意喚起発生要件に該当する対象物が存在しない)と判断した場合(図3/STEP16‥NO)には、前記STEP1からの処理を再開する。また、STEP16で、いずれかの対象物が注意喚起発生要件を満たすと判断した場合(図3/STEP16‥YES)には、STEP17に進んで、注意喚起発生要件を満たす対象物に関する実際の注意喚起を行なうべきか否かの判定を行なう注意喚起出力判定処理を実行する(図3/STEP17)。   Next, the image processing unit 1 determines that none of the objects satisfy the alert generation requirement (there is no object corresponding to the alert generation requirement) in the attention determination process of STEP 16 (FIG. 3 / In STEP16... NO), the processing from STEP1 is resumed. If it is determined in STEP 16 that any of the objects satisfies the alert generation requirement (FIG. 3 / STEP 16... YES), the process proceeds to STEP 17 and actual alerts regarding the object that satisfies the alert generation requirement. Attention output determination processing for determining whether or not should be performed is executed (FIG. 3 / STEP 17).

次いで、画像処理ユニット1は、注意喚起を行なうべきと判定した場合(図3/STEP17‥YES)には、注意喚起を出力する(図3/STEP18)。   Next, when the image processing unit 1 determines that attention should be given (FIG. 3 / STEP 17... YES), the image processing unit 1 outputs a warning (FIG. 3 / STEP 18).

また、STEP17で注意喚起を行なわないと判断したとき(全ての対象物について注意喚起を行なわないと判断したとき)には、STEP17の判定結果がNOとなり、この場合には、そのままSTEP1からの処理が再開される。   If it is determined in STEP 17 that alerting is not performed (when it is determined that alerting is not performed for all objects), the determination result in STEP 17 is NO. In this case, the processing from STEP 1 is performed as it is. Is resumed.

以上が本実施形態の周辺監視装置の全体的作動である。尚、画像処理ユニット1によりSTEP1〜6の処理を実行する構成が、本発明の対象物抽出手段に相当する。   The above is the overall operation of the periphery monitoring device of this embodiment. In addition, the structure which performs the process of STEP1-6 by the image processing unit 1 corresponds to the target object extraction means of this invention.

次に、本実施形態の周辺監視装置の要部であるオクルージョンが発生した場合のオクルージョン処理について説明する。   Next, an occlusion process when an occlusion that is a main part of the periphery monitoring device of the present embodiment occurs will be described.

まず、オクルージョンについて図4を参照して説明する。図4(a)は、赤外線カメラ2R、2Lにより対象物を追跡しているオクルージョン発生前の時刻t=kの時点での画像40である。画像40には、対象物の画像領域42が表示されている。   First, occlusion will be described with reference to FIG. FIG. 4A shows an image 40 at the time t = k before the occurrence of occlusion in which the object is tracked by the infrared cameras 2R and 2L. In the image 40, an image area 42 of the object is displayed.

図4(b)は、赤外線カメラ2R、2Lにより対象物を追跡中にオクルージョンが発生した時刻t=k+1〜t=k+n−1の間の画像44である。オクルージョンは、赤外線カメラ2R、2Lにより対象物を追跡中に、赤外線カメラ2R、2Lからみて対象物が遮蔽物に隠れる等の理由により、一時的に赤外線カメラ2R、2Lから追跡中の対象物が消失する現象である。   FIG. 4B is an image 44 between times t = k + 1 to t = k + n−1 when the occlusion occurs while tracking the object by the infrared cameras 2R and 2L. While the object is being tracked by the infrared cameras 2R and 2L, the object being tracked temporarily from the infrared cameras 2R and 2L is temporarily hidden due to the reason that the object is hidden by the shield when viewed from the infrared cameras 2R and 2L. It is a phenomenon that disappears.

図4(c)は、赤外線カメラ2R、2Lにより対象物を追跡しているオクルージョン解消後の時刻t=k+nの時点での画像46である。画像46には、対象物の画像領域42´が表示されている。   FIG. 4C shows an image 46 at time t = k + n after the occlusion cancellation in which the object is tracked by the infrared cameras 2R and 2L. In the image 46, an image area 42 'of the object is displayed.

従って、オクルージョン発生中の時刻t=k+1〜t=k+n−1では、図4(a)の画像領域42に含まれる対象物と図4(c)の画像領域42´に含まれる対象物とが同一であるか否かが不明になる。   Therefore, at the time t = k + 1 to t = k + n−1 during the occurrence of occlusion, the object included in the image area 42 in FIG. 4A and the object included in the image area 42 ′ in FIG. It becomes unclear whether they are the same.

次に、本実施形態におけるオクルージョン処理について図5のフローチャートを参照して説明する。図3における周辺監視装置の全体的動作中にオクルージョンが発生した場合には、以下のオクルージョン処理が実行される。   Next, the occlusion process in this embodiment will be described with reference to the flowchart of FIG. When occlusion occurs during the overall operation of the periphery monitoring apparatus in FIG. 3, the following occlusion processing is executed.

まず、上記STEP1〜6の対象物判定処理により抽出された画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定処理を実行する(図5/STEP100)。本実施形態における指定動物としては、胴部を横から見た場合に、胴部(具体的には横長の第1の高輝度画像領域)に対して頭部(具体的には第1の高輝度画像領域の近傍にある第1の高輝度画像領域より小さい第2の高輝度画像領域)が左右いずれかに位置するような動物である。具体的に指定動物としては、鹿、羊、犬、及び馬などの四足動物が挙げられる。   First, an animal determination process for determining whether or not the object in the image area extracted by the object determination process in STEPs 1 to 6 is a designated animal having a head on either the left or right side of the trunk is executed. (FIG. 5 / STEP 100). As the designated animal in the present embodiment, when the trunk is viewed from the side, the head (specifically, the first height) with respect to the trunk (specifically, the horizontally long first high-luminance image region). The animal is such that the second high-brightness image region smaller than the first high-brightness image region in the vicinity of the luminance image region is located on either the left or right side. Specific examples of designated animals include quadruped animals such as deer, sheep, dogs, and horses.

尚、上記STEP1〜6の対象物判定処理により抽出された画像領域の対象物には、指定動物だけではなく人工構造物及び歩行者等が含まれる。   Note that the objects in the image region extracted by the object determination process in STEPs 1 to 6 include not only the designated animal but also an artificial structure and a pedestrian.

動物判定処理は、動物にはあり得ない特徴が検出された場合、対象物を人工構造物と判定する。人工構造物であるとする判定処理は、対象物の画像領域に、例えば下記(a)〜(d)に示す条件のように、動物にはあり得ない特徴が検出された場合、対象物を人工構造物と判定する。
(a)対象物の画像に直線エッジを示す部分が含まれる場合。
(b)対象物の画像の角が直角である場合。
(c)対象物の画像に同じ形状のものが複数含まれている場合。
(d)対象物の画像が予め登録された人工構造物の形状と一致する場合。
In the animal determination process, when a feature that cannot be found in an animal is detected, the object is determined as an artificial structure. The determination process for determining that the object is an artificial structure is performed when the feature that cannot be found in an animal is detected in the image area of the object, such as the conditions shown in (a) to (d) below. Judged as an artificial structure.
(A) When the image of the object includes a portion indicating a straight edge.
(B) The corner of the image of the object is a right angle.
(C) A case where a plurality of objects having the same shape are included in the image of the object.
(D) When the image of the object matches the shape of the artificial structure registered in advance.

尚、対象物は人工構造物ではないと判定された場合で、対象物の動物から歩行者を除くために、対象物が歩行者の可能性があるか否かの判定処理を実行する。歩行者であるか否かの判定処理は、グレースケール画像上で対象物の画像領域の形状や大きさ、輝度分散等の特徴から、対象物が歩行者か否かを判定する。   When it is determined that the object is not an artificial structure, in order to remove the pedestrian from the animal of the object, a determination process is performed to determine whether the object is a pedestrian. In the determination process for determining whether or not the object is a pedestrian, it is determined whether or not the object is a pedestrian based on features such as the shape and size of the image area of the object on the grayscale image and luminance dispersion.

次いで、赤外線カメラ2R、2Lにおいて指定動物の胴部に対して頭部が存在する側に指定動物が存在すると予測される予測領域を設定する予測領域設定処理を実行する(図5/STEP102)。予測領域は、オクルージョンが発生する前の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された指定動物の位置を基準として設定される。   Next, a prediction region setting process for setting a prediction region in which the designated animal is predicted to be present on the side where the head exists with respect to the trunk of the designated animal in the infrared cameras 2R and 2L is executed (FIG. 5 / STEP 102). The prediction area is set based on the position of the designated animal extracted as the object by the object determination process from the infrared cameras 2R and 2L before the occlusion occurs.

予測領域は、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測されるため、胴部の左右両側のうち頭部が存在する側に設定される。具体的には、オクルージョン発生前の時刻t=kの時点での画像である図6(a)に示すように、胴部A1(k)に対して頭部A2(k)が右側に存在するため、予測領域A(k)は指定動物の右側に設定される。尚、図6(a)では、胴部A1(k)及び頭部A2(k)を有する指定動物を強調して表示するために強調枠F(破線枠)がHUD7aに表示される。   If the predicted region is a designated animal with a head on either the left or right side of the torso, the direction of movement of the designated animal is predicted to be the direction from the torso to the head. It is set to the side where the head is present among the left and right sides. Specifically, as shown in FIG. 6A, which is an image at time t = k before the occurrence of occlusion, the head A2 (k) is present on the right side with respect to the trunk A1 (k). Therefore, the prediction area A (k) is set on the right side of the designated animal. In FIG. 6A, an emphasis frame F (broken line frame) is displayed on the HUD 7a in order to highlight and display the designated animal having the trunk A1 (k) and the head A2 (k).

次いで、図5/STEP102で設定された予測領域に、オクルージョンが解消した後の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された対象物が存在するか否かを判定する予測領域存在処理を実行する(図5/STEP104)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、予測領域A(k)に対象物(A1(k+n)及びA2(k+n))が存在するか否かを判定する。   Next, a prediction region for determining whether or not there is an object extracted as an object by the object determination processing from the infrared cameras 2R and 2L after the occlusion is eliminated in the prediction region set in FIG. Existence processing is executed (FIG. 5 / STEP 104). Specifically, as shown in FIG. 6B, which is an image at time t = k + n (n = 2) after occlusion elimination, the object (A1 (k + n) and It is determined whether A2 (k + n)) exists.

次いで、STEP104において、対象物判定処理により対象物として抽出された対象物が存在する場合(図5/STEP104‥YES)、予測領域に、オクルージョンが解消した後の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された指定動物が存在するか否かを判定する予測領域判定処理を実行する(図5/STEP106)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、予測領域A(k)に指定動物(A1(k+n)及びA2(k+n))が存在するか否かを判定する。   Next, in STEP 104, when there is an object extracted as an object by the object determination process (FIG. 5 / STEP 104... YES), the object determination is performed from the infrared cameras 2R and 2L after the occlusion is eliminated in the prediction region. A prediction area determination process is performed to determine whether or not there is a designated animal extracted as an object by the process (FIG. 5 / STEP 106). Specifically, as shown in FIG. 6B, which is an image at time t = k + n (n = 2) after occlusion elimination, the designated animal (A1 (k + n) and It is determined whether A2 (k + n)) exists.

次いで、STEP106において、対象物判定処理により対象物として抽出された指定動物が存在する場合(図5/STEP106‥YES)、予測領域判定処理により抽出された指定動物の姿勢が、オクルージョン発生する前の赤外線カメラ2R、2Lから対象物抽出処理により対象物として抽出された指定動物の姿勢と同一であるか否かを判定する予測領域決定処理を実行する(図5/STEP108)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、図6(a)の指定動物(A1(k)及びA2(k))の姿勢と図6(b)の予測領域に存在する指定動物(A1(k+n)及びA2(k+n))の姿勢が同一であるか否かを決定する。尚、指定動物の姿勢とは、胴部の左右いずれかの側に頭部が存在するかである。   Next, in STEP 106, when there is a designated animal extracted as an object by the object determination process (FIG. 5 / STEP 106... YES), the posture of the designated animal extracted by the prediction area determination process is the same as that before the occurrence of occlusion. Prediction region determination processing is performed to determine whether or not the posture of the designated animal extracted as the object by the object extraction processing from the infrared cameras 2R and 2L is the same (FIG. 5 / STEP 108). Specifically, as shown in FIG. 6B, which is an image at time t = k + n (n = 2) after occlusion elimination, the designated animals (A1 (k) and A2 in FIG. 6A). It is determined whether the posture of (k)) and the posture of the designated animals (A1 (k + n) and A2 (k + n)) existing in the prediction region of FIG. 6B are the same. Note that the posture of the designated animal is whether the head is on the left or right side of the trunk.

次いで、STEP108において、対象物抽出処理により対象物として抽出された指定動物の姿勢と同一であると判定された場合(図5/STEP108‥YES)、オクルージョンが発生する前の赤外線カメラ2R、2Lから抽出された指定動物の位置と、予測領域決定処理により決定した指定動物の位置とに基づいて、オクルージョン発生中の指定動物の位置を補完する位置補完処理が実行される(図5/STEP110)。具体的には、オクルージョン発生中の時刻t=k+1の時点での画像である図6(c)に示すように、オクルージョン発生前の指定動物(A1(k)及びA2(k))と、オクルージョン解消後の指定動物(A1(k+n)及びA2(k+n))との間に、オクルージョン発生中の指定動物(A1(k+1)及びA2(k+1))の位置が補完される。尚、オクルージョン発生中の指定動物の位置を補完する位置補完処理は、例えば、オクルージョン発生前の指定動物の位置とオクルージョン解消後の指定動物の位置との距離を2分してその位置に指定動物を位置付けることで求められ、オクルージョン発生前の指定動物の位置をX(k)として、オクルージョン解消後の指定動物の位置をX(k+2)とすると、位置補完処理で補完される位置は、X(k)+((X(k+2)−X(k))÷2)である。そして、時刻k〜k+nまで指定動物の追跡ができるため、図6(c)では、胴部A1(k+1)及び頭部A2(k+1)を有する位置が補完された指定動物の存在を強調する強調枠F(破線枠)がHUD7aに表示される。同様に、図6(b)に示すように、オクルージョン解消後の指定動物(A1(k+2)及びA2(k+2))の位置が補完され、胴部A1(k+2)及び頭部A2(k+2)を有する指定動物の存在を強調する強調枠F(破線枠)がHUD7aに表示される。   Next, when it is determined in STEP 108 that the posture of the designated animal extracted as the object by the object extraction process is the same (FIG. 5 / STEP 108... YES), from the infrared cameras 2R and 2L before the occlusion occurs. Based on the extracted position of the designated animal and the position of the designated animal determined by the prediction region determination process, a position complementing process for complementing the position of the designated animal in which occlusion is occurring is executed (FIG. 5 / STEP 110). Specifically, as shown in FIG. 6 (c), which is an image at time t = k + 1 during occurrence of occlusion, designated animals (A1 (k) and A2 (k)) before the occurrence of occlusion, and occlusion The positions of the designated animals (A1 (k + 1) and A2 (k + 1)) during the occurrence of occlusion are complemented with the designated animals (A1 (k + n) and A2 (k + n)) after the cancellation. In addition, the position complement processing for complementing the position of the designated animal during the occurrence of occlusion is, for example, by dividing the distance between the position of the designated animal before the occurrence of occlusion and the position of the designated animal after the occlusion is resolved into If the position of the designated animal before occurrence of occlusion is X (k) and the position of the designated animal after occlusion elimination is X (k + 2), the position complemented by the position completion processing is X ( k) + ((X (k + 2) −X (k)) ÷ 2). Since the designated animal can be tracked from time k to k + n, in FIG. 6C, emphasis is placed on the presence of the designated animal supplemented with the positions having the trunk A1 (k + 1) and the head A2 (k + 1). A frame F (broken line frame) is displayed on the HUD 7a. Similarly, as shown in FIG. 6 (b), the positions of the designated animals (A1 (k + 2) and A2 (k + 2)) after occlusion elimination are complemented, and the torso A1 (k + 2) and head A2 (k + 2) are An emphasis frame F (dashed line frame) that emphasizes the presence of the designated animal is displayed on the HUD 7a.

尚、画像処理ユニット1によりSTEP110の処理を実行する構成が、本発明の位置補完手段に相当する。   Note that the configuration in which the processing of STEP 110 is executed by the image processing unit 1 corresponds to the position complementing means of the present invention.

尚、予測領域のオクルージョン発生前及びオクルージョン解消後のそれぞれにおける指定動物の姿勢が同一か否かによらず(図5/STEP108を省略)、予測領域に指定動物が存在することにより、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。   In addition, regardless of whether or not the posture of the designated animal is the same before and after occlusion occurrence in the prediction region (FIG. 5 / STEP 108 is omitted), occlusion is occurring due to the presence of the designated animal in the prediction region. It is also possible to complement the position of the designated animal.

また、予測領域に指定動物が存在することによらず(図5/STEP106を省略)、オクルージョンが発生する前の赤外線カメラ2R、2Lから抽出された指定動物の胴部に対する頭部の位置及び動物の位置と、オクルージョンが解消した後の赤外線カメラ2R、2Lから抽出された指定動物の位置とに基づいて、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。   Further, regardless of the presence of the designated animal in the prediction area (FIG. 5 / STEP 106 is omitted), the position of the head relative to the trunk of the designated animal and the animal extracted from the infrared cameras 2R and 2L before the occlusion occurs , And the position of the designated animal extracted from the infrared cameras 2R and 2L after the occlusion is eliminated, the position of the designated animal during the occurrence of occlusion can be complemented.

また、オクルージョン発生前及びオクルージョン解消後に指定動物が存在することによらず(図5/STEP104を省略)、オクルージョンが発生する前の撮像画像から抽出された指定動物の位置及び胴部に対する頭部の位置に基づいて、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。この場合における位置補完処理で補完される位置は、例えば、オクルージョン発生前の指定動物の位置をX(k)として、X(k)+△X(△X∝(X(k)−X(k−1))÷△t)である。   In addition, regardless of the presence of the designated animal before the occurrence of occlusion and after the elimination of occlusion (FIG. 5 / STEP 104 is omitted), the position of the designated animal extracted from the captured image before the occurrence of occlusion and the position of the head relative to the torso Based on the position, the position of the designated animal during the occurrence of occlusion can be complemented. The position complemented by the position complementing process in this case is, for example, X (k) + ΔX (ΔX∝ (X (k) −X (k), where X (k) is the position of the designated animal before the occurrence of occlusion. −1)) ÷ Δt).

以上、本実施形態によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前及びオクルージョン解消後において指定動物の胴部に対する頭部の位置が同一であれば当該指定動物であると予測されることに鑑みて、車両に搭載された赤外線カメラ2R,2Lによって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。   As described above, according to the present embodiment, if the designated animal has a head on the left or right side of the torso, the direction in which the designated animal moves is predicted to be the direction from the torso to the head, In addition, in view of the fact that if the position of the head relative to the torso of the designated animal is the same before the occurrence of occlusion and after the occlusion is resolved, the designated animal is predicted, the infrared cameras 2R and 2L mounted on the vehicle When an occlusion occurs while tracking a designated animal, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.

尚、本実施形態においては、画像処理ユニット1の処理結果に基づいて、所定の注意喚起を行うように構成されているが、該処理結果に基づいて車両挙動を制御するように構成してもよい。   In the present embodiment, a predetermined alert is configured based on the processing result of the image processing unit 1, but the vehicle behavior may be controlled based on the processing result. Good.

また、前記実施形態では、2台の赤外線カメラ2R,2Lを備えたが、1台の赤外線カメラを自車両10に搭載するようにしてもよい。この場合には、対象物との距離をレーダーなどにより検出するようにする。   In the above embodiment, the two infrared cameras 2R and 2L are provided. However, one infrared camera may be mounted on the host vehicle 10. In this case, the distance to the object is detected by a radar or the like.

本発明の車両の周辺監視装置の一実施形態の全体構成を示す図。The figure which shows the whole structure of one Embodiment of the periphery monitoring apparatus of the vehicle of this invention. 図1の周辺監視装置を備えた車両の斜視図。The perspective view of the vehicle provided with the periphery monitoring apparatus of FIG. 図1の周辺監視装置に備えた画像処理ユニットの処理を示すフローチャート。3 is a flowchart showing processing of an image processing unit provided in the periphery monitoring device of FIG. 1. 本実施形態におけるオクルージョンを説明するための図である。It is a figure for demonstrating the occlusion in this embodiment. 本実施形態におけるオクルージョン処理を示すフローチャートである。It is a flowchart which shows the occlusion process in this embodiment. 本実施形態におけるオクルージョン処理を説明するための図である。It is a figure for demonstrating the occlusion process in this embodiment.

符号の説明Explanation of symbols

1…画像処理ユニット(対象物抽出手段、動物判定手段、オクルージョン判定手段、位置補完手段)、2R,2L…赤外線カメラ(撮像手段)   DESCRIPTION OF SYMBOLS 1 ... Image processing unit (Object extraction means, animal determination means, occlusion determination means, position complementing means), 2R, 2L ... Infrared camera (imaging means)

Claims (4)

車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、
前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、
前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、
前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、
前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の位置及び胴部に対する頭部の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段と
を備えることを特徴とする車両周辺監視装置。
A vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging means mounted on the vehicle,
Object extraction means for extracting an image area of the object from the captured image;
Animal determination means for determining whether the object of the image region extracted by the object extraction means is a designated animal having a head on either the left or right side of the torso;
Occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image occurred during tracking of the object in the captured image;
The occlusion occurs when the occlusion determination means determines that the occlusion has occurred, and the object extracted by the object extraction means determines that the animal is the designated animal. Position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of the designated animal extracted from the captured image before the position and the position of the head with respect to the torso. A vehicle periphery monitoring device.
車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、
前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、
前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、
前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、
前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、オクルージョン発生前及びオクルージョン解消後において前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、
前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の胴部に対する頭部の位置及び前記指定動物の位置と、前記オクルージョンが解消した後の前記撮像画像から抽出された前記指定動物の位置とに基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段と
を備えることを特徴とする車両周辺監視装置。
A vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging means mounted on the vehicle,
Object extraction means for extracting an image area of the object from the captured image;
Animal determination means for determining whether the object of the image region extracted by the object extraction means is a designated animal having a head on either the left or right side of the torso;
Occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image occurred during tracking of the object in the captured image;
It is determined by the occlusion determination means that the occlusion has occurred, and the object extracted by the object extraction means before the occurrence of occlusion and after occlusion elimination is determined by the animal determination means to be the designated animal. If
The position of the head with respect to the torso of the designated animal and the position of the designated animal extracted from the captured image before the occlusion occurs, and the designated animal extracted from the captured image after the occlusion is resolved Position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of
Vehicle periphery monitoring apparatus comprising: a.
請求項2記載の車両周辺監視装置において、
前記位置補完手段が、前記撮像画像において前記指定動物の胴部に対して頭部が存在す
る側に将来において該指定動物が存在すると予測される予測領域を設定し、前記オクルー
ジョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出
された前記指定動物を基準として設定した前記予測領域に、前記オクルージョンが解消し
た後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定
動物が存在するか否かを判定し、前記撮像画像から前記対象物抽出手段により前記対象物
として抽出された前記指定動物が存在すると判定されたことを要件として、前記オクルー
ジョン発生前及びオクルージョン解消後のそれぞれにおける前記指定動物の位置に基づい
て、前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする車両周
辺監視装置。
In the vehicle periphery monitoring device according to claim 2,
The position complementing means sets a prediction region in which the designated animal is predicted to exist in the future on the side where the head is present with respect to the torso of the designated animal in the captured image, and before the occlusion occurs The object extraction means from the captured image after the occlusion is eliminated in the prediction region set with reference to the designated animal extracted as the object by the object extraction means from the captured image. It is determined whether or not the designated animal extracted as is present, and it is determined that the designated animal extracted as the target object from the captured image is extracted by the target object extraction unit. The occlusion is occurring based on the position of the designated animal before occurrence and after occlusion cancellation Vehicle periphery monitoring apparatus characterized by complementing the position of the specified animals.
請求項3記載の車両周辺監視装置において、
前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対
象物として抽出された前記指定動物と、前記オクルージョンが解消した後の前記撮像画像
から前記対象物抽出手段により前記対象物として抽出された前記指定動物との姿勢が同一
であるか否かを前記指定動物の胴部に対して頭部が存在する側に基づいて決定し、同一で
あると決定された場合に前記オクルージョン発生中の前記指定動物の位置を補完すること
を特徴とする車両周辺監視装置。
In the vehicle periphery monitoring device according to claim 3,
The designated animal extracted as the object by the object extraction unit from the captured image before the occlusion occurs, and the object extraction unit by the object extraction unit from the captured image after the occlusion is eliminated Whether or not the extracted posture of the designated animal is the same is determined based on the side where the head exists with respect to the trunk of the designated animal, and the occlusion occurs when it is determined to be the same A vehicle periphery monitoring device supplementing the position of the designated animal in the vehicle.
JP2008149484A 2008-06-06 2008-06-06 Vehicle periphery monitoring device Expired - Fee Related JP5172482B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008149484A JP5172482B2 (en) 2008-06-06 2008-06-06 Vehicle periphery monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008149484A JP5172482B2 (en) 2008-06-06 2008-06-06 Vehicle periphery monitoring device

Publications (2)

Publication Number Publication Date
JP2009295018A JP2009295018A (en) 2009-12-17
JP5172482B2 true JP5172482B2 (en) 2013-03-27

Family

ID=41543125

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008149484A Expired - Fee Related JP5172482B2 (en) 2008-06-06 2008-06-06 Vehicle periphery monitoring device

Country Status (1)

Country Link
JP (1) JP5172482B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103946907A (en) * 2011-11-25 2014-07-23 本田技研工业株式会社 Vehicle periphery monitoring device
EP3487172A4 (en) 2016-07-13 2019-07-10 Sony Corporation IMAGE GENERATING DEVICE, IMAGE GENERATING METHOD, AND PROGRAM
JP6574878B2 (en) * 2018-07-19 2019-09-11 キヤノン株式会社 Image processing apparatus, image processing method, imaging apparatus, program, and storage medium
CN112261340B (en) * 2020-10-22 2023-04-07 维沃移动通信有限公司 Visual field sharing method and device, electronic equipment and readable storage medium
CN116724261A (en) * 2021-01-15 2023-09-08 富士胶片株式会社 Camera device, camera method and camera program

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000003446A (en) * 1998-06-15 2000-01-07 Ricoh Co Ltd Missing value estimation method, three-dimensional data input device, and recording medium
JP2004295798A (en) * 2003-03-28 2004-10-21 Japan Best Rescue System Kk Security system
JP4482795B2 (en) * 2004-03-05 2010-06-16 ソニー株式会社 Image processing apparatus, moving object tracking method, moving object tracking program, monitoring apparatus, and game apparatus
JP4528103B2 (en) * 2004-11-29 2010-08-18 セコム株式会社 Image recognition device
JP2007003448A (en) * 2005-06-27 2007-01-11 Nippon Telegr & Teleph Corp <Ntt> Movement information generation apparatus, movement information generation method, program, and storage medium
JP4173901B2 (en) * 2006-05-19 2008-10-29 本田技研工業株式会社 Vehicle periphery monitoring device

Also Published As

Publication number Publication date
JP2009295018A (en) 2009-12-17

Similar Documents

Publication Publication Date Title
JP4173901B2 (en) Vehicle periphery monitoring device
EP2352136B1 (en) System for monitoring the area around a vehicle
JP5198346B2 (en) Vehicle periphery monitoring device
US8189868B2 (en) Vehicle periphery monitoring device
JP5480925B2 (en) Vehicle periphery monitoring device
JP4521642B2 (en) Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program
JP2010044561A (en) Monitoring device to be mounted on vehicle
JP4644273B2 (en) Vehicle periphery monitoring device
JP4173902B2 (en) Vehicle periphery monitoring device
JP5172482B2 (en) Vehicle periphery monitoring device
US7885430B2 (en) Automotive environment monitoring device, vehicle with the automotive environment monitoring device, and automotive environment monitoring program
JP5004903B2 (en) Vehicle periphery monitoring device
JP4615061B2 (en) Vehicle periphery monitoring device
JP4995778B2 (en) Vehicle periphery monitoring device
JP5903003B2 (en) Vehicle periphery monitoring device
JP5602354B2 (en) Vehicle periphery monitoring device
JP5026398B2 (en) Vehicle periphery monitoring device
JP4972073B2 (en) Environment recognition device
JP4590654B2 (en) Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120321

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120321

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120518

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121226

LAPS Cancellation because of no payment of annual fees