JP5172482B2 - Vehicle periphery monitoring device - Google Patents
Vehicle periphery monitoring device Download PDFInfo
- Publication number
- JP5172482B2 JP5172482B2 JP2008149484A JP2008149484A JP5172482B2 JP 5172482 B2 JP5172482 B2 JP 5172482B2 JP 2008149484 A JP2008149484 A JP 2008149484A JP 2008149484 A JP2008149484 A JP 2008149484A JP 5172482 B2 JP5172482 B2 JP 5172482B2
- Authority
- JP
- Japan
- Prior art keywords
- occlusion
- animal
- designated
- captured image
- extracted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
本発明は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置に関する。 The present invention relates to a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle.
従来、この種の車両周辺監視装置として本出願人は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された対象物の画像領域に、異なる方向の幅の比率が所定範囲となる第1の対象物領域と、該第1の対象物領域の下方に該第1の対象物領域よりも面積が小さい複数の第2の対象物領域とが含まれるかに応じて、対象物の種別を判定する対象物種別判定手段とを備えることを特徴とする車両周辺監視装置を提案している(特許文献1参照)。本従来技術によれば、該対象物の種別が、異なる方向の幅の比率が所定範囲となる形状の胴部を有する動物であるか否かを判定することができる。 Conventionally, the applicant of this type of vehicle periphery monitoring apparatus is a vehicle periphery monitoring apparatus that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, and the object is obtained from the captured image. An object extraction means for extracting the image area, a first object area in which a ratio of widths in different directions falls within a predetermined range in the image area of the object extracted by the object extraction means, and the first Object type determining means for determining the type of the object depending on whether a plurality of second object areas having an area smaller than that of the first object area are included below the object area The vehicle periphery monitoring apparatus characterized by providing is proposed (refer patent document 1). According to this prior art, it is possible to determine whether or not the type of the object is an animal having a trunk having a shape in which the ratio of the widths in different directions falls within a predetermined range.
また、この種の車両周辺監視装置としては、自車両の左側に設置された左側撮影手段、及び右側に設置された右側撮影手段を具備し、当該各撮影手段にて撮影された画像を車両内にて画面表示する車両周辺監視装置において、前記右側撮影手段により、自車両の右側から接近する移動物体が撮影され、その後、当該接近する移動物体が画面から消失した際には、消失後この旨を運転者に報知することを特徴とする車両周辺監視装置が知られている(特許文献2参照)。本従来技術によれば、右側画像に映し出された車両を検出し、且つ、この車両が右側画像から消失した場合には、左側画像にオクルージョンが発生する可能性があるものと判断して、ブザー、インジケータ、或いはモニタ表示にて、これを自車両の乗員に通知することができる。従って、乗員は、オクルージョンの発生をいち早く知ることができる。 In addition, this type of vehicle periphery monitoring device includes a left-side photographing unit installed on the left side of the host vehicle and a right-side photographing unit installed on the right side, and images captured by the respective photographing units are stored in the vehicle. When the moving object approaching from the right side of the host vehicle is photographed by the right-side photographing means and then the approaching moving object disappears from the screen, this is indicated after the disappearance. A vehicle periphery monitoring device is known (see Patent Document 2). According to this prior art, when a vehicle displayed in the right image is detected and the vehicle disappears from the right image, it is determined that there is a possibility that occlusion occurs in the left image, and the buzzer is This can be notified to an occupant of the host vehicle by an indicator or a monitor display. Therefore, the occupant can quickly know the occurrence of occlusion.
しかしながら、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生すると、車両周辺監視装置は、オクルージョン発生前及びオクルージョン解消後において動物が同一であるか否かが不明となってしまうことになり、オクルージョン発生前までに追跡していた動物の位置情報を有効に活用することができないという問題がある。
本発明は、以上の問題点に鑑み、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該動物の位置を高精度で補完することができる車両周辺監視装置を提供することを目的とする。 In view of the above problems, the present invention provides a vehicle periphery capable of highly accurately complementing the position of the animal during the occurrence of occlusion when the occlusion occurs while the animal is being tracked by the imaging means mounted on the vehicle. An object is to provide a monitoring device.
上記課題を解決するために、第1発明の車両周辺監視装置は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、 前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の位置及び胴部に対する頭部の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段とを備えることを特徴とする。 In order to solve the above problems, a vehicle periphery monitoring device according to a first aspect of the present invention is a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, wherein the captured image Object extraction means for extracting the image area of the object from the object, and whether the object of the image area extracted by the object extraction means is a designated animal having a head on either side of the torso Animal determination means for determining whether or not, occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image has occurred during tracking of the object in the captured image, and the occlusion determination And the object extracted by the object extracting means is the designated animal by the animal determining means. The position of the designated animal during the occurrence of the occlusion is complemented based on the position of the designated animal extracted from the captured image before the occurrence of the occlusion and the position of the head with respect to the trunk. And a position complementing means.
第1発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。 According to the vehicle periphery monitoring device of the first invention, if the designated animal has a head on either the left or right side of the torso, the direction in which the designated animal moves is the direction from the torso to the head. In view of the prediction, when the occlusion occurs while the designated animal is being tracked by the photographing means mounted on the vehicle, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.
また、第2発明の車両周辺監視装置は、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、オクルージョン発生前及びオクルージョン解消後において前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の胴部に対する頭部の位置及び前記指定動物の位置と、前記オクルージョンが解消した後の前記撮像画像から抽出された前記指定動物の位置とに基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段とを備えることを特徴とする。 A vehicle periphery monitoring device according to a second aspect of the present invention is a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging unit mounted on the vehicle, wherein the image area of an object is detected from the captured image. And an animal for determining whether the object in the image area extracted by the object extraction means is a designated animal having a head on either side of the torso The occlusion is generated by the determination means, the occlusion determination means for determining whether or not the occlusion in which the object disappears from the captured image has occurred during the tracking of the object in the captured image, and the occlusion determination means. The object extracted by the object extraction means before the occurrence of occlusion and after occlusion elimination is determined to be the animal. A position of the head with respect to the torso of the designated animal extracted from the captured image before the occurrence of the occlusion and the position of the designated animal when the determination means determines that the animal is the designated animal, and the occlusion And a position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of the designated animal extracted from the captured image after the resolution is resolved.
第2発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前の指定動物の位置とオクルージョン解消後の指定動物の位置からオクルージョン発生中の指定動物の位置がより正確に予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。 According to the vehicle periphery monitoring device of the second aspect of the present invention, if the designated animal has a head on either the left or right side of the trunk, the direction in which the designated animal moves is the direction from the trunk to the head. In view of the fact that the position of the designated animal during the occurrence of the occlusion is predicted more accurately from the predicted position of the designated animal before the occurrence of the occlusion and the position of the designated animal after the occlusion cancellation, the photographing means mounted on the vehicle When the occlusion occurs during tracking of the designated animal, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.
また、第3発明の車両周辺監視装置は、第2発明の車両周辺監視装置において、前記位置補完手段が、前記撮像画像において前記指定動物の胴部に対して頭部が存在する側に将来において該指定動物が存在すると予測される予測領域を設定し、前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物を基準として設定した前記予測領域に、前記オクルージョンが解消した後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物が存在するか否かを判定し、前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物が存在すると判定したことを要件として、前記オクルージョン発生前及びオクルージョン解消後のそれぞれにおける前記指定動物の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする。 Further, the vehicle periphery monitoring device according to a third aspect of the present invention is the vehicle periphery monitoring device according to the second aspect of the present invention, wherein the position complementing means is located in the future on the side where the head is present with respect to the trunk of the designated animal in the captured image. The prediction area where the designated animal is predicted to be present is set, and the prediction area set based on the designated animal extracted as the object by the object extraction unit from the captured image before the occlusion occurs In addition, it is determined whether or not the designated animal extracted as the object by the object extraction unit from the captured image after the occlusion is eliminated, and the object extraction unit by the object extraction unit As a requirement that the designated animal extracted as an object is present, it is a requirement before the occurrence of occlusion and after the elimination of occlusion. Based on the position of the specified animals in respectively, characterized in that it complements the position of the designated animals in the occlusion occurs.
第3発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する動物であれば、動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、予測領域にオクルージョン発生後の撮像画像から対象物抽出手段により対象物として抽出された指定動物が存在すればオクルージョン発生前の指定動物とからオクルージョン発生中の指定動物の位置が更に正確に予測されることに鑑みて、車両に搭載された撮影手段によって動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。 According to the vehicle periphery monitoring device of the third aspect of the present invention, if the animal has a head on either the left or right side of the torso, the direction in which the animal moves is predicted to be the direction from the torso to the head. In addition, if there is a designated animal extracted as an object from the captured image after occurrence of occlusion by the object extraction means in the prediction region, the position of the designated animal during the occurrence of occlusion is more accurately determined from the designated animal before the occurrence of occlusion. In view of the prediction, when an occlusion occurs while an animal is being tracked by an imaging means mounted on the vehicle, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.
また、第4発明の車両周辺監視装置は、第3発明の車両周辺監視装置において、前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物と、前記オクルージョンが解消した後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定動物との姿勢が同一であるか否かを前記指定動物の胴部に対して頭部が存在する側に基づいて決定し、同一であると決定された場合に前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする。 The vehicle periphery monitoring device according to a fourth aspect of the present invention is the vehicle periphery monitoring device according to the third aspect, wherein the designated animal extracted as the target object by the target object extraction means from the captured image before the occlusion occurs. Whether the posture of the designated animal extracted from the captured image after the occlusion is eliminated by the object extraction means as the object is the same as the head of the designated animal The position of the designated animal during the occurrence of the occlusion is complemented when it is determined that the same is present and is determined to be the same.
第4発明の車両周辺監視装置によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前及びオクルージョン解消後において指定動物の胴部に対する頭部の位置が同一であれば当該指定動物であると更にまた正確に予測されることに鑑みて、車両に搭載された撮影手段によって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。 According to the vehicle periphery monitoring apparatus of the fourth aspect of the present invention, if the designated animal has a head on either the left or right side of the trunk, the direction in which the designated animal moves is the direction from the trunk to the head. In view of the fact that the position of the head relative to the torso of the designated animal is the same before and after the occurrence of occlusion, the designated animal is more accurately predicted. When the occlusion occurs while the designated animal is being tracked by the photographing means, the position of the designated animal during the occurrence of the occlusion can be complemented with high accuracy.
本発明の一実施形態を以下に図1〜図6を参照して説明する。 An embodiment of the present invention will be described below with reference to FIGS.
まず、図1及び図2を参照して、本実施形態の車両の周辺監視装置のシステム構成を説明する。図1は該周辺監視装置の全体構成を示すブロック図、図2は該周辺監視装置を搭載した車両(自車両)の外観を示す斜視図である。尚、図2では、周辺監視装置の一部の構成要素の図示を省略している。 First, with reference to FIG.1 and FIG.2, the system configuration | structure of the vehicle periphery monitoring apparatus of this embodiment is demonstrated. FIG. 1 is a block diagram showing the overall configuration of the periphery monitoring device, and FIG. 2 is a perspective view showing the appearance of a vehicle (own vehicle) equipped with the periphery monitoring device. In FIG. 2, illustration of some components of the periphery monitoring device is omitted.
図1及び図2を参照して、本実施形態の周辺監視装置は、画像処理ユニット1を備える。画像処理ユニット1には、自車両10の前方の画像を撮像する撮像手段としての2つの赤外線カメラ2R,2Lが接続されると共に、自車両10の走行状態を検出するセンサとして、自車両10のヨーレートを検出するヨーレートセンサ3、自車両10の走行速度(車速)を検出する車速センサ4、及び自車両10のブレーキ操作の有無を検出するブレーキセンサ5とが接続されている。更に、画像処理ユニット1には、音声などによる聴覚的な注意喚起情報を出力するためのスピーカ6、及び赤外線カメラ2R,2Lにより撮像された撮像画像や視覚的な注意喚起情報を表示するための表示装置7が接続されている。
With reference to FIGS. 1 and 2, the periphery monitoring device of the present embodiment includes an
尚、赤外線カメラ2R,2Lが本発明における撮像手段に相当する。
The
画像処理ユニット1は、詳細な図示は省略するが、A/D変換回路、マイクロコンピュータ(CPU、RAM、ROM等を有する)、画像メモリなどを含む電子回路により構成され、赤外線カメラ2R,2L、ヨーレートセンサ3、車速センサ4及びブレーキセンサ5から出力されるアナログ信号が、A/D変換回路によりデジタルデータ化されて、マイクロコンピュータに入力される。そして、マイクロコンピュータは、入力されたデータを基に、人(歩行者、自転車に乗っている者)などの対象物を検出し、検出した対象物が所定の注意喚起要件を満す場合にスピーカ6や表示装置7により運転者に注意喚起を発する処理を実行する。
Although not shown in detail, the
尚、画像処理ユニット1は、本発明における対象物抽出手段、動物判定手段、オクルージョン判定手段、及び位置補完手段としての機能を備えている。
The
図2に示すように、赤外線カメラ2R,2Lは、自車両10の前方を撮像するために、自車両10の前部(図ではフロントグリルの部分)に取り付けられている。この場合、赤外線カメラ2R,2Lは、それぞれ、自車両10の車幅方向の中心よりも右寄りの位置、左寄りの位置に配置されている。それら位置は、自車両10の車幅方向の中心に対して左右対称である。そして、赤外線カメラ2R,2Lは、それらの光軸が互いに平行に自車両10の前後方向に延在し、且つ、それぞれの光軸の路面からの高さが互いに等しくなるように固定されている。尚、赤外線カメラ2R,2Lは、遠赤外域に感度を有し、それにより撮像される物体の温度が高いほど、出力される映像信号のレベルが高くなる(映像信号の輝度が高くなる)特性を有している。
As shown in FIG. 2, the infrared cameras 2 </ b> R and 2 </ b> L are attached to the front portion (the front grill portion in the figure) of the
また、本実施形態では、表示装置7として、自車両10のフロントウィンドウに画像情報を表示するヘッド・アップ・ディスプレイ7a(以下、HUD7aという)を備えている。尚、表示装置7として、HUD7aの代わりに、もしくは、HUD7aと共に、自車両10の車速などの走行状態を表示するメータに一体的に設けられたディスプレイ、あるいは、車載ナビゲーション装置に備えられたディスプレイを用いてもよい。
In the present embodiment, the display device 7 includes a head-up display 7a (hereinafter referred to as HUD 7a) that displays image information on the front window of the
次に、本実施形態の周辺監視装置の全体的動作を図3のフローチャートを参照して説明する。尚、図3のフローチャートの処理は、例えば本出願人による特開2001−6096号の図3、及び特開2007−310705号の図3に記載されている処理と同じであるので、その同じ処理については、本明細書での詳細な説明は省略する。 Next, the overall operation of the periphery monitoring device of this embodiment will be described with reference to the flowchart of FIG. 3 is the same as the process described in FIG. 3 of Japanese Patent Application Laid-Open No. 2001-6096 and FIG. 3 of Japanese Patent Application Laid-Open No. 2007-310705 by the applicant of the present invention. The detailed description in this specification will be omitted.
まず、画像処理ユニット1は、赤外線カメラ2R、2Lにより赤外線撮像画像を取得する(図3/STEP1)。
First, the
次いで、画像処理ユニット1は、基準画像(右画像)を2値化する(図3/STEP2)。
Next, the
次いで、画像処理ユニット1は、前記2値化画像に対してSTEP3〜5の処理を実行し、該2値化画像から対象物(より正確には対象物に対応する画像領域)を抽出する。まず、前記2値化画像の高輝度領域を構成する画素群をランレングスデータに変換する(図3/STEP3)。次いで、基準画像の縦方向に重なりを有するライン群のそれぞれにラベル(識別子)を付する(図3/STEP4)。次いで、ライン群のそれぞれを対象物として抽出する(図3/STEP5)。
Next, the
次いで、画像処理ユニット1は、上記の如く抽出した各対象物の重心の位置(基準画像上での位置)と面積と外接四角形の縦横比とを求める(図3/STEP6)。
Next, the
次いで、画像処理ユニット1は、前記STEP5で抽出した対象物の時刻間追跡、すなわち、画像処理ユニット1の演算処理周期毎の同一対象物の認識を行なう(図3/STEP7)。
Next, the
次いで、画像処理ユニット1は、前記車速センサ4及びヨーレートセンサ5の出力(車速の検出値及びヨーレートの検出値)を読み込む(図3/STEP8)。
Next, the
一方、画像処理ユニット1は、STEP7,8の処理と並行して、STEP10の処理を実行する。まず、前記基準画像のうち、各対象物に対応する領域(例えば該対象物の外接四角形の領域)を探索画像として抽出する(図3/STEP10)。次いで、探索画像との相関性が最も高い領域が、探索画像に対応する画像(探索画像と同等の画像)である対応画像として抽出される(図3/STEP11)。次いで、右画像における前記探索画像の重心の横方向位と、左画像における前記対応画像の重心の横方向位置との差分の画素数を視差として算出し、対象物の自車両10からの距離(自車両10の前後方向における距離)が算出される(図3/STEP12)。
On the other hand, the
次いで、画像処理ユニット1は、各対象物の実空間上での位置(自車両10に対する相対位置)である実空間位置を算出する(図3/STEP13)。
Next, the
次いで、画像処理ユニット1は、対象物の実空間位置(X,Y,Z)のうちのX方向の位置Xを前記STEP8で求めた回頭角の時系列データに応じて補正する(図3/STEP14)。
Next, the
次いで、画像処理ユニット1は、対象物の自車両10に対する移動ベクトルを求める(図3/STEP15)。
Next, the
次いで、STEP15において、相対移動ベクトルが求められたら、検出した対象物との接触の可能性を判定する注意喚起判定処理を行う(図3/STEP16)。 Next, when a relative movement vector is obtained in STEP 15, a warning determination process for determining the possibility of contact with the detected object is performed (FIG. 3 / STEP 16).
次いで、画像処理ユニット1は、STEP16の注意喚起判定処理において、いずれの対象物も注意喚起発生要件を満たさない(注意喚起発生要件に該当する対象物が存在しない)と判断した場合(図3/STEP16‥NO)には、前記STEP1からの処理を再開する。また、STEP16で、いずれかの対象物が注意喚起発生要件を満たすと判断した場合(図3/STEP16‥YES)には、STEP17に進んで、注意喚起発生要件を満たす対象物に関する実際の注意喚起を行なうべきか否かの判定を行なう注意喚起出力判定処理を実行する(図3/STEP17)。
Next, the
次いで、画像処理ユニット1は、注意喚起を行なうべきと判定した場合(図3/STEP17‥YES)には、注意喚起を出力する(図3/STEP18)。
Next, when the
また、STEP17で注意喚起を行なわないと判断したとき(全ての対象物について注意喚起を行なわないと判断したとき)には、STEP17の判定結果がNOとなり、この場合には、そのままSTEP1からの処理が再開される。
If it is determined in STEP 17 that alerting is not performed (when it is determined that alerting is not performed for all objects), the determination result in STEP 17 is NO. In this case, the processing from
以上が本実施形態の周辺監視装置の全体的作動である。尚、画像処理ユニット1によりSTEP1〜6の処理を実行する構成が、本発明の対象物抽出手段に相当する。
The above is the overall operation of the periphery monitoring device of this embodiment. In addition, the structure which performs the process of STEP1-6 by the
次に、本実施形態の周辺監視装置の要部であるオクルージョンが発生した場合のオクルージョン処理について説明する。 Next, an occlusion process when an occlusion that is a main part of the periphery monitoring device of the present embodiment occurs will be described.
まず、オクルージョンについて図4を参照して説明する。図4(a)は、赤外線カメラ2R、2Lにより対象物を追跡しているオクルージョン発生前の時刻t=kの時点での画像40である。画像40には、対象物の画像領域42が表示されている。
First, occlusion will be described with reference to FIG. FIG. 4A shows an image 40 at the time t = k before the occurrence of occlusion in which the object is tracked by the
図4(b)は、赤外線カメラ2R、2Lにより対象物を追跡中にオクルージョンが発生した時刻t=k+1〜t=k+n−1の間の画像44である。オクルージョンは、赤外線カメラ2R、2Lにより対象物を追跡中に、赤外線カメラ2R、2Lからみて対象物が遮蔽物に隠れる等の理由により、一時的に赤外線カメラ2R、2Lから追跡中の対象物が消失する現象である。
FIG. 4B is an
図4(c)は、赤外線カメラ2R、2Lにより対象物を追跡しているオクルージョン解消後の時刻t=k+nの時点での画像46である。画像46には、対象物の画像領域42´が表示されている。
FIG. 4C shows an
従って、オクルージョン発生中の時刻t=k+1〜t=k+n−1では、図4(a)の画像領域42に含まれる対象物と図4(c)の画像領域42´に含まれる対象物とが同一であるか否かが不明になる。
Therefore, at the time t = k + 1 to t = k + n−1 during the occurrence of occlusion, the object included in the
次に、本実施形態におけるオクルージョン処理について図5のフローチャートを参照して説明する。図3における周辺監視装置の全体的動作中にオクルージョンが発生した場合には、以下のオクルージョン処理が実行される。 Next, the occlusion process in this embodiment will be described with reference to the flowchart of FIG. When occlusion occurs during the overall operation of the periphery monitoring apparatus in FIG. 3, the following occlusion processing is executed.
まず、上記STEP1〜6の対象物判定処理により抽出された画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定処理を実行する(図5/STEP100)。本実施形態における指定動物としては、胴部を横から見た場合に、胴部(具体的には横長の第1の高輝度画像領域)に対して頭部(具体的には第1の高輝度画像領域の近傍にある第1の高輝度画像領域より小さい第2の高輝度画像領域)が左右いずれかに位置するような動物である。具体的に指定動物としては、鹿、羊、犬、及び馬などの四足動物が挙げられる。
First, an animal determination process for determining whether or not the object in the image area extracted by the object determination process in
尚、上記STEP1〜6の対象物判定処理により抽出された画像領域の対象物には、指定動物だけではなく人工構造物及び歩行者等が含まれる。
Note that the objects in the image region extracted by the object determination process in
動物判定処理は、動物にはあり得ない特徴が検出された場合、対象物を人工構造物と判定する。人工構造物であるとする判定処理は、対象物の画像領域に、例えば下記(a)〜(d)に示す条件のように、動物にはあり得ない特徴が検出された場合、対象物を人工構造物と判定する。
(a)対象物の画像に直線エッジを示す部分が含まれる場合。
(b)対象物の画像の角が直角である場合。
(c)対象物の画像に同じ形状のものが複数含まれている場合。
(d)対象物の画像が予め登録された人工構造物の形状と一致する場合。
In the animal determination process, when a feature that cannot be found in an animal is detected, the object is determined as an artificial structure. The determination process for determining that the object is an artificial structure is performed when the feature that cannot be found in an animal is detected in the image area of the object, such as the conditions shown in (a) to (d) below. Judged as an artificial structure.
(A) When the image of the object includes a portion indicating a straight edge.
(B) The corner of the image of the object is a right angle.
(C) A case where a plurality of objects having the same shape are included in the image of the object.
(D) When the image of the object matches the shape of the artificial structure registered in advance.
尚、対象物は人工構造物ではないと判定された場合で、対象物の動物から歩行者を除くために、対象物が歩行者の可能性があるか否かの判定処理を実行する。歩行者であるか否かの判定処理は、グレースケール画像上で対象物の画像領域の形状や大きさ、輝度分散等の特徴から、対象物が歩行者か否かを判定する。 When it is determined that the object is not an artificial structure, in order to remove the pedestrian from the animal of the object, a determination process is performed to determine whether the object is a pedestrian. In the determination process for determining whether or not the object is a pedestrian, it is determined whether or not the object is a pedestrian based on features such as the shape and size of the image area of the object on the grayscale image and luminance dispersion.
次いで、赤外線カメラ2R、2Lにおいて指定動物の胴部に対して頭部が存在する側に指定動物が存在すると予測される予測領域を設定する予測領域設定処理を実行する(図5/STEP102)。予測領域は、オクルージョンが発生する前の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された指定動物の位置を基準として設定される。
Next, a prediction region setting process for setting a prediction region in which the designated animal is predicted to be present on the side where the head exists with respect to the trunk of the designated animal in the
予測領域は、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測されるため、胴部の左右両側のうち頭部が存在する側に設定される。具体的には、オクルージョン発生前の時刻t=kの時点での画像である図6(a)に示すように、胴部A1(k)に対して頭部A2(k)が右側に存在するため、予測領域A(k)は指定動物の右側に設定される。尚、図6(a)では、胴部A1(k)及び頭部A2(k)を有する指定動物を強調して表示するために強調枠F(破線枠)がHUD7aに表示される。 If the predicted region is a designated animal with a head on either the left or right side of the torso, the direction of movement of the designated animal is predicted to be the direction from the torso to the head. It is set to the side where the head is present among the left and right sides. Specifically, as shown in FIG. 6A, which is an image at time t = k before the occurrence of occlusion, the head A2 (k) is present on the right side with respect to the trunk A1 (k). Therefore, the prediction area A (k) is set on the right side of the designated animal. In FIG. 6A, an emphasis frame F (broken line frame) is displayed on the HUD 7a in order to highlight and display the designated animal having the trunk A1 (k) and the head A2 (k).
次いで、図5/STEP102で設定された予測領域に、オクルージョンが解消した後の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された対象物が存在するか否かを判定する予測領域存在処理を実行する(図5/STEP104)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、予測領域A(k)に対象物(A1(k+n)及びA2(k+n))が存在するか否かを判定する。
Next, a prediction region for determining whether or not there is an object extracted as an object by the object determination processing from the
次いで、STEP104において、対象物判定処理により対象物として抽出された対象物が存在する場合(図5/STEP104‥YES)、予測領域に、オクルージョンが解消した後の赤外線カメラ2R、2Lから対象物判定処理により対象物として抽出された指定動物が存在するか否かを判定する予測領域判定処理を実行する(図5/STEP106)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、予測領域A(k)に指定動物(A1(k+n)及びA2(k+n))が存在するか否かを判定する。
Next, in STEP 104, when there is an object extracted as an object by the object determination process (FIG. 5 / STEP 104... YES), the object determination is performed from the
次いで、STEP106において、対象物判定処理により対象物として抽出された指定動物が存在する場合(図5/STEP106‥YES)、予測領域判定処理により抽出された指定動物の姿勢が、オクルージョン発生する前の赤外線カメラ2R、2Lから対象物抽出処理により対象物として抽出された指定動物の姿勢と同一であるか否かを判定する予測領域決定処理を実行する(図5/STEP108)。具体的には、オクルージョン解消後の時刻t=k+n(n=2)の時点での画像である図6(b)に示すように、図6(a)の指定動物(A1(k)及びA2(k))の姿勢と図6(b)の予測領域に存在する指定動物(A1(k+n)及びA2(k+n))の姿勢が同一であるか否かを決定する。尚、指定動物の姿勢とは、胴部の左右いずれかの側に頭部が存在するかである。
Next, in
次いで、STEP108において、対象物抽出処理により対象物として抽出された指定動物の姿勢と同一であると判定された場合(図5/STEP108‥YES)、オクルージョンが発生する前の赤外線カメラ2R、2Lから抽出された指定動物の位置と、予測領域決定処理により決定した指定動物の位置とに基づいて、オクルージョン発生中の指定動物の位置を補完する位置補完処理が実行される(図5/STEP110)。具体的には、オクルージョン発生中の時刻t=k+1の時点での画像である図6(c)に示すように、オクルージョン発生前の指定動物(A1(k)及びA2(k))と、オクルージョン解消後の指定動物(A1(k+n)及びA2(k+n))との間に、オクルージョン発生中の指定動物(A1(k+1)及びA2(k+1))の位置が補完される。尚、オクルージョン発生中の指定動物の位置を補完する位置補完処理は、例えば、オクルージョン発生前の指定動物の位置とオクルージョン解消後の指定動物の位置との距離を2分してその位置に指定動物を位置付けることで求められ、オクルージョン発生前の指定動物の位置をX(k)として、オクルージョン解消後の指定動物の位置をX(k+2)とすると、位置補完処理で補完される位置は、X(k)+((X(k+2)−X(k))÷2)である。そして、時刻k〜k+nまで指定動物の追跡ができるため、図6(c)では、胴部A1(k+1)及び頭部A2(k+1)を有する位置が補完された指定動物の存在を強調する強調枠F(破線枠)がHUD7aに表示される。同様に、図6(b)に示すように、オクルージョン解消後の指定動物(A1(k+2)及びA2(k+2))の位置が補完され、胴部A1(k+2)及び頭部A2(k+2)を有する指定動物の存在を強調する強調枠F(破線枠)がHUD7aに表示される。
Next, when it is determined in
尚、画像処理ユニット1によりSTEP110の処理を実行する構成が、本発明の位置補完手段に相当する。
Note that the configuration in which the processing of STEP 110 is executed by the
尚、予測領域のオクルージョン発生前及びオクルージョン解消後のそれぞれにおける指定動物の姿勢が同一か否かによらず(図5/STEP108を省略)、予測領域に指定動物が存在することにより、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。
In addition, regardless of whether or not the posture of the designated animal is the same before and after occlusion occurrence in the prediction region (FIG. 5 /
また、予測領域に指定動物が存在することによらず(図5/STEP106を省略)、オクルージョンが発生する前の赤外線カメラ2R、2Lから抽出された指定動物の胴部に対する頭部の位置及び動物の位置と、オクルージョンが解消した後の赤外線カメラ2R、2Lから抽出された指定動物の位置とに基づいて、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。
Further, regardless of the presence of the designated animal in the prediction area (FIG. 5 /
また、オクルージョン発生前及びオクルージョン解消後に指定動物が存在することによらず(図5/STEP104を省略)、オクルージョンが発生する前の撮像画像から抽出された指定動物の位置及び胴部に対する頭部の位置に基づいて、オクルージョン発生中の指定動物の位置を補完するようにすることもできる。この場合における位置補完処理で補完される位置は、例えば、オクルージョン発生前の指定動物の位置をX(k)として、X(k)+△X(△X∝(X(k)−X(k−1))÷△t)である。 In addition, regardless of the presence of the designated animal before the occurrence of occlusion and after the elimination of occlusion (FIG. 5 / STEP 104 is omitted), the position of the designated animal extracted from the captured image before the occurrence of occlusion and the position of the head relative to the torso Based on the position, the position of the designated animal during the occurrence of occlusion can be complemented. The position complemented by the position complementing process in this case is, for example, X (k) + ΔX (ΔX∝ (X (k) −X (k), where X (k) is the position of the designated animal before the occurrence of occlusion. −1)) ÷ Δt).
以上、本実施形態によれば、胴部の左右いずれかの側に頭部が存在する指定動物であれば、指定動物が移動する方向は胴部から頭部に向かう方向であると予測され、また、オクルージョン発生前及びオクルージョン解消後において指定動物の胴部に対する頭部の位置が同一であれば当該指定動物であると予測されることに鑑みて、車両に搭載された赤外線カメラ2R,2Lによって指定動物を追跡中にオクルージョンが発生した場合に、オクルージョン発生中の当該指定動物の位置を高精度に補完することができる。
As described above, according to the present embodiment, if the designated animal has a head on the left or right side of the torso, the direction in which the designated animal moves is predicted to be the direction from the torso to the head, In addition, in view of the fact that if the position of the head relative to the torso of the designated animal is the same before the occurrence of occlusion and after the occlusion is resolved, the designated animal is predicted, the
尚、本実施形態においては、画像処理ユニット1の処理結果に基づいて、所定の注意喚起を行うように構成されているが、該処理結果に基づいて車両挙動を制御するように構成してもよい。
In the present embodiment, a predetermined alert is configured based on the processing result of the
また、前記実施形態では、2台の赤外線カメラ2R,2Lを備えたが、1台の赤外線カメラを自車両10に搭載するようにしてもよい。この場合には、対象物との距離をレーダーなどにより検出するようにする。
In the above embodiment, the two
1…画像処理ユニット(対象物抽出手段、動物判定手段、オクルージョン判定手段、位置補完手段)、2R,2L…赤外線カメラ(撮像手段)
DESCRIPTION OF
Claims (4)
前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、
前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、
前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、
前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の位置及び胴部に対する頭部の位置に基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段と
を備えることを特徴とする車両周辺監視装置。 A vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging means mounted on the vehicle,
Object extraction means for extracting an image area of the object from the captured image;
Animal determination means for determining whether the object of the image region extracted by the object extraction means is a designated animal having a head on either the left or right side of the torso;
Occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image occurred during tracking of the object in the captured image;
The occlusion occurs when the occlusion determination means determines that the occlusion has occurred, and the object extracted by the object extraction means determines that the animal is the designated animal. Position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of the designated animal extracted from the captured image before the position and the position of the head with respect to the torso. A vehicle periphery monitoring device.
前記撮像画像から対象物の画像領域を抽出する対象物抽出手段と、
前記対象物抽出手段により抽出された前記画像領域の対象物が胴部の左右いずれかの側に頭部が存在する指定動物であるか否かを判定する動物判定手段と、
前記撮像画像における前記対象物の追跡中に、前記撮像画像から前記対象物が消失するオクルージョンが発生したか否かを判定するオクルージョン判定手段と、
前記オクルージョン判定手段により前記オクルージョンが発生したと判定され、かつ、オクルージョン発生前及びオクルージョン解消後において前記対象物抽出手段により抽出された前記対象物が前記動物判定手段により前記指定動物であると判定された場合に、
前記オクルージョンが発生する前の前記撮像画像から抽出された前記指定動物の胴部に対する頭部の位置及び前記指定動物の位置と、前記オクルージョンが解消した後の前記撮像画像から抽出された前記指定動物の位置とに基づいて、前記オクルージョン発生中の前記指定動物の位置を補完する位置補完手段と
を備えることを特徴とする車両周辺監視装置。 A vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging means mounted on the vehicle,
Object extraction means for extracting an image area of the object from the captured image;
Animal determination means for determining whether the object of the image region extracted by the object extraction means is a designated animal having a head on either the left or right side of the torso;
Occlusion determination means for determining whether or not occlusion in which the object disappears from the captured image occurred during tracking of the object in the captured image;
It is determined by the occlusion determination means that the occlusion has occurred, and the object extracted by the object extraction means before the occurrence of occlusion and after occlusion elimination is determined by the animal determination means to be the designated animal. If
The position of the head with respect to the torso of the designated animal and the position of the designated animal extracted from the captured image before the occlusion occurs, and the designated animal extracted from the captured image after the occlusion is resolved Position complementing means for complementing the position of the designated animal during the occurrence of the occlusion based on the position of
Vehicle periphery monitoring apparatus comprising: a.
前記位置補完手段が、前記撮像画像において前記指定動物の胴部に対して頭部が存在す
る側に将来において該指定動物が存在すると予測される予測領域を設定し、前記オクルー
ジョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対象物として抽出
された前記指定動物を基準として設定した前記予測領域に、前記オクルージョンが解消し
た後の前記撮像画像から前記対象物抽出手段により前記対象物として抽出された前記指定
動物が存在するか否かを判定し、前記撮像画像から前記対象物抽出手段により前記対象物
として抽出された前記指定動物が存在すると判定されたことを要件として、前記オクルー
ジョン発生前及びオクルージョン解消後のそれぞれにおける前記指定動物の位置に基づい
て、前記オクルージョン発生中の前記指定動物の位置を補完することを特徴とする車両周
辺監視装置。 In the vehicle periphery monitoring device according to claim 2,
The position complementing means sets a prediction region in which the designated animal is predicted to exist in the future on the side where the head is present with respect to the torso of the designated animal in the captured image, and before the occlusion occurs The object extraction means from the captured image after the occlusion is eliminated in the prediction region set with reference to the designated animal extracted as the object by the object extraction means from the captured image. It is determined whether or not the designated animal extracted as is present, and it is determined that the designated animal extracted as the target object from the captured image is extracted by the target object extraction unit. The occlusion is occurring based on the position of the designated animal before occurrence and after occlusion cancellation Vehicle periphery monitoring apparatus characterized by complementing the position of the specified animals.
前記オクルージョンが発生する前の前記撮像画像から前記対象物抽出手段により前記対
象物として抽出された前記指定動物と、前記オクルージョンが解消した後の前記撮像画像
から前記対象物抽出手段により前記対象物として抽出された前記指定動物との姿勢が同一
であるか否かを前記指定動物の胴部に対して頭部が存在する側に基づいて決定し、同一で
あると決定された場合に前記オクルージョン発生中の前記指定動物の位置を補完すること
を特徴とする車両周辺監視装置。 In the vehicle periphery monitoring device according to claim 3,
The designated animal extracted as the object by the object extraction unit from the captured image before the occlusion occurs, and the object extraction unit by the object extraction unit from the captured image after the occlusion is eliminated Whether or not the extracted posture of the designated animal is the same is determined based on the side where the head exists with respect to the trunk of the designated animal, and the occlusion occurs when it is determined to be the same A vehicle periphery monitoring device supplementing the position of the designated animal in the vehicle.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008149484A JP5172482B2 (en) | 2008-06-06 | 2008-06-06 | Vehicle periphery monitoring device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008149484A JP5172482B2 (en) | 2008-06-06 | 2008-06-06 | Vehicle periphery monitoring device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2009295018A JP2009295018A (en) | 2009-12-17 |
| JP5172482B2 true JP5172482B2 (en) | 2013-03-27 |
Family
ID=41543125
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2008149484A Expired - Fee Related JP5172482B2 (en) | 2008-06-06 | 2008-06-06 | Vehicle periphery monitoring device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5172482B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103946907A (en) * | 2011-11-25 | 2014-07-23 | 本田技研工业株式会社 | Vehicle periphery monitoring device |
| EP3487172A4 (en) | 2016-07-13 | 2019-07-10 | Sony Corporation | IMAGE GENERATING DEVICE, IMAGE GENERATING METHOD, AND PROGRAM |
| JP6574878B2 (en) * | 2018-07-19 | 2019-09-11 | キヤノン株式会社 | Image processing apparatus, image processing method, imaging apparatus, program, and storage medium |
| CN112261340B (en) * | 2020-10-22 | 2023-04-07 | 维沃移动通信有限公司 | Visual field sharing method and device, electronic equipment and readable storage medium |
| CN116724261A (en) * | 2021-01-15 | 2023-09-08 | 富士胶片株式会社 | Camera device, camera method and camera program |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000003446A (en) * | 1998-06-15 | 2000-01-07 | Ricoh Co Ltd | Missing value estimation method, three-dimensional data input device, and recording medium |
| JP2004295798A (en) * | 2003-03-28 | 2004-10-21 | Japan Best Rescue System Kk | Security system |
| JP4482795B2 (en) * | 2004-03-05 | 2010-06-16 | ソニー株式会社 | Image processing apparatus, moving object tracking method, moving object tracking program, monitoring apparatus, and game apparatus |
| JP4528103B2 (en) * | 2004-11-29 | 2010-08-18 | セコム株式会社 | Image recognition device |
| JP2007003448A (en) * | 2005-06-27 | 2007-01-11 | Nippon Telegr & Teleph Corp <Ntt> | Movement information generation apparatus, movement information generation method, program, and storage medium |
| JP4173901B2 (en) * | 2006-05-19 | 2008-10-29 | 本田技研工業株式会社 | Vehicle periphery monitoring device |
-
2008
- 2008-06-06 JP JP2008149484A patent/JP5172482B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2009295018A (en) | 2009-12-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4173901B2 (en) | Vehicle periphery monitoring device | |
| EP2352136B1 (en) | System for monitoring the area around a vehicle | |
| JP5198346B2 (en) | Vehicle periphery monitoring device | |
| US8189868B2 (en) | Vehicle periphery monitoring device | |
| JP5480925B2 (en) | Vehicle periphery monitoring device | |
| JP4521642B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
| JP2010044561A (en) | Monitoring device to be mounted on vehicle | |
| JP4644273B2 (en) | Vehicle periphery monitoring device | |
| JP4173902B2 (en) | Vehicle periphery monitoring device | |
| JP5172482B2 (en) | Vehicle periphery monitoring device | |
| US7885430B2 (en) | Automotive environment monitoring device, vehicle with the automotive environment monitoring device, and automotive environment monitoring program | |
| JP5004903B2 (en) | Vehicle periphery monitoring device | |
| JP4615061B2 (en) | Vehicle periphery monitoring device | |
| JP4995778B2 (en) | Vehicle periphery monitoring device | |
| JP5903003B2 (en) | Vehicle periphery monitoring device | |
| JP5602354B2 (en) | Vehicle periphery monitoring device | |
| JP5026398B2 (en) | Vehicle periphery monitoring device | |
| JP4972073B2 (en) | Environment recognition device | |
| JP4590654B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101125 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120321 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120321 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120518 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121204 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121226 |
|
| LAPS | Cancellation because of no payment of annual fees |