JP7053340B2 - Processing equipment and programs - Google Patents
Processing equipment and programs Download PDFInfo
- Publication number
- JP7053340B2 JP7053340B2 JP2018066465A JP2018066465A JP7053340B2 JP 7053340 B2 JP7053340 B2 JP 7053340B2 JP 2018066465 A JP2018066465 A JP 2018066465A JP 2018066465 A JP2018066465 A JP 2018066465A JP 7053340 B2 JP7053340 B2 JP 7053340B2
- Authority
- JP
- Japan
- Prior art keywords
- occupant
- head
- region
- coordinate system
- axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
本発明は、処理装置、及びプログラムに関し、特に、撮像画像に基づいて検出処理を行なう処理装置、及びプログラムに関する。 The present invention relates to a processing device and a program, and more particularly to a processing device and a program that perform detection processing based on a captured image.
従来、車両の乗員が映り込んだ画像を撮像し、その撮像した画像を画像処理することで、検出の対象を特定する技術がある。この種の技術において、運転者の体調や覚醒度を推定することを目的として、運転者の頭部を、検出の対象とすることが求められている。運転者の頭部を検出するために、予め学習された識別器を撮像した画像に照合する技術が提案されている(例えば、特許文献1参照)。 Conventionally, there is a technique of capturing an image reflected by a vehicle occupant and processing the captured image to identify a detection target. In this type of technology, it is required to detect the driver's head for the purpose of estimating the driver's physical condition and arousal level. In order to detect the driver's head, a technique has been proposed in which a pre-learned classifier is collated with an image taken (see, for example, Patent Document 1).
特許文献1の処理装置は、運転者及び同乗者から操作可能に設けられた車載装置の操作部を操作する操作者の検出対象を撮像する撮像部と、前記撮像部から出力された画像データに基づいて微分処理を行って水平方向微分画像及び垂直方向微分画像を作成する微分処理部と、前記操作部を座標原点とする第1の極座標系を設定し、前記水平方向微分画像及び前記垂直方向微分画像に基づいて第1の角度方向微分及び第1の動径方向微分を算出する算出部と、算出された前記第1の角度方向微分、前記第1の動径方向微分、及び第1の条件に基づいて第1の2値画像を作成する2値画像作成部と、前記第1の2値画像に基づいて第1の間隔を有して略平行な直線となる第1及び第2の直線を抽出する抽出部と、抽出された前記第1及び第2の直線に基づいて前記操作者を判別する判別部と、を備えて操作者判別装置を構成している。
The processing device of
しかし、特許文献1の技術では、処理部、検出部、作成部、抽出部、及び判別部における処理量が多く、特に、3次元画素群を用いた処理では、その処理、演算に計算コストを要するという課題がある。
However, in the technique of
したがって、本発明の目的は、乗員の頭部を検出する技術において、計算コストを低減する処理装置、及びプログラムを提供することにある。 Therefore, an object of the present invention is to provide a processing device and a program for reducing a calculation cost in a technique for detecting an occupant's head.
[1]上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部と、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御部と、を有する処理装置を提供する。
[2]前記制御部は、前記距離画像を構成する画素群を、3次元空間に対応する複数の領域に分割し、その分割された領域の中で、規定範囲内の距離を示す距離情報を有する画素が最も多い領域を、前記高尤度領域とする、上記[1]に記載の処理装置であってもよい。
[3]また、前記制御部は、前記車両座標系における特定の座標軸に沿って前記距離画像を構成する画素群を分割する、上記[2]に記載の処理装置であってもよい。
[4]また、前記制御部は、前記高尤度領域の中から、乗員の頭頂部を特定する頭頂部特定処理と、頭頂部を基点とした頭部のモデルとして予め規定された頭部モデルを、前記頭頂部特定処理で特定された乗員の頭頂部に対し適合させることで、前記乗員の頭部領域を特定する頭部特定処理とを前記特定処理として実行する、上記[1]から[3]のいずれか1に記載の処理装置であってもよい。
[5]また、前記制御部は、前記頭頂部特定処理において、前記高尤度領域の中で、前記車両の車室内空間における座標系において車高方向に沿って最も高い部分を頭頂部として特定する、上記[4]に記載の処理装置であってもよい。
[6]また、前記制御部は、前記頭部特定処理において、前記頭部領域の重心位置を頭部の位置として検出する、上記[4]又は[5]に記載の処理装置であってもよい。
[7]また、前記制御部は、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、上記[1]から[6]のいずれか1に記載の処理装置であってもよい。
[8]また、前記制御部は、前記車両の車室内空間における座標系において、前記特定された頭頂部に対して下方に存在する画素群を乗員の胴体部分として検出すると、特定された乗員の頭部が確からしいものとすることを、前記検証処理として実行する、上記[7]に記載の処理装置であってもよい。
[9]また、前記制御部は、前記乗員の胴体部分を非検出であると、特定された乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、上記[7]又は[8]に記載の処理装置であってもよい。
[10]また、前記制御部は、前記頭部特定処理で特定した乗員の頭部を基点として胴体の領域を示す胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、上記[8]又は[9]に記載の処理装置であってもよい。
[11]上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得ステップと、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップと、をコンピュータに実行させるためのプログラムを提供する。
[12]前記制御ステップは、前記距離画像を構成する画素群を、3次元空間に対応する複数の領域に分割し、その分割された領域の中で、規定範囲内の距離を示す距離情報を有する画素が最も多い領域を、前記高尤度領域とする、上記[11]に記載のプログラムであってもよい。
[13]また、前記制御ステップは、前記車両座標系における特定の座標軸に沿って前記距離画像を構成する画素群を分割する、上記[12]に記載のプログラムであってもよい。
[14]また、前記制御ステップは、前記高尤度領域の中から、乗員の頭頂部を特定する頭頂部特定処理と、頭頂部を基点とした頭部のモデルとして予め規定された頭部モデルを、前記頭頂部特定処理で特定された乗員の頭頂部に対し適合させることで、前記乗員の頭部領域を特定する頭部特定処理とを前記特定処理として実行する、上記[11]から[13]のいずれか1に記載のプログラムであってもよい。
[15]また、前記制御ステップは、前記頭頂部特定処理において、前記高尤度領域の中で、前記車両の車室内空間における座標系において車高方向に沿って最も高い部分を頭頂部として特定する、上記[14]に記載のプログラムであってもよい。
[16]また、前記制御ステップは、前記頭部特定処理において、前記頭部領域の重心位置を頭部の位置として検出する、上記[14]又は[15]に記載のプログラムであってもよい。
[17]また、前記制御ステップは、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、上記[11]から[16]のいずれか1に記載のプログラムであってもよい。
[18]また、前記制御ステップは、前記車両の車室内空間における座標系において、前記特定された頭頂部に対して下方に存在する画素群を乗員の胴体部分として検出すると、特定された乗員の頭部が確からしいものとすることを、前記検証処理として実行する、上記[17]に記載のプログラムであってもよい。
[19]また、前記制御ステップは、前記乗員の胴体部分を非検出であると、特定された乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、上記[17]又は[18]に記載のプログラムであってもよい。
[20]また、前記制御ステップは、前記頭部特定処理で特定した乗員の頭部を基点として胴体の領域を示す胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、上記[18]又は[19]に記載のプログラムであってもよい。
[1] In order to achieve the above object, an acquisition unit for acquiring a distance image in which an imaging region including a vehicle occupant is an imaging target and in which distance information to the imaging target is assigned to each pixel is used. A pixel group constituting the distance image, which is extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle and the coordinate system in the distance image, and has a high possibility that the head of the occupant exists. Provided is a processing device having a control unit for executing a specific process for specifying the head of the occupant with respect to the high likelihood region.
[2] The control unit divides a pixel group constituting the distance image into a plurality of regions corresponding to a three-dimensional space, and within the divided regions, provides distance information indicating a distance within a specified range. The processing apparatus according to the above [1] may have a region having the largest number of pixels as the high likelihood region.
[3] Further, the control unit may be the processing device according to the above [2], which divides a pixel group constituting the distance image along a specific coordinate axis in the vehicle coordinate system.
[4] Further, the control unit is a head model specified in advance as a head identification process for specifying the crown of the occupant from the high likelihood region and a head model with the head as a base point. The above-mentioned [1] to [ The processing apparatus according to any one of 3] may be used.
[5] Further, in the crown specifying process, the control unit specifies, in the high likelihood region, the highest portion in the coordinate system in the vehicle interior space of the vehicle along the vehicle height direction as the crown. The processing apparatus according to the above [4] may be used.
[6] Further, even if the processing device according to the above [4] or [5], the control unit detects the position of the center of gravity of the head region as the position of the head in the head specifying process. good.
[7] The processing device according to any one of [1] to [6] above, wherein the control unit executes a verification process for confirming the certainty of the identified head of the occupant. May be good.
[8] Further, when the control unit detects a pixel group existing below the specified crown in the coordinate system in the vehicle interior space of the vehicle as the body portion of the occupant, the specified occupant's body portion The processing apparatus according to the above [7] may be used as the verification process for ensuring that the head is probable.
[9] Further, the control unit executes the specific process again as the verification process, assuming that the head of the specified occupant is uncertain when the body portion of the occupant is not detected. The processing apparatus according to the above [7] or [8] may be used.
[10] Further, the control unit has a specified number of pixels having distance information indicating a distance in a specified range in a body estimation area indicating a body area with the head of an occupant specified in the head specifying process as a base point. The processing device according to the above [8] or [9] may be used, which detects the body estimation area as the body portion of the occupant when is detected.
[11] In order to achieve the above object, an acquisition step of acquiring a distance image in which an imaging region including a vehicle occupant is an imaging target and a distance information to the imaging target is assigned to each pixel, and an acquisition step. A pixel group constituting the distance image, which is extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle and the coordinate system in the distance image, and has a high possibility that the head of the occupant exists. A control step for executing a specific process for specifying the head of the occupant and a program for causing the computer to execute the specific process for specifying the head of the occupant are provided for the high likelihood region.
[12] In the control step, the pixel group constituting the distance image is divided into a plurality of regions corresponding to the three-dimensional space, and the distance information indicating the distance within the specified range is provided in the divided regions. The program according to the above [11] may be used in which the region having the largest number of pixels is set as the high likelihood region.
[13] Further, the control step may be the program according to the above [12], which divides a pixel group constituting the distance image along a specific coordinate axis in the vehicle coordinate system.
[14] Further, the control step includes a head portion specifying process for specifying the crown of the occupant from the high likelihood region, and a head model predetermined as a model of the head with the head as a base point. The above-mentioned [11] to [ 13] may be the program described in any one of.
[15] Further, in the control step, in the crown specifying process, the highest portion of the high likelihood region in the coordinate system in the vehicle interior space of the vehicle along the vehicle height direction is specified as the crown. The program described in [14] above may be used.
[16] Further, the control step may be the program according to the above [14] or [15], which detects the position of the center of gravity of the head region as the position of the head in the head specifying process. ..
[17] Further, even if the control step is the program according to any one of the above [11] to [16], the verification process for confirming the certainty of the identified head of the occupant is executed. good.
[18] Further, when the control step detects a group of pixels existing below the specified crown in the coordinate system in the vehicle interior space of the vehicle as the body portion of the occupant, the specified occupant's body portion. The program according to the above [17] may be executed as the verification process to ensure that the head is probable.
[19] Further, in the control step, if the body portion of the occupant is not detected, the head of the identified occupant is uncertain, and the specific process is re-executed as the verification process. The program described in [17] or [18] above may be used.
[20] Further, in the control step, in the fuselage estimation region indicating the region of the fuselage with the head of the occupant specified in the head identification process as the base point, the control step has a specified number of pixels having distance information indicating the distance in the specified range. Is detected, the program according to the above [18] or [19] may be used, in which the body estimation area is detected as the body portion of the occupant.
本発明の処理装置、及びプログラムによれば、乗員の頭部を検出する技術において、計算コストを低減することができる。 According to the processing apparatus and the program of the present invention, the calculation cost can be reduced in the technique of detecting the head of the occupant.
(本発明の実施の形態)
本発明の実施の形態に係る処理装置1は、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部としてのTOFカメラ10と、距離画像を構成する画素群であって、車両8の車室内空間における座標系と前離画像における座標系との対応関係に従って抽出され、乗員5の頭部50が存在する可能性の高い画素群である高尤度領域に対して、乗員5の頭部を特定する特定処理を実行する制御部20と、を有して構成されている。
(Embodiment of the present invention)
The
なお、画素群とは、TOFカメラ10により撮像された画素に対応する点の集合であって、車両8の車室内空間における座標系、TOFカメラ10における座標系等により位置が表示される3次元空間の点の集合である。また、高尤度領域とは、検出対象が存在する可能性の高い領域である。具体的には、例えば、領域内の画素群数が多く、あるいは、画素群密度が高い領域である。
The pixel group is a set of points corresponding to the pixels imaged by the
(TOFカメラ10)
取得部としては撮像対象の3次元認識が可能なものであれば使用可能であるが、本実施の形態では、取得部としてTOF(Time Of Flight)カメラ10を使用する。TOFカメラ10は、光源の光が測定対象物に当たって戻るまでの時間を画素毎に検出し、奥行き方向の距離に相当する位置情報を含む立体的な画像を撮影できる。TOFカメラ10は、赤外光等を発光後、その光が物体に反射して戻ってきた反射光を受光し、発光から受光までの時間を測定して、画素ごとに撮像対象物までの距離を検出する。
(TOF camera 10)
The acquisition unit can be used as long as it can recognize the image pickup target in three dimensions, but in the present embodiment, the TOF (Time Of Flight)
TOFカメラ10は、例えば、図1に示すように、ルームミラー付近に取り付け、車両8の乗員5を含む撮像領域を撮像対象とする。TOFカメラ10による撮像画像は、座標(u,v)と、この座標(u,v)における奥行情報としての画素値d(u,v)を含む。取得された画素値d(u,v)(u=0、1、…U-1,v=0、1、…V-1)は、撮像対象としての物体(ここで言う物体は、運転者や車載機器など)までの距離を意味する。なお、実施形態における符号Uは、撮像画像における横幅[pixel]を意味し、符号Vは、撮像画像における縦幅[pixel]を意味する。つまり、TOFカメラ10で撮像された画像における各画素に、3次元空間における距離情報を割り当てることで距離画像が生成される。
As shown in FIG. 1, for example, the
(距離画像から得られるカメラ座標系)
距離画像における座標値u,vと、座標(u,v)における画素値d(u,v)は、以下の式を用いて3次元空間上の点(x,y,z)に変換することで、図1に示すカメラ座標系(x,y,z)における3次元画素群を作成することができる。
The coordinate values u, v in the range image and the pixel value d (u, v) in the coordinates (u, v) are converted into points (x, y, z) in the three-dimensional space using the following equation. Then, a three-dimensional pixel group in the camera coordinate system (x, y, z) shown in FIG. 1 can be created.
(車両座標系)
カメラ座標系(x,y,z)は、検出対象であるドライバ(例えば腰骨の位置)を原点とする車両座標系(w,l,h)に変換することができる。変換方法は、一般的な座標回転変換、平行移動変換、スケール変換の組み合わせである。変換後の座標軸は、ドライバ右方向をw軸、前方をl軸(エル軸)、上方をh軸とし、原点はドライバの腰骨位置とする。
(Vehicle coordinate system)
The camera coordinate system (x, y, z) can be converted into a vehicle coordinate system (w, l, h) whose origin is the driver (for example, the position of the hip bone) to be detected. The conversion method is a combination of general coordinate rotation conversion, translation conversion, and scale conversion. The coordinate axes after conversion are w-axis in the right direction of the driver, l-axis (el-axis) in the anterior direction, h-axis in the upper direction, and the origin is the position of the hipbone of the driver.
(制御部20)
制御部20は、座標変換、頭頂部特定処理、頭部特定処理等を行なうための、例えばマイクロコンピュータを備えている。制御部20は、図1に示すように、TOFカメラ10と接続されている。制御部20は、記憶されたプログラムに従って、取得したデータに演算、加工などを行うCPU(Central Processing Unit)21、半導体メモリであるRAM(Random Access Memory)22及びROM(Read Only Memory)23などを備えている。
(Control unit 20)
The
(処理装置1の動作)
図2で示す本発明の実施の形態に係る処理装置1の動作を示すフローチャートに基づいて、説明する。制御部20は、フローチャートに従って以下の演算、処理を実行する。
(Operation of processing device 1)
It will be described based on the flowchart which shows the operation of the
(Step1)
取得部としてのTOFカメラ10は、車両8の乗員5を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する。この距離画像は、所定の時間間隔で撮像されたフレームの1フレームとして取得することができる。取得された距離画像は、以下の処理における入力(3次元画素群)として機能する。距離画像は、上記説明したカメラ座標系、車両座標系へ変換される。これにより、図3(a)に示すように、検出エリアに含まれる3次元画素群201を抽出できる。以下の処理においては、車両座標系(w,l,h)の3次元画素群で演算、処理等が実行される。
(Step 1)
The
(Step2)
制御部20は、頭頂部の抽出として、まず、図3(b)に示すように、検出エリア内の画素群202を抽出する。検出エリアを定義し、その空間に含まれる画素群を抽出することで、領域を絞り込む。検出エリアは、着座時に頭部50が存在すると考えられる、車室内上方の空間とする。例えば、ドライバ腰骨位置203を原点とし、-510<w<360、-280<l<700、430<h<750の範囲である。単位はmmである(以下、同じ)。
(Step2)
The
制御部20は、頭部50が含まれる領域を抽出するために、Step1で抽出した画素群をw軸方向から見た時、図4(a)に示すように、最も画素群密度が高くなる領域は高尤度領域として頭部50と胴体部分70が含まれていると考えられる(頭部50の下方には胴体部分70が存在すると考える)。ここでは、頭部モデル定義(図5)の横幅Dをもとにl軸の方向に分割し(図4(b))、lh平面上で最も画素群が多い領域204を抽出する(図4(c))。
When the pixel group extracted by
(Step3)
制御部20は、頭頂部が含まれる領域を抽出するために、Step2で抽出した画素群の領域204(図6(a))をl軸方向から見た時、最も画素群密度が高くなる領域は高尤度領域として頭頂部が含まれていると考えられる。ここでは、頭部モデル定義の横幅Dをもとにw軸の方向に分割し(図6(b))、wh平面上で最も画素群が多い領域205を抽出する(図6(c))。
(Step 3)
The
(Step4)
制御部20は、頭頂部位置を算出する、頭頂部特定処理を実行する。Step3で抽出した画素群のうち、図7に示すように、h軸、すなわち、車両の車室内空間における座標系において車高方向において最も高い部分が頭頂部60であると考えられる。なお、h方向において抽出した画素群205(図6(c))の大きい値の何点かの平均により、頭頂部60を抽出してもよい。抽出された頭頂部60の座標を、(wt,lt,ht)とする。
(Step 4)
The
(Step5)
制御部20は、頭部領域を抽出する。頭頂部の抽出処理で抽出した頭頂部60および頭部モデル定義(図5)から頭部50を抽出する。頭頂部60の座標(wt,lt,ht)を基準とし、図8(a)~(d)のように画素群を抽出することで、頭部領域206を得る。頭部領域206は、wt-w1<w<wt+w1、lt-l1<l<lt+l1、ht-h1<h<htの範囲である。頭部モデル定義例(図5)を適合させると、w1=176/2、l1=176/2、h1=146である。なお、h1は、TOFカメラの特性による頭髪部分の情報欠落を想定し、頭部モデル定義の高さHから60だけマイナスして、h1=206-60=146としている。
(Step 5)
The
(Step6)
制御部20は、頭部位置を算出する、頭部特定処理を実行する。Step5で抽出した領域206の頭部位置C(wc,lc,hc)を頭部50とする。すなわち、図9で示すように、上記のw、l、hの範囲で規定される領域に含まれる頭部領域206の画素群の中心、あるいは重心を求めることにより、頭部位置Cとすることができる。
(Step 6)
The
(Step7)
制御部20は、図10に示すように、頭部50(wc,lc,hc)の下方の胴体推定領域100に含まれる画素群をカウントする。車両の車室内空間における座標系において、頭部50の下方には胴体部分70が含まれるので、画素群をカウントすることにより、抽出された頭部50が正しいかどうかを検証することができる。胴体推定領域は胴体部分が含まれる程度の大きさとする。例えば、図11のように、産業技術総合研究所が公開している人体寸法データベース等をもとに胴体推定領域を決めることができる。
(Step 7)
As shown in FIG. 10, the
(Step8)
制御部20は、画素群密度が閾値以上かどうかを判断する。胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、胴体推定領域を乗員の胴体部分として検出する。Step7でカウントした画素群が閾値以上の場合、(wc,lc,hc)を頭部として確定する(Step8:Yes)。Step7でカウントした画素群が閾値未満の場合は、Step9へ進む(Step8:No)。このStep8の判断により、図12(a)に示すような手80を頭部50に誤検出することを抑制でき、図12(b)に示すように、手80と頭部50を区別できる。
(Step 8)
The
(Step9)
制御部20は、Step5で抽出した頭部領域を除外して、再度Step1へ戻って処理を再度実行する。
(Step 9)
The
上記の処理実行は、上記示した一連の動作として繰り返して実行することができる。 The above processing execution can be repeatedly executed as a series of operations shown above.
(プログラムとしての実施形態)
コンピュータに、処理装置1で示した、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得ステップと、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップとを、コンピュータに実行させるためのプログラムも、本発明の実施の形態の一つである。
(Embodiment as a program)
An acquisition step of acquiring a distance image, which is a distance image of an imaging region including a vehicle occupant, which is shown by the
処理装置1の動作で説明したStep1が距離画像を取得する取得ステップの一例であり、Step2からStep6が特定処理を実行する制御ステップの一例であり、図2で示したフローチャートを実行する処理制御を、コンピュータに実行させるためのプログラムの実施形態とすることができる。
また、上記のようなプログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の実施の形態の一つである。 A computer-readable recording medium on which the above program is recorded is also one of the embodiments of the present invention.
(実施の形態の効果)
本発明の実施の形態によれば、以下のような効果を有する。
(1)本発明の実施の形態に係る処理装置は、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部としてのTOFカメラ10と、距離画像を構成する画素群であって、車両8の車室内空間における座標系と前離画像における座標系との対応関係に従って抽出され、乗員5の頭部50が存在する可能性の高い画素群である高尤度領域に対して、乗員5の頭部を特定する特定処理を実行する制御部20と、を有して構成されている。これにより、3次元情報を活用することで、顔を撮影する方向に関わらず頭部位置を検出することができる。また、3次元画素群を用いた絞込み処理を繰り返しており、少ない処理量で簡易に頭部位置を検出することができる。
(2)検出した頭部位置の下方の領域に3次元画素群が存在するかを検証する。頭部の下には胴体部分が存在することを特徴と捉えることで、頭部とそれ以外の物体を区別することができ、頭部とそれ以外の物体の区別が簡易な方法で実現可能となる。これにより、TOFカメラを用いた頭部検出における誤検出抑制、誤検出防止が可能となる。
(3)以上により、乗員の頭部を検出する技術において、計算コストを低減する処理装置、及びプログラムを提供することが可能になる。
(Effect of embodiment)
According to the embodiment of the present invention, it has the following effects.
(1) The processing apparatus according to the embodiment of the present invention acquires a distance image in which an image pickup area including a vehicle occupant is an image pickup target, and distance information to the image pickup target is assigned to each pixel. The
(2) It is verified whether or not the three-dimensional pixel group exists in the area below the detected head position. By considering the presence of the body part under the head as a feature, it is possible to distinguish between the head and other objects, and it is possible to distinguish between the head and other objects by a simple method. Become. This makes it possible to suppress erroneous detection and prevent erroneous detection in head detection using a TOF camera.
(3) From the above, it becomes possible to provide a processing device and a program that reduce the calculation cost in the technique of detecting the head of the occupant.
以上、本発明のいくつかの実施の形態を説明したが、これらの実施の形態は、一例に過ぎず、特許請求の範囲に係る発明を限定するものではない。また、これら新規な実施の形態は、その他の様々な形態で実施されることが可能であり、本発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更等を行うことができる。また、これら実施の形態の中で説明した特徴の組合せの全てが発明の課題を解決するための手段に必須であるとは限らない。さらに、これら実施の形態は、発明の範囲及び要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although some embodiments of the present invention have been described above, these embodiments are merely examples and do not limit the invention according to the claims. In addition, these novel embodiments can be implemented in various other embodiments, and various omissions, replacements, changes, etc. can be made without departing from the gist of the present invention. Moreover, not all combinations of features described in these embodiments are essential as means for solving the problems of the invention. Further, these embodiments are included in the scope and gist of the invention, and are also included in the scope of the invention described in the claims and the equivalent scope thereof.
1…処理装置、5…乗員、8…車両、10…TOFカメラ、20…制御部、50…頭部、60…頭頂部、70…胴体部分、80…手、100…胴体推定領域、201、202、204、205、206…領域、203…ドライバ腰骨位置
1 ... Processing device, 5 ... Crew, 8 ... Vehicle, 10 ... TOF camera, 20 ... Control unit, 50 ... Head, 60 ... Head top, 70 ... Body part, 80 ... Hand, 100 ... Body estimation area, 201, 202, 204, 205, 206 ... Area, 203 ... Driver lumbar position
Claims (12)
前記取得部で取得した前記距離画像の前記2次元座標系の前記画素の座標とこの座標の前記距離情報とを3次元空間上の点に変換して3次元画素群を作成し、前記3次元画素群の第1の座標系を、前記乗員を原点とする第2の座標系に変換し、変換された前記第2の座標系における前記3次元画素群から抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御部と、
を有し、
前記制御部は、前記特定処理として、前記第2の座標系において前記原点から前記車両の右方向を正、左方向を負とする第1の軸、前記車両の前方向を正とする第2の軸、及び前記車両の上方向を正とする第3の軸とした場合、
予め規定された頭部モデルに応じて予め規定された横幅に基づいて、抽出した前記高尤度領域を前記第2の軸の方向に分割して最も画素群が多い第1の領域を抽出し、
前記横幅に基づいて前記第1の領域を前記第1の軸の方向に分割して最も画素群が多い第2の領域を抽出し、
さらに前記特定処理における頭頂部特定処理として、抽出した前記第2の領域において前記第3の軸の正方向に沿って最も高い部分を前記乗員の頭頂部として特定する、
処理装置。 An acquisition unit that acquires a distance image in which an imaging region including a vehicle occupant is an imaging target and distance information to the imaging target is assigned to each pixel corresponding to the coordinates of a given two-dimensional coordinate system .
The coordinates of the pixels in the two-dimensional coordinate system of the distance image acquired by the acquisition unit and the distance information of the coordinates are converted into points on the three-dimensional space to create a three-dimensional pixel group, and the three-dimensional The first coordinate system of the pixel group is converted into the second coordinate system with the occupant as the origin, and the head of the occupant is extracted from the three-dimensional pixel group in the converted second coordinate system. A control unit that executes a specific process for specifying the head of the occupant in a high-probability region, which is a group of pixels that are likely to exist, and a control unit.
Have,
As the specific process, the control unit has a first axis in which the right direction of the vehicle is positive and a negative direction in the left direction from the origin in the second coordinate system, and a second axis in which the front direction of the vehicle is positive. When the axis of the above and the third axis whose upward direction of the vehicle is positive are used.
Based on the predetermined width according to the predetermined head model, the extracted high-likelihood region is divided in the direction of the second axis, and the first region having the largest number of pixel groups is extracted. ,
The first region is divided in the direction of the first axis based on the width, and the second region having the largest number of pixel groups is extracted.
Further, as the crown specifying process in the specifying process, the highest portion of the extracted second region along the positive direction of the third axis is specified as the crown of the occupant.
Processing equipment.
前記取得ステップで取得した前記距離画像の前記2次元座標系の前記画素の座標とこの座標の前記距離情報とを3次元空間上の点に変換して3次元画素群を作成し、前記3次元画素群の第1の座標系を、前記乗員を原点とする第2の座標系に変換し、変換された前記第2の座標系における前記3次元画素群から抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップと、
を有し、
前記制御ステップは、前記特定処理として、前記第2の座標系において前記原点から前記車両の右方向を正、左方向を負とする第1の軸、前記車両の前方向を正とする第2の軸、及び前記車両の上方向を正とする第3の軸とした場合、
予め規定された頭部モデルに応じて予め規定された横幅に基づいて、抽出した前記高尤度領域を前記第2の軸の方向に分割して最も画素群が多い第1の領域を抽出し、
前記横幅に基づいて前記第1の領域を前記第1の軸の方向に分割して最も画素群が多い第2の領域を抽出し、
さらに前記特定処理における頭頂部特定処理として、抽出した前記第2の領域において前記第3の軸の正方向に沿って最も高い部分を前記乗員の頭頂部として特定する、ことをコンピュータに実行させるためのプログラム。 An acquisition step of acquiring an image pickup area including a vehicle occupant and assigning distance information to the image pickup target for each pixel corresponding to the coordinates of a given two-dimensional coordinate system, and an acquisition step.
The coordinates of the pixels in the two-dimensional coordinate system of the distance image acquired in the acquisition step and the distance information of the coordinates are converted into points on the three-dimensional space to create a three-dimensional pixel group, and the three-dimensional The first coordinate system of the pixel group is converted into the second coordinate system with the occupant as the origin, and the head of the occupant is extracted from the three-dimensional pixel group in the converted second coordinate system. A control step for executing a specific process for specifying the head of the occupant in a high likelihood region, which is a group of pixels that are likely to exist, and a control step.
Have,
In the control step, as the specific process, in the second coordinate system, the first axis having the right direction of the vehicle as positive and the left direction as negative from the origin, and the second axis having the front direction of the vehicle as positive. When the axis of the above and the third axis whose upward direction of the vehicle is positive are used.
Based on the predetermined width according to the predetermined head model, the extracted high-likelihood region is divided in the direction of the second axis, and the first region having the largest number of pixel groups is extracted. ,
The first region is divided in the direction of the first axis based on the width, and the second region having the largest number of pixel groups is extracted.
Further, as the crown specifying process in the specifying process, the computer is made to specify the highest portion of the extracted second region along the positive direction of the third axis as the crown of the occupant. Program.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018066465A JP7053340B2 (en) | 2018-03-30 | 2018-03-30 | Processing equipment and programs |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018066465A JP7053340B2 (en) | 2018-03-30 | 2018-03-30 | Processing equipment and programs |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019179286A JP2019179286A (en) | 2019-10-17 |
| JP7053340B2 true JP7053340B2 (en) | 2022-04-12 |
Family
ID=68278628
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018066465A Active JP7053340B2 (en) | 2018-03-30 | 2018-03-30 | Processing equipment and programs |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7053340B2 (en) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012128592A (en) | 2010-12-14 | 2012-07-05 | Honda Motor Co Ltd | Crew member head detection device |
-
2018
- 2018-03-30 JP JP2018066465A patent/JP7053340B2/en active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012128592A (en) | 2010-12-14 | 2012-07-05 | Honda Motor Co Ltd | Crew member head detection device |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2019179286A (en) | 2019-10-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101283262B1 (en) | Method of image processing and device thereof | |
| JP6184877B2 (en) | Vehicle external recognition device | |
| CN106909873B (en) | The method and apparatus of recognition of face | |
| JP6328327B2 (en) | Image processing apparatus and image processing method | |
| US20120062749A1 (en) | Human body identification method using range image camera and human body identification apparatus | |
| JP6782433B2 (en) | Image recognition device | |
| JP6021689B2 (en) | Vehicle specification measurement processing apparatus, vehicle specification measurement method, and program | |
| JP2014009975A (en) | Stereo camera | |
| CN101877131A (en) | A target recognition method, device and target recognition system | |
| JP6090847B2 (en) | Information processing apparatus and determination method | |
| EP3082069A1 (en) | Stereoscopic object detection device and stereoscopic object detection method | |
| CN116935081A (en) | A depth-based multi-camera bird's-eye view target detection method and device | |
| JP7180445B2 (en) | object detector | |
| JP7053340B2 (en) | Processing equipment and programs | |
| JP7053341B2 (en) | Processing equipment and programs | |
| JP7053342B2 (en) | Processing equipment and programs | |
| JP2019179289A (en) | Processing device and program | |
| JP7117878B2 (en) | processor and program | |
| JP7240193B2 (en) | Face orientation determination device, computer program, and storage medium | |
| JP2009070097A (en) | Vehicle length measuring device and vehicle type determining device | |
| US20090304263A1 (en) | Method for classifying an object using a stereo camera | |
| CN112400094B (en) | Object detecting device | |
| JP7079187B2 (en) | Crew discriminator, computer program, and storage medium | |
| JP7195963B2 (en) | Head identification device, computer program, and storage medium | |
| JP4765363B2 (en) | Occupant detection device and occupant detection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20180427 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20180501 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201112 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211116 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211124 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220121 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220315 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220331 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7053340 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |