Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7053340B2 - Processing equipment and programs - Google Patents
[go: Go Back, main page]

JP7053340B2 - Processing equipment and programs - Google Patents

Processing equipment and programs Download PDF

Info

Publication number
JP7053340B2
JP7053340B2 JP2018066465A JP2018066465A JP7053340B2 JP 7053340 B2 JP7053340 B2 JP 7053340B2 JP 2018066465 A JP2018066465 A JP 2018066465A JP 2018066465 A JP2018066465 A JP 2018066465A JP 7053340 B2 JP7053340 B2 JP 7053340B2
Authority
JP
Japan
Prior art keywords
occupant
head
region
coordinate system
axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018066465A
Other languages
Japanese (ja)
Other versions
JP2019179286A (en
Inventor
佑記 名和
道昌 井東
圭吾 多田
忠 関原
純一 気屋村
将城 榊原
安利 深谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solution Innovators Ltd
Tokai Rika Co Ltd
Original Assignee
NEC Solution Innovators Ltd
Tokai Rika Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Solution Innovators Ltd, Tokai Rika Co Ltd filed Critical NEC Solution Innovators Ltd
Priority to JP2018066465A priority Critical patent/JP7053340B2/en
Publication of JP2019179286A publication Critical patent/JP2019179286A/en
Application granted granted Critical
Publication of JP7053340B2 publication Critical patent/JP7053340B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、処理装置、及びプログラムに関し、特に、撮像画像に基づいて検出処理を行なう処理装置、及びプログラムに関する。 The present invention relates to a processing device and a program, and more particularly to a processing device and a program that perform detection processing based on a captured image.

従来、車両の乗員が映り込んだ画像を撮像し、その撮像した画像を画像処理することで、検出の対象を特定する技術がある。この種の技術において、運転者の体調や覚醒度を推定することを目的として、運転者の頭部を、検出の対象とすることが求められている。運転者の頭部を検出するために、予め学習された識別器を撮像した画像に照合する技術が提案されている(例えば、特許文献1参照)。 Conventionally, there is a technique of capturing an image reflected by a vehicle occupant and processing the captured image to identify a detection target. In this type of technology, it is required to detect the driver's head for the purpose of estimating the driver's physical condition and arousal level. In order to detect the driver's head, a technique has been proposed in which a pre-learned classifier is collated with an image taken (see, for example, Patent Document 1).

特許文献1の処理装置は、運転者及び同乗者から操作可能に設けられた車載装置の操作部を操作する操作者の検出対象を撮像する撮像部と、前記撮像部から出力された画像データに基づいて微分処理を行って水平方向微分画像及び垂直方向微分画像を作成する微分処理部と、前記操作部を座標原点とする第1の極座標系を設定し、前記水平方向微分画像及び前記垂直方向微分画像に基づいて第1の角度方向微分及び第1の動径方向微分を算出する算出部と、算出された前記第1の角度方向微分、前記第1の動径方向微分、及び第1の条件に基づいて第1の2値画像を作成する2値画像作成部と、前記第1の2値画像に基づいて第1の間隔を有して略平行な直線となる第1及び第2の直線を抽出する抽出部と、抽出された前記第1及び第2の直線に基づいて前記操作者を判別する判別部と、を備えて操作者判別装置を構成している。 The processing device of Patent Document 1 includes an image pickup unit that captures an image to be detected by an operator who operates an operation unit of an in-vehicle device that can be operated by a driver and a passenger, and image data output from the image pickup unit. A differential processing unit that performs differential processing based on this to create a horizontal differential image and a vertical differential image, and a first polar coordinate system having the operation unit as a coordinate origin are set, and the horizontal differential image and the vertical direction are set. A calculation unit that calculates the first angular and radial differentials based on the differential image, the calculated first angular differential, the first radial differential, and the first. The binary image creating unit that creates the first binary image based on the conditions, and the first and second straight lines that have a first interval and are substantially parallel based on the first binary image. An operator discrimination device is configured to include an extraction unit for extracting a straight line and a discrimination unit for discriminating the operator based on the extracted first and second straight lines.

特開2009-294843号公報Japanese Unexamined Patent Publication No. 2009-294843

しかし、特許文献1の技術では、処理部、検出部、作成部、抽出部、及び判別部における処理量が多く、特に、3次元画素群を用いた処理では、その処理、演算に計算コストを要するという課題がある。 However, in the technique of Patent Document 1, the amount of processing in the processing unit, the detection unit, the creation unit, the extraction unit, and the discrimination unit is large, and in particular, in the processing using the three-dimensional pixel group, the calculation cost is increased for the processing and the calculation. There is a problem that it is necessary.

したがって、本発明の目的は、乗員の頭部を検出する技術において、計算コストを低減する処理装置、及びプログラムを提供することにある。 Therefore, an object of the present invention is to provide a processing device and a program for reducing a calculation cost in a technique for detecting an occupant's head.

[1]上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部と、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御部と、を有する処理装置を提供する。
[2]前記制御部は、前記距離画像を構成する画素群を、3次元空間に対応する複数の領域に分割し、その分割された領域の中で、規定範囲内の距離を示す距離情報を有する画素が最も多い領域を、前記高尤度領域とする、上記[1]に記載の処理装置であってもよい。
[3]また、前記制御部は、前記車両座標系における特定の座標軸に沿って前記距離画像を構成する画素群を分割する、上記[2]に記載の処理装置であってもよい。
[4]また、前記制御部は、前記高尤度領域の中から、乗員の頭頂部を特定する頭頂部特定処理と、頭頂部を基点とした頭部のモデルとして予め規定された頭部モデルを、前記頭頂部特定処理で特定された乗員の頭頂部に対し適合させることで、前記乗員の頭部領域を特定する頭部特定処理とを前記特定処理として実行する、上記[1]から[3]のいずれか1に記載の処理装置であってもよい。
[5]また、前記制御部は、前記頭頂部特定処理において、前記高尤度領域の中で、前記車両の車室内空間における座標系において車高方向に沿って最も高い部分を頭頂部として特定する、上記[4]に記載の処理装置であってもよい。
[6]また、前記制御部は、前記頭部特定処理において、前記頭部領域の重心位置を頭部の位置として検出する、上記[4]又は[5]に記載の処理装置であってもよい。
[7]また、前記制御部は、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、上記[1]から[6]のいずれか1に記載の処理装置であってもよい。
[8]また、前記制御部は、前記車両の車室内空間における座標系において、前記特定された頭頂部に対して下方に存在する画素群を乗員の胴体部分として検出すると、特定された乗員の頭部が確からしいものとすることを、前記検証処理として実行する、上記[7]に記載の処理装置であってもよい。
[9]また、前記制御部は、前記乗員の胴体部分を非検出であると、特定された乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、上記[7]又は[8]に記載の処理装置であってもよい。
[10]また、前記制御部は、前記頭部特定処理で特定した乗員の頭部を基点として胴体の領域を示す胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、上記[8]又は[9]に記載の処理装置であってもよい。
[11]上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得ステップと、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップと、をコンピュータに実行させるためのプログラムを提供する。
[12]前記制御ステップは、前記距離画像を構成する画素群を、3次元空間に対応する複数の領域に分割し、その分割された領域の中で、規定範囲内の距離を示す距離情報を有する画素が最も多い領域を、前記高尤度領域とする、上記[11]に記載のプログラムであってもよい。
[13]また、前記制御ステップは、前記車両座標系における特定の座標軸に沿って前記距離画像を構成する画素群を分割する、上記[12]に記載のプログラムであってもよい。
[14]また、前記制御ステップは、前記高尤度領域の中から、乗員の頭頂部を特定する頭頂部特定処理と、頭頂部を基点とした頭部のモデルとして予め規定された頭部モデルを、前記頭頂部特定処理で特定された乗員の頭頂部に対し適合させることで、前記乗員の頭部領域を特定する頭部特定処理とを前記特定処理として実行する、上記[11]から[13]のいずれか1に記載のプログラムであってもよい。
[15]また、前記制御ステップは、前記頭頂部特定処理において、前記高尤度領域の中で、前記車両の車室内空間における座標系において車高方向に沿って最も高い部分を頭頂部として特定する、上記[14]に記載のプログラムであってもよい。
[16]また、前記制御ステップは、前記頭部特定処理において、前記頭部領域の重心位置を頭部の位置として検出する、上記[14]又は[15]に記載のプログラムであってもよい。
[17]また、前記制御ステップは、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、上記[11]から[16]のいずれか1に記載のプログラムであってもよい。
[18]また、前記制御ステップは、前記車両の車室内空間における座標系において、前記特定された頭頂部に対して下方に存在する画素群を乗員の胴体部分として検出すると、特定された乗員の頭部が確からしいものとすることを、前記検証処理として実行する、上記[17]に記載のプログラムであってもよい。
[19]また、前記制御ステップは、前記乗員の胴体部分を非検出であると、特定された乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、上記[17]又は[18]に記載のプログラムであってもよい。
[20]また、前記制御ステップは、前記頭部特定処理で特定した乗員の頭部を基点として胴体の領域を示す胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、上記[18]又は[19]に記載のプログラムであってもよい。
[1] In order to achieve the above object, an acquisition unit for acquiring a distance image in which an imaging region including a vehicle occupant is an imaging target and in which distance information to the imaging target is assigned to each pixel is used. A pixel group constituting the distance image, which is extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle and the coordinate system in the distance image, and has a high possibility that the head of the occupant exists. Provided is a processing device having a control unit for executing a specific process for specifying the head of the occupant with respect to the high likelihood region.
[2] The control unit divides a pixel group constituting the distance image into a plurality of regions corresponding to a three-dimensional space, and within the divided regions, provides distance information indicating a distance within a specified range. The processing apparatus according to the above [1] may have a region having the largest number of pixels as the high likelihood region.
[3] Further, the control unit may be the processing device according to the above [2], which divides a pixel group constituting the distance image along a specific coordinate axis in the vehicle coordinate system.
[4] Further, the control unit is a head model specified in advance as a head identification process for specifying the crown of the occupant from the high likelihood region and a head model with the head as a base point. The above-mentioned [1] to [ The processing apparatus according to any one of 3] may be used.
[5] Further, in the crown specifying process, the control unit specifies, in the high likelihood region, the highest portion in the coordinate system in the vehicle interior space of the vehicle along the vehicle height direction as the crown. The processing apparatus according to the above [4] may be used.
[6] Further, even if the processing device according to the above [4] or [5], the control unit detects the position of the center of gravity of the head region as the position of the head in the head specifying process. good.
[7] The processing device according to any one of [1] to [6] above, wherein the control unit executes a verification process for confirming the certainty of the identified head of the occupant. May be good.
[8] Further, when the control unit detects a pixel group existing below the specified crown in the coordinate system in the vehicle interior space of the vehicle as the body portion of the occupant, the specified occupant's body portion The processing apparatus according to the above [7] may be used as the verification process for ensuring that the head is probable.
[9] Further, the control unit executes the specific process again as the verification process, assuming that the head of the specified occupant is uncertain when the body portion of the occupant is not detected. The processing apparatus according to the above [7] or [8] may be used.
[10] Further, the control unit has a specified number of pixels having distance information indicating a distance in a specified range in a body estimation area indicating a body area with the head of an occupant specified in the head specifying process as a base point. The processing device according to the above [8] or [9] may be used, which detects the body estimation area as the body portion of the occupant when is detected.
[11] In order to achieve the above object, an acquisition step of acquiring a distance image in which an imaging region including a vehicle occupant is an imaging target and a distance information to the imaging target is assigned to each pixel, and an acquisition step. A pixel group constituting the distance image, which is extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle and the coordinate system in the distance image, and has a high possibility that the head of the occupant exists. A control step for executing a specific process for specifying the head of the occupant and a program for causing the computer to execute the specific process for specifying the head of the occupant are provided for the high likelihood region.
[12] In the control step, the pixel group constituting the distance image is divided into a plurality of regions corresponding to the three-dimensional space, and the distance information indicating the distance within the specified range is provided in the divided regions. The program according to the above [11] may be used in which the region having the largest number of pixels is set as the high likelihood region.
[13] Further, the control step may be the program according to the above [12], which divides a pixel group constituting the distance image along a specific coordinate axis in the vehicle coordinate system.
[14] Further, the control step includes a head portion specifying process for specifying the crown of the occupant from the high likelihood region, and a head model predetermined as a model of the head with the head as a base point. The above-mentioned [11] to [ 13] may be the program described in any one of.
[15] Further, in the control step, in the crown specifying process, the highest portion of the high likelihood region in the coordinate system in the vehicle interior space of the vehicle along the vehicle height direction is specified as the crown. The program described in [14] above may be used.
[16] Further, the control step may be the program according to the above [14] or [15], which detects the position of the center of gravity of the head region as the position of the head in the head specifying process. ..
[17] Further, even if the control step is the program according to any one of the above [11] to [16], the verification process for confirming the certainty of the identified head of the occupant is executed. good.
[18] Further, when the control step detects a group of pixels existing below the specified crown in the coordinate system in the vehicle interior space of the vehicle as the body portion of the occupant, the specified occupant's body portion. The program according to the above [17] may be executed as the verification process to ensure that the head is probable.
[19] Further, in the control step, if the body portion of the occupant is not detected, the head of the identified occupant is uncertain, and the specific process is re-executed as the verification process. The program described in [17] or [18] above may be used.
[20] Further, in the control step, in the fuselage estimation region indicating the region of the fuselage with the head of the occupant specified in the head identification process as the base point, the control step has a specified number of pixels having distance information indicating the distance in the specified range. Is detected, the program according to the above [18] or [19] may be used, in which the body estimation area is detected as the body portion of the occupant.

本発明の処理装置、及びプログラムによれば、乗員の頭部を検出する技術において、計算コストを低減することができる。 According to the processing apparatus and the program of the present invention, the calculation cost can be reduced in the technique of detecting the head of the occupant.

図1は、本発明の実施の形態に係る処理装置が車両に搭載された状態の座標系の関係を3次元的に示す座標図である。FIG. 1 is a coordinate diagram showing three-dimensionally the relationship of the coordinate system in a state where the processing device according to the embodiment of the present invention is mounted on a vehicle. 図2は、本発明の実施の形態に係る処理装置の動作を示すフローチャートである。FIG. 2 is a flowchart showing the operation of the processing apparatus according to the embodiment of the present invention. 図3(a)は、検出エリア内の車両座標系(w,l,h)での3次元画素群を示す画素群図であり、図3(b)は、検出エリア内の画素群から領域を絞り込んだ抽出画素群図である。FIG. 3A is a pixel group diagram showing a three-dimensional pixel group in the vehicle coordinate system (w, l, h) in the detection area, and FIG. 3B is a region from the pixel group in the detection area. It is the extraction pixel group diagram which narrowed down. 図4(a)は、Step2で抽出した画素群図であり、図4(b)は、画素群をl軸の方向に分割した場合の画素群図であり、図4(c)は、高尤度領域として抽出された画素群図である。FIG. 4A is a pixel group diagram extracted by Step 2, FIG. 4B is a pixel group diagram when the pixel group is divided in the direction of the l-axis, and FIG. 4C is a high pixel group diagram. It is a pixel group diagram extracted as a likelihood region. 図5は、頭部横幅、頭部高さの頭部モデル定義例を示す図表である。FIG. 5 is a chart showing a head model definition example of the head width and the head height. 図6(a)は、Step3で抽出した画素群図であり、図6(b)は、画素群をw軸の方向に分割した場合の画素群図であり、図6(c)は、高尤度領域として抽出された画素群図である。FIG. 6A is a pixel group diagram extracted by Step 3, FIG. 6B is a pixel group diagram when the pixel group is divided in the direction of the w-axis, and FIG. 6C is a high pixel group diagram. It is a pixel group diagram extracted as a likelihood region. 図7は、h方向の最大値として抽出した頭頂部を示す図である。FIG. 7 is a diagram showing the crown extracted as the maximum value in the h direction. 図8(a)は、抽出した頭頂部を示す車両座標系(w,l,h)での画素群図であり、図8(b)は、頭部モデル定義例により頭部を抽出したwh面における画素群図であり、図8(c)は、頭部モデル定義例により頭部を抽出したlh面における画素群図であり、図8(d)は、抽出した頭部領域を示す画素群図である。FIG. 8A is a pixel group diagram in the vehicle coordinate system (w, l, h) showing the extracted head top, and FIG. 8B is wh from which the head is extracted according to the head model definition example. It is a pixel group diagram in a plane, FIG. 8C is a pixel group diagram in a lh plane from which a head is extracted according to a head model definition example, and FIG. 8D is a pixel showing an extracted head region. It is a group map. 図9は、抽出した頭部位置(頭部領域の重心位置)を示す画素群図である。FIG. 9 is a pixel group diagram showing the extracted head position (center of gravity position of the head region). 図10は、頭部位置の下方の領域に含まれる胴体推定領域を示す図である。FIG. 10 is a diagram showing a fuselage estimation region included in the region below the head position. 図11は、胴体推定領域のパラメータ例を示すw軸、l軸、h軸の値を示す図表である。FIG. 11 is a chart showing values of the w-axis, l-axis, and h-axis showing parameter examples of the fuselage estimation region. 図12(a)は、手を頭部位置に誤検出した例を示す画像例であり、図12(b)は、手と頭部を区別でき、誤検出が改善した例を示す画像例である。FIG. 12A is an image example showing an example in which a hand is erroneously detected at the head position, and FIG. 12B is an image example showing an example in which the hand and the head can be distinguished and the erroneous detection is improved. be.

(本発明の実施の形態)
本発明の実施の形態に係る処理装置1は、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部としてのTOFカメラ10と、距離画像を構成する画素群であって、車両8の車室内空間における座標系と前離画像における座標系との対応関係に従って抽出され、乗員5の頭部50が存在する可能性の高い画素群である高尤度領域に対して、乗員5の頭部を特定する特定処理を実行する制御部20と、を有して構成されている。
(Embodiment of the present invention)
The processing device 1 according to the embodiment of the present invention is a distance image in which an imaging region including a vehicle occupant is an imaging target, and is an acquisition unit that acquires a distance image in which distance information to an imaging target is assigned to each pixel. The TOF camera 10 and the pixel group constituting the distance image are extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle 8 and the coordinate system in the front image, and the head 50 of the occupant 5 exists. It is configured to include a control unit 20 that executes a specific process for specifying the head of the occupant 5 with respect to a high likelihood region, which is a pixel group having a high possibility of being generated.

なお、画素群とは、TOFカメラ10により撮像された画素に対応する点の集合であって、車両8の車室内空間における座標系、TOFカメラ10における座標系等により位置が表示される3次元空間の点の集合である。また、高尤度領域とは、検出対象が存在する可能性の高い領域である。具体的には、例えば、領域内の画素群数が多く、あるいは、画素群密度が高い領域である。 The pixel group is a set of points corresponding to the pixels imaged by the TOF camera 10, and the position is displayed by the coordinate system in the vehicle interior space of the vehicle 8, the coordinate system in the TOF camera 10, and the like. It is a set of points in space. The high-likelihood region is a region in which a detection target is likely to exist. Specifically, for example, it is a region in which the number of pixel groups in the region is large or the pixel group density is high.

(TOFカメラ10)
取得部としては撮像対象の3次元認識が可能なものであれば使用可能であるが、本実施の形態では、取得部としてTOF(Time Of Flight)カメラ10を使用する。TOFカメラ10は、光源の光が測定対象物に当たって戻るまでの時間を画素毎に検出し、奥行き方向の距離に相当する位置情報を含む立体的な画像を撮影できる。TOFカメラ10は、赤外光等を発光後、その光が物体に反射して戻ってきた反射光を受光し、発光から受光までの時間を測定して、画素ごとに撮像対象物までの距離を検出する。
(TOF camera 10)
The acquisition unit can be used as long as it can recognize the image pickup target in three dimensions, but in the present embodiment, the TOF (Time Of Flight) camera 10 is used as the acquisition unit. The TOF camera 10 can detect the time until the light of the light source hits the object to be measured and returns for each pixel, and can take a three-dimensional image including the position information corresponding to the distance in the depth direction. After emitting infrared light or the like, the TOF camera 10 receives the reflected light that is reflected by the object and returns, measures the time from the light emission to the light reception, and measures the time from the light emission to the light reception, and the distance to the object to be imaged for each pixel. Is detected.

TOFカメラ10は、例えば、図1に示すように、ルームミラー付近に取り付け、車両8の乗員5を含む撮像領域を撮像対象とする。TOFカメラ10による撮像画像は、座標(u,v)と、この座標(u,v)における奥行情報としての画素値d(u,v)を含む。取得された画素値d(u,v)(u=0、1、…U-1,v=0、1、…V-1)は、撮像対象としての物体(ここで言う物体は、運転者や車載機器など)までの距離を意味する。なお、実施形態における符号Uは、撮像画像における横幅[pixel]を意味し、符号Vは、撮像画像における縦幅[pixel]を意味する。つまり、TOFカメラ10で撮像された画像における各画素に、3次元空間における距離情報を割り当てることで距離画像が生成される。 As shown in FIG. 1, for example, the TOF camera 10 is attached near the rear-view mirror, and the imaging region including the occupant 5 of the vehicle 8 is targeted for imaging. The image captured by the TOF camera 10 includes coordinates (u, v) and pixel values d (u, v) as depth information at these coordinates (u, v). The acquired pixel value d (u, v) (u = 0, 1, ... U-1, v = 0, 1, ... V-1) is an object to be imaged (the object referred to here is the driver). And in-vehicle devices). The reference numeral U in the embodiment means the horizontal width [pixel] in the captured image, and the reference numeral V means the vertical width [pixel] in the captured image. That is, a distance image is generated by assigning the distance information in the three-dimensional space to each pixel in the image captured by the TOF camera 10.

(距離画像から得られるカメラ座標系)
距離画像における座標値u,vと、座標(u,v)における画素値d(u,v)は、以下の式を用いて3次元空間上の点(x,y,z)に変換することで、図1に示すカメラ座標系(x,y,z)における3次元画素群を作成することができる。

Figure 0007053340000001
なお、(c、c)は、画像中心座標、fは、レンズ焦点距離である。 (Camera coordinate system obtained from distance image)
The coordinate values u, v in the range image and the pixel value d (u, v) in the coordinates (u, v) are converted into points (x, y, z) in the three-dimensional space using the following equation. Then, a three-dimensional pixel group in the camera coordinate system (x, y, z) shown in FIG. 1 can be created.
Figure 0007053340000001
Note that (c x , cy ) is the image center coordinates, and f is the lens focal length.

(車両座標系)
カメラ座標系(x,y,z)は、検出対象であるドライバ(例えば腰骨の位置)を原点とする車両座標系(w,l,h)に変換することができる。変換方法は、一般的な座標回転変換、平行移動変換、スケール変換の組み合わせである。変換後の座標軸は、ドライバ右方向をw軸、前方をl軸(エル軸)、上方をh軸とし、原点はドライバの腰骨位置とする。
(Vehicle coordinate system)
The camera coordinate system (x, y, z) can be converted into a vehicle coordinate system (w, l, h) whose origin is the driver (for example, the position of the hip bone) to be detected. The conversion method is a combination of general coordinate rotation conversion, translation conversion, and scale conversion. The coordinate axes after conversion are w-axis in the right direction of the driver, l-axis (el-axis) in the anterior direction, h-axis in the upper direction, and the origin is the position of the hipbone of the driver.

(制御部20)
制御部20は、座標変換、頭頂部特定処理、頭部特定処理等を行なうための、例えばマイクロコンピュータを備えている。制御部20は、図1に示すように、TOFカメラ10と接続されている。制御部20は、記憶されたプログラムに従って、取得したデータに演算、加工などを行うCPU(Central Processing Unit)21、半導体メモリであるRAM(Random Access Memory)22及びROM(Read Only Memory)23などを備えている。
(Control unit 20)
The control unit 20 includes, for example, a microcomputer for performing coordinate conversion, head identification processing, head identification processing, and the like. As shown in FIG. 1, the control unit 20 is connected to the TOF camera 10. The control unit 20 includes a CPU (Central Processing Unit) 21, a semiconductor memory RAM (Random Access Memory) 22 and a ROM (Read Only Memory) 23, which perform calculations and processing on the acquired data according to a stored program. I have.

(処理装置1の動作)
図2で示す本発明の実施の形態に係る処理装置1の動作を示すフローチャートに基づいて、説明する。制御部20は、フローチャートに従って以下の演算、処理を実行する。
(Operation of processing device 1)
It will be described based on the flowchart which shows the operation of the processing apparatus 1 which concerns on embodiment of this invention shown in FIG. The control unit 20 executes the following operations and processes according to the flowchart.

(Step1)
取得部としてのTOFカメラ10は、車両8の乗員5を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する。この距離画像は、所定の時間間隔で撮像されたフレームの1フレームとして取得することができる。取得された距離画像は、以下の処理における入力(3次元画素群)として機能する。距離画像は、上記説明したカメラ座標系、車両座標系へ変換される。これにより、図3(a)に示すように、検出エリアに含まれる3次元画素群201を抽出できる。以下の処理においては、車両座標系(w,l,h)の3次元画素群で演算、処理等が実行される。
(Step 1)
The TOF camera 10 as an acquisition unit acquires a distance image in which the image pickup region including the occupant 5 of the vehicle 8 is the image pickup target, and the distance information to the image pickup target is assigned to each pixel. This distance image can be acquired as one frame of the frames captured at predetermined time intervals. The acquired distance image functions as an input (three-dimensional pixel group) in the following processing. The distance image is converted into the camera coordinate system and the vehicle coordinate system described above. As a result, as shown in FIG. 3A, the three-dimensional pixel group 201 included in the detection area can be extracted. In the following processing, operations, processing, and the like are executed in the three-dimensional pixel group of the vehicle coordinate system (w, l, h).

(Step2)
制御部20は、頭頂部の抽出として、まず、図3(b)に示すように、検出エリア内の画素群202を抽出する。検出エリアを定義し、その空間に含まれる画素群を抽出することで、領域を絞り込む。検出エリアは、着座時に頭部50が存在すると考えられる、車室内上方の空間とする。例えば、ドライバ腰骨位置203を原点とし、-510<w<360、-280<l<700、430<h<750の範囲である。単位はmmである(以下、同じ)。
(Step2)
The control unit 20 first extracts the pixel group 202 in the detection area as shown in FIG. 3B as the extraction of the crown portion. The area is narrowed down by defining the detection area and extracting the pixel group included in the space. The detection area is a space above the vehicle interior where the head 50 is considered to be present when seated. For example, the origin is the driver hipbone position 203, and the range is −510 <w <360, 280 <l <700, 430 <h <750. The unit is mm (hereinafter the same).

制御部20は、頭部50が含まれる領域を抽出するために、Step1で抽出した画素群をw軸方向から見た時、図4(a)に示すように、最も画素群密度が高くなる領域は高尤度領域として頭部50と胴体部分70が含まれていると考えられる(頭部50の下方には胴体部分70が存在すると考える)。ここでは、頭部モデル定義(図5)の横幅Dをもとにl軸の方向に分割し(図4(b))、lh平面上で最も画素群が多い領域204を抽出する(図4(c))。 When the pixel group extracted by Step 1 is viewed from the w-axis direction in order to extract the region including the head 50, the control unit 20 has the highest pixel group density as shown in FIG. 4A. It is considered that the region includes the head 50 and the body portion 70 as a high likelihood region (it is considered that the body portion 70 exists below the head 50). Here, based on the width D of the head model definition (FIG. 5), the region is divided in the direction of the l-axis (FIG. 4 (b)), and the region 204 having the largest number of pixel groups on the lh plane is extracted (FIG. 4). (C)).

(Step3)
制御部20は、頭頂部が含まれる領域を抽出するために、Step2で抽出した画素群の領域204(図6(a))をl軸方向から見た時、最も画素群密度が高くなる領域は高尤度領域として頭頂部が含まれていると考えられる。ここでは、頭部モデル定義の横幅Dをもとにw軸の方向に分割し(図6(b))、wh平面上で最も画素群が多い領域205を抽出する(図6(c))。
(Step 3)
The control unit 20 has the region where the pixel group density is highest when the region 204 (FIG. 6A) of the pixel group extracted by Step 2 is viewed from the l-axis direction in order to extract the region including the crown. Is considered to include the crown as a high likelihood region. Here, it is divided in the direction of the w-axis based on the width D defined by the head model (FIG. 6 (b)), and the region 205 having the largest number of pixel groups on the wh plane is extracted (FIG. 6 (c)). ..

(Step4)
制御部20は、頭頂部位置を算出する、頭頂部特定処理を実行する。Step3で抽出した画素群のうち、図7に示すように、h軸、すなわち、車両の車室内空間における座標系において車高方向において最も高い部分が頭頂部60であると考えられる。なお、h方向において抽出した画素群205(図6(c))の大きい値の何点かの平均により、頭頂部60を抽出してもよい。抽出された頭頂部60の座標を、(wt,lt,ht)とする。
(Step 4)
The control unit 20 executes a parietal region specifying process for calculating the parietal region position. As shown in FIG. 7, among the pixel groups extracted by Step 3, the h-axis, that is, the highest portion in the coordinate system in the vehicle interior space of the vehicle in the vehicle height direction is considered to be the crown 60. The crown 60 may be extracted by averaging some of the large values of the pixel group 205 (FIG. 6 (c)) extracted in the h direction. Let the coordinates of the extracted crown 60 be (wt, lt, ht).

(Step5)
制御部20は、頭部領域を抽出する。頭頂部の抽出処理で抽出した頭頂部60および頭部モデル定義(図5)から頭部50を抽出する。頭頂部60の座標(wt,lt,ht)を基準とし、図8(a)~(d)のように画素群を抽出することで、頭部領域206を得る。頭部領域206は、wt-w<w<wt+w、lt-l<l<lt+l、ht-h<h<htの範囲である。頭部モデル定義例(図5)を適合させると、w=176/2、l=176/2、h=146である。なお、hは、TOFカメラの特性による頭髪部分の情報欠落を想定し、頭部モデル定義の高さHから60だけマイナスして、h=206-60=146としている。
(Step 5)
The control unit 20 extracts the head region. The head 50 is extracted from the head 60 and the head model definition (FIG. 5) extracted by the extraction process of the head. The head region 206 is obtained by extracting a pixel group as shown in FIGS. 8A to 8D with reference to the coordinates (wt, lt, ht) of the crown 60. The head region 206 is in the range of wt-w 1 <w <wt + w 1 , lt-l 1 <l <lt + l 1 , ht-h 1 <h <ht. When the head model definition example (FIG. 5) is adapted, w 1 = 176/2, l 1 = 176/2, and h 1 = 146. It should be noted that h 1 is set to h 1 = 206-60 = 146 by subtracting 60 from the height H defined in the head model, assuming the lack of information on the hair portion due to the characteristics of the TOF camera.

(Step6)
制御部20は、頭部位置を算出する、頭部特定処理を実行する。Step5で抽出した領域206の頭部位置C(wc,lc,hc)を頭部50とする。すなわち、図9で示すように、上記のw、l、hの範囲で規定される領域に含まれる頭部領域206の画素群の中心、あるいは重心を求めることにより、頭部位置Cとすることができる。
(Step 6)
The control unit 20 executes a head identification process for calculating the head position. The head position C (wc, lc, hc) of the region 206 extracted in Step 5 is defined as the head 50. That is, as shown in FIG. 9, the head position C is determined by obtaining the center or the center of gravity of the pixel group of the head region 206 included in the region defined by the above ranges w, l, and h. Can be done.

(Step7)
制御部20は、図10に示すように、頭部50(wc,lc,hc)の下方の胴体推定領域100に含まれる画素群をカウントする。車両の車室内空間における座標系において、頭部50の下方には胴体部分70が含まれるので、画素群をカウントすることにより、抽出された頭部50が正しいかどうかを検証することができる。胴体推定領域は胴体部分が含まれる程度の大きさとする。例えば、図11のように、産業技術総合研究所が公開している人体寸法データベース等をもとに胴体推定領域を決めることができる。
(Step 7)
As shown in FIG. 10, the control unit 20 counts the pixel groups included in the body estimation region 100 below the head 50 (wc, lc, hc). Since the body portion 70 is included below the head 50 in the coordinate system in the vehicle interior space of the vehicle, it is possible to verify whether or not the extracted head 50 is correct by counting the pixel groups. The body estimation area shall be large enough to include the body part. For example, as shown in FIG. 11, the fuselage estimation area can be determined based on the human body size database or the like published by the National Institute of Advanced Industrial Science and Technology.

(Step8)
制御部20は、画素群密度が閾値以上かどうかを判断する。胴体推定領域において、規定範囲の距離を示す距離情報を有した規定数の画素が検出されると、胴体推定領域を乗員の胴体部分として検出する。Step7でカウントした画素群が閾値以上の場合、(wc,lc,hc)を頭部として確定する(Step8:Yes)。Step7でカウントした画素群が閾値未満の場合は、Step9へ進む(Step8:No)。このStep8の判断により、図12(a)に示すような手80を頭部50に誤検出することを抑制でき、図12(b)に示すように、手80と頭部50を区別できる。
(Step 8)
The control unit 20 determines whether or not the pixel group density is equal to or higher than the threshold value. When a specified number of pixels having distance information indicating a distance in a specified range are detected in the body estimation area, the body estimation area is detected as the body portion of the occupant. When the pixel group counted in Step 7 is equal to or larger than the threshold value, (wc, lc, hc) is determined as the head (Step 8: Yes). If the pixel group counted in Step 7 is less than the threshold value, the process proceeds to Step 9 (Step 8: No). By the judgment of Step 8, it is possible to prevent the hand 80 as shown in FIG. 12A from being erroneously detected in the head 50, and as shown in FIG. 12B, the hand 80 and the head 50 can be distinguished.

(Step9)
制御部20は、Step5で抽出した頭部領域を除外して、再度Step1へ戻って処理を再度実行する。
(Step 9)
The control unit 20 excludes the head region extracted by Step 5, returns to Step 1 again, and executes the process again.

上記の処理実行は、上記示した一連の動作として繰り返して実行することができる。 The above processing execution can be repeatedly executed as a series of operations shown above.

(プログラムとしての実施形態)
コンピュータに、処理装置1で示した、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得ステップと、前記距離画像を構成する画素群であって、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップとを、コンピュータに実行させるためのプログラムも、本発明の実施の形態の一つである。
(Embodiment as a program)
An acquisition step of acquiring a distance image, which is a distance image of an imaging region including a vehicle occupant, which is shown by the processing device 1 and has distance information to the imaging target assigned to each pixel, to a computer. A pixel group constituting the distance image, which is extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle and the coordinate system in the distance image, and has a high possibility that the head of the occupant is present. A program for causing a computer to execute a control step for executing a specific process for specifying the head of an occupant with respect to a high likelihood region is also one of the embodiments of the present invention.

処理装置1の動作で説明したStep1が距離画像を取得する取得ステップの一例であり、Step2からStep6が特定処理を実行する制御ステップの一例であり、図2で示したフローチャートを実行する処理制御を、コンピュータに実行させるためのプログラムの実施形態とすることができる。 Step 1 described in the operation of the processing device 1 is an example of an acquisition step for acquiring a distance image, Step 2 to Step 6 are an example of a control step for executing a specific process, and process control for executing the flowchart shown in FIG. 2 is performed. , Can be an embodiment of a program to be executed by a computer.

また、上記のようなプログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の実施の形態の一つである。 A computer-readable recording medium on which the above program is recorded is also one of the embodiments of the present invention.

(実施の形態の効果)
本発明の実施の形態によれば、以下のような効果を有する。
(1)本発明の実施の形態に係る処理装置は、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する取得部としてのTOFカメラ10と、距離画像を構成する画素群であって、車両8の車室内空間における座標系と前離画像における座標系との対応関係に従って抽出され、乗員5の頭部50が存在する可能性の高い画素群である高尤度領域に対して、乗員5の頭部を特定する特定処理を実行する制御部20と、を有して構成されている。これにより、3次元情報を活用することで、顔を撮影する方向に関わらず頭部位置を検出することができる。また、3次元画素群を用いた絞込み処理を繰り返しており、少ない処理量で簡易に頭部位置を検出することができる。
(2)検出した頭部位置の下方の領域に3次元画素群が存在するかを検証する。頭部の下には胴体部分が存在することを特徴と捉えることで、頭部とそれ以外の物体を区別することができ、頭部とそれ以外の物体の区別が簡易な方法で実現可能となる。これにより、TOFカメラを用いた頭部検出における誤検出抑制、誤検出防止が可能となる。
(3)以上により、乗員の頭部を検出する技術において、計算コストを低減する処理装置、及びプログラムを提供することが可能になる。
(Effect of embodiment)
According to the embodiment of the present invention, it has the following effects.
(1) The processing apparatus according to the embodiment of the present invention acquires a distance image in which an image pickup area including a vehicle occupant is an image pickup target, and distance information to the image pickup target is assigned to each pixel. The TOF camera 10 as an acquisition unit and the pixel group constituting the distance image are extracted according to the correspondence between the coordinate system in the vehicle interior space of the vehicle 8 and the coordinate system in the front image, and the head 50 of the occupant 5 It is configured to have a control unit 20 that executes a specific process for specifying the head of the occupant 5 with respect to a high likelihood region which is a pixel group in which there is a high possibility that the occupant 5 exists. Thereby, by utilizing the three-dimensional information, the head position can be detected regardless of the direction in which the face is photographed. Further, the narrowing process using the three-dimensional pixel group is repeated, and the head position can be easily detected with a small amount of processing.
(2) It is verified whether or not the three-dimensional pixel group exists in the area below the detected head position. By considering the presence of the body part under the head as a feature, it is possible to distinguish between the head and other objects, and it is possible to distinguish between the head and other objects by a simple method. Become. This makes it possible to suppress erroneous detection and prevent erroneous detection in head detection using a TOF camera.
(3) From the above, it becomes possible to provide a processing device and a program that reduce the calculation cost in the technique of detecting the head of the occupant.

以上、本発明のいくつかの実施の形態を説明したが、これらの実施の形態は、一例に過ぎず、特許請求の範囲に係る発明を限定するものではない。また、これら新規な実施の形態は、その他の様々な形態で実施されることが可能であり、本発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更等を行うことができる。また、これら実施の形態の中で説明した特徴の組合せの全てが発明の課題を解決するための手段に必須であるとは限らない。さらに、これら実施の形態は、発明の範囲及び要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although some embodiments of the present invention have been described above, these embodiments are merely examples and do not limit the invention according to the claims. In addition, these novel embodiments can be implemented in various other embodiments, and various omissions, replacements, changes, etc. can be made without departing from the gist of the present invention. Moreover, not all combinations of features described in these embodiments are essential as means for solving the problems of the invention. Further, these embodiments are included in the scope and gist of the invention, and are also included in the scope of the invention described in the claims and the equivalent scope thereof.

1…処理装置、5…乗員、8…車両、10…TOFカメラ、20…制御部、50…頭部、60…頭頂部、70…胴体部分、80…手、100…胴体推定領域、201、202、204、205、206…領域、203…ドライバ腰骨位置
1 ... Processing device, 5 ... Crew, 8 ... Vehicle, 10 ... TOF camera, 20 ... Control unit, 50 ... Head, 60 ... Head top, 70 ... Body part, 80 ... Hand, 100 ... Body estimation area, 201, 202, 204, 205, 206 ... Area, 203 ... Driver lumbar position

Claims (12)

車両の乗員を含む撮像領域を撮像対象とし、与えられた2次元座標系の座標に対応する画素ごとに前記撮像対象までの距離情報を割り当てた距離画像を取得する取得部と、
前記取得部で取得した前記距離画像の前記2次元座標系の前記画素の座標とこの座標の前記距離情報とを3次元空間上の点に変換して3次元画素群を作成し、前記3次元画素群の第1の座標系を、前記乗員を原点とする第2の座標系に変換し、変換された前記第2の座標系における前記3次元画素群から抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御部と、
を有し、
前記制御部は、前記特定処理として、前記第2の座標系において前記原点から前記車両の右方向を正、左方向を負とする第1の軸、前記車両の前方向を正とする第2の軸、及び前記車両の上方向を正とする第3の軸とした場合、
予め規定された頭部モデルに応じて予め規定された横幅に基づいて、抽出した前記高尤度領域を前記第2の軸の方向に分割して最も画素群が多い第1の領域を抽出し、
前記横幅に基づいて前記第1の領域を前記第1の軸の方向に分割して最も画素群が多い第2の領域を抽出し、
さらに前記特定処理における頭頂部特定処理として、抽出した前記第2の領域において前記第3の軸の正方向に沿って最も高い部分を前記乗員の頭頂部として特定する、
処理装置。
An acquisition unit that acquires a distance image in which an imaging region including a vehicle occupant is an imaging target and distance information to the imaging target is assigned to each pixel corresponding to the coordinates of a given two-dimensional coordinate system .
The coordinates of the pixels in the two-dimensional coordinate system of the distance image acquired by the acquisition unit and the distance information of the coordinates are converted into points on the three-dimensional space to create a three-dimensional pixel group, and the three-dimensional The first coordinate system of the pixel group is converted into the second coordinate system with the occupant as the origin, and the head of the occupant is extracted from the three-dimensional pixel group in the converted second coordinate system. A control unit that executes a specific process for specifying the head of the occupant in a high-probability region, which is a group of pixels that are likely to exist, and a control unit.
Have,
As the specific process, the control unit has a first axis in which the right direction of the vehicle is positive and a negative direction in the left direction from the origin in the second coordinate system, and a second axis in which the front direction of the vehicle is positive. When the axis of the above and the third axis whose upward direction of the vehicle is positive are used.
Based on the predetermined width according to the predetermined head model, the extracted high-likelihood region is divided in the direction of the second axis, and the first region having the largest number of pixel groups is extracted. ,
The first region is divided in the direction of the first axis based on the width, and the second region having the largest number of pixel groups is extracted.
Further, as the crown specifying process in the specifying process, the highest portion of the extracted second region along the positive direction of the third axis is specified as the crown of the occupant.
Processing equipment.
前記制御部は、前記特定処理における頭部特定処理として、前記頭部モデルを前記頭頂部特定処理で特定された前記乗員の頭頂部に対し適合させることで前記乗員の頭部領域を特定し、前記頭部領域の重心位置を前記乗員の頭部の位置として検出する、請求項に記載の処理装置。 The control unit specifies the head region of the occupant by adapting the head model to the crown of the occupant specified in the crown identification process as the head identification process in the identification process. The processing device according to claim 1 , wherein the position of the center of gravity of the head region is detected as the position of the head of the occupant . 前記制御部は、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、請求項に記載の処理装置。 The processing device according to claim 2 , wherein the control unit executes a verification process for confirming the certainty of the identified head of the occupant. 前記制御部は、前記第2の座標系において、特定された前記乗員の頭頂部に対して下方に存在する画素群を前記乗員の胴体部分として検出すると、特定された前記乗員の頭部が確からしいものとすることを、前記検証処理として実行する、請求項に記載の処理装置。 When the control unit detects, in the second coordinate system, a pixel group existing below the specified crown of the occupant as the body portion of the occupant, the identified head of the occupant is detected. The processing apparatus according to claim 3 , wherein the verification process is performed to ensure certainty. 前記制御部は、前記乗員の胴体部分を非検出であると、特定された前記乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、請求項又はに記載の処理装置。 The control unit executes the specific process again as the verification process, assuming that the head of the identified occupant is uncertain when the body portion of the occupant is not detected. The processing apparatus according to 3 or 4 . 前記制御部は、前記頭部特定処理で特定した前記乗員の頭部を基点として前記乗員の胴体部分の領域を示す胴体推定領域において、規定範囲の距離を示す前記距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、請求項4又は5に記載の処理装置。 The control unit has a specified number of distance information indicating a distance within a specified range in a body estimation area indicating a region of the body portion of the occupant with the head of the occupant specified in the head specifying process as a base point. The processing device according to claim 4 or 5 , wherein when a pixel is detected, the body estimation area is detected as the body portion of the occupant. 車両の乗員を含む撮像領域を撮像対象とし、与えられた2次元座標系の座標に対応する画素ごとに前記撮像対象までの距離情報を割り当てた距離画像を取得する取得ステップと、
前記取得ステップで取得した前記距離画像の前記2次元座標系の前記画素の座標とこの座標の前記距離情報とを3次元空間上の点に変換して3次元画素群を作成し、前記3次元画素群の第1の座標系を、前記乗員を原点とする第2の座標系に変換し、変換された前記第2の座標系における前記3次元画素群から抽出され、前記乗員の頭部が存在する可能性の高い画素群である高尤度領域に対して、前記乗員の頭部を特定する特定処理を実行する制御ステップと、
有し、
前記制御ステップは、前記特定処理として、前記第2の座標系において前記原点から前記車両の右方向を正、左方向を負とする第1の軸、前記車両の前方向を正とする第2の軸、及び前記車両の上方向を正とする第3の軸とした場合、
予め規定された頭部モデルに応じて予め規定された横幅に基づいて、抽出した前記高尤度領域を前記第2の軸の方向に分割して最も画素群が多い第1の領域を抽出し、
前記横幅に基づいて前記第1の領域を前記第1の軸の方向に分割して最も画素群が多い第2の領域を抽出し、
さらに前記特定処理における頭頂部特定処理として、抽出した前記第2の領域において前記第3の軸の正方向に沿って最も高い部分を前記乗員の頭頂部として特定する、ことをコンピュータに実行させるためのプログラム。
An acquisition step of acquiring an image pickup area including a vehicle occupant and assigning distance information to the image pickup target for each pixel corresponding to the coordinates of a given two-dimensional coordinate system, and an acquisition step.
The coordinates of the pixels in the two-dimensional coordinate system of the distance image acquired in the acquisition step and the distance information of the coordinates are converted into points on the three-dimensional space to create a three-dimensional pixel group, and the three-dimensional The first coordinate system of the pixel group is converted into the second coordinate system with the occupant as the origin, and the head of the occupant is extracted from the three-dimensional pixel group in the converted second coordinate system. A control step for executing a specific process for specifying the head of the occupant in a high likelihood region, which is a group of pixels that are likely to exist, and a control step.
Have,
In the control step, as the specific process, in the second coordinate system, the first axis having the right direction of the vehicle as positive and the left direction as negative from the origin, and the second axis having the front direction of the vehicle as positive. When the axis of the above and the third axis whose upward direction of the vehicle is positive are used.
Based on the predetermined width according to the predetermined head model, the extracted high-likelihood region is divided in the direction of the second axis, and the first region having the largest number of pixel groups is extracted. ,
The first region is divided in the direction of the first axis based on the width, and the second region having the largest number of pixel groups is extracted.
Further, as the crown specifying process in the specifying process, the computer is made to specify the highest portion of the extracted second region along the positive direction of the third axis as the crown of the occupant. Program.
前記制御ステップは、前記特定処理における頭部特定処理として、前記頭部モデルを前記頭頂部特定処理で特定された前記乗員の頭頂部に対し適合させることで前記乗員の頭部領域を特定し、前記頭部領域の重心位置を前記乗員の頭部の位置として検出する、請求項に記載のプログラム。 The control step identifies the occupant's head region by adapting the head model to the occupant's crown identified in the crown identification process as a head identification process in the identification process. The program according to claim 7 , wherein the position of the center of gravity of the head region is detected as the position of the head of the occupant . 前記制御ステップは、特定された前記乗員の頭部の確からしさを確認する検証処理を実行する、請求項に記載のプログラム。 The program according to claim 8 , wherein the control step executes a verification process for confirming the certainty of the identified head of the occupant. 前記制御ステップは、前記第2の座標系において、特定された前記乗員の頭頂部に対して下方に存在する画素群を前記乗員の胴体部分として検出すると、特定された前記乗員の頭部が確からしいものとすることを、前記検証処理として実行する、請求項に記載のプログラム。 When the control step detects, in the second coordinate system, a group of pixels existing below the identified crown of the occupant as the body portion of the occupant, the identified head of the occupant is detected. The program according to claim 9 , which executes the verification process to make it probable. 前記制御ステップは、前記乗員の胴体部分を非検出であると、特定された前記乗員の頭部が不確かなものとして、前記特定処理を再度実行することを、前記検証処理として実行する、請求項又は1に記載のプログラム。 The control step is claimed to execute the identification process again as the verification process, assuming that the head of the identified occupant is uncertain when the body portion of the occupant is not detected. The program according to 9 or 10. 前記制御ステップは、前記頭部特定処理で特定した前記乗員の頭部を基点として前記乗員の胴体の領域を示す胴体推定領域において、規定範囲の距離を示す前記距離情報を有した規定数の画素が検出されると、当該胴体推定領域を前記乗員の胴体部分として検出する、請求項10又は11に記載のプログラム。 The control step is a predetermined number of pixels having the distance information indicating the distance in the specified range in the body estimation region indicating the region of the occupant's torso with the occupant's head specified in the head identification process as a base point. The program according to claim 10 or 11 , wherein when is detected, the fuselage estimation area is detected as the fuselage portion of the occupant.
JP2018066465A 2018-03-30 2018-03-30 Processing equipment and programs Active JP7053340B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018066465A JP7053340B2 (en) 2018-03-30 2018-03-30 Processing equipment and programs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018066465A JP7053340B2 (en) 2018-03-30 2018-03-30 Processing equipment and programs

Publications (2)

Publication Number Publication Date
JP2019179286A JP2019179286A (en) 2019-10-17
JP7053340B2 true JP7053340B2 (en) 2022-04-12

Family

ID=68278628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018066465A Active JP7053340B2 (en) 2018-03-30 2018-03-30 Processing equipment and programs

Country Status (1)

Country Link
JP (1) JP7053340B2 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012128592A (en) 2010-12-14 2012-07-05 Honda Motor Co Ltd Crew member head detection device

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012128592A (en) 2010-12-14 2012-07-05 Honda Motor Co Ltd Crew member head detection device

Also Published As

Publication number Publication date
JP2019179286A (en) 2019-10-17

Similar Documents

Publication Publication Date Title
KR101283262B1 (en) Method of image processing and device thereof
JP6184877B2 (en) Vehicle external recognition device
CN106909873B (en) The method and apparatus of recognition of face
JP6328327B2 (en) Image processing apparatus and image processing method
US20120062749A1 (en) Human body identification method using range image camera and human body identification apparatus
JP6782433B2 (en) Image recognition device
JP6021689B2 (en) Vehicle specification measurement processing apparatus, vehicle specification measurement method, and program
JP2014009975A (en) Stereo camera
CN101877131A (en) A target recognition method, device and target recognition system
JP6090847B2 (en) Information processing apparatus and determination method
EP3082069A1 (en) Stereoscopic object detection device and stereoscopic object detection method
CN116935081A (en) A depth-based multi-camera bird&#39;s-eye view target detection method and device
JP7180445B2 (en) object detector
JP7053340B2 (en) Processing equipment and programs
JP7053341B2 (en) Processing equipment and programs
JP7053342B2 (en) Processing equipment and programs
JP2019179289A (en) Processing device and program
JP7117878B2 (en) processor and program
JP7240193B2 (en) Face orientation determination device, computer program, and storage medium
JP2009070097A (en) Vehicle length measuring device and vehicle type determining device
US20090304263A1 (en) Method for classifying an object using a stereo camera
CN112400094B (en) Object detecting device
JP7079187B2 (en) Crew discriminator, computer program, and storage medium
JP7195963B2 (en) Head identification device, computer program, and storage medium
JP4765363B2 (en) Occupant detection device and occupant detection method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20180427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180501

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220331

R150 Certificate of patent or registration of utility model

Ref document number: 7053340

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250