Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7134364B2 - 体格判定装置および体格判定方法 - Google Patents
[go: Go Back, main page]

JP7134364B2 - 体格判定装置および体格判定方法 - Google Patents

体格判定装置および体格判定方法 Download PDF

Info

Publication number
JP7134364B2
JP7134364B2 JP2021543879A JP2021543879A JP7134364B2 JP 7134364 B2 JP7134364 B2 JP 7134364B2 JP 2021543879 A JP2021543879 A JP 2021543879A JP 2021543879 A JP2021543879 A JP 2021543879A JP 7134364 B2 JP7134364 B2 JP 7134364B2
Authority
JP
Japan
Prior art keywords
occupant
physique
size
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021543879A
Other languages
English (en)
Other versions
JPWO2021044566A1 (ja
Inventor
洸暉 安部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021044566A1 publication Critical patent/JPWO2021044566A1/ja
Application granted granted Critical
Publication of JP7134364B2 publication Critical patent/JP7134364B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/593Recognising seat occupancy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2431Multiple classes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Mechanical Engineering (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Air Bags (AREA)
  • Seats For Vehicles (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両内の乗員の体格を判定する体格判定装置および体格判定方法に関する。
従来、車両内の座席に複数のセンサを備え、乗員が着座したときに着座面に加わる荷重を各センサで検出し、乗員が大人か小人か判定する技術が開示されている(例えば、特許文献1参照)。また、車両内の座席の着座部に格子パターンおよびCCDカメラを備え、乗員が着座したときに着座部に荷重が加わることによって変形した格子パターンをCCDカメラで撮影し、乗員の体格などを判定する技術が開示されている(例えば、特許文献2参照)。特許文献1,2では、着座した乗員の体格に応じてエアバッグの展開を制御することについて言及されている。
特開2001-21426号公報 特開平11-129860号公報
近年、全ての乗員を保護することを目的として、全ての座席に対応するエアバッグを備える車両が増えてきている。このような車両では、エアバッグの展開を制御するために、全ての座席に着座する乗員の体格を判定する必要がある。また、乗員の体格の判定結果は、エアバッグの展開の制御だけでなく、例えば、座席位置を自動的に調整する制御にも用いることができる。このように、全ての乗員の体格を判定することに対する需要が高まっている。
特許文献1,2では、全ての座席の乗員の体格を判定するためには、全ての座席にセンサなどを備える必要があり、全体的に高価なシステムになるという問題がある。
本発明は、このような問題を解決するためになされたものであり、車両内の乗員の体格を安価に判定することが可能な体格判定装置および体格判定方法を提供することを目的とする。
上記の課題を解決するために、本発明による体格判定装置は、カメラが撮影した車両内の乗員の画像を取得する画像取得部と、画像取得部が取得した画像に基づいて、乗員の顔の特徴点を推定する顔特徴点推定部と、顔特徴点推定部が推定した顔の特徴点に基づいて、カメラと乗員の頭との距離を推定する頭位置推定部と、画像取得部が取得した画像に基づいて、画像における乗員の部位の大きさを推定する部位推定部と、頭位置推定部が推定した距離と、部位推定部が推定した部位の大きさとに基づいて、画像における乗員の部位の大きさを変換した、骨格サイズを推定する骨格推定部と、骨格推定部が推定した乗員の骨格サイズに基づいて、乗員の体格を判定する体格判定部とを備える。
本発明によると、体格判定装置は、画像取得部が取得した画像に基づいて、画像における乗員の部位の大きさを推定する部位推定部と、頭位置推定部が推定した距離と、部位推定部が推定した部位の大きさとに基づいて、画像における乗員の部位の大きさを変換した、骨格サイズを推定する骨格推定部と、骨格推定部が推定した乗員の骨格サイズに基づいて、乗員の体格を判定する体格判定部とを備えるため、車両内の乗員の体格を安価に判定することが可能となる。
本発明の目的、特徴、態様、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
本発明の実施の形態による体格判定装置の構成の一例を示すブロック図である。 本発明の実施の形態による体格判定装置の構成の一例を示すブロック図である。 本発明の実施の形態によるカメラが撮影した画像の一例を示す図である。 本発明の実施の形態による顔の特徴点の一例を示す図である。 本発明の実施の形態による画像における乗員の複数の部位の一例を示す図である。 本発明の実施の形態による画像における乗員の複数の部位の一例を示す図である。 本発明の実施の形態による画像における乗員の複数の部位の一例を示す図である。 本発明の実施の形態による画像における乗員の複数の部位の一例を示す図である。 本発明の実施の形態による骨格サイズの推定を説明するための図である。 本発明の実施の形態による乗員の体格の判定を説明するための図である。 本発明の実施の形態による乗員の体格の判定を説明するための図である。 本発明の実施の形態による体格判定装置の動作の一例を示すフローチャートである。 本発明の実施の形態による体格判定装置の動作の一例を示すフローチャートである。 本発明の実施の形態による体格判定装置のハードウェア構成の一例を示すブロック図である。 本発明の実施の形態による体格判定装置のハードウェア構成の一例を示すブロック図である。 本発明の実施の形態による体格判定システムの構成の一例を示すブロック図である。
本発明の実施の形態について、図面に基づいて以下に説明する。
<実施の形態>
<構成>
図1は、本実施の形態による体格判定装置1の構成の一例を示すブロック図である。なお、図1では、本実施の形態による体格判定装置を構成する必要最小限の構成を示している。また、体格判定装置1は、車両内に搭載されているものとする。
図1に示すように、体格判定装置1は、画像取得部2と、顔特徴点推定部3と、頭位置推定部4と、部位推定部5と、骨格推定部6と、体格判定部7とを備えている。また、画像取得部2は、カメラ8に接続されている。カメラ8は、車両内に搭載されている。
画像取得部2は、カメラ8が撮影した車両内の乗員の画像を取得する。顔特徴点推定部3は、画像取得部2が取得した画像に基づいて、乗員の顔の特徴点を取得する。頭位置推定部4は、顔特徴点推定部3が推定した顔の特徴点に基づいて、カメラ8に対する乗員の頭の相対的な位置を推定する。部位推定部5は、画像取得部2が取得した画像に基づいて、画像における乗員の複数の部位の大きさを推定する。骨格推定部6は、頭位置推定部4が推定した乗員の頭の相対的な位置と、部位推定部5が推定した各部位の大きさとに基づいて、乗員の各部位の実際の大きさを示す骨格サイズを推定する。体格判定部7は、骨格推定部6が推定した乗員の各部位の骨格サイズに基づいて、乗員の体格を判定する。
次に、図1に示す体格判定装置1を含む体格判定装置の他の構成について説明する。
図2は、他の構成に係る体格判定装置9の構成の一例を示すブロック図である。なお、体格判定装置9は、車両内に搭載されているものとする。
図2に示すように、体格判定装置9は、画像取得部2と、顔特徴点推定部3と、頭位置推定部4と、部位推定部5と、骨格推定部6と、体格判定部7と、判定結果出力部10とを備えている。また、画像取得部2は、カメラ8に接続されている。判定結果出力部10は、エアバッグ制御装置11に接続されている。エアバッグ制御装置11は、車両内に搭載されている。
画像取得部2は、カメラ8が撮影した車両内の乗員の画像を取得する。カメラ8は、運転席、助手席、および後部座席のそれぞれに着座した乗員を含むように撮影する。図3は、助手席に着座している乗員の画像の一例を示す図である。なお、図3の例では、助手席に乗員が着座している場合を示しているが、これに限るものではない。カメラ8が撮影した画像には、運転席に着座している乗員、および後部座席に着座している乗員が含まれていてもよい。
顔特徴点推定部3は、画像取得部2が取得した画像に基づいて、乗員の顔の特徴点を推定する。具体的には、顔特徴点推定部3は、画像取得部2が取得した画像を予め準備した学習辞書(図示せず)と照合し、画像取得部2が取得した画像に含まれる乗員の顔、目、および鼻などの位置を示す顔の特徴点を推定する。学習辞書には、複数の人物の顔の特徴点が記録されている。なお、顔特徴点推定部3は、画像に複数の乗員が含まれている場合、各乗員の顔の特徴点を推定する。
図4は、顔特徴点推定部3が推定した乗員の顔の特徴点の一例を示す図である。図4に示す乗員は、助手席に着座している。図4において、乗員の顔を四角で囲んだ線は、乗員の顔の位置を示している。乗員の目の中心に破線で示した円は、乗員の瞳孔の位置および大きさを示している。乗員の顔に示した複数の点は、眉の両端位置、目の両端位置、鼻頭の位置、口の両端位置をそれぞれ示している。また、目幅は、乗員の両目の間隔であり、具体的には各瞳孔の中心の間隔である。なお、顔特徴点推定部3は、図4に示す顔の特徴点に限らず、顔の他の特徴点を推定してもよい。
頭位置推定部4は、顔特徴点推定部3が推定した顔の特徴点に基づいて、カメラ8に対する乗員の頭の相対的な位置を推定する。具体的には、頭位置推定部4は、顔特徴点推定部3が推定した乗員の両目の間隔または瞳孔の大きさに基づいて、カメラ8に対する乗員の頭の物理的な相対位置を推定する。すなわち、頭位置推定部4は、カメラ8と乗員の頭との距離を推定する。
本実施の形態では、体格差の影響が少ない乗員の両目の間隔または瞳孔の大きさに基づいてカメラ8に対する乗員の頭の相対的な位置を推定している。従って、乗員の体格に関わらず、カメラ8に対する乗員の頭の相対的な位置を精度良く推定することができる。また、乗員が着座している座席位置が変化した場合であっても、当該変化に応じて、カメラ8に対する乗員の頭の相対的な位置を精度良く推定することができる。
部位推定部5は、画像取得部2が取得した画像に基づいて、画像における乗員の複数の部位の大きさを推定する。具体的には、部位推定部5は、画像取得部2が取得した画像を予め準備した学習辞書(図示せず)と照合し、画像取得部2が取得した画像に含まれる乗員の首、腕、上半身などの各部位の画像における大きさおよび位置を推定する。学習辞書には、複数の人物の各部位の画像における大きさおよび位置が記録されている。なお、部位推定部5は、画像に複数の乗員が含まれている場合、各乗員の複数の部位の大きさを推定する。
図5~8は、画像取得部2が取得した画像における乗員の複数の部位の大きさおよび位置の一例を示す図である。図5~7は、体格が異なる乗員の各部位の大きさおよび位置を示している。図5~8において、各点を結ぶ直線は乗員の部位に対応し、各部位の大きさの単位はpix(ピクセル)である。例えば、図8に示す両矢印は、乗員の肩幅(nピクセル)を示している。
骨格推定部6は、頭位置推定部4が推定したカメラ8に対する乗員の頭の相対的な位置と、部位推定部5が推定した画像における乗員の各部位の大きさとに基づいて、乗員の各部位の実際の大きさを示す骨格サイズを推定する。具体的には、骨格推定部6は、部位推定部5が推定した画像における乗員の各部位の大きさを、乗員の各部位の実際の大きさを示す骨格サイズに変換する。なお、骨格推定部6は、乗員が複数である場合、各乗員の各部位の骨格サイズを推定する。
ここで、骨格推定部6が、部位推定部5が推定した画像における乗員の肩幅を実際の肩幅に変換する場合について、図8,9を参照して説明する。
図9において、nは、画像における肩幅の大きさを示しており、図8に示すnに対応する。dは、実際の肩幅を示している。Mは、画像の横幅を示しており、カメラ8の画角θによって決まる。xは、カメラ8と乗員の頭との距離を示しており、頭位置推定部4が推定したカメラ8に対する乗員の頭の相対的な位置に対応する。骨格推定部6は、下記の式(1)に従って、実際の肩幅dである骨格サイズを算出する。
Figure 0007134364000001
上記の式(1)に示すように、骨格推定部6は、頭位置推定部4が推定したカメラ8に対する乗員の頭の相対的な位置を用いて骨格サイズを算出している。従って、乗員が着座している座席位置が変化した場合であっても、骨格推定部6は乗員の各部位の骨格サイズを正確に算出することができる。
なお、上記では、乗員の肩幅を変換する場合について説明したが、乗員の他の部位についても同様に変換することができる。例えば、骨格推定部6は、乗員の座高、肩幅、顔の大きさ、および腕の長さのうちの少なくとも2つの骨格サイズを推定する。
画像における乗員の各部位の大きさを、乗員の各部位の実際の大きさを示す骨格サイズに変換することができるのは、カメラ8に対する乗員の頭の相対的な位置に乗員の全ての部位が存在していると仮定しているからである。肩、背骨、および顔が、カメラ8に対する乗員の頭の相対的な位置とほぼ同じ位置に存在することは想定できるが、腕は肩を中心として大きく動かすことができるためこの限りではない。腕について、部位推定部5は、画像の経時的な変化で腕の大きさが最大となったとき、当該最大となった腕の大きさを乗員の腕の大きさと推定してもよい。この場合、骨格推定部6は、部位推定部5が推定した画像における腕の大きさを、実際の腕の大きさに変換する。
体格判定部7は、骨格推定部6が推定した乗員の各部位の骨格サイズに基づいて、乗員の体格を判定する。具体的には、体格判定部7は、乗員の体格を判定するための機械学習を行った学習済みの学習器(図示せず)に、骨格推定部6が推定した乗員の座高、肩幅、顔の大きさ、および腕の長さのうちの少なくとも2つの骨格サイズを入力し、学習済みの学習器の演算処理を実行することで、乗員の体格の判定結果を学習器から取得する。なお、乗員が複数の場合、体格判定部7は、各乗員の体格を判定する。
学習器は、複数の人物の各部位の骨格サイズの統計データによって構築された混合ガウス分布モデルを有している。例えば、図10に示すような乗員の座高および肩幅の各骨格サイズを学習器に入力した場合、学習器は、座高および肩幅の各骨格サイズの統計データによって構築された混合ガウス分布モデルに座高および肩幅の各骨格サイズをプロットし、予め定められた複数の体格のクラスのそれぞれに対する尤度を算出する。そして、学習器は、尤度が最も大きいクラスが、乗員の体格のクラスであると判定する。体格判定部7は、乗員の体格の判定結果を学習器から取得し、乗員の体格を、当該乗員の体格に応じたクラスに分類する。
体格のクラスは、例えば、エアバッグ制御または座席位置の制御で用いられる分類に基づいて決定される。分類されるクラスが2つの場合、乗員の体格は例えば「大」または「小」に分類される。また、分類されるクラスが3つの場合、乗員の体格は例えば「大」、「中」、または「小」のいずれかに分類される。学習器は、クラスの数に応じた混合ガウス分布を有している。図11の例では、図10に示す乗員の座高および肩幅の各骨格サイズから、乗員の体格が「小」に分類されることを示している。このように、乗員の骨格サイズと乗員の体格とは相関関係を有している。
なお、上記では、2つの骨格サイズから乗員の体格を判定する場合について説明したが、これに限るものではなく、3つ以上の骨格サイズから乗員の体格を判定してもよい。この場合、混合ガウス分布モデルは、3つ以上の骨格サイズの統計データによって構築される。
判定結果出力部10は、体格判定部7が判定した乗員の体格をエアバッグ制御装置11に出力する。具体的には、判定結果出力部10は、乗員の体格のクラスをエアバッグ制御装置11に出力する。
エアバッグ制御装置11は、乗員の体格のクラスに応じて、エアバッグの展開を制御する。例えば、乗員の体格のクラスが「大」、「中」、および「小」の3つに分類されている場合を想定する。エアバッグ制御装置11は、「中」を基準とすると、「大」は「中」よりもエアバッグを展開する勢いが強くかつ大きく展開し、「小」は「中」よりもエアバッグを展開する勢いが弱くかつ小さく展開する。
なお、上記では、エアバッグ制御装置11に乗員の体格のクラスを出力する場合について説明したが、これに限るものではない。以下では、乗員の体格のクラスの出力例について説明する。
例えば、判定結果出力部10は、座席位置を自動的に調整する座席位置調整装置に乗員の体格のクラスを出力してもよい。この場合、座席位置調整装置は、乗員の体格のクラスに応じて座席の位置を自動的に調整する。なお、乗員が複数の場合、座席位置調整装置は、各乗員が着座している座席ごとに各乗員の体格のクラスに応じて位置を自動的に調整する。
判定結果出力部10は、サイドミラーの位置を自動的に調整するサイドミラー位置調整装置に乗員の体格クラスを出力してもよい。この場合、サイドミラー位置調整装置は、乗員の体格に応じてサイドミラーの位置を自動的に調整する。
判定結果出力部10は、ハンドルの位置を自動的に調整するハンドル位置調整装置に乗員の体格クラスを出力してもよい。この場合、ハンドル位置調整装置は、乗員の体格に応じてハンドルの位置を自動的に調整する。
判定結果出力部10は、車内に子どもを置き去りにしているか否かを検出する置き去り検出装置に乗員の体格クラスを出力してもよい。この場合、置き去り検出装置は、乗員の体格から子どもであるか否かを判定し、車両内に子どものみが一定時間存在するときに置き去りが発生したと判断してもよい。
<動作>
図12は、図1に示す体格判定装置1の動作の一例を示すフローチャートである。
ステップS11において、画像取得部2は、カメラ8が撮影した車両内の乗員の画像を取得する。ステップS12において、顔特徴点推定部3は、画像取得部2が取得した画像に基づいて、乗員の顔の特徴点を推定する。
ステップS13において、頭位置推定部4は、顔特徴点推定部3が推定した顔の特徴点に基づいて、カメラ8に対する乗員の頭の相対的な位置を推定する。ステップS14において、部位推定部5は、画像取得部2が取得した画像に基づいて、画像における乗員の複数の部位の大きさを推定する。
ステップS15において、骨格推定部6は、頭位置推定部4が推定した乗員の頭の相対的な位置と、部位推定部5が推定した各部位の大きさとに基づいて、乗員の各部位の実際の大きさを示す骨格サイズを推定する。ステップS16において、体格判定部7は、骨格推定部6が推定した乗員の各部位の骨格サイズに基づいて、乗員の体格を判定する。
図13は、図2に示す体格判定装置9の動作の一例を示すフローチャートである。なお、図13のステップS21~ステップS26は、図12のステップS11~ステップS16に対応するため、ここでは説明を省略する。以下では、ステップS27について説明する。
ステップS27において、判定結果出力部10は、体格判定部7が判定した乗員の体格を出力する。図2の例では、判定結果出力部10は、体格判定部7が判定した乗員の体格のクラスをエアバッグ制御装置11に出力する。
<効果>
本実施の形態によれば、カメラ8に対する乗員の頭の相対的な位置と、画像における乗員の複数の部位の大きさとに基づいて、乗員の各部位の実際の大きさを示す骨格サイズを推定し、当該骨格サイズに基づいて乗員の体格を判定している。これにより、車両内に搭載した1台のカメラで車両内の全ての乗員の体格を判定することができるため、従来のように全ての座席にセンサを備えるシステムと比較して、車両内の乗員の体格を安価に判定することが可能となる。
また、頭位置推定部4は、体格差の影響が少ない乗員の両目の間隔または瞳孔の大きさに基づいてカメラ8に対する乗員の頭の相対的な位置を精度良く推定することができる。骨格推定部6は、精度良く推定された乗員の相対的な位置を用いて、乗員の各部位の骨格サイズを正確に算出することができる。体格判定部7は、乗員の各部位の正確な骨格サイズに基づいて乗員の正確な体格を判定することができる。すなわち、体格判定部7は、乗員が着座している座席位置が変化した場合であっても、乗員の正確な体格を判定することができる。このように、体格判定装置1,9は、車両内の座席に着座している乗員の体格を正確に判定することができる。
<ハードウェア構成>
上記で説明した体格判定装置1,9における画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10の各機能は、処理回路により実現される。すなわち、体格判定装置1,9は、カメラが撮影した車両内の乗員の画像を取得し、乗員の顔の特徴点を推定し、カメラに対する乗員の頭の相対的な位置を推定し、画像における乗員の複数の部位の大きさを推定し、乗員の各部位の実際の大きさを示す骨格サイズを推定し、乗員の体格を判定し、乗員の体格を出力するための処理回路を備える。処理回路は、専用のハードウェアであってもよく、メモリに格納されるプログラムを実行するプロセッサ(CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)ともいう)であってもよい。
処理回路が専用のハードウェアである場合、図14に示すように、処理回路12は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、またはこれらを組み合わせたものが該当する。画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10の各機能をそれぞれ処理回路12で実現してもよく、各機能をまとめて1つの処理回路12で実現してもよい。
処理回路12が図15に示すプロセッサ13である場合、画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10の各機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアまたはファームウェアは、プログラムとして記述され、メモリ14に格納される。プロセッサ13は、メモリ14に記録されたプログラムを読み出して実行することにより、各機能を実現する。すなわち、体格判定装置1,9は、カメラが撮影した車両内の乗員の画像を取得するステップ、乗員の顔の特徴点を推定するステップ、カメラに対する乗員の頭の相対的な位置を推定するステップ、画像における乗員の複数の部位の大きさを推定するステップ、乗員の各部位の実際の大きさを示す骨格サイズを推定するステップ、乗員の体格を判定するステップ、乗員の体格を出力するステップが結果的に実行されることになるプログラムを格納するためのメモリ14を備える。また、これらのプログラムは、画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10の手順または方法をコンピュータに実行させるものであるともいえる。ここで、メモリとは、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、DVD(Digital Versatile Disc)等、または、今後使用されるあらゆる記憶媒体であってもよい。
なお、画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10の各機能について、一部の機能を専用のハードウェアで実現し、他の機能をソフトウェアまたはファームウェアで実現するようにしてもよい。
このように、処理回路は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの組み合わせによって、上述の各機能を実現することができる。
<システム構成>
以上で説明した体格判定装置は、車載用ナビゲーション装置、すなわちカーナビゲーション装置だけでなく、車両に搭載可能なPND(Portable Navigation Device)、および車両の外部に設けられたサーバなどを適宜に組み合わせてシステムとして構築されるナビゲーション装置あるいはナビゲーション装置以外の装置にも適用することができる。この場合、体格判定装置の各機能あるいは各構成要素は、上記システムを構築する各機能に分散して配置される。
具体的には、一例として、体格判定装置の機能をサーバに配置することができる。例えば、図16に示すように、車両には、カメラ8およびエアバッグ制御装置11を備える。また、サーバ15は、画像取得部2、顔特徴点推定部3、頭位置推定部4、部位推定部5、骨格推定部6、体格判定部7、および判定結果出力部10を備える。このような構成とすることによって、体格判定システムを構築することができる。
このように、体格判定装置の各機能を、システムを構築する各機能に分散して配置した構成であっても、上記の実施の形態と同様の効果が得られる。
また、上記の実施の形態における動作を実行するソフトウェアを、例えばサーバに組み込んでもよい。このソフトウェアをサーバが実行することにより実現される体格判定方法は、カメラが撮影した車両内の乗員の画像を取得し、取得した画像に基づいて、乗員の顔の特徴点を推定し、推定した顔の特徴点に基づいて、カメラに対する乗員の頭の相対的な位置を推定し、取得した画像に基づいて、画像における乗員の複数の部位の大きさを推定し、推定した乗員の頭の相対的な位置と、推定した各部位の大きさとに基づいて、乗員の各部位の実際の大きさを示す骨格サイズを推定し、推定した乗員の各部位の骨格サイズに基づいて、乗員の体格を判定することである。
このように、上記の実施の形態における動作を実行するソフトウェアをサーバに組み込んで動作させることによって、上記の実施の形態と同様の効果が得られる。
なお、本発明は、その発明の範囲内において、実施の形態を適宜、変形、省略することが可能である。
本発明は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。
1 体格判定装置、2 画像取得部、3 顔特徴点推定部、4 頭位置推定部、5 部位推定部、6 骨格推定部、7 体格判定部、8 カメラ、9 体格判定装置、10 判定結果出力部、11 エアバッグ制御装置、12 処理回路、13 プロセッサ、14 メモリ、15 サーバ。

Claims (9)

  1. カメラが撮影した車両内の乗員の画像を取得する画像取得部と、
    前記画像取得部が取得した前記画像に基づいて、前記乗員の顔の特徴点を推定する顔特徴点推定部と、
    前記顔特徴点推定部が推定した前記顔の特徴点に基づいて、前記カメラと前記乗員の頭との距離を推定する頭位置推定部と、
    前記画像取得部が取得した前記画像に基づいて、前記画像における前記乗員の部位の大きさを推定する部位推定部と、
    前記頭位置推定部が推定した前記距離と、前記部位推定部が推定した前記部位の大きさとに基づいて、前記画像における前記乗員の部位の大きさを変換した、骨格サイズを推定する骨格推定部と、
    前記骨格推定部が推定した前記乗員の前記骨格サイズに基づいて、前記乗員の体格を判定する体格判定部と、
    を備える、体格判定装置。
  2. 前記頭位置推定部は、前記乗員の両目の間隔に基づいて、前記距離を推定することを特徴とする、請求項1に記載の体格判定装置。
  3. 前記骨格推定部は、前記乗員の座高、肩幅、顔の大きさ、および腕の長さのうちの少なくとも2つの前記骨格サイズを推定することを特徴とする、請求項1に記載の体格判定装置。
  4. 前記骨格推定部は、前記部位推定部により推定された、経時的な変化で最大となった腕の大きさを用いて、前記骨格サイズを推定することを特徴とする、請求項3に記載の体格判定装置。
  5. 前記体格判定部は、前記乗員の体格を判定するための機械学習を行った学習済みの学習器に前記乗員の座高、肩幅、顔の大きさ、および腕の長さのうちの少なくとも2つの前記骨格サイズを入力し、前記学習器の演算処理を実行することで、前記乗員の体格の判定結果を前記学習器から取得することを特徴とする、請求項3または4に記載の体格判定装置。
  6. 前記体格判定部は、前記乗員の体格を、予め定められた複数の体格のクラスのうち前記乗員の体格に応じたクラスに分類することを特徴とする、請求項1に記載の体格判定装置。
  7. 前記体格判定部が判定した前記乗員の体格を出力する判定結果出力部をさらに備えることを特徴とする、請求項1に記載の体格判定装置。
  8. 前記判定結果出力部は、前記乗員の体格から前記乗員が子どもであるか否かを判定し、前記車両内に子どものみが存在する場合に、置き去りが発生したと判断する置き去り検出装置に、前記体格判定部が判定した前記乗員の体格を出力することを特徴とする、請求項7に記載の体格判定装置。
  9. カメラが撮影した車両内の乗員の画像を取得し、
    取得した前記画像に基づいて、前記乗員の顔の特徴点を推定し、
    推定した前記顔の特徴点に基づいて、前記カメラと前記乗員の頭との距離を推定し、
    取得した前記画像に基づいて、前記画像における前記乗員の部位の大きさを推定し、
    推定した前記距離と、推定した前記部位の大きさとに基づいて、前記画像における前記乗員の部位の大きさを変換した、骨格サイズを推定し、
    推定した前記乗員の前記骨格サイズに基づいて、前記乗員の体格を判定する、体格判定方法。
JP2021543879A 2019-09-05 2019-09-05 体格判定装置および体格判定方法 Active JP7134364B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/034913 WO2021044566A1 (ja) 2019-09-05 2019-09-05 体格判定装置および体格判定方法

Publications (2)

Publication Number Publication Date
JPWO2021044566A1 JPWO2021044566A1 (ja) 2021-03-11
JP7134364B2 true JP7134364B2 (ja) 2022-09-09

Family

ID=74852720

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021543879A Active JP7134364B2 (ja) 2019-09-05 2019-09-05 体格判定装置および体格判定方法

Country Status (3)

Country Link
US (1) US11983952B2 (ja)
JP (1) JP7134364B2 (ja)
WO (1) WO2021044566A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022219778A1 (ja) * 2021-04-15 2022-10-20 三菱電機株式会社 体格判定装置及び体格判定方法
DE112021007942T5 (de) * 2021-07-09 2024-06-20 Mitsubishi Electric Corporation Körperbau-Schätzvorrichtung und Körperbau-Schätzverfahren
JP7675949B2 (ja) * 2022-11-14 2025-05-13 三菱電機株式会社 乗員体格検知装置及び乗員体格検知方法
KR20240107515A (ko) * 2022-12-30 2024-07-09 현대자동차주식회사 사용자 인터페이스 장치 및 방법, 이를 포함하는 차량

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006205844A (ja) 2005-01-27 2006-08-10 Aisin Seiki Co Ltd 乗員の頭部位置判定装置、及び該判定装置を備えた乗員保護装置
JP2007198929A (ja) 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム,車両内状態検知装置および方法
JP2017004339A (ja) 2015-06-12 2017-01-05 株式会社デンソー 車両用運転者支援装置
JP2017503276A (ja) 2014-01-02 2017-01-26 イリテック インコーポレイテッド 顔構成要素距離を用いた虹彩認識用イメージの取得装置及び方法
JP2018512334A (ja) 2015-04-10 2018-05-17 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 車内カメラによる乗員の寸法及び姿勢の検出
JP2018083561A (ja) 2016-11-25 2018-05-31 アイシン精機株式会社 乗員情報検出装置およびプログラム
WO2019142852A1 (ja) 2018-01-18 2019-07-25 株式会社デンソー 車両の乗員を検知するためのシステム、および車両の室内の照明を制御するためのシステム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11129860A (ja) 1997-10-30 1999-05-18 Tokai Rika Co Ltd エアバッグ制御装置
JP3919976B2 (ja) 1999-07-12 2007-05-30 株式会社デンソー 車両用シートの着座乗員判定装置
US8087791B2 (en) * 2009-04-15 2012-01-03 Toyota Motor Engineering And Manufacturing North America, Inc. Methods and systems for adjusting the position of vehicle outside mirrors
DE102013010932B4 (de) * 2013-06-29 2015-02-12 Audi Ag Verfahren zum Betreiben einer Bedienschnittstelle, Bedienschnittstelle sowie Kraftfahrzeug mit einer Bedienschnittstelle
KR20180051977A (ko) * 2016-11-09 2018-05-17 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량
JP6801593B2 (ja) * 2017-06-14 2020-12-16 株式会社デンソー 車両の操舵支援装置および操舵支援制御方法
US10339401B2 (en) * 2017-11-11 2019-07-02 Bendix Commercial Vehicle Systems Llc System and methods of monitoring driver behavior for vehicular fleet management in a fleet of vehicles using driver-facing imaging device
US10322728B1 (en) * 2018-02-22 2019-06-18 Futurewei Technologies, Inc. Method for distress and road rage detection
CN111742191B (zh) * 2018-02-26 2022-01-14 三菱电机株式会社 三维位置推定装置及三维位置推定方法
JP7161318B2 (ja) * 2018-06-20 2022-10-26 矢崎総業株式会社 乗車人数監視システム
DE112019007569T5 (de) 2019-09-05 2022-04-28 Mitsubishi Electric Corporation Bediener-Beurteilungsvorrichtung und Bediener-Beurteilungsverfahren

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006205844A (ja) 2005-01-27 2006-08-10 Aisin Seiki Co Ltd 乗員の頭部位置判定装置、及び該判定装置を備えた乗員保護装置
JP2007198929A (ja) 2006-01-27 2007-08-09 Hitachi Ltd 車両内状態検知システム,車両内状態検知装置および方法
JP2017503276A (ja) 2014-01-02 2017-01-26 イリテック インコーポレイテッド 顔構成要素距離を用いた虹彩認識用イメージの取得装置及び方法
JP2018512334A (ja) 2015-04-10 2018-05-17 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 車内カメラによる乗員の寸法及び姿勢の検出
JP2017004339A (ja) 2015-06-12 2017-01-05 株式会社デンソー 車両用運転者支援装置
JP2018083561A (ja) 2016-11-25 2018-05-31 アイシン精機株式会社 乗員情報検出装置およびプログラム
WO2019142852A1 (ja) 2018-01-18 2019-07-25 株式会社デンソー 車両の乗員を検知するためのシステム、および車両の室内の照明を制御するためのシステム

Also Published As

Publication number Publication date
US20220319199A1 (en) 2022-10-06
US11983952B2 (en) 2024-05-14
WO2021044566A1 (ja) 2021-03-11
JPWO2021044566A1 (ja) 2021-03-11

Similar Documents

Publication Publication Date Title
JP7134364B2 (ja) 体格判定装置および体格判定方法
US9822576B2 (en) Method for operating an activatable locking device for a door and/or a window, securing device for a vehicle, vehicle
JP6739672B2 (ja) 体格推定装置および体格推定方法
US7978881B2 (en) Occupant information detection system
US9405982B2 (en) Driver gaze detection system
JP5262570B2 (ja) 車両デバイス制御装置
US20070289799A1 (en) Vehicle occupant detecting system
CN109760689A (zh) 驾驶员监视系统
CN107021059A (zh) 用于织带伸出的系统和方法
JP7374373B2 (ja) 体格判定装置および体格判定方法
US10417511B2 (en) Image processor, detection apparatus, learning apparatus, image processing method, and computer program storage medium
JP2019189101A (ja) 乗員情報判定装置
JP7267467B2 (ja) 注意方向判定装置および注意方向判定方法
CN110192224A (zh) 驾驶员状态推断装置以及驾驶员状态推断方法
CN107791985B (zh) 乘员分类以及提供在机动车中安全装置的乘员分类的方法
JP6982767B2 (ja) 検知装置、学習装置、検知方法、学習方法、およびプログラム
JP2008062805A (ja) 車輌用後視鏡装置
JP7558426B2 (ja) 体格判定装置および体格判定方法
US20220172493A1 (en) Information processing apparatus, and recording medium
JP7683546B2 (ja) シートポジション推定装置、シートポジション推定方法及びシートポジション推定用コンピュータプログラム
KR20230162838A (ko) 승객을 보호하기 위한 차량 및 그의 동작 방법
CN117121061B (en) Computer-implemented method for generating attention areas
JP2022018231A (ja) 映像処理装置および映像処理方法
CN118061879A (zh) 座椅头枕调节方法、电子设备、座椅及存储介质
KR20210074037A (ko) 차량 탑승자 정보 획득 방법 및 이를 지원하는 시스템

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210930

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220830

R150 Certificate of patent or registration of utility model

Ref document number: 7134364

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250