Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7727273B2 - 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム - Google Patents
[go: Go Back, main page]

JP7727273B2 - 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム - Google Patents

姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム

Info

Publication number
JP7727273B2
JP7727273B2 JP2024511331A JP2024511331A JP7727273B2 JP 7727273 B2 JP7727273 B2 JP 7727273B2 JP 2024511331 A JP2024511331 A JP 2024511331A JP 2024511331 A JP2024511331 A JP 2024511331A JP 7727273 B2 JP7727273 B2 JP 7727273B2
Authority
JP
Japan
Prior art keywords
spine
image
posture
unit
edge point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2024511331A
Other languages
English (en)
Other versions
JPWO2023188796A1 (ja
JPWO2023188796A5 (ja
Inventor
修平 野寄
洵 安川
康介 西原
勇気 小阪
昭元 二村
浩二 藤田
拓哉 井原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Tokyo Institute of Technology NUC
Institute of Science Tokyo
Original Assignee
NEC Corp
Tokyo Institute of Technology NUC
Institute of Science Tokyo
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Tokyo Institute of Technology NUC, Institute of Science Tokyo filed Critical NEC Corp
Publication of JPWO2023188796A1 publication Critical patent/JPWO2023188796A1/ja
Publication of JPWO2023188796A5 publication Critical patent/JPWO2023188796A5/ja
Application granted granted Critical
Publication of JP7727273B2 publication Critical patent/JP7727273B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Measuring devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/45For evaluating or diagnosing the musculoskeletal system or teeth
    • A61B5/4538Evaluating a particular part of the muscoloskeletal system or a particular medical condition
    • A61B5/4561Evaluating static posture, e.g. undesirable back curvature
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient; User input means
    • A61B5/742Details of notification to user or communication with user or patient; User input means using visual displays
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone
    • G06T2207/30012Spine; Backbone

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Rheumatology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)

Description

本開示は、姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラムに関する。
近年、オンライントレーニング、セルフトレーニングの普及により、専門知識を有さない一般の人々が自身の姿勢を評価するニーズが高まっている。
特許文献1には、ユーザが所持する端末によって身体を撮像して取得した動画データから特徴量を抽出し、身体の各部位の位置を特定し、当該各部位を結んだボーンの動きを動画に重ねて表示する、運動評価システムが記載されている。
特開2020-141806号公報
しかしながら、特許文献1に記載の運動評価システムでは、体幹を直線又は矩形により表現しているため、脊柱形状そのものに基づいて姿勢を評価することができない。そのため、特許文献1における姿勢評価の精度は、セラピストやトレーナー等の専門家による姿勢評価の精度に比べて十分ではないという問題がある。脊柱形状を計測する手法としては、デプスカメラを用いる手法、加速度センサを用いる手法、脊柱に沿って測定子を走査する手法等が挙げられるが、何れも高価な専門機器を必要とする。そのため、これらの手法は、一般の人々が自身の姿勢を評価する場合には不向きである。
本開示の目的は、比較的安価に高い精度で姿勢を評価することができる姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラムを提供することである。
本開示に係る姿勢評価装置は、対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、を備える。
本開示に係る姿勢評価システムは、姿勢評価装置と、前記姿勢評価装置と通信可能な対象者端末とを備え、前記姿勢評価装置は、前記対象者端末によって取得された対象者の身体の側面の画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、を備える。
本開示に係る姿勢評価方法は、姿勢評価装置が、対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出し、前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出し、前記特徴量に基づいて、少なくとも脊柱の状態を推定する方法である。
本開示に係るプログラムは、姿勢評価装置に、対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する処理と、前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する処理と、前記特徴量に基づいて、少なくとも脊柱の状態を推定する処理と、を実行させるプログラムである。
比較的安価に高い精度で姿勢を評価することができる姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラムを提供することができる。
実施の形態1に係る姿勢評価装置の構成を示すブロック図である。 実施の形態2に係る姿勢評価装置の構成を示すブロック図である。 実施の形態2に係る撮像部が撮像した画像の一例を示す図である。 実施の形態2に係るキーポイントの一例を示す図である。 実施の形態2に係る脊柱エッジ点群の一例を示す図である。 実施の形態2に係る脊柱抽出部の処理を説明する図である。 実施の形態2に係る特徴量算出部の処理を説明する図である。 実施の形態2に係る特徴量算出部の処理を説明する図である。 実施の形態2に係る状態推定部の処理を説明する図である。 実施の形態2に係る表示部に表示される画像の一例を示す図である。 実施の形態2に係る表示部に表示される画像の他の一例を示す図である。 実施の形態2に係る基準値リストのデータ構造を示す図である。 実施の形態2に係る姿勢評価方法を示すフローチャートである。 実施の形態3に係る姿勢評価装置の構成を示すブロック図である。 実施の形態3に係る姿勢評価装置において表示部に表示される画像の他の一例を示す図である。 実施の形態4に係る姿勢評価システムを示す図である。
実施の形態1
本実施の形態1について、図1を用いて説明する。図1は、本実施の形態1に係る姿勢評価装置100の構成を示すブロック図である。
本実施の形態1における姿勢評価装置100は、スマートフォン等のカメラによって身体の側面を撮像して得られた画像に基づいて姿勢を評価する装置である。具体的には、姿勢評価装置100は、当該画像における脊柱の形状である脊柱形状を推定し、当該脊柱形状に基づいて姿勢を評価する。これにより、オンライントレーニングやセルフトレーニング等の場面において、比較的安価に、より精度高く、姿勢を評価することができる。
姿勢評価装置100は、図1に示すように、脊柱抽出部103、特徴量算出部105、状態推定部106を備える。
脊柱抽出部103は、対象者の身体の側面を撮像して得られた画像と、画像上の身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する。なお、対象者とは、姿勢評価装置100によって姿勢の評価を受ける者を意味する。
ここで、対象者の身体の側面を撮像して得られた画像とは、2次元画像であり、2次元RGB画像であってもよい。
また、脊柱エッジ点群とは、画像上において脊柱を表示する複数の点からなる点群である。また、脊柱エッジ点群を構成する各点は、1画素であってもよいし、縦N画素×横M画素からなる画像領域であってもよい。なお、N及びMは正の整数であり、NとMは等しくても異なっていてもよい。
また、画像上の頸椎の位置情報は、例えば、頸椎を構成する7個の椎骨の何れかの位置情報であり、例えば、隆椎(C7)の位置情報である。また、画像上の膝関節の位置情報は、大腿骨の下端、膝蓋骨、脛骨の上端、腓骨の上端、及び膝関節裂隙の何れかの位置情報であり、例えば、大腿骨の下端の位置情報である。具体的には、隆椎の位置情報は、例えば、画像上において隆椎に相当する画像領域の中心に位置する画素の位置情報である。同様に、大腿骨の下端の位置情報は、例えば、画像上において大腿骨の下端に相当する画像領域の中心に位置する画素の位置情報である。
また、画像上の位置情報とは、例えば、画像座標である。ここで、画像座標とは、2次元画像上の画素の位置を示すための座標であり、例えば、2次元画像の最も左側且つ最も上側に位置する画素の中心を原点とし、左右方向又は水平方向をx方向、上下方向又は垂直方向をy方向と定義される座標である。
特徴量算出部105は、画像上の少なくとも頸椎、股関節、膝関節の位置情報と、脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する。
状態推定部106は、特徴量算出部105によって算出された特徴量に基づいて、少なくとも脊柱の状態を推定する。
本実施の形態1によれば、比較的安価に高い精度で姿勢を評価することができる姿勢評価装置100を提供することができる。具体的には、脊柱抽出部103によって画像上の脊柱形状を表す脊柱エッジ点群が抽出され、特徴量算出部105によって、画像上の頸椎、股関節、膝関節の位置情報と脊柱エッジ点群とに基づいて脊柱に関する特徴量が算出される。そして、状態推定部106によって、当該特徴量に基づいて脊柱の状態が推定される。換言すれば、画像上の脊柱形状に基づいて姿勢を評価することができるため、高い精度で姿勢を評価することができる。さらに、高価な専門機器を用いずとも脊柱形状に基づいて姿勢評価を行うことができるため、比較的安価に姿勢を評価することができる。よって、比較的安価に高い精度で姿勢を評価することができる姿勢評価装置100を提供することができる。
また、脊柱形状を計測する手法としては、デプスカメラを用いる手法、加速度センサを用いる手法、脊柱に沿って測定子を走査する手法等が挙げられる。これらの手法では、脊柱を構成する複数の椎体のそれぞれの位置や傾きを正確に推定することを目的としている。しかしながら、セラピストやトレーナー等の専門家は、脊柱全体の曲がり方のバランスを評価しており、個々の椎体の位置や傾きを評価しているわけではない。そのため、一般の人々が自身の姿勢を専門家レベルで評価する目的において、これらの手法と同等の精度を目指す必要もない。一方、本実施の形態1に係る姿勢評価装置100では、画像上の脊柱形状を表す脊柱エッジ点群に基づいて、セラピストやトレーナー等の専門家と同程度に高い精度で姿勢を評価することができる。
また、特許文献1に記載の運動評価システムのように、体幹を直線又は矩形により表現して、股関節と脊柱とを一体として評価する場合、股関節単体の状態を評価することができないという問題がある。一方、本実施の形態1に係る姿勢評価装置100では、画像上の脊柱形状を脊柱エッジ点群として表現しているため、股関節単体の状態を評価することが可能となる。
実施の形態2
本実施の形態2について、図2を用いて説明する。図2は、本実施の形態2に係る姿勢評価装置100Aの構成を示すブロック図である。姿勢評価装置100Aは、例えば、ユーザが所持するスマートフォン、タブレット端末、パーソナルコンピュータ等のユーザ端末である。なお、ユーザとは、姿勢評価装置100Aによって姿勢の評価を受ける対象者、及び姿勢評価装置100Aを用いて他者の姿勢を評価する評価者の双方を含む。また、セルフトレーニング等において対象者が姿勢評価装置100Aを用いて自身の姿勢を評価する場合、対象者は評価者でもある。また、評価者が姿勢評価装置100Aを用いて他者の姿勢を評価する場合、評価者は、例えば、セラピストやトレーナーである。
本実施の形態2の姿勢評価装置100Aは、図2に示すように、撮像部101、骨格抽出部102、脊柱抽出部103、姿勢判断部104、特徴量算出部105、状態推定部106、画像生成部107、表示部108、入力部109、記憶部110、通信部111を備える。入力部109と表示部108は、タッチパネル付ディスプレイとして一つの構成としてもよいし、それぞれ別個に設けてもよい。また、記憶部110は、基準値リスト112、骨格データベース(図2において、「骨格DB」と示す。)113、骨格抽出モデル114等を記憶している。
撮像部101は、対象者の身体の側面を撮像して画像を取得する。撮像部101が対象者の身体の側面を撮像した画像の一例を図3に示す。図3に示す画像には、前屈する対象者に相当する人物Oの側面が映っている。ここで、撮像部101が撮像する画像は、2次元画像であり、2次元RGB画像であってもよい。撮像部101は、撮像した画像を、骨格抽出部102及び脊柱抽出部103に入力する。
また、撮像部101は、対象者の身体の側面を動画撮影して画像を取得してもよい。この場合、ユーザが入力部109を操作することにより、姿勢評価を行う時点を指定してもよい。そして、ユーザによって指定された時点の画像が骨格抽出部102及び脊柱抽出部103に入力されてもよい。
骨格抽出部102は、撮像部101が撮像した画像から、少なくとも頸椎、股関節、膝関節の位置情報(以下、「キーポイントの位置情報」とも称する。)を抽出する。図3に示す画像から骨格抽出部102が抽出したキーポイントP1,P2,P3の一例を図4に示す。図4において、P1は隆椎のキーポイント(以下、「隆椎キーポイント」と称する。)であり、P2は股関節のキーポイント(以下、「股関節キーポイント」と称する。)であり、P3は大腿骨の下端のキーポイント(以下、「膝関節キーポイント」と称する。)である。なお、位置情報の詳細については、実施の形態1に記載された通りであるため、その説明を省略する。
具体的には、骨格抽出部102は、学習済みの骨格抽出モデル114を用いて、撮像部101が撮像した画像からキーポイントの位置情報を抽出する。なお、姿勢評価装置100Aは、予め、機械学習モデルである骨格抽出モデル114と、教師データである骨格データベース113とを用いて、機械学習を行い、学習済みの骨格抽出モデル114を生成する。
骨格抽出部102は、抽出したキーポイントの位置情報を脊柱抽出部103に入力する。
なお、キーポイントの位置情報は、撮像部101によって撮像された2次元画像の左右方向又は水平方向であるx方向、上下方向又は垂直方向であるy方向、に加えて、奥行方向であるz方向で定義される3次元座標で表される情報であってもよい。これは、2次元画像から3次元座標で表されるキーポイントの位置情報を抽出する骨格抽出モデル114を用いることにより可能となる。
また、骨格抽出部102がキーポイントを抽出する身体の箇所は、上述の頸椎、股関節、膝関節に限定されるものではなく、例えば、足首の関節、肩の関節、肘の関節、手首の関節のキーポイントを抽出してもよい。さらに、骨格抽出部102は、関節の他に、目、耳、頭の中心等をキーポイントとして抽出してもよい。
また、キーポイントは、表示部108に撮像部101が撮像した画像が表示され、ユーザが入力部109を操作することにより、指定されてもよい。そして、ユーザによって指定されたキーポイントの位置情報が脊柱抽出部103に入力されてもよい。
脊柱抽出部103は、撮像部101から入力された画像と、骨格抽出部102から入力されたキーポイントの位置情報とに基づいて、画像上の脊柱を脊柱エッジ点群として抽出する。図3に示す画像から脊柱抽出部103が抽出した脊柱エッジ点群Pの一例を図5に示す。なお、脊柱エッジ点群の詳細については、実施の形態1に記載された通りであるため、その説明を省略する。
以下、図6を参照しながら、脊柱抽出部103の処理について、詳細に説明する。まず、脊柱抽出部103は、隆椎キーポイントP1と股関節キーポイントP2とを結ぶ線分ltrunkの長さと、股関節キーポイントP2と膝関節キーポイントP3とを結ぶ線分lthighの長さとを算出し、撮像部101から入力された画像のサイズを正規化する。この際、隆椎キーポイントP1、股関節キーポイントP2、膝関節キーポイントP3、線分ltrunkの長さ、及び線分lthighの長さも正規化された値に変換される。
次に、脊柱抽出部103は、線分ltrunkと線分lthighとに基づいて、当該画像に映る人物Oの背中のラインを特定し、脊柱エッジ点群Pの候補となる候補エッジ点群を抽出する。具体的には、脊柱抽出部103は、線分ltrunkと線分lthighとに基づいて、当該画像に映る人物Oの背中を少なくとも含むバウンディングボックスを指定する。次いで、脊柱抽出部103は、当該バウンディングボックス内の画像データに対してエッジ抽出処理を行い、候補エッジ点群を抽出する。
次に、脊柱抽出部103は、線分ltrunkと線分lthighとのなす角の外角θを算出する。次いで、脊柱抽出部103は、当該外角θに基づいて、脊柱の頭側を規定する線分lと線分ltrunkとの角度θ、及び脊柱の尾側を規定する線分lと線分ltrunkとの角度θとを決定する。具体的には、予め、外角θと角度θと角度θとを対応付けた角度テーブル(不図示)が記憶部110に記憶されており、脊柱抽出部103は、当該角度テーブルを参照することにより、外角θに基づいて、角度θと角度θとを決定する。また、記憶部110に、予め、当該角度テーブルを教師データとして機械学習済みの角度決定モデル(不図示)が格納されており、脊柱抽出部103は、当該角度決定モデルを用いて、外角θに基づいて、角度θと角度θとを決定してもよい。
次に、脊柱抽出部103は、線分lと候補エッジ点群との交点を脊柱エッジ点群Pの頭側の端点と決定し、線分lと候補エッジ点群との交点を脊柱エッジ点群Pの尾側の端点と決定する。これにより、候補エッジ点群のうち、脊柱エッジ点群Pとなる範囲が決定される。換言すれば、脊柱エッジ点群Pが抽出される。
次に、脊柱抽出部103は、算出した外角θを姿勢判断部104に入力する。また、脊柱抽出部103は、正規化した隆椎キーポイントP1、股関節キーポイントP2、及び膝関節キーポイントP3と、抽出した脊柱エッジ点群Pとを特徴量算出部105に入力する。また、脊柱抽出部103は、正規化した画像と、正規化したキーポイントP1,P2,P3と、抽出した脊柱エッジ点群Pとを画像生成部107に入力する。
姿勢判断部104は、脊柱抽出部103から入力された外角θに基づいて、撮像部101が撮像した画像に映る人物Oの姿勢の種類を判断する。具体的には、予め、外角θと姿勢の種類とを対応付けた姿勢テーブル(不図示)が記憶部110に記憶されており、姿勢判断部104は、当該姿勢テーブルを参照することにより、外角θに基づいて、姿勢の種類を判断する。ここで、姿勢の種類には、例えば、前屈、立位、後屈等が挙げられる。姿勢判断部104は、判断した姿勢の種類を状態推定部106に入力する。
なお、姿勢の種類は、ユーザが入力部109を操作することによって指定されてもよい。そして、ユーザによって指定された姿勢の種類が状態推定部106に入力されてもよい。
特徴量算出部105は、脊柱抽出部103から入力されたキーポイントP1,P2,P3と脊柱エッジ点群Pとに基づいて、少なくとも脊柱に関する特徴量を算出する。具体的には、特徴量算出部105は、隆椎キーポイントP1、股関節キーポイントP2、膝関節キーポイントP3、及び脊柱エッジ点群Pに基づいて、脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等を特徴量として算出する。
具体的には、特徴量算出部105は、脊柱エッジ点群Pに、n次べき関数やスプライン関数をフィッティングすることによって、脊柱エッジ点群Pに含まれる全ての点に対して、脊柱の曲率である脊柱曲率を算出する。例えば、特徴量算出部105は、脊柱エッジ点群Pの全ての点において、それぞれ、3次関数を脊柱エッジ点群Pにフィッティングして、脊柱エッジ点群Pに含まれるそれぞれの点における脊柱曲率を算出する。
次に、図7を参照しながら、特徴量算出部105の脊柱彎曲角度の算出処理について、詳細に説明する。特徴量算出部105は、図7に示すように、脊柱エッジ点群Pの頭側の端点P4における脊柱エッジ点群Pに対する法線と、脊柱エッジ点群Pの尾側の端点P5における脊柱エッジ点群Pに対する法線とのなす角θを脊柱彎曲角度として算出する。
同様に、特徴量算出部105は、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度を算出する。具体的には、予め、脊柱における上位胸椎、下位胸椎、腰椎の位置は、それぞれ、脊柱の頭側から脊柱の0%~A%の位置、A%~B%の位置、B%~C%の位置と定められている。そして、特徴量算出部105は、上位胸椎の頭側の端点における脊柱エッジ点群Pに対する法線と、上位胸椎の尾側の端点における脊柱エッジ点群Pに対する法線とのなす角を上位胸椎彎曲角度として算出する。
同様に、特徴量算出部105は、下位胸椎の頭側の端点における脊柱エッジ点群Pに対する法線と、下位胸椎の尾側の端点における脊柱エッジ点群Pに対する法線とのなす角を下位胸椎彎曲角度として算出する。
また、特徴量算出部105は、腰椎の頭側の端点における脊柱エッジ点群Pに対する法線と、腰椎の尾側の端点における脊柱エッジ点群Pに対する法線とのなす角を腰椎彎曲角度として算出する。
次に、図8を参照しながら、特徴量算出部105の股関節角度の算出処理について、詳細に説明する。特徴量算出部105は、脊柱エッジ点群Pの尾側の端点P5における脊柱エッジ点群Pに対する接線lを求める。当該接線lは、仙骨後面の角度を表している。次いで、特徴量算出部105は、股関節キーポイントP2と膝関節キーポイントP3とを結ぶ線分lと、接線lとのなす角θを股関節角度として算出する。
そして、特徴量算出部105は、特徴量として算出した脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等を状態推定部106に入力する。
状態推定部106は、特徴量算出部105から入力された特徴量に基づいて、少なくとも脊柱の状態を推定する。具体的には、状態推定部106は、特徴量算出部105から入力された脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等に基づいて、上位胸椎、下位胸椎、腰椎、腰椎仙骨移行部(L5/S1)、股関節の状態を推定する。
そして、状態推定部106は、推定結果を画像生成部107に入力する。
例えば、状態推定部106は、特徴量算出部105から入力された脊柱曲率に基づいて、脊柱の各部分の曲がり具合を推定する。例えば、脊柱エッジ点群Pのある点における脊柱曲率の符号がプラスの場合、当該点における脊柱の曲がり具合は、撮像部101によって撮像された画像に映る人物Oの前側に凸であるとする。この場合、脊柱エッジ点群Pの当該点における脊柱曲率の符号がマイナスの場合、当該点における脊柱の曲がり具合は当該人物Oの後ろ側に凸である。そのため、状態推定部106は、脊柱曲率の符号に基づいて、脊柱の各部分の曲がり具合を推定する。換言すれば、状態推定部106は、脊柱曲率の符号がプラスの場合、当該点における脊柱の曲がり具合を当該人物Oの前側に凸であると推定する。また、状態推定部106は、脊柱曲率の符号がマイナスの場合、当該点における脊柱の曲がり具合を当該人物Oの後ろ側に凸であると推定する。
また、状態推定部106は、姿勢判断部104から入力された姿勢の種類と、特徴量算出部105から入力された特徴量とに基づいて、脊柱等の状態を推定する。具体的には、予め、姿勢の種類と、当該姿勢における特徴量の基準値とを対応付けた基準値リスト112が記憶部110に記憶されている。そして、状態推定部106は、姿勢判断部104から入力された姿勢の種類と、特徴量算出部105から入力された特徴量とに基づいて、基準値リスト112を参照することにより、脊柱等の状態を推定する。ここで、基準値とは、脊柱等の身体部位が正常である場合に特徴量が取り得る範囲の値である。
例えば、図9に示すように、状態推定部106は、姿勢の種類が前屈である場合の上位胸椎彎曲角度の基準値と、特徴量算出部105から入力された上位胸椎彎曲角度とを比較することにより、上位胸椎の状態を「過屈曲」と推定する。
同様に、状態推定部106は、姿勢の種類が前屈である場合の下位胸椎彎曲角度の基準値と、特徴量算出部105から入力された下位胸椎彎曲角度とを比較することにより、下位胸椎の状態を「屈曲不足」と推定する。
同様に、状態推定部106は、姿勢の種類が前屈である場合の腰椎彎曲角度の基準値と、特徴量算出部105から入力された腰椎彎曲角度とを比較することにより、腰椎の状態を「正常」と推定する。
同様に、状態推定部106は、姿勢の種類が前屈である場合の腰椎彎曲角度の基準値と、特徴量算出部105から入力された腰椎彎曲角度とを比較することにより、腰椎仙骨移行部(L5/S1)の状態を「正常」と推定する。
同様に、状態推定部106は、姿勢の種類が前屈である場合の股関節角度の基準値と、特徴量算出部105から入力された股関節角度とを比較することにより、股関節の状態を「屈曲不足」と推定する。
また、記憶部110に、予め、機械学習済みの状態推定モデル(不図示)が格納されており、状態推定部106は、当該状態推定モデルを用いて、少なくとも脊柱の状態を推定してもよい。具体的には、記憶部110に、予め、少なくとも脊柱に関する特徴量と、正解データとしての「過屈曲」、「正常」、又は「屈曲不足」等の状態ラベルとが対応付けられた教師データが記憶されていてもよい。そして、記憶部110に、予め、当該教師データを用いて機械学習済みの状態推定モデルが記憶されていてもよい。
画像生成部107は、脊柱抽出部103から入力された、正規化された画像、正規化されたキーポイントP1,P2,P3、及び抽出された脊柱エッジ点群Pと、状態推定部106から入力された推定結果とに基づいて、表示部108が表示する推定結果表示画像を生成する。
また、画像生成部107は、脊柱抽出部103から入力された、正規化された画像及び抽出された脊柱エッジ点群Pに基づいて、ユーザが脊柱エッジ点群Pを修正するための修正用画像を生成してもよい。
そして、画像生成部107は、生成した画像を表示部108に入力する。
表示部108は、画像生成部107から入力された推定結果表示画像を表示する。表示部108は、LCD(Liquid Crystal Display),LED(Light Emitting Diode)等、様々な表示手段によって構成される。図10に、表示部108に表示される推定結果表示画像の一例を示す。また、図11に、表示部108に表示される推定結果表示画像の他の一例を示す。
図10に示す例では、姿勢評価装置100Aの表示部108の上側に、撮像部101が撮像した画像にキーポイントP6及び当該キーポイントP6を結ぶ線分lが重ね合された画像部分G1が表示され、表示部108の下側に、状態推定部106の推定結果を示す画像部分G2が表示されている。また、推定結果を示す画像部分G2において、「正常」以外の推定結果が、太字や赤字等で強調されて表示されてもよい。
図11に示す例では、姿勢評価装置100Aの表示部108に、キーポイントP7及び状態推定部106の推定結果に基づいて色分けされた脊柱エッジ点群Pを、撮像部101が撮像した画像に重ね合せた画像G3が表示されている。例えば、図11に示す表示部108では、脊柱エッジ点群Pの各部A,B,C,D,Eが撮像部101に撮像された画像に映る人物Oの前側に凸であるか、後ろ側に凸であるかに基づいて色分けされて表示されている。また、脊柱エッジ点群Pの各部A,B,C,D,Eの色分けは、各部A,B,C,D,Eの突出度合い(脊柱曲率の値の大小)に基づいて行われている。
また、表示部108は、脊柱エッジ点群Pを、例えば、上位胸椎、下位胸椎、腰椎の部分に分けて、それぞれの部分の状態に応じた色で表示してもよい。
さらに、脊柱エッジ点群Pの色分けは、徐々に色が変化するグラデーションで行われてもよい。
また、表示部108は、画像生成部107から入力された修正用画像を表示してもよい。これにより、例えば、脊柱抽出部103による脊柱エッジ点群Pの抽出した範囲が間違っている場合に、ユーザが当該修正要画面上に表示された脊柱エッジ点群Pをドラッグすることにより修正することができる。
入力部109は、ユーザからの操作指示を受け付ける。入力部109は、キーボードにより構成されてもよいし、タッチパネル式の表示装置によって構成されてもよい。入力部109は、姿勢評価装置100A本体と接続されるキーボードやタッチパネルによって構成されてもよい。
記憶部110は、基準値リスト112、骨格データベース113,骨格抽出モデル114等を記憶している。また、記憶部110は、処理に必要な各種のプログラムや各種のデータが固定的に記憶されている不揮発性のメモリ(例えば、ROM(Read Only Memory))を含むことができる。また、記憶部110は、HDD(Hard Disk Drive)やSSDを用いるものであってもよい。さらに、記憶部110は、作業領域として用いられる揮発性のメモリ(例えば、RAM(Random Access Memory))を含むことができる。上記プログラムは、光ディスク、半導体メモリ等の可搬性の記録媒体から読み取られてもよいし、ネットワーク上のサーバ装置からダウンロードされてもよい。
基準値リスト112は、姿勢の種類と、当該姿勢における特徴量の基準値とが対応付けられたリストである。図12に、基準値リスト112のデータ構造の一例を示す。図12に示すように、基準値リスト112は、姿勢の種類112Aと、当該姿勢における脊柱曲率の基準値112Bと、脊柱彎曲角度の基準値112Cと、股関節角度の基準値112Dと、上位胸椎彎曲角度の基準値112E、下位胸椎彎曲角度の基準値112F、腰椎彎曲角度の基準値112Gとを対応付けてリストアップしたリストである。
骨格データベース113は、身体の側面を撮像して得られた複数の画像について、当該画像と、正解ラベルとしてのキーポイントの位置情報とが対応付けられたデータベースである。
骨格抽出モデル114は、身体の側面を撮像して得られた画像からキーポイントの位置情報を抽出する機械学習モデルである。換言すれば、骨格抽出モデル114は、身体の側面を撮像して得られた画像を入力として、キーポイントの位置情報を推論して出力する機械学習モデルである。なお、本明細書において、機械学習は深層学習であってもよいが、特に限定されない。
通信部111は、外部のサーバや他の端末装置等と通信を行う。通信部111は、無線通信を行うアンテナ(不図示)を備えてもよいし、有線通信を行うためのNIC(Network Interface Card)等のインタフェースを備えてもよい。
次に、図13を参照しながら、本実施の形態2に係る姿勢評価方法について説明する。まず、撮像部101が身体の側面を撮像し(ステップS101)、得られた画像を骨格抽出部102及び脊柱抽出部103に入力する。
次に、骨格抽出部102が、ステップS101において撮像部101が撮像した画像から、キーポイントの位置情報を抽出し(ステップS102)、抽出したキーポイントの位置情報を脊柱抽出部103に入力する。例えば、骨格抽出部102は、隆椎キーポイントP1、股関節キーポイントP2、膝関節キーポイントP3の位置情報を抽出する。
次に、脊柱抽出部103が、ステップS101において撮像部101が撮像した画像と、ステップS102において骨格抽出部102が抽出したキーポイントP1,P2,P3の位置情報とに基づいて、脊柱エッジ点群を抽出する。(ステップS103)。具体的には、脊柱抽出部103は、撮像部101が撮像した画像を正規化し、線分ltrunkと線分lthighとのなす角の外角θを算出し、脊柱エッジ点群Pを抽出する。そして、脊柱抽出部103は、算出した外角θを姿勢判断部104に入力する。また、脊柱抽出部103は、キーポイントP1,P2,P3と脊柱エッジ点群Pとを特徴量算出部105に入力する。また、脊柱抽出部103は、正規化した画像とキーポイントP1,P2,P3と脊柱エッジ点群Pとを画像生成部107に入力する。
次に、特徴量算出部105が、脊柱抽出部103から入力されたキーポイントP1,P2,P3と脊柱エッジ点群Pとに基づいて、脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等を特徴量として算出する。(ステップS104)。そして、特徴量算出部105は、算出した脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等を状態推定部106に入力する。
また、姿勢判断部104が、脊柱抽出部103から入力された外角θに基づいて、撮像部101が撮像した画像に映る人物Oの姿勢の種類を判断する(ステップS105)。そして、姿勢判断部104は、判断した姿勢の種類を状態推定部106に入力する。
次に、状態推定部106が、姿勢判断部104から入力された姿勢の種類と、特徴量算出部105から入力された脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度等とに基づいて、上位胸椎、下位胸椎、腰椎、腰椎仙骨移行部(L5/S1)、股関節の状態を推定する(ステップS106)。そして、状態推定部106は、推定結果を画像生成部107に入力する。
次に、画像生成部107が、ステップS101において撮像された画像と、ステップS106において推定された上位胸椎、下位胸椎、腰椎、腰椎仙骨移行部(L5/S1)、股関節の状態とに基づいて、表示部108に表示される画像を生成する(ステップS107)。そして、画像生成部107が画像は、表示部108に入力される。
次に、表示部108が、ステップS107において生成された画像を表示し(ステップS108)、本処理を終了する。
なお、キーポイントP1,P2,P3は、表示部108に撮像部101が撮像した画像が表示され、ユーザが入力部109を操作することにより、指定されてもよい。この場合、ステップS102の処理は省略されてもよい。
また、ステップS103の処理の後、ステップS104の処理の前において、ステップS103において抽出された脊柱エッジ点群Pを表示する修正用画像が表示部108に表示され、ユーザが当該修正要画面上に表示された脊柱エッジ点群Pをドラッグすることにより修正してもよい。
また、ステップS104の処理とステップS105の処理との順序は反対であってもよく、ステップS104の処理とステップS105の処理とは同時に行われてもよい。
また、ステップS106の処理が行われる前に、ユーザが入力部109を操作することによって姿勢の種類が指定されてもよい。この場合、ステップS105の処理は省略されてもよい。
本実施の形態2によれば、比較的安価に高い精度で姿勢を評価することができる姿勢評価装置100Aを提供することができる。具体的には、脊柱抽出部103によって画像上の脊柱形状を表す脊柱エッジ点群Pが抽出され、特徴量算出部105によって、画像上のキーポイントP1,P2,P3と脊柱エッジ点群Pとに基づいて、特徴量として、脊柱曲率、脊柱彎曲角度、股関節角度、上位胸椎彎曲角度、下位胸椎彎曲角度、腰椎彎曲角度が算出される。そして、状態推定部106によって、当該特徴量に基づいて、上位胸椎、下位胸椎、腰椎、腰椎仙骨移行部(L5/S1)、股関節の状態が推定される。換言すれば、画像上の脊柱形状に基づいて姿勢を評価することができるため、高い精度で姿勢を評価することができる。さらに、高価な専門機器を用いずとも脊柱形状に基づいて姿勢評価を行うことができるため、比較的安価に姿勢を評価することができる。よって、比較的安価に高い精度で姿勢を評価することができる姿勢評価装置100Aを提供することができる。
また、骨格抽出部102によって、撮像部101が撮像した画像からキーポイントP1,P2,P3が抽出される。これにより、ユーザが当該画像上のキーポイントP1,P2,P3を指定する必要がない。
また、骨格抽出部102は、学習済みの骨格抽出モデル114を用いて、撮像部101によって撮像された2次元画像の左右又は水平方向であるx方向、上下又は垂直方向であるy方向、に加えて、奥行方向であるz方向で定義される3次元座標で表されるキーポイントを抽出してもよい。これにより、より精密な姿勢評価を行うことが可能となる。
また、状態推定部106が、姿勢の種類と、特徴量とに基づいて、基準値リスト112を参照することにより、脊柱等の状態を推定する。ここで、基準値とは、脊柱等の身体部位が正常である場合に特徴量が取り得る範囲の値である。そのため、状態推定部106は、脊柱等の身体部位が正常であるか否かを推定することができる。
また、姿勢判断部104によって、骨格抽出部102によって抽出されたキーポイントに基づいて、姿勢評価を行う人物Oの姿勢の種類が判断される。そのため、姿勢評価を行う姿勢の種類をユーザが指定する必要がない。
また、表示部108によって、撮像部101が撮像した画像と、状態推定部106による推定結果とを表示する推定結果表示画像が表示される。これにより、ユーザは、姿勢の状態を視覚的にとらえることができる。
また、表示部108によって、状態推定部106によって推定された状態が、脊柱エッジ点群Pを色分けすることにより表示される。これにより、ユーザは、姿勢の状態を視覚的にとらえることができる。
実施の形態3
次に、図14を参照しながら、本実施の形態3に係る姿勢評価装置100Bについて説明する。図14は、本実施の形態3に係る姿勢評価装置100Bの構成を示すブロック図である。実施の形態3に係る姿勢評価装置100Bは、第1撮像部101A及び第2撮像部101Bを備える点が、実施の形態2に係る姿勢評価装置100Aと異なる。また、図15に示すように、画像生成部107Aが生成する画像、すなわち表示部108Aに表示される画像も異なる。そのため、実施の形態3に係る姿勢評価装置100Bの構成のうち、実施の形態2に係る姿勢評価装置100Aと同一の構成については同一の符号を付すとともに、その説明を省略する。
第1撮像部101Aは、実施の形態2に係る撮像部101と同様に、対象者の身体の側面を撮像して画像を取得する。第1撮像部101Aは、撮像した画像を、骨格抽出部102、脊柱抽出部103、及び画像生成部107Aに入力する。
また、第1撮像部101Aは、実施の形態2に係る撮像部101と同様に、対象者の身体の側面を動画撮影して画像を取得してもよい。この場合、ユーザが入力部109を操作して、表示部108Aに表示された画像選択領域G4(図15参照)において、姿勢評価を行う時点を指定する。そして、ユーザによって指定された時点の画像が骨格抽出部102及び脊柱抽出部103に入力される。本実施の形態3では、第1撮像部101Aが対象者の側面を動画撮影する場合を例に挙げて説明する。
第2撮像部101Bは、第1撮像部101Aと同時に、対象者の身体の他の面を撮像する。ここで、対象者の身体の他の面とは、対象者の身体の側面以外であれば、どの面であってもよい。第2撮像部101Bは、撮像した画像を、画像生成部107Aに入力する。
また、第2撮像部101Bは、対象者の身体の他の面を動画撮影して画像を取得してもよい。本実施の形態3では、第2撮像部101Bが対象者の身体の正面を動画撮影する場合を例に挙げて説明する。
画像生成部107Aは、第2撮像部101Bから入力された画像に基づいて、表示部108Aが表示する画像選択領域G4を生成する。図15に示すように、画像選択領域G4は、第2撮像部101Bから入力された動画の複数のサムネイル画像G5が時間スケールT1に沿って並べられるとともに、姿勢評価を行う時点を指定するための指定バーT2が時間スケールT1に沿って移動可能に表示された画像領域である。
また、画像生成部107Aは、表示部108Aに表示された画像選択領域G4においてユーザが指定した時点の画像を表示する正面画像を示す正面画像領域G6を生成する。
また、画像生成部107Aは、脊柱抽出部103から入力された、正規化された画像及びキーポイントに基づいて、当該画像にキーポイントP8及び当該キーポイントP8を結ぶ線分lが重ね合された側面画像部分G7を生成する。
また、画像生成部107Aは、状態推定部106から入力された推定結果に基づいて、状態推定部106の推定結果を示す結果画像領域G8を生成する。
そして、画像生成部107Aは、生成した画像選択領域G4、正面画像領域G6、側面画像領域G7、結果画像領域G8を表示部108Aに入力する。
表示部108Aは、画像生成部107から入力された画像選択領域G4、正面画像領域G6、側面画像領域G7、結果画像領域G8を表示する。図15に、表示部108Aに表示される画像の一例を示す。
図15に示す例では、姿勢評価装置100Bの表示部108Aの下側に画像選択領域G4が表示され、表示部108Aの上側の左側に正面画像領域G6が表示され、表示部108Aの上側の中央に側面画像領域G7が表示され、表示部108Aの上側の右側に結果画像領域G8が表示されている。そして、図15に示す例では、画像選択領域G4において、ユーザによって指定バーT2が移動されて、0分11秒が姿勢評価を行う時点として指定されている。
本実施の形態3によれば、ユーザは、表示部108Aに表示された正面画像領域G6を確認することにより、身体の側面を確認するだけでは分からない姿勢についての情報を確認することができる。例えば、ユーザは、正面画像領域G6から身体の左右が均等に動いているか否かを確認することができる。
実施の形態4
次に、図16を参照しながら、本実施の形態4に係る姿勢評価システム200について説明する。図16は、本実施の形態4に係る姿勢評価システム200の構成を示す図である。姿勢評価システム200は、図16に示すように、姿勢評価装置100C、姿勢評価装置100Cと通信可能な対象者端末300とを備える。姿勢評価装置100Cと対象者端末300とはネットワークNを介して通信可能となっている。また、図16に示すように、1以上の対象者端末300,・・・が姿勢評価装置100Cと通信可能となっていてもよい。
また、対象者端末300は、対象者が所持するスマートフォン、タブレット端末、パーソナルコンピュータ等である。
実施の形態4に係る姿勢評価装置100Cは、対象者端末300から、対象者の身体の側面を撮像した画像を取得する。そのため、姿勢評価装置100Cは、撮像部101が省略されてもよい点が実施の形態2に係る姿勢評価装置100Aと異なる。
また、姿勢評価装置100Cの画像生成部107が作成した推定結果表示画像は、対象者端末300に送信され、対象者端末300の表示部(不図示)に表示されてもよい。
対象者端末300は、対象者の身体の側面を撮像する撮像部(不図示)を備える。対象者端末300は、当該画像を姿勢評価装置100Cに送信する。
その他の実施の形態
次に、その他の実施の形態に係る姿勢評価方法について簡単に説明する。その他の実施の形態に係る姿勢評価システムは、姿勢評価システム200の変形例である。その他の実施の形態に係る姿勢評価装置100Cは、対象者端末300から、対象者の身体の側面及び他の面を同時に撮像した画像を取得する。この場合、姿勢評価装置100Cは、第1撮像部101A及び第2撮像部101Bが省略されてもよい点が実施の形態3に係る姿勢評価装置100Bと異なる。
また、姿勢評価装置100Cの画像生成部107Aが作成した画像選択領域G4、正面画像領域G6、側面画像領域G7、結果画像領域G8は、対象者端末300に送信され、対象者端末300の表示部(不図示)に表示されてもよい。
対象者端末300は、対象者の身体の側面を撮像する第1撮像部(不図示)、及び第1撮像部と同時に対象者の身体の他の面を撮像する第2撮像部(不図示)を備える。対象者端末300は、身体の側面を撮像した画像及び身体の他の面を撮像した画像を姿勢評価装置100Cに送信する。
本実施の形態4及びその他の実施の形態によれば、対象者端末300において対象者の身体の少なくとも側面が撮像され、取得された画像がネットワークN経由で姿勢評価装置100Cに送信され、当該姿勢評価装置100Cにおいて姿勢評価を行うことができる。そのため、例えば、対象者と評価者とが離れた場所にいても、評価者はリモートで対象者の姿勢を評価することができる。本実施の形態4又はその他の実施の形態に係る姿勢評価システム200は、例えば、リモートセラピーやリモートトレーニング等の場面で特に有利な効果を奏する。
上述の実施の形態では、本開示をハードウェアの構成として説明したが、本開示は、これに限定されるものではない。本開示は、図13のフローチャートに記載の処理手順及びその他の実施の形態に記載の処理手順を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。
上記の例において、プログラムは、コンピュータに読み込まれた場合に、実施形態で説明された1又はそれ以上の機能をコンピュータに行わせるための命令群(又はソフトウェアコード)を含む。プログラムは、非一時的なコンピュータ可読媒体又は実体のある記憶媒体に格納されてもよい。限定ではなく例として、コンピュータ可読媒体又は実体のある記憶媒体は、random-access memory(RAM)、read-only memory(ROM)、フラッシュメモリ、solid-state drive(SSD)又はその他のメモリ技術、CD-ROM、digital versatile disc(DVD)、Blu-ray(登録商標)ディスク又はその他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ又はその他の磁気ストレージデバイスを含む。プログラムは、一時的なコンピュータ可読媒体又は通信媒体上で送信されてもよい。限定ではなく例として、一時的なコンピュータ可読媒体又は通信媒体は、電気的、光学的、音響的、またはその他の形式の伝搬信号を含む。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。例えば、対象者が身体のラインが出にくい服装をしている場合、脊柱抽出部103は、エッジ抽出処理によって抽出したエッジ点群をそのまま候補エッジ点群として用いて、脊柱エッジ点群Pを抽出することはできない。そのため、脊柱抽出部103は、エッジ抽出処理によって抽出したエッジ点群と、隆椎キーポイントP1、股関節キーポイントP2、及び膝関節キーポイントP3とに基づいて、候補エッジ点群の推定処理を行ってもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、
前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、
前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、
を備える、姿勢評価装置。
(付記2)
前記画像から前記位置情報を抽出する骨格抽出手段を備える、
付記1に記載の姿勢評価装置。
(付記3)
前記身体の姿勢の種類と、前記姿勢の種類における前記特徴量の基準値とを対応付けて記憶する記憶手段を備え、
前記状態推定手段は、前記姿勢の種類と、前記特徴量算出手段によって算出された前記特徴量と、前記基準値とに基づいて、少なくとも脊柱の状態を推定する、
付記1又は2に記載の姿勢評価装置。
(付記4)
前記位置情報に基づいて前記姿勢の種類を判断する姿勢判断手段を備える、
付記3に記載の姿勢評価装置。
(付記5)
前記画像と、前記状態推定手段によって推定された前記状態とを表示する表示手段を備える、
付記1~4の何れか1つに記載の姿勢評価装置。
(付記6)
前記表示手段は、前記状態を、前記脊柱エッジ点群を色分けして表示する、
付記5に記載の姿勢評価装置。
(付記7)
前記表示手段は、前記脊柱抽出手段によって前記脊柱エッジ点群が抽出された場合に、前記画像とともに、前記脊柱エッジ点群をユーザによる修正が可能なように表示する、
付記5又は6に記載の姿勢評価装置。
(付記8)
前記身体の側面を撮像する第1撮像手段と、前記第1撮像手段と同時に前記身体の他の面を撮像する第2撮像手段と、を備え、
前記表示手段は、前記第1撮像手段によって撮像された前記身体の側面の画像とともに前記第2撮像手段によって撮像された前記身体の他の面の画像を表示する、
付記5~7の何れか1つに記載の姿勢評価装置。
(付記9)
姿勢評価装置と、前記姿勢評価装置と通信可能な対象者端末とを備え、
前記姿勢評価装置は、
前記対象者端末によって取得された対象者の身体の側面の画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、
前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、
前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、
を備える、姿勢評価システム。
(付記10)
前記姿勢評価装置は、
前記画像から前記位置情報を抽出する骨格抽出手段を備える、
付記9に記載の姿勢評価システム。
(付記11)
前記姿勢評価装置は、
前記身体の姿勢の種類と、前記姿勢の種類における前記特徴量の基準値とを対応付けて記憶する記憶手段を備え、
前記状態推定手段は、前記姿勢の種類と、前記特徴量算出手段によって算出された前記特徴量と、前記基準値とに基づいて、少なくとも脊柱の状態を推定する、
付記9又は10に記載の姿勢評価システム。
(付記12)
前記姿勢評価装置は、
前記位置情報に基づいて前記姿勢の種類を判断する姿勢判断手段を備える、
付記11に記載の姿勢評価システム。
(付記13)
前記姿勢評価装置は、
前記画像と、前記状態推定手段によって推定された前記状態とを表示する表示手段を備える、
付記9~12の何れか1つに記載の姿勢評価システム。
(付記14)
前記表示手段は、前記状態を、前記脊柱エッジ点群を色分けして表示する、
付記13に記載の姿勢評価システム。
(付記15)
前記表示手段は、前記脊柱抽出手段によって前記脊柱エッジ点群が抽出された場合に、前記画像とともに、前記脊柱エッジ点群をユーザによる修正が可能なように表示する、
付記13又は14に記載の姿勢評価システム。
(付記16)
前記姿勢評価装置は、
前記身体の側面を撮像する第1撮像手段と、前記第1撮像手段と同時に前記身体の他の面を撮像する第2撮像手段と、を備え、
前記表示手段は、前記第1撮像手段によって撮像された前記身体の側面の画像とともに前記第2撮像手段によって撮像された前記身体の他の面の画像を表示する、
付記13~15の何れか1つに記載の姿勢評価システム。
(付記17)
姿勢評価装置が、
対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出し、
前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出し、
前記特徴量に基づいて、少なくとも脊柱の状態を推定する、
姿勢評価方法。
(付記18)
前記姿勢評価装置が、
前記画像から前記位置情報を抽出する、
付記17に記載の姿勢評価方法。
(付記19)
前記姿勢評価装置が、
前記身体の姿勢の種類と、前記姿勢の種類における前記特徴量の基準値とを対応付けて記憶し、
前記姿勢の種類と前記特徴量と前記基準値とに基づいて、少なくとも脊柱の状態を推定する、
付記17又は18に記載の姿勢評価方法。
(付記20)
前記姿勢評価装置が、
前記位置情報に基づいて前記姿勢の種類を判断する、
付記19に記載の姿勢評価方法。
(付記21)
前記姿勢評価装置が、
前記画像と前記状態とを表示する、
付記17~20の何れか1つに記載の姿勢評価方法。
(付記22)
前記姿勢評価装置が、
前記状態を、前記脊柱エッジ点群を色分けして表示する、
付記17~21の何れか1つに記載の姿勢評価方法。
(付記23)
前記姿勢評価装置が、
前記脊柱エッジ点群を抽出した場合に、前記画像とともに、前記脊柱エッジ点群をユーザによる修正が可能なように表示する、
付記17~22の何れか1つに記載の姿勢評価方法。
(付記24)
前記姿勢評価装置が、
前記身体の側面を撮像すると同時に前記身体の他の面を撮像し、
撮像した前記身体の側面の画像とともに撮像した前記身体の他の面の画像を表示する、
付記17~23の何れか1つに記載の姿勢評価方法。
(付記25)
姿勢評価装置に、
対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する処理と、
前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する処理と、
前記特徴量に基づいて、少なくとも脊柱の状態を推定する処理と、
を実行させるプログラムを格納する非一時的なコンピュータ可読媒体。
(付記26)
前記姿勢評価装置に、
前記画像から前記位置情報を抽出する処理
を実行させるプログラムを格納する、付記25に記載の非一時的なコンピュータ可読媒体。
(付記27)
前記姿勢評価装置に、
前記身体の姿勢の種類と、前記姿勢の種類における前記特徴量の基準値とを対応付けて記憶する処理と、
前記姿勢の種類と前記特徴量と前記基準値とに基づいて、少なくとも脊柱の状態を推定する処理と、
を実行させるプログラムを格納する、付記25又は26に記載の非一時的なコンピュータ可読媒体。
(付記28)
前記姿勢評価装置に、
前記位置情報に基づいて前記姿勢の種類を判断する処理、
を実行させるプログラムを格納する、付記27に記載の非一時的なコンピュータ可読媒体。
(付記29)
前記姿勢評価装置に、
前記画像と前記状態とを表示する処理、
を実行させるプログラムを格納する、付記25~28の何れか1つに記載の非一時的なコンピュータ可読媒体。
(付記30)
前記姿勢評価装置に、
前記状態を、前記脊柱エッジ点群を色分けして表示する処理、
を実行させるプログラムを格納する、付記25~29の何れか1つに記載の非一時的なコンピュータ可読媒体。
(付記31)
前記姿勢評価装置に、
前記脊柱エッジ点群を抽出した場合に、前記画像とともに、前記脊柱エッジ点群をユーザによる修正が可能なように表示する処理、
を実行させるプログラムを格納する、付記25~30の何れか1つに記載の非一時的なコンピュータ可読媒体。
(付記32)
前記姿勢評価装置に、
前記身体の側面を撮像すると同時に前記身体の他の面を撮像する処理と、
撮像した前記身体の側面の画像とともに撮像した前記身体の他の面の画像を表示する処理と、
を実行させるプログラムを格納する、付記25~31の何れか1つに記載の非一時的なコンピュータ可読媒体。
この出願は、2022年3月31日に出願された日本出願特願2022-058198を基礎とする優先権を主張し、その開示の全てをここに取り込む。
比較的安価に高い精度で姿勢を評価することができる姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラムを提供することができる。
100、100A、100B、100C 姿勢評価装置
101 撮像部(撮像手段)
101A 第1撮像部(第1撮像手段)
101B 第2撮像部(第2撮像手段)
102 骨格抽出部(骨格抽出手段)
103 脊柱抽出部(脊柱抽出手段)
104 姿勢判断部(姿勢判断手段)
105 特徴量算出部(特徴量算出手段)
106 状態推定部(状態推定手段)
107、107A 画像生成部
108、108A 表示部(表示手段)
109 入力部
110 記憶部(記憶手段)
111 通信部
112 基準値リスト
113 骨格DB(骨格データベース)
114 骨格抽出モデル
200 姿勢評価システム
300 対象者端末

Claims (10)

  1. 対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、
    前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、
    前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、
    を備える、姿勢評価装置。
  2. 前記画像から前記位置情報を抽出する骨格抽出手段を備える、
    請求項1に記載の姿勢評価装置。
  3. 前記身体の姿勢の種類と、前記姿勢の種類における前記特徴量の基準値とを対応付けて記憶する記憶手段を備え、
    前記状態推定手段は、前記姿勢の種類と、前記特徴量算出手段によって算出された前記特徴量と、前記基準値とに基づいて、少なくとも脊柱の状態を推定する、
    請求項に記載の姿勢評価装置。
  4. 前記位置情報に基づいて前記姿勢の種類を判断する姿勢判断手段を備える、
    請求項3に記載の姿勢評価装置。
  5. 前記画像と、前記状態推定手段によって推定された前記状態とを表示する表示手段を備える、
    請求項1~4の何れか一項に記載の姿勢評価装置。
  6. 前記表示手段は、前記状態を、前記脊柱エッジ点群を色分けして表示する、
    請求項5に記載の姿勢評価装置。
  7. 前記表示手段は、前記脊柱抽出手段によって前記脊柱エッジ点群が抽出された場合に、前記画像とともに、前記脊柱エッジ点群をユーザによる修正が可能なように表示する、
    請求項に記載の姿勢評価装置。
  8. 姿勢評価装置と、前記姿勢評価装置と通信可能な対象者端末とを備え、
    前記姿勢評価装置は、
    前記対象者端末によって取得された対象者の身体の側面の画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する脊柱抽出手段と、
    前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する特徴量算出手段と、
    前記特徴量に基づいて、少なくとも脊柱の状態を推定する状態推定手段と、
    を備える、姿勢評価システム。
  9. 姿勢評価装置が、
    対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出し、
    前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出し、
    前記特徴量に基づいて、少なくとも脊柱の状態を推定する、
    姿勢評価方法。
  10. 姿勢評価装置に、
    対象者の身体の側面を撮像して得られた画像と、前記画像上の前記身体の少なくとも頸椎、股関節、膝関節の位置情報とに基づいて、前記画像上における脊柱形状を表す所定の数の点からなる脊柱エッジ点群を抽出する処理と、
    前記位置情報と前記脊柱エッジ点群とに基づいて、少なくとも脊柱に関する特徴量を算出する処理と、
    前記特徴量に基づいて、少なくとも脊柱の状態を推定する処理と、
    を実行させるプログラム。
JP2024511331A 2022-03-31 2023-02-02 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム Active JP7727273B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2022058198 2022-03-31
JP2022058198 2022-03-31
PCT/JP2023/003302 WO2023188796A1 (ja) 2022-03-31 2023-02-02 姿勢評価装置、姿勢評価システム、姿勢評価方法、及び非一時的なコンピュータ可読媒体

Publications (3)

Publication Number Publication Date
JPWO2023188796A1 JPWO2023188796A1 (ja) 2023-10-05
JPWO2023188796A5 JPWO2023188796A5 (ja) 2024-11-06
JP7727273B2 true JP7727273B2 (ja) 2025-08-21

Family

ID=88200843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024511331A Active JP7727273B2 (ja) 2022-03-31 2023-02-02 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム

Country Status (3)

Country Link
US (1) US20250191181A1 (ja)
JP (1) JP7727273B2 (ja)
WO (1) WO2023188796A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121392758B (zh) * 2025-12-24 2026-03-31 中国人民解放军空军特色医学中心 一种基于行为特征识别的青少年脊柱异常姿势监测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019008771A1 (ja) 2017-07-07 2019-01-10 りか 高木 治療及び/又は運動の指導プロセス管理システム、治療及び/又は運動の指導プロセス管理のためのプログラム、コンピュータ装置、並びに方法
JP2020074876A (ja) 2018-11-07 2020-05-21 株式会社スペースビジョン 脊椎骨姿勢推定装置
CN111814772A (zh) 2020-09-07 2020-10-23 科大讯飞(苏州)科技有限公司 人体姿态评估方法、装置、电子设备和存储介质
JP2020190786A (ja) 2019-05-17 2020-11-26 ネットパイロティング株式会社 運動器機能向上支援装置、運動器機能向上支援システム及び運動器機能向上の支援方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019008771A1 (ja) 2017-07-07 2019-01-10 りか 高木 治療及び/又は運動の指導プロセス管理システム、治療及び/又は運動の指導プロセス管理のためのプログラム、コンピュータ装置、並びに方法
JP2020074876A (ja) 2018-11-07 2020-05-21 株式会社スペースビジョン 脊椎骨姿勢推定装置
JP2020190786A (ja) 2019-05-17 2020-11-26 ネットパイロティング株式会社 運動器機能向上支援装置、運動器機能向上支援システム及び運動器機能向上の支援方法
CN111814772A (zh) 2020-09-07 2020-10-23 科大讯飞(苏州)科技有限公司 人体姿态评估方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
WO2023188796A1 (ja) 2023-10-05
JPWO2023188796A1 (ja) 2023-10-05
US20250191181A1 (en) 2025-06-12

Similar Documents

Publication Publication Date Title
US20220189211A1 (en) Physical activity quantification and monitoring
US9838670B2 (en) Method and system for three-dimensional imaging
JP2005224452A (ja) 姿勢診断設備及びそのプログラム
CN114333046B (zh) 舞蹈动作评分方法、装置、设备和存储介质
US11403882B2 (en) Scoring metric for physical activity performance and tracking
CN112102451B (zh) 一种基于普通摄像头的无穿戴虚拟直播方法及设备
US20220198696A1 (en) System for determining body measurement from images
US20220222975A1 (en) Motion recognition method, non-transitory computer-readable recording medium and information processing apparatus
JP2020074876A (ja) 脊椎骨姿勢推定装置
JP2019175321A (ja) 画像評価装置、画像評価方法及びコンピュータプログラム
JP7727273B2 (ja) 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム
JP2020086823A (ja) 動作評価装置、方法、及びプログラム
WO2024111429A1 (ja) 姿勢評価装置、姿勢評価システム、姿勢評価方法、及びプログラム
US20250107750A1 (en) Posture evaluation apparatus, posture evaluation system, posture evaluation method, and computer readable medium
KR102827342B1 (ko) 보상작용 지식 베이스 기반 근골격계 질환 예측 방법
KR102763846B1 (ko) 인공지능을 이용한 사용자 체형 분석 장치 및 컴퓨터 판독가능 기록매체
CN116830166A (zh) 骨骼识别方法、骨骼识别程序以及体操评分辅助系统
KR20220014479A (ko) 버스와 같은 차량에서 자세 교정을 위한 가상현실 컨텐츠를 제공하는 방법 및 시스템
CN119904918B (zh) 医护人员动作监测与疲劳预防方法、装置及存储介质
JP2026020435A (ja) 姿勢計測装置、姿勢計測方法、及びプログラム
CN119600677B (zh) 一种体态检测方法、存储介质、装置及终端设备
US20240104775A1 (en) Information processing apparatus, method, and system
US20260120315A1 (en) Approaches to generating semi-synthetic training data for real-time estimation of pose and systems for implementing the same
US20250176859A1 (en) AI Powered Mobility Assessment System
Chen et al. A mobile tool for static standing posture assessment using accurate 3D body reconstruction

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240821

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240904

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20241029

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20241030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250415

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250724

R150 Certificate of patent or registration of utility model

Ref document number: 7727273

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150