以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも包括的又は具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付し、重複する説明は省略又は簡略化される場合がある。
(実施の形態)
[構成]
まず、実施の形態に係る表示システムの構成について説明する。
図1は、実施の形態に係る表示システム10の機能構成を示すブロック図である。
表示システム10は、特定の動作を行う対象者を被写体として含む動画像(つまり、対象者が映る動画像)に基づいて、対象者が実行可能な日常生活動作(ADL:Activities of Daily Living)の程度を判定するシステムである。
表示システム10は、情報端末30と、動画編集装置40と、を備える。
ユーザは、例えば、情報端末30を操作することで、互いに異なる期間に対象者を撮影する。これにより生成された複数の動画像は、動画編集装置40に送信される。動画編集装置40では、受信された複数の動画像を編集し、編集した複数の動画像を情報端末30に送信する。情報端末30は、受信した複数の編集された動画像を表示する。
ここで、対象者とは、実行可能な日常生活動作の程度が判定される人であって、例えば、疾患、外傷、高齢化、又は、障害により身体を動かすための能力である身体機能が低下した人である。
また、ユーザとは、例えば、理学療法士、作業療法士、看護師、又は、リハビリ専門職員である。
また、日常生活動作とは、日常生活を送るために最低限必要な日常的な動作である。日常生活動作とは、例えば、起居動作、移乗、移動、食事、靴の着脱及び着衣などの更衣、排泄、洗髪などの入浴、又は、整容などの動作である。
また、特定の動作とは、日常生活動作と関連する動作である。例えば、特定の動作とは、日常生活動作に含まれる動作の少なくとも一部と共通する又は類似する動作である。特定の動作の具体例については、後述する。
情報端末30は、対象者に特定の動作を行うように指示し、カメラ20によって対象者が撮影されることで生成される、対象者を被写体として含む動画像(動画像データ)を取得し、取得された動画像を動画編集装置40に送信するコンピュータである。具体的には、情報端末30は、対象者を撮影することで複数の画像から構成される動画像を生成し、生成された動画像を動画編集装置40に送信する。
情報端末30は、例えば、ユーザによって使用されるスマートフォン又はタブレット端末などの携帯型のコンピュータ装置である。情報端末30は、パーソナルコンピュータなどの据え置き型のコンピュータ装置であってもよい。
情報端末30は、カメラ20と、通信部31と、制御部32と、記憶部33と、受付部34と、表示部35と、指示部36と、を備える。
カメラ20は、特定の動作を行う対象者を撮影することで、特定の動作を行う対象者を被写体として含む動画像を生成するカメラである。本実施の形態では、カメラ20は、特定の動作を行う対象者を撮影することで第1動画像及び第2動画像などの複数の動画像を生成する。
複数の動画像は、例えば、互いに異なる期間に特定の動作を行った対象者を被写体として含む動画像である。例えば、第1動画像は、第1期間に特定の動作を行った対象者を被写体として含む動画像であり、第2動画像は、第1期間とは異なる第2期間に特定の動作を行った対象者を被写体として含む動画像である。第1期間と第2期間とは、異なる期間であればよい。
カメラ20は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたカメラであってもよいし、CCD(Charge Coupled Device)イメージセンサを用いたカメラであってもよい。
なお、カメラ20は、情報端末30に取り付けられる外付けのカメラであってもよい。この場合、情報端末30は、カメラ20を備えなくてもよく、カメラ20と通信可能に接続するための通信インターフェースを備えていればよい。
通信部31は、動画編集装置40と通信を行う通信インターフェースである。具体的には、通信部31は、情報端末30がインターネットなどのネットワーク5を介して動画編集装置40と通信を行う。通信部31は、第2通信部の一例である。通信部31は、例えば、動画編集装置40と無線通信を行うための無線通信回路により実現される。
なお、通信部31が行う通信の通信規格は、特に限定されない。
また、通信部31は、動画編集装置40と無線通信可能に接続されていてもよいし、動画編集装置40と有線通信可能に接続されていてもよい。例えば、通信部31は、動画編集装置40と有線通信可能に接続される場合、通信線などと接続されるコネクタなどにより実現される。
制御部32は、情報端末30における各種情報処理を行う処理部である。制御部32は、例えば、通信部31を介して動画編集装置40に、カメラ20が生成した動画像を出力する。
具体的には、制御部32は、通信部31を介して動画編集装置40に第1動画像及び第2動画像を出力し、且つ、通信部31を介して動画編集装置40から第3動画像及び第4動画像を取得する。
第3動画像は、上記した第1動画像が動画編集装置40によって編集された動画像である。第4動画像は、上記した第2動画像が動画編集装置40によって編集された動画像である。
なお、動画編集装置40は、第1動画像及び第2動画像の少なくとも一方を編集すればよい。つまり、第1動画像と第3動画像とは、同じ動画像であってもよい。また、第2動画像と第4動画像とは、同じ動画像であってもよい。
例えば、制御部32は、動画像を出力する場合、動画像を構成する複数の画像とともに各画像が生成された時間情報を紐付けて出力する。また、例えば、制御部32は、通信部31を介して動画編集装置40から、動画編集装置40(より具体的には、編集部42d)によって編集された複数の動画像を取得する。例えば、制御部32は、取得した複数の動画像を表示部35に同時に表示させる。また、例えば、制御部32は、通信部31を介して動画編集装置40から、動画編集装置40(より具体的には、評価部42e)による評価結果(評価結果情報)を取得する。例えば、制御部32は、取得した評価結果を示す情報を複数の動画像とともに表示部35に表示させる。また、制御部32は、例えば、受付部34によって受け付けられた操作入力に基づいて、各種処理を行う。制御部32は、例えば、マイクロコンピュータによって実現される。或いは、制御部32は、プロセッサによって実現されてもよい。制御部32の機能は、例えば、制御部32を構成するマイクロコンピュータ又はプロセッサなどが記憶部33に記憶された専用のアプリケーションプログラムを実行することによって実現される。
記憶部33は、制御部32が実行するための専用のアプリケーションプログラムなどが記憶される記憶装置である。記憶部33は、例えば、半導体メモリ又はHDD(Hard Disk Drive)などによって実現される。
受付部34は、情報端末30のユーザ(例えば、対象者又はリハビリ専門職員など)による操作入力を受け付ける入力インターフェースである。例えば、受付部34は、動画像の撮影指示又は動画像の動画編集装置40への送信指示などのユーザの入力操作を受け付ける。受付部34は、例えば、タッチパネルディスプレイなどによって実現される。例えば、受付部34がタッチパネルディスプレイによって実現される場合には、タッチパネルディスプレイが表示部35及び受付部34として機能する。
なお、受付部34は、タッチパネルディスプレイに限らず、例えば、キーボード、タッチペン若しくはマウスなどのポインティングデバイス、又は、ハードウェアボタンなどであってもよい。また、受付部34は、音声による入力を受け付ける場合、マイクロフォンであってもよい。また、受付部34は、ジェスチャによる入力を受け付ける場合、カメラであってもよい。この場合、受付部34は、カメラ20によって実現されてもよいし、カメラ20とは異なるカメラにより実現されてもよい。
表示部35は、動画編集装置40により編集された動画像及び動画編集装置40による評価結果などを表示する表示装置である。表示部35は、例えば、上記第3動画像及び上記した第4動画像を表示する。本実施の形態では、表示部35は、動画像が再生されるタイミングが同じになるように、上記第3動画像及び上記した第4動画像を同時に表示する。
表示部35は、例えば、液晶パネル又は有機EL(Electro Luminescence)パネルなどの表示パネルにより実現されてもよいし、スピーカ又はイヤフォンなどの音響装置により実現されてもよいし、表示パネル及び音響装置により実現されてもよい。
指示部36は、対象者に特定の動作を行うように指示する指示装置である。指示部36は、例えば、映像及び音声などにより対象者に特定の動作を行うように指示する。つまり、指示部36は、映像によってユーザに指示してもよいし、音声によってユーザに指示してもよい。
指示部36は、例えば、「バンザイ(両手を下した状態から上げる動作)をしてください」、「背中をタッチしてその姿勢を維持して下さい」、「頭の後ろをタッチしてその姿勢を維持してください」、「つま先をタッチしてその姿勢を維持してください」などの指示を映像及び/又は音声で行う。指示部36は、例えば、液晶パネル又は有機ELパネルなどの表示パネルにより実現されてもよいし、スピーカ又はイヤフォンなどの音響装置により実現されてもよいし、表示パネル及び音響装置により実現されてもよい。
なお、指示部36と表示部35とは、同じ表示パネル及び/又は音響装置などの装置によって実現されてもよい。
また、指示部36が対象者に特定の動作を実行させる指示をするための映像情報及び/又は音声情報は、記憶部33に予め記憶されていてもよい。
動画編集装置40は、情報端末30から送信された複数の動画像を取得し、取得された動画像の少なくとも1つを編集するコンピュータである。
動画編集装置40は、通信部41と、情報処理部42と、記憶部43と、を備える。
通信部41は、情報端末30と通信を行う通信インターフェースである。具体的には、通信部41は、動画編集装置40がインターネットなどのネットワーク5を介して情報端末30と通信を行う。通信部41は、第1通信部の一例である。通信部41は、例えば、情報端末30と無線通信を行うための無線通信回路により実現される。
なお、通信部41が行う通信の通信規格は、特に限定されない。
また、通信部41は、情報端末30と無線通信可能に接続されていてもよいし、情報端末30と有線通信可能に接続されていてもよい。例えば、通信部41は、情報端末30と有線通信可能に接続される場合、通信線などと接続されるコネクタなどにより実現される。
情報処理部42は、動画編集装置40における各種情報処理を行う処理部である。情報処理部42は、例えば、マイクロコンピュータによって実現される。或いは、情報処理部42は、プロセッサによって実現されてもよい。情報処理部42の機能は、例えば、情報処理部42を構成するマイクロコンピュータ又はプロセッサなどが記憶部43に記憶されたコンピュータプログラムを実行することによって実現される。
情報処理部42は、取得部42aと、推定部42bと、特定部42cと、編集部42dと、評価部42eと、出力部42fとを備える。
取得部42aは、通信部41を介して情報端末30から動画像を取得する処理部である。具体的には、取得部42aは、情報端末30から出力(送信)された動画像を、通信部41を介して取得する。本実施の形態では、第1期間に特定の動作を行った対象者を被写体として含む第1動画像と、第1期間とは異なる第2期間に特定の動作を行った対象者を被写体として含む第2動画像とを取得する。
推定部42bは、特定の動作を行う対象者を被写体として含む動画像に基づいて、当該動画像における対象者の骨格モデルを推定(算出)する処理部である。具体的には、推定部42bは、取得部42aにより取得された動画像に基づいて、当該動画像における対象者の骨格モデルを推定する。より具体的には、推定部42bは、動画像に基づいて、動画像を構成する複数の画像のそれぞれにおける骨格モデルを推定する。
図2は、実施の形態に係る推定部42bが推定する対象者1の骨格モデルを説明するための図である。具体的には、図2は、推定部42bが推定した対象者1の骨格モデルを対象者1に重畳して示す、対象者1を被写体として含む画像を模式的に示す図である。
骨格モデルとは、画像における対象者1の関節などの特定の位置である複数の骨格点をリンク(線)で結ぶことで生成されるモデルである。具体的には、骨格モデルとは、複数の骨格点などの座標データである。例えば、推定部42bは、画像解析などを実行することにより、画像における対象者1の複数の骨格点であって、首の骨格点、肘の骨格点、及び、手首の骨格点などを含む、予め定められた複数の骨格点の位置(より具体的には、座標)を推定する。さらに、推定部42bは、例えば、推定した複数の骨格点のうち、肘の骨格点及び手首の骨格点などの、予め定められた骨格点同士を線で結ぶ。これにより、推定部42bは、対象者1の骨格モデルを推定する。
なお、骨格モデルの推定には、例えば、既存の姿勢及び骨格の推定アルゴリズムが用いられればよく、任意の方法で推定されてよい。
また、推定部42bは、対象者の二次元骨格モデルを推定してもよいし、対象者の三次元骨格モデルを推定してもよい。つまり、推定部42bは、画像における対象者の骨格点の二次元座標を推定してもよいし、当該対象者の骨格点の三次元座標を推定してもよい。例えば、推定部42bは、取得部42aが取得した動画像に基づいて、対象者の二次元骨格モデル(つまり、二次元直交座標系における各骨格点の座標)を推定し、推定された二次元骨格モデルに基づいて、学習済みの機械学習モデルである学習済みモデルを用いて対象者の三次元骨格モデル(つまり、三次元直交座標系における各骨格点の座標)を推定する。
学習済みモデルは、各関節の三次元座標データが既知である二次元骨格モデルを学習データとし、当該三次元座標データを教師データとする機械学習によって予め構築された識別器である。学習済みモデルは、二次元骨格モデルを入力として、当該二次元骨格モデルに応じた三次元座標データ、つまり、三次元骨格モデルを出力する。学習済みモデルは、例えば、記憶部43に予め記憶されている。
このように、推定部42bは、取得部42aが取得した動画像における対象者の三次元骨格モデルを推定してもよい。
本実施の形態では、推定部42bは、第1動画像及び第2動画像のそれぞれにおける対象者の骨格モデルを推定する。具体的には、推定部42bは、第1動画像に基づいて、第1動画像における対象者の骨格モデルを推定する。また、推定部42bは、第2動画像に基づいて、第2動画像における対象者の骨格モデルを推定する。
特定部42cは、推定部42bが推定した動画像における対象者の骨格モデルに基づいて、動画像において対象者が特定の動作におけるキー動作を実行している画像(キー画像ともいう)を特定する処理部である。
キー動作とは、特定の動作に含まれる動作又は姿勢であって、特定の動作を実行する対象者を評価するにあたって特に重要視される動作又は姿勢である。キー動作は、例えば、特定の動作毎に予め任意に1以上定められている。
図3は、実施の形態に係るユーザの動作の時間変化の一例を説明するための図である。具体的には、図3は、対象者が特定の動作として「バンザイ」を実行した際の経過時間に対する対象者の手首の高さの位置を示すグラフである。
図3に示す例では、対象者は、まず、手を下した状態から特定の動作である「バンザイ」を実行することで手を上げ、その後手を下す動作を実行している。この特定の動作である「バンザイ」において、手が最も上がった位置(時刻B)における動作(姿勢)がキー動作である。特定部42cは、特定の動作に応じて、動画像に含まれる複数の画像の中からキー動作を実行している画像を特定する。具体的には、特定部42cは、第1動画像における対象者の骨格モデルに基づいて、第1動画像において対象者が特定の動作におけるキー動作を実行している第1画像を特定する。また、特定部42cは、第2動画像における対象者の骨格モデルに基づいて、第2動画像において対象者がキー動作を実行している第2画像を特定する。第1動画像及び第2動画像は、それぞれ、キー画像の一例である。
特定部42cは、例えば、特定の動作が「バンザイ」の場合、骨格モデルにおける手首の骨格点の位置が最も高い画像を、キー動作を実行している画像として特定する。或いは、特定部42cは、例えば、特定の動作が「バンザイ」の場合、動作が開始されてから骨格モデルにおける手首の骨格点の位置の変化量が最も小さい、又は、当該位置が上がる変化から下がる変化に変化する変化点を含む画像をキー画像として特定してもよい。このように、例えば、特定部42cは、キー動作に対応する、対象者の骨格モデルにおける複数の関節のうちのいずれかの位置、及び、当該位置の変化量の少なくともいずれかに基づいて、キー画像を特定する。
キー画像を特定するための骨格点の位置及び/又は変化量などを示す情報は、例えば、予め任意に設定されて記憶部43に記憶される。
なお、例えば、特定部42cは、推定部42bにより推定された骨格モデルにおける複数の骨格点の位置に基づいて、骨格モデルの周囲に複数の三次元領域を設定(算出)し、さらに、特定部42cは、特定部42cにより設定された複数の三次元領域のうち、特定の動作において(つまり、特定の動作を実行中に)対象者の手首の骨格点が位置する三次元領域(対象三次元領域)に基づいて、キー画像を特定してもよい。
例えば、特定部42cは、画像における対象者の三次元座標データ(つまり、三次元骨格モデル)に基づいて、対象者の手首の骨格点の座標が複数の三次元領域のうちのいずれの領域に位置するか(言い換えると、含まれるか)を特定する。また、例えば、特定部42cは、特定の動作を実行した対象者を被写体として含む動画像における対象者の三次元骨格モデル(つまり、三次元座標データ)に基づいて、特定の動作を実行中に、複数の三次元領域のうち、対象者の手首の骨格点が位置した1以上の三次元領域を特定する。特定部42cは、特定した当該1以上の三次元領域に基づいて、キー画像を特定してもよい。
また、例えば、特定部42cは、対象者の骨格モデルに基づいて、動画像における、対象者が特定の動作を開始する動作(姿勢)である開始動作を実行している開始画像と、特定の動作を終了する動作(姿勢)である終了動作を実行している終了画像とを特定してもよい。
図3に示す例では、特定の動作である「バンザイ」において、下ろしている手を上げ始めた動作(開始動作)を含む画像(時刻Aにおける画像)が開始画像である。また、キー動作を経由して上げていた手を完全に下した動作(終了動作)を含む画像(時刻Cにおける画像)が終了画像である。開始動作及び終了動作は、例えば、特定の動作毎に予め任意に定められている。
例えば、特定部42cは、開始動作及び終了動作に対応する、対象者の骨格モデルにおける複数の関節のうちのいずれかの位置、及び、当該位置の変化量の少なくともいずれかに基づいて、開始画像及び終了画像を特定する。
開始画像及び終了画像を特定するための骨格点の位置及び/又は変化量などを示す情報は、例えば、予め任意に設定されて記憶部43に記憶される。
図4は、実施の形態に係る特定の動作とキー動作との関係の具体例を示す図である。
例えば、特定の動作が「立ち上がり」である場合、判定対象動作(開始動作、キー動作、及び、終了動作の少なくともいずれかを含む動作)として、座位(例えば、椅子に座った状態)と、立位(椅子から立ち上がった状態)との2つの動作が設定される。例えば、座位及び立位は、腰の位置と膝の位置とに基づいて決定される。具体的には、骨格モデルにおける腰の骨格点の位置と膝の骨格点の位置とが高さ方向において最も近い位置の動作が座位であって、開始動作及び終了動作として設定される。特定部42cは、動画像の中で対象者の動作が座位となっている画像を開始画像又は終了画像として特定する。例えば、特定部42cは、対象者の動作が座位となっている2つの画像が特定された場合、動画像において先に再生される画像を開始画像と特定し、動画像において後に再生される画像を終了画像と特定する。また、例えば、骨格モデルにおける腰の骨格点の位置と膝の骨格点の位置とが高さ方向において最も離れた位置の動作が立位であって、キー動作として設定される。特定部42cは、動画像の中で対象者の動作が立位となっている画像をキー画像として特定する。
また、例えば、特定の動作が「足踏み」である場合、判定対象動作として、足首の位置が最も低い動作と、足首の位置が最も高い動作との2つの動作が設定される。具体的には、骨格モデルにおける足首の骨格点の位置が最も低い動作が、開始動作及び終了動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける足首の骨格点の位置が最も低い動作を含む画像を開始画像または終了画像として特定する。例えば、特定部42cは、当該動作を含む画像が2つ特定された場合、動画像において先に再生される画像を開始画像と特定し、動画像において後に再生される画像を終了画像と特定する。また、例えば、骨格モデルにおける足首の骨格点の位置が最も高い動作が、キー動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける足首の骨格点の位置が最も高い動作を含む画像をキー画像として特定する。
また、例えば、特定の動作が「背中タッチ」である場合、キー動作として、手首の位置が最も高い動作が設定される。具体的には、骨格モデルにおける手首の骨格点の位置が最も高い動作が、キー動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける手首の骨格点の位置が最も高い動作を含む画像をキー画像として特定する。或いは、例えば、特定の動作が「背中タッチ」である場合、キー動作として、肘角が最も屈曲している動作が設定される。例えば、この動作は、骨格モデルにおける肘の骨格点の位置と、肩の骨格点の位置と、手首の骨格点の位置との位置関係に基づいて決定される。具体的には、骨格モデルにおける、手首の骨格点と肘の骨格点とを結ぶ線と、肘の骨格点と肩の骨格点とを結ぶ線とのなす角が最も小さい動作が、キー動作として設定される。特定部42cは、動画像の中で、手首の骨格点と肘の骨格点とを結ぶ線と、肘の骨格点と肩の骨格点とを結ぶ線とのなす角が最も小さい動作を含む画像をキー画像として特定する。
また、例えば、特定の動作が「つま先タッチ」である場合、キー動作として、手首の位置が最も低い動作が設定される。具体的には、骨格モデルにおける手首の骨格点の位置が最も低い動作が、キー動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける手首の骨格点の位置が最も低い動作を含む画像をキー画像として特定する。
また、例えば、特定の動作が「バンザイ」である場合、キー動作として、手首の位置が最も高い動作が設定される。具体的には、骨格モデルにおける手首の骨格点の位置が最も高い動作が、キー動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける手首の骨格点の位置が最も高い動作を含む画像をキー画像として特定する。
また、例えば、特定の動作が「頭後ろタッチ」である場合、キー動作として、手首の位置が最も高い動作が設定される。具体的には、骨格モデルにおける手首の骨格点の位置が最も高い動作が、キー動作として設定される。特定部42cは、動画像の中で、骨格モデルにおける手首の骨格点の位置が最も高い動作を含む画像をキー画像として特定する。
なお、上記した判定対象動作を特定するために用いられる骨格点の位置及び位置関係などは、任意に定められてよく、上記に限定されない。例えば、特定の動作が「つま先タッチ」である場合、キー動作として、手首の位置と足首の位置が最も近い動作が設定されてもよい。
図5A~図5Fは、実施の形態に係る特定の動作に応じた骨格点の位置と、当該特定の動作を実行したユーザを被写体として含む動画像における画像との関係の例を示す図である。図5A~図5Fに示すグラフの横軸は、動画像に含まれる複数の画像のうち、先に再生される画像から、1から順に自然数が画像毎に固有に定められる画像番号を示し、縦軸は、対応する画像番号の画像に含まれる対象者の骨格点の位置又は複数の骨格点の距離などの位置関係を示す。つまり、図5A~図5Fに示すグラフは、動画再生時間に対する、対象者の骨格点の位置又は複数の骨格点の距離などの特徴量の時間変化を示すグラフである。
図5Aに示す第1例は、特定の動作が「立ち上がり」である場合の腰の骨格点と膝の骨格点との高さ方向における距離の時間変化を示すグラフである。
特定部42cは、例えば、動画像におけるキー画像より前の画像であって、当該距離が離れる方向に大きく変化する動作を含む画像番号A1の画像を開始画像と特定し、当該距離が最も大きくなる画像番号B1の画像をキー画像と特定し、動画像におけるキー画像より後の画像であって、当該距離が小さくなり変化があまり見られなくなる動作を含む画像番号C1の画像を終了画像と特定する。
なお、図5Aに示す2つのピークのように、動画像の中に例えばキー画像が複数存在する場合には、例えば特定部42cは、一方のキー画像を任意に特定し、当該一方に対応する開始画像と終了画像とを特定する。
図5Bに示す第2例は、特定の動作が「足踏み」である場合の足首の骨格点の高さの時間変化を示すグラフである。
特定部42cは、例えば、足首の骨格点の高さが最も高い動作を含む画像番号B2の画像をキー画像と特定する。
図5Cに示す第3例は、特定の動作が「背中タッチ」である場合の肘の骨格点の高さの時間変化を示すグラフである。
特定部42cは、例えば、動画像におけるキー画像より前の画像であって、当該高さが大きく変化する動作を含む画像番号A3の画像を開始画像と特定し、当該高さが最も高い画像番号B3の画像をキー画像と特定し、動画像におけるキー画像より後の画像であって、当該高さが低くなり変化があまり見られなくなる動作を含む画像番号C3の画像を終了画像と特定する。
図5Dに示す第4例は、特定の動作が「つま先タッチ」である場合の足首の骨格点と手首の骨格点との距離の時間変化を示すグラフである。
特定部42cは、例えば、動画像におけるキー画像より前の画像であって、当該距離が近づく方向に大きく変化する動作を含む画像番号A4の画像を開始画像と特定し、当該距離が小さくなり変化があまり見られなくなる動作を含む画像番号B41の画像をキー画像(第1キー画像)と特定し、当該第1キー画像の後に当該距離が離れる方向に大きく変化する動作を含む画像番号B42の画像をキー画像(第2キー画像)と特定し、動画像におけるキー画像より後の画像であって、当該距離が大きくなり変化があまり見られなくなる動作を含む画像番号C4の画像を終了画像と特定する。
このように、キー画像は2以上特定されてもよい。
図5Eに示す第5例は、特定の動作が「バンザイ」である場合の手首の骨格点の高さの時間変化を示すグラフである。
特定部42cは、例えば、動画像におけるキー画像より前の画像であって、当該高さが最も低い動作を含む画像番号A5の画像を開始画像と特定し、当該高さが最も高い画像番号B5の画像をキー画像と特定する。
図5Fに示す第6例は、特定の動作が「頭後ろタッチ」である場合の手首の骨格点の高さの時間変化を示すグラフである。
特定部42cは、例えば、当該高さが最も高い動作を含む画像番号B6の画像をキー画像と特定し、キー画像の後であって、当該高さが最も低い画像番号C6の画像を終了画像と特定する。
なお、特定部42cが開始画像、キー画像、及び、終了画像を特定するために用いる特徴量の変化量などの閾値は、任意に定められてよく、特に限定されない。
特定部42cは、例えば、特定の動作が「立ち上がり」の場合、動画像においてキー画像より前に再生される画像であって、腰の骨格点と膝の骨格点との高さ方向における距離について、所定の画像における当該距離から、当該所定の画像の次に再生される画像における当該距離に、当該距離が離れる方向に所定の変化量以上変化するか否かを判定する。特定部42cは、例えば、所定の変化量以上変化すると判定した場合、所定の画像を開始画像と特定する。特定部42cは、複数の開始画像が特定された場合、任意の1つの画像を開始画像と特定してもよいし、予め任意に定められる方法に基づいて1つの画像を開始画像と特定してもよい。キー画像及び終了画像を特定する処理についても、上記した開始画像を特定するための処理と同様である。
このような閾値情報は、例えば、記憶部43に予め記憶される。
編集部42dは、動画像を編集する処理部である。具体的には、編集部42dは、複数の動画像の動画再生時間が揃うように、複数の動画像のうちの1以上の動画像を編集する。編集部42dは、例えば、第1画像及び第2画像に基づいて、第1動画像及び第2動画像の少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを、それぞれの動画再生時間(開始から終了までの総動画再生時間)が揃うように生成する。また、編集部42dは、(i)第3動画像に第1画像が含まれるように、且つ、第4動画像に第2画像が含まれるように、第1動画像及び第2動画像の少なくとも一方を編集する。また、編集部42dは、(ii)第1動画像及び第2動画像の少なくとも一方に含まれる画像を減らすように、又は、第1動画像及び第2動画像の少なくとも一方に含まれる画像を増やすように、第1動画像及び第2動画像の少なくとも一方を編集する。例えば、編集部42dは、第1動画像及び第2動画像のそれぞれに含まれる画像の枚数が同じになるように第1動画像及び第2動画像の少なくとも一方を編集することで、第3動画像と第4動画像との動画再生時間が揃うようにそれぞれを生成する。
なお、動画像の画像を増やす場合には、画像を追加する位置の前後の画像のいずれかと同じ画像を追加してもよい、前後の画像から推定される画像を生成して追加してもよい。
また、動画再生時間を揃えるとは、完全に動画再生時間が一致するだけでなく、実質的に一致する、例えば、動画再生時間が数秒程度異なる、又は、動画像に含まれる画像の枚数が数枚程度異なることも意味する。
図6は、実施の形態に係る編集部42dが実行する動画像の編集処理の一例を説明するための図である。具体的には、図6の(a)は、第1動画像を模式的に示す図である。図6の(b)は、第1動画像が編集された第3動画像を模式的に示す図である。図6の(c)は、第2動画像を模式的に示す図である。図6の(d)は、第2動画像が編集された第4動画像を模式的に示す図である。図6に示す第1動画像~第4動画像のそれぞれの横幅は、各動画像の動画再生時間を模式的に示している。図6に示す例では、第1動画像と第2動画像とは、動画再生時間が異なる。そこで、編集部42dは、第1動画像及び第2動画像のそれぞれを編集することで、動画再生時間が互いに同じである、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを生成する。
例えば、特定部42cは、第1動画像及び第2動画像のそれぞれの、開始画像と、キー画像と、終了画像とを特定する。
編集部42dは、例えば、第1動画像及び第2動画像のそれぞれの開始画像に基づいて、第1動画像及び第2動画像のそれぞれの、当該開始画像より前の画像を削除する。次に、編集部42dは、例えば、第1動画像及び第2動画像のそれぞれの終了画像に基づいて、第1動画像及び第2動画像のそれぞれの、当該終了画像より後の画像を削除する。次に、編集部42dは、例えば、第1動画像及び第2動画像のそれぞれの開始画像、キー画像、及び、終了画像に基づいて、開始画像、キー画像、及び、終了画像を残すように、且つ、開始画像、キー画像、及び、終了画像が再生されるタイミングが揃うように、第1動画像及び第2動画像のそれぞれの、開始画像と終了画像との間の1以上の画像を、所定の枚数毎に削除する。これにより、動画再生時間が揃った(つまり、動画再生時間が同じ)第3動画像と第4動画像とが生成される。
このように、例えば、編集部42dは、開始画像と終了画像とに基づいて、第1動画像及び第2動画像の少なくとも一方を編集する。また、例えば、編集部42dは、第1動画像における第1画像より後の動画像、及び、第2動画像における第2画像より後の動画像の少なくとも一方を削除することで、第1動画像及び第2動画像の少なくとも一方を編集する。また、例えば、編集部42dは、第1動画像及び第2動画像の少なくとも一方に含まれる複数の画像を所定の枚数毎に削除することで、第1動画像及び第2動画像の少なくとも一方を編集する。
なお、所定の枚数は、予め任意に定められてよく、特に限定されない。所定の枚数を示す情報は、例えば、記憶部43に予め記憶される。
また、第3動画像におけるキー画像の動画再生タイミングと第4動画像におけるキー画像の動画再生タイミングとは、異なっていてもよいが、揃っているとよい。これによれば、後述するように、第3動画像と第4動画像とが同時に再生された際に、キー動作を視覚的に比較しやすくできる。
開始画像と終了画像とは、それぞれ、編集後動画像(例えば、第3動画像及び第4動画像)のそれぞれに含まれてもよいし、含まれなくてもよい。
評価部42eは、動画像に含まれる対象者が実行している特定の動作に基づいて、当該動作を評価する処理部である。例えば、評価部42eは、キー動作に対応する、(iii)対象者の骨格モデルにおける複数の骨格点のうちのいずれかの位置、(iv)複数の骨格点のうちの2以上の骨格点の位置関係、及び、(v)複数の骨格点のうちのいずれかの骨格点の移動速度の少なくともいずれかである評価点について、第1動画像における評価点と第2動画像における評価点との差分を示す差分情報を生成する。
例えば、評価部42eは、特定の動作が「バンザイ」である場合、手首の骨格点の高さを評価点として、第1動画像に含まれるキー画像(第1画像)における手首の骨格点の高さと、第2動画像に含まれるキー画像(第2画像)における手首の骨格点の高さとの差分を算出し、算出結果を示す差分情報を生成する。
なお、特定の動作に対応する評価点は、予め任意に定められてよく、特に限定されない。
また、評価部42eは、上記した評価点に基づいて、対象者が実行可能な、特定の動作に応じた日常生活動作の程度を判定(算出)してもよい。例えば、評価部42eは、対象者が実行可能な日常生活動作の程度を判定してもよい。この判定結果は、評価情報に含まれてもよい。また、例えば、評価部42eは、算出した差分に基づいて、特定の動作についての対象者に対する評価を示す評価情報を生成してもよい。
例えば、特定の動作が「バンザイ」の場合、評価点である手首の骨格点の高さは、高い程適切に特定の動作が実行できていると考えられる。そこで、例えば、評価部42eは、第1動画像と第2動画像のうち、後に生成された動画像における評価点から、先に生成された動画像における評価点を引き、正であれば対象者における特定の動作がよくなっていると判定し、負であれば対象者における特定の動作が悪くなっていると判定する。
また、例えば、評価部42eは、動画像における評価点に基づいて、当該動画像における特定の動作についての対象者に対する評価を示す個別評価情報を生成してもよい。
評価部42eは、例えば、記憶部43に記憶されたデータベースに基づいて、特定の動作についての対象者に対する評価を実行する。
データベースは、例えば、特定の動作と、手首の高さなどの特定の動作における評価点と、当該評価点に応じた評価方法と、差分に対応する評価方法と、特定の動作に応じた日常生活動作(ADL)と、が紐づけられて格納されたデータである。データベースには、例えば、特定の動作が「バンザイ」の場合、評価点が手首の骨格点の高さであり、高い程適切に特定の動作が実行できていると判定するように評価点に応じた評価方法が定められ、後に生成された動画像における評価点の方が当該高さが高い場合よくなっていると判定するように差分に対応する評価方法が定められ、ADLが「食事」であると定められる。
出力部42fは、通信部41を介して情報端末30に編集部42dが編集した複数の画像を出力する処理部である。具体的には、出力部42fは、第3動画像と第4動画像とを出力する。制御部32は、出力された複数の動画像を取得し、当該複数の動画像を表示部35に表示させる。また、例えば、出力部42fは、通信部41を介して評価部42eによる差分情報及び評価結果を動画像とともに出力する。制御部32は、出力された差分情報及び評価結果を取得し、当該差分情報及び評価結果を動画像とともに表示部35に表示させる。
図7は、実施の形態に係る表示部35が表示する2つの動画像の具体例を示す図である。
制御部32は、例えば、互いに異なる期間に生成された動画像に基づく2つの動画像50、51を表示部35に表示させる。例えば、動画像50は、表示部35に動画像50、51が表示された日の一週間前などの対象者が過去に撮影されることで生成された動画像であり、動画像51は、表示部35に動画像50、51が表示された日の当日などの動画像50より後であって対象者が最近撮影されることで生成された動画像である。制御部32は、例えば、動画像50と動画像51とが並んで同時に再生されるように、表示部35を制御する。
また、例えば、制御部32は、「前回よりよくなっています。」などの評価情報を表示部35に表示させる。
また、例えば、制御部32は、「改善度合い:+□□mm」などの差分情報を表示部35に表示させる。
その他、制御部32は、動画像50、51とともに、「動作:バンザイ」などの特定の動作を示す情報、「評価ポイント:手首の高さ」などの差分情報を生成するための評価点を示す情報、及び、「前回:〇〇mm」、「今回:△△mm」などの、差分情報を生成するための動画像50、51それぞれの評価点を示す情報などを表示部35に表示させてもよい。
これにより、情報端末30を用いる対象者又は当該対象者を介護する介護者などのユーザは、特定の動作を実行する対象者の変化を簡単に把握できる。
なお、出力部42fは、動画像50、動画像51、差分情報、及び、評価情報などの情報を通信部41を介して情報端末30に、同じタイミングで出力してもよいし、異なるタイミングで出力してもよい。
また、出力部42fは、特定の動作に紐づくADLを示す情報を出力してもよい。制御部32は、当該ADLを示す情報を動画像50、51とともに表示部35に表示させてもよい。
また、表示部35に表示される動画像50、51には、対象者の骨格モデルが含まれていてもよいし、含まれていなくてもよい。例えば、出力部42fは、通信部41を介して情報端末30に出力する動画像に含まれる対象者に対応する骨格モデルを示す情報を、通信部41を介して情報端末30に出力してもよいし、出力しなくてもよい。
記憶部43は、取得部42aによって取得された動画像(動画像データ)、情報処理部42が実行する制御プログラム、上記した学習済みモデル、上記したデータベース、及び、上記した各種閾値などの情報を記憶する記憶装置である。記憶部43は、例えば、半導体メモリ又はHDDなどによって実現される。
[処理手順]
続いて、表示システム10の処理手順について説明する。
図8は、実施の形態に係る動画編集装置40の処理手順を示すフローチャートである。なお、以下の説明では、動画編集装置40が、第1期間に特定の動作を実行した対象者を被写体として含む第1動画像と、第1期間とは異なる第2期間に特定の動作を実行した対象者を被写体として含む第2動画像との少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを生成する場合を例に説明する。
まず、取得部42aは、第1動画像と第2動画像とを取得する(S100)。例えば、取得部42aは、通信部41を介して情報端末30から第1動画像と第2動画像とを取得する。第1動画像と第2動画像とが記憶部43に記憶されている場合、取得部42aは、記憶部43から第1動画像と第2動画像とを取得する。
次に、推定部42bは、第1動画像及び第2動画像のそれぞれにおける対象者の骨格モデルを推定する(S101)。具体的には、推定部42bは、第1動画像に基づいて、第1動画像における対象者の骨格モデル(第1骨格モデルともいう)を推定し、且つ、第2動画像に基づいて、第2動画像における対象者の骨格モデル(第2骨格モデルともいう)を推定する。
次に、特定部42cは、第1動画像及び第2動画像のそれぞれにおいて、推定された対象者の骨格モデルに基づいてキー動作を実行している画像(キー画像)を特定する(S102)。具体的には、特定部42cは、第1骨格モデルに基づいて、第1動画像におけるキー画像である第1画像を特定し、且つ、第2骨格モデルに基づいて、第2動画像におけるキー画像である第2画像を特定する。
次に、編集部42dは、第1画像及び第2画像に基づいて、第1動画像及び第2動画像の少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを、それぞれの動画再生時間が揃うように生成する(S103)。また、編集部42dは、(i)第3動画像に第1画像が含まれるように、且つ、第4動画像に第2画像が含まれるように、且つ、(ii)第1動画像及び第2動画像の少なくとも一方に含まれる画像を減らすように、又は、第1動画像及び第2動画像の少なくとも一方に含まれる画像を増やすように、第1動画像及び第2動画像の少なくとも一方を編集する。
次に、評価部42eは、第1動画像及び第2動画像に基づいて、特定の動作についての対象者の評価を実行する(S104)。例えば、評価部42eは、第1動画像及び第2動画像に基づいて、上記した差分情報及び評価情報を含む評価結果を生成する。
なお、評価部42eは、第3動画像及び第4動画像に基づいて、特定の動作についての対象者の評価を実行してもよい。
次に、出力部42fは、第3動画像及び第4動画像と、評価結果とを出力する(S105)。
図9は、実施の形態に係る表示システム10の処理手順を示すシーケンス図である。
まず、指示部36は、対象者に特定の動作を行うように指示する(S201)。指示部36は、例えば、対象者が実行可能な日常生活動作の程度の判定処理を行う指示(つまり、特定の動作を対象者に開始させる指示)をユーザから受付部34が受け付けた場合、「バンザイしてください」などの指示を行う。
なお、制御部32は、受付部34が指示を受け付けた場合、カメラ20により撮影された動画像を取得し、取得した動画像における対象者を識別してもよい。動画像における対象者の識別には、例えば、パターンマッチングなどの公知の画像解析技術が用いられる。
次に、カメラ20は、特定の動作を行う対象者を被写体として撮影することで、特定の動作を行う対象者を被写体として含む動画像を生成する(S202)。
次に、制御部32は、カメラ20が生成した動画像を、通信部31を介して動画編集装置40に出力する(S203)。このとき、制御部32は、画像を秘匿化して動画編集装置40に送信してもよい。これにより、対象者のプライバシーデータが保護される。
情報端末30は、互いに異なる期間にステップS201~S203を実行することで、互いに異なる期間に撮影されることで生成された第1動画像と第2動画像とを動画編集装置40に送信する。
なお、第1動画像と第2動画像とは、例えば記憶部33に一度記憶され、同じタイミングで動画編集装置40に送信されてもよい。
上記した情報端末30の処理により、取得部42aは、第1動画像と第2動画像とを取得する(S100)。
次に、推定部42bは、第1動画像及び第2動画像のそれぞれにおける対象者の骨格モデルを推定する(S101)。
次に、特定部42cは、第1動画像及び第2動画像のそれぞれにおいて、推定された対象者の骨格モデルに基づいてキー画像を特定する(S102)。
次に、編集部42dは、第1画像及び第2画像に基づいて、第1動画像及び第2動画像の少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを、それぞれの動画再生時間が揃うように生成する(S103)。また、編集部42dは、(i)第3動画像に第1画像が含まれるように、且つ、第4動画像に第2画像が含まれるように、且つ、(ii)第1動画像及び第2動画像の少なくとも一方に含まれる画像を減らすように、又は、第1動画像及び第2動画像の少なくとも一方に含まれる画像を増やすように、第1動画像及び第2動画像の少なくとも一方を編集する。
次に、評価部42eは、第1動画像及び第2動画像に基づいて、特定の動作についての対象者の評価を実行する(S104)。
次に、出力部42fは、第3動画像及び第4動画像と、評価結果とを出力する(S105)。例えば、出力部42fは、通信部41を介して、情報端末30に、第3動画像及び第4動画像と、評価結果とを出力する。
次に、制御部32は、出力部42fが通信部41を介して出力した、第3動画像及び第4動画像と、評価結果とを通信部31を介して取得する(S204)。
次に、表示部35は、制御部32が取得した、第3動画像及び第4動画像と、評価結果とを表示する(S205)。具体的には、制御部32は、取得した第3動画像と第4動画像とを表示部35に同時に再生させる。
なお、情報端末30は、ステップS201~ステップS203の処理を1ループ処理として、対象者が複数の特定の動作のそれぞれを行う度に実行してもよいし、ステップS201及びステップS202の処理を複数の特定の動作のそれぞれについて実行し、対象者が全ての特定の動作を終了してから、ステップS203を実行してもよい。
また、対象者が複数の特定の動作を行った場合、それらの特定の動作のそれぞれに紐づけられた動画像及び評価結果が表示されてよいし、評価結果が悪かったもののみ表示されてもよい。これらの判定結果は、結果が劣る順に表示されてもよい。
また、情報端末30は、特定の動作の指示を行う前に、対象者の身体機能に応じて対象者に行わせる特定の動作を選定してもよい。例えば、ステップS201の前に、座位の姿勢から立ち上がる動作を行うように対象者に指示をしてもよい。このとき、情報端末30は、カメラ20により撮影された対象者の画像に基づいて対象者が立ち上がる動作をできるか否かを判定してもよい。或いは、対象者に行わせる特定の動作は、受付部34で受け付けたユーザの指示に基づいて選定されてもよい。
これによれば、対象者の身体機能に応じて特定の動作を選定することができるため、対象者の日常生活動作の状態を効率よく、かつ、正確に判定することができる。
[効果など]
以上説明したように、実施の形態に係る動画編集方法は、コンピュータが実行する動画編集方法であって、第1期間に特定の動作を実行した対象者を被写体として含む第1動画像と、第1期間とは異なる第2期間に特定の動作を実行した対象者を被写体として含む第2動画像とを取得する取得ステップ(S100)と、第1動画像及び第2動画像のそれぞれにおける対象者の骨格モデルを推定する推定ステップ(S101)と、第1動画像における対象者の骨格モデルに基づいて、第1動画像において対象者が特定の動作におけるキー動作を実行している第1画像を特定し、且つ、第2動画像における対象者の骨格モデルに基づいて、第2動画像において対象者がキー動作を実行している第2画像を特定する特定ステップ(S102)と、第1画像及び第2画像に基づいて、第1動画像及び第2動画像の少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを、それぞれの動画再生時間が揃うように生成する編集ステップ(S103)と、第3動画像と、第4動画像とを出力する出力ステップ(S105)と、を含む。編集ステップでは、(i)第3動画像に第1画像が含まれるように、且つ、第4動画像に第2画像が含まれるように、且つ、(ii)当該少なくとも一方に含まれる画像を減らすように、又は、当該少なくとも一方に含まれる画像を増やすように、当該少なくとも一方を編集する。
これによれば、対象者の動作を評価するための特定の動作の中で特に重要と考えられるキー動作が、それぞれの動画像に含まれるように、第1動画像と第2動画像との動画再生時間が揃えられる。そのため、複数の動画像のそれぞれに含まれるユーザの動作を視覚的に比較しやすくすることができる。特に、複数の動画像のそれぞれに含まれるユーザのキー動作を視覚的に比較しやすくすることができる。
また、例えば、特定ステップでは、さらに、対象者の骨格モデルに基づいて、当該少なくとも一方における、対象者が特定の動作を開始する開始動作を実行している開始画像と、特定の動作を終了する終了動作を実行している終了画像とを特定し、編集ステップでは、開始画像と終了画像とに基づいて、当該少なくとも一方を編集する。
これによれば、例えば、動画像に含まれる特定の動作が実行されていない時間の動画像を適切に削除できる。
また、例えば、編集ステップでは、第1動画像における第1画像より後の動画像、及び、第2動画像における第2画像より後の動画像の少なくともいずれかを削除することで、当該少なくとも一方を編集する。
これによれば、キー動作以外を実行している時間の動画像を簡単に削除できる。
また、例えば、編集ステップでは、当該少なくとも一方に含まれる複数の画像を所定の枚数毎に削除することで、当該少なくとも一方を編集する。
これによれば、編集された動画像が再生された際に対象者の姿勢が急減に変化するような違和感をユーザに生じさせることを抑制しつつ、動画像を部分的に削除して動画像の動画再生時間を短くできる。
また、例えば、特定ステップでは、キー動作に対応する、対象者の骨格モデルにおける複数の骨格点のうちのいずれかの位置、及び、当該位置の変化量の少なくともいずれかに基づいて、第1画像と第2画像とを特定する。
これによれば、骨格モデルを用いて第1画像と第2画像とを適切に特定できる。
また、例えば、実施の形態に係る動画編集方法は、さらに、キー動作に対応する、(iii)対象者の骨格モデルにおける複数の骨格点のうちのいずれかの位置、(iv)複数の骨格点のうちの2以上の骨格点の位置関係、及び、(v)複数の骨格点のうちのいずれかの骨格点の移動速度の少なくともいずれかである評価点について、第1動画像における評価点と第2動画像における評価点との差分を示す差分情報を生成する評価ステップ(S104)を含み、出力ステップでは、さらに、差分情報を出力する。
これによれば、骨格モデルを用いて評価点の変化を簡単に算出できる。
また、例えば、評価ステップでは、さらに、当該差分に基づいて、特定の動作についての対象者に対する評価を示す評価情報を生成し、出力ステップでは、さらに、評価情報を出力する。
これによれば、対象者が特定の動作を適切に実行できているか否かをユーザが簡単に把握できる。
また、実施の形態に係る動画編集装置40は、第1期間に特定の動作を実行した対象者を被写体として含む第1動画像と、第1期間とは異なる第2期間に特定の動作を実行した対象者を被写体として含む第2動画像とを取得する取得部42aと、第1動画像及び第2動画像のそれぞれにおける対象者の骨格モデルを推定する推定部42bと、第1動画像における対象者の骨格モデルに基づいて、第1動画像において対象者が特定の動作におけるキー動作を実行している第1画像を特定し、且つ、第2動画像における対象者の骨格モデルに基づいて、第2動画像において対象者がキー動作を実行している第2画像を特定する特定部42cと、第1画像及び第2画像に基づいて、第1動画像及び第2動画像の少なくとも一方を編集することで、第1動画像に基づく第3動画像と、第2動画像に基づく第4動画像とを、それぞれの動画再生時間が揃うように生成する編集部42dと、第3動画像と、第4動画像とを出力する出力部42fと、を備え、編集部42dは、(i)第3動画像に第1画像が含まれるように、且つ、第4動画像に第2画像が含まれるように、且つ、(ii)当該少なくとも一方に含まれる画像を減らすように、又は、当該少なくとも一方に含まれる画像を増やすように、当該少なくとも一方を編集する。
また、実施の形態に係る表示システム10は、動画編集装置40と、情報端末30と、を備え、動画編集装置40は、さらに、情報端末30と通信を行う第1通信部(通信部41)を備え、情報端末30は、動画編集装置40と通信を行う第2通信部(通信部31)と、対象者に特定の動作を行うように指示する指示部36と、特定の動作を実行している対象者を撮影することで第1動画像及び第2動画像を生成するカメラ20と、第2通信部を介して動画編集装置40に第1動画像及び第2動画像を出力し、且つ、第2通信部を介して動画編集装置40から第3動画像及び第4動画像を取得する制御部32と、第3動画像及び第4動画像を表示する表示部35と、を備える。
これらによれば、上記した実施の形態に係る動画編集方法と同様の効果を奏する。
(その他の実施の形態)
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではない。
例えば、対象者に特定の動作を実行させる指示は、ユーザにより行われてもよい。この場合、情報端末は、指示部を有さなくてもよい。
また、情報端末30は、特定の動作を示す情報とともに当該特定の動作を実行した際の対象者の動画像を動画編集装置40に送信してもよい。
また、例えば、情報端末30は、受付部34で受け付けたユーザからの指示に基づいて、動画像を編集させる旨の指示を示す動画編集装置40に送信してもよい。この場合、例えば、動画編集装置40は、特定の動作を対象者に実行させる指示を示す情報を情報端末30に送信してもよい。また、この場合、情報端末30は、受信した当該情報に基づいて、指示部36によって対象者に特定の動作を実行させるとともに、カメラ20によって当該対象者を撮影してもよい。
また、評価部42eは、推定部42bにより推定された骨格モデルに基づいて、特定の動作における対象者の動きの特徴を示す特徴量を算出し、算出した特徴量に基づいて、対象者が身体動作を行うための能力である身体機能を判定してもよい。例えば、評価部42eは、推定部42bにより推定された骨格モデルに基づいて、対象者の所定の骨格点に繋がる2つのリンクのなす角度(関節角度)を特徴量として算出する。或いは、例えば、評価部42eは、特定の動作における所定の骨格点と末端部位との距離、及び、特定の動作における所定の骨格点の位置の変動幅などを特徴量として算出する。例えば、評価部42eは、算出した各値が所定の閾値以上であるか否か、又は、所定の範囲内であるか否かに基づいて、対象者の身体機能を判定する。
これによれば、例えば、日常生活動作に問題がない対象者に対して、筋力などの身体機能に基づいて身体機能の維持又は向上のために必要な訓練計画を提供することができる。所定の骨格点、所定の閾値、及び、所定の範囲は、任意に定められてよい。これらの情報は、記憶部43に予め記憶されていてもよい。
また、評価部42eは、さらに、対象者の指の動きを伴う動作(例えば、手の開閉(グーパー)又は指の対立(OKサイン)など)の可否の判定結果にも基づいて、対象者が実行可能な日常生活動作の程度を判定してもよい。例えば、情報端末30の受付部34が指の動きを伴う動作の可否判定の指示を受け付けると、制御部32は、指示部36に指の動きを伴う動作を行うように指示させる。情報端末30は、カメラ20で撮影された指の動きを伴う動作を行う対象者を被写体として含む画像を取得すると、受付部34により受け付けられた指示と、カメラ20により撮影された画像とを動画編集装置40に送信する。動画編集装置40の評価部42eは、例えば、学習済みモデルと異なる図示しない他の学習済みモデルを用いて、手の開閉の動作が可能であるか否かを判定する。また、評価部42eは、他の学習済みモデルを用いて、画像において人差し指の先と親指の先とがくっついているか否か、人差し指と親指との間の空間の形状及び大きさを識別して、指の対立の動作が可能であるか否かを判定してもよい。当該他の学習済みモデルは、記憶部43に予め記憶されていてもよい。
これによれば、対象者が物を把持できるか否かを判定することができるため、対象者が実行可能な日常生活動作の程度をさらに精度よく判定することができる。
また、対象者の身体機能に関する情報は、記憶部43に予め記憶されていてもよいし、受付部34でユーザから当該情報を受け付けて情報端末30から取得部42aが取得してもよい。
また、評価部42eは、判定結果に基づいて、リハビリテーションの訓練計画を生成してもよい。このとき、例えば、評価部42eは、判定結果に加えて、対象者の身体機能に基づいて、リハビリテーションの訓練計画を作成してもよい。
また、上記した実施の形態では、2つの動画像について、編集部42dによって動画再生時間が揃うように編集され、表示部35に同時に表示される。例えば、3以上の動画像について、編集部42dによって動画再生時間が揃うように編集され、表示部35によって同時に表示されてもよい。
また、互いに異なる特定の動作を行った対象者を被写体として含む複数の動画像が表示部35によって同時に表示されてもよい。
また、例えば、制御部32は、動画像に含まれる対象者が実行している特定の動作が何であるかを示す情報を動画像と紐付けて通信部31を介して動画編集装置40に送信してもよい。例えば、制御部32は、受付部34を介してユーザから当該情報を取得してもよいし、指示部36が指示した内容に基づいて特定の動作が何であるかを特定し、特定した結果を当該情報として取得してもよい。
なお、ステップS104は、実行されなくてもよい。この場合、動画編集装置40は、編集部42dを備えなくてもよい。
また、ステップS105では、評価結果は出力されなくてもよい。
また、動画編集装置40は、動画像に含まれる対象者が実行する特定の動作毎に、ステップS100~ステップS104の処理を1ループ処理として繰り返し実行してもよい。
また、例えば、上記実施の形態において、特定の処理部が実行する処理を別の処理部が実行してもよい。また、複数の処理の順序が変更されてもよいし、複数の処理が並行して実行されてもよい。
また、例えば、上記実施の形態において、情報処理部42などの処理部の各構成要素は、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPU又はプロセッサなどのプログラム実行部が、ハードディスク又は半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、各構成要素は、ハードウェアによって実現されてもよい。各構成要素は、回路(又は集積回路)でもよい。これらの回路は、全体として1つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。
また、本発明の全般的又は具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラム又はコンピュータで読み取り可能なCD-ROMなどの非一時的な記録媒体で実現されてもよい。また、システム、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
また、例えば、本発明は、動画編集方法として実現されてもよいし、動画編集方法をコンピュータに実行させるためのプログラムとして実現されてもよいし、このようなプログラムが記録されたコンピュータで読み取り可能な非一時的な記録媒体として実現されてもよい。
また、上記実施の形態では、表示システム10は、情報端末30と、動画編集装置40とを備える例を示したが、本発明に係る表示システムは、情報端末などの単一の装置として実現されてもよいし、複数の装置によって実現されてもよい。例えば、表示システムは、クライアントサーバシステムとして実現されてもよい。表示システムが複数の装置によって実現される場合、上記実施の形態で説明された表示システムが備える構成要素は、複数の装置にどのように振り分けられてもよい。
その他、各実施の形態に対して当業者が思いつく各種変形を施して得られる形態、又は、本発明の趣旨を逸脱しない範囲で各実施の形態における構成要素及び機能を任意に組み合わせることで実現される形態も本発明に含まれる。