Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6744559B2 - Information processing device, information processing method, and program - Google Patents
[go: Go Back, main page]

JP6744559B2 - Information processing device, information processing method, and program - Google Patents

Information processing device, information processing method, and program Download PDF

Info

Publication number
JP6744559B2
JP6744559B2 JP2018242825A JP2018242825A JP6744559B2 JP 6744559 B2 JP6744559 B2 JP 6744559B2 JP 2018242825 A JP2018242825 A JP 2018242825A JP 2018242825 A JP2018242825 A JP 2018242825A JP 6744559 B2 JP6744559 B2 JP 6744559B2
Authority
JP
Japan
Prior art keywords
subject
information processing
target person
processing apparatus
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018242825A
Other languages
Japanese (ja)
Other versions
JP2019093152A (en
JP2019093152A5 (en
Inventor
和彦 木戸
和彦 木戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Canon IT Solutions Inc
Original Assignee
Canon Marketing Japan Inc
Canon IT Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc, Canon IT Solutions Inc filed Critical Canon Marketing Japan Inc
Priority to JP2018242825A priority Critical patent/JP6744559B2/en
Publication of JP2019093152A publication Critical patent/JP2019093152A/en
Publication of JP2019093152A5 publication Critical patent/JP2019093152A5/ja
Application granted granted Critical
Publication of JP6744559B2 publication Critical patent/JP6744559B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Rehabilitation Tools (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報処理装置、情報処理方法、プログラムに関し、特に所定のタイミングで対象者の通過を特定できない場合であっても、対象者の歩行速度を特定可能な仕組みに関する。 The present invention relates to an information processing apparatus, an information processing method, and a program, and more particularly to a mechanism capable of specifying a walking speed of a target person even when the passing of the target person cannot be specified at a predetermined timing.

近年、人物や物体の動きをデジタル的に記録するモーションキャプチャ技術を用いて、介護やリハビリテーションにおける効果測定が行われている。 In recent years, the effect measurement in nursing care and rehabilitation has been performed using a motion capture technology that digitally records the movement of a person or an object.

モーションキャプチャ技術の方式の一つとして、被験者(対象者とも呼ぶ)にマーカを付けて複数方位からカメラにより撮影することで、マーカを検出し、被験者の動きをデジタルデータに変換し記録する方式がある。また、マーカを使わずに、赤外線センサーを利用してセンサーから被験者までの距離を測定し、測定された値をもとに、被験者の動きを記録する方式がある。 As one of the methods of motion capture technology, there is a method of attaching a marker to a subject (also referred to as a subject) and photographing the subject from a plurality of directions with a camera to detect the marker, convert the subject's movement into digital data, and record it. is there. There is also a method of measuring the distance from the sensor to the subject using an infrared sensor without using a marker and recording the subject's movement based on the measured value.

特許文献1には、リハビリテーションの現場においてモーションキャプチャ技術を用いた仕組みについて開示されている。 Patent Document 1 discloses a mechanism using motion capture technology in the field of rehabilitation.

特開2015−61577号公報JP, 2005-61577, A

ところで、効果測定の種目の中には、第1の所定位置から第2の所定位置までを被験者が歩いたときに要した時間から歩行速度を特定し、効果測定を行う種目(以下「通常歩行」と呼ぶ)がある。 By the way, among the items of the effect measurement, the item for which the walking speed is specified from the time required when the subject walks from the first predetermined position to the second predetermined position and the effect is measured (hereinafter referred to as “normal walking”). There is).

しかしながら、特許文献1に記載されている赤外線センサーを利用してセンサーから被験者までの距離を測定し、測定された値をもとに、被験者の動きを記録する方式の場合、被験者が赤外線センサーに対して正面を向いていることを想定して被験者の動きを特定するため、通常歩行のように赤外線センサーに対して被験者が横を向いた状態で効果測定を行う種目に対しては、被験者の動きを特定し辛い可能性があった。 However, in the case of the method of measuring the distance from the sensor to the subject using the infrared sensor described in Patent Document 1 and recording the movement of the subject based on the measured value, the subject uses the infrared sensor. On the other hand, in order to identify the subject's movement assuming that the subject is facing the front, the subject's movement is measured for the event where the subject faces sideways with respect to the infrared sensor, such as normal walking. There was a possibility that it was difficult to identify the movement.

そのため、第1の所定の位置を被験者が通過するときに、必ずしも被験者の動きを特定できない恐れがあり、また、従来の仕組みでは、第1の所定の位置は固定であるため、被験者の歩行速度が特定できず効果測定を正しく行えない恐れがあった。 Therefore, when the test subject passes through the first predetermined position, the movement of the test subject may not always be identified. Further, in the conventional mechanism, the first predetermined position is fixed, so that the walking speed of the test subject is reduced. Could not be identified and the effect could not be measured correctly.

本発明は、所定のタイミングで対象者の通過を特定できない場合であっても、対象者の歩行速度を特定可能な仕組みを提供することを目的とする。 It is an object of the present invention to provide a mechanism capable of specifying the walking speed of a target person even when the passing of the target person cannot be specified at a predetermined timing.

本発明の情報処理装置は、歩行動作を行っている対象者の位置情報を重畳させた重畳動画データを生成する生成手段と、前記生成手段で生成された重畳動画データを用い、当該重畳動画データ上の第1の位置を前記対象者が通過する第1タイミングと、当該重畳動画データ上の第2の位置を前記対象者が通過する第2タイミングを特定する通過特定手段と、前記通過特定手段で特定された第1タイミングと前記第2タイミングとから、前記第1の位置と第2の位置との間の所定距離を前記対象者が歩行するのにかかった第1の所要時間を特定する時間特定手段と、前記所定距離と前記時間特定手段で特定される第1の所要時間とに基づいて、前記対象者の歩行速度を特定する歩行速度特定手段と、を有する情報処理装置であって、前記通過特定手段で前記第1タイミングを特定できなかった場合であっても、前記重畳動画データを用いて前記第1の位置と前記第2の位置との間の位置で対象者の通過が特定できた場合には、前記時間特定手段は、前記対象者の通過が特定された前記第1の位置と前記第2の位置との間の位置の通過タイミングと前記第2タイミングとから第2の所要時間を特定し、前記歩行速度特定手段は、前記第2の所要時間と、前記第1の位置と前記第2の位置との間の位置と前記第2の位置との距離とに基づいて、歩行速度を特定することを特徴とする。 The information processing apparatus of the present invention uses the superimposing moving image data generated by the generating unit that generates the superimposing moving image data on which the position information of the subject who is walking is superimposed, and the superimposing moving image data. Passing specifying means for specifying a first timing at which the subject passes the first upper position, and second timing for passing the second position on the superimposed moving image data by the subject, and the passage identifying means. From the first timing and the second timing specified in step 1, the first time required for the subject to walk the predetermined distance between the first position and the second position is specified. An information processing apparatus comprising: a time specifying unit; and a walking speed specifying unit that specifies a walking speed of the target person based on the predetermined distance and a first required time specified by the time specifying unit. Even if the passage specifying unit cannot specify the first timing, the passing of the target person at the position between the first position and the second position is performed using the superimposed moving image data. When it is possible to specify the time, the time specifying means determines the second from the passage timing and the second timing of the position between the first position and the second position where the passage of the target person is specified. Is determined based on the second required time and the distance between the second position and the position between the first position and the second position. Then, the walking speed is specified.

また、本発明の情報処理方法は、歩行動作を行っている対象者の位置情報を重畳させた重畳動画データを生成する生成手段を備える情報処理装置の制御方法であって、前記情報処理装置の通過特定手段が、前記生成手段で生成された重畳動画データを用い、当該重畳動画データ上の第1の位置を前記対象者が通過する第1タイミングと、当該重畳動画データ上の第2の位置を前記対象者が通過する第2タイミングを特定する通過特定工程と、前記情報処理装置の時間特定手段が、前記通過特定工程で特定された第1タイミングと前記第2タイミングとから、前記第1の位置と第2の位置との間の所定距離を前記対象者が歩行するのにかかった第1の所要時間を特定する時間特定工程と、前記情報処理装置の歩行速度特定手段が、前記所定距離と前記時間特定工程で特定される第1の所要時間とに基づいて、前記対象者の歩行速度を特定する歩行速度特定工程と、を有し、前記通過特定工程で前記第1タイミングを特定できなかった場合であっても、前記重畳動画データを用いて前記第1の位置と前記第2の位置との間の位置で対象者の通過が特定できた場合には、前記時間特定工程は、前記対象者の通過が特定された前記第1の位置と前記第2の位置との間の位置の通過タイミングと前記第2タイミングとから第2の所要時間を特定し、前記歩行速度特定工程は、前記第2の所要時間と、前記第1の位置と前記第2の位置との間の位置と前記第2の位置との距離とに基づいて、歩行速度を特定することを特徴とする Further, the information processing method of the present invention is a method for controlling an information processing apparatus including a generation unit that generates superimposed moving image data in which position information of a subject who is walking is superimposed. The passage identifying unit uses the superimposed moving image data generated by the generating unit, and a first timing at which the subject passes the first position on the superimposed moving image data and a second position on the superimposed moving image data. From the first timing and the second timing identified by the passage identifying step, the passage identifying step of identifying the second timing at which the target person passes And a second step, the time specifying step of specifying a first required time taken for the subject to walk a predetermined distance between the position and the second position; A walking speed specifying step of specifying a walking speed of the target person based on a distance and a first required time specified in the time specifying step, and specifying the first timing in the passage specifying step. Even if it is not possible, if the passing of the target person can be specified at the position between the first position and the second position by using the superimposed moving image data, the time specifying step is performed. , A second required time is specified from the passage timing and the second timing of the position between the first position and the second position where the passage of the target person is specified, and the walking speed identification step Specifies the walking speed based on the second required time and the distance between the second position and the position between the first position and the second position.

また、本発明のプログラムは、歩行動作を行っている対象者の位置情報を重畳させた重畳動画データを生成する生成手段を備える情報処理装置により読み取り実行されるプログラムであって、前記情報処理装置を前記生成手段で生成された重畳動画データを用い、当該重畳動画データ上の第1の位置を前記対象者が通過する第1タイミングと、当該重畳動画データ上の第2の位置を前記対象者が通過する第2タイミングを特定する通過特定手段と、前記通過特定手段で特定された第1タイミングと前記第2タイミングとから、前記第1の位置と第2の位置との間の所定距離を前記対象者が歩行するのにかかった第1の所要時間を特定する時間特定手段と、前記所定距離と前記時間特定手段で特定される第1の所要時間とに基づいて、前記対象者の歩行速度を特定する歩行速度特定手段として機能させ、前記通過特定手段で前記第1タイミングを特定できなかった場合であっても、前記重畳動画データを用いて前記第1の位置と前記第2の位置との間の位置で対象者の通過が特定できた場合には、前記時間特定手段は、前記対象者の通過が特定された前記第1の位置と前記第2の位置との間の位置の通過タイミングと前記第2タイミングとから第2の所要時間を特定し、前記歩行速度特定手段は、前記第2の所要時間と、前記第1の位置と前記第2の位置との間の位置と前記第2の位置との距離とに基づいて、歩行速度を特定することを特徴とする。 Further, the program of the present invention is a program that is read and executed by an information processing device including a generation unit that generates superimposed moving image data in which position information of a subject who is performing a walking motion is superimposed, and Using the superimposed moving image data generated by the generation means, the first timing at which the target person passes the first position on the superimposed moving image data, and the second position on the superimposed moving image data, the target person. A predetermined distance between the first position and the second position from the passage specifying means that specifies the second timing at which the vehicle passes and the first timing and the second timing that are specified by the passage specifying means. Walking of the subject based on a time specifying unit that specifies a first required time taken by the subject to walk, and the predetermined distance and the first required time specified by the time specifying unit Even when the passage specifying unit fails to specify the first timing, it functions as a walking speed specifying unit that specifies a speed, and the first position and the second position are calculated using the superimposed moving image data. When the passage of the target person can be specified at the position between the position and the time, the time specifying means determines the position of the position between the first position and the second position where the passage of the target person is specified. A second required time is specified from the passage timing and the second timing, and the walking speed specifying means determines the second required time and a position between the first position and the second position. The walking speed is specified based on the distance from the second position.

本発明によれば、所定のタイミングで対象者の通過を特定できない場合であっても、対象者の歩行速度を特定することが可能となる。 According to the present invention, the walking speed of the target person can be specified even when the passage of the target person cannot be specified at a predetermined timing.

情報処理装置101の機能構成を示す図Diagram showing the functional configuration of the information processing apparatus 101 情報処理装置101のハードウェア構成を示す図Diagram showing the hardware configuration of the information processing apparatus 101 被験者を撮影しながら測定を行う処理を示すフローチャートFlowchart showing a process of performing measurement while photographing a subject 予め記録されたモーション情報を用いた場合の、各種目の測定処理を示すフローチャートFlowchart showing the measurement process for each eye when pre-recorded motion information is used レポート作成処理を示すフローチャートFlowchart showing the report creation process 被験者リストの一例を示す図Diagram showing an example of the subject list 各関節の座標情報の一例を示す図The figure which shows an example of the coordinate information of each joint モーション情報取得部151により取得された被験者の様子を示す図The figure which shows the state of the test subject acquired by the motion information acquisition part 151. 各関節の座標情報から形成された被験者の骨格情報の一例を示す図The figure which shows an example of the skeletal information of the test subject formed from the coordinate information of each joint. 本発明において、情報処理装置101のディスプレイ212に表示される被験者の選択をユーザから受け付ける画面の一例を示す図である。In the present invention, it is a diagram showing an example of a screen which is displayed on the display 212 of the information processing apparatus 101 and which accepts the selection of the subject from the user. 本発明において、ステップS301でユーザから「通常歩行」の種目の選択を受け付けた場合に、情報処理装置101のCPU201が実行する処理の一例を示す図である。In the present invention, it is a diagram showing an example of processing executed by the CPU 201 of the information processing apparatus 101 when the selection of the item of “normal walking” is accepted from the user in step S301. 本発明において、ステップS301でユーザから「通常歩行」の種目の選択を受け付けた場合に、情報処理装置101のディスプレイ212に表示される画面の一例を示す図である。In the present invention, it is a diagram showing an example of a screen displayed on the display 212 of the information processing apparatus 101 when the selection of the item of “normal walking” is accepted from the user in step S301. 本発明において、ステップS301でユーザから「開眼片足立ち」の種目の選択を受け付けた場合に、情報処理装置101のCPU201が実行する処理の一例を示す図である。In the present invention, it is a figure which shows an example of the process which CPU201 of the information processing apparatus 101 performs, when selection of the item of "one eye standing with eyes open" is received from the user in step S301. 本発明において、ステップS302で情報処理装置101が被験者の撮影を開始したときに情報処理装置101のディスプレイ212に表示される画面の一例を示す図である。In the present invention, it is a diagram showing an example of a screen displayed on a display 212 of the information processing apparatus 101 when the information processing apparatus 101 starts photographing a subject in step S302. 本発明において、ステップS502で、情報処理装置101のCPU201が測定結果を抽出する処理の一例を示す図である。In the present invention, it is a diagram showing an example of a process in which the CPU 201 of the information processing apparatus 101 extracts a measurement result in step S502. 本発明において、ステップS503で、情報処理装置101のCPU201がレポートを作成する処理の一例を示す図である。FIG. 9 is a diagram showing an example of processing in which the CPU 201 of the information processing apparatus 101 creates a report in step S503 in the present invention. 本発明において、計測結果を抽出するときに情報処理装置101のディスプレイ212に表示される画面の一例を示す図である。In the present invention, it is a diagram showing an example of a screen displayed on a display 212 of the information processing apparatus 101 when extracting a measurement result. 本発明において、計測結果を抽出した後に情報処理装置101のディスプレイ212に表示される画面の一例を示す図である。In the present invention, it is a diagram showing an example of a screen displayed on the display 212 of the information processing apparatus 101 after extracting the measurement result. 本発明において、情報処理装置101の記憶装置204にて測定結果を記憶する測定結果管理テーブルの一例を示す図である。In the present invention, it is a diagram showing an example of a measurement result management table that stores the measurement results in the storage device 204 of the information processing apparatus 101. 本発明において、情報処理装置101のCPU201にて作成され印刷装置等に出力されるレポートの一例を示す図である。In the present invention, it is a diagram showing an example of a report created by the CPU 201 of the information processing apparatus 101 and output to a printing apparatus or the like. モーション情報取得部151において撮影し取得された映像と、骨格情報を合成した画面の一例An example of a screen in which the skeleton information and the video captured and acquired by the motion information acquisition unit 151 are combined 骨格情報が表示される領域の面積が調整された画面の一例An example of a screen in which the area of the area where the skeleton information is displayed has been adjusted 評価対象の動画と、比較対象の動画とを縦に並べて表示した画面の一例An example of a screen that displays the evaluation target video and the comparison target video vertically side by side 評価対象の動画と、比較対象の動画とを横に並べて表示した画面の一例An example of a screen that displays the evaluation target video and the comparison target video side by side 種目ごとにレイアウトが登録されたテーブルの一例を示す図A diagram showing an example of a table in which layouts are registered for each item 図23の画面における上の動画の左右を反転させた場合を示す図The figure which shows the case where the left and right of the upper moving image on the screen of FIG. 23 are reversed. 比較対象の動画を重ね合わせて表示した画面の一例An example of a screen that displays videos for comparison 背景等を表示せず、骨格情報だけを表示した画面の一例An example of a screen that displays only the skeleton information without displaying the background etc. 被験者の動作を評価し、被験者や介護者に対するメッセージを表示する処理を示すフローチャートFlowchart showing the process of evaluating the subject's movements and displaying a message to the subject and caregiver 評価条件の一例を示す図Figure showing an example of evaluation conditions メッセージテーブルの一例を示す図Figure showing an example of the message table

以下、図面を参照して、本発明の実施形態を詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

図1は、情報処理装置101の機能構成を示した図である。 FIG. 1 is a diagram showing a functional configuration of the information processing apparatus 101.

モーション情報取得部151は、介護やリハビリが行われる空間における人物(本発明においては、被験者(介護やリハビリを受ける者))の動きを検知し、被験者のモーション情報を取得する。 The motion information acquisition unit 151 detects the motion of a person (in the present invention, a subject (a person who receives care and rehabilitation)) in a space where nursing and rehabilitation are performed, and acquires motion information of the subject.

具体的には、モーション情報取得部151は、Kinect(登録商標)として知られるセンサー群であり、RGBカメラ、深度センサー、音声センサーなどが内蔵され、被写体(本発明においては、被験者(介護やリハビリを受ける者))の位置、動き、声、顔などを認識することができる。 Specifically, the motion information acquisition unit 151 is a sensor group known as Kinect (registered trademark), which has an RGB camera, a depth sensor, a voice sensor, and the like built therein, and a subject (in the present invention, a subject (caregiver or rehabilitation)). Recipient)) position, movement, voice, face, etc. can be recognized.

深度センサーは、赤外線を利用して被験者までの距離を測定する方式を用いるものとする。この方式によれば、被験者にマーカ等を付けることなくセンサーから被験者までの距離を測定することが可能である。 The depth sensor uses a method of measuring the distance to the subject using infrared rays. According to this method, it is possible to measure the distance from the sensor to the subject without attaching a marker or the like to the subject.

モーション情報取得部151で取得された各データは、動画データ(重畳動画データや、重畳画像データとも言い、重畳動画データや、重畳画像データには、モーション情報取得部151で取得された各データから特定した骨格情報を抽出した動画データを含む)として記憶部に記憶される。 Each piece of data acquired by the motion information acquisition unit 151 is moving image data (also referred to as superimposed moving image data or superimposed image data. The moving image data including the specified skeleton information is stored in the storage unit.

モーション情報取得部151の各センサーにより取得されたモーション情報は、モーション情報解析部152に送信され、データ解析が行われる。 The motion information acquired by each sensor of the motion information acquisition unit 151 is transmitted to the motion information analysis unit 152 and data analysis is performed.

モーション情報解析部152では、モーション情報取得部151により取得された各データを解析し、被験者の動作を座標情報に変換する。 The motion information analysis unit 152 analyzes each data acquired by the motion information acquisition unit 151 and converts the motion of the subject into coordinate information.

図8はモーション情報取得部151により取得された被験者の様子を示している。モーション情報取得部151は、被験者の動きを検知し、予め記憶された人体パターンとマッチングすることで、被験者の人体表面の座標を得る。そして、当該被験者の骨格を形成する各関節の座標を算出し、算出された座標情報に基づき、被験者の骨格を形成する。 FIG. 8 shows a state of the subject acquired by the motion information acquisition unit 151. The motion information acquisition unit 151 obtains the coordinates of the human body surface of the subject by detecting the movement of the subject and matching the human body pattern stored in advance. Then, the coordinates of each joint forming the skeleton of the subject are calculated, and the skeleton of the subject is formed based on the calculated coordinate information.

各関節の座標情報の一例を図7に示す。また、各関節の座標情報から形成された被験者の骨格情報の一例を図9に示す。 FIG. 7 shows an example of coordinate information of each joint. Further, FIG. 9 shows an example of the skeleton information of the subject formed from the coordinate information of each joint.

このようにして各関節の座標情報を算出し、各関節の座標の変化を検出することで、被験者が足を上げたり、膝を曲げたりする動作を認識することが可能となる。 In this way, by calculating the coordinate information of each joint and detecting the change in the coordinate of each joint, it becomes possible for the subject to recognize the motion of raising the foot or bending the knee.

測定部153は、モーション情報解析部152により解析されたモーション情報と、各種目に応じた設定に基づき、当該種目における測定を行う。 The measurement unit 153 performs the measurement in the relevant item based on the motion information analyzed by the motion information analysis unit 152 and the setting according to each item.

図2は、本発明の実施形態に係わる情報処理装置101のハードウェア構成の一例を示すブロック図である。 FIG. 2 is a block diagram showing an example of the hardware configuration of the information processing apparatus 101 according to the embodiment of the present invention.

図2に示すように、情報処理装置101では、システムバス200を介してCPU(Central Processing Unit)201、ROM(Read Only
Memory)202、RAM(Random Access Memory)203、記憶装置204、入力コントローラ205、音声入力コントローラ206、ビデオコントローラ207、メモリコントローラ208、よび通信I/Fコントローラ209が接続される。
As shown in FIG. 2, in the information processing apparatus 101, a CPU (Central Processing Unit) 201, a ROM (Read Only) are provided via a system bus 200.
A memory 202, a RAM (Random Access Memory) 203, a storage device 204, an input controller 205, a voice input controller 206, a video controller 207, a memory controller 208, and a communication I/F controller 209 are connected.

CPU201は、システムバス200に接続される各デバイスやコントローラを統括的に制御する。 The CPU 201 centrally controls each device and controller connected to the system bus 200.

ROM202あるいは記憶装置204は、CPU201が実行する制御プログラムであるBIOS(Basic Input/Output System)やOS(Operating System)や、本情報処理方法を実現するためのコンピュータ読み取り実行可能なプログラムおよび必要な各種データ(データテーブルを含む)を保持している。 The ROM 202 or the storage device 204 is a control program executed by the CPU 201, such as a BIOS (Basic Input/Output System), an OS (Operating System), a computer-readable executable program for implementing the information processing method, and various necessary programs. Holds data (including data table).

RAM203は、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは記憶装置204からRAM203にロードし、ロードしたプログラムを実行することで各種動作を実現する。 The RAM 203 functions as a main memory, a work area, etc. of the CPU 201. The CPU 201 loads various programs necessary for executing the processing from the ROM 202 or the storage device 204 into the RAM 203, and executes the loaded programs to realize various operations.

入力コントローラ205は、キーボード/タッチパネル210などの入力装置からの入力を制御する。入力装置はこれに限ったものでなく、マウスやマルチタッチスクリーンなどの、複数の指でタッチされた位置を検出することが可能なタッチパネルであってもよい。 The input controller 205 controls input from an input device such as the keyboard/touch panel 210. The input device is not limited to this, and may be a touch panel such as a mouse or a multi-touch screen capable of detecting a position touched by a plurality of fingers.

ユーザがタッチパネルに表示されたアイコンやカーソルやボタンに合わせて押下(指等でタッチ)することにより、各種の指示を行うことができる。 The user can give various instructions by pressing down (touching with a finger or the like) in accordance with the icon, cursor, or button displayed on the touch panel.

この入力装置を用いて各種通信装置で利用可能な通信宛先に対する宛先を入力するようになっている。 The input device is used to input a destination for a communication destination that can be used in various communication devices.

音声入力コントローラ206は、マイク211からの入力を制御する。マイク211から入力された音声を音声認識することが可能となっている。 The voice input controller 206 controls the input from the microphone 211. The voice input from the microphone 211 can be recognized.

ビデオコントローラ207は、ディスプレイ212などの外部出力装置への表示を制御する。ディスプレイは本体と一体になったノート型パソコンのディスプレイも含まれるものとする。なお、外部出力装置はディスプレイに限ったものははく、例えばプロジェクタであってもよい。また、前述のタッチ操作により受け付け可能な装置については、キーボード/タッチパネル210からの入力を受け付けることも可能となる。 The video controller 207 controls display on an external output device such as the display 212. The display shall include the display of a laptop computer integrated with the main body. The external output device is not limited to the display, and may be a projector, for example. Further, with respect to a device which can be accepted by the touch operation described above, it is possible to accept an input from the keyboard/touch panel 210.

なおビデオコントローラ207は、表示制御を行うためのビデオメモリ(VRAM)を制御することが可能で、ビデオメモリ領域としてRAM203の一部を利用することもできるし、別途専用のビデオメモリを設けることも可能である。 Note that the video controller 207 can control a video memory (VRAM) for performing display control, can use part of the RAM 203 as a video memory area, or can be provided with a dedicated video memory separately. It is possible.

本発明では、ユーザが情報処理装置を通常する場合の表示に用いられる第1のビデオメモリ領域と、所定の画面が表示される場合に、第1のビデオメモリ領域の表示内容に重ねての表示に用いられる第2のビデオメモリ領域を有している。ビデオメモリ領域は2つに限ったものではなく、情報処理装置の資源が許す限り複数有することが可能なものとする。 According to the present invention, a first video memory area used for a display when a user normally uses an information processing apparatus and a display superimposed on the display content of the first video memory area when a predetermined screen is displayed. Has a second video memory area used for. The number of video memory areas is not limited to two, and a plurality of video memory areas can be provided as long as the resources of the information processing device allow.

メモリコントローラ208は、外部メモリ213へのアクセスを制御する。外部メモリとしては、ブートプログラム、各種アプリケーション、フォントデータ、ユーザファイル、編集ファイル、および各種データ等を記憶する外部記憶装置(ハードディスク)、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等を利用可能である。 The memory controller 208 controls access to the external memory 213. The external memory is connected to an external storage device (hard disk), a flexible disk (FD), or a PCMCIA card slot that stores a boot program, various applications, font data, user files, edit files, and various data via an adapter. A compact flash (registered trademark) memory or the like can be used.

通信I/Fコントローラ209、ネットワーク214を介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信やISDNなどの電話回線、および携帯電話の3G回線を用いた通信が可能である。 It connects and communicates with an external device via the communication I/F controller 209 and the network 214, and executes communication control processing in the network. For example, communication using TCP/IP, telephone lines such as ISDN, and communication using 3G lines of mobile phones are possible.

なお、記憶装置204は情報を永続的に記憶するための媒体であって、その形態をハードディスク等の記憶装置に限定するものではない。例えば、SSD(Solid State Drive)などの媒体であってもよい。 The storage device 204 is a medium for permanently storing information, and its form is not limited to a storage device such as a hard disk. For example, a medium such as SSD (Solid State Drive) may be used.

また本実施形態における通信端末で行われる各種処理時の一時的なメモリエリアとしても利用可能である。 It can also be used as a temporary memory area during various processes performed by the communication terminal in this embodiment.

次に図3に示すフローチャートを用いて、被験者を撮影しながら測定を行う処理について説明する。なお、図3のフローチャートで示す処理は、情報処理装置101のCPU201が所定のプログラムを読み出して実行する処理である。 Next, a process of performing measurement while photographing a subject will be described using the flowchart shown in FIG. The process shown in the flowchart of FIG. 3 is a process in which the CPU 201 of the information processing apparatus 101 reads and executes a predetermined program.

ステップS301では、ユーザから被験者の選択と種目の選択を受け付ける。 In step S301, the selection of the subject and the selection of the item are accepted from the user.

被験者情報は、図6に示す被験者リストに登録されているものとする。また、種目としては、眼を開けて片足で立っていられた時間を計測する「開眼片足立ち」、制限時間内に立ち座り動作を何回行えたかを計測する「椅子立ち座り」、最大歩幅を計測する「最大一歩」、5mの距離の歩行にかかる時間を計測する「通常歩行」、椅子から立ち上がり3mの距離を往復して椅子に座るまでの時間を計測する「TUG(TimedUp&Go)」などがある。 The subject information is assumed to be registered in the subject list shown in FIG. In addition, as the event, "Open one leg standing" that measures the time when you open your eyes and stand on one leg, "Chair standing sitting" that measures how many times you could sit and sit within the time limit, maximum stride "Maximum step" to measure, "normal walking" to measure the time required to walk at a distance of 5 m, "TUG (TimedUp & Go)" to measure the time to sit back and forth from a chair up and down 3 m is there.

種目の選択を受け付けることで、当該種目の測定に必要な設定ファイルやプログラムを読み込む。 By accepting the selection of the item, the setting files and programs necessary for the measurement of the item are read.

被験者情報については、既に登録されている情報から選択するだけでなく、新規で登録しても良い。 The subject information may be newly registered in addition to being selected from the already registered information.

ステップS302では、ユーザから撮影指示を受け付ける。撮影指示を受け付けると、情報処理装置101のモーション情報取得部151は、被験者の撮影を開始する。また、各センサーにより得られた情報(各関節の座標情報など)であるモーション情報の取得を行う。ステップS302は、本発明における、歩行動作を行っている対象者の位置情報を重畳させた重畳動画データを生成する生成手段の一例である。 In step S302, a shooting instruction is received from the user. Upon receiving the shooting instruction, the motion information acquisition unit 151 of the information processing apparatus 101 starts shooting the subject. Also, motion information, which is information obtained by each sensor (coordinate information of each joint, etc.), is acquired. Step S302 is an example of a generation unit that generates superimposed moving image data in which position information of a subject who is performing a walking motion is superimposed according to the present invention.

ステップS303では、撮影された映像に複数の人物がいる場合に、いずれの人物が被験者であるかの選択を受け付ける。 In step S303, when there are a plurality of persons in the captured video, selection of which person is the subject is accepted.

以下、図10を用いて、ステップS303の処理の詳細について説明する。 Hereinafter, the details of the processing in step S303 will be described with reference to FIG.

図10は、ステップS303において、情報処理装置101が、いずれの人物が被験者であるかの選択をユーザから受け付ける画面であり、図10の画面は、情報処理装置101のディスプレイ212に表示される。 FIG. 10 is a screen in which the information processing apparatus 101 receives a selection of which person is the subject from the user in step S303, and the screen in FIG. 10 is displayed on the display 212 of the information processing apparatus 101.

図10の1003には、情報処理装置101のモーション情報取得部151が取得した動画が表示される。 In 1003 of FIG. 10, the moving image acquired by the motion information acquisition unit 151 of the information processing apparatus 101 is displayed.

図10の1001にはモーション情報取得部151により取得された人物(被験者または介助者)の様子を、各関節の座標情報により特定される骨格情報と共に表示する。 In 1001 of FIG. 10, the state of the person (subject or caregiver) acquired by the motion information acquisition unit 151 is displayed together with the skeleton information specified by the coordinate information of each joint.

まず、人物切替ボタン1005がユーザによるマウスポインタ1004の操作により押下されると、モーション情報取得部151で取得された情報に基づき、被験者の骨格情報を1001に表示する。 First, when the person switching button 1005 is pressed by the user operating the mouse pointer 1004, the skeleton information of the subject is displayed on the subject 1001 based on the information acquired by the motion information acquisition unit 151.

次に、ユーザによるマウスポインタ1004の操作により、図10の1001に表示される人物のうち、被験者の指定を行う。 Then, the user operates the mouse pointer 1004 to specify the subject among the persons displayed in 1001 of FIG.

そして、マウスポインタ1004により選択した人物が誰であるかを、ドロップダウンリスト1002の中からユーザによるマウスポインタ1004により選択する。 Then, the user selected by the mouse pointer 1004 is selected from the drop-down list 1002 by the mouse pointer 1004 by the user.

ドロップダウンリスト1002には、予め情報処理装置101が管理する被験者リスト(図6)に含まれる被験者の名前が表示される。 The drop-down list 1002 displays the names of subjects included in the subject list (FIG. 6) managed by the information processing apparatus 101 in advance.

ステップS304では、ステップS302において取得されたモーション情報から被験者の各関節の座標情報を取得する。再生動画を用いる場合は、再生対象の動画データに含まれるモーション情報を用いて、被験者の各関節の座標情報を取得する。
各関節の座標情報の一例を図7に示す。
In step S304, coordinate information of each joint of the subject is acquired from the motion information acquired in step S302. When the reproduced moving image is used, the coordinate information of each joint of the subject is acquired by using the motion information included in the reproduced moving image data.
FIG. 7 shows an example of coordinate information of each joint.

ステップS305では、ステップS303で取得した映像と、ステップS304で取得した各関節の座標情報に基づき得られた骨格情報とを合成して、ディスプレイ212に表示する。 In step S305, the image acquired in step S303 and the skeleton information acquired based on the coordinate information of each joint acquired in step S304 are combined and displayed on the display 212.

図21にモーション情報取得部151において撮影し取得された映像と、骨格情報を合成した画面の一例を示す。 FIG. 21 shows an example of a screen obtained by synthesizing the skeleton information with the video image captured and acquired by the motion information acquisition unit 151.

図21の2101には、映像と骨格情報が合成された状態で表示される。また、2102には被験者を上から見た場合の骨格情報が表示され、2103には被験者を横から見た場合の骨格情報が表示される。 In 2101 of FIG. 21, the image and the skeleton information are displayed in a combined state. Further, 2102 displays skeletal information when the subject is viewed from above, and 2103 displays skeletal information when the subject is viewed from the side.

2102、2103の領域に表示される骨格情報は、モーション情報取得部151において取得された各関節の座標情報に基づき算出され生成される。 The skeleton information displayed in the areas 2102 and 2103 is calculated and generated based on the coordinate information of each joint acquired by the motion information acquisition unit 151.

2102や2103の表示領域の面積は、骨格情報が表示可能な面積に調整されるものとする。例えば、図21に示す画面は、調整されていない場合の画面である。この場合、2103に表示される骨格情報はほとんど移動しないにも関らず、骨格情報の周囲に大きな余白が生じている。 The area of the display area 2102 or 2103 is adjusted to an area in which the skeleton information can be displayed. For example, the screen shown in FIG. 21 is a screen when no adjustment is made. In this case, although the skeleton information displayed in 2103 hardly moves, there is a large margin around the skeleton information.

図22はサイズの調整が行われた場合の画面の一例である。骨格情報が収まるように調整され、余白部分が縮小している。 FIG. 22 is an example of a screen when the size is adjusted. The skeletal information has been adjusted to fit, and the margins have been reduced.

このように無駄な余白を表示しないよう制御することで、3つの骨格情報を近くに集めることが可能となるため、より観察しやすくなっている。 By controlling so as not to display useless margins in this way, it becomes possible to collect the three pieces of skeleton information in the vicinity, which makes it easier to observe.

表示範囲の決定方法については、例えば骨格情報が収まる矩形を特定し、当該矩形から所定の幅を余白として表示する方法が考えられる。 As a method of determining the display range, for example, a method of specifying a rectangle in which the skeleton information fits and displaying a predetermined width from the rectangle as a blank space is considered.

ステップS306では、ステップS304で解析された骨格情報を用いて、ステップS301で選択された種目に応じた測定を行う。 In step S306, the skeletal information analyzed in step S304 is used to perform measurement according to the item selected in step S301.

具体的な処理の内容は、図11、図13、図29を用いて説明する。 The specific content of the process will be described with reference to FIGS. 11, 13, and 29.

次に、図11を用いて、本発明において、ステップS301でユーザから「通常歩行」の種目の選択を受け付けた場合に、情報処理装置101のCPU201が実行する処理について説明する。 Next, with reference to FIG. 11, in the present invention, a process executed by the CPU 201 of the information processing apparatus 101 when the selection of the item of “normal walking” is received from the user in step S301 will be described.

なお、図11の処理において、情報処理装置101のディスプレイ212に表示される画面は、例えば、図12である。
ここで、図12について説明する。
In the process of FIG. 11, the screen displayed on the display 212 of the information processing device 101 is, for example, FIG.
Here, FIG. 12 will be described.

図12の計測開始(終了)座標1201は、予め設定された通常歩行の計測を開始または終了する(x、y、z)座標を示し、被験者のつま先のx座標と、計測開始(終了)座標1201のx座標が1回目重なったタイミングで、秒数のカウントを開始し、計測開始(終了)座標1201のx座標が2回目重なったタイミングで、秒数のカウントを終了する。 The measurement start (end) coordinates 1201 in FIG. 12 indicate (x, y, z) coordinates at which the measurement of the normal walking set in advance is started or ended, and the x coordinate of the toe of the subject and the measurement start (end) coordinates. The counting of the number of seconds is started at the timing when the x-coordinate of 1201 overlaps the first time, and the counting of the number of seconds is ended at the timing when the x-coordinate of the measurement start (end) coordinate 1201 overlaps the second time.

例えば、被験者が図12の画面左から歩いてきた場合には、図12の画面左側の計測開始(終了)座標1201のx座標と被験者のつま先のx座標が重なった時点で秒数のカウントを開始し、図12の画面右側の計測開始(終了)座標1201のx座標と被験者のつま先のx座標が重なった時点で秒数のカウントを終了する。 For example, when the subject walks from the left side of the screen in FIG. 12, the number of seconds is counted when the x coordinate of the measurement start (end) coordinate 1201 on the left side of the screen in FIG. 12 and the x coordinate of the toe of the subject overlap. The counting of the number of seconds is started when the x coordinate of the measurement start (end) coordinate 1201 on the right side of the screen in FIG. 12 and the x coordinate of the toe of the subject overlap.

モーション情報取得部151の特性上、撮影範囲の左右両端から所定の距離は、関節の座標の特定精度が低いため、計測開始(終了)座標1201は、図12の画面左右両端よりも少し距離を開けた位置(座標)に設定される。 Due to the characteristics of the motion information acquisition unit 151, the specified distance from the left and right ends of the shooting range is low in the accuracy of specifying the coordinates of the joints, so the measurement start (end) coordinates 1201 are a little more than the left and right ends of the screen of FIG. It is set to the open position (coordinates).

図12の1202は、タイムラインを示し、タイムライン1202は、録画した撮影データを評価する場合に表示される。 Reference numeral 1202 in FIG. 12 indicates a timeline, and the timeline 1202 is displayed when evaluating the recorded shooting data.

図12の1203は、評価時間指定部であり、録画した撮影データを評価する場合に、計測開始(終了)座標1201間とは異なる区間で、被験者の動作を評価したい場合に、評価する時間を、評価時間指定部1203をユーザによるマウス等の操作により動かすことで指定できる。
図11の説明に戻る。
Reference numeral 1203 in FIG. 12 is an evaluation time designating unit, and when evaluating recorded video data, when evaluating the motion of the subject in a section different from between the measurement start (end) coordinates 1201, the evaluation time is set. It can be designated by moving the evaluation time designation unit 1203 by operating the mouse or the like by the user.
Returning to the description of FIG.

ステップS1101において、情報処理装置101は、現在処理対象となっているフレームの画像から被験者のつま先の座標を特定する。 In step S1101, the information processing apparatus 101 identifies the coordinates of the toe of the subject from the image of the frame currently being processed.

ステップS1102において、情報処理装置101は、ステップS1101で現在処理対象となっているフレームの画像から被験者のつま先の座標が特定できたか否かを判定し、特定できたのであれば、ステップS1103に処理を移行し、特定できなければ本処理を終了する。 In step S1102, the information processing apparatus 101 determines whether the coordinates of the toe of the subject have been specified from the image of the frame currently processed in step S1101, and if specified, the process proceeds to step S1103. If it cannot be specified, this process ends.

ステップS1102の処理を実行する理由について説明する。モーション情報取得部151は被験者がモーション情報取得部151に対して正面を向いていることを前提として被験者の各関節の位置座標を特定する。そのため、通常歩行のように被験者がモーション情報取得部151に対して横方向を向いている場合には、図3のステップS304、ステップS305によって、被験者の各関節の座標情報を取得することが困難である。各関節の座標情報を取得できた場合でなければステップS1103以降の処理を実行することができないため、ステップS1102の処理により、ステップS1103以降の処理が実行できるかを判定している。 The reason why the process of step S1102 is executed will be described. The motion information acquisition unit 151 specifies the position coordinates of each joint of the subject on the assumption that the subject is facing the front with respect to the motion information acquisition unit 151. Therefore, when the subject is facing the lateral direction with respect to the motion information acquisition unit 151 like normal walking, it is difficult to obtain the coordinate information of each joint of the subject by steps S304 and S305 in FIG. Is. Unless the coordinate information of each joint can be acquired, the process of step S1103 and subsequent steps cannot be executed. Therefore, the process of step S1102 determines whether or not the process of step S1103 and subsequent steps can be executed.

ステップS1103において、情報処理装置101は、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201の間ではなく、外側の座標であるかを判定する。 In step S1103, the information processing apparatus 101 determines whether the coordinates of the toe of the subject identified in step S1101 are outside coordinates, not between two preset measurement start (end) coordinates 1201.

ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201の外側の座標である場合に、情報処理装置101は本処理を終了し、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201の外側以外の座標である場合に、情報処理装置101は、ステップS1104に処理を移行する。 When the coordinates of the toe of the subject identified in step S1101 are coordinates outside the two preset measurement start (end) coordinates 1201, the information processing apparatus 101 ends this processing and identifies in step S1101. When the coordinates of the toe of the subject are coordinates other than the two measurement start (end) coordinates 1201 set in advance, the information processing apparatus 101 shifts the processing to step S1104.

ステップS1104において、情報処理装置101は、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201のいずれかの座標上であるかを判定する。 In step S1104, the information processing apparatus 101 determines whether the coordinates of the toe of the subject identified in step S1101 are on one of two preset measurement start (end) coordinates 1201.

ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201のいずれかの座標上である場合に、情報処理装置101は、ステップS1105に処理を移行し、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201のいずれかの座標上でない場合に、情報処理装置101は、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201の間であると判断し、ステップS1109に処理を移行する。 When the coordinates of the toe of the subject identified in step S1101 are on any of the two preset measurement start (end) coordinates 1201, the information processing apparatus 101 shifts the processing to step S1105, When the coordinates of the toe of the subject identified in step S1101 are not on one of the two preset measurement start (end) coordinates 1201, the information processing apparatus 101 determines the toe of the subject identified in step S1101. It is determined that the coordinates are between two preset measurement start (end) coordinates 1201, and the process proceeds to step S1109.

ステップS1105において、情報処理装置101は、ステップS1104で予め設定された2つの計測開始(終了)座標1201のいずれかの座標上であると判定したのが1回目であるか否かを判定する。 In step S1105, the information processing apparatus 101 determines whether it is the first time that it is determined to be on any of the two measurement start (end) coordinates 1201 set in advance in step S1104.

ステップS1104で予め設定された2つの計測開始(終了)座標1201のいずれかの座標上であると判定したのが1回目であると判定した場合に、情報処理装置101は、ステップS1106に処理を移行し、ステップS1104で予め設定された2つの計測開始(終了)座標1201のいずれかの座標上であると判定したのが1回目でない(つまり2回目)と判定した場合に、情報処理装置101は、ステップS1107に処理を移行する。 When it is determined that it is the first time that it is determined to be on one of the two preset measurement start (end) coordinates 1201 in step S1104, the information processing apparatus 101 proceeds to step S1106. When it is determined that it is not the first time (that is, the second time) that it is determined that the coordinate is one of the two preset measurement start (end) coordinates 1201 in step S1104, the information processing apparatus 101 Shifts the processing to step S1107.

ステップS1106において、情報処理装置101は、秒数のカウントを実行し、本処理を終了する。 In step S1106, the information processing apparatus 101 counts the number of seconds, and ends this processing.

ステップS1107において、情報処理装置101は、ステップS1106で実行した秒数のカウントを終了する。そして、ステップS1108で、被験者の動作の評価を実行し、測定結果管理テーブル(図19)に記憶する。 In step S1107, the information processing apparatus 101 ends the counting of the number of seconds executed in step S1106. Then, in step S1108, the motion of the subject is evaluated and stored in the measurement result management table (FIG. 19).

ステップS1108の処理をより具体的に説明すると、情報処理装置101は、まず、歩行距離を、計測開始点(X1,Y1,Z1)、計測終了点(X2,Y2,Z2)間のX方向の距離である、X1−X2の絶対値(単位はメートル)により求める。 To describe the process of step S1108 more specifically, the information processing apparatus 101 first determines the walking distance in the X direction between the measurement start point (X1, Y1, Z1) and the measurement end point (X2, Y2, Z2). It is determined by the absolute value of X1-X2, which is the distance (unit is meter).

ここでいう計測開始点とは、被験者が図12の画面左から歩いてきた場合には、図12の画面左側の計測開始(終了)座標1201(右から歩いてきた場合には、右側の計測開始(終了)座標1201)、もしくは、ステップS1109でNoと判断したときのフレームの画像に含まれる、被験者のつま先の座標である。 The measurement start point referred to here is a measurement start (end) coordinate 1201 on the left side of the screen in FIG. 12 when the subject walks from the left side of the screen in FIG. 12 (measurement on the right side when walking from the right side). Start (end) coordinates 1201) or coordinates of the toe of the subject included in the image of the frame when No is determined in step S1109.

また、ここでいう計測終了点とは、被験者が図12の画面左から歩いてきた場合には、図12の画面右側の計測開始(終了)座標1201(右から歩いてきた場合には、左側の計測開始(終了)座標1201)である。なお、本実施例では、被験者のつま先の座標を用いているが他の実施例として、被験者の頭の座標や、手の座標を用いても良いし、各部位の座標の平均値を用いても良い。ただ、計測開始点と計測終了点で用いる部位は一致していることが好ましい。 In addition, the measurement end point referred to here is, when the subject walks from the left side of the screen in FIG. 12, measurement start (end) coordinates 1201 on the right side of the screen in FIG. 12 (on the left side when walking from the right side). Measurement start (end) coordinates 1201). In the present embodiment, the coordinates of the toes of the subject are used, but as another embodiment, the coordinates of the subject's head and the coordinates of the hands may be used, or the average value of the coordinates of each part may be used. Is also good. However, it is preferable that the parts used at the measurement start point and the measurement end point match.

なお、本実施例では、被験者が真っ直ぐ歩けずに斜め(図12の画面手前もしくは奥側)にずれていってしまうことも考えられるため、基本的には被験者が真横に歩いたとして歩行距離を計算している。 In addition, in the present embodiment, it is possible that the test subject does not walk straight and shifts diagonally (front side or back side of the screen in FIG. 12). I'm calculating.

ただ、他の実施例として、斜め(図12の画面手前もしくは奥側)にずれていってしまった場合を考慮する場合、計測開始点(X1,Y1,Z1)、計測終了点(X2,Y2,Z2)間のx座標とz座標により、歩行距離を計算してもよい。 However, as another example, when considering a case where the position is slanted (front side or rear side of the screen in FIG. 12), a measurement start point (X1, Y1, Z1) and a measurement end point (X2, Y2) are considered. , Z2), the walking distance may be calculated.

次に、情報処理装置101は、被験者の歩行速度を、先に求めた歩行距離をステップS1107でカウントを終了するまでにかかった時間によって割ることで求める。 Next, the information processing apparatus 101 obtains the walking speed of the subject by dividing the previously obtained walking distance by the time taken to finish counting in step S1107.

そして、最後に、情報処理装置101は、先に求めた歩行速度で5m歩いたときに要する時間を算出し、その時間が予め設定されている時間よりも長いか短いかにより、正しい通常歩行が行われたかを判定する。5mという数字は、被験者の通常歩行の動作を判定するのに必要な距離である。 Then, finally, the information processing apparatus 101 calculates the time required for walking 5 m at the previously obtained walking speed, and correct normal walking can be performed depending on whether the time is longer or shorter than the preset time. Determine if done. The number 5m is the distance required to determine the subject's normal walking movements.

上述したような計算を行うことにより、例えば、被験者が5m歩けないような狭い部屋であっても、通常歩行の動作を正しく行ったかを判定することが可能となる。 By performing the above-described calculation, for example, even in a small room where the subject cannot walk 5 m, it is possible to determine whether or not the normal walking motion is correctly performed.

ステップS1109において、情報処理装置101は、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201のいずれかの座標上であると判定されることで秒数のカウントを開始した後であるか否かを判定する。 In step S1109, the information processing apparatus 101 determines that the coordinates of the toe of the subject identified in step S1101 are on one of the two preset measurement start (end) coordinates 1201. It is determined whether or not it has started counting the number.

つまり、ステップS1109においてYESと判定される場合、情報処理装置101は、前記通過特定手段で前記第1タイミングを特定できなかった場合であっても、前記重畳動画データを用いて前記第1の位置と前記第2の位置との間の位置で対象者の通過が特定できた場合には、前記時間特定手段は、前記対象者の通過が特定された前記第1の位置と前記第2の位置との間の位置の通過タイミングと前記第2タイミングとから第2の所要時間を特定し、前記歩行速度特定手段は、前記第2の所要時間と、前記第1の位置と前記第2の位置との間の位置と前記第2の位置との距離とに基づいて、歩行速度を特定する。 That is, if YES is determined in step S1109, the information processing apparatus 101 uses the superimposed moving image data to determine the first position even if the passage specifying unit cannot specify the first timing. And the second position, the passage of the target person can be specified at a position between the first position and the second position where the passage of the target person is specified. The second required time is specified from the passage timing of the position between the second position and the second timing, and the walking speed identification means is configured to determine the second required time, the first position, and the second position. The walking speed is specified based on the distance between the position and and the second position.

秒数のカウントを開始した後であると判定した場合には、情報処理装置101は、本処理を終了し、秒数のカウントを開始する前であると判定した場合には、ステップS1106に処理を移行する。 If it is determined that the counting of the number of seconds is started, the information processing apparatus 101 ends the present process, and if it is determined that the counting of the number of seconds is not started, the process proceeds to step S1106. To migrate.

ステップS1109でNoと判定される場合とは、例えば、現在処理を実行しているフレームの画像よりも前のフレームの画像の処理を実行しているときに、ステップS1101で特定した被験者のつま先の座標が、予め設定された2つの計測開始(終了)座標1201のいずれかの座標上と重なり、本来秒数のカウントを開始すべきところを、当該フレームの画像について図3のステップS304、ステップS305によって、被験者の各関節の座標情報を特定できなかった場合に、ステップS1109でNoと判定される。 The case where No is determined in step S1109 means, for example, when the image of the frame preceding the image of the frame currently being processed is being processed, the toes of the subject identified in step S1101 Where the coordinate overlaps with one of the two preset measurement start (end) coordinates 1201 and should originally start counting the number of seconds, step S304 and step S305 in FIG. Accordingly, when the coordinate information of each joint of the subject cannot be specified, it is determined No in step S1109.

その場合に、ステップS1106において、計測開始(終了)座標1201の間で被験者のつま先の座標が認識できたところから秒数のカウントを開始することで、撮影し直しをすることなく被験者の動作を評価することが可能となる。 In that case, in step S1106, by starting counting the number of seconds from the point where the coordinates of the toe of the subject can be recognized between the measurement start (end) coordinates 1201, the movement of the subject can be performed without re-imaging. It becomes possible to evaluate.

図11のステップS1104〜ステップS1108は、本発明における、歩行動作を行っている対象者の位置情報を重畳させた重畳動画データを生成する生成手段、前記生成手段で生成された重畳動画データを用い、当該重畳動画データ上の第1の位置を前記対象者が通過する第1タイミングと、当該重畳動画データ上の第2の位置を前記対象者が通過する第2タイミングを特定する通過特定手段、通過特定手段で特定された第1タイミングと前記第2タイミングとから、前記第1の位置と第2の位置との間の所定距離を前記対象者が歩行するのにかかった第1の所要時間を特定する時間特定手段、所定距離と前記時間特定手段で特定される第1の所要時間とに基づいて、前記対象者の歩行速度を特定する歩行速度特定手段の一例である。
以上で図11の説明を終了する。
In step S1104 to step S1108 of FIG. 11, the generation means for generating the superimposed moving image data in which the position information of the subject who is performing the walking motion is superimposed in the present invention, and the superimposed moving image data generated by the generating means are used. A passage identifying means for identifying a first timing at which the subject passes the first position on the superimposed moving image data and a second timing at which the subject passes the second position on the superimposed moving image data, A first time required for the subject to walk a predetermined distance between the first position and the second position from the first timing and the second timing identified by the passage identifying means. Is an example of a walking speed specifying unit that specifies a walking speed of the subject based on a time specifying unit that specifies a predetermined distance and a first required time specified by the time specifying unit.
This is the end of the description of FIG. 11.

次に、図13を用いて、本発明において、ステップS301でユーザから「開眼片足立ち」の種目の選択を受け付けた場合に、情報処理装置101のCPU201が実行する処理について説明する。 Next, with reference to FIG. 13, in the present invention, a process executed by the CPU 201 of the information processing apparatus 101 when the selection of the item of “one eye standing with one eye open” is received from the user in step S301 will be described.

ステップS1301において、情報処理装置101は、被験者の足が上がっているか否かを判定する。 In step S1301, the information processing apparatus 101 determines whether or not the subject's foot is raised.

より具体的には、まずステップS1301の処理を実行する前に、情報処理装置101は、被験者の両足のかかとのy座標の値を特定しておき、それぞれの足のかかとの座標の値の差が所定の範囲以内であることを特定することで、両足が揃って地面についていると判断する。 More specifically, first, before executing the process of step S1301, the information processing apparatus 101 specifies the y-coordinate value of the heels of both feet of the subject, and determines the difference in the coordinate values of the heels of the respective feet. By determining that is within a predetermined range, it is determined that both feet are on the ground.

次に、ステップS1301において、いずれかの足のy座標の値が、ステップS1301の処理を実行する前に情報処理装置101が特定した被験者の両足のかかとのy座標の値よりも所定以上変化しているかを情報処理装置101が現在処理対象となっているフレームの画像から特定し、所定以上変化している場合に、その足が上がっていると情報処理装置101は判断する。 Next, in step S1301, the y-coordinate value of one of the feet changes by a predetermined amount or more than the y-coordinate value of the heels of both feet of the subject identified by the information processing apparatus 101 before executing the process of step S1301. The information processing apparatus 101 identifies from the image of the frame currently being processed that the information processing apparatus 101 has changed, and if there is a change of a predetermined amount or more, the information processing apparatus 101 determines that the foot is up.

ステップS1301で、被験者の足が上がっていると判定した場合には、情報処理装置101は、ステップS1302の処理に移行し、被験者の足が上がっていないと判定した場合には、情報処理装置101は、ステップS1304の処理に移行する。 If it is determined in step S1301 that the subject's foot is raised, the information processing apparatus 101 proceeds to the process of step S1302, and if it is determined that the subject's foot is not raised, the information processing apparatus 101. Shifts to the processing of step S1304.

ステップS1302において、情報処理装置101は、ステップS1301で上がっていると判定した被験者の足が、所定の高さまで上がっているかを判定する。 In step S1302, the information processing apparatus 101 determines whether the foot of the subject who has been determined to be raised in step S1301 is raised to a predetermined height.

ステップS1301で上がっていると判定した被験者の足が、所定の高さまで上がっているかを判定した場合、ステップS1303において情報処理装置101は、秒数のカウントを始め、ステップS1301で上がっていると判定した被験者の足が、所定の高さまで上がっていないと判定した場合、情報処理装置101は、本処理を終了する。 If it is determined in step S1301 that the subject's foot, which has been determined to be raised, is raised to a predetermined height, the information processing apparatus 101 starts counting the number of seconds in step S1303, and is determined to be raised in step S1301. When it is determined that the subject's feet have not risen to the predetermined height, the information processing apparatus 101 ends this processing.

より具体的には、「開眼片足立ち」で被験者が足を上げるべき高さ(図30)まで足を上げているかを、ステップS1302において、各足のy座標の値が、ステップS1301の処理を実行する前に情報処理装置101が特定した被験者の両足のかかとのy座標の値よりも所定以上変化しているかを情報処理装置101が現在処理対象となっているフレームの画像から特定し、所定以上変化している場合に、その足が所定の高さまで上がっていると情報処理装置101は判断する。 More specifically, in step S1302, the value of the y-coordinate of each foot indicates whether the subject has raised his/her foot to the height (FIG. 30) to be raised by “one-leg standing with eyes open”, by performing the processing in step S1301. Before execution, the information processing apparatus 101 identifies from the image of the frame currently processed by the information processing apparatus 101 whether the y-coordinate value of the heels of both feet of the subject identified by the information processing apparatus 101 has changed by a predetermined amount or more, When there is a change, the information processing apparatus 101 determines that the foot has risen to a predetermined height.

なお、ステップS1302における「所定」の値は、ステップS1301における「所定」の値よりも大きい値である。 The “predetermined” value in step S1302 is larger than the “predetermined” value in step S1301.

ステップS1304において、情報処理装置101は、現在処理対象となっているフレームの画像よりも前のフレームにおいて、被験者の足が上がっている(ステップS1301でYES)と判断しているか否かを判定する。 In step S1304, the information processing apparatus 101 determines whether or not it is determined that the subject's foot is raised (YES in step S1301) in the frame preceding the image of the frame currently being processed. ..

現在処理対象となっているフレームの画像よりも前のフレームの画像において、被験者の足が上がっている(ステップS1301でYES)と判断しているならば、情報処理装置101はステップS1305に処理を移行し、現在測定しているフレームの画像よりも前のフレームの画像において、被験者の足が上がっている(ステップS1301でYES)と判断していないと判定した場合、情報処理装置101は、被験者がまだ足を上げていないと判断して、本処理を終了する。 If it is determined that the subject's foot is raised (YES in step S1301) in the image of the frame before the image of the frame currently being processed, the information processing apparatus 101 proceeds to step S1305. When it is determined that the subject's foot is not raised (YES in step S1301) in the image of the frame before the image of the frame currently measured, the information processing apparatus 101 determines that the subject is Determines that he has not raised his leg yet, and ends this processing.

ステップS1305において、情報処理装置101は、被験者の足が下りたか否かを判定する。 In step S1305, the information processing apparatus 101 determines whether or not the subject's feet have descended.

より具体的には、ステップS1305において、各足のy座標の値が、ステップS1301の処理を実行する前に情報処理装置101が特定した被験者の両足のかかとのy座標の値よりも所定以上変化していないかを情報処理装置101が現在処理対象となっているフレームの画像から特定し、所定以上変化していない場合に、その足が下りていると情報処理装置101は判断する。 More specifically, in step S1305, the y-coordinate value of each foot changes by a predetermined amount or more than the y-coordinate value of the heels of both feet of the subject identified by the information processing apparatus 101 before executing the process of step S1301. The information processing apparatus 101 identifies from the image of the frame currently being processed whether or not the information is processed, and if there is no change for a predetermined amount or more, the information processing apparatus 101 determines that the foot is down.

ステップS1305で、被験者の足が下りていると判定した場合には、情報処理装置101は、ステップS1306の処理に移行し、ステップS1303で実行した秒数のカウントを終了し、被験者の足が下りていないと判定した場合には、情報処理装置101は、被験者がまだ足を上げていると判定して、本処理を終了する。 When it is determined in step S1305 that the subject's foot is descending, the information processing apparatus 101 transitions to the process of step S1306, ends the counting of the number of seconds executed in step S1303, and the subject's foot descends. If it is determined that the subject is not present, the information processing apparatus 101 determines that the subject is still raising his/her foot, and ends this processing.

ステップS1307において、情報処理装置101は、ステップS1303で秒数のカウントを開始してからステップS1306でカウントを終了するまでにカウントした秒数が所定の秒数(例えば、24秒)を下回っているか、上回っているかによって被験者の運動能力を評価する。評価結果を測定結果管理テーブル(図19)に記憶する。
以上で図13の説明を終了する。
In step S1307, the information processing apparatus 101 determines whether the number of seconds counted from the start of counting the number of seconds in step S1303 to the end of the counting in step S1306 is less than a predetermined number of seconds (for example, 24 seconds). , The subject's athletic ability is evaluated according to whether or not it exceeds. The evaluation result is stored in the measurement result management table (FIG. 19).
This is the end of the description of FIG.

なお、図13では、情報処理装置101が自動で被験者の足の上げ下げを判定するとしたが、図14に示すように、ユーザ(例えば評価者)が手動で被験者の足の上げ下げを指定することも可能である。 Note that in FIG. 13, the information processing apparatus 101 automatically determines whether the subject's feet are raised or lowered, but as shown in FIG. 14, the user (e.g., evaluator) may manually specify the subject's feet raised or lowered. It is possible.

そこで、以下、図14を用いて、ユーザ(例えば評価者)が手動で被験者の足の上げ下げを指定する仕組みについて説明する。 Therefore, a mechanism in which a user (e.g., an evaluator) manually specifies the raising and lowering of the subject's foot will be described below with reference to FIG.

図14は、ステップS302で情報処理装置101が被験者の撮影を開始したときに情報処理装置101のディスプレイ212に表示される画面である。 FIG. 14 is a screen displayed on the display 212 of the information processing device 101 when the information processing device 101 starts photographing the subject in step S302.

1401には、情報処理装置101のモーション情報取得部151が取得した動画が表示される。 On 1401, a moving image acquired by the motion information acquisition unit 151 of the information processing device 101 is displayed.

1402は、上げ下げボタンであり、上げ下げボタン1402が、ユーザによるマウス等の操作により、1回目押下されると、情報処理装置101は図13の処理を停止して、上げ下げボタン1402が1回目押下されたタイミングで被験者が足を上げたと情報処理装置101は判断し、秒数のカウントを開始する。 Reference numeral 1402 denotes an up/down button. When the up/down button 1402 is pressed for the first time by the user operating the mouse or the like, the information processing apparatus 101 stops the processing in FIG. 13 and the up/down button 1402 is pressed for the first time. At that timing, the information processing apparatus 101 determines that the subject has lifted his/her foot, and starts counting the number of seconds.

そして、上げ下げボタン1402が、ユーザによるマウス等の操作により、2回目押下されると、被験者が足を下げたと情報処理装置101は判断し、秒数のカウントを終了する。そして、カウントした秒数に従って、被験者の運動能力を評価する。 Then, when the raising/lowering button 1402 is pressed for the second time by the user operating the mouse or the like, the information processing apparatus 101 determines that the subject has lowered his/her foot, and finishes counting the number of seconds. Then, the exercise capacity of the subject is evaluated according to the counted number of seconds.

なお、本実施例では、上げ下げボタン1402が、ユーザによるマウス等の操作により、1回目押下されると、情報処理装置101は図13の処理を停止するとしたが、他の実施例として、図13のステップS1303の処理以降に上げ下げボタン1402がユーザによるマウス等の操作により押下された場合に、情報処理装置101は、ステップS1304、ステップS1305の処理を実行することなく秒数のカウントを終了したり、ステップS1302の処理より前に上げ下げボタン1402がユーザによるマウス等の操作により押下された場合に、情報処理装置101は、ステップS1301、ステップS1302の処理を実行することなく秒数のカウントを開始し、その後ステップS1304以降の処理を実行するとしても良い。 Note that in this embodiment, when the up/down button 1402 is pressed for the first time by the user operating the mouse or the like, the information processing apparatus 101 stops the processing of FIG. 13, but as another embodiment, FIG. When the up/down button 1402 is pressed by the user operating the mouse or the like after the processing of step S1303, the information processing apparatus 101 ends the counting of the number of seconds without executing the processing of steps S1304 and S1305. If the up/down button 1402 is pressed by the user operating the mouse or the like before the processing of step S1302, the information processing apparatus 101 starts counting the number of seconds without executing the processing of steps S1301 and S1302. After that, the processes of step S1304 and thereafter may be executed.

図14のように、ユーザ(例えば評価者)が手動で被験者の足の上げ下げを指定可能とすることで、図13のように情報処理装置101が自動で被験者の足の上げ下げを判定する場合に、被験者が足を上げているにも関わらず足を上げていないと情報処理装置が判定してしまった場合や、被験者が足を下ろしているにも関わらず足を下ろしていないと判定してしまう場合であっても、判定結果を修正することが可能となる。
以上で、図14の説明を終了する。
As shown in FIG. 14, when the user (e.g., evaluator) manually specifies the raising/lowering of the subject's foot, the information processing apparatus 101 automatically determines the raising/lowering of the subject's foot as shown in FIG. 13. , If the information processing device determines that the subject does not raise the leg even though the subject has raised the leg, or if the subject has determined that the subject has not lowered the leg Even if it happens, the judgment result can be corrected.
This is the end of the description of FIG.

次に、図29を用いて、被験者の動作を評価し、被験者や介護者に対するメッセージを表示する処理について説明する。図29のフローチャートで示す処理は、情報処理装置101のCPU201が所定の制御プログラムを読み出して実行する処理である。 Next, with reference to FIG. 29, a process of evaluating a subject's motion and displaying a message to the subject and a caregiver will be described. The process shown in the flowchart of FIG. 29 is a process in which the CPU 201 of the information processing device 101 reads and executes a predetermined control program.

ステップS2901では、特定された骨格情報が予め定められた評価条件を満たすかを判定する。 In step S2901, it is determined whether the specified skeleton information satisfies a predetermined evaluation condition.

評価条件を満たす場合(ステップS2901:YES)は、処理をステップS2902に移行する。 If the evaluation conditions are satisfied (step S2901: YES), the process moves to step S2902.

評価条件を満たさない場合(ステップS2901:NO)は、処理をステップS2903に移行する。 If the evaluation conditions are not satisfied (step S2901: NO), the process proceeds to step S2903.

評価条件の一例を図30に示す。図30に示す通り、種目ごとに評価条件と評価内容とが対応付けられている。 An example of evaluation conditions is shown in FIG. As shown in FIG. 30, the evaluation condition and the evaluation content are associated with each item.

例えば、「種目:椅子立ち座り」については、膝の角度が175度以上になった場合には立ち上がる動作として評価し、95度以下になった場合には座る動作として評価する。そして、立ち上がる動作と座る動作とが行われた場合には、立ち座り動作が1回行われたものと評価される。 For example, with respect to “item: standing up in a chair”, when the knee angle is 175 degrees or more, it is evaluated as a standing motion, and when it is 95 degrees or less, it is evaluated as a sitting motion. Then, when the standing motion and the sitting motion are performed, it is evaluated that the standing and sitting motion is performed once.

開眼片足立ちにおいては、左右の足の高さの差が5cm以上になった場合に、片足を上げたと評価される。 In standing on one foot with the eyes open, it is evaluated that one foot is raised when the difference in height between the left and right feet is 5 cm or more.

ステップS2902では、評価値を加算等する。例えば、椅子立ち座りであれば1回を加算する。また開眼片足立ちでは、片足立ちの開始条件を満たした場合は、片足立ち時間の計測を開始する。終了条件を満たした場合は、片足立ち時間の計測を終了する。 In step S2902, evaluation values are added. For example, if the person is standing on a chair, one time is added. In the one-leg standing with the eyes open, the measurement of the one-leg standing time is started when the start condition for the one-leg standing is satisfied. When the end condition is satisfied, the measurement of the one-leg standing time is ended.

ステップS2903では、特定された骨格座標に基づき、メッセージを特定する。 In step S2903, the message is specified based on the specified skeleton coordinates.

メッセージ内容は、図31に示すメッセージテーブルに基づき特定される。例えば、種目:椅子立ち座りにおいては、膝の角度が175度以上になった場合には「座ってください」というメッセージが特定される。また、膝の角度が175度未満の状態で座る動作に移行した場合(膝の角度が小さくなった場合)には、「しっかり立ってください」とのメッセージが特定される。 The message content is specified based on the message table shown in FIG. For example, in the category: standing and sitting on a chair, the message “please sit down” is specified when the knee angle is 175 degrees or more. Further, when the operation shifts to a sitting motion in the state where the knee angle is less than 175 degrees (when the knee angle becomes small), the message “Stand up firmly” is specified.

また、開眼片足立ちにおいては、足を上げていない状態だと「足を上げてください」というメッセージが、上げている足の高さが低い場合には「もっと足を上げてください」というメッセージが、しっかり足を上げている状態だと「計測中」というメッセージが特定される。 When standing on one leg with the eyes open, the message “Please raise your foot” is displayed if you are not raising your legs, and the message “Please raise your legs more” is displayed if the height of the raised legs is low. , The message "Measuring" is specified when the user's legs are firmly lifted.

このようにメッセージを表示することで、被験者や介護者は、しっかりと評価される動作をしているのか、どのような動作をすれば評価されるのかを認識することが可能となる。 By displaying the message in this manner, the subject and the caregiver can recognize whether the motion is being evaluated firmly and what kind of motion should be evaluated.

ステップS2904では、ステップ2903で特定されたメッセージを表示する。一例として図22の2201を示す。
図3の説明に戻る。
In step S2904, the message specified in step 2903 is displayed. 2201 of FIG. 22 is shown as an example.
Returning to the description of FIG.

ステップS304〜S306の処理は、モーション情報取得部151により動画フレームが取得される度に行われる処理である。このようにフレームが取得される度に骨格情報を認識することで、各関節の座標情報の変化を検知し、動作を認識することが可能となる。 The processing of steps S304 to S306 is processing performed each time the motion information acquisition unit 151 acquires a moving image frame. By recognizing the skeleton information each time a frame is acquired, it is possible to detect a change in the coordinate information of each joint and recognize the motion.

ステップS307では、情報処理装置101のCPU201は、ステップS306で測定された結果を保存する(図19)。 In step S307, the CPU 201 of the information processing apparatus 101 stores the result measured in step S306 (FIG. 19).

次に、図4を用いて、予め記録されたモーション情報を用いた場合の、各種目の測定処理について説明する。 Next, with reference to FIG. 4, description will be given of measurement processing of each eye when using prerecorded motion information.

なお、図3に示すリアルタイムでの測定(モーション情報を取得しながら測定も行う処理)を実行するか、図4に示す予め記録されたモーション情報を用いた測定を実行するかは、ユーザの選択により決定される。 It is to be noted that whether to perform the real-time measurement shown in FIG. 3 (the process of performing the measurement while acquiring the motion information) or the measurement using the pre-recorded motion information shown in FIG. 4 is selected by the user. Determined by

ステップS401では、ユーザから再生する動画(測定したい被験者の動作を撮影した動画)の選択を受け付け、当該動画の再生指示を受け付ける。 In step S401, the user receives a selection of a moving image to be played (a moving image of a motion of a subject to be measured), and receives a playback instruction of the moving image.

なお、動画データは、モーション情報取得部151の各センサーにより取得されたデータを含むものである。 The moving image data includes data acquired by each sensor of the motion information acquisition unit 151.

ステップS402では、ステップS401で選択を受け付けた動画と比較対象となる動画の選択を受け付ける。 In step S402, the selection of a moving image to be compared with the moving image selected in step S401 is received.

ステップS403では、再生対象の動画と、比較対象の動画について、各種設定を受け付ける。 In step S403, various settings are accepted for the moving image to be reproduced and the moving image to be compared.

ステップS404では、ステップS402で受け付けた設定を保存する。図28における2801の保存ボタンが押下されることで、保存処理が実行される。 In step S404, the settings accepted in step S402 are saved. When the save button 2801 in FIG. 28 is pressed, the save process is executed.

ステップS405では、再生指示された動画と比較対象として設定された動画を再生する。 In step S405, the moving image instructed to be reproduced and the moving image set as the comparison target are reproduced.

この際、同時再生ボタンが押下された場合には、両動画が同時に再生され、個別の再生ボタンが押下された場合には、押下された動画が個別に再生される。 At this time, when the simultaneous playback button is pressed, both moving images are played simultaneously, and when the individual playback buttons are pressed, the pressed moving images are played individually.

そして、図3のステップS304以降の処理を実行する。 Then, the processing after step S304 in FIG. 3 is executed.

図3、図4に示すように、被験者を撮影しながらリアルタイムで動作を評価する場合と、被験者を撮影した動画を保存し、後から動作を評価する場合とを切り替え可能にすることで、例えば、被験者にその場でフィードバックしたい場合には、リアルタイムで動作を評価するようにユーザが設定し、先に複数の被験者を録画して後で評価したい場合や、繰り返し細かい動きなどをユーザ(評価者)が見ながら確認したい場合や、撮影した動画を別の種目として評価したい場合や、アノテーション機能により被験者の骨格の角度を確認したい場合や、被験者と評価者が一緒である場合には、被験者を撮影した動画を保存し、後から動作を評価するようにユーザが設定することが可能となる。 As shown in FIGS. 3 and 4, by making it possible to switch between a case where a motion is evaluated in real time while photographing a subject and a case where a moving image of the subject is saved and the motion is evaluated later, for example, If you want to give feedback to the subject on the spot, the user sets the motion to be evaluated in real time, if you want to record multiple subjects first and evaluate later, or if the user (evaluator) repeats detailed movements. ) Wants to check while watching, or if you want to evaluate the captured video as another event, if you want to check the angle of the subject's skeleton with the annotation function, or if the subject and the evaluator are together, It is possible for the user to save the captured moving image and set the motion to be evaluated later.

また、被験者を撮影した動画を保存し、後から動作を評価する場合には、誤検出があった場合撮りなおしをせずに、ユーザが手動で評価結果を変更できるというメリットがある。
図23、図24に比較画面の一例を示す。
In addition, when a moving image of a subject is saved and the operation is evaluated later, there is an advantage that the user can manually change the evaluation result without re-taking the image if there is an erroneous detection.
23 and 24 show examples of comparison screens.

図23は評価対象の動画と、比較対象の動画とを縦に並べて表示した画面の一例である。 FIG. 23 is an example of a screen in which a moving image to be evaluated and a moving image to be compared are vertically arranged and displayed.

図24は評価対象の動画と、比較対象の動画とを横に並べて表示した画面の一例である。 FIG. 24 is an example of a screen in which a moving image to be evaluated and a moving image to be compared are displayed side by side.

比較画面のレイアウト(縦に並べるか、横に並べるか)については、例えば種目ごとに縦にならべるか横に並べるかを登録しておき、当該登録内容に従って表示する方法がある。種目ごとにレイアウトが登録されたテーブルを図25に示す。 Regarding the layout of the comparison screen (vertical arrangement or horizontal arrangement), for example, there is a method of registering whether to arrange vertically or horizontally for each item and display according to the registered contents. FIG. 25 shows a table in which layouts are registered for each item.

図25に示す通り、椅子立ち座りは横に並べ、通常歩行は縦に並べることを示している。このように、予め登録しておくことで、被験者が上下方向に移動するような種目(「椅子立ち座り」など)は横に並べ、左右方向に移動する種目(「通常歩行」など)は、縦に並べるといったことが可能となる。このように移動方向に応じて並べ方を決定することで、比較しやすいレイアウトで表示することが可能となる。 As shown in FIG. 25, standing and sitting in chairs are arranged horizontally, and normal walking is arranged vertically. In this way, by registering in advance, events in which the subject moves in the vertical direction (such as "chair standing") are arranged side by side, and events in which the subject moves in the horizontal direction (such as "normal walking") It is possible to arrange them vertically. In this way, by deciding the arranging method according to the moving direction, it is possible to display in a layout that is easy to compare.

このように予め登録しておく方法は、種目が予め特定されている場合に有効である。 The method of registering in advance in this way is effective when the item is specified in advance.

また、被験者の軌跡に基づき、レイアウトを決定する方法もある。例えば、被験者の軌跡が左右方向であれば上下に並べ、被験者の軌跡が上下方向であれば左右に並べるといったように、被験者の動きに基づき、レイアウトを決定する。 There is also a method of determining the layout based on the trajectory of the subject. For example, the layout is determined based on the movement of the subject, such as arranging vertically when the subject's trajectory is in the left-right direction and arranging horizontally when the subject's trajectory is in the up-down direction.

このように被験者の軌跡に基づき判断する方法によれば、予め種目が特定されていない場合でも、比較しやすいレイアウトで表示することが可能となる。 According to the method of making a determination based on the trajectory of the subject in this way, it is possible to display the layout in a layout that is easy to compare even if the event is not specified in advance.

また、比較画面においては、動画の左右を反転させることが可能である。 Also, on the comparison screen, it is possible to reverse the left and right of the moving image.

図26は、図23の画面における上の動画の左右を反転させた場合を示す図である。図26に示す通り、上の動画に映っている人物が図23では右向きであったのが、図26では左向きになっている。 FIG. 26 is a diagram showing a case where the left and right sides of the upper moving image on the screen of FIG. 23 are reversed. As shown in FIG. 26, the person shown in the above moving image is facing right in FIG. 23, but is facing left in FIG.

反転する旨の指示は、図26の2601で示すチェックボックスにチェックがなされることにより受け付ける。2601における「上画面反転」がチェックされると上の画面が反転する。「下画面反転」がチェックされると下の画面が反転する。両方にチェックがなされると、上下両方の画面が反転する。 The instruction to invert is accepted by checking the check box indicated by 2601 in FIG. If the "invert upper screen" in 2601 is checked, the upper screen is reversed. When "Reverse lower screen" is checked, the lower screen is reversed. If both are checked, the upper and lower screens will be reversed.

このように反転させることで、例えば1ヶ月前は映像の左から右に向かって歩いて測定したが、今回は右から左に向かって測定したといった場合にも、両者の歩く方向を統一することが出来るため、比較しやすくなり、両者の差異を詳しく把握することが可能となる。 By reversing in this way, for example, one month ago, we measured from left to right in the image, but this time we also measured from right to left. Therefore, it becomes easier to compare and it becomes possible to grasp the difference between the two in detail.

また、比較画面においては、比較対象の画像を並べて表示するだけでなく、重ね合わせて表示することも可能である。 Further, on the comparison screen, not only the images to be compared can be displayed side by side but also can be displayed in an overlapping manner.

重ね合わせて表示した一例を図27に示す。図27における2701と2702は、比較対象の画像である。そして、2703は2701と2702の画像を重ね合わせた画像である。 FIG. 27 shows an example of overlapping display. 2701 and 2702 in FIG. 27 are images to be compared. 2703 is an image in which the images of 2701 and 2702 are superimposed.

比較画面においては、比較対象の画像のサイズや位置を調整することが可能である。 On the comparison screen, it is possible to adjust the size and position of the image to be compared.

サイズについては、図27の自動調整メニュー2704の「大きさ」にチェックを入れることで、例えば頭部と腰部までの長さを用いて、当該長さを比較対象の骨格情報間で一致するよう調整される。 Regarding the size, by checking the “size” of the automatic adjustment menu 2704 of FIG. 27, for example, the lengths between the head and the waist are used so that the lengths match between the skeleton information to be compared. Adjusted.

また、自動で調整するだけでなく、ユーザの操作により調整することも可能である。この場合は、図27における大きさ調整ボタン2705、2706を押下することにより、調整可能である。 Further, it is possible to perform not only the automatic adjustment but also the user's operation. In this case, the size can be adjusted by pressing the size adjustment buttons 2705 and 2706 in FIG.

このようにサイズの調整ができることで、身長の異なる人物同士を比較する場合や、過去に撮影されたものと倍率が異なる場合等においても、比較しやすくなり、両者の差異を詳しく把握することが可能となる。 By adjusting the size in this way, it becomes easier to compare even when comparing people with different heights, or when the magnification is different from those photographed in the past, and it is possible to grasp the difference between the two in detail. It will be possible.

位置については、図27の自動調整メニュー2704の「位置」にチェックを入れることで、例えば頭部の位置を比較対象の骨格情報間で一致するよう調整される。また、合成画像の中央に人物が映るよう位置が調整される。 Regarding the position, by checking the “position” of the automatic adjustment menu 2704 of FIG. 27, for example, the position of the head is adjusted so as to match the skeleton information of the comparison target. Further, the position is adjusted so that the person appears in the center of the composite image.

また、ユーザがドラッグ操作することで、位置を調整することも可能である。 The position can also be adjusted by the user performing a drag operation.

このように、位置を調整可能にすることで、比較対象の骨格情報を所望の位置に配置して比較することや、重ね合わせて比較することが可能となり、比較しやすくなり、両者の差異を詳しく把握することが可能となる。 In this way, by making the position adjustable, it is possible to arrange the skeleton information to be compared at a desired position for comparison, or to overlap and compare, which makes it easier to compare, and the difference between the two It is possible to understand in detail.

また、自動調整メニュー2704の「両方」にチェックを入れると、サイズと位置の両方が調整される。 Also, if a check is put in “both” in the automatic adjustment menu 2704, both size and position are adjusted.

また、比較画面においては、背景等を表示せず、骨格情報だけを表示することが可能である。
骨格情報だけを表示した画面の一例を図28に示す。
Further, in the comparison screen, it is possible to display only the skeleton information without displaying the background or the like.
FIG. 28 shows an example of a screen displaying only skeleton information.

例えば、比較対象の動画がそれぞれ異なる部屋で撮影された場合には、背景の違いが邪魔をして骨格の動きの比較が困難となってしまう。特に合成画像においては、異なる背景同士が重畳して表示されるため、非常に見づらくなり、比較しづらくなってしまう。そこで、背景を消すことで、比較対象を明確に表示することができ、両者の差異を詳しく把握することが可能となる。 For example, when the moving images to be compared are shot in different rooms, the difference in background interferes and it becomes difficult to compare the movements of the skeletons. In particular, in a composite image, different backgrounds are displayed in a superimposed manner, which makes it very difficult to see and makes comparison difficult. Therefore, by deleting the background, the comparison target can be clearly displayed, and the difference between the two can be grasped in detail.

上述した各種画面において設定された内容(比較動画の組み合わせ、画面レイアウト、位置、サイズなど)は、比較シナリオとして保存し、再利用可能である。 The contents (combination of comparison moving images, screen layout, position, size, etc.) set on the various screens described above can be saved and reused as a comparison scenario.

比較シナリオの情報には、動画ファイルの情報、再生開始位置、再生終了位置、ズーム状態、合成映像の調整済み位置、左右反転の設定が含まれる。 The information of the comparison scenario includes information of the moving image file, a reproduction start position, a reproduction end position, a zoom state, an adjusted position of the composite video, and a horizontal inversion setting.

このように、設定された内容を比較シナリオとして保存することで、あとから再度見直したいというときにも、再度設定する手間を省くことができる。 In this way, by saving the set contents as a comparison scenario, it is possible to save the trouble of setting again when the user wants to review again later.

次に、図5を用いて、レポート作成処理について説明する。 Next, the report creating process will be described with reference to FIG.

ステップS501では、ユーザから被験者の選択を受け付け、当該被験者の測定結果(レポート)の出力指示を受け付ける。 In step S501, the selection of the subject is received from the user, and the instruction to output the measurement result (report) of the subject is received.

ステップS502では、出力指示を受け付けた被験者の測定結果を抽出する。 In step S502, the measurement result of the subject who received the output instruction is extracted.

ここで図15を用いて、測定結果抽出処理の詳細について説明する。 Details of the measurement result extraction process will be described with reference to FIG.

ステップS1501では、情報処理装置101は、ユーザから抽出条件の設定を受け付ける。図17に抽出条件設定画面のイメージを示す。図17の画面では、抽出条件として、開始日付1701、終了日付1702を設定させる。 In step S1501, the information processing apparatus 101 receives the extraction condition setting from the user. FIG. 17 shows an image of the extraction condition setting screen. In the screen of FIG. 17, a start date 1701 and an end date 1702 are set as extraction conditions.

ステップS1502では、情報処理装置101は、ユーザから種目の選択を受け付ける。図17の画面では、種目1703として、開眼片足立ち、椅子立ち座り、最大一歩、通常歩行、TUGから選択させる。 In step S1502, the information processing apparatus 101 receives selection of an item from the user. In the screen of FIG. 17, as the item 1703, one of standing with one eye on one leg, standing with a chair, sitting on a chair, maximum step, normal walking, and TUG is selected.

ステップS1503では、情報処理装置101は、ステップS1501およびS1502で受け付けた、抽出条件、種目に従って、図19に示す測定結果管理テーブルから今回および前回の測定結果を抽出する。具体的には、図17の抽出ボタン1704が押下されることにより本処理が実行され、抽出条件である開始日付1701と終了日付1702の範囲で、選択された種目1703に対して測定結果管理テーブルを検索し、最新の測定結果と、2番目に新しい測定結果を、今回結果、前回結果として抽出する。 In step S1503, the information processing apparatus 101 extracts the current measurement result and the previous measurement result from the measurement result management table shown in FIG. 19 according to the extraction condition and the item accepted in steps S1501 and S1502. Specifically, this process is executed by pressing the extraction button 1704 in FIG. 17, and the measurement result management table for the selected item 1703 within the range of the start date 1701 and the end date 1702 which are the extraction conditions. And the latest measurement result and the second newest measurement result are extracted as the present result and the previous result.

このように指定された種目(通常複数指定あり)に対して、指定された期間範囲に含まれる最新の測定結果と、2番目に新しい結果を今回測定結果、前回測定結果として抽出することにより、それぞれの種目に対して検索条件を設定して測定結果を検索して今回測定結果と前回測定結果を選定するといった一連作業を実施することなく、レポート出力するための測定結果を抽出することができる。 By extracting the latest measurement result included in the specified period range and the second most recent result as the current measurement result and the previous measurement result for the specified event (usually there are multiple specifications), It is possible to extract measurement results for report output without performing a series of operations such as setting search conditions for each item, searching for measurement results, and selecting current measurement results and previous measurement results. ..

ここで図19を用いて、測定結果管理テーブルについて説明する。測定結果管理テーブルは、測定結果ID1901、被験者1902、測定日時1903、種目1904、測定値1905、評価点1906、動画ファイル1907を項目として含む。測定結果ID1901は測定結果を一意に識別するための文字列である。被験者1902は測定を受けた被験者である。測定日時1903は測定を開始した日時である。種目1904は測定された種目であり、開眼片足立ち、椅子立ち座り、最大一歩、通常歩行、TUGのいずれかである。測定値1905は測定結果を表す数値である。評価点1906は測定値1905をもとに評価された点数である。動画ファイル1907は測定結果に対応する動画データのファイル名、または、動画データへのリンクである。 Here, the measurement result management table will be described with reference to FIG. The measurement result management table includes measurement result ID 1901, subject 1902, measurement date and time 1903, item 1904, measurement value 1905, evaluation point 1906, and moving image file 1907 as items. The measurement result ID 1901 is a character string for uniquely identifying the measurement result. Subject 1902 is the subject who received the measurement. The measurement date and time 1903 is the date and time when the measurement was started. The event 1904 is the measured event and is any one of the following: one-leg standing with eyes open, standing on a chair, maximum step, normal walking, and TUG. The measurement value 1905 is a numerical value indicating the measurement result. The evaluation score 1906 is a score evaluated based on the measured value 1905. The moving image file 1907 is a file name of moving image data corresponding to the measurement result or a link to the moving image data.

ステップS1504では、情報処理装置101は、ステップS1503にて抽出した測定結果をディスプレイ212等に表示する。図18に抽出結果表示画面のイメージを示す。図18の画面では、抽出された測定結果に対応する動画データのサムネイル画像1801を表示する。
図5の説明に戻る。
In step S1504, the information processing apparatus 101 displays the measurement result extracted in step S1503 on the display 212 or the like. FIG. 18 shows an image of the extraction result display screen. On the screen of FIG. 18, a thumbnail image 1801 of moving image data corresponding to the extracted measurement result is displayed.
Returning to the explanation of FIG.

ステップS503では、ステップS502で抽出された結果に基づき、レポートを作成する。 In step S503, a report is created based on the result extracted in step S502.

ここで図16を用いて、レポート作成処理の詳細について説明する。 Here, details of the report creation process will be described with reference to FIG.

ステップS1601からS1605の処理は、ステップS1502で選択を受け付けた種目ごとに繰り返し実行する。 The processes of steps S1601 to S1605 are repeatedly executed for each item for which the selection is accepted in step S1502.

ステップS1601では、情報処理装置101は、ステップS1503にて抽出した、今回および前回の測定結果を取得する。 In step S1601, the information processing apparatus 101 acquires the current and previous measurement results extracted in step S1503.

ステップS1602では、情報処理装置101は、ステップS1601にて取得した測定結果が評価済みかどうか判定する。具体的には、測定結果管理テーブルの評価点1906に値が設定されているかで判定する。評価済みであればステップS1604に進み、評価済みでなければステップS1603に進む。 In step S1602, the information processing apparatus 101 determines whether the measurement result acquired in step S1601 has been evaluated. Specifically, it is determined whether a value is set for the evaluation point 1906 of the measurement result management table. If it has been evaluated, the process proceeds to step S1604, and if it has not been evaluated, the process proceeds to step S1603.

ステップS1603では、情報処理装置101は、未評価の測定結果に対して評価を実施し、測定結果管理テーブルの測定値1905および評価点1906に登録する。 In step S1603, the information processing apparatus 101 evaluates the unevaluated measurement result and registers it in the measurement value 1905 and the evaluation point 1906 of the measurement result management table.

ステップS1604では、情報処理装置101は、測定結果に対応する動画から、動画の各フレーム画像を検索して、種目に対して特徴的なタイミングのフレーム画像を抽出する。特徴的なタイミングを決定する条件は種目ごとに決められており、例えば、開眼片足立ちであれば足を地面につけたタイミング、つまり足を上げている状態から足をついた状態に状態が遷移したタイミング、最大一歩であれば最も大きく両脚を開いたタイミング、つまり最高記録と判定された時の足を上げている状態から足をついたタイミング、のように決められている。具体的な条件は、各関節に対する座標データの値や変化状況、複数の関節の座標データの相関関係等を基に設定される。なお、特徴的なタイミングのフレーム画像は、本処理で抽出してもよいし、評価時に抽出して保存しておき本処理で呼び出してもよい。また、本実施例では、種目ごとに1つの特徴的なフレーム画像を抽出しているが、条件によっては複数のフレーム画像を抽出してもよい。 In step S1604, the information processing apparatus 101 searches each frame image of the moving image from the moving image corresponding to the measurement result, and extracts a frame image having a characteristic timing with respect to the item. The conditions that determine the characteristic timing are determined for each discipline.For example, with one eye standing with the eyes open, the timing when the foot is attached to the ground, that is, the state transitions from the state where the foot is raised to the state where the foot is attached The timing is the timing of opening the legs the most if it is the largest step, that is, the timing when the legs are lifted from the state of raising the legs when it is judged as the highest record. The specific condition is set based on the value of the coordinate data for each joint, the change status, the correlation of the coordinate data of a plurality of joints, and the like. The frame image having a characteristic timing may be extracted by this process, or may be extracted and saved at the time of evaluation and called by this process. Further, in the present embodiment, one characteristic frame image is extracted for each item, but a plurality of frame images may be extracted depending on conditions.

ステップS1605では、情報処理装置101は、ステップS1604にて抽出した特徴的なフレーム画像のサムネイル画像と、各種目に対する評価結果をレポート要素として出力する。ステップS1604にて特徴的なフレーム画像が複数抽出された場合には、対応するサムネイル画像を並べて複数出力してもよいし、1つに絞り込んで出力してもよい。 In step S1605, the information processing apparatus 101 outputs the thumbnail images of the characteristic frame images extracted in step S1604 and the evaluation results for various eyes as report elements. When a plurality of characteristic frame images are extracted in step S1604, a plurality of corresponding thumbnail images may be arranged and output, or may be narrowed down to one and output.

このようにレポート要素に各種目に対する評価結果と、特徴的なフレーム画像のサムネイル画像を出力することにより、数値データによる状況把握だけではなく、視覚的、直感的に測定結果の良否等を把握することができる。 In this way, by outputting the evaluation results for various eyes and the thumbnail image of the characteristic frame image to the report element, not only the situation can be grasped by the numerical data, but also the quality of the measurement result can be grasped visually and intuitively. be able to.

ステップS1606では、各種目に対して出力されたレポート要素を集約し、レポート作成日や、被験者情報、測定場所情報などの測定に関する情報を付加してレポートを作成する。
図5の説明に戻る。
In step S1606, the report elements output for various items are aggregated, and a report is created by adding information related to measurement such as the report creation date, subject information, and measurement location information.
Returning to the explanation of FIG.

ステップS504では、情報処理装置101のCPU201は、ステップS503で作成したレポートを出力する。 In step S504, the CPU 201 of the information processing apparatus 101 outputs the report created in step S503.

図20に本処理にて作成され、ステップS504にて出力されるレポートの出力例を示す。図20の出力例では、レポート情報欄2001には作成日、実施者(被験者)、実施場所、担当者が表示され、総合コメント欄2002には評価者からコメント、レーダーチャート欄2003には種目ごとの評価点のレーダーチャートが表示される。ピックアップ種目欄2004にはユーザに選択させた種目に対し、ステップS1605にて抽出した特徴的な画像からサムネイルおよび骨格画像が表示される。種目別結果欄2005には種目別の今回および前回の実施日、結果(測定値)、今回と前回の評価点から判定される改善度合、評価者からの種目に対するコメントと、ステップS1605にて抽出した特徴的なフレーム画像のサムネイル画像が表示される。 FIG. 20 shows an output example of the report created in this process and output in step S504. In the output example of FIG. 20, the date of creation, the implementer (subject), the place of implementation, and the person in charge are displayed in the report information column 2001, a comment from the evaluator in the general comment column 2002, and each item in the radar chart column 2003. The radar chart of the evaluation points of is displayed. In the pickup item column 2004, thumbnails and skeleton images are displayed for the items selected by the user from the characteristic images extracted in step S1605. In the item-specific result column 2005, the current and previous implementation dates for each item, results (measured values), the degree of improvement determined from the current and previous evaluation points, comments from the evaluator to the item, and extraction in step S1605. A thumbnail image of the selected characteristic frame image is displayed.

以上、本発明によると、所定のタイミングで対象者の通過を特定できない場合であっても、対象者の歩行速度を特定可能な仕組みを提供することが出来る。 As described above, according to the present invention, it is possible to provide a mechanism capable of specifying the walking speed of the target person even when the passage of the target person cannot be specified at a predetermined timing.

また、本発明におけるプログラムは、図3〜図5、図11、図13、図15、図16、図29の処理をコンピュータに実行させるプログラムである。なお、本発明におけるプログラムは、図3〜図5、図11、図13、図15、図16、図29の各処理ごとのプログラムであってもよい。 Further, the program according to the present invention is a program that causes a computer to execute the processes of FIGS. 3 to 5, 11, 11, 13, 15, 16 and 29. The program according to the present invention may be a program for each process of FIGS. 3 to 5, FIG. 11, FIG. 13, FIG. 15, FIG. 16, and FIG.

以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読み出し、実行することによっても本発明の目的が達成されることは言うまでもない。 As described above, the recording medium recording the program that realizes the functions of the above-described embodiments is supplied to the system or apparatus, and the computer (or CPU or MPU) of the system or apparatus stores the program stored in the recording medium. It goes without saying that the object of the present invention can also be achieved by reading and executing.

この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した記録媒体は本発明を構成することになる。 In this case, the program itself read from the recording medium realizes the novel function of the present invention, and the recording medium recording the program constitutes the present invention.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、DVD−ROM、磁気テープ、不揮発性のメモリカード、ROM、EEPROM、シリコンディスク等を用いることが出来る。 A recording medium for supplying the program includes, for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a DVD-ROM, a magnetic tape, a non-volatile memory card, a ROM, an EEPROM, and a silicon. A disk or the like can be used.

また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, not only the functions of the above-described embodiments are realized by executing the program read by the computer, but also the OS (operating system) operating on the computer is actually executed based on the instructions of the program. It goes without saying that a case where some or all of the processing is performed and the functions of the above-described embodiments are realized by the processing is also included.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Furthermore, after the program read from the recording medium is written in the memory provided in the function expansion board inserted in the computer or the function expansion unit connected to the computer, the function expansion board is instructed based on the instruction of the program code. Needless to say, this also includes the case where the CPU or the like included in the function expansion unit performs some or all of the actual processing and the functions of the above-described embodiments are realized by the processing.

また、本発明は、複数の機器から構成されるシステムに適用しても、ひとつの機器から成る装置に適用しても良い。また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適応できることは言うまでもない。この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 Further, the present invention may be applied to a system including a plurality of devices or an apparatus including a single device. Further, it goes without saying that the present invention can be applied to the case where it is achieved by supplying a program to a system or an apparatus. In this case, by reading the recording medium storing the program for achieving the present invention into the system or device, the system or device can enjoy the effects of the present invention.

さらに、本発明を達成するためのプログラムをネットワーク上のサーバ、データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。 Further, by downloading and reading a program for achieving the present invention from a server, a database or the like on a network using a communication program, the system or apparatus can enjoy the effects of the present invention. It should be noted that the present invention also includes all configurations that combine the above-described embodiments and modifications thereof.

101 情報処理装置


101 Information processing device


Claims (5)

歩行動作を行っている対象者が、当該対象者を撮影した動画上に予め設定された位置である第1の位置から第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定する移動速度特定手段と、
前記第1の位置と前記第2の位置との間において、前記対象者を検知する検知手段と、
を備え、
前記動画上に予め設定された2つの位置のうち、前記対象者の位置と先に重なった位置を前記第1の位置とし、前記対象者の位置と後に重なった位置を前記第2の位置とすることを特徴とし、
前記移動速度特定手段は、前記第1の位置において前記対象者を検知できなかった場合、前記検知手段により対象者が検知された位置から前記第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定することを特徴とする情報処理装置。
The time required for the target person performing the walking motion to move the distance from the first position, which is a preset position on the moving image of the target person, to the second position, and the distance. Based on the moving speed specifying means for specifying the moving speed of the target person,
Detection means for detecting the subject between the first position and the second position;
Equipped with
Of the two positions set in advance on the moving image, the position that overlaps the position of the subject person first is the first position, and the position that overlaps the position of the subject person is the second position. Characterized by
When the moving speed identification means cannot detect the target person at the first position, the time required for moving the distance from the position where the target person is detected by the detection means to the second position, and An information processing device, characterized in that the moving speed of the subject is specified based on the distance.
前記移動速度特定手段により特定された移動速度に基づいて、前記対象者の歩行動作に関する評価値を算出する算出手段をさらに備えることを特徴とする請求項1に記載の情報処理装置。 The information processing apparatus according to claim 1, further comprising a calculation unit that calculates an evaluation value regarding a walking motion of the subject based on the moving speed specified by the moving speed specifying unit. 前記動画を表示制御する表示制御手段をさらに備え、
前記表示制御手段は、前記第1の位置と前記第2の位置をユーザが識別可能となるように前記動画を表示制御することを特徴とする請求項1または2に記載の情報処理装置。
Further comprising display control means for controlling display of the moving image,
Wherein the display control unit, an information processing apparatus according to claim 1 or 2, the first position and the second position the user and displaying controlling the moving picture so as to be identified.
情報処理装置の移動速度特定手段が、歩行動作を行っている対象者が、当該対象者を撮影した動画上に予め設定された位置である第1の位置から第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定する移動速度特定工程と、
前記情報処理装置の検知手段が、前記第1の位置と前記第2の位置との間において、前記対象者を検知する検知工程と、
を備え、
前記動画上に予め設定された2つの位置のうち、前記対象者の位置と先に重なった位置を前記第1の位置とし、前記対象者の位置と後に重なった位置を前記第2の位置とすることを特徴とし、
前記移動速度特定工程は、前記第1の位置において前記対象者を検知できなかった場合、前記検知工程により対象者が検知された位置から前記第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定することを特徴とする情報処理方法。
The moving speed identification means of the information processing device causes the target person who is performing the walking motion to move a distance from the first position, which is a preset position on the moving image of the target person, to the second position. Based on the time required for and the distance, a moving speed specifying step of specifying the moving speed of the target person,
A detection step of detecting the target person between the first position and the second position by the detection means of the information processing device;
Equipped with
Of the two positions set in advance on the moving image, the position that overlaps the position of the subject person first is the first position, and the position that overlaps the position of the subject person is the second position. Characterized by
In the moving speed specifying step, when the target person cannot be detected at the first position, the time required to move the distance from the position where the target person is detected by the detecting step to the second position, and An information processing method, characterized in that the moving speed of the target person is specified based on the distance.
情報処理装置を、
歩行動作を行っている対象者が、当該対象者を撮影した動画上に予め設定された位置である第1の位置から第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定する移動速度特定手段と、
前記第1の位置と前記第2の位置との間において、前記対象者を検知する検知手段として機能させ、
前記動画上に予め設定された2つの位置のうち、前記対象者の位置と先に重なった位置を前記第1の位置とし、前記対象者の位置と後に重なった位置を前記第2の位置とすることを特徴とし、
前記移動速度特定手段を、前記第1の位置において前記対象者を検知できなかった場合、前記検知手段により対象者が検知された位置から前記第2の位置までの距離の移動に要した時間と、当該距離とに基づき、当該対象者の移動速度を特定する手段として機能させるためのプログラム。

Information processing equipment,
The time required for the target person performing the walking motion to move the distance from the first position, which is a preset position on the moving image of the target person, to the second position, and the distance. Based on the moving speed specifying means for specifying the moving speed of the target person,
Between the first position and the second position, functioning as detection means for detecting the target person,
Of the two positions set in advance on the moving image, the position overlapping first with the position of the target person is the first position, and the position overlapping with the position of the target person is the second position. Characterized by
When the moving speed specifying means cannot detect the target person at the first position, the time required to move the distance from the position where the target person is detected by the detecting means to the second position, and , A program for functioning as a means for identifying the moving speed of the target person based on the distance.

JP2018242825A 2018-12-26 2018-12-26 Information processing device, information processing method, and program Active JP6744559B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018242825A JP6744559B2 (en) 2018-12-26 2018-12-26 Information processing device, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018242825A JP6744559B2 (en) 2018-12-26 2018-12-26 Information processing device, information processing method, and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015213483A Division JP6458707B2 (en) 2015-10-29 2015-10-29 Information processing apparatus, control method for information processing apparatus, and program

Publications (3)

Publication Number Publication Date
JP2019093152A JP2019093152A (en) 2019-06-20
JP2019093152A5 JP2019093152A5 (en) 2019-11-28
JP6744559B2 true JP6744559B2 (en) 2020-08-19

Family

ID=66970366

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018242825A Active JP6744559B2 (en) 2018-12-26 2018-12-26 Information processing device, information processing method, and program

Country Status (1)

Country Link
JP (1) JP6744559B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4109407A4 (en) * 2020-02-19 2023-07-19 Sony Group Corporation Information processing device and method, and program
JP7029486B2 (en) * 2020-04-10 2022-03-03 株式会社エクサウィザーズ Information processing equipment, information processing methods, and programs
JP7559811B2 (en) * 2022-09-14 2024-10-02 カシオ計算機株式会社 Exercise evaluation method, information processing device, exercise evaluation system, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000138927A (en) * 1998-11-02 2000-05-16 Hitachi Plant Eng & Constr Co Ltd Image comparison display device
JP2002342749A (en) * 2001-05-22 2002-11-29 Hitachi Kiden Kogyo Ltd Footprint analyzer
JP2007225550A (en) * 2006-02-27 2007-09-06 Seiko Epson Corp Velocity measuring device, imaging device, imaging method, and control program
JP4971808B2 (en) * 2007-01-17 2012-07-11 パナソニック株式会社 Walking motion analyzer
JP5117123B2 (en) * 2007-06-23 2013-01-09 株式会社タニタ Walking evaluation system, pedometer, walking evaluation program, and recording medium
WO2014104360A1 (en) * 2012-12-28 2014-07-03 株式会社東芝 Motion information processing device and method
WO2014115817A1 (en) * 2013-01-23 2014-07-31 株式会社東芝 Movement-information processing device

Also Published As

Publication number Publication date
JP2019093152A (en) 2019-06-20

Similar Documents

Publication Publication Date Title
JP6842044B2 (en) Information processing equipment, information processing methods, programs
JP2017080197A (en) Information processing device, information processing method and program
CN101739567B (en) Terminal apparatus and display control method
KR101514170B1 (en) Input device, input method and recording medium
CN106650217B (en) Information processing device and information processing method
JP6744559B2 (en) Information processing device, information processing method, and program
JP6432592B2 (en) Information processing apparatus, information processing method, and program
JP7248437B2 (en) Programs, electronics and data recording methods
JP2017080202A (en) Information processing device, information processing method and program
JP2019083519A (en) Moving image recording system
JP2020140719A (en) Information processing equipment, information processing methods, programs
JP2017080201A (en) Information processing device, information processing method and program
JP2017080199A (en) Information processing device, information processing method and program
JP2017080198A (en) Information processing apparatus, information processing method, and program
JP6803111B2 (en) Information processing equipment, information processing methods, programs
JP2017080203A (en) Information processing device, information processing method and program
JP2017085427A (en) Information processing device, information processing method, and program
JP2005230068A (en) Exercise support method and apparatus
JP2017080195A (en) Information processing device, information processing method and program
CN116153510A (en) Correction mirror control method, device, equipment, storage medium and intelligent correction mirror
JP6256738B2 (en) Movie selection device, movie selection method and program
JP6458707B2 (en) Information processing apparatus, control method for information processing apparatus, and program
CN114005175A (en) Flying ring movement scoring device, method and system and computer storage medium
JP2017084194A (en) Information processing device, information processing method, and program
JP6631594B2 (en) Information processing apparatus, control method for information processing apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200713

R151 Written notification of patent or utility model registration

Ref document number: 6744559

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250