JP6863572B2 - Display control device and display control program - Google Patents
Display control device and display control program Download PDFInfo
- Publication number
- JP6863572B2 JP6863572B2 JP2017002403A JP2017002403A JP6863572B2 JP 6863572 B2 JP6863572 B2 JP 6863572B2 JP 2017002403 A JP2017002403 A JP 2017002403A JP 2017002403 A JP2017002403 A JP 2017002403A JP 6863572 B2 JP6863572 B2 JP 6863572B2
- Authority
- JP
- Japan
- Prior art keywords
- limb
- display
- virtual
- display device
- display control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Rehabilitation Tools (AREA)
- Processing Or Creating Images (AREA)
Description
本発明は、表示制御装置及び表示制御プログラムに関する。 The present invention relates to a display control device and a display control program.
従来、四肢の少なくとも1つが切断された被検者の切断された肢体(以下、「切断肢」という)を、表示装置に仮想的に表示することによって、被検者のリハビリテーションを支援する技術が知られている。同様に、脳卒中等に起因する四肢の少なくとも1つに麻痺が生じている被検者の麻痺が生じている四肢(以下、「麻痺肢」という)を、表示装置に仮想的に表示することによって、被検者のリハビリテーションを支援する技術も知られている。なお、以下では、表示装置に仮想的に表示する肢体を「仮想肢」という。 Conventionally, there has been a technique for supporting the rehabilitation of a subject by virtually displaying the amputated limb of the subject (hereinafter referred to as "cut limb") in which at least one of the limbs has been amputated on a display device. Are known. Similarly, a paralyzed limb (hereinafter referred to as "paralyzed limb") of a subject who is paralyzed in at least one of the limbs caused by a stroke or the like is virtually displayed on a display device. , The technology to support the rehabilitation of the subject is also known. In the following, the limbs that are virtually displayed on the display device are referred to as "virtual limbs".
例えば、特許文献1には、被検者の身体の動きを検出し、検出した動きに合わせて、ヘッドマウントディスプレイ内に仮想肢を表示するリハビリテーション支援装置が提案されている。 For example, Patent Document 1 proposes a rehabilitation support device that detects the movement of the body of a subject and displays a virtual limb in a head-mounted display according to the detected movement.
また、非特許文献1には、VR(Virtual Reality)技術を用いた幻肢痛を低減するためのリハビリシステムが提案されている。 Further, Non-Patent Document 1 proposes a rehabilitation system for reducing phantom limb pain using VR (Virtual Reality) technology.
また、非特許文献2には、幻肢痛の治療のために、切断肢の残存部位に装着された筋電位センサから出力された筋電位信号を用いて、切断肢の動作を推定する技術が提案されている。 Further, Non-Patent Document 2 describes a technique for estimating the movement of an amputated limb by using a myoelectric potential signal output from a myoelectric potential sensor attached to the remaining portion of the amputated limb for the treatment of phantom limb pain. Proposed.
上記特許文献1に記載の技術は、表示装置に表示される仮想肢が上下左右に動くものであり、四肢をねじる動作等に対応して仮想肢を回動させるものではないため、被検者の身体保持感(Sense of Ownership)を高めることに対して限界がある、という問題点があった。なお、ここでいう身体保持感とは、自己の身体の部分が自己のものであるという感覚を意味する。 In the technique described in Patent Document 1, the virtual limb displayed on the display device moves up, down, left and right, and does not rotate the virtual limb in response to a twisting motion of the limb or the like. There was a problem that there was a limit to enhancing the sense of ownership. The sense of body retention here means the feeling that a part of one's body belongs to oneself.
上記非特許文献1及び非特許文献2に記載の技術においても、上記問題点については考慮されていない。 Even in the techniques described in Non-Patent Document 1 and Non-Patent Document 2, the above-mentioned problems are not taken into consideration.
本発明は、被検者の身体保持感を高めることができる表示制御装置及び表示制御プログラムを提供することを目的とする。 An object of the present invention is to provide a display control device and a display control program capable of enhancing the body holding feeling of a subject.
本発明の表示制御装置は、切断又は麻痺を含む障害が発生した障害肢に装着されたモーションセンサによる検出結果に基づいて、前記障害肢の前記モーションセンサが装着された部位の姿勢を推定する推定部と、前記推定部による姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う制御部と、を備える。 The display control device of the present invention estimates the posture of the portion of the impaired limb to which the motion sensor is attached, based on the detection result of the motion sensor attached to the impaired limb including disconnection or paralysis. When controlling the display of a virtual limb that virtually represents a healthy limb corresponding to the impaired limb by using the unit and the posture estimation result by the estimation unit, the limb approaches the tip of the virtual limb. It is provided with a control unit that controls the display of the virtual limb on the display device by making it larger than the rotation amount determined from the estimation result.
本発明の表示制御プログラムは、切断又は麻痺を含む障害が発生した障害肢に装着されたモーションセンサによる検出結果に基づいて、前記障害肢の前記モーションセンサが装着された部位の姿勢を推定し、前記姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う、ことを含む処理をコンピュータに実行させる。 The display control program of the present invention estimates the posture of the portion of the impaired limb to which the motion sensor is attached, based on the detection result of the motion sensor attached to the impaired limb including disconnection or paralysis. When controlling to display a virtual limb that virtually represents a healthy limb corresponding to the disabled limb on a display device using the posture estimation result, the amount of rotation determined from the estimation result as the tip of the virtual limb is approached. The computer is made to execute a process including controlling the display of the virtual limb on the display device.
本発明によれば、被検者の身体保持感を高めることができる。 According to the present invention, it is possible to enhance the body retention feeling of the subject.
以下、図面を参照して、本発明を実施するための形態例を詳細に説明する。 Hereinafter, examples of embodiments for carrying out the present invention will be described in detail with reference to the drawings.
まず、図1〜図3を参照して、本実施形態に係る支援システム10の構成を説明する。支援システム10は、切断肢を有する患者及び麻痺肢を有する患者等の被検者Hのリハビリテーションを支援するシステムである。なお、以下では、切断肢及び麻痺肢等の障害が発生した肢体を総称する場合は、「障害肢」という。
First, the configuration of the
図1に示すように、支援システム10は、モーションセンサ12、表示制御装置14、及び表示装置16を備える。モーションセンサ12及び表示装置16の各々と、表示制御装置14とは、無線通信により各種情報の送受信を行う。なお、モーションセンサ12及び表示装置16の各々と、表示制御装置14とは、有線通信により各種情報の送受信を行ってもよい。
As shown in FIG. 1, the
一例として図2に示すように、本実施形態に係るモーションセンサ12は、バンド型のウェアラブルセンサであり、被検者Hのリハビリテーションの対象とされる障害肢に装着される。なお、図1では、被検者Hが右腕の前腕の一部を切断により失い、被検者Hの右腕の前腕の残存部分に、モーションセンサ12が装着された例を示している。なお、モーションセンサ12は、例えば、被検者Hの上腕に装着されてもよい。また、被検者Hの足が切断されている場合、又は足に麻痺が生じている場合は、モーションセンサ12は、大腿又は下腿に装着される。また、例えば、被検者Hの両腕が障害肢である場合は、モーションセンサ12は、被検者Hの両腕に装着されてもよい。
As shown in FIG. 2 as an example, the
モーションセンサ12には、3軸加速度センサ及び角速度センサが内蔵される。そして、モーションセンサ12は、所定の時間間隔で3軸加速度センサ及び角速度センサの各々により検出された3軸方向の加速度及び角速度の各々を表示制御装置14に送信する。
The
また、図2に示すように、モーションセンサ12の内側の接触面には、周方向に沿って略均等な距離間隔をあけて複数(図2の例では8個)の筋電位センサ18が設けられている。そして、モーションセンサ12は、所定の時間間隔で各筋電位センサ18により検出された筋電位信号を表示制御装置14に送信する。
Further, as shown in FIG. 2, a plurality of myoelectric potential sensors 18 (8 in the example of FIG. 2) are provided on the inner contact surface of the
本実施形態に係る表示制御装置14は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々を受信する。また、表示制御装置14は、モーションセンサ12から送信された筋電位信号を受信する。そして、表示制御装置14は、後述する表示装置16に画像を表示する際のフレームレートに応じて、受信した3軸方向の加速度、角速度、及び筋電位信号に基づいて、障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置16に対してリアルタイムに表示する制御を行う。
The
また、本実施形態に係る表示制御装置14では、動作モードとして、切断肢に対応する第1動作モードと、麻痺肢に対応する第2動作モードとの何れかが指定可能とされる。
Further, in the
なお、本実施形態では、表示制御装置14として、ラップトップ・コンピュータ等の携帯型の情報処理装置を適用した場合について説明するが、これに限定されない。表示制御装置14として、デスクトップ・コンピュータ及びサーバ・コンピュータ等の据え置き型の情報処理装置を適用してもよい。
In the present embodiment, a case where a portable information processing device such as a laptop computer is applied as the
本実施形態に係る表示装置16は、没入型の表示装置であり、被検者Hの頭部に装着するための装着部品と液晶ディスプレイ等の表示部とが一体化されて構成されたヘッドマウントディスプレイである。すなわち、表示装置16は、被検者Hの頭部に装着されて使用される。
The
表示装置16は、表示制御装置14による制御によって、障害肢に対応する仮想肢を表示部に表示する。図3に、表示装置16の表示部に障害肢に対応する仮想肢Kが表示された場合の表示画面の一例を示す。なお、図3では、被検者Hの右腕が障害肢である場合の表示画面の一例を示している。
The
また、表示装置16には、3軸加速度センサ及び角速度センサが内蔵されており、被検者Hの頭部の動きに応じて、表示装置16の表示部に表示される画像も被検者Hが目視している状況となるように切り替わる。すなわち、本実施形態に係る支援システム10は、VR技術を用いたシステムである。
Further, the
以上説明したように、本実施形態に係る支援システム10では、モーションセンサ12としてウェアラブルセンサを適用し、表示制御装置14として携帯型の情報処理装置を適用し、表示装置16としてヘッドマウントディスプレイを適用している。従って、病院等の専門の施設だけではなく、被検者Hの自宅等でも被検者Hがリハビリテーションを行うことができる。
As described above, in the
次に、図4を参照して、本実施形態に係る表示制御装置14の電気系の要部構成を説明する。図4に示すように、表示制御装置14は、CPU(Central Processing Unit)30、一時記憶領域としてのメモリ32、及び不揮発性の記憶部34を備える。また、表示制御装置14は、キーボード及びマウス等の入力装置36、及びネットワークに接続されるネットワークI/F(InterFace)38を備える。CPU30、メモリ32、記憶部34、入力装置36、及びネットワークI/F38は、バス40を介して互いに接続される。
Next, with reference to FIG. 4, a configuration of a main part of the electrical system of the
記憶部34は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、及びフラッシュメモリ等によって実現される。記憶媒体としての記憶部34には、表示制御プログラム50が記憶される。
The
次に、図5を参照して、本実施形態に係る表示制御装置14の機能的な構成を説明する。図5に示すように、表示制御装置14は、受付部60、推定部62、及び制御部64を備える。また、記憶部34の所定の記憶領域には、特徴量情報70及び被検者情報72が記憶される。
Next, the functional configuration of the
特徴量情報70には、モーションセンサ12が装着される四肢毎に、障害肢の首部及び指部として想定される想定部位の動作を推定するための情報が含まれる。障害肢の首部として想定される想定部位の動作としては、例えば、手首及び足首の屈曲及び伸展等が挙げられ、障害肢の指部として想定部位の動作としては、例えば、手の指及び足の指の開動作及び閉動作等が挙げられる。
The
本実施形態では、例えば、健常な四肢を有する人の四肢にモーションセンサ12を装着させ、四肢の首部及び指部に様々な動作を行わせる。一方、表示制御装置14は、各動作に対応してモーションセンサ12の各筋電位センサ18から出力された筋電位信号を全波整流し、全波整流を経た信号に対してローパスフィルタを適用して得られた振幅を特徴量として得る。そして、表示制御装置14は、得られた特徴量と特徴量に対応する四肢の首部及び指部の動作とを対応付けて、特徴量情報70として記憶部34に記憶する。
In the present embodiment, for example, a
被検者情報72には、被検者Hを識別する識別情報に対応付けて、右腕、左腕、右足、及び左足等の被検者Hの障害肢を示す情報と、長さ及び太さ等の障害肢に対応する仮想肢の大きさを示す情報と、障害肢に対応する仮想肢の色を示す情報等が含まれる。
The
受付部60は、表示制御装置14の操作者(以下、単に「操作者」という)により、入力装置36を介して入力された被検者Hの識別情報を受け付ける。また、受付部60は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々を、ネットワークI/F38を介して受け付ける。また、受付部60は、モーションセンサ12から送信された筋電位信号を、ネットワークI/F38を介して受け付ける。
The
推定部62は、受付部60により受け付けられた3軸方向の加速度及び角速度を用いて、障害肢のモーションセンサ12が装着された部位の姿勢を推定する。本実施形態では、推定部62は、3軸方向の加速度及び角速度を用いて、上記姿勢として、障害肢のモーションセンサ12が装着された部位のピッチ角及びヨー角を推定する。また、推定部62は、3軸方向の加速度及び角速度を用いて、障害肢の長手方向に沿った軸に対する回動量として、障害肢の長手方向に沿った軸に対するロール角も推定する。
The
また、推定部62は、受付部60により受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。本実施形態では、推定部62は、受付部60により受け付けられた筋電位信号を全波整流し、全波整流を経た信号に対してローパスフィルタを適用して得られた振幅を特徴量として得る。そして、推定部62は、特徴量情報70を参照し、得られた特徴量に最も近い特徴量に対応付けられた四肢の首部及び指部の動作を取得することによって、上記想定部位の動作を推定する。なお、推定部62は、障害肢の首部及び指部の何れかとして想定される想定部位の動作を推定してもよい。
Further, the
なお、筋電位信号を用いて四肢の首部及び指部の動作を推定する技術としては、例えば、下記参考文献1及び参考文献2に開示されている技術を適用することができる。
[参考文献1]Kevin Englehart,Bernard Hudgins,“A Robust, Real-Time Control Scheme for Multifunction Myoelectric Control”,IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING,VOL.50,NO.7,JULY 2003
[参考文献2]T.Scott Saponas,Desney S.Tan,Dan Morris,Ravin Balakrishnan,Jim Turner,James A.Landay,“Enabling Always-Available Input with Muscle-Computer Interfaces” ,In Proceedings of 22nd Annual ACM Symposium on User Interface Software and Technology,pp.167-176,2009
As a technique for estimating the movements of the neck and fingers of the limbs using the myoelectric potential signal, for example, the techniques disclosed in References 1 and 2 below can be applied.
[Reference 1] Kevin Englehart, Bernard Hudgins, "A Robust, Real-Time Control Scheme for Multifunction Myoelectric Control", IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING, VOL.50, NO.7, JULY 2003
[Reference 2] T. Scott Saponas, Desney S. Tan, Dan Morris, Ravin Balakrishnan, Jim Turner, James A. Landay, "Enabling Always-Available Input with Muscle-Computer Interfaces", In Proceedings of 22nd Annual ACM Symposium on User Interface Software and Technology, pp.167-176, 2009
制御部64は、推定部62により推定された障害肢の姿勢と、障害肢の首部及び指部として想定される想定部位の動作とに基づき、障害肢に対応する仮想肢を表示装置16に表示する制御を行う(図3参照)。この制御の際、制御部64は、被検者情報72を参照し、受付部60により受け付けられた被検者Hの識別情報に対応付けられた仮想肢の大きさ及び色に合わせて、仮想肢を表示装置16に表示する制御を行う。
The
また、制御部64は、仮想肢を表示装置16に表示する制御を行う際、一例として図6に示すように、例えば手首等の仮想肢の先端に近い部位ほど、推定部62により推定されたロール角を大きくして、仮想肢を表示装置16に表示する制御を行う。
Further, when the
次に、図7を参照して、本実施の形態に係る支援システム10の作用を説明する。CPU30が表示制御プログラム50を実行することにより、図7に示す表示制御処理を実行する。図7に示す表示制御処理は、例えば、操作者により入力装置36を介して、被検者Hの識別情報が入力され、かつ動作モードが指定された場合に実行される。なお、CPU30が表示制御プログラム50を実行することにより、図5に示す受付部60、推定部62、及び制御部64として機能する。また、ここでは、操作者は、上記識別情報及び上記動作モードの入力を、表示装置16を被検者Hの頭部に装着し、モーションセンサ12を障害肢に装着した後に行うものとする。
Next, the operation of the
図7のステップS10で、受付部60は、操作者により、入力装置36を介して入力された被検者Hの識別情報を受け付ける。次のステップS12で、制御部64は、被検者情報72を参照し、ステップS10で受け付けられた被検者Hの識別情報に対応する障害肢を示す情報、仮想肢の大きさを示す情報、及び仮想肢の色を示す情報を取得する。そして、制御部64は、取得した障害肢を示す情報に対応する仮想肢を、取得した大きさを示す情報に応じた大きさ、及び取得した色を示す情報に応じた色に従い、表示装置16に表示する制御を行う。この制御の際、制御部64は、仮想肢を予め定められた初期位置に表示する制御を行う。本実施形態では、制御部64は、例えば、仮想肢を体の前方に向けて水平に伸ばした位置を初期位置として、仮想肢を表示装置16に表示する制御を行う。
In step S10 of FIG. 7, the
本実施形態では、第1動作モードが指定された場合、操作者が、入力装置36を介して仮想肢の長さ、太さ、及び色を変更することが可能とされている。操作者は、表示装置16に表示された仮想肢の長さ、太さ、及び色に対して被検者Hが違和感を覚えているかを被検者Hに確認する。そして、被検者Hが違和感を覚えている場合、操作者は、被検者Hに対する確認結果に従い、入力装置36を介して仮想肢の長さ、太さ、及び色を変更する。
In the present embodiment, when the first operation mode is specified, the operator can change the length, thickness, and color of the virtual limb via the
そこで、ステップS14で、受付部60は、操作者により入力装置36を介して指定された動作モードが第1動作モードであるか否かを判定する。この判定が肯定判定となった場合は、処理はステップS16に移行し、否定判定となった場合は、処理はステップS20に移行する。
Therefore, in step S14, the
そして、ステップS16で、受付部60は、入力装置36を介して仮想肢の長さ、太さ、及び色の変更を受け付けたか否かを判定する。この判定が肯定判定となった場合は、処理はステップS18に移行し、否定判定となった場合は、処理はステップS20に移行する。
Then, in step S16, the
ステップS18で、制御部64は、ステップS16で受け付けられた仮想肢の長さ、太さ、及び色に従い、仮想肢の長さ、太さ、及び色を変更して表示装置16に表示する制御を行う。
In step S18, the
一方、操作者は、被検者Hに対して、表示装置16に表示された仮想肢に合わせた位置に、障害肢を動かすように指示する。操作者は、被検者Hが障害肢を表示装置16に表示された仮想肢に合わせた位置に動かしたことを確認すると、障害肢の位置が確定したことを示す確定指示を、入力装置36を介して入力する。
On the other hand, the operator instructs the subject H to move the handicapped limb to a position corresponding to the virtual limb displayed on the
そこで、ステップS20で、受付部60は、入力装置36を介して確定指示を受け付けたか否かを判定する。この判定が否定判定となった場合は、処理はステップS14に戻り、肯定判定となった場合は、処理はステップS22に移行する。すなわち、ステップS20の判定が肯定判定となった時点での障害肢及び仮想肢の位置がホームポジションとなる。
Therefore, in step S20, the
ステップS22で、受付部60は、モーションセンサ12から送信された3軸方向の加速度及び角速度の各々と、筋電位信号とを、ネットワークI/F38を介して受け付ける。次のステップS24で、推定部62は、前述したように、ステップS22で受け付けられた3軸方向の加速度及び角速度を用いて、障害肢のモーションセンサ12が装着された部位の姿勢を推定する。
In step S22, the
次のステップS26で、受付部60は、操作者により入力装置36を介して指定された動作モードが第1動作モードであるか否かを判定する。この判定が肯定判定となった場合は、処理はステップS28に移行し、否定判定となった場合は、処理はステップS32に移行する。
In the next step S26, the
ステップS28で、推定部62は、前述したように、特徴量情報70を参照し、ステップS22で受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。次のステップS30で、制御部64は、ステップS24で推定された姿勢、及びステップS28で推定された動作に従い、障害肢に対応する仮想肢を表示装置16に表示する制御を行う。
In step S28, as described above, the
一方、ステップS32で、推定部62は、前述したように、特徴量情報70を参照し、ステップS22で受け付けられた筋電位信号を用いて、障害肢の首部及び指部として想定される想定部位の動作を推定する。この推定の際、推定部62は、ステップS22で受け付けられた筋電位信号の信号レベルを検出値よりも大きくして、上記想定部位の動作を推定する。なお、この場合の信号レベルを大きくする度合いとしては、例えば、支援システム10の実機を用いた実験等により、麻痺肢を有する被検者Hのリハビリテーションが効果的に行える度合いとして得られた値を適用することができる。また、この場合の信号レベルを大きくする度合いは、操作者によって入力されてもよい。
On the other hand, in step S32, as described above, the
次のステップS34で、制御部64は、ステップS24で推定された姿勢、及びステップS32で推定された動作に従い、障害肢に対応する仮想肢を表示装置16に表示する制御を行う。この制御の際、制御部64は、一例として図8に示すように、ステップS24での姿勢の推定結果の変化よりも動作角度を大きくして、仮想肢を表示装置16に表示する制御を行う。なお、この場合の動作角度を大きくする度合いとしては、例えば、支援システム10の実機を用いた実験等により、麻痺肢を有する被検者Hのリハビリテーションが効果的に行える度合いとして得られた値を適用することができる。また、この場合の動作角度を大きくする度合いは、操作者によって入力されてもよい。
In the next step S34, the
ステップS36で、受付部60は、終了タイミングが到来したか否かを判定する。この判定が否定判定となった場合は、処理はステップS22に戻り、肯定判定となった場合は、本表示制御処理が終了する。すなわち、ステップS22からステップS36までの処理が予め定められたフレームレートに応じた時間間隔で繰り返し実行されることで、障害肢の動きに合わせて、表示装置16に表示される仮想肢がリアルタイムに更新される。なお、上記終了タイミングとしては、例えば、操作者により、入力装置36を介して表示制御処理を終了する指示が入力されたタイミングが挙げられる。
In step S36, the
ところで、本出願人は、切断肢を有する複数の患者(以下、「切断肢患者」という)に対するインタビューを行った結果、以下の知見を得た。この結果、本出願人は、腕をねじる姿勢、及び腕を組む姿勢等のリハビリテーションでは通常行わない姿勢で動作を行い、この動作に対応して仮想肢が表示装置に表示されることによって、身体保持感が高まり、幻肢痛が低減される、という知見を得た。すなわち、本出願人は、この場合、切断肢患者が切断肢を上下左右にのみ動かす等の動作によってリハビリテーションを行う場合に比較して、幻肢痛が低減される、という知見を得た。 By the way, the applicant has obtained the following findings as a result of interviewing a plurality of patients having amputated limbs (hereinafter referred to as "amputed limb patients"). As a result, the applicant performs an action in a posture that is not normally performed in rehabilitation such as a posture in which the arm is twisted and a posture in which the arm is folded, and the virtual limb is displayed on the display device in response to this movement. It was found that the feeling of retention is enhanced and phantom limb pain is reduced. That is, the applicant has obtained the finding that in this case, phantom limb pain is reduced as compared with the case where the amputated limb patient performs rehabilitation by moving the amputated limb only up, down, left and right.
これに対し、本実施形態では、前述したように、仮想肢の先端に近い部位ほど、モーションセンサ12が装着された部位の姿勢の推定結果よりも、障害肢の長手方向に沿った軸に対する回動量を大きくして、仮想肢を表示装置に表示する制御を行っている。従って、本実施形態によれば、被検者の身体保持感を高めることができる。さらに、本実施形態によれば、被検者の運動主体感(Sense of Agency)も高めることができる。ここでいう運動主体感とは、自身が動作の主体であるという感覚を意味する。
On the other hand, in the present embodiment, as described above, the closer to the tip of the virtual limb, the more the rotation with respect to the axis along the longitudinal direction of the impaired limb than the estimation result of the posture of the portion to which the
また、下記の参考文献3に、没入型の表示装置を用いることで、身体保持感及び運動主体感が向上するという実験結果が開示されている。これに対し、本実施形態では、表示装置16として、没入型の表示装置を適用している。従って、本実施形態によれば、身体保持感及び運動主体感を高めることができる。
[参考文献3]近藤,長嶺,大村,矢野,“没入型ヘッドマウントディスプレイの認知心理学実験への活用事例”,日本神経回路学会誌,vol.23,no.3,pp.87-97,2016
Further, Reference 3 below discloses an experimental result that the feeling of body retention and the feeling of exercise subjectivity are improved by using an immersive display device. On the other hand, in the present embodiment, an immersive display device is applied as the
[Reference 3] Kondo, Nagamine, Omura, Yano, "Examples of using immersive head-mounted displays in cognitive psychology experiments", Journal of the Japanese Society of Neural Networks, vol.23, no.3, pp.87-97, 2016
また、本実施形態では、筋電位信号に基づく障害肢の首部及び指部として想定される想定部位の動作の推定結果に従い、仮想肢を表示装置16に表示している。従って、本実施形態によれば、身体保持感及び運動主体感をより高めることができる。
Further, in the present embodiment, the virtual limb is displayed on the
また、本実施形態では、第1動作モードでは、仮想肢の長さを変更可能としている。これにより、切断肢を有する被検者Hが違和感を覚えない長さに仮想肢の長さを変更することができる。従って、本実施形態によれば、身体保持感を高めることができる。同様に、本実施形態では、第1動作モードでは、仮想肢の太さ及び色も変更可能としているため、身体保持感を高めることができる。 Further, in the present embodiment, the length of the virtual limb can be changed in the first operation mode. Thereby, the length of the virtual limb can be changed to a length that does not make the subject H having the amputated limb feel uncomfortable. Therefore, according to the present embodiment, the feeling of holding the body can be enhanced. Similarly, in the present embodiment, in the first operation mode, the thickness and color of the virtual limbs can be changed, so that the feeling of holding the body can be enhanced.
また、本実施形態では、第2動作モードでは、筋電位信号の信号レベルを検出値よりも大きくして、障害肢の首部及び指部として想定される想定部位の動作を推定している。すなわち、麻痺肢を有する被検者Hが麻痺肢を随意的に動かしていることを感じやすくなる結果、被検者Hのリハビリテーションに対する意欲が高まる。この結果、麻痺肢の使用頻度が低下して麻痺が改善しない現象、所謂不使用の学習(Learned non-use)を抑制することができる。同様に、本実施形態では、第2動作モードでは、モーションセンサ12が装着された部位の姿勢の推定結果の変化よりも動作角度を大きくして仮想肢を表示装置に表示しているため、不使用の学習を抑制することができる。
Further, in the second operation mode, in the second operation mode, the signal level of the myoelectric potential signal is made larger than the detected value, and the operation of the assumed portion assumed as the neck and fingers of the disabled limb is estimated. That is, as a result of making it easier for the subject H having a paralyzed limb to feel that the paralyzed limb is moving voluntarily, the motivation of the subject H for rehabilitation is increased. As a result, it is possible to suppress a phenomenon in which the paralysis does not improve due to a decrease in the frequency of use of the paralyzed limb, so-called learned non-use. Similarly, in the present embodiment, in the second motion mode, the motion angle is made larger than the change in the estimation result of the posture of the portion where the
なお、上記実施形態では、表示装置16として、一体型のヘッドマウントディスプレイを適用した場合について説明したが、これに限定されない。例えば、表示装置16として、被検者Hの頭部に装着するための装着部品に、スマートフォン等の表示部を有する携帯端末を取り付ける組み立て型のヘッドマウントディスプレイを適用する形態としてもよい。
In the above embodiment, the case where the integrated head-mounted display is applied as the
また、上記実施形態では、表示装置16として、没入型の表示装置を適用した場合について説明したが、これに限定されない。例えば、表示装置16として、据え置き型の表示装置等の没入型以外の表示装置を適用する形態としてもよい。
Further, in the above embodiment, the case where the immersive display device is applied as the
また、上記実施形態では、被検者Hの仮想肢の長さ、太さ、及び色が記憶部34に予め記憶されている場合について説明したが、これに限定されない。例えば、カメラ及びスマートフォン等の撮影装置により被検者Hを撮影し、撮影結果から仮想肢の長さ、太さ、及び色を導出する形態としてもよい。
Further, in the above embodiment, the case where the length, thickness, and color of the virtual limb of the subject H are stored in the
また、上記実施形態では、操作者が動作モードを入力する場合について説明したが、これに限定されない。例えば、撮影装置により被検者Hを撮影し、撮影結果から被検者Hが切断肢を有するか、又は麻痺肢を有するかを判定する。そして、判定結果に従い、第1動作モードで動作するか、又は第2動作モードで動作するかを決定する形態としてもよい。 Further, in the above embodiment, the case where the operator inputs the operation mode has been described, but the present invention is not limited to this. For example, the subject H is photographed by an imaging device, and it is determined from the imaging result whether the subject H has an amputated limb or a paralyzed limb. Then, according to the determination result, it may be in the form of determining whether to operate in the first operation mode or the second operation mode.
また、上記実施形態では、表示制御プログラム50が記憶部34に予め記憶(インストール)されている態様を説明したが、これに限定されない。表示制御プログラム50は、CD−ROM(Compact Disk Read Only Memory)、DVD−ROM(Digital Versatile Disk Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、表示制御プログラム50は、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
Further, in the above embodiment, the mode in which the
10 支援システム
12 モーションセンサ
14 表示制御装置
16 表示装置
18 筋電位センサ
30 CPU
32 メモリ
34 記憶部
36 入力装置
50 表示制御プログラム
60 受付部
62 推定部
64 制御部
70 特徴量情報
72 被検者情報
H 被検者
K 仮想肢
10
32
Claims (9)
前記推定部による姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う制御部と、
を備えた表示制御装置。 An estimation unit that estimates the posture of the portion of the impaired limb to which the motion sensor is attached, based on the detection result of the motion sensor attached to the impaired limb including amputation or paralysis.
When controlling to display a virtual limb that virtually represents a healthy limb corresponding to the disabled limb on a display device using the posture estimation result by the estimation unit, the estimation result is used as the distance from the tip of the virtual limb approaches. A control unit that controls the display of the virtual limb on the display device by making it larger than the fixed amount of rotation.
Display control device equipped with.
前記制御部は、前記表示装置に表示された前記仮想肢の前記想定部位に対応する部位が、前記推定部による動作の推定結果に対応する動作を行うように制御する
請求項1に記載の表示制御装置。 Based on the myoelectric potential signal detected by the myoelectric potential sensor attached to the impaired limb, the estimation unit further estimates the movement of the assumed portion assumed as at least one of the neck and the finger of the impaired limb.
The display according to claim 1, wherein the control unit controls a portion of the virtual limb displayed on the display device, which corresponds to the assumed portion, to perform an operation corresponding to an estimation result of the operation by the estimation unit. Control device.
前記制御部は、前記第1動作モードと前記第2動作モードとで、前記仮想肢の表示状態を変更して前記表示装置に表示する制御を行う
請求項1又は請求項2に記載の表示制御装置。 Either the first motion mode corresponding to the amputated limb or the second motion mode corresponding to the paralyzed limb can be specified.
The display control according to claim 1 or 2, wherein the control unit controls the display state of the virtual limb to be changed and displayed on the display device in the first operation mode and the second operation mode. apparatus.
請求項3に記載の表示制御装置。 The display control device according to claim 3, wherein when the first operation mode is specified, the length of the virtual limb can be changed from the reference length.
請求項3又は請求項4に記載の表示制御装置。 The display control device according to claim 3 or 4, wherein at least one of the thickness and color of the virtual limb can be changed from the reference thickness and color when the first operation mode is specified.
請求項3に記載の表示制御装置。 The claim that the control unit controls to display the virtual limb on the display device by making the operation angle larger than the change in the estimation result of the posture by the estimation unit when the second operation mode is specified. The display control device according to 3.
前記推定部は、前記第2動作モードが指定された場合、前記筋電位信号の信号レベルを検出値よりも大きくして、前記想定部位の動作を推定する
請求項2に記載の表示制御装置。 Either the first motion mode corresponding to the amputated limb or the second motion mode corresponding to the paralyzed limb can be specified.
The display control device according to claim 2, wherein when the second operation mode is specified, the estimation unit makes the signal level of the myoelectric potential signal larger than the detected value to estimate the operation of the assumed portion.
請求項1から請求項7の何れか1項に記載の表示制御装置。 The display control device according to any one of claims 1 to 7, wherein the display device is an immersive display device.
前記姿勢の推定結果を用いて前記障害肢に対応する健常肢を仮想的に表す仮想肢を表示装置に表示する制御を行う場合に、前記仮想肢の先端に近づくに従って前記推定結果から定まる回動量よりも大きくして、前記仮想肢を前記表示装置に表示する制御を行う、
ことを含む処理をコンピュータに実行させる表示制御プログラム。 Based on the detection result by the motion sensor attached to the impaired limb in which the disorder including amputation or paralysis has occurred, the posture of the portion of the impaired limb to which the motion sensor is attached is estimated.
When controlling to display a virtual limb that virtually represents a healthy limb corresponding to the impaired limb on a display device using the estimation result of the posture, the amount of rotation determined from the estimation result as the tip of the virtual limb is approached. To control the display of the virtual limb on the display device.
A display control program that causes a computer to perform processing including that.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017002403A JP6863572B2 (en) | 2017-01-11 | 2017-01-11 | Display control device and display control program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017002403A JP6863572B2 (en) | 2017-01-11 | 2017-01-11 | Display control device and display control program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018110672A JP2018110672A (en) | 2018-07-19 |
| JP6863572B2 true JP6863572B2 (en) | 2021-04-21 |
Family
ID=62910535
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017002403A Active JP6863572B2 (en) | 2017-01-11 | 2017-01-11 | Display control device and display control program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6863572B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109859597A (en) * | 2019-03-07 | 2019-06-07 | 哈工大机器人(合肥)国际创新研究院 | A system and method for collecting posture and posture of a rehabilitation simulator |
| JP7450183B2 (en) * | 2020-03-05 | 2024-03-15 | 株式会社電通総研 | Phantom limb pain care system, patient device, and program |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4025230B2 (en) * | 2003-03-31 | 2007-12-19 | 株式会社東芝 | Pain treatment support device and method for displaying phantom limb images in a virtual space |
| JP4608656B2 (en) * | 2005-08-01 | 2011-01-12 | 国立大学法人佐賀大学 | Limb function recovery support device |
| JP2015039522A (en) * | 2013-08-22 | 2015-03-02 | セイコーエプソン株式会社 | Rehabilitation device and phantom limb pain support device |
| US10228801B2 (en) * | 2013-10-24 | 2019-03-12 | University Of Maryland, Baltimore County | System and method for proximity-based position, movement and gesture detection using capacitive sensor arrays |
-
2017
- 2017-01-11 JP JP2017002403A patent/JP6863572B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2018110672A (en) | 2018-07-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10817795B2 (en) | Handstate reconstruction based on multiple inputs | |
| US10496168B2 (en) | Calibration techniques for handstate representation modeling using neuromuscular signals | |
| Feuchtner et al. | Ownershift: Facilitating overhead interaction in virtual reality with an ownership-preserving hand space shift | |
| JP6799144B2 (en) | Field of view (FOV) aperture for virtual reality (VR) content on head-mounted displays | |
| CN108815804B (en) | VR upper limb rehabilitation training platform and method based on MYO arm ring and mobile terminal | |
| Chan et al. | Walking with head-mounted virtual and augmented reality devices: Effects on position control and gait biomechanics | |
| US20190265802A1 (en) | Gesture based user interfaces, apparatuses and control systems | |
| Leonardis et al. | Multisensory feedback can enhance embodiment within an enriched virtual walking scenario | |
| Raya et al. | Wearable inertial mouse for children with physical and cognitive impairments | |
| WO2016025941A1 (en) | Control interface for robotic humanoid avatar system and related methods | |
| EP3050046B1 (en) | Method and device for controlling a haptic device | |
| KR102162922B1 (en) | Virtual reality-based hand rehabilitation system with haptic feedback | |
| US20240082032A1 (en) | Motion tracking using magnetic-localization inertial measurement unit and orientation compensation | |
| JP2015503393A (en) | Method and apparatus for tracking hand and / or wrist rotation of a user performing exercise | |
| JP6863572B2 (en) | Display control device and display control program | |
| US20200341550A1 (en) | System, Method, and Apparatus for Virtual Reality Feedback | |
| JP2021503645A (en) | Smart wearable devices, smart wearable devices and control methods | |
| JP7445933B2 (en) | Information processing device, information processing method, and information processing program | |
| JP2021504026A5 (en) | ||
| RU2662399C1 (en) | System and method for capturing movements and positions of human body and parts of human body | |
| Rodrigues et al. | Evaluation of a head-tracking pointing device for users with motor disabilities | |
| KR20180124302A (en) | AR/VR control wire , wireless device | |
| KR100878754B1 (en) | Computer Interface Device and Method for Handicapped Persons with Disabilities | |
| Chung | Home-based Lower Limb Immersive Serious Game for Phantom Pain Management | |
| US20260102262A1 (en) | Multi-Task Hand Support Device with Biological Signal Acquisition for Operation with or without Bionic Limbs, Prosthetics and Osseointegration Limbs Implants, including Exoskeletons Wearables |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191211 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200827 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200908 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201019 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210302 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210325 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6863572 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |