Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7414065B2 - 情報処理装置および情報処理方法、並びにプログラム - Google Patents
[go: Go Back, main page]

JP7414065B2 - 情報処理装置および情報処理方法、並びにプログラム - Google Patents

情報処理装置および情報処理方法、並びにプログラム Download PDF

Info

Publication number
JP7414065B2
JP7414065B2 JP2021515976A JP2021515976A JP7414065B2 JP 7414065 B2 JP7414065 B2 JP 7414065B2 JP 2021515976 A JP2021515976 A JP 2021515976A JP 2021515976 A JP2021515976 A JP 2021515976A JP 7414065 B2 JP7414065 B2 JP 7414065B2
Authority
JP
Japan
Prior art keywords
pressed
load weight
force
haptic
keyboard
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021515976A
Other languages
English (en)
Other versions
JPWO2020218017A1 (ja
Inventor
勇人 西岡
晋一 古屋
雅人 平野
貴紀 奥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020218017A1 publication Critical patent/JPWO2020218017A1/ja
Application granted granted Critical
Publication of JP7414065B2 publication Critical patent/JP7414065B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/32Constructional details
    • G10H1/34Switch arrangements, e.g. keyboards or mechanical switches specially adapted for electrophonic musical instruments
    • G10H1/344Structural association with individual keys
    • G10H1/346Keys with an arrangement for simulating the feeling of a piano key, e.g. using counterweights, springs, cams
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B15/00Teaching music
    • G09B15/001Boards or like means for providing an indication of chords
    • G09B15/002Electrically operated systems
    • G09B15/003Electrically operated systems with indication of the keys or strings to be played on instruments
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B15/00Teaching music
    • G09B15/08Practice keyboards
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10CPIANOS, HARPSICHORDS, SPINETS OR SIMILAR STRINGED MUSICAL INSTRUMENTS WITH ONE OR MORE KEYBOARDS
    • G10C3/00Details or accessories
    • G10C3/12Keyboards; Keys
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/021Indicator, i.e. non-screen output user interfacing, e.g. visual or tactile instrument status or guidance information using lights, LEDs or seven segments displays
    • G10H2220/026Indicator, i.e. non-screen output user interfacing, e.g. visual or tactile instrument status or guidance information using lights, LEDs or seven segments displays associated with a key or other user input device, e.g. key indicator lights
    • G10H2220/056Hand or finger indicator, e.g. for indicating which hand or which specific finger should be used
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/091Graphical user interface [GUI] specifically adapted for electrophonic musical instruments, e.g. interactive musical displays, musical instrument icons or menus; Details of user interactions therewith
    • G10H2220/101Graphical user interface [GUI] specifically adapted for electrophonic musical instruments, e.g. interactive musical displays, musical instrument icons or menus; Details of user interactions therewith for graphical creation, edition or control of musical data or parameters
    • G10H2220/106Graphical user interface [GUI] specifically adapted for electrophonic musical instruments, e.g. interactive musical displays, musical instrument icons or menus; Details of user interactions therewith for graphical creation, edition or control of musical data or parameters using icons, e.g. selecting, moving or linking icons, on-screen symbols, screen regions or segments representing musical elements or parameters
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/265Key design details; Special characteristics of individual keys of a keyboard; Key-like musical input devices, e.g. finger sensors, pedals, potentiometers, selectors
    • G10H2220/311Key design details; Special characteristics of individual keys of a keyboard; Key-like musical input devices, e.g. finger sensors, pedals, potentiometers, selectors with controlled tactile or haptic feedback effect; output interfaces therefor
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/461Transducers, i.e. details, positioning or use of assemblies to detect and convert mechanical vibrations or mechanical strains into an electrical signal, e.g. audio, trigger or control signal
    • G10H2220/521Hall effect transducers or similar magnetic field sensing semiconductor devices, e.g. for string vibration sensing or key movement sensing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Auxiliary Devices For Music (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Input From Keyboards Or The Like (AREA)

Description

本開示は、情報処理装置および情報処理方法、並びにプログラムに関し、特に、さらなる技能向上を図ることができるようにした情報処理装置および情報処理方法、並びにプログラムに関する。
一般的に、楽器を演奏する演奏者は、楽器を演奏するトレーニングを通じて、指先などの触覚に関する能力を身に付けることができる。また、例えば、ピアノを演奏するピアニストは、力を識別するのに必要な指の力覚(即ち、ピアノの鍵盤を押下する際に指先に加えられる力を弁別する能力)を向上させることで、ピアノを演奏する技能向上を図ることができると考えられている。
ここで、特許文献1には、精度のよい演奏音の評価を演奏中の演奏者に提供し、効果的に演奏を支援する演奏支援装置が開示されている。
特開2009-47861号公報
ところで、ピアニストの力覚の個人差は、過去に行われたピアノを演奏するトレーニングとは無関係であると指摘されている。即ち、ピアニストの力覚を向上させるための知覚訓練は、ピアノを演奏するトレーニングとは関係がないと考えられている。そこで、ピアノを演奏するトレーニングとは別に、ピアニストの力覚を向上させるための訓練および評価を行うことにより、ピアノを演奏する技能向上を図ることが期待されている。
本開示は、このような状況に鑑みてなされたものであり、さらなる技能向上を図ることができるようにするものである。
本開示の一側面の情報処理装置は、ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御する負荷重量制御部と、前記押下対象物体の動きを認識する認識部とを備え、前記負荷重量制御部は、前記認識部により前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記認識部により前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う。
本開示の一側面の情報処理方法またはプログラムは、ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御することと、前記押下対象物体の動きを認識することとを含み、前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う。
本開示の一側面においては、ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生が制御され、押下対象物体の動きが認識される。そして、押下対象物体が押下され始めたことが認識されたタイミングで所定の負荷重量の発生を開始し、押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで負荷重量の発生を終了する制御が行われる。
本技術を適用した演奏技能向上システムの第1の実施の形態の構成例を示すブロック図である。 鍵盤に加える力について説明する図である。 弁別可能な負荷重量の閾値について説明する図である。 力覚弁別処理を説明するフローチャートである。 力覚評価処理を説明するフローチャートである。 力覚訓練処理を説明するフローチャートである。 本技術を適用した演奏技能向上システムの第2の実施の形態の構成例を示す図である。 力触覚提示ユニットの構造を概略的に示した側面図である。 力触覚提示ユニットの動作を説明する図である。 アクチュエータの配置位置のバリエーションを示す図である。 演奏技能向上システムの機能的な構成例を示すブロック図である。 メインコントロール画面の表示例を示す図である。 深さに応じて力を制御する制御曲線の一例を示す図である。 アクチュエータ制御処理を説明するフローチャートである。 力センサの出力を初期化する初期化処理を説明するフローチャートである。 トルクおよび力の対応マップの一例を示す図である。 力触覚リストの一例を示す図である。 力触覚を評価する評価処理を説明するフローチャートである。 力触覚を訓練する訓練処理を説明するフローチャートである。 俊敏性計測画面の表示例を示す図である。 第1の俊敏性評価処理を説明するフローチャートである。 指の力と俊敏性との関係を表す計測結果の一例を示す図である。 第2の俊敏性評価処理を説明するフローチャートである。 独立性計測画面の表示例を示す図である。 指を選択するためのGUIの例を示す図である。 独立性評価処理について説明するフローチャートである。 独立性を表すスコアをマトリックスで表示する表示例を示す図である。 独立性を表すスコアを指ごとのレーダーチャートで表示する表示例を示す図である。 レーダーチャートの他の表示例を示す図である。 独立性を表すスコアを棒グラフで表示する表示例を示す図である。 時間正確性計測画面の表示例を示す図である。 第1の時間正確性評価処理について説明するフローチャートである。 指の力と時間正確性との関係を表す計測結果の一例を示す図である。 第2の時間正確性評価処理について説明するフローチャートである。 ネットワークを介して力触覚提示装置を利用する利用例について説明する図である。 外部端末で計測データを表示する表示例を示す図である。 力触覚提示装置の内部構造の斜視図である。 力触覚提示装置の内部構造の右側面図である。 力触覚提示装置の内部構造の底面図である。 力触覚提示装置の内部構造の背面図である。 本技術を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
<演奏技能向上システムの第1の構成例>
図1は、本技術を適用した演奏技能向上システムの第1の実施の形態の構成例を示すブロック図である。
演奏技能向上システム11は、楽器を演奏する演奏者の力覚を向上させることにより、演奏技能が向上するように支援することを目的として構築されている。なお、以下では、一例として、演奏技能向上システム11を利用して、ピアニストが鍵盤41を押下する際の力覚について説明するが、ピアノ以外の楽器に演奏技能向上システム11を適用してもよい。
例えば、演奏技能向上システム11では、力覚弁別処理、力覚評価処理、および力覚訓練処理を実行することができる。例えば、力覚弁別処理は、図4のフローチャートを参照して後述するように、ピアニストが鍵盤41を2回打鍵して、1回目の打鍵において鍵盤41を押下するのに必要な力を通常の重量とし、2回目の打鍵において鍵盤41を押下するのに必要な力を通常よりも大きな重量とすることで、それらの力覚を比較して弁別させる処理である。
また、力覚評価処理は、図5のフローチャートを参照して後述するように、鍵盤41を押下するのに必要な力をランダムに変更し、ピアニストが鍵盤41を重いと感じる閾値を検出することで力覚を評価する処理である。また、力覚訓練処理は、図6のフローチャートを参照して後述するように、鍵盤41を押下するのに必要な力をランダムに変更し、ピアニストが鍵盤41を重いと感じたか否かの回答に対するフィードバックを行うことで力覚を訓練する処理である。
図1に示すように、演奏技能向上システム11は、力覚提示装置12、情報処理装置13、および出力装置14を備えて構成される。力覚提示装置12は、検出部21および駆動部22を有しており、情報処理装置13は、打鍵認識部31、負荷重量制御部32、回答取得部33、判定部34、閾値算出部35、および結果出力部36を有している。
力覚提示装置12は、ユーザにより押下される物体に対して、その物体の動きに対して負荷となる力(以下、負荷重量と称する)を発生することで、所望の力覚をユーザに提示することができる装置である。例えば、力覚提示装置12は、鍵盤41に対して装着したり組み込んだりすることができ、鍵盤41を押下するような動きに対する負荷重量を発生することで、鍵盤41を押下するピアニストに所望の力覚を提示することができる。
情報処理装置13は、予め設定された負荷重量や、トレーニングを行うピアニストが入力する回答、力覚提示装置12から出力される検出信号などに従った情報処理を行って、力覚提示装置12において発生させる負荷重量を制御する制御信号を出力する。
出力装置14は、ディスプレイやスピーカなどにより構成される。例えば、出力装置14は、力覚訓練処理(図6参照)において、ピアニストが鍵盤41を重いと感じたか否かの回答に対する正誤結果として、正解または不正解を示す文字を表示したり、正解または不正解を示す音声を出力したりする。また、出力装置14は、力覚評価処理(図5参照)において閾値算出部35により算出される、ピアニストが弁別可能な負荷重量を示す指標となる閾値を表示する。
検出部21は、ピアニストが鍵盤41を押下する際の動き(上向きの動き、または、下向きの動き)を検出し、その動きを示す検出信号を出力する。例えば、検出部21は、鍵盤41に組み込まれた速度センサにより構成することができ、鍵盤41の動きに応じて変化する速度を、検出信号として出力することができる。
駆動部22は、情報処理装置13から出力される制御信号に従って、ピアニストが鍵盤41を押下するのに対して負荷となるような負荷重量を発生する。例えば、駆動部22は、モータや駆動機構などを組み合わせて構成することができ、モータで発生した力を駆動機構により鍵盤41に伝達することで、制御信号に従った大きさの負荷重量を発生する。
ここで、駆動部22は、図2において白抜きの矢印で示すような向きの力を鍵盤41に加えるように構成することができる。例えば、ピアニストが指で打鍵する鍵盤41の盤面に対して駆動部22を接合して、鍵盤41を引き上げる向きに力を加えるように、ハプティクスデバイスにより駆動部22を構成することができる。
または、鍵盤41の支点42に対して、盤面とは反対側に設けられているキャプスタンボタン43の近傍の端部に対し、鍵盤41を押し下げる向きに力を加えるように、駆動部22を構成することができる。または、鍵盤41の支点42を中心として回転方向にトルクを伝達するように、トルクモータにより駆動部22を構成することができる。なお、駆動部22にトルクモータを採用する場合、エンコーダを検出部21として利用することができる。また、検出部21として圧力センサを利用する場合、図2に示す検出部21-1および21-2のように、鍵盤41の複数個所に配置する構成としてもよい。
打鍵認識部31は、検出部21から出力される検出信号に基づいて鍵盤41の動き(下向きの動きに基づく打鍵、または、上向きの動きに基づく離鍵)を認識し、その認識に基づいた通知を負荷重量制御部32に対して行う。例えば、打鍵認識部31は、力覚弁別処理(図4参照)において、鍵盤41に対して2回目の打鍵が行われたことを認識した場合、鍵盤41に対して2回目の打鍵が行われたことを負荷重量制御部32に対して通知する。なお、打鍵認識部31は、検出部21から出力される検出信号の他、例えば、図示しない撮像装置により撮像された画像(動画像または映像)に対する画像処理を行うことによって、鍵盤41の動きを認識するような構成としてもよい。
負荷重量制御部32は、駆動部22により鍵盤41に加えられる負荷重量を制御し、その負荷重量を指示する制御信号を出力する。負荷重量制御部32は、例えば、ピアニストが鍵盤41を押下するのに必要となる力が、外部から設定された負荷重量や、閾値算出部35により閾値として求められた負荷重量などになるように、負荷重量を制御する。また、負荷重量制御部32は、打鍵認識部31により鍵盤41が押下され始めたことが認識されたタイミングで負荷重量の発生を開始し、打鍵認識部31により鍵盤41の押下が終わって戻り始めたことが認識されたタイミングで負荷重量の発生を終了する制御を行う。
例えば、負荷重量制御部32は、力覚弁別処理(図4参照)において、鍵盤41に対して2回目の打鍵が行われたことが打鍵認識部31から通知されると、0.1~1.4[N]のうちの予め設定されている所定の負荷重量を指示する制御信号を出力する。また、負荷重量制御部32は、力覚評価処理(図5参照)において、駆動部22により鍵盤41に加えられる負荷重量を、0.1[N]から1.4[N]までの範囲内からランダムに選択し、その選択した負荷重量を指示する制御信号を出力する。また、負荷重量制御部32は、力覚訓練処理(図6参照)において、設定に従った負荷重量と0[N]とのうち、いずれか一方をランダムに選択し、その選択した負荷重量を指示する制御信号を出力する。さらに、負荷重量制御部32は、力覚訓練処理(図6参照)において、設定に従った負荷重量の弁別が可能である(ある割合以上で正解する)場合、より小さな負荷重量が提示されるように変更する。
回答取得部33は、例えば、図示しないスイッチなどを利用したピアニストの回答を取得し、取得した回答を、判定部34または閾値算出部35に供給する。例えば、回答取得部33は、力覚評価処理(図5参照)および力覚訓練処理(図6参照)において、打鍵が通常より「重いと感じた」または「重いと感じなかった」という回答を取得する。なお、ピアニストが回答を入力するスイッチとしては、例えば、力覚提示装置12が装着される鍵盤41以外の任意の鍵盤を利用してもよい。即ち、ある音階の鍵盤を「重いと感じた」という回答を入力するのに利用し、他の音階の鍵盤を「重いと感じなかった」という回答を入力するのに利用することができる。
判定部34は、負荷重量制御部32による負荷重量の制御に従って、回答取得部33が取得した回答が正解であるか否かを判定し、その回答に対する正誤結果(正解/不正解)を、結果出力部36に供給する。例えば、判定部34は、力覚訓練処理(図6参照)において、負荷重量制御部32が、設定に従った負荷重量が鍵盤41に加えられるように駆動部22に対する制御を行った場合に、回答が「重いと感じた」であれば、その回答が正解であると判定する。また、判定部34は、この場合に、回答が「重いと感じなかった」であれば、その回答が不正解であると判定する。一方、判定部34は、負荷重量制御部32が、0[N]が鍵盤41に加えられるように駆動部22に対する制御を行った場合に、回答が「重いと感じた」であれば、その回答が不正解であると判定し、回答が「重いと感じなかった」であれば、その回答が正解であると判定する。
閾値算出部35は、ピアニストの力覚を評価するために、ピアニストが弁別可能な負荷重量を示す指標となる閾値を算出する。例えば、閾値算出部35は、力覚評価処理(図5参照)において、回答取得部33から供給される複数の負荷重量それぞれの規定回数分の回答のうち、負荷重量それぞれに対して「重いと感じた」と回答された割合に基づいて閾値を算出する。
具体的には、図3に示すように、閾値算出部35は、シグモイド関数を用いたフィッティングを行う。図3は、横軸が、負荷重量を示し、縦軸が、負荷重量それぞれに対して「重いと感じた」と回答された割合を示している。そして、閾値算出部35は、フィッティング曲線において変曲点となっている負荷重量を、ピアニストが弁別可能な負荷重量とする閾値として算出する。例えば、力覚訓練処理(図6参照)によるトレーニングを行って、より小さな負荷重量を弁別することができるようになると、この閾値を小さくすることができると期待される。
結果出力部36は、判定部34により判定された正誤結果、または、閾値算出部35により算出された閾値を出力装置14に出力する。また、結果出力部36は、図3に示したようなシグモイド関数を用いたフィッティング曲線を出力し、出力装置14のディスプレイに表示させてもよい。
以上のように構成される演奏技能向上システム11では、ピアノを演奏するトレーニングとは別に、ピアニストの力覚を向上させるための知覚訓練を行うことができる。これにより、ピアニストの力覚が向上する結果、さらなる演奏技能の向上を図ることができ、演奏技能向上システム11は、より熟達したパフォーマンスをピアニストが披露することを支援することができる。
<演奏技能向上システムで実行される処理>
図4乃至図6に示すフローチャートを参照して、演奏技能向上システム11において実行される処理について説明する。なお、以下の各処理は、例えば1kHzで制御される。
図4には、演奏技能向上システム11において実行される力覚弁別処理を説明するフローチャートが示されている。
例えば、力覚弁別処理を行う指示が情報処理装置13に対して入力されると処理が開始され、ステップS11において、負荷重量制御部32は、駆動部22により鍵盤41に加えられる負荷重量を0[N]とするように指示する制御信号を出力する。これに応じ、力覚提示装置12では、駆動部22が、1回目の打鍵において鍵盤41に加えられる負荷重量が0[N]となるように駆動し、ピアニストが鍵盤41を押下するのに必要な力は通常の重量となる。なお、例えば、力覚提示装置12の自重が鍵盤41に加えられるような構成である場合、負荷重量制御部32は、力覚提示装置12の自重を打ち消すように駆動部22を駆動させる。
ステップS12において、打鍵認識部31は、力覚提示装置12の検出部21から出力される検出信号に基づいて、鍵盤41が下向きの動き(打鍵)を開始したことを検出したか否かを判定する。そして、打鍵認識部31は、鍵盤41が下向きの動きを開始したことを検出したと判定するまで処理を待機し、鍵盤41が下向きの動きを開始したことを検出したと判定すると、処理はステップS13に進む。
ステップS13において、打鍵認識部31は、力覚提示装置12の検出部21から出力される検出信号に基づいて、鍵盤41が上向きの動き(離鍵)を開始したことを検出したか否かを判定する。そして、打鍵認識部31は、鍵盤41が上向きの動きを開始したことを検出したと判定するまで処理を待機し、鍵盤41が上向きの動きを開始したことを検出したと判定すると、処理はステップS14に進む。
このように、ステップS12で鍵盤41が下向きの動きの開始が検出され、ステップS13で鍵盤41が上向きの動きの開始が検出されると、鍵盤41に対する1回目の打鍵が行われたことになる。
ステップS14において、打鍵認識部31は、ステップS12と同様に、鍵盤41が下向きの動き(打鍵)を開始したことを検出したと判定するまで処理を待機し、鍵盤41が下向きの動きを開始したことを検出したと判定すると、処理はステップS15に進む。
ステップS15において、打鍵認識部31は、鍵盤41に対する2回目の打鍵が始まったことを負荷重量制御部32に通知し、負荷重量の提示が開始される。即ち、負荷重量制御部32は、駆動部22により鍵盤41に加えられる負荷重量が、予め設定されている所定の負荷重量となるように指示する制御信号を出力する。これに応じ、力覚提示装置12では、駆動部22が、2回目の打鍵において鍵盤41に所定の負荷重量が加えられるように駆動し、ピアニストが鍵盤41を押下するのに必要な力は通常よりも大きな重量(通常の重量および負荷重量)となる。
ステップS16において、打鍵認識部31は、ステップS13と同様に、鍵盤41が上向きの動き(離鍵)を開始したことを検出したと判定するまで処理を待機し、鍵盤41が上向きの動きを開始したことを検出したと判定すると、処理はステップS17に進む。
ステップS17において、打鍵認識部31は、鍵盤41に対する2回目の打鍵が終わったことを負荷重量制御部32に通知し、負荷重量の提示が終了される。即ち、負荷重量制御部32は、駆動部22により鍵盤41に加えられる負荷重量を0[N]とするように指示する制御信号を出力する。これに応じ、力覚提示装置12では、駆動部22が、鍵盤41に加えられる負荷重量が0[N]となるように駆動し、ピアニストが鍵盤41を押下するのに必要な力は通常の重量となる。なお、例えば、力覚提示装置12の自重が鍵盤41に加えられるような構成である場合、負荷重量制御部32は、力覚提示装置12の自重を打ち消すように駆動部22を駆動させることを継続する。
そして、ステップS17の処理後、力覚弁別処理は終了される。
以上のように、演奏技能向上システム11が力覚弁別処理を実行することによって、ピアニストは、1回目の打鍵で鍵盤41を押下する力と、2回目の打鍵で鍵盤41を押下する力とを比較することで、負荷重量を弁別することができる。
図5には、演奏技能向上システム11において実行される力覚評価処理を説明するフローチャートが示されている。
例えば、力覚評価処理を行う指示が情報処理装置13に対して入力されると処理が開始され、ステップS21において、負荷重量制御部32は、駆動部22により鍵盤41に加えられる負荷重量を、例えば、0.1[N]から1.4[N]までの範囲内からランダムに選択する。そして、負荷重量制御部32は、その選択した負荷重量とするように指示する制御信号を出力する。これに応じ、力覚提示装置12では、駆動部22が、負荷重量制御部32においてランダムに選択された負荷重量が鍵盤41に加えられるように駆動し、ピアニストが鍵盤41を押下するのに必要な力は通常よりも大きな重量(通常の重量および負荷重量)となる。
ステップS22において、ピアニストが鍵盤41に対する打鍵を行った後、その打鍵が通常より「重いと感じた」および「重いと感じなかった」のうちの、いずれか一方を選択する回答を入力すると、回答取得部33は、その回答を取得する。
ステップS23において、回答取得部33は、ステップS21においてランダムに制御される各負荷重量を提示する回数が、予め設定されている規定回数(例えば、負荷重量ごとに20回ずつ)に達したか否かを判定する。
ステップS23において、回答取得部33が、各負荷重量を提示する回数が規定回数に達していないと判定した場合、処理はステップS21に戻り、以下、同様の処理が繰り返して行われる。一方、ステップS23において、回答取得部33が、各負荷重量を提示する回数が規定回数に達したと判定した場合、処理はステップS24に進む。
ステップS24において、回答取得部33は、各負荷重量について規定回数分だけ繰り返してステップS22で取得した回答の全てを、閾値算出部35に供給する。そして、閾値算出部35は、各負荷重量に対して「重いと感じた」と回答された割合を、上述の図3に示したようにシグモイド関数によりフィッティングする。
ステップS25において、閾値算出部35は、ステップS24で求めたフィッティング曲線において変曲点となっている負荷重量を閾値として算出し、その閾値を、結果出力部36を介して出力装置14に出力する。
そして、ステップS25の処理後、力覚評価処理は終了される。
以上のように、演奏技能向上システム11が力覚評価処理を実行することによって、ピアニストが弁別可能な負荷重量の閾値を求めること、即ち、ピアニストの力覚を正確に評価することができる。
図6には、演奏技能向上システム11において実行される力覚訓練処理を説明するフローチャートが示されている。
例えば、力覚訓練処理を行う指示が情報処理装置13に対して入力されると処理が開始され、ステップS31において、負荷重量制御部32は、トレーニングする負荷重量を設定する。ここで、負荷重量制御部32は、例えば、図示しない設定部を利用してピアニストにより設定される負荷重量をトレーニングに用いる他、図5の力覚評価処理において閾値として算出された負荷重量をトレーニングに用いることができる。
ステップS32において、負荷重量制御部32は、ステップS31の設定に従った負荷重量と0[N]とのうち、どちらか一方をランダムに選択し、その選択した負荷重量とするように指示する制御信号を出力する。これに応じ、力覚提示装置12では、駆動部22が、負荷重量制御部32においてランダムに選択された負荷重量が鍵盤41に加えられるように駆動する。従って、ピアニストが鍵盤41を押下するのに必要な力は、通常よりも大きな重量(通常の重量および負荷重量)、および、通常の重量のうち、どちらか一方となる。
ステップS33において、ピアニストが鍵盤41に対する打鍵を行った後、その打鍵が通常より「重いと感じた」および「重いと感じなかった」のうちの、いずれか一方を選択する回答を入力すると、回答取得部33は、その回答を取得する。
ステップS34において、判定部34は、負荷重量制御部32がステップS32で選択した負荷重量(即ち、ステップS31の設定に従った負荷重量、または、0[N])を取得し、ステップS33で回答取得部33が取得した回答を取得する。そして、判定部34は、ピアニストの回答が正解であるか否かを判定し、その回答に対する正誤結果(正解/不正解)を、結果出力部36を介して出力装置14に出力して、ピアニストにフィードバックする。
ステップS35において、回答取得部33は、ステップS32においてランダムに選択される負荷重量を提示する回数が、予め設定されている規定回数(例えば、20回)に達したか否かを判定する。
ステップS35において、回答取得部33が、負荷重量を提示する回数が規定回数に達していないと判定した場合、処理はステップS32に戻り、以下、同様の処理が繰り返して行われる。一方、ステップS35において、回答取得部33が、負荷重量を提示する回数が規定回数に達したと判定した場合、処理はステップS36に進む。
ステップS36において、判定部34は、規定回数分だけ繰り返してステップS34で取得した規定回数の正誤結果について、正解である正誤結果の割合が、所定の合格割合(例えば、8割)以上であるか否かを判定する。
ステップS36において、判定部34が、正解である正誤結果の割合が所定の合格割合以上でない(即ち、所定の合格割合未満である)と判定した場合、処理はステップS32に戻り、以下、同様の処理が繰り返して行われる。一方、ステップS36において、判定部34が、正解である正誤結果の割合が所定の合格割合以上であると判定した場合、処理はステップS37に進む。
ステップS37において、負荷重量制御部32は、トレーニングする負荷重量の設定を、現時点の負荷重量未満(例えば、現時点で設定されている負荷重量の90%)に変更する。なお、負荷重量制御部32は、正解である正誤結果の割合に応じて負荷重量の変更量を調整してもよく、例えば、正解である正誤結果の割合が高い場合(例えば、ほぼ正解である場合)、負荷重量の変更量を大きくするように調整することができる。
ステップS38において、負荷重量制御部32は、トレーニングを終了するか否かを判定する。例えば、ステップS37で負荷重量を変更する変更回数が予め設定されている場合、負荷重量制御部32は、その変更回数分の負荷重量の変更が行われたとき、トレーニングを終了すると判定する。その他、トレーニングが行われる時間(例えば、30分)や、ピアニストが回答した回数(20種類の負荷重量に対する回答を20回)などに基づいて、トレーニングを終了するようにしてもよい。
ステップS38において、負荷重量制御部32が、トレーニングを終了しないと判定した場合、処理はステップS32に戻り、以下、同様の処理が繰り返して行われる。一方、ステップS38において、負荷重量制御部32が、トレーニングを終了すると判定した場合、力覚訓練処理は終了される。
以上のように、演奏技能向上システム11が力覚訓練処理を実行することによって、回答に対する正誤結果をピアニストにフィードバックすることで、ピアニストが負荷重量を弁別可能な閾値を下げること、即ち、ピアニストの力覚を向上させることができる。特に、力覚評価処理において求められた閾値の近辺の負荷重量を力覚訓練処理で用いることによって、より効率的に力覚を向上させることができる。
なお、演奏技能向上システム11は、楽器を演奏する演奏者の演奏技能の向上に用いる他、ユーザの力覚の向上に伴う各種の技能についての技能向上に適用することができる。例えば、高齢者は、触覚機能が低下することや、物体を保持する能力が低下することなどに伴って事故が増加することが知られており、演奏技能向上システム11によって高齢者の力覚を向上させることによって、事故の防止を図ることができる。また、演奏技能向上システム11によって、点字を読むための触覚の向上を図ることや、脳卒中などに起因する触覚機能の低下を抑制することが期待される。または、陶芸家などのように高度な触覚が必要となる職業において、演奏技能向上システム11を利用することによって技能向上を図り、後継者不足の問題を解消することも期待される。
また、演奏技能向上システム11では、鍵盤41が押下され始めたことが認識されたタイミングで負荷重量の発生が開始され、鍵盤41の押下が終わって戻り始めたことが認識されたタイミングで負荷重量の発生が終了されるような制御が行われる。このように、ピアニストが鍵盤41を押下する際に感じる鍵盤41の重さを変更することで、ピアニストが体験する力触覚(知覚体験)を自在に操ることができる。さらに、演奏技能向上システム11では、鍵盤41に対して負荷重量を発生させた情報、または、鍵盤41に対して負荷重量の発生を停止させた情報を、ピアニストが打鍵した後に提示(フィードバック)することで、ピアニストの力触覚の弁別能力の向上を図ることができる。
ここで、演奏技能向上システム11の制御アルゴリズムを変更することで、力触覚の訓練だけでなく、多種多様な力を指先が経験することができ、様々な重さの鍵盤41を体験させることができる。これにより、演奏技能向上システム11は、鍵盤41の重さが未知の新たに演奏するピアノに対して、ピアニストが素早く適応する(即ち、狙った音量の音を出せるようになるための適応時間を短くする)トレーニングにおいて利用することができる。これは、「多種多様な重さの鍵盤を経験することで、鍵盤の重さと音の対応関係をマッチングする脳の回路ができ、その記憶を参照することで、力学特性の未知の新しいピアノ鍵盤への適応が速くなる」という脳神経科学の知見に基づいたものである。
さらに、演奏技能向上システム11は、検出部21の単体で、鍵盤41の上下位置の情報や速度の時系列情報などを計測して、それらの計測結果をユーザにフィードバックすることができる。
なお、上述した本実施の形態では、演奏技能向上システム11は、ピアニストが重いと感じるように鍵盤41に対して負荷重量を発生させる構成として説明したが、例えば、ピアニストが軽いと感じるように鍵盤41に対して負荷重量を発生させる構成としてもよい。この場合、回答取得部33は、力覚評価処理(図5参照)および力覚訓練処理(図6参照)において、打鍵が通常より「軽いと感じた」または「軽いと感じなかった」という回答を取得することになる。
<演奏技能向上システムの第2の構成例>
図7は、本技術を適用した演奏技能向上システムの第2の実施の形態の構成例を示す図である。
例えば、演奏技能向上システム111は、複数の手指における力触覚の評価または訓練を行うことができるように構成されており、感覚運動統合機能の評価または訓練を行うことによって、演奏者の演奏技能が向上するように支援することができる。
図7に示すように、演奏技能向上システム111は、力触覚提示装置112および情報処理装置113により構成される。
力触覚提示装置112は、複数の力触覚提示ユニット122が筐体121に組み込まれて構成される。例えば、図7には、8個の力触覚提示ユニット122A乃至122Hを備えた力触覚提示装置112の構成例が示されている。なお、力触覚提示ユニット122A乃至122Hは、同様に構成されており、それらを区別する必要がない場合、以下適宜、力触覚提示ユニット122と称する。
筐体121は、力触覚提示ユニット122A乃至122Hが隣り合わされて並んで組み込まれるように構成される。例えば、筐体121の内部には、後述する図8に示すようなアクチュエータ146やハンマー機構150などが収納される。
力触覚提示ユニット122A乃至122Hは、それぞれ独立に提示する力触覚を変化させることができるように構成される。なお、力触覚提示ユニット122の詳細な構成については、図8を参照して後述する。
情報処理装置113は、例えば、パーソナルコンピュータを利用することができ、キーボードやタッチパッドなどの入力部131、および、液晶パネルなどの表示部132を備えて構成される。
このように構成される演奏技能向上システム111では、例えば、力触覚提示装置112により提示される力触覚を、情報処理装置113を用いて設定することができる。そして、ユーザは、複数の指で同時に、または複数の指で連続して、力触覚提示ユニット122A乃至122Hを押下しながら力触覚の評価または訓練を行うことができる。
図8は、力触覚提示ユニット122の構造を概略的に示した側面図である。
例えば、力触覚提示ユニット122は、枠体141、ストッパ142、位置センサ143、鍵盤支持部材144、ハンマー支持部材145、アクチュエータ146、鍵盤147、スライド部材148、トルク出力部材149、ハンマー機構150、圧縮バネ151、および力センサ152を備えて構成される。そして、力触覚提示ユニット122では、枠体141、鍵盤147、スライド部材148、およびトルク出力部材149によって4節リンク機構が構成されている。
枠体141には、ストッパ142、位置センサ143、鍵盤支持部材144、ハンマー支持部材145、およびアクチュエータ146が固定されており、力触覚提示ユニット122の可動部分を支持する土台となる。
ストッパ142は、鍵盤147の先端近傍の下面に設けられている穴に挿入されるピン部によって鍵盤147に水平方向のガタツキが生じるのを抑制するとともに、鍵盤147の下面が当接することによって鍵盤147が押下される際の終端を規定する。
位置センサ143は、鍵盤147が押下される際の位置を計測する。
鍵盤支持部材144は、点P1を連結軸として鍵盤147の中央近傍を回転自在に支持する。
ハンマー支持部材145は、点P5を連結軸としてハンマー機構150の後端近傍を回転自在に支持する。
アクチュエータ146は、点P2を回転軸の中心として駆動するモータであり、回転軸に固定されているトルク出力部材149に回転力を伝達する。なお、アクチュエータ146として、力制御可能なソレノイドや、ボイスコイルモータなどを採用してもよい。
鍵盤147は、例えば、ピアノの鍵盤と同様に先端部分の上面をユーザが押下することができように形成され、ユーザが指先で鍵盤147を押下する際に、その指先に所定の力触覚を提示することができる。
スライド部材148は、点P3を連結軸として下端近傍が鍵盤147の後端近傍に連結されるとともに、点P4を連結軸として上端近傍がトルク出力部材149の先端近傍に連結されており、アクチュエータ146の駆動に応じて上下方向にスライドする。
トルク出力部材149は、点P4を連結軸として先端近傍がスライド部材148の上端近傍に連結されており、アクチュエータ146の回転力を、スライド部材148を上下方向に動かす力として伝達する。
ハンマー機構150は、点P5を連結軸として後端近傍がハンマー支持部材145に連結されるとともに、鍵盤147の後端部分の上面に当接するようにハンマー機構150の下面に突起部が設けられている。そして、ハンマー機構150は、点P5を支点とし、ハンマー機構150の重量によって鍵盤147の後端部分を下方に向かって押し下げるような力を発生する。
圧縮バネ151は、圧縮された状態でハンマー支持部材145およびハンマー機構150の間に固定され、ハンマー機構150を介して、鍵盤147の後端部分を下方に向かって押し下げるような力を発生する。
力センサ152は、鍵盤147の上面のユーザにより押下される個所の近傍に取り付けられ、鍵盤147が押下される際に加えられる力を計測する。
このように構成される力触覚提示ユニット122は、点P1および点P2を固定端とし、点P3および点P4を自由端とした4節リンク機構によってアクチュエータ146のトルクを伝達することで、鍵盤147を押下するユーザの指先に力触覚を提示することができる。そして、力触覚提示ユニット122は、位置センサ143および力センサ152によって、ユーザの押下動作を計測することができる。
例えば、図9を参照して、鍵盤147の先端近傍をユーザが押下する際の力触覚提示ユニット122の動作について説明する。
図9の上側には、鍵盤147に力が加えられていない状態の力触覚提示ユニット122が示されている。なお、力触覚提示ユニット122では、この状態で、鍵盤147が水平となるように、図示しないストッパにより鍵盤147が押さえられている。
図9の下側には、ユーザが鍵盤147の先端部分を押し下げるように力が加えられている状態の力触覚提示ユニット122が示されている。
このとき、力触覚提示ユニット122では、ハンマー機構150によって鍵盤147に伝達される重量および慣性、並びに、ハンマー機構150を介して鍵盤147に伝達される圧縮バネ151のバネ力によって、鍵盤147の先端部分を押し上げるような力が、ユーザの指先に加えられる。さらに、力触覚提示ユニット122では、アクチュエータ146が回転力を出力することによって、4節リンク機構によって鍵盤147の先端部分に伝達される力が、ユーザの指先に加えられる。
このような動作によって、力触覚提示ユニット122は、鍵盤147の先端近傍を押下するユーザの指先に力触覚を提示することができる。
なお、力触覚提示ユニット122は、ハンマー機構150の重量および慣性モーメント、並びに、圧縮バネ151のバネ定数の3つのパラメータを調整することで、アクチュエータ146に電流が供給されていない状態で鍵盤147を押下するのに必要となるデフォルトの力を設定可能に構成することができる。即ち、デフォルトの力は、ハンマー機構150の重量および慣性モーメント、並びに、鍵盤147を押下した深さに比例する。そして、力触覚提示ユニット122では、これらのデフォルトの力が、計測または訓練を行う際に鍵盤147を押下するのに必要な力の設定範囲における中心付近となるように予め調整することによって、アクチュエータ146への負荷を低減することができる。なお、力触覚提示ユニット122は、これらの3つのパラメータを調整するためのネジ機構を備えることで、このネジ機構を利用してデフォルトの力を容易に調整することができる。例えば、ハンマー機構150の連結軸および突起部の間隔を調整したり、圧縮バネ151が圧縮される度合いなどを調整したりすることができる。
また、力触覚提示ユニット122は、アクチュエータ146で発生した力を伝達するのに4節リンク機構を採用することによって、鍵盤147の先端部分を上方向および下方向の両方に動かすような力を発生することができる。これにより、例えば、アクチュエータ146を駆動する電流として交流成分を供給することで、鍵盤147の先端部分を上下方向に振動させることができる。また、4節リンク機構を構成する各リンクの長さを調整することで、鍵盤147を押下するのに必要な力の設定範囲を調整することができる。
なお、力触覚提示ユニット122では、アクチュエータ146で発生した力を伝達するために、4節リンク機構を採用する他、例えば、ワイヤによる牽引を利用してもよい。
図10を参照して、力触覚提示ユニット122におけるアクチュエータ146の配置位置のバリエーションについて説明する。
例えば、図8に示した力触覚提示ユニット122のようなアクチュエータ146の配置を第1の配置位置とする。そして、図10のAには、第2の配置位置でアクチュエータ146が配置された力触覚提示ユニット122aが示されており、図10のBには、第3の配置位置でアクチュエータ146が配置された力触覚提示ユニット122bが示されている。
図10のAに示すように、力触覚提示ユニット122aでは、鍵盤147より上側で、かつ、図8の力触覚提示ユニット122のアクチュエータ146の第1の配置位置よりも低い第2の配置位置にアクチュエータ146が配置されている。例えば、力触覚提示ユニット122aを構成するスライド部材148aが、図8の力触覚提示ユニット122のスライド部材148よりも短い長さに設計されている。
図10のBに示すように、力触覚提示ユニット122bでは、鍵盤147よりも下側となる第3の配置位置にアクチュエータ146が配置されている。例えば、力触覚提示ユニット122bを構成するスライド部材148bは、鍵盤147の下側に配置されるアクチュエータ146のトルク出力部材149に連結されるように構成される。
このように、力触覚提示ユニット122におけるアクチュエータ146の配置位置を3つのバリエーションで設計することで、例えば、隣り合う力触覚提示ユニット122どうしでアクチュエータ146の配置位置が重ならないようにすることができる。つまり、図7に示したように、隣り合うように連続的に力触覚提示ユニット122A乃至122Hが配置された力触覚提示ユニット122であっても、力触覚提示ユニット122A乃至122Hを構成する各部を筐体121の内部に収納することができる。
図11は、演奏技能向上システム111の機能的な構成例を示すブロック図である。
例えば、演奏技能向上システム111では、力触覚提示ユニット122A乃至122Hが、それぞれ信号線を介して情報処理装置113に接続されるように構成される。
力触覚提示ユニット122は、図8に示したような位置センサ143、アクチュエータ146、および力センサ152の他、圧力センサ161、制御回路162、駆動回路163、および力触覚提示機構164を備えて構成される。
力センサ152は、鍵盤147がユーザにより押下される際に鍵盤147に加えられる力を計測して、その力を示す力データを制御回路162に供給する。
位置センサ143は、鍵盤147がユーザにより押下される際の鍵盤147の位置を計測して、その位置を示す位置データを制御回路162に供給する。
圧力センサ161は、鍵盤147がユーザにより押下される際に鍵盤147に加えられる圧力を計測して、その圧力を示す圧力データを制御回路162に供給する。
制御回路162は、力データ、位置データ、および圧力データに基づいて鍵盤147の押下動作を認識する。また、制御回路162は、情報処理装置113を用いてユーザが入力した設定に応じた力触覚が提示されるように、駆動回路163に対する制御を行う。
駆動回路163は、制御回路162による制御に従った電力をアクチュエータ146に供給して、アクチュエータ146を駆動させる。
力触覚提示機構164は、上述の図8を参照して説明したような4節リンク機構によってアクチュエータ146から出力される回転力を、ユーザの押下部である鍵盤147の先端部分に伝達することで、ユーザに力触覚を提示する機構である。
情報処理装置113は、装置制御部171、初期化処理部172、通信部173、表示制御部174、入力取得部175、および保存媒体176を備えて構成される。
装置制御部171は、CPUやROM,RAMなどを備えて構成され、後述する各種の処理を行うためのプログラムを実行する。
初期化処理部172は、力触覚提示ユニット122A乃至122Hに対する初期化処理を行うことにより、それぞれのアクチュエータ146が出力するトルクと力センサ152により計測される力との対応付けを行う。
通信部173は、有線通信または無線通信によって、後述する図35に示すようなデータベース192や外部端末193との間の通信を行う。
表示制御部174は、装置制御部171による制御に従って、図1の表示部132に、各種の画面(例えば、図12のメインコントロール画面など)を表示させる表示制御を行う。
入力取得部175は、図1の入力部131をユーザが操作することで入力される各種の設定値や情報などを取得し、装置制御部171に供給する。
保存媒体176は、演奏技能向上システム111で行われる処理で必要となる情報や、演奏技能向上システム111により計測される計測結果(スコア)などを保存する。
以上のように構成される演奏技能向上システム111は、例えば、演奏者やリハビリ患者の手指の力触覚機能を正確に評価し、力触覚のトレーニングを行うことができる。また、演奏技能向上システム111では、力触覚と運動覚とについて評価または訓練を独立に行うことができる。
図12には、情報処理装置113の表示部132に表示されるメインコントロール画面の表示例が示されている。
図12に示すメインコントロール画面では、力触覚提示ユニット122A乃至122Hごとに、縦方向に並んで上から順に、オンオフ設定部、回数設定部、および力設定部を利用して設定を入力するためのGUI(Graphical User Interface)が表示されている。
例えば、メインコントロール画面の左端に表示されているKey Cは、力触覚提示ユニット122Cに対する設定を行うGUIが表示されていることを表しており、その隣に表示されているKey Dは、力触覚提示ユニット122Dに対する設定を行うGUIが表示されていることを表している。以下、同様に、他の力触覚提示ユニット122に対する設定を行うGUIが表示されている。
オンオフ設定部は、力触覚提示ユニット122A乃至122Hそれぞれにより力触覚の提示を行うことのオン/オフを設定するボタンのGUIである。
回数設定部は、力触覚提示ユニット122A乃至122Hそれぞれにおいて押下する回数の設定値を入力するボタンのGUIである。
力設定部は、力触覚提示ユニット122A乃至122Hそれぞれにおいて提示される力の大きさを入力するボタンおよびシーケンスバーのGUIである。例えば、アクチュエータ146に供給する電流がゼロであるときに提示される力をデフォルトの力と設定しておく。
なお、力触覚提示ユニット122は、鍵盤147を押下する際に、鍵盤147が押し下げられた深さに関わらず常に一定の力が発生するようにアクチュエータ146の駆動を制御する他、例えば、鍵盤147を押下する際の深さに応じて変化する力が発生するようにアクチュエータ146の駆動を制御してもよい。
例えば、図13には、鍵盤147を押し下げた深さに応じて、アクチュエータ146により発生させる力を制御するための制御曲線の一例が示されている。即ち、ユーザが、図13において白抜きの○印で示す制御点の位置を調整したり、制御点を追加または削除したりするような入力を行うことで、制御曲線に従った力が発生するようにアクチュエータ146の駆動が制御される。
図14に示すフローチャートを参照して、演奏技能向上システム111においてアクチュエータ146に対する制御を行うアクチュエータ制御処理について説明する。
ステップS111において、演奏技能向上システム111では、個々の力触覚提示ユニット122A乃至122Hに対する力および回数が設定される。例えば、装置制御部171は、表示制御部174に対する制御を行って、図12に示したようなメインコントロール画面を表示部132に表示させる。これにより、ユーザは、メインコントロール画面に表示されるGUIを利用し、入力部131を用いて、力触覚提示ユニット122A乃至122Hごとの力および回数を入力することができる。そして、入力取得部175は、個々の力触覚提示ユニット122A乃至122Hに対して入力された力および回数の設定値を取得して、装置制御部171に供給する。
ステップS112において、装置制御部171は、ステップS111で取得した力および回数の設定値を、それぞれ対応する力触覚提示ユニット122A乃至122Hの制御回路162に供給して、力および回数の設定値を反映させる。これにより、力触覚提示ユニット122A乃至122Hでは、それぞれの制御回路162が、設定値に従った力を発生するように駆動回路163に対する制御を行う。そして、駆動回路163は、制御回路162による制御に応じた電流のアクチュエータ146への供給を開始する。
ステップS113において、装置制御部171は、ステップS112でアクチュエータ146への電流の供給が開始されてから、予め設定されている規定時間が経過したか否かを判定する。例えば、規定時間は、アクチュエータ146の過熱を防止することができる時間に設定されている。
ステップS113において、装置制御部171が、規定時間が経過していないと判定した場合、処理はステップS114に進む。
ステップS114において、力触覚提示ユニット122A乃至122Hそれぞれの制御回路162は、位置センサ143から供給される位置データに基づいて、鍵盤147の押下を検出する。そして、鍵盤147の押下が検出された力触覚提示ユニット122A乃至122Hの制御回路162は、鍵盤147の押下回数をインクリメントする。
ステップS115において、力触覚提示ユニット122A乃至122Hそれぞれの制御回路162は、ステップS114における検出結果に応じた現時点の押下回数が、ステップS111で設定された回数の設定値に到達したか否かを判定する。
ステップS115において、力触覚提示ユニット122A乃至122Hいずれかの制御回路162が、押下回数が設定値に到達したと判定した場合、処理はステップS116に進む。
ステップS116において、ステップS115で押下回数が設定値に到達したと判定した制御回路162は、アクチュエータ146に供給する電流をゼロにするように駆動回路163に対する制御を行う。これに従って、駆動回路163は、アクチュエータ146への電流の供給を停止し、鍵盤147を押下するのに必要となる力がデフォルトの状態に戻る。なお、ステップS115で押下回数が設定値に到達していないと判定した制御回路162では、ステップS116の処理はスキップされる。
ステップS116の処理後、または、ステップS115において、力触覚提示ユニット122A乃至122Hいずれの制御回路162も、押下回数が設定値に到達していないと判定した場合、処理はステップS113に戻って、以下、同様の処理が繰り返して行われる。
そして、ステップS113において、装置制御部171が、規定時間が経過したと判定した場合、処理はステップS117に進む。
ステップS117において、装置制御部171は、力触覚提示ユニット122A乃至122Hの全てについて、鍵盤147を押下するのに必要となる力をデフォルトの状態に戻す。即ち、力触覚提示ユニット122A乃至122Hのうち、ステップS115で押下回数が設定値に到達していない力触覚提示ユニット122の制御回路162に対して、装置制御部171は、力をデフォルトの状態に戻すように指示を行う。この指示を受けた制御回路162は、アクチュエータ146に供給する電流をゼロにするように駆動回路163に対する制御を行う。その結果、力触覚提示ユニット122A乃至122Hの全てのアクチュエータ146への電流の供給が停止され、アクチュエータ制御処理は終了する。
以上のように、演奏技能向上システム111では、鍵盤147の押下回数が、回数の設定値に到達すると、アクチュエータ146に供給する電流をゼロにするような保護制御を行うことで、アクチュエータ146の過熱を防止することができる。同様に、演奏技能向上システム111では、アクチュエータ146への電流の供給が開始されてから規定時間が経過した場合にもアクチュエータ146に供給する電流をゼロにする保護制御を行うことで、アクチュエータ146の過熱を防止することができる。
図15のフローチャートを参照して、力センサ152の出力を初期化する初期化処理について説明する。なお、初期化処理は、力触覚提示ユニット122A乃至122Hそれぞれにおいて個別に行うことができる。
ステップS121において、制御回路162は、アクチュエータ146のトルクが出力されていない状態(トルク=0)で、力センサ152から出力される力データの出力値をゼロ点として設定する。
ステップS122において、制御回路162は、アクチュエータ146から出力されるトルクが所定の増加幅で増加するように駆動回路163に対する制御を行い、駆動回路163は、アクチュエータ146に供給する電流を増加させる。
ステップS123において、力センサ152は、鍵盤147に加えられている力を計測して、現時点におけるトルクでの力データを制御回路162に供給する。
ステップS124において、制御回路162は、アクチュエータ146から出力されるトルクが最大値となったか否かを判定する。
ステップS124において、制御回路162が、トルクが最大値となっていないと判定した場合、処理はステップS122に戻ってトルクを増加させ、以下、同様の処理が繰り返して行われる。一方、ステップS124において、制御回路162が、トルクが最大値となったと判定した場合、処理はステップS125に進む。
ステップS125において、制御回路162は、トルクが出力されてない状態からトルクが最大値となった状態までの間に、力センサ152から供給された各トルクにおける力データを装置制御部171に供給する。そして、装置制御部171は、図16に示すようなトルクおよび力の対応関係を示す対応マップを作成して保存媒体176に保存させた後、初期化処理は終了される。
以上のように、演奏技能向上システム111では、アクチュエータ146に供給する電流と、鍵盤147に加えられている力との対応関係を取得することができる。このような対応関係の取得を、例えば、演奏技能向上システム111が使用される環境ごとに行うことで、例えば、外部の気温や力触覚提示装置112の状態などに依らず、より高精度に力触覚を提示することができる。
図17には、図18を参照して後述する評価処理、および、図19を参照して後述する訓練処理で用いられる力触覚リストの一例が示されている。
図示するように、力触覚リストは、力触覚提示ユニット122A乃至122Hについて個別に、押下回数ごとに提示する力の大きさを指令する指令値が登録されている。また、力触覚リストでは、所定数(1または複数)の力触覚提示ユニット122により提示される力が、他の力触覚提示ユニット122により提示される力と異なるように、指令値が設定される。例えば、所定数の力触覚提示ユニット122により提示される力が、他の力触覚提示ユニット122により提示される力よりも大きくなるように指令値を設定してもよいし、小さくなるように指令値を設定してもよい。また、他の力触覚提示ユニット122により提示される力をデフォルトの状態(アクチュエータ146に供給される電流を0)にしてもよいし、デフォルトよりも小さくまたは大きくなるように指令値を設定してもよい。
図18に示すフローチャートを参照して、演奏技能向上システム111において力触覚を評価する評価処理について説明する。
ステップS131において、装置制御部171は、図15のフローチャートを参照して説明した初期化処理を行い、図17に示したような力触覚リストを保存媒体176から読み込む。そして、装置制御部171は、力触覚リストに従って、それぞれ対応する力触覚提示ユニット122A乃至122Hの制御回路162に対して、押下回数の行ごとに登録されている指令値を設定する。
ステップS132において、制御回路162は、現時点の押下回数に対応付けられている指令値の大きさで力を提示するように駆動回路163に対する制御を行い、駆動回路163は、制御回路162による制御の応じた電流をアクチュエータ146に供給する。これにより、個々の力触覚提示ユニット122A乃至122Hは、鍵盤147を押下するのに必要となる力が、それぞれの指令値に応じた大きさとなるような力触覚を提示することができる。
ステップS133において、装置制御部171は、鍵盤147を押下するように、ユーザに対する押下の指示を行う。例えば、装置制御部171は、表示制御部174に対する制御を行って、鍵盤147A乃至147Hごとに押下を行うユーザの指を指定し、それぞれの指について押下を行う順序、リズム、およびテンポを指示する画像を表示部132に表示させる。例えば、装置制御部171は、複数の指で同時に鍵盤147を押下するように指示することができる。なお、リズムおよびテンポは、図示しないスピーカなどから出力される音によって指示してもよい。
ユーザは、ステップS133での押下の指示に従って、指定の指で鍵盤147を押下した後、どの指で押下した鍵盤147が、他の鍵盤147を押し下げるのに必要であったと感じられた力よりも大きかったか(小さかったか)を示す回答を、入力部131を利用して入力することができる。即ち、力触覚提示ユニット122A乃至122Hのうち、所定数の力触覚提示ユニット122により提示される力は、他の力触覚提示ユニット122により提示される力よりも大きく(または、小さく)なるように制御されている。従って、ユーザは、鍵盤147を押し下げるのに必要であった力が大きい(または、小さい)と感じられた力触覚提示ユニット122の鍵盤147を押下した指を回答すればよい。
ステップS134において、装置制御部171は、入力取得部175を介して、ユーザが入力した回答を取得する。
ステップS135において、装置制御部171は、ステップS131で読み込んだ力触覚リストの行数だけ評価を繰り返したか否かを判定する。例えば、装置制御部171は、力触覚リストに登録されている全ての回数に対応付けられている指令値の大きさで力を提示済みである場合、力触覚リストの行数だけ評価を繰り返したと判定することができる。
ステップS135において、装置制御部171が、力触覚リストの行数だけ評価を繰り返していないと判定した場合、処理はステップS132に戻り、力触覚リストに登録されている次の行の押下回数に登録されている力触覚を対象として、以下、同様の処理が繰り返して行われる。一方、ステップS135において、装置制御部171が、力触覚リストの行数だけ評価を繰り返したと判定した場合、処理はステップS136に進む。
ステップS136において、装置制御部171は、ステップS134で取得した回答が正解であるか否かに基づいて、ユーザの各指についてフィッティング曲線(図3参照)を求める。例えば、ユーザが回答として入力した指が、他より大きい(または、小さい)力を提示するように制御されている所定数の力触覚提示ユニット122の鍵盤147を押下するように指示されている場合には正解となる。そして、装置制御部171は、フィッティング曲線において変曲点となっている負荷重量を閾値として算出して保存媒体176に保存させた後、評価処理は終了される。
以上のように、演奏技能向上システム111では、ユーザの回答が正解か否かに基づいて求められる閾値によって、ユーザの指ごとに、鍵盤147を押し下げるのに必要な力の分別を評価することができる。例えば、複雑に指を動作させるときや、隣の指を同時に動かしたときには、力触覚が低下することが想定されており、そのような力触覚の低下を評価することができる。
図19に示すフローチャートを参照して、演奏技能向上システム111において力触覚を訓練する訓練処理について説明する。
ステップS141乃至S144において、図18のステップS131乃至S134と同様の処理が行われ、ユーザは、ステップS143での押下の指示に従って、指定の指で鍵盤147を押下した後に回答を入力し、その回答がステップS144で取得される。
ステップS145において、装置制御部171は、表示制御部174に対する制御を行って、ユーザの回答に対する正解として、このときに他の力触覚提示ユニット122により提示される力よりも大きく(または、小さく)なるように制御されている力触覚提示ユニット122を、表示部132に表示させる。
ステップS146において、装置制御部171は、ステップS141で読み込んだ力触覚リストの行数だけ訓練を繰り返したか否かを判定する。
ステップS146において、装置制御部171が、力触覚リストの行数だけ訓練を繰り返していないと判定した場合、処理はステップS142に戻り、力触覚リストに登録されている次の行の押下回数に登録されている力触覚を対象として、以下、同様の処理が繰り返して行われる。一方、ステップS146において、装置制御部171が、力触覚リストの行数だけ訓練を繰り返したと判定した場合、訓練処理は終了される。なお、装置制御部171は、ユーザの任意のタイミングで訓練処理を終了してもよい。
以上のように、演奏技能向上システム111では、ユーザの回答に対する正解を表示部132に表示(フィードバック)することによって、ユーザの指ごとに、鍵盤147を押し下げるのに必要な力を分別する訓練を行うことができる。例えば、複雑に指を動作させるときや、隣の指を同時に動かしたときには、力触覚が低下することが想定されており、そのような力触覚の低下を回避するような訓練を行うことができる。
図20は、後述する図21および図23を参照して説明する俊敏性評価処理の計測中に表示される俊敏性計測画面の表示例を示す図である。
例えば、俊敏性計測画面には、計測対象とする指を選択するためのGUIが表示されており、図20に示す例では、ハッチングで表されるように、右手の中指が計測対象として選択されていることが表示されている。また、俊敏性計測画面には、俊敏性評価処理で実施される一連のタスクのうち、現時点で何回目のタスクが行われているかを示す回数が表示され、図20に示す例では、4回目であることが表示されている。
また、俊敏性計測画面には、鍵盤147を押下するのに必要となる荷重を設定するためのスライダや、計測を行う計測時間を設定するボタン、計測時間の開始を指示するボタン、計測結果をリセットするためのボタン、計測結果を保存するためのボタンなどのGUIが表示されている。
図21に示すフローチャートを参照して、演奏技能向上システム111において俊敏性を評価する第1の俊敏性評価処理について説明する。なお、第1の俊敏性評価処理では、1本の指で押下する際の俊敏性、または、複数の指で同時に押下する際(例えば、和音)の俊敏性が評価される。
ステップS151において、演奏技能向上システム111では、計測対象となる指(複数の指で同時に押下する場合には複数の指)が設定される。例えば、装置制御部171は、表示制御部174に対する制御を行って、図20に示したような俊敏性計測画面を表示部132に表示させる。これにより、ユーザは、俊敏性計測画面に対して入力部131を用いて、右手または左手を選択する入力を行い、その選択された手において計測対象とする指を選択する入力を行うことができる。そして、入力取得部175は、ユーザにより選択された指を示す情報を装置制御部171に供給し、装置制御部171は、その情報により示されている指を計測対象として設定する。
ステップS152において、演奏技能向上システム111では、俊敏性を評価するための計測を開始することができる状態となる。
ステップS153において、演奏技能向上システム111では、俊敏性を評価する際に鍵盤147を押下するのに必要となる荷重が設定される。例えば、ユーザは、図20の俊敏性計測画面に対して入力部131を用いて、Set Weightのスライダの位置によって、荷重を設定することができる。そして、入力取得部175は、ユーザにより設定された荷重を示す情報を取得し、装置制御部171を介して制御回路162に供給して、駆動回路163に対する制御が行われる。即ち、装置制御部171は、その情報に基づいて制御回路162に対する制御を行う。これにより、その荷重をユーザが鍵盤147に加えることで鍵盤147が押し下げられるような力を発生するように、駆動回路163からアクチュエータ146に電流が供給される。
ステップS154において、演奏技能向上システム111では、ユーザは、予め設定されている計測時間(図20に示す例では、5秒)内に可能な限り多くの回数となるように、鍵盤147を押下する。このとき、制御回路162は、位置センサ143から供給される位置データに基づいて、鍵盤147が押下された回数を検出して、その検出回数を装置制御部171に供給する。
ステップS155において、装置制御部171は、ステップS151で計測対象として設定された指について、時間あたりのタッピング数を算出する。
ステップS156において、装置制御部171は、俊敏性を評価するための計測を終了するか否かを判定する。例えば、ユーザは、俊敏性を評価する指について所望の荷重での計測が完了すると、計測を終了する指示を、入力部131を利用して入力することができ、この入力に応じて判定が行われる。
ステップS156において、装置制御部171が、俊敏性を評価するための計測を終了しないと判定した場合、処理はステップS153に戻って、ユーザが異なる荷重を設定した後、以下、同様の処理が繰り返して行われる。一方、ステップS156において、装置制御部171が、俊敏性を評価するための計測を終了すると判定した場合、処理はステップS157に進む。
ステップS157において、装置制御部171は、計測が行われた荷重ごとに算出されたタッピング数を俊敏性として、図22に示すように、鍵盤147を押下した指の力と、その指の俊敏性との関係を表す曲線を、計測結果として取得する。そして、装置制御部171は、表示制御部174に対する制御を行って、この曲線を、俊敏性を表すスコアとして表示部132に表示させた後、第1の俊敏性評価処理は終了される。
図23に示すフローチャートを参照して、演奏技能向上システム111において俊敏性を評価する第2の俊敏性評価処理について説明する。なお、第2の俊敏性評価処理では、複数の指で連続的に押下する際の俊敏性が評価される。
ステップS161において、演奏技能向上システム111では、計測対象となる指、および、指を動かす順番が設定される。例えば、指を動かす順番は、ユーザが入力する他、プリセットされている順番をユーザが選択するようにしてもよい。
ステップS162において、演奏技能向上システム111では、俊敏性を評価するための計測を開始することができる状態となる。
ステップS163において、演奏技能向上システム111では、図20の俊敏性計測画面を利用して、俊敏性を評価する際に鍵盤147を押下するのに必要となる荷重が設定される。
ステップS164において、演奏技能向上システム111では、ユーザは、設定した回数だけ、設定した順番で指を動かす。これに応じて、制御回路162は、鍵盤147が降下し始めてから最も深くまで降下するのに要した時間を記録し、その時間を装置制御部171に供給する。
ステップS165において、装置制御部171は、ステップS164で供給された時間から、ユーザが鍵盤147を押し下げるのにかかった時間の平均値を算出する。
ステップS166において、装置制御部171は、俊敏性を評価するための計測を終了するか否かを判定する。例えば、ユーザは、俊敏性を評価する所望の荷重での計測が完了すると、計測を終了する指示を、入力部131を利用して入力することができ、この入力に応じて判定が行われる。
ステップS166において、装置制御部171が、俊敏性を評価するための計測を終了しないと判定した場合、処理はステップS163に戻って、ユーザが異なる荷重を設定した後、以下、同様の処理が繰り返して行われる。一方、ステップS166において、装置制御部171が、俊敏性を評価するための計測を終了すると判定した場合、処理はステップS167に進む。
ステップS167において、装置制御部171は、表示制御部174に対する制御を行って、ステップS165で算出した時間の平均値を、俊敏性を表すスコアとして表示部132に表示させた後、第2の俊敏性評価処理は終了される。
以上のように、演奏技能向上システム111では、鍵盤147を押下するのに必要となる荷重を変えながら俊敏性を評価することで、ユーザの適応能力の高さも評価することができる。例えば、図22に示した曲線において、指の力によらずに俊敏性を発揮することができれば、ユーザの適応能力が高いと評価される。
図24は、後述する図26を参照して説明する独立性評価処理の計測中に表示される独立性計測画面の表示例を示す図である。
例えば、独立性計測画面には、計測対象とする指を選択するためのGUIが表示されており、図24に示す例では、ハッチングで表されるように、右手の人差し指が計測対象として選択されていることが表示されている。なお、計測対象とする指を選択するためのGUIとして、図25に示すような手指の形状を表すアイコンを使用してもよく、選択されている指の色が変更される(図25に示す例ではハッチングが付されている)。
また、独立性計測画面には、5本の指が置かれている鍵盤147が押し込まれた深さを示すバーが表示されており、それぞれのバーの上方に、終端位置表示部が表示されている。そして、鍵盤147の終端位置まで鍵盤147が押し込まれると、図24の下側の独立性計測画面においてハッチングで表すように、鍵盤147の終端位置表示部の表示が変化(例えば、色が変化)する。
図26に示すフローチャートを参照して、演奏技能向上システム111において指の独立性を評価する独立性評価処理について説明する。
ステップS171において、演奏技能向上システム111では、図24の独立性計測画面を利用して、計測対象となる指が設定される。
ステップS172において、演奏技能向上システム111では、図24の独立性計測画面を利用して、指の独立性を評価する際に鍵盤147を押下するのに必要となる荷重が設定される。このとき、計測対象の指により押下される鍵盤147の荷重は様々な大きさに設定され、その他の鍵盤147の荷重は、限りなく小さく(軽く)なるように設定される。例えば、ある指に力を入れる必要があるほど、他の指がつられやすくなることが想定され、鍵盤147の荷重ごとのスコアを計算することで、より正確に独立性を評価することができる。
ステップS173において、演奏技能向上システム111では、指の独立性を評価するための計測を開始することができる状態となる。
ステップS174において、演奏技能向上システム111では、指定回数だけ鍵盤147を押下するように押下指示が行われ、ユーザは、その指定回数に応じて、ステップS171で設定した指で鍵盤147を押下する。このとき、ユーザは、すべての指を鍵盤147に置いた状態で、計測する指で鍵盤147を終端位置まで指定回数だけ押下する。
そして、制御回路162は、位置センサ143から供給される位置データ(例えば、5本の指が鍵盤147に置かれている状態では5つの位置データ)を取得して、装置制御部171に供給する。その後、制御回路162によって指定回数の押下が検出されると、計測が終了して、処理はステップS175に進む。
ステップS175において、装置制御部171は、一連のタスクの中で、他の指がどれだけつられて動いてしまったかを計算する。
ステップS176において、装置制御部171は、表示制御部174に対する制御を行って、ステップS175の計算で算出された結果を、独立性を表すスコアとして表示部132に表示させる。
ステップS177において、装置制御部171は、図24の独立性計測画面に表示されている保存ボタンに対する操作に応じて、ステップS176で表示部132に表示した独立性を表すスコアを、保存媒体176に保存させた後、独立性評価処理は終了される。
図27には、独立性評価処理において求められた独立性を表すスコアを、カラーマトリックスで表示する表示例が示されている。例えば、縦方向を計測対象の指とし、横方向を他の指としたマトリックスにおいて、計測対象の指につられて動きやすい指ほど、より濃い色(細かいハッチング)が表示される。
図28には、独立性評価処理において求められた独立性を表すスコアを、指ごとのレーダーチャートで表示する表示例が示されている。例えば、それぞれ中央に計測対象の指が表され、上下および左右の四方向に他の指が表され、計測対象の指につられて動きやすい指ほど、より外側に向かうようなレーダーチャートが表示される。また、このレーダーチャートは、鍵盤147を押下するのに必要となる荷重ごとに表示される。
また、図29に示すように、独立性を表すスコアを表す指ごとのレーダーチャートに対して、例えば、集団の平均データや自分の過去のデータなどを表す破線のレーダーチャートを重ね合わせて表示することで、それらを容易に比較することができる。
図30には、独立性評価処理において求められた独立性を表すスコアを、棒グラフで表示する表示例が示されている。例えば、独立性を評価した指とごとに平均を求めた数値を、鍵盤147の形状を模して表現される棒グラフで表示することができる。さらに、それらの数値から求められるトータルスコアを表示することができる。
図31には、後述する図32および図34を参照して説明する時間正確性評価処理の計測中に表示される時間正確性計測画面の表示例を示す図である。
例えば、時間正確性計測画面には、計測対象とする指を選択するためのGUIが表示されており、図31に示す例では、ハッチングで表されるように、右手の中指が計測対象として選択されていることが表示されている。また、時間正確性計測画面には、目標値に対してのテンポの揺らぎを示すグラフが表示されている。なお、テンポの揺らぎを数値で表現してもよい。
また、時間正確性計測画面には、鍵盤147を押下するのに必要となる荷重を設定するためのスライダや、計測を行う計測時間を設定するボタン、計測時間の開始を指示するボタン、計測結果をリセットするためのボタン、計測結果を保存するためのボタンなどのGUIが表示されている。
図32に示すフローチャートを参照して、演奏技能向上システム111において時間正確性を評価する第1の時間正確性評価処理について説明する。なお、第1の時間正確性評価処理では、1本の指で押下する際の俊敏性、または、複数の指で同時に押下する際(例えば、和音)の俊敏性が評価される。
ステップS181において、演奏技能向上システム111では、計測対象となる指(複数の指で同時に押下する場合には複数の指)が設定される。例えば、装置制御部171は、表示制御部174に対する制御を行って、図31に示したような時間正確性計測画面を表示部132に表示させる。これにより、ユーザは、時間正確性計測画面に対して入力部131を用いて、右手または左手を選択する入力を行い、その選択された手において計測対象とする指を選択する入力を行うことができる。そして、入力取得部175は、ユーザにより選択された指を示す情報を装置制御部171に供給し、装置制御部171は、その情報により示されている指を計測対象として設定する。
ステップS182において、演奏技能向上システム111では、時間正確性を評価するための計測を開始することができる状態となる。
ステップS183において、演奏技能向上システム111では、時間正確性を評価する際に鍵盤147を押下するのに必要となる荷重が設定される。例えば、ユーザは、図31の時間正確性計測画面に対して入力部131を用いて、Set Weightのスライダの位置によって、荷重を設定することができる。そして、入力取得部175は、ユーザにより設定された荷重を示す情報を取得し、装置制御部171を介して制御回路162に供給して、駆動回路163に対する制御が行われる。即ち、装置制御部171は、その情報に基づいて制御回路162に対する制御を行う。これにより、その荷重をユーザが鍵盤147に加えることで鍵盤147が押し下げられるような力を発生するように、駆動回路163からアクチュエータ146に電流が供給される。
ステップS184において、演奏技能向上システム111では、ユーザは、予め設定されている計測時間(図31に示す例では、5秒)内に可能な限り多くの回数となるように、鍵盤147を押下する。このとき、制御回路162は、位置センサ143から供給される位置データに基づいて、鍵盤147が押下された回数を検出して、その検出回数を装置制御部171に供給する。
ステップS185において、装置制御部171は、ステップS151で計測対象として設定された指について、時間あたりのタッピング数を算出する。
ステップS186において、装置制御部171は、時間正確性を評価するための計測を終了するか否かを判定する。例えば、ユーザは、時間正確性を評価する指について所望の荷重での計測が完了すると、計測を終了する指示を、入力部131を利用して入力することができ、この入力に応じて判定が行われる。
ステップS186において、装置制御部171が、時間正確性を評価するための計測を終了しないと判定した場合、処理はステップS183に戻って、ユーザが異なる荷重を設定した後、以下、同様の処理が繰り返して行われる。一方、ステップS186において、装置制御部171が、時間正確性を評価するための計測を終了すると判定した場合、処理はステップS187に進む。
ステップS187において、装置制御部171は、計測が行われた荷重ごとに算出されたタッピング数を時間正確性として、図33に示すように、鍵盤147を押下した指の力と、その指の時間正確性との関係を表す曲線を、計測結果として取得する。そして、装置制御部171は、表示制御部174に対する制御を行って、この曲線を、時間正確性を表すスコアとして表示部132に表示させた後、第1の時間正確性評価処理は終了される。
図34に示すフローチャートを参照して、演奏技能向上システム111において時間正確性を評価する第2の時間正確性評価処理について説明する。なお、第2の時間正確性評価処理では、複数の指で連続的に押下する際の俊敏性が評価される。
ステップS191において、演奏技能向上システム111では、計測対象となる指、および、指を動かす順番が設定される。例えば、指を動かす順番は、ユーザが入力する他、プリセットされている順番をユーザが選択するようにしてもよい。
ステップS192において、演奏技能向上システム111では、時間正確性を評価するための計測を開始することができる状態となる。
ステップS193において、演奏技能向上システム111では、図31の時間正確性計測画面を利用して、時間正確性を評価する際に鍵盤147を押下するのに必要となる荷重が設定される。
ステップS194において、演奏技能向上システム111では、ユーザは、設定した回数だけ、設定した順番で指を動かす。これに応じて、制御回路162は、鍵盤147が降下し始めてから最も深くまで降下するのに要した時間を記録し、その時間を装置制御部171に供給する。
ステップS195において、装置制御部171は、ステップS194で供給された時間から、ユーザが鍵盤147を押し下げるのにかかった時間の平均値を算出する。
ステップS196において、装置制御部171は、時間正確性を評価するための計測を終了するか否かを判定する。例えば、ユーザは、時間正確性を評価する所望の荷重での計測が完了すると、計測を終了する指示を、入力部131を利用して入力することができ、この入力に応じて判定が行われる。
ステップS196において、装置制御部171が、時間正確性を評価するための計測を終了しないと判定した場合、処理はステップS193に戻って、ユーザが異なる荷重を設定した後、以下、同様の処理が繰り返して行われる。一方、ステップS196において、装置制御部171が、時間正確性を評価するための計測を終了すると判定した場合、処理はステップS197に進む。
ステップS197において、装置制御部171は、表示制御部174に対する制御を行って、ステップS195で算出した時間の平均値を、時間正確性を表すスコアとして表示部132に表示させた後、第2の時間正確性評価処理は終了される。
以上のように、演奏技能向上システム111では、鍵盤147を押下するのに必要となる荷重を変えながら時間正確性を評価することで、ユーザの適応能力の高さも評価することができる。例えば、図33に示した曲線において、指の力によらずに時間正確性を発揮することができれば、ユーザの適応能力が高いと評価される。
図35を参照して、ネットワークを介して力触覚提示装置112を利用する利用例について説明する。
例えば、力触覚提示装置112が通信機能を備えている場合、ネットワーク191を介して、データベース192および外部端末193に接続することができる。また、ネットワーク191には、解析サーバ194も接続されている。
力触覚提示装置112は、ネットワーク191を介した通信を行って、例えば、力触覚提示装置112による計測で得られた計測データ(例えば、俊敏性であれば計測時間内に押下された回数)を、データベース192および外部端末193に送信する。そして、力触覚提示装置112から送信された計測データは、スマートフォンやタブレットなどの外部端末193によって確認することができる。
例えば、図36に示すように、外部端末193の表示部195には、各種の表示形式で計測データを表示することができる。図36のAには、指どうしの間の計測データを棒グラフで比較するように表示する表示例が示されている。図36のBには、計測データのログを時系列グラフで表示する表示例が示されている。図36のCには、計測データの数値を表形式で表示する表示例が示されている。
また、力触覚提示装置112は、有線通信または無線通信を行うことができる他、赤外線通信や近距離無線通信などによって直接的に外部端末193に計測データを送信することができる。さらに、力触覚提示装置112が、計測データを表す二次元コードを表示する表示機能を備えている場合、外部端末193によって二次元コードを読み取らせるような構成としてもよい。このように、力触覚提示装置112から直接的に計測データを送信することで、例えば、パーソナルコンピュータを介在させることなくシームレスな評価および訓練が可能となる。
さらに、データベース192に記録されている計測データの履歴に対して、解析サーバ194においてデータ解析を行うことによって、演奏技能を向上させるための適切な訓練を推薦することができる。そして、外部端末193を利用して、ユーザは、次の訓練を予約することも可能となる。
なお、力触覚提示装置112が保存媒体などを備えるとともに表示部を備えている構成とすることで、力触覚提示装置112に計測データを保存して、そのログを表示させて確認することができる。
このように、ネットワーク191を介して力触覚提示装置112を利用することで、ログを評価項目ごとに保存しておき、各指について時間軸で、成長や改善などを確認することができる。また、一般的な数値と一緒にユーザに提示することで、それぞれの評価項目について、得手不得手をユーザに伝えることができる。さらに、多数のユーザのデータについて、解析サーバ194で統計を取り計算し、いくつかの評価項目の中で、より改善した方が良い項目について、練習の推薦を行うことができる。このような提示の際に、指どうしでの比較が行われるようにしてもよい。
図37乃至図40には、力触覚提示装置112の内部構造が示されている。
図37は、力触覚提示装置112の内部構造の斜視図であり、図38は、力触覚提示装置112の内部構造の右側面図である。また、図39は、力触覚提示装置112の内部構造の底面図であり、図40は、力触覚提示装置112の内部構造の背面図である。
図37乃至図40に示すように、鍵盤147A乃至147Hは、一般的なピアノと同様に隣り合うように並べられ配置されており、力触覚を提供するためのアクチュエータ146A乃至146Hが、背面側に設けられている。
また、アクチュエータ146Aおよびアクチュエータ146Hは、図8に示した第1の配置位置に配置されており、アクチュエータ146C、アクチュエータ146D、およびアクチュエータ146Gは、図10のAに示した第2の配置位置に配置されている。また、アクチュエータ146B、アクチュエータ146E、およびアクチュエータ146Fは、図10のBに示した第3の配置位置に配置されている。
このような内部構造とすることで、力触覚提示装置112は、隣り合うアクチュエータ146どうしが重なってしまうことを回避しつつ、一般的なピアノと同様の間隔で、鍵盤147A乃至147Hを配置することができる。また、力触覚提示装置112は、このような狭い空間にアクチュエータ146A乃至146Hを配置することで、より小型化を図ることができる。
なお、図37乃至図40には、1オクターブ分の8個の鍵盤147A乃至147Hを備えた力触覚提示装置112の構成例が示されているが、力触覚提示装置112が備える鍵盤147の個数は8個に限定されることはない。即ち、力触覚提示装置112は、8個以下の個数の鍵盤147を備える構成としてもよく、例えば、片手分の5個の鍵盤147を備える構成とすることができる。また、力触覚提示装置112は、8個以上の個数の鍵盤147を備える構成としてもよく、例えば、2オクターブ分の16個の鍵盤147を備える構成とすることができる。
<コンピュータの構成例>
次に、上述した一連の処理(情報処理方法)は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
図41は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示すブロック図である。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク205やROM203に予め記録しておくことができる。
あるいはまた、プログラムは、ドライブ209によって駆動されるリムーバブル記録媒体211に格納(記録)しておくことができる。このようなリムーバブル記録媒体211は、いわゆるパッケージソフトウェアとして提供することができる。ここで、リムーバブル記録媒体211としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブル記録媒体211からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク205にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)202を内蔵しており、CPU202には、バス201を介して、入出力インタフェース210が接続されている。
CPU202は、入出力インタフェース210を介して、ユーザによって、入力部207が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)203に格納されているプログラムを実行する。あるいは、CPU202は、ハードディスク205に格納されたプログラムを、RAM(Random Access Memory)204にロードして実行する。
これにより、CPU202は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU202は、その処理結果を、必要に応じて、例えば、入出力インタフェース210を介して、出力部206から出力、あるいは、通信部208から送信、さらには、ハードディスク205に記録等させる。
なお、入力部207は、キーボードや、マウス、マイク等で構成される。また、出力部206は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
<構成の組み合わせ例>
なお、本技術は以下のような構成も取ることができる。
(1)
ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御する負荷重量制御部と、
前記押下対象物体の動きを認識する認識部と
を備え、
前記負荷重量制御部は、前記認識部により前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記認識部により前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
情報処理装置。
(2)
前記負荷重量制御部は、前記負荷重量を前記押下対象物体に対して発生させる力覚提示装置の自重が前記押下対象物体に加えられる構成である場合、前記力覚提示装置の自重を打ち消す前記負荷重量の発生を制御し、前記負荷重量の発生を終了させた後でも、前記力覚提示装置の自重を打ち消す前記負荷重量の発生させる制御を継続する
上記(1)に記載の情報処理装置。
(3)
前記負荷重量制御部は、前記認識部により前記押下対象物体に対する1回目の押下が行われたことが認識されたときには前記負荷重量の発生を停止し、前記認識部により前記押下対象物体に対する2回目の押下が行われたことが認識されたときには前記負荷重量を発生させる制御を行う
上記(1)または(2)に記載の情報処理装置。
(4)
前記ユーザが前記押下対象物体を押下した後に、前記ユーザにより前記負荷重量の発生の有無を示す回答を取得する回答取得部
をさらに備える上記(1)から(3)までのいずれかに記載の情報処理装置。
(5)
前記負荷重量制御部が、複数の前記負荷重量をランダムに選択して発生させる制御を行う処理と、
前記回答取得部が、前記負荷重量に対する前記回答を取得する処理と
が繰り返して行われ、
前記回答取得部が取得した複数の前記負荷重量ごとに対する前記負荷重量の発生が有ったことを示す回答の割合に従って、前記ユーザが弁別可能な前記負荷重量の指標となる閾値を算出する閾値算出部
をさらに備える上記(3)に記載の情報処理装置。
(6)
前記負荷重量制御部は、前記負荷重量を、0.1[N]から1.4[N]までの範囲内からランダムに選択する
上記(5)に記載の情報処理装置。
(7)
前記負荷重量制御部が発生させた前記負荷重量に従って、前記回答取得部が取得した回答が正解であるか否かを判定し、その回答に対する正誤結果を前記ユーザにフィードバックする判定部
をさらに備える上記(4)または(5)に記載の情報処理装置。
(8)
前記負荷重量制御部が、設定に従った前記負荷重量の発生と、前記負荷重量の発生の停止とのどちらか一方をランダムに選択して発生させる制御を行う処理と、
前記回答取得部が、前記負荷重量に対する前記回答を取得する処理と
前記判定部が、前記回答取得部が取得した回答に対する正誤結果を前記ユーザにフィードバックする処理と
が規定回数分だけ繰り返して行われ、
前記負荷重量制御部は、前記規定回数のうち前記判定部により正解と判定された割合が所定割合以上である場合に、前記負荷重量の設定を、現時点での前記負荷重量未満に変更する
上記(7)に記載の情報処理装置。
(9)
前記押下対象物体は、ピアノの鍵盤であり、
前記認識部は、前記鍵盤が押下され始めた打鍵、および、前記鍵盤の押下が終わって戻り始めた離鍵を認識する
上記(1)から(8)までのいずれかに記載の情報処理装置。
(10)
前記押下対象物体は、ピアノの鍵盤であり、
前記回答取得部は、前記負荷重量が発生させられる音階の前記鍵盤以外の、任意の音階の前記鍵盤である
上記(4)から(9)までのいずれかに記載の情報処理装置。
(11)
前記負荷重量を発生させるトルクを出力するアクチュエータと、
前記アクチュエータの回転軸および前記押下対象物体を支持する支持軸を固定端とし、前記アクチュエータから出力されるトルクをスライドすることで前記押下対象物体に伝達するスライド部材の両端を自由端とした4節リンク機構と
をさらに備える上記(1)に記載の情報処理装置。
(12)
前記アクチュエータおよび前記4節リンク機構を有し、前記押下対象物体を押下するユーザに力触覚を提示する力触覚提示部をさらに備え、
隣り合って並べられて配置された複数の前記力触覚提示部それぞれが独立して力触覚を提示する
上記(11)に記載の情報処理装置。
(13)
前記アクチュエータに供給される電流を、前記押下対象物体が押下された回数、または、所定の規定時間に従って停止する
上記(11)または(12)に記載の情報処理装置。
(14)
前記押下対象物体に加えられている力を検出する力センサをさらに備え、
前記アクチュエータに供給されている電流と、前記力センサにより検出された力との関係性を求めて前記力触覚提示部の初期化処理を行う
上記(12)に記載の情報処理装置。
(15)
複数の前記力触覚提示部のうち、所定の前記力触覚提示部により提示される力触覚を、他の前記力触覚提示部により提示される力触覚と異なるものに設定し、
前記押下対象物体を押下したユーザが、力触覚が異なると感じた前記力触覚提示部を回答すると、その回答を取得する
処理を、前記力触覚の設定を変えながら繰り返して行って、ユーザの力触覚の評価または訓練を行う
上記(12)または(14)に記載の情報処理装置。
(16)
前記力触覚提示部に所定の力触覚を設定し、
ユーザによる前記押下対象物体の押下を検出する
処理を、前記力触覚の設定を変えながら繰り返して行って、ユーザの手指の運動機能の評価または訓練を行う
上記(12)、(14)、または(15)に記載の情報処理装置。
(17)
前記力触覚提示部は、前記アクチュエータに電流が供給されていない状態で前記押下対象物体を押下するのに必要となるデフォルトの力が設定可能に構成される
請求項(12)、(14)から(16)に記載の情報処理装置。
(18)
前記力触覚提示部は、前記押下対象物体の先端近傍がユーザにより押下され、
所定の軸に一端が連結されるとともに、前記押下対象物体の後端部分を押し下げる力を発生するための重量が他端に設けられたハンマー機構と、
前記押下対象物体の後端部分を押し下げる力を発生するバネと
を有し、
前記ハンマー機構の重量および慣性モーメント、並びに、前記バネのバネ定数を調整することで、前記デフォルトの力が設定される
上記(17)に記載の情報処理装置。
(19)
情報処理装置が、
ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御することと、
前記押下対象物体の動きを認識することと
を含み、
前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
情報処理方法。
(20)
情報処理装置のコンピュータに、
ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御することと、
前記押下対象物体の動きを認識することと
を含み、
前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
処理を実行させるためのプログラム。
なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
11 演奏技能向上システム, 12 力覚提示装置, 13 情報処理装置, 14 出力装置, 21 検出部, 22 駆動部, 31 打鍵認識部, 32 負荷重量制御部, 33 回答取得部, 34 判定部, 35 閾値算出部, 36 結果出力部, 41 鍵盤, 42 支点, 43 キャプスタンボタン

Claims (20)

  1. ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御する負荷重量制御部と、
    前記押下対象物体の動きを認識する認識部と
    を備え、
    前記負荷重量制御部は、前記認識部により前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記認識部により前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
    情報処理装置。
  2. 前記負荷重量を前記押下対象物体に対して発生させる力覚提示装置が、前記力覚提示装置の自重が前記押下対象物体に加えられる構成である場合、
    前記負荷重量制御部は、前記押下対象物体が押下される際の力覚を前記ユーザに弁別させる力覚弁別処理の開始時から終了時まで、前記力覚提示装置の自重を打ち消すように前記負荷重量の発生を制御する
    請求項1に記載の情報処理装置。
  3. 前記負荷重量制御部は、前記認識部により前記押下対象物体に対する1回目の押下が行われたことが認識されたときには前記負荷重量発生させず、前記認識部により前記押下対象物体に対する2回目の押下が行われたことが認識されたときには前記負荷重量を発生させる制御を行う
    請求項1に記載の情報処理装置。
  4. 前記ユーザが前記押下対象物体を押下した後に、前記ユーザにより前記負荷重量の発生の有無を示す回答を取得する回答取得部
    をさらに備える請求項1に記載の情報処理装置。
  5. 前記負荷重量制御部が、複数の前記負荷重量をランダムに選択して発生させる制御を行う処理と、
    前記回答取得部が、前記負荷重量に対する前記回答を取得する処理と
    が繰り返して行われ、
    前記回答取得部が取得した複数の前記負荷重量ごとに対する前記負荷重量の発生が有ったことを示す回答の割合に従って、前記ユーザが弁別可能な前記負荷重量の指標となる閾値を算出する閾値算出部
    をさらに備える請求項4に記載の情報処理装置。
  6. 前記負荷重量制御部は、前記負荷重量を、0.1[N]から1.4[N]までの範囲内からランダムに選択する
    請求項5に記載の情報処理装置。
  7. 前記負荷重量制御部が発生させた前記負荷重量に従って、前記回答取得部が取得した回答が正解であるか否かを判定し、その回答に対する正誤結果を前記ユーザにフィードバックする判定部
    をさらに備える請求項4に記載の情報処理装置。
  8. 前記負荷重量制御部が、設定に従った前記負荷重量の発生と、前記負荷重量の発生の停止とのどちらか一方をランダムに選択して発生させる制御を行う処理と、
    前記回答取得部が、前記負荷重量に対する前記回答を取得する処理と
    前記判定部が、前記回答取得部が取得した回答に対する正誤結果を前記ユーザにフィードバックする処理と
    が規定回数分だけ繰り返して行われ、
    前記負荷重量制御部は、前記規定回数のうち前記判定部により正解と判定された割合が所定割合以上である場合に、前記負荷重量の設定を、現時点での前記負荷重量未満に変更する
    請求項7に記載の情報処理装置。
  9. 前記押下対象物体は、ピアノの鍵盤であり、
    前記認識部は、前記鍵盤が押下され始めた打鍵、および、前記鍵盤の押下が終わって戻り始めた離鍵を認識する
    請求項1に記載の情報処理装置。
  10. 前記押下対象物体は、ピアノの鍵盤であり、
    前記回答取得部は、前記負荷重量が発生させられる音階の前記鍵盤以外の、任意の音階の前記鍵盤である
    請求項4に記載の情報処理装置。
  11. 前記負荷重量を発生させるトルクを出力するアクチュエータと、
    前記アクチュエータの回転軸および前記押下対象物体を支持する支持軸を固定端とし、前記アクチュエータから出力されるトルクをスライドすることで前記押下対象物体に伝達するスライド部材の両端を自由端とした4節リンク機構と
    をさらに備える請求項1に記載の情報処理装置。
  12. 前記アクチュエータおよび前記4節リンク機構を有し、前記押下対象物体を押下するユーザに力触覚を提示する力触覚提示部をさらに備え、
    隣り合って並べられて配置された複数の前記力触覚提示部それぞれが独立して力触覚を提示する
    請求項11に記載の情報処理装置。
  13. 前記アクチュエータに供給される電流を、前記押下対象物体が押下された回数、または、所定の規定時間に従って停止する
    請求項11に記載の情報処理装置。
  14. 前記押下対象物体に加えられている力を検出する力センサをさらに備え、
    前記アクチュエータに供給されている電流と、前記力センサにより検出された力との関係性を求めて前記力触覚提示部の初期化処理を行う
    請求項12に記載の情報処理装置。
  15. 複数の前記力触覚提示部のうち、所定の前記力触覚提示部により提示される力触覚を、他の前記力触覚提示部により提示される力触覚と異なるものに設定し、
    前記押下対象物体を押下したユーザが、力触覚が異なると感じた前記力触覚提示部を回答すると、その回答を取得する
    処理を、前記力触覚の設定を変えながら繰り返して行って、ユーザの力触覚の評価または訓練を行う
    請求項12に記載の情報処理装置。
  16. 前記力触覚提示部に所定の力触覚を設定し、
    ユーザによる前記押下対象物体の押下を検出する
    処理を、前記力触覚の設定を変えながら繰り返して行って、ユーザの手指の運動機能の評価または訓練を行う
    請求項12に記載の情報処理装置。
  17. 前記力触覚提示部は、前記アクチュエータに電流が供給されていない状態で前記押下対象物体を押下するのに必要となるデフォルトの力が設定可能に構成される
    請求項12に記載の情報処理装置。
  18. 前記力触覚提示部は、前記押下対象物体の先端近傍がユーザにより押下され、
    所定の軸に一端が連結されるとともに、前記押下対象物体の後端部分を押し下げる力を発生するための重量が他端に設けられたハンマー機構と、
    前記押下対象物体の後端部分を押し下げる力を発生するバネと
    を有し、
    前記ハンマー機構の重量および慣性モーメント、並びに、前記バネのバネ定数を調整することで、前記デフォルトの力が設定される
    請求項17に記載の情報処理装置。
  19. 情報処理装置が、
    ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を
    制御することと、
    前記押下対象物体の動きを認識することと
    を含み、
    前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
    情報処理方法。
  20. 情報処理装置のコンピュータに、
    ユーザにより押下対象物体が押下される際の動きに対して負荷となる負荷重量の発生を制御することと、
    前記押下対象物体の動きを認識することと
    を含み、
    前記押下対象物体が押下され始めたことが認識されたタイミングで所定の前記負荷重量の発生を開始し、前記押下対象物体の押下が終わって戻り始めたことが認識されたタイミングで前記負荷重量の発生を終了する制御を行う
    処理を実行させるためのプログラム。
JP2021515976A 2019-04-23 2020-04-09 情報処理装置および情報処理方法、並びにプログラム Active JP7414065B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2019081725 2019-04-23
JP2019081725 2019-04-23
JP2020020584 2020-02-10
JP2020020584 2020-02-10
PCT/JP2020/016004 WO2020218017A1 (ja) 2019-04-23 2020-04-09 情報処理装置および情報処理方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JPWO2020218017A1 JPWO2020218017A1 (ja) 2020-10-29
JP7414065B2 true JP7414065B2 (ja) 2024-01-16

Family

ID=72942658

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021515976A Active JP7414065B2 (ja) 2019-04-23 2020-04-09 情報処理装置および情報処理方法、並びにプログラム

Country Status (5)

Country Link
US (1) US11741925B2 (ja)
EP (1) EP3961605B1 (ja)
JP (1) JP7414065B2 (ja)
CN (1) CN113711289B (ja)
WO (1) WO2020218017A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7414065B2 (ja) * 2019-04-23 2024-01-16 ソニーグループ株式会社 情報処理装置および情報処理方法、並びにプログラム

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011095486A (ja) 2009-10-29 2011-05-12 Yamaha Corp 電子鍵盤楽器

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3191327B2 (ja) * 1991-07-02 2001-07-23 ヤマハ株式会社 操作装置
JP3043281B2 (ja) * 1996-02-26 2000-05-22 亨 阿部 鍵盤楽器の押鍵表示装置およびその使用方法
JP3772491B2 (ja) 1996-10-18 2006-05-10 ヤマハ株式会社 鍵盤用力覚制御装置、鍵盤用力覚制御方法および記憶媒体
US6365820B1 (en) * 1999-09-24 2002-04-02 Yamaha Corporation Keyboard assembly for electronic musical instruments capable of receiving key touch inputs and generating musical tones that reflect a player's power of expression
WO2001039169A1 (de) * 1999-11-25 2001-05-31 Ulrich Hermann Einrichtung zur simulation eines druckpunktes in tastaturen für klavierartige tasteninstrumente
JP2002006848A (ja) * 2000-06-20 2002-01-11 Casio Comput Co Ltd 鍵盤装置
JP5082603B2 (ja) * 2007-06-07 2012-11-28 ヤマハ株式会社 電子楽器の鍵盤装置
JP2009047861A (ja) 2007-08-17 2009-03-05 Sony Corp 演奏支援装置、演奏支援方法及びプログラム
JP5320781B2 (ja) * 2008-03-21 2013-10-23 ヤマハ株式会社 電子楽器用力覚制御装置
JP5223490B2 (ja) * 2008-06-24 2013-06-26 ヤマハ株式会社 電子鍵盤楽器のペダルの力覚制御装置
EP2273487B1 (en) * 2009-06-25 2013-06-05 Yamaha Corporation Keyboard apparatus
JP2013160933A (ja) * 2012-02-06 2013-08-19 Yamaha Corp 鍵盤装置
JP5974553B2 (ja) * 2012-03-12 2016-08-23 ヤマハ株式会社 鍵盤装置
CN202601009U (zh) * 2012-05-18 2012-12-12 张卯卯 钢琴键盘手型练习器
JP2013250401A (ja) * 2012-05-31 2013-12-12 Kawai Musical Instr Mfg Co Ltd 電子ピアノの押鍵スイッチ
JP5987762B2 (ja) * 2013-04-11 2016-09-07 ヤマハ株式会社 鍵盤楽器のハーフペダル領域特定方法及び装置並びにプログラム
CN204910639U (zh) * 2015-07-01 2015-12-30 梁志辉 手指训练器
CN207233248U (zh) * 2017-07-11 2018-04-13 四川理工学院 便携式钢琴手指训练器
CN208460238U (zh) * 2018-01-24 2019-02-01 姚溪浏 一种钢琴指法练习按键及钢琴指法练习器
JP7414065B2 (ja) * 2019-04-23 2024-01-16 ソニーグループ株式会社 情報処理装置および情報処理方法、並びにプログラム
JP7436344B2 (ja) * 2020-10-27 2024-02-21 ローランド株式会社 鍵盤装置および荷重の付与方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011095486A (ja) 2009-10-29 2011-05-12 Yamaha Corp 電子鍵盤楽器

Also Published As

Publication number Publication date
CN113711289A (zh) 2021-11-26
EP3961605A4 (en) 2022-05-18
US20220189443A1 (en) 2022-06-16
CN113711289B (zh) 2024-03-26
JPWO2020218017A1 (ja) 2020-10-29
US11741925B2 (en) 2023-08-29
EP3961605A1 (en) 2022-03-02
WO2020218017A1 (ja) 2020-10-29
EP3961605B1 (en) 2024-10-02

Similar Documents

Publication Publication Date Title
US9198622B2 (en) Virtual avatar using biometric feedback
JP5713922B2 (ja) センサ領域割当てと関連した出力信号を供給するための入力装置及び方法
JP6148116B2 (ja) 認知機能低下予防装置、及び、認知機能低下予防装置の制御方法
JP2003523223A (ja) リハビリテーション装置と方法
JP2007520309A (ja) 音楽によるリハビリテーション
AU2023201742B2 (en) A sensor-enabled platform configured to measure athletic activity
CN110099727B (zh) 输出控制装置、输出控制方法以及程序
US20230182008A1 (en) Interaction modification system and method
KR20200133847A (ko) 개인 운동관리 시스템 및 이의 제어방법
US20210307652A1 (en) Systems and devices for measuring, capturing, and modifying partial and full body kinematics
JP7414065B2 (ja) 情報処理装置および情報処理方法、並びにプログラム
CN117806474B (zh) 一种具有自适应刷新率的电竞鼠标及其响应控制方法
KR102138639B1 (ko) 치매환자용 복합 인지재활 콘텐츠 제공 시스템 및 방법
CN108711337A (zh) 键盘乐器辅助练习方法、装置
US20250186838A1 (en) Configuration of hardware to enable multi-modal functional exercise programs at distributed locations
US12343136B2 (en) Portable systems and methods for ankle rehabilitation
Loriette et al. Using models of baseline gameplay to design for physical rehabilitation
JP6121946B2 (ja) 表現再生システム,そのボード装置,表現再生方法
Rodríguez-de-Pablo et al. Serious games for assessment and training in post-stroke robotic upper-limb telerehabilitation
WO2021049625A1 (ja) 主体感に関するゲーム装置及びプログラム
JP2017012339A (ja) 認知機能観察システム及び認知機能観察方法
WO2025169380A1 (ja) 操作コマンド制御装置、操作コマンド制御方法、及び操作コマンド制御プログラム
Góczán¹ et al. User-Center Game Development for Older
EP4015053A1 (en) A system to interface a physical training device and commercial videogames
KR20070039673A (ko) 전자 악기 및 이를 이용한 건강 상태 관리 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231211

R151 Written notification of patent or utility model registration

Ref document number: 7414065

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151