Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6428382B2 - Input system, input device, and program - Google Patents
[go: Go Back, main page]

JP6428382B2 - Input system, input device, and program - Google Patents

Input system, input device, and program Download PDF

Info

Publication number
JP6428382B2
JP6428382B2 JP2015040520A JP2015040520A JP6428382B2 JP 6428382 B2 JP6428382 B2 JP 6428382B2 JP 2015040520 A JP2015040520 A JP 2015040520A JP 2015040520 A JP2015040520 A JP 2015040520A JP 6428382 B2 JP6428382 B2 JP 6428382B2
Authority
JP
Japan
Prior art keywords
threshold value
unit
gesture
threshold
fingertip
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015040520A
Other languages
Japanese (ja)
Other versions
JP2016162209A (en
Inventor
光雄 林
光雄 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2015040520A priority Critical patent/JP6428382B2/en
Publication of JP2016162209A publication Critical patent/JP2016162209A/en
Application granted granted Critical
Publication of JP6428382B2 publication Critical patent/JP6428382B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Description

本発明は、入力システム、入力装置およびプログラムに関する。   The present invention relates to an input system, an input device, and a program.

従来、表示パネル等の表示手段に表示される画像に対して、ジェスチャ(動作)等により非接触で操作を実行する情報入力システムが存在する。
例えば、特許文献1には、ユーザの手指の撮像画像に基づいてユーザの手指の位置を求め、予め設定されるジェスチャ認識領域内にユーザの手指が存在するときのみ、ジェスチャに対応する動作制御指示を出力するジェスチャ入力装置が開示されている。
2. Description of the Related Art Conventionally, there is an information input system that performs an operation in a non-contact manner on an image displayed on a display unit such as a display panel by a gesture (operation).
For example, in Patent Document 1, an operation control instruction corresponding to a gesture is obtained only when the position of the user's finger is obtained based on a captured image of the user's finger and the user's finger exists in a preset gesture recognition area. Is disclosed.

特開2012−146236号公報JP 2012-146236 A

ところで、ジェスチャにより非接触で操作を実行する情報入力システムには、3次元空間上で、表示手段に対する奥行き方向に予め定めた閾値を設定し、ジェスチャを行う操作者の指先等の座標がその閾値を越えた場合に、表示手段に表示される画像を変化させる情報入力システムが存在する。このような情報入力システムでは、通常、操作者は閾値を視認することはできないため、例えば操作者が閾値から指先等を離そうとしてジェスチャを行った場合でも、操作者の指先等が閾値を越えた状態が維持される場合がある。この場合、表示手段に表示される画像に対して操作者が意図した操作がなされないおそれがある。
本発明は、閾値を変化させない場合と比較して、操作者の意図に応じた動作の認識を行うことを目的とする。
By the way, in an information input system that performs a contactless operation by a gesture, a predetermined threshold value is set in the depth direction with respect to the display unit in a three-dimensional space, and the coordinates of the fingertip of the operator who performs the gesture are the threshold value. There is an information input system that changes the image displayed on the display means when the value exceeds. In such an information input system, normally, the operator cannot visually recognize the threshold value. For example, even when the operator makes a gesture to remove the fingertip from the threshold value, the fingertip of the operator exceeds the threshold value. May be maintained. In this case, there is a possibility that the operation intended by the operator is not performed on the image displayed on the display means.
An object of the present invention is to recognize an operation according to an operator's intention as compared with a case where the threshold value is not changed.

請求項1に係る発明は、画像を表示する表示手段と、前記表示手段の画像を操作するための動作を行う操作者の動作部の位置を検知する検知手段と、前記表示手段から予め定められた距離に閾値を設定し、前記動作部が当該表示手段に近づいて当該動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する制御手段と、前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値を当該動作部の位置に変更する閾値変更手段とを備える入力システムである。
請求項2に係る発明は、前記制御手段は、前記閾値変更手段により変更された後の前記閾値から前記動作部の位置が離れた場合に、前記動作に基づく画像の操作を終了することを特徴とする請求項1に記載の入力システムである。
請求項3に係る発明は、前記閾値変更手段は、前記閾値から前記動作部の位置が離れた場合に、当該閾値を予め定めた初期値に戻すことを特徴とする請求項1または2に記載の入力システムである。
請求項4に係る発明は、前記閾値変更手段は、前記動作部が予め定めた速度以上で前記表示手段から離れた場合に、当該動作部の位置が前記閾値から離れたと判断することを特徴とする請求項3に記載の入力システムである。
請求項5に係る発明は、前記閾値変更手段は、前記動作部が前記閾値から予め定めた距離だけ離れた場合に、当該動作部の位置が当該閾値から離れたと判断することを特徴とする請求項3に記載の入力システムである。
請求項6に係る発明は、前記距離は、前記動作部の位置から離れるほど大きく設定されることを特徴とする請求項5に記載の入力システムである。
請求項7に係る発明は、表示手段に表示される画像を操作するための動作を行う操作者の動作部の位置を検知する検知手段と、前記表示手段から予め定められた距離に閾値を設定し、前記動作部が当該表示手段に近づいて当該動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する制御手段と、前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値を当該動作部の位置に変更する閾値変更手段とを備える入力装置である。
請求項8に係る発明は、コンピュータに、表示手段に表示される画像を操作するための動作を行う操作者の動作部の位置を認識する機能と、前記表示手段から予め定められた距離に閾値を設定する機能と、前記動作部が前記表示手段に近づいて前記動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する機能と、前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値に当該動作部の位置を代入する機能とを実現させるプログラムである。
The invention according to claim 1 is preliminarily determined from display means for displaying an image, detection means for detecting a position of an operating part of an operator who performs an operation for operating the image of the display means, and the display means. A control unit that operates an image of the display unit based on the operation when the operation unit approaches the display unit and the position of the operation unit becomes equal to or greater than the threshold value. When the position of the operation unit becomes equal to or greater than the threshold value, the input system includes a threshold value changing unit that changes the threshold value to the position of the operation unit until the position of the operation unit moves away from the threshold value.
The invention according to claim 2 is characterized in that the control means ends the operation of the image based on the action when the position of the action part is separated from the threshold value after being changed by the threshold value changing means. The input system according to claim 1.
The invention according to claim 3 is characterized in that the threshold value changing means returns the threshold value to a predetermined initial value when the position of the operation unit is separated from the threshold value. Input system.
The invention according to claim 4 is characterized in that the threshold value changing means determines that the position of the action part has moved away from the threshold value when the action part leaves the display means at a predetermined speed or higher. The input system according to claim 3.
The invention according to claim 5 is characterized in that the threshold value changing means determines that the position of the operating unit is separated from the threshold when the operating unit is separated from the threshold by a predetermined distance. Item 4. The input system according to Item 3.
The invention according to claim 6 is the input system according to claim 5, wherein the distance is set to increase as the distance from the position of the operation unit increases.
According to a seventh aspect of the present invention, there is provided a detecting means for detecting a position of an operating part of an operator who performs an operation for operating an image displayed on the display means, and a threshold is set at a predetermined distance from the display means. Then, when the operation unit approaches the display unit and the position of the operation unit becomes equal to or greater than the threshold, the control unit that operates the image of the display unit based on the operation, and the position of the operation unit And an threshold value changing unit configured to change the threshold value to the position of the motion unit until the position of the motion unit moves away from the threshold value when the threshold value is equal to or greater than the threshold value.
According to an eighth aspect of the present invention, there is provided a computer having a function of recognizing a position of an operating part of an operator who performs an operation for operating an image displayed on a display unit, and a threshold value at a predetermined distance from the display unit. A function for setting an image of the display unit based on the operation when the operation unit approaches the display unit and the position of the operation unit is equal to or greater than the threshold, and the operation unit Is a program that realizes a function of substituting the position of the operation unit for the threshold value until the position of the operation unit moves away from the threshold value.

請求項1に係る発明によれば、閾値を変化させない場合と比較して、操作者の意図に応じた動作の認識を行うことが可能になる。
請求項2に係る発明によれば、操作者の意図に応じて画像の操作を終了させることが可能になる。
請求項3に係る発明によれば、閾値を初期値に戻させない場合と比較して、操作者の意図に応じて動作を開始させることが可能になる。
請求項4に係る発明によれば、操作者の意図に応じて画像の操作を終了させることが可能になる。
請求項5に係る発明によれば、操作者の意図に応じて画像の操作を終了させることが可能になる。
請求項6に係る発明によれば、操作者の動作部の動きに対応させて画像の操作を終了させることが可能になる。
請求項7に係る発明によれば、閾値を変化させない場合と比較して、操作者の意図に応じた動作の認識を行うことが可能になる。
請求項8に係る発明によれば、閾値を変化させない場合と比較して、操作者の意図に応じた動作の認識を行うことが可能になる。
According to the first aspect of the present invention, it is possible to recognize an operation according to the operator's intention as compared with the case where the threshold value is not changed.
According to the second aspect of the present invention, it is possible to end the operation of the image according to the intention of the operator.
According to the third aspect of the present invention, it is possible to start the operation according to the operator's intention as compared with the case where the threshold value is not returned to the initial value.
According to the fourth aspect of the present invention, it is possible to end the operation of the image according to the intention of the operator.
According to the invention which concerns on Claim 5, it becomes possible to complete | finish operation of an image according to an operator's intention.
According to the invention which concerns on Claim 6, it becomes possible to complete | finish operation of an image corresponding to a motion of an operation part of an operator.
According to the invention which concerns on Claim 7, it becomes possible to recognize the operation | movement according to an operator's intention compared with the case where a threshold value is not changed.
According to the eighth aspect of the present invention, it is possible to recognize the operation according to the intention of the operator as compared with the case where the threshold value is not changed.

本実施の形態が適用される情報入力システムの全体構成を示した図である。It is a figure showing the whole information input system composition to which this embodiment is applied. 本実施の形態が適用される情報入力システムの機能構成を示した図である。It is the figure which showed the function structure of the information input system to which this Embodiment is applied. (a)〜(b)は、本実施の形態が適用される情報入力システムにて、入力装置により行われる処理の概略を示した模式図である。(A)-(b) is the schematic diagram which showed the outline of the process performed by an input device in the information input system to which this Embodiment is applied. 本実施の形態の制御部により行われる閾値を変更する処理の手順を示したフローチャートである。It is the flowchart which showed the procedure of the process which changes the threshold value performed by the control part of this Embodiment. (a)〜(b)は、図4に示した処理が行われる場合のユーザの指先と閾値との関係を示した図である。(A)-(b) is the figure which showed the relationship between a user's fingertip and threshold value when the process shown in FIG. 4 is performed. 指先が閾値から離れたと判定する制御の一例を示した図である。It is the figure which showed an example of the control which determines with the fingertip having left | separated from the threshold value. 従来の情報入力システムにて生じる課題について説明するための図である。It is a figure for demonstrating the subject which arises in the conventional information input system.

以下、添付図面を参照して、本発明における実施の形態について詳細に説明する。
図1は、本実施の形態が適用される情報入力システム1の全体構成を示した図である。図1に示すように、情報入力システム1は、画像を表示する表示手段の一例としての表示パネル2と、ユーザ(操作者)のジェスチャ(動作)による情報入力を受け付ける入力装置3とを備えている。本実施の形態の情報入力システム1では、入力装置3の後述する検知センサ4(後述する図2参照)によりユーザのジェスチャが検知され、検知されたジェスチャに基づいて、表示パネル2に表示される画像が操作される。この例では、ユーザの手指Hによるジェスチャが検知され、手指Hのジェスチャに基づいて、表示パネル2に表示される画像が操作される。
Embodiments of the present invention will be described below in detail with reference to the accompanying drawings.
FIG. 1 is a diagram illustrating an overall configuration of an information input system 1 to which the exemplary embodiment is applied. As shown in FIG. 1, the information input system 1 includes a display panel 2 as an example of a display unit that displays an image, and an input device 3 that receives information input by a user (operator) gesture (operation). Yes. In the information input system 1 of the present embodiment, a user's gesture is detected by a detection sensor 4 (see FIG. 2 described later) of the input device 3 and displayed on the display panel 2 based on the detected gesture. The image is manipulated. In this example, a gesture by the user's finger H is detected, and an image displayed on the display panel 2 is operated based on the gesture of the finger H.

本実施の形態の情報入力システム1は、例えば情報入力システム1に接続された外部装置(図示せず)の操作等に用いられ、表示パネル2には、外部装置の操作画面等が表示される。このような外部装置としては、例えば画像形成装置、画像読取装置、FAX等を備える複合機等が挙げられる。そして、本実施の形態の情報入力システム1では、ユーザのジェスチャにより、表示パネル2に表示される操作画面に対する操作が非接触で行われるようになっている。
このように、本実施の形態の情報入力システム1は、非接触による外部装置の操作が可能であるため、医療現場や飲食店、食品製造工場等のような衛生的な環境が求められる場所において特に好適に用いられる。
The information input system 1 according to the present embodiment is used, for example, for operation of an external device (not shown) connected to the information input system 1, and an operation screen of the external device is displayed on the display panel 2. . Examples of such an external apparatus include an image forming apparatus, an image reading apparatus, and a multifunction machine including a FAX. And in the information input system 1 of this Embodiment, operation with respect to the operation screen displayed on the display panel 2 is performed by non-contact by a user's gesture.
As described above, the information input system 1 according to the present embodiment can operate an external device in a non-contact manner. Therefore, in a place where a sanitary environment such as a medical site, a restaurant, a food manufacturing factory, and the like is required. Particularly preferably used.

表示パネル2は、表示手段の一例であり、後述する制御部5(後述する図2参照)からの情報に基づき、画像を表示する。表示パネル2は、例えば液晶ディスプレイ、プラズマディスプレイ等により構成される。   The display panel 2 is an example of a display unit, and displays an image based on information from a control unit 5 (described later, see FIG. 2). The display panel 2 is configured by a liquid crystal display, a plasma display, or the like, for example.

続いて、本実施の形態の入力装置3の機能について説明する。図2は、本実施の形態が適用される情報入力システム1の機能構成を示した図である。
図2に示すように、本実施の形態の入力装置3は、ユーザによるジェスチャを検知する検知手段の一例としての検知センサ4と、検知センサ4による検知結果に基づいて表示パネル2に表示される画像の制御を行う制御手段の一例としての制御部5とを備えている。
Next, functions of the input device 3 according to the present embodiment will be described. FIG. 2 is a diagram illustrating a functional configuration of the information input system 1 to which the exemplary embodiment is applied.
As shown in FIG. 2, the input device 3 of the present embodiment is displayed on the display panel 2 based on a detection sensor 4 as an example of a detection unit that detects a user's gesture, and a detection result by the detection sensor 4. And a control unit 5 as an example of a control means for controlling an image.

検知センサ4は、例えば、ユーザの体の予め定めた部位やユーザが所持する道具等の動作部の位置を三次元で検知する。検知センサ4は、ユーザの体の部位やユーザが所持する道具等の動作部の位置を検知可能であれば特に限定されないが、例えば赤外線センサ、レーザセンサ等を用いることができる。本実施の形態の検知センサ4は、動作部として、ジェスチャを行うユーザの指先の位置を検知する。
詳細については後述するが、本実施の形態の情報入力システム1では、検知センサ4は、表示パネル2から予め定めた距離以内の範囲を検知範囲A1(後述する図3(a)〜(b)参照)とし、この検知範囲A1内にユーザの指先が進入した場合に、ユーザの指先の三次元位置を検知する。そして、検知センサ4は、検知結果に基づきユーザの指先の三次元座標を制御部5に出力する。
The detection sensor 4 detects, for example, a predetermined part of the user's body and the position of an operation unit such as a tool possessed by the user in three dimensions. The detection sensor 4 is not particularly limited as long as it can detect the position of the user's body part or the operation unit such as a tool possessed by the user. For example, an infrared sensor or a laser sensor can be used. The detection sensor 4 of this Embodiment detects the position of the fingertip of the user who performs a gesture as an operation | movement part.
Although details will be described later, in the information input system 1 of the present embodiment, the detection sensor 4 detects a range within a predetermined distance from the display panel 2 as a detection range A1 (FIGS. 3A to 3B described later). When the user's fingertip enters the detection range A1, the three-dimensional position of the user's fingertip is detected. Then, the detection sensor 4 outputs the three-dimensional coordinates of the user's fingertip to the control unit 5 based on the detection result.

制御部5は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)により構成されている。ROMは、CPUにより実行される制御プログラムを記憶している。CPUは、ROMに記憶されている制御プログラムを読み出し、RAMを作業エリアにして制御プログラムを実行する。   The control unit 5 includes a CPU (Central Processing Unit), a ROM (Read Only Memory), and a RAM (Random Access Memory). The ROM stores a control program executed by the CPU. The CPU reads the control program stored in the ROM and executes the control program using the RAM as a work area.

本実施の形態において制御手段および閾値変更手段を構成する制御部5は、図2に示すように、検知センサ4に検知されたジェスチャに関する情報を取得するジェスチャ受付部51と、ジェスチャ受付部51にて受け付けたジェスチャに関する情報に基づきジェスチャを判定するジェスチャ判定部52と、を備えている。また、制御部5は、ジェスチャ受付部51にて受け付けたジェスチャに関する情報およびジェスチャ判定部52の判定結果に基づきジェスチャが行われる領域を判定する領域判定部53と、ジェスチャ受付部51にて受け付けたジェスチャに関する情報および領域判定部53の判定結果に基づき、後述する閾値Ztを変更する閾値変更手段の一例としての閾値変更部54と、後述する初期閾値および閾値変更部54にて変更された後の閾値を記憶する閾値記憶部55と、を備えている。さらに、制御部5は、ジェスチャ判定部52の判定結果に基づいて表示パネル2に表示される画像を制御する描画制御部56を備えている。   As shown in FIG. 2, the control unit 5 that constitutes the control unit and the threshold value changing unit in the present embodiment includes a gesture reception unit 51 that acquires information about a gesture detected by the detection sensor 4, and a gesture reception unit 51. And a gesture determination unit 52 that determines a gesture based on the information regarding the gesture received. In addition, the control unit 5 receives the information about the gesture received by the gesture reception unit 51 and the region determination unit 53 that determines the region where the gesture is performed based on the determination result of the gesture determination unit 52 and the gesture reception unit 51. Based on the information on the gesture and the determination result of the area determination unit 53, the threshold value changing unit 54 as an example of a threshold value changing unit that changes the threshold value Zt described later, and the initial threshold value and threshold value changing unit 54 described later are changed. And a threshold storage unit 55 that stores the threshold. Furthermore, the control unit 5 includes a drawing control unit 56 that controls an image displayed on the display panel 2 based on the determination result of the gesture determination unit 52.

図3(a)〜(b)は、本実施の形態が適用される情報入力システム1にて、入力装置3により行われる制御の概略を示した模式図である。
本実施の形態の情報入力システム1では、図3(a)〜(b)に示すように、表示パネル2の正面(画像が表示される側)であって、表示パネル2からの距離が予め定めた範囲の領域を検知センサ4(図2参照)によるジェスチャの検知範囲A1としている。そして、検知範囲A1にユーザの指先が進入した場合に、検知センサ4により指先の位置が検知され、制御部5は、検知センサ4による検知結果に基づいて表示パネル2に表示される画像を制御する。
FIGS. 3A and 3B are schematic diagrams illustrating an outline of control performed by the input device 3 in the information input system 1 to which the exemplary embodiment is applied.
In the information input system 1 according to the present embodiment, as shown in FIGS. 3A to 3B, the distance from the display panel 2 is the front of the display panel 2 (the side on which the image is displayed). The region in the determined range is set as a gesture detection range A1 by the detection sensor 4 (see FIG. 2). When the user's fingertip enters the detection range A1, the position of the fingertip is detected by the detection sensor 4, and the control unit 5 controls an image displayed on the display panel 2 based on the detection result by the detection sensor 4. To do.

本実施の形態では、図3(a)〜(b)に示すように、表示パネル2を正面側から見た場合の左から右へ向かう方向をX方向、下から上に向かう方向をY方向、X方向およびY方向に直交し表示パネル2に近づく方向(表示パネル2の奥行き方向)をZ方向とする。
そして、本実施の形態の制御部5は、検知範囲A1内にXY平面に沿いz座標が閾値Ztである閾値面Tを設定し、ユーザの指先の位置と閾値面Tとの関係に応じて、表示パネル2に表示される画像を制御している。具体的には、本実施の形態の制御部5は、検知範囲A1内を、閾値面Tを境界として、z座標が閾値Zt以上でありユーザによる指先のジェスチャを有効なものとして認識するジェスチャ有効領域B1と、z座標が閾値Zt未満でありユーザによる指先のジェスチャの認識を解除するジェスチャ解除領域B2と、に分けている。なお、閾値Ztは、制御部5により設定される値であり、閾値Zt(閾値面T)は、ユーザによっては視認できないものである。言い換えると、ユーザは、指先がジェスチャ有効領域B1に存在するか、またはジェスチャ解除領域B2に存在するかについては、視認できないようになっている。
続いて、図2および図3(a)〜(b)を用いて、制御部5の各構成について詳細に説明する。
In the present embodiment, as shown in FIGS. 3A to 3B, the direction from left to right when the display panel 2 is viewed from the front side is the X direction, and the direction from bottom to top is the Y direction. A direction orthogonal to the X direction and the Y direction and approaching the display panel 2 (a depth direction of the display panel 2) is defined as a Z direction.
And the control part 5 of this Embodiment sets the threshold value surface T whose z coordinate is the threshold value Zt along XY plane in the detection range A1, and according to the relationship between the position of a user's fingertip, and the threshold value surface T The image displayed on the display panel 2 is controlled. Specifically, the control unit 5 according to the present embodiment recognizes the gesture within the detection range A1 as a valid gesture by recognizing that the user's fingertip gesture is valid with the threshold plane T as a boundary and the z coordinate being equal to or greater than the threshold Zt. An area B1 is divided into a gesture release area B2 in which the z coordinate is less than the threshold value Zt and the user recognizes the fingertip gesture. The threshold value Zt is a value set by the control unit 5, and the threshold value Zt (threshold value T) cannot be visually recognized by the user. In other words, the user cannot visually recognize whether the fingertip exists in the gesture effective area B1 or the gesture release area B2.
Then, each structure of the control part 5 is demonstrated in detail using FIG. 2 and FIG. 3 (a)-(b).

ジェスチャ受付部51は、検知センサ4から、ジェスチャに関する情報として、ジェスチャを行うユーザの指先の三次元座標を取得する。具体的には、ジェスチャ受付部51は、ユーザの指先の三次元座標として、検知範囲A1内でのX方向の座標(x座標)、Y方向の座標(y座標)およびZ方向の座標(z座標)を取得する。   The gesture receiving unit 51 acquires, from the detection sensor 4, the three-dimensional coordinates of the fingertip of the user who performs the gesture as information regarding the gesture. Specifically, the gesture receiving unit 51 uses the X-direction coordinate (x coordinate), the Y-direction coordinate (y-coordinate), and the Z-direction coordinate (z) as the three-dimensional coordinates of the user's fingertip. Get coordinates).

ジェスチャ判定部52は、ジェスチャ受付部51にて受け付けたジェスチャに関する情報に基づいて、ユーザによるジェスチャが、予め定めた種類のジェスチャであるか否かの判定を行う。具体的には、ジェスチャ判定部52は、ユーザによるジェスチャが、例えば、タップ動作、フリック動作、ピンチ動作等の予め定めたジェスチャに該当するか否かの判定を行う。また、ジェスチャ判定部52は、ジェスチャ受付部51にて受け付けたジェスチャに関する情報に基づいて、ユーザによる指先の移動速度等を認識する。   The gesture determination unit 52 determines whether or not the gesture by the user is a predetermined type of gesture based on the information regarding the gesture received by the gesture reception unit 51. Specifically, the gesture determination unit 52 determines whether or not the user gesture corresponds to a predetermined gesture such as a tap operation, a flick operation, or a pinch operation. Further, the gesture determination unit 52 recognizes the moving speed of the fingertip by the user based on the information regarding the gesture received by the gesture reception unit 51.

領域判定部53は、ジェスチャ受付部51にて受け付けたジェスチャに関する情報に基づき、ジェスチャを行うユーザの指先が閾値面Tを超えたか否かの判定を行う閾値判定部531と、閾値判定部531による判定結果に基づいて、ユーザの指先の位置に応じて閾値Ztを変化させる閾値変更モードを設定するモード設定部532と、を有する。   The area determination unit 53 includes a threshold determination unit 531 and a threshold determination unit 531 that determine whether or not the fingertip of the user performing the gesture exceeds the threshold plane T based on the information related to the gesture received by the gesture reception unit 51. And a mode setting unit 532 that sets a threshold value change mode for changing the threshold value Zt according to the position of the fingertip of the user based on the determination result.

閾値判定部531は、ジェスチャ受付部51にて受け付けたユーザの指先のz座標と、閾値記憶部55にて記憶されている閾値Ztとを比較し、ユーザの指先のz座標が閾値Zt以上であるか否かの判定を行う。なお、詳細については後述するが、ユーザの指先がジェスチャ有効領域B1内に進入する前の状態では、閾値Ztは、予め定められた初期値Zaに設定されている(Zt=Za)。
モード設定部532は、ユーザの指先が閾値面Tを超えジェスチャ有効領域B1内に進入した場合、すなわち、閾値判定部531により指先のz座標が閾値Zt以上であると判定された場合に、閾値変更モードを設定する。また、モード設定部532は、ユーザの指先がジェスチャ有効領域B1からジェスチャ解除領域B2へ移動した場合、すなわち、ユーザの指先が閾値面Tから離れ閾値判定部531により指先のz座標が閾値Zt未満であると判定された場合に、閾値変更モードを解除する。
The threshold determination unit 531 compares the z coordinate of the user's fingertip received by the gesture reception unit 51 with the threshold Zt stored in the threshold storage unit 55, and the z coordinate of the user's fingertip is greater than or equal to the threshold Zt. It is determined whether or not there is. Although details will be described later, in a state before the user's fingertip enters the gesture effective area B1, the threshold value Zt is set to a predetermined initial value Za (Zt = Za).
When the user's fingertip exceeds the threshold plane T and enters the gesture effective area B1, that is, when the threshold determination unit 531 determines that the z coordinate of the fingertip is greater than or equal to the threshold Zt, the mode setting unit 532 Set the change mode. In addition, the mode setting unit 532 moves the user's fingertip from the gesture effective area B1 to the gesture release area B2, that is, the user's fingertip is separated from the threshold surface T, and the z-coordinate of the fingertip is less than the threshold Zt by the threshold determination unit 531. When it is determined that the threshold change mode is set, the threshold change mode is canceled.

閾値変更部54は、ジェスチャ受付部51にて受け付けたジェスチャに関する情報、領域判定部53による判定結果に基づいて、閾値Ztを変更する。具体的には、閾値変更部54は、領域判定部53のモード設定部532により閾値変更モードが設定されている場合、ジェスチャ受付部51にて受け付けたユーザの指先のz座標を、閾値Ztとして代入する。これにより、閾値変更モードが設定されている場合には、閾値Zt(閾値面T)は、ユーザの指先の位置に追従して変更されるようになる。
また、閾値変更部54は、モード設定部532により閾値変更モードが解除された場合には、閾値Ztを初期値Zaに戻す処理を行う。具体的には、閾値変更部54は、モード設定部532により閾値変更モードが解除された場合、閾値Ztを予め定めた割合で徐々に小さくすることで、初期値Zaに近づけていく。なお、本実施の形態において、閾値Ztは、初期値Za未満にはならないようになっている。
The threshold changing unit 54 changes the threshold Zt based on the information regarding the gesture received by the gesture receiving unit 51 and the determination result by the region determining unit 53. Specifically, when the threshold setting mode is set by the mode setting unit 532 of the region determining unit 53, the threshold changing unit 54 uses the z coordinate of the user's fingertip received by the gesture receiving unit 51 as the threshold Zt. substitute. Thereby, when the threshold value change mode is set, the threshold value Zt (threshold value surface T) is changed following the position of the user's fingertip.
In addition, when the threshold setting mode is canceled by the mode setting unit 532, the threshold changing unit 54 performs processing to return the threshold Zt to the initial value Za. Specifically, when the threshold value changing mode is canceled by the mode setting unit 532, the threshold value changing unit 54 gradually decreases the threshold value Zt at a predetermined ratio to approach the initial value Za. In the present embodiment, the threshold value Zt is not less than the initial value Za.

閾値記憶部55は、初期値Zaを記憶する。さらに、閾値記憶部55は、領域判定部53のモード設定部532により閾値変更モードが設定されている場合には、閾値変更部54により変更された後の閾値Ztを記憶する。   The threshold storage unit 55 stores an initial value Za. Furthermore, the threshold value storage unit 55 stores the threshold value Zt that has been changed by the threshold value change unit 54 when the mode change unit 532 of the area determination unit 53 has set the threshold value change mode.

描画制御部56は、ジェスチャ判定部52により判定されたジェスチャの種類および領域判定部53の閾値判定部531により判定されたユーザの指先と閾値Ztとの関係等の情報に基づいて、表示パネル2に表示される画像を制御する。すなわち、描画制御部56は、ユーザのジェスチャが、ジェスチャ判定部52にて予め定められた種類のジェスチャと判定され、閾値判定部531によりジェスチャ有効領域B1内で行われたと判定された場合に、ジェスチャを有効なものとして表示パネル2に表示される画像に対して予め定めた操作を行う。予め定められた種類のジェスチャとしては、上述したように、タップ動作、フリック動作、ドラッグ動作、ピンチ動作等が挙げられる。   The drawing control unit 56 displays the display panel 2 based on information such as the type of gesture determined by the gesture determination unit 52 and the relationship between the fingertip of the user determined by the threshold determination unit 531 of the region determination unit 53 and the threshold Zt. Control the image displayed on the screen. That is, the drawing control unit 56 determines that the user's gesture is a gesture of a predetermined type by the gesture determination unit 52, and determines that the user gesture is performed in the gesture effective area B1 by the threshold determination unit 531. A predetermined operation is performed on the image displayed on the display panel 2 with the gesture valid. Examples of the predetermined types of gestures include a tap operation, a flick operation, a drag operation, and a pinch operation as described above.

ここで、例えば、タップ動作は、検知範囲A1内において、ユーザの指先が、X方向およびY方向に移動することなく、Z方向(表示パネル2に近づく方向)へ移動した後−Z方向(表示パネル2から離れる方向)に戻される動作である。タップ動作は、ユーザの指先がZ方向へ移動して閾値面Tを超えてジェスチャ解除領域B2からジェスチャ有効領域B1へ進入した場合に、表示パネル2に表示される画像を操作するジェスチャとして有効と判断される。また、タップ動作は、ユーザの指先が−Z方向へ移動して閾値面Tから離れてジェスチャ有効領域B1からジェスチャ解除領域B2へ移動した場合に、ジェスチャが終了したものと判断される。
なお、タップ動作は、例えば表示パネル2に表示される画像を選択する場合等に行われる。
Here, for example, in the tap operation, the user's fingertip moves in the Z direction (direction approaching the display panel 2) without moving in the X direction and the Y direction within the detection range A1, and then in the −Z direction (display). This is an operation of returning to the direction away from the panel 2. The tap operation is effective as a gesture for manipulating an image displayed on the display panel 2 when the fingertip of the user moves in the Z direction and exceeds the threshold plane T and enters the gesture effective area B1 from the gesture release area B2. To be judged. Further, in the tap operation, when the user's fingertip moves in the −Z direction and moves away from the threshold surface T and moves from the gesture effective area B1 to the gesture release area B2, it is determined that the gesture has ended.
Note that the tap operation is performed, for example, when an image displayed on the display panel 2 is selected.

フリック動作またはドラッグ動作は、検知範囲A1内において、ユーザの指先が、Z方向へ移動し、続いてX方向および/またはY方向に移動した後、−Z方向に戻される動作である。フリック動作またはドラッグ動作は、ユーザの指先が閾値面Tを超えてジェスチャ有効領域B1内でX方向および/またはY方向に移動した場合に、表示パネル2に表示される画像を操作するジェスチャとして有効と判断される。また、フリック動作またはドラッグ動作は、ユーザの指先がX方向および/またはY方向に移動した後に、−Z方向へ移動して閾値面Tから離れてジェスチャ有効領域B1からジェスチャ解除領域B2へ移動した場合に、ジェスチャが終了したものと判断される。
なお、フリック動作は、例えば表示パネル2に表示される画像を異なる画像に切り替える際に行われ、通常、ドラッグ動作と比較して素早く指先を動かす動作である。また、ドラッグ動作は、例えば表示パネル2に表示される画像を、表示パネル2上の他の領域に移動させる際に行われ、通常、フリック動作と比較して指先の移動速度が遅く、また指先の移動距離が長いことが多い。
The flicking operation or dragging operation is an operation in which the user's fingertip moves in the Z direction, subsequently moves in the X direction and / or the Y direction, and then returns to the −Z direction within the detection range A1. The flicking action or the dragging action is effective as a gesture for manipulating an image displayed on the display panel 2 when the user's fingertip moves in the X direction and / or the Y direction within the gesture effective area B1 beyond the threshold plane T. It is judged. Further, in the flicking operation or the dragging operation, after the user's fingertip moves in the X direction and / or the Y direction, the user moves in the −Z direction and moves away from the threshold surface T to move from the gesture effective area B1 to the gesture release area B2. In this case, it is determined that the gesture has ended.
Note that the flicking operation is performed, for example, when the image displayed on the display panel 2 is switched to a different image, and is usually an operation of moving the fingertip more quickly than the dragging operation. The drag operation is performed when, for example, an image displayed on the display panel 2 is moved to another area on the display panel 2, and usually the moving speed of the fingertip is slower than that of the flick operation. The movement distance is often long.

ピンチ動作は、検知範囲A1内において、ユーザの2本の指等がZ方向へ移動し、続いて2本の指のXY平面に沿った距離が変更された後、これらの2本の指が−Z方向に戻される動作である。ピンチ動作は、閾値面Tを超えてジェスチャ有効領域B1内でユーザの2本の指の間の距離が変更された場合に、表示パネル2に表示される画像を操作するジェスチャとして有効と判断される。また、ピンチ動作は、ユーザの2本の指の間の距離が変更された後に、これらの指が−Z方向へ移動して閾値面Tから離れてジェスチャ有効領域B1からジェスチャ解除領域B2へ移動した場合に、ジェスチャが終了したものと判断される。
なお、ピンチ動作は、例えば表示パネル2に表示される画像を縮小・拡大する際に行われる。
In the pinching operation, the two fingers of the user move in the Z direction within the detection range A1, and then the distance along the XY plane of the two fingers is changed. The operation is returned to the −Z direction. The pinch operation is determined to be effective as a gesture for manipulating an image displayed on the display panel 2 when the distance between the two fingers of the user is changed within the gesture effective area B1 beyond the threshold plane T. The The pinch operation is performed after the distance between the two fingers of the user is changed, and then these fingers move in the −Z direction and move away from the threshold surface T to move from the gesture effective area B1 to the gesture release area B2. In such a case, it is determined that the gesture has been completed.
Note that the pinch operation is performed, for example, when the image displayed on the display panel 2 is reduced or enlarged.

このように、本実施の形態の情報入力システム1では、ジェスチャを行うユーザの指先の位置と閾値Ztとの関係により、表示パネル2に表示される画像の操作が行われる。
そして、情報入力システム1においてユーザの意図通りに画像の操作を行うためには、ジェスチャを行うユーザの指先の位置と閾値Zt(閾値面T)との関係をユーザの意図通りにする必要がある。より具体的には、ユーザが画像の操作を終了しようとして指先を−z方向に移動させた場合に、ユーザの意図通りにユーザの指先が閾値Ztから離れてジェスチャ解除領域B2へ移動し、ユーザの意図通りにジェスチャが終了することが望まれる。特に、ユーザが複数のジェスチャを連続して行い画像の操作を連続して行うような場合には、ジェスチャをユーザの意図通りに終了し、次のジェスチャをユーザの意図通りに開始することが望まれる。
As described above, in the information input system 1 according to the present embodiment, the operation of the image displayed on the display panel 2 is performed based on the relationship between the position of the fingertip of the user performing the gesture and the threshold value Zt.
In order to operate an image as intended by the user in the information input system 1, it is necessary to make the relationship between the position of the fingertip of the user performing the gesture and the threshold Zt (threshold plane T) as intended by the user. . More specifically, when the user moves his / her fingertip in the −z direction in order to end the operation of the image, the user's fingertip moves away from the threshold value Zt as intended by the user and moves to the gesture release area B2. It is desirable for the gesture to end as intended. In particular, when the user continuously performs a plurality of gestures and continuously performs image operations, it is desirable to end the gesture as the user intends and start the next gesture as the user intends. It is.

ジェスチャを行うユーザの指先等の位置と閾値Ztとの関係に応じて表示パネル2に表示される画像の操作を行う情報入力システム1では、閾値Ztが予め定めた値(例えば初期値Za)に固定されている場合、ユーザの意図通りにジェスチャを終了することが難しいという課題が存在する。
図7は、従来の情報入力システム1にて生じる課題について説明するための図である。
In the information input system 1 that operates the image displayed on the display panel 2 in accordance with the relationship between the position of the fingertip of the user performing the gesture and the threshold value Zt, the threshold value Zt is set to a predetermined value (for example, the initial value Za). If it is fixed, there is a problem that it is difficult to end the gesture as the user intends.
FIG. 7 is a diagram for explaining a problem that occurs in the conventional information input system 1.

上述したように、情報入力システム1において閾値Zt(閾値面T)は、ユーザによって視認できないため、ユーザは、指先がジェスチャ有効領域B1およびジェスチャ解除領域B2のいずれに存在するか視認できないようになっている。
このため、例えば、ユーザが表示パネル2に表示される画像を操作するジェスチャ(この例では、フリック動作)を終了させるために、図7において破線矢印Pで示すように指先を−Z方向に移動させて指先をジェスチャ解除領域B2に移動させようとした場合であっても、指先のz座標が閾値Ztを超えたまま維持される場合がある。この場合、ユーザの指先がジェスチャ有効領域B1に存在するため、ユーザの意図通りにジェスチャを終了することができない。
また、この場合、ユーザが次の異なる操作を連続して行うために指先を再びZ方向に移動させても、前のジェスチャが終了していないため、次の操作を意図通りに開始することができない。
As described above, since the threshold value Zt (threshold surface T) cannot be visually recognized by the user in the information input system 1, the user cannot visually recognize whether the fingertip exists in the gesture effective area B1 or the gesture release area B2. ing.
For this reason, for example, in order to end a gesture (in this example, a flick operation) for the user to manipulate an image displayed on the display panel 2, the fingertip is moved in the −Z direction as indicated by a dashed arrow P in FIG. Even if the fingertip is moved to the gesture release region B2, the z-coordinate of the fingertip may be maintained exceeding the threshold value Zt. In this case, since the user's fingertip exists in the gesture effective area B1, the gesture cannot be terminated as intended by the user.
In this case, since the previous gesture is not completed even if the user moves the fingertip again in the Z direction in order to continuously perform the next different operations, the next operation may be started as intended. Can not.

これに対し、本実施の形態の情報入力システム1では、ユーザの指先の位置に応じて閾値Ztを変更することにより、ユーザがジェスチャを行った場合に、ユーザの意図しない操作が行われることを抑制している。
続いて、本実施の形態の情報入力システム1において、制御部5により行われる閾値Ztを変更する制御について、詳細に説明する。図4は、本実施の形態の制御部5により行われる閾値Ztを変更する処理の手順を示したフローチャートである。
On the other hand, in the information input system 1 of the present embodiment, by changing the threshold value Zt according to the position of the user's fingertip, when the user performs a gesture, an operation unintended by the user is performed. Suppressed.
Next, in the information input system 1 according to the present embodiment, the control for changing the threshold value Zt performed by the control unit 5 will be described in detail. FIG. 4 is a flowchart showing a procedure of processing for changing the threshold value Zt performed by the control unit 5 of the present embodiment.

まず、ユーザによりジェスチャが行われユーザの指先が検知範囲A1内に進入すると、検知センサ4によりユーザがジェスチャを行う指先の位置が検知される。そして、ジェスチャ受付部51により、検知センサ4にて検知されたジェスチャに関する情報が取得される(ステップ101)。この例では、ジェスチャに関する情報として、ユーザの指先の三次元座標等が取得される。ステップ101にてジェスチャ受付部51にて取得されるユーザの指先の三次元座標(x座標,y座標,z座標)を、(Xn,Yn,Zn)とする。   First, when the user performs a gesture and the user's fingertip enters the detection range A1, the detection sensor 4 detects the position of the fingertip where the user performs the gesture. And the information regarding the gesture detected by the detection sensor 4 is acquired by the gesture reception part 51 (step 101). In this example, the three-dimensional coordinates of the user's fingertip and the like are acquired as information regarding the gesture. In step 101, the three-dimensional coordinates (x coordinate, y coordinate, z coordinate) of the user's fingertip acquired by the gesture receiving unit 51 are (Xn, Yn, Zn).

続いて、ステップ101にてジェスチャ受付部51により取得された指先の三次元座標に基づいて、領域判定部53の閾値判定部531により、ユーザの指先のz座標(Zn)が、閾値Zt以上であるか否かの判定が行われる(ステップ102)。なお、閾値Ztは、ユーザの指先が検知範囲A1に進入した当初は、予め定めた初期値Zaに設定されている。   Subsequently, based on the three-dimensional coordinates of the fingertip acquired by the gesture receiving unit 51 in step 101, the threshold value determination unit 531 of the region determination unit 53 causes the z coordinate (Zn) of the user's fingertip to be equal to or greater than the threshold value Zt. It is determined whether or not there is (step 102). Note that the threshold value Zt is set to a predetermined initial value Za when the user's fingertip enters the detection range A1.

次いで、閾値判定部531により、指先のz座標(Zn)が閾値Zt以上であると判定された場合(Zn≧Zt;ステップ102にてYES)、モード設定部532により、閾値変更モードが設定される(ステップ103)。   Next, when the threshold determination unit 531 determines that the z coordinate (Zn) of the fingertip is equal to or greater than the threshold Zt (Zn ≧ Zt; YES in step 102), the mode setting unit 532 sets the threshold change mode. (Step 103).

次いで、閾値変更部54により、閾値Ztが、初期値Zaからステップ101にて取得されたユーザの指先のz座標(Zn)に変更される(Zt=Zn)(ステップ104)。言い換えると、ユーザの指先のz座標(Zn)が、閾値Ztと等しい状態となる。   Next, the threshold value changing unit 54 changes the threshold value Zt from the initial value Za to the z coordinate (Zn) of the user's fingertip acquired in step 101 (Zt = Zn) (step 104). In other words, the z coordinate (Zn) of the user's fingertip is equal to the threshold value Zt.

続いて、ジェスチャ受付部51により再び移動後の指先の三次元座標が取得される(ステップ105)。ステップ105にて取得される移動後の指先の三次元座標(x座標,y座標,z座標)を、(Xn´,Yn´,Zn´)とする。
続いて、ステップ105にてジェスチャ受付部51により取得された移動後の指先の三次元座標に基づいて、領域判定部53の閾値判定部531により、移動後の指先が、ステップ104にて変更された閾値Zt(=zn、閾値面T)から離れたか否かの判定が行われる(ステップ106)。なお、指先が閾値Zt(閾値面T)から離れたか否かを判定する方法については後述する。
Subsequently, the three-dimensional coordinates of the moved fingertip are acquired again by the gesture receiving unit 51 (step 105). The three-dimensional coordinates (x-coordinate, y-coordinate, z-coordinate) of the fingertip after movement acquired in step 105 are defined as (Xn ′, Yn ′, Zn ′).
Subsequently, based on the three-dimensional coordinates of the moved fingertip acquired by the gesture receiving unit 51 in step 105, the moved fingertip is changed in step 104 by the threshold determination unit 531 of the region determination unit 53. It is determined whether or not the threshold value Zt (= zn, threshold value plane T) is left (step 106). A method for determining whether or not the fingertip has moved away from the threshold value Zt (threshold surface T) will be described later.

ステップ106にて指先が閾値Zt(閾値面T)から離れていないと判定された場合(ステップ106にてNO)、閾値変更部54により、閾値Ztが、ステップ104にて設定された値Znからステップ105にて取得された移動後の指先のz座標(Zn´)に変更される(Zt=Zn´)(ステップ107)。
その後、モード設定部532により引き続き閾値変更モードが設定されたまま、ステップ105に戻り、処理を継続する。これにより、閾値判定部531により指先が閾値Ztから離れたと判定されるまでの間、ユーザのジェスチャによる移動する指先の位置に、閾値Ztが追従して変更されることになる。
When it is determined in step 106 that the fingertip is not separated from the threshold value Zt (threshold surface T) (NO in step 106), the threshold value changing unit 54 sets the threshold value Zt from the value Zn set in step 104. It is changed to the z coordinate (Zn ′) of the fingertip after movement acquired in step 105 (Zt = Zn ′) (step 107).
Thereafter, while the threshold value changing mode is continuously set by the mode setting unit 532, the process returns to step 105 to continue the processing. Thus, the threshold value Zt is changed following the position of the fingertip that is moved by the user's gesture until the threshold value determination unit 531 determines that the fingertip has moved away from the threshold value Zt.

一方、ステップ106にて指先が閾値Zt(閾値面T)から離れていると判定された場合(ステップ106にてYES)、モード設定部532により閾値変更モードが解除される(ステップ108)。
続いて、閾値変更部54により、閾値Ztを初期値Zaに戻す処理が実行され(ステップ109)、一連の処理が終了する。具体的には、閾値Ztを、予め定めた割合で徐々に小さくすることで、初期値Zaに戻す。なお、本実施の形態において、閾値Ztは、初期値Za未満の値にはならないようになっている。
On the other hand, when it is determined in step 106 that the fingertip is away from the threshold value Zt (threshold surface T) (YES in step 106), the mode setting unit 532 cancels the threshold value change mode (step 108).
Subsequently, the threshold value changing unit 54 executes a process for returning the threshold value Zt to the initial value Za (step 109), and the series of processes ends. Specifically, the threshold value Zt is gradually reduced at a predetermined rate to return to the initial value Za. In the present embodiment, the threshold value Zt is not set to a value less than the initial value Za.

また、ステップ102において、閾値判定部531により、指先のz座標(Zn)が閾値Zt未満であると判定された場合(Zn<Zt;ステップ102にてNO)、閾値変更モードが設定されることなく、一連の処理が終了する。   In step 102, when the threshold value determination unit 531 determines that the z coordinate (Zn) of the fingertip is less than the threshold value Zt (Zn <Zt; NO in step 102), the threshold value change mode is set. The series of processing ends.

図5(a)〜(b)は、図4に示した処理が行われる場合のユーザの指先と閾値Zt(閾値面T)との関係を示した図である。
図5(a)にてH1で示す位置にユーザの指先がZ方向に移動され、移動後の指先のz座標(Z1)が閾値Zt(初期値Za)を超えた場合、モード設定部532により閾値変更モードが設定され、図5に示すように、閾値Ztが指先のz座標(Z1)に変更される。さらにユーザの指先がH1からH2へZ方向に移動された場合、閾値Ztが移動後の指先のz座標(Z2)に変更される。このように、本実施の形態では、ユーザの指先が初期値Za以上の範囲でZ方向に移動した場合、ユーザの指先の移動に追従して閾値Ztが変更される。
FIGS. 5A to 5B are diagrams illustrating the relationship between the user's fingertip and the threshold value Zt (threshold surface T) when the processing illustrated in FIG. 4 is performed.
When the user's fingertip is moved in the Z direction to the position indicated by H1 in FIG. 5A and the z coordinate (Z1) of the moved fingertip exceeds the threshold value Zt (initial value Za), the mode setting unit 532 The threshold change mode is set, and the threshold Zt is changed to the z coordinate (Z1) of the fingertip as shown in FIG. Further, when the user's fingertip is moved from H1 to H2 in the Z direction, the threshold value Zt is changed to the z-coordinate (Z2) of the fingertip after the movement. Thus, in the present embodiment, when the user's fingertip moves in the Z direction within a range equal to or greater than the initial value Za, the threshold value Zt is changed following the movement of the user's fingertip.

また、閾値Ztが移動後の指先のz座標(Z2)に変更された後、さらにユーザの指先がH2からH3へ−Z方向に移動され、閾値判定部531により指先が閾値Ztから離れたと判定された場合、図5(b)に示すように、閾値Ztを移動前の指先のz座標(Z2)から初期値Zaに戻す処理が行われる。すなわち、閾値ZtをZ2から徐々に小さくする処理が行われる。
なお、さらにユーザの指先がH3からH4へ−Z方向へ移動され、指先のz座標が初期値Zaよりも小さくなった場合、閾値Ztは、初期値Zaへ戻された後、初期値Zaよりも小さくはならないようになっている。
Further, after the threshold value Zt is changed to the z coordinate (Z2) of the fingertip after the movement, the user's fingertip is further moved from H2 to H3 in the −Z direction, and the threshold value determination unit 531 determines that the fingertip has moved away from the threshold value Zt. If it has been done, as shown in FIG. 5 (b), a process of returning the threshold value Zt from the z coordinate (Z2) of the fingertip before the movement to the initial value Za is performed. That is, processing for gradually decreasing the threshold value Zt from Z2 is performed.
When the user's fingertip is further moved from H3 to H4 in the -Z direction, and the z-coordinate of the fingertip becomes smaller than the initial value Za, the threshold value Zt is returned to the initial value Za and then the initial value Za. However, it will not become smaller.

続いて、ステップ106において閾値判定部531によりユーザの指先が閾値Zt(閾値面T)から離れたか否かを判定する方法について説明する。
上述したように、閾値変更モードが設定されている場合、ユーザの指先の位置に閾値Zt(閾値面T)が追従するようになっている。閾値判定部531は、ユーザにより指先が−Z方向に移動された場合に、指先が変更後の閾値Zt(閾値面T)から離れたと判定することができる。この場合、ユーザがジェスチャを終了しようとして指先を−Z方向に移動した場合に、すみやかに指先が閾値Ztから離れたと判定されるため、ユーザの意図に沿って表示パネル2に表示される画像の操作を終了することが可能になる。
Next, a method for determining whether or not the user's fingertip has moved away from the threshold value Zt (threshold surface T) by the threshold value determination unit 531 in step 106 will be described.
As described above, when the threshold value change mode is set, the threshold value Zt (threshold value surface T) follows the position of the user's fingertip. The threshold value determination unit 531 can determine that the fingertip has moved away from the changed threshold value Zt (threshold value surface T) when the user moves the fingertip in the −Z direction. In this case, when the user moves the fingertip in the −Z direction in an attempt to end the gesture, it is immediately determined that the fingertip has moved away from the threshold value Zt. Therefore, the image displayed on the display panel 2 according to the user's intention is displayed. The operation can be terminated.

また、閾値判定部531は、ユーザにより予め定めた速度で指先が−Z方向に移動された場合に、指先が閾値Zt(閾値面T)から離れたと判定することができる。ここで、通常、ドラッグ動作等のように指先を検知範囲A1内で長期間移動させるようなジェスチャと、フリック動作等のように指先を速く移動させるようなジェスチャとでは、ユーザがジェスチャを終了しようとして指先を−Z方向へ移動させる際の移動速度が異なりやすい。したがって、閾値判定部531は、ジェスチャ判定部52により判定されるジェスチャの種類に応じて、指先が閾値Ztから離れたと判定する指先の速度を異ならせてもよい。この場合、ユーザが行うジェスチャの種類に応じてジェスチャの終了が認識されるため、ユーザの意図に沿った操作が行われやすくなる。   In addition, the threshold determination unit 531 can determine that the fingertip has moved away from the threshold Zt (threshold surface T) when the fingertip is moved in the −Z direction at a predetermined speed by the user. Here, normally, the user will end the gesture with a gesture that moves the fingertip within the detection range A1 for a long period of time, such as a drag action, and a gesture that moves the fingertip quickly, such as a flick action. As a result, the moving speed when the fingertip is moved in the −Z direction tends to be different. Therefore, the threshold determination unit 531 may vary the speed of the fingertip that determines that the fingertip has moved away from the threshold Zt according to the type of gesture determined by the gesture determination unit 52. In this case, since the end of the gesture is recognized according to the type of gesture performed by the user, an operation in accordance with the user's intention is easily performed.

さらに、閾値判定部531は、ユーザにより指先が−Z方向に移動された場合に、ユーザの指先の位置が閾値Ztから予め定めた距離だけ離れた場合に、指先が閾値Zt(閾値面T)から離れたと判定することができる。
図6は、指先が閾値Ztから離れたと判定する制御の一例を示した図である。図6に示すように、例えばユーザにより指先が−Z方向に移動された場合に、指先が閾値Ztから離れたと判定する距離ΔZを、検知範囲A1内で異ならせてもよい。具体的には、図6に示すように、移動前の指先の位置(Ha)を基準として、X方向の両端に向かうほど、距離ΔZを大きくすることが好ましい。通常、ユーザがジェスチャを行う場合、手首を中心として指先を動かす。このため、例えば指先をX方向に動かすジェスチャを行う場合、X方向に向かうに従い指先が表示パネル2から離れやすい。したがって、指先が閾値Ztから離れたと判定する距離ΔZをX方向の両端に向かうほど大きく設定することで、ユーザの意図によらず指先が閾値Ztから離れたと判定されることが抑制され、ユーザの意図によらない操作がなされることが抑制される。
また、図示は省略するが、指先が閾値Ztから離れたと判定する距離ΔZを、移動前の指先の位置(Ha)を基準として、Y方向の両端に向かうほど大きく設定してもよい。
Further, the threshold determination unit 531 moves the fingertip to the threshold Zt (threshold surface T) when the fingertip is moved in the −Z direction by a predetermined distance from the threshold Zt. It can be determined that the user is away from.
FIG. 6 is a diagram illustrating an example of control for determining that the fingertip has moved away from the threshold value Zt. As shown in FIG. 6, for example, when the fingertip is moved in the −Z direction by the user, the distance ΔZ that determines that the fingertip has moved away from the threshold value Zt may be varied within the detection range A1. Specifically, as shown in FIG. 6, it is preferable to increase the distance ΔZ toward the both ends in the X direction with reference to the position (Ha) of the fingertip before movement. Usually, when the user makes a gesture, the fingertip is moved around the wrist. For this reason, for example, when performing a gesture of moving the fingertip in the X direction, the fingertip is likely to move away from the display panel 2 in the X direction. Therefore, by setting the distance ΔZ that determines that the fingertip is separated from the threshold value Zt as it goes toward both ends in the X direction, it is suppressed that the fingertip is determined to be separated from the threshold value Zt regardless of the user's intention. Unintentional operations are suppressed.
Although not shown, the distance ΔZ that determines that the fingertip has moved away from the threshold value Zt may be set larger toward the both ends in the Y direction with reference to the position (Ha) of the fingertip before movement.

以上説明したように、本実施の形態では、ユーザがジェスチャを行いユーザの指先の位置が予め定めた閾値Zt以上となった場合に、指先が閾値Ztから離れたと判定されるまでの間、閾値Ztに指先のz座標を代入している。言い換えると、閾値Ztが、ユーザの指先のz座標に追従して変更されるようになっている。
これにより、ユーザがジェスチャを終了しようとして指先等を動かした場合に、ユーザの意図に沿って閾値Ztから離れた位置に移動されやすくなる。すなわち、ユーザがジェスチャを終了しようとして指先等を動かした場合に、ユーザの指先等が閾値Zt以上の範囲(ジェスチャ有効領域B1)に残った状態が維持され難くなる。
これにより、ユーザの意図に沿ってジェスチャが終了されやすくなり、ユーザの意図に沿って表示パネル2の画像が操作される。
As described above, in the present embodiment, when the user makes a gesture and the position of the fingertip of the user becomes equal to or greater than the predetermined threshold value Zt, the threshold value is determined until it is determined that the fingertip is separated from the threshold value Zt. The z coordinate of the fingertip is substituted for Zt. In other words, the threshold value Zt is changed following the z coordinate of the user's fingertip.
As a result, when the user moves a fingertip or the like in order to end the gesture, the user is easily moved to a position away from the threshold value Zt along the user's intention. That is, when the user moves the fingertip or the like in order to end the gesture, it is difficult to maintain a state where the user's fingertip or the like remains in the range (gesture effective region B1) that is equal to or greater than the threshold value Zt.
Thereby, it becomes easy to complete | finish a gesture according to a user's intention, and the image of the display panel 2 is operated according to a user's intention.

1…情報入力システム、2…表示パネル、3…入力装置、4…検知センサ、5…制御部、51…ジェスチャ受付部、52…ジェスチャ判定部、53…領域判定部、54…閾値変更部、55…閾値記憶部、56…描画制御部 DESCRIPTION OF SYMBOLS 1 ... Information input system, 2 ... Display panel, 3 ... Input device, 4 ... Detection sensor, 5 ... Control part, 51 ... Gesture reception part, 52 ... Gesture determination part, 53 ... Area | region determination part, 54 ... Threshold change part, 55: Threshold storage unit, 56: Drawing control unit

Claims (8)

画像を表示する表示手段と、
前記表示手段の画像を操作するための動作を行う操作者の動作部の位置を検知する検知手段と、
前記表示手段から予め定められた距離に閾値を設定し、前記動作部が当該表示手段に近づいて当該動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する制御手段と、
前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値を当該動作部の位置に変更する閾値変更手段とを備える入力システム。
Display means for displaying an image;
Detecting means for detecting a position of an operating part of an operator who performs an operation for operating an image of the display means;
When a threshold value is set at a predetermined distance from the display unit, and the operation unit approaches the display unit and the position of the operation unit becomes equal to or greater than the threshold value, the image of the display unit is based on the operation. Control means for operating,
An input system comprising: a threshold value changing unit configured to change the threshold value to the position of the motion unit until the position of the motion unit moves away from the threshold value when the position of the motion unit becomes equal to or greater than the threshold value.
前記制御手段は、前記閾値変更手段により変更された後の前記閾値から前記動作部の位置が離れた場合に、前記動作に基づく画像の操作を終了することを特徴とする請求項1に記載の入力システム。   2. The image processing apparatus according to claim 1, wherein the control unit terminates the operation of the image based on the operation when the position of the operation unit is separated from the threshold value after being changed by the threshold value changing unit. Input system. 前記閾値変更手段は、前記閾値から前記動作部の位置が離れた場合に、当該閾値を予め定めた初期値に戻すことを特徴とする請求項1または2に記載の入力システム。   The input system according to claim 1, wherein the threshold value changing unit returns the threshold value to a predetermined initial value when the position of the operation unit is separated from the threshold value. 前記閾値変更手段は、前記動作部が予め定めた速度以上で前記表示手段から離れた場合に、当該動作部の位置が前記閾値から離れたと判断することを特徴とする請求項3に記載の入力システム。   4. The input according to claim 3, wherein the threshold value changing unit determines that the position of the operation unit is separated from the threshold value when the operation unit is separated from the display unit at a predetermined speed or more. 5. system. 前記閾値変更手段は、前記動作部が前記閾値から予め定めた距離だけ離れた場合に、当該動作部の位置が当該閾値から離れたと判断することを特徴とする請求項3に記載の入力システム。   4. The input system according to claim 3, wherein the threshold value changing unit determines that the position of the operation unit is separated from the threshold when the operation unit is separated from the threshold by a predetermined distance. 前記距離は、前記動作部の位置から離れるほど大きく設定されることを特徴とする請求項5に記載の入力システム。   The input system according to claim 5, wherein the distance is set to increase as the distance from the position of the operation unit increases. 表示手段に表示される画像を操作するための動作を行う操作者の動作部の位置を検知する検知手段と、
前記表示手段から予め定められた距離に閾値を設定し、前記動作部が当該表示手段に近づいて当該動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する制御手段と、
前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値を当該動作部の位置に変更する閾値変更手段とを備える入力装置。
Detecting means for detecting the position of the operating part of the operator who performs an operation for operating the image displayed on the display means;
When a threshold value is set at a predetermined distance from the display unit, and the operation unit approaches the display unit and the position of the operation unit becomes equal to or greater than the threshold value, the image of the display unit is based on the operation. Control means for operating,
An input device comprising: a threshold value changing unit configured to change the threshold value to the position of the motion unit until the position of the motion unit moves away from the threshold value when the position of the motion unit becomes equal to or greater than the threshold value.
コンピュータに、
表示手段に表示される画像を操作するための動作を行う操作者の動作部の位置を認識する機能と、
前記表示手段から予め定められた距離に閾値を設定する機能と、
前記動作部が前記表示手段に近づいて前記動作部の位置が当該閾値以上となった場合に、前記動作に基づいて当該表示手段の画像を操作する機能と、
前記動作部の位置が前記閾値以上となった場合に、当該動作部の位置が当該閾値から離れるまで当該閾値に当該動作部の位置を代入する機能とを実現させるプログラム。
On the computer,
A function of recognizing the position of the operation part of the operator who performs an operation for operating the image displayed on the display means;
A function of setting a threshold at a predetermined distance from the display means;
A function of operating the image of the display unit based on the operation when the operation unit approaches the display unit and the position of the operation unit is equal to or greater than the threshold;
A program for realizing a function of substituting the position of the operating unit for the threshold until the position of the operating unit departs from the threshold when the position of the operating unit is equal to or greater than the threshold.
JP2015040520A 2015-03-02 2015-03-02 Input system, input device, and program Active JP6428382B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015040520A JP6428382B2 (en) 2015-03-02 2015-03-02 Input system, input device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015040520A JP6428382B2 (en) 2015-03-02 2015-03-02 Input system, input device, and program

Publications (2)

Publication Number Publication Date
JP2016162209A JP2016162209A (en) 2016-09-05
JP6428382B2 true JP6428382B2 (en) 2018-11-28

Family

ID=56846958

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015040520A Active JP6428382B2 (en) 2015-03-02 2015-03-02 Input system, input device, and program

Country Status (1)

Country Link
JP (1) JP6428382B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7048151B2 (en) * 2018-03-30 2022-04-05 Necソリューションイノベータ株式会社 Motion judgment device, motion judgment method, and program
JP7799525B2 (en) * 2022-03-22 2026-01-15 キヤノン株式会社 Gesture recognition device, head-mounted display device, gesture recognition method, program, and storage medium
JP7825227B2 (en) * 2022-11-15 2026-03-06 パナソニックIpマネジメント株式会社 Operation device, intercom device, and control method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4094794B2 (en) * 1999-09-10 2008-06-04 株式会社リコー Coordinate detection apparatus, information storage medium, and coordinate detection method
JP5839173B2 (en) * 2010-10-14 2016-01-06 Nltテクノロジー株式会社 Touch sensor device and electronic device
JP2013195326A (en) * 2012-03-22 2013-09-30 Pioneer Electronic Corp Object detection apparatus, object detection method, object detection program, and information storage medium
JP5610644B2 (en) * 2012-04-27 2014-10-22 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America Input device, input support method, and program
JP5933468B2 (en) * 2013-03-04 2016-06-08 三菱電機株式会社 Information display control device, information display device, and information display control method

Also Published As

Publication number Publication date
JP2016162209A (en) 2016-09-05

Similar Documents

Publication Publication Date Title
US9529527B2 (en) Information processing apparatus and control method, and recording medium
EP2770408B1 (en) Apparatus and method for recognizing proximity motion using sensors
KR101646616B1 (en) Apparatus and Method for Controlling Object
JP5306105B2 (en) Display control device, display control device control method, program, and storage medium
JP2008009759A (en) Touch panel device
US9916043B2 (en) Information processing apparatus for recognizing user operation based on an image
JP6711817B2 (en) Information processing apparatus, control method thereof, program, and storage medium
US10035539B2 (en) Steering wheel control system
JP6410537B2 (en) Information processing apparatus, control method therefor, program, and storage medium
TWI502474B (en) User interface operation method and electronic device
CN103958282A (en) Vehicle operating device
US10394434B2 (en) Apparatus and method for recognizing proximity motion using sensors
JP6428382B2 (en) Input system, input device, and program
JP2011081447A5 (en)
US10318047B2 (en) User interface for electronic device, input processing method, and electronic device
JP6160465B2 (en) Portable information terminal and program
JP6033061B2 (en) Input device and program
JP6366267B2 (en) Information processing apparatus, information processing method, program, and storage medium
JP6579866B2 (en) Information processing apparatus, control method therefor, program, and storage medium
US20170039097A1 (en) Method and system for processing multimodal input signals
JP5558899B2 (en) Information processing apparatus, processing method thereof, and program
JP2022142624A (en) Detection processing device, detection processing method, and information processing system
JP6149555B2 (en) Touch panel device
JP6303864B2 (en) Information processing apparatus and display control method
JP6447179B2 (en) Information input system and input device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181002

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181015

R150 Certificate of patent or registration of utility model

Ref document number: 6428382

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350