Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5822666B2 - Information display system - Google Patents
[go: Go Back, main page]

JP5822666B2 - Information display system - Google Patents

Information display system Download PDF

Info

Publication number
JP5822666B2
JP5822666B2 JP2011249733A JP2011249733A JP5822666B2 JP 5822666 B2 JP5822666 B2 JP 5822666B2 JP 2011249733 A JP2011249733 A JP 2011249733A JP 2011249733 A JP2011249733 A JP 2011249733A JP 5822666 B2 JP5822666 B2 JP 5822666B2
Authority
JP
Japan
Prior art keywords
display
finger
image
dimensional
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011249733A
Other languages
Japanese (ja)
Other versions
JP2013105084A (en
Inventor
石井 徹
徹 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2011249733A priority Critical patent/JP5822666B2/en
Publication of JP2013105084A publication Critical patent/JP2013105084A/en
Application granted granted Critical
Publication of JP5822666B2 publication Critical patent/JP5822666B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

この発明は、立体表示した映像に対してユーザが空間的な操作を行う情報表示システムに関するものである。   The present invention relates to an information display system in which a user performs a spatial operation on a stereoscopically displayed video.

従来のタッチパネル装置は指などの物体が近接するとその3次元的な位置を認識する構成である。そのため、ユーザはディスプレイ面上の入力エリアに直接タッチすることなく入力作業を行うことができる。例えば特許文献1に係るタッチパネル装置は、ディスプレイ面に対し垂直方向に空間的厚みを持たせ、その上面および下面を除く側面に設けられ、空間的に挿入された指などの物体の位置を検出する複数のセンサを具備している。さらに、センサの検出結果に基づいて物体が指し示すディスプレイ面上の位置を計算する計算手段と、該計算手段が求めた位置に物体が指し示していることを表わす指示ポイントを表示する表示手段と、複数のセンサのうち、ディスプレイ面に最も近いセンサが空間内に挿入された物体を感知した場合、もしくはディスプレイ面に表示されている指示ポイントが入力エリアを表わす所定座標区間内に一定時間存在したと判定した場合に入力を確定する入力確定手段とを具備している。
これにより、ディスプレイ面上の入力エリアに直接指などを触れる必要がないので、利用者がクリーンなイメージで入力作業を行うことができる。
A conventional touch panel device is configured to recognize a three-dimensional position when an object such as a finger approaches. Therefore, the user can perform an input operation without directly touching the input area on the display surface. For example, a touch panel device according to Patent Document 1 has a spatial thickness in a direction perpendicular to a display surface, and is provided on a side surface excluding an upper surface and a lower surface, and detects the position of an object such as a spatially inserted finger. A plurality of sensors are provided. A calculation unit that calculates a position on the display surface pointed to by the object based on a detection result of the sensor; a display unit that displays an indication point indicating that the object is pointing to the position obtained by the calculation unit; If the sensor closest to the display surface senses an object inserted in the space, or the indication point displayed on the display surface is present within a predetermined coordinate section representing the input area for a certain period of time And an input confirmation means for confirming the input in the case.
This eliminates the need to directly touch the input area on the display surface with a finger or the like, so that the user can perform an input operation with a clean image.

特開平8−212005号公報Japanese Patent Laid-Open No. 8-212005

上記特許文献1に係るタッチパネル装置は、指などの物体のセンシング空間(即ち、操作空間)を、単一平面状のディスプレイ面に対して厚み方向に構築していた。そのため、表示空間と操作空間とが合致しないという課題があった。   In the touch panel device according to Patent Literature 1, a sensing space (that is, an operation space) of an object such as a finger is constructed in the thickness direction with respect to a single flat display surface. Therefore, there is a problem that the display space and the operation space do not match.

この発明は、上記のような課題を解決するためになされたもので、立体的な映像を直接操作しようとするユーザの手に対して空間座標のセンシングを行うことにより、表示空間と操作空間の合致する、操作感の良いユーザインタフェースを提供することを目的とする。   The present invention has been made to solve the above-described problems, and by sensing spatial coordinates with respect to a user's hand who wants to directly operate a stereoscopic image, the display space and the operation space can be reduced. An object of the present invention is to provide a matching user interface with a good operational feeling.

この発明に係る情報表示システムは、表示面を設けたディスプレイパネルとユーザの指の近接および接触を検知するタッチパネルとを重ねたパネルユニットを、当該表示面が凹形状または凸形状になるよう構成した立体ディスプレイと、タッチパネルの出力に基づいてディスプレイパネルの表示を制御する制御装置とを有し、制御装置は、凹形状の表示面に表示する画像を凸状の立体画像と錯覚させるために、頂点に錯覚させる領域を他の領域より明るく表示する明度変換を行うか、または、凸形状の表示面に表示する画像を凹状の立体画像と錯覚させるために、窪みに錯覚させる領域を他の領域より暗く表示する明度変換を行うコンテンツ変換部と、タッチパネルの出力から、立体ディスプレイに対する指の位置を表わす座標を算出する近接・接触検知部と、近接・接触検知部の算出結果から指の方向を判定する操作指方向判定部と、操作指方向判定部の判定結果から、立体ディスプレイに対するユーザの視点位置を推定する視点検出部と、指の位置を表わす座標を、視点検出部の推定した視点位置から立体ディスプレイを見た状態の立体画像上の座標に変換するセンシング座標変換部と、センシング座標変換部で変換した立体画像上の指の座標が、立体画像上の所定領域に重なるか否かを判定する空間座標判定部と、空間座標判定部の判定結果に基づいて、立体ディスプレイに表示する画像を変更する制御部とを備えるようにしたものである。   In the information display system according to the present invention, a panel unit in which a display panel provided with a display surface and a touch panel for detecting the proximity and contact of a user's finger are overlapped is configured such that the display surface is concave or convex. A three-dimensional display and a control device that controls display on the display panel based on the output of the touch panel, and the control device has a vertex to make the image displayed on the concave display surface an illusion with a convex three-dimensional image. The area to be illusioned in the depression is converted to lighter than the other areas, or the area to be illusioned in the depression is compared to the other areas in order to make the image displayed on the convex display surface illusion with the concave stereoscopic image. A content conversion unit that performs lightness conversion for dark display and a touch panel output that calculates coordinates representing the position of the finger relative to the stereoscopic display. -View detection that estimates the user's viewpoint position with respect to the stereoscopic display from the determination results of the contact detection unit, the operation finger direction determination unit that determines the finger direction from the calculation result of the proximity / contact detection unit, and the operation finger direction determination unit A sensing coordinate conversion unit that converts coordinates representing the position of the finger into coordinates on a stereoscopic image in a state of viewing the stereoscopic display from the viewpoint position estimated by the viewpoint detection unit, and the stereoscopic image converted by the sensing coordinate conversion unit A spatial coordinate determination unit that determines whether or not the coordinates of the upper finger overlap a predetermined region on the stereoscopic image, and a control unit that changes an image displayed on the stereoscopic display based on the determination result of the spatial coordinate determination unit Is provided.

この発明によれば、表示面の凹凸と反対の立体画像に錯覚させて、この立体画像をユーザの視点移動に追従するようにした立体ディスプレイを用い、タッチパネルで検知した指の座標を、ユーザの視点位置から立体ディスプレイを見た状態の立体画像上の座標に変換するようにしたので、立体画像の表示空間と操作空間を合致させることができる。そのため、視点に追従する立体的な映像を指で直接操作できるような、操作感の良いユーザインタフェースを提供することができる。   According to the present invention, a stereoscopic display in which the stereoscopic image opposite to the unevenness of the display surface is illusioned and the stereoscopic image is made to follow the viewpoint movement of the user is used, and the coordinates of the finger detected by the touch panel are determined by the user. Since the coordinates are converted from the viewpoint position into the coordinates on the stereoscopic image as seen from the stereoscopic display, the display space of the stereoscopic image and the operation space can be matched. Therefore, it is possible to provide a user interface with a good operational feeling so that a three-dimensional image following the viewpoint can be directly operated with a finger.

この発明の実施の形態1に係る情報表示システムのハードウエア構成を示す図である。It is a figure which shows the hardware constitutions of the information display system which concerns on Embodiment 1 of this invention. 実施の形態1に係る情報表示システムのソフトウエア構成を示すブロック図である。2 is a block diagram illustrating a software configuration of the information display system according to Embodiment 1. FIG. 実施の形態1による立体ディスプレイとユーザの位置関係を示す図である。It is a figure which shows the positional relationship of the three-dimensional display by Embodiment 1, and a user. 図3に示す立体ディスプレイの表示画像が視点に追従する効果を説明する図であり、図4(a)は立体ディスプレイを左方向から見た表示面、図4(b)は正面方向から見た表示面、図4(c)は右方向から見た表示面を示す。4A and 4B are diagrams for explaining the effect that the display image of the stereoscopic display shown in FIG. 3 follows the viewpoint. FIG. 4A is a display surface when the stereoscopic display is viewed from the left direction, and FIG. The display surface, FIG. 4C, shows the display surface viewed from the right direction. 湾曲ディスプレイの表示画像が視点に追従する効果を説明する図であり、図5(a)は湾曲ディスプレイを左方向から見た表示面、図5(b)は正面方向から見た表示面、図5(c)は右方向から見た表示面を示す。5A and 5B are diagrams for explaining the effect of the display image of the curved display following the viewpoint, in which FIG. 5A is a display surface when the curved display is viewed from the left, FIG. 5B is a display surface when viewed from the front, and FIG. 5 (c) shows the display surface viewed from the right direction. 実施の形態1による立体ディスプレイのディスプレイパネルを拡大した平面図であり、視野角特性を示す。It is the top view to which the display panel of the three-dimensional display by Embodiment 1 was expanded, and shows a viewing angle characteristic. 実施の形態1による立体ディスプレイのディスプレイパネルを拡大した平面図であり、反射防止フィルムの構造を示す。It is the top view to which the display panel of the three-dimensional display by Embodiment 1 was expanded, and shows the structure of an antireflection film. 実施の形態1による立体ディスプレイの外観斜視図であり、ディスプレイパネルの明度変換例を示す。FIG. 3 is an external perspective view of a stereoscopic display according to Embodiment 1 and shows an example of brightness conversion of a display panel. 実施の形態1による立体ディスプレイにペンギンの画像を表示した状態を示す図である。6 is a diagram illustrating a state in which a penguin image is displayed on the stereoscopic display according to Embodiment 1. FIG. 実施の形態1による立体ディスプレイにダイヤルの画像を表示した状態を示す図である。6 is a diagram illustrating a state in which a dial image is displayed on the stereoscopic display according to Embodiment 1. FIG. 実施の形態1による立体ディスプレイに3次元ベクトルアイコンの画像を表示した状態を示す図である。6 is a diagram illustrating a state in which an image of a three-dimensional vector icon is displayed on the stereoscopic display according to Embodiment 1. FIG.

実施の形態1.
図1に示す情報表示システムは、ディスプレイパネル1a〜1c、空間センサとしても使用可能な静電容量型のタッチパネル2a〜2c、反射防止フィルム3a〜3c、および支持部4からなる立体ディスプレイ100と、この立体ディスプレイ100を制御するパーソナルコンピュータ(以下、PC)5とから構成されている。また、図2に示すように、PC5は、タッチパネル制御部6a〜6cと、近接・接触検知部7a〜7cと、操作指方向判定部8と、視点検出部9と、センシング座標変換部10と、空間座標判定部11と、全体制御部12と、コンテンツ変換部13と、画像形状変換部14と、表示制御部15a〜15cの処理を実行するコンピュータである。これらの処理内容はプログラムに記述されてメモリ(不図示)に格納されており、CPU(不図示)がメモリに格納されているプログラムを実行することにより実現する。なお、図1の構成例では、立体ディスプレイ100とPC5を別体にしたが、一体にしてもよい。また、PC5を、画像処理に特化したプロセッサ等を用いたハードウエア構成にしてもよい。
Embodiment 1 FIG.
The information display system shown in FIG. 1 includes a display panel 1a to 1c, a capacitive touch panel 2a to 2c that can also be used as a space sensor, an antireflection film 3a to 3c, and a three-dimensional display 100 that includes a support unit 4. A personal computer (hereinafter referred to as PC) 5 that controls the stereoscopic display 100 is configured. As shown in FIG. 2, the PC 5 includes touch panel controllers 6 a to 6 c, proximity / contact detectors 7 a to 7 c, an operating finger direction determination unit 8, a viewpoint detection unit 9, and a sensing coordinate conversion unit 10. The computer executes the processes of the spatial coordinate determination unit 11, the overall control unit 12, the content conversion unit 13, the image shape conversion unit 14, and the display control units 15a to 15c. These processing contents are described in a program and stored in a memory (not shown), and are realized by a CPU (not shown) executing a program stored in the memory. In the configuration example of FIG. 1, the three-dimensional display 100 and the PC 5 are separated, but they may be integrated. The PC 5 may have a hardware configuration using a processor or the like specialized for image processing.

図1に示すように、ディスプレイパネル1aに、タッチパネル2aと反射防止フィルム3aを重ねて平面状のパネルユニットを構成している。同じように、ディスプレイパネル1bにタッチパネル2bと反射防止フィルム3bを重ね、ディスプレイパネル1cにタッチパネル2cと反射防止フィルム3cを重ねて、合計3組のパネルユニットを構成する。そして、これら3組のパネルユニットを、支持部4によって隣り合うパネル面同士が垂直になるよう固定して、立体ディスプレイ100とする。   As shown in FIG. 1, a flat panel unit is configured by overlapping a touch panel 2a and an antireflection film 3a on a display panel 1a. Similarly, the touch panel 2b and the antireflection film 3b are overlaid on the display panel 1b, and the touch panel 2c and the antireflection film 3c are overlaid on the display panel 1c to constitute a total of three panel units. Then, these three sets of panel units are fixed by the support portion 4 so that adjacent panel surfaces are perpendicular to each other, and the three-dimensional display 100 is obtained.

本実施の形態1では、ディスプレイパネル1a〜1cの各表示面が互いに内側を向くように、立体ディスプレイ100全体が凹んだ凹型に構成している。このような立体構成のディスプレイに、実際の形状とは反対の凹凸を感じさせる画像(例えば、人面などは基本的に凸であると認識しやすい)を表示すると、ユーザが視点(この視点は注視点ではなく立脚点である)を移動したときに、映像が常にユーザの方を向く錯覚の効果が得られる。   In the first embodiment, the entire three-dimensional display 100 is formed in a concave shape so that the display surfaces of the display panels 1a to 1c face each other. When displaying an image that makes the unevenness opposite to the actual shape appear on the display having such a three-dimensional structure (for example, it is easy to recognize that the human face is basically convex), the user can see the viewpoint (this viewpoint is This is an illusionary effect that the video always faces the user when moving the stance point (not the gazing point).

ここで、図3および図4を使用して、立体ディスプレイ100の映像が視点に追従する効果について説明する。図3は立体ディスプレイ100とユーザとの位置関係(左方向、正面方向、右方向)を示す。また、図4(a)は左方向から見た立体ディスプレイ100の表示面、図4(b)は正面方向から見た表示面、図4(c)は右方向から見た表示面の一例である。
表示面が内側を向くように、全体が凹んだ形状の立体ディスプレイ100は、左方向から見たときに左側のディスプレイパネル1bが陰になってくるので少ししか見えず、右側のディスプレイパネル1aが大きく見える。このときユーザに見える顔の絵の画像が図4(a)であり、表示内容を凸と錯覚した場合、顔の絵が視点方向に回転する錯覚を得られる。
右方向から見たときは右側のディスプレイパネル1aが陰になってくるので少ししか見えず、左側のディスプレイパネル1bが大きく見える。左側同様に右側も、図4(c)に表わすように、顔の絵が視点方向に回転する錯覚を得られる。
Here, the effect that the image of the stereoscopic display 100 follows the viewpoint will be described with reference to FIGS. 3 and 4. FIG. 3 shows the positional relationship (left direction, front direction, right direction) between the stereoscopic display 100 and the user. 4A is a display surface of the stereoscopic display 100 viewed from the left direction, FIG. 4B is a display surface viewed from the front direction, and FIG. 4C is an example of the display surface viewed from the right direction. is there.
The three-dimensional display 100 having a concave shape so that the display surface faces inward can be seen only slightly because the left display panel 1b is shaded when viewed from the left, and the right display panel 1a is not visible. Looks big. At this time, the face picture image seen by the user is shown in FIG. 4A. When the display content is illusioned to be convex, the illusion that the face picture rotates in the viewpoint direction can be obtained.
When viewed from the right, the right display panel 1a is shaded so that it can be seen only a little, and the left display panel 1b appears larger. As shown in FIG. 4C, the illusion that the face picture rotates in the direction of the viewpoint can be obtained on the right side as well as on the left side.

複数のディスプレイパネル1a〜1cを凹型にした立体ディスプレイ100以外にも、1つ以上の、表面が湾曲したディスプレイパネルを用いて立体ディスプレイを実現することもできる。この構成の場合の立体ディスプレイの画像が視点に追従する効果について、図5で説明する。
図5に示す立体ディスプレイは、表示面が内側を向くように、1組のパネルユニットを凹型に湾曲させた湾曲ディスプレイ101である。図5(b)は、この湾曲ディスプレイ101を正面方向から見た表示面を表わす。左側方向から見たときに湾曲ディスプレイ101の左側が陰になってくるので少ししか見えず、湾曲ディスプレイ101の右側が大きく見える。このときユーザに見える顔の絵の画像が図5(a)であり、表示内容を凸と錯覚した場合、顔の絵が視点方向に回転する錯覚を得られる。右方向から見たときも同様に、図5(c)に表わすように、顔の絵が視点方向に回転する錯覚を得られる。
In addition to the three-dimensional display 100 in which the plurality of display panels 1a to 1c are concave, a three-dimensional display can be realized by using one or more display panels with curved surfaces. The effect of the stereoscopic display image following the viewpoint in this configuration will be described with reference to FIG.
The stereoscopic display shown in FIG. 5 is a curved display 101 in which a pair of panel units are curved in a concave shape so that the display surface faces inward. FIG. 5B shows a display surface when the curved display 101 is viewed from the front direction. When viewed from the left side, the left side of the curved display 101 is shaded so that it can be seen only a little, and the right side of the curved display 101 appears larger. FIG. 5A shows an image of a face picture that can be seen by the user at this time. When the display contents are illusioned to be convex, an illusion that the face picture rotates in the direction of the viewpoint can be obtained. Similarly, when viewed from the right direction, as shown in FIG. 5C, the illusion that the face picture rotates in the viewpoint direction can be obtained.

また、図1に示すディスプレイパネル1a〜1cの視野角を、立体ディスプレイ100の外側に向けて設定し、中心部方向の輝度を低くしてディスプレイパネル1a〜1c同士の反射を低減する。この例を図6および図7に示す。
図6は、立体ディスプレイ100のディスプレイパネル1a,1bを拡大した平面図であり、視野角特性を示す。図中の矢印は、ディスプレイパネル1a,1bの視野角を表わし、矢印が長いほど輝度が高いことを示す。このように、ディスプレイパネル1a,1bの当接側を向く視野角に比べ開放側を向く視野角が良好となるように設定して、当接側の輝度を低くし、パネル面同士の反射を低減する。図示は省略するが、ディスプレイパネル1cの輝度も同様に調整して、パネル面同士の反射を低減する。なお、視野角に応じた輝度の変化は、例えばディスプレイパネル1a〜1cにTN(Twisted Nematic)液晶パネルを使用し、液晶分子の配向方向による特性を利用して実現する。
Moreover, the viewing angles of the display panels 1a to 1c shown in FIG. 1 are set toward the outside of the three-dimensional display 100, and the luminance in the central direction is lowered to reduce the reflection between the display panels 1a to 1c. An example of this is shown in FIGS.
FIG. 6 is an enlarged plan view of the display panels 1a and 1b of the stereoscopic display 100, and shows viewing angle characteristics. The arrows in the figure represent the viewing angles of the display panels 1a and 1b, and the longer the arrows, the higher the luminance. In this way, the viewing angle facing the open side is set to be better than the viewing angle facing the contact side of the display panels 1a and 1b, the brightness on the contact side is lowered, and the reflection between the panel surfaces is reduced. Reduce. Although illustration is omitted, the brightness of the display panel 1c is similarly adjusted to reduce reflection between the panel surfaces. Note that the change in luminance according to the viewing angle is realized by using, for example, a TN (Twisted Nematic) liquid crystal panel as the display panels 1a to 1c, and utilizing characteristics depending on the orientation direction of liquid crystal molecules.

図7は、立体ディスプレイ100のディスプレイパネル1a,1bを拡大した平面図であり、反射防止フィルム3a,3bの構造を示す。反射防止フィルム3a,3bは、微細なスリット状の表面構造が形成されており、そのスリットが立体ディスプレイ100の外側を向くように、即ち、図中に矢印で示す指向性が立体ディスプレイ100の外側に向くように設置する。これにより、立体ディスプレイ100の中心部方向の反射を少なく設定し、パネル面同士の反射を低減する。図示は省略するが、ディスプレイパネル1cに設置する反射防止フィルム3cの指向性も同様に調整して、パネル面同士の反射を低減する。   FIG. 7 is an enlarged plan view of the display panels 1a and 1b of the stereoscopic display 100, and shows the structure of the antireflection films 3a and 3b. The antireflection films 3a and 3b have a fine slit-like surface structure formed so that the slit faces the outside of the 3D display 100, that is, the directivity indicated by an arrow in the figure is outside the 3D display 100. Install so that it faces. Thereby, reflection of the center part direction of the three-dimensional display 100 is set small, and reflection of panel surfaces is reduced. Although illustration is abbreviate | omitted, the directivity of the antireflection film 3c installed in the display panel 1c is adjusted similarly, and the reflection of panel surfaces is reduced.

なお、パネル面同士の反射を低減するために、図6のように輝度を調整する方法と、図7のように反射防止フィルム3a〜3cを用いる方法の両方を実施してもよいし、いずれか一方を実施してもよい。また、ディスプレイパネル1a〜1cとして液晶パネルを用いる場合、有機EL(Electro Luminescence)パネルを用いる場合など、ディスプレイパネルの特性に応じて反射低減の方法を決定すればよい。   In order to reduce the reflection between the panel surfaces, both the method of adjusting the luminance as shown in FIG. 6 and the method of using the antireflection films 3a to 3c as shown in FIG. Either one may be implemented. Moreover, what is necessary is just to determine the reflection reduction method according to the characteristic of a display panel, such as the case where an organic EL (Electro Luminescence) panel is used, when using a liquid crystal panel as the display panels 1a-1c.

また、図1に示す支持部4は、ディスプレイパネル1a〜1cとタッチパネル2a〜2cと反射防止フィルム3a〜3cを重ねたパネルユニットがそれぞれ長方形である場合、隣り合うパネル面が互いに90度で対面する姿勢に支持するが、これに限定されるものではない。例えばパネルユニットが5角形である場合、またはその他の自由な形状である場合、支持部4は、パネル面間に隙間ができないように、隣り合うパネル面を任意の角度で対面させた姿勢に支持すればよい。   Moreover, when the panel unit which piled up the display panels 1a-1c, the touch panels 2a-2c, and the antireflection films 3a-3c is a rectangle respectively, the support part 4 shown in FIG. However, the present invention is not limited to this. For example, when the panel unit is a pentagon or other free shape, the support unit 4 supports the posture in which the adjacent panel surfaces face each other at an arbitrary angle so that there is no gap between the panel surfaces. do it.

次に、図2を用いて、PC5の詳細を説明する。このPC5は、ディスプレイパネル1a〜1cに画像を表示し、タッチパネル2a〜2cの出力する信号を取得して近接または接触した物体の位置を表わす座標値を得るための制御装置である。なお、図2の構成例では、立体ディスプレイ100を使用するために、ディスプレイパネル1aに対応するタッチパネル制御部6a、近接・接触検知部7aおよび表示制御部15aと、ディスプレイパネル1bに対応するタッチパネル制御部6b、近接・接触検知部7bおよび表示制御部15bと、ディスプレイ1cに対応するタッチパネル制御部6c、近接・接触検知部7cおよび表示制御部15cとを備えている。一方、図5に示す湾曲ディスプレイ101を使用する場合は、タッチパネル制御部、近接・接触検知部および表示制御部を1つずつ備える構成でよい。   Next, details of the PC 5 will be described with reference to FIG. The PC 5 is a control device that displays images on the display panels 1a to 1c, acquires signals output from the touch panels 2a to 2c, and obtains coordinate values representing the positions of objects that are close to or in contact with. In the configuration example of FIG. 2, in order to use the stereoscopic display 100, the touch panel control unit 6a corresponding to the display panel 1a, the proximity / contact detection unit 7a, the display control unit 15a, and the touch panel control corresponding to the display panel 1b. Unit 6b, proximity / contact detection unit 7b and display control unit 15b, touch panel control unit 6c corresponding to display 1c, proximity / contact detection unit 7c, and display control unit 15c. On the other hand, when the curved display 101 shown in FIG. 5 is used, the touch panel control unit, the proximity / contact detection unit, and the display control unit may be provided one by one.

タッチパネル制御部6a〜6cは、タッチパネル2a〜2cそれぞれの出力する信号を取得し、電荷分布に基づいて、パネルの近接空間に物体(手、指など)がある場合に電荷の変位を検知する。このとき、複数のタッチパネル2a〜2cを隣り合わせで使用するために、互いの影響を受けやすい。そこで、タッチパネル制御部6a〜6cは、使用を想定する空間内に手をかざした状態で、タッチパネル2a〜2cの信号を取得してキャリブレーションを実行し、このキャリブレーション結果を反映して、安定して電荷変位を検知できるよう設定しておく。
近接・接触検知部7a〜7cは、タッチパネル制御部6a〜6cそれぞれの検知結果に基づいて、例えば指のタッチパネル2a〜2cに対する3次元の相対空間座標を得る。指がタッチパネル2a〜2cに接触した場合は、タッチパネル2a〜2cの面上を指す2次元の相対空間座標を得る。
The touch panel control units 6a to 6c acquire signals output from the touch panels 2a to 2c, and detect charge displacement when an object (such as a hand or a finger) is present in the adjacent space of the panel based on the charge distribution. At this time, since the plurality of touch panels 2a to 2c are used side by side, they are easily influenced by each other. Therefore, the touch panel control units 6a to 6c acquire the signals of the touch panels 2a to 2c while holding their hands in the space assumed to be used, perform calibration, and reflect the calibration result to stabilize Then, it is set so that the charge displacement can be detected.
The proximity / contact detection units 7a to 7c obtain, for example, three-dimensional relative spatial coordinates of the finger touch panels 2a to 2c based on the detection results of the touch panel control units 6a to 6c. When the finger touches the touch panels 2a to 2c, two-dimensional relative space coordinates pointing on the surfaces of the touch panels 2a to 2c are obtained.

操作指方向判定部8は、近接・接触検知部7a〜7cそれぞれの相対空間座標から、指の立体ディスプレイ100に対する3次元の絶対空間座標を計算し、さらにこの絶対空間座標から指の形状および方向などを判定する。タッチパネル2a〜2cで互いに垂直な3面の電荷分布を測定できるため、1面の板状タッチパネルに比べて、指でOK印の丸を作るなどのより複雑な指のサインを認識することが可能となる。   The operation finger direction determination unit 8 calculates a three-dimensional absolute space coordinate of the finger relative to the three-dimensional display 100 from the relative space coordinates of the proximity / contact detection units 7a to 7c, and further calculates the shape and direction of the finger from the absolute space coordinate. Etc. are judged. The touch panel 2a-2c can measure the distribution of charges on three surfaces perpendicular to each other, making it possible to recognize more complicated finger signs, such as making OK circles with a finger, compared to a single-plate touch panel. It becomes.

視点検出部9は、操作指方向判定部8の判定した指方向に応じた視点の位置を推定する。例えば、操作指方向判定部8が人差し指を伸ばした握り拳の形状と、その人差し指の伸びる方向を判定した場合、視点検出部9は握り拳と人差し指の位置関係から左手か右手かを判断し、また、左手か右手かの判断結果と人差し指の方向とから立体ディスプレイ100に対するユーザの方向を判断し、さらに、電荷量から大人か子供かを判断して体格に合わせた距離を計算して、立体ディスプレイ100に対する視点位置の絶対空間座標を推定する。
なお、視点検出部9に代えて、画像センサを用いて視点位置の絶対空間座標を測定してもよい。
The viewpoint detection unit 9 estimates the position of the viewpoint according to the finger direction determined by the operation finger direction determination unit 8. For example, when the operation finger direction determination unit 8 determines the shape of the fist with the index finger extended and the direction in which the index finger extends, the viewpoint detection unit 9 determines whether the left hand or the right hand is based on the positional relationship between the grip fist and the index finger. The direction of the user with respect to the stereoscopic display 100 is determined from the determination result of the left hand or the right hand and the direction of the index finger, and further, the distance according to the physique is calculated by determining whether the user is an adult or a child from the charge amount, and the stereoscopic display 100 Estimate the absolute space coordinates of the viewpoint position for.
Instead of the viewpoint detection unit 9, an absolute space coordinate of the viewpoint position may be measured using an image sensor.

センシング座標変換部10は、操作指方向判定部8の算出した指先の絶対空間座標を、視点検出部9の推定した視点位置の絶対空間座標から見ている状態の凸状の立体画像上の座標に変換する。立体ディスプレイ100に表示された2次元画像が凸状の立体画像に錯覚される効果があるので、表示画像の2次元座標と、ユーザが視点位置から見ている状態の立体画像の3次元座標とは一致しない。そこで、センシング座標変換部10は、視点検出部9が推定した視点の絶対空間座標から見た状態の立体画像の座標系を算出し、指先の絶対空間座標をこの座標系に変換する。   The sensing coordinate conversion unit 10 is a coordinate on a convex stereoscopic image in which the absolute space coordinates of the fingertip calculated by the operation finger direction determination unit 8 are viewed from the absolute space coordinates of the viewpoint position estimated by the viewpoint detection unit 9. Convert to Since there is an effect that the two-dimensional image displayed on the three-dimensional display 100 is illusioned to be a convex three-dimensional image, the two-dimensional coordinates of the display image and the three-dimensional coordinates of the three-dimensional image that the user is viewing from the viewpoint position Does not match. Therefore, the sensing coordinate conversion unit 10 calculates the coordinate system of the stereoscopic image viewed from the absolute space coordinates of the viewpoint estimated by the viewpoint detection unit 9, and converts the absolute space coordinates of the fingertip into this coordinate system.

空間座標判定部11は、センシング座標変換部10の変換した指示位置の座標が、ディスプレイパネル1a〜1cに表示する画像の所定座標または所定エリアに合致するか否かを判定する。これにより、立体表示している操作アイコン等に相当する所定エリアを、ユーザが指で指示したか否かを判定する。   The spatial coordinate determination unit 11 determines whether or not the coordinates of the designated position converted by the sensing coordinate conversion unit 10 match a predetermined coordinate or a predetermined area of the image displayed on the display panels 1a to 1c. Thus, it is determined whether or not the user has designated with a finger a predetermined area corresponding to the operation icon or the like displayed in 3D.

全体制御部12は、入力系のタッチパネル制御部6a〜6c、近接・接触検知部7a〜7c、操作指方向判定部8、視点検出部9、センシング座標変換部10および空間座標判定部11と、出力系のコンテンツ変換部13、画像形状変換部14および表示制御部15a〜15cの双方を制御し、種々のアプリケーションプログラムを実行する。全体制御部12は、例えば、空間座標判定部11からユーザが操作アイコンを指示した旨を表わす判定結果を受け、その操作アイコンに関連付けられたアプリケーションプログラムを実行する。   The overall control unit 12 includes input touch panel control units 6a to 6c, proximity / contact detection units 7a to 7c, an operation finger direction determination unit 8, a viewpoint detection unit 9, a sensing coordinate conversion unit 10, and a spatial coordinate determination unit 11. Controls both the output content conversion unit 13, the image shape conversion unit 14, and the display control units 15a to 15c, and executes various application programs. For example, the overall control unit 12 receives a determination result indicating that the user has designated an operation icon from the spatial coordinate determination unit 11, and executes an application program associated with the operation icon.

コンテンツ変換部13は、凹型の立体ディスプレイ100に表示する画像を凸と錯覚させるために、頂点と見せたい部分を明るく表示するように、明度変換を行う。明度変換の一例を図8に示す。
図8は、立体ディスプレイ100の外観斜視図であり、ディスプレイパネル1a〜1cの明度変換例を示す。ディスプレイパネル1a〜1cの3つの頂点が集まる中央部Aは、凹型の立体ディスプレイ100の最深部であり、通常、暗くなることが多い。これを凸と錯覚させるために、頂点に錯覚させる中央部Aの明度を高くし、この中央部Aから手前側の対角部Bにかけて自然に暗くなっていくように明度を低くしていく。
The content conversion unit 13 performs lightness conversion so that a portion desired to be viewed as a vertex is displayed brightly in order to make the image displayed on the concave stereoscopic display 100 an illusion of being convex. An example of brightness conversion is shown in FIG.
FIG. 8 is an external perspective view of the stereoscopic display 100, and shows an example of brightness conversion of the display panels 1a to 1c. The central part A where the three vertices of the display panels 1a to 1c gather is the deepest part of the concave three-dimensional display 100 and is usually often dark. In order to make this an illusion of convexity, the brightness of the central part A illusioned at the apex is increased, and the brightness is lowered so that it gradually darkens from the central part A to the diagonal part B on the near side.

画像形状変換部14は、コンテンツ変換部13で明度変換した画像の形状を、射影変換等の一般的な手法を用いて変形する画像処理を行う。例えば、図5に示す湾曲ディスプレイ101を使用した場合などに、湾曲内側凹面の表示面形状に合うよう画像の形状を変換する。
従って、平面状のディスプレイパネル1a〜1cで構成された立体ディスプレイ100を使用する場合、この画像形状変換部14は不要である。
The image shape conversion unit 14 performs image processing for transforming the shape of the image whose brightness has been converted by the content conversion unit 13 using a general method such as projective conversion. For example, when the curved display 101 shown in FIG. 5 is used, the shape of the image is converted to match the display surface shape of the curved inner concave surface.
Therefore, when using the three-dimensional display 100 comprised by the planar display panels 1a-1c, this image shape conversion part 14 is unnecessary.

表示制御部15a〜15cは、コンテンツ変換部13または画像形状変換部14の変換した画像データをディスプレイパネル1a〜1cへ出力し、同期して表示する。   The display control units 15a to 15c output the image data converted by the content conversion unit 13 or the image shape conversion unit 14 to the display panels 1a to 1c and display them synchronously.

次に、図9および図10を用いて、情報表示システムの動作例を説明する。なお、図9および図10は例であり、これら以外の目的で情報表示システムを使用可能なことは言うまでもない。   Next, an operation example of the information display system will be described with reference to FIGS. 9 and 10. FIGS. 9 and 10 are examples, and it goes without saying that the information display system can be used for other purposes.

図9は、立体ディスプレイ100にペンギンの画像を表示した状態を示す図である。全体制御部12の実行するアプリケーションプログラムは、指の動きに合わせてペンギンの向きを左右反転させるというものである。
図9(a)は、図面紙上向かって左方向を向いたペンギン画像の立体表示に対して、ユーザが指をかざした状態を表わす。このとき、タッチパネル制御部6a〜6cがタッチパネル2a〜2cの電荷分布の変位を検知し、近接・接触検知部7a〜7cが指の相対空間座標をそれぞれ検知する。そして、操作指方向判定部8が各相対空間座標を絶対空間座標に変換して指の方向を判定し、視点検出部9がユーザの視点位置を推定する。図9(a)の場合、右から左に向かって右手の人差し指が伸びているため、ユーザの視点は正面より右方向に在ると推定される。そして、センシング座標変換部10が指先の絶対空間座標をユーザの見ている状態の立体画像上の座標に変換し、空間座標判定部11は、指先の座標がペンギンのくちばし部分を指していることを判定して全体制御部12へ通知する。
FIG. 9 is a diagram illustrating a state in which a penguin image is displayed on the stereoscopic display 100. The application program executed by the overall control unit 12 is to invert the direction of the penguin in accordance with the movement of the finger.
FIG. 9A shows a state where the user holds his / her finger over the stereoscopic display of the penguin image facing leftward on the drawing paper. At this time, the touch panel control units 6a to 6c detect the displacement of the charge distribution of the touch panels 2a to 2c, and the proximity / contact detection units 7a to 7c detect the relative space coordinates of the finger, respectively. Then, the operating finger direction determination unit 8 converts each relative space coordinate into an absolute space coordinate to determine the finger direction, and the viewpoint detection unit 9 estimates the viewpoint position of the user. In the case of FIG. 9A, since the index finger of the right hand extends from right to left, it is estimated that the user's viewpoint is in the right direction from the front. Then, the sensing coordinate conversion unit 10 converts the absolute spatial coordinates of the fingertip into coordinates on the stereoscopic image that the user is viewing, and the spatial coordinate determination unit 11 indicates that the fingertip coordinate points to the beak part of the penguin. Is notified to the overall control unit 12.

ユーザの指が図9(a)から図9(b)の位置へ移動すると、PC5が上記説明と同様に処理を行って、空間座標判定部11から全体制御部12へ、指先の座標がペンギンのくちばし部分より右の位置を指していることを表わす情報が出力される。全体制御部12は、指先の座標が左から右へ、所定座標まで移動すると、左右反転したペンギンの画像をコンテンツ変換部13に出力する。そして、コンテンツ変換部13が画像の明度を調整し、表示制御部15a〜15cがディスプレイパネル1a〜1cにその画像を表示する。よって、図9(b)のように図面紙上向かって右方向を向いたペンギン画像が立体ディスプレイ100に表示され、ユーザの指の動きに合わせてペンギンの向きが変わったことになる。   When the user's finger moves from the position shown in FIG. 9 (a) to the position shown in FIG. 9 (b), the PC 5 performs the same processing as described above, and the coordinate of the fingertip is changed to the penguin from the spatial coordinate determination unit 11 to the overall control unit 12. Information indicating that the position is to the right of the beak portion is output. When the coordinate of the fingertip moves from left to right to a predetermined coordinate, the overall control unit 12 outputs a penguin image that is horizontally reversed to the content conversion unit 13. And the content conversion part 13 adjusts the brightness of an image, and the display control parts 15a-15c display the image on the display panels 1a-1c. Accordingly, as shown in FIG. 9B, a penguin image facing rightward on the drawing paper is displayed on the stereoscopic display 100, and the orientation of the penguin is changed in accordance with the movement of the user's finger.

以上の操作中は、ユーザの視点は基本的に移動しない場合が多いが、指の操作が終了した後は、視点を移動すると、ペンギンの画像は同一であっても錯覚によりペンギンの向きが追従してくる効果が得られる。   During the above operations, the user's viewpoint does not basically move in many cases. However, when the viewpoint is moved after the finger operation is completed, the penguin's orientation follows the illusion even if the image of the penguin is the same. The effect that comes is obtained.

図10は、情報表示システムをユーザインタフェースに用いた例であり、3次元状の操作アイコンの一例としてダイヤルの画像を立体ディスプレイ100に表示した状態を示す図である。全体制御部12の実行するアプリケーションプログラムは、ユーザの指の動きに合わせてダイヤルを回転させるというものである。
図10(a)は、ツマミが図面紙上の上下方向に向いたダイヤル画像の立体表示に対して、ユーザがダイヤルをつまむジェスチャをした状態を表わす。このとき、タッチパネル制御部6a〜6cがタッチパネル2a〜2cの電荷分布の変位を検知し、近接・接触検知部7a〜7cが指の相対空間座標をそれぞれ検知する。そして、操作指方向判定部8が各相対空間座標を絶対空間座標に変換して指の方向を判定すると共に、指がダイヤルをつまむ形状であると判定する。この例では、ダイヤルを回転させる操作中には視点の移動は無いと想定し、指先または手が初めてセンシングエリアに進入した座標と現在の座標とから指の進入方向を推定して、指の方向とする。そして、視点検出部9が指の方向等の情報に基づいてユーザの視点位置を推定する。センシング座標変換部10は、指の絶対空間座標をユーザの見ている状態の立体画像上の座標に変換し、空間座標判定部11は、指先の座標がダイヤルのツマミ部分をつまんでいることを判定して全体制御部12へ通知する。
FIG. 10 is an example in which the information display system is used as a user interface, and shows a state in which a dial image is displayed on the stereoscopic display 100 as an example of a three-dimensional operation icon. The application program executed by the overall control unit 12 rotates the dial in accordance with the movement of the user's finger.
FIG. 10A shows a state in which the user has made a gesture of pinching the dial with respect to the stereoscopic display of the dial image with the knob directed in the vertical direction on the drawing paper. At this time, the touch panel control units 6a to 6c detect the displacement of the charge distribution of the touch panels 2a to 2c, and the proximity / contact detection units 7a to 7c detect the relative space coordinates of the finger, respectively. Then, the operation finger direction determination unit 8 converts each relative space coordinate to an absolute space coordinate to determine the direction of the finger, and determines that the finger has a shape that pinches the dial. In this example, it is assumed that there is no movement of the viewpoint during the operation of rotating the dial, and the finger approach direction is estimated from the coordinates where the fingertip or hand first entered the sensing area and the current coordinates. And Then, the viewpoint detection unit 9 estimates the user's viewpoint position based on information such as the finger direction. The sensing coordinate conversion unit 10 converts the absolute spatial coordinates of the finger into coordinates on the stereoscopic image that the user is viewing, and the spatial coordinate determination unit 11 indicates that the fingertip coordinates pinch the dial knob. Determine and notify the overall control unit 12.

ユーザの指が図10(a)から図10(b)の位置へ移動すると、PC5が上記説明と同様に処理を行って、空間座標判定部11から全体制御部12へ、左右方向に向いたツマミをつまむジェスチャであることを表わす情報が出力される。全体制御部12は、このジェスチャの座標に合わせて、ツマミの方向を回転させたダイヤルの画像をコンテンツ変換部13に出力する。そして、コンテンツ変換部13が画像の明度を調整し、表示制御部15a〜15cがディスプレイパネル1a〜1cにその画像を表示する。よって、図10(b)のようにツマミが図面紙上向かって左右方向を向いたダイヤル画像が立体ディスプレイ100に表示され、ユーザの指の動きに合わせてダイヤルの向きが変わったことになる。   When the user's finger moves from the position shown in FIG. 10 (a) to the position shown in FIG. 10 (b), the PC 5 performs the same process as described above, and turns from the spatial coordinate determination unit 11 to the overall control unit 12 in the left-right direction. Information indicating that the gesture is for pinching the knob is output. The overall control unit 12 outputs a dial image in which the direction of the knob is rotated in accordance with the coordinates of the gesture to the content conversion unit 13. And the content conversion part 13 adjusts the brightness of an image, and the display control parts 15a-15c display the image on the display panels 1a-1c. Accordingly, as shown in FIG. 10B, a dial image in which the knob is directed in the left-right direction on the drawing paper is displayed on the three-dimensional display 100, and the direction of the dial is changed in accordance with the movement of the user's finger.

映像をユーザインタフェースに使用する場合、操作感を向上させるために、映像を視点に追従させる必要があるが、従来のユーザインタフェース装置では映像を視点位置に追従させるために特別な機材(例えば、カメラと画像処理装置から成るアイトラッキングシステムと呼ばれる機材)を使用する必要があった。これに対し、本実施の形態1に係る情報表示システムは錯覚により画像が視点に追従するので、視点追従のための特別な機材を必要とせず、かつ、反応速度に遅延が生じない。   When using a video for the user interface, it is necessary to follow the video to the viewpoint in order to improve the operational feeling. However, in the conventional user interface device, special equipment (for example, a camera) is required to follow the video to the viewpoint position. And a device called an eye tracking system comprising an image processing device). In contrast, in the information display system according to the first embodiment, the image follows the viewpoint due to the illusion, so no special equipment for tracking the viewpoint is required and the reaction speed is not delayed.

図11は、情報表示システムをユーザインタフェースに用いた例であり、手の形状を模した3次元ベクトルアイコンを立体ディスプレイ100に表示した状態を示す。全体制御部12の実行するアプリケーションプログラムは、ユーザの指の動きに合わせて3次元ベクトルアイコンの位置と向きを変更するというものである。
この場合も、PC5が上記説明と同様に処理を行って、空間座標判定部11から全体制御部12へ、ユーザの指の座標と方向を表わす情報が出力される。全体制御部12は、その情報に従って、指の座標に相当する画面上に、指の方向と同じ方向を向いた3次元ベクトルアイコンを表示させる。
FIG. 11 is an example in which the information display system is used for a user interface, and shows a state where a three-dimensional vector icon imitating the shape of a hand is displayed on the three-dimensional display 100. The application program executed by the overall control unit 12 changes the position and orientation of the three-dimensional vector icon in accordance with the movement of the user's finger.
Also in this case, the PC 5 performs the same processing as described above, and information representing the coordinates and direction of the user's finger is output from the spatial coordinate determination unit 11 to the overall control unit 12. The overall control unit 12 displays a three-dimensional vector icon oriented in the same direction as the direction of the finger on the screen corresponding to the coordinate of the finger according to the information.

立体ディスプレイ100に表示される3次元ベクトルアイコンを操作することにより、ユーザは、座標と方向を所望の値に調整することができる。従って、指先よりも小さい座標を指定可能になる。また、ユーザは、空中の立体表示に対して操作しているときの操作感(フィードバック)を視覚的に得ることができるので、確実な操作を行うことができる。   By operating the three-dimensional vector icon displayed on the stereoscopic display 100, the user can adjust the coordinates and direction to desired values. Therefore, coordinates smaller than the fingertip can be designated. In addition, since the user can visually obtain an operational feeling (feedback) when operating on a stereoscopic display in the air, a reliable operation can be performed.

なお、図9〜図11では、説明のために、各パネルの継ぎ目を目立たせてディスプレイパネル1a〜1cの区別をつけているが、実際には、各パネルは隙間無く接しているので継ぎ目が目立たない。   9 to 11, for the sake of explanation, the seams of the panels are made conspicuous to distinguish the display panels 1a to 1c. However, since the panels are actually in contact with each other with no gaps, the seams are formed. Inconspicuous.

以上より、実施の形態1によれば、情報表示システムは、表示面を設けたディスプレイパネル1a〜1cとユーザの指の近接および接触を検知するタッチパネル2a〜2cとを重ねた3組のパネルユニットを、これら表示面が凹形状になるよう構成した立体ディスプレイ100と、タッチパネル2a〜2cの出力に基づいてディスプレイパネル1a〜1cの表示を制御するPC5とを有し、PC5は、凹形状の表示面に表示する画像を凸状の立体画像と錯覚させるために、頂点に錯覚させる領域を他の領域より明るく表示する明度変換を行うコンテンツ変換部13と、タッチパネル2a〜2cの出力からディスプレイパネル1a〜1cに対する指の位置を表わす座標を算出する近接・接触検知部7a〜7cと、近接・接触検知部7a〜7cの算出結果から指の方向を判定する操作指方向判定部8と、操作指方向判定部8の判定結果から立体ディスプレイ100に対するユーザの視点位置を推定する視点検出部9と、指の位置を表わす座標を視点検出部9の推定した視点位置から立体ディスプレイ100を見た状態の立体画像上の座標に変換するセンシング座標変換部10と、センシング座標変換部10で変換した立体画像上の指の座標がこの立体画像上の所定領域に重なるか否かを判定する空間座標判定部11と、空間座標判定部11の判定結果に基づいて立体ディスプレイ100に表示する画像を変更する全体制御部12とを備えるように構成した。このため、凸状の立体画像に錯覚させた表示空間と操作空間とを合致させることができる。よって、視点に追従する立体的な映像を指で直接操作できるような、操作感の良いユーザインタフェースを提供することができる。   As described above, according to the first embodiment, the information display system includes three sets of panel units in which the display panels 1a to 1c provided with the display surface and the touch panels 2a to 2c for detecting the proximity and contact of the user's finger are overlapped. The three-dimensional display 100 is configured such that the display surface has a concave shape, and the PC 5 that controls the display of the display panels 1a to 1c based on the outputs of the touch panels 2a to 2c. In order to make the image displayed on the surface an illusion of a convex three-dimensional image, the content conversion unit 13 that performs brightness conversion for displaying the region illusioned at the vertex brighter than the other regions, and the output of the touch panels 2a to 2c from the display panel 1a To the proximity / contact detection units 7a to 7c for calculating coordinates representing the position of the finger with respect to ˜1c, and the proximity / contact detection units 7a to 7c. The operation finger direction determination unit 8 that determines the direction of the finger from the output result, the viewpoint detection unit 9 that estimates the user's viewpoint position with respect to the stereoscopic display 100 from the determination result of the operation finger direction determination unit 8, and the coordinates that represent the finger position Is converted from the viewpoint position estimated by the viewpoint detection unit 9 into coordinates on the stereoscopic image in the state of viewing the stereoscopic display 100, and the coordinates of the finger on the stereoscopic image converted by the sensing coordinate conversion unit 10 are A spatial coordinate determination unit 11 that determines whether or not it overlaps a predetermined area on the stereoscopic image, and an overall control unit 12 that changes an image displayed on the stereoscopic display 100 based on the determination result of the spatial coordinate determination unit 11. It was configured as follows. For this reason, the display space illusioned with the convex stereoscopic image and the operation space can be matched. Therefore, it is possible to provide a user interface with a good operational feeling so that a three-dimensional image following the viewpoint can be directly operated with a finger.

また、実施の形態1によれば、立体ディスプレイ100は、凹形状に構成した表示面の視野角を当該表示面の外側に向けて設定し、当該表示面の中心方向の輝度を低くするようにしたので、パネル面同士の反射を低減することができる。   Further, according to the first embodiment, the stereoscopic display 100 sets the viewing angle of the display surface configured in a concave shape toward the outside of the display surface so as to reduce the luminance in the center direction of the display surface. Therefore, reflection between panel surfaces can be reduced.

また、実施の形態1によれば、立体ディスプレイ100は、表示面の外側を向いた指向性を有する反射防止フィルム3a〜3cを備えるように構成したので、表示面の中心方向の反射を少なくして、パネル面同士の反射を低減することができる。   In addition, according to the first embodiment, the stereoscopic display 100 is configured to include the antireflection films 3a to 3c having directivity facing the outside of the display surface, so that reflection in the center direction of the display surface is reduced. Thus, reflection between panel surfaces can be reduced.

また、実施の形態1によれば、PC5の全体制御部12は、センシング座標変換部10の出力する指の座標の位置に、操作指方向判定部8の判定した指の方向を示す3次元ベクトルアイコンを表示して、当該指の動きに合わせて3次元ベクトルアイコンの向きを変更するように構成した。このため、指先で直接操作することが難しい細かい画像を表示したユーザインタフェースにおいて、ユーザはこの細かい画像を操作するのではなく、視点と指に合わせて動く3次元ベクトルアイコンを操作することによって細かい操作を行うことができる。よって、操作感の良いユーザインタフェースを提供することができる。   Further, according to the first embodiment, the overall control unit 12 of the PC 5 has a three-dimensional vector indicating the finger direction determined by the operating finger direction determination unit 8 at the position of the finger coordinates output by the sensing coordinate conversion unit 10. An icon is displayed, and the direction of the three-dimensional vector icon is changed according to the movement of the finger. For this reason, in a user interface that displays a fine image that is difficult to directly operate with the fingertip, the user does not operate the fine image, but operates the three-dimensional vector icon that moves according to the viewpoint and the finger. It can be performed. Therefore, it is possible to provide a user interface with a good operational feeling.

また、実施の形態1によれば、立体ディスプレイを、表示面が凹形状に湾曲した湾曲ディスプレイ101で構成し、PC5は、画像を射影変換して湾曲ディスプレイ101の表示面の形状に変形する画像形状変換部14を備えるように構成にした。このため、ディスプレイパネルが単数の場合でも、物理的に凹形状の表示面を構成し、視点に追従する立体的な映像を指で直接操作できるような、操作感の良いユーザインタフェースを提供することができる。   Further, according to the first embodiment, the stereoscopic display is configured by the curved display 101 whose display surface is curved in a concave shape, and the PC 5 is an image that transforms the image into a shape of the display surface of the curved display 101 by projective transformation. The configuration is configured to include the shape conversion unit 14. For this reason, even when a single display panel is used, a user interface with a good operational feeling is provided so that a three-dimensional image following a viewpoint can be directly operated with a finger by forming a physically concave display surface. Can do.

なお、上記説明では、立体ディスプレイ100または湾曲ディスプレイ101を凹型にして、凹形状の表示面に表示した画像を凸状の立体画像と錯覚させる構成例を説明したが、反対に、立体ディスプレイ100または湾曲ディスプレイ101を凸型にして、凸形状の表示面に表示した画像を凹状の立体画像と錯覚させる構成にしてもよい。
この構成の場合、コンテンツ変換部13は、凸面に表示した画像を凹と錯覚させるために、窪みに錯覚させる領域を暗く表示させる明度変換を行う。凸型の立体ディスプレイ100であれば、ディスプレイパネル1a〜1cの3つの頂点が集まる凸側の中央部の明度を低くして窪みに見せ、この中央部から凹んだ対角部にかけて自然に明るくなっていくように明度を高くしていけばよい。
In the above description, the configuration example in which the stereoscopic display 100 or the curved display 101 is concave and the image displayed on the concave display surface is illusioned with the convex stereoscopic image has been described. The curved display 101 may be convex, and the image displayed on the convex display surface may be illusioned with the concave stereoscopic image.
In the case of this configuration, the content conversion unit 13 performs lightness conversion for darkly displaying the region to be illusioned in the depression in order to make the image displayed on the convex surface an illusion. In the case of the convex three-dimensional display 100, the lightness of the central part on the convex side where the three vertices of the display panels 1a to 1c are gathered is lowered to make it appear as a dent, and it naturally brightens from the central part to the recessed diagonal part. You should increase the brightness as you go.

上記以外にも、本願発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。   In addition to the above, within the scope of the invention, the invention of the present application can be modified with any component of the embodiment or omitted with any component of the embodiment.

1a〜1c ディスプレイパネル、 2a〜2c タッチパネル、 3a〜3c 反射防止フィルム、 4 支持部、 5 PC、 6a〜6c タッチパネル制御部、 7a〜7c 近接・接触検知部、 8 操作指方向判定部、 9 視点検出部、 10 センシング座標変換部、 11 空間座標判定部、 12 全体制御部、 13 コンテンツ変換部、 14 画像形状変換部、 15a〜15c 表示制御部、 100 立体ディスプレイ、 101 湾曲ディスプレイ、 A 中央部、 B 対角部。   1a to 1c display panel, 2a to 2c touch panel, 3a to 3c antireflection film, 4 support unit, 5 PC, 6a to 6c touch panel control unit, 7a to 7c proximity / contact detection unit, 8 operation finger direction determination unit, 9 viewpoint Detection unit, 10 sensing coordinate conversion unit, 11 spatial coordinate determination unit, 12 overall control unit, 13 content conversion unit, 14 image shape conversion unit, 15a to 15c display control unit, 100 stereoscopic display, 101 curved display, A center unit, B Diagonal part.

Claims (6)

表示面を設けたディスプレイパネルとユーザの指の近接および接触を検知するタッチパネルとを重ねたパネルユニットを、当該表示面が凹形状または凸形状になるよう構成した立体ディスプレイと、
前記タッチパネルの出力に基づいて前記ディスプレイパネルの表示を制御する制御装置とを有し、
前記制御装置は、
前記凹形状の表示面に表示する画像を凸状の立体画像と錯覚させるために、頂点に錯覚させる領域を他の領域より明るく表示する明度変換を行うか、または、前記凸形状の表示面に表示する画像を凹状の立体画像と錯覚させるために、窪みに錯覚させる領域を他の領域より暗く表示する明度変換を行うコンテンツ変換部と、
前記タッチパネルの出力から、前記立体ディスプレイに対する前記指の位置を表わす座標を算出する近接・接触検知部と、
前記近接・接触検知部の算出結果から前記指の方向を判定する操作指方向判定部と、
前記操作指方向判定部の判定結果から、前記立体ディスプレイに対する前記ユーザの視点位置を推定する視点検出部と、
前記指の位置を表わす座標を、前記視点検出部の推定した視点位置から前記立体ディスプレイを見た状態の前記立体画像上の座標に変換するセンシング座標変換部と、
前記センシング座標変換部で変換した前記立体画像上の指の座標が、前記立体画像上の所定領域に重なるか否かを判定する空間座標判定部と、
前記空間座標判定部の判定結果に基づいて、前記立体ディスプレイに表示する画像を変更する制御部とを備えることを特徴とする情報表示システム。
A three-dimensional display configured such that a display panel provided with a display surface and a touch panel for detecting the proximity and contact of a user's finger are overlapped so that the display surface has a concave shape or a convex shape;
A control device for controlling the display of the display panel based on the output of the touch panel;
The controller is
In order to make the image displayed on the concave display surface an illusion with a convex three-dimensional image, brightness conversion is performed to display a region illusioned at the vertex brighter than other regions, or on the convex display surface In order to make the image to be displayed an illusion of a concave stereoscopic image, a content conversion unit that performs brightness conversion to display an area illusion of the depression darker than other areas,
From the output of the touch panel, a proximity / contact detection unit that calculates coordinates representing the position of the finger with respect to the stereoscopic display;
An operation finger direction determination unit that determines the direction of the finger from the calculation result of the proximity / contact detection unit;
From a determination result of the operating finger direction determination unit, a viewpoint detection unit that estimates the viewpoint position of the user with respect to the stereoscopic display;
A sensing coordinate conversion unit that converts coordinates representing the position of the finger into coordinates on the stereoscopic image in a state of viewing the stereoscopic display from the viewpoint position estimated by the viewpoint detection unit;
A spatial coordinate determination unit that determines whether or not the finger coordinates on the stereoscopic image converted by the sensing coordinate conversion unit overlap a predetermined region on the stereoscopic image;
An information display system comprising: a control unit that changes an image displayed on the three-dimensional display based on a determination result of the spatial coordinate determination unit.
立体ディスプレイは、平面状のパネルユニットを複数組み合わせ、当該組み合わさった表示面が凹形状または凸形状に構成されることを特徴とする請求項1記載の情報表示システム。   The information display system according to claim 1, wherein the three-dimensional display includes a combination of a plurality of planar panel units, and the combined display surface is configured in a concave shape or a convex shape. 立体ディスプレイは、表示面が凹形状または凸形状に湾曲した1組のパネルユニットで構成され、
制御装置は、画像を射影変換して前記表示面の形状に変形する画像形状変換部を備えることを特徴とする請求項1記載の情報表示システム。
The three-dimensional display is composed of a set of panel units whose display surfaces are curved in a concave shape or a convex shape,
The information display system according to claim 1, wherein the control device includes an image shape conversion unit that performs projective conversion of an image and deforms the image into a shape of the display surface.
立体ディスプレイは、凹形状に構成した表示面の視野角を当該表示面の外側に向けて設定し、当該表示面の中心方向の輝度を低くしたことを特徴とする請求項1から請求項3のうちのいずれか1項記載の情報表示システム。   The three-dimensional display is characterized in that the viewing angle of the display surface configured in a concave shape is set toward the outside of the display surface to reduce the luminance in the center direction of the display surface. The information display system according to any one of the above. 立体ディスプレイは、表示面の外側を向いた指向性を有する反射防止フィルムを備えることを特徴とする請求項1から請求項4のうちのいずれか1項記載の情報表示システム。   The information display system according to any one of claims 1 to 4, wherein the three-dimensional display includes an antireflection film having directivity facing the outside of the display surface. 制御装置の制御部は、センシング座標変換部の出力する指の座標の位置に、操作指方向判定部の判定した当該指の方向を示す3次元ベクトルアイコンを表示して、当該指の動きに合わせて当該3次元ベクトルアイコンの向きを変更することを特徴とする請求項1から請求項5のうちのいずれか1項記載の情報表示システム。   The control unit of the control device displays a three-dimensional vector icon indicating the direction of the finger determined by the operating finger direction determination unit at the position of the finger coordinate output from the sensing coordinate conversion unit, and matches the movement of the finger. 6. The information display system according to claim 1, wherein the direction of the three-dimensional vector icon is changed.
JP2011249733A 2011-11-15 2011-11-15 Information display system Expired - Fee Related JP5822666B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011249733A JP5822666B2 (en) 2011-11-15 2011-11-15 Information display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011249733A JP5822666B2 (en) 2011-11-15 2011-11-15 Information display system

Publications (2)

Publication Number Publication Date
JP2013105084A JP2013105084A (en) 2013-05-30
JP5822666B2 true JP5822666B2 (en) 2015-11-24

Family

ID=48624642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011249733A Expired - Fee Related JP5822666B2 (en) 2011-11-15 2011-11-15 Information display system

Country Status (1)

Country Link
JP (1) JP5822666B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021075118A1 (en) * 2019-10-15 2021-04-22 ソニー株式会社 Image display device
JP2021071944A (en) 2019-10-31 2021-05-06 ソニー株式会社 Image display device
CN115812173B (en) * 2021-05-20 2025-07-18 京东方科技集团股份有限公司 Method for dynamically displaying three-dimensional image objects in a stereoscopic display device, dynamic stereoscopic display device and computer program product

Also Published As

Publication number Publication date
JP2013105084A (en) 2013-05-30

Similar Documents

Publication Publication Date Title
KR101791366B1 (en) Enhanced virtual touchpad and touchscreen
US8933882B2 (en) User centric interface for interaction with visual display that recognizes user intentions
TWI492146B (en) Virtual hand based on combined data
US11487368B2 (en) Operation processing device and operation processing method for controlling display unit based on change in output direction of display unit
TW202105133A (en) Virtual user interface using a peripheral device in artificial reality environments
JP2019087279A (en) Systems and methods of direct pointing detection for interaction with digital device
US9753547B2 (en) Interactive displaying method, control method and system for achieving displaying of a holographic image
CN102681754B (en) Messaging device and information processing method
US20140139433A1 (en) Remote controller and display apparatus, control method thereof
US20100149095A1 (en) Instruction device and communicating method
KR101019254B1 (en) Terminal device with space projection and space touch function and its control method
CN102314301A (en) Virtual touch sensing system and method
JP2014026355A (en) Image display device and image display method
JP5822666B2 (en) Information display system
KR101338958B1 (en) system and method for moving virtual object tridimentionally in multi touchable terminal
CN104407692A (en) Hologram image interaction type display method based on ultrasonic wave, control method and system
KR101535738B1 (en) Smart device with touchless controlling operation function and the control method of using the same
WO2016102948A1 (en) Coherent touchless interaction with stereoscopic 3d images
US20140168165A1 (en) Electronic device with virtual touch function and instant adjusting method for virtual touch
TWI444875B (en) Multi-touch input apparatus and its interface method using data fusion of a single touch sensor pad and imaging sensor
US11604517B2 (en) Information processing device, information processing method for a gesture control user interface
AU2015252151B2 (en) Enhanced virtual touchpad and touchscreen
TWI450183B (en) Track input device and scrolling control method thereof
TW201504925A (en) Method for operating user interface and electronic device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151006

R150 Certificate of patent or registration of utility model

Ref document number: 5822666

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees