Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7604966B2 - Display device, display control method, and display control program - Google Patents
[go: Go Back, main page]

JP7604966B2 - Display device, display control method, and display control program - Google Patents

Display device, display control method, and display control program Download PDF

Info

Publication number
JP7604966B2
JP7604966B2 JP2021046052A JP2021046052A JP7604966B2 JP 7604966 B2 JP7604966 B2 JP 7604966B2 JP 2021046052 A JP2021046052 A JP 2021046052A JP 2021046052 A JP2021046052 A JP 2021046052A JP 7604966 B2 JP7604966 B2 JP 7604966B2
Authority
JP
Japan
Prior art keywords
user
image
lens
light
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021046052A
Other languages
Japanese (ja)
Other versions
JP2022144863A (en
Inventor
文彦 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2021046052A priority Critical patent/JP7604966B2/en
Priority to PCT/JP2022/012769 priority patent/WO2022196809A1/en
Publication of JP2022144863A publication Critical patent/JP2022144863A/en
Priority to US18/464,301 priority patent/US12574494B2/en
Application granted granted Critical
Publication of JP7604966B2 publication Critical patent/JP7604966B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Description

本発明は、表示装置、表示制御方法、及び表示制御プログラムに関する。 The present invention relates to a display device, a display control method, and a display control program.

ユーザの右眼と左眼に異なる視差の画像を視認させて、輻輳の違いを利用して立体画像を表示させる表示装置が知られている。このような表示装置としては、ユーザの頭部に搭載されるいわゆるヘッドマウントディスプレイ(HMD)がある。例えば特許文献1には、ディスプレイと光学系との間にマイクロレンズアレイを配置するヘッドマウントディスプレイが記載されている。 There is a known display device that displays a stereoscopic image by allowing the user's right and left eyes to view images with different parallax and utilizing the difference in convergence. One such display device is a so-called head-mounted display (HMD) that is mounted on the user's head. For example, Patent Document 1 describes a head-mounted display in which a microlens array is disposed between the display and the optical system.

国際公開2019/044501号International Publication No. 2019/044501

ここで、画像を表示する表示装置においては、ユーザに適切に画像を提供することが求められている。 Here, display devices that display images are required to provide appropriate images to users.

本発明は、上記課題に鑑み、ユーザに適切に画像を提供可能な表示装置、表示制御方法、及び表示制御プログラムを提供することを目的とする。 In view of the above problems, the present invention aims to provide a display device, a display control method, and a display control program that can provide appropriate images to a user.

本発明の一態様にかかる表示装置は、光を照射することでユーザに画像を提供する表示部と、前記表示部よりも前記ユーザ側に設けられ、焦点を変更可能なレンズと、前記ユーザの視線の検出結果を取得する視線情報取得部と、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記レンズの焦点を設定する焦点位置設定部と、を含み、前記視線情報取得部は、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定部は、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させる駆動制御部と、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するタイミング設定部と、をさらに含む。 A display device according to one aspect of the present invention includes a display unit that provides an image to a user by irradiating light, a lens that is located on the user side of the display unit and has an adjustable focus, a gaze information acquisition unit that acquires a detection result of the user's gaze, and a focus position setting unit that sets the focus of the lens based on the detection result of the user's gaze and depth information indicating a depth position of the image, wherein the gaze information acquisition unit detects a gaze position in the image at which the user is gazing based on the gaze detection result, and the focus position setting unit sets, based on the depth information of the gaze position, the focus position of the lens as the focus position of the lens at which the difference between the opening angle of the light flux of the light and the opening angle of the light flux when the light is irradiated toward the user from a depth position at the gaze position is within a predetermined range, and further includes a drive control unit that moves the focus position of the lens at a predetermined period, and a timing setting unit that sets the timing of irradiating the light for each pixel based on the focus position of the lens.

本発明の一態様にかかる表示制御方法は、表示部から光を照射することでユーザに画像を提供する表示ステップと、前記ユーザの視線の検出結果を取得する視線情報取得ステップと、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設ステップと、を含み、前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させるステップと、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、をさらに含む。 A display control method according to one aspect of the present invention includes a display step of providing an image to a user by irradiating light from a display unit, a gaze information acquisition step of acquiring a detection result of the user's gaze, and a focus position setting step of setting the focus of a lens that is located on the user side of the display unit and has a variable focus based on the detection result of the user's gaze and depth information indicating a depth position of the image, wherein the gaze information acquisition step detects a gaze position in the image at which the user is gazing based on the gaze detection result, and the focus position setting step sets, based on the depth information of the gaze position, a focus position of the lens at which a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated toward the user from a depth position at the gaze position, within a predetermined range, as the focus position of the lens, and moves the focus position of the lens at a predetermined period, and further includes a step of setting the irradiation timing of the light for each pixel based on the focus position of the lens.

本発明の一態様にかかる表示制御プログラムは、表示部から光を照射することでユーザに画像を提供する表示ステップと、前記ユーザの視線の検出結果を取得する視線情報取得ステップと、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設ステップと、を、コンピュータに実行させ、前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させるステップと、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、をさらに含む。 A display control program according to one aspect of the present invention causes a computer to execute a display step of providing an image to a user by irradiating light from a display unit, a gaze information acquisition step of acquiring a detection result of the user's gaze, and a focus position setting step of setting the focus of a lens that is located on the user side of the display unit and has a variable focus based on the detection result of the user's gaze and depth information indicating a depth position of the image. In the gaze information acquisition step, a gaze position at which the user is gazing at in the image is detected based on the gaze detection result, and in the focus position setting step, a focus position of the lens at which a difference between an opening angle of a luminous flux of the light and an opening angle of the luminous flux when the light is irradiated toward the user from a depth position at the gaze position is within a predetermined range is set as the focus position of the lens, based on the depth information of the gaze position, and the focus position setting step further includes a step of moving the focus position of the lens at a predetermined period, and a step of setting the irradiation timing of the light for each pixel based on the focus position of the lens.

本発明によれば、ユーザに適切に画像を提供できる。 The present invention allows appropriate images to be provided to the user.

図1は、輻輳調節矛盾を説明するための模式図である。FIG. 1 is a schematic diagram for explaining the convergence accommodation conflict. 図2は、第1実施形態に係る表示装置の模式図である。FIG. 2 is a schematic diagram of the display device according to the first embodiment. 図3は、第1実施形態に係る表示装置の各構成の模式図である。FIG. 3 is a schematic diagram of each component of the display device according to the first embodiment. 図4は、第1実施形態に係る制御装置の模式的なブロック図である。FIG. 4 is a schematic block diagram of the control device according to the first embodiment. 図5は、照射タイミングの設定を説明するための模式図である。FIG. 5 is a schematic diagram for explaining the setting of the irradiation timing. 図6は、照射タイミングの設定を説明するための模式図である。FIG. 6 is a schematic diagram for explaining the setting of the irradiation timing. 図7は、照射タイミングの設定を説明するための模式図である。FIG. 7 is a schematic diagram for explaining the setting of the irradiation timing. 図8は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。FIG. 8 is a flowchart illustrating a process flow of the control device according to the present embodiment. 図9は、第2実施形態に係る制御装置の模式的なブロック図である。FIG. 9 is a schematic block diagram of a control device according to the second embodiment. 図10は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。FIG. 10 is a flowchart illustrating a process flow of the control device according to the present embodiment. 図11は、第3実施形態に係る表示装置の各構成の模式図である。FIG. 11 is a schematic diagram of each component of the display device according to the third embodiment. 図12は、第3実施形態に係る制御装置の模式的なブロック図である。FIG. 12 is a schematic block diagram of a control device according to the third embodiment. 図13は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。FIG. 13 is a flowchart illustrating a process flow of the control device according to the present embodiment. 図14は、変形例に係る表示装置の模式図である。FIG. 14 is a schematic diagram of a display device according to a modified example.

以下に、本発明の実施形態を図面に基づいて詳細に説明する。なお、以下に説明する実施形態により本発明が限定されるものではない。 The following describes in detail an embodiment of the present invention with reference to the drawings. Note that the present invention is not limited to the embodiment described below.

(輻輳調節矛盾)
図1は、輻輳調節矛盾を説明するための模式図である。立体画像を表示する表示装置は、ユーザの右眼と左眼に異なる視差の画像を視認させて、輻輳の違いを利用して立体画像を表示させる。立体画像を表示する場合には、実際に画像が表示される表示面がユーザの眼の焦点位置となり、左右の眼の視線が交差する位置が輻輳位置となる。しかし、図1の例に示すように、立体画像においては、立体画像の奥行き方向であるZ方向における焦点位置PO1と輻輳位置PO2との位置がずれることがある。焦点位置PO1と輻輳位置PO2との位置がずれると、いわゆる輻輳調節矛盾が起こり、眼精疲労やいわゆる3D酔いなどの原因となる。そのため、輻輳調節矛盾を抑制することが求められている。なお、図1の(A)は、焦点位置PO1が輻輳位置PO2よりもユーザの眼EY側にあり、図1の(B)は、輻輳位置PO2が焦点位置PO1よりもユーザの眼EY側にある例を示している。
(Convergence regulation conflict)
FIG. 1 is a schematic diagram for explaining the convergence accommodation conflict. A display device for displaying a stereoscopic image displays a stereoscopic image by making the right eye and the left eye of a user view images with different parallax and utilizing the difference in convergence. When displaying a stereoscopic image, the display surface on which the image is actually displayed becomes the focal position of the user's eyes, and the position where the lines of sight of the left and right eyes intersect becomes the convergence position. However, as shown in the example of FIG. 1, in a stereoscopic image, the positions of the focal position PO1 and the convergence position PO2 in the Z direction, which is the depth direction of the stereoscopic image, may shift. If the positions of the focal position PO1 and the convergence position PO2 shift, a so-called convergence accommodation conflict occurs, which causes eye fatigue and so-called 3D sickness. Therefore, it is required to suppress the convergence accommodation conflict. Note that (A) of FIG. 1 shows an example in which the focal position PO1 is closer to the user's eye EY than the convergence position PO2, and (B) of FIG. 1 shows an example in which the convergence position PO2 is closer to the user's eye EY than the focal position PO1.

(第1実施形態)
(表示装置の全体構成)
図2は、第1実施形態に係る表示装置の模式図である。第1実施形態に係る表示装置1は、立体画像を表示する表示装置である。図2に示すように、表示装置1は、ユーザUの頭部に装着される、いわゆるHMD(Head Mount Display)である。例えば、表示装置1は、ユーザUの眼EYに面した位置に表示部10が装着される。そして、表示装置1は、表示部10に画像を表示させて、ユーザUにコンテンツを提供する。なお、図2に示した表示装置1の構成は一例である。例えば、表示装置1は、ユーザUの耳に装着される音声出力部(スピーカ)を備えていてもよい。
First Embodiment
(Overall configuration of the display device)
FIG. 2 is a schematic diagram of a display device according to the first embodiment. The display device 1 according to the first embodiment is a display device that displays a stereoscopic image. As shown in FIG. 2, the display device 1 is a so-called HMD (Head Mount Display) that is worn on the head of a user U. For example, the display device 1 has a display unit 10 worn at a position facing the eye EY of the user U. The display device 1 displays an image on the display unit 10 to provide content to the user U. Note that the configuration of the display device 1 shown in FIG. 2 is an example. For example, the display device 1 may be equipped with an audio output unit (speaker) that is worn on the ear of the user U.

表示装置1は、このようにユーザUに装着されるため、ユーザUの眼EYに対する位置が固定される。表示装置1は、ユーザUに装着されるHMDであることに限られず、設備に固定された表示装置などであってもよい。このような場合でも、表示装置1は、例えばユーザUの座席に対する位置が固定されるなど、ユーザUの眼EYに対する位置が固定されることが好ましい。 Since the display device 1 is worn by the user U in this manner, its position relative to the user U's eyes EY is fixed. The display device 1 is not limited to being an HMD worn by the user U, but may also be a display device fixed to equipment, etc. Even in such cases, it is preferable that the position of the display device 1 is fixed relative to the user U's eyes EY, for example, by fixing its position relative to the user U's seat.

図3は、第1実施形態に係る表示装置の各構成の模式図である。図3に示すように、表示装置1は、表示部10と、接眼レンズ20と、レンズ30と、視線検出部40と、制御装置50とを有する。 Figure 3 is a schematic diagram of each component of the display device according to the first embodiment. As shown in Figure 3, the display device 1 has a display unit 10, an eyepiece lens 20, a lens 30, a gaze detection unit 40, and a control device 50.

(表示部)
表示部10は、立体画像を表示する装置である。表示部10は、表示パネル12と光源部14とを有する。表示パネル12は、マトリクス状に並ぶ複数の画素を有するディスプレイである。本実施形態の例では、表示パネル12は、マトリクス状に並ぶ複数の画素電極と、液晶素子が充填される液晶層とを有する液晶表示パネルである。表示パネル12で画像が表示される面を表示面10Aとする。以下、表示面10AからユーザUの眼EYへ向かう方向を、方向Z1とし、方向Z1と反対方向を、すなわちユーザUの眼EYから表示面10Aに向かう方向を、方向Z2とする。方向Z1、Z2を区別しない場合は、方向Zと記載する。なお、図3では、表示パネル12のユーザUの眼EY側の表面を表示面10Aとしているが、表示面10Aは、ユーザUの眼EY側の表面であることに限られず、ユーザUの眼EY側の表面よりも内側にあってもよい。なお、表示部10は、後述する制御装置50から表示パネル12を駆動させる駆動信号や光源部14の光の照射タイミングを制御する制御信号を受信する。
(Display)
The display unit 10 is a device that displays a stereoscopic image. The display unit 10 includes a display panel 12 and a light source unit 14. The display panel 12 is a display having a plurality of pixels arranged in a matrix. In the example of this embodiment, the display panel 12 is a liquid crystal display panel having a plurality of pixel electrodes arranged in a matrix and a liquid crystal layer filled with liquid crystal elements. The surface on which an image is displayed on the display panel 12 is a display surface 10A. Hereinafter, the direction from the display surface 10A toward the eye EY of the user U is referred to as direction Z1, and the opposite direction to direction Z1, that is, the direction from the eye EY of the user U toward the display surface 10A is referred to as direction Z2. When directions Z1 and Z2 are not distinguished, they are referred to as direction Z. In FIG. 3, the surface of the display panel 12 on the side of the eye EY of the user U is referred to as the display surface 10A, but the display surface 10A is not limited to being the surface on the side of the eye EY of the user U, and may be located inside the surface on the side of the eye EY of the user U. The display unit 10 receives a drive signal for driving the display panel 12 and a control signal for controlling the timing of light irradiation by the light source unit 14 from a control device 50 described later.

光源部14は、表示パネル12に光を照射する光源である。本実施形態では、光源部14は、表示パネル12の表示面10Aとは反対側の表面に設けられる、いわゆるバックライドである。光源部14の設けられる位置はこれに限られず任意であり、例えば表示パネル12の横にあるサイドライトであってもよい。本実施形態では、光源部14は、表示パネル12の全ての画素に対して一様に光を照射するものであり、言い換えれば、画素毎に個別に光の照射を制御するものではない。ただし、光源部14は、表示パネル12の全ての画素に一様に光を照射するものに限られず、例えば複数の画素毎に光の照射を調整可能な、例えば画面全体をいくつかの区画に分け区画ごとに光の強度を調整可能な、いわゆるローカルディミングの方式のものであってもよい。 The light source unit 14 is a light source that irradiates light to the display panel 12. In this embodiment, the light source unit 14 is a so-called backlight that is provided on the surface of the display panel 12 opposite the display surface 10A. The position of the light source unit 14 is not limited to this and can be any position, for example, it may be a side light next to the display panel 12. In this embodiment, the light source unit 14 irradiates light uniformly to all pixels of the display panel 12, in other words, it does not control the irradiation of light individually for each pixel. However, the light source unit 14 is not limited to one that irradiates light uniformly to all pixels of the display panel 12, and may be, for example, a so-called local dimming type that can adjust the irradiation of light for each of multiple pixels, for example, by dividing the entire screen into several sections and adjusting the light intensity for each section.

このように、表示部10は、表示パネル12と光源部14とを有する。表示部10は、光源部14から表示パネル12に照射された光である画像光LをユーザUの眼EYに到達させることで、ユーザUに立体画像を提供する。本実施形態の例では、光源部14から照射された光は、表示パネル12の各画素を透過して、画像光LとしてユーザUの眼EYに入射する。より詳しくは、表示パネル12は、左眼用画像と右眼用画像とが提供されるように、例えば画素電極の電圧が制御されつつ、表示パネル12に向けて光源部14からの光が照射される。光源部14からの光のうち、左眼用画像に対応する画素を透過した画像光LがユーザUの左眼に入射し、右眼用画像に対応する画素を透過した画像光LがユーザUの左眼に入射することで、ユーザUに立体画像が提供される。 In this way, the display unit 10 has a display panel 12 and a light source unit 14. The display unit 10 provides a stereoscopic image to the user U by allowing the image light L, which is light irradiated from the light source unit 14 to the display panel 12, to reach the eye EY of the user U. In the example of this embodiment, the light irradiated from the light source unit 14 passes through each pixel of the display panel 12 and enters the eye EY of the user U as the image light L. More specifically, the display panel 12 is irradiated with light from the light source unit 14 toward the display panel 12 while controlling, for example, the voltage of the pixel electrode so that an image for the left eye and an image for the right eye are provided. Of the light from the light source unit 14, the image light L that has passed through the pixel corresponding to the image for the left eye enters the left eye of the user U, and the image light L that has passed through the pixel corresponding to the image for the right eye enters the left eye of the user U, thereby providing a stereoscopic image to the user U.

なお、表示部10の構成は以上のものに限られず、例えば、OLED(Organic Light Emitting Diode)やいわゆるマイクロLEDなど、画素毎に点灯制御が可能な自発光型のディスプレイであってよい。また、表示部10が反射型の液晶表示装置であってもよい。 The configuration of the display unit 10 is not limited to the above, and may be, for example, a self-luminous display that allows lighting control for each pixel, such as an OLED (organic light emitting diode) or a so-called micro LED. The display unit 10 may also be a reflective liquid crystal display device.

(接眼レンズ)
接眼レンズ20は、表示部10のZ1方向側に設けられる。接眼レンズ20は、光(画像光)を透過する光学素子である。さらに言えば、接眼レンズ20は、レンズ30を除き、表示装置1で最もユーザUの眼EY側にある光学素子(レンズ)である。表示パネル12から出射された画像光Lは、接眼レンズ20及びレンズ30を通って、ユーザUの眼EYに入射する。なお、本実施形態では、レンズ30からユーザUの眼EYまでの画像光Lの光路における光軸方向が、方向Zともいえる。
(Eyepiece)
The eyepiece 20 is provided on the Z1 direction side of the display unit 10. The eyepiece 20 is an optical element that transmits light (image light). More specifically, the eyepiece 20 is the optical element (lens) that is closest to the eye EY of the user U in the display device 1, excluding the lens 30. The image light L emitted from the display panel 12 passes through the eyepiece 20 and the lens 30 and enters the eye EY of the user U. Note that in this embodiment, the optical axis direction in the optical path of the image light L from the lens 30 to the eye EY of the user U can also be referred to as the Z direction.

なお、図3の例では、表示部10のZ1方向側の光学素子として、接眼レンズ20とレンズ30のみが示されているが、それに限られず、それら以外の光学素子が設けられていてもよい。 In the example of FIG. 3, only the eyepiece lens 20 and the lens 30 are shown as optical elements on the Z1 direction side of the display unit 10, but this is not limited thereto, and other optical elements may also be provided.

(レンズ)
レンズ30は、画像光Lの光軸方向において、表示部10よりもユーザU側に設けられている。さらに言えば、レンズ30は、接眼レンズ20よりもユーザU側に設けられている。ただしそれに限られず、レンズ30は、接眼レンズ20よりも表示部10側に設けられてもよい。レンズ30は、Z方向(画像光Lの光軸方向)における焦点の位置(レンズ30から焦点までの距離)を変化可能な、いわゆる可変焦点レンズである。レンズ30は、任意の構造であってよいが、例えば電圧の印加によりレンズ30の厚みを変化させることで、焦点の位置を変化可能なものであってよい。より詳しくは、例えば、レンズ30は、弾性ポリマー膜で封入された光学リキッドで構成されるレンズコアと、レンズコアに取り付けられる電磁式のアクチュエータとを有し、アクチュエータへの電圧印加によりアクチュエータが駆動し、アクチュエータによりレンズコアが圧力を受けて変形することで、レンズ30の厚みを変化させて、焦点の位置を変化させるものであってよい。なお、レンズ30のアクチュエータは、後述する制御装置50から、焦点の位置の制御を行う信号を取得する。
(lens)
The lens 30 is provided on the user U side of the display unit 10 in the optical axis direction of the image light L. More specifically, the lens 30 is provided on the user U side of the eyepiece lens 20. However, the present invention is not limited to this, and the lens 30 may be provided on the display unit 10 side of the eyepiece lens 20. The lens 30 is a so-called variable focus lens that can change the position of the focal point (the distance from the lens 30 to the focal point) in the Z direction (the optical axis direction of the image light L). The lens 30 may have any structure, but may be capable of changing the position of the focal point by changing the thickness of the lens 30 by applying a voltage, for example. More specifically, for example, the lens 30 may have a lens core made of an optical liquid sealed in an elastic polymer film and an electromagnetic actuator attached to the lens core, and the actuator may be driven by applying a voltage to the actuator, and the lens core may be deformed by the pressure applied by the actuator, thereby changing the thickness of the lens 30 and changing the position of the focal point. The actuator of the lens 30 obtains a signal for controlling the position of the focal point from a control device 50 described later.

(視線検出部)
視線検出部40は、ユーザUの眼EYが向いている方向、すなわちユーザUの視線を検出する。視線検出部40は、ユーザUの視線を検出可能な任意のセンサであってよいが、例えば、ユーザUの眼EYを撮像するカメラであってよい。視線検出部40は、制御装置50へ視線の検出結果を送出する。
(Gaze detection unit)
The gaze detection unit 40 detects the direction in which the eyes EY of the user U are facing, i.e., the gaze of the user U. The gaze detection unit 40 may be any sensor capable of detecting the gaze of the user U, and may be, for example, a camera that captures an image of the eyes EY of the user U. The gaze detection unit 40 sends the gaze detection result to the control device 50.

(制御装置)
制御装置50は、表示装置1の各部を制御する装置である。図4は、第1実施形態に係る制御装置の模式的なブロック図である。制御装置50は、本実施形態ではコンピュータであり、記憶部52と制御部54とを有する。記憶部52は、制御部54の演算内容やプログラムなどの各種情報を記憶するメモリであり、例えば、RAM(Random Access Memory)と、ROM(Read Only Memory)のような主記憶装置と、HDD(Hard Disk Drive)などの外部記憶装置とのうち、少なくとも1つ含む。記憶部52が記憶する制御部54用のプログラムは、制御装置50が読み取り可能な記録媒体に記憶されていてもよい。
(Control device)
The control device 50 is a device that controls each part of the display device 1. FIG. 4 is a schematic block diagram of the control device according to the first embodiment. In this embodiment, the control device 50 is a computer, and has a storage unit 52 and a control unit 54. The storage unit 52 is a memory that stores various information such as the calculation contents and programs of the control unit 54, and includes at least one of a main storage device such as a RAM (Random Access Memory), a ROM (Read Only Memory), and an external storage device such as a HDD (Hard Disk Drive). The program for the control unit 54 stored in the storage unit 52 may be stored in a recording medium that can be read by the control device 50.

制御部54は、演算装置であり、例えばCPU(Central Processing Unit)などの演算回路を含む。制御部54は、画像情報取得部60と、視線情報取得部62と、照射制御部64と、焦点位置設定部66と、駆動制御部68とを含む。制御部54は、記憶部52からプログラム(ソフトウェア)を読み出して実行することで、画像情報取得部60と視線情報取得部62と照射制御部64と焦点位置設定部66と駆動制御部68とを実現して、それらの処理を実行する。なお、制御部54は、1つのCPUによってこれらの処理を実行してもよいし、複数のCPUを備えて、それらの複数のCPUで、処理を実行してもよい。また、画像情報取得部60と視線情報取得部62と照射制御部64と焦点位置設定部66と駆動制御部68との少なくとも1つを、ハードウェア回路で実現してもよい。 The control unit 54 is a calculation device and includes a calculation circuit such as a CPU (Central Processing Unit). The control unit 54 includes an image information acquisition unit 60, a line of sight information acquisition unit 62, an irradiation control unit 64, a focal position setting unit 66, and a drive control unit 68. The control unit 54 reads out a program (software) from the storage unit 52 and executes it to realize the image information acquisition unit 60, the line of sight information acquisition unit 62, the irradiation control unit 64, the focal position setting unit 66, and the drive control unit 68, and executes these processes. The control unit 54 may execute these processes using one CPU, or may be provided with multiple CPUs and execute the processes using the multiple CPUs. At least one of the image information acquisition unit 60, the line of sight information acquisition unit 62, the irradiation control unit 64, the focal position setting unit 66, and the drive control unit 68 may be realized by a hardware circuit.

(画像情報取得部)
画像情報取得部60は、表示部10が表示する立体画像の画像データを取得する。すなわち、画像情報取得部60は、左眼用画像の画像データと、右眼用画像の画像データとを取得する。また、画像情報取得部60は、立体画像の奥行き方向における位置を示す奥行き情報を取得する。立体画像の奥行き方向における位置とは、表示面10Aに画像を表示した際にユーザUに視認される虚像の、奥行き方向における位置を指す。奥行き方向とは、表示部10の表示面10Aに直交する方向であるとも言え、本実施形態ではZ方向である。奥行き情報は、画像データに関連付けられている。さらに言えば、立体画像は、1フレームに含まれる各画像について、奥行き方向における位置が設定されており、言い換えれば、表示面10A上の位置毎に、奥行き方向における位置が設定されている。そのため、画像情報取得部60は、立体画像についての、表示面10A上の位置毎の奥行き情報を取得するといえる。なお、立体画像は、画素毎に奥行き方向における位置が設定されているが、1つの画像を構成する複数の画素に対しては、奥行き方向における位置が同じとなるように設定されていてもよい。画像情報取得部60は、任意の方法で画像データ及び奥行き情報を取得してよく、記憶部52に予め記憶されていた画像データ及び奥行き情報を読み出してもよいし、図示しない通信部を介して画像データ及び奥行き情報を受信してもよい。また、画像情報取得部60は、画像データに基づき奥行き方向の位置を算出することで、奥行き情報を取得してもよい。
(Image information acquisition unit)
The image information acquisition unit 60 acquires image data of a stereoscopic image displayed by the display unit 10. That is, the image information acquisition unit 60 acquires image data of an image for the left eye and image data of an image for the right eye. The image information acquisition unit 60 also acquires depth information indicating a position in the depth direction of the stereoscopic image. The position in the depth direction of the stereoscopic image refers to the position in the depth direction of a virtual image visually recognized by the user U when an image is displayed on the display surface 10A. The depth direction can also be said to be a direction perpendicular to the display surface 10A of the display unit 10, and is the Z direction in this embodiment. The depth information is associated with the image data. Furthermore, a position in the depth direction is set for each image included in one frame of the stereoscopic image, in other words, a position in the depth direction is set for each position on the display surface 10A. Therefore, it can be said that the image information acquisition unit 60 acquires depth information for each position on the display surface 10A for the stereoscopic image. In addition, in a stereoscopic image, a position in the depth direction is set for each pixel, but the positions in the depth direction may be set to be the same for multiple pixels constituting one image. The image information acquisition unit 60 may acquire image data and depth information by any method, and may read image data and depth information stored in advance in the storage unit 52, or may receive image data and depth information via a communication unit (not shown). The image information acquisition unit 60 may also acquire depth information by calculating a position in the depth direction based on the image data.

(視線情報取得部)
視線情報取得部62は、視線検出部40を制御して、視線検出部40にユーザUの視線を検出させ、視線検出部40による視線の検出結果を取得する。本実施形態では、視線情報取得部62は、視線の検出結果に基づき、ユーザUが注視している注視位置を検出する。注視位置とは、立体画像のうちでユーザUが注視している画像の表示面10A上での位置を指し、言い換えれば、表示面10Aの全域のうちでユーザUが注視している位置を指す。本実施形態では、視線情報取得部62は、ユーザUの視線の検出結果からユーザUの輻輳位置を検出し、輻輳位置と重なる位置にある虚像に対応する画像の、表示面10Aでの位置を、注視位置として検出する。すなわち例えばユーザUの輻輳位置が、立体画像における車の虚像に重なっている場合には、その車の画像の表示面10Aでの位置が、注視位置とされる。ただし、注視位置の検出方法はそれに限られず、ユーザUの視線の検出結果から任意の方法で検出してよい。
(Gaze information acquisition unit)
The gaze information acquisition unit 62 controls the gaze detection unit 40 to cause the gaze detection unit 40 to detect the gaze of the user U, and acquires the gaze detection result by the gaze detection unit 40. In this embodiment, the gaze information acquisition unit 62 detects the gaze position at which the user U is gazing based on the gaze detection result. The gaze position refers to the position on the display surface 10A of the image that the user U is gazing at among the stereoscopic images, in other words, the position at which the user U is gazing among the entire area of the display surface 10A. In this embodiment, the gaze information acquisition unit 62 detects the convergence position of the user U from the detection result of the gaze of the user U, and detects the position on the display surface 10A of the image corresponding to the virtual image at a position overlapping the convergence position as the gaze position. That is, for example, when the convergence position of the user U overlaps with the virtual image of a car in the stereoscopic image, the position on the display surface 10A of the image of the car is set as the gaze position. However, the method of detecting the gaze position is not limited thereto, and may be detected by any method from the detection result of the gaze of the user U.

(照射制御部)
照射制御部64は、画像データに基づき、表示部10からユーザUに向けて画像光Lを照射させる。本実施形態においては、照射制御部64は、画像データに基づいて表示パネル12の各画素を駆動しつつ、光源部14から光を照射させることで、各画素からユーザUに向けて画像光Lを照射させて、ユーザUに立体画像を提供する。さらに言えば、照射制御部64は、画像データに基づいて、表示パネル12の画素電極毎の印加電圧を制御して液晶素子を配向させつつ、光源部14から光を照射させる。これにより、光源部14からの光が液晶層を透過して、立体画像用の画像光LとしてユーザYの眼EYに向けて出射される。なお、例えば表示部10が自発光式である場合、照射制御部64は、画像データに基づき各画素を発光させて、各画素から画像光Lを照射させる。
(Irradiation control unit)
The irradiation control unit 64 irradiates image light L from the display unit 10 toward the user U based on the image data. In this embodiment, the irradiation control unit 64 drives each pixel of the display panel 12 based on the image data, while irradiating light from the light source unit 14, thereby irradiating the image light L from each pixel toward the user U, thereby providing the user U with a stereoscopic image. More specifically, the irradiation control unit 64 irradiates light from the light source unit 14 while controlling the applied voltage for each pixel electrode of the display panel 12 based on the image data to orient the liquid crystal element. As a result, the light from the light source unit 14 passes through the liquid crystal layer and is emitted toward the eye EY of the user Y as image light L for a stereoscopic image. Note that, for example, when the display unit 10 is a self-luminous type, the irradiation control unit 64 causes each pixel to emit light based on the image data, and causes each pixel to irradiate the image light L.

(焦点位置設定部)
焦点位置設定部66は、ユーザUの視線の検出結果に基づき、画像光Lの光軸方向(方向Z)におけるレンズ30の焦点の位置とする設定焦点位置を設定する。さらに言えば、焦点位置設定部66は、ユーザUの視線の検出結果と立体画像の奥行き情報とに基づき、設定焦点位置を設定する。以下、設定焦点位置の設定についてより具体的に説明する。
(Focus position setting unit)
Based on the detection result of the line of sight of the user U, the focal position setting unit 66 sets a set focal position that is the focal position of the lens 30 in the optical axis direction (direction Z) of the image light L. More specifically, the focal position setting unit 66 sets the set focal position based on the detection result of the line of sight of the user U and depth information of the stereoscopic image. Setting of the set focal position will be described in more detail below.

図5から図7は、照射タイミングの設定を説明するための模式図である。例えば図5に示すように、表示部10から出射された画像光Lは、所定の開き角をもつ光束として、ユーザUの眼EYに入射する。この場合、ユーザUは、この光束の開き角に合うように、眼球の水晶体の厚さを無意識に変えて、網膜に焦点が合うように調節している。輻輳調節矛盾は、左右の眼の輻輳度合い(左右の眼のより度合い)と、光束の開き角に焦点を合わせた状態とが、合致していないことを指す。それに対して、本実施形態の表示装置1は、虚像(輻輳位置)から光が出射されて眼EYに入射したと仮定した場合の開き角である虚像開き角(図5の例では角度θ1A)と、実際に表示部10から画像光Lが出射されて眼EYに入射した場合の画像光Lの開き角との差分が小さくなるように、画像光Lを出射させる。ここで、画像光Lは、レンズ30を通る際に光束の開き角が変化するため(すなわち屈折するため)、光束の開き角の変化度合いは、レンズ30の焦点の位置に応じて決まる。従って、焦点位置設定部66は、虚像開き角と画像光Lの開き角との差分が小さくなるレンズ30の焦点位置を、設定焦点位置として設定する。 5 to 7 are schematic diagrams for explaining the setting of the irradiation timing. For example, as shown in FIG. 5, the image light L emitted from the display unit 10 is incident on the eye EY of the user U as a light beam having a predetermined opening angle. In this case, the user U unconsciously changes the thickness of the crystalline lens of the eyeball to match the opening angle of this light beam, adjusting it so that the focus is on the retina. The convergence accommodation conflict refers to a mismatch between the degree of convergence of the left and right eyes (degree of twisting of the left and right eyes) and the state where the focus is on the opening angle of the light beam. In contrast, the display device 1 of this embodiment emits the image light L so that the difference between the virtual image opening angle (angle θ1A in the example of FIG. 5), which is the opening angle when it is assumed that light is emitted from the virtual image (convergence position) and enters the eye EY, and the opening angle of the image light L when the image light L is actually emitted from the display unit 10 and enters the eye EY, is small. Here, since the opening angle of the image light L changes when passing through the lens 30 (i.e., it is refracted), the degree of change in the opening angle of the light beam is determined according to the focal position of the lens 30. Therefore, the focal position setting unit 66 sets the focal position of the lens 30 where the difference between the virtual image opening angle and the opening angle of the image light L is small as the set focal position.

より詳しくは、焦点位置設定部66は、視線情報取得部62が検出した注視位置における、奥行き情報を取得する。すなわち、焦点位置設定部66は、注視位置の奥行き方向(Z方向)における位置の情報を取得する。言い換えれば、焦点位置設定部66は、ユーザUが注視している虚像のZ方向における位置の情報を取得する。そして、焦点位置設定部66は、注視位置における奥行き情報に基づき、設定焦点位置を設定する。焦点位置設定部66は、注視位置での奥行き方向の位置(ユーザUが注視している虚像の位置)から眼EYに光が照射された場合の光束の開き角(注視位置からの虚像開き角)に、画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、設定焦点位置として設定する。ただし、虚像開き角と実際の画像光Lの開き角が厳密に一致する位置を、設定焦点位置とすることに限られない。例えば、虚像開き角と実際の画像光Lの開き角との差分が所定範囲内となる際のレンズ30の焦点位置を、設定焦点位置としてよい。ここでの所定範囲は任意に設定してよいが、輻輳調節矛盾を小さくするために、虚像開き角と画像光Lの開き角との差分が小さくなるような値に、設定されることが好ましい。また、焦点位置設定部66は、奥行き方向を量子化した値を、設定焦点位置の設定に用いる注視位置の奥行き方向における位置として用いてよい。すなわち例えば、奥行き方向を複数の数値範囲に区分し、それぞれの数値範囲に対して、その数値範囲内にある所定値を基準位置として設定しておく。そして、焦点位置設定部66は、取得した注視位置の奥行き方向における位置が含まれる数値範囲を抽出し、その数値範囲に対する基準位置を、設定焦点位置の設定に用いる注視位置の奥行き方向における位置として扱う。 More specifically, the focal position setting unit 66 acquires depth information at the gaze position detected by the line-of-sight information acquisition unit 62. That is, the focal position setting unit 66 acquires information on the position in the depth direction (Z direction) of the gaze position. In other words, the focal position setting unit 66 acquires information on the position in the Z direction of the virtual image on which the user U is gazing. Then, the focal position setting unit 66 sets the set focal position based on the depth information at the gaze position. The focal position setting unit 66 sets the position of the focus of the lens 30 in the Z direction when the opening angle of the image light L matches the opening angle of the light beam (virtual image opening angle from the gaze position) when light is irradiated to the eye EY from the depth direction position at the gaze position (the position of the virtual image on which the user U is gazing). However, the set focal position is not limited to the position where the virtual image opening angle and the opening angle of the actual image light L strictly match. For example, the focal position of the lens 30 when the difference between the virtual image opening angle and the opening angle of the actual image light L falls within a predetermined range may be set as the set focal position. The predetermined range may be set arbitrarily, but in order to reduce the convergence accommodation contradiction, it is preferable to set it to a value that reduces the difference between the virtual image opening angle and the opening angle of the image light L. In addition, the focal position setting unit 66 may use the quantized value in the depth direction as the position in the depth direction of the gaze position used to set the set focal position. That is, for example, the depth direction is divided into a plurality of numerical ranges, and a predetermined value within the numerical range is set as the reference position for each numerical range. Then, the focal position setting unit 66 extracts a numerical range that includes the position in the depth direction of the acquired gaze position, and treats the reference position for the numerical range as the position in the depth direction of the gaze position used to set the set focal position.

駆動制御部68は、レンズ30を制御して、レンズ30の焦点の位置をZ方向に移動させる。駆動制御部68は、例えば、レンズ30が有するアクチュエータに対する電圧の印加を制御することで、レンズ30の焦点の位置をZ方向に移動させる。駆動制御部68は、レンズ30の焦点のZ方向の位置を、設定焦点位置に移動させる。そのため、眼EYに入射する画像光Lの光束の開き角は、注視位置(ユーザUが注視している虚像)からの虚像開き角に近くなり、輻輳調節矛盾を小さくすることができる。 The drive control unit 68 controls the lens 30 to move the focal position of the lens 30 in the Z direction. The drive control unit 68 moves the focal position of the lens 30 in the Z direction, for example, by controlling the application of voltage to an actuator of the lens 30. The drive control unit 68 moves the Z direction position of the focal position of the lens 30 to a set focal position. As a result, the opening angle of the light flux of the image light L incident on the eye EY becomes closer to the virtual image opening angle from the gaze position (the virtual image that the user U is gazing at), and the convergence accommodation conflict can be reduced.

以上説明した設定焦点位置の設定の例を、図5から図7を用いて説明する。以下では、家の画像と車の画像とヘリコプタの画像とが立体画像として表示され、車の画像、家の画像、ヘリコプタの画像の順で、奥行き方向(Z方向)の位置がユーザUの眼EYから遠くなる場合を例にする。すなわち、車の画像の虚像P2は、家の画像の虚像P1よりもZ1方向側に位置し、ヘリコプタの画像の虚像P3は、家の画像の虚像P1よりもZ2方向側に位置する。 An example of setting the set focal position described above will be described with reference to Figures 5 to 7. In the following, an example will be taken in which an image of a house, an image of a car, and an image of a helicopter are displayed as a stereoscopic image, with the image of the car, the image of the house, and the image of the helicopter being positioned further away from the eye EY of the user U in the depth direction (Z direction) in that order. That is, the virtual image P2 of the car image is located further in the Z1 direction than the virtual image P1 of the house image, and the virtual image P3 of the helicopter image is located further in the Z2 direction than the virtual image P1 of the house image.

図5は、ユーザUが家の画像の虚像P1を注視している場合の例である。図5の例では、虚像P1(注視位置の奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(注視位置からの虚像開き角)を、角度θ1Aとする。そして、Z方向におけるレンズ30の焦点の位置が第1位置である場合に、家の画像を構成する画素からの画像光Lの光束の開き角が、角度θ1Aとなるとする。この場合、第1位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第1位置に移動させる。これにより、家の画像の虚像P1からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致し、輻輳調節矛盾を小さくすることができる。なお、本実施形態では、表示パネル12の全体に光が照射されるため、車の画像の虚像P2やヘリコプタの画像の虚像P3もユーザUに視認される。この場合、虚像P2、P3に対する虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致しないこととなる。しかし、虚像P2、P3はユーザUの注視している領域の範囲外であるためユーザUへの影響が少なく、ユーザUの注視している領域の範囲内である虚像P1の虚像開き角とは一致しているため、ユーザUへの負担を小さくできる。なお、以上の説明では、虚像開き角と画像光Lの開き角が一致する第1位置を設定焦点位置としていたが、それに限られず、虚像開き角と画像光Lの開き角との差分が所定範囲となる位置を設定焦点位置としてよい。 5 is an example in which the user U is gazing at a virtual image P1 of a house image. In the example of FIG. 5, the opening angle of the light beam (virtual image opening angle from the gaze position) when light is irradiated from the virtual image P1 (depth direction position of the gaze position) to the eye EY is set to angle θ1A. Then, when the position of the focus of the lens 30 in the Z direction is the first position, the opening angle of the light beam of the image light L from the pixel constituting the image of the house is set to angle θ1A. In this case, the first position becomes the set focus position, and the focus position setting unit 66 moves the focus of the lens 30 to the first position. As a result, the virtual image opening angle from the virtual image P1 of the house image and the opening angle of the image light L that actually enters the eye EY of the user U match, and the convergence accommodation contradiction can be reduced. In this embodiment, since light is irradiated to the entire display panel 12, the virtual image P2 of the car image and the virtual image P3 of the helicopter image are also visually recognized by the user U. In this case, the virtual image opening angle for the virtual images P2 and P3 will not match the opening angle of the image light L that actually enters the eye EY of the user U. However, since the virtual images P2 and P3 are outside the range of the area gazed upon by the user U, there is little impact on the user U, and since they match the virtual image opening angle of the virtual image P1, which is within the range of the area gazed upon by the user U, the burden on the user U can be reduced. Note that in the above description, the first position where the virtual image opening angle and the opening angle of the image light L match is set as the set focal position, but this is not limited thereto, and the set focal position may be set as a position where the difference between the virtual image opening angle and the opening angle of the image light L is within a predetermined range.

図6は、ユーザUが車の画像の虚像P2を注視している場合の例である。図6の例では、虚像P2(車の画像を構成する画素Pの奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)を、角度θ2Aとする。そして、Z方向におけるレンズ30の焦点の位置が第2位置である場合に、車の画像を構成する画素Pからの画像光Lの光束の開き角が、角度θ2Aとなるとする。なお、虚像P2は虚像P1よりもZ1方向に視認されるため、角度θ2Aは図5の角度θ1Aより大きく、第1位置が焦点である場合よりも第2位置が焦点である場合の方が、レンズ30による光束の開き角の拡大度合いが大きくなる(又は縮小度合いが小さくなる)。この場合、第2位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第2位置に移動させる。これにより、車の画像の虚像P2からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致し、輻輳調節矛盾を小さくすることができる。なお、以上の説明では、虚像開き角と画像光Lの開き角が一致する第2位置を設定焦点位置としていたが、それに限られず、虚像開き角と画像光Lの開き角との差分が所定範囲となる位置を設定焦点位置としてよい。 Figure 6 is an example of a case where the user U is gazing at a virtual image P2 of a car image. In the example of Figure 6, the opening angle of the light beam (virtual image opening angle) when light is irradiated from the virtual image P2 (the depth direction position of the pixel P constituting the car image) to the eye EY is set to angle θ2A. Then, when the position of the focus of the lens 30 in the Z direction is the second position, the opening angle of the light beam of the image light L from the pixel P constituting the car image is set to angle θ2A. Note that since the virtual image P2 is viewed in the Z1 direction more than the virtual image P1, the angle θ2A is larger than the angle θ1A in Figure 5, and the degree of expansion of the opening angle of the light beam by the lens 30 is larger (or the degree of reduction is smaller) when the second position is the focus than when the first position is the focus. In this case, the second position becomes the set focus position, and the focus position setting unit 66 moves the focus of the lens 30 to the second position. This allows the virtual image opening angle from the virtual image P2 of the image of the car to match the opening angle of the image light L that actually enters the eye EY of the user U, reducing the convergence accommodation conflict. Note that in the above description, the second position where the virtual image opening angle and the opening angle of the image light L match is set as the set focal position, but this is not limited thereto, and the set focal position may be a position where the difference between the virtual image opening angle and the opening angle of the image light L is within a predetermined range.

図7は、ユーザUがヘリコプタの画像の虚像P3を注視している場合の例である。図7の例では、虚像P3(ヘリコプタの画像を構成する画素Pの奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)を、角度θ3Aとする。そして、Z方向におけるレンズ30の焦点の位置が第3位置である場合に、ヘリコプタの画像を構成する画素Pからの画像光Lの光束の開き角が、角度θ3Aとなるとする。なお、虚像P3は虚像P1よりもZ2方向に視認されるため、角度θ3Aは、図5の角度θ1Aより小さく、第1位置が焦点である場合よりも第3位置が焦点である場合の方が、レンズ30による光束の開き角の拡大度合いが小さくなる(又は縮小度合いが大きくなる)。この場合、第3位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第3位置に移動させる。これにより、車の画像の虚像P2からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが近くなり、輻輳調節矛盾を小さくすることができる。この場合、第3位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第3位置に移動させる。 Figure 7 shows an example in which the user U is gazing at a virtual image P3 of a helicopter image. In the example of Figure 7, the opening angle of the light beam (virtual image opening angle) when light is irradiated from the virtual image P3 (the depth direction position of the pixel P constituting the helicopter image) to the eye EY is set to angle θ3A. When the focal position of the lens 30 in the Z direction is the third position, the opening angle of the light beam of the image light L from the pixel P constituting the helicopter image is set to angle θ3A. Note that since the virtual image P3 is viewed in the Z2 direction more than the virtual image P1, the angle θ3A is smaller than the angle θ1A in Figure 5, and the degree of expansion (or reduction) of the opening angle of the light beam by the lens 30 is smaller (or larger) when the third position is the focal point than when the first position is the focal point. In this case, the third position becomes the set focal position, and the focal position setting unit 66 moves the focal point of the lens 30 to the third position. This makes the virtual image opening angle from the virtual image P2 of the image of the car closer to the opening angle of the image light L that actually enters the eye EY of the user U, thereby reducing the convergence accommodation conflict. In this case, the third position becomes the set focal position, and the focal position setting unit 66 moves the focal point of the lens 30 to the third position.

(処理フロー)
次に、以上説明した制御装置50の処理フローを説明する。図8は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50は、照射制御部64により、画像データに基づき表示パネル12の画素を駆動しつつ、光源部14から光を照射させる。制御装置50は、視線情報取得部62により、ユーザUの視線の検出結果を取得し(ステップS10)、視線の検出結果に基づき、注視位置を検出する(ステップS12)。そして、制御装置50は、焦点位置設定部66により、注視位置の奥行き情報から、設定焦点位置を設定する(ステップS14)。制御装置50は、駆動制御部68により、レンズ30の焦点の位置を、設定焦点位置とする(ステップS16)。処理を終了しない場合は(ステップS18;No)、ステップS10に戻り処理を続け、処理を終了する場合(ステップS18;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the control device 50 described above will be described. FIG. 8 is a flowchart for explaining the process flow of the control device according to this embodiment. The control device 50 drives the pixels of the display panel 12 based on image data using the irradiation control unit 64, while emitting light from the light source unit 14. The control device 50 acquires the detection result of the line of sight of the user U using the line of sight information acquisition unit 62 (step S10), and detects the gaze position based on the line of sight detection result (step S12). Then, the control device 50 sets the set focal position from the depth information of the gaze position using the focus position setting unit 66 (step S14). The control device 50 sets the focal position of the lens 30 as the set focal position using the drive control unit 68 (step S16). If the process is not to be ended (step S18; No), the process returns to step S10 and continues, and if the process is to be ended (step S18; Yes), the process is ended.

(効果)
以上説明したように、本実施形態に係る表示装置1は、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、視線情報取得部62と、焦点位置設定部66と、駆動制御部68とを含む。表示部10は、複数の画素を含み、画像光LをユーザUに到達させることでユーザUに立体画像を提供する。視線情報取得部62は、ユーザUの視線の検出結果を取得する。焦点位置設定部66は、ユーザUの視線の検出結果と立体画像の奥行き方向の位置を示す奥行き情報とに基づき、画像光Lの光軸方向におけるレンズ30の焦点の位置とする設定焦点位置を設定する。駆動制御部68は、レンズ30の焦点の位置を設定焦点位置に移動させる。
(effect)
As described above, the display device 1 according to this embodiment provides a stereoscopic image to the user U, and includes the display unit 10, the lens 30, the line-of-sight information acquisition unit 62, the focal position setting unit 66, and the drive control unit 68. The display unit 10 includes a plurality of pixels, and provides a stereoscopic image to the user U by making the image light L reach the user U. The line-of-sight information acquisition unit 62 acquires a detection result of the line of sight of the user U. The focal position setting unit 66 sets a set focal position that is the focal position of the lens 30 in the optical axis direction of the image light L, based on the detection result of the line of sight of the user U and depth information indicating the position in the depth direction of the stereoscopic image. The drive control unit 68 moves the focal position of the lens 30 to the set focal position.

ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、ユーザUの視点と立体画像の奥行き方向の位置とに基づき設定した設定焦点位置に、レンズ30の焦点位置を移動させる。従って、本実施形態によると、ユーザUの視線と立体画像の奥行き方向の位置に基づいた適切な光束の開き角でユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、上述のように、立体画像を表示する際には、輻輳調節矛盾が起こる場合がある。それに対して、本実施形態においては、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。 Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In response to this, in this embodiment, the focal position of the lens 30 is moved to a set focal position that is set based on the user U's viewpoint and the depth position of the stereoscopic image. Therefore, according to this embodiment, it is possible to make the image light L reach the user U at an appropriate light beam opening angle based on the user U's line of sight and the depth position of the stereoscopic image, and the stereoscopic image can be appropriately provided to the user U. Furthermore, as described above, when displaying a stereoscopic image, a convergence accommodation conflict may occur. In response to this, in this embodiment, the convergence accommodation conflict can be reduced by appropriately adjusting the light beam opening angle of the image light L.

また、視線情報取得部62は、視線の検出結果に基づき、立体画像のうちでユーザUが注視している注視位置を検出する。そして、焦点位置設定部66は、注視位置の奥行き情報に基づき、画像光Lの光束の開き角と、注視位置の奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(注視位置からの虚像開き角)との差分が所定範囲内となるような、画像光Lの光軸方向におけるレンズ30の焦点の位置を、設定焦点位置として設定する。本実施形態によると、画像光Lの光束の開き角を、ユーザUが注視している虚像からの虚像開き角に近づけることができるため、輻輳調節矛盾を適切に小さくすることができる。 The gaze information acquisition unit 62 detects the gaze position in the stereoscopic image at which the user U is gazing, based on the gaze detection result. The focus position setting unit 66 sets, as the set focus position, the position of the focus of the lens 30 in the optical axis direction of the image light L such that the difference between the opening angle of the light beam of the image light L and the opening angle of the light beam when the image light L is irradiated toward the user U from a position in the depth direction of the gaze position (the virtual image opening angle from the gaze position) falls within a predetermined range, based on the depth information of the gaze position. According to this embodiment, the opening angle of the light beam of the image light L can be brought close to the virtual image opening angle from the virtual image at which the user U is gazing, so that the convergence accommodation conflict can be appropriately reduced.

また、表示装置1は、ヘッドマウントディスプレイである。そのため、ヘッドマウントディスプレイにより立体画像を適切に提供できる。 The display device 1 is also a head-mounted display. Therefore, the head-mounted display can provide a stereoscopic image appropriately.

(第2実施形態)
次に、第2実施形態について説明する。第2実施形態においては、レンズ30の焦点位置を所定周期で変化させる点で、第1実施形態とは異なる。第2実施形態において第1実施形態と構成が共通する箇所は、説明を省略する。
Second Embodiment
Next, a second embodiment will be described. The second embodiment differs from the first embodiment in that the focal position of the lens 30 is changed at a predetermined cycle. Descriptions of the configurations of the second embodiment and the first embodiment will be omitted.

図9は、第2実施形態に係る制御装置の模式的なブロック図である。図9に示すように、第2実施形態に係る制御装置50aの制御部54aは、画像情報取得部60と、視線情報取得部62と、照射制御部64aと、タイミング設定部66aと、駆動制御部68aとを含む。制御部54aは、記憶部52からプログラム(ソフトウェア)を読み出して実行することで、画像情報取得部60と視線情報取得部62と照射制御部64aとタイミング設定部66aと駆動制御部68aとを実現して、それらの処理を実行する。なお、制御部54aは、1つのCPUによってこれらの処理を実行してもよいし、複数のCPUを備えて、それらの複数のCPUで、処理を実行してもよい。また、画像情報取得部60と視線情報取得部62と照射制御部64aとタイミング設定部66aと駆動制御部68aとの少なくとも1つを、ハードウェア回路で実現してもよい。 FIG. 9 is a schematic block diagram of a control device according to the second embodiment. As shown in FIG. 9, the control unit 54a of the control device 50a according to the second embodiment includes an image information acquisition unit 60, a line of sight information acquisition unit 62, an irradiation control unit 64a, a timing setting unit 66a, and a drive control unit 68a. The control unit 54a reads out a program (software) from the storage unit 52 and executes it to realize the image information acquisition unit 60, the line of sight information acquisition unit 62, the irradiation control unit 64a, the timing setting unit 66a, and the drive control unit 68a, and executes the processes. The control unit 54a may execute these processes using one CPU, or may have multiple CPUs and execute the processes using the multiple CPUs. Also, at least one of the image information acquisition unit 60, the line of sight information acquisition unit 62, the irradiation control unit 64a, the timing setting unit 66a, and the drive control unit 68a may be realized by a hardware circuit.

(駆動制御部)
第2実施形態においては、駆動制御部68aは、レンズ30の焦点の位置を、Z方向に沿って所定の周期で移動させる。駆動制御部68aは、レンズ30の焦点の位置がZ1方向に所定距離移動した後にZ2方向に所定距離移動するZ方向の往復移動(振動)を繰り返し行うように、レンズ30の焦点の位置を移動させる。言い換えれば、駆動制御部68aは、レンズ30の焦点のZ方向の往復移動を、所定の周期で行わせる。本実施形態では、Z方向の往復移動の周期(焦点がZ方向において元の位置に戻ってくるまでの時間)は一定であるが、一定であることに限られず、周期を変化させてもよい。
(Drive control unit)
In the second embodiment, the drive control unit 68a moves the position of the focal point of the lens 30 in a predetermined cycle along the Z direction. The drive control unit 68a moves the position of the focal point of the lens 30 so that the focal point of the lens 30 repeats a reciprocating movement (vibration) in the Z direction in which the focal point of the lens 30 moves a predetermined distance in the Z1 direction and then moves a predetermined distance in the Z2 direction. In other words, the drive control unit 68a causes the focal point of the lens 30 to move back and forth in the Z direction in a predetermined cycle. In this embodiment, the cycle of the reciprocating movement in the Z direction (the time it takes for the focal point to return to its original position in the Z direction) is constant, but is not limited to being constant and may be changed.

(タイミング設定部及び照射制御部)
タイミング設定部66aは、光源部14の光の照射タイミングを設定する。照射制御部64aは、タイミング設定部66aが設定した照射タイミングで、光源部14に光を照射させる。タイミング設定部66aは、ユーザUの視線の検出結果と、レンズ30の焦点のZ方向(画像光Lの光軸方向)における位置とに基づき、照射タイミングを設定する。さらに言えば、タイミング設定部66aは、ユーザUの視線の検出結果と、立体画像の奥行き情報と、レンズ30の焦点のZ方向における位置とに基づき、照射タイミングを設定する。以下、タイミング設定部66aの設定についてより具体的に説明する。
(Timing setting unit and irradiation control unit)
The timing setting unit 66a sets the timing of emitting light from the light source unit 14. The illumination control unit 64a causes the light source unit 14 to emit light at the illumination timing set by the timing setting unit 66a. The timing setting unit 66a sets the illumination timing based on the detection result of the line of sight of the user U and the position of the focal point of the lens 30 in the Z direction (the optical axis direction of the image light L). More specifically, the timing setting unit 66a sets the illumination timing based on the detection result of the line of sight of the user U, depth information of the stereoscopic image, and the position of the focal point of the lens 30 in the Z direction. The settings of the timing setting unit 66a will be described in more detail below.

タイミング設定部66aは、注視位置からの虚像開き角と画像光Lの開き角との差分が小さくなる位置にレンズ30の焦点が到達したタイミングを、照射タイミングとして設定する。より詳しくは、タイミング設定部66aは、視線情報取得部62が検出した注視位置における、奥行き情報を取得する。すなわち、タイミング設定部66aは、注視位置の奥行き方向(Z方向)における位置の情報を取得する。そして、タイミング設定部66aは、注視位置の奥行き情報に基づき、光源部14に光の照射を開始させる際のレンズ30の焦点の位置である照射位置を設定する。タイミング設定部66aは、注視位置での奥行き方向の位置(ユーザUが注視している虚像の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)に、その画素Pからレンズ30を通って眼EYに実際に入射する画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、照射位置として設定する。そして、タイミング設定部66aは、照射位置との距離が所定距離範囲内となる位置にレンズ30の焦点が到達するタイミングを、照射タイミングとして設定する。ここでの所定距離は任意に設定してよいが、輻輳調節矛盾を小さくするために、注視位置からの虚像開き角と画像光Lの開き角との差分が小さくなるような距離に、設定されることが好ましい。 The timing setting unit 66a sets the timing when the focus of the lens 30 reaches a position where the difference between the virtual image opening angle from the gaze position and the opening angle of the image light L becomes small as the irradiation timing. More specifically, the timing setting unit 66a acquires depth information at the gaze position detected by the line-of-sight information acquisition unit 62. That is, the timing setting unit 66a acquires information on the position in the depth direction (Z direction) of the gaze position. Then, based on the depth information of the gaze position, the timing setting unit 66a sets the irradiation position, which is the position of the focus of the lens 30 when the light source unit 14 starts irradiating light. The timing setting unit 66a sets the position of the focus of the lens 30 in the Z direction when the opening angle of the image light L that actually enters the eye EY from the pixel P through the lens 30 matches the opening angle (virtual image opening angle) of the light beam when light is irradiated to the eye EY from the position in the depth direction at the gaze position (the position of the virtual image that the user U is gazing at). The timing setting unit 66a then sets the timing at which the focus of the lens 30 reaches a position whose distance from the irradiation position is within a predetermined distance range as the irradiation timing. The predetermined distance here may be set arbitrarily, but in order to reduce convergence accommodation conflicts, it is preferable to set it to a distance that reduces the difference between the virtual image opening angle from the gaze position and the opening angle of the image light L.

本実施形態では、タイミング設定部66aは、Z方向におけるレンズ30の焦点の位置の情報を逐次取得し、Z方向におけるレンズ30の焦点の位置が照射位置に対して所定距離まで近づいたら、照射タイミングとなったと判断する。タイミング設定部66aは、Z方向におけるレンズ30の焦点の位置の情報を任意の方法で取得してよい。例えば、レンズ30の焦点を所定の周期でZ方向に往復運動させている場合には、時刻毎のレンズ30の焦点のZ方向における位置(予測位置)を把握できる。従って、タイミング設定部66aは、時刻情報からレンズ30の焦点のZ方向における位置の情報を取得してもよい。この場合、タイミング設定部66aは、時刻毎のレンズ30の焦点の予測位置の情報と照射位置の情報とに基づき、レンズ30の焦点が照射位置から所定距離に到達する時刻を照射タイミングとして設定し、現在の時刻が照射タイミングに達したら、レンズ30の焦点が照射位置に到達したと判断して、光源部14に画像光Lを照射させてもよい。 In this embodiment, the timing setting unit 66a sequentially acquires information on the position of the focal point of the lens 30 in the Z direction, and when the position of the focal point of the lens 30 in the Z direction approaches the irradiation position by a predetermined distance, it determines that the irradiation timing has arrived. The timing setting unit 66a may acquire information on the position of the focal point of the lens 30 in the Z direction by any method. For example, when the focal point of the lens 30 is reciprocated in the Z direction at a predetermined period, the position (predicted position) of the focal point of the lens 30 in the Z direction for each time can be grasped. Therefore, the timing setting unit 66a may acquire information on the position of the focal point of the lens 30 in the Z direction from the time information. In this case, the timing setting unit 66a may set the time when the focal point of the lens 30 reaches a predetermined distance from the irradiation position as the irradiation timing based on the information on the predicted position of the focal point of the lens 30 for each time and the information on the irradiation position, and when the current time reaches the irradiation timing, it may determine that the focal point of the lens 30 has reached the irradiation position, and cause the light source unit 14 to irradiate the image light L.

タイミング設定部66aは、このようにして照射タイミングを設定する。さらに、タイミング設定部66aは、照射タイミングより後のタイミングを照射停止タイミングとして設定する。照射制御部64aは、タイミング設定部66aによって照射タイミングに到達したと判断されたら、光源部14に光の照射を開始させる。照射制御部64aは、照射タイミングから照射停止タイミングまでの間、光源部14に光を照射させ、照射停止タイミングに到達したら、光源部14に光の照射を停止させる。なお、照射停止タイミングは任意に設定してよく、例えば照射タイミングから所定時間後を照射停止タイミングとして設定してもよいし、照射タイミングの直後に、レンズ30の焦点と照射位置との距離が所定距離範囲外となるタイミングを、照射停止タイミングとして設定してもよい。 The timing setting unit 66a sets the irradiation timing in this manner. Furthermore, the timing setting unit 66a sets a timing after the irradiation timing as the irradiation stop timing. When the timing setting unit 66a determines that the irradiation timing has been reached, the irradiation control unit 64a causes the light source unit 14 to start emitting light. The irradiation control unit 64a causes the light source unit 14 to emit light from the irradiation timing to the irradiation stop timing, and when the irradiation stop timing is reached, causes the light source unit 14 to stop emitting light. The irradiation stop timing may be set arbitrarily. For example, a predetermined time after the irradiation timing may be set as the irradiation stop timing, or the timing at which the distance between the focus of the lens 30 and the irradiation position falls outside a predetermined distance range may be set as the irradiation stop timing immediately after the irradiation timing.

第2実施形態では、このように、照射タイミングに到達したら光源部14に光を照射させ、照射停止タイミングに到達したら光の照射を停止させる。画像光Lは、照射タイミングから照射停止タイミングの間に、ユーザUの眼EYに入射する。従って、眼EYに入射する画像光Lの光束の開き角は、注視位置(ユーザUが注視している虚像)からの虚像開き角に近くなり、輻輳調節矛盾を小さくすることができる。なお、レンズ30の焦点は、Z方向に往復運動するため、照射位置との距離が所定距離範囲内になることと所定距離範囲外になることとを繰り返す。制御装置50aは、レンズ30の焦点と照射位置との距離が所定距離範囲となる度に、すなわち照射タイミングに到達する度に、光源部14に光を照射させる。そのため、ユーザUには、立体画像が動画像として視認される。また、レンズ30の焦点はZ方向に往復移動するため、往復移動の1周期で、照射位置との距離が所定距離になるタイミングが2回ある。そのため、レンズ30の焦点の往復移動の振動数は、立体画像のフレームレートの1/2倍以上にすることが望ましい。ただし、レンズ30の焦点の往復移動の振動数(周期)は任意に設定してよい。 In the second embodiment, the light source unit 14 is caused to emit light when the irradiation timing is reached, and the emission of light is stopped when the irradiation stop timing is reached. The image light L is incident on the eye EY of the user U between the irradiation timing and the irradiation stop timing. Therefore, the opening angle of the light flux of the image light L incident on the eye EY becomes close to the virtual image opening angle from the gaze position (the virtual image that the user U is gazing at), and the convergence accommodation contradiction can be reduced. In addition, since the focus of the lens 30 moves back and forth in the Z direction, the distance from the irradiation position repeatedly becomes within a predetermined distance range and out of the predetermined distance range. The control device 50a causes the light source unit 14 to emit light every time the distance between the focus of the lens 30 and the irradiation position becomes within the predetermined distance range, that is, every time the irradiation timing is reached. Therefore, the user U views a stereoscopic image as a moving image. In addition, since the focus of the lens 30 moves back and forth in the Z direction, there are two times during one period of the back and forth movement when the distance from the irradiation position becomes a predetermined distance. Therefore, it is desirable to set the frequency of the reciprocating movement of the focal point of the lens 30 to at least half the frame rate of the stereoscopic image. However, the frequency (period) of the reciprocating movement of the focal point of the lens 30 may be set arbitrarily.

(処理フロー)
次に、以上説明した制御装置50aの処理フローを説明する。図10は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50aは、照射制御部64aにより、画像データに基づき表示パネル12の画素を駆動しつつ、駆動制御部68aにより、レンズ30の焦点を所定周期でZ方向に往復移動させる。制御装置50aは、画素を駆動させつつレンズ30の焦点を往復移動させながら、視線情報取得部62により、ユーザUの視線の検出結果を取得し(ステップS20)、視線の検出結果に基づき、注視位置を検出する(ステップS22)。そして、制御装置50aは、タイミング設定部66aにより、注視位置の奥行き情報から、照射位置を設定する(ステップS24)。制御装置50aは、レンズ30の焦点のZ方向における位置を逐次取得し、レンズ30の焦点が照射位置から所定距離内に到達したかを判断する(ステップS26)。レンズ30の焦点が照射位置から所定距離内に到達したら(ステップS26;Yes)、タイミング設定部66aは、照射タイミングに到達したと判断し、照射制御部64aは、光源部14に光を照射させる(ステップS28)。その後、照射停止タイミングで光の照射を停止させ、処理を終了しない場合は(ステップS30;No)、ステップS20に戻り処理を続ける。一方、レンズ30の焦点が照射位置から所定距離内に到達していない場合には(ステップS26;No)、ステップS26に戻り、レンズ30の焦点が照射位置から所定距離内に到達するまで光源部14に光を照射させない。なお、レンズ30の焦点が照射位置から所定距離内に到達していない場合、すなわちステップS26でNoの場合も、ステップS20に戻ってよい。ステップS30で処理を終了する場合(ステップS30;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the control device 50a described above will be described. FIG. 10 is a flowchart for explaining the process flow of the control device according to this embodiment. The control device 50a drives the pixels of the display panel 12 based on image data using the irradiation control unit 64a, while the drive control unit 68a moves the focal point of the lens 30 back and forth in the Z direction at a predetermined period. The control device 50a acquires the detection result of the line of sight of the user U using the line of sight information acquisition unit 62 while driving the pixels and moving the focal point of the lens 30 back and forth (step S20), and detects the gaze position based on the line of sight detection result (step S22). Then, the control device 50a sets the irradiation position from the depth information of the gaze position using the timing setting unit 66a (step S24). The control device 50a sequentially acquires the position of the focal point of the lens 30 in the Z direction, and determines whether the focal point of the lens 30 has reached within a predetermined distance from the irradiation position (step S26). When the focal point of the lens 30 reaches within a predetermined distance from the irradiation position (step S26; Yes), the timing setting unit 66a judges that the irradiation timing has been reached, and the irradiation control unit 64a causes the light source unit 14 to irradiate light (step S28). After that, when the irradiation is stopped at the irradiation stop timing and the process is not to be ended (step S30; No), the process returns to step S20 and continues. On the other hand, when the focal point of the lens 30 has not reached within a predetermined distance from the irradiation position (step S26; No), the process returns to step S26 and does not cause the light source unit 14 to irradiate light until the focal point of the lens 30 reaches within a predetermined distance from the irradiation position. Note that when the focal point of the lens 30 has not reached within a predetermined distance from the irradiation position, that is, when the result of step S26 is No, the process may also return to step S20. When the process is to be ended in step S30 (step S30; Yes), the process is ended.

(効果)
以上説明したように、第2実施形態に係る表示装置1aは、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、視線情報取得部62と、駆動制御部68aと、タイミング設定部66aと、照射制御部64aとを含む。表示部10は、複数の画素を含む表示パネル12と、表示パネル12に光を照射する光源部14とを有し、光源部14から表示パネル12に照射された光である画像光LをユーザUに到達させることで、ユーザUに立体画像を提供する。レンズ30は、画像光Lの光軸方向において表示部10よりもユーザU側に設けられ、焦点を変更可能である。視線情報取得部62は、ユーザUの視線の検出結果を取得する。駆動制御部68aは、レンズ30の焦点を、画像光Lの光軸方向(本実施形態ではZ方向)に沿って所定の周期で移動させる。タイミング設定部66aは、ユーザUの視線の検出結果と、レンズ30の焦点の光軸方向(本実施形態ではZ方向)における位置とに基づき、光源部14の光の照射タイミングを設定する。照射制御部64aは、照射タイミングで、光源部14に光を照射させる。
(effect)
As described above, the display device 1a according to the second embodiment provides a stereoscopic image to the user U, and includes the display unit 10, the lens 30, the line-of-sight information acquisition unit 62, the drive control unit 68a, the timing setting unit 66a, and the irradiation control unit 64a. The display unit 10 has a display panel 12 including a plurality of pixels, and a light source unit 14 that irradiates the display panel 12 with light, and provides a stereoscopic image to the user U by making the image light L, which is light irradiated from the light source unit 14 to the display panel 12, reach the user U. The lens 30 is provided on the user U side of the display unit 10 in the optical axis direction of the image light L, and is capable of changing its focus. The line-of-sight information acquisition unit 62 acquires a detection result of the line of sight of the user U. The drive control unit 68a moves the focus of the lens 30 along the optical axis direction of the image light L (Z direction in this embodiment) at a predetermined period. The timing setting unit 66a sets the light emission timing of the light source unit 14 based on the detection result of the line of sight of the user U and the position in the optical axis direction (Z direction in this embodiment) of the focal point of the lens 30. The emission control unit 64a causes the light source unit 14 to emit light at the emission timing.

ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、レンズ30の焦点を光軸方向に移動させておき、ユーザUの視点とレンズ30の焦点の光軸方向の位置とに基づき、光の照射タイミングを設定する。従って、本実施形態によると、ユーザUの視点とレンズ30の焦点の光軸方向の位置とに基づいて、適切なタイミングでユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、本実施形態においては、レンズ30の焦点を光軸方向に移動させつつ、ユーザUの視点とレンズ30の焦点の位置とに基づき、光の照射タイミングを設定することで、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。さらに言えば、本実施形態においては、画像光Lの光束の開き角が適切となる位置にレンズ30の焦点をその都度移動させずに、レンズ30の焦点は所定周期で移動させておき、画像光Lの光束の開き角が適切となるタイミングで光源部14の光照射を制御している。このように光照射を制御することで、制御遅れが抑制されて、画像光Lの光束の開き角を適切に調整できる。 Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In contrast, in this embodiment, the focus of the lens 30 is moved in the optical axis direction, and the timing of light irradiation is set based on the user U's viewpoint and the position of the focus of the lens 30 in the optical axis direction. Therefore, according to this embodiment, it is possible to make the image light L reach the user U at an appropriate timing based on the user U's viewpoint and the position of the focus of the lens 30 in the optical axis direction, and a stereoscopic image can be appropriately provided to the user U. Furthermore, in this embodiment, the focus of the lens 30 is moved in the optical axis direction, and the timing of light irradiation is set based on the user U's viewpoint and the position of the focus of the lens 30, thereby appropriately adjusting the opening angle of the light beam of the image light L and reducing the convergence adjustment contradiction. Furthermore, in this embodiment, the focus of the lens 30 is not moved each time to a position where the opening angle of the light beam of the image light L is appropriate, but the focus of the lens 30 is moved at a predetermined period, and the light irradiation of the light source unit 14 is controlled at a timing where the opening angle of the light beam of the image light L is appropriate. By controlling the light irradiation in this manner, control delays are suppressed and the opening angle of the light beam of the image light L can be appropriately adjusted.

また、タイミング設定部66aは、立体画像の奥行き方向(本実施形態ではZ方向)の位置を示す奥行き情報にも基づき、照射タイミングを設定する。本実施形態によると、奥行き情報も用いて照射タイミングを設定するため、表示される立体画像に合わせて画像光Lの光束の開き角を適切に調整することが可能となり、輻輳調節矛盾を小さくすることができる。 The timing setting unit 66a also sets the irradiation timing based on depth information indicating the position in the depth direction (Z direction in this embodiment) of the stereoscopic image. According to this embodiment, since the irradiation timing is set using the depth information as well, it is possible to appropriately adjust the opening angle of the light flux of the image light L according to the stereoscopic image to be displayed, and it is possible to reduce the convergence accommodation contradiction.

また、視線情報取得部62は、視線の検出結果に基づき、立体画像のうちでユーザが注視している注視位置を検出する。タイミング設定部66aは、注視位置の奥行き情報に基づき、画像光Lの光束の開き角が、注視位置での奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(虚像開き角)に対応するような、レンズ30の焦点の光軸方向における位置である、照射位置の情報を取得する。タイミング設定部66aは、レンズ30の焦点が照射位置に対して所定距離範囲内となるタイミングを、照射タイミングとして設定する。本実施形態によると、画像光Lの光束の開き角を、ユーザUが注視している虚像からの虚像開き角に近づけることができるため、輻輳調節矛盾を適切に小さくすることができる。 The gaze information acquisition unit 62 detects the gaze position in the stereoscopic image at which the user is gazing, based on the gaze detection result. The timing setting unit 66a acquires irradiation position information, which is a position in the optical axis direction of the focus of the lens 30, at which the opening angle of the light beam of the image light L corresponds to the opening angle of the light beam (virtual image opening angle) when the image light L is irradiated from a depth direction position at the gaze position toward the user U, based on the depth information of the gaze position. The timing setting unit 66a sets the timing at which the focus of the lens 30 is within a predetermined distance range from the irradiation position as the irradiation timing. According to this embodiment, the opening angle of the light beam of the image light L can be brought close to the virtual image opening angle from the virtual image at which the user U is gazing, so that the convergence accommodation conflict can be appropriately reduced.

(第3実施形態)
次に、第3実施形態について説明する。第3実施形態は、表示部が自発光型である点で、第2実施形態とは異なる。第3実施形態において第2実施形態と構成が共通する箇所は、説明を省略する。
Third Embodiment
Next, a third embodiment will be described. The third embodiment differs from the second embodiment in that the display unit is a self-luminous type. Descriptions of the configurations of the third embodiment and the second embodiment will be omitted.

図11は、第3実施形態に係る表示装置の各構成の模式図である。図11に示すように、第3実施形態に係る表示装置1bは、表示部10bを有する。なお、表示装置1bには、視線検出部40が設けられてない。表示部10bは、マトリクス状に並び自発光する複数の画素P(表示素子)を有するディスプレイである。表示部10bが有する各画素Pは自発光するため、表示部10bは、画素P毎に個別に発光(光の照射)の制御が可能である。表示部10bの各画素Pは、例えば有機発光ダイオードであってもよいし、無機発光ダイオードであってもよい。第3実施形態においては、表示部10bは、制御装置50bから画素Pの光の照射タイミングを制御する制御信号を受信する。また、レンズ30のアクチュエータは、制御装置50bから、焦点の位置の制御を行う信号を取得する。 Figure 11 is a schematic diagram of each component of the display device according to the third embodiment. As shown in Figure 11, the display device 1b according to the third embodiment has a display unit 10b. The display device 1b does not have a gaze detection unit 40. The display unit 10b is a display having a plurality of pixels P (display elements) arranged in a matrix and self-emitting. Since each pixel P of the display unit 10b self-emitting, the display unit 10b can control the light emission (light irradiation) of each pixel P individually. Each pixel P of the display unit 10b may be, for example, an organic light-emitting diode or an inorganic light-emitting diode. In the third embodiment, the display unit 10b receives a control signal from the control device 50b to control the timing of light irradiation of the pixel P. In addition, the actuator of the lens 30 obtains a signal for controlling the position of the focus from the control device 50b.

図12は、第3実施形態に係る制御装置の模式的なブロック図である。図12に示すように、第3実施形態に係る制御装置50bの制御部54bは、画像情報取得部60と、照射制御部64bと、タイミング設定部66bと、駆動制御部68bとを含む。第3実施形態においては、視線情報取得部62が含まれない。 Figure 12 is a schematic block diagram of a control device according to the third embodiment. As shown in Figure 12, the control unit 54b of the control device 50b according to the third embodiment includes an image information acquisition unit 60, an irradiation control unit 64b, a timing setting unit 66b, and a drive control unit 68b. In the third embodiment, the line of sight information acquisition unit 62 is not included.

(駆動制御部)
駆動制御部68bは、第2実施形態と同様に、レンズ30の焦点の位置を、Z方向に沿って所定の周期で移動させる。
(Drive control unit)
The drive control unit 68b moves the focal position of the lens 30 in the Z direction at a predetermined cycle, similar to the second embodiment.

(タイミング設定部及び照射制御部)
タイミング設定部66bは、画像光Lの照射タイミングを、画素P毎に設定する。照射制御部64bは、画像データに基づき、画素Pを制御して画素Pに画像光Lを照射させる。照射制御部64bは、タイミング設定部66bが設定した画素P毎の照射タイミングで、画素P毎に画像光Lを照射させる。すなわち、照射制御部64bは、画素Pについて設定された照射タイミングで、その画素Pに画像光Lを照射させる。タイミング設定部66bは、Z方向(画像光Lの光軸方向)におけるレンズ30の焦点の位置に基づき、照射タイミングを設定する。さらに言えば、タイミング設定部66bは、立体画像の奥行き情報と、Z方向におけるレンズ30の焦点の位置とに基づき、照射タイミングを設定する。以下、より詳しく説明する。
(Timing setting unit and irradiation control unit)
The timing setting unit 66b sets the irradiation timing of the image light L for each pixel P. The irradiation control unit 64b controls the pixel P based on the image data to irradiate the pixel P with the image light L. The irradiation control unit 64b irradiates the pixel P with the image light L at the irradiation timing for each pixel P set by the timing setting unit 66b. That is, the irradiation control unit 64b irradiates the pixel P with the image light L at the irradiation timing set for the pixel P. The timing setting unit 66b sets the irradiation timing based on the position of the focal point of the lens 30 in the Z direction (the optical axis direction of the image light L). More specifically, the timing setting unit 66b sets the irradiation timing based on the depth information of the stereoscopic image and the position of the focal point of the lens 30 in the Z direction. This will be described in more detail below.

タイミング設定部66bは、画素P毎の奥行き情報を取得する。すなわち、タイミング設定部66bは、画素P毎の奥行き方向(Z方向)における位置の情報を取得する。そして、タイミング設定部66bは、画素Pの奥行き情報に基づき、その画素Pに画像光Lの照射を開始させる際のレンズ30の焦点の位置である照射位置を設定する。タイミング設定部66bは、画素Pによって表示される立体画像の部分の奥行き方向の位置(その画素Pによって形成される虚像の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)に、その画素Pからレンズ30を通って眼EYに実際に入射する画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、その画素Pについての照射位置として設定する。そして、タイミング設定部66bは、照射位置との距離が所定距離範囲内となる位置にレンズ30の焦点が到達するタイミングを、その画素Pについての照射タイミングとして設定する。タイミング設定部66bは、画素P毎に照射位置を設定し、画素P毎に照射タイミングを設定する。このように、タイミング設定部66bは、画素P毎に照射位置や照射タイミングを設定するが、画素P毎に照射位置や照射タイミングが異なることに限られず、例えば1つの画像を構成する一群の画素P(例えば図5の家の画像を表示する一群の画素Pなど)の照射位置や照射タイミングを、同じに設定してよい。 The timing setting unit 66b acquires depth information for each pixel P. That is, the timing setting unit 66b acquires information on the position in the depth direction (Z direction) for each pixel P. Then, based on the depth information of the pixel P, the timing setting unit 66b sets the irradiation position, which is the position of the focus of the lens 30 when starting irradiation of the image light L to the pixel P. The timing setting unit 66b sets the position of the focus of the lens 30 in the Z direction as the irradiation position for the pixel P when the opening angle of the image light L that actually enters the eye EY from the pixel P through the lens 30 matches the opening angle of the light beam (virtual image opening angle) when light is irradiated to the eye EY from the depth direction position of the stereoscopic image portion displayed by the pixel P (the position of the virtual image formed by the pixel P). Then, the timing setting unit 66b sets the timing at which the focus of the lens 30 reaches a position whose distance from the irradiation position is within a predetermined distance range as the irradiation timing for the pixel P. The timing setting unit 66b sets an irradiation position for each pixel P and sets an irradiation timing for each pixel P. In this way, the timing setting unit 66b sets an irradiation position and irradiation timing for each pixel P, but the irradiation position and irradiation timing are not limited to being different for each pixel P, and for example, the irradiation positions and irradiation timings of a group of pixels P that make up one image (such as a group of pixels P that displays the image of the house in FIG. 5) may be set to be the same.

なお、第3実施形態では、画素P毎に照射タイミングを設定するため、1フレームでは一部の画素Pしか点灯しない場合もあり、例えば図5のタイミングでは家の画像のみが表示され、図6のタイミングでは車の画像のみが表示され、図7のタイミングではヘリコプタの画像のみが表示される。ただし、複数フレームを連続させることによる残像効果で、ユーザUには家、車、ヘリコプタの一つの画像に写っていると認識される。また、1フレームの表示時間内で画像全体(ここでは家、車、ヘリコプタの全て)を表示する構成にしてもよい。この場合、駆動制御部68bは、1フレームの表示時間内でレンズ30の焦点の位置を少なくとも往復移動の半周期分移動させればよい。これにより、1フレームの表示時間内で、往復移動内における全ての焦点の位置を網羅することができ、画像全体を表示することが可能となる。 In the third embodiment, since the illumination timing is set for each pixel P, in one frame, only some of the pixels P may be lit. For example, only the image of the house is displayed at the timing of FIG. 5, only the image of the car is displayed at the timing of FIG. 6, and only the image of the helicopter is displayed at the timing of FIG. 7. However, due to the afterimage effect caused by consecutively displaying multiple frames, the user U recognizes that he or she is in a single image of the house, car, and helicopter. Also, the entire image (here, all of the house, car, and helicopter) may be displayed within the display time of one frame. In this case, the drive control unit 68b only needs to move the focal position of the lens 30 by at least half the period of the reciprocating movement within the display time of one frame. This makes it possible to cover all focal positions within the reciprocating movement within the display time of one frame, and to display the entire image.

(処理フロー)
次に、以上説明した制御装置50bの処理フローを説明する。図13は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50bは、駆動制御部68bにより、レンズ30の焦点の位置を所定周期でZ方向に往復移動させる。制御装置50bは、タイミング設定部66bにより、画素P毎の奥行き情報から、画素P毎の照射位置を設定する(ステップS40)。制御装置50bは、レンズ30の焦点のZ方向における位置を逐次取得し、レンズ30の焦点が照射位置から所定距離内に到達したかを、画素P毎に判断する(ステップS42)。レンズ30の焦点が照射位置から所定距離内に到達したら(ステップS42;Yes)、すなわちレンズ30の焦点が照射位置から所定距離内に到達したと判断される画素Pがある場合には、タイミング設定部66bは、その画素Pが照射タイミングに到達したと判断し、照射制御部64bは、画像データに基づき、その画素Pに画像光Lを照射させる(ステップS44)。その後、照射停止タイミングで画像光Lの照射を停止させ、処理を終了しない場合は(ステップS46;No)、ステップS40に戻り処理を続ける。一方、レンズ30の焦点が照射位置から所定距離内に到達していない場合には(ステップS42;No)、すなわちレンズ30の焦点が照射位置から所定距離内に到達したと判断される画素Pが無い場合には、ステップS42に戻り、レンズ30の焦点が照射位置から所定距離内に到達するまで画素Pに光を照射させない。ステップS46で処理を終了する場合(ステップS46;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the control device 50b described above will be described. FIG. 13 is a flowchart for explaining the process flow of the control device according to this embodiment. The control device 50b causes the drive control unit 68b to move the focal position of the lens 30 back and forth in the Z direction at a predetermined cycle. The control device 50b sets the irradiation position for each pixel P from the depth information for each pixel P using the timing setting unit 66b (step S40). The control device 50b sequentially acquires the position of the focal position of the lens 30 in the Z direction, and judges for each pixel P whether the focal position of the lens 30 has reached within a predetermined distance from the irradiation position (step S42). When the focal position of the lens 30 has reached within a predetermined distance from the irradiation position (step S42; Yes), that is, when there is a pixel P for which it is judged that the focal position of the lens 30 has reached within a predetermined distance from the irradiation position, the timing setting unit 66b judges that the pixel P has reached the irradiation timing, and the irradiation control unit 64b causes the pixel P to be irradiated with image light L based on the image data (step S44). Thereafter, the irradiation of the image light L is stopped at the irradiation stop timing, and if the process is not to be ended (step S46; No), the process returns to step S40 and continues. On the other hand, if the focus of the lens 30 has not reached within a predetermined distance from the irradiation position (step S42; No), that is, if there is no pixel P for which it is determined that the focus of the lens 30 has reached within a predetermined distance from the irradiation position, the process returns to step S42, and light is not irradiated onto the pixel P until the focus of the lens 30 reaches within a predetermined distance from the irradiation position. If the process is to be ended in step S46 (step S46; Yes), the process ends.

(効果)
以上説明したように、第3実施形態に係る表示装置1bは、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、駆動制御部68bと、タイミング設定部66bと、照射制御部64bとを含む。表示部10は、自発光する複数の画素Pを含み、画素Pからの画像光LをユーザUに到達させることで、ユーザUに立体画像を提供する。レンズ30は、画像光Lの光軸方向において表示部10よりもユーザU側に設けられ、焦点を変更可能である。駆動制御部68bは、レンズ30の焦点の位置を、画像光Lの光軸方向(本実施形態ではZ方向)に沿って所定の周期で移動させる。タイミング設定部66bは、レンズ30の焦点の光軸方向(本実施形態ではZ方向)における位置に基づき、画像光Lの照射タイミングを画素P毎に設定する。照射制御部64bは、照射タイミングで、画素Pに画像光Lを照射させる。
(effect)
As described above, the display device 1b according to the third embodiment provides a stereoscopic image to the user U, and includes the display unit 10, the lens 30, the drive control unit 68b, the timing setting unit 66b, and the irradiation control unit 64b. The display unit 10 includes a plurality of self-emitting pixels P, and provides a stereoscopic image to the user U by making the image light L from the pixels P reach the user U. The lens 30 is provided closer to the user U than the display unit 10 in the optical axis direction of the image light L, and is capable of changing its focus. The drive control unit 68b moves the position of the focus of the lens 30 along the optical axis direction of the image light L (Z direction in this embodiment) at a predetermined period. The timing setting unit 66b sets the irradiation timing of the image light L for each pixel P based on the position of the focus of the lens 30 in the optical axis direction (Z direction in this embodiment). The irradiation control unit 64b causes the pixel P to be irradiated with the image light L at the irradiation timing.

ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、レンズ30の焦点を光軸方向に移動させておき、焦点の位置に基づき、画像光Lの照射タイミングを設定する。従って、本実施形態によると、焦点の光軸方向の位置に基づいた適切なタイミングでユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、上述のように、立体画像を表示する際には、輻輳調節矛盾が起こる場合がある。それに対して、本実施形態においては、レンズ30の焦点を光軸方向に移動させつつ、焦点の光軸方向の位置に基づき、画像光Lの照射タイミングを設定することで、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。 Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In this embodiment, the focus of the lens 30 is moved in the optical axis direction, and the timing of irradiating the image light L is set based on the position of the focus. Therefore, according to this embodiment, it is possible for the image light L to reach the user U at an appropriate timing based on the position of the focus in the optical axis direction, and a stereoscopic image can be appropriately provided to the user U. Furthermore, as described above, when displaying a stereoscopic image, a convergence accommodation conflict may occur. In this embodiment, the focus of the lens 30 is moved in the optical axis direction, and the timing of irradiating the image light L is set based on the position of the focus in the optical axis direction, thereby appropriately adjusting the opening angle of the light beam of the image light L and reducing the convergence accommodation conflict.

また、タイミング設定部66bは、立体画像の奥行き方向(本実施形態ではZ方向)の位置を示す奥行き情報にも基づき、照射タイミングを設定する。本実施形態によると、奥行き情報も用いて照射タイミングを設定するため、表示される立体画像に合わせて画像光Lの光束の開き角を適切に調整することが可能となり、輻輳調節矛盾を小さくすることができる。 The timing setting unit 66b also sets the irradiation timing based on depth information indicating the position in the depth direction (Z direction in this embodiment) of the stereoscopic image. According to this embodiment, since the irradiation timing is set using the depth information as well, it is possible to appropriately adjust the opening angle of the light flux of the image light L according to the stereoscopic image to be displayed, and it is possible to reduce the convergence accommodation contradiction.

また、タイミング設定部66bは、画素Pからの画像光Lの光束の開き角が、その画素Pによって表示される立体画像の部分での奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(虚像開き角)に対応するような、レンズ30の焦点の光軸方向における位置である、照射位置の情報を取得する。タイミング設定部66bは、レンズ30の焦点が照射位置に対して所定距離範囲内となるタイミングを、その画素Pについての照射タイミングとして設定する。本実施形態によると、光束の開き角と虚像開き角とが近い画素Pに発光させて、光束の開き角と虚像開き角とが遠い画素Pに発光させないことが可能となるため、輻輳調節矛盾を適切に小さくすることができる。 The timing setting unit 66b also acquires information on the irradiation position, which is the position in the optical axis direction of the focus of the lens 30 such that the opening angle of the light beam of the image light L from the pixel P corresponds to the opening angle of the light beam (virtual image opening angle) when the image light L is irradiated toward the user U from a position in the depth direction in the portion of the stereoscopic image displayed by that pixel P. The timing setting unit 66b sets the timing when the focus of the lens 30 is within a predetermined distance range from the irradiation position as the irradiation timing for that pixel P. According to this embodiment, it is possible to cause a pixel P whose opening angle of the light beam and the virtual image opening angle are close to each other to emit light, and not cause a pixel P whose opening angle of the light beam and the virtual image opening angle are far from each other to emit light, so that the convergence accommodation contradiction can be appropriately reduced.

(変形例)
次に、変形例について説明する。変形例に係る表示装置1cは、接眼レンズ20の替わりに凹面鏡20Cでディスプレイを拡大する点で、第1実施形態とは異なる。変形例において第1実施形態と構成が共通する箇所は、説明を省略する。
(Modification)
Next, a modified example will be described. The display device 1c according to the modified example differs from the first embodiment in that the display is enlarged by a concave mirror 20C instead of the eyepiece lens 20. Descriptions of the configurations of the modified example and the first embodiment will be omitted.

図14は、変形例に係る表示装置の模式図である。図14に示すように、変形例に係る表示装置1cは、接眼レンズ20が設けられておらず、画像光Lの光軸方向において表示部10よりもユーザUの眼EY側に、ハーフミラー20Bと凹面鏡20Cとが設けられている。ハーフミラー20Bと凹面鏡20Cも、光学素子であるといえる。変形例においては、表示部10から出射された画像光Lは、ハーフミラー20Bで反射されて凹面鏡20Cに入射する。凹面鏡20Cに入射した画像光Lは、凹面鏡20Cで若干の広がり角を持ちつつほぼ平行光になって、ハーフミラー20Bを透過してユーザUの眼EYに入射する。 Figure 14 is a schematic diagram of a display device according to a modified example. As shown in Figure 14, the display device 1c according to the modified example does not have an eyepiece lens 20, and a half mirror 20B and a concave mirror 20C are provided closer to the eye EY of the user U than the display unit 10 in the optical axis direction of the image light L. The half mirror 20B and the concave mirror 20C can also be considered optical elements. In the modified example, the image light L emitted from the display unit 10 is reflected by the half mirror 20B and enters the concave mirror 20C. The image light L that enters the concave mirror 20C becomes approximately parallel light with a slight spread angle at the concave mirror 20C, and passes through the half mirror 20B to enter the eye EY of the user U.

変形例においては、第1実施形態と同様にレンズ30の焦点位置を制御する。そのため、変形例のような構成であっても、第1実施形態と同様に、ユーザUに立体画像を適切に提供でき、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。 In the modified example, the focal position of the lens 30 is controlled in the same manner as in the first embodiment. Therefore, even with a configuration like the modified example, a stereoscopic image can be appropriately provided to the user U, and the opening angle of the light beam of the image light L can be appropriately adjusted to reduce convergence accommodation conflicts, as in the first embodiment.

なお、変形例は、第2実施形態及び第3実施形態にも適用可能である。また、表示装置の構成は、各実施形態や図12で挙げた変形例以外のものであってもよい。 The modified example can also be applied to the second and third embodiments. The configuration of the display device may be other than those of each embodiment or the modified example shown in FIG. 12.

以上、本発明の実施形態を説明したが、これら実施形態の内容により実施形態が限定されるものではない。また、前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、前述した構成要素は適宜組み合わせることが可能であり、各実施形態の構成を組み合わせることも可能である。さらに、前述した実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換又は変更を行うことができる。 Although the embodiments of the present invention have been described above, the contents of these embodiments do not limit the embodiments. The above-mentioned components include those that a person skilled in the art can easily imagine, those that are substantially the same, and those that are within the so-called equivalent range. Furthermore, the above-mentioned components can be combined as appropriate, and the configurations of each embodiment can also be combined. Furthermore, various omissions, substitutions, or modifications of the components can be made without departing from the spirit of the above-mentioned embodiments.

1 表示装置
10 表示部
20 接眼レンズ
30 レンズ
50 制御装置
60 画像情報取得部
62 視線情報取得部
64 照射制御部
66 焦点位置設定部
68 駆動制御部
L 画像光
U ユーザ
REFERENCE SIGNS LIST 1 display device 10 display unit 20 eyepiece lens 30 lens 50 control device 60 image information acquisition unit 62 line of sight information acquisition unit 64 irradiation control unit 66 focal position setting unit 68 drive control unit L image light U user

Claims (3)

光を照射することでユーザに画像を提供する表示部と、
前記表示部よりも前記ユーザ側に設けられ、焦点を変更可能なレンズと、
前記ユーザの視線の検出結果を取得する視線情報取得部と、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記レンズの焦点を設定する焦点位置設定部と、
を含み、
前記視線情報取得部は、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定部は、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させる駆動制御部と、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するタイミング設定部と、
をさらに含む、
表示装置。
A display unit that provides an image to a user by emitting light;
a lens that is provided closer to the user than the display unit and has a variable focus;
a gaze information acquisition unit for acquiring a detection result of the user's gaze;
a focal position setting unit that sets a focal point of the lens based on a detection result of the user's line of sight and depth information indicating a position in a depth direction of the image;
Including,
The line-of-sight information acquisition unit detects a gaze position at which the user is gazing in the image based on a result of the line-of-sight detection,
the focal position setting unit sets, based on depth information of the gaze position, a focal position of the lens such that a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a position in a depth direction at the gaze position toward the user falls within a predetermined range; and
a drive control unit that moves a focal position of the lens at a predetermined cycle; and a timing setting unit that sets the irradiation timing of the light for each pixel based on the focal position of the lens;
Further comprising:
Display device.
表示部から光を照射することでユーザに画像を提供する表示ステップと、
前記ユーザの視線の検出結果を取得する視線情報取得ステップと、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設ステップと、
を含み、
前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させるステップと、
前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、
をさらに含む、
表示制御方法。
a display step of providing an image to a user by irradiating light from a display unit;
A gaze information acquisition step of acquiring a detection result of the user's gaze;
a focus position setting step of setting a focus of a lens that is provided on the user side of the display unit and has a variable focus based on a detection result of the line of sight of the user and depth information indicating a position in a depth direction of the image;
Including,
In the line-of-sight information acquisition step, a gaze position at which the user is gazing in the image is detected based on a result of the line-of-sight detection,
In the focal position setting step, a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a depth direction position at the gaze position toward the user is within a predetermined range based on depth information of the gaze position, and
moving the focal position of the lens at a predetermined period;
setting the light irradiation timing for each pixel based on a focal position of the lens;
Further comprising:
Display control method.
表示部から光を照射することでユーザに画像を提供する表示ステップと、
前記ユーザの視線の検出結果を取得する視線情報取得ステップと、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設ステップと、
を、コンピュータに実行させ、
前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させるステップと、
前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、
をさらに含む、
表示制御プログラム。
a display step of providing an image to a user by irradiating light from a display unit;
A gaze information acquisition step of acquiring a detection result of the user's gaze;
a focus position setting step of setting a focus of a lens that is provided on the user side of the display unit and has a variable focus based on a result of the detection of the user's line of sight and depth information indicating a position in a depth direction of the image;
The computer executes the following:
In the line-of-sight information acquisition step, a gaze position at which the user is gazing in the image is detected based on a result of the line-of-sight detection,
In the focal position setting step, a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a depth direction position at the gaze position toward the user is within a predetermined range based on depth information of the gaze position, and
moving the focal position of the lens at a predetermined period;
setting the light irradiation timing for each pixel based on a focal position of the lens;
Further comprising:
Display control program.
JP2021046052A 2021-03-19 2021-03-19 Display device, display control method, and display control program Active JP7604966B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021046052A JP7604966B2 (en) 2021-03-19 2021-03-19 Display device, display control method, and display control program
PCT/JP2022/012769 WO2022196809A1 (en) 2021-03-19 2022-03-18 Display device, display control method, and display control program
US18/464,301 US12574494B2 (en) 2021-03-19 2023-09-11 Display device, display control method, and computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021046052A JP7604966B2 (en) 2021-03-19 2021-03-19 Display device, display control method, and display control program

Publications (2)

Publication Number Publication Date
JP2022144863A JP2022144863A (en) 2022-10-03
JP7604966B2 true JP7604966B2 (en) 2024-12-24

Family

ID=83454646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021046052A Active JP7604966B2 (en) 2021-03-19 2021-03-19 Display device, display control method, and display control program

Country Status (1)

Country Link
JP (1) JP7604966B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4322526A4 (en) 2021-06-22 2024-10-09 Samsung Electronics Co., Ltd. AUGMENTED REALITY DEVICE COMPRISING A VARIABLE FOCAL LENS AND METHOD OF OPERATING THE SAME

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003334221A (en) 2002-05-20 2003-11-25 Nikon Corp Image display device and eye fatigue eliminating device
JP2017515162A (en) 2014-03-05 2017-06-08 アリゾナ ボード オブ リージェンツ オン ビハーフ オブ ザ ユニバーシティ オブ アリゾナ Wearable 3D augmented reality display

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06235885A (en) * 1993-02-08 1994-08-23 Nippon Hoso Kyokai <Nhk> Stereoscopic picture display device
JP3556389B2 (en) * 1996-05-01 2004-08-18 日本電信電話株式会社 Head mounted display device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003334221A (en) 2002-05-20 2003-11-25 Nikon Corp Image display device and eye fatigue eliminating device
JP2017515162A (en) 2014-03-05 2017-06-08 アリゾナ ボード オブ リージェンツ オン ビハーフ オブ ザ ユニバーシティ オブ アリゾナ Wearable 3D augmented reality display

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HU, Xinda , et al.,High-resolution optical see-through multi-focal-plane head-mounted display using freeform optics,Optics Express,米国,2014年,Vol.22, No.11,13896-13903,DOI: 10.1364/OE.22.013896
陶山史朗,液晶可変焦点レンズを利用した体積型三次元表示,光学,日本,2011年,第40巻、第12号,616-621

Also Published As

Publication number Publication date
JP2022144863A (en) 2022-10-03

Similar Documents

Publication Publication Date Title
US12183310B2 (en) Depth based foveated rendering for display systems
US12189128B2 (en) Depth based foveated rendering for display systems
CN114868069B (en) Predictive eye tracking system and method with foveal rendering of electronic displays
JP2023027369A (en) Operable foveal display
US20130286053A1 (en) Direct view augmented reality eyeglass-type display
US12574494B2 (en) Display device, display control method, and computer-readable storage medium
JP7604966B2 (en) Display device, display control method, and display control program
JP7600802B2 (en) Display device, display control method, and display control program
JP7567594B2 (en) Display device, display control method, and display control program
JP7848912B2 (en) Display device, display control method, and display control program
JP7567593B2 (en) Display device, display control method, and display control program
JP7604965B2 (en) Display device, display control method, and display control program
JP7604967B2 (en) Display device, display control method, and display control program
KR20210070799A (en) Apparatus for display

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241125

R150 Certificate of patent or registration of utility model

Ref document number: 7604966

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150