JP7604966B2 - Display device, display control method, and display control program - Google Patents
Display device, display control method, and display control program Download PDFInfo
- Publication number
- JP7604966B2 JP7604966B2 JP2021046052A JP2021046052A JP7604966B2 JP 7604966 B2 JP7604966 B2 JP 7604966B2 JP 2021046052 A JP2021046052 A JP 2021046052A JP 2021046052 A JP2021046052 A JP 2021046052A JP 7604966 B2 JP7604966 B2 JP 7604966B2
- Authority
- JP
- Japan
- Prior art keywords
- user
- image
- lens
- light
- gaze
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Controls And Circuits For Display Device (AREA)
- Devices For Indicating Variable Information By Combining Individual Elements (AREA)
Description
本発明は、表示装置、表示制御方法、及び表示制御プログラムに関する。 The present invention relates to a display device, a display control method, and a display control program.
ユーザの右眼と左眼に異なる視差の画像を視認させて、輻輳の違いを利用して立体画像を表示させる表示装置が知られている。このような表示装置としては、ユーザの頭部に搭載されるいわゆるヘッドマウントディスプレイ(HMD)がある。例えば特許文献1には、ディスプレイと光学系との間にマイクロレンズアレイを配置するヘッドマウントディスプレイが記載されている。
There is a known display device that displays a stereoscopic image by allowing the user's right and left eyes to view images with different parallax and utilizing the difference in convergence. One such display device is a so-called head-mounted display (HMD) that is mounted on the user's head. For example,
ここで、画像を表示する表示装置においては、ユーザに適切に画像を提供することが求められている。 Here, display devices that display images are required to provide appropriate images to users.
本発明は、上記課題に鑑み、ユーザに適切に画像を提供可能な表示装置、表示制御方法、及び表示制御プログラムを提供することを目的とする。 In view of the above problems, the present invention aims to provide a display device, a display control method, and a display control program that can provide appropriate images to a user.
本発明の一態様にかかる表示装置は、光を照射することでユーザに画像を提供する表示部と、前記表示部よりも前記ユーザ側に設けられ、焦点を変更可能なレンズと、前記ユーザの視線の検出結果を取得する視線情報取得部と、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記レンズの焦点を設定する焦点位置設定部と、を含み、前記視線情報取得部は、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定部は、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させる駆動制御部と、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するタイミング設定部と、をさらに含む。 A display device according to one aspect of the present invention includes a display unit that provides an image to a user by irradiating light, a lens that is located on the user side of the display unit and has an adjustable focus, a gaze information acquisition unit that acquires a detection result of the user's gaze, and a focus position setting unit that sets the focus of the lens based on the detection result of the user's gaze and depth information indicating a depth position of the image, wherein the gaze information acquisition unit detects a gaze position in the image at which the user is gazing based on the gaze detection result, and the focus position setting unit sets, based on the depth information of the gaze position, the focus position of the lens as the focus position of the lens at which the difference between the opening angle of the light flux of the light and the opening angle of the light flux when the light is irradiated toward the user from a depth position at the gaze position is within a predetermined range, and further includes a drive control unit that moves the focus position of the lens at a predetermined period, and a timing setting unit that sets the timing of irradiating the light for each pixel based on the focus position of the lens.
本発明の一態様にかかる表示制御方法は、表示部から光を照射することでユーザに画像を提供する表示ステップと、前記ユーザの視線の検出結果を取得する視線情報取得ステップと、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設定ステップと、を含み、前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させるステップと、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、をさらに含む。 A display control method according to one aspect of the present invention includes a display step of providing an image to a user by irradiating light from a display unit, a gaze information acquisition step of acquiring a detection result of the user's gaze, and a focus position setting step of setting the focus of a lens that is located on the user side of the display unit and has a variable focus based on the detection result of the user's gaze and depth information indicating a depth position of the image, wherein the gaze information acquisition step detects a gaze position in the image at which the user is gazing based on the gaze detection result, and the focus position setting step sets, based on the depth information of the gaze position, a focus position of the lens at which a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated toward the user from a depth position at the gaze position, within a predetermined range, as the focus position of the lens, and moves the focus position of the lens at a predetermined period, and further includes a step of setting the irradiation timing of the light for each pixel based on the focus position of the lens.
本発明の一態様にかかる表示制御プログラムは、表示部から光を照射することでユーザに画像を提供する表示ステップと、前記ユーザの視線の検出結果を取得する視線情報取得ステップと、前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設定ステップと、を、コンピュータに実行させ、前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、前記レンズの焦点の位置を、所定の周期で移動させるステップと、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、をさらに含む。 A display control program according to one aspect of the present invention causes a computer to execute a display step of providing an image to a user by irradiating light from a display unit, a gaze information acquisition step of acquiring a detection result of the user's gaze, and a focus position setting step of setting the focus of a lens that is located on the user side of the display unit and has a variable focus based on the detection result of the user's gaze and depth information indicating a depth position of the image. In the gaze information acquisition step, a gaze position at which the user is gazing at in the image is detected based on the gaze detection result, and in the focus position setting step, a focus position of the lens at which a difference between an opening angle of a luminous flux of the light and an opening angle of the luminous flux when the light is irradiated toward the user from a depth position at the gaze position is within a predetermined range is set as the focus position of the lens, based on the depth information of the gaze position, and the focus position setting step further includes a step of moving the focus position of the lens at a predetermined period, and a step of setting the irradiation timing of the light for each pixel based on the focus position of the lens.
本発明によれば、ユーザに適切に画像を提供できる。 The present invention allows appropriate images to be provided to the user.
以下に、本発明の実施形態を図面に基づいて詳細に説明する。なお、以下に説明する実施形態により本発明が限定されるものではない。 The following describes in detail an embodiment of the present invention with reference to the drawings. Note that the present invention is not limited to the embodiment described below.
(輻輳調節矛盾)
図1は、輻輳調節矛盾を説明するための模式図である。立体画像を表示する表示装置は、ユーザの右眼と左眼に異なる視差の画像を視認させて、輻輳の違いを利用して立体画像を表示させる。立体画像を表示する場合には、実際に画像が表示される表示面がユーザの眼の焦点位置となり、左右の眼の視線が交差する位置が輻輳位置となる。しかし、図1の例に示すように、立体画像においては、立体画像の奥行き方向であるZ方向における焦点位置PO1と輻輳位置PO2との位置がずれることがある。焦点位置PO1と輻輳位置PO2との位置がずれると、いわゆる輻輳調節矛盾が起こり、眼精疲労やいわゆる3D酔いなどの原因となる。そのため、輻輳調節矛盾を抑制することが求められている。なお、図1の(A)は、焦点位置PO1が輻輳位置PO2よりもユーザの眼EY側にあり、図1の(B)は、輻輳位置PO2が焦点位置PO1よりもユーザの眼EY側にある例を示している。
(Convergence regulation conflict)
FIG. 1 is a schematic diagram for explaining the convergence accommodation conflict. A display device for displaying a stereoscopic image displays a stereoscopic image by making the right eye and the left eye of a user view images with different parallax and utilizing the difference in convergence. When displaying a stereoscopic image, the display surface on which the image is actually displayed becomes the focal position of the user's eyes, and the position where the lines of sight of the left and right eyes intersect becomes the convergence position. However, as shown in the example of FIG. 1, in a stereoscopic image, the positions of the focal position PO1 and the convergence position PO2 in the Z direction, which is the depth direction of the stereoscopic image, may shift. If the positions of the focal position PO1 and the convergence position PO2 shift, a so-called convergence accommodation conflict occurs, which causes eye fatigue and so-called 3D sickness. Therefore, it is required to suppress the convergence accommodation conflict. Note that (A) of FIG. 1 shows an example in which the focal position PO1 is closer to the user's eye EY than the convergence position PO2, and (B) of FIG. 1 shows an example in which the convergence position PO2 is closer to the user's eye EY than the focal position PO1.
(第1実施形態)
(表示装置の全体構成)
図2は、第1実施形態に係る表示装置の模式図である。第1実施形態に係る表示装置1は、立体画像を表示する表示装置である。図2に示すように、表示装置1は、ユーザUの頭部に装着される、いわゆるHMD(Head Mount Display)である。例えば、表示装置1は、ユーザUの眼EYに面した位置に表示部10が装着される。そして、表示装置1は、表示部10に画像を表示させて、ユーザUにコンテンツを提供する。なお、図2に示した表示装置1の構成は一例である。例えば、表示装置1は、ユーザUの耳に装着される音声出力部(スピーカ)を備えていてもよい。
First Embodiment
(Overall configuration of the display device)
FIG. 2 is a schematic diagram of a display device according to the first embodiment. The
表示装置1は、このようにユーザUに装着されるため、ユーザUの眼EYに対する位置が固定される。表示装置1は、ユーザUに装着されるHMDであることに限られず、設備に固定された表示装置などであってもよい。このような場合でも、表示装置1は、例えばユーザUの座席に対する位置が固定されるなど、ユーザUの眼EYに対する位置が固定されることが好ましい。
Since the
図3は、第1実施形態に係る表示装置の各構成の模式図である。図3に示すように、表示装置1は、表示部10と、接眼レンズ20と、レンズ30と、視線検出部40と、制御装置50とを有する。
Figure 3 is a schematic diagram of each component of the display device according to the first embodiment. As shown in Figure 3, the
(表示部)
表示部10は、立体画像を表示する装置である。表示部10は、表示パネル12と光源部14とを有する。表示パネル12は、マトリクス状に並ぶ複数の画素を有するディスプレイである。本実施形態の例では、表示パネル12は、マトリクス状に並ぶ複数の画素電極と、液晶素子が充填される液晶層とを有する液晶表示パネルである。表示パネル12で画像が表示される面を表示面10Aとする。以下、表示面10AからユーザUの眼EYへ向かう方向を、方向Z1とし、方向Z1と反対方向を、すなわちユーザUの眼EYから表示面10Aに向かう方向を、方向Z2とする。方向Z1、Z2を区別しない場合は、方向Zと記載する。なお、図3では、表示パネル12のユーザUの眼EY側の表面を表示面10Aとしているが、表示面10Aは、ユーザUの眼EY側の表面であることに限られず、ユーザUの眼EY側の表面よりも内側にあってもよい。なお、表示部10は、後述する制御装置50から表示パネル12を駆動させる駆動信号や光源部14の光の照射タイミングを制御する制御信号を受信する。
(Display)
The
光源部14は、表示パネル12に光を照射する光源である。本実施形態では、光源部14は、表示パネル12の表示面10Aとは反対側の表面に設けられる、いわゆるバックライドである。光源部14の設けられる位置はこれに限られず任意であり、例えば表示パネル12の横にあるサイドライトであってもよい。本実施形態では、光源部14は、表示パネル12の全ての画素に対して一様に光を照射するものであり、言い換えれば、画素毎に個別に光の照射を制御するものではない。ただし、光源部14は、表示パネル12の全ての画素に一様に光を照射するものに限られず、例えば複数の画素毎に光の照射を調整可能な、例えば画面全体をいくつかの区画に分け区画ごとに光の強度を調整可能な、いわゆるローカルディミングの方式のものであってもよい。
The
このように、表示部10は、表示パネル12と光源部14とを有する。表示部10は、光源部14から表示パネル12に照射された光である画像光LをユーザUの眼EYに到達させることで、ユーザUに立体画像を提供する。本実施形態の例では、光源部14から照射された光は、表示パネル12の各画素を透過して、画像光LとしてユーザUの眼EYに入射する。より詳しくは、表示パネル12は、左眼用画像と右眼用画像とが提供されるように、例えば画素電極の電圧が制御されつつ、表示パネル12に向けて光源部14からの光が照射される。光源部14からの光のうち、左眼用画像に対応する画素を透過した画像光LがユーザUの左眼に入射し、右眼用画像に対応する画素を透過した画像光LがユーザUの左眼に入射することで、ユーザUに立体画像が提供される。
In this way, the
なお、表示部10の構成は以上のものに限られず、例えば、OLED(Organic Light Emitting Diode)やいわゆるマイクロLEDなど、画素毎に点灯制御が可能な自発光型のディスプレイであってよい。また、表示部10が反射型の液晶表示装置であってもよい。
The configuration of the
(接眼レンズ)
接眼レンズ20は、表示部10のZ1方向側に設けられる。接眼レンズ20は、光(画像光)を透過する光学素子である。さらに言えば、接眼レンズ20は、レンズ30を除き、表示装置1で最もユーザUの眼EY側にある光学素子(レンズ)である。表示パネル12から出射された画像光Lは、接眼レンズ20及びレンズ30を通って、ユーザUの眼EYに入射する。なお、本実施形態では、レンズ30からユーザUの眼EYまでの画像光Lの光路における光軸方向が、方向Zともいえる。
(Eyepiece)
The
なお、図3の例では、表示部10のZ1方向側の光学素子として、接眼レンズ20とレンズ30のみが示されているが、それに限られず、それら以外の光学素子が設けられていてもよい。
In the example of FIG. 3, only the
(レンズ)
レンズ30は、画像光Lの光軸方向において、表示部10よりもユーザU側に設けられている。さらに言えば、レンズ30は、接眼レンズ20よりもユーザU側に設けられている。ただしそれに限られず、レンズ30は、接眼レンズ20よりも表示部10側に設けられてもよい。レンズ30は、Z方向(画像光Lの光軸方向)における焦点の位置(レンズ30から焦点までの距離)を変化可能な、いわゆる可変焦点レンズである。レンズ30は、任意の構造であってよいが、例えば電圧の印加によりレンズ30の厚みを変化させることで、焦点の位置を変化可能なものであってよい。より詳しくは、例えば、レンズ30は、弾性ポリマー膜で封入された光学リキッドで構成されるレンズコアと、レンズコアに取り付けられる電磁式のアクチュエータとを有し、アクチュエータへの電圧印加によりアクチュエータが駆動し、アクチュエータによりレンズコアが圧力を受けて変形することで、レンズ30の厚みを変化させて、焦点の位置を変化させるものであってよい。なお、レンズ30のアクチュエータは、後述する制御装置50から、焦点の位置の制御を行う信号を取得する。
(lens)
The
(視線検出部)
視線検出部40は、ユーザUの眼EYが向いている方向、すなわちユーザUの視線を検出する。視線検出部40は、ユーザUの視線を検出可能な任意のセンサであってよいが、例えば、ユーザUの眼EYを撮像するカメラであってよい。視線検出部40は、制御装置50へ視線の検出結果を送出する。
(Gaze detection unit)
The
(制御装置)
制御装置50は、表示装置1の各部を制御する装置である。図4は、第1実施形態に係る制御装置の模式的なブロック図である。制御装置50は、本実施形態ではコンピュータであり、記憶部52と制御部54とを有する。記憶部52は、制御部54の演算内容やプログラムなどの各種情報を記憶するメモリであり、例えば、RAM(Random Access Memory)と、ROM(Read Only Memory)のような主記憶装置と、HDD(Hard Disk Drive)などの外部記憶装置とのうち、少なくとも1つ含む。記憶部52が記憶する制御部54用のプログラムは、制御装置50が読み取り可能な記録媒体に記憶されていてもよい。
(Control device)
The
制御部54は、演算装置であり、例えばCPU(Central Processing Unit)などの演算回路を含む。制御部54は、画像情報取得部60と、視線情報取得部62と、照射制御部64と、焦点位置設定部66と、駆動制御部68とを含む。制御部54は、記憶部52からプログラム(ソフトウェア)を読み出して実行することで、画像情報取得部60と視線情報取得部62と照射制御部64と焦点位置設定部66と駆動制御部68とを実現して、それらの処理を実行する。なお、制御部54は、1つのCPUによってこれらの処理を実行してもよいし、複数のCPUを備えて、それらの複数のCPUで、処理を実行してもよい。また、画像情報取得部60と視線情報取得部62と照射制御部64と焦点位置設定部66と駆動制御部68との少なくとも1つを、ハードウェア回路で実現してもよい。
The control unit 54 is a calculation device and includes a calculation circuit such as a CPU (Central Processing Unit). The control unit 54 includes an image information acquisition unit 60, a line of sight information acquisition unit 62, an irradiation control unit 64, a focal position setting unit 66, and a drive control unit 68. The control unit 54 reads out a program (software) from the
(画像情報取得部)
画像情報取得部60は、表示部10が表示する立体画像の画像データを取得する。すなわち、画像情報取得部60は、左眼用画像の画像データと、右眼用画像の画像データとを取得する。また、画像情報取得部60は、立体画像の奥行き方向における位置を示す奥行き情報を取得する。立体画像の奥行き方向における位置とは、表示面10Aに画像を表示した際にユーザUに視認される虚像の、奥行き方向における位置を指す。奥行き方向とは、表示部10の表示面10Aに直交する方向であるとも言え、本実施形態ではZ方向である。奥行き情報は、画像データに関連付けられている。さらに言えば、立体画像は、1フレームに含まれる各画像について、奥行き方向における位置が設定されており、言い換えれば、表示面10A上の位置毎に、奥行き方向における位置が設定されている。そのため、画像情報取得部60は、立体画像についての、表示面10A上の位置毎の奥行き情報を取得するといえる。なお、立体画像は、画素毎に奥行き方向における位置が設定されているが、1つの画像を構成する複数の画素に対しては、奥行き方向における位置が同じとなるように設定されていてもよい。画像情報取得部60は、任意の方法で画像データ及び奥行き情報を取得してよく、記憶部52に予め記憶されていた画像データ及び奥行き情報を読み出してもよいし、図示しない通信部を介して画像データ及び奥行き情報を受信してもよい。また、画像情報取得部60は、画像データに基づき奥行き方向の位置を算出することで、奥行き情報を取得してもよい。
(Image information acquisition unit)
The image information acquisition unit 60 acquires image data of a stereoscopic image displayed by the
(視線情報取得部)
視線情報取得部62は、視線検出部40を制御して、視線検出部40にユーザUの視線を検出させ、視線検出部40による視線の検出結果を取得する。本実施形態では、視線情報取得部62は、視線の検出結果に基づき、ユーザUが注視している注視位置を検出する。注視位置とは、立体画像のうちでユーザUが注視している画像の表示面10A上での位置を指し、言い換えれば、表示面10Aの全域のうちでユーザUが注視している位置を指す。本実施形態では、視線情報取得部62は、ユーザUの視線の検出結果からユーザUの輻輳位置を検出し、輻輳位置と重なる位置にある虚像に対応する画像の、表示面10Aでの位置を、注視位置として検出する。すなわち例えばユーザUの輻輳位置が、立体画像における車の虚像に重なっている場合には、その車の画像の表示面10Aでの位置が、注視位置とされる。ただし、注視位置の検出方法はそれに限られず、ユーザUの視線の検出結果から任意の方法で検出してよい。
(Gaze information acquisition unit)
The gaze information acquisition unit 62 controls the
(照射制御部)
照射制御部64は、画像データに基づき、表示部10からユーザUに向けて画像光Lを照射させる。本実施形態においては、照射制御部64は、画像データに基づいて表示パネル12の各画素を駆動しつつ、光源部14から光を照射させることで、各画素からユーザUに向けて画像光Lを照射させて、ユーザUに立体画像を提供する。さらに言えば、照射制御部64は、画像データに基づいて、表示パネル12の画素電極毎の印加電圧を制御して液晶素子を配向させつつ、光源部14から光を照射させる。これにより、光源部14からの光が液晶層を透過して、立体画像用の画像光LとしてユーザYの眼EYに向けて出射される。なお、例えば表示部10が自発光式である場合、照射制御部64は、画像データに基づき各画素を発光させて、各画素から画像光Lを照射させる。
(Irradiation control unit)
The irradiation control unit 64 irradiates image light L from the
(焦点位置設定部)
焦点位置設定部66は、ユーザUの視線の検出結果に基づき、画像光Lの光軸方向(方向Z)におけるレンズ30の焦点の位置とする設定焦点位置を設定する。さらに言えば、焦点位置設定部66は、ユーザUの視線の検出結果と立体画像の奥行き情報とに基づき、設定焦点位置を設定する。以下、設定焦点位置の設定についてより具体的に説明する。
(Focus position setting unit)
Based on the detection result of the line of sight of the user U, the focal position setting unit 66 sets a set focal position that is the focal position of the
図5から図7は、照射タイミングの設定を説明するための模式図である。例えば図5に示すように、表示部10から出射された画像光Lは、所定の開き角をもつ光束として、ユーザUの眼EYに入射する。この場合、ユーザUは、この光束の開き角に合うように、眼球の水晶体の厚さを無意識に変えて、網膜に焦点が合うように調節している。輻輳調節矛盾は、左右の眼の輻輳度合い(左右の眼のより度合い)と、光束の開き角に焦点を合わせた状態とが、合致していないことを指す。それに対して、本実施形態の表示装置1は、虚像(輻輳位置)から光が出射されて眼EYに入射したと仮定した場合の開き角である虚像開き角(図5の例では角度θ1A)と、実際に表示部10から画像光Lが出射されて眼EYに入射した場合の画像光Lの開き角との差分が小さくなるように、画像光Lを出射させる。ここで、画像光Lは、レンズ30を通る際に光束の開き角が変化するため(すなわち屈折するため)、光束の開き角の変化度合いは、レンズ30の焦点の位置に応じて決まる。従って、焦点位置設定部66は、虚像開き角と画像光Lの開き角との差分が小さくなるレンズ30の焦点位置を、設定焦点位置として設定する。
5 to 7 are schematic diagrams for explaining the setting of the irradiation timing. For example, as shown in FIG. 5, the image light L emitted from the
より詳しくは、焦点位置設定部66は、視線情報取得部62が検出した注視位置における、奥行き情報を取得する。すなわち、焦点位置設定部66は、注視位置の奥行き方向(Z方向)における位置の情報を取得する。言い換えれば、焦点位置設定部66は、ユーザUが注視している虚像のZ方向における位置の情報を取得する。そして、焦点位置設定部66は、注視位置における奥行き情報に基づき、設定焦点位置を設定する。焦点位置設定部66は、注視位置での奥行き方向の位置(ユーザUが注視している虚像の位置)から眼EYに光が照射された場合の光束の開き角(注視位置からの虚像開き角)に、画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、設定焦点位置として設定する。ただし、虚像開き角と実際の画像光Lの開き角が厳密に一致する位置を、設定焦点位置とすることに限られない。例えば、虚像開き角と実際の画像光Lの開き角との差分が所定範囲内となる際のレンズ30の焦点位置を、設定焦点位置としてよい。ここでの所定範囲は任意に設定してよいが、輻輳調節矛盾を小さくするために、虚像開き角と画像光Lの開き角との差分が小さくなるような値に、設定されることが好ましい。また、焦点位置設定部66は、奥行き方向を量子化した値を、設定焦点位置の設定に用いる注視位置の奥行き方向における位置として用いてよい。すなわち例えば、奥行き方向を複数の数値範囲に区分し、それぞれの数値範囲に対して、その数値範囲内にある所定値を基準位置として設定しておく。そして、焦点位置設定部66は、取得した注視位置の奥行き方向における位置が含まれる数値範囲を抽出し、その数値範囲に対する基準位置を、設定焦点位置の設定に用いる注視位置の奥行き方向における位置として扱う。
More specifically, the focal position setting unit 66 acquires depth information at the gaze position detected by the line-of-sight information acquisition unit 62. That is, the focal position setting unit 66 acquires information on the position in the depth direction (Z direction) of the gaze position. In other words, the focal position setting unit 66 acquires information on the position in the Z direction of the virtual image on which the user U is gazing. Then, the focal position setting unit 66 sets the set focal position based on the depth information at the gaze position. The focal position setting unit 66 sets the position of the focus of the
駆動制御部68は、レンズ30を制御して、レンズ30の焦点の位置をZ方向に移動させる。駆動制御部68は、例えば、レンズ30が有するアクチュエータに対する電圧の印加を制御することで、レンズ30の焦点の位置をZ方向に移動させる。駆動制御部68は、レンズ30の焦点のZ方向の位置を、設定焦点位置に移動させる。そのため、眼EYに入射する画像光Lの光束の開き角は、注視位置(ユーザUが注視している虚像)からの虚像開き角に近くなり、輻輳調節矛盾を小さくすることができる。
The drive control unit 68 controls the
以上説明した設定焦点位置の設定の例を、図5から図7を用いて説明する。以下では、家の画像と車の画像とヘリコプタの画像とが立体画像として表示され、車の画像、家の画像、ヘリコプタの画像の順で、奥行き方向(Z方向)の位置がユーザUの眼EYから遠くなる場合を例にする。すなわち、車の画像の虚像P2は、家の画像の虚像P1よりもZ1方向側に位置し、ヘリコプタの画像の虚像P3は、家の画像の虚像P1よりもZ2方向側に位置する。 An example of setting the set focal position described above will be described with reference to Figures 5 to 7. In the following, an example will be taken in which an image of a house, an image of a car, and an image of a helicopter are displayed as a stereoscopic image, with the image of the car, the image of the house, and the image of the helicopter being positioned further away from the eye EY of the user U in the depth direction (Z direction) in that order. That is, the virtual image P2 of the car image is located further in the Z1 direction than the virtual image P1 of the house image, and the virtual image P3 of the helicopter image is located further in the Z2 direction than the virtual image P1 of the house image.
図5は、ユーザUが家の画像の虚像P1を注視している場合の例である。図5の例では、虚像P1(注視位置の奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(注視位置からの虚像開き角)を、角度θ1Aとする。そして、Z方向におけるレンズ30の焦点の位置が第1位置である場合に、家の画像を構成する画素からの画像光Lの光束の開き角が、角度θ1Aとなるとする。この場合、第1位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第1位置に移動させる。これにより、家の画像の虚像P1からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致し、輻輳調節矛盾を小さくすることができる。なお、本実施形態では、表示パネル12の全体に光が照射されるため、車の画像の虚像P2やヘリコプタの画像の虚像P3もユーザUに視認される。この場合、虚像P2、P3に対する虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致しないこととなる。しかし、虚像P2、P3はユーザUの注視している領域の範囲外であるためユーザUへの影響が少なく、ユーザUの注視している領域の範囲内である虚像P1の虚像開き角とは一致しているため、ユーザUへの負担を小さくできる。なお、以上の説明では、虚像開き角と画像光Lの開き角が一致する第1位置を設定焦点位置としていたが、それに限られず、虚像開き角と画像光Lの開き角との差分が所定範囲となる位置を設定焦点位置としてよい。
5 is an example in which the user U is gazing at a virtual image P1 of a house image. In the example of FIG. 5, the opening angle of the light beam (virtual image opening angle from the gaze position) when light is irradiated from the virtual image P1 (depth direction position of the gaze position) to the eye EY is set to angle θ1A. Then, when the position of the focus of the
図6は、ユーザUが車の画像の虚像P2を注視している場合の例である。図6の例では、虚像P2(車の画像を構成する画素Pの奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)を、角度θ2Aとする。そして、Z方向におけるレンズ30の焦点の位置が第2位置である場合に、車の画像を構成する画素Pからの画像光Lの光束の開き角が、角度θ2Aとなるとする。なお、虚像P2は虚像P1よりもZ1方向に視認されるため、角度θ2Aは図5の角度θ1Aより大きく、第1位置が焦点である場合よりも第2位置が焦点である場合の方が、レンズ30による光束の開き角の拡大度合いが大きくなる(又は縮小度合いが小さくなる)。この場合、第2位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第2位置に移動させる。これにより、車の画像の虚像P2からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが一致し、輻輳調節矛盾を小さくすることができる。なお、以上の説明では、虚像開き角と画像光Lの開き角が一致する第2位置を設定焦点位置としていたが、それに限られず、虚像開き角と画像光Lの開き角との差分が所定範囲となる位置を設定焦点位置としてよい。
Figure 6 is an example of a case where the user U is gazing at a virtual image P2 of a car image. In the example of Figure 6, the opening angle of the light beam (virtual image opening angle) when light is irradiated from the virtual image P2 (the depth direction position of the pixel P constituting the car image) to the eye EY is set to angle θ2A. Then, when the position of the focus of the
図7は、ユーザUがヘリコプタの画像の虚像P3を注視している場合の例である。図7の例では、虚像P3(ヘリコプタの画像を構成する画素Pの奥行き方向の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)を、角度θ3Aとする。そして、Z方向におけるレンズ30の焦点の位置が第3位置である場合に、ヘリコプタの画像を構成する画素Pからの画像光Lの光束の開き角が、角度θ3Aとなるとする。なお、虚像P3は虚像P1よりもZ2方向に視認されるため、角度θ3Aは、図5の角度θ1Aより小さく、第1位置が焦点である場合よりも第3位置が焦点である場合の方が、レンズ30による光束の開き角の拡大度合いが小さくなる(又は縮小度合いが大きくなる)。この場合、第3位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第3位置に移動させる。これにより、車の画像の虚像P2からの虚像開き角と、実際にユーザUの眼EYに入射する画像光Lの開き角とが近くなり、輻輳調節矛盾を小さくすることができる。この場合、第3位置が設定焦点位置となり、焦点位置設定部66は、レンズ30の焦点を第3位置に移動させる。
Figure 7 shows an example in which the user U is gazing at a virtual image P3 of a helicopter image. In the example of Figure 7, the opening angle of the light beam (virtual image opening angle) when light is irradiated from the virtual image P3 (the depth direction position of the pixel P constituting the helicopter image) to the eye EY is set to angle θ3A. When the focal position of the
(処理フロー)
次に、以上説明した制御装置50の処理フローを説明する。図8は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50は、照射制御部64により、画像データに基づき表示パネル12の画素を駆動しつつ、光源部14から光を照射させる。制御装置50は、視線情報取得部62により、ユーザUの視線の検出結果を取得し(ステップS10)、視線の検出結果に基づき、注視位置を検出する(ステップS12)。そして、制御装置50は、焦点位置設定部66により、注視位置の奥行き情報から、設定焦点位置を設定する(ステップS14)。制御装置50は、駆動制御部68により、レンズ30の焦点の位置を、設定焦点位置とする(ステップS16)。処理を終了しない場合は(ステップS18;No)、ステップS10に戻り処理を続け、処理を終了する場合(ステップS18;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the
(効果)
以上説明したように、本実施形態に係る表示装置1は、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、視線情報取得部62と、焦点位置設定部66と、駆動制御部68とを含む。表示部10は、複数の画素を含み、画像光LをユーザUに到達させることでユーザUに立体画像を提供する。視線情報取得部62は、ユーザUの視線の検出結果を取得する。焦点位置設定部66は、ユーザUの視線の検出結果と立体画像の奥行き方向の位置を示す奥行き情報とに基づき、画像光Lの光軸方向におけるレンズ30の焦点の位置とする設定焦点位置を設定する。駆動制御部68は、レンズ30の焦点の位置を設定焦点位置に移動させる。
(effect)
As described above, the
ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、ユーザUの視点と立体画像の奥行き方向の位置とに基づき設定した設定焦点位置に、レンズ30の焦点位置を移動させる。従って、本実施形態によると、ユーザUの視線と立体画像の奥行き方向の位置に基づいた適切な光束の開き角でユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、上述のように、立体画像を表示する際には、輻輳調節矛盾が起こる場合がある。それに対して、本実施形態においては、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。
Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In response to this, in this embodiment, the focal position of the
また、視線情報取得部62は、視線の検出結果に基づき、立体画像のうちでユーザUが注視している注視位置を検出する。そして、焦点位置設定部66は、注視位置の奥行き情報に基づき、画像光Lの光束の開き角と、注視位置の奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(注視位置からの虚像開き角)との差分が所定範囲内となるような、画像光Lの光軸方向におけるレンズ30の焦点の位置を、設定焦点位置として設定する。本実施形態によると、画像光Lの光束の開き角を、ユーザUが注視している虚像からの虚像開き角に近づけることができるため、輻輳調節矛盾を適切に小さくすることができる。
The gaze information acquisition unit 62 detects the gaze position in the stereoscopic image at which the user U is gazing, based on the gaze detection result. The focus position setting unit 66 sets, as the set focus position, the position of the focus of the
また、表示装置1は、ヘッドマウントディスプレイである。そのため、ヘッドマウントディスプレイにより立体画像を適切に提供できる。
The
(第2実施形態)
次に、第2実施形態について説明する。第2実施形態においては、レンズ30の焦点位置を所定周期で変化させる点で、第1実施形態とは異なる。第2実施形態において第1実施形態と構成が共通する箇所は、説明を省略する。
Second Embodiment
Next, a second embodiment will be described. The second embodiment differs from the first embodiment in that the focal position of the
図9は、第2実施形態に係る制御装置の模式的なブロック図である。図9に示すように、第2実施形態に係る制御装置50aの制御部54aは、画像情報取得部60と、視線情報取得部62と、照射制御部64aと、タイミング設定部66aと、駆動制御部68aとを含む。制御部54aは、記憶部52からプログラム(ソフトウェア)を読み出して実行することで、画像情報取得部60と視線情報取得部62と照射制御部64aとタイミング設定部66aと駆動制御部68aとを実現して、それらの処理を実行する。なお、制御部54aは、1つのCPUによってこれらの処理を実行してもよいし、複数のCPUを備えて、それらの複数のCPUで、処理を実行してもよい。また、画像情報取得部60と視線情報取得部62と照射制御部64aとタイミング設定部66aと駆動制御部68aとの少なくとも1つを、ハードウェア回路で実現してもよい。
FIG. 9 is a schematic block diagram of a control device according to the second embodiment. As shown in FIG. 9, the control unit 54a of the control device 50a according to the second embodiment includes an image information acquisition unit 60, a line of sight information acquisition unit 62, an irradiation control unit 64a, a timing setting unit 66a, and a drive control unit 68a. The control unit 54a reads out a program (software) from the
(駆動制御部)
第2実施形態においては、駆動制御部68aは、レンズ30の焦点の位置を、Z方向に沿って所定の周期で移動させる。駆動制御部68aは、レンズ30の焦点の位置がZ1方向に所定距離移動した後にZ2方向に所定距離移動するZ方向の往復移動(振動)を繰り返し行うように、レンズ30の焦点の位置を移動させる。言い換えれば、駆動制御部68aは、レンズ30の焦点のZ方向の往復移動を、所定の周期で行わせる。本実施形態では、Z方向の往復移動の周期(焦点がZ方向において元の位置に戻ってくるまでの時間)は一定であるが、一定であることに限られず、周期を変化させてもよい。
(Drive control unit)
In the second embodiment, the drive control unit 68a moves the position of the focal point of the
(タイミング設定部及び照射制御部)
タイミング設定部66aは、光源部14の光の照射タイミングを設定する。照射制御部64aは、タイミング設定部66aが設定した照射タイミングで、光源部14に光を照射させる。タイミング設定部66aは、ユーザUの視線の検出結果と、レンズ30の焦点のZ方向(画像光Lの光軸方向)における位置とに基づき、照射タイミングを設定する。さらに言えば、タイミング設定部66aは、ユーザUの視線の検出結果と、立体画像の奥行き情報と、レンズ30の焦点のZ方向における位置とに基づき、照射タイミングを設定する。以下、タイミング設定部66aの設定についてより具体的に説明する。
(Timing setting unit and irradiation control unit)
The timing setting unit 66a sets the timing of emitting light from the
タイミング設定部66aは、注視位置からの虚像開き角と画像光Lの開き角との差分が小さくなる位置にレンズ30の焦点が到達したタイミングを、照射タイミングとして設定する。より詳しくは、タイミング設定部66aは、視線情報取得部62が検出した注視位置における、奥行き情報を取得する。すなわち、タイミング設定部66aは、注視位置の奥行き方向(Z方向)における位置の情報を取得する。そして、タイミング設定部66aは、注視位置の奥行き情報に基づき、光源部14に光の照射を開始させる際のレンズ30の焦点の位置である照射位置を設定する。タイミング設定部66aは、注視位置での奥行き方向の位置(ユーザUが注視している虚像の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)に、その画素Pからレンズ30を通って眼EYに実際に入射する画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、照射位置として設定する。そして、タイミング設定部66aは、照射位置との距離が所定距離範囲内となる位置にレンズ30の焦点が到達するタイミングを、照射タイミングとして設定する。ここでの所定距離は任意に設定してよいが、輻輳調節矛盾を小さくするために、注視位置からの虚像開き角と画像光Lの開き角との差分が小さくなるような距離に、設定されることが好ましい。
The timing setting unit 66a sets the timing when the focus of the
本実施形態では、タイミング設定部66aは、Z方向におけるレンズ30の焦点の位置の情報を逐次取得し、Z方向におけるレンズ30の焦点の位置が照射位置に対して所定距離まで近づいたら、照射タイミングとなったと判断する。タイミング設定部66aは、Z方向におけるレンズ30の焦点の位置の情報を任意の方法で取得してよい。例えば、レンズ30の焦点を所定の周期でZ方向に往復運動させている場合には、時刻毎のレンズ30の焦点のZ方向における位置(予測位置)を把握できる。従って、タイミング設定部66aは、時刻情報からレンズ30の焦点のZ方向における位置の情報を取得してもよい。この場合、タイミング設定部66aは、時刻毎のレンズ30の焦点の予測位置の情報と照射位置の情報とに基づき、レンズ30の焦点が照射位置から所定距離に到達する時刻を照射タイミングとして設定し、現在の時刻が照射タイミングに達したら、レンズ30の焦点が照射位置に到達したと判断して、光源部14に画像光Lを照射させてもよい。
In this embodiment, the timing setting unit 66a sequentially acquires information on the position of the focal point of the
タイミング設定部66aは、このようにして照射タイミングを設定する。さらに、タイミング設定部66aは、照射タイミングより後のタイミングを照射停止タイミングとして設定する。照射制御部64aは、タイミング設定部66aによって照射タイミングに到達したと判断されたら、光源部14に光の照射を開始させる。照射制御部64aは、照射タイミングから照射停止タイミングまでの間、光源部14に光を照射させ、照射停止タイミングに到達したら、光源部14に光の照射を停止させる。なお、照射停止タイミングは任意に設定してよく、例えば照射タイミングから所定時間後を照射停止タイミングとして設定してもよいし、照射タイミングの直後に、レンズ30の焦点と照射位置との距離が所定距離範囲外となるタイミングを、照射停止タイミングとして設定してもよい。
The timing setting unit 66a sets the irradiation timing in this manner. Furthermore, the timing setting unit 66a sets a timing after the irradiation timing as the irradiation stop timing. When the timing setting unit 66a determines that the irradiation timing has been reached, the irradiation control unit 64a causes the
第2実施形態では、このように、照射タイミングに到達したら光源部14に光を照射させ、照射停止タイミングに到達したら光の照射を停止させる。画像光Lは、照射タイミングから照射停止タイミングの間に、ユーザUの眼EYに入射する。従って、眼EYに入射する画像光Lの光束の開き角は、注視位置(ユーザUが注視している虚像)からの虚像開き角に近くなり、輻輳調節矛盾を小さくすることができる。なお、レンズ30の焦点は、Z方向に往復運動するため、照射位置との距離が所定距離範囲内になることと所定距離範囲外になることとを繰り返す。制御装置50aは、レンズ30の焦点と照射位置との距離が所定距離範囲となる度に、すなわち照射タイミングに到達する度に、光源部14に光を照射させる。そのため、ユーザUには、立体画像が動画像として視認される。また、レンズ30の焦点はZ方向に往復移動するため、往復移動の1周期で、照射位置との距離が所定距離になるタイミングが2回ある。そのため、レンズ30の焦点の往復移動の振動数は、立体画像のフレームレートの1/2倍以上にすることが望ましい。ただし、レンズ30の焦点の往復移動の振動数(周期)は任意に設定してよい。
In the second embodiment, the
(処理フロー)
次に、以上説明した制御装置50aの処理フローを説明する。図10は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50aは、照射制御部64aにより、画像データに基づき表示パネル12の画素を駆動しつつ、駆動制御部68aにより、レンズ30の焦点を所定周期でZ方向に往復移動させる。制御装置50aは、画素を駆動させつつレンズ30の焦点を往復移動させながら、視線情報取得部62により、ユーザUの視線の検出結果を取得し(ステップS20)、視線の検出結果に基づき、注視位置を検出する(ステップS22)。そして、制御装置50aは、タイミング設定部66aにより、注視位置の奥行き情報から、照射位置を設定する(ステップS24)。制御装置50aは、レンズ30の焦点のZ方向における位置を逐次取得し、レンズ30の焦点が照射位置から所定距離内に到達したかを判断する(ステップS26)。レンズ30の焦点が照射位置から所定距離内に到達したら(ステップS26;Yes)、タイミング設定部66aは、照射タイミングに到達したと判断し、照射制御部64aは、光源部14に光を照射させる(ステップS28)。その後、照射停止タイミングで光の照射を停止させ、処理を終了しない場合は(ステップS30;No)、ステップS20に戻り処理を続ける。一方、レンズ30の焦点が照射位置から所定距離内に到達していない場合には(ステップS26;No)、ステップS26に戻り、レンズ30の焦点が照射位置から所定距離内に到達するまで光源部14に光を照射させない。なお、レンズ30の焦点が照射位置から所定距離内に到達していない場合、すなわちステップS26でNoの場合も、ステップS20に戻ってよい。ステップS30で処理を終了する場合(ステップS30;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the control device 50a described above will be described. FIG. 10 is a flowchart for explaining the process flow of the control device according to this embodiment. The control device 50a drives the pixels of the
(効果)
以上説明したように、第2実施形態に係る表示装置1aは、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、視線情報取得部62と、駆動制御部68aと、タイミング設定部66aと、照射制御部64aとを含む。表示部10は、複数の画素を含む表示パネル12と、表示パネル12に光を照射する光源部14とを有し、光源部14から表示パネル12に照射された光である画像光LをユーザUに到達させることで、ユーザUに立体画像を提供する。レンズ30は、画像光Lの光軸方向において表示部10よりもユーザU側に設けられ、焦点を変更可能である。視線情報取得部62は、ユーザUの視線の検出結果を取得する。駆動制御部68aは、レンズ30の焦点を、画像光Lの光軸方向(本実施形態ではZ方向)に沿って所定の周期で移動させる。タイミング設定部66aは、ユーザUの視線の検出結果と、レンズ30の焦点の光軸方向(本実施形態ではZ方向)における位置とに基づき、光源部14の光の照射タイミングを設定する。照射制御部64aは、照射タイミングで、光源部14に光を照射させる。
(effect)
As described above, the display device 1a according to the second embodiment provides a stereoscopic image to the user U, and includes the
ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、レンズ30の焦点を光軸方向に移動させておき、ユーザUの視点とレンズ30の焦点の光軸方向の位置とに基づき、光の照射タイミングを設定する。従って、本実施形態によると、ユーザUの視点とレンズ30の焦点の光軸方向の位置とに基づいて、適切なタイミングでユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、本実施形態においては、レンズ30の焦点を光軸方向に移動させつつ、ユーザUの視点とレンズ30の焦点の位置とに基づき、光の照射タイミングを設定することで、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。さらに言えば、本実施形態においては、画像光Lの光束の開き角が適切となる位置にレンズ30の焦点をその都度移動させずに、レンズ30の焦点は所定周期で移動させておき、画像光Lの光束の開き角が適切となるタイミングで光源部14の光照射を制御している。このように光照射を制御することで、制御遅れが抑制されて、画像光Lの光束の開き角を適切に調整できる。
Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In contrast, in this embodiment, the focus of the
また、タイミング設定部66aは、立体画像の奥行き方向(本実施形態ではZ方向)の位置を示す奥行き情報にも基づき、照射タイミングを設定する。本実施形態によると、奥行き情報も用いて照射タイミングを設定するため、表示される立体画像に合わせて画像光Lの光束の開き角を適切に調整することが可能となり、輻輳調節矛盾を小さくすることができる。 The timing setting unit 66a also sets the irradiation timing based on depth information indicating the position in the depth direction (Z direction in this embodiment) of the stereoscopic image. According to this embodiment, since the irradiation timing is set using the depth information as well, it is possible to appropriately adjust the opening angle of the light flux of the image light L according to the stereoscopic image to be displayed, and it is possible to reduce the convergence accommodation contradiction.
また、視線情報取得部62は、視線の検出結果に基づき、立体画像のうちでユーザが注視している注視位置を検出する。タイミング設定部66aは、注視位置の奥行き情報に基づき、画像光Lの光束の開き角が、注視位置での奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(虚像開き角)に対応するような、レンズ30の焦点の光軸方向における位置である、照射位置の情報を取得する。タイミング設定部66aは、レンズ30の焦点が照射位置に対して所定距離範囲内となるタイミングを、照射タイミングとして設定する。本実施形態によると、画像光Lの光束の開き角を、ユーザUが注視している虚像からの虚像開き角に近づけることができるため、輻輳調節矛盾を適切に小さくすることができる。
The gaze information acquisition unit 62 detects the gaze position in the stereoscopic image at which the user is gazing, based on the gaze detection result. The timing setting unit 66a acquires irradiation position information, which is a position in the optical axis direction of the focus of the
(第3実施形態)
次に、第3実施形態について説明する。第3実施形態は、表示部が自発光型である点で、第2実施形態とは異なる。第3実施形態において第2実施形態と構成が共通する箇所は、説明を省略する。
Third Embodiment
Next, a third embodiment will be described. The third embodiment differs from the second embodiment in that the display unit is a self-luminous type. Descriptions of the configurations of the third embodiment and the second embodiment will be omitted.
図11は、第3実施形態に係る表示装置の各構成の模式図である。図11に示すように、第3実施形態に係る表示装置1bは、表示部10bを有する。なお、表示装置1bには、視線検出部40が設けられてない。表示部10bは、マトリクス状に並び自発光する複数の画素P(表示素子)を有するディスプレイである。表示部10bが有する各画素Pは自発光するため、表示部10bは、画素P毎に個別に発光(光の照射)の制御が可能である。表示部10bの各画素Pは、例えば有機発光ダイオードであってもよいし、無機発光ダイオードであってもよい。第3実施形態においては、表示部10bは、制御装置50bから画素Pの光の照射タイミングを制御する制御信号を受信する。また、レンズ30のアクチュエータは、制御装置50bから、焦点の位置の制御を行う信号を取得する。
Figure 11 is a schematic diagram of each component of the display device according to the third embodiment. As shown in Figure 11, the
図12は、第3実施形態に係る制御装置の模式的なブロック図である。図12に示すように、第3実施形態に係る制御装置50bの制御部54bは、画像情報取得部60と、照射制御部64bと、タイミング設定部66bと、駆動制御部68bとを含む。第3実施形態においては、視線情報取得部62が含まれない。
Figure 12 is a schematic block diagram of a control device according to the third embodiment. As shown in Figure 12, the control unit 54b of the
(駆動制御部)
駆動制御部68bは、第2実施形態と同様に、レンズ30の焦点の位置を、Z方向に沿って所定の周期で移動させる。
(Drive control unit)
The drive control unit 68b moves the focal position of the
(タイミング設定部及び照射制御部)
タイミング設定部66bは、画像光Lの照射タイミングを、画素P毎に設定する。照射制御部64bは、画像データに基づき、画素Pを制御して画素Pに画像光Lを照射させる。照射制御部64bは、タイミング設定部66bが設定した画素P毎の照射タイミングで、画素P毎に画像光Lを照射させる。すなわち、照射制御部64bは、画素Pについて設定された照射タイミングで、その画素Pに画像光Lを照射させる。タイミング設定部66bは、Z方向(画像光Lの光軸方向)におけるレンズ30の焦点の位置に基づき、照射タイミングを設定する。さらに言えば、タイミング設定部66bは、立体画像の奥行き情報と、Z方向におけるレンズ30の焦点の位置とに基づき、照射タイミングを設定する。以下、より詳しく説明する。
(Timing setting unit and irradiation control unit)
The timing setting unit 66b sets the irradiation timing of the image light L for each pixel P. The irradiation control unit 64b controls the pixel P based on the image data to irradiate the pixel P with the image light L. The irradiation control unit 64b irradiates the pixel P with the image light L at the irradiation timing for each pixel P set by the timing setting unit 66b. That is, the irradiation control unit 64b irradiates the pixel P with the image light L at the irradiation timing set for the pixel P. The timing setting unit 66b sets the irradiation timing based on the position of the focal point of the
タイミング設定部66bは、画素P毎の奥行き情報を取得する。すなわち、タイミング設定部66bは、画素P毎の奥行き方向(Z方向)における位置の情報を取得する。そして、タイミング設定部66bは、画素Pの奥行き情報に基づき、その画素Pに画像光Lの照射を開始させる際のレンズ30の焦点の位置である照射位置を設定する。タイミング設定部66bは、画素Pによって表示される立体画像の部分の奥行き方向の位置(その画素Pによって形成される虚像の位置)から眼EYに光が照射された場合の光束の開き角(虚像開き角)に、その画素Pからレンズ30を通って眼EYに実際に入射する画像光Lの開き角が一致する際の、Z方向におけるレンズ30の焦点の位置を、その画素Pについての照射位置として設定する。そして、タイミング設定部66bは、照射位置との距離が所定距離範囲内となる位置にレンズ30の焦点が到達するタイミングを、その画素Pについての照射タイミングとして設定する。タイミング設定部66bは、画素P毎に照射位置を設定し、画素P毎に照射タイミングを設定する。このように、タイミング設定部66bは、画素P毎に照射位置や照射タイミングを設定するが、画素P毎に照射位置や照射タイミングが異なることに限られず、例えば1つの画像を構成する一群の画素P(例えば図5の家の画像を表示する一群の画素Pなど)の照射位置や照射タイミングを、同じに設定してよい。
The timing setting unit 66b acquires depth information for each pixel P. That is, the timing setting unit 66b acquires information on the position in the depth direction (Z direction) for each pixel P. Then, based on the depth information of the pixel P, the timing setting unit 66b sets the irradiation position, which is the position of the focus of the
なお、第3実施形態では、画素P毎に照射タイミングを設定するため、1フレームでは一部の画素Pしか点灯しない場合もあり、例えば図5のタイミングでは家の画像のみが表示され、図6のタイミングでは車の画像のみが表示され、図7のタイミングではヘリコプタの画像のみが表示される。ただし、複数フレームを連続させることによる残像効果で、ユーザUには家、車、ヘリコプタの一つの画像に写っていると認識される。また、1フレームの表示時間内で画像全体(ここでは家、車、ヘリコプタの全て)を表示する構成にしてもよい。この場合、駆動制御部68bは、1フレームの表示時間内でレンズ30の焦点の位置を少なくとも往復移動の半周期分移動させればよい。これにより、1フレームの表示時間内で、往復移動内における全ての焦点の位置を網羅することができ、画像全体を表示することが可能となる。
In the third embodiment, since the illumination timing is set for each pixel P, in one frame, only some of the pixels P may be lit. For example, only the image of the house is displayed at the timing of FIG. 5, only the image of the car is displayed at the timing of FIG. 6, and only the image of the helicopter is displayed at the timing of FIG. 7. However, due to the afterimage effect caused by consecutively displaying multiple frames, the user U recognizes that he or she is in a single image of the house, car, and helicopter. Also, the entire image (here, all of the house, car, and helicopter) may be displayed within the display time of one frame. In this case, the drive control unit 68b only needs to move the focal position of the
(処理フロー)
次に、以上説明した制御装置50bの処理フローを説明する。図13は、本実施形態に係る制御装置の処理フローを説明するフローチャートである。制御装置50bは、駆動制御部68bにより、レンズ30の焦点の位置を所定周期でZ方向に往復移動させる。制御装置50bは、タイミング設定部66bにより、画素P毎の奥行き情報から、画素P毎の照射位置を設定する(ステップS40)。制御装置50bは、レンズ30の焦点のZ方向における位置を逐次取得し、レンズ30の焦点が照射位置から所定距離内に到達したかを、画素P毎に判断する(ステップS42)。レンズ30の焦点が照射位置から所定距離内に到達したら(ステップS42;Yes)、すなわちレンズ30の焦点が照射位置から所定距離内に到達したと判断される画素Pがある場合には、タイミング設定部66bは、その画素Pが照射タイミングに到達したと判断し、照射制御部64bは、画像データに基づき、その画素Pに画像光Lを照射させる(ステップS44)。その後、照射停止タイミングで画像光Lの照射を停止させ、処理を終了しない場合は(ステップS46;No)、ステップS40に戻り処理を続ける。一方、レンズ30の焦点が照射位置から所定距離内に到達していない場合には(ステップS42;No)、すなわちレンズ30の焦点が照射位置から所定距離内に到達したと判断される画素Pが無い場合には、ステップS42に戻り、レンズ30の焦点が照射位置から所定距離内に到達するまで画素Pに光を照射させない。ステップS46で処理を終了する場合(ステップS46;Yes)、本処理を終了する。
(Processing flow)
Next, the process flow of the
(効果)
以上説明したように、第3実施形態に係る表示装置1bは、ユーザUに立体画像を提供するものであって、表示部10と、レンズ30と、駆動制御部68bと、タイミング設定部66bと、照射制御部64bとを含む。表示部10は、自発光する複数の画素Pを含み、画素Pからの画像光LをユーザUに到達させることで、ユーザUに立体画像を提供する。レンズ30は、画像光Lの光軸方向において表示部10よりもユーザU側に設けられ、焦点を変更可能である。駆動制御部68bは、レンズ30の焦点の位置を、画像光Lの光軸方向(本実施形態ではZ方向)に沿って所定の周期で移動させる。タイミング設定部66bは、レンズ30の焦点の光軸方向(本実施形態ではZ方向)における位置に基づき、画像光Lの照射タイミングを画素P毎に設定する。照射制御部64bは、照射タイミングで、画素Pに画像光Lを照射させる。
(effect)
As described above, the
ここで、立体画像を表示する場合には、ユーザに適切に立体画像を提供することが求められている。それに対し、本実施形態においては、レンズ30の焦点を光軸方向に移動させておき、焦点の位置に基づき、画像光Lの照射タイミングを設定する。従って、本実施形態によると、焦点の光軸方向の位置に基づいた適切なタイミングでユーザUに画像光Lを到達させることが可能となり、ユーザUに立体画像を適切に提供できる。さらに言えば、上述のように、立体画像を表示する際には、輻輳調節矛盾が起こる場合がある。それに対して、本実施形態においては、レンズ30の焦点を光軸方向に移動させつつ、焦点の光軸方向の位置に基づき、画像光Lの照射タイミングを設定することで、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。
Here, when displaying a stereoscopic image, it is required to provide the user with an appropriate stereoscopic image. In this embodiment, the focus of the
また、タイミング設定部66bは、立体画像の奥行き方向(本実施形態ではZ方向)の位置を示す奥行き情報にも基づき、照射タイミングを設定する。本実施形態によると、奥行き情報も用いて照射タイミングを設定するため、表示される立体画像に合わせて画像光Lの光束の開き角を適切に調整することが可能となり、輻輳調節矛盾を小さくすることができる。 The timing setting unit 66b also sets the irradiation timing based on depth information indicating the position in the depth direction (Z direction in this embodiment) of the stereoscopic image. According to this embodiment, since the irradiation timing is set using the depth information as well, it is possible to appropriately adjust the opening angle of the light flux of the image light L according to the stereoscopic image to be displayed, and it is possible to reduce the convergence accommodation contradiction.
また、タイミング設定部66bは、画素Pからの画像光Lの光束の開き角が、その画素Pによって表示される立体画像の部分での奥行き方向の位置からユーザUに向けて画像光Lを照射した場合の光束の開き角(虚像開き角)に対応するような、レンズ30の焦点の光軸方向における位置である、照射位置の情報を取得する。タイミング設定部66bは、レンズ30の焦点が照射位置に対して所定距離範囲内となるタイミングを、その画素Pについての照射タイミングとして設定する。本実施形態によると、光束の開き角と虚像開き角とが近い画素Pに発光させて、光束の開き角と虚像開き角とが遠い画素Pに発光させないことが可能となるため、輻輳調節矛盾を適切に小さくすることができる。
The timing setting unit 66b also acquires information on the irradiation position, which is the position in the optical axis direction of the focus of the
(変形例)
次に、変形例について説明する。変形例に係る表示装置1cは、接眼レンズ20の替わりに凹面鏡20Cでディスプレイを拡大する点で、第1実施形態とは異なる。変形例において第1実施形態と構成が共通する箇所は、説明を省略する。
(Modification)
Next, a modified example will be described. The display device 1c according to the modified example differs from the first embodiment in that the display is enlarged by a
図14は、変形例に係る表示装置の模式図である。図14に示すように、変形例に係る表示装置1cは、接眼レンズ20が設けられておらず、画像光Lの光軸方向において表示部10よりもユーザUの眼EY側に、ハーフミラー20Bと凹面鏡20Cとが設けられている。ハーフミラー20Bと凹面鏡20Cも、光学素子であるといえる。変形例においては、表示部10から出射された画像光Lは、ハーフミラー20Bで反射されて凹面鏡20Cに入射する。凹面鏡20Cに入射した画像光Lは、凹面鏡20Cで若干の広がり角を持ちつつほぼ平行光になって、ハーフミラー20Bを透過してユーザUの眼EYに入射する。
Figure 14 is a schematic diagram of a display device according to a modified example. As shown in Figure 14, the display device 1c according to the modified example does not have an
変形例においては、第1実施形態と同様にレンズ30の焦点位置を制御する。そのため、変形例のような構成であっても、第1実施形態と同様に、ユーザUに立体画像を適切に提供でき、画像光Lの光束の開き角を適切に調整して、輻輳調節矛盾を小さくすることができる。
In the modified example, the focal position of the
なお、変形例は、第2実施形態及び第3実施形態にも適用可能である。また、表示装置の構成は、各実施形態や図12で挙げた変形例以外のものであってもよい。 The modified example can also be applied to the second and third embodiments. The configuration of the display device may be other than those of each embodiment or the modified example shown in FIG. 12.
以上、本発明の実施形態を説明したが、これら実施形態の内容により実施形態が限定されるものではない。また、前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、前述した構成要素は適宜組み合わせることが可能であり、各実施形態の構成を組み合わせることも可能である。さらに、前述した実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換又は変更を行うことができる。 Although the embodiments of the present invention have been described above, the contents of these embodiments do not limit the embodiments. The above-mentioned components include those that a person skilled in the art can easily imagine, those that are substantially the same, and those that are within the so-called equivalent range. Furthermore, the above-mentioned components can be combined as appropriate, and the configurations of each embodiment can also be combined. Furthermore, various omissions, substitutions, or modifications of the components can be made without departing from the spirit of the above-mentioned embodiments.
1 表示装置
10 表示部
20 接眼レンズ
30 レンズ
50 制御装置
60 画像情報取得部
62 視線情報取得部
64 照射制御部
66 焦点位置設定部
68 駆動制御部
L 画像光
U ユーザ
REFERENCE SIGNS
Claims (3)
前記表示部よりも前記ユーザ側に設けられ、焦点を変更可能なレンズと、
前記ユーザの視線の検出結果を取得する視線情報取得部と、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記レンズの焦点を設定する焦点位置設定部と、
を含み、
前記視線情報取得部は、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定部は、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させる駆動制御部と、前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するタイミング設定部と、
をさらに含む、
表示装置。 A display unit that provides an image to a user by emitting light;
a lens that is provided closer to the user than the display unit and has a variable focus;
a gaze information acquisition unit for acquiring a detection result of the user's gaze;
a focal position setting unit that sets a focal point of the lens based on a detection result of the user's line of sight and depth information indicating a position in a depth direction of the image;
Including,
The line-of-sight information acquisition unit detects a gaze position at which the user is gazing in the image based on a result of the line-of-sight detection,
the focal position setting unit sets, based on depth information of the gaze position, a focal position of the lens such that a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a position in a depth direction at the gaze position toward the user falls within a predetermined range; and
a drive control unit that moves a focal position of the lens at a predetermined cycle; and a timing setting unit that sets the irradiation timing of the light for each pixel based on the focal position of the lens;
Further comprising:
Display device.
前記ユーザの視線の検出結果を取得する視線情報取得ステップと、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設定ステップと、
を含み、
前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させるステップと、
前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、
をさらに含む、
表示制御方法。 a display step of providing an image to a user by irradiating light from a display unit;
A gaze information acquisition step of acquiring a detection result of the user's gaze;
a focus position setting step of setting a focus of a lens that is provided on the user side of the display unit and has a variable focus based on a detection result of the line of sight of the user and depth information indicating a position in a depth direction of the image;
Including,
In the line-of-sight information acquisition step, a gaze position at which the user is gazing in the image is detected based on a result of the line-of-sight detection,
In the focal position setting step, a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a depth direction position at the gaze position toward the user is within a predetermined range based on depth information of the gaze position, and
moving the focal position of the lens at a predetermined period;
setting the light irradiation timing for each pixel based on a focal position of the lens;
Further comprising:
Display control method.
前記ユーザの視線の検出結果を取得する視線情報取得ステップと、
前記ユーザの視線の検出結果と前記画像の奥行き方向の位置を示す奥行き情報とに基づき、前記表示部よりも前記ユーザ側に設けられ焦点を変更可能なレンズの焦点を設定する焦点位置設定ステップと、
を、コンピュータに実行させ、
前記視線情報取得ステップにおいては、前記視線の検出結果に基づき、前記画像のうちで前記ユーザが注視している注視位置を検出し、
前記焦点位置設定ステップにおいては、前記注視位置の奥行き情報に基づき、前記光の光束の開き角と、前記注視位置での奥行き方向の位置から前記ユーザに向けて前記光を照射した場合の光束の開き角との差分が所定範囲内となる前記レンズの焦点の位置を、前記レンズの焦点の位置として設定し、
前記レンズの焦点の位置を、所定の周期で移動させるステップと、
前記レンズの焦点の位置に基づき、前記光の照射タイミングを、画素毎に設定するステップと、
をさらに含む、
表示制御プログラム。 a display step of providing an image to a user by irradiating light from a display unit;
A gaze information acquisition step of acquiring a detection result of the user's gaze;
a focus position setting step of setting a focus of a lens that is provided on the user side of the display unit and has a variable focus based on a result of the detection of the user's line of sight and depth information indicating a position in a depth direction of the image;
The computer executes the following:
In the line-of-sight information acquisition step, a gaze position at which the user is gazing in the image is detected based on a result of the line-of-sight detection,
In the focal position setting step, a difference between an opening angle of a luminous flux of the light and an opening angle of a luminous flux when the light is irradiated from a depth direction position at the gaze position toward the user is within a predetermined range based on depth information of the gaze position, and
moving the focal position of the lens at a predetermined period;
setting the light irradiation timing for each pixel based on a focal position of the lens;
Further comprising:
Display control program.
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021046052A JP7604966B2 (en) | 2021-03-19 | 2021-03-19 | Display device, display control method, and display control program |
| PCT/JP2022/012769 WO2022196809A1 (en) | 2021-03-19 | 2022-03-18 | Display device, display control method, and display control program |
| US18/464,301 US12574494B2 (en) | 2021-03-19 | 2023-09-11 | Display device, display control method, and computer-readable storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021046052A JP7604966B2 (en) | 2021-03-19 | 2021-03-19 | Display device, display control method, and display control program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022144863A JP2022144863A (en) | 2022-10-03 |
| JP7604966B2 true JP7604966B2 (en) | 2024-12-24 |
Family
ID=83454646
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021046052A Active JP7604966B2 (en) | 2021-03-19 | 2021-03-19 | Display device, display control method, and display control program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7604966B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4322526A4 (en) | 2021-06-22 | 2024-10-09 | Samsung Electronics Co., Ltd. | AUGMENTED REALITY DEVICE COMPRISING A VARIABLE FOCAL LENS AND METHOD OF OPERATING THE SAME |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003334221A (en) | 2002-05-20 | 2003-11-25 | Nikon Corp | Image display device and eye fatigue eliminating device |
| JP2017515162A (en) | 2014-03-05 | 2017-06-08 | アリゾナ ボード オブ リージェンツ オン ビハーフ オブ ザ ユニバーシティ オブ アリゾナ | Wearable 3D augmented reality display |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH06235885A (en) * | 1993-02-08 | 1994-08-23 | Nippon Hoso Kyokai <Nhk> | Stereoscopic picture display device |
| JP3556389B2 (en) * | 1996-05-01 | 2004-08-18 | 日本電信電話株式会社 | Head mounted display device |
-
2021
- 2021-03-19 JP JP2021046052A patent/JP7604966B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003334221A (en) | 2002-05-20 | 2003-11-25 | Nikon Corp | Image display device and eye fatigue eliminating device |
| JP2017515162A (en) | 2014-03-05 | 2017-06-08 | アリゾナ ボード オブ リージェンツ オン ビハーフ オブ ザ ユニバーシティ オブ アリゾナ | Wearable 3D augmented reality display |
Non-Patent Citations (2)
| Title |
|---|
| HU, Xinda , et al.,High-resolution optical see-through multi-focal-plane head-mounted display using freeform optics,Optics Express,米国,2014年,Vol.22, No.11,13896-13903,DOI: 10.1364/OE.22.013896 |
| 陶山史朗,液晶可変焦点レンズを利用した体積型三次元表示,光学,日本,2011年,第40巻、第12号,616-621 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022144863A (en) | 2022-10-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12183310B2 (en) | Depth based foveated rendering for display systems | |
| US12189128B2 (en) | Depth based foveated rendering for display systems | |
| CN114868069B (en) | Predictive eye tracking system and method with foveal rendering of electronic displays | |
| JP2023027369A (en) | Operable foveal display | |
| US20130286053A1 (en) | Direct view augmented reality eyeglass-type display | |
| US12574494B2 (en) | Display device, display control method, and computer-readable storage medium | |
| JP7604966B2 (en) | Display device, display control method, and display control program | |
| JP7600802B2 (en) | Display device, display control method, and display control program | |
| JP7567594B2 (en) | Display device, display control method, and display control program | |
| JP7848912B2 (en) | Display device, display control method, and display control program | |
| JP7567593B2 (en) | Display device, display control method, and display control program | |
| JP7604965B2 (en) | Display device, display control method, and display control program | |
| JP7604967B2 (en) | Display device, display control method, and display control program | |
| KR20210070799A (en) | Apparatus for display |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231228 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240723 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240924 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20241112 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241125 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7604966 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |