Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7635977B2 - Light control device - Google Patents
[go: Go Back, main page]

JP7635977B2 - Light control device - Google Patents

Light control device Download PDF

Info

Publication number
JP7635977B2
JP7635977B2 JP2021054025A JP2021054025A JP7635977B2 JP 7635977 B2 JP7635977 B2 JP 7635977B2 JP 2021054025 A JP2021054025 A JP 2021054025A JP 2021054025 A JP2021054025 A JP 2021054025A JP 7635977 B2 JP7635977 B2 JP 7635977B2
Authority
JP
Japan
Prior art keywords
light
transmittance
liquid crystal
crystal display
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021054025A
Other languages
Japanese (ja)
Other versions
JP2022151109A (en
Inventor
瀟丹 胡
直也 磯山
信親 酒田
清 清川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nara Institute of Science and Technology NUC
Original Assignee
Nara Institute of Science and Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nara Institute of Science and Technology NUC filed Critical Nara Institute of Science and Technology NUC
Priority to JP2021054025A priority Critical patent/JP7635977B2/en
Publication of JP2022151109A publication Critical patent/JP2022151109A/en
Application granted granted Critical
Publication of JP7635977B2 publication Critical patent/JP7635977B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Eyeglasses (AREA)

Description

本発明は、視覚過敏症のための適応的な光量調整が可能なスマートサングラスに関するものである。 The present invention relates to smart sunglasses that can adaptively adjust the amount of light for visual hypersensitivity.

自閉症スペクトラム障害(Autism Spectrum Disorder:ASD)とは、対人関係が苦手、強いこだわりといった特徴をもつ発達障害の一つであり、感覚過敏であるといった非定型な特徴を有することが知られている。そして、その中でも視覚過敏、すなわちものが眩しく見えるといった特徴が顕著に見られる。
そこで視覚過敏の症状を持つ人の多くは、日常的にサングラスをかけて生活を行っている。しかしながら、一般的なサングラスは、明るい所では効果的であるが、暗い所では暗くなりすぎるため、外さなければならず、煩雑であるという問題がある。
Autism spectrum disorder (ASD) is a developmental disorder characterized by poor interpersonal relationships and strong fixations, and is known to have atypical characteristics such as sensory hypersensitivity. Among these, visual hypersensitivity, i.e., glare, is a prominent feature.
Therefore, many people with hypersensitivity symptoms wear sunglasses on a daily basis. However, while ordinary sunglasses are effective in bright places, they become too dark in dark places, and the problem is that they must be removed, which is cumbersome.

そこで、光センサに応じてレンズ全体の透過率を変更することのできる自動調光メガネが知られている(非特許文献1を参照)。非特許文献1の自動調光メガネによれば、明るい所では防眩効果が得られ、暗い所では防眩効果が抑えられることになる。
しかしながら、非特許文献1の自動調光メガネでは、自動での調光が一様に行われるため、視界中において比較的暗い箇所についても防眩効果が発揮されてしまい、見づらくなってしまうという問題がある。
In response to this, automatic light-adjusting glasses that can change the transmittance of the entire lens in response to a light sensor are known (see Non-Patent Document 1). According to the automatic light-adjusting glasses of Non-Patent Document 1, an anti-glare effect is obtained in bright places, and the anti-glare effect is suppressed in dark places.
However, in the automatic light-adjusting glasses of Non-Patent Document 1, automatic light adjustment is performed uniformly, so the anti-glare effect is exerted even in relatively dark areas in the field of view, making it difficult to see.

調光を一様に行うのではなく、部分的に行うものとして、透光率の調整が可能な液晶パネルと撮影装置と透光率制御回路とを備え、撮影装置で撮影された情景内に出現する高輝度部分を抽出し、透光率制御回路により液晶パネル上で高輝度部分の光路と交叉する箇所の透光率を局所的に減少させる部分減光装置が知られている(特許文献1を参照)。特許文献1の部分減光装置によれば、夜間やトンネル内で、車両運転者などの利用者の眩惑を防止できるとする。
しかしながら、特許文献1の部分減光装置は、車両運転者などの利用者を想定した構造であるため、対向車のヘッドライトによる眩惑などを防止すべく、液晶パネル上の高輝度部分の透光率を局所的に減少させることはできるが、高輝度部分とそれ以外の部分との輝度のバランスを保つことができず、本来であれば高輝度である部分が、低輝度部分よりも低輝度となってしまい、輝度の逆転現象が起きてしまうという問題がある。
自閉症スペクトラム障害などにより、視覚過敏の症状を持つ人にとっては、明るい部分を暗くすればよいのではなく、明所と暗所のバランスが正常に維持される必要がある。
A partial dimming device is known that adjusts light partially rather than uniformly, and includes a liquid crystal panel capable of adjusting light transmittance, a photographing device, and a light transmittance control circuit, extracts high-luminance areas that appear in a scene photographed by the photographing device, and locally reduces the light transmittance of areas on the liquid crystal panel that intersect with the optical path of the high-luminance area using the light transmittance control circuit (see Patent Document 1). The partial dimming device of Patent Document 1 is said to be able to prevent dazzlement of users such as vehicle drivers at night or in tunnels.
However, the partial dimming device of Patent Document 1 has a structure intended for users such as vehicle drivers, and while it can locally reduce the light transmittance of high-brightness areas on the liquid crystal panel to prevent glare from the headlights of oncoming vehicles, it cannot maintain a balance in brightness between the high-brightness areas and other areas, and the areas that are originally high-brightness end up being less bright than the low-brightness areas, resulting in a problem of brightness inversion.
For people with visual hypersensitivity symptoms due to autism spectrum disorders, etc., it is not enough to simply darken bright areas; it is important to maintain a normal balance between light and dark areas.

また、眼球又は光学機器の視野の中の光線強度を減少させる装置が知られている(特許文献2を参照)。特許文献2の光線強度減少装置は、電源、光センサ、透光性のレンズ、ユーザ制御装置及び処理回路を備え、処理回路が、発生された強度信号を処理し、その処理結果に応じて、シャッタ要素の中の特定のシャッタ要素を暗くするものであり、これによれば複数の光源から出る光線の強度を減少させることができるとする。
しかしながら、特許文献2の光線強度減少装置についても、明るい部分と暗い部分のバランスが正常に維持されて表示されるものではないため、視覚過敏の症状を持つ人が日常生活において使用する装置としては使いづらいという問題がある。
Also, a device for reducing the light intensity in the field of view of the eyeball or optical instrument is known (see Patent Document 2). The light intensity reducing device of Patent Document 2 includes a power source, a light sensor, a light-transmitting lens, a user control device, and a processing circuit, and the processing circuit processes the generated intensity signal and darkens a specific shutter element among the shutter elements according to the processing result, thereby making it possible to reduce the intensity of light emitted from multiple light sources.
However, the light intensity reduction device of Patent Document 2 also does not display a properly maintained balance between bright and dark areas, and therefore has the problem that it is difficult for people with hypersensitivity to use the device in their daily lives.

特開平8-122736号公報Japanese Patent Application Publication No. 8-122736 特表平11-507444号公報Special Publication No. 11-507444

Ctrl One smart glasses auto tint to suit lighting conditions Dario Borghino July 02, 2015(https://newatlas.com/e-tint-ctrl-one-glasses/38259/)Ctrl One smart glasses auto tint to suit lighting conditions Dario Borghino July 02, 2015 (https://newatlas.com/e-tint-ctrl-one-glasses/38259/)

上述のように、視界中の高輝度部分について液晶パネルの透光率を調整するといった技術は従来から存在した。しかしながら、視覚過敏症のユーザは、高い輝度のものを視覚認知することが難しく、従来技術はこれらを克服して外出機会を増やすという課題を解決するものではない。
視覚過敏症のユーザにとって使いやすい装置、すなわち見やすい装置とするためには、高輝度部分は暗くして快適に見られるようにし、低輝度部分は暗くならず、ほぼそのままの状態で維持され、かつ、部分毎の輝度の高低関係が逆転しないことが重要である。
かかる状況に鑑みて、本発明は、高輝度部分を暗く調整しながらも、低輝度部分は暗くなり難く、かつ、部分毎の明暗関係が逆転しない調光装置を提供することを目的とする。
As mentioned above, there have been technologies for adjusting the light transmittance of the liquid crystal panel for high-brightness areas in the field of view. However, users with hypersensitivity to vision have difficulty visually recognizing high-brightness objects, and the conventional technologies do not solve the problem of overcoming these problems and increasing opportunities to go outside.
To make a device easy to use for users with visual sensitivity, that is, to make the device easy to see, it is important that the high-luminance parts are darkened so that they can be viewed comfortably, and that the low-luminance parts are not darkened but maintained in almost the same state, and that the relationship between high and low luminance for each part is not reversed.
In view of the above circumstances, an object of the present invention is to provide a light control device that adjusts high brightness areas to be dark while preventing low brightness areas from becoming dark and preventing the light/dark relationship between each area from being reversed.

上記課題を解決すべく、本発明の調光装置は、外界からユーザの眼球に入射する光量を調節する装置であって、ユーザの眼球の前方に配置される透過型の第1液晶ディスプレイと、ユーザの眼球の前方に位置する外界を撮影するイメージセンサと、イメージセンサの画素毎の入射光量に基づいて、第1液晶ディスプレイの画素毎の明暗関係が逆転せず、入射光量に応じて光量が減少するように、画素毎の透過率を制御する透過率制御手段を備える。 To solve the above problems, the light control device of the present invention is a device that adjusts the amount of light incident on the user's eyeball from the outside world, and is equipped with a first transmissive liquid crystal display that is placed in front of the user's eyeball, an image sensor that captures the outside world located in front of the user's eyeball, and a transmittance control means that controls the transmittance of each pixel based on the amount of incident light for each pixel of the image sensor so that the light-dark relationship for each pixel of the first liquid crystal display is not reversed and the amount of light is reduced according to the amount of incident light.

透過率制御手段を備えることにより、イメージセンサの画素毎の入射光量に基づいて、第1液晶ディスプレイの画素毎の透過率を制御することが可能である。画素毎の明暗関係が逆転しないとは、透過率の制御によって明所と暗所の関係性が逆転しないことを意味している。画素毎の明暗関係が逆転しないことにより、より自然な表示が可能となり、視覚過敏症などを持つユーザが日常的に使用しても疲れにくく、快適に利用できる。
入射光量に応じて光量が減少するとは、必ずしも入射光量に比例して光量を減少するものに限定されず、例えば、最も明るい箇所については最も高い割合で光量を減少させ、やや明るい箇所についてはやや光量を減少させ、やや暗い箇所と暗い箇所については光量を減少しないといった制御が可能である。
By providing the transmittance control means, it is possible to control the transmittance of each pixel of the first liquid crystal display based on the amount of incident light of each pixel of the image sensor. The fact that the relationship between light and dark is not reversed for each pixel means that the relationship between light and dark is not reversed by controlling the transmittance. By not reversing the relationship between light and dark for each pixel, a more natural display is possible, and users with visual hypersensitivity, etc., can use the display on a daily basis without getting tired, making it comfortable to use.
Reducing the amount of light according to the amount of incident light does not necessarily mean reducing the amount of light in proportion to the amount of incident light. For example, it is possible to control the amount of light to be reduced at the highest rate in the brightest areas, to be reduced slightly in the slightly bright areas, and not to be reduced in the slightly dark areas and dark areas.

本発明の調光装置において、透過率制御手段は、イメージセンサの画素毎の入射光量の内、最低光量もしくは所定閾値以下の光量の画素に対応する第1液晶ディスプレイの画素の透過率は不変または高くし、最大光量もしくは所定閾値以上の光量の画素に対応する第1液晶ディスプレイの画素の透過率は低くすることが好ましい。
イメージセンサの画素毎の入射光量の内、最低光量もしくは所定閾値以下の光量の画素に対応する第1液晶ディスプレイの画素の透過率について、不変または高くすることにより、暗い箇所についてより暗くなってしまうことを防止でき、視認性が向上する。また、最大光量もしくは所定閾値以上の光量の画素に対応する第1液晶ディスプレイの画素の透過率について、低くすることにより、明るい箇所について効果的に遮光でき視認性が向上する。
In the light control device of the present invention, it is preferable that the transmittance control means keeps the transmittance of pixels of the first liquid crystal display corresponding to pixels with the minimum amount of light or an amount of light below a predetermined threshold value, out of the amount of light incident on each pixel of the image sensor, unchanged or increases the transmittance, and decreases the transmittance of pixels of the first liquid crystal display corresponding to pixels with the maximum amount of light or an amount of light above a predetermined threshold value.
By keeping constant or increasing the transmittance of the pixels of the first liquid crystal display corresponding to the pixels with the minimum light amount or the amount of light below a predetermined threshold among the amount of light incident on each pixel of the image sensor, it is possible to prevent dark areas from becoming darker and improve visibility.In addition, by decreasing the transmittance of the pixels of the first liquid crystal display corresponding to the pixels with the maximum light amount or the amount of light above a predetermined threshold, it is possible to effectively block light from bright areas and improve visibility.

本発明の調光装置において、透過率制御手段は、下記関係式を満足する関数を用いて透過率を算出することが好ましい。下記関係式を満足する関数を用いて透過率を算出することにより、明るい部分を暗く調整しながらも、暗い部分は暗くなり難く、かつ、画素毎の明暗関係が逆転しない表示がバランスよく実現する。下記関係式において、E,Eは、第1液晶ディスプレイを最大透過率に制御した状態におけるディスプレイ越しに実環境を撮影した画像の画素値であり、E>Eを満たすもの。また、E´,E´は、第1液晶ディスプレイを算出された透過率に制御した状態におけるディスプレイ越しに実環境を撮影した画像の画素値である。また、(E´/E)=(E´/E)は、一部にのみ成立するものとする。一部にのみ成立するとは、例えば、画素値が0~10000の範囲とした場合に、全ての画素値が等しい透過率に制御されるのではなく、一部に画素値、例えば、100~1000の連続する画素値のみが等しい透過率であり、他の画素値は、(E´/E)<(E´/E)を満たすというものである。なお、(E´/E)=(E´/E)になる連続する画素値が複数部位存在してもよい。 In the light control device of the present invention, it is preferable that the transmittance control means calculates the transmittance using a function that satisfies the following relational expression. By calculating the transmittance using a function that satisfies the following relational expression, a well-balanced display is realized in which the bright parts are adjusted to be dark while the dark parts are unlikely to become dark, and the light-dark relationship for each pixel is not reversed. In the following relational expression, E1 and E2 are pixel values of an image of a real environment photographed through the first liquid crystal display in a state in which the first liquid crystal display is controlled to the maximum transmittance, and E2 > E1 is satisfied. Furthermore, E1 ' and E2 ' are pixel values of an image of a real environment photographed through the first liquid crystal display in a state in which the first liquid crystal display is controlled to the calculated transmittance. Furthermore, ( E2 '/ E2 ) = ( E1 '/ E1 ) is only partially satisfied. "E2'/E2)<(E1'/E1)" means that, for example, when the pixel values are in the range of 0 to 10000, not all pixel values are controlled to have the same transmittance, but only some pixel values, for example, consecutive pixel values from 100 to 1000, have the same transmittance, and other pixel values satisfy ( E2 '/ E2 )<( E1 '/ E1 ). Note that there may be multiple consecutive pixel values that satisfy ( E2 '/ E2 )=( E1 '/ E1 ).

(数1)
(E´/E) ≦ (E´/E
(Equation 1)
(E 2 ′/E 2 ) ≦ (E 1 ′/E 1 )

本発明の調光装置において、第1液晶ディスプレイの前方にビームスプリッターが設けられ、ユーザの眼球の前方に位置する外界からの光をビームスプリッターで分割し、分割した一方の光が第1液晶ディスプレイを介してユーザの眼球に入射し、分割した他方の光が前記イメージセンサに到達する光学系、を更に備えることでもよい。ビームスプリッターとして、ハーフミラーを用いることができる。
第1液晶ディスプレイの前方・外側にハーフミラーなどのビームスプリッターを設け、外界からの光の光路を分岐し、分岐後の光路上にイメージセンサを設けることにより、イメージセンサと眼球の位置のズレに起因する、イメージセンサで捉えるイメージと、ユーザの眼球で捉えるイメージとの間のズレが小さくでき、視差を無視することができる。
The light control device of the present invention may further include an optical system in which a beam splitter is provided in front of the first liquid crystal display, and light from the outside world located in front of the user's eyeball is split by the beam splitter, one of the split light beams enters the user's eyeball via the first liquid crystal display, and the other of the split light beams reaches the image sensor. A half mirror can be used as the beam splitter.
By providing a beam splitter such as a half mirror in front of and outside the first liquid crystal display, branching the optical path of light from the outside world, and providing an image sensor on the branched optical path, the misalignment between the image captured by the image sensor and the image captured by the user's eyeball, which is caused by the misalignment between the image sensor and the eyeball, can be reduced and parallax can be ignored.

また、本発明の調光装置は、ユーザの眼球とイメージセンサの視差を算出し、算出した視差に基づきイメージセンサの各画素と第1液晶ディスプレイの各画素との対応関係を較正する視差較正手段を更に備えることでもよい。
例えば、第1液晶ディスプレイの前方にビームスプリッターが設けられない場合で、かつイメージセンサがユーザの眼球の位置の上に配置されている場合には、縦視差が生じることになる。視差較正手段を備えることにより、イメージセンサと第1液晶ディスプレイを視認するユーザの眼球との間に視差が生じる場合でも、イメージセンサの各画素と第1液晶ディスプレイの各画素との対応関係を較正でき、精度良く、外界からユーザの眼球に入射する光量を調節することが可能になる。視差較正手段としては、調光装置の使用時にリアルタイムで較正を行うものでもよいし、予め凡その視差を算出して決定しておくものでもよい。なお、視差較正手段は、上下だけでなく、左右や斜め方向、前後方向についても較正可能である。
In addition, the light control device of the present invention may further include a parallax calibration means for calculating the parallax between the user's eyeball and the image sensor, and calibrating the correspondence between each pixel of the image sensor and each pixel of the first liquid crystal display based on the calculated parallax.
For example, when a beam splitter is not provided in front of the first liquid crystal display and the image sensor is disposed above the position of the user's eyeball, vertical parallax occurs. By providing the parallax calibration means, even if parallax occurs between the image sensor and the eyeball of the user viewing the first liquid crystal display, the correspondence between each pixel of the image sensor and each pixel of the first liquid crystal display can be calibrated, and the amount of light incident on the user's eyeball from the outside world can be adjusted with high precision. The parallax calibration means may be one that performs calibration in real time when the light control device is used, or one that calculates and determines an approximate parallax in advance. The parallax calibration means can calibrate not only up and down, but also left and right, diagonal directions, and front and rear directions.

本発明の調光装置において、視差較正手段は、ユーザの眼球の瞳孔位置を検出する瞳孔センサを更に備えることが好ましい。瞳孔センサを備えることにより、ユーザの眼球の瞳孔位置を検出でき、検出した情報に基づき、高精度で視差を較正することが可能となる。
本発明の調光装置において、視差較正手段は、外界の物体と第1液晶ディスプレイとの距離を算出できる距離センサを更に備えることが好ましい。距離センサを備えることにより、外界の物体と第1液晶ディスプレイとの距離を検出でき、検出した情報に基づき、高精度で視差を較正することが可能となる。
In the light control device of the present invention, it is preferable that the parallax calibration means further includes a pupil sensor for detecting the pupil position of the user's eye. By including the pupil sensor, the pupil position of the user's eye can be detected, and the parallax can be calibrated with high accuracy based on the detected information.
In the light control device of the present invention, it is preferable that the parallax calibration means further includes a distance sensor capable of calculating a distance between an external object and the first liquid crystal display. By including the distance sensor, it is possible to detect the distance between an external object and the first liquid crystal display, and it becomes possible to calibrate the parallax with high accuracy based on the detected information.

本発明の調光装置は、イメージセンサの前方に配置される透過型の第2液晶ディスプレイと、第2液晶ディスプレイの画素毎の透過率を制御する第2透過率制御手段を更に備えることが好ましい。
第2液晶ディスプレイを備えることにより、イメージセンサの各画素と第1液晶ディスプレイの各画素との対応関係の把握が容易となる。また、第2透過率制御手段を備えることにより、第2液晶ディスプレイの透過率を変更することで、イメージセンサがハイダイナミックレンジ映像を撮影することが可能となる。
The light control device of the present invention preferably further comprises a second liquid crystal display of a transmissive type arranged in front of the image sensor, and a second transmittance control means for controlling the transmittance of each pixel of the second liquid crystal display.
The provision of the second liquid crystal display makes it easy to grasp the correspondence between each pixel of the image sensor and each pixel of the first liquid crystal display. Furthermore, the provision of the second transmittance control means enables the image sensor to capture high dynamic range images by changing the transmittance of the second liquid crystal display.

本発明の調光装置は、第1液晶ディスプレイの透過率が調整された箇所の周囲に生じるボケを補正する画像補正手段を備えることが好ましい。
第1液晶ディスプレイにより遮蔽マスクが生成され透過率が調整された場合、ユーザが第1液晶ディスプレイを通して見た外界よりも手前に遮蔽マスクが生成されるため、必然的にボケが発生する。画像補正手段を備えることにより、かかる状態を改善することができる。画像補正手段は、ボケの生じる箇所を逆演算(逆畳み込み)することにより行う。具体的には、ボケを生じさせる点拡がり関数PSFを推定し、目的の透過率制御画像に対してPSFの逆畳み込みを行った事前補正画像を算出する。この事前補正画像を第2液晶ディスプレイに表示することで、PSFの畳み込みの影響を受けた結果、目的の透過率制御画像に近いパターンがイメージセンサに撮影される。逆畳み込みには、ウィーナーフィルターを用いる手法や機械学習による手法が用いられる。なお、PSFは厳密には画素あるいはエリアごとに異なるので、エリアごとに事前補正してそれらを補間・合成して事前補正画像を得る。
The light control device of the present invention preferably comprises an image correcting means for correcting blurring occurring around a portion of the first liquid crystal display where the transmittance is adjusted.
When the first liquid crystal display generates an obscuration mask and adjusts the transmittance, the obscuration mask is generated in front of the outside world seen by the user through the first liquid crystal display, which inevitably results in blurring. By providing an image correction means, such a state can be improved. The image correction means performs an inverse operation (deconvolution) on the portion where blurring occurs. Specifically, a point spread function PSF that generates blurring is estimated, and a pre-corrected image in which the PSF is deconvolved with respect to the target transmittance control image is calculated. By displaying this pre-corrected image on the second liquid crystal display, a pattern close to the target transmittance control image is captured by the image sensor as a result of being influenced by the convolution of the PSF. For the deconvolution, a method using a Wiener filter or a method using machine learning is used. Note that the PSF is different for each pixel or area in the strict sense, so that a pre-corrected image is obtained by pre-correcting each area, interpolating and synthesizing them.

本発明のスマートサングラスは、サングラス本体に、上記の何れかの調光装置が設けられ、第1液晶ディスプレイが、サングラス本体の眼前の位置に配置される。
サングラス本体は、耳掛け部や鼻掛け部を備える公知のサングラスと同様の構造であることが好ましい。公知のサングラスのレンズ部に相当する位置に第1液晶ディスプレイが配置されるように、調光装置が設けられる構造である。かかる構造とされることにより、視覚過敏症などを持つユーザが日常的に着用し、視覚に受ける刺激を効果的に低減することが可能となる。
The smart sunglasses of the present invention are provided with any one of the above-mentioned light control devices on the sunglasses body, and a first liquid crystal display is disposed in front of the eyes of the sunglasses body.
The sunglasses body preferably has a structure similar to that of known sunglasses with ear hooks and nose hooks. The structure is such that the light control device is provided so that the first liquid crystal display is located at a position corresponding to the lens part of known sunglasses. With such a structure, it becomes possible for users with visual hypersensitivity to wear the sunglasses on a daily basis and effectively reduce visual irritation.

本発明の調光装置によれば、高輝度部分を暗く調整しながらも、低輝度部分は暗くなり難く、かつ、部分毎の明暗関係が逆転しないといった効果がある。 The light control device of the present invention has the advantage that it can adjust high brightness areas to be darker while preventing low brightness areas from becoming darker and preventing the light-dark relationship between each area from being reversed.

実施例1の調光装置の機能ブロック図Functional block diagram of a light control device according to a first embodiment 実施例1の調光装置の構成イメージ図FIG. 1 is a schematic diagram of a light control device according to a first embodiment of the present invention. 視差イメージ図Parallax image 遮蔽マスクの生成説明図Illustrative diagram of occlusion mask generation 遮蔽マスクの生成イメージ図Image of how the masking mask is generated 調光前後の光量の関係を示すグラフGraph showing the relationship between the amount of light before and after dimming 画像補正の説明図Image correction diagram 実施例1の調光装置の使用イメージ図Image of the use of the light control device of the first embodiment 実施例2の調光装置の機能ブロック図Functional block diagram of a light control device according to a second embodiment 透過率制御フロー図Transmittance control flow chart 実施例3の調光装置の機能ブロック図Functional block diagram of a light control device according to a third embodiment 実施例3の調光装置の構成イメージ図FIG. 13 is a diagram showing the configuration of a light control device according to a third embodiment of the present invention.

以下、本発明の実施形態の一例を、図面を参照しながら詳細に説明していく。なお、本発明の範囲は、以下の実施例や図示例に限定されるものではなく、幾多の変更及び変形が可能である。 Below, an example of an embodiment of the present invention will be described in detail with reference to the drawings. Note that the scope of the present invention is not limited to the following examples and illustrated examples, and many modifications and variations are possible.

図1は、実施例1の調光装置の機能ブロック図を示している。図1に示すように、調光装置1は、イメージセンサ20、画像補正手段21、透過型の液晶ディスプレイ(31,32)、視差較正手段40、及び透過率制御手段(70,71)を備える。また、視差較正手段40は、距離センサ50及び瞳孔センサ60を備える。
イメージセンサ20は、液晶ディスプレイ32を通して撮影することにより、視差はあるものの、ユーザの眼球11が液晶ディスプレイ31を通して観察する外界と同様の映像を撮影することができる。透過率制御手段71は、イメージセンサ20が取得した画像に基づき、液晶ディスプレイ32の透過率を変化させることができる。これにより、ハイダイナミックレンジ映像を撮影することもできる。
視差較正手段40は、ユーザの眼球11とイメージセンサ20の視差を算出し、算出した視差に基づき液晶ディスプレイ31に表示する画像の較正を行うものである。距離センサ50は、外界の物体8と液晶ディスプレイ31との距離を検出するものであり、瞳孔センサ60は、ユーザの眼球11の瞳孔位置を検出するものである。
Fig. 1 shows a functional block diagram of a light control device of Example 1. As shown in Fig. 1, the light control device 1 includes an image sensor 20, an image correction means 21, transmissive liquid crystal displays (31, 32), a parallax calibration means 40, and a transmittance control means (70, 71). The parallax calibration means 40 includes a distance sensor 50 and a pupil sensor 60.
The image sensor 20 captures an image through the liquid crystal display 32, and thus although there is parallax, it can capture an image similar to the outside world observed by the user's eyeball 11 through the liquid crystal display 31. The transmittance control means 71 can change the transmittance of the liquid crystal display 32 based on the image captured by the image sensor 20. This makes it possible to capture a high dynamic range image.
The parallax calibration means 40 calculates the parallax between the user's eyeball 11 and the image sensor 20, and calibrates the image to be displayed on the liquid crystal display 31 based on the calculated parallax. The distance sensor 50 detects the distance between an external object 8 and the liquid crystal display 31, and the pupil sensor 60 detects the pupil position of the user's eyeball 11.

透過率制御手段70は、画像中の輝度情報に基づき、液晶ディスプレイ31を制御することで、液晶ディスプレイ31の透過率を画素毎に調整するものであり、例えば暗い部分はそのままで、明るい部分のみを暗くするといった調整が可能である。あるいは、視界の中でより重要な部分を明るくし、重要でない部分を暗くすることもできる。
このように、イメージセンサ20により撮像された画像は、視差較正手段40により、ユーザの眼球11とイメージセンサ20の視差が較正された後、透過率制御手段70により透過率が画素毎に調整され、液晶ディスプレイ31に反映される。
画像補正手段21は、液晶ディスプレイ31の透過率が調整された箇所の周囲に生じるボケを補正するものである。
The transmittance control means 70 controls the liquid crystal display 31 based on the luminance information in the image to adjust the transmittance of the liquid crystal display 31 for each pixel, and can adjust the transmittance by, for example, darkening only the bright parts while leaving the dark parts as they are. Alternatively, it is possible to brighten the more important parts of the field of vision and darken the less important parts.
In this way, the image captured by the image sensor 20 has the parallax between the user's eyeball 11 and the image sensor 20 calibrated by the parallax calibration means 40, and then the transmittance is adjusted for each pixel by the transmittance control means 70 and reflected on the LCD display 31.
The image correction means 21 corrects blurring that occurs around a portion of the liquid crystal display 31 where the transmittance has been adjusted.

図2は、実施例1の調光装置の構成イメージ図を示している。図2に示すように、調光装置1の筐体12には、シーンカメラ2a、デプスカメラ5、瞳孔検出カメラ6及び液晶ディスプレイ(31,32)が設けられている。なおここでは図示していないが、筐体12には、画像補正手段21、視差較正手段40及び透過率制御手段(70,71)として機能するコンピュータが更に設けられ、シーンカメラ2a、デプスカメラ5、瞳孔検出カメラ6及び液晶ディスプレイ(31,32)と接続されている。
シーンカメラ2aはイメージセンサ20として機能するものである。シーンカメラ2a及び液晶ディスプレイ32は、ユーザの眼球11との視差を最小限に止めるため、ユーザの前額部など眼球11に近い場所に設けられる。
Fig. 2 shows a configuration image diagram of the light control device of Example 1. As shown in Fig. 2, the housing 12 of the light control device 1 is provided with a scene camera 2a, a depth camera 5, a pupil detection camera 6, and a liquid crystal display (31, 32). Although not shown here, the housing 12 is further provided with a computer that functions as an image correction means 21, a parallax calibration means 40, and a transmittance control means (70, 71), and is connected to the scene camera 2a, the depth camera 5, the pupil detection camera 6, and the liquid crystal display (31, 32).
The scene camera 2a functions as an image sensor 20. The scene camera 2a and the liquid crystal display 32 are provided in a location close to the user's eyeball 11, such as on the user's forehead, in order to minimize parallax with respect to the user's eyeball 11.

デプスカメラ5は、奥行き情報を取得する深度センサを内蔵したカメラであり、距離センサ50として機能するものである。デプスカメラ5には、公知のデプスカメラを利用可能である。
瞳孔検出カメラ6は瞳孔センサ60として機能するものである。瞳孔検出カメラ6は、ユーザの眼球11の瞳孔位置を検出することで、シーンカメラ2aとユーザの眼球11との縦視差の算出に利用するものである。
The depth camera 5 is a camera incorporating a depth sensor that acquires depth information, and functions as a distance sensor 50. As the depth camera 5, a known depth camera can be used.
The pupil detection camera 6 functions as a pupil sensor 60. The pupil detection camera 6 detects the pupil position of the user's eyeball 11, and uses this to calculate the vertical parallax between the scene camera 2a and the user's eyeball 11.

図3は、視差イメージ図であり、(1)はシーンカメラにより撮像された画像、(2)はユーザから見えるディスプレイ表示イメージを示している。画像中における物体8aは「クリスマスツリー」、物体8bは「雪だるま」である。
図3(2)に示すユーザの眼球から見えるディスプレイ表示イメージ9bでは、物体8aの位置12aと物体8bの位置12bが略同じ高さとなっている。しかしながら、調光装置1ではシーンカメラ2aはユーザの眼球11よりも高い位置に設けられているため、図3(1)に示すシーンカメラ2aにより撮像された画像9aでは、物体8aの位置12aよりも、手前に存在する物体8bの位置12bの方がやや低い位置に撮像されている。
このような視差を、視差較正手段40を用いて較正するものである。
3 is a parallax image diagram, in which (1) shows an image captured by a scene camera, and (2) shows a display image seen by a user. In the image, an object 8a is a "Christmas tree," and an object 8b is a "snowman."
In the display image 9b seen from the user's eyeball shown in Fig. 3(2), the position 12a of the object 8a and the position 12b of the object 8b are at approximately the same height. However, in the light control device 1, the scene camera 2a is provided at a position higher than the user's eyeball 11, so in the image 9a captured by the scene camera 2a shown in Fig. 3(1), the position 12b of the object 8b located in the foreground is captured at a slightly lower position than the position 12a of the object 8a.
Such a parallax is calibrated using the parallax calibrating means 40 .

図4は、遮蔽マスクの生成説明図を示している。図4に示す調光装置10は、ユーザの眼球11の代わりに、アイカメラ2bを用いた構成となっている。シーンカメラ2aには、レンズ22a及び画像検出器23aが設けられ、アイカメラ2bには、レンズ22b及び画像検出器23bが設けられている。
まず、矢印14aに示すように、シーンカメラ2aとアイカメラ2bのビューを確実に重ね合わせ、正確なオクルージョンパターンを生成する。次に、矢印14bに示すように、入射光線が液晶ディスプレイ31の画素u(u,v)で遮られてx(x,y)点が暗くなるようにする。
Fig. 4 is an explanatory diagram of the generation of the shielding mask. The light control device 10 shown in Fig. 4 is configured to use an eye camera 2b instead of the user's eyeball 11. The scene camera 2a is provided with a lens 22a and an image detector 23a, and the eye camera 2b is provided with a lens 22b and an image detector 23b.
First, the views of the scene camera 2a and the eye camera 2b are reliably overlapped to generate an accurate occlusion pattern, as shown by arrow 14a. Then, the incident light is blocked by pixel u(u,v) of the liquid crystal display 31, causing point x(x,y) to become dark, as shown by arrow 14b.

図5は、遮蔽マスクの生成イメージ図であり、(1)はシーンカメラにより撮像された画像、(2)はユーザから見た透過率調整前のディスプレイ表示イメージ、(3)は遮蔽マスクイメージ、(4)はユーザから見た透過率調整後のディスプレイ表示イメージを示している。なお、遮蔽マスクとは、透過率制御された状態の液晶ディスプレイを指し、ディスプレイ表示イメージとは、液晶ディスプレイと背景が重ね合わせて表示された状態のことを指している。
図5(1)に示すように、シーンカメラ2aにより撮像された画像9a中には、物体(8a,8b)が撮像されている。また、図5(2)に示すように、ユーザから見た透過率調整前のディスプレイ表示イメージには、物体(8a,8b)が表示されている。図5(1)及び(2)の何れにおいても、物体8aは鮮明に表示されているが、物体8bについては明るさが強く、見えづらい表示となっている。ここではこれら2つの物体(8a,8b)に着目して遮蔽マスクの生成の説明を行う。
5 shows an image of the generation of the occlusion mask, where (1) is an image captured by the scene camera, (2) is a display image seen by the user before the transmittance adjustment, (3) is an occlusion mask image, and (4) is a display image seen by the user after the transmittance adjustment. Note that the occlusion mask refers to the liquid crystal display in a transmittance controlled state, and the display image refers to the state in which the liquid crystal display and the background are superimposed and displayed.
As shown in Fig. 5(1), objects (8a, 8b) are captured in an image 9a captured by a scene camera 2a. Also, as shown in Fig. 5(2), objects (8a, 8b) are displayed in a display image before transmittance adjustment as seen by a user. In both Figs. 5(1) and (2), object 8a is displayed clearly, but object 8b is displayed with a high brightness and is difficult to see. Here, the generation of the occlusion mask will be explained with a focus on these two objects (8a, 8b).

シーンカメラ2aは、液晶ディスプレイ32を通して撮影することにより、ユーザの眼球11が液晶ディスプレイ31を通して観察する外界と同様の画像9aを撮影することができる。しかしながら、前述のように、シーンカメラ2aとユーザの眼球11とでは縦視差が存在するため、デプスカメラ5を用いて液晶ディスプレイ31と物体(8a,8b)の距離を検出し、瞳孔検出カメラ6を用いてユーザの眼球11の瞳孔位置を検出し、物体との距離及び瞳孔位置から、視差較正手段40を用いてリアルタイムで視差を較正する。
次に、透過率制御手段70は、較正された画像9a中の物体(8a,8b)の明るさを算出し、それぞれの明るさに応じて、透過率を調整するための遮蔽マスクを生成する。図5(3)に示す遮蔽マスクイメージ9cでは、物体8bと略同形状に遮蔽されている。これに対して、物体8aについては遮蔽されていない。これは、透過率制御手段70において、画像9a中の物体8aの明るさが所定の閾値を下回ると判断されたことに基づく。また仮に、物体8aよりも明るく、かつ物体8bよりも暗い物体が画像中に存在し、当該物体の明るさが所定の閾値を下回ると判断されない場合には、当該物体の位置についても遮蔽がなされるが、物体8bに該当する位置よりも、透過率が高く調整されることになる。
The scene camera 2a photographs through the liquid crystal display 32, thereby being able to photograph an image 9a similar to the outside world observed by the user's eyeball 11 through the liquid crystal display 31. However, as described above, since vertical parallax exists between the scene camera 2a and the user's eyeball 11, the depth camera 5 is used to detect the distance between the liquid crystal display 31 and the object (8a, 8b), the pupil detection camera 6 is used to detect the pupil position of the user's eyeball 11, and the parallax is calibrated in real time using the parallax calibration means 40 based on the distance to the object and the pupil position.
Next, the transmittance control means 70 calculates the brightness of the objects (8a, 8b) in the calibrated image 9a, and generates a shielding mask for adjusting the transmittance according to the brightness of each object. In the shielding mask image 9c shown in FIG. 5(3), the object 8a is shielded in a shape substantially the same as that of the object 8b. In contrast, the object 8a is not shielded. This is based on the transmittance control means 70 determining that the brightness of the object 8a in the image 9a is below a predetermined threshold. In addition, if an object brighter than the object 8a and darker than the object 8b exists in the image, and the brightness of the object is not determined to be below the predetermined threshold, the position of the object is also shielded, but the transmittance is adjusted to be higher than that of the position corresponding to the object 8b.

遮蔽マスクイメージ9cに示す遮蔽マスクを、液晶ディスプレイ31の背景の実世界と重ね合わせて表示したものが、図5(4)に示すユーザから見た透過率調整後のディスプレイ表示イメージ9dである。図5(4)に示すように、ディスプレイ表示イメージ9dでは、物体8aについては、元画像と同じく鮮明な表示がなされ、かつ物体8bについても遮蔽マスクが施されたことにより、鮮明に表示されている。 The occlusion mask shown in the occlusion mask image 9c is superimposed on the real world in the background of the LCD display 31 to produce a display image 9d after transmittance adjustment as seen by the user, shown in FIG. 5(4). As shown in FIG. 5(4), in the display image 9d, the object 8a is displayed as clearly as in the original image, and the object 8b is also displayed clearly due to the application of the occlusion mask.

ここで、遮蔽アルゴリズムについて説明する。図6は、調光前後の光量の関係を示すグラフであり、縦軸は目標光量、横軸はオリジナルの光量を示している。応答曲線の勾配は、液晶の透過率を表している。
図6に示すように、元画像では、勾配1の直線であり、オリジナルの光量と目標光量は同じである。オリジナルの光量が増加すると、目標光量についても同様に増加する。また、線形調光は、勾配0.5の直線であり、オリジナルの光量に対して、目標光量は1/2(半分)である。オリジナルの光量が増加すると、目標光量については、元画像よりも緩やかに増加する。
これに対して、実施例の遮蔽アルゴリズムでは、オリジナルの光量が増加すると、目標光量については放物線状に増加する。すなわち、最も低い強度で無変調関数に接線し、最も高い強度で線形変調関数と交差する。図6に示す実施例の関数は、光量が最小値(0)のときに曲線の傾きが1であり、透過率が1となり、一方、光量が最大値(4000)のときに曲線の傾きが0であり、透過率が1/2となる放物線を描く。
Here, the shading algorithm will be explained. Figure 6 is a graph showing the relationship between the amount of light before and after dimming, where the vertical axis shows the target amount of light and the horizontal axis shows the original amount of light. The gradient of the response curve represents the transmittance of the liquid crystal.
As shown in Fig. 6, the original image is a straight line with a gradient of 1, and the original light amount and the target light amount are the same. When the original light amount increases, the target light amount also increases similarly. Moreover, linear dimming is a straight line with a gradient of 0.5, and the target light amount is 1/2 (half) of the original light amount. When the original light amount increases, the target light amount increases more slowly than in the original image.
In contrast, in the shading algorithm of the embodiment, when the original light amount increases, the target light amount increases in a parabolic manner. That is, it is tangent to the non-modulation function at the lowest intensity and intersects with the linear modulation function at the highest intensity. The function of the embodiment shown in FIG. 6 draws a parabola in which the slope of the curve is 1 and the transmittance is 1 when the light amount is at the minimum value (0), while the slope of the curve is 0 and the transmittance is 1/2 when the light amount is at the maximum value (4000).

透過率制御の手順について説明する。図10は透過率制御フロー図を示している。図10に示すように、まず、イメージセンサ20で変調前の画像を撮影する(ステップS01)。次に、視差を考慮して、撮影した画像をユーザからの視点に変換した変換後画像(=E)を生成する(ステップS02)。上述の数1の条件を満たすように、変換後画像の輝度を変調して目標画像(=E´)を生成する(ステップS03)。目標画像を変換後画像で除して画素ごとに透過率を算出する(ステップS04)。算出した透過率を満たすための液晶ディスプレイ31への入力画像を算出する(ステップS05)。算出した入力画像を液晶ディスプレイ31に入力する(ステップS06)。
なお、ステップS05において、液晶ディスプレイ31の画素値と透過率の関係は予め求めておく。本実施例では離散的に計測してシグモイド関数で近似している。
The procedure of the transmittance control will be described. FIG. 10 shows a transmittance control flow diagram. As shown in FIG. 10, first, an image before modulation is captured by the image sensor 20 (step S01). Next, a converted image (=E) is generated by converting the captured image to the viewpoint of the user, taking into account parallax (step S02). The luminance of the converted image is modulated to generate a target image (=E') so as to satisfy the condition of the above-mentioned equation 1 (step S03). The target image is divided by the converted image to calculate the transmittance for each pixel (step S04). An input image to the liquid crystal display 31 to satisfy the calculated transmittance is calculated (step S05). The calculated input image is input to the liquid crystal display 31 (step S06).
In step S05, the relationship between the pixel value and the transmittance of the liquid crystal display 31 is obtained in advance. In this embodiment, the pixel value is measured discretely and approximated by a sigmoid function.

次に、画像補正手段について説明する。図7は、画像補正の説明図であり、(1)は補正前の遮蔽マスク、(2)は補正後の遮蔽マスクを示している。
ユーザが液晶ディスプレイ31を通して、外界を見た場合、液晶ディスプレイ31は外界よりも手前に存在するため、液晶ディスプレイ31により生成される遮蔽マスクは、そのままでは遮蔽部位の輪郭がボケてしまうという問題がある。すなわち、図7(1)に示すように、補正前の遮蔽マスクイメージ91では、矩形状の遮蔽部位15aと円形状の遮蔽部位15bが生成されているが、ユーザから見ると遮蔽部位15aの輪郭16aと遮蔽部位15bの輪郭16bは、ボケてしまうのである。
Next, the image correction means will be described. Fig. 7 is an explanatory diagram of image correction, in which (1) shows the masking mask before correction, and (2) shows the masking mask after correction.
When a user views the outside world through the liquid crystal display 31, the liquid crystal display 31 is located in front of the outside world, and therefore the occlusion mask generated by the liquid crystal display 31 has a problem that the contours of the occluded parts are blurred if left as is. That is, as shown in Fig. 7(1) , a rectangular occluded part 15a and a circular occluded part 15b are generated in the occlusion mask image 91 before correction, but when viewed by the user, the contour 16a of the occluded part 15a and the contour 16b of the occluded part 15b are blurred.

そこで、画像補正手段21を用いて、ユーザから見た場合に、遮蔽部位の輪郭がボケないように補正を行う。具体的には、画像補正手段21は、ボケを生じさせる点拡がり関数PSFを推定し、目的の透過率制御画像に対してPSFの逆畳み込みを行った事前補正画像を算出する。この事前補正画像を液晶ディスプレイ32に表示することで、PSFの畳み込みの影響を受けた結果、目的の透過率制御画像に近いパターンがイメージセンサ20に撮影される。本実施例では、逆畳み込みにはウィーナーフィルターを用いる手法が用いられている。なお、PSFは厳密には画素あるいはエリアごとに異なるので、エリアごとに事前補正してそれらを補間・合成して事前補正画像を得る。
画像補正手段21による補正が行われた結果、図7(2)に示すように、遮蔽マスクイメージ92では、遮蔽部位15aの輪郭16aと遮蔽部位15bの輪郭16bは、何れも鮮明に表示されている。
Therefore, the image correction means 21 is used to perform correction so that the contour of the occluded part is not blurred when viewed from the user. Specifically, the image correction means 21 estimates a point spread function PSF that causes blurring, and calculates a pre-corrected image by deconvolving the PSF with the target transmittance control image. By displaying this pre-corrected image on the liquid crystal display 32, a pattern close to the target transmittance control image is captured by the image sensor 20 as a result of being influenced by the convolution of the PSF. In this embodiment, a method using a Wiener filter is used for deconvolution. Since the PSF strictly speaking differs for each pixel or area, a pre-corrected image is obtained by pre-correcting each area and interpolating and synthesizing them.
As a result of the correction by the image correction means 21, as shown in FIG. 7B, in the occlusion mask image 92, the contour 16a of the occluded portion 15a and the contour 16b of the occluded portion 15b are both displayed clearly.

図8は、実施例1の調光装置の使用イメージ図であり、(1)はシーンカメラにより撮像された画像、(2)は遮蔽マスクイメージ、(3)はユーザから見た透過率調整後のディスプレイ表示イメージ、(4)は線形調光による透過率調整後のディスプレイ表示イメージを示している。何れも物体8cは「土偶」、物体8dは「雪だるま」である。
図8(1)に示すように、画像90aでは、物体8cが「土偶」であることは視認できるが、物体8dについては、明るさが強く「雪だるま」であることが判別できない状態となっている。図8(2)に示すように、遮蔽マスクイメージ90cは、画像90a中の各部の明るさに応じて遮蔽マスクを生成したものである。ここでは、物体8cと物体8dの何れの箇所にも遮蔽マスクが生成されているが、物体8cの箇所よりも物体8dの箇所の方がより透過率を低下させるように遮蔽マスクが生成されている。
8 is a diagram showing an image of the use of the light control device of Example 1, in which (1) is an image captured by a scene camera, (2) is an occlusion mask image, (3) is a display image after transmittance adjustment as seen by a user, and (4) is a display image after transmittance adjustment by linear light control. In both cases, object 8c is a "clay figurine" and object 8d is a "snowman."
As shown in Fig. 8(1), in the image 90a, it is visible that the object 8c is a "clay figurine," but the object 8d is too bright to be identified as a "snowman." As shown in Fig. 8(2), the occlusion mask image 90c is an occlusion mask generated according to the brightness of each part in the image 90a. Here, occlusion masks are generated for both the object 8c and the object 8d, but the occlusion mask is generated so as to reduce the transmittance more for the object 8d than for the object 8c.

図8(4)に示す線形調光による透過率調整後のディスプレイ表示イメージ90eでは、ディスプレイ全体につき、一様に調光されているため、物体8dについては「雪だるま」であることが判別できる状態となっているが、その反面、物体8cについては、暗くなり過ぎ、「土偶」であることが判別できない状態となっている。
これに対して、図8(3)に示す透過率調整後のディスプレイ表示イメージ90dでは、物体8cが「土偶」であることが視認でき、かつ物体8dについても「雪だるま」であることが視認できる状態となっている。また、物体(8c,8d)以外の箇所についても、高輝度部分は暗く調整され、低輝度部分は暗くなり難く、かつ、部分毎の明暗関係が逆転しない表示が実現されている。
In the display image 90e after transmittance adjustment by linear dimming shown in FIG. 8(4), the brightness of the entire display is uniformly dimmed, so that the object 8d can be distinguished as a "snowman." On the other hand, the object 8c is too dark and it is not possible to distinguish that it is a "clay figurine."
In contrast, in the display image 90d after the transmittance adjustment shown in Fig. 8(3), the object 8c can be visually recognized as a "clay figurine," and the object 8d can be visually recognized as a "snowman." In addition, for areas other than the objects (8c, 8d), high-luminance areas are adjusted to be dark, low-luminance areas are not easily darkened, and a display in which the light-dark relationship between each area is not reversed is realized.

このように、オクルージョン無効な液晶ディスプレイ32を介してシーンカメラ2aにて撮影した画像から、明るい部分を抽出し、この明るい部分をより暗くする処理を行った上で、オクルージョン有効な液晶ディスプレイ31に映し出し、ユーザは、このオクルージョン有効な液晶ディスプレイ31を通して、シーンを見ることで、暗い部分はそのまま、明るい部分は暗くする処理がなされた画像を重ねてみることができる。 In this way, bright areas are extracted from the image captured by the scene camera 2a via the occlusion-disabled LCD display 32, and the bright areas are darkened before being displayed on the occlusion-enabled LCD display 31. The user can view the scene through this occlusion-enabled LCD display 31, allowing them to see an image in which the dark areas remain as they are and the bright areas are darkened by the process.

図9は、実施例2の調光装置の機能ブロック図を示している。図9に示すように、調光装置1aは、イメージセンサ20、透過型の液晶ディスプレイ31、視差較正手段41、及び透過率制御手段70を備える。
実施例1の調光装置1と異なり、画像補正手段21、液晶ディスプレイ32及び透過率制御手段71は設けられない構成である。また、視差較正手段41は、実施例1の視差較正手段40のように、距離センサ50及び瞳孔センサ60を用いて使用時にリアルタイムで較正を行うものではなく、イメージセンサ20とユーザの眼球11の位置から凡その視差を算出し、かかる視差から予め所定の較正処理が施されたものである。
このような構成とすることにより、比較的シンプルな構成で、視覚に受ける刺激を低減する調光装置を実現することができる。
9 is a functional block diagram of a light control device according to Example 2. As shown in FIG. 9, the light control device 1a includes an image sensor 20, a transmissive liquid crystal display 31, a parallax calibration unit 41, and a transmittance control unit 70.
Unlike the light control device 1 of the first embodiment, the image correction means 21, the liquid crystal display 32, and the transmittance control means 71 are not provided. Moreover, unlike the parallax calibration means 40 of the first embodiment, the parallax calibration means 41 does not perform calibration in real time during use using the distance sensor 50 and the pupil sensor 60, but calculates an approximate parallax from the positions of the image sensor 20 and the user's eyeball 11, and performs a predetermined calibration process in advance from the calculated parallax.
By adopting such a configuration, it is possible to realize a light control device that reduces visual stimulation with a relatively simple configuration.

図11は、実施例3の調光装置の機能ブロック図を示している。図11に示すように、調光装置1bは、ハーフミラー4、イメージセンサ20、透過型の液晶ディスプレイ31及び透過率制御手段70を備える。実施例2の調光装置1aと異なり、ハーフミラー4が設けられ、また、視差較正手段41は設けられない構成である。 Figure 11 shows a functional block diagram of the dimming device of Example 3. As shown in Figure 11, dimming device 1b includes a half mirror 4, an image sensor 20, a transmissive liquid crystal display 31, and a transmittance control means 70. Unlike dimming device 1a of Example 2, dimming device 1b includes a half mirror 4 and does not include a parallax calibration means 41.

図12は、実施例3の調光装置の構成イメージ図を示している。図12に示すシーンカメラ2aはイメージセンサ20として機能するものである。シーンカメラ2aは、ここではユーザの眼球11の上方に設けられているが、ハーフミラー4の位置や向きによっては、上方以外に設けることも可能であり、例えば、下方に設けることもできる。なお、図示しないが、調光装置1bの筐体12aには、透過率制御手段70として機能するコンピュータが設けられ、シーンカメラ2a及び液晶ディスプレイ31と接続されている。
物体8からの入射光の内、ハーフミラー4を反射した光はシーンカメラ2aに届き、ハーフミラー4を透過した光はユーザの眼球11に届くことになる。したがって、物体8をシーンカメラ2aにより撮像した後、視差較正を行うことなく、透過率制御手段70による透過率制御を行うことが可能である。
このような構成とすることにより、実施例2の調光装置1aよりも更にシンプルな構成で、視覚に受ける刺激を低減する調光装置を実現することができる。
Fig. 12 shows a configuration image diagram of the light control device of Example 3. The scene camera 2a shown in Fig. 12 functions as an image sensor 20. The scene camera 2a is provided above the user's eyeball 11 here, but depending on the position and direction of the half mirror 4, it can be provided other than above, for example, below. Although not shown, a computer functioning as a transmittance control means 70 is provided in the housing 12a of the light control device 1b, and is connected to the scene camera 2a and the liquid crystal display 31.
Of the incident light from the object 8, the light reflected by the half mirror 4 reaches the scene camera 2a, and the light transmitted through the half mirror 4 reaches the user's eyeball 11. Therefore, after the object 8 is imaged by the scene camera 2a, it is possible to perform transmittance control by the transmittance control means 70 without performing parallax calibration.
By adopting such a configuration, it is possible to realize a light control device that reduces visual stimulation with a configuration simpler than that of the light control device 1a of the second embodiment.

(その他の実施例)
実施例1~3の何れかの調光装置(1,1a,1b)を用いて、スマートサングラスを作製してもよい。スマートサングラスの作製例としては、耳掛け部や鼻掛け部を備える公知のサングラスにおいて、左右のレンズ部に相当する位置に液晶ディスプレイ31が配置されるように、一対の調光装置(1,1a,1b)が設けられる構成が挙げられる。また、調光装置(1,1a,1b)の内、異なる調光装置を一つずつ左右に配置する構成でもよい。調光装置(1,1a,1b)を用いたスマートサングラスとすることにより、視覚過敏症などを持つユーザが、外出時などにおいて、日常的に着用でき、視覚に受ける刺激を効果的に低減することが可能となる。
Other Examples
Smart sunglasses may be produced using any of the light control devices (1, 1a, 1b) of Examples 1 to 3. An example of producing smart sunglasses is a configuration in which a pair of light control devices (1, 1a, 1b) is provided so that the liquid crystal displays 31 are arranged at positions corresponding to the left and right lens parts in known sunglasses having ear hooks and nose hooks. Also, among the light control devices (1, 1a, 1b), a configuration in which different light control devices are arranged one on each side may be used. By making smart sunglasses using the light control devices (1, 1a, 1b), users with visual hypersensitivity can wear them daily when going out, and it becomes possible to effectively reduce visual stimuli.

本発明は、視覚過敏症などを持つユーザが着用し、視覚に受ける刺激を低減するスマートサングラスに有用である。 The present invention is useful for smart sunglasses that can be worn by users with visual hypersensitivity and other conditions to reduce visual stimuli.

1,1a,1b,10 調光装置
2a シーンカメラ
2b アイカメラ
4 ハーフミラー
5 デプスカメラ
6 瞳孔検出カメラ
8,8a~8d 物体
9a,90a 画像
9b,9d,90d,90e ディスプレイ表示イメージ
9c,90c,91,92 遮蔽マスクイメージ
11 眼球
12,12a 筐体
13a,13b 位置
14a,14b 矢印
15a,15b 遮蔽部位
16a,16b 輪郭
20 イメージセンサ
21 画像補正手段
22a,22b レンズ
23a,23b 画像検出器
31,32 液晶ディスプレイ
40,41 視差較正手段
50 距離センサ
60 瞳孔センサ
70,71 透過率制御手段
1, 1a, 1b, 10 Light control device 2a Scene camera 2b Eye camera 4 Half mirror 5 Depth camera 6 Pupil detection camera 8, 8a to 8d Object 9a, 90a Image 9b, 9d, 90d, 90e Display image 9c, 90c, 91, 92 Obstruction mask image 11 Eyeball 12, 12a Housing 13a, 13b Position 14a, 14b Arrow 15a, 15b Obstruction part 16a, 16b Contour 20 Image sensor 21 Image correction means 22a, 22b Lens 23a, 23b Image detector 31, 32 Liquid crystal display 40, 41 Parallax calibration means 50 Distance sensor 60 Pupil sensor 70, 71 Transmittance control means

Claims (8)

外界からユーザの眼球に入射する光量を調節する装置であって、
ユーザの眼球の前方に配置される透過型の第1液晶ディスプレイと、
ユーザの眼球の前方に位置する外界を撮影するイメージセンサと、
前記イメージセンサの画素毎の入射光量に基づいて、第1液晶ディスプレイの画素毎の明暗関係が逆転せず、前記入射光量に応じて光量が減少するように、画素毎の透過率を制御する透過率制御手段と、
前記イメージセンサの前方に配置される透過型の第2液晶ディスプレイと、
第2液晶ディスプレイの画素毎の透過率を制御する第2透過率制御手段と、
第1液晶ディスプレイの透過率が調整された箇所の周囲に生じるボケを補正する画像補正手段
を備えることを特徴とする調光装置。
A device for adjusting the amount of light incident on a user's eyeball from the outside world,
A first liquid crystal display of a transmissive type arranged in front of the user's eyeball;
An image sensor that captures an image of the outside world located in front of the user's eyeball;
a transmittance control means for controlling the transmittance of each pixel based on the amount of incident light for each pixel of the image sensor so that the light-dark relationship for each pixel of the first liquid crystal display is not reversed and the amount of light is reduced according to the amount of incident light ;
a second liquid crystal display of a transmissive type disposed in front of the image sensor;
a second transmittance control means for controlling the transmittance of each pixel of the second liquid crystal display;
an image correction means for correcting blurring occurring around a portion of the first liquid crystal display where the transmittance is adjusted ;
A light control device comprising:
前記透過率制御手段は、前記イメージセンサの画素毎の入射光量の内、最低光量もしくは所定閾値以下の光量の画素に対応する第1液晶ディスプレイの画素の前記透過率は不変または高くし、最大光量もしくは所定閾値以上の光量の画素に対応する第1液晶ディスプレイの画素の前記透過率は低くすることを特徴とする請求項1に記載の調光装置。 The light control device according to claim 1, characterized in that the transmittance control means keeps the transmittance unchanged or increases the transmittance of pixels of the first liquid crystal display corresponding to pixels of the image sensor with the minimum amount of light or an amount of light below a predetermined threshold, and decreases the transmittance of pixels of the first liquid crystal display corresponding to pixels with the maximum amount of light or an amount of light above a predetermined threshold. 前記透過率制御手段は、下記関係式を満足する関数を用いて透過率を算出することを特徴とする請求項1又は2に記載の調光装置:
(数1)
(E2´/E2) ≦ (E1´/E1)
(但し、E1,E2は、第1液晶ディスプレイを最大透過率に制御した状態におけるディスプレイ越しに実環境を撮影した画像の画素値であり、E2>E1を満たすもの。また、E1´,E2´は、第1液晶ディスプレイを算出された透過率に制御した状態におけるディスプレイ越しに実環境を撮影した画像の画素値であり、(E2´/E2)=(E1´/E1)は、一部にのみ成立するものとする。)。
3. The light control device according to claim 1, wherein the transmittance control unit calculates the transmittance using a function that satisfies the following relational expression:
(Equation 1)
(E2'/E2) ≦ (E1'/E1)
(However, E1 and E2 are pixel values of an image of the real environment photographed through the first LCD display with the display controlled to the maximum transmittance, and satisfy E2>E1. Also, E1' and E2' are pixel values of an image of the real environment photographed through the first LCD display with the display controlled to the calculated transmittance, and (E2'/E2)=(E1'/E1) is only partially true.)
第1液晶ディスプレイの前方にビームスプリッターが設けられ、
ユーザの眼球の前方に位置する外界からの光を前記ビームスプリッターで分割し、分割した一方の光が第1液晶ディスプレイを介してユーザの眼球に入射し、
分割した他方の光が前記イメージセンサに到達する光学系、
を更に備えることを特徴とする請求項1~3の何れかに記載の調光装置。
A beam splitter is provided in front of the first liquid crystal display;
Light from the outside world located in front of the user's eyeball is split by the beam splitter, and one of the split lights is incident on the user's eyeball via a first liquid crystal display,
an optical system through which the other of the split light beams reaches the image sensor;
The light control device according to any one of claims 1 to 3, further comprising:
ユーザの眼球と前記イメージセンサの視差を算出し、算出した視差に基づき前記イメージセンサの各画素と第1液晶ディスプレイの各画素との対応関係を較正する視差較正手段を更に備えることを特徴とする請求項1~4の何れかに記載の調光装置。 The light control device according to any one of claims 1 to 4, further comprising a parallax calibration means for calculating the parallax between the user's eyeball and the image sensor, and calibrating the correspondence between each pixel of the image sensor and each pixel of the first liquid crystal display based on the calculated parallax. 前記視差較正手段は、ユーザの眼球の瞳孔位置を検出する瞳孔センサを更に備えることを特徴とする請求項5に記載の調光装置。 The light control device according to claim 5, characterized in that the parallax calibration means further comprises a pupil sensor that detects the pupil position of the user's eyeball. 前記視差較正手段は、外界の物体と第1液晶ディスプレイとの距離を算出できる距離センサを更に備えることを特徴とする請求項5又は6に記載の調光装置。 The light control device according to claim 5 or 6, characterized in that the parallax calibration means further comprises a distance sensor capable of calculating the distance between an external object and the first liquid crystal display. サングラス本体に、請求項1~の何れかの調光装置が設けられ、
前記第1液晶ディスプレイが、前記サングラス本体の眼前の位置に配置されたことを特徴とするスマートサングラス。
A sunglass body is provided with a light control device according to any one of claims 1 to 7 ,
The smart sunglasses are characterized in that the first liquid crystal display is arranged in front of the eyes of the sunglasses body.
JP2021054025A 2021-03-26 2021-03-26 Light control device Active JP7635977B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021054025A JP7635977B2 (en) 2021-03-26 2021-03-26 Light control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021054025A JP7635977B2 (en) 2021-03-26 2021-03-26 Light control device

Publications (2)

Publication Number Publication Date
JP2022151109A JP2022151109A (en) 2022-10-07
JP7635977B2 true JP7635977B2 (en) 2025-02-26

Family

ID=83465237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021054025A Active JP7635977B2 (en) 2021-03-26 2021-03-26 Light control device

Country Status (1)

Country Link
JP (1) JP7635977B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001522063A (en) 1997-10-30 2001-11-13 ザ マイクロオプティカル コーポレイション Eyeglass interface system
JP2016197145A (en) 2015-04-02 2016-11-24 株式会社東芝 Image processor and image display device
JP2017523481A (en) 2014-05-28 2017-08-17 インオプテック リミテッド, ツヴァイクニーダーラッスング ドイチュランド Electronic glasses
WO2020045025A1 (en) 2018-08-31 2020-03-05 ソニー株式会社 Illumination device and display device

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5671035A (en) * 1995-06-07 1997-09-23 Barnes; Elwood E. Light intensity reduction apparatus and method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001522063A (en) 1997-10-30 2001-11-13 ザ マイクロオプティカル コーポレイション Eyeglass interface system
JP2017523481A (en) 2014-05-28 2017-08-17 インオプテック リミテッド, ツヴァイクニーダーラッスング ドイチュランド Electronic glasses
JP2016197145A (en) 2015-04-02 2016-11-24 株式会社東芝 Image processor and image display device
WO2020045025A1 (en) 2018-08-31 2020-03-05 ソニー株式会社 Illumination device and display device

Also Published As

Publication number Publication date
JP2022151109A (en) 2022-10-07

Similar Documents

Publication Publication Date Title
JP7235830B2 (en) electronic glasses
JP7138168B2 (en) System and method for improving signal-to-noise ratio in object tracking under low illumination light conditions
US7970172B1 (en) Electrically controlled optical shield for eye protection against bright light
US9069163B2 (en) Head-up display with brightness control
JP7388349B2 (en) Information processing device, information processing method, and program
US8570634B2 (en) Image processing of an incoming light field using a spatial light modulator
JP6669053B2 (en) Head-up display system
WO2018100239A1 (en) Imaging system and method of producing images for display apparatus
CN117640864A (en) Intelligent visual assistance system method and system for dynamic brightness adjustment
Mori et al. Brightview: Increasing perceived brightness of optical see-through head-mounted displays through unnoticeable incident light reduction
Hiroi et al. AdaptiVisor: Assisting eye adaptation via occlusive optical see-through head-mounted displays
WO2019185050A1 (en) Vehicle antiglare system and method and vehicle comprising antiglare system
US9762870B2 (en) Image processing device and image display apparatus
Hu et al. Smart dimming sunglasses for photophobia using spatial light modulator
JP7182368B2 (en) VEHICLE DISPLAY DEVICE, METHOD AND COMPUTER PROGRAM FOR CONTROLLING VEHICLE DISPLAY DEVICE
Hu et al. Design and prototyping of computational sunglasses for autism spectrum disorders
JP7635977B2 (en) Light control device
JP5590412B2 (en) Projection system and face photographing system
JP7199562B2 (en) Image display device, display control device, display control method, program and recording medium
US11874469B2 (en) Holographic imaging system
US12106734B1 (en) Hiding lens distortions using black pixels
JP4461792B2 (en) Information display device
NL2038593B1 (en) Optical see-through device that can augment visual perception
CN206946130U (en) A device that selectively blocks part of the field of view
RU2820802C1 (en) Method and device for reducing blur of occlusive mask image for virtual image in augmented reality glasses

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250205

R150 Certificate of patent or registration of utility model

Ref document number: 7635977

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150