JP6495149B2 - Electronic device, control method, and control program - Google Patents
Electronic device, control method, and control program Download PDFInfo
- Publication number
- JP6495149B2 JP6495149B2 JP2015189949A JP2015189949A JP6495149B2 JP 6495149 B2 JP6495149 B2 JP 6495149B2 JP 2015189949 A JP2015189949 A JP 2015189949A JP 2015189949 A JP2015189949 A JP 2015189949A JP 6495149 B2 JP6495149 B2 JP 6495149B2
- Authority
- JP
- Japan
- Prior art keywords
- light intensity
- luminance
- controller
- screen
- intensity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Telephone Function (AREA)
- Digital Computer Display Output (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Description
本出願は、電子機器、制御方法及び制御プログラムに関する。 The present application relates to an electronic device, a control method, and a control program.
従来、人間の状態を検出する状態検出装置がある。例えば、眼からの反射光から得られる眼球観察情報として、瞳孔径に関する情報を取得し、取得した情報に基づいて、人間の状態を判定することで、疲労の度合いについて人間に警告を発する装置が知られている(特許文献1参照)。 Conventionally, there is a state detection device that detects a human state. For example, as an eyeball observation information obtained from reflected light from the eye, an apparatus that obtains information on the pupil diameter and determines a human state based on the acquired information, thereby issuing a warning to a person about the degree of fatigue. It is known (see Patent Document 1).
ところで、電子機器が備えるディスプレイの輝度を自動調整する技術があるが、例えば、当該技術に瞳孔径の情報を利用する場合、処理速度、個人差の考慮などの改善の余地が残されている。 By the way, there is a technique for automatically adjusting the brightness of a display included in an electronic device. For example, when pupil diameter information is used in the technique, there remains room for improvement such as consideration of processing speed and individual differences.
1つの態様に係る電子機器は、画面を有する表示部と、自機を所持する利用者の画像を取得する画像取得部と、前記表示部に対して照射される光の強度Lを測定する測定部と、前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出する制御部とを備える。前記制御部は、前記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整する。 An electronic device according to one aspect includes a display unit having a screen, an image acquisition unit that acquires an image of a user who owns the device, and a measurement that measures the intensity L of light emitted to the display unit And a control unit that calculates the intensity P of light reflected from the user's eyeball based on the image acquired by the image acquisition unit. The control unit adjusts the luminance of the screen based on the light intensity L and the light intensity P.
1つの態様に係る制御方法は、画面を有する表示部と、自機を所持する利用者の画像を取得する画像取得部と、前記表示部に対して照射される光の強度Lを測定する測定部とを備える電子機器に実行させる制御方法である。当該制御方法は、前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出するステップと、記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整するステップとを含む。 A control method according to one aspect includes a display unit having a screen, an image acquisition unit that acquires an image of a user who owns the device, and a measurement that measures the intensity L of light emitted to the display unit. A control method to be executed by an electronic device including a unit. The control method is based on the step of calculating the intensity P of the light reflected from the user's eyeball based on the image acquired by the image acquisition unit, the intensity L of the recording light, and the intensity P of the light. Adjusting the brightness of the screen.
1つの態様に係る制御プログラムは、画面を有する表示部と、自機を所持する利用者の画像を取得する画像取得部と、前記表示部に対して照射される光の強度Lを測定する測定部とを備える電子機器に、前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出するステップと、前記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整するステップとを実行させる。 A control program according to one aspect includes a display unit having a screen, an image acquisition unit that acquires an image of a user who owns the device, and a measurement that measures the intensity L of light emitted to the display unit A step of calculating an intensity P of light reflected from the eyeball of the user based on the image acquired by the image acquisition unit, and an intensity L of the light and an intensity P of the light. And adjusting the luminance of the screen.
本出願に係る電子機器、制御方法及び制御プログラムを実施するための複数の実施形態を、図面を参照しつつ詳細に説明する。 A plurality of embodiments for carrying out an electronic device, a control method, and a control program according to the present application will be described in detail with reference to the drawings.
以下では、本出願に係る電子機器の一例として、スマートフォンを取り上げて説明するが、携帯電子機器はスマートフォンに限定されない。携帯電子機器は、ユーザが携行可能であって、移動手段の判別を実行する電子機器であれば、スマートフォン以外の機器であってもよく、例えば、モバイルフォン、タブレット、携帯型パソコン、デジタルカメラ、メディアプレイヤ、電子書籍リーダ、ナビゲータ、又はゲーム機等の機器であってよい。 Hereinafter, a smartphone will be described as an example of the electronic apparatus according to the present application, but the portable electronic apparatus is not limited to the smartphone. The portable electronic device may be a device other than a smartphone as long as it is an electronic device that can be carried by the user and performs determination of the moving means, for example, a mobile phone, a tablet, a portable computer, a digital camera, It may be a device such as a media player, an electronic book reader, a navigator, or a game machine.
図1は、スマートフォン1の機能構成を示すブロック図である。以下の説明において、同様の構成要素について同一の符号を付すことがある。さらに、重複する説明は省略することがある。以下の説明において、スマートフォン1を「自機」と表記する場合がある。
FIG. 1 is a block diagram illustrating a functional configuration of the
図1に示すように、スマートフォン1は、タッチスクリーンディスプレイ2と、ボタン3と、照度センサ4と、近接センサ5と、通信ユニット6と、レシーバ7と、マイク8と、ストレージ9と、コントローラ10と、スピーカ11と、カメラ12と、カメラ13と、コネクタ14と、加速度センサ15と、方位センサ16と、赤外線照射部17とを備える。
As shown in FIG. 1, the
タッチスクリーンディスプレイ2は、ディスプレイ2Aと、タッチスクリーン2Bとを有する。ディスプレイ2A及びタッチスクリーン2Bは、例えば、重ねて配置されてもよいし、並べて配置されてもよいし、離して配置されてもよい。ディスプレイ2Aとタッチスクリーン2Bとが重ねて配置される場合、例えば、ディスプレイ2Aの1ないし複数の辺がタッチスクリーン2Bのいずれの辺とも沿っていなくてもよい。
The
ディスプレイ2Aは、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ(OELD:Organic Electro−Luminescence Display)、又は無機ELディスプレイ(IELD:Inorganic Electro−Luminescence Display)等の表示デバイスを備える。ディスプレイ2Aは、文字、画像、記号、及び図形等を表示する。ディスプレイ2Aが表示する文字、画像、記号、及び図形等を含む画面には、ロック画面と呼ばれる画面、ホーム画面と呼ばれる画面、アプリケーションの実行中に表示されるアプリケーション画面が含まれる。ホーム画面は、デスクトップ、待受画面、アイドル画面、標準画面、アプリ一覧画面又はランチャー画面と呼ばれることもある。ディスプレイ2Aは、表示部の一例である。 The display 2A includes a liquid crystal display (LCD: Liquid Crystal Display), an organic EL display (OELD: Organic Electro-Luminescence Display), or an inorganic EL display (IELD: Inorganic Electro-Luminescence Display). The display 2A displays characters, images, symbols, graphics, and the like. The screen including characters, images, symbols, graphics, and the like displayed on the display 2A includes a screen called a lock screen, a screen called a home screen, and an application screen displayed during execution of the application. The home screen may be called a desktop, a standby screen, an idle screen, a standard screen, an application list screen, or a launcher screen. The display 2A is an example of a display unit.
タッチスクリーン2Bは、タッチスクリーン2Bに対する指、ペン、又はスタイラスペン等の接触を検出する。タッチスクリーン2Bは、複数の指、ペン、又はスタイラスペン等(以下、単に「指」という)がタッチスクリーン2B(タッチスクリーンディスプレイ2)に接触したときのタッチスクリーン2B上の位置(以下、接触位置と表記する)を検出することができる。タッチスクリーン2Bは、タッチスクリーン2Bに対する指の接触を、接触位置とともにコントローラ10に通知する。タッチスクリーン2Bは、接触位置検出部の一例である。
The touch screen 2B detects contact of a finger, a pen, a stylus pen, or the like with respect to the touch screen 2B. The touch screen 2B is a position (hereinafter referred to as a contact position) on the touch screen 2B when a plurality of fingers, a pen, a stylus pen or the like (hereinafter simply referred to as “finger”) contacts the touch screen 2B (touch screen display 2). Can be detected. The touch screen 2B notifies the
タッチスクリーン2Bの検出方式は、静電容量方式、抵抗膜方式、表面弾性波方式(又は超音波方式)、赤外線方式、電磁誘導方式、及び荷重検出方式等の任意の方式でよい。以下の説明では、説明を簡単にするため、利用者はスマートフォン1を操作するために指を用いてタッチスクリーン2Bに接触するものと想定する。
The detection method of the touch screen 2B may be any method such as a capacitance method, a resistive film method, a surface acoustic wave method (or an ultrasonic method), an infrared method, an electromagnetic induction method, and a load detection method. In the following description, in order to simplify the description, it is assumed that the user uses the finger to touch the touch screen 2B in order to operate the
コントローラ10(スマートフォン1)は、タッチスクリーン2Bにより検出された接触、接触が検出された位置、接触が検出された位置の変化、接触が検出された間隔、及び接触が検出された回数の少なくとも1つに基づいて、ジェスチャの種別を判別する。ジェスチャは、指を用いて、タッチスクリーン2B(タッチスクリーンディスプレイ2)に対して行われる操作である。コントローラ10(スマートフォン1)が、タッチスクリーン2Bを介して判別するジェスチャには、例えば、タッチ、ロングタッチ、リリース、スワイプ、タップ、ダブルタップ、ロングタップ、ドラッグ、フリック、ピンチイン、及びピンチアウトが含まれるが、これらに限定されない。 The controller 10 (smart phone 1) has at least one of the contact detected by the touch screen 2B, the position at which the contact is detected, the change in the position at which the contact is detected, the interval at which the contact is detected, and the number of times the contact is detected. The type of gesture is determined based on the one. The gesture is an operation performed on the touch screen 2B (touch screen display 2) using a finger. The gestures that the controller 10 (smart phone 1) determines via the touch screen 2B include, for example, touch, long touch, release, swipe, tap, double tap, long tap, drag, flick, pinch in, and pinch out. However, it is not limited to these.
ボタン3は、利用者からの操作入力を受け付ける。ボタン3の数は、単数であっても、複数であってもよい。
The
照度センサ4は、照度を検出する。照度は、照度センサ4の測定面の単位面積に入射する光束の値である。照度センサ4は、例えば、ディスプレイ2Aの輝度の調整に用いられる。以下の説明において、照度センサ4が測定する照度を、ディスプレイ2Aに対して照射される「光の強度L」と表記する。照度センサ4は、測定部の一例である。 The illuminance sensor 4 detects illuminance. The illuminance is the value of the light beam incident on the unit area of the measurement surface of the illuminance sensor 4. The illuminance sensor 4 is used for adjusting the luminance of the display 2A, for example. In the following description, the illuminance measured by the illuminance sensor 4 is expressed as “light intensity L” irradiated to the display 2A. The illuminance sensor 4 is an example of a measurement unit.
近接センサ5は、近隣の物体の存在を非接触で検出する。近接センサ5は、磁界の変化又は超音波の反射波の帰還時間の変化等に基づいて物体の存在を検出する。近接センサ5は、例えば、ディスプレイ2Aが顔に近づけられたことを検出する。照度センサ4及び近接センサ5は、1つのセンサとして構成されていてもよい。照度センサ4は、近接センサとして用いられてもよい。
The
通信ユニット6は、無線により通信する。通信ユニット6によってサポートされる無線通信規格には、例えば、2G、3G、4G等のセルラーフォンの通信規格と、近距離無線の通信規格がある。セルラーフォンの通信規格としては、例えば、LTE(Long Term Evolution)、W−CDMA(Wideband Code Division Multiple Access)、WiMAX(Worldwide Interoperability for Microwave Access)、CDMA2000、PDC(Personal Digital Cellular)、GSM(登録商標)(Global System for Mobile Communications)、PHS(Personal Handy−phone System)等がある。近距離無線の通信規格としては、例えば、IEEE802.11、Bluetooth(登録商標)、IrDA(Infrared Data Association)、NFC(Near Field Communication)、WPAN(Wireless Personal Area Network)等がある。WPANの通信規格には、例えば、ZigBee(登録商標)がある。通信ユニット6は、上述した通信規格の1つ又は複数をサポートしてもよい。 The communication unit 6 communicates wirelessly. The wireless communication standards supported by the communication unit 6 include, for example, cellular phone communication standards such as 2G, 3G, and 4G, and short-range wireless communication standards. Cellular phone communication standards include, for example, LTE (Long Term Evolution), W-CDMA (Wideband Code Division Multiple Access), WiMAX (Worldwide PDA), WiMAX (Worldwide Interoperability Pc). ) (Global System for Mobile Communications), PHS (Personal Handy-phone System), and the like. Examples of short-range wireless communication standards include IEEE 802.11, Bluetooth (registered trademark), IrDA (Infrared Data Association), NFC (Near Field Communication), and WPAN (Wireless Personal Area Network). As a communication standard of WPAN, for example, there is ZigBee (registered trademark). The communication unit 6 may support one or more of the communication standards described above.
レシーバ7は、音出力部である。レシーバ7は、コントローラ10から送信される音信号を音として出力する。レシーバ7は、例えば、通話時に相手の声を出力するために用いられる。マイク8は、音入力部である。マイク8は、利用者の声等を音信号へ変換してコントローラ10へ送信する。
The receiver 7 is a sound output unit. The receiver 7 outputs the sound signal transmitted from the
ストレージ9は、プログラム及びデータを記憶する。ストレージ9は、コントローラ10の処理結果を一時的に記憶する作業領域としても利用される。ストレージ9は、半導体記憶媒体、及び磁気記憶媒体等の任意の非一過的(non−transitory)な記憶媒体を含んでよい。ストレージ9は、複数の種類の記憶媒体を含んでよい。ストレージ9は、メモリカード、光ディスク、又は光磁気ディスク等の記憶媒体と、記憶媒体の読み取り装置との組み合わせを含んでよい。ストレージ9は、RAM(Random Access Memory)等の一時的な記憶領域として利用される記憶デバイスを含んでよい。
The storage 9 stores programs and data. The storage 9 is also used as a work area for temporarily storing the processing result of the
ストレージ9に記憶されるプログラムには、フォアグランド又はバックグランドで実行されるアプリケーションと、アプリケーションの動作を支援する制御プログラム(図示略)とが含まれる。フォアグランドで実行されるアプリケーションは、例えば、ディスプレイ2Aに画面が表示される。制御プログラムには、例えば、OSが含まれる。アプリケーション及び基本プログラムは、通信ユニット6による無線通信又は非一過的な記憶媒体を介してストレージ9にインストールされてもよい。 The programs stored in the storage 9 include an application executed in the foreground or the background, and a control program (not shown) that supports the operation of the application. An application executed in the foreground displays a screen on the display 2A, for example. The control program includes an OS, for example. The application and the basic program may be installed in the storage 9 via wireless communication by the communication unit 6 or a non-transitory storage medium.
ストレージ9は、制御プログラム9A、メールアプリケーション9B、電話アプリケーション9C、視線検出プログラム9D、画面輝度調整テーブル9E、及び設定データ9Zなどを記憶する。
The storage 9 stores a
制御プログラム9Aは、視線検出プログラム9Dによる視線検出処理の結果、ディスプレイ2A上に利用者の視線が検出された場合、カメラ12により取得された画像に基づいて、利用者の眼球から反射する光の強度Pを算出する機能を提供できる。制御プログラム9Aは、照度センサ4から光の強度Lを取得し、光の強度Lと光の強度Pとに基づいて、ディスプレイ2Aの輝度を調整する機能を提供できる。例えば、制御プログラム9Aは、光の強度Lおよび光の強度Pがともに増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、光の強度Lおよび光の強度Pがともに減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、制御プログラム9Aは、光の強度Lが一定の状態にあって、かつ、光の強度Pが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、光の強度Lが一定の状態にあって、かつ、光の強度Pが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、制御プログラム9Aは、光の強度Pが一定の状態にあって、かつ、光の強度Lが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、光の強度Pが一定の状態にあって、かつ、光の強度Lが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、制御プログラム9Aは、光の強度Lが増加傾向であって、かつ、光の強度Pが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。あるいは、制御プログラム9Aは、光の強度L及び光の強度Pが一定の状態である場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。あるいは、制御プログラム9Aは、光の強度Lが減少傾向であって、かつ、光の強度Pが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。
When the user's line of sight is detected on the display 2A as a result of the line-of-sight detection process by the line-of-sight detection program 9D, the
メールアプリケーション9Bは、電子メールの作成、送信、受信、及び表示等のための電子メール機能を提供する。電話アプリケーション9Cは、無線通信による通話のための通話機能を提供する。
The
視線検出プログラム9Dは、利用者の視線位置を検出する機能を提供できる。すなわち、視線検出プログラム9Dは、利用者の画像に対して角膜反射法に基づくアルゴリズムを適用することにより、上記視線位置を検出する。具体的には、視線検出プログラム9Dは、カメラ12により撮影される利用者の画像を取得する際に、赤外線照射部17から赤外線を照射させる。視線検出プログラム9Dは、取得した利用者の画像から、瞳孔の位置と赤外線の角膜反射の位置をそれぞれ特定する。視線検出プログラム9Dは、瞳孔の位置と赤外線の角膜反射の位置の位置関係に基づいて、利用者の視線の方向を特定する。視線検出プログラム9Dは、瞳孔の位置が角膜反射の位置よりも目尻側にあれば、視線の方向は目尻側であると判定し、瞳孔の位置が角膜反射の位置よりも目頭側にあれば、視線の方向は目頭側であると判定する。視線検出プログラム9Dは、例えば、虹彩の大きさに基づいて、利用者の眼球とタッチスクリーンディスプレイ2との距離を算出する。視線検出プログラム9Dは、利用者の視線の方向と、利用者の眼球とタッチスクリーンディスプレイ2との距離とに基づいて、利用者の眼球内にある瞳孔の中心位置から、瞳孔を起点とする視線がタッチスクリーンディスプレイ2と交差するかを判定することにより、例えば、利用者の視線がディスプレイ2A上にあるかを判定する。
The line-of-sight detection program 9D can provide a function of detecting the user's line-of-sight position. That is, the line-of-sight detection program 9D detects the line-of-sight position by applying an algorithm based on the corneal reflection method to the user's image. Specifically, the line-of-sight detection program 9 </ b> D irradiates infrared rays from the
画面輝度調整テーブル9Eは、制御プログラム9Aによるディスプレイ2Aの輝度を調整する処理に利用される。図2は、画面輝度調整テーブル9Eの構成の一例を示す図である。図2に示すように、画面輝度調整テーブル9Eは、ディスプレイ2Aに対して照射される光の強度Lの増減傾向、及び利用者の眼球から反射する光の強度Pの増減傾向に対して、ディスプレイ2Aの輝度の調整方法を対応付けて構成される。例えば、画面輝度調整テーブル9Eにおいて、光の強度L及び光の強度Pがともに増加傾向にある場合、ディスプレイ2Aの輝度の調整方法として、輝度を増加させる「増加調整」が設定されている。あるいは、画面輝度調整テーブル9Eにおいて、光の強度L及び光の強度Pがともに減少傾向にある場合、ディスプレイ2Aの輝度の調整方法として、輝度を減少させる「減少調整」が設定されている。
The screen brightness adjustment table 9E is used for the process of adjusting the brightness of the display 2A by the
設定データ9Zは、スマートフォン1の動作に関する各種設定の情報を含む。各種設定の情報は、制御プログラム9Aなどにより提供される機能に基づいて実行される処理に用いられる各種データ、メールアプリケーション9B等の各種アプリケーションなどにより提供される機能に基づいて実行される処理に用いられる各種データを含む。
The setting data 9Z includes information on various settings related to the operation of the
コントローラ10は、演算処理装置である。演算処理装置は、例えば、CPU(Central Processing Unit)、SoC(System−on−a−Chip)、MCU(Micro Control Unit)、FPGA(Field−Programmable Gate Array)、およびコプロセッサを含むが、これらに限定されない。コントローラ10は、スマートフォン1の動作を統括的に制御して各種の機能を実現する。コントローラ10は、制御部の一例である。
The
具体的には、コントローラ10は、ストレージ9に記憶されているデータを必要に応じて参照しつつ、ストレージ9に記憶されているプログラムに含まれる命令を実行する。そして、コントローラ10は、データ及び命令に応じて機能部を制御し、それによって各種機能を実現する。機能部は、例えば、ディスプレイ2A、通信ユニット6、マイク8、スピーカ11、及び赤外線照射部17を含むが、これらに限定されない。コントローラ10は、検出部の検出結果に応じて、制御を変更することがある。検出部は、例えば、タッチスクリーン2B、ボタン3、照度センサ4、近接センサ5、マイク8、カメラ12、カメラ13、加速度センサ15、及び方位センサ16を含むが、これらに限定されない。
Specifically, the
制御プログラム9A及び視線検出プログラム9Dを実行することにより、次の処理を実行する。すなわち、コントローラ10は、視線検出プログラム9Dによる視線検出処理の結果、ディスプレイ2A上に利用者の視線が検出された場合、カメラ12により取得された画像に基づいて、利用者の眼球から反射する光の強度Pを算出する。続いて、コントローラ10は、照度センサ4から光の強度Lを取得し、光の強度Lと光の強度Pとに基づいて、ディスプレイ2Aの輝度を調整する。例えば、コントローラ10は、光の強度Lおよび光の強度Pがともに増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、一方、光の強度Lおよび光の強度Pがともに減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、コントローラ10は、光の強度Lが一定の状態にあって、かつ、光の強度Pが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、一方、光の強度Lが一定の状態にあって、かつ、光の強度Pが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、コントローラ10は、光の強度Pが一定の状態にあって、かつ、光の強度Lが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を増加させ、光の強度Pが一定の状態にあって、かつ、光の強度Lが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を減少させる。あるいは、コントローラ10は、光の強度Lが増加傾向であって、かつ、光の強度Pが減少傾向にある場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。あるいは、コントローラ10は、光の強度L及び光の強度Pが一定の状態である場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。あるいは、コントローラ10は、光の強度Lが減少傾向であって、かつ、光の強度Pが増加傾向にある場合、画面輝度調整テーブル9Eに従って輝度を現状維持にする。
The following processing is executed by executing the
コントローラ10は、例えば、次のような方法で、光の強度L及び光の強度Pの増減傾向を算出する。すなわち、測定部にて1秒毎に光の強度Lや光の強度Pの値を測定してプロットしたとき、3ポイント連続で単調増加すると、コントローラ10は、増加傾向であるとして判断し、3ポイント連続で単調減少すると、コントローラ10は、減少傾向であるとして判断する。また、コントローラ10は、ディスプレイ2Aの輝度を増加させる場合、利用者の眼の画像を継続的に取得して、取得した画像を解析し、カメラ12により撮影される利用者の眼球の瞳孔の面積が拡大傾向から縮小傾向に転じるまでディスプレイ2Aの輝度を増加させる。一方、コントローラ10は、ディスプレイ2Aの輝度を減少させる場合、カメラ12により撮影される利用者の眼の画像を継続的に取得して、取得した画像を解析し、利用者の眼球の瞳孔の面積が縮小傾向から拡大傾向に転じるまでディスプレイ2Aの輝度を減少させる。コントローラ10は、画像を升目状に分割することでピクセル化して、画像上の光の強度を所定の閾値に基づいて2値化する。例えば、コントローラ10は、各ピクセルにおいて、虹彩及び角膜部分に相当する明るい部分の値を「0」とし、瞳孔部分に相当する暗い部分を「1」とする。これにより、値が「0」を示すピクセルの数が減少し、値が「1」を示すピクセルの数が増加していけば、コントローラ10は、利用者の眼球の瞳孔の面積が増加傾向であるとして判断する。また、値が「0」を示すピクセルの数が増加し、値が「1」を示すピクセルの数が減少していけば、コントローラ10は、利用者の眼球の瞳孔の面積が縮小傾向であるとして判断する。
For example, the
スピーカ11は、コントローラ10から送信される音信号を音として出力する。スピーカ11は、例えば、着信音及び音楽を出力するために用いられる。レシーバ7及びスピーカ11の一方が、他方の機能を兼ねてもよい。
The speaker 11 outputs the sound signal transmitted from the
カメラ12及びカメラ13は、撮影した画像を電気信号へ変換する。カメラ12は、ディスプレイ2Aに面している物体を撮影するインカメラである。カメラ13は、ディスプレイ2Aの反対側の面に面している物体を撮影するアウトカメラである。カメラ12及びカメラ13は、インカメラ及びアウトカメラを切り換えて利用可能なカメラユニットとして、機能的及び物理的に統合された状態でスマートフォン1に実装されてもよい。1つの実施形態において、カメラ12は、利用者の眼の画像を撮影する。例えば、カメラ12は画像取得部の一例である。
The camera 12 and the
コネクタ14は、他の装置が接続される端子である。コネクタ14は、USB(Universal Serial Bus)、HDMI(登録商標)(High−Definition Multimedia Interface)、ライトピーク(サンダーボルト(登録商標))、イヤホンマイクコネクタのような汎用的な端子であってもよい。コネクタ14は、Dockコネクタのような専用の端子でもよい。コネクタ14に接続される装置は、例えば、外部ストレージ、スピーカ、及び通信装置を含むが、これらに限定されない。
The
加速度センサ15は、スマートフォン1に作用する加速度の方向及び大きさを検出する。方位センサ16は、例えば、地磁気の向きを検出し、地磁気の向きに基づいて、スマートフォン1の向き(方位)を検出する。
The
スマートフォン1は、上記の各機能部の他、GPS受信機、及びバイブレータを備えてもよい。GPS受信機は、GPS衛星からの所定の周波数帯の電波信号を受信し、受信した電波信号の復調処理を行って、処理後の信号をコントローラ10に送出する。バイブレータは、スマートフォン1の一部又は全体を振動させる。バイブレータは、振動を発生させるために、例えば、圧電素子、又は偏心モータなどを有する。図1には示していないが、スマートフォン1は、バッテリなど、スマートフォン1の機能を維持するために当然に用いられる機能部を実装する。
The
図3を参照しつつ、1つの実施形態に係るスマートフォン1による処理の流れを説明する。図3は、1つの実施形態に係るスマートフォン1による処理の一例を示すフローチャートである。図3に示す処理は、コントローラ10が、ストレージ9に記憶されている制御プログラム9A及び視線検出プログラム9Dなどを実行することにより実現される。図3に示す処理は、スマートフォン1の動作中、繰り返し実行される。
With reference to FIG. 3, the flow of processing by the
図3に示すように、コントローラ10は、ディスプレイ2A上に利用者の視線を検出したかを判定する(ステップS101)。
As shown in FIG. 3, the
コントローラ10は、判定の結果、視線を検出した場合(ステップS101,Yes)、光の強度L及び光の強度Pの増減傾向を解析する(ステップS102)。
When the
続いて、コントローラ10は、光の強度L及び光の強度Pの増減傾向に基づいて、ディプレイ2Aの輝度を調整する(ステップS103)。
Subsequently, the
上記ステップS101において、コントローラ10は、判定の結果、視線を検出しない場合(ステップS101,No)、同判定を繰り返す。
In step S101, when the
上記の実施形態において、スマートフォン1は、光の強度L及び光の強度Pの増減傾向に基づいて、ディプレイ2Aの輝度を調整する。このため、上記の実施形態によれば、利用者の眼球から反射する光の強度Pを考慮して、ディスプレイ2Aの輝度を調整できるので、従来のようにディスプレイ2Aに対して照射される光の強度Lだけに基づいてディスプレイ2Aの輝度を調整する場合に比較して、より適切な輝度調整を実現できる。
In the above embodiment, the
図4は、他の実施形態に係るスマートフォン1の機能構成を示すブロック図である。他の実施形態に係るスマートフォン1は、上記の実施形態と基本的には同様の構成を有するが、以下に説明する点が異なる。
FIG. 4 is a block diagram illustrating a functional configuration of the
制御プログラム9Aは、光の強度Pが第1の閾値を超え、かつ、光の強度Lが第2の閾値を超えている場合、輝度を第1の値に設定し、光の強度Pが第1の閾値を超え、かつ、光の強度Lが第2の閾値を超えていない場合、輝度を前記第1の値よりも小さな第2の値に設定する機能を提供する。あるいは、制御プログラム9Aは、光の強度Pが第1の閾値を超えておらず、かつ、光の強度Lが第2の閾値を超えている場合、輝度を第3の値に設定し、光の強度Pが第1の閾値を超えておらず、かつ、光の強度Lが第2の閾値を超えていない場合、輝度を前記第3の値よりも小さな第4の値に設定する機能を提供する。
When the light intensity P exceeds the first threshold value and the light intensity L exceeds the second threshold value, the
ストレージ9は、画面輝度調整テーブル9Fを記憶する。図5は、画面輝度調整テーブル9Fの構成の一例を示す図である。図5に示すように、画面輝度調整テーブル9Fは、ディスプレイに対して照射される光の強度Lと閾値Ltとの関係、及び利用者の眼球から反射する光の強度Pと閾値Ptとの関係に対して、ディスプレイ2Aの輝度の設定値を対応付けて構成される。例えば、画面輝度調整テーブル9Fにおいて、光の強度Pが閾値Ptを超え、かつ、光の強度Lが閾値Ltを超えている場合、輝度の値として輝度B1が設定され、光の強度Pが閾値Ptを超え、かつ、光の強度Lが閾値Ltを超えていない場合、輝度の値として輝度B1よりも小さな輝度B2が設定されている。あるいは、画面輝度調整テーブル9Fにおいて、光の強度Pが閾値Ptを超えておらず、かつ、光の強度Lが閾値Ltを超えている場合、輝度の値として輝度B2が設定され、光の強度Pが閾値Ptを超えておらず、かつ、光の強度Lが閾値Ltを超えていない場合、輝度の値として輝度B2よりも小さな輝度B3が設定されている。輝度B1は、第1の値の一例であり、輝度B2は、第2の値及び第3の値の一例であり、輝度B3は、第4の値の一例である。 The storage 9 stores a screen brightness adjustment table 9F. FIG. 5 is a diagram showing an example of the configuration of the screen brightness adjustment table 9F. As shown in FIG. 5, the screen brightness adjustment table 9F includes a relationship between the intensity L of light irradiated to the display and the threshold value Lt, and a relationship between the intensity P of light reflected from the user's eyeball and the threshold value Pt. The brightness setting value of the display 2A is associated with the display value. For example, in the screen brightness adjustment table 9F, when the light intensity P exceeds the threshold value Pt and the light intensity L exceeds the threshold value Lt, the brightness value B1 is set as the brightness value, and the light intensity P is set to the threshold value. When Pt is exceeded and the light intensity L does not exceed the threshold Lt, the brightness B2 smaller than the brightness B1 is set as the brightness value. Alternatively, in the screen brightness adjustment table 9F, when the light intensity P does not exceed the threshold value Pt and the light intensity L exceeds the threshold value Lt, the brightness value B2 is set as the brightness value. When P does not exceed the threshold value Pt and the light intensity L does not exceed the threshold value Lt, the luminance B3 smaller than the luminance B2 is set as the luminance value. The brightness B1 is an example of the first value, the brightness B2 is an example of the second value and the third value, and the brightness B3 is an example of the fourth value.
コントローラ10は、制御プログラム9Aを実行することにより、光の強度Lと光の強度Pとに基づいて、ディスプレイ2Aの輝度を調整する。具体的には、コントローラ10は、光の強度Pが閾値Ptを超え、かつ、光の強度Lが閾値Ltを超えている場合、画面輝度調整テーブル9Fに基づいて、輝度の値を輝度B1に変更し、光の強度Pが閾値Ptを超え、かつ、光の強度Lが閾値Ltを超えていない場合、画面輝度調整テーブル9Fに基づいて、輝度の値を輝度B1よりも小さな輝度B2に変更する。あるいは、コントローラ10は、光の強度Pが閾値Ptを超えておらず、かつ、光の強度Lが閾値Ltを超えている場合、画面輝度調整テーブル9Fに基づいて、輝度の値を輝度B2に変更し、光の強度Pが閾値Ptを超えておらず、かつ、光の強度Lが閾値Ltを超えていない場合、画面輝度調整テーブル9Fに基づいて、輝度の値を輝度B2よりも小さな輝度B3に変更する。
The
図6から図9は、光の強度L及び光の強度Pが異なる場合の利用者の眼の画像の一例を示す図である。図6は光の強度P及び光の強度Lが共に閾値を超えている場合の眼の画像の例、図7は光の強度Lだけが閾値を超えている場合の眼の画像の例、図8は光の強度Pだけが閾値を超えている場合の眼の画像の例、図9は光の強度P及び光の強度Lが共に閾値以下である場合の眼の画像の例を示す。図6から図9に示す眼の画像50には、赤外線照射部17から照射される視線検出用の赤外線スポット51、結膜部分52、虹彩及び角膜部分53、瞳孔部分54、ディスプレイ2Aから反射光スポット55が含まれる。
6 to 9 are diagrams illustrating examples of images of the eyes of the user when the light intensity L and the light intensity P are different. FIG. 6 shows an example of an eye image when both the light intensity P and the light intensity L exceed the threshold, and FIG. 7 shows an example of an eye image when only the light intensity L exceeds the threshold. 8 shows an example of an eye image when only the light intensity P exceeds the threshold, and FIG. 9 shows an example of an eye image when both the light intensity P and the light intensity L are less than or equal to the threshold. The
図6を取り上げて、光の強度Pの算出について説明する。コントローラ10は、カメラ12により撮影される眼の画像50を拡大する。続いて、コントローラ10は、拡大した眼の画像50に含まれる反射光スポット55に中心線56を引き、中心線56上の明暗から光の強度Pを算出する。光の強度Pは、レーザーパワーの密度測定と同様に測定することができ、具体的に、コントローラ10は、中心線56上における光の強度Pの分布をコントローラ10内で測定、計算してもよく、必ずしも撮影されている目の画像50自体を、画面上に表示させる必要はない。
The calculation of the light intensity P will be described with reference to FIG. The
図10は、他の実施形態に係るスマートフォン1による処理の一例を示すフローチャートである。図10に示す処理は、コントローラ10が、ストレージ9に記憶されている制御プログラム9A及び視線検出プログラム9Dなどを実行することにより実現される。図10に示す処理は、スマートフォン1の動作中、繰り返し実行される。
FIG. 10 is a flowchart illustrating an example of processing performed by the
図10に示すように、コントローラ10は、ディスプレイ2A上に利用者の視線を検出したかを判定する(ステップS201)。
As shown in FIG. 10, the
コントローラ10は、判定の結果、視線を検出した場合(ステップS201,Yes)、光の強度L及び光の強度Pを算出する(ステップS202)。
If the
続いて、コントローラ10は、光の強度P>閾値Pt、かつ光の強度L>閾値Ltという条件を満足するかを判定する(ステップS203)。
Subsequently, the
コントローラ10は、判定の結果、光の強度P>閾値Pt、かつ光の強度L>閾値Ltという条件を満足する場合(ステップS203,Yes)、ディスプレイ2Aの輝度をB1に変更し(ステップS204)、ステップS201の判定に戻る。
If the
一方、コントローラ10は、判定の結果、光の強度P>閾値Pt、かつ光の強度L>閾値Ltという条件を満足しない場合(ステップS203,No)、光の強度P>閾値Pt、かつ光の強度L≦閾値Ltという条件を満足するかを判定する(ステップS205)。
On the other hand, if the
コントローラ10は、判定の結果、光の強度P>閾値Pt、かつ光の強度L≦閾値Ltという条件を満足する場合(ステップS205,Yes)、ディスプレイ2Aの輝度をB2に変更し(ステップS206)、ステップS201の判定に戻る。
When the
一方、コントローラ10は、判定の結果、光の強度P>閾値Pt、かつ光の強度L≦閾値Ltという条件を満足しない場合(ステップS205,No)、光の強度P≦閾値Pt、かつ光の強度L>閾値Ltという条件を満足するかを判定する(ステップS207)。
On the other hand, if the
コントローラ10は、判定の結果、光の強度P≦閾値Pt、かつ光の強度L>閾値Ltという条件を満足する場合(ステップS207,Yes)、上記ステップS206と同様に、ディスプレイ2Aの輝度をB2に変更し、ステップS201の判定に戻る。
As a result of the determination, when the condition of light intensity P ≦ threshold value Pt and light intensity L> threshold value Lt is satisfied (Yes in step S207), the
一方、コントローラ10は、判定の結果、光の強度P≦閾値Pt、かつ光の強度L>閾値Ltという条件を満足しない場合(ステップS207,No)、ディスプレイ2Aの輝度をB3に変更し(ステップS208)、ステップS201の判定に戻る。
On the other hand, if the
上記ステップS201において、コントローラ10は、判定の結果、視線を検出しない場合(ステップS201,No)、同判定を繰り返す。
In step S201, if the
上記の実施形態において、スマートフォン1は、光の強度L及び光の強度Pを閾値と比較し、その大小関係に基づいて、ディスプレイ2Aの輝度を調整するので、より簡易かつ適切な輝度調整を実現できる。
In the above embodiment, the
添付の請求項に係る技術を完全かつ明瞭に開示するために特徴的な実施形態に関し記載してきた。しかし、添付の請求項は、上記の実施形態に限定されるべきものでなく、本明細書に示した基礎的事項の範囲内で当該技術分野の当業者が創作しうるすべての変形例及び代替可能な構成により具現化されるべきである。 The characterizing embodiments have been described in order to fully and clearly disclose the technology according to the appended claims. However, the appended claims should not be limited to the above-described embodiments, but all modifications and alternatives that can be created by those skilled in the art within the scope of the basic matters shown in this specification. Should be embodied by a possible configuration.
1 スマートフォン
2 タッチスクリーンディスプレイ
2A ディスプレイ
2B タッチスクリーン
3 ボタン
4 照度センサ
5 近接センサ
6 通信ユニット
7 レシーバ
8 マイク
9 ストレージ
9A 制御プログラム
9B メールアプリケーション
9C 電話アプリケーション
9D 視線検出プログラム
9E,9F 画面輝度調整テーブル
9Z 設定データ
10 コントローラ
11 スピーカ
12 カメラ
13 カメラ
14 コネクタ
15 加速度センサ
16 方位センサ
17 赤外線照射部
DESCRIPTION OF
Claims (7)
自機を所持する利用者の画像を取得する画像取得部と、
前記表示部に対して照射される光の強度Lを測定する測定部と、
前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出する制御部と、
を備え、
前記制御部は、前記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整する電子機器。 A display unit having a screen;
An image acquisition unit that acquires an image of a user who owns the device;
A measuring unit for measuring the intensity L of light irradiated to the display unit;
A control unit that calculates an intensity P of light reflected from the eyeball of the user based on the image acquired by the image acquisition unit;
With
The control unit is an electronic device that adjusts the luminance of the screen based on the light intensity L and the light intensity P.
前記光の強度Lおよび前記光の強度Pがともに増加傾向にある場合、前記輝度を増加させ、
前記光の強度Lおよび前記光の強度Pがともに減少傾向にある場合、前記輝度を減少させる請求項1に記載の電子機器。 The controller is
When both the light intensity L and the light intensity P tend to increase, increase the brightness,
The electronic device according to claim 1, wherein the luminance is decreased when both the light intensity L and the light intensity P tend to decrease.
前記光の強度Lが一定の状態にあって、かつ、前記光の強度Pが増加傾向にある場合、前記輝度を増加させ、
前記光の強度Lが一定の状態にあって、かつ、前記光の強度Pが減少傾向にある場合、前記輝度を減少させる請求項1に記載の電子機器。 The controller is
When the light intensity L is in a constant state and the light intensity P tends to increase, the brightness is increased,
2. The electronic device according to claim 1, wherein the luminance is decreased when the light intensity L is constant and the light intensity P tends to decrease.
前記光の強度Pが第1の閾値を超え、かつ、前記光の強度Lが第2の閾値を超えている場合、前記輝度を第1の値に設定し、
前記光の強度Pが第1の閾値を超え、かつ、前記光の強度Lが第2の閾値を超えていない場合、前記輝度を前記第1の値よりも小さな第2の値に設定する請求項1に記載の電子機器。 The controller is
If the light intensity P exceeds a first threshold and the light intensity L exceeds a second threshold, the brightness is set to a first value;
The light intensity P is set to a second value smaller than the first value when the light intensity P exceeds a first threshold value and the light intensity L does not exceed a second threshold value. Item 2. The electronic device according to Item 1.
前記光の強度Pが第1の閾値を超えておらず、かつ、前記光の強度Lが第2の閾値を超えている場合、前記輝度を第3の値に設定し、
前記光の強度Pが第1の閾値を超えておらず、かつ、前記光の強度Lが第2の閾値を超えていない場合、前記輝度を前記第3の値よりも小さな第4の値に設定する請求項1に記載の電子機器。 The controller is
If the light intensity P does not exceed the first threshold and the light intensity L exceeds the second threshold, the luminance is set to a third value;
When the light intensity P does not exceed the first threshold value and the light intensity L does not exceed the second threshold value, the luminance is set to a fourth value smaller than the third value. The electronic device according to claim 1 to be set.
自機を所持する利用者の画像を取得する画像取得部と、
前記表示部に対して照射される光の強度Lを測定する測定部と
を備える電子機器に実行させる制御方法であって、
前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出するステップと、
前記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整するステップと
を含む制御方法。 A display unit having a screen;
An image acquisition unit that acquires an image of a user who owns the device;
A control method that is executed by an electronic device comprising: a measurement unit that measures the intensity L of light emitted to the display unit;
Calculating an intensity P of light reflected from the user's eyeball based on the image acquired by the image acquisition unit;
Adjusting the luminance of the screen based on the light intensity L and the light intensity P.
自機を所持する利用者の画像を取得する画像取得部と、
前記表示部に対して照射される光の強度Lを測定する測定部と
を備える電子機器に、
前記画像取得部により取得された画像に基づいて、前記利用者の眼球から反射する光の強度Pを算出するステップと、
前記光の強度Lと前記光の強度Pとに基づいて、前記画面の輝度を調整するステップと
を実行させる制御プログラム。 A display unit having a screen;
An image acquisition unit that acquires an image of a user who owns the device;
An electronic device comprising: a measuring unit that measures the intensity L of light irradiated to the display unit;
Calculating an intensity P of light reflected from the user's eyeball based on the image acquired by the image acquisition unit;
A control program for executing the step of adjusting the brightness of the screen based on the light intensity L and the light intensity P.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015189949A JP6495149B2 (en) | 2015-09-28 | 2015-09-28 | Electronic device, control method, and control program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015189949A JP6495149B2 (en) | 2015-09-28 | 2015-09-28 | Electronic device, control method, and control program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017069625A JP2017069625A (en) | 2017-04-06 |
| JP6495149B2 true JP6495149B2 (en) | 2019-04-03 |
Family
ID=58495277
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015189949A Expired - Fee Related JP6495149B2 (en) | 2015-09-28 | 2015-09-28 | Electronic device, control method, and control program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6495149B2 (en) |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2006093074A1 (en) * | 2005-03-01 | 2006-09-08 | Matsushita Electric Industrial Co., Ltd. | Electronic display medium and screen display control method used for electronic display medium |
| WO2008129596A1 (en) * | 2007-04-04 | 2008-10-30 | Panasonic Corporation | Display device and display method |
| JP2010197656A (en) * | 2009-02-25 | 2010-09-09 | Hitachi Ltd | Image display device |
| TWI433135B (en) * | 2011-10-04 | 2014-04-01 | Wistron Corp | Display adjusting device and display adjusting method |
| CN103327172A (en) * | 2013-04-28 | 2013-09-25 | 华为终端有限公司 | Method and terminal for regulating terminal screen luminance |
| WO2015161495A1 (en) * | 2014-04-25 | 2015-10-29 | Telefonaktiebolaget L M Ericsson (Publ) | Adjusting brightness of display |
-
2015
- 2015-09-28 JP JP2015189949A patent/JP6495149B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017069625A (en) | 2017-04-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6549693B2 (en) | Wearable device, control method and control program | |
| JPWO2014084224A1 (en) | Electronic device and line-of-sight input method | |
| JP6140217B2 (en) | Electronic device, control method, and control program | |
| JP6141352B2 (en) | Electronic equipment and control program | |
| JP2017022532A (en) | Electronic apparatus, control method, and control program | |
| CN109040427B (en) | Split screen processing method and device, storage medium and electronic equipment | |
| US10009454B2 (en) | Mobile electronic device, control method, and non-transitory storage medium | |
| JP6297847B2 (en) | Portable electronic device, display control method, and display control program | |
| KR102125525B1 (en) | Method for processing image and electronic device thereof | |
| JP6396202B2 (en) | Electronic device and display control method | |
| JP6495149B2 (en) | Electronic device, control method, and control program | |
| JP6416598B2 (en) | Portable terminal and control method | |
| JP6261546B2 (en) | Portable device, control method and control program | |
| JP6373722B2 (en) | Portable terminal and control method | |
| JP2016212759A (en) | Electronic device, control method, and control program | |
| JP2016048908A (en) | Portable electronic apparatus and control method | |
| JP2016136351A (en) | Electronic apparatus and control method | |
| JP2019032846A (en) | Electronic device and display control method | |
| CN109144462B (en) | Sound production control method and device, electronic device and computer readable medium | |
| JP2017022535A (en) | Portable device, control method and control program | |
| JP6560410B2 (en) | Mobile terminal and control method | |
| JP6399944B2 (en) | Electronic device, control method, and control program | |
| JP6247066B2 (en) | Electronic device, power consumption management method, and power consumption management program | |
| JP2017021468A (en) | Electronic apparatus, image processing method, and image processing program | |
| JP2017195443A (en) | Portable apparatus, control method, and control program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180316 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190226 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190227 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190306 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6495149 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |