JP6658095B2 - Awakening maintenance device and program - Google Patents
Awakening maintenance device and program Download PDFInfo
- Publication number
- JP6658095B2 JP6658095B2 JP2016037817A JP2016037817A JP6658095B2 JP 6658095 B2 JP6658095 B2 JP 6658095B2 JP 2016037817 A JP2016037817 A JP 2016037817A JP 2016037817 A JP2016037817 A JP 2016037817A JP 6658095 B2 JP6658095 B2 JP 6658095B2
- Authority
- JP
- Japan
- Prior art keywords
- stimulus
- presentation
- driver
- presenting
- presented
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012423 maintenance Methods 0.000 title claims description 53
- 230000000007 visual effect Effects 0.000 claims description 107
- 238000001514 detection method Methods 0.000 claims description 98
- 230000037452 priming Effects 0.000 claims description 58
- 230000037007 arousal Effects 0.000 claims description 29
- 230000004434 saccadic eye movement Effects 0.000 claims description 27
- 230000036626 alertness Effects 0.000 claims description 24
- 206010062519 Poor quality sleep Diseases 0.000 claims description 9
- 230000002093 peripheral effect Effects 0.000 claims description 7
- 230000000638 stimulation Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 14
- 230000004424 eye movement Effects 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 6
- 239000000725 suspension Substances 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000004397 blinking Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000004399 eye closure Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000005043 peripheral vision Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 206010041349 Somnolence Diseases 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Landscapes
- Traffic Control Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Description
本発明は、覚醒維持装置及びプログラムに係り、特に、ユーザの覚醒状態を維持するための覚醒維持装置に関する。 The present invention relates to a wakefulness maintenance device and a program, and more particularly, to a wakefulness maintenance device for maintaining a wakefulness state of a user.
運転者に煩わしさを感じさせないで、警告に関する情報を提示する技術がある(特許文献1)。この技術では、図13に示すように、自車両の周囲の状況を検出するレーダーと、警告に関する情報を表示する表示装置と、報知を発生する報知装置と、レーダーにより検出された自車両の周囲の状況に対する判断に基づいて、表示装置に警告に関する情報を、意識下の知覚の範囲内の短時間表示させている。 There is a technique for presenting information about a warning without causing a driver to feel troublesome (Japanese Patent Application Laid-Open No. H10-163873). In this technique, as shown in FIG. 13, a radar for detecting a situation around the own vehicle, a display device for displaying information related to a warning, a notifying device for generating a notification, and a surrounding for the own vehicle detected by the radar. Is displayed on the display device for a short time within the range of the consciousness based on the judgment on the situation.
また、運転者に煩わしさを感じさせないで、事故多発地点または区間における注意喚起情報を運転者に表示する技術がある(特許文献2)。この技術では、図14に示すように、事故統計情報に基づき注意喚起情報を生成し、該注意喚起情報に基づき注意喚起画像を生成し、該注意喚起画像の表示を制御する注意喚起表示制御装置と、注意喚起表示制御装置から出力される注意喚起画像を表示するHUDとを有し、注意喚起表示制御装置は、自車両の事故多発地点または区間の走行中に、注意喚起画像を、運転者の閾下知覚の範囲の表示持続時間で繰り返し表示するように制御している。 In addition, there is a technique of displaying alert information at a point or a section where accidents frequently occur to a driver without causing the driver to feel troublesome (Patent Document 2). In this technique, as shown in FIG. 14, an alert display control device that generates alert information based on accident statistical information, generates an alert image based on the alert information, and controls the display of the alert image. And a HUD for displaying a reminder image output from the reminder display control device. The reminder display control device outputs the reminder image to the driver while the vehicle is traveling in an accident-prone location or section. Is controlled so as to be repeatedly displayed with a display duration within the range of the sub-threshold perception.
また、対向車表示画面と歩行者表示画面とを提供する際に、運転者に与える混乱を極力小さくする技術がある。この技術では、図15に示すように、自車両の停止/進行に応じて画像が切り替えられたときでも、切り替わり前に既に薄く表示されている画像を先行手がかりとして切り替わり後の画像を簡単に認識することができるようにしている。 Further, there is a technique for minimizing confusion given to a driver when providing an oncoming vehicle display screen and a pedestrian display screen. In this technique, as shown in FIG. 15, even when an image is switched in accordance with the stop / progress of the own vehicle, an image already displayed faintly before the switching is easily recognized as a leading clue and the image after the switching is easily recognized. To be able to.
上記の特許文献1の技術では、まずサブリミナル的に視覚情報を先行表示して、次に表示する視覚情報への注目度を強調している。しかし、特許文献1では、単にプライミング刺激を用いているだけであり、このプライミング刺激による効果で警告の認知を早めることができるが、続くサッカード誘導刺激の誘導率(視線追従率)を向上させようというものではない。 In the technique of Patent Document 1, the visual information is first displayed subliminally, and the degree of attention to the visual information to be displayed next is emphasized. However, in Patent Literature 1, the priming stimulus is simply used, and the effect of the priming stimulus can speed up the recognition of a warning. However, the guiding rate (gaze tracking rate) of the subsequent saccade-inducing stimulus is improved. It's not like that.
また、特許文献2は、サブリミナル的な視覚情報による煩わしくない注意喚起が目的であり、次に表示する刺激への注目度を強調するものではない。 Further, Patent Literature 2 aims at not inconvenience alerting by subliminal visual information, and does not emphasize attention of a stimulus to be displayed next.
本発明は、上記事情を鑑みて成されたものであり、ユーザにわずらわしさや、不快感を感じさせることなく、ユーザの覚醒状態を維持することができる覚醒維持装置、及びプログラムを提供することを目的とする。 The present invention has been made in view of the above circumstances, and provides an awakening maintenance device and a program that can maintain an awakening state of a user without causing the user to feel troublesome and uncomfortable. Aim.
上記目的を達成するために、第1の発明に係る覚醒維持装置は、ユーザの周辺視領域内の、左右に離れた少なくとも2箇所以上の位置から、視覚刺激を呈示する刺激呈示手段と、前記ユーザの覚醒状態を維持するために前記ユーザの視線を左右方向に移動させるように、前記刺激呈示手段により主刺激を呈示させる制御手段と、前記制御手段により前記主刺激を呈示させる直前に、前記刺激呈示手段により、前記主刺激の先行刺激であるプライミング刺激を、前記主刺激を最初に呈示する位置に対応する位置に呈示させるプライミング刺激呈示制御手段と、を含んで構成されている。 In order to achieve the above object, the arousal maintenance device according to the first invention includes a stimulus presenting unit that presents a visual stimulus from at least two or more positions left and right apart in a peripheral visual region of a user; Control means for presenting a main stimulus by the stimulus presenting means so as to move the user's line of sight in the left-right direction in order to maintain the user's awake state, and immediately before presenting the main stimulus by the control means, A priming stimulus presentation control unit that causes the stimulus presentation unit to present a priming stimulus that is a preceding stimulus of the main stimulus to a position corresponding to a position where the main stimulus is first presented.
また、第1の発明に係る覚醒維持装置において、前記刺激呈示手段は、前記ユーザの視覚で負担なく知覚できる視覚刺激の強度の上限に対応する予め定められた強度の視覚刺激を呈示するようにしてもよい。 Further, in the alertness maintaining apparatus according to the first invention, the stimulus presenting means is configured to present a visual stimulus having a predetermined intensity corresponding to an upper limit of the intensity of the visual stimulus that can be perceived by the user without any burden. You may.
また、第1の発明に係る覚醒維持装置において、前記制御手段は、前記ユーザの眼のサッカード運動を生じさせるように、前記刺激呈示手段により視覚刺激を呈示させるようにしてもよい。 Further, in the alertness maintaining apparatus according to the first invention, the control means may cause the stimulus presenting means to present a visual stimulus so as to cause a saccade movement of the user's eye.
また、第2の発明に係る覚醒維持装置は、車両のドライバの前方視界から検出対象物を検出する検出手段と、前記車両上の前記ドライバの前方視界内の予め定められた少なくとも1箇所と、前記ドライバの前方視界内であって、前記少なくとも1箇所と左右方向に離れ、かつ、前記検出手段により検出対象物が検出される領域に対応する少なくとも1箇所との各位置に、視覚刺激を呈示する刺激呈示手段と、前記ドライバの覚醒状態を維持するために前記ドライバの視線を左右方向に移動させるように、前記検出手段により検出対象物が検出されたタイミングに対応するタイミングで、前記刺激呈示手段により主刺激を呈示させる制御手段と、前記制御手段により前記主刺激を呈示させる直前に、前記刺激呈示手段により、前記主刺激の先行刺激であるプライミング刺激を、前記主刺激を最初に呈示する位置に対応する位置に呈示させるプライミング刺激呈示制御手段と、を含んで構成されている。 The awakening maintenance device according to a second aspect of the present invention includes a detection unit configured to detect a detection target from a front view of a driver of the vehicle, and at least one predetermined position in a front view of the driver on the vehicle. Presenting a visual stimulus at each position within the front field of view of the driver, at least one location corresponding to an area where the detection target is detected by the at least one location away from the at least one location in the left-right direction, and The stimulus presenting means, and the stimulus presenting means at a timing corresponding to the timing at which the detection target is detected by the detecting means so as to move the driver's line of sight in the left-right direction to maintain the driver's awake state Control means for presenting a main stimulus by means, and immediately before the main stimulus is presented by the control means, The a super is priming stimulation is configured to include a priming stimulus presentation control means for presenting a position corresponding to the position initially presenting the main stimulus.
また、第2の発明に係る覚醒維持装置において、前記刺激呈示手段は、前記検出手段により検出対象物が検出される領域に対応する少なくとも1箇所以外の箇所における視覚刺激の強度は、前記ドライバの知覚可能な最低限の強さの刺激とするようにしてもよい。 Further, in the alertness maintaining device according to the second invention, the stimulus presenting means is configured such that the intensity of the visual stimulus at at least one place other than at least one place corresponding to the area where the detection target is detected by the detection means is determined by the driver. The stimulus may have a minimum perceptible intensity.
また、第2の発明に係る覚醒維持装置において、前記制御手段は、予め定められた停止期間、前記検出手段により検出対象物が検出されなかった場合、前記刺激呈示手段により、前記各位置に前記視覚刺激を呈示させるようにしてもよい。 Further, in the awakening maintenance device according to the second invention, the control means, when a detection target object is not detected by the detection means during a predetermined stop period, the stimulus presentation means causes the stimulus presentation means to set the position at each of the positions. A visual stimulus may be presented.
また、第2の発明に係る覚醒維持装置において、前記刺激呈示手段は、前記ドライバの視覚で負担なく知覚できる視覚刺激の強度の上限に対応する予め定められた強度の視覚刺激を呈示するようにしてもよい。 Further, in the alertness maintaining apparatus according to the second invention, the stimulus presenting means presents a visual stimulus having a predetermined intensity corresponding to an upper limit of the intensity of the visual stimulus that can be perceived by the driver without any burden. You may.
また、第2の発明に係る覚醒維持装置において、前記制御手段は、予め定められた継続期間、前記刺激呈示手段により視覚刺激を呈示した後、予め定められた休止期間、前記視覚刺激の呈示を行わないように前記刺激呈示手段を制御するようにしてもよい。 In the arousal maintenance device according to the second invention, the control means presents a visual stimulus by the stimulus presenting means for a predetermined duration, and then presents the visual stimulus for a predetermined pause period. The stimulus presenting means may be controlled so as not to perform it.
また、第2の発明に係る覚醒維持装置において、前記刺激呈示手段は、前記車両のフロントガラス上、前記車両のルームミラー、又は前記車両のサイドミラーにおいて前記主刺激、又は前記プライミング刺激を呈示するようにしてもよい。 Further, in the alertness maintenance device according to the second invention, the stimulus presenting means presents the main stimulus or the priming stimulus on a windshield of the vehicle, a room mirror of the vehicle, or a side mirror of the vehicle. You may do so.
また、第2の発明に係る覚醒維持装置において、前記制御手段は、前記ドライバの眼のサッカード運動を生じさせるように、前記刺激呈示手段により視覚刺激を呈示させるようにしてもよい。 Further, in the alertness maintaining apparatus according to the second invention, the control means may cause the stimulus presenting means to present a visual stimulus so as to cause a saccade movement of the driver's eyes.
また、第1及び第2の発明に係る覚醒維持装置において、前記制御手段は、前記刺激呈示手段により呈示される主刺激の、呈示の順番、呈示の周期、呈示の開始、呈示の停止、呈示の強さ、及び呈示の色の少なくとも1つを制御するようにしてもよい。 In the arousal maintenance device according to the first and second aspects of the present invention, the control means includes a main stimulus presented by the stimulus presentation means, a presentation order, a presentation cycle, a presentation start, a presentation stop, and a presentation. And at least one of the intensity of the color and the color of the presentation may be controlled.
また、第1及び第2の発明に係る覚醒維持装置において、前記制御手段は、各位置に所定の順番で前記主刺激を呈示することを繰り返すように、前記刺激呈示手段を制御するようにしてもよい。 Further, in the alertness maintaining device according to the first and second inventions, the control means controls the stimulus presenting means so as to repeat presenting the main stimulus to each position in a predetermined order. Is also good.
また、第1及び第2の発明に係る覚醒維持装置において、前記刺激呈示手段は、各位置から青色の光を出力することにより、前記主刺激、又は前記プライミング刺激を呈示するようにしてもよい。 Further, in the alertness maintaining device according to the first and second inventions, the stimulus presenting unit may present the main stimulus or the priming stimulus by outputting blue light from each position. .
また、第1及び第2の発明に係る覚醒維持装置において、周辺情報を検出する情報検出手段を更に含み、前記プライミング刺激呈示制御手段は、前記刺激呈示手段により、前記プライミング刺激として、前記情報検出手段によって検出された前記周辺情報を呈示させるようにしてもよい。 Further, in the awakening maintenance device according to the first and second inventions, the apparatus further includes information detecting means for detecting surrounding information, wherein the priming stimulus presentation control means detects the information as the priming stimulus by the stimulus presenting means. The peripheral information detected by the means may be presented.
本発明のプログラムは、コンピュータを、上記の覚醒維持装置を構成する各手段として機能させるためのプログラムである。 A program according to the present invention is a program for causing a computer to function as each unit constituting the above-mentioned alertness maintenance device.
本発明の覚醒維持装置、方法、及びプログラムによれば、ユーザにわずらわしさや、不快感を感じさせることなく、ユーザの覚醒状態を維持することができる。 ADVANTAGE OF THE INVENTION According to the awakening maintenance apparatus, method, and program of this invention, a user's awakening state can be maintained, without making a user feel troublesome and uncomfortable.
以下、本発明の実施形態について図面を参照しつつ説明する。尚、各図面において、実質的に同一又は等価な構成要素又は部分には同一の参照符号を付している。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the drawings, substantially the same or equivalent components or portions are denoted by the same reference numerals.
<発明の原理> <Principle of the invention>
本発明の実施の形態において、人の前方の左右に離れた2箇所以上から、図1に示すように、光や表示等の視覚認知できる刺激を順番又は交互に出力することにより、主に左右方向のサッカード(衝動性)眼球運動を誘導する。サッカード眼球運動は、覚醒時特有の眼球運動であり、この眼球運動が誘導されることにより、人の覚醒状態の低下が妨げられ、覚醒状態を維持することができる。なお、本実施の形態においては、眼にサッカード運動を起こさせることをサッカード眼球運動と定義する。 In the embodiment of the present invention, as shown in FIG. 1, visually recognizable stimuli such as light and display are sequentially or alternately output from two or more places left and right in front of a person, so that the left and right are mainly output. Induces directional saccade (impulsive) eye movements. The saccade eye movement is an eye movement peculiar to awakening, and when this eye movement is induced, a decrease in the awake state of a person is prevented, and the awake state can be maintained. In the present embodiment, causing a saccade movement of the eye is defined as a saccade eye movement.
また、本発明の実施の形態において、サッカード眼球運動が効果的に誘導されるようにするために、ドライバが自然に視線を向けるような視覚刺激を提示する。 Further, in the embodiment of the present invention, in order to effectively induce saccade eye movements, a visual stimulus that the driver naturally turns his / her gaze is presented.
特に、本発明の実施の形態では、サッカード眼球運動が効果的に誘導されるようにするため、サッカード誘導視覚刺激呈示の直前に、人が自然に視線を向けるように、「プライミング効果」を起こさせるプライミング視覚刺激を呈示する。プライミング効果とは、先行する刺激(プライマー)の処理によって、後続刺激の処理が促進又は抑制される効果として知られている。例えば、同じ刺激を繰り返し呈示すると、2番目の刺激に対する認識時間の短縮や正確さの増大を示す効果がある。この効果により、後続のサッカード誘導視覚刺激への視線誘導性が高まり、サッカードが効果的かつ自然に誘導される。プライミング視覚刺激もサッカード誘導視覚刺激も、サッカード眼球運動が誘導されさえすればよいため、人の中心視でなく周辺視領域への呈示でよく、さらに強い刺激は必要ない。そのため、視覚で知覚できる限界付近の強さ(明るさ)で刺激を呈示すればよい。これにより、ユーザは、視界の妨げになったり、まぶしさを感じたりすることがないため、わずらわしさや不快感を感じることがなく覚醒状態を維持することができる。 In particular, in the embodiment of the present invention, in order to effectively induce the saccade eye movement, the “priming effect” is set so that the person naturally turns his or her eyes immediately before the presentation of the saccade-guided visual stimulus. Present a priming visual stimulus that causes The priming effect is known as an effect in which the processing of a subsequent stimulus (primer) promotes or suppresses the processing of a subsequent stimulus. For example, when the same stimulus is repeatedly presented, there is an effect that the recognition time for the second stimulus is reduced and the accuracy is increased. This effect enhances the gaze guidance to the subsequent saccade-guided visual stimulus, and the saccade is effectively and naturally guided. Since both the priming visual stimulus and the saccade-induced visual stimulus need only induce saccade eye movements, they may be presented not in the central vision of the person but in the peripheral vision region, and further strong stimulation is not required. Therefore, the stimulus may be presented with an intensity (brightness) near the limit that can be visually perceived. Thereby, since the user does not hinder the view or feels glare, the user can maintain the awake state without feeling troublesome or uncomfortable.
<第1の実施の形態に係る覚醒維持装置の構成> <Configuration of Arousal Maintenance Device According to First Embodiment>
次に、本発明の第1の実施の形態に係る覚醒維持装置について説明する。図2に示すように、本発明の第1の実施の形態に係る覚醒維持装置100は、制御装置20と、出力装置90と、を備えている。なお、第1の実施の形態においては、覚醒維持装置を車両に設置した場合について説明する。 Next, the arousal maintenance device according to the first embodiment of the present invention will be described. As shown in FIG. 2, the alertness maintaining apparatus 100 according to the first embodiment of the present invention includes a control device 20 and an output device 90. In the first embodiment, a case will be described in which the arousal maintenance device is installed in a vehicle.
制御装置20は、プライミング刺激呈示制御部22と、制御部26と、を含んで構成されている。制御装置20は、CPUと、RAMと、後述する制御処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含んで構成され、プログラムを実行して出力装置90を制御する。 The control device 20 is configured to include a priming stimulus presentation control unit 22 and a control unit 26. The control device 20 is configured to include a CPU, a RAM, and a ROM that stores a program for executing a control processing routine described later and various data, and controls the output device 90 by executing the program.
出力装置90は、2つの位置(第1位置及び第2位置)を点滅させるように構成されており、1秒毎に第1位置を点灯→第2位置を点灯→第1位置を点灯…と第1位置及び第2位置において交互に点灯させるように出力装置90を制御する。ここで、点灯部分の形状は、例えば直径2センチの円図形であり、点灯部分の明るさは、ドライバが負担なく知覚できる視覚刺激の強度の上限に対応する予め定められた明るさとし、点灯部分の色は青色とする。なお、点灯する色は青色以外でも良いものとする。なお、ドライバがユーザの一例である。また、第1位置及び第2位置での点灯が視覚刺激の一例である。 The output device 90 is configured to blink two positions (a first position and a second position), and turns on the first position every second, turns on the second position, turns on the first position, and so on. The output device 90 is controlled so as to be alternately turned on at the first position and the second position. Here, the shape of the lighting portion is, for example, a circular figure having a diameter of 2 cm, and the brightness of the lighting portion is a predetermined brightness corresponding to the upper limit of the intensity of the visual stimulus that can be perceived without any burden on the driver. Is blue. Note that the color to be lit may be other than blue. Note that the driver is an example of a user. Lighting at the first position and the second position is an example of a visual stimulus.
また、出力装置90は、ドライバの左右に離れた2箇所の位置から視覚刺激を呈示する装置であり、第1の実施の形態においては、ドライバの正面フロントガラスに設けられたヘッドアップディスプレイ部を用いる。ここで、図3に示すように、ドライバの正面フロントガラスのヘッドアップディスプレイ部において、ドライバ正面を中心として、左右離れた位置であって、且つドライバの周辺視領域内の2つの位置(第1位置及び第2位置)の各々を点滅させるものとする。ここで、周辺視領域とは、予め定められたドライバの目線の位置からの前方への直線方向に対して、上下方向の偏心度5〜25度程度の領域とする。第1の実施の形態においては、フロントガラスのヘッドアップディスプレイ部は、ドライバの目から距離約80センチメートルとし、点滅させる第1位置及び第2位置は、ドライバ正面を中心として、左右10センチメートルずつ離した位置であって、且つドライバの正面から下方に対する俯角10度の位置に設定されるようにする。 The output device 90 is a device that presents a visual stimulus from two positions separated to the left and right of the driver. In the first embodiment, the output device 90 includes a head-up display unit provided on the front windshield of the driver. Used. Here, as shown in FIG. 3, in the head-up display portion of the front windshield of the driver, two positions (first and second positions) that are left and right apart from the driver's front and are in the driver's peripheral viewing area. Position and the second position). Here, the peripheral vision region is a region having a vertical eccentricity of about 5 to 25 degrees with respect to a straight forward direction from a predetermined driver's line of sight. In the first embodiment, the head-up display unit of the windshield has a distance of about 80 cm from the driver's eyes, and the first and second positions for blinking are 10 cm left and right with respect to the front of the driver. At a depression angle of 10 degrees downward from the front of the driver.
プライミング刺激呈示制御部22は、制御部26により主刺激を呈示させる3秒前に、出力装置90により、主刺激の先行刺激であるプライミング刺激を、主刺激を最初に呈示する第1位置に呈示させるように制御する。3秒前が直前の一例である。また、プライミング刺激を呈示させる時間は例えば1秒とする。また、プライミング刺激は、主刺激と同じ視覚刺激を出力すればよい。また、プライミング刺激を呈示する位置は、第1位置の周辺であってもよい。 The priming stimulus presentation control unit 22 presents the priming stimulus, which is the preceding stimulus of the main stimulus, to the first position where the main stimulus is first presented by the output device 90 three seconds before the control unit 26 presents the main stimulus. Control to make it. Three seconds ago is an example immediately before. The time for presenting the priming stimulus is, for example, 1 second. The priming stimulus may output the same visual stimulus as the main stimulus. Further, the position where the priming stimulus is presented may be around the first position.
制御部26は、主刺激について視覚刺激の呈示をさせるように出力装置90を制御する。具体的には、出力装置90は2つの位置(第1位置及び第2位置)を点滅させるように構成されており、検出対象物領域に自動車が検出されたタイミングから、0.5秒毎に第1位置を点灯→第2位置を点灯→第1位置を点灯…と第1位置及び第2位置において交互に点灯させるように出力装置90を制御する。ここで、点灯部分の形状は、例えば直径2センチの円図形であり、点灯部分の明るさは、ドライバが負担なく知覚できる視覚刺激の強度の上限に対応する予め定められた明るさとし、点灯部分の色は青色とする。また、制御部26は、第1位置及び第2位置で交互に点灯させ、それを5秒間繰り返すように出力装置90を制御する。なお、第1位置及び第2位置での点灯が視覚刺激の一例である。また、5秒間が継続期間の一例である。また、継続期間を3秒〜7秒間程度としてもよい。なお、継続期間が短すぎると効果が少なく、長すぎると煩わしさが増える可能性がある。 The control unit 26 controls the output device 90 so as to present a visual stimulus for the main stimulus. Specifically, the output device 90 is configured to blink two positions (a first position and a second position), and every 0.5 seconds from the timing when the vehicle is detected in the detection target area. The output device 90 is controlled so that the first position is turned on, the second position is turned on, the first position is turned on, and so on, alternately at the first position and the second position. Here, the shape of the lighting portion is, for example, a circular figure having a diameter of 2 cm, and the brightness of the lighting portion is a predetermined brightness corresponding to the upper limit of the intensity of the visual stimulus that can be perceived without any burden on the driver. Is blue. Further, the control unit 26 controls the output device 90 to alternately light up the first position and the second position and repeat the lighting for 5 seconds. The lighting at the first position and the second position is an example of the visual stimulus. Further, 5 seconds is an example of the duration. Further, the duration may be about 3 to 7 seconds. Note that if the duration is too short, the effect is small, and if the duration is too long, the trouble may increase.
<第1の実施の形態に係る覚醒維持装置の作用> <Operation of Arousal Maintenance Device According to First Embodiment>
次に、本発明の第1の実施の形態に係る覚醒維持装置100の作用について説明する。まず、ドライバがイグニッションキーをオンにすると、一定時間経過後に、制御装置20におけるプライミング刺激呈示制御部22は、制御部26によって点灯させる3秒前に、第1位置を1秒間点灯させる。そして、制御部26は、第1位置及び第2位置で点灯させる制御と、点灯させない制御を交互に1分毎に繰り返すように、出力装置90を制御する。これにより、ドライバの覚醒状態が維持される。 Next, the operation of the alertness maintaining apparatus 100 according to the first embodiment of the present invention will be described. First, when the driver turns on the ignition key, the priming stimulus presentation control unit 22 in the control device 20 turns on the first position for one second before the control unit 26 turns on the light after a certain period of time. Then, the control unit 26 controls the output device 90 so that control for turning on the light at the first position and the second position and control for turning off the light are alternately repeated every minute. Thereby, the awake state of the driver is maintained.
以上、説明したように、第1の実施の形態に係る覚醒維持装置100によれば、主刺激を呈示させる直前に、主刺激を最初に呈示する第1位置にプライミング刺激を呈示させるように制御した後に、ドライバの周辺視領域における左右に離れた2箇所の位置において、ドライバの覚醒状態を維持するためにドライバの視線を左右に移動させるように点灯させることにより、ドライバにわずらわしさや、不快感を感じさせることなく、ドライバの覚醒状態を維持することができる。 As described above, according to the arousal maintenance device 100 according to the first embodiment, the control is performed such that the priming stimulus is presented at the first position where the main stimulus is first presented immediately before the main stimulus is presented. After that, the driver turns on the driver's line of sight to move left and right in order to maintain the driver's awake state at two positions left and right in the peripheral visual region of the driver, thereby causing trouble and discomfort to the driver. It is possible to maintain the driver's arousal state without causing the driver to feel.
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。 The present invention is not limited to the above-described embodiment, and various modifications and applications can be made without departing from the gist of the present invention.
第1の実施の形態においては、ドライバの右側の視覚刺激の呈示及び左側の視覚刺激の呈示を行う装置として、ドライバの正面フロントガラスに設けられたヘッドアップディスプレイ部を用いる場合について説明したがこれに限定されるものではない。例えば、2つ以上のLEDライトなどを用いて、2箇所以上の視覚刺激が呈示されるように制御を行うことにより、ドライバの右側の視覚刺激の呈示及び左側の視覚刺激の呈示を行ってもよい。 In the first embodiment, the case where the head-up display unit provided on the front windshield of the driver is used as the device that presents the visual stimulus on the right side of the driver and the visual stimulus on the left side has been described. However, the present invention is not limited to this. For example, by performing control such that two or more visual stimuli are presented using two or more LED lights or the like, even if the driver presents the right visual stimulus and the left visual stimulus is presented. Good.
また、第1の実施の形態においては、ドライバの右側の視覚刺激の呈示と、左側の視覚刺激の呈示とを1秒毎に交互に呈示する場合について説明したがこれに限定されるものではない。例えば、0.5秒毎又は2秒毎に左右の視覚刺激の呈示を交互に行ってもよい。ただし、サッカード眼球運動の開始には一定の潜時(150〜250ms)が必要となるので、0.5秒程度を最短とする。また、周期が長すぎるとサッカード眼球運動の発生頻度が低くなるので2秒程度を最長とする。 In the first embodiment, the case where the presentation of the visual stimulus on the right side of the driver and the presentation of the visual stimulus on the left side are alternately presented every second has been described, but the present invention is not limited to this. . For example, the right and left visual stimuli may be presented alternately every 0.5 seconds or every 2 seconds. However, since a certain latency (150 to 250 ms) is required to start the saccade eye movement, the minimum time is about 0.5 seconds. Further, if the period is too long, the frequency of occurrence of saccade eye movements decreases, so the maximum is about 2 seconds.
また、第1の実施の形態においては、出力装置90を、視覚刺激の呈示を行う制御について1分間行い、その後1分間刺激の呈示を行わない制御をし、1分毎に当該制御を繰り返す場合について説明したがこれに限定されるものではない。例えば、2分毎又は30秒毎に当該制御を繰り返してもよい。また、視覚刺激の呈示の停止の制御を行わなくてもよい。 In the first embodiment, when the output device 90 performs control for presenting a visual stimulus for one minute, then performs control for not presenting a stimulus for one minute, and repeats the control every minute. Has been described, but the present invention is not limited to this. For example, the control may be repeated every two minutes or every 30 seconds. Further, the control of stopping the presentation of the visual stimulus may not be performed.
また、第1の実施の形態においては、視覚刺激の呈示を2箇所から行う場合について説明したがこれに限定されるものではない。例えば、サッカード眼球運動が誘導されるのに十分な距離を確保することが出来る場合には、2箇所以上から視覚刺激を呈示してもよい。この場合、視覚刺激の呈示する順番は予め決定されており、その順序において周期的に視覚刺激の呈示が繰り返されるものとする。 In the first embodiment, the case where the visual stimulus is presented from two places has been described, but the present invention is not limited to this. For example, if a sufficient distance to induce saccade eye movement can be ensured, visual stimuli may be presented from two or more locations. In this case, the order in which the visual stimuli are presented is determined in advance, and the visual stimulus is presented periodically in that order.
また、第1の実施の形態においては、覚醒維持装置100を車両に設置する場合について説明したが、これに限定されるものではない。例えば、車両以外の船、飛行機等の乗り物に設置してもよい。また、出力装置に小型液晶ディスプレイ等を用いることにより、例えば、家庭内や事務所でのOA作業中に用いるように設置してもよい。 Further, in the first embodiment, the case where the awakening maintenance device 100 is installed in the vehicle has been described, but the invention is not limited to this. For example, it may be installed on vehicles other than vehicles, such as ships and airplanes. In addition, by using a small liquid crystal display or the like for the output device, for example, the device may be installed so as to be used during OA work in a home or office.
<第2の実施の形態に係る覚醒維持装置の構成> <Configuration of Arousal Maintenance Device According to Second Embodiment>
次に、本発明の第2の実施の形態に係る覚醒維持装置について説明する。図4に示すように、本発明の第2の実施の形態に係る覚醒維持装置200は、撮像装置10と、制御装置220と、出力装置90とを備えている。 Next, an alertness maintaining device according to a second embodiment of the present invention will be described. As shown in FIG. 4, the alertness maintenance device 200 according to the second embodiment of the present invention includes an imaging device 10, a control device 220, and an output device 90.
撮像装置10は、自車両の右後方及び右前方における検出対象物領域を含む範囲を撮像し、画像信号を生成する撮像部(図示省略)と、撮像部で生成されたアナログ信号である画像信号をデジタル信号に変換するA/D部変換部(図示省略)と、A/D変換された画像信号を一時的に格納するための画像メモリ(図示省略)とを備えている。 The image capturing apparatus 10 captures an image of a range including a detection target area at the rear right and front right of the host vehicle and generates an image signal (not shown), and an image signal that is an analog signal generated by the image capturing section. An A / D conversion unit (not shown) for converting A / D into a digital signal, and an image memory (not shown) for temporarily storing the A / D converted image signal.
制御装置220は、識別器記憶部18と、検出部21と、プライミング刺激呈示制御部222と、制御部226と、時間管理部228と、履歴記憶部230と、を含んで構成されている。制御装置220は、CPUと、RAMと、後述する制御処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含んで構成され、プログラムを実行して出力装置90を制御する。 The control device 220 includes the discriminator storage unit 18, the detection unit 21, the priming stimulus presentation control unit 222, the control unit 226, the time management unit 228, and the history storage unit 230. The control device 220 includes a CPU, a RAM, and a ROM that stores a program for executing a control processing routine described later and various data, and controls the output device 90 by executing the program.
第2の実施の形態の出力装置90においては、検出部21により検出対象物が検出される領域に対応する少なくとも1箇所以外の箇所における視覚刺激の強度は、ドライバの知覚可能な最低限の強さの刺激とする。 In the output device 90 according to the second embodiment, the intensity of the visual stimulus at at least one portion other than at least one portion corresponding to the region where the detection target is detected by the detection unit 21 is the minimum intensity that can be perceived by the driver. Stimulation of the
また、本実施の形態では、自車両の走行車線の右側の車線に重畳される位置を第1位置とする。 In the present embodiment, a position superimposed on a lane on the right side of the traveling lane of the host vehicle is defined as a first position.
識別器記憶部18は、予め学習により生成され、かつ、検出部21において検出対象物を検出する際に参照される識別器が記憶されている。なお、第2の実施の形態においては、検出対象物を自動車とする場合について説明する。また、識別器記憶部21を、制御装置220に設ける場合について説明する。 The discriminator storage unit 18 stores a discriminator generated in advance by learning and referred to when the detection unit 21 detects the detection target. In the second embodiment, a case where the detection target is an automobile will be described. The case where the discriminator storage unit 21 is provided in the control device 220 will be described.
第2の実施の形態において用いられる、識別器は、複数の検出対象物の画像と、複数の非検出対象物の画像とから学習される。具体的には、まず、複数の検出対象物の画像と、複数の非検出対象物の画像との各々について、大きさの異なる複数のウインドウ毎に、網羅的に走査し、部分領域の各々を取得する。次に、部分領域の各々の特徴量を算出する。次に、部分領域の各々の特徴量と、当該部分領域を取得した画像の分類(検出対象物の画像か否か)の各々とに基づいて、学習処理を行い、識別器を学習する。 The discriminator used in the second embodiment is learned from a plurality of detection target images and a plurality of non-detection target images. Specifically, first, for each of a plurality of detection target images and a plurality of non-detection target images, each of the partial regions is exhaustively scanned for each of a plurality of windows having different sizes. get. Next, the feature amount of each of the partial regions is calculated. Next, a learning process is performed based on each feature amount of the partial region and each of the classifications (whether or not the images are of the detection target) of the image from which the partial region has been acquired, and the classifier is learned.
検出部21は、撮像装置10から入力された画像と、識別器記憶部18に記憶されている検出対象物を検出するための識別器とに基づいて、検出対象物が検出されたか否かを判定する。検出対象物が検出されたと判定された場合には、当該結果を制御部226に出力する。具体的には、まず、撮像装置10から入力された画像について、大きさの異なる複数のウインドウ毎に、網羅的に走査し、部分領域の各々を取得する。次に、部分領域の各々の特徴量を算出する。次に、部分領域毎の特徴量と、識別器記憶部18に記憶されている検出対象物を検出するための識別器とに基づいて、当該画像において検出対象物が検出されたか否かを判定する。 The detection unit 21 determines whether or not the detection target is detected based on the image input from the imaging device 10 and the classifier for detecting the detection target stored in the classifier storage unit 18. judge. When it is determined that the detection target has been detected, the result is output to the control unit 226. Specifically, first, the image input from the imaging device 10 is exhaustively scanned for each of a plurality of windows having different sizes, and each of the partial regions is acquired. Next, the feature amount of each of the partial regions is calculated. Next, it is determined whether or not the detection target is detected in the image based on the feature amount for each partial area and the classifier for detecting the detection target stored in the classifier storage unit 18. I do.
プライミング刺激呈示制御部222は、制御部226からの視覚刺激を呈示させることの通知を受けて、制御部226により主刺激を呈示させる直前に、出力装置90により、主刺激の先行刺激であるプライミング刺激を、主刺激を最初に呈示する第1位置に呈示させるように制御する。 The priming stimulus presentation control unit 222 receives the notification of the presentation of the visual stimulus from the control unit 226 and, immediately before the control unit 226 presents the main stimulus, uses the output device 90 to output the priming that is the preceding stimulus of the main stimulus. The stimulus is controlled to be presented at a first position where the main stimulus is presented first.
制御部226は、検出部21から検出対象物が検出された結果を取得すると、視覚刺激の呈示の可否を時間管理部228に問い合わせ、視覚刺激の呈示指示情報を取得した場合、プライミング刺激呈示制御部222に視覚刺激を呈示させることを通知し、プライミング刺激呈示制御部222がプライミング刺激を呈示した後に、視覚刺激の呈示をさせるように出力装置90を制御すると共に、現在時刻を、視覚刺激の呈示を開始した時刻として時間管理部228に出力する。また、制御部226は、検出部21によって検出対象物が検出されない場合、時間管理部228からの視覚刺激の呈示指示情報を取得すると、視覚刺激を呈示させるように出力装置90を制御すると共に、現在時刻を、視覚刺激の呈示を開始した時刻として時間管理部228に出力する。 When acquiring the result of detection of the detection target from the detection unit 21, the control unit 226 inquires of the time management unit 228 whether or not the visual stimulus can be presented. When acquiring the visual stimulus presentation instruction information, the priming stimulus presentation control is performed. The priming stimulus presentation control unit 222 controls the output device 90 to present the visual stimulus after the priming stimulus presentation control unit 222 presents the priming stimulus. It outputs to the time management unit 228 as the time at which the presentation was started. Further, when the detection unit 21 does not detect the detection target object, the control unit 226 controls the output device 90 to present the visual stimulus when acquiring the visual stimulus presentation instruction information from the time management unit 228, The current time is output to the time management unit 228 as the time at which the presentation of the visual stimulus was started.
時間管理部228は、制御部226から、視覚刺激の呈示を開始した時刻を取得すると、当該時刻に視覚刺激の呈示期間である5秒を加算した時刻を、前回の視覚刺激の呈示終了時刻として履歴記憶部230に記憶する。また、時間管理部228は、現在時刻と、履歴記憶部230に記憶されている前回の視覚刺激の呈示終了時刻とを比較し、差分が、予め定められた停止期間、例えば1分30秒以上ある場合、制御部226に視覚刺激の呈示指示情報を出力する。また、時間管理部228は、制御部226から、視覚刺激の呈示の可否の問い合わせがあった場合、現在時刻と、履歴記憶部230に記憶されている前回の視覚刺激の呈示終了時刻とを比較し、差分が、予め定められた休止期間、例えば、30秒よりも長い期間である場合に、制御部226に視覚刺激の呈示指示情報を出力する。 When acquiring the time at which the presentation of the visual stimulus is started from the control unit 226, the time management unit 228 sets the time obtained by adding 5 seconds, which is the presentation period of the visual stimulus, to the time as the presentation end time of the previous visual stimulus. It is stored in the history storage unit 230. Further, the time management unit 228 compares the current time with the previous end time of presentation of the visual stimulus stored in the history storage unit 230, and determines that the difference is a predetermined stop period, for example, 1 minute 30 seconds or more. In some cases, presentation instruction information of visual stimulus is output to the control unit 226. Further, when the control unit 226 inquires whether the visual stimulus can be presented, the time management unit 228 compares the current time with the previous visual stimulus presentation end time stored in the history storage unit 230. Then, when the difference is a predetermined pause period, for example, a period longer than 30 seconds, the control unit 226 outputs the visual stimulus presentation instruction information.
<第2の実施の形態に係る覚醒維持装置の作用> <Operation of Arousal Maintenance Device According to Second Embodiment>
次に、本発明の第2の実施の形態に係る覚醒維持装置200の作用について説明する。まず、ドライバがイグニッションキーをオンにすると、撮像装置10が撮像を開始し、制御装置220に随時出力する。そして、制御装置20によって、図5に示す制御処理ルーチンが実行される。 Next, the operation of the alertness maintenance device 200 according to the second embodiment of the present invention will be described. First, when the driver turns on the ignition key, the imaging device 10 starts imaging and outputs it to the control device 220 as needed. Then, the control device 20 executes the control processing routine shown in FIG.
まず、ステップS200では、識別器記憶部18に記憶されている検出対象物を検出するための識別器を読み込む。 First, in step S200, a classifier for detecting a detection target stored in the classifier storage unit 18 is read.
次に、ステップS202では、撮像装置10から入力される撮像画像を受け付ける。 Next, in step S202, a captured image input from the imaging device 10 is received.
次に、ステップS204では、ステップS200において取得した、検出対象物を検出するための識別器と、ステップS202において取得した撮像画像とに基づいて、当該画像に検出対象物が検出されたか否かを判定する。検出対象物が検出されたと判定された場合には、ステップS208へ移行する。一方、検出対象物が検出されていないと判定された場合には、ステップS206へ移行する。 Next, in step S204, based on the classifier for detecting the detection target acquired in step S200 and the captured image acquired in step S202, it is determined whether or not the detection target is detected in the image. judge. If it is determined that the detection target has been detected, the process proceeds to step S208. On the other hand, when it is determined that the detection target has not been detected, the process proceeds to step S206.
ステップS206では、履歴記憶部230に記憶されている前回の視覚刺激の呈示終了時刻を読み込み、現在時刻と前回の視覚刺激の呈示終了時刻とに基づいて、休止期間、視覚刺激の呈示が行われていないか否か判定する。休止期間、視覚刺激の呈示が行われていない場合には、ステップS210へ移行する。一方、休止期間、視覚刺激の呈示が行われている場合には、ステップS202へ移行し、ステップS202からの処理を繰り返す。 In step S206, the previous visual stimulus presentation end time stored in the history storage unit 230 is read, and the visual stimulus is presented based on the current time and the previous visual stimulus presentation end time based on the current time and the previous visual stimulus presentation end time. It is determined whether not. If the presentation of the visual stimulus is not performed during the suspension period, the process proceeds to step S210. On the other hand, if the presentation of the visual stimulus is being performed during the suspension period, the process proceeds to step S202, and the processing from step S202 is repeated.
ステップS208では、履歴記憶部230に記憶されている前回の視覚刺激の呈示終了時刻を読み込み、現在時刻と前回の視覚刺激の呈示終了時刻とに基づいて、前回の視覚刺激の呈示終了時刻から停止期間が経過しているか否かを判定する。前回の視覚刺激の呈示終了時刻から停止期間が経過している場合には、ステップS210へ移行する。一方、前回の視覚刺激の呈示終了時刻から停止期間が経過していない場合には、ステップS202へ移行する。 In step S208, the previous visual stimulus presentation end time stored in the history storage unit 230 is read, and based on the current time and the previous visual stimulus presentation end time, the current visual stimulus presentation end time is stopped from the previous visual stimulus presentation end time. It is determined whether the period has elapsed. If the suspension period has elapsed since the previous presentation end time of the visual stimulus, the process proceeds to step S210. On the other hand, if the stop period has not elapsed since the previous presentation end time of the visual stimulus, the process proceeds to step S202.
ステップS210では、プライミング刺激を呈示させるように出力装置90を制御する。 In step S210, the output device 90 is controlled so as to present the priming stimulus.
次に、ステップS212では、視覚刺激を呈示させるように出力装置90を制御する。 Next, in step S212, the output device 90 is controlled so as to present a visual stimulus.
次に、ステップS214では、ステップS212において出力装置90から視覚刺激を呈示させるように制御してから、予め定められた継続期間を経過したか否かを判定する。予め定められた継続期間を経過した場合には、ステップS216へ移行する。一方、予め定められた継続期間を経過していない場合には、ステップS214の処理を繰り返す。 Next, in step S214, it is determined whether or not a predetermined continuation period has elapsed since the output device 90 is controlled to present a visual stimulus in step S212. If the predetermined duration has elapsed, the process proceeds to step S216. On the other hand, if the predetermined duration has not elapsed, the process of step S214 is repeated.
次に、ステップS216では、視覚刺激の呈示を停止されるように出力装置90を制御して、ステップS202へ移行し、ステップS202からの処理を繰り返す。 Next, in step S216, the output device 90 is controlled so that the presentation of the visual stimulus is stopped, the process proceeds to step S202, and the process from step S202 is repeated.
<実験例> <Example of experiment>
実験例として、右車線に検出対象物である車両が検出されたタイミングに応じて、プライミング刺激、及びサッカード刺激を呈示する、第2の実施の形態に係る覚醒維持装置と、プライミング刺激を呈示せず、右車両に検出対象物である車両が検出されたタイミングに応じて、サッカード刺激のみを呈示する覚醒維持装置(以後、比較対象の覚醒維持装置とする。)とを用いて実験を行った結果を示す。図6に、第2の実施の形態に係る覚醒維持装置を用いた場合の、プライミング刺激呈示、及びサッカード刺激呈示の例を示す。 As an experimental example, a wake-up maintaining device according to the second embodiment, which presents a priming stimulus and a saccade stimulus in accordance with the timing at which a detection target vehicle is detected in the right lane, and a priming stimulus is presented. An experiment was performed using an awakening maintenance device that presents only a saccade stimulus (hereinafter, referred to as a comparison awakening maintenance device) in accordance with the timing at which the detection target vehicle is detected in the right vehicle. The results obtained are shown. FIG. 6 shows an example of priming stimulus presentation and saccade stimulus presentation when the arousal maintenance device according to the second embodiment is used.
図7に、プライミング刺激、及びサッカード刺激呈示時の視線追従の様子の実験例を示す。図7は、第1位置及び第2位置における視覚刺激の呈示において、プライミング刺激を1回、サッカード刺激を4回繰り返した例である。なお、図7において、ドライバの視線が第1位置に移動すると、横座標値が大きい値となる。図7では正確に視線追従していることが分かる。 FIG. 7 shows an experimental example of gaze tracking when the priming stimulus and the saccade stimulus are presented. FIG. 7 is an example in which the priming stimulus is repeated once and the saccade stimulus is repeated four times in the presentation of the visual stimulus at the first position and the second position. In FIG. 7, when the driver's line of sight moves to the first position, the abscissa value becomes a large value. In FIG. 7, it can be seen that the eyes are accurately followed.
また、図8に、25分間におけるプライミング刺激、及びサッカード刺激呈示時の視線追従率を示す。図8の例では、s1は、右方向に対し4回のサッカード刺激の呈示が起きている場合についての視線追従を示している。s2は、右方向に対し、1分間に1回のプライミング刺激、4回のサッカード刺激、計5回の視覚刺激の呈示が起きている場合についての、視線追従率を示している。s1が、比較対象の覚醒維持装置の結果を表し、s2が第2の実施の形態に係る覚醒維持装置の結果を表す。図8の結果から、25分経過後も、第2の実施の形態に係る覚醒維持装置の方が、比較対象の覚醒維持装置よりもサッカード眼球運動が効果的に誘導され続けていることがわかる。実際10分以降はほぼ1以上の値が持続(平均1.16)し、時間が経つと効果が表れると考えられる。 FIG. 8 shows the gaze follow-up rate when the priming stimulus and the saccade stimulus are presented for 25 minutes. In the example of FIG. 8, s1 indicates gaze tracking in a case where presentation of a saccade stimulus occurs four times in the right direction. s2 indicates a gaze tracking rate in a case where presentation of priming stimulus once per minute, saccade stimulus four times, and visual stimulus a total of five times occurs in the right direction. s1 represents the result of the arousal maintenance device to be compared, and s2 represents the result of the arousal maintenance device according to the second embodiment. From the results of FIG. 8, it is found that the wakefulness maintenance device according to the second embodiment continues to induce saccade eye movements more effectively than the wakefulness maintenance device of the comparison target even after 25 minutes have elapsed. Understand. Actually, it is considered that the value of about 1 or more lasts after 10 minutes (average 1.16), and the effect appears over time.
また、図9に、2つの刺激条件でドライビングシミュレータを用いて45分間の模擬運転をしたときの、1分間あたりの長時間閉眼率(0.5秒以上の連続閉眼のトータル時間の割合)の時間変化を示す。第2の実施の形態に係る覚醒維持装置においては、比較対象の覚醒維持装置の場合に比べて、実験後半で覚醒低下が抑えられるという結果が得られた。なお、図9の縦軸は、覚醒状態を表す指標の1つである1分間あたりの長時間閉眼率(0.5秒以上の連続閉眼のトータル時間の割合)であり、この値が大きいほど、覚醒低下、及び居眠り発生とみなすことができる。 FIG. 9 shows the long-term eye closure rate (percentage of the total time of continuous eye closure of 0.5 seconds or more) per minute when simulated driving was performed for 45 minutes using a driving simulator under two stimulation conditions. Shows the time change. In the arousal maintenance device according to the second embodiment, a result was obtained in which the reduction in arousal was suppressed in the latter half of the experiment, as compared with the case of the arousal maintenance device to be compared. Note that the vertical axis in FIG. 9 is the long-term eye closing rate per minute (the ratio of the total time of continuous eye closing of 0.5 seconds or more), which is one of the indices indicating the arousal state. , Arousal, and drowsiness.
以上、説明したように、第2の実施の形態に係る覚醒維持装置200によれば、検出対象物を検出し、検出対象物が検出されたタイミングに対応するタイミングで、主刺激を呈示させる直前に、主刺激を最初に呈示する第1位置にプライミング刺激を呈示させるように制御した後に、ドライバの覚醒状態を維持するためにドライバの視線を左右方向に移動させるように、自車両の走行車線の右側の車線に重畳される第1位置と、ドライバの前方視界内であって、当該第1位置と左右方向に離れた第2位置に、視覚刺激を呈示することにより、ユーザにわずらわしさや、不快感を感じさせることなく、ユーザの覚醒状態を維持することができる。 As described above, according to the arousal maintenance device 200 according to the second embodiment, the detection target is detected, and at the timing corresponding to the timing at which the detection target is detected, immediately before the main stimulus is presented. Then, after controlling to present the priming stimulus to the first position where the main stimulus is first presented, the traveling lane of the vehicle is moved so that the driver's line of sight moves in the left-right direction in order to maintain the driver's awake state. By presenting a visual stimulus at a first position superimposed on the right lane of the vehicle and at a second position within the front view of the driver and separated from the first position in the left-right direction, bothersomeness to the user, The user's awake state can be maintained without causing discomfort.
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。 The present invention is not limited to the above-described embodiment, and various modifications and applications can be made without departing from the gist of the present invention.
第2の実施の形態においては、停止期間を1分30秒とし、休止期間を30秒とする場合について説明したが、これに限定されるものではない。例えば、停止期間、及び休止期間を任意の期間として設定してもよい。 In the second embodiment, the case where the stop period is 1 minute and 30 seconds and the pause period is 30 seconds has been described, but the present invention is not limited to this. For example, the suspension period and the suspension period may be set as arbitrary periods.
次に、第3の実施の形態について説明する。なお、第1及び第2の実施の形態と同様の構成及び作用となる部分については、同一符号を付して説明を省略する。 Next, a third embodiment will be described. Note that portions having the same configuration and operation as those of the first and second embodiments are denoted by the same reference numerals and description thereof is omitted.
第3の実施の形態では、視覚刺激を呈示する際に、第1位置を、検出された検出対象物の位置に応じて決定する点と、プライミング刺激として、周辺車両の速度情報を呈示する点とが第2の実施の形態と異なっている。図10に第3の実施の形態に係る覚醒維持装置において、周辺車両の速度情報を呈示した場合の、プライミング刺激呈示、及びサッカード刺激呈示の例を示す。 In the third embodiment, when presenting a visual stimulus, the first position is determined according to the position of the detected detection target, and the point of presenting the speed information of the surrounding vehicle as a priming stimulus. Are different from the second embodiment. FIG. 10 shows an example of priming stimulus presentation and saccade stimulus presentation when the speed information of the surrounding vehicle is presented in the awakening maintenance device according to the third embodiment.
<第3の実施の形態に係る覚醒維持装置の構成> <Configuration of Arousal Maintenance Device According to Third Embodiment>
次に、本発明の第3の実施の形態に係る覚醒維持装置について説明する。図11に示すように、本発明の第3の実施の形態に係る覚醒維持装置300は、撮像装置10と、制御装置320と、出力装置390とを備えている。 Next, an alertness maintaining device according to a third embodiment of the present invention will be described. As shown in FIG. 11, the alertness maintaining apparatus 300 according to the third embodiment of the present invention includes an imaging device 10, a control device 320, and an output device 390.
制御装置320は、識別器記憶部18と、検出部321と、位置記憶部325と、プライミング刺激呈示制御部322と、情報検出部324と、制御部326と、を備えている。 The control device 320 includes a discriminator storage unit 18, a detection unit 321, a position storage unit 325, a priming stimulus presentation control unit 322, an information detection unit 324, and a control unit 326.
出力装置390は、ドライバの左右に離れた2箇所の位置から視覚刺激を呈示する装置であり、第3の実施の形態においては、ドライバの正面フロントガラスに設けられたヘッドアップディスプレイ部を用いる。ここで、ドライバの正面フロントガラスのヘッドアップディスプレイ部において、ドライバ正面を中心として、中心位置を第2位置とする。また、ドライバの正面フロントガラスのヘッドアップディスプレイ部において、自車両の走行車線の右側の車線に重畳される位置を第1位置とする。なお、第1位置は、制御部326から入力される視覚刺激を呈示する特定の位置に基づいて、視覚刺激を呈示する周期期間毎に変化するものとする。また、プライミング刺激呈示制御部322によって指示された視覚刺激を呈示する場合には、情報検出部324によって推定された検出対象物の推定速度を呈示する。 The output device 390 is a device that presents visual stimuli from two positions separated to the left and right of the driver. In the third embodiment, a head-up display unit provided on the front windshield of the driver is used. Here, in the head-up display section of the front windshield of the driver, the center position is the second position with the driver's front as the center. In the head-up display section of the front windshield of the driver, a position that is superimposed on the lane on the right side of the traveling lane of the vehicle is defined as a first position. It is assumed that the first position changes every cycle period during which the visual stimulus is presented, based on the specific position at which the visual stimulus is input from the control unit 326. When the visual stimulus indicated by the priming stimulus presentation control unit 322 is presented, the estimated speed of the detection target object estimated by the information detection unit 324 is presented.
検出部321は、撮像装置10から入力された画像と、識別器記憶部18に記憶されている検出対象物を検出するための識別器とに基づいて、検出対象物が検出されたか否かを判定する。また、検出部321は、検出対象物が検出された場合、当該検出対象物が検出された2軸座標の座標値を取得し、制御部326へ出力する。なお、第3の実施の形態においては、ドライバの視点位置を原点とし、自車両の進行方向に垂直となる2軸を用いた2軸座標とする。 The detection unit 321 determines whether or not a detection target is detected based on an image input from the imaging device 10 and a classifier for detecting the detection target stored in the classifier storage unit 18. judge. In addition, when the detection target is detected, the detection unit 321 acquires the coordinate value of the two-axis coordinates at which the detection target is detected, and outputs the coordinate value to the control unit 326. In the third embodiment, the origin is the viewpoint position of the driver, and the coordinates are two-axis coordinates using two axes perpendicular to the traveling direction of the vehicle.
情報検出部324は、検出部321によって検出された検出対象物に基づいて、検出対象物の速度を推定する。 The information detection unit 324 estimates the speed of the detection target based on the detection target detected by the detection unit 321.
プライミング刺激呈示制御部322は、検出部321から検出対象物が検出された結果を取得すると、制御部326により主刺激を呈示させる直前に、出力装置90により、主刺激の先行刺激であるプライミング刺激を、主刺激を最初に呈示する第1位置に呈示させるように制御する。このとき、プライミング刺激として、情報検出部324によって推定された速度を呈示するように出力装置90を制御する。 When the priming stimulus presentation control unit 322 obtains the detection result of the detection target from the detection unit 321, the priming stimulus which is the preceding stimulus of the main stimulus is output by the output device 90 immediately before the control unit 326 presents the main stimulus. Is controlled to be presented at the first position where the main stimulus is presented first. At this time, the output device 90 is controlled so as to present the speed estimated by the information detection unit 324 as a priming stimulus.
位置記憶部325には、検出部321において用いられる2軸の座標値の各々と、ドライバの正面フロントガラスに設けられたヘッドアップディスプレイ部の特定の位置の各々との対応関係が記憶されている。 The position storage unit 325 stores the correspondence between each of the two-axis coordinate values used in the detection unit 321 and each of the specific positions of the head-up display unit provided on the front windshield of the driver. .
制御部326は、検出部321から検出対象物が検出された結果を取得すると、プライミング刺激呈示制御部322の制御による呈示の後、視覚刺激の呈示をさせるように出力装置390を制御する。具体的には、まず、制御部326は、検出部321から入力された検出対象物が検出された座標値と、位置記憶部325に記憶されている対応関係とに基づいて、視覚刺激を呈示する特定の位置を決定して、第1位置とし、更に、ドライバの前方視界内であって、当該第1位置と左右方向に離れた第2位置を決定する。そして、視覚刺激を、決定した第1位置と第2位置とにおいて呈示するように、出力装置390を制御する。なお、第1位置を、情報検出部324によって推定された速度に応じて変化させることにより、第1位置を検出対象物に追随させてもよい。 When acquiring the result of detection of the detection target from the detection unit 321, the control unit 326 controls the output device 390 so as to present a visual stimulus after presentation by the control of the priming stimulus presentation control unit 322. Specifically, first, the control unit 326 presents a visual stimulus on the basis of the coordinate value at which the detection target input from the detection unit 321 is detected and the correspondence stored in the position storage unit 325. Then, a specific position to be determined is determined as a first position, and further, a second position in the front view of the driver and separated in the left-right direction from the first position is determined. Then, the output device 390 is controlled so as to present the visual stimulus at the determined first position and second position. Note that the first position may follow the detection target by changing the first position according to the speed estimated by the information detection unit 324.
<第3の実施の形態に係る覚醒維持装置の作用> <Operation of Arousal Maintenance Device According to Third Embodiment>
次に、本発明の第3の実施の形態に係る覚醒維持装置300の作用について説明する。まず、ドライバがイグニッションキーをオンにすると、撮像装置10が撮像を開始し、制御装置320に随時出力する。そして、制御装置320によって、図12に示す制御処理ルーチンが実行される。 Next, the operation of the alertness maintaining apparatus 300 according to the third embodiment of the present invention will be described. First, when the driver turns on the ignition key, the imaging device 10 starts imaging and outputs the image to the control device 320 as needed. Then, the control processing routine shown in FIG. 12 is executed by the control device 320.
ステップS300では、位置記憶部325に記憶されている、検出部321において用いられる2軸の座標値の各々と、ドライバの正面フロントガラスに設けられたヘッドアップディスプレイ部の特定の位置の各々との対応関係を読み込む。 In step S300, each of the two-axis coordinate values used in the detection unit 321 stored in the position storage unit 325 and each of the specific positions of the head-up display unit provided on the front windshield of the driver are compared. Read the correspondence.
ステップS204では、ステップS200において取得した、検出対象物を検出するための識別器と、ステップS202において取得した撮像画像とに基づいて、当該画像に検出対象物が検出されたか否かを判定する。検出対象物が検出されたと判定された場合には、ステップS302へ移行する。一方、検出対象物が検出されていないと判定された場合には、ステップS101へ移行し、ステップS202〜ステップS204までの処理を繰り返す。 In step S204, based on the classifier for detecting the detection target acquired in step S200 and the captured image acquired in step S202, it is determined whether or not the detection target is detected in the image. If it is determined that the detection target has been detected, the process proceeds to step S302. On the other hand, when it is determined that the detection target has not been detected, the process proceeds to step S101, and the processes from step S202 to step S204 are repeated.
ステップS302では、検出対象物が検出された位置の座標値を取得する。 In step S302, the coordinate value of the position where the detection target is detected is acquired.
次に、ステップS304では、ステップS300において取得した対応関係と、ステップS302において取得した検出対象物の座標値とに基づいて、ヘッドアップディスプレイ部の特定の位置を決定して、第1位置とし、更に、第2位置を決定する。 Next, in step S304, a specific position of the head-up display unit is determined based on the correspondence acquired in step S300 and the coordinate values of the detection target acquired in step S302, and the first position is determined. Further, the second position is determined.
ステップS306では、ステップS204で検出された検出対象物に基づいて、検出対象物の速度を周辺情報として推定する。 In step S306, the speed of the detection target is estimated as peripheral information based on the detection target detected in step S204.
ステップS308では、ステップS304において決定した第1位置に、プライミング刺激としてステップS306で推定された検出対象物の推定速度を呈示させるように出力装置90を制御する。 In step S308, the output device 90 is controlled so that the estimated speed of the detection target object estimated in step S306 is presented as the priming stimulus to the first position determined in step S304.
次に、ステップS310では、ステップS304において決定した第1位置と第2位置とに視覚刺激を呈示させるように出力装置90を制御する。 Next, in step S310, the output device 90 is controlled so as to present a visual stimulus to the first position and the second position determined in step S304.
以上、説明したように、第3の実施の形態に係る覚醒維持装置300によれば、検出対象物を検出し、検出対象物が検出されたタイミングに対応するタイミングで、主刺激を呈示させる直前に、主刺激を最初に呈示する第1位置に、プライミング刺激として検出対象物の推定速度を呈示させるように制御した後に、ドライバの覚醒状態を維持するためにドライバの視線を左右方向に移動させるように、検出対象物が検出された位置に基づいて決定される第1位置と第2位置に、視覚刺激を呈示することにより、ユーザにわずらわしさや、不快感を感じさせることなく、ユーザの覚醒状態を維持することができる。 As described above, according to the arousal maintenance device 300 according to the third embodiment, the detection target is detected, and at the timing corresponding to the timing at which the detection target is detected, immediately before the main stimulus is presented. Then, after controlling so as to present the estimated speed of the detection target as the priming stimulus to the first position where the main stimulus is first presented, the driver's line of sight is moved left and right to maintain the driver's awake state. As described above, by presenting the visual stimulus to the first position and the second position determined based on the position where the detection target is detected, the user can be awakened without feeling troublesome and uncomfortable. The state can be maintained.
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。 The present invention is not limited to the above-described embodiment, and various modifications and applications can be made without departing from the gist of the present invention.
第3の実施の形態においても、第2の実施の形態と同様に、出力装置を、視覚刺激の呈示から一定期間視覚刺激の呈示を行わないように制御し、かつ、一定期間視覚刺激の呈示が行われていない場合に視覚刺激を呈示するように制御してもよい。この場合、一定期間視覚刺激の呈示が行われていない場合に視覚刺激を呈示する位置は、予め定められていてもよいし、前回の呈示位置に呈示してもよい。 Also in the third embodiment, similarly to the second embodiment, the output device is controlled so as not to present the visual stimulus for a certain period from the presentation of the visual stimulus, and to present the visual stimulus for a certain period. May be controlled so that a visual stimulus is presented when the visual stimulus is not performed. In this case, the position at which the visual stimulus is presented when the visual stimulus is not presented for a certain period of time may be predetermined or may be presented at the previous presentation position.
10 撮像装置
18 識別器記憶部
20、220、320 制御装置
21、321 検出部
22、222、322 プライミング刺激呈示制御部
26、226、326 制御部
90、390 出力装置
100、200、300 覚醒維持装置
228 時間管理部
230 履歴記憶部
324 情報検出部
325 位置記憶部
10 imaging device 18 discriminator storage unit 20, 220, 320 control unit 21, 321 detection unit 22, 222, 322 priming stimulus presentation control unit 26, 226, 326 control unit 90, 390 output device 100, 200, 300 alertness maintaining device 228 Time management unit 230 History storage unit 324 Information detection unit 325 Position storage unit
Claims (12)
前記車両上の前記ドライバの前方視界内の予め定められた少なくとも1箇所と、前記ドライバの前方視界内であって、前記少なくとも1箇所と左右方向に離れ、かつ、前記検出手段により検出対象物が検出される領域に対応する少なくとも1箇所との各位置に、視覚刺激を呈示する刺激呈示手段と、
前記ドライバの覚醒状態を維持するために前記ドライバの視線を左右方向に移動させるように、前記検出手段により検出対象物が検出されたタイミングに対応するタイミングで、前記刺激呈示手段により主刺激を呈示させる制御手段と、前記制御手段により前記主刺激を呈示させる直前に、前記刺激呈示手段により、前記主刺激の先行刺激であるプライミング刺激を、前記主刺激を最初に呈示する位置に対応する位置に呈示させるプライミング刺激呈示制御手段と、
を含む、覚醒維持装置。 Detecting means for detecting a detection target object from a forward view of a driver of the vehicle;
At least one predetermined location in the front view of the driver on the vehicle, and in the front view of the driver, separated from the at least one location in the left-right direction, and the detection target is detected by the detection unit. Stimulus presenting means for presenting a visual stimulus at each of at least one position corresponding to a region to be detected;
The main stimulus is presented by the stimulus presenting means at a timing corresponding to the timing at which the detection target is detected by the detecting means so as to move the driver's line of sight in the left-right direction in order to maintain the driver's awake state. Immediately before the main stimulus is presented by the control means, the priming stimulus which is a preceding stimulus of the main stimulus by the stimulus presentation means at a position corresponding to the position where the main stimulus is first presented. Priming stimulus presentation control means to be presented;
A wakefulness maintenance device, including:
前記プライミング刺激呈示制御手段は、前記刺激呈示手段により、前記プライミング刺激として、前記情報検出手段によって検出された前記周辺情報を呈示させる請求項1〜10の何れか1項記載の覚醒維持装置。 Further including information detection means for detecting peripheral information,
The awakening maintenance device according to any one of claims 1 to 10 , wherein the priming stimulus presentation control unit causes the stimulus presentation unit to present, as the priming stimulus, the peripheral information detected by the information detection unit.
前記車両上の前記ドライバの前方視界内の予め定められた少なくとも1箇所と、前記ドライバの前方視界内であって、前記少なくとも1箇所と左右方向に離れ、かつ、前記検出手段により検出対象物が検出される領域に対応する少なくとも1箇所との各位置に、視覚刺激を呈示する刺激呈示手段、及び
前記ドライバの覚醒状態を維持するために前記ドライバの視線を左右方向に移動させるように、前記検出手段により検出対象物が検出されたタイミングに対応するタイミングで、前記刺激呈示手段により主刺激を呈示させる制御手段と、前記制御手段により前記主刺激を呈示させる直前に、前記刺激呈示手段により、前記主刺激の先行刺激であるプライミング刺激を、前記主刺激を最初に呈示する位置に対応する位置に呈示させるプライミング刺激呈示制御手段、
として機能させるためのプログラム。 Detecting means for detecting the detection target object from the front view of the driver of the vehicle,
At least one predetermined location in the front view of the driver on the vehicle, and in the front view of the driver, separated from the at least one location in the left-right direction, and the detection target is detected by the detection unit. Stimulus presenting means for presenting a visual stimulus at each of at least one position corresponding to the detected area, and moving the driver's line of sight in the left-right direction in order to maintain the driver's awake state. At a timing corresponding to the timing at which the detection target is detected by the detection means, a control means for presenting a main stimulus by the stimulus presentation means, and immediately before the main stimulus is presented by the control means, by the stimulus presentation means, Priming for presenting a priming stimulus which is a preceding stimulus of the main stimulus at a position corresponding to a position where the main stimulus is first presented; Stimulus presentation control means,
Program to function as
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016037817A JP6658095B2 (en) | 2016-02-29 | 2016-02-29 | Awakening maintenance device and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016037817A JP6658095B2 (en) | 2016-02-29 | 2016-02-29 | Awakening maintenance device and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017156869A JP2017156869A (en) | 2017-09-07 |
| JP6658095B2 true JP6658095B2 (en) | 2020-03-04 |
Family
ID=59809702
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016037817A Active JP6658095B2 (en) | 2016-02-29 | 2016-02-29 | Awakening maintenance device and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6658095B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7151397B2 (en) * | 2018-11-12 | 2022-10-12 | 株式会社リコー | Display device, display method, head-up display and wearable device |
| JP7130689B2 (en) * | 2020-03-27 | 2022-09-05 | 矢崎総業株式会社 | vehicle display |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5422690A (en) * | 1994-03-16 | 1995-06-06 | Pulse Medical Instruments, Inc. | Fitness impairment tester |
| DE19952506C1 (en) * | 1999-10-29 | 2001-06-07 | Daimler Chrysler Ag | System to support the operator of a technical facility |
| JP2005231381A (en) * | 2004-02-17 | 2005-09-02 | Nissan Motor Co Ltd | Vehicle information presentation apparatus and method |
| JP2006133967A (en) * | 2004-11-04 | 2006-05-25 | Nissan Motor Co Ltd | Vehicle display device and vehicle display program |
| JP4609185B2 (en) * | 2005-05-25 | 2011-01-12 | 日産自動車株式会社 | Attention guidance device and attention guidance method |
| JP6476546B2 (en) * | 2014-01-22 | 2019-03-06 | 株式会社豊田中央研究所 | Awakening maintenance device and program |
-
2016
- 2016-02-29 JP JP2016037817A patent/JP6658095B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017156869A (en) | 2017-09-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11685385B2 (en) | Driver-monitoring system | |
| JP5109750B2 (en) | Driver state detection device, consciousness state detection method | |
| JP5326521B2 (en) | Arousal state determination device and arousal state determination method | |
| JP6470334B2 (en) | Vehicle display system and method for controlling vehicle display system | |
| CN110638474A (en) | Method, system and equipment for detecting driving state and readable storage medium | |
| JP2019074791A (en) | Driving support device for vehicle | |
| US11430231B2 (en) | Emotion estimation device and emotion estimation method | |
| WO2017056401A1 (en) | Control device, control method, and program | |
| JP2009244959A (en) | Driving support device and driving support method | |
| JP2017151637A (en) | Display device | |
| JP6756174B2 (en) | Vehicle control device | |
| JP5177102B2 (en) | Driving assistance device | |
| JP2017039373A (en) | Vehicle video display system | |
| JP7487728B2 (en) | Monitoring device, monitoring computer program, and monitoring method | |
| US20190118824A1 (en) | Vehicle apparatus control device | |
| JP6476546B2 (en) | Awakening maintenance device and program | |
| JP2018013811A (en) | Driver state determination device and driver state determination program | |
| WO2023026553A1 (en) | Traffic flow simulation system and traffic flow simulation method | |
| JP6658095B2 (en) | Awakening maintenance device and program | |
| JP2008197916A (en) | Vehicle doze driving prevention device | |
| JP2005329800A (en) | In-vehicle device controller | |
| JP7046748B2 (en) | Driver status determination device and driver status determination method | |
| JP2019016178A (en) | Drowsiness driving alarm device | |
| WO2022172724A1 (en) | Information processing device, information processing method, and information processing program | |
| CN111267865B (en) | Vision-based safe driving early warning method and system and storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181031 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190918 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191023 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191127 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200107 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200120 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6658095 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |