Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7624853B2 - Vehicle driver condition determination device - Google Patents
[go: Go Back, main page]

JP7624853B2 - Vehicle driver condition determination device - Google Patents

Vehicle driver condition determination device Download PDF

Info

Publication number
JP7624853B2
JP7624853B2 JP2021038909A JP2021038909A JP7624853B2 JP 7624853 B2 JP7624853 B2 JP 7624853B2 JP 2021038909 A JP2021038909 A JP 2021038909A JP 2021038909 A JP2021038909 A JP 2021038909A JP 7624853 B2 JP7624853 B2 JP 7624853B2
Authority
JP
Japan
Prior art keywords
driver
pupil diameter
state determination
change
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021038909A
Other languages
Japanese (ja)
Other versions
JP2022138812A (en
Inventor
暁 山中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daihatsu Motor Co Ltd
Original Assignee
Daihatsu Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daihatsu Motor Co Ltd filed Critical Daihatsu Motor Co Ltd
Priority to JP2021038909A priority Critical patent/JP7624853B2/en
Publication of JP2022138812A publication Critical patent/JP2022138812A/en
Application granted granted Critical
Publication of JP7624853B2 publication Critical patent/JP7624853B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Eye Examination Apparatus (AREA)

Description

本発明は、車両の運転者状態判定装置に関する。 The present invention relates to a vehicle driver state determination device.

従来、車両の運転者状態判定装置が提案されている(例えば、特許文献1~5参照)。 Devices for determining the driver's state of a vehicle have been proposed (see, for example, Patent Documents 1 to 5).

上記特許文献1には、ユーザから取得される瞳孔径等の生体情報に基づいて、ユーザの状態を推定する情報処理装置が開示されている。上記特許文献1には、ユーザの瞳孔径を測定するための周囲の入射光の光量又は注視点等の測定条件に基づいて、基準となる瞳孔径(基準瞳孔径)のキャリブレーションを行い、測定条件に対して適切な基準瞳孔径を設定することによりユーザの状態を推定すること、が記載されている。また、上記特許文献1には、測定された瞳孔径が基準瞳孔径より大きい場合にユーザが興奮状態にあり、測定された瞳孔径が基準瞳孔径より小さい場合にはユーザが疲労(眠い)状態にあると推定され得ること、が記載されている。 The above-mentioned Patent Document 1 discloses an information processing device that estimates a user's state based on biological information such as pupil diameter obtained from the user. The above-mentioned Patent Document 1 describes that a reference pupil diameter (reference pupil diameter) is calibrated based on measurement conditions such as the amount of ambient incident light or the gaze point for measuring the user's pupil diameter, and the user's state is estimated by setting an appropriate reference pupil diameter for the measurement conditions. The above-mentioned Patent Document 1 also describes that if the measured pupil diameter is larger than the reference pupil diameter, it can be estimated that the user is in an excited state, and if the measured pupil diameter is smaller than the reference pupil diameter, it can be estimated that the user is in a fatigued (sleepy) state.

上記特許文献2には、夜間等での運転において、運転者の視界を適切に確保する車両用視界支援装置が開示されている。上記特許文献2には、車両の運転者の顔部が撮像装置により撮像され、撮像された画像から運転者の瞳孔径が取得され、運転者の瞳孔径に基づいて瞳孔径とヘッドライトの照明範囲との関係が規定された照明範囲マップを参照して、ヘッドライトの照明範囲が決定されること、が記載されている。 Patent Document 2 discloses a visibility support device for a vehicle that ensures an appropriate visibility for the driver when driving at night, etc. Patent Document 2 describes that the face of the driver of the vehicle is captured by an imaging device, the driver's pupil diameter is obtained from the captured image, and the headlight illumination range is determined based on the driver's pupil diameter by referring to an illumination range map that specifies the relationship between the pupil diameter and the headlight illumination range.

上記特許文献3には、車両に設けられた照明部(例えば、ウィンカーインジケーターランプの点滅)を利用して、ドライバの瞳孔径の変化に基づきドライバの状態を判定するドライバ状態判定装置が開示されている。上記特許文献3には、車両に設けられた照明部からの光による瞳孔径の変化量が所定値未満である場合には、ドライバが緊張状態にあると判定されるとともに、車両に設けられた照明部からの光による瞳孔径の変化量が所定値以上である場合には、ドライバが安静状態にあると判定されること、が記載されている。 Patent Document 3 discloses a driver state determination device that uses a lighting unit (e.g., blinking of a turn signal lamp) installed in the vehicle to determine the state of the driver based on changes in the diameter of the driver's pupils. Patent Document 3 describes that if the amount of change in pupil diameter caused by light from a lighting unit installed in the vehicle is less than a predetermined value, the driver is determined to be in a tense state, and if the amount of change in pupil diameter caused by light from a lighting unit installed in the vehicle is equal to or greater than a predetermined value, the driver is determined to be in a relaxed state.

上記特許文献4には、ユーザのストレス度合いを判定するために、ユーザの瞳孔径及び瞼の開閉間隔の検出結果を利用する情報処理装置が開示されている。上記特許文献4には、ユーザの眼の撮像映像に対して画像認識が行われることにより、ユーザの瞳孔径や瞼の開閉間隔等の眼球運動が検出され、検出結果に基づいてユーザのストレス兆候の有無が判定されること、が記載されている。 The above-mentioned Patent Document 4 discloses an information processing device that uses the detection results of the user's pupil diameter and eyelid opening and closing interval to determine the user's stress level. The above-mentioned Patent Document 4 describes that image recognition is performed on a captured image of the user's eyes to detect the user's eye movements such as the pupil diameter and eyelid opening and closing interval, and the presence or absence of the user's stress symptoms is determined based on the detection results.

上記特許文献5には、ドライバが危険感を認識している状態であるか否かを判定するドライバ状態判定装置が開示されている。上記特許文献5には、ドライバの心拍数が継続して上昇しているか否か、及びドライバの瞬目間隔が必要以上に長いか否かが検出され、これらの検出結果に基づいてドライバが危険感を認識している状態であるか否かが判定されること、が記載されている。 Patent Document 5 discloses a driver condition determination device that determines whether or not the driver is aware of a sense of danger. Patent Document 5 describes that the device detects whether or not the driver's heart rate is continuously increasing and whether or not the driver's blink interval is longer than necessary, and determines whether or not the driver is aware of a sense of danger based on these detection results.

国際公開第2018/100875号International Publication No. 2018/100875 特開2009-113622号公報JP 2009-113622 A 特開2016-139258号公報JP 2016-139258 A 特開2019-40495号公報JP 2019-40495 A 特開2015-32005号公報JP 2015-32005 A

上記特許文献1~5には、運転者等における瞳孔径の変化等の生体情報に基づいて、運転支援を行う技術が開示されている。ところで、夕日による日差し及び対向車のヘッドライト光源等の一方向からの入射性が高い光によって、車外の明暗と車内の明暗とが同等でない場合がある。例えば、所定の位置に配置されたヘッドライトを制御するための車外照度センサからの情報だけでは、運転者が実際に感じる明るさを検知できない場合がある。 The above Patent Documents 1 to 5 disclose technologies that provide driving assistance based on biological information such as changes in the driver's pupil diameter. However, due to sunlight from the setting sun and light sources of headlights from oncoming vehicles that are highly incident from one direction, the brightness outside the vehicle and the brightness inside the vehicle may not be equivalent. For example, the brightness actually perceived by the driver may not be detected using only information from an exterior illuminance sensor that controls headlights located in a specified position.

上記のように、運転者の瞳孔径の変化により運転者自身の認知機能の低下を取得しようとする場合には、車外の明暗での瞳孔径キャリブレーションを行うことが困難である。このため、外乱の光による瞳孔径の変化と、運転者の認知機能の低下による瞳孔径の変化とを区別できずに誤判定する懸念があり、運転者の状態について正確な判定ができないという不具合がある。 As described above, when trying to obtain a decline in the driver's own cognitive function from changes in the driver's pupil diameter, it is difficult to perform pupil diameter calibration in the light and dark outside the vehicle. This raises the concern that a misjudgment may be made because it is not possible to distinguish between changes in pupil diameter due to disturbance light and changes in pupil diameter due to the driver's decline in cognitive function, resulting in an inability to accurately judge the driver's condition.

一方、車室内において運転者の近傍に複数の照度センサを設けることにより、車室内の照度状態を正確に取得することも考えられるが、コスト高となるという問題点がある。 On the other hand, it is possible to accurately obtain the illuminance state inside the vehicle cabin by installing multiple illuminance sensors near the driver inside the vehicle cabin, but this has the problem of being costly.

本発明は、上記問題点を解消すべくなされたものであって、運転者の状態を正確に判定するとともに、コスト高になることを抑制することが可能な車両の運転者状態判定装置を提供することを目的とする。 The present invention has been made to solve the above problems, and aims to provide a vehicle driver condition determination device that can accurately determine the driver's condition while preventing costs from increasing.

上記目的を達成するために、本発明は、次のように構成されている。 To achieve the above objective, the present invention is configured as follows:

(1)本発明による車両の運転者状態判定装置は、車両の運転者を撮像する撮像部と、前記撮像部の撮像により取得された画像から前記運転者の瞳孔径に係る情報を検出する瞳孔径検出部、及び、前記運転者の目の瞼位置に係る情報を検出する開眼状態検出部と、前記瞳孔径検出部により検出された前記瞳孔径に係る情報、及び、前記開眼状態検出部により検出された前記瞼位置に係る情報に基づいて、前記運転者の状態を判定する状態判定処理を行う運転者状態判定部とを備え、前記運転者状態判定部は、前記瞳孔径の変化、及び瞼が閉じられることによる前記瞼位置の変化が同期したことを条件として、同期時に検出された前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外すること、を特徴とする。 (1) The driver state determination device of the present invention includes an imaging unit that images the driver of the vehicle, a pupil diameter detection unit that detects information related to the driver's pupil diameter from an image acquired by imaging with the imaging unit, an eye open state detection unit that detects information related to the position of the driver's eyelids, and a driver state determination unit that performs a state determination process to determine the state of the driver based on the information related to the pupil diameter detected by the pupil diameter detection unit and the information related to the eyelid position detected by the eye open state detection unit, and the driver state determination unit is characterized in that, on the condition that the change in the pupil diameter and the change in the eyelid position due to the closing of the eyelids are synchronized, the information related to the pupil diameter and the information related to the eyelid position detected at the time of synchronization are excluded from the target of the state determination process.

上記構成によれば、運転者における瞳孔径の変化と瞼位置の変化とが反射レベル(反射的なまばたき等)で同期した場合に、運転者の目に差し込んだ光等による影響(外乱要因)と判定することができる。これにより、瞳孔径の変化及び瞼位置の変化が同期した場合には、瞳孔径の変化を運転者の疲労や認知機能の低下等によるものとしないことができる。その結果、運転者の状態を正確に判定することができる。さらに、車室内の照度状態を正確に取得するための装置等を別途設置することが不要になるため、コスト高になることを抑制することができる。 According to the above configuration, when the change in the pupil diameter and the change in the eyelid position of the driver are synchronized at the reflex level (reflexive blinking, etc.), it can be determined that the change is due to the influence of light or the like entering the driver's eyes (disturbance factor). As a result, when the change in the pupil diameter and the change in the eyelid position are synchronized, the change in the pupil diameter can be determined not to be due to the driver's fatigue or decline in cognitive function, etc. As a result, the driver's condition can be accurately determined. Furthermore, since it is no longer necessary to install a separate device, etc. for accurately acquiring the illuminance condition inside the vehicle cabin, it is possible to suppress high costs.

(2)本発明による車両の運転者状態判定装置において、好ましくは、前記開眼状態検出部は、前記瞼位置に基づいて瞼の閉じ率を導出可能であり、前記運転者状態判定部は、前記閉じ率、及び前記閉じ率が所定値以上で継続する継続時間に基づいて、瞼が閉じられることにより前記瞼位置の変化が生じたものとするとよい。このように構成すれば、瞼の閉じ率及び継続時間に基づくことにより、運転者の瞼位置の変化が正常な変化であるのか又は異常な変化であるのかを正確に判定することができる。 (2) In the driver state determination device for a vehicle according to the present invention, preferably, the eye-open state detection unit is capable of deriving an eyelid closure rate based on the eyelid position, and the driver state determination unit determines that a change in eyelid position has occurred due to the eyelids being closed based on the eyelid closure rate and the duration for which the closure rate continues at or above a predetermined value. With this configuration, it is possible to accurately determine whether a change in the driver's eyelid position is normal or abnormal based on the eyelid closure rate and duration.

(3)この場合において、好ましくは、前記運転者状態判定部は、前記瞳孔径の変化前後における縮小率が第一閾値以上であるとともに、前記瞼位置の開閉前後における縮小率が第二閾値以上で前記継続時間において継続する場合において、前記瞳孔径の変化及び前記瞼位置の変化が同期したことを条件として、同期時に検出された前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外するとよい。このように構成すれば、上記の縮小率及び継続時間等において瞳孔径の変化及び瞼位置の変化が同期する場合に、運転者の瞳孔径の変化及び瞼位置の変化が光刺激等の外乱による影響(外乱要因)であると判定される。このため、上記のような瞳孔径の変化及び瞼位置の変化があった場合に、即座に運転者の状態が異常であると誤判定されることを抑制することができる。 (3) In this case, preferably, the driver state determination unit may exclude the information related to the pupil diameter and the information related to the eyelid position detected at the time of synchronization from the target of the state determination process, on the condition that the change in the pupil diameter and the change in the eyelid position are synchronized when the reduction rate before and after the change in the pupil diameter is equal to or greater than a first threshold value and the reduction rate before and after the opening and closing of the eyelid position is equal to or greater than a second threshold value and continues for the duration. With this configuration, when the change in the pupil diameter and the change in the eyelid position are synchronized at the reduction rate and duration, etc., it is determined that the change in the driver's pupil diameter and the change in the eyelid position are due to a disturbance (disturbance factor) such as a light stimulus. Therefore, when there is a change in the pupil diameter and the change in the eyelid position as described above, it is possible to suppress an immediate erroneous determination that the driver's state is abnormal.

(4)本発明による車両の運転者状態判定装置において、好ましくは、前記車両の外部の照度を検知する車外照度センサをさらに備え、前記運転者状態判定部は、前記車外の照度が所定の照度値以上であることを前記車外照度センサにより検知されたことを条件として、前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外するとよい。このように構成すれば、車外の照度が所定の照度値以上である場合には、照度の急高度化であるため、運転者の瞳孔径及び瞼位置が反射的に変化した状態であると判定することができる。その結果、照度の急高度化における運転者の瞳孔径の変化及び瞼位置の変化について、異常状態であると誤判定されることを抑制することができる。 (4) In the driver state determination device of the present invention, preferably, an external illuminance sensor is further provided for detecting illuminance outside the vehicle, and the driver state determination unit may exclude the information related to the pupil diameter and the information related to the eyelid position from the state determination process on the condition that the external illuminance sensor detects that the illuminance outside the vehicle is equal to or greater than a predetermined illuminance value. With this configuration, when the illuminance outside the vehicle is equal to or greater than a predetermined illuminance value, it can be determined that the driver's pupil diameter and eyelid position have changed reflexively due to a sudden increase in illuminance. As a result, it is possible to suppress erroneous determination that a change in the driver's pupil diameter and eyelid position due to a sudden increase in illuminance is an abnormal state.

本発明に係る態様によれば、運転者の状態を正確に判定するとともに、コスト高になることを抑制することが可能な車両の運転者状態判定装置を提供することができる。 According to the present invention, it is possible to provide a vehicle driver state determination device that can accurately determine the driver's state while preventing costs from increasing.

本実施形態に係る車両の運転者状態判定装置の全体構成を示すブロック図である。1 is a block diagram showing an overall configuration of a driver's state determination device for a vehicle according to an embodiment of the present invention; 本実施形態による瞳孔間距離(瞳孔径の変化)に基づいて認知機能の低下について説明をするためのグラフである。1 is a graph for explaining a decline in cognitive function based on interpupillary distance (change in pupil diameter) according to this embodiment. 本実施形態に係る車両の運転者状態判定装置における状態判定処理を示すフローチャートである。4 is a flowchart showing a state determination process in the driver state determination device for a vehicle according to the present embodiment. 本実施形態に係る車両の運転者状態判定装置における状態判定処理を示すフローチャートである。4 is a flowchart showing a state determination process in the driver state determination device for a vehicle according to the present embodiment.

以下、添付図面を参照して、本発明の一実施形態に係る車両の運転者状態判定装置を説明する。これらの図は模式図であって、必ずしも大きさを正確な比率で記したものではない。また、図中、同様の構成部品は、同様の符号を付して示す。 The following describes a vehicle driver state determination device according to one embodiment of the present invention with reference to the attached drawings. These drawings are schematic diagrams and are not necessarily drawn to exact scale. In addition, similar components are denoted by similar reference numerals in the drawings.

(全体構成)
図1を参照して、本実施形態に係る車両の運転者状態判定装置100の全体構成について説明する。車両の運転者状態判定装置100は、例えば、ハイブリッド自動車、電気自動車、及び自動運転車等の車両全般に適用(搭載)されるものである。図1に示すように、車両の運転者状態判定装置100は、撮像部10と、センサ部20と、制御部30と、報知部40とを備えている。
(Overall composition)
The overall configuration of a driver state determination device 100 for a vehicle according to this embodiment will be described with reference to Fig. 1. The driver state determination device 100 for a vehicle is applied (mounted) to vehicles in general, such as hybrid vehicles, electric vehicles, and self-driving cars. As shown in Fig. 1, the driver state determination device 100 for a vehicle includes an imaging unit 10, a sensor unit 20, a control unit 30, and a notification unit 40.

(撮像部)
撮像部10は、主に、ドライバモニタリングカメラ10aにより構成されている。ドライバモニタリングカメラ10aは、いわゆるドライブレコーダ等のカメラユニットにより構成されている。ドライバモニタリングカメラ10aは、例えば、車室内におけるフロントガラスやルームミラー等に取り付けられている。
(Imaging unit)
The imaging unit 10 is mainly composed of a driver monitoring camera 10a. The driver monitoring camera 10a is composed of a camera unit such as a so-called drive recorder. The driver monitoring camera 10a is attached to, for example, the windshield or the rearview mirror in the vehicle cabin.

ドライバモニタリングカメラ10aは、車両を運転する運転者の顔(特に、目周辺)を撮像する。ドライバモニタリングカメラ10aは、撮像された運転者の顔の画像情報(データ)を後述する制御部30の計算システム31に送信する。また、ドライバモニタリングカメラ10aは、赤外線ライトを備えていてもよい。これにより、夜間走行中等の暗い車内において、運転者の顔を鮮明に撮像することが可能である。 The driver monitoring camera 10a captures the face (particularly the area around the eyes) of the driver who is driving the vehicle. The driver monitoring camera 10a transmits image information (data) of the captured face of the driver to a calculation system 31 of the control unit 30, which will be described later. The driver monitoring camera 10a may also be equipped with an infrared light. This makes it possible to capture a clear image of the driver's face even in a dark vehicle interior, such as when driving at night.

(センサ部)
センサ部20は、主に、車外照度センサ20aにより構成されている。車外照度センサ20aは、車両の外周部に設けられているとともに、車両の外部(車外)の照度を検知する。車外照度センサ20aは、検知された車両の外部の照度情報(データ)を、後述する制御部30の計算システム31に送信する。
(Sensor section)
The sensor unit 20 is mainly composed of an exterior illuminance sensor 20a. The exterior illuminance sensor 20a is provided on the outer periphery of the vehicle and detects the illuminance outside the vehicle. The exterior illuminance sensor 20a transmits the detected illuminance information (data) outside the vehicle to a calculation system 31 of the control unit 30, which will be described later.

(制御部)
制御部30は、車両全体を制御する制御装置等である。制御部30は、計算システム31と、車両制御システム32とを備えている。
(Control Unit)
The control unit 30 is a control device or the like that controls the entire vehicle. The control unit 30 includes a calculation system 31 and a vehicle control system 32.

計算システム31は、センサ部20の車外照度センサ20aにより検知された照度情報、及び、撮像部10のドライバモニタリングカメラ10aにより撮像された運転者の顔の画像情報に基づいて、運転者の瞳孔径に係る情報及び瞼位置に係る情報を検出する。さらに、計算システム31は、上記の情報に基づいて、運転者の正常状態及び異常状態を判定し、判定結果を車両制御システム32に送信する。 The calculation system 31 detects information related to the driver's pupil diameter and eyelid position based on the illuminance information detected by the external illuminance sensor 20a of the sensor unit 20 and the image information of the driver's face captured by the driver monitoring camera 10a of the imaging unit 10. Furthermore, the calculation system 31 determines whether the driver is in a normal state or an abnormal state based on the above information, and transmits the determination result to the vehicle control system 32.

計算システム31は、瞳孔径検出部31aと、開眼状態検出部31bと、運転者状態判定部31cとを備えている。 The calculation system 31 includes a pupil diameter detection unit 31a, an eye open state detection unit 31b, and a driver state determination unit 31c.

瞳孔径検出部31aは、撮像部10のドライバモニタリングカメラ10aの撮像により取得された画像情報から、運転者の瞳孔径に係る情報(例えば、瞳孔径の大きさ、及び瞳孔径の拡大及び縮小による変化率等)を検出する。 The pupil diameter detection unit 31a detects information related to the driver's pupil diameter (e.g., the size of the pupil diameter and the rate of change due to enlargement and reduction of the pupil diameter, etc.) from the image information acquired by imaging with the driver monitoring camera 10a of the imaging unit 10.

開眼状態検出部31bは、撮像部10のドライバモニタリングカメラ10aの撮像により取得された画像情報から、運転者の目の瞼位置に係る情報(例えば、上瞼と下瞼との間の距離等)を検出する。また、開眼状態検出部31bは、瞼位置に基づいて瞼の閉じ率を導出可能である。瞼の閉じ率とは、瞼におけるまばたき方向(縦方向)の距離の変化率をいう。また、運転者状態判定部31cは、瞼の閉じ率、及び、瞼の閉じ率が所定値以上で継続する継続時間に基づいて、瞼が閉じられることにより瞼位置の変化(瞼位置の閉じ)が生じたものと判定する。 The eye-open state detection unit 31b detects information related to the driver's eyelid position (e.g., the distance between the upper eyelid and the lower eyelid) from the image information acquired by imaging with the driver monitoring camera 10a of the imaging unit 10. The eye-open state detection unit 31b can also derive the eyelid closure rate based on the eyelid position. The eyelid closure rate refers to the rate of change in the distance of the eyelid in the blinking direction (vertical direction). The driver state determination unit 31c determines that a change in eyelid position (closing of eyelid position) has occurred due to the eyelids being closed, based on the eyelid closure rate and the duration for which the eyelid closure rate continues at or above a predetermined value.

ここで、本実施形態では、運転者状態判定部31cは、瞳孔径検出部31aにより検出された瞳孔径に係る情報、及び、開眼状態検出部31bにより検出された瞼位置に係る情報に基づいて、運転者の正常状態及び異常状態を判定する状態判定処理を行う。また、本実施形態では、運転者状態判定部31cは、瞳孔径の変化、及び、瞼が閉じられることによる瞼位置の変化が同期したことを条件として、同期時に検出された瞳孔径に係る情報及び瞼位置に係る情報を、状態判定処理の対象から除外する処理を行う。 Here, in this embodiment, the driver state determination unit 31c performs a state determination process to determine whether the driver is in a normal state or an abnormal state based on information related to the pupil diameter detected by the pupil diameter detection unit 31a and information related to the eyelid position detected by the eye-open state detection unit 31b. Also, in this embodiment, the driver state determination unit 31c performs a process to exclude information related to the pupil diameter and information related to the eyelid position detected at the time of synchronization from the state determination process, on the condition that the change in the pupil diameter and the change in the eyelid position due to the eyelids being closed are synchronized.

具体的には、運転者状態判定部31cは、瞳孔径の変化前後における縮小率が第一閾値以上(例えば、15%以上)であるとともに、瞼位置の開閉前後における縮小率(瞼の閉じ率)が第二閾値以上(例えば、10%以上)で所定の継続時間において継続する場合において、瞳孔径の変化及び瞼位置の変化が同期したか否かを判定する。運転者状態判定部31cは、上記の瞳孔径の変化及び瞼位置の変化が同期したと判定することを条件として、同期時に検出された瞳孔径に係る情報及び瞼位置に係る情報を、状態判定処理の対象から除外する。上記の場合、運転者の瞳孔径の変化及び瞼位置の変化は車外における日差しや対向車のヘッドライト光源等による外乱要因であり、運転者における認知機能(認知度)の低下によるものではないと判定されるためである。 Specifically, the driver state determination unit 31c determines whether the change in pupil diameter and the change in eyelid position are synchronized when the reduction rate before and after the change in pupil diameter is equal to or greater than a first threshold (e.g., 15% or more) and the reduction rate before and after the opening and closing of the eyelid position (eyelid closure rate) is equal to or greater than a second threshold (e.g., 10% or more) and continues for a predetermined duration. The driver state determination unit 31c excludes information related to the pupil diameter and the eyelid position detected at the time of synchronization from the target of the state determination process, on the condition that the change in pupil diameter and the change in eyelid position are determined to be synchronized. This is because in the above case, the change in the driver's pupil diameter and the change in eyelid position are determined to be due to disturbance factors such as sunlight outside the vehicle or the light source of the headlights of an oncoming vehicle, and are not due to a decline in the driver's cognitive function (level of awareness).

ここで、図2を参照して、運転者における認知機能の低下に関する判定について説明する。図2では、経過時間に対する運転者の瞳孔間距離の変化(瞳孔径の変化)を示しており、横軸に時間[min]を示し、縦軸に瞳孔間距離[mm]を示している。 Here, the determination of the decline in cognitive function in a driver will be described with reference to Figure 2. Figure 2 shows the change in the driver's interpupillary distance (change in pupil diameter) over time, with the horizontal axis showing time [min] and the vertical axis showing interpupillary distance [mm].

図2において、瞳孔間距離は、時間の経過に伴って微小振動を繰り返すように変化している。また、時間における約5[min]を境界として、5[min]以下の範囲(単調縮瞳)と、5[min]以上の範囲(低周波ゆらぎ)とにおいて、瞳孔間距離の振れ幅が異なっている。すなわち、瞳孔間距離の振れ幅は、5[min]以下の範囲よりも5[min]以上の範囲の方が大きくなっている。なお、「単調縮瞳」は眠気が起こる前の状態(通常状態)を示し、「低周波ゆらぎ」は眠気が起こる前兆又は眠気の高い状態(眠気状態高)を示している。 In FIG. 2, the interpupillary distance changes over time, repeating micro-vibrations. The interpupillary distance also varies in amplitude between a range of 5 min or less (monotonic pupil constriction) and a range of 5 min or more (low-frequency fluctuations), with the boundary being approximately 5 min. In other words, the amplitude of the interpupillary distance is greater in the range of 5 min or more than in the range of 5 min or less. Note that "monotonic pupil constriction" indicates a state before drowsiness occurs (normal state), and "low-frequency fluctuations" indicates a precursor to drowsiness or a state of high drowsiness (high drowsiness state).

運転者の認知機能が低下した状態と眠気の高い状態とが略同等の状態(認知機能の低下≒眠気状態高)である場合には、認知機能が低下すると瞳孔径の単調縮瞳や低周波ゆらぎが発生する。本実施形態では、上記のように、時間に対する瞳孔径に係る情報(瞳孔径の変化)を検出することにより、瞳孔径の変化から運転者の認知機能の低下を判定することが可能である。 When the driver's state of impaired cognitive function and state of high drowsiness are roughly equivalent (impaired cognitive function ≒ high drowsiness state), the impaired cognitive function causes monotonic pupil constriction and low-frequency fluctuations in pupil diameter. In this embodiment, as described above, by detecting information related to pupil diameter over time (changes in pupil diameter), it is possible to determine the impaired cognitive function of the driver from changes in pupil diameter.

図1に示すように、運転者状態判定部31cは、車外照度センサ20aにより、車外の照度が所定の照度値以上であることが検知されたことを条件として、瞳孔径に係る情報及び瞼位置に係る情報を状態判定処理の対象から除外する。上記の場合、運転者の瞳孔径の変化及び瞼位置の変化は、車外における日差しや対向車のヘッドライト光源等による外乱要因であると判定されるためである。 As shown in FIG. 1, the driver state determination unit 31c excludes information related to pupil diameter and eyelid position from the state determination process on the condition that the exterior illuminance sensor 20a detects that the illuminance outside the vehicle is equal to or greater than a predetermined illuminance value. In the above case, the change in the driver's pupil diameter and eyelid position is determined to be a disturbance factor caused by sunlight outside the vehicle or the light source of the headlights of an oncoming vehicle.

車両制御システム32は、計算システム31の運転者状態判定部31cにより判定された判定結果に基づいて、車両を制御する制御装置である。例えば、運転者状態判定部31cにより運転者が正常状態であると判定されたことを条件として、車両制御システム32は、車両の走行を継続させる処理を行う。一方、運転者状態判定部31cにより運転者が異常状態であると判定されたことを条件として、車両制御システム32は、車両を停止させる処理及び/又は報知部40に対してアラートを出力させる処理を行う。 The vehicle control system 32 is a control device that controls the vehicle based on the judgment result judged by the driver state judgment unit 31c of the calculation system 31. For example, on condition that the driver state judgment unit 31c judges that the driver is in a normal state, the vehicle control system 32 performs a process to continue the running of the vehicle. On the other hand, on condition that the driver state judgment unit 31c judges that the driver is in an abnormal state, the vehicle control system 32 performs a process to stop the vehicle and/or a process to output an alert to the notification unit 40.

(報知部)
報知部40は、主に、スピーカ及びインストルメントパネル等により構成されている。報知部40は、運転者が異常状態である(正常状態ではない)場合に、ブザー、音声、光、及び文字等により聴覚的及び視覚的にドライバに報知(警報)する。
(Notification Department)
The notification unit 40 is mainly composed of a speaker, an instrument panel, etc. When the driver is in an abnormal state (not in a normal state), the notification unit 40 notifies (warns) the driver audibly and visually by a buzzer, voice, light, text, etc.

(状態判定処理)
図1、図3、及び図4を参照して、本実施形態に係る車両の運転者状態判定装置における状態判定処理について説明する。
(State Determination Process)
The state determination process in the driver state determination device for a vehicle according to this embodiment will be described with reference to FIGS. 1, 3, and 4. FIG.

図3に示すように、ステップS10において、車両制御システム32により車両の走行状態が制御される。その後、ステップS11に進む。 As shown in FIG. 3, in step S10, the vehicle control system 32 controls the vehicle's running state. Then, the process proceeds to step S11.

ステップS11において、車外照度センサ20aにより車両の外部の照度が計測(検知)され、車両の外部の照度情報(データ)が計算システム31に送信される。その後、ステップS12進む。 In step S11, the vehicle exterior illuminance sensor 20a measures (detects) the illuminance outside the vehicle, and transmits illuminance information (data) outside the vehicle to the calculation system 31. Then, the process proceeds to step S12.

ステップS12において、ドライバモニタリングカメラ10aにより運転者の顔部が撮像され、撮像された画像から運転者の瞳孔径に係る情報及び瞼位置に係る情報が検出される。このとき、ステップS11において検知された車両の外部の照度情報(データ)に基づいて、瞳孔径に係る情報についてキャリブレーションが行われる。例えば、夕日等により、ある瞳孔径が所定時間継続した場合は、その瞳孔径を基準径としてキャリブレーションが行われ、瞳孔径の変化による運転者の状態が判定される。 In step S12, the driver's face is captured by the driver monitoring camera 10a, and information related to the driver's pupil diameter and eyelid position is detected from the captured image. At this time, the information related to the pupil diameter is calibrated based on the illuminance information (data) outside the vehicle detected in step S11. For example, if a certain pupil diameter continues for a predetermined period of time due to the setting sun, etc., calibration is performed using that pupil diameter as a reference diameter, and the driver's state due to changes in pupil diameter is determined.

瞳孔径に係る情報は、瞳孔径検出部31aにより、ドライバモニタリングカメラ10aによって撮像された画像から検出される。瞼位置に係る情報は、開眼状態検出部31bにより、ドライバモニタリングカメラ10aによって撮像された画像から検出される。なお、上記ステップS11及びS12における処理は、略同時に行われる。その後、ステップS13に進む。 Information relating to pupil diameter is detected by the pupil diameter detection unit 31a from the image captured by the driver monitoring camera 10a. Information relating to eyelid position is detected by the eye open state detection unit 31b from the image captured by the driver monitoring camera 10a. Note that the processes in steps S11 and S12 are performed substantially simultaneously. Then, the process proceeds to step S13.

ステップS13において、運転者状態判定部31cにより瞳孔径の変化前後における縮小率が第一閾値以上(例えば、15%以上)であるか否かが判定される。ステップS13において、運転者状態判定部31cにより瞳孔径の変化前後における縮小率が15%以上ではない(15%未満)(No)と判定されたことを条件として、ステップS10に戻る。 In step S13, the driver state determination unit 31c determines whether the reduction rate before and after the change in pupil diameter is equal to or greater than a first threshold value (e.g., 15% or greater). In step S13, if the driver state determination unit 31c determines that the reduction rate before and after the change in pupil diameter is not equal to or greater than 15% (less than 15%) (No), the process returns to step S10.

一方、ステップS13において、運転者状態判定部31cにより瞳孔径の変化前後における縮小率が15%以上である(Yes)と判定されたことを条件として、ステップS14に進む。 On the other hand, if the driver state determination unit 31c determines in step S13 that the reduction rate before and after the change in pupil diameter is 15% or more (Yes), the process proceeds to step S14.

ステップS14において、運転者状態判定部31cにより、瞼位置の開閉前後における縮小率(瞼の閉じ率)が第二閾値以上(例えば、10%以上)で、かつ、瞼位置の変化が所定の継続時間において継続しているか否かが判定される。 In step S14, the driver state determination unit 31c determines whether the reduction rate (eyelid closure rate) of the eyelid position before and after opening and closing is equal to or greater than a second threshold value (e.g., 10% or greater) and whether the change in eyelid position continues for a predetermined duration.

ステップS14において、運転者状態判定部31cにより、瞼位置の開閉前後における縮小率が10%以上ではない(10%未満)、又は、瞼位置の変化が所定の継続時間において継続していない(No)と判定されたことを条件として、ステップS10に戻る。 In step S14, if the driver state determination unit 31c determines that the reduction rate of the eyelid position before and after opening and closing is not 10% or more (less than 10%), or that the change in eyelid position has not continued for a predetermined duration (No), the process returns to step S10.

一方、ステップS14において、運転者状態判定部31cにより、瞼位置の開閉前後における縮小率が10%以上で、かつ、瞼位置の変化(瞼位置の閉じ)が所定の継続時間において継続している(Yes)と判定されたことを条件として、ステップS15(図4参照)に進む。 On the other hand, in step S14, if the driver state determination unit 31c determines that the reduction rate of the eyelid position before and after opening and closing is 10% or more and that the change in eyelid position (closing of eyelid position) continues for a predetermined duration (Yes), the process proceeds to step S15 (see Figure 4).

なお、上記のステップS13及びS14は、処理の順番が入れ替わってもよいし、それぞれの処理が略同時に行われてもよい。また、上記のステップS13において瞳孔径の変化が第一閾値以上の縮小であると判定された後に、ステップS14を省略して、ステップS15に進んでもよい。 The order of steps S13 and S14 may be reversed, or the respective steps may be performed substantially simultaneously. Furthermore, after it is determined in step S13 that the change in pupil diameter is a reduction of the first threshold or more, step S14 may be omitted and the process may proceed to step S15.

ステップS15において、車外照度センサ20aにより車外の照度が検知され、検知された照度情報(データ)が制御部30の計算システム31に送信される。計算システム31の運転者状態判定部31cは、車外照度センサ20aにより検知された照度が所定の照度値以上(照度の急高度化)であるか否かを判定する。 In step S15, the vehicle exterior illuminance sensor 20a detects the illuminance outside the vehicle, and the detected illuminance information (data) is transmitted to the calculation system 31 of the control unit 30. The driver state determination unit 31c of the calculation system 31 determines whether the illuminance detected by the vehicle exterior illuminance sensor 20a is equal to or greater than a predetermined illuminance value (rapid increase in illuminance).

ステップS15において、運転者状態判定部31cにより、車外照度センサ20aによって検知された照度が所定の照度値以上である(Yes)と判定されたことを条件として、ステップS16に進む。 In step S15, if the driver state determination unit 31c determines that the illuminance detected by the exterior illuminance sensor 20a is equal to or greater than the predetermined illuminance value (Yes), the process proceeds to step S16.

ステップS16において、運転者の瞳孔径の変化及び瞼位置の変化が、日差しや対向車のヘッドライト等の外乱要因によるものであり、運転者の認知機能の低下ではないと判断されるため、運転者の瞳孔径に係る情報及び瞼位置に係る情報が状態判定処理の対象から除外(判定キャンセル)される。その後、ステップS10(図3参照)に戻る。 In step S16, it is determined that the change in the driver's pupil diameter and eyelid position is due to disturbances such as sunlight or the headlights of oncoming vehicles, and is not due to a decline in the driver's cognitive function. Therefore, information related to the driver's pupil diameter and information related to the eyelid position are excluded from the state determination process (determination canceled). Then, the process returns to step S10 (see FIG. 3).

一方、ステップS15において、運転者状態判定部31cにより、車外照度センサ20aによって検知された照度が所定の照度値未満である(No)と判定されたことを条件として、ステップS17に進む。 On the other hand, if the driver state determination unit 31c determines in step S15 that the illuminance detected by the exterior illuminance sensor 20a is less than the predetermined illuminance value (No), the process proceeds to step S17.

ここで、本実施形態では、ステップS17において、運転者状態判定部31cにより、運転者の瞳孔径の変化及び瞼位置の変化が同期したか否かが判定される。なお、ステップS17における「同期」は、例えば反射反応レベルの時間に設定すると良く、本実施形態では約0.1秒であるが、この時間は適宜設定可能である。また、ステップS17において、瞳孔径の変化及び瞼位置の変化が同期したこと(Yes)を条件として、ステップS16に進む。 In this embodiment, in step S17, the driver state determination unit 31c determines whether the change in the driver's pupil diameter and the change in eyelid position are synchronized. Note that the "synchronization" in step S17 may be set to, for example, the time of the reflex reaction level, which is about 0.1 seconds in this embodiment, but this time can be set appropriately. Also, in step S17, if the change in the pupil diameter and the change in the eyelid position are synchronized (Yes), the process proceeds to step S16.

ステップS16において、運転者状態判定部31cにより、運転者の瞳孔径の変化及び瞼位置の変化が日差しや対向車のヘッドライト等の外乱要因によるものであり、運転者の認知機能の低下ではないと判定されるため、運転者の瞳孔径に係る情報及び瞼位置に係る情報が状態判定処理の対象から除外(判定キャンセル)される。その後、ステップS10(図3参照)に戻る。 In step S16, the driver state determination unit 31c determines that the change in the driver's pupil diameter and eyelid position is due to disturbance factors such as sunlight or the headlights of oncoming vehicles, and is not due to a decline in the driver's cognitive function, so information related to the driver's pupil diameter and information related to the eyelid position are excluded from the state determination process (determination canceled). Then, the process returns to step S10 (see FIG. 3).

一方、ステップS17において、運転者状態判定部31cにより、運転者の瞳孔径の変化及び瞼位置の変化が同期していない(No)ことを条件として、ステップS18に進む。すなわち、運転者の瞳孔径の変化と瞼位置の変化とが同時に起こっていない場合等である。 On the other hand, in step S17, if the driver state determination unit 31c determines that the change in the driver's pupil diameter and the change in eyelid position are not synchronized (No), the process proceeds to step S18. In other words, this is the case when the change in the driver's pupil diameter and the change in eyelid position do not occur simultaneously.

ステップS18において、運転者状態判定部31cにより、運転者の瞳孔径が変化(縮小)したと判定される。その後、ステップS19に進む。 In step S18, the driver state determination unit 31c determines that the driver's pupil diameter has changed (constricted). Then, the process proceeds to step S19.

ステップS19において、運転者状態判定部31cにより、運転者の瞳孔径の変化が異常な変化であるか否かが判定される。ステップS19において、運転者状態判定部31cにより、運転者の瞳孔径の変化が異常な変化である(Yes)と判定されたことを条件として、ステップS20に進む。この場合、瞳孔径の変化が運転者の疲労や認知機能の低下等によるものと判定される。 In step S19, the driver state determination unit 31c determines whether the change in the driver's pupil diameter is abnormal. If the driver state determination unit 31c determines in step S19 that the change in the driver's pupil diameter is abnormal (Yes), the process proceeds to step S20. In this case, the change in pupil diameter is determined to be due to the driver's fatigue, a decline in cognitive function, or the like.

ステップS20において、車両制御システム32により車両制御が行われる。具体的には、車両制御システム32は、車両を停止させる処理及び/又は報知部40に対してアラートを出力させる処理を行う。その後、ステップS10に戻る。 In step S20, vehicle control is performed by the vehicle control system 32. Specifically, the vehicle control system 32 performs a process of stopping the vehicle and/or a process of outputting an alert to the notification unit 40. Then, the process returns to step S10.

一方、ステップS19において、運転者の瞳孔径の変化が異常な変化ではない(No)と判定されたことを条件として、ステップS21に進む。ステップS21において、車両制御システム32は、車両の走行を継続させる処理を行う。その後、ステップS10に戻る。 On the other hand, if it is determined in step S19 that the change in the driver's pupil diameter is not abnormal (No), the process proceeds to step S21. In step S21, the vehicle control system 32 performs processing to continue driving the vehicle. Then, the process returns to step S10.

上記説明した実施形態によれば、以下の効果(1)~(4)を得ることができる。 The above-described embodiment provides the following advantages (1) to (4).

(1)上記実施形態による車両の運転者状態判定装置100では、運転者における瞳孔径の変化及び瞼位置の変化が同期したことを条件として、同期時に検出された瞳孔径に係る情報及び瞼位置に係る情報を、運転者状態判定部31cによる状態判定処理の対象から除外した。上記実施形態によれば、運転者における瞳孔径の変化と瞼位置の変化とが反射レベル(反射的なまばたき等)で同期した場合に、運転者の目に差し込んだ光等による影響(外乱要因)と判定することができる。これにより、瞳孔径の変化及び瞼位置の変化が同期した場合には、瞳孔径の変化を運転者の疲労や認知機能の低下等によるものとしないことができる。その結果、運転者の状態を正確に判定することができる。さらに、車室内の照度状態を正確に取得するための装置等を別途設置することが不要になるため、コスト高になることを抑制することができる。 (1) In the vehicle driver state determination device 100 according to the above embodiment, information related to the pupil diameter and the eyelid position detected at the time of synchronization is excluded from the state determination process by the driver state determination unit 31c, provided that the change in the pupil diameter and the change in the eyelid position of the driver are synchronized. According to the above embodiment, when the change in the pupil diameter and the change in the eyelid position of the driver are synchronized at the reflex level (reflexive blinking, etc.), it can be determined that the change is due to the influence (disturbance factor) of light or the like entering the driver's eyes. As a result, when the change in the pupil diameter and the change in the eyelid position are synchronized, the change in the pupil diameter can be determined not to be due to the driver's fatigue or decline in cognitive function, etc. As a result, the driver's state can be accurately determined. Furthermore, since it is not necessary to separately install a device or the like for accurately acquiring the illuminance state in the vehicle cabin, it is possible to suppress high costs.

(2)上記実施形態による車両の運転者状態判定装置100では、瞼の閉じ率が10%以上でかつ所定の継続時間に基づいて、瞼が閉じられることにより瞼位置の変化が生じたものとした。これにより、瞼の閉じ率及び継続時間に基づくことにより、運転者の瞼位置の変化が正常な変化であるのか又は異常な変化であるのかを正確に判定することができる。 (2) In the vehicle driver state determination device 100 according to the above embodiment, a change in eyelid position is determined to have occurred due to the eyelids being closed when the eyelid closure rate is 10% or more and based on a predetermined duration. This makes it possible to accurately determine whether a change in the driver's eyelid position is normal or abnormal based on the eyelid closure rate and duration.

(3)上記実施形態による車両の運転者状態判定装置100では、運転者の瞳孔径の変化前後における縮小率が第一閾値以上(15%以上)であるとともに、瞼位置の開閉前後における縮小率が第二閾値以上(10%以上)で所定の継続時間において継続する場合において、瞳孔径の変化及び瞼位置の変化が同期したことを条件として、同期時に検出された瞳孔径に係る情報及び瞼位置に係る情報を、運転者状態判定部31cによる状態判定処理の対象から除外した。これにより、上記の縮小率及び継続時間等において瞳孔径の変化及び瞼位置の変化が同期する場合に、運転者の瞳孔径の変化及び瞼位置の変化が光刺激等の外乱による影響(外乱要因)であると判定される。このため、上記の瞳孔径の変化及び瞼位置の変化があった場合に、即座に運転者の状態が異常であると誤判定されることを抑制することができる。 (3) In the vehicle driver state determination device 100 according to the above embodiment, when the reduction rate before and after the change in the driver's pupil diameter is equal to or greater than the first threshold (15% or greater) and the reduction rate before and after the opening and closing of the eyelid position is equal to or greater than the second threshold (10% or greater) and continues for a predetermined duration, the information related to the pupil diameter and the eyelid position detected at the time of synchronization is excluded from the target of the state determination process by the driver state determination unit 31c, provided that the change in pupil diameter and the change in eyelid position are synchronized. As a result, when the change in pupil diameter and the change in eyelid position are synchronized at the above reduction rate and duration, etc., it is determined that the change in the driver's pupil diameter and the change in eyelid position are due to a disturbance (disturbance factor) such as a light stimulus. Therefore, when the above-mentioned change in pupil diameter and change in eyelid position occur, it is possible to suppress an immediate erroneous determination that the driver's state is abnormal.

(4)上記実施形態による車両の運転者状態判定装置100では、車外の照度が所定の照度値以上であることが車外照度センサ20aにより検知されたことを条件として、瞳孔径に係る情報及び瞼位置に係る情報を、運転者状態判定部31cによる状態判定処理の対象から除外した。これにより、車外の照度が所定の照度値以上である場合には、照度の急高度化であるため、運転者の瞳孔径及び瞼位置が反射的に変化した状態であると判定することができる。その結果、照度の急高度化における運転者の瞳孔径の変化及び瞼位置の変化について、異常状態であると誤判定されることを抑制することができる。 (4) In the driver state determination device 100 of the vehicle according to the above embodiment, information related to pupil diameter and information related to eyelid position are excluded from the state determination process by the driver state determination unit 31c on the condition that the exterior illuminance sensor 20a detects that the illuminance outside the vehicle is equal to or greater than a predetermined illuminance value. As a result, when the illuminance outside the vehicle is equal to or greater than the predetermined illuminance value, it can be determined that the driver's pupil diameter and eyelid position have changed reflexively due to a sudden increase in illuminance. As a result, it is possible to prevent the change in the driver's pupil diameter and eyelid position due to a sudden increase in illuminance from being erroneously determined to be an abnormal state.

(変形例)
上記実施形態は、以下のように変更した構成とすることもできる。
(Modification)
The above embodiment can be modified as follows.

上記実施形態では、車両の運転者を撮像する撮像部の一例として、ドライバモニタリングカメラを示したが、本発明はこれに限られない。例えば、車両の運転者を撮像することが可能であれば、ドライバモニタリングカメラ以外の撮像部を適用することも可能である。 In the above embodiment, a driver monitoring camera is shown as an example of an imaging unit that captures an image of the driver of the vehicle, but the present invention is not limited to this. For example, an imaging unit other than a driver monitoring camera can be applied as long as it is capable of capturing an image of the driver of the vehicle.

上記実施形態では、運転者の瞳孔径の変化前後における縮小率が第一閾値以上(例えば、15%以上)であるか否かを判定する例を示したが、本発明はこれに限られない。例えば、第一閾値を15%以外の値に設定することも可能である。 In the above embodiment, an example is shown in which it is determined whether the reduction rate before and after the change in the driver's pupil diameter is equal to or greater than a first threshold value (e.g., 15% or greater), but the present invention is not limited to this. For example, it is also possible to set the first threshold value to a value other than 15%.

上記実施形態では、運転者の瞼位置の変化前後における縮小率が第二閾値以上(例えば、10%以上)であるか否かを判定する例を示したが、本発明はこれに限られない。例えば、第二閾値を10%以外の値に設定することも可能である。 In the above embodiment, an example is shown in which it is determined whether the reduction rate before and after the change in the driver's eyelid position is equal to or greater than the second threshold (e.g., 10% or greater), but the present invention is not limited to this. For example, it is also possible to set the second threshold to a value other than 10%.

上記実施形態は、いずれも本発明の適応の例示であり、特許請求の範囲に記載の範囲内におけるその他いかなる実施形態も、発明の技術的範囲に含まれることは当然のことである。 The above embodiments are merely examples of applications of the present invention, and it goes without saying that any other embodiments within the scope of the claims are also included within the technical scope of the invention.

10 :撮像部
10a :ドライバモニタリングカメラ
20 :センサ部
20a :車外照度センサ
30 :制御部
31 :計算システム
31a :瞳孔径検出部
31b :開眼状態検出部
31c :運転者状態判定部
32 :車両制御システム
40 :報知部
100 :車両の運転者状態判定装置
10: Imaging unit 10a: Driver monitoring camera 20: Sensor unit 20a: Vehicle exterior illuminance sensor 30: Control unit 31: Calculation system 31a: Pupil diameter detection unit 31b: Eye open state detection unit 31c: Driver state determination unit 32: Vehicle control system 40: Notification unit 100: Vehicle driver state determination device

Claims (3)

車両の運転者を撮像する撮像部と、
前記撮像部の撮像により取得された画像から前記運転者の瞳孔径に係る情報を検出する瞳孔径検出部、及び、前記運転者の目の瞼位置に係る情報を検出する開眼状態検出部と、
前記瞳孔径検出部により検出された前記瞳孔径に係る情報、及び、前記開眼状態検出部により検出された前記瞼位置に係る情報に基づいて、前記運転者の状態を判定する状態判定処理を行う運転者状態判定部とを備え、
前記運転者状態判定部は、前記瞳孔径の変化、及び瞼が閉じられることによる前記瞼位置の変化が同期したことを条件として、同期時に検出された前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外するものであり、
前記開眼状態検出部は、前記瞼位置に基づいて瞼の閉じ率を導出可能であり、
前記運転者状態判定部は、前記閉じ率、及び前記閉じ率が所定値以上で継続する継続時間に基づいて、瞼が閉じられることにより前記瞼位置の変化が生じたものとするものであり、
前記運転者状態判定部は、前記瞳孔径の変化前後における縮小率が第一閾値以上であるとともに、前記瞼位置の開閉前後における縮小率が第二閾値以上で前記継続時間において継続する場合において、前記瞳孔径の変化及び前記瞼位置の変化が同期したことを条件として、同期時に検出された前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外すること、を特徴とする車両の運転者状態判定装置。
An imaging unit that images a driver of the vehicle;
a pupil diameter detection unit that detects information related to a pupil diameter of the driver from an image acquired by the imaging unit, and an eye open state detection unit that detects information related to an eyelid position of the driver;
a driver state determination unit that performs a state determination process to determine a state of the driver based on information related to the pupil diameter detected by the pupil diameter detection unit and information related to the eyelid position detected by the eye open state detection unit,
the driver state determination unit excludes information related to the pupil diameter and information related to the eyelid position detected at the time of synchronization from targets of the state determination process on the condition that the change in the pupil diameter and the change in the eyelid position due to closing of the eyelids are synchronized,
the eye-open state detection unit is capable of deriving an eyelid closure rate based on the eyelid position,
the driver state determination unit determines that a change in eyelid position has occurred due to the eyelids being closed, based on the closure rate and a duration during which the closure rate continues to be equal to or greater than a predetermined value,
The driver's state determination device for a vehicle is characterized in that, when the reduction rate before and after the change in pupil diameter is equal to or greater than a first threshold value and the reduction rate before and after the opening and closing of the eyelid position is equal to or greater than a second threshold value and continues for the duration, the driver's state determination unit excludes information related to the pupil diameter and information related to the eyelid position detected at the time of synchronization, on the condition that the change in pupil diameter and the change in eyelid position are synchronized, from the target of the state determination processing .
前記車両の外部の照度を検知する車外照度センサを更に備え、Further comprising an exterior illuminance sensor for detecting an illuminance outside the vehicle,
前記運転者状態判定部は、前記車外の照度が所定の照度値以上であることを前記車外照度センサにより検知されたことを条件として、前記瞳孔径に係る情報及び前記瞼位置に係る情報を、前記状態判定処理の対象から除外すること、を特徴とする請求項1に記載の車両の運転者状態判定装置。2. The driver's state determination device for a vehicle as described in claim 1, characterized in that, when the exterior illuminance sensor detects that the illuminance outside the vehicle is equal to or greater than a predetermined illuminance value, the driver's state determination unit excludes the information relating to the pupil diameter and the information relating to the eyelid position from the state determination processing.
前記瞳孔径に係る基準径は、前記車外照度センサの照度情報に基づいてキャリブレーションを行うことを特徴とする請求項2に記載の車両の運転者状態判定装置。3. The driver's state determination device for a vehicle according to claim 2, wherein the reference diameter related to the pupil diameter is calibrated based on illuminance information from the vehicle exterior illuminance sensor.
JP2021038909A 2021-03-11 2021-03-11 Vehicle driver condition determination device Active JP7624853B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021038909A JP7624853B2 (en) 2021-03-11 2021-03-11 Vehicle driver condition determination device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021038909A JP7624853B2 (en) 2021-03-11 2021-03-11 Vehicle driver condition determination device

Publications (2)

Publication Number Publication Date
JP2022138812A JP2022138812A (en) 2022-09-26
JP7624853B2 true JP7624853B2 (en) 2025-01-31

Family

ID=83398899

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021038909A Active JP7624853B2 (en) 2021-03-11 2021-03-11 Vehicle driver condition determination device

Country Status (1)

Country Link
JP (1) JP7624853B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115429275A (en) * 2022-09-30 2022-12-06 天津大学 A driving state monitoring method based on eye movement technology

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000198369A (en) 1998-12-28 2000-07-18 Niles Parts Co Ltd Eye condition detection device, drowsy driving alarm device
JP2007522003A (en) 2004-02-02 2007-08-09 ペーター ブラウン,ウベ Device for measuring the driving ability of a driver in a car
JP2007331545A (en) 2006-06-14 2007-12-27 Toyota Motor Corp Vehicle driving support device
JP2016139258A (en) 2015-01-27 2016-08-04 マツダ株式会社 Driver state determination device
JP2019040495A (en) 2017-08-28 2019-03-14 沖電気工業株式会社 Image processor, image processing method, and program
JP2020095499A (en) 2018-12-13 2020-06-18 オムロン株式会社 Eye opening and closing detection apparatus, and driver monitoring apparatus

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5867587A (en) * 1997-05-19 1999-02-02 Northrop Grumman Corporation Impaired operator detection and warning system employing eyeblink analysis

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000198369A (en) 1998-12-28 2000-07-18 Niles Parts Co Ltd Eye condition detection device, drowsy driving alarm device
JP2007522003A (en) 2004-02-02 2007-08-09 ペーター ブラウン,ウベ Device for measuring the driving ability of a driver in a car
JP2007331545A (en) 2006-06-14 2007-12-27 Toyota Motor Corp Vehicle driving support device
JP2016139258A (en) 2015-01-27 2016-08-04 マツダ株式会社 Driver state determination device
JP2019040495A (en) 2017-08-28 2019-03-14 沖電気工業株式会社 Image processor, image processing method, and program
JP2020095499A (en) 2018-12-13 2020-06-18 オムロン株式会社 Eye opening and closing detection apparatus, and driver monitoring apparatus

Also Published As

Publication number Publication date
JP2022138812A (en) 2022-09-26

Similar Documents

Publication Publication Date Title
JP5233322B2 (en) Information processing apparatus and method, and program
JP4788624B2 (en) Careless warning device, vehicle equipment control method of careless warning device, and vehicle control device program
JP4899059B2 (en) Sleepiness detection device
JP2016103249A (en) Driving support device and driving support method
CN109415016B (en) Vision-based interactive control device and method for controlling vehicle rearview mirrors
US20120002027A1 (en) Inattention determining apparatus
WO2010016244A1 (en) Driver awareness degree judgment device, method, and program
US20170080947A1 (en) Method and device for ascertaining a state of drowsiness of a driver
CN105745102A (en) Method for operating an anti-glare system for a vehicle
CN107009955A (en) The driver assistance system and method for the illumination of operating element in matching motor vehicle
JP2006248363A (en) Driver lighting device, driver photographing device, and driver monitoring device
US20180232588A1 (en) Driver state monitoring device
CN113352852B (en) Strong light shielding method, device and system
JP2017219885A (en) Driver condition monitoring device
JP7624853B2 (en) Vehicle driver condition determination device
US20220319200A1 (en) Device and method for determining image data of the eyes, eye positions and/or a viewing direction of a vehicle user in a vehicle
WO2019215879A1 (en) Occupant monitoring device and occupant monitoring method
JP2009125518A (en) Driver's blink detection method, driver's awakening degree determination method, and device
JPH09315210A (en) Vehicle light control method, vehicle safety control method and auto-light system
JP5050794B2 (en) Sleepiness detection device, sleepiness detection method
JP7583009B2 (en) Driver monitoring device and monitoring program
JP2014203186A (en) Monitoring system
JP7704008B2 (en) Driver state determination method and device
KR101858625B1 (en) Apparatus and method for detecting window opening of vehicle using room camera
JPH10272961A (en) Doze alarm device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250121

R150 Certificate of patent or registration of utility model

Ref document number: 7624853

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150