Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6754368B2 - 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法 - Google Patents
[go: Go Back, main page]

JP6754368B2 - 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法 - Google Patents

車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法 Download PDF

Info

Publication number
JP6754368B2
JP6754368B2 JP2017547107A JP2017547107A JP6754368B2 JP 6754368 B2 JP6754368 B2 JP 6754368B2 JP 2017547107 A JP2017547107 A JP 2017547107A JP 2017547107 A JP2017547107 A JP 2017547107A JP 6754368 B2 JP6754368 B2 JP 6754368B2
Authority
JP
Japan
Prior art keywords
eye opening
opening signal
signal
eye
valid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017547107A
Other languages
English (en)
Other versions
JP2018511376A (ja
Inventor
ヴルフ,フェリックス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2018511376A publication Critical patent/JP2018511376A/ja
Application granted granted Critical
Publication of JP6754368B2 publication Critical patent/JP6754368B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Measuring devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb
    • A61B5/1103Detecting muscular movement of the eye, e.g. eyelid movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Measuring devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient; User input means
    • A61B5/746Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2302/00Responses or measures related to driver conditions
    • B60Y2302/03Actuating a signal or alarm device

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Physiology (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Dentistry (AREA)
  • Ophthalmology & Optometry (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Hospice & Palliative Care (AREA)
  • Child & Adolescent Psychology (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Social Psychology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両のドライバの疲労状態及び/又は睡眠状態を判定する方法、適宜な装置、及び適宜なコンピュータプログラムに関する。
運転中の眠気又は一瞬の居眠りは、しばしば危険な状況又は事故を引き起こす。ドライバが所定の眠気限界値を超えた場合(=コーヒーカップシンボル)に、眠気判定器は警告を発信する。
しかしながら、このような警告はドライバによって無視される場合がある。一瞬の居眠りは、多くの居眠り運転防止装置では個別の危険として判定されず、したがって、早期の警告が行われない。
眠気判定システムは、ドライバの動作から間接的にドライバの疲労を推定する。一瞬の居眠りは危険の源として個別に考慮されない。
同様に、ビデオカメラのデータに基づいて現在の開眼度を判定できるシステム(例えばSmartEye,Facelabなど)が既知である。このような判定は、適切な画像処理アルゴリズムによって行われる。この場合、それぞれ両目について開眼レベルが検出される。
このような背景技術に基づいて、ここで説明するアプローチでは、独立請求項に記載の車両のドライバの疲労状態及び/又は睡眠状態を判定する方法、さらにこの方法を使用した装置、及び最後に適切なコンピュータプログラムを説明する。好ましい実施形態がそれぞれの従属請求項及び次の説明により明らかになる。
ここで説明するアプローチでは、車両のドライバの疲労状態及び/又は睡眠状態を判定する方法が得られ、この方法は次のステップ:
第1の開眼信号及び第2の開眼信号を読み取る読取ステップであって、第1の開眼信号は開眼度及び/又は開眼度から導かれた車両のドライバの左目の信号を表し、第2の開眼信号は開眼度及び/又は開眼度から導かれた車両のドライバの右目の信号を表すステップ;
第1及び/又は第2の開眼信号の有効性を判定する判定ステップであって、第1の開眼信号が第1の基準に適合している場合には第1の開眼信号を有効であると判定し、及び/又は第2の開眼信号が第2の基準に適合している場合には第2の開眼信号を有効であると判定する判定ステップ;及び
有効であると判定された第1の開眼信号及び/又は有効であると判定された第2の開眼信号を使用して、車両のドライバの疲労及び/又は睡眠状態を決定する決定ステップを含む。
開眼度は、例えば目蓋が目を何パーセント覆っているか、又は上目蓋と下目蓋との相互の絶対間隔を表す値として理解することができる。開眼度から導かれる信号は、例えば開眼速度、すなわち、目蓋の動きの速度、又は開眼加速度、すなわち、目蓋の動きの加速度として理解することができる。例えば、この信号は、目蓋の動きの第1及び第2導関数によって特定することができる。さらに第1及び/又は第2の開眼信号には、当該開眼信号が有効であることを特徴づける属性を割り当てることができる。有効であることを特徴づけるこのような開眼信号は、対応する基準を満たす。車両のドライバの疲労状態及び/又は睡眠状態を決定する場合には、有効であると判定された第1及び第2の開眼信号が使用される。
ここで提案したアプローチは、信ぴょう性のある第1及び/又は第2の開眼信号がこのような判定のために使用された場合には、ドライバの疲労状態及び/又は睡眠状態を極めて確実な判定が可能であるという認識に基づいている。これにより、目又は目蓋のパラメータを判定する場合に測定エラーによってドライバの疲労状態及び/又は睡眠状態について誤った値が特定されることを回避するか、又は少なくともほぼ防止することができる。したがって、ここで提案したアプローチは、ドライバの疲労状態及び/又は睡眠状態の確実で信頼性のある判定がなされるという利点を提供し、これにより、ドライバに対する誤った、又は間違った警告を抑制することができる。これにより、ドライバの疲労判定もしくは睡眠判定のドライバによる受容度が著しく高められ、適切な警告がドライバによって深刻に受け止められる確率が大きくなる。
好ましくは、さらにここで説明するアプローチの一実施形態では、判定ステップで、左目及び/又は右目の開眼速度を表す値が、最大で所定の開眼速度閾値に相当する値を示した場合には、第1及び/又は第2の開眼信号が有効であると判定される。ここで説明するアプローチのこのような実施形態により、開眼度を判定するためのカメラが振動した場合には、目蓋の実際の動きによってではなく、カメラの急速な振動によって引き起こされた目蓋の急速な動きが判定されるが、しかしながら、開眼速度閾値との比較により、このような急速な動きが目の部分の自然な動きであるはずがないと判定することができるという利点が得られる。これにより、目の動きもしくは目の部分の動きの判定の確実性が著しく高められ、これにより、それぞれの疲労判定又は睡眠判定時のエラー発生率が減じられる。
さらに好ましくは、ここで説明するアプローチの一実施形態では、読取ステップで、さらに車両のドライバの頭部の頭部動作速度が読み取られ、判定ステップで、頭部動作速度が最大で所定の頭部動作速度閾値に相当する値を示した場合には、第1及び/又は第2開眼信号が有効であると判定される。ここで説明するアプローチのこのような実施形態は、例えば、運転時には平坦ではない地形ではドライバの頭部は強く揺れ、これにより、実際の開眼度の判定が誤っている場合があるという認識に基づいている。頭部動作速度が最大で所定の閾値に到達した場合に開眼信号が有効であると判定されることにより、ドライバの疲労状態もしくは睡眠状態を決定する場合に頭部の強い揺れによって開眼信号が誤った値を示すことを防止することができる。
好ましくは、さらにここで説明するアプローチの一実施形態では、読取りステップで、さらに車両のドライバの顔の向きが読み取られ、判定ステップで、この向きが、所定の向き角度範囲内の値を示す場合には、第1及び/又は第2の開眼信号が有効であると判定される。ここで説明するアプローチのこのような実施形態により、頭部の著しい回転により開眼度の判定時に起こり得るエラーを判定することができ、これにより、車両のドライバの疲労判定もしくは睡眠判定のために、このように頭部が著しく回転された時点の開眼信号はできるだけ使用されないという利点が得られる。
ここで説明するアプローチの別の実施形態にしたがって、決定ステップで、有効であると判定された第1及び/又は第2の開眼信号を使用して総合的な開眼信号が決定され、車両のドライバの疲労状態及び/又は睡眠状態が総合的な開眼信号に基づいて決定された場合には、ドライバの疲労状態もしくは睡眠状態を特に信頼性良く判定することができる。ここで説明するアプローチのこのような実施形態により、第1の目の開眼度の判定時の小さいエラーを第2の目の開眼度の判定によって補正することができるという利点が得られる。第1及び第2開眼信号の間の差が所定の閾値よりも大きい場合には、いずれか1つの開眼信号をドライバの疲労状態及び/又は睡眠状態を決定するために全く使用しないことも可能である。なぜなら、解剖学的な理由からほとんどの人においては起こりえないこのような場合には、目の開眼度が誤って測定されていると仮定すべきだからである。
ここで説明するアプローチの別の実施形態によれば、決定ステップで、有効であると判定されなかった車両のドライバの疲労状態及び/又は睡眠状態を決定するための開眼信号は放棄することができ、及び/又はドライバの疲労状態及び/又は睡眠状態を決定するために、有効であると判定された第1の開眼信号及び有効であると判定された第2の開眼信号の平均値がとられる。ここで説明したアプローチのこのような実施形態により、確実に、同時に技術的に極めて簡単に、したがって安価に、開眼度又は開眼度から導かれた信号を決定することが可能となり、ひいては車両のドライバの疲労状態及び/又は睡眠状態を簡単に判定することが可能となるという利点が得られる。
さらに、ここで説明するアプローチの一実施形態では、第1及び/又は第2開眼信号が有効であると判定されない時間にわたって第1及び/又は第2開眼信号の補間を行うことも可能である。ここで提案されるアプローチのこのような実施形態によっても、片目又は両目のための開眼度又は開眼度から導かれた信号を判定するために技術的に簡単に実行でき、同時に確実な態様の利点が得られる。
さらに有利には、ここで提案するアプローチの一実施形態では、決定ステップで、有効であると判定された車両のドライバの疲労状態及び/又は睡眠状態を決定するための第1及び/又は第2の開眼信号の期間が、所定の継続時間閾値よりも短い場合にはこの期間は放棄される。ここで紹介するアプローチの一実施形態は、特に信頼性が高く、開眼信号の期間が所定の継続時間閾値よりも長い場合には、開眼信号のこの期間は車両のドライバの疲労状態及び/又は睡眠状態を判定するために使用される。したがって、短時間の測定エラーにより誤った警告がドライバにもたらされ、ドライバによるこのような警告の受容度が将来的に低下しないことが確保される。
車両のドライバの疲労状態及び/又は睡眠状態を決定する場合に開眼度の短時間の測定エラーをできるだけ良好に補正することができるように、ここで説明するアプローチの別の実施形態によれば、決定ステップにおいても、有効であると判定された第1及び/又は第2の開眼信号及び/又は総合的な開眼信号を平滑化することができる。
さらにここで説明するアプローチの一実施形態では、判定ステップで、第1及び/又は第2の開眼信号が、所定の開眼度閾値よりも大きい開眼度を表すことも可能である。このような実施形態も疲労状態及び/又は睡眠状態の極めて確実な判定を可能にする。なぜなら、生理学的な状態に基づいて、短期間に環境にも気づくことができる程度には、目は少なくとも一時的に開かれているからである。したがって、開眼度が常に開眼度閾値未満である可能性は生理学的にみて低く、測定エラーであるとみなすことができ、これにより、このような信号は、ドライバの疲労状態及び/又は睡眠状態を決定するために考慮する必要はない。
さらにここで説明するアプローチでは、車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置が得られ、この装置は次の特徴:
第1の開眼信号及び第2の開眼信号を読み取るためのインタフェースであって、第1の開眼信号が開眼度及び/又は開眼度から導かれた車両のドライバの左目の信号を表し、第2の開眼信号は開眼度及び/又は開眼度から導かれた車両のドライバの右目の信号を表すインタフェース;
第1及び/又は第2の開眼信号の有効性を判定するためのユニットであって、第1の開眼信号が第1の基準に適合している場合に第1の開眼信号を有効であると判定し、及び/又は第2の開眼信号が第2の基準に適合している場合に第2の開眼信号を有効であると判定するユニット;及び
有効であると判定された第1の開眼信号及び/又は有効であると判定された第2の開眼信号を使用して、車両のドライバの疲労状態及び/又は睡眠状態を決定するためのユニットを備える。
したがって、ここで説明するアプローチでは、ここで説明する方法の態様のステップを対応する手段で実行、制御もしくは変更するように構成された装置が得られる。装置の形式の本発明のこのような実施形態によって本発明の基礎をなす課題を迅速かつ効率的に解決することもできる。
装置とは、この場合、センサ信号を処理し、センサ信号に応じて制御信号及び/又はデータ信号を出力する電気機器として理解することができる。装置は、ハードウェア及び/又はソフトウェアとして形成することのできるインタフェースを備えていてもよい。ハードウェアとして形成されている場合には、インタフェースは、例えば、装置の種々異なる機能を含む、いわゆる「システムASIC」の一部であってもよい。しかしながら、インタフェースは、固有の集積回路であるか、又は少なくとも部分的に個別の構成要素からなっていることも可能である。ソフトウェアとして構成されている場合には、インタフェースは、例えば、他のソフトウェアモジュールと共にマイクロコントローラに設けられているソフトウェアモジュールであってもよい。
コンピュータプログラム製品、又はプログラムコードを備えるコンピュータプログラムも有利であり、プログラムコードは、機械読取可能な担体又はメモリ媒体、例えば半導体メモリ、ハードディスクメモリ、又は光学メモリなどに保存されていてもよく、特にプログラム製品又はプログラムがコンピュータ又は装置で実施される場合に上記いずれかの実施形態にしたがって方法のステップを実施、実行及び/又は制御するために使用される。
ここで説明したアプローチを添付の図面に基づいて以下に詳細に説明する。
車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置の実施例を示す車両のブロック図である。 本発明の実施例にしたがって車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって車両のドライバの疲労状態又は睡眠状態を判定するためのシステムを示すブロック図である。 車両のドライバの疲労状態又は睡眠状態を判定するためのシステムを示す詳細なブロック図である。 本発明の実施例による方法のフロー図である。
以下の本発明の好ましい実施例の説明では、様々な図面に示した同様に作用する要素については同じか、又は類似の符号を使用し、これらの要素については繰り返し説明しない。
図1は、車両100のドライバ115の疲労状態及び/又は睡眠状態を判定するための装置110の実施例を示す車両100のブロック図を示す。この場合、装置110はカメラ120に接続されており、このカメラは、ドライバ115の目125、特に左及び/又は右の目125の目蓋130の位置を検出し、この位置からそれぞれの目125の開眼度を特定する。
図2は、車両のドライバ115の疲労状態又は睡眠状態を判定するためのシステム200のブロック回路図を示す。このシステムは、車両のドライバ115の疲労状態及び/又は睡眠状態を判定するための装置110を備える。この場合、開眼度又は開眼度から導かれた左目125aの信号を表す第1の開眼信号210が読取のためにカメラ120からインタフェース215へ送信される。この場合、開眼度は、完全に開かれた目蓋130と完全に閉じられた目蓋130との間の左目125aの目蓋130の閉じ具合を表してもよい。例えば、カメラ120によって目蓋130の位置の経時変化が検出され、適切に識別される場合には、例えば、第1の開眼信号210は開眼度から導かれた信号、例えば左目125aの開眼速度又は開眼加速度を表してもよい。
第1の開眼信号210と同様に、しかしながら、開眼度又は開眼度から導かれた右目125bの信号を表す第2の開眼信号220が、同様に読取のためにカメラ120からインタフェース215へ伝達される。この場合に開眼度は、同様に完全に開かれた目蓋130と完全に閉じられた目蓋130との間の右目125bの目蓋130の閉じ具合を表してもよい。例えば、カメラ120によって目蓋130の位置の経時変化が検出され、適切に識別される場合に、例えば、第2の開眼信号220は同様に開眼度から導かれた信号、例えば、右目125Bbの開眼速度又は開眼加速度を表してもよい。
ドライバ115の疲労状態及び/又は睡眠状態を判定するための装置110は、さらに判定ユニット230を備え、この判定ユニットにはインタフェース215から、それぞれに読み取られた第1の開眼信号210及び第2の開眼信号220が伝達される。判定ユニット230では、以下にさらに詳述する第1基準に適合する場合には、第1の開眼信号210が有効であると判定される。この場合、有効であると判定された第1の開眼信号245が決定ユニット240に伝達される。判定ユニット230では、同様に以下にさらに詳述する第2基準に適合する場合には、さらに第2の開眼信号220が有効であると判定される。この場合、決定ユニット240に、有効であると判定された第2の開眼信号250が伝達される。
この場合、第1基準は第2基準と同一であってもよい。しかしながら、例えば左目及び右目のために異なる解剖学的な条件がある場合には、第1基準は第2基準と異なっていることも可能である。
決定ユニット240によって、有効であると判定された第1の開眼信号245及び/又は有効であると判定された第2の開眼信号250を使用して、車両100のドライバ115の疲労状態及び/又は睡眠状態が決定され、適切な信号260が出力される。この信号260は、ドライバ115の疲労状態及び/又は睡眠状態を表し、例えば車両100において警告を出力するために使用することができる。
ここで説明したアプローチは、疲労判定システム及び一瞬の居眠り判定システムにおける開眼レベルの判定率の改善をもたらす。走行中には両方の目125が(互いに別々にではなく)一緒にしか動かないと仮定して、本発明の課題は、システム安定性及び開眼レベル及び判定率を改善することである。
この場合、左目125a及び右目125bの個々の信号を用いて、共通の開眼レベル及び必要に応じて他のパラメータが計算される。閉眼前処理(ECP)と呼ぶこともできるここで説明したアプローチは、図3のブロック図に詳細に示すように、眠気及び/又は一瞬の居眠りを判定するための総合的なシステムに組み入れられる。
図3は、車両のドライバ115の疲労状態又は眠気状態を判定するためのシステム200の詳細なブロック図を示す。この場合、まずユニット310で閉眼前処理(ECP)が実施され、例えば左目及び右目の開眼度が読み取られ、適切な出力信号、例えばローパスフィルタ処理された開眼度、開眼加速度、開眼速度及び/又は当該開眼信号の有効性が判定される。図3のユニット310は、図2の装置110のユニット215及び230に対応している。
決定ユニット240の第1態様では、マイクロ睡眠判定を行うことができ、ユニット310から供給された信号に基づいて、実際にドライバ115のマイクロ睡眠特性が生じているかどうかが判定され、第1部分信号260aとして出力される。
決定ユニット240の第2態様では、ドライバ115の疲労分類を行うことができる。このために、ドライバの疲労の分類が行われ、第2部分信号260bにより適切な情報が出力される。
図2に関連して、第1及び第2の開眼信号が有効であると判定するために使用されることが望ましい第1及び第2基準を既に挙げた。次に、このような基準として使用することができる幾つかの可能性を示す。この場合、簡単に説明するために、第1及び/又は第2基準として判定ユニット230で使用できる基準のみを説明する。判定ユニット230の異なる実施例では第1及び第2基準のために異なる態様を使用できることをあらかじめ指摘しておく。しかしながら、第1及び第2基準のために同一の基準が使用されることも可能である。
(例えば右目及び左目についてそれぞれ別々に)第1基準及び/又は第2基準として次の有効基準を評価することができる。これらの基準は、得られた製品でそれぞれ一緒に使用してもよいし、又は別々に使用してもよい:
有効性:信号(ここではそれぞれの開眼信号210もしくは220)が有効であることが望ましい。
品質:画像処理(ここではカメラ210もしくは判定ユニット230)によって報告されたそれぞれの目の判定のための品質信号210,220,245もしくは250が、所定の限界値を超える開眼度(例えば>0.2)を表す。
開眼速度:いくつかの場合には、画像で検出された目蓋130は2つの状態の間を飛躍する。この動作は、(開眼信号210もしくは220において)比較的簡単に信号値の飛躍によって判定することができる。この場合、得られた適切な眼の速度は、生理学的な最大限の目蓋速度よりも大きい。したがって、このような目蓋速度が所定の限界値を超えた場合にはすぐに、それぞれの目の開眼度もしくは開眼信号の対応する範囲は無効であるとしてマークされる。あるいは、目蓋速度が所定の限界値未満となった場合には、それぞれの目の開眼度もしくは開眼信号の対応する範囲は有効としてマークされる。
頭部姿勢:得られた閉眼信号もしくは開眼信号210もしくは220は、所定の頭部姿勢の範囲内でのみ(例えば右方向又は左方向へ45°未満の頭部回転)使用可能である。頭部姿勢は、ドライバ115の顔の向きに基づいて判定することができ、所定の(角度)範囲を無効もしくは有効としてマークすることができる。
頭部速度:頭部動作のダイナミクスが大きい場合(例えば路面凹部が多数ある車道の走行時)には、画像処理により開眼信号210もしくは220は十分に良好にドライバ115の目125の実際の位置を追跡できない場合があり、開眼度を評価する場合に車両100の評価ユニットによる目の範囲の追跡が十分に迅速に行われないことに起因して誤った結果が生じる可能性がある。この場合、頭部の速度のための限界値を使用することが提案される。頭部の速度が所定の限界値未満となった場合には、開眼信号の対応する範囲が無効としてマークされるか、あるいは反対に開眼信号において(例えば時間的な)ドライバ115の頭部の動作速度が限界値よりも小さい範囲が有効であると判定される。
さらに、両方の目の有効な開眼信号を1つの(総合的な)信号として結びつけることもできる。次いで、得られた(総合的な)開眼信号は、左目及び右目の開眼信号の有効性に応じて、例えば次のように決定することができる:
両方の(開眼)信号が有効な場合には、(場合によっては重み付けされた)平均値が形成される。重み付け係数として、この場合、例えば画像処理の品質信号が提案される。このために、開眼信号の値の信頼性及び有効性の度合いを表し、平均値を形成する場合に重み付のために使用することができる品質パラメータを、有効であると判定された第1及び/第2の開眼信号に割り当てることができる。
1つの(開眼)信号のみが有効である場合(右目又は左目)、この(開眼)信号(のみ)が使用される。
(開眼)信号が有効ではない場合には、決定ユニット240のために得られた平均閉眼信号もしくは対応する単一の入力信号もしくは対応する複数の入力信号245もしくは250は、無効又は有効ではないと表示される。
このように計算された総合的な信号及び/又はそれぞれの開眼信号210もしくは220及び/又は有効であると判定されたそれぞれの開眼信号245もしくは250について、次のさらなる処理ステップが考慮される:
短い無効範囲(例えばt_無効<50ms)の補間。
短い有効範囲(例えばt_有効<1.5s)の除去。
(例えばサビツキー‐ゴーレイ・フィルタによる)信号の平滑化。
計算及び平滑化した開眼度によって、前処理の範囲で他の信号を計算することができる:
開眼信号の導関数及び/又は開眼度の経時変化の導関数により目蓋130の速度を計算し、
速度信号の導関数及び/又は開眼度の経時変化の導関数(特に二次導関数)により目蓋130の加速度を計算し、
例えば、サビツキー‐ゴーレイ・フィルタを用いて現在の開眼レベル(=新たな瞬きを考慮しない開眼)を計算することができる。
このようにして計算された信号245もしくは250は、一瞬の居眠り及び眠気を判定するために使用することができる。
図4は、車両のドライバの疲労状態及び又は睡眠状態を判定する方法400のフロー図を示す。この方法400は、第1の開眼信号及び第2の開眼信号を読み取るステップ410を含み、第1の開眼信号は開眼度及び/又は開眼度から導かれた車両のドライバの左目の信号を表し、第2の開眼信号は開眼度及び/又は開眼度から導かれた車両のドライバの右目の信号を表す。さらに、方法400は第1及び/又は第2の開眼信号の有効性を判定するステップ420を含み、第1の開眼信号が第1の基準に適合している場合には第1の開眼信号を有効であると判定し、及び/又は第2の開眼信号が第2の基準に適合している場合には第2の開眼信号を有効であると判定する。最後に方法400は、有効であると判定された第1の開眼信号及び/又は有効であると判定された第2の開眼信号を使用して、車両のドライバの疲労状態及び/又は睡眠状態を決定するステップ430を含む。
図面に示し、説明した実施例は例示的にのみ選択されている。様々な実施例を完全に、又は個々の特徴に関して相互に組み合わせることができる。1つの実施例を他の実施例の特徴によって補足することもできる。
さらに、ここで説明した方法ステップは繰り返してもよいし、上記順序とは異なる順序で実施してもよい。
実施例が、第1の特徴及び第2の特徴の間に「及び/又は」の接続詞を含む場合には、この実施例は、ある実施形態では第1の特徴及び第2の特徴の両方を備えており、別の実施形態では第1の特徴のみ、又は第2の特徴のみを備えていると読み取られるべきである。

Claims (13)

  1. 車両(100)のドライバ(115)の疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法(400)であって、
    前記装置が、第1の開眼信号(210)及び第2の開眼信号(220)を読み取る読取ステップ(410)であって、検出された目蓋の位置によって開眼度が特定され、第1の開眼信号(210)が開眼度及び/又は開眼度から導かれた車両(110)のドライバ(115)の左目(125a)の信号を表し、第2の開眼信号(220)が開眼度及び/又は開眼度から導かれた車両(100)のドライバ(115)の右目(125b)の信号を表す、読取ステップ(410)と、
    前記装置が、第1及び/又は第2の開眼信号(210,220)の有効性を判定する判定ステップ(420)であって、第1の開眼信号(210)が第1の基準に適合している場合には第1の開眼信号(245)を有効であると判定し、及び/又は第2の開眼信号(220)が第2の基準に適合している場合には第2の開眼信号(250)を有効であると判定し、前記第1及び/又は前記第2の開眼信号(210,220)及び/又は有効であると判定された前記第1及び/又は前記第2の開眼信号(245,250)が、所定の開眼度閾値よりも大きい開眼度を表す、判定ステップ(420)と、
    前記装置が、有効であると判定された第1の開眼信号(245)及び/又は有効であると判定された第2の開眼信号(250)を使用して、前記車両(100)のドライバ(115)の疲労状態及び/又は睡眠状態を決定する決定ステップ(430)と
    を含み、
    前記開眼度は、完全に開かれた目蓋と完全に閉じられた目蓋との間の、目の目蓋の閉じ具合を含み、
    前記開眼信号は、開眼度から導かれる信号を表し、目の開眼速度又は開眼加速度のうちの少なくとも1つを含む、方法(400)。
  2. 請求項1に記載の方法(400)において、
    有効であると判定された前記第1及び前記第2の開眼信号(245,250)の間の差が所定の閾値よりも大きい場合には、有効であると判定された前記第1及び前記第2の開眼信号(245,250)のうちのいずれか一方が、ドライバ(115)の疲労状態及び/又は睡眠状態を決定するために使用されない方法。
  3. 請求項1又は2に記載の方法(400)において、
    前記判定ステップ(420)で、前記左目(125a)及び/又は前記右目(125b)の開眼速度を表す値が、所定の開眼速度閾値を超えない値を示した場合には、前記第1及び/又は前記第2の開眼信号(210,220)が有効であると判定する方法(400)。
  4. 請求項1から3までのいずれか一項に記載の方法(400)において、
    前記読取ステップ(410)で、さらに前記車両(100)の前記ドライバ(115)の頭部の頭部動作速度を読み取り、前記判定ステップ(420)で、頭部動作速度が、最大でも所定の頭部動作速度閾値に対応する値を示した場合には、前記第1及び/又は前記第2の開眼信号(210,220)が有効であると判定する方法。
  5. 請求項1から4までのいずれか一項に記載の方法(400)において、
    前記読取ステップ(410)で、前記車両(100)の前記ドライバ(115)の顔の向きを読み取り、前記判定ステップ(420)で、この向きが、所定の向き角度範囲内の値を示す場合には前記第1及び/又は前記第2の開眼信号(210,220)が有効であると判定する方法(400)。
  6. 請求項1から5までのいずれか一項に記載の方法(400)において、
    前記決定ステップ(430)で、有効であると判定された前記第1及び/又は前記第2の開眼信号(245,250)を使用して総合的な開眼信号を決定し、前記車両(100)の前記ドライバ(115)の疲労状態及び/又は睡眠状態を総合的な開眼信号に基づいて決定する方法(400)。
  7. 請求項1から6までのいずれか一項に記載の方法(400)において、
    前記決定ステップ(430)で、有効であると判定されなかった前記車両(100)の前記ドライバ(115)の疲労状態及び/又は睡眠状態を決定するための前記開眼信号(245,250)を放棄し、及び/又は前記ドライバ(115)の疲労状態及び/又は睡眠状態を決定するために、有効であると判定された前記第1の開眼信号(245)及び有効であると判定された前記第2の開眼信号(250)の平均値をとる方法(400)。
  8. 請求項1から7までのいずれか一項に記載の方法(400)において、
    前記決定ステップ(430)で、前記第1及び/又は前記第2開眼信号(210,220)及び/又は有効であると判定された第1及び/又は第2の開眼信号(245,250)が有効であると判定されない時間にわたって、第1及び/又は第2の開眼信号(210,220)及び/又は有効であると判定された前記第1及び/又は前記第2の開眼信号(245,250)の補間を行う方法(400)。
  9. 請求項1から8までのいずれか一項に記載の方法(400)において、
    前記決定ステップ(430)で、有効であると判定された前記車両(100)の前記ドライバ(115)の疲労状態及び/又は睡眠状態を決定する(430)ための前記第1及び/又は前記第2の開眼信号(245,250)の期間が所定の継続時間閾値よりも短い場合には、この期間を放棄する方法(400)。
  10. 請求項1から9までのいずれか一項に記載の方法(400)において、
    前記決定ステップ(430)で、有効であると判定された前記第1及び/又は前記第2の開眼信号(245,250)及び/又は総合的な開眼信号を平滑化する方法(400)。
  11. 請求項1から10までのいずれか一項に記載の方法(400)の全てのステップを、対応するユニット(215,230,240)で実施、実行、及び/又は制御するように構成された装置(110)。
  12. 請求項1から10までのいずれか一項に記載の方法(400)の全てのステップを実施、実行、及び/又は制御するように構成されたコンピュータプログラム。
  13. 請求項12に記載のコンピュータプログラムが記憶された機械読取可能な記憶媒体。
JP2017547107A 2015-03-10 2016-01-05 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法 Active JP6754368B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102015204247.2A DE102015204247A1 (de) 2015-03-10 2015-03-10 Verfahren und Vorrichtung zum Erkennen eines Müdigkeits- und/oder Schlafzustandes eines Fahrers eines Fahrzeugs
DE102015204247.2 2015-03-10
PCT/EP2016/050039 WO2016142074A1 (de) 2015-03-10 2016-01-05 Verfahren und vorrichtung zum erkennen eines müdigkeits- und/oder schlafzustandes eines fahrers eines fahrzeugs

Publications (2)

Publication Number Publication Date
JP2018511376A JP2018511376A (ja) 2018-04-26
JP6754368B2 true JP6754368B2 (ja) 2020-09-09

Family

ID=55085646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017547107A Active JP6754368B2 (ja) 2015-03-10 2016-01-05 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法

Country Status (6)

Country Link
US (1) US10311698B2 (ja)
EP (1) EP3268942B1 (ja)
JP (1) JP6754368B2 (ja)
CN (1) CN107405121B (ja)
DE (1) DE102015204247A1 (ja)
WO (1) WO2016142074A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6514651B2 (ja) * 2016-02-15 2019-05-15 ルネサスエレクトロニクス株式会社 開眼度検出システム、居眠り検知システム、自動シャッタシステム、開眼度検出方法及び開眼度検出プログラム
JP2019111092A (ja) * 2017-12-22 2019-07-11 オムロン株式会社 生体状態推定装置、方法およびプログラム
CN109017560A (zh) * 2018-07-09 2018-12-18 中国联合网络通信集团有限公司 驾驶状态分析方法、装置及驾驶提示系统
JP7180227B2 (ja) 2018-09-20 2022-11-30 いすゞ自動車株式会社 車両用監視装置
CN111079475A (zh) * 2018-10-19 2020-04-28 上海商汤智能科技有限公司 驾驶状态检测方法和装置、驾驶员监控系统、车辆
US11227156B2 (en) * 2019-01-03 2022-01-18 Qualcomm Incorporated Personalized eye openness estimation
DE102019204892A1 (de) * 2019-04-05 2020-10-08 Robert Bosch Gmbh Verfahren und Steuergerät zum Erkennen einer Müdigkeit eines Fahrers für ein Fahrassistenzsystem für ein Fahrzeug
CN110728824B (zh) * 2019-09-25 2021-11-30 东南大学 一种基于多源数据的驾驶员疲劳状态检测及提醒方法
JP2021131708A (ja) * 2020-02-19 2021-09-09 いすゞ自動車株式会社 運転支援装置
DE102020214556A1 (de) 2020-11-19 2022-05-19 Volkswagen Aktiengesellschaft Kommunikationssystem für ein Fahrzeug zum Vorgehen bei einer Schlafstörung eines Insassen
DE102021123849A1 (de) 2021-09-15 2023-03-16 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Überwachungseinrichtung zum Bestimmen eines Augenzustands einer Person und Kraftfahrzeug
WO2024028970A1 (ja) * 2022-08-02 2024-02-08 日本電信電話株式会社 瞬目推定装置、学習装置、瞬目推定方法、学習方法、およびプログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
JP3334583B2 (ja) * 1997-11-18 2002-10-15 三菱自動車工業株式会社 覚醒状態検出方法
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2006174960A (ja) * 2004-12-21 2006-07-06 Nissan Motor Co Ltd 覚醒度情報提示装置
ATE526866T1 (de) * 2005-03-04 2011-10-15 Sleep Diagnostics Pty Ltd Wachheitsmessung
US7253738B2 (en) * 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method of detecting eye closure based on edge lines
FR2893245B1 (fr) * 2005-11-17 2007-12-21 Siemens Vdo Automotive Sas Procede d'evaluation de l'etat de vigilance d'un conducteur de vehicule
JP4677963B2 (ja) * 2006-09-11 2011-04-27 トヨタ自動車株式会社 居眠り検知装置、居眠り検知方法
US7692551B2 (en) * 2006-09-12 2010-04-06 Deere & Company Method and system for detecting operator alertness
US7692548B2 (en) * 2006-09-12 2010-04-06 Deere & Company Method and system for detecting operator alertness
DE102008007152B4 (de) * 2007-03-30 2019-01-17 Volkswagen Ag Verfahren zur Parametrisierung des Augenöffnungsgrades eines Fahrers eines Kraftfahrzeugs
JP5050794B2 (ja) * 2007-11-14 2012-10-17 トヨタ自動車株式会社 眠気検知装置、眠気検知方法
JP5321951B2 (ja) * 2008-06-30 2013-10-23 いすゞ自動車株式会社 運転負担判定装置
JP5349350B2 (ja) * 2010-01-26 2013-11-20 トヨタ自動車株式会社 開眼度判定装置及び開眼度判定方法
JP5825588B2 (ja) * 2010-10-15 2015-12-02 浜松ホトニクス株式会社 瞬目計測装置及び瞬目計測方法
CN102125429A (zh) * 2011-03-18 2011-07-20 上海交通大学 基于眼电信号的警觉度检测系统
JP2012139562A (ja) * 2012-04-26 2012-07-26 Hamamatsu Photonics Kk 瞬目計測装置
CN103690162B (zh) * 2013-12-24 2015-05-20 天津师范大学 一种穿戴式脑电清醒状态检测仪
CN103767715B (zh) * 2014-01-15 2015-10-28 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测装置

Also Published As

Publication number Publication date
CN107405121A (zh) 2017-11-28
US20180240319A1 (en) 2018-08-23
US10311698B2 (en) 2019-06-04
EP3268942A1 (de) 2018-01-17
JP2018511376A (ja) 2018-04-26
WO2016142074A1 (de) 2016-09-15
DE102015204247A1 (de) 2016-09-15
CN107405121B (zh) 2021-03-12
EP3268942B1 (de) 2019-06-19

Similar Documents

Publication Publication Date Title
JP6754368B2 (ja) 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法
CN110211335B (zh) 用于对车辆的驾驶员的微睡进行识别的方法和装置
JP5493593B2 (ja) 眠気検出装置、眠気検出方法、及びプログラム
US20160159217A1 (en) System and method for determining drowsy state of driver
JP6973928B2 (ja) 瞼開閉判定装置および眠気検知装置
AU2015276536A1 (en) Device, method, and computer program for detecting momentary sleep
US8879790B2 (en) Image processing device and drowsiness assessment device
JP6689470B1 (ja) 情報処理装置、プログラム及び情報処理方法
JP6754228B2 (ja) 目の開度のための参照レベルを供給する方法および装置
JP7550879B2 (ja) 睡眠検出装置及び睡眠検出システム
KR20190134909A (ko) 주행상황 판단 정보 기반 운전자 상태 인식 장치 및 방법
JP2017194772A (ja) 覚醒度判定装置
CN105374163B (zh) 具有疲劳识别的驾驶员辅助系统和用于预见疲劳度的方法
JP5349350B2 (ja) 開眼度判定装置及び開眼度判定方法
JP6662352B2 (ja) 居眠り運転警報装置
JP2018537787A (ja) 車両の搭乗者の少なくとも1つの目の開眼データを分類する方法および装置、および、車両の搭乗者の眠気および/またはマイクロスリープを検出する方法および装置
JP2011125620A (ja) 生体状態検出装置
JP6563526B2 (ja) 目開幅を利用してまばたき事象と計器視線とを区別する方法および装置
CN113168757B (zh) 确定驾驶者警惕水平的方法
JP5050794B2 (ja) 眠気検知装置、眠気検知方法
JP5167027B2 (ja) 瞬き状態検出装置
US20230206657A1 (en) Estimation apparatus and estimation method
WO2025004257A1 (ja) 眠気推定装置および眠気推定方法
CN108885340B (zh) 用于定位车辆乘客的头部的方法和设备
JP2021007717A (ja) 乗員観察装置、乗員観察方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180817

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180817

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20181119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191015

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200819

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200821

R150 Certificate of patent or registration of utility model

Ref document number: 6754368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250