JP7054820B2 - Drowsiness detection device, drowsiness detection method, and program recording medium - Google Patents
Drowsiness detection device, drowsiness detection method, and program recording medium Download PDFInfo
- Publication number
- JP7054820B2 JP7054820B2 JP2018091182A JP2018091182A JP7054820B2 JP 7054820 B2 JP7054820 B2 JP 7054820B2 JP 2018091182 A JP2018091182 A JP 2018091182A JP 2018091182 A JP2018091182 A JP 2018091182A JP 7054820 B2 JP7054820 B2 JP 7054820B2
- Authority
- JP
- Japan
- Prior art keywords
- drowsiness
- feature amount
- unit
- detection
- normalization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Description
本開示は、ユーザの眠気を検知する眠気検知装置、眠気検知方法、及び、プログラム記録媒体に関する。 The present disclosure relates to a drowsiness detection device for detecting drowsiness of a user, a drowsiness detection method, and a program recording medium.
特許文献1は、眠気検知装置を開示している。
本開示は、眠気検知結果に基づいて眠気検知のための値を正規化することにより、精度のよい眠気検知を行なう眠気検知装置を提供する。 The present disclosure provides a drowsiness detection device that performs accurate drowsiness detection by normalizing the value for drowsiness detection based on the drowsiness detection result.
本開示における眠気検知装置は、特徴量抽出部と、検知規則記憶部と、正規化部と、眠気検知部とを備える。特徴量抽出部は、ユーザの心拍の間隔に基づいて、心拍に関する特徴量を抽出する。検知規則記憶部は、眠気を検知するための検知規則を保持する。正規化部は、正規化係数を更新する。眠気検知部は、特徴量、検知規則および正規化係数に基づいて、ユーザの眠気を検知する。正規化部は、眠気検知部がユーザの眠気を検知しなかったときの特徴量に基づいて、正規化係数を更新する。 The drowsiness detection device in the present disclosure includes a feature amount extraction unit, a detection rule storage unit, a normalization unit, and a drowsiness detection unit. The feature amount extraction unit extracts the feature amount related to the heartbeat based on the interval of the user's heartbeat. The detection rule storage unit holds a detection rule for detecting drowsiness. The normalization unit updates the normalization coefficient. The drowsiness detection unit detects the drowsiness of the user based on the feature amount, the detection rule, and the normalization coefficient. The normalization unit updates the normalization coefficient based on the feature amount when the drowsiness detection unit does not detect the user's drowsiness.
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。 It should be noted that these general or specific embodiments may be realized in a recording medium such as a system, method, integrated circuit, computer program or computer readable CD-ROM, and the system, method, integrated circuit, computer program. And may be realized by any combination of recording media.
本開示における眠気検知装置は、眠気検知結果に基づいて眠気検知のための値を正規化することにより、精度のよい眠気検知を行うことができる。さらに、同一人物においても時間が経過すれば、心拍に関する特徴量が変化する。本開示は同一人物における時間経過においても、精度よく眠気を検知することができる。 The drowsiness detection device in the present disclosure can perform accurate drowsiness detection by normalizing the value for drowsiness detection based on the drowsiness detection result. Furthermore, even in the same person, the feature amount related to the heartbeat changes over time. The present disclosure can accurately detect drowsiness even over time in the same person.
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。 Hereinafter, embodiments will be described in detail with reference to the drawings as appropriate. However, more detailed explanation than necessary may be omitted. For example, detailed explanations of already well-known matters and duplicate explanations for substantially the same configuration may be omitted. This is to avoid unnecessary redundancy of the following description and to facilitate the understanding of those skilled in the art.
なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。 It should be noted that the inventor intends to limit the subject matter described in the claims by those skilled in the art by providing the accompanying drawings and the following description in order to fully understand the present disclosure. not.
(実施の形態1)
以下、図1~図5Cを用いて、実施の形態1の眠気検知装置10を説明する。
(Embodiment 1)
Hereinafter, the
[1.構成]
図1は、実施の形態1における眠気検知装置10を示す構成図である。眠気検知装置10は、RRI検出部11と、特徴量抽出部12と、特徴量正規化部13と、検知規則記憶部14と、眠気検知部15と、確度判定部16とを備える。特徴量正規化部13は、正規化部の一例である。
[1. Constitution]
FIG. 1 is a configuration diagram showing a
RRI検出部11は、外部から入力されるユーザの心電波形(心電情報)に基づいて、RR間隔(RRI:R-R Interval)を検出する。RR間隔は、心電波形において近接する2つのR波同士の時間間隔である。特徴量抽出部12は、RRI検出部11で検出されたRR間隔に基づいて、後述の心拍変動に関する特徴量を抽出する。特徴量正規化部13は、特徴量抽出部12により抽出された特徴量を、後述する正規化係数に基づいて正規化する。検知規則記憶部14は、正規化された特徴量から眠気を検知するための検知規則を保持する。眠気検知部15は、特徴量正規化部13により正規化された特徴量と検知規則記憶部14に保持された検知規則とに基づいて眠気の有無を検知する。確度判定部16は、眠気検知部15により検知した眠気の有無の確度を判定する。
The
眠気検知装置10は、プロセッサと、揮発性の記憶領域(主記憶装置)と、不揮発性の記憶領域(補助記憶装置)とを有する。揮発性の記憶領域は、制御プログラムを実行するときに使用するワークエリアとして用いられる。不揮発性の記憶領域は、制御プログラム、コンテンツなどを記憶している。揮発性の記憶領域は、例えば、RAM(Random Access Memory)である。不揮発性の記憶領域は、例えば、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)などである。眠気検知装置10の機能の全部または一部は、例えば、プロセッサが制御プログラムを実行することにより実現される。
The
つぎに各構成要素について詳細に説明する。 Next, each component will be described in detail.
[1-1.RRI検出部11]
RRI検出部11は、ユーザの心電波形を外部装置から受信する。一般に心電波形には、図2に示すような心臓の1拍ごとの動きに同期して、P波、Q波、R波、S波、T波、U波が現れる。図2において、横軸は時間tを示し、縦軸は心電位Vを示す。心電波形において、R波は振幅が大きく、時間あたりの変化が急峻である。そのため、R波は心拍検出に用いられる。具体的なR波の検出方法は特に限定するものではない。例えば振幅が所定の閾値以上になる区間の最大振幅に対応する時刻をR波時刻として検出するようにすれば、R波を検出することができる。検出されたR波時刻と、前回検出されたR波時刻との間隔は、RR間隔(RRI:R-R Interval)と呼ばれる。RRI検出部11は、このRR間隔を検出する。
[1-1. RRI detection unit 11]
The
[1-2.特徴量抽出部12]
特徴量抽出部12は、RRI検出部11より入力されたRR間隔に基づいて眠気検知を実施するため特徴量を抽出する。特徴量としては心拍変動に関する特徴量を用いることができる。心拍変動の特徴量は、所定の時間区間に含まれるRR間隔の時系列を用いて算出することができる。時間区間の設定方法に特に限定はない。時間区間の長さは、例えば60秒と設定することができる。時間区間の長さが短ければ、心拍変動の時間追従を早くすることができる。一方で、時間区間の長さが短ければ、体動等の原因によりRR間隔に誤差が生じた場合に、RR間隔が誤差に敏感に反応してしまう場合がある。そのため、時間区間の長さを適切に設定することが望ましい。
[1-2. Feature extraction unit 12]
The feature
心拍変動に関する特徴量は、所定の時間区間に含まれるRR間隔の時系列を用いて算出することができる。このような心拍変動に関する特徴量としては、時間領域の特徴量と周波数領域の特徴量がある。 The feature amount related to the heart rate variability can be calculated by using the time series of the RR interval included in the predetermined time interval. The feature amounts related to such heart rate variability include the feature amount in the time domain and the feature amount in the frequency domain.
時間領域の心拍変動に関する特徴量としては、下記の特徴量を使用することができる。 The following features can be used as the features related to heart rate variability in the time domain.
・平均RR間隔:時間区間内のRR間隔の平均値
・平均心拍数:時間区間内の心拍数の平均値
・SDNN:時間区間内のRR間隔の標準偏差
・RMSSD:時間区間内の連続して隣接するRR間隔の差の2乗の平均値の平方根
・NN50:時間区間内の連続した隣接するRR間隔の差が50msを超える総数
・pNN50:時間区間内の連続した隣接するRR間隔の差が50msを超える割合
・ Mean RR interval: Mean value of RR interval in time interval ・ Mean heart rate: Mean value of heart rate in time interval ・ SDNN: Standard deviation of RR interval in time interval ・ RMSSD: Continuous in time interval Square root of the mean squared of the difference between adjacent RR intervals ・ NN50: Total number of consecutive adjacent RR intervals with a difference of more than 50 ms in a time interval ・ pNN50: Difference between consecutive adjacent RR intervals within a time interval Percentage over 50 ms
一方、周波数領域の心拍変動に関する特徴量としては、時間区間内のRR間隔についてスペクトル分析を行うことにより、下記の特徴量を使用することができる。 On the other hand, as the feature amount related to the heart rate variability in the frequency domain, the following feature amount can be used by performing spectral analysis on the RR interval in the time interval.
・LF(低周波):0.04~0.15Hzの周波数帯のスペクトルパワー
・HF(高周波):0.15~0.4Hzの周波数帯のスペクトルパワー
・LF/HF:LF(低周波)とHF(高周波)のスペクトルパワーの比
・ LF (low frequency): spectral power in the frequency band of 0.04 to 0.15 Hz ・ HF (high frequency): spectral power in the frequency band of 0.15 to 0.4 Hz ・ LF / HF: LF (low frequency) HF (radio frequency) spectral power ratio
特徴量抽出部12が抽出する特徴量は上記に限定するものではない。上記の特徴量以外に、心電波形から得られる別の特徴量を加えてもよい。または、心電波形から得られる別の特徴量を上記の特徴量と入れ替えてもよい。なお、眠気検知装置10が図3に示すような決定木を用いる場合、特徴量抽出部12は、複数の特徴量を抽出してもよい。
The feature amount extracted by the feature
上記のように抽出した特徴量Fを数式1のように表す。
The feature amount F extracted as described above is expressed by
ここで、Fkは、k番目の時間区間の特徴量を表す。時間区間は1~Nとする。 Here, F k represents a feature amount in the kth time interval. The time interval is 1 to N.
[1-3.特徴量正規化部13]
特徴量正規化部13は、特徴量抽出部12により抽出された現在の時間区間kの特徴量Fkの正規化を行なう。ここで、特徴量正規化部13は、後述する確度判定部16によって所定の確度よりも高く「眠気なし」と検出された時間区間の特徴量に基づいて、正規化係数Ckを算出する。そして、特徴量正規化部13は、正規化係数Ckを用いて特徴量Fkを正規化する。
[1-3. Feature normalization unit 13]
The feature
具体的には、所定の時間前の時刻から現在の時間区間kまでの間に確度高く「眠気なし」と判定された時間区間をp1・・・pLとする。ここで、Lは所定の時間前の時刻から現在の時間区間kまでの間に確度高く「眠気なし」と判定された区間数である。特徴量正規化部13は、数式2により正規化係数を算出することができる。
Specifically, the time interval determined to be "no drowsiness" with high accuracy between the time before a predetermined time and the current time interval k is defined as p1 ... pL. Here, L is the number of sections determined to be "no drowsiness" with high accuracy between the time before a predetermined time and the current time section k. The feature
つまり、特徴量正規化部13は、所定の時間前の時刻から現在の時間区間kまでの間に確度高く「眠気なし」と判定された時間区間の特徴量の平均値を正規化係数Ckとして算出する。特徴量正規化部13は、特徴量Fkおよび算出した正規化係数Ckを用いて、数式3により正規化特徴量FNkを算出する。
That is, the feature
なお、正規化係数Ckの算出のための式は数式2に限定するものではない。正規化係数Ckは、確度高く「眠気なし」と判定された区間の特徴量に基づいて決定されるものであればよい。例えば、正規化係数Ckは、数式4に示すように前回算出した正規化係数Ck-1と直近の確度高く「眠気なし」と判定された区間の特徴量FpLの重み付け和により算出されるものでもよい。 The formula for calculating the normalization coefficient C k is not limited to the formula 2. The normalization coefficient C k may be determined based on the feature amount of the section determined to be “no drowsiness” with high accuracy. For example, the normalization coefficient C k is calculated by the weighted sum of the previously calculated normalization coefficient C k-1 and the feature amount F pL of the section determined to be “no drowsiness” with a high degree of probability as shown in Equation 4. It may be one.
ここで、係数rは重み付け和を算出するための係数である。係数rは、0~1の値であり、特徴量FpLをどれだけ優先するかを示す。 Here, the coefficient r is a coefficient for calculating the weighted sum. The coefficient r is a value of 0 to 1, and indicates how much priority is given to the feature amount F pL .
係数rの設定方法は特に限定するものではない。係数rとして、例えば、0.8などの固定の値を設定するようにすればよい。あるいは、後述する確度判定部16により判定される確度が高ければ係数rを大きく設定し、確度が低ければ係数rを小さく設定してもよい。このように、確度が高い直近の特徴量を優先するように係数rを設定しても良い。
The method for setting the coefficient r is not particularly limited. A fixed value such as 0.8 may be set as the coefficient r. Alternatively, if the accuracy determined by the
なお、数式3では、正規化係数Ckで除算することにより正規化特徴量FNkを算出していた。しかし、数式5に示すように、正規化係数Ckで減算することにより正規化特徴量FNkを算出しても良い。
In Equation 3, the normalized feature amount FN k was calculated by dividing by the normalization coefficient C k . However, as shown in
つまり、「眠気なし」時の特徴量との比により眠気を検知するようにしてもよいし、「眠気なし」時の特徴量との差により眠気を検知してもよい。 That is, drowsiness may be detected by the ratio with the feature amount at the time of "no drowsiness", or drowsiness may be detected by the difference with the feature amount at the time of "no drowsiness".
[1-4.検知規則記憶部14]
検知規則記憶部14は、特徴量正規化部13により算出された正規化特徴量FNkを用いて、「眠気あり」または「眠気なし」を判定するための検知規則を記憶する。例えば、決定木により眠気を判別する場合は、検知規則記憶部14は、図3に示すような決定木による検知規則を記憶する。
[1-4. Detection rule storage unit 14]
The detection
図3に示す決定木は、例えば、ID3(Iterative Dichotomiser 3)等の学習アルゴリズムに基づいて生成される。この決定木の複数のノードN1~N7は、それぞれ、前述したユーザの心拍に関する複数の特徴量F1~F7に対応している。また、この決定木は、複数のノードN1~N7に対応した、複数の閾値T1~T7を有している。具体的には、ノードN1には、特徴量F1および閾値T1が対応しており、ノードN2には、特徴量F2および閾値T2が対応している。他のノードにも、特徴量および閾値が対応している。 The decision tree shown in FIG. 3 is generated based on, for example, a learning algorithm such as ID3 (Iterative Dichotomiser 3). Each of the plurality of nodes N1 to N7 of the decision tree corresponds to the plurality of feature quantities F1 to F7 related to the user's heartbeat described above. Further, this decision tree has a plurality of threshold values T1 to T7 corresponding to a plurality of nodes N1 to N7. Specifically, the feature amount F1 and the threshold value T1 correspond to the node N1, and the feature amount F2 and the threshold value T2 correspond to the node N2. Features and thresholds correspond to other nodes as well.
例えば、ノードN1において、特徴量F1の値が閾値T1よりも小さい場合は、ノードN2へ遷移する。ノードN2において、特徴量F2が閾値T2よりも小さい場合は、ノードN4へ遷移する。ノードN4において、特徴量F4が閾値T4よりも小さければ、リーフノードL1に達する。そして、眠気検知部15は、「眠気あり」と判断する。一方、ノードN4において、特徴量F4が閾値T4以上であれば、リーフノードL2に達する。そして、眠気検知部15は、「眠気なし」と判定する。このように、各ノードにおいて、ノードに対応する特徴量と閾値とを比較している。各リーフノードには「眠気なし」、「眠気あり」の確度を記憶しておく。例えば、リーフノードL1において「眠気あり」の確度は0.8であり、リーフノードL2において「眠気なし」の確度は0.8である。以上のような検知規則を検知規則記憶部14は記憶する。なお、「眠気なし」、「眠気あり」の確度は、後述の確度判定部16により判定される。
For example, in the node N1, when the value of the feature amount F1 is smaller than the threshold value T1, the transition to the node N2 occurs. When the feature amount F2 is smaller than the threshold value T2 in the node N2, the transition to the node N4 occurs. If the feature amount F4 is smaller than the threshold value T4 in the node N4, the leaf node L1 is reached. Then, the
上記の説明では、決定木による規則記憶方法について述べたが、これに限るものではない。例えば、ランダムフォレストと呼ばれる複数の決定木を用いた方法により検知規則を実現しても良い。ランダムフォレストにおける複数の決定木の数は、例えば100である。ランダムフォレストを用いた場合は、個々の決定木で「眠気なし」あるいは「眠気あり」と判定された数の総和が大きい方を眠気の判定結果とする。 In the above explanation, the rule storage method using the decision tree has been described, but the present invention is not limited to this. For example, the detection rule may be realized by a method using a plurality of decision trees called a random forest. The number of multiple decision trees in a random forest is, for example, 100. When a random forest is used, the one with the larger sum of the numbers judged as "no drowsiness" or "drowsiness" in each decision tree is used as the judgment result of drowsiness.
[1-5.眠気検知部15]
眠気検知部15は、特徴量正規化部13により正規化された特徴量FNkと、検知規則記憶部14に記憶された検知規則に基づいて、「眠気なし」あるいは「眠気あり」を判定する。眠気検知部15は、検知規則記憶部14に記憶された検知規則に従って、ユーザの眠気を検知する。
[1-5. Drowsiness detection unit 15]
The
[1-6.確度判定部16]
確度判定部16は、眠気検知部15において「眠気なし」あるいは「眠気あり」を検知する際に、どの程度の確度CMで眠気を検知したかを判定する。
[1-6. Accuracy determination unit 16]
When the
検知規則記憶部14に記憶した決定木を用いた場合の例を具体的に説明する。決定木をID3アルゴリズム等により作成する場合は、リーフノードにおいて判定結果(この場合、「眠気なし」あるいは「眠気あり」)が多い方を判定結果とする。このとき、リーフノードにおける「眠気なし」と「眠気あり」の比率により確度CMを算出することができる。例えば、図3のリーフノードL1における「眠気なし」と「眠気あり」の比率が、2:8である。この場合、リーフノードL1における「眠気あり」の確度CMを0.8とする。以上のようにして、確度判定部16は、眠気検知部15が検知した「眠気なし」あるいは「眠気あり」の検知の確度を判定することができる。なお、上記のような確度は、あらかじめ生成された学習済みモデルから決定することができる。
An example in the case of using the decision tree stored in the detection
なお、上記では眠気検知部15が決定木により眠気を検知する場合について説明したが、これに限るものではない。例えば、眠気検知部15がランダムフォレストにより眠気を検知する場合は、確度判定部16は、複数の決定木(M個)の判定結果のうち、判定結果が「眠気なし」あるいは「眠気あり」と判定された決定木の数(W個)を用いて、確度CMを算出することができる。すなわち、確度判定部16は、下記の式により、確度CMを算出することができる。
In the above description, the case where the
CM = W/M CM = W / M
[2.動作]
以下、実施の形態1のより詳細な動作について、図4のフローチャートを用いて説明する。
[2. motion]
Hereinafter, a more detailed operation of the first embodiment will be described with reference to the flowchart of FIG.
RRI検出部11は、外部より入力されるユーザの心電波形に基づいて、RR間隔を検出する(S41)。具体的なR波の検出方法は特に限定するものではない。例えば振幅が所定の閾値以上になる区間の最大振幅に対応する時刻をR波時刻として検出するようにすれば、R波を検出することができる。検出されたR波時刻と、前回検出されたR波時刻との間隔は、RR間隔と呼ばれる。RRI検出部11は、このRR間隔を検出する。
The
特徴量抽出部12は、RRI検出部11より入力されたRR間隔に基づいて眠気検知を実施するため特徴量を抽出する(S42)。特徴量抽出部12は、特徴量として、心拍変動に関する特徴量である平均RR間隔、平均心拍数、SDNN、RMSSD、NN50、pNN50、LF、HF、LF/HFなどを抽出する。特徴量は、心拍に基づき算出されるものであれば、上記の特徴量に限定されない。
The feature
特徴量正規化部13は、特徴量抽出部12により抽出された特徴量Fkの正規化を行なう(S43)。特徴量正規化部13は、確度判定部16によって所定の確度よりも高く「眠気なし」と検出された時間区間の特徴量に基づいて正規化係数Ckを更新する。そして、特徴量正規化部13は、正規化係数Ckに基づいて現在の時間区間kの特徴量Fkの正規化を行なう。なお、本動作の開始時は確度判定部16による確度判定が未実施であるため、特徴量正規化部13は、正規化係数Ckを1として、特徴量Fkを正規化するようにすればよい。あるいは、開始時は「眠気なし」であると仮定することができるため、開始時の正規化係数をF1(開始時の特徴量)とするように設定しても良い。或いは、事前に決定した正規化係数を用いるようにしても良い。
The feature
眠気検知部15は、特徴量正規化部13により正規化された特徴量FNkと、検知規則記憶部14に記憶された検知規則に基づいて、眠気、つまり、「眠気なし」あるいは「眠気あり」を判定する(S44)。判定結果が「眠気あり」の場合は、ユーザにその判定結果を通知することができる。
The
確度判定部16は、眠気検知部15において「眠気なし」あるいは「眠気あり」を判定した際の確度を判定する(S45)。
The
特徴量正規化部13は、ステップS44で眠気検知部15が「眠気なし」と検知し、かつ、ステップS45で判定した確度CMが所定の確度閾値よりも高いかどうかを確認する(S46)。
The feature
ステップS46でYes(「眠気なし」、かつ、確度CMが所定の確度閾値よりも高い)の場合は、特徴量正規化部13は、正規化係数を更新する(S47)。そして、特徴量正規化部13は、更新した正規化係数に基づいて特徴量を正規化する。
If Yes (“no drowsiness” and the accuracy CM is higher than the predetermined accuracy threshold value) in step S46, the feature
RRI検出部11が新たな心電波形の入力があるか否かを判定し、入力がある場合はステップS41に戻る。一方、入力がない場合は終了する(S48)。
The
ステップS46でNo(「眠気あり」、または、確度CMが所定の確度閾値以下)の場合は、ステップS48に進む。 If No (“sleepy” or the accuracy CM is equal to or less than a predetermined accuracy threshold value) in step S46, the process proceeds to step S48.
以上の動作により、眠気検知装置10は、眠気検知結果に基づいて眠気検知のための特徴量を正規化する。これにより、個人差に依存しにくい精度のよい眠気検知を行なうことができる。
By the above operation, the
図5A~Cに、ドライブシミュレータを用いて30分間単調な運転を継続した際の眠気検知結果の例を示す。図5A~Cにおいて、横軸は時間を示し、縦軸は「眠気なし」あるいは「眠気あり」を示す。図5Aは、運転者の申告に基づく眠気の有無である。図5Bは、特徴量を正規化しない従来の方法の検出結果である。すなわち、図5Bにおいては、特徴量抽出部12により抽出した特徴量をそのまま用いて眠気を検出している。図5Cは、特徴量を正規化した実施の形態1の方法の検出結果である。すなわち、図5Cにおいては、「眠気なし」の状態における特徴量に基づいて特徴量を正規化して眠気を検出している。
FIGS. 5A to 5C show an example of drowsiness detection results when monotonous driving is continued for 30 minutes using a drive simulator. In FIGS. 5A to 5C, the horizontal axis indicates time, and the vertical axis indicates “no drowsiness” or “drowsiness”. FIG. 5A shows the presence or absence of drowsiness based on the driver's declaration. FIG. 5B is a detection result of the conventional method in which the feature amount is not normalized. That is, in FIG. 5B, drowsiness is detected by using the feature amount extracted by the feature
図5Aでは、運転者は運転開始後14分で「眠気あり」と申告している。それに対して、図5Bの従来の検知結果では、眠気を検知できず運転開始後26分の段階で「眠気あり」を検出している。一方、図5Cの実施の形態1の検出結果では、「眠気なし」との差に基づいた眠気検知を行なうことができる。そのため、眠気検知装置10は、運転者の申告と同じ運転開始後14分のタイミングで「眠気あり」を検知することができている。
In FIG. 5A, the driver declares that he is "sleepy" 14 minutes after the start of operation. On the other hand, in the conventional detection result of FIG. 5B, drowsiness could not be detected, and "drowsiness" was detected 26 minutes after the start of operation. On the other hand, in the detection result of the first embodiment of FIG. 5C, drowsiness can be detected based on the difference from "no drowsiness". Therefore, the
[3.効果等]
以上のように、本実施の形態に係る眠気検知装置10は、特徴量抽出部12と、検知規則記憶部14と、特徴量正規化部13と、眠気検知部15とを備える。特徴量抽出部12は、ユーザの心拍の間隔に基づいて、心拍に関する特徴量を抽出する。検知規則記憶部14は、眠気を検知するための検知規則を保持する。特徴量正規化部13は、正規化係数を更新する。眠気検知部15は、特徴量、検知規則および正規化係数に基づいて、ユーザの眠気を検知する。特徴量正規化部13は、眠気検知部15がユーザの眠気を検知しなかったときの特徴量に基づいて、正規化係数を更新する。このため、個人差に依存しにくい精度のよい眠気検知を行なうことができる。
[3. Effect, etc.]
As described above, the
また、眠気検知装置10は、眠気検知部15が検知した眠気の確度を判定する確度判定部16をさらに備えている。眠気検知部15が眠気なしと判断した際の確度が所定の確度閾値より高い場合に、特徴量正規化部13は正規化係数を更新する。このため、同一人物における時間変動においても、精度よく眠気を検出することができる。
Further, the
また、眠気検知装置10は、心電波形を受信し、心電波形のRR間隔を検出するRRI検出部11をさらに備えている。特徴量抽出部12は、RR間隔に基づいて心拍に関する特徴量を抽出する。このため、心電波形を直接入力することで、リアルタイムに眠気を判定することができる。
Further, the
また、特徴量抽出部12は、複数の特徴量F1~F7を抽出する。そして、複数の特徴量F1~F7は、それぞれ、決定木の複数のノードN1~N7に対応している。この構成により、複数の特徴量を用いて、眠気を検知し、かつ、眠気の確度を判定することができる。そのため、眠気検知装置10は、より正確に眠気検知を行うことができる。
Further, the feature
また、本実施の形態において、特徴量正規化部13は、所定の時間前から現在までの間に確度判定部16が判定した確度が所定の確度閾値よりも高い場合の特徴量に基づいて、正規化係数を算出する。このため、効果的に眠気検知を行なうことができる。
Further, in the present embodiment, the feature
また、本実施の形態において、特徴量正規化部13は、前回の正規化係数と、確度判定部16が判定した確度が所定の確度閾値よりも高い場合の特徴量の重み付け和により、正規化係数を算出する。このため、効果的に眠気検知を行なうことができる。
Further, in the present embodiment, the feature
なお、本実施の形態において、眠気検知装置10は、心電波形を受信してRR間隔を検出するRRI検出部11を備えている。しかし、眠気検知装置10は、RRI検出部11の代わりに、別途外部装置で検出したRR間隔のデータを受信するRRI入力部を備えるとしても良い。
In the present embodiment, the
なお、本実施の形態において、眠気検知部15が「眠気なし」と判定し、かつ、確度判定部16が検知した確度が所定の確度閾値以上のときに、特徴量正規化部13は正規化係数を更新するとした。しかし、眠気検知装置10は、確度判定部16を備えなくてもよい。そして、特徴量正規化部13は、眠気検知部15が「眠気なし」と判定したときに正規化係数を更新するとしてもよい。その場合、眠気検知装置10の構成を簡略化することができる。
In the present embodiment, when the
なお、本実施の形態において、眠気検知部15が眠気を検知する方法として、決定木とランダムフォレストを例示した。しかし、これに限定するものではない。眠気を検知する方法は、心拍の変動に関する特徴量から眠気を検出する方法であればよい。例えば、心拍の変動に関する特徴量に基づいて確率モデルにより、眠気を検知するようにしても良い。その場合、「眠気なし」を検知した際に確率モデルが出力する確率値を確度判定部16が判定する確度として用いることができる。
In this embodiment, a decision tree and a random forest are exemplified as a method for the
[4-1.変形例1]
上記実施の形態1の眠気検知装置10は、心電波形を入力とし、入力された心電波形からRR間隔を検出し、眠気を検知した。しかし、眠気検知装置10は、心電波形の代わりに脈波を入力として受信しても良い。これにより心電波形だけではなく、耳朶や手首で計測した脈波に基づいて眠気検知を行なうことができる。
[4-1. Modification 1]
The
[4-2.変形例2]
変形例2に係る眠気検知装置について、図6を用いて説明する。図6は、本変形例に係る眠気検知装置20の構成図である。
[4-2. Modification 2]
The drowsiness detection device according to the second modification will be described with reference to FIG. FIG. 6 is a block diagram of the
眠気検知装置20は、眠気検知装置10の特徴量正規化部13(図1参照)に代えて、正規化部23を備える。
The
正規化部23は、特徴量正規化部13と同様に、眠気検知部15がユーザの眠気を検知しなかったときの特徴量に基づいて、正規化係数Ckを更新する。そして、正規化部23は、正規化係数Ckを用いて検知規則記憶部14が保持している検知規則の規則閾値を正規化する。ここで、正規化部23は、各規則閾値に正規化係数Ckを乗算して各規則閾値を正規化してもよい。図1に示す眠気検知装置10では、決定木のノードにおいて、正規化された特徴量と規則閾値(閾値T1~T7)が比較されていた。しかし、眠気検知装置20では、正規化されていない特徴量と正規化された規則閾値が比較される。そして、眠気検知装置20は、正規化された規則閾値を有する検知規則および特徴量に基づいて、ユーザの眠気を検知する。この構成によっても、眠気検知装置10と同様に、精度のよい眠気検知を行うことができる。
Similar to the feature
また、正規化部23は、正規化係数を用いて、特徴量および検知規則の規則閾値の両方を正規化してもよい。そして、眠気検知装置20は、正規化された規則閾値を有する検知規則および正規化された特徴量に基づいて、ユーザの眠気を検知してもよい。
Further, the
以上、本開示の一つまたは複数の態様に係る眠気検知装置などについて、実施の形態に基づいて説明した。しかし、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本開示の一つまたは複数の態様の範囲内に含まれてもよい。 The drowsiness detection device and the like according to one or more aspects of the present disclosure have been described above based on the embodiments. However, the present disclosure is not limited to this embodiment. As long as it does not deviate from the gist of the present disclosure, one or more of the present embodiments may be modified by those skilled in the art, or may be constructed by combining components in different embodiments. It may be included within the scope of the embodiment.
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。 As described above, an embodiment has been described as an example of the technique in the present disclosure. To that end, an attached drawing and a detailed description are provided.
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。 Therefore, among the components described in the attached drawings and the detailed description, not only the components essential for problem solving but also the components not essential for problem solving in order to illustrate the above-mentioned technology. Can also be included. Therefore, the fact that those non-essential components are described in the accompanying drawings or detailed description should not immediately determine that those non-essential components are essential.
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。 Further, since the above-described embodiment is for exemplifying the technique in the present disclosure, various changes, replacements, additions, omissions, etc. can be made within the scope of claims or the equivalent thereof.
本開示は、精度のよい眠気検知を行なう眠気検知装置等に適用可能である。 The present disclosure is applicable to a drowsiness detection device or the like that performs accurate drowsiness detection.
10、20 眠気検知装置
11 RRI検出部
12 特徴量抽出部
13 特徴量正規化部(正規化部)
14 検知規則記憶部
15 眠気検知部
16 確度判定部
10, 20
14 Detection
Claims (14)
眠気を検知するための検知規則を保持する検知規則記憶部と、
正規化係数を更新する正規化部と、
前記特徴量、前記検知規則および前記正規化係数に基づいて、前記ユーザの眠気を検知する眠気検知部とを備え、
前記正規化部は、前記眠気検知部が前記ユーザの眠気を検知しなかったときの前記特徴量に基づいて、前記正規化係数を更新する、
眠気検知装置。 A feature amount extraction unit that extracts the feature amount related to the heartbeat based on the interval of the user's heartbeat, and
A detection rule storage unit that holds detection rules for detecting drowsiness,
The normalization part that updates the normalization coefficient, and
A drowsiness detection unit that detects drowsiness of the user based on the feature amount, the detection rule, and the normalization coefficient is provided.
The normalization unit updates the normalization coefficient based on the feature amount when the drowsiness detection unit does not detect the drowsiness of the user.
Drowsiness detector.
前記眠気検知部は、正規化された前記特徴量および前記検知規則に基づいて、前記ユーザの眠気を検知する、
請求項1に記載の眠気検知装置。 The normalization unit normalizes the feature amount using the normalization coefficient.
The drowsiness detection unit detects the drowsiness of the user based on the normalized feature amount and the detection rule.
The drowsiness detection device according to claim 1.
前記眠気検知部は、正規化された前記規則閾値を有する前記検知規則および前記特徴量に基づいて、前記ユーザの眠気を検知する、
請求項1に記載の眠気検知装置。 The normalization unit normalizes the rule threshold of the detection rule using the normalization coefficient.
The drowsiness detection unit detects drowsiness of the user based on the detection rule having the normalized rule threshold value and the feature amount.
The drowsiness detection device according to claim 1.
前記特徴量抽出部は、前記RR間隔に基づいて前記心拍に関する特徴量を抽出する、
請求項1から3のいずれかに記載の眠気検知装置。 Further provided with an RRI detection unit that receives an electrocardiographic waveform and detects the RR interval of the electrocardiographic waveform.
The feature amount extraction unit extracts the feature amount related to the heartbeat based on the RR interval.
The drowsiness detection device according to any one of claims 1 to 3.
前記特徴量抽出部は、前記RR間隔に基づいて前記心拍に関する特徴量を抽出する、
請求項1から3のいずれかに記載の眠気検知装置。 Further equipped with an RRI input unit that receives the RR interval of the electrocardiographic waveform,
The feature amount extraction unit extracts the feature amount related to the heartbeat based on the RR interval.
The drowsiness detection device according to any one of claims 1 to 3.
前記確度が所定の確度閾値より高い場合に、前記正規化部は、前記正規化係数を更新する、
請求項1から5のいずれかに記載の眠気検知装置。 Further, an accuracy determination unit for determining the accuracy of the user's drowsiness detected by the drowsiness detection unit is provided.
When the accuracy is higher than a predetermined accuracy threshold, the normalization unit updates the normalization coefficient.
The drowsiness detection device according to any one of claims 1 to 5.
前記確度判定部は、前記決定木のリーフノードにおける眠気の割合により前記ユーザの眠気の確度を判定する、
請求項6に記載の眠気検知装置。 The detection rule is a rule based on a decision tree.
The accuracy determination unit determines the accuracy of the user's drowsiness based on the ratio of drowsiness in the leaf node of the decision tree.
The drowsiness detection device according to claim 6.
前記複数の特徴量は、それぞれ、前記決定木の複数のノードに対応している、
請求項7に記載の眠気検知装置。 The feature amount extraction unit extracts a plurality of the feature amounts,
Each of the plurality of features corresponds to a plurality of nodes of the decision tree.
The drowsiness detection device according to claim 7.
前記確度判定部は、前記複数の決定木における眠気の割合により前記ユーザの眠気の確度を判定する、
請求項6に記載の眠気検知装置。 The detection rule is a rule based on a random forest consisting of a plurality of decision trees.
The accuracy determination unit determines the accuracy of the user's drowsiness based on the ratio of drowsiness in the plurality of decision trees.
The drowsiness detection device according to claim 6.
請求項6から9のいずれかに記載の眠気検知装置。 The normalization unit is a feature amount extracted from a predetermined time before to the present, and the normalization unit is based on the feature amount when the drowsiness detection unit does not detect the drowsiness of the user. Update the conversion factor,
The drowsiness detection device according to any one of claims 6 to 9.
請求項10に記載の眠気検知装置。 The normalization unit updates the normalization coefficient based on the weighted sum of the previous normalization coefficient and the feature amount.
The drowsiness detection device according to claim 10.
請求項11に記載の眠気検知装置。 The weight used for the weight sum is set larger as the accuracy is higher.
The drowsiness detection device according to claim 11.
正規化係数を更新する更新ステップと、
前記特徴量、眠気を検知するための検知規則および前記正規化係数に基づいて、前記ユーザの眠気を検知する眠気検知ステップとを有し、
前記正規化係数は、前記眠気検知ステップにおいて前記ユーザの眠気が検知されなかったときの前記特徴量に基づいて、更新される、
眠気検知方法。 A feature amount extraction step for extracting the feature amount related to the heartbeat based on the interval of the user's heartbeat, and
Update steps to update the normalization factor, and
It has a drowsiness detection step for detecting drowsiness of the user based on the feature amount, a detection rule for detecting drowsiness, and the normalization coefficient.
The normalization coefficient is updated based on the feature amount when the user's drowsiness is not detected in the drowsiness detection step.
Drowsiness detection method.
プログラム記録媒体。 A program for causing a computer to execute the drowsiness detection method according to claim 13 is recorded.
Program recording medium.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US16/003,579 US10918323B2 (en) | 2017-07-04 | 2018-06-08 | Drowsiness detecting device, drowsiness detecting method, and program recording medium |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017130908 | 2017-07-04 | ||
| JP2017130908 | 2017-07-04 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019013737A JP2019013737A (en) | 2019-01-31 |
| JP7054820B2 true JP7054820B2 (en) | 2022-04-15 |
Family
ID=65357917
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018091182A Active JP7054820B2 (en) | 2017-07-04 | 2018-05-10 | Drowsiness detection device, drowsiness detection method, and program recording medium |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7054820B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6666489B1 (en) * | 2019-02-25 | 2020-03-13 | 株式会社東芝 | Failure sign detection system |
| WO2025243686A1 (en) * | 2024-05-20 | 2025-11-27 | ソニーグループ株式会社 | Information processing device and information processing method |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003000571A (en) | 2001-06-18 | 2003-01-07 | Mitsubishi Electric Corp | Arousal level estimation device and arousal level estimation method |
| JP2013081708A (en) | 2011-10-12 | 2013-05-09 | Aisin Seiki Co Ltd | Sleeping state discriminating apparatus and method |
| JP2016022276A (en) | 2014-07-23 | 2016-02-08 | 株式会社スリープシステム研究所 | Sleep stage determination apparatus and sleep stage determination method |
| JP2016116590A (en) | 2014-12-19 | 2016-06-30 | 株式会社スリープシステム研究所 | Apnea and/or low respiration diagnosis device and apnea and/or low respiration diagnosis method |
-
2018
- 2018-05-10 JP JP2018091182A patent/JP7054820B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003000571A (en) | 2001-06-18 | 2003-01-07 | Mitsubishi Electric Corp | Arousal level estimation device and arousal level estimation method |
| JP2013081708A (en) | 2011-10-12 | 2013-05-09 | Aisin Seiki Co Ltd | Sleeping state discriminating apparatus and method |
| JP2016022276A (en) | 2014-07-23 | 2016-02-08 | 株式会社スリープシステム研究所 | Sleep stage determination apparatus and sleep stage determination method |
| JP2016116590A (en) | 2014-12-19 | 2016-06-30 | 株式会社スリープシステム研究所 | Apnea and/or low respiration diagnosis device and apnea and/or low respiration diagnosis method |
Non-Patent Citations (2)
| Title |
|---|
| Bollegala, Danushka,Dynamic feature scaling for online learning of binary classifiers,arXiv,2014年07月28日 |
| Xiao, Meng, et al.,Sleep stages classification based on heart rate variability and random forest,Biomedical Signal Processing and Control,2013年07月09日,Volume 8,Pages 624-633 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2019013737A (en) | 2019-01-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3456246B1 (en) | A cascaded binary classifier for identifying rhythms in a single-lead electrocardiogram (ecg) signal | |
| US10918323B2 (en) | Drowsiness detecting device, drowsiness detecting method, and program recording medium | |
| Ebrahimzadeh et al. | A time local subset feature selection for prediction of sudden cardiac death from ECG signal | |
| US20190059822A1 (en) | Heart rate detection method and apparatus, and electronic terminal thereof | |
| JP6170256B2 (en) | Heart rate detection method and heart rate detection device | |
| JP6645926B2 (en) | Biological signal processing method and apparatus | |
| US20160235368A1 (en) | Device, method and system for processing a physiological signal | |
| JP6527286B2 (en) | Heart beat detection method and heart beat detection device | |
| JP6652655B2 (en) | Heartbeat detection method and heartbeat detection device | |
| US12220262B2 (en) | Systems and methods for atrial fibrillation (AF) and cardiac disorders detection from biological signals | |
| Verma et al. | Detection of ventricular fibrillation using random forest classifier | |
| RU2766409C2 (en) | System and method for estimating blood volume in the brain, and/or blood flow in the brain, and/or depth of anesthesia of a patient | |
| JP6869691B2 (en) | Signal feature extraction method, its device, and computer-readable recording medium | |
| JP7054820B2 (en) | Drowsiness detection device, drowsiness detection method, and program recording medium | |
| Nieblas et al. | High performance heart sound segmentation algorithm based on matching pursuit | |
| KR102155206B1 (en) | R wave peak detection method using periodicity of ECG signal | |
| Bruun et al. | Automatic Atrial Fibrillation detection: A novel approach using discrete wavelet transform and heart rate variability | |
| Liu et al. | Reduction of false alarms in intensive care unit using multi-feature fusion method | |
| US20220095981A1 (en) | Apparatus and method for detecting r peak of ecg signal using adaptive median filter | |
| KR102210468B1 (en) | Method and computer program for removing baseline fluctuation noise of ECG signal | |
| US20190200935A1 (en) | Systems and methods for detecting anomaly in a cardiovascular signal using hierarchical extremas and repetitions | |
| KR20240051544A (en) | Abnormal signal detection method in pulse wave signal | |
| Ni et al. | Utilizing Entropy and Volatility for Machine Aided Classification of Atrial Fibrillation | |
| Oliveira et al. | A multi-spot exploration of the topological structures of the reconstructed phase-space for the detection of cardiac murmurs | |
| Khiari et al. | R-wave detection using EMD and bionic wavelet transform |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210412 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220126 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220222 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220310 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 7054820 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |