Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6767247B2 - 生体情報検出装置及び生体情報検出方法 - Google Patents
[go: Go Back, main page]

JP6767247B2 - 生体情報検出装置及び生体情報検出方法 - Google Patents

生体情報検出装置及び生体情報検出方法 Download PDF

Info

Publication number
JP6767247B2
JP6767247B2 JP2016231007A JP2016231007A JP6767247B2 JP 6767247 B2 JP6767247 B2 JP 6767247B2 JP 2016231007 A JP2016231007 A JP 2016231007A JP 2016231007 A JP2016231007 A JP 2016231007A JP 6767247 B2 JP6767247 B2 JP 6767247B2
Authority
JP
Japan
Prior art keywords
time
difference
wavelength
detected
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016231007A
Other languages
English (en)
Other versions
JP2018086130A (ja
Inventor
伸宏 福田
伸宏 福田
哲 伊達
哲 伊達
秀紀 坂庭
秀紀 坂庭
隆 金丸
隆 金丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2016231007A priority Critical patent/JP6767247B2/ja
Priority to US15/826,200 priority patent/US10691924B2/en
Publication of JP2018086130A publication Critical patent/JP2018086130A/ja
Application granted granted Critical
Publication of JP6767247B2 publication Critical patent/JP6767247B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、生体情報を検出する装置に関する。
生体情報を取得する手法として、マイクロ波又はカメラを使用した非接触でリアルタイムに検出できる技術がある。特にカメラを用いた脈拍検出は、近年、カメラモジュールの小型化が進み、スマートフォンを含む携帯端末に搭載され、普及が進んでいる。
撮像による脈拍検出を行う技術として、時系列信号のスペクトル分布から脈拍信号を特定する手法がある(特許文献1)。
特開2012−239661公報
顔映像は、例えば照明光が顔に照射された際の反射光であるため、従来のRGB信号を用いた手法は、3色の反射光のスペクトル強度変化を観測していることとなる。そこで、定常的な光が顔にあたる場合は安定して脈拍を検出することが可能であるが、撮像環境の外光変化が生じる場合は、各スペクトルが影響を受け、誤検出が生じる。また、独立成分分析を適用することで、ノイズを分離することはできるが、変換後に物理量を特定するのは困難である。
本発明は、上記課題を鑑み、RGB信号の各信号成分の変化量が異なることに注目し、顔映像の色成分を反射光の波長とスペクトル強度とに分離することで、環境変化に強い検出方法を提供することを特徴とする。
上記課題を解決するために、本発明は、対象物からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像部と、前記映像信号から反射光の波長及び強度を取得する反射光解析部と、各時刻の反射光の波長と前記各時刻より前の時刻の反射光の波長との差分を検出する波長揺らぎ検出部と、前記検出された差分の時刻に応じた変化を脈拍として検出する脈拍検出部と、を有し、前記反射光解析部は、前記映像信号を、色相及び明るさを含む色空間の信号に変換し、色相を波長として取得し、明るさを強度として取得し、人の肌の色を含む所定の範囲の色相を有する肌色領域を検出し、前記波長揺らぎ検出部は、前記肌色領域の色相に基づいて、前記差分を検出し、前記強度に基づく各時刻の前記肌色領域の明るさをその前の時刻の明るさと比較することによって前記肌色領域の明るさの変化を検出し、前記検出した明るさの変化が所定の値より大きい場合、当該明るさの変化が検出された時刻の前記差分の代わりに、当該明るさの変化が検出された時刻より前の時刻の前記差分を出力するか、又は、当該明るさの変化が検出された時刻の前記差分と当該明るさの変化が検出された時刻より前の時刻の前記差分との平均値を出力することを特徴とする。
本発明の一態様によれば、顔映像中の外光による影響を抑えることで、撮像環境の変化に強い脈拍の検出手法を提供することができる。上記した以外の課題、構成、及び効果は、以下の実施形態の説明によって明らかにされる。
本発明の実施例1に於ける生体情報検出装置の構成の一例を説明するブロック図である。 本発明の実施例1に於ける生体情報検出装置の反射光解析部の一例を説明するブロック図である。 本発明の実施例1に於ける生体情報検出装置の波長揺らぎ検出部の一例を説明するブロック図である。 本発明の実施例1に於ける生体情報検出装置の脈拍検出部の一例を説明するブロック図である。 本発明の実施例2に於ける生体情報検出装置の反射光解析部の一例を説明するブロック図である。 本発明の実施例3に於ける生体情報検出装置の反射光解析部の一例を説明するブロック図である。 本発明の実施例3に於ける生体情報検出装置の波長揺らぎ検出部の一例を説明するブロック図である。 本発明の実施例1に於ける空間フィルタの一例を表す図である。 本発明の実施例1に於けるHSV色空間及び部分色空間の指定範囲の一例を表す図である。 本発明の実施例1に於ける部分色空間の設定方法の一例を説明する図である。 本発明の実施例2に於ける生体情報検出装置の顔検出部によって検出される顔領域の一例を説明する図である。
以下、本発明の実施の形態について図面に基づいて説明するが、本発明は必ずしもこれらの実施形態に限定されるものではない。なお、実施形態を説明する各図面において、同一の部材には同一の符号を付し、その繰り返しの説明は省略する。
本実施例では、カメラを備え、顔映像より波長とスペクトルを抽出することで脈拍検出を行う生体情報検出装置の例を説明する。
図1は、本発明の実施例1に於ける生体情報検出装置の構成の一例を説明するブロック図である。
本実施例における生体情報検出装置は、カメラ100と、映像処理部200と、データ表示部103とを備える。
映像処理部200は、映像取得部201、反射光解析部220、波長データ記憶部205、波長揺らぎ検出部240及び脈拍検出部260を備える。映像取得部201は、カメラ100から取得される撮像データ信号101を入力とし、映像RGB信号202を出力する。反射光解析部220は、RGB信号202を入力信号とし、レベル信号203及び波長データ信号204を出力する。波長データ記憶部205は、波長データ信号204を記憶し、遅延波長データ信号206を出力する。波長揺らぎ検出部240は、レベル信号203及び波長データ信号204を入力とし、波長のフレーム間差分を取得し、波長差分データ信号207を出力する。脈拍検出部260は、波長差分データ信号207を入力とし、脈拍信号102を出力する。
なお、本実施例の映像処理部200は、例えば、カメラ100に接続された計算機であってもよい。その場合、映像処理部200は、プロセッサ(図示省略)、記憶装置(図示省略)及び入出力装置(図示省略)を有し、記憶装置に格納されたプログラムを実行することによって映像取得部201、反射光解析部220、波長揺らぎ検出部240及び脈拍検出部260の機能が実現される。波長データ記憶部205、映像データ記憶部221(図2参照)、差分データ記憶部261、平滑データ記憶部265、符号データ記憶部269、面積データ記憶部250及び積算データ記憶部256は、記憶装置によって実現される。また、入出力装置は、例えばキーボード及びマウス等の入力装置(図示省略)と、画像等を表示するデータ表示部103と、を含む。
図2は、本発明の実施例1に於ける生体情報検出装置の反射光解析部220の一例を説明するブロック図である。
反射光解析部220は、映像データ記憶部221、空間フィルタ223、HSV変換部226及び肌色領域検出部229を備え、画素毎の映像処理を行う。映像データ記憶部221は、RGB信号202を入力とし、コンボリューションカーネルのタップ分のライン遅延を持つ遅延RGB信号222を出力する。空間フィルタ223は、遅延RGB信号222を入力とし、例えば注目画素及びその周りの画素を加重平均し、平滑化したRGB信号224を出力する。HSV変換部226は、平滑化したRGB信号224をR(赤)、G(緑)、B(青)信号に分解したアンパック信号225を入力とし、H信号(色相)すなわち波長データ信号204、S信号(彩度)227及びV信号(明度)228へと変換する。肌色領域検出部229は、H信号(色相)204、S信号(彩度)227及びV信号(明度)228を入力とし、人の肌の色を含む色空間上の領域である肌色領域を示すレベル信号203を出力する。
図8は、本発明の実施例1に於ける空間フィルタの一例を表す図である。
図8は、縦横3タップすなわち3×3のコンボリューションカーネルを画像に適用した例であり、画像の注目画素を中心にカーネルと畳み込み演算を施した値が平滑化したRGB信号224となる。カーネルの値は加重平均の係数であり、それらの合計値は1.0になればよく、平滑化には例えば平均値分布又はガウシアン分布等を用いることができる。
図9は、本発明の実施例1に於けるHSV色空間及び部分色空間の指定範囲の一例を表す図である。
図9はHSV色空間を円柱座標で表現している。縦軸はValueすなわち明度で色の明るさを表し、半径方向の軸はSaturationすなわち彩度で色の濃さを示す。回転角がHueすなわち色相となる。色相は、強さや濃さとは独立で、撮像が光の反射を捉えていると考えると、反射光の波長成分に相当すると考えられる。同様に、明度は特定波長の強度を示すと考えることができる。尚、肌色領域検出部229は、このHSV色空間に於いて図9の領域900のように部分色空間を用いて肌色領域を指定し、HSV値が肌色領域に含まれる場合にはレベル信号203として1、含まれない場合には0を出力すればよい。
図10は、本発明の実施例1に於ける部分色空間の設定方法の一例を説明する図である。
例えば、生体情報検出装置のデータ表示部103が、図10に示すように色相、彩度及び明度のそれぞれの全範囲を示すバーと、それらのバーの上で指定する範囲の両端(例えば色相を指定する「色1」及び「色2」)を指示するアイコンとを表示し、ユーザが映像処理部200の入力装置(図示省略)を用いてそれらのアイコンを操作することによって範囲を指定してもよい。
例えば色相については、0度から360度までの範囲のバーが表示され、0度=360度は赤色、120度は緑色、240度は青色であり、図10に示すように色1と色2で指定した区間(すなわち色1から色2までの色相の範囲)を該当範囲とすればよい。同様に、彩度は0%を淡色、100%を濃色、明度は0%を暗色、100%を明色とし、範囲の両端(例えば彩度については彩度1及び彩度2、明度については明度1及び明度2)を指定することによって範囲を指定すればよい。例えばカメラ100が人物を撮影するときに使用される照明の種類及び撮影される人物ごとの肌の色の個人差等によって、撮影される肌の色及び明るさ等が大きく異なる場合があるが、上記のような設定方法を用いて、適切な色相、彩度及び明度の範囲を設定することによって、撮影環境及び撮影される人物の性質(例えば肌の色)等に応じて適切に脈拍を検出することができる。
図3は、本発明の実施例1に於ける生体情報検出装置の波長揺らぎ検出部の一例を説明するブロック図である。
波長揺らぎ検出部240は、波長差分算出部241、肌面積算出部243、波長差分積算部244及び平均波長差分算出部247を備える。波長差分算出部241は、肌色領域を示すレベル信号203、波長データ信号204及び遅延波長データ信号206を入力とし、肌色領域内の画素の信号が入力された場合(すなわちレベル信号203として1が入力された場合)に、入力された波長データ信号204及び遅延波長データ信号206から算出した(すなわち各時刻の波長データ信号204と当該各時刻より前の時刻の波長データ信号204との差分である)波長差分データ信号242を出力し、肌色領域外の画素の信号が入力された場合は0値を出力する。肌面積算出部243は、肌色領域を示すレベル信号203を入力とし、フレーム毎に肌色領域の画素数をカウントし、肌色面積信号245を出力する。波長差分積算部244は、肌色領域画素の波長差分データ信号242を入力とし、フレーム毎の波長差分を積算し、積算波長差分データ信号246を出力する。平均波長差分算出部247は、肌色面積信号245と積算波長差分データ信号246とを入力とし、積算波長差分データを肌色面積で除算することによって、フレーム間で(すなわち1フレーム内の全画素について)平均した波長差分データ信号207を出力する。
図4は、本発明の実施例1に於ける生体情報検出装置の脈拍検出部の一例を説明するブロック図である。
脈拍検出部260は、差分データ記憶部261、平滑化フィルタ263、平滑データ記憶部265、傾き検出部267、符号データ記憶部269及び極値検出部271を備え、フレーム毎の映像処理を行う。差分データ記憶部261は、波長差分データ信号207を入力とし、遅延波長差分データ信号262を出力する。平滑化フィルタ263は、波長差分データ信号207及び遅延波長差分データ信号262を入力とし、連続時間軸上で複数フレーム分の波長データによって平滑化した波長差分データ信号264を出力する。平滑データ記憶部265は、平滑化した波長差分データ信号264を入力とし、複数フレーム分の波長差分データを保持し、平滑化した遅延波長差分データ信号266を出力する。
傾き検出部267は、ある時刻の平滑化した波長差分データ信号264と平滑データ記憶部265から出力された信号(すなわちより前の時刻の平滑化した波長差分データ信号264)とを比較することによって、平滑化した波長差分データの変化(すなわち傾き)を検出し、傾きの符号を求める符号データ信号268を出力する。具体的には、傾き検出部267は、連続する2フレームの平滑化した波長差分データ信号を比較してもよいし、連続する近傍の数フレームの平均フレーム間で平滑化した波長差分データ信号を比較してもよい。後者の場合、傾き検出部267は、例えば、連続する複数のフレームの波長差分データの平均と、それより前の連続する複数のフレームの波長差分データの平均とを比較して、差分の傾きを計算してもよい。符号データ記憶部269は、符号データ信号268を入力とし、複数フレーム分の符号データを保持し、遅延符号データ信号270を出力する。
極値検出部271は、符号データ信号268及び遅延符号データ信号270を入力とし、傾きの符号が正値から負値へ変化した(すなわち時刻に応じた差分の変化が増加から減少に転じた)フレームを極大、負値から正値へ変化した(すなわち時刻に応じた差分の変化が減少から増加に転じた)フレームを極小とすることで極値を求め、例えば極大値(又は極小値)を脈拍信号102として出力する。あるいは、極値検出部271は、極大値(又は極小値)が検出されたタイミングを示す情報を出力してもよい。
上記のように平滑化フィルタ263が差分データ信号を平滑化することによって、ノイズ等に起因する差分データ信号の微細な変動による脈拍の誤検出が防止される。傾き検出部267が隣接するフレーム間の差分データの変化(傾き)を検出し、その結果に基づいて極値検出部271が差分データの極大値又は極小値を検出することによって、精度よく脈拍信号を生成することができる。傾き検出部267が連続する近傍の複数フレームの平均フレーム間の差分を求める場合には、上記の平滑化と同様に、脈拍の誤検出が防止される。
ここで、データ表示部103において、脈拍信号の極大値を心拍のR波と見立て、極大値間隔すなわちR波間隔を複数フレーム分算出し、周波数解析を行うと、高周波成分(HF)と低周波成分(LF)のピークが見られる。一般的にLF/HFはストレス指標と呼ばれ、ストレス状態の検知にも利用できる。
以上の構成によれば、顔映像の色成分を反射光の波長とスペクトル成分とに分離することで、環境変化に強い検出方法を提供することができる。
なお、上記の実施例1では、カメラ100が可視光のカラーカメラであり、R、G、Bの三つの波長の成分を含む映像信号を生成する。しかし、これは一例であり、カメラ100は、対象物(例えば人間の顔)からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像装置である限り、どのようなものであってもよい。例えば、上記の複数の波長の少なくとも一つが赤外線又は紫外線の領域に含まれてもよい。また、そのような映像信号を生成するために複数のカメラ100が使用されてもよい。
また、カメラ100は二つの波長の成分を含む映像信号を出力してもよい。例えば、カメラ100が出力する映像信号にR信号及びG信号のみが含まれる場合、生成される色空間は、図9に示すHSV色空間のうち色相(Hue)がRからGまでの範囲の領域のみであるが、その領域に肌色領域900が含まれていれば、上記と同様の処理を行うことができる。
また、上記の例ではRGB信号がHSV色空間の信号に変換されるが、色相と明るさを含む色空間である限り、例えばHSL(Hue Saturation Lightness)色空間等、他の色空間の信号に変換されてもよい。いずれの場合も、色相の信号に基づいて波長揺らぎを検出することによって、環境変化に強い検出方法を提供することができる。例えばHSL色空間の場合、輝度が明るさすなわち強度として取得される。
実施例1では、肌色領域を検出し、顔映像として脈拍検出を行う生体情報検出装置の構成を説明した。実施例2では、本発明に係る実施例1と同様の生体情報検出装置に於いて、さらに顔検出を行い、頭部を特定した後、肌色領域を検出する構成を有する生体情報検出装置を説明する。以下に説明する相違点を除き、実施例2の生体情報検出装置の各部は、図1〜図4等に示された実施例1の同一の符号を付された各部と同一の機能を有するため、それらの説明は省略する。
実施例2の生体情報検出装置の構成は、反射光解析部220以外は図1等に示した実施例1の生体情報検出装置の構成と同様である。
図5は、本発明の実施例2に於ける生体情報検出装置の反射光解析部220の一例を説明するブロック図である。
実施例2に於ける反射光解析部220は、映像データ記憶部221、空間フィルタ223、HSV変換部226、顔検出部230及び肌色領域検出部232を備える。これらのうち、顔検出部230はフレーム毎の映像処理を行い、その他の部分は画素毎の映像処理を行う。また、映像データ記憶部221、空間フィルタ223及びHSV変換部226は実施例1と同様であり、肌色領域検出部232の処理の一部が実施例1と異なる。
映像データ記憶部221は、RGB信号202を入力とし、コンボリューションカーネルのタップ分のライン遅延を持つ遅延RGB信号222を出力する。空間フィルタ223は、遅延RGB信号222を入力とし、例えば注目画素及びその周りの画素を加重平均し、平滑化したRGB信号224を出力する。HSV変換部226は、平滑化したRGB信号224をR、G、B信号に分解したアンパック信号225を入力とし、H信号(色相)すなわち波長データ信号204、S信号(彩度)227、V信号(明度)228へと変換する。顔検出部230は、平滑化したRGB信号224を入力とし、例えばViola−Jonesの手法によって顔検出を行い、顔領域信号231を出力する。肌色領域検出部232は、H信号(色相)204、S信号(彩度)227、V信号(明度)228および顔領域信号231を入力とし、図11に示す顔領域信号内の肌色領域を示すレベル信号203を出力する。
図11は、本発明の実施例2に於ける生体情報検出装置の顔検出部230によって検出される顔領域の一例を説明する図である。
図11の例では、人物の顔を含む上半身の画像から、点線枠の領域が顔領域として検出される。
以上の構成によれば、顔を特定することができ、肌色の背景等による誤検出を抑え、脈拍検出を行うことが可能となる。
実施例1及び2では、肌色領域検出によって肌色領域を特定し、肌色領域内の波長差分データに基づいて脈拍検出を行う生体情報検出装置を説明した。実施例3では、本発明に係る実施例1に於いて、外光の影響による誤検出を抑制する構成を説明する。以下に説明する相違点を除き、実施例3の生体情報検出装置の各部は、図1〜図4等に示された実施例1の同一の符号を付された各部と同一の機能を有するため、それらの説明は省略する。
実施例3の生体情報検出装置の構成は、反射光解析部220、波長揺らぎ検出部240及びこれらを結ぶレベル信号203以外は図1等に示した実施例1の生体情報検出装置の構成と同様である。
図6は、本発明の実施例3に於ける生体情報検出装置の反射光解析部220の一例を説明するブロック図である。
反射光解析部220は、映像データ記憶部221、空間フィルタ223、HSV変換部226及び肌色領域検出部229を備え、画素毎の映像処理を行う。映像データ記憶部221は、RGB信号202を入力とし、コンボリューションカーネルのタップ分のライン遅延を持つ遅延RGB信号222を出力する。空間フィルタ223は、遅延RGB信号222を入力とし、例えば注目画素及びその周りの画素を加重平均し、平滑化したRGB信号224を出力する。HSV変換部226は、平滑化したRGB信号224をR、G、B信号に分解したアンパック信号225を入力とし、H信号(色相)すなわち波長データ信号204、S信号(彩度)227、V信号(明度)228へと変換する。肌色領域検出部229は、H信号(色相)204、S信号(彩度)227、V信号(明度)228を入力とし、肌色領域を示す2値レベル信号233(マスク信号)を出力する。反射光解析部220は、2値レベル信号233に応じて明度信号228を切り替えることでレベル信号203を出力する。すなわち、実施例3のレベル信号203の値は、肌色領域外の画素については0、肌色領域内の画素についてはその画素の明度の値となる。
図7は、本発明の実施例3に於ける生体情報検出装置の波長揺らぎ検出部240の一例を説明するブロック図である。
波長揺らぎ検出部240は、波長差分算出部241、肌面積算出部248、面積データ記憶部250、波長差分積算部244、積算データ記憶部256及び平均波長差分算出部255を備える。波長差分算出部241は、肌色領域を示すレベル信号203、波長データ信号204及び遅延波長データ信号206を入力とし、肌色領域内の画素の信号が入力された場合(すなわちレベル信号203として1が入力された場合)に、入力された波長データ信号204及び遅延波長データ信号206から算出した波長差分データ信号242を出力し、肌色領域外の画素の信号が入力された場合は0値を出力する。肌面積算出部248は、肌色領域を示す明度レベルを含む信号203を入力とし、フレーム毎に肌色領域すなわち0値以外の画素数をカウントし、肌色領域の面積を示す肌色面積信号245と、肌色領域の明るさを示す明度レベル信号249と、を出力する。面積データ記憶部250は、肌色面積信号245及び明度レベル信号249を入力とし、遅延肌色面積信号252及び遅延明度レベル信号251を出力する。波長差分積算部244は、肌色領域画素の波長差分データ信号242を入力とし、フレーム毎の波長差分を積算し、積算波長差分データ信号246を出力する。積算データ記憶部256は、波長差分データ信号207を入力とし、複数フレーム間のデータを保持し、遅延積算波長データ信号257を出力する。平均波長差分算出部255は、肌色面積信号245、フレーム間の明度レベル差分信号253、フレーム間の肌色面積差分信号254、積算波長差分データ信号246および遅延積算波長データ信号257を入力とし、積算波長差分データを肌色面積で除算することによって、フレーム内で平均した波長差分データ信号207を出力する。
フレーム間の明度レベル差分信号253は、各フレームの明度レベル信号249と、面積データ記憶部250に格納されている、当該各フレームより前の(例えば直前の)フレームの明度レベル信号249との差分であり、これが大きいほど明度レベルの変化が大きいことを示している。フレーム間の肌色面積差分信号254は、各フレームの肌色面積信号245と、面積データ記憶部250に格納されている、当該各フレームより前の(例えば直前の)フレームの肌色面積信号245との差分であり、これが大きいほど肌色面積の変化が大きいことを示している。
平均波長差分算出部255は、急激な外光変化が起きた場合、すなわち、明度レベル差分信号253が明度レベル差分閾値258と比べ大きい場合、現在のフレームの積算波長差分データ信号246及び肌色面積信号245から算出した平均波長差分データの代わりに、遅延積算波長データ信号257(例えば一つ前のフレームなどの過去のフレームの積算波長差分データ信号246及び肌色面積信号245から算出し、出力した波長差分データ信号207)を現在のフレームに関する波長差分データ信号207として出力してもよいし、当該遅延積算波長データ信号257と現在のフレームの積算波長差分データ信号246及び肌色面積信号245から算出した平均波長差分データとの平均値を現在のフレームに関する波長差分データ信号207として出力してもよい。これによって、外光の急激な変動に起因する誤検出が抑制される。同様に、平均波長差分算出部255は、検出される肌色領域の変化が大きい場合、すなわち、肌色面積差分信号254が肌色面積差分閾値259と比べ大きい場合も、現在のフレームの平均波長差分データの代わりに、遅延積算波長データ信号257、または遅延積算波長データ信号257と現在のフレームの積算波長差分データ信号246及び肌色面積信号245から算出した平均波長差分データとの平均値を現在のフレームに関する波長差分データ信号207として出力してもよい。
以上の構成によれば、脈拍検出に於いて、外光の急激な変動及び撮影された肌色面積の急激な変動の影響に起因する誤検出を抑制し、好適に測定を行うことができる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明のより良い理解のために詳細に説明したのであり、必ずしも説明の全ての構成を備えるものに限定されものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることが可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によってハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによってソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、不揮発性半導体メモリ、ハードディスクドライブ、SSD(Solid State Drive)等の記憶デバイス、または、ICカード、SDカード、DVD等の計算機読み取り可能な非一時的データ記憶媒体に格納することができる。
また、制御線及び情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線及び情報線を示しているとは限らない。実際にはほとんど全ての構成が相互に接続されていると考えてもよい。
101 撮像データ信号
102 脈拍信号
200 映像処理部
202 RGB信号
203 レベル信号
204 波長データ信号(色相信号)
206 遅延波長データ信号
207 波長差分データ信号
222 遅延RGB信号
224 平滑化したRGB信号
225 アンパック信号
227 彩度信号
228 明度信号
231 顔領域信号
233 2値レベル信号(マスク信号)
242 肌色領域画素の波長差分データ信号
245 肌色面積信号
246 積算波長差分データ信号
249 明度レベル信号
251 遅延明度レベル信号
252 遅延肌色面積信号
253 明度レベル差分信号
254 肌色面積差分信号
257 遅延積算波長データ信号
262 遅延波長差分データ信号
264 平滑化した波長差分データ信号
266 平滑化した遅延波長差分データ信号
268 符号データ信号
270 遅延符号データ信号
900 部分色空間

Claims (4)

  1. 対象物からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像部と、前記映像信号から反射光の波長及び強度を取得する反射光解析部と、各時刻の反射光の波長と前記各時刻より前の時刻の反射光の波長との差分を検出する波長揺らぎ検出部と、前記検出された差分の時刻に応じた変化を脈拍として検出する脈拍検出部と、を有することを特徴とする生体情報検出装置であって、
    前記反射光解析部は、
    前記映像信号を、色相及び明るさを含む色空間の信号に変換し、色相を波長として取得し、明るさを強度として取得し、
    人の肌の色を含む所定の範囲の色相を有する肌色領域を検出し、
    前記波長揺らぎ検出部は、
    前記肌色領域の色相に基づいて、前記差分を検出し、
    前記強度に基づく各時刻の前記肌色領域の明るさをその前の時刻の明るさと比較することによって前記肌色領域の明るさの変化を検出し、前記検出した明るさの変化が所定の値より大きい場合、当該明るさの変化が検出された時刻の前記差分の代わりに、当該明るさの変化が検出された時刻より前の時刻の前記差分を出力するか、又は、当該明るさの変化が検出された時刻の前記差分と当該明るさの変化が検出された時刻より前の時刻の前記差分との平均値を出力することを特徴とする生体情報検出装置。
  2. 対象物からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像部と、前記映像信号から反射光の波長及び強度を取得する反射光解析部と、各時刻の反射光の波長と前記各時刻より前の時刻の反射光の波長との差分を検出する波長揺らぎ検出部と、前記検出された差分の時刻に応じた変化を脈拍として検出する脈拍検出部と、を有することを特徴とする生体情報検出装置であって、
    前記反射光解析部は、
    前記映像信号を、色相及び明るさを含む色空間の信号に変換し、色相を波長として取得し、明るさを強度として取得し、
    人の肌の色を含む所定の範囲の色相を有する肌色領域を検出し、
    前記波長揺らぎ検出部は、
    前記肌色領域の色相に基づいて、前記差分を検出し、
    各時刻の前記肌色領域の面積をその前の時刻の面積と比較することによって前記肌色領域の面積の変化を検出し、前記検出した面積の変化が所定の値より大きい場合、当該面積の変化が検出された時刻の前記差分の代わりに、当該面積の変化が検出された時刻より前の時刻の前記差分を出力するか、又は、当該面積の変化が検出された時刻の前記差分と当該面積の変化が検出された時刻より前の時刻の前記差分との平均値を出力することを特徴とする生体情報検出装置。
  3. 対象物からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像部を有する生体情報検出装置が実行する生体情報検出方法であって、
    前記映像信号から反射光の波長及び強度を取得する反射光解析手順と、
    各時刻の反射光の波長と前記各時刻より前の時刻の反射光の波長との差分を検出する波長揺らぎ検出手順と、時刻ごとに検出された前記差分の変化を脈拍として検出する脈拍検出手順と、を含み、
    前記反射光解析手順は、
    前記映像信号を、色相及び明るさを含む色空間の信号に変換し、色相を波長として取得し、明るさを強度として取得する手順と、
    人の肌の色を含む所定の範囲の色相を有する肌色領域を検出する手順と、を含み、
    前記波長揺らぎ検出手順は、
    前記肌色領域の色相に基づいて、前記差分を検出する手順と、
    前記強度に基づく各時刻の前記肌色領域の明るさをその前の時刻の明るさと比較することによって前記肌色領域の明るさの変化を検出し、前記検出した明るさの変化が所定の値より大きい場合、当該明るさの変化が検出された時刻の前記差分の代わりに、当該明るさの変化が検出された時刻より前の時刻の前記差分を出力するか、又は、当該明るさの変化が検出された時刻の前記差分と当該明るさの変化が検出された時刻より前の時刻の前記差分との平均値を出力する手順と、を含むことを特徴とする生体情報検出方法。
  4. 対象物からの反射光を撮影して複数の波長の成分を含む映像信号を出力する撮像部を有する生体情報検出装置が実行する生体情報検出方法であって、
    前記映像信号から反射光の波長及び強度を取得する反射光解析手順と、
    各時刻の反射光の波長と前記各時刻より前の時刻の反射光の波長との差分を検出する波長揺らぎ検出手順と、時刻ごとに検出された前記差分の変化を脈拍として検出する脈拍検出手順と、を含み、
    前記反射光解析手順は、
    前記映像信号を、色相及び明るさを含む色空間の信号に変換し、色相を波長として取得し、明るさを強度として取得する手順と、
    人の肌の色を含む所定の範囲の色相を有する肌色領域を検出する手順と、を含み、
    前記波長揺らぎ検出手順は、
    前記肌色領域の色相に基づいて、前記差分を検出する手順と、
    各時刻の前記肌色領域の面積をその前の時刻の面積と比較することによって前記肌色領域の面積の変化を検出し、前記検出した面積の変化が所定の値より大きい場合、当該面積の変化が検出された時刻の前記差分の代わりに、当該面積の変化が検出された時刻より前の時刻の前記差分を出力するか、又は、当該面積の変化が検出された時刻の前記差分と当該面積の変化が検出された時刻より前の時刻の前記差分との平均値を出力する手順と、を含むことを特徴とする生体情報検出方法。
JP2016231007A 2016-11-29 2016-11-29 生体情報検出装置及び生体情報検出方法 Active JP6767247B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016231007A JP6767247B2 (ja) 2016-11-29 2016-11-29 生体情報検出装置及び生体情報検出方法
US15/826,200 US10691924B2 (en) 2016-11-29 2017-11-29 Biological information detection device and biological information detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016231007A JP6767247B2 (ja) 2016-11-29 2016-11-29 生体情報検出装置及び生体情報検出方法

Publications (2)

Publication Number Publication Date
JP2018086130A JP2018086130A (ja) 2018-06-07
JP6767247B2 true JP6767247B2 (ja) 2020-10-14

Family

ID=62190330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016231007A Active JP6767247B2 (ja) 2016-11-29 2016-11-29 生体情報検出装置及び生体情報検出方法

Country Status (2)

Country Link
US (1) US10691924B2 (ja)
JP (1) JP6767247B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7088662B2 (ja) * 2017-10-31 2022-06-21 株式会社日立製作所 生体情報検出装置および生体情報検出方法
JP7212499B2 (ja) 2018-10-31 2023-01-25 株式会社日立製作所 生体情報検出装置及び生体情報検出方法
JP7237768B2 (ja) * 2019-08-02 2023-03-13 株式会社日立製作所 生体情報検出装置
JP2021045375A (ja) 2019-09-19 2021-03-25 株式会社日立製作所 生体情報検出装置及び生体情報検出方法
JP7234086B2 (ja) * 2019-10-04 2023-03-07 株式会社日立製作所 生体情報取得装置およびプログラム
CN111093487B (zh) * 2019-11-29 2023-02-17 深圳市汇顶科技股份有限公司 自适应的生物特征检测方法及装置、电子设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4752673B2 (ja) * 2005-10-06 2011-08-17 コニカミノルタセンシング株式会社 脈波データ解析方法、システム、プログラム
EP2640268B1 (en) * 2010-11-17 2016-02-03 Koninklijke Philips N.V. System and method for converting an input signal into an output signal
TR201910715T4 (tr) * 2011-01-05 2019-08-21 Koninklijke Philips Nv Karakteristik sinyallerden bilgiyi ekstrakte etmek için cihaz ve yöntem.
JP5672144B2 (ja) 2011-05-20 2015-02-18 富士通株式会社 心拍数・呼吸数検出装置,方法およびプログラム
JP6089577B2 (ja) * 2012-10-19 2017-03-08 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP6098304B2 (ja) * 2013-03-29 2017-03-22 富士通株式会社 脈波検出装置、脈波検出方法及び脈波検出プログラム
JP6191517B2 (ja) * 2014-03-14 2017-09-06 富士通株式会社 検出装置、検出プログラム、及び検出方法
JPWO2016006027A1 (ja) 2014-07-07 2017-04-27 富士通株式会社 脈波検出方法、脈波検出プログラム及び脈波検出装置
JP6683367B2 (ja) * 2015-03-30 2020-04-22 国立大学法人東北大学 生体情報計測装置、生体情報計測方法及び生体情報計測プログラム
CN107427233B (zh) * 2015-03-31 2020-10-02 株式会社爱考斯研究 脉波检测装置、以及脉波检测程序
CN107666853A (zh) * 2015-05-21 2018-02-06 皇家飞利浦有限公司 根据视频序列确定搏动信号

Also Published As

Publication number Publication date
JP2018086130A (ja) 2018-06-07
US10691924B2 (en) 2020-06-23
US20180150682A1 (en) 2018-05-31

Similar Documents

Publication Publication Date Title
JP6767247B2 (ja) 生体情報検出装置及び生体情報検出方法
US8861847B2 (en) System and method for adaptive skin tone detection
EP2897518B1 (en) Device and method for processing data derivable from remotely detected electromagnetic radiation
CN107563976B (zh) 美颜参数获取方法、装置、可读存储介质和计算机设备
JP7088662B2 (ja) 生体情報検出装置および生体情報検出方法
KR102383183B1 (ko) 정보 처리 장치, 정보 처리 시스템, 및, 프로그램
EP3319041B1 (en) Image processing apparatus, image processing method, and storage medium
JP6265640B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2014184002A (ja) 生体検知装置、顔認証装置、撮像装置、生体検知方法及び生体検知プログラム
KR101631012B1 (ko) 화상 처리 장치 및 화상 처리 방법
CN107730446A (zh) 图像处理方法、装置、计算机设备及计算机可读存储介质
CN107945106B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
US12273619B2 (en) Image capturing device, biological information acquisition device, and image capturing method
US11701011B2 (en) Biological information detection device and biological information detection method
CN114241528A (zh) 指纹感测装置及其操作方法
US20130155275A1 (en) Image capturing apparatus, image capturing method, and computer-readable recording medium storing image capturing program
US9147115B2 (en) Method and device for detecting an object in an image
JP2021023490A (ja) 生体情報検出装置
US20230169790A1 (en) Eyeball locating method, image processing device, and image processing system
KR20080043080A (ko) 사람의 피부 영역 검출장치 및 그 방법
JP6585623B2 (ja) 生体情報計測装置、生体情報計測方法および生体情報計測プログラム
US11315359B2 (en) Biological-information detecting device and biological-information detecting method
US12300021B2 (en) Video processing apparatus, control method therefor, and non-transitory computer-readable storage medium
KR101755981B1 (ko) 얼굴 인식형 마우스 구현 장치 및 방법
JP7802335B2 (ja) 脈波検出システム、脈波検出方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200917

R150 Certificate of patent or registration of utility model

Ref document number: 6767247

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150