以下、本発明の制御装置、診断支援装置、制御方法及び制御プログラムについて、添付図面を参照して説明する。
(第1の実施形態)
図1は、第1の実施形態で用いる表示部、ステレオカメラ、および光源の配置の一例を示す図である。図1に示すように、本実施形態では、表示画面101の下側に、1組のステレオカメラ102を配置する。ステレオカメラ102は、赤外線によるステレオ撮影が可能な撮像部であり、右カメラ202と左カメラ204とを備えている。
右カメラ202および左カメラ204の各レンズの直前には、円周方向に赤外LED(Light Emitting Diode)光源203および205がそれぞれ配置される。赤外LED光源203および205は、発光する波長が相互に異なる内周のLEDと外周のLEDとを含む。赤外LED光源203および205により被験者の瞳孔を検出する。瞳孔の検出方法としては、例えば特許文献2に記載された方法などを適用できる。
視線を検出する際には、空間を座標で表現して位置を特定する。本実施形態では、表示画面101の画面の中央位置を原点として、上下をY座標(上が+)、横をX座標(向かって右が+)、奥行きをZ座標(手前が+)としている。
図2は、診断支援装置100の機能の概要を示す図である。図2では、図1に示した構成の一部と、この構成の駆動などに用いられる構成を示している。図2に示すように、診断支援装置100は、右カメラ202と、左カメラ204と、赤外LED光源203および205と、スピーカ105と、駆動・IF(InterFace)部208と、制御部300と、記憶部150と、表示部210と、を含む。図2において、表示画面101は、右カメラ202および左カメラ204との位置関係を分かりやすく示しているが、表示画面101は表示部210において表示される画面である。なお、駆動部とIF部は一体でもよいし、別体でもよい。
スピーカ105は、キャリブレーション時などに、被験者に注意を促すための音声などを出力する音声出力部として機能する。
駆動・IF部208は、ステレオカメラ102に含まれる各部を駆動する。また、駆動・IF部208は、ステレオカメラ102に含まれる各部と、制御部300とのインタフェースとなる。
記憶部150は、制御プログラム、測定結果、診断支援結果など各種情報を記憶する。記憶部150は、例えば、表示部210に表示する画像等を記憶する。表示部210は、診断のための対象画像等、各種情報を表示する。
図3は、図2に示す各部の詳細な機能の一例を示すブロック図である。図3に示すように、制御部300(制御装置)には、表示部210と、駆動・IF部208が接続される。駆動・IF部208は、カメラIF314、315と、LED駆動制御部316と、スピーカ駆動部322と、を備える。
駆動・IF部208には、カメラIF314、315を介して、それぞれ、右カメラ202、左カメラ204が接続される。駆動・IF部208がこれらのカメラを駆動することにより、被験者を撮像する。
図4は、赤外線光源の発光タイミングと左右カメラの撮影タイミングとの関係の一例を示す図である。右カメラ202からはフレーム同期信号FSが出力される。フレーム同期信号FSは、左カメラ204とLED駆動制御部316とに入力される。これにより、第1フレームで、タイミングをずらして左右の波長1の赤外線光源(波長1−LED303、波長1−LED305)を発光させ、それに対応して左右カメラ(右カメラ202、左カメラ204)による画像を取り込み、第2フレームで、タイミングをずらして左右の波長2の赤外線光源(波長2−LED304、波長2−LED306)を発光させ、それに対応して左右カメラによる画像を取り込んでいる。以降、フレーム同期信号FSに従い、第1フレームおよび第2フレームの処理が繰り返される。
図3に戻り、赤外LED光源203は、波長1−LED303と、波長2−LED304と、を備えている。赤外LED光源205は、波長1−LED305と、波長2−LED306と、を備えている。
波長1−LED303、305は、波長1の赤外線を照射する。波長2−LED304、306は、波長2の赤外線を照射する。
波長1および波長2は、それぞれ例えば900nm未満の波長および900nm以上の波長とする。900nm未満の波長の赤外線を照射して瞳孔で反射された反射光を撮像すると、900nm以上の波長の赤外線を照射して瞳孔で反射された反射光を撮像した場合に比べて、明るい瞳孔像が得られるためである。なお、照射する赤外線の波長については、上記に限らず、波長1の赤外線を照射して瞳孔で反射された反射光を撮像した結果と、波長2の赤外線を照射して瞳孔で反射された反射光を撮像した結果とで、差が出せるものであればよい。
スピーカ駆動部322は、スピーカ105を駆動する。なお、診断支援装置100が、印刷部としてのプリンタと接続するためのインタフェース(プリンタIF)を備えてもよい。また、プリンタを診断支援装置100の内部に備えるように構成してもよい。
制御部300は、診断支援装置100全体を制御する。制御部300は、視線検出部351と、視点検出部352と、出力制御部353と、評価部354と、を備えている。制御部300はPC(Personal Computer)等の制御装置であってもよい。
視線検出部351は、撮像部(ステレオカメラ102)により撮像された撮像画像から、被験者の視線(視線方向)を検出する。視線を検出する処理には、被験者の目の位置を検出する処理が含まれる。視点検出部352は、検出された視線方向を用いて被験者の視点を検出する。視点検出部352は、例えば、表示画面101に表示された対象画像のうち、被験者が注視する点である視点(注視点)を検出する。視線検出部351による視線検出方法、および、視点検出部352による視点検出方法としては、従来から用いられているあらゆる方法を適用できる。以下では、特許文献3と同様に、ステレオカメラを用いて被験者の視線方向および注視点を検出する場合を例に説明する。
この場合、まず視線検出部351は、ステレオカメラ102で撮影された画像から、被験者の視線方向を検出する。視線検出部351は、例えば、特許文献1および2に記載された方法などを用いて、被験者の視線方向を検出する。具体的には、視線検出部351は、波長1の赤外線を照射して撮影した画像と、波長2の赤外線を照射して撮影した画像との差分を求め、瞳孔像が明確化された画像を生成する。視線検出部351は、左右のカメラ(右カメラ202、左カメラ204)で撮影された画像それぞれから上記のように生成された2つの画像を用いて、ステレオ視の手法により被験者の瞳孔の位置(目の位置)を算出する。また、視線検出部351は、左右のカメラで撮影された画像を用いて被験者の角膜反射の位置を算出する。そして、視線検出部351は、被験者の瞳孔の位置と角膜反射位置とから、被験者の視線方向を表す視線ベクトルを算出する。
なお、被験者の目の位置および視線の検出方法はこれに限られるものではない。例えば、赤外線ではなく、可視光を用いて撮影した画像を解析することにより、被験者の目の位置および視線を検出してもよい。
視点検出部352は、例えば図1のような座標系で表される視線ベクトルとXY平面との交点を、被験者の注視点として検出する。両目の視線方向が得られた場合は、被験者の左右の視線の交点を求めることによって注視点を計測してもよい。
図5は、2台のカメラ(右カメラ202、左カメラ204)を使用した場合の目および距離の検出の一例を示す図である。2台のカメラは、事前にステレオ較正法によるカメラキャリブレーション理論を適用し、カメラパラメータを求めておく。ステレオ較正法は、Tsaiのカメラキャリブレーション理論を用いた方法など従来から用いられているあらゆる方法を適用できる。右カメラ202で撮影された画像から検出した目の位置と、左カメラ204で撮影された画像から検出した目の位置と、カメラパラメータとを用いて、世界座標系における目の3次元座標が得られる。これにより、目とステレオカメラ102間の距離、および、瞳孔座標を推定することができる。瞳孔座標とは、XY平面上での被験者の目(瞳孔)の位置を表す座標値である。瞳孔座標は、例えば、世界座標系で表される目の位置をXY平面に投影した座標値とすることができる。通常は、左右両目の瞳孔座標が求められる。表示画面101には、診断画像401が表示される。後述するように、診断画像401は、表示画面101の表示領域内に表示する自然画と、表示領域に含まれる部分領域に表示する、自然画と類似する模様を含む模様画像と、を含む。
模様画像は、例えば1以上の幾何学模様を含む画像(幾何学画像)である。自然画は、幾何学画像以外の、自然物または自然物を連想させるような画像であればよい。例えば、人物、動物、植物、および自然の景観などをカメラで撮像した画像(静止画、動画)を自然画として用いてもよい。また、人物および動物などを模したキャラクタの画像(静止画、動画)を自然画として用いてもよい。
図3に戻り、出力制御部353は、表示部210およびスピーカ105などに対する各種情報の出力を制御する。例えば、出力制御部353は、診断画像401、および、評価部354による評価結果などの表示部210に対する出力を制御する。出力制御部353は、複数の診断画像を表示する。例えば、出力制御部353は、第1診断画像を表示部210に表示させた後、第1診断画像とは模様画像の位置や輝度、色相、彩度等が異なる第2診断画像を表示部210に表示させてもよい。この場合、視点検出部352は、第1診断画像および第2診断画像が表示されたときの被験者の視点をそれぞれ検出する。複数の診断画像を用いることにより、より高精度な視点の検出、および、診断支援が可能となる。
評価部354は、診断画像と、視点検出部352により検出された注視点とに基づいて、発達障がいの程度に関する指標として評価値を算出する。評価部354は、例えば、後述する図6から図10などの診断画像を表示した際の被験者の注視点の位置に基づいて、模様画像を見ている時間に対する自然画を見ている時間の割合を評価値として算出し、評価値が低いほど、発達障がいの可能性が高いことを示すような評価値を算出する。評価部354は、診断画像と注視点とに基づいて、評価値を算出すればよく、その算出方法は、実施の形態に限定されるものではない。
図6〜図10は、第1の実施形態における診断画像401(401a〜401e)の一例を示す説明図である。なお、以下では診断画像として動画を用いる例を説明する。診断画像は動画に限られるものではなく、例えば複数の静止画を診断画像として用いてもよい。本実施形態では、表示領域の大部分を人物の映像(人物映像)が占める映像を診断画像として用いている。このような映像は、定型発達の被験者が好んで見る傾向が強い。この映像の一部の領域F(部分領域)に、幾何学的な模様の映像(幾何学模様映像)を表示させる。幾何学的な模様は、発達障がいの被験者が好んで見る傾向が強い。実験の結果、発達障がいの被験者は、ジュリア集合やマンデルブロート集合などによるフラクタル映像などを特に好んで見ることを確認している。発達障がいの被験者は幾何学模様画像を好んで見る傾向が強いが、人物画像と幾何学画像とが類似している場合幾何学模様画像に気づかない場合もある。そこで、本実施形態では診断開始期間において、幾何学模様画像を診断画像内で目立たせる構成とし、発達障がいの被験者が幾何学模様画像に気づくようにしている。なお、自然画像(人物画像を含む)部分と幾何学模様画像とが類似するとは、一例として後述する色、輝度、彩度等が類似することが挙げられる。
ここで重要なことは、領域Fの映像が周囲の人物映像に対して、診断を開始した直後の期間(以下、診断期間Aと呼ぶこともある)において、大きく目立つことにある。定常発達の被験者は、周囲の人物映像を好んで見る傾向が強いため、幾何学模様画像にはじめに注意を引いても診断を開始してからある程度時間が経過した診断期間(診断期間Aが終了した後の期間、以下、診断期間Bと呼ぶこともある)においては周囲の人物映像を見る傾向がある。この診断期間Bにおいて、診断を開始した直後の期間と比較して、幾何学模様画像を目立たなくすることにより定常発達の被験者はより周囲の人物映像を見る傾向となる。一方で発達障がいの被験者は幾何学模様画像を好む傾向が強いため、幾何学模様画像が存在することを知らせるために診断を開始した直後の期間で目立たせるようにする。いったん幾何学模様の存在に気づくことにより、診断期間Bにおいて自然画像と幾何学模様画像との類似度合いを高くすることで、幾何学模様画像が周囲の人物映像と比べ目立たなくした場合においても、発達障がいの被験者は継続して幾何学模様画像を見る傾向が強い。したがって、診断期間Bにおいて、定常発達の被験者と発達障がいの被験者との幾何学模様画像を見る割合の差が大きくなる。
図6から図10は、図11のタイムチャートにおける連続的に変化する診断画像を取り出したものである。図6は表示開始時(0秒)、図7は2秒後、図8は3秒後、図9は6秒後、図10は8秒後の映像である。なお、これらの時間は一例である。図11のタイムチャートでは、映像全体は8秒であり、診断開始直後の3秒(診断期間A、図6、図7、図8)は診断画像における自然画像と幾何学模様画像との差が大きい(類似度合いが低い)期間であり、後半の3秒から8秒(診断期間B、図8、図9、図10)は診断画像における自然画像と幾何学模様画像との差が小さい(類似度合いが高い)期間である。診断画像における自然画像と幾何学模様画像との差が大きい(類似度合いが低い)とは、例えば自然画像と幾何学模様画像との間の色、輝度、彩度の差が大きい場合等がある。自然画像と幾何学模様画像の差については、自然画像の一部分と幾何学模様画像とを比較してもよい。また診断期間Aに含まれる複数の幾何学模様画像の変化量を診断期間Bに含まれる複数の幾何学模様画像の変化量と比べ、大きくするようにしてもよい。この一例として幾何学模様画像を直前の幾何学模様画像と比べ、時間経過とともに、色、輝度、彩度を大きく変化させることや、幾何学模様画像が動画で提供される場合は、その映像の変化量(例えば回転等)を大きくするようにしてもよい。前述したように診断を開始した直後の表示期間(診断期間A)においては、被験者に幾何学模様画像に気づいてもらえるように自然画像と幾何学模様画像との色、輝度、彩度の差を大きくすることや幾何学模様画像の変化量を大きくすることで幾何学模様画像を目立たせる。一方、診断期間Aの後の期間である診断期間Bでは、自然画像と幾何学模様との色、輝度、彩度の差を診断期間Aと比べ小さくする(類似度合いを高くする)ことや診断期間Aと比べ変化量を小さくし、診断画像内の幾何学模様画像をあまり目立たないようにしている。診断期間Bにおいて、自然画像と幾何学模様画像との差は以下の範囲内に収まることが好ましい。マンセル表色系において、色相であれば、マンセル色相環20色の場合、当該色の隣接それぞれ3色以内である。例えば、赤の類似の範囲は、赤みの紫・赤紫・紫みの赤・黄みの赤・黄赤・赤みの黄である。マンセル表色系において、輝度(明度)であれば、明度差3以内、彩度であれば彩度差が6以内である。
なお、図11のタイムチャートでは、診断画像の変化量について3秒を境に大きく変更しているが、時間が経過するにつれ、徐々に変化させるようにしてもよい。
図12は、定型発達の被験者に本装置で診断画像を視聴した時の注視点位置の割合の一例を示す図である。図12の上段は診断期間Aにおける、診断開始から3秒経過するまでの被験者の注視点位置の割合を示している。図12の下段は診断期間Bにおける、3秒経過後から8秒経過後までの被験者の注視点位置の割合を示すものである。定型発達の被験者は、診断期間Aでは人物(自然画)を注視する割合(N1)より幾何学模様を注視する割合(G1)が大きく、診断期間Bでは人物(自然画)を注視する割合(N2)が、幾何学模様を見る割合(G2)より大きくなっている。
図13は、発達障がいの被験者に本装置で診断画像を視聴した時の注視点位置の割合を示す一例である。図13の上段は診断期間Aにおける、診断開始から3秒経過するまでの被験者の注視点位置の割合を示すものである。図13の下段は診断期間Bにおける3秒経過後から8秒経過後までの被験者の注視点位置の割合を示すものである。診断期間Aでは発達障がいの被験者は、幾何学模様を注視する割合(G3)が大きく、診断期間Bではさらに幾何学模様画像を注視する割合(G4)が大きくなっている。また発達障がいの被験者の診断期間Aにおける人物(自然画)を注視する割合(N3)及び診断期間Bにおける人物(自然画)を注視する割合(N4)はいずれも小さくなっている。
定型発達の被験者と発達障がいの被験者とを比較すると、診断期間Bの幾何学模様を注視する割合の差(図12のG2と図13のG4との差)が大きくなっている。したがって、診断期間Bの幾何学模様を注視する割合を調べることにより、定型発達の被験者と発達障がいの被験者の判別の一つの指針となる。
図14は、表示部210に表示される画像の座標についての説明図である。説明のため、表示部210上の座標は左上が原点となっており、上下をY座標(下が+)、横をX座標(向かって右が+)としている。説明の都合上、前述の注視点検出用の世界座標(空間座標)とは異なる。
図14の例では、表示部210の画素数は、Xmax×Ymaxである。領域Fの左辺のX座標をX1、右辺のX座標をX2、上辺のY座標をY1、下辺のY座標をY2とする。このような映像および座標を用いた診断処理の詳細はフローチャート図16〜図18(後述)を用いて説明する。
図15は、これまでの説明で用いた映像(図6〜図11、図14)と異なる映像(診断映像)の一例を示す図である。図15の診断映像では映像の内容や幾何学模様の画像領域が、図6〜図10、図14の画像と異なっている。なお、図15と図6〜図10、図14とは、少なくとも幾何学模様画像の領域の位置が異なっていればよい。
図15において、領域Fの左辺のX座標をX3、右辺のX座標をX4、上辺のY座標をY3、下辺のY座標をY4とする。このような映像および座標を用いた診断処理の詳細はフローチャート図16〜図18(後述)を用いて説明する。
なお、図14および図15では、各診断画像の領域Fの位置が、異なっている。具体的には、表示画面101の表示領域の中心を対称点として点対称となっている。このように表示することにより、いずれの方向から画面を見るか、などの被験者の視聴の傾向を診断することが可能となるともに、この視聴者の傾向を除外して診断を行うことが可能となる。
次に、このように構成された第1の実施形態にかかる診断支援装置100による診断支援処理について図16〜図18を用いて説明する。図16〜図18は、本実施形態における診断支援処理の一例を示すフローチャートである。
最初に図16を用いて、1つの映像により診断支援する場合のフローチャートを説明する。1つの映像は、例えば図11のタイムチャートで表示される連続的に変化する診断画像である。例えば図6から図10で示すような複数の診断画像により構成される。図6は表示開始時、図7は2秒後、図8は3秒後、図9は6秒後、図10は8秒後の映像である。ここで図6、図7は診断を開始した直後の期間(診断期間A)で表示される映像(第一の診断画像)であり、図9、図10は診断を開始した後所定の期間経過した期間(診断期間B)で表示される映像(第二の診断画像)である。診断期間Bで表示される診断画像(第二の診断画像)は、診断期間Aで表示される診断画像(第一の診断画像)と比較して自然画像の部分と幾何学模様画像が類似しているという特徴がある。以下では、自然画(人物映像を含む)と幾何学模様映像とは、予め合成されているものとする。
まず、制御部300は、映像の再生を開始する(ステップS1001)。次に、制御部300は、映像の再生時間より僅かに短い時間を計測するタイマをリセットする(ステップS1002)。次に、制御部300は、領域F内を注視した時にカウントアップするカウンタ1と、領域F外を注視した時にカウントアップするカウンタ2をリセットする(ステップS1003)。次に所定時間(3秒)が経過したかを確認する(ステップS1004)。所定時間が経過すると次のステップへ移行する。映像の再生の開始から所定時間が経過するまでの期間は前述の診断期間Aに対応する。
なお、以下に説明する注視点測定は、例えば、同期して撮像するステレオカメラ102の1フレームごとに行う。すなわち所定の時間間隔ごとに注視点を測定する。従って、カウンタ1およびカウンタ2のカウント値は、それぞれ領域F内および領域F外の注視時間に対応する。
次に、視線検出部351および視点検出部352は、注視点検出を行う(ステップS1005)。次に、制御部300は、注視点検出が失敗したか否かを判断する(ステップS1006)。例えば、瞬きなどにより瞳孔および角膜反射の画像が得られない場合に、注視点検出が失敗する。また、注視点が表示部210の画面内に存在しない場合(表示部210の画面以外を見ていた場合)も、視点検出が失敗する。
注視点検出に失敗した場合(ステップS1006:Yes)、カウンタ1、カウンタ2に影響させないため、ステップS1007〜ステップS1012までの処理をスキップして、ステップS1013に移動する。
注視点検出が成功した場合(ステップS1006:No)、制御部300は、表示部210上の注視点のX座標「x」がX1より大きいかを調べる(ステップS1007)。大きい場合(ステップS1007:Yes)、制御部300は、「x」がX2より小さいかを調べる(ステップS1008)。小さい場合(ステップS1008:Yes)、制御部300は、表示部210上の注視点のY座標「y」がY1より大きいかを調べる(ステップS1009)。大きい場合(ステップS1009:Yes)、制御部300は、「y」がY2より小さいかを調べる(ステップS1010)。「y」がY2より小さい場合(ステップS1010:Yes)、注視点が領域F内に存在することになる。従って、制御部300は、カウンタ1をカウントアップする(ステップS1012)。「y」がY2より小さくない場合(ステップS1010:No)、被験者は領域F外の人物映像等を見ていたことになる。従って、制御部300は、カウンタ2をカウントアップする(ステップS1011)。同様に、「x」がX1より大きくない場合(ステップS1007:No)、「x」がX2より小さくない場合(ステップS1008:No)、および、「y」がY1より大きくない場合(ステップS1009:No)、制御部300は、カウンタ2をカウントアップする(ステップS1011)。
次に、映像の終了を確認するため、制御部300は、タイマの完了を調べる(ステップS1012)。例えば、制御部300は、タイマの値が映像の終了時間に対応する所定値に達した場合に、タイマが完了したと判定する。タイマが完了していない場合(ステップS1013:No)、ステップS1005に戻り処理を繰り返す。
タイマが完了した場合(ステップS1013:Yes)、制御部300は、映像の再生を停止させる(ステップS1014)。ステップS1004により所定時間が経過した後、ステップS1013でタイマが完了するまでの期間は、診断期間Bに対応する。次に、制御部300は、カウンタ1のデータ(値)を出力する(ステップS1015)。カウンタ1のデータは、領域F内の注視時間に対応する。次に、制御部300は、カウンタ2のデータ(値)を出力する(ステップS1016)。カウンタ2のデータは、領域F外の注視時間に対応する。次に評価部354は、カウンタ1とカウンタ2の割合を計算する(ステップS1017)。評価部354は、算出した評価値を出力する(ステップS1018)。例えば、評価部354は、カウンタ2の値に対するカウンタ1の値の割合を表す評価値を算出する。このような評価値は、発達障がいの可能性の指針になる。なお、評価値の算出方法はこれに限られるものではない。自然画および模様画像のいずれを注視しているかを判定可能な値であればどのような評価値を用いてもよい。領域Fを注視した割合が高いほど、被験者が発達障がいである可能性が高くなる。
図17および図18は、2つの映像により診断支援する場合のフローチャートを示す。図17および図18で表示される2つの映像は、例えばそれぞれ図11のタイムチャートで表示される診断映像である。2つの映像のうち1番目の映像を映像1とする。ここで映像1は図11のタイムチャートで表示される連続的に変化する診断画像である。図11のタイムチャートにおいて、図6は表示開始時、図7は2秒後、図8は3秒後、図9は6秒後、図10は8秒後の映像である。ここで図6、図7は診断を開始した直後の期間(診断期間A)で表示される映像(第一の診断画像)であり、図9、図10は診断を開始した後所定の期間経過した期間(診断期間B)で表示される映像(第二の診断画像)である。診断期間Bで表示される診断画像(第二の診断画像)は、診断期間Aで表示される診断画像(第一の診断画像)と比較して自然画像の部分と幾何学模様画像が類似しているという特徴がある。
次に2つの映像のうち2番目の映像を映像2とする。ここで映像2は図11のタイムチャートで表示される連続的に変化する診断画像である。映像2は図14及び図15で示されるように、少なくとも幾何学模様の領域の位置が異なっている。例えば表示開始時は図6に対して幾何学模様の領域の位置を異ならせた診断画像、2秒後は図7に対して幾何学模様の領域の位置を異ならせた診断画像、3秒後は図8に対して幾何学模様の領域の位置を異ならせた診断画像、6秒後は図9に対して幾何学模様の領域の位置を異ならせた診断画像、9秒後は図10に対して幾何学模様の領域の位置を異ならせた診断画像である。一例として、これら診断画像はそれぞれ、幾何学模様画像の領域の位置以外は図6から図10とそれぞれ同様である。診断期間Aに対応する期間に提供される診断画像は第三の診断画像、診断期間Bに対応する期間に提供される診断画像は第四の診断画像である。診断期間Bで表示される診断画像(第四の診断画像)は、診断期間Aで表示される診断画像(第三の診断画像)と比較して自然画像の部分と幾何学模様画像が類似しているという特徴がある。図16と同様に自然画(人物映像を含む)と幾何学模様映像とは予め合成されているものとする。映像1(第一の診断画像、第二の診断画像)と映像2(第三の診断画像、第四の診断画像)は連結され、1つの連続した映像であってもよい。映像1と映像2とは、それぞれ診断期間Aと診断期間Bとに対応する所定の時間で構成されている。
図17は、2つの映像のうち1番目の映像(映像1)を表示するときの処理に相当する。ステップS1101〜ステップS1113までは、図16のステップS1001〜ステップS1013までと同様である。図17では、まだ映像再生を停止させないため、図16のステップS1014に相当する処理は削除される。ステップS1114〜ステップS1117までは、図14のステップS1015〜ステップS1018までと同様である。 なお、この例ではカウンタ1およびカウンタ2の役割は図16とは異なる。
図17および図18では、カウンタ1およびカウンタ2は、2つの映像である映像1(第1診断映像)および映像2(第2診断映像)が再生される時間を通して計数されるカウンタである。すなわち2つの映像全体としての計数を行う。ただし、映像1の終了時に、映像1としての計数結果とその割合が出力される(ステップS1114〜S1117)。 その後、映像2でも継続して計数を行い、合計値が出力される(ステップS1133〜S1136)。
図18について説明する。図18は、2つの映像のうち2番目の映像(映像2)を表示するときの処理に相当する。ステップS1118の直前に、映像2の再生が開始している。
制御部300は、映像2の再生時間より僅かに短い時間を計測するタイマをリセットする(ステップS1118)。次に、制御部300は、映像2において領域F内を注視した時にカウントアップするカウンタ3と、領域F外を注視した時にカウントアップするカウンタ4をリセットする(ステップS1119)。次に所定時間(3秒)が経過したかを確認する(ステップS1120)。所定時間が経過すると次のステップへ移行する。
次に、視線検出部351および視点検出部352は、注視点検出を行う(ステップS1121)。次に、制御部300は、注視点検出が失敗したか否かを判断する(ステップS1122)。
注視点検出に失敗した場合(ステップS1122:Yes)、カウンタ3、カウンタ4に影響させないため、ステップS1123〜ステップS1130までの処理をスキップして、ステップS1131に移動する。
注視点検出が成功した場合(ステップS1122:No)、制御部300は、表示部210上の注視点のX座標「x」がX3より大きいかを調べる(ステップS1123)。大きい場合(ステップS1123:Yes)、制御部300は、「x」がX4より小さいかを調べる(ステップS1124)。小さい場合(ステップS1124:Yes)、制御部300は、表示部210上の注視点のY座標「y」がY3より大きいかを調べる(ステップS1125)。大きい場合(ステップS1125:Yes)、制御部300は、「y」がY4より小さいかを調べる(ステップS1126)。「y」がY4より小さい場合(ステップS1126:Yes)、注視点が領域F内に存在することになる。従って、制御部300は、カウンタ1をカウントアップするとともに(ステップS1129)、カウンタ3をカウントアップする(ステップS1130)。「y」がY4より小さくない場合(ステップS1126:No)、被験者は領域F外の人物映像等を見ていたことになる。従って、制御部300は、カウンタ2をカウントアップするとともに(ステップS1127)、カウンタ4をカウントアップする(ステップS1128)。
次に、映像の終了を確認するため、制御部300は、タイマの完了を調べる(ステップS1131)。タイマが完了していない場合(ステップS1131:No)、ステップS1121に戻り処理を繰り返す。
タイマが完了した場合(ステップS1131:Yes)、制御部300は、映像の再生を停止させる(ステップS1132)。次に、制御部300は、カウンタ1のデータを出力する(ステップS1133)。カウンタ1のデータは、映像1と映像2とを再生した場合の領域F内の注視時間に対応する。次に、制御部300は、カウンタ2のデータを出力する(ステップS1134)。カウンタ2のデータは、映像1と映像2とを再生した場合の領域F外の注視時間に対応する。次に、評価部354は、カウンタ1とカウンタ2の割合を表す評価値を計算する(ステップS1135)。評価部354は、この評価値を出力する(ステップS1136)。
また、評価部354は、カウンタ3のデータを出力する(ステップS1137)。カウンタ3のデータは、映像2における領域F内の注視時間に対応する。次に、評価部354は、カウンタ4のデータを出力する(ステップS1138)。カウンタ4のデータは、映像2における領域F外の注視時間に対応する。次に、評価部354は、カウンタ3とカウンタ4の割合を表す評価値を計算する(ステップS1139)。評価部354は、この評価値を出力する(ステップS1140)。
映像1としての計数結果とその割合(ステップS1114〜S1117)と、映像2と
しての計数結果とその割合(ステップS1137〜S1140)を比較することにより、被験者の傾向を知ることができる。例えば、画面の右側から見る傾向がある場合は、映像1では領域F内のカウント値が上がり、映像2では領域F内のカウント値が下がる傾向がある。両方バランスしている場合には中央部分から見始めて自分の嗜好にあわせて注視していると考えられる。
第1の実施形態において、映像1と映像2を用いた評価について、被験者の画面を注視する傾向について用いることを説明した。領域Fを注視した割合を示す評価値については、映像1と映像2を利用して、より大きな値または小さな値を採用し、最終的な評価値としてもよい。また、2つの評価値を平均して最終的な評価値を求めるようにしてもよい。
以上のように、第1の実施形態によれば、例えば以下のような効果が得られる。
(1)人物映像中に、幾何学的な模様の領域を配置し、その部分が領域外の映像部分と輝度、色相、および、彩度などの表示態様が近い部分と組み合わせて構成し、徐々に形状が変化するようにした。これにより、定型の被験者は当該領域に気が付きにくくなる一方、発達障がいの被験者は当該領域を的確に見つけることができる。従って、従来より、注視点の差が大きくなり、検出精度が向上する。
(2)画面の中心を中心とした幾何学模様領域を点対称に変更しながら、複数回測定する。これにより、特定の方向を見る傾向のある被験者に対して、その傾向を相殺できる。
(第2の実施形態)
第2の実施形態では、第1の実施形態よりも一層、装置構成を簡略化できる視線検出装置および視線検出方法を実現する。
以下に、第2の実施形態の視線検出装置および視線検出方法を図面に基づいて詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。また、以下では、視線検出結果を用いて発達障がいなどの診断を支援する診断支援装置に視線検出装置を用いた例を説明する。適用可能な装置は診断支援装置に限られるものではない。
本実施形態の視線検出装置(診断支援装置)は、1ヵ所に設置された照明部を用いて視線を検出する。また、本実施形態の視線検出装置(診断支援装置)は、視線検出前に被験者に1点を注視させて測定した結果を用いて、角膜曲率中心位置を高精度に算出する。
なお、照明部とは、光源を含み、被験者の眼球に光を照射可能な要素である。光源とは、例えばLED(Light Emitting Diode)などの光を発生する素子である。光源は、1個のLEDから構成されてもよいし、複数のLEDを組み合わせて1ヵ所に配置することにより構成されてもよい。以下では、このように照明部を表す用語として「光源」を用いる場合がある。
図19および20は、第2の実施形態の表示部、ステレオカメラ、赤外線光源および被験者の配置の一例を示す図である。なお、第1の実施形態と同様の構成については同一の符号を付し、説明を省略する場合がある。
図19に示すように、第2の実施形態の診断支援装置は、表示部210と、ステレオカメラ2102と、LED光源2103と、を含む。ステレオカメラ2102は、表示部210の下に配置される。LED光源2103は、ステレオカメラ2102に含まれる2つのカメラの中心位置に配置される。LED光源2103は、例えば波長850nmの近赤外線を照射する光源である。図19では、9個のLEDによりLED光源2103(照明部)を構成する例が示されている。なお、ステレオカメラ2102は、波長850nmの近赤外光を透過できるレンズを使用する。
図20に示すように、ステレオカメラ2102は、右カメラ2202と左カメラ2203とを備えている。LED光源2103は、被験者の眼球111に向かって近赤外光を照射する。ステレオカメラ2102で取得される画像では、瞳孔112が低輝度で反射して暗くなり、眼球111内に虚像として生じる角膜反射113が高輝度で反射して明るくなる。従って、瞳孔112および角膜反射113の画像上の位置を2台のカメラ(右カメラ2202、左カメラ2203)それぞれで取得することができる。
さらに2台のカメラにより得られる瞳孔112および角膜反射113の位置から、瞳孔112および角膜反射113の位置の三次元世界座標値を算出する。本実施形態では、三次元世界座標として、表示画面101の中央位置を原点として、上下をY座標(上が+)、横をX座標(向かって右が+)、奥行きをZ座標(手前が+)としている。
図21は、第2の実施形態の診断支援装置2100の機能の概要を示す図である。図21では、図19および20に示した構成の一部と、この構成の駆動などに用いられる構成を示している。図21に示すように、診断支援装置2100は、右カメラ2202と、左カメラ2203と、LED光源2103と、スピーカ105と、駆動・IF(interface)部208と、制御部2300と、記憶部150と、表示部210と、を含む。図21において、表示画面101は、右カメラ2202および左カメラ2203との位置関係を分かりやすく示しているが、表示画面101は表示部210において表示される画面である。なお、駆動部とIF部は一体でもよいし、別体でもよい。
スピーカ105は、キャリブレーション時などに、被験者に注意を促すための音声などを出力する音声出力部として機能する。
駆動・IF部208は、ステレオカメラ2102に含まれる各部を駆動する。また、駆動・IF部208は、ステレオカメラ2102に含まれる各部と、制御部2300とのインタフェースとなる。
制御部2300は、例えば、CPU(Central Processing Unit)などの制御装置と、ROM(Read Only Memory)やRAM(Random Access Memory)などの記憶装置と、ネットワークに接続して通信を行う通信I/Fと、各部を接続するバスを備えているコンピュータなどにより実現できる。
記憶部150は、制御プログラム、測定結果、診断支援結果など各種情報を記憶する。記憶部150は、例えば、表示部210に表示する画像等を記憶する。表示部210は、診断のための対象画像等、各種情報を表示する。
図22は、図21に示す各部の詳細な機能の一例を示すブロック図である。図22に示すように、制御部2300には、表示部210と、駆動・IF部208が接続される。駆動・IF部208は、カメラIF314、315と、LED駆動制御部316と、スピーカ駆動部322と、を備える。
駆動・IF部208には、カメラIF314、315を介して、それぞれ、右カメラ2202、左カメラ2203が接続される。駆動・IF部208がこれらのカメラを駆動することにより、被験者を撮像する。
スピーカ駆動部322は、スピーカ105を駆動する。なお、診断支援装置2100が、印刷部としてのプリンタと接続するためのインタフェース(プリンタIF)を備えてもよい。また、プリンタを診断支援装置2100の内部に備えるように構成してもよい。
制御部2300は、診断支援装置2100全体を制御する。制御部2300は、第1算出部2351と、第2算出部2352と、第3算出部2353と、視線検出部2354と、視点検出部2355と、出力制御部2356と、評価部2357と、を備えている。なお、視線検出装置としては、少なくとも第1算出部2351、第2算出部2352、第3算出部2353、および、視線検出部2354が備えられていればよい。
制御部2300に含まれる各要素(第1算出部2351、第2算出部2352、第3算出部2353、視線検出部2354、視点検出部2355、出力制御部2356、および、評価部2357)は、ソフトウェア(プログラム)で実現してもよいし、ハードウェア回路で実現してもよいし、ソフトウェアとハードウェア回路とを併用して実現してもよい。
プログラムで実現する場合、当該プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されてコンピュータプログラムプロダクトとして提供される。プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、プログラムを、ROM等に予め組み込んで提供するように構成してもよい。
第1算出部2351は、ステレオカメラ2102により撮像された眼球の画像から、瞳孔の中心を示す瞳孔中心の位置(第1位置)を算出する。第2算出部2352は、撮像された眼球の画像から、角膜反射の中心を示す角膜反射中心の位置(第2位置)を算出する。
第3算出部2353は、LED光源2103と角膜反射中心とを結ぶ直線と、から角膜曲率中心(第3位置)を算出する。例えば、第3算出部2353は、この直線上で、角膜反射中心からの距離が所定値となる位置を、角膜曲率中心として算出する。所定値は、一般的な角膜の曲率半径値などから事前に定められた値を用いることができる。
角膜の曲率半径値には個人差が生じうるため、事前に定められた値を用いて角膜曲率中心を算出すると誤差が大きくなる可能性がある。従って、第3算出部2353が、個人差を考慮して角膜曲率中心を算出してもよい。この場合、第3算出部2353は、まず目標位置を被験者に注視させたときに算出された瞳孔中心および角膜反射中心を用いて、瞳孔中心と目標位置とを結ぶ直線と、角膜反射中心とLED光源2103とを結ぶ直線と、の交点(第4位置)を算出する。そして第3算出部2353は、瞳孔中心と算出した交点との距離(第1距離)を算出し、例えば記憶部150に記憶する。
目標位置は、予め定められ、三次元世界座標値が算出できる位置であればよい。例えば、表示画面101の中央位置(三次元世界座標の原点)を目標位置とすることができる。この場合、例えば出力制御部2356が、表示画面101上の目標位置(中央)に、被験者に注視させる画像(目標画像)等を表示する。これにより、被験者に目標位置を注視させることができる。
目標画像は、被験者を注目させることができる画像であればどのような画像であってもよい。例えば、輝度や色などの表示態様が変化する画像、および、表示態様が他の領域と異なる画像などを目標画像として用いることができる。
なお、目標位置は表示画面101の中央に限られるものではなく、任意の位置でよい。表示画面101の中央を目標位置とすれば、表示画面101の任意の端部との距離が最小になる。このため、例えば視線検出時の測定誤差をより小さくすることが可能となる。
距離の算出までの処理は、例えば実際の視線検出を開始するまでに事前に実行しておく。実際の視線検出時には、第3算出部2353は、LED光源2103と角膜反射中心とを結ぶ直線上で、瞳孔中心からの距離が、事前に算出した距離となる位置を、角膜曲率中心として算出する。
視線検出部2354は、瞳孔中心と角膜曲率中心とから被験者の視線を検出する。例えば視線検出部2354は、角膜曲率中心から瞳孔中心へ向かう方向を被験者の視線方向として検出する。
視点検出部2355は、検出された視線方向を用いて被験者の視点を検出する。視点検出部2355は、例えば、表示画面101で被験者が注視する点である視点(注視点)を検出する。視点検出部2355は、例えば図20のような三次元世界座標系で表される視線ベクトルとXY平面との交点を、被験者の注視点として検出する。
出力制御部2356は、表示部210およびスピーカ105などに対する各種情報の出力を制御する。例えば、出力制御部2356は、表示部210上の目標位置に目標画像を出力させる。また、出力制御部2356は、診断画像、および、評価部2357による評価結果などの表示部210に対する出力を制御する。
診断画像は、視線(視点)検出結果に基づく評価処理に応じた画像であればよい。例えば発達障がいを診断する場合であれば、発達障がいの被験者が好む画像(幾何学模様映像など)と、それ以外の画像(人物映像など)と、を含む診断画像を用いてもよい。
評価部2357は、診断画像と、視点検出部2355により検出された注視点とに基づく評価処理を行う。例えば発達障がいを診断する場合であれば、評価部2357は、診断画像と注視点とを解析し、発達障がいの被験者が好む画像を注視したか否かを評価する。
出力制御部2356が第1の実施形態と同様の診断画像を表示し、評価部2357が第1の実施形態の評価部354と同様の評価処理を行ってもよい。言い換えると、第1の実施形態の視線検出処理(視線検出部351)を、第2の実施形態の視線検出処理(第1算出部2351、第2算出部2352、第3算出部2353、視線検出部2354)で置き換えてもよい。これにより、第1の実施形態の効果に加えて、第2の実施形態の効果(装置構成の簡略化など)を達成可能となる。
図23は、本実施形態の診断支援装置2100により実行される処理の概要を説明する図である。図19〜図22で説明した要素については同一の符号を付し説明を省略する。
瞳孔中心407および角膜反射中心408は、それぞれ、LED光源2103を点灯させた際に検出される瞳孔の中心、および、角膜反射点の中心を表している。角膜曲率半径409は、角膜表面から角膜曲率中心410までの距離を表す。
図24は、2つの光源(照明部)を用いる方法(以下、方法Aとする)と、1つの光源(照明部)を用いる本実施形態との違いを示す説明図である。図19〜図22で説明した要素については同一の符号を付し説明を省略する。
方法Aは、LED光源2103の代わりに、2つのLED光源511、512を用いる。方法Aでは、LED光源511を照射したときの角膜反射中心513とLED光源511とを結ぶ直線515と、LED光源512を照射したときの角膜反射中心514とLED光源512とを結ぶ直線516との交点が算出される。この交点が角膜曲率中心505となる。
これに対し、本実施形態では、LED光源2103を照射したときの、角膜反射中心522とLED光源2103とを結ぶ直線523を考える。直線523は、角膜曲率中心505を通る。また角膜の曲率半径は個人差による影響が少なくほぼ一定の値になることが知られている。このことから、LED光源2103を照射したときの角膜曲率中心は、直線523上に存在し、一般的な曲率半径値を用いることにより算出することが可能である。
しかし、一般的な曲率半径値を用いて求めた角膜曲率中心の位置を使用して視点を算出すると、眼球の個人差により視点位置が本来の位置からずれて、正確な視点位置検出ができない場合がある。
図25は、視点検出(視線検出)を行う前に、角膜曲率中心位置と、瞳孔中心位置と角膜曲率中心位置との距離を算出する算出処理を説明するための図である。図19〜図22で説明した要素については同一の符号を付し説明を省略する。
目標位置605は、表示部210上の一点に目標画像等を出して、被験者に見つめさせるための位置である。本実施形態では表示画面101の中央位置としている。直線613は、LED光源2103と角膜反射中心612とを結ぶ直線である。直線614は、被験者が見つめる目標位置605(注視点)と瞳孔中心611とを結ぶ直線である。角膜曲率中心615は、直線613と直線614との交点である。第3算出部2353は、瞳孔中心611と角膜曲率中心615との距離616を算出して記憶しておく。
図26は、本実施形態の算出処理の一例を示すフローチャートである。
まず出力制御部2356は、表示画面101上の1点に目標画像を再生し(ステップS101)、被験者にその1点を注視させる。次に、制御部2300は、LED駆動制御部316を用いてLED光源2103を被験者の目に向けて点灯させる(ステップS102)。制御部2300は、左右カメラ(右カメラ2202、左カメラ2203)で被験者の目を撮像する(ステップS103)。
LED光源2103の照射により、瞳孔部分は暗い部分(暗瞳孔)として検出される。またLED照射の反射として、角膜反射の虚像が発生し、明るい部分として角膜反射点(角膜反射中心)が検出される。すなわち、第1算出部2351は、撮像された画像から瞳孔部分を検出し、瞳孔中心の位置を示す座標を算出する。また、第2算出部2352は、撮像された画像から角膜反射部分を検出し、角膜反射中心の位置を示す座標を算出する。なお、第1算出部2351および第2算出部2352は、左右カメラで取得した2つの画像それぞれに対して、各座標値を算出する(ステップS104)。
なお、左右カメラは、三次元世界座標を取得するために、事前にステレオ較正法によるカメラ較正が行われており、変換パラメータが算出されている。ステレオ較正法は、Tsaiのカメラキャリブレーション理論を用いた方法など従来から用いられているあらゆる方法を適用できる。
第1算出部2351および第2算出部2352は、この変換パラメータを使用して、左右カメラの座標から、瞳孔中心と角膜反射中心の三次元世界座標に変換を行う(ステップS105)。第3算出部2353は、求めた角膜反射中心の世界座標と、LED光源2103の中心位置の世界座標とを結ぶ直線を求める(ステップS106)。次に、第3算出部2353は、表示画面101の1点に表示される目標画像の中心の世界座標と、瞳孔中心の世界座標とを結ぶ直線を算出する(ステップS107)。第3算出部2353は、ステップS106で算出した直線とステップS107で算出した直線との交点を求め、この交点を角膜曲率中心とする(ステップS108)。第3算出部2353は、このときの瞳孔中心と角膜曲率中心との間の距離を算出して記憶部150などに記憶する(ステップS109)。記憶された距離は、その後の視点(視線)検出時に、角膜曲率中心を算出するために使用される。
算出処理で表示部210上の1点を見つめる際の瞳孔中心と角膜曲率中心との間の距離は、表示部210内の視点を検出する範囲で一定に保たれている。瞳孔中心と角膜曲率中心との間の距離は、目標画像を再生中に算出された値全体の平均から求めてもよいし、再生中に算出された値のうち何回かの値の平均から求めてもよい。
図27は、視点検出を行う際に、事前に求めた瞳孔中心と角膜曲率中心との距離を使用して、補正された角膜曲率中心の位置を算出する方法を示した図である。注視点805は、一般的な曲率半径値を用いて算出した角膜曲率中心から求めた注視点を表す。注視点806は、事前に求めた距離を用いて算出した角膜曲率中心から求めた注視点を表す。
瞳孔中心811および角膜反射中心812は、それぞれ、視点検出時に算出された瞳孔中心の位置、および、角膜反射中心の位置を示す。直線813は、LED光源2103と角膜反射中心812とを結ぶ直線である。角膜曲率中心814は、一般的な曲率半径値から算出した角膜曲率中心の位置である。距離815は、事前の算出処理により算出した瞳孔中心と角膜曲率中心との距離である。角膜曲率中心816は、事前に求めた距離を用いて算出した角膜曲率中心の位置である。角膜曲率中心816は、角膜曲率中心が直線813上に存在すること、および、瞳孔中心と角膜曲率中心との距離が距離815であることから求められる。これにより一般的な曲率半径値を用いる場合に算出される視線817は、視線818に補正される。また、表示画面101上の注視点は、注視点805から注視点806に補正される。
図28は、本実施形態の視線検出処理の一例を示すフローチャートである。例えば、診断画像を用いた診断処理の中で視線を検出する処理として、図28の視線検出処理を実行することができる。診断処理では、図28の各ステップ以外に、診断画像を表示する処理、および、注視点の検出結果を用いた評価部2357による評価処理などが実行される。
ステップS201〜ステップS205は、図26のステップS102〜ステップS106と同様であるため説明を省略する。
第3算出部2353は、ステップS205で算出した直線上であって、瞳孔中心からの距離が、事前の算出処理によって求めた距離と等しい位置を角膜曲率中心として算出する(ステップS206)。
視線検出部2354は、瞳孔中心と角膜曲率中心とを結ぶベクトル(視線ベクトル)を求める(ステップS207)。このベクトルが、被験者が見ている視線方向を示している。視点検出部2355は、この視線方向と表示画面101との交点の三次元世界座標値を算出する(ステップS208)。この値が、被験者が注視する表示部210上の1点を世界座標で表した座標値である。視点検出部2355は、求めた三次元世界座標値を、表示部210の二次元座標系で表される座標値(x,y)に変換する(ステップS209)。これにより、被験者が見つめる表示部210上の視点(注視点)を算出することができる。
以上のように、本実施形態によれば、例えば以下のような効果が得られる。
(1)光源(照明部)を2ヶ所に配置する必要がなく、1ヵ所に配置した光源で視線検出を行うことが可能となる。
(2)光源が1ヵ所になったため、装置をコンパクトにすることが可能となり、コストダウンも実現できる。