以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の監視システム(例えば、図1の監視システム10)は、物体の存在を検出する第1のセンサから第1のセンサデータを取得するとともに、物体が接近しているのかまたは離反しているのかを検出する第2のセンサから第2のセンサデータを取得する取得手段(例えば、図26のステップS2の処理を実行する図4の状態記述部41)と、取得手段により取得された第1および第2のセンサデータに基づいて、第1および第2のセンサの反応状態に関する状態データを記述する状態データ記述手段(例えば、図27のステップS21乃至S29の処理を実行する図4の状態記述部41)と、状態データ記述手段により記述された状態データと判定テーブルを比較し、状態データのうち第1のセンサの反応状態に基づく第1の判定データが判定テーブルに保持されるデータに基づく第1の条件を満たすか否かを判定し、第1の判定データが第1の条件を満たす場合には、さらに、状態データのうち第2のセンサの反応状態に基づく第2の判定データが判定テーブルに保持されるデータに基づく第2の条件を満たすか否かを判定することによって、イベントを通知するか否かを判定する判定手段(例えば、図28のステップS41乃至S48の処理を実行する図4のイベント通知判定部42)と、判定手段において、第1の条件を満たしていないと判定されるか、または、第1の条件を満たし、さらに第2の条件も満たすと判定された場合、イベントに関するデータであるイベントデータを含む呈示データを構築する構築手段(例えば、図29のステップS63の処理を実行する図4の呈示画像構築部52)と、構築手段により構築された呈示データに基づく呈示を行う呈示手段(例えば、図29のステップS63の処理を実行する図4の呈示部3、または図31のステップS112の処理を実行する図4の呈示部62)とを備えることを特徴とする。
請求項2に記載の監視システムの第1のセンサは、フォトセンサ(例えば、図2のフォトセンサ22)であり、第2のセンサは、マイクロ波センサ(例えば、図2のマイクロ波センサ23)であることを特徴とする。
請求項3に記載の監視システムの状態データ(例えば、図22に示す状態記述データ111−1乃至111−n)は、第1のセンサの反応状態に応じて分類される反応記号および反応状態の継続時間、並びに、反応状態における第2のセンサの反応状態に関する特徴量を含むことを特徴とする。
請求項4に記載の監視システムの構築手段は、テレビジョン放送に基づく信号(例えば、図4に示す一般視聴信号)にイベントデータを挿入して呈示データを構築することを特徴とする。
請求項5に記載の監視システムの構築手段は、判定手段において、第1の条件を満たし、第2の条件は満たさないと判定された場合、予め定められた信号(例えば、図4に示す一般視聴信号)に基づくデータを呈示データとすることを特徴とする。
請求項6に記載の監視方法は、物体の存在を検出する第1のセンサから第1のセンサデータを取得するとともに、物体が接近しているのかまたは離反しているのかを検出する第2のセンサから第2のセンサデータを取得する取得ステップ(例えば、図26のステップS2)と、取得ステップの処理により取得された第1および第2のセンサデータに基づいて、第1および第2のセンサの反応状態に関する状態データを記述する状態データ記述ステップ(例えば、図27のステップS21乃至S29)と、状態データ記述ステップの処理により記述された状態データと判定テーブルを比較し、状態データのうち第1のセンサの反応状態に基づく第1の判定データが判定テーブルに保持されるデータに基づく第1の条件を満たすか否かを判定し、第1の判定データが第1の条件を満たす場合には、さらに、状態データのうち第2のセンサの反応状態に基づく第2の判定データが判定テーブルに保持されるデータに基づく第2の条件を満たすか否かを判定することによって、イベントを通知するか否かを判定する判定ステップ(例えば、図28のステップS41乃至S48)と、判定ステップの処理において、第1の条件を満たしていないと判定されるか、または、第1の条件を満たし、さらに第2の条件も満たすと判定された場合、イベントに関するデータであるイベントデータを含む呈示データを構築する構築ステップ(例えば、図29のステップS63)と、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップ(例えば、図29のステップS63または図31のステップS112)とを含むことを特徴とする。
なお、請求項7に記載の記録媒体に記録されているプログラム、および請求項8に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項6に記載の監視方法と同様である。
請求項9に記載の情報処理装置(例えば、図1のマルチセンサカメラ1)は、物体の存在を検出する第1のセンサから第1のセンサデータを取得するとともに、物体が接近しているのかまたは離反しているのかを検出する第2のセンサから第2のセンサデータを取得する取得手段(例えば、図26のステップS2の処理を実行する図4の状態記述部41)と、取得手段により取得された第1および第2のセンサデータに基づいて、第1および第2のセンサの反応状態に関する状態データを記述する状態データ記述手段(例えば、図27のステップS21乃至S29の処理を実行する図4の状態記述部41)と、状態データ記述手段により記述された状態データと判定テーブルを比較し、状態データのうち第1のセンサの反応状態に基づく第1の判定データが判定テーブルに保持されるデータに基づく第1の条件を満たすか否かを判定し、第1の判定データが第1の条件を満たす場合には、さらに、状態データのうち第2のセンサの反応状態に基づく第2の判定データが判定テーブルに保持されるデータに基づく第2の条件を満たすか否かを判定することによって、イベントを通知するか否かを判定する判定手段(例えば、図28のステップS41乃至S48の処理を実行する図4のイベント通知判定部42)と、判定手段において、第1の条件を満たしていないと判定されるか、または、第1の条件を満たし、さらに第2の条件も満たすと判定された場合、イベントに関するデータであるイベントデータを他の装置に送信する送信手段(例えば、図26のステップS11の処理を実行する図4のイベント通知判定部42)とを備えることを特徴とする。
請求項10に記載の情報処理装置は、他の装置(例えば、図1の処理ボックス2)から供給された判定テーブル(例えば、図25に示すパターン141−1乃至141−kからなる通知判定テーブル)を取得し、蓄積する判定テーブル蓄積手段(例えば、図26のステップS13の処理を実行する図23の通知判定テーブル蓄積部122)をさらに備えることを特徴とする。
請求項11に記載の情報処理装置は、前記イベントの通知が終了された場合(例えば、図26のステップS5)、送信手段が、イベントデータの送信を停止し、状態データ記述手段により記述された状態データを他の装置に送信する(図26のステップS7)ことを特徴とする。
請求項12に記載の情報処理装置の第1のセンサは、フォトセンサ(例えば、図2のフォトセンサ22)であり、第2のセンサは、マイクロ波センサ(例えば、図2のマイクロ波センサ23)であることを特徴とする。
請求項13に記載の情報処理装置の状態データ(例えば、図22に示す状態記述データ111−1乃至111−n)は、第1のセンサの反応状態に応じて分類される反応記号および反応状態の継続時間、並びに、反応状態における第2のセンサの反応状態に関する特徴量を含むことを特徴とする。
請求項14に記載の情報処理方法は、物体の存在を検出する第1のセンサから第1のセンサデータを取得するとともに、物体が接近しているのかまたは離反しているのかを検出する第2のセンサから第2のセンサデータを取得する取得ステップ(例えば、図26のステップS2)と、取得ステップの処理により取得された第1および第2のセンサデータに基づいて、第1および第2のセンサの反応状態に関する状態データを記述する状態データ記述ステップ(例えば、図27のステップS21乃至S29)と、状態データ記述ステップの処理により記述された状態データと判定テーブルを比較し、状態データのうち第1のセンサの反応状態に基づく第1の判定データが判定テーブルに保持されるデータに基づく第1の条件を満たすか否かを判定し、第1の判定データが第1の条件を満たす場合には、さらに、状態データのうち第2のセンサの反応状態に基づく第2の判定データが判定テーブルに保持されるデータに基づく第2の条件を満たすか否かを判定することによって、イベントを通知するか否かを判定する判定ステップ(例えば、図28のステップS41乃至S48)と、判定ステップの処理において、第1の条件を満たしていないと判定されるか、または、第1の条件を満たし、さらに第2の条件も満たすと判定された場合、イベントに関するデータであるイベントデータを他の装置に送信する送信ステップ(例えば、図26のステップS11)とを含むことを特徴とする。
なお、請求項15に記載の記録媒体に記録されているプログラム、および請求項16に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項14に記載の情報処理方法と同様である。
請求項17に記載の情報処理装置(例えば、図1の処理ボックス2)は、物体の存在を検出する第1のセンサおよび物体が接近しているのかまたは離反しているのかを検出する第2のセンサの反応状態に関する状態データと判定テーブルとに基づいてイベントを通知する他の装置から送信されてくる、イベントに関するデータであるイベントデータ、状態データ、及びイベントの通知を受信する受信手段(例えば、図29のステップS66の処理を実行する図4の受信部51)と、状態データを蓄積するかどうかを表す外部からのデータに基づいて、受信手段により受信された状態データを判定テーブルとして蓄積する蓄積手段(例えば、図29のステップS68の処理を実行する図4の状態記述データ蓄積部53)と、受信手段においてイベントの通知を受信した場合、イベントの通知とともに受信されたイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築手段(例えば、図29のステップS63の処理を実行する図4の呈示画像構築部52)と、蓄積手段に蓄積されている判定テーブルを他の装置に送信する送信手段(例えば、図29のステップS74の処理を実行する図4の送信部55)とを備えることを特徴とする。
請求項18に記載の情報処理装置は、構築手段により構築された呈示データに基づく呈示を行う呈示手段(例えば、図29のステップS63の処理を実行する図4の呈示部3、または図31のステップS112の処理を実行する図4の呈示部62)をさらに備えることを特徴とする。
請求項19に記載の情報処理装置は、呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段(例えば、図29のステップS69の処理を実行する図4の通知判定テーブル更新部54)をさらに備え、蓄積手段は、取得手段により取得されたユーザからの判断の入力を状態データに対応付ける(例えば、図29のステップS71)ことを特徴とする。
請求項20に記載の情報処理装置は、受信手段においてイベントの通知を受信していない場合、構築手段が、予め定められた信号(例えば、図4に示す一般視聴信号)に基づくデータを呈示データとすることを特徴とする。
請求項21に記載の情報処理装置の第1のセンサは、フォトセンサ(例えば、図2のフォトセンサ22)であり、第2のセンサは、マイクロ波センサ(例えば、図2のマイクロ波センサ23)であることを特徴とする。
請求項22に記載の情報処理装置の状態データ(例えば、図22に示す状態記述データ111−1乃至111−n)は、第1のセンサの反応状態に応じて分類される反応記号および反応状態の継続時間、並びに、反応状態における第2のセンサの反応状態に関する特徴量を含むことを特徴とする。
請求項23に記載の情報処理方法は、物体の存在を検出する第1のセンサおよび物体が接近しているのかまたは離反しているのかを検出する第2のセンサの反応状態に関する状態データと判定テーブルとに基づいてイベントを通知する他の装置から送信されてくる、イベントに関するデータであるイベントデータ、状態データ、及びイベントの通知を受信する受信ステップ(例えば、図29のステップS66)と、状態データを蓄積するかどうかを表す外部からのデータに基づいて、受信された状態データを判定テーブルとして蓄積する蓄積ステップ(例えば、図29のステップS68)と、受信ステップの処理においてイベントの通知を受信した場合、イベントの通知とともに受信されたイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップ(例えば、図29のステップS63)と、蓄積されている判定テーブルを他の装置に送信する送信ステップ(例えば、図29のステップS74)とを含むことを特徴とする。
なお、請求項24に記載の記録媒体に記録されているプログラム、および請求項25に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項23に記載の情報処理方法と同様である。
以下に、本発明の実施の形態について図面を参照して説明する。
図1は、本発明を適用した監視システム10の構成例を表している。この構成例においては、図中左側の監視領域側にマルチセンサカメラ1が備えられており、図中右側の通知・呈示側に、処理ボックス2、呈示部3、および、処理ボックス2を遠隔操作するためのリモートコントローラ4が備えられている。マルチセンサカメラ1と処理ボックス2は、無線アンテナ1Aと無線アンテナ2Aを介して、相互に無線通信を行なう。処理ボックス2とリモートコントローラ4は、相互に無線通信あるいは赤外線通信を行う。処理ボックス2と呈示部3は、バスなどの有線あるいは無線により接続されている。なお、マルチセンサカメラ1と処理ボックス2は、無線通信に限られるものではなく、有線による通信であってもよい。
マルチセンサカメラ1は、イベントを監視したい領域(必要な場所)に設置されている。マルチセンサカメラ1には、例えば、図2に示されるように、CCD(Charge Coupled Device)カメラ21、フォトセンサ22、およびマイクロ波センサ23が設けられており、各センサは、図示せぬバッテリにより駆動される。
CCDカメラ21は、監視領域(視野角)内の状況を随時撮影する。その詳細は後述するが、マルチセンサカメラ1は、フォトセンサ22およびマイクロ波センサ23で検出されたイベントに基づいて、イベントデータを通知するか否かを判定し、イベントデータを通知すると判定した場合、CCDカメラ21で撮影された画像データ(イベントデータ)を処理ボックス2に送信する。
フォトセンサ22は、図3に示されるように、自己が監視することが可能な領域31内の平均輝度を検知信号として出力しており、人物が領域31内に進入または退出したことに応じて、その出力が変化する。
マイクロ波センサ23は、マイクロ波を発生し、図3に示されるように、自己が監視することが可能な領域32内に照射しており、そのマイクロ波が人物(監視対象)に当たって反射されたときの反射波を検知し、反射波が基準の位相より進んでいるか、または遅れているかを表わす検知信号を生成する。この位相の進みと遅れは、ドップラ効果によるものであり、物体の接近または離反に対応している。以下、フォトセンサ22およびマイクロ波センサ23が監視することが可能な領域31,32を、単に、監視領域31,32と記載する。なお、図3の例では、フォトセンサ22の監視領域31は、マイクロ波センサ23の監視領域32に較べ、その領域(視野角)が狭くなっている。
図1の説明に戻る。マルチセンサカメラ1は、イベントを通知すると判定した場合、無線アンテナ1Aを介して、イベント呈示に必要なデータを処理ボックス2に送信する。
処理ボックス2は、マルチセンサカメラ1から送信されてきたイベント呈示に必要なデータを、無線アンテナ2Aを介して受信し、その受信データに基づいて呈示画像および音声を構築し、呈示部3およびリモートコントローラ4に供給または送信して、イベントを呈示させる。
呈示部3は、例えば、一般のテレビジョン受像機とされ、イベントが発生していない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を表示し、イベントが発生した場合、一般の視聴信号の一部分にイベント画像が挿入されたピクチャインピクチャの画像を表示する。なお、呈示部3は、テレビジョン受像機に限定されるものではなく、専用のモニタでもよい。また、表示される画像は、ピクチャインピクチャの画像ではなく、画面全体の画像としてもよい。
ユーザは、呈示部3に呈示されたイベントに対して、判断を行ない、その判断の結果に基づいて、リモートコントローラ4から各種指令を入力することができる。例えば、いま発生したイベントを今後も知らせて欲しいときは、その旨を、OKボタン(図示せず)を操作し、いま発生したイベントを今後は知らせなくてもよいときは、その旨を、NGボタン(図示せず)を操作して指示入力することができる。このユーザからの判断の入力に基づいて、処理ボックス2で作成される、イベントを通知するか否かを判定する際に用いられる通知判定テーブル(後述)が時間とともに変化するため、ユーザが監視システム10を使用する度にユーザが意図するイベントのみが検知され、通知されるようになる。
またマルチセンサカメラ1に搭載されるCCDカメラ21は、イベントを通知すると判定された場合にのみ動作するため、無駄な消費電力を抑えることができる。
図4は、図1に示した監視システム10の機能的構成例を示すブロック図である。
マルチセンサカメラ1のCCDカメラ21は、監視領域内の状況を随時撮影し、画像信号を通知画像データとしてスイッチ44を介して送信部45に供給する。
フォトセンサ22は、監視領域31(図3)内の平均輝度をフォトセンサデータとして状態記述部41に供給する。
ここで、図5乃至図7を参照して、フォトセンサ22の原理について説明する。
図5は、フォトセンサ22が出力する検知信号の例を説明する図である。
図5Aは、人物71が、図中矢印で示される方向からフォトセンサ22の監視領域31内に進入し、退出する様子を模式的に示している。フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、図5Aに示されるように人物71が行動した場合、それに対応して、例えば、図5Bに示されるような変化を示す。同図において、縦軸はフォトセンサ22が出力する検知信号の出力レベルを表わし、横軸は時間を表わしている。また、基準値Lは、人物71が監視領域31内に侵入していない場合のセンサ出力値であり、背景の平均輝度に対応している。この例の場合、フォトセンサ22が出力する検知信号81は、人物71が監視領域31内に進入していくに従って、その出力レベルが徐々に大きくなり、退出するに従って、その出力レベルが徐々に小さくなる。
なお、図5Bに示す検知信号81は、人物71に対する平均輝度の出力レベルが基準値(背景に対する平均輝度)Lより高い場合の特性を表わしており、人物71に対する平均輝度の出力レベルが基準値Lより低い場合には、検知信号81の出力変化は、負の方向に変化する。
図6は、フォトセンサ22が出力する検知信号の他の例を説明する図である。
図6Aは、フォトセンサ22の監視領域31内において、人物71が、図中矢印で示されるように、フォトセンサ22に接近し、離反する(遠ざかる)様子を模式的に示している。上述したように、フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、図6Aに示されるように人物71が行動した場合、それに対応して、例えば、図6Bに示されるような変化を示す。この例の場合、フォトセンサ22が出力する検知信号81は、人物71がフォトセンサ22に接近していくに従って、その出力レベルが徐々に大きくなり、離反するに従って、その出力レベルが徐々に小さくなる。また、人物71が監視領域31内に侵入している状態で、フォトセンサ22に接近し、離反しているため、図6Bに示す検知信号81の出力レベルは、図5Bに示した値より高い特性を示している。
なお、上述したように、図6Bに示す検知信号81は、人物71に対する平均輝度の出力レベルが基準値Lより高い場合の特性を表わしており、人物71に対する平均輝度の出力レベルが基準値Lより低い場合には、検知信号81の出力変化は、やはり負の方向に変化する。
図5および図6に示したように、人物71の行動に応じて、フォトセンサ22が出力する検知信号81の出力レベルの変化および変化する方向(すなわち、徐々に大きくなる方向、または徐々に小さくなる方向)には決まった特性が表れる。従って、フォトセンサ22が出力する検知信号81の出力レベルの変化および変化する方向に着目することにより、人物71が、監視領域31内でどのような行動を取っているかをおおよそ推定することができる。
図7は、フォトセンサ22が出力する検知信号81の出力レベルの変化と人物71の行動との関係を示す図である。
反応区間Xは、フォトセンサ22が出力する検知信号81の出力レベルが基準値Lから変化している区間(時間)であり、人物71が監視領域31内に存在していることを表わしている。この反応区間Xにおいて、検知信号81の出力レベルが基準値Lから離れる方向(図7の例の場合、正の方向に離れているが、負の方向に離れる場合も含む)に変化する区間Aは、人物71が監視領域31内に進入しているか、または監視領域31内でフォトセンサ22に接近していることを表わし、検知信号81の出力レベルが変化しない区間Bは、人物71が監視領域31内で行動していない(静止している)ことを表わし、検知信号81の出力レベルが基準値Lに近づく方向(図7の例の場合、負の方向に近づいているが、正の方向に近づく場合も含む)に変化する区間Cは、人物71が監視領域31から退出しているか、または監視領域31内でフォトセンサ22から離反していることを表わしている。
このように、フォトセンサ22が出力する検知信号81の出力レベルの変化および変化する方向に応じて、監視領域31内における人物71の行動をおおよそ推定することができる。
図4の説明に戻る。マイクロ波センサ23は、監視領域32(図3)内にマイクロ波を照射しており、接近の反応を表わす検知信号および離反の反応を表わす検知信号をマイクロ波センサデータとして状態記述部41に供給する。
ここで、図8乃至図11を参照して、マイクロ波センサ23の原理について説明する。
図8と図9は、マイクロ波センサ23が出力する検知信号の例を説明する図である。
図8は、マイクロ波センサ23の監視領域32内において、人物71−1,71−2が、それぞれ、図中矢印で示されるように、マイクロ波センサ23に接近または離反している様子を模式的に示している。マイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図8に示されるように、センサを中心とした円周に対し人物71−1がほぼ垂直に接近するように行動した場合、それに対応して、例えば、図9Aに示されるような接近の反応を表わす検知信号91を出力する。またマイクロ波センサ23は、センサを中心とした円周に対し人物71−2がほぼ垂直に離反するように行動した場合、それに対応して、例えば、図9Bに示されるような離反の反応を表わす検知信号92を出力する。同図において、縦軸はマイクロ波センサ23が出力する検知信号の出力レベルを表わし、横軸は時間を表わしている。なお、検知信号91,92は、いずれも2値出力とされる。
図10は、マイクロ波センサ23が出力する検知信号の他の例を説明する図である。
図10Aは、マイクロ波センサ23の監視領域32内において、人物71が、センサを中心とした円周上を、図中矢印で示される方向に行動している様子を模式的に示している。上述したように、マイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図10Aに示されるように、センサを中心とした円周上を人物71が行動した場合、それに対応して、例えば、図10Bに示されるような検知信号を出力する。この例の場合、接近の反応を表わす検知信号91および離反の反応を表わす検知信号92が不規則に出力されている(不安定な反応の検知信号が出力されている)。
図11は、マイクロ波センサ23が出力する検知信号の他の例を説明する図である。
図11Aは、マイクロ波センサ23の監視領域32内において、人物71が、センサを中心とした円周上付近を、図中矢印で示されるように、円の接線に平行な方向に行動している様子を模式的に示している。上述したように、マイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図11Aに示されるように、センサを中心とした円の接線付近を人物71が行動した場合、それに対応して、例えば、図11Bに示されるような検知信号を出力する。この例の場合、円周の接点Sより手前では接近の反応を表わす検知信号91が出力され、円周の接点S付近では接近の反応を表わす検知信号91および離反の反応を表わす検知信号92の両方が出力され(不安定な反応の検知信号が出力され)、円周の接点Sより先では離反の反応を表わす検知信号92が出力されている。
また図示は省略するが、人物71が円周の接点Sより離れていくに従って、マイクロ波センサ23が出力する検知信号は不安定な反応となり、最終的には無反応となる。
ところで、マイクロ波センサ23から出力される検知信号を短時間で観測した場合、その信頼度が低い。例えば、検知信号が接近反応であったとしても、それが安定的に接近している行動の一部に応じて出力されたものであるのか、あるいは、不安定な反応の一部であるのかを区別することができず、人物71の行動を推定することが困難である。そこで、マイクロ波センサ23から出力される検知信号を充分な長さの時間で観測する(例えば、時間方向で接近または離反の反応数を積算する)必要がある。ただし、時間方向で長く観測しすぎた場合、反応数が増えることによりセンサの信頼度は向上するが、人物71の行動を推定するまでに時間がかかり、処理能力は低下してしまう。
以上のことから、本実施の形態では、フォトセンサ22とマイクロ波センサ23を統合利用して、短時間で、かつ、高精度に、さらに、電力消費を増大させることなく、人物71の行動を推定するようにする。
すなわち、図7に示したように、フォトセンサ22が反応している区間(反応区間X)における、検知信号81の出力レベルの変化の方向により区分されたそれぞれの区間(区間A乃至区間C)において、マイクロ波センサ23から出力される接近または離反を表わす検知信号91,92をそれぞれ積算し、その割合(正規化)を特徴量として記述する。
具体的には、フォトセンサ22が反応している所定の区間において、図12Aに示されるように、マイクロ波センサ23から出力される接近、離反、または無反応を表わす検知信号をそれぞれ積算し、接近反応数、離反反応数、および無反応数と規定する。そして、各反応数を、積算に利用した全データ数で正規化したもの(割合)を特徴量として記述(プロット)する。なお、各割合は、0.0乃至1.0の値で表わすこととする。
図12Bは、離反反応数の割合(縦軸)と接近反応数の割合(横軸)との関係を示している。同図に示されるように、領域101にプロットされる特徴量は、接近反応数が多いことを表わし、領域102にプロットされる特徴量は、離反反応数が多いことを表わし、領域103にプロットされる特徴量は、接近反応数と離反反応数が混在していることを表わし、領域104にプロットされる特徴量は、反応が少ない(無反応数が多い)ことを表わしている。
例えば、接近反応数が15、離反反応数が70、無反応数が15に積算された場合、全データ数は100(=15+70+15)となり、接近反応数の割合は0.15(=15/100)、離反反応数の割合は0.7(=70/100)、無反応数の割合は0.15(=15/100)に正規化される。図中、この特徴量Qがプロットされている。
このように、図7に示した区間A乃至区間Cにおける、マイクロ波センサ23の出力反応に基づいて、人物71の行動を分類することができる。
次に、図13乃至図21を参照して、フォトセンサ22およびマイクロ波センサ23を統合利用した場合の原理について説明する。
図13と図14は、フォトセンサ22およびマイクロ波センサ23が出力する検知信号の例を説明する図である。
図13は、フォトセンサ22の監視領域31を含むマイクロ波センサ23の監視領域32内において、人物71−1乃至71−3が、それぞれ、図中矢印で示される方向(図中、左上から右下方向、左から右方向、または左下から右上方向)に行動している様子を模式的に示している。上述したように、フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、またマイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図13に示されるように人物71−1乃至71−3が行動した場合、それらに対応して、例えば、図14A乃至図14Cに示されるような検知信号をそれぞれ出力する。同図において、縦軸はフォトセンサ22およびマイクロ波センサ23が出力する検知信号の出力レベルを表わし、横軸は時間を表わしている。ただし、マイクロ波センサ23が出力する検知信号91−1乃至91−3,92−1乃至92−3は、いずれも2値出力とされる。
図14Aの例の場合、フォトセンサ22が出力する検知信号81−1は、人物71−1が監視領域31内に、遠い位置から近づきつつ横切って侵入していくに従って、その出力レベルが徐々に小さくなり、退出するに従って、その出力レベルが徐々に大きくなる。ここで、検知信号81−1は、人物71−1に対する平均輝度の出力レベルが基準値より低い場合の特性を表わしているため、負の方向に変化している(後述する図14Bの検知信号81−2および図14Cの検知信号81−3も同様である)。またマイクロ波センサ23からは、接近の反応を表わす検知信号91−1が出力されている。なお、離反の反応を表わす検知信号92−1の出力レベルは0である。
図14Bの例の場合、フォトセンサ22が出力する検知信号81−2は、人物71−2が監視領域31内を横切るように侵入していくに従って、その出力レベルが徐々に小さくなり、退出するに従って、その出力レベルが徐々に大きくなる。またマイクロ波センサ23からは、接近の反応を表わす検知信号91−2、および離反の反応を表わす検知信号92−2が不規則に出力されている(不安定な反応の検知信号が出力されている)。
図14Cの例の場合、フォトセンサ22が出力する検知信号81−3は、人物71−3が監視領域31内に、近い位置から遠ざかりつつ横切って侵入していくに従って、その出力レベルが徐々に小さくなり、退出するに従って、その出力レベルが徐々に大きくなる。またマイクロ波センサ23からは、接近の反応を表わす検知信号91−3、および離反の反応を表わす検知信号92−3が出力されている。
次に、図14A乃至図14Cに示したフォトセンサ22の反応区間Xにおいて、マイクロ波センサ23から出力される検知信号91−1乃至91−3,92−1乃至92−3をそれぞれ積算し、正規化したものを特徴量として記述する場合の具体例について、図15乃至図17を参照して説明する。
図15は、フォトセンサ22の反応区間Xにおけるマイクロ波センサ23の特徴量の例を説明する図である。
図15Bは、反応区間Xにおける離反反応数の割合(縦軸)と接近反応数の割合(横軸)との関係を示している。ここで、反応区間Xとは、図15Aに示されるように、フォトセンサ22が出力する検知信号81の出力レベルが基準値Lから離れている区間を表わす。この例では、図13に示した人物71−1乃至71−3のそれぞれの行動に対応し、反応区間Xにおけるマイクロ波センサ23の特徴量が5回算出され、プロットされている。
図15Bにおいて、プロット群P1は、図15Aの反応区間Xにおけるマイクロ波センサ23の検知信号91−1(図14A)に基づいて算出された特徴量の集まりを表わしている。プロット群P2は、反応区間Xにおけるマイクロ波センサ23の検知信号91−2,92−2(図14B)に基づいて算出された特徴量の集まりを表わしている。プロット群P3は、反応区間Xにおけるマイクロ波センサ23の検知信号91−3,92−3(図14C)に基づいて算出された特徴量の集まりを表わしている。
このように、フォトセンサ22が出力する検知信号の出力レベルの変化および変化する方向(図14A乃至図14C)には、顕著な違いが現れないが、マイクロ波センサ23の特徴量(図15B)には、明らかに違いがあり、人物71−1乃至71−3の行動を区別することが可能となる。
次に、上述した反応区間Xを細分類し、分類された所定の区間におけるマイクロ波センサ23の特徴量の例について説明する。
図16は、反応区間Xのうち、基準値Lから離れる区間Aにおけるマイクロ波センサ23の特徴量の例を説明する図である。
図16Bは、図16Aの反応区間Xのうち、基準値Lから離れる区間Aにおける離反反応数の割合(縦軸)と接近反応数の割合(横軸)との関係を示している。ここで、基準値Lから離れる区間Aとは、図16Aに示されるように、フォトセンサ22が出力する検知信号81の出力レベルが基準値Lから離れる方向(図16Aの例の場合、負の方向に離れているが、正の方向に離れる場合も含む)に変化する反応区間を表わす。この例では、図13に示した人物71−1乃至71−3のそれぞれの行動に対応し、基準値Lから離れる区間Aにおけるマイクロ波センサ23の特徴量が5回算出され、プロットされている。
図16Bにおいて、プロット群P11は、基準値Lから離れる区間Aにおけるマイクロ波センサ23の検知信号91−1(図14A)に基づいて算出された特徴量の集まりを表わしている。プロット群P12は、基準値Lから離れる区間Aにおけるマイクロ波センサ23の検知信号91−2(図14B)に基づいて算出された特徴量の集まりを表わしている。プロット群P13は、基準値Lから離れる区間Aにおけるマイクロ波センサ23の検知信号91−3,92−3(図14C)に基づいて算出された特徴量の集まりを表わしている。
図17は、反応区間Xのうち、基準値Lに近づく区間Cにおけるマイクロ波センサ23の特徴量の例を説明する図である。
図17Bは、図17Aの反応区間Xのうち、基準値Lに近づく区間Cにおける離反反応数の割合(縦軸)と接近反応数の割合(横軸)との関係を示している。ここで、基準値Lに近づく区間Cとは、図17Aに示されるように、フォトセンサ22が出力する検知信号81の出力レベルが基準値Lに近づく方向(図17Aの例の場合、正の方向に近づいているが、負の方向に近づく場合も含む)に変化する反応区間を表わす。この例では、図13に示した人物71−1乃至71−3のそれぞれの行動に対応し、基準値Lに近づく区間Cにおけるマイクロ波センサ23の特徴量が5回算出され、プロットされている。
図17Bにおいて、プロット群P21は、基準値Lに近づく区間Cにおけるマイクロ波センサ23の検知信号91−1(図14A)に基づいて算出された特徴量の集まりを表わしている。プロット群P22は、基準値Lに近づく区間Cにおけるマイクロ波センサ23の検知信号92−2(図14B)に基づいて算出された特徴量の集まりを表わしている。プロット群P23は、基準値Lに近づく区間Cにおけるマイクロ波センサ23の検知信号92−3(図14C)に基づいて算出された特徴量の集まりを表わしている。
このように、フォトセンサ22が出力する検知信号81の出力レベルの変化からは、進入し、退出している行動か、あるいは、接近し、離反している行動かを推定することしかできなかったが、マイクロ波センサ23が出力する検知信号91,92に基づいて算出された特徴量から、人物が、どの方向から進入してきたか、あるいは、どの方向に退出したかなどを区別することができる。
以上においては、反応区間Xのうち、フォトセンサ22の検知信号81の出力レベルが変化する区間Aおよび区間Cにおけるマイクロ波センサ23の特徴量から、人物の行動を推定する場合の具体例について説明した。次に、反応区間Xのうち、フォトセンサ22の検知信号81の出力レベルが変化しない区間B(図7)におけるマイクロ波センサ23の特徴量から、人物の行動を推定する場合の具体例について、図18乃至図21を参照して説明する。
図18は、監視領域内で人物71が完全停止した場合における、フォトセンサ22およびマイクロ波センサ23が出力する検知信号の例を説明する図である。
図18Aは、フォトセンサ22の監視領域31を含むマイクロ波センサ23の監視領域32内において、人物71が、図中矢印で示される方向に平行に横切るように行動し、途中、完全停止した様子を模式的に示している。上述したように、フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、またマイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図18Aに示されるように人物71が行動した場合、それに対応して、例えば、図18Bに示されるよう検知信号を出力する。同図において、縦軸はフォトセンサ22およびマイクロ波センサ23が出力する検知信号の出力レベルを表わし、横軸は時間を表わしている。ただし、マイクロ波センサ23が出力する検知信号91,92は、いずれも2値出力とされる。
図18Bの例の場合、フォトセンサ22が出力する検知信号81は、人物71が監視領域31内に侵入していくに従って、その出力レベルが徐々に小さくなり、途中、完全停止している区間Bは何も変化せず、退出するに従って、その出力レベルが徐々に大きくなる。ここで、検知信号81は、人物71に対する平均輝度の出力レベルが基準値より低い場合の特性を表わしているため、負の方向に変化している(後述する図19Bおよび図20Bの検知信号81も同様である)。またマイクロ波センサ23からは、接近の反応を表わす検知信号91、および離反の反応を表わす検知信号92が出力されている。
図19は、監視領域内で人物が軽く足踏みした場合における、フォトセンサ22およびマイクロ波センサ23が出力する検知信号の例を説明する図である。
図19Aは、フォトセンサ22の監視領域31を含むマイクロ波センサ23の監視領域32内において、人物71が、図中矢印で示されるように平行に横切る方向に行動し、途中、軽く足踏みした様子を模式的に示している。上述したように、フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、またマイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図19Aに示されるように人物71が行動した場合、それに対応して、例えば、図19Bに示されるような検知信号を出力する。
図19Bの例の場合、フォトセンサ22が出力する検知信号81は、人物71が監視領域31内に侵入していくに従って、その出力レベルが徐々に小さくなり、途中、その場で軽く足踏みしている区間Bは何も変化せず、退出するに従って、その出力レベルが徐々に大きくなる。またマイクロ波センサ23からは、接近の反応を表わす検知信号91、および離反の反応を表わす検知信号92が出力されている。
図20は、監視領域内で人物が激しく足踏みした場合における、フォトセンサ22およびマイクロ波センサ23が出力する検知信号の例を説明する図である。
図20Aは、フォトセンサ22の監視領域31を含むマイクロ波センサ23の監視領域32内において、人物71が、図中矢印で示されるように平行に横切る方向に行動し、途中、激しく足踏みした様子を模式的に示している。上述したように、フォトセンサ22は、常時、監視領域31内の平均輝度を検知信号として出力しており、またマイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図20Aに示されるように人物71が行動した場合、それに対応して、例えば、図20Bに示されるような検知信号を出力する。
図20Bの例の場合、フォトセンサ22が出力する検知信号81は、人物71が監視領域31内に侵入していくに従って、その出力レベルが徐々に小さくなり、途中、その場で激しく足踏みしている区間Bは何も変化せず、退出するに従って、その出力レベルが徐々に大きくなる。またマイクロ波センサ23からは、接近の反応を表わす検知信号91、および離反の反応を表わす検知信号92が出力されている。
次に、図18B、図19B、および図20Bに示したフォトセンサ22の反応区間Xのうち、何も変化しない区間Bにおいて、マイクロ波センサ23から出力される検知信号91,92をそれぞれ積算し、正規化したものを特徴量として記述する場合の例について、図21を参照して説明する。
図21の例では、図18A、図19A、および図20Aにそれぞれ示した人物71の行動に対応し、何も変化しない区間Bにおけるマイクロ波センサ23の特徴量が1回算出され、プロットされている。同図において、特徴量Q11は、何も変化しない区間Bにおける、図18Bに示したマイクロ波センサ23の出力(すなわち、出力レベル0)に基づいて算出された特徴量を表わしている。特徴量Q12は、何も変化しない区間Bにおける、図19Bに示したマイクロ波センサ23の検知信号91,92に基づいて算出された特徴量を表わしている。特徴量Q13は、何も変化しない区間Bにおける、図20Bに示したマイクロ波センサ23の検知信号91,92に基づいて算出された特徴量を表わしている。
このように、フォトセンサ22の反応区間Xのうち、何も変化しない区間B(図18B乃至図20B)については、反応が似ているため、監視領域31内の行動を区別することが困難であるが、マイクロ波センサ23の特徴量(図21)には、明らかに違いがあり、監視領域31内での人物71の行動を区別することが可能となる。
以上のように、フォトセンサ22の反応、およびマイクロ波センサ23の特徴量を組み合わせることにより、単独のセンサでは区別することができなかった人物の行動をより高精度に区別することができる。また、この場合、CCDカメラ21は動作していないので、電力消費を抑えることができる。
図4の説明に戻る。状態記述部41は、フォトセンサ22から供給されたフォトセンサデータ、およびマイクロ波センサ23から供給されたマイクロ波センサデータに基づいて、監視領域内における人物71の一連の行動(センサ反応)の状態に関するデータ(以下、状態記述データと称する)を記述し、それをイベント通知判定部42に供給するとともに、スイッチ43を介して送信部45に供給する。
ここで、図22を参照して、状態記述データの例について説明する。
状態記述部41は、フォトセンサ22から供給されたフォトセンサデータ(検知信号81)から、図7を用いて上述したように、検知信号81の出力レベルが基準値Lから離れる方向に変化する区間A、何も変化しない区間B、および、検知信号81の出力レベルが基準値Lに近づく方向に変化する区間Cに分類し、区間A乃至区間Cにそれぞれ対応させて、反応記号A乃至Cをフォトセンサ22の状態として記述する。その際、反応区間毎の反応継続時間も記述する。
また状態記述部41は、マイクロ波センサ23から供給されたマイクロ波センサデータから、図12を用いて上述したように、フォトセンサ22の反応区間A乃至Cにおける、接近反応数の割合(0.0乃至1.0)、および離反反応数の割合(0.0乃至1.0)をマイクロ波センサ23の状態(特徴量)として記述する。
すなわち、状態記述部41は、フォトセンサ22に関する状態を表わす反応記号およびその継続時間、並びに、マイクロ波センサ23に関する状態を表わす接近反応数の割合および離反反応数の割合を1単位とし、それを時間軸方向に連続的に並べたものを状態記述データ111−1乃至111−n(以下、状態記述データ111−1乃至111−nを個々に区別する必要がない場合、単に状態記述データ111と称する)として記述する。
再び、図4の説明に戻る。イベント通知判定部42は、状態記述部41から供給された状態記述データ111(図22)と、受信部46を介して処理ボックス2から受信した通知判定テーブル(後述)を比較し、比較の結果、イベントを通知すると判定した場合、処理ボックス2に通知するイベントを送信部45に供給するとともに、CCDカメラ21に電源制御信号を供給してその電源をオンさせ、スイッチ43に状態記述データ送信制御信号を供給してオンさせ、スイッチ44に通知画像送信制御信号を供給してオンさせる。これにより、CCDカメラ21から出力された通知画像データが、スイッチ44を介して送信部45に供給され、状態記述部41から出力された状態記述データ111がスイッチ43を介して送信部45に供給される。
なお、マルチセンサカメラ1の初期状態においては、処理ボックス2から通知判定テーブルが送信されておらず、イベント通知判定部42は、この通知判定テーブルを保持していないため、状態記述部41から状態記述データ91が供給されると、直ちに通知イベントと判定する。すなわち、初期状態においては、全てのイベントが通知されることになる。これにより、必要なイベントがユーザに通知されないことが防止される。
送信部45は、処理ボックス2に対し、イベント通知判定部42から供給された通知イベントを送信するとともに、CCDカメラ21から供給された通知画像データおよび状態記述部41から供給された状態記述データ111を送信する。
受信部46は、処理ボックス2から送信されてきた通知判定テーブルを受信し、それをイベント通知判定部42に供給する。
処理ボックス2の受信部51は、マルチセンサカメラ1から送信されてきた通知画像データおよび通知イベントを呈示画像構築部52に供給する。また受信部51は、マルチセンサカメラ1から送信されてきた状態記述データ111を状態記述データ蓄積部53に供給し、そこに蓄積させる。
呈示画像構築部52は、受信部51を介してマルチセンサカメラ1からイベントが通知された場合、一般視聴信号(テレビジョン放送信号)の一部に通知画像データを挿入した通知データを構築(作成)し、それを呈示部3に供給して呈示させる。また、呈示画像構築部52は、通知画像データにより構成される(一般視聴信号を含まない)リモートコントローラ4用の通知データを構築し、送信部56に供給する。なお、呈示画像構築部52は、イベントが通知されていない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を呈示部3に供給して呈示させる。
呈示部3用の通知データは、一般の視聴信号の一部に通知画像データを挿入して構成されているため、呈示部3には、ピクチャインピクチャの表示が呈示される。また、リモートコントローラ4用の通知データは、通知画像データから構成されているため、リモートコントローラ4の呈示部62には、イベントを表わす表示(例えば、監視している場所の画像)のみが呈示される。
通知判定テーブル更新部54は、受信部57を介してリモートコントローラ4からユーザフィードバック(FB)に関する信号(以下、適宜、ユーザFB信号と称する)を受信した場合、そのユーザフィードバックを状態記述データ蓄積部53に供給し、そこに蓄積させる。また通知判定テーブル更新部54は、状態記述データ蓄積部53に蓄積されている状態記述データ111とそれに対応するユーザフィードバックを読み込み、それらと通知判定テーブルを比較し、比較の結果に基づいてテーブルを更新する。そして、通知判定テーブル更新部54は、以前にマルチセンサカメラ1に送信した通知判定テーブルと異なる場合、新しい通知判定テーブルを送信部55に供給する。
ここで、ユーザフィードバックとは、ユーザが、呈示されたイベントに対して、判断を行ない、リモートコントローラ4の入力部63を用いて入力されたユーザの判断入力を意味する。例えば、ユーザは、イベントを今後も知らせて欲しい場合には、入力部63のOKボタン(図示せず)を操作し、今後はイベントとして検出しなくてもよい場合には、NGボタン(図示せず)を操作することで、ユーザフィードバックとして入力することができる。あるいは、イベントとして検出しなくてもよい場合だけ、フォードバックさせるようにしてもよい。
状態記述データ蓄積部53は、受信部51から状態記述データ111が供給されたときに、通知判定テーブル更新部54からユーザフィードバックが供給された場合、状態記述データ111とユーザフィードバックを対応付けて蓄積し、状態記述データ111またはユーザフィードバックのいずれか一方のみが供給された場合、新規の状態記述データまたは新規のユーザフィードバックとして蓄積する。
送信部55は、通知判定テーブル更新部54から供給された通知判定テーブルをマルチセンサカメラ1に送信する。送信部56は、呈示画像構築部52から供給された通知データをリモートコントローラ4に送信する。受信部57は、リモートコントローラ4から送信されてきたユーザFB信号を受信し、それを通知判定テーブル更新部54に供給する。
リモートコントローラ4の受信部61は、処理ボックス2から送信されてきた通知データを受信し、それを呈示部62に呈示させる。入力部63は、呈示されたイベントに対するユーザからの判断に基づく入力を受け、その入力(ユーザフィードバック)に関する信号を送信部64に供給する。送信部64は、入力部63から供給されたユーザFB信号を処理ボックス2に送信する。
ここで、ユーザフィードバックとは、上述したように、例えば、「今後も知らせて欲しいイベントである」、あるいは、「今後は知らせなくてよいイベントである」などのユーザによる判断の入力を示す。マルチセンサカメラ1と処理ボックス2は、このユーザフィードバックに基づいて、処理を変化させる。
図23は、図4のマルチセンサカメラ1のイベント通知判定部42の詳細な構成例を示すブロック図である。
パターン一致判定部121は、状態記述部41から供給された状態記述データ111(図22)と、通知判定テーブル蓄積部122に蓄積されている通知判定テーブルを比較し、一致するパターンがあれば、その全ての状態記述データ111および通知判定テーブル中のパターンをマイクロ波センサ状態距離判定部123に供給する。ここで、パターンとは、状態記述データ111に含まれる反応記号の分類を表わす。
マイクロ波センサ状態距離判定部123は、パターン一致判定部121から供給された状態記述データ111および通知判定テーブル中のパターンに関し、マイクロ波センサ23の状態の距離判定を行う。マイクロ波センサ状態距離判定部123は、距離判定の結果、イベントを通知すると判定した場合、処理ボックス2に通知するイベントを送信部45に供給し、電源制御信号をCCDカメラ21に供給し、状態記述データ送信制御信号をスイッチ43に供給し、通知画像送信制御信号をスイッチ44に供給する。これにより、CCDカメラ21の電源がオンされ、スイッチ43,44がオンされ、CCDカメラ21から出力された通知画像データおよび状態記述部41から出力された状態記述データ111が送信部45を介して処理ボックス2に送信される。
通知判定テーブル蓄積部122は、処理ボックス2から送信されてきた通知判定テーブルを蓄積する。なお、通知判定テーブルの詳細は、図25を参照して、後述する。
図24は、図4の処理ボックス2の通知判定テーブル更新部54の詳細な構成例を示すブロック図である。
ユーザフィードバック(FB)判定部131は、状態記述データ蓄積部53に蓄積されている状態記述データ111(図22)とそれに対応するユーザフィードバックを読み込み、ユーザフィードバックが「OK」を示すデータであるか、または「NG」を示すデータであるかを判定し、判定結果を状態記述データ111とともに状態記述パターン比較部132に供給する。
状態記述パターン比較部132は、ユーザフィードバック判定部131から「NG(今後はイベントとして検出しなくてもよい)」を示す判定結果が供給された場合、その判定結果とともに供給される状態記述データ111と、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブル中のパターンとを比較する。状態記述パターン比較部132は、比較の結果、状態記述データ111と仮の通知判定テーブル中のパターンが一致するものがあれば、その状態記述データ111とそれに一致するパターンを既存パターン更新部134に供給し、一致するものがなければ、状態記述データ111を新規パターン作成部133に供給する。
新規パターン作成部133は、状態記述パターン比較部132から供給された状態記述データ111に含まれる反応記号とそれに対応する継続時間を、新規の通知判定テーブルの継続時間の最小値および最大値として仮通知判定テーブル蓄積部135に追加し、そこに蓄積させるとともに、現在の状態記述データ111に含まれるマイクロ波センサ23の接近反応数の割合と離反反応数の割合を、フォトセンサ22の状態を表わす反応記号毎に追加する。
既存パターン更新部134は、状態記述パターン比較部132から供給された、現在の状態記述データ111に含まれる継続時間と、状態記述データ111に一致するパターンに対応する継続時間の最小値および最大値を比較する。既存パターン更新部134は、比較の結果、一致するパターンに対応する継続時間の最小値より現在の状態記述データ111の継続時間の方が短いと判定した場合、一致するパターンの継続時間の最小値を現在のデータの継続時間に置き換え(更新し)、一致するパターンに対応する継続時間の最大値より現在の状態記述データ111の継続時間の方が長いと判定した場合、一致するパターンの継続時間の最大値を現在のデータの継続時間に置き換える(更新する)。そして、既存パターン更新部134は、置き換えたデータを、更新通知判定テーブルとして仮通知判定テーブル蓄積部135に蓄積させるとともに、現在のデータに含まれるマイクロ波センサ23の接近反応数の割合と離反反応数の割合を、フォトセンサ22の状態を表わす反応記号毎に追加する。
仮通知判定テーブル蓄積部135は、新規パターン作成部133により追加された仮の通知判定テーブルであって、必要に応じて既存パターン更新部134により更新された通知判定テーブルを蓄積する。
テーブル比較部136は、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルと、過去通知判定テーブル蓄積部137に蓄積されている過去の通知判定テーブルを比較し、同じであると判定した場合、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルを過去の通知判定テーブル蓄積部137に供給し、更新通知判定テーブルとして蓄積させる。これに対し、仮の通知判定テーブルと過去の通知判定テーブルが同じではないと判定した場合、テーブル比較部136は、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルを、送信部55を介してマルチセンサカメラ1に送信した後、その通知判定テーブルを過去通知判定テーブル蓄積部137に供給し、更新通知判定テーブルとして蓄積させる。
過去通知判定テーブル蓄積部137は、テーブル比較部136により更新された通知判定テーブルを過去の通知判定テーブルとして蓄積する。
図25は、過去通知判定テーブル蓄積部137に蓄積される通知判定テーブルの例を示す図である。
同図に示されるように、フォトセンサ22に関する状態を表わす反応記号、その反応記号(すなわち反応区間)における継続時間の最小値および最大値、並びに、その反応記号におけるマイクロ波センサ23に関する状態を表わす、複数の接近反応数の割合および離反反応数が1つの状態記述データに規定される。この状態記述データ151−1乃至151−mからなる人物の行動が1つのパターンに規定される。そして、パターン141−1乃至141−kからなる通知判定テーブルが過去通知判定テーブル蓄積部137に蓄積される。
以下、状態記述データ151−1乃至151−mを個々に区別する必要がない場合、単に状態記述データ151と称し、パターン141−1乃至141−kを個々に区別する必要がない場合、単にパターン141と称する。
次に、図26のフローチャートを参照して、マルチセンサカメラ1における処理について説明する。なお、この処理は、ユーザにより、監視領域における監視を開始するよう指令されたとき、開始される。
ステップS1において、イベント通知判定部42は、CCDカメラ21に電源制御信号を供給してその電源をオフさせ、イベント通知フラグをオフし、通知判定テーブル蓄積部122に蓄積されている通知判定テーブルをクリアする。
ステップS2において、状態記述部41は、オンされているフォトセンサ22からフォトセンサデータを取得するとともに、オンされているマイクロ波センサ23からマイクロ波センサデータを取得する。ステップS3において、状態記述部41は、ステップS2の処理で取得したフォトセンサデータとマイクロ波センサデータに基づいて、監視領域内における人物71の一連の行動に関し、状態データ記述処理を行う。この状態データ記述処理の詳細については、図27のフローチャートを参照して後述するが、この処理により、状態記述部41から状態記述データ111(図22)がイベント通知判定部42に出力される。
ステップS4において、イベント通知判定部42は、イベント通知フラグがオンである(通知イベント発生中である)か否かを判定し、イベント通知フラグがオンではなくオフである(通知イベント発生中ではない)と判定した場合、ステップS8に進み、イベント通知判定処理を行う。このイベント通知判定処理の詳細については、図28のフローチャートを参照して後述するが、この処理により、イベント通知判定部42から通知イベントが発生されるか、または非通知イベントが発生される(イベントは通知されない)。
ステップS9において、イベント通知判定部42は、ステップS8の処理結果に基づいて、通知イベントであるか否かを判定し、通知イベントであると判定した場合、ステップS10に進み、CCDカメラ21に電源制御信号を供給して電源をオンさせるとともに、イベント通知フラグをオンする。すなわち、通知イベントであると判定された場合にのみCCDカメラ21の電源がオンされ、通知イベントでない場合には、CCDカメラ21の電源はオフのままとなっており、これにより、無駄なバッテリ消費を抑えることができる。
ステップS11において、イベント通知判定部42は、送信部45を介して処理ボックス2にイベントを通知するとともに、通知画像送信制御信号をスイッチ44に供給してオンさせる。これにより、CCDカメラ21から処理ボックス2に対し、通知画像データ(イベント画像)の送信が開始される。処理ボックス2は、この通知画像データを受信し、呈示部3に呈示させる(後述する図29のステップS63)。
ステップS9において、通知イベントではない、すなわち非通知イベントであると判定された場合、ステップS10,S11の処理はスキップされ、ステップS12に進む。
ステップS4において、イベント通知フラグがオンである(通知イベント発生中である)と判定された場合、ステップS5に進み、イベント通知判定部42は、イベント終了であるか否かを判定し、イベント終了であると判定した場合、ステップS6に進み、CCDカメラ21に電源制御信号を供給してその電源をオフさせるとともに、イベント通知フラグをオフする。
ステップS7において、イベント通知判定部42は、状態記述データ送信制御信号をスイッチ43に供給してオンさせ、通知画像送信制御信号をスイッチ44に供給してオフさせる。これにより、ステップS3の処理で状態記述部41から出力された状態記述データ111がスイッチ43および送信部45を介して処理ボックス2に送信され、CCDカメラ21からスイッチ44および送信部45を介して処理ボックス2に送信されていた通知画像データ(イベント画像)の送信が停止される。処理ボックス2は、この状態記述データ111を受信し、通知判定テーブルとして状態記述データ蓄積部53に蓄積するとともに(後述する図29のステップS68)、この通知判定テーブルを必要に応じて更新し(後述する図29のステップS73)、更新した通知判定テーブルを送信してくる(後述する図29のステップS74)。
ステップS5において、イベント終了ではないと判定された場合、ステップS6,S7の処理はスキップされ、ステップS12に進む。
ステップS12において、イベント通知判定部42は、受信部46を介して処理ボックス2より通知判定テーブルを受信したか否かを判定し、通知判定テーブルを受信したと判定した場合、ステップS13に進み、通知判定テーブル蓄積部122に受信した通知判定テーブルを供給して更新させる。
ステップS12において、処理ボックス2より通知判定テーブルを受信していないと判定された場合、または、ステップS13の処理の後、処理はステップS2に戻り、上述した処理が繰り返し実行される。
次に、図27のフローチャートを参照して、図26のステップS3における状態データ記述処理の詳細について説明する。
状態記述部41は、ステップS21において、フォトセンサ22から取得したフォトセンサデータを読み込み、ステップS22において、マイクロ波センサ23から取得したマイクロ波センサデータを読み込む。
ステップS23において、状態記述部41は、ステップS21の処理で読み込んだフォトセンサデータから、フォトセンサ22が反応している区間であるか否か、すなわち、図7に示したように、フォトセンサデータ(検知信号81)の出力レベルが基準値Lから離れている反応区間Xであるか否かを判定し、フォトセンサ22が反応している区間であると判定した場合、ステップS24に進む。
ステップS24において、状態記述部41は、フォトセンサ22の反応を、基準値Lから離れる区間A、何も変化しない区間B、または基準値Lに近づく区間Cに細分類する。ステップS25において、状態記述部41は、ステップS24の処理で反応区間を分類した結果、フォトセンサ22が今までの反応と同じであるか否かを判定し、フォトセンサ22が今までの反応と同じであると判定した場合、ステップS26に進む。
ステップS26において、状態記述部41は、ステップS22の処理で読み込んだマイクロ波センサデータから、接近反応、離反反応、または無反応の数を積算し、それを蓄積した後、ステップS21に戻り、上述した処理を繰り返し実行する。
ステップS23において、フォトセンサ22が反応している区間ではないと判定された場合、ステップS27に進み、状態記述部41は、さらに、フォトセンサ22が今まで反応していたか否かを判定し、今まで反応していないと判定した場合、ステップS21に戻り、上述した処理を繰り返し実行する。
ステップS27において、フォトセンサ22が今まで反応していたと判定された場合、または、ステップS25において、フォトセンサ22が今までの反応と同じではないと判定された場合、ステップS28に進み、状態記述部41は、ステップS26の処理で蓄積された、接近反応数、離反反応数、および無反応数を全体のデータ数で正規化する。これにより、マイクロ波センサ23の特徴量が算出される。
ステップS29において、状態記述部41は、フォトセンサ22の反応記号(A,BまたはC)とその継続時間、ステップS28の処理で算出されたマイクロ波センサの特徴量(接近反応数の割合および離反反応数の割合)から、状態記述データ111(図22)を記述し、イベント通知判定部42に出力するとともに、スイッチ43に出力する。
以上の処理により、状態記述部41から出力された状態記述データ111は、図26のステップS8において、イベント通知判定処理に用いられ、ステップS11において、処理ボックス2に送信される。
次に、図28のフローチャートを参照して、図26のステップS8におけるイベント通知判定処理の詳細について説明する。
イベント通知判定部42のパターン一致判定部121は、ステップS41において、状態記述部41から出力された(図27のステップS29の処理により出力された)状態記述データ111を読み込み、ステップS42において、通知判定テーブル蓄積部122から通知判定テーブル(図25)を読み込む。
ステップS43において、パターン一致判定部121は、ステップS41の処理で読み込んだ状態記述データ111に含まれるフォトセンサ22の状態に関する反応記号およびその継続時間と、ステップS42の処理で読み込んだ通知判定テーブル(図25)のパターン141内の状態記述データ151に含まれる反応記号、継続時間最小値、および継続時間最大値を比較する。
ステップS44において、パターン一致判定部121は、ステップS43の処理による比較の結果、パターンが一致するものがあるか否か、すなわち、反応記号が同じで、かつ、状態記述データ111に含まれる継続時間が、継続時間最小値と継続時間最大値の範囲に存在する状態記述データ151があるか否かを判定する。
ステップS44において、パターンが一致するものがあると判定された場合、ステップS45に進み、パターン一致判定部121は、状態記述データ111に一致する全ての通知判定テーブル中の状態記述データ151を抽出し、マイクロ波センサ状態距離判定部123に出力する。
ステップS46において、マイクロ波センサ状態距離判定部123は、ステップS45の処理でパターン一致判定部121から出力された状態記述データ111および通知判定テーブル中の状態記述データ151に基づいて、マイクロ波センサ23の状態の距離判定を行う。ここでは、通知判定テーブル中の状態記述データ151の各反応記号に対応するマイクロ波センサの接近反応数の割合と離反反応数の割合の組のそれぞれと、現在の状態記述データ111の反応記号に対応するマイクロ波センサの接近反応数の割合と離反反応数の割合の距離が算出される。
ステップS47において、マイクロ波センサ状態距離判定部123は、ステップS46の処理で算出した全ての距離が所定の閾値以上であるか否かを判定し、全ての距離が所定の閾値以上であると判定した場合、ステップS48に進む。また、ステップS44の処理において、パターンが一致するものがないと判定された場合もステップS48に進む。
ステップS48において、マイクロ波センサ状態距離判定部123は、処理ボックス2に通知するイベントを発生する。またステップS47において、ステップS46の処理で算出した距離のうち、所定の閾値以上でないものがあると判定された場合、ステップS48の処理はスキップされる。この場合、通知イベントは発生されない(非通知イベントである)。
以上の処理により、イベント通知判定部42から通知イベントが発生された場合、図26のステップS9において、CCDカメラ21の電源がオンされ、イベント通知フラグがオンされ、ステップS10において、処理ボックス2に対し、イベントが通知されるとともに通知画像データ(イベント画像)の送信が開始される。
なお、マルチセンサカメラ1の初期状態においては、未だ通知判定テーブルが処理ボックス2から送信されておらず、イベント通知判定部42が、この通知判定テーブルを保持していないため、状態記述部41から状態記述データ111が供給されると、直ちに通知イベントと発生する。
次に、図29のフローチャートを参照して、図26のマルチセンサカメラ1の処理に対応して実行される処理ボックス2における処理について説明する。なお、この処理は、ユーザにより、呈示部3に対して一般視聴信号(放送番組信号)に対応する画像の呈示を行うよう指令されたとき、または監視領域における監視を開始するよう指令されたとき、開始される。
ステップS61において、通知判定テーブル更新部54は、状態記述データ蓄積部53に蓄積されている状態記述データ、および仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルをクリアするとともに、ユーザフィードバック受信フラグをオフする。受信部51は、イベント受信フラグ、および状態記述データ受信フラグをオフする。
ステップS62において、受信部51は、イベント受信フラグがオンである(通知イベント受信中である)か否かを判定し、イベント受信フラグがオンであると判定した場合、(上述した図26のステップS11の処理により)マルチセンサカメラ1から送信されてきた通知画像データおよび通知イベントを呈示画像構築部52に供給し、ステップS63に進む。
ステップS63において、呈示画像構築部52は、受信部51から供給された通知画像データを一般視聴信号の一部に通知画像データを挿入した通知データ(ピクチャインピクチャで呈示するための画像データ)を構築し、それを呈示部3に呈示させる。また呈示画像構築部52は、一般視聴信号を含まないリモートコントローラ4用の通知データ(通知画像データにより構成されるデータ)を構築し、送信部56を介してリモートコントローラ4に送信する。リモートコントローラ4は、この通知データを受信し、呈示部62に呈示させる(後述する図31のステップS112)。
ステップS62において、イベント受信フラグがオンではなくオフであると判定された場合、ステップS64に進み、受信部51は、マルチセンサカメラ1から通知イベントを受信したか否かを判定し、通知イベントを受信したと判定した場合、ステップS65に進み、イベント受信フラグをオンする。
ステップS63の処理の後、ステップS65の処理の後、またはステップS64において、通知イベントを受信していないと判定された場合、ステップS66に進み、受信部51は、マルチセンサカメラ1から状態記述データ111を受信したか否かを判定する。
ステップS66において、状態記述データを受信したと判定された場合、ステップS67に進み、受信部51は、状態記述データ受信フラグをオンし、ステップS68において、(上述した図26のステップS7の処理により)マルチセンサカメラ1から送信されてきた状態記述データ111を受信し、状態記述データ蓄積部53に蓄積させる。ただし、このときに、既にユーザフィードバック受信フラグがオンである場合、そのユーザフィードバックに対応付けて状態記述データ111が蓄積される。
ステップS68の処理の後、または、ステップS66において、状態記述データを受信していないと判定された場合、ステップS69に進み、通知判定テーブル更新部54は、受信部57を介してリモートコントローラ4から(後述する図31のステップS114の処理により)送信されてきたユーザFB信号を受信したか否かを判定し、ユーザFB信号を受信したと判定した場合、ステップS70に進む。
ステップS70において、通知判定テーブル更新部54は、ユーザフィードバック受信フラグをオンし、受信部51は、イベント受信フラグをオフする。ステップS71において、通知判定テーブル更新部54は、このとき、状態記述データ受信フラグがオンであれば、ユーザフィードバック(「OK(今後も通知して欲しい)」または「NG(今後は通知しなくても良い)」)を状態記述データ蓄積部53に蓄積されている状態記述データ111に対応付け、状態記述データ受信フラグがオフであれば新規のユーザフィードバックとして蓄積させる。また、イベント受信フラグがオフであればそのユーザフィードバックは無視する。
すなわち、ユーザフィードバックを状態記述データ111に対応付けて通知判定テーブルとして蓄積することにより、ユーザが意図するイベントのみを検知し、通知することが可能になる。
ステップS72において、通知判定テーブル更新部54は、状態記述データ受信フラグおよびユーザフィードバック受信フラグが共にオンであるか否かを判定し、状態記述データ受信フラグおよびユーザフィードバック受信フラグが共にオンであると判定した場合、ステップS73に進み、通知判定テーブル更新処理を行う。この通知判定テーブル更新処理の詳細については、図30のフローチャートを参照して後述するが、この処理により、過去通知判定テーブル蓄積部137に蓄積される通知判定テーブルが更新される。
ステップS74において、通知判定テーブル更新部54は、ステップS73の処理により、過去の通知判定テーブルと異なる通知判定テーブルが作成され、過去通知判定テーブル蓄積部137に蓄積された場合には、その新しい通知判定テーブルを、送信部55を介してマルチセンサカメラ1に送信する。マルチセンサカメラ1は、この新しい通知判定テーブルを受信し、通知判定テーブル蓄積部122を更新する(上述した図26のステップS13)。
ステップS75において、通知判定テーブル更新部54は、状態記述データ受信フラグおよびユーザフィードバック受信フラグをオフする。
ステップS75の処理の後、または、ステップS72において、状態記述データ受信フラグまたはユーザフィードバック受信フラグのうち、少なくともいずれか一方がオンではないと判定された場合、ステップS62に戻り、上述した処理が繰り返し実行される。
次に、図30のフローチャートを参照して、図29のステップS73における通知判定テーブル更新処理の詳細について説明する。
ステップS91において、通知判定テーブル更新部54の状態記述パターン比較部132は、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルをクリアする。ステップS92において、ユーザフィードバック判定部131は、状態記述データ蓄積部53に蓄積されている状態記述データ111とそれに対応するユーザフィードバックを読み込む。
ステップS93において、ユーザフィードバック判定部131は、ステップS92の処理で読み込んだユーザフィードバックが「NG(今後はイベントとして検出しなくてもよい)」を示すデータであるか否かを判定し、ユーザフィードバックが「NG」を示すデータであると判定した場合、その判定結果を状態記述データ111(図22)とともに状態記述パターン比較部132に供給し、ステップS94に進む。
ステップS94において、状態記述パターン比較部132は、ユーザフィードバック判定部131から供給された状態記述データ111に含まれるフォトセンサの状態に関する反応記号(A,BまたはC)と、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブル(図25)のパターン141内の状態記述データ151に含まれる反応記号を比較する。
ステップS95において、状態記述パターン比較部132は、ステップS94の処理による比較の結果、パターンが一致するものがあるか否か、すなわち、反応記号が同じパターン141があるか否かを判定し、パターンが一致するものがあると判定した場合、状態記述データ111とそれに一致するパターン141を既存パターン更新部134に供給し、ステップS96に進む。
ステップS96において、既存パターン更新部134は、状態記述パターン比較部132から供給された、現在の状態記述データ111に含まれる継続時間と、状態記述データ111に一致するパターン141に対応する継続時間の最小値および最大値を比較する。
そして既存パターン更新部134は、比較の結果、一致するパターン141に対応する継続時間の最小値より現在の状態記述データ111の継続時間の方が短いと判断した場合、一致するパターン141の継続時間の最小値を現在の状態記述データ111の継続時間に置き換え(更新し)、また、一致するパターン141に対応する継続時間の最大値より現在の状態記述データ111の継続時間の方が長いと判断した場合、一致するパターン141の継続時間の最大値を現在の状態記述データ111の継続時間に置き換え(更新し)、仮通知判定テーブル蓄積部135に更新通知判定テーブルとして蓄積させる。さらに、既存パターン更新部134は、現在の状態記述データ111に含まれるマイクロ波センサ23の状態を表わす接近反応数の割合と離反反応数の割合を、フォトセンサ22の状態を表わす反応記号毎に追加する。
ステップS95において、ステップS94の処理による比較の結果、パターンが一致するものがないと判定された場合、状態記述データ111を新規パターン作成部133に供給し、ステップS97に進む。
ステップS97において、新規パターン作成部133は、状態記述パターン比較部132から供給された状態記述データ111に含まれる反応記号とそれに対応する継続時間を、新規の通知判定テーブルの継続時間の最小値および最大値として仮通知判定テーブル蓄積部135に追加し、そこに蓄積させる。さらに、新規パターン作成部133は、現在の状態記述データ111に含まれるマイクロ波センサ23の状態を表わす接近反応数の割合と離反反応数の割合を、フォトセンサ22の状態を表わす反応記号毎に追加する。
ステップS96の処理の後、またはステップS97の処理の後、ステップS98において、ユーザフィードバック判定部131は、状態記述データ蓄積部53に蓄積されている全ての状態記述データ111とそれに対応するユーザフィードバックを読み込んだか否かを判定し、未だ読み込んでいないデータがあると判定した場合、ステップS92に戻り、上述した処理を繰り返し実行する。
ステップS98において、全ての状態記述データ111とそれに対応するユーザフィードバックを読み込んだと判定された場合、ステップS99に進み、テーブル比較部136は、過去通知判定テーブル蓄積部137に蓄積されている過去の通知判定テーブルと、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルを比較する。
ステップS100において、テーブル比較部136は、ステップS99の処理による比較の結果、過去の通知判定テーブルと仮の通知判定テーブルが同じであるか否かを判定し、同じではないと判定した場合、ステップS101に進み、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルを、送信部55に送信し、ステップS102に進む。これにより、図29のステップS74において、マルチセンサカメラ1に仮の通知判定テーブルが送信される。
ステップS100において、過去の通知判定テーブルと仮の通知判定テーブルが同じであると判定された場合、またはステップS101の処理の後、ステップS102において、テーブル比較部136は、仮通知判定テーブル蓄積部135に蓄積されている仮の通知判定テーブルを過去通知判定テーブル蓄積部137に供給し、更新通知判定テーブルとして更新させる。
以上の処理により、図25に示したようなパターン141−1乃至141−kからなる通知判定テーブルが過去通知判定テーブル蓄積部137に蓄積される。いわば、この通知判定テーブルには、イベントとして通知しなくてよい場合のパターンが記憶されることになる。
次に、図31のフローチャートを参照して、図29の処理ボックス2の処理に対応して実行されるリモートコントローラ4における処理について説明する。なお、この処理は、処理ボックス2の送信部56により、図29のステップS63の処理が実行されたとき、開始される。
ステップS111において、受信部61は、処理ボックス2より通知イベントを受信したか否かを判定し、通知イベントを受信するまで待機する。そして、通知イベントを受信したと判定した場合、ステップS112に進み、受信部61は、(上述した図29のステップS63の処理により)処理ボックス2から通知イベントとともに送信されてきた通知データに基づくイベント画像(通知画像データ)を呈示部62に呈示させる。
ユーザは、呈示部62に呈示されたイベント画像を見て、入力部63を操作し、判断(例えば、いま呈示されているイベントは今後も知らせて欲しいイベントであるか、あるいは、今後は知らせなくてよいイベントであるのか)を入力する。
ステップS113において、入力部63は、呈示されたイベントに対するユーザからの判断(ユーザフィードバック)が入力されたか否かを判定し、ユーザフィードバックが入力されたと判定した場合、ユーザFB信号を、送信部64に供給し、ステップS114に進む。
ステップS114において、送信部64は、入力部63から供給されたユーザFB信号を処理ボックス2に送信する。処理ボックス2は、これを受信し、状態記述データ蓄積部53に蓄積されている状態記述データ111に対応付ける(図29のステップS71)。
ステップS114の処理の後、または、ステップS113において、ユーザフィードバックが入力されていないと判定された場合、処理はステップS111に戻り、上述した処理が繰り返し実行される。
以上のように、フォトセンサ22の反応、およびマイクロ波センサ23の特徴量を組み合わせることにより、単独のセンサでは区別することができなかった人物の行動を、短時間で、かつ、高精度に区別することができる。
またマルチセンサカメラ1の状態記述部41が、フォトセンサ22の反応、およびマイクロ波センサ23の特徴量に基づいて状態記述データ111(図22)を記述し、それを通知イベントに用いるようにしたので、より効果的なイベント通知システムを構築することが可能となる。
さらに、ユーザからのフィードバックに基づいて、イベント通知の判定に用いる通知判定テーブルを変化(更新)させるようにしたので、ユーザが意図するイベントのみを検出することができ、かつ、イベントを通知する場合にのみ、CCDカメラ21の電源をオンするようにしたので、無駄なバッテリ消費を抑えることができる。
なお、図4に示したマルチセンサカメラ1には、1つのフォトセンサ22を設けるようにしたが、本発明はこれに限らず、例えば、図32に示されるように、3つのフォトセンサ22−1乃至22−3を設けるようにすることも可能である。
図32に示す監視システム10には、3つのフォトセンサ22−1乃至22−3が設けられているが、その他の構成は、図4に示した監視システム10と同様であり、その説明は適宜省略する。
図33は、図32に示すフォトセンサ22−1乃至22−3の監視領域を示す図である。同図に示されるように、フォトセンサ22−1乃至22−3は、空間方向アレイ状に配置されている。フォトセンサ22−1乃至22−3は、それぞれ、監視領域31−1乃至31−3内の平均輝度を検知信号として出力しており、人物が領域31−1乃至31−3内に進入または退出したことに応じて、その出力が変化する。
状態記述部41は、フォトセンサ22−1乃至22−3から供給されたフォトセンサデータ、およびマイクロ波センサ23から供給されたマイクロ波センサデータに基づいて、監視領域内における人物71の一連の行動(センサ反応)の状態記述データ111(図22)を記述する。
図34は、状態記述部41が記述するフォトセンサ22−1乃至22−3の反応記号の例を示す図である。
状態記述部41は、フォトセンサ22−1から供給されたフォトセンサデータ(検知信号81)から、図7を用いて上述したように、検知信号81の出力レベルが基準値Lから離れる方向に変化する区間A、何も変化しない区間B、および、検知信号81の出力レベルが基準値Lに近づく方向に変化する区間Cに分類し、区間A乃至区間Cにそれぞれ対応させて、反応記号LA、LB、LCをフォトセンサ22−1の状態として記述する。同様に、状態記述部41は、フォトセンサ22−2,22−3から供給されたフォトセンサデータから、上述したようにして区間A乃至区間Cに分類し、区間A乃至区間Cにそれぞれ対応させて、反応記号CA、CB、CCをフォトセンサ22−2の状態として記述し、反応記号RA、RB、RCをフォトセンサ22−3の状態として記述する。その際、反応区間毎の反応継続時間も記述する。
また状態記述部41は、マイクロ波センサ23から供給されたマイクロ波センサデータ(特徴量)から、図12を用いて上述したように、フォトセンサ22−1の反応区間LA乃至LC、フォトセンサ22−2の反応区間CA乃至CC、およびフォトセンサ22−3の反応区間RA乃至RCにおける、接近反応数の割合(0.0乃至1.0)、および離反反応数の割合(0.0乃至1.0)をマイクロ波センサ23の状態として記述する。
すなわち、状態記述部41は、フォトセンサ22−1乃至22−3に関する状態を表わす反応記号および継続時間、並びに、マイクロ波センサ23に関する状態を表わす接近反応数の割合および離反反応数の割合を1単位とし、それを時間軸方向に連続的に並べたものを状態記述データ111として記述する。
なお、この場合のマルチセンサカメラ1における処理は、基本的に、図26のフローチャートを参照して説明した処理と同様であり、処理ボックス2における処理は、基本的に、図29のフローチャートを参照して説明した処理と同様であり、またリモートコントローラ4における処理は、基本的に、図31を参照して説明した処理と同様であるため、それらの説明は省略するが、異なる点は、フォトセンサ22−1乃至22−3により取得したフォトセンサデータに基づいて処理が行われること、および、処理に用いられる状態記述データ111および通知判定テーブルが、反応記号LA,LB,LC,CA,CB,CC,RA,RBまたはRCを含んでいることである。
以上のように、フォトセンサ22−1乃至22−3の反応、およびマイクロ波センサ23の特徴量を組み合わせることにより、1つのフォトセンサ22では区別することができなかった人物の行動をより詳細に区別することが可能となる。
以上においては、フォトセンサ22およびマイクロ波センサ23を統合利用する場合の例について説明したが、これに限らず、例えば、マイクロホン、赤外線センサ、あるいは、他のセンサを搭載し、統合利用することも勿論可能である。
また、マルチセンサカメラ1や呈示部3は、1台ではなく、複数台設けるようにしたり、処理ボックス2は、呈示部3と別の筐体とせず、一体型とするようにしたり、リモートコントローラ4に呈示部62を設けずに、呈示部3のみの呈示とするようにしたり、あるいは、処理ボックス2にユーザフィードバックを入力するための入力部を設けるようにすることができる。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図35は、汎用のパーソナルコンピュータ200の内部の構成例を示す図である。CPU(Central Processing Unit)201は、ROM(Read Only Memory)202に記憶されているプログラム、または記憶部208からRAM(Random Access Memory)203にロードされたプログラムに従って各種の処理を実行する。RAM203にはまた、CPU201が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU201、ROM202、およびRAM203は、バス204を介して相互に接続されている。このバス204にはまた、入出力インターフェース205も接続されている。
入出力インターフェース205には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部206、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部207、ハードディスクなどで構成される記憶部208、およびモデムやターミナルアダプタなどで構成される通信部209が接続されている。通信部209は、インターネットを含むネットワークを介して通信処理を行う。
入出力インターフェース205にはまた、必要に応じてドライブ210が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア211が適宜装着され、そこから読み出されたコンピュータプログラムが、記憶部208にインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図35に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア211により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM203または記憶部208に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表わすものである。
1 マルチセンサカメラ, 2 処理ボックス, 3 呈示部, 4 リモートコントローラ, 10 監視システム, 22 フォトセンサ, 23 マイクロ波センサ, 41 状態記述部, 42 イベント通知判定部, 52 呈示画像構築部, 53 状態記述データ蓄積部, 54 通知判定テーブル更新部, 62 呈示部, 63 入力部, 121 パターン一致判定部, 122 通知判定テーブル蓄積部, 123 マイクロ波センサ状態距離判定部, 131 ユーザフィードバック判定部, 132 状態記述パターン比較部, 133 新規パターン作成部, 134 既存パターン更新部, 135 仮通知判定テーブル蓄積部, 136 テーブル比較部, 137 過去通知判定テーブル蓄積部