Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7167526B2 - 通信システム及び通信方法 - Google Patents
[go: Go Back, main page]

JP7167526B2 - 通信システム及び通信方法 - Google Patents

通信システム及び通信方法 Download PDF

Info

Publication number
JP7167526B2
JP7167526B2 JP2018143325A JP2018143325A JP7167526B2 JP 7167526 B2 JP7167526 B2 JP 7167526B2 JP 2018143325 A JP2018143325 A JP 2018143325A JP 2018143325 A JP2018143325 A JP 2018143325A JP 7167526 B2 JP7167526 B2 JP 7167526B2
Authority
JP
Japan
Prior art keywords
data
data processing
terminal
image
matching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018143325A
Other languages
English (en)
Other versions
JP2020021200A (ja
Inventor
喜永 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2020021200A publication Critical patent/JP2020021200A/ja
Application granted granted Critical
Publication of JP7167526B2 publication Critical patent/JP7167526B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/955Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/08Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0861Network architectures or network communication protocols for network security for authentication of entities using biometrical features, e.g. fingerprint, retina-scan
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/10Architectures or entities
    • H04L65/1063Application servers providing network services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Biomedical Technology (AREA)
  • Telephonic Communication Services (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Processing (AREA)

Description

本開示内容は、通信システム及び通信方法に関する。
近年、IoT(Internet of Things)が注目されている。例えば、クラウドコンピューティングを中心とする大規模な通信システムが構築されている。この通信システムでは、画像取得端末側で画像や音声のデータを取得し、インターネットを介してサーバに送信し、サーバ側で認識処理を行なう。特許文献1では、人物の顔を認識する処理を実行する目的で、画像取得端末(エッジノード)側に顔認識のためのカメラを設置し、画像取得端末はカメラから取得した画像データを中央のサーバ(顔認識のプリケーションサーバ)に送信し、サーバで顔の認識処理を実行するクラウドサービスプラットフォームが開示されている。
しかしながら、特許文献1に記載の発明のように、大規模な通信システムでは、ネットワーク負荷の増大、応答遅延が懸念される。例えば、画像取得端末が画像や音声等のデータをデジタル化してそのままサーバに送信してしまうと、短時間に大量のデータがインターネット上を流れることになり、ネットワークの負荷増大につながる。一方、サーバ側では、受信した被照合データ及び照合データに対して特徴量を抽出した後に照合の処理を実施しなければならないため、サーバ側での負荷も大きく、結果的にサーバから画像取得端末への応答(照合結果の送信)が遅延してしまうという課題が生じる。
請求項1に係る発明は、被写体を撮像して撮像画像のデータを得る画像取得端末と、前記撮像画像を表示する分散データ処理端末と、前記撮像画像における物体部分の領域である部分画像のデータとしての被照合データ、及び所定の物体を示す画像のデータであって予め登録されている照合データを照合する集中データ処理サーバと、を有する通信システムであって、前記画像取得端末は、前記撮像画像から前記部分画像を検出する物体検出手段と、前記部分画像のデータとしての前記被照合データを、前記分散データ処理端末に送信する第1の送信手段と、を有し、前記分散データ処理端末は、前記照合データを登録する登録手段と、前記登録手段によって登録された前記照合データ及び前記画像取得端末から受信された前記被照合データを、前記集中データ処理サーバに送信する第2の送信手段と、を有し、前記集中データ処理サーバは、前記分散データ処理端末から受信された前記照合データ及び前記被照合データの照合を行なう照合手段と、前記照合の結果を示す照合結果情報を、前記分散データ処理端末に送信する第3の送信手段と、を有する通信システムである。
以上説明したように本発明によれば、ネットワークの負荷の増大を抑制するとともに、照合結果の送信の遅延を抑制することができるという効果を奏する。
第1の実施形態に係る通信システムの概略図である。 実時間データ処理端末のハードウェア構成図である。 撮像ユニットのハードウェア構成図である。 図4(a)は撮像ユニット40bで撮影された半球画像(前側)、図4(b)は撮像ユニット40bで撮影された半球画像(後側)、図4(c)は正距円筒図法により表された画像を示した図である。 近端末データ処理装置又は分散データ処理端末のハードウェア構成図である。 集中データ処理サーバのハードウェア構成図である。 画像取得端末における実時間データ処理端末及び近端末データ処理装置のソフトウェア構成図である。 第1の実施形態に係る通信システムの機能ブロック図である。 (a)は素子数管理テーブルを示す概念図、(b)は照合データ管理テーブルの概念図である。 画像認識の開始要求の処理を示したシーケンス図である。 第1の実施形態に係り、画像認識の処理を示したシーケンス図である。 第1の実施形態に係り、実時間処理のうちの物体検出の処理を示したフローチャートである。 第1の実施形態に係り、実時間処理のうちのイベント生成の処理を示したフローチャートである。 分散データ処理端末における撮像画像の表示例を示した図である。 第1の実施形態に係り、照合する処理を示したシーケンス図である。 (a)は分散データ処理端末における照合データのファイル選択画面の表示例、(b)は分散データ処理端末における照合データの登録画面の表示例である。 分散データ処理端末における照合結果メッセージの表示例である。 第2の実施形態に係り、図15に示されている照合する処理の他の例を示したシーケンス図である。 第3の実施形態に係り、ある部屋に画像取得端末を配置した状況を示した図である。 第3の実施形態に係り、図13に示されている実時間処理のうちのイベント生成の処理の変形例を示したフローチャートである。 第3の実施形態に係り、図15に示されている照合する処理の他の例を示したフローチャートである。 第4の実施形態に係り、図10に示されている画像認識の開始要求の他の例を示したフローチャートである。 第4の実施形態に係り、図13に示されているイベント生成の他の例を示したフローチャートである。 第5の実施形態に係り、図8に示されている通信システムの他の例を示した機能ブロック図である。 特徴量管理テーブルを示す概念図である。 第5の実施形態に係り、図15に示されている照合する処理の他の例を示したシーケンス図である。 第5の実施形態に係り、図15に示されている照合する処理の他の例を示したシーケンス図である。 第6の実施形態に係る通信システムの概略図である。 分散データ処理端末がビデオ会議端末の場合のハードウェア構成図である。 第6の実施形態に係り、分散処理システム100aの機能ブロック図である。 第6の実施形態に係り、分散処理システム100bの機能ブロック図である。 第6の実施形態に係り、集中データ処理サーバ7a、通信管理サーバ9、及び中継装置10の機能ブロック図である。 (a)端末・装置管理テーブルの概念図、(b)セッション管理テーブルの概念図である。 第6の実施形態に係り、画像認識の開始要求の処理を示したシーケンス図である。 分散データ処理端末8aにおけるビデオ通話画面の例である。 分散データ処理端末8aにおいて参加者名を表示する前の拠点詳細情報を示した拠点詳細画面の例である。 第6の実施形態に係り、画像認識の処理を示したシーケンス図である。 第6の実施形態に係り、実時間処理のうちのイベント生成の処理を示したフローチャートである。 第6の実施形態に係り、照合する処理を示したシーケンス図である。 第6の実施形態に係り、照合結果を表示する処理を示したシーケンス図である。 分散データ処理端末8aにおいて参加者名を表示した後の拠点詳細情報を示した拠点詳細画面の例である。
〔全体概略〕
以下、図面を用いて、本発明の一実施形態の全体の概略について説明する。
<<実施形態の全体構成>>
図1は、本実施形態に係る通信システムの概略図である。図1に示されているように、本実施形態の通信システムは、実時間データ処理端末(リアルタイムデータ処理端末)3、近端末データ処理装置5、分散データ処理端末6、集中データ処理サーバ7によって構築されている。なお、実時間データ処理端末3、近端末データ処理装置5、及び分散データ処理端末6によって、分散処理システム100が構築されている。
これらのうち、実時間データ処理端末3は、撮像画像のデータを得るための実時間処理(リアルタイムの処理)を行なう端末である。実時間データ処理端末3には、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどの被写体を撮像する画像センサを備えた撮像ユニット40が着脱自在に接続される。これにより、実時間データ処理端末3は、撮像ユニット40から入力された撮像画像のデータ(以下、「撮像画像データ」という)をデジタル化し、実時間(たとえば1/60秒ごと)で物体(ここでは、顔)の画像を検出する。実時間データ処理端末3は、撮像画像のうちの物体部分の領域である部分画像のデータ(以下、「部分画像データ」という)を近端末データ処理装置5に送信する。
近端末データ処理装置5は、実時間データ処理端末3に最も近いところに配置され、例えばハードウェア的にも密接なデータバスやUSB(Universal Serial Bus)等で1対1に接続されている。近端末データ処理装置5は、実時間データ処理端末3から受信した部分画像データをJPEG(Joint Photographic Experts Group)などの汎用的なフォーマットに符号化した後、顔画像の照合が行なわれる場合の被照合データとして、イントラネット200を介して分散データ処理端末6に送信する。なお、通常、実時間データ処理端末3と近端末データ処理装置5は接続されて一体になっており、ここでは、実時間データ処理端末3と近端末データ処理装置5とで画像取得端末2を構成している。
分散データ処理端末6は、近端末データ処理装置5に比較的近い位置で利用者によって利用され、利用者の各種操作を受け付けることが可能なコンピュータである。分散データ処理端末6は、予め、顔画像の照合が行なわれる場合の照合データを登録して保存している。分散データ処理端末6は、インターネット600を介して、集中データ処理サーバ7に、照合データと被照合データとの照合を要求することができる。この場合、分散データ処理端末6は、近端末データ処理装置5から受信した被照合データ、及び予め登録している照合データも送信する。更に、分散データ処理端末6は、集中データ処理サーバ7から、照合結果を示す照合結果情報を応答として受信することができる。また、分散データ処理端末6は、グラフィックインターフェースを介して照合結果を表示させることができる。
集中データ処理サーバ7は、近端末データ処理装置5から比較的遠い位置に設置されており、分散データ処理端末6とはインターネット600等の通信ネットワークを介して通信することができる。集中データ処理サーバ7は、照合要求を示す照合要求情報並びに照合データ及び被照合データを受信した場合、照合データ及び被照合データの照合を行い、類似度を判断する。そして、集中データ処理サーバ7は、分散データ処理端末6に対して、類似度を含んだ照合結果を示す照合結果情報を送信する。
<<ハードウェア構成>>
次に、図2乃至図5を用いて、本実施形態の通信システムの各ハードウェア構成について説明する。
<実時間データ処理端末のハードウェア構成>
図2は、実時間データ処理端末のハードウェア構成図である。実時間データ処理端末3は、CPU301、ROM302、RAM303、EEPROM304、CMOSセンサ305、加速度・方位センサ306、メディアI/F308、GPS受信部309を備えている。
これらのうち、CPU301は、実時間データ処理端末3全体の動作を制御する。ROM302は、CPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。EEPROM304は、CPU301の制御にしたがって、実時間データ処理端末用プログラム等の各種データの読み出し又は書き込みを行う。CMOSセンサ305は、CPU301の制御に従って被写体(主に撮影ユニット40の死角)を撮像し画像データを得る。加速度・方位センサ306は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアI/F308は、フラッシュメモリ等の記録メディア307に対するデータの読み出し又は書き込み(記憶)を制御する。GPS受信部309は、GPS衛星からGPS信号を受信する。
また、実時間データ処理端末3は、撮像ユニットI/F313、マイク314、スピーカ315、音入出力I/F316、ディスプレイ317、外部機器接続I/F318、及びタッチパネル321を備えている。
これらのうち、撮像ユニットI/F313は、外付けの撮像ユニット40が接続された場合に、撮像ユニット40の駆動を制御する回路である。マイク314は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F316は、CPU301の制御に従ってマイク314及びスピーカ315との間で音信号の入出力を処理する回路である。ディスプレイ317は、被写体の画像や各種アイコン等を表示する液晶や有機ELなどの表示手段の一種である。外部機器接続I/F318は、各種の外部機器を接続するためのインターフェースである。タッチパネル321は、利用者がディスプレイ317を押下することで、実時間データ処理端末3を操作する入力手段の一種である。
また、実時間データ処理端末3は、バスライン310を備えている。バスライン310は、図2に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
<撮像ユニットのハードウェア構成>
図3は、撮像ユニットのハードウェア構成図である。特に、図3(a)は、撮像ユニット40のうち、単眼の撮像ユニット40aのハードウェア構成図である。図3(b)は、撮像ユニット40のうち、複眼の撮像ユニット40bのハードウェア構成図である。なお、撮像ユニット40は、撮像素子の数が異なる複数種類の撮像ユニット(撮像ユニット40a、40b等)の総称である。
図3(a)に示されているように、撮像ユニット40aは、CMOSやCCD等の撮像素子401a、レンズ402a、及び実時間データ処理端末3の撮像ユニットI/F313に電気的に接続するための接続I/F408aを有している。撮像ユニット40aが実時間データ処理端末3の撮像ユニットI/F313に接続された場合には、撮像素子401aは、撮像ユニットI/F313から接続I/F408aを介して送られて来た撮像制御信号により撮像を行い、接続I/F408aを介して撮像ユニットI/F313に撮像画像データを送信する。
また、図3(b)に示されているように、撮像ユニット40bは、CMOSやCCD等の撮像素子401b1,401b2、レンズ402b1,402b2、及び実時間データ処理端末3の撮像ユニットI/F313に電気的に接続するための接続I/F408bを有している。レンズ402b1,402b2は、例えば、魚眼レンズである。撮像ユニット40bが実時間データ処理端末3の撮像ユニットI/F313に接続された場合には、撮像素子401b1,401b2は、撮像ユニットI/F313から接続I/F408bを介して送られて来た撮像制御信号により撮像を行い、接続I/F408bを介して撮像ユニットI/F313に、複数の撮像画像データを送信する。
図3(a)に示されている撮像ユニット40aは、一般の平面画像を得るが、図3(b)に示されている撮像ユニット40bは、全天球画像を得ることができる。ここで、図4を用いて、撮像ユニット40bで撮像された画像から正距円筒射影画像ECが作成されるまでの処理の概略を説明する。なお、図4(a)は撮像ユニット40bで撮影された半球画像(前側)、図4(b)は撮像ユニット40bで撮影された半球画像(後側)、図4(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図4(a)に示されているように、撮像素子401b1によって得られた画像は、レンズ402b1によって湾曲した半球画像(前側)となる。また、図4(b)に示されているように、撮像素子403bによって得られた画像は、レンズ402b2によって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは合成され、図4(c)に示されているように、正距円筒射影画像ECが作成される。
<近端末データ処理装置、分散データ処理端末のハードウェア構成>
図5は、近端末データ処理装置又は分散データ処理端末のハードウェア構成図である。ここでは、近端末データ処理装置5と分散データ処理端末6とは、同じハードウェア構成を備えている場合を示しているため、近端末データ処理装置5について説明し、分散データ処理端末6の説明は省略する。
図5に示されているように、近端末データ処理装置5は、CPU501、ROM502、RAM503、EEPROM504、CMOSセンサ505、加速度・方位センサ506、メディアI/F508、GPS受信部509を備えている。
これらのうち、CPU501は、近端末データ処理装置5全体の動作を制御する。ROM502は、CPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。EEPROM504は、CPU501の制御にしたがって、近端末データ処理装置用プログラム等の各種データの読み出し又は書き込みを行う。CMOSセンサ505は、CPU501の制御に従って被写体(主に近端末データ処理装置5を操作するユーザの自画像)を撮像し画像データを得る。加速度・方位センサ506は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアI/F508は、フラッシュメモリ等の記録メディア507に対するデータの読み出し又は書き込み(記憶)を制御する。GPS受信部509は、GPS衛星からGPS信号を受信する。
また、近端末データ処理装置5は、遠距離通信回路511、遠距離通信回路511のアンテナ511a、カメラ512、撮像素子I/F513、マイク514、スピーカ515、音入出力I/F516、ディスプレイ517、外部機器接続I/F518、近距離通信回路519、近距離通信回路519のアンテナ519a、及びタッチパネル521を備えている。
これらのうち、遠距離通信回路511は、イントラネット200を介して、他の機器と通信する回路である。カメラ512は、CPU501の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子I/F513は、カメラ512の駆動を制御する回路である。マイク514は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F516は、CPU501の制御に従ってマイク514及びスピーカ515との間で音信号の入出力を処理する回路である。ディスプレイ517は、被写体の画像や各種アイコン等を表示する液晶や有機ELなどの表示手段の一種である。外部機器接続I/F518は、各種の外部機器を接続するためのインターフェースである。近距離通信回路519は、NFC(Near Field radio Communication)やBluetooth(登録商標)等の通信回路である。タッチパネル521は、利用者がディスプレイ517を押下することで、近端末データ処理装置5を操作する入力手段の一種である。
また、近端末データ処理装置5は、バスライン510を備えている。バスライン510は、図5に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
<集中データ処理サーバのハードウェア構成>
図6は、集中データ処理サーバのハードウェア構成図である。集中データ処理サーバ7は、コンピュータによって構築されており、図6に示されているように、CPU701、ROM702、RAM703、HD704、HDD(Hard Disk Drive)ドライブ705、記録メディア706、メディアI/F707、ディスプレイ708、ネットワークI/F709、キーボード711、マウス712、CD-RWドライブ714、及び、バスライン710を備えている。なお、集中データ処理サーバ7は、サーバとして機能するため、キーボード711やマウス712等の入力装置や、ディスプレイ708等の出力装置はなくてもよい。
これらのうち、CPU701は、集中データ処理サーバ7全体の動作を制御する。ROM702は、CPU701の駆動に用いられるプログラムを記憶する。RAM703は、CPU701のワークエリアとして使用される。HD704は、プログラム等の各種データを記憶する。HDDドライブ705は、CPU701の制御にしたがってHD704に対する各種データの読み出し又は書き込みを制御する。メディアI/F707は、フラッシュメモリ等の記録メディア706に対するデータの読み出し又は書き込み(記憶)を制御する。ディスプレイ708は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。ネットワークI/F709は、インターネット600を利用してデータ通信をするためのインターフェースである。キーボード711は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。マウス712は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。CD-RWドライブは、着脱可能な記録媒体の一例としてのCD-RW(Compact Disc-ReWritable)713に対する各種データの読み出し等を制御する。
また、集中データ処理サーバ7は、バスライン710を備えている。バスライン710は、図6に示されているCPU701等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
<<ソフトウェア構成>>
図7は、画像取得端末における実時間データ処理端末及び近端末データ処理装置のソフトウェア構成図である。
図7に示されているように、実時間データ処理端末3は、OS300、及び画像認識アプリケーション(以下、「アプリケーション」は「アプリ」と示す)AP1を有している。画像認識アプリAP1は、実時間データ処理端末3のRAM303の作業上で動作する。このうち、OS300は、基本的な機能を提供し、実時間データ処理端末3全体を管理する基本ソフトウェアである。画像認識アプリAP1は、撮像画像から人物や動物等の顔を認識するためのアプリである。
また、近端末データ処理装置5は、OS500、及び通信アプリAP2を有している。通信アプリAP2は、近端末データ処理装置5のRAM503の作業上で動作する。このうち、OS500は、基本的な機能を提供し、近端末データ処理装置5全体を管理する基本ソフトウェアである。通信アプリAP2は、分散データ処理端末6等の他の端末(装置)と通信を行うためのアプリである。
このように、画像取得端末2では、実時間データ処理端末3が画像認識を行うのに対して、近端末データ処理装置5がイントラネット200を介して分散データ処理端末6と通信を行なうことで、分散処理を行なうことができる。
なお、OS300及びOS500は、同じオペレーティングシステムの同じバージョン、又は、同じオペレーティングシステムの異なるバージョンであってもよい。または、OS300及びOS500は、異なるオペレーティングシステムであってもよい。
また、画像認識アプリケーションAP1と通信アプリケーションAP2とが共に動作する1つのOSで構成されていてもよい。この場合、一例として、実時間データ処理端末3と近端末データ処理装置5とを同じハードウェアにして1つの画像取得端末2を構成する。また、別の例では、実時間データ処理端末3と近端末データ処理装置5のいずれか一方が、実時間データ処理端末3と近端末データ処理装置5との間で共有する1つのOSを有している。例えば、近端末データ処理装置5にOSが搭載されている場合には、近端末データ処理装置5と実時間データ処理端末3との間の通信により、OSが備えられていない実時間データ処理端末3は、近端末データ処理装置5のOSを利用する。
但し、実時間データ処理端末3と近端末データ処理装置5とが1つの装置として構成されている場合や、1つのOSで動作している場合であっても、異なるアプリケーション、すなわち画像認識アプリケーションAP1と通信アプリケーションAP2との間で通信を行う。したがって、実時間データ処理とデータ送信を同時に行うことができ、処理全体の効率は向上したままである。
また、実時間データ処理端末3と近端末データ処理装置5とが1つの装置として構成されている場合であっても、1つの装置に2つのOS300及びOS500が搭載され、OS300の上で画像認識アプリケーションAP1が実行され、OS500の上で通信アプリケーションAP2が実行されるようにしてもよい。
また、実時間データ処理端末3及び近端末データ処理装置5は、OSだけでなく、ドライバ、ソフトウェア開発キット(SDK)、またはアプリケーションプログラミングインタフェース(API)を搭載しており、それぞれが異なっていてもよい。
〔第1の実施形態〕
続いて、図面を用いて、本発明の第1の実施形態の機能構成及び処理について説明する。
<<実施形態の機能構成>>
まず、図8及び図9を用いて、本実施形態に係る通信システムを構成する端末、装置、及びサーバの各機能構成について説明する。図8は、第1の実施形態に係る通信システムの機能ブロック図である。図8では、図1に示されている分散データ処理端末6の一例として、分散データ処理端末6aを示している。また、図8では、図1に示されている集中データ処理サーバ7の一例として、集中データ処理サーバ7aを示している。
<実時間データ処理端末の機能構成>
図8に示されているように、実時間データ処理端末3は、判断部33、画像処理部34、物体検出部35、イベント生成部36、表示制御部37、接続部38、記憶・読出部39、及び通信部48を有している。これら各部は、図2に示されている各構成要素のいずれかが、EEPROM304からRAM303上に展開されたプログラムに従ったCPU301からの命令によって、動作することで実現される機能又は手段である。
また、実時間データ処理端末3は、図2に示されているROM302、RAM303、及びEEPROM304によって構築される記憶部3000を有している。記憶部3000には、後述の形状モデルデータが記憶されている。更に、記憶部3000には、素子数管理DB3001が構築されている。素子数管理DB3001は、後述の素子数管理テーブルによって構成されている。
(素子数管理テーブル)
図9(a)は、素子数管理テーブルを示す概念図である。この素子数管理テーブルでは、撮像ユニット40の製造番号、及び撮像ユニット40が有する撮像素子の数が関連付けて管理されている。なお、製造番号は、撮像素子の数の違いに応じた撮像ユニットの種類を示す種類情報の一例である。
(実時間データ処理端末の各機能構成)
次に、図8を用いて、実時間データ処理端末3の各機能構成について更に詳細に説明する。
実時間データ処理端末3の判断部33は、CPU301の処理によって実現され、各種判断を行なう。例えば、判断部33は、撮像ユニット40から送られて来る製造番号に基づき、素子数管理DB3001を参考にして、撮像素子の数を判断する。
画像処理部34は、CPU301の処理によって実現され、撮像ユニット40から送られて来る撮像画像を、実時間(例えば/60秒間隔)のデジタル画像にして取得する。また、画像処理部34は、判断部33で判断された内容に応じた画像処理を行う。
物体検出部35は、CPU301の処理によって実現され、画像処理部34で取得された撮像画像のデータにおいて、顔などの予め決められた特定の物体の候補となる特徴点を検出し、顔などの予め定められた特定の物体の形状モデルを示す形状モデルデータを参照して、撮像画像の中の物体の位置を検出する。
イベント生成部36は、CPU301の処理によって実現され、物体検出部35で物体の位置が検出された旨の検出情報(イベント情報)を生成する。
表示制御部37は、CPU301の処理によって実現され、表示手段の一例であるディスプレイ317に各種画面を表示させる。
接続部38は、撮像ユニットI/F313、及びCPU301の処理によって実現され、撮像ユニット40を実時間データ処理端末3に機械的及び電気的に接続するためのインターフェースである。
記憶・読出部39は、CPU301の処理によって実現され、記憶部3000に各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。
通信部48は、外部機器接続I/F318、及びCPU301の処理によって実現され、1対1の通信を介して近端末データ処理装置5の後述の通信部58と各種データ(または情報)の送受信を行う。なお、この通信は有線だけでなく無線であってもよい。
<近端末データ処理装置の機能構成>
図8に示されているように、近端末データ処理装置5は、送受信部51、データ検出部56、表示制御部57、通信部58、及び記憶・読出部59を有している。これら各部は、図5に示されている各構成要素のいずれかが、近端末データ処理装置5において、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって、動作することで実現される機能又は手段である。
また、近端末データ処理装置5は、図5に示されているROM502、RAM503、及びEEPROM504によって構築される記憶部5000を有している。
(近端末データ処理装置の各機能構成)
次に、図8を用いて、近端末データ処理装置5の各機能構成について更に詳細に説明する。
近端末データ処理装置5の送受信部51は、遠距離通信回路511、アンテナ511a、及びCPU501の処理によって実現され、通信ネットワーク(ここでは、イントラネット200)を介して、分散データ処理端末6aとの間で各種データ(または情報)の送受信を行う。
データ検出部56は、CPU501の処理によって実現され、実時間データ処理端末3からのデータを受信するべきイベントが発生しているか否か、データの受信が完了したか否かを検出する。
表示制御部57は、CPU501の処理によって実現され、表示手段の一例であるディスプレイ517に各種画面を表示させる。
通信部58は、外部機器接続I/F518、及びCPU501の処理によって実現され、1対1の通信を介して実時間データ処理端末3の通信部48と各種データ(または情報)の送受信を行う。なお、この通信は有線だけでなく、無線であってもよい。
記憶・読出部59は、CPU501の処理によって実現され、記憶部5000に各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
<分散データ処理端末の機能構成>
図8に示されているように、分散データ処理端末6aは、送受信部61、受付部62、判断部63、表示制御部67、及び記憶・読出部69を有している。これら各部は、図5に示されている各構成要素のいずれかが、分散データ処理端末6aにおいて、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって、動作することで実現される機能又は手段である。
また、分散データ処理端末6aは、図5に示されているROM502、RAM503、及びEEPROM504によって構築される記憶部6000を有している。この記憶部6000には、照合データが記憶されている。更に、記憶部6000には、照合データ管理DB6001が構築されている。照合データ管理DB6001は、後述の照合データ管理テーブルによって構成されている。なお、照合データは、分散データ処理端末6a以外の他のデータ管理サーバ等で記憶してもよい。
(照合データ管理テーブル)
図9(b)は、照合データ管理テーブルを示す概念図である。この照合データ管理テーブルでは、照合データのファイル名を示す画像ファイル、及び顔画像で示される人物の名前が関連付けて管理されている。
(分散データ処理端末の各機能構成)
分散データ処理端末6aの送受信部61は、分散データ処理端末6aにおける、遠距離通信回路511、アンテナ511a、及びCPU501の処理によって実現され、通信ネットワーク(ここでは、インターネット600)を介して、集中データ処理サーバ7aと各種データ(または情報)の送受信を行う。例えば、送受信部61は、照合データと被照合データとの照合要求を集中データ処理サーバ7aに対して送信したり、集中データ処理サーバ7aから送られて来た照合結果に対する処理を行ったりする。
受付部62は、分散データ処理端末6における、タッチパネル521、及びCPU501の処理によって実現され、利用者の各種操作を受け付ける。
判断部63は、分散データ処理端末6aにおけるCPU501の処理によって実現され、各種判断を行なう。
表示制御部67は、分散データ処理端末6aにおけるCPU501の処理によって実現され、表示手段の一例であるディスプレイ517に各種画面を表示させる。
記憶・読出部69は、分散データ処理端末6aにおけるCPU501の処理によって実現され、記憶部6000に各種データ(または情報)を記憶したり、記憶部6000から各種データ(または情報)を読み出したりする。例えば、記憶・読出部69は、受付部62で受け付けられた登録要求により、照合データ(ここでは、顔画像データ)を記憶部6000に記憶して登録させる。
<集中データ処理サーバの機能構成>
図8に示されているように、集中データ処理サーバ7aは、送受信部71、受付部72、特徴量生成部74、照合部75、表示制御部77及び記憶・読出部79を有している。これら各部は、図6に示されている各構成要素のいずれかが、分散データ処理端末6aにおいて、HD704からRAM703上に展開されたプログラムに従ったCPU701からの命令によって、動作することで実現される機能又は手段である。
また、集中データ処理サーバ7aは、図6に示されているROM702、RAM703、及びHD704によって構築される記憶部7000を有している。記憶部7000には、後述の照合側の特徴量データが記憶されている。
(集中データ処理サーバの各機能構成)
集中データ処理サーバ7aの送受信部71は、ネットワークI/F709、及びCPU701の処理によって実現され、通信ネットワーク(ここでは、インターネット600)を介して、分散データ処理端末6aと各種データ(または情報)の送受信を行う。送受信部71は、照合データと被照合データとの照合要求を分散データ処理端末6aから受信したり、分散データ処理端末6aに対して照合結果を示す照合結果情報を送信したりする。
受付部72は、キーボード711、マウス712、及びCPU701の処理によって実現され、利用者の各種操作を受け付ける。
特徴量生成部74は、CPU701の処理によって実現され、送受信部71によって受信された被照合データ(部分画像データ)及び照合データから特徴量のパラメータを生成する。
照合部75は、CPU701の処理によって実現され、特徴量生成部74で生成された特徴量を用いて照合データ側の特徴量と被照合データ側の特徴量とを照合し、類似度を示す得点(ポイント)を算出する。
表示制御部77は、CPU701の処理によって実現され、表示手段の一例であるディスプレイ708に各種画面を表示させる。
記憶・読出部79は、CPU701の処理によって実現され、記憶部7000に各種データ(または情報)を記憶したり、記憶部7000から各種データ(または情報)を読み出したりする。
<<本実施形態の処理又は動作>>
続いて、図10乃至図19を用いて、本実施形態の処理又は動作について説明する。図10は、画像認識の開始要求の処理を示したシーケンス図である。
図10に示されているように、分散データ処理端末6aでは、受付部62が利用者から画像認識の開始要求を受け付ける(S1-1)。この場合、分散データ処理端末6aのGUI(Graphical User Interface)が利用される。これにより、分散データ処理端末6aの送受信部61は、近端末データ処理装置5に対して、画像認識の開始要求を示す画像認識の開始要求情報を送信する(S2-1)。これにより、近端末データ処理装置5の送受信部51は、画像認識の開始要求情報を受信する。そして、通信部58は、実時間データ処理端末3に対して、画像認識の開始要求情報を送信する(S3-1)。これにより、実時間データ処理端末3の通信部48は、画像認識の開始要求情報を受信する。このように、ユーザーインタフェースを実時間データ処理端末3から分離することで、分散データ処理端末6aから遠隔(リモート)操作が可能となる。
続いて、図11を用いて、画像認識の処理を説明する。図11は、画像認識の処理を示したシーケンス図である。まず、実時間データ処理端末3は、実時間処理を行なう(S11)。
ここで、図12及び図13を用いて、実時間処理について説明する。図12は、実時間処理のうちの物体検出の処理を示したフローチャートである。
まず、判断部33は、接続されている撮像ユニット40における撮像素子の数が1つであるか否かを判断する(S101)。この際、記憶・読出部39は、接続部38によって撮像ユニット40から取得された撮像ユニット40の製造番号を検索キーとして、素子数管理DB3001を検索することにより、対応する撮像素子の数を読み出す。これにより、判断部33は、撮像素子の数を判断することができる。そして、撮像素子の数が1つの場合には(S101;YES)、画像処理部34が、処理を繰り返すサイクル値を1/60秒に設定する(S102)。次に、接続部38は、撮像ユニット40(ここでは、撮像ユニット40a)から1系統である撮像画像データを取得する(S103)。この撮像画像データは、デジタル画像データであり、たとえば4K画像(幅3840画像×高さ2160画素)のデータである。
次に、物体検出部35が、撮像画像データにおいて、物体の候補となる特徴点を検出することで、物体を検出する(S104)。この場合、物体検出部35は、予め記憶部3000に記憶されている物体の形状モデルデータと比較しながら撮像画像の端から矩形を探索し、もっともらしい物体の特徴点の位置を選択する。なお、ステップS104の処理については、例えば、「顔認識技術とその応用:パブリックセーフティを支える要素技術・ソリューション特集 ; バイオメトリクス認証, NEC技報, Vol.63, no.3, pp.26-30, 2010-09」で開示されているような、既知技術を用いることができる。
一方、上記ステップS101において、撮像素子の数が1つではない場合には(S101;NO)、画像処理部34は、実時間処理を繰り返すサイクル値を1/30秒に設定する(S105)。この場合、サイクル値を1/30秒とすることで、1入力と比較して、サイクル値を大きく取ることにより、後述の画像合成処理が間に合わなくなることを防ぐことが出来る。
次に、接続部38は、撮像ユニット40(ここでは、撮像ユニット40b)から2系統である2つの撮像画像データを取得する(S106)。2つの撮像画像データは、それぞれ図4(a)、(b)に示されているような半球画像のデータである。そして、画像処理部34は、2つの撮像画像データを合成して、図4(c)に示されているような正距円筒射影画像ECを作成する(S107)。その後は、ステップS104に進み、物体検出部35は、正距円筒射影画像ECのデータにおいて、物体の候補となる特徴点を検出することで、物体を検出する。
なお、実時間データ処理端末3は、実時間オペレーティングシステムに基づいて制御するため、ステップS101,S102~S104~S213、及びステップS101,S105~S104~S213の繰り返し処理については、例えば1/60秒の間隔で高速に実行される。
以上により、図11に示されているように、実時間データ処理端末3の通信部48は、近端末データ処理装置5の通信部58へ撮像画像データを送信する(S12)。そして、近端末データ処理装置5の送受信部51は、ステップS12で受信された撮像画像データを、分散データ処理端末6aの送受信部61へ送信する(S13)。これにより、分散データ処理端末6aの表示制御部67は、ディスプレイ517に、図14(a)に示されているような撮像画像をリアルタイムで表示させる。図14は、分散データ処理端末における撮像画像の表示例を示した図である。この撮像画像には、物体検出(ここでは、顔検出)された矩形を示す枠が表示されている。ステップS12~S14は、ストリーミングの処理である。
続いて、図13を用いて、実時間処理のうちのイベント生成の処理を説明する。図13は、実時間処理のうちのイベント生成の処理を示したフローチャートである。
上述のステップS107の処理によって、物体検出部35が物体(ここでは、顔)を検出しなかった場合で(S211;NO)、1系統のときはステップS103の処理へ戻り、2系統のときはステップS106の処理に戻る。これに対し、上述のステップS104の処理によって、物体検出部35が物体(ここでは、顔)を検出した場合には(S211;YES)、ステップS212の処理へ進む。そして、上述のステップS104の処理によって、物体検出部35が、物体(ここでは、顔)を複数検出した場合には(S212;NO)、表示制御部37は、図14(b)に示すように、メッセージm1を重畳した撮像画像を表示する(S213)。このメッセージm1は、一つの顔が撮影対象となるように利用者の行動を促す内容を示している。ステップS213の処理後は、1系統の場合はステップS103の処理へ戻り、2系統の場合はステップS106の処理に戻る。
一方、上述のステップS104の処理によって、物体検出部35が、物体(ここでは、顔)を1つだけ検出した場合には(S212;YES)、表示制御部37は、図14(b)に示されているメッセージm1を表示しない(S214)。この場合、表示制御部37は、既にメッセージm1を表示している場合には、メッセージm1を表示しないようにする。
次に、物体検出部35は、検出された位置での顔を含んだ部分画像データをJPEGなどの汎用形式で符号化する(S215)。そして、イベント生成部36は、近端末データ処理装置5に対して部分画像データを送信することを通知するイベントメッセージを生成する(S216)。具体的には、イベント生成部36は、”Send”といったイベントメッセージm2を生成する。
以上により、図11に示されているステップS11の処理が終了する。これにより、通信部48は、近端末データ処理装置5の通信部58に対して、ステップS216で生成されたイベントメッセージm2、及びステップS104で検出された部分画像データを送信する(S15)。なお、ステップS104の処理において、複数の物体(ここでは、顔)が検出された場合には、1つのイベントメッセージm2と共に、複数の部分画像データが送信される。また、通信システムが、店舗等で利用される場合、実時間データ処理端末3は、イベントメッセージm2及び部分画像データを保存しておき、店舗が閉店した後(例えば、夜)に、まとめて近端末データ処理装置5に送信してもよい。
次に、近端末データ処理装置5では、データ検出部56が、通信部58によって”Send”のイベントメッセージm2の受信の有無を検出する(S16)。そして、イベントメッセージm2の受信が検出された場合には(S16;YES)、通信部58は、イベントメッセージm2と共に送信された部分画像データを受信する(S17)。そして、記憶・読出部59が、記憶部5000に部分画像データを一時的に記憶する(S18)。
次に、データ検出部56は、部分画像データの受信が完了したか否かを監視する(S19)。このステップS19の処理は、1つのイベントメッセージm2につき、全ての部分画像データが受信されるまで繰り返される(S19;NO)。そして、部分画像データの受信が完了した場合には(S19;YES)、記憶・読出部59は、記憶部5000から1つのイベントメッセージm2と共に送られ、記憶部5000に一時的に記憶されている全ての部分画像データを読み出す(S20)。その後、送受信部51は、イントラネット200を介して、分散データ処理端末6aの送受信部61に対して、ステップS20で読み出された全ての部分画像データを送信する(S21)。これにより、分散データ処理端末6aの送受信部61は、全ての部分画像データを受信する。部分画像データは、後ほど被照合データとして利用される。
続いて、図15乃至図17を用いて、部分画像データである被照合データと、登録されている照合データとの照合処理について説明する。図15は、照合する処理を示したシーケンス図である。図16(a)は、分散データ処理端末における照合データのファイル選択画面の表示例、図16(b)は、分散データ処理端末における照合データの登録画面の表示例である。図17は、分散データ処理端末における照合結果メッセージm3の表示例である。
まず、利用者は、照合データを登録するために、分散データ処理端末6aを操作することで、表示制御部67は、図16(a)に示すように、照合データのファイル選択画面を表示させる。これにより、利用者は、「ファイル選択」ボタンb11を押下後、登録する画像(ここでは、顔の画像)を選択すると、受付部62は、登録される画像のファイルの選択を受け付ける(S111)。これにより、表示制御部67は、図16(b)に示されているように、照合データの登録画面を表示させる。この登録画像には、選択された画像及びファイルa21、名前入力欄a22、「登録」ボタンb21、及び「キャンセル」ボタンb22が表示されている。そこで、利用者は、選択された画像及びファイルa21が所望の画像であるかを確認後、所望の画像であれば、名前入力欄a22に、照合データとして登録する画像の名前を入力後、「登録」ボタンb21を押下すると、受付部62は、照合データとしての画像の登録を受け付けることで、記憶・読出部79が登録を行う(S112)。具体的には、記憶・読出部69は、照合データ管理DB6001に対して、ファイル名a21及び名前入力欄a22に入力された名前を関連付けて記憶する。なお、利用者が、選択された画像及びファイルa21が所望の画像でない場合には、「キャンセル」ボタンb22を押下すると、図16(a)に示されているファイル選択画面に戻る。このように、近端末データ処理装置5側で照合データを登録せずに、分散データ処理端末6a側で照合データを登録することによって、近端末データ処理装置5と分散データ処理端末6aとの間の通信ネットワーク通信の負荷を抑制することができるという効果を奏する。
次に、上述のステップS21の処理により、分散データ処理端末6aの送受信部61が、部分画像データを受信すると、記憶・読出部69は、照合データ管理DB6001を検索することで、登録されている照合データが残っているか否かを判断する(S113)。そして、残っていると判断された場合には、送受信部61は、インターネット600を介し、集中データ処理サーバ7aに対して、照合要求を示す照合要求情報を送信する(S114)。この照合要求情報には、照合データ及び被照合データが含まれている。これにより、集中データ処理サーバ7aの送受信部71は、照合要求情報を受信する。なお、この際、図9(b)に示されている照合データ管理テーブルにおける先頭行に係る照合データから順次送信される。即ち、まず最初に、読み出された照合データとステップS21によって受信された被照合データが送信される。そして、次の照合要求情報が送信される際に、次に読み出された照合データとステップS21によって受信された被照合データが送信される。
次に、集中データ処理サーバ7aでは、特徴量生成部74が、両データ(照合データ及び被照合データ)をビットマップデータに復号化する変換を行ない、両データに係る顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータを生成する(S115)。そして、照合部75は、両データに係る特徴量のパラメータを比較して類似度を算出する(S116)。この類似度の算出方法には、例えば、「ディープラーニングと画像認識 : 基礎と最近の動向(<特集>ニューロサイエンスと数理モデリング) オペレーションズ・リサーチ : 経営の科学 60(4), 198-204, 2015-04-01」に開示されているような、深層神経回路網(DNN: Deep Neural Network)が利用される。なお、照合データの特徴量のパラメータは、第1の特徴量のパラメータの一例であり、被照合データの特徴量のパラメータは、第2の特徴量のパラメータの一例である。
次に、集中データ処理サーバ7aの送受信部71は、インターネット600を介して、分散データ処理端末6aの送受信部61に対し、ステップS114の照合要求に対応する応答を示す応答情報を送信する(S117)。この応答情報には、ステップS116の計算結果である類似度が含まれている。これにより、分散データ処理端末6aの送受信部61は、応答情報を受信する。
次に、分散データ処理端末6aでは、記憶・読出部69が、ステップS114で送信された照合要求情報に含まれていた照合データに付けられている「名前」と、ステップS117で受信された「類似度」とを組にして一時的に記憶部6000に記憶する(S118)。その後、図9(b)に示されている照合データ管理テーブルにおいて、照合データを次の行へ変更して、ステップS113の処理が再度行なわれる。
一方、ステップS113において、照合データが残っていない(全くない場合も含む)と判断された場合には、ステップS119の処理に進む。そして、記憶・読出部69は、記憶部6000に一時的に記憶していた各類似度の中から最大の類似度の照合データに付けられた「名前」を読み出す(S119)。そして、表示制御部67は、分散データ処理端末6aのディスプレイ517上に、図14(a)に示されているリアルタイムの撮像画像上において、図17に示されているような照合結果メッセージを表示させる(S120)。この照合結果メッセージm3には、照合結果、及び最大類似度の照合データに付けられた「名前」が表示されている。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、図7に示されているように、実時間データ処理端末3は画像認識アプリAP1によって撮像画像データから部分画像データを抽出し、近端末データ処理装置5は通信アプリAP2によって部分画像データを分散データ処理端末6aに送信することで、負荷分散を行なうことができる。これにより、実時間データ処理端末3は、実時間処理を繰り返す1/60秒のサイクル値を維持することができるという効果を奏する。特に、イントラネット200内に複数の実時間データ処理端末を設置する場合であっても、近端末データ処理装置5が分散データ処理端末6aとの通信を行なうため、各実時間データ処理端末は、実時間処理を繰り返す1/60秒のサイクル値を維持することができるという効果を奏する。更に、実時間データ処理端末3と近端末データ処理装置5とを、分散データ処理端末6a及び集中データ処理サーバ7aと比較して物理的に近い位置で1対1接続することにより、データの受け渡しを高速にできるため、最終的に照合結果を得るまでの処理時間を短縮することができるという効果を奏する。また、図3に示されているように撮像素子の数が変わっても、画像取得端末2が撮像素子の数の影響を受けることを抑制することができる。
また、実時間データ処理端末3は、撮像画像データではなく部分画像データを出力するため、画像取得端末2から分散データ処理端末6aに送信されるデータは、データ量が大きい撮像画像データではなく、比較的データ量が少ない部分画像データで済むことができる。これにより、イントラネット200及びインターネット600に流れるデータ量を抑えることができる。更に、実時間データ処理端末3は、部分画像データを符号化することによりデータ量を圧縮することで、近端末データ処理装置5がイントラネット200を介して分散データ処理端末6aに送信するデータのデータ量を小さくすることができる。
また、複数人の顔が検出された場合には、図14(b)に示されているように、一人で撮影することを要求するメッセージが表示されるため、実時間データ処理端末3には確実に一人の顔だけを認識させるようにすることができるため、顔認識の精度が向上することで、セキュリティを高めることができる。
〔第2の実施形態〕
続いて、図18を用いて、第2の実施形態について説明する。図18は、図15に示されている照合する処理の他の例を示したシーケンス図である。なお、本実施形態は、図18に示されている処理以外は、構成、機能、及び処理ともに第1の実施形態と同様であるため、説明を省略する。また、本実施形態では、第1の実施形態のステップS111,S112の処理によって事前に照合データの登録が行なわれる。照合データは、分散データ処理端末6aの記憶部6000で記憶しておく必要はなく、他の装置であるデータ管理サーバで記憶しておいてもよい。
まず、図18では、図15に示されている第1の実施形態と同様のステップS111,S112,(S21),S113の処理が行なわれる(S201,S202,(S21),S203)。
次に、送受信部61は、インターネット600を介し、集中データ処理サーバ7aに対して、照合要求を示す照合要求情報を送信する(S204)。この照合要求情報には、ファイル被照合データの記憶場所を示すURL(Uniform Resource Locator)、及び照合データの記憶場所を示すURLが含まれている。これにより、集中データ処理サーバ7aの送受信部71は、照合要求情報を受信する。
次に、集中データ処理サーバ7aの送受信部71は、照合の処理(特徴量の生成、類似度の計算)を開始することになった場合には、被照合データの記憶場所を示すURLにアクセスして被照合データのファイルの読み出し要求を示すファイル読出要求情報を送信すると共に、照合データの記憶場所を示すURLにアクセスして照合データのファイルの読み出し要求を示すファイル読出要求情報を送信する(S205)。ここでは、分散データ処理端末6aが被照合データ及び照合データのファイルを記憶しているため、集中データ処理サーバ7aの送受信部71は、分散データ処理端末6aの送受信部61に対して、ファイル読出要求情報を送信する。なお、上述のデータ管理サーバで被照合データ及び照合データを管理している場合には、集中データ処理サーバ7aの送受信部71は、データ管理サーバに対して、ファイル読出要求情報を送信する。
次に、分散データ処理端末6aでは、記憶・読出部69が、ファイルの読み出し要求に基づいて、被照合データ及び照合データのファイルを読み出す(S206)。そして、送受信部61が、集中データ処理サーバ7aの送受信部71に対して、被照合データ及び照合データを送信する(S207)。この処理以降は、図15に示されている第1の実施形態と同様であるため、その説明を省略する。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、集中データ処理サーバ7aは、常に被照合データ及び照合データを要求するのではなく、照合の処理を開始する段階になって初めて被照合データ及び照合データを要求することができる。これにより、集中データ処理サーバ7aの記憶部7000におけるデータの占有容量を抑制し、集中データ処理サーバ7aの性能の低下を防ぐことができる。
〔第3の実施形態〕
続いて、図19乃至図21を用いて、第3の実施形態について説明する。図19は、ある部屋に画像取得端末を配置した状況を示した図である。本実施形態は、画像取得端末2の撮像範囲R1において、物体の検出範囲が、撮像画像の全体ではなく、撮像画像を2分割して左側半分に限定した場合を示している。例えば、画像取得端末2を監視カメラとして利用する場合、右側は社員専用の出入口D2であるため、不審者が出入りすることはない。一方で、左側は、一般人用の出入口D1であるため、不審者が出入りする可能性がある。そこで、本実施形態では、物体の検出範囲を撮像画像の左側半分に限定している。なお、物体の検出範囲は、右側半分、上側半分、下側半分にしてもよい。また、対象についても2分割に限るものではなく、4分割等、用途に応じて適宜分割する数を変更してもよい。
図20は、図13に示されている実時間処理のうちのイベント生成の処理の変形例を示したシーケンス図である。図21は、図15に示されている照合する処理の他の例を示したシーケンス図である。なお、本実施形態は、図20及び図21に示されている処理以外は、構成、機能、及び処理ともに第1の実施形態と同様であるため、説明を省略する。
まず、図20に示されているように、図13に示されているステップS211と同様の処理が行なわれる(S221)。そして、上述のステップS104の処理によって、物体検出部35が物体(ここでは、顔)を検出した場合には(S221;YES)、ステップS222の処理へ進む。そして、物体検出部35によって検出された物体の位置(x,y)が撮像画像の対象内(ここでは、左半分の内)にない場合には(S222;NO)、1系統のときはステップS103の処理へ戻り、2系統のときはステップS106の処理に戻る。これに対して、物体検出部35によって検出された物体の位置(x,y)が、撮像画像の対象内(ここでは、左半分の内)にある場合には(S222;YES)、ステップS223の処理に進む。ここで、物体の位置(x,y)は、それぞれ撮像画像の左上を原点とする幅方向及び高さ方向の座標である。具体的には、撮像画像の全画像の幅がWであるとすると、x<(W/2)の場合(S222;YES)と、x≧(W/2)の場合(S222;NO)とに分けられる。これ以降は、上述のステップS215,S216と同様の処理が行なわれる(S223,S224)。
次に、図21を用いて、通信システムを監視カメラのシステムに応用した場合の処理について説明する。なお、図15に示されているステップS111~S119の処理と同様の処理が行なわれるため、その説明を省略する。
ステップS119の処理後、分散データ処理端末6aの判断部63は、ステップS119によって読み出された最大類似度が閾値(例えば、「1」が完全一致の場合の「0.5」)以上か否かを判断する(S131)。この場合、最大類似度が閾値未満の場合には、分散データ処理端末6aは、物体(顔)が不明であるとして取り扱う。そして、表示制御部67は、分散データ処理端末6aのディスプレイ517上に、図17に示されている照合結果メッセージm3の照合結果欄に「不明」である旨のメッセージを表示させる(S132)。この場合、照合結果メッセージm3の名前は表示されない。
次に、分散データ処理端末6aが物体を不明者として取り扱う場合には(S133;YES)、記憶・読出部69は、記憶部6000で管理している不明者の数を1カウント増加させる(S134)。そして、送受信部61は、集中データ処理サーバ7aの送受信部71に対して、記憶部6000で管理されている不明者の1カウント分、及び、この不明者が実時間データ処理端末3で撮像された日時を示す撮影日時情報を送信する(S135)。これにより、集中データ処理サーバ7aの送受信部71は、不明者の1カウント分及び撮影日時情報を受信する。
なお、撮影日時情報は、図11に示されているステップS12,S13によって、実時間データ処理端末3から分散データ処理端末6aへ撮像画像データが送信される際に併せて送信される。また、撮影された日時ではなく、図11において、近端末データ処理装置5がステップS12によって撮像画像データを受信した日時、若しくは近端末データ処理装置5がステップS13によって撮像画像データを送信した日時であってもよい。または、撮影された日時ではなく、図11において、分散データ処理端末6aがステップS13によって撮像画像データを受信した日時であってもよい。
更に、実時間データ処理端末3は、ステップS12の処理の前に、近端末データ処理装置5を介して分散データ処理端末6aに、実時間データ処理端末3の位置を示す位置情報を送信しておいてもよい。これにより、分散データ処理端末6aは、上述のステップS135の処理において、位置情報も送信することができるため、集中データ処理サーバ7aでは、不明者の1カウント分、撮影日時、及び位置情報を関連付けて管理することができる。なお、集中データ処理サーバ7a側で、記憶部7000に実時間データ処理端末3(または画像取得端末2)を識別するための端末ID(Identification)及び実時間データ処理端末3(または画像取得端末2)の位置を示す位置情報を関連付けて管理しておき、分散データ処理端末6aは、ステップS135の処理において、位置情報の替わりに、端末IDを送信してもよい。これにより、集中データ処理サーバ7aは、分散データ処理端末6aの設置位置も管理することができる。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、集中データ処理サーバ7aは、第1の実施形態の効果に加え、物体の検出範囲が半分で済むため、近端末データ処理装置5から分散データ処理端末6aを介して集中データ処理サーバ7aに部分画像データを送信する頻度を減少させることができる。これにより、イントラネット200及びインターネット600上を送信するデータ量を抑制することができる。
また、不明者の数が集中データ処理サーバ7aに記憶されるため、分散データ処理端末6a等から集中データ処理サーバ7aにアクセスして、不明者の数を確認することができる。
〔第4の実施形態〕
続いて、図22及び図23を用いて、第4の実施形態について説明する。図22は、図10に示されている画像認識の開始要求の他の例を示したシーケンス図である。図23は、図13に示されているイベント生成の他の例を示したフローチャートである。本実施形態では、分散データ処理端末から画像照合の要求を行なわなければ、画像照合の処理が開始されない場合を示している。なお、本実施形態は、図22及び図23に示されている処理以外は、構成、機能、及び処理ともに第1の実施形態と同様であるため、説明を省略する。
まず、図10に示されているステップS1-1,S2-1,S3-1の実行後、図22に示されているように、分散データ処理端末6aでは、受付部62が利用者から画像照合の開始要求を受け付ける(S1-2)。この場合、分散データ処理端末6aのGUIが利用される。これにより、分散データ処理端末6aの送受信部61は、近端末データ処理装置5に対して、画像照合の開始要求を示す画像照合の開始要求情報を送信する(S2-2)。これにより、近端末データ処理装置5の送受信部51は、画像照合の開始要求情報を受信する。そして、通信部58は、実時間データ処理端末3に対して、画像照合の開始要求情報を送信する(S3-2)。これにより、実時間データ処理端末3の通信部48は、画像照合の開始要求情報を受信する。このように、ユーザーインタフェースを実時間データ処理端末3から分離することで、分散データ処理端末6aから遠隔(リモート)操作が可能となる。
次に、実時間データ処理端末3では、図12に示されている処理と同様の処理が行なわれる。その後に、図23に示されている処理が行なわれる。ここで、図23に示されている処理について説明する。
まず、上述のステップS107の処理によって、物体検出部35が物体(ここでは、顔)を検出しなかった場合で(S231;NO)、上述のステップS211の処理と同様に、1系統のときはステップS103の処理へ戻り、2系統のときはステップS106の処理に戻る。これに対し、上述のステップS104の処理によって、物体検出部35が物体(ここでは、顔)を検出した場合には(S231;YES)、ステップS232の処理へ進む。そして、判断部33は、分散データ処理端末6aから近端末データ処理装置5を介して、画像照合の開始要求情報が送られて来ているかを判断する(S232)。そして、判断部33が、画像照合の開始要求情報が送られて来ていないと判断した場合には(S232;NO)、上述のステップS231の処理と同様に、1系統の場合はステップS103の処理へ戻り、2系統の場合はステップS106の処理に戻る。一方、判断部33が、画像照合の開始要求情報が送られて来ていると判断した場合には(S232;YES)、実時間データ処理端末3は、上述のステップS215,S216と同様の処理を行なう。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、集中データ処理サーバ7aは、第1の実施形態の効果に加え、利用者が画像認識の開始要求をした場合のみ、画像認識の処理を行なうため、無駄な処理を省略することができる。これにより、近端末データ処理装置5から分散データ処理端末6aを介して集中データ処理サーバ7aに部分画像データを送信する頻度を減少させることができる。これにより、イントラネット200及びインターネット600上を送信するデータ量を抑制することができる。
〔第5の実施形態〕
続いて、図24及び図27を用いて、第5の実施形態について説明する。図24は、図8に示されている通信システムの他の例を示した機能ブロック図である。図24では、図1に示されている分散データ処理端末6の一例として、分散データ処理端末6bを示している。また、図24では、図1に示されている集中データ処理サーバ7の一例として、集中データ処理サーバ7bを示している。本実施形態の通信システムは、第1の実施形態における分散データ処理端末6aから照合データ管理DB6001を削除した分散データ処理端末6bを有する替わりに、第1の実施形態における集中データ処理サーバ7aに特徴量管理DB7001を追加した集中データ処理サーバ7bを有している。特徴量管理DB7001は、記憶部7000に記憶されており、後述の特徴量管理テーブルによって構成されている。なお、本実施形態では、第1の実施形態と同様の構成及び機能については、同一の符号を付して、その説明を省略する。
(特徴量管理テーブル)
図25は、特徴量管理テーブルを示す概念図である。この特徴量管理テーブルでは、顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータ、及びこの個人の名前が関連付けて管理されている。
<<本実施形態の処理又は動作>>
続いて、図26及び図27を用いて、本実施形態の処理又は動作について説明する。図26及び図27は、図15に示されている照合する処理の他の例を示したシーケンス図である。
まず、分散データ処理端末の受付部62が、利用者から図16(a)に示されているようなファイル選択画面、及び図16(b)に示されているような照合データの登録画面の表示を受け付ける(S301)。これにより、分散データ処理端末6bの送受信部61は、集中データ処理サーバ7bの送受信部71に対して、GUIデータの要求を示すGUI要求情報を送信する(S302)。これにより、集中データ処理サーバ7bの送受信部71は、GUI要求情報を受信する。
次に、集中データ処理サーバ7bの送受信部71は、分散データ処理端末6bの送受信部61に対してGUIデータを送信する。このGUIデータは、記憶・読出部79によって記憶部7000から読み出されたデータである。このGUIデータは、予め記憶部7000に記憶されている。これにより、分散データ処理端末6bの送受信部61は、GUIデータを受信する。
次に、分散データ処理端末6bの表示制御部67は、分散データ処理端末6bのディスプレイ517上に、図16(a)に示されているファイル選択画面を表示させる。そして、上述のステップS111,S112と同様の処理が行なわれる(S304,S305)。これにより、送受信部61は、集中データ処理サーバ7bの送受信部71に対して、照合データの登録要求を示した登録要求情報を送信する(S306)。この登録要求情報には、ステップS304で選択されたファイルの照合データ及びステップS305で入力された名前が含まれている。
次に、集中データ処理サーバ7bでは、特徴量生成部74が、上述のステップS306で受信された照合データをビットマップデータに復号化する変換を行ない、照合データに係る顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータを生成する(S307)。そして、記憶・読出部79が、特徴量管理DB7001に対して、ステップS307で生成された特徴量のパラメータ、及びステップS306で受信された名前を関連付けて記憶することで登録する(S308)。
一方、分散データ処理端末6bでは、上述のステップS21の処理により、送受信部61が被照合データとしての部分画像データを受信した場合には、送受信部61は、集中データ処理サーバ7bに対して、照合要求を示す照合要求情報を送信する(S311)。この照合要求情報には、被照合データが含まれている。これにより、集中データ処理サーバ7bの送受信部71は、照合要求情報を受信する。
次に、集中データ処理サーバ7bでは、特徴量生成部74が、上述のステップS311で受信された被照合データをビットマップデータに変換し、被照合データに係る顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータを生成する(S312)。そして、記憶・読出部79は、特徴量管理DB7001を検索することで、登録されている照合データの特徴量パラメータが残っているか否かを判断する(S313)。このステップS313によって特徴量パラメータが残っていると判断された場合には(S313;YES)、照合部75は、両データ(照合データ及び被照合データ)に係る特徴量のパラメータを比較して類似度を算出する(S314)。その後、ステップS313の処理に戻ることで、登録されている照合データの特徴量のパラメータに関して全て類似度が算出されるまで、ステップS313,S314の処理が繰り返される。一方、ステップS313の処理において、照合データの特徴量のパラメータが残っていない(全くない場合も含む)と判断された場合には、ステップS315の処理に進む。
次に、記憶・読出部79が、ステップS306で送信された登録要求情報に含まれていた照合データに付けられている「名前」と、ステップS314の処理で計算された「類似度」とを組にして一時的に記憶部7000に記憶する(S315)。
次に、記憶・読出部79は、記憶部7000に一時的に記憶していた類似度の中から最大類似度の照合データに付けられた「名前」を読み出す(S316)。そして、送受信部71は、分散データ処理端末6bに対して、上述のステップS311の照合要求の応答を示す応答情報を送信する(S317)。この応答情報には、ステップS316で読み出された「名前」が含まれている。
次に、分散データ処理端末6bでは、表示制御部67が、分散データ処理端末6bのディスプレイ517上において、図14(a)に示されているリアルタイムの撮像画像上に、図17に示されているような照合結果メッセージm3を表示させる(S318)。この照合結果メッセージm3には、照合結果、及び最大類似度の照合データに付けられた「名前」が表示されている。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、ステップS306,S311で、照合データと被照合データを別のタイミングで送受信するため、第1の実施形態に比べて、通信負荷を軽減することができる。
〔第6の実施形態〕
〔全体概略〕
以下、図面を用いて、本発明の第6の実施形態の全体の概略について説明する。なお、第1の実施形態と同一の構成については、同一の符号を付して、その説明を省略する。
<<実施形態の全体構成>>
図28は、第6の実施形態に係る通信システムの概略図である。本実施形態は、図1に示されている通信システムを、ビデオ通信に適用した場合を示している。
図28に示されているように、本実施形態の通信システムは、実時間データ処理端末3a,3b、近端末データ処理装置5a,5b、分散データ処理端末8a,8b、ディスプレイ820a,820b、集中データ処理サーバ7c、通信管理システム9、及び中継装置10によって構築されている。
近端末データ処理装置5a,5bと分散データ処理端末8a,8bは、それぞれUSB(Universal Serial Bus)ケーブル831a,831bによって電気的に接続されている。また、分散データ処理端末8a,8bとディスプレイ820a,820bは、それぞれHDMI(登録商標)(High Definition Multimedia Interface)ケーブル832a,832bによって電気的に接続されている。なお、USBケーブルとHDMIケーブルは一例である。
また、実時間データ処理端末3a、近端末データ処理装置5a、及び分散データ処理端末8a、及びディスプレイ820aによって、分散処理システム100aが構築されている。分散処理システム100aは拠点Aで構築されている。また、実時間データ処理端末3b、近端末データ処理装置5b、及び分散データ処理端末8b、及びディスプレイ820bによって、分散処理システム100bが構築されている。分散処理システム100bは拠点Bで構築されている。更に、実時間データ処理端末3aと近端末データ処理装置5aとで画像取得端末2aを構成している。実時間データ処理端末3bと近端末データ処理装置5bとで画像取得端末2bを構成している。
これらのうち、実時間データ処理端末3a,3bは、それぞれ、第1の実施形態に係る実時間データ処理端末3と同じ構成であるため、これらの説明を省略する。撮影ユニット40a,40bは、それぞれ、第1の実施形態に係る撮影ユニット40と同じ構成であるため、これらの説明を省略する。近端末データ処理装置5a,5bは、それぞれ、第1の実施形態に係る近端末データ処理装置5と同じ構成であるため、これらの説明を省略する。
また、分散データ処理端末8a,8bは、第1の分散データ処理端末6と異なる構成を備えているため、図29を用いて後述する。なお、分散データ処理端末8は、分散データ処理端末8a,8bの総称である。
通信管理サーバ9は、分散データ処理端末8aからのログイン認証、端末10の通話状況の管理、宛先リストの管理、及び中継装置30の通信状況等を一元的に管理する。なお、画像データの画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。
中継装置10は、複数の分散データ処理端末8の間で、コンテンツデータの中継を行う。
<<ハードウェア構成>>
<分散処理データ端末(ビデオ会議端末)のハードウェア構成>
図29は、分散データ処理端末がビデオ会議端末の場合のハードウェア構成図である。
図29に示されているように、分散データ処理端末8は、CPU801、ROM802、RAM803、フラッシュメモリ804、SSD805、メディアI/F807、操作ボタン808、電源スイッチ809、バスライン810、ネットワークI/F811、カメラ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイI/F817、外部機器接続I/F818、近距離通信回路819、近距離通信回路819のアンテナ819aを備えている。これらのうち、CPU801は、ビデオ会議端末8全体の動作を制御する。ROM802は、IPL等のCPU801の駆動に用いられるプログラムを記憶する。RAM803は、CPU801のワークエリアとして使用される。フラッシュメモリ804は、通信用プログラム、画像データ、及び音データ等の各種データを記憶する。SSD805は、CPU801の制御にしたがってフラッシュメモリ804に対する各種データの読み出し又は書き込みを制御する。なお、SSDに代えてHDDを用いてもよい。メディアI/F807は、フラッシュメモリ等の記録メディア806に対するデータの読み出し又は書き込み(記憶)を制御する。操作ボタン808は、分散データ処理端末8の宛先を選択する場合などに操作されるボタンである。電源スイッチ809は、分散データ処理端末8の電源のON/OFFを切り換えるためのスイッチである。
また、ネットワークI/F811は、インターネット600を利用してデータ通信をするためのインターフェースである。カメラ812は、CPU801の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、カメラ812の駆動を制御する回路である。マイク814は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。ディスプレイI/F817は、CPU801の制御に従って外付けのディスプレイ820に画像データを送信する回路である。外部機器接続I/F818は、各種の外部機器を接続するためのインターフェースである。近距離通信回路819は、NFC、Bluetooth(登録商標)等の通信回路である。
また、バスライン810は、図2に示されているCPU801等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
ディスプレイ820は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示手段の一種である。また、ディスプレイ820は、HDMIケーブル832によってディスプレイI/F817に接続される。このHDMIケーブル832は、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、DVI(Digital Video Interactive)信号用のケーブルであってもよい。
なお、ディスプレイ820は、後述のディスプレイ820a,820bの総称である。また、HDMIケーブル832は、後述のHDMIケーブル832a,832bの総称である。
カメラ812は、レンズや、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子を含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等が用いられる。外部機器接続I/F818には、USBケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、CPU801の制御に従って、内蔵型のカメラ812に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、CPU801の制御に従って、それぞれが内蔵型のマイク814や内蔵型のスピーカ815に優先して、外付けマイクや外付けスピーカが駆動する。
また、記録メディア806は、分散データ処理端末8に対して着脱自在な構成となっている。また、CPU801の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ804に限らず、EEPROM(Electrically Erasable Programmable Read-Only Memory)等を用いてもよい。
なお、通信管理サーバ9及び中継装置10のハードウェア構成は、図6に示されている集中データ処理サーバのハードウェア構成と同様であるため、これらの説明を省略する。
<<実施形態の機能構成>>
図30乃至図32を用いて、本実施形態の機能構成について説明する。図30は、第6の実施形態に係り、分散処理システム100aの機能ブロック図である。図31は、第6の実施形態に係り、分散処理システム100bの機能ブロック図である。図32は、第6の実施形態に係り、集中データ処理サーバ7c、通信管理サーバ9、及び中継装置10の機能ブロック図である。
<分散処理システム100aの機能構成>
図30に示されているように、画像取得端末2aの実時間データ処理端末3aは、判断部33a、画像処理部34a、物体検出部35a、イベント生成部36a、表示制御部37a、接続部38a、記憶・読出部39a、及び通信部48aを有している。また、実時間データ処理端末3は、記憶部3000aを有している。更に、記憶部3000には、素子数管理DB3001aが構築されている。これら各機能構成は、それぞれ第1の実施形態における、判断部33、画像処理部34、物体検出部35、イベント生成部36、表示制御部37、接続部38、記憶・読出部39、及び通信部48と同様の機能、並びに記憶部3000と同様の記憶手段であるため、これらの説明を省略する。また、素子数管理DB3001aは、第1の実施形態の素子数管理DB3001と同様の素子数管理テーブルによって構成されているため、その説明を省略する。
また、画像取得端末2aの近端末データ処理装置5aは、データ検出部56a、表示制御部57a、通信部58a、及び記憶・読出部59aを有している。また、近端末データ処理装置5は、記憶部5000aを有している。これら各機能構成は、第1の実施形態における、データ検出部56、表示制御部57、通信部58、及び記憶・読出部59と同様の機能、並びに記憶部5000と同様の記憶手段であるため、これらの説明を省略する。なお、通信部58aは、実時間データ処理端末3aの通信部48aと通信することができると共に、分散データ処理端末8aの通信部88aと通信することができる。
次に、分散データ処理端末8aは、送受信部81a、受付部82a、判断部83a、表示制御部87a、及び記憶・読出部89aを有している。また、分散データ処理端末8aは、記憶部8000aを有している。
送受信部81aは、ネットワークI/F811、及びCPU801の処理によって実現され、送受信部61と同様の機能である。
受付部82aは、操作ボタン808及び電源スイッチ809、並びにCPU801の処理によって実現され、受付部62と同様の機能である。
判断部83aは、CPU801の処理によって実現され、各種判断を行なう。
表示制御部87aは、CPU801の処理によって実現され、表示手段の一例であるディスプレイ820aに各種画面を表示させる。
通信部88aは、外部機器I/F818によって実現され、USBケーブル831aを介して近端末データ処理装置5aの通信部58aと通信することができる。
記憶・読出部89aは、CPU801の処理によって実現され、記憶部8000aに各種データ(または情報)を記憶したり、記憶部8000aから各種データ(または情報)を読み出したりする。
記憶部8000aは、記憶部6000と同様の記憶手段であるため、これらの説明を省略する。
<分散処理システム100bの機能構成>
図31に示されているように、分散処理システム100bにおいて、実時間データ処理端末3b、近端末データ処理装置5b、及び分散データ処理端末8bは、分散処理システム100aにおいて、それぞれ実時間データ処理端末3a、近端末データ処理装置5a、及び分散データ処理端末8aと同様の機能構成を有するため、符号の末尾を「a」から「b」に変更しただけで、各機能構成は同様であるため、これらの説明を省略する。
図32は、第6の実施形態に係り、集中データ処理サーバ7a、通信管理サーバ9、及び中継装置10の機能ブロック図である。
<集中データ処理サーバ7cの機能構成>
図32に示されている集中データ処理サーバ7cは、第1の実施形態に係る集中データ処理サーバ7aと同様の機能を有しているため、その説明を省略する。なお、第6の実施形態に係る集中データ処理サーバ7cでは、記憶部7000に、照合データ管理DB7002が記憶されている。この照合データ管理DB7002は、第1の実施形態の照合データ管理DB8001と同様の照合データ管理テーブル(図9(b)参照)によって構成されているため、その説明を省略する。
<通信管理サーバ9の機能構成>
図32に示されているように、通信管理サーバ9は、送受信部91、及び記憶・読出部99を有している。これら各部は、図6に示されている各構成要素のいずれかが、HD704からRAM703上に展開されたプログラムに従ったCPU701からの命令によって、動作することで実現される機能又は手段である。
また、通信管理サーバ9は、図6に示されているROM702、RAM703、及びHD704によって構築される記憶部9000を有している。更に、記憶部9000には、端末・装置管理DB9001、及びセッション管理DB9002が構築されている。端末・装置管理DB9001は、後述の端末・装置管理テーブルによって構成されている。セッション管理DB9002は、後述のセッション管理テーブルによって構成されている。
(端末・装置管理テーブル)
図33(a)は、端末・装置管理テーブルの概念図である。この端末・装置管理テーブルでは、各分散データ処理端末8の端末ID毎又は中継装置10の装置ID毎に、端末(装置)の名称、及び各分散データ処理端末8(中継装置10)のIPアドレスが関連付けられて管理されている。
(セッション管理テーブル)
図33(b)は、セッション管理テーブルの概念図である。このセッション管理テーブルでは、通信のセッションを識別するためのセッションID毎に、画像データ及び音データの中継に使用される中継装置10の中継装置ID、通話の開始を行う端末である分散データ処理端末8a(開始端末)の端末ID、及び宛先の端末である分散データ処理端末8b(宛先端末)の端末IDが関連付けられて管理されている。
(通信管理サーバの各機能構成)
次に、図32を用いて、通信管理サーバ9の各機能構成について更に詳細に説明する。
通信管理サーバ9の送受信部91は、ネットワークI/F709、及びCPU701の処理によって実現され、通信ネットワーク(ここでは、インターネット600)を介して、他のサーバ、装置、及び端末と各種データ(または情報)の送受信を行う。
記憶・読出部99は、CPU701の処理によって実現され、記憶部9000に各種データ(または情報)を記憶したり、記憶部9000から各種データ(または情報)を読み出したりする。
<中継装置10の機能構成>
図32に示されているように、中継装置10は、送受信部(転送部)11、及び記憶・読出部19を有している。これら各部は、図6に示されている各構成要素のいずれかが、HD704からRAM703上に展開されたプログラムに従ったCPU701からの命令によって、動作することで実現される機能又は手段である。
また、中継装置10は、図6に示されているROM702、RAM703、及びHD704によって構築される記憶部1000を有している。
(中継装置の各機能構成)
次に、図32を用いて、中継装置10の各機能構成について更に詳細に説明する。
中継装置10の送受信部11は、ネットワークI/F709、及びCPU701の処理によって実現され、通信ネットワーク(ここでは、インターネット600)を介して、他のサーバ、装置、及び端末と各種データ(または情報)の送受信を行う。
記憶・読出部19は、CPU701の処理によって実現され、記憶部1000に各種データ(または情報)を記憶したり、記憶部1000から各種データ(または情報)を読み出したりする。
<<本実施形態の処理又は動作>>
続いて、図34乃至図41を用いて、本実施形態の処理又は動作について説明する。なお、分散データ処理端末8aが通信管理サーバ9を介して他の分散データ処理端末に通話を開始する要求を行った後、分散データ処理端末8a,8b及び3つ目の分散データ処理端末(8c)の間で、中継装置10を介して通話を行っている状態から説明する。
なお、図34は、第6の実施形態に係り、画像認識の開始要求の処理を示したシーケンス図である。図35は、分散データ処理端末8aにおけるビデオ通話画面の例である。図36は、分散データ処理端末8aにおいて参加者名を表示する前の拠点詳細情報を示した拠点詳細画面の例である。
まず、分散データ処理端末8aにおいて、3拠点間でのビデオ通話中に、表示制御部87aがディスプレイ820aに対して、図35に示されているようなビデオ通話画面850を表示させる(S401)。このビデオ通話画面850には、現在発話している人がいる他拠点の画像を表示するメイン表示領域851、自拠点の画像を表示するサブ表示領域852、現在発話していない人がいる他拠点の画像を表示するサブ表示領域853が含まれている。仮に、サブ表示領域853で表示されている人が発話し始めると、表示制御部87aは、メイン表示領域851に表示されている他拠点の画像と、サブ表示領域853に表示されている他拠点の画像を入れ替えて表示させる。
更に、ビデオ通話画面850の左下には、「拠点詳細情報」ボタン858が表示されている。この「拠点詳細情報」ボタン858は、図36に示されている拠点詳細画面860に画面遷移させる場合に利用者によって押下されるためのボタンである。
次に、利用者が「拠点詳細情報」ボタン858を押下すると、受付部82aが拠点詳細画面の表示を受け付ける(S402)。そして、表示制御部87aは、ディスプレイ820aに対して、図36に示されている拠点詳細画面860を表示させる。この拠点詳細画面860には、分散データ処理端末8aと同じ通信セッションで通信中の全ての拠点の端末名を表示する表示欄861及び端末IDを表示する表示欄862が含まれている。
また、拠点詳細画面860の中央部には、メイン表示領域851の表示内容を縮小して表示する発話中拠点表示領域863が含まれている。更に、拠点詳細画面860の左下部には、「参加者認識」ボタン868が表示されている。「参加者認識」ボタン868は、後述の図36で示されているように、参加者数及び参加者名を表示する参加者情報表示欄865を表示させる場合に利用者によって押下されるためのボタンである。
ここで、利用者が「参加者認識」ボタン868を押下すると、受付部82aは、参加者の認識を受け付ける(S404)。
次に、分散データ処理端末8aの送受信部81aは、通信管理サーバ9に対して、メイン表示領域851に表示中の他拠点の参加者を認識するための要求を示す認識要求情報を送信する(S405)。この認識要求情報には、メイン表示領域851に表示中の他拠点の分散データ処理端末を識別するための端末IDが含まれている。これにより、通信管理サーバ9の送受信部91は、認識要求情報を受信する。
次に、通信管理サーバ9の記憶・読出部99は、ステップS405で受信された端末IDを検索キーとして端末・装置管理DB9001を検索することにより、対応するIPアドレスを読み出す(S406)。そして、送受信部91は、読み出されたIPアドレスで特定される分散データ処理端末8bに対して、画像照合の開始要求を示す画像照合の開始要求情報を送信する(S407)。これにより、分散データ処理端末8bの送受信部81bは、画像照合の開始要求情報を受信する。
次に、分散データ処理端末8bの通信部88bは、近端末データ処理装置5bに対して、画像照合の開始要求情報を送信する(S408)。これにより、近端末データ処理装置5bの通信部58bは、画像照合の開始要求情報を受信する。そして、通信部58bは、実時間データ処理端末3bに対して、画像照合の開始要求情報を送信する(S409)。これにより、実時間データ処理端末3の通信部48bは、画像照合の開始要求情報を受信する。なお、ステップS407~S409は、それぞれ図22に示されているステップS1-2~S3-2に対応する。
続いて、図37を用いて、第6の実施形態に係る画像認識の処理を説明する。図37は、画像認識の処理を示したシーケンス図である。この処理は、図11に示されている第1の実施形態の画像認識の処理のうち、ステップS12,S13が省略され、部分画像データの数を示す部分画像データ数が送受信される点が異なる。
まず、実時間データ処理端末3bは、実時間処理を行なう(S411)。ここで、図38を用いて、実時間処理について説明する。なお、実時間処理のうちの物体検出の処理は、第1の実施形態(図12参照)と同様であるため、その説明を省略する。図38は、第6の実施形態に係り、実時間処理のうちのイベント生成の処理を示したフローチャートである。なお、図38の処理は、図13の処理の変形例である。
図38に示されているように、上述のステップS107の処理によって、物体検出部35bが物体(ここでは、顔)を検出しなかった場合で(S611;NO)、1系統のときはステップS103の処理へ戻り、2系統のときはステップS106の処理に戻る。これに対し、上述のステップS104の処理によって、物体検出部35bが物体(ここでは、顔)を検出した場合には(S611;YES)、ステップS612の処理へ進む。そして、物体検出部35bは、物体(ここでは、顔)数をカウントする(S612)。
次に、物体検出部35bは、検出された位置での顔を含んだ部分画像データをJPEGなどの汎用形式で符号化する(S615)。そして、イベント生成部36は、近端末データ処理装置5bに対して部分画像データを送信することを通知するイベントメッセージを生成する(S616)。具体的には、イベント生成部36は、”Send”といったイベントメッセージm2を生成する。
以上により、図37に示されているステップS411の処理が終了する。これにより、通信部48bは、近端末データ処理装置5bの通信部58bに対して、ステップS616で生成されたイベントメッセージm2、ステップS104で検出された部分画像データ、及びステップS612でカウントされた部分画像データ数を送信する(S415)。なお、ステップS104の処理において、複数の物体(ここでは、顔)が検出された場合には、1つのイベントメッセージm2と共に、複数の部分画像データ及び部分画像データ数が送信される。
次に、近端末データ処理装置5bでは、第1の実施形態の処理(S16~S21)と同様の処理が実行される(S416~S421)。なお、第1の実施形態に係るステップS21では、近端末データ処理装置5の送受信部51が分散データ処理端末6aの送受信部61に対して、被照合データとしての部分画像データを送信した。これに対して、第6の実施形態に係るステップS421では、近端末データ処理装置5bの通信部58bが、分析データ処理端末8bの通信部88bに対して、被照合データとしての部分画像データだけでなく、部分画像データ数も送信する。この送信される部分画像データ数は、ステップS415の処理で受信された部分画像データ数の情報である。
続いて、図39乃至図41を用いて、部分画像データである被照合データと、登録されている照合データとの照合処理について説明する。図39は、第6の実施形態に係り、照合する処理を示したシーケンス図である。図40は、第6の実施形態に係り、照合結果を表示する処理を示したシーケンス図である。図41は、分散データ処理端末8aにおいて参加者名を表示した後の拠点詳細情報を示した拠点詳細画面の例である。なお、第6の実施形態に係る照合及び表示する処理(図39、図40参照)は、第1の実施形態に係る照合する処理(図15参照)の変形例である。第1の実施形態では、分散データ処理端末6で行われていた処理が、基本的に集中データ処理サーバ7で行われる。
まず、管理者は、照合データを登録するために、集中データ処理サーバ7を操作することで、表示制御部77は、図16(a)と同様に、照合データのファイル選択画面を表示させる。これにより、管理者は、「ファイル選択」ボタンb11を押下後、登録する画像(ここでは、顔の画像)を選択すると、受付部72は、登録される画像のファイルの選択を受け付ける(S511)。これにより、表示制御部77は、図16(b)と同様に、照合データの登録画面を表示させる。そこで、管理者は、選択された画像及びファイルa21が所望の画像であるかを確認後、所望の画像であれば、名前入力欄a22に、照合データとして登録する画像の名前を入力後、「登録」ボタンb21を押下すると、受付部72は、照合データとしての画像の登録を受け付けることで、記憶・読出部79が登録を行う(S512)。具体的には、記憶・読出部79は、照合データ管理DB6001に対して、ファイル名a21及び名前入力欄a22に入力された名前を関連付けて記憶する。なお、利用者が、選択された画像及びファイルa21が所望の画像でない場合には、「キャンセル」ボタンb22を押下すると、図16(a)に示されているファイル選択画面に戻る。
次に、集中データ処理サーバ7cでは、特徴量生成部74が、ステップS512によって登録された照合データをビットマップデータに復号化する変換を行ない、照合データに係る顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータを生成する(S513)。
このように、近端末データ処理装置5b側で照合データを登録せずに、集中データ処理サーバ7c側で照合データを登録することによって、近端末データ処理装置5bと集中データ処理サーバ7cとの間の通信ネットワーク通信の負荷を抑制することができるという効果を奏する。
次に、上述のステップS421の処理により、分散データ処理端末8bの通信部88bが、被照合データとしての部分画像データ及び部分画像データの数を受信すると、送受信部81bは、通信管理サーバ9に対して、照合要求を示す照合要求情報を送信する(S514)。この照合要求情報には、被照合データ及び被照合データの数が含まれている。これにより、通信管理サーバ9の送受信部91は、照合要求情報を受信する。
次に、送受信部91は、集中データ処理サーバ7cに対して、ステップS514で受信した照合要求情報を送信(転送)する(S515)。これにより、集中データ処理サーバ7cの送受信部71は、照合要求情報を受信する。
次に、特徴量生成部74が、ステップS515によって受信された被照合データをビットマップデータに復号化する変換を行ない、被照合データに係る顔画像の目鼻の凹凸や傾き等の個人を識別するための特徴量のパラメータを生成する(S516)。
次に、記憶・読出部79は、照合データ管理DB7002を検索することで、登録されている照合データが残っているか否かを判断する(S517)。そして、残っていると判断された場合には、照合部75は、両データ(照合データ及び被照合データ)に係る特徴量のパラメータを比較して類似度を算出する(S518)。そして、記憶・読出部79が、ステップS512で登録された照合データに付けられている「名前」と、ステップS518で算出された「類似度」とを組にして一時的に記憶部7000に記憶する(S519)。その後、図9(b)に示されている照合データ管理テーブルにおいて、照合データを次の行へ変更して、ステップS517の処理が再度行なわれる。
一方、ステップS517において、照合データが残っていない(全くない場合も含む)と判断された場合には、ステップS520の処理に進む。そして、記憶・読出部79は、記憶部7000に一時的に記憶していた各類似度の中から閾値以上の類似度を検索し、この閾値以上の類似度の中から最大の類似度の照合データに付けられた「名前」を読み出す(S520)。閾値は、例えば「80%」である。これにより、類似度が低い場合には、「名前」が読み出されない。
なお、ステップS516~S520の処理は、被照合データの数に応じて繰り返される。即ち、拠点に2人いると認識された場合には、ステップS516~S520の処理は2回繰り返される。
続いて、集中データ処理サーバ7cの送受信部71は、通信管理サーバ9に対して、照合結果を示す照合結果情報を送信する(S521)。この照合結果情報には、ステップS520で読み出された「名前」及び、ステップS515で受信された被照合データ数が含まれている。これにより、通信管理サーバ9の送受信部91は、照合結果情報を受信する。
次に、通信管理サーバ9の送受信部91は、分散データ処理端末8bに対して、ステップS521で受信した照合結果情報を送信(転送)する(S522)。これにより、分散データ処理端末8bの送受信部81bは、照合結果情報を受信する。
次に、分散データ処理端末8bの表示制御部87bは、ディスプレイ820b上に、図41に示されているように、参加者情報表示欄865に、照合結果(ここでは、参加者数と参加者名)を表示させる。参加者数は、ステップS522で受信された照合結果情報に含まれている被照合データ数に基づいて表わされる。また、参加者名は、同じく照合結果情報に含まれている参加者名に基づいて表される。図41では、上記ステップS520の処理の結果、閾値以上の類似度であった参加者の場合には、名前(Jim)が表示される。また、閾値未満の類似度であった参加者の場合には、名前が表示されない。ここでは、名前ではなく“Guest”と表示されている。
<<実施形態の主な効果>>
以上説明したように本実施形態によれば、第1の実施形態に係る照合処理を、ビデオ通話システムに応用することで、分散データ処理端末8は、他拠点の参加者の名前を表示することができるため、通話の参加者は、遠隔の他拠点で参加している人を容易に把握することができるという効果を奏する。
〔補足〕
上記各実施形態では、画像取得端末2が撮像画像データを取得したが、これに限らず、集音により音データを取得してもよいし、温度センサにより温度データを取得してもよいし、湿度センサにより湿度データを取得してもよい。また、この場合、画像取得端末2は「取得端末」としてもよい。
また、各CPU301,501,701等の各構成要素は、単一であってもよく複数であってもよい。また、画像取得端末2、分散データ処理端末6、及び集中データ処理サーバ7は、それぞれ複数あってもよい。更に、分散データ処理端末6はサーバであってもよい。
また、上述の実施形態における各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」は、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上述した各機能を実行するよう設計されたASIC(Application Specific Integrated
Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU、及び従来の回路モジュール等のデバイスを含む。
2 画像取得端末(取得端末の一例)
3 実時間データ処理端末
5 近端末データ処理装置
6 分散データ処理端末
7 集中データ処理サーバ
34 画像処理手段の一例
35 物体検出部(物体検出手段の一例)
38 接続部(接続手段の一例)
51 送受信部(第1の送信手段の一例)
61 送受信部(第2の送信手段の一例、受信手段の一例)
62 受付部(受付手段の一例)
67 表示制御部(表示制御手段の一例)
69 記憶・読出部(登録手段の一例)
71 送受信部(第3の送信手段の一例)
74 特徴量生成部(特徴量生成手段の一例)
75 照合部(照合手段の一例)
200 イントラネット
600 インターネット
3001 素子数管理DB(素子数管理手段の一例)
6000 記憶部(記憶手段の一例)
6001 照合データ管理DB(照合データ管理手段の一例)
7001 特徴量管理DB(特徴量管理手段の一例)
特表2016-519812号公報

Claims (10)

  1. 被写体を撮像して撮像画像のデータを得る画像取得端末と、前記撮像画像を表示する分散データ処理端末と、前記撮像画像における物体部分の領域である部分画像のデータとしての被照合データ、及び所定の物体を示す画像のデータであって予め登録されている照合データを照合する集中データ処理サーバと、を有する通信システムであって、
    前記画像取得端末は、
    前記撮像画像から前記部分画像を検出する物体検出手段と、
    前記部分画像のデータとしての前記被照合データを、前記分散データ処理端末に送信する第1の送信手段と、
    を有し、
    前記分散データ処理端末は、
    前記照合データを登録する登録手段と、
    前記登録手段によって登録された前記照合データ及び前記画像取得端末から受信された前記被照合データを、前記集中データ処理サーバに送信する第2の送信手段と、
    を有し、
    前記集中データ処理サーバは、
    前記分散データ処理端末から受信された前記照合データ及び前記被照合データの照合を行なう照合手段と、
    前記照合の結果を示す照合結果情報を、前記分散データ処理端末に送信する第3の送信手段と、
    を有する通信システム。
  2. 前記画像取得端末は、
    前記物体検出手段を有し、前記撮像画像のデータを得るための実時間処理を行なう実時間データ処理端末と、
    前記第1の送信手段を有し、前記実時間データ処理端末と接続され、前記実時間データ処理端末から取得した前記部分画像のデータとしての前記被照合データを前記分散データ処理端末に送信する近端末データ処理装置と、
    を有する、請求項1に記載の通信システム。
  3. 前記実時間データ処理端末と前記近端末データ処理装置は、それぞれがオペレーティングシステムを有する、請求項2に記載の通信システム。
  4. 前記物体検出手段は前記実時間データ処理端末が有する画像認識アプリケーションの実行によって実現され、前記画像取得端末は前記近端末データ処理装置が有する通信アプリケーションの実行によって実現される、請求項2又は3に記載の通信システム。
  5. 前記実時間データ処理端末は、
    撮像素子の数の違いに応じた撮像ユニットの種類を示す種類情報、及び当該撮像素子の数を関連付けて管理する素子数管理手段と、
    前記撮像素子の数が異なる複数種類の撮像ユニットが着脱自在に接続され、接続された特定の撮像ユニットから、当該特定の撮像ユニットが撮像して得た撮像画像のデータ及び当該特定の撮像ユニットの特定の種類情報を取得する接続手段と、
    前記素子数管理手段において、前記特定の撮像ユニットから取得された特定の種類情報に対応する特定の撮像素子の数に基づいて、前記特定の撮像ユニットから取得した撮像画像のデータに対する画像処理を行なう画像処理手段と、
    を有する、請求項2乃至4のいずれか一項に記載の通信システム。
  6. 前記分散データ処理端末は、
    前記照合データのファイルの選択を受け付け、当該照合データとしての画像データで示される物体の名前を受け付ける受付手段と、
    前記受け付けられた前記照合データのファイルのファイル名及び前記名前を関連付けて管理する照合データ管理手段と、
    前記集中データ処理サーバにおける第3の送信手段から前記照合結果情報を受信する受信手段と、
    前記照合結果情報には前記照合データ及び前記被照合データの類似度が含まれており、前記受信手段が集中データ処理サーバにおける第3の送信手段から複数の照合結果情報を受信した場合には、複数の照合結果情報の各類似度のうち最大の類似度となる照合データに係るファイル名に前記照合データ管理手段において対応する名前を表示する表示制御手段と、
    を有する請求項1に記載の通信システム。
  7. 前記分散データ処理端末における前記第2の送信手段は、前記集中データ処理サーバに対して、前記被照合データのURL及び前記照合データのURLを送信し、
    前記集中データ処理サーバにおける前記第3の送信手段は、前記被照合データのURLにアクセスして前記被照合データを要求すると共に、前記照合データのURLにアクセスして前記照合データを要求する請求項1に記載の通信システム。
  8. 前記分散データ処理端末における第2の送信手段は、前記画像取得端末に対して、前記物体検出手段の処理を開始させる要求を示す開始要求情報を送信する、請求項1叉は7に記載の通信システム。
  9. 請求項1に記載の通信システムであって、更に、
    前記集中データ処理サーバは、
    前記照合データとしての画像のデータで示される物体の第1の特徴量のパラメータを生成する特徴量生成手段と、
    前記生成された前記第1の特徴量のパラメータ及び前記照合データとしての画像データで示される物体の名前を関連付けて管理する特徴量管理手段と、
    を有し、
    前記特徴量生成手段は、前記分散データ処理端末から受信された前記被照合データとしての画像のデータで示される物体の第2の特徴量のパラメータを生成し、
    前記照合手段は、前記第1の特徴量のパラメータ及び前記第2の特徴量のパラメータを比較することで、前記照合データ及び前記被照合データの照合を行なう、
    通信システム。
  10. 被写体を撮像して撮像画像のデータを得る画像取得端末と、前記撮像画像を表示する分散データ処理端末と、前記撮像画像における物体部分の領域である部分画像のデータとしての被照合データ、及び所定の物体を示す画像のデータであって予め登録されている照合データを照合する集中データ処理サーバと、を有する通信システムが実行する通信方法であって、
    前記画像取得端末は、
    前記撮像画像から前記部分画像を検出する物体検出ステップと、
    前記部分画像のデータとしての前記被照合データを、前記分散データ処理端末に送信する第1の送信ステップと、
    を実行し、
    前記分散データ処理端末は、
    前記照合データを登録する登録ステップと、
    前記登録ステップによって登録された前記照合データ及び前記画像取得端末から受信された前記被照合データを、前記集中データ処理サーバに送信する第2の送信ステップと、
    を実行し、
    前記集中データ処理サーバは、
    前記分散データ処理端末から受信された前記照合データ及び前記被照合データの照合を行なう照合ステップと、
    前記照合の結果を示す照合結果情報を、前記分散データ処理端末に送信する第3の送信ステップと、
    を実行する通信方法。
JP2018143325A 2017-07-31 2018-07-31 通信システム及び通信方法 Active JP7167526B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017148437 2017-07-31
JP2017148437 2017-07-31
JP2018136067 2018-07-19
JP2018136067 2018-07-19

Publications (2)

Publication Number Publication Date
JP2020021200A JP2020021200A (ja) 2020-02-06
JP7167526B2 true JP7167526B2 (ja) 2022-11-09

Family

ID=63405295

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018143325A Active JP7167526B2 (ja) 2017-07-31 2018-07-31 通信システム及び通信方法

Country Status (5)

Country Link
US (1) US11538276B2 (ja)
EP (1) EP3662641B1 (ja)
JP (1) JP7167526B2 (ja)
CN (1) CN111034153B (ja)
WO (1) WO2019026828A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11245707B2 (en) * 2018-03-31 2022-02-08 Ricoh Company, Ltd. Communication terminal, communication system, communication control method, and recording medium
US11017544B2 (en) 2018-07-31 2021-05-25 Ricoh Company, Ltd. Communication terminal, communication system, communication control method, and recording medium
US11983864B2 (en) * 2018-08-23 2024-05-14 Nec Corporation Object matching device
US10834162B2 (en) 2018-11-26 2020-11-10 Ricoh Company, Ltd. Communication management server, communication system, transmitting apparatus, communication method, and program
KR102774718B1 (ko) * 2019-04-05 2025-03-04 삼성전자주식회사 외부 전자 장치를 이용하여 카메라를 제어하는 전자 장치 및 방법
WO2021059139A1 (en) * 2019-09-27 2021-04-01 Ricoh Company, Ltd. Apparatus, image processing system, communication system, method for setting, image processing method, and recording medium
EP3869788A1 (en) 2020-02-19 2021-08-25 Ricoh Company, Ltd. Image capturing device, image communication system, method for display control, and carrier means

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002351838A (ja) 2001-05-29 2002-12-06 Digicube Co Ltd 認証システム、認証システムにおける個人識別方法、及び記録媒体
JP2003150932A (ja) 2001-11-12 2003-05-23 Olympus Optical Co Ltd 画像処理装置およびプログラム
JP2011233133A (ja) 2010-04-09 2011-11-17 Miyake Inc 万引き防止システム
US20150007295A1 (en) 2012-03-19 2015-01-01 Tencent Technology (Shenzhen) Company Limited Biometric-based authentication method, apparatus and system
JP2017004432A (ja) 2015-06-15 2017-01-05 パナソニックIpマネジメント株式会社 顔認識システム、顔認識サーバ及び顧客情報提示方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007206941A (ja) * 2006-02-01 2007-08-16 Konica Minolta Business Technologies Inc 生体認証装置、生体認証システム及び生体データ管理方法
JP2007272320A (ja) 2006-03-30 2007-10-18 Mitsubishi Electric Corp 入場管理システム
CN101330386A (zh) 2008-05-19 2008-12-24 刘洪利 基于生物特征的认证系统及其身份认证方法
CN201204614Y (zh) * 2008-05-27 2009-03-04 北京易环球电子有限公司 虹膜身份识别终端
JP5251387B2 (ja) 2008-09-17 2013-07-31 株式会社リコー 画像形成装置及びプログラム
CN102073849A (zh) 2010-08-06 2011-05-25 中国科学院自动化研究所 目标图像识别系统及方法
JP5353989B2 (ja) 2011-02-28 2013-11-27 株式会社リコー 伝送管理装置、伝送端末、伝送システム、伝送管理方法、伝送端末制御方法、伝送管理プログラム及び伝送端末制御プログラム
US9143601B2 (en) * 2011-11-09 2015-09-22 Microsoft Technology Licensing, Llc Event-based media grouping, playback, and sharing
US9076028B2 (en) * 2012-10-08 2015-07-07 Citrix Systems, Inc. Facial recognition and transmission of facial images in a videoconference
CN103106736B (zh) 2012-12-28 2016-07-06 华为软件技术有限公司 一种身份认证方法、终端及服务器
JP6354197B2 (ja) * 2013-03-15 2018-07-11 株式会社リコー 配信制御システム、配信制御方法、及びプログラム
KR20150132499A (ko) 2013-03-15 2015-11-25 멘터 그래픽스 코포레이션 클라우드 서비스 플랫폼
KR101587504B1 (ko) * 2013-12-24 2016-01-21 이니텍(주) 인지 기반 클라이언트 어플리케이션 검증 방법
WO2015146164A1 (ja) * 2014-03-28 2015-10-01 独立行政法人放射線医学総合研究所 放射線照射による皮膚変化予測装置と検証装置
WO2015151155A1 (ja) * 2014-03-31 2015-10-08 株式会社日立国際電気 安否確認システム及び秘匿化データの類似検索方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002351838A (ja) 2001-05-29 2002-12-06 Digicube Co Ltd 認証システム、認証システムにおける個人識別方法、及び記録媒体
JP2003150932A (ja) 2001-11-12 2003-05-23 Olympus Optical Co Ltd 画像処理装置およびプログラム
JP2011233133A (ja) 2010-04-09 2011-11-17 Miyake Inc 万引き防止システム
US20150007295A1 (en) 2012-03-19 2015-01-01 Tencent Technology (Shenzhen) Company Limited Biometric-based authentication method, apparatus and system
JP2017004432A (ja) 2015-06-15 2017-01-05 パナソニックIpマネジメント株式会社 顔認識システム、顔認識サーバ及び顧客情報提示方法

Also Published As

Publication number Publication date
US11538276B2 (en) 2022-12-27
JP2020021200A (ja) 2020-02-06
CN111034153B (zh) 2022-12-23
US20200160036A1 (en) 2020-05-21
EP3662641A1 (en) 2020-06-10
WO2019026828A1 (en) 2019-02-07
CN111034153A (zh) 2020-04-17
EP3662641B1 (en) 2022-09-07

Similar Documents

Publication Publication Date Title
JP7167526B2 (ja) 通信システム及び通信方法
US10915777B2 (en) Communication terminal, communication system, and image processing method
US10931836B2 (en) Communication system, image processing method, and recording medium
JP7310105B2 (ja) 通信端末、通信システム、画像処理方法、及びプログラム
JP7582393B2 (ja) 分散処理システム、通信システム、画像取得端末、及び分散処理方法
CN105956518A (zh) 一种人脸识别方法、装置和系统
CN106060391B (zh) 一种摄像头工作模式的处理方法及装置、电子设备
CN111243105B (zh) 增强现实处理方法及装置、存储介质和电子设备
US9602872B2 (en) Display apparatus and control method thereof
CN110800314B (zh) 计算机系统、远程操作通知方法以及记录介质
US11025603B2 (en) Service providing system, service delivery system, service providing method, and non-transitory recording medium
US12445711B2 (en) Apparatus, image processing system, communication system, method for setting, image processing method, and recording medium
CN106210508B (zh) 一种拍摄预览方法、可穿戴设备及移动终端
CN112153083B (zh) 锚点共享方法及装置、系统、电子设备和存储介质
JP2016021716A (ja) 追尾装置及びその制御方法
CN113626726A (zh) 时空轨迹确定方法及相关产品
JP7251247B2 (ja) 通信システム、及び通信方法
JP2020096353A (ja) 中継装置、通信システム、通信方法、及びプログラム
JP7358868B2 (ja) 通信端末、通信システム、位置管理方法、及びプログラム
JP2019186914A (ja) 通信端末、通信システム、通信方法、及びプログラム
CN113938606A (zh) 确定球机架设参数的方法、装置及计算机存储介质
JP2021057029A (ja) 設定装置、通信システム、設定方法、及びプログラム
US12382239B2 (en) Information processing apparatus, operating method of information processing apparatus, and non-transitory computer readable medium
US20250039536A1 (en) Image management system, image capturing device, imaging processing method, and non-transitory computer-executable medium
JP7400301B2 (ja) 通信管理サーバ、通信システム、送信装置、通信方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221010

R151 Written notification of patent or utility model registration

Ref document number: 7167526

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151