Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6905653B2 - Face recognition system, face recognition server and face recognition method - Google Patents
[go: Go Back, main page]

JP6905653B2 - Face recognition system, face recognition server and face recognition method - Google Patents

Face recognition system, face recognition server and face recognition method Download PDF

Info

Publication number
JP6905653B2
JP6905653B2 JP2019143929A JP2019143929A JP6905653B2 JP 6905653 B2 JP6905653 B2 JP 6905653B2 JP 2019143929 A JP2019143929 A JP 2019143929A JP 2019143929 A JP2019143929 A JP 2019143929A JP 6905653 B2 JP6905653 B2 JP 6905653B2
Authority
JP
Japan
Prior art keywords
face
feature amount
extracted
similarity
face recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2019143929A
Other languages
Japanese (ja)
Other versions
JP2019215899A (en
Inventor
正茂 常野
正茂 常野
馨 鶴海
馨 鶴海
寛夫 齊藤
寛夫 齊藤
Original Assignee
パナソニックi−PROセンシングソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2015120455A external-priority patent/JP6573311B2/en
Application filed by パナソニックi−PROセンシングソリューションズ株式会社 filed Critical パナソニックi−PROセンシングソリューションズ株式会社
Priority to JP2019143929A priority Critical patent/JP6905653B2/en
Publication of JP2019215899A publication Critical patent/JP2019215899A/en
Application granted granted Critical
Publication of JP6905653B2 publication Critical patent/JP6905653B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

本発明は、カメラ装置により撮像された映像を用いて、人物の顔を認識する顔認識システム、顔認識サーバ及び顔認識方法に関する。 The present invention relates to a face recognition system, a face recognition server, and a face recognition method for recognizing a person's face using an image captured by a camera device.

従来、店舗内に設定された撮像領域に出現した人物の客層を判定する際、人物の行動形態から分析対象となる顧客であるか否かを判定し、該当しない人物を分析対象から排除することで、店舗に来店した顧客の客層を精度良く分析する客層分析システムが知られている(例えば、特許文献1参照)。 Conventionally, when determining the customer base of a person who appears in the imaging area set in the store, it is determined from the behavioral form of the person whether or not the customer is the target of analysis, and the person who does not correspond is excluded from the analysis target. Therefore, there is known a customer base analysis system that accurately analyzes the customer base of customers who visit a store (see, for example, Patent Document 1).

この客層分析システムでは、例えば店舗の出入口の近傍の案内待ちエリアから客席に向かう顧客を正面から撮像するように撮像領域が設定される。客席に向かって移動する行動と異なる行動をとる人物を検出し、その人物を分析対象から排除することで、店員など顧客以外の人物が分析対象に含まれ、同一の顧客が重複して分析対象に含まれることを避ける。 In this customer demographic analysis system, for example, the imaging area is set so as to image the customer heading for the audience seat from the guidance waiting area near the entrance / exit of the store from the front. By detecting a person who behaves differently from the behavior of moving toward the audience and excluding that person from the analysis target, a person other than the customer such as a clerk is included in the analysis target, and the same customer is duplicated and analyzed. Avoid being included in.

特開2014−232495号公報Japanese Unexamined Patent Publication No. 2014-232495

しかしながら、特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物を分析対象から排除できるが、人物が所定の行動形態をとっているか否かを判定するためには、複雑な判断処理が必要であった。 However, in the configuration of Patent Document 1, when a person does not take a predetermined behavioral form, the person can be excluded from the analysis target, but in order to determine whether or not the person takes a predetermined behavioral form. , A complicated judgment process was required.

また、人物が所定の行動形態をとっていると判断できた場合でも、同じ人物が所用で店舗の出入口を2回以上往復すると、重複して集計してしまうことが考えられた。また特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物が分析対象の顧客であっても、分析対象から排除されてしまうことが考えられた。 In addition, even if it can be determined that the person is taking a predetermined action form, if the same person makes a round trip to the entrance / exit of the store twice or more for the purpose, it is considered that the totals are duplicated. Further, in the configuration of Patent Document 1, it is considered that if a person does not take a predetermined behavioral form, even if the person is a customer to be analyzed, the person is excluded from the analysis target.

本発明は、上述した従来の状況に鑑みて案出され、複雑な判断を行うことなく、同一の人物が重複して含まれないように効率的に統計処理できる顔認識システム、顔認識サーバ及び顔認識方法を提供することを目的とする。 The present invention has been devised in view of the above-mentioned conventional situations, and is a face recognition system, a face recognition server, and a face recognition server that can efficiently perform statistical processing so that the same person is not included in duplicate without making a complicated judgment. The purpose is to provide a face recognition method.

本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する、顔認識システムである。 The present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. A face recognition system that compares the extracted facial features with the facial features stored for a predetermined period of time, and discards the extracted facial features if the similarity is less than the predetermined value. be.

また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する、顔認識システムである。 Further, the present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount and the facial feature amount stored for the first predetermined period are compared, and the degree of similarity between them is less than the predetermined value, and the face stored for the first predetermined period. This is a face recognition system that discards the extracted facial features when the imaging time of the extracted facial features is stored before the second predetermined period from the shooting time of the extracted facial features. ..

また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値以上となる場合、前記抽出された顔の特徴量を保存する、顔認識システムである。 Further, the present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount is compared with the facial feature amount stored for a predetermined period, and when the similarity between them is equal to or more than a predetermined value, the extracted facial feature amount is stored. It is a system.

また、本発明は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する、顔認識サーバである。 Further, the present invention is a face recognition server to which a camera device is connected, extracts a facial feature amount of a person appearing in video data captured by the camera device, and determines the extracted facial feature amount. It is a face recognition server that compares the facial features stored for a period of time and discards the extracted facial features if the similarity is less than a predetermined value.

また、本発明は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量との類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する、顔認識サーバである。 Further, the present invention is a face recognition server to which a camera device is connected, extracts a feature amount of a person's face appearing in video data captured by the camera device, and obtains the extracted face feature amount and the first. The degree of similarity with the facial feature amount stored for a predetermined period of 1 is less than a predetermined value, and the imaging time of the facial feature amount stored for the first predetermined period is the extracted facial feature amount. This is a face recognition server that discards the extracted facial features when the data is stored from the shooting time of the face to before the second predetermined period.

本開示は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するプロセッサ、を備える、顔認識サーバを提供する。 The present disclosure provides a face recognition server camera device is connected, the extracts Kaotoku symptoms of a person appearing in the video data taken by the camera device, the extracted Kaotoku symptoms amount and pre-fixed compares the similarity between the time stored Kaotoku symptom amount, if the similarity is less than a predetermined value, and stores the facial feature quantity the extracted and treated as a statistical object, the similarity When it is equal to or more than a predetermined value, the imaging time when the extracted face of the person is imaged is compared with the imaging time when the face whose similarity is determined to be equal to or greater than the predetermined value is imaged. If the imaging time at which the face determined to be equal to or greater than a predetermined value is captured is within a predetermined time range from the imaging time of the video data from which the facial feature amount has been extracted, the face is excluded from the target of the statistics and described as described above. When the imaging time at which the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics A face recognition server including a processor for statistical processing as a target is provided.

また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出する処理と、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する処理と、を実行する、顔認識方法である。 Further, the present invention is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected, and is a process for extracting a feature amount of a person's face appearing in video data captured by the camera device. , The process of comparing the extracted facial feature amount and the facial feature amount stored for a predetermined period, and discarding the extracted facial feature amount when the similarity between them is less than a predetermined value. Is a face recognition method.

また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出する処理と、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する処理と、を実行する、顔認識方法である。 Further, the present invention is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected, and is a process of extracting a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount and the facial feature amount stored for the first predetermined period are compared, and the degree of similarity between them is less than the predetermined value, and the face stored for the first predetermined period. When the imaging time of the feature amount of the extracted face is stored before the second predetermined period from the shooting time of the feature amount of the extracted face, the process of discarding the feature amount of the extracted face is executed. , Face recognition method.

また、本開示は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出、前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、前記類似度が所定値以上の場合、抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理する、顔認識方法を提供する。 The present disclosure provides a face recognition method in the face recognition system and the camera device and the face recognition server is connected, and extracts the Kaotoku symptoms of a person appearing in the video data taken by the camera device, wherein compared to pre and extracted Kaotoku symptoms amount the similarity between a certain period stored Kaotoku symptom amount, if the similarity is less than a predetermined value, and stores the facial feature quantity the extracted, When the similarity is processed as a target of statistics and the similarity is equal to or higher than a predetermined value, the imaging time at which the extracted face of the person is imaged and the imaging time at which the face judged to have the similarity is equal to or higher than the predetermined value are imaged. The imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted. In this case, the imaging time at which the face whose similarity is determined to be equal to or higher than the predetermined value is excluded from the subject of the statistics is the predetermined from the imaging time of the video data from which the facial feature amount is extracted. Provided is a face recognition method that statistically processes the subject of the statistics when it is not within the time range.

本発明によれば、複雑な判断を行うことなく同一の人物が重複して含まれないように統計処理できる。 According to the present invention, statistical processing can be performed so that the same person is not included in duplicate without making a complicated judgment.

本実施形態の顔認識システムの内部構成の一例を詳細に示すブロック図A block diagram showing in detail an example of the internal configuration of the face recognition system of the present embodiment. 本実施形態の顔認識サーバにおける顔検出処理の動作手順の一例を説明するフローチャートA flowchart illustrating an example of an operation procedure of face detection processing in the face recognition server of the present embodiment. ユーザ端末のディスプレイに表示されるUI画面の一例を示す説明図Explanatory drawing showing an example of the UI screen displayed on the display of the user terminal 本実施形態の変形例の顔認識システムの内部構成の一例を詳細に示すブロック図A block diagram showing in detail an example of the internal configuration of the face recognition system of the modified example of this embodiment.

以下、適宜図面を参照しながら、本発明に顔認識システム、顔認識サーバ及び顔認識方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。 Hereinafter, an embodiment (hereinafter, referred to as “the present embodiment”) in which the face recognition system, the face recognition server, and the face recognition method are specifically disclosed in the present invention will be described in detail with reference to the drawings as appropriate. However, more detailed explanation than necessary may be omitted. For example, detailed explanations of already well-known matters and duplicate explanations for substantially the same configuration may be omitted. This is to avoid unnecessary redundancy of the following description and to facilitate the understanding of those skilled in the art. It should be noted that the accompanying drawings and the following description are provided for those skilled in the art to fully understand the present disclosure, and are not intended to limit the subject matter described in the claims.

図1は、本実施形態の顔認識システム5の内部構成の一例を詳細に示すブロック図である。図1に示す顔認識システム5は、複数台のカメラ装置10、顔認識サーバ30及びユーザ端末60が接続された構成を有する。 FIG. 1 is a block diagram showing in detail an example of the internal configuration of the face recognition system 5 of the present embodiment. The face recognition system 5 shown in FIG. 1 has a configuration in which a plurality of camera devices 10, a face recognition server 30, and a user terminal 60 are connected.

各カメラ装置10は、予め設定された店舗内等の所定の場所を撮像領域として撮像する。各カメラ装置10は、撮像された映像に現れる、この撮像領域を通過する人物の顔を含む顔画像データを取得する。各カメラ装置10は、撮像部11、顔検出部12、顔切出し部13及び通信部14を有する。なお、本実施形態のカメラ装置10は、1台であってもよいし、複数台であってもよい。 Each camera device 10 takes an image of a predetermined place such as in a preset store as an imaging area. Each camera device 10 acquires face image data including the face of a person passing through this imaging region, which appears in the captured image. Each camera device 10 includes an imaging unit 11, a face detection unit 12, a face cutting unit 13, and a communication unit 14. The camera device 10 of the present embodiment may be one or a plurality of cameras.

撮像部は、CCD(電荷結合素子:Charge Couples Device)イメージセンサやCMOS(相補性金属酸化膜半導体:Complementary Metal-Oxide Semiconductor)イメージセンサ等の撮像素子を有し、予め設定された撮像領域から入射する光を受光面に結像し、その光学像を電気信号に変換する。これにより、撮像領域の映像を表す映像データのフレームが得られる。 The image pickup unit has an image pickup device such as a CCD (Charge Couples Device) image sensor or a CMOS (Complementary Metal-Oxide Semiconductor) image sensor, and is incident from a preset imaging region. The light is imaged on the light receiving surface, and the optical image is converted into an electric signal. As a result, a frame of video data representing the video in the imaging region can be obtained.

顔検出部12は、撮像部11によって撮像された映像に含まれる顔を検出する。この顔検出処理は、例えば目、鼻、口等の顔のパーツを検出する方法、肌色を検出する方法、頭髪を検出する方法、首や肩などの部分を検出する方法等、公知の技術を用いて、顔を検出する処理である。また、顔検出処理方法として、統計的学習に基づくパターン認識技術を用いてもよい。 The face detection unit 12 detects a face included in the image captured by the image pickup unit 11. This face detection process uses known techniques such as a method of detecting facial parts such as eyes, nose, and mouth, a method of detecting skin color, a method of detecting hair, and a method of detecting parts such as the neck and shoulders. It is a process of detecting a face by using it. Further, as the face detection processing method, a pattern recognition technique based on statistical learning may be used.

顔切出し部13は、顔検出部12によって検出された顔を含む顔画像データを、撮像部11によって撮像された映像のフレームから切り出す。切り出される顔画像データは、撮像された顔を含む程度の大きさを有する矩形の画像を含むデータである。顔検出部12及び顔切出し部13は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)等のプロセッサ16によって実行される機能である。プロセッサ16は、例えば内部メモリに記憶されたアプリケーションプログラムを実行することで、顔検出部12及び顔切出し部13の機能を実現する。 The face cutting unit 13 cuts out the face image data including the face detected by the face detecting unit 12 from the frame of the image captured by the imaging unit 11. The face image data to be cut out is data including a rectangular image having a size including the captured face. The face detection unit 12 and the face cutting unit 13 are functions executed by a processor 16 such as a CPU (Central Processing Unit), an MPU (Micro Processing Unit), or a DSP (Digital Signal Processor), for example. The processor 16 realizes the functions of the face detection unit 12 and the face cutting unit 13 by executing, for example, an application program stored in the internal memory.

通信部14は、有線若しくは無線で顔認識サーバ30と接続され、顔切出し部13によって切り出された顔画像データを顔認識サーバ30に送信する。例えばカメラ装置10がネットワークカメラである場合、通信部14はIP(Internet Protocol)ネットワークを介して顔画像データを送信可能である。 The communication unit 14 is connected to the face recognition server 30 by wire or wirelessly, and transmits the face image data cut out by the face cutting unit 13 to the face recognition server 30. For example, when the camera device 10 is a network camera, the communication unit 14 can transmit face image data via an IP (Internet Protocol) network.

顔認識サーバ30は、各カメラ装置10から受信した顔画像データに含まれる顔を予め登録された顔と照合して認識する。顔認識サーバ30は、通信部31、顔特徴量抽出部32、顔特徴量比較部33、撮像時刻比較部34、保存部35、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42を有する。 The face recognition server 30 collates the face included in the face image data received from each camera device 10 with the face registered in advance and recognizes the face. The face recognition server 30 includes a communication unit 31, a face feature amount extraction unit 32, a face feature amount comparison unit 33, an imaging time comparison unit 34, a storage unit 35, a pre-passing comparison source face feature amount data memory 41, and a face image data memory 42. Has.

通信部31は、カメラ装置10から顔画像データを受信し、また、ユーザ端末60からの要求(例えば後述する検索要求)に応じて、当該要求に合致する検索結果(つまり、統計データ)をユーザ端末60に送信する。 The communication unit 31 receives the face image data from the camera device 10, and in response to a request from the user terminal 60 (for example, a search request described later), the user obtains a search result (that is, statistical data) that matches the request. Send to terminal 60.

特徴量抽出部の一例としての顔特徴量抽出部32は、通信部31が受信した顔画像データから顔の特徴量(以下、単に「顔特徴量」という)を抽出する。顔特徴量抽出処理は、公知の技術を用いて、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量を抽出する処理である。 The face feature amount extraction unit 32 as an example of the feature amount extraction unit extracts the face feature amount (hereinafter, simply referred to as “face feature amount”) from the face image data received by the communication unit 31. The facial feature amount extraction process is a process of extracting features such as the position of eyes, the positional relationship between eyes and nose and mouth, and how wrinkles are formed by using a known technique.

顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し、これらの類似度が所定値以上に高いか否かを判別する。また、これらの類似度が所定値以上に高くない場合(つまり、類似度が所定値未満である場合)、顔特徴量比較部33は、類似度が低いと判定する。なお、類似度が高いと判定する際の所定値(第1閾値)に対し、類似度が低いと判定する際の所定値(第2閾値)は、同じ値でもよいし、第1閾値より低い値であってもよい。 The face feature amount comparison unit 33 compares the face feature amount extracted by the face feature amount extraction unit 32 with the face feature amount registered in the pre-passing comparison source face feature amount data memory 41, and has a degree of similarity between them. Determines whether or not is higher than a predetermined value. Further, when these similarities are not higher than a predetermined value (that is, when the similarity is less than a predetermined value), the face feature amount comparison unit 33 determines that the similarity is low. The predetermined value (second threshold value) when determining that the similarity is low may be the same value as the predetermined value (first threshold value) when determining that the similarity is high, or is lower than the first threshold value. It may be a value.

顔特徴量メモリの一例としての事前通過比較元顔特徴量データメモリ41は、カメラ装置10から送られた顔画像データから、顔特徴量抽出部32によって抽出された顔特徴量が所定の保存条件を満たす場合に、この顔特徴量を、撮像領域を通過した人物の顔を含む顔画像データの特徴量として、一定期間において保存する。このとき、顔画像データの特徴量の他、撮像時刻や撮像領域(位置)の情報も付属情報として保存される。 As an example of the face feature amount memory, the pre-passing comparison source face feature amount data memory 41 has a storage condition in which the face feature amount extracted by the face feature amount extraction unit 32 from the face image data sent from the camera device 10 is a predetermined storage condition. When the condition is satisfied, this facial feature amount is stored for a certain period of time as a feature amount of facial image data including the face of a person who has passed through the imaging region. At this time, in addition to the feature amount of the face image data, information on the imaging time and the imaging area (position) is also saved as ancillary information.

なお、一定期間の開始は、カメラ装置10によって画像データが撮像された撮像時刻であり、この撮像時刻は、例えば画像データのヘッダに含まれる。また、一定期間は、撮像領域の環境に合わせて、ユーザ端末60の操作に応じて任意に設定・変更可能である。例えば撮像領域がレストラン等の店舗内である場合、一定期間は一例として2時間に設定される。また、撮像領域がオフィスビル内である場合、一定期間は一例として6〜7時間に設定される。この一定期間は、顔認識サーバ30に事前に設定されてもよいし、管理者等のユーザがユーザ端末60を操作して顔認識サーバ30に対し一定期間の値を送信することで設定されてもよい。 The start of a certain period is the imaging time when the image data is captured by the camera device 10, and this imaging time is included in, for example, the header of the image data. Further, for a certain period of time, it can be arbitrarily set / changed according to the operation of the user terminal 60 according to the environment of the imaging region. For example, when the imaging area is in a store such as a restaurant, the fixed period is set to 2 hours as an example. When the imaging area is in an office building, the fixed period is set to 6 to 7 hours as an example. This fixed period may be set in advance in the face recognition server 30, or is set by a user such as an administrator operating the user terminal 60 to send a value for the fixed period to the face recognition server 30. May be good.

顔画像データメモリ42は、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の顔画像データを、顔特徴量と同様、一定期間、顔特徴量に紐付けて保存する。ここでは、一定期間が経過し、事前通過比較元顔特徴量データメモリ41に保存された顔特徴量が消去されると、顔画像データメモリ42に保存された、顔特徴量に対応する顔画像データも同時に消去されるが、画像データを消去することなく、より長い期間(例えば1年等)保存しておいてもよい。消去することなく、画像データを相当量蓄積しておくことで、ビッグデータとして活用することも可能になる。 The face image data memory 42 stores the face image data of the face feature amount registered in the pre-passing comparison source face feature amount data memory 41 in association with the face feature amount for a certain period of time in the same manner as the face feature amount. Here, when a certain period of time elapses and the face feature amount stored in the pre-passing comparison source face feature amount data memory 41 is erased, the face image corresponding to the face feature amount stored in the face image data memory 42 is deleted. The data is also erased at the same time, but the image data may be stored for a longer period of time (for example, one year) without being erased. By accumulating a considerable amount of image data without erasing it, it can be used as big data.

撮像時刻比較部34は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量との類似度が所定値(第1閾値)以上に高い場合、カメラ装置10から受信した顔画像データの撮像時刻を取得する。前述したように、撮像時刻は顔画像データのヘッダ情報に記述されている。 In the imaging time comparison unit 34, the degree of similarity between the face feature amount extracted by the face feature amount extraction unit 32 and the face feature amount registered in the pre-passing comparison source face feature amount data memory 41 is a predetermined value (first). If it is higher than the threshold value), the imaging time of the face image data received from the camera device 10 is acquired. As described above, the imaging time is described in the header information of the face image data.

また、撮像時刻比較部34は、この登録された顔特徴量は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前までに、事前通過比較元顔特徴量データメモリ41に保存されたものであるか否かを判別する。所定時間は、後述する統計処理を行う際、同一の人物を重複して計数(ダブルカウント)しないようにするために設定される時間であり、撮像領域の環境に合わせて適正な値に設定される。例えば、事前通過比較元顔特徴量データメモリ41に顔特徴量を保存可能な一定期間が24時間である場合、所定時間はそれにより短い2時間等に設定される。なお、一定期間と所定時間とが同じ期間であってもよく、この場合、所定時間より前の顔特徴量は、事前通過比較元顔特徴量データメモリ41に存在しなくなるので、撮像時刻比較部34を省くことも可能である。 In addition, the imaging time comparison unit 34 determines that the registered face feature amount is a pre-passing comparison source face within a predetermined time from the imaging time of the face image data from which the face feature amount is extracted by the face feature amount extraction unit 32. It is determined whether or not the data is stored in the feature data memory 41. The predetermined time is a time set to prevent duplication of counting (double counting) of the same person when performing statistical processing described later, and is set to an appropriate value according to the environment of the imaging area. NS. For example, when the fixed period in which the facial feature amount can be stored in the pre-passing comparison source facial feature amount data memory 41 is 24 hours, the predetermined time is set to a shorter time such as 2 hours. The fixed period and the predetermined time may be the same period. In this case, the facial feature amount before the predetermined time does not exist in the pre-passing comparison source facial feature amount data memory 41, so that the imaging time comparison unit It is also possible to omit 34.

保存部35は、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42に接続され、顔画像データの特徴量を事前通過比較元顔特徴量データメモリ41に保存し、この特徴量に対応する顔画像データを顔画像データメモリ42に保存する。なお、後述するように、顔特徴量を統計処理しない場合でも、この顔特徴量に対応する顔画像データが保存条件を満たす場合には、顔特徴量は保存される。 The storage unit 35 is connected to the pre-passing comparison source face feature data memory 41 and the face image data memory 42, stores the feature amount of the face image data in the pre-passing comparison source face feature data memory 41, and stores the feature amount in the pre-passing comparison source face feature data memory 41. The corresponding face image data is stored in the face image data memory 42. As will be described later, even if the face feature amount is not statistically processed, the face feature amount is saved if the face image data corresponding to the face feature amount satisfies the storage condition.

顔認識サーバ30は、更に、年齢性別判定部36、統計部37、保存部38、統計データ検索部39及び年齢性別統計データメモリ43を有する。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定する。推定される年齢は、ある程度の年齢幅で表現されてもよいし、代表値で表現されてもよい。 The face recognition server 30 further includes an age / gender determination unit 36, a statistics unit 37, a storage unit 38, a statistical data search unit 39, and an age / gender statistical data memory 43. The age / gender determination unit 36 estimates the age and gender using a known technique based on the facial feature amount extracted by the facial feature amount extraction unit 32. The estimated age may be expressed by a certain age range or by a representative value.

統計処理部の一例としての統計部37は、年齢及び性別を統計の対象とする統計処理を行う。この統計処理では、例えばカメラ装置10によって撮像された映像に含まれる顔の数が年齢及び性別毎に集計され、年齢性別統計データとして登録される。統計処理は、単に年齢及び性別毎に人数(顔の数)をカウントアップする以外に、全体の人数の中に占める各年齢層の比率や男女の比率等を算出する処理等を含めてもよい。その他、統計処理は、後述する検索条件(年月日、期間、場所、年齢、性別、カメラID等)のAND条件又はOR条件に従って、検索可能なように集計し、年齢性別統計データとしてもよい。なお、年齢性別統計データは、少なくとも年齢と性別とに分類された統計データであり、それ以外の要素で細分類されてもよい。保存部38は、年齢性別統計データメモリ43に接続され、統計部37で統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する。年齢性別統計データメモリ43は、年齢性別統計データを長期間に亘って保存し、統計データを利用する際に用いられる。 As an example of the statistical processing unit, the statistical unit 37 performs statistical processing that targets age and gender. In this statistical processing, for example, the number of faces included in the image captured by the camera device 10 is aggregated for each age and gender and registered as age-gender statistical data. Statistical processing may include not only counting up the number of people (number of faces) for each age and gender, but also calculating the ratio of each age group to the total number of people, the ratio of men and women, and the like. .. In addition, statistical processing may be aggregated so that it can be searched according to the AND condition or OR condition of the search conditions (date, period, place, age, gender, camera ID, etc.) described later, and may be used as age / gender statistical data. .. The age-gender statistical data is statistical data classified into at least age and gender, and may be subdivided by other elements. The storage unit 38 is connected to the age-gender statistical data memory 43, and stores the age-gender statistical data statistically processed by the statistical unit 37 in the age-gender statistical data memory 43. The age-gender statistical data memory 43 is used when the age-gender statistical data is stored for a long period of time and the statistical data is used.

統計データ検索部39は、ユーザ端末60からの要求に従って、所定の検索条件で年齢性別統計データメモリ43を検索し、この検索結果をユーザ端末60に返信する。 The statistical data search unit 39 searches the age / gender statistical data memory 43 under predetermined search conditions in accordance with the request from the user terminal 60, and returns the search result to the user terminal 60.

ユーザ端末60は、顔認識サーバ30に対し、各種の設定や要求を行う汎用のコンピュータ装置であり、通信部61、制御部62、ディスプレイ63及び操作部64を有する。通信部61は、顔認識サーバ30と有線又は無線で接続され、通信可能である。例えば、通信部61は顔認識サーバ30とIPネットワークを介して接続される。 The user terminal 60 is a general-purpose computer device that makes various settings and requests to the face recognition server 30, and includes a communication unit 61, a control unit 62, a display 63, and an operation unit 64. The communication unit 61 is connected to the face recognition server 30 by wire or wirelessly and can communicate with the face recognition server 30. For example, the communication unit 61 is connected to the face recognition server 30 via an IP network.

制御部62は、ユーザ端末60の動作を統括的に制御し、アプリケーションを実行し、顔認識サーバ30に対して、ユーザの入力操作に応じた検索処理を要求する。ディスプレイ63は各種の情報を表示し、後述する検索条件や検索結果等をUI画面に表示する。操作部64は、キーボードやマウス等であり、検索条件等、ユーザからの入力操作を受け付ける。 The control unit 62 comprehensively controls the operation of the user terminal 60, executes the application, and requests the face recognition server 30 to perform a search process according to the user's input operation. The display 63 displays various types of information, and displays search conditions, search results, and the like, which will be described later, on the UI screen. The operation unit 64 is a keyboard, a mouse, or the like, and accepts input operations from the user such as search conditions.

なお、ユーザ端末60が携帯可能なタブレット端末で構成される場合、操作部64はディスプレイ63とともにタッチパネルとして一体化されており、ディスプレイ63の画面に直接入力操作可能である。 When the user terminal 60 is composed of a portable tablet terminal, the operation unit 64 is integrated with the display 63 as a touch panel, and input operations can be performed directly on the screen of the display 63.

上記構成を有する顔認識システム5の動作を示す。 The operation of the face recognition system 5 having the above configuration is shown.

図2は、本実施形態の顔認識サーバ30における顔検出処理の動作手順の一例を説明するフローチャートである。顔認識サーバ30内の通信部31は、カメラ装置10から送られた顔画像データを受信する(S1)。 FIG. 2 is a flowchart illustrating an example of an operation procedure of the face detection process in the face recognition server 30 of the present embodiment. The communication unit 31 in the face recognition server 30 receives the face image data sent from the camera device 10 (S1).

顔特徴量抽出部32は、受信した顔画像データから顔特徴量を抽出する(S2)。顔特徴量として、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量が抽出される。顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し(S3)、これらの類似度が所定値(第1閾値)以上に高いか否かを判別する(S4)。 The face feature amount extraction unit 32 extracts the face feature amount from the received face image data (S2). As the facial features, for example, features such as the position of the eyes, the positional relationship between the eyes, the nose, and the mouth, and how to wrinkle are extracted. The face feature amount comparison unit 33 compares the face feature amount extracted by the face feature amount extraction unit 32 with the face feature amount registered in the pre-passing comparison source face feature amount data memory 41 (S3), and these It is determined whether or not the similarity of is higher than a predetermined value (first threshold value) (S4).

類似度が所定値以上に高くない場合(つまり、類似度が低いと判断された場合)、保存部35は、顔特徴量抽出部32によって抽出された顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S7)。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定し、統計部37は、推定された、年齢及び性別を統計の対象とする統計処理を行う(S8)。この統計処理は、抽出された顔特徴量から推定される、人物の年齢及び性別毎に区分された年齢性別統計データのデータ数を値1増加(カウントアップ)させるように計数する。 When the degree of similarity is not higher than a predetermined value (that is, when it is determined that the degree of similarity is low), the storage unit 35 passes the facial feature amount extracted by the facial feature amount extraction unit 32 in advance. It is saved in the data memory 41 (S7). The age / gender determination unit 36 estimates the age and gender using a known technique based on the facial feature amount extracted by the facial feature amount extraction unit 32, and the statistical unit 37 estimates the estimated age and gender. Perform statistical processing to be the target of statistics (S8). In this statistical processing, the number of age-gender statistical data classified by age and gender of a person, which is estimated from the extracted facial features, is counted so as to increase (count up) by a value of 1.

保存部38は、統計部37によって統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する(S9)。 The storage unit 38 stores the age-gender statistical data statistically processed by the statistics unit 37 in the age-gender statistical data memory 43 (S9).

一方、ステップS4で類似度が所定値(第1閾値)以上に高いと判断された場合、撮像時刻比較部34は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻と、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の撮像時刻とを比較し(S5)、事前通過比較元顔特徴量データメモリ41に保存された類似度の高い特徴量が、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前まで(所定時間の範囲内)に保存されたか否かを判別する(S6)。 On the other hand, when it is determined in step S4 that the similarity is higher than a predetermined value (first threshold value), the imaging time comparison unit 34 captures the facial image data whose facial feature amount has been extracted by the facial feature amount extracting unit 32. The time is compared with the imaging time of the face feature amount registered in the pre-pass comparison source face feature data memory 41 (S5), and the features with high similarity stored in the pre-pass comparison source face feature data memory 41 are compared. It is determined whether or not the amount is stored within a predetermined time (within a predetermined time range) from the imaging time of the face image data from which the facial feature amount has been extracted by the facial feature amount extraction unit 32 (S6).

所定時間の範囲外である場合(S6,NO)、新たな顔画像データの顔特徴量であるとして、統計部37は、ステップS8において、前述した統計処理を行う。一方、ステップS6で所定時間の範囲内であると判断された場合(S6,YES)、統計部37は、抽出された顔特徴量が既に保存済みであると判断する。そして、統計部37は、この顔特徴量の顔画像データが保存条件を満たすか否かを判別する(S10)。保存条件を満たさない場合(S10,NO)、顔認識サーバ30は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存することなく廃棄する(S11)。一方、顔画像データが保存条件を満たす場合(S10,YES)、保存部35は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S12)。 When it is out of the range of the predetermined time (S6, NO), the statistics unit 37 performs the above-mentioned statistical processing in step S8, assuming that it is the face feature amount of the new face image data. On the other hand, when it is determined in step S6 that the time is within the predetermined time range (S6, YES), the statistics unit 37 determines that the extracted facial feature amount has already been saved. Then, the statistics unit 37 determines whether or not the face image data of the face feature amount satisfies the storage condition (S10). When the storage condition is not satisfied (S10, NO), the face recognition server 30 discards the face feature amount without storing it in the pre-passing comparison source face feature amount data memory 41 (S11). On the other hand, when the face image data satisfies the storage condition (S10, YES), the storage unit 35 stores the face feature amount in the pre-passing comparison source face feature amount data memory 41 (S12).

ここで、保存条件として、例えば最初の画像のみ保存することが設定されている場合、ステップS10で判断される顔画像データは最初の画像ではないので、これに対応する顔特徴量は保存されず、廃棄されることになる。また、顔画像データに含まれる顔の向きが正面で、かつ、顔が大きく映っていることが保存条件である場合、顔画像データがこの保存条件に該当しないと、これに対応する顔特徴量は廃棄される。また、全て保存することが保存条件である場合、画像データにかかわらず、顔特徴量は全て保存される。なお、この保存条件は、保存部35に事前に設定される他、動作の途中でユーザ端末60からの設定情報によって変更されてもよい。 Here, if, for example, it is set to save only the first image as a saving condition, the face image data determined in step S10 is not the first image, so the corresponding face feature amount is not saved. , Will be discarded. Further, when the storage condition is that the orientation of the face included in the face image data is front and the face is reflected in a large size, if the face image data does not correspond to this storage condition, the corresponding facial feature amount. Is discarded. Further, when it is a storage condition that all are saved, all the facial features are saved regardless of the image data. In addition to being set in advance in the storage unit 35, this storage condition may be changed by setting information from the user terminal 60 during the operation.

上記ステップS1〜S12までの処理で、年齢性別統計データ及び顔特徴量の保存が完了すると、統計データ検索部39は、ユーザ端末60からの要求を受け付け、この要求に従って、年齢性別統計データメモリ43に登録されている年齢性別統計データを検索し、該当する年齢性別統計データをユーザ端末60に返信する(S13)。この後、顔認識サーバ30は本動作を終了する。 When the storage of the age-gender statistical data and the facial feature amount is completed in the processes of steps S1 to S12, the statistical data search unit 39 receives the request from the user terminal 60, and according to this request, the age-gender statistical data memory 43. The age-gender statistical data registered in is searched, and the corresponding age-gender statistical data is returned to the user terminal 60 (S13). After this, the face recognition server 30 ends this operation.

ユーザ端末60は、顔認識サーバ30に対し年齢性別統計データを検索する要求を行い、この検索結果を顔認識サーバ30から受信する。図3はユーザ端末60のディスプレイ63に表示されるUI(ユーザインタェース)画面を示す図である。ディスプレイ63の画面の左側には、ユーザが年齢性別統計データメモリ43に登録されている年齢性別統計データを検索するための検索条件が表示されている。 The user terminal 60 requests the face recognition server 30 to search the age / gender statistical data, and receives the search result from the face recognition server 30. FIG. 3 is a diagram showing a UI (user interface) screen displayed on the display 63 of the user terminal 60. On the left side of the screen of the display 63, search conditions for the user to search the age / gender statistical data registered in the age / gender statistical data memory 43 are displayed.

ここでは、検索条件として、撮像した年月日、時間帯(期間)、場所、年齢、性別、カメラID等のキーワードを選択可能である。ユーザは、各検索項目の入力ボックスにチェックマークを入力することで、これらの検索項目を、事前に設定されたAND条件あるいはOR条件で検索可能である。 Here, as search conditions, keywords such as the date of imaging, the time zone (period), the place, the age, the gender, and the camera ID can be selected. The user can search for these search items under preset AND conditions or OR conditions by inputting a check mark in the input box of each search item.

ユーザ端末60は、ユーザが設定した検索条件を顔認識サーバ30に送信すると、統計データ検索部39は、この検索条件に従って年齢性別統計データメモリ43に登録されている年齢性別統計データを検索する。顔認識サーバ30は、検索条件に合致する人物の顔特徴量を、年齢性別統計データメモリ43から抽出し、また、顔画像データメモリ42に登録されている、この顔特徴量に紐付けられた顔画像データを顔画像データメモリ42から抽出する。顔認識サーバ30は、抽出した顔特徴量及び顔画像データをユーザ端末60に送信する。 When the user terminal 60 transmits the search condition set by the user to the face recognition server 30, the statistical data search unit 39 searches the age-gender statistical data registered in the age-gender statistical data memory 43 according to the search condition. The face recognition server 30 extracts the face feature amount of the person who matches the search condition from the age / gender statistical data memory 43, and is associated with the face feature amount registered in the face image data memory 42. The face image data is extracted from the face image data memory 42. The face recognition server 30 transmits the extracted face feature amount and face image data to the user terminal 60.

この結果、ユーザ端末60のディスプレイ63の画面の右側には、検索条件に合致する人物の顔特徴量及び顔画像データが表示される。ここでは、検索結果として、3名の人物の顔特徴量TK1,TK2,TK3及び顔画像データG1,G2,G3が表示されている。 As a result, on the right side of the screen of the display 63 of the user terminal 60, the facial features and facial image data of the person who matches the search conditions are displayed. Here, as the search results, the facial feature amounts TK1, TK2, TK3 of the three persons and the facial image data G1, G2, G3 are displayed.

以上により、本実施形態の顔認識システム5では、顔認識サーバ30内の顔特徴量抽出部32は、カメラ装置10によって撮像領域に対して撮像された映像に現れる顔を含む顔画像データの顔特徴量を抽出する。保存部35は、撮像領域を通過した顔を含む顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値以上に類似度の高い顔特徴量が、カメラ装置10による撮像時刻より所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されていない場合、顔特徴量抽出部32により抽出された顔画像データの顔特徴量を統計処理する。 As described above, in the face recognition system 5 of the present embodiment, the face feature amount extraction unit 32 in the face recognition server 30 uses the face of the face image data including the face appearing in the image captured by the camera device 10 with respect to the imaging region. Extract the feature amount. The storage unit 35 stores the face feature amount of the face image data including the face that has passed through the imaging region in the pre-passing comparison source face feature amount data memory 41. The statistics unit 37 captures the facial features that are imaged by the camera device 10 and have a high degree of similarity to the facial features of the facial image data extracted by the facial feature extraction unit 32 by the camera device 10. When the pre-passing comparison original facial feature amount data memory 41 is not saved by a predetermined time before the time, the facial feature amount of the face image data extracted by the face feature amount extraction unit 32 is statistically processed.

これにより、顔認識サーバ30は、撮像時刻に近い時刻に保存された類似度の高い顔特徴量を同一の人物のものと判断し、この撮像時刻に得られた顔特徴量は統計処理されないので、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理できる。また、顔認識システム5では、カメラ装置10で映像フレームから切り出された顔画像データが顔認識サーバ30に伝送されるので、映像データを伝送する場合と比べ、データ伝送量を少なくすることができる。 As a result, the face recognition server 30 determines that the face features with high similarity stored at a time close to the imaging time belong to the same person, and the face features obtained at this imaging time are not statistically processed. , Efficient statistical processing can be performed so that the same person is not included twice without making complicated judgments. Further, in the face recognition system 5, since the face image data cut out from the video frame by the camera device 10 is transmitted to the face recognition server 30, the amount of data transmission can be reduced as compared with the case of transmitting the video data. ..

また、類似度の高い顔特徴量が所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されている場合、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていないと、保存部35は、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を破棄する。これにより、不要な顔特徴量を省き、保存されるデータ量を削減できる。 Further, when the face feature amount having a high degree of similarity is stored in the pre-passing comparison source face feature amount data memory 41 by a predetermined time, the face image data captured by the camera device 10 satisfies the predetermined storage condition. If not, the storage unit 35 discards the face feature amount of the face image data extracted by the face feature amount extraction unit 32. As a result, unnecessary facial features can be eliminated and the amount of stored data can be reduced.

また、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていると、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。これにより、有効な顔特徴量のデータが増え、顔特徴量の類似度の判定精度が向上する。 Further, when the face image data captured by the camera device 10 satisfies the predetermined storage conditions, the face feature amount of the face image data extracted by the face feature amount extraction unit 32 is passed in advance to the comparison source face feature amount data memory. Save to 41. As a result, the data of the effective facial features increases, and the accuracy of determining the similarity of the facial features improves.

また、統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値(第2閾値)に達しない類似度の低い顔特徴量が、事前通過比較元顔特徴量データメモリ41に保存されている場合、顔特徴量抽出部32により抽出された顔像データの顔特徴量を統計処理する。これにより、初めての人物の顔を見逃すことなく、統計処理できる。 Further, the statistics unit 37 has a face feature having a low degree of similarity that does not reach a predetermined value (second threshold value) with respect to the face feature amount of the face image data imaged by the camera device 10 and extracted by the face feature amount extraction unit 32. When the amount is stored in the pre-passing comparison source face feature amount data memory 41, the face feature amount of the face image data extracted by the face feature amount extraction unit 32 is statistically processed. As a result, statistical processing can be performed without missing the face of the first person.

また、所定時間は、レストランやビル内等、撮像領域の環境に合わせて設定可能である。これにより、撮像領域の環境によらず、同一の人物が重複して含まれないように統計処理できる。 In addition, the predetermined time can be set according to the environment of the imaging area such as in a restaurant or a building. As a result, statistical processing can be performed so that the same person is not included in duplicate regardless of the environment of the imaging region.

また、顔認識サーバ30は、ユーザ端末60(端末装置)からの要求に応じて、年齢性別統計データメモリ43に登録された年齢性別統計データ(統計処理された顔画像データの特徴量)を検索し、この検索結果をユーザ端末60に返信する。これにより、ユーザの利用に貢献でき、様々な活用が期待される。 Further, the face recognition server 30 searches the age-gender statistical data (feature amount of statistically processed face image data) registered in the age-gender statistical data memory 43 in response to a request from the user terminal 60 (terminal device). Then, the search result is returned to the user terminal 60. This can contribute to the use of users and is expected to be used in various ways.

(本実施形態の変形例)
図4は、本実施形態の変形例の顔認識システム5Aの内部構成の一例を詳細に示すブロック図である。本実施形態と同一の構成要素については同一の符号を付すことで、その説明を省略する。本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは、上記した本記実施形態と異なり、撮像部11及び通信部14だけを有し、撮像部11で撮像された画像データを、通信部14によりそのまま顔認識サーバ30Aに送信するだけである。
(Modified example of this embodiment)
FIG. 4 is a block diagram showing in detail an example of the internal configuration of the face recognition system 5A of the modified example of the present embodiment. The same components as those in the present embodiment are designated by the same reference numerals, and the description thereof will be omitted. In the face recognition system 5A of the modified example of the present embodiment, unlike the above-described embodiment, the camera device 10A has only the image pickup unit 11 and the communication unit 14, and the image data captured by the image pickup unit 11 is displayed. It is simply transmitted to the face recognition server 30A by the communication unit 14 as it is.

顔認識サーバ30Aは、上記本実施形態と異なり、プロセッサ40内に顔検出部52及び顔切出し部53を有する。顔検出部52は、カメラ装置10Aから送信された画像データ(映像)に対し、上記本実施形態の顔検出部12と同様、映像に含まれる顔を検出する。顔切出し部53は、上記本実施形態の顔切出し部13と同様、顔検出部52によって検出された顔を含む顔画像データを映像のフレームから切り出す。 Unlike the present embodiment, the face recognition server 30A has a face detection unit 52 and a face cutting unit 53 in the processor 40. The face detection unit 52 detects the face included in the image with respect to the image data (video) transmitted from the camera device 10A, as in the face detection unit 12 of the present embodiment. Similar to the face cutting section 13 of the present embodiment, the face cutting section 53 cuts out face image data including the face detected by the face detecting section 52 from the frame of the video.

このように、本実施形態の変形例の顔認識システム5Aでは、顔認識サーバ30Aに負荷のかかる処理を効率的に集中させるので、カメラ装置10Aの負荷を軽減できる。このように、カメラ装置10Aは、撮像した画像データ(映像)を顔認識サーバ30に送信するだけであるので、簡易な構成で済み、例えば撮像領域にカメラ装置10Aが既設であっても利用可能である。また、本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは汎用のネットワークカメラでも利用可能である。 As described above, in the face recognition system 5A of the modified example of the present embodiment, the load-bearing processing is efficiently concentrated on the face recognition server 30A, so that the load on the camera device 10A can be reduced. In this way, the camera device 10A only transmits the captured image data (video) to the face recognition server 30, so that a simple configuration is sufficient. For example, the camera device 10A can be used even if the camera device 10A is already installed in the imaging area. Is. Further, in the face recognition system 5A of the modified example of the present embodiment, the camera device 10A can also be used with a general-purpose network camera.

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。 Although various embodiments have been described above with reference to the drawings, it goes without saying that the present invention is not limited to such examples. It is clear that a person skilled in the art can come up with various modifications or modifications within the scope of the claims, which naturally belong to the technical scope of the present invention. Understood.

本発明は、カメラ装置により撮像された映像を用いる際、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理でき、有用である。 INDUSTRIAL APPLICABILITY The present invention is useful because when using an image captured by a camera device, statistical processing can be efficiently performed so that the same person is not included in duplicate without making a complicated judgment.

5、5A 顔認識システム
10、10A カメラ装置
11 撮像部
12、52 顔検出部
13、53 顔切出し部
14 通信部
16、40、66 プロセッサ
30、30A 顔認識サーバ
31 通信部
32 顔特徴量抽出部
33 顔特徴量比較部
34 撮像時刻比較部
35、38 保存部
36 年齢性別判定部
37 統計部
39 統計データ検索部
41 事前通過比較元顔特徴量データメモリ
42 顔画像データメモリ
43 年齢性別統計データメモリ
60 ユーザ端末
61 通信部
62 制御部
63 ディスプレイ
64 操作部
TK1、TK2、TK3 顔特徴量
G1、G2、G3 顔画像データ
5, 5A Face recognition system 10, 10A Camera device 11 Imaging unit 12, 52 Face detection unit 13, 53 Face cutting unit 14 Communication unit 16, 40, 66 Processor 30, 30A Face recognition server 31 Communication unit 32 Face feature amount extraction unit 33 Face feature comparison unit 34 Imaging time comparison unit 35, 38 Storage unit 36 Age gender determination unit 37 Statistics department 39 Statistical data search unit 41 Pre-pass comparison source Face feature data memory 42 Face image data memory 43 Age gender statistical data memory 60 User terminal 61 Communication unit 62 Control unit 63 Display 64 Operation unit TK1, TK2, TK3 Face feature amount G1, G2, G3 Face image data

Claims (3)

カメラ装置が接続された顔認識サーバであって、
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、
前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するプロセッサ、を備える
顔認識サーバ。
A face recognition server to which a camera device is connected
Extracting Kaotoku symptoms of a person appearing in the video data taken by the camera device,
Compares the similarity between the Kaotoku symptom amount that has been stored for a period of time in advance and Kaotoku symptoms amount the extracted,
When the similarity is less than a predetermined value, the extracted facial feature amount is saved and processed as a statistical object.
When the similarity is equal to or greater than a predetermined value, the imaging time at which the extracted face of the person is imaged is compared with the imaging time at which the face determined to have the similarity is equal to or greater than the predetermined value.
When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Exclude from the target
When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. Equipped with a processor that performs statistical processing as an object of
Face recognition server.
カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、
前記類似度が所定値以上の場合、抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理する
顔認識方法。
This is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected.
Extracting Kaotoku symptoms of a person appearing in the video data taken by the camera device,
Compares the similarity between the Kaotoku symptom amount that has been stored for a period of time in advance and Kaotoku symptoms amount the extracted,
When the similarity is less than a predetermined value, the extracted facial feature amount is saved and processed as a statistical object.
When the similarity is equal to or greater than a predetermined value, the imaging time at which the extracted face of the person is imaged is compared with the imaging time at which the face determined to have the similarity is equal to or greater than the predetermined value.
When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Exclude from the target
When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. Statistical processing as the target of
Face recognition method.
カメラ装置との間で通信可能に接続されたコンピュータである顔認識サーバに、To the face recognition server, which is a computer connected to the camera device so that it can communicate with the camera device.
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出するステップと、A step of extracting the facial features of a person appearing in the video data captured by the camera device, and
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較するステップと、A step of comparing the degree of similarity between the extracted facial features and the facial features stored in advance for a certain period of time, and
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理するステップと、When the similarity is less than a predetermined value, the step of storing the extracted facial feature amount and processing it as an object of statistics, and
前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較するステップと、When the similarity is equal to or greater than a predetermined value, a step of comparing the imaging time when the extracted face of the person is imaged and the imaging time when the face determined to have the similarity equal to or greater than the predetermined value is imaged. ,
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外すステップと、When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Steps to exclude from the target and
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するステップと、を実現させるための、When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. To realize the step of statistical processing as the target of
顔認識プログラム。Face recognition program.
JP2019143929A 2015-06-15 2019-08-05 Face recognition system, face recognition server and face recognition method Expired - Fee Related JP6905653B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019143929A JP6905653B2 (en) 2015-06-15 2019-08-05 Face recognition system, face recognition server and face recognition method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015120455A JP6573311B2 (en) 2015-06-15 2015-06-15 Face recognition system, face recognition server, and face recognition method
JP2019143929A JP6905653B2 (en) 2015-06-15 2019-08-05 Face recognition system, face recognition server and face recognition method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015120455A Division JP6573311B2 (en) 2015-06-15 2015-06-15 Face recognition system, face recognition server, and face recognition method

Publications (2)

Publication Number Publication Date
JP2019215899A JP2019215899A (en) 2019-12-19
JP6905653B2 true JP6905653B2 (en) 2021-07-21

Family

ID=68919638

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019143929A Expired - Fee Related JP6905653B2 (en) 2015-06-15 2019-08-05 Face recognition system, face recognition server and face recognition method

Country Status (1)

Country Link
JP (1) JP6905653B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7575770B2 (en) * 2020-03-12 2024-10-30 i-PRO株式会社 Facial detection method, facial detection program, and server

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4645872B2 (en) * 2000-11-29 2011-03-09 オムロン株式会社 Control device and authentication method
JP4753193B2 (en) * 2008-07-31 2011-08-24 九州日本電気ソフトウェア株式会社 Flow line management system and program

Also Published As

Publication number Publication date
JP2019215899A (en) 2019-12-19

Similar Documents

Publication Publication Date Title
JP6573311B2 (en) Face recognition system, face recognition server, and face recognition method
JP6013241B2 (en) Person recognition apparatus and method
JP4241763B2 (en) Person recognition apparatus and method
CN109426785B (en) Human body target identity recognition method and device
US8938092B2 (en) Image processing system, image capture apparatus, image processing apparatus, control method therefor, and program
US12175761B2 (en) Information processing apparatus, information processing method, and program
CN107644190A (en) Pedestrian's monitoring method and device
JP2015097000A (en) Image recognition device and data registration method to the same
JP6568476B2 (en) Information processing apparatus, information processing method, and program
CN111626240B (en) Face image recognition method, device and equipment and readable storage medium
US12026225B2 (en) Monitoring camera, part association method and program
JP7435837B2 (en) Information processing system, information processing device, information processing method, and program
JP5618295B2 (en) Authentication system and authentication reliability determination method
WO2020115910A1 (en) Information processing system, information processing device, information processing method, and program
JP5423740B2 (en) Video providing apparatus, video using apparatus, video providing system, video providing method, and computer program
JP6905653B2 (en) Face recognition system, face recognition server and face recognition method
JP6180906B2 (en) Face recognition gate system
JP6815667B1 (en) Information processing equipment, information processing methods, programs and camera systems
JP7298729B2 (en) Information processing system, information processing device, information processing method, and program
JP6339708B2 (en) Face recognition gate system, management device, and face recognition program
JP6713153B1 (en) Information processing apparatus, information processing method, program, and camera system
CN114503152A (en) Attribute determination device, attribute determination program, and attribute determination method
WO2022079841A1 (en) Group specifying device, group specifying method, and computer-readable recording medium
CN116416569A (en) Behavior recognition method, device, computer equipment and storage medium
JP2021083071A (en) Information processing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190805

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201118

TRDD Decision of grant or rejection written
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20201224

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210114

R150 Certificate of patent or registration of utility model

Ref document number: 6905653

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees