JP6905653B2 - Face recognition system, face recognition server and face recognition method - Google Patents
Face recognition system, face recognition server and face recognition method Download PDFInfo
- Publication number
- JP6905653B2 JP6905653B2 JP2019143929A JP2019143929A JP6905653B2 JP 6905653 B2 JP6905653 B2 JP 6905653B2 JP 2019143929 A JP2019143929 A JP 2019143929A JP 2019143929 A JP2019143929 A JP 2019143929A JP 6905653 B2 JP6905653 B2 JP 6905653B2
- Authority
- JP
- Japan
- Prior art keywords
- face
- feature amount
- extracted
- similarity
- face recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
本発明は、カメラ装置により撮像された映像を用いて、人物の顔を認識する顔認識システム、顔認識サーバ及び顔認識方法に関する。 The present invention relates to a face recognition system, a face recognition server, and a face recognition method for recognizing a person's face using an image captured by a camera device.
従来、店舗内に設定された撮像領域に出現した人物の客層を判定する際、人物の行動形態から分析対象となる顧客であるか否かを判定し、該当しない人物を分析対象から排除することで、店舗に来店した顧客の客層を精度良く分析する客層分析システムが知られている(例えば、特許文献1参照)。 Conventionally, when determining the customer base of a person who appears in the imaging area set in the store, it is determined from the behavioral form of the person whether or not the customer is the target of analysis, and the person who does not correspond is excluded from the analysis target. Therefore, there is known a customer base analysis system that accurately analyzes the customer base of customers who visit a store (see, for example, Patent Document 1).
この客層分析システムでは、例えば店舗の出入口の近傍の案内待ちエリアから客席に向かう顧客を正面から撮像するように撮像領域が設定される。客席に向かって移動する行動と異なる行動をとる人物を検出し、その人物を分析対象から排除することで、店員など顧客以外の人物が分析対象に含まれ、同一の顧客が重複して分析対象に含まれることを避ける。 In this customer demographic analysis system, for example, the imaging area is set so as to image the customer heading for the audience seat from the guidance waiting area near the entrance / exit of the store from the front. By detecting a person who behaves differently from the behavior of moving toward the audience and excluding that person from the analysis target, a person other than the customer such as a clerk is included in the analysis target, and the same customer is duplicated and analyzed. Avoid being included in.
しかしながら、特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物を分析対象から排除できるが、人物が所定の行動形態をとっているか否かを判定するためには、複雑な判断処理が必要であった。 However, in the configuration of Patent Document 1, when a person does not take a predetermined behavioral form, the person can be excluded from the analysis target, but in order to determine whether or not the person takes a predetermined behavioral form. , A complicated judgment process was required.
また、人物が所定の行動形態をとっていると判断できた場合でも、同じ人物が所用で店舗の出入口を2回以上往復すると、重複して集計してしまうことが考えられた。また特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物が分析対象の顧客であっても、分析対象から排除されてしまうことが考えられた。 In addition, even if it can be determined that the person is taking a predetermined action form, if the same person makes a round trip to the entrance / exit of the store twice or more for the purpose, it is considered that the totals are duplicated. Further, in the configuration of Patent Document 1, it is considered that if a person does not take a predetermined behavioral form, even if the person is a customer to be analyzed, the person is excluded from the analysis target.
本発明は、上述した従来の状況に鑑みて案出され、複雑な判断を行うことなく、同一の人物が重複して含まれないように効率的に統計処理できる顔認識システム、顔認識サーバ及び顔認識方法を提供することを目的とする。 The present invention has been devised in view of the above-mentioned conventional situations, and is a face recognition system, a face recognition server, and a face recognition server that can efficiently perform statistical processing so that the same person is not included in duplicate without making a complicated judgment. The purpose is to provide a face recognition method.
本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する、顔認識システムである。 The present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. A face recognition system that compares the extracted facial features with the facial features stored for a predetermined period of time, and discards the extracted facial features if the similarity is less than the predetermined value. be.
また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する、顔認識システムである。 Further, the present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount and the facial feature amount stored for the first predetermined period are compared, and the degree of similarity between them is less than the predetermined value, and the face stored for the first predetermined period. This is a face recognition system that discards the extracted facial features when the imaging time of the extracted facial features is stored before the second predetermined period from the shooting time of the extracted facial features. ..
また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値以上となる場合、前記抽出された顔の特徴量を保存する、顔認識システムである。 Further, the present invention is a face recognition system in which a camera device and a face recognition server are connected, and the face recognition server extracts a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount is compared with the facial feature amount stored for a predetermined period, and when the similarity between them is equal to or more than a predetermined value, the extracted facial feature amount is stored. It is a system.
また、本発明は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する、顔認識サーバである。 Further, the present invention is a face recognition server to which a camera device is connected, extracts a facial feature amount of a person appearing in video data captured by the camera device, and determines the extracted facial feature amount. It is a face recognition server that compares the facial features stored for a period of time and discards the extracted facial features if the similarity is less than a predetermined value.
また、本発明は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出し、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量との類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する、顔認識サーバである。 Further, the present invention is a face recognition server to which a camera device is connected, extracts a feature amount of a person's face appearing in video data captured by the camera device, and obtains the extracted face feature amount and the first. The degree of similarity with the facial feature amount stored for a predetermined period of 1 is less than a predetermined value, and the imaging time of the facial feature amount stored for the first predetermined period is the extracted facial feature amount. This is a face recognition server that discards the extracted facial features when the data is stored from the shooting time of the face to before the second predetermined period.
本開示は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するプロセッサ、を備える、顔認識サーバを提供する。 The present disclosure provides a face recognition server camera device is connected, the extracts Kaotoku symptoms of a person appearing in the video data taken by the camera device, the extracted Kaotoku symptoms amount and pre-fixed compares the similarity between the time stored Kaotoku symptom amount, if the similarity is less than a predetermined value, and stores the facial feature quantity the extracted and treated as a statistical object, the similarity When it is equal to or more than a predetermined value, the imaging time when the extracted face of the person is imaged is compared with the imaging time when the face whose similarity is determined to be equal to or greater than the predetermined value is imaged. If the imaging time at which the face determined to be equal to or greater than a predetermined value is captured is within a predetermined time range from the imaging time of the video data from which the facial feature amount has been extracted, the face is excluded from the target of the statistics and described as described above. When the imaging time at which the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics A face recognition server including a processor for statistical processing as a target is provided.
また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出する処理と、前記抽出された顔の特徴量と所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満となる場合、前記抽出された顔の特徴量を破棄する処理と、を実行する、顔認識方法である。 Further, the present invention is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected, and is a process for extracting a feature amount of a person's face appearing in video data captured by the camera device. , The process of comparing the extracted facial feature amount and the facial feature amount stored for a predetermined period, and discarding the extracted facial feature amount when the similarity between them is less than a predetermined value. Is a face recognition method.
また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔の特徴量を抽出する処理と、前記抽出された顔の特徴量と第1の所定期間保存された顔の特徴量とを比較し、これらの類似度が所定値未満であり、かつ、前記第1の所定期間保存された顔の特徴量の撮像時刻が、前記抽出された顔の特徴量の撮影時刻から第2の所定期間前までに保存された場合、前記抽出された顔の特徴量を破棄する処理と、を実行する、顔認識方法である。 Further, the present invention is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected, and is a process of extracting a feature amount of a person's face appearing in video data captured by the camera device. , The extracted facial feature amount and the facial feature amount stored for the first predetermined period are compared, and the degree of similarity between them is less than the predetermined value, and the face stored for the first predetermined period. When the imaging time of the feature amount of the extracted face is stored before the second predetermined period from the shooting time of the feature amount of the extracted face, the process of discarding the feature amount of the extracted face is executed. , Face recognition method.
また、本開示は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、前記類似度が所定値以上の場合、抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理する、顔認識方法を提供する。 The present disclosure provides a face recognition method in the face recognition system and the camera device and the face recognition server is connected, and extracts the Kaotoku symptoms of a person appearing in the video data taken by the camera device, wherein compared to pre and extracted Kaotoku symptoms amount the similarity between a certain period stored Kaotoku symptom amount, if the similarity is less than a predetermined value, and stores the facial feature quantity the extracted, When the similarity is processed as a target of statistics and the similarity is equal to or higher than a predetermined value, the imaging time at which the extracted face of the person is imaged and the imaging time at which the face judged to have the similarity is equal to or higher than the predetermined value are imaged. The imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted. In this case, the imaging time at which the face whose similarity is determined to be equal to or higher than the predetermined value is excluded from the subject of the statistics is the predetermined from the imaging time of the video data from which the facial feature amount is extracted. Provided is a face recognition method that statistically processes the subject of the statistics when it is not within the time range.
本発明によれば、複雑な判断を行うことなく同一の人物が重複して含まれないように統計処理できる。 According to the present invention, statistical processing can be performed so that the same person is not included in duplicate without making a complicated judgment.
以下、適宜図面を参照しながら、本発明に顔認識システム、顔認識サーバ及び顔認識方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。 Hereinafter, an embodiment (hereinafter, referred to as “the present embodiment”) in which the face recognition system, the face recognition server, and the face recognition method are specifically disclosed in the present invention will be described in detail with reference to the drawings as appropriate. However, more detailed explanation than necessary may be omitted. For example, detailed explanations of already well-known matters and duplicate explanations for substantially the same configuration may be omitted. This is to avoid unnecessary redundancy of the following description and to facilitate the understanding of those skilled in the art. It should be noted that the accompanying drawings and the following description are provided for those skilled in the art to fully understand the present disclosure, and are not intended to limit the subject matter described in the claims.
図1は、本実施形態の顔認識システム5の内部構成の一例を詳細に示すブロック図である。図1に示す顔認識システム5は、複数台のカメラ装置10、顔認識サーバ30及びユーザ端末60が接続された構成を有する。
FIG. 1 is a block diagram showing in detail an example of the internal configuration of the
各カメラ装置10は、予め設定された店舗内等の所定の場所を撮像領域として撮像する。各カメラ装置10は、撮像された映像に現れる、この撮像領域を通過する人物の顔を含む顔画像データを取得する。各カメラ装置10は、撮像部11、顔検出部12、顔切出し部13及び通信部14を有する。なお、本実施形態のカメラ装置10は、1台であってもよいし、複数台であってもよい。
Each
撮像部は、CCD(電荷結合素子:Charge Couples Device)イメージセンサやCMOS(相補性金属酸化膜半導体:Complementary Metal-Oxide Semiconductor)イメージセンサ等の撮像素子を有し、予め設定された撮像領域から入射する光を受光面に結像し、その光学像を電気信号に変換する。これにより、撮像領域の映像を表す映像データのフレームが得られる。 The image pickup unit has an image pickup device such as a CCD (Charge Couples Device) image sensor or a CMOS (Complementary Metal-Oxide Semiconductor) image sensor, and is incident from a preset imaging region. The light is imaged on the light receiving surface, and the optical image is converted into an electric signal. As a result, a frame of video data representing the video in the imaging region can be obtained.
顔検出部12は、撮像部11によって撮像された映像に含まれる顔を検出する。この顔検出処理は、例えば目、鼻、口等の顔のパーツを検出する方法、肌色を検出する方法、頭髪を検出する方法、首や肩などの部分を検出する方法等、公知の技術を用いて、顔を検出する処理である。また、顔検出処理方法として、統計的学習に基づくパターン認識技術を用いてもよい。
The face detection unit 12 detects a face included in the image captured by the
顔切出し部13は、顔検出部12によって検出された顔を含む顔画像データを、撮像部11によって撮像された映像のフレームから切り出す。切り出される顔画像データは、撮像された顔を含む程度の大きさを有する矩形の画像を含むデータである。顔検出部12及び顔切出し部13は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)等のプロセッサ16によって実行される機能である。プロセッサ16は、例えば内部メモリに記憶されたアプリケーションプログラムを実行することで、顔検出部12及び顔切出し部13の機能を実現する。
The
通信部14は、有線若しくは無線で顔認識サーバ30と接続され、顔切出し部13によって切り出された顔画像データを顔認識サーバ30に送信する。例えばカメラ装置10がネットワークカメラである場合、通信部14はIP(Internet Protocol)ネットワークを介して顔画像データを送信可能である。
The
顔認識サーバ30は、各カメラ装置10から受信した顔画像データに含まれる顔を予め登録された顔と照合して認識する。顔認識サーバ30は、通信部31、顔特徴量抽出部32、顔特徴量比較部33、撮像時刻比較部34、保存部35、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42を有する。
The
通信部31は、カメラ装置10から顔画像データを受信し、また、ユーザ端末60からの要求(例えば後述する検索要求)に応じて、当該要求に合致する検索結果(つまり、統計データ)をユーザ端末60に送信する。
The
特徴量抽出部の一例としての顔特徴量抽出部32は、通信部31が受信した顔画像データから顔の特徴量(以下、単に「顔特徴量」という)を抽出する。顔特徴量抽出処理は、公知の技術を用いて、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量を抽出する処理である。
The face feature
顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し、これらの類似度が所定値以上に高いか否かを判別する。また、これらの類似度が所定値以上に高くない場合(つまり、類似度が所定値未満である場合)、顔特徴量比較部33は、類似度が低いと判定する。なお、類似度が高いと判定する際の所定値(第1閾値)に対し、類似度が低いと判定する際の所定値(第2閾値)は、同じ値でもよいし、第1閾値より低い値であってもよい。
The face feature
顔特徴量メモリの一例としての事前通過比較元顔特徴量データメモリ41は、カメラ装置10から送られた顔画像データから、顔特徴量抽出部32によって抽出された顔特徴量が所定の保存条件を満たす場合に、この顔特徴量を、撮像領域を通過した人物の顔を含む顔画像データの特徴量として、一定期間において保存する。このとき、顔画像データの特徴量の他、撮像時刻や撮像領域(位置)の情報も付属情報として保存される。
As an example of the face feature amount memory, the pre-passing comparison source face feature
なお、一定期間の開始は、カメラ装置10によって画像データが撮像された撮像時刻であり、この撮像時刻は、例えば画像データのヘッダに含まれる。また、一定期間は、撮像領域の環境に合わせて、ユーザ端末60の操作に応じて任意に設定・変更可能である。例えば撮像領域がレストラン等の店舗内である場合、一定期間は一例として2時間に設定される。また、撮像領域がオフィスビル内である場合、一定期間は一例として6〜7時間に設定される。この一定期間は、顔認識サーバ30に事前に設定されてもよいし、管理者等のユーザがユーザ端末60を操作して顔認識サーバ30に対し一定期間の値を送信することで設定されてもよい。
The start of a certain period is the imaging time when the image data is captured by the
顔画像データメモリ42は、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の顔画像データを、顔特徴量と同様、一定期間、顔特徴量に紐付けて保存する。ここでは、一定期間が経過し、事前通過比較元顔特徴量データメモリ41に保存された顔特徴量が消去されると、顔画像データメモリ42に保存された、顔特徴量に対応する顔画像データも同時に消去されるが、画像データを消去することなく、より長い期間(例えば1年等)保存しておいてもよい。消去することなく、画像データを相当量蓄積しておくことで、ビッグデータとして活用することも可能になる。
The face
撮像時刻比較部34は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量との類似度が所定値(第1閾値)以上に高い場合、カメラ装置10から受信した顔画像データの撮像時刻を取得する。前述したように、撮像時刻は顔画像データのヘッダ情報に記述されている。
In the imaging
また、撮像時刻比較部34は、この登録された顔特徴量は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前までに、事前通過比較元顔特徴量データメモリ41に保存されたものであるか否かを判別する。所定時間は、後述する統計処理を行う際、同一の人物を重複して計数(ダブルカウント)しないようにするために設定される時間であり、撮像領域の環境に合わせて適正な値に設定される。例えば、事前通過比較元顔特徴量データメモリ41に顔特徴量を保存可能な一定期間が24時間である場合、所定時間はそれにより短い2時間等に設定される。なお、一定期間と所定時間とが同じ期間であってもよく、この場合、所定時間より前の顔特徴量は、事前通過比較元顔特徴量データメモリ41に存在しなくなるので、撮像時刻比較部34を省くことも可能である。
In addition, the imaging
保存部35は、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42に接続され、顔画像データの特徴量を事前通過比較元顔特徴量データメモリ41に保存し、この特徴量に対応する顔画像データを顔画像データメモリ42に保存する。なお、後述するように、顔特徴量を統計処理しない場合でも、この顔特徴量に対応する顔画像データが保存条件を満たす場合には、顔特徴量は保存される。
The
顔認識サーバ30は、更に、年齢性別判定部36、統計部37、保存部38、統計データ検索部39及び年齢性別統計データメモリ43を有する。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定する。推定される年齢は、ある程度の年齢幅で表現されてもよいし、代表値で表現されてもよい。
The
統計処理部の一例としての統計部37は、年齢及び性別を統計の対象とする統計処理を行う。この統計処理では、例えばカメラ装置10によって撮像された映像に含まれる顔の数が年齢及び性別毎に集計され、年齢性別統計データとして登録される。統計処理は、単に年齢及び性別毎に人数(顔の数)をカウントアップする以外に、全体の人数の中に占める各年齢層の比率や男女の比率等を算出する処理等を含めてもよい。その他、統計処理は、後述する検索条件(年月日、期間、場所、年齢、性別、カメラID等)のAND条件又はOR条件に従って、検索可能なように集計し、年齢性別統計データとしてもよい。なお、年齢性別統計データは、少なくとも年齢と性別とに分類された統計データであり、それ以外の要素で細分類されてもよい。保存部38は、年齢性別統計データメモリ43に接続され、統計部37で統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する。年齢性別統計データメモリ43は、年齢性別統計データを長期間に亘って保存し、統計データを利用する際に用いられる。
As an example of the statistical processing unit, the
統計データ検索部39は、ユーザ端末60からの要求に従って、所定の検索条件で年齢性別統計データメモリ43を検索し、この検索結果をユーザ端末60に返信する。
The statistical
ユーザ端末60は、顔認識サーバ30に対し、各種の設定や要求を行う汎用のコンピュータ装置であり、通信部61、制御部62、ディスプレイ63及び操作部64を有する。通信部61は、顔認識サーバ30と有線又は無線で接続され、通信可能である。例えば、通信部61は顔認識サーバ30とIPネットワークを介して接続される。
The
制御部62は、ユーザ端末60の動作を統括的に制御し、アプリケーションを実行し、顔認識サーバ30に対して、ユーザの入力操作に応じた検索処理を要求する。ディスプレイ63は各種の情報を表示し、後述する検索条件や検索結果等をUI画面に表示する。操作部64は、キーボードやマウス等であり、検索条件等、ユーザからの入力操作を受け付ける。
The
なお、ユーザ端末60が携帯可能なタブレット端末で構成される場合、操作部64はディスプレイ63とともにタッチパネルとして一体化されており、ディスプレイ63の画面に直接入力操作可能である。
When the
上記構成を有する顔認識システム5の動作を示す。
The operation of the
図2は、本実施形態の顔認識サーバ30における顔検出処理の動作手順の一例を説明するフローチャートである。顔認識サーバ30内の通信部31は、カメラ装置10から送られた顔画像データを受信する(S1)。
FIG. 2 is a flowchart illustrating an example of an operation procedure of the face detection process in the
顔特徴量抽出部32は、受信した顔画像データから顔特徴量を抽出する(S2)。顔特徴量として、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量が抽出される。顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し(S3)、これらの類似度が所定値(第1閾値)以上に高いか否かを判別する(S4)。
The face feature
類似度が所定値以上に高くない場合(つまり、類似度が低いと判断された場合)、保存部35は、顔特徴量抽出部32によって抽出された顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S7)。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定し、統計部37は、推定された、年齢及び性別を統計の対象とする統計処理を行う(S8)。この統計処理は、抽出された顔特徴量から推定される、人物の年齢及び性別毎に区分された年齢性別統計データのデータ数を値1増加(カウントアップ)させるように計数する。
When the degree of similarity is not higher than a predetermined value (that is, when it is determined that the degree of similarity is low), the
保存部38は、統計部37によって統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する(S9)。
The
一方、ステップS4で類似度が所定値(第1閾値)以上に高いと判断された場合、撮像時刻比較部34は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻と、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の撮像時刻とを比較し(S5)、事前通過比較元顔特徴量データメモリ41に保存された類似度の高い特徴量が、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前まで(所定時間の範囲内)に保存されたか否かを判別する(S6)。
On the other hand, when it is determined in step S4 that the similarity is higher than a predetermined value (first threshold value), the imaging
所定時間の範囲外である場合(S6,NO)、新たな顔画像データの顔特徴量であるとして、統計部37は、ステップS8において、前述した統計処理を行う。一方、ステップS6で所定時間の範囲内であると判断された場合(S6,YES)、統計部37は、抽出された顔特徴量が既に保存済みであると判断する。そして、統計部37は、この顔特徴量の顔画像データが保存条件を満たすか否かを判別する(S10)。保存条件を満たさない場合(S10,NO)、顔認識サーバ30は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存することなく廃棄する(S11)。一方、顔画像データが保存条件を満たす場合(S10,YES)、保存部35は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S12)。
When it is out of the range of the predetermined time (S6, NO), the
ここで、保存条件として、例えば最初の画像のみ保存することが設定されている場合、ステップS10で判断される顔画像データは最初の画像ではないので、これに対応する顔特徴量は保存されず、廃棄されることになる。また、顔画像データに含まれる顔の向きが正面で、かつ、顔が大きく映っていることが保存条件である場合、顔画像データがこの保存条件に該当しないと、これに対応する顔特徴量は廃棄される。また、全て保存することが保存条件である場合、画像データにかかわらず、顔特徴量は全て保存される。なお、この保存条件は、保存部35に事前に設定される他、動作の途中でユーザ端末60からの設定情報によって変更されてもよい。
Here, if, for example, it is set to save only the first image as a saving condition, the face image data determined in step S10 is not the first image, so the corresponding face feature amount is not saved. , Will be discarded. Further, when the storage condition is that the orientation of the face included in the face image data is front and the face is reflected in a large size, if the face image data does not correspond to this storage condition, the corresponding facial feature amount. Is discarded. Further, when it is a storage condition that all are saved, all the facial features are saved regardless of the image data. In addition to being set in advance in the
上記ステップS1〜S12までの処理で、年齢性別統計データ及び顔特徴量の保存が完了すると、統計データ検索部39は、ユーザ端末60からの要求を受け付け、この要求に従って、年齢性別統計データメモリ43に登録されている年齢性別統計データを検索し、該当する年齢性別統計データをユーザ端末60に返信する(S13)。この後、顔認識サーバ30は本動作を終了する。
When the storage of the age-gender statistical data and the facial feature amount is completed in the processes of steps S1 to S12, the statistical
ユーザ端末60は、顔認識サーバ30に対し年齢性別統計データを検索する要求を行い、この検索結果を顔認識サーバ30から受信する。図3はユーザ端末60のディスプレイ63に表示されるUI(ユーザインタェース)画面を示す図である。ディスプレイ63の画面の左側には、ユーザが年齢性別統計データメモリ43に登録されている年齢性別統計データを検索するための検索条件が表示されている。
The
ここでは、検索条件として、撮像した年月日、時間帯(期間)、場所、年齢、性別、カメラID等のキーワードを選択可能である。ユーザは、各検索項目の入力ボックスにチェックマークを入力することで、これらの検索項目を、事前に設定されたAND条件あるいはOR条件で検索可能である。 Here, as search conditions, keywords such as the date of imaging, the time zone (period), the place, the age, the gender, and the camera ID can be selected. The user can search for these search items under preset AND conditions or OR conditions by inputting a check mark in the input box of each search item.
ユーザ端末60は、ユーザが設定した検索条件を顔認識サーバ30に送信すると、統計データ検索部39は、この検索条件に従って年齢性別統計データメモリ43に登録されている年齢性別統計データを検索する。顔認識サーバ30は、検索条件に合致する人物の顔特徴量を、年齢性別統計データメモリ43から抽出し、また、顔画像データメモリ42に登録されている、この顔特徴量に紐付けられた顔画像データを顔画像データメモリ42から抽出する。顔認識サーバ30は、抽出した顔特徴量及び顔画像データをユーザ端末60に送信する。
When the
この結果、ユーザ端末60のディスプレイ63の画面の右側には、検索条件に合致する人物の顔特徴量及び顔画像データが表示される。ここでは、検索結果として、3名の人物の顔特徴量TK1,TK2,TK3及び顔画像データG1,G2,G3が表示されている。
As a result, on the right side of the screen of the
以上により、本実施形態の顔認識システム5では、顔認識サーバ30内の顔特徴量抽出部32は、カメラ装置10によって撮像領域に対して撮像された映像に現れる顔を含む顔画像データの顔特徴量を抽出する。保存部35は、撮像領域を通過した顔を含む顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値以上に類似度の高い顔特徴量が、カメラ装置10による撮像時刻より所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されていない場合、顔特徴量抽出部32により抽出された顔画像データの顔特徴量を統計処理する。
As described above, in the
これにより、顔認識サーバ30は、撮像時刻に近い時刻に保存された類似度の高い顔特徴量を同一の人物のものと判断し、この撮像時刻に得られた顔特徴量は統計処理されないので、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理できる。また、顔認識システム5では、カメラ装置10で映像フレームから切り出された顔画像データが顔認識サーバ30に伝送されるので、映像データを伝送する場合と比べ、データ伝送量を少なくすることができる。
As a result, the
また、類似度の高い顔特徴量が所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されている場合、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていないと、保存部35は、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を破棄する。これにより、不要な顔特徴量を省き、保存されるデータ量を削減できる。
Further, when the face feature amount having a high degree of similarity is stored in the pre-passing comparison source face feature
また、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていると、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。これにより、有効な顔特徴量のデータが増え、顔特徴量の類似度の判定精度が向上する。
Further, when the face image data captured by the
また、統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値(第2閾値)に達しない類似度の低い顔特徴量が、事前通過比較元顔特徴量データメモリ41に保存されている場合、顔特徴量抽出部32により抽出された顔像データの顔特徴量を統計処理する。これにより、初めての人物の顔を見逃すことなく、統計処理できる。
Further, the
また、所定時間は、レストランやビル内等、撮像領域の環境に合わせて設定可能である。これにより、撮像領域の環境によらず、同一の人物が重複して含まれないように統計処理できる。 In addition, the predetermined time can be set according to the environment of the imaging area such as in a restaurant or a building. As a result, statistical processing can be performed so that the same person is not included in duplicate regardless of the environment of the imaging region.
また、顔認識サーバ30は、ユーザ端末60(端末装置)からの要求に応じて、年齢性別統計データメモリ43に登録された年齢性別統計データ(統計処理された顔画像データの特徴量)を検索し、この検索結果をユーザ端末60に返信する。これにより、ユーザの利用に貢献でき、様々な活用が期待される。
Further, the
(本実施形態の変形例)
図4は、本実施形態の変形例の顔認識システム5Aの内部構成の一例を詳細に示すブロック図である。本実施形態と同一の構成要素については同一の符号を付すことで、その説明を省略する。本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは、上記した本記実施形態と異なり、撮像部11及び通信部14だけを有し、撮像部11で撮像された画像データを、通信部14によりそのまま顔認識サーバ30Aに送信するだけである。
(Modified example of this embodiment)
FIG. 4 is a block diagram showing in detail an example of the internal configuration of the
顔認識サーバ30Aは、上記本実施形態と異なり、プロセッサ40内に顔検出部52及び顔切出し部53を有する。顔検出部52は、カメラ装置10Aから送信された画像データ(映像)に対し、上記本実施形態の顔検出部12と同様、映像に含まれる顔を検出する。顔切出し部53は、上記本実施形態の顔切出し部13と同様、顔検出部52によって検出された顔を含む顔画像データを映像のフレームから切り出す。
Unlike the present embodiment, the
このように、本実施形態の変形例の顔認識システム5Aでは、顔認識サーバ30Aに負荷のかかる処理を効率的に集中させるので、カメラ装置10Aの負荷を軽減できる。このように、カメラ装置10Aは、撮像した画像データ(映像)を顔認識サーバ30に送信するだけであるので、簡易な構成で済み、例えば撮像領域にカメラ装置10Aが既設であっても利用可能である。また、本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは汎用のネットワークカメラでも利用可能である。
As described above, in the
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。 Although various embodiments have been described above with reference to the drawings, it goes without saying that the present invention is not limited to such examples. It is clear that a person skilled in the art can come up with various modifications or modifications within the scope of the claims, which naturally belong to the technical scope of the present invention. Understood.
本発明は、カメラ装置により撮像された映像を用いる際、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理でき、有用である。 INDUSTRIAL APPLICABILITY The present invention is useful because when using an image captured by a camera device, statistical processing can be efficiently performed so that the same person is not included in duplicate without making a complicated judgment.
5、5A 顔認識システム
10、10A カメラ装置
11 撮像部
12、52 顔検出部
13、53 顔切出し部
14 通信部
16、40、66 プロセッサ
30、30A 顔認識サーバ
31 通信部
32 顔特徴量抽出部
33 顔特徴量比較部
34 撮像時刻比較部
35、38 保存部
36 年齢性別判定部
37 統計部
39 統計データ検索部
41 事前通過比較元顔特徴量データメモリ
42 顔画像データメモリ
43 年齢性別統計データメモリ
60 ユーザ端末
61 通信部
62 制御部
63 ディスプレイ
64 操作部
TK1、TK2、TK3 顔特徴量
G1、G2、G3 顔画像データ
5, 5A
Claims (3)
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、
前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するプロセッサ、を備える、
顔認識サーバ。 A face recognition server to which a camera device is connected
Extracting Kaotoku symptoms of a person appearing in the video data taken by the camera device,
Compares the similarity between the Kaotoku symptom amount that has been stored for a period of time in advance and Kaotoku symptoms amount the extracted,
When the similarity is less than a predetermined value, the extracted facial feature amount is saved and processed as a statistical object.
When the similarity is equal to or greater than a predetermined value, the imaging time at which the extracted face of the person is imaged is compared with the imaging time at which the face determined to have the similarity is equal to or greater than the predetermined value.
When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Exclude from the target
When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. Equipped with a processor that performs statistical processing as an object of
Face recognition server.
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出し、
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較し、
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理し、
前記類似度が所定値以上の場合、抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外し、
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理する、
顔認識方法。 This is a face recognition method in a face recognition system in which a camera device and a face recognition server are connected.
Extracting Kaotoku symptoms of a person appearing in the video data taken by the camera device,
Compares the similarity between the Kaotoku symptom amount that has been stored for a period of time in advance and Kaotoku symptoms amount the extracted,
When the similarity is less than a predetermined value, the extracted facial feature amount is saved and processed as a statistical object.
When the similarity is equal to or greater than a predetermined value, the imaging time at which the extracted face of the person is imaged is compared with the imaging time at which the face determined to have the similarity is equal to or greater than the predetermined value.
When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Exclude from the target
When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. Statistical processing as the target of
Face recognition method.
前記カメラ装置により撮像された映像データに現れる人物の顔特徴量を抽出するステップと、A step of extracting the facial features of a person appearing in the video data captured by the camera device, and
前記抽出された顔特徴量と事前に一定期間保存された顔特徴量との類似度を比較するステップと、A step of comparing the degree of similarity between the extracted facial features and the facial features stored in advance for a certain period of time, and
前記類似度が所定値未満の場合、前記抽出された前記顔特徴量を保存して、統計の対象として処理するステップと、When the similarity is less than a predetermined value, the step of storing the extracted facial feature amount and processing it as an object of statistics, and
前記類似度が所定値以上の場合、前記抽出された前記人物の顔が撮像された撮像時刻と前記類似度が前記所定値以上と判断された顔が撮像された撮像時刻とを比較するステップと、When the similarity is equal to or greater than a predetermined value, a step of comparing the imaging time when the extracted face of the person is imaged and the imaging time when the face determined to have the similarity equal to or greater than the predetermined value is imaged. ,
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの撮像時刻から所定時間の範囲内である場合、前記統計の対象から外すステップと、When the imaging time when the face whose similarity is determined to be equal to or higher than the predetermined value is within a predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics Steps to exclude from the target and
前記類似度が前記所定値以上と判断された前記顔が撮像された前記撮像時刻が、前記顔特徴量が抽出された前記映像データの前記撮像時刻から前記所定時間の範囲内でない場合、前記統計の対象として統計処理するステップと、を実現させるための、When the imaging time of the face whose similarity is determined to be equal to or higher than the predetermined value is not within the predetermined time range from the imaging time of the video data from which the facial feature amount is extracted, the statistics. To realize the step of statistical processing as the target of
顔認識プログラム。Face recognition program.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019143929A JP6905653B2 (en) | 2015-06-15 | 2019-08-05 | Face recognition system, face recognition server and face recognition method |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015120455A JP6573311B2 (en) | 2015-06-15 | 2015-06-15 | Face recognition system, face recognition server, and face recognition method |
| JP2019143929A JP6905653B2 (en) | 2015-06-15 | 2019-08-05 | Face recognition system, face recognition server and face recognition method |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015120455A Division JP6573311B2 (en) | 2015-06-15 | 2015-06-15 | Face recognition system, face recognition server, and face recognition method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019215899A JP2019215899A (en) | 2019-12-19 |
| JP6905653B2 true JP6905653B2 (en) | 2021-07-21 |
Family
ID=68919638
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019143929A Expired - Fee Related JP6905653B2 (en) | 2015-06-15 | 2019-08-05 | Face recognition system, face recognition server and face recognition method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6905653B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7575770B2 (en) * | 2020-03-12 | 2024-10-30 | i-PRO株式会社 | Facial detection method, facial detection program, and server |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4645872B2 (en) * | 2000-11-29 | 2011-03-09 | オムロン株式会社 | Control device and authentication method |
| JP4753193B2 (en) * | 2008-07-31 | 2011-08-24 | 九州日本電気ソフトウェア株式会社 | Flow line management system and program |
-
2019
- 2019-08-05 JP JP2019143929A patent/JP6905653B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2019215899A (en) | 2019-12-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6573311B2 (en) | Face recognition system, face recognition server, and face recognition method | |
| JP6013241B2 (en) | Person recognition apparatus and method | |
| JP4241763B2 (en) | Person recognition apparatus and method | |
| CN109426785B (en) | Human body target identity recognition method and device | |
| US8938092B2 (en) | Image processing system, image capture apparatus, image processing apparatus, control method therefor, and program | |
| US12175761B2 (en) | Information processing apparatus, information processing method, and program | |
| CN107644190A (en) | Pedestrian's monitoring method and device | |
| JP2015097000A (en) | Image recognition device and data registration method to the same | |
| JP6568476B2 (en) | Information processing apparatus, information processing method, and program | |
| CN111626240B (en) | Face image recognition method, device and equipment and readable storage medium | |
| US12026225B2 (en) | Monitoring camera, part association method and program | |
| JP7435837B2 (en) | Information processing system, information processing device, information processing method, and program | |
| JP5618295B2 (en) | Authentication system and authentication reliability determination method | |
| WO2020115910A1 (en) | Information processing system, information processing device, information processing method, and program | |
| JP5423740B2 (en) | Video providing apparatus, video using apparatus, video providing system, video providing method, and computer program | |
| JP6905653B2 (en) | Face recognition system, face recognition server and face recognition method | |
| JP6180906B2 (en) | Face recognition gate system | |
| JP6815667B1 (en) | Information processing equipment, information processing methods, programs and camera systems | |
| JP7298729B2 (en) | Information processing system, information processing device, information processing method, and program | |
| JP6339708B2 (en) | Face recognition gate system, management device, and face recognition program | |
| JP6713153B1 (en) | Information processing apparatus, information processing method, program, and camera system | |
| CN114503152A (en) | Attribute determination device, attribute determination program, and attribute determination method | |
| WO2022079841A1 (en) | Group specifying device, group specifying method, and computer-readable recording medium | |
| CN116416569A (en) | Behavior recognition method, device, computer equipment and storage medium | |
| JP2021083071A (en) | Information processing device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190805 |
|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20191205 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200917 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200923 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201118 |
|
| TRDD | Decision of grant or rejection written | ||
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20201224 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210105 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210114 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6905653 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |