Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6915542B2 - 情報処理装置、通知システム、情報送信方法及びプログラム - Google Patents
[go: Go Back, main page]

JP6915542B2 - 情報処理装置、通知システム、情報送信方法及びプログラム - Google Patents

情報処理装置、通知システム、情報送信方法及びプログラム Download PDF

Info

Publication number
JP6915542B2
JP6915542B2 JP2017543185A JP2017543185A JP6915542B2 JP 6915542 B2 JP6915542 B2 JP 6915542B2 JP 2017543185 A JP2017543185 A JP 2017543185A JP 2017543185 A JP2017543185 A JP 2017543185A JP 6915542 B2 JP6915542 B2 JP 6915542B2
Authority
JP
Japan
Prior art keywords
image
information
unit
category
suspicious
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017543185A
Other languages
English (en)
Other versions
JPWO2017057135A1 (ja
Inventor
信一 阿南
信一 阿南
真 五十嵐
真 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2017057135A1 publication Critical patent/JPWO2017057135A1/ja
Priority to JP2021117397A priority Critical patent/JP7160154B2/ja
Application granted granted Critical
Publication of JP6915542B2 publication Critical patent/JP6915542B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/04Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using a single signalling line, e.g. in a closed loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Psychiatry (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Social Psychology (AREA)
  • Evolutionary Biology (AREA)
  • Alarm Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Emergency Alarm Devices (AREA)

Description

本発明は、情報処理装置、通知システム、情報送信方法及びプログラムに関する。
特許文献1には、機械学習のための学習画像の候補を表示し、学習画像として採用する画像をユーザが手動で選択する技術が記載されている。
特開2011−145791号公報
しかしながら、特許文献1に記載の技術では、画像に応じて適切な送信先を決定することはできない。具体的には、特許文献1には、学習画像として採用する画像を選択するための技術が記載されているものの、当該選択を行う者を複数の候補者の中から決定するための技術は記載されていない。
本発明は、上述の課題を解決することのできる情報処理装置、通知システム、情報送信方法及びプログラムを提供することを目的としている。
本発明の第1の態様によれば、情報処理装置は、画像から前記画像に含まれる対象を特定する特定部と、前記対象に関する情報を取得する情報取得部と、前記画像又は前記画像に関する情報の送信先を、前記特定部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部と、を備える。
本発明の第3の態様によれば、通知システムは、画像から前記画像に含まれる対象を特定し、前記対象に関する情報を出力する出力部を有する第1の情報処理装置と、前記画像又は前記画像に関する情報の送信先を、前記出力部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部を有する第2の情報処理装置と、を備える。
本発明の第4の態様によれば、情報送信方法は、情報処理装置が、画像から前記画像に含まれる対象を特定するステップと、前記情報処理装置が、前記対象に関する情報を取得する情報取得ステップと、前記情報処理装置が、前記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、を含む。
本発明の第5の態様によれば、プログラムは、情報処理装置に、画像から前記画像に含まれる対象を特定するステップと、前記画像に含まれる対象に関する情報を取得する情報取得ステップと、前記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、を実行させるためのプログラムである。
この発明によれば、画像に応じた適切な送信先を決定することができる。
本発明の一実施形態に係る通知システムの装置構成の例を示す構成図である。 同実施形態における学習装置の機能構成を示すブロック図である。 同実施形態における画像取得装置の機能構成を示すブロック図である。 同実施形態における不審検知装置の機能構成を示すブロック図である。 同実施形態における異常判定装置の機能構成を示すブロック図である。 同実施形態における不審検知装置の変形例の機能構成を示すブロック図である。 同実施形態における通知システムが行う処理例を示す第1のフローチャートである。 同実施形態における通知システムが行う処理例を示す第2のフローチャートである。 同実施形態における通知システムが行う処理例を示す第3のフローチャートである。 同実施形態における学習装置のハードウェア構成の例を示すブロック図である。 同実施形態における画像取得装置のハードウェア構成の例を示すブロック図である。 同実施形態における不審検知装置のハードウェア構成の例を示すブロック図である。 同実施形態における異常判定装置のハードウェア構成の例を示すブロック図である。 本発明に係る情報処理装置の最小構成を示すブロック図である。 本発明に係る判定装置の最小構成を示すブロック図である。 本発明に係る通知システムの最小構成を示すブロック図である。 同実施形態の情報処理装置が行う処理例を示すフローチャートである。 同実施形態の判定装置が行う処理例を示すフローチャートである。 同実施形態の通知システムが行う処理例を示すフローチャートである。
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本発明の一実施形態に係る通知システムの装置構成の例を示す構成図である。同図に示すように、通知システム1は、学習装置100と、画像取得装置200と、不審検知装置300と、異常判定装置400とを備える。画像取得装置200と不審検知装置300とは通信可能に接続されている。また、学習装置100と不審検知装置300と異常判定装置400とは、ネットワーク900を介して通信可能に接続されている。
通知システム1は、画像又は画像に関する情報の送信先(通知先)を、当該画像に含まれる対象に関する情報に応じて決定し、決定した送信先へ画像又は画像に関する情報を送信するシステムである。ここでいう対象は、画像認識の対象であり、人であってもよいし、物であってもよいし、組織であってもよい。
具体的には、通知システム1は、監視対象の店舗内の画像を撮影し、キャッシュ・レジスタや、POS(Point Of Sale)システムでの不正精算行為など、店舗内における異常発生の可能性を検知する。そして、通知システム1は、検知した異常に応じて異常発生の可能性の通知先を選択し、選択した通知先へ異常発生の可能性を通知する。例えば、通知システム1は、画像に含まれる人物に応じて、当該人物以外の人物に異常発生の可能性を通知する。画像に含まれる人物とは、画像に映っている人物である。
なお、以下では異常発生の可能性を不審とも称する。但し、後述するように、通知システム1を、店舗内の監視に限らずいろいろな用途に用いることができる。通知システム1を、人の転倒を検出、探し物の発見、迷子の発見に用いる場合など、通知システム1の用途によっては、通知システム1が検出する異常発生の可能性は、疑わしく思うという意味での「不審」には該当せず、通常と異なる可能性があることを意味する。
また、以下では通知システム1がモデルを用いて検出した画像を不審画像とも称する。但し、上記のように、通知システム1が検出する異常発生の可能性が不審に該当しない場合、通知システム1がモデルを用いて検出した画像は、不審な様子が映った画像という意味での「不審画像」には該当せず、通常と異なる可能性がある様子を映した画像である。
学習装置100は、不審検知のためのモデル(学習モデル)を生成する。学習装置100は、異常を分類したカテゴリ毎に、当該カテゴリに対応付けられた異常が発生した可能性の評価値を算出するためのモデルを生成する。
また、学習装置100は、通知先決定装置としても機能し、異常発生の可能性有りと判定された画像に基づいて、当該画像又は当該画像に関する情報の送信先を決定する。例えば、学習装置100は、異常発生の可能性有りと判定された画像に含まれる人物に応じて、当該人物以外の人物に、異常発生の可能性の通知先を決定し、通知を行う。学習装置100は、情報処理装置の例に該当する。
なお、学習装置100が、学習装置100自らは学習モデルを生成せず、通知システム1の外部の装置から学習モデルを取得するようにしてもよい。
また、学習装置100は、通報装置としても機能し、異常判定装置400から通報依頼を受信すると、所定の送信先に異常発生の通報を行う。例えば、異常判定装置400が、所定の送信先としての警察に異常発生の通報を行うようにしてもよいし、警備会社に異常発生の通報を行うようにしてもよい。
学習装置100は、例えばコンピュータを含んで構成される。
また、学習装置100は、クラウド側の装置として構成されている。具体的には、学習装置100が、異常判定装置400のユーザから見てネットワーク900内の装置として構成されている。但し、学習装置100が、エッジ側の装置として構成されていてもよい。
例えば、学習装置100と不審検知装置300とが、一体に構成されて監視対象の店舗内に設置されていてもよい。あるいは、学習装置100が、監視対象の店舗内に設置された不審検知装置300と同一のLAN(Local Area Network)上に設けられていてもよい。あるいは、学習装置100と不審検知装置300とが、一体に構成されてクラウド上に設置されていてもよい。あるいは、学習装置100が、クラウド上に設置された不審検知装置300と同一のLAN(Local Area Network)上に設けられていてもよい。
画像取得装置200は、監視対象の店舗内を撮影し、店舗内の画像を取得する。画像取得装置200が動画像を撮影するようにしてもよいし、静止画像を撮影するようにしてもよい。
不審検知装置300は、画像取得装置200が撮影した画像に対して不審検知処理を行う。すなわち、不審検知装置300は、画像取得装置200が撮影した画像に基づいて異常発生の可能性の有無を判定する。具体的には、不審検知装置300は、画像取得装置200が撮影した画像についてカテゴリ毎にスコアを算出する。カテゴリは、異常を分類して定められたカテゴリである。スコアは、カテゴリに分類された異常が発生した可能性を表す評価値である。そして、不審検知装置300は、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。
また、不審検知装置300は、画像蓄積装置としても機能し、画像取得装置200が撮影した画像を画像データにて蓄積する。不審検知装置300が、画像取得装置200が撮影した画像をそのまま蓄積するようにしてもよい。あるいは、不審検知装置300が、異常発生の可能性が判定された画像の前後一定時間分の画像を蓄積するようにしてもよい。不審検知装置300が、異常発生の可能性が判定された画像の前後一定時間分の画像を蓄積することで、画像蓄積装置としての不審検知装置300の記憶容量、及び、画像を検索する際の検索時間を低減させることができる。
不審検知装置300は、例えばコンピュータを含んで構成される。
また、不審検知装置300は、エッジ側の装置として構成されている。但し、不審検知装置300が、クラウド側の装置として構成されていてもよい。
検知システム1が備える不審検知装置300の数は、1つ以上であればよい。また、不審検知装置300の各々により処理される画像を取得する画像取得装置200の数は1つ以上であればよい。
異常判定装置400は、不審検知装置300が異常発生の可能性有りと判定した画像に基づいて、異常の有無の判定結果を取得する。具体的には、異常判定装置400は、不審検知装置300が異常発生の可能性有りと判定した画像を表示し、異常判定装置400のユーザによる異常の有無の判定結果を取得する。異常判定装置400では、店舗のマネージャ等の判定者は、不審検知装置300により判定された画像を含む通知画面を参照して、予め定義されているカテゴリの選択、または新たなカテゴリの作成といった操作により判定を行う。
但し、異常判定装置400が、異常発生の可能性有りと判定された画像に代えて、異常発生の可能性有りを示す情報を不審検知装置300から取得するようにしてもよい。あるいは、異常判定装置400が、異常発生の可能性有りと判定された画像に代えて、異常が発生した可能性場所及び時刻のうちいずれか、または両方を示す情報を取得するようにしてもよい。この場合、判定者は、例えば、異常が発生した可能性がある場所へ出向いて、あるいは異常が発生した可能性がある場所を撮影する監視カメラの画像を参照して、異常の有無を判定し、判定結果を異常判定装置400に入力する。
また、異常判定装置400は、通報依頼装置としても機能し、異常有りとの判定結果を取得した場合、学習装置100に通報を依頼する。
異常判定装置400は、例えばスマートフォン又は携帯電話機などの携帯通信端末装置を含んで構成される。例えば、店長又は副店長など異常有無の判定者が、携帯端末装置を異常判定装置400として用いて、当該携帯端末装置が表示する画面に異常(異常状況)が映っているか否かを判定し、判定結果を入力するユーザ操作を行う。異常判定装置400は判定装置の例に該当する。
異常判定装置400は、画像を表示して異常有無判定結果を取得可能な装置であればよい。例えば、異常判定装置400が、店長室に設置されたパソコン(Personal Computer;PC)を含んで構成されていてもよい。
ネットワーク900は、学習装置100と不審検知装置300との通信、及び、学習装置100と異常判定装置400との通信を仲介する。例えば、ネットワーク900は、インターネットと携帯電話網との組み合わせにて構成されている。ここでいう携帯電話網は、通信事業者がスマートフォン及び携帯電話機向けに提供する無線通信ネットワークである。但し、通知システム1を構成する装置間の通信形態は特定の通信形態に限定されない。例えば、ネットワーク900が、LANなど、インターネットや携帯電話網以外の通信ネットワークであってもよい。あるいは、学習装置100と、不審検知装置300と、異常判定装置400とが、通信ネットワークを介さずに直接通信するようにしてもよい。
なお、通知システム1の装置構成は、図1を参照して上述した構成に限らない。例えば、通知先決定装置及び通報装置の少なくとも何れかが独立の装置として構成されていてもよい。あるいは、通知先決定装置及び通報装置の少なくとも何れかの機能が、不審検知装置300又は異常判定装置400にて実現されていてもよい。また、画像蓄積装置が独立の装置として構成されていてもよい。あるいは、画像蓄積装置の機能が、画像取得装置200又は学習装置100にて実現されていてもよい。
図2は、学習装置100の機能構成を示すブロック図である。同図に示すように、学習装置100は、第一通信部110と、第一記憶部170と、第一制御部180とを備える。第一制御部180は、モデル生成部181と、カテゴリ調整部182と、送信先決定部183と、通報部184とを備える。
第一通信部110は、ネットワーク900を介して不審検知装置300及び異常判定装置400と通信を行う。第一通信部110は、モデル生成部181が生成する不審検知のためのモデルを、モデルデータとして不審検知装置300へ出力(送信)する。また、第一通信部110は、不審画像及びカテゴリ候補を不審検知装置300から取得(受信)する。不審画像は、異常発生の可能性有りと判定された画像である。カテゴリ候補は、不審画像に映っている可能性がある異常のカテゴリの候補である。そして、第一通信部110は、取得した不審画像及びカテゴリ候補を、送信先決定部183が送信先として決定した異常判定装置400に送信する。また、第一通信部110は、不審画像の送信要求を不審検知装置300に送信し、当該送信要求に応じて不審検知装置300が送信する画像データを受信する。また、第一通信部110は、異常の有無の判定結果を異常判定装置400から受信する。また、第一通信部110は、異常判定装置400からの通報依頼を受信し、当該通報依頼に基づく通報を、所定の送信先(通報先)に送信する。
第一記憶部170は、各種データを記憶する。第一記憶部170は、学習装置100が備える記憶デバイスを用いて実現される。
第一制御部180は、学習装置100の各部を制御して各種機能を実行する。第一制御部180は、例えば、学習装置100が備えるCPU(Central Processing Unit、中央処理装置)が、第一記憶部170からプログラムを読み出して実行することで実現される。
モデル生成部181は、画像を抽出するために用いられるモデルデータを機械学習によって生成する。具体的には、モデル生成部181は、不審検知装置300が不審検知処理に用いるモデルデータをカテゴリ毎に生成する。上述したように、不審検知装置300は、当該モデルデータが示すモデルを用いて、カテゴリ毎にスコアを算出し、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。
モデル生成部181は、異常発生の可能性有りと判定された不審画像のうち、当該異常が含まれる部分画像を用いてモデルデータの生成を行う。異常が含まれる部分画像とは、不審画像のうち当該異常が映っている部分の画像である。このように、モデル生成部181が、異常が含まれる部分画像を用いて学習を行うことで、モデル生成部181は、異常が含まれる画像の特徴をより正確に抽出することができる。この点で、モデル生成部181は、より高精度に学習を行うことができる。異常が含まれる部分画像の切出しは、後述する不審検知装置300の部分画像切出し部384が行う。
モデル生成部181が行う機械学習のアルゴリズムは、画像をカテゴリに分類できるアルゴリズムであればよく、いろいろなものを用いることができる。例えば、モデル生成部181が、サポート・ベクター・マシン(Support Vector Machine)又はニューラルネットワーク(Neural Network、例えば誤差逆伝播法(Backpropagation))など、公知の学習アルゴリズムを用いて機械学習を行うようにしてもよい。
カテゴリ調整部182は、異常を分類したカテゴリを、学習に必要な数の学習用データ(教師データ)が各カテゴリに含まれるように調整する。具体的には、あるカテゴリに含まれる学習用データの数が不足している場合、カテゴリ調整部182は、当該カテゴリと、当該カテゴリに類似するカテゴリとをサブカテゴリにして、これらのサブカテゴリを結合したカテゴリを生成する。すなわち、カテゴリ調整部182は、複数のカテゴリのうち当該カテゴリに該当する学習用データの数が所定数より少ない第1カテゴリを検出した場合、当該第1カテゴリと他のカテゴリとの類似度を算出し、類似度が高い1つ以上の第2カテゴリと第1カテゴリとを1つのカテゴリに纏める。
店舗での異常のカテゴリの例として、万引き、レジでの不正操作、及び、禁止エリアへの侵入を挙げることができる。万引きのサブカテゴリの例として、商品を鞄の中に入れる手口、及び、商品を服の中に隠す手口を挙げることができる。レジでの不正操作のサブカテゴリの例として、商品をレジに通さない手口、バーコードを隠して商品をレジにかざしたふりをする手口、同じパッケージを複数重ねてレジを通し、1つの商品のバーコードのみレジに読み取らせる手口を挙げることができる。禁止エリアへの侵入のサブカテゴリとして、棚の上に上る行為、及び、従業員室への進入を挙げることができる。
このようにカテゴリの結合を行うために、カテゴリ調整部182は、カテゴリの近似度の評価を行う。
具体的には、カテゴリ調整部182は、学習用データの画像に対し、全てのカテゴリについて、不審検知装置300によるスコア算出を適用する。そして、カテゴリ調整部182は、得られたスコアが閾値以上であったカテゴリと、学習用データのカテゴリとが近似していると評価する。
例えば、カテゴリA〜Eまである場合、カテゴリ調整部182は、カテゴリAの教師データの中からランダムに画像を選択する。そして、カテゴリ調整部182は、選択した画像を、第一通信部110を介して不審検知装置300に送信する。不審検知装置300は、カテゴリA〜Eの各々についてスコアを算出し、学習装置100に送信(回答)する。
例えば、各カテゴリのスコアが、カテゴリA:95%、カテゴリB:30%、カテゴリC:2%、カテゴリD:80%、カテゴリE:45%であり、閾値が70%であった場合、カテゴリ調整部182は、カテゴリAとカテゴリDとが近似していると評価する。
近似していると評価されたカテゴリは、学習用データの数が少ない場合にカテゴリを1つに纏める候補となる。例えば、カテゴリAとカテゴリDとを1つに纏める場合、カテゴリ調整部182は、カテゴリA及びカテゴリDをそれぞれサブカテゴリA及びサブカテゴリDとし、サブカテゴリAとサブカテゴリDとを纏めたカテゴリを新たなカテゴリFとする。
但し、カテゴリ調整部182がカテゴリの近似度を評価するアルゴリズムは、画像の近似度を算出可能なアルゴリズムであればよく、いろいろなものを用いることができる。画像の近似度は、例えば画像に含まれる行為や画像に映った行為の近似度である。カテゴリ調整部182がカテゴリの近似度を評価するアルゴリズムとして公知のアルゴリズムを用いるようにしてもよい。例えば、色特徴、テクスチャ、形状のいずれか又はこれらの組み合わせを特徴量として用いる類似画像検索方法を、カテゴリ調整部182がカテゴリの近似度を評価するアルゴリズムとして用いることができる。
また、1つのカテゴリが複数のサブカテゴリを含み、全てのサブカテゴリが学習に必要な数の学習用データを含んでいる場合、カテゴリ調整部182は、当該カテゴリをサブカテゴリに分割し、各サブカテゴリをカテゴリに昇格させる。すなわち、カテゴリ調整部182は、1つのカテゴリに纏められた複数のサブカテゴリの各々に該当する学習用データの数を計数し、何れのサブカテゴリも学習用データが所定数以上あると判定した場合、1つのカテゴリに纏められた複数のサブカテゴリを分割し、各サブカテゴリをカテゴリとする。
また、カテゴリ調整部182は、対象の行為のカテゴリ(異常を分類したカテゴリ)として設定されている複数のカテゴリのうち、不審画像に含まれる対象の行為に該当するカテゴリを示す情報と不審画像とを取得する。そして、カテゴリ調整部182は、当該画像と情報が示すカテゴリとを関連付ける。
送信先決定部183は、不審画像に基づいて、当該画像又は当該画像に関する情報の送信先を決定する。
例えば、送信先決定部183は、不審画像に含まれる人物に応じて、当該人物以外の人物に、異常発生の可能性の通知先を決定する。ここで、店舗内で不正行為が行われた場合、不正行為が行われた可能性があることを当該不正行為の当事者或いは仲間に通知しても、通知を受けた者は当該通知を無視する又は通知を受けたことをもみ消すと考えられる。これでは、不正行為が行われた可能性があることを通知しても、状況が改善されない可能性が高い。また、不審画像に含まれる人物は、不正行為の場に居た点で、不正行為の当事者又は仲間である可能性が比較的高い。
そこで、送信先決定部183は、不審画像に含まれる人物以外の人物に、異常発生の可能性の通知先を決定する。これにより、送信先決定部183は、不正行為の当事者又は仲間である可能性が比較的低い人物に通知を行うことができ、この点で、状況が改善される可能性を高めることができる。
例えば、送信先決定部183は、不審画像に店長が含まれている場合、副店長の異常判定装置を通知先に決定する。
なお、送信先決定部183が、不審画像に含まれる人物以外の人物に加えて、不審画像に含まれる人物を通知先に決定するようにしてもよい。不正行為の当事者又は仲間に通知することで警告の効果を期待でき、この点で、状況が改善される可能性がある。
送信先決定部183が、通知先(送信先)として、メールの送信先アドレスを決定するようにしてもよい。あるいは、送信先決定部183が、通知先として、通知先の異常判定装置400の識別情報を決定するようにしてもよい。例えば、異常判定装置400がスマートフォンまたは携帯電話機である場合、送信先決定部183が、通知先の異常判定装置400の電話番号またはIMSI(International Mobile Subscriber Identity)を通知先に決定するようにしてもよい。
なお、送信先決定部183が、不審画像に代えて、不審画像が撮影された時刻又は場所に関する情報に基づいて、不審画像又は不審画像に関する情報の送信先を決定するようにしてもよい。例えば、送信先決定部183が、不審画像が撮影された時刻と、従業員の勤務時間とに基づいて、画像が撮影された時間が勤務時間に該当しない従業員に送信先を決定するようにしてもよい。
送信先決定部183と第一通信部110とを組み合わせた送信部190は、通知先決定装置として機能する。具体的には、送信先決定部183が、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、第一通信部110が、画像又は画像に関する情報を当該送信先に送信する。送信部190は、上記のように、不審画像に含まれる人物に対応付けられた送信先と異なる送信先を、画像又は画像に関する情報の送信先に決定する。不審画像に含まれる人物は、後述する不審検知装置300の特定部382が特定した対象の例に該当する。
また、送信部190は、不審画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を送信する。所定時間範囲内に撮影された複数の画像は、例えば、不審画像と、その不審画像が撮影された時刻の前後に撮影された画像とが含まれる。あるいは、送信部190が、当該複数の画像に関する情報を送信するようにしてもよい。複数の画像に関する情報は、例えば、複数の画像を取得するためのアクセス先を示す情報である。
また、送信部190は、不審画像に加えて、当該画像に対応付けられたカテゴリを示す情報を送信する。不審画像に対応付けられたカテゴリを示す情報は、当該画像に含まれる以上の種類の候補を示す情報である。当該カテゴリを示す情報は、画像を抽出するために用いられた前記モデルデータに関する情報の例に該当する。
学習装置100は、送信部190を含む点で第2の情報処理装置の例に該当する。送信部190は、第2の情報処理装置の送信部の例に該当する。
通報部184は、異常判定装置400からの通報依頼に応じて、第一通信部110を介して所定の送信先に異常発生の通報を行う。このように、第一通信部110と通報部184との組み合わせにて、通報装置として機能する。
図3は、画像取得装置200の機能構成を示すブロック図である。同図に示すように、画像取得装置200は、画像取得部210と、画像出力部220とを備える。
画像取得部210はカメラを含んで構成され、監視対象の店舗内を撮影する。画像取得部210が、動画像を撮影するようにしてもよいし、静止画像を撮影するようにしてもよい。
画像出力部220は、画像取得部210が撮影した画像を画像データにて不審検知装置300へ出力(送信)する。
図4は、不審検知装置300の機能構成を示すブロック図である。同図に示すように、不審検知装置300は、第二通信部310と、第二記憶部370と、第二制御部380とを備える。第二記憶部370は、画像データ記憶部371を備える。第二制御部380は、画像管理部381と、特定部382と、画像抽出部383と、部分画像切出し部384とを備える。
第二通信部310は、画像取得装置200の画像出力部220と通信を行う。第二通信部310は、画像出力部220が送信する画像データを受信する。
また、第二通信部310は、ネットワーク900を介して学習装置100の第一通信部110と通信を行う。第二通信部310は、第一通信部110が送信するモデルデータを受信する。また、第二通信部310は、不審画像及びカテゴリ候補を第一通信部110に送信する。
また、第二通信部310は、第一通信部110からの画像送信要求を受信し、当該送信要求への応答としての画像データを送信する。画像送信要求は、不審画像の送信要求である。
第二記憶部370は、各種データを記憶する。第二記憶部370は、不審検知装置300が備える記憶デバイスを用いて実現される。
画像データ記憶部371は、画像取得部210が撮影した画像を画像データにて蓄積(記憶)する。
第二制御部380は、不審検知装置300の各部を制御して各種機能を実行する。第二制御部380は、例えば、不審検知装置300が備えるCPUが、第二記憶部370からプログラムを読み出して実行することで実現される。
画像管理部381は、画像データ記憶部371が記憶する画像データを管理する。画像管理部381は、画像取得部210が撮影した画像の画像データを第二通信部310が受信すると、当該画像データを画像データ記憶部371に記憶させる。また、画像管理部381は、学習装置100からの画像送信要求を第二通信部310が受信すると、画像データ記憶部371を検索して当該画像送信要求に応じた画像データを読み出し、第二通信部310を介して学習装置100へ送信する。
画像データ記憶部371と画像管理部381との組み合わせにて画像蓄積装置として機能する。
特定部382は、画像から対象を特定する。具体的には、特定部382は、画像に含まれている人物が、予め登録されている人物のいずれに該当するか、或いはいずれの人物にも該当しないかを判定する。
但し、特定部382が対象を特定する方法は、画像認識による方法に限らない。例えば、特定部382が、画像が撮影された時間と従業員の勤務時間とに基づいて、画像が撮影された時間が勤務時間に該当する従業員を特定するようにしてもよい。あるいは、特定部382が、画像を撮影した画像取得装置200の撮影範囲に基づいて、当該撮影範囲を含むエリアを担当する従業員を特定するようにしてもよい。
不審検知装置300は、特定部382および第二通信部310を含む点で第1の情報処理装置の例に該当する。特定部382と第二通信部310との組み合わせは、第1の情報処理装置の出力部の例に該当する。
画像抽出部383は、対象が含まれる画像を抽出する。具体的には、画像抽出部383は、モデル生成部181が機械学習によって生成したモデルデータを用いて、対象が含まれる画像を抽出する。さらに具体的には、画像取得装置200が撮影した画像についてカテゴリ毎にスコアを算出する。画像抽出部383は、当該カテゴリ毎のスコアの算出を、モデル生成部181がカテゴリ毎に生成したモデルデータを用いて行う。そして、画像抽出部383は、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。当該判定により、画像抽出部383は、画像取得部210が撮影した画像の中から特定の画像を抽出する。
さらに、画像抽出部383は、異常発生の可能性ありと判定した画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を、画像管理部381を介して画像データ記憶部371から読み出すことにより、当該画像の画像データを抽出する。画像抽出部383が、異常発生の可能性ありと判定した画像だけでなく、当該画像の撮影時刻を含む所定時間範囲内に撮影された画像も抽出することで、画像を参照するユーザは、画像に含まれる人物の行為を時系列で把握することができる。これにより、ユーザが、画像に含まれる人物の行為を把握し易くなる。
部分画像切出し部384は、不審画像のうち、モデルデータ生成に用いる対象の行為が示されている部分画像を切り出すことにより取得する。例えば、異常有無の判定者が、異常発生の可能性有りと判定された画像を異常判定装置400にて参照して異常有りと判定した場合、当該異常が映っている部分を指定する。そして、部分画像切出し部384は、判定者が指定した部分の部分画像を切り出す。
図5は、異常判定装置400の機能構成を示すブロック図である。同図に示すように、異常判定装置400は、第三通信部410と、表示部420と、操作入力部430と、第三記憶部470と、第三制御部480とを備える。第三制御部480は、異常判定部481を備える。異常判定部481は、行為有無判定結果取得部482と、カテゴリ判定結果取得部483とを備える。
第三通信部410は、ネットワーク900を介して第一通信部110と通信を行う。第三通信部410は、第一通信部110が送信する不審画像及びカテゴリ候補を受信する。また、第三通信部410は、異常の有無の判定結果を第一通信部110に送信する。異常有りと判定された場合、第三通信部410は、異常のカテゴリと、不審画像のうち異常が映っている部分を示す情報とを判定結果として送信する。モデル生成部181は、当該判定結果を学習用データとして用いて機械学習を行いモデルを生成する。
また、異常有りと判定された場合、第三通信部410は、異常の通報依頼を第一通信部110に送信する。
表示部420は、例えば液晶パネルなどの表示画面を有し、各種画像を表示する。表示部420は、不審画像又は不審画像に関する情報を表示する。例えば、表示部420が不審画像を表示するようにしてもよいし、不審画像を取得するためのアクセス先を表示するようにしてもよい。
操作入力部430は、例えば表示部420の表示画面に設けられてタッチパネルを構成するタッチセンサなどの入力デバイスを有し、ユーザ操作を受ける。操作入力部430は、不審画像における異常の有無の判定結果を示すユーザ操作を受ける。不審画像における異常の有無は、例えば、不正行為の有無である。また、不審画像に異常が映っている場合、操作入力部430は、当該異常が映っている部分を示すユーザ操作を受ける。
但し、異常判定装置400が、画像中に異常が映っている部分を検出する方法は、ユーザ操作を受ける方法に限らない。例えば、異常判定装置400が、前後に撮影された画像との背景差分に基づいて、変化のある部分を、異常が映っている部分として検出するようにしてもよい。或いは、異常判定装置400が、判定者の視線を検知し、判定者が注視している部分を、異常が映っている部分として検出するようにしてもよい。
第三記憶部470は、各種データを記憶する。第三記憶部470は、異常判定装置400が備える記憶デバイスを用いて実現される。
第三制御部480は、異常判定装置400の各部を制御して各種機能を実行する。第三制御部480は、例えば、異常判定装置400が備えるCPUが、第三記憶部470からプログラムを読み出して実行することで実現される。
異常判定部481は、判定部の例に該当し、不審画像又は不審画像に関する情報を判定する。具体的には、異常判定部481は、不審画像に異常が映っているか否かの判定を行う。
行為有無判定結果取得部482は、表示部420が表示した不審画像又は不審画像に関する情報が、機械学習の対象となる行為が行われたときの画像又は情報か否かの判定結果を取得する。具体的には、第三制御部480のユーザが操作入力部430にて判定結果の入力操作を行い、行為有無判定結果取得部482は、当該入力操作にて示される異常有無判定結果を取得する。
カテゴリ判定結果取得部483は、表示部420が表示した不審画像又は不審画像に関する情報が、機械学習の対象となる行為が行われたときの画像又は情報であると判定された場合、当該行為が該当するカテゴリの判定結果を取得する。具体的には、第三制御部480のユーザが、不審画像に示される画像が該当するカテゴリを判定して、操作入力部430にて判定結果の入力操作を行う。そして、カテゴリ判定結果取得部483は、当該入力操作にて示されるカテゴリ判定結果を取得する。
なお、学習装置100の第一通信部110は、情報取得部の例に該当する。例えば、第一通信部110は、不審検知装置300の特定部382が特定した人物を識別する識別情報を受信する。特定部382が特定した人物を識別する識別情報は、画像に含まれる対象に関する情報の例に該当する。
なお、学習装置100に代えて不審検知装置300が、不審画像又は不審画像に関する情報の送信先を決定するようにしてもよい。例えば、不審検知装置300が、送信先決定部を備えるようにしてもよい。不審検知装置300に備えられる送信決定部は、学習装置100に備えられる送信決定部183が行う処理と同様の処理を行う。この場合、不審検知装置300の送信先決定部は、特定部382から情報を取得する情報取得部の例に該当する。
図6は、不審検知装置300の変形例である不審検知装置301の機能構成を示すブロック図である。
同図に示すように、不審検知装置301は、第二通信部310と、第二記憶部370と、第二制御部380とを備える。第二記憶部370は、画像データ記憶部371を備える。第二制御部380は、画像管理部381と、特定部382と、画像抽出部383と、部分画像切出し部384と、送信先決定部385とを備える。
図6の各部のうち図4の各部と対応して同様の機能を有する部分には同一の符号(310、370、371、381、382、383、384)を付して説明する。不審検知装置301は、第二制御部380に代えて第二制御部390を備える点で図4に示した不審検知装置300と異なる。第二制御部390は、図4に示した第二制御部380が備える各部に加えてさらに送信先決定部385を備える点で第二制御部380と異なる。
送信先決定部385は、図2に示した送信先決定部183と同様、不審画像に基づいて、当該画像又は当該画像に関する情報の送信先を決定する。例えば、上述したように特定部382が画像から対象を特定し、送信先決定部385は、特定部382が特定した対象に基づいて、不審画像又は不審画像に関する情報の送信先を決定する。
なお、送信先決定部385が、不審画像に代えて、不審画像が撮影された時刻又は場所に関する情報に基づいて、不審画像又は不審画像に関する情報の送信先を決定するようにしてもよい点も、送信先決定部183の場合と同様である。
不審検知装置301は、情報処理装置の例に該当する。
なお、通知システム1の適用範囲は、店舗内の監視に限らない。得られた画像によって当該画像又は当該画像に関する情報の送信先を選択するいろいろな用途に通知システム1を用いることができる。
例えば、通知システム1が、人の転倒など特定の動作を検出するようにしてもよい。人の転倒を検出した場合、通知システム1が、転倒を検出したことを救護センターに通知するようにしてもよい。その場合、例えば情報取得部は画像に含まれる対象の情報として「人物の特徴量」及び「転倒」という情報のうち少なくともいずれかを取得する。そして送信部は、対象に関する情報である「人物の特徴量」及び「転倒」という情報のうち少なくともいずれかに応じて、救護センターに送信すると決定する。さらに、送信部は、救護センターに画像に関する情報として、人の転倒を撮影した画像や画像が撮影されたときの撮影時刻、画像の撮影場所を送信する。
あるいは、通知システム1が、探し物など特定の物を検出するようにしてもよい。探し物を検出(発見)した場合、通知システム1が、探し物を発見したことを、サービスカウンターなど探し物を取り扱う部門に通知するようにしてもよい。その場合、例えば情報取得部は画像に含まれる対象の情報として「探し物の特徴量」を取得する。そして、送信部は、対象に関する情報である「探し物の特徴量」に応じて、探し物を発見したことを、サービスカウンターなど探し物を取り扱う部門に送信すると決定する。さらに、送信部は、サービスカウンターなど探し物を取り扱う部門に、画像に関する情報として、撮影された探し物の画像やその撮影時間、撮影場所を送信する。「探し物の特徴量」は、例えば、画像取得装置200により取得された画像において、探し物の画像を用いたパターンマッチングを行うことにより取得される。
あるいは、通知システム1が、迷子など特定の人物を検出するようにしてもよい。迷子を検出(発見)した場合、通知システム1が、迷子を発見したことを、サービスカウンターなど迷子に応対する部門、又は、迷子の親に通知するようにしてもよい。その場合、例えば情報取得部は画像に含まれる対象の情報として「人物の特徴量」を取得する。そして、送信部は、対象に関する情報である「人物の特徴量」に応じて、迷子を発見したことを、サービスカウンターなど探し物を取り扱う部門に送信すると決定する。さらに、送信部は、サービスカウンターなど迷子を取り扱う部門又は迷子の親に、画像に関する情報として、撮影された迷子の画像やその撮影時間、撮影場所を送信する。「人物の特徴量」は、例えば、画像取得装置200により取得された画像において、人物の画像を用いたパターンマッチングを行うことにより取得される。
次に、図7〜図9を参照して通知システム1の動作について説明する。
図7〜図9は、通知システム1が行う処理例を示すフローチャートである。
同図のステップS101〜S151では、学習装置100が予めモデルを生成する。
まず、カテゴリ調整部182は、カテゴリを設定する(ステップS101)。例えば、通知システム1の管理者がカテゴリを設定するユーザ操作を行い、カテゴリ調整部182は、当該ユーザ操作に従ってカテゴリを設定する。
次に、モデル生成部181がモデルを生成する(ステップS102)。具体的には、モデル生成部181は、画像とカテゴリとが対応付けられた学習用データを用いて機械学習を行い、カテゴリ毎にモデルを生成する。
次に、カテゴリ調整部182は、カテゴリの近似度を評価する(ステップS103)。例えば、カテゴリ調整部182は、モデル生成部181が生成したカテゴリ毎のモデルからカテゴリ毎の特徴情報(例えば特長ベクトル)を抽出し、特徴情報の近似度を評価することでカテゴリの近似度を評価する。
そして、カテゴリ調整部182は、ステップS103で得られたカテゴリの近似度に基づいて、近似カテゴリの有無を判定する(ステップS104)。例えば、カテゴリ調整部182は、近似度が所定の閾値以上となっているカテゴリの組である近似カテゴリの有無を判定する。
近似カテゴリ有りと判定した場合(ステップS104:YES)、カテゴリ調整部182は、近似カテゴリのうち少なくとも1つの近似カテゴリに含まれる学習用データ数が不足しているか否かを判定する(ステップS111)。例えば、カテゴリ調整部182は、近似カテゴリの各々について学習用データ数が所定の閾値以上か否かを判定する。そして、学習用データ数が閾値未満のカテゴリを検出した場合、カテゴリ調整部182は、学習用データ数が不足していると判定する。一方、近似カテゴリに含まれる全てのカテゴリについて学習用データ数が閾値以上であると判定したい場合、カテゴリ調整部182は、カテゴリの学習に必要な学習用データが足りていると判定する。
学習用データ数が不足していると判定した場合(ステップS111:YES)、カテゴリ調整部182は、カテゴリの結合を行う(ステップS121)。具体的には、カテゴリ調整部182は、近似カテゴリと判定したカテゴリの各々をサブカテゴリとして、これらサブカテゴリを一纏めにしたカテゴリを生成する。
ステップS121の後、ステップS102へ戻る。
一方、ステップS104で、近似カテゴリ無しと判定した場合(ステップS104:NO)、カテゴリ調整部182は、サブカテゴリが結合されて構成されているカテゴリについて、各サブカテゴリの学習用データ数が十分存在するか否かを判定する(ステップS131)。具体的には、カテゴリ調整部182は、1つのカテゴリに含まれるサブカテゴリの各々について、学習用データ数が所定の閾値以上か否かを判定する。そして、全てのサブカテゴリについて学習用データ数が閾値以上であると判定した場合、カテゴリ調整部182は、学習用データ数が十分存在すると判定する。一方、いずれかのサブカテゴリについて学習用データ数が閾値未満であると判定した場合、カテゴリ調整部182は、学習用データ数が不足していると判定する。
また、ステップS111で、学習用データが足りていると判定した場合も(ステップS111:NO)、カテゴリ調整部182は、ステップS131へ進む。
ステップS131で、学習用データ数が十分存在すると判定した場合(ステップS131:YES)、カテゴリ調整部182は、当該カテゴリをサブカテゴリに分割し、各サブカテゴリをカテゴリに昇格させる(ステップS141)。
ステップS141の後、カテゴリ調整部182は、ステップS102へ戻る。
一方、ステップS131で学習用データ数が不足していると判定した場合(ステップS131:NO)、第一通信部110は、モデル生成部181が生成したモデルを不審検知装置300へ送信(出力)する(ステップS151)。なお、ステップS131で、サブカテゴリが結合されて構成されているカテゴリが存在しないと判定した場合も、カテゴリ調整部182は、ステップS151へ進む。
ステップS161〜S214では、画像取得装置200が画像を撮影し、不審検知装置300が当該画像について不審検知処理を行う。
まず、不審検知装置300の第二通信部310が、ステップS151で第一通信部110が送信したモデルデータを受信する(ステップS161)。
また、画像取得装置200の画像取得部210が、監視対象の店舗内を撮影する(ステップS201)。そして、画像出力部220が、ステップS201で得られた画像を画像データにて不審検知装置300へ送信(出力)する(ステップS202)。
不審検知装置300では、ステップS202で画像出力部220が送信した画像データを第二通信部310が受信する(ステップS211)。
次に、画像抽出部383が、ステップS211で得られた画像について異常発生の可能性の有無、すなわち不審の有無を判定する(ステップS212)。上述したように、画像抽出部383は、ステップS211で得られた画像についてカテゴリ毎にスコアを算出する。そして、画像抽出部383は、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。
なお、ステップS212で画像抽出部383が異常発生の可能性無しと判定した場合(ステップS212:NO)、通知システム1は、画像取得部210が撮影した当該画像に対する処理を終了する。この場合、画像取得装置200による次の撮影タイミングで、ステップS201から処理を再開する。
ステップS212で画像抽出部383が異常発生の可能性有りと判定した場合(ステップS212:YES)、画像抽出部383は、異常発生の可能性有りと判定した当該画像(不審画像)の撮影時刻を含む所定時間範囲内に撮影された複数の画像を抽出する(ステップS213)。具体的には、画像抽出部383は、不審画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を、画像管理部381を介して画像データ記憶部371から読み出す。
次に、第二通信部310は、異常発生の可能性有りと判定された不審画像及びカテゴリ候補を示す情報を学習装置100へ送信する(ステップS214)。具体的には、第二通信部310は、ステップS213で得られた複数の画像と、ステップS212でスコアが閾値以上と判定されたカテゴリを示す情報とを送信する。ステップS212で複数のカテゴリのスコアが閾値以上と判定された場合、第二通信部310が、スコアが閾値以上と判定された全てのカテゴリを示す情報を送信するようにしてもよい。あるいは、第二通信部310が、最もスコアの高かったカテゴリを示す情報を送信するなど、代表的な1つ以上のカテゴリを示す情報を送信するようにしてもよい。
さらに、特定部382が、不審画像に含まれる対象を特定し、第二通信部310は、特定部382による特定結果を示す情報をステップS214で送信する。例えば、特定部382は、不審画像に含まれる人物を検出し、検出した人物を特定する。そして、第二通信部310は、特定部382が特定した人物を識別する識別情報を学習装置100へ送信する。
あるいは、学習装置100が特定部382に相当する機能部を備えて対象の特定を行うようにしてもよい。
ステップS221〜S223では、学習装置100が、不審画像を含む複数の画像及びカテゴリ候補の送信先を決定し、決定した送信先に不審画像及びカテゴリの候補を示す情報を送信する。
具体的には、第一通信部110は、第二通信部310がステップS214で送信した情報を受信する(ステップS221)。
そして、送信先決定部183は、特定部382が特定した人物に基づいて、当該以外の人物を不審画像及びカテゴリ候補の送信先に決定する(ステップS222)。不審画像及びカテゴリ候補の送信先は、例えば、特定部382が特定した人物以外の人物が所持している異常判定装置400である。
そして、第一通信部110は、ステップS221で受信した不審画像を含む複数の画像及びカテゴリ候補を、ステップS222で送信先決定部183が決定した送信先に送信する(ステップS223)。
ステップS231〜S302では、異常判定装置400が、不審画像における異常の有無を判定する。
具体的には、第三通信部410は、ステップS223で第一通信部110が送信した不審画像を含む複数の画像及びカテゴリ候補を示す情報を受信する(ステップS231)。
そして、異常判定部481が、異常有無判定結果、及び、カテゴリ判定結果を取得する(ステップS301)。具体的には、上述したように、表示部420が不審画像を含む複数の画像を表示する。そして、行為有無判定結果取得部482は、ユーザ操作に基づいて異常有無判定結果を取得する。また、カテゴリ判定結果取得部483は、ユーザ操作に基づいてカテゴリ判定結果を取得する。
そして、第三通信部410は、ステップS301で得られた判定結果を学習装置100へ送信する(ステップS302)。具体的には、第三通信部410は、不審画像又は当該画像を示す識別情報と、不審画像が該当するカテゴリの判定結果とを学習装置100へ送信する。
さらに第三通信部410は、不審画像のうち異常が映っている部分を示す情報を、ステップS302で学習装置100へ送信する。
ステップS311〜S332では、学習装置100が、不審画像を取得して学習用データを生成する。
具体的には、第一通信部110は、ステップS302で第三通信部410が送信したデータを受信する(ステップS311)。
そして、第一通信部110は、ステップS311で得られた不審画像の識別情報と、不審画像のうち異常が映っている部分を示す情報とを含む不審画像要求を、第一制御部180の制御に従って不審検知装置300へ送信する(ステップS312)。
不審検知装置300では、第二通信部310が、学習装置100からの不審画像要求を受信し、画像管理部381は、不審画像要求に含まれる識別情報に基づいて画像データ記憶部371を検索して不審画像を取得する(ステップS321)。
そして、部分画像切出し部384は、不審画像から異常が映っている部分を切り出す(ステップS322)。具体的には、部分画像切出し部384は、異常が映っている部分を示す情報に基づいて、当該情報が示す部分の部分画像を、ステップS321で得られた不審画像から切り出す。
そして、第二通信部310は、部分画像切出し部384が切り出した部分画像を学習装置100へ送信する(ステップS323)。また、通知システム1が複数の画像取得装置200を備えている場合、第二通信部310は、不審画像を撮影した画像取得装置200を識別するカメラID(Identifier)を学習装置100へ送信する。
学習装置100では、第一通信部110が、ステップS322で第二通信部310が送信したデータを受信する(ステップS331)。
そして、モデル生成部181は、ステップS331で得られた部分画像と、ステップS311で得られたカテゴリ判定結果が示すカテゴリとを対応付けて(紐付けて)学習用データを生成する(ステップS332)。
モデル生成の処理については、モデル生成部181は、ステップS332の後、処理をステップS102へ戻す。
ステップS341〜S362では、異常判定装置400が学習装置100に通報を依頼し、学習装置100は、依頼に基づいて通報を行う。
具体的には、異常判定装置400の第三制御部480は、ステップS301での判定結果に基づいて処理の分岐を行う(ステップS341)。
ステップS301で判定結果が異常無しである場合(ステップS341:NO)、第三制御部480は、通報処理について図7〜図9の処理を終了する。
一方、ステップS301で判定結果が異常有りである場合(ステップS341:YES)、第三通信部410は、第三制御部480の制御に従って通報依頼を学習装置100へ送信する(ステップS351)。
ステップS351の後、異常判定装置400の第三制御部480は、通報処理について図7〜図9の処理を終了する。
一方、学習装置100では、第一通信部110が異常判定装置400からの通報依頼を受信する(ステップS361)。
そして、通報部184は、ステップS361で得られた通報依頼に基づいて、所定の通報先に通報を行う(ステップS362)。
ステップS362の後、学習装置100は、通報処理について図7〜図9の処理を終了する。
次に、図10〜図13を参照して、通知システム1に含まれる各装置のハードウェア構成例について説明する。
図10は、学習装置100のハードウェア構成の例を示すブロック図である。同図に示すように、学習装置100は、第一通信装置511と、第一記憶デバイス512と、第一CPU513とを備える。
第一通信装置511は、他の装置と通信を行う装置であり、第一通信部110を実現する。第一記憶デバイス512は、各種データを記憶するデバイスであり、第一記憶部170を実現する。第一CPU513は、プログラムを実行するデバイスである。第一CPU513は、第一記憶デバイス512からプログラムを読み出して実行することで、第一制御部180を実現する。
図11は、画像取得装置200のハードウェア構成の例を示すブロック図である。同図に示すように、画像取得装置200は、カメラ521と、第二通信装置522とを備える。
カメラ521は、撮影を行って画像データを出力する装置であり、画像取得部210を実現する。第二通信装置522は、他の装置と通信を行う装置であり、画像出力部220を実現する。
図12は、不審検知装置300のハードウェア構成の例を示すブロック図である。同図に示すように、不審検知装置300は、第三通信装置531と、第二記憶デバイス532と、第二CPU533とを備える。
第三通信装置531は、他の装置と通信を行う装置であり、第二通信部310を実現する。第二記憶デバイス532は、各種データを記憶するデバイスであり、第二記憶部370を実現する。第二CPU533は、プログラムを実行するデバイスである。第二CPU533は、第二記憶デバイス532からプログラムを読み出して実行することで、第二制御部380を実現する。
図13は、異常判定装置400のハードウェア構成の例を示すブロック図である。同図に示すように、異常判定装置400は、第四通信装置541と、表示装置542と、入力デバイス543と、第三記憶デバイス544と、第三CPU545とを備える。
第四通信装置541は、他の装置と通信を行う装置であり、第三通信部410を実現する。表示装置542は、表示画面を有して各種画像を表示する装置であり、表示部420を実現する。入力デバイス543は、例えば表示装置542の表示画面に設けられてタッチパネルを構成するタッチセンサなど、ユーザ操作を検出するデバイスであり、操作入力部430を実現する。第三記憶デバイス544は、各種データを記憶するデバイスであり、第三記憶部470を構成する。第三CPU545は、プログラムを実行するデバイスである。第三CPU545は、第三記憶デバイス544からプログラムを読み出して実行することで、第三制御部480を実現する。
以上のように、情報取得部は、画像に含まれる対象に関する情報を取得する。そして、送信部190は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する。
これにより、通知システム1(例えば、学習装置100)は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
また、特定部382は、不審画像から対象を特定する。そして、送信部190は、特定部が特定した対象に対応付けられた送信先と異なる送信先に、不審画像又は不審画像に関する情報の送信先を決定する。
これにより、通知システム1(例えば、学習装置100)は、不正行為の当事者又は仲間が画像に映っている場合に、当該当事者又は仲間以外の者を選択して情報を送信することができる。送信される情報は、例えば、異常発生の可能性を通知する情報である。これにより、異常状況が改善される可能性を高めることができる。
また、画像抽出部383は、不審画像を抽出する。そして、画像抽出部383は、不審画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を抽出する。
そして、送信部190は、不審画像又は不審画像に関する情報として、画像抽出部383によって抽出された複数の画像又は複数の画像に関する情報を送信する。
このように、画像抽出部383が複数の画像を抽出することで、当該画像を参照するユーザは、画像に含まれる人物の動作を把握し易くなる。
また、画像抽出部383は、機械学習によって生成されたモデルデータを用いて不審画像を抽出する。そして、送信部190は、不審画像を抽出するために用いられたモデルデータに関する情報を送信する。具体的には、送信部190は、不審画像が該当するカテゴリの候補を示す情報を送信する。
これにより、ユーザは、当該カテゴリの候補を参照して不審画像が該当するカテゴリを判定することができる。学習装置100は、当該カテゴリの判定結果を用いて学習用データを生成し、学習することができる。
また、部分画像切出し部384は、不審画像のうち、前記モデルデータ生成に用いる前記対象の行為が示されている部分画像を切り出す。
モデル生成部181は、当該部分画像を用いて学習を行うことで、異常を示す画像の特徴をより正確に把握することができ、より高精度に学習を行うことができる。
また、情報取得部は、不審画像に含まれる対象に関する情報として、対象の行為のカテゴリとして設定されている複数のカテゴリのうち、不審画像に含まれる前記対象の行為に該当する前記カテゴリを取得し、不審画像と該当するカテゴリとを関連付ける。
これにより、ユーザは、不審画像とカテゴリとを参照して異常の有無を判定することができ、この点で、ユーザは、より容易に異常の有無を判定することができる。
また、モデル生成部181は、機械学習によって、不審画像を抽出するために用いられるモデルデータを生成する。
そして、カテゴリ調整部182は、複数のカテゴリのうち当該カテゴリに該当する学習用データの数が所定数より少ない第1カテゴリを検出した場合、当該第1カテゴリと他のカテゴリとの類似度を算出し、類似度が高い1つ以上の第2カテゴリと前記第1カテゴリとを1つのカテゴリに纏める。
これにより、各カテゴリに含まれる学習用データの数を確保することができる。学習用データの数を確保することで、モデル生成部181が行う学習の精度を高めることができる。
また、カテゴリ調整部182は、1つのカテゴリに纏められた複数のサブカテゴリの各々について当該サブカテゴリに該当する学習用データの数を計数し、何れのサブカテゴリも学習用データが所定数以上あると判定した場合、纏められたカテゴリを複数のサブカテゴリに分割し、各サブカテゴリをカテゴリとする。
これにより、カテゴリを細分化することができ、モデル生成部181が行う学習の精度を高めることができる。
また、表示部420は、画像に含まれる対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し送信する情報処理装置から、画像又は画像に関する情報を取得し、画像又は画像に関する情報を表示する。そして、異常判定部481は、画像又は画像に関する情報を判定する。第三通信部410は、判定結果を機械学習の学習用データとして出力する。
これにより、機械学習を行う装置(学習装置100)は、当該学習用データを用いて学習精度を高めることができる。
また、行為有無判定結果取得部482は、表示部420が表示した画像又は画像に関する情報が、機械学習の対象となる行為が行われたときの画像又は情報か否かの判定結果を取得する。ここでいう、画像に関する情報は、例えば、画像が撮影された時刻、画像を撮影した画像取得装置200の位置情報、及び、画像に映っている対象のうちいずれか、或いはこれらの組み合わせであってもよい。画像に映っている対象は、例えば人、物または組織である。
また、カテゴリ判定結果取得部483は、表示部420が表示した画像又は画像に関する情報が、機械学習の対象となる行為が行われたときの画像又は情報であると判定された場合、当該行為が該当するカテゴリの判定結果を取得する。
これにより、機械学習を行う装置(学習装置100)は、機械学習の対象となる行為が映っている画像とカテゴリとが対応付けた学習用データを取得して学習を行うことができ、学習精度を高めることができる。
また、通知システム1では、上記のように、学習装置100が行う機械学習により、不審検知装置300が不審人物又は不審行動等を検知する。学習装置100は、不審検知装置300が不審人物又は不審行動等を検出した画像を、その前後一定時間の画像と共に、店舗のマネージャ等が所持する異常判定装置400に通知する。
学習装置100は、通知先を、あらかじめ設定された通知先のうち、不審行動と検知した画像に映りこんでいない人物への通知先に決定する。これにより、店舗マネージャ等の管理者権限を持つ人物自身が不正に関与していた場合に、通知のもみ消しや、通知に対して何も対応を行わずに放置することを防止することができる。
異常判定装置400では、店舗のマネージャ等の判定者は、通知画面を参照して、予め定義されているカテゴリの選択、または新たなカテゴリの作成といった操作により判定を行う。
判定者は、通知画面に表示される画像等を参照して異常の有無及び異常の種類を判定すればよく、学習装置100による学習を意識することなく操作を行うことができる。判定対象の異常は、例えば、不正行為や、転倒などの事故である。
なお、学習装置100が、通知を複数人に行い、複数人の判定結果による多数決等で判定精度を高めるようにしてもよい。
異常判定装置400は、判定者によって判定されたカテゴリと、学習装置100が異常判定装置400に通知した画像とを関連づけて、追加学習データとして学習装置100に登録する。その際、異常判定装置400は、判定者による画像の部分の指定操作、画像の背景差分、或いは判定者の視線検知などにより、画像のうち不審行動と判断できる部分のみを切り出して、追加学習データとして送信する。これによりデータ転送量の削減、学習時間の短縮、および学習モデルの精度向上が可能になる。
一方、学習装置100は、不審検知装置300が検出した不審画像の一部のみではなく、画像全体を異常判定装置400に送信する。これにより、不審検知装置300が検知した異常の可能性(不審)と別の異常がたまたま画像に映っていた場合に、判定者は、当該異常を発見して異常有りと判定することができる。例えば、不審検知装置300がレジでの不正操作の可能性有りと判定した画像に、たまたま、万引きの様子が映っていた場合、判定者は、カテゴリを万引きとして、万引きの様子が映っている部分を示すユーザ操作を行う。
これにより、学習装置100は、不審検知装置300が検知した異常の可能性と異なる異常を示す学習用データを取得することができ、当該異常を学習することができる。
ここで、機械学習では、十分な教師データ数がなければ認識精度が得られない。そのため、上記のように学習装置100のカテゴリ調整部182は、カテゴリ間の近似度をチェックし、一定以上の近似が認められるカテゴリを結合することで教師データ不足を補間し、認識精度を確保する。
また、カテゴリ調整部182は、通知システム1の運用にて、1つのカテゴリで十分な数が得られた場合は、似て非なるものとしてカテゴリを分ける。これにより、より詳細な検知及びカテゴリの分類を実現する。
このように、通知システム1では、ユーザが複雑なシステムを理解することなく追加学習を行えることで、検知精度が向上、及び、損害の予防が可能である。
また、サービス提供者は初期に最低限の学習を学習装置100に行わせれば、その後は学習メンテナンスの作業を行う必要がない。この点で、サービス提供者の作業コストを低減させることができる。
また、サービス提供者のメンテナンス作業者が介在しないため、作業者へのプライバシー漏洩のリスクが低減する。
ここで、不正監視の方法として、監視カメラシステムを用いて常時監視する方法や、監視カメラで常時撮影を行って録画データを確認ないし分析する方法が考えられる。しかしながら、これらの方法では、常時監視、又は、画像データの確認ないし分析に要する人的コストが非常に高くなってしまう可能性がある。これに対し、通知システム1では、店舗のマネージャ等の判定者は、不審検知装置300が不審画像を検知した場合のみ異常の有無を判定すればよい。この点で判定者の負担を軽減させることができる。
例えば、POSシステム(レジ)での不正操作として、商品を2つ重ねて1つの商品のバーコードのみをPOSシステムに読ませる、商品のバーコードをPOSシステムに通さない、バーコードを手で覆い隠すといった操作が挙げられる。さらには、新たな手口の不正操作が行われる可能性がある。
これに対し、学習装置100は、異常判定装置400から得られる学習用データを用いて、既存の手口の不正操作に加えて新たな手口の不正操作を学習することができる。これにより、通知システム1は、新たな手口の不正操作を検知することができる。
なお、不審検知装置300が不審有りと判定する閾値の値を低めに設定しておいてもよい。例えば、不審検知装置300が、いずれかのカテゴリとの類似度60%以上を示すスコアを算出した御場合に、不審画像として検出するようにしてもよい。
これにより、不審検知装置300が、新たな手口の不正操作が映った画像を不審画像として検出する可能性を高めることができる。
次に、図14〜図16を参照して本発明の最小構成について説明する。
図14は、本発明に係る情報処理装置の最小構成を示すブロック図である。同図に示す情報処理装置10は、情報取得部11と、送信部12とを備える。
情報取得部11は、画像に含まれる対象に関する情報を取得する。そして、送信部12は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する。
これにより、情報処理装置10は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
図15は、本発明に係る判定装置の最小構成を示すブロック図である。同図に示す判定装置20は、表示部21と、判定部22と、出力部23とを備える。
表示部21は、画像に含まれる対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し送信する情報処理装置から、画像又は画像に関する情報を取得し、画像又は画像に関する情報を表示する。そして、判定部22は、画像又は画像に関する情報を機械学習に用いるか否か判定する。出力部23は、判定結果を機械学習の学習用データとして出力する。
これにより、機械学習を行う装置は、当該学習用データを用いて学習精度を高めることができる。
図16は、本発明に係る通知システムの最小構成を示すブロック図である。同図に示す通知システム30は、第1の情報処理装置31と、第2の情報処理装置33とを備える。第1の情報処理装置31は、出力部32を備える。第2の情報処理装置33は、送信部34を備える。
第1の情報処理装置31の出力部32は、画像に含まれる対象に関する情報を出力する。第2の情報処理装置33の送信部34は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する。
これにより、第2の情報処理装置33(送信部34)は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
次に、図17〜図19を参照して、本発明の最小構成の動作について説明する。
図17は、情報処理装置10(図14)が行う処理の例を示すフローチャートである。同図に示す処理にて、情報取得部11は、画像に含まれる対象に関する情報を取得する情報取得ステップを実行する(ステップS411)。そして、送信部12は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する送信ステップを実行する(ステップS412)。
図18は、判定装置20(図15)が行う処理例を示すフローチャートである。同図に示す処理にて、表示部21は、画像に含まれる対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し送信する情報処理装置から、画像又は画像に関する情報を取得し、画像又は画像に関する情報を表示する表示ステップを実行する(ステップS421)。そして、判定部22は、画像又は画像に関する情報を判定する判定ステップを実行する(ステップS422)。出力部23は、判定結果を機械学習の学習用データとして出力する出力ステップを実行する(ステップS423)。
図19は、通知システム30(図16)が行う処理例を示すフローチャートである。同図に示す処理にて、第1の情報処理装置31の出力部32は、画像に含まれる対象に関する情報を出力する出力ステップを実行する(ステップS431)。第2の情報処理装置33の送信部34は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する送信ステップを実行する(ステップS432)。
なお、上述した実施形態における情報処理装置10、判定装置20、第1の情報処理装置31、第2の情報処理装置33、学習装置100、不審検知装置300、不審検知装置301及び異常判定装置400の全部又は一部の機能を、CPUがプログラムを読み出して実行することで実現することができる。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA(Field Programmable Gate Array)等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
本願は、2015年9月30日に、日本国に出願された特願2015−195218号に基づき優先権を主張し、その内容をここに援用する。
本発明は、画像に応じた適切な送信先を決定することが不可欠な用途にも適用できる。
1、30 通知システム
10 情報処理装置
11 情報取得部
12、34、190 送信部
20 判定装置
21、420 表示部
22 判定部
23、32 出力部
31 第1の情報処理装置
33 第2の情報処理装置
100 学習装置
110 第一通信部
170 第一記憶部
180 第一制御部
181 モデル生成部
182 カテゴリ調整部
183 送信先決定部
184 通報部
200 画像取得装置
210 画像取得部
220 画像出力部
300、301 不審検知装置
310 第二通信部
370 第二記憶部
371 画像データ記憶部
380、390 第二制御部
381 画像管理部
382 特定部
383 画像抽出部
384 部分画像切出し部
385 送信先決定部
400 異常判定装置
410 第三通信部
430 操作入力部
470 第三記憶部
480 第三制御部
481 異常判定部
482 行為有無判定結果取得部
483 カテゴリ判定結果取得部
511 第一通信装置
512 第一記憶デバイス
513 第一CPU
521 カメラ
522 第二通信装置
531 第三通信装置
532 第二記憶デバイス
533 第二CPU
541 第四通信装置
542 表示装置
543 入力デバイス
544 第三記憶デバイス
545 第三CPU
900 ネットワーク

Claims (12)

  1. 画像から前記画像に含まれる対象を特定する特定部と、
    前記対象に関する情報を取得する情報取得部と、
    記画像又は前記画像に関する情報の送信先を、前記特定部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部と、
    を備える情報処理装置。
  2. 前記対象が含まれる前記画像を抽出する画像抽出部を備え、
    前記画像抽出部は、前記対象が含まれる前記画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を抽出し、
    前記送信部は、前記画像又は前記画像に関する情報として、前記画像抽出部によって抽出された前記複数の画像又は前記複数の画像に関する情報を送信する
    請求項1に記載の情報処理装置。
  3. 前記画像抽出部は、機械学習によって生成されたモデルデータを用いて前記対象が含まれる前記画像を抽出し、
    前記送信部は、前記画像を抽出するために用いられた前記モデルデータに関する情報を前記画像又は前記画像に関する情報の送信先へ送信する
    請求項に記載の情報処理装置。
  4. 前記画像のうち、前記モデルデータの生成に用いる前記対象の行為が示されている部分画像を切り出す部分画像切出し部を備え、
    前記モデルデータは、前記部分画像切出し部によって切り出された部分画像に基づいて生成される
    請求項に記載の情報処理装置。
  5. 前記情報取得部は、前記画像に含まれる対象に関する情報として、前記対象の行為のカテゴリとして設定されている複数のカテゴリのうち、前記画像に含まれる前記対象の行為に該当する前記カテゴリを取得し、前記画像と該当するカテゴリとを関連付ける
    請求項1から4の何れか一項に記載の情報処理装置。
  6. 機械学習によって、前記画像を抽出するために用いられるモデルデータを生成するモデル生成部と、
    前記複数のカテゴリのうち当該カテゴリに該当する学習用データの数が所定数より少ない第1カテゴリを検出した場合、前記第1カテゴリと他のカテゴリとの類似度を算出し、類似度が閾値より高い1つ以上の第2カテゴリと前記第1カテゴリとを1つのカテゴリに纏めるカテゴリ調整部と、
    を備える請求項に記載の情報処理装置。
  7. 前記カテゴリ調整部は、1つのカテゴリに纏められた複数のサブカテゴリの各々に該当する学習用データの数を計数し、何れのサブカテゴリも学習用データが所定数以上あると判定した場合、纏められたカテゴリを前記複数のサブカテゴリに分割し、前記複数のサブカテゴリそれぞれをカテゴリとする、
    請求項に記載の情報処理装置。
  8. 画像から前記画像に含まれる対象を特定し、前記対象に関する情報を出力する出力部を有する第1の情報処理装置と、
    記画像又は前記画像に関する情報の送信先を、前記出力部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部を有する第2の情報処理装置と、
    を備える通知システム。
  9. 判定装置をさらに備え、
    前記判定装置は、
    前記第2の情報処理装置から、前記画像又は前記画像に関する情報を取得し、前記画像又は前記画像に関する情報を表示する表示部と、
    前記画像又は前記画像に関する情報を機械学習に用いるか否かを判定する判定部と、
    前記判定の結果を前記機械学習の学習用データとして出力する出力部と、
    を備える
    請求項8に記載の通知システム。
  10. 前記判定部は、
    前記表示部が表示した前記画像又は前記画像に関する情報が、前記機械学習の対象となる行為が行われたときの画像又は情報か否かの判定結果を取得する行為有無判定結果取得部と、
    前記表示部が表示した前記画像又は前記画像に関する情報が、前記機械学習の対象となる行為が行われたときの画像又は情報であると判定された場合、当該行為が該当するカテゴリの判定結果を取得するカテゴリ判定結果取得部と、
    を備える
    請求項9に記載の通知システム。
  11. 情報処理装置が、画像から前記画像に含まれる対象を特定するステップと、
    前記情報処理装置が、前記対象に関する情報を取得する情報取得ステップと、
    前記情報処理装置が、前記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、
    を含む情報送信方法。
  12. 情報処理装置に、
    画像から前記画像に含まれる対象を特定するステップと、
    前記対象に関する情報を取得する情報取得ステップと、
    記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、
    を実行させるためのプログラム。
JP2017543185A 2015-09-30 2016-09-21 情報処理装置、通知システム、情報送信方法及びプログラム Active JP6915542B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021117397A JP7160154B2 (ja) 2015-09-30 2021-07-15 システム、異常判定装置及び方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015195218 2015-09-30
JP2015195218 2015-09-30
PCT/JP2016/077859 WO2017057135A1 (ja) 2015-09-30 2016-09-21 情報処理装置、判定装置、通知システム、情報送信方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021117397A Division JP7160154B2 (ja) 2015-09-30 2021-07-15 システム、異常判定装置及び方法

Publications (2)

Publication Number Publication Date
JPWO2017057135A1 JPWO2017057135A1 (ja) 2018-08-30
JP6915542B2 true JP6915542B2 (ja) 2021-08-04

Family

ID=58423686

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017543185A Active JP6915542B2 (ja) 2015-09-30 2016-09-21 情報処理装置、通知システム、情報送信方法及びプログラム
JP2021117397A Active JP7160154B2 (ja) 2015-09-30 2021-07-15 システム、異常判定装置及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021117397A Active JP7160154B2 (ja) 2015-09-30 2021-07-15 システム、異常判定装置及び方法

Country Status (3)

Country Link
US (1) US10846537B2 (ja)
JP (2) JP6915542B2 (ja)
WO (1) WO2017057135A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6930126B2 (ja) * 2017-02-13 2021-09-01 日本電気株式会社 人物検出システム
WO2019102521A1 (ja) * 2017-11-21 2019-05-31 日本電気株式会社 監視システム、監視方法および監視用プログラム
US10706701B2 (en) * 2018-01-12 2020-07-07 Qognify Ltd. System and method for dynamically ordering video channels according to rank of abnormal detection
US11119716B2 (en) 2018-10-31 2021-09-14 Fanuc Corporation Display system, machine learning device, and display device
JP6912513B2 (ja) * 2018-10-31 2021-08-04 ファナック株式会社 表示システム、機械学習装置、及び表示装置
JP7198052B2 (ja) * 2018-11-09 2022-12-28 セコム株式会社 画像監視システム
JP7197334B2 (ja) * 2018-11-09 2022-12-27 セコム株式会社 画像監視システム
JP7161920B2 (ja) * 2018-11-09 2022-10-27 セコム株式会社 店舗装置
JP7220057B2 (ja) * 2018-11-09 2023-02-09 セコム株式会社 画像監視システム
JP7241522B2 (ja) * 2018-12-07 2023-03-17 株式会社クボタ 運転監視システム、運転監視方法、および制御プログラム
JP7302539B2 (ja) * 2019-03-27 2023-07-04 日本電気株式会社 処理装置、処理方法及びプログラム
JP7036082B2 (ja) * 2019-04-04 2022-03-15 セイコーエプソン株式会社 画像処理装置、機械学習装置、画像処理方法
JP7042508B2 (ja) * 2019-12-19 2022-03-28 ニューラルポケット株式会社 情報処理システム、情報処理装置、サーバ装置、プログラム、又は方法
JP7525220B2 (ja) * 2020-04-08 2024-07-30 日本電気通信システム株式会社 推定装置、学習装置、推定方法及びプログラム
JP7537736B2 (ja) * 2020-09-02 2024-08-21 株式会社寺岡精工 Posシステム
JP2022187508A (ja) * 2021-06-08 2022-12-20 株式会社三井E&Sマシナリー 情報処理システム、プログラム及び情報処理方法
US20240005664A1 (en) * 2022-07-01 2024-01-04 Robert Bosch Gmbh Reducing false alarms in video surveillance systems
JP7671402B1 (ja) * 2024-11-15 2025-05-01 株式会社トライアルカンパニー 情報共有装置及び情報共有システム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7319780B2 (en) * 2002-11-25 2008-01-15 Eastman Kodak Company Imaging method and system for health monitoring and personal security
JP2005044330A (ja) * 2003-07-24 2005-02-17 Univ Of California San Diego 弱仮説生成装置及び方法、学習装置及び方法、検出装置及び方法、表情学習装置及び方法、表情認識装置及び方法、並びにロボット装置
JP3681175B1 (ja) * 2004-08-05 2005-08-10 Sky株式会社 位置情報を利用した監視システム
JP2006148442A (ja) 2004-11-18 2006-06-08 Toshiba Corp 移動監視装置
JP4893161B2 (ja) * 2006-08-25 2012-03-07 パナソニック電工株式会社 警報システム
JP2008288870A (ja) 2007-05-17 2008-11-27 Toshiba Corp 映像監視システムおよび映像監視方法
CN101425066A (zh) * 2007-11-02 2009-05-06 日电(中国)有限公司 基于时序关系图的实体分类设备和方法
JP5276541B2 (ja) * 2009-07-27 2013-08-28 キヤノン株式会社 画像処理方法及び画像処理装置及びプログラム
JP5075924B2 (ja) 2010-01-13 2012-11-21 株式会社日立製作所 識別器学習画像生成プログラム、方法、及びシステム
US8805124B2 (en) * 2010-02-17 2014-08-12 Shutterfly, Inc. System and method for automatically creating a photo calendar
US8401282B2 (en) * 2010-03-26 2013-03-19 Mitsubishi Electric Research Laboratories, Inc. Method for training multi-class classifiers with active selection and binary feedback
JP5435740B2 (ja) 2010-11-12 2014-03-05 オムロン株式会社 監視システム、および監視サーバ
JP2012128638A (ja) * 2010-12-15 2012-07-05 Canon Inc 画像処理装置、位置合わせ方法及びプログラム
JP5524102B2 (ja) * 2011-02-03 2014-06-18 株式会社東芝 手書き単語認識装置および手書き単語認識用モデル学習装置
BR112015000983A2 (pt) * 2012-07-17 2017-06-27 Nissan Motor sistema de assistência de condução e método de assistência de condução
US9762865B2 (en) * 2013-03-15 2017-09-12 James Carey Video identification and analytical recognition system
US10275657B2 (en) 2013-06-28 2019-04-30 Nec Corporation Video surveillance system, video processing apparatus, video processing method, and video processing program
US9465857B1 (en) * 2013-09-26 2016-10-11 Groupon, Inc. Dynamic clustering for streaming data
US10019657B2 (en) * 2015-05-28 2018-07-10 Adobe Systems Incorporated Joint depth estimation and semantic segmentation from a single image
US10783535B2 (en) * 2016-05-16 2020-09-22 Cerebri AI Inc. Business artificial intelligence management engine
EP3611472B1 (en) * 2016-06-27 2021-11-24 Mobileye Vision Technologies Ltd. Controlling host vehicle based on detected parked vehicle characteristics

Also Published As

Publication number Publication date
JP7160154B2 (ja) 2022-10-25
WO2017057135A1 (ja) 2017-04-06
JPWO2017057135A1 (ja) 2018-08-30
US10846537B2 (en) 2020-11-24
US20180268224A1 (en) 2018-09-20
JP2021182413A (ja) 2021-11-25

Similar Documents

Publication Publication Date Title
JP6915542B2 (ja) 情報処理装置、通知システム、情報送信方法及びプログラム
US11176383B2 (en) Hazard detection through computer vision
US10878419B2 (en) Payment system, payment apparatus, program, and payment method
US20170300990A1 (en) Service monitoring system and service monitoring method
US20230410519A1 (en) Suspicious person alarm notification system and suspicious person alarm notification method
US20190327451A1 (en) Video image analysis apparatus and video image analysis method
JP2018147160A (ja) 情報処理装置、情報処理方法及びプログラム
JP2015130155A (ja) 防犯システム
JP6795667B1 (ja) ネットワークシステム、不審者検知装置、および不審者検知方法
US20250240388A1 (en) Asset tracking and notification processing
JP2022003526A (ja) 情報処理装置、検出システム、情報処理方法、及びプログラム
JP2015002477A (ja) 情報処理装置、情報処理システムおよび情報処理方法
US20200084416A1 (en) Information processing apparatus, control method, and program
KR101957677B1 (ko) 얼굴인식을 통한 학습형 실시간 안내 시스템 및 그 안내 방법
US20250054300A1 (en) Real-time risk tracking
WO2020195732A1 (ja) 画像処理装置、画像処理方法、およびプログラムが格納された記録媒体
US11238554B2 (en) Frictionless security monitoring and management
US20210287539A1 (en) Operator Behavior Monitoring System
JP7145622B2 (ja) 情報処理装置、情報処理装置の制御方法、被写体検出システム、及び、プログラム
JP5202419B2 (ja) 警備システムおよび警備方法
TW201942849A (zh) 交易行為偵測系統及其方法
US20240078783A1 (en) Image processing system, image processing method, and non-transitory computer-readable storage medium
JP3212615U (ja) 特定者表示システム
JP6613502B1 (ja) 顔認識による来店者検証システム及び顔認識による来店者検証プログラム
JP2019133431A (ja) 情報処理方法、情報処理装置、および情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210628

R150 Certificate of patent or registration of utility model

Ref document number: 6915542

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150