JP6915542B2 - 情報処理装置、通知システム、情報送信方法及びプログラム - Google Patents
情報処理装置、通知システム、情報送信方法及びプログラム Download PDFInfo
- Publication number
- JP6915542B2 JP6915542B2 JP2017543185A JP2017543185A JP6915542B2 JP 6915542 B2 JP6915542 B2 JP 6915542B2 JP 2017543185 A JP2017543185 A JP 2017543185A JP 2017543185 A JP2017543185 A JP 2017543185A JP 6915542 B2 JP6915542 B2 JP 6915542B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- unit
- category
- suspicious
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/19613—Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING SYSTEMS, e.g. PERSONAL CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
- G08B25/01—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
- G08B25/04—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using a single signalling line, e.g. in a closed loop
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Psychiatry (AREA)
- Bioinformatics & Computational Biology (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Social Psychology (AREA)
- Evolutionary Biology (AREA)
- Alarm Systems (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
- Burglar Alarm Systems (AREA)
- Emergency Alarm Devices (AREA)
Description
図1は、本発明の一実施形態に係る通知システムの装置構成の例を示す構成図である。同図に示すように、通知システム1は、学習装置100と、画像取得装置200と、不審検知装置300と、異常判定装置400とを備える。画像取得装置200と不審検知装置300とは通信可能に接続されている。また、学習装置100と不審検知装置300と異常判定装置400とは、ネットワーク900を介して通信可能に接続されている。
具体的には、通知システム1は、監視対象の店舗内の画像を撮影し、キャッシュ・レジスタや、POS(Point Of Sale)システムでの不正精算行為など、店舗内における異常発生の可能性を検知する。そして、通知システム1は、検知した異常に応じて異常発生の可能性の通知先を選択し、選択した通知先へ異常発生の可能性を通知する。例えば、通知システム1は、画像に含まれる人物に応じて、当該人物以外の人物に異常発生の可能性を通知する。画像に含まれる人物とは、画像に映っている人物である。
また、以下では通知システム1がモデルを用いて検出した画像を不審画像とも称する。但し、上記のように、通知システム1が検出する異常発生の可能性が不審に該当しない場合、通知システム1がモデルを用いて検出した画像は、不審な様子が映った画像という意味での「不審画像」には該当せず、通常と異なる可能性がある様子を映した画像である。
また、学習装置100は、通知先決定装置としても機能し、異常発生の可能性有りと判定された画像に基づいて、当該画像又は当該画像に関する情報の送信先を決定する。例えば、学習装置100は、異常発生の可能性有りと判定された画像に含まれる人物に応じて、当該人物以外の人物に、異常発生の可能性の通知先を決定し、通知を行う。学習装置100は、情報処理装置の例に該当する。
なお、学習装置100が、学習装置100自らは学習モデルを生成せず、通知システム1の外部の装置から学習モデルを取得するようにしてもよい。
学習装置100は、例えばコンピュータを含んで構成される。
また、学習装置100は、クラウド側の装置として構成されている。具体的には、学習装置100が、異常判定装置400のユーザから見てネットワーク900内の装置として構成されている。但し、学習装置100が、エッジ側の装置として構成されていてもよい。
不審検知装置300は、画像取得装置200が撮影した画像に対して不審検知処理を行う。すなわち、不審検知装置300は、画像取得装置200が撮影した画像に基づいて異常発生の可能性の有無を判定する。具体的には、不審検知装置300は、画像取得装置200が撮影した画像についてカテゴリ毎にスコアを算出する。カテゴリは、異常を分類して定められたカテゴリである。スコアは、カテゴリに分類された異常が発生した可能性を表す評価値である。そして、不審検知装置300は、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。
不審検知装置300は、例えばコンピュータを含んで構成される。
また、不審検知装置300は、エッジ側の装置として構成されている。但し、不審検知装置300が、クラウド側の装置として構成されていてもよい。
検知システム1が備える不審検知装置300の数は、1つ以上であればよい。また、不審検知装置300の各々により処理される画像を取得する画像取得装置200の数は1つ以上であればよい。
また、異常判定装置400は、通報依頼装置としても機能し、異常有りとの判定結果を取得した場合、学習装置100に通報を依頼する。
異常判定装置400は、画像を表示して異常有無判定結果を取得可能な装置であればよい。例えば、異常判定装置400が、店長室に設置されたパソコン(Personal Computer;PC)を含んで構成されていてもよい。
第一制御部180は、学習装置100の各部を制御して各種機能を実行する。第一制御部180は、例えば、学習装置100が備えるCPU(Central Processing Unit、中央処理装置)が、第一記憶部170からプログラムを読み出して実行することで実現される。
具体的には、カテゴリ調整部182は、学習用データの画像に対し、全てのカテゴリについて、不審検知装置300によるスコア算出を適用する。そして、カテゴリ調整部182は、得られたスコアが閾値以上であったカテゴリと、学習用データのカテゴリとが近似していると評価する。
例えば、各カテゴリのスコアが、カテゴリA:95%、カテゴリB:30%、カテゴリC:2%、カテゴリD:80%、カテゴリE:45%であり、閾値が70%であった場合、カテゴリ調整部182は、カテゴリAとカテゴリDとが近似していると評価する。
例えば、送信先決定部183は、不審画像に含まれる人物に応じて、当該人物以外の人物に、異常発生の可能性の通知先を決定する。ここで、店舗内で不正行為が行われた場合、不正行為が行われた可能性があることを当該不正行為の当事者或いは仲間に通知しても、通知を受けた者は当該通知を無視する又は通知を受けたことをもみ消すと考えられる。これでは、不正行為が行われた可能性があることを通知しても、状況が改善されない可能性が高い。また、不審画像に含まれる人物は、不正行為の場に居た点で、不正行為の当事者又は仲間である可能性が比較的高い。
なお、送信先決定部183が、不審画像に含まれる人物以外の人物に加えて、不審画像に含まれる人物を通知先に決定するようにしてもよい。不正行為の当事者又は仲間に通知することで警告の効果を期待でき、この点で、状況が改善される可能性がある。
学習装置100は、送信部190を含む点で第2の情報処理装置の例に該当する。送信部190は、第2の情報処理装置の送信部の例に該当する。
通報部184は、異常判定装置400からの通報依頼に応じて、第一通信部110を介して所定の送信先に異常発生の通報を行う。このように、第一通信部110と通報部184との組み合わせにて、通報装置として機能する。
画像取得部210はカメラを含んで構成され、監視対象の店舗内を撮影する。画像取得部210が、動画像を撮影するようにしてもよいし、静止画像を撮影するようにしてもよい。
画像出力部220は、画像取得部210が撮影した画像を画像データにて不審検知装置300へ出力(送信)する。
また、第二通信部310は、ネットワーク900を介して学習装置100の第一通信部110と通信を行う。第二通信部310は、第一通信部110が送信するモデルデータを受信する。また、第二通信部310は、不審画像及びカテゴリ候補を第一通信部110に送信する。
また、第二通信部310は、第一通信部110からの画像送信要求を受信し、当該送信要求への応答としての画像データを送信する。画像送信要求は、不審画像の送信要求である。
画像データ記憶部371は、画像取得部210が撮影した画像を画像データにて蓄積(記憶)する。
第二制御部380は、不審検知装置300の各部を制御して各種機能を実行する。第二制御部380は、例えば、不審検知装置300が備えるCPUが、第二記憶部370からプログラムを読み出して実行することで実現される。
画像データ記憶部371と画像管理部381との組み合わせにて画像蓄積装置として機能する。
但し、特定部382が対象を特定する方法は、画像認識による方法に限らない。例えば、特定部382が、画像が撮影された時間と従業員の勤務時間とに基づいて、画像が撮影された時間が勤務時間に該当する従業員を特定するようにしてもよい。あるいは、特定部382が、画像を撮影した画像取得装置200の撮影範囲に基づいて、当該撮影範囲を含むエリアを担当する従業員を特定するようにしてもよい。
不審検知装置300は、特定部382および第二通信部310を含む点で第1の情報処理装置の例に該当する。特定部382と第二通信部310との組み合わせは、第1の情報処理装置の出力部の例に該当する。
また、異常有りと判定された場合、第三通信部410は、異常の通報依頼を第一通信部110に送信する。
操作入力部430は、例えば表示部420の表示画面に設けられてタッチパネルを構成するタッチセンサなどの入力デバイスを有し、ユーザ操作を受ける。操作入力部430は、不審画像における異常の有無の判定結果を示すユーザ操作を受ける。不審画像における異常の有無は、例えば、不正行為の有無である。また、不審画像に異常が映っている場合、操作入力部430は、当該異常が映っている部分を示すユーザ操作を受ける。
第三制御部480は、異常判定装置400の各部を制御して各種機能を実行する。第三制御部480は、例えば、異常判定装置400が備えるCPUが、第三記憶部470からプログラムを読み出して実行することで実現される。
行為有無判定結果取得部482は、表示部420が表示した不審画像又は不審画像に関する情報が、機械学習の対象となる行為が行われたときの画像又は情報か否かの判定結果を取得する。具体的には、第三制御部480のユーザが操作入力部430にて判定結果の入力操作を行い、行為有無判定結果取得部482は、当該入力操作にて示される異常有無判定結果を取得する。
なお、学習装置100に代えて不審検知装置300が、不審画像又は不審画像に関する情報の送信先を決定するようにしてもよい。例えば、不審検知装置300が、送信先決定部を備えるようにしてもよい。不審検知装置300に備えられる送信決定部は、学習装置100に備えられる送信決定部183が行う処理と同様の処理を行う。この場合、不審検知装置300の送信先決定部は、特定部382から情報を取得する情報取得部の例に該当する。
同図に示すように、不審検知装置301は、第二通信部310と、第二記憶部370と、第二制御部380とを備える。第二記憶部370は、画像データ記憶部371を備える。第二制御部380は、画像管理部381と、特定部382と、画像抽出部383と、部分画像切出し部384と、送信先決定部385とを備える。
図6の各部のうち図4の各部と対応して同様の機能を有する部分には同一の符号(310、370、371、381、382、383、384)を付して説明する。不審検知装置301は、第二制御部380に代えて第二制御部390を備える点で図4に示した不審検知装置300と異なる。第二制御部390は、図4に示した第二制御部380が備える各部に加えてさらに送信先決定部385を備える点で第二制御部380と異なる。
なお、送信先決定部385が、不審画像に代えて、不審画像が撮影された時刻又は場所に関する情報に基づいて、不審画像又は不審画像に関する情報の送信先を決定するようにしてもよい点も、送信先決定部183の場合と同様である。
不審検知装置301は、情報処理装置の例に該当する。
例えば、通知システム1が、人の転倒など特定の動作を検出するようにしてもよい。人の転倒を検出した場合、通知システム1が、転倒を検出したことを救護センターに通知するようにしてもよい。その場合、例えば情報取得部は画像に含まれる対象の情報として「人物の特徴量」及び「転倒」という情報のうち少なくともいずれかを取得する。そして送信部は、対象に関する情報である「人物の特徴量」及び「転倒」という情報のうち少なくともいずれかに応じて、救護センターに送信すると決定する。さらに、送信部は、救護センターに画像に関する情報として、人の転倒を撮影した画像や画像が撮影されたときの撮影時刻、画像の撮影場所を送信する。
図7〜図9は、通知システム1が行う処理例を示すフローチャートである。
同図のステップS101〜S151では、学習装置100が予めモデルを生成する。
まず、カテゴリ調整部182は、カテゴリを設定する(ステップS101)。例えば、通知システム1の管理者がカテゴリを設定するユーザ操作を行い、カテゴリ調整部182は、当該ユーザ操作に従ってカテゴリを設定する。
次に、カテゴリ調整部182は、カテゴリの近似度を評価する(ステップS103)。例えば、カテゴリ調整部182は、モデル生成部181が生成したカテゴリ毎のモデルからカテゴリ毎の特徴情報(例えば特長ベクトル)を抽出し、特徴情報の近似度を評価することでカテゴリの近似度を評価する。
近似カテゴリ有りと判定した場合(ステップS104:YES)、カテゴリ調整部182は、近似カテゴリのうち少なくとも1つの近似カテゴリに含まれる学習用データ数が不足しているか否かを判定する(ステップS111)。例えば、カテゴリ調整部182は、近似カテゴリの各々について学習用データ数が所定の閾値以上か否かを判定する。そして、学習用データ数が閾値未満のカテゴリを検出した場合、カテゴリ調整部182は、学習用データ数が不足していると判定する。一方、近似カテゴリに含まれる全てのカテゴリについて学習用データ数が閾値以上であると判定したい場合、カテゴリ調整部182は、カテゴリの学習に必要な学習用データが足りていると判定する。
ステップS121の後、ステップS102へ戻る。
また、ステップS111で、学習用データが足りていると判定した場合も(ステップS111:NO)、カテゴリ調整部182は、ステップS131へ進む。
ステップS141の後、カテゴリ調整部182は、ステップS102へ戻る。
一方、ステップS131で学習用データ数が不足していると判定した場合(ステップS131:NO)、第一通信部110は、モデル生成部181が生成したモデルを不審検知装置300へ送信(出力)する(ステップS151)。なお、ステップS131で、サブカテゴリが結合されて構成されているカテゴリが存在しないと判定した場合も、カテゴリ調整部182は、ステップS151へ進む。
まず、不審検知装置300の第二通信部310が、ステップS151で第一通信部110が送信したモデルデータを受信する(ステップS161)。
また、画像取得装置200の画像取得部210が、監視対象の店舗内を撮影する(ステップS201)。そして、画像出力部220が、ステップS201で得られた画像を画像データにて不審検知装置300へ送信(出力)する(ステップS202)。
次に、画像抽出部383が、ステップS211で得られた画像について異常発生の可能性の有無、すなわち不審の有無を判定する(ステップS212)。上述したように、画像抽出部383は、ステップS211で得られた画像についてカテゴリ毎にスコアを算出する。そして、画像抽出部383は、いずれか1つ以上のカテゴリでスコアが閾値以上になった場合に異常発生の可能性ありと判定する。
なお、ステップS212で画像抽出部383が異常発生の可能性無しと判定した場合(ステップS212:NO)、通知システム1は、画像取得部210が撮影した当該画像に対する処理を終了する。この場合、画像取得装置200による次の撮影タイミングで、ステップS201から処理を再開する。
あるいは、学習装置100が特定部382に相当する機能部を備えて対象の特定を行うようにしてもよい。
具体的には、第一通信部110は、第二通信部310がステップS214で送信した情報を受信する(ステップS221)。
そして、送信先決定部183は、特定部382が特定した人物に基づいて、当該以外の人物を不審画像及びカテゴリ候補の送信先に決定する(ステップS222)。不審画像及びカテゴリ候補の送信先は、例えば、特定部382が特定した人物以外の人物が所持している異常判定装置400である。
そして、第一通信部110は、ステップS221で受信した不審画像を含む複数の画像及びカテゴリ候補を、ステップS222で送信先決定部183が決定した送信先に送信する(ステップS223)。
具体的には、第三通信部410は、ステップS223で第一通信部110が送信した不審画像を含む複数の画像及びカテゴリ候補を示す情報を受信する(ステップS231)。
そして、異常判定部481が、異常有無判定結果、及び、カテゴリ判定結果を取得する(ステップS301)。具体的には、上述したように、表示部420が不審画像を含む複数の画像を表示する。そして、行為有無判定結果取得部482は、ユーザ操作に基づいて異常有無判定結果を取得する。また、カテゴリ判定結果取得部483は、ユーザ操作に基づいてカテゴリ判定結果を取得する。
さらに第三通信部410は、不審画像のうち異常が映っている部分を示す情報を、ステップS302で学習装置100へ送信する。
具体的には、第一通信部110は、ステップS302で第三通信部410が送信したデータを受信する(ステップS311)。
そして、第一通信部110は、ステップS311で得られた不審画像の識別情報と、不審画像のうち異常が映っている部分を示す情報とを含む不審画像要求を、第一制御部180の制御に従って不審検知装置300へ送信する(ステップS312)。
そして、部分画像切出し部384は、不審画像から異常が映っている部分を切り出す(ステップS322)。具体的には、部分画像切出し部384は、異常が映っている部分を示す情報に基づいて、当該情報が示す部分の部分画像を、ステップS321で得られた不審画像から切り出す。
そして、モデル生成部181は、ステップS331で得られた部分画像と、ステップS311で得られたカテゴリ判定結果が示すカテゴリとを対応付けて(紐付けて)学習用データを生成する(ステップS332)。
モデル生成の処理については、モデル生成部181は、ステップS332の後、処理をステップS102へ戻す。
具体的には、異常判定装置400の第三制御部480は、ステップS301での判定結果に基づいて処理の分岐を行う(ステップS341)。
ステップS301で判定結果が異常無しである場合(ステップS341:NO)、第三制御部480は、通報処理について図7〜図9の処理を終了する。
ステップS351の後、異常判定装置400の第三制御部480は、通報処理について図7〜図9の処理を終了する。
一方、学習装置100では、第一通信部110が異常判定装置400からの通報依頼を受信する(ステップS361)。
そして、通報部184は、ステップS361で得られた通報依頼に基づいて、所定の通報先に通報を行う(ステップS362)。
ステップS362の後、学習装置100は、通報処理について図7〜図9の処理を終了する。
図10は、学習装置100のハードウェア構成の例を示すブロック図である。同図に示すように、学習装置100は、第一通信装置511と、第一記憶デバイス512と、第一CPU513とを備える。
第一通信装置511は、他の装置と通信を行う装置であり、第一通信部110を実現する。第一記憶デバイス512は、各種データを記憶するデバイスであり、第一記憶部170を実現する。第一CPU513は、プログラムを実行するデバイスである。第一CPU513は、第一記憶デバイス512からプログラムを読み出して実行することで、第一制御部180を実現する。
カメラ521は、撮影を行って画像データを出力する装置であり、画像取得部210を実現する。第二通信装置522は、他の装置と通信を行う装置であり、画像出力部220を実現する。
第三通信装置531は、他の装置と通信を行う装置であり、第二通信部310を実現する。第二記憶デバイス532は、各種データを記憶するデバイスであり、第二記憶部370を実現する。第二CPU533は、プログラムを実行するデバイスである。第二CPU533は、第二記憶デバイス532からプログラムを読み出して実行することで、第二制御部380を実現する。
第四通信装置541は、他の装置と通信を行う装置であり、第三通信部410を実現する。表示装置542は、表示画面を有して各種画像を表示する装置であり、表示部420を実現する。入力デバイス543は、例えば表示装置542の表示画面に設けられてタッチパネルを構成するタッチセンサなど、ユーザ操作を検出するデバイスであり、操作入力部430を実現する。第三記憶デバイス544は、各種データを記憶するデバイスであり、第三記憶部470を構成する。第三CPU545は、プログラムを実行するデバイスである。第三CPU545は、第三記憶デバイス544からプログラムを読み出して実行することで、第三制御部480を実現する。
これにより、通知システム1(例えば、学習装置100)は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
これにより、通知システム1(例えば、学習装置100)は、不正行為の当事者又は仲間が画像に映っている場合に、当該当事者又は仲間以外の者を選択して情報を送信することができる。送信される情報は、例えば、異常発生の可能性を通知する情報である。これにより、異常状況が改善される可能性を高めることができる。
そして、送信部190は、不審画像又は不審画像に関する情報として、画像抽出部383によって抽出された複数の画像又は複数の画像に関する情報を送信する。
このように、画像抽出部383が複数の画像を抽出することで、当該画像を参照するユーザは、画像に含まれる人物の動作を把握し易くなる。
これにより、ユーザは、当該カテゴリの候補を参照して不審画像が該当するカテゴリを判定することができる。学習装置100は、当該カテゴリの判定結果を用いて学習用データを生成し、学習することができる。
モデル生成部181は、当該部分画像を用いて学習を行うことで、異常を示す画像の特徴をより正確に把握することができ、より高精度に学習を行うことができる。
これにより、ユーザは、不審画像とカテゴリとを参照して異常の有無を判定することができ、この点で、ユーザは、より容易に異常の有無を判定することができる。
そして、カテゴリ調整部182は、複数のカテゴリのうち当該カテゴリに該当する学習用データの数が所定数より少ない第1カテゴリを検出した場合、当該第1カテゴリと他のカテゴリとの類似度を算出し、類似度が高い1つ以上の第2カテゴリと前記第1カテゴリとを1つのカテゴリに纏める。
これにより、各カテゴリに含まれる学習用データの数を確保することができる。学習用データの数を確保することで、モデル生成部181が行う学習の精度を高めることができる。
これにより、カテゴリを細分化することができ、モデル生成部181が行う学習の精度を高めることができる。
これにより、機械学習を行う装置(学習装置100)は、当該学習用データを用いて学習精度を高めることができる。
これにより、機械学習を行う装置(学習装置100)は、機械学習の対象となる行為が映っている画像とカテゴリとが対応付けた学習用データを取得して学習を行うことができ、学習精度を高めることができる。
学習装置100は、通知先を、あらかじめ設定された通知先のうち、不審行動と検知した画像に映りこんでいない人物への通知先に決定する。これにより、店舗マネージャ等の管理者権限を持つ人物自身が不正に関与していた場合に、通知のもみ消しや、通知に対して何も対応を行わずに放置することを防止することができる。
判定者は、通知画面に表示される画像等を参照して異常の有無及び異常の種類を判定すればよく、学習装置100による学習を意識することなく操作を行うことができる。判定対象の異常は、例えば、不正行為や、転倒などの事故である。
なお、学習装置100が、通知を複数人に行い、複数人の判定結果による多数決等で判定精度を高めるようにしてもよい。
これにより、学習装置100は、不審検知装置300が検知した異常の可能性と異なる異常を示す学習用データを取得することができ、当該異常を学習することができる。
また、カテゴリ調整部182は、通知システム1の運用にて、1つのカテゴリで十分な数が得られた場合は、似て非なるものとしてカテゴリを分ける。これにより、より詳細な検知及びカテゴリの分類を実現する。
また、サービス提供者は初期に最低限の学習を学習装置100に行わせれば、その後は学習メンテナンスの作業を行う必要がない。この点で、サービス提供者の作業コストを低減させることができる。
また、サービス提供者のメンテナンス作業者が介在しないため、作業者へのプライバシー漏洩のリスクが低減する。
これに対し、学習装置100は、異常判定装置400から得られる学習用データを用いて、既存の手口の不正操作に加えて新たな手口の不正操作を学習することができる。これにより、通知システム1は、新たな手口の不正操作を検知することができる。
これにより、不審検知装置300が、新たな手口の不正操作が映った画像を不審画像として検出する可能性を高めることができる。
図14は、本発明に係る情報処理装置の最小構成を示すブロック図である。同図に示す情報処理装置10は、情報取得部11と、送信部12とを備える。
情報取得部11は、画像に含まれる対象に関する情報を取得する。そして、送信部12は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する。
これにより、情報処理装置10は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
表示部21は、画像に含まれる対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し送信する情報処理装置から、画像又は画像に関する情報を取得し、画像又は画像に関する情報を表示する。そして、判定部22は、画像又は画像に関する情報を機械学習に用いるか否か判定する。出力部23は、判定結果を機械学習の学習用データとして出力する。
これにより、機械学習を行う装置は、当該学習用データを用いて学習精度を高めることができる。
第1の情報処理装置31の出力部32は、画像に含まれる対象に関する情報を出力する。第2の情報処理装置33の送信部34は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する。
これにより、第2の情報処理装置33(送信部34)は、画像に応じた適切な送信先を決定することができ、決定した送信先に画像又は画像に関する情報を送信することができる。
図17は、情報処理装置10(図14)が行う処理の例を示すフローチャートである。同図に示す処理にて、情報取得部11は、画像に含まれる対象に関する情報を取得する情報取得ステップを実行する(ステップS411)。そして、送信部12は、対象に関する情報に応じて、画像又は画像に関する情報の送信先を決定し、送信する送信ステップを実行する(ステップS412)。
10 情報処理装置
11 情報取得部
12、34、190 送信部
20 判定装置
21、420 表示部
22 判定部
23、32 出力部
31 第1の情報処理装置
33 第2の情報処理装置
100 学習装置
110 第一通信部
170 第一記憶部
180 第一制御部
181 モデル生成部
182 カテゴリ調整部
183 送信先決定部
184 通報部
200 画像取得装置
210 画像取得部
220 画像出力部
300、301 不審検知装置
310 第二通信部
370 第二記憶部
371 画像データ記憶部
380、390 第二制御部
381 画像管理部
382 特定部
383 画像抽出部
384 部分画像切出し部
385 送信先決定部
400 異常判定装置
410 第三通信部
430 操作入力部
470 第三記憶部
480 第三制御部
481 異常判定部
482 行為有無判定結果取得部
483 カテゴリ判定結果取得部
511 第一通信装置
512 第一記憶デバイス
513 第一CPU
521 カメラ
522 第二通信装置
531 第三通信装置
532 第二記憶デバイス
533 第二CPU
541 第四通信装置
542 表示装置
543 入力デバイス
544 第三記憶デバイス
545 第三CPU
900 ネットワーク
Claims (12)
- 画像から前記画像に含まれる対象を特定する特定部と、
前記対象に関する情報を取得する情報取得部と、
前記画像又は前記画像に関する情報の送信先を、前記特定部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部と、
を備える情報処理装置。 - 前記対象が含まれる前記画像を抽出する画像抽出部を備え、
前記画像抽出部は、前記対象が含まれる前記画像の撮影時刻を含む所定時間範囲内に撮影された複数の画像を抽出し、
前記送信部は、前記画像又は前記画像に関する情報として、前記画像抽出部によって抽出された前記複数の画像又は前記複数の画像に関する情報を送信する
請求項1に記載の情報処理装置。 - 前記画像抽出部は、機械学習によって生成されたモデルデータを用いて前記対象が含まれる前記画像を抽出し、
前記送信部は、前記画像を抽出するために用いられた前記モデルデータに関する情報を前記画像又は前記画像に関する情報の送信先へ送信する
請求項2に記載の情報処理装置。 - 前記画像のうち、前記モデルデータの生成に用いる前記対象の行為が示されている部分画像を切り出す部分画像切出し部を備え、
前記モデルデータは、前記部分画像切出し部によって切り出された部分画像に基づいて生成される
請求項3に記載の情報処理装置。 - 前記情報取得部は、前記画像に含まれる対象に関する情報として、前記対象の行為のカテゴリとして設定されている複数のカテゴリのうち、前記画像に含まれる前記対象の行為に該当する前記カテゴリを取得し、前記画像と該当するカテゴリとを関連付ける
請求項1から4の何れか一項に記載の情報処理装置。 - 機械学習によって、前記画像を抽出するために用いられるモデルデータを生成するモデル生成部と、
前記複数のカテゴリのうち当該カテゴリに該当する学習用データの数が所定数より少ない第1カテゴリを検出した場合、前記第1カテゴリと他のカテゴリとの類似度を算出し、類似度が閾値より高い1つ以上の第2カテゴリと前記第1カテゴリとを1つのカテゴリに纏めるカテゴリ調整部と、
を備える請求項5に記載の情報処理装置。 - 前記カテゴリ調整部は、1つのカテゴリに纏められた複数のサブカテゴリの各々に該当する学習用データの数を計数し、何れのサブカテゴリも学習用データが所定数以上あると判定した場合、纏められたカテゴリを前記複数のサブカテゴリに分割し、前記複数のサブカテゴリそれぞれをカテゴリとする、
請求項6に記載の情報処理装置。 - 画像から前記画像に含まれる対象を特定し、前記対象に関する情報を出力する出力部を有する第1の情報処理装置と、
前記画像又は前記画像に関する情報の送信先を、前記出力部が特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信部を有する第2の情報処理装置と、
を備える通知システム。 - 判定装置をさらに備え、
前記判定装置は、
前記第2の情報処理装置から、前記画像又は前記画像に関する情報を取得し、前記画像又は前記画像に関する情報を表示する表示部と、
前記画像又は前記画像に関する情報を機械学習に用いるか否かを判定する判定部と、
前記判定の結果を前記機械学習の学習用データとして出力する出力部と、
を備える
請求項8に記載の通知システム。 - 前記判定部は、
前記表示部が表示した前記画像又は前記画像に関する情報が、前記機械学習の対象となる行為が行われたときの画像又は情報か否かの判定結果を取得する行為有無判定結果取得部と、
前記表示部が表示した前記画像又は前記画像に関する情報が、前記機械学習の対象となる行為が行われたときの画像又は情報であると判定された場合、当該行為が該当するカテゴリの判定結果を取得するカテゴリ判定結果取得部と、
を備える
請求項9に記載の通知システム。 - 情報処理装置が、画像から前記画像に含まれる対象を特定するステップと、
前記情報処理装置が、前記対象に関する情報を取得する情報取得ステップと、
前記情報処理装置が、前記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、
を含む情報送信方法。 - 情報処理装置に、
画像から前記画像に含まれる対象を特定するステップと、
前記対象に関する情報を取得する情報取得ステップと、
前記画像又は前記画像に関する情報の送信先を、特定した前記対象に対応付けられた送信先と異なる送信先に決定し、決定した送信先へ前記画像又は前記画像に関する情報を送信する送信ステップと、
を実行させるためのプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021117397A JP7160154B2 (ja) | 2015-09-30 | 2021-07-15 | システム、異常判定装置及び方法 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015195218 | 2015-09-30 | ||
| JP2015195218 | 2015-09-30 | ||
| PCT/JP2016/077859 WO2017057135A1 (ja) | 2015-09-30 | 2016-09-21 | 情報処理装置、判定装置、通知システム、情報送信方法及びプログラム |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021117397A Division JP7160154B2 (ja) | 2015-09-30 | 2021-07-15 | システム、異常判定装置及び方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2017057135A1 JPWO2017057135A1 (ja) | 2018-08-30 |
| JP6915542B2 true JP6915542B2 (ja) | 2021-08-04 |
Family
ID=58423686
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017543185A Active JP6915542B2 (ja) | 2015-09-30 | 2016-09-21 | 情報処理装置、通知システム、情報送信方法及びプログラム |
| JP2021117397A Active JP7160154B2 (ja) | 2015-09-30 | 2021-07-15 | システム、異常判定装置及び方法 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021117397A Active JP7160154B2 (ja) | 2015-09-30 | 2021-07-15 | システム、異常判定装置及び方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US10846537B2 (ja) |
| JP (2) | JP6915542B2 (ja) |
| WO (1) | WO2017057135A1 (ja) |
Families Citing this family (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6930126B2 (ja) * | 2017-02-13 | 2021-09-01 | 日本電気株式会社 | 人物検出システム |
| WO2019102521A1 (ja) * | 2017-11-21 | 2019-05-31 | 日本電気株式会社 | 監視システム、監視方法および監視用プログラム |
| US10706701B2 (en) * | 2018-01-12 | 2020-07-07 | Qognify Ltd. | System and method for dynamically ordering video channels according to rank of abnormal detection |
| US11119716B2 (en) | 2018-10-31 | 2021-09-14 | Fanuc Corporation | Display system, machine learning device, and display device |
| JP6912513B2 (ja) * | 2018-10-31 | 2021-08-04 | ファナック株式会社 | 表示システム、機械学習装置、及び表示装置 |
| JP7198052B2 (ja) * | 2018-11-09 | 2022-12-28 | セコム株式会社 | 画像監視システム |
| JP7197334B2 (ja) * | 2018-11-09 | 2022-12-27 | セコム株式会社 | 画像監視システム |
| JP7161920B2 (ja) * | 2018-11-09 | 2022-10-27 | セコム株式会社 | 店舗装置 |
| JP7220057B2 (ja) * | 2018-11-09 | 2023-02-09 | セコム株式会社 | 画像監視システム |
| JP7241522B2 (ja) * | 2018-12-07 | 2023-03-17 | 株式会社クボタ | 運転監視システム、運転監視方法、および制御プログラム |
| JP7302539B2 (ja) * | 2019-03-27 | 2023-07-04 | 日本電気株式会社 | 処理装置、処理方法及びプログラム |
| JP7036082B2 (ja) * | 2019-04-04 | 2022-03-15 | セイコーエプソン株式会社 | 画像処理装置、機械学習装置、画像処理方法 |
| JP7042508B2 (ja) * | 2019-12-19 | 2022-03-28 | ニューラルポケット株式会社 | 情報処理システム、情報処理装置、サーバ装置、プログラム、又は方法 |
| JP7525220B2 (ja) * | 2020-04-08 | 2024-07-30 | 日本電気通信システム株式会社 | 推定装置、学習装置、推定方法及びプログラム |
| JP7537736B2 (ja) * | 2020-09-02 | 2024-08-21 | 株式会社寺岡精工 | Posシステム |
| JP2022187508A (ja) * | 2021-06-08 | 2022-12-20 | 株式会社三井E&Sマシナリー | 情報処理システム、プログラム及び情報処理方法 |
| US20240005664A1 (en) * | 2022-07-01 | 2024-01-04 | Robert Bosch Gmbh | Reducing false alarms in video surveillance systems |
| JP7671402B1 (ja) * | 2024-11-15 | 2025-05-01 | 株式会社トライアルカンパニー | 情報共有装置及び情報共有システム |
Family Cites Families (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7319780B2 (en) * | 2002-11-25 | 2008-01-15 | Eastman Kodak Company | Imaging method and system for health monitoring and personal security |
| JP2005044330A (ja) * | 2003-07-24 | 2005-02-17 | Univ Of California San Diego | 弱仮説生成装置及び方法、学習装置及び方法、検出装置及び方法、表情学習装置及び方法、表情認識装置及び方法、並びにロボット装置 |
| JP3681175B1 (ja) * | 2004-08-05 | 2005-08-10 | Sky株式会社 | 位置情報を利用した監視システム |
| JP2006148442A (ja) | 2004-11-18 | 2006-06-08 | Toshiba Corp | 移動監視装置 |
| JP4893161B2 (ja) * | 2006-08-25 | 2012-03-07 | パナソニック電工株式会社 | 警報システム |
| JP2008288870A (ja) | 2007-05-17 | 2008-11-27 | Toshiba Corp | 映像監視システムおよび映像監視方法 |
| CN101425066A (zh) * | 2007-11-02 | 2009-05-06 | 日电(中国)有限公司 | 基于时序关系图的实体分类设备和方法 |
| JP5276541B2 (ja) * | 2009-07-27 | 2013-08-28 | キヤノン株式会社 | 画像処理方法及び画像処理装置及びプログラム |
| JP5075924B2 (ja) | 2010-01-13 | 2012-11-21 | 株式会社日立製作所 | 識別器学習画像生成プログラム、方法、及びシステム |
| US8805124B2 (en) * | 2010-02-17 | 2014-08-12 | Shutterfly, Inc. | System and method for automatically creating a photo calendar |
| US8401282B2 (en) * | 2010-03-26 | 2013-03-19 | Mitsubishi Electric Research Laboratories, Inc. | Method for training multi-class classifiers with active selection and binary feedback |
| JP5435740B2 (ja) | 2010-11-12 | 2014-03-05 | オムロン株式会社 | 監視システム、および監視サーバ |
| JP2012128638A (ja) * | 2010-12-15 | 2012-07-05 | Canon Inc | 画像処理装置、位置合わせ方法及びプログラム |
| JP5524102B2 (ja) * | 2011-02-03 | 2014-06-18 | 株式会社東芝 | 手書き単語認識装置および手書き単語認識用モデル学習装置 |
| BR112015000983A2 (pt) * | 2012-07-17 | 2017-06-27 | Nissan Motor | sistema de assistência de condução e método de assistência de condução |
| US9762865B2 (en) * | 2013-03-15 | 2017-09-12 | James Carey | Video identification and analytical recognition system |
| US10275657B2 (en) | 2013-06-28 | 2019-04-30 | Nec Corporation | Video surveillance system, video processing apparatus, video processing method, and video processing program |
| US9465857B1 (en) * | 2013-09-26 | 2016-10-11 | Groupon, Inc. | Dynamic clustering for streaming data |
| US10019657B2 (en) * | 2015-05-28 | 2018-07-10 | Adobe Systems Incorporated | Joint depth estimation and semantic segmentation from a single image |
| US10783535B2 (en) * | 2016-05-16 | 2020-09-22 | Cerebri AI Inc. | Business artificial intelligence management engine |
| EP3611472B1 (en) * | 2016-06-27 | 2021-11-24 | Mobileye Vision Technologies Ltd. | Controlling host vehicle based on detected parked vehicle characteristics |
-
2016
- 2016-09-21 JP JP2017543185A patent/JP6915542B2/ja active Active
- 2016-09-21 WO PCT/JP2016/077859 patent/WO2017057135A1/ja not_active Ceased
- 2016-09-21 US US15/761,180 patent/US10846537B2/en active Active
-
2021
- 2021-07-15 JP JP2021117397A patent/JP7160154B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP7160154B2 (ja) | 2022-10-25 |
| WO2017057135A1 (ja) | 2017-04-06 |
| JPWO2017057135A1 (ja) | 2018-08-30 |
| US10846537B2 (en) | 2020-11-24 |
| US20180268224A1 (en) | 2018-09-20 |
| JP2021182413A (ja) | 2021-11-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6915542B2 (ja) | 情報処理装置、通知システム、情報送信方法及びプログラム | |
| US11176383B2 (en) | Hazard detection through computer vision | |
| US10878419B2 (en) | Payment system, payment apparatus, program, and payment method | |
| US20170300990A1 (en) | Service monitoring system and service monitoring method | |
| US20230410519A1 (en) | Suspicious person alarm notification system and suspicious person alarm notification method | |
| US20190327451A1 (en) | Video image analysis apparatus and video image analysis method | |
| JP2018147160A (ja) | 情報処理装置、情報処理方法及びプログラム | |
| JP2015130155A (ja) | 防犯システム | |
| JP6795667B1 (ja) | ネットワークシステム、不審者検知装置、および不審者検知方法 | |
| US20250240388A1 (en) | Asset tracking and notification processing | |
| JP2022003526A (ja) | 情報処理装置、検出システム、情報処理方法、及びプログラム | |
| JP2015002477A (ja) | 情報処理装置、情報処理システムおよび情報処理方法 | |
| US20200084416A1 (en) | Information processing apparatus, control method, and program | |
| KR101957677B1 (ko) | 얼굴인식을 통한 학습형 실시간 안내 시스템 및 그 안내 방법 | |
| US20250054300A1 (en) | Real-time risk tracking | |
| WO2020195732A1 (ja) | 画像処理装置、画像処理方法、およびプログラムが格納された記録媒体 | |
| US11238554B2 (en) | Frictionless security monitoring and management | |
| US20210287539A1 (en) | Operator Behavior Monitoring System | |
| JP7145622B2 (ja) | 情報処理装置、情報処理装置の制御方法、被写体検出システム、及び、プログラム | |
| JP5202419B2 (ja) | 警備システムおよび警備方法 | |
| TW201942849A (zh) | 交易行為偵測系統及其方法 | |
| US20240078783A1 (en) | Image processing system, image processing method, and non-transitory computer-readable storage medium | |
| JP3212615U (ja) | 特定者表示システム | |
| JP6613502B1 (ja) | 顔認識による来店者検証システム及び顔認識による来店者検証プログラム | |
| JP2019133431A (ja) | 情報処理方法、情報処理装置、および情報処理プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190807 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201104 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201228 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210615 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210628 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6915542 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |