Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7618973B2 - プログラム、管理装置、及びシステム - Google Patents
[go: Go Back, main page]

JP7618973B2 - プログラム、管理装置、及びシステム - Google Patents

プログラム、管理装置、及びシステム Download PDF

Info

Publication number
JP7618973B2
JP7618973B2 JP2020120215A JP2020120215A JP7618973B2 JP 7618973 B2 JP7618973 B2 JP 7618973B2 JP 2020120215 A JP2020120215 A JP 2020120215A JP 2020120215 A JP2020120215 A JP 2020120215A JP 7618973 B2 JP7618973 B2 JP 7618973B2
Authority
JP
Japan
Prior art keywords
environment
anomaly
detection
objects
added
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020120215A
Other languages
English (en)
Other versions
JP2021093122A (ja
Inventor
ハンスフリッドリッヒ クルーク ニコラス
ミタッシュクマー パテル
デービッド アイマン シャンマ
ザング シャオジン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Publication of JP2021093122A publication Critical patent/JP2021093122A/ja
Application granted granted Critical
Publication of JP7618973B2 publication Critical patent/JP7618973B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Description

本開示は、一般に物体検出に関し、より具体的には、環境内の異常な物体又は欠落した物体を検出するプログラム、管理装置、及びシステムに関する。
特定の環境において未知の物体及び/又は欠落した物体を検出するという問題は、いくつかの課題を提供する。様々な関連技術の実世界のアプリケーションでは、自動システムが環境の変化が妥当か否かを判定することが難しい場合があるため、環境の変化の監視はほとんど手動で行われる。このようなタスクは、非常に時間が掛かり、したがって高価である。異常の自動検出は、そのようなタスクにおける手動の労力を大幅に削減するのに役立ち得る。
そのようなシステムは、特定の環境において一般的である物体、すなわち予想される物体(以下、「予想物体」と略称する。)を、特定の環境において異常な物体、すなわち予想されない物体と区別することができる必要があろう。関連技術では、ハイパースペクトル画像における異常検出を含むシステムや、混雑したシーンにおける異常検出を含むシステムが存在している。
米国特許第7613668号明細書 国際公開第2013/062738号
DENG,J.et al."ImageNet:A Large-Scale Hierarchical Image Database"In CVPR09,2009,8 pages. FARNOOSH,A.et al. "DEEPPBM: DEEP PROBABILISTIC BACKGROUND MODEL ESTIMATION FROM VIDEO SEQUENCES" CoRP,2019,5 pages. KHAZAI,S.et al."Anomaly Detection in Hyperspectral Images Based on an Adaptive Support Vector Method" IEEE GEOSCIENCE AND REMOTE SENSING LETTERS, July 2011,pp.646-650,VOL.8, NO.4. LI,W.et al."Anomaly Detection and Localization in Crowded Scenes" IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, January 2014,pp 18-32,VOL.36, NO.1. LIN,T-Y.et al."Microsoft COCO: Common Objects in Context" CoPR,2014,15 pages. MATTEOLI,S.et al."A Tutorial Overview of Anomaly Detection in Hyperspectral Images" IEEE A&E Systems Magazine, July 2010,pp.5-27,VOL.25,NO.7. RAMCHANDRAN,A.et al."Unsupervised deep learning system for local anomaly event detection in crowded scenes" Multimedia Tools and Applications,May 12,2019,21 pages. REDMON,J.et al."YOLOv3:An Incremental Improvement"CoRP,2018, 6 pages. TARABALKA,Y.et al."Real-time anomaly detection in hyperspectral images using multivariate normal mixture models and GPU processing" J Real-Time Image Processing,2009,pp.287-300. WU,S.et al."Chaotic invariants of Lagrangian particle trajectories for anomaly detection in crowded scenes" 2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, June 2010,pp.2054-2060. YUAN,Y.et al."Online Anomaly Detection in Crowd Scenes via Structure Analysis" IEEE Transactions on Cybernetics, March 2015, pp.562-575,VOL45, NO3. ZHU,Y.et al."Motion-Aware Feature for Improved Video Anomaly Detection" CoPR,2019,12 pages. CHRISTIANSEN,P.et al."DeepAnomaly: Combining Background Subtraction and Deep Learning for Detecting Obstacles and Anomalies in an Agricultural Field" Sensor,October 26,2016,22 pages. KIM,C.et al."A hybrid framework combining background subtraction and deep neural networks for rapid person detection" Journal Big Data(2018), 24 pages TIAN,Y.et al."Robust Detection of Abandoned and RemovedObjects in Complex Surveillance Videos" IEEE Transactions on Systems Man and Cybernetics Part C (Applications and Reviews),2011,13 pages
画像や動画から特定の環境における異常を検出することは、依然として困難なタスクであり得る。それは、(a)以前は見えなかった物体を検出すること、(b)物体を異常なもの又は異常でないものとして分類すること、及び(c)物体が欠落しているかどうかを検出することが、いずれも困難であるためである。したがって、これらのタスクは、依然として人間の観察の下で行われる。特定の環境における異常の自動検出は、監視やその他の物体検出シナリオにおける手動の労力を大幅に削減するのに役立ち得る。
本開示の技術は、特定の環境における異常の検出における手動の労力を大幅に削減することを目的とする。
本明細書で説明される例示的な実装形態では、加法的(物体がシーンに追加された)異常と、減法的(物体がシーンから削除された)異常という、考慮される2種類の異常がある。本明細書で説明される例示的な実装形態は、物体検出と前景セグメント化モデルとの組み合わせを含み、シーン内の物体又は物体が以前に占めていた領域のいずれかである関心領域を生成し得る多段階システムを伴う。そのような領域は、その後、正常又は異常として分類される。
本明細書で説明される例示的な実装形態は、静的カメラ、及び環境の場所に関連付けられた動的に移動するカメラで実装され得る。
本開示の態様は、処理を実行するための命令を記憶するコンピュータプログラムであって、命令が、環境に関連付けられたシステムから受信した1又は複数の画像に対して、1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行うステップ、及び異常検出に対し異常に基づいて異常処理命令を実行するステップを含む、コンピュータプログラムを含む。命令は、非一時的なコンピュータ可読媒体に記憶され、1又は複数のプロセッサによって実行されるように構成されてもよい。
本開示の態様は、環境に関連付けられたシステムから受信した1又は複数の画像に対して、1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行うステップ、及び異常検出に対し異常に基づいて異常処理命令を実行するステップを含む、方法を含む。命令は、非一時的なコンピュータ可読媒体に記憶され、1又は複数のプロセッサによって実行されるように構成されるように構成されてもよい。
本開示の態様は、環境に関連付けられたシステムから受信した1又は複数の画像に対して、前記1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、前記1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行う手段と、異常検出に対し異常に基づいて異常処理命令を実行する手段と、を備えるシステムを含む。
本開示の態様は、ネットワークを介して複数のシステムを管理するように構成された管理装置であって、前記複数のシステムの各々が、環境に関連付けられており、管理装置が、複数のシステムの1つから受信した1又は複数の画像に対して、1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行い、異常検出に対し異常に基づいて異常処理命令を実行するように構成されたプロセッサを備える、管理装置を含む。
本開示の態様は、環境に関連付けられたシステムであって、カメラシステムと、1又は複数の画像に対して行われた前景セグメント化から抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出から抽出された1又は複数の検出された物体とのマッチングに基づいて、カメラシステムから受信した1又は複数の画像に対して異常の検出を示す異常検出を行い、異常検出に対し異常に基づいて異常処理命令を実行するように構成されたプロセッサと、を備えるシステムを含む。
上記の態様において、環境が、1又は複数の予想物体に関連付けられており、システムから受信した1又は複数の画像に対して異常検出を行うステップが、1又は複数の関心領域と物体検出とのマッチングで検出されていない1又は複数の予想物体の少なくとも1つに対して、環境から除去された1又は複数の予想物体の少なくとも1つを示す第1の指示を介して前記異常の前記検出を示すこと、及び、環境に関連付けられた1又は複数の予想物体の中には存在しないマッチングで検出された物体に対して、環境に追加された物体を示す第2の指示を介した異常の前記検出を示すこと、を含むようにしてもよい。
上記の態様において、異常検出が、環境に追加された物体の検出を含み、異常処理命令が、環境に追加された物体に関して、環境に関連付けられたユーザにメッセージを送信することを含むようにしてもよい。また、上記の態様において、異常検出が、環境に追加された物体の検出を含み、異常処理命令が、プロジェクタシステムを作動させて、環境に追加された物体に投影するために、システムに命令を送信することを含むようにしてもよい。また、上記の態様において、異常検出が、環境から欠落している物体の検出を含み、異常処理命令が、警告を送信することを含むようにしてもよい。また、上記の態様において、環境を作業ブースとすることができる。
例示的な実装形態に係るシステムの例示的な概要を示す図である。 例示的な実装形態に係る異常分類及び適応システムを示す図である。 例示的な実装形態に係る例示的な検出を示す図である。 例示的な実装形態に係る例示的な検出を示す図である。 例示的な実装形態に係る特定の環境を監視するシステムを示す図である。 プロジェクタを含む例示的な実装形態を示す図である。 例示的な実装形態に係る複数のシステムを管理する管理装置を含むシステムを示す図である。 いくつかの例示的な実装形態における使用に適した例示的なコンピュータ装置を有する例示的なコンピューティング環境を示す図である。 本明細書で説明される例示的な実装形態を容易にするために利用可能な管理情報の例を示す図である。 本明細書で説明される例示的な実装形態を容易にするために利用可能な管理情報の例を示す図である。 本明細書で説明される例示的な実装形態を容易にするために利用可能な管理情報の例を示す図である。 例示的な実装形態に係る作業ブースの例を示す図である。
以下の詳細な説明は、本出願の図面及び例示的な実装形態の詳細を提供する。図面間の重複する要素の参照符号及び説明は、明確化のために省略されている。説明全体にわたって使用される用語は、例示として提供されており、限定を意図するものではない。例えば、「自動」という用語の使用は、本出願の実装形態を実施する当業者の所望の実装形態に応じて、完全自動の実装形態、又は実装形態の特定の態様に対するユーザ又は管理者による制御を含む半自動の実装形態を含んでいてもよい。選択は、ユーザインターフェース又は他の入力手段を介してユーザによって実行されてもよく、又は所望のアルゴリズムを介して実装されてもよい。本明細書に記載される例示的な実装形態は、単独で又は組み合わせて利用されてもよい。これらの例示的な実装形態の機能は、所望の実装形態に係る任意の手段を介して実装されてもよい。
特定の環境において未知の物体及び/又は欠落した物体を検出するという問題は、大規模な公共施設、オフィス環境/職場環境、倉庫などでの未知の物体の監視など、様々な企業アプリケーションを運用する上で重要になり得る。本明細書で説明される例示的な実装形態では、特定の環境を手動で監視し、その中の異常を探すという面倒なプロセスを自動化するように設計されたシステムが存在する。例示的な実装形態は、環境から除去された予想物体(例えば、盗まれた物体、欠落した物体など)、及び特定の環境で見えるとは予想されていない物体(例えば、ユーザによって置き忘れられた物体)の両方を観察するように構成された、深層学習ベースのシステムを含む。
本明細書で説明する例示的な実装形態では、画像から特定の環境における異常を検出してその位置を特定するように構成されたシステムが存在する。そのような異常は、加法的異常(additive anomalies)又は減法的異常(subtractive anomalies)として大まかに分類され得る。本明細書で説明されるように、加法的異常は、以前は未知であった物体、又はシーンに入り込んだ特定の環境にあるはずのない物体である。例えば、作業机に関しては、モニタ、キーボード又はマウスなどの物体はその環境内にあると予測されるが、置き忘れた財布は、加法的異常となり得る。同様に、環境監視システム(例えば、環境内の監視カメラによる周期動作)によって撮像された画像の場合、廊下に忘れられた椅子が、加法的異常の例となり得る。
減法的異常は、環境内にあるはずの物体が以前に占めていたが、欠落した画像の領域である。作業机の例では、欠落したモニタは、減法的異常である。同様に、屋内オフィス空間のための環境監視ロボットの場合、壁又は照明器具から欠落したフレームは、減法的異常と見なし得る。
本明細書で説明される例示的な実装形態はまた、そのような異常検出が過去に発生していた場合に、カテゴリー分類などの異常に関する追加情報を提供するように構成されている。例示的な実装形態はまた、リアルタイムで調整され、過去に異常な物体であったとしても、特定の物体を異常ではないと分類することもできる。
本明細書で説明される例示的な実装形態は、「物体検出」と「前景セグメント化」という2つの主要な特徴を備える深層学習ベースのシステムを含む。これらの各特徴の出力は、環境内の既知の物体及び異常を検出するためにさらに利用される。
図1は、例示的な実装形態に係るシステムの例示的な概要を示している。入力画像110が、処理のために前景セグメント化120と物体検出130とに提供される。これらは、関心領域141と境界ボックス132とを異常検出140に出力する。異常検出140は、マッチング142を行って異常150を特定する。
カメラによって撮像された画像110は、前景セグメント化モデル120によって使用され、前景抽出121を使用して前景マスク122を生成することにより、未知の物体を含む領域(regions/areas)が抽出される。前景抽出121の機能の例は、これに限定されるものではないが、変分オートエンコーダ(VAE)を含むことができる。VAEは、全ての不変量(non-variant)(例えば、静止物体など、複数のトレーニング画像を通して変化しない画像内の領域)が背景と見なされるようにトレーニングされる。VAEの出力と元の画像110とから、2つの画像間の差を取ることにより、バイナリーの前景マスク122が計算される。この前景マスク122がさらに使用されて、ROI抽出123の機能によって、関心領域(ROIs)を含む境界ボックスが抽出される。これらのROI(複数可)は、前景画素の十分に高い濃度を示しかつ前景画像と背景画像との間に十分な差がある領域に対して生成される。上述した技術を使用して抽出されたROI(複数可)は、環境内に追加された物体又はシーンから除去された既知の物体を有する潜在的な候補となる領域/場所を提供する。閾値は、所望の実装形態に応じて設定され得る。
既知の物体の検出のために、画像内の物体を検出してその位置を特定するために使用される技術であるYOLOv3などの物体検出131の機能が利用される。例示的な実装形態では、YOLOv3モデルは、特定の環境において見出されることが予想される物体(例えば、モニタ、キーボード、マウス、時計、ドア、フレーム、出口標識、環境監視ロボット(EMR)のライトなど)に対してトレーニングされる。推定の間に、このモデルは、特定の画像に対して検出された物体の位置(例えば、境界ボックス132の形態で)及びカテゴリーの両方を提供する。この情報は、さらに、異常検出140の機能に提供される。
異常検出140について、前景セグメント化120の機能によって検出されたROI141(複数可)は、物体検出131の機能によって検出された物体の位置とマッチング142され、特定の環境における未知の物体と既知の物体とが分類される。物体の位置(境界ボックス132によって画定される)との十分な重なりを示すROI141(複数可)は、既知の物体と見なされるが、重なり合う相手方を有しないROI141(複数可)は、環境内の異常な物体又は未知の物体と見なされる。
図2は、例示的な実装形態に係る異常分類及び適応システムを示している。所望の実装形態によれば、検出された異常150は、ImageNet又はCOCOなどの所望の実装形態に応じた任意の物体分類器法を使用して、さらに分類220され得る。
さらに、例示的な実装形態は、異常に適応し、異常物体がそのような物体にフラグ付けされることによってシーン内で繰り返し見られる場合には、それらを異常物体として分類しないように構成され得る。そのような例示的な実装形態は、特徴符号化210を行うことにより検出された異常物体を特徴ベクトルに符号化し、それらを以前の検出200を管理するデータベースに記憶することによって容易化され得る。検出された異常な物体の特徴ベクトルは、続いて、洗練(refining)プロセス230を介してこのデータベース200に記憶された特徴ベクトルと比較され得る。以前に検出された物体(例えば、対応する特徴ベクトル)がユーザ/管理者によって非異常(non-anomalous)としてフラグ付けされている場合、同様の特徴ベクトルを有する検出された物体は、それに応じて非異常としてラベル付けされ得るし、その結果は洗練された異常240として提供される。さらに、潜在的な(underlying)物体が、以前の検出200に基づいて(例えば、ユーザ/管理者によって提供されたラベル付けに基づいて、特定された物体の特徴ベクトルの適用されるライブラリに基づいて)特定され得る場合、未知の物体の分類は、追加情報250として提供され得る。
これにより、例示的な実装形態は、加法的異常(例えば、環境に追加された未知の物体)及び減法的異常(例えば、特定の環境において欠落した予想物体)を検出するように構成された深層学習ベースのシステムを容易化する。例示的な実装形態はまた、シーン内の物体の位置を特定し、その物体が以前の場所から移動又は除去されたかどうかを決定することもできる。
例示的な実装形態はまた、COCO、ImageNetなどの予め定義されたカテゴリーのリストから、検出された未知の物体を分類することもできる。異常な物体又は非異常な物体の分類は、実際のアプリケーションにおいて適応され得る。
図3(a)及び図3(b)は、例示的な実装形態に係る例示的な検出を示している。図3(a)の例では、例示的な環境(キーボード、マウス、時計)に関連付けられた3つの移動アイテムと、1つの静的アイテム(モニタ)とが存在している。さらにまた、各画像は、あるタイプの加法的異常の例(例えば、財布、ペン、ボトル、鍵など)を含む。図3(b)は、例示的な実装形態に係る上記環境の前景マスク122の例を示している。
図4(a)は、例示的な実装形態に係る特定の環境を監視するシステムを示している。システム400は、カメラシステム401、プロセッサ403、メモリ404、及びネットワークインターフェース(I/F)405を含むことができる。所望の実装形態によれば、システム400は、必要に応じて、プロジェクタシステム402及び/又はサウンドシステム406を含むことができる。例示的な実装形態では、システム400は、所望の実装形態に応じて、オフィス空間、囲まれた作業ブース、会議室などの監視される任意の環境設定に実装されるように構成され得る。カメラシステム401は、本明細書で説明される例示的な実装形態を容易化するために、1又は複数のカメラを含むことができる。これに限定されるものではないが、赤-緑-青(RGB)カメラなどの当該技術分野において知られている任意のカメラが、カメラシステム401の機能を容易化するため利用され得る。プロセッサ403は、中央処理装置(CPU)などの1又は複数の物理的なハードウェア処理装置を含んでいてもよく、又はハードウェア処理装置とソフトウェア処理装置の任意の組み合わせとすることができる。ネットワークI/F405は、図5に示すように、システムと管理装置との間の接続やデータの交換を容易にする。
本明細書で説明する例示的な実装形態には、環境内の異常を強調するために光を投影するように構成されたプロジェクタシステム402が設けられていてもよい。プロジェクタシステム402は、そのような実装形態を容易化するために、光を投影するための当該技術分野において知られている任意のタイプのプロジェクタを含むことができる。例えば、環境のユーザが部屋を離れると、プロジェクタは、光を投影して部屋内の検出された異常を強調し、物体が置き忘れられたことをユーザに示す。所望の実装形態によれば、サウンドシステム406は、環境内に異常な物体があることをユーザに示すための音声キューを提供することができる。サウンドシステム406は、所望の音声キューを容易化するために1又は複数のスピーカを含むことができ、当業者に知られている任意のタイプのスピーカとすることができる。そのような例示的な実装形態を通じて、環境から退出するユーザは、これにより環境に置き忘れられた潜在的な物体について警告を受けることができる。
所望の実装形態によれば、図4(a)に示すシステム400は、スタンドアロンシステムとして動作してもよく、又は図5に示すように管理装置によって管理される複数のシステムのネットワークの一部として動作してもよい。スタンドアロンシステムの例では、システム400は、図8に示す作業ブースなどの環境に設置される。
スタンドアロンシステムの例では、メモリ404は、図7(a)から図7(c)に示す管理情報を記憶するように構成されている。プロセッサ403は、図1の120、130、及び140に示すように、カメラシステム401から受信した1又は複数の画像に対して、1又は複数の画像に対して行われた前景セグメント化から抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出から抽出された1又は複数の検出された物体とのマッチングに基づいて、異常検出を行うと共に、図1の150及び図2に示すように異常の検出を示す異常検出について、図7(c)に示すように、異常のタイプに応じて命令セットを実行することにより、異常に基づいて異常処理命令を実行するように構成され得る。
異常処理命令のそのような例では、図2に示すように、異常のタイプが異常の分類に基づいて判定される。次に、異常が加法的(例えば、物体が環境に追加された)又は減法的(例えば、システムID又は環境に基づいて図7(a)のリストから判断されるような予想物体)であるかどうか、及び関連する物体であるかどうかが判断される。例えば、異常分類が加法的であり、環境に追加された物体の検出を示す場合、プロセッサ403は、図7(b)のスケジュール情報からユーザを特定して、ユーザに関連付けられた連絡先情報に基づいて異常物体の画像のコピーを予め設定されたメッセージと一緒に送信することによって、環境に追加された物体に関して環境に関連付けられたユーザにメッセージを送信するように構成され得る。そのような連絡先情報は、これらに限定されるものではないが、例示的な実装形態に応じて、電子メール、SMS又はテキストメッセージングなどを含むことができる。
例示的な実装形態では、システム及び関連する環境は、図7(a)に関連付けられている。プロセッサ403は、図1及び図2に示すプロセスを実行して、カメラシステム401からの1又は複数の画像に対して異常検出を行うように構成され得る。図1及び図2に示すように、1又は複数の予想物体の少なくとも1つが、1又は複数の関心領域と物体検出とのマッチングから検出されない場合、プロセッサ403は、環境から除去される1又は複数の予想物体の少なくとも1つを示す指示(indication)を介して、異常の検出を示すことができる。そのような指示は、これらに限定されるものではないが、所望の実装形態に応じて、欠落した物体を示すメッセージを管理者に送信すること、警告を発生させること、環境内に物体を移動するようにユーザにメッセージを提供することなどを含むことができる。加法的異常(例えば、環境に関連付けられた1又は複数の予想物体の中にない物体の検出)の場合、プロセッサ403は、物体が環境に追加されていることを示す指示を介して、異常の検出を示すように構成され得る。そのような指示は、所望の実装形態に応じて、図3(a)に示すように画像の異常を強調すること、ユーザにメッセージを送信すること、特定された物体のタイプに応じて管理者又はビル管理サービスにメッセージを送信することなどを含むことができる。
加法的異常を検出するための他の例示的な実装形態では、プロセッサ403は、プロジェクタシステム402を作動させて、環境に追加された物体に投影するように構成され得る。図3(a)に示す画像内の検出された物体の位置に基づいて、プロジェクタシステム402は、プロセッサ403によって制御されて、環境内の物体に光を投影する。他の例示的な実装形態では、プロジェクタシステム402は、プロセッサ403によって制御されて、環境の出口(例えば、会議室又は作業ブースのドアなど)にメッセージを投影して、物体をユーザに知らせることができる。他の例示的な実装形態では、プロセッサ403は、所望の実装形態に応じて、サウンドシステム406を作動させて音声キューを提供し、物体をユーザに知らせることができる。
例示的な実装形態では、図7(a)に示されるように、システム及び関連する環境は、1又は複数の予想物体に関連付けられている。異常検出が減法的である(例えば、図1及び図2のプロセスで検出されていない1又は複数の予想物体のうちの少なくとも1つ、又は予想物体のうちの少なくとも1つが環境から欠落している)そのような例示的な実装形態では、プロセッサ403は、警告を送信するなどの命令を含むことができる。警告は、管理者又はセキュリティにメッセージを送信して、環境を確認したり、サウンドシステム406に音声キューを提供したりする形式、又は所望の実装形態に応じて他の方法による形式とすることができる。
図4(b)は、プロジェクタを含む例示的な実装形態を示している。図4(b)の例に示すように、プロジェクタシステム402は、プロセッサ403によって制御されて、検出された加法的異常に光を投影する。図4(b)の例では、環境の以前のユーザによってコーヒーマグが置き忘れられている。ユーザがカメラシステム401によってもはや検知されなくなると、プロジェクタシステム402は、検出された加法的異常(図4(b)の例ではコーヒーカップ)に光を投影して、アイテムが置き忘れられていることをユーザに警告する。
図5は、例示的な実装形態に係る複数のシステムを管理する管理装置を含むシステムを示している。図4に示す1又は複数の異常検出システム400は、ネットワークI/F405を介して、ネットワーク500及び管理装置501に通信可能に接続されている。管理装置501は、データベース502を管理する。データベース502は、以前の検出200の特徴ベクトル、物体分類のための物体のライブラリ、及び複数のシステムによって監視される環境を管理するための他の管理情報などのデータを含むことができる。例示的な実装形態では、異常検出システム400からのデータは、機器又は企業リソース計画システムなどの機器システムからのデータを記憶する専用データベースなどの中央リポジトリ又は中央データベースに記憶されてもよい。管理装置501は、中央リポジトリ又は中央データベースからのデータへのアクセスが可能であるか、又はそのデータの検索が可能である。
図6は、図5に示されるような管理装置501などのいくつかの例示的な実装形態において使用するのに適した例示的なコンピュータ装置を有する例示的なコンピューティング環境を示している。コンピューティング環境600におけるコンピュータ装置605は、1又は複数の処理ユニット、コア、又はプロセッサ610、メモリ615(例えば、RAM、ROM、及び/又は同様のもの)、内部記憶装置620(例えば、磁気、光、固体記憶装置、及び/又は有機)、及び/又はI/Oインターフェース625を含むことができる。これらのうちの任意のものは、情報を通信するために通信機構又はバス630に接続されていてもよく、又はコンピュータ装置605に内蔵されていてもよい。I/Oインターフェース625はまた、所望の実装形態に応じて、カメラから画像を受信するか、又はプロジェクタ若しくはディスプレイに画像を提供するように構成されている。
コンピュータ装置605は、入力/ユーザインターフェース635及び出力装置/インターフェース640に通信可能に接続されていてもよい。入力/ユーザインターフェース635及び出力装置/インターフェース640のいずれか一方又は両方は、有線又は無線インターフェースとすることができ、着脱可能とすることができる。入力/ユーザインターフェース635は、入力を提供するために使用され得る物理的又は仮想的な任意の装置、コンポーネント、センサ、又はインターフェース(例えば、ボタン、タッチスクリーンインターフェース、キーボード、ポインティング/カーソル制御、マイクロフォン、カメラ、点字、モーションセンサ、光学式リーダなど)を含んでいてもよい。出力装置/インターフェース640は、ディスプレイ、テレビ、モニタ、プリンタ、スピーカ、点字などを含んでいてもよい。いくつかの例示的な実装形態において、入力/ユーザインターフェース635及び出力装置/インターフェース640は、コンピュータ装置605に内蔵されていてもよく、又は物理的に接続されていてもよい。他の例示的な実装形態において、他のコンピュータ装置は、コンピュータ装置605についての入力/ユーザインターフェース635や、出力装置/インターフェース640として機能してもよく、又はその機能を提供してもよい。
コンピュータ装置605の例は、限定されるものではないが、高度なモバイル装置(例えば、スマートフォン、車両及び他の機械における装置、人間及び動物によって携行される装置など)、モバイル装置(例えば、タブレット、ノートブック、ラップトップ、パーソナルコンピュータ、携帯テレビ、ラジオなど)、並びに移動性のために設計されていない装置(例えば、デスクトップコンピュータ、他のコンピュータ、情報キオスク、1又は複数のプロセッサが内蔵された及び/又はそれに接続されたテレビ、ラジオなど)を含んでいてもよい。
コンピュータ装置605は、同じ又は異なる構成の1又は複数のコンピュータ装置を含む任意の数のネットワークコンポーネント、装置、及びシステムと通信するために、外部記憶装置645及びネットワーク650に(例えば、I/Oインターフェース625を介して)通信可能に接続されていてもよい。コンピュータ装置605又は任意の接続されたコンピュータ装置は、サーバ、クライアント、シンサーバ、汎用マシン、専用マシン、又は他のラベルのサービスを提供するように機能してもよく、又はそのように呼ばれてもよい。
I/Oインターフェース625は、限定されるものではないが、コンピューティング環境600における少なくとも全ての接続されたコンポーネント、装置、及びネットワークとの間で情報を通信するために、任意の通信又はI/Oプロトコル又は標準規格(例えば、イーサネット(登録商標)、802.11x、ユニバーサルシステムバス、WiMax、モデム、セルラーネットワークプロトコルなど)を使用する有線及び/又は無線インターフェースを含むことができる。ネットワーク650は、任意のネットワーク又はネットワークの組み合わせ(例えば、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク、電話ネットワーク、セルラーネットワーク、衛星ネットワークなど)とすることができる。
コンピュータ装置605は、一時的媒体及び非一時的媒体を含むコンピュータ使用可能な媒体又はコンピュータ可読媒体を利用して、使用及び/又は通信することができる。一時的媒体は、伝送媒体(例えば、金属ケーブル、光ファイバ)、信号、搬送波などを含む。非一時的媒体は、磁気媒体(例えば、ディスク及びテープ)、光媒体(例えば、CD-ROM、ディジタルビデオディスク、ブルーレイディスク)、固体媒体(例えば、RAM、ROM、フラッシュメモリ、固体記憶装置)、及び他の不揮発性記憶装置又はメモリを含む。
コンピュータ装置605は、いくつかの例示的なコンピューティング環境において、技術、方法、アプリケーション、プロセス、又はコンピュータ実行可能命令を実行するために使用されてもよい。コンピュータ実行可能命令は、一時的媒体から取得されてもよく、非一時的媒体に記憶されて非一時的媒体から取得されてもよい。実行可能命令は、プログラミング言語、スクリプト言語、及び機械語(例えば、C、C++、C#、Java(登録商標)、ビジュアルベーシック、パイソン、パール、JavaScript(登録商標)など)のうちの1又は複数から生成されてもよい。
プロセッサ610は、ネイティブな環境又は仮想環境において、任意のオペレーティングシステム(OS)(図示しない)の下で動作することができる。論理ユニット660、アプリケーションプログラミングインターフェース(API)ユニット665、入力ユニット670、出力ユニット675、並びに、異なるユニットが互いに通信すると共にOSや他のアプリケーション(図示しない)と通信するためのユニット間通信機構695を含む1又は複数のアプリケーションが展開されてもよい。上記のユニット及び要素は、設計、機能、構成、又は実装において変更可能であり、上述した記載に限定されるものではない。プロセッサ610は、中央処理装置(CPU)などのハードウェア処理装置の形態、又はハードウェアユニット及びソフトウェアユニットの組み合わせとしてもよい。
いくつかの例示的な実装形態において、情報又は実行命令がAPIユニット665によって受信されると、それは、1又は複数の他のユニット(例えば、論理ユニット660、入力ユニット670、出力ユニット675)に伝送されてもよい。いくつかの場合において、論理ユニット660は、上述したいくつかの例示的な実装形態において、ユニット間の情報フローを制御し、APIユニット665、入力ユニット670、出力ユニット675によって提供されるサービスを導くように構成されてもよい。例えば、1又は複数のプロセス又は実装形態のフローは、論理ユニット660によって単独で又はAPIユニット665と連携して制御されてもよい。入力ユニット670は、例示的な実装形態において説明した計算のための入力を取得するように構成されてもよく、出力ユニット675は、例示的な実装形態において説明された計算に基づいて出力を提供するように構成されてもよい。
図5に示す管理装置の例示的な実装形態では、管理装置501は、図4に示されるような複数のシステム400を管理し、それによって複数の環境を管理する。そのような例示的な実装形態では、データベース502又はメモリ615は、図7(a)から図7(c)に示すような管理情報を記憶するように構成されてもよい。複数のシステム400の各々は、それぞれのカメラシステム401からの1又は複数の画像を、ネットワークI/F405を介して管理装置501に提供するように構成される。
プロセッサ610は、図1の120、130、及び140に示すように、各システム400から受信した1又は複数の画像に対して、1又は複数の画像に対して行われた前景セグメント化から抽出された1又は複数の関心領域と、1又は複数の画像に対して行われた物体検出から抽出された1又は複数の検出された物体とのマッチングに基づいて、異常検出を行うと共に、図1の150及び図2に示すように異常の検出を示す異常検出について、図7(c)に示すように、異常のタイプに応じて命令セットを実行することにより、異常に基づいて異常処理命令を実行するように構成され得る。
異常処理命令のそのような例では、図2に示すように、異常のタイプが異常の分類に基づいて判定される。次に、異常が加法的(例えば、物体が環境に追加された)又は減法的(例えば、システムID又は環境に基づいて図7(a)のリストから判定されるような予想物体)であるかどうか、及び関連する物体であるかどうかが判定される。例えば、異常分類が加法的であり、環境に追加された物体の検出を示す場合、プロセッサ403は、図7(b)のスケジュール情報からユーザを特定して、ユーザに関連付けられた連絡先情報に基づいて異常物体の画像のコピーを予め設定されたメッセージと一緒に送信することによって、環境に追加された物体に関して環境に関連付けられたユーザにメッセージを送信するように構成され得る。そのような連絡先情報は、これらに限定されるものではないが、例示的な実装形態に応じて、電子メール、SMS又はテキストメッセージングなどを含むことができる。
例示的な実装形態では、システム400及び関連する環境は、図7(a)に関連付けられている。プロセッサ610は、図1及び図2に示すプロセスを実行して、システム400からの1又は複数の画像に対して異常検出を行うように構成され得る。図1及び図2に示すように、1又は複数の予想物体の少なくとも1つが、1又は複数の関心領域と物体検出とのマッチングから検出されない場合、プロセッサ601は、環境から除去される1又は複数の予想された物体の少なくとも1つを示す指示を介して、異常の検出を示すことができる。そのような指示は、これらに限定されるものではないが、所望の実装形態に応じて、欠落した物体を示すメッセージを管理者に送信すること、警告を発生させること、環境内に物体を移動するようにユーザにメッセージを提供することなどを含むことができる。加法的異常(例えば、環境に関連付けられた1又は複数の予想物体の中にない物体の検出)の場合、プロセッサ403は、物体が環境に追加されていることを示す指示を介して、異常の検出を示すように構成され得る。そのような指示は、所望の実装形態に応じて、図3(a)に示すように画像の異常を強調すること、ユーザにメッセージを送信すること、特定された物体のタイプに応じて管理者又はビル管理サービスにメッセージを送信することなどを含むことができる。
加法的異常を検出するための他の例示的な実装形態では、プロセッサ610は、各システム400に命令を送信して、対応するプロジェクタシステム402を作動させ、環境に追加された物体に投影するように構成され得る。図3(a)に示す画像内の検出された物体の位置に基づいて、プロジェクタシステム402は、プロセッサ403によって制御されて、図4に関して説明したように環境内の物体に光を投影する。
例示的な実装形態では、図7(a)に示されるように、システム及び関連する環境は、1又は複数の予想物体に関連付けられている。異常検出が減法的である(例えば、図1及び図2のプロセスから検出されない1又は複数の予想物体のうちの少なくとも1つ、又は予想物体のうちの少なくとも1つが環境から欠落している)そのような例示的な実装形態では、プロセッサ610は、警告を送信するなどの命令を含むことができる。管理者又はセキュリティにメッセージを送信して、環境を確認したり、サウンドシステム406に音声キューを提供したりする形式、又は所望の実装形態に応じて他の方法による形式とすることができる。
図7(a)から図7(c)は、本明細書で説明される例示的な実装形態を容易化するために利用可能な管理情報の例を示している。具体的には、図7(a)は、図5に示す複数のシステム400についての管理情報を示している。各システム400は、システム識別子(ID)701、予想される物体702、システムのスケジュール又はログ703、及び異常処理手順704に関連付けられてもよい。システムID701は、システム及びシステムに関連付けられた環境に対し固有の識別子を提供する。予想される物体702は、環境内にあると予想物体のリストである。そのようなリストは、所望の実装形態に応じて、ユーザ/管理者によって定義されてもよく、又は異常検出から検出されてもよい。スケジュール/ログ703は、所望の実装形態に応じて、相互作用のログ又は環境内にいると予想されるユーザのスケジュールを示すことができる。異常処理手順704は、異常の検出に基づいて異常処理を行う手順を含む。
図7(b)は、スケジュール/ログ703の例を示している。スケジュール/ログ703は、作業ブース、レンタルオフィス/一時的なオフィス、会議室などの環境で発生することになる、相互作用又は予定された相互作用を管理する。図7(b)の例では、ユーザID711、入室時間/予定された時間712、及び連絡先情報713が例示されている。ユーザID711は、環境と相互作用するユーザに割り当てられた固有の識別子である。入室時間/予定された時間712は、特定の時間に環境に入室することが予想されるか、又は環境に入室したユーザのスケジュールを示している。連絡先情報713は、これらのユーザの連絡先情報を含むことができる。
図7(c)は、異常処理手順704の例を示している。各システムは、異常のタイプ721に関連する処理を有することができ、関連する異常のタイプを検出するための命令セット722を実行することができる。異常のタイプ721は、異常のタイプを示すことができ、それが加法的又は減法的かどうか、及び関連する物体かどうか(該当する場合)に関する情報を含むことができる。命令セット722は、異常の検出に基づいてシステム400によって実行される命令のセットを含むことができる。
本明細書で説明される例示的な実装形態では、命令セットは、検出された異常のタイプに応じて、図7(b)の連絡先情報713に示されるユーザか、システムの管理者若しくはセキュリティ部門かのどちらかに、通知を送信するように構成され得る。そのような例示的な実装形態では、潜在的な物体及び異常のタイプに応じて通知が送信される。例えば、異常が環境内の予想物体/機器に対して減法的である場合、命令セットは、セキュリティに警告すること、及び予定されたユーザ又は環境内で検出されたユーザの連絡先情報をセキュリティに転送することを含むことができる。そのような通知は、SMSメッセージ、電子メールメッセージなどを含む、任意の所望の実装形態を介して行うことができる。
ユーザに通知を送信する例示的な実装形態では、異常が加法的であり且つ潜在的な物体がユーザに属する物体(例えば、鍵、携帯電話など)を含む場合、基本的な命令セットは、ユーザが立ち去ろうとしている場合(例えば、オフィスの開口部のドアから、又は他の所望の方法によって検出された場合)に、プロジェクタを作動させて物体を強調すること、及び/又はサウンドスピーカから音声キューを出力させることを含むことができる。他の例示的な実装形態では、そのような命令セットはまた、物体が環境内に置き忘れられたことをユーザに知らせるために、ユーザに連絡すること、及び検出された物体の画像を転送することを含むことができる。
したがって、異常処理は、所望の実装形態を容易化し且つ所望の実装形態に応じて通知を送信するように調整され得るが、本開示は、上記の例によってそれに限定されるものではない。
図8は、例示的な実装形態に係る作業ブースの例を示している。図8に示すように、作業ブースは、会議室、鉄道駅、又は他の公共エリア内に配置することができ、且つユーザによるアクセスに利用可能である、囲まれた作業スペースである。作業ブースへのアクセスは、予定された時間にユーザによって、及び/又は正しい認証によって(例えば、キーカードによる認証、モバイルアプリケーションによる認証など)アクセス可能となるように制御されるドア及びロックによってコントロールされ得る。作業ブースには、所望の実装形態に応じて、椅子、机、無線又はセルラー接続、照明などを設置することができる。所望の実装形態によれば、作業ブースはまた、モニタ、コンピュータ、キーボード、マウスなどのアクセス用の機器を含むことができる。例示的な実装形態では、機器は、作業ブースに関連付けられた物体のリストに組み込まれ、異常を監視するために図4に示すようなシステムが作業ブース内に設置される。
図8は作業ブースを示すものであるが、所望の実装形態に応じて他の環境が利用されてもよく、本開示は、それに限定されるものではない。そのような環境の例は、オフィス、会議室、共有エリア、ラウンジなどを含むことができる。
詳細な説明のいくつかの部分は、コンピュータ内の動作のアルゴリズム及び記号表現に関して提示される。これらのアルゴリズム記述及び記号表現は、その技術革新の本質を当業者に伝えるために、情報処理技術における当業者によって使用される手段である。アルゴリズムは、所望の最終状態又は結果をもたらす一連の定義されたステップである。例示的な実装形態において、実行されるステップは、確実な結果を達成するために有形量の物理的操作を必要とする。
特に明記しない限り、説明から明らかなように、本明細書の全体にわたって、「処理(processing)」、「コンピューティング(computing)」、「計算(calculating)」、「判定(determining)」、「表示(displaying)」などの用語を用いた記載は、コンピュータシステムのレジスタ及びメモリ内の物理(電子)量として表されるデータを、コンピュータシステムのメモリ又はレジスタ、又は他の情報記憶装置、伝送装置若しくは表示装置内の物理量として同様に表される他のデータに、操作及び変換するコンピュータシステム又は他の情報処理装置の動作及び処理を含むことができることが理解されよう。
例示的な実装形態はまた、本明細書における動作を実行するための装置に関するものであってもよい。この装置は、必要な目的のために特別に構成されることができ、又は1又は複数のコンピュータプログラムによって選択的に起動若しくは再構成された1又は複数の汎用コンピュータを含むことができる。そのようなコンピュータプログラムは、コンピュータ可読記憶媒体又はコンピュータ可読信号媒体などのコンピュータ可読媒体に格納されることができる。コンピュータ可読記憶媒体は、これに限定されるものではないが、光ディスク、磁気ディスク、読み出し専用メモリ、ランダムアクセスメモリ、固体装置及びドライブ、又は電子情報を格納するのに適した他の種類の有形若しくは非一時的媒体などの有形媒体を含むことができる。コンピュータ可読信号媒体は、搬送波などの媒体を含むことができる。本明細書において提示されるアルゴリズム及びディスプレイは、いかなる特定のコンピュータ又は他の装置にも本質的に関連するものではない。コンピュータプログラムは、所望の実装形態の動作を実行する命令を含む純粋なソフトウェア実装形態を含むことができる。
様々な汎用システムは、本明細書における例にかかるプログラム及びモジュールと共に使用されることができるか、又は所望の方法ステップを実行するためにより特化した装置を構築するほうが好都合であると認める場合がある。さらに、例示的な実装形態は、任意の特定のプログラミング言語を参照して記載されていない。本明細書に記載されるような例示的な実装形態の教示を実装するために、様々なプログラミング言語が使用されてもよいことが理解される。プログラミング言語の命令は、1又は複数の処理装置、例えば、中央処理装置(CPU)、プロセッサ、又はコントローラによって実行されてもよい。
当該技術分野において公知であるように、上述した動作は、ハードウェア、ソフトウェア、又はソフトウェア及びハードウェアのいくつかの組み合わせによって実行されることができる。例示的な実装形態の様々な態様は、回路及び論理デバイス(ハードウェア)を使用して実装されてもよい一方で、他の態様は、プロセッサによって実行された場合にプロセッサに本出願の実装形態を実行するための方法を実行させる機械可読媒体(ソフトウェア)に格納された命令を使用して実装されてもよい。さらに、本出願のいくつかの例示的な実装形態は、ハードウェアでのみ実行されてもよいのに対して、他の例示的な実装形態は、ソフトウェアでのみ実行されてもよい。さらに、記載された様々な機能は、単一ユニットにおいて実行されることができるか、又は任意数の方法で複数のコンポーネントにわたって分散されることができる。ソフトウェアによって実行される場合、本方法は、コンピュータ可読媒体に格納された命令に基づいて、汎用コンピュータなどのプロセッサによって実行されてもよい。所望により、命令は、圧縮及び/又は暗号化されたフォーマットで媒体に格納されることができる。
さらに、本出願の他の実装形態は、本出願の明細書を検討し、本発明の教示を実施することにより、当業者にとっては明らかであろう。説明された例示的な実装形態の様々な態様及び/又は構成要素は、単独で又は任意の組み合わせで使用可能である。本明細書及び例示的な実装形態は、あくまでも単に例として考慮されるように意図されており、本出願の真の範囲及び精神は、以下の特許請求の範囲によって示される。

Claims (15)

  1. コンピュータに、
    環境に関連付けられたシステムから受信した1又は複数の画像に対して、前記1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、前記1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行うステップと、
    前記異常検出に対し前記異常に基づく異常処理命令を実行するステップと、
    を実行させるためのプログラムであって、
    前記環境が、前記環境に存在すると予想される1又は複数の予想物体に関連付けられており、
    前記システムから受信した前記1又は複数の画像に対して異常検出を行うステップが、
    前記1又は複数の関心領域と前記物体検出との前記マッチングで検出されていない前記1又は複数の予想物体の少なくとも1つに対して、前記環境から除去された前記1又は複数の予想物体の前記少なくとも1つを示す第1の指示を介して前記異常の前記検出を示すこと、
    及び、前記環境に関連付けられた前記1又は複数の予想物体の中には存在しない前記マッチングで検出された物体に対して、前記環境に追加された前記物体を示す第2の指示を介した前記異常の前記検出を示すこと、
    を含む、プログラム。
  2. 前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、前記環境に追加された前記物体に関して、前記環境に関連付けられたユーザにメッセージを送信することを含む、
    請求項1に記載のプログラム。
  3. 前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、プロジェクタシステムを作動させて、前記環境に追加された物体に投影するために、前記システムに命令を送信することを含む、
    請求項1に記載のプログラム。
  4. 前記異常検出が、前記環境から欠落している物体の検出を含み、
    前記異常処理命令が、警告を送信することを含む、
    請求項1に記載のプログラム。
  5. 前記環境が作業ブースである、請求項1に記載のプログラム。
  6. ネットワークを介して複数のシステムを管理するように構成された管理装置であって、 前記複数のシステムの各々が、環境に関連付けられており、
    前記管理装置が、
    前記複数のシステムの1つから受信した1又は複数の画像に対して、前記1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、前記1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行い、
    前記異常検出に対し前記異常に基づく異常処理命令を実行する、
    ように構成されたプロセッサを備え、
    前記環境が、前記環境に存在すると予想される1又は複数の予想物体に関連付けられ、
    前記プロセッサが、
    前記1又は複数の関心領域と前記物体検出との前記マッチングで検出されていない前記1又は複数の予想物体の少なくとも1つに対して、前記環境から除去された前記1又は複数の予想物体の前記少なくとも1つを示す第1の指示を介して前記異常の前記検出を表示し、
    前記環境に関連付けられた前記1又は複数の予想物体の中には存在しない前記マッチングで検出された物体に対して、前記環境に追加された前記物体を示す第2の指示を介した前記異常の前記検出を示すことにより、
    前記システムから受信した前記1又は複数の画像に対して異常検出を行うように構成された、
    管理装置。
  7. 前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、前記環境に追加された前記物体に関して、前記環境に関連付けられたユーザにメッセージを送信することを含む、
    請求項6に記載の管理装置。
  8. 前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、プロジェクタシステムを作動させて、前記環境に追加された物体に投影するために、前記システムに命令を送信することを含む、
    請求項6に記載の管理装置。
  9. 前記異常検出が、前記環境から欠落している物体の検出を含み、
    前記異常処理命令が、警告を送信することを含む、
    請求項6に記載の管理装置。
  10. 前記環境が作業ブースである、請求項6に記載の管理装置。
  11. 環境に関連付けられたシステムであって、
    カメラシステムと、
    前記カメラシステムから受信した1又は複数の画像に対して、前記1又は複数の画像に対して行われた前景セグメント化で抽出された1又は複数の関心領域と、前記1又は複数の画像に対して行われた物体検出で抽出された1又は複数の検出された物体とのマッチングに基づいて、異常の検出を示す異常検出を行い、
    前記異常検出に対し前記異常に基づく異常処理命令を実行するように構成されたプロセッサと、
    備え、
    前記環境が、前記環境に存在すると予想される1又は複数の予想物体に関連付けられ、
    前記プロセッサが、
    前記1又は複数の関心領域と前記物体検出との前記マッチングで検出されていない前記1又は複数の予想物体の少なくとも1つに対して、前記環境から除去された前記1又は複数の予想物体の前記少なくとも1つを示す第1の指示を介して前記異常の前記検出を表示し、
    前記環境に関連付けられた前記1又は複数の予想物体の中には存在しない前記マッチングで検出された物体に対して、前記環境に追加された前記物体を示す第2の指示を介した前記異常の前記検出を示すことにより、
    前記カメラシステムから受信した前記1又は複数の画像に対して異常検出を行うように構成された、
    システム。
  12. 前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、前記環境に追加された前記物体に関して、前記環境に関連付けられたユーザにメッセージを送信することを含む、
    請求項11に記載のシステム。
  13. プロジェクタシステムをさらに備え、
    前記異常検出が、前記環境に追加された物体の検出を含み、
    前記異常処理命令が、前記プロジェクタシステムを作動させて、前記環境に追加された物体に投影することを含む、
    請求項11に記載のシステム。
  14. 前記異常検出が、前記環境から欠落している物体の検出を含み、
    前記異常処理命令が、警告を送信することを含む、
    請求項11に記載のシステム。
  15. 前記環境が作業ブースである、請求項11に記載のシステム。
JP2020120215A 2019-12-11 2020-07-13 プログラム、管理装置、及びシステム Active JP7618973B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/711,314 2019-12-11
US16/711,314 US11216666B2 (en) 2019-12-11 2019-12-11 Understanding normality of an environment using semantic information from images

Publications (2)

Publication Number Publication Date
JP2021093122A JP2021093122A (ja) 2021-06-17
JP7618973B2 true JP7618973B2 (ja) 2025-01-22

Family

ID=76313150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020120215A Active JP7618973B2 (ja) 2019-12-11 2020-07-13 プログラム、管理装置、及びシステム

Country Status (3)

Country Link
US (1) US11216666B2 (ja)
JP (1) JP7618973B2 (ja)
CN (1) CN113052788A (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11069036B1 (en) * 2020-01-03 2021-07-20 GE Precision Healthcare LLC Method and system for real-time and offline de-identification of facial regions from regular and occluded color video streams obtained during diagnostic medical procedures
US12340282B2 (en) * 2020-10-29 2025-06-24 Micron Technology, Inc. Anomaly detection and resolution
US11769256B2 (en) * 2021-02-16 2023-09-26 Avanade Holdings Llc Image creation for computer vision model training
US12463993B2 (en) 2022-10-07 2025-11-04 Dell Products L.P. System and method for memory-less anomaly detection using anomaly thresholds based on probabilities
US12450345B2 (en) * 2022-10-07 2025-10-21 Dell Products L.P. System and method for memory-less anomaly detection using an autoencoder
US12299122B2 (en) 2022-10-07 2025-05-13 Dell Products L.P. System and method for memory-less anomaly detection using anomaly levels
US12488094B2 (en) 2022-10-07 2025-12-02 Dell Products L.P. System and method for memory-less anomaly detection
US12423419B2 (en) 2023-01-20 2025-09-23 Dell Products L.P. System and method for determining types of anomalies while performing memory-less anomaly detection

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013232181A (ja) 2012-04-06 2013-11-14 Canon Inc 画像処理装置、画像処理方法
JP2018056908A (ja) 2016-09-30 2018-04-05 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI114749B (fi) 2000-09-11 2004-12-15 Nokia Corp Poikkeamien ilmaisujärjestelmä ja menetelmä sen opettamiseksi
US8848053B2 (en) * 2006-03-28 2014-09-30 Objectvideo, Inc. Automatic extraction of secondary video streams
US7813528B2 (en) * 2007-04-05 2010-10-12 Mitsubishi Electric Research Laboratories, Inc. Method for detecting objects left-behind in a scene
US8107678B2 (en) * 2008-03-24 2012-01-31 International Business Machines Corporation Detection of abandoned and removed objects in a video stream
CN101587620B (zh) * 2008-05-21 2013-01-02 上海新联纬讯科技发展有限公司 基于视觉监测的静止物体检测的方法
US8724904B2 (en) 2011-10-25 2014-05-13 International Business Machines Corporation Anomaly detection in images and videos
US8675917B2 (en) * 2011-10-31 2014-03-18 International Business Machines Corporation Abandoned object recognition using pedestrian detection
US9723271B2 (en) * 2012-06-29 2017-08-01 Omni Ai, Inc. Anomalous stationary object detection and reporting
AU2012227263A1 (en) * 2012-09-21 2014-04-10 Canon Kabushiki Kaisha Differentiating abandoned and removed object using temporal edge information
US9020190B2 (en) * 2013-01-31 2015-04-28 International Business Machines Corporation Attribute-based alert ranking for alert adjudication
CN103714325B (zh) * 2013-12-30 2017-01-25 中国科学院自动化研究所 基于嵌入式系统的遗留物和遗失物实时检测方法
CN106408554B (zh) * 2015-07-31 2019-07-09 富士通株式会社 遗留物检测装置、方法和系统
KR101841948B1 (ko) * 2015-10-02 2018-03-26 엘지전자 주식회사 차량 내 분실물 예방 서비스 제공장치, 제공방법 및 이동 단말기
WO2017156628A1 (en) * 2016-03-17 2017-09-21 Avigilon Corporation System and method for training object classifier by machine learning
US10628683B2 (en) * 2016-12-05 2020-04-21 Avigilon Corporation System and method for CNN layer sharing
CN117095349A (zh) * 2016-12-05 2023-11-21 摩托罗拉解决方案公司 外观搜索系统、方法和非暂时性计算机可读介质
US10296601B2 (en) * 2017-02-17 2019-05-21 International Business Machines Corporation Identifying abandoned objects
CN108711242A (zh) * 2018-07-16 2018-10-26 山东中洁电讯科技有限公司 投影报警系统及方法
CN109409315B (zh) * 2018-11-07 2022-01-11 浩云科技股份有限公司 一种atm机面板区域遗留物检测方法及系统
WO2020118430A1 (en) * 2018-12-12 2020-06-18 Avigilon Corporation Object left behind detection

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013232181A (ja) 2012-04-06 2013-11-14 Canon Inc 画像処理装置、画像処理方法
JP2018056908A (ja) 2016-09-30 2018-04-05 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
JP2021093122A (ja) 2021-06-17
CN113052788A (zh) 2021-06-29
US11216666B2 (en) 2022-01-04
US20210182556A1 (en) 2021-06-17

Similar Documents

Publication Publication Date Title
JP7618973B2 (ja) プログラム、管理装置、及びシステム
US11195284B2 (en) Target object tracking method and apparatus, and storage medium
EP3382643B1 (en) Automated object tracking in a video feed using machine learning
JP6814673B2 (ja) 移動経路予測装置、及び移動経路予測方法
US8854474B2 (en) System and method for quick object verification
EP3059733A2 (en) Automatic alerts for video surveillance systems
CN108600656B (zh) 在视频中添加面部标签的方法及装置
US20230101001A1 (en) Computer-readable recording medium for information processing program, information processing method, and information processing device
US12266369B2 (en) AI control device, server device connected to AI control device, and AI control method
Sree et al. An evolutionary computing approach to solve object identification problem for fall detection in computer vision-based video surveillance applications
Gillian et al. Gestures everywhere: A multimodal sensor fusion and analysis framework for pervasive displays
Almonfrey et al. A flexible human detection service suitable for Intelligent Spaces based on a multi-camera network
Shete et al. Intelligent embedded video monitoring system for home surveillance
US20230333720A1 (en) Generating presentation information associated with one or more objects depicted in image data for display via a graphical user interface
US20230281993A1 (en) Vision system for classifying persons based on visual appearance and dwell locations
CN113792569B (zh) 对象识别方法、装置、电子设备及可读介质
JP7717242B2 (ja) 情報処理方法、および情報処理システム
US20240144794A1 (en) Surveillance system and surveillance device
Bhumbare et al. Alert Generation on Detection of Suspicious Activity Using Deep Learning
Akshith et al. Action recognition with neural networks
Chinnathampy et al. Image Label Generator for Disaster Management Using Amazon Rekognition
Hassan et al. Real-time video analysis for retail stores
Dahua et al. Multi-camera Large-Scale Intelligent Video Analytics
Kharbanda et al. Enabling Sustainable Development Through Artificial Intelligence-Based Surveillance System
Jain et al. Facial Monitoring Using Gradient Based Approach

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241223

R150 Certificate of patent or registration of utility model

Ref document number: 7618973

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150