JP6943236B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP6943236B2 JP6943236B2 JP2018506787A JP2018506787A JP6943236B2 JP 6943236 B2 JP6943236 B2 JP 6943236B2 JP 2018506787 A JP2018506787 A JP 2018506787A JP 2018506787 A JP2018506787 A JP 2018506787A JP 6943236 B2 JP6943236 B2 JP 6943236B2
- Authority
- JP
- Japan
- Prior art keywords
- marker
- information processing
- predetermined
- information
- numbers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G1/00—Storing articles, individually or in orderly arrangement, in warehouses or magazines
- B65G1/02—Storage devices
- B65G1/04—Storage devices mechanical
- B65G1/137—Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed
- B65G1/1371—Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed with data records
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G2203/00—Indexing code relating to control or detection of the articles or the load carriers during conveying
- B65G2203/04—Detection means
- B65G2203/041—Camera
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Operations Research (AREA)
- General Business, Economics & Management (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Entrepreneurship & Innovation (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Finance (AREA)
- Quality & Reliability (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- Mechanical Engineering (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Description
第一の側面に係る情報処理装置は、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を有する。
第二の側面に係る情報処理方法は、
情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出し、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する、ことを含む。
このコンピュータプログラムは、コンピュータにより実行されたとき、コンピュータに、情報処理装置上で、その情報処理方法を実施させるコンピュータプログラムコードを含む。
本発明の第1の実施の形態に係る情報処理装置、情報処理方法およびプログラムについて、以下説明する。
図1は、本発明の実施の形態に係る情報処理装置100の構成を論理的に示す機能ブロック図である。
情報処理装置100は、商品が置かれている場所を撮像した画像に対する画像認識処理により、商品とは異なっていて、予め定められているマーカを検出する検出部102と、マーカの検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する実行部104と、を備える。
本明細書の各図において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。
情報処理システム1は、撮像カメラ10と、サーバコンピュータ20と、レジ端末30と、を有する。
商品42が存在している場合と、商品42がなくなった場合に、撮像カメラ10の撮影範囲内に入るマーカ50の数や範囲が変わるような位置関係にそれぞれ設置される。
たとえば、撮像カメラ10で撮像された映像データ12が、情報処理装置100に直接送信されて情報処理装置100が逐次受信してもよい。あるいは、撮像カメラ10と、情報処理装置100とがアクセス可能な記憶装置(たとえば、記憶装置110)を設けてもよい。撮像カメラ10により撮像された映像データ12が、記憶装置110に格納され、情報処理装置100が記憶装置110から映像データ12を読み出して取得してもよい。
図5(a)のマーカ情報記憶部112は、予め定められているマーカ50の識別情報(マーカID)と、その特徴情報が記憶される。マーカ50の特徴情報とは、たとえば、マーカ50の画像データであってもよいし、マーカ50の少なくとも一部から抽出される特徴点とその特徴量を少なくとも含む特徴情報でもよい。また、情報処理装置100が検出するマーカ50が1種類の場合、マーカ50の識別情報はなくてもよい。
マーカ50の特徴点とその特徴量は、検出部102が映像データ12からマーカ50を検知するのに必要な特徴点の数と、各特徴点の特徴量を有する。検出部102が用いる画像認識処理の性能等と、マーカ50の種類等により決定されてよい。
図6に示すように、検出結果記憶部120は、検出されたマーカ50のマーカIDに、検出日時情報を関連付けて記憶する。この例では、検出されたマーカ50毎に検出日時を関連付ける構成としたが、他の例では、検出日時に検出されたマーカ50のマーカIDが関連付けられてもよい。
さらに、検出結果記憶部120は、画像から抽出されたマーカ50に対応する画像領域の特徴情報をさらに関連付けて記憶してもよい。
(a1)マーカ50の特徴情報に、マーカ50内の各特徴点の特徴量に位置情報を対応付けて含めて予め記憶しておく。そして、検出された特徴量に対応する特徴点の位置情報から、検出された特徴点が含まれる領域のマーカ50内での範囲が特定できる。
(a2)マーカ50の特徴情報に、撮像カメラ10の所定の撮影範囲内において(撮像カメラ10と撮影対象との相対位置や距離等により定まる)、マーカ50全体が占める領域の大きさ(位置)を予め記憶しておく。検出されたマーカ50の領域の面積を算出し、マーカ50全体の面積と比較する。
この例では、マーカIDがM002のマーカ50(以下、マーカ(M002)とも呼ぶ。)の全領域(または特徴点の特徴量)に対して、所定割合(たとえば、80%)以上の領域(または特徴点の特徴量)が画像認識処理より認識されたことをマーカ(M002)の検出条件とする。すなわち、マーカ(M002)の全領域(または特徴点の特徴量)の20%より大きい領域(または特徴点の特徴量)が画像認識処理により認識されなかった場合は、検出条件を満たさないと判定する。
処理条件130については、後述する実施形態でさらに詳細に説明する。
本実施形態の情報処理装置100は、図4のコンピュータ80のCPU82が、ストレージ85に記憶されるプログラム90をメモリ84に読み出して実行することにより、その各機能を実現することができる。
図8は、本実施形態の情報処理装置100の動作の一例を示すフローチャートである。
本発明の実施の形態に係る情報処理方法は、情報処理装置100の情報処理方法であり、情報処理装置100を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置100が、商品42が置かれている場所を撮像した画像に対する画像認識処理により、予め定められているマーカ50を検出し(ステップS103)、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する(ステップS107)、ことを含む。
次に、本発明の第2の実施の形態に係る情報処理装置200について、以下説明する。
図10は、本発明の第2の実施の形態に係る情報処理装置200の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置200は、検出部202と、実行部204と、特定部206と、を備える。検出部202および実行部204は、図1の情報処理装置100の検出部102および実行部104と同様な機能を有するとともに、さらに、後述する機能を有する。
なお、本実施形態の情報処理装置200の構成は、後述する他の実施形態の情報処理装置の構成と組み合わせることもできる。
特定部206は、検出部202により検出されたマーカ50の種類または場所を特定する。
実行部204は、特定されたマーカ50の種類または場所に応じた処理を実行する。
図11(a)は、2種類のマーカ50aとマーカ50bが棚板44に貼付されている様子を示している。マーカ50aは、ブランドABCのロゴタイプが印刷されている。マーカ50bは、ブランドXYZのロゴタイプが印刷されている。
マーカ50aのマーカIDはM004で、マーカ50bのマーカIDはM006であるとする。
処理条件232に示すように、この例では、映像データ12から検出されるマーカ50の種類(ここでは、マーカID)に応じて、メッセージに、マーカ50に対応するブランド名を含めて通知するようになっている。これにより、不明ロスが発生した商品42がどのブランドのものかを簡易に通知することができる。
実行部204は、特定部206により特定された範囲に応じた処理を実行してもよい。
図13(b)の例では、撮像カメラ10は、マーカ50が設置されている商品棚40の背面板46の表面と対面する横方向の位置に設置され、商品棚40の背面板46方向を撮像する。
図14(b)は、商品棚40に商品42が多数陳列されている様子を示している。このように、多数の商品42が商品棚40の棚板44上に陳列されている場合には、マーカ50のほとんどの部分は商品42によって隠されている。よって検出部102は、画像認識処理により、マーカ50を認識しない。
処理条件230に示すように、本実施形態では、図14(a)のマーカ(M003)の検出結果から、たとえば、マーカ(M003)に記載されている数字の1〜7の見え方(マーカ50の検出範囲に相当)によって通知するアラームのレベルを変えるようになっている。すなわち、検出されたマーカ50の検出範囲に応じて処理を変えている。処理条件230では、検出される数字の最大値(たとえば、1〜5が見える場合、最大値5)が含まれる範囲が検出範囲として設定されている。
この例では、検出結果が条件を満たす場合に設定されるアラームレベルを実行部104はメッセージとして出力する。
すなわち、図14(c)の例では、映像データ12からマーカの数字の1が検出されるので、アラームレベルに1が設定され、メッセージが出力される。
図14(d)の例では、映像データ12からマーカの数字の1〜4が検出されるので、最大値4が含まれる検出範囲(2〜5)に対応するアラームレベルに2が設定され、メッセージが出力される。
図14(a)の例では、映像データ12からマーカの数字の1〜7が検出されるので、最大値7が含まれる検出範囲(6〜7)に対応するアラームレベル3が設定され、メッセージが出力される。
マーカ50の画像データからマーカ50の特徴を機械学習型検知エンジンにより学習させ、その特徴を学習ライブラリ(マーカ情報記憶部112に相当)に登録する。さらに、学習されたマーカ50を、その設置場所の情報に関連付けてマーカ位置情報記憶部114に登録する。または、設置場所の情報(場所を特定できる画像または情報を用いる)も機械学習により学習させて学習ライブラリ(マーカ位置情報記憶部114に相当)に登録させてもよい。
本実施形態のコンピュータプログラムは、情報処理装置200を実現させるためのコンピュータ80に、検出されたマーカ50の種類または場所を特定する手順、特定されたマーカ50の種類または場所に応じた処理を実行する手順、を実行させるように記述されている。
図16は、本実施形態の情報処理装置200の動作の一例を示すフローチャートである。
本実施形態の情報処理装置200におけるフローチャートは、図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101、ステップS103、およびステップS107)を有するとともに、さらに、ステップS201とステップS203を有する。
本実施形態の情報処理方法は、情報処理装置200が、検出されたマーカ50の種類または場所(または範囲)を特定し(ステップS201)、特定されたマーカ50の種類または場所に応じた処理を実行する(ステップS107)、ことを含む。
図8で説明したように、ステップS103で、検出部202が、予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
さらに、特定部206が、検出できたマーカ50の範囲を特定する(ステップS201)。ここでは、マーカ50内の数字を画像認識処理により認識する。たとえば、図14(d)の場合、数字1〜4が特定される。
そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(2〜5)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル2に設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
この構成によれば、上記実施形態と同様な効果を奏するとともに、さらに、マーカ50の種類、場所、および範囲に応じて、様々な処理を対応させて実行させることが可能になる。
次に、本発明の第3の実施の形態に係る情報処理装置300について、以下説明する。
図17は、本発明の実施の形態に係る情報処理装置300の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置300は、上記実施形態とは、マーカ50の検出結果を時系列で記憶し、以前に検出されたマーカ50と今回検出されたマーカ50の差分に応じて処理を変える点で相違する。
検出部302は、上記実施形態の検出部102と同様な機能を有するとともに、さらに、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める。
実行部304は、検出部302により検出されたマーカ50の差分に応じた処理を実行する。
本実施形態では、後者とし、前回の検出結果から閾値以上の特徴量の変化が検出された場合にのみ検出結果が記録される。
(b1)検出されるマーカ領域の面積の差分
(b2)検出されるマーカに含まれる所定のオブジェクト(たとえば、文字、マーク等)の数の差分
(b3)検出されるマーカに含まれる所定の数字の最大値または最小値(あるいは、範囲)の差分
(b4)検出されるマーカの種類の数の差分
(c1)検出処理の周期毎
(c2)検出結果が記録される毎
(c3)所定時間毎(5分毎等)、所定時刻毎(毎時等)等
図13(b)に示すように、本実施形態では、商品棚40の背面板46に下から上に向かって1〜6の数字が並んでいるマーカ50が設置されている。
この例では、商品棚40の棚板44毎に検出結果を記憶しているが、これに限定されない。
検出結果記憶部320aは、棚板44(T1001)におけるマーカ50の検出結果が記録されている。
そして、検出部302は、数字6を検出日時情報に関連付けて検出結果記憶部320a(図19(a))に記憶する。本実施形態では、認識された数字の最小値が検出結果に記録される。マーカ50に記載される数字の順序と商品42の陳列方法によって、数字の最小値、最大値、および範囲のいずれかを検出結果として記録するか決めることができる。本実施形態では、商品42が減少するにつれて、現れる数字が6から1に徐々に小さくなるので、商品42の減り具合を示す指標として、数字の最小値を用いる。
はじめ、商品42が商品棚40いっぱいに置かれている状態(図18(a))であるため、マーカは検出されない。そこで、何も検出されなかったことを示す数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320b(図19(b))に記憶される。
そして、実行部304が、検出されたマーカ50の差分に応じた処理を実行する。
処理条件330に示すように、本実施形態では、マーカの差分に応じた処理が対応付けられている。たとえば、この例では、検出されたマーカの数字の最小値の差分が、−5以下を検出条件として、条件を満たす場合の処理が定められている。
差分が−5より小さい場合は、通知を行う。条件を満たさない場合は、何も処理を行わない。
本実施形態のコンピュータプログラムは、情報処理装置300を実現させるためのコンピュータ80に、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶する手順、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める手順、検出されたマーカ50の差分に応じた処理を実行する手順、を実行させるように記述されている。
図21は、本実施形態の情報処理装置300の動作の一例を示すフローチャートである。
本実施形態の情報処理装置300におけるフローチャートは、図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101〜ステップS107)を有するとともに、さらに、ステップS301とステップS303を有する。
本実施形態の情報処理方法は、情報処理装置300が、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し(ステップS301)、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、検出されたマーカ50の差分に応じた処理を実行する(ステップS105、ステップS107)、ことを含む。
はじめに、通常の商品販売時の動作例について説明する。
まず、図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が−5以下ではないので(ステップS105のNO)、ステップS107をバイパスし、何も処理せずに、本処理を終了する。
まず、図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が−5以下の検出条件を満たすことを判定し(ステップS105のYES)、商品42が大量になくなったことを示すメッセージ等を所定の端末に通知する処理を行い(ステップS107)、本処理を終了する。
たとえば、検出部によるマーカ検出対象範囲を定めるための基準となる基準マーカ60をマーカ50とは別に設置してもよい。
基準マーカ60aの検出範囲62aは破線で示され、基準マーカ60bの検出範囲62bは、一点鎖線で示されている。
図23は、本発明の情報処理装置400の実施例のシステム構成例を概念的に示す図である。
この例では、情報処理装置400は、映像取得機能部402と、検知エンジン制御機能部404と、マーカ学習機能部406と、結果閲覧ビューワ408と、を有する。
なお、本発明において利用者に関する情報を取得、利用する場合は、これを適法に行うものとする。
1. 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する検出手段と、
前記差分に応じた処理を実行する実行手段と、を備える、情報処理装置。
2. 複数の前記マーカが前記場所に設定されており、
前記検出手段は、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、1.に記載の情報処理装置。
3. 複数の前記マーカが前記場所に設定されており、
検出された前記マーカの種類または場所を特定する特定手段をさらに備え、
前記実行手段は、
特定された前記マーカの種類または場所に応じた処理を実行する、1.または2.に記載の情報処理装置。
4. 複数の前記マーカが前記場所に設定されており、
前記実行手段は、
検出された前記マーカの組み合わせに応じた処理を実行する、3.に記載の情報処理装置。
5. 前記特定手段は、さらに、前記マーカのうち検出できた範囲を特定し、
前記実行手段は、
前記特定手段により特定された前記範囲に応じた処理を実行する、3.または4.に記載の情報処理装置。
6. 前記検出手段は、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、1.から5.いずれか一つに記載の情報処理装置。
7. 前記実行手段により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、1.から6.いずれか一つに記載の情報処理装置。
8. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、7.に記載の情報処理装置。
9. 前記所定の情報は、アラート情報を含む、7.または8.に記載の情報処理装置。
10. 前記実行手段により実行される前記予め定められた処理は、前記検出手段による前記マーカの検出結果に関する情報を通知する処理を含む、1.から9.いずれか一つに記載の情報処理装置。
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出し、
前記差分に応じた処理を実行する情報処理方法。
12. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、11.に記載の情報処理方法。
13. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの種類または場所を特定し、
特定された前記マーカの種類または場所に応じた処理を実行する、11.または12.に記載の情報処理方法。
14. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの組み合わせに応じた処理を実行する、13.に記載の情報処理方法。
15. 前記情報処理装置が、
さらに、前記マーカのうち検出できた範囲を特定し、
特定された前記範囲に応じた処理を実行する、13.または14.に記載の情報処理方法。
16. 前記情報処理装置が、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、11.から15.いずれか一つに記載の情報処理方法。
17. 実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、11.から16.いずれか一つに記載の情報処理方法。
18. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、17.に記載の情報処理方法。
19. 前記所定の情報は、アラート情報を含む、17.または18.に記載の情報処理方法。
20. 実行される前記予め定められた処理は、前記マーカの検出結果に関する情報を通知する処理を含む、11.から19.いずれか一つに記載の情報処理方法。
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する手順、
前記差分に応じた処理を実行する手順、を実行させるためのプログラム。
22. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの検出結果を時系列で記憶装置に記憶する手順、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める手順、を実行させるための21.に記載のプログラム。
23. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの種類または場所を特定する手順、
特定された前記マーカの種類または場所に応じた処理を実行する手順、21.または22.に記載のプログラム。
24. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの組み合わせに応じた処理を実行する手順、23.に記載のプログラム。
25. コンピュータに、
さらに、前記マーカのうち検出できた範囲を特定する手順、
前記特定する手順により特定された前記範囲に応じた処理を実行する手順、23.または24.に記載のプログラム。
26. コンピュータに、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する手順、21.から25.いずれか一つに記載のプログラム。
27. 前記実行する手順により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、21.から26.いずれか一つに記載のプログラム。
28. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、27.に記載のプログラム。
29. 前記所定の情報は、アラート情報を含む、27.または28.に記載のプログラム。
30. 前記実行する手順により実行される前記予め定められた処理は、前記検出する手順による前記マーカの検出結果に関する情報を通知する処理を含む、21.から29.いずれか一つに記載のプログラム。
Claims (36)
- 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を備え、
前記マーカは複数の数字を含み、
前記複数の数字各々には、前記物品の配置場所の範囲が対応付けられており、
前記検出手段は、前記マーカから認識された数字の差を前記差分として検出する、情報処理装置。 - 前記実行手段は、前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する、請求項1に記載の情報処理装置。
- 複数の前記マーカが前記場所に設定されており、
検出された前記マーカの種類または場所を特定する特定手段をさらに備え、
前記実行手段は、
特定された前記マーカの種類または場所に応じた処理を実行する、請求項1または2に記載の情報処理装置。 - 複数の前記マーカが前記場所に設定されており、
前記実行手段は、
検出された前記マーカの組み合わせに応じた処理を実行する、請求項3に記載の情報処理装置。 - 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
前記検出手段は、
前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得し、
少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得し、
前記今回数字と以前取得された前記今回数字との差を前記差分として検出する、請求項1から4いずれか一項に記載の情報処理装置。 - 前記検出手段は、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、請求項1から5いずれか一項に記載の情報処理装置。 - 前記実行手段は、前記所定の処理として、所定の情報を出力する処理を行う、請求項1から6いずれか一項に記載の情報処理装置。
- 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項7に記載の情報処理装置。
- 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項7または8に記載の情報処理装置。
- 前記所定の情報は、アラート情報を含む、請求項7から9いずれか一項に記載の情報処理装置。
- 前記実行手段により実行される前記所定の処理は、前記検出手段による前記マーカの検出結果に関する情報を通知する処理を含む、請求項1から10いずれか一項に記載の情報処理装置。
- 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を備え、
前記実行手段は、前記所定の処理として、前記検出手段の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、情報処理装置。 - 情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出し、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行し、
前記マーカは複数の数字を含み、
前記複数の数字各々には、前記物品の配置場所の範囲が対応付けられており、
前記マーカから認識された数字の差を前記差分として検出する、情報処理方法。 - 前記情報処理装置が、
前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する、請求項13に記載の情報処理方法。 - 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの種類または場所を特定し、
特定された前記マーカの種類または場所に応じた処理を実行する、請求項13または14に記載の情報処理方法。 - 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの組み合わせに応じた処理を実行する、請求項15に記載の情報処理方法。 - 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
前記情報処理装置が、
前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得し、
少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得し、
前記今回数字と以前取得された前記今回数字との差を前記差分として検出する、請求項13から16いずれか一項に記載の情報処理方法。 - 前記情報処理装置が、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、請求項13から17いずれか一項に記載の情報処理方法。 - 前記情報処理装置が、
前記所定の処理として、所定の情報を出力する処理を行う、請求項13から18いずれか一項に記載の情報処理方法。 - 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項19に記載の情報処理方法。
- 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項19または20に記載の情報処理方法。
- 前記所定の情報は、アラート情報を含む、請求項19から21いずれか一項に記載の情報処理方法。
- 実行される前記所定の処理は、前記マーカの検出結果に関する情報を通知する処理を含む、請求項13から22いずれか一項に記載の情報処理方法。
- 情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出し、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行し、
前記所定の処理として、前記画像認識処理の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、情報処理方法。 - コンピュータに、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態マーカとの差分を検出する手順、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する手順、を実行させ、
前記マーカは複数の数字を含み、
前記複数の数字の各々には、前記物品の配置場所の範囲が対応付けられており、
前記マーカから認識された数字の差を前記差分として検出する手順を実行させるためのプログラム。 - コンピュータに、
前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する手順、を実行させるための請求項25に記載のプログラム。 - 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの種類または場所を特定する手順、
特定された前記マーカの種類または場所に応じた処理を実行する手順、を実行させるための請求項25または26に記載のプログラム。 - 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの組み合わせに応じた処理を実行する手順、を実行させるための請求項27に記載のプログラム。 - 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
コンピュータに、
前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得する手順、
少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得する手順、
前記今回数字と以前取得された前記今回数字との差を前記差分として検出する手順、を実行させるための請求項25から28いずれか一項に記載のプログラム。 - コンピュータに、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する手順、を実行させるための請求項25から29いずれか一項に記載のプログラム。 - コンピュータに、
前記所定の処理として、所定の情報を出力する処理を行う手順、を実行させるための請求項25から30いずれか一項に記載のプログラム。 - 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項31に記載のプログラム。
- 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項31または32に記載のプログラム。
- 前記所定の情報は、アラート情報を含む、請求項31から33いずれか一項に記載のプログラム。
- 前記実行する手順により実行される前記所定の処理は、前記検出する手順による前記マーカの検出結果に関する情報を通知する処理を含む、請求項25から34いずれか一項に記載のプログラム。
- コンピュータに、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する手順、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する手順、を実行させ、
前記所定の処理として、前記画像認識処理の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021111725A JP7485447B2 (ja) | 2016-03-22 | 2021-07-05 | 情報処理装置、情報処理方法、およびプログラム |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016056565 | 2016-03-22 | ||
| JP2016056565 | 2016-03-22 | ||
| PCT/JP2017/000015 WO2017163532A1 (ja) | 2016-03-22 | 2017-01-04 | 情報処理装置、情報処理方法、およびプログラム |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021111725A Division JP7485447B2 (ja) | 2016-03-22 | 2021-07-05 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2017163532A1 JPWO2017163532A1 (ja) | 2019-01-31 |
| JP6943236B2 true JP6943236B2 (ja) | 2021-09-29 |
Family
ID=59901055
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018506787A Active JP6943236B2 (ja) | 2016-03-22 | 2017-01-04 | 情報処理装置、情報処理方法、およびプログラム |
| JP2021111725A Active JP7485447B2 (ja) | 2016-03-22 | 2021-07-05 | 情報処理装置、情報処理方法、およびプログラム |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021111725A Active JP7485447B2 (ja) | 2016-03-22 | 2021-07-05 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US10922571B2 (ja) |
| JP (2) | JP6943236B2 (ja) |
| WO (1) | WO2017163532A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021170360A (ja) * | 2016-03-22 | 2021-10-28 | 日本電気株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| BR102018003125B1 (pt) * | 2018-02-19 | 2022-05-10 | Petróleo Brasileiro S.A. - Petrobras | Método para reconhecimento ótico de marcadores em ambiente externo |
| CN112580411A (zh) * | 2019-09-30 | 2021-03-30 | 深圳云天励飞技术有限公司 | 一种货架缺货告警方法、装置、货架、系统及电子设备 |
| WO2021090755A1 (ja) | 2019-11-05 | 2021-05-14 | 日本電気株式会社 | 管理装置、管理方法、およびプログラム |
| JP7443938B2 (ja) * | 2020-06-01 | 2024-03-06 | コニカミノルタ株式会社 | 物品の認識方法、プログラム、および情報処理装置 |
| JP7464460B2 (ja) * | 2020-06-22 | 2024-04-09 | 日本電気通信システム株式会社 | 情報処理装置、分布状況検知システム、分布状況検知方法およびコンピュータプログラム |
| JP7625892B2 (ja) * | 2021-02-25 | 2025-02-04 | 沖電気工業株式会社 | 情報処理装置、情報処理方法、情報処理システムおよびプログラム |
Family Cites Families (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11281754A (ja) | 1998-03-30 | 1999-10-15 | Matsushita Electric Works Ltd | 在庫管理装置 |
| US6155438A (en) * | 1998-05-14 | 2000-12-05 | Close; James Garth | System and method for product display, arrangement and rotation |
| JP2000030138A (ja) * | 1998-07-10 | 2000-01-28 | Fuji Electric Co Ltd | 自動販売機 |
| JP2000184361A (ja) | 1998-12-17 | 2000-06-30 | Victor Co Of Japan Ltd | エッジ抽出差分カメラ |
| EP1422657A1 (en) * | 2002-11-20 | 2004-05-26 | Setrix AG | Method of detecting the presence of figures and methods of managing a stock of components |
| US8113601B2 (en) * | 2004-02-03 | 2012-02-14 | Rtc Industries, Inc. | Product securement and management system |
| JP4159572B2 (ja) * | 2005-09-15 | 2008-10-01 | 学校法人帝京大学 | 異常報知装置および異常報知方法 |
| JP4948343B2 (ja) * | 2007-09-27 | 2012-06-06 | 綜合警備保障株式会社 | 画像抽出装置および画像抽出方法 |
| US8091782B2 (en) * | 2007-11-08 | 2012-01-10 | International Business Machines Corporation | Using cameras to monitor actual inventory |
| JP2010211451A (ja) * | 2009-03-10 | 2010-09-24 | Okamura Corp | 商品検出ユニット |
| US8234007B2 (en) * | 2009-03-18 | 2012-07-31 | Garson Brent D | Method and apparatus for use in a vending machine |
| JP5185196B2 (ja) * | 2009-05-27 | 2013-04-17 | 高千穂交易株式会社 | 防犯装置、その制御方法、プログラム、及び防犯システム |
| JP4846835B2 (ja) | 2009-09-11 | 2011-12-28 | 三菱電機インフォメーションシステムズ株式会社 | 情報管理システム及び管理装置及び管理プログラム |
| US8924262B2 (en) * | 2010-12-09 | 2014-12-30 | Gary Stephen Shuster | Automatic resupply of consumable commodities |
| JP2012174154A (ja) | 2011-02-24 | 2012-09-10 | Fujitsu Frontech Ltd | 在庫状況管理方法および在庫状況管理装置 |
| JP5823270B2 (ja) | 2011-11-30 | 2015-11-25 | Kddi株式会社 | 画像認識装置及び方法 |
| US9530060B2 (en) * | 2012-01-17 | 2016-12-27 | Avigilon Fortress Corporation | System and method for building automation using video content analysis with depth sensing |
| CN104854610A (zh) * | 2012-12-04 | 2015-08-19 | 日本电气株式会社 | 商品管理系统、商品管理方法和存储商品管理程序的非瞬时计算机可读介质 |
| JP6108159B2 (ja) * | 2013-03-04 | 2017-04-05 | 日本電気株式会社 | 情報処理システム、情報処理装置およびその制御方法と制御プログラム |
| DE102013016356A1 (de) * | 2013-10-01 | 2015-04-02 | Connaught Electronics Ltd. | Verfahren zum Nutzen eines Kamerasystems eines Kraftfahrzeugs als Diebstahlwarnanlage, Kamerasystem und Kraftfahrzeug |
| JP2015176227A (ja) | 2014-03-13 | 2015-10-05 | 富士通株式会社 | 監視方法、監視装置および監視プログラム |
| US10002342B1 (en) * | 2014-04-02 | 2018-06-19 | Amazon Technologies, Inc. | Bin content determination using automated aerial vehicles |
| JP2015210651A (ja) * | 2014-04-25 | 2015-11-24 | サントリーシステムテクノロジー株式会社 | 商品識別システム |
| JP2015219781A (ja) * | 2014-05-19 | 2015-12-07 | 東芝テック株式会社 | 発注装置およびプログラム |
| JP6484956B2 (ja) * | 2014-08-18 | 2019-03-20 | 富士通株式会社 | 陳列状況管理方法、陳列状況管理プログラムおよび情報処理装置 |
| US20170193430A1 (en) * | 2015-12-31 | 2017-07-06 | International Business Machines Corporation | Restocking shelves based on image data |
| JP6943236B2 (ja) * | 2016-03-22 | 2021-09-29 | 日本電気株式会社 | 情報処理装置、情報処理方法、およびプログラム |
-
2017
- 2017-01-04 JP JP2018506787A patent/JP6943236B2/ja active Active
- 2017-01-04 WO PCT/JP2017/000015 patent/WO2017163532A1/ja not_active Ceased
- 2017-01-04 US US16/085,259 patent/US10922571B2/en active Active
-
2021
- 2021-07-05 JP JP2021111725A patent/JP7485447B2/ja active Active
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021170360A (ja) * | 2016-03-22 | 2021-10-28 | 日本電気株式会社 | 情報処理装置、情報処理方法、およびプログラム |
| JP7485447B2 (ja) | 2016-03-22 | 2024-05-16 | 日本電気株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2021170360A (ja) | 2021-10-28 |
| US10922571B2 (en) | 2021-02-16 |
| US20190080192A1 (en) | 2019-03-14 |
| WO2017163532A1 (ja) | 2017-09-28 |
| JP7485447B2 (ja) | 2024-05-16 |
| JPWO2017163532A1 (ja) | 2019-01-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6943236B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
| JP7245321B2 (ja) | スキャン漏れ識別方法および装置、セルフサービス・キャッシュ・レジスタ端末およびシステム | |
| JP7318697B2 (ja) | 商品監視システム、出力先装置、商品監視方法、表示方法及びプログラム | |
| US20180115749A1 (en) | Surveillance system and surveillance method | |
| JP2019503019A5 (ja) | ||
| CN104871198A (zh) | 商品信息处理装置、其数据处理方法和程序 | |
| WO2018008575A1 (ja) | 不審者検出装置、不審者検出方法およびプログラム | |
| JP5673888B1 (ja) | 情報通知プログラム及び情報処理装置 | |
| EP4047538A1 (en) | Self-checkout system and method | |
| US20110215932A1 (en) | Security system and method | |
| JP7661964B2 (ja) | 登録確認装置、制御方法、およびプログラム | |
| JP2019193089A (ja) | 映像解析装置 | |
| US20220292445A1 (en) | Work assistance system, work assistance device, work assistance method, and program | |
| JP7318753B2 (ja) | 情報処理プログラム、情報処理方法、および情報処理装置 | |
| EP4160550A1 (en) | Information processing program, information processing method, and information processing device | |
| JP5903557B2 (ja) | セキュリティシステム | |
| US20230394555A1 (en) | Information processing method, information processing device, and recording medium | |
| JP2022011704A (ja) | 画像処理装置、画像処理方法およびプログラム | |
| JP7590009B2 (ja) | 処理装置、処理方法及びプログラム | |
| JP7848861B2 (ja) | 学習用データ生成装置、商品数確認装置、学習用データ生成方法、商品数確認方法、及びプログラム | |
| JP7799088B2 (ja) | 報知システム、報知方法、およびプログラム | |
| KR102801797B1 (ko) | 적어도 하나의 카메라를 이용하여 촬영된 영상을 처리하는 카메라 제어 장치 및 방법 | |
| US20220092573A1 (en) | Portable terminal and information processing method for a portable terminal | |
| JP2026072041A (ja) | Posシステム及びposシステム運用方法 | |
| TWI621076B (zh) | 結帳管理系統 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180829 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191211 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210302 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210316 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210601 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210705 |
|
| C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20210705 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20210713 |
|
| C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20210720 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210810 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210823 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6943236 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |