Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6943236B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
[go: Go Back, main page]

JP6943236B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP6943236B2
JP6943236B2 JP2018506787A JP2018506787A JP6943236B2 JP 6943236 B2 JP6943236 B2 JP 6943236B2 JP 2018506787 A JP2018506787 A JP 2018506787A JP 2018506787 A JP2018506787 A JP 2018506787A JP 6943236 B2 JP6943236 B2 JP 6943236B2
Authority
JP
Japan
Prior art keywords
marker
information processing
predetermined
information
numbers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018506787A
Other languages
English (en)
Other versions
JPWO2017163532A1 (ja
Inventor
厚志 守谷
厚志 守谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2017163532A1 publication Critical patent/JPWO2017163532A1/ja
Priority to JP2021111725A priority Critical patent/JP7485447B2/ja
Application granted granted Critical
Publication of JP6943236B2 publication Critical patent/JP6943236B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G1/00Storing articles, individually or in orderly arrangement, in warehouses or magazines
    • B65G1/02Storage devices
    • B65G1/04Storage devices mechanical
    • B65G1/137Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed
    • B65G1/1371Storage devices mechanical with arrangements or automatic control means for selecting which articles are to be removed with data records
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2203/00Indexing code relating to control or detection of the articles or the load carriers during conveying
    • B65G2203/04Detection means
    • B65G2203/041Camera
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/245Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Software Systems (AREA)
  • Operations Research (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Finance (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Mechanical Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、情報処理装置、情報処理方法、およびプログラムに関する。
陳列された商品の状況を監視する装置の一例が特許文献1に記載されている。特許文献1の監視装置は、撮像カメラの画像データを元に商品の移動の有無を検知し、さらに、商品の配置領域の周囲に位置する人物の向きを検知し、それぞれの検知結果に基づいて、警告情報を出力する。たとえば、商品配置領域から商品がなくなったことが検知され、かつ、顧客の向きが商品配置領域の向きでないことが検知された場合に、商品が万引きなどの不正行為によりなくなった可能性があることを通知するメッセージを出力する。
また、特許文献2には、在庫切れを確認する在庫管理装置が記載されている。特許文献2に記載の在庫管理装置は、赤外領域の光に対して反射率が高いインクで印刷された目印と、目印上に配置される管理対象物と、目印を撮像する撮像手段と、撮像画像から目印を識別する画像処理手段と、目印が識別されない場合は、管理対象物が存在し在庫があると判断し、目印が識別された場合は管理対象物が存在せず在庫なしと判断するとともに、識別した目印から存在しない管理対象物の情報を獲得する中央処理装置と、を備える。この構成により容易に在庫切れを確認できる。
特開2015−176227号公報 特開平11−281754号公報
上述した特許文献記載の技術においては、商品がなくなったことを検知し、なくなった商品の周辺にいる人物の向きを検知し、万引きなどの不正行為を検出することや、商品がなくなったことを検知し、なくなった商品を特定することで在庫管理を行うことはできるが、情報処理装置の処理負荷が高くなってしまう。
本発明は上記事情に鑑みてなされたものであり、その目的とするところは、商品の増減を簡易に効率よく検知する情報処理装置、情報処理方法およびプログラムを提供することにある。
本発明の各側面では、上述した課題を解決するために、それぞれ以下の構成を採用する。
第一の側面は、情報処理装置に関する。
第一の側面に係る情報処理装置は、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以の検出状態との差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を有する。
第二の側面は、少なくとも1つのコンピュータにより実行される情報処理方法に関する。
第二の側面に係る情報処理方法は、
情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以の検出状態との差分を検出し、
所定値の前記差分の変化に要した時間に応じて所定の処理を実行する、ことを含む。
なお、本発明の他の側面としては、上記第二の側面の方法を少なくとも1つのコンピュータに実行させるプログラムであってもよいし、このようなプログラムを記録したコンピュータが読み取り可能な記録媒体であってもよい。この記録媒体は、非一時的な有形の媒体を含む。
このコンピュータプログラムは、コンピュータにより実行されたとき、コンピュータに、情報処理装置上で、その情報処理方法を実施させるコンピュータプログラムコードを含む。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
また、本発明の各種の構成要素は、必ずしも個々に独立した存在である必要はなく、複数の構成要素が一個の部材として形成されていること、一つの構成要素が複数の部材で形成されていること、ある構成要素が他の構成要素の一部であること、ある構成要素の一部と他の構成要素の一部とが重複していること、等でもよい。
また、本発明の方法およびコンピュータプログラムには複数の手順を順番に記載してあるが、その記載の順番は複数の手順を実行する順番を限定するものではない。このため、本発明の方法およびコンピュータプログラムを実施するときには、その複数の手順の順番は内容的に支障のない範囲で変更することができる。
さらに、本発明の方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生すること、ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複していること、等でもよい。
上記各側面によれば、商品の増減を簡易に効率よく検知する情報処理装置、情報処理方法およびプログラムを提供することができる。
上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。
本発明の実施の形態に係る情報処理装置の構成を論理的に示す機能ブロック図である。 本発明の実施の形態に係る情報処理装置を含む情報処理システムのシステム構成を概念的に示す図である。 本実施形態のマーカの設置例を示す。 本発明の実施の形態に係る各装置を実現するコンピュータの構成の一例を示す図である。 本実施形態の情報処理装置がアクセスする記憶装置に記憶される各情報に関する記憶部のデータ構造の例を示す図である。 本実施形態の情報処理装置がアクセスする記憶装置の検出結果記憶部のデータ構造の一例を示す図である。 本実施形態の情報処理装置の処理条件の一例を示す図である。 本実施形態の情報処理装置の動作の一例を示すフローチャートである。 本実施形態の情報処理装置のマーカ検出処理を説明するための図である。 本発明の実施の形態に係る情報処理装置の論理的な構成を示す機能ブロック図である。 本実施形態の情報処理装置のマーカ検出処理を説明するための図である。 本実施形態の情報処理装置の処理条件の一例を示す図である。 本実施形態の情報処理装置のマーカ設置例を示す図である。 本実施形態の情報処理装置のマーカ検出処理を説明するための図である。 本実施形態の情報処理装置の処理条件の一例を示す図である。 本実施形態の情報処理装置の動作の一例を示すフローチャートである。 本発明の実施の形態に係る情報処理装置の論理的な構成を示す機能ブロック図である。 本実施形態の情報処理装置のマーカ検出処理を説明するための図である。 本実施形態の情報処理装置がアクセスする記憶装置の検出結果記憶部のデータ構造の一例を示す図である。 本実施形態の情報処理装置の処理条件の一例を示す図である。 本実施形態の情報処理装置の動作の一例を示すフローチャートである。 本実施形態の情報処理装置のマーカ設置例を示す図である。 本発明の情報処理装置の実施例のシステム構成例を概念的に示す図である。
以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
(第1の実施の形態)
本発明の第1の実施の形態に係る情報処理装置、情報処理方法およびプログラムについて、以下説明する。
図1は、本発明の実施の形態に係る情報処理装置100の構成を論理的に示す機能ブロック図である。
情報処理装置100は、商品が置かれている場所を撮像した画像に対する画像認識処理により、商品とは異なっていて、予め定められているマーカを検出する検出部102と、マーカの検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する実行部104と、を備える。
情報処理装置100は、さらに、記憶装置110にアクセス可能に接続される。記憶装置110は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置100に含まれてもよいし、外部装置であってもよい。
図2は、本発明の実施の形態に係る情報処理装置100を含む情報処理システム1のシステム構成を概念的に示す図である。
本明細書の各図において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。
情報処理システム1は、撮像カメラ10と、サーバコンピュータ20と、レジ端末30と、を有する。
撮像カメラ10は、売り場または在庫保管場所等の商品棚40を撮像するものである。図では、1台のみ図示してあるが、複数台有してよい。撮像カメラ10は、商品棚40に陳列または保管されている商品42と、商品42が置かれている場所の周辺の予め定められた位置に設置されるマーカ50とを撮像する。商品棚40には、商品42が複数個、置かれているものとする。たとえば、商品棚40に商品42が残っている場合には、マーカ50の少なくとも一部は、商品42により隠され、撮像カメラ10により撮像された映像データ12にもマーカ50の少なくとも一部が写らないようになっている。
マーカ50は、商品42とは異なるものとする。マーカ50は、たとえば、ロゴタイプ、シンボルマーク、記号、図案、模様、写真、絵、文字、数字、傷、およびバーコード等、様々な形態で表現でき、さらに、これらのうちいずれか複数を組み合わせてもよい。また、マーカ50は、商品42に関連があってもなくてもよく、また、意味があってもなくてもよい。また、マーカ50のサイズ、形状、配色、光沢の度合い、発光の有無、個数等も特に限定されず、様々な形態のものが考えられる。また、マーカ50は、平面構造でなくてもよく、立体的な構造を有していてもよい。また、後述する実施形態では、マーカ50の種類や個数に応じて、処理を変える構成について説明する。
マーカ50の設置方法は、特に限定されない。たとえば、商品棚40の棚板、背板、支柱の表面に貼付されても、載置されても、掛けられても、取り付けられても、埋め込まれても、印刷されても、または描かれてもよい。また、マーカ50の設置場所は、商品棚40だけでなく、商品42が置かれている場所周辺の什器、壁、天井、床および建具の少なくともいずれか一つであってもよい。
また、マーカ50は商品棚40等に設置される以外に、商品棚40そのものの少なくとも一部、または、商品42が置かれている場所周辺の什器、壁、天井、床および建具の少なくともいずれか一つの少なくとも一部をマーカ50としてもよい。あるいは、商品棚40の一部または周辺(たとえば、背面や棚板等)にディスプレイを設け、ディスプレイにマーカ50を表示してもよい。
また、商品棚40全体、または各棚板をマーカ50とする仕様では、各商品棚40または各棚板に収容される商品のサイズ、形状、色等が異なるので、商品が収容されている各商品棚40全体または各棚板をマーカ50とすることができる。たとえば、各商品棚40または各棚板に対応する撮像画像領域の中で、時間経過の中で一定の差分が検出された場合に、所定のメッセージ(大量盗難発生等のアラート情報)を送信してもよく、商品棚40または棚板毎に、条件および処理内容を設定できてよい。
マーカ50の設置位置と撮像カメラ10の設置位置(撮影方向、視野角、および撮影範囲の設定も含む)と物品(以後、「商品」とも呼ぶ)42の配置の関係は、以下に示すようになるのが好ましい。
商品42が存在している場合と、商品42がなくなった場合に、撮像カメラ10の撮影範囲内に入るマーカ50の数や範囲が変わるような位置関係にそれぞれ設置される。
図3は、本実施形態のマーカ50の設置例を示す。たとえば、図3(a)は、商品棚40の棚板44の表面にマーカ50が貼付されている様子を示している。図3(b)は、複数の商品42が棚板44の上に置かれ、マーカ50が商品42によって隠れて見えなくなっている様子を示している。図3(c)は、商品42がほとんどなくなり、マーカ50が現れている様子を示している。
撮像カメラ10は商品棚40の棚板44の上方に設けられる。さらに、商品42が存在している時はマーカ50が映像データ12にほとんど写らず、商品42がなくなった時はマーカ50が映像データ12に写るように撮影できるように、撮像カメラ10の撮影方向、視野角、および撮影範囲が設定される。
図2に戻り、撮像カメラ10で撮像された映像データ12は、サーバコンピュータ20に送信される。撮像カメラ10とサーバコンピュータ20間の接続および通信方法は特に限定されないが、所定の暗号化処理および認証手続きを行い、セキュアな通信環境にあるものとする。接続は、有線でも無線でもよい。
また、撮像カメラ10とサーバコンピュータ20は直接接続されてもよいし、間接的に接続されてもよい。
たとえば、撮像カメラ10で撮像された映像データ12が、情報処理装置100に直接送信されて情報処理装置100が逐次受信してもよい。あるいは、撮像カメラ10と、情報処理装置100とがアクセス可能な記憶装置(たとえば、記憶装置110)を設けてもよい。撮像カメラ10により撮像された映像データ12が、記憶装置110に格納され、情報処理装置100が記憶装置110から映像データ12を読み出して取得してもよい。
本実施形態では、たとえば、撮像カメラ10にIP(Internet Protocol)カメラ等のウェブカメラを用いる。IPカメラは、たとえば、無線LAN(Local Area Network)通信機能を有し、ルータなどの中継装置(不図示)を介してサーバコンピュータ20に接続されてもよい。
本実施形態では、撮像カメラ10から映像データ12が出力される構成としているが、これに限定されない。動画および静止画の少なくともいずれかの画像データであってよい。データ形式も特に限定されず、撮像カメラ10およびサーバコンピュータ20の仕様、規格、性能等に合わせて、様々な形式のものを採用し得る。
本実施形態では、たとえば、撮像カメラ10は、ONVIF(Open Network Video Interface Forum)準拠したものを用いる。映像データ12は、たとえば、Motion−JPEG(Joint Photographic Experts Group)またはH.264(MPEG−4(Moving Picture Experts Group phase 4) AVC(Part 10 Advanced Video Coding))等に準拠したファイル形式で、記憶装置110に格納されてもよい。
サーバコンピュータ20は、たとえば、本体22と、モニタ24と、キーボード26とを含む。図1の情報処理装置100を実現するコンピュータであり、本体22は、後述する図4にその構成の一例が示される。
モニタ24は、液晶ディスプレイ等であり、本実施形態の情報処理装置100の各種操作画面、および情報処理装置100の検出部102によるマーカ50の検出結果データ28等を表示できる。また、マーカ50の検出結果データ28は、後述するレジ端末30に出力されてもよい。
キーボード26は、サーバコンピュータ20の操作部の一例であり、これに限定されない。サーバコンピュータ20の操作部は、マウス、モニタ24と一体となったタッチパネル等、様々考えられる。
レジ端末30は、たとえば、店員用ディスプレイ32と、顧客用ディスプレイ(不図示)と、スキャナ(不図示)と、入力ボタン(不図示)と、ドロアー(不図示)と、カメラ(不図示)と、を有する。
店員用ディスプレイ32は、タッチパネルの機能を有するディスプレイであり、各種画面を表示するとともに、店員Uaがレジ端末30を操作するための入力を受け付ける。顧客用ディスプレイは、タッチパネルの機能を有するディスプレイであり、各種画面を表示するとともに、顧客が画面を操作するための入力を受け付けてもよい。
スキャナは、ハンディタイプ、または定置型のスキャナであり、精算対象の商品を登録するために利用される種々の読み取り装置である。スキャナは、商品に添付されているコードを読み取るバーコードリーダや、商品や商品に添付されているコードを画像認識するためのカメラである。入力ボタンは、店員Uaの押下操作を受け付ける入力手段である。ドロアーは硬貨や紙幣を格納する。カメラは、レジ端末30の近傍に居る顧客Ub、たとえば、レジ端末30で商品の精算を行っている顧客Ubの顔を撮像してもよい。
上述したように、レジ端末30は、サーバコンピュータ20に接続され、サーバコンピュータ20から検出結果データ28を受信してもよい。レジ端末30の店員用ディスプレイ32は、受信した検出結果データ28を元にマーカ50の検出結果を表示してもよい。レジ端末30とサーバコンピュータ20間の接続および通信方法は特に限定されないが、所定の暗号化処理および認証手続きを行い、セキュアな通信環境にあるものとする。接続は、有線でも無線でもよい。また、図ではレジ端末30は1台のみ示しているが、複数であってもよい。
本実施形態において、レジ端末30、およびサーバコンピュータ20(情報処理装置100)は、いずれもコンピュータを用いて実現される。図4は、このようなコンピュータの構成の一例を示す図である。
本実施形態のコンピュータ80は、CPU(Central Processing Unit)82、メモリ84、メモリ84にロードされた図1の構成要素を実現するプログラム90、そのプログラム90を格納するストレージ85、I/O(Input/Output)86、およびネットワーク接続用インタフェース(通信I/F(InterFace)87)を備える。
CPU82、メモリ84、ストレージ85、I/O86、通信I/F87は、バス89を介して互いに接続され、CPU82により情報処理装置100全体が制御される。ただし、CPU82などを互いに接続する方法は、バス接続に限定されない。
メモリ84は、RAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。ストレージ85は、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどの記憶装置である。
ストレージ85は、RAMやROMなどのメモリであってもよい。ストレージ85は、コンピュータ80の内部に設けられてもよいし、コンピュータ80がアクセス可能であれば、コンピュータ80の外部に設けられ、コンピュータ80と有線または無線で接続されてもよい。あるいは、コンピュータ80に着脱可能に設けられてもよい。
CPU82が、ストレージ85に記憶されるプログラム90をメモリ84に読み出して実行することにより、図1の情報処理装置100の各ユニットの各機能を実現することができる。
I/O86は、コンピュータ80と他の入出力装置間のデータおよび制御信号の入出力制御を行う。他の入出力装置とは、たとえば、コンピュータ80に接続されるキーボード26、タッチパネル(不図示)、マウス(不図示)、およびマイクロフォン(不図示)等の入力装置(不図示)と、ディスプレイ、プリンタ、およびスピーカ等の出力装置(不図示)と、これらの入出力装置とコンピュータ80のインタフェースとを含む。さらに、I/O86は、他の記録媒体の読み取りまたは書き込み装置(不図示)とのデータの入出力制御を行ってもよい。
通信I/F87は、コンピュータ80と外部の装置との通信を行うためのネットワーク接続用インタフェースである。通信I/F87は、有線回線と接続するためのネットワークインタフェースでもよいし、無線回線と接続するためのネットワークインタフェースでもよい。
図1の本実施形態の情報処理装置100の各構成要素は、図4のコンピュータ80(サーバコンピュータ20)のハードウェアとソフトウェアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。以下説明する各実施形態の情報処理装置を示す機能ブロック図は、ハードウェア単位の構成ではなく、論理的な機能単位のブロックを示している。
情報処理装置100は、複数のコンピュータ80により構成されてもよいし、仮想サーバにより実現されてもよい。本実施形態では、情報処理装置100は、サーバコンピュータ20により構成されているが、これに限定されない。
図1に戻り、情報処理装置100において、検出部102は、商品42が置かれている場所(商品棚40)を撮像した画像に対する画像認識処理により、マーカ50を検出する。図2に示すように、情報処理装置100(サーバコンピュータ20)は、撮像カメラ10から映像データ12を取得する。
本明細書において、「取得」とは、自装置が他の装置や記憶媒体に格納されているデータまたは情報を取りに行くこと(能動的な取得)、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、自装置に他の装置から出力されるデータまたは情報を入力すること(受動的な取得)、たとえば、配信(または、送信、プッシュ通知等)されるデータまたは情報を受信すること等、の少なくともいずれか一方を含む。また、受信したデータまたは情報の中から選択して取得すること、または、配信されたデータまたは情報を選択して受信することも含む。
図5は、本実施形態の情報処理装置100がアクセスする記憶装置110に記憶される各情報に関する記憶部のデータ構造の例を示す図である。
図5(a)のマーカ情報記憶部112は、予め定められているマーカ50の識別情報(マーカID)と、その特徴情報が記憶される。マーカ50の特徴情報とは、たとえば、マーカ50の画像データであってもよいし、マーカ50の少なくとも一部から抽出される特徴点とその特徴量を少なくとも含む特徴情報でもよい。また、情報処理装置100が検出するマーカ50が1種類の場合、マーカ50の識別情報はなくてもよい。
さらに、マーカ50の設置領域に対する相対位置、他のマーカ50に対する相対位置等の情報を含んでもよい。
マーカ50の特徴点とその特徴量は、検出部102が映像データ12からマーカ50を検知するのに必要な特徴点の数と、各特徴点の特徴量を有する。検出部102が用いる画像認識処理の性能等と、マーカ50の種類等により決定されてよい。
図5(b)のマーカ位置情報記憶部114は、マーカ50の識別情報と、マーカ50が設置された位置情報を、関連付けて記憶する。図では位置情報に対してマーカIDを紐付けている例を示しているが、他の例では、マーカ毎に位置情報を紐付けて記憶してもよい。
マーカ50の位置情報は、マーカ50が設置されている場所を特定できる情報である。たとえば、店舗のフロアを示す情報、フロア内のエリアを示す情報、商品棚40を示す情報、商品棚40内の棚の位置、または棚の中の位置(たとえば、座標または基準からの相対位置で示される)を示す情報の少なくともいずれか一つを含む。あるいは、マーカ50を撮像する撮像カメラ10を特定する情報であってもよい。さらに、撮像カメラ10の撮影範囲が変更可能な場合、マーカ50が設置された位置に対応する撮像カメラ10の撮影範囲を特定する情報を含んでもよい。
また、マーカ50が設置された位置に対応する、GPS(Global Positioning System)から取得される位置情報も排除されない。
たとえば、検出部102は、画像認識処理により、撮像カメラ10の撮像画像から特徴を抽出し、抽出された特徴の特徴量とマーカ50の特徴量と照合し、マーカ50の少なくとも一部の領域に対応する領域で閾値以上の類似度を有する場合、マーカ50として検出する。
マーカ50の全ての領域ではなく、少なくとも一部の領域とする理由は、後述するように、マーカ50の一部が商品42によって隠されている場合であっても、マーカ50を検出したい場合があるからである。マーカ50の一部が商品42によって隠されていて、マーカ50の全領域が認識されている場合にはマーカ50を検出しないことを検出条件とすることもでき、その場合は、マーカ50の全領域を照合対象としてよい。
検出部102により検出されたマーカ50の検出結果は、図6の検出結果記憶部120に記憶される。
図6に示すように、検出結果記憶部120は、検出されたマーカ50のマーカIDに、検出日時情報を関連付けて記憶する。この例では、検出されたマーカ50毎に検出日時を関連付ける構成としたが、他の例では、検出日時に検出されたマーカ50のマーカIDが関連付けられてもよい。
さらに、検出結果記憶部120は、画像から抽出されたマーカ50に対応する画像領域の特徴情報をさらに関連付けて記憶してもよい。
検出部102は、さらに、マーカ50に対応する画像領域から、予めマーカ50に埋め込まれている情報、たとえば、QRコード(登録商標)等に含まれる商品42の各種情報を抽出してもよい。商品42の各種情報とは、たとえば、商品名、ブランド名、メーカ名、店舗名、販売フロア、販売エリア、および商品棚40のうちの少なくとも一つであってもよい。
画像領域の特徴情報は、たとえば、抽出された特徴量の情報であってもよいし、マーカ50の一部なのか全部なのかを示す情報、マーカ50のどの部分が検出されたかを示す情報、の少なくともいずれか一つを含む。ここで、マーカ50の一部が検出された場合とは、たとえば、商品42が残っていてマーカ50の他の部分を隠しているために画像に含まれない状況が想定される。マーカ50の全部が検出された場合とは、たとえば、商品42のほとんどが商品棚40からなくなった状況が想定される。
マーカ50の一部か全部のいずれが検出されたかの判断方法は様々考えられ、以下に例示されるがこれに限定されない。また、以下を複数組み合わせてもよい。
(a1)マーカ50の特徴情報に、マーカ50内の各特徴点の特徴量に位置情報を対応付けて含めて予め記憶しておく。そして、検出された特徴量に対応する特徴点の位置情報から、検出された特徴点が含まれる領域のマーカ50内での範囲が特定できる。
(a2)マーカ50の特徴情報に、撮像カメラ10の所定の撮影範囲内において(撮像カメラ10と撮影対象との相対位置や距離等により定まる)、マーカ50全体が占める領域の大きさ(位置)を予め記憶しておく。検出されたマーカ50の領域の面積を算出し、マーカ50全体の面積と比較する。
実行部104は、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する。実行部104により実行される予め定められた処理は、所定の情報を端末に送信する処理を含む。所定の情報は、アラート情報を含む。
さらに、所定の情報は、たとえば、大量盗難の発生の可能性があること、または、爆買いなどにより、在庫切れが生じる可能性があること等を示す情報を含んでもよい。さらに、これらが発生した場所(売り場、棚等)および時刻を特定できる情報を含んでもよい。
さらに、所定の情報は、検出されたマーカ50に対応する撮像カメラ10で撮像した画像を特定する情報を含む。画像を特定する情報は、たとえば、撮像カメラ10の識別情報、撮影時刻、および映像データ12のファイル名のうち少なくともいずれか一つを含む。また、映像データ12は、複数フレームで構成される。画像を特定する情報は、たとえば、マーカ50が検出された時のフレーム番号をさらに含んでもよい。この構成によれば、マーカ50が検出された時のフレームを特定できるので、特定されたフレームの前後の映像データ12を管理者が確認することができ、たとえば、不審者等が映像に写っていないかを効率よく行えるようになる。
図7に示す処理条件130の例では、マーカ50の検出条件と、条件が満たされた場合(True)と、満たされない場合(False)のそれぞれ処理を関連付けて示してある。
この例では、マーカIDがM002のマーカ50(以下、マーカ(M002)とも呼ぶ。)の全領域(または特徴点の特徴量)に対して、所定割合(たとえば、80%)以上の領域(または特徴点の特徴量)が画像認識処理より認識されたことをマーカ(M002)の検出条件とする。すなわち、マーカ(M002)の全領域(または特徴点の特徴量)の20%より大きい領域(または特徴点の特徴量)が画像認識処理により認識されなかった場合は、検出条件を満たさないと判定する。
そして、条件が満たされた場合(True)には、通知を行い、満たされない場合(False)には、何もしないことが定められているものとする。
ここでは、たとえば、マーカ50が検出されたことを示すメッセージを通知する。あるいは、他の例では、マーカ50に対応する商品42の名称や商品棚40の位置情報をメッセージに含めて通知してもよい。たとえば、サーバコンピュータ20のモニタ24にメッセージを表示したり、レジ端末30にメッセージを送信して店員用ディスプレイ32にメッセージを表示させてもよい。
送信先の宛先情報は、処理条件130に関連付けて記憶し、検出条件毎に宛先を変えられる構成としてもよいし、検出条件に依らず所定の宛先に送信する構成としてもよい。
処理条件130は、所定の記憶部(不図示)に記憶しておいて、画像認識処理時に記憶部を参照して処理条件130を取得して判定処理を行ってもよいし、処理条件130による判定処理をプログラムに記載してもよい。
処理条件130は、マーカ50毎に定めてもよいし、マーカ50の種類毎に定めてもよいし、マーカ50の設置場所毎に定めてもよいし、マーカ50の種類と設置場所の組み合わせに応じて定めてもよい。異なる種類や異なる設置場所に同じ処理条件130を定めてもよい。
処理条件130については、後述する実施形態でさらに詳細に説明する。
このように構成された情報処理装置100を実現するコンピュータプログラムについて以下説明する。
本実施形態の情報処理装置100は、図4のコンピュータ80のCPU82が、ストレージ85に記憶されるプログラム90をメモリ84に読み出して実行することにより、その各機能を実現することができる。
本発明の実施の形態に係るコンピュータプログラム90は、情報処理装置100を実現させるためのコンピュータ80に、商品42が置かれている場所(商品棚40)を撮像した画像に対する画像認識処理により、商品42とは異なっていて、予め定められているマーカ50を検出する手順、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する手順、を実行させるように記述されている。
本実施形態のコンピュータプログラム90は、コンピュータ80で読み取り可能な記録媒体に記録されてもよい。記録媒体は特に限定されず、様々な形態のものが考えられる。また、プログラム90は、記録媒体からコンピュータ80のメモリ84にロードされてもよいし、ネットワークを通じてコンピュータ80にダウンロードされ、メモリ84にロードされてもよい。
コンピュータプログラム90を記録する記録媒体は、非一時的な有形のコンピュータ80が使用可能な媒体を含み、その媒体に、コンピュータ80が読み取り可能なプログラムコードが埋め込まれる。コンピュータプログラム90が、コンピュータ80上で実行されたとき、コンピュータ80に、情報処理装置100を実現する以下の情報処理方法を実行させる。
このように構成された本実施形態の情報処理装置100の情報処理方法について、以下説明する。
図8は、本実施形態の情報処理装置100の動作の一例を示すフローチャートである。
本発明の実施の形態に係る情報処理方法は、情報処理装置100の情報処理方法であり、情報処理装置100を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置100が、商品42が置かれている場所を撮像した画像に対する画像認識処理により、予め定められているマーカ50を検出し(ステップS103)、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する(ステップS107)、ことを含む。
より詳細には、検出部102が、映像データ12の任意のまたは各フレームに対して画像認識処理を行い、特徴を抽出する(ステップS101)。そして、検出部102が、予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
このとき、検出部102が、検出結果記憶部120にマーカ50のマーカIDと、検出日時を関連付けて記憶する。さらに、マーカ50が検出された検出場所(たとえば、商品棚40、その棚、および棚の中の位置、あるいは、撮像画像内の位置等)の情報、撮像カメラ10の識別情報、を含んでもよい。
たとえば、図3(a)に示すように、マーカ50は商品棚40の所定の位置に設置されている。図3(b)に示すように、複数の商品42が商品棚40に載っている場合、マーカ50は商品42によって隠されているため、映像データ12からマーカ50は検出されない(ステップS103のNO)。この場合、ステップS105とステップS107をバイパスして、何もせずに本処理を終了する。
また、図3(b)に示すように、商品42が配置されるべき位置とマーカ50の相対位置を予め定めておき、マーカ位置情報記憶部114に記憶してもよい。そのようにすれば、マーカ50のうち見えた領域によって、どの位置の商品42が無くなり、または残っているか、あるいは、商品42全体の何割が無くなり、または残っているか等を判別できる。
一方、図3(c)に示すように、商品棚40から少なくとも一部の商品42がなくなった場合、商品棚40に設置されているマーカ50が少なくとも一部現れるため(図3(c)ではほとんどの商品42がなくなり、マーカ50は全部が現れている。)、映像データ12からマーカ50が検出される(ステップS103のYES)。たとえば、図(c)では、ほとんどの商品42が商品棚40からなくなっている。また、図9に示すように、商品棚40から商品42が一部だけなくなった場合、マーカ50は一部だけ現れるため、映像データ12からマーカ50の一部が検出される(ステップS103のYES)。
そして、実行部104が、マーカ50の検出結果が予め定められた条件を満たすか否かを判定する(ステップS105)。実行部104は、たとえば、図7の処理条件130に示す条件、マーカ(M002)が所定割合(たとえば、80%)以上、検出されたことを条件として、条件が満たされた場合(True)、予め定められた宛先(ここでは、レジ端末30)に、所定のメッセージを通知する(ステップS107)。
本実施形態では、所定のメッセージは、マーカ(M002)が検出されたことを含む。あるいは、所定のメッセージは、マーカ(M002)に対応する商品42の名称や商品42が置かれている位置情報(フロアや売り場、商品棚40の番号等)を含んでもよい。さらに、所定のメッセージは、商品42の不明ロスが発生したこと含んでもよい。これらは、いずれか一つでもよいし、複数を組み合わせてもよい。所定のメッセージは、さらに、不明ロスの発生時刻等の情報を含んでもよい。
たとえば、レジ端末30では、情報処理装置100(サーバコンピュータ20)からメッセージを受信し、受信したメッセージを店員用ディスプレイ32に表示する。これにより、店員Uaは、マーカ(M002)が検出されたこと(あるいは、不明ロスが発生したことや、その発生場所)を知ることができる。
また、実行部104は、マーカ(M002)が検出された場合(True)、検出されたマーカ50のマーカID(M002)と、検出日時情報を検出結果記憶部120に記憶してもよい。さらに、マーカ(M002)が検出されない場合(False)、マーカ50が検出されなかったことを、日時情報に関連付けて検出結果記憶部120に記録してもよい。マーカ50未検出の記録は、所定の期間おき(たとえば、30分間等)に行ってもよい。
また、図9に示すように、商品棚40から商品42が一部だけなくなった場合、マーカ50は一部だけ現れるため、映像データ12からマーカ50の一部が画像認識処理により認識される。ここでは、たとえば、マーカ50の60%程度が認識されたとする。そのため(80%未満)、実行部104は、マーカ(M002)が検出されないと判定し(ステップS105のNO)、ステップS107をバイパスして、何もせずに本処理を終了する。
このとき、実行部104は、認識されたマーカ50のマーカID(M002)と、日時情報と、マーカ50の60%程度が認識されたこととを関連付けて検出結果記憶部120にさらに記録してもよい。
以上説明したように、本実施形態の情報処理装置100において、検出部102により、商品42が置かれている場所を撮像した画像に対する画像認識処理により、予め定められているマーカ50が検出され、実行部104により、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理が実行される。
このように、本実施形態の情報処理装置100によれば、予め定められているマーカ50を商品42が置かれている場所(商品棚40)に設置し、その場所を撮像した画像を画像認識処理して、マーカ50を検出するだけで、商品42が大量になくなる等の不明ロスを、簡易に検知して通報できるという効果を奏する。
商品棚40を撮像した映像データ12の時系列的な変化の差分を検出し、商品棚40から商品42がなくなったことを検出することもできるが、その場合、画像処理の負荷が高くなるといった課題があった。本実施形態の情報処理装置100によれば、マーカ50の検出結果のみで不明ロスを検知して通知できるので、画像処理の負荷も低いので効率がよく、画像処理に関するコストも低く抑えられる。
(第2の実施の形態)
次に、本発明の第2の実施の形態に係る情報処理装置200について、以下説明する。
図10は、本発明の第2の実施の形態に係る情報処理装置200の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置200は、検出部202と、実行部204と、特定部206と、を備える。検出部202および実行部204は、図1の情報処理装置100の検出部102および実行部104と同様な機能を有するとともに、さらに、後述する機能を有する。
なお、本実施形態の情報処理装置200の構成は、後述する他の実施形態の情報処理装置の構成と組み合わせることもできる。
情報処理装置200は、さらに、記憶装置210にアクセス可能に接続される。記憶装置210は、上記実施形態の記憶装置110と同様な記憶部を含む。記憶装置210は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置200に含まれてもよいし、外部装置であってもよい。
本実施形態の情報処理装置200において、複数のマーカ50が、商品42が置かれている場所に設定される。
特定部206は、検出部202により検出されたマーカ50の種類または場所を特定する。
実行部204は、特定されたマーカ50の種類または場所に応じた処理を実行する。
また、実行部204は、検出されたマーカ50の組み合わせに応じた処理を実行してもよい。
マーカ50の種類とは、共通の特徴や質で区別されるもの、共通の属性を有するもの、差異が認識されるもの等、様々考えられる。予め特定する種類を登録しておき、いずれの種類に該当するかを特定してもよいし、検出された複数のマーカ50の特徴に応じて、特定部206が種類を分けてもよい。たとえば、赤い円形のマーカ50と、黒い四角形のマーカ50と、青いロゴタイプのマーカ50とがある場合、図形(円形や四角形等の図形と、ロゴタイプ)でマーカ50を2種類に分けてもよいし、色あいでたとえば、カラーとモノクロの2種類に分けてもよい。
マーカ50の場所は、上述したマーカ50の位置情報で特定される。たとえば、マーカ50の場所は、店舗のフロア、エリア、商品棚40、棚の位置、棚の中の位置、撮像カメラ10の位置、撮像カメラ10の撮影範囲等によって特定できる。さらに、撮像カメラ10の撮影範囲に含まれるマーカ50が複数の場合、他のマーカ50または所定の基準となる位置との相対位置情報を含む情報によって、マーカ50の場所を特定できてもよい。
以下、マーカ50の種類に応じて処理を変える例を図11と図12を用いて説明する。
図11(a)は、2種類のマーカ50aとマーカ50bが棚板44に貼付されている様子を示している。マーカ50aは、ブランドABCのロゴタイプが印刷されている。マーカ50bは、ブランドXYZのロゴタイプが印刷されている。
マーカ50aのマーカIDはM004で、マーカ50bのマーカIDはM006であるとする。
棚板44の各マーカ50が貼付されている場所には、それぞれロゴタイプに対応するブランドの衣料品が平積みされるものとする。図11(b)は、マーカ50aの上にブランドABCの衣料品である商品42aが平積みされ、マーカ50bの上にブランドXYZの衣料品である商品42bが平積みされているものとする。
図11(b)では、各商品42が各マーカ50の上に載っているため、映像データ12には各商品42が写り、マーカ50は写らない(破線で示す)。よって、検出部102はいずれのマーカ50も検出しない。
図11(c)では、ブランドABCの商品42aのみが棚板44に残っていて、ブランドXYZの商品42bはなくなっている様子を示している。映像データ12には、商品42aと、マーカ50bが写り、マーカ50aは写らない(破線で示す)。よって、検出部102はマーカ50bのみを検出し、マーカ50aは検出しない。
図12は、本実施形態の情報処理装置200の処理条件232の一例を示す図である。
処理条件232に示すように、この例では、映像データ12から検出されるマーカ50の種類(ここでは、マーカID)に応じて、メッセージに、マーカ50に対応するブランド名を含めて通知するようになっている。これにより、不明ロスが発生した商品42がどのブランドのものかを簡易に通知することができる。
この例の変形例では、たとえば、商品情報が記録されているバーコードをマーカ50として利用すれば、マーカ50が検出された時、バーコードを読み取り、解読し、商品情報を通知する構成とすることもできる。
また、本実施形態では、特定部206は、マーカ50のうち検出できた範囲を特定してもよい。
実行部204は、特定部206により特定された範囲に応じた処理を実行してもよい。
本実施形態では、図13(a)に示すように、マーカ50の所定位置に連番数字(1〜7)を含めることで、検出部102によって認識された数字から、数字に対応する検出範囲が特定できる。
図13(a)の例では、数字の1は棚板44の一番手前の位置に対応し、数字が大きくなる程、棚板44の奥側の位置に対応し、数字の7は棚板44の一番奥の位置に対応する。ここで特定されるマーカ50内で認識される範囲は、商品42がなくなった範囲に相当する。
図13(b)の例では、商品棚40の背面板46に、所定位置に連番数字(1〜6)を含めたマーカ50が貼付されている。数字の1は棚板44に一番近い位置に対応し、数字が大きくなる程、棚板44から高さ方向により離れた位置に対応し、数字の6は棚板44から高さ方向に一番遠い位置に対応する。ここで特定されるマーカ50内で認識される範囲は、棚板44に平積みされている商品42がなくなった範囲に相当する。
図13(a)の例では、撮像カメラ10は、マーカ50が設置されている商品棚40の棚板44の上面に対面する上方位置に設置され、商品棚40の棚板44方向を撮像する。
図13(b)の例では、撮像カメラ10は、マーカ50が設置されている商品棚40の背面板46の表面と対面する横方向の位置に設置され、商品棚40の背面板46方向を撮像する。
実行部204は、このようにして特定されるマーカ50の範囲に応じて処理を変えてもよい。本実施形態では、マーカ50の検出範囲を示す数字に対応する処理が、後述する処理条件230により予め定義される。
図14(a)は、図13(a)の棚板44を上から見た図である。
図14(b)は、商品棚40に商品42が多数陳列されている様子を示している。このように、多数の商品42が商品棚40の棚板44上に陳列されている場合には、マーカ50のほとんどの部分は商品42によって隠されている。よって検出部102は、画像認識処理により、マーカ50を認識しない。
図14(c)は、商品42が数個なくなり、マーカ50の一部が現れている様子を示している。ここではマーカ50の数字の1〜7のうち、1のみが見えるようになっている。よって検出部102は、画像認識処理により、マーカ50の数字の1のみを認識する。特定部206は、マーカ50の範囲を棚板44の手前44a側の範囲(0〜1)と特定する。
図14(d)は、商品42が半分ほどなくなり、マーカ50が半分現れている様子を示している。ここでは、マーカ50の数字の1〜7のうち、1〜4が見えている。よって検出部102は、画像認識処理により、マーカ50の数字の1〜4を認識する。特定部206は、マーカ50の範囲を棚板44の手前44aから中程までの範囲(2〜5)と特定する。
このように、商品棚40の棚板44の奥行き方向に向かって配置されたマーカ50の複数の数字(ここでは、マーカ50内の各数字が位置情報を兼ねている)の見える範囲によって、なくなった商品42のおよその数量が推定できる。たとえば、マーカ50の数字の7まで認識された場合、多数の商品42がなくなった状態であることが推定できる。
図15は、本実施形態の情報処理装置200の処理条件230の一例を示す図である。
処理条件230に示すように、本実施形態では、図14(a)のマーカ(M003)の検出結果から、たとえば、マーカ(M003)に記載されている数字の1〜7の見え方(マーカ50の検出範囲に相当)によって通知するアラームのレベルを変えるようになっている。すなわち、検出されたマーカ50の検出範囲に応じて処理を変えている。処理条件230では、検出される数字の最大値(たとえば、1〜5が見える場合、最大値5)が含まれる範囲が検出範囲として設定されている。
たとえば、マーカの数字が全て見えない(0)か、数字の1が見える(検出部102により認識される)場合、アラームをレベル1に設定する。レベルは数字が大きい程、警告レベルが高いものとする。そして、マーカの数字の2〜5のうち少なくともいずれかが見える(検出部102により認識される)場合、アラームレベルを2に設定する。さらに、マーカの数字の6〜7うち少なくともいずれかが見える(検出部102により認識される)場合、アラームレベルを3に設定する。
この例では、検出結果が条件を満たす場合に設定されるアラームレベルを実行部104はメッセージとして出力する。
すなわち、図14(b)の例では、映像データ12からマーカの数字が検出されないので、検出範囲(0〜1)に対応するアラームレベルに1が設定され、メッセージが出力される。
すなわち、図14(c)の例では、映像データ12からマーカの数字の1が検出されるので、アラームレベルに1が設定され、メッセージが出力される。
図14(d)の例では、映像データ12からマーカの数字の1〜4が検出されるので、最大値4が含まれる検出範囲(2〜5)に対応するアラームレベルに2が設定され、メッセージが出力される。
図14(a)の例では、映像データ12からマーカの数字の1〜7が検出されるので、最大値7が含まれる検出範囲(6〜7)に対応するアラームレベル3が設定され、メッセージが出力される。
また、アラームレベルに応じて、メッセージを送信する宛先を変えてもよい。別途、アラームレベル毎に宛先情報を対応付けて宛先テーブル(不図示)に予め記憶しておく。そして、実行部204が宛先テーブルからアラームレベルに対応する宛先情報を取得し、送信してもよい。
本実施形態の検出部202は、図1の上記実施形態の情報処理装置100と同様な機能を有するとともに、さらに、機械学習により学習されたマーカ50の特徴を用いてマーカ50を検出する。
機械学習は、たとえば、機械学習型検知エンジンにより実現できる。
マーカ50の画像データからマーカ50の特徴を機械学習型検知エンジンにより学習させ、その特徴を学習ライブラリ(マーカ情報記憶部112に相当)に登録する。さらに、学習されたマーカ50を、その設置場所の情報に関連付けてマーカ位置情報記憶部114に登録する。または、設置場所の情報(場所を特定できる画像または情報を用いる)も機械学習により学習させて学習ライブラリ(マーカ位置情報記憶部114に相当)に登録させてもよい。
たとえば、図14(a)〜図14(d)の状態をそれぞれ機械学習により学習させ、マーカ(M002)の形状や見え方(部分的、全体、または位置等)を場合分けして、管理者に提示し、管理者が処理条件230を対応付けて登録してもよい。さらに、棚板44の位置情報(フロア、売り場、および商品棚40の棚を識別する情報)を示すマーカ50(たとえば、バーコード)等をさらに棚板44に設置し、撮像カメラ10により、上記マーカ(M002)と一緒に撮像することで、バーコードから位置情報を取得し、学習したマーカ(M002)の位置情報として自動的に関連付けてマーカ情報記憶部112に記憶してもよい。
このように構成された本実施形態の情報処理装置200のコンピュータプログラムについて、以下説明する。
本実施形態のコンピュータプログラムは、情報処理装置200を実現させるためのコンピュータ80に、検出されたマーカ50の種類または場所を特定する手順、特定されたマーカ50の種類または場所に応じた処理を実行する手順、を実行させるように記述されている。
このように構成された本実施形態の情報処理装置200の情報処理方法について、以下説明する。
図16は、本実施形態の情報処理装置200の動作の一例を示すフローチャートである。
本実施形態の情報処理装置200におけるフローチャートは、図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101、ステップS103、およびステップS107)を有するとともに、さらに、ステップS201とステップS203を有する。
本発明の実施の形態に係る情報処理方法は、情報処理装置200の情報処理方法であり、情報処理装置200を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置200が、検出されたマーカ50の種類または場所(または範囲)を特定し(ステップS201)、特定されたマーカ50の種類または場所に応じた処理を実行する(ステップS107)、ことを含む。
以下、マーカの範囲に応じて処理を変える例について、図14〜図16を用いて詳細に説明する。
図8で説明したように、ステップS103で、検出部202が、予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
さらに、特定部206が、検出できたマーカ50の範囲を特定する(ステップS201)。ここでは、マーカ50内の数字を画像認識処理により認識する。たとえば、図14(d)の場合、数字1〜4が特定される。
そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(2〜5)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル2に設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
また、図14(c)の場合、ステップS201において、特定部206がマーカ50の範囲として、数字1を特定する。そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(0〜1)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル1を設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
更に、図14(a)の場合、ステップS201において、特定部206がマーカ50の範囲として、数字1〜7を特定する。そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(6〜7)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル3を設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
このように、本実施形態によれば、マーカ50の範囲、種類、および場所の少なくともいずれかに応じて、予め定められた処理を行うことができる。図14(c)のように、商品42が少しだけなくなった場合は、アラームレベル1が通知され、図14(d)のように、商品42の半数がなくなった場合は、アラームレベル2が通知され、図14(a)のように、商品42がすべてなくなった場合、アラームレベル3が通知されることになる。
以上説明したように、本実施形態の情報処理装置200において、特定部206により検出されたマーカ50の種類、場所、および範囲の少なくともいずれか一つが特定され、特定された種類、場所、および範囲の少なくともいずれか一つ、およびこれらの組み合わせに応じた処理が実行される。
この構成によれば、上記実施形態と同様な効果を奏するとともに、さらに、マーカ50の種類、場所、および範囲に応じて、様々な処理を対応させて実行させることが可能になる。
(第3の実施の形態)
次に、本発明の第3の実施の形態に係る情報処理装置300について、以下説明する。
図17は、本発明の実施の形態に係る情報処理装置300の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置300は、上記実施形態とは、マーカ50の検出結果を時系列で記憶し、以前に検出されたマーカ50と今回検出されたマーカ50の差分に応じて処理を変える点で相違する。
情報処理装置300は、さらに、記憶装置310にアクセス可能に接続される。記憶装置310は、上記実施形態の記憶装置110および記憶装置210の少なくともいずれか一方と同様な記憶部を含む。記憶装置310は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置300に含まれてもよいし、外部装置であってもよい。
本実施形態の情報処理装置300の構成は、本発明の他の実施形態の構成と矛盾のない範囲で適宜組み合わせることができる。
本実施形態の情報処理装置300は、検出部302と、実行部304と、を備える。情報処理装置300は、さらに、図10の上記実施形態と情報処理装置200と同様な構成を備えてもよい。
検出部302は、上記実施形態の検出部102と同様な機能を有するとともに、さらに、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める。
実行部304は、検出部302により検出されたマーカ50の差分に応じた処理を実行する。
本実施形態において、検出部302は、所定の周期でマーカ50の検出処理を行っているものとし、たとえば、検出結果は、その全てを記録してもよい。あるいは、前回の検出結果から閾値以上の特徴量の変化が検出された場合にのみ検出結果を記録する構成としてもよい。
本実施形態では、後者とし、前回の検出結果から閾値以上の特徴量の変化が検出された場合にのみ検出結果が記録される。
本実施形態において、「以前」と「今回」は、所定期間離れた2つの時点の検出結果を指し、「今回」より「以前」の方が過去の(古い)情報とする。「今回」は、現在でなくてもよく、過去(履歴情報の中)のある時点であってよい。
検出部302により検出される差分とは、様々考えられ、以下に例示されるが、これに限定されない。また、以下は複数を組み合わせることもできる。
(b1)検出されるマーカ領域の面積の差分
(b2)検出されるマーカに含まれる所定のオブジェクト(たとえば、文字、マーク等)の数の差分
(b3)検出されるマーカに含まれる所定の数字の最大値または最小値(あるいは、範囲)の差分
(b4)検出されるマーカの種類の数の差分
差分を求めるタイミングも様々考えられ、以下に例示されるが、これに限定されない。また、以下の複数を組み合わせてもよい。
(c1)検出処理の周期毎
(c2)検出結果が記録される毎
(c3)所定時間毎(5分毎等)、所定時刻毎(毎時等)等
ここで、上記(b3)および上記(c2)の例を以下に説明する。
図13(b)に示すように、本実施形態では、商品棚40の背面板46に下から上に向かって1〜6の数字が並んでいるマーカ50が設置されている。
図19は、本実施形態の検出結果記憶部320のデータ構造の一例を示す図である。
この例では、商品棚40の棚板44毎に検出結果を記憶しているが、これに限定されない。
検出結果記憶部320aは、棚板44(T1001)におけるマーカ50の検出結果が記録されている。
図19では、検出部302により検出されたマーカの数字の最大値(または最小値)を、検出日時情報とともに、棚板44毎に検出結果記憶部320aまたは検出結果記憶部320bに記憶している。
図18(a)に示すように、商品42が商品棚40いっぱいに置かれている場合は、商品42によってマーカ50が隠され見えなくなる。撮像カメラ10により撮像された映像データ12には、マーカ50はほとんど写らない。よって、検出部302は、映像データ12からマーカ50を検出しない。何も検出されなかった場合は、数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320a(図19(a))に記憶される。または他の実施形態では、検出結果記憶部320に何も記録しない構成でもよい。
次に、図18(b)に示すように、商品42が数個なくなると、マーカ50が上部の一部が見えるようになる。撮像カメラ10により撮像された映像データ12には、マーカ50の一部、数字の6が写るようになる。よって、検出部302は、映像データ12からマーカ50の一部を検出し、数字の6を認識する。
そして、検出部302は、数字6を検出日時情報に関連付けて検出結果記憶部320a(図19(a))に記憶する。本実施形態では、認識された数字の最小値が検出結果に記録される。マーカ50に記載される数字の順序と商品42の陳列方法によって、数字の最小値、最大値、および範囲のいずれかを検出結果として記録するか決めることができる。本実施形態では、商品42が減少するにつれて、現れる数字が6から1に徐々に小さくなるので、商品42の減り具合を示す指標として、数字の最小値を用いる。
一方、図14(a)に示したマーカ50の場合は、商品42が減少するにつれて、現れる数字が1から7に徐々に大きくなるので、商品42の減り具合を示す指標として、数字の最大値を用いる。
はじめに、通常の商品販売時について説明する。この場合、商品42は徐々に減るので、数字の5〜4が時間経過とともに順に検出され、図19(a)に示すように、検出時刻情報に関連付けて検出結果記憶部320aに記憶されている。さらに、たとえば、13時に商品42の補充などが行われることにより、マーカが全て隠れるため、マーカが検出されない。そこで、数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320a(図19(a))に記憶される。
次に、大量盗難や爆買い等により、商品が急激になくなる場合について説明する。
はじめ、商品42が商品棚40いっぱいに置かれている状態(図18(a))であるため、マーカは検出されない。そこで、何も検出されなかったことを示す数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320b(図19(b))に記憶される。
そして、少し時間が経過した時、商品42が少し減り、図18(a)のように数字の6が現れるので、数字6が認識され、数字6が検出結果記憶部320b(図19(b))に記録される。
そして、さらに、少し時間が経過した時(たとえば、前回マーカ検出後から2分後)に、商品が一気に大量になくなり、図18(d)のようになったとする。このとき、検出部302により、数字の1〜6が認識され、最小値の数字1が検出結果記憶部320b(図19(b))に記録される。
本実施形態では、検出部302は、上述したように、検出されたマーカ50の検出結果を時系列で検出結果記憶部320に記憶する。そして、検出部302は、さらに、検出結果記憶部320を参照し、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める。
求められた差分は、図19に示すように、検出結果記憶部320aたまは検出結果記憶部320bにそれぞれ記録できる。
そして、実行部304が、検出されたマーカ50の差分に応じた処理を実行する。
図20は、本実施形態の情報処理装置300の処理条件330の一例を示す図である。
処理条件330に示すように、本実施形態では、マーカの差分に応じた処理が対応付けられている。たとえば、この例では、検出されたマーカの数字の最小値の差分が、−5以下を検出条件として、条件を満たす場合の処理が定められている。
差分が−5より小さい場合は、通知を行う。条件を満たさない場合は、何も処理を行わない。
本実施形態では、所定周期で行われる画像認識処理により変化が検出された場合にのみ、検出結果を記録し、かつ、記録された検出結果毎に差分を求めているが、所定周期毎に検出結果を記録する場合、差分を算出して記録するタイミングは、たとえば、所定期間毎(たとえば、5分おき等)に行うことができる。そして、このタイミングで記録される場合、たとえば、5分毎の差分だけでなく、30分毎の差分(検出結果記録の所定回数分の合計)もさらに求めて検出条件としてもよい。
また、処理条件330の他の例では、所定値以上の差分の変化が短時間であった場合に、アラームレベルを高く設定して通知してもよい。すなわち、所定値以上の差分の変化の時間を条件として、アラームレベルを段階的に設定してもよい。
このように構成された本実施形態の情報処理装置300のコンピュータプログラムについて、以下説明する。
本実施形態のコンピュータプログラムは、情報処理装置300を実現させるためのコンピュータ80に、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶する手順、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める手順、検出されたマーカ50の差分に応じた処理を実行する手順、を実行させるように記述されている。
このように構成された本実施形態の情報処理装置300の情報処理方法について、以下説明する。
図21は、本実施形態の情報処理装置300の動作の一例を示すフローチャートである。
本実施形態の情報処理装置300におけるフローチャートは、図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101〜ステップS107)を有するとともに、さらに、ステップS301とステップS303を有する。
本発明の実施の形態に係る情報処理方法は、情報処理装置300の情報処理方法であり、情報処理装置200を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置300が、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し(ステップS301)、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、検出されたマーカ50の差分に応じた処理を実行する(ステップS105、ステップS107)、ことを含む。
以下、詳細に説明する。
はじめに、通常の商品販売時の動作例について説明する。
まず、図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
たとえば、図18(a)と図18(b)に示すように、商品42が時間経過とともに、徐々に減っていった場合、図19(a)の検出結果記憶部320aに示すような検出結果が得られる。
検出部302は、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、さらに、検出結果記憶部320aに記録する。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が−5以下ではないので(ステップS105のNO)、ステップS107をバイパスし、何も処理せずに、本処理を終了する。
次に、大量盗難や爆買い等により、商品が急激になくなる場合の動作例について説明する。
まず、図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
たとえば、図18(b)の状態から図18(d)の状態に、2分程度で変化した場合、図19(b)の検出結果記憶部320bに示すような検出結果が得られる。
検出部302は、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、さらに、検出結果記憶部320bに記録する。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が−5以下の検出条件を満たすことを判定し(ステップS105のYES)、商品42が大量になくなったことを示すメッセージ等を所定の端末に通知する処理を行い(ステップS107)、本処理を終了する。
このように、本実施形態によれば、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め、差分に応じて、予め定められた処理を行うことができる。通常の商品販売時のように徐々に商品42が減った場合は、メッセージの通知処理は行われず、一気に大量の商品42がなくなった場合は、メッセージの通知処理が行われることになる。
以上説明したように、本実施形態の情報処理装置300において、検出部302により、以前に検出されたマーカ50と、今回検出されたマーカ50の差分が求められ、実行部304により、差分に応じた処理が実行される。
この構成によれば、上記実施形態と同様な効果を奏するとともに、さらに、マーカ50の時間変化に応じて、処理を変えることができるので、短時間で商品42が大量になくなったことを検出して、報知することが可能になる。したがった、本実施形態の情報処理装置300によれば、簡単な構成で大量盗難や爆買いなどを検出し、通知することができる。
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
たとえば、検出部によるマーカ検出対象範囲を定めるための基準となる基準マーカ60をマーカ50とは別に設置してもよい。
検出部(102、202、または302)は、基準マーカ60を検出し、検出された基準マーカ60に対応する検出範囲を対象として、マーカ50の検出処理を行う。
基準マーカ60は、それぞれ検出範囲が予め設定されているものとする。まず、検出部により基準マーカ60が検出され、検出された基準マーカ60に対応する検出範囲を対象として、マーカ50の検出処理を行われる。また、検出範囲毎に処理条件を設けてもよい。すなわち、同じマーカ50であっても、異なる基準マーカ60の検出範囲に含まれてもよく、検出範囲毎に異なる処理条件に従った処理を行うこともできる。
図22に示すように、棚板44に2種類のマーカ50aとマーカ50bが設置されているとする。
基準マーカ60aの検出範囲62aは破線で示され、基準マーカ60bの検出範囲62bは、一点鎖線で示されている。
また、異なる商品棚40の棚板44に同じ基準マーカ60(たとえば、基準マーカ60a)を設置した場合、異なる商品棚40に対して基準マーカ60aの検出範囲62aでマーカ50の検出を行うことができる。また、異なる商品棚40について、同じ基準マーカ60aによる検出範囲62aに対して、同じ処理条件を用いてもよいし、異なる処理条件を用いてもよい。たとえば、同じ基準マーカ60の検出範囲62であっても商品棚40やフロア等の場所によって処理条件を変えてもよい。
この構成によれば、検出範囲を絞ってマーカ50の検出処理が行えるとともに、同じマーカ50であっても異なる処理条件を設定し、条件に応じた異なる処理を行うことができる。
(実施例1)
図23は、本発明の情報処理装置400の実施例のシステム構成例を概念的に示す図である。
この例では、情報処理装置400は、映像取得機能部402と、検知エンジン制御機能部404と、マーカ学習機能部406と、結果閲覧ビューワ408と、を有する。
映像取得機能部402は、IPカメラ420から撮像画像データ(映像データ424)を随時取得してもよいし、予め撮像され、記憶装置(不図示)に記録された映像ファイル422を任意のタイミングで読み込んで取得してもよい。
映像取得機能部402が取得した映像データ424は検知エンジン制御機能部404に受け渡される。
検知エンジン制御機能部404は、さらに、機械学習型検知エンジン410と、設定機能部412を含む。マーカ学習機能部406がマーカ50を撮像した静止画像データ430を用いてマーカ50を学習して生成した学習ライブラリ432が機械学習型検知エンジン410に受け渡され、登録される。
さらに、設定機能部412は、学習ライブラリ432に登録されたマーカ50の情報に対して、対応する処理の設定を受け付け、学習ライブラリ432に登録する。すなわち、設定機能部412は、上記実施形態で説明した各種処理条件を設定する機能を有する。
検知エンジン制御機能部404は、上記実施形態の検出部に相当する。映像データ424からマーカ50を検出し、その結果データ434を結果閲覧ビューワ408に受け渡す。ここでは、検出結果として、上記実施形態の実行部により設定されメッセージ(所定の情報)を結果データ434に含めてよい。結果閲覧ビューワ408は、検出結果情報を管理者に閲覧可能に提供する。たとえば、図2のサーバコンピュータ20のモニタ24またはレジ端末30の店員用ディスプレイ32に検出結果情報を表示させる。
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
なお、本発明において利用者に関する情報を取得、利用する場合は、これを適法に行うものとする。
以下、参考形態の例を付記する。
1. 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する検出手段と、
前記差分に応じた処理を実行する実行手段と、を備える、情報処理装置。
2. 複数の前記マーカが前記場所に設定されており、
前記検出手段は、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、1.に記載の情報処理装置。
3. 複数の前記マーカが前記場所に設定されており、
検出された前記マーカの種類または場所を特定する特定手段をさらに備え、
前記実行手段は、
特定された前記マーカの種類または場所に応じた処理を実行する、1.または2.に記載の情報処理装置。
4. 複数の前記マーカが前記場所に設定されており、
前記実行手段は、
検出された前記マーカの組み合わせに応じた処理を実行する、3.に記載の情報処理装置。
5. 前記特定手段は、さらに、前記マーカのうち検出できた範囲を特定し、
前記実行手段は、
前記特定手段により特定された前記範囲に応じた処理を実行する、3.または4.に記載の情報処理装置。
6. 前記検出手段は、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、1.から5.いずれか一つに記載の情報処理装置。
7. 前記実行手段により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、1.から6.いずれか一つに記載の情報処理装置。
8. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、7.に記載の情報処理装置。
9. 前記所定の情報は、アラート情報を含む、7.または8.に記載の情報処理装置。
10. 前記実行手段により実行される前記予め定められた処理は、前記検出手段による前記マーカの検出結果に関する情報を通知する処理を含む、1.から9.いずれか一つに記載の情報処理装置。
11. 情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出し、
前記差分に応じた処理を実行する情報処理方法。
12. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、11.に記載の情報処理方法。
13. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの種類または場所を特定し、
特定された前記マーカの種類または場所に応じた処理を実行する、11.または12.に記載の情報処理方法。
14. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの組み合わせに応じた処理を実行する、13.に記載の情報処理方法。
15. 前記情報処理装置が、
さらに、前記マーカのうち検出できた範囲を特定し、
特定された前記範囲に応じた処理を実行する、13.または14.に記載の情報処理方法。
16. 前記情報処理装置が、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、11.から15.いずれか一つに記載の情報処理方法。
17. 実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、11.から16.いずれか一つに記載の情報処理方法。
18. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、17.に記載の情報処理方法。
19. 前記所定の情報は、アラート情報を含む、17.または18.に記載の情報処理方法。
20. 実行される前記予め定められた処理は、前記マーカの検出結果に関する情報を通知する処理を含む、11.から19.いずれか一つに記載の情報処理方法。
21. コンピュータに、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する手順、
前記差分に応じた処理を実行する手順、を実行させるためのプログラム。
22. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの検出結果を時系列で記憶装置に記憶する手順、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める手順、を実行させるための21.に記載のプログラム。
23. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの種類または場所を特定する手順、
特定された前記マーカの種類または場所に応じた処理を実行する手順、21.または22.に記載のプログラム。
24. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの組み合わせに応じた処理を実行する手順、23.に記載のプログラム。
25. コンピュータに、
さらに、前記マーカのうち検出できた範囲を特定する手順、
前記特定する手順により特定された前記範囲に応じた処理を実行する手順、23.または24.に記載のプログラム。
26. コンピュータに、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する手順、21.から25.いずれか一つに記載のプログラム。
27. 前記実行する手順により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、21.から26.いずれか一つに記載のプログラム。
28. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、27.に記載のプログラム。
29. 前記所定の情報は、アラート情報を含む、27.または28.に記載のプログラム。
30. 前記実行する手順により実行される前記予め定められた処理は、前記検出する手順による前記マーカの検出結果に関する情報を通知する処理を含む、21.から29.いずれか一つに記載のプログラム。
この出願は、2016年3月22日に出願された日本出願特願2016−056565号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (36)

  1. 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する検出手段と、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を備え、
    前記マーカは複数の数字を含み、
    前記複数の数字各々には、前記物品の配置場所の範囲が対応付けられており、
    前記検出手段は、前記マーカから認識された数字の差を前記差分として検出する、情報処理装置。
  2. 前記実行手段は、前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する、請求項1に記載の情報処理装置。
  3. 複数の前記マーカが前記場所に設定されており、
    検出された前記マーカの種類または場所を特定する特定手段をさらに備え、
    前記実行手段は、
    特定された前記マーカの種類または場所に応じた処理を実行する、請求項1または2に記載の情報処理装置。
  4. 複数の前記マーカが前記場所に設定されており、
    前記実行手段は、
    検出された前記マーカの組み合わせに応じた処理を実行する、請求項3に記載の情報処理装置。
  5. 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
    前記検出手段は、
    前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得し、
    少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得し、
    前記今回字と以前取得された前記今回数字との差を前記差分として検出する、請求項1から4いずれか一項に記載の情報処理装置。
  6. 前記検出手段は、
    機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、請求項1から5いずれか一項に記載の情報処理装置。
  7. 前記実行手段は、前記所定の処理として、所定の情報を出力する処理を行う、請求項1から6いずれか一項に記載の情報処理装置。
  8. 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項7に記載の情報処理装置。
  9. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項7または8に記載の情報処理装置。
  10. 前記所定の情報は、アラート情報を含む、請求項7から9いずれか一項に記載の情報処理装置。
  11. 前記実行手段により実行される前記所定の処理は、前記検出手段による前記マーカの検出結果に関する情報を通知する処理を含む、請求項1から10いずれか一項に記載の情報処理装置。
  12. 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する検出手段と、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行する実行手段と、を備え、
    前記実行手段は、前記所定の処理として、前記検出手段の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、情報処理装置。
  13. 情報処理装置が、
    物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出し、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行し、
    前記マーカは複数の数字を含み、
    前記複数の数字各々には、前記物品の配置場所の範囲が対応付けられており、
    前記マーカから認識された数字の差を前記差分として検出する、情報処理方法。
  14. 前記情報処理装置が、
    前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する、請求項13に記載の情報処理方法。
  15. 複数の前記マーカが前記場所に設定されており、
    前記情報処理装置が、
    検出された前記マーカの種類または場所を特定し、
    特定された前記マーカの種類または場所に応じた処理を実行する、請求項13または14に記載の情報処理方法。
  16. 複数の前記マーカが前記場所に設定されており、
    前記情報処理装置が、
    検出された前記マーカの組み合わせに応じた処理を実行する、請求項15に記載の情報処理方法。
  17. 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
    前記情報処理装置が、
    前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得し、
    少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得し、
    前記今回字と以前取得された前記今回数字との差を前記差分として検出する、請求項13から16いずれか一項に記載の情報処理方法。
  18. 前記情報処理装置が、
    機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、請求項13から17いずれか一項に記載の情報処理方法。
  19. 前記情報処理装置が、
    前記所定の処理として、所定の情報を出力する処理を行う、請求項13から18いずれか一項に記載の情報処理方法。
  20. 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項19に記載の情報処理方法。
  21. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項19または20に記載の情報処理方法。
  22. 前記所定の情報は、アラート情報を含む、請求項19から21いずれか一項に記載の情報処理方法。
  23. 実行される前記所定の処理は、前記マーカの検出結果に関する情報を通知する処理を含む、請求項13から22いずれか一項に記載の情報処理方法。
  24. 情報処理装置が、
    物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出し、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行し、
    前記所定の処理として、前記画像認識処理の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、情報処理方法。
  25. コンピュータに、
    物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態マーカとの差分を検出する手順、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行する手順、を実行させ、
    前記マーカは複数の数字を含み、
    前記複数の数字の各々には、前記物品の配置場所の範囲が対応付けられており、
    前記マーカから認識された数字の差を前記差分として検出する手順を実行させるためのプログラム。
  26. コンピュータに、
    前記所定値以上の前記差分の変化に要した時間が基準値を下回ったときに前記所定の処理を実行する手順、を実行させるための請求項25に記載のプログラム。
  27. 複数の前記マーカが前記場所に設定されており、
    コンピュータに、
    検出された前記マーカの種類または場所を特定する手順、
    特定された前記マーカの種類または場所に応じた処理を実行する手順、を実行させるための請求項25または26に記載のプログラム。
  28. 複数の前記マーカが前記場所に設定されており、
    コンピュータに、
    検出された前記マーカの組み合わせに応じた処理を実行する手順、を実行させるための請求項27に記載のプログラム。
  29. 前記複数の数字は、前記物品の積載または配列方向に昇順または降順に、前記物品がなくなると前記数字が昇順または降順に新たに現れるように、並べられ、
    コンピュータに、
    前記数字が認識されない場合は予め定められている前記複数の数字の最大値または最小値を今回数字として取得する手順、
    少なくとも1つの前記数字が認識された場合は、認識された前記数字のうち最小値または最大値を今回数字として取得する手順、
    前記今回字と以前取得された前記今回数字との差を前記差分として検出する手順、を実行させるための請求項25から28いずれか一項に記載のプログラム。
  30. コンピュータに、
    機械学習により学習されたマーカの特徴を用いて前記マーカを検出する手順、を実行させるための請求項25から29いずれか一項に記載のプログラム。
  31. コンピュータに、
    前記所定の処理として、所定の情報を出力する処理を行う手順、を実行させるための請求項25から30いずれか一項に記載のプログラム。
  32. 前記所定の情報は、盗難の発生の可能性があることを通知するメッセージを含む、請求項31に記載のプログラム。
  33. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、請求項31または32に記載のプログラム。
  34. 前記所定の情報は、アラート情報を含む、請求項31から33いずれか一項に記載のプログラム。
  35. 前記実行する手順により実行される前記所定の処理は、前記検出する手順による前記マーカの検出結果に関する情報を通知する処理を含む、請求項25から34いずれか一項に記載のプログラム。
  36. コンピュータに、
    物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカの以前の検出状態との差分を検出する手順、
    所定値の前記差分の変化に要した時間に応じて所定の処理を実行する手順、を実行させ、
    前記所定の処理として、前記画像認識処理の検出結果に応じて、アラームレベルの異なる通知を出力する処理を行う、プログラム。
JP2018506787A 2016-03-22 2017-01-04 情報処理装置、情報処理方法、およびプログラム Active JP6943236B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021111725A JP7485447B2 (ja) 2016-03-22 2021-07-05 情報処理装置、情報処理方法、およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016056565 2016-03-22
JP2016056565 2016-03-22
PCT/JP2017/000015 WO2017163532A1 (ja) 2016-03-22 2017-01-04 情報処理装置、情報処理方法、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021111725A Division JP7485447B2 (ja) 2016-03-22 2021-07-05 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2017163532A1 JPWO2017163532A1 (ja) 2019-01-31
JP6943236B2 true JP6943236B2 (ja) 2021-09-29

Family

ID=59901055

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018506787A Active JP6943236B2 (ja) 2016-03-22 2017-01-04 情報処理装置、情報処理方法、およびプログラム
JP2021111725A Active JP7485447B2 (ja) 2016-03-22 2021-07-05 情報処理装置、情報処理方法、およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021111725A Active JP7485447B2 (ja) 2016-03-22 2021-07-05 情報処理装置、情報処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US10922571B2 (ja)
JP (2) JP6943236B2 (ja)
WO (1) WO2017163532A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021170360A (ja) * 2016-03-22 2021-10-28 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BR102018003125B1 (pt) * 2018-02-19 2022-05-10 Petróleo Brasileiro S.A. - Petrobras Método para reconhecimento ótico de marcadores em ambiente externo
CN112580411A (zh) * 2019-09-30 2021-03-30 深圳云天励飞技术有限公司 一种货架缺货告警方法、装置、货架、系统及电子设备
WO2021090755A1 (ja) 2019-11-05 2021-05-14 日本電気株式会社 管理装置、管理方法、およびプログラム
JP7443938B2 (ja) * 2020-06-01 2024-03-06 コニカミノルタ株式会社 物品の認識方法、プログラム、および情報処理装置
JP7464460B2 (ja) * 2020-06-22 2024-04-09 日本電気通信システム株式会社 情報処理装置、分布状況検知システム、分布状況検知方法およびコンピュータプログラム
JP7625892B2 (ja) * 2021-02-25 2025-02-04 沖電気工業株式会社 情報処理装置、情報処理方法、情報処理システムおよびプログラム

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11281754A (ja) 1998-03-30 1999-10-15 Matsushita Electric Works Ltd 在庫管理装置
US6155438A (en) * 1998-05-14 2000-12-05 Close; James Garth System and method for product display, arrangement and rotation
JP2000030138A (ja) * 1998-07-10 2000-01-28 Fuji Electric Co Ltd 自動販売機
JP2000184361A (ja) 1998-12-17 2000-06-30 Victor Co Of Japan Ltd エッジ抽出差分カメラ
EP1422657A1 (en) * 2002-11-20 2004-05-26 Setrix AG Method of detecting the presence of figures and methods of managing a stock of components
US8113601B2 (en) * 2004-02-03 2012-02-14 Rtc Industries, Inc. Product securement and management system
JP4159572B2 (ja) * 2005-09-15 2008-10-01 学校法人帝京大学 異常報知装置および異常報知方法
JP4948343B2 (ja) * 2007-09-27 2012-06-06 綜合警備保障株式会社 画像抽出装置および画像抽出方法
US8091782B2 (en) * 2007-11-08 2012-01-10 International Business Machines Corporation Using cameras to monitor actual inventory
JP2010211451A (ja) * 2009-03-10 2010-09-24 Okamura Corp 商品検出ユニット
US8234007B2 (en) * 2009-03-18 2012-07-31 Garson Brent D Method and apparatus for use in a vending machine
JP5185196B2 (ja) * 2009-05-27 2013-04-17 高千穂交易株式会社 防犯装置、その制御方法、プログラム、及び防犯システム
JP4846835B2 (ja) 2009-09-11 2011-12-28 三菱電機インフォメーションシステムズ株式会社 情報管理システム及び管理装置及び管理プログラム
US8924262B2 (en) * 2010-12-09 2014-12-30 Gary Stephen Shuster Automatic resupply of consumable commodities
JP2012174154A (ja) 2011-02-24 2012-09-10 Fujitsu Frontech Ltd 在庫状況管理方法および在庫状況管理装置
JP5823270B2 (ja) 2011-11-30 2015-11-25 Kddi株式会社 画像認識装置及び方法
US9530060B2 (en) * 2012-01-17 2016-12-27 Avigilon Fortress Corporation System and method for building automation using video content analysis with depth sensing
CN104854610A (zh) * 2012-12-04 2015-08-19 日本电气株式会社 商品管理系统、商品管理方法和存储商品管理程序的非瞬时计算机可读介质
JP6108159B2 (ja) * 2013-03-04 2017-04-05 日本電気株式会社 情報処理システム、情報処理装置およびその制御方法と制御プログラム
DE102013016356A1 (de) * 2013-10-01 2015-04-02 Connaught Electronics Ltd. Verfahren zum Nutzen eines Kamerasystems eines Kraftfahrzeugs als Diebstahlwarnanlage, Kamerasystem und Kraftfahrzeug
JP2015176227A (ja) 2014-03-13 2015-10-05 富士通株式会社 監視方法、監視装置および監視プログラム
US10002342B1 (en) * 2014-04-02 2018-06-19 Amazon Technologies, Inc. Bin content determination using automated aerial vehicles
JP2015210651A (ja) * 2014-04-25 2015-11-24 サントリーシステムテクノロジー株式会社 商品識別システム
JP2015219781A (ja) * 2014-05-19 2015-12-07 東芝テック株式会社 発注装置およびプログラム
JP6484956B2 (ja) * 2014-08-18 2019-03-20 富士通株式会社 陳列状況管理方法、陳列状況管理プログラムおよび情報処理装置
US20170193430A1 (en) * 2015-12-31 2017-07-06 International Business Machines Corporation Restocking shelves based on image data
JP6943236B2 (ja) * 2016-03-22 2021-09-29 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021170360A (ja) * 2016-03-22 2021-10-28 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム
JP7485447B2 (ja) 2016-03-22 2024-05-16 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
JP2021170360A (ja) 2021-10-28
US10922571B2 (en) 2021-02-16
US20190080192A1 (en) 2019-03-14
WO2017163532A1 (ja) 2017-09-28
JP7485447B2 (ja) 2024-05-16
JPWO2017163532A1 (ja) 2019-01-31

Similar Documents

Publication Publication Date Title
JP6943236B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7245321B2 (ja) スキャン漏れ識別方法および装置、セルフサービス・キャッシュ・レジスタ端末およびシステム
JP7318697B2 (ja) 商品監視システム、出力先装置、商品監視方法、表示方法及びプログラム
US20180115749A1 (en) Surveillance system and surveillance method
JP2019503019A5 (ja)
CN104871198A (zh) 商品信息处理装置、其数据处理方法和程序
WO2018008575A1 (ja) 不審者検出装置、不審者検出方法およびプログラム
JP5673888B1 (ja) 情報通知プログラム及び情報処理装置
EP4047538A1 (en) Self-checkout system and method
US20110215932A1 (en) Security system and method
JP7661964B2 (ja) 登録確認装置、制御方法、およびプログラム
JP2019193089A (ja) 映像解析装置
US20220292445A1 (en) Work assistance system, work assistance device, work assistance method, and program
JP7318753B2 (ja) 情報処理プログラム、情報処理方法、および情報処理装置
EP4160550A1 (en) Information processing program, information processing method, and information processing device
JP5903557B2 (ja) セキュリティシステム
US20230394555A1 (en) Information processing method, information processing device, and recording medium
JP2022011704A (ja) 画像処理装置、画像処理方法およびプログラム
JP7590009B2 (ja) 処理装置、処理方法及びプログラム
JP7848861B2 (ja) 学習用データ生成装置、商品数確認装置、学習用データ生成方法、商品数確認方法、及びプログラム
JP7799088B2 (ja) 報知システム、報知方法、およびプログラム
KR102801797B1 (ko) 적어도 하나의 카메라를 이용하여 촬영된 영상을 처리하는 카메라 제어 장치 및 방법
US20220092573A1 (en) Portable terminal and information processing method for a portable terminal
JP2026072041A (ja) Posシステム及びposシステム運用方法
TWI621076B (zh) 結帳管理系統

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180829

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210316

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210705

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210705

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210713

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210823

R150 Certificate of patent or registration of utility model

Ref document number: 6943236

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150