Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7274292B2 - Support system, support device and information processing program - Google Patents
[go: Go Back, main page]

JP7274292B2 - Support system, support device and information processing program - Google Patents

Support system, support device and information processing program Download PDF

Info

Publication number
JP7274292B2
JP7274292B2 JP2019003447A JP2019003447A JP7274292B2 JP 7274292 B2 JP7274292 B2 JP 7274292B2 JP 2019003447 A JP2019003447 A JP 2019003447A JP 2019003447 A JP2019003447 A JP 2019003447A JP 7274292 B2 JP7274292 B2 JP 7274292B2
Authority
JP
Japan
Prior art keywords
image
data
processor
display
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019003447A
Other languages
Japanese (ja)
Other versions
JP2020113042A (en
Inventor
暢浩 稲川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Tec Corp
Original Assignee
Toshiba Tec Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Tec Corp filed Critical Toshiba Tec Corp
Priority to JP2019003447A priority Critical patent/JP7274292B2/en
Publication of JP2020113042A publication Critical patent/JP2020113042A/en
Priority to JP2023075575A priority patent/JP7483984B2/en
Application granted granted Critical
Publication of JP7274292B2 publication Critical patent/JP7274292B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明の実施形態は、支援システム、支援装置及び情報処理プログラムに関する。 The embodiments of the present invention relate to support systems, support devices, and information processing programs.

売場に陳列した商品を販売するスーパーマーケットなどのような店舗においては、店員が売場を巡回しつつ、商品の補充などの作業を行っている。
このような作業は、店員の判断により行われることが多く、店員にとっての大きな負荷となる恐れがあった。また店員が不慣れである場合などにおいては、行われるべき作業が行われない恐れがあった。
このような事情から、店舗における商品陳列に関する店員の作業を支援できることが望まれていた。
2. Description of the Related Art In a store such as a supermarket that sells products displayed on a sales floor, a salesclerk goes around the sales floor and performs operations such as replenishment of products.
Such work is often carried out at the discretion of the store clerk, and there is a risk that it will be a heavy burden on the store clerk. Also, if the salesclerk is inexperienced, there is a risk that the work that should be done may not be done.
Under these circumstances, it has been desired to be able to support the salesclerk's work related to product display in the store.

特開2011-14082号公報JP 2011-14082 A

本発明が解決しようとする課題は、店舗における商品陳列に関する店員の作業を支援できる支援システム、支援装置及び情報処理プログラムを提供することである。 The problem to be solved by the present invention is to provide a support system, a support device, and an information processing program that can support the work of a store clerk regarding product display in a store.

実施形態の支援システムは、取得手段制御手段、識別手段及び更新手段を備える。取得手段は、作業者の位置から複数の売場を含む範囲を目視した様子を表した第1の画像に映り込む複数の売場のそれぞれにおける商品の陳列状況に関する状況データを取得する。制御手段は、第1の画像に、取得手段により取得された状況データに基づき第1の画像に映り込む複数の売場のそれぞれにおける陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させたのち、第2の画像が表す異常が指定されたことに応じて、当該指定された異常を解消するための作業を案内する第3の画像を第1の画像に重畳した第2の画面を表示デバイスに表示させる。識別手段は、表示デバイスが表示する画面の閲覧者を識別する。更新手段は、表示デバイスが表示する画面を制御手段が第2の画面に変更させたのちに、第3の画像に関する異常が解消されたことに応じて当該の異常の解消を、識別手段により識別された閲覧者による作業の実績として表すよう、記憶デバイスに記憶された実績データを更新する。 The support system of the embodiment comprises acquisition means , control means , identification means and update means . The acquisition means acquires situation data relating to the display status of commodities in each of the plurality of sales floors reflected in a first image representing a view of a range including the plurality of sales floors viewed from the worker's position. The control means superimposes, on the first image, a second image representing an abnormal display situation in each of the plurality of sales floors reflected in the first image based on the situation data acquired by the acquisition means. After the screen is displayed on the display device, in response to the designation of the abnormality represented by the second image, a third image that guides the work for resolving the designated abnormality is superimposed on the first image. The superimposed second screen is displayed on the display device . The identifying means identifies a viewer of the screen displayed by the display device. After the screen displayed by the display device is changed to the second screen by the control means, the update means identifies the resolution of the abnormality by the identification means in response to the resolution of the abnormality related to the third image. The performance data stored in the storage device is updated to represent performance of work by the viewed viewer.

一実施形態に係る支援システムの概略構成と、この支援システムに含まれる情報端末装置及び支援サーバの要部回路構成とを示すブロック図。1 is a block diagram showing a schematic configuration of a support system according to an embodiment, and main circuit configurations of an information terminal device and a support server included in this support system; FIG. 図1中の状況データに含まれるデータレコードの構造を模式的に示す図。FIG. 2 is a diagram schematically showing the structure of a data record included in situation data in FIG. 1; 図1中の作業データに含まれるデータレコードの構造を模式的に示す図。FIG. 2 is a diagram schematically showing the structure of a data record included in work data in FIG. 1; 図1中の実績データに含まれるデータレコードの構造を模式的に示す図。FIG. 2 is a diagram schematically showing the structure of a data record included in performance data in FIG. 1; 図1中の支援サーバに備えられたプロセッサによる情報処理のフローチャート。FIG. 2 is a flowchart of information processing by a processor provided in the support server in FIG. 1; FIG. 図1中の情報処理端末に備えられたプロセッサによる情報処理のフローチャート。FIG. 2 is a flowchart of information processing by a processor provided in the information processing terminal in FIG. 1; FIG. 図1中の情報処理端末に備えられたプロセッサによる情報処理のフローチャート。FIG. 2 is a flowchart of information processing by a processor provided in the information processing terminal in FIG. 1; FIG. 確認画面を示す図。The figure which shows a confirmation screen. 案内画面を示す図。The figure which shows a guidance screen. 確認画面を示す図。The figure which shows a confirmation screen.

以下、実施の形態の一例について図面を用いて説明する。
図1は本実施形態に係る支援システム100の概略構成と、この支援システム100に含まれる情報端末装置10及び支援サーバ20の要部回路構成とを示すブロック図である。
An example of an embodiment will be described below with reference to the drawings.
FIG. 1 is a block diagram showing a schematic configuration of a support system 100 according to this embodiment, and main circuit configurations of an information terminal device 10 and a support server 20 included in this support system 100. As shown in FIG.

支援システム100は、売場に陳列した商品を販売する店舗において、陳列された商品に関する店員の作業(以下、陳列作業と称する)を支援する。当該陳列作業は例えば、売場への商品の補充、陳列済みの商品の整列、あるいは不適切な商品の売場からの回収などである。なお、陳列作業は、例えば納品業者の従業員などのような店員以外の作業者により行われてもよい。
支援システム100は、情報端末装置10及び支援サーバ20を、通信ネットワーク200を介して通信可能とすることで構成されている。なお支援サーバ20は、店舗サーバ300及び状況管理サーバ400とも、通信ネットワーク200を介して通信可能である。
The support system 100 supports the work of a store clerk (hereinafter referred to as display work) regarding the displayed products in a store that sells the products displayed on the sales floor. The display work includes, for example, replenishing merchandise to the sales floor, arranging the displayed merchandise, and collecting inappropriate merchandise from the sales floor. It should be noted that the display work may be performed by a worker other than the store clerk, such as an employee of a delivery company.
The support system 100 is configured by enabling the information terminal device 10 and the support server 20 to communicate via the communication network 200 . The support server 20 can also communicate with the store server 300 and the situation management server 400 via the communication network 200 .

通信ネットワーク200は、インターネット、VPN(virtual private network)、LAN(local area network)、公衆通信網、移動体通信網などを、単独又は適宜に組み合わせて用いることができる。
店舗サーバ300は、店舗に関する各種のデータを管理するための情報処理を行う。店舗に関する各種のデータの1つは、商品の陳列レイアウトを表したレイアウトデータである。また店舗に関する各種のデータの1つは、商品の在庫を管理するための在庫データである。また店舗に関する各種のデータの1つは、店員を管理するための管理データである。
The communication network 200 can use the Internet, a VPN (virtual private network), a LAN (local area network), a public communication network, a mobile communication network, or the like, singly or in combination as appropriate.
The store server 300 performs information processing for managing various data related to the store. One of the various types of data relating to the store is layout data representing the display layout of merchandise. One of the various data related to the store is inventory data for managing product inventory. One of the various data related to the store is management data for managing salesclerks.

状況管理サーバ400は、店舗における売場での陳列状況を管理するための情報処理を行う。状況管理サーバ400は、陳列状況を管理するために、POS(point-of-sale)システム500により管理される販売データ及びセンサ群600での検出結果を参照する。販売データは、各商品の販売の実績を管理するためのデータである。センサ群600は、店舗内に配置された多数のセンサを含む。これら多数のセンサはそれぞれ、商品の陳列状況を検出する。これらセンサは例えば、カメラ、光センサ、赤外線センサ、温度センサ、あるいは重量センサなどである。 The situation management server 400 performs information processing for managing the display situation in the sales floor of the store. The situation management server 400 refers to the sales data managed by the POS (point-of-sale) system 500 and the detection results of the sensor group 600 in order to manage the display situation. The sales data is data for managing the sales performance of each product. Sensor cluster 600 includes a number of sensors located within the store. Each of these multiple sensors detects the display status of merchandise. These sensors are, for example, cameras, light sensors, infrared sensors, temperature sensors or weight sensors.

情報端末装置10は、支援サーバ20によって提供される状況データに基づき、店員による陳列作業を支援するための画面表示を行う。つまり情報端末装置10は、支援装置としての機能を備える。情報端末装置10は、典型的には、スマートフォン、携帯電話、あるいはタブレット端末等のような携帯型の情報処理装置である。情報端末装置10は、ヘッドマウント型のようなウェアラブルな情報処理装置であってもよい。 Based on the situation data provided by the support server 20, the information terminal device 10 performs screen display for supporting the display work by the store clerk. That is, the information terminal device 10 has a function as a support device. The information terminal device 10 is typically a portable information processing device such as a smart phone, a mobile phone, or a tablet terminal. The information terminal device 10 may be a wearable information processing device such as a head-mounted type.

情報端末装置10は、プロセッサ11、メインメモリ12、補助記憶デバイス13、タッチパネル14、カメラ15、通信インタフェース16及び伝送路17等を備える。プロセッサ11と、メインメモリ12、補助記憶デバイス13、タッチパネル14、カメラ15及び通信インタフェース16とは、伝送路17を介して接続される。 The information terminal device 10 includes a processor 11, a main memory 12, an auxiliary storage device 13, a touch panel 14, a camera 15, a communication interface 16, a transmission line 17, and the like. Processor 11 , main memory 12 , auxiliary storage device 13 , touch panel 14 , camera 15 and communication interface 16 are connected via transmission line 17 .

情報端末装置10においては、プロセッサ11、メインメモリ12及び補助記憶デバイス13を伝送路17で接続することによって、情報端末装置10を制御するための情報処理を行うコンピュータを構成する。
プロセッサ11は、上記コンピュータの中枢部分に相当する。プロセッサ11は、オペレーティングシステム、ミドルウェア及びアプリケーションプログラム等の情報処理プログラムに従って、情報端末装置10としての各種の機能を実現するべく各部を制御する。
In the information terminal device 10, by connecting the processor 11, the main memory 12, and the auxiliary storage device 13 with the transmission path 17, a computer that performs information processing for controlling the information terminal device 10 is configured.
The processor 11 corresponds to the central portion of the computer. The processor 11 controls each part to realize various functions of the information terminal device 10 according to information processing programs such as an operating system, middleware, and application programs.

メインメモリ12は、上記コンピュータの主記憶部分に相当する。メインメモリ12は、不揮発性のメモリ領域と揮発性のメモリ領域とを含む。メインメモリ12は、不揮発性のメモリ領域では情報処理プログラムを記憶する。またメインメモリ12は、プロセッサ11が各部を制御するための処理を実行する上で必要なデータを不揮発性又は揮発性のメモリ領域で記憶する場合もある。メインメモリ12は、揮発性のメモリ領域を、プロセッサ11によってデータが適宜書き換えられるワークエリアとして使用する。 The main memory 12 corresponds to the main memory portion of the computer. Main memory 12 includes a non-volatile memory area and a volatile memory area. The main memory 12 stores an information processing program in a nonvolatile memory area. The main memory 12 may also store data necessary for the processor 11 to execute processing for controlling each unit in a non-volatile or volatile memory area. The main memory 12 uses a volatile memory area as a work area in which data is appropriately rewritten by the processor 11 .

補助記憶デバイス13は、上記コンピュータの補助記憶部分に相当する。補助記憶デバイス13は、例えばEEPROM(electric erasable programmable read-only memory)である。HDD(hard disc drive)、SSD(solid state drive)などが補助記憶デバイス13として使用されてもよい。補助記憶デバイス13は、プロセッサ11が各種の処理を行う上で使用するデータや、プロセッサ11での処理によって生成されたデータを保存する。補助記憶デバイス13は、情報処理プログラムを記憶する。 The auxiliary storage device 13 corresponds to the auxiliary storage portion of the computer. The auxiliary memory device 13 is, for example, an EEPROM (electric erasable programmable read-only memory). An HDD (hard disc drive), SSD (solid state drive), or the like may be used as the auxiliary storage device 13 . The auxiliary storage device 13 stores data used by the processor 11 in performing various processes and data generated by the processes performed by the processor 11 . The auxiliary storage device 13 stores an information processing program.

補助記憶デバイス13が記憶する情報処理プログラムの1つは、陳列作業の支援のための画面表示を行う動作制御のためのアプリケーションプログラム(以下、陳列支援アプリと称する)P1である。ただし典型的には、陳列支援アプリP1は、情報端末装置10の管理者又はサービスマンなどによる操作に応じて、例えばインターネットを介してダウンロードされて補助記憶デバイス13に書き込まれる。つまり、情報端末装置10を使用する企業等への情報端末装置10の譲渡は、陳列支援アプリP1が補助記憶デバイス13に記憶されていない状態で行われる。しかしながら、陳列支援アプリP1が補助記憶デバイス13に記憶された状態の情報端末装置10が上記の企業等に譲渡されても構わない。 One of the information processing programs stored in the auxiliary storage device 13 is an application program (hereinafter referred to as a display support application) P1 for controlling the operation of displaying screens to support display work. Typically, however, the display support application P1 is downloaded via the Internet, for example, and written into the auxiliary storage device 13 in response to an operation by an administrator or a serviceman of the information terminal device 10 . In other words, the transfer of the information terminal device 10 to the company or the like using the information terminal device 10 is performed in a state where the display support application P1 is not stored in the auxiliary storage device 13 . However, the information terminal device 10 with the display support application P1 stored in the auxiliary storage device 13 may be transferred to the above company or the like.

タッチパネル14は、情報端末装置10の入力デバイス及び表示デバイスとして機能する。
カメラ15は、光学系及びイメージセンサを含み、光学系により形成される視野内の像を表した画像データをイメージセンサにより生成する。カメラ15は、動画撮影が可能であることが好ましい。しかしながらカメラ15は、静止画像を単独で、又は連続で撮影するものであっても構わない。
The touch panel 14 functions as an input device and a display device of the information terminal device 10 .
The camera 15 includes an optical system and an image sensor, and uses the image sensor to generate image data representing an image within a field of view formed by the optical system. The camera 15 is preferably capable of taking moving images. However, the camera 15 may take still images singly or continuously.

通信インタフェース16は、通信ネットワーク200を介したデータ通信のインタフェースである。通信インタフェース16としては、例えば移動通信網又はインターネットを介したデータ通信を行うための周知の通信デバイスを利用できる。
伝送路17は、アドレスバス、データバス及び制御信号線等を含み、接続された各部の間で授受されるデータ及び制御信号を伝送する。
The communication interface 16 is an interface for data communication via the communication network 200 . As the communication interface 16, for example, a well-known communication device for performing data communication via a mobile communication network or the Internet can be used.
The transmission line 17 includes an address bus, a data bus, a control signal line, etc., and transmits data and control signals exchanged between the connected units.

支援サーバ20は、プロセッサ21、メインメモリ22、補助記憶デバイス23、通信インタフェース24及び伝送路25等を備える。プロセッサ21と、メインメモリ22、補助記憶デバイス23及び通信インタフェース24とは、伝送路25によって接続される。伝送路25は、アドレスバス、データバス及び制御信号線等を含み、接続された各部の間で授受されるデータ及び制御信号を伝送する。 The support server 20 includes a processor 21, a main memory 22, an auxiliary storage device 23, a communication interface 24, a transmission line 25, and the like. The processor 21 , main memory 22 , auxiliary storage device 23 and communication interface 24 are connected by a transmission line 25 . The transmission line 25 includes an address bus, a data bus, a control signal line, etc., and transmits data and control signals exchanged between the connected units.

支援サーバ20においては、プロセッサ21、メインメモリ22及び補助記憶デバイス23を伝送路25で接続することによって、支援サーバ20を制御するための情報処理を行うコンピュータを構成する。
プロセッサ21は、上記コンピュータの中枢部分に相当する。プロセッサ21は、情報処理プログラムに従って、支援サーバ20としての各種の機能を実現するべく各部を制御する。
In the support server 20, by connecting the processor 21, the main memory 22 and the auxiliary storage device 23 via the transmission path 25, a computer that performs information processing for controlling the support server 20 is configured.
The processor 21 corresponds to the central portion of the computer. The processor 21 controls each part to realize various functions as the support server 20 according to an information processing program.

メインメモリ22は、上記コンピュータの主記憶部分に相当する。メインメモリ22は、不揮発性のメモリ領域と揮発性のメモリ領域とを含む。メインメモリ22は、不揮発性のメモリ領域では情報処理プログラムを記憶する。またメインメモリ22は、プロセッサ21が各部を制御するための処理を実行する上で必要なデータを不揮発性又は揮発性のメモリ領域で記憶する場合もある。メインメモリ22は、揮発性のメモリ領域を、プロセッサ21によってデータが適宜書き換えられるワークエリアとして使用する。 The main memory 22 corresponds to the main memory portion of the computer. Main memory 22 includes a non-volatile memory area and a volatile memory area. The main memory 22 stores an information processing program in a nonvolatile memory area. The main memory 22 may also store data necessary for the processor 21 to execute processing for controlling each unit in a non-volatile or volatile memory area. The main memory 22 uses a volatile memory area as a work area in which data is appropriately rewritten by the processor 21 .

補助記憶デバイス23は、上記コンピュータの補助記憶部分に相当する。補助記憶デバイス23は、例えばEEPROM、HDD、SSDなどである。補助記憶デバイス23は、プロセッサ21が各種の処理を行う上で使用するデータや、プロセッサ21での処理によって生成されたデータを保存する。補助記憶デバイス23は、情報処理プログラムを記憶する場合もある。補助記憶デバイス23が記憶する情報処理プログラムの1つは、支援サーバ20としての動作制御のためのアプリケーションプログラム(以下、支援サーバアプリと称する)P2である。補助記憶デバイス23は、状況データD1、作業データD2及び実績データD3を記憶する。これら状況データD1、作業データD2及び実績データD3については後述する。 The auxiliary storage device 23 corresponds to the auxiliary storage portion of the computer. The auxiliary storage device 23 is, for example, an EEPROM, HDD, SSD, or the like. The auxiliary storage device 23 stores data used by the processor 21 for various processes and data generated by the processes performed by the processor 21 . The auxiliary storage device 23 may store an information processing program. One of the information processing programs stored in the auxiliary storage device 23 is an application program (hereinafter referred to as a support server application) P2 for controlling the operation of the support server 20 . The auxiliary storage device 23 stores situation data D1, work data D2, and performance data D3. These situation data D1, work data D2 and performance data D3 will be described later.

通信インタフェース24は、通信ネットワーク200を介したデータ通信のインタフェースである。通信インタフェース24としては、例えばインターネットを介したデータ通信を行うための周知の通信デバイスを利用できる。 The communication interface 24 is an interface for data communication via the communication network 200 . As the communication interface 24, for example, a well-known communication device for performing data communication via the Internet can be used.

支援サーバ20は、例えば汎用のコンピュータ装置を基本ハードウェアとして用いることができる。このときに典型的には、支援サーバアプリP2が補助記憶デバイス23に記憶されない状態のコンピュータ装置と支援サーバアプリP2とが個別に支援サーバ20を使用する企業等に譲渡される。支援サーバアプリP2の譲渡は、磁気ディスク、光磁気ディスク、光ディスク、半導体メモリなどのようなリムーバブルな記録媒体に記録して、あるいはネットワークを介したダウンロードにより実現できる。そしてこの場合は、支援サーバ20の管理者又はサービスマンなどによる操作に応じて、支援サーバアプリP2が補助記憶デバイス23に書き込まれる。ただし、支援サーバアプリP2をコンピュータ装置の補助記憶デバイス23に記憶してなる支援サーバ20が上記の企業等に譲渡されても構わない。 The support server 20 can use, for example, a general-purpose computer device as basic hardware. At this time, typically, the computer device in which the support server application P2 is not stored in the auxiliary storage device 23 and the support server application P2 are individually transferred to the company or the like that uses the support server 20 . Transfer of the support server application P2 can be realized by recording it on a removable recording medium such as a magnetic disk, magneto-optical disk, optical disk, or semiconductor memory, or by downloading it via a network. In this case, the support server application P2 is written to the auxiliary storage device 23 in response to an operation by the administrator or serviceman of the support server 20 . However, the support server 20, which stores the support server application P2 in the auxiliary storage device 23 of the computer device, may be transferred to the above company or the like.

図2は状況データD1に含まれるデータレコードR1の構造を模式的に示す図である。
状況データD1は、データレコードR1を1つ又は複数含む。状況データD1がデータレコードR1をいくつ含むかは、店舗における商品の陳列状況に応じて変化する。データレコードR1は、陳列状況に異常が生じている売場に関連付けられる。なお、ここでの売場とは、店舗内の商品を陳列するスペースを複数に区切って設定された空間を表す。そしてデータレコードR1は、関連付けられた売場における陳列状況を表す。つまり状況データD1は、店舗内における陳列状況を表すデータである。
FIG. 2 is a diagram schematically showing the structure of data record R1 included in situation data D1.
The situation data D1 includes one or more data records R1. The number of data records R1 included in the situation data D1 changes according to the display situation of products in the store. The data record R1 is associated with the counter where the display situation is abnormal. Here, the sales floor represents a space set by dividing a space for displaying products in a store into a plurality of spaces. Data record R1 then represents the display situation in the associated sales floor. That is, the situation data D1 is data representing the display situation in the store.

データレコードR1は、フィールドF11,F12,F13,F14を含み得る。フィールドF11には、関連付けられた売場を識別するための売場コードがセットされる。フィールドF12には、関連付けられた売場を店員が容易に識別できるように予め定められた売場名称を表すデータがセットされる。フィールドF13には、関連付けられた売場に陳列される商品を識別するための商品コードがセットされる。フィールドF14には、関連付けられた売場での陳列状況を識別するための状況コードがセットされる。なお、売場コード、売場名称及び状況コードは、例えば支援サーバ20のメンテナンスを担うサービスマン、あるいは店舗の管理者などによって適宜に設定されてよい。状況コードは、陳列作業の支援のために店員に知らせるべきいくつかの陳列状況のそれぞれを識別できるように定められる。状況コードで識別される陳列状況は例えば、「品切れ」、「商品不足」、「陳列の乱れ」、「商品の品質チェックが必要」、あるいは「異物の混入」、などとすることが想定される。なおデータレコードR1は、例えばフィールドF12などの一部のフィールドが省略されてもよいし、別のフィールドを設けて、別の任意のデータがセットされてもよい。 Data record R1 may include fields F11, F12, F13, F14. A sales floor code for identifying the associated sales floor is set in the field F11. The field F12 is set with data representing a predetermined sales floor name so that the associated sales floor can be easily identified by the store clerk. Field F13 is set with a product code for identifying the product displayed in the associated sales floor. A field F14 is set with a status code for identifying the display status at the associated sales floor. Note that the sales area code, sales area name, and situation code may be appropriately set by, for example, a service person in charge of maintenance of the support server 20, a store manager, or the like. The status code is defined so as to identify each of several display statuses that should be notified to the store clerk for assistance with the display operation. The display status identified by the status code is assumed to be, for example, "Out of stock", "Insufficient product", "Disordered display", "Product quality check required", or "Contamination of foreign matter". . In the data record R1, for example, a part of the fields such as the field F12 may be omitted, or another field may be provided to set other arbitrary data.

図3は作業データD2に含まれるデータレコードR2の構造を模式的に示す図である。
作業データD2は、データレコードR2を1つ又は複数含む。作業データD2がデータレコードR2をいくつ含むかは、陳列作業の実施状況に応じて変化する。データレコードR2は、実施中の陳列作業に関連付けられる。そしてデータレコードR2は、関連付けられた陳列作業を管理するためのデータである。
FIG. 3 is a diagram schematically showing the structure of data record R2 included in work data D2.
The work data D2 includes one or more data records R2. The number of data records R2 included in the work data D2 changes according to the implementation status of the display work. Data record R2 is associated with the display operation in progress. Data record R2 is data for managing the associated display work.

データレコードR2は、フィールドF21,F22,F23,F24,F25を含み得る。フィールドF21には、関連付けられた陳列作業の対象となっている売場を識別するための売場コードがセットされる。フィールドF22には、関連付けられた陳列作業が開始される契機となった陳列状況を識別するための状況コードがセットされる。フィールドF23には、関連付けられた陳列作業を実施する店員を識別するための店員コードがセットされる。フィールドF24には、関連付けられた陳列作業の開始を通知した情報端末装置10を識別するための端末コードがセットされる。フィールドF25には、関連付けられた陳列作業を開始した時刻を表すデータがセットされる。なおデータレコードR2は、例えばフィールドF24などの一部のフィールドが省略されてもよいし、別のフィールドを設けて、別の任意のデータがセットされてもよい。 Data record R2 may include fields F21, F22, F23, F24, F25. The field F21 is set with a sales floor code for identifying the sales floor that is the target of the associated display work. A field F22 is set with a situation code for identifying the display situation that triggered the start of the associated display operation. A store clerk code for identifying the store clerk who carries out the associated display work is set in the field F23. A terminal code for identifying the information terminal device 10 that has notified the start of the associated display work is set in the field F24. The field F25 is set with data representing the time when the associated display work was started. In the data record R2, for example, some fields such as the field F24 may be omitted, or another field may be provided to set other arbitrary data.

図4は実績データD3に含まれるデータレコードR3の構造を模式的に示す図である。
実績データD3は、データレコードR3を複数含む。実績データD3がデータレコードR3をいくつ含むかは、陳列作業を実施する店員の数に応じて変化する。データレコードR3は、陳列作業を実施する店員に関連付けられる。そしてデータレコードR3は、関連付けられた店員による陳列作業の実績を管理するためのデータである。
FIG. 4 is a diagram schematically showing the structure of data record R3 included in performance data D3.
The performance data D3 includes a plurality of data records R3. The number of data records R3 included in the performance data D3 varies depending on the number of store clerks who carry out the display work. Data record R3 is associated with the store clerk who carries out the display work. The data record R3 is data for managing the results of display work by the associated store clerk.

データレコードR3は、フィールドF31,F32,F33,F34…を含み得る。データレコードR3が、フィールドF32以降のフィールドをいくつ含むかは、陳列作業の実績を管理する区分の数に応じて変化する。図4は、部門毎で実績を管理する場合の一例を示しており、フィールドF32以降のフィールドの数は陳列作業の対象となる部門の数となる。そしてフィールドF32以降の各フィールドは、陳列作業の対象となる部門がそれぞれ対応付けられる。フィールドF31には、関連付けられた店員を識別するための店員コードがセットされる。フィールドF32以降の各フィールドには、そのフィールドが対応付けられた部門に属する売場に関して、当該データレコードR3が関連付けられた店員が実施した陳列作業の回数を表したデータがセットされる。なおデータレコードR3は、別のフィールドを設けて、別の任意のデータをセットしてもよい。 Data record R3 may include fields F31, F32, F33, F34, . The number of fields after the field F32 included in the data record R3 changes according to the number of sections for managing the results of the display work. FIG. 4 shows an example of managing results for each department, and the number of fields after field F32 is the number of departments to be displayed. Each field after the field F32 is associated with a department to be displayed. A salesclerk code for identifying the associated salesclerk is set in the field F31. Each field after the field F32 is set with data representing the number of display operations performed by the clerk associated with the data record R3 regarding the sales floor belonging to the department associated with the field. The data record R3 may be provided with another field to set other arbitrary data.

次に以上のように構成された支援システム100の動作について説明する。
支援サーバ20においてプロセッサ21は、支援サーバアプリP2に従って、以下に説明する情報処理を行う。
図5はプロセッサ21による情報処理のフローチャートである。なお、以下に説明する処理の内容は一例であって、一部の処理の順序の変更、一部の処理の省略、あるいは別の処理の追加などは適宜に可能である。
Next, the operation of the support system 100 configured as above will be described.
In the support server 20, the processor 21 performs information processing described below according to the support server application P2.
FIG. 5 is a flow chart of information processing by the processor 21 . It should be noted that the contents of the processing described below are only examples, and it is possible to change the order of some of the processes, omit some of the processes, or add other processes as appropriate.

Act1としてプロセッサ21は、データ取得タイミングが到来したか否かを確認する。そしてプロセッサ21は、データ取得タイミングが到来していないならばNoと判定し、Act2へと進む。
Act2としてプロセッサ21は、送信要求がなされたか否かを確認する。そしてプロセッサ21は、送信要求がなされていないならばNoと判定し、Act3へと進む。
Act3としてプロセッサ21は、開始通知がなされたか否かを確認する。そして開始通知がなされていないならばNoと判定し、Act1へと戻る。
かくしてプロセッサ21はAct1~Act3としては、データ取得タイミングが到来するか、あるいは送信要求又は開始通知がなされるのを待ち受ける。
As Act1, the processor 21 confirms whether or not the data acquisition timing has arrived. If the data acquisition timing has not arrived, the processor 21 determines No, and proceeds to Act2.
As Act 2, the processor 21 confirms whether or not a transmission request has been made. If no transmission request has been made, the processor 21 determines No, and proceeds to Act3.
As Act 3, the processor 21 confirms whether or not a start notification has been given. Then, if the start notification has not been made, it is determined as No, and the process returns to Act1.
As Act1 to Act3, the processor 21 waits for the arrival of the data acquisition timing or for the transmission request or start notification.

プロセッサ21は、データ取得タイミングとして予め定められたタイミングが到来するとAct1にてYesと判定し、Act4へと進む。なおデータ取得タイミングは、例えば支援サーバアプリP2の作成者などによって任意に定められてよい。データ取得タイミングは、例えば一定時間毎のタイミングとすることが想定される。 When the timing predetermined as the data acquisition timing arrives, the processor 21 determines YES in Act1, and proceeds to Act4. Note that the data acquisition timing may be arbitrarily determined, for example, by the creator of the support server application P2. The data acquisition timing is assumed to be, for example, timing at regular time intervals.

Act4としてプロセッサ21は、異常データを取得する。プロセッサ21は例えば、異常データの送信を要求するための予め定められた要求データを状況管理サーバ400に宛てて通信ネットワーク200へと通信インタフェース24を介して送出する。そしてプロセッサ21は、この要求に対して状況管理サーバ400が送信する異常データが通信ネットワーク200によって支援サーバ20へと伝送されて、通信インタフェース24により取り込まれると、この異常データを取得する。 As Act 4, the processor 21 acquires abnormal data. The processor 21 , for example, sends predetermined request data for requesting transmission of abnormal data to the situation management server 400 to the communication network 200 via the communication interface 24 . When the abnormal data transmitted by the situation management server 400 in response to this request is transmitted to the support server 20 via the communication network 200 and captured by the communication interface 24, the processor 21 acquires this abnormal data.

ところで状況管理サーバ400は、POSシステム500で管理されている販売データと、センサ群600での検出結果などに基づき、店舗における各売場の陳列状況を監視している。そして状況管理サーバ400は、「品切れ」、「商品不足」、「陳列の乱れ」、「商品の品質チェックが必要」、あるいは「異物の混入」などの異常が発生している売場が存在するならば、その売場の売場コードと、発生している異常の状況コードとを互いに関連付けて含んだ異常データを生成し、上記のように支援サーバ20へと送信する。なお、状況管理サーバ400が陳列状況を監視するための情報処理は、既存の処理を用いることができる。 By the way, the status management server 400 monitors the display status of each sales floor in the store based on the sales data managed by the POS system 500 and the detection results of the sensor group 600 . The situation management server 400, if there is an abnormality such as "out of stock", "insufficient product", "disordered display", "product quality check required", or "contamination of foreign matter", For example, it generates anomaly data including the sales floor code of the sales floor and the situation code of the abnormality that has occurred in association with each other, and transmits it to the support server 20 as described above. It should be noted that existing processing can be used for the information processing for the situation management server 400 to monitor the display situation.

Act5としてプロセッサ21は、状況データD1を更新する。プロセッサ21は例えば、互いに関連付けて異常データに含まれた売場コード及び状況コードの組み合わせのそれぞれに関して、その売場コード及び状況コードがフィールドF11,F14にそれぞれセットされているデータレコードR1が状況データD1に含まれるか否かを確認する。そしてプロセッサ21は、該当のデータレコードR1が見つからない売場コード及び状況コードの組み合わせに関して、その売場コード及び状況コードをフィールドF11,F14にそれぞれセットした新たなデータレコードR1を状況データD1に追加する。なおプロセッサ21は、この追加するデータレコードR1のフィールドF12,F13には、フィールドF11にセットするデータが表す売場コードで識別される売場についての売場名称を表すデータと、当該売場に陳列される商品の商品コードとをそれぞれセットする。なおプロセッサ21は、このようにフィールドF12,F13にセットするデータは、例えば店舗サーバ300から取得する。 As Act5, the processor 21 updates the situation data D1. For example, the processor 21, for each combination of the sales floor code and the situation code included in the abnormal data in association with each other, stores the data record R1 in which the sales floor code and the situation code are set in the fields F11 and F14, respectively, in the situation data D1. Check whether it is included or not. Then, the processor 21 adds to the situation data D1 a new data record R1 in which the sales floor code and the situation code are set in the fields F11 and F14, respectively, for the combination of the sales floor code and the situation code for which the corresponding data record R1 is not found. Note that the processor 21 stores, in the fields F12 and F13 of the data record R1 to be added, data representing the name of the sales floor identified by the sales floor code represented by the data set in the field F11, and the products to be displayed in the sales floor. Set the product code of each. Note that the processor 21 acquires the data to be set in the fields F12 and F13 in this manner from the store server 300, for example.

またプロセッサ21は例えば、同じデータレコードR1のフィールドF11,F14にそれぞれセットされているデータが表す売場コード及び状況コードの組み合わせのそれぞれに関して、その売場コード及び状況コードが互いに関連付けて異常データに含まれているか否かを確認する。そしてプロセッサ21は、該当の売場コード及び状況コードの組み合わせが異常データに含まれていないならば、当該売場コード及び状況コードがフィールドF11,F14にそれぞれセットされているデータレコードR1を状況データD1から削除する。 Also, the processor 21, for example, regarding each combination of the sales floor code and the situation code represented by the data set in the fields F11 and F14 of the same data record R1, the sales floor code and the situation code are included in the abnormal data in association with each other. Check whether or not Then, if the combination of the sales floor code and the situation code is not included in the abnormal data, the processor 21 extracts the data record R1 in which the sales floor code and the situation code are set in the fields F11 and F14 from the situation data D1. delete.

Act6としてプロセッサ21は、実施中の作業のいずれか1つでも完了したか否かを確認する。上記のようにデータレコードR1を状況データD1から削除する場合、そのデータレコードR1に関する異常が解消されたのであるから、当該の異常を解消するための作業が完了している。そこでプロセッサ21は、状況データD1からデータレコードR1を1つも削除していないならばNoと判定し、Act1~Act3の待受状態に戻る。
かくしてプロセッサ21は、データ取得タイミング毎にAct4及びAct5を繰り返し、最新の陳列状況の監視結果を表すように状況データを更新してゆく。
As Act 6, the processor 21 confirms whether or not any one of the tasks being performed has been completed. When the data record R1 is deleted from the situation data D1 as described above, since the abnormality related to the data record R1 has been resolved, the work for resolving the abnormality has been completed. Therefore, if the processor 21 has not deleted even one data record R1 from the situation data D1, it determines No, and returns to the standby state of Act1 to Act3.
Thus, the processor 21 repeats Act4 and Act5 at each data acquisition timing, and updates the status data so as to represent the latest display status monitoring results.

さて情報端末装置10においてプロセッサ11は、陳列支援アプリP1に基づくアプリケーションの起動が操作者によって指示されたならば、陳列支援アプリP1に基づく情報処理を開始する。
図6及び図7はプロセッサ11による情報処理のフローチャートである。なお、以下に説明する処理の内容は一例であって、一部の処理の順序の変更、一部の処理の省略、あるいは別の処理の追加などは適宜に可能である。
In the information terminal device 10, the processor 11 starts information processing based on the display support application P1 when the operator instructs to start an application based on the display support application P1.
6 and 7 are flowcharts of information processing by the processor 11. FIG. It should be noted that the contents of the processing described below are only examples, and it is possible to change the order of some of the processes, omit some of the processes, or add other processes as appropriate.

Act21としてプロセッサ11は、カメラ画像の表示を開始する。プロセッサ11は例えば、カメラ15を起動させ、カメラ15が出力する画像データに基づく動画の表示をタッチパネル14に開始させる。 As Act21, the processor 11 starts displaying the camera image. For example, the processor 11 activates the camera 15 and causes the touch panel 14 to start displaying a moving image based on the image data output by the camera 15 .

Act22としてプロセッサ11は、状況データを取得する。プロセッサ11は例えば、状況データの送信を要求するための予め定められた要求データを支援サーバ20に宛てて通信ネットワーク200へと通信インタフェース16を介して送出する。そしてプロセッサ21は、この要求に対して支援サーバ20が送信する状況データが通信ネットワーク200によって情報端末装置10へと伝送されて、通信インタフェース16により取り込まれると、この状況データを取得する。プロセッサ11は、取得した状況データをメインメモリ12又は補助記憶デバイス13に保存しておく。かくして情報処理プログラムに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは取得手段として機能する。 As Act 22, the processor 11 acquires the situation data. The processor 11 , for example, sends predetermined request data to the support server 20 to the communication network 200 via the communication interface 16 for requesting transmission of the status data. When the status data transmitted by the support server 20 in response to this request is transmitted to the information terminal device 10 via the communication network 200 and captured by the communication interface 16, the processor 21 acquires this status data. The processor 11 saves the acquired situation data in the main memory 12 or the auxiliary storage device 13 . As a result of the processor 11 executing information processing based on the information processing program, the computer having the processor 11 as its central part functions as an acquisition means.

なお支援サーバ20においてプロセッサ21は、上記のように情報端末装置10から送信された要求データが通信ネットワーク200によって支援サーバ20へと伝送されて、通信インタフェース24により取り込まれると、図5中のAct2にてYesと判定し、Act7へと進む。 Note that when the request data transmitted from the information terminal device 10 as described above is transmitted to the support server 20 via the communication network 200 and captured by the communication interface 24, the processor 21 of the support server 20 performs Act 2 in FIG. is determined to be Yes, and the process proceeds to Act7.

Act7としてプロセッサ21は、補助記憶デバイス23に記憶されている状況データD1を、要求元の情報端末装置10に宛てて通信ネットワーク200へと通信インタフェース24を介して送出する。そしてプロセッサ21はこののち、Act1~Act3の待受状態に戻る。 In Act 7, the processor 21 sends the situation data D1 stored in the auxiliary storage device 23 to the information terminal device 10 that made the request to the communication network 200 via the communication interface 24. FIG. The processor 21 then returns to the standby state of Act1 to Act3.

図6中のAct23としてプロセッサ11は、データ更新タイミングが到来したか否かを確認する。そしてプロセッサ11は、データ更新タイミングが到来していないならばNoと判定し、Act24へと進む。
Act24としてプロセッサ11は、画面更新タイミングが到来したか否かを確認する。そしてプロセッサ11は、画面更新タイミングが到来していないならばNoと判定し、Act25へと進む。
Act25としてプロセッサ11は、実施の対象とする陳列作業の指定がなされたか否かを確認する。そしてプロセッサ11は、該当の指定のための操作が行われていないならばNoと判定し、Act23へと戻る。
かくしてプロセッサ11はAct24~Act25としては、データ更新タイミング又は画面更新タイミングのいずれかが到来するか、あるいは陳列作業が指定されるのを待ち受ける。
As Act23 in FIG. 6, the processor 11 confirms whether or not the data update timing has arrived. If the data update timing has not arrived, the processor 11 determines No, and proceeds to Act24.
As Act 24, the processor 11 confirms whether or not the screen update timing has arrived. If the screen update timing has not arrived, the processor 11 determines No, and proceeds to Act25.
As Act 25, the processor 11 confirms whether or not the display work to be performed has been specified. Then, the processor 11 determines No if the operation for the corresponding designation has not been performed, and returns to Act23.
Thus, in Acts 24 and 25, the processor 11 waits for the arrival of either the data update timing or the screen update timing, or the designation of display work.

プロセッサ11は、データ更新タイミングとして予め定められたタイミングが到来するとAct23にてYesと判定し、Act22へと戻る。つまりプロセッサ11は、状況データを再度取得した上で、Act23~Act25の待受状態に戻る。なおデータ更新タイミングは、例えば陳列支援アプリP1の作成者などによって任意に定められてよい。データ更新タイミングは、例えば一定時間毎のタイミングとすることが想定される。かくしてプロセッサ11は、データ更新タイミング毎に、最新の状況データを取得する。なおプロセッサ11は、最も新しく取得した状況データを、メインメモリ12又は補助記憶デバイス13に保存しておく。 When the timing predetermined as the data update timing arrives, the processor 11 determines Yes in Act23, and returns to Act22. That is, the processor 11 acquires the situation data again and then returns to the standby state of Act23 to Act25. Note that the data update timing may be arbitrarily determined, for example, by the creator of the display support application P1. The data update timing is assumed to be, for example, timing at regular time intervals. Thus, processor 11 acquires the latest situation data at each data update timing. Note that the processor 11 stores the most recently acquired situation data in the main memory 12 or the auxiliary storage device 13 .

プロセッサ11は、画面更新タイミングとして予め定められたタイミングが到来するとAct24にてYesと判定し、Act26へと進む。
Act26としてプロセッサ11は、情報端末装置10の位置と、カメラ15の撮影方向とを判定する。
The processor 11 determines Yes in Act 24 when the timing predetermined as the screen update timing arrives, and proceeds to Act 26 .
As Act 26 , the processor 11 determines the position of the information terminal device 10 and the photographing direction of the camera 15 .

Act27としてプロセッサ11は、状況画像を生成する。状況画像は、カメラ画像に映り込んでいる売場に関する陳列状況を表した画像である。プロセッサ11は例えば、店舗サーバ300からレイアウトデータを取得する。プロセッサ11は、このタイミングでレイアウトデータを店舗サーバ300から取得してもよいし、事前に店舗サーバ300から取得したデータをメインメモリ12又は補助記憶デバイス13に保存しておいてもよい。プロセッサ11は、情報端末装置10の位置と、カメラ15の撮影方向と、レイアウトデータとから、カメラ画像に映り込む売場を全て判定する。プロセッサ11は、メインメモリ12又は補助記憶デバイス13に保存してある状況データから、カメラ画像に映り込む売場の売場コードがフィールドF11にセットされているデータレコードR1を抽出する。そしてプロセッサ11は、抽出したデータレコードR1のフィールドF12,F13,F14にセットされたデータに基づいて陳列状況を表した画像を状況画像として生成する。 As Act 27, the processor 11 generates a situation image. The situation image is an image representing the display situation of the sales floor reflected in the camera image. The processor 11 acquires layout data from the store server 300, for example. The processor 11 may acquire the layout data from the store server 300 at this timing, or may store the data acquired from the store server 300 in the main memory 12 or the auxiliary storage device 13 in advance. The processor 11 determines all sales floors reflected in the camera image from the position of the information terminal device 10, the shooting direction of the camera 15, and the layout data. The processor 11 extracts from the situation data stored in the main memory 12 or the auxiliary storage device 13 the data record R1 in which the sales floor code of the sales floor shown in the camera image is set in the field F11. Then, the processor 11 generates an image representing the display situation as a situation image based on the data set in the fields F12, F13, and F14 of the extracted data record R1.

Act28としてプロセッサ11は、上記のように生成した状況画像を、既にタッチパネル14で表示しているカメラ画像に重畳して表示させる。なお以下においては、このようにしてタッチパネル14で表示される画面を、確認画面と称することとする。そしてこののちにプロセッサ11は、Act23~Act25の待受状態に戻る。 As Act 28 , the processor 11 causes the situation image generated as described above to be superimposed on the camera image already displayed on the touch panel 14 and displayed. Note that the screen displayed on the touch panel 14 in this way is hereinafter referred to as a confirmation screen. After that, the processor 11 returns to the standby state of Act23-Act25.

かくしてプロセッサ11は、画面更新タイミングとなる毎に、カメラ画像に重畳する状況画像を、カメラ画像に映り込んでいる売場に関する陳列状況を表すように、確認画面を更新して行く。ここで確認画面は、第1の画像としてのカメラ画像に陳列状況の異常を表した第2の画像としての状況画像を重畳した第1の画面に相当する。つまり情報処理プログラムに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは、第1の画面を表示デバイスとしてのタッチパネル14に表示させる制御手段として機能する。 Thus, the processor 11 updates the confirmation screen so that the situation image superimposed on the camera image represents the display situation of the sales floor reflected in the camera image each time the screen update timing comes. Here, the confirmation screen corresponds to a first screen in which a situation image as a second image representing an abnormality in the display situation is superimposed on a camera image as the first image. In other words, the processor 11 executes information processing based on the information processing program, so that the computer having the processor 11 as a central part functions as control means for displaying the first screen on the touch panel 14 as a display device.

図8は確認画面SC1を示す図である。
確認画面SC1は、データレコードR1が2つ抽出された場合の一例である。確認画面SC1は、当該2つのデータレコードR1のそれぞれに対応した2つの表示オブジェクトOB11,OB12を含む。2つのデータレコードR1の一方は、フィールドF12,F13,F14にセットされたデータが「売場A」、「商品X」及び「商品不足」をそれぞれ表す。プロセッサ11は、当該データレコードR1に基づいて表示オブジェクトOB11を生成する。そしてプロセッサ11は、確認画面SC1においては、表示オブジェクトOB11の突起の先端を、当該データレコードR1のフィールドF11にセットされたデータが表す売場コードで識別される売場が映り込んでいる領域に位置させている。2つのデータレコードR1の他方は、フィールドF12,F13,F14にセットされたデータが「売場B」、「商品Y」及び「陳列の乱れ」をそれぞれ表す。プロセッサ11は、当該データレコードR1に基づいて表示オブジェクトOB12を生成する。そしてプロセッサ11は、確認画面SC1においては、表示オブジェクトOB12の突起の先端を、当該データレコードR1のフィールドF11にセットされたデータが表す売場コードで識別される売場が映り込んでいる領域に位置させている。
FIG. 8 shows the confirmation screen SC1.
The confirmation screen SC1 is an example when two data records R1 are extracted. The confirmation screen SC1 includes two display objects OB11 and OB12 respectively corresponding to the two data records R1. In one of the two data records R1, the data set in the fields F12, F13 and F14 represent "sales area A", "merchandise X" and "merchandise shortage", respectively. The processor 11 generates a display object OB11 based on the data record R1. Then, on the confirmation screen SC1, the processor 11 positions the tip of the protrusion of the display object OB11 in the area where the sales floor identified by the sales floor code represented by the data set in the field F11 of the data record R1 is reflected. ing. In the other of the two data records R1, the data set in the fields F12, F13 and F14 represent "sales floor B", "merchandise Y" and "arrangement of display", respectively. The processor 11 generates a display object OB12 based on the data record R1. Then, on the confirmation screen SC1, the processor 11 positions the tip of the protrusion of the display object OB12 in the area where the sales floor identified by the sales floor code represented by the data set in the field F11 of the data record R1 is reflected. ing.

プロセッサ11は、画面更新タイミングが到来する毎にAct26~Act28を繰り返すことにより、状況画像を更新する。かくして、画面更新タイミングをカメラ画像のフレーム間隔と同程度の時間間隔のタイミングとして定めておけば、最新のカメラ画像に、そのカメラ画像に映り込んだ売場に関する状況画像を重畳した確認画面を常に表示させておくことが可能となる。ただし、画面更新タイミングの間隔は、カメラ画像のフレーム間隔よりも十分に長くてもよい。ただしこの場合には、カメラ画像の変化に対する状況画像の更新の遅れが生じる。しかしながら、店員が、画面更新タイミングの間隔以上の時間に渡ってカメラ15の向きを変えない状態で表示画面を確認するようにすれば、上記の遅れは問題にならない。例えば、カメラ画像のフレーム間隔が1/30秒である場合に、画面更新タイミングの間隔が1秒としてもよい。この場合、最大で1秒間に渡り店員がカメラ15の撮影方向を変えなければ、最新のカメラ画像に、そのカメラ画像に映り込んだ売場に関する状況画像を重畳した確認画面が表示されることになる。 The processor 11 updates the situation image by repeating Act26 to Act28 each time the screen update timing arrives. Thus, if the screen update timing is determined at a time interval similar to the frame interval of the camera image, a confirmation screen is always displayed in which the latest camera image is superimposed with the situation image related to the sales floor captured in the camera image. It is possible to let it go. However, the screen update timing interval may be sufficiently longer than the frame interval of camera images. However, in this case, there is a delay in updating the situation image with respect to changes in the camera image. However, if the store clerk confirms the display screen without changing the orientation of the camera 15 for a period of time longer than the interval between the screen update timings, the above delay does not become a problem. For example, if the camera image frame interval is 1/30 second, the screen update timing interval may be 1 second. In this case, if the clerk does not change the photographing direction of the camera 15 for a maximum of one second, a confirmation screen is displayed in which the latest camera image is superimposed with the situation image of the sales floor captured in the camera image. .

店員は、状況画像に示された陳列状況に関する陳列作業を開始する場合には、対象とする陳列作業を指定するための操作を行う。当該操作は例えば、表示オブジェクトへのタップである。ただし、上記操作は、表示オブジェクトの長押しなどのような別の操作としてもよい。つまり例えば店員は、確認画面SC1に基づいて売場Aに商品Xを補充するための陳列作業を行うことを決めたならば、表示オブジェクトOB11をタップする。
このようにして陳列作業の指定がなされたならば、プロセッサ11はAct25にてYesと判定し、図7中のAct30へと進む。
When the store clerk starts the display work related to the display situation shown in the situation image, the store clerk performs an operation for designating the target display work. The operation is, for example, tapping a display object. However, the above operation may be another operation such as a long press on the display object. That is, for example, if the store clerk decides to perform display work for replenishing product X in sales floor A based on the confirmation screen SC1, he or she taps the display object OB11.
If the display work is specified in this way, the processor 11 determines Yes in Act 25 and proceeds to Act 30 in FIG.

Act30としてプロセッサ11は、支援サーバ20に対する開始通知を行う。開始通知は、店員が作業を開始することの通知である。プロセッサ11は例えば、開始通知のための予め定められた通知データを支援サーバ20に宛てて通信ネットワーク200へと通信インタフェース16を介して送出する。プロセッサ11は、通知データには、タップされた表示オブジェクトに対応するデータレコードR1のフィールドF11及びF14にセットされたデータが表す状況コード及び状況コードを含める。またプロセッサ11は、通知データには、メインメモリ12又は補助記憶デバイス13に保存された店員コードを含める。なおプロセッサ11は例えば、情報端末装置10の使用が開始される際に店員の認証を行うなどして取得しておいた店員コードをメインメモリ12又は補助記憶デバイス13に保存しておく。あるいはプロセッサ11は、利用者設定により指定された店員コードをメインメモリ12又は補助記憶デバイス13に保存しておいてもよい。つまり本実施形態においては、情報端末装置10の使用者が確認画面SC1の閲覧者となることを前提としており、プロセッサ11は、ここで取得される店員コードで識別される店員として閲覧者を識別しているのである。かくして情報処理プログラムに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは識別手段として機能する。 As Act 30, the processor 11 notifies the support server 20 of the start. The start notification is a notification that the salesclerk will start work. The processor 11 , for example, sends predetermined notification data for the start notification to the support server 20 via the communication interface 16 to the communication network 200 . The processor 11 includes, in the notification data, the status code and the status code represented by the data set in the fields F11 and F14 of the data record R1 corresponding to the tapped display object. The processor 11 also includes the store clerk code stored in the main memory 12 or the auxiliary storage device 13 in the notification data. Note that the processor 11 saves in the main memory 12 or the auxiliary storage device 13 a store clerk code acquired by authenticating the store clerk when use of the information terminal device 10 is started, for example. Alternatively, the processor 11 may store the store clerk code designated by the user setting in the main memory 12 or the auxiliary storage device 13 . That is, in the present embodiment, it is assumed that the user of the information terminal device 10 is the viewer of the confirmation screen SC1, and the processor 11 identifies the viewer as the salesclerk identified by the salesclerk code acquired here. I'm doing it. As a result of the processor 11 executing information processing based on the information processing program, the computer having the processor 11 as its central part functions as identification means.

通知データが通信ネットワーク200によって支援サーバ20へと伝送されると、通信インタフェース24により取り込まれる。そしてプロセッサ21はこれに応じて、図5中のAct3にてYesと判定し、Act8へと進む。 As the notification data is transmitted over the communication network 200 to the assistance server 20 , it is captured by the communication interface 24 . In response to this, the processor 21 determines Yes in Act3 in FIG. 5, and proceeds to Act8.

Act8としてプロセッサ21は、開始通知に応じて作業データを更新する。プロセッサ21は例えば、通知データに含まれた売場コード、状況コード及び店員コードと、開始通知の送信元の情報端末装置10の端末コードと、開始時刻を表すデータとを、フィールドF21~F25にそれぞれセットした新たなデータレコードR2を生成し、当該データレコードR2を含むように作業データD2を更新する。プロセッサ21は例えば、作業を開始した時刻、あるいは開始通知を行った時刻に関する時刻データが開始通知に含まれるならば、その時刻データが表す時刻を、上記の開始時刻とすればよい。プロセッサ21は例えば、開始通知が通信インタフェース24により取り込まれた時刻を上記の開始時刻としてもよい。プロセッサは例えば、上記の各種の時刻のうちの1つを予め定められた決まりに従って修正した時刻を上記の開始時刻としてもよい。また、プロセッサ21は、任意の記憶デバイスにて情報端末装置10を識別するための端末コードに関連付けて記憶されている店員コードを取得し、この店員コードを上記の新たなデータレコードR2のフィールドF23にセットしてもよい。上記記憶デバイスは、メインメモリ22又は補助記憶デバイス23、店舗サーバ300に設けられた記憶デバイス、あるいはその他の記憶デバイスであってよい。 As Act8, the processor 21 updates the work data in response to the start notification. The processor 21 stores, for example, the sales floor code, the situation code, and the store clerk code included in the notification data, the terminal code of the information terminal device 10 that transmitted the start notification, and data representing the start time in fields F21 to F25, respectively. A new set data record R2 is generated, and the work data D2 is updated to include the data record R2. For example, if the start notification includes time data related to the time at which the work was started or the time at which the start notification was issued, the processor 21 may set the time represented by the time data as the start time. For example, the processor 21 may set the time when the start notification is received by the communication interface 24 as the start time. For example, the processor may set one of the various times described above to a time adjusted according to a predetermined rule as the start time. Further, the processor 21 acquires the store clerk code stored in an arbitrary storage device in association with the terminal code for identifying the information terminal device 10, and stores this store clerk code in the field F23 of the new data record R2. can be set to The storage device may be the main memory 22 or the auxiliary storage device 23, a storage device provided in the shop server 300, or other storage devices.

Act9としてプロセッサ21は、開始通知を行った情報端末装置10に対して案内データを送信する。案内データは、作業のサポートのための案内の手順を表したデータである。プロセッサ21は、通知データに含まれた売場コード及び状況コードの組み合わせに関連付けてメインメモリ22又は補助記憶デバイス23に保存されている案内データを、読み出して、開始通知を行った情報端末装置10に宛てて通信インタフェース24を介して通信ネットワーク200へと送出する。そしてプロセッサ21はこののち、Act1~Act3の待受状態に戻る。 As Act 9, the processor 21 transmits guidance data to the information terminal device 10 that has sent the start notification. Guidance data is data representing a guidance procedure for supporting work. The processor 21 reads the guidance data stored in the main memory 22 or the auxiliary storage device 23 in association with the combination of the sales floor code and the situation code included in the notification data, and sends it to the information terminal device 10 that sent the start notification. It is sent to the communication network 200 via the communication interface 24 to the destination. The processor 21 then returns to the standby state of Act1 to Act3.

案内データは例えば、「売場A」に陳列される商品が「商品X」であり、「商品X」が「第1倉庫」に在庫されているとする場合に、「売場A」及び「商品不足」の組み合わせに対しては、「第1倉庫へと誘導」「商品Xの搬出を指示」「売場Aへと誘導」「商品Xの陳列を指示」といった手順を表したデータとされる。 For example, if the product displayed in the “sales floor A” is the “product X” and the “product X” is stocked in the “first warehouse”, the guidance data includes the “sales floor A” and the “product shortage ' is data representing a procedure such as 'guidance to the first warehouse', 'instruction to carry out product X', 'guidance to sales floor A', and 'instruction to display product X'.

情報端末装置10においてプロセッサ11は図7中のAct30にて前述のように開始通知を行った後には、Act31へと進む。一方、前述の案内データは、通信ネットワーク200によって情報端末装置10へと伝送されると、通信インタフェース16により取り込まれる。 After the processor 11 in the information terminal device 10 issues the start notification as described above in Act30 in FIG. 7, the process proceeds to Act31. On the other hand, the guidance data described above is received by the communication interface 16 when it is transmitted to the information terminal device 10 via the communication network 200 .

Act31としてプロセッサ11は、案内データを、通信インタフェース16を介して取得する。プロセッサ11は、取得した案内データをメインメモリ12又は補助記憶デバイス13に保存しておく。
Act32としてプロセッサ11は、情報端末装置10の位置と、カメラ15の撮影方向とを判定する。
As Act 31 , the processor 11 acquires guidance data via the communication interface 16 . The processor 11 stores the acquired guidance data in the main memory 12 or the auxiliary storage device 13 .
As Act 32 , the processor 11 determines the position of the information terminal device 10 and the photographing direction of the camera 15 .

Act33としてプロセッサ11は、案内データに基づいて案内画像を生成する。案内画像は、店員による作業をサポートするための画像である。例えばプロセッサ11は、案内データが表す手順の「第1倉庫へと誘導」に関しては、案内画像は店員を第1倉庫へと誘導するための画像とする。
Act34としてプロセッサ11は、上記のように生成した案内画像を、既にタッチパネル14で表示しているカメラ画像に重畳して表示させる。なお以下においては、このようにしてタッチパネル14で表示される画面を、案内画面と称することとする。
As Act 33, the processor 11 generates a guide image based on the guide data. The guidance image is an image for supporting work by the store clerk. For example, the processor 11 selects an image for guiding the store clerk to the first warehouse as the guide image for the procedure "guidance to the first warehouse" represented by the guidance data.
As Act 34 , the processor 11 causes the guide image generated as described above to be superimposed on the camera image already displayed on the touch panel 14 and displayed. Note that the screen displayed on the touch panel 14 in this way is hereinafter referred to as a guide screen.

図9は案内画面SC2を示す図である。
案内画面SC2は、確認画面SC1における表示オブジェクトOB11がタップされたことに応じて、商品Xを売場Aに補充する作業を案内するための案内画面の一例である。案内画面SC2はさらに詳しくは、店員を第1の倉庫へと誘導するための案内画面の一例である。案内画面SC2は、2つの表示オブジェクトOB21,OB22を含む。表示オブジェクトOB21は、第1の倉庫への移動のために進むべき方向を示した矢印である。表示オブジェクトOB22は、商品Xが第1倉庫に在庫されていることを店員に知らせるメッセージを表す。ここで案内画面は、第1の画像としてのカメラ画像に陳列作業を案内する第3の画像としての案内画像を重畳した第2の画面に相当する。つまり情報処理プログラムに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは、第2の画面を表示デバイスとしてのタッチパネル14に表示させる制御手段として機能する。
FIG. 9 shows the guide screen SC2.
The guidance screen SC2 is an example of a guidance screen for guiding the work of replenishing the sales floor A with the product X in response to the tapping of the display object OB11 on the confirmation screen SC1. More specifically, the guide screen SC2 is an example of a guide screen for guiding the store clerk to the first warehouse. Guidance screen SC2 includes two display objects OB21 and OB22. The display object OB21 is an arrow indicating the direction to move to the first warehouse. A display object OB22 represents a message informing the store clerk that the product X is in stock in the first warehouse. Here, the guide screen corresponds to a second screen in which a guide image as a third image for guiding the display work is superimposed on the camera image as the first image. That is, the processor 11 executes information processing based on the information processing program, so that the computer having the processor 11 as a central part functions as control means for displaying the second screen on the touch panel 14 as a display device.

Act35としてプロセッサ11は、画面更新タイミングが到来したか否かを確認する。そしてプロセッサ11は、画面更新タイミングが到来していないならばNoと判定し、Act36へと進む。
Act36としてプロセッサ11は、実施中の作業の完了が通知されたか否かを確認する。そしてプロセッサ11は、該当の通知がなされていないならばNoと判定し、Act35へと戻る。
かくしてプロセッサ11はAct35,Act36としては、画面更新タイミングが到来するか、あるいは完了通知がなされるのを待ち受ける。
As Act 35, the processor 11 confirms whether or not the screen update timing has arrived. If the screen update timing has not arrived, the processor 11 determines No, and proceeds to Act36.
As Act 36, the processor 11 confirms whether or not the completion of the work in progress has been notified. Then, if the corresponding notification has not been made, the processor 11 determines No, and returns to Act35.
Thus, in Acts 35 and 36, the processor 11 waits for the arrival of the screen update timing or for the completion notification.

プロセッサ11は、画面更新タイミングとして予め定められたタイミングが到来するとAct35にてYesと判定し、Act32~Act34を上述と同様に繰り返す。かくしてプロセッサ11は、画面更新タイミングとなる毎に、カメラ画像に重畳する案内画像を、その時点での情報端末装置10の位置及びカメラ15の撮影方向とを考慮して更新して行く。これにより店員は、カメラ15により店内を撮影しながら、案内画像での案内に従って動作することにより、陳列作業を容易に行うことが可能である。 When the timing predetermined as the screen update timing arrives, the processor 11 determines Yes in Act35, and repeats Act32 to Act34 in the same manner as described above. Thus, the processor 11 updates the guide image superimposed on the camera image every time the screen is updated, considering the position of the information terminal device 10 and the shooting direction of the camera 15 at that time. As a result, the store clerk can easily carry out the display work by operating according to the guidance in the guide image while photographing the inside of the store with the camera 15 .

店員が適切に作業を完了した場合、その作業の対象である売場の陳列状況に関して、状況管理サーバ400が異常を検出しなくなる。そしてこの場合に支援サーバ20においてプロセッサ21は、図5中のAct5にて前述のようにデータレコードR1を状況データD1から削除することになる。そしてプロセッサ21はこの場合には、Act6にてYesと判定し、Act10へと進む。 When the clerk appropriately completes the work, the situation management server 400 no longer detects an abnormality in the display situation of the sales floor that is the target of the work. In this case, the processor 21 in the support server 20 deletes the data record R1 from the situation data D1 at Act5 in FIG. 5 as described above. In this case, the processor 21 determines Yes in Act6 and proceeds to Act10.

Act10としてプロセッサ21は、完了した作業の開始を通知した情報端末装置10に対して完了通知を行う。プロセッサ21は例えば、Act5にて削除したデータレコードR1を削除する場合には、当該データレコードR1のフィールドF11にセットされている売場コードがフィールドF21にセットされているデータレコードR2を作業データD2の中から抽出しておく。プロセッサ21は、この抽出しておいたデータレコードR2のフィールドF24にセットされたデータが表す端末コードで識別される情報端末装置10に宛てて、完了通知のための予め定められた通知データを通信ネットワーク200へと通信インタフェース24を介して送出する。プロセッサ21は、通知データには、上記の抽出したデータレコードR2のフィールドF21にセットされた売場コードを含める。 In Act 10, the processor 21 notifies the information terminal device 10 that has notified the start of the completed work of completion. For example, when deleting the data record R1 deleted in Act5, the processor 21 replaces the data record R2 in which the sales floor code set in the field F11 of the data record R1 is set in the field F21 of the work data D2. Extract from inside. The processor 21 communicates predetermined notification data for the completion notification to the information terminal device 10 identified by the terminal code represented by the data set in the field F24 of the extracted data record R2. It is sent out to the network 200 via the communication interface 24 . The processor 21 includes the sales floor code set in the field F21 of the extracted data record R2 in the notification data.

Act11としてプロセッサ21は、作業データD2を、完了した作業を実施中の作業として表すことがないように更新する。例えばプロセッサ21は、上記の抽出したデータレコードR2を作業データD2から削除する。あるいはプロセッサ21は、完了済みである旨を表すデータをセットした新たなフィールドを、上記の抽出したデータレコードR2に追加してもよい。あるいはプロセッサ21は、生成時に未完了であることを表す状態としてデータレコードR2に含めたフラグを、完了を表す状態に変更してもよい。 In Act11, the processor 21 updates the work data D2 so as not to represent completed work as work in progress. For example, the processor 21 deletes the extracted data record R2 from the work data D2. Alternatively, processor 21 may add a new field to the above extracted data record R2, set with data indicating that it has been completed. Alternatively, the processor 21 may change the flag included in the data record R2 as a state representing incompleteness at the time of generation to a state representing completion.

Act12としてプロセッサ21は、実績データD3を、完了した陳列作業を反映するように更新する。つまりプロセッサ21は、完了した陳列作業の対象となっていた売場が属する部門についての作業回数を1つ増やす。例えばプロセッサ21は、上記の抽出したデータレコードR2のフィールドF23にセットされた店員コードがフィールドF31にセットされたデータレコードR3を選択する。プロセッサ21は、この選択したデータレコードR3の中で、上記の部門に関連付けられたフィールドにセットされたデータを、現状よりも1つ大きな回数を表すように更新する。プロセッサ21は、ここで更新するフィールドを、上記の抽出したデータレコードR2のフィールドF21にセットされた売場コードで識別される売場が属する部門に関連付けられたフィールドとして特定すればよい。かくして情報処理プログラムに基づく情報処理をプロセッサ21が実行することによって、プロセッサ21を中枢部分とするコンピュータは記録手段として機能する。
プロセッサ21はこののち、Act1~Act3の待受状態に戻る。
As Act12, the processor 21 updates the performance data D3 to reflect the completed display work. In other words, the processor 21 increments by one the number of times of work for the department to which the sales floor that was the target of the completed display work belongs. For example, the processor 21 selects the data record R3 in which the salesclerk code set in the field F23 of the extracted data record R2 is set in the field F31. The processor 21 updates the data set in the field associated with the department in the selected data record R3 to represent the number of times one greater than the current number. The processor 21 may specify the field to be updated here as a field associated with the department to which the sales floor identified by the sales floor code set in the field F21 of the extracted data record R2 belongs. As a result of the processor 21 executing information processing based on the information processing program, the computer having the processor 21 as its central part functions as recording means.
After that, the processor 21 returns to the standby state of Act1 to Act3.

さて、上記の完了通知のための通知データが通信ネットワーク200によって宛先とされた情報端末装置10へと伝送されると、該当の情報端末装置10の通信インタフェース16により取り込まれる。そしてプロセッサ11はこれに応じて、図7中のAct36にてYesと判定し、図6中のAct22へと戻る。そしてプロセッサ11は、Act22以降の処理を前述と同様に繰り返す。つまりプロセッサ11は、確認画面SC1のような画面の表示によって、陳列状況の異常を店員に確認させる状態に戻る。 Now, when the notification data for the completion notification is transmitted to the information terminal device 10 designated as the destination via the communication network 200, the communication interface 16 of the corresponding information terminal device 10 takes in the notification data. In response to this, the processor 11 determines Yes in Act 36 in FIG. 7 and returns to Act 22 in FIG. Then, the processor 11 repeats the processes after Act22 in the same manner as described above. In other words, the processor 11 returns to a state in which the display of a screen such as the confirmation screen SC1 allows the store clerk to confirm the abnormality in the display situation.

以上のように支援システム100によれば、カメラ画像に状況画像を重畳して示した確認画面の表示により、カメラ15により店内を撮影した動画像上において、異常が生じている陳列状況を店員に認識させることが可能となる。かくして支援システム100によれば、店舗における商品陳列に関する店員の作業を支援できる。 As described above, according to the support system 100, by displaying the confirmation screen in which the situation image is superimposed on the camera image, the store clerk can be notified of the abnormal display situation on the video image of the inside of the store captured by the camera 15. It is possible to recognize. Thus, according to the support system 100, it is possible to support the salesclerk's work related to product display in the store.

また支援システム100によれば、カメラ画像に案内画像を重畳して示した案内画面の表示により、店員が指定した陳列の異常を解消するために行うべき作業を店員に認識させることが可能となる。かくして支援システム100によれば、店舗における商品陳列に関する店員の作業を、さらに簡易とするように支援できる。 Further, according to the support system 100, it is possible for the store clerk to recognize the work to be done in order to resolve the display abnormality specified by the store clerk by displaying the guide screen in which the guide image is superimposed on the camera image. . Thus, according to the support system 100, it is possible to support the clerk's work related to the display of merchandise in a store so as to be further simplified.

また支援システム100によれば、状況画像において対象とする作業として指定された作業が完了したならば、当該完了した作業が、当該作業を指定した店員により行われたこととして、作業の実績を実績データD3に記録する。かくして、支援システム100による支援の下での作業の実施状況を管理することが可能である。 Further, according to the support system 100, when the work designated as the target work in the situation image is completed, the completed work is regarded as having been performed by the clerk who designated the work, and the performance of the work is displayed. Record in data D3. Thus, it is possible to manage the implementation status of work under the support of the support system 100. FIG.

この実施形態は、次のような種々の変形実施が可能である。
確認画面は、カメラ画像に映り込んでいない売場に関する異常を表す表示オブジェクトを含んでもよい。例えば、確認画面SC1が表示される状況において、カメラ画像には映り込んでいない「売場C」に関して「品切れ」となっている場合に、その状況を表す表示オブジェクトを追加表示する。
図10は確認画面SC3を示す図である。
確認画面SC3は、確認画面SC1に表示オブジェクトOB31,OB32を加えている。表示オブジェクトOB31は、カメラ画像内で売場Cが位置する方向を表す。表示オブジェクトOB32は、上記の異常の発生状況を表し、その突起の先端は、表示オブジェクトOB31を指している。
This embodiment can be modified in various ways as follows.
The confirmation screen may include a display object representing an abnormality related to the sales floor that is not captured in the camera image. For example, in the situation where the confirmation screen SC1 is displayed, if the "sales floor C" that is not captured in the camera image is "out of stock", a display object representing that situation is additionally displayed.
FIG. 10 shows the confirmation screen SC3.
The confirmation screen SC3 adds display objects OB31 and OB32 to the confirmation screen SC1. A display object OB31 represents the direction in which the sales floor C is located in the camera image. A display object OB32 represents the occurrence of the above abnormality, and the tip of the projection points to the display object OB31.

確認画面での異常の発生状況の表し方、あるいは案内画面での案内の表し方は任意であってよく、例えば陳列支援アプリP1の作成者などにより任意に定められてよい。 The manner of displaying the occurrence of abnormality on the confirmation screen or the manner of displaying guidance on the guidance screen may be arbitrary, and may be arbitrarily determined by the creator of the display support application P1, for example.

確認画面と案内画面とを並べて同時に表示してもよい。 The confirmation screen and the guide screen may be displayed side by side at the same time.

カメラ画像に、状況画像及び案内画像の双方を重畳した画面を表示してもよい。 A screen in which both the situation image and the guidance image are superimposed on the camera image may be displayed.

状況画像及び案内画像の少なくともいずれか一方は、支援サーバ20にて例えばプロセッサ21が生成してもよい。この場合は例えば、プロセッサ11は、情報端末装置10の位置及びカメラ15の撮影方向などに関する撮影条件データを支援サーバ20に送る。プロセッサ21は、情報端末装置10から受信した撮影条件データと状況データD1とに基づいて、前記実施形態と同様にして状況画像又は案内画像を生成する。プロセッサ21は、状況画像又は案内画像を表す画像データを情報端末装置10に送る。プロセッサ11は、支援サーバ20から受信した画像データが表す状況画像又は案内画像をカメラ画像に重畳して、確認画面又は案内画面を生成し、タッチパネル14に表示させる。この場合においては、取得手段及び制御手段としての機能は、プロセッサ11を中枢とするコンピュータによる情報処理及びプロセッサ21を中枢とするコンピュータによる情報処理の協働により実現される。 At least one of the situation image and the guide image may be generated by, for example, the processor 21 in the support server 20 . In this case, for example, the processor 11 sends shooting condition data regarding the position of the information terminal device 10 and the shooting direction of the camera 15 to the support server 20 . Based on the shooting condition data and the situation data D1 received from the information terminal device 10, the processor 21 generates a situation image or a guidance image in the same manner as in the above embodiment. The processor 21 sends image data representing the situation image or the guide image to the information terminal device 10 . The processor 11 superimposes the situation image or guidance image represented by the image data received from the support server 20 on the camera image, generates a confirmation screen or guidance screen, and displays it on the touch panel 14 . In this case, the functions of the acquisition means and the control means are realized by cooperation of information processing by a computer centered on the processor 11 and information processing by a computer centered on the processor 21 .

確認画面及び案内画面の少なくともいずれか一方を、支援サーバ20において生成してもよい。この場合は例えば、プロセッサ11は、上記の撮影条件データと、カメラ画像を表した画像データとを支援サーバ20に送る。プロセッサ21は、撮影条件データと状況データD1とに基づいて状況画像又は案内画面を生成し、これを情報端末装置10から受信した画像データが表すカメラ画像に重畳して確認画面又は案内画面を生成する。プロセッサ21は、確認画面又は案内画面を表す画面データを情報端末装置10へと送信する。そしてプロセッサ11は、支援サーバ20から受信した画面データが表す確認画面又は案内画面をタッチパネル14に表示させる。この場合においては、取得手段及び制御手段としての機能は、プロセッサ21を中枢とするコンピュータによる情報処理により実現される。 At least one of the confirmation screen and the guidance screen may be generated by the support server 20 . In this case, for example, the processor 11 sends the photographing condition data and the image data representing the camera image to the support server 20 . The processor 21 generates a situation image or guidance screen based on the shooting condition data and the situation data D1, and superimposes this on the camera image represented by the image data received from the information terminal device 10 to generate a confirmation screen or guidance screen. do. The processor 21 transmits screen data representing a confirmation screen or a guide screen to the information terminal device 10 . Then, the processor 11 causes the touch panel 14 to display a confirmation screen or a guidance screen represented by the screen data received from the support server 20 . In this case, the functions of the acquisition means and the control means are realized by information processing by a computer centered on the processor 21 .

状況データD1の生成を、状況管理サーバ400で行ってもよい。そしてプロセッサ11は、状況管理サーバ400から状況データを取得してもよい。 The situation management server 400 may generate the situation data D1. The processor 11 may then acquire the situation data from the situation management server 400 .

プロセッサ11が、状況管理サーバ400から異常データを取得して、プロセッサ21による前述の処理と同様な処理によって状況データを生成してもよい。 The processor 11 may acquire the abnormality data from the situation management server 400 and generate the situation data by the same process as the above-described process by the processor 21 .

情報端末装置10の個々において、その情報端末装置10を使用する店員が行う陳列作業を管理してもよい。つまり例えば、補助記憶デバイス13に、この補助記憶デバイス13を備えた情報端末装置10を使用する店員が行う陳列作業に関するデータレコードR2のみを含んだ作業データD2を保存しておく。そしてプロセッサ11は、図7中のAct30に代えて、上記の作業データD2の更新を図5中のAct11と同様な処理として実行する。またプロセッサ11は図7中のAct36に代えて、作業データD2にて管理している陳列作業が完了したか否かの判断を図5中のAct6と同様な処理として実行する。 In each information terminal device 10, the display work performed by the store clerk using the information terminal device 10 may be managed. That is, for example, the auxiliary storage device 13 stores work data D2 including only the data record R2 related to the display work performed by the store clerk using the information terminal device 10 equipped with the auxiliary storage device 13 . Then, the processor 11 executes the update of the work data D2 as the same process as Act11 in FIG. 5 instead of Act30 in FIG. In place of Act 36 in FIG. 7, the processor 11 determines whether or not the display work managed by the work data D2 is completed as the same process as Act 6 in FIG.

情報端末装置10の個々において、その情報端末装置10を使用する店員の作業実績を管理してもよい。つまり例えば、補助記憶デバイス13に、この補助記憶デバイス13を備えた情報端末装置10を使用する店員に関するデータレコードR3を含んだ実績データD3を保存しておく。なお、情報端末装置10が一人の店員により使用されるのであれば、その情報端末装置10が備える補助記憶デバイス13に記憶される実績データD3は1つのデータレコードR3のみを含む。そしてプロセッサ21は、図7中のAct36にてYesと判定したのちに、上記の実績データD3の更新を図5中のAct12と同様な処理として実行する。なお、この場合には、プロセッサ11が記録手段として機能することになる。 For each information terminal device 10 , the work results of the store clerk who uses the information terminal device 10 may be managed. In other words, for example, the auxiliary storage device 13 stores performance data D3 including a data record R3 relating to a salesclerk who uses the information terminal device 10 provided with the auxiliary storage device 13 . Incidentally, if the information terminal device 10 is used by one store clerk, the performance data D3 stored in the auxiliary storage device 13 of the information terminal device 10 includes only one data record R3. Then, after determining Yes in Act36 in FIG. 7, the processor 21 updates the performance data D3 as the same process as Act12 in FIG. In this case, the processor 11 functions as recording means.

カメラ画像に代えて、店内の見た目を表したアニメーション、あるいはコンピュータグラフィクスなどを用いてもよい。 Instead of the camera image, an animation or computer graphics representing the appearance of the inside of the store may be used.

確認画面又は案内画面は、静止画像に対して状況画像又は案内画像を重畳して生成してもよい。 The confirmation screen or the guide screen may be generated by superimposing the situation image or the guide image on the still image.

プロセッサ21は、作業終了を宣言するための予め定められた操作が情報端末装置10又はその他の任意の情報処理装置で行われたことに応じて、Act6にてYesと判定してもよい。この場合に、作業終了の宣言は、作業を行っている店員により行われてもよいし、作業対象の売場を管理する管理者などのような別の店員により行われてもよい。 The processor 21 may determine Yes in Act 6 in response to a predetermined operation for declaring work completion being performed on the information terminal device 10 or any other information processing device. In this case, the declaration of work completion may be made by the clerk who is doing the work, or may be made by another clerk such as a manager who manages the sales floor to be worked on.

情報処理によりプロセッサ11,21が実現する各機能は、その一部又は全てをロジック回路などのようなプログラムに基づかない情報処理を実行するハードウェアにより実現することも可能である。また上記の各機能のそれぞれは、上記のロジック回路などのハードウェアにソフトウェア制御を組み合わせて実現することも可能である。 Each function realized by the processors 11 and 21 by information processing can also be partially or wholly realized by hardware that executes information processing not based on a program, such as a logic circuit. Further, each of the functions described above can be implemented by combining hardware such as the logic circuit described above with software control.

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の当初の特許請求の範囲に記載された発明を付記する。
[付記1] 売場における商品の陳列状況に関する状況データを取得する取得手段と、
作業者の位置から前記売場を目視した様子を表した第1の画像に、前記取得手段により取得された前記状況データに基づき前記陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させる制御手段と、
を具備した支援システム。
[付記2] 前記制御手段は、前記第2の画像が表す異常が指定されたことに応じて、当該指定された異常を解消するための作業を案内する第3の画像を前記第1の画像に重畳した第2の画面を前記表示デバイスに表示させる、
付記1に記載の支援システム。
[付記3] 前記表示デバイスが表示する画面の閲覧者を識別する識別手段と、
前記表示デバイスが表示する画面を前記制御手段が前記第2の画面に変更させたのちに、前記第3の画像に関する異常が解消されたことに応じて、前記識別手段により識別された閲覧者による作業の実績として記録する記録手段と、
をさらに具備した付記2に記載の支援システム。
[付記4] 売場における商品の陳列状況に関する状況データを取得する取得手段と、
作業者の位置から前記売場を目視した様子を表した第1の画像に、前記取得手段により取得された前記状況データに基づき前記陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させる制御手段と、
を具備した支援装置。
[付記5] 支援装置を制御するコンピュータを、
売場における商品の陳列状況に関する状況データを取得する取得手段と、
作業者の位置から前記売場を目視した様子を表した第1の画像に、前記取得手段により取得された前記状況データに基づき前記陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させる制御手段と、
して機能させるための情報処理プログラム。
While several embodiments of the invention have been described, these embodiments have been presented by way of example and are not intended to limit the scope of the invention. These novel embodiments can be implemented in various other forms, and various omissions, replacements, and modifications can be made without departing from the scope of the invention. These embodiments and modifications thereof are included in the scope and gist of the invention, and are included in the scope of the invention described in the claims and equivalents thereof.
The following is a supplementary description of the inventions originally claimed in this application.
[Appendix 1] Acquisition means for acquiring status data relating to the display status of commodities on the sales floor;
A first image obtained by superimposing a second image showing an abnormality in the display situation based on the situation data acquired by the acquisition means on a first image showing the sales floor viewed from the worker's position. a control means for displaying a screen on a display device;
support system with
[Appendix 2] In response to the designation of the abnormality represented by the second image, the control means displays a third image that guides work for resolving the designated abnormality from the first image. causing the display device to display a second screen superimposed on the
The support system of clause 1.
[Appendix 3] Identification means for identifying a viewer of the screen displayed by the display device;
by the viewer identified by the identification means in response to the abnormality relating to the third image being resolved after the control means changes the screen displayed by the display device to the second screen a recording means for recording work results;
3. The assistance system of clause 2, further comprising:
[Appendix 4] Acquisition means for acquiring status data regarding the display status of products on the sales floor;
A first image obtained by superimposing a second image showing an abnormality in the display situation based on the situation data acquired by the acquisition means on a first image showing the sales floor viewed from the worker's position. a control means for displaying a screen on a display device;
A support device with
[Appendix 5] A computer that controls the support device,
Acquisition means for acquiring status data relating to the display status of commodities in the sales floor;
A first image obtained by superimposing a second image showing an abnormality in the display situation based on the situation data acquired by the acquisition means on a first image showing the sales floor viewed from the worker's position. a control means for displaying a screen on a display device;
Information processing program to function as

10…情報端末装置、11…プロセッサ、12…メインメモリ、13…補助記憶デバイス、14…タッチパネル、15…カメラ、16…通信インタフェース、17…伝送路、20…支援サーバ、21…プロセッサ、22…メインメモリ、23…補助記憶デバイス、24…通信インタフェース、25…伝送路、100…支援システム、200…通信ネットワーク、300…店舗サーバ、400…状況管理サーバ、500…POSシステム、600…センサ群。 DESCRIPTION OF SYMBOLS 10... Information terminal device, 11... Processor, 12... Main memory, 13... Auxiliary memory device, 14... Touch panel, 15... Camera, 16... Communication interface, 17... Transmission line, 20... Support server, 21... Processor, 22... Main memory 23 Auxiliary storage device 24 Communication interface 25 Transmission path 100 Support system 200 Communication network 300 Store server 400 Situation management server 500 POS system 600 Sensor group.

Claims (3)

作業者の位置から複数の売場を含む範囲を目視した様子を表した第1の画像に映り込む複数の売場のそれぞれにおける商品の陳列状況に関する状況データを取得する取得手段と、
前記第1の画像に、前記取得手段により取得された前記状況データに基づき前記第1の画像に映り込む複数の売場のそれぞれにおける陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させたのち、前記第2の画像が表す異常が指定されたことに応じて、当該指定された異常を解消するための作業を案内する第3の画像を前記第1の画像に重畳した第2の画面を前記表示デバイスに表示させる制御手段と、
前記表示デバイスが表示する画面の閲覧者を識別する識別手段と、
前記表示デバイスが表示する画面を前記制御手段が前記第2の画面に変更させたのちに、前記第3の画像に関する異常が解消されたことに応じて当該の異常の解消を、前記識別手段により識別された閲覧者による作業の実績として表すよう、記憶デバイスに記憶された実績データを更新する更新手段と、
を具備した支援システム。
Acquisition means for acquiring status data relating to the display status of merchandise in each of the plurality of sales floors reflected in a first image showing a view of a range including the plurality of sales floors viewed from a worker's position;
A first image obtained by superimposing, on the first image, a second image representing an abnormal display situation in each of a plurality of sales floors reflected in the first image based on the situation data acquired by the acquisition means. After the screen is displayed on the display device, in response to the designation of the abnormality represented by the second image, a third image for guiding work for resolving the designated abnormality is displayed on the first image. Control means for causing the display device to display a second screen superimposed on the image ;
identification means for identifying a viewer of the screen displayed by the display device;
After the screen displayed by the display device is changed to the second screen by the control means, when the abnormality related to the third image is resolved, the identification means cancels the abnormality. updating means for updating the performance data stored in the storage device to represent the performance of work by the identified viewer;
support system with
作業者の位置から複数の売場を含む範囲を目視した様子を表した第1の画像に映り込む複数の売場のそれぞれにおける商品の陳列状況に関する状況データを取得する取得手段と、
前記第1の画像に、前記取得手段により取得された前記状況データに基づき前記第1の画像に映り込む複数の売場のそれぞれにおける陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させたのち、前記第2の画像が表す異常が指定されたことに応じて、当該指定された異常を解消するための作業を案内する第3の画像を前記第1の画像に重畳した第2の画面を前記表示デバイスに表示させる制御手段と、
前記表示デバイスが表示する画面の閲覧者を識別する識別手段と、
前記表示デバイスが表示する画面を前記制御手段が前記第2の画面に変更させたのちに、前記第3の画像に関する異常が解消されたことに応じて当該の異常の解消を、前記識別手段により識別された閲覧者による作業の実績として表すよう、記憶デバイスに記憶された実績データを更新する更新手段と、
を具備した支援装置。
Acquisition means for acquiring status data relating to the display status of merchandise in each of the plurality of sales floors reflected in a first image showing a view of a range including the plurality of sales floors viewed from a worker's position;
A first image obtained by superimposing, on the first image, a second image representing an abnormal display situation in each of a plurality of sales floors reflected in the first image based on the situation data acquired by the acquisition means. After the screen is displayed on the display device, in response to the designation of the abnormality represented by the second image, a third image for guiding work for resolving the designated abnormality is displayed on the first image. Control means for causing the display device to display a second screen superimposed on the image ;
identification means for identifying a viewer of the screen displayed by the display device;
After the screen displayed by the display device is changed to the second screen by the control means, when the abnormality related to the third image is resolved, the identification means cancels the abnormality. updating means for updating the performance data stored in the storage device to represent the performance of work by the identified viewer;
A support device with
支援装置を制御するコンピュータを、
作業者の位置から複数の売場を含む範囲を目視した様子を表した第1の画像に映り込む複数の売場のそれぞれにおける商品の陳列状況に関する状況データを取得する取得手段と、
前記第1の画像に、前記取得手段により取得された前記状況データに基づき前記第1の画像に映り込む複数の売場のそれぞれにおける陳列状況の異常を表した第2の画像を重畳した第1の画面を表示デバイスに表示させたのち、前記第2の画像が表す異常が指定されたことに応じて、当該指定された異常を解消するための作業を案内する第3の画像を前記第1の画像に重畳した第2の画面を前記表示デバイスに表示させる制御手段と、
前記表示デバイスが表示する画面の閲覧者を識別する識別手段と、
前記表示デバイスが表示する画面を前記制御手段が前記第2の画面に変更させたのちに、前記第3の画像に関する異常が解消されたことに応じて当該の異常の解消を、前記識別手段により識別された閲覧者による作業の実績として表すよう、記憶デバイスに記憶された実績データを更新する更新手段と、
して機能させるための情報処理プログラム。
The computer that controls the assistive device,
Acquisition means for acquiring status data relating to the display status of merchandise in each of the plurality of sales floors reflected in a first image showing a view of a range including the plurality of sales floors viewed from a worker's position;
A first image obtained by superimposing, on the first image, a second image representing an abnormal display situation in each of a plurality of sales floors reflected in the first image based on the situation data acquired by the acquisition means. After the screen is displayed on the display device, in response to the designation of the abnormality represented by the second image, a third image for guiding work for resolving the designated abnormality is displayed on the first image. Control means for causing the display device to display a second screen superimposed on the image ;
identification means for identifying a viewer of the screen displayed by the display device;
After the screen displayed by the display device is changed to the second screen by the control means, when the abnormality related to the third image is resolved, the identification means cancels the abnormality. updating means for updating the performance data stored in the storage device to represent the performance of work by the identified viewer;
Information processing program to function as
JP2019003447A 2019-01-11 2019-01-11 Support system, support device and information processing program Active JP7274292B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019003447A JP7274292B2 (en) 2019-01-11 2019-01-11 Support system, support device and information processing program
JP2023075575A JP7483984B2 (en) 2019-01-11 2023-05-01 Support system, support device, and information processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019003447A JP7274292B2 (en) 2019-01-11 2019-01-11 Support system, support device and information processing program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023075575A Division JP7483984B2 (en) 2019-01-11 2023-05-01 Support system, support device, and information processing program

Publications (2)

Publication Number Publication Date
JP2020113042A JP2020113042A (en) 2020-07-27
JP7274292B2 true JP7274292B2 (en) 2023-05-16

Family

ID=71667998

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019003447A Active JP7274292B2 (en) 2019-01-11 2019-01-11 Support system, support device and information processing program
JP2023075575A Active JP7483984B2 (en) 2019-01-11 2023-05-01 Support system, support device, and information processing program

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023075575A Active JP7483984B2 (en) 2019-01-11 2023-05-01 Support system, support device, and information processing program

Country Status (1)

Country Link
JP (2) JP7274292B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2022176776A1 (en) * 2021-02-17 2022-08-25
JP2024106436A (en) * 2023-01-27 2024-08-08 パナソニックIpマネジメント株式会社 Sales floor management system and sales floor management method
WO2024201799A1 (en) * 2023-03-29 2024-10-03 日本電気株式会社 Information processing device, information processing system, information processing method, and non-transitory computer-readable medium having program stored therein

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012029548A1 (en) 2010-08-31 2012-03-08 新日鉄ソリューションズ株式会社 Augmented reality provision system, information processing terminal, information processor, augmented reality provision method, information processing method, and program
JP2014170431A (en) 2013-03-04 2014-09-18 Nec Corp Information processing system, information processing apparatus, control method thereof, and control program
JP2017142801A (en) 2011-08-31 2017-08-17 ディージェービー グループ エルエルシー Shelf-monitoring system and use of the same
JP2019152934A (en) 2018-02-28 2019-09-12 沖電気工業株式会社 Stock monitoring system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6341388B2 (en) * 2016-01-20 2018-06-13 パナソニックIpマネジメント株式会社 Product monitoring device, product monitoring system and product monitoring method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012029548A1 (en) 2010-08-31 2012-03-08 新日鉄ソリューションズ株式会社 Augmented reality provision system, information processing terminal, information processor, augmented reality provision method, information processing method, and program
JP2017142801A (en) 2011-08-31 2017-08-17 ディージェービー グループ エルエルシー Shelf-monitoring system and use of the same
JP2014170431A (en) 2013-03-04 2014-09-18 Nec Corp Information processing system, information processing apparatus, control method thereof, and control program
JP2019152934A (en) 2018-02-28 2019-09-12 沖電気工業株式会社 Stock monitoring system

Also Published As

Publication number Publication date
JP2020113042A (en) 2020-07-27
JP7483984B2 (en) 2024-05-15
JP2023100808A (en) 2023-07-19

Similar Documents

Publication Publication Date Title
JP2023100808A (en) Support system, support device, and information processing program
US11526815B2 (en) Information processing device, information processing method, recording medium, and seat reservation system
JP6812268B2 (en) Information processing equipment and programs
US20240403847A1 (en) Systems, devices, and methods for self-checkout monitoring
KR20230036951A (en) Method for providing product information and device therefor
US20220156804A1 (en) Shopping support system and shopping support method
US20250384747A1 (en) Information processing apparatus and information processing method
JP2024029759A (en) Logistics management system
US11893621B2 (en) Merchandise sales processing system
US20210192485A1 (en) Transaction processing system
EP3798949A1 (en) Presentation of an overview of product lifecycles for components in an industrial environment
JP2025085314A (en) Transaction processing system, information processing device, and information processing program
JP2021092974A (en) Store system
JP6653675B2 (en) Article management system and article management method by image analysis
EP3839907A1 (en) Shopper management device, information processing program, shopper management method, and shopper management system
JP2024113591A (en) Surveillance support system and information processing program
JP2015230626A (en) Shelf label management device and its control program
US20220277264A1 (en) Merchandise management system, merchandise management method, computer program and recording medium
EP4030369B1 (en) Notification device and notification method
JP2021056822A (en) Tracking system and tracking method
JP2025069733A (en) Transaction processing system and information processing program
JP2024090530A (en) Transaction processing system and information processing program
JP2024156465A (en) Product Identification System
JP2025163488A (en) Store visit time information system and program
JP2021022088A (en) Information processing device, information processing program and information processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210819

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230501

R150 Certificate of patent or registration of utility model

Ref document number: 7274292

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150