Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7631037B2 - Information processing device - Google Patents
[go: Go Back, main page]

JP7631037B2 - Information processing device - Google Patents

Information processing device Download PDF

Info

Publication number
JP7631037B2
JP7631037B2 JP2021034835A JP2021034835A JP7631037B2 JP 7631037 B2 JP7631037 B2 JP 7631037B2 JP 2021034835 A JP2021034835 A JP 2021034835A JP 2021034835 A JP2021034835 A JP 2021034835A JP 7631037 B2 JP7631037 B2 JP 7631037B2
Authority
JP
Japan
Prior art keywords
unit
product
information
customer service
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021034835A
Other languages
Japanese (ja)
Other versions
JP2022135196A (en
Inventor
正太 小西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Tec Corp
Original Assignee
Toshiba Tec Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Tec Corp filed Critical Toshiba Tec Corp
Priority to JP2021034835A priority Critical patent/JP7631037B2/en
Publication of JP2022135196A publication Critical patent/JP2022135196A/en
Application granted granted Critical
Publication of JP7631037B2 publication Critical patent/JP7631037B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明の実施形態は、情報処理装置に関する。 An embodiment of the present invention relates to an information processing device .

従来、例えば靴や服などを販売する店舗において、客からサイズや色の指定を聞き取り、該当する商品を在庫から運んでくる、というような作業が行われている。このような作業は機械的に行われるものでもあるため、スタッフにとってやりがいを感じにくい作業である。このため、このような作業を自動化することが望まれている。 Conventionally, for example, in stores that sell shoes or clothes, the work involves asking customers for their desired size and color, and then bringing in the appropriate product from the stock. This type of work is done mechanically, so staff do not find it rewarding. For this reason, there is a demand for automating such work.

ここで、例えば特許文献1のようなシステムがある。このシステムでは、搬送ロボットが陳列棚と保管場所とを巡回し、商品を搬送している。 For example, there is a system such as that described in Patent Document 1. In this system, a transport robot travels between the display shelves and the storage area to transport the products.

しかしながら、上述のようなシステムを店舗に導入するには、搬送ロボットが移動自在であるような売り場にする必要があり、また、在庫の保管場所も、搬送ロボットによる商品の出し入れが自在であるように設計されている必要がある。つまり、導入コストが高く、導入しづらい。 However, to introduce a system like the one described above into a store, the sales floor needs to be designed so that the transport robot can move freely, and the inventory storage area needs to be designed so that the transport robot can easily take products in and out. In other words, the introduction costs are high and it is difficult to introduce.

そこで、導入コストを抑えて、客の指定する商品を在庫から運んでくるような作業を自動化することが望まれている。また、それに先立つ客の要望の聞き取りの自動化も望まれている。さらには、要望のある客を発見しての呼びかけを自動化可能にすることも望まれている。つまり、接客における少人数のスタッフでは行き届かない虞のある部分をサポートあるいは代行可能なシステムが望まれている。 Therefore, there is a need to automate tasks such as bringing in products specified by customers from stock while keeping implementation costs down. There is also a need to automate the process of listening to customers' requests prior to that. There is also a need to automate the process of finding customers with requests and calling out to them. In other words, there is a need for a system that can support or take over the parts of customer service that a small number of staff may not be able to handle.

本発明が解決しようとする課題は、接客におけるスタッフの業務をサポートあるいは代行し、少人数のスタッフでも買い物客の満足度を下げずに店舗を効率よく運営可能にすることである。 The problem that this invention aims to solve is to support or substitute for staff in customer service duties, making it possible to operate a store efficiently even with a small number of staff without reducing customer satisfaction.

実施形態の情報処理装置は、売り場およびバックヤードを自走により移動するための駆動部と、商品を積載可能な荷台と、外部装置との通信を可能にする通信部と、前記売り場にて所定の条件に合致する人物が検知された場合、当該人物に対し、音声による呼びかけを行う呼びかけ部と、前記呼びかけ部が呼びかけを行った場合、呼びかけの対象である前記人物を他の人物と区別可能にする特徴情報を、当該人物の外観から取得する特徴取得部と、商品の外観に基づいて、当該商品を識別可能な情報である商品情報を取得する商品識別部と、前記商品識別部が商品情報を取得した場合、前記商品情報に付加する付加情報を、音声または操作により取得する付加情報取得部と、前記外部装置に対して、前記商品情報および前記付加情報を示して商品の発注を行う商品発注部と、前記駆動部を制御して、前記バックヤードにて前記荷台への積載を受けた商品を前記売り場の前記特徴情報に合致する人物に運搬する商品運搬部と、前記商品運搬部による商品の運搬後、前記荷台から取り出されてから戻されるまでの時間が所定の閾値を超えた商品の情報を記録する訴求情報記録部と、を備える。 an information processing device according to an embodiment, the information processing device comprising: a drive unit for self-propelled movement in the sales floor and the back yard; a loading platform on which products can be loaded; a communication unit for enabling communication with an external device; a calling unit for making a voice call to a person matching predetermined conditions when a person matching predetermined conditions is detected in the sales floor; a characteristic acquisition unit for acquiring characteristic information from the appearance of the person when the calling unit makes a call, the characteristic information making it possible to distinguish the person being called from other people; a product identification unit for acquiring product information which is information by which the product can be identified based on the appearance of the product; an additional information acquisition unit for acquiring additional information by voice or operation when the product identification unit acquires the product information; a product ordering unit for showing the product information and the additional information to the external device and placing an order for the product; a product transport unit for controlling the drive unit to transport products loaded onto the loading platform in the back yard to a person matching the characteristic information in the sales floor; and an appeal information recording unit for recording information of products for which the time from when the product was removed from the loading platform to when it was returned exceeds a predetermined threshold after transport by the product transport unit .

図1は、本実施形態の接客システムの一例を説明する図である。FIG. 1 is a diagram illustrating an example of a customer service system according to the present embodiment. 図2は、接客ロボットの外観の一例を示す図である。FIG. 2 is a diagram showing an example of the appearance of the customer service robot. 図3は、接客ロボットの構成の一例を示すブロック図である。FIG. 3 is a block diagram showing an example of the configuration of a customer service robot. 図4は、接客ロボットの機能構成の一例を示す図である。FIG. 4 is a diagram illustrating an example of a functional configuration of the customer service robot. 図5は、バックヤード端末の構成の一例を示すブロック図である。FIG. 5 is a block diagram showing an example of the configuration of the backyard terminal. 図6は、バックヤード端末の機能構成の一例を説明する図である。FIG. 6 is a diagram illustrating an example of a functional configuration of the backyard terminal. 図7は、接客ロボットの制御部が実行する処理の流れの一例を示すフローチャートである。FIG. 7 is a flowchart showing an example of a flow of a process executed by the control unit of the customer service robot. 図8は、接客ロボットの制御部が実行する処理の流れの一例を示すフローチャートである。FIG. 8 is a flowchart showing an example of a flow of a process executed by the control unit of the customer service robot.

(第1の実施形態)
実施形態について図面を用いて説明する。図1は、本実施形態の接客システム1の一例を説明する図である。接客システム1は、接客ロボット10、スタッフ端末30、バックヤード端末40、売り場カメラ50、ビーコン60等を含んで構成される。
(First embodiment)
An embodiment will be described with reference to the drawings. Fig. 1 is a diagram illustrating an example of a customer service system 1 according to the embodiment. The customer service system 1 includes a customer service robot 10, a staff terminal 30, a backyard terminal 40, a sales floor camera 50, a beacon 60, and the like.

接客ロボット10は、売り場およびバックヤードを自走により移動する情報処理装置であって、接客を担当する。なお、売り場は、商品を陳列する陳列棚70が配置され、客が商品を見ながら自由に移動可能な場所である。バックヤードは、例えば在庫商品を収納する倉庫である。 The customer service robot 10 is an information processing device that moves autonomously around the sales floor and the backyard, and is responsible for customer service. The sales floor is a place where display shelves 70 displaying products are arranged, and where customers can move freely while looking at the products. The backyard is, for example, a warehouse that stores inventory products.

接客ロボット10は店内(売り場およびバックヤード)に複数存在してよい。図1は、3台の接客ロボット10(接客ロボット(1)101~接客ロボット(3)103)が存在する例を示している。より詳しくは、図1は、売り場に接客ロボット(1)101および接客ロボット(2)102が存在し、バックヤード(倉庫)に接客ロボット(3)103が存在する状態を示している。 There may be multiple customer service robots 10 in the store (sales floor and back yard). Figure 1 shows an example in which there are three customer service robots 10 (customer service robot (1) 101 to customer service robot (3) 103). In more detail, Figure 1 shows a situation in which customer service robot (1) 101 and customer service robot (2) 102 exist in the sales floor, and customer service robot (3) 103 exists in the back yard (warehouse).

スタッフ端末30は、スタッフ(店員)が携帯する端末であって、例えばスマートフォンやタブレット型の情報処理装置により実現される。スタッフ端末30は、スタッフ向けの情報を表示する表示部や、操作を受け付ける操作部、音声を発するスピーカー等を備えている。 The staff terminal 30 is a terminal carried by the staff (store clerk) and is realized by, for example, a smartphone or tablet-type information processing device. The staff terminal 30 is equipped with a display unit that displays information for the staff, an operation unit that accepts operations, a speaker that emits sound, etc.

スタッフ端末30は、店内に複数存在してよい。図1は、3台のスタッフ端末30(スタッフ端末(1)301~スタッフ端末(3)303)が存在する例を示している。より詳しくは、図1は、売り場にスタッフ端末(1)301およびスタッフ端末(2)302が存在し、バックヤードにスタッフ端末(3)303が存在する状態を示している。 There may be multiple staff terminals 30 in a store. Figure 1 shows an example in which there are three staff terminals 30 (staff terminal (1) 301 to staff terminal (3) 303). In more detail, Figure 1 shows a situation in which staff terminal (1) 301 and staff terminal (2) 302 exist in the sales floor, and staff terminal (3) 303 exists in the back yard.

バックヤード端末40は、バックヤードに備え付けられた情報処理装置であって、例えばパーソナルコンピュータ(Personal Computer、PC)により実現される。バックヤード端末40は、売り場カメラ50やビーコン60、接客ロボット10から受信する情報に基づいて、接客ロボット10やスタッフ端末30の制御や指示を行う。 The backyard terminal 40 is an information processing device installed in the backyard, and is realized by, for example, a personal computer (PC). The backyard terminal 40 controls and instructs the customer service robot 10 and the staff terminal 30 based on information received from the sales floor cameras 50, beacons 60, and customer service robot 10.

なお、本実施形態のバックヤード端末40は、説明の便宜上、バックヤード内で完結する装置として説明するが、実施にあたっては、例えば、クラウド上に存在する記憶部や処理部とバックヤードに存在する表示部および操作部とを連携させる情報処理装置であってもよい。 For ease of explanation, the backyard terminal 40 in this embodiment is described as a device that is completed within the backyard, but in practice, it may be, for example, an information processing device that links a storage unit and a processing unit that exist on the cloud with a display unit and an operation unit that exist in the backyard.

また、バックヤード端末40は、例えば、いわゆるストアコンピュータであってもよい。ストアコンピュータは、売り場に設けられた販売データ処理装置を管理するものである。販売データ処理装置は、POS(Point Of Sales)端末(不図示)や接客ロボット10)である。 The backyard terminal 40 may be, for example, a so-called store computer. The store computer manages a sales data processing device installed in the sales floor. The sales data processing device is a POS (Point Of Sales) terminal (not shown) or a customer service robot 10.

売り場カメラ50は、売り場内を撮像し、撮像した画像のデータをバックヤード端末40に出力する。売り場カメラ50は、例えば売り場の天井や陳列棚70に取り付けられている。売り場カメラ50は、店内に複数存在してよい。図1は、2台の売り場カメラ50(売り場カメラ(1)501、売り場カメラ(2)502)が存在する例を示している。 The sales floor camera 50 captures images of the sales floor and outputs the captured image data to the backyard terminal 40. The sales floor camera 50 is attached, for example, to the ceiling or display shelves 70 of the sales floor. There may be multiple sales floor cameras 50 in the store. Figure 1 shows an example where there are two sales floor cameras 50 (sales floor camera (1) 501 and sales floor camera (2) 502).

ビーコン60は、各陳列棚70に取り付けられ、接客ロボット10に、所定の信号を送信する。図1は、3つのビーコン60(ビーコン(1)601~ビーコン(3)603)が、3台の陳列棚70(陳列棚(1)701~陳列棚(3)703)のそれぞれに取り付けられた例を示している。 The beacons 60 are attached to each display shelf 70 and transmit a predetermined signal to the customer service robot 10. Figure 1 shows an example in which three beacons 60 (beacon (1) 601 to beacon (3) 603) are attached to each of the three display shelves 70 (display shelf (1) 701 to display shelf (3) 703).

ビーコン60が発信する信号を受信した接客ロボット10は、信号に含まれる情報から、ビーコン60がビーコン601~603のうちどれであるのかを認識する。これにより、接客ロボット10は、売り場内における自身のおおよその位置を把握可能である。 When the customer service robot 10 receives a signal transmitted by the beacon 60, it recognizes from the information contained in the signal which of the beacons 601 to 603 the beacon 60 is. This allows the customer service robot 10 to grasp its approximate location within the sales floor.

図2は、接客ロボット10の外観の一例を示す図である。接客ロボット10は、売り場およびバックヤードを自走により移動する情報処理装置の一例である。接客ロボット10は、一対の駆動輪21、一対の従動輪22、商品を積載可能な荷台23、第1表示部24、第2表示部25、操作部26、第1カメラ27、第2カメラ28等を、備えている。 Figure 2 is a diagram showing an example of the appearance of the customer service robot 10. The customer service robot 10 is an example of an information processing device that moves autonomously around the sales floor and back yard. The customer service robot 10 is equipped with a pair of drive wheels 21, a pair of driven wheels 22, a loading platform 23 on which products can be loaded, a first display unit 24, a second display unit 25, an operation unit 26, a first camera 27, a second camera 28, etc.

一対の駆動輪21は、後述のモータ20(図2参照)が発する駆動力を受けて回転駆動する車輪である。一対の従動輪22は、回転自在な車輪であって、一対の駆動輪21とともに接客ロボット10の底部の四隅を支える。 The pair of drive wheels 21 are wheels that rotate when driven by a driving force generated by a motor 20 (see FIG. 2) described below. The pair of driven wheels 22 are freely rotatable wheels that support the four corners of the bottom of the customer service robot 10 together with the pair of drive wheels 21.

荷台23は、靴などの商品が積載される台であって、本実施形態の接客ロボット10は、3段の荷台23を備えている。 The loading platform 23 is a platform on which products such as shoes are loaded, and the customer service robot 10 of this embodiment is equipped with a three-tiered loading platform 23.

第1表示部24は、荷台23の側部に設けられた大型の表示デバイスであって、売り場の人物に向けた情報を表示するサイネージの一例である。 The first display unit 24 is a large display device provided on the side of the loading platform 23, and is an example of signage that displays information aimed at people in the sales area.

第2表示部25は、接客ロボット10の上部に設けられた例えば液晶パネル等の表示デバイスであって、接客対象に向けた情報を表示する。操作部26は、第2表示部25に重ねて設けられた例えばタッチパネル等の操作デバイスであって、主に接客対象からの操作の受け付けに用いられる。また、操作部26は、マイク等の集音デバイスをも備え、集音デバイスから入力される操作者の発話内容に応じて操作を受け付ける。 The second display unit 25 is a display device such as an LCD panel provided on the top of the customer service robot 10, and displays information for the customer service target. The operation unit 26 is an operation device such as a touch panel provided on top of the second display unit 25, and is mainly used to accept operations from the customer service target. The operation unit 26 also includes a sound collection device such as a microphone, and accepts operations according to the operator's speech input from the sound collection device.

第1カメラ27は、接客ロボット10の上部に設けられ、例えばCMOS(Complementary Metal Oxide Semiconductor)センサ等のイメージセンサであって、接客対象と他の人物とを区別可能な程度の外見情報の取得に用いられる。接客対象を区別可能な程度の外見情報の具体例としては、身長、服装、髪型などである。顔認識により接客対象を区別しても構わないが、そこまで詳細な認識・識別でなくとも、今回の用途にはこと足りると考えられる。 The first camera 27 is provided on the top of the customer service robot 10 and is an image sensor such as a CMOS (Complementary Metal Oxide Semiconductor) sensor, and is used to obtain appearance information sufficient to distinguish the customer service target from other people. Specific examples of appearance information sufficient to distinguish the customer service target include height, clothing, hairstyle, etc. Although it is possible to distinguish the customer service target using facial recognition, it is believed that such detailed recognition and identification will be sufficient for this application.

第2カメラ28は、接客ロボット10の前面(接客対象に向ける側の面)に設けられ、例えばCCD(Charge Coupled Device)やCMOSセンサ等のイメージセンサであって、商品の外観の撮像に用いられる。第2カメラ28が撮像し出力した画像データは、商品を識別可能な情報の取得に用いられる。 The second camera 28 is provided on the front side of the customer service robot 10 (the side facing the customer service subject) and is an image sensor such as a CCD (Charge Coupled Device) or CMOS sensor, and is used to capture the exterior of the product. The image data captured and output by the second camera 28 is used to obtain information that can identify the product.

具体的には、例えば、画像データにバーコードや二次元コード等のコードシンボルが含まれていれば、コードシンボルをデコードすることによりコードを取得する。或いは、オブジェクト認識処理により商品を特定する。オブジェクト認識処理は、画像データから商品の表面の特徴量を抽出し、この特徴量と、予めデータベース化された各商品の特徴量の基準値との類似度(似ている程度を表わす数値)を計算し、類似度の高い商品を候補とする処理である。 Specifically, for example, if the image data contains a code symbol such as a barcode or two-dimensional code, the code symbol is decoded to obtain the code. Alternatively, the product is identified by object recognition processing. Object recognition processing is a process that extracts the surface features of the product from the image data, calculates the similarity (a numerical value indicating the degree of similarity) between these features and a reference value of the features of each product that is pre-databaseed, and selects products with a high degree of similarity as candidates.

なお、オブジェクト認識処理は、一般物体認識と呼ばれる技術を用いて物体の外観の特徴から物体を特定する処理である。一般物体認識については、下記の文献において解説されている。
柳井 啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16 [平成22年8月10日検索],インターネット<URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >
Jamie Shottonら,“Semantic Texton Forests for Image Categorization and Segmentation”,[平成22年8月10日検索],インターネット<URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >
The object recognition process is a process of identifying an object based on its external appearance characteristics using a technique called generic object recognition. Generic object recognition is explained in the following document:
Keiji Yanai, "Current status and future of general object recognition", Transactions of the Information Processing Society of Japan, Vol. 48, No. SIG16 [Retrieved August 10, 2010], Internet <URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >
Jamie Shotton et al., "Semantic Texton Forests for Image Categorization and Segmentation", [Retrieved August 10, 2010], Internet <URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >

なお、第1カメラ27と第2カメラ28とは、同一のカメラ装置であっても良い。つまり、第1カメラ27および第2カメラ28の機能を、1つのカメラ装置が兼ねてもよい。 The first camera 27 and the second camera 28 may be the same camera device. In other words, the functions of the first camera 27 and the second camera 28 may be combined into one camera device.

図3は、接客ロボット10の構成の一例を示すブロック図である。接客ロボット10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、記憶部14、通信I/F(Interface)15を、さらに備える。また、接客ロボット10は、自走により移動するための駆動部の一例であるモータ20や、スピーカー29をさらに備える。 Figure 3 is a block diagram showing an example of the configuration of the customer service robot 10. The customer service robot 10 further includes a CPU (Central Processing Unit) 11, a ROM (Read Only Memory) 12, a RAM (Random Access Memory) 13, a storage unit 14, and a communication I/F (Interface) 15. The customer service robot 10 also includes a motor 20, which is an example of a drive unit for self-propelled movement, and a speaker 29.

モータ20は、CPU11の制御に従い、駆動輪21を回転駆動させる。スピーカー29は、CPU11の制御に従い、音声を発する。音声は、言葉でもよいし、発信音であってもよい。 The motor 20 drives and rotates the drive wheels 21 under the control of the CPU 11. The speaker 29 produces sound under the control of the CPU 11. The sound may be words or a beep.

通信I/F15は、外部装置との無線通信を可能にする通信部の一例であって、スタッフ端末30やバックヤード端末40、売り場カメラ50、ビーコン60等との通信を仲介する。 The communication I/F 15 is an example of a communication unit that enables wireless communication with external devices, and mediates communication with the staff terminal 30, backyard terminal 40, sales floor camera 50, beacon 60, etc.

記憶部14は、プログラムや各種ファイルを記憶する。記憶部14は記憶装置であればよく、HDD(Hard Disk Drive)でもよいし、SSD(Solid State Drive)であってもよい。記憶部14に記憶されているプログラムは、接客ロボット10の起動時に、その全部または一部がCPU11により実行される。記憶部14に記憶されているファイルの一例は、商品マスタファイルや辞書ファイルである。商品マスタファイルや辞書ファイルは、開店前等の所定のタイミングでバックヤード端末40配信されて、記憶部14に格納される。 The memory unit 14 stores programs and various files. The memory unit 14 may be any storage device, and may be a hard disk drive (HDD) or a solid state drive (SSD). The programs stored in the memory unit 14 are executed in whole or in part by the CPU 11 when the customer service robot 10 is started. Examples of files stored in the memory unit 14 are a product master file and a dictionary file. The product master file and the dictionary file are distributed to the backyard terminal 40 at a predetermined timing, such as before the store opens, and are stored in the memory unit 14.

ROM12は、CPU11が実行するプログラムを記憶している。RAM13は、CPU11が実行するプログラムの展開や各種値の一時的な記憶に用いられる。CPU11は、ROM12や記憶部14に記憶されているプログラムを実行することにより、制御部110として機能する。制御部110は、各種機能部(図4参照、後述)を備える。 The ROM 12 stores the programs executed by the CPU 11. The RAM 13 is used to expand the programs executed by the CPU 11 and temporarily store various values. The CPU 11 functions as the control unit 110 by executing the programs stored in the ROM 12 and the storage unit 14. The control unit 110 has various functional units (see FIG. 4, described below).

図4は、接客ロボット10の機能構成の一例を示す図である。接客ロボット10の制御部110は、客認識部111、接客処理部112、商品識別部113、付加情報取得部114、在庫確認部115、商品発注部116、商品運搬部117、訴求情報記録部118、会計処理部119等を備えている。 Figure 4 is a diagram showing an example of the functional configuration of the customer service robot 10. The control unit 110 of the customer service robot 10 includes a customer recognition unit 111, a customer service processing unit 112, a product identification unit 113, an additional information acquisition unit 114, an inventory confirmation unit 115, a product ordering unit 116, a product transport unit 117, an appeal information recording unit 118, an accounting processing unit 119, and the like.

客認識部111は、バックヤード端末40から受信する情報に基づいて、売り場にて所定の条件に合致する人物(接客対象)の人物を認識する。上述の所定の条件とは、例えば、下記のようなものである。
条件1: 所定時間以上継続して同じ陳列棚70を見ている
条件2: 一度離れた陳列棚70に戻ってくる
条件3: 商品を手に取る
上述のような行動をとっている人物を、本実施形態では接客対象として認識する。なお、上述の条件1~3は例として示したものであって、実施にあたって所定の条件をこれらに限ることは意図していなく、他の条件であって構わない。例えば、顧客自身が接客ロボット10に「すみません」など予め記憶したパターンの言葉で呼びかけた場合を、上述の所定の条件に含めてもよい。
The customer recognition unit 111 recognizes a person (a person to be served) who meets a predetermined condition in the sales floor based on information received from the backyard terminal 40. The above-mentioned predetermined condition is, for example, as follows.
Condition 1: Looking at the same display shelf 70 for a predetermined period of time or more Condition 2: Returning to a display shelf 70 that was once left Condition 3: A person who takes the above-mentioned action of picking up a product is recognized as a target for customer service in this embodiment. Note that the above-mentioned conditions 1 to 3 are shown as examples, and it is not intended that the predetermined conditions for implementation be limited to these, and other conditions may be used. For example, a case where the customer himself/herself calls out to the customer service robot 10 using a pre-stored pattern of words such as "I'm sorry" may be included in the above-mentioned predetermined conditions.

接客処理部112は、呼びかけ部および特徴取得部の一例として機能する。接客処理部112は、客認識部111が接客対象を認識すると、スピーカー29を制御して、上記接客対象の人物に対し、音声による呼びかけを行う。このときの音声は、例えば「試し履きされますか?」や「サイズをお探ししましょうか?」等の言葉の呼びかけでもよいし、或いは、接客対象の人物に自身の存在を知らせるための電子音でもよい。なお、後者(電子音)の場合、第2表示部25に、例えば「試し履きされますか?」や「サイズをお探ししましょうか?」等の文言を表示させると好適である。なお、上記言葉、文言は例として示したものであって、実施にあたってこれに限ることを意図してはいなく、他の文言であって構わない。 The customer service processing unit 112 functions as an example of a calling unit and a feature acquisition unit. When the customer recognition unit 111 recognizes a customer service target, the customer service processing unit 112 controls the speaker 29 to call out to the customer service target by voice. The voice at this time may be, for example, a call in words such as "Would you like to try on shoes?" or "Shall I help you find your size?", or it may be an electronic sound to notify the customer service target of the customer's presence. In the latter case (electronic sound), it is preferable to display a message such as "Would you like to try on shoes?" or "Shall I help you find your size?" on the second display unit 25. The above words and phrases are shown as examples, and are not intended to be limited to these in practice, and other words may be used.

接客処理部112は、上述の呼びかけを行った場合、呼びかけの対象である人物(接客対象)を他の人物と区別可能にする特徴情報を、当該人物の外観から取得する。特徴情報(上述の外見情報と同じ)の具体例としては、身長、服装、髪型などである。当該人物の外観は、第1カメラ27が撮像して出力する画像データから取得する。 When the customer service processing unit 112 makes the above-mentioned call, it acquires characteristic information from the appearance of the person to whom the call is addressed (customer service target) that enables the person to be distinguished from other people. Specific examples of characteristic information (the same as the above-mentioned appearance information) include height, clothing, hairstyle, etc. The appearance of the person is acquired from image data captured and output by the first camera 27.

また、接客処理部112は、人物を特定した接客中に、サイネージである第1表示部24によって、新たな用件の受付は停止中である旨を報知する。 In addition, while serving a specific person, the customer service processing unit 112 notifies the customer through the first display unit 24, which is a signage, that the acceptance of new business is currently suspended.

商品識別部113は、接客処理部112(呼びかけ部)が呼びかけを行った場合、商品の外観に基づいて、当該商品を識別可能な情報である商品情報を取得する。商品情報は、例えば、第2カメラ28が撮像して出力する画像データに含まれていたバーコードや二次元コードをデコードして得られた商品コードや、上記画像データから抽出した商品の表面の特徴量である。 When the customer service processing unit 112 (calling unit) issues a call, the product identification unit 113 acquires product information that is information that can identify the product based on the appearance of the product. The product information is, for example, a product code obtained by decoding a barcode or two-dimensional code contained in the image data captured and output by the second camera 28, or a feature of the product's surface extracted from the image data.

付加情報取得部114は、商品識別部113が商品情報を取得した場合、操作部26を介して、接客対象の商品への希望を示す情報、つまり商品情報に付加する付加情報を取得する。付加情報の具体例は、商品のサイズや、希望の色などである。 When the product identification unit 113 acquires product information, the additional information acquisition unit 114 acquires, via the operation unit 26, information indicating the customer's preference for the product being served, that is, additional information to be added to the product information. Specific examples of additional information include the size of the product and the desired color.

在庫確認部115は、バックヤード端末40に対して、商品情報および付加情報を示して商品の在庫確認要求を送信する。在庫確認要求を受信したバックヤード端末40は、接客対象に勧める商品の候補を送信する。候補を受信した在庫確認部115は、第2表示部25等を用いて、接客対象の人物に、候補を提示する。ここで、接客対象の人物が求めた商品があれば候補に含まれる。また、接客対象の人物が求めた商品がなかった場合、類似の商品が候補に含まれる。なお、ここでの類似とは、サイズが同じであるが色が異なるものや、デザインが近いもの等を意図している。候補が多ければ、中でも売れ筋の商品やセール中の商品を優先的に提示する。どういった優先順位にするかは店舗側が設定できる。 The inventory confirmation unit 115 sends a product inventory confirmation request to the backyard terminal 40, indicating the product information and additional information. The backyard terminal 40, which has received the inventory confirmation request, sends candidates for products to recommend to the person being served. The inventory confirmation unit 115, which has received the candidates, uses the second display unit 25 or the like to present the candidates to the person being served. Here, if there is a product desired by the person being served, it will be included in the candidates. Also, if the product desired by the person being served is not available, similar products will be included in the candidates. Note that "similar" here means products that are the same size but different colors, or products with a similar design, etc. If there are many candidates, best-selling products and products on sale will be presented preferentially. The store can set the priority order.

商品発注部116は、在庫確認部115が提示した商品のいずれかの商品を接客対象の人物が選択した場合に、バックヤード端末40に対して、接客対象の人物が選択した商品の情報(商品情報)および付加情報を示して商品の発注を行う。商品の発注を受けたバックヤード端末40は、各スタッフ端末30に、発注にかかる情報を送信する。 When the person being served selects one of the products presented by the inventory confirmation unit 115, the product ordering unit 116 places an order for the product by displaying information (product information) and additional information about the product selected by the person being served to the backyard terminal 40. Upon receiving the product order, the backyard terminal 40 transmits the information related to the order to each staff terminal 30.

商品運搬部117は、モータ20を制御することにより接客ロボット10を移動させて商品を運搬する。より具体的には、商品運搬部117は、バックヤードにて荷台23への積載を受けた商品を売り場の特徴情報に合致する人物に運搬する。 The product transport unit 117 controls the motor 20 to move the customer service robot 10 and transport the products. More specifically, the product transport unit 117 transports the products that have been loaded onto the loading platform 23 in the back yard to a person who matches the characteristic information of the sales floor.

訴求情報記録部118は、商品運搬部117による商品の運搬後、商品が荷台23から取り出されてから戻されるまでの時間が所定の閾値を超えた商品の情報(すなわち訴求情報)を、記録する。この記録は、所定の記憶部に記憶させることで、行われる。所定の記憶部は、例えばバックヤード端末40の記憶部44(後述)である。この場合、訴求情報記録部118がバックヤード端末40に訴求情報を送信し、これを受信したバックヤード端末40が記憶部44に訴求情報を記憶させる。 The appeal information recording unit 118 records information about products (i.e., appeal information) for which the time between when the product is removed from the loading platform 23 and when it is returned exceeds a predetermined threshold after the product is transported by the product transport unit 117. This recording is performed by storing the information in a predetermined memory unit. The predetermined memory unit is, for example, the memory unit 44 (described later) of the backyard terminal 40. In this case, the appeal information recording unit 118 transmits the appeal information to the backyard terminal 40, and the backyard terminal 40 that receives the information stores the appeal information in the memory unit 44.

なお、訴求情報記録部118は、荷台23に設けられたセンサの出力により、商品が荷台23から取り出されたことを認識し、また、商品が荷台23に戻されたことを認識する。荷台23に設けられるセンサとしては、例えば、重量センサや光センサが考えられる。 The appeal information recording unit 118 recognizes that a product has been removed from the loading platform 23 and that a product has been returned to the loading platform 23 based on the output of a sensor provided on the loading platform 23. The sensor provided on the loading platform 23 may be, for example, a weight sensor or an optical sensor.

会計処理部119は、操作部26が受け付けた操作に基づいて、商品の会計処理を行う。会計処理部119は、商品の会計を、キャッシュレスにて実施する。キャッシュレス会計は、例えば、クレジット決済や、電子マネーによる決済である。 The accounting processing unit 119 performs accounting for the product based on the operation received by the operation unit 26. The accounting processing unit 119 performs accounting for the product in a cashless manner. Cashless accounting is, for example, payment by credit card or electronic money.

図5は、バックヤード端末40の構成の一例を示すブロック図である。バックヤード端末40は、CPU41、ROM42、RAM43、記憶部44、通信I/F48、表示部45、操作部46、スピーカー49などを備えている。 Figure 5 is a block diagram showing an example of the configuration of the backyard terminal 40. The backyard terminal 40 includes a CPU 41, a ROM 42, a RAM 43, a storage unit 44, a communication I/F 48, a display unit 45, an operation unit 46, a speaker 49, etc.

表示部45は、例えば液晶パネル等の表示デバイスであって、操作者(店員)に向けた情報を表示する。操作部46は、例えばキーボードやマウス等の操作デバイスであって、操作の受け付けに用いられる。なお、操作部46は、マイク等の集音デバイスから入力される操作者の発話内容に応じて操作を受け付けるものであっても構わない。 The display unit 45 is a display device such as a liquid crystal panel, and displays information for the operator (store clerk). The operation unit 46 is an operation device such as a keyboard or mouse, and is used to accept operations. Note that the operation unit 46 may also accept operations according to the contents of the operator's speech input from a sound collection device such as a microphone.

スピーカー49は、CPU41の制御に従い、音声を発する。音声は、言葉でもよいし、発信音であってもよい。通信I/F48は、外部装置との通信を可能にする通信部の一例であって、接客ロボット10やスタッフ端末30、売り場カメラ50、ビーコン60等との通信を仲介する。 The speaker 49 emits sound under the control of the CPU 41. The sound may be words or a beep. The communication I/F 48 is an example of a communication unit that enables communication with an external device, and mediates communication with the customer service robot 10, staff terminal 30, sales floor camera 50, beacon 60, etc.

記憶部44は、プログラムや各種ファイルを記憶する。記憶部44は記憶装置であればよく、HDD(Hard Disk Drive)でもよいし、SSD(Solid State Drive)であってもよい。記憶部44に記憶されているプログラムは、バックヤード端末40の起動時に、その全部または一部がCPU41により実行される。記憶部44に記憶されているファイルの一例は、商品マスタファイルや辞書ファイルである。 The memory unit 44 stores programs and various files. The memory unit 44 may be any storage device, and may be a hard disk drive (HDD) or a solid state drive (SSD). When the backyard terminal 40 is started up, all or part of the programs stored in the memory unit 44 are executed by the CPU 41. Examples of files stored in the memory unit 44 are product master files and dictionary files.

ROM42は、CPU41が実行するプログラムを記憶している。RAM43は、CPU41が実行するプログラムの展開や各種値の一時的な記憶に用いられる。CPU41は、ROM42や記憶部44に記憶されているプログラムを実行することにより、制御部410として機能する。制御部410は、各種機能部(図6参照、後述)を備える。 The ROM 42 stores the programs executed by the CPU 41. The RAM 43 is used to expand the programs executed by the CPU 41 and temporarily store various values. The CPU 41 functions as the control unit 410 by executing the programs stored in the ROM 42 and the storage unit 44. The control unit 410 has various functional units (see FIG. 6, described below).

図6は、バックヤード端末40の機能構成の一例を説明する図である。
バックヤード端末40の制御部410は、対象検知部411、接客指示部412、候補選出部413、作業発注部414、端末位置検知部415、客位置検知部416、端末誘導部417等を備えている。
FIG. 6 is a diagram illustrating an example of the functional configuration of the backyard terminal 40. As shown in FIG.
The control unit 410 of the backyard terminal 40 includes a target detection unit 411, a customer service instruction unit 412, a candidate selection unit 413, a work ordering unit 414, a terminal position detection unit 415, a customer position detection unit 416, a terminal guidance unit 417, and the like.

対象検知部411は、売り場を撮像した画像に基づいて所定の条件(例えば上述の条件1~3)に合致する人物を検知し、当該人物を接客対象とする。対象検知部411は、例えば、OpenPoseと呼ばれる既存技術を利用することにより、上記検知を行う。OpenPoseは、人物の骨格を深層学習(ディープラーニング)で推定するシステムであって、画像や映像から人物の骨格をリアルタイムで検出する。これにより、画像や映像から、人物の3次元的な身体の動きや姿勢を、リアルタイムに推定することが可能となる。売り場を撮像した画像は、例えば売り場カメラ50が撮像し出力する画像データにより得られるが、接客ロボット10の第1カメラ27や第2カメラ28が撮像して出力した画像データから得られる画像であってもよい。 The target detection unit 411 detects a person who meets certain conditions (for example, conditions 1 to 3 described above) based on an image captured of the sales floor, and sets the person as the target of customer service. The target detection unit 411 performs the above detection by using an existing technology called OpenPose, for example. OpenPose is a system that estimates a person's skeleton using deep learning, and detects the skeleton of a person from images and videos in real time. This makes it possible to estimate a person's three-dimensional body movements and posture in real time from images and videos. The image captured of the sales floor is obtained from image data captured and output by the sales floor camera 50, for example, but it may also be an image obtained from image data captured and output by the first camera 27 or the second camera 28 of the customer service robot 10.

なお、対象検知部411相当の機能が接客ロボット10に搭載されていてもよい。ただし、接客ロボット10の第1カメラ27および第2カメラ28よりも、売り場カメラ50の方が、視点が高く視野が広いため、売り場カメラ50が出力する画像データを用いて接客対象の検知を行う方が効率がよいと現時点では考えられる。 The customer service robot 10 may be equipped with a function equivalent to the target detection unit 411. However, since the sales floor camera 50 has a higher viewpoint and a wider field of view than the first camera 27 and the second camera 28 of the customer service robot 10, it is currently considered more efficient to detect the target to be served using image data output by the sales floor camera 50.

接客指示部412は、対象検知部411が接客対象を検知した場合、接客ロボット10に、接客対象の接客を開始するよう指示する。なお、接客指示部412は、指示に際し、接客対象の人物がいる場所を示す情報を添える。接客指示部412が出力した指示は、接客ロボット10の制御部110により、客認識部111に伝達される。 When the target detection unit 411 detects a target of service, the customer service instruction unit 412 instructs the customer service robot 10 to start serving the target. When giving instructions, the customer service instruction unit 412 adds information indicating the location of the target of service. The instructions output by the customer service instruction unit 412 are transmitted to the customer recognition unit 111 by the control unit 110 of the customer service robot 10.

候補選出部413は、接客ロボット10から受信する情報に基づいて、在庫の商品の情報から、接客対象に勧める商品の候補を選出し、選出された商品の情報を接客ロボット10に送信する。候補選出部413が出力した情報は、接客ロボット10の制御部110により、在庫確認部115に伝達される。ここで、上記在庫の商品の情報には、この店舗のバックヤードに保管されている商品だけでなく、近隣の系列店舗が保管しているなど取寄せ可能な商品の情報を含めてもよい。 The candidate selection unit 413 selects candidate products to recommend to the customer service target from the information on products in stock based on the information received from the customer service robot 10, and transmits information on the selected products to the customer service robot 10. The information output by the candidate selection unit 413 is transmitted to the inventory confirmation unit 115 by the control unit 110 of the customer service robot 10. Here, the information on the products in stock may include not only products stored in the back yard of this store, but also information on products that can be ordered, such as those stored in a nearby affiliated store.

作業発注部414は、接客ロボット10から受信する情報に対応する商品の積み込み作業を、スタッフ端末30を介してスタッフに発注する。 The work ordering unit 414 issues an order to a staff member via the staff terminal 30 to load the items corresponding to the information received from the customer service robot 10.

端末位置検知部415は、接客ロボット10やスタッフ端末30、売り場カメラ50、ビーコン60から受信する情報に基づいて、接客ロボット10およびスタッフ端末30の位置を追跡する。 The terminal position detection unit 415 tracks the positions of the customer service robot 10 and the staff terminal 30 based on information received from the customer service robot 10, the staff terminal 30, the sales floor camera 50, and the beacon 60.

客位置検知部416は、接客ロボット10や売り場カメラ50から受信する情報に基づいて、接客ロボット10の接客対象となっている客の位置を追跡する。 The customer position detection unit 416 tracks the position of the customer being served by the customer service robot 10 based on information received from the customer service robot 10 and the sales floor camera 50.

端末誘導部417は、商品を積載してバックヤードから売り場へ戻る接客ロボット10を、接客対象の客がいる場所へ誘導する。 The terminal guidance unit 417 guides the customer service robot 10, which is returning from the back yard to the sales floor loaded with merchandise, to the location of the customer to be served.

このような構成の接客システム1において、接客ロボット10およびバックヤード端末40は、次に説明するように動作する。図7および図8は、接客ロボット10の制御部110が実行する処理の流れの一例を示すフローチャートである。 In the customer service system 1 configured as above, the customer service robot 10 and the backyard terminal 40 operate as described below. Figures 7 and 8 are flowcharts showing an example of the process flow executed by the control unit 110 of the customer service robot 10.

接客システム1において、対象検知部411が、所定の条件(上述)に合致する人物を検知し、この人物を接客対象とすると、接客指示部412は、接客対象の人物がいる位置の近くに存在する接客ロボット10に、接客開始を指示する。例えば、図1において、客(1)を接客対象とした場合、接客ロボット(1)101に、接客開始を指示する。 In the customer service system 1, when the target detection unit 411 detects a person who meets the predetermined conditions (described above) and determines that this person is the target of customer service, the customer service instruction unit 412 instructs the customer service robot 10 located near the location of the target person to begin serving the customer. For example, in FIG. 1, when the target of customer service is customer (1), the customer service robot (1) 101 is instructed to begin serving the customer.

制御部110は、接客開始指示を待機する(ステップS1のNo)。ステップS1において接客開始指示があると(ステップS1のYes)、制御部110は、客認識部111として、接客指示部412から受信した接客対象の人物がいる場所の情報を参照し、当該情報に合致する人物を接客対象として認識し、処理をステップS2に進める。 The control unit 110 waits for an instruction to start serving customers (No in step S1). When an instruction to start serving customers is received in step S1 (Yes in step S1), the control unit 110, as the customer recognition unit 111, refers to the location information of the person to be served received from the service instruction unit 412, recognizes a person matching the information as the person to be served, and proceeds to step S2.

ステップS2において、制御部110は、接客処理部112として、接客対象の人物に対して呼びかけを行う(ステップS2)。呼びかけ後に接客対象の人物から試し履き等の希望が得られれば(ステップS3のYes)、制御部110は処理をステップS4に進める。また、ステップS3において試し履き等の希望が得られなければ(ステップS3のNo)、制御部110は処理をステップS1に戻す。 In step S2, the control unit 110, as the customer service processing unit 112, calls out to the person being served (step S2). If the person being served expresses a desire to try on the shoes after the call (Yes in step S3), the control unit 110 advances the process to step S4. If the person does not express a desire to try on the shoes in step S3 (No in step S3), the control unit 110 returns the process to step S1.

なお、接客処理部112としての制御部110は、ステップS2~S3の間に、接客対象の人物を他の人物と区別可能にする特徴情報(身長、服装、髪型など)を、第1カメラ27が撮像した当該人物の外観から取得する。 During steps S2 and S3, the control unit 110, which functions as the customer service processing unit 112, acquires characteristic information (height, clothing, hairstyle, etc.) that enables the customer service target person to be distinguished from other people from the appearance of the person captured by the first camera 27.

ステップS4において、制御部110は、商品識別部113として商品情報を取得し、付加情報取得部114として付加情報を取得し、在庫確認部115としてバックヤード端末40に対して在庫確認要求を送信する。バックヤード端末40から候補となる商品の情報を受信すると、制御部110は、受信した商品の情報を候補として選択操作の受付可能に、接客対象の人物に提示する(ステップS4)。具体的には、候補の商品を第2表示部25に表示するとともに、操作部26による選択操作を受け付ける。そして制御部110は、処理をステップS5に進める。 In step S4, the control unit 110 acquires product information as the product identification unit 113, acquires additional information as the additional information acquisition unit 114, and sends an inventory confirmation request to the backyard terminal 40 as the inventory confirmation unit 115. When it receives information on candidate products from the backyard terminal 40, the control unit 110 presents the received product information as candidates to the person being served so that a selection operation can be accepted (step S4). Specifically, it displays the candidate products on the second display unit 25 and accepts a selection operation via the operation unit 26. The control unit 110 then advances the process to step S5.

ステップS5において、制御部110は、提示した候補の選択を受け付ける。ステップS5において候補の選択がなかった場合(ステップS5のNo)、制御部110は、処理をステップS1に戻す。 In step S5, the control unit 110 accepts the selection of the presented candidates. If no candidate is selected in step S5 (No in step S5), the control unit 110 returns the process to step S1.

ステップS5において候補が選択されると(ステップS5のYes)、制御部110は、商品発注部116として、バックヤード端末40に対し、接客対象の人物が選択した商品の情報(商品情報)に、ステップS4で取得した付加情報を付けて、商品の発注を行う(ステップS6)。 When a candidate is selected in step S5 (Yes in step S5), the control unit 110, as the product ordering unit 116, places an order for the product at the backyard terminal 40 by adding the additional information acquired in step S4 to the information about the product selected by the person being served (product information) (step S6).

商品の発注を受けたバックヤード端末40は、各スタッフ端末30に、発注にかかる情報を送信する。スタッフ端末30は、スタッフに対して、受信した情報を報知する。この報知は、例えば、作業内容を認識可能な情報と、作業を請け負うためのボタンと、作業を断るためのボタンと、を表示部に表示し、ボタンへの操作を操作部で受け付ける。スタッフは、スタッフ端末30に対して、発注にかかる作業を請け負うか否かの意思表示を行う。 The backyard terminal 40 that receives an order for a product transmits information related to the order to each staff terminal 30. The staff terminal 30 notifies the staff of the received information. For example, this notification is made by displaying on the display unit information that allows the staff to recognize the work content, a button for accepting the work, and a button for declining the work, and the operation of the buttons is accepted by the operation unit. The staff indicates to the staff terminal 30 their intention as to whether or not they will accept the work related to the order.

発注にかかる作業を請け負ったスタッフは、バックヤードへ赴き、接客ロボット10の荷台23に、発注にかかる商品を積載する。その際、接客対象の人物の指定に対して実際にどの商品を荷台23に積載するのかは、スタッフの裁量によるとして構わない。 The staff member who has been contracted to carry out the work related to the order goes to the back yard and loads the ordered products onto the loading platform 23 of the customer service robot 10. At that time, it may be at the discretion of the staff member as to which products are actually loaded onto the loading platform 23 in response to the designation of the person to be served.

次に制御部110は、商品運搬部117として、商品を運搬する(ステップS7)。つまり、制御部110は、モータ20を制御して売り場からバックヤードへと移動し、スタッフによる商品の積載を受け、再度売り場に戻り、先ほどの接客対象である人物を探す(ステップS8のNo)。 Next, the control unit 110, as the product transport unit 117, transports the product (step S7). That is, the control unit 110 controls the motor 20 to move from the sales floor to the back room, receive the products loaded by the staff, return to the sales floor, and search for the person who was the previous target of the customer service (No in step S8).

ステップS8において、接客対象の人物を発見すると(ステップS8のYes)、制御部110は、処理をステップS9に進め、購入または取寄せの注文の有無を判断する。ステップS9において、購入または取寄せの注文があった場合(ステップS9のYes)、制御部110は、その場でキャッシュレス決済を行うかを接客対象に問う(ステップS10)。ステップS10において、キャッシュレス決済が選択された場合は(ステップS10のYes)、制御部110は、会計処理部119として会計処理を行い(ステップS11)、処理を終了する。 In step S8, when the person to be served is found (Yes in step S8), the control unit 110 proceeds to step S9 and determines whether or not there is a purchase or order. If there is a purchase or order in step S9 (Yes in step S9), the control unit 110 asks the person to be served whether they would like to make a cashless payment on the spot (step S10). If cashless payment is selected in step S10 (Yes in step S10), the control unit 110 performs accounting as the accounting processing unit 119 (step S11) and ends the process.

ステップS10において、キャッシュレス決済が選択されなかった場合は(ステップS10のNo)、制御部110は、接客対象の人物をレジへ誘導して(ステップS12)、処理を終了する。 If cashless payment is not selected in step S10 (No in step S10), the control unit 110 guides the person being served to the cash register (step S12) and ends the process.

ステップS9において、購入または取寄せの注文がなかった場合(ステップS9のNo)、制御部110は、接客対象の人物が返却した商品を、バックヤードへ返却して(ステップS13)、処理を終了する。 If there is no purchase or order in step S9 (No in step S9), the control unit 110 returns the product returned by the person being served to the back yard (step S13) and ends the process.

このように、本実施形態によれば、接客ロボット10やスタッフ端末30を導入することにより、売り場やバックヤードの改装を伴わずに、接客におけるスタッフがやりがいを感じにくい部分や、少人数のスタッフでは行き届かない部分を代行する接客システム1を実現することができる。これにより、導入コストを抑えて、客の指定する商品を在庫から運んでくるような作業の自動化することができる。また、それに先立つ客の要望の聞き取りを自動化することができる。さらには、要望のある客を発見しての呼びかけを自動化することができる。よって本実施形態によれば、接客におけるスタッフの業務をサポートあるいは代行し、少人数のスタッフでも買い物客の満足度を下げずに店舗を効率よく運営可能にすることができる。 Thus, according to this embodiment, by introducing the customer service robot 10 and staff terminal 30, it is possible to realize a customer service system 1 that takes over the parts of customer service that staff find less rewarding or that a small number of staff cannot handle, without renovating the sales floor or backroom. This reduces implementation costs and makes it possible to automate tasks such as bringing in products specified by customers from stock. It also makes it possible to automate the process of listening to customer requests prior to this. Furthermore, it makes it possible to automate the process of finding customers with requests and calling out to them. Thus, according to this embodiment, the customer service tasks are supported or taken over by the staff, making it possible to operate a store efficiently even with a small number of staff without reducing customer satisfaction.

なお、ステップS6までを行う接客ロボット10と、ステップS7以降を行う接客ロボット10とは、同一でなく別体であっても構わない。つまり、ある接客ロボット(1)101がステップS6で発注した商品を、別の接客ロボット(3)103が運搬しても構わない。このようにすると、バックヤード内の接客ロボット(3)103やスタッフ、或いはバックヤード近くの接客ロボット(2)102やスタッフが商品の搬送を受け持つことができるので、作業効率をより向上させることが可能である。 The customer service robot 10 that performs steps up to S6 and the customer service robot 10 that performs steps S7 and after may not be the same, but may be separate. In other words, the product ordered by one customer service robot (1) 101 in step S6 may be transported by another customer service robot (3) 103. In this way, the customer service robot (3) 103 or staff in the back yard, or the customer service robot (2) 102 or staff near the back yard, can transport the product, which can further improve work efficiency.

なお、本実施形態の接客ロボット10で実行されるプログラムは、ROM等に予め組み込まれて提供される。 The program executed by the customer service robot 10 of this embodiment is provided in advance in a ROM or the like.

本実施形態の接客ロボット10で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。 The program executed by the customer service robot 10 of this embodiment may be configured to be provided by recording it in an installable or executable format on a computer-readable recording medium such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disk).

さらに、本実施形態の接客ロボット10で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の接客ロボット10で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。 Furthermore, the program executed by the customer service robot 10 of this embodiment may be configured to be stored on a computer connected to a network such as the Internet and provided by being downloaded via the network. Also, the program executed by the customer service robot 10 of this embodiment may be configured to be provided or distributed via a network such as the Internet.

本実施形態の接客ロボット10で実行されるプログラムは、上述した各部(客認識部111、接客処理部112、商品識別部113、付加情報取得部114、在庫確認部115、商品発注部116、商品運搬部117、訴求情報記録部118、会計処理部119)を含むモジュール構成となっている。CPU(プロセッサ)は、上記記憶媒体からプログラムを読み出して実行することにより、上記各部を主記憶装置上にロードする。これにより、客認識部111、接客処理部112、商品識別部113、付加情報取得部114、在庫確認部115、商品発注部116、商品運搬部117、訴求情報記録部118、会計処理部119が、主記憶装置上に生成される。 The program executed by the customer service robot 10 of this embodiment has a modular configuration including the above-mentioned units (customer recognition unit 111, customer service processing unit 112, product identification unit 113, additional information acquisition unit 114, inventory confirmation unit 115, product ordering unit 116, product transport unit 117, appeal information recording unit 118, and accounting processing unit 119). The CPU (processor) loads the above-mentioned units onto the main memory device by reading and executing the program from the above-mentioned storage medium. As a result, the customer recognition unit 111, customer service processing unit 112, product identification unit 113, additional information acquisition unit 114, inventory confirmation unit 115, product ordering unit 116, product transport unit 117, appeal information recording unit 118, and accounting processing unit 119 are generated on the main memory device.

また、本実施形態のバックヤード端末40は、CPUなどの制御装置と、ROM(Read Only Memory)やRAMなどの記憶装置と、HDD、CDドライブ装置などの外部記憶装置と、ディスプレイ装置などの表示装置と、キーボードやマウスなどの入力装置を備えており、通常のコンピュータを利用したハードウェア構成となっている。 The backyard terminal 40 of this embodiment also includes a control device such as a CPU, a storage device such as a ROM (Read Only Memory) or RAM, an external storage device such as a HDD or CD drive, a display device such as a display device, and input devices such as a keyboard and a mouse, and has a hardware configuration that utilizes a normal computer.

本実施形態のバックヤード端末40で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。 The program executed by the backyard terminal 40 in this embodiment is provided as a file in an installable or executable format recorded on a computer-readable recording medium such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disk).

また、本実施形態のバックヤード端末40で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態のバックヤード端末40で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。 The program executed by the backyard terminal 40 of this embodiment may be stored on a computer connected to a network such as the Internet and provided by downloading it via the network. The program executed by the backyard terminal 40 of this embodiment may be provided or distributed via a network such as the Internet.

また、本実施形態のプログラムを、ROM等に予め組み込んで提供するように構成してもよい。 The program of this embodiment may also be configured to be provided pre-installed in a ROM or the like.

本実施形態のバックヤード端末40で実行されるプログラムは、上述した各部(対象検知部411、接客指示部412、候補選出部413、作業発注部414、端末位置検知部415、客位置検知部416、端末誘導部417)を含むモジュール構成となっている。CPU(プロセッサ)は、上記記憶装置からプログラムを読み出して実行することにより、上記各部を主記憶装置上にロードする。これにより、対象検知部411、接客指示部412、候補選出部413、作業発注部414、端末位置検知部415、客位置検知部416、端末誘導部417が、主記憶装置上に生成される。 The program executed by the backyard terminal 40 in this embodiment has a modular structure including the above-mentioned units (target detection unit 411, customer service instruction unit 412, candidate selection unit 413, work ordering unit 414, terminal position detection unit 415, customer position detection unit 416, and terminal guidance unit 417). The CPU (processor) loads the above-mentioned units onto the main memory device by reading and executing the program from the above-mentioned memory device. As a result, the target detection unit 411, customer service instruction unit 412, candidate selection unit 413, work ordering unit 414, terminal position detection unit 415, customer position detection unit 416, and terminal guidance unit 417 are generated on the main memory device.

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although several embodiments of the present invention have been described, these embodiments are presented as examples and are not intended to limit the scope of the invention. These novel embodiments can be embodied in various other forms, and various omissions, substitutions, and modifications can be made without departing from the gist of the invention. These embodiments and their modifications are included in the scope and gist of the invention, and are included in the scope of the invention and its equivalents described in the claims.

1 …接客システム、
10、101~103…接客ロボット、
11 …CPU、
110…制御部、
111…客認識部、112…接客処理部、113…商品識別部、
114…付加情報取得部、115…在庫確認部、116…商品発注部、
117…商品運搬部、118…訴求情報記録部、119…会計処理部、
12 …ROM、13…RAM、14…記憶部、15…通信I/F、
20 …モータ、21…駆動輪、22…従動輪、23…荷台、
24 …第1表示部、25…第2表示部、26…操作部、
27 …第1カメラ、28…第2カメラ、29…スピーカー、
30、301~303…スタッフ端末、
40 …バックヤード端末、
41 …CPU、
410…制御部、
411…対象検知部、412…接客指示部、413…候補選出部、
414…作業発注部、415…端末位置検知部、416…客位置検知部、
417…端末誘導部、
42…ROM、43…RAM、44…記憶部、
45…表示部、46…操作部、48…通信I/F、49…スピーカー、
50、501、502…売り場カメラ、
60、601~603…ビーコン、
70、701~703…陳列棚。
1. Customer service system,
10, 101-103: Customer service robots,
11 ... CPU,
110...control unit,
111: customer recognition unit, 112: customer service processing unit, 113: product identification unit,
114: additional information acquisition unit, 115: inventory confirmation unit, 116: product ordering unit,
117: Product transport section, 118: Appeal information recording section, 119: Accounting section,
12...ROM, 13...RAM, 14...storage unit, 15...communication I/F,
20 ... motor, 21 ... driving wheel, 22 ... driven wheel, 23 ... loading platform,
24...first display section, 25...second display section, 26...operation section,
27 ... first camera, 28 ... second camera, 29 ... speaker,
30, 301 to 303: Staff terminals,
40 ... backyard terminal,
41 ...CPU,
410...control unit,
411: target detection unit, 412: customer service instruction unit, 413: candidate selection unit,
414: Work ordering unit, 415: Terminal position detection unit, 416: Customer position detection unit,
417...Terminal guidance unit,
42...ROM, 43...RAM, 44...storage section,
45: display unit, 46: operation unit, 48: communication I/F, 49: speaker,
50, 501, 502...Sales floor cameras,
60, 601 to 603... Beacon,
70, 701-703...Display shelves.

特開2008-87892号公報JP 2008-87892 A

Claims (2)

売り場およびバックヤードを自走により移動するための駆動部と、
商品を積載可能な荷台と、
外部装置との通信を可能にする通信部と、
前記売り場にて所定の条件に合致する人物が検知された場合、当該人物に対し、音声による呼びかけを行う呼びかけ部と、
前記呼びかけ部が呼びかけを行った場合、呼びかけの対象である前記人物を他の人物と区別可能にする特徴情報を、当該人物の外観から取得する特徴取得部と、
商品の外観に基づいて、当該商品を識別可能な情報である商品情報を取得する商品識別部と、
前記商品識別部が商品情報を取得した場合、前記商品情報に付加する付加情報を、音声または操作により取得する付加情報取得部と、
前記外部装置に対して、前記商品情報および前記付加情報を示して商品の発注を行う商品発注部と、
前記駆動部を制御して、前記バックヤードにて前記荷台への積載を受けた商品を前記売り場の前記特徴情報に合致する人物に運搬する商品運搬部と、
前記商品運搬部による商品の運搬後、前記荷台から取り出されてから戻されるまでの時間が所定の閾値を超えた商品の情報を記録する訴求情報記録部と、
を備える情報処理装置。
A drive unit for moving autonomously around the sales floor and the back yard;
A loading platform on which goods can be loaded;
A communication unit that enables communication with an external device;
a calling unit that, when a person matching a predetermined condition is detected in the sales floor, calls the person by voice;
a feature acquisition unit that acquires, when the call unit issues a call, feature information that enables the person being called to be distinguished from other people from the appearance of the person;
a product identification unit that acquires product information that is information that can identify a product based on an appearance of the product;
an additional information acquisition unit that acquires additional information to be added to the product information by voice or operation when the product identification unit acquires the product information;
a product ordering unit that indicates the product information and the additional information to the external device and orders the product;
a product transport unit that controls the drive unit to transport the products loaded on the loading platform in the back yard to a person who matches the characteristic information of the sales floor;
an appeal information recording unit that records information about a product that has been removed from the loading platform and then returned after the product has been transported by the product transport unit, the time exceeding a predetermined threshold;
An information processing device comprising:
前記売り場の人物に向けた情報を表示するサイネージを更に備え、
人物を特定した接客中に、前記サイネージによって、新たな用件の受付は停止中である旨を報知する
請求項1記載の情報処理装置。
Further comprising a signage for displaying information for people in the sales area;
The information processing device according to claim 1 , wherein the signage notifies the customer that acceptance of new business is suspended during a customer service session for a specified person.
JP2021034835A 2021-03-04 2021-03-04 Information processing device Active JP7631037B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021034835A JP7631037B2 (en) 2021-03-04 2021-03-04 Information processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021034835A JP7631037B2 (en) 2021-03-04 2021-03-04 Information processing device

Publications (2)

Publication Number Publication Date
JP2022135196A JP2022135196A (en) 2022-09-15
JP7631037B2 true JP7631037B2 (en) 2025-02-18

Family

ID=83232317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021034835A Active JP7631037B2 (en) 2021-03-04 2021-03-04 Information processing device

Country Status (1)

Country Link
JP (1) JP7631037B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024118114A (en) * 2023-02-20 2024-08-30 三菱電機株式会社 Store support system, store support method, and store support program

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019049785A (en) 2017-09-08 2019-03-28 株式会社日立ビルシステム Robot management system and commodity proposing method
WO2019171917A1 (en) 2018-03-05 2019-09-12 日本電気株式会社 Information processing device, information processing method and information processing program
JP2020502649A (en) 2016-12-05 2020-01-23 フェロー,インコーポレイテッド Intelligent service robot and related systems and methods
WO2020174537A1 (en) 2019-02-25 2020-09-03 株式会社QBIT Robotics Information processing system and information processing method
US20200387857A1 (en) 2019-06-04 2020-12-10 Swyft, Inc. Automated delivery system for brick and mortar retail locations
JP2021033493A (en) 2019-08-21 2021-03-01 興和株式会社 Information display system and information display device

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020502649A (en) 2016-12-05 2020-01-23 フェロー,インコーポレイテッド Intelligent service robot and related systems and methods
JP2019049785A (en) 2017-09-08 2019-03-28 株式会社日立ビルシステム Robot management system and commodity proposing method
WO2019171917A1 (en) 2018-03-05 2019-09-12 日本電気株式会社 Information processing device, information processing method and information processing program
WO2020174537A1 (en) 2019-02-25 2020-09-03 株式会社QBIT Robotics Information processing system and information processing method
US20200387857A1 (en) 2019-06-04 2020-12-10 Swyft, Inc. Automated delivery system for brick and mortar retail locations
JP2021033493A (en) 2019-08-21 2021-03-01 興和株式会社 Information display system and information display device

Also Published As

Publication number Publication date
JP2022135196A (en) 2022-09-15

Similar Documents

Publication Publication Date Title
US9811816B2 (en) Commodity identification device and commodity recognition navigation method
JP5349554B2 (en) Information processing apparatus and program
CN104766416B (en) Information processor and its control method, store system
CN108175227B (en) Goods shelf control method and device and electronic equipment
JP7137594B2 (en) Information processing terminal, information processing method and program
CN102375976A (en) Store system and sales registration method
CN102375977A (en) Store system and sales registration method
JP6147676B2 (en) Information processing apparatus, store system, and program
JP5677389B2 (en) Information processing apparatus and program
CN102376052A (en) Store system and sales registration method
JP2013041465A (en) Product storage device, product registration device, and product registration method
JP2023029574A (en) shopping cart
JP7631037B2 (en) Information processing device
JP2020077275A (en) Commodity settlement system, commodity conveying cart and commodity settlement method
JP6376955B2 (en) Information processing apparatus, sales data processing apparatus, and program
JP2021026555A (en) Information processing device, information processing method, and program
US20220270061A1 (en) System and method for indicating payment method availability on a smart shopping bin
JP2012216116A (en) Sales supporting device, sales supporting device system, control method of sales supporting device and program
JP7608581B2 (en) Information providing device and control program thereof
JP2013156933A (en) Information processor, store system and program
JP7085393B2 (en) Readers and programs
JP2018025882A (en) Information processing apparatus, control method therefor, display apparatus, and computer program
JP7315046B2 (en) Self-checkout system, purchased product management method, and purchased product management program
JP7669195B2 (en) Sales data processing system and program
JP2017058942A (en) Information processor and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250205

R150 Certificate of patent or registration of utility model

Ref document number: 7631037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150