Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7621870B2 - 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム - Google Patents
[go: Go Back, main page]

JP7621870B2 - 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム - Google Patents

対話型ロボット、情報提供サーバ、情報提供方法及びプログラム Download PDF

Info

Publication number
JP7621870B2
JP7621870B2 JP2021071187A JP2021071187A JP7621870B2 JP 7621870 B2 JP7621870 B2 JP 7621870B2 JP 2021071187 A JP2021071187 A JP 2021071187A JP 2021071187 A JP2021071187 A JP 2021071187A JP 7621870 B2 JP7621870 B2 JP 7621870B2
Authority
JP
Japan
Prior art keywords
label
user
image
target product
interactive robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021071187A
Other languages
English (en)
Other versions
JP2022165722A (ja
Inventor
朋佳 大橋
峻 戸村
登 宮本
奈津子 榎本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Gas Co Ltd
Original Assignee
Tokyo Gas Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Gas Co Ltd filed Critical Tokyo Gas Co Ltd
Priority to JP2021071187A priority Critical patent/JP7621870B2/ja
Publication of JP2022165722A publication Critical patent/JP2022165722A/ja
Application granted granted Critical
Publication of JP7621870B2 publication Critical patent/JP7621870B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、対話型ロボット、情報提供サーバ、情報提供方法及びプログラムに関する。
特許文献1や特許文献2には、洗濯物のラベルの記載に基づき、洗濯モードや洗濯コースを自動で設定できる洗濯機が記載されている。
特開2002-360968号公報 特開2002-292189号公報
しかし、洗濯物のラベルの読み取りによる洗濯モード等を自動で設定する機能を搭載する洗濯機を、誰もが利用できるわけではない。一方で、新しい洗濯表示は7分類41種類で記述される。記述の意味は、専用のアプリやインターネットでの検索により調べることも可能であるが、ユーザは、専用のアプリを起動する手間やキーワードを入力する手間がある。
また、表示ラベルの誤りがインターネット上で周知されることもあるが、訂正後の記述で洗濯を支援しないとユーザが取扱いを誤る可能性が生じる。
また、購入後のラベルに損傷や劣化があると、正しい洗濯の方法を調べられない問題がある。
このように、洗濯には、依然として解決すべき課題が存在する。
このような課題は、洗濯後の洗濯物の干し方やアイロン掛けについても同様である。
本発明は、洗濯に関連するユーザの作業を音声により支援するサービスを提供する。
請求項1に記載の発明は、対象製品のラベルを撮像した画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、を有し、前記取得手段は、対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める対話型ロボットである。
請求項に記載の発明は、前記ラベルの記述を訂正する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述に基づき前記アドバイスを提供する、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記提供手段は、前記訂正後記述に関するデータを、ユーザの端末に送信する、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記ラベルの記述の読み取りが困難である場合、前記取得手段は、前記対象製品の全体像の撮像をユーザに求め、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述取得する、請求項1~のいずれか1項に記載の対話型ロボットである。
請求項5に記載の発明は、前記提供手段は、検索された前記記述に関するデータ、又は、前記ラベルの画像を、ユーザの端末に送信する、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記対象製品の全体像に関連する前記ラベルの記述が前記第4テーブルに見つからない場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第4テーブルを再検索する、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記対象製品の全体像に関連する前記ラベルの記述の候補が複数見つかった場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記対象製品の全体像に関連する前記ラベルの画像が前記第3テーブルに見つからない場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第3テーブルを再検索する、請求項に記載の対話型ロボットである。
請求項に記載の発明は、前記対象製品の全体像に関連する前記ラベルの画像が複数見つかった場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、請求項に記載の対話型ロボットである。
請求項10に記載の発明は、ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバであって、前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、を有し、前記取得手段は、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める情報提供サーバである。
請求項11に記載の発明は、前記ラベルの記述の訂正に関する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述の情報に基づき前記アドバイスを提供する、請求項10に記載の情報提供サーバである。
請求項12に記載の発明は、前記ラベルの記述の読み取りが困難である場合、前記取得手段は、像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述取得する、請求項10又は11に記載の情報提供サーバである。
請求項13に記載の発明は、ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバにおいて実行される情報提供方法であって、前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルに含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する処理と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する処理と、
対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める処理と、を有する情報提供方法である。
請求項14に記載の発明は、コンピュータに、対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する機能と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する機能と、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める機能と、を実現するためのプログラムである。
請求項1記載の発明によればユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
請求項記載の発明によれば、販売後に洗濯に関連する記述が公表されている場合には、訂正後の記述に従い洗濯の支援を受けることができる。
請求項記載の発明によれば、他者との記述の共有が容易になる。
請求項記載の発明によれば、ラベルの損傷や劣化があっても洗濯の支援を受けることができる。
請求項5記載の発明によれば、他者との記述の共有が容易になる。
請求項記載の発明によれば、製品全体の全体像に対応する画像に関連するラベルの記述が見つからない場合にも、目的とする記述が発見される可能性を高めることができる。
請求項記載の発明によれば、ラベルの記述の候補が複数見つかった場合にも、より確からしい記述の絞り込みを可能にできる。
請求項記載の発明によれば、製品全体の全体像に対応する画像に関連するラベルが見つからない場合にも、目的とする画像が発見される可能性を高めることができる。
請求項記載の発明によれば、ラベルの画像の候補が複数見つかった場合にも、より確からしいラベルの画像の絞り込みを可能にできる。
請求項10記載の発明によればユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
請求項11記載の発明によれば、販売後に洗濯に関連する記述が公表されている場合には、訂正後の記述に従い洗濯の支援を受けることができる。
請求項12記載の発明によれば、ラベルの損傷や劣化があっても洗濯の支援を受けることができる。
請求項13記載の発明によれば、ユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
請求項14記載の発明によれば、ユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
実施の形態1として想定する情報提供システムの構成例を示す図である。 対話型ロボットの外観例を説明する図である。 実施の形態1で使用する対話型ロボットのハードウェア上の構成例を示す図である。 実施の形態1で使用する対話型ロボットの機能上の構成例を説明する図である。 実施の形態1で使用するクラウドサーバのハードウェア上の構成例を示す図である。 実施の形態1で使用するクラウドサーバの機能上の構成例を説明する図である。 実施の形態1で使用するクラウドサーバで実行される対象製品に関する画像の登録動作を説明するフローチャートである。 対象製品の登録に関するユーザと対話型ロボットの対話例を説明する図である。 実施の形態1で使用するクラウドサーバで実行される洗濯の支援動作を説明するフローチャートである。 ユーザが洗い方を質問することで開始される対話型ロボットの対話例を説明する図である。 手洗いを終えたユーザが脱水を質問した場合の対話型ロボットの対話例を説明する図である。 乾燥を終えたユーザがアイロンのかけ方を質問した場合の対話型ロボットの対話例を説明する図である。 ユーザが洗い方を質問することで開始される対話型ロボットの他の対話例を説明する図である。 ユーザが洗い方を質問することで開始される対話型ロボットの他の対話例を説明する図である。 ユーザが洗い方を質問することで開始される対話型ロボットの他の対話例を説明する図である。 服の全体像からラベルの記述内容を特定できた場合の対話型ロボットの対話例を説明する図である。 実施の形態2で使用する対話型ロボットのハードウェア上の構成例を示す図である。 実施の形態2で使用する対話型ロボットの機能上の構成例を説明する図である。
以下、図面を参照して、本発明の実施の形態を説明する。
<実施の形態1>
<システム構成>
図1は、実施の形態1として想定する情報提供システム1の構成例を示す図である。
図1に示す情報提供システム1は、ネットワーク10に接続された対話型ロボット20と、クラウドサーバ30と、対話型ロボット20とブルートゥース(登録商標)で接続されるユーザ端末40とで構成される。
本実施の形態におけるネットワーク10は、無線通信規格であるWiFi(登録商標)とインターネットで構成される。WiFiは、いわゆる家庭内LAN(=Local Area Network)である。
図1に示す対話型ロボット20は、ヒト型のロボットを表している。もっとも、対話型ロボット20の外観形状は、例えば犬や猫などの動物、仮想のキャラクタ、乗り物を模した形状でもよい。また、対話型ロボット20の外観形状は、いわゆるスマートスピーカ等で採用されている筒型の形状や箱型の形状でもよい。
対話型ロボット20は、ユーザの所有でも良いし、レンタルでもよい。レンタルの場合、有償か無償かは問わない。
本実施の形態における対話型ロボット20は、ユーザとの音声による対話又は会話が可能である。もっとも、本実施の形態では、対話と会話を厳密には区別しない。本実施の形態では、対話型ロボット20又はユーザからの発声と他方による応答が成立することを対話又は会話という。
対話型ロボット20は、クラウドサーバ30との通信を通じ、ユーザとの対話を実現する。
本実施の形態では、クラウドサーバ30との通信にインターネットを想定するが、移動通信システム経由で通信することも可能である。移動通信システムは、第4世代(すなわち4G)や第5世代(すなわち5G)でもよい。ただし、移動通信システムを用いた通信が可能であるのは、対話型ロボット20にSIM(=Subscriber Identity Module)カードが装着されているか、電子的に発行されたSIM情報が半導体メモリに記憶されている場合に限られる。
クラウドサーバ30は、対話型ロボット20とユーザの音声による対話を通じ、洗濯に関連するユーザの作業を支援するサービスを提供する情報提供サーバである。
本実施の形態におけるクラウドサーバ30は、対話型ロボット20からテキスト化されたユーザの音声を受信する機能と、受信したテキストデータの意味を自然言語解析する機能と、解析結果に応じたデータ処理を実行する機能と、ユーザに対する応答を生成する機能と、生成された音声データを対話型ロボット20に送信する機能を有している。
本実施の形態におけるクラウドサーバ30は、これらの機能を通じ、洗濯に関連するユーザの作業を支援するサービスを提供する。
本実施の形態におけるサービスは、主に布製品の洗濯を想定する。布製品は、衣類に限らず、例えばクッション、鞄、寝具、ぬいぐるみも含まれる。なお、洗濯の対象製品には、革製品も含まれる。
本実施の形態におけるサービスは、洗濯の対象製品の画像や対象製品に付属する洗濯表示や組成表示の画像が、ユーザから提供されることを前提とする。
「洗濯に関連するユーザの作業」には、例えば洗濯機に用意されているコースの選択の他、洗濯機の手動による設定、布製品や革製品の手洗いや手入れも含まれる。サービスの対象とするユーザの作業には、洗い、脱水、絞り、乾燥、干し、アイロン、畳み、収納も含まれる。
洗いに関する支援には、洗う前の準備作業、洗いに使用する洗濯剤、漂白剤、柔軟剤の種類や分量のアドバイス等も含まれる。
準備作業には、汚れやすい襟、袖口、ポケット口等の前処理、洗濯ネットの使用、ファスナー、ボタン、フック等を閉じる作業、フードやファーの取り外し等がある。この他、洗濯機に入れる前に服や靴下を裏返す等の作業も準備作業の一例である。
また、本実施の形態におけるユーザの作業には、対象製品の画像やラベルの撮像も含まれる。
ここでのラベルには、洗濯表示用のラベルと、組成表示用のラベルと、洗濯表示と組成表示の両方を含むラベルがある。古い洗濯表示には、6分類22種類のマークが使用され、新しい洗濯表示には、7分類41種類のマークが使用される。この他、文字による付記情報もある。本実施の形態では、洗濯の対象物に付属するラベルに印字されたマークや文字を「洗濯に関連する記述」という。なお、洗濯表示には、アメリカやヨーロッパ等の海外で使用される表示を含めてもよいし、ISOで定めた表示を含めてもよい。
因みに、古い洗濯表示の6分類は、洗い方、塩素漂白の可否、アイロンのかけ方、ドライクリーニング、絞り方、干し方である。一方、新しい洗濯表示の7分類は、洗濯処理、漂白処理、タンブル乾燥、自然乾燥、アイロン仕上げ、ドライクリーニング、ウエットクリーニングである。
ラベルには、全ての分類を印字する必要はなく、扱いに制約がない分類については省略が認められる。
本実施の形態におけるユーザ端末40は、対話型ロボット20との連携により、クラウドサーバ30が提供するサービスの補完に使用される。例えば対話型ロボット20で撮像された画像の保存、対話型ロボット20にカメラが実装されていない場合や故障している場合のカメラの代用、対話型ロボット20がクラウドサーバ30から取得したラベルの画像や記述に関するデータの保存に使用される。
図1の例では、ユーザ端末40の例としてスマートフォンを例示しているが、ユーザ端末40は、ユーザが使用するデスクトップ型のコンピュータ、ノート型のコンピュータ、タブレット型のコンピュータでもよい。また、ユーザ端末40は、スマートウォッチやスマートグラス等のウェアラブルコンピュータでもよい。
<対話型ロボットの構成>
図2は、対話型ロボット20の外観例を説明する図である。図2に示す対話型ロボット20は、2本の手と足を有するヒト型のロボットである。
もっとも、対話型ロボット20が実際に歩行可能である必要はない。ただし、不図示の車輪等により、対話型ロボット20の自走が可能でもよい。
言うまでもなく、図2に示す外観は一例であり、対話型ロボット20には手足が無くてもよい。
対話型ロボット20には、カメラ21と、再生音のボリュームスイッチ22と、スピーカ23と、マイク24と、録音ボタン25と、再生ボタン26と、ファンクションボタン27が設けられている。
カメラ21は、周囲の撮像に使用される。特に、カメラ21は、洗濯の対象製品の全体像やラベルの撮像に使用される。
本実施の形態の場合、カメラ21は、対話型ロボット20の右目の位置に設けられている。本実施の形態の場合、カメラ21は、右目の位置に1つ設けているが、左右両目の位置に設けてもよい。この場合、ステレオ撮影が可能になる。
また、本実施の形態の場合、対話型ロボット20がヒト型であるので、カメラ21を目の位置に取り付けているが、その他の位置に取り付けてもよい。例えば鼻の位置、口の位置、胸の位置、お腹の位置にカメラ21を取り付けてもよい。
ボリュームスイッチ22は、回転式のスイッチであり、右向きに回すと再生音が大きくなり、左向きに回すと再生音が小さくなる。
スピーカ23は、対話型ロボット20の音声の出力に用いられる。
マイク24は、ユーザの音声の取得に用いられる。
録音ボタン25は、音声メッセージの録音に使用される。
再生ボタン26は、音声メッセージの再生に使用される。
ファンクションボタン27は、初期状態において、マイク24のミュートに使用される。ファンクションボタン27には、任意の機能をユーザが割り当てることも可能である。
図3は、実施の形態1で使用する対話型ロボット20のハードウェア上の構成例を示す図である。図3には、図2との対応部分に対応する符号を付して示している。
図3に示す対話型ロボット20は、装置全体を制御する制御ユニット201と、制御ユニット201と通信する複数のデバイスとを有している。
制御ユニット201は、プログラムの実行を通じて各種の機能を実現するCPU201Aと、BIOS等が記憶されるROM201Bと、プログラムの実行領域として使用されるRAM201Cとを有している。
外部メモリ202は、読み書きが可能な不揮発性の半導体メモリであり、例えばファームウェアが記憶される。外部メモリ202には、音声をテキストデータに変換する音声認識用のプログラムも記憶される。
照度センサ203は、対話型ロボット20の筐体内部に配置されている。照度センサ203は、対話型ロボット20が使用される部屋の明るさの検知に使用される。
人感センサ204は、対話型ロボット20の近くにユーザがいることの検知に使用される。対話型ロボット20の操作は、予め設定したニックネームによる呼び掛けを原則とするが、人感センサ204がユーザを検知している場合には、ニックネームによる呼び掛けが無くても操作や対話が可能になる。
加速度センサ205は、対話型ロボット20の姿勢の検知に使用される。加速度センサ205には、例えば6軸センサが使用される。
LED206は、対話型ロボット20の例えば頬の内側に配置され、その発光は筐体を透過して外部から視認される。LED206の発光は、対話型ロボット20の動作の状態や感情の表現に使用される。
通信モジュール207は、他の端末との通信に使用される。本実施の形態の場合、通信モジュール207としてWiFiモジュールとブルートゥースモジュールが設けられる。なお、通信モジュール207には、4Gや5Gに対応するモジュールを設けてもよい。
この他、対話型ロボット20には、情報の表示に使用するディスプレイを設けてもよい。
図4は、実施の形態1で使用する対話型ロボット20の機能上の構成例を説明する図である。
図4に示す機能部は、CPU201Aによるプログラムの実行を通じて実現される。図4には、洗濯に関連するユーザの作業の支援に関係する機能部だけを描いている。具体的には、音声認識部211と音声出力部212を描いている。
音声認識部211は、マイク24(図2参照)により取得されたユーザの音声をテキストデータに変換する機能である。音声認識部211は、音響モデルと言語モデルを使用し、取得された音声をテキストデータに変換する。
音声出力部212は、クラウドサーバ30から受信した音声ファイルを復号し、音声として出力する。
<クラウドサーバの構成>
図5は、実施の形態1で使用するクラウドサーバ30のハードウェア上の構成例を示す図である。
図5に示すクラウドサーバ30は、装置全体を制御する制御ユニット301と、補助記憶装置としてのハードディスクドライブ(すなわちHDD)302と、通信モジュール303とで構成されている。
制御ユニット301は、プログラムの実行を通じて各種の機能を実現するCPU301Aと、BIOS等が記憶されるROM301Bと、プログラムの実行領域として使用されるRAM301Cとを有している。
ハードディスク302には、オペレーションシステムと、洗濯に関連するユーザの作業を支援するサービスを実現するためのプログラムが記憶されている。
本実施の形態の場合、対話型ロボット20から受信したテキストデータを自然言語処理する自然言語処理モジュール302Aも、ハードディスク302に記憶される。もっとも、自然言語処理については、連携する他のサーバ上で実行し、自然言語処理の結果だけを他のサーバから受け取ってもよい。
この他、ハードディスク302には、洗濯表示として使用されるマークと意味の対応関係を記録する洗濯表示テーブル302Bと、洗濯に関連する作業別に用意された支援データを記録するテーブル(以下「作業別支援データテーブル」という)302Cと、製品の販売元やメーカ等から公表された洗濯表示の訂正データを記録する訂正データテーブル302Dと、ユーザがアップロードした製品の全体像とラベルの画像(以下「ラベル画像」という)との対応関係を記録するテーブル(以下「全体像⇒ラベル画像テーブル」という)302Eと、ユーザがアップロードした製品の全体像とラベルの記述の内容(以下「記述内容」という)との対応関係を記録するテーブル(以下「全体像⇒記述内容テーブル」という)302Fと、ユーザとの対話のやりとりを学習したモデル(以下「学習済みモデル」という)302Gが記憶されている。
洗濯表示テーブル302Bは、古い洗濯表示の6分類22種類のマークと意味の対応関係、新しい洗濯表示の7分類41種類のマークと意味の対応関係を記録する。
作業別支援データテーブル302Cは、洗濯に関連するユーザとして想定する作業毎の注意点やアドバイスを記録する。例えば「洗い」であれば、洗いたい物の素材や構造、対象製品の種類等に応じた準備作業のアドバイス、洗濯機のコース洗濯等に関するアドバイス、手洗いに関するアドバイス、洗いに使用する洗濯剤、漂白剤、柔軟剤の種類や分量のアドバイスがある。
なお、アドバイスの内容は、前提となる素材や構造、対象製品の種類、洗濯表示の記述等に紐付けられている。前提となる素材や構造、対象製品の種類等が対話を通じて特定されると、記録されているアドバイスが読み出され、対話型ロボット20から音声によりユーザに提供される。
この他、作業別支援データテーブル302Cには、脱水、乾燥、干し、アイロン、絞り方、畳み、収納の各作業についても、前提とアドバイスの関係が紐付けた状態で記録されている。
本実施の形態の場合、作業別支援データテーブル302Cは、サービスを提供する事業者が用意するが、連携する他の事業者から取得してもよいし、インターネット上に公開された情報を活用してもよい。
訂正データテーブル302Dは、インターネット上に公開された訂正データが記録される。訂正データは、例えばニュース記事や販売元から各種のメディアに発表された場合に訂正データテーブル302Dに登録される。また、訂正データは、ユーザからアップロードされたラベル画像から認識された「表示者名」や「連絡先」を検索キーとするウェブサイト上の巡回により収集してもよい。
全体像⇒ラベル画像テーブル302Eは、ユーザが撮像してアップロードした全体像と、対応するラベル画像の組を記録するテーブルである。
対応する全体像とラベル画像の撮像は、対話型ロボット20とユーザとの対話を通じて実行されるので、対応関係の特定が可能である。もっとも、全体像を検索キーに用いてインターネット上の類似画像を検索し、検索された類似画像に関連付けられているラベル画像を取得して登録してもよい。
本実施の形態の場合、全体像⇒ラベル画像テーブル302Eは、ユーザ毎に専用のテーブルとして用意するが、全てのユーザについて共通の全体像⇒ラベル画像テーブル302Eを用意してもよい。
全体像⇒記述内容テーブル302Fは、ユーザが撮像してアップロードした全体像と、対応するラベル画像から読み取られた記述内容の組を記録するテーブルである。ここでの記述内容は、ラベル画像に印字された記号の意味や文字で構成される。
本実施の形態の場合、全体像⇒記述内容テーブル302Fは、ユーザ毎に専用のテーブルとして用意するが、全てのユーザについて共通の全体像⇒記述内容テーブル302Fを用意してもよい。
本実施の形態の場合、全体像⇒ラベル画像テーブル302Eと全体像⇒記述内容テーブル302Fの両方を用意するが、これらはラベルの破損や損傷等によりラベル画像から記述を読み取れない場合に備えて用意される。因みに、全体像から破損等がないラベル画像を取得できれば記述内容の取得が可能であるので、全体像⇒ラベル画像テーブル302Eと全体像⇒記述内容テーブル302Fのいずれか一方だけを用意してもよい。
本実施の形態における学習済みモデル302Gは、汎用的なモデルを使用する。すなわち、学習済みモデル302Gには、洗濯に関連する各種の対話を学習することにより生成されたモデルが使用される。例えば服の購入に関するユーザの発話を入力とし、服の全体像やラベル画像の撮像を促す応答を出力とする対話の例、服の洗い方に関するユーザの質問を入力とし、服のラベル画像の撮像を促す発言を出力とする対話の例が教師データとして学習される。
図6は、実施の形態1で使用するクラウドサーバ30の機能上の構成例を説明する図である。
図6に示す機能部は、CPU301Aによるプログラムの実行を通じて実現される。図6には、洗濯に関連するユーザの作業の支援に関係する機能部だけを描いている。具体的には、進捗管理部311と、文字認識部312と、作業支援部313と、訂正検索部314と、画像検索部315と、AI(=Artificial Intelligence)アシスタント316とを描いている。
進捗管理部311は、ユーザの発話を通じて開始された洗濯に関連するユーザの作業の進捗を管理する機能部である。洗濯に関連するユーザの作業の進捗には、例えば洗い、脱水、絞り、乾燥、干し、アイロン、畳み、収納がある。管理の対象である進捗の工程は、洗いたい物によって異なる。例えば全自動式の洗濯機を使用する場合と使用しない場合でも異なる。また、洗濯機を使用する場合と手洗いの場合でも異なる。
進捗管理部311による進捗の管理は、ユーザが質問した具体的な工程から開始される。例えばユーザが対話型ロボット20(図1参照)に洗い方を質問した場合には、洗いから畳みや収納までが管理の対象になる。また例えばユーザが対話型ロボット20に干し方を質問した場合には、干しから畳みや収納までが管理の対象となる。もっとも、管理の範囲は、ユーザが個別にその都度、設定できるようにしてもよい。例えば質問した工程だけを管理の対象としてもよい。
文字認識部312は、ラベル画像から文字を認識する機能部である。例えば洗濯表示の記述である記号や文字の認識に使用される他、組成表示の記述である文字の認識に使用される。文字認識部312は、取得手段の一例である。
作業支援部313は、ユーザから質問があった作業に関する注意点やアドバイスを作業別支援データテーブル302C(図5参照)から抽出し、AIアシスタント316に与える機能部である。
例えばダウンジャケットの洗濯の場合、作業支援部313は、洗い工程について、手洗いが推奨されること、洗いを開始する前に襟、袖口等の汚れ部分の確認とこれらの部位の予洗いが推奨されること、洗いを開始する前にはファスナーやボタン等を予め閉じること、洗い桶で押し洗いすること、洗い桶がない場合には洗濯槽で代用が可能なこと等を、対話型ロボット20を通じてアドバイスする。
また、脱水工程について、作業支援部313は、洗濯表示の記述内容に従い、脱水機の使用の可否や絞って良いか否か等を、対話型ロボット20を通じてアドバイスする。
また、乾燥工程について、作業支援部313は、羽毛の偏りを減らす持ち方や干し方等を、対話型ロボット20を通じてアドバイスする。
なお、洗濯機に手洗いモードやドライモードがある場合、作業支援部313は、これらのモードの洗濯も一応は可能であること、洗濯槽に入れる前には、ダウンジャケットの表と裏を裏返して畳んだ後に洗濯用ネットに入れること、洗剤にはおしゃれ着用の中性洗剤を使用すること等を、対話型ロボット20を通じてアドバイスする。
訂正検索部314は、例えばラベル画像のアップロードを検知すると、ラベル画像の「表示者名」や「連絡先」に紐付けられているウェブサイト等にアクセスし、ラベル画像の記述の訂正が公開されていないかを検索する機能部である。
訂正の情報が存在した場合、訂正検索部314は、訂正データテーブル302D(図5参照)に、ラベル画像に紐づけて訂正後の記述内容や変更点を記録する。同時に、訂正検索部314は、訂正データの存在をAIアシスタント316に与え、対話型ロボット20に対して送信する音声データの文面の変更を実現する。
また、訂正検索部314は、ユーザからアップロードされたラベル画像から読み出された「表示者名」や「連絡先」に紐付けられているウェブサイト等を定期的に巡回し、訂正データの公開の有無を確認してもよい。
なお、訂正検索部314は、ユーザがアップロードしたラベル画像とは関係なく、洗濯表示や組成表示の記述の訂正に関する情報を収集し、訂正データテーブル302Dに記録してもよい。
画像検索部315は、ユーザがアップロードした全体像やラベル画像に類似する画像を検索する機能部である。ここでの画像検索部315は、取得手段の一例である。
画像検索部315は、最初に、ユーザ別に用意された全体像⇒ラベル画像テーブル302E(図5参照)や全体像⇒記述内容テーブル302F(図5参照)を検索する。検索の対象である全体像やラベル画像は、ユーザが登録済みの可能性が高い。このため、検索の範囲を個々のユーザ毎に用意されたテーブルに限定することで、効率的に目的とするラベル画像や記述内容を抽出することができる。
ただし、洗濯表示や組成表示が付された対象製品は、工業的に生産され流通された製品であるので、他のユーザについて用意されたテーブルを検索の範囲に含めることも可能である。
目的とするラベル画像や記述内容を抽出できない場合には、他のユーザについて用意されたテーブルまで検索の範囲に含めることで、目的とするラベル画像や記述内容が抽出される可能性が高くなり、サービスの質の向上、すなわちユーザの満足度を高めることができる。
AIアシスタント316は、学習済みモデル302G(図5参照)の実行を通じてサービスを提供する。AIアシスタント316は、提供手段の一例である。
AIアシスタント316は、ユーザの発話の内容を学習済みモデル302Gに与えることにより、対話型ロボット20を通じて応答する文面を生成する。
この際、AIアシスタント316は、進捗管理部311で管理されている進捗の工程に応じ、作業支援部313と連携し、対応する工程に応じた注意点やアドバイスを内容に含む文面を生成する。
また、ユーザの質問が洗濯表示や組成表示に関する内容であり、ユーザから全体像やラベル画像がアップロードされた場合、AIアシスタント316は、画像検索部315により検索されたラベル画像から読み出される記述内容等を含む文面を生成する。
ただし、ユーザの質問が洗濯表示や組成表示に関する内容の場合において、対象とする洗濯表示や組成表示に訂正データが存在するとき、AIアシスタント316は、訂正の存在と訂正後の内容を文面に含む文面を生成する。
<処理動作>
以下では、情報提供システム1で実行される処理動作の例を説明する。
<画像の登録>
図7は、実施の形態1で使用するクラウドサーバ30(図1参照)で実行される対象製品に関する画像の登録動作を説明するフローチャートである。なお、図7では、ステップの意味で記号のSを使用する。
本動作は、AIアシスタント316(図6参照)が、進捗管理部311(図6参照)や作業支援部313(図6参照)との連携により実行する。
クラウドサーバ30は、サービスを利用するユーザからの発話の中に、洗濯の可能性がある製品の登録に関する内容が含まれるか否かを判定する(ステップ1)。製品の登録に関する内容には、製品の登録や管理の開始を直接求める内容に限らず、購入した製品や貰った製品に関する話題も含まれる。
本実施の形態の場合、ステップ1で否定結果が得られている間、クラウドサーバ30は、ステップ1の判定を繰り返し実行する。
ステップ1で肯定結果が得られた場合、クラウドサーバ30は、対象製品の全体像の撮像をユーザに要求する(ステップ2)。
なお、ステップ2の実行前に、クラウドサーバ30は、話題になっている対象製品の登録を希望するか否かをユーザに問い合わせてもよい。この問い合わせを実行する場合、対象製品の登録が希望された場合にステップ2を実行し、希望しない場合にはステップ1の判定に戻る。
全体像のアップロードを確認すると、クラウドサーバ30は、対象製品のラベル画像の撮像をユーザに要求する(ステップ3)。
ラベル画像のアップロードを確認すると、クラウドサーバ30は、取得されたラベル画像から記述内容を取得する(ステップ4)。
次に、クラウドサーバ30は、全体像とラベル画像を紐付けて登録する(ステップ5)。また、クラウドサーバ30は、全体像と記述内容を紐付けて登録する(ステップ6)。
<具体的な対話例>
図8は、対象製品の登録に関するユーザと対話型ロボット20の対話例を説明する図である。
図8の場合、ユーザが「ガス太郎、服を買ったよ。」と話し掛けている。このユーザの音声には、「服」、「買った」のキーワードが含まれている。この2つのキーワードより、クラウドサーバ30(図1参照)は、ユーザの発話に、洗濯の可能性がある製品の登録に関する内容が含まれると判定する。
その結果として、対話型ロボット20は「見せてもらってもいいですか?」等と応答する。ここでの応答は、前述したステップ2に対応する。
対話型ロボット20からの音声を確認したユーザは、「ガス太郎、ちょっと待って」や「ガス太郎、これでいいかな?」等と言いながら、買ってきた服を対話型ロボット20の前に広げて見せる等を行う。なお、テーブルや床面に広げた服を見せるように、対話型ロボット20を持ち上げてもよい。
予め定めた条件を満たす全体像が撮像された場合、対話型ロボット20は、「画像を取得できました。ラベルも見せてもらっていいですか?」等と応答する。ここでの応答は、前述したステップ3に対応する。
対話型ロボット20からの音声を確認したユーザは、同様に、「ガス太郎、ちょっと待って」や「ガス太郎、これでいいかな?」等と言いながら、買ってきた服のラベルを対話型ロボット20の前に広げて見せる等を行う。
やはり、ラベルが見えるように服を広げ、持ち上げた対話型ロボット20をラベルに近づける等してもよい。
予め定めた条件を満たすラベル画像が撮像された場合、対話型ロボット20は、「登録できました」等と応答する。
以上で、ユーザとの対話を通じての服の全体像の登録と対応するラベル画像の登録が完了する。ここでの全体像とラベル画像は、いずれも対話型ロボット20からクラウドサーバ30にアップロードされ、全体像⇒ラベル画像テーブル302E(図5参照)に紐付けられた状態で記録される。
なお、ラベル画像からの記述内容の取得や取得された記述内容の対応する全体像への紐付けと登録は、クラウドサーバ30が自動で実行する。
<洗濯の支援>
図9は、実施の形態1で使用するクラウドサーバ30(図1参照)で実行される洗濯の支援動作を説明するフローチャートである。図9に示す支援動作は、情報提供方法の一例である。
本動作は、AIアシスタント316(図6参照)が、進捗管理部311(図6参照)や作業支援部313(図6参照)等との連携により実行する。
クラウドサーバ30は、サービスを利用するユーザからの発話の中に、洗濯の可能性がある製品の取扱に関する内容が含まれるか否かを判定する(ステップ11)。製品の取扱に関する内容には、「洗濯」の言葉を含む場合に限らず、「洗い方」や「手入れ」等でもよい。また、製品の取扱には、前述したように、洗い、脱水、絞り、乾燥、干し、アイロン、畳み、収納等の洗濯の進捗上の具体的な工程でもよい。
本実施の形態の場合、ステップ1で否定結果が得られている間、クラウドサーバ30は、ステップ1の判定を繰り返し実行する。
ステップ1で肯定結果が得られた場合、クラウドサーバ30は、ユーザが意図する取扱の内容を特定する(ステップ12)。クラウドサーバ30は、ユーザとの対話を通じて、ユーザが意図する取扱の内容を絞り込む。対話型ロボット20に「洗濯機のコースを知りたいの?」や「手洗いについて知りたい?」等と発話させ、ユーザとの対話を通じて、ユーザが知りたい内容を絞り込む。
次に、クラウドサーバ30は、ラベル画像の撮像が必要か否かを判定する(ステップ13)。この判定は、特定の製品の取扱を意図したものか、布製品全般や革製品全般のように一般的な事項なのかの切り分けのために実行される。
特定の製品を想定しない一般的な質問の場合、クラウドサーバ30は、ステップ13で否定結果を得、図9に示す処理を終了する。
一方、特定の製品の取扱が意図されている場合、クラウドサーバ30は、ステップ13で肯定結果を得る。
ステップ13で肯定結果を得たクラウドサーバ30は、ラベル画像は撮像済みか否かを判定する(ステップ14)。
ラベル画像が撮像済みでない場合、クラウドサーバ30は、ステップ14で否定結果を得る。一方、ラベル画像が撮像済みの場合、クラウドサーバ30は、ステップ14で肯定結果を得る。
ステップ14で否定結果が得られた場合、クラウドサーバ30は、対象製品のラベル画像の撮像をユーザに要求する(ステップ15)。この要求は、対話型ロボット20を通じて、ユーザに伝達される。
ステップ14で肯定結果が得られた場合、又は、対話型ロボット20からラベル画像がアップロードされた場合、クラウドサーバ30は、取得されたラベル画像から記述内容を読み取る(ステップ16)。記述内容の読み取りでは、文字認識部312(図6参照)との連携や洗濯表示テーブル302B(図5参照)の参照等が実行される。
次に、クラウドサーバ30は、記述内容の読み取りに成功したか否かを判定する(ステップ17)。
ステップ17で肯定結果が得られた場合、クラウドサーバ30は、読み取った記述内容から対象製品の特定が可能か否かを判定する(ステップ18)。例えばラベル画像からロット番号等が抽出され、製品を一意に特定可能な場合、クラウドサーバ30は、ステップ18で肯定結果を得る。一方、ラベル画像から読み取り可能な情報だけでは製品を特定できない場合、クラウドサーバ30は、ステップ18で否定結果を得る。
ステップ17で否定結果が得られた場合、又は、ステップ18で否定結果が得られた場合、クラウドサーバ30は、対象製品の全体像の撮像をユーザに要求する(ステップ19)。この要求も、対話型ロボット20を通じて、ユーザに伝達される。
対話型ロボット20から全体像がアップロードされると、クラウドサーバ30は、取得された全体像を使用して検索を実行し、対応する全体像の候補があるか否かを判定する(ステップ20)。本実施の形態の場合、ステップ20における検索は、全体像⇒ラベル画像テーブル302E(図5参照)や全体像⇒記述内容テーブル302F(図5参照)を対象に実行される。
ステップ20で否定結果が得られた場合、クラウドサーバ30は、ステップ19に戻り、ユーザに対して全体像の取り直しを要求する。なお、ステップ20で否定結果が得られる回数が予め定めた回数に達した場合、クラウドサーバ30は、「ごめんね、ラベルを読み取れなかったみたい。」や「洗濯表示の一覧表をスマホに送ったよ、確認してね。」等を、対話型ロボット20に発話させる。
このような事例は、対象製品が登録されていない場合や販売数が少ない製品の場合等で生じる可能性がある。
ステップ20で肯定結果が得られた場合、クラウドサーバ30は、全体像に紐付けられている記述内容を取得する(ステップ21)。例えば全体像からラベル画像を読み出した場合、クラウドサーバ30は、読み出したラベル画像から記述内容を取得する。一方、全体像から記述内容を読み出した場合、クラウドサーバ30は、読み出した記述内容をそのまま使用する。
ステップ18で肯定結果が得られた場合、又は、ステップ21で記述内容が得られた場合、作業支援部313は、処理の対象であるラベル画像の記述内容に訂正データがあるか否かを判定する(ステップ22)。ここでの判定は、特定された記述内容の訂正データが訂正データテーブル302D(図5参照)に記録されているかの確認により実行される。
訂正データが見つかった場合、クラウドサーバ30は、ステップ22で肯定結果を得、訂正された記述内容を用いた対話を継続する(ステップ23)。
一方、訂正データが見つからない場合、クラウドサーバ30は、ステップ22で否定結果を得、ステップ16で読み取った記述内容を用いた対話を継続する(ステップ24)。
<具体的な対話例>
<手洗いの場合>
以下では、図10~図12を使用して、手洗いが推奨される場合の対話例を説明する。
図10は、ユーザが洗い方を質問することで開始される対話型ロボット20の対話例を説明する図である。
図10の場合、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図10の場合、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
図10では、対話型ロボット20からの音声に従い、ユーザが対象製品のラベルを対話型ロボット20に見せている。図10の場合、ラベルには7個の記号と「アイロンはあて布を使用」との付記が印字されている。また、同ラベルには。本体はコットン60%でナイロンが40%であり、別布はコットン100%であることも印字されている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。図10の場合、ラベル画像に対応する訂正データは存在しない。
そこで、図10における対話型ロボット20は、「この服は洗濯機で洗ってはだめだよ。手洗いしてね。」とアドバイスしている。
このアドバイスを聞いたユーザは、「ガス太郎、漂白剤は使っていいんだっけ?」と問い掛けている。この問い掛けは、文脈から、話題の対象である服に関する追加の質問として認識される。同じ服についてのラベル画像は撮像済みであるので、クラウドサーバ30は、読み取り済みのラベル画像から読み取られた記述内容に従ってユーザに応答する。具体的には、対話型ロボット20は、「漂白はだめだよ。分からないことは、いつでも聞いてね。」と応答している。
図11は、手洗いを終えたユーザが脱水を質問した場合の対話型ロボット20の対話例を説明する図である。図11に示すユーザと対話型ロボット20との対話は、図10の続きである。
図11の場合、ユーザは、「ガス太郎、洗濯が終わったんだけど、脱水は?」と質問している。
この場合も、文脈から、進捗を管理している服の洗濯に関連する工程であると認識される。また、ラベル画像は撮像済みであり、クラウドサーバ30で管理されている。
そこで、対話型ロボット20は、「先程の服ですね。乾燥機は使えないよ。」と応答し、続いて「脱水したら、日陰で吊り干してね。絞りたくないなら、タオルで水気をとってから干せば、生地を傷めずに済むよ。」との音声を出力している。なお、2番目の文の内容、すなわち「絞りたくないなら、タオルで水気をとってから干せば、生地を傷めずに済むよ。」は、乾燥について用意されているアドバイスである。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう。」と発声し、対話型ロボット20は「どういたしまして。」と応答している。
図12は、乾燥を終えたユーザがアイロンのかけ方を質問した場合の対話型ロボット20の対話例を説明する図である。図12に示すユーザと対話型ロボット20との対話は、図11の続きである。
図12の場合、ユーザは、「ガス太郎、乾いたけどアイロンのかけ方を教えて?」と質問している。
この場合も、文脈から、進捗を管理している服の洗濯に関連する工程であると認識される。また、ラベル画像は撮像済みであり、クラウドサーバ30で管理されている。
そこで、対話型ロボット20は、「先程の服ですね。低温に設定して、スチーム無しでアイロンかけてね。」と応答し、続いて「アイロンのときはあて布を忘れないでね。」との音声を出力している。1番目の文の内容、すなわち「低温に設定して、スチーム無しでアイロンかけてね。」はドットが1個のアイロン型のマークの意味である。また、2番目の文の内容、すなわち「アイロンのときはあて布を忘れないでね。」は、ラベルに印字された付記の内容である。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう、やってみる。」と発声し、対話型ロボット20は「分からないことがあったら、いつでも聞いてね。」と応答している。
以上のように、本実施の形態の場合、サービスを利用するユーザは、音声による対話を通じ、対話型ロボット20から知りたい情報を取得することができる。
同様の情報は、スマートフォンやパソコンを通じて調べることも可能であるが、その都度、キーワードや画像を検索キーとしてアップし、多数の検索の結果の中から、望んでいる情報を探し出す手間が発生する。
しかし、本実施の形態の場合には、音声による対話により、これらの多くの手間を省略することができ、効率的に知りたい情報に辿りつくことができる。
また、本実施の形態の場合、ユーザは、情報を取得するまでの間、洗濯等の作業を続けることができる。一方、ネット検索で情報を調べる場合には、ネット検索の間、ユーザは洗濯等の作業を中断する必要がある。この点でも、本実施の形態のサービスは優れている。
<家で洗えない場合>
図13は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。
図13の場合も、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図13の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
図13の場合も、対話型ロボット20からの音声に従い、ユーザが対象製品のラベルを対話型ロボット20に見せている。図13の場合、ラベルには4個の記号が印字されている。また、同ラベルには、本体はテンセル100%であり、部分はナイロン、綿、ポリエステルであることも印字されている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。図13の場合も、ラベル画像に対応する訂正データは存在しない。
因みに、図13のラベル画像は、古い洗濯表示である。
図13のラベルの画像では、洗濯桶の絵と漂白剤の絵にX印が付けられている。一方、クリーニングの絵には「ドライ」、「セキユ系」と記載されている。
このため、対話型ロボット20は、「この服は、家では洗えないよ。ドライクリーニングに出してね。」とアドバイスしている。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう。」と発声し、対話型ロボット20は「分からないことがあったら、いつでも聞いてね。」と応答している。
<訂正データがある場合>
図14は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。図14では、ラベルに印字された記述について連絡先が訂正データを公表している場合を想定する。
図14の場合も、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図14の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
図14の場合も、対話型ロボット20からの音声に従い、ユーザが対象製品のラベルを対話型ロボット20に見せている。図14の場合、ラベルには7個の記号と「移染しやすいので他の物と分けて洗濯してください」との付記が印字されている。また、同ラベルには、本体はコットン100%であり、別布はポリエステル100%であることも印字されている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。
なお、図14に示すラベルには、手洗いの絵にX印がない。このため、ラベルの記述によれば、手洗いは可能なはずである。ただし、前述したように、このラベルの記述には訂正データが存在している。
そこで、図14における対話型ロボット20は、「この服には洗い方に訂正があったみたいだよ。手洗いはだめだよ。ドライクリーニングに出してね。」とアドバイスしている。
このアドバイスを聞いたユーザは、「ガス太郎、そうなんだ!間違えるところだったわ。」と発声している。なお、対話型ロボット20は、「スマホに新しいラベルの画像を送ったよ。」と応答している。
洗い方に訂正があった場合、クリーニングに関する記述に変更がなければ、クリーニング店における洗濯に誤りは生じないが、クリーニングに関する記述についても変更が含まれている場合、そのままクリーニング店に持ち込むと洗浄方法を誤る可能性がある。
そこで、本実施の形態におけるサービスでは、対話型ロボット20を通じて、ユーザ端末40に訂正後のラベルの画像を送ることでユーザの手間を省くとともに、クリーニング店への説明を容易にしている。
なお、この機能がない場合、ユーザは、改めて該当する製品の洗濯の方法を検索し、スマホ等に保存する手間が発生する。
<ラベルが破損等している場合>
前述までの例は、ラベルの印字が鮮明であることを前提としているが、服を購入等した時点でラベルの印字が不鮮明であることがある。また、使用中に徐々に不鮮明になり、ラベル画像を新たに取り直した場合に記述内容を特定できない場合もある。また、購入後にラベルを切り離すユーザの場合には洗濯表示の確認が困難である。
図15は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。
図15の場合も、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図15の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
図15の例でも、ユーザは、対話型ロボット20からの音声に従い、対象製品のラベルを対話型ロボット20に見せている。しかし、図15の場合、前述した他の例とは異なり、ラベルの印字が不鮮明である。
このため、このラベルを撮像したラベル画像のアップロードを受け付けたクラウドサーバ30は、対話型ロボット20を通じ、「ラベルが汚れてるみたいですね。画像から検索できるか試して見るから、服の全体を見せてもらえる?」と応答している。
この音声を聞いたユーザは、「ガス太郎、これでいいかな?」等と言いながら、洗いたい服を対話型ロボット20の前に広げて見せる等を行う。なお、テーブルや床面に広げた服を見せるように、対話型ロボット20を持ち上げてもよい。
服の全体像のクラウドサーバ30へのアップロードが完了すると、対話型ロボット20は、「調べるからちょっと待ってね」と応答している。
図16は、服の全体像からラベルの記述内容を特定できた場合の対話型ロボット20の対話例を説明する図である。図16に示すユーザと対話型ロボット20との対話は、図15の続きである。
この例の場合、クラウドサーバ30は、全体像⇒ラベル画像テーブル302E又は全体像⇒記述内容テーブル302Fを使用し、ラベルの記述内容を特定できている。
そこで、対話型ロボット20は、「分かったよ。この服は、ドライクリーニングに出さないとだめだよ。」と応答している。
続いて、対話型ロボット20は、「スマホにラベルの画像を送っておくから、お店の人に見せてね。」との音声を出力している。
この音声を聞いたユーザは、「ガス太郎、助かるわ。」と応えている。
なお、家庭での洗濯が可能である場合、対話型ロボット20は、特定された記述内容を音声によりユーザに通知するとともに、スマホにラベルの画像を送信することで、視覚による確認も可能にする。
このサービスは、既存の技術では実現し得ない。
<実施の形態2>
実施の形態1の場合、洗濯に関連するユーザの作業を支援する機能をクラウドサーバ30(図1参照)上で実現しているが、本実施の形態では、これらの機能を対話型ロボット20(図1参照)に内蔵する。
図17は、実施の形態2で使用する対話型ロボット20のハードウェア上の構成例を示す図である。図17には、図3及び図5との対応部分に対応する符号を付して示している。
本実施の形態で使用する対話型ロボット20の場合、外部メモリ202に、自然言語処理モジュール302Aと、洗濯表示テーブル302Bと、作業別支援データテーブル302Cと、訂正データテーブル302Dと、全体像⇒ラベル画像テーブル302Eと、全体像⇒記述内容テーブル302Fと、学習済みモデル302Gが記憶されている。
なお、自然言語処理モジュール302Aは、ハードウェア上の負担が大きいので、実施の形態1と同様に、連携するクラウドサーバ30上に配置されてもよい。
また、本実施の形態の場合、外部メモリ202に記憶する全体像⇒ラベル画像テーブル302Eと全体像⇒記述内容テーブル302Fは1つでよい。対話型ロボット20は、他のユーザの画像を管理する必要がないためである。
図18は、実施の形態2で使用する対話型ロボット20の機能上の構成例を説明する図である。図18には、図4及び図6との対応部分に対応する符号を付して示している。
本実施の形態で使用する対話型ロボット20の場合、音声認識部211及び音声出力部212に加え、進捗管理部311、文字認識部312、作業支援部313、訂正検索部314、画像検索部315、AIアシスタント316の各機能も含まれる。
このため、本実施の形態で使用する対話型ロボット20は、単独で、実施の形態1で説明した機能を提供することができる。
<他の実施の形態>
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は、前述の実施の形態に記載の範囲に限定されない。前述した実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
例えば前述の実施の形態においては、対話型ロボット20として専用の装置を想定しているが、例えばスマートフォン、スマートグラス、スマートウォッチ、スマートスピーカその他の通信機能と対話機能を有する装置でもよい。
前述の実施の形態においては、洗濯に関連するユーザの作業を支援するサービスを提供する事業者が運用するクラウドサーバ30(図1参照)を想定しているが、クラウドサーバ30上で実行する機能をユーザ端末40(図1参照)上で実行してもよい。
前述の実施の形態の場合、対象製品の全体像がユーザにより正しく撮像されていれば、ユーザが撮像した全体像に一致する1つ画像が見つかり、同画像に紐付けられているラベルの記述が1つ見つかる例を説明したが(例えば図9のステップ19~ステップ21)、ユーザが撮像した全体像に一致する画像が見つからない場合や同画像に紐付けられているラベルの記述が見つからない可能性がある。
このような場合、ユーザに補足情報を要求し、取得された補足情報を用いて再検索を実行してもよい。ユーザへの補足情報の要求は、音声による通話を用いて実行してもよいし、連携するユーザ端末40(図1参照)への情報の入力を促してもよい。
例えば対話型ロボット20に「見せてもらった服に対応する全体像が見つからないんだ。買った時期は覚えてない?」とか、「この服のメーカ分からないかなー」とか、「この服には取り外しできる付属品は付いてなかった?」とか質問させ、ユーザとの対話を通じて取得された補足情報を使用して対象製品の全体像やラベルの記述を再検索する機能を設けてもよい。
これらの質問に対して例えばユーザが「確か今年の夏に色違いを買ったよ」とか、「メーカはABCよ」とか、「確か取り外しできるベルトが付いてたわ」とか答えると、追加の情報を加えて全体像や同画像に紐付けられているラベルの記述を再検索してもよい。
なお、ユーザが全体像を登録していない場合には、インターネット上の類似画像の検索等が実行されるが、検索にヒットした類似画像をユーザ端末40等に表示してユーザに確認を求めてもよい。
ユーザの確認を経ることにより、ユーザに提供されるラベルの記述が、対象とする服の情報である可能性を高めることができる。
一方で、全体像に対応する記述の候補が複数見つかる場合も考えられる。ユーザが撮像した全体像に類似する画像や記述の候補が複数見つかっても、記述の内容がいずれも同じであれば、記述は1つとみなしてよい。
ただし、記述の内容が異なる候補が複数存在する場合には、ユーザに補足情報を要求し、取得された補足情報を用いて再検索を実行してもよい。この場合も、ユーザへの補足情報の要求は、音声による通話を用いて実行してもよいし、連携するユーザ端末40(図1参照)への情報の入力を促してもよい。
例えば対話型ロボット20に「見せてもらった服に類似する服が複数見つかったよ。買った時期は覚えてない?」とか、「この服のメーカ分からないかなー」とか、「この服には取り外しできる付属品は付いてなかった?」とか質問させ、ユーザとの対話を通じて取得された補足情報を使用してラベルの画像やラベルの記述を絞り込む機能を設けてもよい。
これらの質問に対して例えばユーザが「確か今年の夏に色違いを買ったよ」とか、「メーカはABCよ」とか、「確か取り外しできるベルトが付いてたわ」とか答えると、追加の情報を加えてラベルの画像や同画像に対応する記述を絞り込んでもよい。
複数の候補が複数見つかる場合には、検索にヒットした画像の候補をユーザ端末40等に表示してユーザに確認を求めてもよい。
ユーザの確認を経ることにより、ユーザに提供されるラベルの記述が、対象とする服の情報である可能性を高めることができる。
1…情報提供システム、10…ネットワーク、20…対話型ロボット、30…クラウドサーバ、40…ユーザ端末、211…音声認識部、212…音声出力部、302A…自然言語処理モジュール、302B…洗濯表示テーブル、302C…作業別支援データテーブル、302D…訂正データテーブル、302E…全体像⇒ラベル画像テーブル、302F…全体像⇒記述内容テーブル、302G…学習済みモデル、311…進捗管理部、312…文字認識部、313…作業支援部、314…訂正検索部、315…画像検索部、316…AIアシスタント

Claims (14)

  1. 対象製品のラベルを撮像した画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、
    少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、
    を有し、
    前記取得手段は、対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める
    対話型ロボット。
  2. 前記ラベルの記述を訂正する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述に基づき前記アドバイスを提供する、
    請求項に記載の対話型ロボット。
  3. 前記提供手段は、前記訂正後記述に関するデータを、ユーザの端末に送信する、
    請求項に記載の対話型ロボット。
  4. 前記ラベルの記述の読み取りが困難である場合、前記取得手段は、前記対象製品の全体像の撮像をユーザに求め、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述取得する、
    請求項1~のいずれか1項に記載の対話型ロボット。
  5. 前記提供手段は、検索された前記記述に関するデータ、又は、前記ラベルの画像を、ユーザの端末に送信する、
    請求項に記載の対話型ロボット。
  6. 前記対象製品の全体像に関連する前記ラベルの記述が前記第4テーブルに見つからない場合、
    前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第4テーブルを再検索する、
    請求項に記載の対話型ロボット。
  7. 前記対象製品の全体像に関連する前記ラベルの記述の候補が複数見つかった場合、
    前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、
    請求項に記載の対話型ロボット。
  8. 前記対象製品の全体像に関連する前記ラベルの画像が前記第3テーブルに見つからない場合、
    前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第3テーブルを再検索する、
    請求項に記載の対話型ロボット。
  9. 前記対象製品の全体像に関連する前記ラベルの画像が複数見つかった場合、
    前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、
    請求項に記載の対話型ロボット。
  10. ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバであって、
    前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、
    少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、
    を有し、
    前記取得手段は、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める
    情報提供サーバ。
  11. 前記ラベルの記述の訂正に関する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述の情報に基づき前記アドバイスを提供する、
    請求項10に記載の情報提供サーバ。
  12. 前記ラベルの記述の読み取りが困難である場合、前記取得手段は、像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述取得する、
    請求項10又は11に記載の情報提供サーバ。
  13. ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバにおいて実行される情報提供方法であって、
    前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルに含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する処理と、
    少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する処理と、
    対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める処理と、
    を有する情報提供方法。
  14. コンピュータに、
    対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する機能と、
    少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する機能と、
    対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める機能と、
    を実現するためのプログラム。
JP2021071187A 2021-04-20 2021-04-20 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム Active JP7621870B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021071187A JP7621870B2 (ja) 2021-04-20 2021-04-20 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021071187A JP7621870B2 (ja) 2021-04-20 2021-04-20 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2022165722A JP2022165722A (ja) 2022-11-01
JP7621870B2 true JP7621870B2 (ja) 2025-01-27

Family

ID=83851074

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021071187A Active JP7621870B2 (ja) 2021-04-20 2021-04-20 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7621870B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016103270A (ja) 2014-11-12 2016-06-02 株式会社アドバンスト・メディア 情報処理システム、受付サーバ、情報処理方法及びプログラム
JP2017084177A (ja) 2015-10-29 2017-05-18 シャープ株式会社 電子機器およびその制御方法
JP2019086915A (ja) 2017-11-02 2019-06-06 株式会社アベイル Ioタグシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016103270A (ja) 2014-11-12 2016-06-02 株式会社アドバンスト・メディア 情報処理システム、受付サーバ、情報処理方法及びプログラム
JP2017084177A (ja) 2015-10-29 2017-05-18 シャープ株式会社 電子機器およびその制御方法
JP2019086915A (ja) 2017-11-02 2019-06-06 株式会社アベイル Ioタグシステム

Also Published As

Publication number Publication date
JP2022165722A (ja) 2022-11-01

Similar Documents

Publication Publication Date Title
RU2768558C1 (ru) Устройство регистрации одежды и устройство рекомендации одежды, а также онлайновая система, содержащая их
US10943590B2 (en) Washing machine and control system operating based on voice recognition using artificial intelligence, and method for controlling them
CN105637139A (zh) 具有语音识别和响应能力的洗衣机和用于操作该洗衣机的方法
CN109112771A (zh) 衣物处理装置的控制方法、装置和电子设备
CN110699909A (zh) 一种衣物处理系统的控制方法
CN112481975A (zh) 衣物的护理方法、装置及衣物护理设备
CN112359569B (zh) 衣物护理设备的控制方法及衣物护理设备
JP7621870B2 (ja) 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム
WO2019036974A1 (zh) 一种智能洗涤方法及洗衣机
CN107151895A (zh) 一种无操作显示面板的洗衣机及其使用方法
CN112064311A (zh) 熨烫设备提醒方法、装置、熨烫设备及存储介质
KR20240045053A (ko) 의류 라벨의 이미지를 처리하는 방법, 전자 장치 및 기록매체
CN112726101A (zh) 一种信息提示方法、装置、介质及洗衣机
CN111240213A (zh) 用于智能家居系统的控制方法
JP7410735B2 (ja) 端末装置、機能提案方法、プログラム及びサーバ装置
CN111945382B (zh) 用于衣物处理设备的显示界面自定义控制方法
JP2022033139A (ja) 衣類処理装置
US20240112477A1 (en) Method and electronic device for processing clothing label image, and computer-readable recording medium
CN110004657B (zh) 用于衣物处理设备的控制方法
CN116152536A (zh) 用于引导用户处理衣物的方法、系统、设备及存储介质
JP6963292B2 (ja) 布製品識別システム及び布製品識別方法
CN114687121B (zh) 洗衣机控制方法、装置、电子设备及计算机程序
JP3999118B2 (ja) アイロン掛けシステム
JP7579542B2 (ja) ランドリーシステムおよびサーバ
CN117518893A (zh) 挂烫机熨烫控制方法、装置、存储介质及电子装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250115

R150 Certificate of patent or registration of utility model

Ref document number: 7621870

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150