JP7621870B2 - 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム - Google Patents
対話型ロボット、情報提供サーバ、情報提供方法及びプログラム Download PDFInfo
- Publication number
- JP7621870B2 JP7621870B2 JP2021071187A JP2021071187A JP7621870B2 JP 7621870 B2 JP7621870 B2 JP 7621870B2 JP 2021071187 A JP2021071187 A JP 2021071187A JP 2021071187 A JP2021071187 A JP 2021071187A JP 7621870 B2 JP7621870 B2 JP 7621870B2
- Authority
- JP
- Japan
- Prior art keywords
- label
- user
- image
- target product
- interactive robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
また、購入後のラベルに損傷や劣化があると、正しい洗濯の方法を調べられない問題がある。
このように、洗濯には、依然として解決すべき課題が存在する。
このような課題は、洗濯後の洗濯物の干し方やアイロン掛けについても同様である。
請求項2に記載の発明は、前記ラベルの記述を訂正する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述に基づき前記アドバイスを提供する、請求項1に記載の対話型ロボットである。
請求項3に記載の発明は、前記提供手段は、前記訂正後の記述に関するデータを、ユーザの端末に送信する、請求項2に記載の対話型ロボットである。
請求項4に記載の発明は、前記ラベルの記述の読み取りが困難である場合、前記取得手段は、前記対象製品の全体像の撮像をユーザに求め、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述を取得する、請求項1~3のいずれか1項に記載の対話型ロボットである。
請求項5に記載の発明は、前記提供手段は、検索された前記記述に関するデータ、又は、前記ラベルの画像を、ユーザの端末に送信する、請求項4に記載の対話型ロボットである。
請求項6に記載の発明は、前記対象製品の全体像に関連する前記ラベルの記述が前記第4テーブルに見つからない場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第4テーブルを再検索する、請求項4に記載の対話型ロボットである。
請求項7に記載の発明は、前記対象製品の全体像に関連する前記ラベルの記述の候補が複数見つかった場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、請求項4に記載の対話型ロボットである。
請求項8に記載の発明は、前記対象製品の全体像に関連する前記ラベルの画像が前記第3テーブルに見つからない場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第3テーブルを再検索する、請求項4に記載の対話型ロボットである。
請求項9に記載の発明は、前記対象製品の全体像に関連する前記ラベルの画像が複数見つかった場合、前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、請求項4に記載の対話型ロボットである。
請求項10に記載の発明は、ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバであって、前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、を有し、前記取得手段は、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める、情報提供サーバである。
請求項11に記載の発明は、前記ラベルの記述の訂正に関する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述の情報に基づき前記アドバイスを提供する、請求項10に記載の情報提供サーバである。
請求項12に記載の発明は、前記ラベルの記述の読み取りが困難である場合、前記取得手段は、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述を取得する、請求項10又は11に記載の情報提供サーバである。
請求項13に記載の発明は、ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバにおいて実行される情報提供方法であって、前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルに含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する処理と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する処理と、
対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める処理と、を有する情報提供方法である。
請求項14に記載の発明は、コンピュータに、対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する機能と、少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する機能と、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める機能と、を実現するためのプログラムである。
請求項2記載の発明によれば、販売後に洗濯に関連する記述が公表されている場合には、訂正後の記述に従い洗濯の支援を受けることができる。
請求項3記載の発明によれば、他者との記述の共有が容易になる。
請求項4記載の発明によれば、ラベルの損傷や劣化があっても洗濯の支援を受けることができる。
請求項5記載の発明によれば、他者との記述の共有が容易になる。
請求項6記載の発明によれば、製品全体の全体像に対応する画像に関連するラベルの記述が見つからない場合にも、目的とする記述が発見される可能性を高めることができる。
請求項7記載の発明によれば、ラベルの記述の候補が複数見つかった場合にも、より確からしい記述の絞り込みを可能にできる。
請求項8記載の発明によれば、製品全体の全体像に対応する画像に関連するラベルが見つからない場合にも、目的とする画像が発見される可能性を高めることができる。
請求項9記載の発明によれば、ラベルの画像の候補が複数見つかった場合にも、より確からしいラベルの画像の絞り込みを可能にできる。
請求項10記載の発明によれば、ユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
請求項11記載の発明によれば、販売後に洗濯に関連する記述が公表されている場合には、訂正後の記述に従い洗濯の支援を受けることができる。
請求項12記載の発明によれば、ラベルの損傷や劣化があっても洗濯の支援を受けることができる。
請求項13記載の発明によれば、ユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
請求項14記載の発明によれば、ユーザは指示に従ってラベルを撮像するだけで洗濯の支援を受けることができる。
<実施の形態1>
<システム構成>
図1は、実施の形態1として想定する情報提供システム1の構成例を示す図である。
図1に示す情報提供システム1は、ネットワーク10に接続された対話型ロボット20と、クラウドサーバ30と、対話型ロボット20とブルートゥース(登録商標)で接続されるユーザ端末40とで構成される。
図1に示す対話型ロボット20は、ヒト型のロボットを表している。もっとも、対話型ロボット20の外観形状は、例えば犬や猫などの動物、仮想のキャラクタ、乗り物を模した形状でもよい。また、対話型ロボット20の外観形状は、いわゆるスマートスピーカ等で採用されている筒型の形状や箱型の形状でもよい。
対話型ロボット20は、ユーザの所有でも良いし、レンタルでもよい。レンタルの場合、有償か無償かは問わない。
対話型ロボット20は、クラウドサーバ30との通信を通じ、ユーザとの対話を実現する。
本実施の形態におけるクラウドサーバ30は、対話型ロボット20からテキスト化されたユーザの音声を受信する機能と、受信したテキストデータの意味を自然言語解析する機能と、解析結果に応じたデータ処理を実行する機能と、ユーザに対する応答を生成する機能と、生成された音声データを対話型ロボット20に送信する機能を有している。
本実施の形態におけるクラウドサーバ30は、これらの機能を通じ、洗濯に関連するユーザの作業を支援するサービスを提供する。
本実施の形態におけるサービスは、洗濯の対象製品の画像や対象製品に付属する洗濯表示や組成表示の画像が、ユーザから提供されることを前提とする。
「洗濯に関連するユーザの作業」には、例えば洗濯機に用意されているコースの選択の他、洗濯機の手動による設定、布製品や革製品の手洗いや手入れも含まれる。サービスの対象とするユーザの作業には、洗い、脱水、絞り、乾燥、干し、アイロン、畳み、収納も含まれる。
準備作業には、汚れやすい襟、袖口、ポケット口等の前処理、洗濯ネットの使用、ファスナー、ボタン、フック等を閉じる作業、フードやファーの取り外し等がある。この他、洗濯機に入れる前に服や靴下を裏返す等の作業も準備作業の一例である。
また、本実施の形態におけるユーザの作業には、対象製品の画像やラベルの撮像も含まれる。
ラベルには、全ての分類を印字する必要はなく、扱いに制約がない分類については省略が認められる。
図2は、対話型ロボット20の外観例を説明する図である。図2に示す対話型ロボット20は、2本の手と足を有するヒト型のロボットである。
もっとも、対話型ロボット20が実際に歩行可能である必要はない。ただし、不図示の車輪等により、対話型ロボット20の自走が可能でもよい。
対話型ロボット20には、カメラ21と、再生音のボリュームスイッチ22と、スピーカ23と、マイク24と、録音ボタン25と、再生ボタン26と、ファンクションボタン27が設けられている。
本実施の形態の場合、カメラ21は、対話型ロボット20の右目の位置に設けられている。本実施の形態の場合、カメラ21は、右目の位置に1つ設けているが、左右両目の位置に設けてもよい。この場合、ステレオ撮影が可能になる。
また、本実施の形態の場合、対話型ロボット20がヒト型であるので、カメラ21を目の位置に取り付けているが、その他の位置に取り付けてもよい。例えば鼻の位置、口の位置、胸の位置、お腹の位置にカメラ21を取り付けてもよい。
スピーカ23は、対話型ロボット20の音声の出力に用いられる。
マイク24は、ユーザの音声の取得に用いられる。
録音ボタン25は、音声メッセージの録音に使用される。
再生ボタン26は、音声メッセージの再生に使用される。
ファンクションボタン27は、初期状態において、マイク24のミュートに使用される。ファンクションボタン27には、任意の機能をユーザが割り当てることも可能である。
図3に示す対話型ロボット20は、装置全体を制御する制御ユニット201と、制御ユニット201と通信する複数のデバイスとを有している。
制御ユニット201は、プログラムの実行を通じて各種の機能を実現するCPU201Aと、BIOS等が記憶されるROM201Bと、プログラムの実行領域として使用されるRAM201Cとを有している。
照度センサ203は、対話型ロボット20の筐体内部に配置されている。照度センサ203は、対話型ロボット20が使用される部屋の明るさの検知に使用される。
LED206は、対話型ロボット20の例えば頬の内側に配置され、その発光は筐体を透過して外部から視認される。LED206の発光は、対話型ロボット20の動作の状態や感情の表現に使用される。
この他、対話型ロボット20には、情報の表示に使用するディスプレイを設けてもよい。
図4に示す機能部は、CPU201Aによるプログラムの実行を通じて実現される。図4には、洗濯に関連するユーザの作業の支援に関係する機能部だけを描いている。具体的には、音声認識部211と音声出力部212を描いている。
音声出力部212は、クラウドサーバ30から受信した音声ファイルを復号し、音声として出力する。
図5は、実施の形態1で使用するクラウドサーバ30のハードウェア上の構成例を示す図である。
図5に示すクラウドサーバ30は、装置全体を制御する制御ユニット301と、補助記憶装置としてのハードディスクドライブ(すなわちHDD)302と、通信モジュール303とで構成されている。
本実施の形態の場合、対話型ロボット20から受信したテキストデータを自然言語処理する自然言語処理モジュール302Aも、ハードディスク302に記憶される。もっとも、自然言語処理については、連携する他のサーバ上で実行し、自然言語処理の結果だけを他のサーバから受け取ってもよい。
作業別支援データテーブル302Cは、洗濯に関連するユーザとして想定する作業毎の注意点やアドバイスを記録する。例えば「洗い」であれば、洗いたい物の素材や構造、対象製品の種類等に応じた準備作業のアドバイス、洗濯機のコース洗濯等に関するアドバイス、手洗いに関するアドバイス、洗いに使用する洗濯剤、漂白剤、柔軟剤の種類や分量のアドバイスがある。
本実施の形態の場合、作業別支援データテーブル302Cは、サービスを提供する事業者が用意するが、連携する他の事業者から取得してもよいし、インターネット上に公開された情報を活用してもよい。
対応する全体像とラベル画像の撮像は、対話型ロボット20とユーザとの対話を通じて実行されるので、対応関係の特定が可能である。もっとも、全体像を検索キーに用いてインターネット上の類似画像を検索し、検索された類似画像に関連付けられているラベル画像を取得して登録してもよい。
本実施の形態の場合、全体像⇒ラベル画像テーブル302Eは、ユーザ毎に専用のテーブルとして用意するが、全てのユーザについて共通の全体像⇒ラベル画像テーブル302Eを用意してもよい。
本実施の形態の場合、全体像⇒記述内容テーブル302Fは、ユーザ毎に専用のテーブルとして用意するが、全てのユーザについて共通の全体像⇒記述内容テーブル302Fを用意してもよい。
図6に示す機能部は、CPU301Aによるプログラムの実行を通じて実現される。図6には、洗濯に関連するユーザの作業の支援に関係する機能部だけを描いている。具体的には、進捗管理部311と、文字認識部312と、作業支援部313と、訂正検索部314と、画像検索部315と、AI(=Artificial Intelligence)アシスタント316とを描いている。
作業支援部313は、ユーザから質問があった作業に関する注意点やアドバイスを作業別支援データテーブル302C(図5参照)から抽出し、AIアシスタント316に与える機能部である。
また、乾燥工程について、作業支援部313は、羽毛の偏りを減らす持ち方や干し方等を、対話型ロボット20を通じてアドバイスする。
訂正の情報が存在した場合、訂正検索部314は、訂正データテーブル302D(図5参照)に、ラベル画像に紐づけて訂正後の記述内容や変更点を記録する。同時に、訂正検索部314は、訂正データの存在をAIアシスタント316に与え、対話型ロボット20に対して送信する音声データの文面の変更を実現する。
なお、訂正検索部314は、ユーザがアップロードしたラベル画像とは関係なく、洗濯表示や組成表示の記述の訂正に関する情報を収集し、訂正データテーブル302Dに記録してもよい。
画像検索部315は、最初に、ユーザ別に用意された全体像⇒ラベル画像テーブル302E(図5参照)や全体像⇒記述内容テーブル302F(図5参照)を検索する。検索の対象である全体像やラベル画像は、ユーザが登録済みの可能性が高い。このため、検索の範囲を個々のユーザ毎に用意されたテーブルに限定することで、効率的に目的とするラベル画像や記述内容を抽出することができる。
目的とするラベル画像や記述内容を抽出できない場合には、他のユーザについて用意されたテーブルまで検索の範囲に含めることで、目的とするラベル画像や記述内容が抽出される可能性が高くなり、サービスの質の向上、すなわちユーザの満足度を高めることができる。
AIアシスタント316は、ユーザの発話の内容を学習済みモデル302Gに与えることにより、対話型ロボット20を通じて応答する文面を生成する。
この際、AIアシスタント316は、進捗管理部311で管理されている進捗の工程に応じ、作業支援部313と連携し、対応する工程に応じた注意点やアドバイスを内容に含む文面を生成する。
ただし、ユーザの質問が洗濯表示や組成表示に関する内容の場合において、対象とする洗濯表示や組成表示に訂正データが存在するとき、AIアシスタント316は、訂正の存在と訂正後の内容を文面に含む文面を生成する。
以下では、情報提供システム1で実行される処理動作の例を説明する。
<画像の登録>
図7は、実施の形態1で使用するクラウドサーバ30(図1参照)で実行される対象製品に関する画像の登録動作を説明するフローチャートである。なお、図7では、ステップの意味で記号のSを使用する。
クラウドサーバ30は、サービスを利用するユーザからの発話の中に、洗濯の可能性がある製品の登録に関する内容が含まれるか否かを判定する(ステップ1)。製品の登録に関する内容には、製品の登録や管理の開始を直接求める内容に限らず、購入した製品や貰った製品に関する話題も含まれる。
ステップ1で肯定結果が得られた場合、クラウドサーバ30は、対象製品の全体像の撮像をユーザに要求する(ステップ2)。
なお、ステップ2の実行前に、クラウドサーバ30は、話題になっている対象製品の登録を希望するか否かをユーザに問い合わせてもよい。この問い合わせを実行する場合、対象製品の登録が希望された場合にステップ2を実行し、希望しない場合にはステップ1の判定に戻る。
ラベル画像のアップロードを確認すると、クラウドサーバ30は、取得されたラベル画像から記述内容を取得する(ステップ4)。
次に、クラウドサーバ30は、全体像とラベル画像を紐付けて登録する(ステップ5)。また、クラウドサーバ30は、全体像と記述内容を紐付けて登録する(ステップ6)。
図8は、対象製品の登録に関するユーザと対話型ロボット20の対話例を説明する図である。
図8の場合、ユーザが「ガス太郎、服を買ったよ。」と話し掛けている。このユーザの音声には、「服」、「買った」のキーワードが含まれている。この2つのキーワードより、クラウドサーバ30(図1参照)は、ユーザの発話に、洗濯の可能性がある製品の登録に関する内容が含まれると判定する。
その結果として、対話型ロボット20は「見せてもらってもいいですか?」等と応答する。ここでの応答は、前述したステップ2に対応する。
予め定めた条件を満たす全体像が撮像された場合、対話型ロボット20は、「画像を取得できました。ラベルも見せてもらっていいですか?」等と応答する。ここでの応答は、前述したステップ3に対応する。
やはり、ラベルが見えるように服を広げ、持ち上げた対話型ロボット20をラベルに近づける等してもよい。
予め定めた条件を満たすラベル画像が撮像された場合、対話型ロボット20は、「登録できました」等と応答する。
なお、ラベル画像からの記述内容の取得や取得された記述内容の対応する全体像への紐付けと登録は、クラウドサーバ30が自動で実行する。
図9は、実施の形態1で使用するクラウドサーバ30(図1参照)で実行される洗濯の支援動作を説明するフローチャートである。図9に示す支援動作は、情報提供方法の一例である。
本動作は、AIアシスタント316(図6参照)が、進捗管理部311(図6参照)や作業支援部313(図6参照)等との連携により実行する。
ステップ1で肯定結果が得られた場合、クラウドサーバ30は、ユーザが意図する取扱の内容を特定する(ステップ12)。クラウドサーバ30は、ユーザとの対話を通じて、ユーザが意図する取扱の内容を絞り込む。対話型ロボット20に「洗濯機のコースを知りたいの?」や「手洗いについて知りたい?」等と発話させ、ユーザとの対話を通じて、ユーザが知りたい内容を絞り込む。
特定の製品を想定しない一般的な質問の場合、クラウドサーバ30は、ステップ13で否定結果を得、図9に示す処理を終了する。
一方、特定の製品の取扱が意図されている場合、クラウドサーバ30は、ステップ13で肯定結果を得る。
ラベル画像が撮像済みでない場合、クラウドサーバ30は、ステップ14で否定結果を得る。一方、ラベル画像が撮像済みの場合、クラウドサーバ30は、ステップ14で肯定結果を得る。
ステップ14で否定結果が得られた場合、クラウドサーバ30は、対象製品のラベル画像の撮像をユーザに要求する(ステップ15)。この要求は、対話型ロボット20を通じて、ユーザに伝達される。
次に、クラウドサーバ30は、記述内容の読み取りに成功したか否かを判定する(ステップ17)。
対話型ロボット20から全体像がアップロードされると、クラウドサーバ30は、取得された全体像を使用して検索を実行し、対応する全体像の候補があるか否かを判定する(ステップ20)。本実施の形態の場合、ステップ20における検索は、全体像⇒ラベル画像テーブル302E(図5参照)や全体像⇒記述内容テーブル302F(図5参照)を対象に実行される。
このような事例は、対象製品が登録されていない場合や販売数が少ない製品の場合等で生じる可能性がある。
訂正データが見つかった場合、クラウドサーバ30は、ステップ22で肯定結果を得、訂正された記述内容を用いた対話を継続する(ステップ23)。
一方、訂正データが見つからない場合、クラウドサーバ30は、ステップ22で否定結果を得、ステップ16で読み取った記述内容を用いた対話を継続する(ステップ24)。
<手洗いの場合>
以下では、図10~図12を使用して、手洗いが推奨される場合の対話例を説明する。
図10は、ユーザが洗い方を質問することで開始される対話型ロボット20の対話例を説明する図である。
図10の場合、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図10の場合、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。図10の場合、ラベル画像に対応する訂正データは存在しない。
このアドバイスを聞いたユーザは、「ガス太郎、漂白剤は使っていいんだっけ?」と問い掛けている。この問い掛けは、文脈から、話題の対象である服に関する追加の質問として認識される。同じ服についてのラベル画像は撮像済みであるので、クラウドサーバ30は、読み取り済みのラベル画像から読み取られた記述内容に従ってユーザに応答する。具体的には、対話型ロボット20は、「漂白はだめだよ。分からないことは、いつでも聞いてね。」と応答している。
図11の場合、ユーザは、「ガス太郎、洗濯が終わったんだけど、脱水は?」と質問している。
この場合も、文脈から、進捗を管理している服の洗濯に関連する工程であると認識される。また、ラベル画像は撮像済みであり、クラウドサーバ30で管理されている。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう。」と発声し、対話型ロボット20は「どういたしまして。」と応答している。
図12の場合、ユーザは、「ガス太郎、乾いたけどアイロンのかけ方を教えて?」と質問している。
この場合も、文脈から、進捗を管理している服の洗濯に関連する工程であると認識される。また、ラベル画像は撮像済みであり、クラウドサーバ30で管理されている。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう、やってみる。」と発声し、対話型ロボット20は「分からないことがあったら、いつでも聞いてね。」と応答している。
同様の情報は、スマートフォンやパソコンを通じて調べることも可能であるが、その都度、キーワードや画像を検索キーとしてアップし、多数の検索の結果の中から、望んでいる情報を探し出す手間が発生する。
また、本実施の形態の場合、ユーザは、情報を取得するまでの間、洗濯等の作業を続けることができる。一方、ネット検索で情報を調べる場合には、ネット検索の間、ユーザは洗濯等の作業を中断する必要がある。この点でも、本実施の形態のサービスは優れている。
図13は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。
図13の場合も、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図13の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。図13の場合も、ラベル画像に対応する訂正データは存在しない。
図13のラベルの画像では、洗濯桶の絵と漂白剤の絵にX印が付けられている。一方、クリーニングの絵には「ドライ」、「セキユ系」と記載されている。
このため、対話型ロボット20は、「この服は、家では洗えないよ。ドライクリーニングに出してね。」とアドバイスしている。
このアドバイスを聞いたユーザは、「ガス太郎、ありがとう。」と発声し、対話型ロボット20は「分からないことがあったら、いつでも聞いてね。」と応答している。
図14は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。図14では、ラベルに印字された記述について連絡先が訂正データを公表している場合を想定する。
図14の場合も、ユーザは「ガス太郎、この服の洗い方が分からないんだけど。」と対話型ロボット20に話しかけている。
図14の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
このラベルを撮像したラベル画像は、対話型ロボット20からクラウドサーバ30にアップロードされ、その記述内容が特定される。
そこで、図14における対話型ロボット20は、「この服には洗い方に訂正があったみたいだよ。手洗いはだめだよ。ドライクリーニングに出してね。」とアドバイスしている。
洗い方に訂正があった場合、クリーニングに関する記述に変更がなければ、クリーニング店における洗濯に誤りは生じないが、クリーニングに関する記述についても変更が含まれている場合、そのままクリーニング店に持ち込むと洗浄方法を誤る可能性がある。
なお、この機能がない場合、ユーザは、改めて該当する製品の洗濯の方法を検索し、スマホ等に保存する手間が発生する。
前述までの例は、ラベルの印字が鮮明であることを前提としているが、服を購入等した時点でラベルの印字が不鮮明であることがある。また、使用中に徐々に不鮮明になり、ラベル画像を新たに取り直した場合に記述内容を特定できない場合もある。また、購入後にラベルを切り離すユーザの場合には洗濯表示の確認が困難である。
図15は、ユーザが洗い方を質問することで開始される対話型ロボット20の他の対話例を説明する図である。
図15の場合も、ユーザの音声の内容を確認した対話型ロボット20は、「ラベルを見せてもらっていいですか?」とユーザに問い掛けている。
このため、このラベルを撮像したラベル画像のアップロードを受け付けたクラウドサーバ30は、対話型ロボット20を通じ、「ラベルが汚れてるみたいですね。画像から検索できるか試して見るから、服の全体を見せてもらえる?」と応答している。
服の全体像のクラウドサーバ30へのアップロードが完了すると、対話型ロボット20は、「調べるからちょっと待ってね」と応答している。
この例の場合、クラウドサーバ30は、全体像⇒ラベル画像テーブル302E又は全体像⇒記述内容テーブル302Fを使用し、ラベルの記述内容を特定できている。
そこで、対話型ロボット20は、「分かったよ。この服は、ドライクリーニングに出さないとだめだよ。」と応答している。
この音声を聞いたユーザは、「ガス太郎、助かるわ。」と応えている。
なお、家庭での洗濯が可能である場合、対話型ロボット20は、特定された記述内容を音声によりユーザに通知するとともに、スマホにラベルの画像を送信することで、視覚による確認も可能にする。
このサービスは、既存の技術では実現し得ない。
実施の形態1の場合、洗濯に関連するユーザの作業を支援する機能をクラウドサーバ30(図1参照)上で実現しているが、本実施の形態では、これらの機能を対話型ロボット20(図1参照)に内蔵する。
本実施の形態で使用する対話型ロボット20の場合、外部メモリ202に、自然言語処理モジュール302Aと、洗濯表示テーブル302Bと、作業別支援データテーブル302Cと、訂正データテーブル302Dと、全体像⇒ラベル画像テーブル302Eと、全体像⇒記述内容テーブル302Fと、学習済みモデル302Gが記憶されている。
また、本実施の形態の場合、外部メモリ202に記憶する全体像⇒ラベル画像テーブル302Eと全体像⇒記述内容テーブル302Fは1つでよい。対話型ロボット20は、他のユーザの画像を管理する必要がないためである。
本実施の形態で使用する対話型ロボット20の場合、音声認識部211及び音声出力部212に加え、進捗管理部311、文字認識部312、作業支援部313、訂正検索部314、画像検索部315、AIアシスタント316の各機能も含まれる。
このため、本実施の形態で使用する対話型ロボット20は、単独で、実施の形態1で説明した機能を提供することができる。
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は、前述の実施の形態に記載の範囲に限定されない。前述した実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
このような場合、ユーザに補足情報を要求し、取得された補足情報を用いて再検索を実行してもよい。ユーザへの補足情報の要求は、音声による通話を用いて実行してもよいし、連携するユーザ端末40(図1参照)への情報の入力を促してもよい。
これらの質問に対して例えばユーザが「確か今年の夏に色違いを買ったよ」とか、「メーカはABCよ」とか、「確か取り外しできるベルトが付いてたわ」とか答えると、追加の情報を加えて全体像や同画像に紐付けられているラベルの記述を再検索してもよい。
ユーザの確認を経ることにより、ユーザに提供されるラベルの記述が、対象とする服の情報である可能性を高めることができる。
ただし、記述の内容が異なる候補が複数存在する場合には、ユーザに補足情報を要求し、取得された補足情報を用いて再検索を実行してもよい。この場合も、ユーザへの補足情報の要求は、音声による通話を用いて実行してもよいし、連携するユーザ端末40(図1参照)への情報の入力を促してもよい。
これらの質問に対して例えばユーザが「確か今年の夏に色違いを買ったよ」とか、「メーカはABCよ」とか、「確か取り外しできるベルトが付いてたわ」とか答えると、追加の情報を加えてラベルの画像や同画像に対応する記述を絞り込んでもよい。
ユーザの確認を経ることにより、ユーザに提供されるラベルの記述が、対象とする服の情報である可能性を高めることができる。
Claims (14)
- 対象製品のラベルを撮像した画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、
少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、
を有し、
前記取得手段は、対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める、
対話型ロボット。 - 前記ラベルの記述を訂正する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述に基づき前記アドバイスを提供する、
請求項1に記載の対話型ロボット。 - 前記提供手段は、前記訂正後の記述に関するデータを、ユーザの端末に送信する、
請求項2に記載の対話型ロボット。 - 前記ラベルの記述の読み取りが困難である場合、前記取得手段は、前記対象製品の全体像の撮像をユーザに求め、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述を取得する、
請求項1~3のいずれか1項に記載の対話型ロボット。 - 前記提供手段は、検索された前記記述に関するデータ、又は、前記ラベルの画像を、ユーザの端末に送信する、
請求項4に記載の対話型ロボット。 - 前記対象製品の全体像に関連する前記ラベルの記述が前記第4テーブルに見つからない場合、
前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第4テーブルを再検索する、
請求項4に記載の対話型ロボット。 - 前記対象製品の全体像に関連する前記ラベルの記述の候補が複数見つかった場合、
前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、
請求項4に記載の対話型ロボット。 - 前記対象製品の全体像に関連する前記ラベルの画像が前記第3テーブルに見つからない場合、
前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報と前記対象製品の全体像とを用いて前記第3テーブルを再検索する、
請求項4に記載の対話型ロボット。 - 前記対象製品の全体像に関連する前記ラベルの画像が複数見つかった場合、
前記取得手段は、ユーザから補足情報を取得し、取得された当該補足情報に基づいて候補を絞り込む、
請求項4に記載の対話型ロボット。 - ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバであって、
前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する取得手段と、
少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する提供手段と、
を有し、
前記取得手段は、対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める、
情報提供サーバ。 - 前記ラベルの記述の訂正に関する情報が公開情報の検索により見つかった場合、前記提供手段は、訂正後の記述の情報に基づき前記アドバイスを提供する、
請求項10に記載の情報提供サーバ。 - 前記ラベルの記述の読み取りが困難である場合、前記取得手段は、撮像された全体像による、前記対象製品の全体像と前記ラベルの画像との対応関係を記録する第3テーブル又は全体像と前記ラベルの記述との対応関係を記録する第4テーブルの検索を通じ、前記対象製品に対応する前記ラベルの画像又は前記ラベルの記述を取得する、
請求項10又は11に記載の情報提供サーバ。 - ユーザが使用する対話型ロボットを通じてサービスを提供する情報提供サーバにおいて実行される情報提供方法であって、
前記対話型ロボットを使用するユーザにより撮像された対象製品のラベルに含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する処理と、
少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する処理と、
対話の対象である前記対象製品から取得された前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める処理と、
を有する情報提供方法。 - コンピュータに、
対話型ロボットを使用するユーザにより撮像された対象製品のラベルの画像に含まれるマークを読み取り、読み取った前記マークに対応する意味を、洗濯表示に使用されるマークと対応する意味との関係を記録する第1テーブルから取得する機能と、
少なくとも洗濯に関連する取り扱いの内容と前記マークに対応する意味とこれらに対応するアドバイスとの関係を記録する第2テーブルの参照により、ユーザとの音声による対話を通じて特定されたユーザが意図する取り扱いの内容と前記ラベルの画像から読み取られた前記マークに対応する意味とに応じた前記アドバイスを前記対象製品のユーザによる取り扱いを支援する情報として提供する機能と、
対話の対象である前記対象製品に紐付けられている前記ラベルの画像に含まれる前記マークに対応する前記意味が前記第1テーブルに存在しない場合、前記対象製品の全体像の撮像をユーザに求める機能と、
を実現するためのプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021071187A JP7621870B2 (ja) | 2021-04-20 | 2021-04-20 | 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021071187A JP7621870B2 (ja) | 2021-04-20 | 2021-04-20 | 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022165722A JP2022165722A (ja) | 2022-11-01 |
| JP7621870B2 true JP7621870B2 (ja) | 2025-01-27 |
Family
ID=83851074
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021071187A Active JP7621870B2 (ja) | 2021-04-20 | 2021-04-20 | 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7621870B2 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016103270A (ja) | 2014-11-12 | 2016-06-02 | 株式会社アドバンスト・メディア | 情報処理システム、受付サーバ、情報処理方法及びプログラム |
| JP2017084177A (ja) | 2015-10-29 | 2017-05-18 | シャープ株式会社 | 電子機器およびその制御方法 |
| JP2019086915A (ja) | 2017-11-02 | 2019-06-06 | 株式会社アベイル | Ioタグシステム |
-
2021
- 2021-04-20 JP JP2021071187A patent/JP7621870B2/ja active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016103270A (ja) | 2014-11-12 | 2016-06-02 | 株式会社アドバンスト・メディア | 情報処理システム、受付サーバ、情報処理方法及びプログラム |
| JP2017084177A (ja) | 2015-10-29 | 2017-05-18 | シャープ株式会社 | 電子機器およびその制御方法 |
| JP2019086915A (ja) | 2017-11-02 | 2019-06-06 | 株式会社アベイル | Ioタグシステム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022165722A (ja) | 2022-11-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| RU2768558C1 (ru) | Устройство регистрации одежды и устройство рекомендации одежды, а также онлайновая система, содержащая их | |
| US10943590B2 (en) | Washing machine and control system operating based on voice recognition using artificial intelligence, and method for controlling them | |
| CN105637139A (zh) | 具有语音识别和响应能力的洗衣机和用于操作该洗衣机的方法 | |
| CN109112771A (zh) | 衣物处理装置的控制方法、装置和电子设备 | |
| CN110699909A (zh) | 一种衣物处理系统的控制方法 | |
| CN112481975A (zh) | 衣物的护理方法、装置及衣物护理设备 | |
| CN112359569B (zh) | 衣物护理设备的控制方法及衣物护理设备 | |
| JP7621870B2 (ja) | 対話型ロボット、情報提供サーバ、情報提供方法及びプログラム | |
| WO2019036974A1 (zh) | 一种智能洗涤方法及洗衣机 | |
| CN107151895A (zh) | 一种无操作显示面板的洗衣机及其使用方法 | |
| CN112064311A (zh) | 熨烫设备提醒方法、装置、熨烫设备及存储介质 | |
| KR20240045053A (ko) | 의류 라벨의 이미지를 처리하는 방법, 전자 장치 및 기록매체 | |
| CN112726101A (zh) | 一种信息提示方法、装置、介质及洗衣机 | |
| CN111240213A (zh) | 用于智能家居系统的控制方法 | |
| JP7410735B2 (ja) | 端末装置、機能提案方法、プログラム及びサーバ装置 | |
| CN111945382B (zh) | 用于衣物处理设备的显示界面自定义控制方法 | |
| JP2022033139A (ja) | 衣類処理装置 | |
| US20240112477A1 (en) | Method and electronic device for processing clothing label image, and computer-readable recording medium | |
| CN110004657B (zh) | 用于衣物处理设备的控制方法 | |
| CN116152536A (zh) | 用于引导用户处理衣物的方法、系统、设备及存储介质 | |
| JP6963292B2 (ja) | 布製品識別システム及び布製品識別方法 | |
| CN114687121B (zh) | 洗衣机控制方法、装置、电子设备及计算机程序 | |
| JP3999118B2 (ja) | アイロン掛けシステム | |
| JP7579542B2 (ja) | ランドリーシステムおよびサーバ | |
| CN117518893A (zh) | 挂烫机熨烫控制方法、装置、存储介质及电子装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231121 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240731 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240827 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241024 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250107 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250115 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7621870 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |