Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6699010B2 - Dialogue method, dialogue system, dialogue device, and program - Google Patents
[go: Go Back, main page]

JP6699010B2 - Dialogue method, dialogue system, dialogue device, and program - Google Patents

Dialogue method, dialogue system, dialogue device, and program Download PDF

Info

Publication number
JP6699010B2
JP6699010B2 JP2018518375A JP2018518375A JP6699010B2 JP 6699010 B2 JP6699010 B2 JP 6699010B2 JP 2018518375 A JP2018518375 A JP 2018518375A JP 2018518375 A JP2018518375 A JP 2018518375A JP 6699010 B2 JP6699010 B2 JP 6699010B2
Authority
JP
Japan
Prior art keywords
utterance
dialogue system
dialogue
user
determined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018518375A
Other languages
Japanese (ja)
Other versions
JPWO2017200076A1 (en
Inventor
弘晃 杉山
弘晃 杉山
豊美 目黒
豊美 目黒
淳司 大和
淳司 大和
雄一郎 吉川
雄一郎 吉川
石黒 浩
浩 石黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Osaka NUC
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
Osaka University NUC
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, Osaka University NUC, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Publication of JPWO2017200076A1 publication Critical patent/JPWO2017200076A1/en
Application granted granted Critical
Publication of JP6699010B2 publication Critical patent/JP6699010B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/04Details of speech synthesis systems, e.g. synthesiser structure or memory management
    • G10L13/047Architecture of speech synthesisers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Manipulator (AREA)
  • User Interface Of Digital Computer (AREA)

Description

この発明は、人とコミュニケーションを行うロボットなどに適用可能な、コンピュータが人間と自然言語を用いて対話を行う技術に関する。   The present invention relates to a technique applicable to a robot or the like that communicates with a person, in which a computer interacts with a person using natural language.

近年、人とコミュニケーションを行うロボットの研究開発が進展しており、様々な現場で実用化されてきている。例えば、コミュニケーションセラピーの現場において、ロボットが孤独感を抱える人の話し相手となる利用形態がある。具体的には、老人介護施設においてロボットが入居者の傾聴役となることで、入居者の孤独感を癒す役割を担うことができると共に、ロボットとの会話している姿を見せ、入居者とその家族や介護士など周りの人々との会話のきっかけを作ることができる。また、例えば、コミュニケーション訓練の現場において、ロボットが練習相手となる利用形態がある。具体的には、外国語学習施設においてロボットが外国語学習者の練習相手となることで、外国語学習を効率的に進めることができる。また、例えば、情報提示システムとしての応用において、ロボット同士の対話を聞かせることを基本としながら、時折人に話しかけることで、退屈させずに人を対話に参加させ、人が受け入れやすい形で情報を提示することができる。具体的には、街中の待ち合わせ場所やバス停、駅のホームなどで人が時間を持て余している際や、自宅や教室などで対話に参加する余裕がある際に、ニュースや商品紹介、蘊蓄・知識紹介、教育(例えば、子供の保育・教育、大人への一般教養教授、モラル啓発など)など、効率的な情報提示が期待できる。さらに、例えば、情報収集システムとしての応用において、ロボットが人に話しかけながら情報を収集する利用形態がある。ロボットとのコミュニケーションにより対話感を保持できるため、人に聴取されているという圧迫感を与えずに情報収集することができる。具体的には、個人情報調査や市場調査、商品評価、推薦商品のための趣向調査などに応用することが想定されている。このように人とロボットのコミュニケーションは様々な応用が想定されており、ユーザとより自然に対話を行うロボットの実現が期待される。また、スマートフォンの普及により、LINE(登録商標)のように、複数ユーザでほぼリアルタイムにチャットを行うことにより、人との会話を楽しむサービスも実施されている。このチャットサービスにロボットとの会話の技術を適用すれば、チャット相手がいなくても、ユーザとより自然に対話を行うチャットサービスの実現が可能となる。   In recent years, research and development of robots that communicate with humans have progressed, and have been put to practical use in various fields. For example, in the field of communication therapy, there is a usage pattern in which a robot is a talking partner of a person who has a feeling of loneliness. Specifically, in a nursing home for the elderly, the robot plays a role of listening to the resident so that it can play a role of healing the loneliness of the resident and at the same time show the conversation with the robot and You can create opportunities for conversation with people around you, such as the family and caregivers. Further, for example, there is a usage mode in which a robot is a practicing partner in the field of communication training. Specifically, in a foreign language learning facility, the robot can be a foreign language learner's practice partner, so that the foreign language learning can be efficiently advanced. In addition, for example, in the application as an information presentation system, while basically speaking the dialogue between robots, by occasionally speaking to people, people can participate in the dialogue without getting bored and information can be accepted in a form that is easy for people to accept. Can be presented. Specifically, when people have too much time at a meeting place in the city, at a bus stop, at a platform at a station, or when they can afford to participate in a dialogue at home or in a classroom, news, product introduction, savings, knowledge, etc. Efficient information presentation, such as introduction and education (for example, childcare/education, general education professor for adults, moral enlightenment) can be expected. Furthermore, for example, in an application as an information collecting system, there is a usage form in which a robot collects information while talking to a person. Since it is possible to maintain a sense of dialogue through communication with the robot, it is possible to collect information without giving the sense of pressure that a person is listening. Specifically, it is expected to be applied to personal information research, market research, product evaluation, preference research for recommended products, and the like. In this way, various applications are envisioned for human-robot communication, and it is expected that a robot that more naturally interacts with the user will be realized. In addition, with the spread of smartphones, services such as LINE (registered trademark) that allows a plurality of users to chat in real time to enjoy conversations with people have been implemented. By applying the technology of conversation with a robot to this chat service, it becomes possible to realize a chat service that allows a user to more naturally interact with each other even if there is no chat partner.

本明細書では、これらのサービスで用いられるロボットやチャット相手などのユーザとの対話相手となるハードウェアやユーザとの対話相手となるハードウェアとしてコンピュータを機能させるためのコンピュータソフトウェアなどを総称してエージェントと呼ぶこととする。エージェントは、ユーザとの対話相手となるものであるため、ロボットやチャット相手などのように擬人化されていたり、人格化されていたり、性格や個性を有していたりするものであってもよい。   In this specification, the hardware used as a conversation partner with a user such as a robot or a chat partner used in these services, and computer software for causing a computer to function as hardware to be a conversation partner with a user are collectively referred to. I will call it an agent. Since the agent is a person who interacts with the user, the agent may be an anthropomorphic person, personified, or have a personality or individuality like a robot or a chat partner.

これらのサービスの実現のキーとなるのは、ハードウェアやコンピュータソフトウェアにより実現されるエージェントが人間と自然に対話を行うことができる技術である。   The key to the realization of these services is the technology by which agents implemented by hardware and computer software can naturally interact with humans.

上記のエージェントの一例として、あらかじめ定められたシナリオに沿って特定の話題についてユーザと対話を行うシナリオ対話システムがある。シナリオ対話システムでは、シナリオに沿って対話が展開する限り対話を続けることが可能である。例えば、非特許文献1に記載された対話システムは、ユーザと複数のエージェント間で、エージェントによる割り込みやエージェント同士のやり取りを含めながら対話を行うシステムである。例えば、エージェントは、ユーザに対してシナリオに用意された質問を発話し、質問に対するユーザの回答の発話がシナリオに用意された選択肢に対応する場合にその選択肢に対応する発話を行うように機能する。すなわち、シナリオ対話システムは、システムに予め記憶されたシナリオに基づいた発話をエージェントが行う対話システムである。この対話システムでは、エージェントがユーザに問いかけ、ユーザからの返答を受けた際に、ユーザの発話内容に関わらず「そっか」といった相槌で流したり、エージェントの割り込みで話題を変えたりすることで、ユーザの発話が本来の話題から外れた場合であってもストーリーの破綻をユーザに感じさせないように応答することが可能である。   As an example of the above-mentioned agent, there is a scenario dialogue system that interacts with a user about a specific topic according to a predetermined scenario. In the scenario dialogue system, it is possible to continue the dialogue as long as the dialogue develops according to the scenario. For example, the dialogue system described in Non-Patent Document 1 is a system for dialogue between a user and a plurality of agents, including interruptions by the agents and exchanges between the agents. For example, the agent functions to utter a question prepared in the scenario to the user and, if the utterance of the user's answer to the question corresponds to the option prepared in the scenario, utters the option. .. That is, the scenario dialogue system is a dialogue system in which an agent speaks based on a scenario stored in advance in the system. In this dialogue system, when the agent asks the user and receives a response from the user, he or she can play with a humorous "whispering" regardless of the content of the user's utterance, or change the topic by interrupting the agent, Even if the user's utterance deviates from the original topic, it is possible to respond so that the user does not feel the story collapse.

また、上記のエージェントの一例として、ユーザの発話内容に沿った発話をエージェントが行うことにより、ユーザとエージェントとが自然な対話を行う雑談対話システムがある。例えば、非特許文献2に記載された対話システムは、ユーザとエージェントとの間で行われる複数ターンの対話の中で文脈に特有のものをより重視しながら、ユーザまたはエージェントの発話に含まれる単語をトリガーとして、あらかじめ記述しておいたルールに従ってシステムが発話することで、ユーザとシステムとの間で雑談対話を実現するシステムである。雑談対話システムが用いるルールは、あらかじめ記述したものだけでなく、ユーザの発話内容に基づいて自動的に生成したものであってもよいし、ユーザまたはエージェントによる直前の発話またはその近傍に発話された発話に基づいて自動的に生成したものであってもよいし、ユーザまたはエージェントによる直前の発話またはその近傍に発話された発話を少なくとも含む発話に基づいて自動的に生成したものであってもよい。非特許文献2には、ユーザの発話に含まれる単語と共起関係や係り受け関係にある単語に基づいて、自動的にルールを生成する技術が記載されている。また、例えば、非特許文献3に記載された対話システムは、人手で記述したルールと統計的発話生成手法で記述したルールを融合することで、ルール生成のコストを低減したシステムである。雑談対話システムは、シナリオ対話システムとは異なり、予め用意されたシナリオに沿った発話をエージェントが行うものではないため、ユーザの発話によっては、エージェントの発話がユーザの発話に対応しないものとなってしまうという事態は生じずに、少なくともユーザの発話内容、もしくはユーザまたはエージェントによる直前の発話またはその近傍に発話された発話、もしくはユーザまたはエージェントによる直前の発話またはその近傍に発話された発話を少なくとも含む発話に基づいた発話をエージェントが行うことが可能である。すなわち、雑談対話システムは、少なくともユーザの発話内容、もしくはユーザまたはエージェントによる直前の発話またはその近傍に発話された発話、もしくはユーザまたはエージェントによる直前の発話またはその近傍に発話された発話を少なくとも含む発話に基づいた発話をエージェントが行う対話システムである。これらの雑談対話システムでは、ユーザの発話に対して明示的に応答することが可能である。   In addition, as an example of the above-mentioned agent, there is a chat dialogue system in which the user and the agent have a natural dialogue when the agent speaks according to the content of the user's speech. For example, in the dialogue system described in Non-Patent Document 2, words included in the utterance of the user or the agent are more emphasized in a multi-turn dialogue performed between the user and the agent while giving more importance to the one specific to the context. It is a system that realizes chat conversation between the user and the system by using the trigger as a trigger and the system speaks according to the rules described in advance. The rules used by the chat dialogue system are not limited to those described in advance, but may be automatically generated based on the content of the user's utterance, or the user's or agent's last utterance or its utterance It may be automatically generated based on the utterance, or may be automatically generated based on the utterance including at least the utterance immediately before the user or the agent or the utterance uttered in the vicinity thereof. . Non-Patent Document 2 describes a technique of automatically generating a rule based on a word having a cooccurrence relationship or a dependency relationship with a word included in a user's utterance. Further, for example, the dialogue system described in Non-Patent Document 3 is a system in which the rule generation cost is reduced by fusing the rules manually described and the rules described by the statistical utterance generation method. Unlike the scenario dialogue system, the chat dialogue system does not allow the agent to speak in accordance with a prepared scenario. Therefore, depending on the user's speech, the agent's speech may not correspond to the user's speech. At least the content of the user's utterance, or the utterance of the user's or agent's last utterance or its vicinity, or the user's or agent's last utterance or its vicinity Agents can make utterances based on utterances. That is, the chat dialogue system includes at least the utterance content of the user, the utterance immediately before or by the user or the agent, or the utterance including at least the last utterance by the user or agent or the utterance near the utterance. It is a dialogue system in which an agent speaks based on. In these chat dialogue systems, it is possible to explicitly respond to the user's utterance.

有本庸浩,吉川雄一郎,石黒浩,“複数体のロボットによる音声認識なし対話の印象評価”,日本ロボット学会学術講演会,2016年Norihiro Arimoto, Yuichiro Yoshikawa, Hiroshi Ishiguro, “Impression Evaluation of Dialogue without Speech Recognition by Multiple Robots”, Academic Conference of the Robotics Society of Japan, 2016 杉山弘晃,目黒豊美,東中竜一郎,南泰浩,“任意の話題を持つユーザ発話に対する係り受けと用例を利用した応答文の生成”,人工知能学会論文誌,vol.30(1),pp. 183-194,2015年Hiroaki Sugiyama, Toyomi Meguro, Ryuichiro Higashinaka, Yasuhiro Minami, “Dependency on User Utterance with Arbitrary Topic and Generation of Response Sentence Using Examples”, Journal of Japan Society for Artificial Intelligence, vol.30(1), pp. 183-194, 2015 目黒豊美,杉山弘晃,東中竜一郎,南泰浩,“ルールベース発話生成と統計的発話生成の融合に基づく対話システムの構築”,人工知能学会全国大会論文集,vol. 28,pp. 1-4,2014年Toyomi Meguro, Hiroaki Sugiyama, Ryuichiro Higashinaka, Yasuhiro Minami, “Construction of a dialogue system based on fusion of rule-based utterance generation and statistical utterance generation”, Proceedings of the Annual Conference of the Japan Society for Artificial Intelligence, vol. 28, pp. 1-4 ,2014

従来の雑談対話システムでは、基本的に一問一答であるため一貫したストーリーで対話を続けることができない。従来のシナリオ対話システムでは、ユーザの発話がシナリオで想定した範囲外であると応答できない場合がある。また、非特許文献1の対話システムでは、ユーザは自分の発話が流されてばかりいると感じてしまうおそれがある。   In the conventional chat dialogue system, since it is basically one question and one answer, it is not possible to continue the dialogue in a consistent story. In the conventional scenario dialogue system, if the user's utterance is outside the range assumed in the scenario, it may not be possible to respond. Further, in the dialogue system of Non-Patent Document 1, the user may feel that his/her utterance is being swept.

この発明の目的は、上述のような点に鑑みて、ユーザの発話に対する応答感を向上し、かつ、対話を長く続けることができる対話技術を提供することである。   In view of the above points, an object of the present invention is to provide a dialogue technique capable of improving the responsiveness to a user's utterance and continuing the dialogue for a long time.

上記の課題を解決するために、この発明の第一の態様の対話方法は、予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、提示部が、オープン発話を提示する第一提示ステップと、入力部が、オープン発話に対するユーザの発話を受け付ける発話受付ステップと、提示部が、ユーザの発話に基づいて第二の対話システムが決定した発話を提示する第二提示ステップと、提示部が、第一の対話システムが決定した発話を第二提示ステップの後に提示する第三提示ステップと、を含む。   In order to solve the above-mentioned problems, a dialogue method according to a first aspect of the present invention is referred to as a first dialogue system, which is a dialogue system for determining a utterance based on a pre-stored scenario. When the dialogue system that determines the utterance based on the utterance is referred to as a second dialogue system, the presentation unit presents a first presentation step of presenting an open utterance, and the input unit accepts the user's utterance for the open utterance. And a second presentation step in which the presentation unit presents the utterance determined by the second dialogue system based on the utterance of the user, and the presentation unit presents the utterance decided by the first dialogue system after the second presentation step. And a third presenting step of presenting.

この発明の第二の態様の対話システムは、予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、オープン発話を決定し、オープン発話後にオープン発話に対するユーザの発話に基づいて第二の対話システムにより発話を決定し、第二の対話システムにより決定した発話後に第一の対話システムにより発話を決定する発話決定部と、オープン発話に対するユーザの発話を受け付ける入力部と、発話決定部が決定したオープン発話を提示し、発話決定部が第二の対話システムにより決定した発話をユーザの発話の後に提示し、発話決定部が第一の対話システムにより決定した発話を第二の対話システムが決定した発話の後に提示する提示部と、を含む。   A dialogue system according to a second aspect of the present invention is a dialogue system that determines an utterance based on a pre-stored scenario is referred to as a first dialogue system, and a dialogue system that determines an utterance based on at least a utterance content of a user. When called the second dialogue system, open utterance is decided, after the open utterance, the utterance is decided by the second dialogue system based on the user's utterance for the open utterance, and after the utterance decided by the second dialogue system. The utterance determining unit that determines the utterance by the first dialogue system, the input unit that receives the utterance of the user for the open utterance, the open utterance determined by the utterance determining unit, and the utterance determining unit determines the second utterance by the second dialogue system. The presenting utterance is presented after the user's utterance, and the utterance determining unit presents the utterance determined by the first dialogue system after the utterance determined by the second dialogue system.

この発明の第三の態様の対話装置は、ユーザの発話を受け付ける入力部と、発話を提示する提示部とを少なくとも含む対話システムが提示する発話を決定する対話装置であって、予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、オープン発話を決定し、オープン発話後にオープン発話に対するユーザの発話に基づいて第二の対話システムにより発話を決定し、第二の対話システムにより決定した発話後に第一の対話システムにより発話を決定する発話決定部を含む。   A dialog device according to a third aspect of the present invention is a dialog device that determines an utterance presented by an interactive system including at least an input unit that receives an utterance of a user and a presentation unit that presents the utterance, and is stored in advance. The dialogue system that determines the utterance based on the scenario is called the first dialogue system, and the dialogue system that determines the utterance based on at least the utterance content of the user is called the second dialogue system. A utterance determination unit that determines an utterance by the second dialogue system based on the user's utterance with respect to the open utterance after the open utterance, and determines the utterance by the first dialogue system after the utterance decided by the second dialogue system.

この発明によれば、ユーザの発話に対しては少なくともユーザの発話内容に基づいた発話を行う対話システムにより適切な応答ができ、その後は予め記憶されたシナリオに基づいた発話を行う対話システムが決定した発話をできるため、ユーザに対してストーリーを感じさせつつ高い応答感を与えることができ、かつ、ユーザとの間で対話を長く続けることが可能な対話システム、対話装置を実現することが可能となる。   According to this invention, an appropriate response can be made to a user's utterance by at least a dialogue system based on the contents of the user's utterance, and thereafter, a dialogue system based on a scenario stored in advance is determined. It is possible to realize a dialogue system and a dialogue device that can give a high responsiveness to a user while giving them a sense of story, and can continue a dialogue with the user for a long time because the user can make a utterance. Becomes

図1は、第一実施形態の人型ロボットによる対話システムの機能構成を例示する図である。FIG. 1 is a diagram illustrating a functional configuration of a dialogue system using a humanoid robot according to the first embodiment. 図2は、第一実施形態の対話方法の処理手続きを例示する図である。FIG. 2 is a diagram illustrating a processing procedure of the interaction method according to the first embodiment. 図3は、第二実施形態の人型ロボットによる対話システムの機能構成を例示する図である。FIG. 3 is a diagram illustrating a functional configuration of a dialogue system using a humanoid robot according to the second embodiment. 図4は、第二実施形態の対話方法の処理手続きを例示する図である。FIG. 4 is a diagram illustrating a processing procedure of the dialogue method of the second embodiment. 図5は、第一実施形態のグループチャットによる対話システムの機能構成を例示する図である。FIG. 5 is a diagram exemplifying a functional configuration of a dialogue system using group chat according to the first embodiment.

以下、この発明の実施の形態について詳細に説明する。なお、図面中において同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。   Hereinafter, embodiments of the present invention will be described in detail. In the drawings, components having the same function are designated by the same reference numeral, and duplicate description will be omitted.

<第一実施形態>
第一実施形態の対話システムは、複数台の人型ロボットが協調してユーザとの対話を行うシステムである。すなわち、第一実施形態の対話システムは、エージェントが人型ロボットである場合の一例である。対話システム10は、図1に示すように、入力部1、音声認識部2、発話決定部3、音声合成部4、および提示部5を備える。この対話システム10が後述する各ステップの処理を行うことにより第一実施形態の対話方法が実現される。なお、図1に示すように、対話システム10の音声認識部2、発話決定部3、音声合成部4による部分を第一実施形態の対話装置11とする。発話決定部3は、外部に存在する雑談対話システム6およびシナリオ対話システム7と通信可能なインターフェースを備える。雑談対話システム6およびシナリオ対話システム7は同様の機能を持つ処理部として対話装置11内に構成しても構わない。なお、雑談対話システム6は少なくともユーザの発話内容に基づいた発話をエージェントが行う対話システムの一例であり、シナリオ対話システム7は予め記憶されたシナリオに基づいた発話をエージェントが行う対話システムの一例である。
<First embodiment>
The dialogue system of the first embodiment is a system in which a plurality of humanoid robots cooperate with each other to have a dialogue with a user. That is, the dialogue system of the first embodiment is an example in which the agent is a humanoid robot. As shown in FIG. 1, the dialogue system 10 includes an input unit 1, a voice recognition unit 2, a speech determination unit 3, a voice synthesis unit 4, and a presentation unit 5. The dialogue method of the first embodiment is realized by the dialogue system 10 performing the processing of each step described later. Note that, as shown in FIG. 1, a portion including the voice recognition unit 2, the speech determination unit 3, and the voice synthesis unit 4 of the dialogue system 10 is the dialogue device 11 of the first embodiment. The speech determination unit 3 includes an interface capable of communicating with the chat dialogue system 6 and the scenario dialogue system 7 existing outside. The chat dialogue system 6 and the scenario dialogue system 7 may be configured in the dialogue device 11 as processing units having similar functions. Note that the chat dialogue system 6 is an example of a dialogue system in which the agent utters at least based on the utterance content of the user, and the scenario dialogue system 7 is an example of a dialogue system in which the agent utters based on a scenario stored in advance. is there.

本形態の対話システム10は、応答感を向上するために、オープン発話に対するユーザの発話に基づいて雑談対話システム6が決定した発話を提示し、続いて、シナリオ対話システム7が決定した発話を雑談対話システム6が決定した発話の後に提示する。雑談対話システム6は少なくともユーザの発話内容に基づいて発話を決定するため、ユーザの発話に対して明示的に返答することができる。そのため、例えば「そっか」など単に相槌を打つ場合と比較して、自分の発言が流されてばかりいるような感覚をユーザへ与えてしまうことを回避することができる。これにより、ユーザに対して対話システム10が真面目に対応してくれている印象を与えることができ、その後に続くシナリオ対話においても長く対話を続けることが可能となる。   In order to improve the responsiveness, the dialogue system 10 of the present embodiment presents the utterance determined by the chat dialogue system 6 based on the user's utterance with respect to the open utterance, and then the utterance decided by the scenario dialogue system 7 is chatted. It is presented after the utterance determined by the dialogue system 6. Since the chat dialogue system 6 determines the utterance based on at least the content of the utterance of the user, it is possible to explicitly reply to the utterance of the user. Therefore, it is possible to avoid giving the user a feeling that his or her own utterance is being swept, as compared with the case of simply hitting a hammer such as "Soka". As a result, it is possible to give the user the impression that the dialogue system 10 is seriously responding, and it is possible to continue the dialogue for a long time even in the subsequent scenario dialogue.

対話装置11は、例えば、中央演算処理装置(CPU: Central Processing Unit)、主記憶装置(RAM: Random Access Memory)などを有する公知又は専用のコンピュータに特別なプログラムが読み込まれて構成された特別な装置である。対話装置11は、例えば、中央演算処理装置の制御のもとで各処理を実行する。対話装置11に入力されたデータや各処理で得られたデータは、例えば、主記憶装置に格納され、主記憶装置に格納されたデータは必要に応じて読み出されて他の処理に利用される。また、対話装置11の各処理部の少なくとも一部が集積回路等のハードウェアによって構成されていてもよい。   The dialogue device 11 is a special program configured by reading a special program into a known or dedicated computer having, for example, a central processing unit (CPU) or a main storage device (RAM: Random Access Memory). It is a device. The dialogue device 11 executes each process under the control of the central processing unit, for example. The data input to the dialogue device 11 and the data obtained in each process are stored in, for example, the main storage device, and the data stored in the main storage device is read out as needed and used for other processes. It Further, at least a part of each processing unit of the dialog device 11 may be configured by hardware such as an integrated circuit.

入力部1は、ユーザの発話を対話システム10が取得するためのインターフェースである。言い換えれば、入力部1は、ユーザが発話を対話システム10へ入力するためのインターフェースである。例えば、入力部1はユーザの発話音声を収音して音声信号とするマイクロホンである。入力部1は、収音したユーザの発話音声の音声信号を、音声認識部2へ入力する。   The input unit 1 is an interface for the dialogue system 10 to acquire a user's utterance. In other words, the input unit 1 is an interface for the user to input an utterance into the dialogue system 10. For example, the input unit 1 is a microphone that picks up a user's uttered voice to generate a voice signal. The input unit 1 inputs the collected voice signal of the uttered voice of the user to the voice recognition unit 2.

音声認識部2は、入力部1が収音したユーザの発話音声の音声信号をユーザの発話内容を表すテキストに変換する。音声認識部2は、ユーザの発話内容を表すテキストを、発話決定部3へ入力する。音声認識の方法は既存のいかなる音声認識技術を用いてもよく、利用環境等に合わせて最適なものを適宜選択すればよい。   The voice recognition unit 2 converts the voice signal of the user's uttered voice picked up by the input unit 1 into text representing the utterance content of the user. The voice recognition unit 2 inputs text representing the user's utterance content to the utterance determination unit 3. As a voice recognition method, any existing voice recognition technique may be used, and an optimum one may be appropriately selected according to a usage environment and the like.

発話決定部3は、雑談対話システム6またはシナリオ対話システム7と通信し、入力されたテキストに基づいてユーザの発話に対する対話システム10からの発話内容を表すテキストを決定する。発話決定部3は、決定した発話内容を表すテキストを、音声合成部4へ入力する。   The utterance determination unit 3 communicates with the chat dialogue system 6 or the scenario dialogue system 7, and determines the text representing the utterance content from the dialogue system 10 with respect to the utterance of the user based on the input text. The utterance determination unit 3 inputs the text representing the determined utterance content to the voice synthesis unit 4.

音声合成部4は、発話決定部3が決定した発話内容を表すテキストを、発話内容を表す音声信号に変換する。音声合成部4は、発話内容を表す音声信号を、提示部5へ入力する。音声合成の方法は既存のいかなる音声合成技術を用いてもよく、利用環境等に合わせて最適なものを適宜選択すればよい。   The voice synthesis unit 4 converts the text representing the utterance content determined by the utterance determination unit 3 into a voice signal representing the utterance content. The voice synthesizing unit 4 inputs the voice signal representing the utterance content to the presenting unit 5. Any existing voice synthesizing technique may be used as a voice synthesizing method, and an optimum one may be appropriately selected in accordance with a use environment or the like.

提示部5は、発話決定部3が決定した発話内容をユーザへ提示するためのインターフェースである。例えば、提示部5は、人間の形を模して製作された人型ロボットである。この人型ロボットは、発話決定部3が決定した発話内容を表すテキストを音声合成部4が音声信号に変換した発話内容を表す音声信号を、例えば頭部に搭載したスピーカから発音する、すなわち、発話を提示する。提示部5を人型ロボットとした場合には、対話に参加する人格ごとに一台の人型ロボットを用意する。以下では、二人の人格が対話に参加する例として、二台の人型ロボット5−1および5−2が存在するものとする。   The presentation unit 5 is an interface for presenting the utterance content determined by the utterance determination unit 3 to the user. For example, the presentation unit 5 is a humanoid robot that imitates the shape of a human. In this humanoid robot, for example, a voice signal representing the utterance content obtained by converting the text representing the utterance content determined by the utterance determining unit 3 into a voice signal by the voice synthesizing unit 4 is output from a speaker mounted on the head, that is, Present the utterance. When the presentation unit 5 is a humanoid robot, one humanoid robot is prepared for each personality participating in the dialogue. In the following, it is assumed that two humanoid robots 5-1 and 5-2 exist as an example in which the two personalities participate in the dialogue.

入力部1は提示部5と一体として構成してもよい。例えば、提示部5を人型ロボットとした場合、人型ロボットの頭部にマイクロホンを搭載し、入力部1として利用することも可能である。   The input unit 1 may be integrated with the presentation unit 5. For example, when the presentation unit 5 is a humanoid robot, it is possible to mount a microphone on the head of the humanoid robot and use it as the input unit 1.

以下、図2を参照して、第一実施形態の対話方法の処理手続きを説明する。   Hereinafter, the processing procedure of the dialogue method according to the first embodiment will be described with reference to FIG.

ステップS11において、人型ロボット5−1または5−2は、シナリオ対話システム7または雑談対話システム6が、選択したオープン発話の内容を表す音声をスピーカから出力する。オープン発話とは、相手が自由に応答できる発話であり、少なくともオープン質問とオープンコメントの何れかを含む発話である。オープン質問とは、いわゆる5W1H(いつ(When)、どこで(Where)、だれが(Who)、なにを(What)、なぜ(Why)、どのように(How))のように、相手が自由に回答できる質問である。オープン質問の逆に、例えば「Yes / No」や「A or B or C」のように回答範囲が限定される質問は、クローズ質問と呼ばれる。オープンコメントとは、話題に対するとりとめのない感想など、特に答えを求めない発言であり、すなわち相手が自由に発言できる発話である。オープン発話の内容を表すテキストは発話決定部3の要求に応じてシナリオ対話システム7が選択したシナリオに沿って決定される。シナリオ対話システム7は、あらかじめ用意された複数のシナリオからランダムにシナリオを選択してもよいし、直前までの対話内容に基づいてあらかじめ定めたルールに従ってシナリオを選択してもよい。直前までの対話内容に基づいてシナリオを選択する方法としては、例えば、直前の5発話程度を含む対話について、各発話に含まれる単語や各発話を構成する焦点語と各シナリオに含まれる単語や焦点語との単語間距離が所定の距離より近いシナリオを選択する方法が挙げられる。   In step S11, the humanoid robot 5-1 or 5-2 outputs a voice representing the content of the open utterance selected by the scenario dialogue system 7 or the chat dialogue system 6 from the speaker. The open utterance is an utterance that the other party can freely respond to, and is an utterance including at least one of an open question and an open comment. The open question is the so-called 5W1H (When, Where, Who, Who, What, Why, How) Is a question that can be answered. Contrary to open questions, questions with a limited range of answers, such as "Yes/No" and "A or B or C", are called closed questions. An open comment is a comment that does not require an answer, such as a rambling impression on a topic, that is, an utterance that the other party can freely comment. The text representing the content of the open utterance is determined according to the scenario selected by the scenario dialogue system 7 in response to a request from the utterance determination unit 3. The scenario dialogue system 7 may randomly select a scenario from a plurality of prepared scenarios, or may select a scenario according to a predetermined rule based on the dialogue contents up to immediately before. As a method of selecting a scenario based on the contents of the dialogue up to immediately before, for example, for a dialogue including the last five utterances, words included in each utterance, focus words forming each utterance, words included in each scenario, There is a method of selecting a scenario in which the distance between words and the focus word is shorter than a predetermined distance.

ステップS12において、マイクロホン1は、オープン発話に対するユーザの発話を受け付ける。音声認識部2は、マイクロホン1が収音したユーザの発話音声の音声信号を音声認識し、音声認識結果として得られたテキストをユーザの発話内容を表すテキストとして発話決定部3へ入力する。   In step S12, the microphone 1 receives the user's utterance for the open utterance. The voice recognition unit 2 performs voice recognition on the voice signal of the user's uttered voice picked up by the microphone 1, and inputs the text obtained as the voice recognition result to the utterance determination unit 3 as the text indicating the utterance content of the user.

ステップS13において、人型ロボット5−1は、ユーザの発話内容を表すテキストに基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力する。雑談発話の内容を表すテキストは、発話決定部3がユーザの発話の音声認識結果であるユーザの発話内容を表すテキストに基づいて、雑談対話システム6を用いて決定する。雑談発話の内容を表す音声を出力する人型ロボットは、オープン発話の内容を表す音声を出力した人型ロボットであってもよいし、オープン発話の内容を表す音声を出力した人型ロボットとは異なる人型ロボットであってもよい。   In step S13, the humanoid robot 5-1 outputs a voice representing the content of the chat utterance determined by the chat dialogue system 6 based on the text representing the utterance content of the user from the speaker. The text indicating the content of the chat utterance is determined by the utterance determining unit 3 using the chat dialogue system 6 based on the text indicating the utterance content of the user, which is the voice recognition result of the utterance of the user. The humanoid robot that outputs the voice that indicates the content of the chat utterance may be a humanoid robot that outputs the voice that indicates the content of the open utterance, or the humanoid robot that outputs the voice that indicates the content of the open utterance. It may be a different humanoid robot.

ステップS14において、人型ロボット5−2は、シナリオ対話システム7が決定したシナリオ発話の内容を表す音声をスピーカから出力する。ステップS14は、ステップS13の後に行われる。すなわち、対話システムは、ユーザの発話に基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力した後に、シナリオ対話システム7が決定したシナリオ発話の内容を表す音声をスピーカから出力する。シナリオ発話の内容を表すテキストは、発話決定部3の要求に応じてシナリオ対話システム7が選択したシナリオに沿って、発話決定部3が決定する。シナリオ発話の内容を表す音声を出力する人型ロボットは、オープン発話の内容を表す音声を出力した人型ロボットであってもよいし、オープン発話の内容を表す音声を出力した人型ロボットとは異なる人型ロボットであってもよい。以降は、例えば、シナリオに沿った対話がユーザと対話システムとの間で実行されるように、対話システムは、シナリオ対話システム7が決定したシナリオ発話の発話内容を表す音声をスピーカから出力する。以降の発話を行う人型ロボットは、何れか1つの人型ロボットであっても複数の人型ロボットであってもよい。   In step S14, the humanoid robot 5-2 outputs a voice representing the content of the scenario utterance determined by the scenario dialogue system 7 from the speaker. Step S14 is performed after step S13. That is, the dialogue system outputs a voice indicating the content of the chat utterance determined by the chat dialogue system 6 based on the utterance of the user from the speaker, and then outputs a voice indicating the content of the scenario utterance determined by the scenario dialogue system 7 from the speaker. Output. The text representing the content of the scenario utterance is determined by the utterance determining unit 3 according to the scenario selected by the scenario dialogue system 7 in response to a request from the utterance determining unit 3. The humanoid robot that outputs the voice that indicates the content of the scenario utterance may be a humanoid robot that outputs the voice that indicates the content of the open utterance, or the humanoid robot that outputs the voice that indicates the content of the open utterance. It may be a different humanoid robot. After that, for example, the dialogue system outputs a voice representing the utterance content of the scenario utterance determined by the scenario dialogue system 7 from the speaker so that the dialogue according to the scenario is executed between the user and the dialogue system. The humanoid robot performing the following utterances may be any one humanoid robot or a plurality of humanoid robots.

以下、第一実施形態の対話内容の具体例を示す。ここで、Rは人型ロボットを表し、Hはユーザを表す。Rの後の括弧内における数字は人型ロボットの識別子である。「R(1→H)」は人型ロボット5−1がユーザへ話しかける意図で発話していることを表し、「R(1→2)」は人型ロボット5−1が人型ロボット5−2へ話しかける意図で発話していることを表す。なお、人型ロボットが誰に話かける意図であるかは、例えば、人型ロボットの頭部や視線の動きにより表出するようにしてもよいが、表出しないでもよい。   Hereinafter, a specific example of the dialogue content of the first embodiment will be shown. Here, R represents a humanoid robot, and H represents a user. The number in parentheses after R is the humanoid robot identifier. “R(1→H)” indicates that the humanoid robot 5-1 speaks with the intention of speaking to the user, and “R(1→2)” indicates that the humanoid robot 5-1 is the humanoid robot 5-. Indicates that you are speaking with the intention of speaking to 2. It should be noted that the intention of the humanoid robot to talk to may be expressed by, for example, the movement of the head or the line of sight of the humanoid robot, but may not be expressed.

R(1→H):「食べ物だったら何が好き?」(※2)
H:「ラーメンが好き!」
R(1→H):「豚骨がいいよね。」(※1)
R(2→1):「僕たちロボットだから、何も食べられないんだけどね。」(※2)
R(1→2):「それはしょうがないよ。」(※2)
R(2→1):「そっか。」(※2)
R (1 → H): "What do you like about food?" (*2)
H: "I like ramen!"
R (1 → H): "I like pork bones." (*1)
R(2→1): “Because we are robots, we can't eat anything.” (*2)
R(1→2): “It can't be helped.” (*2)
R (2→1): “Soroka.” (*2)

ここで、※1は雑談対話システム6により決定された発話内容である。※2はシナリオ対話システム7により決定された発話内容である。なお、※1以降の人型ロボットの発話は、発話する人型ロボットが逆でもよいし、話しかける相手が人間でも他の人型ロボットでも人間と他の人型ロボットの両方でもよい。   Here, *1 is the utterance content determined by the chat dialogue system 6. *2 is the utterance content determined by the scenario dialogue system 7. In addition, the utterance of the humanoid robot after *1 may be reversed from the uttering humanoid robot, or the person talking to may be a human being, another humanoid robot, or both a human being and another humanoid robot.

上記のように構成することにより、本形態の対話技術によれば、オープン発話に対するユーザの発話がシナリオの想定外であっても、雑談対話システムによりユーザの発話にふさわしい応答をすることができるため、ユーザが感じる応答感が向上する。これにより、ユーザはシステムとの対話を継続する意欲をかき立てられ、対話を長く続けることができるようになる。   With the above configuration, according to the dialogue technology of the present embodiment, even if the user's utterance to the open utterance is outside the scenario, the chat dialogue system can provide a response suitable for the user's utterance. , The responsiveness felt by the user is improved. This motivates the user to continue the dialogue with the system and allows the dialogue to be continued for a long time.

<第一実施形態の変形例1>
第一実施形態では、ステップS11においてシナリオ対話システム7が選択したオープン発話をスピーカから出力する例を説明したが、ステップS11においてスピーカから出力するオープン発話はどのように生成されたものでもよい。
<Modification 1 of the first embodiment>
In the first embodiment, an example has been described in which the open utterance selected by the scenario dialogue system 7 is output from the speaker in step S11, but the open utterance output from the speaker in step S11 may be generated in any way.

例えば、ステップS11の前に行われたユーザの発話を入力部1が収音して音声信号とし、音声認識部2がユーザの発話内容を表すテキストを得て、発話決定部3がユーザの発話内容を表すテキストに少なくとも基づいて雑談対話システム6によってオープン発話の発話内容を表すテキストを決定し、雑談対話システム6が決定したオープン発話の発話内容を表す音声信号をスピーカから出力するようにしてもよい。   For example, the input unit 1 picks up the user's utterance performed before step S11 as a voice signal, the voice recognition unit 2 obtains text representing the user's utterance content, and the utterance determination unit 3 utters the user's utterance. Even if the chat dialogue system 6 determines the text indicating the utterance content of the open utterance based on at least the text indicating the content and the voice signal indicating the utterance content of the open utterance determined by the chat dialogue dialog system 6 is output from the speaker. Good.

<第一実施形態の変形例2>
第一実施形態では、ステップS13においてユーザの発話に基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力する例、すなわち、ステップS13において雑談対話システム6が決定した1つの雑談発話の内容を表す音声をスピーカから出力する例を説明したが、ステップS13において雑談対話システム6が決定した複数の雑談発話の内容を表す音声をスピーカから出力してもよい。
<Modification 2 of the first embodiment>
In the first embodiment, an example in which a voice indicating the content of the chat conversation utterance determined by the chat dialogue system 6 based on the user's utterance in step S13 is output from the speaker, that is, one chat conversation system 6 determined in step S13 is output. Although the example of outputting the voice indicating the content of the chat utterance from the speaker has been described, the voice indicating the content of the plurality of chat utterances determined by the chat dialogue system 6 in step S13 may be output from the speaker.

例えば、ステップS13において、まず、人型ロボット5−1が、ユーザの発話に基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力し、次に、人型ロボット5−2が、スピーカから出力した人型ロボット5−1の発話に基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力するようにしてもよい。   For example, in step S13, first, the humanoid robot 5-1 outputs a voice representing the content of the chat utterance determined by the chat dialogue system 6 based on the utterance of the user from the speaker, and then, the humanoid robot 5-. 2 may output from the speaker a voice representing the content of the chat utterance determined by the chat dialogue system 6 based on the utterance of the humanoid robot 5-1 output from the speaker.

<第一実施形態の変形例3>
第一実施形態の対話システム10は、複数台の人型ロボットが協調してユーザとの対話を行うシステムであったが、ユーザとの対話の全てまたは一部を1台の人型ロボットが行うシステムであってもよい。例えば、ステップS11のオープン発話、ステップS13のユーザの発話に基づいて雑談対話システム6が決定した雑談発話、およびステップS14のシナリオ対話システム7が決定したシナリオ発話を同じ1台の人型ロボットが行うようにしてもよい。この場合は、例えば、ステップS14以降のユーザとの対話は、複数台の人型ロボットで協調して行ってもよいし、ステップS14までと同じ1台の人型ロボットが行ってもよい。
<Modification 3 of the first embodiment>
Although the dialogue system 10 of the first embodiment is a system in which a plurality of humanoid robots collaborate to have a dialogue with the user, one humanoid robot performs all or part of the dialogue with the user. It may be a system. For example, the same single humanoid robot performs the open utterance in step S11, the chat utterance determined by the chat dialogue system 6 based on the user utterance in step S13, and the scenario utterance determined by the scenario dialogue system 7 in step S14. You may do it. In this case, for example, the interaction with the user after step S14 may be performed in cooperation with a plurality of humanoid robots, or may be performed by the same one humanoid robot up to step S14.

<第二実施形態>
第二実施形態では、ユーザの話題への参加感を向上するために、シナリオ対話から雑談対話に移行し、その後、雑談対話から再度シナリオ対話へ移行する。シナリオ対話の間に雑談対話を挿入することで、対話の流れが自然になり、話題の決定に自分も参加している感覚をユーザへ与えることができる。これにより、ユーザはその後に続くシナリオ対話においても長く対話を続けることが可能となる。
<Second embodiment>
In the second embodiment, in order to improve the user's feeling of participation in the topic, the scenario dialogue shifts to the chat dialogue, and then the chat dialogue shifts to the scenario dialogue again. By inserting the chat dialogue between the scenario dialogues, the flow of the dialogue becomes natural, and the user can be given the feeling that he or she also participates in the decision of the topic. This allows the user to continue the dialogue for a long time even in the subsequent scenario dialogue.

第二実施形態の対話システム12は、図3に示すように、入力部1、音声認識部2、発話決定部3、音声合成部4、および提示部5を、第一実施形態と同様に備え、さらに対話制御部8を備える。この対話システム12が後述する各ステップの処理を行うことにより第二実施形態の対話方法が実現される。なお、図3に示すように、対話システム12の音声認識部2、発話決定部3、音声合成部4、対話制御部8による部分を第二実施形態の対話装置13とする。対話制御部8は、対話システム12が備える他の処理部を制御して、ユーザの発話の受付とユーザへの発話の提示とをそれぞれ少なくとも一回以上実行する対話である対話フローを実行する。   As shown in FIG. 3, the dialogue system 12 of the second embodiment includes an input unit 1, a voice recognition unit 2, a speech determination unit 3, a voice synthesis unit 4, and a presentation unit 5 as in the first embodiment. Further, the dialogue control section 8 is provided. The dialogue method of the second embodiment is realized by the dialogue system 12 performing the processing of each step described later. As shown in FIG. 3, the speech recognition unit 2, the speech determination unit 3, the speech synthesis unit 4, and the dialogue control unit 8 of the dialogue system 12 are the dialogue device 13 of the second embodiment. The dialogue control unit 8 controls another processing unit included in the dialogue system 12 to execute a dialogue flow, which is a dialogue for receiving at least one utterance of the user and presenting the utterance to the user at least once.

以下、図4を参照して、第二実施形態の対話方法の処理手続きを説明する。   Hereinafter, the processing procedure of the dialogue method according to the second embodiment will be described with reference to FIG.

ステップS21において、人型ロボット5−1または5−2は、シナリオ対話システム7が任意に選択した第一シナリオに含まれる第一シナリオ発話の内容を表す音声をスピーカから出力する。第一シナリオの選択は発話決定部3の要求を契機として行われる。シナリオ対話システム7は、あらかじめ用意された複数のシナリオからランダムに第一シナリオを選択してもよいし、以前の対話内容に基づいてあらかじめ定めたルールに従って第一シナリオを選択してもよい。シナリオ対話システム7が第一シナリオを選択する方法は、第一実施形態のステップS11で説明した方法と同様である。   In step S21, the humanoid robot 5-1 or 5-2 outputs a voice representing the content of the first scenario utterance included in the first scenario arbitrarily selected by the scenario dialogue system 7 from the speaker. The selection of the first scenario is triggered by a request from the utterance determination unit 3. The scenario dialogue system 7 may randomly select the first scenario from a plurality of prepared scenarios, or may select the first scenario according to a predetermined rule based on the contents of the previous dialogue. The method for the scenario dialogue system 7 to select the first scenario is the same as the method described in step S11 of the first embodiment.

ステップS22において、マイクロホン1は、第一シナリオ発話に対してユーザが発した第一ユーザ発話を受け付ける。音声認識部2は、マイクロホン1が収音したユーザの発話の音声信号を音声認識し、音声認識結果として得られたテキストを第一ユーザ発話の内容を表すテキストとして発話決定部3へ入力する。   In step S22, the microphone 1 receives the first user utterance uttered by the user in response to the first scenario utterance. The voice recognition unit 2 voice-recognizes the voice signal of the user's utterance picked up by the microphone 1, and inputs the text obtained as the voice recognition result to the utterance determination unit 3 as the text representing the content of the first user utterance.

ステップS23において、対話システム12は、シナリオ対話から雑談対話へ切り替える条件を満足したか否かを判定する。条件を満足したと判定した場合には、ステップS24へ処理を進める。条件を満足していないと判定した場合には、ステップS21へ処理を戻し、ステップS21−S22の処理を再度実行する。   In step S23, the dialogue system 12 determines whether or not the condition for switching from the scenario dialogue to the chat dialogue is satisfied. If it is determined that the conditions are satisfied, the process proceeds to step S24. If it is determined that the conditions are not satisfied, the process returns to step S21 and the processes of steps S21-S22 are executed again.

シナリオ対話から雑談対話へ切り替える条件は、例えば、A1.第一シナリオに沿った対話がすべて完了した場合、A2.第一シナリオの進行が失敗した場合などが挙げられる。シナリオの進行が失敗した場合とは、例えば、A2−1.ユーザへ向けて発話した後のユーザの発話がシナリオ対話システムの想定範囲に含まれていない場合、A2−2.進行中のシナリオに対するユーザの振る舞いからそのシナリオについて話したくない意思やユーザの対話意欲が減退していることが認識された場合などが挙げられる。また、A2−1の場合とA2−2の場合とを組み合わせ、ユーザへ向けて発話した後のユーザの反応が芳しくない場合も含まれる。ユーザの発話がシナリオ対話システムの想定範囲に含まれていない場合とは、例えば、ユーザの発話と、シナリオ対話システムが予め記憶されたシナリオに基づいてユーザの発話に対して決定した発話とが整合しない場合である。ユーザの振る舞いには、非言語シグナル、パラ言語シグナル(間の情報も含む)なども含まれる。ユーザの反応が芳しくない場合には、ユーザの振る舞いから話したくない意思が認識された場合や、ユーザの対話意欲の減退が認識された場合が含まれる。話したくない意思の認識や対話意欲の減退は、例えば、ユーザがあらかじめ定めた特定の語句(フレーズ)(例えば、「この話、さっきもしたよ。」など)を発したら、もうその話題について話したくない意思を表していると判断すればよい。   The condition for switching from the scenario dialogue to the chat dialogue is, for example, A1. When all the dialogues according to the first scenario are completed, A2. For example, the case where the progress of the first scenario fails. The case where the scenario has failed is, for example, A2-1. When the utterance of the user after uttering to the user is not included in the expected range of the scenario dialogue system, A2-2. For example, it may be recognized that the behavior of the user with respect to the ongoing scenario has reduced the intention not to talk about the scenario or the user's willingness to interact with the scenario. In addition, a case in which the case of A2-1 and the case of A2-2 are combined and the reaction of the user is poor after the user speaks to the user is also included. When the utterance of the user is not included in the expected range of the scenario dialogue system, for example, the utterance of the user matches the utterance determined by the scenario dialogue system with respect to the utterance of the user based on the scenario stored in advance. If not. User behavior also includes non-verbal signals, paralinguistic signals (including information between them), and so on. The case where the user's reaction is not good includes the case where the user's behavior recognizes the intention not to speak, or the case where the user's motivation to interact is recognized. For example, if the user issues a certain predetermined phrase (for example, "This story, I just mentioned this."), you can talk about the topic. You can judge that it represents your unwillingness.

ステップS24において、人型ロボット5−1または5−2は、第一ユーザ発話の内容を表すテキストに基づいて雑談対話システム6が決定した雑談発話の内容を表す音声をスピーカから出力する。雑談発話の内容を表す音声を出力する人型ロボットは、第一シナリオに基づく一つ以上の発話のうち最後の発話の内容を表す音声を出力した人型ロボットであってもよいし、その最後の発話の内容を表す音声を出力した人型ロボットとは異なる人型ロボットであってもよい。   In step S24, the humanoid robot 5-1 or 5-2 outputs a voice representing the content of the chat utterance determined by the chat dialogue system 6 based on the text representing the content of the first user utterance from the speaker. The humanoid robot that outputs the voice that represents the content of the chat utterance may be the humanoid robot that outputs the voice that represents the content of the last utterance among the one or more utterances based on the first scenario, or the last one. It may be a humanoid robot different from the humanoid robot that has output the voice indicating the content of the utterance.

雑談発話の内容を表すテキストは、発話決定部3が第一シナリオによる対話中の人型ロボットとユーザとの発話の系列の音声認識結果である発話系列の内容を表すテキストに基づいて、雑談対話システム6を用いて決定したものである。雑談対話システム6へ入力する発話系列の範囲は、直前の発話に限定してもよいし、第一シナリオの一部または全部でもよいし、第一シナリオの前に行われた雑談対話またはシナリオ対話すべてを含めてもよい。雑談対話へ切り替える際の最初の発話をシナリオごとに事前に設定しておいてもよい。例えば、食べ物の話をするシナリオの後に「食べること以外で、何が好き?」などの質問を用意することなどが考えられる。   The text representing the content of the chat conversation is based on the text representing the content of the utterance sequence, which is the speech recognition result of the utterance sequence of the humanoid robot and the user during the dialogue in the first scenario by the utterance determining unit 3, based on the text indicating the chat conversation. It is determined using the system 6. The range of the utterance sequence input to the chat dialogue system 6 may be limited to the immediately preceding utterance, a part or all of the first scenario, or the chat dialogue or the scenario dialogue performed before the first scenario. All may be included. The first utterance when switching to the chat dialogue may be set in advance for each scenario. For example, it may be possible to prepare a question such as “what do you like other than eating?” after a scenario of talking about food.

ステップS25において、マイクロホン1は、雑談発話に対してユーザが発した第二ユーザ発話を受け付ける。音声認識部2は、マイクロホン1が収音した第二ユーザ発話の音声信号を音声認識し、音声認識結果として得られたテキストを第二ユーザ発話の内容を表すテキストとして発話決定部3へ入力する。   In step S25, the microphone 1 receives the second user utterance uttered by the user in response to the chat utterance. The voice recognition unit 2 voice-recognizes the voice signal of the second user's utterance picked up by the microphone 1, and inputs the text obtained as the voice recognition result to the utterance determination unit 3 as the text representing the content of the second user's utterance. .

ステップS26において、対話システム12は、雑談対話からシナリオ対話へ切り替える条件を満足したか否かを判定する。条件を満足したと判定した場合には、ステップS27へ処理を進める。条件を満足していないと判定した場合には、ステップS24へ処理を戻し、ステップS24−S25の処理を再度実行する。   In step S26, the dialogue system 12 determines whether or not the condition for switching from the chat dialogue to the scenario dialogue is satisfied. If it is determined that the conditions are satisfied, the process proceeds to step S27. If it is determined that the conditions are not satisfied, the process returns to step S24, and the processes of steps S24-S25 are executed again.

雑談対話からシナリオ対話へ切り替える条件は、例えば、B1.雑談対話の継続が困難になった場合、B2.雑談対話を通じて次のシナリオを十分な信頼度で選択できる状況となった場合などが挙げられる。雑談対話の継続が困難な場合とは、例えば、B1−1.ユーザへ向けて発話した後のユーザの発話が雑談対話システムの想定範囲に含まれていない場合、B1−2.進行中の雑談対話に対するユーザの振る舞いからそのシナリオについて話したくない意思やユーザの対話意欲が減退していることが認識された場合、B1−3.次のシナリオを十分な信頼度で選択できる状況とならず所定の回数の雑談発話を繰り返した場合などが挙げられる。また、B1−1の場合とB1−2の場合とを組み合わせ、ユーザへ向けて発話した後のユーザの反応が芳しくない場合も含まれる。B1−3の場合は、B1−1の場合および/またはB1−2の場合と組み合わせることができ、例えば、ユーザの発話が雑談対話システムの想定範囲に含まれない場合および/またはユーザの振る舞いから話したくない意思が認識された場合が所定の回数繰り返し発生した場合に、雑談対話の継続が困難と判断するように構成してもよい。ユーザの発話が雑談対話システムの想定範囲に含まれていない場合とは、例えば、ユーザの発話と、雑談対話システムが少なくともユーザの発話に基づいて決定した発話とが整合しない場合である。ユーザの振る舞いには、非言語シグナル、パラ言語シグナル(間の情報も含む)なども含まれる。ユーザの反応が芳しくない場合には、ユーザの振る舞いから話したくない意思が認識された場合や、ユーザの対話意欲の減退が認識された場合が含まれる。話したくない意思の認識や対話意欲の減退は、例えば、ユーザがあらかじめ定めた特定の語句(フレーズ)(例えば、「この話、さっきもしたよ。」など)を発した場合などが挙げられる。   The condition for switching from the chat dialogue to the scenario dialogue is, for example, B1. When it becomes difficult to continue the chat dialogue, B2. This may be the case when it becomes possible to select the next scenario with sufficient confidence through chat conversation. When it is difficult to continue the chat dialogue, for example, B1-1. When the utterance of the user after uttering the user is not included in the expected range of the chat dialogue system, B1-2. If it is recognized that the behavior of the user with respect to the ongoing chat dialogue has reduced the intention not to talk about the scenario or the user's motivation for dialogue, B1-3. There is a case where the following scenario cannot be selected with sufficient reliability and the chat conversation is repeated a predetermined number of times. In addition, a case in which the case of B1-1 and the case of B1-2 are combined and the reaction of the user is not favorable after speaking to the user is also included. The case of B1-3 can be combined with the case of B1-1 and/or the case of B1-2, for example, when the utterance of the user is not included in the expected range of the chat dialogue system and/or from the behavior of the user. It may be configured such that it is determined that it is difficult to continue the chat dialogue when the intention to not talk is recognized repeatedly a predetermined number of times. The case where the user's utterance is not included in the expected range of the chat dialogue system is, for example, a case where the user's utterance does not match the utterance determined by the chat dialogue system at least based on the user's utterance. User behavior also includes non-verbal signals, paralinguistic signals (including information between them), and so on. The case where the user's reaction is not good includes the case where the user's behavior recognizes the intention not to speak, or the case where the user's motivation to interact is recognized. The recognition of the intention not to speak and the decline in the willingness to talk can be cited, for example, when the user issues a predetermined specific phrase (for example, "This story, I just spoke.").

シナリオ対話へ切り替える際には、直前のユーザの発話を「そっか」といった相槌で受けるとともに、最初の発話の直前に間を挿入し、「ところでさ」「そうそう」「ねぇ」など、話題を変えようとしていることを表す発話を、雑談対話の最後に発話した人型ロボットと異なる人型ロボットに発話させるとよい。これにより、話題の不連続性により生じる違和感を軽減することができる。このとき、次のシナリオを選択した際の信頼度に応じて、発話する内容を変更してもよい。ここで、選択の信頼度とは、雑談対話の内容と選択したシナリオの類似度の高さを表す指標である。例えば、選択の信頼度が比較的高い場合には「そうそう、・・・」などと短い発話を挿入することとし、選択の信頼度が比較的低い場合には「ところでさ、全然関係ないかもしれないけど・・・」などと話題が変わることを明示的に表す内容を発話することが考えられる。選択の信頼度が低い場合の具体例としては、例えば、雑談対話で「ラーメンを食べた」ことを発話した後に、シナリオ対話で「レストランの経営」を話題にするように、話題語・話題述語項間の類似度が低い場合が挙げられる。また、例えば、雑談対話で「スポーツが好きではない」ことを発話した後に、シナリオ対話で「スキーをした」ことを話題にするように、話題の類似度は高いものの、ユーザがその話題に否定的である場合が挙げられる。さらに、例えば、雑談対話で「ドラッグ」についての発話があり、マウスのドラッグの話題か薬のドラッグの話題か判別できない場合のように、話題語が多義語であり、いずれの意味で発話されたのかを判別できない場合が挙げられる。   When switching to the scenario dialogue, while accepting the utterance of the user immediately before with a sledgehammer such as "Sokka", insert a space immediately before the first utterance and change the topic such as "By the way", "Yes so", "Hey" It is recommended that the utterance indicating that the user is trying to do so is uttered by a humanoid robot different from the humanoid robot uttered at the end of the chat dialogue. As a result, it is possible to reduce the discomfort caused by the discontinuity of topics. At this time, the uttered content may be changed according to the reliability when the next scenario is selected. Here, the reliability of selection is an index indicating the degree of similarity between the content of the chat conversation and the selected scenario. For example, if the reliability of the selection is relatively high, a short utterance such as “Yes,...” is inserted, and if the reliability of the selection is relatively low, “By the way, it may not be relevant at all. It is conceivable to utter content that explicitly indicates that the topic will change, such as "No, but...". As a specific example when the reliability of the selection is low, for example, after uttering “eating ramen” in the chat dialogue, talking about “management of restaurant” in the scenario dialogue This may be the case when the similarity between terms is low. In addition, for example, after talking about “I don't like sports” in the chat dialog, and then talking about “skiing” in the scenario dialog, although the topic similarity is high, the user rejects the topic. There are cases where it is target. Furthermore, for example, when there is an utterance about "drug" in a chat dialogue and it is not possible to distinguish whether it is a topic of mouse drag or a topic of drug drag, the topic word is a polysemous word and was uttered in any sense. There are cases where it is not possible to determine whether or not.

ステップS27において、人型ロボット5−1または5−2は、シナリオ対話システム7が選択した第二シナリオに含まれる第二シナリオ発話の内容を表す音声をスピーカから出力する。第二シナリオの選択は発話決定部3の要求を契機として行われる。ステップS23において第一シナリオが完了する前にシナリオ対話から雑談対話への切り替えが行われていた場合には、第一シナリオの残りの部分を第二シナリオとしてもよい。以降、第二シナリオに沿った対話がユーザと対話装置との間で実行される。   In step S27, the humanoid robot 5-1 or 5-2 outputs a voice representing the content of the second scenario utterance included in the second scenario selected by the scenario dialogue system 7 from the speaker. The selection of the second scenario is triggered by a request from the speech determination unit 3. If the scenario dialogue is switched to the chat dialogue before the completion of the first scenario in step S23, the remaining part of the first scenario may be the second scenario. After that, the dialogue according to the second scenario is executed between the user and the dialogue device.

シナリオ対話システム7は、ステップS24およびS25で行われた雑談対話の内容に基づいてあらかじめ定めたルールに従って第二シナリオを選択する。雑談対話中の発話にはユーザが興味を抱き得る話題を表す語句が含まれていると考えられるため、これらを手掛かりとすることで適切な話題に関するシナリオを第二シナリオとして選択することができる。例えば、各シナリオに話題を表すキーワードを設定しておき、雑談対話中の人型ロボットの発話およびユーザの発話のいずれかまたは両方とそのキーワードとの類似度に従ってシナリオの選択を行う。また、例えば、ユーザの発話に対して雑談対話システム6が生成した文がいずれかのシナリオの先頭文に類似している場合はそのシナリオを選択する。   The scenario dialogue system 7 selects the second scenario in accordance with a predetermined rule based on the content of the chat dialogue conducted in steps S24 and S25. Since it is considered that the utterance during the chat dialogue includes words and phrases that represent topics that the user may be interested in, a scenario regarding an appropriate topic can be selected as the second scenario by using these as clues. For example, a keyword representing a topic is set in each scenario, and the scenario is selected according to the similarity between the keyword and one or both of the utterance of the humanoid robot and the user's utterance during chat conversation. Further, for example, when the sentence generated by the chat dialogue system 6 for the user's utterance is similar to the head sentence of any scenario, that scenario is selected.

雑談対話中の発話を手掛かりとした選択が行えず、対話の継続が困難と判定した場合、あらかじめ用意された複数のシナリオの中からランダムに第二シナリオを選択する。この場合、事前にシナリオを準備する際にシナリオごとに選択確率を設定してもよい。すなわち、必ずしも均等なランダム選択をしなくともよい。また、これまでの観測情報から算出されている類似度に基づいて選択確率を重み付けしてもよい。   If the utterance during the chat dialogue cannot be used as a clue and it is determined that it is difficult to continue the dialogue, the second scenario is randomly selected from a plurality of scenarios prepared in advance. In this case, the selection probability may be set for each scenario when preparing the scenario in advance. That is, it is not always necessary to perform uniform random selection. Further, the selection probability may be weighted based on the degree of similarity calculated from the observation information so far.

第二実施形態の対話方法における各ステップは対話制御部8の制御により実行される。対話制御部8は、シナリオ対話システム7が決定した第一シナリオに基づいて第一シナリオ発話の内容を提示するステップS21と第一シナリオ発話に対してユーザが発した第一ユーザ発話を受け付けるステップS22とをそれぞれ一回以上実行する第一対話フローと、雑談対話システム6がユーザの発話に基づいて決定した雑談発話の内容を提示するステップS24と雑談発話に対してユーザが発した第二ユーザ発話を受け付けるステップS25とをそれぞれ一回以上実行する第二対話フローとを実行する制御を行うことで、第二実施形態の対話方法を実現する。   Each step in the dialogue method of the second embodiment is executed under the control of the dialogue control unit 8. The dialogue control unit 8 presents the content of the first scenario utterance based on the first scenario determined by the scenario dialogue system 7 and the step S22 of accepting the first user utterance uttered by the user in response to the first scenario utterance. And a step S24 of presenting the contents of the chat utterance determined by the chat dialogue system 6 based on the user's utterance, and the second user utterance made by the user in response to the chat utterance. By executing the control for executing the step S25 of accepting the step S25 and the second dialog flow for executing the step S25 one or more times, the dialog method of the second embodiment is realized.

以下、第二実施形態の対話内容の具体例を示す。ここで、Rは人型ロボットを表し、Hはユーザを表す。Rの後の括弧内における数字は人型ロボットの識別子である。第一実施形態と同様に、人型ロボットが誰に話かける意図であるかは、例えば、人型ロボットの頭部や視線の動きにより表出するようにしてもよいが、表出しなくてもよい。   Hereinafter, a specific example of the dialogue content of the second embodiment will be shown. Here, R represents a humanoid robot, and H represents a user. The number in parentheses after R is the humanoid robot identifier. Similar to the first embodiment, the intention of the humanoid robot to talk to may be expressed by, for example, the movement of the head or the line of sight of the humanoid robot, but it is not necessary to express it. Good.

R(1→2):「食べ物だったら何が好き?」(※1:シナリオ対話システム7が選択した第一シナリオに基づいて決定した発話内容である。)
R(2→1):「お寿司が好き。」(※1:シナリオ対話システム7が選択した第一シナリオに基づいて決定した発話内容である。)
H:「この話、さっきもしたよ。」(※「A2−2.進行中のシナリオに対するユーザの振る舞いからそのシナリオについて話したくない意思が認識された場合」の具体例である。)
R(1→H):「食べること以外で、何が好き?」(※1:以前の対話内容である「食べ物」に基づいてシナリオ対話システム7が選択した第一シナリオに含まれる発話の具体例である。)
H:「読書かな。」
R(1→H):「好きな本のジャンルは何?」(※2:ユーザ発話の「読書」に基づいて雑談対話システム6が決定した発話の具体例である。)
H:「スポーツ漫画が好きだよ」
R(2→H):「スポーツはよくやるの?」(※2:雑談対話を複数回繰り返す具体例である。ここではユーザ発話の「スポーツ」に基づいて雑談対話システム6が発話内容を決定している。)
H:「スポーツはあんまり好きじゃないな」
R(2→H):「そっか」(※3:「B1−2.進行中の雑談対話に対するユーザの振る舞いからそのシナリオについて話したくない意思が認識された場合」に雑談対話の継続が困難と判断する場合の具体例である。ユーザが「あんまり好きじゃない」と話題を否定したため、雑談対話の継続が困難と判断している。ここでは、まず直前のユーザ発話を相槌で受けている。)
R(1→2):「そういえば,ぼくはこの前スキーをしてきたよ」(※3:最初に、話題を変えようとしていることを表す「そういえば」を発話し、続いて、雑談対話の内容であった「スポーツ」に基づいてシナリオ対話システム7が選択した第二シナリオに含まれる発話を行っている。)
R(2→1):「その体型でスキーは難しいんじゃない?」(※3:雑談対話の内容であった「スポーツ」に基づいてシナリオ対話システム7が選択した第二シナリオに含まれる発話の具体例である。)
R(1→2): “What do you like for food?” (*1: The utterance content decided based on the first scenario selected by the scenario dialogue system 7)
R (2→1): “I like sushi.” (*1: The utterance content determined based on the first scenario selected by the scenario dialogue system 7)
H: "This story was done a while ago." (* A2-2. A specific example of "A2-2. When the user's behavior with respect to a scenario in progress recognizes the intention not to talk about the scenario".)
R (1→H): “What do you like other than eating?” (*1: Specific utterances included in the first scenario selected by the scenario dialogue system 7 based on the previous dialogue content “food”. This is an example.)
H: "Is it a book?"
R (1→H): “What is your favorite book genre?” (*2: This is a specific example of the utterance determined by the chat dialogue system 6 based on the “reading” of the user utterance.)
H: “I like sports manga”
R(2→H): “Do you do sports well?” (*2: This is a specific example of repeating chat dialogue multiple times. Here, chat dialogue system 6 determines the utterance content based on the user's utterance “sport”. is doing.)
H: "I don't really like sports."
R(2→H): “Soka” (*3: “B1-2. When the user's behavior with respect to ongoing chat dialogue recognizes the intention not to talk about the scenario”, it is difficult to continue the chat dialogue. It is a specific example of the case where it is judged that it is difficult for the user to continue the chat dialogue because the user denied the topic "I don't like much." .)
R (1→2): “By the way, I've skied the other day” (*3: First, I utter “Say,” which means that I'm trying to change the topic, and then in the chat dialogue The utterance included in the second scenario selected by the scenario dialogue system 7 is based on the content "sports".)
R (2→1): "Isn't it difficult to ski with that body?" (*3: The utterance included in the second scenario selected by the scenario dialogue system 7 based on "sports" that was the content of the chat dialogue. This is a specific example.)

上記のように構成することにより、本形態の対話技術によれば、あるシナリオ対話が終了した後、雑談対話の内容に従って次のシナリオ対話の話題が決定されるため、ユーザが感じる対話への参加感が向上する。これにより、ユーザは対話システムとの対話を継続する意欲をかき立てられ、対話を長く続けることができるようになる。   With the above configuration, according to the dialogue technology of the present embodiment, after a certain scenario dialogue is finished, the topic of the next scenario dialogue is determined according to the content of the chat dialogue, so that the user can participate in the dialogue. Feeling improves. This motivates the user to continue the dialogue with the dialogue system and allows the dialogue to be continued for a long time.

<変形例>
上述した実施形態では、エージェントとしてロボットを用いて音声による対話を行う例を説明したが、上述した実施形態のロボットは身体等を有する人型ロボットであっても、身体等を有さないロボットであってもよい。また、この発明の対話技術はこれらに限定されず、人型ロボットのように身体等の実体がなく、発声機構を備えないエージェントを用いて対話を行う形態とすることも可能である。そのような形態としては、例えば、コンピュータの画面上に表示されたエージェントを用いて対話を行う形態が挙げられる。より具体的には、「LINE」(登録商標)や「2ちゃんねる」(登録商標)のような、複数アカウントがテキストメッセージにより対話を行うグループチャットにおいて、ユーザのアカウントと対話装置のアカウントとが対話を行う形態に適用することも可能である。この形態では、エージェントを表示する画面を有するコンピュータは人の近傍にある必要があるが、当該コンピュータと対話装置とはインターネットなどのネットワークを介して接続されていてもよい。つまり、本対話システムは、人とロボットなどの話者同士が実際に向かい合って話す対話だけではなく、話者同士がネットワークを介してコミュニケーションを行う会話にも適用可能である。
<Modification>
In the above-described embodiment, an example in which a robot is used as an agent to perform a dialogue by voice has been described. However, even if the robot of the above-described embodiment is a humanoid robot having a body or the like, it is a robot having no body or the like. It may be. Further, the dialogue technology of the present invention is not limited to these, and it is also possible to adopt a form in which dialogue is performed using an agent that does not have a physical body such as a humanoid robot and does not have a vocalization mechanism. As such a form, for example, a form in which an agent displayed on the screen of a computer is used for dialogue is mentioned. More specifically, in a group chat, such as "LINE" (registered trademark) and "2 channel" (registered trademark), in which a plurality of accounts interact by text messages, the user's account and the dialog device account interact with each other. It is also possible to apply to the form which performs. In this form, the computer having the screen displaying the agent needs to be in the vicinity of a person, but the computer and the dialogue device may be connected via a network such as the Internet. That is, the present dialogue system is applicable not only to a dialogue in which a speaker such as a human and a robot actually face each other but also to a conversation in which the speakers communicate with each other via a network.

変形例の対話システム20は、図5に示すように、入力部1、発話決定部3、および提示部5を備える。図5の例では、変形例の対話システム20は1台の対話装置21からなり、変形例の対話装置21は、入力部1、発話決定部3、および提示部5を備える。発話決定部3は、外部に存在する雑談対話システム6およびシナリオ対話システム7と通信可能なインターフェースを備える。雑談対話システム6およびシナリオ対話システム7は同様の機能を持つ処理部として対話装置内に構成しても構わない。   As shown in FIG. 5, the dialogue system 20 of the modified example includes an input unit 1, a speech determination unit 3, and a presentation unit 5. In the example of FIG. 5, the dialogue system 20 of the modification includes one dialogue device 21, and the dialogue device 21 of the modification includes the input unit 1, the speech determination unit 3, and the presentation unit 5. The utterance determination unit 3 includes an interface capable of communicating with the chat dialogue system 6 and the scenario dialogue system 7 existing outside. The chat dialogue system 6 and the scenario dialogue system 7 may be configured in the dialogue device as processing units having similar functions.

変形例の対話装置は、例えば、スマートフォンやタブレットのようなモバイル端末、もしくはデスクトップ型やラップトップ型のパーソナルコンピュータなどの情報処理装置である。以下、対話装置がスマートフォンであるものとして説明する。提示部5はスマートフォンが備える液晶ディスプレイである。この液晶ディスプレイにはチャットアプリケーションのウィンドウが表示され、ウィンドウ内にはグループチャットの対話内容が時系列に表示される。グループチャットとは、チャットにおいて複数のアカウントが互いにテキストメッセージを投稿し合い対話を展開する機能である。このグループチャットには、対話装置が制御する仮想的な人格に対応する複数の仮想アカウントと、ユーザのアカウントとが参加しているものとする。すなわち、本変形例は、エージェントが、対話装置であるスマートフォンの液晶ディスプレイに表示された仮想アカウントである場合の一例である。ユーザはソフトウェアキーボードを用いて入力部1へ発話内容を入力し、自らのアカウントを通じてグループチャットへ投稿することができる。発話決定部3はユーザのアカウントからの投稿を雑談対話システム6またはシナリオ対話システム7へ入力し、各対話システムから得た発話内容を、各仮想アカウントを通じてグループチャットへ投稿する。なお、スマートフォンに搭載されたマイクロホンと音声認識機能を用い、ユーザが発声により入力部1へ発話内容を入力する構成としてもよい。また、スマートフォンに搭載されたスピーカと音声合成機能を用い、各対話システムから得た発話内容を、各仮想アカウントに対応する音声でスピーカから出力する構成としてもよい。   The interaction device of the modification is, for example, a mobile terminal such as a smartphone or a tablet, or an information processing device such as a desktop or laptop personal computer. Hereinafter, it is assumed that the interactive device is a smartphone. The presentation unit 5 is a liquid crystal display included in the smartphone. A window of the chat application is displayed on the liquid crystal display, and the conversation contents of the group chat are displayed in time series in the window. Group chat is a function in which a plurality of accounts in a chat post text messages with each other to develop a dialogue. It is assumed that a plurality of virtual accounts corresponding to the virtual personality controlled by the dialogue device and the user's account participate in this group chat. That is, the present modification is an example of a case where the agent is a virtual account displayed on the liquid crystal display of the smartphone which is the interactive device. The user can input the utterance content to the input unit 1 using the software keyboard and post it to the group chat through his/her own account. The utterance determining unit 3 inputs the posting from the user's account into the chat dialogue system 6 or the scenario dialogue system 7, and posts the utterance content obtained from each dialogue system to the group chat through each virtual account. It is also possible to adopt a configuration in which the user inputs the utterance content to the input unit 1 by uttering, using a microphone and a voice recognition function mounted on the smartphone. Further, the speaker and the voice synthesizing function mounted on the smartphone may be used to output the utterance content obtained from each dialogue system from the speaker as a voice corresponding to each virtual account.

なお、エージェントの発話が提示部5(ディスプレイ)に同時に表示されると、対話が活発である、あるいは盛り上がっている、と好意的に感じられる可能性がある一方、ユーザが一度に読み切れないほどの量のテキストが提示されると、ユーザが対話を継続しにくく感じる可能性があるため、ユーザに認知負荷をかけられない場面、落ち着いた雰囲気が求められる場面など、使用される状況に応じて、発話を順次表示することにしてもよい。なお、順次表示する場合には、所定の時間間隔を開けて表示してもよい。時間間隔は固定であっても可変であってもよい。   When the utterances of the agent are simultaneously displayed on the presentation unit 5 (display), it may be possible to feel that the conversation is active or lively, but the user cannot read it all at once. When a large amount of text is presented, it may be difficult for the user to continue the dialogue, so depending on the usage situation, such as a situation where the user does not impose a cognitive load or a situation where a calm atmosphere is required. Utterances may be sequentially displayed. In addition, when displaying sequentially, you may open and display a predetermined time interval. The time interval may be fixed or variable.

以上、この発明の実施の形態について説明したが、具体的な構成は、これらの実施の形態に限られるものではなく、この発明の趣旨を逸脱しない範囲で適宜設計の変更等があっても、この発明に含まれることはいうまでもない。実施の形態において説明した各種の処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。   Although the embodiments of the present invention have been described above, the specific configuration is not limited to these embodiments, and even if the design is appropriately changed without departing from the spirit of the present invention, Needless to say, it is included in the present invention. The various kinds of processing described in the embodiments may be executed not only in time series according to the order described, but also in parallel or individually according to the processing capability of the device that executes the processing or the need.

[プログラム、記録媒体]
上記実施形態で説明した対話装置における各種の処理機能をコンピュータによって実現する場合、対話装置が有すべき機能の処理内容はプログラムによって記述される。また、上記変形例で説明した対話システムにおける各種の処理機能をコンピュータによって実現する場合、対話システムが有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記対話装置および対話システムにおける各種の処理機能がコンピュータ上で実現される。
[Program, recording medium]
When various processing functions of the dialog device described in the above embodiment are realized by a computer, processing contents of functions that the dialog device should have are described by a program. Further, when various processing functions in the dialog system described in the above modification are realized by a computer, processing contents of functions that the dialog system should have are described by a program. By executing this program on a computer, various processing functions of the dialog device and dialog system are realized on the computer.

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。   The program describing the processing contents can be recorded in a computer-readable recording medium. The computer-readable recording medium may be, for example, a magnetic recording device, an optical disc, a magneto-optical recording medium, a semiconductor memory, or the like.

また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD-ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。   The distribution of this program is performed by, for example, selling, transferring, or lending a portable recording medium such as a DVD or a CD-ROM in which the program is recorded. Further, the program may be stored in a storage device of a server computer and transferred from the server computer to another computer via a network to distribute the program.

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記憶装置に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。   A computer that executes such a program first stores, for example, the program recorded on a portable recording medium or the program transferred from the server computer in its own storage device. Then, when executing the process, this computer reads the program stored in its own storage device and executes the process according to the read program. As another execution form of this program, a computer may directly read the program from a portable recording medium and execute processing according to the program, and the program is transferred from the server computer to this computer. Each time, the processing according to the received program may be sequentially executed. In addition, the above-described processing is executed by a so-called ASP (Application Service Provider) type service that does not transfer the program from the server computer to this computer but realizes the processing function only by executing the instruction and obtaining the result. May be Note that the program in this embodiment includes information that is used for processing by an electronic computer and that conforms to the program (such as data that is not a direct command to a computer but has the property of defining computer processing).

また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。   Further, in this embodiment, the present apparatus is configured by executing a predetermined program on the computer, but at least a part of the processing content may be implemented by hardware.

Claims (5)

仮想的に設定された複数の人格を用いてユーザと対話を行う対話方法であって、
予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、
提示部が、オープン発話を提示する第一提示ステップと、
入力部が、上記オープン発話に対するユーザの発話を受け付ける発話受付ステップと、
上記提示部が、上記ユーザの発話に基づいて第二の対話システムが決定した発話を提示する第二提示ステップと、
上記提示部が、第一の対話システムが決定した発話を上記第二提示ステップの後に提示する第三提示ステップと、
を含み、
上記第一提示ステップは、上記オープン発話を、上記複数の人格のうちの第一の人格により提示するものであり、
上記第二の対話システムが決定した発話は、複数の発話であり、
上記第二提示ステップは、上記第二の対話システムが決定した複数の発話を、上記複数の人格のうちの上記第一の人格とは異なる第二の人格を少なくとも含む人格により提示するものであり、
上記第一の対話システムが決定した発話は、複数の発話であり、
上記第三提示ステップは、上記第一の対話システムが決定した複数の発話を、上記複数の人格のうちの上記第一の人格と上記第二の人格とが協調して提示するものである、
対話方法。
A method of interaction with a user using a plurality of virtually set personalities,
When a dialogue system that determines an utterance based on a pre-stored scenario is called a first dialogue system, and a dialogue system that determines an utterance based on at least a user's utterance content is called a second dialogue system,
The presenting unit presents an open utterance in a first presenting step,
An utterance receiving step in which the input unit receives a user's utterance for the open utterance,
A second presentation step in which the presentation unit presents the utterance determined by the second dialogue system based on the utterance of the user,
A third presentation step in which the presentation unit presents the utterance determined by the first dialogue system after the second presentation step,
Only including,
The first presentation step is to present the open utterance with a first personality of the plurality of personalities,
The utterance determined by the second dialogue system is a plurality of utterances,
The second presentation step is to present the plurality of utterances determined by the second dialogue system by a personality including at least a second personality different from the first personality among the plurality of personalities. ,
The utterance determined by the first dialogue system is a plurality of utterances,
In the third presentation step, a plurality of utterances determined by the first dialogue system are presented by the first personality and the second personality of the plurality of personalities in cooperation with each other.
How to interact.
仮想的に設定された複数の人格を用いてユーザと対話を行う対話システムであって、
予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、
オープン発話を決定し、上記オープン発話後に上記オープン発話に対するユーザの発話に基づいて第二の対話システムにより発話を決定し、上記第二の対話システムにより決定した発話後に第一の対話システムにより発話を決定する発話決定部と、
上記オープン発話に対するユーザの発話を受け付ける入力部と、
上記発話決定部が決定したオープン発話を提示し、上記発話決定部が上記第二の対話システムにより決定した発話を上記ユーザの発話の後に提示し、上記発話決定部が上記第一の対話システムにより決定した発話を上記第二の対話システムが決定した発話の後に提示する提示部と、
を含み、
上記発話決定部が上記第二の対話システムにより決定する発話は、複数の発話であり、
上記発話決定部が上記第一の対話システムにより決定する発話は、複数の発話であり、
上記提示部は、上記オープン発話を、上記複数の人格のうちの第一の人格により提示し、上記第二の対話システムにより決定した複数の発話を、上記複数の人格のうちの上記第一の人格とは異なる第二の人格を少なくとも含む人格により提示し、上記第一の対話システムにより決定した複数の発話を、上記複数の人格のうちの上記第一の人格と上記第二の人格とが協調して提示するものである、
対話システム。
An interactive system for interacting with a user using a plurality of virtually set personalities,
When a dialogue system that determines an utterance based on a pre-stored scenario is called a first dialogue system, and a dialogue system that determines an utterance based on at least a user's utterance content is called a second dialogue system,
The open utterance is determined, the utterance is determined by the second dialogue system based on the user's utterance for the open utterance after the open utterance, and the utterance is determined by the first dialogue system after the utterance decided by the second dialogue system. An utterance decision unit that decides,
An input unit that receives a user's utterance for the open utterance,
The utterance determination unit presents the open utterance determined, the utterance determination unit presents the utterance determined by the second dialogue system after the utterance of the user, and the utterance determination unit uses the first dialogue system. A presentation unit that presents the determined utterance after the utterance determined by the second dialogue system,
Only including,
The utterance determined by the utterance determination unit by the second dialogue system is a plurality of utterances,
The utterance determined by the utterance determination unit by the first dialogue system is a plurality of utterances,
The presenting unit presents the open utterance with a first personality of the plurality of personalities, and presents a plurality of utterances determined by the second dialogue system with the first personality of the plurality of personalities. Presented by a personality including at least a second personality different from the personality, a plurality of utterances determined by the first dialogue system, the first personality and the second personality of the plurality of personalities are It is a collaborative presentation.
Dialog system.
ユーザの発話を受け付ける入力部と、発話を提示する提示部とを少なくとも含み、仮想的に設定された複数の人格を用いてユーザと対話を行う対話システムが提示する発話を決定する対話装置であって、
予め記憶されたシナリオに基づいた発話を決定する対話システムを第一の対話システムとよび、少なくともユーザの発話内容に基づいた発話を決定する対話システムを第二の対話システムとよぶとしたとき、
オープン発話を決定し、上記オープン発話後に上記オープン発話に対するユーザの発話に基づいて第二の対話システムにより発話を決定し、上記第二の対話システムにより決定した発話後に第一の対話システムにより発話を決定する発話決定部
を含み、
上記発話決定部が上記第二の対話システムにより決定する発話は、複数の発話であり、
上記発話決定部が上記第一の対話システムにより決定する発話は、複数の発話であり、
上記提示部は、上記オープン発話を、上記複数の人格のうちの第一の人格により提示し、上記第二の対話システムにより決定した複数の発話を、上記複数の人格のうちの上記第一の人格とは異なる第二の人格を少なくとも含む人格により提示し、上記第一の対話システムにより決定した複数の発話を、上記複数の人格のうちの上記第一の人格と上記第二の人格とが協調して提示するものである、
対話装置。
An input unit for accepting a user's speech, at least seen including a presentation unit that presents the speech, in an interactive apparatus for determining utterance interactive system presents to perform a dialogue with the user by using a plurality of personality that is virtually set There
When a dialogue system that determines an utterance based on a pre-stored scenario is called a first dialogue system, and a dialogue system that determines an utterance based on at least a user's utterance content is called a second dialogue system,
The open utterance is determined, the utterance is determined by the second dialogue system based on the user's utterance for the open utterance after the open utterance, and the utterance is determined by the first dialogue system after the utterance decided by the second dialogue system. speech determining unit determining seen including,
The utterance determined by the utterance determination unit by the second dialogue system is a plurality of utterances,
The utterance determined by the utterance determination unit by the first dialogue system is a plurality of utterances,
The presenting unit presents the open utterance with a first personality of the plurality of personalities, and presents a plurality of utterances determined by the second dialogue system with the first personality of the plurality of personalities. Presented by a personality including at least a second personality different from the personality, a plurality of utterances determined by the first dialogue system, the first personality and the second personality of the plurality of personalities are It is a collaborative presentation.
Dialogue device.
請求項1に記載の対話方法の各ステップをコンピュータに実行させるためのプログラム。 A program for causing a computer to execute each step of the interaction method according to claim 1 . 請求項に記載の対話装置としてコンピュータを機能させるためのプログラム。 A program for causing a computer to function as the dialog device according to claim 3 .
JP2018518375A 2016-05-20 2017-05-19 Dialogue method, dialogue system, dialogue device, and program Active JP6699010B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016101222 2016-05-20
JP2016101222 2016-05-20
PCT/JP2017/018791 WO2017200076A1 (en) 2016-05-20 2017-05-19 Dialog method, dialog system, dialog device, and program

Publications (2)

Publication Number Publication Date
JPWO2017200076A1 JPWO2017200076A1 (en) 2018-12-13
JP6699010B2 true JP6699010B2 (en) 2020-05-27

Family

ID=60325875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018518375A Active JP6699010B2 (en) 2016-05-20 2017-05-19 Dialogue method, dialogue system, dialogue device, and program

Country Status (2)

Country Link
JP (1) JP6699010B2 (en)
WO (1) WO2017200076A1 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7112487B2 (en) * 2018-05-11 2022-08-03 株式会社Nttドコモ dialogue device
CN109129512A (en) * 2018-09-30 2019-01-04 北京小谛机器人科技有限公司 The awakening method and device of chat robots
KR102192144B1 (en) 2018-11-30 2020-12-17 엘지전자 주식회사 Vehicle control device and vehicle control method
JP7212888B2 (en) * 2019-05-20 2023-01-26 日本電信電話株式会社 Automatic dialogue device, automatic dialogue method, and program
WO2021171851A1 (en) * 2020-02-27 2021-09-02 パナソニックIpマネジメント株式会社 Information processing method, program, and information processing device
WO2023281580A1 (en) * 2021-07-05 2023-01-12 日本電信電話株式会社 Information presentation method, information presentation device, and information presentation program
CN115186147B (en) * 2022-05-31 2023-08-25 华院计算技术(上海)股份有限公司 Dialogue content generation method and device, storage medium and terminal
CN116524910B (en) * 2023-06-25 2023-09-08 安徽声讯信息技术有限公司 Manuscript prefabrication method and system based on microphone

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3450823B2 (en) * 2000-12-01 2003-09-29 株式会社ナムコ Simulated conversation system, simulated conversation method, and information storage medium
JP2004287016A (en) * 2003-03-20 2004-10-14 Sony Corp Voice interaction apparatus and method, and robot apparatus
JP6362861B2 (en) * 2013-12-25 2018-07-25 Kddi株式会社 Dialog program, server and method for controlling insertion behavior of dynamic dialog node for dialog scenario
JP6276400B2 (en) * 2014-05-13 2018-02-07 シャープ株式会社 Control device and message output control system

Also Published As

Publication number Publication date
WO2017200076A1 (en) 2017-11-23
JPWO2017200076A1 (en) 2018-12-13

Similar Documents

Publication Publication Date Title
JP6719747B2 (en) Interactive method, interactive system, interactive device, and program
JP6699010B2 (en) Dialogue method, dialogue system, dialogue device, and program
US20220254343A1 (en) System and method for intelligent initiation of a man-machine dialogue based on multi-modal sensory inputs
US11468894B2 (en) System and method for personalizing dialogue based on user&#39;s appearances
JP6719740B2 (en) Interactive method, interactive system, interactive device, and program
JP6719741B2 (en) Dialogue method, dialogue device, and program
JP6970413B2 (en) Dialogue methods, dialogue systems, dialogue devices, and programs
JP6842095B2 (en) Dialogue methods, dialogue systems, dialogue devices, and programs
JP6551793B2 (en) Dialogue method, dialogue system, dialogue apparatus, and program
JP6667855B2 (en) Acquisition method, generation method, their systems, and programs
WO2020070923A1 (en) Dialogue device, method therefor, and program
JP7530688B1 (en) Program, computer, system and information processing method
JP6682104B2 (en) Dialogue method, dialogue system, dialogue device, and program
Hasani et al. Immersive experience with non-player characters dynamic dialogue
Gunkel Computational interpersonal communication: Communication studies and spoken dialogue systems
Carvalho et al. Investigating and comparing the perceptions of voice interaction in digital games: Opportunities for health and wellness applications
KR20100043393A (en) System for english study service by communication network
Bernsen et al. Domain-oriented conversation with HC Andersen
Zargham et al. Dialogs with GenAI NPCs: Exploring Player Interactions with Speech Agents in a VR Game
JP7814734B2 (en) Method and computer program for promoting relationship building between people
JP6755509B2 (en) Dialogue method, dialogue system, dialogue scenario generation method, dialogue scenario generator, and program
JP6610965B2 (en) Dialogue method, dialogue system, dialogue apparatus, and program
CN121122240B (en) A method for evaluating a voice interaction model, an electronic device, and a readable storage medium.
Mugford Giving Mexican EFL Users a Social Voice: Te Struggle between Conformity and Individuality
Ross Virtual Tutor Personality in Computer Assisted Language Learning

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200401

R150 Certificate of patent or registration of utility model

Ref document number: 6699010

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250