Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6111802B2 - Spoken dialogue apparatus and dialogue control method - Google Patents
[go: Go Back, main page]

JP6111802B2 - Spoken dialogue apparatus and dialogue control method - Google Patents

Spoken dialogue apparatus and dialogue control method Download PDF

Info

Publication number
JP6111802B2
JP6111802B2 JP2013074512A JP2013074512A JP6111802B2 JP 6111802 B2 JP6111802 B2 JP 6111802B2 JP 2013074512 A JP2013074512 A JP 2013074512A JP 2013074512 A JP2013074512 A JP 2013074512A JP 6111802 B2 JP6111802 B2 JP 6111802B2
Authority
JP
Japan
Prior art keywords
response time
message
voice
unit
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013074512A
Other languages
Japanese (ja)
Other versions
JP2014199323A (en
Inventor
野口 祐一郎
祐一郎 野口
高橋 潤
潤 高橋
村瀬 健太郎
健太郎 村瀬
福岡 俊之
俊之 福岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013074512A priority Critical patent/JP6111802B2/en
Publication of JP2014199323A publication Critical patent/JP2014199323A/en
Application granted granted Critical
Publication of JP6111802B2 publication Critical patent/JP6111802B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephonic Communication Services (AREA)

Description

本発明は、例えば、ユーザが発した音声を認識し、その認識結果に応じた処理を実行する音声対話装置及び対話制御方法に関する。   The present invention relates to a voice dialogue apparatus and a dialogue control method for recognizing a voice uttered by a user and executing processing according to the recognition result, for example.

近年、端末を介して入力された音声信号を通信ネットワークを介してサーバへ送信し、サーバがその音声信号に応じて所望のコンテンツを選択し、そのコンテンツを端末へ返信する音声対話システムが開発されている。このような音声対話システムでは、サーバの負荷が一定の水準を超えたとき、または、通信ネットワークに輻輳が生じている場合など、サーバから端末へ情報が返信される際の遅延が大きくなることがあった。遅延が大きくなると、ユーザによる音声入力から端末がその音声に対応するコンテンツをユーザに提示するまでの、端末が応答しない応答時間が長くなる。そのため、ユーザが不安を感じたり、ユーザの不快感が増し、その結果として音声対話システムに対するユーザの利便性が低下するおそれがあった。そこで、認識辞書のサイズ情報に基づいて認識辞書の読み出しに必要な時間を予測し、その予測された時間に応じた長さの応答音声をスピーカに出力させる音声対話装置が提案されている(例えば、特許文献1を参照)。この音声対話装置は、そのような応答音声の出力により、認識辞書を読み出す際に長く無音時間が続くことを防止する。   In recent years, a voice interaction system has been developed in which a voice signal input via a terminal is transmitted to a server via a communication network, the server selects desired content according to the voice signal, and the content is returned to the terminal. ing. In such a spoken dialogue system, when the load on the server exceeds a certain level, or when the communication network is congested, the delay in returning information from the server to the terminal may increase. there were. When the delay increases, the response time during which the terminal does not respond increases from the voice input by the user until the terminal presents the content corresponding to the voice to the user. For this reason, the user feels anxiety or the user's discomfort increases, and as a result, the user's convenience for the voice interaction system may be reduced. In view of this, there has been proposed a voice interaction device that predicts the time required for reading the recognition dictionary based on the size information of the recognition dictionary and outputs a response voice having a length corresponding to the predicted time to a speaker (for example, , See Patent Document 1). This spoken dialogue apparatus prevents such a long silence period from being read when the recognition dictionary is read out by outputting such a response voice.

特開2001−22384号公報JP 2001-22384 A

しかしながら、端末とサーバ間の通信回線の通信状態またはサーバの処理負荷によっても応答時間は変動する。そのため、認識辞書のサイズ情報だけでは、応答時間が正確に推定されずに、メッセージの長さが最適化されないおそれがあった。   However, the response time varies depending on the communication state of the communication line between the terminal and the server or the processing load of the server. For this reason, the response time is not accurately estimated only by the size information of the recognition dictionary, and the message length may not be optimized.

そこで本発明は、一つの側面として、応答時間にばらつきがあっても、応答時間中のユーザの体感品質の低下を抑制できるようにその応答時間中に再生するメッセージ音声の長さを設定できる音声対話装置を提供することを目的とする。   Therefore, according to one aspect of the present invention, even if the response time varies, the length of the message voice to be played during the response time can be set so that the deterioration of the user's quality of experience during the response time can be suppressed. An object is to provide an interactive device.

一つの実施形態によれば、音声対話装置が提供される。この音声対話装置は、音声入力部により集音されたユーザの音声を表す音声信号から所定のキーワードを抽出する音声認識部と、キーワードに応じたコンテンツを検索する検索部と、ユーザの音声の入力が終了してからユーザにコンテンツを提示するまでの応答時間の確率分布を算出する遅延分布算出部と、その確率分布に基づいて、応答時間が推定応答時間以下の場合に、推定応答時間または推定応答時間から所定のオフセットを減じた長さを持つ第1のメッセージ音声を応答時間内に再生する場合のユーザの第1の体感品質についての第1の期待値と、推定応答時間よりも応答時間が長く、応答時間内に第1のメッセージ音声と追加の第2のメッセージ音声とを再生する場合のユーザの第2の体感品質についての第2の期待値の和である評価値が最大となるように、メッセージ音声の長さを決定するメッセージ長決定部と、決定されたメッセージ音声の長さを持つ第1のメッセージのテキスト情報を生成するメッセージ生成部と、第1のメッセージのテキスト情報から第1のメッセージ音声を合成する音声合成部とを有する。   According to one embodiment, a voice interaction device is provided. This voice interactive apparatus includes a voice recognition unit that extracts a predetermined keyword from a voice signal representing a user's voice collected by the voice input unit, a search unit that searches for content according to the keyword, and a user's voice input A delay distribution calculation unit that calculates a probability distribution of response time from the end of the time until the content is presented to the user, and an estimated response time or an estimation when the response time is less than or equal to the estimated response time based on the probability distribution The first expected value for the first experience quality of the user when the first message voice having a length obtained by subtracting a predetermined offset from the response time is reproduced within the response time, and the response time than the estimated response time Is the sum of the second expected value for the second experience quality of the user when the first message voice and the additional second message voice are reproduced within the response time. A message length determination unit for determining the length of the message voice so as to maximize the value, a message generation unit for generating text information of the first message having the determined message voice length, and a first And a voice synthesizer that synthesizes the first message voice from the text information of the message.

本発明の目的及び利点は、請求項において特に指摘されたエレメント及び組み合わせにより実現され、かつ達成される。
上記の一般的な記述及び下記の詳細な記述の何れも、例示的かつ説明的なものであり、請求項のように、本発明を限定するものではないことを理解されたい。
The objects and advantages of the invention will be realized and attained by means of the elements and combinations particularly pointed out in the appended claims.
It should be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are not restrictive of the invention as claimed.

本明細書に開示された音声対話装置は、応答時間にばらつきがあっても、応答時間中のユーザの体感品質の低下を抑制できるようにその応答時間中に再生するメッセージ音声の長さを設定できる。   The voice interactive device disclosed in this specification sets the length of the message voice to be played during the response time so that the deterioration of the user's quality of experience during the response time can be suppressed even if the response time varies. it can.

一つの実施形態による音声対話システムの概略構成図である。1 is a schematic configuration diagram of a voice interaction system according to one embodiment. サーバの制御部の機能ブロック図である。It is a functional block diagram of the control part of a server. 情報源テーブルの一例を示す図である。It is a figure which shows an example of an information source table. 応答時間の推定に成功した場合のユーザの体感品質及び応答時間の推定に失敗した場合のユーザの体感品質の応答時間による変化を表す図である。It is a figure showing the change by the response time of a user's bodily sensation quality when the estimation of a response time is successful, and a user's bodily sensation quality when estimation of a response time fails. 対話制御処理の動作シーケンス図である。It is an operation | movement sequence diagram of a dialog control process. (a)は、応答時間と体感品質の関係を表す関数の一例を表す図である。(b)は、応答時間の累積確率の一例を表す図である。(c)は(a)及び(b)から求められた、応答時間の累積確率とユーザの体感品質との関係を表す図である。(A) is a figure showing an example of the function showing the relationship between response time and bodily sensation quality. (B) is a figure showing an example of the cumulative probability of response time. (C) is a figure showing the relationship between the cumulative probability of response time and the user's quality of sensation obtained from (a) and (b). 図6(c)に示された累積確率Pと体感品質との関係を表すグラフにおいて、体感品質R(P)を一定値Rとし、かつ、累積確率Pと体感品質Q(P)の関係を直線で近似したグラフを表す図である。In the graph showing the relationship between the cumulative probability P and the sensory quality shown in FIG. 6C, the sensory quality R (P) is a constant value R, and the relationship between the cumulative probability P and the sensory quality Q (P) is It is a figure showing the graph approximated by the straight line. 未延長体感品質と延長体感品質が一致する累積確率の算出に使用される各パラメータの関係を表す図である。It is a figure showing the relationship of each parameter used for calculation of the cumulative probability that unextended experience quality and extended experience quality correspond.

以下、図を参照しつつ、様々な実施形態による音声対話装置及びその音声対話装置の対話制御方法について説明する。
この音声対話装置は、端末を介してユーザが音声を入力してから、端末がその入力された音声に対する応答を行うまでの応答時間の確率分布を、過去の応答時間に基づいて推定する。そしてこの音声対話装置は、その応答時間の確率分布に基づいて、ユーザの体感品質が最も高くなるように、応答時間中に再生されるメッセージの長さを決定する。その際、この音声対話装置は、応答時間にばらつきがあっても、体感品質を統計的に高めることができるように、実際の応答時間がその推定値よりも長くなった場合に追加のメッセージを挿入する場合の体感品質も考慮する。
Hereinafter, a voice interaction device and a dialogue control method of the voice interaction device according to various embodiments will be described with reference to the drawings.
This voice interaction apparatus estimates a probability distribution of response time from when a user inputs voice through the terminal until the terminal responds to the inputted voice based on past response time. The voice interaction apparatus determines the length of the message to be reproduced during the response time based on the probability distribution of the response time so that the user's quality of experience is the highest. At that time, this voice interactive device sends an additional message when the actual response time becomes longer than the estimated value so that the quality of experience can be statistically improved even if the response time varies. Consider the quality of experience when inserting.

図1は、音声対話システムの概略構成図である。本実施形態では、音声対話システム1は、ユーザが音声を入力し、入力した音声に応じたコンテンツの提供を受けるための端末2と、端末2を介して入力された音声に応じたコンテンツを選択し、選択したコンテンツを端末2へ返信するサーバ3とを有する。   FIG. 1 is a schematic configuration diagram of a voice interaction system. In this embodiment, the voice interaction system 1 selects a terminal 2 for receiving content provided according to the input voice by the user, and a content corresponding to the voice input via the terminal 2. And a server 3 for returning the selected content to the terminal 2.

端末2とサーバ3とは、例えば、公衆通信回線といった通信ネットワーク4を介して互いに通信可能となっている。さらに、サーバ3は、通信ネットワーク4を介して、Webサーバまたはftpサーバなどの外部情報源5と通信可能となっていてもよい。なお、端末2とサーバ3とは、通信ネットワーク4とは別個の専用線などの通信回線によって接続されていてもよい。   The terminal 2 and the server 3 can communicate with each other via a communication network 4 such as a public communication line. Further, the server 3 may be able to communicate with an external information source 5 such as a Web server or an ftp server via the communication network 4. Note that the terminal 2 and the server 3 may be connected to a communication line such as a dedicated line separate from the communication network 4.

端末2は、例えば、携帯電話機、携帯情報端末、あるいは固定端末であり、音声入力部21と、音声出力部22と、通信部23と、記憶部24と、処理部25とを有する。さらに端末2は、液晶ディスプレイといった表示部(図示せず)をさらに有してもよい。   The terminal 2 is, for example, a mobile phone, a portable information terminal, or a fixed terminal, and includes a voice input unit 21, a voice output unit 22, a communication unit 23, a storage unit 24, and a processing unit 25. Further, the terminal 2 may further include a display unit (not shown) such as a liquid crystal display.

音声入力部21は、例えば、マイクロホンと、アナログ/デジタル変換器とを有する。そしてユーザが発した音声はマイクロホンによりアナログの電気信号である音声信号に変換される。そのアナログの音声信号は、アナログ/デジタル変換器により所定のサンプリング周波数でサンプリングされてデジタルの音声信号に変換された後、処理部25へ送られる。   The voice input unit 21 includes, for example, a microphone and an analog / digital converter. The voice uttered by the user is converted into an audio signal which is an analog electric signal by the microphone. The analog audio signal is sampled at a predetermined sampling frequency by an analog / digital converter, converted into a digital audio signal, and then sent to the processing unit 25.

音声出力部22は、ユーザにコンテンツを提示する出力部の一例であり、例えば、デジタル/アナログ変換器とスピーカとを有する。そして音声出力部22は、デジタル/アナログ変換器により、処理部25から受け取った音声信号をアナログ化し、そのアナログ化された音声信号がスピーカにより音声に変換され、ユーザへ向けて出力される。   The audio output unit 22 is an example of an output unit that presents content to the user, and includes, for example, a digital / analog converter and a speaker. Then, the audio output unit 22 converts the audio signal received from the processing unit 25 into an analog signal by a digital / analog converter, and the analog audio signal is converted into a sound by a speaker and output to a user.

通信部23は、端末2を通信ネットワーク4に接続するためのインターフェース回路を有する。そして通信部23は、通信ネットワーク4が準拠する通信方式に従って、処理部25から受け取った音声信号を通信ネットワーク4を介してサーバ3へ送信する。一方、通信部23は、通信ネットワーク4を介して、サーバ3から、コンテンツと、応答時間中に再生されるメッセージ音声をサーバ3から受信して処理部25へ渡す。   The communication unit 23 includes an interface circuit for connecting the terminal 2 to the communication network 4. And the communication part 23 transmits the audio | voice signal received from the process part 25 to the server 3 via the communication network 4 according to the communication system with which the communication network 4 is based. On the other hand, the communication unit 23 receives the content and the message voice reproduced during the response time from the server 3 via the communication network 4 and passes them to the processing unit 25.

記憶部24は、例えば、半導体メモリを有する。そして記憶部24は、処理部25が端末2を制御するための各種プログラム、端末2上で動作するアプリケーションプログラム及びそれらプログラムの実行に必要な各種のデータを記憶する。   The storage unit 24 includes, for example, a semiconductor memory. And the memory | storage part 24 memorize | stores the various programs for the process part 25 to control the terminal 2, the application program which operate | moves on the terminal 2, and various data required for execution of these programs.

処理部25は、一つまたは複数のプロセッサと、周辺回路とを有する。そして処理部25は、音声入力部21を介して入力された音声信号を通信部23へ出力する。また処理部25は、ユーザによる音声入力が終了すると、サーバ3から受信したメッセージ音声を音声出力部22を介して再生する。なお、処理部25は、例えば、音声入力が終了したか否かを判定するために、入力された音声信号を所定のフレーム単位で時間周波数変換することにより、フレームごとのパワースペクトルを求める。そして処理部25は、周波数帯域ごとのパワーの平均値が所定の閾値以上となったフレームの後で、そのパワーの平均値以下となるフレームが所定数以上連続すると、音声入力が終了したと判断する。   The processing unit 25 includes one or more processors and peripheral circuits. Then, the processing unit 25 outputs the audio signal input via the audio input unit 21 to the communication unit 23. When the voice input by the user is completed, the processing unit 25 reproduces the message voice received from the server 3 via the voice output unit 22. Note that the processing unit 25 obtains a power spectrum for each frame by, for example, performing time-frequency conversion on the input audio signal in units of predetermined frames in order to determine whether or not the audio input has been completed. Then, the processing unit 25 determines that the voice input is completed when a predetermined number or more of frames having the average power value or less continue after the frame in which the average power value for each frequency band is equal to or higher than the predetermined threshold value. To do.

さらに、処理部25は、メッセージ音声の再生が終了した後、サーバ3からコンテンツを受信すると、コンテンツに含まれる音声信号を音声出力部22を介して再生する。   Further, when the processing unit 25 receives the content from the server 3 after the reproduction of the message sound is completed, the processing unit 25 reproduces the sound signal included in the content via the sound output unit 22.

なお、コンテンツが画像またはビデオストリームを含む場合には、処理部25は、その画像またはビデオストリームを図示しない表示部に表示させてもよい。また処理部25は、コンテンツにテキスト情報が含まれる場合も、そのテキスト情報を表示部に表示させてもよい。
さらに、コンテンツにゲームなどのアプリケーションプログラムが含まれる場合、処理部25は、アプリケーションプログラムを実行し、その実行結果に応じた画像を表示部に表示させ、またはその実行結果に応じた音声信号を音声出力部22に再生させてもよい。
If the content includes an image or video stream, the processing unit 25 may display the image or video stream on a display unit (not shown). Further, the processing unit 25 may cause the display unit to display the text information even when the content includes text information.
Furthermore, when the application program such as a game is included in the content, the processing unit 25 executes the application program, causes the display unit to display an image corresponding to the execution result, or outputs an audio signal corresponding to the execution result. The output unit 22 may reproduce the data.

さらに、処理部25は、音声の入力が終了してからコンテンツを受信するまでの時間を実際の応答時間として計時し、その応答時間を通信部23を介してサーバ3へ送信する。   Further, the processing unit 25 measures the time from the end of voice input until the content is received as an actual response time, and transmits the response time to the server 3 via the communication unit 23.

再度図1を参照すると、音声対話装置の一例であるサーバ3は、通信部31と、記憶部32と、制御部33とを有する。   Referring again to FIG. 1, the server 3, which is an example of a voice interaction apparatus, includes a communication unit 31, a storage unit 32, and a control unit 33.

通信部31は、サーバ3を通信ネットワーク4に接続するためのインターフェース回路を有する。そして通信部31は、通信ネットワーク4が準拠する通信方式に従って、端末2から通信ネットワーク4を介して受け取った音声信号を制御部33へ渡す。さらに、通信部31は、端末2から受信した応答時間を、記憶部32に記憶させる。一方、通信部31は、制御部33から受け取ったコンテンツ及びメッセージ音声等を通信ネットワーク4を介して端末2へ送信する。さらに通信部31は、通信ネットワーク4を介して外部情報源5へ情報取得要求信号を送信し、その外部情報源5から所定のコンテンツを含むデータを受信してもよい。
なお、以下では、説明の便宜上、端末2からサーバが受信した、ユーザの音声信号を、入力音声信号と呼ぶ。
The communication unit 31 has an interface circuit for connecting the server 3 to the communication network 4. Then, the communication unit 31 passes the audio signal received from the terminal 2 via the communication network 4 to the control unit 33 in accordance with the communication method that the communication network 4 complies with. Further, the communication unit 31 stores the response time received from the terminal 2 in the storage unit 32. On the other hand, the communication unit 31 transmits the content, message voice, and the like received from the control unit 33 to the terminal 2 via the communication network 4. Further, the communication unit 31 may transmit an information acquisition request signal to the external information source 5 via the communication network 4 and receive data including predetermined content from the external information source 5.
Hereinafter, for convenience of explanation, the user's voice signal received by the server from the terminal 2 is referred to as an input voice signal.

記憶部32は、例えば、半導体メモリ、磁気記録装置または光記録装置の少なくとも一つを有する。そして記憶部32は、制御部33がサーバ3を制御するための各種プログラム、サーバ3上で動作するアプリケーションプログラム及びそれらプログラムの実行に必要な各種のデータを記憶する。例えば、記憶部32は、音声認識または音声合成に利用される各種の情報、ユーザが求める各種のコンテンツまたは外部情報源5のアドレスを記憶する。さらに記憶部32は、応答時間中に再生されるメッセージ音声の長さ及びメッセージ音声の内容を決定するために利用される各種の情報を記憶する。例えば、記憶部32は、応答時間の確率分布、応答時間とユーザの体感品質の関係を表すテーブルなどを記憶する。   The storage unit 32 includes, for example, at least one of a semiconductor memory, a magnetic recording device, and an optical recording device. And the memory | storage part 32 memorize | stores the various programs for the control part 33 to control the server 3, the application program which operate | moves on the server 3, and various data required for execution of these programs. For example, the storage unit 32 stores various information used for speech recognition or speech synthesis, various contents requested by the user, or the address of the external information source 5. Further, the storage unit 32 stores various types of information used for determining the length of the message voice reproduced during the response time and the content of the message voice. For example, the storage unit 32 stores a probability distribution of response time, a table representing the relationship between the response time and the user's experience quality, and the like.

制御部33は、一つまたは複数のプロセッサと、読み書き可能な半導体メモリと、周辺回路とを有する。そして制御部33は、入力音声信号からキーワードを抽出し、そのキーワードに基づいて、ユーザが所望するコンテンツを検索する。さらに制御部33は、応答時間の確率分布に応じて、その応答時間内に再生されるメッセージ音声の時間長を設定し、その時間長に応じたメッセージ音声を作成する。そして制御部33は、検索したコンテンツ及びメッセージ音声を端末2へ返信する。   The control unit 33 includes one or more processors, a readable / writable semiconductor memory, and a peripheral circuit. And the control part 33 extracts a keyword from an input audio | voice signal, and searches the content which a user desires based on the keyword. Furthermore, the control unit 33 sets the time length of the message voice to be reproduced within the response time according to the probability distribution of the response time, and creates the message voice according to the time length. Then, the control unit 33 returns the searched content and message voice to the terminal 2.

図2は、音声対話システムが有するサーバ3の制御部33の機能ブロック図である。制御部33は、音声認識部34と、検索部35と、遅延分布算出部36と、メッセージ長決定部37と、メッセージ生成部38と、音声合成部39とを有する。
制御部33が有するこれらの各部は、例えば、制御部33が有するプロセッサ上で動作するコンピュータプログラムにより実現される機能モジュールである。なお、制御部33が有するこれらの各部は、その各部の機能を実現する一つの集積回路としてサーバ3に実装されてもよい。
FIG. 2 is a functional block diagram of the control unit 33 of the server 3 included in the voice interaction system. The control unit 33 includes a voice recognition unit 34, a search unit 35, a delay distribution calculation unit 36, a message length determination unit 37, a message generation unit 38, and a voice synthesis unit 39.
Each of these units included in the control unit 33 is, for example, a functional module realized by a computer program that operates on a processor included in the control unit 33. Note that these units included in the control unit 33 may be mounted on the server 3 as one integrated circuit that realizes the functions of the units.

音声認識部34は、入力音声信号から、予め登録されている、コンテンツ検索用のキーワードを抽出する。キーワードを抽出するために、音声認識部34は、音響モデルを用いる方法または動的時間伸縮法を用いる方法など、様々な音声認識方法の何れを利用してもよい。本実施形態では、音声認識部34は、認識対象となるキーワードを格納した単語辞書と、予め作成された音響モデルを用いてキーワードを抽出する。   The voice recognition unit 34 extracts a keyword for content search registered in advance from the input voice signal. In order to extract a keyword, the speech recognition unit 34 may use any of various speech recognition methods such as a method using an acoustic model or a method using a dynamic time stretching method. In the present embodiment, the speech recognition unit 34 extracts a keyword using a word dictionary storing a keyword to be recognized and an acoustic model created in advance.

音響モデルは、例えば、キーワードの発音を音素または音節といった単位音ごとに区分し、その単位音の順序に従って、その単位音に対応する単位音響モデルを連結することにより生成され、予め、記憶部32に記憶される。この単位音響モデル及び音響モデルは、例えば、それぞれ、隠れマルコフモデル(Hidden Markov Model, HMM)により表される。音声認識部34は、単位音響モデルを表すHMMを用いて、入力音声信号の所定の区間から抽出される1以上の特徴量に基づいて、特定の単位音に対するその所定の区間が推定音である確率または尤度を算出する。   The acoustic model is generated, for example, by dividing the pronunciation of a keyword into unit sounds such as phonemes or syllables, and connecting unit acoustic models corresponding to the unit sounds in accordance with the order of the unit sounds. Is remembered. The unit acoustic model and the acoustic model are represented by, for example, a hidden Markov model (HMM). The speech recognition unit 34 uses an HMM representing a unit acoustic model, and based on one or more feature amounts extracted from a predetermined section of the input speech signal, the predetermined section for a specific unit sound is an estimated sound. Probability or likelihood is calculated.

具体的に、音声認識部34は、入力音声信号から、音声認識に用いられる特徴量を抽出する。そのために、音声認識部34は、例えば、入力音声信号を所定のフレーム長を持つフレームごとに高速フーリエ変換といった周波数変換を行ってフレームごとのスペクトルを求める。なお、フレーム長は、例えば、10ミリ秒〜100ミリ秒程度に設定される。そして音声認識部34は、そのスペクトルに基づいて、特徴量として、例えば、フレームごとに、メル周波数ケプストラム係数(Mel Frequency Cepstral Coefficient、MFCC)またはフレーム間のパワーの差分値を求める。音声認識部34は、特徴量としてMFCCを算出する場合、例えば、各フレームのスペクトルをメル尺度のパワー値に変換した後、そのパワー値の対数に対して再度離散コサイン変換などの周波数変換を行うことによりMFCCを算出する。また音声認識部34は、特徴量としてフレーム間のパワーの差分値を求める場合、例えば、各フレームの周波数帯域ごとのスペクトルの2乗の和をパワーとして求め、連続する二つのフレーム間でパワーの差を求めることによりその差分値を求める。   Specifically, the voice recognition unit 34 extracts feature amounts used for voice recognition from the input voice signal. For this purpose, the speech recognition unit 34 obtains a spectrum for each frame by performing frequency conversion such as fast Fourier transform for each frame having a predetermined frame length on the input speech signal. The frame length is set to, for example, about 10 milliseconds to 100 milliseconds. Based on the spectrum, the speech recognition unit 34 obtains, for example, a Mel Frequency Cepstral Coefficient (MFCC) or a power difference value between frames as a feature amount for each frame. For example, when the MFCC is calculated as the feature amount, the speech recognition unit 34 converts the spectrum of each frame into a mel scale power value, and then performs frequency conversion such as discrete cosine conversion again on the logarithm of the power value. To calculate the MFCC. Further, when obtaining the power difference value between the frames as the feature amount, the voice recognition unit 34 obtains, for example, the sum of the squares of the spectrum for each frequency band of each frame as the power, and the power between the two consecutive frames. The difference value is obtained by obtaining the difference.

なお、音声認識部34は、特徴量として、音響モデルを用いた音声認識で用いられる他の様々な特徴量(例えば、基本周波数)の何れかを抽出してもよい。また音声認識部34は、入力音声信号から、フレームごとに複数の種類の特徴量を抽出してもよい。   Note that the speech recognition unit 34 may extract any of various other feature amounts (for example, fundamental frequency) used in speech recognition using an acoustic model as the feature amount. The speech recognition unit 34 may extract a plurality of types of feature amounts for each frame from the input speech signal.

音声認識部34は、音響モデルと、1以上のフレームから得られた特徴量の組とを照合することによって、単語辞書に含まれるキーワードごとに、単位音を連結して生成したキーワードごとの尤度を求める。そして音声認識部34は、尤度が高い方から順に所定数のキーワードを抽出する。所定数は、例えば、1〜5程度に設定される。そして音声認識部34は、キーワードが検出される度に、そのキーワードを検索部35及びメッセージ生成部38へ通知する。   The speech recognition unit 34 collates the acoustic model with a set of feature values obtained from one or more frames, thereby for each keyword included in the word dictionary, the likelihood for each keyword generated by concatenating unit sounds. Find the degree. Then, the voice recognition unit 34 extracts a predetermined number of keywords in descending order of likelihood. The predetermined number is set to about 1 to 5, for example. Then, every time a keyword is detected, the voice recognition unit 34 notifies the search unit 35 and the message generation unit 38 of the keyword.

検索部35は、キーワードと情報源との対応関係を表す情報源テーブルを参照することにより、検出されたキーワードに対応する情報源を特定する。そして検索部35は、その情報源からキーワードに対応するコンテンツを取得する。なお、コンテンツは、例えば、テキスト情報、画像データ及びアプリケーションプログラムのうちの少なくとも一つを含む。   The search unit 35 specifies an information source corresponding to the detected keyword by referring to an information source table representing the correspondence relationship between the keyword and the information source. And the search part 35 acquires the content corresponding to a keyword from the information source. The content includes, for example, at least one of text information, image data, and an application program.

図3は、情報源テーブルの一例を示す図である。情報源テーブル300の左側の列の各欄には、少なくとも一つのキーワードが格納されている。一方、情報源テーブル300の右側の列の各欄には、同じ行に示されたキーワードに対応する情報源を示すアドレス情報が格納されている。このアドレス情報は、例えば、外部情報源5を特定するためのユニフォームリソースロケータ(Uniform Resource Locator, URL)、または記憶部32に記憶されている、特定のコンテンツを含むファイル名である。なお、一つのアドレス情報が、複数のキーワードと関連付けられていてもよく、また、一つのキーワードが、複数のアドレス情報と関連付けられていてもよい。   FIG. 3 is a diagram illustrating an example of the information source table. At least one keyword is stored in each column in the left column of the information source table 300. On the other hand, each column in the right column of the information source table 300 stores address information indicating information sources corresponding to the keywords shown in the same row. This address information is, for example, a uniform resource locator (URL) for specifying the external information source 5 or a file name including specific content stored in the storage unit 32. One address information may be associated with a plurality of keywords, and one keyword may be associated with a plurality of address information.

検索部35は、情報源テーブルを参照して、入力されたキーワードに対応するアドレス情報を特定する。そして検索部35は、アドレス情報に示された情報源にアクセスして、キーワードに対応するコンテンツを取得する。例えば、検索部35は、アドレス情報に示されたファイル名を持つファイルを記憶部32から読み込む。あるいは、検索部35は、アドレス情報に示されたURLで特定される外部情報源5から、通信ネットワーク4を介して、そのURLで特定されるウェブページを受信する。そして検索部35は、受信したウェブページのソースを解析して、ウェブページ内で画面に表示されるテキスト情報及び画像情報をコンテンツとして抽出する。
検索部35は、コンテンツを通信部31へ出力する。また、コンテンツにテキスト情報が含まれている場合には、検索部35は、そのテキスト情報を音声合成部39へ渡す。
The search unit 35 refers to the information source table and identifies address information corresponding to the input keyword. And the search part 35 accesses the information source shown by address information, and acquires the content corresponding to a keyword. For example, the search unit 35 reads a file having the file name indicated in the address information from the storage unit 32. Alternatively, the search unit 35 receives the web page specified by the URL from the external information source 5 specified by the URL indicated in the address information via the communication network 4. And the search part 35 analyzes the source | sauce of the received web page, and extracts the text information and image information which are displayed on a screen within a web page as a content.
The search unit 35 outputs the content to the communication unit 31. If the text information is included in the content, the search unit 35 passes the text information to the speech synthesizer 39.

遅延分布算出部36は、制御部33が入力音声信号を受け取ると、直近の一定期間の応答時間の履歴から、応答時間ごとの頻度分布を求める。そして遅延分布算出部36は、応答時間ごとの頻度を、その一定期間中の応答時間の総数で除して応答時間ごとの発生確率を算出することにより、応答時間の確率分布を求める。なお、一定期間は、例えば、10分間〜1時間に設定される。   When the control unit 33 receives the input audio signal, the delay distribution calculation unit 36 obtains a frequency distribution for each response time from the response time history of the latest fixed period. Then, the delay distribution calculation unit 36 calculates the occurrence probability for each response time by dividing the frequency for each response time by the total number of response times during the certain period, thereby obtaining the probability distribution of the response time. The certain period is set to, for example, 10 minutes to 1 hour.

本実施形態では、サーバ3は、通信ネットワーク4を介して任意のWebサーバなどからコンテンツを取得したり、そのコンテンツを通信ネットワーク4を介して端末2へ送信する。そのため、通信ネットワークの通信状態に応じて、応答時間は、例えば、数100ミリ秒〜数秒の間で変動する。通信状態は、例えば、時間帯、または時期によって変動する。また、コンテンツを提供する外部情報源5自体の処理負荷によっても応答時間は変動する。例えば、利用者が少ない夜中では、応答時間は比較的短く、かつ、そのばらつきも小さい。一方、利用者が多い時間帯である、通勤時間帯、昼休みまたは帰宅時では、応答時間は比較的長くなり、かつ、そのばらつきも大きくなる。さらに、人気のあるサイトに関連するWebサーバなどで新しいサービスの提供が開始されたり、何らかの応募期間の締め切り間際においても、応答時間は比較的長くなり、かつ、そのばらつきも大きくなる。
そこで本実施形態のように、直近の一定期間の応答時間の履歴を利用することで、遅延分布算出部36は、応答時間の確率分布の精度を向上できる。
In the present embodiment, the server 3 acquires content from an arbitrary Web server or the like via the communication network 4 or transmits the content to the terminal 2 via the communication network 4. Therefore, the response time varies between several hundred milliseconds to several seconds, for example, depending on the communication state of the communication network. The communication state varies depending on, for example, a time zone or time. The response time also varies depending on the processing load of the external information source 5 itself that provides the content. For example, in the night when there are few users, the response time is relatively short and the variation is small. On the other hand, during commuting hours, lunch breaks, or when returning home, which are times when there are many users, the response time is relatively long and the variation is also large. Furthermore, even when a new service is started on a web server related to a popular site, or when the deadline for any application period is about to expire, the response time becomes relatively long and the variation becomes large.
Therefore, as in the present embodiment, the delay distribution calculation unit 36 can improve the accuracy of the probability distribution of the response time by using the history of the response time in the latest fixed period.

遅延分布算出部36は、さらに、応答時間が短い方から順に、応答時間ごとの発生確率を積算することで、応答時間ごとに、実際の応答時間がその応答時間以下となる確率を表す累積確率を算出する。
遅延分布算出部36は、応答時間の確率分布及び累積確率分布を記憶部32に記憶する。
なお、遅延分布算出部36は、前回算出した応答分布の確率分布に、前回の算出時から今回の算出時までの間に記憶された応答時間を追加するとともに、前回の算出時には利用され、今回の算出時には利用されない応答時間を除くよう修正してもよい。このように修正して得られた確率分布を利用することで、遅延分布算出部36は、累積確率分布を求めるための処理量を減らすことができる。
The delay distribution calculation unit 36 further accumulates the occurrence probabilities for each response time in order from the shorter response time, and thus the cumulative probability representing the probability that the actual response time is equal to or less than the response time for each response time. Is calculated.
The delay distribution calculation unit 36 stores the response time probability distribution and the cumulative probability distribution in the storage unit 32.
The delay distribution calculation unit 36 adds the response time stored between the previous calculation time and the current calculation time to the probability distribution of the response distribution calculated last time, and is used during the previous calculation. You may correct so that the response time which is not utilized at the time of calculation of may be excluded. By using the probability distribution obtained by such correction, the delay distribution calculation unit 36 can reduce the processing amount for obtaining the cumulative probability distribution.

メッセージ長決定部37は、ユーザの体感品質ができるだけ高くなるように、応答時間の確率分布に基づいて、応答時間中に再生されるメッセージ音声の長さを決定する。
そのために、メッセージ長決定部37は、次式に従って算出される、応答時間の推定値Xに対応するユーザの体感品質の評価値の一例である平均体感品質S(X)が最大となるように、応答時間の推定値Xを決定する。

Figure 0006111802
ここでP(X)は、実際の応答時間が推定した応答時間X以内に収まる累積確率であり、記憶部32に記憶された応答時間の累積確率分布を参照することにより求められる。またQ(X)は、その推定応答時間Xに応じた長さを持つメッセージを応答時間内に再生する場合のユーザの体感品質である。すなわち、(1)式の右辺の第1項は、応答時間の推定に成功したときのユーザの体感品質の期待値を表す。なお、メッセージ長は、推定応答時間Xと等しくてもよく、あるいは、推定応答時間Xから所定のオフセット時間(例えば、2秒〜4秒)を減じた長さであってもよい。また、(1-P(X))は、推定応答時間Xよりも実際の応答時間が長くなる確率を表す。そしてR(X)は、推定応答時間Xよりも実際の応答時間が長くなる場合に、「しばらくお待ち下さい」といった追加のメッセージを応答時間内に挿入したときのユーザの体感品質を表す。すなわち、(1)式の右辺の第2項は、応答時間の推定に失敗したときのユーザの体感品質の期待値を表す。なお、以下では、説明の便宜上、体感品質Q(X)を未延長体感品質と呼び、体感品質R(X)を延長体感品質と呼ぶ。 The message length determination unit 37 determines the length of the message voice reproduced during the response time based on the probability distribution of the response time so that the user's experience quality is as high as possible.
Therefore, the message length determination unit 37 maximizes the average experience quality S (X), which is an example of the evaluation value of the user experience quality corresponding to the estimated value X of the response time, calculated according to the following equation. Then, the estimated value X of the response time is determined.
Figure 0006111802
Here, P (X) is a cumulative probability that falls within the estimated response time X, and is obtained by referring to the cumulative probability distribution of the response time stored in the storage unit 32. Q (X) is the quality of experience of the user when a message having a length corresponding to the estimated response time X is reproduced within the response time. That is, the first term on the right side of the equation (1) represents the expected value of the user's quality of experience when the response time is successfully estimated. The message length may be equal to the estimated response time X or may be a length obtained by subtracting a predetermined offset time (for example, 2 seconds to 4 seconds) from the estimated response time X. Further, (1-P (X)) represents the probability that the actual response time will be longer than the estimated response time X. R (X) represents the user's quality of experience when an additional message such as “Please wait for a while” is inserted within the response time when the actual response time is longer than the estimated response time X. That is, the second term on the right side of equation (1) represents the expected value of the user's experience quality when the response time estimation fails. Hereinafter, for convenience of explanation, the quality of experience Q (X) is referred to as an unextended experience quality, and the quality of experience R (X) is referred to as an extended experience quality.

図4は、応答時間の推定に成功した場合のユーザの未延長体感品質Q(X)及び応答時間の推定に失敗した場合の延長体感品質R(X)の応答時間による変化を表す図である。図4において、横軸は応答時間を表し、縦軸はユーザの体感品質を表す。そしてグラフ401は、応答時間Xと未延長体感品質Q(X)の関係を表し、グラフ402は、応答時間Xと延長体感品質R(X)の関係を表す。なお、未延長体感品質Q(X)及び延長体感品質R(X)は、例えば、予め実験により、応答時間を様々に変えたときの体感品質を、複数のユーザが主観評価した結果により求められる。そして体感品質は、例えば、mean opinion score(MOS)値として表される。   FIG. 4 is a diagram illustrating a change in response time of the user's unextended experience quality Q (X) when the response time is successfully estimated and the extended experience quality R (X) when the response time is unsuccessful. . In FIG. 4, the horizontal axis represents response time, and the vertical axis represents the user's quality of experience. The graph 401 represents the relationship between the response time X and the unextended experience quality Q (X), and the graph 402 represents the relationship between the response time X and the extended experience quality R (X). The unextended experience quality Q (X) and the extended experience quality R (X) are obtained from the results of subjective evaluation of the experience quality when the response time is variously changed by, for example, experiments in advance. . The quality of experience is expressed as, for example, a mean opinion score (MOS) value.

一般に、応答時間が長くなるほど、ユーザの体感品質は低下する。そのため、グラフ401に示されるように、応答時間に応じたメッセージを再生する場合のユーザの未延長体感品質Q(X)は、応答時間が長くなるにつれてほぼ単調減少する。また、一般に、応答時間内に、本来のメッセージの他に追加でメッセージが挿入されると、ユーザの体感品質は極端に低下する。この場合には、ユーザの体感品質は、応答時間の長さにはあまり影響されず、常に低くなる。そのため、グラフ402に示されるように、ユーザの延長体感品質R(X)は、応答時間によらず、ユーザの未延長体感品質Q(X)よりも低く、かつ、応答時間が短いほど、ユーザの未延長体感品質Q(X)と延長体感品質R(X)の差は大きくなる。
なお、推定された応答時間よりも実際の応答時間が長い場合に、応答時間内にメッセージの追加挿入が行われないと、システムが何の音声も出力しない無音期間が長くなるので、ユーザの体感品質は、メッセージの追加挿入がなされたときよりもさらに低下する。
In general, the longer the response time, the lower the user experience quality. Therefore, as shown in the graph 401, the user's unextended quality of experience Q (X) when a message corresponding to the response time is reproduced decreases substantially monotonically as the response time increases. In general, when an additional message is inserted in addition to the original message within the response time, the quality of experience of the user is extremely lowered. In this case, the user's quality of experience is not greatly affected by the length of the response time, and is always low. Therefore, as shown in the graph 402, the user's extended experience quality R (X) is lower than the user's non-extended experience quality Q (X) and the response time is shorter, regardless of the response time. The difference between the unextended quality of experience Q (X) and the extended quality of experience R (X) becomes large.
Note that if the actual response time is longer than the estimated response time, and if no additional message is inserted within the response time, the silent period during which the system does not output any sound will be longer, so the user experience The quality is even worse than when additional messages are inserted.

応答時間に応じたユーザの未延長体感品質Q(X)、延長体感品質R(X)を求めるために、例えば、応答時間のサンプル点ごとのユーザの未延長体感品質Q(X)、延長体感品質R(X)を表す参照テーブルが、記憶部32に予め記憶される。そしてメッセージ長決定部37は、その参照テーブルを参照することにより、応答時間Xに応じたユーザの未延長体感品質Q(X)、延長体感品質R(X)を求めればよい。   In order to obtain the user's unextended experience quality Q (X) and the extended experience quality R (X) according to the response time, for example, the user's unextended experience quality Q (X) and the extended experience experience for each sample point of the response time. A reference table representing the quality R (X) is stored in the storage unit 32 in advance. Then, the message length determination unit 37 may obtain the user's unextended experience quality Q (X) and extended experience quality R (X) corresponding to the response time X by referring to the reference table.

メッセージ長決定部37は、応答時間の推定値Xを変化させつつ、その推定値Xに応じた累積確率P(X)、未延長体感品質Q(X)、延長体感品質R(X)を求めることで、(1)式に従って、その推定値Xに応じたユーザの平均体感品質S(X)を算出する。メッセージ長決定部37は、ユーザの平均体感品質S(X)が最大となる応答時間の推定値Xmax(以下、便宜上、品質最大応答時間と呼ぶ)を求める。なお、メッセージ長決定部37は、勾配法といった、最適解算出手法を利用して、推定値Xmaxを算出してもよい。そしてメッセージ長決定部37は、品質最大応答時間Xmaxに応じてメッセージ長を決定する。なお、メッセージ長は、品質最大応答時間Xmaxと等しくてもよく、あるいは、メッセージ長は、上記のように、品質最大応答時間Xmaxから所定のオフセット時間を減じた値に設定されてもよい。   The message length determination unit 37 calculates the cumulative probability P (X), the unextended experience quality Q (X), and the extended experience quality R (X) according to the estimated value X while changing the estimated value X of the response time. Thus, the average experience quality S (X) of the user corresponding to the estimated value X is calculated according to the equation (1). The message length determination unit 37 obtains an estimated value Xmax of response time (hereinafter, referred to as “maximum quality response time” for the sake of convenience) that maximizes the average experience quality S (X) of the user. Note that the message length determination unit 37 may calculate the estimated value Xmax using an optimal solution calculation method such as a gradient method. Then, the message length determination unit 37 determines the message length according to the maximum quality response time Xmax. The message length may be equal to the quality maximum response time Xmax, or the message length may be set to a value obtained by subtracting a predetermined offset time from the quality maximum response time Xmax as described above.

メッセージ長決定部37は、決定したメッセージ長をメッセージ生成部38へ通知する。   The message length determination unit 37 notifies the message generation unit 38 of the determined message length.

メッセージ生成部38は、メッセージ長決定部37から通知されたメッセージ長に応じたメッセージ音声の元となるメッセージのテキスト情報を生成する。   The message generation unit 38 generates text information of a message that is a source of message voice corresponding to the message length notified from the message length determination unit 37.

本実施形態では、メッセージ生成部38は、予め登録された複数の定型メッセージと入力されたキーワードの組み合わせにより、メッセージのテキスト情報を作成する。定型メッセージは、例えば、「です」、「をお伝えいたします」といった、キーワードに後続するメッセージであり、記憶部32に予め記憶される。また記憶部32には、定型メッセージと、その定型メッセージの時間長との対応関係を表す定型メッセージテーブルが記憶される。そしてメッセージ生成部38は、メッセージ音声の長さから、入力されたキーワードの長さを減じた残りを定型メッセージの時間長に設定する。そしてメッセージ生成部38は、定型メッセージテーブルを参照することにより、設定された時間長に最も近い時間長を持つ定型メッセージを選択する。メッセージ生成部38は、入力されたキーワードと定型メッセージを組み合わせること、例えば、定型メッセージ中の指定された位置にキーワードを挿入することで、メッセージのテキスト情報を作成する。例えば、入力されたキーワードが「ニュース」であり、選択された定型メッセージが「をお伝えいたします」であれば、メッセージ生成部38は、「ニュースをお伝えいたします」をメッセージのテキスト情報とする。
メッセージ生成部38は、メッセージのテキスト情報を音声合成部39へ通知する。さらに、制御部33が入力音声信号を受け取ってからメッセージ音声の長さに相当する時間が経過しても、コンテンツを端末2へ送信する準備が整わない場合には、メッセージ生成部38は、追加のメッセージのテキスト情報を音声合成部39へ通知する。
In the present embodiment, the message generator 38 creates message text information by combining a plurality of pre-registered standard messages and input keywords. The standard message is a message that follows the keyword such as “is” or “I will tell you” and is stored in the storage unit 32 in advance. In addition, the storage unit 32 stores a fixed message table representing the correspondence between a fixed message and the time length of the fixed message. Then, the message generation unit 38 sets the remaining time obtained by subtracting the length of the input keyword from the length of the message voice as the time length of the standard message. Then, the message generator 38 selects a fixed message having a time length closest to the set time length by referring to the fixed message table. The message generation unit 38 creates the text information of the message by combining the input keyword and the standard message, for example, by inserting the keyword at a specified position in the standard message. For example, if the input keyword is “news” and the selected standard message is “I will tell you”, the message generator 38 will use “I will tell you the news” as the text information of the message.
The message generator 38 notifies the text synthesizer 39 of the text information of the message. Further, when the time corresponding to the length of the message voice has elapsed after the control unit 33 receives the input voice signal, when the content is not ready to be transmitted to the terminal 2, the message generation unit 38 adds Is sent to the speech synthesizer 39.

なお、変形例によれば、メッセージ生成部38は、決定されたメッセージ音声の長さを持つ定型メッセージそのものを、メッセージのテキスト情報としてもよい。この場合には、定型メッセージは、例えば、「少々お待ち下さい」、あるいは「ただいま検索中です」といった、定型メッセージ単独で意味を持つメッセージとなる。   Note that according to the modification, the message generation unit 38 may use the fixed message itself having the determined message voice length as the text information of the message. In this case, the fixed message is a message having meaning only by the fixed message, for example, “Please wait for a while” or “Now searching”.

音声合成部39は、コンテンツに含まれるテキストの合成音声信号を作成する。また音声合成部39は、応答時間中に再生されるメッセージのテキスト情報に基づいて、メッセージ音声を合成する。
音声合成部39は、先ず、音声の合成対象となるテキストを表音情報に変換する。表音情報は、テキストに含まれる原文の読みなどを表す情報であり、例えば、原文の読みをカタカナ文字で表し、さらにアクセントの位置及び区切りの位置を追加した情報である。
The voice synthesizer 39 creates a synthesized voice signal of text included in the content. The voice synthesizer 39 synthesizes the message voice based on the text information of the message reproduced during the response time.
The speech synthesizer 39 first converts the text to be synthesized into speech into phonetic information. The phonetic information is information representing the reading of the original text included in the text. For example, the phonetic information is information in which the reading of the original text is expressed by katakana characters, and further the position of the accent and the position of the break are added.

音声合成部39は、テキストを表音情報に変換するために、記憶部32に記憶されている言語辞書を読み込む。言語辞書には、例えば、テキスト情報中に出現すると想定される様々な単語、その単語の読み、品詞及び活用形などが登録されている。そして音声合成部39は、例えば、その言語辞書を用いて、テキストに含まれる原文に対して形態素解析を行って、原文中のテキストの読み、アクセントの位置及び区切りの位置を決定する。その際、音声合成部39は、例えば、原文中で句読点が設定された位置を区切りの位置とする。   The speech synthesis unit 39 reads a language dictionary stored in the storage unit 32 in order to convert text into phonetic information. In the language dictionary, for example, various words assumed to appear in the text information, readings of the words, parts of speech, and utilization forms are registered. For example, the speech synthesizer 39 performs morphological analysis on the original sentence included in the text using the language dictionary, and determines the reading of the text in the original sentence, the position of the accent, and the position of the break. At that time, for example, the speech synthesizer 39 sets a position where a punctuation mark is set in the original text as a break position.

音声合成部39は、形態素解析として、例えば、動的計画法を用いる方法を利用できる。そして音声合成部39は、各単語の読み、アクセントの位置及び区切りの位置に応じて表音情報を作成する。   The speech synthesis unit 39 can use, for example, a method using dynamic programming as the morphological analysis. Then, the speech synthesizer 39 creates phonetic information according to the reading of each word, the accent position, and the break position.

次に、音声合成部39は、表音情報に基づいて、合成音声を生成する際の目標韻律を生成する。そのために、音声合成部39は、記憶部32から複数の韻律辞書を読み込む。この韻律辞書には、時間経過に応じた声の高さと音素長の変化を表す韻律モデルが格納されている。そして音声合成部39は、韻律辞書の中から、文中の位置または表音情報に示されたアクセントの位置などに最も一致する韻律モデルを適用する。そして音声合成部39は、適用される韻律モデル及び予め設定された合成パラメータに従って、表音情報に対応した目標韻律を作成する。なお、合成パラメータは、例えば、話速を表すパラメータと声の高さを表すパラメータとを含む。さらに、合成パラメータは、抑揚、音量などを表すパラメータを含んでいてもよい。また目標韻律は、音声波形を決定する単位となる音素ごとに、音素の長さ及びピッチ周波数を含む。さらに、目標韻律は個々の音素の波形の振幅情報を含んでいてもよい。なお、音素は、例えば、一つの母音あるいは一つの子音とすることができる。   Next, the speech synthesizer 39 generates a target prosody for generating synthesized speech based on the phonetic information. For this purpose, the speech synthesis unit 39 reads a plurality of prosodic dictionaries from the storage unit 32. This prosodic dictionary stores prosodic models representing changes in voice pitch and phoneme length over time. Then, the speech synthesizer 39 applies the prosodic model that most closely matches the position in the sentence or the accent position indicated in the phonetic information from the prosodic dictionary. Then, the speech synthesizer 39 creates a target prosody corresponding to the phonetic information in accordance with the applied prosodic model and preset synthesis parameters. Note that the synthesis parameters include, for example, a parameter representing speech speed and a parameter representing voice pitch. Furthermore, the synthesis parameter may include a parameter representing inflection, volume, and the like. The target prosody includes the phoneme length and the pitch frequency for each phoneme that is a unit for determining a speech waveform. Further, the target prosody may include amplitude information of individual phoneme waveforms. Note that the phoneme can be, for example, one vowel or one consonant.

目標韻律が決定されると、音声合成部39は、例えば、vocoder方式または波形編集方式によって合成音声信号を作成する。
音声合成部39は、音素ごとに、目標韻律の音素長及びピッチ周波数に最も近い音声波形を、例えばパターンマッチングにより音声波形辞書に登録されている複数の音声波形の中から選択する。そのために、音声合成部39は、記憶部32から音声波形辞書を読み込む。音声波形辞書は、複数の音声波形及び各音声波形の識別番号を記録する。また音声波形は、例えば、一人以上のナレータが様々なテキストを読み上げた様々な音声を録音した音声信号から、音素単位で取り出された波形信号である。
さらに、音声合成部39は、音素ごとに選択された音声波形を目標韻律に沿って接続できるようにするため、それら選択された音声波形と目標韻律に示された対応する音素の波形パターンとのずれ量を、波形変換情報として算出してもよい。
音声合成部39は、音素ごとに選択された音声波形の識別番号を含む波形生成情報を作成する。波形生成情報は、波形変換情報をさらに含んでもよい。
When the target prosody is determined, the speech synthesizer 39 creates a synthesized speech signal by, for example, a vocoder method or a waveform editing method.
For each phoneme, the speech synthesizer 39 selects a speech waveform closest to the phoneme length and pitch frequency of the target prosody from, for example, a plurality of speech waveforms registered in the speech waveform dictionary by pattern matching. For this purpose, the speech synthesizer 39 reads the speech waveform dictionary from the storage unit 32. The speech waveform dictionary records a plurality of speech waveforms and an identification number of each speech waveform. The voice waveform is, for example, a waveform signal extracted in units of phonemes from voice signals obtained by recording various voices in which one or more narrators read various texts.
Furthermore, the speech synthesizer 39 connects the selected speech waveform and the waveform pattern of the corresponding phoneme shown in the target prosody so that the speech waveform selected for each phoneme can be connected along the target prosody. The deviation amount may be calculated as waveform conversion information.
The speech synthesizer 39 creates waveform generation information including the identification number of the speech waveform selected for each phoneme. The waveform generation information may further include waveform conversion information.

音声合成部39は、波形生成情報に基づいて合成音声信号を作成する。そのために、音声合成部39は、波形生成情報に含まれる各音素の音声波形の識別番号に対応する音声波形信号を記憶部32に保存されている音声波形辞書から読み込む。そして音声合成部39は、各音声波形信号を連続的に接続することにより、合成音声信号を作成する。なお、波形生成情報に波形変換情報が含まれている場合、音声合成部39は、各音声波形信号を、対応する音素について求められた波形変換情報に従って補正して音声波形信号を連続的に接続することにより、合成音声信号を作成する。
制御部33は、音声合成部39により生成されたメッセージ音声を通信部31及び通信ネットワーク4を介して端末2へ出力する。その後、制御部33は、コンテンツに含まれるテキストの合成音声信号を通信部31及び通信ネットワーク4を介して端末2へ出力する。
また制御部33は、入力音声信号を受け取ってからメッセージ音声の長さに相当する時間が経過しても、コンテンツの合成音声信号を端末2へ送信する準備が整わない場合、追加メッセージの音声信号を通信部31及び通信ネットワーク4を介して端末2へ出力する。
The voice synthesizer 39 creates a synthesized voice signal based on the waveform generation information. For this purpose, the speech synthesizer 39 reads the speech waveform signal corresponding to the speech waveform identification number of each phoneme included in the waveform generation information from the speech waveform dictionary stored in the storage unit 32. Then, the speech synthesizer 39 creates a synthesized speech signal by connecting each speech waveform signal continuously. When the waveform conversion information is included in the waveform generation information, the speech synthesizer 39 continuously connects the speech waveform signals by correcting each speech waveform signal according to the waveform conversion information obtained for the corresponding phoneme. By doing so, a synthesized speech signal is created.
The control unit 33 outputs the message voice generated by the voice synthesis unit 39 to the terminal 2 via the communication unit 31 and the communication network 4. Thereafter, the control unit 33 outputs a synthesized voice signal of text included in the content to the terminal 2 via the communication unit 31 and the communication network 4.
If the control unit 33 is not ready to transmit the synthesized audio signal of the content to the terminal 2 even after the time corresponding to the length of the message audio has elapsed after receiving the input audio signal, the audio signal of the additional message Is output to the terminal 2 via the communication unit 31 and the communication network 4.

図5は、音声対話システム1における対話制御処理の動作シーケンス図である。
先ず、端末2の処理部25は、音声入力部21を介してユーザが発した音声に対応する入力音声信号を取得する(ステップS101)。そして処理部25は、入力音声信号を、通信部23及び通信ネットワーク4を介してサーバ3へ送信する。また処理部25は、入力音声信号が終了した時点からの経過時間の計時を開始する。
FIG. 5 is an operation sequence diagram of dialogue control processing in the voice dialogue system 1.
First, the processing unit 25 of the terminal 2 acquires an input voice signal corresponding to the voice uttered by the user via the voice input unit 21 (step S101). Then, the processing unit 25 transmits the input audio signal to the server 3 via the communication unit 23 and the communication network 4. In addition, the processing unit 25 starts measuring the elapsed time from the time when the input audio signal ends.

サーバ3は、入力音声信号を受信すると、制御部33の音声認識部34により、入力音声信号に含まれるキーワードを抽出する(ステップS102)。   When the server 3 receives the input voice signal, the voice recognition unit 34 of the control unit 33 extracts keywords included in the input voice signal (step S102).

そして制御部33の遅延分布算出部36は、直近の一定期間の応答時間の履歴に基づいて、応答時間の累積確率分布を求める(ステップS103)。そして遅延分布算出部36は、応答時間の累積確率分布を記憶部32に記憶する。   Then, the delay distribution calculation unit 36 of the control unit 33 obtains the cumulative probability distribution of the response time based on the response time history of the latest fixed period (step S103). Then, the delay distribution calculation unit 36 stores the cumulative probability distribution of response times in the storage unit 32.

制御部33のメッセージ長決定部37は、未延長体感品質の期待値と延長体感品質の期待値の和である平均体感品質が最大となるように、メッセージ長を決定する(ステップS104)。
制御部33のメッセージ生成部38は、決定されたメッセージ長に応じて、応答時間中に再生されるメッセージのテキスト情報を求める(ステップS105)。
The message length determination unit 37 of the control unit 33 determines the message length so that the average experience quality, which is the sum of the expected value of the unexpanded experience quality and the expected value of the extended experience quality, is maximized (step S104).
The message generation unit 38 of the control unit 33 obtains text information of a message that is reproduced during the response time according to the determined message length (step S105).

制御部33の音声合成部39は、メッセージのテキスト情報に基づいて、メッセージの音声を合成する(ステップS106)。そしてサーバ3は、合成されたメッセージ音声を端末2へ出力する。またサーバ3は、必要に応じて、追加メッセージの音声を合成し、合成された追加メッセージ音声も端末2へ出力する。   The voice synthesis unit 39 of the control unit 33 synthesizes the voice of the message based on the text information of the message (step S106). Then, the server 3 outputs the synthesized message voice to the terminal 2. Further, the server 3 synthesizes the voice of the additional message as necessary, and outputs the synthesized additional message voice to the terminal 2.

端末2の処理部25は、音声出力部22にメッセージ音声を再生させる(ステップS107)。また処理部25は、メッセージ音声の再生が終了しても、コンテンツの合成音声信号を受信しない場合、追加メッセージの音声を再生させる。なお、処理部25は、コンテンツの合成音声信号を受信するまで、繰り返し追加メッセージの音声を再生させてもよい。   The processing unit 25 of the terminal 2 causes the voice output unit 22 to reproduce the message voice (step S107). Further, the processing unit 25 reproduces the voice of the additional message when the synthesized voice signal of the content is not received even after the reproduction of the message voice is finished. Note that the processing unit 25 may repeatedly reproduce the voice of the additional message until the synthesized voice signal of the content is received.

一方、制御部33の検索部35は、キーワードに対応する情報源のアドレス情報を特定する(ステップS108)。そして検索部35は、そのアドレス情報で示された情報源からコンテンツを取得する(ステップS109)。   On the other hand, the search unit 35 of the control unit 33 specifies the address information of the information source corresponding to the keyword (step S108). Then, the search unit 35 acquires content from the information source indicated by the address information (step S109).

音声合成部39は、コンテンツに含まれるテキストに対応する音声信号を合成する(ステップS110)。そしてサーバ3は、コンテンツ及びそのコンテンツに含まれるテキストの合成音声信号を端末2へ通知する。
端末2の処理部25は、コンテンツ及びそのコンテンツに含まれるテキストの合成音声信号を受信すると、その合成音声信号を音声出力部22に再生させる(ステップS111)。
そして音声対話システム1は、対話制御処理を終了する。
The voice synthesizer 39 synthesizes a voice signal corresponding to the text included in the content (step S110). Then, the server 3 notifies the terminal 2 of the synthesized speech signal of the content and the text included in the content.
When receiving the content and the synthesized speech signal of the text included in the content, the processing unit 25 of the terminal 2 causes the speech output unit 22 to reproduce the synthesized speech signal (step S111).
Then, the voice dialogue system 1 ends the dialogue control process.

以上に説明してきたように、この音声対話装置は、応答時間中に再生されるメッセージ音声の長さを、応答時間の確率分布と応答時間の推定に失敗した場合にメッセージを追加挿入したときの体感品質とを考慮して、体感品質が最も高くなるように決定する。そのため、この音声対話装置は、応答時間がばらついても、メッセージ音声の長さを、統計的にユーザの体感品質が最良となるように設定できる。   As described above, this voice interactive apparatus is configured to determine the length of the message voice reproduced during the response time when the message is additionally inserted when the probability distribution of the response time and the estimation of the response time fail. Considering the experience quality, the decision is made so that the experience quality is the highest. Therefore, even if the response time varies, this voice interaction device can set the length of the message voice so that the user's quality of experience is statistically best.

なお、サーバ3と端末2間の通信時間がほぼ一定とみなせる場合、サーバ3の制御部33は、端末2から受け取った音声信号が終了してから、コンテンツの合成音声の送信準備ができるまでの時間を計時してもよい。そして制御部33は、その計時された時間に端末2とサーバ3間の通信時間の2倍を加算した値を応答時間として求め、その応答時間を記憶部32に記憶してもよい。   When the communication time between the server 3 and the terminal 2 can be regarded as substantially constant, the control unit 33 of the server 3 waits until the synthesized voice of the content is ready for transmission after the audio signal received from the terminal 2 is completed. You may keep time. Then, the control unit 33 may obtain a value obtained by adding twice the communication time between the terminal 2 and the server 3 to the measured time as a response time, and store the response time in the storage unit 32.

変形例によれば、メッセージ長決定部37は、メッセージ長を決定するための演算量を削減するために、以下の手順に従ってメッセージ長を決定してもよい。
この例では、メッセージ長決定部37は、先ず、応答時間の累積確率とユーザの未延長体感品質Q(X)、延長体感品質R(X)との関係を表す関係式Q(P)、R(P)を算出する。
According to the modification, the message length determination unit 37 may determine the message length according to the following procedure in order to reduce the amount of calculation for determining the message length.
In this example, the message length determination unit 37 firstly includes relational expressions Q (P), R representing the relationship between the cumulative probability of response time and the user's unextended experience quality Q (X), extended experience quality R (X). Calculate (P).

図6(a)は、応答時間と体感品質の関係を表す関数の一例を表す図である。図6(b)は、応答時間の累積確率の一例を表す図である。そして図6(c)は、図6(a)及び図6(b)から求められた、応答時間の累積確率とユーザの体感品質との関係を表す図である。図6(a)及び図6(b)において、横軸は応答時間を表す。また図6(a)において、縦軸は体感品質値を表し、図6(b)において、縦軸は累積確率を表す。そしてグラフ601は、未延長体感品質と応答時間の関係を表す。またグラフ602は、延長体感品質と応答時間の関係を表す。またグラフ603は、応答時間の累積確率を表す。また図6(c)において、横軸は累積確率を表し、縦軸は体感品質を表す。そして、グラフ604は、未延長体感品質と応答時間の累積確率との関係を表す。またグラフ605は、延長体感品質と応答時間の累積確率との関係を表す。   FIG. 6A is a diagram illustrating an example of a function representing the relationship between response time and bodily sensation quality. FIG. 6B is a diagram illustrating an example of the cumulative probability of response time. FIG. 6C is a diagram illustrating the relationship between the cumulative probability of response time and the user's quality of sensation obtained from FIGS. 6A and 6B. In FIG. 6A and FIG. 6B, the horizontal axis represents response time. In FIG. 6A, the vertical axis represents the sensation quality value, and in FIG. 6B, the vertical axis represents the cumulative probability. A graph 601 represents the relationship between the unextended experience quality and the response time. A graph 602 represents the relationship between the extended experience quality and the response time. A graph 603 represents the cumulative probability of response time. In FIG. 6C, the horizontal axis represents the cumulative probability, and the vertical axis represents the quality of experience. The graph 604 represents the relationship between the unextended experience quality and the cumulative probability of response time. A graph 605 represents the relationship between the extended experience quality and the cumulative probability of response time.

メッセージ長決定部37は、応答時間ごとに、グラフ601、602を参照して、応答時間Xに応じた未延長体感品質値Q(X)、延長体感品質R(X)を求める。またメッセージ長決定部37は、応答時間ごとに、グラフ603を参照して、応答時間Xに応じた累積確率P(X)を求める。そしてメッセージ長決定部37は、未延長体感品質値Q(X)、延長体感品質R(X)に、同じ応答時間に対応する累積確率P(X)を関連付けることで、グラフ604、605を求める。   For each response time, the message length determination unit 37 refers to the graphs 601 and 602 to obtain an unextended experience quality value Q (X) and an extended experience quality R (X) corresponding to the response time X. Further, the message length determination unit 37 refers to the graph 603 for each response time, and obtains the cumulative probability P (X) corresponding to the response time X. Then, the message length determination unit 37 obtains the graphs 604 and 605 by associating the cumulative probability P (X) corresponding to the same response time with the unextended experience quality value Q (X) and the extended experience quality R (X). .

ここで、応答時間Xと累積確率Pは1対1に対応しているので、(1)式で表されたユーザの平均体感品質S(X)は、次式のように、応答時間の累積確率Pの関数として表すこともできる。

Figure 0006111802
なお、S(P)は、応答時間の累積確率Pの関数として表されたユーザの平均体感品質であり、Q(P)は、累積確率Pの関数として表された、未延長体感品質を表す。またR(P)は、累積確率Pの関数として表された延長体感品質を表す。
(2)式及び図6(c)を参照すると、ユーザの平均体感品質S(P)は、累積確率Pを底辺、未延長体感品質Q(P)を高さとする長方形611の面積と、(1-P)を底辺、延長体感品質R(P)を高さとする長方形612の面積の和で表される。したがって、メッセージ長決定部37は、この二つの長方形611、612の和が最大となる累積確率Pを決定する。そしてメッセージ長決定部37は、累積確率Pと応答時間の関係を表す参照テーブルを参照することにより、その累積確率Pに対応する応答時間を求めればよい。 Here, since the response time X and the cumulative probability P have a one-to-one correspondence, the average experience quality S (X) of the user expressed by the formula (1) is the cumulative response time as shown in the following formula. It can also be expressed as a function of probability P.
Figure 0006111802
Note that S (P) is the average experience quality of the user expressed as a function of the cumulative probability P of response time, and Q (P) represents the unextended experience quality expressed as a function of the cumulative probability P. . R (P) represents the extended experience quality expressed as a function of the cumulative probability P.
Referring to the equation (2) and FIG. 6C, the average experience quality S (P) of the user is the area of the rectangle 611 having the cumulative probability P as the base and the unextended experience quality Q (P) as the height. It is expressed as the sum of the areas of a rectangle 612 with 1-P) as the bottom and the extended quality of experience R (P) as the height. Therefore, the message length determination unit 37 determines the cumulative probability P that maximizes the sum of the two rectangles 611 and 612. Then, the message length determination unit 37 may obtain a response time corresponding to the cumulative probability P by referring to a reference table representing the relationship between the cumulative probability P and the response time.

さらに、二つの長方形の和を最大にする累積確率Pを求める演算量を削減するために、メッセージ長決定部37は、以下に説明する近似を行ってもよい。
上述したように、延長体感品質は、応答時間にはあまり影響されないので、応答時間の累積確率にもあまり影響されない。したがって、延長体感品質と累積確率Pとの関係を表す関数は、一定の体感品質値Rを持つ1次関数として近似できる。
また、推定された応答時間に応じて決定されたメッセージ長を持つメッセージを応答時間内に再生したときのユーザの未延長体感品質Q(X)は、応答時間に対して単調減少するので、累積確率Pの増加に対しても、未延長体感品質Q(P)は単調減少する。そこで、累積確率Pと未延長体感品質Q(P)の関係は、直線近似で表される。
Furthermore, in order to reduce the amount of calculation for obtaining the cumulative probability P that maximizes the sum of the two rectangles, the message length determination unit 37 may perform approximation described below.
As described above, since the extended quality of experience is not significantly affected by the response time, it is not significantly affected by the cumulative probability of the response time. Therefore, the function representing the relationship between the extended experience quality and the cumulative probability P can be approximated as a linear function having a constant experience quality value R.
In addition, the user's unextended quality of experience Q (X) when a message having a message length determined according to the estimated response time is reproduced within the response time monotonously decreases with respect to the response time. As the probability P increases, the unextended quality of experience Q (P) decreases monotonously. Therefore, the relationship between the cumulative probability P and the unextended experience quality Q (P) is expressed by linear approximation.

図7は、図6(c)に示された累積確率Pと体感品質との関係を表すグラフにおいて、体感品質R(P)を一定値R(0)とし、かつ、累積確率Pと未延長体感品質Q(P)の関係を直線で近似したグラフを表す。横軸は累積確率を表し、縦軸は体感品質を表す。直線701は、直線近似された累積確率Pと未延長体感品質Q(P)との関係を表す。また直線702は、一定値Rとして近似された延長体感品質R(P)を表す。そしてユーザの平均体感品質S(P)は、長方形711で表される、累積確率PとQ(P)の積と、長方形712で表される、(1-P)とR(0)の積の和となる。ここで、長方形711は、体感品質値Rの線で長方形711aと長方形711bに分割される。そして長方形711aの面積P×Rと長方形712の面積(1-P)×Rの和は、累積確率Pによらず、Rとなる。そのため、平均体感品質S(P)を最大とするためには、結局、メッセージ長決定部37は、長方形711bの面積が最大となるように、累積確率Pを決定すればよい。ここで、長方形711bは、点A、B、Cを頂点とする直角三角形に内接している。ただし、点A、点Bは、それぞれ、直線701、702の切片であり、点Cは、直線701と直線702の交点である。直角三角形に内接する長方形の面積は、長方形の底辺の長さが直角三角形の底辺の長さが1/2となる場合であることが知られているので、長方形711bの面積は、累積確率Pが、交点Cにおける累積確率Pcの値の1/2であるときに最大となる。したがって、メッセージ長決定部37は、メッセージ長を決定するために、交点Cにおける累積確率Pcを算出すればよい。そしてメッセージ長決定部37は、累積確率(Pc/2)が1以下であれば、応答時間と累積確率の関係を表す参照テーブルを参照することにより、累積確率(Pc/2)に対応する応答時間を求め、その応答時間に応じてメッセージ長を決定すればよい。一方、累積確率(Pc/2)が1よりも大きければ、メッセージ長決定部37は、応答時間と累積確率の関係を表す参照テーブルを参照することにより、累積確率が1となる最短の応答時間を求め、その応答時間に応じてメッセージ長を決定すればよい。   FIG. 7 is a graph showing the relationship between the cumulative probability P and the bodily sensation quality shown in FIG. 6C, where the bodily sensation quality R (P) is a constant value R (0), and the cumulative probability P is not extended. A graph that approximates the relationship of the quality of experience Q (P) with a straight line is shown. The horizontal axis represents the cumulative probability, and the vertical axis represents the quality of experience. A straight line 701 represents the relationship between the cumulative probability P approximated by a straight line and the unextended experience quality Q (P). A straight line 702 represents the extended experience quality R (P) approximated as a constant value R. The average quality of experience S (P) of the user is represented by a rectangle 711, which is a product of cumulative probabilities P and Q (P), and a product of (1-P) and R (0), which is represented by a rectangle 712. The sum of Here, the rectangle 711 is divided into a rectangle 711a and a rectangle 711b by a line of the sensation quality value R. The sum of the area P × R of the rectangle 711a and the area (1-P) × R of the rectangle 712 is R regardless of the cumulative probability P. Therefore, in order to maximize the average quality of experience S (P), the message length determination unit 37 may determine the cumulative probability P so that the area of the rectangle 711b is maximized. Here, the rectangle 711b is inscribed in a right triangle having points A, B, and C as vertices. However, the points A and B are intercepts of the straight lines 701 and 702, respectively, and the point C is an intersection of the straight lines 701 and 702. Since the area of the rectangle inscribed in the right triangle is known to be the case where the length of the bottom of the rectangle is 1/2 of the length of the right triangle, the area of the rectangle 711b is the cumulative probability P Is the maximum when the cumulative probability Pc at the intersection C is ½ of the value. Therefore, the message length determination unit 37 may calculate the cumulative probability Pc at the intersection C in order to determine the message length. Then, if the cumulative probability (Pc / 2) is 1 or less, the message length determination unit 37 refers to the reference table that represents the relationship between the response time and the cumulative probability, thereby responding to the cumulative probability (Pc / 2). What is necessary is just to obtain | require time and to determine message length according to the response time. On the other hand, if the cumulative probability (Pc / 2) is greater than 1, the message length determination unit 37 refers to the reference table representing the relationship between the response time and the cumulative probability, so that the shortest response time at which the cumulative probability is one And the message length may be determined according to the response time.

この方式によれば、メッセージ長決定部37は、応答時間を試行錯誤的に変化させなくても、累積確率(Pc/2)に対応する応答時間だけを求めればよいので、メッセージ長を決定する際に要する演算量を大幅に削減できる。   According to this method, the message length determination unit 37 determines only the response time corresponding to the cumulative probability (Pc / 2) without changing the response time by trial and error, and thus determines the message length. The amount of computation required at the time can be greatly reduced.

なお、メッセージ長決定部37は、累積確率P(X)が最初に0よりも大きくなる最小応答時間における、未延長体感品質Q(0)と延長体感品質R(0)の差(Q(0)-R(0))を、直線701の傾きaで除した値((Q(0)-R(0))/a)に1/2を乗じて累積確率を算出してもよい。この演算結果として得られる累積確率も、累積確率(Pc/2)と同じ値となる。   Note that the message length determination unit 37 determines the difference (Q (0) between the unextended experience quality Q (0) and the extended experience quality R (0) at the minimum response time when the cumulative probability P (X) is initially greater than 0. ) −R (0)) divided by the slope a of the straight line 701 ((Q (0) −R (0)) / a) may be multiplied by 1/2 to calculate the cumulative probability. The cumulative probability obtained as a result of this calculation is also the same value as the cumulative probability (Pc / 2).

また、メッセージ長決定部37は、交点Cに対応する累積確率Pcを、応答時間の確率分布が求められる度に算出する代わりに、未延長体感品質Q(X)と延長体感品質R(X)が等しくなる応答時間Xcを求めてもよい。応答時間Xcは、応答時間Xとユーザの未延長体感品質Q(X)及び延長体感品質R(X)の関係から求められる。そしてメッセージ長決定部37は、その応答時間Xcに基づいて、累積確率Pcを求めてもよい。この場合、Xcが累積確率が1となる最短の応答時間Xm以下であれば、メッセージ長決定部37は、応答時間と累積確率の関係を表す参照テーブルを参照することで、Xcに対応する累積確率Pcを求めればよい。一方、Xcが応答時間Xmよりも大きければ、メッセージ長決定部37は、例えば、次式に従って、近似的にXcに対応する累積確率Pcを算出する。

Figure 0006111802
ここで、αは、応答時間の確率分布における、最大確率であり、Xαは、その最大確率αに相当する応答時間である。またPαは、応答時間Xαの累積確率である。 In addition, the message length determination unit 37, instead of calculating the cumulative probability Pc corresponding to the intersection C every time the probability distribution of the response time is obtained, the unextended experience quality Q (X) and the extended experience quality R (X) You may obtain | require the response time Xc from which becomes equal. The response time Xc is obtained from the relationship between the response time X, the user's unextended experience quality Q (X), and the extended experience quality R (X). Then, the message length determination unit 37 may obtain the cumulative probability Pc based on the response time Xc. In this case, if Xc is equal to or shorter than the shortest response time Xm at which the cumulative probability is 1, the message length determination unit 37 refers to the reference table representing the relationship between the response time and the cumulative probability, so that the cumulative corresponding to Xc The probability Pc may be obtained. On the other hand, if Xc is larger than the response time Xm, the message length determination unit 37 calculates the cumulative probability Pc approximately corresponding to Xc, for example, according to the following equation.
Figure 0006111802
Here, α is a maximum probability in the probability distribution of response time, and X α is a response time corresponding to the maximum probability α. P α is the cumulative probability of the response time X α .

図8は、(3)式で使用される各パラメータの関係を表す図である。図8の上側のグラフは、応答時間と累積確率の関係を表すグラフであり、図8の下側のグラフは、応答時間ごとの発生確率の分布を表すグラフである。(3)式におけるαは、累積確率分布の変曲点となる、応答時間Xαにおける累積確率分布曲線の接線801の傾きに相当する。 FIG. 8 is a diagram illustrating the relationship between the parameters used in equation (3). The upper graph in FIG. 8 is a graph representing the relationship between the response time and the cumulative probability, and the lower graph in FIG. 8 is a graph representing the distribution of the occurrence probability for each response time. (3) alpha in the equation, the inflection point of the cumulative probability distribution corresponds to the slope of the tangent 801 of the accumulated probability distribution curve in response time X alpha.

Xcは、応答時間の確率分布とは無関係に算出できるので、例えば、予め算出して記憶部32に記憶させておけばよい。そのため、この変形例では、メッセージ長決定部37は、累積確率と体感品質の関係式を求めなくても、平均体感品質を最大にする応答時間を求めることができるので、より演算量を軽減できる。   Since Xc can be calculated regardless of the probability distribution of response time, for example, it may be calculated in advance and stored in the storage unit 32. Therefore, in this modification, the message length determination unit 37 can obtain the response time that maximizes the average experience quality without obtaining the relational expression between the cumulative probability and the experience quality, so that the amount of calculation can be further reduced. .

また、一般に、応答時間が短いほど、ユーザの体感品質も高くなるので、実際の応答時間が推定された応答時間よりも短い場合には、音声対話装置は、メッセージも途中で中断してコンテンツの再生をできるだけ早めることが好ましい。
そこで他の変形例によれば、メッセージ長決定部37は、メッセージ中の中断可能位置と応答時間以下となる確率が高くなるように、メッセージ長を設定する。
In general, the shorter the response time, the higher the quality of the user's experience, so when the actual response time is shorter than the estimated response time, the voice interactive device interrupts the message halfway and It is preferable to speed up regeneration as much as possible.
Therefore, according to another modified example, the message length determination unit 37 sets the message length so that the probability of being less than the suspendable position in the message and the response time is high.

メッセージの中断可能位置は、その中断可能位置でメッセージを中断しても、ユーザにとって中断位置でのメッセージの終了が自然に聞こえる位置であることが好ましい。例えば、入力されたキーワード「ニュース」と定型メッセージ「についてお伝えします」の組み合わせによりメッセージが形成される場合、「ニュース」と「について」の間、または「について」と「お伝えします」の間でメッセージは中断可能である。   The position where the message can be interrupted is preferably a position where even if the message is interrupted at the interruptable position, the user can naturally hear the end of the message at the interrupt position. For example, when a message is formed by the combination of the input keyword "news" and the standard message "we will tell you about", between "news" and "about" or between "about" and "let me tell" The message can be interrupted.

上記の例において、もし、実際の応答時間が、「お伝えします」よりも前に終了した場合には、制御部33は、メッセージ音声を、「について」で中断し、コンテンツの音声の端末25への出力を開始できる。そのため、音声対話装置は、応答時間が短縮したことによるユーザの体感品質の向上も期待できる。一方、実際の応答時間が、「お伝えします」の途中で終了した場合には、制御部33は、メッセージ音声の出力を最後まで終えてから、コンテンツの音声を端末2へ出力するので、応答時間が短縮されても、ユーザの体感品質は向上しない。   In the above example, if the actual response time ends before “we tell you”, the control unit 33 interrupts the message voice at “about” and the content voice terminal 25. You can start output to. Therefore, the voice interaction apparatus can be expected to improve the quality of the user's experience due to the shortened response time. On the other hand, when the actual response time ends in the middle of “I will tell you”, the control unit 33 outputs the audio of the content to the terminal 2 after finishing outputting the message audio to the end. Even if the time is shortened, the quality of experience of the user is not improved.

そこで、メッセージ長決定部37は、実際の応答時間が推定された応答時間よりも短い場合に、メッセージを途中で中断できる確率ができるだけ高くなるように、定型メッセージの中断可能位置を設定する。   Therefore, the message length determination unit 37 sets a position where the fixed message can be interrupted so that the probability that the message can be interrupted is increased as much as possible when the actual response time is shorter than the estimated response time.

この変形例では、記憶部32に記憶される定型メッセージテーブルには、定型メッセージごとに、中断可能位置と、定型メッセージの開始から中断可能位置までの時間、及び連続する二つの中断可能位置間の時間が格納される。   In this modified example, the fixed message table stored in the storage unit 32 includes, for each fixed message, a breakable position, a time from the start of the fixed message to the breakable position, and two consecutive breakable positions. The time is stored.

メッセージ長決定部37は、入力されたキーワードの長さと定型メッセージの長さの合計が、応答時間の最大値以下となる定型メッセージのそれぞれについて、次式に従ってユーザの平均体感品質Eを算出する。

Figure 0006111802
ここで、Xi(i=1,2,..,n-1)は、中断可能位置に相当する時間である(なお、メッセージが入力キーワード+定型メッセージで形成される場合、X1は、入力キーワードの時間長に相当する)。なお、応答時間中に再生されるメッセージが定型メッセージのみで形成される場合には、X1は、定型メッセージの先頭から最初の中断可能位置までの時間長となる。Xnは、メッセージ全体の長さである。またP(Xi)は、応答時間開始からの時間X1の累積確率である。Q(Xi)は、応答時間がXiである場合のユーザの未延長体感品質である。そしてR(X)は、推定された応答時間がXである場合における、メッセージが追加挿入された時のユーザの延長体感品質である。
メッセージ長決定部37は、定型メッセージテーブルに格納された各定型メッセージの中断可能位置の組み合わせ{X1,X2,…,Xn}の中から、平均体感品質Eが最大となる組み合わせ{X1,X2,…,Xn}を算出すればよい。そして定型メッセージ生成部38は、その組み合わせ{X1,X2,…,Xn}からの誤差の二乗和が最小となる定型メッセージを選択を利用して、メッセージを生成すればよい。 The message length determination unit 37 calculates the average experience quality E of the user according to the following equation for each fixed message in which the total length of the input keyword and the fixed message is equal to or less than the maximum response time.
Figure 0006111802
Here, X i (i = 1, 2, .., n−1) is a time corresponding to the position where interruption is possible (in the case where the message is formed by the input keyword + standard message, X 1 is Equivalent to the time length of the input keyword). In the case where the message to be played during the response time is formed only in fixed message, X 1 is a time length from the beginning of the fixed message to the first interruptible position. X n is the length of the entire message. P (X i ) is the cumulative probability of time X 1 from the start of the response time. Q (X i ) is the user's unextended quality of experience when the response time is X i . R (X) is the extended experience quality of the user when a message is additionally inserted when the estimated response time is X.
The message length determination unit 37 selects a combination {X 1 , X 2 ,..., X n } having the maximum average experience quality E from the combinations {X 1 , X 2 ,..., X n } of the fixed messages stored in the fixed message table. 1 , X 2 ,..., X n } may be calculated. Then, the fixed message generator 38 may generate a message by using selection of a fixed message that minimizes the sum of squares of errors from the combination {X 1 , X 2 ,..., X n }.

なお、メッセージ長決定部37は、上記の変形例と同様に、応答時間の累積確率とユーザの体感品質との関係を表すグラフを求め、そのグラフに基づいてメッセージ長を決定してもよい。この場合、上記の変形例と同様に、(4)式の各項は、累積確率の差(Pi-Pi-1)を底辺とし、未延長体感品質Q(Pi)を高さとする長方形の面積に相当する。そのため、メッセージ長決定部37は、それら長方形の面積の和として平均体感品質Eを算出できるので、平均体感品質Eが最大となるメッセージの長さを決定する際の演算量を削減できる。 Note that the message length determination unit 37 may determine a message length based on a graph representing the relationship between the cumulative probability of response time and the user's experience quality, as in the above-described modification. In this case, as in the above-described modification, each term of equation (4) has the cumulative probability difference (P i -P i-1 ) as the base and the unextended experience quality Q (P i ) as the height. It corresponds to the rectangular area. Therefore, the message length determination unit 37 can calculate the average experience quality E as the sum of the areas of the rectangles, so that it is possible to reduce the amount of calculation when determining the message length that maximizes the average experience quality E.

制御部33は、端末2へメッセージ音声を送信する際、そのメッセージ音声とともに、中断可能位置を示す情報も端末2へ送信する。これにより、端末2は、メッセージ音声の再生中に、サーバ3からコンテンツの合成音声信号を受信しても、最も近い中断可能位置でメッセージ音声の再生を中断し、合成音声信号の再生を開始できる。   When transmitting the message voice to the terminal 2, the control unit 33 also transmits information indicating the interruptible position to the terminal 2 together with the message voice. Thus, even when the terminal 2 receives the synthesized voice signal of the content from the server 3 during the playback of the message voice, the terminal 2 can stop the playback of the message voice at the nearest interruptible position and start the playback of the synthesized voice signal. .

この変形例によれば、音声対話装置は、実際の応答時間が推定された応答時間よりも短い場合に、メッセージを途中で中断して、ユーザの体感品質を向上できる確率を高めることができる。   According to this modified example, when the actual response time is shorter than the estimated response time, the voice interactive device can interrupt the message halfway and increase the probability that the user's quality of experience can be improved.

さらに他の変形例によれば、端末2の処理部25が、音声認識部及び音声合成部の機能を有していてもよい。これにより、サーバ3の処理負荷が軽減される。   According to still another modification, the processing unit 25 of the terminal 2 may have functions of a speech recognition unit and a speech synthesis unit. Thereby, the processing load of the server 3 is reduced.

さらに他の変形例によれば、上記の実施形態またはその変形例における、端末が有する各部と、サーバが有する各部は、一つの装置に搭載されていてもよい。そしてその装置が有する一つまたは複数のプロセッサが、端末の処理部の各機能と、サーバの制御部の各機能を実行してもよい。   According to still another modification, each unit included in the terminal and each unit included in the server in the above-described embodiment or the modification thereof may be mounted on one device. One or a plurality of processors included in the apparatus may execute each function of the processing unit of the terminal and each function of the control unit of the server.

さらに、上記の各実施形態またはその変形例によるサーバの制御部が有する各機能をコンピュータに実現させるコンピュータプログラムは、コンピュータによって読み取り可能な記録媒体に記録された形で提供されてもよい。そのコンピュータ読取可能な記録媒体は、例えば、磁気記録媒体、光記録媒体または半導体メモリとすることができる。ただし、その記録媒体には、搬送波は含まれない。   Furthermore, a computer program that causes a computer to realize each function of the control unit of the server according to each of the above embodiments or modifications thereof may be provided in a form recorded on a computer-readable recording medium. The computer-readable recording medium can be, for example, a magnetic recording medium, an optical recording medium, or a semiconductor memory. However, the recording medium does not include a carrier wave.

ここに挙げられた全ての例及び特定の用語は、読者が、本発明及び当該技術の促進に対する本発明者により寄与された概念を理解することを助ける、教示的な目的において意図されたものであり、本発明の優位性及び劣等性を示すことに関する、本明細書の如何なる例の構成、そのような特定の挙げられた例及び条件に限定しないように解釈されるべきものである。本発明の実施形態は詳細に説明されているが、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。   All examples and specific terms listed herein are intended for instructional purposes to help the reader understand the concepts contributed by the inventor to the present invention and the promotion of the technology. It should be construed that it is not limited to the construction of any example herein, such specific examples and conditions, with respect to showing the superiority and inferiority of the present invention. Although embodiments of the present invention have been described in detail, it should be understood that various changes, substitutions and modifications can be made thereto without departing from the spirit and scope of the present invention.

以上説明した実施形態及びその変形例に関し、更に以下の付記を開示する。
(付記1)
音声入力部により集音されたユーザの音声を表す音声信号から所定のキーワードを抽出する音声認識部と、
前記キーワードに応じたコンテンツを検索する検索部と、
前記ユーザの音声の入力が終了してからユーザに前記コンテンツを提示するまでの応答時間の確率分布を算出する遅延分布算出部と、
前記確率分布に基づいて、前記応答時間が推定応答時間以下の場合に、前記推定応答時間または該推定応答時間から所定のオフセットを減じた長さを持つ第1のメッセージ音声を前記応答時間内に再生する場合のユーザの第1の体感品質についての第1の期待値と、該推定応答時間よりも前記応答時間が長く、前記応答時間内に前記第1のメッセージ音声と追加の第2のメッセージ音声とを再生する場合のユーザの第2の体感品質についての第2の期待値の和である評価値が最大となるように、メッセージ音声の長さを決定するメッセージ長決定部と、
前記メッセージ音声の長さを持つ前記第1のメッセージのテキスト情報を生成するメッセージ生成部と、
前記第1のメッセージのテキスト情報から前記第1のメッセージ音声を合成する音声合成部と、
を有する音声対話装置。
(付記2)
前記メッセージ長決定部は、前記第1の期待値を、前記確率分布に基づいて、前記応答時間が前記推定応答時間よりも短く、前記第1のメッセージ音声の少なくとも一つの中断可能位置のうちの前記応答時間以下の中断可能位置にて再生が中断された場合のユーザの体感品質の期待値と、前記応答時間内に前記第1のメッセージ音声全体が再生された場合の期待値の和として算出する、付記1に記載の音声対話装置。
(付記3)
複数の定型メッセージのそれぞれについてのテキスト情報と前記中断可能位置とを記憶する記憶部をさらに有し、
前記メッセージ生成部は、前記複数の定型メッセージの中から、前記評価値が最大となる場合の前記中断可能位置に最も近い中断可能位置を持つ定型メッセージを選択し、該選択した定型メッセージを含むように前記第1のメッセージのテキスト情報を生成する、付記2に記載の音声対話装置。
(付記4)
前記メッセージ長決定部は、応答時間と前記第1の体感品質との関係と、応答時間が短い方から順に該応答時間の発生確率を累積した応答時間の累積確率とから、前記累積確率と前記第1の体感品質との関係を線形近似した関係式を求め、前記関係式において前記第1の体感品質の値が前記第2の体感品質と等しくなる場合の累積確率の半分に相当する応答時間または当該応答時間から前記所定のオフセットを減じた時間に前記第1のメッセージ音声の長さを設定する、付記1に記載の音声対話装置。
(付記5)
前記メッセージ長決定部は、応答時間と前記第1及び第2の体感品質との関係と、応答時間が短い方から順に該応答時間の発生確率を累積した応答時間の累積確率とから、前記累積確率と前記第1の体感品質との関係を表す第1の関係式及び前記累積確率と前記第1の体感品質との関係を表す第2の関係式とを求め、前記推定応答時間に対応する第1の累積確率と、前記第1の関係式に従って求められる前記第1の累積確率に応じた前記第1の体感品質との積を前記第1の体感品質として算出し、かつ、前記第2の関係式に従って求められる前記第1の累積確率に応じた前記第2の体感品質と、1から前記第1の累積確率を減じた値との積を前記第2の体感品質として算出する、付記1に記載の音声対話装置。
(付記6)
前記音声入力部から前記音声信号が得られる度に前記応答時間を記憶する記憶部をさらに有し、
前記遅延分布算出部は、過去の所定期間内に記憶された複数の前記応答時間の度数分布から前記確率分布を算出する、付記1に記載の音声対話装置。
(付記7)
音声入力部により集音されたユーザの音声を表す音声信号から所定のキーワードを抽出し、
前記キーワードに応じたコンテンツを検索し、
前記ユーザの音声の入力が終了してからユーザに前記コンテンツを提示するまでの応答時間の確率分布を算出し、
前記確率分布に基づいて、前記応答時間が推定応答時間以下の場合に、前記推定応答時間または該推定応答時間から所定のオフセットを減じた長さを持つ第1のメッセージ音声を前記応答時間内に再生する場合のユーザの第1の体感品質についての第1の期待値と、該推定応答時間よりも前記応答時間が長く、前記応答時間内に前記第1のメッセージ音声と追加の第2のメッセージ音声とを再生する場合のユーザの第2の体感品質についての第2の期待値の和である評価値が最大となるように、メッセージ音声の長さを決定し、
前記メッセージ音声の長さを持つ前記第1のメッセージのテキスト情報を生成し、
前記第1のメッセージのテキスト情報から前記第1のメッセージ音声を合成する、
ことを含む対話制御方法。
The following supplementary notes are further disclosed regarding the embodiment described above and its modifications.
(Appendix 1)
A voice recognition unit that extracts a predetermined keyword from a voice signal representing the user's voice collected by the voice input unit;
A search unit for searching for content according to the keyword;
A delay distribution calculating unit that calculates a probability distribution of response time from the end of input of the user's voice to presentation of the content to the user;
Based on the probability distribution, when the response time is equal to or less than the estimated response time, the estimated response time or a first message voice having a length obtained by subtracting a predetermined offset from the estimated response time is included in the response time. The first expected value of the first experience quality of the user when playing back, the response time longer than the estimated response time, and the first message voice and the additional second message within the response time A message length determination unit that determines the length of the message voice so that the evaluation value that is the sum of the second expected values of the second experience quality of the user when the voice is reproduced is maximized;
A message generator for generating text information of the first message having a length of the message voice;
A speech synthesizer that synthesizes the first message speech from text information of the first message;
Spoken dialogue apparatus having
(Appendix 2)
The message length determination unit may determine the first expected value based on the probability distribution, the response time being shorter than the estimated response time, and at least one of the interruptable positions of the first message voice. Calculated as the sum of the expected value of the user's bodily sensation quality when playback is interrupted at an interruptible position below the response time and the expected value when the entire first message voice is played back within the response time The voice interactive apparatus according to appendix 1.
(Appendix 3)
A storage unit for storing text information about each of the plurality of fixed messages and the interruptible position;
The message generation unit selects a fixed message having a suspendable position closest to the suspendable position when the evaluation value is maximum from the plurality of fixed messages, and includes the selected fixed message. The spoken dialogue apparatus according to claim 2, wherein the text information of the first message is generated.
(Appendix 4)
The message length determination unit, from the relationship between the response time and the first experience quality, and the cumulative probability of the response time in which the occurrence probability of the response time is accumulated in order from the shortest response time, the cumulative probability and the A relational expression obtained by linearly approximating the relationship with the first bodily sensation quality is obtained, and a response time corresponding to half of the cumulative probability when the value of the first bodily sensation quality is equal to the second bodily sensation quality in the relational expression. Alternatively, the voice interactive device according to appendix 1, wherein the length of the first message voice is set at a time obtained by subtracting the predetermined offset from the response time.
(Appendix 5)
The message length determination unit, based on the relationship between the response time and the first and second quality of experience, and the cumulative probability of the response time obtained by accumulating the probability of occurrence of the response time in order from the shortest response time A first relational expression representing the relationship between the probability and the first bodily sensation quality and a second relational expression representing the relationship between the cumulative probability and the first bodily sensation quality are obtained and correspond to the estimated response time. A product of a first cumulative probability and the first experience quality corresponding to the first cumulative probability determined according to the first relational expression is calculated as the first experience quality, and the second The product of the second sensory quality according to the first cumulative probability obtained according to the relational expression and a value obtained by subtracting the first cumulative probability from 1 is calculated as the second sensory quality. The voice interactive apparatus according to 1.
(Appendix 6)
A storage unit that stores the response time each time the audio signal is obtained from the audio input unit;
The spoken dialogue apparatus according to appendix 1, wherein the delay distribution calculation unit calculates the probability distribution from a plurality of frequency distributions of the response times stored within a predetermined period in the past.
(Appendix 7)
A predetermined keyword is extracted from the voice signal representing the voice of the user collected by the voice input unit;
Search for content according to the keyword,
Calculating the probability distribution of response time from the end of the user's voice input to the presentation of the content to the user;
Based on the probability distribution, when the response time is equal to or less than the estimated response time, the estimated response time or a first message voice having a length obtained by subtracting a predetermined offset from the estimated response time is included in the response time. The first expected value of the first experience quality of the user when playing back, the response time longer than the estimated response time, and the first message voice and the additional second message within the response time The length of the message voice is determined so that the evaluation value that is the sum of the second expected values of the second experience quality of the user when the voice is reproduced is maximized,
Generating text information of the first message having the length of the message voice;
Synthesizing the first message voice from text information of the first message;
Dialog control method including that.

1 音声対話システム
2 端末
3 サーバ(音声対話装置)
4 通信ネットワーク
5 外部情報源
21 音声入力部
22 音声出力部
23 通信部
24 記憶部
25 処理部
31 通信部
32 記憶部
33 制御部
34 音声認識部
35 検索部
36 遅延分布算出部
37 メッセージ長決定部
38 メッセージ生成部
39 音声合成部
1 Spoken Dialogue System 2 Terminal 3 Server (Speech Dialogue Device)
DESCRIPTION OF SYMBOLS 4 Communication network 5 External information source 21 Voice input part 22 Voice output part 23 Communication part 24 Storage part 25 Processing part 31 Communication part 32 Storage part 33 Control part 34 Voice recognition part 35 Search part 36 Delay distribution calculation part 37 Message length determination part 38 Message generator 39 Speech synthesizer

Claims (5)

音声入力部により集音されたユーザの音声を表す音声信号から所定のキーワードを抽出する音声認識部と、
前記キーワードに応じたコンテンツを検索する検索部と、
前記ユーザの音声の入力が終了してからユーザに前記コンテンツを提示するまでの応答時間の確率分布を算出する遅延分布算出部と、
前記確率分布に基づいて、前記応答時間が推定応答時間以下の場合に、前記推定応答時間または該推定応答時間から所定のオフセットを減じた長さを持つ第1のメッセージ音声を前記応答時間内に再生する場合のユーザの第1の体感品質についての第1の期待値と、該推定応答時間よりも前記応答時間が長く、前記応答時間内に前記第1のメッセージ音声と追加の第2のメッセージ音声とを再生する場合のユーザの第2の体感品質についての第2の期待値の和である評価値が最大となるように、メッセージ音声の長さを決定するメッセージ長決定部と、
前記メッセージ音声の長さを持つ前記第1のメッセージのテキスト情報を生成するメッセージ生成部と、
前記第1のメッセージのテキスト情報から前記第1のメッセージ音声を合成する音声合成部と、
を有する音声対話装置。
A voice recognition unit that extracts a predetermined keyword from a voice signal representing the user's voice collected by the voice input unit;
A search unit for searching for content according to the keyword;
A delay distribution calculating unit that calculates a probability distribution of response time from the end of input of the user's voice to presentation of the content to the user;
Based on the probability distribution, when the response time is equal to or less than the estimated response time, the estimated response time or a first message voice having a length obtained by subtracting a predetermined offset from the estimated response time is included in the response time. The first expected value of the first experience quality of the user when playing back, the response time longer than the estimated response time, and the first message voice and the additional second message within the response time A message length determination unit that determines the length of the message voice so that the evaluation value that is the sum of the second expected values of the second experience quality of the user when the voice is reproduced is maximized;
A message generator for generating text information of the first message having a length of the message voice;
A speech synthesizer that synthesizes the first message speech from text information of the first message;
Spoken dialogue apparatus having
前記メッセージ長決定部は、前記第1の期待値を、前記確率分布に基づいて、前記応答時間が前記推定応答時間よりも短く、前記第1のメッセージ音声の少なくとも一つの中断可能位置のうちの前記応答時間以下の中断可能位置にて再生が中断された場合のユーザの体感品質の期待値と、前記応答時間内に前記第1のメッセージ音声全体が再生された場合の期待値の和として算出する、請求項1に記載の音声対話装置。   The message length determination unit may determine the first expected value based on the probability distribution, the response time being shorter than the estimated response time, and at least one of the interruptable positions of the first message voice. Calculated as the sum of the expected value of the user's bodily sensation quality when playback is interrupted at an interruptible position below the response time and the expected value when the entire first message voice is played back within the response time The voice interactive apparatus according to claim 1. 複数の定型メッセージのそれぞれについてのテキスト情報と前記中断可能位置とを記憶する記憶部をさらに有し、
前記メッセージ生成部は、前記複数の定型メッセージの中から、前記評価値が最大となる場合の前記中断可能位置に最も近い中断可能位置を持つ定型メッセージを選択し、該選択した定型メッセージを含むように前記第1のメッセージのテキスト情報を生成する、請求項2に記載の音声対話装置。
A storage unit for storing text information about each of the plurality of fixed messages and the interruptible position;
The message generation unit selects a fixed message having a suspendable position closest to the suspendable position when the evaluation value is maximum from the plurality of fixed messages, and includes the selected fixed message. The spoken dialogue apparatus according to claim 2, wherein text information of the first message is generated.
前記メッセージ長決定部は、応答時間と前記第1の体感品質との関係と、応答時間が短い方から順に該応答時間の発生確率を累積した応答時間の累積確率とから、前記累積確率と前記第1の体感品質との関係を線形近似した関係式を求め、前記関係式において前記第1の体感品質の値が前記第2の体感品質と等しくなる場合の累積確率の半分に相当する応答時間または当該応答時間から前記所定のオフセットを減じた時間に前記第1のメッセージ音声の長さを設定する、請求項1に記載の音声対話装置。   The message length determination unit, from the relationship between the response time and the first experience quality, and the cumulative probability of the response time in which the occurrence probability of the response time is accumulated in order from the shortest response time, the cumulative probability and the A relational expression obtained by linearly approximating the relationship with the first bodily sensation quality is obtained, and a response time corresponding to half of the cumulative probability when the value of the first bodily sensation quality is equal to the second bodily sensation quality in the relational expression. The voice interactive device according to claim 1, wherein the length of the first message voice is set at a time obtained by subtracting the predetermined offset from the response time. 音声入力部により集音されたユーザの音声を表す音声信号から所定のキーワードを抽出し、
前記キーワードに応じたコンテンツを検索し、
前記ユーザの音声の入力が終了してからユーザに前記コンテンツを提示するまでの応答時間の確率分布を算出し、
前記確率分布に基づいて、前記応答時間が推定応答時間以下の場合に、前記推定応答時間または該推定応答時間から所定のオフセットを減じた長さを持つ第1のメッセージ音声を前記応答時間内に再生する場合のユーザの第1の体感品質についての第1の期待値と、該推定応答時間よりも前記応答時間が長く、前記応答時間内に前記第1のメッセージ音声と追加の第2のメッセージ音声とを再生する場合のユーザの第2の体感品質についての第2の期待値の和である評価値が最大となるように、メッセージ音声の長さを決定し、
前記メッセージ音声の長さを持つ前記第1のメッセージのテキスト情報を生成し、
前記第1のメッセージのテキスト情報から前記第1のメッセージ音声を合成する、
ことを含む対話制御方法。
A predetermined keyword is extracted from the voice signal representing the voice of the user collected by the voice input unit;
Search for content according to the keyword,
Calculating the probability distribution of response time from the end of the user's voice input to the presentation of the content to the user;
Based on the probability distribution, when the response time is equal to or less than the estimated response time, the estimated response time or a first message voice having a length obtained by subtracting a predetermined offset from the estimated response time is included in the response time. The first expected value of the first experience quality of the user when playing back, the response time longer than the estimated response time, and the first message voice and the additional second message within the response time The length of the message voice is determined so that the evaluation value that is the sum of the second expected values of the second experience quality of the user when the voice is reproduced is maximized,
Generating text information of the first message having the length of the message voice;
Synthesizing the first message voice from text information of the first message;
Dialog control method including that.
JP2013074512A 2013-03-29 2013-03-29 Spoken dialogue apparatus and dialogue control method Expired - Fee Related JP6111802B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013074512A JP6111802B2 (en) 2013-03-29 2013-03-29 Spoken dialogue apparatus and dialogue control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013074512A JP6111802B2 (en) 2013-03-29 2013-03-29 Spoken dialogue apparatus and dialogue control method

Publications (2)

Publication Number Publication Date
JP2014199323A JP2014199323A (en) 2014-10-23
JP6111802B2 true JP6111802B2 (en) 2017-04-12

Family

ID=52356271

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013074512A Expired - Fee Related JP6111802B2 (en) 2013-03-29 2013-03-29 Spoken dialogue apparatus and dialogue control method

Country Status (1)

Country Link
JP (1) JP6111802B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9799324B2 (en) 2016-01-28 2017-10-24 Google Inc. Adaptive text-to-speech outputs
JP2018017776A (en) * 2016-07-25 2018-02-01 トヨタ自動車株式会社 Voice interactive device
JP6817056B2 (en) * 2016-12-22 2021-01-20 シャープ株式会社 Servers, information processing methods, network systems, and terminals
KR102329888B1 (en) 2017-01-09 2021-11-23 현대자동차주식회사 Speech recognition apparatus, vehicle having the same and controlling method of speech recognition apparatus
CN113488048B (en) * 2019-03-12 2024-10-18 百度国际科技(深圳)有限公司 Information interaction method and device
JP7437191B2 (en) * 2020-03-04 2024-02-22 株式会社東海理化電機製作所 Control devices, control systems, information processing devices, and programs
CN112908297B (en) * 2020-12-22 2022-07-08 北京百度网讯科技有限公司 Response speed testing method, device, equipment and storage medium of vehicle-mounted equipment
CN115565535B (en) * 2022-09-21 2024-04-12 南京浮点智算数字科技有限公司 Intelligent voice customer service system

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001022384A (en) * 1999-07-09 2001-01-26 Nissan Motor Co Ltd Voice interaction device
WO2004092967A1 (en) * 2003-04-14 2004-10-28 Fujitsu Limited Interactive apparatus, interaction method, and interaction program
US20040264677A1 (en) * 2003-06-30 2004-12-30 Horvitz Eric J. Ideal transfer of call handling from automated systems to human operators based on forecasts of automation efficacy and operator load
JP6028556B2 (en) * 2012-12-19 2016-11-16 富士通株式会社 Dialog control method and computer program for dialog control

Also Published As

Publication number Publication date
JP2014199323A (en) 2014-10-23

Similar Documents

Publication Publication Date Title
JP6111802B2 (en) Spoken dialogue apparatus and dialogue control method
US20230317074A1 (en) Contextual voice user interface
US10490181B2 (en) Technology for responding to remarks using speech synthesis
US10163436B1 (en) Training a speech processing system using spoken utterances
US20180130462A1 (en) Voice interaction method and voice interaction device
US10832668B1 (en) Dynamic speech processing
US10515637B1 (en) Dynamic speech processing
JP6028556B2 (en) Dialog control method and computer program for dialog control
US12387711B2 (en) Speech synthesis device and speech synthesis method
CN105206257B (en) A kind of sound converting method and device
JP6011565B2 (en) Voice search device, voice search method and program
JP2024170506A (en) Instant text-to-speech learning during dialogue
JP2013200480A (en) Voice interaction system and program
JP6176055B2 (en) Voice search apparatus and voice search method
US11783824B1 (en) Cross-assistant command processing
US9129596B2 (en) Apparatus and method for creating dictionary for speech synthesis utilizing a display to aid in assessing synthesis quality
JP6013104B2 (en) Speech synthesis method, apparatus, and program
CN113255313B (en) Music generation method, device, electronic equipment and storage medium
JP2001272991A (en) Voice interacting method and voice interacting device
US11176943B2 (en) Voice recognition device, voice recognition method, and computer program product
CN116129934B (en) Audio analysis method, device, equipment and storage medium
JP2013011843A (en) Dialogue control device, dialogue control method, and dialogue controlling computer program
JP5320341B2 (en) Speaking text set creation method, utterance text set creation device, and utterance text set creation program
JP5678912B2 (en) Voice identification device, program
US12524198B1 (en) Gaze based device control

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170227

R150 Certificate of patent or registration of utility model

Ref document number: 6111802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees