JP5663205B2 - Dialog learning device, dialog analysis device, dialog learning method, dialog analysis method, program - Google Patents
Dialog learning device, dialog analysis device, dialog learning method, dialog analysis method, program Download PDFInfo
- Publication number
- JP5663205B2 JP5663205B2 JP2010126882A JP2010126882A JP5663205B2 JP 5663205 B2 JP5663205 B2 JP 5663205B2 JP 2010126882 A JP2010126882 A JP 2010126882A JP 2010126882 A JP2010126882 A JP 2010126882A JP 5663205 B2 JP5663205 B2 JP 5663205B2
- Authority
- JP
- Japan
- Prior art keywords
- dialogue
- hidden markov
- model
- learning
- markov model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Machine Translation (AREA)
Description
本発明は複数の対話行為で構成される対話を評価するための隠れマルコフモデルを作成する対話学習装置、対話学習方法、および作成された隠れマルコフモデルを用いて対話を評価する対話分析装置、対話分析方法、それらの装置としてコンピュータを機能させるプログラムに関する。 The present invention relates to a dialogue learning device for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions, a dialogue learning method, a dialogue analysis device for evaluating dialogue using the created hidden Markov model, and dialogue The present invention relates to an analysis method and a program for causing a computer to function as these devices.
対話におけるユーザ満足度(評価値)を推定する技術として、非特許文献1の対話行為のN-gramを用いるものがある。この手法は、まず満足度ごとに対話を分別し、満足度ごとの対話行為(発話意図を表すラベル)のN-gram確率を算出する。そして、未知の対話について、その対話行為列の尤度を、各満足度における対話行為のN-gram確率を用いて算出し、最も高い尤度となった満足度をもって、その対話の満足度とするものである。
As a technique for estimating user satisfaction (evaluation value) in a dialogue, there is a technology that uses an N-gram of a dialogue act described in Non-Patent
また、似た手法として隠れマルコフモデル(Hidden Markov model,HMM)を用いたものがある。非特許文献2では、まず、人間と人間の間で行われた対話を隠れマルコフモデルを用いてモデル化する。ここで、HMMの各状態は対話行為を出力するものとし、HMMのモデル化の過程では、人間と人間の間で行われた対話行為の系列を学習データとして、各状態における対話行為の出力確率と状態間の遷移確率を最適化する。そして、人とコンピュータの対話が与えられた時、この対話の対話行為系列を学習されたHMMに入力し、その出力確率をもって、対話の満足度(自然さ)を推定する。
Another similar technique uses a Hidden Markov model (HMM). In Non-Patent
上記2手法は対話全体の満足度を推定するものであるが、対話におけるユーザ発話毎の満足度を推定する手法が、非特許文献3に提案されている。非特許文献3では、満足度のラベルを対話の各発話に事前に付与し、このデータをもとにHMMを学習する。具体的には、HMMの各状態は満足度のラベルに対応しており、各状態は発話に関する各種の特徴量を出力する。学習の過程では、事前に付与された満足度のラベルの遷移確率から状態間の遷移確率を求める。また、各状態における特徴量の出力確率は、満足度ラベルごとの発話の特徴量の出現確率から求める。そして、未知の対話が与えられた時、最尤の状態遷移を求めることで、各発話がどの状態から出力されたかを推定でき、各発話の満足度の推定ができる。
The above two methods estimate the degree of satisfaction of the entire dialogue, but Non-Patent
対話全体の満足度の推定を行うよりも、対話における各発話(もしくは各対話行為)についての満足度が推定できた方が、対話がスムーズに進んでいない箇所を特定できるなど、有用なことが多い。しかしながら、非特許文献1や非特許文献2の方法では、対話の満足度を求めることしかできない。また、非特許文献3のように各発話についての満足度を求めることができる方法は、対話における各発話について満足度のラベリングをすることが必要であり、推定のためのコストが高い。
Rather than estimating the satisfaction of the entire dialogue, it is useful to be able to identify the point where the dialogue is not progressing smoothly if the satisfaction for each utterance (or each dialogue act) in the dialogue can be estimated. Many. However, with the methods of
本発明は、あらかじめ対話行為ごとの満足度をラベリングしたデータが不要であり、かつ対話における対話行為ごとの満足度を評価できる対話学習装置と対話分析装置を提供することを目的とする。 It is an object of the present invention to provide a dialog learning device and a dialog analysis device that do not require data that is previously labeled for the degree of satisfaction for each dialogue action and that can evaluate the degree of satisfaction for each dialogue action in the dialogue.
まず、K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とする。また、「対話」は複数の話者の「発話」のまとまり、「発話」はある話者のみの1以上の連続した「対話行為」のまとまり、「対話行為」は何らかの目的のための個々の口頭による行為とする。 First, K and N are integers of 2 or more, k is an integer of 1 to K, and n is an integer of 1 to N. In addition, “dialogue” is a collection of “speech” of multiple speakers, “speech” is a collection of one or more continuous “dialogue acts” of only one speaker, and “dialogue act” is an individual for a certain purpose. It is an oral act.
本発明の第1の対話学習装置は、複数の対話行為で構成される対話を評価するための隠れマルコフモデルを作成する。そして、本発明の対話学習装置は、N個の対話の時系列データ(d1,…,dN)と各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成する第1モデル学習部を備える。 The first dialog learning device of the present invention creates a hidden Markov model for evaluating a dialog composed of a plurality of dialog actions. The dialogue learning apparatus of the present invention includes N dialogue time-series data (d 1 ,..., D N ) and evaluation values (r (d 1 ),. by using the N)), for each stage of the evaluation, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, hidden Markov model M 1, ..., all of M K connect a state to ergodic comprises a first model learning unit for creating a hidden Markov model M C.
本発明の第2の対話学習装置は、第1モデル学習部、第2モデル学習部、モデル連結部を備える。第1モデル学習部は、N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルME0を作成する。第2モデル学習部は、すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する。モデル連結部は、マルコフモデルM0と隠れマルコフモデルME0のすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成する。 The second dialog learning device of the present invention includes a first model learning unit, a second model learning unit, and a model connection unit. The first model learning unit includes time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ) ,. )) using, for each stage of the evaluation, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, hidden Markov model M 1, ..., all of M K Connect the states to ergodic and create a hidden Markov model M E0 . The second model learning unit learns one hidden Markov model M 0 having a state in which the dialogue action of the speaker is output from all dialogues. Model coupling portion all the states of the Markov model M E0 and hidden Markov model M 0 connected to ergodic, creating a hidden Markov model M C.
本発明の第3の対話学習装置は、第1モデル学習部、第2モデル学習部、第1モデル連結部、再学習部、第2モデル連結部、繰返し判定部を備える。第1モデル学習部は、N個の対話の時系列データ(d1,…,dN)との各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習する。第2モデル学習部は、すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する。第1モデル連結部は、隠れマルコフモデルMkのそれぞれとマルコフモデルM0のコピーとをペアにし、ペア内のすべての状態を接続して、隠れマルコフモデルM1+0,…,MK+0を作成する。再学習部は、隠れマルコフモデルM1+0,…,MK+0を初期モデル、時系列データ(d1,…,dN)と評価値(r(d1),…,r(dN))を学習データとして与えて隠れマルコフモデルM1+0,…,MK+0を再学習する。第2モデル連結部は、再学習された隠れマルコフモデルM1+0,…,MK+0を連結し、1つの隠れマルコフモデルMCとする。繰返し判定部は、隠れマルコフモデルM1+0,…,MK+0について、学習データに対して所定以上の尤度の改善があるかによって再学習部と第2モデル連結部の処理を繰り返すかを判定する。
The third conversation learning device of the present invention includes a first model learning unit, a second model learning unit, a first model connection unit, a re-learning unit, a second model connection unit, and an iterative determination unit. The first model learning unit evaluates each dialogue with time series data (d 1 ,..., D N ) of N dialogues at the K stage (r (d 1 ),..., R (d N ). ), Hidden Markov Models M 1 ,..., M K having a state of outputting a speaker's dialogue action are learned for each evaluation stage. The second model learning unit learns one hidden Markov model M 0 having a state in which the dialogue action of the speaker is output from all dialogues. The first model connection unit creates a hidden Markov model M 1 + 0 ,..., M K + 0 by pairing each of the hidden Markov models M k with a copy of the Markov model M 0 and connecting all the states in the pair. . The re-learning unit uses the hidden Markov model M 1 + 0 ,..., M K + 0 as an initial model, time series data (d 1 ,..., D N ) and evaluation values (r (d 1 ),..., R (d N )). Re-learn the hidden Markov model M 1 + 0 ,..., M K + 0 given as learning data. Second model coupling portion hidden relearned Markov
本発明の対話分析装置は、隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する評価値推定部を備える。 Interactive analysis apparatus of the present invention, by using a Hidden Markov model M C, or output from the state of the evaluation values of each dialogue act hidden Markov model M C throat of the time-series data d x dialogue evaluation value is not known An evaluation value estimating unit that obtains an evaluation value of each dialogue action by estimation and estimates the evaluation value of the dialogue from the evaluation value of each dialogue action is provided.
本発明の対話学習装置と対話分析装置によれば、対話における対話行為ごとの満足度を評価するための隠れマルコフモデルを形成する際に、あらかじめ対話行為ごとの満足度をラベリングしたデータを必要としないため、学習コストを削減できる。また、その結果、対話における対話行為ごとの満足度を評価しやすくなるので、対話中のやり取りがスムーズでない箇所を特定しやすくなるなど、対話システムの開発プロセスを改善することができ、最終的に人間が使いやすい対話システムの実現に繋がる。 According to the dialogue learning device and the dialogue analysis device of the present invention, when forming a hidden Markov model for evaluating the degree of satisfaction for each dialogue action in the dialogue, it is necessary to preliminarily label the degree of satisfaction for each dialogue act. Learning costs can be reduced. As a result, it is easier to evaluate the degree of satisfaction for each dialogue action in the dialogue, so it is easier to identify the places where the conversation during the dialogue is not smooth. It leads to the realization of a dialogue system that is easy for humans to use.
本明細書では、「対話」は複数の話者の「発話」のまとまり、「発話」はある話者のみの1以上の連続した「対話行為」のまとまり、「対話行為」は何らかの目的のための個々の口頭による行為とする。例えば、話者A「こんにちは。私はライオンが好きです。」、話者B「私もです。」という対話を例に説明する。全体が「対話」であり、この対話は話者Aの「発話」と話者Bの「発話」(2つの「発話」)で構成されている。また、「こんにちは。」は対話管理(挨拶)の対話行為、「私はライオンが好きです。」は自己開示の対話行為、「私もです。」は共感の対話行為である。つまり、話者Aの「発話」は2つの対話行為で構成されており、話者Bの「発話」は1つの対話行為で構成されている。なお、「話者」は、自然人の場合もあるし、発話システムなどの装置の場合もある。 In this specification, “dialogue” is a collection of “utterances” of a plurality of speakers, “utterance” is a collection of one or more continuous “dialogue actions” of only a certain speaker, and “dialogue action” is for some purpose. Individual verbal acts. For example, the speaker A, "Hello. I like a lion.", Described the dialogue that the speaker B, "I am also." As an example. The whole is “dialogue”, and this dialogue is composed of “utterance” of speaker A and “utterance” of speaker B (two “utterances”). In addition, "Hello." The dialogue act of interaction management (greeting), "I like a lion." The dialogue act of self-disclosure, "it is also me." Is a dialogue act of empathy. That is, the “utterance” of the speaker A is composed of two dialogue actions, and the “utterance” of the speaker B is composed of one dialogue action. The “speaker” may be a natural person or an apparatus such as an utterance system.
以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。また、K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とする。 Hereinafter, embodiments of the present invention will be described in detail. In addition, the same number is attached | subjected to the structure part which has the same function, and duplication description is abbreviate | omitted. K and N are integers of 2 or more, k is an integer of 1 to K, and n is an integer of 1 to N.
図1に実施例1の対話分析装置の機能構成例、図2に実施例1の対話分析装置の処理フローを示す。対話分析装置50は、複数の対話行為で構成される対話を評価するための隠れマルコフモデル(Hidden Markov model,HMM)MCを作成し、複数の対話行為で構成される対話を評価する。対話分析装置50は、入出力部110、第1モデル学習部120、評価値推定部180、記録部90を備える。
FIG. 1 shows a functional configuration example of the dialog analysis apparatus according to the first embodiment, and FIG. 2 shows a processing flow of the dialog analysis apparatus according to the first embodiment.
入出力部110は、N個の対話の時系列データ(d1,…,dN)と各対話をK段階で評価した評価値(r(d1),…,r(dN))を、学習データとして受け取る(S111)。第1モデル学習部120は、入出力部110が受け取った学習データを用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルME0を作成し、記録部90に記録する(S120)。本実施例の場合、記録部90に記録された隠れマルコフモデルME0が、評価のときに用いる隠れマルコフモデルMCとなる。また、以降、隠れマルコフモデルME0を「エルゴディック0」と呼ぶ。
The input /
ステップS120の処理を詳細に説明すると、評価値はK段階に区別されているので、評価値ごとに分別した時系列データの集合Dk={∀dm|r(dm)=k}を作成する。そして、この時系列データの集合を用いて、隠れマルコフモデルMkを学習する。図3は、話者が2人の場合に作成される隠れマルコフモデルMkのイメージを示している。図3のHMMは2つの状態を持ち、各状態はそれぞれ話者1、話者2の対話行為を出力する。各状態はどの状態にも遷移可能である。このようなHMMはSpeaker HMMと呼ばれ、対話行為列を話者のターン切り替えを考慮してHMMでモデル化する際に用いられる。例えば、非特許参考文献1(Toyomi Meguro, Ryuichiro Higashinaka, Kohji Dohsaka, Yasuhiro Minami, and Hideki Isozaki, “Analysis of listening-oriented dialogue for building listening agents”, In Proc. SIGDial, pages 124-127, 2009.)では、聞き役対話のモデル化にSpeaker HMMが使用されている。図3のように1つの状態からは1人の話者の対話行為を出力させれば、話者ごとの対話行為を把握しやすい。しかし、1つの状態から2人の話者の対話行為を出力するようなHMMでモデル化することも可能である。なお、本実施例ではSpeaker HMMは2つの状態を持つが、状態数を変動させることは容易である。
The processing in step S120 will be described in detail. Since the evaluation values are classified into K stages, a set of time series data D k = {∀d m | r (d m ) = k} sorted for each evaluation value. create. Then, the hidden Markov model Mk is learned using the set of time series data. FIG. 3 shows an image of a hidden Markov model Mk created when there are two speakers. The HMM in FIG. 3 has two states, and each state outputs the dialogue action of
図3のような隠れマルコフモデルMkは、評価値の数だけ作成される。つまり、K個作成される。そして、すべての状態が、他のすべての状態につながっている状態にする(エルゴディックに接続する)。このとき、状態間の遷移確率はすべて等しくなるようにする。学習アルゴリズムには期待値最大化アルゴリズム(EMアルゴリズム)を用いればよい。なお、以降に説明するどのHMMも学習にはEMアルゴリズムを用いればよい。 Hidden Markov models M k as shown in FIG. 3 are created by the number of evaluation values. That is, K pieces are created. All states are connected to all other states (connected to ergodic). At this time, the transition probabilities between the states are all made equal. An expected value maximization algorithm (EM algorithm) may be used as the learning algorithm. Note that any HMM described below may use an EM algorithm for learning.
入出力部110は、評価値が分からない対話の時系列データdxを受け取る(S112)。評価値推定部180は、隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する(S180)。例えば、ビタビデコーディング(Viterbi decoding)により、各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定すればよい。
The input /
上述の説明では、学習機能と分析機能の両方を1つの装置(対話分析装置)に具備させたが、学習機能と分析機能とを分離してもよい。分離する場合は、図1の点線の部分のみで、対話学習装置51を形成すればよい。そして、対話学習装置51の処理フローは、図2の点線で示したステップS51の部分のようにすればよい。 In the above description, both the learning function and the analysis function are provided in one apparatus (dialog analysis apparatus). However, the learning function and the analysis function may be separated. In the case of separation, the dialogue learning device 51 may be formed only by the dotted line portion in FIG. And the processing flow of the dialog learning apparatus 51 should just be made like the part of step S51 shown with the dotted line of FIG.
実施例1の対話学習装置と対話分析装置によれば、対話における対話行為ごとの満足度を評価するための隠れマルコフモデルを形成する際に、あらかじめ対話行為ごとの満足度をラベリングしたデータを必要としないため、学習コストを削減できる。また、その結果、対話における対話行為ごとの満足度を評価しやすくなる。 According to the dialogue learning device and the dialogue analysis device of the first embodiment, when forming a hidden Markov model for evaluating the degree of satisfaction for each dialogue action in the dialogue, data in which the degree of satisfaction for each dialogue action is labeled in advance is required. Learning costs can be reduced. As a result, it becomes easier to evaluate the degree of satisfaction for each dialogue act in the dialogue.
実施例1では、エルゴディック0により推定する例を説明した。しかし、たとえば、挨拶や質問に対する応答などの対話行為は、満足度に拘わらずすべての対話に共通して出現する。このような対話行為についてもエルゴディック0は評価値のどれかを割り振ってしまう。そして、どの評価値を割り振るかは評価値ごとの対話での対話行為の出力分布に依存する。このため、たまたま「挨拶」に該当する対話行為が高評価値の対話に多かったからという理由で、すべての「挨拶」に高い評価値を割り振ってしまうことになりかねない。できれば、すべての評価値に共通して出現するような対話行為については、スコアを与えない、もしくは、0という評価値を与えることが望ましいと考えられる。そこで、本実施例では、すべての対話から、1つの隠れマルコフモデルM0を学習する。そして、隠れマルコフモデルM0とエルゴディック0を接続した隠れマルコフモデルME1(以降、「エルゴディック1」と呼ぶ)を作成する。
In Example 1, the example estimated by ergodic 0 was demonstrated. However, for example, dialogue acts such as greetings and responses to questions appear in common in all dialogues regardless of satisfaction.
図4に実施例2の対話分析装置の機能構成例、図5に実施例2の対話分析装置の処理フローを示す。対話分析装置100は、入出力部110、第1モデル学習部120、第2モデル学習部130、モデル連結部140、評価値推定部180、記録部190備える。
FIG. 4 shows a functional configuration example of the dialog analysis apparatus of the second embodiment, and FIG. 5 shows a processing flow of the dialog analysis apparatus of the second embodiment. The dialog analysis apparatus 100 includes an input /
入出力部110は、N個の対話の時系列データ(d1,…,dN)と各対話をK段階で評価した評価値(r(d1),…,r(dN))を、学習データとして受け取る(S111)。第1モデル学習部120は、入出力部110が受け取った学習データを用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルME0を作成し、記録部190に記録する(S120)。ここまでの処理は実施例1と同じである。
The input /
第2モデル学習部130は、すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習し、記録部に記録する(S130)。モデル連結部140は、マルコフモデルM0と隠れマルコフモデルME0のすべての状態をエルゴディックに接続して、隠れマルコフモデルME1を作成し、記録部190に記録する。本実施例の場合、記録部190に記録された隠れマルコフモデルME1が、評価のときに用いる隠れマルコフモデルMCとなる。
The second
入出力部110は、評価値が分からない対話の時系列データdxを受け取る(S112)。評価値推定部180は、隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する(S180)。例えば、ビタビデコーディングにより、各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定すればよい。
The input /
2段階の評価で2人の話者の場合には、エルゴディック1のトポロジは図6のようになる。図6では簡単のため、評価値1,2のHMMとM0(0の評価値のHMMに対応)のみ示す。例えば、このHMMを用いて、ある対話系列をデコードしたとき、1→2→5→6→4→5が最尤の状態系列だとした場合、対応する評価値は1→1→0→0→2→0である。したがって、これがエルゴディック1による推定評価値系列となる。0は前の評価値に影響を与えないと考えることができるため、この系列は1→1→1→1→2→2と読み替えることもできる。
In the case of two speakers in a two-stage evaluation, the topology of ergodic 1 is as shown in FIG. In FIG. 6, for the sake of simplicity, only HMMs with
本実施例の場合も、学習機能と分析機能とを分離してもよい。分離する場合は、図4の点線の部分のみで、対話学習装置101を形成すればよい。そして、対話学習装置101の処理フローは、図5の点線で示したステップS101の部分のようにすればよい。 Also in this embodiment, the learning function and the analysis function may be separated. In the case of separation, the dialogue learning device 101 may be formed only by the dotted line portion in FIG. Then, the processing flow of the conversation learning apparatus 101 may be as shown in step S101 indicated by the dotted line in FIG.
実施例2の対話学習装置と対話分析装置によれば、対話における対話行為ごとの満足度を評価するための隠れマルコフモデルを形成する際に、あらかじめ対話行為ごとの満足度をラベリングしたデータを必要としないため、学習コストを削減できる。また、その結果、対話における対話行為ごとの満足度を評価しやすくなる。 According to the dialogue learning device and the dialogue analysis device of the second embodiment, when forming a hidden Markov model for evaluating the degree of satisfaction for each dialogue action in the dialogue, data that labels the degree of satisfaction for each dialogue action is required in advance. Learning costs can be reduced. As a result, it becomes easier to evaluate the degree of satisfaction for each dialogue act in the dialogue.
[変形例]
実施例2の隠れマルコフモデルM0の場合、分布がブロード(なだらか,一様)になり、M0の状態におけるすべての対話行為の出力確率が平均化され、一様に低くなってしまう可能性がある。それゆえに、未知の対話の時系列データdxが与えられた時、推定される状態の系列が隠れマルコフモデルM0を全く通過しない可能性が出てくる。このような問題を解決するために、本変形例ではM0における状態数を増やす。そうすることで、シャープ(ブロードではない,尖った)な分布を持つ状態をM0が保持することができる。その結果、ビタビデコーディングによって得られる最尤の状態系列がM0を通過する可能性が出てくる。このように状態数を増やした隠れマルコフモデルを「エルゴディック2」と呼ぶ。ここでは、特に2倍の状態数、すなわち、各話者に対して2状態ずつ(話者が2人ならば4つの状態)を持つとする。この場合、評価値推定部は、エルゴディック2を用いて、未知の対話の時系列データdxが入力されたときに各対話行為がどの評価値のHMMの状態から出力されたかを推定する。
[Modification]
In the case of the hidden Markov model M 0 of the second embodiment, the distribution becomes broad (smooth, uniform), and the output probabilities of all dialogue actions in the state of M 0 are averaged and may be uniformly reduced. There is. Therefore, when the time series data d x of the unknown dialogue is given, there is a possibility that the estimated state series does not pass through the hidden Markov model M 0 at all. In order to solve such a problem, the number of states in M 0 is increased in this modification. By doing so, M 0 can maintain a state having a sharp (not broad, pointed) distribution. As a result, the state sequence of the maximum likelihood obtained by the Viterbi decoding there is a possibility that through the M 0. The hidden Markov model with the increased number of states is called “
図4に実施例2変形例の対話分析装置の機能構成例、図5に実施例2変形例の対話分析装置の処理フローを示す。対話分析装置200は、入出力部110、第1モデル学習部120、第2モデル学習部230、モデル連結部240、評価値推定部180、記録部190備える。実施例2と異なる点は、第2モデル学習部230とモデル連結部240である。第2モデル学習部230は、各話者に対して2状態ずつを持つ隠れマルコフモデルM0を学習し、記録部190に記録する(S230)。そして、モデル連結部240は、その隠れマルコフモデルM0と隠れマルコフモデルME0のすべての状態をエルゴディックに接続して、隠れマルコフモデルME2を作成し、記録部190に記録する(S240)。
FIG. 4 shows an example of a functional configuration of a dialog analysis apparatus according to a modification of the second embodiment, and FIG. 5 shows a processing flow of the dialog analysis apparatus according to the second embodiment. The dialogue analysis apparatus 200 includes an input /
本変形例の場合も、学習機能と分析機能とを分離してもよい。分離する場合は、図4の点線の部分のみで、対話学習装置201を形成すればよい。そして、対話学習装置201の処理フローは、図5の点線で示したステップS201の部分のようにすればよい。 Also in this modification, the learning function and the analysis function may be separated. In the case of separation, the dialogue learning device 201 may be formed only by the dotted line portion in FIG. Then, the processing flow of the dialogue learning apparatus 201 may be as shown in step S201 indicated by the dotted line in FIG.
本変形例の対話学習装置と対話分析装置によれば、実施例2と同じ効果が得られる。さらに、エルゴディック1の分布がブロード(なだらか,一様)になる場合でも、エルゴディック2の分布はシャープ(ブロードではない,尖った)にできるので、ビタビデコーディングによって得られる最尤の状態系列がM0を通過する可能性が出てくる。したがって、より正確に対話の評価を行うことができる。 According to the dialogue learning device and the dialogue analysis device of this modification, the same effects as those of the second embodiment can be obtained. Furthermore, even when the distribution of ergodic 1 is broad (slow, uniform), the distribution of ergodic 2 can be sharp (not broad, pointed), so that the maximum likelihood state sequence obtained by viterbi decoding but there is a possibility that passes through the M 0. Therefore, the dialogue can be evaluated more accurately.
本実施例は、前述したエルゴディック1における問題を、連結学習を用いて解決する手法である。連結学習とはHMMにより音声を教師なしでモデル化する際に用いられる手法で、この手法により、各評価値における対話と対話全体に共通して現れるような対話行為の出力分布を、特定の状態に集中させることができる。 The present embodiment is a technique for solving the above-described problem in the ergodic 1 using connected learning. Concatenated learning is a technique used when voices are modeled without supervision by HMM. With this technique, the output distribution of dialogue actions that appear in common in each evaluation value and the dialogue as a whole is specified. Can focus on.
図7に実施例3の対話分析装置の機能構成例、図8に実施例3の対話分析装置の処理フロー、図9に実施例3の各ステップで作成される隠れマルコフモデルのイメージを示す。対話分析装置300は、入出力部110、第1モデル学習部320、第2モデル学習部130、第1モデル連結部340、再学習部350、第2モデル連結部360、繰返し判定部370、評価値推定部180、記録部390備える。
FIG. 7 shows a functional configuration example of the dialog analysis apparatus according to the third embodiment, FIG. 8 shows a processing flow of the dialog analysis apparatus according to the third embodiment, and FIG. 9 shows an image of a hidden Markov model created at each step of the third embodiment. The dialog analysis apparatus 300 includes an input /
入出力部110は、N個の対話の時系列データ(d1,…,dN)と各対話をK段階で評価した評価値(r(d1),…,r(dN))を、学習データとして受け取る(S111)。第1モデル学習部320は、入出力部110が受け取った学習データを用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、記録部390に記録する(S320)。
The input /
第2モデル学習部130は、すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習し、記録部390に記録する(S130)。第1モデル連結部340は、隠れマルコフモデルMkのそれぞれとマルコフモデルM0のコピーとをペアにし、ペア内のすべての状態を接続して、隠れマルコフモデルM1+0,…,MK+0を作成する(S340)。
The second
再学習部350は、隠れマルコフモデルM1+0,…,MK+0を初期モデル、時系列データ(d1,…,dN)と評価値(r(d1),…,r(dN))を学習データとして与えて隠れマルコフモデルM1+0,…,MK+0を再学習し、再学習された隠れマルコフモデルM1+0,…,MK+0を記録部390に記録する(S350)。第2モデル連結部360は、再学習された隠れマルコフモデルM1+0,…,MK+0を連結し、1つの隠れマルコフモデルMCとする(S360)。連結の際、すべてのHMMの確率テーブルの足し合わせを行うが、コピーされたM0を結合して新たなM0とする際には、この出力確率をKで割り、足して1になるよう調整する。この処理が、図9のステップS360の「AVG」の処理である。なお、このとき、隠れマルコフモデルM0の各状態は、隠れマルコフモデルM1+0,…,MK+0のすべての状態と接続されている。一方、隠れマルコフモデルMk+0の各状態は、隠れマルコフモデルM0の状態とのみ接続されている。
The
繰返し判定部370は、隠れマルコフモデルM1+0,…,MK+0について、学習データに対して所定以上の尤度の改善があるかによって再学習部350と第2モデル連結部360の処理(ステップS350,S360)を繰り返すかを判定する(S370)。例えば、いずれかのすべての隠れマルコフモデルMk+0で尤度の改善がある場合には繰り返し処理を続ける(ステップS370の判断をYesとする)。そして、隠れマルコフモデルM1+0,…,MK+0について尤度の改善がない時に繰返し処理を終了し、そのときに記録部390に記録されている隠れマルコフモデルMCを学習結果とする(ステップS370の判断をNoとする)。本実施例で求めた最終的な隠れマルコフモデルMCを、以降「連結1」と呼ぶ。なお、ステップS370の判断がYesの場合、処理はステップS350に戻るが、この時には、隠れマルコフモデルMCは再度、隠れマルコフモデルM1+0,…,MK+0に分割される。そして、M0の遷移確率はM0とMkの間に均等に分配される。
入出力部110は、評価値が分からない対話の時系列データdxを受け取る(S112)。評価値推定部180は、隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する(S180)。例えば、ビタビデコーディングにより、各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定すればよい。
The input /
本実施例の場合も、学習機能と分析機能とを分離してもよい。分離する場合は、図7の点線の部分のみで、対話学習装置301を形成すればよい。そして、対話学習装置301の処理フローは、図8の点線で示したステップS301の部分のようにすればよい。 Also in this embodiment, the learning function and the analysis function may be separated. In the case of separation, the dialogue learning device 301 may be formed only by the dotted line portion in FIG. And the processing flow of the dialog learning apparatus 301 should just be made like the part of step S301 shown with the dotted line of FIG.
実施例3の対話学習装置と対話分析装置によれば、対話における対話行為ごとの満足度を評価するための隠れマルコフモデルを形成する際に、あらかじめ対話行為ごとの満足度をラベリングしたデータを必要としないため、学習コストを削減できる。また、その結果、対話における対話行為ごとの満足度を評価しやすくなる。 According to the dialogue learning device and the dialogue analysis device of the third embodiment, when forming a hidden Markov model for evaluating the degree of satisfaction for each dialogue action in the dialogue, the data for labeling the degree of satisfaction for each dialogue action in advance is required. Learning costs can be reduced. As a result, it becomes easier to evaluate the degree of satisfaction for each dialogue act in the dialogue.
[変形例]
実施例2と同じように、実施例3の場合も、隠れマルコフモデルM0が各話者に対して2状態ずつを持ってもよい。図7に実施例3変形例の対話分析装置の機能構成例、図8に実施例3変形例の対話分析装置の処理フローを示す。対話分析装置400は、入出力部110、第1モデル学習部320、第2モデル学習部230、第1モデル連結部440、再学習部350、第2モデル連結部360、繰返し判定部370、評価値推定部180、記録部390備える。
[Modification]
As with Example 2, in the case of Example 3, a hidden Markov model M 0 may have one by 2 state with respect to each speaker. FIG. 7 shows a functional configuration example of the dialog analysis apparatus of the third embodiment, and FIG. 8 shows a processing flow of the dialog analysis apparatus of the third embodiment. The dialogue analysis apparatus 400 includes an input /
実施例3と異なる点は、第2モデル学習部230、第1モデル連結部440である。第2モデル学習部230は、各話者に対して2状態ずつを持つ隠れマルコフモデルM0を学習し、記録部190に記録する(S230)。第1モデル連結部440は、隠れマルコフモデルMkのそれぞれとマルコフモデルM0のコピーとをペアにし、ペア内のすべての状態を接続して、隠れマルコフモデルM1+0,…,MK+0を作成する(S440)。
A difference from the third embodiment is a second
本変形例の場合も、学習機能と分析機能とを分離してもよい。分離する場合は、図7の点線の部分のみで、対話学習装置401を形成すればよい。そして、対話学習装置401の処理フローは、図8の点線で示したステップS401の部分のようにすればよい。 Also in this modification, the learning function and the analysis function may be separated. In the case of separation, the dialogue learning device 401 may be formed only by the dotted line portion in FIG. Then, the processing flow of the dialogue learning apparatus 401 may be as shown in the part of step S401 indicated by the dotted line in FIG.
本変形例の対話学習装置と対話分析装置によれば、実施例3と同じ効果が得られる。なお、変形例で求めた最終的な隠れマルコフモデルMCを、以降「連結2」と呼ぶ。
According to the dialogue learning device and the dialogue analysis device of this modification, the same effects as those of the third embodiment can be obtained. Note that the final hidden Markov model M C obtained in the modification, hereinafter referred to as "
[実験]
エルゴディック0、エルゴディック1、エルゴディック2、連結1、連結2のモデルを、人とシステムが動物の好き嫌いについて会話しているADデータ(Animal Discussion)と、人間同士が聞き役・話し役に分かれて会話しているALデータ(Attentive Listening)に適用し、モデルの有効性の評価実験を行った。図10と図11に、ADデータとALデータの対話数、対話行為数、対話あたりの平均対話行為数および標準偏差を示す。
[Experiment]
Ergodic 0,
<ADデータ>
ADデータは、全部で1000対話からなる。このデータの詳細は非特許参考文献2(Ryuichiro Higashinaka, Kohji Dohsaka, and Hideki Isozaki, “Effects of self-disclosure and empathy in human-computer dialogue”, In Proc. SLT, pages 109-112, 2008.)に述べられている。
<AD data>
AD data consists of 1000 dialogues in total. Details of this data can be found in Non-Patent Reference 2 (Ryuichiro Higashinaka, Kohji Dohsaka, and Hideki Isozaki, “Effects of self-disclosure and empathy in human-computer dialogue”, In Proc. SLT, pages 109-112, 2008.) It is stated.
1000対話のうち、180対話について対話ごとの満足度のラベルが3つの観点から7段階(1が一番悪く、7が一番良い)で付与されている。また、これら180対話のうち90対話に発話ごとの満足度のラベルが同じく3つの観点から7段階で付与されている。ここで、3つの観点とは、対話がスムーズかどうか、ユーザがシステムに親近感を感じるか、ユーザが対話を続けやすいか、である。このラベル付けは1名の評価者が行った。具体的には、対話ごとの満足度の評価値は、図12のように与えられている。また、対話における発話ごとの満足度の評価値は図13のように与えられている。本データでは発話ごとの評価値はシステム発話の直後にのみ与えられている。これは、評価者が評価値を与える際に、「あなたがユーザだとすると相手の発話に対する満足度はどの程度か」という設問によって評価値を得ているからである。 Of the 1000 dialogues, 180 dialogues are given 7 levels of satisfaction (1 is the worst and 7 is the best) from three viewpoints. Of these 180 dialogs, 90 conversations are assigned satisfaction levels for each utterance in seven stages from the same three viewpoints. Here, the three viewpoints are whether the dialogue is smooth, whether the user feels familiar with the system, and whether the user can easily continue the dialogue. This labeling was done by one evaluator. Specifically, the satisfaction evaluation value for each dialogue is given as shown in FIG. Further, the evaluation value of the satisfaction level for each utterance in the dialogue is given as shown in FIG. In this data, the evaluation value for each utterance is given only immediately after the system utterance. This is because when the evaluator gives the evaluation value, the evaluation value is obtained by the question “how satisfied is the other person's speech if you are a user”.
この評価値データに加え、本データにおける各発話には対話行為のアノテーションが付与されている。対話行為は、以下のように7種類に大別され、全部で29種類ある。 In addition to this evaluation value data, each utterance in this data is given an annotation of dialogue action. The dialogue actions are roughly divided into seven types as follows, and there are 29 types in total.
自己開示に関する対話行為
このグループでは、DISC-OTHER(システムが対応できるドメイン以外の内容についての開示), DISC-P(命題の開示), DISC-P-R(命題の理由の開示), DISC-R(理由の開示), DISC-R-OTHER(その他の理由の開示), DISC-NO-MORE-R(これ以上理由がないことの開示), RES(Yes−Noでの応答)を対話行為として定義した。例えば、DISC-Pは動物の好き嫌いに関する命題Pの自己開示を表す対話行為である。ここで、命題とは、「話者が動物Xを好き」か、「話者が動物Xを嫌い」かのどちらかである。例えば、「私は猫が好きです」はDISC-Pである。また、同様に「私はキリンが嫌いです」もDISC-Pである。
Dialogue on self-disclosure In this group, DISC-OTHER (disclosure of content other than the domain that the system can handle), DISC-P (disclosure of proposition), DISC-PR (disclosure of reason for proposition), DISC-R ( Disclosure of reasons), DISC-R-OTHER (disclosure of other reasons), DISC-NO-MORE-R (disclosure of no more reasons), and RES (Yes-No response) are defined as dialogue actions did. For example, DISC-P is a dialogue act representing self-disclosure of the proposition P regarding the likes and dislikes of animals. Here, the proposition is either “the speaker likes the animal X” or “the speaker does not like the animal X”. For example, “I like cats” is DISC-P. Similarly, “I hate giraffes” is also DISC-P.
共感に関する対話行為
このグループでは、DISC-AGREE-OTHER(システムが対応できるドメイン以外の内容についての同意), DISC-AGREE-P(命題に対する同意), DISC-AGREE-P-R(命題に対する同意の理由の開示), DISC-AGREE-R(同意の理由の開示), EMP(明確な表現による同意), REPEAT(繰返しによる同意)を対話行為として定義した。例えば、DISC-AGREE-Pは、対話相手が自己開示したPについて、同意を表す発話に対応する。例えば、「私は猫が好きです」という発話に対して発せられた、「私も好きです」や「私もです」である。
Dialogue on empathy In this group, DISC-AGREE-OTHER (consent for content outside the domain that the system can handle), DISC-AGREE-P (consent to proposition), DISC-AGREE-PR (reason for consent to proposition) Disclosure), DISC-AGREE-R (disclosure of reasons for consent), EMP (consent by clear expression), and REPEAT (consent by repetition) were defined as dialogue actions. For example, DISC-AGREE-P corresponds to an utterance indicating consent for P disclosed by the conversation partner. For example, “I like it” or “I like it” are uttered in response to the utterance “I like cats”.
非共感に関する対話行為
このグループでは、DISC-DISAGREE-OTHER(システムが対応できるドメイン以外の内容についての非同意), DISC-DISAGREE-P(命題に対する非同意), DISC-DISAGREE-R(非同意の理由の開示)を対話行為として定義した。例えば、DISC-DISAGREE-Pは、対話相手が自己開示したPについて、非同意を表す発話に対応する。例えば、「私は猫が好きです」という発話に対して発せられる「私は猫が嫌いです」や「私は違います」などである。
Dialogue on non-sympathy In this group, DISC-DISAGREE-OTHER (disagreement about contents other than the system can handle), DISC-DISAGREE-P (disagreement with proposition), DISC-DISAGREE-R (disagreement) Disclosure of reason) was defined as a dialogue act. For example, DISC-DISAGREE-P corresponds to an utterance indicating non-consent for P self-disclosure by the conversation partner. For example, “I do not like cats” or “I am different”, which is issued in response to the utterance “I like cats”.
対話管理に関する対話行為
このグループでは、GOODBYE(別れの表現), GREETING(挨拶), OPEN-DIALOGUE(話題の開始の表現), CLOSE-DIALOGUE(話題の終了の表現), Q-OPEN-DIALOGUE(話題の開始の質問), SHIFT-TOPIC(話題の変更)を対話行為として定義した。例えば、GREETINGは、対話の始まりの挨拶を表す。例えば、「こんにちは」や「どうも」である。
Dialogue activities related to dialogue management In this group, GOODBYE (parting expression), GREETING (greeting), OPEN-DIALOGUE (topic start expression), CLOSE-DIALOGUE (topic end expression), Q-OPEN-DIALOGUE (topic) SHIFT-TOPIC (topic change) was defined as a dialogue act. For example, GREETING represents a greeting at the beginning of the dialogue. For example, a "Hello" or "very much".
質問に関する対話行為
このグループでは、Q-DISC-OTHER(システムが対応できるドメイン以外の内容についての質問), Q-DISC-P(命題についての質問), Q-DISC-P-OPEN(命題についてのYes/Noを問わないオープンな質問), Q-DISC-R(理由についての質問), Q-DISC-R-OTHER(他の理由についての質問)を対話行為として定義した。例えば、Q-DISC-Pは、命題Pについて対話相手にYes-No質問をする発話を表す。例えば、「猫は好きですか?」である。また、Q-DISC-P-OPENは、命題Pについて対話相手にオープンな質問をする発話を表す。例えば、「猫をどう思いますか?」のように回答がYes-Noではない質問である。
Dialogue related to questions In this group, Q-DISC-OTHER (questions about non-domain contents that the system can handle), Q-DISC-P (questions about propositions), Q-DISC-P-OPEN (propositions about propositions) Open questions regardless of Yes / No), Q-DISC-R (questions about reasons), and Q-DISC-R-OTHER (questions about other reasons) were defined as dialogue actions. For example, Q-DISC-P represents an utterance that asks a conversation partner a Yes-No question about the proposition P. For example, “Do you like cats?”. Q-DISC-P-OPEN represents an utterance that asks the conversation partner an open question about the proposition P. For example, it is a question whose answer is not Yes-No, such as "What do you think of cats?"
相槌に関する対話行為
このグループでは、ACK(相槌)を対話行為として定義した。これは、「はい」や「ええ」などの相槌に対応する。
Dialogue related to mutualism In this group, ACK was defined as interactive behavior. This corresponds to conflicts such as “Yes” and “Yes”.
その他の対話行為
このグループでは、OTHER(その他)を対話行為として定義した。これは、上記に含まれない発話に与えられる対話行為である。
Other Dialogue Actions In this group, OTHER (other) was defined as a dialog action. This is an interactive action given to utterances not included above.
例えば、図13のU1−U10には、図14のような対話行為が付与されている。以上に示すデータから、各対話において対話行為とそれに対応付いた評価値を得ることができる。例えば、図13と図14に示した発話列(U1−U10)において、対話行為列は{GREETING, GREETING, Q-OPEN-DIALOGUE, DISC-P, ACK, DISC-R, Q-DISC-P-OPEN, DISC-P, ACK, Q-DISC-R }であり、それぞれに対応するスムーズさは{4, 4, 4, 4, 4, 4, 4, 4, 4, 4}、親近感は{4, 4, 4, 4, 4, 5, 5, 5, 5, 5}、対話の継続のしやすさは{4, 4, 4, 5, 5, 5, 5, 5, 5, 6}という評価値になる。なお、ここでユーザ発話に対応する対話行為の評価値は、直前のシステムの対話行為に対す評価値を引き継ぐものとしていることに注意されたい。なお、1発話には1つ以上の対話行為が付与され得る。例えば、ユーザが「こんにちは。私はライオンが好きです。」と発話したとするならば、この発話は{GREETING, DISC-P}という対話行為列に対応する。この場合、どちらの対話行為もこの発話に与えられた評価値を持つとする。 For example, a dialogue act as shown in FIG. 14 is given to U1-U10 in FIG. From the data shown above, it is possible to obtain a dialogue action and an evaluation value associated with it in each dialogue. For example, in the utterance sequence (U1-U10) shown in FIG. 13 and FIG. OPEN, DISC-P, ACK, Q-DISC-R}, the smoothness corresponding to each is {4, 4, 4, 4, 4, 4, 4, 4, 4, 4}, and the familiarity is { 4, 4, 4, 4, 4, 5, 5, 5, 5, 5}, the ease of continuing the dialogue is {4, 4, 4, 5, 5, 5, 5, 5, 5, 6} It becomes the evaluation value. Note that the evaluation value of the dialogue action corresponding to the user utterance here takes over the evaluation value for the dialogue action of the immediately preceding system. One utterance can be given one or more dialogue acts. For example, a user is "Hello. I like a lion." If you and uttered, the utterance corresponding to the {GREETING, DISC-P} dialogue act column called. In this case, it is assumed that both dialogue actions have an evaluation value given to this utterance.
ADデータのサブセットであるAD−SUB1は対話ごとの評価値が付けられたデータである。AD−SUB2は対話ごとの評価値に加え、発話ごとの評価値が付与されたデータである。なお、ADデータのすべての発話には、対話行為のラベルが付与されている。 AD-SUB1, which is a subset of AD data, is data with an evaluation value for each dialog. AD-SUB2 is data in which an evaluation value for each utterance is given in addition to an evaluation value for each dialogue. It should be noted that all utterances of AD data are given a dialogue action label.
<ALデータ>
ALデータは全部で1260対話からなる。本データは、聞き役対話(一方が聞き役となりもう一方が話し役となり、聞き役が話し役を傾聴する対話)である(聞き役対話については,非特許参考文献1を参照)。
<AL data>
AL data consists of 1260 dialogues in total. This data is a hearing dialogue (a dialogue in which one hears and the other speaks and the listener listens to the dialogue) (refer to
ADデータと同様、すべての対話について対話ごとの満足度のラベルが3つの観点から7段階で付与されている。また、100対話(AL−SUB1)には発話ごとのラベルが同じく3つの観点から7段階で付与されている。ここで、3つの観点とは、対話がスムーズかどうか、話し役が聞き役に親近感を感じるか、いい聞き役か、である。評価値付与の手続きはADデータと同様である。対話行為は、挨拶、自己開示、質問など全部で40種類あり、すべての発話に付与されている。具体的な対話行為には、GREETING(あいさつ)、DISC-FACT(事実の自己開示)、INFO(客観的情報の伝達)、Q-FACT(事実に関する質問)、DISC-EVAL-NEG(否定的な評価の自己開示)、DISC-EVAL-POS(肯定的な評価の自己開示)、CONFIRM(確認)、SYNPATHY(共感の表現)などがある。 As with the AD data, the satisfaction level for each dialogue is assigned to each dialogue in seven stages from three viewpoints. Also, 100 dialogs (AL-SUB1) are assigned labels for each utterance in seven stages from the same three viewpoints. Here, the three viewpoints are whether the dialogue is smooth, whether the speaker feels close to the listener and whether it is a good listener. The procedure for assigning evaluation values is the same as that for AD data. There are 40 kinds of dialogues such as greetings, self-disclosure, questions, etc., which are assigned to all utterances. Specific actions include GREETING, DISC-FACT (self-disclosure of facts), INFO (communication of objective information), Q-FACT (question about facts), DISC-EVAL-NEG (negative) Self-disclosure of evaluation), DISC-EVAL-POS (self-disclosure of positive evaluation), CONFIRM (confirmation), SYNPATHY (expression of empathy), etc.
<実験手順>
まず、対話ごとのラベルのみ付与されたAD−SUB1からAD対話用のHMM(エルゴディック0、エルゴディック1、エルゴディック2、連結1、連結2のモデル)を学習する。これらモデルによりAD−SUB1内の対話行為ごとに評価値を推定し、この評価値がAD−SUB2で得られた発話ごとの評価値と一致するかを評価することで提案モデルの有効性を検証する。AL対話についても、ALデータすべてから提案手法によるモデルを学習し、AL−SUB1が持つ発話ごとの評価値と比較する。
<Experimental procedure>
First, an AD conversation HMM (ergodic 0, ergodic 1, ergodic 2,
なお、エルゴディック1、エルゴディック2、連結1、連結2についてM0は0の評価値を表し、直前の評価値と同じ値を表すこととする。また、対話開始時の最尤状態がM0のものであるならば、その評価値は7段階の平均である4とする。例えば、推定された評価値の系列が0→1→2→7→0→5→0→6→0であれば、この系列は4→1→2→7→7→5→5→6→6と見なされ、正解系列と比較・評価される。
For ergodic 1, ergodic 2,
本評価実験では、10フォールドの交差検定を行う。すなわち、ADデータであれば、AD−SUB1を10分割し、このうち9つのフォールドのデータからHMMを学習し、残りの1つのフォールドに含まれる発話ごとの評価値を用いて評価することを、10回繰り返す。ALデータに対しても同様の手続きで評価を行う。本評価実験では、エルゴディック0をベースラインとする。これは、対話ごとの評価値のみに基づいて対話行為(もしくは発話)ごとの評価値を推定する研究が過去に見られず、エルゴディック0が、本発明における最も単純な構造を持つからである。
In this evaluation experiment, a 10-fold cross-validation is performed. That is, if it is AD data, AD-SUB1 is divided into 10 parts, learning HMM from 9 fold data among them, and evaluating using the evaluation value for each utterance included in the remaining one fold,
また、本手法の上限(最も良い結果)として、非特許文献3の手法を用いる。この手法は、対話行為ごとの評価値を正解データとして用い、対話行為とその評価値を対応付けるようにHMMを学習する。つまり、「発明が解決しようとする課題」で説明したように、対話における各発話について満足度のラベリングをする必要があるので、推定のためのコストが高いという問題点がある。本発明は、対話行為ごとの満足度をラベリングを不要としながら、推定精度を維持しようというものなので、非特許文献3の手法の推定精度を上限とした。
Moreover, the method of
エルゴディック0、エルゴディック1、エルゴディック2、連結1、連結2と非特許文献3の手法は、対話行為列について推定評価値列を出力するが、正解評価値列との比較は、評価者が実際に評価値を付けた対話行為についてのみ行うこととする。これは、先に述べたように、ADデータではシステムの対話行為についてのみ、ALデータについては聞き役の対話行為についてのみ評価者による評価値が付与されており、その間の評価値、すなわち、ユーザの対話行為、および、話し役の対話行為についての評価値は、近似であって正確でない可能性があるからである。実のところ、これらの評価値は非特許文献3のモデル化の必要のために埋め草として与えられた値であり、正確な評価をするために、評価者が実際に評価値を付けた対話行為についてのみ行うことは妥当であろう。
The methods of
<評価尺度>
本評価実験では、4つの評価尺度により、対話行為列に対する推定評価値列を評価する。ここで、Rはreference(正解)の意味で正解評価値系列とし、Hはhypothesis(仮説)の意味で推定された評価値系列とする。Lは対話行為系列の長さである。なお、MRは単純に評価値の完全一致によって評価する。RMSEは評価値の一致を距離として評価する。DISTとKLは系列を評価値の分布とみなし、その一致を評価する。
<Evaluation scale>
In this evaluation experiment, the estimated evaluation value sequence for the dialogue action sequence is evaluated using four evaluation scales. Here, R is a correct evaluation value series in the meaning of reference (correct answer), and H is an evaluation value series estimated in the sense of hypothesis. L is the length of the dialogue action sequence. Note that MR is evaluated by simply matching the evaluation values. RMSE evaluates the coincidence of evaluation values as a distance. DIST and KL consider the series as a distribution of evaluation values and evaluate the match.
Match Rate(MR)Match Rate (MR)
ここで、matchは要素が一致したときに1を返し、一致しないときに0を返す関数である。 Here, match is a function that returns 1 when the elements match and returns 0 when the elements do not match.
Root Mean Squared Error(RMSE)Root Mean Squared Error (RMSE)
Distribution Distance(DIST)Distribution Distance (DIST)
ここで、maxscoreはスコアの最大値(本評価実験においては7)であり、countは評価値系列における評価値iの数を返す関数である。例えば、Rが<4,2,2,1,2,3>の場合、count(2,R)は3である。 Here, maxscore is a maximum score value (7 in this evaluation experiment), and count is a function that returns the number of evaluation values i in the evaluation value series. For example, when R is <4, 2, 2, 1, 2, 3>, count (2, R) is 3.
Kullback-Leibler Divergence(KL)Kullback-Leibler Divergence (KL)
ここで、μRとμHはそれぞれRとHの評価値系列の平均値であり、σR 2とσH 2はそれぞれRとHの分散である。 Here, μ R and μ H are average values of the evaluation value series of R and H, respectively, and σ R 2 and σ H 2 are variances of R and H, respectively.
<評価結果>
図15と図16に、ADデータ、ALデータのそれぞれに対する評価結果(各対話毎に各尺度の値を求め,その平均を取った結果)を示す。なお、図中の*は非特許文献3よりも統計的に平均値が劣らないことを示す。+、†、‡は、エルゴディック0、エルゴディック2、連結1よりも統計的に値(平均値)が優れていることを示している。また、太字で示した値は、他のモデルと比較して最も性能が良い値を表す。ここで、エルゴディック0はベースラインであり非特許文献3は上限である。また、この評価実験ではエルゴディック1の値はエルゴディック0と同じであった。これらの図から、エルゴディック0〜2に比べ、連結1、2の推定精度が高いことが分かる。また、例えば評価尺度DISTであれば、エルゴディック0も非特許文献3と同等の結果が得られている。したがって、エルゴディック0〜2、連結1、2のいずれのモデルでも、ある程度の推定精度は得られることが分かる。
<Evaluation results>
FIG. 15 and FIG. 16 show the evaluation results for AD data and AL data (results of obtaining the average of each scale for each dialogue and taking the average). In addition, * in a figure shows that an average value is not inferior statistically compared with a
なお、非特許文献3の手法が上限値(最も良い評価を示す値)だと考えられるが、ADデータにおいては、連結1、2は指標によっては上限値と比べて統計的に有意な差がない。すなわち、同程度の推定性能を有していることが分かる。ALデータにおいても上限には及ばないものの、連結1、2はエルゴディック0〜2に比べ上限値に近づいていく様子が分かる。このことから、本発明は対話ごとの評価のみから対話行為ごとの評価を推定することができていると言える。また,エルゴディック2や連結1〜2の評価結果が良好なように、すべての対話から学習したHMMをモデルに導入すること、および、連結学習が効果的であるということが分かる。
In addition, although it is thought that the method of
なお、エルゴディック0はエルゴディック1と性能が全く同じであった。これは、スコアごとのHMMがシャープな分布を持っており、全体の対話から学習したHMMがブロードな分布を持っているため、最尤パスがスコアごとのHMMのみを通過したことを示す。しかしながら、エルゴディック2の結果に示すように、この現象は全体の対話から学習したHMMの状態数を増やすことによって回避できるということも分かった。
Ergodic 0 had exactly the same performance as
ADデータから得られたエルゴディック0のHMMとALデータから得られた連結1のHMMを図示したものを図17と図18にそれぞれ示す。ここでは簡潔さのため、図17は出力確率、遷移確率ともに0.05以上のもの、図18は出力確率、遷移確率ともに0.1以上のものを表示した。また、図17では評価値1(score:1)と評価値7(score:7)に対応する状態のみを表示している。図18では評価値0(score:0)と評価値1(score:1)と評価値7(score:7)に対応する状態のみを表示している。 An ergodic 0 HMM obtained from AD data and a concatenated 1 HMM obtained from AL data are shown in FIGS. 17 and 18, respectively. Here, for the sake of brevity, FIG. 17 shows an output probability and transition probability of 0.05 or more, and FIG. 18 shows an output probability and transition probability of 0.1 or more. In FIG. 17, only the states corresponding to the evaluation value 1 (score: 1) and the evaluation value 7 (score: 7) are displayed. In FIG. 18, only the states corresponding to the evaluation value 0 (score: 0), the evaluation value 1 (score: 1), and the evaluation value 7 (score: 7) are displayed.
これらの図から、エルゴディック0では状態間の遷移は一定の確率になるが、連結学習を取り入れることにより、状態間の遷移確率がデータに基づいた値になっていることが分かる。また、図17では多くの状態が同じような出力分布を持つのに対し、図18では状態によって出力分布が異なっていることが分かる。これはすべての対話に現れるような対話行為系列が、隠れマルコフモデルM0から出力されるようになり、個々のスコアに対応する出力が対応する状態から出力されるようになった結果であると考えることができる。 From these figures, it can be seen that transitions between states have a constant probability in ergodic 0, but that transition probabilities between states have values based on data by incorporating connected learning. Also, in FIG. 17, it can be seen that many states have the same output distribution, whereas in FIG. 18, the output distribution differs depending on the state. This is a result of the dialogue action sequence appearing in all dialogues being output from the hidden Markov model M 0 and the output corresponding to each score being output from the corresponding state. Can think.
最後に、図19と図20に、ADデータとALデータに対する各モデルの推定評価値系列の例を示す。エルゴディック0、1は対話行為ごとに評価値が大きく上下しているのに比べ、その他のモデルの評価値の変化はなだらかである。これは、M0が有効に機能しているので、各対話行為に無理矢理どれかの評価値を割り振らずに、0の評価値を割り振っていることに起因すると考えられる。 Finally, FIGS. 19 and 20 show examples of estimated evaluation value series of each model for AD data and AL data. In the ergodics 0 and 1, the evaluation values of the other models change more gently than the evaluation values greatly increase and decrease for each dialogue action. This is considered to be due to the fact that the evaluation value of 0 is assigned to each dialogue action without assigning any evaluation value because M 0 functions effectively.
[プログラム、記録媒体]
上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
[Program, recording medium]
The various processes described above are not only executed in time series according to the description, but may also be executed in parallel or individually as required by the processing capability of the apparatus that executes the processes. Needless to say, other modifications are possible without departing from the spirit of the present invention.
また、上述の構成をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。 Further, when the above-described configuration is realized by a computer, processing contents of functions that each device should have are described by a program. The processing functions are realized on the computer by executing the program on the computer.
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。 The program describing the processing contents can be recorded on a computer-readable recording medium. As the computer-readable recording medium, for example, any recording medium such as a magnetic recording device, an optical disk, a magneto-optical recording medium, and a semiconductor memory may be used.
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。 The program is distributed by selling, transferring, or lending a portable recording medium such as a DVD or CD-ROM in which the program is recorded. Furthermore, the program may be distributed by storing the program in a storage device of the server computer and transferring the program from the server computer to another computer via a network.
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。 A computer that executes such a program first stores, for example, a program recorded on a portable recording medium or a program transferred from a server computer in its own storage device. When executing the process, the computer reads a program stored in its own recording medium and executes a process according to the read program. As another execution form of the program, the computer may directly read the program from a portable recording medium and execute processing according to the program, and the program is transferred from the server computer to the computer. Each time, the processing according to the received program may be executed sequentially. Also, the program is not transferred from the server computer to the computer, and the above-described processing is executed by a so-called ASP (Application Service Provider) type service that realizes the processing function only by the execution instruction and result acquisition. It is good. Note that the program in this embodiment includes information that is used for processing by an electronic computer and that conforms to the program (data that is not a direct command to the computer but has a property that defines the processing of the computer).
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。 In this embodiment, the present apparatus is configured by executing a predetermined program on a computer. However, at least a part of these processing contents may be realized by hardware.
本発明は、対話の満足度を対話行為単位に分析する対話分析に利用することができる。 INDUSTRIAL APPLICABILITY The present invention can be used for dialog analysis that analyzes dialog satisfaction in units of dialog act.
50、100、200、300、400 対話分析装置
51、101、201、301、401 対話学習装置
90、190、390 記録部 110 入出力部
120、320 第1モデル学習部 130、230 第2モデル学習部
140、240 モデル連結部 180 評価値推定部
340、440 第1モデル連結部 350 再学習部
360 第2モデル連結部 370 繰返し判定部
50, 100, 200, 300, 400 Dialog analyzer 51, 101, 201, 301, 401
Claims (12)
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、前記隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成する第1モデル学習部
を備える対話学習装置。 A dialogue learning device for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. for each of the stage, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, the hidden Markov model M 1, ..., connecting all of the state of M K to ergodic to, interacts learning apparatus comprising a first model learning unit for creating a hidden Markov model M C.
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、前記隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルME0を作成する第1モデル学習部と、
すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する第2モデル学習部と、
前記マルコフモデルM0と前記隠れマルコフモデルME0のすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成するモデル連結部と
を備える対話学習装置。 A dialogue learning device for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. for each of the stage, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, the hidden Markov model M 1, ..., connecting all of the state of M K to ergodic A first model learning unit for creating a hidden Markov model M E0 ;
A second model learning unit that learns one hidden Markov model M 0 having a state of outputting a speaker's dialogue action from all dialogues;
Connect all states of the said Markov model M 0 Hidden Markov Models M E0 to Ergodic, interactive learning device and a model connecting portion to create a hidden Markov model M C.
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習する第1モデル学習部と、
すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する第2モデル学習部と、
前記隠れマルコフモデルMkのそれぞれと前記マルコフモデルM0のコピーとをペアにし、前記ペア内のすべての状態を接続して、隠れマルコフモデルM1+0,…,MK+0を作成する第1モデル連結部と、
前記隠れマルコフモデルM1+0,…,MK+0を初期モデル、前記時系列データ(d1,…,dN)と前記評価値(r(d1),…,r(dN))を学習データとして与えて隠れマルコフモデルM1+0,…,MK+0を再学習する再学習部と、
再学習された隠れマルコフモデルM1+0,…,MK+0を連結し、1つの隠れマルコフモデルMCとする第2モデル連結部と、
隠れマルコフモデルM1+0,…,MK+0について、学習データに対して所定以上の尤度の改善があるかによって前記再学習部と前記第2モデル連結部の処理を繰り返すかを判定する繰返し判定部と
を備える対話学習装置。 A dialogue learning device for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. A first model learning unit for learning a hidden Markov model M 1 ,..., M K having a state of outputting a speaker's dialogue action at each stage;
A second model learning unit that learns one hidden Markov model M 0 having a state of outputting a speaker's dialogue action from all dialogues;
A first model concatenation that creates a hidden Markov model M 1 + 0 ,..., M K + 0 by pairing each of the hidden Markov models M k with a copy of the Markov model M 0 and connecting all the states in the pair. And
The hidden Markov model M 1 + 0 ,..., M K + 0 is an initial model, and the time series data (d 1 ,..., D N ) and the evaluation values (r (d 1 ),..., R (d N )) are learned data. A re-learning unit that re-learns the hidden Markov model M 1 + 0 ,..., M K + 0
Hidden relearned Markov model M 1 + 0, ..., concatenates M K + 0, and the second model connecting portions to one hidden Markov model M C,
Hidden Markov Models M 1 + 0, ..., M for K + 0, determines the repetition determining unit whether to repeat the processing of the re-learning section and the second model coupling part by whether there is improvement of more than predetermined likelihood against training data A dialogue learning device comprising:
前記隠れマルコフモデルM0は、話者ごとに2つの状態が対応している
ことを特徴とする対話学習装置。 The dialogue learning apparatus according to claim 2 or 3,
The Hidden Markov Model M 0 is interactive learning device characterized by two states in each speaker corresponds.
前記隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する評価値推定部
を備える対話分析装置。 By using Hidden Markov Models M C created claims 1 either by interaction learning apparatus 4, an interaction analysis apparatus for evaluating a dialogue composed of a plurality of dialogue act,
Using the Hidden Markov Model M C, each dialogue act by estimating whether output from the state of the evaluation values of each dialogue act hidden Markov model M C throat of the time-series data d x dialogue evaluation value is not known A dialogue analysis apparatus comprising an evaluation value estimation unit that obtains an evaluation value of the dialogue and estimates the evaluation value of the dialogue from the evaluation value of each dialogue act.
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
対話学習装置が、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、前記隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成する第1モデル学習ステップ
を実行する対話学習方法。 A dialogue learning method for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Dialog learning device
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. for each of the stage, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, the hidden Markov model M 1, ..., connecting all of the state of M K to ergodic to, interacts learning how to perform first model learning step of creating a hidden Markov model M C.
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
対話学習装置が、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習し、前記隠れマルコフモデルM1,…,MKのすべての状態をエルゴディックに接続して、隠れマルコフモデルME0を作成する第1モデル学習ステップと、
すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する第2モデル学習ステップと、
前記マルコフモデルM0と前記隠れマルコフモデルME0のすべての状態をエルゴディックに接続して、隠れマルコフモデルMCを作成するモデル連結ステップと
を実行する対話学習方法。 A dialogue learning method for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Dialog learning device
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. for each of the stage, hidden Markov model M 1 with a state of outputting the dialogue act of the speaker, ..., to learn the M K, the hidden Markov model M 1, ..., connecting all of the state of M K to ergodic A first model learning step for creating a hidden Markov model M E0 ;
A second model learning step for learning one hidden Markov model M 0 having a state of outputting a speaker's dialogue action from all dialogues;
Connect all states of the said Markov model M 0 Hidden Markov Models M E0 to Ergodic, interactive learning how to perform the model connection creating a hidden Markov model M C.
K、Nは2以上の整数、kは1以上K以下の整数、nは1以上N以下の整数とし、
対話学習装置が、
N個の対話の時系列データ(d1,…,dN)と前記の各対話をK段階で評価した評価値(r(d1),…,r(dN))を用いて、評価の段階ごとに、話者の対話行為を出力する状態を持つ隠れマルコフモデルM1,…,MKを学習する第1モデル学習ステップと、
すべての対話から話者の対話行為を出力する状態を持つ1つの隠れマルコフモデルM0を学習する第2モデル学習ステップと、
前記隠れマルコフモデルMkのそれぞれと前記マルコフモデルM0のコピーとをペアにし、前記ペア内のすべての状態を接続して、隠れマルコフモデルM1+0,…,MK+0を作成する第1モデル連結ステップと、
前記隠れマルコフモデルM1+0,…,MK+0を初期モデル、前記時系列データ(d1,…,dN)と前記評価値(r(d1),…,r(dN))を学習データとして与えて隠れマルコフモデルM1+0,…,MK+0を再学習する再学習ステップと、
再学習された隠れマルコフモデルM1+0,…,MK+0を連結し、1つの隠れマルコフモデルMCとする第2モデル連結ステップと、
隠れマルコフモデルM1+0,…,MK+0について、学習データに対して所定以上の尤度の改善があるかによって前記再学習ステップと前記第2モデル連結ステップの処理を繰り返すかを判定する繰返し判定ステップと
を実行する対話学習方法。 A dialogue learning method for creating a hidden Markov model for evaluating a dialogue composed of a plurality of dialogue actions,
K and N are integers of 2 or more, k is an integer of 1 to K, n is an integer of 1 to N,
Dialog learning device
Evaluation is performed using time series data (d 1 ,..., D N ) of N conversations and evaluation values (r (d 1 ),..., R (d N )) obtained by evaluating each of the conversations at the K stage. A first model learning step for learning a hidden Markov model M 1 ,..., M K having a state of outputting a speaker's dialogue action for each stage of
A second model learning step for learning one hidden Markov model M 0 having a state of outputting a speaker's dialogue action from all dialogues;
A first model concatenation that creates a hidden Markov model M 1 + 0 ,..., M K + 0 by pairing each of the hidden Markov models M k with a copy of the Markov model M 0 and connecting all the states in the pair. Steps,
The hidden Markov model M 1 + 0 ,..., M K + 0 is an initial model, and the time series data (d 1 ,..., D N ) and the evaluation values (r (d 1 ),..., R (d N )) are learned data. A re-learning step for re-learning a hidden Markov model M 1 + 0 ,..., M K + 0
Hidden Markov Models M 1 + 0 which is relearned, ..., concatenates M K + 0, and the second model linking step of a single hidden Markov model M C,
Iterative determination step for determining whether to repeat the process of the re-learning step and the second model connection step depending on whether or not the likelihood of the learning data is improved by a predetermined value or more with respect to the hidden Markov model M 1 + 0 ,..., M K + 0 Interactive learning method that executes and.
前記隠れマルコフモデルM0は、話者ごとに2つの状態が対応している
ことを特徴とする対話学習方法。 The dialogue learning method according to claim 7 or 8, comprising:
The Hidden Markov Model M 0 is interactive learning method characterized by two states in each speaker corresponds.
対話分析装置が、
前記隠れマルコフモデルMCを用いて、評価値が分からない対話の時系列データdxの各対話行為が隠れマルコフモデルMCのどの評価値の状態から出力されたかを推定することで各対話行為の評価値を求め、各対話行為の評価値から当該対話の評価値を推定する評価値推定ステップ
を実行する対話分析方法。 By using Hidden Markov Models M C created by any of the interactive learning method of claims 6 9, a dialogue analytical method for evaluating a dialogue composed of a plurality of dialogue act,
Dialogue analysis device
Using the Hidden Markov Model M C, each dialogue act by estimating whether output from the state of the evaluation values of each dialogue act hidden Markov model M C throat of the time-series data d x dialogue evaluation value is not known A dialog analysis method that executes an evaluation value estimation step of obtaining an evaluation value of the dialogue and estimating an evaluation value of the dialogue from an evaluation value of each dialogue action.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010126882A JP5663205B2 (en) | 2010-06-02 | 2010-06-02 | Dialog learning device, dialog analysis device, dialog learning method, dialog analysis method, program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010126882A JP5663205B2 (en) | 2010-06-02 | 2010-06-02 | Dialog learning device, dialog analysis device, dialog learning method, dialog analysis method, program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2011253053A JP2011253053A (en) | 2011-12-15 |
| JP5663205B2 true JP5663205B2 (en) | 2015-02-04 |
Family
ID=45417028
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2010126882A Active JP5663205B2 (en) | 2010-06-02 | 2010-06-02 | Dialog learning device, dialog analysis device, dialog learning method, dialog analysis method, program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5663205B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6704976B2 (en) * | 2018-11-22 | 2020-06-03 | ヤフー株式会社 | Information processing apparatus, information processing method, and program |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4464770B2 (en) * | 2004-08-31 | 2010-05-19 | 日本電信電話株式会社 | Dialog strategy learning method and dialog strategy learning apparatus |
-
2010
- 2010-06-02 JP JP2010126882A patent/JP5663205B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2011253053A (en) | 2011-12-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Shi et al. | Sentiment adaptive end-to-end dialog systems | |
| Bonastre et al. | ALIZE/SpkDet: a state-of-the-art open source software for speaker recognition | |
| KR102057184B1 (en) | Interest determination system, interest determination method, and storage medium | |
| JP2019159309A (en) | Method and apparatus for determining speech interaction satisfaction | |
| JP6780033B2 (en) | Model learners, estimators, their methods, and programs | |
| US20200167417A1 (en) | Transformation of chat logs for chat flow prediction | |
| US9361589B2 (en) | System and a method for providing a dialog with a user | |
| CN114911932A (en) | Heterogeneous graph structure multi-conversation person emotion analysis method based on theme semantic enhancement | |
| JP5346327B2 (en) | Dialog learning device, summarization device, dialog learning method, summarization method, program | |
| US20060206333A1 (en) | Speaker-dependent dialog adaptation | |
| CN111212190A (en) | A dialogue management method, device and system based on speech strategy management | |
| JP6615736B2 (en) | Spoken language identification apparatus, method thereof, and program | |
| Lakomkin et al. | Incorporating end-to-end speech recognition models for sentiment analysis | |
| US12243517B1 (en) | Utterance endpointing in task-oriented conversational systems | |
| WO2025000835A9 (en) | Instruction execution method and apparatus based on language model, and storage medium | |
| Schmitt et al. | Towards adaptive spoken dialog systems | |
| EP2879062A2 (en) | A system and a method for providing a dialog with a user | |
| Nagano et al. | Data augmentation based on vowel stretch for improving children's speech recognition | |
| JP2020071690A (en) | Pattern recognition model and pattern learning device, generation method for pattern recognition model, faq extraction method using the same and pattern recognition device, and program | |
| Moore et al. | Uncommonvoice: A Crowdsourced dataset of dysphonic speech. | |
| CN114328867A (en) | Method and device for intelligent interruption in man-machine dialogue | |
| CN113836932B (en) | Interaction method, device and system, and smart device | |
| CN118051582A (en) | Method, device, equipment and medium for identifying potential customers based on telephone voice analysis | |
| Wang et al. | MSU-Bench: Towards Understanding the Conversational Multi-talker Scenarios | |
| Higashinaka et al. | Modeling user satisfaction transitions in dialogues from overall ratings |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121101 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130626 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130730 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130827 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130828 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140401 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140512 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141202 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141208 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5663205 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |