Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6645995B2 - Voiced pause detection device, its method, and program - Google Patents
[go: Go Back, main page]

JP6645995B2 - Voiced pause detection device, its method, and program - Google Patents

Voiced pause detection device, its method, and program Download PDF

Info

Publication number
JP6645995B2
JP6645995B2 JP2017044547A JP2017044547A JP6645995B2 JP 6645995 B2 JP6645995 B2 JP 6645995B2 JP 2017044547 A JP2017044547 A JP 2017044547A JP 2017044547 A JP2017044547 A JP 2017044547A JP 6645995 B2 JP6645995 B2 JP 6645995B2
Authority
JP
Japan
Prior art keywords
voiced pause
voiced
pause
probability distribution
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017044547A
Other languages
Japanese (ja)
Other versions
JP2018146905A (en
Inventor
清彰 松井
清彰 松井
岡本 学
学 岡本
隆朗 福冨
隆朗 福冨
歩相名 神山
歩相名 神山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2017044547A priority Critical patent/JP6645995B2/en
Publication of JP2018146905A publication Critical patent/JP2018146905A/en
Application granted granted Critical
Publication of JP6645995B2 publication Critical patent/JP6645995B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Telephonic Communication Services (AREA)

Description

本発明は、自然発話音声に頻出する有声休止表現の検出を行う装置、その方法、及びプログラムに関する。   The present invention relates to an apparatus, a method, and a program for detecting a voiced pause expression frequently appearing in naturally uttered speech.

近年、AI技術の適用が様々な分野で期待されており、これらのAIへの入力チャネルとして、人間にとって最も自然なツールである「音声」が重要視されている。   In recent years, the application of AI technology is expected in various fields, and “voice”, which is the most natural tool for humans, is regarded as an important input channel to these AIs.

一方で、人間同士が普段やり取りする自然な音声(自然発話)を認識することは、発話中に含まれる様々な不明瞭発話のため、非常に難しいタスクである。   On the other hand, recognizing natural voices (natural utterances) that humans usually exchange is a very difficult task because of various unclear utterances included in the utterances.

不明瞭発話は、音響的、あるいは言語的な理由により発話の理解を妨げる要因となるもので、その中でも最も重大な要因となるのが、有声休止と呼ばれる現象である。   Indistinct speech is a factor that hinders the understanding of speech for acoustic or linguistic reasons, and the most significant factor is a phenomenon called voiced pause.

有声休止は、話者が次に話す言葉を考える、あるいは発話権を保持するために発する言葉で、「あのー」、「えっと」のようなフィラーと呼ばれる表現と、「春先ー、だけにするとか」と単語の途中あるいは末尾を伸長する表現とが存在する。   Voiced pause is a word spoken by the speaker to think about the next word to speak or to retain the right to speak, and to use only expressions such as "ah" or "um" called filler and "early spring". And the expression that extends the middle or end of a word.

このような有声休止を検出するために、後藤らにより音響特徴を用いた検出法が提案されており(非特許文献1参照)、緒方らもそれを受けた認識率向上のための検討を行っている(非特許文献2参照)。非特許文献1,2による処理の概要を図1に示す。非特許文献1,2では、音声信号から2種類の音響特徴量(基本周波数(以下、F0ともいう)とスペクトル包絡)の変化量を求め(S90,S91,S92)、そこから有声休止らしさPf(t)を求める(S93)。この有声休止らしさPf(t)が、ある閾値Aeachよりも大きい限り(S94)、Pf(t)を足し合わせていき(S95)、この総和sumがまた別の閾値Asumより大きくなった場合(S97)、そのフレームを有声休止であると判定し(S98)、小さい場合(S97)、有声休止でないと判定する(S99)。この総和sumは、Pf(t)がAeachを下回った場合0にリセットされる(S94,S96)。 To detect such a voiced pause, a detection method using acoustic features has been proposed by Goto et al. (See Non-Patent Document 1), and Ogata et al. Also studied to improve the recognition rate. (See Non-Patent Document 2). FIG. 1 shows an outline of the processing according to Non-Patent Documents 1 and 2. In Non-Patent Documents 1 and 2, changes in two types of acoustic features (fundamental frequency (hereinafter, also referred to as F0) and spectrum envelope) are obtained from audio signals (S90, S91, S92), and voiced pause P f (t) is obtained (S93). As long as the voiced pause-likeness P f (t) is larger than a certain threshold A each (S94), P f (t) is added (S95), and this sum sum becomes larger than another threshold A sum If the frame has been paused (S97), it is determined that the frame is a voice pause (S98), and if it is small (S97), it is determined that the frame is not a voice pause (S99). This sum sum is reset to 0 when P f (t) falls below A each (S94, S96).

自然言語特有の言い淀み現象は、非母語話者でも、その発生の有無を、チャンスレート(ランダムに正解を選んだ時の正解率)より高い精度で特定できることが明らかになっており(非特許文献3参照)、言語に依らない、共通の音響的特徴により検出が可能であることを示唆している。   It has become clear that even non-native speakers can identify the occurrence of the lingering phenomenon peculiar to natural language with a higher accuracy than the chance rate (the correct answer rate when choosing the correct answer at random). Reference 3), suggesting that detection is possible with common acoustic features independent of language.

後藤ら,“自然発話中の言い淀み箇所のリアルタイム検出システム”,情報処理学会 音声言語除法処理研究会 研究報告,99-SLP-27-2, Vol.99, No.64, July, 1999.Goto et al., “A Real-Time Detection System for Stagnation in Natural Speech”, IPSJ Speech and Language Division Research Group, 99-SLP-27-2, Vol.99, No.64, July, 1999. 緒方ら,“有声・無声休止区間の自動検出に基づく自由発話音声認識の性能改善手法”,情報処理学会 研究報告,2006-SLP-62, 2006.Ogata et al., “Improvement Method of Speech Recognition Based on Automatic Detection of Voiced / Unvoiced Pauses”, IPSJ Research Report, 2006-SLP-62, 2006. R. Carlson, J. Hirschberg, “Cross-Cultural Perception of Discource Phenomena”, INTERSPEECH2009, pp. 1723-1726, 2009.R. Carlson, J. Hirschberg, “Cross-Cultural Perception of Discource Phenomena”, INTERSPEECH2009, pp. 1723-1726, 2009.

しかしながら、非特許文献1,2は、ブレインストーミングやグループ内での打ち合わせ等、自然発話が非常に生じやすい会議音声に対して、非常に検出率が悪い。これは、突発的な要因によって有声休止の尤度が不当に変化した場合、正解区間の検出漏れよりも、有声休止でない区間を誤検出してしまう場合が非常に多いためである。従って、有声休止区間を高い精度で検出するだけではなく、通常の発話区間を有声休止区間と間違えないようにする必要がある。   However, Non-Patent Literatures 1 and 2 have a very low detection rate for conference speech in which spontaneous speech is very likely to occur, such as brainstorming and meetings within a group. This is because when the likelihood of a voiced pause changes improperly due to a sudden factor, it is extremely likely that a section that is not a voiced pause will be erroneously detected rather than detection omission of a correct answer section. Therefore, it is necessary not only to detect a voiced pause section with high accuracy, but also to make sure that a normal speech section is not mistaken for a voiced pause section.

本発明は、従来技術に比べ誤検出を抑え、検出精度の高い有声休止検出装置、その方法、及びプログラムを提供することを目的とする。   An object of the present invention is to provide a voiced pause detection device, a method thereof, and a program, which suppress erroneous detection as compared with the related art and have high detection accuracy.

上記の課題を解決するために、本発明の一態様によれば、有声休止検出装置は、音声データの話速v(m)を算出する話速算出部と、話速vと有声休止継続長Lとを変数とする確率分布fv,Lを管理し、話速v(m)に対応する確率分布fv(m),Lを求める分布管理部と、検出対象の音声データの基本周波数の変化量と、検出対象の音声データのスペクトル包絡の変化量とを用いて算出される有声休止尤度と、確率分布fv(m),Lまたは確率分布fv(m-1),Lとを用いて有声休止区間を検出する有声休止検出部とを含む。 To solve the above problem, according to one embodiment of the present invention, a voiced pause detection device includes a voice speed calculation unit that calculates a voice speed v (m) of voice data, a voice speed v and a voiced pause continuation length. A distribution management unit that manages the probability distribution f v, L with L as a variable and obtains the probability distribution f v (m), L corresponding to the speech speed v (m), and the fundamental frequency of the voice data to be detected. The amount of change, the voiced pause likelihood calculated using the amount of change in the spectral envelope of the audio data to be detected, and the probability distribution fv (m), L or the probability distribution fv (m-1), L And a voiced pause detection unit that detects a voiced pause section using

上記の課題を解決するために、本発明の他の態様によれば、有声休止検出方法は、音声データの話速v(m)を算出する話速算出ステップと、話速vと有声休止継続長Lとを変数とする確率分布fv,Lを管理し、話速v(m)に対応する確率分布fv(m),Lを求める分布管理ステップと、検出対象の音声データの基本周波数の変化量と、検出対象の音声データのスペクトル包絡の変化量とを用いて算出される有声休止尤度と、確率分布fv(m),Lまたは確率分布fv(m-1),Lとを用いて有声休止区間を検出する有声休止検出ステップとを含む。 To solve the above problem, according to another aspect of the present invention, a voiced pause detection method includes a voice speed calculating step of calculating a voice speed v (m) of voice data; and a voice speed v and a voiced pause continuation. A distribution management step of managing the probability distribution f v, L with the length L as a variable and obtaining the probability distribution f v (m), L corresponding to the speech speed v (m); and the fundamental frequency of the audio data to be detected. And the voiced pause likelihood calculated using the change in the spectral envelope of the voice data to be detected, and the probability distribution fv (m), L or the probability distribution fv (m-1), L A voiced pause detection step of detecting a voiced pause section using

本発明によれば、従来技術に比べ誤検出を抑え、検出精度を向上させることができるという効果を奏する。   According to the present invention, there is an effect that erroneous detection can be suppressed and detection accuracy can be improved as compared with the related art.

従来技術の有声休止検出装置の処理フローを示す図。The figure which shows the processing flow of the voiced pause detection apparatus of a prior art. 第一実施形態に係る有声休止検出装置の機能ブロック図。FIG. 2 is a functional block diagram of the voiced pause detection device according to the first embodiment. 第一実施形態に係る有声休止検出装置の処理フローの例を示す図。FIG. 4 is a diagram illustrating an example of a processing flow of the voiced pause detection device according to the first embodiment. 第一実施形態に係る確率分布を説明するための図。FIG. 4 is a diagram for explaining a probability distribution according to the first embodiment. 第一実施形態に係る特徴量抽出部の機能ブロック図の例を示す図。FIG. 4 is a diagram illustrating an example of a functional block diagram of a feature amount extraction unit according to the first embodiment. 第一実施形態に係る尤度算出部を説明するための図。FIG. 4 is a diagram for explaining a likelihood calculation unit according to the first embodiment. 第一実施形態に係る有声休止検出部の機能ブロック図の例を示す図。FIG. 5 is a diagram illustrating an example of a functional block diagram of a voiced pause detection unit according to the first embodiment. 第一実施形態に係る有声休止修正部を説明するための図。FIG. 4 is a diagram for explaining a voiced pause correction unit according to the first embodiment. 第一実施形態に係る話速算出部の処理内容を説明するための図FIG. 7 is a diagram for explaining processing content of a speech speed calculation unit according to the first embodiment. 第一実施形態に係る分布管理部を説明するための図。FIG. 4 is a diagram for explaining a distribution management unit according to the first embodiment.

以下、本発明の実施形態について、説明する。なお、以下の説明に用いる図面では、同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を記し、重複説明を省略する。以下の説明において、テキスト中で使用する記号「」等は、本来直前の文字の真上に記載されるべきものであるが、テキスト記法の制限により、当該文字の直後に記載する。式中においてはこれらの記号は本来の位置に記述している。また、ベクトルや行列の各要素単位で行われる処理は、特に断りが無い限り、そのベクトルやその行列の全ての要素に対して適用されるものとする。 Hereinafter, embodiments of the present invention will be described. In the drawings used in the following description, components having the same functions and steps for performing the same processing are denoted by the same reference numerals, and redundant description will be omitted. In the following description, the symbol “ ” used in the text should be written immediately above the immediately preceding character, but is written immediately after the character due to restrictions on the text notation. In the formula, these symbols are described in their original positions. The processing performed for each element of a vector or matrix is applied to all elements of the vector or matrix unless otherwise specified.

<第一実施形態のポイント>
(1)話速に基づいて有声休止継続長を変化させることで、話者の話速に合わせた有声休止検出が行える。
(2)有声休止らしさPf(t)が閾値Aeachよりも大きいフレーム数が所定の閾値A以上連続したときに、その区間を有声休止区間と判定することもできる。このとき、話速が大きい(速い)ほど、有声休止継続長が小さく(短く)なる傾向がある。そこで、話速が大きくなるほど、閾値Aが小さくなるように設定することもできる。しかしながら、閾値Aよりもフレーム数が小さい場合であっても、有声休止の場合がある。そこで本実施形態では、単純に有声休止らしさPf(t)が閾値Aeachよりも大きいフレーム数と閾値Aとを比較するのではなく、有声休止らしさPf(t)が高いほどフレーム数が小さくても有声休止であると判断されやすくなるように、有声休止継続長の平均とその分散を用いた確率分布を導入する。有声休止らしさPf(t)と確率密度との積と閾値とを比較することで、分散を考慮した判定を行うことができる。
<Points of the first embodiment>
(1) By changing the voiced pause duration based on the voice speed, voiced pause detection can be performed in accordance with the voice speed of the speaker.
(2) When the number of frames in which the likelihood of voiced pause P f (t) is larger than the threshold value A each continues for a predetermined threshold A or more, the section can be determined as a voiced pause section. At this time, the higher the speech speed (faster), the shorter the voiced pause continuation length tends to be (short). Therefore, the threshold value A can be set so as to decrease as the speech speed increases. However, even when the number of frames is smaller than the threshold A, there may be a voiced pause. Therefore, in the present embodiment, instead of simply comparing the threshold A with the number of frames whose voiced pause likelihood P f (t) is larger than the threshold A each , the number of frames increases as the voice pause likelihood P f (t) increases. A probability distribution using the average of voiced pause duration and its variance is introduced so that it is easy to determine that the pause is voiced even if it is small. By comparing the product of the likelihood of voiced pause P f (t) and the probability density with a threshold, it is possible to make a determination in consideration of the variance.

<第一実施形態>
図2は第一実施形態に係る有声休止検出装置の機能ブロック図を、図3はその処理フローの例を示す。
<First embodiment>
FIG. 2 is a functional block diagram of the voiced pause detection device according to the first embodiment, and FIG. 3 shows an example of the processing flow.

有声休止検出装置100は、デジタル音声データp(τ)を入力とし、デジタル音声データp(τ)の有声休止区間情報(例えば、有声休止区間の開示時刻と終了時刻からなる情報等)B(m,n)を検出し、検出した有声休止区間に対して所定の処理を施し、処理結果を出力する。ただし、τはサンプル時刻を示すインデックスであり、mはデジタル音声データp(τ)に含まれるm番目の発話を示すインデックスであり、(m,n)は、m番目の発話のn番目の有声休止区間を示すインデックスである。   The voiced pause detection device 100 receives the digital voice data p (τ) as input, and performs voiced pause section information of the digital voice data p (τ) (for example, information including the disclosure time and end time of the voiced pause section) B (m , n), performs a predetermined process on the detected voiced pause section, and outputs a processing result. Here, τ is an index indicating the sample time, m is an index indicating the m-th utterance included in the digital voice data p (τ), and (m, n) is the n-th voiced voice of the m-th utterance. This is an index indicating a pause section.

有声休止検出装置100は、CPUと、RAMと、以下の処理を実行するためのプログラムを記録したROMを備えたコンピュータで構成され、機能的には次に示すように構成されている。   The voiced pause detection device 100 is configured by a computer including a CPU, a RAM, and a ROM recording a program for executing the following processing, and is functionally configured as follows.

有声休止検出装置100は、特徴量抽出部101と、尤度算出部102と、有声休止検出部103と、有声休止修正部104と、話速算出部105と、分布管理部106とを含む。以下、各部の処理の概要を説明する。   The voiced pause detection device 100 includes a feature amount extraction unit 101, a likelihood calculation unit 102, a voiced pause detection unit 103, a voiced pause correction unit 104, a speech speed calculation unit 105, and a distribution management unit 106. Hereinafter, an outline of the processing of each unit will be described.

<特徴量抽出部101>
特徴量抽出部101は、デジタル音声データ(有声休止の検出対象の音声データ)p(τ)を入力とし、デジタル音声データp(τ)から音声特徴量を抽出し(S101)、出力する。音声特徴量として、本実施形態では、音の高さ(以下、基本周波数またはF0ともいう)や音の概形特徴(以下、スペクトル包絡ともいう)を抽出する。F0とスペクトル包絡の算出法は様々な先行例が存在し、どの手法を用いてもよい。F0を抽出後、フレーム毎の変化量Af(t)を求め、出力する。ただし、tはフレーム時刻を示す。スペクトル包絡を抽出後、フレーム毎の変化量As(t)を求め、出力する。従って、最終的に、F0及びスペクトル包絡の変化量Af(t),As(t)は、フレーム数分だけ得られる。
<Feature extraction unit 101>
The feature amount extraction unit 101 receives digital voice data (voice data for which voiced pause is to be detected) p (τ) as an input, extracts voice feature amounts from the digital voice data p (τ) (S101), and outputs it. In the present embodiment, a pitch of a sound (hereinafter, also referred to as a fundamental frequency or F0) and a general feature of a sound (hereinafter, also referred to as a spectrum envelope) are extracted as the speech feature amount. There are various prior examples of methods for calculating F0 and the spectral envelope, and any method may be used. After extracting F0, a change amount A f (t) for each frame is obtained and output. Here, t indicates a frame time. After extracting the spectrum envelope, a variation A s (t) for each frame is obtained and output. Thus, finally, F0 and spectral envelope of the variation A f (t), A s (t) is obtained by the number of frames.

<尤度算出部102>
尤度算出部102は、F0及びスペクトル包絡の変化量Af(t),As(t)を入力とし、これらの値を用いて、各フレームの有声休止らしさ(以下、有声休止尤度ともいう)Pf(t)を算出し(S102)、出力する。例えば、有声休止尤度Pf(t)は、F0とスペクトル包絡の変化量Af(t),As(t)の重み付け和で表される。その他、有声休止尤度の算出式は、値制御のための定数を含む。
<Likelihood calculation unit 102>
The likelihood calculation unit 102 receives F0 and the change amounts A f (t) and A s (t) of the spectrum envelope as inputs, and uses these values to determine the likelihood of a voiced pause of each frame (hereinafter, also referred to as voiced pause likelihood say) calculates P f (t) (S102) , and outputs. For example, filled pauses likelihood P f (t) is, F0 and spectral envelope of the variation A f (t), represented by the weighted sum of A s (t). In addition, the expression for calculating the voiced pause likelihood includes a constant for value control.

<有声休止検出部103>
有声休止検出部103は、有声休止尤度Pf(t)と、後述する確率分布fv(m-1),Lとを入力とし、これらの値を用いて、デジタル音声データp(τ)に含まれる有声休止区間を検出する(S103)。ここで得られた有声休止区間情報(例えば、有声休止区間の開始時刻と終了時刻)B(m,n)は有声休止修正部104に、有声休止継続長(以下、平均区間長ともいう)L(m,n)は、分布管理部106に渡される。
<Voice pause detector 103>
The voiced pause detection unit 103 receives the voiced pause likelihood P f (t) and a probability distribution f v (m−1), L described later, and uses these values to generate digital voice data p (τ). Is detected (S103). The obtained voiced pause section information (for example, the start time and end time of the voiced pause section) B (m, n) is sent to the voiced pause correction unit 104, and the voiced pause continuation length (hereinafter, also referred to as average section length) L (m, n) is passed to the distribution management unit 106.

<有声休止修正部104>
有声休止修正部104は、有声休止区間情報B(m,n)を入力とし、有声休止区間情報B(m,n)に基づき、検出された有声休止区間に対して処理を施し(S104)、処理結果を出力する。処理の内容は、その目的によって異なる。
<Voice pause correction unit 104>
The voiced pause correction unit 104 receives the voiced pause section information B (m, n) as input and performs processing on the detected voiced pause section based on the voiced pause section information B (m, n) (S104). Output the processing result. The contents of the processing differ depending on the purpose.

<話速算出部105>
話速算出部105は、デジタル音声データp(τ)を入力とし、デジタル音声データp(τ)からその話速v(m)を算出し(S105)、出力する。話速の算出方法は、先行例を使用する。例えば、音声認識における認識結果とデジタル音声データp(τ)の長さ(ファイル長)から、話速を求めることができる。
<Speech speed calculation unit 105>
The voice speed calculation unit 105 receives the digital voice data p (τ) as input, calculates the voice speed v (m) from the digital voice data p (τ) (S105), and outputs it. The preceding example is used for the method of calculating the speech speed. For example, the speech speed can be obtained from the recognition result in the voice recognition and the length (file length) of the digital voice data p (τ).

<分布管理部106>
分布管理部106は、話速vと有声休止継続長Lとを変数とする確率分布fv,Lを管理する。分布管理部106は、話速v(m)を入力とし、話速v(m)に対応する確率分布fv(m),Lを求め(S106)、出力する。
<Distribution management unit 106>
The distribution management unit 106 manages the probability distribution fv, L using the speech speed v and the voiced pause duration L as variables. The distribution management unit 106 receives the speech speed v (m) as an input, obtains a probability distribution f v (m), L corresponding to the speech speed v (m) (S106), and outputs it.

分布管理部106は、大きく2つの役割を持つ、一方は、有声休止検出部103に対し、現在保持している確率分布fv,Lの中から話速v(m)に対応する確率分布fv(m),Lを提供することである。すなわち、話速算出部105から話速v(m)が引数として与えられた場合、分布管理部106ではその話速v(m)における確率分布fv(m),Lを有声休止検出部103に返す(図4参照)役割がある。有声休止検出部103では、この与えられた確率分布fv(m),Lを用いて次発話m+1の有声休止検出を行う。 The distribution management unit 106 has two major roles. One is to the voiced pause detection unit 103, from the probability distribution f v, L currently held, the probability distribution f (m) corresponding to the speech speed v (m). v (m), L. That is, when the speech speed v (m) is given as an argument from the speech speed calculation unit 105, the distribution management unit 106 determines the probability distribution f v (m), L at the speech speed v (m) as a voiced pause detection unit 103 (See FIG. 4). The voiced pause detection unit 103 performs a voiced pause detection of the next utterance m + 1 using the given probability distribution fv (m), L.

2つ目の役割は、統計情報(確率分布fv,L)の更新である。分布管理部106は、処理開始時点では予め用意したデータから求めた統計情報(確率分布fv,L)を初期値として保持している。ここに、有声休止検出部103から有声休止継続長L(m,n)が、話速算出部105から話速v(m)が与えられることで、確率分布fv,Lを逐次更新していく。 The second role is to update statistical information (probability distribution f v, L ). At the start of processing, the distribution management unit 106 holds, as initial values , statistical information (probability distribution f v, L ) obtained from data prepared in advance. Here, the voiced pause detection unit 103 receives the voiced pause duration L (m, n), and the voice speed calculation unit 105 receives the voice speed v (m) , thereby sequentially updating the probability distribution f v, L. Go.

<変形例>
有声休止検出装置100は、有声休止修正部104を含まなくともよい。その場合、有声休止検出装置100は有声休止区間情報B(m,n)を出力する。例えば、後段に設けられた別装置により有声休止区間情報B(m,n)を用いて何らかの処理が行われる。
<Modification>
The voiced pause detection device 100 may not include the voiced pause correction unit 104. In that case, the voiced pause detection device 100 outputs the voiced pause section information B (m, n). For example, some processing is performed using the voiced pause section information B (m, n) by another device provided at the subsequent stage.

本実施形態では、デジタル音声データp(τ)に含まれる発話の話者は同一であり、m番目の発話とm+1番目の発話において、話速が突発的には変わらないことを前提として、m番目の発話の話速v(m)に対応する確率分布fv(m),Lを求め、m+1番目の発話の有声休止を検出する際にこの確率分布fv(m),Lを用いる。しかしながら、デジタル音声データp(τ)に含まれる発話の話者が複数人おり、話者毎に話速が異なる可能性がある。そのような場合には、以下のような構成が有効である。話速算出部105の前段に話者識別部を設け、デジタル音声データp(τ)のm番目の発話の話者を識別し、話者情報w(m)を出力する。なお、w(m)はm番目の発話の話者を示す情報である。話者識別技術として既存技術の様々な技術を用いることができ、適宜選択すればよい。例えば、参考文献1の技術を用いてオンラインで話者識別を行うことができる。
(参考文献1)Weizhong Zhu and Jason Pelecanos,"ONLINE SPEAKER DIARIZATION USING ADAPTED I-VECTOR TRANSFORMS", ICASSP 2016, pp. 5045 - 5049.
話速算出部105は、デジタル音声データp(τ)と話者情報w(m)とを入力とし、デジタル音声データp(τ)からその話速v(m)を算出し(S105)、話速v(m)と話者情報w(m)との組合せ(v(m),w(m))を出力する。分布管理部106は、組合せ(v(m),w(m))を入力とし、話速v(m)に対応する確率分布fv(m),Lを求め、話者情報w(m)と確率分布fv(m),Lとの組合せ(w(m),fv(m),L)を記憶しておく。
In the present embodiment, it is assumed that the speakers of the utterances included in the digital voice data p (τ) are the same, and that the m-th utterance and the (m + 1) -th utterance do not suddenly change in speech speed. The probability distribution f v (m), L corresponding to the speech speed v (m) of the m-th utterance is obtained, and this probability distribution f v (m), Use L. However, there are a plurality of speakers of the utterance included in the digital voice data p (τ), and there is a possibility that the speech speed differs for each speaker. In such a case, the following configuration is effective. A speaker identification unit is provided before the speech speed calculation unit 105 to identify the m-th speaker of the digital voice data p (τ) and output speaker information w (m). Note that w (m) is information indicating the speaker of the m-th utterance. Various existing technologies can be used as the speaker identification technology, and may be appropriately selected. For example, speaker identification can be performed online using the technique of Reference 1.
(Reference 1) Weizhong Zhu and Jason Pelecanos, "ONLINE SPEAKER DIARIZATION USING ADAPTED I-VECTOR TRANSFORMS", ICASSP 2016, pp. 5045-5049.
The voice speed calculation unit 105 receives the digital voice data p (τ) and the speaker information w (m) as input, calculates the voice speed v (m) from the digital voice data p (τ) (S105), and A combination (v (m), w (m)) of the speed v (m) and the speaker information w (m) is output. The distribution management unit 106 receives the combination (v (m), w (m)) as input, obtains a probability distribution f v (m), L corresponding to the speech speed v (m), and obtains speaker information w (m). The combination (w (m), fv (m), L ) of the probability distribution fv (m), L is stored.

有声休止検出部103は、有声休止尤度Pf(t)と、話者情報w(m)(図示しない話者識別部の出力値)との組合せを入力とし、話者情報w(m)に基づき分布管理部106に問い合わせる。 The voiced pause detection unit 103 receives a combination of the voiced pause likelihood P f (t) and the speaker information w (m) (output value of a speaker identification unit (not shown)) as input, and outputs the speaker information w (m). To the distribution management unit 106 based on

分布管理部106は、話者情報w(m)に対応する確率分布を有声休止検出部103に提供する。なお、話者情報w(m)に対応する確率分布が複数個ある場合には、最新の確率分布を提供する。このような構成により、話者毎に話速を管理することで、話者毎に話速が異なる場合であっても従来技術に比べ誤検出を抑え、検出精度を向上させることができる。   The distribution management unit 106 provides the probability distribution corresponding to the speaker information w (m) to the voiced pause detection unit 103. When there is a plurality of probability distributions corresponding to the speaker information w (m), the latest probability distribution is provided. With such a configuration, by managing the speech speed for each speaker, even if the speech speed differs for each speaker, erroneous detection can be suppressed and the detection accuracy can be improved as compared with the related art.

また、第一実施形態及び上述の変形例では、話速算出部105において、音声認識結果を利用して話速v(m)を算出するため、上述の構成が必要だが、音声認識結果を用いずデジタル音声データp(τ)のみから話速v(m)を算出してもよい。例えば、参考文献2の技術を用いることで、音声認識処理を介さず、RNNを用いてリアルタイムで、m番目の発話の、有声休止区間候補の直前までの話速を算出することができる。
(参考文献2) Yishan Jiao, Ming Tu, Visar Berisha and Julie Liss, "ONLINE SPEAKING RATE ESTIMATION USING RECURRENT NEURAL NETWORKS", ICASSP 2016.
この場合、まず、話速算出部105が、デジタル音声データp(τ)を入力とし、デジタル音声データp(τ)からその話速v(m)を算出し(S105)、出力する。次に分布管理部106が、話速v(m)に対応する確率分布fv(m),Lを求め(S106)、出力する。有声休止検出部103は、有声休止尤度Pf(t)と、確率分布fv(m),Lとを入力とし、これらの値を用いて、デジタル音声データp(τ)に含まれる有声休止区間を検出する(S103)。つまり、第一実施形態では、有声休止検出(S104)、有声休止修正(S104)、音声認識(S107)、話速算出(S105)、分布管理(S106)の順で処理を行っていたが、RNNを用いてリアルタイムで話速v(m)を算出する場合には、話速算出(S105)、分布管理(S106)、有声休止検出(S104)、有声休止修正(S104)、音声認識(S107)の順で処理を行うことができる。このような構成であれば、m番目の発話とm+1番目の発話において、話速が突発的には変わる場合や、話者が複数人いる場合にも適切な確率分布fv(m),Lを用いて有声休止を検出することができる。
Further, in the first embodiment and the above-described modified example, the speech speed calculation unit 105 calculates the speech speed v (m) using the speech recognition result. Alternatively, the speech speed v (m) may be calculated only from the digital audio data p (τ). For example, by using the technique of Reference 2, it is possible to calculate the m-th utterance and the speech speed up to immediately before the voiced pause section candidate in real time using the RNN without performing the voice recognition processing.
(Reference 2) Yishan Jiao, Ming Tu, Visar Berisha and Julie Liss, "ONLINE SPEAKING RATE ESTIMATION USING RECURRENT NEURAL NETWORKS", ICASSP 2016.
In this case, first, the speech speed calculation unit 105 receives the digital voice data p (τ) as input, calculates the voice speed v (m) from the digital voice data p (τ) (S105), and outputs it. Next, the distribution management unit 106 obtains a probability distribution fv (m), L corresponding to the speech speed v (m) (S106) and outputs it. The voiced pause detection unit 103 receives the voiced pause likelihood P f (t) and the probability distribution f v (m), L and uses these values to calculate the voiced pause included in the digital voice data p (τ). A pause section is detected (S103). That is, in the first embodiment, processing is performed in the order of voiced pause detection (S104), voiced pause correction (S104), voice recognition (S107), speech speed calculation (S105), and distribution management (S106). When the speech speed v (m) is calculated in real time using the RNN, speech speed calculation (S105), distribution management (S106), voiced pause detection (S104), voiced pause correction (S104), and speech recognition (S107) ) Can be performed in this order. With such a configuration, in the m-th utterance and the (m + 1) -th utterance, the probability distribution f v (m) is appropriate even when the speech speed changes suddenly or when there are multiple speakers. , L can be used to detect voiced pauses.

<実施例1>
本実施例では、有声休止区間の検出結果を用いて音声認識を向上させる例を説明する。音声認識装置は、有声休止検出装置100の構成に加え音声認識部107を含む(図2中、破線で示す)。
<Example 1>
In the present embodiment, an example will be described in which speech recognition is improved using the detection result of a voiced pause section. The voice recognition device includes a voice recognition unit 107 in addition to the configuration of the voiced pause detection device 100 (indicated by a broken line in FIG. 2).

<特徴量抽出部101>
図5は特徴量抽出部101の機能ブロック図の例を示す。特徴量抽出部101は、F0及びスペクトル包絡の変化量算出には、例えば非特許文献1、2を用いることができる。例えば、デジタル音声データp(τ)のサンプリング周波数は16[kHz]、フレーム幅は64[ms]、フレームシフトは10[ms]とする。
<Feature extraction unit 101>
FIG. 5 shows an example of a functional block diagram of the feature amount extraction unit 101. The feature amount extraction unit 101 can use, for example, Non-Patent Documents 1 and 2 for calculating the change amounts of F0 and the spectrum envelope. For example, the sampling frequency of digital audio data p (τ) is 16 [kHz], the frame width is 64 [ms], and the frame shift is 10 [ms].

まず、周波数領域変換部101−1において、デジタル音声データp(τ)をフレームと呼ばれる短い単位に分割し、短時間フーリエ変換(STFT)を行う。この結果から、F0抽出部101−2において、瞬時周波数を計算することでF0を得る。F0変化量算出部101−3は、時系列のF0から各フレーム時刻の変化量(例えば、現フレーム時刻のF0と一つ前のフレーム時刻のF0との差分)Af(t)を求める。 First, the frequency domain transforming unit 101-1 divides digital audio data p (τ) into short units called frames, and performs short-time Fourier transform (STFT). From this result, F0 is obtained by calculating the instantaneous frequency in the F0 extraction unit 101-2. The F0 change amount calculation unit 101-3 calculates the change amount of each frame time (for example, the difference between F0 of the current frame time and F0 of the immediately preceding frame time) A f (t) from F0 in the time series.

また、周波数領域変換部101−1の出力に対し先程推定したF0の高調波成分のみをL次の成分まで通す高調波フィルタ(櫛形フィルタ)101−4を適用させ、フレーム毎にL次元の特徴量を得る。これらの点に対し、スペクトル包絡生成部101−5は、線形補間を行った後に、一定の周波数間隔でリサンプリングを行い、スペクトラル包絡を生成する。また、スペクトル包絡生成部101−5は、高周波成分は有声休止の判断に重要な情報をあまり持たないため、リサンプリングを行う周波数上限を定めることにより計算時間の短縮を図る。例えば、人間の発話音声における局所的なピーク(フォルマント)を、低次から2つだけとれるように周波数上限を定める場合、上限周波数は3,200[Hz]となる。その後、スペクトル包絡変化量算出部101−6は、各次元のフレーム間の変化量(例えば、現フレーム時刻の各次元の値と一つ前のフレーム時刻の各次元の値との差分)を求め、それを全次元間で足し合わせることにより、各フレームのスペクトル包絡の変化量As(t)を算出する。 In addition, a harmonic filter (comb filter) 101-4 that passes only the harmonic component of F0 estimated previously to the L-order component is applied to the output of the frequency domain transforming unit 101-1. Get the quantity. For these points, the spectrum envelope generation unit 101-5 performs linear interpolation, and then performs resampling at regular frequency intervals to generate a spectral envelope. Further, the spectrum envelope generation unit 101-5 shortens the calculation time by setting the upper limit of the frequency at which resampling is performed, because the high-frequency component does not have much information important for the determination of the voiced pause. For example, when the frequency upper limit is determined so that only two local peaks (formants) in human speech can be taken from the lower order, the upper limit frequency is 3,200 [Hz]. Thereafter, the spectrum envelope change amount calculation unit 101-6 obtains a change amount between frames of each dimension (for example, a difference between a value of each dimension of the current frame time and a value of each dimension of the immediately preceding frame time). Then, by adding them over all dimensions, the variation A s (t) of the spectral envelope of each frame is calculated.

<尤度算出部102>
図6は尤度算出部102を説明するための図である。例えば、F0変化量Af(t)とスペクトル包絡変化量As(t)を用いた尤度算出処理についても、非特許文献1、2に従ってもよい。
<Likelihood calculation unit 102>
FIG. 6 is a diagram for explaining the likelihood calculating unit 102. For example, the likelihood calculation processing using the F0 change amount A f (t) and the spectrum envelope change amount A s (t) may be performed according to Non-Patent Documents 1 and 2.

あるフレームtにおける有声休止らしさPf(t)は、F0変化量Af(t)、スペクトル包絡変化量As(t)を用いて、次式により求められる。
ただし、Rは重み、Wは変動や変形の大きさを制御する定数である。Rが大きい場合はF0を、小さい場合はスペクトル包絡を重視する、また、Wが大きい場合は、特徴量の変化量が多少大きくても許容し、小さい場合は変化量に対して敏感になる。
The voiced pause-likeness P f (t) in a certain frame t is obtained by the following equation using the F0 variation A f (t) and the spectrum envelope variation A s (t).
Here, R is a weight, and W is a constant for controlling the magnitude of fluctuation or deformation. When R is large, F0 is emphasized, and when R is small, spectrum envelope is emphasized. When W is large, the amount of change in the feature amount is allowed to be slightly large, and when R is small, the amount of change is sensitive to the amount of change.

<有声休止検出部103>
図7は有声休止検出部103の機能ブロック図の例を示す。有声休止検出部103は、分布管理部106から渡された確率分布fv(m),Lと、尤度算出部102から渡された有声休止尤度Pf(t)とを入力とし、これらの値を用いて有声休止区間の検出を行い、有声休止区間B(m,n)及び有声休止継続長L(m,n)を出力する。
<Voice pause detector 103>
FIG. 7 shows an example of a functional block diagram of the voiced pause detection unit 103. The voiced pause detection unit 103 receives the probability distribution f v (m), L passed from the distribution management unit 106 and the voiced pause likelihood P f (t) passed from the likelihood calculation unit 102 as inputs. Is used to detect a voiced pause section, and a voiced pause section B (m, n) and a voiced pause duration L (m, n) are output.

まず、移動平均算出部103−1において、有声休止尤度Pf(t)の前後mフレームの範囲における移動平均をとり、平滑化処理を行う。これにより、有声休止らしさが突発的に大きく、あるいは小さくなってしまうような現象を緩和することができる。こうして得られた平滑化尤度をPf_avg(t)とおく。なお、音声データの開始・終了時で窓幅が十分に確保できない場合は、不足している側の一番端の要素を不足分だけコピーして補ってもよい。 First, the moving average calculation unit 103-1 calculates a moving average of m frames before and after the voiced pause likelihood P f (t), and performs smoothing processing. As a result, it is possible to alleviate a phenomenon in which the voice pause is suddenly increased or decreased. The smoothed likelihood obtained in this manner is defined as P f_avg (t). If the window width cannot be sufficiently secured at the start and end of the audio data, the shortest end element may be copied and supplemented by the shortage.

その後、第一判定部103−2において、ある閾値thrfを設けて、フレーム毎に、Pf_avg (t)>thrfならば有声休止の可能性あり、Pf_avg (t)≦thrfならば有声休止でないと判定する。例えば、Pf_avg(t)>thrfならばA(t)←1とし、Pf_avg (t)≦thrfならばA(t)←0とし、この判定結果において、A(t)=1が1つ以上連続して出現している区間を「有声休止区間」の可能性があると判断する。各検出区間からは、その区間に属するフレーム数と平滑化尤度から、有声休止継続長L(m,n)及び平均尤度Pt,t+N-1を算出しておく。例えば、フレーム番号tからt+N-1において、Nフレームからなる有声休止区間の可能性がある区間があった場合、有声休止継続長L(m,n)及び平均尤度Pt,t+N-1は、
となる。なお、10[ms] は、前述のフレームシフトである。
Thereafter, the first determination unit 103-2, provided certain threshold thr f, for each frame, there is a possibility of P f_avg (t)> thr f if filled pause, if P f_avg (t) ≦ thr f It is determined that it is not a voiced pause. For example, if P f_avg (t)> thr f , A (t) ← 1; if P f_avg (t) ≦ thr f , A (t) ← 0, and in this determination result, A (t) = 1 It is determined that one or more consecutive appearing sections may be "voiced pause sections". From each detection section, a voiced pause continuation length L (m, n) and average likelihood Pt, t + N-1 are calculated from the number of frames belonging to the section and the smoothed likelihood. For example, if there is a section that may be a voiced pause section consisting of N frames at frame numbers t to t + N−1, a voiced pause duration L (m, n) and average likelihood P t, t + N-1 is
Becomes Note that 10 [ms] is the above-described frame shift.

このようにして検出したそれぞれの有声休止区間の可能性がある区間について、話速に基づいた判定を行う。   A determination based on the speech speed is performed for each of the sections that may be detected as voiced pause sections in this manner.

区間尤度計算部103−3において、分布管理部106から渡された確率分布fv(m-1),Lを用いて、有声休止区間の可能性がある区間毎の有声休止継続長L(m,n)における確率密度fv(m),L(m,n)と平均尤度Pt,t+N-1の積を求めることで、最終的な区間尤度Pt(=fv(m),L(m,n)×Pt,t+N-1)を得る。例えば、ある有声休止区間の可能性がある区間[t,t+N-1]において、L(m,n)=650[ms]、Pt,t+N-1=0.80であり、図4に示したような分布が与えられたとき、この分布においてL=650[ms]の時の確率密度fv(m),L(m,n)は0.87となるから、最終的な区間尤度は、Pt=0.80×0.87=0.696となる。 In the section likelihood calculation section 103-3, using the probability distribution f v (m-1), L passed from the distribution management section 106, the voiced pause continuation length L ( m, n) probability of density f v (m), L ( m, n) and the average likelihood P t, by obtaining the product of the t + n-1, the final segment likelihoods P t (= f v (m), L (m, n) × P t, t + N−1 ). For example, in a section [t, t + N-1] where there is a possibility of a voiced pause section, L (m, n) = 650 [ms] and Pt, t + N-1 = 0.80, and FIG. Given a distribution as shown in the above, the probability density f v (m), L (m, n) at L = 650 [ms] in this distribution is 0.87, so the final interval likelihood Is P t = 0.80 × 0.87 = 0.696.

第二判定部103−4において、このようにして求めた区間尤度Ptが、設定した閾値thrs以下の場合、その区間を除外し(有声休止区間ではないと判定し)、区間尤度P(t)が閾値thrsを超える場合、その区間を有声休止区間と判定する。なお、確率密度fv(m),L(m,n)を考慮することによって、平均尤度Pt,t+N-1の絶対値そのものは増減するため、最終的な区間判定に用いる閾値thrsは、各フレームの有声休止尤度に対して使用した閾値thrfとは異なる変数を分布の確率密度に基づいて設定するべきである。 The in second determination unit 103-4, thus determined interval likelihood P t is equal to or smaller than the threshold value thr s set, (and determined not to be filled pause period) excluding the period, interval likelihood If P where (t) exceeds the threshold value thr s, determines the section between voiced pause interval. By considering the probability density fv (m), L (m, n) , the absolute value itself of the average likelihood Pt, t + N-1 increases or decreases. For thr s , a variable different from the threshold thr f used for the voiced pause likelihood of each frame should be set based on the probability density of the distribution.

第二判定部103−4は、有声休止区間と判定したときの有声休止継続長L(m,n)と有声休止区間情報B(m,n)とを出力する。   The second determination unit 103-4 outputs the voiced pause duration L (m, n) and the voiced pause section information B (m, n) when it is determined that the section is a voiced pause section.

<有声休止修正部104>
本実施例では、認識率向上のための修正を行う。
認識率向上を目的とした時の最も簡易的な修正方法は、検出した区間の「削除」である。図8は、有声休止修正部を説明するための図である。すなわち、検出した区間に該当するフレームの音声(特徴量)を切り取り、残った箇所を繋ぎ合わせることで、有声休止を含まない音声を疑似生成する。ただし、単に切り取って繋ぎ合わせた場合、切り取り部で不連続点が発生し、認識に悪影響を及ぼす恐れがあるため、窓関数を適用することで区間の切れ目を滑らかに繋ぎ合わせる、切り取った区間に補償フレームを挿入する、といった補間方法の適用が考えられる。
<Voice pause correction unit 104>
In this embodiment, a correction is made to improve the recognition rate.
The simplest correction method for improving the recognition rate is "deletion" of the detected section. FIG. 8 is a diagram for explaining the voiced pause correction unit. That is, the voice (feature amount) of the frame corresponding to the detected section is cut out, and the remaining portions are connected to generate pseudo voice including no voiced pause. However, if simply cut and joined, a discontinuous point occurs at the cut part, which may adversely affect recognition.Therefore, by applying a window function, the cuts of the sections are smoothly joined, Application of an interpolation method such as insertion of a compensation frame can be considered.

よって、有声休止修正部104は、デジタル音声データp(τ)とデジタル音声データp(τ)に対する有声休止区間情報B(m,n)とを入力とし、デジタル音声データp(τ)から有声休止区間情報B(m,n)に対応する部分を削除し、修正音声データq(τ)を求め、出力する。   Therefore, the voiced pause correction unit 104 receives the digital voice data p (τ) and the voiced pause section information B (m, n) for the digital voice data p (τ), and performs a voice pause from the digital voice data p (τ). The portion corresponding to the section information B (m, n) is deleted, corrected voice data q (τ) is obtained and output.

<話速算出部105>
図9は話速算出部105の処理内容を説明するための図である。話速算出部105は、デジタル音声データp(τ)と後述する音声認識部107から与えられた認識結果とを入力とし、音声ファイルの長さと、認識結果のモーラ数から話速v(m)を求め、出力する。モーラとは、音の文節単位のことで、例えば、単語「けっしょう」は、4モーラ(「け|っ|しょ|う」)となる。認識結果より総モーラ数を計算し、それを音声ファイルの長さで割ることで、1秒あたり何モーラ発話しているかを求めることができる(単位は[mora/s]となる)。これを話速v(m)として用いる。計算された話速v(m)は、後述する分布管理部106に渡され、分布の更新及び次の有声休止検出に用いる確率分布の決定に用いられる。
<Speech speed calculation unit 105>
FIG. 9 is a diagram for explaining the processing content of the speech speed calculation unit 105. The speech speed calculation unit 105 receives the digital speech data p (τ) and the recognition result given from the speech recognition unit 107, which will be described later, and calculates the speech speed v (m) based on the length of the speech file and the number of mora of the recognition result. And output. The mora is a unit of a sound phrase. For example, the word "Kessou" is 4 mora ("Ke | Sho"). By calculating the total number of mora from the recognition result and dividing it by the length of the audio file, it is possible to determine how many mora are speaking per second (unit is [mora / s]). This is used as the speech speed v (m). The calculated speech speed v (m) is passed to the distribution management unit 106, which will be described later, and is used to determine the probability distribution used for updating the distribution and detecting the next voiced pause.

<分布管理部106>
図10は、分布管理部106の機能ブロック図を示す。
分布管理部106において管理する確率分布fv,Lは、話速及び有声休止継続長を変数とするガウス分布を仮定する(図4参照)。確率分布記憶部106−2には、このような確率分布fv,Lが格納されている。有声休止継続長を変数x、話速を変数yで表現した時、それぞれの平均μx、μy及び分散σx 2、σy 2、共分散σxy(=σyx)を用いて、ガウス分布を次式のように表すことができる。
ただし、x=(x,y)t、μ=(μxy)tを示し(上付き添え字のtは転置を表す)、Σは2次元の分散共分散行列を表す。
<Distribution management unit 106>
FIG. 10 is a functional block diagram of the distribution management unit 106.
The probability distribution f v, L managed by the distribution management unit 106 is assumed to be a Gaussian distribution with the speech speed and the voiced pause duration as variables (see FIG. 4). Such a probability distribution f v, L is stored in the probability distribution storage unit 106-2. When the voiced pause duration is represented by a variable x and the speech speed is represented by a variable y, the average μ x , μ y, the variance σ x 2 , σ y 2 , and the covariance σ xy (= σ yx ) The distribution can be expressed as:
Here, x = (x, y) t and μ = (μ x , μ y ) t (the superscript t represents transpose), and Σ represents a two-dimensional variance-covariance matrix.

次に、分布の更新について述べる。分布更新部106−1は、話速算出部105及び有声休止検出部103よりm発話目における話速v(m)と有声休止継続長L(m)が与えられた場合、確率分布記憶部106−2からその時点の確率分布fv,Lを取り出し、m-1発話目までの処理から算出された平均μ m-1=(μx,m-1y,m-1)tと分散共分散行列
を用いて、次式により統計情報を更新する。
なお、m番目の発話に有声休止がR(R≧2)個ある場合には、有声休止継続長L(m,1),L(m,2),…,L(m,R)のそれぞれについて、確率分布fv,Lを更新してもよいし、R個の有声休止継続長L(m,1),L(m,2),…,L(m,R)の平均値を有声休止継続長L(m)とし、確率分布fv,Lを更新してもよい。
Next, updating of the distribution will be described. When the speech speed v (m) and the voiced pause continuation length L (m) at the m-th utterance are given from the voice speed calculation unit 105 and the voiced pause detection unit 103, the distribution update unit 106-1 provides the probability distribution storage unit 106 The probability distribution f v, L at that time is extracted from −2, and the average μ m−1 = (μ x, m−1 , μ y, m−1 ) t calculated from the processing up to the m−1 utterance And the variance-covariance matrix
Is used to update the statistical information according to the following equation.
If there are R (R ≧ 2) voiced pauses in the m-th utterance, each of the voiced pause durations L (m, 1), L (m, 2),..., L (m, R) , The probability distribution f v, L may be updated, or the average of R voiced pause durations L (m, 1), L (m, 2), ..., L (m, R) is voiced. The probability distribution fv, L may be updated with the pause duration L (m).

確率分布fv,Lを更新後、確率分布算出部106−3は、入力された話速v(m)を用い、話速v(m)における確率密度分布fv(m),Lを算出する。算出された確率密度分布fv(m),Lは、m+1番目の入力発話において区間尤度算出のために用いられる。 After updating the probability distribution f v, L , the probability distribution calculation unit 106-3 calculates the probability density distribution f v (m), L at the speech speed v (m) using the input speech speed v (m). I do. The calculated probability density distribution f v (m), L is used for calculating the section likelihood in the ( m + 1) th input utterance.

ガウス分布は性質が良く、また統計情報の扱いも容易であるが、分布の性質上、有声休止継続長がマイナスになる確率が存在してしまう。これを避けるために、ガンマ分布のような、0以上の定義域にのみ値を持つような分布を用いることも考えられる。   The Gaussian distribution has good properties and is easy to handle statistical information. However, due to the nature of the distribution, there is a probability that the voiced pause duration becomes negative. In order to avoid this, it is conceivable to use a distribution such as a gamma distribution that has a value only in the domain of 0 or more.

<音声認識部107>
音声認識部107は、修正音声データq(τ)を入力とし、修正音声データq(τ)に対して音声認識を行い(S107)、認識結果を当該音声認識装置の出力値として出力するとともに、前述の話速算出部105に出力する。
<Speech recognition unit 107>
The speech recognition unit 107 receives the modified speech data q (τ) as input, performs speech recognition on the modified speech data q (τ) (S107), and outputs a recognition result as an output value of the speech recognition device. Output to the above-mentioned speech speed calculation unit 105.

例えば、現在の音声認識で一般的に行われている、音響モデル及び言語モデルを用いたWFSTデコーダによる音声認識を行う。ここで認識に用いる音声は、元々の音声データp(τ)ではなく、有声休止修正部104で有声休止部分を切り取られた後の修正音声データq(τ)である。これにより、有声休止の影響を取り除くことができ、認識率を向上させることができる。また、ここで得られた認識結果を話速算出部105に渡すことにより、認識結果からの話速計算を行うことができる。これによって計算された話速は、次の発話の有声休止検出に用いられる。   For example, speech recognition by a WFST decoder using an acoustic model and a language model, which is generally performed in current speech recognition, is performed. The voice used for recognition here is not the original voice data p (τ), but the corrected voice data q (τ) after the voiced pause portion has been cut off by the voiced pause correction unit 104. As a result, the influence of voiced pause can be removed, and the recognition rate can be improved. Further, by passing the obtained recognition result to the speech speed calculation unit 105, the speech speed can be calculated from the recognition result. The calculated speech speed is used for voiced pause detection of the next utterance.

<効果>
以上の構成により、従来技術に比べ誤検出を抑え、検出精度を向上させることができる。また、検出した有声休止を利用することで音声認識の精度を高めることができる。
<Effect>
With the above configuration, erroneous detection can be suppressed and the detection accuracy can be improved as compared with the related art. Further, the accuracy of voice recognition can be improved by using the detected voiced pause.

第一実施形態に係る有声休止検出装置は、音声認識装置以外にも様々な有声休止を利用する技術に適用することができる。例えば、対話システムに適用することができる。その場合、対話システムは、有声休止区間情報を受け取り、対話システムがユーザに聞き返しをするような対話を実現させることができる。ただし、この場合、本実施例のように音声認識結果を利用して話速を算出することはできないため、第一実施形態の変形例で説明したように音声認識結果を用いずデジタル音声データp(τ)のみから話速v(m)をリアルタイムで算出する構成が望ましい。   The voiced pause detecting device according to the first embodiment can be applied to various techniques using voiced pauses other than the voice recognition device. For example, it can be applied to an interactive system. In that case, the dialogue system can receive the voiced pause section information and realize a dialogue in which the dialogue system returns to the user. However, in this case, since the speech speed cannot be calculated using the speech recognition result as in the present embodiment, the digital speech data p is used without using the speech recognition result as described in the modification of the first embodiment. It is desirable that the speech speed v (m) be calculated in real time only from (τ).

<その他の変形例>
本発明は上記の実施形態及び変形例に限定されるものではない。例えば、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
<Other modifications>
The present invention is not limited to the above embodiments and modifications. For example, the above-described various processes may be executed not only in chronological order as described, but also in parallel or individually according to the processing capability of the device that executes the processes or as necessary. In addition, changes can be made as appropriate without departing from the spirit of the present invention.

<プログラム及び記録媒体>
また、上記の実施形態及び変形例で説明した各装置における各種の処理機能をコンピュータによって実現してもよい。その場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記各装置における各種の処理機能がコンピュータ上で実現される。
<Program and recording medium>
Further, various processing functions in each device described in the above embodiment and the modified examples may be realized by a computer. In this case, the processing content of the function that each device should have is described by a program. By executing this program on a computer, various processing functions of the above-described devices are realized on the computer.

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。   A program describing this processing content can be recorded on a computer-readable recording medium. The computer-readable recording medium may be any recording medium such as a magnetic recording device, an optical disk, a magneto-optical recording medium, a semiconductor memory, and the like.

また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させてもよい。   The distribution of the program is performed by, for example, selling, transferring, lending, or the like, a portable recording medium such as a DVD or a CD-ROM on which the program is recorded. Further, the program may be stored in a storage device of a server computer, and the program may be distributed by transferring the program from the server computer to another computer via a network.

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶部に格納する。そして、処理の実行時、このコンピュータは、自己の記憶部に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実施形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよい。さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。   A computer that executes such a program first stores, for example, a program recorded on a portable recording medium or a program transferred from a server computer in its own storage unit. Then, when executing the processing, the computer reads the program stored in its own storage unit and executes the processing according to the read program. As another embodiment of the program, a computer may directly read the program from a portable recording medium and execute processing according to the program. Further, each time a program is transferred from the server computer to the computer, processing according to the received program may be sequentially performed. A configuration in which the above-described processing is executed by a so-called ASP (Application Service Provider) type service that realizes a processing function only by executing an instruction and acquiring a result without transferring a program from the server computer to the computer. It may be. It should be noted that the program includes information to be used for processing by the computer and which is similar to the program (such as data that is not a direct command to the computer but has properties that define the processing of the computer).

また、コンピュータ上で所定のプログラムを実行させることにより、各装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。   Further, each device is configured by executing a predetermined program on a computer, but at least a part of the processing contents may be realized by hardware.

Claims (5)

音声データの話速v(m)を算出する話速算出部と、
話速vと有声休止継続長Lとを変数とする確率分布fv,Lを管理し、前記話速v(m)に対応する確率分布fv(m),Lを求める分布管理部と、
検出対象の音声データの基本周波数の変化量と、前記検出対象の音声データのスペクトル包絡の変化量とを用いて算出される有声休止尤度と、前記確率分布fv(m),Lまたは確率分布fv(m-1),Lとを用いて有声休止区間を検出する有声休止検出部とを含む、
有声休止検出装置。
A speech speed calculation unit for calculating a speech speed v (m) of voice data,
The probability distribution fv, which manages the speech speed v and the voiced pause continuation length L as variables, and a probability distribution fv (m) corresponding to the speech speed v (m), a distribution management unit for determining L ,
The amount of change in the fundamental frequency of the audio data to be detected, the voiced pause likelihood calculated using the amount of change in the spectral envelope of the audio data to be detected, and the probability distribution fv (m), L or probability Including a voiced pause detection unit that detects a voiced pause section using the distribution fv (m-1), L.
Voiced pause detection device.
請求項1の有声休止検出装置であって、
前記分布管理部は、前記話速v(m)と検出した前記有声休止区間に対応する有声休止継続長L(m)とから前記確率分布fv,Lを更新する、
有声休止検出装置。
The voiced pause detection device according to claim 1,
The distribution management unit updates the probability distribution fv, L from the voice speed v (m) and the voiced pause duration L (m) corresponding to the detected voiced pause section,
Voiced pause detection device.
音声データの話速v(m)を算出する話速算出ステップと、
話速vと有声休止継続長Lとを変数とする確率分布fv,Lを管理し、前記話速v(m)に対応する確率分布fv(m),Lを求める分布管理ステップと、
検出対象の音声データの基本周波数の変化量と、前記検出対象の音声データのスペクトル包絡の変化量とを用いて算出される有声休止尤度と、前記確率分布fv(m),Lまたは確率分布fv(m-1),Lとを用いて有声休止区間を検出する有声休止検出ステップとを含む、
有声休止検出方法。
A speech speed calculation step of calculating a speech speed v (m) of voice data;
A distribution management step of managing a probability distribution f v, L having a speech speed v and a voiced pause duration L as variables, and obtaining a probability distribution f v (m), L corresponding to the speech speed v (m),
The amount of change in the fundamental frequency of the audio data to be detected, the voiced pause likelihood calculated using the amount of change in the spectral envelope of the audio data to be detected, and the probability distribution fv (m), L or probability Voiced pause detection step of detecting a voiced pause section using the distribution fv (m-1), L and
Voiced pause detection method.
請求項3の有声休止検出方法であって、
前記話速v(m)と検出した前記有声休止区間に対応する有声休止継続長L(m)とから前記確率分布fv,Lを更新する確率分布更新ステップを含む、
有声休止検出方法。
4. The voiced pause detection method according to claim 3, wherein
A probability distribution update step of updating the probability distribution f v, L from the voice speed v (m) and the voiced pause continuation length L (m) corresponding to the detected voiced pause section,
Voiced pause detection method.
請求項1若しくは請求項2の有声休止検出装置として、コンピュータを機能させるためのプログラム。   A program for causing a computer to function as the voiced pause detection device according to claim 1 or 2.
JP2017044547A 2017-03-09 2017-03-09 Voiced pause detection device, its method, and program Active JP6645995B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017044547A JP6645995B2 (en) 2017-03-09 2017-03-09 Voiced pause detection device, its method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017044547A JP6645995B2 (en) 2017-03-09 2017-03-09 Voiced pause detection device, its method, and program

Publications (2)

Publication Number Publication Date
JP2018146905A JP2018146905A (en) 2018-09-20
JP6645995B2 true JP6645995B2 (en) 2020-02-14

Family

ID=63591968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017044547A Active JP6645995B2 (en) 2017-03-09 2017-03-09 Voiced pause detection device, its method, and program

Country Status (1)

Country Link
JP (1) JP6645995B2 (en)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3376487B2 (en) * 1999-10-27 2003-02-10 独立行政法人産業技術総合研究所 Method and apparatus for detecting stagnation

Also Published As

Publication number Publication date
JP2018146905A (en) 2018-09-20

Similar Documents

Publication Publication Date Title
EP3955246B1 (en) Voiceprint recognition method and device based on memory bottleneck feature
US9536525B2 (en) Speaker indexing device and speaker indexing method
KR101942521B1 (en) Speech endpointing
JP6440967B2 (en) End-of-sentence estimation apparatus, method and program thereof
JP6780033B2 (en) Model learners, estimators, their methods, and programs
Chowdhury et al. Bayesian on-line spectral change point detection: a soft computing approach for on-line ASR
EP2363852A1 (en) Computer-based method and system of assessing intelligibility of speech represented by a speech signal
JP7604460B2 (en) Systems and methods for adapting human speaker embeddings to speech synthesis
US11270691B2 (en) Voice interaction system, its processing method, and program therefor
WO2018163279A1 (en) Voice processing device, voice processing method and voice processing program
JP2020187211A (en) Interaction device, interaction method and interaction computer program
JP2020129015A (en) Speech recognition device, speech recognition method, program
JP2006215564A (en) Method and apparatus for predicting word accuracy in automatic speech recognition systems
Guo et al. Speaker verification using short utterances with DNN-based estimation of subglottal acoustic features
CN113763921B (en) Method and apparatus for correcting text
JP6367773B2 (en) Speech enhancement device, speech enhancement method, and speech enhancement program
JP6645995B2 (en) Voiced pause detection device, its method, and program
JP6220733B2 (en) Voice classification device, voice classification method, and program
US8768695B2 (en) Channel normalization using recognition feedback
CN114333848B (en) Voiceprint recognition method and device, electronic equipment and storage medium
JP6078402B2 (en) Speech recognition performance estimation apparatus, method and program thereof
JP6526602B2 (en) Speech recognition apparatus, method thereof and program
JPH10133688A (en) Speech recognition device
Akila et al. Performance enhancement of syllable based Tamil speech recognition system using time normalization and rate of speech
CN116564294B (en) Training method and device for noise identification model

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200109

R150 Certificate of patent or registration of utility model

Ref document number: 6645995

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350