Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5888356B2 - 音声検索装置、音声検索方法及びプログラム - Google Patents
[go: Go Back, main page]

JP5888356B2 - 音声検索装置、音声検索方法及びプログラム - Google Patents

音声検索装置、音声検索方法及びプログラム Download PDF

Info

Publication number
JP5888356B2
JP5888356B2 JP2014042542A JP2014042542A JP5888356B2 JP 5888356 B2 JP5888356 B2 JP 5888356B2 JP 2014042542 A JP2014042542 A JP 2014042542A JP 2014042542 A JP2014042542 A JP 2014042542A JP 5888356 B2 JP5888356 B2 JP 5888356B2
Authority
JP
Japan
Prior art keywords
likelihood
section
search
acquisition
character string
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014042542A
Other languages
English (en)
Other versions
JP2015169699A (ja
Inventor
井手 博康
博康 井手
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2014042542A priority Critical patent/JP5888356B2/ja
Priority to US14/604,345 priority patent/US9437187B2/en
Priority to CN201510098118.7A priority patent/CN104900231B/zh
Publication of JP2015169699A publication Critical patent/JP2015169699A/ja
Application granted granted Critical
Publication of JP5888356B2 publication Critical patent/JP5888356B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/54Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for retrieval
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/632Query formulation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/68Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/683Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • G10L2015/025Phonemes, fenemes or fenones being the recognition units
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/081Search algorithms, e.g. Baum-Welch or Viterbi
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78Detection of presence or absence of voice signals
    • G10L25/87Detection of discrete points within a voice signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、音声検索装置、音声検索方法及びプログラムに関する。
近年、音声や動画等のマルチメディアコンテンツの拡大・普及に伴い、高精度なマルチメディア検索技術が求められている。その中の音声検索に関して、与えられた検索語(クエリ)に対応する音声が発話されている箇所を音声中から特定する音声検索の技術が研究されている。音声検索では、音声認識の難しさ等のような特有の原因により、文字列の中から所望の検索語を含む箇所を特定する文字列検索の技術に比べて、十分な性能の検索手法が未だ確立されていない。そのため、十分な性能の音声検索を実現するための技術が様々に研究されている。
例えば非特許文献1は、音声信号同士を高速に比較する法を開示している。これにより、音声で入力されたクエリに対応する箇所を、検索対象の音声信号の中から高速に特定することができる。
Y.Zhang and J.Glass. "An inner−product lower−bound estimate for dynamic time warping," in Proc. ICASSP,2011,pp.5660−5663.
しかしながら、非特許文献1ではクエリを音声で入力するため、検索対象の音声が複数の話者の音声を含んでいた場合、クエリ入力者の音声と特徴が似ている話者の発話が優先されることがある。また、クエリを音声で入力する方法は、クエリ入力者の音声が音響的に特異である場合、又はそもそもクエリ入力者が発声困難な場合には、利用できない。
本発明は、以上のような課題を解決するためのものであり、高精度且つ高速に音声検索することが可能な音声検索装置、音声検索方法及びプログラムを提供することを目的とする。
上記目的を達成するため、本発明に係る音声検索装置は、
検索文字列を取得する検索文字列取得手段と、
前記検索文字列取得手段が取得した検索文字列を音素列に変換する変換手段と、
前記変換手段が変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出手段と、
検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を指定する区間指定手段と、
前記区間指定手段が指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得手段と、
前記区間指定手段が指定する尤度取得区間を変えて、前記区間指定手段及び前記尤度取得手段の処理を繰り返す繰り返し手段と、
前記区間指定手段が指定した尤度取得区間のそれぞれについて前記尤度取得手段が取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定手段と、
を備えることを特徴とする。
本発明によれば、高精度且つ高速に音声検索することができる。
本発明の実施形態1に係る音声検索装置の物理構成を示す図である。 本発明の実施形態1に係る音声検索装置の機能構成を示す図である。 (a)は、検索対象の音声信号の波形図である。(b)は、検索対象の音声信号において設定されるフレームを示す図である。(c)は、検索対象の音声信号において指定される尤度算出区間を示す図である。 出力確率をLower−Bound化する例を示す図である。 本発明の実施形態1に係る音声検索装置が実行する音声検索処理の流れを示すフローチャートである。 検索文字列に対応する区間を特定する処理の流れを示すフローチャートである。 本発明の実施形態2に係る音声検索装置が実行する音声検索処理の流れを示すフローチャートである。 本発明の実施形態3に係る音声検索装置の機能構成を示す図である。
以下、本発明の実施形態について、図面を参照して説明する。なお、図中同一又は相当する部分には同一符号を付す。
(実施形態1)
実施形態1に係る音声検索装置は、物理的には図1に示すように構成される。音声検索装置100は、ROM(Read Only Memory)1と、RAM(Random Access Memory)2と、外部記憶装置3と、入力装置4と、出力装置5と、CPU(Central Processing Unit)6と、を備える。
ROM1は、各種初期設定、ハードウェアの検査、プログラムのロード等を行うための初期プログラムを記憶する。RAM2は、CPU6が実行する各種ソフトウェアプログラム、これらのソフトウェアプログラムの実行に必要なデータ等を一時的に記憶する。
外部記憶装置3は、例えば、ハードディスク等であって、各種ソフトウェアプログラム、データ等を記憶する。これらソフトウェアプログラムの中には、アプリケーションソフトウェアプログラムやOS(Operating System)のような基本ソフトウェアプログラムなどが含まれている。
入力装置4は、例えば、キーボード等である。入力装置4は、ユーザがキーボードを用いて操作入力したテキストデータ等をCPU6に入力する。出力装置5は、例えば、液晶ディスプレイ等の画面、スピーカ等を備える。出力装置5は、CPU6によって出力されたテキストデータを画面に表示し、音声データをスピーカから出力する。
CPU6は、外部記憶装置3に記憶されたソフトウェアプログラムをRAM2に読み出して、そのソフトウェアプログラムを実行制御することにより、以下の機能構成を実現する。
音声検索装置100は、機能的には図2に示すように構成される。音声検索装置100は、音声信号記憶部101と、モノフォンモデル記憶部102と、トライフォンモデル記憶部103と、時間長記憶部104と、検索文字列取得部111と、変換部112と、時間長導出部113と、区間指定部114と、特徴量算出部115と、出力確率取得部116と、置換部117と、尤度算出部118と、繰り返し部119と、選択部120と、第2の変換部121と、第2の出力確率取得部122と、第2の尤度算出部123と、特定部124と、を備える。音声信号記憶部101、モノフォンモデル記憶部102、トライフォンモデル記憶部103、及び時間長記憶部104は、外部記憶装置3の記憶領域に構築されている。
音声信号記憶部101は、検索対象の音声信号を記憶する。検索対象の音声信号は、例えばニュース放送等の音声、録音された会議の音声、映画の音声等に係る音声信号である。
モノフォンモデル記憶部102及びトライフォンモデル記憶部103は、音響モデルを記憶する。音響モデルは、検索文字列として取得可能な文字列を構成する各音素の周波数特性をモデル化したものである。具体的に、モノフォンモデル記憶部102は、モノフォン(1音素)による音響モデル(モノフォンモデル)を記憶し、トライフォンモデル記憶部103は、トライフォン(3音素)による音響モデル(トライフォンモデル)を記憶する。
モノフォンモデルは、1音素毎に生成された音響モデルであり、隣接する音素に依存しない、すなわち前後の音素状態との状態遷移を固定化した音響モデルである。トライフォンモデルは、3音素毎に生成された音響モデルであり、隣接する音素に依存する、すなわち前後の音素状態との状態遷移を考慮した音響モデルである。音声検索装置100は、モノフォンモデル及びトライフォンモデルを一般的な方法で学習して、それぞれモノフォンモデル記憶部102及びトライフォンモデル記憶部103に予め記憶しておく。
モノフォンモデル及びトライフォンモデルとして、例えば、一般的な音声認識で利用される音響モデルであるHMM(Hidden Markov Model;隠れマルコフモデル)を利用できる。HMMは、統計的な手法により音声信号からその音声信号が出力される元となった言葉を確率的に推定するためのモデルである。HMMは、時間的な状態の揺らぎを示す遷移確率と、各状態から入力された特徴量を出力する確率(出力確率)と、をパラメータとした標準パターンを用いる。この出力確率は、所定の重み係数で重み付けされたガウス(正規)分布を加算した混合ガウス分布によって表される。
時間長記憶部104は、音響モデルで利用される各音素の平均継続長を、各音素の状態単位で記憶する。各音素の平均継続長とは、各音素が発さられるときの平均的な時間長である。各音素の状態とは、各音素を時間方向に細分化した単位であり、音響モデルの最小単位に相当する。各音素には予め状態数が定められている。
以下では、各音素に定められた状態数が「3」である場合を例にとって説明する。例えば、音素「a」は、この音素の発話開始時を含む第1状態「a1」と、中間状態である第2状態「a2」と、発話終了時を含む第3状態「a3」と、の3つの状態に分けられる。音響モデルで利用される全音素の数をQとした場合、(3×Q)個の状態が存在する。音声検索装置100は、(3×Q)個の状態のそれぞれについて、大量の音声信号のデータから継続長の平均値を算出し、時間長記憶部104に予め記憶しておく。
なお、検索精度の向上のためには、音響モデルを学習するための音声信号、及び、音素の平均継続長を算出するための音声信号は、検索対象の音声信号が発せられたドメイン(環境)と同じドメインで発せられたものであることが好適である。例えば、検索対象が会議室で録音された音声信号である場合には、会議室で録音された音声信号を用いて音響モデルを学習し、音素の平均継続長を算出することが好適である。しかし、音響モデルを学習するための音声信号、及び、音素の平均継続長を算出するための音声信号は、検索対象の音声信号が発せられたドメインと異なるドメインで発せられたものであってもよい。
検索文字列取得部111は、検索文字列を取得する。検索文字列取得部111は、例えば入力装置4を介してユーザが入力した検索文字列を取得する。すなわち、ユーザは、音声検索装置100に対して、検索対象の音声信号から目的の音声が発話されている部分を検索するための検索語(クエリ)を、文字列(テキスト)で与える。
変換部112は、隣接する音素に依存しない音響モデルであるモノフォンモデルの音素を、検索文字列取得部111が取得した検索文字列に従って並べて、検索文字列を音素列に変換する。すなわち、変換部112は、検索文字列に含まれる文字と同順で、各文字を発声したときの音素(モノフォン)を並べることにより、検索文字列をモノフォン音素列に変換する。
例えば、検索文字列として日本語「ラーメン」が入力された場合、「ラーメン」は「r」と「a:」と「m」と「e」と「N」との5つの音素(モノフォン)を含むため、変換部112は、音素列「r,a:,m,e,N」を生成する。あるいは、検索文字列として英語「cake」が入力された場合、「cake」は「k」と「e」と「i」と「k」との4つの音素(モノフォン)を含むため、変換部112は、音素列「k,e,i,k」を生成する。
時間長導出部113は、変換部112が変換した音素列に含まれる各音素の平均継続長を時間長記憶部104から取得する。そして、取得した平均継続長に基づいて、検索文字列に対応する音声の発話時間長を導出する。
すなわち、音声検索装置100は、クエリを文字列で取得するため、そのクエリに対応する音声の発話時間長の情報を直接的には得ることができない。そのため、音声検索装置100は、音素の状態毎に発話の際の典型的な継続長を予め時間長記憶部104に用意しておき、状態毎の継続長を用いて、検索文字列取得部111が取得した検索文字列に対応する音声の発話時間長を見積もる。
例えば音素列が「r,a:,m,e,N」である場合、時間長導出部113は、これら5つの音素における3状態それぞれについて時間長記憶部104に記憶された、合わせて15個の平均継続長を取得する。そして、取得した15個の平均継続長を加算して得られた時間長を、検索文字列に対応する音声の発話時間長として導出する。
区間指定部114は、音声信号記憶部101から検索対象の音声信号を取得して、検索対象の音声信号における先頭から順に、時間長導出部113が導出した時間長の区間である尤度算出区間を指定する。尤度とは、検索文字列に対応する音声と指定した区間の音声信号との類似の度合を示す指標である。区間指定部114は、検索文字列から変換された音素列と音声信号とを比較するため、指定した尤度算出区間内の音声信号を切り出して、切り出した音声信号に含まれる各フレームと音素列に含まれる各音素の状態とを対応付ける。
フレームとは、音声信号における所定の時間長を有する時間窓である。具体的に図3を参照して、検索対象の音声信号において設定されるフレームについて説明する。図3(a)は、先頭から末尾までの時間長Tの検索対象の音声信号の波形図である。縦軸は波形の振幅(エネルギー)の大きさを示し、横軸は時間tを示す。図3(b)は、図3(a)に示す音声信号において設定されるフレームを示す。第0フレームから第(N−1)フレームまで、それぞれフレーム長FのN個のフレームが、所定のシフト長Sずつシフトして設定される。
フレーム長F及びシフト長Sは、音響モデルの作成時に設定した時間長に合わせる(例えば、フレーム長F=25msec、シフト長S=10msec等)。シフト長Sよりもフレーム長Fの方が長いため、各フレームは、隣接するフレームと時間長(F−S)だけ重複する。
図3(c)は、検索対象の音声信号において区間指定部114により指定される尤度算出区間を示す。区間指定部114は、まず始めに、第0フレームから第(M−1)フレームまでのM個のフレームを含む時間長Lの第0尤度算出区間を指定する。
特徴量算出部115は、区間指定部114が指定した尤度算出区間における検索対象の音声信号の特徴量を、フレーム毎に算出する。この特徴量は、例えばケプストラムやメルケプストラムと呼ばれる音声データを周波数軸上に変換して得られる周波数軸系特徴パラメータと、音声データのエネルギー2乗和やその対数を計算することにより得られるパワー系特徴パラメータと、を組み合わせることによって得られる。
例えば、特徴量は、周波数軸系特徴パラメータ12成分(12次元)とパワー系特徴パラメータ1成分(1次元)、直前の時間窓の各成分との差分を取ったもの、すなわち△周波数軸系特徴パラメータ12成分(12次元)と△パワー系特徴パラメータ1成分(1次元)、及び直前の時間窓の各成分との差分の差分を取ったもの、すなわち△△周波数軸系特徴パラメータ12成分(12次元)の、合計38成分を有する38次元ベクトル量として構成される。
出力確率取得部116は、特徴量算出部115が算出した特徴量に基づいて、この特徴量が音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する。具体的には、出力確率取得部116は、モノフォンモデル記憶部102からモノフォンモデルを取得して、特徴量算出部115が算出した各フレームにおける特徴量と、音素列に含まれる音素の状態の中でこのフレームに対応する状態のモノフォンモデルとを比較する。そして、各フレームにおける特徴量が対応する状態から出力される確率を計算する。この出力確率は、複数のガウス分布を重み付きで加算した正規混合連続分布によって表される。
出力確率取得部116が尤度算出区間における全フレームについて出力確率を取得すると、置換部117は、取得した出力確率のそれぞれを、この出力確率を含む連続する複数のフレームにおいて取得された複数の出力確率の中で値が最大の出力確率に置換する。この置換処理は、Lower−Bound化と呼ばれる。
具体的に図4を参照して、Lower−Bound化を説明する。図4において、実線はフレーム毎に取得された出力確率を示す。縦軸は出力確率の高さを下になるほど高くなるように示し、横軸は時間tを示す。置換部117は、各フレームの出力確率を、その前後nフレームの中で最大の出力確率に置き換える。nは、例えば100msecに相当するフレーム数に設定される。置換の結果、実線で示した出力確率は、破線で示したLB(Lower−Bound)化出力確率のように、時間方向において値の変化が小さくなった出力確率に変換される。
このようなLower−Bound化により、時間長記憶部104に記憶された各音素の平均継続長と実際の継続長との誤差、及び、時間長導出部113が導出した検索文字列に対応する音声の発話時間長と実際の発話時間長との誤差を、前後nフレームの範囲内で吸収することができる。
尤度算出部118は、置換部117による置換後の出力確率に基づいて、区間指定部114が指定した尤度算出区間が検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を算出する。具体的には、尤度算出部118は、置換後の出力確率の対数をとって得られる値を、尤度算出区間の先頭から末尾までの全フレームにわたって加算することにより、この尤度算出区間の尤度を取得する。すなわち、出力確率が高いフレームを多く含む尤度算出区間ほど、尤度算出部118が算出する尤度は大きくなる。
繰り返し部119は、区間指定部114が指定する尤度算出区間を変えて、区間指定部114、特徴量算出部115、出力確率取得部116、置換部117、及び尤度算出部118の処理を繰り返す。
具体的に図3(c)を参照して説明すると、繰り返し部119は、区間指定部114が指定する尤度算出区間を1フレーム分シフトさせて、第1フレームから第MフレームまでのM個のフレームを含む時間長Lの第1尤度算出区間を新たに指定する。そして、新たに指定した第1尤度算出区間において、上述した特徴量算出部115から尤度算出部118までの処理と同様の処理を実行して、第1尤度算出区間の尤度を算出する。
同様に、繰り返し部119は、第2尤度算出区間から第(P−1)尤度算出区間まで、区間指定部114が指定する尤度算出区間を1フレームずつシフトさせて、検索対象の音声信号において指定可能なP個の尤度算出区間のそれぞれについて尤度を算出する。その結果、検索対象の音声信号の1フレーム毎に、その区間から検索文字列に対応する音声が発せられたと仮定した場合の尤度が算出される。なお、検索対象の音声信号の中で指定可能な尤度算出区間の数Pは、音声信号の時間長Tと尤度算出区間の時間長Lとシフト長Sとを用いて、P=(T−L+S)/Sと定められる。
選択部120は、尤度算出部118が算出した尤度に基づいて、区間指定部114が指定した尤度算出区間の中から、検索文字列に対応する音声が発せられていることが推定される推定区間の複数の候補を選択する。すなわち、選択部120は、後段のトライフォンモデルに基づくより精度の高い尤度計算の計算量を抑えるため、尤度を算出したP個の尤度算出区間の中から最終的な検索結果の候補となる区間を予備的に選択し、残りの尤度推定区間を候補から除外する。
このとき、区間指定部114が指定した尤度算出区間は多くの重なりを有するため、尤度が大きい区間は時系列的に連続して存在することが多い。そのため、選択部120がP個の尤度算出区間の中で単純に尤度が大きい区間から順に推定区間の候補を選択すると、選択される区間が検索対象の音声信号における一部に集中する可能性が大きくなる。
これを避けるために、選択部120は、区間指定部114が指定した尤度算出区間の中から、所定の選択時間長毎に、この所定の選択時間長の区間の中から開始する尤度算出区間の中で尤度が最大の尤度算出区間を1つずつ選択することにより、推定区間の複数の候補を選択する。この所定の選択時間長は、例えば尤度算出区間の時間長Lの1/k(例えば1/2)に相当する時間長のように、尤度算出区間の時間長Lよりも短い時間に設定される。この場合、時間長(L/k)毎に1個ずつ尤度算出区間が候補として選択され、残りは候補から除外される。これにより、選択部120は、推定区間の候補を、検索対象の音声信号全体にわたって満遍なく選択できる。
このように選択した推定区間の候補の中から、選択部120は、尤度が大きい区間から順にx個の区間をさらに選択する。選択部120による選択結果は、出力装置5が備える画面を介して外部に表示される。その後、音声検索装置100は、選択したx個の区間に対して、トライフォンモデル及び動的計画法(DP(Dynamic Programming)マッチング)に基づくより精度の高い尤度算出処理を実行する。
第2の変換部121は、隣接する音素に依存する第2の音響モデルであるトライフォンモデルの音素を、検索文字列取得部111が取得した検索文字列に従って並べて、検索文字列を第2の音素列であるトライフォン音素列に変換する。例えば、検索文字列として日本語「ラーメン」が入力された場合、「ラーメン」は「r−a:+m」と「a:−m+e」と「m−e+N」との3つのトライフォンを含むため、第2の変換部121は、これら3つのトライフォンを並べたトライフォン音素列を生成する。
第2の出力確率取得部122は、選択部120が推定区間の候補として選択した区間における検索対象の音声信号の特徴量が、第2の変換部121が変換した第2の音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する。具体的には、第2の出力確率取得部122は、トライフォンモデル記憶部103からトライフォンモデルを取得して、特徴量算出部115が算出した各フレームにおける特徴量と、トライフォン音素列に含まれる各トライフォンのモデルとを比較する。そして、各フレームにおける特徴量が各トライフォンから出力される確率を計算する。
第2の尤度算出部123は、選択部120が推定区間の候補として選択した区間が検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す第2の尤度を、選択部120が選択した複数の候補のそれぞれについて算出する。第2の尤度は、第2の音素列であるトライフォン音素列に基づいて算出されるため、モノフォン音素列及びLower−Bound化された出力確率に基づいて尤度算出部118が算出した尤度に比べて、検索文字列に対応する音声と選択した区間の音声信号との類似の度合を示すより精度が高い指標である。
例えば、第2の尤度算出部123は、第2の出力確率取得部122が取得した出力確率に基づいて、選択部120が選択した区間における各フレームとトライフォン音素列に含まれる各トライフォンとの対応を、DPマッチングにより探索する。そして、選択部120が選択した区間における各フレームに対応付けられたトライフォンのそれぞれについて取得された出力確率の対数をとって得られる値を加算することにより、その区間における第2の尤度を得る。
特定部124は、第2の尤度算出部123が算出した第2の尤度に基づいて、選択部120が選択した複数の候補の中から、検索対象の音声信号の中から検索文字列に対応する音声が発せられていることが推定される推定区間を特定する。例えば、特定部124は、第2の尤度算出部123が算出した第2の尤度が大きい順に所定の数の区間を、推定区間として特定する。特定部124が特定した区間の位置情報は、最終的な検索結果として、出力装置5が備える画面を介して外部に表示される。
以上のような音声検索装置100が実行する音声検索処理の流れについて、図5に示すフローチャートを参照して説明する。
図5に示すフロートチャートの処理は、検索文字列取得部111が検索文字列を取得すると(ステップS11)、開始する。検索文字列取得部111が検索文字列を取得すると、変換部112及び第2の変換部121は、検索文字列を音素列に変換し(ステップS12)、音素列の音素順に音響モデルの音素を並べる(ステップS13)。具体的には、変換部112は、検索文字列をモノフォンによるモノフォン音素列に変換し、第2の変換部121は、検索文字列をトライフォンによるトライフォン音素列に変換する。
検索文字列を音素列に変換すると、時間長導出部113は、検索文字列に対応する音声の発話時間長を導出する(ステップS14)。具体的には、時間長導出部113は、時間長記憶部104において音素の状態毎に記憶された平均継続長を取得して、取得した平均継続長を加算することにより、検索文字列に対応する音声の発話時間長を導出する。
時間長導出部113が発話時間長を導出すると、音声検索処理は、検索対象の音声信号の先頭から末尾まで、導出した発話時間長の区間である尤度算出区間を順に指定して、尤度を算出する処理に移行する。まず、区間指定部114は、検索対象の音声信号の先頭フレームから開始する尤度算出区間を指定する(ステップS15)。
区間指定部114が尤度算出区間を指定すると、特徴量算出部115は、指定した尤度算出区間の音声信号の特徴量を、フレーム毎に算出する(ステップS16)。そして、出力確率取得部116は、特徴量算出部115が算出した特徴量と対応するモノフォンモデルとに基づいて、この特徴量が音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する(ステップS17)。
出力確率取得部116が出力確率を取得すると、置換部117は、フレーム毎に取得した出力確率を、その前後nフレームの中で最大の出力確率に置き換えることにより、Lower−Bound化処理を実行する(ステップS18)。これにより、時間長導出部113が導出した発話時間長と実際の発話時間長との誤差を吸収する。
尤度算出部118は、Lower−Bound化後の出力確率の対数軸上での和をとることにより、区間指定部114が指定した尤度算出区間の尤度を算出する(ステップS19)。尤度算出部118が尤度を算出すると、繰り返し部119は、検索対象の音声信号における全区間の尤度算出が終了したか否かを判定する(ステップS20)。
全区間の尤度算出が終了していない場合(ステップS20;NO)、区間指定部114が直前に指定したフレームの次のフレームから開始する尤度算出区間を指定して(ステップS21)、音声検索処理はステップS16に戻る。そして、繰り返し部119は、新たに指定した尤度算出区間に対して上述したステップS16〜S20の処理を繰り返して、尤度を算出する。このように、繰り返し部119は、検索対象の音声信号の末尾に達するまで、区間指定部114が指定する尤度算出区間を1フレームずつシフトさせて、順次尤度を算出する。
最終的に、全区間の尤度算出が終了すると(ステップS20;YES)、音声検索処理は、算出した尤度に基づいて検索文字列に対応する区間を特定する処理(ステップS22)に移行する。この特定処理の詳細については、図6に示すフローチャートを参照して説明する。
尤度算出処理が終了した状態において、選択部120は、区間指定部114が指定した尤度算出区間の中から、所定の選択時間長毎に1つずつ区間を選択する(ステップS101)。さらに選択部120は、このように選択した区間の中から、尤度が高い順にx個の区間を選択する(ステップS102)。すなわち、選択部120は、最終的な検索結果として特定する区間の候補を、検索対象の音声信号の全体から満遍なく候補が残るように、予備選択する。
選択部120による予備選択の後、第2の出力確率取得部122は、トライフォン音素列に基づいて、選択部120が選択した区間における出力確率を、フレーム毎に取得する(ステップS103)。そして、第2の尤度算出部123は、選択部120が選択した区間の尤度をDPマッチングにより算出する(ステップS104)。すなわち、第2の出力確率取得部122及び第2の尤度算出部123は、トライフォンモデル及びDPマッチングに基づいて、出力確率取得部116及び尤度算出部118に比べて精度の高い尤度算出処理を実行する。
第2の尤度算出部123が第2の尤度を算出すると、特定部124は、算出した第2の尤度に基づいて、検索文字列に対応する区間を特定する(ステップS105)。例えば、特定部124は、第2の尤度算出部123が算出した第2の尤度が大きい順に所定の数の区間を、検索文字列に対応する音声が発せられていることが推定される区間として特定する。以上で図6に示すフローチャートの処理は終了する。
図5に示すフローチャートの説明に戻って、検索文字列に対応する区間を特定すると、特定部124は、出力装置5を介して特定結果を出力する(ステップS23)。以上により、音声検索装置100が実行する音声検索処理は終了する。
以上説明したように、実施形態1に係る音声検索装置100は、検索語(クエリ)を文字列(テキスト)で取得し、検索対象の音声信号の中から、クエリに対応する音声が発せられていることが推定される区間を特定する。検索語を文字列で取得するため、検索対象の音声が複数の話者の音声を含んでいた場合、クエリ入力者の音声が音響的に特異である場合、又はそもそもクエリ入力者が発声困難な場合等でも高精度且つ高速に音声検索できる。
また、実施形態1に係る音声検索装置100は、まず状態遷移を固定化した高速な音響モデルであるモノフォンモデルを用いた計算量が少ないマッチングを行うことで、クエリに対応する音声が発せられていることが推定される区間の候補を予備選択する。その後、音声検索装置100は、状態遷移を考慮した音響モデルであるトライフォンモデルを用いた、計算量が多く且つ高精度なマッチングを行うことで、最終的な検索結果を得る。その結果、音声検索装置100は、計算量を抑えつつ、高精度に音声検索できる。
(実施形態2)
次に、本発明の実施形態2について説明する。
実施形態1では、時間長導出部113は、検索文字列取得部111が取得した1つの検索文字列に対応する音声の発話時間長として、1つの時間長を導出した。そして、時間長導出部113が導出した発話時間長と実際の発話時間長との誤差は、Lower−Bound化により各音素の前後nフレームの範囲で吸収することができた。
しかし、そもそも話速が速かったり遅かったりする場合には、導出した発話時間長が実際の発話時間長に比べて長め又は短めになり、前後nフレームの範囲を超えてしまうという問題がある。これに対処するために、実施形態2では、時間長導出部113は、検索文字列取得部111が取得した1つの検索文字列に対応する音声の発話時間長として、互いに異なる複数の時間長を導出する。
そのために、実施形態2では、時間長記憶部104は、音響モデルで利用される各音素の平均継続長と、平均継続長よりも短い時間長と、平均継続長よりも長い時間長と、の3種類の時間長を、各音素に状態単位で対応付けて記憶する。平均継続長よりも長い時間長は、例えば平均継続長の0.7倍の時間長である。平均継続長よりも短い時間長は、例えば平均継続長の1.3倍の時間長である。
すなわち、実施形態2に係る音声検索装置100は、各音素の状態毎の継続時間長として、早口・普通・遅めの3つの話速に対応した時間長を用意する。これにより、話速の違いにより検索精度が悪化することを防ぐ。
実施形態2に係る音声検索装置100が実行する音声検索処理の流れについて、図7に示すフローチャートを参照して説明する。
図7に示すフロートチャートの処理は、検索文字列取得部111が検索文字列を取得すると(ステップS31)、開始する。検索文字列取得部111が検索文字列を取得すると、変換部112及び第2の変換部121は、検索文字列を音素列に変換し(ステップS32)、音素列の音素順に音響モデルの音素を並べる(ステップS33)。具体的には、変換部112は、検索文字列をモノフォンによるモノフォン音素列に変換し、第2の変換部121は、検索文字列をトライフォンによるトライフォン音素列に変換する。
検索文字列を音素列に変換すると、時間長導出部113は、検索文字列に対応する音声の発話時間長として、3つの時間長を導出する(ステップS34)。3つの時間長として、第1に、時間長導出部113は、時間長記憶部104において状態毎に記憶された平均継続長を取得して、取得した平均継続長を加算することにより、第1の時間長を導出する。第2に、時間長導出部113は、時間長記憶部104において状態毎に記憶された平均継続長よりも短い時間長を取得して、取得した時間長を加算することにより、第2の時間長を導出する。第3に、時間長導出部113は、時間長記憶部104において状態毎に記憶された平均継続長よりも長い時間長を取得して、取得した時間長を加算することにより、第3の時間長を導出する。
時間長記憶部104において状態毎に記憶された平均継続長よりも短い時間長が、一律に平均継続長の0.7倍の時間長である場合、第2の時間長は、第1の時間長の0.7倍になる。時間長記憶部104において状態毎に記憶された平均継続長よりも長い時間長が、一律に平均継続長の1.3倍の時間長である場合、第3の時間長は、第1の時間長の1.3倍になる。
時間長導出部113が発話時間長として3つの時間長を導出すると、音声検索処理は、検索対象の音声信号の先頭から末尾まで、導出した各時間長の区間である尤度算出区間を順に指定して、尤度を算出する処理に移行する。まず、区間指定部114は、時間長導出部113が導出した3つの時間長のそれぞれについて、検索対象の音声信号の先頭フレームから開始する尤度算出区間を指定する(ステップS35)。
区間指定部114が各時間長について尤度算出区間を指定すると、特徴量算出部115は、指定した尤度算出区間の音声信号の特徴量を、フレーム毎に算出する(ステップS36)。そして、出力確率取得部116は、特徴量算出部115が算出した特徴量と対応するモノフォンモデルとに基づいて、この特徴量が音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する(ステップS37)。
出力確率取得部116が出力確率を取得すると、置換部117は、フレーム毎に取得した出力確率を、その前後nフレームの中で最大の出力確率に置き換えることにより、Lower−Bound化処理を実行する(ステップS38)。これにより、時間長導出部113が導出した発話時間長と実際の発話時間長との誤差を吸収する。
尤度算出部118は、Lower−Bound化後の出力確率の対数軸上での和をとることにより、区間指定部114が3つの時間長のそれぞれについて指定した尤度算出区間の尤度を算出する(ステップS39)。尤度算出部118が尤度を算出すると、繰り返し部119は、時間長導出部113が導出した各時間長について、検索対象の音声信号における全区間の尤度算出が終了したか否かを判定する(ステップS40)。
全区間の尤度算出が終了していない場合(ステップS40;NO)、時間長導出部113が導出した3つの時間長のそれぞれについて、区間指定部114が直前に指定したフレームの次のフレームから開始する尤度算出区間を指定して(ステップS41)、音声検索処理はステップS36に戻る。そして、繰り返し部119は、各時間長について新たに指定した尤度算出区間に対して上述したステップS36〜S40の処理を繰り返して、尤度を算出する。このように、繰り返し部119は、検索対象の音声信号の末尾に達するまで、区間指定部114が指定する尤度算出区間を1フレームずつシフトさせて、順次尤度を算出する。
最終的に、区間の尤度算出が終了すると(ステップS40;YES)、音声検索処理は、算出した尤度に基づいて検索文字列に対応する区間を特定する処理(ステップS42)に移行する。この特定処理は、図6のフローチャートを参照して説明した処理と同様である。
すなわち、選択部120は、区間指定部114が3つの時間長のそれぞれについて指定した尤度算出区間の中から、所定の選択時間長毎に1つずつ区間を選択する(ステップS101)。さらに選択部120は、このように選択した区間の中から、尤度が高い順にx個の区間を選択する(ステップS102)。第2の出力確率取得部122は、トライフォン音素列に基づいて、選択部120が選択した区間における出力確率を、フレーム毎に取得する(ステップS103)。第2の尤度算出部123は、選択部120が選択した区間の尤度をDPマッチングにより算出する(ステップS104)。そして、特定部124は、算出した第2の尤度に基づいて、検索文字列に対応する音声が発せられていることが推定される区間を特定する(ステップS105)。
検索文字列に対応する区間を特定すると、特定部124は、出力装置5を介して特定結果を出力する(ステップS43)。以上により、音声検索装置100が実行する音声検索処理は終了する。
以上説明したように、実施形態2に係る音声検索装置100は、検索文字列に対応する音声の発話時間長として、早口・普通・遅めの3つの話速に対応した3つの時間長を導出する。そして、導出した3つの時間長のそれぞれに相当する時間長の区間を尤度算出区間として指定して、指定した尤度算出区間の中から検索文字列に対応する音声が発せられていることが推定される区間を特定する。その結果、話速の違いにより尤度が悪化して候補から漏れることを減少させ、平均的な話速とずれがある音声信号に対する音声検索においても、検索精度を向上させることができる。
(実施形態3)
次に、本発明の実施形態3について説明する。
実施形態1及び実施形態2に係る音声検索装置100は、尤度の算出に用いる出力確率の算出を、検索文字列取得部111が検索文字列を取得したから実行した。しかし、出力確率の算出は、計算量の多い処理である。そこで、実施形態3に係る音声検索装置は、検索文字列に対応する区間の候補を予備選択する際のモノフォンモデルを用いた出力確率の算出を予めしておいて、検索時の高速化を図る。以下、説明する。
実施形態3に係る音声検索装置は、実施形態1に係る音声検索装置100と同様、物理的には図1に示したように構成される。そのため、ここでは詳細な説明については省略する。
実施形態3に係る音声検索装置は、機能的には図8に示すように構成される。音声検索装置300は、実施形態1及び実施形態2に係る音声検索装置100が備えていたモノフォンモデル記憶部102を備えず、その代わりに出力確率記憶部105を備える。出力確率記憶部105は、外部記憶装置3の記憶領域に構築されている。また、実施形態1及び実施形態2に係る音声検索装置100に比べて、各部の処理の順序が入れ替わっている。以下、各部の詳細について説明する。
出力確率記憶部105は、検索対象の音声信号に含まれるフレーム毎に、音響モデルの各音素と、該各音素から検索対象の音声信号の特徴量が出力される出力確率と、を対応付けて記憶する。音響モデルは、予備選択時に使用するモノフォンモデルである。例えば日本語のモノフォンは、全部で約40種類の音素を有する。出力確率記憶部105は、これら40種類の音素に無音1音素を加えた41音素123状態に対して、予め検索対象の音声信号の先頭から末尾までの全フレーム全の出力確率を計算した結果を、検索インデックスとして格納する。
例えば、1状態当たり出力確率を8bytesのdouble型で保存すると仮定すると、1フレーム当たり出力確率を約960bytesで格納できる。一方で音声信号の容量は、16bitPCM/16kHz samplingの条件のもと、シフト長Sを10msecと仮定すると、1シフト長当たり320bytesである。そのため、出力確率を記憶するために必要な容量は、音声信号を記憶するために必要な容量の高々3倍にしかならない。
なお、モノフォンモデルを用いた出力確率を予め算出する処理は、音声検索装置300が実行してもよい。あるいは、他の情報処理装置が出力確率を算出し、その結果を音声検索装置300が取得して、出力確率記憶部105に記憶してもよい。
検索文字列取得部111は、検索文字列を取得する。検索文字列取得部111は、例えば入力装置4を介してユーザが入力した検索文字列を取得する。変換部112は、隣接する音素に依存しない音響モデルであるモノフォンモデルの音素を、検索文字列取得部111が取得した検索文字列に従って並べて、検索文字列を音素列に変換する。
出力確率取得部116は、変換部112が検索文字列を音素列に変換すると、この音素列に含まれる各音素に対応付けて記憶された出力確率を、出力確率記憶部105に記憶された出力確率の中から取得する。具体的には、出力確率取得部116は、フレーム毎に記憶されたモノフォンモデルの全音素の出力確率の中から、検索に必要となる音素の出力確率を、検索対象の音声信号の全フレームについて取得する。
出力確率取得部116が出力確率を取得すると、置換部117は、取得した出力確率に対してLower−Bound化処理を実行する。すなわち、置換部117は、検索対象の音声信号の全フレームについて取得した出力確率を、連続する複数のフレームにおいて取得された複数の出力確率の中で値が最大の出力確率に置換する。
時間長導出部113は、変換部112が変換した音素列に含まれる各音素の平均継続長を時間長記憶部104から取得する。そして、取得した平均継続長に基づいて、検索文字列に対応する音声の発話時間長を導出する。区間指定部114は、検索対象の音声信号における先頭から順に、時間長導出部113が導出した時間長の区間である尤度算出区間を指定する。
尤度算出部118は、置換部117による置換後の出力確率に基づいて、区間指定部114が指定した尤度算出区間が検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を算出する。具体的に説明すると、尤度算出部118は、区間指定部114が指定した尤度算出区間における各フレームと、音素列に含まれる音素の状態の中でこのフレームに対応する状態の置換後の出力確率を特定する。そして、特定した出力確率の対数をとって得られる値を、尤度算出区間の先頭から末尾までの全フレームにわたって加算することにより、この尤度算出区間の尤度を得る。
繰り返し部119は、区間指定部114が指定する尤度算出区間を1フレームずつシフトさせて、区間指定部114、尤度算出部118の処理を繰り返す。そして、検索対象の音声信号において指定可能な尤度算出区間のそれぞれについて尤度を算出する。
選択部120は、尤度算出部118が算出した尤度に基づいて、区間指定部114が指定した尤度算出区間の中から、検索文字列に対応する音声が発せられていることが推定される推定区間の複数の候補を選択する。選択部120による選択結果は、出力装置5が備える画面を介して外部に表示される。その後、音声検索装置300は、選択したx個の区間に対して、トライフォンモデル及びDPマッチングに基づくより精度の高い尤度算出処理を実行する。
特徴量算出部115は、音声信号記憶部101から検索対象の音声信号を取得して、検索対象の音声信号の特徴量を、フレーム毎に算出する。第2の変換部121は、隣接する音素に依存する第2の音響モデルであるトライフォンモデルの音素を、検索文字列取得部111が取得した検索文字列に従って並べて、検索文字列を第2の音素列であるトライフォン音素列に変換する。
第2の出力確率取得部122は、トライフォンモデル記憶部103からトライフォンモデルを取得して、選択部120が推定区間の候補として選択した区間における検索対象の音声信号の特徴量が、第2の変換部121が変換したトライフォン音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する。
第2の尤度算出部123は、選択部120が推定区間の候補として選択した区間が検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す第2の尤度を、選択部120が選択した複数の候補のそれぞれについて算出する。
例えば、第2の尤度算出部123は、第2の出力確率取得部122が取得した出力確率に基づいて、選択部120が選択した区間における各フレームとトライフォン音素列に含まれる各トライフォンとの対応を、DPマッチングにより探索する。そして、選択部120が選択した区間における各フレームに対応付けられたトライフォンのそれぞれについて取得された出力確率の対数をとって得られる値を加算することにより、その区間における第2の尤度を得る。
特定部124は、第2の尤度算出部123が算出した第2の尤度に基づいて、選択部120が選択した複数の候補の中から、検索対象の音声信号の中から検索文字列に対応する音声が発せられていることが推定される推定区間を特定する。例えば、特定部124は、第2の尤度算出部123が算出した第2の尤度が大きい順に所定の数の区間を、推定区間として特定する。特定部124が特定した区間の位置情報は、最終的な検索結果として、出力装置5が備える画面を介して外部に表示される。
以上説明したように、実施形態3に係る音声検索装置300は、予備選択の尤度算出の際は出力確率を算出せず、予め検索対象の音声信号全体の出力確率を算出しておき、検索インデックスとして保持しておく。そして、検索時には、音声検索装置300は、その検索インデックスを利用して最終結果の候補を予備選択し、候補として残った区間に対してのみ、検索文字列に含まれるトライフォン音素を使用して出力確率を算出する。その結果、高速に音声検索できる。
なお、本発明に係る機能を実現するための構成を予め備えた音声検索装置として提供できることはもとより、プログラムの適用により、既存のパーソナルコンピュータや情報端末機器等を、本発明に係る音声検索装置として機能させることもできる。すなわち、上記実施形態で例示した音声検索装置100,300による各機能構成を実現させるためのプログラムを、既存のパーソナルコンピュータや情報端末機器等を制御するCPU等が実行できるように適用することで、本発明に係る音声検索装置として機能させることができる。また、本発明に係る音声検索方法は、音声検索装置を用いて実施できる。
また、このようなプログラムの適用方法は任意である。プログラムを、例えば、コンピュータが読取可能な記録媒体(CD−ROM(Compact Disc Read-Only Memory)、DVD(Digital Versatile Disc)、MO(Magneto Optical disc)等)に格納して適用できる他、インターネット等のネットワーク上のストレージにプログラムを格納しておき、これをダウンロードさせることにより適用することもできる。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲とが含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記1)
検索文字列を取得する検索文字列取得手段と、
前記検索文字列取得手段が取得した検索文字列を音素列に変換する変換手段と、
前記変換手段が変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出手段と、
検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を指定する区間指定手段と、
前記区間指定手段が指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得手段と、
前記区間指定手段が指定する尤度取得区間を変えて、前記区間指定手段及び前記尤度取得手段の処理を繰り返す繰り返し手段と、
前記区間指定手段が指定した尤度取得区間のそれぞれについて前記尤度取得手段が取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定手段と、
を備えることを特徴とする音声検索装置。
(付記2)
前記検索対象の音声信号の特徴量が前記音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する出力確率取得手段をさらに備え、
前記尤度取得手段は、前記区間指定手段が指定した尤度取得区間において前記出力確率取得手段が取得した出力確率に基づいて、該尤度取得区間の前記尤度を取得する、
ことを特徴とする付記1に記載の音声検索装置。
(付記3)
前記区間指定手段が指定した尤度取得区間における前記検索対象の音声信号の特徴量を、フレーム毎に算出する特徴量算出手段をさらに備え、
前記出力確率取得手段は、前記特徴量算出手段が算出した特徴量に基づいて、前記出力確率を取得する、
ことを特徴とする付記2に記載の音声検索装置。
(付記4)
前記検索対象の音声信号に含まれるフレーム毎に、音響モデルの各音素と、該各音素から前記検索対象の音声信号の特徴量が出力される出力確率と、を対応付けて記憶する出力確率記憶手段をさらに備え、
前記出力確率取得手段は、前記変換手段が前記検索文字列を前記音素列に変換すると、該音素列に含まれる各音素に対応付けて記憶された出力確率を、前記出力確率記憶手段に記憶された出力確率の中から取得する、
ことを特徴とする付記2に記載の音声検索装置。
(付記5)
前記出力確率取得手段がフレーム毎に取得した出力確率のそれぞれを、該出力確率を含む連続する複数のフレームにおいて取得された複数の出力確率の中で値が最大の出力確率に置換する置換手段をさらに備え、
前記尤度取得手段は、前記置換手段による置換後の出力確率に基づいて、前記区間指定手段が指定した尤度取得区間の前記尤度を取得する、
ことを特徴とする付記2から4のいずれか1つに記載の音声検索装置。
(付記6)
前記変換手段は、隣接する音素に依存しない音響モデルの音素を並べて、前記検索文字列を前記音素列に変換し、
前記尤度取得手段は、前記音素列に基づいて、前記区間指定手段が指定した尤度取得区間の前記尤度を取得し、
前記尤度取得手段が取得した尤度に基づいて、前記区間指定手段が指定した尤度取得区間の中から前記推定区間の複数の候補を選択する選択手段と、
隣接する音素に依存する第2の音響モデルの音素を並べて、前記検索文字列を第2の音素列に変換する第2の変換手段と、
前記第2の音素列に基づいて、前記選択手段が前記推定区間の候補として選択した区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す第2の尤度を、前記選択手段が選択した複数の候補のそれぞれについて取得する第2の尤度取得手段と、
をさらに備え、
前記特定手段は、前記第2の尤度取得手段が取得した第2の尤度に基づいて、前記選択手段が選択した複数の候補の中から前記推定区間を特定する、
ことを特徴とする付記2から5のいずれか1つに記載の音声検索装置。
(付記7)
前記選択手段は、前記区間指定手段が指定した尤度取得区間の中から、所定の選択時間長毎に、該所定の選択時間長の区間の中から開始する尤度取得区間の中で前記尤度が最大の尤度取得区間を1つずつ選択することにより、前記推定区間の複数の候補を選択する、
ことを特徴とする付記6に記載の音声検索装置。
(付記8)
前記時間長導出手段は、前記検索文字列取得手段が取得した1つの検索文字列に対応する音声の発話時間長として、互いに異なる複数の時間長を導出し、
前記区間指定手段は、前記検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を、前記複数の時間長のそれぞれについて指定し、
前記尤度取得手段は、前記区間指定手段が前記複数の時間長のそれぞれについて指定した尤度取得区間の前記尤度を取得し、
前記特定手段は、前記尤度取得手段が取得した尤度に基づいて、前記区間指定手段が前記複数の時間長のそれぞれについて指定した尤度取得区間の中から前記推定区間を特定する、
ことを特徴とする付記1から7のいずれか1つに記載の音声検索装置。
(付記9)
検索文字列を取得する検索文字列取得ステップと、
前記検索文字列取得ステップで取得した検索文字列を音素列に変換する変換ステップと、
前記変換ステップで変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出ステップと、
検索対象の音声信号における前記時間長導出ステップで導出した時間長の区間である尤度取得区間を指定する区間指定ステップと、
前記区間指定ステップで指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得ステップと、
前記区間指定ステップで指定する尤度取得区間を変えて、前記区間指定ステップ及び前記尤度取得ステップの処理を繰り返す繰り返しステップと、
前記区間指定ステップで指定した尤度取得区間のそれぞれについて前記尤度取得ステップで取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定ステップと、
を含む音声検索方法。
(付記10)
コンピュータを、
検索文字列を取得する検索文字列取得手段、
前記検索文字列取得手段が取得した検索文字列を音素列に変換する変換手段、
前記変換手段が変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出手段、
検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を指定する区間指定手段、
前記区間指定手段が指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得手段、
前記区間指定手段が指定する尤度取得区間を変えて、前記区間指定手段及び前記尤度取得手段の処理を繰り返す繰り返し手段、
前記区間指定手段が指定した尤度取得区間のそれぞれについて前記尤度取得手段が取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定手段、
として機能させるためのプログラム。
1…ROM、2…RAM、3…外部記憶装置、4…入力装置、5…出力装置、6…CPU、100,300…音声検索装置、101…音声信号記憶部、102…モノフォンモデル記憶部、103…トライフォンモデル記憶部、104…時間長記憶部、105…出力確率記憶部、111…検索文字列取得部、112…変換部、113…時間長導出部、114…区間指定部、115…特徴量算出部、116…出力確率取得部、117…置換部、118…尤度算出部、119…繰り返し部、120…選択部、121…第2の変換部、122…第2の出力確率取得部、123…第2の尤度算出部、124…特定部

Claims (10)

  1. 検索文字列を取得する検索文字列取得手段と、
    前記検索文字列取得手段が取得した検索文字列を音素列に変換する変換手段と、
    前記変換手段が変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出手段と、
    検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を指定する区間指定手段と、
    前記区間指定手段が指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得手段と、
    前記区間指定手段が指定する尤度取得区間を変えて、前記区間指定手段及び前記尤度取得手段の処理を繰り返す繰り返し手段と、
    前記区間指定手段が指定した尤度取得区間のそれぞれについて前記尤度取得手段が取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定手段と、
    を備えることを特徴とする音声検索装置。
  2. 前記検索対象の音声信号の特徴量が前記音素列に含まれる各音素から出力される出力確率を、フレーム毎に取得する出力確率取得手段をさらに備え、
    前記尤度取得手段は、前記区間指定手段が指定した尤度取得区間において前記出力確率取得手段が取得した出力確率に基づいて、該尤度取得区間の前記尤度を取得する、
    ことを特徴とする請求項1に記載の音声検索装置。
  3. 前記区間指定手段が指定した尤度取得区間における前記検索対象の音声信号の特徴量を、フレーム毎に算出する特徴量算出手段をさらに備え、
    前記出力確率取得手段は、前記特徴量算出手段が算出した特徴量に基づいて、前記出力確率を取得する、
    ことを特徴とする請求項2に記載の音声検索装置。
  4. 前記検索対象の音声信号に含まれるフレーム毎に、音響モデルの各音素と、該各音素から前記検索対象の音声信号の特徴量が出力される出力確率と、を対応付けて記憶する出力確率記憶手段をさらに備え、
    前記出力確率取得手段は、前記変換手段が前記検索文字列を前記音素列に変換すると、該音素列に含まれる各音素に対応付けて記憶された出力確率を、前記出力確率記憶手段に記憶された出力確率の中から取得する、
    ことを特徴とする請求項2に記載の音声検索装置。
  5. 前記出力確率取得手段がフレーム毎に取得した出力確率のそれぞれを、該出力確率を含む連続する複数のフレームにおいて取得された複数の出力確率の中で値が最大の出力確率に置換する置換手段をさらに備え、
    前記尤度取得手段は、前記置換手段による置換後の出力確率に基づいて、前記区間指定手段が指定した尤度取得区間の前記尤度を取得する、
    ことを特徴とする請求項2から4のいずれか1項に記載の音声検索装置。
  6. 前記変換手段は、隣接する音素に依存しない音響モデルの音素を並べて、前記検索文字列を前記音素列に変換し、
    前記尤度取得手段は、前記音素列に基づいて、前記区間指定手段が指定した尤度取得区間の前記尤度を取得し、
    前記尤度取得手段が取得した尤度に基づいて、前記区間指定手段が指定した尤度取得区間の中から前記推定区間の複数の候補を選択する選択手段と、
    隣接する音素に依存する第2の音響モデルの音素を並べて、前記検索文字列を第2の音素列に変換する第2の変換手段と、
    前記第2の音素列に基づいて、前記選択手段が前記推定区間の候補として選択した区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す第2の尤度を、前記選択手段が選択した複数の候補のそれぞれについて取得する第2の尤度取得手段と、
    をさらに備え、
    前記特定手段は、前記第2の尤度取得手段が取得した第2の尤度に基づいて、前記選択手段が選択した複数の候補の中から前記推定区間を特定する、
    ことを特徴とする請求項2から5のいずれか1項に記載の音声検索装置。
  7. 前記選択手段は、前記区間指定手段が指定した尤度取得区間の中から、所定の選択時間長毎に、該所定の選択時間長の区間の中から開始する尤度取得区間の中で前記尤度が最大の尤度取得区間を1つずつ選択することにより、前記推定区間の複数の候補を選択する、
    ことを特徴とする請求項6に記載の音声検索装置。
  8. 前記時間長導出手段は、前記検索文字列取得手段が取得した1つの検索文字列に対応する音声の発話時間長として、互いに異なる複数の時間長を導出し、
    前記区間指定手段は、前記検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を、前記複数の時間長のそれぞれについて指定し、
    前記尤度取得手段は、前記区間指定手段が前記複数の時間長のそれぞれについて指定した尤度取得区間の前記尤度を取得し、
    前記特定手段は、前記尤度取得手段が取得した尤度に基づいて、前記区間指定手段が前記複数の時間長のそれぞれについて指定した尤度取得区間の中から前記推定区間を特定する、
    ことを特徴とする請求項1から7のいずれか1項に記載の音声検索装置。
  9. 検索文字列を取得する検索文字列取得ステップと、
    前記検索文字列取得ステップで取得した検索文字列を音素列に変換する変換ステップと、
    前記変換ステップで変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出ステップと、
    検索対象の音声信号における前記時間長導出ステップで導出した時間長の区間である尤度取得区間を指定する区間指定ステップと、
    前記区間指定ステップで指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得ステップと、
    前記区間指定ステップで指定する尤度取得区間を変えて、前記区間指定ステップ及び前記尤度取得ステップの処理を繰り返す繰り返しステップと、
    前記区間指定ステップで指定した尤度取得区間のそれぞれについて前記尤度取得ステップで取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定ステップと、
    を含む音声検索方法。
  10. コンピュータを、
    検索文字列を取得する検索文字列取得手段、
    前記検索文字列取得手段が取得した検索文字列を音素列に変換する変換手段、
    前記変換手段が変換した音素列に含まれる各音素の継続長を取得し、該取得した継続長に基づいて、前記検索文字列に対応する音声の発話時間長を導出する時間長導出手段、
    検索対象の音声信号における前記時間長導出手段が導出した時間長の区間である尤度取得区間を指定する区間指定手段、
    前記区間指定手段が指定した尤度取得区間が前記検索文字列に対応する音声が発せられている区間であることの尤もらしさを示す尤度を取得する尤度取得手段、
    前記区間指定手段が指定する尤度取得区間を変えて、前記区間指定手段及び前記尤度取得手段の処理を繰り返す繰り返し手段、
    前記区間指定手段が指定した尤度取得区間のそれぞれについて前記尤度取得手段が取得した尤度に基づいて、前記検索対象の音声信号の中から前記検索文字列に対応する音声が発せられていることが推定される推定区間を特定する特定手段、
    として機能させるためのプログラム。
JP2014042542A 2014-03-05 2014-03-05 音声検索装置、音声検索方法及びプログラム Active JP5888356B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014042542A JP5888356B2 (ja) 2014-03-05 2014-03-05 音声検索装置、音声検索方法及びプログラム
US14/604,345 US9437187B2 (en) 2014-03-05 2015-01-23 Voice search device, voice search method, and non-transitory recording medium
CN201510098118.7A CN104900231B (zh) 2014-03-05 2015-03-05 语音检索装置以及语音检索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014042542A JP5888356B2 (ja) 2014-03-05 2014-03-05 音声検索装置、音声検索方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015169699A JP2015169699A (ja) 2015-09-28
JP5888356B2 true JP5888356B2 (ja) 2016-03-22

Family

ID=54017961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014042542A Active JP5888356B2 (ja) 2014-03-05 2014-03-05 音声検索装置、音声検索方法及びプログラム

Country Status (3)

Country Link
US (1) US9437187B2 (ja)
JP (1) JP5888356B2 (ja)
CN (1) CN104900231B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015847A (ja) * 2015-06-30 2017-01-19 カシオ計算機株式会社 音声検索装置、音声検索方法及びプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6400936B2 (ja) * 2014-04-21 2018-10-03 シノイースト・コンセプト・リミテッド 音声検索方法、音声検索装置、並びに、音声検索装置用のプログラム
JP6604013B2 (ja) * 2015-03-23 2019-11-13 カシオ計算機株式会社 音声認識装置、音声認識方法及びプログラム
CN105469783B (zh) * 2015-11-12 2019-06-21 深圳Tcl数字技术有限公司 音频识别方法及装置
JP6680009B2 (ja) * 2016-03-15 2020-04-15 カシオ計算機株式会社 検索インデクス生成装置、検索インデックス生成方法、音声検索装置、音声検索方法及びプログラム
JP6680008B2 (ja) * 2016-03-15 2020-04-15 カシオ計算機株式会社 検索インデクス生成装置、検索インデックス生成方法、音声検索装置、音声検索方法及びプログラム
CN110954312B (zh) * 2020-02-19 2020-11-20 北京化工大学 一种基于无键相整周期信号的往复机械故障诊断方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6662180B1 (en) * 1999-05-12 2003-12-09 Matsushita Electric Industrial Co., Ltd. Method for searching in large databases of automatically recognized text
US6535850B1 (en) * 2000-03-09 2003-03-18 Conexant Systems, Inc. Smart training and smart scoring in SD speech recognition system with user defined vocabulary
GB0015233D0 (en) * 2000-06-21 2000-08-16 Canon Kk Indexing method and apparatus
JP3686934B2 (ja) * 2001-01-25 2005-08-24 独立行政法人産業技術総合研究所 異種環境音声データの音声検索方法及び装置
US7089188B2 (en) * 2002-03-27 2006-08-08 Hewlett-Packard Development Company, L.P. Method to expand inputs for word or document searching
JP4080965B2 (ja) * 2003-07-15 2008-04-23 株式会社東芝 情報提示装置及び情報提示方法
WO2005010866A1 (en) * 2003-07-23 2005-02-03 Nexidia Inc. Spoken word spotting queries
JP2006178648A (ja) * 2004-12-21 2006-07-06 Sony Corp 音声データからのキーワード抽出のための装置,方法,プログラム及び記録媒体
US8694317B2 (en) * 2005-02-05 2014-04-08 Aurix Limited Methods and apparatus relating to searching of spoken audio data
JP4800645B2 (ja) * 2005-03-18 2011-10-26 カシオ計算機株式会社 音声符号化装置、及び音声符号化方法
JP4380669B2 (ja) * 2006-08-07 2009-12-09 カシオ計算機株式会社 音声符号化装置、音声復号装置、音声符号化方法、音声復号方法、及び、プログラム
US7983915B2 (en) * 2007-04-30 2011-07-19 Sonic Foundry, Inc. Audio content search engine
JP4887264B2 (ja) * 2007-11-21 2012-02-29 株式会社日立製作所 音声データ検索システム
JP5311348B2 (ja) * 2009-09-03 2013-10-09 株式会社eVOICE 音声データ内の音声キーワード照合システム、その方法及び音声データ内の音声キーワード照合プログラム
JP5699744B2 (ja) * 2011-03-30 2015-04-15 カシオ計算機株式会社 検索方法、検索装置、ならびに、コンピュータプログラム
JP5699743B2 (ja) * 2011-03-30 2015-04-15 カシオ計算機株式会社 検索方法、検索装置、ならびに、コンピュータプログラム
JP5753769B2 (ja) * 2011-11-18 2015-07-22 株式会社日立製作所 音声データ検索システムおよびそのためのプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015847A (ja) * 2015-06-30 2017-01-19 カシオ計算機株式会社 音声検索装置、音声検索方法及びプログラム

Also Published As

Publication number Publication date
US20150255059A1 (en) 2015-09-10
US9437187B2 (en) 2016-09-06
CN104900231B (zh) 2018-12-28
JP2015169699A (ja) 2015-09-28
CN104900231A (zh) 2015-09-09

Similar Documents

Publication Publication Date Title
JP6011565B2 (ja) 音声検索装置、音声検索方法及びプログラム
JP5888356B2 (ja) 音声検索装置、音声検索方法及びプログラム
JP6003972B2 (ja) 音声検索装置、音声検索方法及びプログラム
US7603278B2 (en) Segment set creating method and apparatus
JP6003971B2 (ja) 音声検索装置、音声検索方法及びプログラム
CN105609097A (zh) 语音合成装置及其控制方法
JP2018136493A (ja) 音声認識用コンピュータプログラム、音声認識装置及び音声認識方法
JP2012113087A (ja) 音声認識用wfst作成装置とそれを用いた音声認識装置と、それらの方法とプログラムと記憶媒体
KR20040068023A (ko) 은닉 궤적 은닉 마르코프 모델을 이용한 음성 인식 방법
KR100845428B1 (ko) 휴대용 단말기의 음성 인식 시스템
CN112750445B (zh) 语音转换方法、装置和系统及存储介质
JP6565416B2 (ja) 音声検索装置、音声検索方法及びプログラム
JP5914119B2 (ja) 音響モデル性能評価装置とその方法とプログラム
JP6604013B2 (ja) 音声認識装置、音声認識方法及びプログラム
JP5722295B2 (ja) 音響モデル生成方法と音声合成方法とそれらの装置とプログラム
JP2013182261A (ja) 適応化装置、音声認識装置、およびそのプログラム
WO2008056604A1 (en) Sound collection system, sound collection method, and collection processing program
JP5369079B2 (ja) 音響モデル作成方法とその装置とプログラム
JP6569343B2 (ja) 音声検索装置、音声検索方法及びプログラム
JP6680009B2 (ja) 検索インデクス生成装置、検索インデックス生成方法、音声検索装置、音声検索方法及びプログラム
JP2017015847A (ja) 音声検索装置、音声検索方法及びプログラム
JP2017102328A (ja) 文章セット生成装置、文章セット生成方法、プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160201

R150 Certificate of patent or registration of utility model

Ref document number: 5888356

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150