Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7717822B2 - 音声類似度決定方法及び装置、プログラム製品 - Google Patents
[go: Go Back, main page]

JP7717822B2 - 音声類似度決定方法及び装置、プログラム製品 - Google Patents

音声類似度決定方法及び装置、プログラム製品

Info

Publication number
JP7717822B2
JP7717822B2 JP2023547643A JP2023547643A JP7717822B2 JP 7717822 B2 JP7717822 B2 JP 7717822B2 JP 2023547643 A JP2023547643 A JP 2023547643A JP 2023547643 A JP2023547643 A JP 2023547643A JP 7717822 B2 JP7717822 B2 JP 7717822B2
Authority
JP
Japan
Prior art keywords
audio
evaluation
demonstration
pronunciation
pronunciation features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023547643A
Other languages
English (en)
Other versions
JP2024507734A (ja
Inventor
シァ,ルイ
トゥ,ミン
ディン,チェン
ヂォン,ウェイミン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lemon Inc Cayman Island
Original Assignee
Lemon Inc Cayman Island
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lemon Inc Cayman Island filed Critical Lemon Inc Cayman Island
Publication of JP2024507734A publication Critical patent/JP2024507734A/ja
Application granted granted Critical
Publication of JP7717822B2 publication Critical patent/JP7717822B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/06Foreign languages
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/005Language recognition
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/10Speech classification or search using distance or distortion measures between unknown speech and reference templates
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/16Speech classification or search using artificial neural networks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Telephonic Communication Services (AREA)

Description

本開示の実施例は、音声技術に関し、特に、音声類似度決定方法及び装置、プログラム製品に関する。
オンラインで語学を学ぶことを選択するユーザは多い。例えば、言語学習ソフトウェアを使って語学を学ぶ。
従来の技術における多くの言語学習ソフトウェアには、リッスン・アンド・リピートの類似度分析機能を実現するための分析モジュールが配置されており、ユーザは指定されたコンテンツを読み出すことができ、ソフトウェアは、ユーザが指定されたコンテンツを読んでいる際に生成されたオーディオを分析して、当該オーディオと指定されたコンテンツに対応する標準的なオーディオとの類似度を決定することができ、これによって、ユーザはリッスン・アンド・リピートの効果を知ることができる。
しかし、従来の技術に提供される分析モジュールは、一般的に、1つの言語をのみ分析することができ、他の種類の言語のリッスン・アンド・リピートの類似度分析機能が追加されると、当該分析モジュールのボリュームが大きくなり、当該分析モジュールを実行するハードウェアデバイスは高く要求されるようになっている。
本開示の実施例は、従来の技術においてリッスン・アンド・リピートの類似度分析機能を実現するモジュールのボリュームが大きいという問題を克服するために、音声類似度決定方法及び機器、プログラム製品を提供する。
第1の態様では、本開示の実施例は、音声インタラクションに基づく音声類似度決定方法を提供し、前記方法は、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
第2の態様では、本開示の実施例は、サーバに適用される、データリクエスト命令の処理方法を提供し、前記方法は、
データリクエスト命令を受信するステップと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
第3の態様では、本開示の実施例は、音声類似度決定装置を提供し、前記装置は、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニットと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含む。
第4の態様では、本開示の実施例は、サーバに配置されている、データリクエスト命令の処理装置を提供し、前記装置は、
データリクエスト命令を受信するための受信ユニットと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
第5の態様では、本開示の実施例は、電子機器を提供し、前記電子機器は、
メモリと、
プロセッサと、
コンピュータプログラムと、を含み、
前記コンピュータプログラムが前記メモリに記憶されており、前記プロセッサにより実行されて第1の態様に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様に記載されているデータリクエスト命令の処理方法が実現されるように構成されている。
第6の態様では、本開示の実施例は、コンピュータプログラムが記憶されている、コンピュータ可読記憶媒体を提供し、前記コンピュータプログラムがプロセッサにより実行されて第1の態様に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様に記載されているデータリクエスト命令の処理方法が実現される。
第7の態様では、本開示の実施例は、コンピュータプログラムを含む、コンピュータプログラム製品を提供し、前記コンピュータプログラムがプロセッサにより実行されると、第1の態様に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様に記載されているデータリクエスト命令の処理方法が実現される。
第8の態様では、本開示の実施例は、コンピュータプログラムを提供し、前記コンピュータプログラムがプロセッサにより実行されると、第1の態様に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様に記載されているデータリクエスト命令の処理方法が実現される。
本実施例により提供される音声類似度決定方法及び機器、プログラム製品は、デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、デモンストレーションオーディオに対応する標準的な発音特徴を取得して、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられるステップと、標準的な発音特徴と評価発音特徴との特徴差異を決定して、特徴差異に従って評価オーディオとデモンストレーションオーディオとの類似度を決定するステップと、を含む。本願に係る解決手段においては、評価オーディオの中にデモンストレーションオーディオに対応する標準的な発音特徴に対応する評価発音特徴を抽出することにより、リッスン・アンド・リピートの類似度分析機能を実現するためのモジュールはボリュームが比較的小さいようにすることができる。また、デモンストレーションオーディオの標準的な発音特徴は指定されたコンテンツの指定された言語における特定の発音を反映することができるため、本解決手段は、計算のボリュームが小さいながらも、複数の言語カテゴリのリッスン・アンド・リピートの類似度分析の機能を提供することができる。
以下、本開示の実施例や従来の技術における解決手段をより明瞭に説明するために、実施例又は従来の技術の記述において使用する必要がある図面を簡単に説明する。当然ながら、以下、記載する図面は本開示のいくつかの実施例であり、当業者であれば、創造的な労力を要することなく、これらの図面に基づいて他の図面を想到しうる。
1つの例示的な実施例に示される応用シーンの図である。 本願の1つの例示的な実施例に示される音声インタラクションに基づく音声類似度決定方法のフローチャートである。 本願の他の例示的な実施例に示される音声インタラクションに基づく音声類似度決定方法のフローチャートである。 本願の1つの例示的な実施例に示される類似度の決定プロセスの概略図である 本願の1つの例示的な実施例に示されるデータリクエスト命令の処理方法のフローチャートである。 本願の1つの例示的な実施例に示される音声インタラクションに基づく音声類似度決定装置の構造図である。 本願の他の例示的な実施例に示される音声インタラクションに基づく音声類似度決定装置の構造図である。 本願の1つの例示的な実施例に示されるデータリクエスト命令の処理装置の構造図である。 本開示の実施例により提供される電子機器のハードウェアの構造概略図である。
以下、本開示の実施例の目的、技術的解決手段及び利点をより明瞭にするために、本開示の実施例に係る図面を参照しながら、その技術的解決手段について明瞭、且つ完全に説明し、当然ながら、記載される実施例は本開示の実施例の一部にすぎず、そのすべての実施例ではない。当業者は、本開示における実施例に基づいて創造的な労働をすることなく、獲得されたその他のすべての実施例は、いずれも本開示の保護範囲に属する。
図1は、1つの例示的な実施例に示される応用シーンの図である。
図1に示すように、ユーザ端末は、1つのデモンストレーションオーディオ(図ではデモンストレーションオーディオのコンテンツを「XXX」で示す)を再生することができ、ユーザは、当該デモンストレーションオーディオをリッスン・アンド・リピートすることができる。
ユーザはボタン11をクリックして、リッスン・アンド・リピートするオーディオ12を録音するようにユーザ端末を制御することができる。ユーザ端末は、録音したオーディオ12を分析して、当該オーディオ12とデモンストレーションオーディオとの類似度を決定することができ、これによって、ユーザはリッスン・アンド・リピート効果を知ることができる。
しかし、従来の技術に提供される、リッスン・アンド・リピートの際に録音されたオーディオを分析して類似度を決定する解決手段においては、いずれも1種の言語のオーディオのみを分析することができる。例えば、ユーザが共通語でリッスン・アンド・リピートする際に生成されたオーディオのみに対して類似度分析を行ったり、ユーザが英語でリッスン・アンド・リピートする際に生成されたオーディオのみに対して類似度分析を行ったりすることができる。
従来の技術により提供される解決手段に基づき、他のカテゴリの言語のリッスン・アンド・リピートの類似度分析機能を直接に追加すると、機能全体を実現する分析モジュールはボリュームが大きくなり、当該分析モジュールを実行するハードウェアデバイスが高く要求されている。
例えば、異なる方言でリッスン・アンド・リピートして録音したオーディオを分析し、当該オーディオとデモンストレーションオーディオとの類似度を決定する必要がある場合、分析モジュールのボリュームが大きくなる。
上記の技術的問題を解決するために、本願により提供される解決手段は、録音された評価オーディオを分析するとき、デモンストレーションオーディオに対応する標準的な発音特徴に対応する評価発音特徴を評価オーディオの中にのみ抽出し、これによりリッスン・アンド・リピートの類似度分析機能を実現するためのモジュールのボリュームを小さくすることができる。また、デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられるため、本願に係る解決手段は、当該標準的な発音特徴及び抽出された評価発音特徴に基づいて評価オーディオとデモンストレーションオーディオとの類似度を決定することができ、そして、このような実施形態は、指定されたコンテンツが異なり且つ指定された言語が異なるデモンストレーションオーディオに適用されることができ、これによって、複数の言語カテゴリのリッスン・アンド・リピートの類似度分析の機能を提供することができる。
図2は、本願の1つの例示的な実施例に示される音声インタラクションに基づく音声類似度決定方法のフローチャートである。
図2に示すように、本願により提供される音声インタラクションに基づく音声類似度決定方法は、ステップ201~ステップ203を含む。
ステップ201では、デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得し、デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである。
本願により提供される方法は、コンピューティング能力を備える電子機器により実行されることができ、当該電子機器は例えばユーザ端末とすることができ、当該ユーザ端末はマイクロフォンを備えるものとすることができる。当該ユーザ端末は例えば携帯電話、タブレットコンピュータなどのデバイスとすることができる。
具体的には、ユーザ端末は、デモンストレーションオーディオを再生することができ、当該デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである。例えば、文字コンテンツを予め設定することができ、当該文字コンテンツは、例えば「新年あけましておめでとうございます」など、必要に応じて設定されることができる。当該コンテンツを指定された言語で読み上げるオーディオを予め録音することができ、例えば、当該コンテンツを広東語で読み上げるオーディオを予め録音することができる。具体的に使用する言語も必要に応じて設定されることができる。
さらに、当該デモンストレーションオーディオは、参照をユーザに提供するためのオーディオであるため、指定されたコンテンツを指定された言語で読み上げる参照オーディオを複数録音して、その中から必要に応じたデモンストレーションオーディオを選別してもよい。例えば、「新年あけましておめでとうございます」を広東語で読み上げる参照オーディオは、異なるデバイスを利用して、異なる環境下で録音され得る。
実際に応用するとき、ユーザ端末は、デモンストレーションオーディオの再生完了後に、マイクロフォンをオンにして、ユーザの評価オーディオを取得してもよい。
1つの実施形態では、ユーザ端末の画面に、評価オーディオの取得をトリガーするためのボタンを配置することができ、ユーザは、当該ボタンをクリックすることにより、マイクロフォンをオンにするようにユーザ端末をトリガーして、評価オーディオを取得することができる。
他の実施形態では、ユーザ端末は、デモンストレーションオーディオ再生完了後に、マイクロフォンをオンにして、評価オーディオを取得することができる。
ユーザは、デモンストレーションオーディオを聞いた後にリッスン・アンド・リピートすることができ、具体的には、指定されたコンテンツを指定された言語で読み上げることにより、ユーザ端末はユーザがデモンストレーションオーディオをリッスン・アンド・リピートする際に生成された評価オーディオを取得できるようにすることができる。
1つの選択的な実施形態では、ユーザはさらに、リッスン・アンド・リピート完了の命令をユーザ端末に送信するようにユーザ端末を操作してもよい。例えば、ユーザ端末の画面においてリッスン・アンド・リピート完了を指示するためのボタンを表示することができ、ユーザは当該ボタンをクリックすることにより、リッスン・アンド・リピート完了の命令を送信することができる。他の実施形態では、ユーザはリッスン・アンド・リピートする際に、1つの予め設定されたボタンを長押しして、リッスン・アンド・リピート完了後に、当該リッスン・アンド・リピートボタンを解放することにより、リッスン・アンド・リピート完了の命令をユーザ端末に送信することができる。
選択的には、ユーザ端末は、評価オーディオを取得する際に、当該評価オーディオを検出することにより、ユーザがリッスン・アンド・リピート完了したか否かを決定することもできる。例えば、オーディオのエネルギー値に応じて、ユーザがまだ継続的にリッスン・アンド・リピートしているか否かを決定することができる。
ステップ202では、デモンストレーションオーディオに対応する標準的な発音特徴を取得して、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出し、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられる。
具体的には、ユーザ端末は、デモンストレーションオーディオに対応する標準的な発音特徴を取得することができる。
さらに、当該標準的な発音特徴は、サーバによりユーザ端末に送信されることができ、ユーザ端末は、受信した標準的な発音特徴を記憶して、評価オーディオを分析する際に、当該標準的な発音特徴を取得することができる。例えば、ユーザは、ユーザ端末を操作して、本願により提供される方法が設定されたアプリケーションを起動する際に、ユーザ端末は、サーバとインタラクションして、デモンストレーションオーディオ及びその対応する標準的な発音特徴をユーザ端末に送信するようにサーバにリクエストすることができる。
実際に応用するとき、異なるデモンストレーションオーディオに対応する標準的な発音特徴も異なるため、ユーザ端末は、標準的な発音特徴を取得する際に、再生されるデモンストレーションオーディオに基づいて対応する標準的な発音特徴を取得することができる。
標準的な発音特徴は、指定されたコンテンツ及び指定された言語に応じて予め設定されることができ、指定されたコンテンツの指定された言語における特定の発音を反映することができる。
具体的には、指定されたコンテンツを指定された言語で読み上げる参照オーディオを複数予め録音して、そのうちのいずれかの参照オーディオをデモンストレーションオーディオとすることができる。指定されたコンテンツを指定された言語で読み上げる際の発音特徴を表すことができる各参照オーディオの参照発音特徴を抽出して、これらの参照発音特徴を融合させ、デモンストレーションオーディオに対応する標準的な発音特徴を得ることができ、当該標準的な発音特徴は複数の参照発音特徴を融合させて得られたものであるため、標準的な発音特徴は、指定されたコンテンツの指定された言語における特定の発音を表すことができる。
さらに、ユーザ端末は、さらに、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出することができる。このような実施形態では、評価オーディオの中に、標準的な発音特徴に対応する評価発音特徴を対象として絞って抽出することができ、評価オーディオのすべての特徴を抽出する必要がないため、処理すべきデータ量を低減し、評価オーディオの分析時に必要なハードウェア要件を減らすことができる。
1つの実施形態では、各参照オーディオの参照発音特徴を抽出するとき、各参照オーディオの中のプリセットサンプリングポイントの特徴を収集することにより、標準的な発音特徴がこれらのプリセットサンプリングポイントの特徴を含むものになるようにすることができる。指定されたコンテンツを指定された言語で読み上げる際に当該言語の特徴点を有する発音位置に従って、参照オーディオの中のプリセットサンプリングポイントを決定することができる。
このような実施形態では、デモンストレーションオーディオに対応するプリセットサンプリングポイントの位置に従って、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出することができる。
他の実施形態では、各参照オーディオの参照発音特徴を抽出するとき、各参照オーディオのプリセットカテゴリの特徴を収集することにより、標準的な発音特徴がこれらのプリセットカテゴリの特徴を含むものになるようにすることができる。指定されたコンテンツを指定された言語で読み上げる際に当該言語の特徴点を有する特徴に従って、参照オーディオのプリセットカテゴリの特徴を決定することができる。例えば、音調変化を表すための特徴であってもよいし、すべて又は一部の文字の読み方を表すための特徴であってもよい。
このような実施形態では、デモンストレーションオーディオに対応するプリセットカテゴリの特徴に従って、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出することができる。
ステップ203では、標準的な発音特徴と評価発音特徴との特徴差異を決定して、特徴差異に従って評価オーディオとデモンストレーションオーディオとの類似度を決定する。
ここで、ユーザ端末はさらに、標準的な発音特徴と評価発音特徴とを比較することにより、標準的な発音特徴と評価発音特徴との特徴差異を決定することができる。例えば、標準的な発音特徴における各特徴と評価発音特徴における各特徴とを比較することにより、標準的な発音特徴と評価発音特徴との特徴差異を得ることができる。
例えば、標準的な発音特徴と評価発音特徴に対してアライメント処理を行うことができ、各アライメントポイントに含まれる標準的な発音特徴における第1の特徴と評価発音特徴における第2の特徴とを比較することにより、標準的な発音特徴と評価発音特徴との特徴差異を得ることができる。
具体的には、さらに、特徴差異に従って評価オーディオとデモンストレーションオーディオとの類似度を決定することもできる。例えば、標準的な発音特徴と評価発音特徴との特徴差異に従って両者の特徴距離を決定して、当該特徴距離を評価オーディオとデモンストレーションオーディオとの類似度とすることができる。
1つの選択的な実施形態では、ユーザ端末は、さらに、決定された類似度を点数又は評価コンテンツとしてマッピングして、当該点数を表示することにより、ユーザにリッスン・アンド・リピート効果を認識させることができる。例えば、類似度と点数又は評価コンテンツとのマッピング関係を予め設定することにより、決定された類似度に従って対応する点数又は評価コンテンツを決定することができる。
本願により提供される音声インタラクションに基づく音声類似度決定方法は、デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、デモンストレーションオーディオに対応する標準的な発音特徴を取得して、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられるステップと、標準的な発音特徴と評価発音特徴との特徴差異を決定して、特徴差異に従って評価オーディオとデモンストレーションオーディオとの類似度を決定するステップと、を含む。本願に係る解決手段においては、評価オーディオの中にデモンストレーションオーディオに対応する標準的な発音特徴に対応する評価発音特徴を抽出することにより、リッスン・アンド・リピートの類似度分析機能を実現するためのモジュールはボリュームが比較的小さいようにすることができる。また、デモンストレーションオーディオの標準的な発音特徴は指定されたコンテンツの指定された言語における特定の発音を反映することができるため、本解決手段は、計算のボリュームが小さいながらも、複数の言語カテゴリのリッスン・アンド・リピートの類似度分析の機能を提供することができる。
図3は、本願の他の例示的な実施例に示される音声インタラクションに基づく音声類似度決定方法のフローチャートである。
図3に示すように、本願により提供される音声インタラクションに基づく音声類似度決定方法は、ステップ301~ステップ309を含む。
ステップ301では、開始命令に応答して、サーバにデータリクエスト命令を送信する。
ここで、本願により提供される方法は、コンピューティング能力を備える電子機器により実行されることができ、当該電子機器は、例えば、ユーザ端末とすることができ、当該ユーザ端末はマイクロフォンを備えるものとすることができる。当該ユーザ端末は例えば携帯電話、タブレットコンピュータなどのデバイスとすることができる。
具体的には、ユーザは、ユーザ端末を操作して、リッスン・アンド・リピートの類似度分析機能を開始するための開始命令をユーザ端末に送信することができる。例えば、当該リッスン・アンド・リピートの類似度分析機能は、アプリケーション内の1つのアイテムとして、アプリケーション内に設定されることができ、当該アプリケーションはユーザ端末に搭載されることができる。この場合、ユーザは、ユーザ端末を操作して当該アプリケーションを開始し、当該アプリケーションの中にリッスン・アンド・リピートの類似度分析機能付きのアイテムを選択することにより、ユーザ端末に開始命令を送信することができる。
さらに、ユーザ端末は、当該開始命令に応答して、サーバにデータリクエスト命令を送信することができる。当該データリクエスト命令は、リッスン・アンド・リピートの類似度分析機能を実現するデータをリクエストするために用いられる。
ステップ302では、エンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴を受信する。
実際に応用するとき、サーバは、ユーザ端末から送信されたデータリクエスト命令を受信した後、エンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴を当該ユーザ端末に送信することができる。
ここで、サーバには、エンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴が予め設定されている。
具体的には、サーバがユーザ端末に送信したエンコーダは、予め訓練して得られたものであってもよい。
さらに、音声認識データを用いて初期モデルを訓練して、音声認識モデルを得ることができる。そして、複数の言語カテゴリのオーディオを利用して音声認識モデルにおけるエンコーダを訓練して、発音特徴を抽出するためのエンコーダを得る。
実際に応用するとき、音声認識データは、テキストラベル付きのオーディオデータとすることができ、音声認識データを訓練して得られた音声認識モデルによって、一部のオーディオデータを処理し、当該オーディオデータに対応するテキストコンテンツを得ることができる。
音声認識モデルにはエンコーダ(Encoder)を備え、エンコーダは、テキストと発音に関する情報を効果的に抽出することができるため、本願により提供される方法には、複数の言語カテゴリのオーディオデータを使用して音声認識モデルにおけるエンコーダを訓練し、発音特徴を抽出できるエンコーダを得る。
ここで、複数の言語カテゴリのオーディオデータは複数の言語カテゴリのオーディオを含み、各オーディオは言語カテゴリラベル付きのものである。例えば、一部のオーディオで使われている言語は四川方言である場合、当該オーディオの言語カテゴリラベルは四川方言を表すラベルである。また、例えば、一部のオーディオで使われる言語は広東語である場合、当該オーディオの言語カテゴリラベルは広東語を表すラベルである。複数の言語カテゴリのオーディオデータを用いてエンコーダを訓練することで、当該エンコーダによる異なる言語カテゴリの発音特徴の区別度を向上させることができる。
本願により提供される方法に必要なハードウェアリソースをさらに低減するためには、エンコーダは、3層の長短期記憶ネットワークの構成を使用することができ、各層のネットワークは512個のノードを設定することができる。
具体的には、サーバにはいくつかのデモンストレーションオーディオ及びその対応する標準的な特徴情報を設定して、これらのデモンストレーションオーディオのうちのいずれか1つ又は複数をユーザ端末に送信するとともに、デモンストレーションオーディオに対応する標準的な特徴情報を送信することができる。
さらに、デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、エンコーダを使用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各参照オーディオは、指定されたコンテンツを指定された言語で読み上げるオーディオであり、デモンストレーションオーディオは、参照オーディオのうちのいずれかのオーディオである。
このような実施形態では、指定されたコンテンツを指定された言語で読み上げる参照オーディオを複数予め録音することができる。そして、エンコーダを利用して各参照オーディオに対して特徴抽出を行い、各参照オーディオに対応する参照発音特徴を得る。続いて、各参照発音特徴を融合させて標準的な発音特徴を得る。
参照オーディオは標準的な発音特徴を生成するためのものであるため、指定された言語を日常交流用言語として使っているユーザにより参照オーディオを録音することができる。これによって、標準的な発音特徴は、当該指定された言語の特徴点を正確に体現することができる。
ステップ303では、デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得し、デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである。
具体的には、ユーザ端末は、デモンストレーションオーディオを受信した後、そのうちのいずれかのデモンストレーションオーディオを再生することができる。
ステップ303は、ステップ201とは実現形態及び原理が類似するため、繰り返して説明しない。
選択的には、ユーザ端末のユーザ画面においては、リッスン・アンド・リピートすべきコンテンツをユーザにプロンプトするために、デモンストレーションオーディオに対応する指定されたコンテンツをさらに表示してもよい。
ユーザ端末は、デモンストレーションオーディオの再生完了後に、「リッスン・アンド・リピートしてください」など、リッスン・アンド・リピートするようにユーザにプロンプトするための音声コンテンツを再生することもできる。選択的には、ユーザ端末は、プロンプトコンテンツの再生完了後に、マイクロフォンをオンにして、ユーザの評価オーディオを取得してもよい。
選択的には、ユーザ端末にカメラを搭載することで、ユーザ画像を取得して、ユーザ端末に表示してもよい。1つの選択的な実施形態では、ユーザ端末は、ユーザ画像を認識して、ユーザがリッスン・アンド・リピートを完了させたか否かを決定してもよい。
ステップ304では、デモンストレーションオーディオに対応する標準的な発音特徴を取得し、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられる。
ステップ304は、ステップ202とは標準的な発音特徴を取得することの実現形態及び原理が類似するため、繰り返して説明しない。
ステップ305では、音声認識モデルのエンコーダに基づき、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出する。
さらに、ユーザ端末は、サーバから送信された音声認識モデルのエンコーダを利用して、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出することができる。
実際に応用するとき、ユーザ端末は、評価オーディオをエンコーダに入力して、標準的な発音特徴に対応する評価発音特徴を得ることができる。
ここで、エンコーダは、異なる言語カテゴリの発音特徴を区別することができるため、エンコーダは、評価オーディオの中に言語カテゴリに対応する評価発音特徴を抽出することができる。また、デモンストレーションオーディオに対応する標準的な発音特徴もエンコーダを利用して取得されたものであるため、同じエンコーダを利用して評価オーディオを処理することで、標準的な発音特徴に対応する評価発音特徴を得ることができる。
具体的には、エンコーダを用いて評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出することにより、評価オーディオの中に、標準的な発音特徴に対応する評価発音特徴を対象として絞って抽出することができ、評価オーディオのすべての特徴を抽出する必要がないため、処理すべきデータ量を低減し、評価オーディオの分析時に必要なハードウェア要件を減らすことができる。
ステップ306では、標準的な発音特徴と評価発音特徴に従って、時間伸縮関数を決定する。
さらに、オーディオは時間的順序が付けられたデータであるため、デモンストレーションオーディオに対応する標準的な発音特徴も時間属性を有しているものであり、評価データから抽出された評価発音特徴もまた時間属性を有しているものである。したがって、標準的な発音特徴と評価発音特徴に従って、標準的な発音特徴と評価発音特徴との時間的対応関係を表すことができる時間伸縮関数を決定することができる。
1つの実施形態では、評価発音特徴が標準的な発音特徴と時間軸上でアライメントするように、1つの時間伸縮関数を決定して、評価発音特徴の時間軸を標準的な発音特徴の時間軸上に非線形にマッピングすることができる。アライメントされた標準的な発音特徴はアライメントポイントに対応する第1の特徴を有し、アライメントされた評価発音特徴はアライメントポイントに対応する第2の特徴を有し、各アライメントポイントに対応する第1の特徴と第2の特徴との間は、ある程度の特徴差異が存在しており、当該時間伸縮関数は、各アライメントポイントに対応する特徴差異の和が最も小さいことを満たすことができる。
実際に応用するとき、ユーザ端末は、標準的な発音特徴と評価発音特徴に従って上記の条件を満たす時間伸縮関数を決定することができる。
ステップ307では、時間伸縮関数、標準的な発音特徴、及び評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定し、各アライメントポイントの組み合わせには、標準的な発音特徴における1つの標準的な特徴点及び評価発音特徴における1つの評価特徴点が含まれる。
ユーザ端末は、時間伸縮関数を決定した後、現在の時間伸縮関数及び標準的な発音特徴、評価発音特徴に基づき、複数のアライメントポイントの組み合わせを決定することができる。各アライメントポイントの組み合わせには、標準的な発音特徴における1つの標準的な特徴点及び評価発音特徴における1つの評価特徴点が含まれ、当該アライメントポイントの組み合わせにおける標準的な特徴点と評価特徴点は、同じ時点に対応する。
ステップ308では、各アライメントポイントの組み合わせに含まれる標準的な特徴点と評価特徴点に従って、各アライメントポイントの組み合わせに対応する特徴差異を決定する。
具体的には、各アライメントポイントの組み合わせについては、アライメントポイントの組み合わせにおける標準的な特徴点と評価特徴点との特徴差異を決定することができる。例えば、標準的な特徴点と評価特徴点との間の距離をアライメントポイントの組み合わせの特徴差異として計算することができる。
ステップ309では、各アライメントポイントの組み合わせの特徴差異に従って、評価オーディオとデモンストレーションオーディオとの類似度を決定する。
さらに、各アライメントポイントの組み合わせの特徴差異の和を、評価オーディオとデモンストレーションオーディオとの類似度とすることができる。まず特徴点をアライメントして、そして特徴を比較することにより、評価オーディオとデモンストレーションオーディオとの特徴差異を正確に決定して、この両者の類似度を正確に決定することができる。
図4は、本願の1つの例示的な実施例に示される類似度の決定プロセスの概略図である。
図4に示すように、ユーザ端末は、評価オーディオ41を取得することができ、デモンストレーションオーディオに対応する標準的な発音特徴42を取得することもできる。
ユーザ端末は、評価オーディオ41をエンコーダ43に入力し、エンコーダ43は当該評価オーディオ41の中に標準的な発音特徴42に対応する評価発音特徴44を出力することができる。1つの実施形態では、評価オーディオ41をエンコーダ43に直接に入力することができ、他の実施形態では、まず評価オーディオ41に対してフィルタ処理を行い、そしてフィルタされたオーディオをエンコーダ43に入力することもできる。例えば、メルフィルタバンクを利用して評価オーディオ41を処理することができる。
ユーザ端末はさらに、標準的な発音特徴42と評価発音特徴44とを比較して、評価オーディオ41とデモンストレーションオーディオとの類似度45を得ることもできる。
ステップ310では、マッピング関数、及びデモンストレーションオーディオに対応する設定情報を取得し、設定情報が評価オーディオとデモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられる。
ステップ311では、マッピング関数、及びデモンストレーションオーディオに対応する設定情報に基づき、評価オーディオとデモンストレーションオーディオとの類似度を点数としてマッピングする。
実際に応用するとき、ユーザ端末はさらに、マッピング関数及びデモンストレーションオーディオに対応する設定情報を取得することもできる。
1つの選択的な実施形態では、マッピング関数及びデモンストレーションオーディオに対応する設定情報は、ユーザ端末によって取得され得るように、サーバが送信したものとすることができる。例えば、サーバは、ユーザ端末にデモンストレーションオーディオを送信する際に、デモンストレーションオーディオに対応する設定情報に加えて、マッピング関数を同時に送信することができる。
ユーザ端末は、受信したマッピング関数及びデモンストレーションオーディオに対応する設定情報を記憶して、類似度を点数としてマッピングする際に、これらの情報を取得することができる。
サーバは、ユーザ端末にデモンストレーションオーディオを複数送信した場合、サーバはさらに、ユーザ端末に各デモンストレーションオーディオに対応する設定情報を送信することもできる。
具体的には、設定情報は、評価オーディオとデモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられる。例えば、設定情報には、いくつかの点数に加えて、各点数に対応するマッピング関係が含まれ得る。マッピング関数は、これらの設定情報に基づいて、決定された類似度を点数としてマッピングすることができる。
さらに、設定情報にはさらに、最大点数、最大点数に対応する類似度、最小点数、最小点数に対応する類似度が含まれ得る。例えば、最大点数は100で、最小点数は0であるようにすることができる。
実際に応用するとき、マッピング関数は線形関数とすることができ、当該線形関数、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度に基づき、決定された類似度を点数としてマッピングすることができる。線形関数に基づいて類似度を点数としてマッピングすることにより、データ処理量をさらに低減し、本願により提供される方法を実行するためのユーザ端末のハードウェア要件をさらに減らすことができる。
本願により提供される方法には、異なるデモンストレーションオーディオに対応する設定情報が設定されており、設定情報には、最大点数及び最小点数が含まれる。各設定情報における最大点数を同じ値、例えばいずれも100に設定することができ、また、各設定情報における最小点数を同じ値、例えばいずれも0に設定することができ、このように、本願により提供される解決手段を用いて類似度を同じスケールの点数範囲内にマッピングすることができる。
具体的には、ユーザ端末はさらに、決定された点数を表示することで、ユーザにリッスン・アンド・リピート効果を認識させることもできる。
さらに、最大点数に対応する類似度は、複数の参照類似度の平均値であり、各参照類似度は、各参照発音特徴と標準的な発音特徴との類似度である。
実際に応用するとき、各参照オーディオについては、対応する参照発音特徴を抽出することができ、エンコーダを利用して参照オーディオの参照発音特徴を抽出することができる。各参照発音特徴と標準的な発音特徴との参照類似度を決定することができ、例えば、動的時間伸縮法に基づいて各参照発音特徴と標準的な発音特徴との参照類似度を決定することができる。そして、これらの参照類似度の平均値を最大点数に対応する類似度として決定する。
最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各ホワイトノイズ類似度は、各ホワイトノイズ特徴と標準的な発音特徴との類似度であり、各ホワイトノイズ特徴は、エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである。
具体的には、さらに、いくつかのホワイトノイズオーディオを予め用意して、いくつかのホワイトノイズオーディオに基づいて最小点数に対応する類似度を決定することもできる。エンコーダを利用して各ホワイトノイズオーディオのホワイトノイズ特徴を抽出し、そして、各ホワイトノイズ特徴と標準的な発音特徴とのホワイトノイズ類似度を決定して、複数のホワイトノイズ類似度の平均値を最小値に対応する類似度とすることができる。
図5は、本願の1つの例示的な実施例に示されるデータリクエスト命令の処理方法のフローチャートである。
図5に示すように、本願により提供されるデータリクエスト命令の処理方法は、ステップ501及びステップ502を含む。
ステップ501では、データリクエスト命令を受信する。
ステップ502では、データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信する。
デモンストレーションオーディオは、指定されたコンテンツを指定された言語で読み上げるオーディオであり、エンコーダは、評価オーディオの中に標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、標準的な発音特徴が指定されたコンテンツの指定された言語における特定の発音を反映するために用いられる。
本願により提供される方法は、ユーザ端末にデータを提供できるサーバ側に適用され得る。
具体的には、ユーザ端末は、ユーザ操作に基づいて、サーバにデータリクエスト命令を送信することができる。サーバには、図2又は図3に示される実施例におけるエンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴が設定されており、サーバは、ユーザ端末から送信されたデータリクエスト命令を受信した後、エンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末にフィードバックする。
図6は、本願の1つの例示的な実施例に示される音声インタラクションに基づく音声類似度決定装置の構造図である。
図6に示すように、本願により提供される音声インタラクションに基づく音声類似度決定装置600は、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニット610であって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニット610と、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニット620であって、前記標準的な発音特徴が、前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニット620と、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニット630と、を含む。
本願により提供される音声インタラクションに基づく音声類似度決定装置は、図2に示される実施例に係るものと類似するため、繰り返して説明しない。
図7は、本願の他の例示的な実施例に示される音声インタラクションに基づく音声類似度決定装置の構造図である。
図7に示すように、本願により提供される音声インタラクションに基づく音声類似度決定装置700には、前記特徴抽出ユニット620は、具体的に、
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられる。
選択的には、前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定されたコンテンツを前記指定された言語で読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである。
選択的には、分析ユニット630は、
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するための関数決定モジュール631と、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するためのアライメントモジュール632であって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるアライメントモジュール632と、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するための差異決定モジュール633と、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための類似度決定モジュール634と、を含む。
選択的には、前記装置はさらに、マッピングユニット640を含み、マッピングユニット640は、
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得し、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられることと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングすることと、に用いられる。
選択的には、前記設定情報は、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度を含む。
選択的には、前記最大点数に対応する類似度は、複数の参照類似度の平均値であり、各前記参照類似度は、各前記参照発音特徴と前記標準的な発音特徴との類似度である。
選択的には、前記最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各前記ホワイトノイズ類似度は、各ホワイトノイズ特徴と前記標準的な発音特徴との類似度であり、各前記ホワイトノイズ特徴は、前記エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである。
選択的には、前記装置は、取得ユニット610がデモンストレーションオーディオを再生する前に、
開始命令に応答して、サーバにデータリクエスト命令を送信することと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信することと、に用いられる送受信ユニット650、をさらに含む。
選択的には、前記音声認識モデルは、音声認識データを用いて初期モデルを訓練して得られたものであり、
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
選択的には、前記エンコーダは、3層の長短期記憶ネットワークである。
本願により提供される音声インタラクションに基づく音声類似度決定装置は、図3に示される実施例に係るものと類似するため、繰り返して説明しない。
図8は、本願の1つの例示的な実施例に示されるデータリクエスト命令の処理装置の構造図である。
図示のように、本願により提供されるデータリクエスト命令の処理装置800はサーバに配置されており、前記装置は、
データリクエスト命令を受信するための受信ユニット810と、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニット820と、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
本願により提供されるデータリクエスト命令の処理装置は、図5に示される実施例に係るものと類似するため、繰り返して説明しない。
本願はさらに、コンピュータプログラムを含む、コンピュータプログラム製品を提供し、前記コンピュータプログラムがプロセッサにより実行されると、上記のいずれかの方法の実施例に係る技術的解決手段が実現される。
本願はさらに、コンピュータプログラムを提供し、前記コンピュータプログラムがプロセッサにより実行されると、上記のいずれかの方法の実施例に係る技術的解決手段が実現される。
本実施例により提供される機器は、上記の方法の実施例に係る技術的解決手段を実行するために使用されることができ、その実現原理及び技術的効果が類似するため、本実施例はここで繰り返して説明しない。
図9は、本開示の実施例を実現するために適した電子機器900の構造概略図を示しており、当該電子機器900は、端末機器又はサーバにすることができる。端末機器は、携帯電話、ノートブックコンピュータ、デジタル放送受信機、パーソナルデジタルアシスタント(Personal Digital Assistant、PDAと略称)、タブレットコンピュータ(Portable Android Device、PADと略称)、携帯型マルチメディアプレーヤー(Portable Multimedia Player、PMPと略称)、車載端末(例えば、車載ナビゲーション端末)などの移動端末、及びデジタルTV、デスクトップコンピュータなどの固定端末を含むことができるが、それらに限定されない。図9に示される電子機器は単なる一例であり、本開示の実施例の機能及び使用範囲にいかなる制限も課すべきでない。
図9に示すように、電子機器900は、処理装置(中央処理装置やグラフィックプロセッサなど)901を含むことができ、当該処理装置は、読み取り専用メモリ(Read Only Memory、ROMと略称)902に記憶されたプログラムまたは記憶装置908からランダムアクセスメモリ(Random Access Memory、RAMと略称)903にロードされたプログラムに従って、様々な適切な動作及び処理を実行することができる。RAM903には、電子機器900の操作に必要な様々なプログラム及びデータも記憶されている。処理装置901、ROM902及びRAM903は、バス904を介して互いに接続されている。入力/出力(Input/Output、I/Oと略称)インタフェース905もバス904に接続されている。
通常、タッチスクリーン、タッチパッド、キーボード、マウス、カメラ、マイクロフォン、加速度計、ジャイロスコープなどを含む入力装置906と、液晶ディスプレイ(Liquid Crystal Display、LCDと略称)、スピーカー、バイブレータなどを含む出力装置907と、磁気テープやハードディスクなどを含む記憶装置908と、通信装置909とは、I/Oインタフェース905に接続されることができる。通信装置909は、電子機器900が他のデバイスと無線又は有線で通信してデータを交換することを可能にし得る。図9は、様々なデバイスを備える電子機器900を示すが、図示されたデバイスのすべてが実施又は配置される必要があるわけではないことを理解すべきである。代替的に、より多くの又は少ないデバイスが実施又は配置され得る。
特に、本開示の実施例によれば、フローチャートを参照して説明されている上記のプロセスは、コンピュータソフトウェアプログラムとして実施されることができる。例えば、本開示の実施例は、コンピュータ可読媒体に搭載されているコンピュータプログラムを含むコンピュータプログラム製品を含み、当該コンピュータプログラムがフローチャートに示される方法を実行するためのプログラムコードを含む。このような実施例では、当該コンピュータプログラムは、通信装置909を介してネットワークからダウンロード及びインストールされるか、または記憶装置908からインストールされるか、またはROM902からインストールされることができる。当該コンピュータプログラムは、処理装置901により実行されると、本開示の実施例に係る方法で限定されている上記の機能は実行される。
なお、本開示に記載されたコンピュータ可読媒体は、コンピュータ可読信号媒体又はコンピュータ可読記憶媒体又は上記2つの任意の組み合わせであり得る。コンピュータ可読記憶媒体は、例えば、電気的、磁気的、光学的、電磁的、赤外線、又は半導体のシステム、装置又はデバイス、あるいは上記の任意の組み合わせにすることができるが、それらに限定されない。コンピュータ可読記憶媒体のより具体的な例として、1本又は複数のワイヤを有する電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(Erasable Programmable Read Only Memory、EPROM又はフラッシュメモリと略称)、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(Compact Disk Read Only Memory、CD-ROMと略称)、光ストレージデバイス、磁気メモリコンポーネント、または上記の任意の適切な組み合わせを含み得るが、それらに限定されない。本開示では、コンピュータ可読記憶媒体は、命令実行システム、装置、またはデバイスによって使用されるか、またはそれらに組み合わせて使用できるプログラムを含む又は記憶する任意の有形媒体であり得る。本開示では、コンピュータ可読信号媒体は、ベースバンドで、または搬送波の一部として伝播されるデータ信号を含むことができ、その中にコンピュータ可読プログラムコードが搭載されている。このような伝播されたデータ信号は、電磁信号、光信号、または上記の任意の適切な組み合わせを含むがそれらに限定されない多くの形をとることができる。コンピュータ可読信号媒体は、さらに、コンピュータ可読記憶媒体以外の任意のコンピュータ可読媒体にすることができ、当該コンピュータ可読信号媒体は、命令実行システム、装置、またはデバイスによって使用されるか、またはそれらに組み合わせて使用するためのプログラムを送信、伝播、または伝送することができる。コンピュータ可読媒体に含まれたプログラムコードは、電線、光ファイバケーブル、無線周波数(Radio Frequency、RFと略称)などを含むがそれらに限定されない任意の適切な媒体、または上記の任意の適切な組み合わせを使用して伝送されることができる。
上記のコンピュータ可読媒体は、上記の電子機器に含まれていてもよく、または当該電子機器に組み立てられずに単独で存在していてもよい。
上記のコンピュータ可読媒体には、1つ又は複数のプログラムが搭載されており、上記の1つ又は複数のプログラムは当該電子機器により実行されると、当該電子機器は、上記の実施例に示される方法を実行する。
本開示の操作を実行するためのコンピュータプログラムコードは、Java(登録商標)、Smalltalk、C++などのオブジェクト指向プログラミング言語と、「C」言語又はそれに類似するプログラミング言語などの従来の手続き型プログラミング言語と、を含む1つ又は複数のプログラミング言語、あるいはそれらの組み合わせで書くことができる。プログラムコードは、完全にユーザのコンピュータ上で、一部はユーザのコンピュータ上で、スタンドアロンソフトウェアパッケージとして、一部はユーザのコンピュータ上で、一部はリモートコンピュータ上で、または完全にリモートコンピュータ又はサーバ上で実行できる。リモートコンピュータの場合、リモートコンピュータは、ローカルエリアネットワーク(Local Area Network、LANと略称)やワイドエリアネットワーク(Wide Area Network、WANと略称)など、あらゆる種類のネットワークを介してユーザのコンピュータに接続されることができ、もしくは、外部コンピュータに接続されることもできる(例えば、インターネットサービスプロバイダーを使用してインターネット経由で接続する)。
図面のフローチャート及びブロック図は、本開示の様々な実施例によるシステム、方法、及びコンピュータプログラム製品によって実現可能なアーキテクチャ、機能、及び操作を示している。これに関して、フローチャート又はブロック図の各ブロックは、指定される論理の機能を実現するための1つ又は複数の実行可能な命令を含むモジュール、グログラムセグメント、又はコードの一部を表すことができる。いくつかの代替の実現では、ブロックに示されている機能は、図に示されている順序と異なる順序で実行できることにも注意すべきである。例えば、連結して表示される2つのブロックは、実際には、基本的に並行して実行できるが、または、関連する機能に応じて、ブロックが逆の順序で実行される場合もある。なお、ブロック図及び/又はフローチャートの各ブロック、及びブロック図及び/又はフローチャートのブロックの組み合わせは、指定される機能又は操作を実行する専用のハードウェアベースのシステムを使用して実現することができ、または、専用のハードウェアとコンピュータ命令の組み合わせを使用して実現することもできる。
本開示の実施例に記載されたユニットは、ソフトウェアで実現することができ、またはハードウェアで実現することもできる。ユニットの名称は、特定の状況下でのユニット自体を制限する目的ではない場合があり、例えば、取得ユニットは、「ユーザの評価オーディオを取得するユニット」と記載してもよい。
本明細書で上記に説明された機能は、少なくとも部分的に、1つ又は複数のハードウェアロジックコンポーネントによって実行され得る。例えば、使用できるハードウェアロジックコンポーネントの例示的なタイプとして、フィールドプログラマブルゲートアレイ(Field Programmable Gate Array、FPGAと略称)、特定用途向け集積回路(Application Specific Integrated Circuit、ASICと略称)、特定用途向け標準部品(Application Specific Standard Product、ASSPと略称)、システムオンチップ(System on chip、SOCと略称)、複雑なプログラマブルロジックデバイス(Complex Programmable Logic Device、CPLDと略称)などを含むことができるが、それらに限定されない。
本開示のコンテキストでは、機械可読媒体は、命令実行システム、装置、またはデバイスによって使用されるか、またはそれらに組み合わせて使用できるプログラムを含む又は記憶する有形媒体であり得る。機械可読媒体は、機械可読信号媒体又は機械可読記憶媒体であり得る。機械可読媒体は、電気的、磁気的、光学的、電磁的、赤外線、又は半導体のシステム、装置又はデバイス、あるいは上記の任意の組み合わせにすることができるが、それらに限定されない。機械可読記憶媒体のより具体的な例として、1本又は複数のワイヤに基づく電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(EPROM又はフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(CD-ROM)、光ストレージデバイス、磁気メモリコンポーネント、または上記の任意の適切な組み合わせを含み得る。
第1の態様では、本開示の1つ又は複数の実施例によれば、音声インタラクションに基づく音声類似度決定方法を提供し、前記方法は、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
本開示の1つ又は複数の実施例によれば、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップは、
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップを含む。
本開示の1つ又は複数の実施例によれば、前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定されたコンテンツを前記指定された言語で読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである。
本開示の1つ又は複数の実施例によれば、前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップは、
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するステップと、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するステップであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるステップと、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するステップと、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
本開示の1つ又は複数の実施例によれば、前記方法は、
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得するステップであって、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられるステップと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングするステップと、をさらに含む。
本開示の1つ又は複数の実施例によれば、前記設定情報は、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度を含む。
本開示の1つ又は複数の実施例によれば、前記最大点数に対応する類似度は、複数の参照類似度の平均値であり、各前記参照類似度は、各前記参照発音特徴と前記標準的な発音特徴との類似度である。
本開示の1つ又は複数の実施例によれば、前記最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各前記ホワイトノイズ類似度は、各ホワイトノイズ特徴と前記標準的な発音特徴との類似度であり、各前記ホワイトノイズ特徴は、前記エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである。
本開示の1つ又は複数の実施例によれば、デモンストレーションオーディオを再生するステップの前に、前記方法は、
開始命令に応答して、サーバにデータリクエスト命令を送信するステップと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信するステップと、をさらに含む。
本開示の1つ又は複数の実施例によれば、前記音声認識モデルは、音声認識データを用いて初期モデルを訓練して得られたものであり、
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
本開示の1つ又は複数の実施例によれば、前記エンコーダは、3層の長短期記憶ネットワークである。
第2の態様では、本開示の1つ又は複数の実施例によれば、サーバに適用される、データリクエスト命令の処理方法を提供し、前記方法は、
データリクエスト命令を受信するステップと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
第3の態様では、本開示の1つ又は複数の実施例によれば、音声類似度決定装置を提供し、前記装置は、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニットと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含む。
本開示の1つ又は複数の実施例によれば、前記特徴抽出ユニットは、具体的に、
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられる。
本開示の1つ又は複数の実施例によれば、前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定されたコンテンツを前記指定された言語で読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである。
本開示の1つ又は複数の実施例によれば、分析ユニットは、
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するための関数決定モジュールと、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するためのアライメントモジュールであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるアライメントモジュールと、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するための差異決定モジュールと、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための類似度決定モジュールと、を含む。
本開示の1つ又は複数の実施例によれば、前記装置は、
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得し、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられることと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングすることと、に用いられるマッピングユニットをさらに含む。
本開示の1つ又は複数の実施例によれば、前記設定情報は、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度を含む。
本開示の1つ又は複数の実施例によれば、前記最大点数に対応する類似度は、複数の参照類似度の平均値であり、各前記参照類似度は、各前記参照発音特徴と前記標準的な発音特徴との類似度である。
本開示の1つ又は複数の実施例によれば、前記最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各前記ホワイトノイズ類似度は、各ホワイトノイズ特徴と前記標準的な発音特徴との類似度であり、各前記ホワイトノイズ特徴は、前記エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである。
本開示の1つ又は複数の実施例によれば、前記装置は、取得ユニットがデモンストレーションオーディオを再生する前に、
開始命令に応答して、サーバにデータリクエスト命令を送信することと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信することと、に用いられる送受信ユニット、をさらに含む。
本開示の1つ又は複数の実施例によれば、前記音声認識モデルは、音声認識データを用いて初期モデルを訓練して得られたものであり、
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
本開示の1つ又は複数の実施例によれば、前記エンコーダは、3層の長短期記憶ネットワークである。
第4の態様では、本開示の1つ又は複数の実施例によれば、サーバに配置されている、データリクエスト命令の処理装置を提供し、前記装置は、
データリクエスト命令を受信するための受信ユニットと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
第5の態様では、本開示の1つ又は複数の実施例によれば、少なくとも1つのプロセッサとメモリとを含む、電子機器を提供し、
前記メモリがコンピュータ実行命令を記憶し、
前記少なくとも1つのプロセッサが前記メモリに記憶されたコンピュータ実行命令を実行すると、前記少なくとも1つのプロセッサが、第1の態様及び第1の態様の様々な可能な設計に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様及び第2の態様の様々な可能な設計に記載されているデータリクエスト命令の処理方法を実行する。
第6の態様では、本開示の1つ又は複数の実施例によれば、コンピュータ可読記憶媒体を提供し、前記コンピュータ可読記憶媒体にはコンピュータ実行命令が記憶されており、プロセッサが、前記コンピュータ実行命令を実行すると、第1の態様及び第1の態様の様々な可能な設計に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様及び第2の態様の様々な可能な設計に記載されているデータリクエスト命令の処理方法を実現する。
第7の態様では、本開示の1つ又は複数の実施例によれば、コンピュータプログラムを含む、コンピュータプログラム製品を提供し、前記コンピュータプログラムが、プロセッサにより実行されると、第1の態様及び第1の態様の様々な可能な設計に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様及び第2の態様の様々な可能な設計に記載されているデータリクエスト命令の処理方法が実現される。
第8の態様では、本開示の1つ又は複数の実施例によれば、コンピュータプログラムを提供し、前記コンピュータプログラムがプロセッサにより実行されると、第1の態様及び第1の態様の様々な可能な設計に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様及び第2の態様の様々な可能な設計に記載されているデータリクエスト命令の処理方法が実現される。
上記した説明は、本開示のいくつかの好ましい実施例に関する説明、及び適用される技術的原理に関する説明にすぎない。当業者は、本開示に係る開示範囲は、上記の技術的特徴の特定の組み合わせによって形成される解決手段に限定されず、上記の開示構想から逸脱することなく、上記の技術的特徴又はそれらの同等の特徴の任意の組み合わせによって形成される他の解決手段、例えば、上記特徴を、本開示で開示される(ただしこれに限定されない)同様の機能を有する技術的特徴に置き換えることによって形成される解決手段もカバーすべきであることを理解すべきである。
なお、特定の順序で各操作について説明したが、これらの操作は示されている特定の順序又は順番に実行されることを要求するものと理解されるべきではない。マルチタスクや並列処理は、一定の環境下では有利である場合がある。同様に、上記の説明にはいくつかの具体的な実現の詳細が含まれるが、これらは本開示の範囲を限定するものとして解釈されるべきではない。個々の実施例のコンテキストにおいて説明される特定の特徴は、単一の実施例において組み合わせて実現されてもよい。逆に、単一の実施例のコンテキストにおいて説明される様々な特徴は、複数の実施例において、単独で又は任意の適切なサブ組み合わせで実現されてもよい。
本主題は、構造的特徴及び/又は方法的論理動作に固有の言語を用いて説明されてきたが、添付の特許請求の範囲に限定される主題は、必ずしも上記の特定の特徴又は動作に限定されないことが理解されるべきである。逆に、上記の特定の特徴及び動作は、特許請求の範囲を実施するための例示的な形態にすぎない。
本願は2021年2月7日に中国国家知識産権局に提出された、出願番号が202110179824.Xで、出願の名称が「音声類似度決定方法及び機器、プログラム製品」という中国特許出願の優先権を主張し、そのすべての内容は援用によって本願に組み合わせられる。

Claims (15)

  1. ユーザ端末により実行される、音声インタラクションに基づく音声類似度決定方法であって、
    デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであるステップと、
    前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
    前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含み、
    前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップは、
    音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップを含み、
    前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである
    ことを特徴とする音声インタラクションに基づく音声類似度決定方法。
  2. 前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップは、
    前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するステップと、
    前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するステップであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるステップと、
    各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するステップと、
    各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む、
    ことを特徴とする請求項に記載の方法。
  3. 前記方法は、
    マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得するステップであって、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられるステップと、
    前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングするステップと、をさらに含む、
    ことを特徴とする請求項に記載の方法。
  4. 前記設定情報は、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度を含む、
    ことを特徴とする請求項に記載の方法。
  5. 前記最大点数に対応する類似度は、複数の参照類似度の平均値であり、各前記参照類似度は、各前記参照発音特徴と前記標準的な発音特徴との類似度である、
    ことを特徴とする請求項に記載の方法。
  6. 前記最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各前記ホワイトノイズ類似度は、各ホワイトノイズ特徴と前記標準的な発音特徴との類似度であり、各前記ホワイトノイズ特徴は、前記エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである、
    ことを特徴とする請求項に記載の方法。
  7. デモンストレーションオーディオを再生するステップの前に、
    開始命令に応答して、サーバにデータリクエスト命令を送信するステップと、
    前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信するステップと、をさらに含む、
    ことを特徴とする請求項1、3~6のいずれか1項に記載の方法。
  8. 前記音声認識モデルは、音声認識データを用いて初期モデルを訓練して得られたものであり、
    発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである、
    ことを特徴とする請求項1、3~7のいずれか1項に記載の方法。
  9. 前記エンコーダは、3層の長短期記憶ネットワークである、
    ことを特徴とする請求項1、3~8のいずれか1項に記載の方法。
  10. サーバにより実行される、データリクエスト命令の処理方法であって、
    データリクエスト命令を受信するステップと、
    前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
    前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられ
    前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである
    ことを特徴とするデータリクエスト命令の処理方法。
  11. 音声類似度決定装置であって、
    デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオである、取得ユニットと、
    前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
    前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含み、
    前記特徴抽出ユニットは、音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ
    前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである
    ことを特徴とする音声類似度決定装置。
  12. サーバに配置されている、データリクエスト命令の処理装置であって、
    データリクエスト命令を受信するための受信ユニットと、
    前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
    前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられ
    前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである
    ことを特徴とするデータリクエスト命令の処理装置。
  13. 電子機器であって、
    メモリと、
    プロセッサと、
    コンピュータプログラムと、を含み、
    前記コンピュータプログラムが、前記メモリに記憶されており、前記プロセッサにより実行されて請求項1~10のいずれか1項に記載の方法が実現されるように構成されている、ことを特徴とする電子機器。
  14. コンピュータプログラムが記憶されている、コンピュータ可読記憶媒体であって、
    前記コンピュータプログラムがプロセッサにより実行されて請求項1~10のいずれか1項に記載の方法が実現される、ことを特徴とするコンピュータ可読記憶媒体。
  15. コンピュータに請求項1~10のいずれか1項に記載の方法を実行させる、ことを特徴とするコンピュータプログラム。
JP2023547643A 2021-02-07 2022-01-31 音声類似度決定方法及び装置、プログラム製品 Active JP7717822B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202110179824.XA CN112951274A (zh) 2021-02-07 2021-02-07 语音相似度确定方法及设备、程序产品
CN202110179824.X 2021-02-07
PCT/SG2022/050048 WO2022169417A1 (zh) 2021-02-07 2022-01-31 语音相似度确定方法及设备、程序产品

Publications (2)

Publication Number Publication Date
JP2024507734A JP2024507734A (ja) 2024-02-21
JP7717822B2 true JP7717822B2 (ja) 2025-08-04

Family

ID=76244962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023547643A Active JP7717822B2 (ja) 2021-02-07 2022-01-31 音声類似度決定方法及び装置、プログラム製品

Country Status (5)

Country Link
US (1) US20240096347A1 (ja)
EP (1) EP4276827B1 (ja)
JP (1) JP7717822B2 (ja)
CN (1) CN112951274A (ja)
WO (1) WO2022169417A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113823320B (zh) * 2021-07-21 2025-06-24 腾讯科技(深圳)有限公司 音频识别方法、装置、计算机设备及存储介质
CN113571043B (zh) * 2021-07-27 2024-06-04 广州欢城文化传媒有限公司 一种方言模拟力测评方法、装置、电子设备及存储介质
CN115440248B (zh) * 2022-09-02 2025-04-18 司法鉴定科学研究院 语音同一性鉴定装置的样品制备系统及鉴定能力评估方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006208644A (ja) 2005-01-27 2006-08-10 Toppan Printing Co Ltd 語学会話力測定サーバシステム及び語学会話力測定方法
CN104732977A (zh) 2015-03-09 2015-06-24 广东外语外贸大学 一种在线口语发音质量评价方法和系统
CN104882147A (zh) 2015-06-05 2015-09-02 福建星网视易信息系统有限公司 一种演唱评分显示方法、装置及系统
CN105989842A (zh) 2015-01-30 2016-10-05 福建星网视易信息系统有限公司 对比声纹相似度的方法、装置及其在数字娱乐点播系统中的应用
CN106782609A (zh) 2016-12-20 2017-05-31 杨白宇 一种口语比对方法
CN106847260A (zh) 2016-12-20 2017-06-13 山东山大鸥玛软件股份有限公司 一种基于特征融合的英语口语自动评分方法
JP2019174525A (ja) 2018-03-27 2019-10-10 カシオ計算機株式会社 学習支援装置、学習支援方法およびプログラム
CN111108552A (zh) 2019-12-24 2020-05-05 广州国音智能科技有限公司 一种声纹同一性鉴定方法和相关装置
US20200294527A1 (en) 2019-03-12 2020-09-17 Cordio Medical Ltd. Diagnostic techniques based on speech models
CN112289309A (zh) 2020-10-30 2021-01-29 西安工程大学 一种基于深度学习的机器人语音控制方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06110494A (ja) * 1992-09-08 1994-04-22 Osaka Gas Co Ltd 発音学習装置
JP3741536B2 (ja) * 1998-04-15 2006-02-01 株式会社リコー 教育機器
US7873522B2 (en) * 2005-06-24 2011-01-18 Intel Corporation Measurement of spoken language training, learning and testing
CN102214462B (zh) * 2011-06-08 2012-11-14 北京爱说吧科技有限公司 用于发音评估的方法和系统
CN103559894B (zh) * 2013-11-08 2016-04-20 科大讯飞股份有限公司 口语评测方法及系统
JP2016045420A (ja) * 2014-08-25 2016-04-04 カシオ計算機株式会社 発音学習支援装置およびプログラム
CN106558306A (zh) * 2015-09-28 2017-04-05 广东新信通信息系统服务有限公司 用于语音识别的方法、装置和设备
GB2544070B (en) * 2015-11-04 2021-12-29 The Chancellor Masters And Scholars Of The Univ Of Cambridge Speech processing system and method
CN105609098A (zh) * 2015-12-18 2016-05-25 江苏易乐网络科技有限公司 一种基于互联网的在线学习系统
CN105578115B (zh) * 2015-12-22 2016-10-26 深圳市鹰硕音频科技有限公司 一种具有语音评估功能的网络教学方法及系统
CN106372653B (zh) * 2016-08-29 2020-10-16 中国传媒大学 一种基于堆栈式自动编码器的广告识别方法
CN106531185B (zh) * 2016-11-01 2019-12-13 云知声(上海)智能科技有限公司 基于语音相似度的语音评测方法及系统
US10431203B2 (en) * 2017-09-05 2019-10-01 International Business Machines Corporation Machine training for native language and fluency identification
US10937444B1 (en) * 2017-11-22 2021-03-02 Educational Testing Service End-to-end neural network based automated speech scoring
CN109461438B (zh) * 2018-12-19 2022-06-14 合肥讯飞数码科技有限公司 一种语音识别方法、装置、设备及存储介质
CN112242151A (zh) * 2019-07-17 2021-01-19 中兴网鲲信息科技(上海)有限公司 语音质量评估装置及方法、介质和mos打分装置
CN110782918B (zh) * 2019-10-12 2024-02-20 腾讯科技(深圳)有限公司 一种基于人工智能的语音韵律评估方法及装置
CN111368559A (zh) * 2020-02-28 2020-07-03 北京字节跳动网络技术有限公司 语音翻译方法、装置、电子设备及存储介质
CN111916108B (zh) * 2020-07-24 2021-04-02 北京声智科技有限公司 一种语音评测方法及装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006208644A (ja) 2005-01-27 2006-08-10 Toppan Printing Co Ltd 語学会話力測定サーバシステム及び語学会話力測定方法
CN105989842A (zh) 2015-01-30 2016-10-05 福建星网视易信息系统有限公司 对比声纹相似度的方法、装置及其在数字娱乐点播系统中的应用
CN104732977A (zh) 2015-03-09 2015-06-24 广东外语外贸大学 一种在线口语发音质量评价方法和系统
CN104882147A (zh) 2015-06-05 2015-09-02 福建星网视易信息系统有限公司 一种演唱评分显示方法、装置及系统
CN106782609A (zh) 2016-12-20 2017-05-31 杨白宇 一种口语比对方法
CN106847260A (zh) 2016-12-20 2017-06-13 山东山大鸥玛软件股份有限公司 一种基于特征融合的英语口语自动评分方法
JP2019174525A (ja) 2018-03-27 2019-10-10 カシオ計算機株式会社 学習支援装置、学習支援方法およびプログラム
US20200294527A1 (en) 2019-03-12 2020-09-17 Cordio Medical Ltd. Diagnostic techniques based on speech models
CN111108552A (zh) 2019-12-24 2020-05-05 广州国音智能科技有限公司 一种声纹同一性鉴定方法和相关装置
CN112289309A (zh) 2020-10-30 2021-01-29 西安工程大学 一种基于深度学习的机器人语音控制方法

Also Published As

Publication number Publication date
EP4276827A1 (en) 2023-11-15
EP4276827B1 (en) 2025-10-22
WO2022169417A1 (zh) 2022-08-11
JP2024507734A (ja) 2024-02-21
CN112951274A (zh) 2021-06-11
EP4276827A4 (en) 2024-06-05
US20240096347A1 (en) 2024-03-21

Similar Documents

Publication Publication Date Title
CN112927674B (zh) 语音风格的迁移方法、装置、可读介质和电子设备
US20240021202A1 (en) Method and apparatus for recognizing voice, electronic device and medium
JP7717822B2 (ja) 音声類似度決定方法及び装置、プログラム製品
JP2021009701A (ja) インターフェイススマートインタラクティブ制御方法、装置、システム及びプログラム
US20240079002A1 (en) Minutes of meeting processing method and apparatus, device, and medium
WO2020098115A1 (zh) 字幕添加方法、装置、电子设备及计算机可读存储介质
US10586528B2 (en) Domain-specific speech recognizers in a digital medium environment
CN104361896B (zh) 语音质量评价设备、方法和系统
CN112509562B (zh) 用于文本后处理的方法、装置、电子设备和介质
CN112242143B (zh) 一种语音交互方法、装置、终端设备及存储介质
WO2022037419A1 (zh) 音频内容识别方法、装置、设备和计算机可读介质
CN112306447A (zh) 一种界面导航方法、装置、终端和存储介质
CN115955585A (zh) 视频生成方法、装置、电子设备及存储介质
US20240013790A1 (en) Method and system of detecting and improving real-time mispronunciation of words
WO2023287360A2 (zh) 多媒体处理方法、装置、电子设备及存储介质
CN111899718B (zh) 用于识别合成语音的方法、装置、设备和介质
CN112309389A (zh) 信息交互方法和装置
CN110379406B (zh) 语音评论转换方法、系统、介质和电子设备
CN111862933A (zh) 用于生成合成语音的方法、装置、设备和介质
WO2021036823A1 (zh) 文本处理方法、装置、设备及介质
CN119418704B (zh) 视频处理方法、装置、设备、存储介质及程序产品
WO2021170094A1 (zh) 用于信息交互的方法和装置
CN112542157A (zh) 语音处理方法、装置、电子设备及计算机可读存储介质
CN116805490A (zh) 语音识别方法、装置、设备及计算机可读存储介质
CN118588080A (zh) 语音识别方法、装置及电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230814

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230810

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250723

R150 Certificate of patent or registration of utility model

Ref document number: 7717822

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150