JP7717822B2 - 音声類似度決定方法及び装置、プログラム製品 - Google Patents
音声類似度決定方法及び装置、プログラム製品Info
- Publication number
- JP7717822B2 JP7717822B2 JP2023547643A JP2023547643A JP7717822B2 JP 7717822 B2 JP7717822 B2 JP 7717822B2 JP 2023547643 A JP2023547643 A JP 2023547643A JP 2023547643 A JP2023547643 A JP 2023547643A JP 7717822 B2 JP7717822 B2 JP 7717822B2
- Authority
- JP
- Japan
- Prior art keywords
- audio
- evaluation
- demonstration
- pronunciation
- pronunciation features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/06—Foreign languages
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/005—Language recognition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/10—Speech classification or search using distance or distortion measures between unknown speech and reference templates
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Entrepreneurship & Innovation (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Electrically Operated Instructional Devices (AREA)
- Telephonic Communication Services (AREA)
Description
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
データリクエスト命令を受信するステップと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニットと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含む。
データリクエスト命令を受信するための受信ユニットと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
メモリと、
プロセッサと、
コンピュータプログラムと、を含み、
前記コンピュータプログラムが前記メモリに記憶されており、前記プロセッサにより実行されて第1の態様に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様に記載されているデータリクエスト命令の処理方法が実現されるように構成されている。
ステップ501では、データリクエスト命令を受信する。
ステップ502では、データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及びデモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信する。
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニット610であって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニット610と、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニット620であって、前記標準的な発音特徴が、前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニット620と、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニット630と、を含む。
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられる。
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するための関数決定モジュール631と、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するためのアライメントモジュール632であって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるアライメントモジュール632と、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するための差異決定モジュール633と、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための類似度決定モジュール634と、を含む。
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得し、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられることと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングすることと、に用いられる。
開始命令に応答して、サーバにデータリクエスト命令を送信することと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信することと、に用いられる送受信ユニット650、をさらに含む。
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
データリクエスト命令を受信するための受信ユニット810と、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニット820と、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであるステップと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップを含む。
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するステップと、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するステップであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるステップと、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するステップと、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む。
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得するステップであって、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられるステップと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングするステップと、をさらに含む。
開始命令に応答して、サーバにデータリクエスト命令を送信するステップと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信するステップと、をさらに含む。
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
データリクエスト命令を受信するステップと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオである取得ユニットと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含む。
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられる。
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するための関数決定モジュールと、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するためのアライメントモジュールであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるアライメントモジュールと、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するための差異決定モジュールと、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための類似度決定モジュールと、を含む。
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得し、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられることと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングすることと、に用いられるマッピングユニットをさらに含む。
開始命令に応答して、サーバにデータリクエスト命令を送信することと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信することと、に用いられる送受信ユニット、をさらに含む。
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである。
データリクエスト命令を受信するための受信ユニットと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
前記デモンストレーションオーディオが、指定されたコンテンツを指定された言語で読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる。
前記メモリがコンピュータ実行命令を記憶し、
前記少なくとも1つのプロセッサが前記メモリに記憶されたコンピュータ実行命令を実行すると、前記少なくとも1つのプロセッサが、第1の態様及び第1の態様の様々な可能な設計に記載されている音声インタラクションに基づく音声類似度決定方法又は第2の態様及び第2の態様の様々な可能な設計に記載されているデータリクエスト命令の処理方法を実行する。
Claims (15)
- ユーザ端末により実行される、音声インタラクションに基づく音声類似度決定方法であって、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するステップであって、前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであるステップと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられるステップと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含み、
前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップは、
音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するステップを含み、
前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである、
ことを特徴とする音声インタラクションに基づく音声類似度決定方法。 - 前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップは、
前記標準的な発音特徴と前記評価発音特徴に従って、時間伸縮関数を決定するステップと、
前記時間伸縮関数、前記標準的な発音特徴、及び前記評価発音特徴に従って、複数のアライメントポイントの組み合わせを決定するステップであって、各前記アライメントポイントの組み合わせには、前記標準的な発音特徴における1つの標準的な特徴点及び前記評価発音特徴における1つの評価特徴点が含まれるステップと、
各前記アライメントポイントの組み合わせに含まれる標準的な特徴点と前記評価特徴点に従って、各前記アライメントポイントの組み合わせに対応する特徴差異を決定するステップと、
各前記アライメントポイントの組み合わせの特徴差異に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するステップと、を含む、
ことを特徴とする請求項1に記載の方法。 - 前記方法は、
マッピング関数及び前記デモンストレーションオーディオに対応する設定情報を取得するステップであって、前記設定情報が前記評価オーディオと前記デモンストレーションオーディオとの類似度と点数とのマッピング関係を指示するために用いられるステップと、
前記マッピング関数及び前記デモンストレーションオーディオに対応する設定情報に従って、前記評価オーディオと前記デモンストレーションオーディオとの類似度を点数としてマッピングするステップと、をさらに含む、
ことを特徴とする請求項1に記載の方法。 - 前記設定情報は、最大点数、最大点数に対応する類似度、最小点数、及び最小点数に対応する類似度を含む、
ことを特徴とする請求項3に記載の方法。 - 前記最大点数に対応する類似度は、複数の参照類似度の平均値であり、各前記参照類似度は、各前記参照発音特徴と前記標準的な発音特徴との類似度である、
ことを特徴とする請求項4に記載の方法。 - 前記最小点数に対応する類似度は、複数のホワイトノイズ類似度の平均値であり、各前記ホワイトノイズ類似度は、各ホワイトノイズ特徴と前記標準的な発音特徴との類似度であり、各前記ホワイトノイズ特徴は、前記エンコーダを利用して各プリセットホワイトノイズオーディオに対して特徴抽出を行うことで得られたものである、
ことを特徴とする請求項4に記載の方法。 - デモンストレーションオーディオを再生するステップの前に、
開始命令に応答して、サーバにデータリクエスト命令を送信するステップと、
前記エンコーダ、前記デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴を受信するステップと、をさらに含む、
ことを特徴とする請求項1、3~6のいずれか1項に記載の方法。 - 前記音声認識モデルは、音声認識データを用いて初期モデルを訓練して得られたものであり、
発音特徴を抽出するための前記エンコーダは、複数の言語カテゴリのオーディオデータを利用して前記音声認識モデルにおけるエンコーダを訓練して得られたものである、
ことを特徴とする請求項1、3~7のいずれか1項に記載の方法。 - 前記エンコーダは、3層の長短期記憶ネットワークである、
ことを特徴とする請求項1、3~8のいずれか1項に記載の方法。 - サーバにより実行される、データリクエスト命令の処理方法であって、
データリクエスト命令を受信するステップと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するステップと、を含み、
前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられ、
前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである、
ことを特徴とするデータリクエスト命令の処理方法。 - 音声類似度決定装置であって、
デモンストレーションオーディオを再生して、ユーザの評価オーディオを取得するための取得ユニットであって、前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオである、取得ユニットと、
前記デモンストレーションオーディオに対応する標準的な発音特徴を取得して、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するための特徴抽出ユニットであって、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられる特徴抽出ユニットと、
前記標準的な発音特徴と前記評価発音特徴との特徴差異を決定して、前記特徴差異に従って前記評価オーディオと前記デモンストレーションオーディオとの類似度を決定するための分析ユニットと、を含み、
前記特徴抽出ユニットは、音声認識モデルのエンコーダに基づき、前記評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、
前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである、
ことを特徴とする音声類似度決定装置。 - サーバに配置されている、データリクエスト命令の処理装置であって、
データリクエスト命令を受信するための受信ユニットと、
前記データリクエスト命令に従って、音声認識モデルに基づくエンコーダ、デモンストレーションオーディオ、及び前記デモンストレーションオーディオに対応する標準的な発音特徴をユーザ端末に送信するための送信ユニットと、を含み、
前記デモンストレーションオーディオは、指定された言語を使用して、指定されたコンテンツを読み上げるオーディオであり、前記エンコーダが評価オーディオの中に前記標準的な発音特徴に対応する評価発音特徴を抽出するために用いられ、前記標準的な発音特徴が前記指定されたコンテンツの前記指定された言語における特定の発音を反映するために用いられ、
前記デモンストレーションオーディオに対応する標準的な発音特徴は、複数の参照発音特徴を融合させて得られたものであり、各参照発音特徴は、前記エンコーダを利用して各参照オーディオに対して特徴抽出を行うことで得られたものであり、各前記参照オーディオは、前記指定された言語を使用して、前記指定されたコンテンツを読み上げるオーディオであり、前記デモンストレーションオーディオは、前記参照オーディオのうちのいずれかのオーディオである、
ことを特徴とするデータリクエスト命令の処理装置。 - 電子機器であって、
メモリと、
プロセッサと、
コンピュータプログラムと、を含み、
前記コンピュータプログラムが、前記メモリに記憶されており、前記プロセッサにより実行されて請求項1~10のいずれか1項に記載の方法が実現されるように構成されている、ことを特徴とする電子機器。 - コンピュータプログラムが記憶されている、コンピュータ可読記憶媒体であって、
前記コンピュータプログラムがプロセッサにより実行されて請求項1~10のいずれか1項に記載の方法が実現される、ことを特徴とするコンピュータ可読記憶媒体。 - コンピュータに請求項1~10のいずれか1項に記載の方法を実行させる、ことを特徴とするコンピュータプログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110179824.XA CN112951274A (zh) | 2021-02-07 | 2021-02-07 | 语音相似度确定方法及设备、程序产品 |
| CN202110179824.X | 2021-02-07 | ||
| PCT/SG2022/050048 WO2022169417A1 (zh) | 2021-02-07 | 2022-01-31 | 语音相似度确定方法及设备、程序产品 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2024507734A JP2024507734A (ja) | 2024-02-21 |
| JP7717822B2 true JP7717822B2 (ja) | 2025-08-04 |
Family
ID=76244962
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023547643A Active JP7717822B2 (ja) | 2021-02-07 | 2022-01-31 | 音声類似度決定方法及び装置、プログラム製品 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20240096347A1 (ja) |
| EP (1) | EP4276827B1 (ja) |
| JP (1) | JP7717822B2 (ja) |
| CN (1) | CN112951274A (ja) |
| WO (1) | WO2022169417A1 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113823320B (zh) * | 2021-07-21 | 2025-06-24 | 腾讯科技(深圳)有限公司 | 音频识别方法、装置、计算机设备及存储介质 |
| CN113571043B (zh) * | 2021-07-27 | 2024-06-04 | 广州欢城文化传媒有限公司 | 一种方言模拟力测评方法、装置、电子设备及存储介质 |
| CN115440248B (zh) * | 2022-09-02 | 2025-04-18 | 司法鉴定科学研究院 | 语音同一性鉴定装置的样品制备系统及鉴定能力评估方法 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006208644A (ja) | 2005-01-27 | 2006-08-10 | Toppan Printing Co Ltd | 語学会話力測定サーバシステム及び語学会話力測定方法 |
| CN104732977A (zh) | 2015-03-09 | 2015-06-24 | 广东外语外贸大学 | 一种在线口语发音质量评价方法和系统 |
| CN104882147A (zh) | 2015-06-05 | 2015-09-02 | 福建星网视易信息系统有限公司 | 一种演唱评分显示方法、装置及系统 |
| CN105989842A (zh) | 2015-01-30 | 2016-10-05 | 福建星网视易信息系统有限公司 | 对比声纹相似度的方法、装置及其在数字娱乐点播系统中的应用 |
| CN106782609A (zh) | 2016-12-20 | 2017-05-31 | 杨白宇 | 一种口语比对方法 |
| CN106847260A (zh) | 2016-12-20 | 2017-06-13 | 山东山大鸥玛软件股份有限公司 | 一种基于特征融合的英语口语自动评分方法 |
| JP2019174525A (ja) | 2018-03-27 | 2019-10-10 | カシオ計算機株式会社 | 学習支援装置、学習支援方法およびプログラム |
| CN111108552A (zh) | 2019-12-24 | 2020-05-05 | 广州国音智能科技有限公司 | 一种声纹同一性鉴定方法和相关装置 |
| US20200294527A1 (en) | 2019-03-12 | 2020-09-17 | Cordio Medical Ltd. | Diagnostic techniques based on speech models |
| CN112289309A (zh) | 2020-10-30 | 2021-01-29 | 西安工程大学 | 一种基于深度学习的机器人语音控制方法 |
Family Cites Families (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH06110494A (ja) * | 1992-09-08 | 1994-04-22 | Osaka Gas Co Ltd | 発音学習装置 |
| JP3741536B2 (ja) * | 1998-04-15 | 2006-02-01 | 株式会社リコー | 教育機器 |
| US7873522B2 (en) * | 2005-06-24 | 2011-01-18 | Intel Corporation | Measurement of spoken language training, learning and testing |
| CN102214462B (zh) * | 2011-06-08 | 2012-11-14 | 北京爱说吧科技有限公司 | 用于发音评估的方法和系统 |
| CN103559894B (zh) * | 2013-11-08 | 2016-04-20 | 科大讯飞股份有限公司 | 口语评测方法及系统 |
| JP2016045420A (ja) * | 2014-08-25 | 2016-04-04 | カシオ計算機株式会社 | 発音学習支援装置およびプログラム |
| CN106558306A (zh) * | 2015-09-28 | 2017-04-05 | 广东新信通信息系统服务有限公司 | 用于语音识别的方法、装置和设备 |
| GB2544070B (en) * | 2015-11-04 | 2021-12-29 | The Chancellor Masters And Scholars Of The Univ Of Cambridge | Speech processing system and method |
| CN105609098A (zh) * | 2015-12-18 | 2016-05-25 | 江苏易乐网络科技有限公司 | 一种基于互联网的在线学习系统 |
| CN105578115B (zh) * | 2015-12-22 | 2016-10-26 | 深圳市鹰硕音频科技有限公司 | 一种具有语音评估功能的网络教学方法及系统 |
| CN106372653B (zh) * | 2016-08-29 | 2020-10-16 | 中国传媒大学 | 一种基于堆栈式自动编码器的广告识别方法 |
| CN106531185B (zh) * | 2016-11-01 | 2019-12-13 | 云知声(上海)智能科技有限公司 | 基于语音相似度的语音评测方法及系统 |
| US10431203B2 (en) * | 2017-09-05 | 2019-10-01 | International Business Machines Corporation | Machine training for native language and fluency identification |
| US10937444B1 (en) * | 2017-11-22 | 2021-03-02 | Educational Testing Service | End-to-end neural network based automated speech scoring |
| CN109461438B (zh) * | 2018-12-19 | 2022-06-14 | 合肥讯飞数码科技有限公司 | 一种语音识别方法、装置、设备及存储介质 |
| CN112242151A (zh) * | 2019-07-17 | 2021-01-19 | 中兴网鲲信息科技(上海)有限公司 | 语音质量评估装置及方法、介质和mos打分装置 |
| CN110782918B (zh) * | 2019-10-12 | 2024-02-20 | 腾讯科技(深圳)有限公司 | 一种基于人工智能的语音韵律评估方法及装置 |
| CN111368559A (zh) * | 2020-02-28 | 2020-07-03 | 北京字节跳动网络技术有限公司 | 语音翻译方法、装置、电子设备及存储介质 |
| CN111916108B (zh) * | 2020-07-24 | 2021-04-02 | 北京声智科技有限公司 | 一种语音评测方法及装置 |
-
2021
- 2021-02-07 CN CN202110179824.XA patent/CN112951274A/zh active Pending
-
2022
- 2022-01-31 US US18/264,531 patent/US20240096347A1/en active Pending
- 2022-01-31 WO PCT/SG2022/050048 patent/WO2022169417A1/zh not_active Ceased
- 2022-01-31 EP EP22750129.3A patent/EP4276827B1/en active Active
- 2022-01-31 JP JP2023547643A patent/JP7717822B2/ja active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006208644A (ja) | 2005-01-27 | 2006-08-10 | Toppan Printing Co Ltd | 語学会話力測定サーバシステム及び語学会話力測定方法 |
| CN105989842A (zh) | 2015-01-30 | 2016-10-05 | 福建星网视易信息系统有限公司 | 对比声纹相似度的方法、装置及其在数字娱乐点播系统中的应用 |
| CN104732977A (zh) | 2015-03-09 | 2015-06-24 | 广东外语外贸大学 | 一种在线口语发音质量评价方法和系统 |
| CN104882147A (zh) | 2015-06-05 | 2015-09-02 | 福建星网视易信息系统有限公司 | 一种演唱评分显示方法、装置及系统 |
| CN106782609A (zh) | 2016-12-20 | 2017-05-31 | 杨白宇 | 一种口语比对方法 |
| CN106847260A (zh) | 2016-12-20 | 2017-06-13 | 山东山大鸥玛软件股份有限公司 | 一种基于特征融合的英语口语自动评分方法 |
| JP2019174525A (ja) | 2018-03-27 | 2019-10-10 | カシオ計算機株式会社 | 学習支援装置、学習支援方法およびプログラム |
| US20200294527A1 (en) | 2019-03-12 | 2020-09-17 | Cordio Medical Ltd. | Diagnostic techniques based on speech models |
| CN111108552A (zh) | 2019-12-24 | 2020-05-05 | 广州国音智能科技有限公司 | 一种声纹同一性鉴定方法和相关装置 |
| CN112289309A (zh) | 2020-10-30 | 2021-01-29 | 西安工程大学 | 一种基于深度学习的机器人语音控制方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP4276827A1 (en) | 2023-11-15 |
| EP4276827B1 (en) | 2025-10-22 |
| WO2022169417A1 (zh) | 2022-08-11 |
| JP2024507734A (ja) | 2024-02-21 |
| CN112951274A (zh) | 2021-06-11 |
| EP4276827A4 (en) | 2024-06-05 |
| US20240096347A1 (en) | 2024-03-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112927674B (zh) | 语音风格的迁移方法、装置、可读介质和电子设备 | |
| US20240021202A1 (en) | Method and apparatus for recognizing voice, electronic device and medium | |
| JP7717822B2 (ja) | 音声類似度決定方法及び装置、プログラム製品 | |
| JP2021009701A (ja) | インターフェイススマートインタラクティブ制御方法、装置、システム及びプログラム | |
| US20240079002A1 (en) | Minutes of meeting processing method and apparatus, device, and medium | |
| WO2020098115A1 (zh) | 字幕添加方法、装置、电子设备及计算机可读存储介质 | |
| US10586528B2 (en) | Domain-specific speech recognizers in a digital medium environment | |
| CN104361896B (zh) | 语音质量评价设备、方法和系统 | |
| CN112509562B (zh) | 用于文本后处理的方法、装置、电子设备和介质 | |
| CN112242143B (zh) | 一种语音交互方法、装置、终端设备及存储介质 | |
| WO2022037419A1 (zh) | 音频内容识别方法、装置、设备和计算机可读介质 | |
| CN112306447A (zh) | 一种界面导航方法、装置、终端和存储介质 | |
| CN115955585A (zh) | 视频生成方法、装置、电子设备及存储介质 | |
| US20240013790A1 (en) | Method and system of detecting and improving real-time mispronunciation of words | |
| WO2023287360A2 (zh) | 多媒体处理方法、装置、电子设备及存储介质 | |
| CN111899718B (zh) | 用于识别合成语音的方法、装置、设备和介质 | |
| CN112309389A (zh) | 信息交互方法和装置 | |
| CN110379406B (zh) | 语音评论转换方法、系统、介质和电子设备 | |
| CN111862933A (zh) | 用于生成合成语音的方法、装置、设备和介质 | |
| WO2021036823A1 (zh) | 文本处理方法、装置、设备及介质 | |
| CN119418704B (zh) | 视频处理方法、装置、设备、存储介质及程序产品 | |
| WO2021170094A1 (zh) | 用于信息交互的方法和装置 | |
| CN112542157A (zh) | 语音处理方法、装置、电子设备及计算机可读存储介质 | |
| CN116805490A (zh) | 语音识别方法、装置、设备及计算机可读存储介质 | |
| CN118588080A (zh) | 语音识别方法、装置及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230814 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230810 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230810 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240910 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241127 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250515 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250624 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250723 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7717822 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |