JP7328265B2 - 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム - Google Patents
音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム Download PDFInfo
- Publication number
- JP7328265B2 JP7328265B2 JP2021002323A JP2021002323A JP7328265B2 JP 7328265 B2 JP7328265 B2 JP 7328265B2 JP 2021002323 A JP2021002323 A JP 2021002323A JP 2021002323 A JP2021002323 A JP 2021002323A JP 7328265 B2 JP7328265 B2 JP 7328265B2
- Authority
- JP
- Japan
- Prior art keywords
- wake word
- confidence
- audio signal
- voice
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/28—Constructional details of speech recognition systems
- G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L2015/088—Word spotting
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/225—Feedback of the input speech
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Telephonic Communication Services (AREA)
- Telephone Function (AREA)
- Selective Calling Equipment (AREA)
- Transmitters (AREA)
- Machine Translation (AREA)
Description
オーディオ信号を収集するステップと、
前記オーディオ信号におけるウェイクワードを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行するステップと、を含む。
オーディオ信号を取得するステップと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップと、を含む。
オーディオ信号を収集することに用いられる収集モジュールと、
前記オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュールと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行することに用いられる実行モジュールと、を含む。
オーディオ信号を取得することに用いられる取得モジュールと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュールと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュールと、を含む。
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサがいずれかの実施例に記載の音声インタラクション制御方法を実行できる。
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサがいずれかの実施例に記載の音声インタラクション制御方法を実行できる。
前記音声インタラクション端末は、オーディオ信号を収集し、前記オーディオ信号におけるウェイクワードを検出し、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信する及び/または提示音を再生し、前記サーバから返された音声コマンド及び/または提示音再生コマンドを受信して実行することに用いられ、
前記サーバは、前記音声インタラクション端末から送信されたオーディオ信号を受信し、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出し、検出されたウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に音声コマンド及び/または提示音再生コマンドを発行することに用いられる。
オーディオ信号を収集することに用いられる収集モジュール801と、
オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュール802と、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行することに用いられる実行モジュール803と、を含む。
オーディオ信号を取得することに用いられる取得モジュール901と、
オーディオ信号の先頭にあるウェイクワード、及びウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュール902と、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュール903と、を含む。
Claims (38)
- 音声インタラクション制御方法であって、
オーディオ信号を収集するステップと、
前記オーディオ信号におけるウェイクワードを検出するステップと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行するステップと、を含み、
前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行するステップは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行するステップと、
前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生するステップと、を含む、
音声インタラクション制御方法。 - 検出されたウェイクワードの結果に基づいて前記オーディオ信号における音声コマンドを実行するステップのときまたはその前に、
前記提示音を再生しないステップをさらに含む、
ことを特徴とする請求項1に記載の方法。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
検出されたウェイクワードの結果に基づいて提示音を再生するステップは、
前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生するステップを含む、
ことを特徴とする請求項1に記載の方法。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記オーディオ信号におけるウェイクワードを検出するステップは、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得るステップと、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得るステップと、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定するステップと、を含む、
ことを特徴とする請求項3に記載の方法。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項1に記載の方法。 - 前記方法は音声インタラクション端末によって実行され、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行するステップは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、サーバが受信されたオーディオ信号の先頭にあるウェイクワード及び前記ウェイクワードに続く音声コマンドを検出するように、前記ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信するステップと、
前記サーバから前記音声コマンドを取得して実行するステップと、を含む、
ことを特徴とする請求項1に記載の方法。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項1、3、4または6に記載の方法。 - 前記ターゲットウェイクワードと通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項1、3、4または6に記載の方法。 - 音声インタラクション制御方法であって、
オーディオ信号を取得するステップと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップと、を含み、
前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップは、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行するように前記音声インタラクション端末を制御するステップと、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記提示音を再生するように前記音声インタラクション端末を制御するステップと、を含む、
音声インタラクション制御方法。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップは、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行する及び/または前記提示音を再生するように前記音声インタラクション端末を制御するステップと、
前記第4の信頼度が前記第4の信頼度閾値要件に満たず、かつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを送信するステップと、を含む、
ことを特徴とする請求項9に記載の方法。 - 前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップは、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、先頭のウェイクワードの検出結果を取得するステップと、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定し、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示すステップと、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定し、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示すステップと、
前記インタラクション信頼度、前記マッチングステータス及び先頭のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得るステップと、を含む、
ことを特徴とする請求項9に記載の方法。 - 前記方法はサーバによって実行され、
オーディオ信号を取得するステップは、
音声インタラクション端末から送信された前記オーディオ信号を受信するステップを含む、
ことを特徴とする請求項9~11のいずれかに記載の方法。 - 音声インタラクション制御装置であって、
オーディオ信号を収集することに用いられる収集モジュールと、
前記オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュールと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行することに用いられる実行モジュールと、を含み、
前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記実行モジュールは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行することに用いられるコマンド実行ユニットと、
前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる再生ユニットと、を含む、
音声インタラクション制御装置。 - 検出されたウェイクワードの結果に基づいて前記オーディオ信号における音声コマンドを実行するときまたはその前に、前記提示音を再生しないことに用いられる非再生モジュールをさらに含む、
ことを特徴とする請求項13に記載の装置。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記実行モジュールは、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
ことを特徴とする請求項13に記載の装置。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記検出モジュールは、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得ることに用いられる初期検出モジュールと、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得ることに用いられる再検出モジュールと、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定することに用いられる決定モジュールと、を含む、
ことを特徴とする請求項15に記載の装置。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項13に記載の装置。 - 前記装置は音声インタラクション端末に配置され、
前記コマンド実行ユニットは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、サーバが受信されたオーディオ信号の先頭にあるウェイクワード及び前記ウェイクワードに続く音声コマンドを検出するように、前記ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信することに用いられる送信サブユニットと、
前記サーバから前記音声コマンドを取得して実行することに用いられる取得サブユニットと、を含む、
ことを特徴とする請求項13に記載の装置。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項13、15、16または18に記載の装置。 - 前記ターゲットウェイクワードと通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項13、15、16または18に記載の装置。 - 音声インタラクション制御装置であって、
オーディオ信号を取得することに用いられる取得モジュールと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュールと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュールと、を含み、
前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記制御モジュールは、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行するように前記音声インタラクション端末を制御することに用いられる第1の実行ユニットと、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記提示音を再生するように前記音声インタラクション端末を制御することに用いられる制御ユニットと、を含む、
音声インタラクション制御装置。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記制御モジュールは、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行する及び/または前記提示音を再生するように前記音声インタラクション端末を制御することに用いられる第2の実行ユニットと、
前記第4の信頼度が前記第4の信頼度閾値要件に満たず、かつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを送信することに用いられる送信ユニットと、を含む、
ことを特徴とする請求項21に記載の装置。 - 前記検出モジュールは、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、首部のウェイクワードの検出結果を取得することに用いられる検出ユニットと、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定することに用いられるインタラクション信頼度決定ユニットであって、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示すインタラクション信頼度決定ユニットと、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定することに用いられるマッチングステータス決定ユニットであって、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示すマッチングステータス決定ユニットと、
前記インタラクション信頼度、前記マッチングステータス及び首部のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得ることに用いられる結果取得ユニットと、を含む、
ことを特徴とする請求項21に記載の装置。 - 前記装置はサーバに配置され、
前記取得モジュールは、音声インタラクション端末から送信された前記オーディオ信号を受信することに用いられる、
ことを特徴とする請求項21~23のいずれかに記載の装置。 - 電子機器であって、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが請求項1~8のいずれかに記載の音声インタラクション制御方法を実行できる、
電子機器。 - 電子機器であって、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが請求項9~12のいずれかに記載の音声インタラクション制御方法を実行できる、
電子機器。 - コンピュータコマンドが記憶された非一時的なコンピュータ読み取り可能な記憶媒体であって、
前記コンピュータコマンドは請求項1~12のいずれかに記載の音声インタラクション制御方法をコンピュータに実行させることに用いられる、
非一時的なコンピュータ読み取り可能な記憶媒体。 - 音声インタラクション制御システムであって、
音声インタラクション端末及びサーバを含み、
前記音声インタラクション端末は、オーディオ信号を収集し、前記オーディオ信号におけるウェイクワードを検出し、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信する及び/または提示音を再生し、前記サーバから返された音声コマンド及び/または提示音再生コマンドを受信して実行することに用いられ、
前記サーバは、前記音声インタラクション端末から送信されたオーディオ信号を受信し、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得しウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行することに用いられ、
前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信するとき、具体的には、前記第1の信頼度が第1の信頼度閾値要件を満たす場合、ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
音声インタラクション制御システム。 - 前記音声インタラクション端末は、前記サーバから返された音声コマンドを実行するときまたはその前に、前記提示音を再生しないことに用いられる、
ことを特徴とする請求項28に記載のシステム。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
ことを特徴とする請求項28に記載のシステム。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記音声インタラクション端末は、前記オーディオ信号におけるウェイクワードを検出するとき、具体的には、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定することに用いられる、
ことを特徴とする請求項30に記載のシステム。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項28に記載のシステム。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項28、30または31に記載のシステム。 - 前記ターゲットウェイクワードと通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項28、30または31に記載のシステム。 - 前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記サーバは、ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行するとき、具体的には、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声インタラクション端末に前記音声コマンドを発行し、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末に提示音再生コマンドを発行することに用いられる、
ことを特徴とする請求項28に記載のシステム。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記サーバは、ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行するとき、具体的には、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行し、
前記第4の信頼度が前記第4の信頼度閾値要件に満たずかつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを発行することに用いられる、
ことを特徴とする請求項35に記載のシステム。 - 前記サーバは、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出するとき、具体的には、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、首部のウェイクワードの検出結果を取得し、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定し、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示し、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定し、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示し、
前記インタラクション信頼度、前記マッチングステータス及び首部のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得ることに用いられる、
ことを特徴とする請求項28に記載のシステム。 - コンピュータ上に実行される場合、前記コンピュータに請求項1~12のいずれかに記載の音声インタラクション制御方法を実行させる、
コンピュータプログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010622594.5 | 2020-06-30 | ||
| CN202010622594.5A CN111768783B (zh) | 2020-06-30 | 2020-06-30 | 语音交互控制方法、装置、电子设备、存储介质和系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022013610A JP2022013610A (ja) | 2022-01-18 |
| JP7328265B2 true JP7328265B2 (ja) | 2023-08-16 |
Family
ID=72723342
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021002323A Active JP7328265B2 (ja) | 2020-06-30 | 2021-01-08 | 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム |
Country Status (5)
| Country | Link |
|---|---|
| US (2) | US11615784B2 (ja) |
| EP (1) | EP3933831B1 (ja) |
| JP (1) | JP7328265B2 (ja) |
| KR (1) | KR102706163B1 (ja) |
| CN (1) | CN111768783B (ja) |
Families Citing this family (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| SE546022C2 (en) * | 2020-11-23 | 2024-04-16 | Assa Abloy Ab | Enabling training of a machine-learning model for trigger-word detection |
| US11756531B1 (en) * | 2020-12-18 | 2023-09-12 | Vivint, Inc. | Techniques for audio detection at a control system |
| US20220293109A1 (en) * | 2021-03-11 | 2022-09-15 | Google Llc | Device arbitration for local execution of automatic speech recognition |
| CN113010216B (zh) * | 2021-03-12 | 2021-10-08 | 深圳市超维实业有限公司 | 一种基于吸顶灯唤醒事件的管理方法 |
| CN113488053A (zh) * | 2021-08-10 | 2021-10-08 | 合肥美菱物联科技有限公司 | 一种茶吧机的语音模块唤醒控制方法 |
| CN113674732B (zh) * | 2021-08-16 | 2022-05-17 | 北京百度网讯科技有限公司 | 语音置信度检测方法、装置、电子设备和存储介质 |
| CN114333822B (zh) * | 2021-12-30 | 2025-08-01 | 深聪半导体(江苏)有限公司 | 一种以置信度调整播报音的语音交互方法、系统、设备及介质 |
| CN116524919A (zh) * | 2022-01-22 | 2023-08-01 | 华为技术有限公司 | 设备唤醒方法、相关装置及通信系统 |
| CN114979781B (zh) * | 2022-04-22 | 2024-08-13 | 海信视像科技股份有限公司 | 显示设备、设备控制方法及可读存储介质 |
| CN114882880B (zh) * | 2022-05-12 | 2026-02-27 | 平安科技(深圳)有限公司 | 基于解码器的语音唤醒方法及其相关设备 |
| CN114999494B (zh) * | 2022-05-20 | 2024-12-20 | 青岛海尔科技有限公司 | 语音交互功能的测试方法和装置、存储介质及电子装置 |
| CN114974308B (zh) * | 2022-06-20 | 2025-04-04 | 宁波奥克斯电气有限公司 | 一种语音模块自动测试方法及系统 |
| JP7589717B2 (ja) * | 2022-07-13 | 2024-11-26 | カシオ計算機株式会社 | 情報処理装置、情報処理方法及びプログラム |
| TWI847393B (zh) * | 2022-11-28 | 2024-07-01 | 犀動智能科技股份有限公司 | 語言資料處理系統及方法與電腦程式產品 |
| CN118298816A (zh) * | 2023-01-04 | 2024-07-05 | 华为技术有限公司 | 一种设备唤醒方法、电子设备及通信系统 |
| CN116978376B (zh) * | 2023-06-29 | 2026-02-10 | 海信视像科技股份有限公司 | 一种显示设备及设备唤醒方法 |
| CN117334198B (zh) * | 2023-09-14 | 2024-04-30 | 中关村科学城城市大脑股份有限公司 | 语音信号处理方法、装置、电子设备和计算机可读介质 |
| CN119922385A (zh) * | 2023-10-20 | 2025-05-02 | 北京有竹居网络技术有限公司 | 多媒体资源展示方法、装置、电子设备以及存储介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019026313A1 (ja) | 2017-08-02 | 2019-02-07 | パナソニックIpマネジメント株式会社 | 情報処理装置、音声認識システム、及び、情報処理方法 |
| US20200013407A1 (en) | 2019-05-21 | 2020-01-09 | Lg Electronics Inc. | Method and apparatus for recognizing a voice |
| JP2020502555A (ja) | 2016-10-19 | 2020-01-23 | ソノズ インコーポレイテッド | アービトレーションに基づく音声認識 |
Family Cites Families (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4736962B2 (ja) | 2006-06-01 | 2011-07-27 | 日産自動車株式会社 | キーワード選択方法、音声認識方法、キーワード選択システム、およびキーワード選択装置 |
| US20140337031A1 (en) * | 2013-05-07 | 2014-11-13 | Qualcomm Incorporated | Method and apparatus for detecting a target keyword |
| US10332508B1 (en) * | 2016-03-31 | 2019-06-25 | Amazon Technologies, Inc. | Confidence checking for speech processing and query answering |
| KR102409303B1 (ko) * | 2016-12-15 | 2022-06-15 | 삼성전자주식회사 | 음성 인식 방법 및 장치 |
| US10276161B2 (en) * | 2016-12-27 | 2019-04-30 | Google Llc | Contextual hotwords |
| US11164570B2 (en) * | 2017-01-17 | 2021-11-02 | Ford Global Technologies, Llc | Voice assistant tracking and activation |
| CN107134279B (zh) * | 2017-06-30 | 2020-06-19 | 百度在线网络技术(北京)有限公司 | 一种语音唤醒方法、装置、终端和存储介质 |
| US10510340B1 (en) * | 2017-12-05 | 2019-12-17 | Amazon Technologies, Inc. | Dynamic wakeword detection |
| CN108538293B (zh) * | 2018-04-27 | 2021-05-28 | 海信视像科技股份有限公司 | 语音唤醒方法、装置及智能设备 |
| CN109215647A (zh) * | 2018-08-30 | 2019-01-15 | 出门问问信息科技有限公司 | 语音唤醒方法、电子设备及非暂态计算机可读存储介质 |
| US11100923B2 (en) * | 2018-09-28 | 2021-08-24 | Sonos, Inc. | Systems and methods for selective wake word detection using neural network models |
| CN109545207A (zh) * | 2018-11-16 | 2019-03-29 | 广东小天才科技有限公司 | 一种语音唤醒方法及装置 |
| US10861446B2 (en) * | 2018-12-10 | 2020-12-08 | Amazon Technologies, Inc. | Generating input alternatives |
| CN109360567B (zh) * | 2018-12-12 | 2021-07-20 | 思必驰科技股份有限公司 | 可定制唤醒的方法和装置 |
| CN109584878A (zh) * | 2019-01-14 | 2019-04-05 | 广东小天才科技有限公司 | 一种语音唤醒方法及系统 |
| CN109754788B (zh) * | 2019-01-31 | 2020-08-28 | 百度在线网络技术(北京)有限公司 | 一种语音控制方法、装置、设备及存储介质 |
| US11361756B2 (en) * | 2019-06-12 | 2022-06-14 | Sonos, Inc. | Conditional wake word eventing based on environment |
| CN110534102B (zh) * | 2019-09-19 | 2020-10-30 | 北京声智科技有限公司 | 一种语音唤醒方法、装置、设备及介质 |
| CN110570861B (zh) * | 2019-09-24 | 2022-02-25 | Oppo广东移动通信有限公司 | 用于语音唤醒的方法、装置、终端设备及可读存储介质 |
| CN110718212A (zh) * | 2019-10-12 | 2020-01-21 | 出门问问信息科技有限公司 | 语音唤醒方法、装置及系统、终端和计算机可读存储介质 |
| CN110718223B (zh) * | 2019-10-28 | 2021-02-12 | 百度在线网络技术(北京)有限公司 | 用于语音交互控制的方法、装置、设备和介质 |
-
2020
- 2020-06-30 CN CN202010622594.5A patent/CN111768783B/zh active Active
- 2020-12-11 US US17/118,869 patent/US11615784B2/en active Active
-
2021
- 2021-01-05 EP EP21150163.0A patent/EP3933831B1/en active Active
- 2021-01-08 JP JP2021002323A patent/JP7328265B2/ja active Active
- 2021-01-26 US US17/158,726 patent/US11823662B2/en active Active
- 2021-06-25 KR KR1020210083352A patent/KR102706163B1/ko active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2020502555A (ja) | 2016-10-19 | 2020-01-23 | ソノズ インコーポレイテッド | アービトレーションに基づく音声認識 |
| WO2019026313A1 (ja) | 2017-08-02 | 2019-02-07 | パナソニックIpマネジメント株式会社 | 情報処理装置、音声認識システム、及び、情報処理方法 |
| US20200013407A1 (en) | 2019-05-21 | 2020-01-09 | Lg Electronics Inc. | Method and apparatus for recognizing a voice |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20210088467A (ko) | 2021-07-14 |
| US11823662B2 (en) | 2023-11-21 |
| CN111768783B (zh) | 2024-04-02 |
| EP3933831A1 (en) | 2022-01-05 |
| KR102706163B1 (ko) | 2024-09-13 |
| US11615784B2 (en) | 2023-03-28 |
| EP3933831B1 (en) | 2024-10-09 |
| US20210407496A1 (en) | 2021-12-30 |
| JP2022013610A (ja) | 2022-01-18 |
| CN111768783A (zh) | 2020-10-13 |
| US20210407494A1 (en) | 2021-12-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7328265B2 (ja) | 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム | |
| CN112927683B (zh) | 修改语音使能设备的一个或多个唤醒词的集合的方法 | |
| US12165636B1 (en) | Natural language processing | |
| KR102413616B1 (ko) | 온-디바이스 음성 인식 모델 트레이닝을 위한 텍스트 세그먼트의 온-디바이스 음성 합성 | |
| US9256269B2 (en) | Speech recognition system for performing analysis to a non-tactile inputs and generating confidence scores and based on the confidence scores transitioning the system from a first power state to a second power state | |
| US11062703B2 (en) | Automatic speech recognition with filler model processing | |
| CN112466302B (zh) | 语音交互的方法、装置、电子设备和存储介质 | |
| US12462805B2 (en) | Natural language generation | |
| CN111862943B (zh) | 语音识别方法和装置、电子设备和存储介质 | |
| WO2020024620A1 (zh) | 语音信息的处理方法以及装置、设备和存储介质 | |
| CN113611316A (zh) | 人机交互方法、装置、设备以及存储介质 | |
| US20140303975A1 (en) | Information processing apparatus, information processing method and computer program | |
| US11626107B1 (en) | Natural language processing | |
| US11763814B2 (en) | Hybrid voice command processing | |
| KR102061206B1 (ko) | 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법 | |
| US20190122658A1 (en) | Information processing device and information processing method | |
| US20250140234A1 (en) | Configuring applications for natural language processing | |
| CN118828083A (zh) | 一种显示设备及语音识别方法 | |
| KR20240121774A (ko) | 인공 지능 기기 | |
| KR102605774B1 (ko) | 스마트 글래스 및 이를 포함하는 음성 인식 시스템 | |
| US12567400B1 (en) | Annotated synthesized speech data | |
| WO2025035928A1 (zh) | 显示设备及用于显示设备的语音处理方法 | |
| KR20220036097A (ko) | 분절에 의한 문맥 소실을 방지하는 신경망 기반 실시간 자동통역 방법 | |
| KR20260013849A (ko) | 번역 서비스를 제공하는 전자 장치 및 이에 의해 수행되는 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210108 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220215 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220516 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220830 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221130 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230704 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230725 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230803 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7328265 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |