Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6420769B2 - 二分岐音声認識 - Google Patents
[go: Go Back, main page]

JP6420769B2 - 二分岐音声認識 - Google Patents

二分岐音声認識 Download PDF

Info

Publication number
JP6420769B2
JP6420769B2 JP2015551737A JP2015551737A JP6420769B2 JP 6420769 B2 JP6420769 B2 JP 6420769B2 JP 2015551737 A JP2015551737 A JP 2015551737A JP 2015551737 A JP2015551737 A JP 2015551737A JP 6420769 B2 JP6420769 B2 JP 6420769B2
Authority
JP
Japan
Prior art keywords
command
dialog box
user
sound input
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015551737A
Other languages
English (en)
Other versions
JP2016505897A5 (ja
JP2016505897A (ja
Inventor
パーキンソン・クリストファー
ジェイコブセン・ジェフリー・ジェイ
ポンボ・スチーブン・エー
ファーガソン・デイビッド・ブルース
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kopin Corp
Original Assignee
Kopin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kopin Corp filed Critical Kopin Corp
Publication of JP2016505897A publication Critical patent/JP2016505897A/ja
Publication of JP2016505897A5 publication Critical patent/JP2016505897A5/ja
Application granted granted Critical
Publication of JP6420769B2 publication Critical patent/JP6420769B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3215Monitoring of peripheral devices
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • User Interface Of Digital Computer (AREA)

Description

関連出願の相互参照
本願は、2013年1月4日に出願された米国仮特許出願第61/749,243号の優先権を主張する。以下は2008年1月8日に出願された米国特許出願第12/008,114号、2008年1月8日に出願された米国特許出願第12/008,104号、および2012年5月10日に出願された米国特許出願第13/468,207号に関連する発明の主題を有する。上記の出願の全内容は、参照により本明細書に組み込まれる。
音声認識(ASR)システムは、デバイスを制御するために用いられる。たいていは、ASRシステムが精度良く動作し、ユーザが高精度でシステムをナビゲートし制御できるようにする。
しかし、高精度では不十分で、100%の精度しか許されないようなケースも多い。あるいは、ノイズにより偶然にもASRによるトリガー(アクションやアプリケーション等の始動のこと、またはその始動用の指令)が全くできなかったり、またはASRに会話を実際のコマンドとして誤解釈させるケースもおこりうる。
本発明は、上記の技術上の問題および欠点に取り組んだものである。上記のケースについて説明するため、出願人は二段階確認手順を設計した。
とりわけ、本発明のASR実施形態は、以下の特徴、すなわち、二段階確認、二段階限定音声認識モード、および/または音声駆動式システムに対する二段階起動を提供する。
好ましい実施形態において、本発明は、コンピュータアプリケーションにおける音声制御方法に関し、該方法においては、マイクロフォンを介して音入力を受け取る、マイクロフォンとディスプレイとを備えたヘッドセットコンピュータで使用され、音入力を、ヘッドセットコンピュータに連結された音声認識エンジンを用いて処理する。この処理の一部として、音声認識エンジンを用いて音入力を解釈し、音入力が、クリティカリティ(criticality)の閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンド、いわゆるクリティカルコマンドであるかどうかを判定する。コマンドがクリティカルコマンドであると判定された場合、第1のダイアログボックスがディスプレイ上に表示され、コマンドに関連するアクションの実行は、ユーザが第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件とされる。他の実施形態において、本段落中の上述の方法は、第1のダイアログボックスが自動的にタイムアウトする能力を有すること、または、クリティカルコマンドが、ヘッドセットコンピュータを低電力スリープモードまたは限定音声認識モードから解放するためのコマンドであることをさらに含む。
別の好ましい実施形態において、本方法はマイクロフォンを介して第1のダイアログボックス内のプロンプトに対応する第1の確認発声を受け取ることと、第1の確認発声の受け取りに応答して、ディスプレイ上に第2のダイアログボックスを表示することとをさらに含み、ヘッドセットコンピュータはアクションの実行に対して、ユーザが第2のダイアログボックス内のプロンプトに対応する第2の確認発声を行うことを条件付ける。他の実施形態において、本段落中の上述の方法は、第2のダイアログボックスが自動的にタイムアウトする能力を有すること、または、クリティカルコマンドが、ヘッドセットコンピュータを低電力スリープモードもしくは限定音声認識モードから解放するためのコマンドであることをさらに含む。さらに別の実施形態において、第1の確認発声と第2の確認発声とは互いに異なる。
コンピュータシステム、ヘッドセットコンピュータ、デバイスおよび装置が上記方法を実行してもよい。上記方法を実施するさらに他の実施形態としては、コンピュータプログラム製品が挙げられる。
好ましい実施形態において、本発明は、ディスプレイと、音入力を受け取るように構成され、マイクロフォンとを有するヘッドセットコンピュータで使用される音声制御装置に関し、音入力を解釈し、その解釈の一部として、音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるか、つまりコマンドがクリティカルコマンドであるか否かを判定するように構成された音声認識エンジンと、音声認識エンジンに通信可能に連結されたプロセッサとを含む。音入力がクリティカルコマンドであるという音声認識エンジンによる判定に応答して、プロセッサは、ディスプレイ上に第1のダイアログボックスを表示し、ヘッドセットコンピュータの前記アクションの実行に対して、ユーザが第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件付けるように構成される。他の実施形態において、本段落中の上述の音声制御装置は、第1のダイアログボックスが自動的にタイムアウトする能力を有すること、または、クリティカルコマンドが、ヘッドセットコンピュータを低電力スリープモードもしくは限定音声認識モードから解放するためのコマンドであることをさらに含む。
別の好ましい実施形態において、本装置は、第1のダイアログボックス内のプロンプトに対応する第1の確認発声をマイクロフォンを介して受け取ることと、第1の確認発声の受け取りに応答してディスプレイ上に第2のダイアログボックスを表示することをさらに含み、ヘッドセットコンピュータは、アクションの実行に対して、ユーザが第2のダイアログボックス内のプロンプトに対応する第2の確認発声を行うことを条件付ける。さらに他の実施形態において、本段落中の上述の装置は、第2のダイアログボックスが自動的にタイムアウトする能力を有すること、または、クリティカルコマンドが、ヘッドセットコンピュータを低電力スリープモードもしくは限定音声認識モードから解放するためのコマンドであることをさらに含む。さらに別の実施形態において、第1の確認発声と第2の確認発声とは互いに異なる。
さらに別の好ましい実施形態において、本発明は、ディスプレイと、音入力を受け取るマイクロフォンと、音入力を解釈し、その解釈の一部として、音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるか、つまりコマンドがクリティカルコマンドであるか否かを判定するように構成された音声認識エンジンと、音声認識エンジンに通信可能に連結されたプロセッサとを含む、ヘッドセットコンピュータに関する。音入力がクリティカルコマンドであるという音声認識エンジンによる判定に応答して、プロセッサは、ディスプレイ上に第1のダイアログボックスを表示し、ヘッドセットコンピュータのアクションの実行に対して、ユーザが第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件付けるように構成される。
上記は、以下の本発明の例示的な実施形態のさらに具体的な説明から明らかになるであろう。添付図面において、異なる図全体にわたり、同じ部分は同じ参照符号で示す。図面は必ずしも原寸に比例しておらず、本発明の実施形態の説明に重点が置かれている。
本発明を具現するコンピュータネットワークの概略図である。 図1の実施形態におけるコンピュータノードのブロック図である。 本発明によるASRにおける二段階確認を実行するヘッドセットコンピュータの概略図である。 二段階限定音声認識を有する音声駆動式システムのユーザインターフェースの概略図である。 本発明による二段階確認を有するユーザインターフェースの概略図である。 音声駆動式システムにおける二段階起動の概略図である。 本発明によるASRにおける二段階確認を実行するヘッドセットコンピュータのブロック図である。
以下、本発明の例示的実施形態について説明する。
図1は、本発明を実現できる種々のコンピュータネットワークまたは同様のデジタル処理環境の一例を示す。図1は、アプリケーションプログラム等の実行に関わる処理デバイス、記憶デバイス、および入出力デバイスを提供できるクラインアントコンピュータ/デバイス50(複数可)およびサーバコンピュータ60(複数可)を示す。これらのデバイスは、例えばリンク107などのリンクを介してネットワーク70に連結される。ネットワーク70は、現在各プロトコル(TCP/IP、Bluetooth(登録商標)等)を使用して相互に通信するリモートアクセスネットワーク、グローバルネットワーク(例えば、インターネット)、世界規模のコンピュータの集合(worldwide collection of computers)、ローカルエリアネットワークもしくはワイドエリアネットワーク、もしくはゲートウェイであるか、またはそれらの一部でありうる。他の電子デバイス/コンピュータネットワークアーキテクチャも適している。ネットワーク70は、次に、リンク111を介して、インターネット210などの1つ以上のさらなるネットワークに接続できる。リンク107および111は、有線および無線などの様々な物理的形態をとることができ、様々な信号およびプロトコルを用いて通信を行うことができる。
実施形態において、クラインアントコンピュータ/デバイス50は、参照により本明細書に組み込まれる、本願出願人による米国特許出願第12/008,114号、第12/008,104号、および第13/468,207号に詳細が示されるように、頭部に装着され、動きコマンドおよびボイスコマンドを用いて、情報ディスプレイ、および遠隔デバイス等を制御する。これらの頭部装着型コンピューティングデバイスは、頭部装着型コンピュータ、ヘッドマウントディスプレイデバイス、およびヘッドセットコンピュータなどの様々な形態をとりうる。これらの頭部装着型コンピューティングデバイスは、本明細書中では「ヘッドセットコンピューティングデバイス」またはHSC100と呼び、HSC100の実施形態については以下でさらに説明する。
HSC100は、多種多様に構成し、使用することができる。いくつかの実施形態において、HSC100は、コンピュータネットワーク70に直接接続できる。他の実施形態において、図1に示すように、HSC100は、リンク150を介してHSC100と通信する遠隔ホストコンピューティングデバイス200を経由して、コンピュータネットワーク70に接続する。動作時において、HSC100は、例えば、遠隔ホストコンピューティングデバイス200から受信した映像信号をストリーミングするための遠隔ディスプレイとして使用することができる。
様々なデバイスが遠隔ホストコンピューティングデバイス200として機能でき、その例としては、ノートパソコン、スマートフォン、タブレットデバイス、または、クラウドベースのネットワークリソースといった、ワイヤレスコンピューティングヘッドセットデバイス100よりも低いもしくは高い演算複雑度を有する他のコンピューティングデバイスを含む。ホスト200を、インターネット210、ケーブルネットワーク、サードパーティデータネットワークなどのさらなるネットワークに、直接またはネットワーク70を介して接続することができる。
ヘッドセットHSC100とホスト200の間の通信を可能にするために、様々なリンク150を用いることができる。実施形態において、リンク150はワイヤレスリンクであり、通信は、Bluetooth(登録商標)、Wi−Fi(登録商標)、WiMAX(登録商標)、または4GLTE(Bluetoothは、ワシントン州カークランド(98033)、5209レイク・ワシントン・ブルバードのBluetooth Sig, Inc.の登録商標である。)などの1つ以上のワイヤレスプロトコルを介する。図1に示す例示的実施形態において、ホスト200は、ワイヤレス接続であってよい接続109を介してネットワーク70に接続され、ネットワーク70は次にインターネット210または他のクラウドベースのネットワークリソースに接続されて、その結果、ホスト200はワイヤレス中継器として作動できる。他の実施形態において、ホスト200は、インターネット210または他のクラウドベースのリソースに直接接続される。さらに、HSC100のいくつかの例示的実施形態は、ホストワイヤレス中継器を用いることなく、インターネットおよびクラウドベースのネットワークリソースに、ワイヤレス接続することができる。
クライアントコンピュータ/デバイス50、HSC100、およびホスト200は、通信ネットワーク70を介して、他のクライアントデバイス/プロセッサ50、サーバコンピュータ60、HSC100、およびホスト200を含む他のコンピューティングデバイスにリンクされ得る。
図2は、図1の例示的コンピュータネットワークにおける、以後、コンピュータ50、60、100、200と呼ぶコンピュータ(例えば、クライアントプロセッサ/デバイス50、100、200またはサーバコンピュータ60)の内部構造の図である。コンピュータ50、60、100、200は、システムバス79を含み、バスは、コンピュータまたは処理システムのコンポーネント間のデータ転送に用いられる一組のハードウェア回線である。システムバス79は、コンピュータシステムの異なる要素間で情報の転送を可能にする、当該要素(例えば、プロセッサ、ディスク記憶装置、メモリ、入出力ポート、ネットワークポート等)を接続する、本質的に共有のコンジットである。図2に示すように、いくつかのコンポーネントがシステムバス79に取り付けられている。
入出力(I/O)デバイスインターフェース82は、様々な入力および出力デバイス(例えば、キーボード、マウス、ディスプレイ、プリンタ、スピーカなど)をコンピュータ50、60、100、200に接続する。中央処理装置84は、コンピュータの命令を実行するためのものである。ネットワークインターフェース86により、コンピュータ50、60、100、200は、ネットワーク(例えば、図1のネットワーク70)に取り付けられた様々な他のデバイスに接続できる。メモリ90は、本発明の実施形態を実施するために用いられる、プロセッサルーチン92などのコンピュータソフトウェア命令や関連データ94(例えば、以下に詳述する二段階音声認識エンジン、ユーザインターフェースおよびサポーティングコード)を記憶するための揮発性記憶装置である。ディスク記憶装置95は、本発明の実施形態を実施するために用いられる、OSプログラム97などのコンピュータソフトウェア命令や関連データ99を保存するための非揮発性記憶装置である。
一実施形態において、プロセッサルーチン92および関連データ94は、本発明のシステムのためのソフトウェア命令の少なくとも一部を提供するコンピュータ読み取り可能媒体(例えば、取り外し不可能な、または取り外し可能な記憶媒体、例えば、DVD−ROM、CD−ROM、ディスケット、テープなど(複数可))を含むコンピュータプログラム製品(符号92で総称する)である。コンピュータプログラム製品92は、当該分野で周知のように任意の適切なソフトウェアインストレーション手順によってインストールできる。
別の実施形態において、ソフトウェア命令の少なくとも一部は、ケーブル接続、通信接続および/またはワイヤレス接続を介してダウンロードしてもよい。他の実施形態において、本発明のプログラムは、伝搬媒体(例えば、電波、赤外波、レーザ光波、音波、またはインターネットなどのグローバルネットワークもしくは他のネットワークを伝わる電波)上の伝搬信号で具現化される伝搬信号版コンピュータプログラム製品107である。そのようなキャリア媒体または信号は、本発明のルーチン/プログラム92のためのソフトウェア命令の少なくとも一部を提供する。
他の実施形態において、伝搬信号は、伝搬媒体上を伝搬されるデジタル信号またはアナログ搬送波である。例えば、伝搬信号は、グローバルネットワーク(例えば、インターネット)、電気通信ネットワーク、または他のネットワークを伝搬するデジタル化された信号であってもよい。一実施形態において、伝搬信号は、ミリ秒、秒、分またはそれより長い時間にわたってネットワーク上をパケットで送られるソフトウェアアプリケーションの命令などの、ある期間にわたって伝搬媒体上を伝送される信号である。
さらに別の実施形態において、コンピュータプログラム製品92のコンピュータ読取可能媒体は、コンピュータプログラム伝搬信号製品のために、上述したように、伝搬媒体を受け取り、伝搬媒体で具現化された伝搬信号を識別することなどによって、コンピュータシステム50が受信および読取できる伝搬媒体である。
一般的に言えば、用語「キャリア媒体」は、すなわち一時的なまたは過渡的なキャリアであり、前述の一時的な信号または過渡的信号、伝搬信号、伝搬媒体、記憶媒体等を包含する。
実施形態において、メモリ90またはディスク記憶装置95に記憶された処理ルーチンプログラム命令または他の演算92が、本発明の原理による二段階確認を備えた音声認識エンジンを実現する。図3〜7は例示である。
図3は、ヘッドセットコンピュータ100の実施形態の詳細の一部を示した斜視図である。HSC100の実施形態は、一般に、フレーム1000と、ストラップ1002と、後部筐体1004と、スピーカ1006と、マイクロフォン1015を内蔵したカンチレバー(あるいは、アームまたはブーム1008と呼ぶ)と、ディスプレイ要素1011を備えたマイクロディスプレイサブアセンブリ1010とを含む。
頭部装着型フレーム1000およびストラップ1002は、一般に、ユーザが自分の頭部にHSC100を装着できるように構成されている。後部筐体1004は、一般的にマイクロプロセッサ、メモリまたは他の記憶装置などの電子部品を他の付随回路とともに収容する薄型のユニットである。スピーカ1006は、ユーザが情報を聞けるようにユーザにオーディオ出力を提供する。マイクロフォン1015は、ユーザがオーディオ入力を行えるようにし、好ましくは、信号対雑音比を最大化するためにユーザの口の近傍に配置され、いくつかの実施形態においては、指向性マイクロフォンを採用してもよい。
マイクロディスプレイサブアセンブリ1010は、高解像度(VGAまたはより上位の)マイクロディスプレイ要素のようなディスプレイ要素1011を介してユーザに視覚情報を示すために用いられる。他のディスプレイ要素を用いることもできる。サブアセンブリ1010は、アーム1008に連結される。図3には、片持ちブームによりユーザの顔面に支持される単一の固定ディスプレイ要素を与える単眼のマイクロディスプレイが表されているが、遠隔制御ディスプレイデバイス100のための他の機械的構成も可能であることを理解されたい。
アーム1008は、一般には、マイクロディスプレイサブアセンブリをユーザの視野内、好ましくはユーザの目の前または好ましくは目よりもわずかに下方または上方の周辺視野内に配置できるように、物理的支持を提供する。アーム1008は、マイクロディスプレイサブアセンブリ1010と筐体ユニット1004内に収容された制御回路との間の電気的または光学的な接続をも提供する。以下にさらに詳細に説明する態様によれば、HSC100によりユーザは、ディスプレイ要素1011における仮想ディスプレイによって輪郭が定められる、より広いエリア内の視野を選択できる。ユーザは通常、位置、範囲(例えば、X−Yまたは3D範囲)、および/または視野の倍率を制御することができる。
ヘッドセットコンピューティングデバイス100の筐体内に通常配置されるのは、マイクロコンピュータ(シングルまたはマルチコアプロセッサ)、有線および/または無線通信インターフェース(複数可)、メモリまたは記憶装置、様々なセンサおよび周辺マウントまたは「ホットシュー」のようなマウントを含む様々な電子回路等である。これらについては、図3中では個々に詳細は示していない。
HSC100は、図3に関連して上述したものに追加して、またはそれらに代えて、多種多様なデバイスおよび機能を含み得る。これらには、以下を含む多種多様な入力用ならびに/または出力用オーディオデバイスが挙げられる。すなわちヘッドセットに埋め込まれた、ならびに/または一体化された、ならびに/または1つ以上の周辺機器ポートを介してデバイスに取り付けられた、1つ以上のマイクロフォン、入出力スピーカ、地理測位センサ(GPS)、3軸〜9軸自由度方位センサ、大気センサ、健康状態センサ、デジタルコンパス、圧力センサ、環境センサ、エネルギーセンサ、加速度センサ、位置センサ、姿勢センサ、運動センサ、速度センサおよび/もしくは光センサ、カメラ(可視光、赤外線等)、多重無線通信、補助照明、距離計等、ならびに/もしくはセンサのアレイ(図3では詳細は不図示)を含む。
HSC100の例示的実施形態は、ボイスコマンド、頭部の動き、およびハンドジェスチャ、またはこれらの任意の組み合わせをセンシングすることを介して、ユーザからの入力を受け取り可能である。ジャイロスコープ、加速度計、および他のマイクロ電子機械的システムセンサをHSC100に一体化し、ユーザの頭部の動きを追跡するのに用いてユーザ入力コマンドを提供することもできる。カメラまたは他の運動追跡センサは、ユーザ入力コマンドのためのユーザのハンドジェスチャをモニタするのに用いることができる。このようなユーザインターフェースは、他のモバイルデバイスの手に依存する方式よりも優れている。
例示的なHSCデバイス100の動作時において、デバイスは、(a)マイクロフォン1015を介したユーザからの声入力、(b)位置センサおよび方位センサを介した、またはカメラまたは光学センサを介した手の動きまたは体のジェスチャによる入力、および(c)3軸〜9軸自由度方位検知などの頭部追跡回路を介した頭部の動きによる入力など、ユーザから多種多様な入力(複数可)を受け取る。好ましい実施形態において、入力のうちの少なくとも1つは音声入力(ボイス入力)である。
これらの入力は、HSCデバイス100内のソフトウェアによってキーボードコマンドおよび/またはマウスコマンドに変換され、そのコマンドは、次いでBluetoothまたは他のワイヤレスインターフェース150を通じてホスト200に送信される。ホスト200は、ホスト200自身のオペレーティングシステム/アプリケーションソフトウェアに従ってこれらの変換されたコマンドを解釈して、様々な機能を行う。コマンドの中には、仮想ディスプレイ内で視野を選択し、選択された画面データをHSCデバイス100に返すものがある。このため、非常に大きなフォーマットの仮想ディスプレイ領域が、ホスト200上で実行されているアプリケーションソフトウェアまたはオペレーティングシステムに関連付けられうることを理解されたい。しかし、視野内のこの大きな仮想ディスプレイ領域の一部のみが、HSCデバイス100のマイクロディスプレイ1011に返され、マイクロディスプレイ1011によって実際に表示される。
一実施形態において、HSC100は、その全体が参照により本明細書に組み込まれる、同時係属米国特許公報第2011/0187640号に記載のHSCの形態をとることができる。別の実施形態において、本発明は、ユーザにハンズフリーで情報および制御を提供するために、(スマートフォンまたはタブレット等の)外部の「スマート」デバイス200と協働する符号1010や1011などで示されるヘッドマウントディスプレイ(HMD)を用いる概念に関連する。本発明は、少量のデータの送信しか必要とせず、リアルタイムに実行され、より信頼性の高いデータ転送方法を提供する。
したがって、この意味において、ワイヤレス接続150で送信されるデータの量は少なく、単に、画面をどのようにレイアウトするか、どのテキストを表示するかについての情報、および、例えば図面の矢印または背景の色、含まれる画像等の他の様式上の情報についての命令である。ホスト200によって要求される場合には、ビデオストリームとして追加のデータを同じリンク150または別の接続を介してストリーミングし、ディスプレイ要素1011などの画面上に表示することができる。
実施形態において、マイクロフォン1015は、HSC100に操作可能に連結されるか、好ましくはHSC100に一体化され、音声コマンドを捕捉するのに用いることができ、それらの音声コマンドは、自動音声認識技術を用いてデジタル化されて処理される。
いくつかのコマンドは、実行される場合に、ファイルを消去するコマンドのように、不可逆の結果をもたらすことがあることを理解されたい。したがって、確実にこのようなコマンドが誤って実行されないようにすることが望ましい。
エラーの要因としては、例えば、偽のオーディオ入力を含み得る。その例として、システム100によりトリガーコマンドとして正しく認識された、または誤って認識されたバックグラウンドノイズがある。ユーザは、ヘッドセット100へのボイスコマンド入力を切るか無効にすることなく、別の人と話し続けることなどによって、意図せずマイクロフォン1015に対してオーディオ入力/音声入力/音入力を与えてしまうこともありうる。エラーの別の要因としては、デジタル信号を誤って処理して認識された音声コンテンツとしてしまうことである。音声認識エンジンは常に高い信頼性により音声をテキストに変換するわけではない。このことは、(プログラマによって想定される音声パターンおよびボイスパターンに比べて)アクセントのあるユーザおよび自身のボイスで音声エンジンを馴らしきっていないユーザにとっては、特に問題になりうる。
これらのエラーの要因は、HSC100を使用可能な環境や条件において特に深刻でありうる。例えば自動車事故現場、火事、救急処置室の場面、または実戦中を含む軍事の場面などの緊急の状況において、デバイスは、相当なバックグラウンドノイズのある環境において装着されることになるであろう。さらに、心的ストレスが、構文および音声パターンを変え、これにより音声認識がより難しくなることもある。さらに、HSC100は、複数の他の個人とそのデバイスを共用しうる最初の応答者によって装着されることができ、このことは、他のユーザが、音声認識エンジンを馴らす機会を減少させる。多くの場面、例えば、長きに亘る緊急事態の最中、武装戦闘中、軍事作戦中、手術中、および、ボイスの継続および/または映像通信を行えることが望ましいか、または不可欠な任意の状況等において、HSC100は一旦装着してから長時間着用することが望ましい。その結果、ユーザは、自身の周りにいる他者と直接話す際にHSC100を外さないかもしれず、また、ユーザのボイスが意図的なコマンド入力として解釈されないように、デバイスのスイッチを切ること、無効にすること、またはセーフモードにすることを怠るかもしれない。
音声エンジンの誤り率は、使用されるマイクロフォンの質、ユーザの発声の仕方如何、バックグラウンドノイズの有無、および音声エンジンが用いるアルゴリズムおよびヒューリスティックにも依存しうる。場合によっては、音声エンジンは、テキストについての結論が推論的(speculative)な場合であっても出力を提供するようにプログラムしてもよい。多くの実例において人為的な推論(speculation)が望ましいかもしれないが、これは、コマンドまたは他のアクティビティが意図せず実行される割合を高める可能性もある。
本発明の態様は、ヘッドセットコンピュータ100からの、ボイス/音/オーディオ入力やユーザからのそうした入力の結果としての、コマンドの意図せぬ実行の比率、または意図外のアクティビティの実行命令(commission)を低減することに関する。音声駆動式HSC100の軽快な動作と、音入力を介した意図せぬ動作の回避との間にはトレードオフが存在しうる。一方の極端な例では、すべてのコマンドがある種の確認手順を必要とする可能性がある。他方の極端な例では、いずれのコマンドも確認を必要としない。いくつかの場合において、より良い手法は、システムがASRエンジンを用いてオーディオ入力を処理し、(音ベースの)オーディオ入力がボイスコマンドとして認識されるかを判定し、そのように認識される場合には、当該ボイスコマンドに関連するアクションのクリティカリティを評価することである。規則、表、またはデータベースルックアップ、または他のデータ構造94およびプログラム構成をメモリ90(図2)、メモリ9120(図7)に記憶し、アクションのクリティカリティの評価を行うために用いてもよい。実行しようとしているコマンドに関連するアクションの評価済のクリティカリティによって、コマンドを実行するのに先だってHSC100が必要とする確認の範囲が決まる。
例えば、クリティカルアクションは、容易には元に戻せないか、あるいは誤って実行された場合に特に望ましくない結果をもたらすアクションでありうる。例えば、ファイル永久消去、機密または取り扱いに慎重を要する重要データや重要ファイルの転送、および周辺機器の起動などの結果をもたらすアクションが含まれる。HSC100が、潜在的に殺傷能力を有するシステムを含む、破壊活動を行えるシステムまたはデバイスを起動するために用いられるような軍事の場面において、ボイスによる偶然の作動に対する安全装置の必要性は特に重要である。そのような場面においては同時に、潜在的に悲惨な結果を避けることが絶対的に必要でない限り、(例えば、アクション動作の条件付けおよび/または開始/実行/完了の遅延化などにより)このシステムの使用を妨げないことが望ましい。
したがって、本発明の態様によれば、システムが、推定的に認識されるコマンドに関連したアクションのクリティカリティを評価することができ、クリティカルである場合は、確認入力を請求することが望ましい。本発明の態様によって求められる確認は、様々な方法で実現できる。
ここで図4から6に戻って、本発明によるASRアプリケーションにおける二段階確認を行うユーザインターフェース画面の外観の3つの例示的実施形態を示す。まず実施例1について検討するが、実施例1は図4の図解に対応する。続く実施例2は、図5の図示に対応する。実施例3を最後に示し、図3は図6の図示に対応する。
実施例1
一態様において、本発明は、音声駆動式システムのための一段階または二段階確認処理に関する。例えば、HSC100は、「ファイルを消去」するためのコマンドとしてボイス入力または音波入力を解釈し、認識しうる。このコマンドに関連するアクションはファイル消去であり、この実行中のアクションは、システムによってクリティカルであると評価されてもよい。これに応答して、図4に示した例のように、ユーザには、ダイアログボックス410内に、「ファイルを消去」または「取消」などの選択肢をオファーする画面上の選択が示される。この時点において、ASRは、引き続き「ファイルを消去」または「取消」という2つのコマンドのうちのいずれかを聞く(音声入力を受ける)。代替として、このアクションは、上述のように「クリティカル」とみなされる実行中のアクションに対してのみ求められるのではなく、標準操作手順とすることもできる。
このような一段階確認を用いる場合であっても、ASRが、バックグラウンドノイズ、またはコマンドとして意図されていないユーザ音声を、第1の段階のダイアログボックスまたは他の確認モードによって要求された確認として誤って処理し、意図せぬアクションが行われるというリスクがある。実務上は、このことは、そもそも確認画面を含める必要をもたらしうる理由だけでなく、多くのバックグラウンドノイズがある場合、またはシステムがユーザの言ったことを誤って解釈した場合に起こりうる。したがって、システムを、任意の主だったアクションに対して危険のないものとするためには、実行中のアクションが意図的なものであり、ユーザによって望まれていることを第2のダイアログボックス420を用いて確認させることもできる。
この第2のダイアログボックス420は、例えば10秒間などの、自動タイムアウトまたは選択可能な継続時間を付加的に含むことができる。この時間中に認識可能な回答が受け取られない場合には、プログラムによって「取消」ボタンが押されたとされ、ダイアログボックスが消され、ユーザアクションが取消されることになる。第2の確認ダイアログボックスの様相は、実行中アクションの評価クリティカリティによって決まるものであってよい。
このことは、ノイズによる不慮のトリガーを阻止するのに有効である。例えば、ASRは、第1の例において、ノイズを「ファイルを消去」するというコマンドとして誤って解釈するかもしれない。このことは起こりそうもないが、まさに起こるのである。この点において、システム100は、すぐに反応して、第1のダイアログボックス410を展開して、続いて第2のダイアログボックス420を別に展開し、二段階の確認のための質問を行う。ここでASRが10秒以内にノイズによってトリガーされる可能性はきわめて低い。10秒が経つと、「取消」のアクションが確定し、ユーザを元の操作画面に戻す。
一方でアクションがユーザによって話された意図的なものである場合には、第2の確認ボックス(画面ビュー)420へと続く初期コマンド(ダイアログボックス410)をナビゲートすることは容易である。
実施例2
別の態様において、本発明は、音声駆動システムのための一段階または二段階限定ASRモードに関する。
HSC100は、すべての話しコマンドを認識しないか、反応しない限定ASRモードに位置づけることができる。これにより、ASRを、人の話した語句に反応しないようにする限定動作モードにすることができる。このことは、変更したくないデータを画面一杯に有した状態で、画面を見ながら会話に従事することになる場合に特に有用である。通常の状況においては、人の積極的な会話がASRをトリガーして、画面上の情報を変えてしまうこともおこりうる。
しかし、この限定ASRモードは、意図せぬ作動を防ぐことができる一方で、ボイスコマンドによってこの制限状態から解放されるようにトリガーされた場合など、システムがこの状態から意図せず解放される恐れがある。その場合、HSC100へのコマンドとして意図されない周囲ノイズまたはユーザの音声が、ASRによって解放コマンドとして解釈され、限定モードから意図せぬ解放をトリガーさせてしまう可能性がある。
こうしたノイズ、またはASRが会話を誤解釈することによる偶発的な起動を避けたいため、デバイスを限定ASRモードにするためのコマンドを出して、適切な二重コマンドシーケンスが発せられるまで、デバイスにすべての話されたフレーズを無視できるようにさせることもできる。例えば、ユーザがデバイスを介して電話通話を行う場合、デバイスはおそらくは限定ASRモードに切り換えて、ユーザに「電話を切る」ための単一の言語コマンドをオファーすることになる。
ユーザの会話中に偶然にトリガーされたのではなく、ユーザが本当に電話を切りたいかどうかを確認するために、上述のような二段階確認を用いることができる。
例えば、限定ASRモードにおいて、利用できる現在の音声コマンドのすべてを「コンピュータの起動」などのただ1つのフレーズで置き換えることもできる。このことは図5を参照するとわかることであり、図5は本発明の態様による例示的なダイアログボックス510とそれに続くダイアログボックス520を示す。上述したような1つのフレーズまたは2つのフレーズを用いた同一の手法は、デバイスを限定ASRモードから復帰させることに関連して使用できる。
トリガーワードを認識すると、ダイアログボックス510は、ユーザがシステムを限定モードから解放することを望んでいるかを確認することをユーザに対して促す。随意で、ユーザが促されたフレーズ(ここでは「起動」)を口にすると、入力が受け取られて認識されたことを確認するために、起動ボタン512が強調表示または太字などのアクティブな様相に変わりうる。前述のように、第2のダイアログボックス520は、ユーザが、「確認」(ボタン522に関連付けられている)などの第2の単語を話すことにより、限定モードからの解除を望んでいることを確認できるようにするために現れる。あるいは、ユーザは「取消」(ボタン524)を声にして、解放処理を無効にすることもできる。タイムアウトの機能も含むことができる。
実施例3
本発明のさらに別の態様において、2つのフレーズを使用する同一の手法を用いてデバイスを低電力スリープモードから復帰させてもよい。このスリープモードにおいて、使用されていない周辺機器の電源を切ったり、メインCPUの動作速度を下げたり、画面を暗くするか消したり、すべての利用可能な現在の音声コマンドを「コンピュータ起動」などの1つのフレーズによって置き換えることもできる。しかしながら、この実施例では、デバイスの機能全てをスリープモードにはせず、ASRだけは実行させたままにしておき、起動フレーズを入力できるようにしておく。
図6に示すように、このモードにおいて、ダイアログボックス610によって促される単一の起動コマンドだけを聞くようにしている状態にあり、ダイアログボックス610は、スリープモード運転の間、画面の一部に永続的に表示することもできるし、またはマイクロフォンからのオーディオ入力に応答して現れるようにもできる。ダイアログボックス610内に与えられる単語、ここでは「起動」(ボタン612)が話されると、デバイスを実際に起動する(スリープモードまたは低電力モードから脱出するようにトリガーされる)前に確認のための第2段階のダイアログが用いられる。第2のダイアログボックス(画面ビュー)620は、確認命令およびユーザが選択できる選択肢(例えば「確認」ボタン622および「取消」ボタン624)を含む。ASRがノイズまたはランダムな会話に基づいて第1のフレーズをトリガーした場合、とりわけ10秒後にタイムアウトしてデバイスをその低電力スリープモードに戻すようにプログラムされている(ボタン624により自動的に「取消」す)場合には、第2段階の確認はおそらくはトリガーされない。
オーディオ入力がコマンド入力として誤って認識され、そのように処理されてしまうという可能性を減らすために、追加の方法および処理を用いてもよいことを理解されたい。これらの方法は、騒がしい環境や長時間の使用を含む多くの環境におけるHSC100の運転を容易にする。ユーザがグループでHSC100のヘッドセットを使用しているある環境において、例えば、複数のヘッドセットは、オーディオ入力に関する情報を共有し、この共有した情報をバックグラウンドノイズである音の識別に用いることができるように、互いに通信しあったり、中央コンピュータと通信してもよい。例えば、複数のHSCマイクロフォンにおいて同時に類似の音が受け取られた場合には、その音は、ユーザのボイスではなく、バックグラウンドノイズである可能性が高い。
加えて、音声オーディオ信号品質を高めるために、バックグラウンドノイズを差し引く形態を用いることができる。単一または複数のHSC100は、バックグラウンドノイズを検出するための複数のマイクロフォンを備えることができる。このノイズは、ボイスコマンドを受け取るように配置されたHSC上のマイクロフォンで検出された信号から差し引くことができる。例えば、2つのマイクロフォンを同一のHSC100上に取り付け、一方はユーザの口に配置するかおよび/または向けられ、他方は概してユーザの口から離れて配置されるかおよび/または離れる方向へ向けられ、この第2のマイクロフォンによって実質的なバックグラウンドノイズを検出することができる。このバックグラウンドノイズは、第1のマイクロフォンで検出された信号に含まれる成分である可能性もあるため、第2のマイクロフォンからの信号を、第1のマイクロフォンからの信号から差し引いて、オーディオ信号中のボイス成分の品質を高めることができる。
図7は、ボイスコマンド下で動作するように構成された、非限定のワイヤレスハンズフリー・ビデオコンピューティングヘッドセットHSC100の一例を示し、モジュール概略を示す。本実施形態において、ヘッドセットは、マイクロディスプレイ9010と、スピーカ9006と、マイクロフォン9020とを含む。マクロフォロン9020は、アーム9013の端部にあるように示されている。この代替として、マイクロフォン9020は、マイクロディスプレイ9010に接続されたアームに搭載することができる。
HSC100の動作時において、ユーザには、例えば、上述のようなホストコンピュータ200のアプリケーションによる出力として、マイクロディスプレイ9010上に画像を提示することができる。ユーザは、スピーカ9006を介してオーディオ出力を受け取り、マイクロフォン9020を介してボイス入力9090を提供することができる。ボイス入力について、ユーザがマイクロフォン9020に向かって話すと、マイクロフォンは、アナログオーディオ信号(音信号)をモジュール9021a内でデジタル信号に変換する。デジタル化されたオーディオ信号は、デジタル化されたオーディオ信号を単語または他の符号(symbols)に翻訳するために、音声認識エンジン9035aによって処理される。翻訳された信号は、次にアプリケーション92を実行しているプロセッサ84などのプロセッサへの入力として用いることができ、該プロセッサは、ボイス入力がコマンドに対応するかどうかを判定し、そうである場合には、適切なアクションをトリガーさせる。とりわけプロセッサ84は、コマンドに関連するアクションを判定し、関連したアクションのクリティカリティを評価し、閾値を超えるクリティカリティと評価された場合には、段階分けされた(1つまたは複数の)確認が無事に終了するまで、アクションの実行に対して停止(stay)かまたは条件付けをする。クリティカル閾値レベルは、例えば、メモリ9120内に記憶されている予め設定された(または予め定義された)パラメータ(または定数)であってよい。
音声駆動式アプリケーションにおける二段階確認の場合、コントローラ9100は、各HSC100もしくはHMDにローカルに配置されるか、またはホスト200に離れて配置することのできる二段階確認モジュール9036にアクセスする。二段階確認ソフトウェアモジュール9036は、ユーザに向けて、図4〜6に詳細を示して後ほど例を述べるような、適切なメッセージボックスなどの画像を表示するための命令を有する。グラフィックコンバータモジュール9040は、バス9103を介して二段階確認モジュール9036から受け取った画像表示の命令を変換し、命令を該画像のグラフィックに変換し単眼ディスプレイ9010上に表示する。
同時に、テキスト音声変換モジュール9035bは、二段階確認ソフトウェアモジュール9036から受け取った命令を変換して、表示された画像に対応する内容を示す音声を創り出す。すなわち、命令は、このテキスト音声変換モジュール9035bがデジタルアナログ変換器9021bに提供する上記の画像に対応した内容を示すデジタル音に変換され、次いでデジタル音は、スピーカ9006に供給されてユーザにオーディオ(音声)を提供する。
二段階確認ソフトウェアモジュール9036はメモリ9120にローカルに記憶するか、ホスト200にリモートで記憶することができる。ユーザは、画像を見てコマンドの選択を話すまたは声に出すことができ、ユーザの音声9090はマイクロフォン9020において受け取られる。受け取られた音声は、次にアナログデジタル変換器9021aにおいて、アナログ信号からデジタル信号に変換される。一旦、音声がアナログ信号からデジタル信号に変換されると、音声認識モジュール9035aは、音声を処理して音声認識を行い、認識済み音声とする。認識済み音声は、命令に従って二段階確認ソフトウェアモジュール9036において既知の音声と比較される。
HSC100もしくはHMDのユーザは、ローカルに、またはリモートホスト200から、二段階確認ソフトウェアモジュール9036を用いることができ、これにより、ユーザには、マイクロディスプレイ9010上にユーザ確認を要求するメッセージボックス、テキストボックスまたはダイアログボックスの画像が提示され(例えば、図4〜図6の420、520、620)、画像の内容と同じオーディオがヘッドセットコンピュータ100のスピーカ9006を通して再生される。ヘッドセットコンピュータ100はマイクロフォン9020も備えているので、ユーザは、確認の単語またはフレーズを声に出すことができる(コマンド選択)。または、ヘッドセットコンピュータが図4〜6の例において上述したように確認動作に対して自動的にタイムアウトするようにしてもよい。タイムアウト設定は、例えばメモリ9120内に記憶してもよい。
本発明をその例示的な実施形態を参照して詳細に示して説明してきたが、添付の特許請求の範囲に包含される本発明の範囲を逸脱することなく、様々な形の変更および詳細化がなされ得ることが当業者によって理解されるであろう。
なお、本発明は、実施の態様として以下の内容を含む。
[態様1]
マイクロフォンとディスプレイとを有し前記マイクロフォンを介して音入力を受け取るヘッドセットコンピュータで使用されるコンピュータアプリケーションにおける音声制御方法であって、
前記ヘッドセットコンピュータに連結された音声認識エンジンを用いて前記音入力を処理する工程を含み、
前記処理する工程は、前記音声認識エンジンが、前記音入力はクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであると解釈することを含み、
さらに、前記処理された音入力に応答して、
(i)前記ディスプレイ上に第1のダイアログボックスを表示する工程と、
(ii)ヘッドセットコンピュータの前記アクションの実行に対して、ユーザが前記第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件付ける工程と、を含む音声制御方法。
[態様2]
態様1に記載の方法において、前記第1のダイアログボックスを表示することは自動的にタイムアウト可能である、方法。
[態様3]
態様1に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、方法。
[態様4]
態様1に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、方法。
[態様5]
態様1に記載の方法において、
前記マイクロフォンを介して前記第1のダイアログボックス内の前記プロンプトに対応する前記第1の確認発声を受け取る工程と、
前記第1の確認発声の受け取りに応答して、前記ディスプレイ上に第2のダイアログボックスを表示する工程とをさらに含み、
前記ヘッドセットコンピュータは前記アクションの実行に対して、前記ユーザが前記第2のダイアログボックス内のプロンプトに対応する第2の確認発声を行うことを条件付ける、方法。
[態様6]
態様5に記載の方法において、前記第2のダイアログボックスを表示することは自動的にタイムアウト可能である、方法。
[態様7]
態様5に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、方法。
[態様8]
態様5に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、方法。
[態様9]
態様5に記載の方法において、前記第1の確認発声と前記第2の確認発声とは互いに異なる、方法。
[態様10]
ディスプレイと、音入力を受け取るように構成されるマイクロフォンとを有するヘッドセットコンピュータで使用される音声制御装置であって、
前記音入力を解釈し、その解釈の一部として、前記音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるかどうかを判定するように構成された音声認識エンジンと、
前記音声認識エンジンに通信可能に連結されたプロセッサとを含み、
前記音入力がクリティカルコマンドであるという前記音声認識エンジンによる判定に応答して、前記プロセッサは、
(i)前記ディスプレイ上に第1のダイアログボックスを表示し、
(ii)ヘッドセットコンピュータの前記アクションの実行に対して、ユーザが前記第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件付けるように構成された、音声制御装置。
[態様11]
態様10に記載の装置において、前記第1のダイアログボックスは、自動的にタイムアウト可能である、装置。
[態様12]
態様10に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、装置。
[態様13]
態様10に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、装置。
[態様14]
態様10に記載の装置において、前記プロセッサは、さらに、
前記第1のダイアログボックス内の前記プロンプトに対応する前記第1の確認発声を前記マイクロフォンを介して受け取り、
前記第1の確認発声の受け取りに応答して前記ディスプレイ上に第2のダイアログボックスを表示するように構成され、前記ヘッドセットコンピュータは前記アクションの実行に対して、前記ユーザが前記第2のダイアログボックス内のプロンプトに対応する第2の確認発声を行うことを条件付ける、装置。
[態様15]
態様14に記載の装置において、前記第2のダイアログボックスは、自動的にタイムアウト可能である、装置。
[態様16]
態様14に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、装置。
[態様17]
態様14に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、装置。
[態様18]
態様14に記載の装置において、前記第1の確認発声と前記第2の確認発声は互いに異なる、装置。
[態様19]
ディスプレイと、
音入力を受け取るマイクロフォンと、
前記音入力を解釈し、その解釈の一部として、前記音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるかどうかを判定するように構成された音声認識エンジンと、
前記音声認識エンジンに通信可能に連結されたプロセッサとを含み、
前記音入力がクリティカルコマンドであるという前記音声認識エンジンによる判定に応答して、前記プロセッサは、
(i)前記ディスプレイ上に第1のダイアログボックスを表示し、
(ii)ヘッドセットコンピュータの前記アクションの実行に対して、ユーザが前記第1のダイアログボックス内のプロンプトに対応する第1の確認発声を行うことを条件付けるように構成された、ヘッドセットコンピュータ。
[態様20]
態様19に記載のヘッドセットコンピュータにおいて、
前記プロセッサは、さらに、
前記第1のダイアログボックス内の前記プロンプトに対応する前記第1の確認発声をマイクロフォンを介して受け取り、
前記第1の確認発声の受け取りに応答して前記ディスプレイ上に第2のダイアログボックスを表示するように構成され、
前記ヘッドセットコンピュータは前記アクションの実行に対して、前記ユーザが前記第2のダイアログボックス内のプロンプトに対応する第2の確認発声を行うことを条件付ける、ヘッドセットコンピュータ。

Claims (11)

  1. マイクロフォンとディスプレイとを有し前記マイクロフォンを介して音入力を受け取るヘッドセットコンピュータで使用されるコンピュータアプリケーションにおける音声制御方法であって、
    前記ヘッドセットコンピュータに連結された音声認識エンジンを用いて前記音入力を処理する工程を含み、
    前記処理する工程は、前記音声認識エンジンが、前記音入力はクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるクリティカルコマンドであると解釈することを含み、
    さらに、前記処理された音入力が前記クリティカルコマンドであるという前記音声認識エンジンによる判定に応答して、
    (i)前記ディスプレイ上に、ユーザに対して画面上の選択を提示する第1のダイアログボックスを表示する工程と、
    (ii)前記マイクロフォンを介して前記第1のダイアログボックス内の、ユーザが選んだ選択に対応する第1の確認発声を受け取る工程と、
    (iii)前記第1の確認発声の受け取りに応答して、前記ディスプレイ上に第2のダイアログボックスを表示する工程と、
    iv)ヘッドセットコンピュータの前記アクションの実行に対して、前記ユーザが前記第のダイアログボックス内の選択に対応する第の確認発声を行うことを条件付ける工程と、を含み、
    前記第1の確認発声と前記第2の確認発声とは互いに異なる、音声制御方法。
  2. 請求項1に記載の方法において、前記第1のダイアログボックスを表示することは自動的にタイムアウト可能である、方法。
  3. 請求項1に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、方法。
  4. 請求項1に記載の方法において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、方法。
  5. 請求項に記載の方法において、前記第2のダイアログボックスを表示することは自動的にタイムアウト可能である、方法。
  6. ディスプレイと、音入力を受け取るように構成されるマイクロフォンとを有するヘッドセットコンピュータで使用される音声制御装置であって、
    前記音入力を解釈し、その解釈の一部として、前記音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるクリティカルコマンドであるかどうかを判定するように構成された音声認識エンジンと、
    前記音声認識エンジンに通信可能に連結されたプロセッサとを含み、
    前記音入力が前記クリティカルコマンドであるという前記音声認識エンジンによる判定に応答して、前記プロセッサは、
    (i)前記ディスプレイ上に、ユーザに対して画面上の選択を提示する第1のダイアログボックスを表示し、
    (ii)前記マイクロフォンを介して前記第1のダイアログボックス内の、ユーザが選んだ選択に対応する第1の確認発声を受け取り、
    (iii)前記第1の確認発声の受け取りに応答して、前記ディスプレイ上に第2のダイアログボックスを表示し、
    iv)ヘッドセットコンピュータの前記アクションの実行に対して、前記ユーザが前記第のダイアログボックス内の選択に対応する第の確認発声を行うことを条件付けるように構成され、
    前記第1の確認発声と前記第2の確認発声とは互いに異なる、音声制御装置。
  7. 請求項に記載の装置において、前記第1のダイアログボックスは、自動的にタイムアウト可能である、装置。
  8. 請求項に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを低電力スリープモードから解放するためのコマンドである、装置。
  9. 請求項に記載の装置において、前記コマンドは、前記ヘッドセットコンピュータを限定音声認識モードから解放するためのコマンドである、装置。
  10. 請求項に記載の装置において、前記第2のダイアログボックスは、自動的にタイムアウト可能である、装置。
  11. ディスプレイと、
    音入力を受け取るマイクロフォンと、
    前記音入力を解釈し、その解釈の一部として、前記音入力がクリティカリティの閾値レベルを満たすかこれを越えるクリティカリティのレベルを有するアクションに対するコマンドであるクリティカルコマンドであるかどうかを判定するように構成された音声認識エンジンと、
    前記音声認識エンジンに通信可能に連結されたプロセッサとを含み、
    前記音入力が前記クリティカルコマンドであるという前記音声認識エンジンによる判定に応答して、前記プロセッサは、
    (i)前記ディスプレイ上に、ユーザに対して画面上の選択を提示する第1のダイアログボックスを表示し、
    (ii)前記マイクロフォンを介して前記第1のダイアログボックス内の、ユーザが選んだ選択に対応する第1の確認発声を受け取り、
    (iii)前記第1の確認発声の受け取りに応答して、前記ディスプレイ上に第2のダイアログボックスを表示し、
    iv)ヘッドセットコンピュータの前記アクションの実行に対して、前記ユーザが前記第のダイアログボックス内の選択に対応する第の確認発声を行うことを条件付けるように構成され、
    前記第1の確認発声と前記第2の確認発声とは互いに異なる、ヘッドセットコンピュータ。
JP2015551737A 2013-01-04 2013-12-27 二分岐音声認識 Active JP6420769B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201361749243P 2013-01-04 2013-01-04
US61/749,243 2013-01-04
PCT/US2013/078079 WO2014107413A1 (en) 2013-01-04 2013-12-27 Bifurcated speech recognition

Publications (3)

Publication Number Publication Date
JP2016505897A JP2016505897A (ja) 2016-02-25
JP2016505897A5 JP2016505897A5 (ja) 2017-02-02
JP6420769B2 true JP6420769B2 (ja) 2018-11-07

Family

ID=49918940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015551737A Active JP6420769B2 (ja) 2013-01-04 2013-12-27 二分岐音声認識

Country Status (5)

Country Link
US (1) US9620144B2 (ja)
EP (1) EP2941769B1 (ja)
JP (1) JP6420769B2 (ja)
CN (1) CN105009202B (ja)
WO (1) WO2014107413A1 (ja)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10304465B2 (en) * 2012-10-30 2019-05-28 Google Technology Holdings LLC Voice control user interface for low power mode
US9584642B2 (en) * 2013-03-12 2017-02-28 Google Technology Holdings LLC Apparatus with adaptive acoustic echo control for speakerphone mode
US10373615B2 (en) * 2012-10-30 2019-08-06 Google Technology Holdings LLC Voice control user interface during low power mode
US10381002B2 (en) * 2012-10-30 2019-08-13 Google Technology Holdings LLC Voice control user interface during low-power mode
US20160049147A1 (en) * 2014-08-13 2016-02-18 Glen J. Anderson Distributed voice input processing based on power and sensing
US20160055847A1 (en) * 2014-08-19 2016-02-25 Nuance Communications, Inc. System and method for speech validation
US9424841B2 (en) 2014-10-09 2016-08-23 Google Inc. Hotword detection on multiple devices
US9418656B2 (en) 2014-10-29 2016-08-16 Google Inc. Multi-stage hotword detection
US10686738B2 (en) * 2015-07-24 2020-06-16 Facebook, Inc. Providing personal assistant service via messaging
US9691378B1 (en) * 2015-11-05 2017-06-27 Amazon Technologies, Inc. Methods and devices for selectively ignoring captured audio data
CN105976814B (zh) * 2015-12-10 2020-04-10 乐融致新电子科技(天津)有限公司 头戴设备的控制方法和装置
CN109074819B (zh) * 2016-04-29 2023-05-16 维塔驰有限公司 基于操作-声音的多模式命令的优选控制方法及应用其的电子设备
EP3477634B1 (en) * 2016-06-23 2020-09-16 Sony Corporation Information processing device and information processing method
CN106028223A (zh) * 2016-07-26 2016-10-12 广东欧珀移动通信有限公司 一种智能音箱的控制方法、装置及智能音箱
US10283138B2 (en) 2016-10-03 2019-05-07 Google Llc Noise mitigation for a voice interface device
JP6616048B1 (ja) 2016-11-07 2019-12-04 グーグル エルエルシー 記録されたメディアホットワードトリガ抑制
US10079015B1 (en) 2016-12-06 2018-09-18 Amazon Technologies, Inc. Multi-layer keyword detection
US10936872B2 (en) 2016-12-23 2021-03-02 Realwear, Inc. Hands-free contextually aware object interaction for wearable display
US10365493B2 (en) 2016-12-23 2019-07-30 Realwear, Incorporated Modular components for a head-mounted display
US11507216B2 (en) * 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications
US11099716B2 (en) 2016-12-23 2021-08-24 Realwear, Inc. Context based content navigation for wearable display
US10620910B2 (en) 2016-12-23 2020-04-14 Realwear, Inc. Hands-free navigation of touch-based operating systems
US10437070B2 (en) 2016-12-23 2019-10-08 Realwear, Inc. Interchangeable optics for a head-mounted display
US10393312B2 (en) 2016-12-23 2019-08-27 Realwear, Inc. Articulating components for a head-mounted display
EP3346681B1 (en) * 2017-01-04 2020-04-01 Unify Patente GmbH & Co. KG Apparatus for audio and/or video communication, and methods of operating an apparatus for audio and/or video communication
US10467509B2 (en) 2017-02-14 2019-11-05 Microsoft Technology Licensing, Llc Computationally-efficient human-identifying smart assistant computer
US10074371B1 (en) * 2017-03-14 2018-09-11 Amazon Technologies, Inc. Voice control of remote device by disabling wakeword detection
CN108663942B (zh) * 2017-04-01 2021-12-07 青岛有屋科技有限公司 一种语音识别设备控制方法、语音识别设备和中控服务器
US11250844B2 (en) * 2017-04-12 2022-02-15 Soundhound, Inc. Managing agent engagement in a man-machine dialog
EP3617872A4 (en) * 2017-04-27 2020-04-29 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM
US10789949B2 (en) * 2017-06-20 2020-09-29 Bose Corporation Audio device with wakeup word detection
CN107564517A (zh) * 2017-07-05 2018-01-09 百度在线网络技术(北京)有限公司 语音唤醒方法、设备及系统、云端服务器与可读介质
US10777189B1 (en) * 2017-12-05 2020-09-15 Amazon Technologies, Inc. Dynamic wakeword detection
CN107919124B (zh) * 2017-12-22 2021-07-13 北京小米移动软件有限公司 设备唤醒方法及装置
CN108665900B (zh) 2018-04-23 2020-03-03 百度在线网络技术(北京)有限公司 云端唤醒方法及系统、终端以及计算机可读存储介质
US11114094B2 (en) 2018-06-29 2021-09-07 Google Llc Audio processing in a low-bandwidth networked system
US11726324B2 (en) 2018-08-31 2023-08-15 Apple Inc. Display system
US11380312B1 (en) * 2019-06-20 2022-07-05 Amazon Technologies, Inc. Residual echo suppression for keyword detection
CN110444211A (zh) * 2019-08-23 2019-11-12 青岛海信电器股份有限公司 一种语音识别方法及设备
CN111429901B (zh) * 2020-03-16 2023-03-21 云知声智能科技股份有限公司 一种面向IoT芯片的多级语音智能唤醒方法及系统
CN111755002B (zh) * 2020-06-19 2021-08-10 北京百度网讯科技有限公司 语音识别装置、电子设备和语音识别方法
US11521604B2 (en) 2020-09-03 2022-12-06 Google Llc User mediation for hotword/keyword detection
EP4156179A1 (de) * 2021-09-23 2023-03-29 Siemens Healthcare GmbH Sprachsteuerung einer medizinischen vorrichtung
US12469492B2 (en) 2021-09-23 2025-11-11 Siemens Healthineers Ag Speech control of a medical apparatus
EP4156178B1 (de) * 2021-09-23 2026-04-08 Siemens Healthineers AG Sprachsteuerung einer medizinischen vorrichtung

Family Cites Families (78)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4471683A (en) * 1982-08-26 1984-09-18 The United States Of America As Represented By The Secretary Of The Air Force Voice command weapons launching system
US4945570A (en) * 1987-10-02 1990-07-31 Motorola, Inc. Method for terminating a telephone call by voice command
US5491651A (en) 1992-05-15 1996-02-13 Key, Idea Development Flexible wearable computer
US6010216A (en) 1993-01-19 2000-01-04 Jesiek; Daniel Stephen "Hear speak" two-way voice radio communications eyeglasses
US6853293B2 (en) 1993-05-28 2005-02-08 Symbol Technologies, Inc. Wearable communication system
JPH07219584A (ja) * 1994-01-31 1995-08-18 Canon Inc 音声処理装置及び方法
JPH07244494A (ja) * 1994-03-04 1995-09-19 Ricoh Co Ltd 音声認識装置
JPH08510568A (ja) 1994-03-04 1996-11-05 モトローラ・インコーポレイテッド 情報表示装置
JPH0832663A (ja) * 1994-07-13 1996-02-02 Hitachi Ltd 音声ダイアル機能付き電話装置
US5990793A (en) 1994-09-02 1999-11-23 Safety Tech Industries, Inc. Firefighters integrated communication and safety system
US5774841A (en) * 1995-09-20 1998-06-30 The United States Of America As Represented By The Adminstrator Of The National Aeronautics And Space Administration Real-time reconfigurable adaptive speech recognition command and control apparatus and method
US6094476A (en) * 1997-03-24 2000-07-25 Octel Communications Corporation Speech-responsive voice messaging system and method
US6144938A (en) * 1998-05-01 2000-11-07 Sun Microsystems, Inc. Voice user interface with personality
JP3275840B2 (ja) * 1998-08-12 2002-04-22 日本電気株式会社 機器操作システム及び方法、並びに記録媒体
US6965863B1 (en) * 1998-11-12 2005-11-15 Microsoft Corporation Speech recognition user interface
US8275617B1 (en) * 1998-12-17 2012-09-25 Nuance Communications, Inc. Speech command input recognition system for interactive computer display with interpretation of ancillary relevant speech query terms into commands
US6424357B1 (en) * 1999-03-05 2002-07-23 Touch Controls, Inc. Voice input system and method of using same
US7461936B2 (en) 2000-06-02 2008-12-09 Oakley, Inc. Eyeglasses with detachable adjustable electronics module
US8482488B2 (en) 2004-12-22 2013-07-09 Oakley, Inc. Data input management system for wearable electronically enabled interface
US6325507B1 (en) 2000-06-02 2001-12-04 Oakley, Inc. Eyewear retention system extending across the top of a wearer's head
US7278734B2 (en) 2000-06-02 2007-10-09 Oakley, Inc. Wireless interactive headset
US20120105740A1 (en) 2000-06-02 2012-05-03 Oakley, Inc. Eyewear with detachable adjustable electronics module
US7150526B2 (en) 2000-06-02 2006-12-19 Oakley, Inc. Wireless interactive headset
JP2002032212A (ja) * 2000-07-14 2002-01-31 Toshiba Corp コンピュータシステムおよびヘッドセット型表示装置
US6556971B1 (en) * 2000-09-01 2003-04-29 Snap-On Technologies, Inc. Computer-implemented speech recognition system training
US6798391B2 (en) 2001-01-02 2004-09-28 Xybernaut Corporation Wearable computer system
US20020094845A1 (en) 2001-01-16 2002-07-18 Rei Inasaka Body worn display system
DE10103922A1 (de) 2001-01-30 2002-08-01 Physoptics Opto Electronic Gmb Interaktives Datensicht- und Bediensystem
US7082393B2 (en) 2001-03-27 2006-07-25 Rast Associates, Llc Head-worn, trimodal device to increase transcription accuracy in a voice recognition system and to process unvocalized speech
US6769767B2 (en) 2001-04-30 2004-08-03 Qr Spex, Inc. Eyewear with exchangeable temples housing a transceiver forming ad hoc networks with other devices
US7085722B2 (en) * 2001-05-14 2006-08-01 Sony Computer Entertainment America Inc. System and method for menu-driven voice control of characters in a game environment
US7013009B2 (en) 2001-06-21 2006-03-14 Oakley, Inc. Eyeglasses with wireless communication features
US7313246B2 (en) 2001-10-06 2007-12-25 Stryker Corporation Information system using eyewear for communication
KR100438838B1 (ko) * 2002-01-29 2004-07-05 삼성전자주식회사 대화 포커스 추적 기능을 가진 음성명령 해석장치 및 방법
JP2003223314A (ja) * 2002-01-31 2003-08-08 Canon Inc 情報処理装置及びその方法、プログラム
US7035091B2 (en) 2002-02-28 2006-04-25 Accenture Global Services Gmbh Wearable computer system and modes of operating the system
US7110799B1 (en) 2002-06-14 2006-09-19 Symbol Technologies, Inc. Mobile terminal for interoperating with a standard or push-button enabled headset
BR0312909A (pt) 2002-07-26 2005-07-12 Oakley Inc Interfaces áudio sem fios, portáveis, sistemas de interfaces áudio, óculos, armações oculares e dispositivos áudio interativos e métodos de recebimento de chamadas telefônicas, de manipulação de sinal numa rede sem fios e de navegação em menus
US7774075B2 (en) 2002-11-06 2010-08-10 Lin Julius J Y Audio-visual three-dimensional input/output
JP2004226698A (ja) * 2003-01-23 2004-08-12 Yaskawa Electric Corp 音声認識装置
US7806525B2 (en) 2003-10-09 2010-10-05 Ipventure, Inc. Eyeglasses having a camera
US7760898B2 (en) 2003-10-09 2010-07-20 Ip Venture, Inc. Eyeglasses with hearing enhanced and other audio signal-generating capabilities
US20050033571A1 (en) * 2003-08-07 2005-02-10 Microsoft Corporation Head mounted multi-sensory audio input system
US7496387B2 (en) * 2003-09-25 2009-02-24 Vocollect, Inc. Wireless headset for use in speech recognition environment
KR100571955B1 (ko) * 2003-11-18 2006-04-17 삼성전자주식회사 일시 인쇄 중지 및 재개가 가능한 프린트 방법 및 그프린터
US7976480B2 (en) 2004-12-09 2011-07-12 Motorola Solutions, Inc. Wearable auscultation system and method
US7437297B2 (en) 2005-01-27 2008-10-14 International Business Machines Corporation Systems and methods for predicting consequences of misinterpretation of user commands in automated systems
US8694322B2 (en) * 2005-08-05 2014-04-08 Microsoft Corporation Selective confirmation for execution of a voice activated user interface
US20070081123A1 (en) 2005-10-07 2007-04-12 Lewis Scott W Digital eyewear
US8417185B2 (en) * 2005-12-16 2013-04-09 Vocollect, Inc. Wireless headset and method for robust voice data communication
US7773767B2 (en) * 2006-02-06 2010-08-10 Vocollect, Inc. Headset terminal with rear stability strap
US8212859B2 (en) 2006-10-13 2012-07-03 Apple Inc. Peripheral treatment for head-mounted displays
WO2008088691A2 (en) 2007-01-12 2008-07-24 Kopin Corporation Head mounted monocular display device
US9217868B2 (en) 2007-01-12 2015-12-22 Kopin Corporation Monocular display device
US20100020229A1 (en) 2007-04-30 2010-01-28 General Electric Company Wearable personal video/audio device method and system
US8825468B2 (en) * 2007-07-31 2014-09-02 Kopin Corporation Mobile wireless display providing speech to speech translation and avatar simulating human attributes
US8072393B2 (en) 2007-11-15 2011-12-06 Symbol Technologies, Inc. User interface for a head mounted display
US8520860B2 (en) 2007-12-13 2013-08-27 Symbol Technologies, Inc. Modular mobile computing headset
US7959084B2 (en) 2008-07-01 2011-06-14 Symbol Technologies, Inc. Multi-functional mobile computing device utilizing a removable processor module
US20100053069A1 (en) 2008-08-26 2010-03-04 Symbol Technologies, Inc. Mobile computing system facilitating adaptive display of content among a plurality of display components including at least one virtual image display component
US8180644B2 (en) * 2008-08-28 2012-05-15 Qualcomm Incorporated Method and apparatus for scrolling text display of voice call or message during video display session
AT10520U3 (de) 2008-09-05 2013-10-15 Knapp Systemintegration Gmbh Vorrichtung und verfahren zur visuellen unterstützung von kommissioniervorgängen
US8224653B2 (en) 2008-12-19 2012-07-17 Honeywell International Inc. Method and system for operating a vehicular electronic system with categorized voice commands
US7997723B2 (en) 2008-12-31 2011-08-16 Nokia Corporation Display apparatus and device
US20100238184A1 (en) 2009-03-19 2010-09-23 Michael Janicki Method and apparatus for three-dimensional visualization in mobile devices
CN102460349A (zh) * 2009-05-08 2012-05-16 寇平公司 使用运动和语音命令对主机应用进行远程控制
JP5267388B2 (ja) * 2009-08-31 2013-08-21 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US20110090135A1 (en) 2009-10-21 2011-04-21 Symbol Technologies, Inc. Interchangeable display device for a head-mounted display system
US20110214082A1 (en) 2010-02-28 2011-09-01 Osterhout Group, Inc. Projection triggering through an external marker in an augmented reality eyepiece
WO2011106797A1 (en) 2010-02-28 2011-09-01 Osterhout Group, Inc. Projection triggering through an external marker in an augmented reality eyepiece
US20120056846A1 (en) 2010-03-01 2012-03-08 Lester F. Ludwig Touch-based user interfaces employing artificial neural networks for hdtp parameter and symbol derivation
US9122307B2 (en) * 2010-09-20 2015-09-01 Kopin Corporation Advanced remote control of host application using motion and voice commands
EP2619749A4 (en) 2010-09-21 2017-11-15 4IIII Innovations Inc. Head-mounted peripheral vision display systems and methods
WO2012154938A1 (en) 2011-05-10 2012-11-15 Kopin Corporation Headset computer that uses motion and voice commands to control information display and remote devices
CN102360187B (zh) * 2011-05-25 2013-06-05 吉林大学 语谱图互相关的驾驶员汉语语音控制系统及方法
CN102841771B (zh) * 2011-06-21 2016-04-27 联想(北京)有限公司 一种语音处理方法及语音处理装置
EP3754997B1 (en) * 2011-08-05 2023-08-30 Samsung Electronics Co., Ltd. Method for controlling electronic apparatus based on voice recognition and motion recognition, and electronic apparatus applying the same
US9442290B2 (en) 2012-05-10 2016-09-13 Kopin Corporation Headset computer operation using vehicle sensor feedback for remote control vehicle

Also Published As

Publication number Publication date
WO2014107413A1 (en) 2014-07-10
US9620144B2 (en) 2017-04-11
EP2941769A1 (en) 2015-11-11
EP2941769B1 (en) 2019-05-08
US20140195247A1 (en) 2014-07-10
JP2016505897A (ja) 2016-02-25
CN105009202A (zh) 2015-10-28
CN105009202B (zh) 2019-05-07

Similar Documents

Publication Publication Date Title
JP6420769B2 (ja) 二分岐音声認識
US12293762B2 (en) Multi-mode guard for voice commands
US10325614B2 (en) Voice-based realtime audio attenuation
CN103890836B (zh) 用于头戴式显示器的具有电源管理的蓝牙或其他无线接口
KR102847032B1 (ko) 발화 완료 감지 방법 및 이를 구현한 전자 장치
KR102298947B1 (ko) 음성 데이터 처리 방법 및 이를 지원하는 전자 장치
KR102391298B1 (ko) 음성 인식 서비스를 제공하는 전자 장치 및 그 방법
US9152378B2 (en) Bluetooth or other wireless interface with power management for head mounted display
KR102412523B1 (ko) 음성 인식 서비스 운용 방법, 이를 지원하는 전자 장치 및 서버
KR102508677B1 (ko) 사용자 발화를 처리하는 시스템 및 그 시스템의 제어 방법
KR20180138017A (ko) 음성 인식을 위한 전자 장치 및 시스템
KR102685523B1 (ko) 사용자 음성 입력을 처리하는 장치
JP2015532028A (ja) ハンズフリー緊急対応を伴うヘッドセットコンピュータ
EP3782017B1 (en) Providing audio information with a digital assistant
JP7579378B2 (ja) ヘッドマウント情報処理装置の制御方法
CN115605948A (zh) 在多个潜在响应的电子装置之间的仲裁
KR102419374B1 (ko) 사용자 발화를 처리하는 전자 장치 및 그 전자 장치의 제어 방법
KR20220106643A (ko) 소리 데이터에 기초하여 제어되는 전자 장치 및 소리 데이터에 기초하여 전자 장치를 제어하는 방법
KR20180116726A (ko) 음성 데이터 처리 방법 및 이를 지원하는 전자 장치
US20240370669A1 (en) Speech translation processing apparatus
KR102740121B1 (ko) 사용자 발화를 처리하는 전자 장치 및 그 전자 장치의 제어 방법
CN1981257A (zh) 在用户和系统之间进行通信的方法和系统
KR20180116725A (ko) 음성 인식 서비스의 운용 화면 표시 방법 및 이를 지원하는 전자 장치
KR102957608B1 (ko) 외부 웨어러블 전자 장치로부터 정보를 수신하는 웨어러블 전자 장치 및 그 작동 방법
CN121680169A (zh) 智能戒指及其控制方法、存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180206

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180918

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181012

R150 Certificate of patent or registration of utility model

Ref document number: 6420769

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250