JP6927905B2 - Decision device, decision method, decision program and program - Google Patents
Decision device, decision method, decision program and program Download PDFInfo
- Publication number
- JP6927905B2 JP6927905B2 JP2018027245A JP2018027245A JP6927905B2 JP 6927905 B2 JP6927905 B2 JP 6927905B2 JP 2018027245 A JP2018027245 A JP 2018027245A JP 2018027245 A JP2018027245 A JP 2018027245A JP 6927905 B2 JP6927905 B2 JP 6927905B2
- Authority
- JP
- Japan
- Prior art keywords
- voice
- estimation
- estimation result
- result
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
- Telephonic Communication Services (AREA)
Description
本発明は、決定装置、決定方法、決定プログラム及びプログラムに関する。 The present invention relates to a determination device, a determination method, a determination program and a program .
従来、ユーザの発話に対する音声認識に関する技術が提供されている。例えば、利用者からの音声が入力され、その音声認識結果が確信度不十分であるとき、利用者へ更なる入力を求める表示を行う技術が知られている。 Conventionally, a technique related to voice recognition for a user's utterance has been provided. For example, when a voice from a user is input and the voice recognition result is insufficient in certainty, there is known a technique for displaying a request for further input from the user.
しかしながら、上記の従来技術では、音声認識の精度を向上させることができるとは限らない。例えば、上記の従来技術では、利用者からの音声が入力され、その音声認識結果が確信度不十分であるとき、利用者へ更なる入力を求める表示を行うに過ぎず、音声認識の精度を向上させることができるとは限らない。 However, it is not always possible to improve the accuracy of voice recognition by the above-mentioned conventional technique. For example, in the above-mentioned prior art, when a voice from a user is input and the voice recognition result is insufficient in certainty, only a display requesting the user for further input is performed, and the accuracy of voice recognition is improved. It is not always possible to improve.
本願は、上記に鑑みてなされたものであって、音声認識の精度を向上させることができる決定装置、決定方法、決定プログラム及びモデルを提供することを目的とする。 The present application has been made in view of the above, and an object of the present application is to provide a determination device, a determination method, a determination program, and a model capable of improving the accuracy of speech recognition.
本願に係る決定装置は、ユーザによって発話された音声に対応する発話内容を推定する推定部と、前記推定部によって第1音声から推定された第1推定結果における推定精度と、前記第1音声に続いて前記ユーザによって繰り返し発話された第2音声から推定された第2推定結果における推定精度とに基づいて、前記第1音声及び前記第2音声に対応する音声認識結果を決定する決定部と、を備えたことを特徴とする。 The determination device according to the present application includes an estimation unit that estimates the utterance content corresponding to the voice uttered by the user, estimation accuracy in the first estimation result estimated from the first voice by the estimation unit, and the first voice. Subsequently, a determination unit that determines the voice recognition result corresponding to the first voice and the second voice based on the estimation accuracy in the second estimation result estimated from the second voice repeatedly uttered by the user. It is characterized by having.
実施形態の一態様によれば、音声認識の精度を向上させることができるという効果を奏する。 According to one aspect of the embodiment, there is an effect that the accuracy of voice recognition can be improved.
以下に、本願に係る決定装置、決定方法、決定プログラム及びモデルの実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る決定装置、決定方法、決定プログラム及びモデルが限定されるものではない。また、各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。 Hereinafter, modes for implementing the determination device, determination method, determination program, and model according to the present application (hereinafter, referred to as “embodiments”) will be described in detail with reference to the drawings. It should be noted that this embodiment does not limit the determination device, determination method, determination program and model according to the present application. In addition, each embodiment can be appropriately combined as long as the processing contents do not contradict each other. Further, in each of the following embodiments, the same parts are designated by the same reference numerals, and duplicate description is omitted.
〔1.決定装置が示す決定処理の一例〕
図1を用いて、実施形態に係る決定装置が実行する決定処理の一例について説明する。図1は、実施形態に係る決定装置が実行する決定処理の一例を示す図である。図1では、決定装置100により決定処理が実行される例を示す。
[1. An example of the determination process indicated by the determination device]
An example of the determination process executed by the determination apparatus according to the embodiment will be described with reference to FIG. FIG. 1 is a diagram showing an example of a determination process executed by the determination device according to the embodiment. FIG. 1 shows an example in which a determination process is executed by the
図1に示すように、決定システム1は、端末装置10と、決定装置100とを含む。端末装置10及び決定装置100は、図示しない所定の通信網を介して、有線又は無線により通信可能に接続される。なお、図1に示す決定システム1には、複数台の端末装置10や、複数台の決定装置100が含まれてもよい。
As shown in FIG. 1, the
端末装置10は、ブラウザに表示されるウェブページやアプリケーションに表示されるコンテンツ等のウェブコンテンツにアクセスするユーザによって利用される情報処理装置である。例えば、端末装置10は、デスクトップ型PC(Personal Computer)や、ノート型PCや、タブレット端末や、携帯電話機や、PDA(Personal Digital Assistant)等である。また、端末装置10は、ユーザによる操作や、端末装置10が有する機能に応じて、ユーザによって発話される音声を取得し、端末装置10の所定の記憶領域にかかる音声に関する情報を記憶する。
The
例えば、端末装置10は、予め音声を取得可能なアプリケーションをインストールしているものとする。この場合、端末装置10は、内蔵されたマイクにより、ユーザによって発話される音声を取得し、端末装置10の所定の記憶領域にかかる音声に関する情報を記憶する。なお、端末装置10による上記処理は、例えば、音声検索等の周知技術によって実現可能である。
For example, it is assumed that the
決定装置100は、ユーザによって発話される音声に対応する音声認識結果を決定し、かかる音声認識結果を端末装置10に提供する決定装置であり、例えば、サーバ装置等により実現される。この点について説明する。従来の音声認識解析では、音声認識が困難だった場合、ユーザによって発話された音声に対応する音声認識結果がかかる音声と逸脱したものをユーザに提供してしまうことがある。また、従来の音声認識解析では、音声認識が困難だった場合、ユーザに対して発話を繰り返させたり、ユーザによって発話された音声に対して応答なしであったりする。この場合、ユーザは、同じ内容の音声を繰り返し発話することがある。この結果、ユーザに対して同じ内容の音声を繰り返し発話させるという負荷を強いることになる。そのため、実施形態に係る決定装置100は、ユーザによって繰り返し発話された音声に対する音声認識の精度の向上を実現する。具体的には、決定装置100は、ユーザによって最初に発話された音声(以下、第1音声と表記する場合がある)から推定された第1音声の推定結果とユーザによって続いて発話された音声(以下、第2音声と表記する場合がある)から推定された第2音声の推定結果との組み合わせ毎のスコアに基づいて、音声認識結果を決定する。この点について以下で詳細に説明する。なお、以下では、ユーザが端末装置10に対して音声検索を行う場合に、ユーザによって複数回発話された音声が同じ内容の音声であるものとして説明する。
The
以下、図1を用いて、決定装置100による音声認識結果の決定処理の一例を流れに沿って説明する。
Hereinafter, an example of the determination process of the voice recognition result by the
まず、図1に示すように、ユーザは、端末装置10に対して「連想ゲーム」と2回発話するものとする(ステップS1)。例えば、ユーザが「連想ゲーム」に関するゲームの種類を検索するために、端末装置10に対して「連想ゲーム」と発話するものとする。この場合、ユーザは、端末装置10に対してユーザ自身によって発話された音声が認識されたかどうか心配になり、自発的に「連想ゲーム」と2回発話するものとする。そして、端末装置10は、ユーザによって2回発話された「連想ゲーム」を受け付ける。
First, as shown in FIG. 1, the user utters the "associative game" twice to the terminal device 10 (step S1). For example, it is assumed that the user speaks "associative game" to the
なお、例えば、端末装置10は、決定装置100による音声認識が困難だった場合、決定装置100によって通知された音声認識不可に関する情報に基づいて、「もう一度言ってください。」等の音声ナビゲーションによって、ユーザに繰り返し発話を促してもよい。
In addition, for example, when the voice recognition by the
続いて、決定装置100は、ユーザによって繰り返し発話された音声を受け付ける(ステップS2)。例えば、決定装置100は、端末装置10がユーザによって発話された音声を受け付けたことに関する情報を決定装置100へ送信することに基づいて、ユーザによって繰り返し発話された音声を受け付ける。この場合、決定装置100は、ユーザによって発話された音声が繰り返し発話されたものであるか否かを判定する。具体的には、決定装置100は、ユーザによって発話された音声の音声波形と他の音声の音声波形との類似性に基づいて、ユーザによって発話された音声が繰り返し発話されたか否かを判定する。
Subsequently, the
例えば、決定装置100は、ユーザによって発話された音声の音声波形と他の音声の音声波形との類似度が所定値以上である場合、ユーザによって発話された音声が繰り返し発話されたと判定する。なお、決定装置100は、音声の音声波形と他の音声の音声波形との類似性に基づいて判定する前に、かかる音声の音声波形に対して振幅、位相、周波数等による補正を行ってもよい。これにより、決定装置100は、タイミングや音量の異なる音声の音声波形同士の類似性を判定することができる。
For example, when the similarity between the voice waveform of the voice spoken by the user and the voice waveform of another voice is equal to or higher than a predetermined value, the
なお、決定装置100が実行する上記処理は、例えば、音声信号処理等に関する周知技術により、音声の音声波形に対する振幅、位相、周波数等の補正及び音声の音声波形同士の類似度を算出することで実現可能である。また、例えば、決定装置100が実行する音声波形同士の類似性の決定処理は、機械学習等の周知技術により、ユーザによって発話された音声が繰り返しか否かを判定してもよい。
The processing executed by the
続いて、決定装置100は、ユーザによって繰り返し発話された音声に対応する発話内容を推定し、かかる音声から推定された推定結果のランク付けを行う(ステップS3)。具体的には、決定装置100は、ユーザによって繰り返し発話されたと判定された音声のうち、第1音声に対応する発話内容を推定する。そして、決定装置100は、第1音声の発話内容を推定すると共に、第1音声の推定結果の正確性を示す情報である推定精度を算出する。また、決定装置100は、ユーザによって繰り返し発話されたと判定された音声のうち、第2音声に対応する発話内容を推定する。そして、決定装置100は、第2音声の発話内容を推定すると共に、第2音声の推定結果の推定精度を算出する。
Subsequently, the
例えば、決定装置100は、ユーザによって発話された音声「連想ゲーム」に対応する第1音声から推定された推定結果として、「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」を推定する。そして、決定装置100は、第1音声の推定結果である「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」に対応する推定精度として、「1.0」、「0.9」、「0.8」と算出する。また、決定装置100は、ユーザによって第1音声に続いて発話された音声「連想ゲーム」に対応する第2音声から推定された推定結果として、「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」を推定する。そして、決定装置100は、第2音声の推定結果である「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」に対応する推定精度として、「1.0」、「0.9」、「0.8」と算出する。
For example, the
そして、決定装置100は、ユーザによって発話された音声から推定された推定結果を、推定結果の推定精度に基づいて、ランク付けを行う。例えば、決定装置100は、第1音声の推定結果に対応する推定精度に基づいて、「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」の順でランク付けを行う。また、決定装置100は、第2音声の推定結果に対応する推定精度に基づいて、「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」の順でランク付けを行う。
Then, the
なお、決定装置100が実行する上記処理は、例えば、音声認識解析等に関する周知技術により、ユーザによって発話された音声に対応する発話内容を推定し、かかる音声から推定された推定結果の推定精度を算出することで実現可能である。
In the above processing executed by the
続いて、決定装置100は、第1音声の推定結果と第2音声の推定結果との組み合わせ毎に、スコアを算出する(ステップS4)。例えば、決定装置100は、以下のような式(1)によりスコアSC1を算出する。
Subsequently, the
スコアSC1 = Acc1+Acc2+Rep ・・・ (1) Score SC1 = Acc1 + Acc2 + Rep ... (1)
上記式(1)では、「Acc1」は、第1音声の推定結果の推定精度を示し、「Acc2」は、第2音声の推定結果の推定精度を示し、「Rep」は、第1音声の推定結果と第2音声の推定結果とに含まれる単語が重複する度合いに関する情報(以下、重複度と表記する)を示す。そして、決定装置100は、スコアSC1が最も大きい第1音声の推定結果と第2音声の推定結果との組み合わせを決定する。
In the above equation (1), "Acc1" indicates the estimation accuracy of the estimation result of the first voice, "Acc2" indicates the estimation accuracy of the estimation result of the second voice, and "Rep" indicates the estimation accuracy of the first voice. Information on the degree of duplication of words contained in the estimation result and the estimation result of the second voice (hereinafter referred to as the degree of duplication) is shown. Then, the
ここで、図2を用いて、音声認識結果を決定する処理の一例を説明する。図2は、第1音声の推定結果とかかる推定結果の推定精度と、第2音声の推定結果とかかる推定結果の推定精度とにおける組み合わせを示す図である。例えば、図2に示す例においては、第1音声の推定結果WT1に示すように「演奏ゲーム」は、推定精度「1.0」である。 Here, an example of the process of determining the voice recognition result will be described with reference to FIG. FIG. 2 is a diagram showing a combination of the estimation result of the first voice and the estimation accuracy of the estimation result, and the estimation result of the second voice and the estimation accuracy of the estimation result. For example, in the example shown in FIG. 2, as shown in the estimation result WT1 of the first voice, the “performance game” has an estimation accuracy of “1.0”.
図2に示す例では、決定装置100は、上記式(1)により、第1音声の推定結果の推定精度と第2音声の推定結果の推定精度と重複度とを加味したスコアを算出する。例えば、第1音声の推定結果が「演奏ゲーム」であり、第2音声の推定結果が「清掃ゲーム」である組み合わせ(以下、「演奏ゲーム×清掃ゲーム」と表記する場合がある)において、形態素解析等により、「ゲーム」が一致していることから、重複度が「1.0」と算出されるものとする。この場合、決定装置100は、図2中の算出式スコアCT1に示す式により、第1音声の推定結果WT1「演奏ゲーム」の推定精度「1.0」と、第2音声の推定結果WT2「清掃ゲーム」の推定精度「1.0」と、重複度「1.0」とであることから、スコアCT1「3.0」と算出する。
In the example shown in FIG. 2, the
また、例えば、「連想ゲーム×連想ゲーム」は、形態素解析等により、「連想」と「ゲーム」とが一致していることから、重複度が「2.0」と算出されるものとする。この場合、決定装置100は、図2中の算出式スコアCT2に示す式により、第1音声の推定結果WT3「連想ゲーム」の推定精度「0.8」と、第2音声の推定結果WT4「連想ゲーム」の推定精度「0.9」と、重複度「2.0」とであるから、スコアCT2「3.7」と算出する。
Further, for example, in the "associative game x associative game", since the "associative" and the "game" match by morphological analysis or the like, the degree of duplication is calculated to be "2.0". In this case, the
また、例えば、図2に示す例において、以下の組み合わせにおいて上記算出方法に基づいてスコアCT3〜CT9を算出する。
スコアCT3(「演奏ゲーム×連想ゲーム」) =2.9 ・・・ (2)
スコアCT4(「演奏ゲーム×炎症ゲーム」) =2.8 ・・・ (3)
スコアCT5(「塩素ゲーム×清掃ゲーム」) =2.9 ・・・ (4)
スコアCT6(「塩素ゲーム×連想ゲーム」) =2.8 ・・・ (5)
スコアCT7(「塩素ゲーム×炎症ゲーム」) =2.7 ・・・ (6)
スコアCT8(「連想ゲーム×清掃ゲーム」) =2.8 ・・・ (7)
スコアCT9(「連想ゲーム×炎症ゲーム」) =2.6 ・・・ (8)
Further, for example, in the example shown in FIG. 2, the scores CT3 to CT9 are calculated based on the above calculation method in the following combinations.
Score CT3 ("playing game x associative game") = 2.9 ... (2)
Score CT4 ("playing game x inflammation game") = 2.8 ... (3)
Score CT5 ("Chlorine game x cleaning game") = 2.9 ... (4)
Score CT6 ("chlorine game x associative game") = 2.8 ... (5)
Score CT7 ("Chlorine game x inflammation game") = 2.7 ... (6)
Score CT8 ("associative game x cleaning game") = 2.8 ... (7)
Score CT9 ("associative game x inflammation game") = 2.6 ... (8)
そして、決定装置100は、各スコアCT1〜CT9を比較する。例えば、決定装置100は、第1音声の推定結果WT3「連想ゲーム」と、第2音声の推定結果WT4「連想ゲーム」とのスコアCT2が最も大きいため、第1音声の推定結果WT3及び第2音声の推定結果WT4から音声認識結果を選択し、「連想ゲーム」を音声認識結果として決定する。
Then, the
図1に戻り、実施形態に係る決定処理の一例を説明する。決定装置100は、スコアSC1に基づいて、音声認識結果C1を「連想ゲーム」であると決定する(ステップS5)。例えば、決定装置100は、「連想ゲーム×連想ゲーム」におけるスコアSC1が「3.7」であり、「演奏ゲーム×清掃ゲーム」におけるスコアSC1が「3.0」であることから、「連想ゲーム×連想ゲーム」のスコアSC1が最も大きいため、第1音声の推定結果及び第2音声の推定結果から選択された「連想ゲーム」を音声認識結果として決定する。そして、決定装置100は、音声認識結果C1「連想ゲーム」を端末装置10に提供する(ステップS6)。例えば、決定装置100は、音声認識結果C1「連想ゲーム」をテキスト化して端末装置10に提供する。そして、端末装置10は、ユーザに対して「連想ゲーム」というテキストを表示する。なお、端末装置10は、音声読み上げ機能を用いて、ユーザに対して「連想ゲーム」と読み上げてもよい。
Returning to FIG. 1, an example of the determination process according to the embodiment will be described. The
このように、実施形態に係る決定装置100は、ユーザによって発話された音声に対応する第1音声から推定された推定結果とユーザによって第1音声に続いて発話された音声に対応する第2音声から推定された推定結果との組み合わせに対応するスコアに基づいて、音声認識結果を決定する。これにより、実施形態に係る決定装置100は、音声認識の精度を向上させることができる。この点について説明する。図1の例を用いて説明すると、決定装置100は、複数の第1音声の推定結果のうち、推定精度が高い第1音声の推定結果を選択し、複数の第2音声の推定結果のうち、推定精度が高い推定結果を選択する。そして、決定装置100は、推定精度の高い第1音声の推定結果と第2音声の推定結果との組み合わせ毎に重複度に基づいてスコアを算出する。これにより、決定装置100は、かかるスコアが高い組み合わせにおける第1音声の推定結果及び第2音声の推定結果を音声認識結果として決定するため、より高い精度で音声認識結果を決定することができる。したがって、決定装置100は、ユーザによって繰り返し発話された音声の組み合わせ毎に算出されるスコアに基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As described above, the
〔2.決定装置の構成〕
次に、図3を用いて、実施形態に係る決定装置100の構成について説明する。図3は、実施形態に係る決定装置100の構成例を示す図である。図3に示すように、決定装置100は、通信部110と、記憶部120と、制御部130とを有する。
[2. Configuration of determination device]
Next, the configuration of the
(通信部110について)
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、ネットワークと有線又は無線で接続され、端末装置10との間で情報の送受信を行う。
(About communication unit 110)
The communication unit 110 is realized by, for example, a NIC (Network Interface Card) or the like. Then, the communication unit 110 is connected to the network by wire or wirelessly, and transmits / receives information to / from the
(記憶部120について)
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部120は、音声情報記憶部121と、推定結果情報記憶部122と、スコア情報記憶部123とを有する。
(About storage unit 120)
The storage unit 120 is realized by, for example, a semiconductor memory element such as a RAM (Random Access Memory) or a flash memory (Flash Memory), or a storage device such as a hard disk or an optical disk. The storage unit 120 includes a voice
(音声情報記憶部121について)
実施形態に係る音声情報記憶部121は、ユーザによって発話された音声に関する情報を記憶する。ここで、図4に、実施形態に係る音声情報記憶部121の一例を示す。図4に示した例では、音声情報記憶部121は、「音声ID(Identifier)」、「音声」、「第1音声との類似度」といった項目を有する。
(About voice information storage unit 121)
The voice
「音声ID」は、ユーザによって発話された音声を識別する識別子である。「音声」は、「音声ID」と対応付けられた音声の波形データである。「第1音声との類似度」は、「音声ID」と対応付けられた直前に受け付けた音声との類似度に関する情報である。例えば、図4では、音声IDによって識別される「V2」は、音声が「WV2」であり、音声ID「V1」によって識別される音声「WV1」との類似度である第1音声との類似度が「0.9」である。 The "voice ID" is an identifier that identifies the voice spoken by the user. The “voice” is voice waveform data associated with the “voice ID”. The "similarity with the first voice" is information regarding the similarity with the voice received immediately before being associated with the "voice ID". For example, in FIG. 4, “V2” identified by the voice ID is similar to the first voice, which is the voice “WV2” and has a degree of similarity to the voice “WV1” identified by the voice ID “V1”. The degree is "0.9".
(音声認識結果情報記憶部122について)
実施形態に係る推定結果情報記憶部122は、ユーザによって発話された音声に対応する推定結果に関する各種情報を記憶する。ここで、図5に、実施形態に係る推定結果情報記憶部122の一例を示す。図5に示した例では、推定結果情報記憶部122は、「音声ID」、「推定結果ID」、「推定結果のランキング順位」、「推定結果」、「推定精度」といった項目を有する。
(About voice recognition result information storage unit 122)
The estimation result
「音声ID」は、ユーザによって発話された音声を識別する識別子である。「推定結果ID」は、音声から推定された推定結果を識別するための識別情報を示す。「推定結果のランキング順位」は、音声に対応する推定結果と共に算出された推定精度の大きさによってランク付けされた順位を示す。「推定結果」は、ユーザによって発話された音声に対応する推定結果を示す。「推定精度」は、「推定結果」と共に算出された推定精度を示す。例えば、図5では、音声IDによって識別される「V1」に対応し、かつ、推定結果IDによって識別される「VC1」に対応する推定結果のランキング順位は「1位」であり、推定結果「演奏ゲーム」の推定精度は「1.0」である。 The "voice ID" is an identifier that identifies the voice spoken by the user. The "estimation result ID" indicates identification information for identifying the estimation result estimated from the voice. The "ranking rank of the estimation result" indicates the ranking ranked by the magnitude of the estimation accuracy calculated together with the estimation result corresponding to the voice. The "estimation result" indicates an estimation result corresponding to the voice spoken by the user. "Estimation accuracy" indicates the estimation accuracy calculated together with the "estimation result". For example, in FIG. 5, the ranking rank of the estimation result corresponding to "V1" identified by the voice ID and corresponding to "VC1" identified by the estimation result ID is "1st place", and the estimation result " The estimation accuracy of the "playing game" is "1.0".
(スコア情報記憶部123について)
実施形態に係るスコア情報記憶部123は、第1音声の推定結果と第2音声の推定結果との組み合わせ毎のスコアに関する情報を記憶する。ここで、図6に、実施形態に係るスコア情報記憶部123の一例を示す。図6に示した例では、スコア情報記憶部123は、「スコアID」、「推定結果の組み合わせ」、「スコア」といった項目を有する。
(About score information storage unit 123)
The score
「スコアID」は、第1音声の推定結果と第2音声の推定結果との組み合わせに対応するスコアを識別するための識別情報を示す。「推定結果の組み合わせ」は、第1音声の推定結果と第2音声の推定結果との組み合わせに対応するスコアを示す。例えば、図6では、スコアIDによって識別される「SCC1」に対応する推定結果の組み合わせは「連想ゲーム×連想ゲーム」であり、かかる推定結果の組み合わせにおけるスコアは「3.7」であることを示す。 The “score ID” indicates identification information for identifying the score corresponding to the combination of the estimation result of the first voice and the estimation result of the second voice. The "combination of estimation results" indicates a score corresponding to the combination of the estimation result of the first voice and the estimation result of the second voice. For example, in FIG. 6, the combination of estimation results corresponding to "SCC1" identified by the score ID is "associative game x associative game", and the score in the combination of such estimation results is "3.7". show.
(制御部130について)
制御部130は、コントローラ(Controller)であり、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、決定装置100内部の記憶装置に記憶されている各種プログラム(決定プログラムの一例に相当)がRAMを作業領域として実行されることにより実現される。また、制御部130は、コントローラであり、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。
(About control unit 130)
The
図3に示すように、制御部130は、受付部131と、判定部132と、推定部133と、算出部134と、決定部135と、提供部136とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図3に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部130が有する各処理部の接続関係は、図3に示した接続関係に限られず、他の接続関係であってもよい。
As shown in FIG. 3, the
(受付部131について)
受付部131は、ユーザによって発話された音声を受け付ける。例えば、受付部131は、端末装置10がユーザによって発話された音声を受け付けたことに関する情報を受付部131へ送信することに基づいて、ユーザによって発話された音声を受け付ける。そして、受付部131は、かかる音声の波形データを音声情報記憶部121に格納する。
(About reception desk 131)
The
(判定部132について)
判定部132は、受付部131によって受け付けられた第1音声と、受付部131によって第1音声の後に受け付けられた第2音声との類似性に基づいて、第2音声が第1音声に続いて繰り返し発話された音声であるかを判定する。具体的には、判定部132は、音声情報記憶部121を参照し、第1音声と第2音声との類似度を音声情報記憶部121に格納し、第2音声が第1音声に続いて繰り返し発話された音声であると判定する。
(About judgment unit 132)
In the determination unit 132, the second voice follows the first voice based on the similarity between the first voice received by the
例えば、音声IDにより識別される第1音声「WV1」と、第2音声「WV2」とであるとする。また、類似度の所定値が0.8であるとする。この場合、判定部132は、第1音声「WV1」の音声波形と第2音声「WV2」の音声波形との類似度「0.9」を音声情報記憶部121に格納する。そして、判定部132は、かかる類似度が所定値以上であるため、第1音声「WV1」と第2音声「WV2」とが繰り返し発話されたと判定する。
For example, it is assumed that the first voice "WV1" and the second voice "WV2" are identified by the voice ID. Further, it is assumed that the predetermined value of the similarity is 0.8. In this case, the determination unit 132 stores the similarity “0.9” between the voice waveform of the first voice “WV1” and the voice waveform of the second voice “WV2” in the voice
(推定部133について)
推定部133は、ユーザによって発話された音声に対応する発話内容を推定する。具体的には、推定部133は、音声情報記憶部121を参照して、ユーザによって最初に発話された音声である第1音声に対応する発話内容を推定する。そして、推定部133は、第1音声の発話内容を推定すると共に、第1音声の推定結果の推定精度を算出する。そして、推定部133は、かかる第1音声の推定結果と推定精度とを推定結果情報記憶部122に格納する。なお、推定部133は、例えば、音声の波形や振幅等のパラメータと文言との対応関係に関する情報に基づいて、発話内容を推定する。そして、推定部133は、例えば、音声の波形と推定結果の波形との一致度に基づいて、推定精度を算出する。
(About estimation unit 133)
The estimation unit 133 estimates the utterance content corresponding to the voice uttered by the user. Specifically, the estimation unit 133 refers to the voice
また、推定部133は、音声情報記憶部121を参照して、ユーザによって第1音声に続いて発話された音声である第2音声に対応する発話内容を推定する。そして、推定部133は、第2音声の発話内容を推定すると共に、第2音声の推定結果の推定精度を算出する。そして、推定部133は、かかる第2音声の推定結果と推定精度とを推定結果情報記憶部122に格納する。
In addition, the estimation unit 133 refers to the voice
例えば、音声IDにより識別される第1音声「WV1」と、第2音声「WV2」とであるとする。この場合、推定部133は、音声情報記憶部121を参照し、第1音声「WV1」に対応する第1音声の推定結果として、「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」を推定する。そして、推定部133は、第1音声の推定結果である「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」に対応する推定精度として、「1.0」、「0.9」、「0.8」と算出する。そして、推定部133は、かかる第1音声の推定結果と推定精度とを推定結果情報記憶部122に格納する。また、推定部133は、音声情報記憶部121を参照し、第2音声「WV2」に対応する第2音声の推定結果として、「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」を推定する。そして、推定部133は、第2音声の推定結果である「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」に対応する推定精度として、「1.0」、「0.9」、「0.8」と算出する。そして、推定部133は、かかる第2音声の推定結果と推定精度とを推定結果情報記憶部122に格納する。
For example, it is assumed that the first voice "WV1" and the second voice "WV2" are identified by the voice ID. In this case, the estimation unit 133 refers to the voice
また、推定部133は、ユーザによって発話された音声から推定された推定結果を、推定結果の推定精度に基づいて、ランク付けを行う。そして、推定部133は、かかる推定結果のランキング情報を推定結果情報記憶部122に格納する。例えば、推定部133は、第1音声の推定結果に対応する推定精度に基づいて、「演奏ゲーム」、「塩素ゲーム」、「連想ゲーム」の順でランク付けを行う。そして、推定部133は、かかる第1音声の推定結果のランキング情報を推定結果情報記憶部122に格納する。また、推定部133は、第2音声の推定結果に対応する推定精度に基づいて、「清掃ゲーム」、「連想ゲーム」、「炎症ゲーム」の順でランク付けを行う。そして、推定部133は、かかる第2音声の推定結果のランキング情報を推定結果情報記憶部122に格納する。
In addition, the estimation unit 133 ranks the estimation results estimated from the voice uttered by the user based on the estimation accuracy of the estimation results. Then, the estimation unit 133 stores the ranking information of the estimation result in the estimation result
(算出部134について)
算出部134は、推定部133によって推定された第1の推定結果(第1音声の推定結果に相当)と第2の推定結果(第2音声の推定結果に相当)との組み合わせ毎に、第1音声の推定結果の推定精度と第2音声の推定結果の推定精度とに基づいてスコアを算出する。例えば、算出部134は、推定結果情報記憶部122から、「連想ゲーム×連想ゲーム」と「演奏ゲーム×清掃ゲーム」とを読み出す。例えば、「連想ゲーム×連想ゲーム」において、形態素解析等により、「連想」と「ゲーム」とが一致していることから、重複度が「2.0」と算出されるものとする。この場合、算出部134は、「連想ゲーム×連想ゲーム」において、第1音声の推定結果「連想ゲーム」の推定精度が「0.8」であり、第2音声の推定結果「連想ゲーム」の推定精度が「0.9」であり、重複度が「2.0」であることから、スコアSC1は「3.7」と算出する。また、例えば、「演奏ゲーム×清掃ゲーム」において、形態素解析等により、「ゲーム」が一致していることから、重複度が「1.0」と算出されるものとする。この場合、算出部134は、「演奏ゲーム×清掃ゲーム」において、第1音声の推定結果「演奏ゲーム」の推定精度が「1.0」であり、第2音声の推定結果「清掃ゲーム」の推定精度が「1.0」であり、重複度が「1.0」であることから、スコアSC1は「3.0」と算出する。そして、算出部134は、各組み合わせに対応するスコアSC1をスコア情報記憶部123に格納する。
(About calculation unit 134)
The calculation unit 134 uses the calculation unit 134 for each combination of the first estimation result (corresponding to the estimation result of the first voice) and the second estimation result (corresponding to the estimation result of the second voice) estimated by the estimation unit 133. The score is calculated based on the estimation accuracy of the estimation result of the first voice and the estimation accuracy of the estimation result of the second voice. For example, the calculation unit 134 reads out the “associative game × associative game” and the “playing game × cleaning game” from the estimation result
(決定部135について)
決定部135は、推定部133によって第1音声から推定された第1推定結果(第1音声の推定結果に相当)における推定精度と、第1音声に続いてユーザによって繰り返し発話された第2音声から推定された第2推定結果(第2音声の推定結果に相当)における推定精度とに基づいて、第1音声及び第2音声に対応する音声認識結果を決定する。具体的には、決定部135は、スコア情報記憶部123に記憶されるスコアSC1が最も大きい第1音声の推定結果と第2音声の推定結果との組み合わせから、第1音声及び第2音声に対応する音声認識結果を決定する。例えば、決定部135は、スコア情報記憶部123を参照して、「連想ゲーム×連想ゲーム」におけるスコアSC1が「3.7」であり、「演奏ゲーム×清掃ゲーム」におけるスコアSC1が「3.0」であることから、「連想ゲーム×連想ゲーム」のスコアSC1が最も大きいため、第1音声の推定結果及び第2音声の推定結果から選択された「連想ゲーム」を音声認識結果として決定する。
(About decision unit 135)
The
(提供部136について)
提供部136は、決定部135によって決定された音声認識結果を端末装置10に提供する。例えば、音声認識結果が「連想ゲーム」であるとする。この場合、提供部136は、「連想ゲーム」をテキスト化して端末装置10に提供する。そして、端末装置10は、ユーザに対して「連想ゲーム」というテキストを表示する。
(About the provider 136)
The providing unit 136 provides the
〔3.決定処理のフローチャート〕
次に、図7を用いて、実施形態に係る決定装置100が実行する決定処理の手順について説明する。図7は、実施形態に係る決定装置が実行する決定処理の流れの一例を示すフローチャートである。
[3. Flowchart of decision processing]
Next, the procedure of the determination process executed by the
図7に示すように、受付部131は、ユーザによって発話された音声を受け付ける(ステップS101)。そして、判定部132は、第1音声と第2音声との類似度が所定値以上である場合、第1音声と第2音声とが繰り返し発話されたと判定する(ステップS102)。判定部132は、ユーザによって繰り返し発話された音声であると判定しない場合(ステップS102;No)、ユーザによって発話された音声を受け付けるまで待機する。
As shown in FIG. 7, the
一方、判定部132がユーザによって繰り返し発話された音声と判定した場合(ステップS102;Yes)、推定部133は、判定部132によって判定された第1音声と第2音声とに対応する発話内容を推定し、推定結果のランク付けを行う(ステップS103)。 On the other hand, when the determination unit 132 determines that the voice is repeatedly spoken by the user (step S102; Yes), the estimation unit 133 determines the utterance content corresponding to the first voice and the second voice determined by the determination unit 132. Estimate and rank the estimation results (step S103).
決定部135は、算出部134が推定部133によって推定された推定結果の組み合わせにおいて算出したスコアが最も大きい第1音声の推定結果及び第2音声の推定結果を音声認識結果として決定する(ステップS104)。そして、提供部136は、決定部135によって決定された音声認識結果を端末装置10に提供する(ステップS105)。
The
〔4.音声認識結果の決定処理〕
次に、図8を用いて、実施形態に係る決定システム1における音声認識結果の決定について説明する。図8は、実施形態に係る音声認識結果の決定の一例を示す図である。
[4. Speech recognition result determination process]
Next, the determination of the voice recognition result in the
図8を用いて第1音声の推定結果と第2音声の推定結果とが異なる場合について説明する。図8は、第1音声の推定結果とかかる推定結果の推定精度と、第2音声の推定結果とかかる推定結果の推定精度とにおける組み合わせを示す図である。図8に示す例においては、第1音声の推定結果WT5に示すように「まつしま」は、推定精度「1.0」である。 A case where the estimation result of the first voice and the estimation result of the second voice are different from each other will be described with reference to FIG. FIG. 8 is a diagram showing a combination of the estimation result of the first voice and the estimation accuracy of the estimation result, and the estimation result of the second voice and the estimation accuracy of the estimation result. In the example shown in FIG. 8, “Matsushima” has an estimation accuracy of “1.0” as shown in the estimation result WT5 of the first voice.
図8に示す例では、決定装置100は、第1音声の推定結果の推定精度と第2音声の推定結果の推定精度と重複度とを加味したスコアを算出する。例えば、「まつしま×やつしま」において、文字の重複度を解析することにより、「つ」と「し」と「ま」が一致していることから、重複度が「3.0」と算出されるものとする。この場合、決定装置100は、図8中の算出式スコアCT21に示す式により、第1音声の推定結果WT5「まつしま」の推定精度「1.0」と、第2音声の推定結果WT6「やつしま」の推定精度「0.9」と、重複度「3.0」であるから、スコアCT21「4.9」と算出する。
In the example shown in FIG. 8, the
また、例えば、図8に示す例において、以下の組み合わせにおいて上記算出方法に基づいてスコアCT22〜CT24を算出する。
スコアCT22(「まつしま×はつしま」) =4.8 ・・・ (9)
スコアCT23(「たつしま×やつしま」) =4.8 ・・・ (10)
スコアCT24(「たつしま×はつしま」) =4.6 ・・・ (11)
Further, for example, in the example shown in FIG. 8, the scores CT22 to CT24 are calculated based on the above calculation method in the following combinations.
Score CT22 ("Matsushima x Hatsushima") = 4.8 ... (9)
Score CT23 ("Tatsushima x Yatsushima") = 4.8 ... (10)
Score CT24 ("Tatsushima x Hatsushima") = 4.6 ... (11)
そして、決定装置100は、各スコアCT21〜24を比較する。例えば、決定装置100は、第1音声の推定結果WT5「まつしま」と、第2音声の推定結果WT6「やつしま」とのスコアCT21が最も大きいため、第1音声の推定結果WT5及び第2音声の推定結果WT6を音声認識結果として決定する。
Then, the
〔5.変形例〕
上述した決定装置100は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、決定装置100の他の実施形態について説明する。
[5. Modification example]
The
〔5−1.決定装置(1)〕
図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、決定装置100は、受付部131と判定部132とで構成される受付装置と、推定部133と算出部134と決定部135と提供部136とで構成される決定装置とに分散させてもよい。
[5-1. Determining device (1)]
Each component of each of the illustrated devices is a functional concept and does not necessarily have to be physically configured as shown in the figure. That is, the specific form of distribution / integration of each device is not limited to the one shown in the figure, and all or part of the device is functionally or physically dispersed / physically distributed in any unit according to various loads and usage conditions. Can be integrated and configured. For example, the
〔5−2.決定装置(2)〕
上記実施形態では、決定装置100がユーザによって2回発話された音声に対応する推定結果の組み合わせにおけるスコアに基づいて、音声認識結果を決定する決定処理の一例を説明したが、決定装置100は、これに限定されるものではない。例えば、決定装置100が実行する決定処理は、端末装置10がスタンドアローンで実行してもよい。
[5-2. Determining device (2)]
In the above embodiment, an example of the determination process in which the
〔5−3.発話回数〕
上記実施形態では、決定装置100の決定部135がユーザによって2回発話された音声に対応する推定結果の組み合わせ毎のスコアに基づいて、音声認識結果を決定する決定処理の一例を説明したが、発話回数は、これに限定されるものではない。例えば、決定部135は、ユーザによって3回以上発話された音声に対応する推定結果の組み合わせにおけるスコアに基づいて、音声認識結果を決定してもよい。
[5-3. Number of utterances]
In the above embodiment, an example of the determination process in which the
〔5−4.判定処理〕
上記実施形態では、決定装置100の判定部132が第1音声と、第1音声の後に受け付けられた第2音声との類似性に基づいて、第2音声が第1音声に続いて繰り返し発話された音声であるかを判定する判定処理の一例を説明したが、判定部132は、判定処理を行う前に、ユーザによって発話された音声のうち、感嘆詞等と推定される音声波形を除去した音声に基づいて、第2音声が第1音声に続いて繰り返し発話された音声であるかを判定してもよい。例えば、第1音声「WV3」には「あっ」と推定される音声波形が含まれているとする。また、第1音声「WV4」には「えー」と推定される音声波形が含まれているとする。この場合、判定部132は、第1音声に含まれる「あっ」に対応する音声波形を削除し、第2音声に含まれる「えー」に対応する音声波形を削除する。そして、判定部132は、第1音声「WV3」と第2音声「WV4」との類似性に基づいて、第2音声が第1音声に続いて繰り返し発話された音声であるかを判定してもよい。
[5-4. Determination process〕
In the above embodiment, the determination unit 132 of the
〔5−5.算出処理〕
上記実施形態では、決定装置100の算出部134が推定結果の組み合わせ毎のスコアを算出する算出処理の一例を説明したが、算出部134は、重複度に限らず、単語の内容に基づいて、スコアを算出してもよい。例えば、算出部134は、以下のような式(12)によりスコアSC2を算出する。
[5-5. Calculation process]
In the above embodiment, an example of the calculation process in which the calculation unit 134 of the
スコアSC2 = Acc1+Acc2+Con ・・・ (12) Score SC2 = Acc1 + Acc2 + Con ... (12)
上記式(12)では、「Acc1」は、第1音声の推定結果の推定精度を示し、「Acc2」は、第2音声の推定結果の推定精度を示し、「Con」は、第1音声の推定結果と第2音声の推定結果とに含まれる単語の意味に関する情報(以下、意味重複度と記載する)を示す。例えば、「写真アプリケーション×画像アプリケーション」と「演奏アプリケーション×清掃アプリケーション」とにおけるスコアSC2を算出するとする。また、「写真アプリケーション×画像アプリケーション」において、意味解析等により、「写真」と「画像」の意味が一致していることと、「アプリケーション」が一致していることとから、意味重複度が「2.0」と算出されるものとする。この場合、「写真アプリケーション×画像アプリケーション」において、第1音声の推定結果「写真アプリケーション」の推定精度が「0.8」であり、第2音声の推定結果「画像アプリケーション」の推定精度が「0.9」であり、意味重複度が「2.0」であることから、スコアSC2を「3.7」と算出する。また、例えば、「演奏アプリケーション×清掃アプリケーション」において、意味解析等により、「アプリケーション」が一致しているため、意味重複度が「1.0」と算出されるものとする。この場合、算出部134は、「演奏アプリケーション×清掃アプリケーション」において、第1音声の推定結果「演奏アプリケーション」の推定精度が「1.0」であり、第2音声の推定結果「清掃アプリケーション」の推定精度が「1.0」であり、意味重複度が「1.0」であることから、スコアSC2は「3.0」と算出する。 In the above equation (12), "Acc1" indicates the estimation accuracy of the estimation result of the first voice, "Acc2" indicates the estimation accuracy of the estimation result of the second voice, and "Con" indicates the estimation accuracy of the first voice. Information on the meaning of the word included in the estimation result and the estimation result of the second voice (hereinafter referred to as the degree of meaning duplication) is shown. For example, suppose that the score SC2 in "photograph application x image application" and "performance application x cleaning application" is calculated. In addition, in the "photo application x image application", the degree of semantic overlap is "" because the meanings of "photo" and "image" match and the "application" matches by semantic analysis or the like. It shall be calculated as "2.0". In this case, in the "photograph application x image application", the estimation accuracy of the first sound estimation result "photograph application" is "0.8", and the estimation accuracy of the second sound estimation result "image application" is "0". Since it is "0.9" and the degree of semantic overlap is "2.0", the score SC2 is calculated as "3.7". Further, for example, in the "performance application x cleaning application", since the "applications" match by semantic analysis or the like, the semantic overlap degree is calculated to be "1.0". In this case, in the "playing application x cleaning application", the calculation unit 134 has an estimation accuracy of "1.0" for the estimation result "playing application" of the first sound, and the estimation result "cleaning application" of the second sound. Since the estimation accuracy is "1.0" and the semantic overlap degree is "1.0", the score SC2 is calculated as "3.0".
〔5−6.決定処理〕
上記実施形態では、決定装置100の決定部135がユーザによって2回発話された音声から推定された推定結果の組み合わせ毎のスコアに基づいて、音声認識結果を決定する決定処理の一例を説明したが、決定部135は、ユーザによって繰り返し発話された音声から推定された正しい推定結果とそれ以外の推定結果とに基づいて生成された学習モデルに基づいて、音声認識結果を決定してもよい。例えば、決定部135は、ユーザによって繰り返し発話された音声から推定された正しい推定結果を正例として学習し、それ以外の推定結果を負例として学習する。そして、決定部135は、ユーザによって繰り返し発話された音声が予測対象の音声として入力された場合に、推定結果に対応するスコアに基づいて、音声認識結果を決定する。
[5-6. Decision processing]
In the above embodiment, an example of the determination process in which the
図9を用いて、変形例に係る決定装置100が実行する決定処理の一例について説明する。図9は、変形例に係る決定装置100が実行する決定処理の一例を示す図である。以下、図9を用いて、決定装置100が実行する決定処理の一例を流れに沿って説明する。
An example of the determination process executed by the
まず、図9に示すように、決定装置100は、ユーザによって繰り返し発話された音声から推定された正しい推定結果と、それ以外の推定結果とに基づいて、学習モデルM1を生成する(ステップS21)。例えば、決定装置100は、ユーザによって繰り返し発話された音声から推定された正しい推定結果を正例として学習し、それ以外の推定結果を負例として学習する。そして、決定装置100は、予測対象の音声が入力された場合に、予測対象の音声に対するスコアを算出する学習モデルM1を生成する。そして、決定装置100は、学習モデルM1に予測対象の音声を入力する(ステップS22)。例えば、決定装置100は、学習モデルM1にユーザによって繰り返し発話された音声を予測対象の音声として入力する。続いて、決定装置100は、学習モデルM1に基づいて、推定結果に対応するスコアを算出する(ステップS23)。例えば、決定装置100は、学習モデルM1にユーザによって繰り返し発話された音声を予測対象の音声として入力し、正例のスコアを1として、負例のスコアを0として、予測対象の音声に対する推定結果に対応するスコアを0から1のスコアとして算出する。そして、決定装置100は、スコアに基づいて、音声認識結果を決定する(ステップS24)。
First, as shown in FIG. 9, the
なお、決定装置100は、いかなる学習アルゴリズムを用いて学習モデルM1を生成してもよい。例えば、決定装置100は、ニューラルネットワーク(neural network)、サポートベクターマシン(support vector machine)、クラスタリング、強化学習等の学習アルゴリズムを用いて学習モデルM1を生成する。一例として、決定装置100がニューラルネットワークを用いて学習モデルM1を生成する場合、学習モデルM1は、1以上のニューロンを含む入力層と、1以上のニューロンを含む中間層と、1以上のニューロンを含む出力層とを有する。
The
これにより、実施形態に係る決定装置100の決定部135は、ユーザによって発話された音声の傾向を学習した学習モデルにより、予測対象として入力される繰り返し音声に対応する音声認識結果を高精度に決定することができる。
As a result, the
〔6.ハードウェア構成〕
また、上述してきた実施形態に係る端末装置10及び決定装置100は、例えば図10に示すような構成のコンピュータ1000によって実現される。以下、決定装置100を例に挙げて説明する。図10は、決定装置100の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
[6. Hardware configuration]
Further, the
CPU1100は、ROM1300又はHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
The
HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、ネットワークNを介して他の機器からデータを受信してCPU1100へ送り、CPU1100がネットワークNを介して生成したデータを他の機器へ送信する。
The
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、入出力インターフェイス1600を介して生成したデータを出力装置へ出力する。
The
メディアインターフェイス1700は、記録媒体1800に格納されたプログラム又はデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile DiSC1)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
The
例えば、コンピュータ1000が実施形態に係る決定装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部130の機能を実現する。また、HDD1400には、記憶部120内のデータが格納される。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置からネットワークNを介してこれらのプログラムを取得してもよい。
For example, when the
〔7.その他〕
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
[7. others〕
Further, among the processes described in the above-described embodiments and modifications, all or part of the processes described as being automatically performed can be manually performed, or are described as being manually performed. It is also possible to automatically perform all or part of the processed processing by a known method. In addition, the processing procedure, specific name, and information including various data and parameters shown in the above document and drawings can be arbitrarily changed unless otherwise specified. For example, the various information shown in each figure is not limited to the illustrated information.
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。 Further, each component of each of the illustrated devices is a functional concept, and does not necessarily have to be physically configured as shown in the figure. That is, the specific form of distribution / integration of each device is not limited to the one shown in the figure, and all or part of the device is functionally or physically dispersed / physically distributed in any unit according to various loads and usage conditions. Can be integrated and configured.
また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。 Further, the above-described embodiments and modifications can be appropriately combined as long as the processing contents do not contradict each other.
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、決定部は、決定手段や決定回路に読み替えることができる。 Further, the above-mentioned "section, module, unit" can be read as "means" or "circuit". For example, the determination unit can be read as a determination means or a determination circuit.
〔8.効果〕
上述してきたように、実施形態に係る決定装置100は、推定部133と、決定部135とを有する。推定部133は、ユーザによって発話された音声に対応する発話内容を推定する。決定部135は、推定部133によって第1音声から推定された第1推定結果(第1音声の推定結果に相当)における推定精度と、第1音声に続いてユーザによって繰り返し発話された第2音声から推定された第2推定結果(第2音声の推定結果に相当)における推定精度とに基づいて、第1音声及び第2音声に対応する音声認識結果を決定する。
[8. effect〕
As described above, the
これにより、実施形態に係る決定装置100は、ユーザによって繰り返し発話された音声の組み合わせ毎に算出されるスコアに基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, the
また、実施形態に係る決定装置100において、決定部135は、第1推定結果における推定精度と、第2推定結果における推定精度とに基づいて、第1推定結果及び第2推定結果のいずれかを第1音声及び第2音声に対応する音声認識結果として決定する。
Further, in the
これにより、実施形態に係る決定装置100は、ユーザによって繰り返し発話された音声の組み合わせにおいて、第1音声の推定結果と第2音声の推定結果とが異なる場合、各推定結果の推定精度に基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, when the estimation result of the first voice and the estimation result of the second voice are different in the combination of the voices repeatedly uttered by the user, the
また、実施形態に係る決定装置100において、推定部133は、ユーザによって発話された1の音声に対応する複数の発話内容を推定し、決定部135は、第1音声から推定された複数の第1推定結果におけるそれぞれの推定精度と、第2音声から推定された複数の第2推定結果におけるそれぞれの推定精度とに基づいて、複数の第1推定結果及び複数の第2推定結果のいずれか1つを第1音声及び第2音声に対応する音声認識結果として決定する。
Further, in the
これにより、実施形態に係る決定装置100は、ユーザによって繰り返し発話された音声の組み合わせ毎に算出されるスコアに基づいて決定された組み合わせにおいて、第1音声の推定結果と第2音声の推定結果とが異なる場合、各推定結果の推定精度に基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, the
また、実施形態に係る決定装置100において、第1の推定結果と第2の推定結果との組み合わせ毎に、第1推定結果の推定精度と第2推定結果の推定精度とに基づいてスコアを算出する算出部134をさらに備え、決定部135は、算出部134によって算出されたスコアに基づいて選択される第1推定結果と第2推定結果との組み合わせに含まれる第1推定結果及び第2推定結果のいずれかを第1音声及び第2音声に対応する音声認識結果として決定する。
Further, in the
これにより、実施形態に係る決定装置100は、ユーザによって繰り返し発話された音声の組み合わせ毎に算出されるスコアに基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, the
また、実施形態に係る決定装置100において、算出部134は、第1推定結果と第2推定結果との組み合わせ毎に、第1推定結果と第2推定結果とが重複する度合いに基づいてスコアを算出する。
Further, in the
これにより、実施形態に係る決定装置100は、ユーザによって繰り返し発話された同じ内容の音声を音声ごとの重複度に基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, the
また、実施形態に係る決定装置100において、算出部134は、第1推定結果と第2推定結果との組み合わせ毎に、第1推定結果と第2推定結果とに含まれる類似の意味を有する単語に関する重複する度合いに基づいてスコアを算出する。
Further, in the
これにより、実施形態に係る決定装置100は、ユーザによって複数回発話された同じ内容の音声を音声内に使用される単語の意味に関する類似性に基づいて音声認識結果を決定することができるので、音声認識の精度を向上させることができる。
As a result, the
また、実施形態に係る決定装置100において、ユーザによって発話された音声を受け付ける受付部131と、受付部131によって受け付けられた第1音声と、受付部131によって第1音声の後に受け付けられた第2音声との類似性に基づいて、第2音声が第1音声に続いて繰り返し発話された音声であるかを判定する判定部132とをさらに備え、決定部135は、判定部132によって第2音声が第1音声に続いて繰り返し発話された音声であると判定された場合に、第1音声及び第2音声に対応する音声認識結果を決定する。
Further, in the
これにより、実施形態に係る決定装置100は、複数の音声がユーザによって複数回発話されたか否かを精密に判定することができるため、ユーザの負担が最小限に抑えられた状態で音声認識を行うことができる。
As a result, the
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。 Although some of the embodiments of the present application have been described in detail with reference to the drawings, these are examples, and various modifications are made based on the knowledge of those skilled in the art, including the embodiments described in the disclosure column of the invention. It is possible to practice the present invention in other improved forms.
1 決定システム
10 端末装置
100 決定装置
110 通信部
120 記憶部
121 音声情報記憶部
122 推定結果情報記憶部
123 スコア情報記憶部
130 制御部
131 受付部
132 判定部
133 推定部
134 算出部
135 決定部
136 提供部
1
Claims (10)
前記推定部によって第1音声から推定された第1推定結果における推定精度と、前記第1音声に続いて前記ユーザによって繰り返し発話された第2音声から推定された第2推定結果における推定精度と、前記第1推定結果と前記第2推定結果とが重複する度合いを示す重複度とに基づいて、前記第1推定結果と前記第2推定結果との組み合わせ毎のスコアを算出する算出部と、
前記算出部によって算出されたスコアに基づいて、前記第1音声及び前記第2音声に対応する音声認識結果を決定する決定部と、
を備えたことを特徴とする決定装置。 An estimation unit that estimates the utterance content corresponding to the voice spoken by the user,
The estimation accuracy in the first estimation result estimated from the first voice by the estimation unit, and the estimation accuracy in the second estimation result estimated from the second voice repeatedly spoken by the user following the first voice . A calculation unit that calculates a score for each combination of the first estimation result and the second estimation result based on the degree of overlap indicating the degree of overlap between the first estimation result and the second estimation result.
Based on the score calculated by the calculation unit, the determination unit that determines the voice recognition result corresponding to the first voice and the second voice, and
A determination device characterized by being equipped with.
前記第1推定結果における推定精度と、前記第2推定結果における推定精度とに基づいて、前記第1推定結果及び前記第2推定結果のいずれかを前記第1音声及び前記第2音声に対応する音声認識結果として決定する、
ことを特徴とする請求項1に記載の決定装置。 The decision unit
Based on the estimation accuracy in the first estimation result and the estimation accuracy in the second estimation result, either the first estimation result or the second estimation result corresponds to the first voice and the second voice. Determined as a voice recognition result,
The determination device according to claim 1.
ユーザによって発話された1の音声に対応する複数の発話内容を推定し、
前記決定部は、
前記第1音声から推定された複数の第1推定結果におけるそれぞれの推定精度と、前記第2音声から推定された複数の第2推定結果におけるそれぞれの推定精度とに基づいて、前記複数の第1推定結果及び前記複数の第2推定結果のいずれか1つを前記第1音声及び前記第2音声に対応する音声認識結果として決定する、
ことを特徴とする請求項1又は2に記載の決定装置。 The estimation unit
Estimate multiple utterance contents corresponding to one voice uttered by the user,
The decision unit
Based on the respective estimation accuracy in the plurality of first estimation results estimated from the first voice and the respective estimation accuracy in the plurality of second estimation results estimated from the second voice, the plurality of first Any one of the estimation result and the plurality of second estimation results is determined as the voice recognition result corresponding to the first voice and the second voice.
The determination device according to claim 1 or 2.
前記スコアに基づいて選択される前記第1推定結果と前記第2推定結果との組み合わせに含まれる前記第1推定結果及び前記第2推定結果のいずれかを前記第1音声及び前記第2音声に対応する音声認識結果として決定する、
ことを特徴とする請求項1〜3のいずれか1つに記載の決定装置。 Before Symbol determining unit,
Before the selected on the basis of the kiss core first estimated result and said second estimation result the included in the combination of the first estimated result and said second estimated 1 wherein said one of the results voice and the second Determined as the voice recognition result corresponding to the voice,
The determination device according to any one of claims 1 to 3.
前記第1推定結果と前記第2推定結果との組み合わせ毎に、前記第1推定結果と前記第2推定結果とが重複する度合いに基づいて前記スコアを算出する、
ことを特徴とする請求項4に記載の決定装置。 The calculation unit
For each combination of the first estimation result and the second estimation result, the score is calculated based on the degree of overlap between the first estimation result and the second estimation result.
The determination device according to claim 4, wherein the determination device is characterized by the above.
前記第1推定結果と前記第2推定結果との組み合わせ毎に、前記第1推定結果と前記第2推定結果とに含まれる類似の意味を有する単語に関する重複する度合いに基づいて前記スコアを算出する、
ことを特徴とする請求項4に記載の決定装置。 The calculation unit
For each combination of the first estimation result and the second estimation result, the score is calculated based on the degree of duplication of words having similar meanings contained in the first estimation result and the second estimation result. ,
The determination device according to claim 4, wherein the determination device is characterized by the above.
前記受付部によって受け付けられた前記第1音声と、前記受付部によって前記第1音声の後に受け付けられた前記第2音声との類似性に基づいて、前記第2音声が前記第1音声に続いて繰り返し発話された音声であるかを判定する判定部とをさらに備え、
前記決定部は、
前記判定部によって前記第2音声が前記第1音声に続いて繰り返し発話された音声であると判定された場合に、前記第1音声及び前記第2音声に対応する音声認識結果を決定する、
ことを特徴とする請求項1〜6のいずれか1つに記載の決定装置。 A reception unit that receives voice uttered by the user,
Based on the similarity between the first voice received by the reception unit and the second voice received by the reception unit after the first voice, the second voice follows the first voice. Further equipped with a determination unit for determining whether the voice is repeatedly spoken,
The decision unit
When the determination unit determines that the second voice is a voice repeatedly uttered following the first voice, the voice recognition result corresponding to the first voice and the second voice is determined.
The determination device according to any one of claims 1 to 6, characterized in that.
ユーザによって発話された音声に対応する発話内容を推定する推定工程と、
前記推定工程によって第1音声から推定された第1推定結果における推定精度と、前記第1音声に続いて前記ユーザによって繰り返し発話された第2音声から推定された第2推定結果における推定精度と、前記第1推定結果と前記第2推定結果とが重複する度合いを示す重複度とに基づいて、前記第1推定結果と前記第2推定結果との組み合わせ毎のスコアを算出する算出工程と、
前記算出工程によって算出されたスコアに基づいて、前記第1音声及び前記第2音声に対応する音声認識結果を決定する決定工程と、
を備えたことを特徴とする決定方法。 It ’s a decision method that a computer makes.
An estimation process that estimates the utterance content corresponding to the voice spoken by the user,
The estimation accuracy in the first estimation result estimated from the first voice by the estimation step, and the estimation accuracy in the second estimation result estimated from the second voice repeatedly spoken by the user following the first voice . A calculation step of calculating a score for each combination of the first estimation result and the second estimation result based on the degree of overlap indicating the degree of overlap between the first estimation result and the second estimation result.
Based on the score calculated by the calculation step, a determination step of determining the voice recognition result corresponding to the first voice and the second voice, and
A determination method characterized by having.
前記推定手順によって第1音声から推定された第1推定結果における推定精度と、前記第1音声に続いて前記ユーザによって繰り返し発話された第2音声から推定された第2推定結果における推定精度と、前記第1推定結果と前記第2推定結果とが重複する度合いを示す重複度とに基づいて、前記第1推定結果と前記第2推定結果との組み合わせ毎のスコアを算出する算出手順と、
前記算出手順によって算出されたスコアに基づいて、前記第1音声及び前記第2音声に対応する音声認識結果を決定する決定手順と、
をコンピュータに実行させることを特徴とする決定プログラム。 An estimation procedure for estimating the utterance content corresponding to the voice spoken by the user, and
The estimation accuracy in the first estimation result estimated from the first voice by the estimation procedure, and the estimation accuracy in the second estimation result estimated from the second voice repeatedly spoken by the user following the first voice . A calculation procedure for calculating a score for each combination of the first estimation result and the second estimation result based on the degree of overlap indicating the degree of overlap between the first estimation result and the second estimation result.
A determination procedure for determining the voice recognition results corresponding to the first voice and the second voice based on the score calculated by the calculation procedure, and
A decision program characterized by having a computer execute.
出力層と、
前記入力層から前記出力層までのいずれかの層であって前記出力層以外の層に属する第1要素と、
前記第1要素と前記第1要素の重みとに基づいて値が算出される第2要素と、を含むモデルを備えたコンピュータであって、
前記入力層に入力された前記第1推定結果と前記第2推定結果と前記重複度に対し、前記出力層以外の各層に属する各要素を前記第1要素として、前記第1要素と前記第1要素の重みとに基づく演算を行うことにより、前記第1音声及び前記第2音声に対応する音声認識結果を前記出力層から出力するよう、
コンピュータを機能させるプログラム。 The first estimation result estimated from the first voice spoken by a predetermined user, the second estimation result estimated from the second voice repeatedly spoken by the user following the first voice, and the first estimation result . An input layer in which an input layer indicating the degree of overlap between the estimation result and the second estimation result is input, and
Output layer and
A first element that is any layer from the input layer to the output layer and belongs to a layer other than the output layer.
A second element, a a computer with a including model value is calculated based on the weight of said first element and said first element,
With respect to the first estimation result, the second estimation result, and the multiplicity input to the input layer, each element belonging to each layer other than the output layer is set as the first element, and the first element and the first element are used. By performing the calculation based on the weight of the element, the voice recognition result corresponding to the first voice and the second voice is output from the output layer.
A program that makes a computer work.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018027245A JP6927905B2 (en) | 2018-02-19 | 2018-02-19 | Decision device, decision method, decision program and program |
| JP2021129331A JP7278340B2 (en) | 2018-02-19 | 2021-08-05 | Decision device, decision method, and decision program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018027245A JP6927905B2 (en) | 2018-02-19 | 2018-02-19 | Decision device, decision method, decision program and program |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021129331A Division JP7278340B2 (en) | 2018-02-19 | 2021-08-05 | Decision device, decision method, and decision program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019144355A JP2019144355A (en) | 2019-08-29 |
| JP6927905B2 true JP6927905B2 (en) | 2021-09-01 |
Family
ID=67773711
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018027245A Active JP6927905B2 (en) | 2018-02-19 | 2018-02-19 | Decision device, decision method, decision program and program |
| JP2021129331A Active JP7278340B2 (en) | 2018-02-19 | 2021-08-05 | Decision device, decision method, and decision program |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021129331A Active JP7278340B2 (en) | 2018-02-19 | 2021-08-05 | Decision device, decision method, and decision program |
Country Status (1)
| Country | Link |
|---|---|
| JP (2) | JP6927905B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6927905B2 (en) * | 2018-02-19 | 2021-09-01 | ヤフー株式会社 | Decision device, decision method, decision program and program |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2686085B2 (en) * | 1987-12-17 | 1997-12-08 | 三洋電機株式会社 | Voice recognition system |
| JP3112037B2 (en) * | 1991-10-17 | 2000-11-27 | 株式会社リコー | Voice recognition device |
| JPH11149294A (en) * | 1997-11-17 | 1999-06-02 | Toyota Motor Corp | Voice recognition device and voice recognition method |
| JP2001005480A (en) | 1999-06-23 | 2001-01-12 | Denso Corp | User pronunciation determination device and recording medium |
| JP4212947B2 (en) | 2003-05-02 | 2009-01-21 | アルパイン株式会社 | Speech recognition system and speech recognition correction / learning method |
| JP2005084436A (en) | 2003-09-09 | 2005-03-31 | Advanced Telecommunication Research Institute International | Speech recognition apparatus and computer program |
| JP5696638B2 (en) | 2011-06-02 | 2015-04-08 | 富士通株式会社 | Dialog control apparatus, dialog control method, and computer program for dialog control |
| JP6251958B2 (en) | 2013-01-28 | 2017-12-27 | 富士通株式会社 | Utterance analysis device, voice dialogue control device, method, and program |
| JP6604836B2 (en) * | 2015-12-14 | 2019-11-13 | 株式会社日立製作所 | Dialog text summarization apparatus and method |
| JP6927905B2 (en) | 2018-02-19 | 2021-09-01 | ヤフー株式会社 | Decision device, decision method, decision program and program |
-
2018
- 2018-02-19 JP JP2018027245A patent/JP6927905B2/en active Active
-
2021
- 2021-08-05 JP JP2021129331A patent/JP7278340B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2021177261A (en) | 2021-11-11 |
| JP2019144355A (en) | 2019-08-29 |
| JP7278340B2 (en) | 2023-05-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9905224B2 (en) | System and method for automatic language model generation | |
| CN111145733B (en) | Speech recognition method, speech recognition device, computer equipment and computer readable storage medium | |
| US20180277145A1 (en) | Information processing apparatus for executing emotion recognition | |
| CN106611598B (en) | A VAD dynamic parameter adjustment method and device | |
| CN112668317B (en) | Method and apparatus for determining output lexical units | |
| CN113674733B (en) | Method and apparatus for speaking time estimation | |
| JP6812381B2 (en) | Voice recognition accuracy deterioration factor estimation device, voice recognition accuracy deterioration factor estimation method, program | |
| JP6370962B1 (en) | Generating device, generating method, and generating program | |
| CN111816164A (en) | Method and device for speech recognition | |
| JP2022185799A (en) | Information processing program, information processing method and information processing device | |
| JP2022067223A (en) | Generation device and generation method | |
| WO2014176489A2 (en) | A system and method for supervised creation of personalized speech samples libraries in real-time for text-to-speech synthesis | |
| JP7278340B2 (en) | Decision device, decision method, and decision program | |
| US20090222266A1 (en) | Apparatus, method, and recording medium for clustering phoneme models | |
| JP6082657B2 (en) | Pose assignment model selection device, pose assignment device, method and program thereof | |
| JP2014098874A (en) | Voice recognition apparatus, voice recognition method and program | |
| JP2017211610A (en) | OUTPUT CONTROL DEVICE, ELECTRONIC DEVICE, CONTROL METHOD FOR OUTPUT CONTROL DEVICE, AND CONTROL PROGRAM FOR OUTPUT CONTROL DEVICE | |
| JP6605997B2 (en) | Learning device, learning method and program | |
| JP6983729B2 (en) | Extractor, evaluation device, extraction method and extraction program | |
| JP7013329B2 (en) | Learning equipment, learning methods and learning programs | |
| KR20110024624A (en) | Foreign language pronunciation evaluation system and method | |
| CN114742044B (en) | Information processing method, device and electronic equipment | |
| JP6546070B2 (en) | Acoustic model learning device, speech recognition device, acoustic model learning method, speech recognition method, and program | |
| JP7044642B2 (en) | Evaluation device, evaluation method and evaluation program | |
| JP7013331B2 (en) | Extractor, extraction method and extraction program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20191101 |
|
| RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20191108 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200309 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210119 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210126 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210316 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210706 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210805 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6927905 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |