Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6815899B2 - 出力文生成装置、出力文生成方法および出力文生成プログラム - Google Patents
[go: Go Back, main page]

JP6815899B2 - 出力文生成装置、出力文生成方法および出力文生成プログラム - Google Patents

出力文生成装置、出力文生成方法および出力文生成プログラム Download PDF

Info

Publication number
JP6815899B2
JP6815899B2 JP2017039141A JP2017039141A JP6815899B2 JP 6815899 B2 JP6815899 B2 JP 6815899B2 JP 2017039141 A JP2017039141 A JP 2017039141A JP 2017039141 A JP2017039141 A JP 2017039141A JP 6815899 B2 JP6815899 B2 JP 6815899B2
Authority
JP
Japan
Prior art keywords
sentence
output
candidate
keywords
ratio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017039141A
Other languages
English (en)
Other versions
JP2018147073A (ja
Inventor
守 小町
守 小町
晨 叶内
晨 叶内
朋哉 尾形
朋哉 尾形
智哉 高谷
智哉 高谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Tokyo Metropolitan Public University Corp
Original Assignee
Toyota Motor Corp
Tokyo Metropolitan Public University Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp, Tokyo Metropolitan Public University Corp filed Critical Toyota Motor Corp
Priority to JP2017039141A priority Critical patent/JP6815899B2/ja
Priority to US15/887,333 priority patent/US10643032B2/en
Priority to EP18155516.0A priority patent/EP3370165A1/en
Priority to CN201810166977.9A priority patent/CN108536670B/zh
Publication of JP2018147073A publication Critical patent/JP2018147073A/ja
Application granted granted Critical
Publication of JP6815899B2 publication Critical patent/JP6815899B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/55Rule-based translation
    • G06F40/56Natural language generation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • G06N3/0442Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • G06N3/0455Auto-encoder networks; Encoder-decoder networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Description

本発明は、出力文生成装置、出力文生成方法および出力文生成プログラムに関する。
自然言語処理システムにおいて、ニューラルネットワークを用いた文生成技術が知られるようになってきた(例えば、特許文献1を参照)。最近では、キーワードを与えるとそれらのキーワードを適度に取り込んだ文を生成する、学習済みのニューラルネットワークを利用した文生成装置が知られるようになってきた。
特開平1−255966号公報
ニューラルネットワークの学習時においては、与えられるキーワードが重複して組み込まれた文が正解文であるとして学習する学習データもある。このように学習された学習済みニューラルネットワークを利用する場合、与えたキーワードを重複して組み込んだ文を生成する頻度が高くなるという問題があった。実際の自然文においては、特定の単語が重複する場合は少なく、このようなキーワードの重複する文が生成される頻度を下げたい。しかし、そのためには膨大な学習データを用意して、ニューラルネットワークの学習精度を上げる必要があり、多大な作業量を要することになる。また、すでに存在するニューラルネットワークを利用するという利便性を失うことにもなる。
本発明は、このような問題を解決するためになされたものであり、学習済みのニューラルネットワークを利用しつつ、キーワードの重複を避けた、より自然な印象を与える出力文を生成するものである。
本発明の第1の態様における出力文生成装置は、入力された複数のキーワードから一つの出力文を自動生成する出力文生成装置であって、複数のキーワードを取り込んで、それぞれが複数のキーワードの少なくとも一部を含む複数の候補文を生成する、学習済みのニューラルネットワークが組み込まれた候補文生成部と、候補文生成部によって生成された複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、重複割合の小さな候補文の評価を高めることによって、複数の候補文から出力文を決定して出力する評価出力部とを備える。
このように構成された出力文生成装置によれば、学習済みのニューラルネットワーク自体に対して再調整を行う必要がなく、学習済みのニューラルネットワークから出力された複数の候補文を対象としてキーワードの重複に対する評価を行う。したがって、既存のリソースを利用しつつも簡便な処理によって、キーワードの重複を避けた出力文を生成することができる。
また、上記の評価出力部は、重複割合の小さな候補文の評価を高めると共に、複数の候補文のそれぞれで、複数のキーワードの群と対象の候補文に含まれるすべての単語の群の和集合の要素個数に対する、複数のキーワードの群と対象の候補文に含まれるすべての単語の群の積集合の要素個数であるキーワード割合を算出し、キーワード割合の大きな候補文の評価を高めることによって、複数の候補文から出力文を決定して出力しても良い。このように、キーワード割合も考慮して評価することにより、取り込まれたキーワードの数が少ない文を出力文としてしまう可能性を抑制することができる。
この場合、上記の候補文生成部は、複数の候補文と共に、候補文ごとに出力文と決定される可能性の高い順に大きな値が与えられる評価スコアNを生成し、評価出力部は、重複割合として、P=1−(重複する単語の出現回数)/(すべての単語の出現回数)を算出し、キーワード割合として、J=(複数のキーワードの群と対象の候補文に含まれるすべての単語の群の積集合の要素個数)/(複数のキーワードの群と対象の候補文に含まれるすべての単語の群の和集合の要素個数)を算出して、N×P×Jの値が最大となる候補文を出力文として出力することができる。このように、評価を具体的で単純な数値に置き換えることにより、より迅速に出力文を決定することができる。
このような評価において、重複割合を算出する場合およびキーワード割合を算出する場合は、助詞、助動詞および接続詞を除外しても良い。単語の中でも助詞、助動詞および接続詞は、他の品詞に比較してその重複が自然文に与える印象の観点からは異質である。したがって、助詞、助動詞および接続詞を算出の対象から外すことにより、より精度の高い評価が可能となる。また、助詞、助動詞および接続詞に加えて、さらに特定の品詞を除外しても良い。特定の品詞を除外することにより、使用目的や利用状況に応じた精度の高い出力文を出力することができる。また、演算速度の向上を期待できる。
本発明の第2の態様における出力文生成方法は、入力された複数のキーワードから一つの出力文を自動生成する出力文生成方法であって、複数のキーワードを取り込んで、学習済みのニューラルネットワークを用いて、それぞれが複数のキーワードの少なくとも一部を含む複数の候補文を生成する候補文生成ステップと、候補文生成ステップによって生成された複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、重複割合の小さな候補文の評価を高めることによって、複数の候補文から出力文を決定して出力する評価出力ステップとを有する。
また、本発明の第3の態様における出力文生成プログラムは、入力された複数のキーワードから一つの出力文を自動生成する出力文生成プログラムであって、複数のキーワードを取り込んで、学習済みのニューラルネットワークを用いて、それぞれが複数のキーワードの少なくとも一部を含む複数の候補文を生成する候補文生成ステップと、候補文生成ステップによって生成された複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、重複割合の小さな候補文の評価を高めることによって、複数の候補文から出力文を決定して出力する評価出力ステップとをコンピュータに実行させる。これら第2の態様および第3の態様であっても、第1の態様と同様の効果を期待できる。
本発明により、学習済みのニューラルネットワークを利用しつつ、キーワードの重複を避けた、より自然な印象を与える出力文を生成できる。
本実施形態にかかる出力文生成装置の機能ブロック図を示す。 入力から出力までの具体例を示す図である。 全体の処理フローを示すフロー図である。 機器への応用例としてのスマートフォンを示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、特許請求の範囲に係る発明を以下の実施形態に限定するものではない。また、実施形態で説明する構成の全てが課題を解決するための手段として必須であるとは限らない。
図1は、本実施形態にかかる出力文生成装置100の機能ブロック図を示す。出力文生成装置100は、複数のキーワードを与えると、それらのキーワードの少なくとも一部を含む一文を自動的に生成して出力する装置である。出力文生成装置100は、例えばユーザと音声対話を行う人型ロボットに組み込まれる。人型ロボットは、ユーザの意図を確認するような返答を行う場合に、ユーザの発話から抽出したキーワードを出力文生成装置100に引き渡し、その結果生成された一文を受け取って、スピーカ等から発声する。あるいは、サーバが出力文生成装置100として機能し、例えばユーザの端末からネットワークを介して送信されてくるキーワードを用いて一文を生成し、その端末に送り返すものであっても良い。
上述のように、出力文生成装置100は、ハードウェアとして独立した構造体を備えていなくても良く、他の装置の一部として組み込まれていても良い。また、ASICなどのチップが出力文生成装置100の実体であっても良い。
本実施形態として説明する出力文生成装置100は、入力インタフェースとしてキーワード入力部110を備え、出力インタフェースとして呈示部140を備える。また、演算を行う演算部として、候補文生成部120と評価出力部130を備える。候補文生成部120と評価出力部130は、例えば、汎用の演算処理チップとしてのCPUで構成されても良く、あるいは専用に設計されたASICで構成されていても良い。
また、演算部は、例えばコーパスとして体系化された言語データベースを格納するメモリを含む構成であっても良いし、外部のメモリに格納された言語データベースにアクセスする構成であっても良い。候補文生成部120は、言語データベースを参照することによって、一文を生成する。
キーワード入力部110は、例えばハードウェアとしてのマイクと、入力された音声を解析する音声解析部によって構成される。この場合、キーワード入力部110は、音声解析によってキーワードを抽出して、候補文生成部120へ引き渡す。キーワード入力部110は、キーボード等によりユーザから直接的にキーワードの入力を受け付ける構成であっても良い。また、出力文生成装置100が他の装置に組み込まれている場合は、キーワード入力部110は、当該装置から対象となる一文やキーワードを受け付けるインタフェースである。
呈示部140は、例えばハードウェアとしてのスピーカと、生成された一文を音声信号に変換する信号変換部によって構成される。この場合、呈示部140は、評価出力部130から受け取った一文を音声信号に変換して、スピーカから発声する。呈示部140は、評価出力部130から受け取った一文をテキストで表示する表示ユニットであっても良い。また、出力文生成装置100が他の装置に組み込まれている場合は、呈示部140は、評価出力部130から受け取った一文を当該装置へ引き渡すインタフェースである。
候補文生成部120は、学習済みのニューラルネットワークであるNN生成器121を組み込んで構成されている。候補文生成部120は、通信インタフェースを介してNN生成器121を更新可能なように構成しても良い。
NN生成器121は、キーワード入力部110から与えられたキーワードを取り込んで、これらの少なくとも一部のキーワードを含む候補文を複数生成すると共に、それぞれの候補文の基礎スコアを算出する。基礎スコアは、NN生成器121が判断した、出力文としてどの程度ふさわしいかを表すスコアである。基礎スコアは、例えば0から1の間で1に近いほど出力文にふさわしいものとして定義される。換言すれば、NN生成器121は、1に近い値を算出したものほど、より出力文にふさわしい候補文であると判断する。
NN生成器121として実装されるニューラルネットワークは、外部のコンピュータによってモデル学習が行われる。モデル学習は、教師データとして与えた正解文から、助詞、助動詞および接続詞を除いて内容語を抽出し、抽出した内容語から一文を生成させ、生成させた一文が正解文に近づくように、各層の誤差更新を繰り返すことによって行う。
本実施形態にかかる候補文生成部120は、NN生成器121として、さまざまなタイプの公知のニューラルネットワークを利用することができる。例えば、LSTMを用いたseq2seqによる文生成モジュール(例えば、Ilya Sutskever, Oriol Vinyals, and Quoc V Le, "Sequence to sequence learning with neural networks, "In NIPS. 2014.または、Kyunghyun Cho, Bart van Merrienboer, Dzmitry Bahdanau, and Yoshua Bengio, "On the properties of neural machine translation: Encoder-decoder approaches,"In SSST, 2014.を参照)、RNNを用いたseq2seqによる文生成モジュール(例えば、Liang Lu, Xingxing Zhang, Steve Renais, "On training the recurrent neural network encoder-decoder for large vocabulary end-to-end speech recognition," In ICASSP, 2016. または、Iulian V. Serban, Alessandro Sordoni, Yoshua Bengio, Aaron Courville and Joelle Pineauy, "Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models," https://arxiv.org/pdf/1507.04808.pdfを参照)、Bi−directional LSTMを用いたseq2seqによる文生成モジュール(例えば、Xuezhe Ma, Eduard Hovy, "End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF," https://arxiv.org/abs/1603.01354 または、Andrej Karpathy, Li Fei-Fei, "Deep Visual-Semantic Alignments for Generating Image Descriptions,"in CVPR, 2015.を参照)、特開平1−255966号公報に開示された文生成モジュール、Dusek+,2016に開示された文生成モジュール(Ond rej Du sek and Filip Jurcicek, "Sequence-to-sequence generation for spoken dialogue via deep syntax trees and strings," In ACL, 2016.を参照)を利用することができる。
NN生成器121が生成する候補文は、与えられたキーワードを複数回用いていることがある。これは、組み込まれたニューラルネットワークが、学習時において同一単語を複数回含む正解文を学習しているからである。しかし、実際の自然文においては、特定の単語が重複する場合は少なく、このようなキーワードの重複する文が生成される頻度を下げたい。しかし、そのためには膨大な学習データを用意して、ニューラルネットワークの学習精度を上げる必要があり、多大な作業量を要することになる。また、すでに存在するニューラルネットワークを利用するという利便性を失うことにもなる。
そこで、本実施形態においては、学習済みのニューラルネットワークをそのまま利用しつつも、出力された候補文をさらに解析することにより、キーワードが重複して用いられた候補文を回避する。評価出力部130は、候補文生成部120によって生成された複数の候補文のそれぞれで、内容語がどれくらい重複して用いられているかの重複割合と、与えられた複数のキーワードがどれくらい採用されているかのキーワード割合を算出して、候補文を評価する。そして、最も評価の高かった候補文を出力文として決定し、呈示部140へ出力する。以下に具体例を示しながら、重複割合とキーワード割合の算出方法と評価について説明する。
図2は、入力から出力までの具体例を示す図である。ここでは、キーワードの例として3つの内容語「犯す」「罪」「すべて」が与えられた場合を説明する。出力文生成装置100は、これらのキーワードをできるだけ多く含みつつも、同じキーワードの重複を避けた、自然な一文を出力することを目標とする。
NN生成器121は、与えられたキーワード「犯す」「罪」「すべて」から複数の生成文を生成する。それらのうち、基礎スコアの高い3つを候補文とする。ここでは、候補文1として「罪の罪を犯した」、候補文2として「罪のルールを犯した」、候補文3として「罪のすべてを犯した」が生成されたものとする。また、この例においては、基礎スコアはいずれもN=0.8と算出されたとする。
評価出力部130は、これら3つの候補文を受け取って、スコア算出部131により評価値を算出する。スコア算出部131は、まずペナルティ係数を算出する。ペナルティ係数は、候補文に含まれるすべての内容語の出現回数に対する重複する内容語の出現回数を表す重複割合の一つの指標であり、具体的には、
P=1−(重複する内容語の出現回数)/(すべての内容語の出現回数)
と定義される。
候補文1に含まれる内容語は、「罪」「罪」「犯し」の3つであるので、候補文1の内容語の出現回数は「3」である。また、候補文1には、「罪」が重複して2回現れるので、重複する内容語の出現回数は「1」である。なお、重複する同じ内容語が候補文にn(nは2以上の自然数)回現れる場合の出現回数は「n−1」と数える。したがって、候補文1のペナルティ係数はP=1−1/3=2/3である。
候補文2に含まれる内容語は、「罪」「ルール」「犯し」の3つであるので、候補文2の内容語の出現回数は「3」である。また、候補文2には、重複する内容語が存在しないので、重複する内容語の出現回数は「0」である。したがって、候補文2のペナルティ係数はP=1−0/3=1である。
候補文3に含まれる内容語は、「罪」「すべて」「犯し」の3つであるので、候補文3の内容語の出現回数は「3」である。また、候補文3には、重複する内容語が存在しないので、重複する内容語の出現回数は「0」である。したがって、候補文3のペナルティ係数はP=1−0/3=1である。
スコア算出部131は、次にJaccard係数を算出する。Jaccard係数は、キーワードの群と候補文に含まれるすべての内容語の群の和集合の要素個数に対する、キーワードの群と候補文に含まれるすべての内容語の群の積集合の要素個数を表すキーワード割合の一つの指標であり、具体的には、
J=(キーワードの群と候補文に含まれるすべての内容語の群の積集合の要素個数)/(キーワードの群と候補文に含まれるすべての内容語の群の和集合の要素個数)
と定義される。
キーワードの群は、{「犯す」「罪」「すべて」}であり、候補文1に含まれるすべての内容語の群は{「罪」「犯し」}である。これらの群の積集合は{「犯す」「罪」}であり、その要素個数は「2」である。同様に和集合は{「犯す」「罪」「すべて」}であり、その要素個数は「3」である。したがって、候補文1のJaccard係数はJ=2/3である。
同様に、候補文2に含まれるすべての内容語の群は{「罪」「ルール」「犯し」}である。キーワードの群との積集合は{「犯す」「罪」}であり、その要素個数は「2」である。同様に和集合は{「犯す」「罪」「すべて」「ルール」}であり、その要素個数は「4」である。したがって、候補文2のJaccard係数はJ=2/4=1/2である。
同様に、候補文3に含まれるすべての内容語の群は{「罪」「すべて」「犯し」}である。キーワードの群との群の積集合は{「犯す」「罪」「すべて」}であり、その要素個数は「3」である。同様に和集合は{「犯す」「罪」「すべて」}であり、その要素個数は「3」である。したがって、候補文3のJaccard係数はJ=3/3=1である。
決定部132は、スコア算出部131が計算した各候補文のP値とJ値を受け取り、候補文ごとにN×P×Jを算出して最終スコアとする。具体的には、候補文1の最終スコアは0.36であり、候補文2の最終スコアは0.40であり、候補文3の最終スコアは0.80である。したがって、決定部132は、最大スコアを獲得した候補文3を出力文として決定する。
なお、単語の中でも助詞、助動詞および接続詞は、他の品詞に比較してその重複が自然文に与える印象の観点からは異質であるので、上記の手法では、各候補文のうち要素としてカウントする対象を、助詞、助動詞および接続詞を除いた内容語に限っている。しかし、目的に応じて、助詞、助動詞および接続詞を含めたすべての単語を対象としても良い。逆に、内容語の中でも、副詞や形容詞など、特定の品詞を除外しても良い。いずれにしても、出力文生成装置100の使用目的や利用状況に応じて、適宜調整すれば良い。このように調整すれば、使用目的や利用状況に応じた精度の高い出力文を出力することができる。また、演算が簡略化されることから、演算速度の向上を期待できる。
また、上記の手法においては、重複割合としてペナルティ係数を利用したが、重複割合の小さな候補文の評価を高める係数であれば、具体的な計算式は如何なるものであっても良い。同様に、キーワード割合としてJaccard係数を利用したが、キーワード割合の大きな候補文の評価を高める係数であれば、具体的な計算式は如何なるものであっても良い。
また、上記の例においては、ペナルティ係数とJaccard係数がスコアに与える影響を明確にするために基礎スコアが同一の例を説明したが、実際のNN生成器121は、異なる基礎スコアを与え得る。したがって、ペナルティ係数とJaccard係数の積が同値となる複数の候補文は、互いの基礎スコアの大小により出力文として選択されるか否かが決定される。
また、上記の例においては、重複割合とキーワード割合の両方を考慮する例であったが、与えたキーワードが重複して含まれる候補文を避けるという観点からは、重複割合のみを考慮しても良い。その場合は、基礎スコアにペナルティ係数を掛けて最終スコアとすれば良い。
次に、出力文生成装置100の全体の処理フローについて説明する。図3は、全体の処理フローを示すフロー図である。図示する処理フローは、メモリから読み出された出力文生成プログラムが実行されることにより実現される。
キーワード入力部110は、ステップS101で複数のキーワードの入力を受け付ける。キーワード入力部110は、装置の構成により、上述のように、ユーザの発話からキーワードを抽出しても良いし、キーボード等から直接的にキーワードを受け付けても良い。
候補文生成部120は、続くステップS102で、複数の候補文とそれぞれの基礎スコアを生成し、出力する。具体的には上述のように、学習済みのニューラルネットワークであるNN生成器121によって処理される。
評価出力部130は、ステップS103で、複数の候補文とそれぞれの基礎スコアを受け取り、スコア算出部131によって各候補文の修正スコアを算出する。修正スコアは、基礎スコアを修正したスコアであり、図2を用いて説明した例では、基礎スコアにペナルティ係数とJaccard係数を掛け合わせたスコアである。
評価出力部130は、ステップS104で、決定部132により複数の候補文のそれぞれの修正スコアを比較し、最大の修正スコアを有する候補文を出力文と決定し、呈示部140へ引き渡す。呈示部140は、装置の構成により、上述のように、スピーカから当該決定文を発声させたり、表示パネルにテキスト文で表示させたりする。出力文の呈示が完了したら、一連の処理を終了する。
図4は、機器への応用例としてのスマートフォン700を示す図である。出力文生成装置100は、図示するように、スマートフォンに組み込むことができる。スマートフォン700は、表示部710、マイク711、およびスピーカ712を備える。マイク711は、キーワード入力部110の一部として機能し、表示部710およびスピーカ712は、呈示部140の一部として機能する。
呈示部140は、表示部710に、例えばロボットを表現したキャラクタ800をCGとして表示しても良い。キャラクタ800は、対話ロボットのように頭部と体部を有し、呈示部140は、出力文の発話に併せてアニメーションで動作を表現することもできる。出力文は、スピーカ712から発声させても良く、スピーカ712からの発声に加え、あるいは発声に代えて、表示部710に吹出し810を表示し、出力文をテキストとしてユーザに知らせても良い。
100 出力文生成装置、110 キーワード入力部、120 候補文生成部、121 NN生成器、130 評価出力部、131 スコア算出部、132 決定部、140 呈示部

Claims (7)

  1. 入力された複数のキーワードから一つの出力文を自動生成する出力文生成装置であって、
    前記複数のキーワードを取り込んで、それぞれが前記複数のキーワードの少なくとも一部を含む複数の候補文を生成する、学習済みのニューラルネットワークが組み込まれた候補文生成部と、
    前記候補文生成部によって生成された前記複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、前記重複割合の小さな候補文の評価を高めることによって、前記複数の候補文から出力文を決定して出力する評価出力部と
    を備える出力文生成装置。
  2. 前記評価出力部は、前記重複割合の小さな候補文の評価を高めると共に、前記複数の候補文のそれぞれで、前記複数のキーワードの群と対象の候補文に含まれるすべての単語の群の和集合の要素個数に対する、前記複数のキーワードの群と対象の候補文に含まれるすべての単語の群の積集合の要素個数であるキーワード割合を算出し、前記キーワード割合の大きな候補文の評価を高めることによって、前記複数の候補文から出力文を決定して出力する請求項1に記載の出力文生成装置。
  3. 前記候補文生成部は、前記複数の候補文と共に、候補文ごとに前記出力文と決定される可能性の高い順に大きな値が与えられる評価スコアNを生成し、
    前記評価出力部は、前記重複割合として
    P=1−(重複する単語の出現回数)/(すべての単語の出現回数)
    を算出し、前記キーワード割合として
    J=(複数のキーワードの群と対象の候補文に含まれるすべての単語の群の積集合の要素個数)/(複数のキーワードの群と対象の候補文に含まれるすべての単語の群の和集合の要素個数)
    を算出して、
    N×P×J
    の値が最大となる候補文を前記出力文として出力する請求項2に記載の出力文生成装置。
  4. 前記重複割合を算出する場合および前記キーワード割合を算出する場合は、助詞、助動詞および接続詞を除外する請求項2または3に記載の出力文生成装置。
  5. 前記重複割合を算出する場合および前記キーワード割合を算出する場合は、さらに特定の品詞を除外する請求項4に記載の出力文生成装置。
  6. 入力された複数のキーワードから一つの出力文を自動生成する出力文生成方法であって、
    候補文生成部が、前記複数のキーワードを取り込んで、学習済みのニューラルネットワークを用いて、それぞれが前記複数のキーワードの少なくとも一部を含む複数の候補文を生成する候補文生成ステップと、
    評価出力部が、前記候補文生成によって生成された前記複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、前記重複割合の小さな候補文の評価を高めることによって、前記複数の候補文から出力文を決定して出力する評価出力ステップと
    を有する出力文生成方法。
  7. 入力された複数のキーワードから一つの出力文を自動生成する出力文生成プログラムであって、
    前記複数のキーワードを取り込んで、学習済みのニューラルネットワークを用いて、それぞれが前記複数のキーワードの少なくとも一部を含む複数の候補文を生成する候補文生成ステップと、
    前記候補文生成ステップによって生成された前記複数の候補文のそれぞれで、含まれるすべての単語の出現回数に対する重複する単語の出現回数である重複割合を算出し、前記重複割合の小さな候補文の評価を高めることによって、前記複数の候補文から出力文を決定して出力する評価出力ステップと
    をコンピュータに実行させる出力文生成プログラム。
JP2017039141A 2017-03-02 2017-03-02 出力文生成装置、出力文生成方法および出力文生成プログラム Expired - Fee Related JP6815899B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017039141A JP6815899B2 (ja) 2017-03-02 2017-03-02 出力文生成装置、出力文生成方法および出力文生成プログラム
US15/887,333 US10643032B2 (en) 2017-03-02 2018-02-02 Output sentence generation apparatus, output sentence generation method, and output sentence generation program
EP18155516.0A EP3370165A1 (en) 2017-03-02 2018-02-07 Sentence generation apparatus, sentence generation method, and sentence generation program
CN201810166977.9A CN108536670B (zh) 2017-03-02 2018-02-28 输出语句生成装置、方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017039141A JP6815899B2 (ja) 2017-03-02 2017-03-02 出力文生成装置、出力文生成方法および出力文生成プログラム

Publications (2)

Publication Number Publication Date
JP2018147073A JP2018147073A (ja) 2018-09-20
JP6815899B2 true JP6815899B2 (ja) 2021-01-20

Family

ID=61187168

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017039141A Expired - Fee Related JP6815899B2 (ja) 2017-03-02 2017-03-02 出力文生成装置、出力文生成方法および出力文生成プログラム

Country Status (4)

Country Link
US (1) US10643032B2 (ja)
EP (1) EP3370165A1 (ja)
JP (1) JP6815899B2 (ja)
CN (1) CN108536670B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210112953A (ko) * 2020-03-06 2021-09-15 아주대학교산학협력단 키워드 기반 구문 추천 시스템 및 방법
KR102345815B1 (ko) * 2021-05-12 2021-12-31 주식회사 아티피셜 소사이어티 타겟 단어가 포함된 문장 생성 방법 및 시스템

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019021218A (ja) * 2017-07-20 2019-02-07 ヤフー株式会社 学習装置、プログラムパラメータ、学習方法およびモデル
CN112514141A (zh) 2018-08-03 2021-03-16 三井化学株式会社 冷却板以及电池结构体
KR101983517B1 (ko) * 2018-11-30 2019-05-29 한국과학기술원 주어진 문서가 독자에게 보다 높은 신뢰를 받을 수 있도록 하는 문서 신뢰도 증강 방법 및 그 시스템
CN109635095A (zh) * 2018-12-17 2019-04-16 北京百度网讯科技有限公司 用于优化对话模型的方法和装置
TWI735380B (zh) * 2019-11-20 2021-08-01 中央研究院 自然語言處理方法與其計算裝置
US11544466B2 (en) 2020-03-02 2023-01-03 International Business Machines Corporation Optimized document score system using sentence structure analysis function
CN113743089B (zh) * 2021-09-03 2024-08-27 科大讯飞股份有限公司 一种多语种文本生成方法、装置、设备及存储介质
CN114330251B (zh) * 2022-03-04 2022-07-19 阿里巴巴达摩院(杭州)科技有限公司 文本生成方法、模型的训练方法、设备及存储介质
CN117171536A (zh) * 2023-09-21 2023-12-05 北京新唐思创教育科技有限公司 评价方法、装置及设备

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01255966A (ja) 1988-04-06 1989-10-12 Nec Corp 文法規則適用順序学習方式
JPH0255966A (ja) 1988-08-22 1990-02-26 Mitsubishi Electric Corp 接続検査方法
CN1174332C (zh) * 2000-03-10 2004-11-03 松下电器产业株式会社 转换表达方式的方法和装置
US7295965B2 (en) * 2001-06-29 2007-11-13 Honeywell International Inc. Method and apparatus for determining a measure of similarity between natural language sentences
JP2003132059A (ja) * 2001-10-19 2003-05-09 Seiko Epson Corp 言語文を用いた検索装置、検索システム、検索方法、プログラム、および記録媒体
JP4085156B2 (ja) * 2002-03-18 2008-05-14 独立行政法人情報通信研究機構 テキスト生成方法及びテキスト生成装置
JP3790825B2 (ja) * 2004-01-30 2006-06-28 独立行政法人情報通信研究機構 他言語のテキスト生成装置
JP2010287143A (ja) * 2009-06-15 2010-12-24 Hitachi Ltd 記事整理システム
US10095692B2 (en) * 2012-11-29 2018-10-09 Thornson Reuters Global Resources Unlimited Company Template bootstrapping for domain-adaptable natural language generation
JP6414956B2 (ja) * 2014-08-21 2018-10-31 国立研究開発法人情報通信研究機構 質問文生成装置及びコンピュータプログラム
CN104216875B (zh) * 2014-09-26 2017-05-03 中国科学院自动化研究所 基于非监督关键二元词串提取的微博文本自动摘要方法
US9817904B2 (en) * 2014-12-19 2017-11-14 TCL Research America Inc. Method and system for generating augmented product specifications
KR102396983B1 (ko) 2015-01-02 2022-05-12 삼성전자주식회사 문법 교정 방법 및 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210112953A (ko) * 2020-03-06 2021-09-15 아주대학교산학협력단 키워드 기반 구문 추천 시스템 및 방법
KR102345815B1 (ko) * 2021-05-12 2021-12-31 주식회사 아티피셜 소사이어티 타겟 단어가 포함된 문장 생성 방법 및 시스템

Also Published As

Publication number Publication date
US20180253420A1 (en) 2018-09-06
JP2018147073A (ja) 2018-09-20
CN108536670A (zh) 2018-09-14
EP3370165A1 (en) 2018-09-05
US10643032B2 (en) 2020-05-05
CN108536670B (zh) 2022-05-27

Similar Documents

Publication Publication Date Title
JP6815899B2 (ja) 出力文生成装置、出力文生成方法および出力文生成プログラム
US11282503B2 (en) Voice conversion training method and server and computer readable storage medium
US12087272B2 (en) Training speech synthesis to generate distinct speech sounds
CN110782870A (zh) 语音合成方法、装置、电子设备及存储介质
WO2021000497A1 (zh) 检索方法、装置、计算机设备和存储介质
CN112669845B (zh) 语音识别结果的校正方法及装置、电子设备、存储介质
CN113555006B (zh) 一种语音信息识别方法、装置、电子设备及存储介质
JPWO2009078256A1 (ja) 発音変動規則抽出装置、発音変動規則抽出方法、および発音変動規則抽出用プログラム
Swain et al. Study of feature combination using HMM and SVM for multilingual Odiya speech emotion recognition
Campbell et al. Language recognition with word lattices and support vector machines
JP6810580B2 (ja) 言語モデル学習装置およびそのプログラム
Seljan et al. Combined automatic speech recognition and machine translation in business correspondence domain for english-croatian
Orken et al. Identifying the influence of transfer learning method in developing an end-to-end automatic speech recognition system with a low data level
JP7531164B2 (ja) 発話解析装置、発話解析方法及びプログラム
JP6786065B2 (ja) 音声評定装置、音声評定方法、教師変化情報の生産方法、およびプログラム
JP7170594B2 (ja) 同一事象に対して時系列に発生した異なるメディアデータを統合した学習モデルを構築するプログラム、装置及び方法
CN120523332B (zh) 智能人机交互的意图预测方法、装置、设备及介质
Viacheslav et al. System of methods of automated cognitive linguistic analysis of speech signals with noise
Zen Generative model-based text-to-speech synthesis
KR20230000175A (ko) Ai 기반 발음 평가 방법, 발음 코칭용 학습 컨텐츠 제공 방법 및 이를 수행하기 위한 컴퓨팅 시스템
Reddy et al. Creation of GIF dataset and implementation of a speech-to-sign language translator in Telugu
Přibil et al. GMM-based evaluation of emotional style transformation in czech and slovak
CN117131182A (zh) 一种基于ai的对话回复生成方法及系统
CN116644756A (zh) 基于知识图谱的语义分析方法
Korchynskyi et al. Methods of improving the quality of speech-to-text conversion

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201223

R150 Certificate of patent or registration of utility model

Ref document number: 6815899

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees