JP7616761B2 - QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM - Google Patents
QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM Download PDFInfo
- Publication number
- JP7616761B2 JP7616761B2 JP2020188861A JP2020188861A JP7616761B2 JP 7616761 B2 JP7616761 B2 JP 7616761B2 JP 2020188861 A JP2020188861 A JP 2020188861A JP 2020188861 A JP2020188861 A JP 2020188861A JP 7616761 B2 JP7616761 B2 JP 7616761B2
- Authority
- JP
- Japan
- Prior art keywords
- sentence
- question
- data
- answer
- type
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 74
- 238000004519 manufacturing process Methods 0.000 title claims description 11
- PWPJGUXAGUPAHP-UHFFFAOYSA-N lufenuron Chemical compound C1=C(Cl)C(OC(F)(F)C(C(F)(F)F)F)=CC(Cl)=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F PWPJGUXAGUPAHP-UHFFFAOYSA-N 0.000 title 1
- 238000004458 analytical method Methods 0.000 claims description 52
- 238000010801 machine learning Methods 0.000 claims description 41
- 238000012545 processing Methods 0.000 claims description 37
- 230000000877 morphologic effect Effects 0.000 claims description 31
- 230000008569 process Effects 0.000 claims description 24
- 238000012549 training Methods 0.000 claims description 17
- 238000012217 deletion Methods 0.000 claims description 15
- 230000037430 deletion Effects 0.000 claims description 15
- 230000014509 gene expression Effects 0.000 claims description 11
- 239000013598 vector Substances 0.000 description 49
- 238000004891 communication Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 15
- 230000005540 biological transmission Effects 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 12
- 238000013528 artificial neural network Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 3
- 238000003058 natural language processing Methods 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、質問推定装置、学習済みモデル生成装置、質問推定方法、学習済みモデルの生産方法、プログラム及び記録媒体に関する。 The present invention relates to a question estimation device, a trained model generation device, a question estimation method, a trained model production method, a program, and a recording medium.
カスタマからの質問に対応する担当者を支援するため、前記質問に対する回答を自動的に作成し、必要に応じて担当者により回答させる技術が報告されている(例えば、特許文献1等)。
In order to support staff who respond to questions from customers, technology has been reported that automatically creates answers to the questions and allows the staff to answer them as necessary (for example,
しかしながら、複数人のカスタマを1人の担当者が担当する場合、一方のカスタマへの回答を他方のカスタマに誤って送信した事故(誤送信ともいう)が多数発生している。 However, when one person is responsible for multiple customers, there are many cases where a response intended for one customer is mistakenly sent to another customer (also known as mis-sending).
そこで、本発明は、誤送信を未然に防ぐことが可能な質問推定装置、学習済みモデル生成装置、質問推定方法、学習済みモデルの生産方法、プログラム及び記録媒体を提供することを目的とする。 The present invention aims to provide a question estimation device, a trained model generation device, a question estimation method, a trained model production method, a program, and a recording medium that can prevent erroneous transmissions.
前記目的を達成するために、本発明の質問推定装置は、
会話履歴データ取得部、文章タイプ識別部、質問回答表生成部、未送信文章取得部、及び推定質問文章生成部を含み、
前記会話履歴データ取得部は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別部は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成部は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得部は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成部は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、装置である。
In order to achieve the above object, the question estimation device of the present invention comprises:
The system includes a conversation history data acquisition unit, a sentence type identification unit, a question and answer table generation unit, an unsent sentence acquisition unit, and an estimated question sentence generation unit,
the conversation history data acquisition unit acquires conversation history data, which is character data of a completed conversation;
The conversation history data is composed of a plurality of sentence data,
The text type identification unit identifies a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating unit generates a question and answer table by linking the sentence data of the question type with the sentence data of the answer type based on a result of the identification;
The unsent text acquisition unit acquires an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
The estimated question sentence generation unit is a device that generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
本発明の学習済みモデル生成装置は、
データ取得部、及び学習済みモデル生成部を含み、
前記データ取得部は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成部は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、装置である。
The trained model generation device of the present invention comprises:
The data acquisition unit and the trained model generation unit are included.
the data acquisition unit acquires question-type sentence data linked to answer-type sentence data as teacher data;
The trained model generation unit is a device that generates a first trained model by machine learning using the teacher data, which generates and outputs an estimated question sentence corresponding to the answer type sentence data when the answer type sentence data is input.
本発明の質問推定方法は、
会話履歴データ取得工程、文章タイプ識別工程、質問回答表生成工程、未送信文章取得工程、及び推定質問文章生成工程を含み、
前記会話履歴データ取得工程は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別工程は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成工程は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得工程は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成工程は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、方法である。
The question estimation method of the present invention includes the steps of:
The method includes a conversation history data acquisition step, a sentence type identification step, a question and answer table generation step, an unsent sentence acquisition step, and an estimated question sentence generation step,
The conversation history data acquisition step acquires conversation history data, which is character data of a completed conversation,
The conversation history data is composed of a plurality of sentence data,
The text type identification step includes identifying a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating step links the sentence data of the question type with the sentence data of the answer type based on a result of the identification to generate a question and answer table;
The unsent text acquisition step includes acquiring an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
The estimated question sentence generating step is a method of generating an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
本発明の学習済みモデルの生産方法は、
データ取得工程、及び学習済みモデル生成工程を含み、
前記データ取得工程は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成工程は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、生産方法である。
The method for producing a trained model of the present invention includes the steps of:
The method includes a data acquisition process and a trained model generation process.
The data acquisition step includes acquiring question-type sentence data linked to answer-type sentence data as teacher data,
The trained model generation process is a production method for generating a first trained model by machine learning using the training data, which generates and outputs an estimated question sentence corresponding to the answer type of sentence data when the answer type of sentence data is input.
本発明によれば、誤送信を未然に防ぐことができる。 The present invention makes it possible to prevent erroneous transmissions.
本発明の質問推定装置において、例えば、
前記文章タイプ識別部は、不要文識別部、不要文削除部、形態素解析部、及び識別部を含み、
前記不要文識別部は、前記文章データ内の不要文を識別し、
前記不要文削除部は、前記識別した不要文を前記文章データから削除し、
前記形態素解析部は、前記文章データに対して文単位で形態素解析を行い、
前記識別部は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、という態様であってもよい。
In the question estimation device of the present invention, for example,
the sentence type identification unit includes an unnecessary sentence identification unit, an unnecessary sentence deletion unit, a morphological analysis unit, and an identification unit;
The unnecessary sentence identification unit identifies unnecessary sentences in the text data,
the unnecessary sentence deletion unit deletes the identified unnecessary sentences from the text data;
The morphological analysis unit performs a morphological analysis on the text data on a sentence-by-sentence basis;
The identification unit may identify a sentence type of the sentence data based on the morphological analysis and in accordance with a preset sentence-ending expression rule.
本発明の質問推定装置において、例えば、
前記質問回答表生成部は、下記条件(1)~(3)の少なくとも一方に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する、という態様であってもよい。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
In the question estimation device of the present invention, for example,
The question and answer table generating unit may generate a question and answer table by linking the sentence data of the question type with the sentence data of the answer type based on at least one of the following conditions (1) to (3):
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data with the highest similarity.
本発明の質問推定装置において、例えば、
前記推定質問文章生成部は、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成し、
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、という態様であってもよい。
In the question estimation device of the present invention, for example,
the estimated question sentence generation unit inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
The question sentence estimation model may be a model trained to generate an estimated question sentence corresponding to an input untransmitted answer sentence from the input untransmitted answer sentence.
本発明の質問推定装置は、例えば、
さらに、学習処理部を含み、
前記学習処理部は、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成部は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、という態様であってもよい。
The question estimation device of the present invention, for example,
Further, a learning processing unit is included,
the learning processing unit uses the question sentence in the question and answer table as training data and uses sentence data of the answer type linked to sentence data of the question type as input data to construct the question sentence estimation model through supervised machine learning;
The estimated question sentence generation unit may input the acquired unsent answer sentence to the constructed question sentence estimation model, and generate an estimated question sentence corresponding to the unsent answer sentence.
前記学習処理部を含む態様の本発明の質問推定装置において、例えば、
前記学習処理部は、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換し、且つ
前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する、という態様であってもよい。
In the question estimation device of the present invention including the learning processing unit, for example,
The learning processing unit may input each piece of text data in the question and answer list into a vector conversion trained model that has been trained in an unsupervised manner to convert input text data into a vector before performing the supervised machine learning, converting each piece of text data into a vector, and using the text data of the question type converted into the vector as teacher data and the text data of the answer type converted into the vector as input data to construct the question text estimation model by supervised machine learning.
本発明の質問推定装置は、例えば、
さらに、出力部、質問文章取得部、及び類似度分析部を含み、
前記質問文章取得部は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析部は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力部は、前記類似度を出力ずる、という態様であってもよい。
The question estimation device of the present invention, for example,
Further, the apparatus includes an output unit, a question sentence acquisition unit, and a similarity analysis unit,
the question sentence acquisition unit acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis unit compares the transmitted sentence data of the question type with the generated estimated question sentence to analyze the similarity;
The output unit may output the degree of similarity.
本発明の学習済みモデル生成装置において、例えば、
前記データ取得部は、会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記学習済みモデル生成部は、さらに、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成する、という態様であってもよい。
In the trained model generation device of the present invention, for example,
The data acquisition unit acquires conversation history data,
The conversation history data is composed of a plurality of sentence data,
The trained model generation unit may further generate a second trained model by unsupervised machine learning using the conversation history data, which, when input, converts the sentence data into a vector and outputs the sentence data.
本発明の質問推定方法において、例えば、
前記文章タイプ識別工程は、不要文識別工程、不要文削除工程、形態素解析工程、及び識別工程を含み、
前記不要文識別工程は、前記文章データ内の不要文を識別し、
前記不要文削除工程は、前記識別した不要文を前記文章データから削除し、
前記形態素解析工程は、前記文章データに対して文単位で形態素解析を行い、
前記識別工程は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、という態様であってもよい。
In the question estimation method of the present invention, for example,
The sentence type identification step includes an unnecessary sentence identification step, an unnecessary sentence deletion step, a morphological analysis step, and an identification step,
The unnecessary sentence identification step includes identifying unnecessary sentences in the text data,
the unnecessary sentence deletion step deletes the identified unnecessary sentences from the text data;
The morphological analysis step performs a morphological analysis on the text data on a sentence-by-sentence basis;
The identification step may be performed by identifying a sentence type of the sentence data based on the morphological analysis and in accordance with a preset sentence-ending expression rule.
本発明の質問推定方法において、例えば、
前記質問回答表生成工程は、下記条件(1)~(3)の少なくとも一方に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する、という態様であってもよい。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
In the question estimation method of the present invention, for example,
The question and answer table generating step may be performed in a mode in which the question type sentence data and the answer type sentence data are linked to generate a question and answer table based on at least one of the following conditions (1) to (3):
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data with the highest similarity.
本発明の質問推定方法において、例えば、
前記推定質問文章生成工程は、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成し、
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、という態様であってもよい。
In the question estimation method of the present invention, for example,
the estimated question sentence generation step inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
The question sentence estimation model may be a model trained to generate an estimated question sentence corresponding to an input untransmitted answer sentence from the input untransmitted answer sentence.
本発明の質問推定方法は、例えば、
さらに、学習処理工程を含み、
前記学習処理工程は、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成工程は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、という態様であってもよい。
The question estimation method of the present invention includes, for example,
Further, a learning process is included,
the learning process includes constructing the question sentence estimation model by supervised machine learning using the question sentence in the question and answer table as training data and sentence data of the answer type linked to sentence data of the question type as input data;
The estimated question sentence generating step may be implemented in a manner that the acquired unsent answer sentence is input to the constructed question sentence estimation model to generate an estimated question sentence corresponding to the unsent answer sentence.
前記学習処理工程を含む態様の本発明の質問推定方法において、例えば、
前記学習処理工程は、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換し、且つ
前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する、という態様であってもよい。
In the question estimating method of the present invention including the learning process, for example,
The learning process may be such that, before performing the supervised machine learning, each piece of text data in the question and answer list is input into a vector conversion trained model that has been trained in an unsupervised manner to convert input text data into a vector, and each piece of text data is converted into a vector, and the question text estimation model is constructed by supervised machine learning using the text data of the question type converted into the vector as teacher data and the text data of the answer type converted into the vector as input data.
本発明の質問推定方法は、例えば、
さらに、出力工程、質問文章取得工程、及び類似度分析工程を含み、
前記質問文章取得工程は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析工程は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力工程は、前記類似度を出力ずる、という態様であってもよい。
The question estimation method of the present invention includes, for example,
The method further includes an output step, a question sentence acquisition step, and a similarity analysis step,
The question sentence acquisition step acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis step compares the transmitted sentence data of the question type with the generated estimated question sentence to analyze the similarity;
The output step may include outputting the similarity.
本発明の学習済みモデルの生産方法において、例えば、
前記データ取得工程は、会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記学習済みモデル生成工程は、さらに、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成する、という態様であってもよい。
In the method for producing a trained model of the present invention, for example,
The data acquisition step acquires conversation history data,
The conversation history data is composed of a plurality of sentence data,
The trained model generation process may further comprise generating a second trained model by unsupervised machine learning using the conversation history data, which, when input, converts the sentence data into a vector and outputs the vector.
本発明のプログラムは、本発明の方法の各工程を、手順として、コンピュータに実行させるためのプログラムである。 The program of the present invention is a program for causing a computer to execute each step of the method of the present invention as a procedure.
本発明の記録媒体は、本発明のプログラムを記録しているコンピュータ読み取り可能な記録媒体である。 The recording medium of the present invention is a computer-readable recording medium on which the program of the present invention is recorded.
本発明の適用分野は、特に制限されず、会話において、「質問」及び前記質問に対する「回答」の送受信が実行される分野であればよい。なお、本発明において、会話とは、二人以上の話者が話をすることをいう。前記会話は、例えば、チャットやメール等の文字データを用いる形式によって話をする形態でもよいし、通話等の音声データを用いる形式によって話をする形態であってもよい。前記会話は、一方のユーザ(質問者)からの質問の提示から始まり、他方のユーザ(回答者)からの前記質問に対する回答までの一連の流れを1セットとする。前記質問者と前記回答者との関係は、特に制限されないが、例えば、カスタマと担当者、生徒と教師、選手とコーチ等の関係がある。以下において、前記質問者としてカスタマ、前記回答者として担当者を例に挙げて説明する場合もあるが、これに限定されない。 The application field of the present invention is not particularly limited, and may be any field in which a "question" and an "answer" to the question are transmitted and received in a conversation. In the present invention, a conversation refers to a conversation between two or more speakers. The conversation may be, for example, a conversation using text data such as chat or email, or a conversation using audio data such as a telephone call. The conversation begins with one user (questioner) presenting a question and ends with the other user (answerer) answering the question, and is considered to be one set. The relationship between the questioner and the answerer is not particularly limited, and may be, for example, a relationship between a customer and a person in charge, a student and a teacher, or an athlete and a coach. In the following description, a customer may be used as the questioner and a person in charge as the answerer, but this is not limiting.
次に、本発明の実施形態について図を用いて説明する。本発明は、以下の実施形態には限定されない。以下の各図において、同一部分には、同一符号を付している。また、各実施形態の説明は、特に言及がない限り、互いの説明を援用でき、各実施形態の構成は、特に言及がない限り、組合せ可能である。 Next, an embodiment of the present invention will be described with reference to the drawings. The present invention is not limited to the following embodiment. In each of the drawings, the same parts are given the same reference numerals. Furthermore, the explanations of each embodiment can be mutually incorporated unless otherwise specified, and the configurations of each embodiment can be combined unless otherwise specified.
[実施形態1]
図1は、本実施形態の質問推定装置10の一例の構成を示すブロック図である。図1に示すように、本装置10は、会話履歴データ取得部11、文章タイプ識別部12、質問回答表生成部13、未送信文章取得部14、及び推定質問文章生成部15を含む。本装置10は、例えば、任意の構成として、さらに、出力部16、学習処理部17、質問文章取得部18、及び類似度分析部19を含んでもよい。文章タイプ識別部12は、例えば、不要文識別部121、不要文削除部122、形態素解析部123、及び識別部124を含んでもよい。
[Embodiment 1]
Fig. 1 is a block diagram showing an example of the configuration of a
本装置10は、例えば、前記各部を含む1つの装置でもよいし、前記各部が、通信回線網を介して接続可能な装置でもよい。また、本装置10は、前記通信回線網を介して、後述する外部装置と接続可能である。前記通信回線網は、特に制限されず、公知のネットワークを使用でき、例えば、有線でも無線でもよい。前記通信回線網は、例えば、インターネット回線、WWW(World Wide Web)、電話回線、LAN(Local Area Network)、SAN(Storage Area Network)、DTN(Delay Tolerant Networking)、LPWA(Low Power Wide Area)、L5G(ローカル5G)、等があげられる。無線通信としては、例えば、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、ローカル5G、LPWA等が挙げられる。前記無線通信としては、各装置が直接通信する形態(Ad Hoc通信)、インフラストラクチャ(infrastructure通信)、アクセスポイントを介した間接通信等であってもよい。本装置10は、例えば、システムとしてサーバに組み込まれていてもよい。また、本装置10は、例えば、本発明のプログラムがインストールされたパーソナルコンピュータ(PC、例えば、デスクトップ型、ノート型)、スマートフォン、タブレット端末等であってもよい。さらに、本装置10は、例えば、前記各部のうち少なくとも一つがサーバ上にあり、その他の前記各部が端末上にあるような、クラウドコンピューティングやエッジコンピューティング等の形態であってもよい。
The
図2に、本装置10のハードウエア構成のブロック図を例示する。本装置10は、例えば、中央処理装置(CPU、GPU等)101、メモリ102、バス103、記憶装置104、入力装置105、表示装置106、通信デバイス107等を含む。本装置10の各部は、それぞれのインタフェース(I/F)により、バス103を介して相互に接続されている。
Figure 2 shows an example block diagram of the hardware configuration of the
中央処理装置101は、本装置10の全体の制御を担う。本装置10において、中央処理装置101により、例えば、本発明のプログラムやその他のプログラムが実行され、また、各種情報の読み込みや書き込みが行われる。具体的には、例えば、中央処理装置101が、会話履歴データ取得部11、文章タイプ識別部12、質問回答表生成部13、未送信文章取得部14、及び推定質問文章生成部15として機能する。また、中央処理装置101は、例えば、出力部16、学習処理部17、質問文章取得部18、及び類似度分析部19としても機能する。
The
バス103は、例えば、外部装置とも接続できる。前記外部装置は、例えば、外部記憶装置(外部データベース等)、プリンター、外部入力装置、外部表示装置、外部撮像装置等があげられる。本装置10は、例えば、バス103に接続された通信デバイス107により、外部ネットワーク(前記通信回線網)に接続でき、外部ネットワークを介して、他の装置と接続することもできる。また、本装置10は、例えば、図1に示すように、バス103に接続された通信デバイス107により、前記通信回線網を介して、会話履歴データベース100と接続することもできる。
The
メモリ102は、例えば、メインメモリ(主記憶装置)が挙げられる。中央処理装置101が処理を行う際には、例えば、後述する記憶装置104に記憶されている本発明のプログラム等の種々の動作プログラムを、メモリ102が読み込み、中央処理装置101は、メモリ102からデータを受け取って、プログラムを実行する。前記メインメモリは、例えば、RAM(ランダムアクセスメモリ)である。また、メモリ102は、例えば、ROM(読み出し専用メモリ)であってもよい。
The
記憶装置104は、例えば、前記メインメモリ(主記憶装置)に対して、いわゆる補助記憶装置ともいう。前述のように、記憶装置104には、本発明のプログラムを含む動作プログラムが格納されている。記憶装置104は、例えば、記録媒体と、記録媒体に読み書きするドライブとの組合せであってもよい。前記記録媒体は、特に制限されず、例えば、内蔵型でも外付け型でもよく、HD(ハードディスク)、CD-ROM、CD-R、CD-RW、MO、DVD、フラッシュメモリー、メモリーカード等が挙げられる。記憶装置104は、例えば、記録媒体とドライブとが一体化されたハードディスクドライブ(HDD)、及びソリッドステートドライブ(SSD)であってもよい。
The
本装置10において、メモリ102及び記憶装置104は、ユーザのログ情報、並びに、外部データベース(図示せず)から取得した情報を記憶することも可能である。
In the
本装置10は、例えば、さらに、入力装置105、及び表示装置106を含んでもよい。入力装置105は、例えば、タッチパネル、キーボード、マウス等である。表示装置106は、例えば、LEDディスプレイ、液晶ディスプレイ等が挙げられる。
The
つぎに、本実施形態の質問推定方法の一例を、図3のフローチャートに基づき説明する。本実施形態の質問推定方法は、例えば、図1の質問推定装置10を用いて、次のように実施する。なお、本実施形態の質問推定方法は、図1の質問推定装置10の使用には限定されない。
Next, an example of the question estimation method of this embodiment will be described with reference to the flowchart in FIG. 3. The question estimation method of this embodiment is implemented as follows, for example, using the
まず、会話履歴データ取得部11により、終了した会話の文字データである会話履歴データを取得する(S11)。前記会話履歴データは、複数の文章データから構成される。前記会話が音声データを用いる形式によって話をする形態である場合、会話履歴データ取得部11は、例えば、終了した会話の音声データを文字データに変換した会話履歴データを取得してもよい。会話履歴データ取得部11は、例えば、前記通信回線網を介して、前記会話履歴データを格納している会話履歴データベース100から前記会話履歴データを取得してもよい。会話履歴データベース100の一例を図4に示す。図4に示すように、前記会話履歴データは、例えば、前記会話毎にテーブルデータとして記憶されていてもよい。また、前記会話履歴データは、例えば、前記文章データ毎の送信時刻及び送信者に関する送信情報を含んでいてもよい。「終了した会話」とは、すなわち、会話開始のきっかけとなった質問者(カスタマ等)からの質問に対し回答者(担当者等)から回答があった会話を意味する。以下、「終了した会話」を「対応済みの会話」ともいう。会話履歴データベース100は、例えば、対応済みの会話の会話履歴データと対応中の会話(継続中の会話ともいう)の会話履歴データとを識別して格納してもよい。「対応中の会話」とは、すなわち、会話開始のきっかけとなった質問者(カスタマ等)からの質問に対し回答者(担当者等)から回答がない会話を意味する。図4に示す各文章データの時系列を図5に示す。図5に示すように、1人の担当者は、例えば、並行して複数のカスタマと会話をしている。
First, the conversation history
次に、文章タイプ識別部12により、前記文章データ毎に文章タイプを識別する(S12)。
Next, the sentence
文章タイプ識別部12による処理(前記工程(S12))の一例について具体的に説明する。文章タイプ識別部12は、例えば、不要文識別部121、不要文削除部122、形態素解析部123、及び識別部124を含む。まず、不要文識別部121により、前記文章データ内の不要文を識別する(S121)。具体的には、例えば、「いつもお世話になっております。」や「ありがとうございます。」等の予め設定した文章及び前記予め設定した文章と類似度の高い文章を不要文として識別する。前記類似度は、特に制限されないが、例えば、後述のコサイン類似度を用いることができる。次に、不要文削除部122により、前記識別した不要文を前記文章データから削除する(S122)。次に、形態素解析部123により、前記文章データに対して文単位で形態素解析を行う(S123)。次に、識別部124により、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する(S124)。前記文末表現ルールは、文末の表現と前記文章タイプとを紐づけたものであり、任意に設定できる。具体的に、前記質問タイプと紐づけられた前記文末の表現としては、例えば、「・・・ください。」、「・・・をお願いします。」、「・・・は何ですか?」、「・・・起きますか?」等がある。また、前記回答タイプと紐づけられた前記文末の表現としては、例えば、「・・・になります。」、「・・・解決します。」等がある。文章タイプ識別部12は、例えば、前記工程(S121)~(S124)の処理を全ての文章データに対して実行する。
An example of the processing by the sentence type identification unit 12 (step (S12)) will be specifically described. The sentence
次に、質問回答表生成部13により、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する(S13)。前記質問回答表は、例えば、メモリ102及び記憶装置104に記憶されてもよい。質問回答表生成部13は、例えば、下記条件(1)~(3)の少なくとも一方に基づき、質問回答表を生成してもよい。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
Next, the question and answer
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data with the highest similarity.
図6に、前記質問回答表の生成の一例について示す。図6では、前記会話履歴データにおける各文章データを送信時刻に沿って示している。図6に示す各文章データにおいて、文章タイプ識別部12により質問タイプと識別された文章データは、送信時刻の順に沿って「Qn(nは1以上の整数)」として示し、回答タイプと識別された文章データは、送信時刻の順に沿って「Am(mは1以上の整数)」として示す。回答タイプの文章データA1は、例えば、図6に示すように、質問回答表生成部13により上記条件(1)及び(2)に従い、文章データA1の送信時刻t3よりも前に送信されており、且つ文章データA1の送信者Xとは異なる送信者Yにより送信されている質問タイプの文章データQ2と紐づけられる。回答タイプの文章データA2及びA3も、例えば、文章データA1と同様にして、それぞれ、質問タイプの文章データQ1及びQ3と紐づけられる。このように、回答タイプの文章データは、例えば、複数の質問タイプの文章データと紐づけられてもよい。一方で、例えば、回答タイプの文章データA2及びA3のように、紐づけの対象となる前記質問タイプの文章データが複数存在する場合は、例えば、上記条件(3)に従い、前記類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づけてもよい。前記類似度は、特に制限されないが、例えば、コサイン類似度である。具体的に、例えば、前記類似度の算出として、各文章データをベクトル化して、コサイン類似度を算出する手法が用いられる。前記類似度は、前記類似度が高いほど、前記各文章データが類似していることを意味する。具体的に、回答タイプの文章データA2の場合は、例えば、文章データA2と文章データQ1との組み合わせにおける類似度、及び文章データA2と文章データQ3との組み合わせにおける類似度をそれぞれ算出し、前記類似度が高い組み合わせで紐づけを行う。
6 shows an example of the generation of the question and answer table. In FIG. 6, each piece of text data in the conversation history data is shown in order of transmission time. In each piece of text data shown in FIG. 6, text data identified by the text
前記類似度として、コサイン類似度を例に挙げてより具体的に説明する。まず、質問推定装置10は、各文章データに対し形態素解析を行い、前記各文章データを単語単位に分割する。次に、質問推定装置10は、文章データ毎に、各単語の出現回数を算出し、前記文章データを長さが単語の数(語彙数ともいう。前記出現回数のことではない)となるベクトルにする。ここまでの処理を、例えば、文章のベクトル化(エンベデッド化)といい、TF-IDF(Term Frequency-Inverse Document Frequency)等の技術を用いることができる。そして、前記ベクトルを用いて、コサイン類似度を算出する。前記コサイン類似度は、比較する各ベクトルが、同じ方向を向いている程度を表す指標であり、例えば、その値は―1から1の間を取り、1に近いほど同一方向であるといえる。すなわち、前記値が1に近いほど、比較する各文章データの類似度が高いと判断される。
The similarity will be described in more detail by taking cosine similarity as an example. First, the
次に、未送信文章取得部14により、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得する(S14)。未送信文章取得部14は、例えば、前記通信回線網を介して、前記回答者(例えば、担当者等)によって外部入力装置から前記未送信回答文章を取得してもよい。
Next, the unsent
そして、推定質問文章生成部15により、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成して(S15)、終了する(END)。推定質問文章生成部15は、例えば、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成してもよい。前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである。前記質問文章推定モデルは、例えば、外部から取得してもよいし、本装置10が学習処理部17を含む場合に学習処理部17により構築してもよい。前記質問文章推定モデルは、例えば、未送信回答文章を入力する入力層と、推定質問文章を出力する出力層と、入力層と出力層との間に設けられる少なくとも1層の中間層とを含む。前記質問文章推定モデルは、例えば、人工知能ソフトウェアの一部であるプログラムモジュールであってもよい。前記多層化ネットワークとしては、例えば、ニューラルネットワーク等が挙げられる。前記ニューラルネットワークとしては、例えば、畳み込みニューラルネットワーク(Convolution Neural Network:CNN)等が挙げられる。なお、前記質問文章推定モデルは、前記CNNに限定されず、例えば、CNN以外のニューラルネットワーク、SVM(Support Vector Machine)、ベイジアンネットワーク、回帰木等の他の学習アルゴリズムで構築された学習済みモデルであってもよい。
Then, the estimated question
学習処理部17について説明する。学習処理部17は、前記工程(S13)の後に、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する(S17)。前記教師付き機械学習は、例えば、前述と同様に、CNN、SVM、ベイジアンネットワーク、回帰木等を用いた機械学習である。学習処理部17は、例えば、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換してもよい。そして、学習処理部17は、前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築してもよい。前記ベクトル変換学習済みモデルは、例えば、外部から取得してもよいし、学習処理部17により構築してもよい。すなわち、学習処理部17は、例えば、前記教師なし学習を行う事前学習(Pre-training)のフェーズと、その後に行う教師付き機械学習を行う詳細学習(Fine Tuning)のフェーズとの2つのフェーズで構成されてもよい。具体的に、前記事前学習は、例えば、大量のラベルなし文章データ(会話履歴データの文章データ)から、文中の単語をマスクし、前記マスクした単語を推測する学習を行う処理である。また、具体的に、前記詳細学習は、例えば、前記ベクトル変換学習済みモデルを初期値に利用し、少量のラベル付きデータ(前記質問回答表)を使って再学習させることで、生成する推定質問文章の精度を高める処理である。
The
また、例えば、前記工程(S15)の後に、出力部16により、生成した前記推定質問文章を出力し(S16)、終了してもよい(END)。出力部16は、例えば、前記通信回線網を介して、外部装置に出力してもよいし、表示装置106に出力してもよい。
For example, after the step (S15), the
さらに、例えば、質問文章取得部18により、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得してもよい(S18)。前記工程(S18)を実行するタイミングは、特に制限されない。質問文章取得部18は、例えば、前記継続中の会話における送信済みの文章データを全て取得し、前記取得した文章データを前述と同様にして、文章タイプ識別部12により文章タイプを識別し、前記質問タイプと識別された文章データ(送信済み質問文章ともいう)のみを取得してもよい。
Furthermore, for example, the question
前記工程(S18)を実行する場合、前記工程(S15)及び前記工程(S18)の後に、類似度分析部19により、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析する(S19)。前記類似度は、例えば、コサイン類似度を用いることができる。
When the step (S18) is executed, after the steps (S15) and (S18), the
そして、出力部16により、前記類似度を出力して(S20)、終了する(END)。前記出力は、例えば、前記類似度が予め設定した値以下であれば、前記類似度が低いことを示す警告を出力してもよい。また、出力部16は、例えば、前記類似度が予め設定した値以下であれば、前記未送信回答文書を出力(送信)不可にするように制御可能であってもよい。
Then, the
本実施形態によれば、推定質問文章を生成することで、継続中の会話における質問文章と前記推定質問文章との類似性を確認することに活用でき、誤送信を未然に防ぐことができる。また、本実施形態によれば、例えば、類似度を算出することができるため、継続中の会話における質問文章と前記推定質問文章との類似性の確認が容易である。さらに、本実施形態によれば、事前学習(Pre-training)のフェーズと、その後に行う詳細学習(Fine Tuning)のフェーズとの2つのフェーズにより、より精度の高い推定質問文章を生成することができる。 According to this embodiment, by generating an estimated question sentence, it is possible to use the generated question sentence to check the similarity between the question sentence in an ongoing conversation and the estimated question sentence, and to prevent erroneous transmission. Also, according to this embodiment, for example, the similarity can be calculated, so that it is easy to check the similarity between the question sentence in an ongoing conversation and the estimated question sentence. Furthermore, according to this embodiment, it is possible to generate a more accurate estimated question sentence by using two phases: a pre-training phase and a fine tuning phase that is performed after the pre-training phase.
[実施形態2]
図7(A)は、本実施形態の学習済みモデル生成装置20の一例の構成を示すブロック図である。図7(A)に示すように、本装置20は、データ取得部21、及び学習済みモデル生成部22を含む。
[Embodiment 2]
7A is a block diagram showing an example of a configuration of a trained
本装置20は、例えば、前記各部を含む1つの装置でもよいし、前記各部が、前記通信回線網を介して接続可能な装置でもよい。また、本装置20は、前記通信回線網を介して、前述の外部装置と接続可能である。本装置20は、例えば、システムとしてサーバに組み込まれていてもよい。また、本装置20は、例えば、本発明のプログラムがインストールされたパーソナルコンピュータ(PC、例えば、デスクトップ型、ノート型)、スマートフォン、タブレット端末等であってもよい。さらに、本装置20は、例えば、前記各部のうち少なくとも一つがサーバ上にあり、その他の前記各部が端末上にあるような、クラウドコンピューティングやエッジコンピューティング等の形態であってもよい。
The
図7(B)に、学習済みモデル生成装置20のハードウエア構成のブロック図を例示する。学習済みモデル生成装置20は、例えば、中央処理装置(CPU、GPU等)101、メモリ102、バス103、記憶装置104、入力装置105、表示装置106、通信デバイス107等を含む。学習済みモデル生成装置20のハードウエア構成の各部は、特に言及しない限り、図3に示す質問推定装置10のハードウエア構成の各部の記載を援用できる。
Figure 7 (B) illustrates an example block diagram of the hardware configuration of the trained
中央処理装置101は、例えば、データ取得部21及び学習済みモデル生成部22として機能する。
The
メモリ102及び記憶装置104は、本装置20によって生成された学習済みモデルを記憶してもよい。
The
つぎに、本実施形態の学習済みモデルの生産方法の一例を、図8のフローチャートに基づき説明する。本実施形態の学習済みモデルの生産方法は、例えば、図7の学習済みモデル生成装置20を用いて、次のように実施する。なお、本実施形態の学習済みモデルの生産方法は、図7の学習済みモデル生成装置20の使用には限定されない。
Next, an example of a method for producing a trained model according to this embodiment will be described with reference to the flowchart of FIG. 8. The method for producing a trained model according to this embodiment is implemented as follows, for example, using the trained
まず、データ取得部21により、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得する(S21)。次に、学習済みモデル生成部22により、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成し(S22)、終了する(END)。前記第1の学習済みモデルは、例えば、前記実施形態1記載の質問推定装置10において、質問文章推定モデルとして使用されてもよい。
First, the
つまり、本装置20は、機械付き機械学習を行うことで、前記回答タイプの文章データを入力とし、前記推定質問文章を出力とするニューラルネットワークを構築(生成)する、ともいえる。前記ニューラルネットワークとしては、例えば、前述と同様である。前記ニューラルネットワークは、例えば、前記回答タイプの文章データを受け付ける入力層と、前記推定質問文章を出力する出力層と、入力層と出力層との間に設けられる少なくとも1層の中間層とを含んでもよい。
In other words, the
前記入力層は、例えば、前記回答タイプの文章データの入力を受け付ける複数のニューロンを含み、入力された前記回答タイプの文章データを前記中間層に受け渡す。前記中間層は、前記前記回答タイプの文章データの特徴量を抽出する複数のニューロンを含み、抽出した前記特徴量を前記出力層に受け渡す。前記出力層は、推定質問文章を出力する一又は複数のニューロンを含み、前記中間層から出力された前記特徴量に基づいて、前記推定質問文章の生成を行う。 The input layer includes, for example, a plurality of neurons that accept input of sentence data of the answer type, and passes the input sentence data of the answer type to the intermediate layer. The intermediate layer includes a plurality of neurons that extract features of the sentence data of the answer type, and passes the extracted features to the output layer. The output layer includes one or more neurons that output an estimated question sentence, and generates the estimated question sentence based on the features output from the intermediate layer.
前記教師データ及び前記入力される回答タイプの文章データは、例えば、前記機械学習及び第1の学習済みモデルに供される前に形態素解析(自然言語処理(NLP:Natural Language Processing))に供されてもよい。 The teacher data and the input answer-type sentence data may be subjected to, for example, morphological analysis (Natural Language Processing (NLP)) before being subjected to the machine learning and first trained model.
データ取得部21は、例えば、さらに、会話履歴データを取得してもよい。前記会話履歴データは、前述と同様であり、複数の文章データから構成される。そして、学習済みモデル生成部22は、さらに、例えば、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成してもよい。前記第2の学習済みモデルは、例えば、前記実施形態1記載の質問推定装置10において、ベクトル変換学習済みモデルとして使用されてもよい。すなわち、本装置20は、前記質問文章推定モデルと前記ベクトル変換学習済みモデルの2つの学習済みモデルを生成してもよい。
The
本実施形態によって生成される第1及び第2の学習済みモデルは、例えば、前記実施形態1記載の質問推定装置10に使用される。これにより、推定質問文章を生成可能であり、誤送信を未然に防ぐことができる。
The first and second trained models generated by this embodiment are used, for example, in the
[実施形態3]
図9を用いて、質問文章推定モデルを作成する一例について具体的に説明する。
[Embodiment 3]
An example of creating a question sentence estimation model will be specifically described with reference to FIG.
図9は、質問文章推定モデルを作成する一例について示す図である。図9に示すように、質問推定装置10は、質問回答表生成部13により、取得した前記会話履歴データを用いて、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表(QA表)を生成する。一方で、質問推定装置10は、学習処理部17により、取得した前記会話履歴データを用いて、教師なし機械学習を行い(Pre-training)、前記ベクトル変換学習済みモデルを構築する。前記ベクトル変換学習済みモデルは、例えば、前述のように、外部から取得してもよいし、学習済みモデル生成装置20により生成された学習済みモデルを用いてもよい。そして、質問推定装置10は、学習処理部17により、前記QA表における各文章データを入力して、前記各文章データをベクトルに変換する。前記QA表は、例えば、図9に示すように、前記各文章データと前記ベクトルとを紐づけて記憶するデータであってもよい。次に、質問推定装置10は、学習処理部17により、前記QA表における質問タイプの文章データに対し自然言語処理を行い、且つ前記質問タイプの文章データを教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして用いて、教師付き機械学習を行い(Fine-tuning)、前記質問文章推定モデルを構築する。前記質問文章推定モデルは、例えば、前述のように、学習済みモデル生成装置20により生成された学習済みモデルを用いてもよい。
9 is a diagram showing an example of creating a question sentence estimation model. As shown in FIG. 9, the
図10を用いて、類似度を出力する一例について具体的に説明する。 An example of outputting similarity will be specifically explained using Figure 10.
図10は、生成した推定質問文章と継続中の会話における送信済み質問文章との類似度を分析する一例について示す図である。図10に示す回答者端末30は、回答者側の会話支援装置であり、例えば、前記質問者及び前記回答者間のやり取り(対話・会話)を行う装置である。回答者端末30のディスプレイ(表示装置)には、例えば、図10に示すように、継続中の会話における複数の文章データが表示される。また、前記ディスプレイには、入力欄が表示されている。前記回答者は、入力装置を用いて前記入力欄内に文章データを入力する。図10において、前記入力欄に入力された文章データは、回答タイプの文章データであるが、質問対応の文章データが入力されてもよい。質問推定装置10は、例えば、未送信文章取得部14により前記入力欄に入力された未送信の文章データを取得して、文章タイプ識別部12により前記入力欄に入力された文章データの文章タイプを識別してもよい。そして、前記入力欄に入力された文章データの文章タイプが回答タイプと識別された場合に、質問推定装置10は、例えば、推定質問文章生成部15による推定質問文章の生成、質問文章取得部18による送信済み回答文章の取得、類似度分析部19による類似度の分析等を実行する。一方で、質問推定装置10は、例えば、回答者端末30から前記類似度の分析に関するリクエストを取得してもよい。具体的に、前記回答タイプの文章データを入力した回答者は、例えば、ディスプレイに表示された「正当性確認」を押下する。そうすると、回答者端末30から質問推定装置10に前記リクエストが送信される。前記リクエストを取得した質問推定装置10は、未送信文章取得部14により、前記入力欄に入力された回答タイプの文章データ(未送信回答文章)を取得する。次に、前述と同様に、質問推定装置10は、推定質問文章生成部15による推定質問文章の生成、質問文章取得部18による送信済み回答文章の取得、類似度分析部19による類似度の分析を実行する。そして、出力部16により、前記未送信回答文章が前記会話に対する送信対象としての確からしさの程度を示す「正当性」として、前記類似度を回答者端末30に出力する。出力された前記類似度(正当性)は、例えば、回答者端末30のディスプレイに表示される。これにより、回答者は、ディスプレイに表示された前記正当性の程度を確認することができ、誤送信の防止につながる。
Figure 10 is a diagram showing an example of analyzing the similarity between the generated estimated question sentence and a sent question sentence in an ongoing conversation. The
[実施形態4]
本実施形態のプログラムは、本発明の方法の各工程を、手順として、コンピュータに実行させるためのプログラムである。本発明において、「手順」は、「処理」と読み替えてもよい。また、本実施形態のプログラムは、例えば、コンピュータ読み取り可能な記録媒体に記録されていてもよい。前記記録媒体としては、特に限定されず、例えば、読み出し専用メモリ(ROM)、ハードディスク(HD)、光ディスク等が挙げられる。
[Embodiment 4]
The program of the present embodiment is a program for causing a computer to execute each step of the method of the present invention as a procedure. In the present invention, the "procedure" may be read as "processing." The program of the present embodiment may be recorded, for example, in a computer-readable recording medium. The recording medium is not particularly limited, and examples thereof include a read-only memory (ROM), a hard disk (HD), and an optical disk.
以上、実施形態を参照して本発明を説明したが、本発明は、上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解しうる様々な変更をできる。 The present invention has been described above with reference to the embodiments, but the present invention is not limited to the above embodiments. Various modifications that can be understood by a person skilled in the art can be made to the configuration and details of the present invention within the scope of the present invention.
<付記>
上記の実施形態の一部または全部は、以下の付記のように記載されうるが、以下には限られない。
(付記1)
会話履歴データ取得部、文章タイプ識別部、質問回答表生成部、未送信文章取得部、及び推定質問文章生成部を含み、
前記会話履歴データ取得部は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別部は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成部は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得部は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成部は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、質問推定装置。
(付記2)
前記文章タイプ識別部は、不要文識別部、不要文削除部、形態素解析部、及び識別部を含み、
前記不要文識別部は、前記文章データ内の不要文を識別し、
前記不要文削除部は、前記識別した不要文を前記文章データから削除し、
前記形態素解析部は、前記文章データに対して文単位で形態素解析を行い、
前記識別部は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、付記1記載の質問推定装置。
(付記3)
前記質問回答表生成部は、下記条件(1)~(3)の少なくとも一方に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する、付記1又は2記載の質問推定装置。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
(付記4)
前記推定質問文章生成部は、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成し、
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、付記1から3のいずれかに記載の質問推定装置。
(付記5)
さらに、学習処理部を含み、
前記学習処理部は、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成部は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、付記1から4のいずれかに記載の質問推定装置。
(付記6)
前記学習処理部は、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換し、且つ
前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する、付記6記載の質問推定装置。
(付記7)
さらに、出力部、質問文章取得部、及び類似度分析部を含み、
前記質問文章取得部は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析部は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力部は、前記類似度を出力ずる、付記1から6のいずれかに記載の質問推定装置。
(付記8)
データ取得部、及び学習済みモデル生成部を含み、
前記データ取得部は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成部は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、学習済みモデル生成装置。
(付記9)
前記データ取得部は、会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記学習済みモデル生成部は、さらに、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成する、付記8記載の学習済みモデル生成装置。
(付記10)
会話履歴データ取得工程、文章タイプ識別工程、質問回答表生成工程、未送信文章取得工程、及び推定質問文章生成工程を含み、
前記会話履歴データ取得工程は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別工程は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成工程は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得工程は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成工程は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、質問推定方法。
(付記11)
前記文章タイプ識別工程は、不要文識別工程、不要文削除工程、形態素解析工程、及び識別工程を含み、
前記不要文識別工程は、前記文章データ内の不要文を識別し、
前記不要文削除工程は、前記識別した不要文を前記文章データから削除し、
前記形態素解析工程は、前記文章データに対して文単位で形態素解析を行い、
前記識別工程は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、付記10記載の質問推定方法。
(付記12)
前記質問回答表生成工程は、下記条件(1)~(3)の少なくとも一方に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する、付記10又は11記載の質問推定方法。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
(付記13)
前記推定質問文章生成工程は、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成し、
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、付記10から12のいずれかに記載の質問推定方法。
(付記14)
さらに、学習処理工程を含み、
前記学習処理工程は、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成工程は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、付記10から13のいずれかに記載の質問推定方法。
(付記15)
前記学習処理工程は、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換し、且つ
前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する、付記14記載の質問推定方法。
(付記16)
さらに、出力工程、質問文章取得工程、及び類似度分析工程を含み、
前記質問文章取得工程は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析工程は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力工程は、前記類似度を出力ずる、付記10から15のいずれかに記載の質問推定方法。
(付記17)
データ取得工程、及び学習済みモデル生成工程を含み、
前記データ取得工程は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成工程は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、学習済みモデルの生産方法。
(付記18)
前記データ取得工程は、会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記学習済みモデル生成工程は、さらに、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成する、付記17記載の学習済みモデルの生産方法。
(付記19)
コンピュータに、会話履歴データ取得手順、文章タイプ識別手順、質問回答表生成手順、未送信文章取得手順、及び推定質問文章生成手順を含む手順を実行させるためのプログラム:
前記会話履歴データ取得手順は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別手順は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成手順は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得手順は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成手順は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する。
(付記20)
前記文章タイプ識別手順は、不要文識別手順、不要文削除手順、形態素解析手順、及び識別手順を含み、
前記不要文識別手順は、前記文章データ内の不要文を識別し、
前記不要文削除手順は、前記識別した不要文を前記文章データから削除し、
前記形態素解析手順は、前記文章データに対して文単位で形態素解析を行い、
前記識別手順は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、付記19記載のプログラム。
(付記21)
前記質問回答表生成手順は、下記条件(1)~(3)の少なくとも一方に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成する、付記19又は20記載のプログラム。
(1)前記回答タイプの文章データに、前記回答タイプの文章データよりも送信時刻の古い前記質問タイプの文章データを紐づける
(2)前記回答タイプの文章データを送信したユーザと異なる他のユーザが送信した前記質問タイプの文章データを紐づける
(3)前記回答タイプの文章データとの紐づけの対象となる前記質問タイプの文章データが複数存在する場合に、前記回答タイプの文章データと前記質問タイプの文章データとの類似度を算出し、前記類似度が高い前記回答タイプの文章データと前記質問タイプの文章データとの組み合わせで紐づける
(付記22)
前記推定質問文章生成手順は、質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成し、
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、付記19から21のいずれかに記載のプログラム。
(付記23)
さらに、学習処理手順を含み、
前記学習処理手順は、前記質問回答表における前記質問文章を教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成手順は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、付記19から22のいずれかに記載のプログラム。
(付記24)
前記学習処理手順は、前記教師付き機械学習を行う前に、入力された文章データをベクトルに変換するように教師なし学習されたベクトル変換学習済みモデルに、前記質問回答表の各文章データを入力して、前記各文章データをベクトルに変換し、且つ
前記ベクトルに変換した前記質問タイプの文章データを教師データとし、前記ベクトルに変換した前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築する、付記23記載のプログラム。
(付記25)
さらに、出力手順、質問文章取得手順、及び類似度分析手順を含み、
前記質問文章取得手順は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析手順は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力手順は、前記類似度を出力ずる、付記19から24のいずれかに記載のプログラム。
(付記26)
コンピュータに、データ取得手順、及び学習済みモデル生成手順を含む手順を実行させるためのプログラム:
前記データ取得手順は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成手順は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する。
(付記27)
前記データ取得手順は、会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記学習済みモデル生成手順は、さらに、前記会話履歴データを用いた教師なし機械学習によって、前記文章データを入力した場合に、前記文章データをベクトルに変換して出力する第2の学習済みモデルを生成する、付記26記載のプログラム。
(付記28)
付記19から27のいずれかに記載のプログラムを記録しているコンピュータ読み取り可能な記録媒体。
<Additional Notes>
Some or all of the above embodiments may be described as follows, but are not limited to the following:
(Appendix 1)
The system includes a conversation history data acquisition unit, a sentence type identification unit, a question and answer table generation unit, an unsent sentence acquisition unit, and an estimated question sentence generation unit,
the conversation history data acquisition unit acquires conversation history data, which is character data of a completed conversation;
The conversation history data is composed of a plurality of sentence data,
The text type identification unit identifies a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating unit generates a question and answer table by linking the sentence data of the question type with the sentence data of the answer type based on a result of the identification;
The unsent text acquisition unit acquires an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
The question estimation device, wherein the estimated question sentence generation unit generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
(Appendix 2)
the sentence type identification unit includes an unnecessary sentence identification unit, an unnecessary sentence deletion unit, a morphological analysis unit, and an identification unit;
The unnecessary sentence identification unit identifies unnecessary sentences in the text data,
the unnecessary sentence deletion unit deletes the identified unnecessary sentences from the text data;
The morphological analysis unit performs a morphological analysis on the text data on a sentence-by-sentence basis;
The question prediction device according to
(Appendix 3)
3. The question estimation device according to
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple pieces of question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data with the highest similarity (Appendix 4).
the estimated question sentence generation unit inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
4. The question estimation device according to
(Appendix 5)
Further, a learning processing unit is included,
the learning processing unit uses the question sentence in the question and answer table as teacher data and uses sentence data of the answer type linked to sentence data of the question type as input data to construct the question sentence estimation model through supervised machine learning;
5. The question estimation device according to
(Appendix 6)
the learning processing unit inputs each piece of text data in the question and answer list into a vector conversion trained model that has been trained in an unsupervised manner to convert input text data into a vector before performing the supervised machine learning, converts each piece of text data into a vector, and uses the text data of the question type converted into the vector as supervised data and the text data of the answer type converted into the vector as input data to construct the question text estimation model by supervised machine learning.
(Appendix 7)
Further, the apparatus includes an output unit, a question sentence acquisition unit, and a similarity analysis unit,
the question sentence acquisition unit acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis unit compares the transmitted sentence data of the question type with the generated estimated question sentence to analyze the similarity;
7. The question estimation device according to
(Appendix 8)
The data acquisition unit and the trained model generation unit are included.
the data acquisition unit acquires question-type sentence data linked to answer-type sentence data as teacher data;
The trained model generation unit is a trained model generation device that generates a first trained model by machine learning using the teacher data, which generates and outputs an estimated question sentence corresponding to the answer type sentence data when the answer type sentence data is input.
(Appendix 9)
The data acquisition unit acquires conversation history data,
The conversation history data is composed of a plurality of sentence data,
The trained model generation device of claim 8, wherein the trained model generation unit further generates a second trained model by unsupervised machine learning using the conversation history data, which, when input, converts the sentence data into a vector and outputs the sentence data.
(Appendix 10)
The method includes a conversation history data acquisition step, a sentence type identification step, a question and answer table generation step, an unsent sentence acquisition step, and an estimated question sentence generation step,
The conversation history data acquisition step acquires conversation history data, which is character data of a completed conversation,
The conversation history data is composed of a plurality of sentence data,
The text type identification step includes identifying a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating step links the sentence data of the question type with the sentence data of the answer type based on a result of the identification to generate a question and answer table;
The unsent text acquisition step includes acquiring an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
The question estimating method includes generating an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence, in the estimated question sentence generating step.
(Appendix 11)
The sentence type identification step includes an unnecessary sentence identification step, an unnecessary sentence deletion step, a morphological analysis step, and an identification step,
The unnecessary sentence identification step includes identifying unnecessary sentences in the text data,
the unnecessary sentence deletion step deletes the identified unnecessary sentences from the text data;
The morphological analysis step performs a morphological analysis on the text data on a sentence-by-sentence basis;
The question estimating method according to
(Appendix 12)
12. The question estimating method according to
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple pieces of question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data that have the highest similarity (Appendix 13).
the estimated question sentence generation step inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
The question estimation method according to any one of
(Appendix 14)
Further, a learning process is included,
the learning process includes constructing the question sentence estimation model by supervised machine learning using the question sentence in the question and answer table as training data and sentence data of the answer type linked to sentence data of the question type as input data;
The question estimating method according to any one of
(Appendix 15)
The question estimation method according to
(Appendix 16)
The method further includes an output step, a question sentence acquisition step, and a similarity analysis step,
The question sentence acquisition step acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis step compares the transmitted sentence data of the question type with the generated estimated question sentence to analyze the similarity;
16. The question estimating method according to any one of
(Appendix 17)
The method includes a data acquisition process and a trained model generation process.
The data acquisition step includes acquiring question-type sentence data linked to answer-type sentence data as teacher data,
The trained model generation process is a trained model production method that generates a first trained model by machine learning using the training data, which generates and outputs an estimated question sentence corresponding to the answer type sentence data when the answer type sentence data is input.
(Appendix 18)
The data acquisition step acquires conversation history data,
The conversation history data is composed of a plurality of sentence data,
The trained model generation process further generates a second trained model by unsupervised machine learning using the conversation history data, which converts the sentence data into a vector and outputs the sentence data when the sentence data is input.
(Appendix 19)
A program for causing a computer to execute steps including a conversation history data acquisition step, a sentence type identification step, a question and answer table generation step, an unsent sentence acquisition step, and an estimated question sentence generation step:
The conversation history data acquisition step acquires conversation history data, which is character data of a completed conversation;
The conversation history data is composed of a plurality of sentence data,
The text type identification step includes identifying a text type for each of the text data;
The sentence types include a question type and an answer type,
the step of generating a question and answer table includes linking the sentence data of the question type with the sentence data of the answer type based on a result of the identification to generate a question and answer table;
The unsent text acquisition step includes acquiring an unsent reply text that has not yet been transmitted to another user in an ongoing conversation;
The estimated question sentence generating step generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
(Appendix 20)
The sentence type identification step includes an unnecessary sentence identification step, an unnecessary sentence deletion step, a morphological analysis step, and a classification step;
The unnecessary sentence identification step includes identifying unnecessary sentences in the text data;
the unnecessary sentence deletion step deletes the identified unnecessary sentences from the sentence data;
The morphological analysis step performs a morphological analysis on the text data on a sentence-by-sentence basis;
20. The program according to
(Appendix 21)
The program according to claim 19 or 20, wherein the question and answer table generating step generates a question and answer table by linking the sentence data of the question type with the sentence data of the answer type based on at least one of the following conditions (1) to (3):
(1) Linking the answer type text data to the question type text data that was sent earlier than the answer type text data. (2) Linking the question type text data sent by a user other than the user who sent the answer type text data. (3) When there are multiple pieces of question type text data to be linked with the answer type text data, calculating the similarity between the answer type text data and the question type text data, and linking the answer type text data and the question type text data with the highest similarity (Appendix 22).
the estimated question sentence generation step inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
A program described in any one of
(Appendix 23)
Further, a learning procedure is included,
the learning process step includes constructing the question sentence estimation model by supervised machine learning using the question sentence in the question and answer table as training data and sentence data of the answer type linked to sentence data of the question type as input data;
The program according to any one of
(Appendix 24)
The program described in Appendix 23, wherein the learning process procedure includes inputting each piece of sentence data in the question and answer list into a vector conversion trained model that has been trained in an unsupervised manner to convert input sentence data into a vector before performing the supervised machine learning, converting each piece of sentence data into a vector, and using the sentence data of the question type converted into the vector as teacher data and the sentence data of the answer type converted into the vector as input data to construct the question sentence estimation model by supervised machine learning.
(Appendix 25)
Further, the method includes an output step, a question sentence acquisition step, and a similarity analysis step,
The question sentence acquisition step acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis step compares the transmitted question type sentence data with the generated estimated question sentence to analyze the similarity;
25. The program according to any one of
(Appendix 26)
A program for causing a computer to execute a procedure including a data acquisition procedure and a trained model generation procedure:
The data acquisition step includes acquiring question-type sentence data linked to answer-type sentence data as training data;
The trained model generation procedure generates, through machine learning using the training data, a first trained model that, when inputted with the answer type of sentence data, generates and outputs an estimated question sentence corresponding to the answer type of sentence data.
(Appendix 27)
The data acquisition step acquires conversation history data;
The conversation history data is composed of a plurality of sentence data,
The program described in Appendix 26, wherein the trained model generation procedure further generates a second trained model by unsupervised machine learning using the conversation history data, which, when the sentence data is input, converts the sentence data into a vector and outputs it.
(Appendix 28)
A computer-readable recording medium having a program according to any one of
本発明によれば、回答の誤送信を未然に防ぐことができる。このため、本発明は、複数人のカスタマからの質問に対し、回答者として1人の担当者が担当(回答)する場合において特に有用である。 The present invention can prevent erroneous sending of answers. Therefore, the present invention is particularly useful in cases where one person answers questions from multiple customers.
10 質問推定装置
11 会話履歴データ取得部
12 文章タイプ識別部
13 質問回答表生成部
14 未送信文章取得部
15 推定質問文章生成部
16 出力部
17 学習処理部
18 質問文章取得部
19 類似度分析部
20 学習済みモデル生成装置
21 データ取得部
22 学習済みモデル生成部
100 会話履歴データベース
101 中央処理装置
102 メモリ
103 バス
104 記憶装置
105 入力装置
106 表示装置
107 通信デバイス
10
Claims (10)
前記会話履歴データ取得部は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別部は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成部は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得部は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成部は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、質問推定装置。 The system includes a conversation history data acquisition unit, a sentence type identification unit, a question and answer table generation unit, an unsent sentence acquisition unit, and an estimated question sentence generation unit,
the conversation history data acquisition unit acquires conversation history data, which is character data of a completed conversation;
The conversation history data is composed of a plurality of sentence data,
The text type identification unit identifies a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating unit generates a question and answer table by linking the sentence data of the question type with the sentence data of the answer type based on a result of the identification;
The unsent text acquisition unit acquires an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
The question estimation device, wherein the estimated question sentence generation unit generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
前記不要文識別部は、前記文章データ内の不要文を識別し、
前記不要文削除部は、前記識別した不要文を前記文章データから削除し、
前記形態素解析部は、前記文章データに対して文単位で形態素解析を行い、
前記識別部は、前記形態素解析に基づき、予め設定した文末表現ルールに従って、前記文章データの文章タイプを識別する、請求項1記載の質問推定装置。 the sentence type identification unit includes an unnecessary sentence identification unit, an unnecessary sentence deletion unit, a morphological analysis unit, and an identification unit;
The unnecessary sentence identification unit identifies unnecessary sentences in the text data,
the unnecessary sentence deletion unit deletes the identified unnecessary sentences from the text data;
The morphological analysis unit performs a morphological analysis on the text data on a sentence-by-sentence basis;
The question prediction device according to claim 1 , wherein the identification unit identifies a sentence type of the sentence data based on the morphological analysis and in accordance with a preset sentence-ending expression rule.
前記質問文章推定モデルは、入力された未送信回答文章から前記未送信回答文章に対応する推定質問文章を生成するように学習されたモデルである、請求項1又は2記載の質問推定装置。 the estimated question sentence generation unit inputs the acquired untransmitted answer sentence into a question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence;
The question estimation device according to claim 1 , wherein the question sentence estimation model is a model trained to generate an estimated question sentence corresponding to an input untransmitted answer sentence from the input untransmitted answer sentence.
前記学習処理部は、前記質問回答表における前記質問タイプの文章データを教師データとし、前記質問タイプの文章データと紐づけられている前記回答タイプの文章データを入力データとして、教師付き機械学習により前記質問文章推定モデルを構築し、
前記推定質問文章生成部は、前記構築した質問文章推定モデルに、取得した前記未送信回答文章を入力して、前記未送信回答文章に対応する推定質問文章を生成する、請求項3記載の質問推定装置。 Further, a learning processing unit is included,
the learning processing unit uses sentence data of the question type in the question and answer table as teacher data and sentence data of the answer type linked to the sentence data of the question type as input data to construct the question sentence estimation model through supervised machine learning;
The question estimation device according to claim 3 , wherein the estimated question sentence generation unit inputs the acquired untransmitted answer sentence to the constructed question sentence estimation model to generate an estimated question sentence corresponding to the untransmitted answer sentence.
前記質問文章取得部は、継続中の会話における送信済みであって且つ他のユーザが送信した質問タイプの文章データを取得し、
前記類似度分析部は、前記送信済みの質問タイプの文章データと前記生成した推定質問文章と比較して類似度を分析し、
前記出力部は、前記類似度を出力ずる、請求項1から4のいずれか一項に記載の質問推定装置。 Further, the apparatus includes an output unit, a question sentence acquisition unit, and a similarity analysis unit,
the question sentence acquisition unit acquires question-type sentence data that has been sent in the ongoing conversation and has been sent by another user,
the similarity analysis unit compares the transmitted sentence data of the question type with the generated estimated question sentence to analyze the similarity;
The question estimation device according to claim 1 , wherein the output unit outputs the similarity.
前記データ取得部は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成部は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、学習済みモデル生成装置。 The data acquisition unit and the trained model generation unit are included.
the data acquisition unit acquires question-type sentence data linked to answer-type sentence data as teacher data;
The trained model generation unit is a trained model generation device that generates a first trained model by machine learning using the teacher data, which generates and outputs an estimated question sentence corresponding to the answer type sentence data when the answer type sentence data is input.
前記会話履歴データ取得工程は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別工程は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成工程は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得工程は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成工程は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する、
各工程がコンピュータにより実行される質問推定方法。 The method includes a conversation history data acquisition step, a sentence type identification step, a question and answer table generation step, an unsent sentence acquisition step, and an estimated question sentence generation step,
The conversation history data acquisition step acquires conversation history data, which is character data of a completed conversation,
The conversation history data is composed of a plurality of sentence data,
The text type identification step includes identifying a text type for each of the text data,
The sentence types include a question type and an answer type,
the question and answer table generating step links the sentence data of the question type with the sentence data of the answer type based on a result of the identification to generate a question and answer table;
The unsent text acquisition step includes acquiring an unsent reply text that has not yet been transmitted to another user in an ongoing conversation,
the estimated question sentence generating step generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
A method of query estimation in which each step is carried out by a computer .
前記データ取得工程は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成工程は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する、学習済みモデルの生産方法。 The method includes a data acquisition process and a trained model generation process.
The data acquisition step includes acquiring question-type sentence data linked to answer-type sentence data as teacher data,
The trained model generation process is a trained model production method that generates a first trained model by machine learning using the training data, which generates and outputs an estimated question sentence corresponding to the answer type sentence data when the answer type sentence data is input.
前記会話履歴データ取得手順は、終了した会話の文字データである会話履歴データを取得し、
前記会話履歴データは、複数の文章データから構成され、
前記文章タイプ識別手順は、前記文章データ毎に文章タイプを識別し、
前記文章タイプは、質問タイプと、回答タイプとを含み、
前記質問回答表生成手順は、前記識別の結果に基づき、前記質問タイプの文章データと前記回答タイプの文章データとを紐づけて質問回答表を生成し、
前記未送信文章取得手順は、継続中の会話において、他のユーザへの送信前である未送信回答文章を取得し、
前記推定質問文章生成手順は、前記質問回答表及び前記未送信回答文章に基づき、前記未送信回答文章に対応する推定質問文章を生成する。 A program for causing a computer to execute steps including a conversation history data acquisition step, a sentence type identification step, a question and answer table generation step, an unsent sentence acquisition step, and an estimated question sentence generation step:
The conversation history data acquisition step acquires conversation history data, which is character data of a completed conversation;
The conversation history data is composed of a plurality of sentence data,
The text type identification step includes identifying a text type for each of the text data;
The sentence types include a question type and an answer type,
the step of generating a question and answer table includes linking the sentence data of the question type with the sentence data of the answer type based on a result of the identification to generate a question and answer table;
The unsent text acquisition step includes acquiring an unsent reply text that has not yet been transmitted to another user in an ongoing conversation;
The estimated question sentence generating step generates an estimated question sentence corresponding to the untransmitted answer sentence based on the question and answer table and the untransmitted answer sentence.
前記データ取得手順は、回答タイプの文章データと紐づけた質問タイプの文章データを教師データとして取得し、
前記学習済みモデル生成手順は、前記教師データを用いた機械学習によって、前記回答タイプの文章データを入力した場合に、前記回答タイプの文章データに対応する推定質問文章を生成して出力する第1の学習済みモデルを生成する。 A program for causing a computer to execute a procedure including a data acquisition procedure and a trained model generation procedure:
The data acquisition step includes acquiring question-type sentence data linked to answer-type sentence data as teacher data;
The trained model generation procedure generates a first trained model by machine learning using the training data, which, when inputted, generates and outputs an estimated question sentence corresponding to the answer type sentence data.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020188861A JP7616761B2 (en) | 2020-11-12 | 2020-11-12 | QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020188861A JP7616761B2 (en) | 2020-11-12 | 2020-11-12 | QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022077831A JP2022077831A (en) | 2022-05-24 |
| JP7616761B2 true JP7616761B2 (en) | 2025-01-17 |
Family
ID=81706896
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020188861A Active JP7616761B2 (en) | 2020-11-12 | 2020-11-12 | QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7616761B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024155046A (en) | 2023-04-20 | 2024-10-31 | 株式会社SoVa | Information processing system, information processing method, and program |
| JP2025059089A (en) * | 2023-09-28 | 2025-04-09 | ソフトバンクグループ株式会社 | system |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010066950A (en) | 2008-09-10 | 2010-03-25 | Fujitsu Ltd | Question estimation method and program |
| US20170351962A1 (en) | 2016-06-02 | 2017-12-07 | International Business Machines Corporation | Predicting user question in question and answer system |
| WO2019052261A1 (en) | 2017-09-18 | 2019-03-21 | 京东方科技集团股份有限公司 | Method for question answering service, question answering system and storage medium |
| JP2020071679A (en) | 2018-10-31 | 2020-05-07 | 株式会社リクルート | System, method, and program for assisting in response to question |
-
2020
- 2020-11-12 JP JP2020188861A patent/JP7616761B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010066950A (en) | 2008-09-10 | 2010-03-25 | Fujitsu Ltd | Question estimation method and program |
| US20170351962A1 (en) | 2016-06-02 | 2017-12-07 | International Business Machines Corporation | Predicting user question in question and answer system |
| WO2019052261A1 (en) | 2017-09-18 | 2019-03-21 | 京东方科技集团股份有限公司 | Method for question answering service, question answering system and storage medium |
| JP2020071679A (en) | 2018-10-31 | 2020-05-07 | 株式会社リクルート | System, method, and program for assisting in response to question |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022077831A (en) | 2022-05-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11823061B2 (en) | Systems and methods for continual updating of response generation by an artificial intelligence chatbot | |
| Bilquise et al. | Emotionally intelligent chatbots: A systematic literature review | |
| US10827024B1 (en) | Realtime bandwidth-based communication for assistant systems | |
| US12314675B2 (en) | System and method for a cognitive conversation service | |
| US20210232762A1 (en) | Architectures for natural language processing | |
| CN111694937B (en) | Interview method, device, computer equipment and storage medium based on artificial intelligence | |
| US10592607B2 (en) | Iterative alternating neural attention for machine reading | |
| WO2022095380A1 (en) | Ai-based virtual interaction model generation method and apparatus, computer device and storage medium | |
| WO2021114841A1 (en) | User report generating method and terminal device | |
| US20200272791A1 (en) | Systems and methods for automated conversations with a transactional assistant | |
| CN110795913A (en) | Text encoding method and device, storage medium and terminal | |
| US20230130308A1 (en) | Automated response engine and flow configured to exchange responsive communication data via an omnichannel electronic communication channel independent of data source | |
| CN111709223B (en) | Bert-based sentence vector generation method, device and electronic equipment | |
| US20240428052A1 (en) | Methods and systems for training medical machine-learning models | |
| Lee et al. | Deep representation learning for affective speech signal analysis and processing: Preventing unwanted signal disparities | |
| WO2022034922A1 (en) | System, program and method for questionnaire surveys | |
| US11907673B1 (en) | Enhancing chatbot recognition of user intent through graph analysis | |
| CN114357964A (en) | Subjective question scoring method, model training method, computer device, and storage medium | |
| JP7616761B2 (en) | QUESTION ESTIMATION DEVICE, TRAINED MODEL GENERATION DEVICE, QUESTION ESTIMATION METHOD, TRAINED MODEL PRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM | |
| CN114138947A (en) | Text processing method and device | |
| CN120671796A (en) | Intelligent knowledge base management method and system based on AI | |
| CN118520091A (en) | Multi-mode intelligent question-answering robot and construction method thereof | |
| US12236944B2 (en) | Systems and methods to improve trust in conversations with deep learning models | |
| CN119513237A (en) | Prompt word generation method, prompt word-based dialogue method and related device | |
| US20250299667A1 (en) | System and method for data visualization on spatial computing device based on cascading machine learning approach |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20220630 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231004 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240830 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241001 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241115 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20241203 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241226 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7616761 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |