Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6781123B2 - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents
[go: Go Back, main page]

JP6781123B2 - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents

データ処理装置、データ処理方法及びデータ処理プログラム Download PDF

Info

Publication number
JP6781123B2
JP6781123B2 JP2017172062A JP2017172062A JP6781123B2 JP 6781123 B2 JP6781123 B2 JP 6781123B2 JP 2017172062 A JP2017172062 A JP 2017172062A JP 2017172062 A JP2017172062 A JP 2017172062A JP 6781123 B2 JP6781123 B2 JP 6781123B2
Authority
JP
Japan
Prior art keywords
related word
word
target
words
word candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017172062A
Other languages
English (en)
Other versions
JP2019046414A (ja
Inventor
須永 聡
聡 須永
鎮成 齋藤
鎮成 齋藤
山人 原田
山人 原田
宮尾 浩
浩 宮尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2017172062A priority Critical patent/JP6781123B2/ja
Publication of JP2019046414A publication Critical patent/JP2019046414A/ja
Application granted granted Critical
Publication of JP6781123B2 publication Critical patent/JP6781123B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、データ処理装置、データ処理方法及びデータ処理プログラムに関する。
従来、対象語に関連する関連語の抽出は専門家の人手によらねばならず、時間がかかるため、関連語辞書を最新の情報に更新し続けることが困難であるという問題がある。このため、このような関連語用語の抽出を自動化することが期待されている。
そこで、自然言語処理分野において、対象語に関連する関連用語を文書データから自動抽出する技術が提案されている。例えば、従来の方法として、文書中のある言葉と同一文内またはその前後周辺に出現する言葉を、ある言葉と共起したとして、ある言葉と結びつきがあり、関連性のある言葉である場合に、この語を関連語として抽出とする方法がある。また、必ずしも関連語が一つの文書内に共起していない場合であっても対象分野と一致する分野の文書から関連語を抽出する方法(例えば、特許文献1参照)や、重要度の高い言葉を選別して重要語同士の関連度を判定し、関連の深い関連語を抽出する方法(例えば、特許文献2参照)が提案されている。
特開2004-361992号公報 特開2003-167894号公報
しかしながら、従来の方法では、共起した全ての言葉を関連語候補としている。このため、従来の方法では、出現回数と出現頻度によって関連語を限定した場合であっても、抽象度の高い概念語を含んでしまい、関連性が低い語、或いは、関連性がない語が関連語の中に多く混じり、関連語抽出の精度が低いという問題があった。
本発明は、上記に鑑みてなされたものであって、文書データから高精度に関連語を抽出することができるデータ処理装置、データ処理方法及びデータ処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係るデータ処理装置は、文書データから、言葉の共起によって対象語に関連する関連語候補を抽出し、対象語それぞれの関連語候補群を取得する取得部と、複数の関連語候補群に含まれる関連語候補ごとに、複数の関連語候補群の中での出現数をカウントするカウント部と、カウント部によってカウントされた出現数が所定の閾値以上である関連語候補を複数の関連語候補群から除外し、残った関連語候補を、対象語の関連語であると判定する関連語判定部と、を有することを特徴とする。
本発明によれば、文書データから高精度に関連語を抽出することができる。
図1は、実施の形態に係るデータ処理装置の構成の一例を模式的に示す図である。 図2は、図1に示すデータ処理装置の処理の流れを説明する図である。 図3は、図1に示すデータ処理装置の処理の流れを説明する図である。 図4は、実施の形態に係るデータ処理方法の処理手順を示すフローチャートである。 図5は、図4に示す関連語候補出現数カウント処理の処理手順を示すフローチャートである。 図6は、プログラムが実行されることにより、データ処理装置が実現されるコンピュータの一例を示す図である。
以下、図面を参照して、本発明の一実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
[実施の形態]
本発明の実施の形態について説明する。本発明の実施の形態では、電子化されたテキスト文書データが対象であることを前提とする。そして、本実施の形態では、文書データから、言葉の共起によって抽出した各対象語の関連語候補群における関連語候補のうち、複数の関連語候補群の中での出現数が閾値以上である関連語候補を除外し、残った関連語候補を対象語の関連語とする。なお、対象語は、関連語抽出処理の対象となる語であり、関連語は、対象語と関連する語であるとして文書データから言葉の共起によって抽出された語である。
[データ処理装置の構成]
まず、実施の形態におけるデータ処理装置の構成について説明する。図1は、実施の形態に係るデータ処理装置の構成の一例を模式的に示す図である。図1に示すように、データ処理装置1は、入力部11、出力部12、通信部13、制御部14及び記憶部15を有する。
入力部11は、データ処理装置1の操作者からの各種操作を受け付ける入力インタフェースである。例えば、入力部11は、タッチパネル、音声入力デバイス、キーボードやマウス等の入力デバイスによって構成される。
通信部13は、ネットワーク等を介して接続された他の装置との間で、各種情報を送受信する通信インタフェースである。通信部13は、NIC(Network Interface Card)等で実現され、LAN(Local Area Network)やインターネットなどの電気通信回線を介した他の装置と制御部14(後述)との間の通信を行う。例えば、通信部13は、ネットワークを介して、電子文書ファイルのデータを受け取り、制御部14に出力する。また、通信部13は、制御部14によって生成された専門用語を示す情報を、ネットワークを介して、外部の装置へ出力する。
出力部12は、例えば、液晶ディスプレイなどの表示装置、プリンタ等の印刷装置、情報通信装置等によって実現され、制御部14によって生成された対象語の関連語を示す情報等を出力する。
制御部14は、データ処理装置1全体を制御する。制御部14は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等の電子回路や、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の集積回路である。また、制御部14は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、内部メモリを用いて各処理を実行する。また、制御部14は、各種のプログラムが動作することにより各種の処理部として機能する。制御部14は、関連語候補群取得部141(取得部)、関連語候補出現数カウント部142(カウント部)及び関連語判定部143を有する。
関連語候補群取得部141は、文書データから、言葉の共起によって対象語に関連する関連語候補を抽出し、対象語それぞれの関連語候補群を取得する。関連語候補群取得部141は、文書データから、形態素解析を用いて抽出した名詞及び複合名詞を対象語とし、各対象語について、文書データのうち前記対象語を含む部分から形態素解析を用いて抽出した名詞及び複合名詞を関連語候補として、対象語ごとに関連語候補をまとめた関連語候補群を取得する。具体的には、関連語候補群取得部141は、処理対象の文書データから、形態素解析を用いて名詞及び複合名詞を抽出し、これらの抽出した各語を対象語とする対象語リストを作成する。そして、関連語候補群取得部141は、対象語リストの各語について、この語を含む部分を文書データから抽出する。関連語候補群取得部141は、抽出した部分から、形態素解析を用いて名詞及び複合名詞を抽出し、抽出した語を関連語候補として対象語ごとに関連語候補をまとめた関連語候補群を取得する。
関連語候補出現数カウント部142は、関連語候補群取得部141が取得した複数の関連語候補群に含まれる関連語候補ごとに、複数の関連語候補群の中での出現数をカウントする。
関連語判定部143は、カウントした出現数が所定の閾値以上である関連語候補を複数の関連語候補群から除外し、残った関連語候補を、対象語の関連語であると判定する。関連語判定部143は、関連語候補抽出部144、関連語候補除外部145及び関連語データ格納部146を有する。
関連語候補抽出部144は、関連語候補出現数カウント部142によってカウントされた出現数が所定の閾値以上である関連語候補を複数の関連語候補群から抽出する。この際、関連語候補抽出部144は、処理対象の文書データに応じて設定された閾値を用いて、抽出処理を行う。
ここで、この閾値は、処理対象の文書データに応じて変更される。例えば、閾値は、文書データのデータ量、文書データのデータ内容、文書データの作成期間等に応じて適宜設定される。また、閾値は、データ処理装置1による過去の文書データ処理において蓄積された処理内容や、処理対象である文書データの分野、データ量、作成期間等を基に、シミュレーションで設定されてもよい。例えば、閾値は、全対象語数の2分の1である。もちろん、閾値は、全対象語数の3分の1としてもよいし、全対象語数の4分の1としてもよい。また、閾値は、全対象語数に限らず、全関連語候補群数や、関連語候補群に含まれる各関連語候補の数に応じて設定してもよい。なお、例えば、入力部11が、閾値の設定或いは変更を指示する指示情報を受け付けることによって、制御部14が閾値を変更する。或いは、関連語候補抽出部144が、所定のルールにしたがって閾値を変更してもよい。
関連語候補除外部145は、関連語候補抽出部144によって抽出された関連語候補を、複数の関連語候補群から除外する。関連語データ格納部146は、関連語候補除外部145の除外後に残った関連語候補を、対象語の関連語であると判定し、関連語データ154(後述)として記憶部15に格納する。
記憶部15は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、光ディスク等の記憶装置である。なお、記憶部15は、RAM(Random Access Memory)、フラッシュメモリ、NVSRAM(Non Volatile Static Random Access Memory)等のデータを書き換え可能な半導体メモリであってもよい。記憶部15は、データ処理装置1で実行されるOS(Operating System)や各種プログラムを記憶する。さらに、記憶部15は、プログラムの実行で用いられる各種情報を記憶する。記憶部15は、文書データ151、カウントデータ152、閾値データ153及び関連語データ154を記憶する。
文書データ151は、電子化されたテキスト文書データであり、本データ処理装置1の処理対象となる文書ファイルを含む。カウントデータ152は、関連語候補出現数カウント部142がカウントした各カウント数が、関連語候補ごとに対応付けられたデータである。閾値データ153は、処理対象の文書ファイルに応じて変更可能に設定された閾値を示すデータである。また、関連語データ154は、対象語ごとに各関連語が対応付けられたデータである。
[データ処理の流れ]
次に、データ処理装置1における処理の流れについて詳細に説明する。図2及び図3は、図1に示すデータ処理装置の処理の流れを説明する図である。
まず、図2を参照して、対象語の関連語候補群を取得するまでの処理について説明する。図2に示すように、関連語候補群取得部141は、処理対象の電子ファイル文書151−1から、形態素解析により名詞及び複合名詞を抽出し、これらの抽出した各語を対象語とする対象語リストLを作成する(図2の(1)参照)。例えば、対象語リストLは、対象語として、「所分割」、「緊急通報」、「送信」の順で示す。また、対象語リストLには、N個の対象語が含まれるとして以降説明を行う。
そして、関連語候補群取得部141は、電子ファイル文書151−1のテキスト文章を、一行に一文示した形式の一文一行ファイルF、一行に一段落を示した形式の一段落一行ファイルF、または、一行に一小節を示した形式の一小節一行ファイルに変形する(図2の(2)参照)。
そして、対象語リストLの対象語のうち一番目の「所分割」の関連語候補群を取得する場合について説明する。この場合、関連語候補群取得部141は、「所分割」を含む行を、一文一行ファイルF、一段落一行ファイルF、及び、一小節一行ファイルから抽出する(図2の(3)参照)。例えば、関連語候補群取得部141は、一文一行ファイルFから「所分割にて緊急通報の送信を失敗するバグが発生した。」とする一文を抽出する。このように、関連語候補群取得部141は、データPに示すように「所分割」を含む行を複数抽出する。
そして、関連語候補群取得部141は、抽出した「所分割」を含む行を、形態素解析により名詞及び複合名詞を抽出し、重複を除いたものを、「所分割」の関連語候補とする(図2の(4)参照)。すなわち、関連語候補群取得部141は、「緊急通報」、「送信」、「失敗」、「バグ」、「発生」を含む関連語候補の集まりを、対象語「所分割」の関連語候補群Gとして取得する。
そして、関連語候補群取得部141は、対象語リストLの対象語のうち二番目の「緊急通報」に対する処理に進み、同様に、「緊急通報」について図2の(3),(4)で説明した処理を繰り返す(図2の(5)参照)。これによって、関連語候補群取得部141は、対象語「緊急通報」の関連語候補群を取得する。このように、対象語リストLの各対象語について、図2の(3),(4)で説明した処理を繰り返すことによって、対象語ごとに関連語候補群を取得する。関連語候補群取得部141は、1〜N個の対象語それぞれについて関連語候補群G〜Gを取得する。
次に、図3を参照して、関連語候補出現数カウント部142及び関連語判定部143の処理について説明する。図3に示すように、関連語候補群取得部141がN個の対象語それぞれの関連語候補群G〜Gを取得すると(図3の(6)参照)、関連語候補出現数カウント部142は、対象語ごとに、各関連語候補の全関連語候補群G〜Gにおける出現数をカウントする(図3の(7)参照)。
そして、関連語候補抽出部144は、全関連語候補群G〜Gのうち一定数(例えば、全対象語数の半数)以上に共通して出現した関連語候補を抽出する(図3の(8)参照)。ここで、図3の上部枠内では、全関連語候補群G〜Gのうち一定数(例えば、全対象語数の半数)以上に出現した語(関連語候補)には、右側に星印を付している。
例えば、関連語候補抽出部144は、「所分割」の関連語候補群Gからは、全対象語数の半数以上、全関連語候補群G〜Gにおいて、共通して出現した関連語候補として「送信」、「失敗」、「バグ」、「発生」を抽出する(図3の中央の枠内の語群G´参照)。また、関連語候補抽出部144は、「緊急通報」の関連語候補群Gからは、全対象語数の半数以上、全関連語候補群G〜Gにおいて、共通して出現した関連語候補として「機能」、「送信」、「発生」を抽出する(図3の中央の枠内の語群G´参照)。そして、関連語候補抽出部144は、「送信」の関連語候補群Gからは、全対象語数の半数以上、全関連語候補群G〜Gにおいて、共通して出現した関連語候補として「バグ」、「失敗」、「機能」を抽出する(図3の中央の枠内の語群G´参照)。
続いて、関連語候補除外部145は、関連語候補抽出部144が抽出した、一定数以上、全関連語候補群G〜Gにおいて、共通して出現した語を除外し、関連語データ格納部146は、残る関連語候補を各対象語の関連語とする(図3の(9)参照)。そして、関連語データ格納部146は、関連語を対象語に対応付けて、記憶部15に格納する。
例えば、関連語データ格納部146は、「所分割」の関連語候補群Gのうち残った関連語候補である「緊急通報」を、「所分割」の関連語K(図3の下部枠内参照)として記憶部15に格納する。関連語データ格納部146は、「緊急通報」の関連語候補群Gのうち残った関連語候補である「所分割」、「番号通知」を、「緊急通報」の関連語K(図3の下部枠内参照)として記憶部15に格納する。また、関連語データ格納部146は、「送信」の関連語候補群Gのうち残った関連語候補である「受信」、「データ」を、「送信」の関連語K(図3の下部枠内参照)として記憶部15に格納する。この結果、記憶部15には、図3の下部枠内の関連語が、各対象語に対応付けられた状態で、関連語データとして格納される。
[データ処理方法の処理手順]
次に、図4を参照して、図1に示すデータ処理装置1によるデータ処理方法の処理手順について説明する。図4は、実施の形態に係るデータ処理方法の処理手順を示すフローチャートである。
まず、図4に示すように、制御部14は、処理対象となる文書データを読み込むと、関連語候補群取得部141は、文書データから、言葉の共起によって対象語の関連語候補を抽出し、対象語ごとに関連語候補群を取得する(ステップS1)。関連語候補出現数カウント部142は、複数の関連語候補群に含まれる関連語候補ごとに、複数の関連語候補群の中での出現数をカウントする関連語候補出現数カウント処理を行う(ステップS2)。
続いて、関連語判定部143では、関連語候補抽出部144が、本文書データに応じた閾値を参照し(ステップS3)、関連語候補出現数カウント部142によってカウントされた出現数が、参照した閾値以上である関連語候補を複数の関連語候補群から抽出する(ステップS4)。続いて、関連語候補除外部145は、関連語候補抽出部144によって抽出された関連語候補を、複数の関連語候補群から除外する(ステップS5)。
そして、関連語データ格納部146は、関連語候補除外部145の除外後に残った関連語候補を、対象語の関連語であると判定し、関連語データ154として記憶部15に格納する(ステップS6)。
[関連語候補出現数カウント処理の処理手順]
次に、図5を参照して、関連語候補出現数カウント処理の処理手順について説明する。図5は、図4に示す関連語候補出現数カウント処理の処理手順を示すフローチャートである。
図5に示すように、関連語候補出現数カウント部142は、対象語の識別番号であるnを初期化し、n=1とする(ステップS11)。そして、関連語候補出現数カウント部142は、対象語nの関連語候補群Gの関連語候補のうち最初のカウント対象の関連語候補を設定する(ステップS12)。n=1の場合、関連語候補出現数カウント部142は、まず、対象語リストの1番目の対象語(以下、対象語1とする。)についての関連語候補群Gの1番目の関連語候補を、カウント対象として設定する。
そして、関連語候補出現数カウント部142は、カウント対象の関連語候補について各関連語候補群G〜G中の出現数をカウントする(ステップS13)。関連語候補出現数カウント部142は、関連語候補群Gnの全関連語候補について、各関連語候補群G〜G中の出現数をカウントしたか否かを判定する(ステップS14)。
関連語候補出現数カウント部142は、関連語候補群Gnの全関連語候補について、各関連語候補群G〜G中の出現数をカウントしていないと判定した場合(ステップS14:No)、対象語リストのn番目の対象語についての関連語候補群Gのうち次のカウント対象の関連語候補を設定する(ステップS15)。例えば、関連語候補出現数カウント部142は、対象語1についてのカウントが終了した場合には、関連語候補群Gの2番目の関連語候補を、カウント対象として設定する。このように、関連語候補出現数カウント部142は、対象語1の関連語候補群Gの関連語候補の全てについて、ステップS13〜ステップS15を繰り返す。
一方、関連語候補出現数カウント部142は、関連語候補群Gnの全関連語候補について、各関連語候補群G〜G中の出現数をカウントしたと判定した場合(ステップS14:Yes)、対象語1〜Nまでカウントしたか否かを判定する(ステップS16)。関連語候補出現数カウント部142は、対象語1〜Nまでカウントしていないと判定した場合(ステップS16:No)、対象語の識別番号nに対し、n=n+1とする(ステップS17)。具体的には、関連語候補出現数カウント部142は、対象語1の関連語候補群Gの関連語候補の全てについてカウントを終了した場合には、対象語リストLの2番目の対象語(以降、対象語2とする。)に進む。そして、関連語候補出現数カウント部142は、この対象語2の関連語候補群Gの関連語候補について、順次、各関連語候補群G〜G中の出現数をカウントする。
関連語候補出現数カウント部142は、対象語1〜Nまでカウントしたと判定した場合には(ステップS16:Yes)、全対象語1〜Nの全関連語候補について、各関連語候補群G〜G中の出現数をカウントしたため、関連語候補出現数カウント処理を終了する。
[実施の形態の効果]
このように、本実施の形態に係るデータ処理装置1は、文書データから、言葉の共起によって対象語の関連語候補を抽出し、対象語それぞれの関連語候補群を取得する。そして、データ処理装置1は、この複数の関連語候補群に含まれる関連語候補ごとに、複数の関連語候補群の中での出現数をカウントし、カウントした出現数が所定の閾値以上である関連語候補を複数の関連語候補群から除外して、残った関連語候補を対象語の関連語としている。
ここで、従来の技術では、対象語に関連する関連語を、文書データから、言葉の共起によって自動抽出しているものの、共起した全ての言葉を関連語候補としているため、関連性が低い語、或いは、関連性がない語が関連語に含まれ、関連語群の抽出の精度は低かった。
これらの関連性が低い語、或いは、関連性がない語は、数多く出現し抽象度の比較的高い語と考えられるため、別々の対象語に共通して共起することが多い。そこで、本実施の形態では、対象語それぞれについて取得した関連語候補群に共通して出現する語は、どの対象語にも関連性のある語であるものの、対象語との結びつきが弱い語である場合が多いこと、すなわち、対象語との関連性が低い語である場合が多いことに着目した。
そして、本実施の形態では、これらの関連語候補群に共通して出現する語を取り除くことにより、対象語と関連性の強い語のみを絞り込んでいる。言い換えると、本実施の形態では、対象語それぞれの関連語候補群のうち一定数以上に共通して出現する語を抽出し、これらの語を除外し、対象語と関連性の高い語のみを絞りこむことによって、関連語を抽出している。このため、本実施の形態によれば、従来のデータ処理方法と比較して、関連性が低い語、或いは、関連性がない語を適切に除外することができるため、関連語を高精度に抽出できる。
[システム構成等]
図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的におこなうこともでき、あるいは、手動的に行なわれるものとして説明した処理の全部又は一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
[プログラム]
図6は、プログラムが実行されることにより、データ処理装置1が実現されるコンピュータの一例を示す図である。コンピュータ1000は、例えば、メモリ1010、CPU1020を有する。また、コンピュータ1000は、ハードディスクドライブインタフェース1030、ディスクドライブインタフェース1040、シリアルポートインタフェース1050、ビデオアダプタ1060、ネットワークインタフェース1070を有する。これらの各部は、バス1080によって接続される。
メモリ1010は、ROM(Read Only Memory)1011及びRAM1012を含む。ROM1011は、例えば、BIOS(Basic Input Output System)等のブートプログラムを記憶する。ハードディスクドライブインタフェース1030は、ハードディスクドライブ1090に接続される。ディスクドライブインタフェース1040は、ディスクドライブ1100に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ1100に挿入される。シリアルポートインタフェース1050は、例えばマウス1110、キーボード1120に接続される。ビデオアダプタ1060は、例えばディスプレイ1130に接続される。
ハードディスクドライブ1090は、例えば、OS1091、アプリケーションプログラム1092、プログラムモジュール1093、プログラムデータ1094を記憶する。すなわち、データ処理装置1の各処理を規定するプログラムは、コンピュータにより実行可能なコードが記述されたプログラムモジュール1093として実装される。プログラムモジュール1093は、例えばハードディスクドライブ1090に記憶される。例えば、データ処理装置1における機能構成と同様の処理を実行するためのプログラムモジュール1093が、ハードディスクドライブ1090に記憶される。なお、ハードディスクドライブ1090は、SSDにより代替されてもよい。
また、上述した実施形態の処理で用いられる設定データは、プログラムデータ1094として、例えばメモリ1010やハードディスクドライブ1090に記憶される。そして、CPU1020が、メモリ1010やハードディスクドライブ1090に記憶されたプログラムモジュール1093やプログラムデータ1094を必要に応じてRAM1012に読み出して実行する。
なお、プログラムモジュール1093やプログラムデータ1094は、ハードディスクドライブ1090に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ1100等を介してCPU1020によって読み出されてもよい。あるいは、プログラムモジュール1093及びプログラムデータ1094は、ネットワーク(LAN、WAN(Wide Area Network)等)を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール1093及びプログラムデータ1094は、他のコンピュータから、ネットワークインタフェース1070を介してCPU1020によって読み出されてもよい。
以上、本発明者によってなされた発明を適用した実施形態について説明したが、本実施形態による本発明の開示の一部をなす記述及び図面により本発明は限定されることはない。すなわち、本実施形態に基づいて当業者等によりなされる他の実施形態、実施例及び運用技術等は全て本発明の範疇に含まれる。
1 データ処理装置
11 入力部
12 出力部
13 通信部
14 制御部
15 記憶部
141 関連語候補群取得部
142 関連語候補出現数カウント部
143 関連語判定部
144 関連語候補抽出部
145 関連語候補除外部
146 関連語データ格納部
151 文書データ
152 カウントデータ
153 閾値データ
154 関連語データ

Claims (5)

  1. 文書データから、言葉の共起によって対象語に関連する関連語候補を抽出し、前記対象語それぞれの関連語候補群を取得する取得部と、
    複数の関連語候補群に含まれる関連語候補ごとに、前記複数の関連語候補群の中での出現数をカウントするカウント部と、
    前記カウント部によってカウントされた出現数が所定の閾値以上である関連語候補を前記複数の関連語候補群から除外し、残った関連語候補を、前記対象語の関連語であると判定する関連語判定部と、
    を有することを特徴とするデータ処理装置。
  2. 前記取得部は、前記文書データから、形態素解析を用いて抽出した名詞及び複合名詞を対象語とし、各対象語について、前記文書データのうち前記対象語を含む部分から形態素解析を用いて抽出した名詞及び複合名詞を関連語候補として、前記対象語ごとに関連語候補をまとめた関連語候補群を取得することを特徴とする請求項1に記載のデータ処理装置。
  3. 前記所定の閾値は、文書データに応じて変更されることを特徴とする請求項1または2に記載のデータ処理装置。
  4. データ処理装置によって実行されるデータ処理方法であって、
    文書データから、言葉の共起によって対象語の関連語候補を抽出し、前記対象語それぞれの関連語候補群を取得する工程と、
    複数の関連語候補群に含まれる関連語候補ごとに、前記複数の関連語候補群の中での出現数をカウントする工程と、
    前記カウントした出現数が所定の閾値以上である関連語候補を前記複数の関連語候補群から除外し、前記関連語候補群において残った関連語候補を、該関連語候補群に対応する前記対象語の関連語であると判定する工程と、
    を含んだことを特徴とするデータ処理方法。
  5. 文書データから、言葉の共起によって対象語に関連する関連語候補を抽出し、前記対象語それぞれの関連語候補群を取得するステップと、
    複数の関連語候補群に含まれる関連語候補ごとに、前記複数の関連語候補群の中での出現数をカウントするステップと、
    前記カウントした出現数が所定の閾値以上である関連語候補を前記複数の関連語候補群から除外し、前記関連語候補群において残った関連語候補を、該関連語候補群に対応する前記対象語の関連語であると判定するステップと、
    をコンピュータに実行させるためのデータ処理プログラム。
JP2017172062A 2017-09-07 2017-09-07 データ処理装置、データ処理方法及びデータ処理プログラム Active JP6781123B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017172062A JP6781123B2 (ja) 2017-09-07 2017-09-07 データ処理装置、データ処理方法及びデータ処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017172062A JP6781123B2 (ja) 2017-09-07 2017-09-07 データ処理装置、データ処理方法及びデータ処理プログラム

Publications (2)

Publication Number Publication Date
JP2019046414A JP2019046414A (ja) 2019-03-22
JP6781123B2 true JP6781123B2 (ja) 2020-11-04

Family

ID=65816518

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017172062A Active JP6781123B2 (ja) 2017-09-07 2017-09-07 データ処理装置、データ処理方法及びデータ処理プログラム

Country Status (1)

Country Link
JP (1) JP6781123B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000222427A (ja) * 1999-02-02 2000-08-11 Mitsubishi Electric Corp 関連語抽出装置、関連語抽出方法及び関連語抽出プログラムが記録された記録媒体
JP5145288B2 (ja) * 2009-05-14 2013-02-13 株式会社エヌ・ティ・ティ・データ 類義語辞書構築装置及び方法、コンピュータプログラム
JP5542729B2 (ja) * 2011-04-13 2014-07-09 日本電信電話株式会社 関連語抽出装置、関連語抽出方法、及び関連語抽出プログラム

Also Published As

Publication number Publication date
JP2019046414A (ja) 2019-03-22

Similar Documents

Publication Publication Date Title
US11061648B2 (en) Method and system for arbitrary-granularity execution clone detection
US10055274B2 (en) Automated diagnosis of software crashes
US10528766B2 (en) Techniques for masking electronic data
US20130086556A1 (en) System for ensuring comprehensiveness of requirements testing of software applications
CN111160021A (zh) 日志模板提取方法及装置
US10713107B2 (en) Detecting a possible underlying problem among computing devices
JP6714152B2 (ja) 分析装置、分析方法及び分析プログラム
WO2019075390A1 (en) BOX BLACK MATCHING MOTOR
CN114327983A (zh) 一种基于日志的故障确定方法、装置、设备和介质
US9563635B2 (en) Automated recognition of patterns in a log file having unknown grammar
US20170139688A1 (en) User interface area coverage
WO2021183382A1 (en) Graph-based method for inductive bug localization
US8813036B2 (en) Visual representation of a difference between Cartesian product models
JP6781123B2 (ja) データ処理装置、データ処理方法及びデータ処理プログラム
US20200004666A1 (en) Debug boundaries for hardware accelerators
JP6777601B2 (ja) データ処理装置、データ処理方法及びデータ処理プログラム
JP2019148874A (ja) プロジェクト分析装置及びプログラム
CN106462614B (zh) 信息分析系统、信息分析方法以及信息分析程序
JP7652253B2 (ja) 判定装置、判定方法および判定プログラム
Ghiasvand uPAD: Unsupervised Privacy-Aware Anomaly Detection in High Performance Computing Systems.
JP7135641B2 (ja) 学習装置、抽出装置及び学習方法
US20250117728A1 (en) Operation log processing device, operation log processing method, and operation log processing program
WO2020059469A1 (ja) 学習装置、抽出装置及び学習方法
CN112306961A (zh) 日志处理方法、装置、设备及存储介质
CN115774659B (zh) 日志生成方法及装置、电子设备、存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201013

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201015

R150 Certificate of patent or registration of utility model

Ref document number: 6781123

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350