JP5876144B2 - Digital information analysis system, digital information analysis method, and digital information analysis program - Google Patents
Digital information analysis system, digital information analysis method, and digital information analysis program Download PDFInfo
- Publication number
- JP5876144B2 JP5876144B2 JP2014511634A JP2014511634A JP5876144B2 JP 5876144 B2 JP5876144 B2 JP 5876144B2 JP 2014511634 A JP2014511634 A JP 2014511634A JP 2014511634 A JP2014511634 A JP 2014511634A JP 5876144 B2 JP5876144 B2 JP 5876144B2
- Authority
- JP
- Japan
- Prior art keywords
- digital information
- information
- keywords
- sample
- weighting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
- G06F16/313—Selection or weighting of terms for indexing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、デジタル情報分析システム、デジタル情報分析方法、及びデジタル情報分析プログラムに関する。特に、本発明は、デジタル情報に自動でスコア付けするデジタル情報分析システム、デジタル情報分析方法、及びデジタル情報分析プログラムに関する。 The present invention relates to a digital information analysis system, a digital information analysis method, and a digital information analysis program. In particular, the present invention relates to a digital information analysis system, a digital information analysis method, and a digital information analysis program for automatically scoring digital information.
従来、収集された文書情報から所定数の文書を抽出する抽出部と、抽出された文書群を画面上に表示する文書表示部と表示された文書群に対して、ユーザーが訴訟との関連性に基づいて付与した分別符号を受け付ける分別符号受付部と、分別符号に基づいて、抽出された文書群を分別符号ごとに分別し、当該分別された文書群において、共通して出現するキーワードを解析し選定する選定部と、選定したキーワードを記録するデータベースと、データベースに記録されたキーワードを文書情報から探索する探索部と、探索部の探索結果と選定部の解析結果を用いて、分別符号と文書との関連性を示すスコアを算出するスコア算出部と、スコアの結果に基づいて自動で分別符号を付与する自動分別部を備える文書分別システムが知られている(例えば、特許文献1参照。)。特許文献1に記載の文書分別システムによれば、訴訟において証拠として提出するために収集されたデジタル化された文書情報を分析し、訴訟への利用が容易になるように分別できる。 Conventionally, a user is related to a lawsuit with respect to a document group displayed with an extraction unit that extracts a predetermined number of documents from the collected document information and a document display unit that displays the extracted document group on the screen. A classification code receiving unit that receives a classification code assigned based on the classification code, and classifies the extracted document group for each classification code based on the classification code, and analyzes keywords that appear in common in the classified document group A selection part to be selected, a database for recording the selected keyword, a search part for searching the keyword recorded in the database from document information, a search result of the search part and an analysis result of the selection part, There is known a document classification system including a score calculation unit that calculates a score indicating relevance with a document, and an automatic classification unit that automatically assigns a classification code based on the result of the score ( In example, see Patent Document 1.). According to the document separation system described in Patent Document 1, it is possible to analyze digitized document information collected for submission as evidence in a lawsuit and separate it so that it can be easily used in a lawsuit.
特許文献1に記載されているような文書分別システムにおいては、分別対象となる文書情報からランダムに文書をサンプリングし、分別符号を付与する対象となる文書群をレビュワーが手動で抽出する場合がある。このようなデジタル情報を分別する場合において、分別処理を自動化することにより、デジタル情報の分別スピードや分別の精度を向上させることが望まれる。 In a document classification system described in Patent Document 1, a document may be randomly sampled from document information to be classified, and a reviewer may manually extract a document group to which a classification code is assigned. . When such digital information is sorted, it is desired to improve the sorting speed and sorting accuracy of the digital information by automating the sorting process.
したがって、本発明の目的は、自動的にデジタル情報に精度のよいスコア付けをするデジタル情報分析システム、デジタル情報分析方法、及びデジタル情報分析プログラムを提供することにある。 Therefore, an object of the present invention is to provide a digital information analysis system, a digital information analysis method, and a digital information analysis program that automatically and accurately score digital information.
本発明は、上記目的を達成するため、予め定められた特定事項と関連性を有する複数のキーワードと、複数のキーワードそれぞれに対応づけられる重み付け情報とを格納するキーワードデータベースと、複数のキーワードそれぞれと、複数のキーワードのそれぞれに対応づけられている重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれにスコアを対応づけるスコア付け部と、スコア付け部が対応づけたスコアに基づいて、複数のデジタル情報から標本となる標本デジタル情報を抽出する標本デジタル情報抽出部と、抽出された標本デジタル情報を解析することで、キーワードデータベースに格納されている重み付け情報を更新する情報更新部とを備えるデジタル情報分析システムが提供される。 In order to achieve the above object, the present invention provides a keyword database that stores a plurality of keywords having relevance to predetermined specific items, weighting information associated with each of the plurality of keywords, and each of the plurality of keywords. , Based on weighting information associated with each of a plurality of keywords, based on the score associated with each of a plurality of digital information including text data, and the score associated with the scoring unit, A sample digital information extraction unit that extracts sample digital information as a sample from a plurality of digital information, and an information update unit that updates weighting information stored in the keyword database by analyzing the extracted sample digital information A digital information analysis system is provided.
また、上記デジタル情報分析システムにおいて、標本デジタル情報抽出部が、予め定められた条件を満たすデジタル情報を標本デジタル情報として抽出することもできる。 In the digital information analysis system, the sample digital information extraction unit can extract digital information satisfying a predetermined condition as sample digital information.
また、上記デジタル情報分析システムは、複数のキーワードが、複数の形態素、若しくは複数の共起表現を含むこともできる。 In the digital information analysis system, the plurality of keywords may include a plurality of morphemes or a plurality of co-occurrence expressions.
また、上記デジタル情報分析システムは、標本デジタル情報抽出部が、情報更新部により更新された重み付け情報が対応づけられた複数のデジタル情報から、新たな標本デジタル情報を抽出し、情報更新部が、標本デジタル情報抽出部が抽出した新たな標本デジタル情報を用い、重み付けを再び更新することもできる。 In the digital information analysis system, the sample digital information extraction unit extracts new sample digital information from a plurality of pieces of digital information associated with the weighting information updated by the information update unit, and the information update unit includes: The weighting can also be updated again using new sample digital information extracted by the sample digital information extraction unit.
また、上記デジタル情報分析システムは、情報更新部が、予め定められた終了条件で更新を終了することもできる。 Further, in the digital information analysis system, the information update unit can end the update under a predetermined end condition.
また、上記デジタル情報分析システムは、予め定められた特定事項が、訴訟又はカルテルに関係することを示す情報であってもよい。 The digital information analysis system may be information indicating that a predetermined specific item relates to a lawsuit or a cartel.
また、本発明は、上記目的を達成するため、予め定められた特定事項と関連性を有する複数のキーワードと、複数のキーワードそれぞれに対応づけられる重み付け情報とを格納するキーワードデータベースを備えるデジタル情報分析システムにおけるデジタル情報分析方法であって、複数のキーワードそれぞれと、複数のキーワードのそれぞれに対応づけられている重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれにスコアを対応づけるスコア付け段階と、スコア付け段階において対応づけられたスコアに基づいて、複数のデジタル情報から標本となる標本デジタル情報を抽出する標本デジタル情報抽出段階と、抽出された標本デジタル情報を解析することで、キーワードデータベースに格納されている重み付け情報を更新する情報更新段階とを備えるデジタル情報分析方法が提供される。 In order to achieve the above object, the present invention provides a digital information analysis comprising a keyword database that stores a plurality of keywords having relevance to predetermined specific items and weighting information associated with each of the plurality of keywords. A digital information analysis method in a system, in which a score is associated with each of a plurality of digital information including text data based on each of a plurality of keywords and weighting information associated with each of the plurality of keywords. Based on the stage and the score associated in the scoring stage, the sample digital information extraction stage that extracts sample digital information that is a sample from a plurality of digital information, and the extracted sample digital information Weights stored in the database Digital information analyzing method and an information updating step of updating the information is provided.
また、本発明は、上記目的を達成するため、予め定められた特定事項と関連性を有する複数のキーワードと、複数のキーワードそれぞれに対応づけられる重み付け情報とを格納するキーワードデータベースを備えるデジタル情報分析システム用のデジタル情報分析プログラムであって、コンピュータに、複数のキーワードそれぞれと、複数のキーワードのそれぞれに対応づけられている重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれにスコアを対応づけるスコア付け機能と、スコア付け機能において対応づけられたスコアに基づいて、複数のデジタル情報から標本となる標本デジタル情報を抽出する標本デジタル情報抽出機能と、抽出された標本デジタル情報を解析することで、キーワードデータベースに格納されている重み付け情報を更新する情報更新機能とを実現させるデジタル情報分析プログラムが提供される。 In order to achieve the above object, the present invention provides a digital information analysis comprising a keyword database that stores a plurality of keywords having relevance to predetermined specific items and weighting information associated with each of the plurality of keywords. A digital information analysis program for a system, wherein a score is obtained for each of a plurality of digital information including text data based on each of a plurality of keywords and weighting information associated with each of the plurality of keywords. Corresponding scoring function, sample digital information extraction function that extracts sample digital information as a sample from a plurality of digital information based on the score correlated in the scoring function, and analyzing the extracted sample digital information In the keyword database Digital information analysis program for realizing the information and update function of updating the weighting information being are provided.
本発明に係るデジタル情報分析システム、デジタル情報分析方法、及びデジタル情報分析プログラムによれば、自動的にデジタル情報に精度のよいスコア付けをするデジタル情報分析システム、デジタル情報分析方法、及びデジタル情報分析プログラムを提供できる。 According to the digital information analysis system, the digital information analysis method, and the digital information analysis program according to the present invention, the digital information analysis system, the digital information analysis method, and the digital information analysis that automatically and accurately score the digital information. Can provide a program.
[実施の形態]
(デジタル情報分析システム1の概要)
本実施の形態に係るデジタル情報分析システム1は、ユーザー端末若しくはサーバー等の情報処理装置2に格納されている複数のデジタル情報のうち、予め定められた特定事項に関連性のあるデジタル情報に対して自動的にスコア付けをし、特定事項に関連性のあるデジタル情報を高精度で全自動的に抽出するシステムである。ここで、予め定められた特定事項は、例えば、訴訟やカルテル等に関連することを示す情報である。そして、本実施の形態に係るデジタル情報分析システム1は、一例として、不正アクセスや機密情報漏洩等のコンピュータに関する犯罪や法的紛争が生じた場合に、犯罪や紛争の原因究明や捜査に要する電子的記録であるデジタル情報を収集及び分析し、その法的な証拠性を明らかにする技術であるフォレンジックに適用できる。なお、デジタル情報とは、例えば、文章情報を含む文書ファイル、テキストファイル、又は電子メール等である。[Embodiment]
(Outline of digital information analysis system 1)
The digital information analysis system 1 according to the present embodiment is configured to process digital information related to a predetermined specific item among a plurality of digital information stored in an information processing apparatus 2 such as a user terminal or a server. It is a system that automatically scores and automatically extracts digital information related to specific items with high accuracy. Here, the predetermined specific item is information indicating that it is related to, for example, a lawsuit or a cartel. The digital information analysis system 1 according to the present embodiment, for example, is an electronic device required for investigating and investigating the cause of a crime or dispute when a crime or legal dispute related to a computer such as unauthorized access or leakage of confidential information occurs. It can be applied to forensics, a technology that collects and analyzes digital information, which is a historical record, and reveals its legal evidence. Note that the digital information is, for example, a document file including text information, a text file, or an e-mail.
具体的に、デジタル情報分析システム1は、まず、特定事項と関連性を有するキーワードを用い、複数のデジタル情報のそれぞれにスコア付けする。デジタル情報分析システム1は、例えば、特定事項と関連性が高いほど、高いスコアをデジタル情報に対応づける。ここで、デジタル情報分析システム1は、特定事項と関連する複数のキーワードと、複数のキーワードのそれぞれに対応づけられた重み付け情報とを格納するキーワードデータベースを予め備える。重み付け情報は、対応づけられているキーワードの特定事項との関連性が高いほど、大きな重み付けになる情報である。デジタル情報分析システム1は、この重み付け情報を用いて複数のデジタル情報のそれぞれにスコア付けする。 Specifically, the digital information analysis system 1 first scores each of a plurality of digital information using a keyword having a relationship with a specific item. For example, the digital information analysis system 1 associates a higher score with digital information as the relevance to a specific item is higher. Here, the digital information analysis system 1 includes in advance a keyword database that stores a plurality of keywords related to a specific item and weighting information associated with each of the plurality of keywords. The weighting information is information that becomes more weighted as the relevance to the specific matter of the associated keyword is higher. The digital information analysis system 1 scores each of a plurality of digital information using this weighting information.
そして、デジタル情報分析システム1は、スコア付けをした複数のデジタル情報から、予め定められた条件をクリアする仮のデジタル情報としての標本デジタル情報を抽出する。デジタル情報分析システム1は、抽出した標本デジタル情報を解析し、複数のキーワードのそれぞれに対応づけられた重み付け情報を新たな重み付け情報に更新する。そして、デジタル情報分析システム1は、新たな重み付け情報を用いて上記プロセスを繰り返す。すなわち、デジタル情報分析システム1は、デジタル情報へのスコア付け、標本デジタル情報の抽出、及び重み付け情報の更新を一つのサイクルとし、このサイクルを繰り返すことで、特定事項と関連性を有するデジタル情報の複数のデジタル情報からの抽出精度を向上させる。 Then, the digital information analysis system 1 extracts sample digital information as temporary digital information that clears a predetermined condition from a plurality of scored digital information. The digital information analysis system 1 analyzes the extracted sample digital information, and updates the weighting information associated with each of the plurality of keywords to new weighting information. Then, the digital information analysis system 1 repeats the above process using new weighting information. That is, the digital information analysis system 1 makes digital information scoring, extraction of sample digital information, and update of weighting information as one cycle, and by repeating this cycle, Improve the extraction accuracy from multiple digital information.
なお、本実施の形態においてサーバーは、1つ以上のサーバーであって、複数のサーバーを含んで構成することもできる。例えば、サーバーは、メールサーバー、ファイルサーバー、又は文書管理サーバー等のデジタル情報を格納可能なサーバーを含む。また、ユーザー端末は、1つ以上のユーザー端末であって、複数のユーザー端末を含んで構成することもできる。例えば、ユーザー端末は、パーソナルコンピュータ、ノートパソコン、タブレットPC、又は携帯電話等の携帯通信端末等を含む。 In the present embodiment, the server is one or more servers, and may be configured to include a plurality of servers. For example, the server includes a server capable of storing digital information such as a mail server, a file server, or a document management server. Further, the user terminal is one or more user terminals, and can be configured to include a plurality of user terminals. For example, the user terminal includes a personal computer, a notebook computer, a tablet PC, or a mobile communication terminal such as a mobile phone.
(デジタル情報分析システム1の詳細)
図1は、本実施の形態に係るデジタル情報分析システムの機能構成ブロックの一例を示す。(Details of digital information analysis system 1)
FIG. 1 shows an example of functional configuration blocks of the digital information analysis system according to the present embodiment.
デジタル情報分析システム1は、情報処理装置2に格納されているデジタル情報を抽出する抽出部110と、予め定められた特定事項と関連性を有する複数のキーワード及び各キーワードの重み付け情報を格納するキーワードデータベース100と、抽出されたデジタル情報にスコアを対応づけるスコア付け部120と、標本デジタル情報を抽出する標本デジタル情報抽出部130と、重み付け情報を更新する情報更新部140と、抽出されたデジタル情報、標本デジタル情報、及び/又はこれらに関する情報を出力する出力部150とを備える。 The digital information analysis system 1 includes an extraction unit 110 that extracts digital information stored in the information processing apparatus 2, a plurality of keywords that are related to predetermined specific items, and a keyword that stores weighting information of each keyword Database 100, scoring unit 120 that associates a score with extracted digital information, sample digital information extraction unit 130 that extracts sample digital information, information update unit 140 that updates weighting information, and extracted digital information A sample digital information and / or an output unit 150 for outputting information related thereto.
(キーワードデータベース100)
キーワードデータベース100は、予め定められた特定事項と関連性を有する複数のキーワードと、複数のキーワードそれぞれに対応づけられる重み付け情報とを格納する。本実施の形態においてキーワードは、単語、複数の形態素、若しくは複数の共起表現等のいずれか若しくは複数を含む。すなわち、キーワードデータベース100は、予め定められた特定事項に関連する複数のキーワードのそれぞれ、及び/又は複数のキーワードの組合せに、予め定められた特定事項との関連性の高低を示す重み付け情報を対応づけて格納する。キーワードデータベース100は、スコア付け部120からの働きかけに応じ、格納している情報をスコア付け部120に供給する。また、キーワードデータベース100は、情報更新部140に制御され、格納している重み付け情報を新たな重み付け情報に置き換える。(Keyword database 100)
The keyword database 100 stores a plurality of keywords having relevance to predetermined specific items and weighting information associated with each of the plurality of keywords. In the present embodiment, the keyword includes one or more of a word, a plurality of morphemes, a plurality of co-occurrence expressions, and the like. In other words, the keyword database 100 corresponds to each of a plurality of keywords related to a predetermined specific item and / or a combination of a plurality of keywords with weighting information indicating the level of relevance to the predetermined specific item. And store. The keyword database 100 supplies the stored information to the scoring unit 120 in response to the action from the scoring unit 120. Further, the keyword database 100 is controlled by the information updating unit 140 and replaces the stored weighting information with new weighting information.
なお、単語とは、文法上、特定の意味及び機能を有する最小の言語単位である。また、複数のキーワードは、2つ以上のキーワードを含んで構成される。なお、デジタル情報のスコアとは、例えば、複数のキーワードの組合せが予め定められた特定事項との関連性において、関連性の高低を示す数値である。数値が大きいほど、関連性が高いことを示す。 Note that a word is a minimum language unit having a specific meaning and function in terms of grammar. The plurality of keywords are configured to include two or more keywords. Note that the score of digital information is a numerical value indicating the level of relevance, for example, in the relevance of a specific item in which a combination of a plurality of keywords is determined in advance. The larger the value, the higher the relevance.
例えば、キーワードデータベース100は、キーワードが共起表現である場合、第1の単語と第2の単語との組合せに対応づけて重み付け情報を格納する。一例として、予め定められた特定事項が「侵害」に関連する情報である例を説明する。この場合、キーワードデータベース100に、第1の単語としての「デジタルカメラ」と第2の単語としての「侵害」との組合せに対応づけて重み付け情報「X」が格納されているとする。また、キーワードデータベース100に、第1の単語としての「急ピッチ」と第2の単語としての「予定」との組合せに対応づけて重み付け情報「Y」が格納されているとする(ただし、X>Yであって、X及びYは数値である。)。この場合、「デジタルカメラ」と「侵害」との単語の組合せの方が、「急ピッチ」と「予定」との単語の組合せよりも侵害に対する関連性が高いことを示す。 For example, when the keyword is a co-occurrence expression, the keyword database 100 stores weighting information in association with the combination of the first word and the second word. As an example, an example in which a predetermined specific item is information related to “infringement” will be described. In this case, it is assumed that weighting information “X” is stored in the keyword database 100 in association with a combination of “digital camera” as the first word and “infringement” as the second word. Further, it is assumed that weighting information “Y” is stored in the keyword database 100 in association with the combination of “steep pitch” as the first word and “plan” as the second word (provided that X > Y, where X and Y are numerical values). In this case, the combination of the words “digital camera” and “infringement” is more relevant to the infringement than the combination of the words “rapid pitch” and “plan”.
(抽出部110)
抽出部110は、情報処理装置2に格納されているデジタル情報を情報処理装置2から抽出する。抽出部110は抽出したデジタル情報をスコア付け部120及び標本デジタル情報抽出部130に供給する。(Extractor 110)
The extraction unit 110 extracts digital information stored in the information processing apparatus 2 from the information processing apparatus 2. The extraction unit 110 supplies the extracted digital information to the scoring unit 120 and the sample digital information extraction unit 130.
(スコア付け部120)
スコア付け部120は、キーワードデータベース100に格納されている複数のキーワードのそれぞれと、複数のキーワードのそれぞれに対応づけられている重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれにスコアを対応づける。具体的に、スコア付け部120は、情報処理装置2に格納されているデジタル情報が抽出された場合に、形態素解析により当該デジタル情報内のテキストデータを解析し、キーワードデータベース100に格納されている複数のキーワードの組合せが抽出されたファイルに含まれているか否かを判断する。(Scoring unit 120)
The scoring unit 120 scores each of a plurality of digital information including text data based on each of the plurality of keywords stored in the keyword database 100 and weighting information associated with each of the plurality of keywords. Associate. Specifically, when digital information stored in the information processing device 2 is extracted, the scoring unit 120 analyzes text data in the digital information by morphological analysis and stores the text data in the keyword database 100. It is determined whether or not a combination of a plurality of keywords is included in the extracted file.
一例として、スコア付け部120は、キーワードが共起表現である場合であって、キーワードデータベース100に格納されているキーワードの組合せが抽出されたデジタル情報に含まれていると判断した場合、複数のキーワードそれぞれの間の距離、複数のキーワードの語順、複数のキーワードの出現回数や出現頻度、及び/又は複数のキーワードが同一文章に含まれているか否か等に基づいて、予め定められた特定事項に対する当該デジタル情報の関連性の高低を判断する。そして、スコア付け部120は、判断結果を示す情報(すなわち、予め定められた特定事項に対する関連性の高低を示す情報)に基づいて、抽出されたデジタル情報にスコアを対応づける。 As an example, when the scoring unit 120 determines that a keyword is a co-occurrence expression and a combination of keywords stored in the keyword database 100 is included in the extracted digital information, Predetermined specific matters based on the distance between each keyword, the order of multiple keywords, the frequency and frequency of appearance of multiple keywords, and / or whether multiple keywords are included in the same sentence, etc. Judge the level of relevance of the digital information. Then, the scoring unit 120 associates a score with the extracted digital information based on information indicating the determination result (that is, information indicating the level of relevance with respect to a predetermined specific item).
なお、スコア付け部120は、キーワードが共起表現である場合には、抽出部110により抽出されたデジタル情報内に、キーワードデータベース100に格納されている複数のキーワード、若しくは複数のキーワードの組合せが含まれているか否かを検索する検索部と、キーワードデータベース100に格納している複数のキーワード、若しくは複数のキーワードの組合せの少なくとも1つがデジタル情報内に含まれている場合、形態素解析の結果に基づいて予め定められた特定事項とデジタル情報との関連性を判断する関連性判断部と、関連性判断部の判断結果をデジタル情報に対応づける判断結果設定部とを有することもできる。 When the keyword is a co-occurrence expression, the scoring unit 120 includes a plurality of keywords stored in the keyword database 100 or a combination of a plurality of keywords in the digital information extracted by the extraction unit 110. When at least one of a search unit for searching whether or not a plurality of keywords stored in the keyword database 100 or a combination of a plurality of keywords is included in the digital information, the result of the morphological analysis It is also possible to have a relevance determination unit that determines relevance between a predetermined specific item based on digital information and a determination result setting unit that associates the determination result of the relevance determination unit with the digital information.
(標本デジタル情報抽出部130)
標本デジタル情報抽出部130は、スコア付け部120が対応づけたスコアに基づいて、複数のデジタル情報から標本となる標本デジタル情報を抽出する。具体的に、標本デジタル情報抽出部130は、抽出部110に働きかけて、予め定められた条件を満たすデジタル情報であって抽出部110が情報処理装置2から抽出するデジタル情報を標本デジタル情報として抽出する。標本デジタル情報抽出部130は、1以上のデジタル情報を標本デジタル情報として抽出できる。例えば、標本デジタル情報抽出部130は、予め定められたスコア以上のスコアが対応づけられているデジタル情報や、スコアの上位から予め定められた数の複数のデジタル情報を標本デジタル情報として抽出する。標本デジタル情報抽出部130は、抽出した標本デジタル情報を情報更新部140及び/又は出力部150に供給する。(Sample Digital Information Extraction Unit 130)
The sample digital information extraction unit 130 extracts sample digital information as a sample from a plurality of digital information based on the score associated with the scoring unit 120. Specifically, the sample digital information extraction unit 130 works on the extraction unit 110 to extract digital information that satisfies a predetermined condition and that the extraction unit 110 extracts from the information processing apparatus 2 as sample digital information. To do. The sample digital information extraction unit 130 can extract one or more pieces of digital information as sample digital information. For example, the sample digital information extraction unit 130 extracts, as sample digital information, digital information associated with a score equal to or higher than a predetermined score or a predetermined number of pieces of digital information from the top of the score. The sample digital information extraction unit 130 supplies the extracted sample digital information to the information update unit 140 and / or the output unit 150.
(情報更新部140)
情報更新部140は、標本デジタル情報抽出部130において抽出された標本デジタル情報を解析することで、キーワードデータベース100に格納されている重み付け情報を更新する。情報更新部140は、例えば、抽出された標本デジタル情報の内容(すなわち、テキストデータ)を形態素解析する。そして、情報更新部140は、形態素解析の結果に基づいて、予め定められた特定事項と関連性を有する形態素若しくは共起表現の情報を抽出する。次に、情報更新部140は、抽出された形態素若しくは共起表現の使用回数、使用頻度等、及び/又はこれらの形態素若しくは共起表現を含む標本デジタル情報のスコア等に基づいて、抽出された形態素若しくは共起表現の重み付け情報を再計算する。そして、情報更新部140は、再計算して算出された重み付け情報を用いて、キーワードデータベース100に格納されている重み付け情報を更新する。情報更新部140は、更新した重み付け情報を新たな重み付け情報としてキーワードデータベース100に格納する。(Information update unit 140)
The information update unit 140 updates the weighting information stored in the keyword database 100 by analyzing the sample digital information extracted by the sample digital information extraction unit 130. For example, the information updating unit 140 performs morphological analysis on the content (that is, text data) of the extracted sample digital information. Then, the information update unit 140 extracts morpheme or co-occurrence expression information having a relationship with a predetermined specific item based on the result of the morpheme analysis. Next, the information update unit 140 is extracted based on the number of times the extracted morpheme or co-occurrence expression is used, the frequency of use, etc. Recalculate morpheme or co-occurrence expression weighting information. Then, the information updating unit 140 updates the weighting information stored in the keyword database 100 using the weighting information calculated by recalculation. The information update unit 140 stores the updated weighting information in the keyword database 100 as new weighting information.
そして、スコア付け部120は、情報更新部140により更新された新たな重み付け情報を用いて複数のデジタル情報それぞれに新たなスコアを対応づける。そして、標本デジタル情報抽出部130は、新たなスコアに基づいて、新たな標本デジタル情報を抽出する。更に、情報更新部140は、標本デジタル情報抽出部130が抽出した新たな標本デジタル情報を用い、キーワードデータベース100に格納されている重み付け情報を更に更新することができる。そして、情報更新部140は、予め定められた終了条件で更新を終了することができる。予め定められた終了条件は、例えば、更新後の重み付け情報と更新前の重み付け情報との差分が予め定められた範囲内におさまる条件や、更新前後の重みが実質的に変わっていない条件等を挙げることができる。 Then, the scoring unit 120 associates a new score with each of the plurality of digital information using the new weighting information updated by the information updating unit 140. Then, the sample digital information extraction unit 130 extracts new sample digital information based on the new score. Furthermore, the information update unit 140 can further update the weighting information stored in the keyword database 100 using the new sample digital information extracted by the sample digital information extraction unit 130. Then, the information update unit 140 can end the update under a predetermined end condition. Predetermined end conditions include, for example, a condition in which the difference between the updated weighting information and the pre-update weighting information falls within a predetermined range, a condition in which the weights before and after the update are not substantially changed, etc. Can be mentioned.
(出力部150)
出力部150は、抽出部110の抽出結果、標本デジタル情報抽出部130の抽出結果、及び/又は情報更新部140の更新結果に関連する情報等を出力する。例えば、出力部150は、外部からの指示に応じ、これらの情報をユーザーに知覚可能に出力する。出力部150は、デジタル情報等の情報を表示可能なディスプレイ等の表示装置、及び/又はデジタル情報等の情報を所定の媒体に出力するプリンター等の出力装置である。更に、出力部150は、出力する情報を磁気記録媒体、光学記録媒体等の記録媒体に記録することで出力することもできる。(Output unit 150)
The output unit 150 outputs information related to the extraction result of the extraction unit 110, the extraction result of the sample digital information extraction unit 130, and / or the update result of the information update unit 140. For example, the output unit 150 outputs such information in a perceptible manner to the user in response to an instruction from the outside. The output unit 150 is a display device such as a display that can display information such as digital information and / or an output device such as a printer that outputs information such as digital information to a predetermined medium. Further, the output unit 150 can output the information to be output by recording the information on a recording medium such as a magnetic recording medium or an optical recording medium.
(情報処理装置2)
図2は、情報処理装置の機能構成ブロックの一例を示す。(Information processing apparatus 2)
FIG. 2 shows an example of a functional configuration block of the information processing apparatus.
情報処理装置2は、複数のデジタル情報を格納するデジタル情報格納部200と、デジタル情報を外部に出力する情報出力部210とを有する。デジタル情報格納部200は、文章情報を含む文書ファイル、テキストファイル、又は電子メール等の複数のデジタル情報を格納する。デジタル情報格納部200は、抽出部110又は標本デジタル情報抽出部130からの働きかけに応じ、所定のデジタル情報を情報出力部210に供給する。情報出力部210は、デジタル情報格納部200が格納しているデジタル情報を抽出部110又は標本デジタル情報抽出部130に供給する。なお、デジタル情報分析システム1と情報処理装置2とは、インターネット等の通信ネットワーク、又はLAN等の有線若しくは無線のネットワーク等により相互に通信可能に接続される。また、デジタル情報分析システム1は、情報処理装置2が有する機能及び構成の一部又は全部を備えることもできる。 The information processing apparatus 2 includes a digital information storage unit 200 that stores a plurality of digital information, and an information output unit 210 that outputs the digital information to the outside. The digital information storage unit 200 stores a plurality of digital information such as a document file including text information, a text file, or an e-mail. The digital information storage unit 200 supplies predetermined digital information to the information output unit 210 in response to an action from the extraction unit 110 or the sample digital information extraction unit 130. The information output unit 210 supplies the digital information stored in the digital information storage unit 200 to the extraction unit 110 or the sample digital information extraction unit 130. The digital information analysis system 1 and the information processing apparatus 2 are connected to be communicable with each other via a communication network such as the Internet or a wired or wireless network such as a LAN. The digital information analysis system 1 can also include some or all of the functions and configurations of the information processing apparatus 2.
(デジタル情報分析方法の概要)
図3は、本発明の実施の形態に係るデジタル情報分析システムの処理の流れの一例を示す。(Outline of digital information analysis method)
FIG. 3 shows an example of the processing flow of the digital information analysis system according to the embodiment of the present invention.
まず、デジタル情報分析システム1が、キーワードデータベース100を備えていることを前提とする。そして、デジタル情報分析システム1の抽出部110は、情報処理装置2からデジタル情報を抽出する(ステップ10。以下、ステップを「S」と表す。)。抽出部110は、抽出したデジタル情報をスコア付け部120に供給する。次に、スコア付け部120は、キーワードデータベース100に格納されている情報を用いて、抽出されたデジタル情報にスコア付けする(S15)。 First, it is assumed that the digital information analysis system 1 includes the keyword database 100. Then, the extraction unit 110 of the digital information analysis system 1 extracts digital information from the information processing apparatus 2 (Step 10; hereinafter, “Step” is expressed as “S”). The extraction unit 110 supplies the extracted digital information to the scoring unit 120. Next, the scoring unit 120 scores the extracted digital information using information stored in the keyword database 100 (S15).
そして、標本デジタル情報抽出部130は、予め定められた条件(例えば、スコアが予め定められたスコア以上である条件、若しくはスコアの上位X件(ただし、Xは1以上の整数)を抽出する条件等)に基づいて、複数のデジタル情報から標本デジタル情報を抽出する(S20)。標本デジタル情報抽出部130は、抽出した標本デジタル情報を情報更新部140に供給する。情報更新部140は、標本デジタル情報の内容を解析し、キーワードデータベース100に格納されている複数のキーワードのそれぞれに対応づけられた重み付け情報を更新する(S25)。 The sample digital information extraction unit 130 then extracts a predetermined condition (for example, a condition where the score is equal to or higher than the predetermined score, or a condition for extracting the top X scores (where X is an integer equal to or greater than 1)) Etc.), sample digital information is extracted from a plurality of digital information (S20). The sample digital information extraction unit 130 supplies the extracted sample digital information to the information update unit 140. The information update unit 140 analyzes the content of the sample digital information and updates the weighting information associated with each of the plurality of keywords stored in the keyword database 100 (S25).
続いて、デジタル情報分析システム1は、スコア付け部120におけるデジタル情報へのスコア付け、及び標本デジタル情報抽出部130における標本デジタル情報の抽出、及び情報更新部140における重み付け情報の更新を繰り返すことで(S30)、複数のデジタル情報から予め定められた特定事項に関連するデジタル情報の抽出精度を向上させる。デジタル情報分析システム1は、デジタル情報へのスコア付け、標本デジタル情報の抽出、及び重み付け情報の更新を繰り返すことで、予め定められた特定事項と関連性を有するデジタル文書の抽出の再現性を向上させることができる。 Subsequently, the digital information analysis system 1 repeats scoring of digital information in the scoring unit 120, extraction of sample digital information in the sample digital information extraction unit 130, and update of weighting information in the information update unit 140. (S30) Improve the extraction accuracy of digital information related to specific items predetermined from a plurality of digital information. The digital information analysis system 1 repeats scoring of digital information, extraction of sample digital information, and updating of weighting information, thereby improving the reproducibility of extraction of digital documents having relevance to predetermined specific items. Can be made.
図4は、本発明の実施の形態に係るデジタル情報分析システムのハードウェア構成の一例を示す。 FIG. 4 shows an example of the hardware configuration of the digital information analysis system according to the embodiment of the present invention.
本実施の形態に係るデジタル情報分析システム1は、CPU1500と、グラフィックコントローラ1520と、RandomAccessMemory(RAM)、Read−OnlyMemory(ROM)及び/又はフラッシュROM等のメモリ1530と、データを記憶する記憶装置1540と、記録媒体からデータを読み込み及び/又は記録媒体にデータを書き込む読込/書込み装置1545と、データを入力する入力装置1560と、外部の通信機器とデータを送受信する通信インターフェース1550と、CPU1500とグラフィックコントローラ1520とメモリ1530と記憶装置1540と読込/書込み装置1545と入力装置1560と通信インターフェース1550とを互いに通信可能に接続するチップセット1510とを備える。 The digital information analysis system 1 according to the present embodiment includes a CPU 1500, a graphic controller 1520, a memory 1530 such as a random access memory (RAM), a read-only memory (ROM), and / or a flash ROM, and a storage device 1540 for storing data. A read / write device 1545 that reads data from and / or writes data to a recording medium, an input device 1560 that inputs data, a communication interface 1550 that transmits / receives data to / from an external communication device, a CPU 1500, and a graphic Chipset 1 for connecting a controller 1520, a memory 1530, a storage device 1540, a read / write device 1545, an input device 1560, and a communication interface 1550 so that they can communicate with each other And a 10.
チップセット1510は、メモリ1530と、メモリ1530にアクセスして所定の処理を実行するCPU1500と、外部の表示装置の表示を制御するグラフィックコントローラ1520とを相互に接続することにより、各構成要素間のデータの受渡しを実行する。CPU1500は、メモリ1530に格納されたプログラムに基づいて動作して、各構成要素を制御する。グラフィックコントローラ1520は、メモリ1530内に設けられたバッファ上に一時的に蓄えられた画像データに基づいて、画像を所定の表示装置に表示させる。 The chip set 1510 includes a memory 1530, a CPU 1500 that accesses the memory 1530 and executes predetermined processing, and a graphic controller 1520 that controls display on an external display device. Perform data passing. The CPU 1500 operates based on a program stored in the memory 1530 and controls each component. The graphic controller 1520 displays an image on a predetermined display device based on the image data temporarily stored on the buffer provided in the memory 1530.
また、チップセット1510は、記憶装置1540と、読込/書込み装置1545と、通信インターフェース1550とを接続する。記憶装置1540は、デジタル情報分析システム1のCPU1500が使用するプログラムとデータとを格納する。記憶装置1540は、例えば、フラッシュメモリである。読込/書込み装置1545は、プログラム及び/又はデータを記憶している記憶媒体からプログラム及び/又はデータを読み取って、読み取ったプログラム及び/又はデータを記憶装置1540に格納する。読込/書込み装置1545は、例えば、通信インターフェース1550を介し、インターネット上のサーバーから所定のプログラムを取得して、取得したプログラムを記憶装置1540に格納する。 The chip set 1510 connects a storage device 1540, a read / write device 1545, and a communication interface 1550. The storage device 1540 stores programs and data used by the CPU 1500 of the digital information analysis system 1. The storage device 1540 is, for example, a flash memory. The read / write device 1545 reads the program and / or data from the storage medium storing the program and / or data, and stores the read program and / or data in the storage device 1540. For example, the read / write device 1545 acquires a predetermined program from a server on the Internet via the communication interface 1550 and stores the acquired program in the storage device 1540.
通信インターフェース1550は、通信ネットワークを介して外部の装置とデータの送受信を実行する。また、通信インターフェース1550は、通信ネットワークが不通の場合、通信ネットワークを介さずに外部の装置とデータの送受信を実行することもできる。そして、キーボード、タブレット、マウス等の入力装置1560は、所定のインターフェースを介してチップセット1510と接続する。 The communication interface 1550 executes data transmission / reception with an external device via a communication network. Further, when the communication network is disconnected, the communication interface 1550 can execute data transmission / reception with an external device without going through the communication network. An input device 1560 such as a keyboard, a tablet, or a mouse is connected to the chip set 1510 via a predetermined interface.
記憶装置1540に格納されるデジタル情報分析システム1用のデジタル情報分析プログラムは、インターネット等の通信ネットワーク、又は磁気記録媒体、光学記録媒体等の記録媒体を介して記憶装置1540に提供される。そして、記憶装置1540に格納されたデジタル情報分析システム1用のプログラムは、CPU1500により実行される。 The digital information analysis program for the digital information analysis system 1 stored in the storage device 1540 is provided to the storage device 1540 via a communication network such as the Internet or a recording medium such as a magnetic recording medium or an optical recording medium. The program for the digital information analysis system 1 stored in the storage device 1540 is executed by the CPU 1500.
本実施の形態に係るデジタル情報分析システム1により実行されるデジタル情報分析プログラムは、CPU1500に働きかけて、デジタル情報分析システム1を、図1から図3にかけて説明したキーワードデータベース100、抽出部110、スコア付け部120、標本デジタル情報抽出部130、情報更新部140、及び出力部150として機能させる。 The digital information analysis program executed by the digital information analysis system 1 according to the present embodiment works on the CPU 1500 to describe the digital information analysis system 1 using the keyword database 100, the extraction unit 110, the score described with reference to FIGS. It functions as the attaching unit 120, the sample digital information extracting unit 130, the information updating unit 140, and the output unit 150.
(実施の形態の効果)
本実施の形態に係るデジタル情報分析システム1は、予め定められた特定事項に関連性を有する各種キーワードと各種キーワードの重み付け情報とをキーワードデータベース100に予め格納することができる。そして、デジタル情報分析システム1は、キーワードデータベース100に格納されている情報を用いてデジタル情報を抽出した上で、抽出したデジタル情報から標本デジタル情報を抽出し、抽出した標本デジタル情報を用いて重み付け情報を更新することができる。これにより、デジタル情報分析システム1は、外部からの指示を要さずに、予め定められた特定事項と所定の関係性を有するデジタル情報を全自動で抽出、特定することができる。(Effect of embodiment)
The digital information analysis system 1 according to the present embodiment can store in advance in the keyword database 100 various keywords having relevance to predetermined specific items and weighting information of the various keywords. The digital information analysis system 1 extracts digital information using information stored in the keyword database 100, extracts sample digital information from the extracted digital information, and weights using the extracted sample digital information Information can be updated. As a result, the digital information analysis system 1 can fully automatically extract and specify digital information having a predetermined relationship with a predetermined specific item without requiring an external instruction.
そして、デジタル情報分析システム1は、デジタル情報へのスコア付け、標本デジタル情報の抽出、及び重み付け情報の更新を繰り返すことができるので、特定事項と関連性を有するデジタル情報の複数のデジタル情報からの抽出精度を向上させた上で、予め定められた特定事項と関連性を有する適切なデジタル情報を抽出できる。 And since the digital information analysis system 1 can repeat the scoring to the digital information, the extraction of the sample digital information, and the update of the weighting information, the digital information having relevance to the specific matter from the plurality of digital information It is possible to extract appropriate digital information having a relationship with a predetermined specific item while improving the extraction accuracy.
以上、本発明の実施の形態を説明したが、上記に記載した実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明した特徴の組合せのすべてが発明の課題を解決するための手段に必須であるとは限らない点に留意すべきである。更に、上記した実施形態の技術的要素は、単独で適用されてもよいし、プログラム部品とハードウェア部品とのような複数の部分に分割されて適用されるようにすることもできる。 While the embodiments of the present invention have been described above, the embodiments described above do not limit the invention according to the claims. In addition, it should be noted that not all combinations of features described in the embodiments are necessarily essential to the means for solving the problems of the invention. Furthermore, the technical elements of the above-described embodiments may be applied independently, or may be applied by being divided into a plurality of parts such as program parts and hardware parts.
1 デジタル情報分析システム
2 情報処理装置
100 キーワードデータベース
110 抽出部
120 スコア付け部
130 標本デジタル情報抽出部
140 情報更新部
150 出力部
200 デジタル情報格納部
210 情報出力部
1500 CPU
1510 チップセット
1520 グラフィックコントローラ
1530 メモリ
1540 記憶装置
1545 読込/書込み装置
1550 通信インターフェース
1560 入力装置DESCRIPTION OF SYMBOLS 1 Digital information analysis system 2 Information processing apparatus 100 Keyword database 110 Extraction part 120 Scoring part 130 Sample digital information extraction part 140 Information update part 150 Output part 200 Digital information storage part 210 Information output part 1500 CPU
1510 chip set 1520 graphic controller 1530 memory 1540 storage device 1545 read / write device 1550 communication interface 1560 input device
Claims (5)
前記複数のキーワードそれぞれと、前記複数のキーワードのそれぞれに対応づけられている前記重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれに、前記複数のキーワードの組合せが予め定められた特定事項との関連性の高低を示す数値であるスコアを対応づけるスコア付け部と、
前記スコア付け部によって前記数値が大きいほど関連性が高くなるようにスコア付けをした複数のデジタル情報から、予め定められた条件をクリアする仮のデジタル情報として、形態素若しくは共起表現を含む標本となる標本デジタル情報を抽出する標本デジタル情報抽出部と、
抽出された前記標本デジタル情報の内容を形態素解析することで、前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを更新する情報更新部と、を備え、
前記スコア付け部は、前記情報更新部により更新された新たな重み付け情報を用いて複数のデジタル情報それぞれに新たなスコアを対応づけ、
前記標本デジタル情報抽出部は、前記情報更新部により更新された新たなスコアに基づいて、新たな標本デジタル情報を抽出し、
前記情報更新部は、前記標本デジタル情報抽出部が抽出した前記新たな標本デジタル情報を用いて前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを再び更新するものであって、更に、予め定められた終了条件として、前記更新後の重み付け情報と更新前の重み付け情報との差分が予め定められた範囲内におさまる条件をもって前記更新を終了するデジタル情報分析システム。 Be one having a relevant to the predetermined specific matters, words, multi-morpheme, or a plurality of keywords including either or more of the plurality of co-occurrence representation, in correspondence to the plurality of keywords A keyword database that stores weighting information that becomes more weighted as the relevance of a particular item related to a keyword is higher ,
Based on each of the plurality of keywords and the weighting information associated with each of the plurality of keywords, the combination of the plurality of keywords is determined in advance for each of the plurality of digital information including text data. A scoring unit that associates scores that are numerical values indicating the level of relevance with the matter ,
A sample including a morpheme or a co-occurrence expression as temporary digital information that clears a predetermined condition from a plurality of digital information scored so that the relevance increases as the numerical value increases by the scoring unit; A sample digital information extraction unit for extracting the sample digital information
The extracted content of the sample digital information by morphological analysis, and an information updating unit for updating the magnitude of the weight for the weighting information stored in the keyword database,
The scoring unit associates a new score with each of a plurality of digital information using new weighting information updated by the information update unit,
The specimen digital information extracting unit, based on the updated new score by the information updating unit, extracts a new specimen digital information,
The information updating unit, there is again to update the size of the weight for the weighting information stored in the keyword database using the new sample digital information the specimen digital information extracting unit has extracted, further The digital information analysis system that terminates the update with a condition that a difference between the updated weighting information and the pre-updated weighting information falls within a predetermined range as a predetermined end condition.
前記複数のキーワードそれぞれと、前記複数のキーワードのそれぞれに対応づけられている前記重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれに、前記複数のキーワードの組合せが予め定められた特定事項との関連性の高低を示す数値であるスコアを対応づけるスコア付け段階と、
前記スコア付け段階によって前記数値が大きいほど関連性が高くなるようにスコア付けをした複数のデジタル情報から、予め定められた条件をクリアする仮のデジタル情報として、形態素若しくは共起表現を含む標本となる標本デジタル情報を抽出する標本デジタル情報抽出段階と、
抽出された前記標本デジタル情報の内容を形態素解析することで、前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを更新する情報更新段階と、を有し、
前記スコア付け段階は、前記情報更新段階により更新された新たな重み付け情報を用いて複数のデジタル情報それぞれに新たなスコアを対応づけ、
前記標本デジタル情報抽出段階は、前記情報更新部により更新された新たなスコアに基づいて、新たな標本デジタル情報を抽出し、
前記情報更新段階は、前記標本デジタル情報抽出段階が抽出した前記新たな標本デジタル情報を用いて前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを再び更新し、更に、予め定められた終了条件として、前記更新後の重み付け情報と更新前の重み付け情報との差分が予め定められた範囲内におさまる条件をもって前記更新を終了するデジタル情報分析方法。 Be one having a relevant to the predetermined specific matters, words, multi-morpheme, or a plurality of keywords including either or more of the plurality of co-occurrence representation, in correspondence to the plurality of keywords A digital information analysis method in a digital information analysis system including a keyword database that stores weighting information that becomes more weighted as the relevance to a specific item related to a keyword is higher .
Based on each of the plurality of keywords and the weighting information associated with each of the plurality of keywords, the combination of the plurality of keywords is determined in advance for each of the plurality of digital information including text data. A scoring stage that associates scores, which are numerical values indicating the level of relevance with the matter ,
A sample including morpheme or co-occurrence expression as temporary digital information that clears a predetermined condition from a plurality of digital information scored so that the relevance is higher as the numerical value is larger in the scoring step; A sample digital information extraction stage for extracting the sample digital information
The extracted content of the sample digital information by morphological analysis, has an information update step of updating the magnitude of the weight for the weighting information stored in the keyword database,
The scoring step associates a new score with each of a plurality of digital information using the new weighting information updated by the information update step,
The specimen digital information extracting step, based on the updated new score by the information updating unit, extracts a new specimen digital information,
The information updating step, the specimen digital information extracting step by using the extracted the new specimen digital information was updated again the size of the weight for the weighting information stored in the keyword database, further, predetermined A digital information analysis method for ending the update with a condition that a difference between the weight information after the update and the weight information before the update falls within a predetermined range as the end condition.
コンピュータに、
前記複数のキーワードそれぞれと、前記複数のキーワードのそれぞれに対応づけられている前記重み付け情報とに基づいて、テキストデータを含む複数のデジタル情報それぞれに、前記複数のキーワードの組合せが予め定められた特定事項との関連性の高低を示す数値であるスコアを対応づけるスコア付け機能と、
前記スコア付け機能によって前記数値が大きいほど関連性が高くなるようにスコア付けをした複数のデジタル情報から、予め定められた条件をクリアする仮のデジタル情報として、形態素若しくは共起表現を含む標本となる標本デジタル情報を抽出する標本デジタル情報抽出機能と、
抽出された抽出された前記標本デジタル情報の内容を形態素解析することで、前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを更新する情報更新機能と、を実現させ、
前記スコア付け機能は、前記情報更新機能により更新された新たな重み付け情報を用いて複数のデジタル情報それぞれに新たなスコアを対応づけ、
前記標本デジタル情報抽出機能は、前記情報更新部により更新された新たなスコアに基づいて、新たな標本デジタル情報を抽出し、
前記情報更新機能は、前記標本デジタル情報抽出機能が抽出した前記新たな標本デジタル情報を用いて前記キーワードデータベースに格納されている前記重み付け情報に対する重み付けの大きさを再び更新するものであって、更に、予め定められた終了条件として、前記更新後の重み付け情報と更新前の重み付け情報との差分が予め定められた範囲内におさまる条件をもって前記更新を終了するデジタル情報分析プログラム。
Be one having a relevant to the predetermined specific matters, words, multi-morpheme, or a plurality of keywords including either or more of the plurality of co-occurrence representation, in correspondence to the plurality of keywords A digital information analysis program for a digital information analysis system comprising a keyword database that stores weighting information that is weighted more as the relevance of a specific item related to a keyword is higher .
On the computer,
Based on each of the plurality of keywords and the weighting information associated with each of the plurality of keywords, the combination of the plurality of keywords is determined in advance for each of the plurality of digital information including text data. A scoring function for associating scores, which are numerical values indicating the level of relevance to items ,
A sample including a morpheme or co-occurrence expression as temporary digital information that clears a predetermined condition from a plurality of digital information scored so that the relevance increases as the numerical value increases by the scoring function; Sample digital information extraction function to extract the sample digital information
The was extracted extracted contents of the sample digital information by morphological analysis, is realized, and an information updating function for updating the magnitude of the weight for the weighting information stored in the keyword database,
The scoring function associates a new score with each of a plurality of digital information using the new weighting information updated by the information update function,
The specimen digital information extracting function, based on the updated new score by the information updating unit, extracts a new specimen digital information,
The information update function, there is again to update the size of the weight for the weighting information stored in the keyword database by using the sample the new specimen digital information digital information extracting function is extracted, further A digital information analysis program for ending the update with a condition that a difference between the updated weighting information and the pre-update weighting information falls within a predetermined range as a predetermined end condition.
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2014/052576 WO2015118615A1 (en) | 2014-02-04 | 2014-02-04 | Digital information analysis system, digital information analysis method, and digital information analysis program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP5876144B2 true JP5876144B2 (en) | 2016-03-02 |
| JPWO2015118615A1 JPWO2015118615A1 (en) | 2017-03-23 |
Family
ID=53777452
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014511634A Expired - Fee Related JP5876144B2 (en) | 2014-02-04 | 2014-02-04 | Digital information analysis system, digital information analysis method, and digital information analysis program |
Country Status (3)
| Country | Link |
|---|---|
| JP (1) | JP5876144B2 (en) |
| TW (1) | TW201546635A (en) |
| WO (1) | WO2015118615A1 (en) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003228581A (en) * | 2002-02-05 | 2003-08-15 | Hitachi Ltd | Similarity search method by relevance feedback |
| JP2004178421A (en) * | 2002-11-28 | 2004-06-24 | Ricoh Co Ltd | Document search device, document search method, program, and recording medium |
| JP2005182218A (en) * | 2003-12-17 | 2005-07-07 | Ishikawa Pref Gov | Dictionary editing device, and document classifying device and its program |
| JP2013182338A (en) * | 2012-02-29 | 2013-09-12 | Ubic:Kk | Document classification system and document classification method and document classification program |
-
2014
- 2014-02-04 JP JP2014511634A patent/JP5876144B2/en not_active Expired - Fee Related
- 2014-02-04 WO PCT/JP2014/052576 patent/WO2015118615A1/en not_active Ceased
-
2015
- 2015-02-04 TW TW104103848A patent/TW201546635A/en unknown
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003228581A (en) * | 2002-02-05 | 2003-08-15 | Hitachi Ltd | Similarity search method by relevance feedback |
| JP2004178421A (en) * | 2002-11-28 | 2004-06-24 | Ricoh Co Ltd | Document search device, document search method, program, and recording medium |
| JP2005182218A (en) * | 2003-12-17 | 2005-07-07 | Ishikawa Pref Gov | Dictionary editing device, and document classifying device and its program |
| JP2013182338A (en) * | 2012-02-29 | 2013-09-12 | Ubic:Kk | Document classification system and document classification method and document classification program |
Non-Patent Citations (2)
| Title |
|---|
| CSNG201200614001; 原島 純: 'テキストの表層情報と潜在情報を利用した適合性フィードバック' 自然言語処理 第19巻 第3号, 20120930, p.121-142, 言語処理学会 * |
| JPN6014011053; 原島 純: 'テキストの表層情報と潜在情報を利用した適合性フィードバック' 自然言語処理 第19巻 第3号, 20120930, p.121-142, 言語処理学会 * |
Also Published As
| Publication number | Publication date |
|---|---|
| TW201546635A (en) | 2015-12-16 |
| JPWO2015118615A1 (en) | 2017-03-23 |
| WO2015118615A1 (en) | 2015-08-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11762926B2 (en) | Recommending web API's and associated endpoints | |
| CN108628971B (en) | Text classification method, text classifier and storage medium for unbalanced data set | |
| CN108089974B (en) | Test the application with a defined input format | |
| US11676231B1 (en) | Aggregating procedures for automatic document analysis | |
| MXPA04011788A (en) | Learning and using generalized string patterns for information extraction. | |
| US9542474B2 (en) | Forensic system, forensic method, and forensic program | |
| US10528609B2 (en) | Aggregating procedures for automatic document analysis | |
| JP5723067B1 (en) | Data analysis system, data analysis method, and data analysis program | |
| JP2018088101A (en) | Synonymous expression extraction device, synonymous expression extraction method and synonymous expression extraction program | |
| CN109670183B (en) | Text importance calculation method, device, equipment and storage medium | |
| JP5687312B2 (en) | Digital information analysis system, digital information analysis method, and digital information analysis program | |
| JP5430312B2 (en) | Data processing apparatus, data name generation method, and computer program | |
| CN113821601A (en) | Text comparison method, device, equipment and medium | |
| US9594757B2 (en) | Document management system, document management method, and document management program | |
| KR101566153B1 (en) | Forensic system, forensic method, and forensic program | |
| KR20220054753A (en) | Voice search method and device, electronic device, computer readable storage medium and computer program | |
| CN110008807A (en) | A kind of training method, device and the equipment of treaty content identification model | |
| CN104462552A (en) | Question and answer page core word extracting method and device | |
| JP6124936B2 (en) | Data analysis system, data analysis method, and data analysis program | |
| JP5876144B2 (en) | Digital information analysis system, digital information analysis method, and digital information analysis program | |
| CN114625922A (en) | Word stock construction method and device, electronic equipment and storage medium | |
| CN114201607B (en) | Information processing method and device | |
| CN115687979A (en) | Identification method and device, electronic equipment, and storage medium of specified technology in threat intelligence | |
| JP2025037159A (en) | Information processing device, information processing system, information processing method, and program | |
| JP6154072B2 (en) | Information analysis system, information analysis method, and information analysis program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140812 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160120 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5876144 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D03 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D04 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D04 |
|
| LAPS | Cancellation because of no payment of annual fees |