Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6455068B2 - Information processing system, information processing program, and information processing method - Google Patents
[go: Go Back, main page]

JP6455068B2 - Information processing system, information processing program, and information processing method - Google Patents

Information processing system, information processing program, and information processing method Download PDF

Info

Publication number
JP6455068B2
JP6455068B2 JP2014214334A JP2014214334A JP6455068B2 JP 6455068 B2 JP6455068 B2 JP 6455068B2 JP 2014214334 A JP2014214334 A JP 2014214334A JP 2014214334 A JP2014214334 A JP 2014214334A JP 6455068 B2 JP6455068 B2 JP 6455068B2
Authority
JP
Japan
Prior art keywords
partial
document set
feature word
feature
attribute
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014214334A
Other languages
Japanese (ja)
Other versions
JP2016081412A (en
Inventor
貴士 大西
貴士 大西
弘紀 水口
弘紀 水口
ダニエル アンドラーデ
ダニエル アンドラーデ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2014214334A priority Critical patent/JP6455068B2/en
Publication of JP2016081412A publication Critical patent/JP2016081412A/en
Application granted granted Critical
Publication of JP6455068B2 publication Critical patent/JP6455068B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、テキストマイニングの目的に適う特徴語をユーザに提供する情報処理システム、情報処理装置、情報処理方法に関する。   The present invention relates to an information processing system, an information processing apparatus, and an information processing method that provide a user with feature words suitable for the purpose of text mining.

企業内に存在する様々なテキスト文書、例えば、報告書、アンケート、電子メールなど、を分析し、企業活動におけるリスクや顧客動向を把握し、経営戦略の立案や新製品の開発に反映することが重要になっている。このようなテキスト文書の特徴や傾向を分析することをテキストマイニングと呼ぶ。テキストマイニングにおける基本的な分析技術の一つとして特徴語抽出技術がある。この特徴語抽出技術の一例が特許文献1に記載されている。特許文献1に記載されたテキストマイニング装置は、正例文書集合と負例文書集合の2つの文書集合が与えられたときに、前者の正例文書集合に特に多く出現し、後者の負例文書集合にはあまり出現しない単語もしくはフレーズを特徴語として抽出する。   Analyzing various text documents existing in the company, such as reports, questionnaires, e-mails, etc., to understand the risks and customer trends in corporate activities, and reflect them in planning business strategies and developing new products It has become important. Analyzing such characteristics and trends of text documents is called text mining. One of basic analysis techniques in text mining is a feature word extraction technique. An example of this feature word extraction technique is described in Patent Document 1. The text mining device described in Patent Document 1 appears particularly frequently in the former positive document set when the two document sets of the positive example document set and the negative example document set are given, and the latter negative example document set. A word or phrase that does not appear in the set is extracted as a feature word.

特開2010−61176号JP 2010-61176 A

しかし、このテキストマイニング装置による特徴語抽出では、抽出された特徴語が必ずしも正例文書集合を構成する文書全体の特徴ではなく、正例文書集合に含まれる一部の文書集合の特徴であることがある。例えば、ある特徴語が正例文書集合を構成する文書のうち、ある特定の時期に作成された文書に偏って出現する場合、当該特徴語がその時期特有の出来事等を表している場合がある。いかなる時期にも汎用性のある情報を得ることを目的にユーザがテキストマイニングを行うのであれば、そのような特徴語は有用でない可能性がある。そこで、本発明の目的は、ユーザがテキストマイニングの目的に適った特徴語を容易に得るための技術を提供することにある。   However, in the feature word extraction by this text mining device, the extracted feature words are not necessarily the features of the whole document constituting the positive example document set, but the features of a part of the document set included in the positive example document set. There is. For example, when a feature word appears in a biased manner in a document created at a specific time among documents constituting a positive document set, the feature word may represent an event peculiar to that time. . If the user performs text mining for the purpose of obtaining versatile information at any time, such feature words may not be useful. Therefore, an object of the present invention is to provide a technique for allowing a user to easily obtain a feature word suitable for the purpose of text mining.

本発明の第一のシステムは、文書集合における特徴語のうち、前記文書集合の部分文書集合における特徴度と、少なくとも一つの他の部分文書集合における特徴度との差が所定値以上である部分文書集合の特徴語、または前記文書集合の部分文書集合における特徴度が所定値以上である部分文書集合の特徴語を、部分特徴語として決定する部分特徴語決定手段と、前記部分特徴語決定手段から取得した前記部分特徴語を出力する部分特徴語出力手段と、を備える。   The first system of the present invention is a portion of feature words in a document set, wherein a difference between a feature value in the partial document set of the document set and a feature value in at least one other partial document set is a predetermined value or more. A partial feature word determining means for determining, as a partial feature word, a feature word of a document set or a feature word of a partial document set having a feature value in a partial document set of the document set equal to or greater than a predetermined value; and the partial feature word determining means And a partial feature word output means for outputting the partial feature word acquired from.

本発明の第二のシステムは、前記文書集合における特徴語のうち、前記部分特徴語出力手段から取得した前記部分特徴語と重複する特徴語以外を表示する表示手段を備える。   The second system of the present invention comprises display means for displaying, out of the feature words in the document set, feature words that overlap with the partial feature words acquired from the partial feature word output means.

本発明の第三のシステムは、前記部分特徴語出力手段から取得した前記部分特徴語を表示する表示手段を備える。   The third system of the present invention comprises display means for displaying the partial feature words acquired from the partial feature word output means.

本発明によれば、ユーザはテキストマイニングの目的に適った特徴語を容易に得ることができる。   According to the present invention, the user can easily obtain feature words suitable for the purpose of text mining.

第一実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of 1st embodiment. 第一実施形態の動作を示すシークエンス図である。It is a sequence diagram which shows operation | movement of 1st embodiment. テキストマイニングの対象となる文書の一例である。It is an example of the document used as the object of text mining. 特徴語抽出結果の一例を示す説明図である。It is explanatory drawing which shows an example of a feature word extraction result. 部分特徴語抽出結果の一例を示す説明図である。It is explanatory drawing which shows an example of a partial feature word extraction result. 部分特徴語抽出結果の一例を示す説明図である。It is explanatory drawing which shows an example of a partial feature word extraction result. 部分特徴語の表示の一例である。It is an example of the display of a partial feature word. 第二実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of 2nd embodiment. 第二実施形態の動作を示すシークエンス図である。It is a sequence diagram which shows operation | movement of 2nd embodiment. 第二実施形態のユーザによる入力の一例である。It is an example of the input by the user of 2nd embodiment. 第三実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of 3rd embodiment. 第三実施形態の動作を示すシークエンス図である。It is a sequence diagram which shows operation | movement of 3rd embodiment. 第三実施形態の動作を示すシークエンス図である。It is a sequence diagram which shows operation | movement of 3rd embodiment. 不要属性DB14に蓄積される情報の一例である。It is an example of the information accumulate | stored in unnecessary attribute DB14. 第四実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of 4th embodiment. 第四実施形態のハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware constitutions of 4th embodiment.

以下に、図面を参照して、本発明の実施の形態について例示的に詳しく説明する。ただし、以下の実施の形態に記載されている構成要素はあくまで例示であり、本発明の技術範囲をそれらに限定する趣旨のものではない。
(第一実施形態)
<第一実施形態の構成>
第一実施形態の構成例について説明する。図1は第一実施形態の構成例を示すブロック図である。
Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings. However, the constituent elements described in the following embodiments are merely examples, and are not intended to limit the technical scope of the present invention.
(First embodiment)
<Configuration of First Embodiment>
A configuration example of the first embodiment will be described. FIG. 1 is a block diagram showing a configuration example of the first embodiment.

部分特徴語抽出システム1は、部分特徴語決定手段11と、部分特徴語出力手段12とを含む。部分特徴語決定手段11は、ユーザがユーザ端末3を用いて任意に指定した正例文書集合を、文書集合DB(データベース)21から取得する。そして、部分特徴語決定手段11は、正例文書集合を各文書に付された属性値ごとに分割し、部分文書集合を生成する。その後、部分特徴語決定手段11は、特徴語出力手段23より取得した各特徴語について、各部分文書集合ごとの特徴度を算出し、所定の条件を満たす特徴語を部分特徴語として決定する。部分特徴語出力手段12は、部分特徴語決定手段11から部分特徴語を取得し、ユーザ端末3に送信する。   The partial feature word extraction system 1 includes a partial feature word determination unit 11 and a partial feature word output unit 12. The partial feature word determination means 11 acquires from the document set DB (database) 21 a positive example document set arbitrarily designated by the user using the user terminal 3. Then, the partial feature word determination unit 11 divides the positive example document set for each attribute value attached to each document to generate a partial document set. After that, the partial feature word determination unit 11 calculates the feature degree of each partial document set for each feature word acquired from the feature word output unit 23, and determines a feature word satisfying a predetermined condition as a partial feature word. The partial feature word output unit 12 acquires the partial feature word from the partial feature word determination unit 11 and transmits it to the user terminal 3.

特徴語抽出システム2は、文書集合DB21と、特徴語決定手段22と、特徴語出力手段23とを含む。文書集合DB21に蓄積される各文書には、予め属性値が付されている。特徴語決定手段22は、ユーザが任意に指定した正例文書集合および負例文書集合を文書集合DB21より取得し、正例文書集合における特徴語を決定する。特徴語出力手段23は、特徴語決定手段22より正例文書集合における特徴語を取得し、部分特徴語抽出システム1に送信する。   The feature word extraction system 2 includes a document set DB 21, a feature word determination unit 22, and a feature word output unit 23. Each document stored in the document set DB 21 is previously assigned an attribute value. The feature word determination unit 22 acquires a positive example document set and a negative example document set arbitrarily designated by the user from the document set DB 21, and determines a feature word in the positive example document set. The feature word output means 23 acquires the feature words in the positive example document set from the feature word determination means 22 and transmits them to the partial feature word extraction system 1.

ユーザ端末3は、入力手段31と、表示手段32とを含む。入力手段31は、ユーザから正例文書集合および負例文書集合の指定を受け、その情報を部分特徴語抽出システム1および特徴語抽出システム2に送信する。入力手段31は、例えばキーボードやマウス、タッチパネルなどの入力機器である。なお、ユーザは、部分特徴語決定手段11に送信する負例文書集合の指定を、特徴語決定手段22に送信するそれと異なるものとしても良い。表示手段32は、部分特徴語抽出システム1より部分特徴語を取得し、当該部分特徴語をユーザに表示する。表示手段32は、例えばPC(パーソナルコンピュータ)用ディスプレイや携帯端末のディスプレイ、投射スクリーンなどである。
<第一実施形態の動作>
以下、第一実施形態の動作について具体例を用いて詳しく説明する。本実施形態では、ユーザは、営業成績の良い営業所の営業日報から営業成績向上のための有用な情報を得、各営業所に展開するためにテキストマイニングを行うものとする。すなわち、テキストマイニングにおける特徴語抽出の対象となる文書は、複数の営業所から回収された営業日報である。営業日報の構成の一例を、図3に示す。ここで、各営業日報に付されている、それらを分類しうる情報が属性値である。属性値には、例えばその文書を「いつ」「誰が」「何について」書いたものかを示すような情報が該当する。具体的には、図4に示す営業日報における「2014年8月8日」「鈴木 太郎」「T社」等の記載が該当する。各文書の属性値は、予めユーザが各文書に対応付けて文書集合DB21等に登録しても良いし、ユーザが予め属性値記入欄の位置情報を学習させたシステムが、文書をスキャンする際に、自動的に位置情報から属性値を認識し、文書に対応付けて記憶するものとしても良い。また、各属性値の上位概念にあたる情報を、属性カテゴリとする。属性カテゴリには、例えば図3の営業日報における「訪問日」「作成者」「取引先」等の記載が該当する。属性カテゴリついても、属性値と同様に、予めユーザが各文書に対応付けて文書集合DB等に登録しても良いし、文書の位置情報から自動的にシステムが認識して記憶するものとしても良い。あるいは、ユーザが予め各属性値に対応する属性カテゴリをDB等に記憶させ、システムが文書の属性値を認識すると、DB等から自動的に属性カテゴリを割り当てるようにしても良い。
The user terminal 3 includes an input unit 31 and a display unit 32. The input unit 31 receives the designation of the positive example document set and the negative example document set from the user, and transmits the information to the partial feature word extraction system 1 and the feature word extraction system 2. The input unit 31 is an input device such as a keyboard, a mouse, or a touch panel. The user may designate the negative example document set to be transmitted to the partial feature word determination unit 11 to be different from that to be transmitted to the feature word determination unit 22. The display means 32 acquires a partial feature word from the partial feature word extraction system 1 and displays the partial feature word to the user. The display means 32 is, for example, a PC (personal computer) display, a mobile terminal display, a projection screen, or the like.
<Operation of First Embodiment>
Hereinafter, the operation of the first embodiment will be described in detail using specific examples. In this embodiment, it is assumed that the user obtains useful information for improving business results from business daily reports of business offices with good business results, and performs text mining in order to develop the information to each business office. That is, the document that is the target of feature word extraction in text mining is a daily business report collected from a plurality of sales offices. An example of the structure of the daily business report is shown in FIG. Here, the information attached to each business daily report that can be classified is an attribute value. The attribute value corresponds to information indicating, for example, “when”, “who” and “about” the document. Specifically, “August 8, 2014”, “Taro Suzuki”, “Company T”, etc. in the daily business report shown in FIG. The attribute value of each document may be registered in advance by the user in the document collection DB 21 or the like in association with each document, or when the system scans the document in advance by the user learning the positional information in the attribute value entry column. Alternatively, the attribute value may be automatically recognized from the position information and stored in association with the document. In addition, information corresponding to the superordinate concept of each attribute value is defined as an attribute category. The attribute category includes, for example, “visit date”, “creator”, “customer”, etc. in the daily business report of FIG. As with the attribute value, the attribute category may be registered in advance in the document collection DB by the user in association with each document, or may be automatically recognized and stored by the system based on the position information of the document. good. Alternatively, an attribute category corresponding to each attribute value may be stored in the DB in advance, and when the system recognizes the attribute value of the document, the attribute category may be automatically assigned from the DB or the like.

なお、正例文書集合を構成する各文書を部分文書集合に分類する方法は、属性値によるものに限られない。例えば、正例文書集合のうち偶数ページのみを集めたものと、奇数ページを集めたものとでそれぞれ部分文書集合を構成する、などでも良い。その場合、システムはユーザにとって一見意味のない規則(例えば偶数ページ)と特徴語との関係性についても示唆することができるため、ユーザが目的に適った特徴語を得られる可能性が高くなる。   Note that the method for classifying each document constituting the positive example document set into a partial document set is not limited to using attribute values. For example, a partial document set may be formed by collecting only even pages and collecting odd pages in the positive example document set. In that case, since the system can also suggest the relationship between rules (for example, even-numbered pages) that do not make sense to the user and the feature words, the possibility that the user can obtain the feature words suitable for the purpose increases.

図2は、第一実施形態の動作の例を示すシーケンス図である。   FIG. 2 is a sequence diagram illustrating an example of the operation of the first embodiment.

まず、ユーザは、ユーザ端末3内の入力手段31により、特徴語抽出システム2内の文書集合DB21に蓄積されている文書集合から、正例文書集合および負例文書集合を指定する(S1)。本実施形態では、ユーザは営業成績の良い営業所において作成された営業日報の集合を正例文書集合に、それ以外の営業所において作成された営業日報の集合を負例文書集合に、それぞれ指定する。入力手段31は、ユーザが指定した2つの文書集合を特定する情報を、部分特徴語抽出システム1および特徴語抽出システム2に送信する。   First, the user designates a positive example document set and a negative example document set from the document set stored in the document set DB 21 in the feature word extraction system 2 by the input means 31 in the user terminal 3 (S1). In this embodiment, the user designates a set of daily business reports created at sales offices with good sales results as positive document sets and a set of business daily reports created at other sales offices as negative example document sets. To do. The input unit 31 transmits information specifying the two document sets designated by the user to the partial feature word extraction system 1 and the feature word extraction system 2.

特徴語抽出システム2内の特徴語決定手段22は、文書集合DB21からユーザが指定した正例文書集合および負例文書集合を取得する(S2)。次に、特徴語決定手段22は、正例文書集合および負例文書集合に出現する単語またはフレーズについて特徴度を算出し、所定の条件を満たす単語またはフレーズを特徴語として決定する(S3)。特徴度とは、ある単語またはフレーズが特定の文書集合にどれだけ偏って出現しているかを表す指標である。例えば、カイ二乗値や対数尤度比等の独立性の検定に用いる統計量や、拡張型確率的コンプレキシティのような正例文書集合と負例文書集合とを分離するのに有効な統計量等を特徴度として用いることができる。特徴語を決定するための所定の条件は、ユーザやシステム設計者が任意に設定することができる。所定の条件としては、例えば「特徴度が予め設定された閾値以上である」や、「特徴度の大きさが全単語またはフレーズのうち予め設定された順位以上である」、などが設定されうる。図4は、特徴語決定手段22により算出された特徴語の例を示している。例えばユーザが、所定の条件として「特徴度が全単語またはフレーズ中、上位3位以上」と設定した場合には、「新規出店」、「補助金」、「高橋社長」の3語が特徴語として決定される。特徴語出力手段23は、特徴語決定手段22から特徴語を取得し、取得した特徴語を部分特徴語抽出システム1に送信する(S4)。   The feature word determination means 22 in the feature word extraction system 2 acquires a positive example document set and a negative example document set designated by the user from the document set DB 21 (S2). Next, the feature word determination unit 22 calculates the feature degree for words or phrases appearing in the positive example document set and the negative example document set, and determines a word or phrase satisfying a predetermined condition as a feature word (S3). The characteristic degree is an index representing how biased a certain word or phrase appears in a specific document set. For example, statistics used for testing independence such as chi-square values and log-likelihood ratios, and statistics useful for separating positive and negative document sets such as extended stochastic complexity A quantity or the like can be used as the feature degree. A predetermined condition for determining a feature word can be arbitrarily set by a user or a system designer. As the predetermined condition, for example, “the feature level is equal to or higher than a preset threshold” or “the feature level is equal to or higher than a preset rank among all words or phrases” may be set. . FIG. 4 shows an example of feature words calculated by the feature word determination means 22. For example, if the user sets the predetermined condition as “characteristic is higher than the top three of all words or phrases”, three words “new store opening”, “subsidy” and “president Takahashi” are feature words. As determined. The feature word output unit 23 acquires a feature word from the feature word determination unit 22, and transmits the acquired feature word to the partial feature word extraction system 1 (S4).

部分特徴語抽出システム1内の部分特徴語決定手段11は、文書集合DB21からユーザが指定した正例文書集合を取得する(S5)。そして、部分特徴語決定手段11は、取得した正例文書集合を、正例文書集合を構成する各文書に付された属性値ごとに分割し、部分文書集合を生成する(S6)。例えば、正例文書集合のうち、属性カテゴリ「訪問日」に含まれる属性値「2014年8月8日」が付されている文書のみを集めて作成される文書集合は、属性値「2014年8月8日」が付された部分文書集合である。ただし、正例文書集合を構成する全ての文書に付されている属性値は、それによっては正例文書集合を分割することができないため、部分特徴語決定手段11によって部分文書集合生成の対象から除外されても良い。   The partial feature word determination means 11 in the partial feature word extraction system 1 acquires a positive example document set designated by the user from the document set DB 21 (S5). Then, the partial feature word determination unit 11 divides the acquired positive example document set for each attribute value attached to each document constituting the positive example document set, and generates a partial document set (S6). For example, a document set that is created by collecting only documents with the attribute value “August 8, 2014” included in the attribute category “visit date” in the positive example document set is the attribute value “2014 It is a set of partial documents with “August 8”. However, since the attribute values assigned to all the documents constituting the positive example document set cannot divide the positive example document set, the partial feature word determination unit 11 determines the attribute value from the target of the partial document set generation. It may be excluded.

次に、部分特徴語決定手段11は、特徴語出力手段23から正例文書集合についての特徴語を取得する。そして、部分特徴語決定手段11は、取得した各特徴語について、各部分文書集合における特徴度を算出する(S7)。特徴度には、特徴語決定手段22で用いた統計量と同じものを用いても良いし、カイ二乗値や対数尤度比等の独立性の検定に用いる統計量や、拡張型確率的コンプレキシティのような正例文書集合と負例文書集合とを分離するのに有効な統計量等から、他のものを用いても良い。ただし、特徴度の算出は特徴語が偏って出現するような部分文書集合を特定することが目的であるため、各部分文書集合の大きさを考慮して行われる必要がある。例えば、特徴語の出現回数を部分文書集合の大きさで割るなどして、単位文書量あたりの特徴度の出現数を特徴度とする、などである。なぜなら、他の文書と比較して特徴語の出現回数が多い文書であっても、文書全体に含まれる特徴語以外の単語またはフレーズも同様に多い場合には、当該特徴語が当該文書集合に偏って出現しているとはいえないからである。なお、集合の大きさとは、例えば文書集合に含まれる全ての単語またはフレーズの合計数や、文書集合に含まれる文字の合計数などである。各特徴語について、各部分文書集合ごとに算出される特徴度の一例を、図5および図6に示す。図5は、特徴語「新規出店」について、図6は特徴語「高橋社長」についての特徴度算出の結果である。例えば図5に示す表におけるID AAは、特徴語「新規出店」が、属性値「小西 太郎」の付された部分文書集合において、特徴度が「5.3」と算出されたことを表している。   Next, the partial feature word determination unit 11 acquires a feature word for the positive example document set from the feature word output unit 23. Then, the partial feature word determining unit 11 calculates the feature degree in each partial document set for each acquired feature word (S7). As the feature degree, the same statistic as that used in the feature word determination unit 22 may be used, or a statistic used for an independence test such as a chi-square value or a log likelihood ratio, or an extended stochastic complex. Other statistics may be used in view of statistics and the like that are effective for separating a positive example document set and a negative example document set such as Kisity. However, since the calculation of the feature level is intended to identify a partial document set in which feature words appear in a biased manner, it needs to be performed in consideration of the size of each partial document set. For example, the number of appearances of feature words is divided by the size of the partial document set, and the number of appearances of feature degrees per unit document amount is used as the feature degree. This is because even if a document has a large number of appearances of feature words compared to other documents, if the number of words or phrases other than the feature words included in the entire document is also large, the feature words are included in the document set. It is because it cannot be said that it appears unevenly. The size of the set is, for example, the total number of all words or phrases included in the document set, the total number of characters included in the document set, or the like. FIG. 5 and FIG. 6 show an example of the feature degree calculated for each partial document set for each feature word. FIG. 5 shows the result of characteristic calculation for the characteristic word “new store opening”, and FIG. 6 shows the characteristic calculation for the characteristic word “President Takahashi”. For example, ID AA in the table shown in FIG. 5 indicates that the feature word “new store opening” is calculated as “5.3” in the partial document set with the attribute value “Taro Konishi”.

続けて、部分特徴語決定手段11は、算出された特徴度を参照し、所定の条件を満たす特徴語を部分特徴語として決定する(S8、S9)。所定の条件とは、ある部分文書集合に偏って出現している特徴語と、そうでない特徴語とを分ける条件である。所定の条件はユーザやシステム設計者が任意に設定でき、また、特徴語決定手段22で特徴語を決定する際に用いた条件と同じでも良いし、他の条件でも良い。他の条件としては、例えば、「特徴語決定手段22で決定された特徴語の特徴度のうち、最も小さい値以上」や「部分特徴語決定手段11が算出した他の特徴度のいずれと比較しても3以上大きい」「部分特徴語決定手段11が算出した他の特徴度のいずれと比較しても5倍以上大きい」などが挙げられる。ここで、「特徴語決定手段22で決定された特徴語の特徴度のうち、最も小さい値以上」との条件をユーザが設定したとする。図4より、特徴語決定手段22で決定された特徴語の特徴度のうち、最も小さいのは「高橋社長」の「7.8」である。したがって、部分特徴語決定手段11は、特定の部分文書集合において「特徴度が7.8以上」で算出されるような特徴語を、部分特徴語として決定する。図5に示す表においては、条件を満たす特徴度が算出された部分文書集合がないため、部分特徴語決定手段11は、特徴語「新規出店」を部分特徴語として決定しない。一方、図6に示す表におけるID BAでは、条件を満たす特徴度「42.0」が算出されている。つまり、図6より、特徴語「高橋社長」は、属性値「T社」が付された部分文書集合において特徴度が「42.0」と算出されている。よって、「特徴度が7.8以上」との条件を満たしているため、部分特徴語決定手段11は、特徴語「高橋社長」を部分特徴語として決定する。   Subsequently, the partial feature word determining unit 11 refers to the calculated feature degree and determines a feature word satisfying a predetermined condition as a partial feature word (S8, S9). The predetermined condition is a condition for separating a feature word that appears biased in a partial document set and a feature word that does not. The predetermined condition can be arbitrarily set by the user or the system designer, and may be the same as the condition used when the feature word determining means 22 determines the feature word, or may be another condition. Other conditions include, for example, “more than the smallest value of the feature words determined by the feature word determination unit 22” or “other feature levels calculated by the partial feature word determination unit 11”. 3 or more "or" 5 or more times larger than any of the other feature degrees calculated by the partial feature word determination means 11 ". Here, it is assumed that the user has set the condition “more than the smallest value among the features of the feature words determined by the feature word determination unit 22”. As shown in FIG. 4, among the feature words determined by the feature word determination means 22, the smallest is “7.8” of “President Takahashi”. Therefore, the partial feature word determining means 11 determines a feature word that is calculated with “feature degree of 7.8 or more” in the specific partial document set as a partial feature word. In the table shown in FIG. 5, since there is no partial document set for which the feature degree satisfying the condition is calculated, the partial feature word determination unit 11 does not determine the feature word “new store opening” as a partial feature word. On the other hand, with the ID BA in the table shown in FIG. 6, the characteristic degree “42.0” that satisfies the condition is calculated. That is, from FIG. 6, the feature word “President Takahashi” is calculated as “42.0” in the partial document set with the attribute value “Company T”. Accordingly, since the condition “feature degree is 7.8 or higher” is satisfied, the partial feature word determination unit 11 determines the feature word “President Takahashi” as the partial feature word.

正例文書集合における特徴語が、正例文書集合を構成する一部の文書集合においても特徴的であるということは、当該特徴語が当該一部の文書集合に偏って出現していることを意味する。そのため、部分特徴語決定手段11は、特定の部分文書集合に偏って出現している特徴語を部分特徴語として決定する。   A feature word in the positive example document set is also characteristic in a part of the document set constituting the positive example document set. This means that the feature word appears biased in the partial document set. means. Therefore, the partial feature word determination unit 11 determines a feature word that appears biased in a specific partial document set as a partial feature word.

部分特徴語出力手段12は、部分特徴語決定手段11から部分特徴語を取得し、取得した部分特徴語をユーザ端末3に送信する(S10)。   The partial feature word output unit 12 acquires a partial feature word from the partial feature word determination unit 11, and transmits the acquired partial feature word to the user terminal 3 (S10).

ユーザ端末3内の表示手段32は、ユーザに対して部分特徴語を表示する(S11)。表示手段32は、部分特徴語とともに、部分特徴語が特徴的に出現する部分文書集合に付された属性値を表示しても良い。例えば前述の具体例のように、「高橋社長」が部分特徴語として決定された場合、表示手段32は、「高橋社長」とともに属性値「T社」をユーザに表示しても良い。これにより、ユーザは、正例文書集合中に特徴的に出現する「高橋社長」という単語が、属性値「T社」の付された文書集合に偏って出現していることを知ることができる。さらに、表示手段32は、部分特徴語とともに、部分特徴語が特徴的に出現する部分文書集合に付された属性値についての属性カテゴリを表示しても良い。前述の具体例では、属性値「T社」に対して「取引先」が属性カテゴリに該当する。表示手段32による部分特徴語の表示の一例を図7に示す。図7の表示を見たユーザは、特徴語「高橋社長」が、属性カテゴリ「取引先」に含まれる属性値「T社」が付された部分文書集合において、特徴語が「42.0」と算出されており、当該部分文書集合に偏って出現することを知ることができる。   The display means 32 in the user terminal 3 displays the partial feature word for the user (S11). The display means 32 may display the attribute value attached to the partial document set in which the partial feature word appears characteristically together with the partial feature word. For example, when “President Takahashi” is determined as a partial feature word as in the above-described specific example, the display means 32 may display the attribute value “Company T” together with “President Takahashi” to the user. Thus, the user can know that the word “President Takahashi” that appears characteristically in the positive example document set appears biased in the document set with the attribute value “T company”. . Furthermore, the display means 32 may display the attribute category about the attribute value attached | subjected to the partial document set in which a partial feature word characteristically appears with a partial feature word. In the specific example described above, “customer” corresponds to the attribute category for the attribute value “Company T”. An example of the display of the partial feature words by the display means 32 is shown in FIG. The user who sees the display in FIG. 7 calculates the feature word “42.0” in the partial document set to which the feature word “President Takahashi” has the attribute value “Company T” included in the attribute category “business partner”. It is possible to know that it appears biased in the partial document set.

最後に、表示手段32は、正例文書集合における特徴語のうち、部分特徴語と重複しない特徴語をユーザに表示する(S12)。なお、S8において、所定の条件を満たす特徴語がない場合、表示手段32は正例文書集合における全ての特徴語を表示する。   Finally, the display means 32 displays to the user the feature words that do not overlap with the partial feature words among the feature words in the positive example document set (S12). If there is no feature word satisfying the predetermined condition in S8, the display means 32 displays all the feature words in the positive example document set.

また、表示手段32は、部分特徴語と重複のある特徴語を含む、全ての特徴語を同時にユーザに表示しても良い。その場合、特徴語表示手段32は、別の表にして表示する、同一の表に別の目印をつけて表示する、など、部分特徴語と重複のある特徴語とそうでない特徴語を区別できるようにユーザに表示する。   Moreover, the display means 32 may display all feature words including a feature word overlapping with the partial feature word at the same time to the user. In that case, the feature word display means 32 can distinguish between feature words that overlap with partial feature words and feature words that do not, such as displaying them as separate tables or displaying them with different marks on the same table. To the user.

これにより、ユーザは、「高橋社長」が正例文書集合中に偏りなく出現する特徴語ではなく、「取引先」の一つである「T社」についての文書に偏って出現していることを知ることができる。そして、特徴語「高橋社長」と属性カテゴリ「取引先」、属性値「T社」の関係性から、ユーザは「高橋社長」が特定の取引先に個別的な情報であり、目的に適わない特徴語であると判断することができる。   As a result, the user should not appear to be a feature word that “Takahashi President” appears in the collection of positive examples, but rather appear in a document about “Company T”, which is one of the “business partners”. Can know. And because of the relationship between the characteristic word “President Takahashi”, the attribute category “Business Partner”, and the attribute value “Company T”, the user has “President Takahashi” as individual information for a specific business partner and is not suitable for the purpose. It can be determined that it is a feature word.

表示手段32は、部分特徴語と重複しない特徴語のみをユーザに表示するものとしてもよい。すなわち、S11で説明した部分特徴語の表示は行わず、S12で説明したように、部分特徴語と重複しない特徴語の表示のみを行うものとしても良い。これにより、ユーザが正例文書集合中に偏りなく出現する特徴語を有用な情報と捉えている場合は、ユーザはテキストマイニングの目的に沿った特徴語のみを初めから得ることができる。
(第二実施形態)
<第二実施形態の構成>
次に、第二実施形態の構成例について説明する。図8は第二実施形態の構成例を示すブロック図である。本実施形態に係るシステムは、上記第一実施形態と比べると、表示手段32がユーザに表示する特徴語が、入力手段31からの入力により変化する点で異なる。入力手段31は、ユーザが非表示にすべきと判断した特徴語の入力を受け付け、当該特徴語を表示手段32に送信する。表示手段32は、特徴語出力手段23から取得した特徴語のうち、入力手段31から取得した特徴語と重複しない特徴語をユーザに表示する。なお、その他の構成および動作は、第一実施形態と同様のため、入力手段31および表示手段32以外の説明を省略する。
<第二実施形態の動作>
図9は、第二実施形態の動作の例を示すシーケンス図である。図9において、S1〜S11は図2と同様であるので、説明を省略する。
The display means 32 may display only feature words that do not overlap with the partial feature words to the user. That is, the partial feature words described in S11 may not be displayed, and only the feature words that do not overlap with the partial feature words may be displayed as described in S12. As a result, when the user regards feature words that appear without deviation in the collection of positive example documents as useful information, the user can obtain only feature words that meet the purpose of text mining from the beginning.
(Second embodiment)
<Configuration of Second Embodiment>
Next, a configuration example of the second embodiment will be described. FIG. 8 is a block diagram showing a configuration example of the second embodiment. The system according to the present embodiment is different from the first embodiment in that the feature word displayed on the user by the display unit 32 changes depending on the input from the input unit 31. The input unit 31 receives an input of a feature word that the user has determined to be hidden, and transmits the feature word to the display unit 32. The display unit 32 displays a feature word that does not overlap with the feature word acquired from the input unit 31 among the feature words acquired from the feature word output unit 23 to the user. Since other configurations and operations are the same as those in the first embodiment, descriptions other than the input unit 31 and the display unit 32 are omitted.
<Operation of Second Embodiment>
FIG. 9 is a sequence diagram illustrating an example of the operation of the second embodiment. In FIG. 9, S1 to S11 are the same as those in FIG.

ユーザは、表示手段32による部分特徴語の表示を参照し、非表示にすべきと判断した特徴語を入力手段31に入力する(S22)。第一実施形態と同様の具体例を用いて説明すると、ユーザは部分特徴語「高橋社長」とともに、属性値「T社」や属性カテゴリ「取引先」の表示を表示手段32より受ける。表示を受けたユーザは、「高橋社長」と「T社」、「取引先」との関係性を判断し、「高橋社長」が属性値「T社」に個別的な事情を表す情報であり、有用な特徴語でないと判断する。なぜならば、特定の取引先に個別的な情報は、その取引先と関係のない営業所の営業成績向上には資さない情報である可能性が高く、本具体例におけるユーザの目的に適うものでない可能性が高いからである。すると、ユーザは入力手段31に、特徴語「高橋社長」を入力する。入力手段31は、入力された特徴語を表示手段32に送信する。   The user refers to the display of the partial feature words by the display means 32, and inputs the feature words determined to be hidden to the input means 31 (S22). To explain using a specific example similar to the first embodiment, the user receives the display of the attribute value “Company T” and the attribute category “business partner” from the display unit 32 together with the partial feature word “President Takahashi”. The user who received the display judges the relationship between “President Takahashi”, “Company T”, and “Customer”, and “President Takahashi” is information that represents individual circumstances in the attribute value “T Company”. Judge that it is not a useful feature word. This is because information that is specific to a specific business partner is likely to be information that does not contribute to the improvement of sales results at a sales office that is not related to the business partner, and is suitable for the purpose of the user in this specific example. This is because there is a high possibility that it is not. Then, the user inputs the feature word “President Takahashi” to the input means 31. The input unit 31 transmits the input feature word to the display unit 32.

表示手段32による表示および入力手段31による入力の受け付けの一例を図10に示す。表示手段32から図10に示すような部分特徴語の表示を受けたユーザは、入力手段31を用い、非表示としたい「高橋社長」が示された行の右端に設けられたチェックボックスにチェックを入力する。これにより、入力手段31は、ユーザからの特徴語「高橋社長」の入力を受け付ける。   An example of display by the display means 32 and acceptance of input by the input means 31 is shown in FIG. The user who has received the partial feature word display as shown in FIG. 10 from the display means 32 uses the input means 31 and checks the check box provided at the right end of the line indicating “President Takahashi” to be hidden. Enter. Thereby, the input means 31 receives the input of the feature word “President Takahashi” from the user.

表示手段32は、特徴語出力手段23から取得した特徴語のうち、入力手段31から取得した特徴語と重複する特徴語を抽出する(S23)。そして、表示手段32は、重複のない特徴語をユーザに表示する(S24)。   The display unit 32 extracts a feature word that overlaps with the feature word acquired from the input unit 31 from the feature words acquired from the feature word output unit 23 (S23). Then, the display unit 32 displays the feature words without duplication to the user (S24).

第二実施形態では、ユーザが部分特徴語の有用性をその部分特徴語が特徴的に出現する属性値や属性カテゴリより判断し、判断した結果を特徴語抽出の結果に反映させることができる。すなわち、最終的にユーザに表示される特徴語は、第一実施形態よりさらにユーザの意図を反映したものとなる。
(第三実施形態)
<第三実施形態の構成>
次に、第三実施形態の構成例について説明する。図11は第三実施形態の構成例を示すブロック図である。本実施形態に係るシステムは、上記第二実施形態と比べると、非表示属性決定手段13、非表示属性DB14、表示制御手段33を有する点が異なる。
In the second embodiment, the user can determine the usefulness of a partial feature word from the attribute value or attribute category in which the partial feature word appears characteristically, and the determination result can be reflected in the result of feature word extraction. That is, the feature words that are finally displayed to the user reflect the user's intention more than in the first embodiment.
(Third embodiment)
<Configuration of Third Embodiment>
Next, a configuration example of the third embodiment will be described. FIG. 11 is a block diagram illustrating a configuration example of the third embodiment. The system according to the present embodiment is different from the second embodiment in that it includes a non-display attribute determining unit 13, a non-display attribute DB 14, and a display control unit 33.

非表示属性決定手段13は、部分特徴語出力手段11から各特徴語の各部分集合における特徴度の算出結果を取得し、入力手段31からユーザが入力した特徴語を取得する。そして、非表示属性決定手段13は、ユーザが入力した特徴語が特徴的に出現する部分文書集合に付された属性値を非表示属性値として決定する。特徴語が特徴的に出現する部分文書集合とは、すなわち、当該特徴語についての特徴度が所定の条件を満たす値で算出された部分文書集合である。所定の条件とは、前述した部分特徴語決定手段11における部分特徴語の決定に用いた条件である。非表示属性決定手段13における非表示属性決定の条件には、さらに付加的な条件が加えられても良い。例えば、ユーザが複数の特徴語を入力した場合に、それらの特徴語が特徴的に出現する部分文書集合に共通して付されている属性値や、最も多く付されている属性値を、非表示属性決定手段13が非表示属性値として決定することとしても良い。非表示属性決定手段13は、非表示属性を非表示属性DB14に送信し、蓄積させる。   The non-display attribute determining unit 13 acquires the calculation result of the feature degree in each subset of each feature word from the partial feature word output unit 11, and acquires the feature word input by the user from the input unit 31. Then, the non-display attribute determining unit 13 determines an attribute value assigned to the partial document set in which the feature word input by the user appears characteristically as the non-display attribute value. The partial document set in which a feature word appears characteristically is a partial document set calculated with a value satisfying a predetermined condition for the feature degree of the feature word. The predetermined condition is a condition used for determining the partial feature word in the partial feature word determining means 11 described above. An additional condition may be added to the condition for determining the non-display attribute in the non-display attribute determining unit 13. For example, when a user inputs a plurality of feature words, the attribute values that are commonly assigned to the partial document sets in which those feature words appear characteristically or the attribute values that are assigned most frequently are The display attribute determining means 13 may determine the non-display attribute value. The non-display attribute determining unit 13 transmits the non-display attribute to the non-display attribute DB 14 and accumulates it.

非表示属性決定手段13は、非表示属性値に対して重み付けを行っても良い。各非表示属性値への重み付けは、例えば、ユーザが任意に設定する数値でも良いし、各属性値が非表示属性値として決定された回数に応じた数値でも良い。後者の場合は、属性値が非表示属性決定手段13によって非表示属性値と決定される毎に、非表示属性DB14に蓄積された当該属性値の重み付けが更新されるものとしても良い。各非表示属性値への重み付けは、後述する部分特徴語表示手段11および特徴語表示手段33における処理において参照される。   The non-display attribute determining unit 13 may weight the non-display attribute value. The weighting to each non-display attribute value may be a numerical value arbitrarily set by the user, for example, or may be a numerical value corresponding to the number of times each attribute value is determined as the non-display attribute value. In the latter case, each time an attribute value is determined as a non-display attribute value by the non-display attribute determining means 13, the weighting of the attribute value stored in the non-display attribute DB 14 may be updated. The weighting to each non-display attribute value is referred to in processing in the partial feature word display means 11 and the feature word display means 33 described later.

表示制御手段33は、非表示属性DB14を参照し、非表示属性DB14に蓄積されている属性値が付された部分文書集合において特徴的な特徴語を、表示手段32に表示させないよう制御する。これにより、非表示属性値が付された部分文書集合において特徴的な特徴語は、ユーザに表示されない。非表示属性値に重み付けがされている場合は、表示制御手段33は、重み付けが所定の条件を満たす場合のみ、当該重み付けがされた属性値を参照する。所定の条件は、ユーザやシステム設計者が任意に設定でき、例えば「重み付けが1以上」などと設定することができる。この場合、表示制御手段33は「重み付けが1以上」である非表示属性値のみを参照し、当該属性値が付された部分文書集合において特徴的な特徴語を表示手段32に表示させないよう制御する。   The display control unit 33 refers to the non-display attribute DB 14 and controls the display unit 32 not to display characteristic feature words in the partial document set to which the attribute values stored in the non-display attribute DB 14 are attached. As a result, characteristic feature words in the partial document set with the non-display attribute value are not displayed to the user. When the non-display attribute value is weighted, the display control unit 33 refers to the weighted attribute value only when the weight satisfies a predetermined condition. The predetermined condition can be arbitrarily set by the user or the system designer. For example, “the weight is 1 or more” can be set. In this case, the display control unit 33 refers to only the non-display attribute value having “weighting of 1 or more”, and controls the display unit 32 not to display characteristic feature words in the partial document set with the attribute value. To do.

その他の構成および動作は、第二実施形態と同様のため、非表示属性決定手段13、非表示属性DB14、表示制御手段33以外の説明を省略する。
<第三実施形態の動作>
図12および図13は、第三実施形態の動作の例を示すシーケンス図である。
Since other configurations and operations are the same as those in the second embodiment, descriptions other than the non-display attribute determining unit 13, the non-display attribute DB 14, and the display control unit 33 are omitted.
<Operation of Third Embodiment>
12 and 13 are sequence diagrams illustrating an example of the operation of the third embodiment.

図12は、ユーザが入力した非表示特徴語を、非表示属性DB14に登録するまでの処理を示したシーケンス図である。図12に示すS11およびS22は図9と同様であるので、説明を省略する。   FIG. 12 is a sequence diagram showing processing until the non-display feature word input by the user is registered in the non-display attribute DB 14. S11 and S22 shown in FIG. 12 are the same as those in FIG.

部分特徴語出力手段11は、非表示属性決定手段13に対し、各特徴語の各部分集合における特徴度の算出結果を送信する(S31)。非表示属性決定手段13は、各特徴語の各部分集合における特徴度の算出結果およびユーザが入力した特徴語を取得する(S32)。続いて、非表示属性決定手段13は、ユーザが入力した特徴語が特徴的に出現する部分文書集合に付された属性値を非表示属性値として決定する(S33)。具体的には、非表示属性決定手段13は、各特徴語の各部分集合における特徴度の算出結果を参照し、ユーザが入力した特徴語についての特徴度が所定の条件を満たす値で算出された部分文書集合がある場合、当該部分集合に付された属性値を非表示属性値として決定する。前述の実施形態と同様の具体例で説明すると、非表示属性決定手段13は、ユーザが入力した非表示特徴語「高橋社長」が特徴的に出現する部分文書集合に付された属性値「T社」を、非表示属性値として決定する。そして、非表示属性決定手段13は、非表示属性値を非表示属性DB14に送信し、蓄積させる(S34)。なお、非表示属性決定手段13は非表示属性値に対して重み付けを行っても良い。その場合、非表示属性を非表示属性DB14には、非表示属性値と共に各非表示属性値に対応づけられた重み付けが蓄積される。   The partial feature word output means 11 transmits the calculation result of the feature degree in each subset of each feature word to the non-display attribute determination means 13 (S31). The non-display attribute determining unit 13 obtains the calculation result of the degree of feature in each subset of each feature word and the feature word input by the user (S32). Subsequently, the non-display attribute determining unit 13 determines an attribute value assigned to the partial document set in which the feature word input by the user appears characteristically as a non-display attribute value (S33). Specifically, the non-display attribute determining unit 13 refers to the calculation result of the feature value in each subset of each feature word, and the feature value for the feature word input by the user is calculated with a value satisfying a predetermined condition. If there is a partial document set, the attribute value assigned to the partial set is determined as a non-display attribute value. To explain with a specific example similar to that of the above-described embodiment, the non-display attribute determination unit 13 includes the attribute value “T” attached to the partial document set in which the non-display feature word “President Takahashi” input by the user appears characteristically. "Company" is determined as the non-display attribute value. Then, the non-display attribute determining means 13 transmits the non-display attribute value to the non-display attribute DB 14 and accumulates it (S34). Note that the non-display attribute determining unit 13 may weight the non-display attribute value. In this case, the non-display attribute is stored in the non-display attribute DB 14 together with the non-display attribute value and the weight associated with each non-display attribute value.

なお、ユーザが特徴語を入力しない場合は、非表示属性DB14への新たな非表示属性値の蓄積は行われない。   When the user does not input a feature word, no new non-display attribute value is accumulated in the non-display attribute DB 14.

また、非表示属性決定手段13は、属性カテゴリを非表示属性DBに蓄積させても良い。前述の具体例で説明すると、非表示属性決定手段13は、非表示特徴語「高橋社長」が特徴的に出現する部分文書集合に付された属性値の属性カテゴリである「取引先」を、非表示属性カテゴリとして決定し、非表示属性DB14に蓄積しても良い。非表示属性DB14に蓄積される情報の一例を、図14に示す。図14において、非表示属性カテゴリ「取引先」は、重み「1.0」と共に非表示属性DB14に蓄積されている。   Further, the non-display attribute determining unit 13 may accumulate the attribute category in the non-display attribute DB. To explain with the above-described specific example, the non-display attribute determination means 13 sets “customer” as the attribute category of the attribute value attached to the partial document set in which the non-display feature word “President Takahashi” appears characteristically, It may be determined as a non-display attribute category and stored in the non-display attribute DB 14. An example of information stored in the non-display attribute DB 14 is shown in FIG. In FIG. 14, the non-display attribute category “business partner” is stored in the non-display attribute DB 14 together with the weight “1.0”.

図13は、図12に示す処理が終了した後に、再び新たな特徴語抽出処理を開始した場合のシークエンス図を示している。図13において、S1〜S22は図9と同様であるので、説明を省略する。   FIG. 13 shows a sequence diagram when a new feature word extraction process is started again after the process shown in FIG. 12 is completed. In FIG. 13, S1 to S22 are the same as those in FIG.

表示制御手段33は、非表示属性DB14を参照し、非表示属性値が付された部分文書集合において特徴的な部分特徴語を、表示手段32に表示させないよう制御する。これにより、表示手段32は、非表示属性値が付された部分文書集合において特徴的な部分特徴語以外の部分特徴語をユーザに表示する(S40)。非表示属性DB14に非表示属性カテゴリが蓄積されている場合、表示制御手段33は、非表示属性カテゴリに含まれる属性値が付された部分文書集合において特徴的な部分特徴語を、表示手段32に表示させないよう制御する。また、非表示属性値または非表示属性カテゴリに重み付けがされている場合、表示制御手段33は、重み付けが所定の条件を満たす属性値、属性カテゴリのみを参照し、表示手段32の制御を行う。具体的には、例えば表示制御手段33は、部分特徴語出力手段12から図5および図6に示すようなデータを取得し、非表示属性DB14からは図14に示すようなデータを取得する。そして、表示制御手段33は、図14に示される非表示属性カテゴリのうち、重み付けが所定の条件を満たすものを参照する。ユーザが、所定の条件を「重み付けが0.5以上の属性カテゴリ」と設定したとすると、図14より、表示制御手段33は属性カテゴリ「取引先」および「担当者」を参照する。続いて表示制御手段33は、図5および図6に示す各特徴語についての特徴度算出のデータを参照し、属性カテゴリ「取引先」および「担当者」に含まれる属性値が付された部分文書集合において、特徴度が所定の条件を満たす特徴語があるかを判断する。ユーザが、当該所定の条件を「特徴度が5.0以上」と設定したとすると、図5より、特徴語「新規出店」は属性カテゴリ「担当者」に含まれる属性値「小西太郎」が付された部分文書集合において、特徴度が条件を満たす。図6より、特徴語「高橋社長」は属性カテゴリ「取引先」に含まれる属性値「T社」が付された部分文書集合において、特徴度が条件を満たす。よって、表示制御手段33は、特徴語「新規出店」および「高橋社長」の両方を表示手段32に表示させないよう制御する。   The display control unit 33 refers to the non-display attribute DB 14 and controls the display unit 32 not to display characteristic partial feature words in the partial document set to which the non-display attribute value is assigned. Thereby, the display means 32 displays a partial feature word other than a characteristic partial feature word in the partial document set with the non-display attribute value to the user (S40). When the non-display attribute category is accumulated in the non-display attribute DB 14, the display control unit 33 displays the characteristic partial feature words in the partial document set to which the attribute value included in the non-display attribute category is added. Control not to display. When the non-display attribute value or the non-display attribute category is weighted, the display control unit 33 controls the display unit 32 with reference to only the attribute value and the attribute category whose weight satisfies a predetermined condition. Specifically, for example, the display control unit 33 acquires data as shown in FIGS. 5 and 6 from the partial feature word output unit 12 and acquires data as shown in FIG. 14 from the non-display attribute DB 14. Then, the display control means 33 refers to the non-display attribute category shown in FIG. 14 whose weight satisfies a predetermined condition. If the user sets the predetermined condition as “attribute category with weighting of 0.5 or more”, the display control means 33 refers to the attribute categories “business partner” and “person in charge” from FIG. Subsequently, the display control means 33 refers to the feature value calculation data for each feature word shown in FIG. 5 and FIG. 6 and is assigned the attribute values included in the attribute categories “business partner” and “person in charge”. In the document set, it is determined whether there is a feature word whose feature degree satisfies a predetermined condition. If the user sets the predetermined condition as “feature degree is 5.0 or higher”, the characteristic word “new store” is assigned the attribute value “Taro Konishi” included in the attribute category “person in charge” from FIG. In the partial document set, the feature degree satisfies the condition. As shown in FIG. 6, the feature word “President Takahashi” satisfies the feature condition in the partial document set to which the attribute value “Company T” included in the attribute category “customer” is attached. Therefore, the display control means 33 controls the display means 32 not to display both the characteristic words “new store opening” and “president Takahashi”.

また、表示制御手段33は、ユーザが特徴語を入力した場合、入力された特徴語を表示手段32に表示させないよう制御する(S41)。   In addition, when the user inputs a feature word, the display control unit 33 performs control so that the input feature word is not displayed on the display unit 32 (S41).

さらに、表示制御手段33は、非表示属性DB14を参照し、非表示属性DB14に蓄積されている属性値が付された部分文書集合において特徴的な特徴語を、表示手段32に表示させないよう制御する(S42)。非表示属性DB14に非表示属性カテゴリが蓄積されている場合、表示制御手段33は、非表示属性カテゴリに含まれる属性値が付された部分文書集合において特徴的な部分特徴語を、表示手段32に表示させないよう制御する。また、非表示属性値または非表示属性カテゴリに重み付けがされている場合、表示制御手段33は、重み付けが所定の条件を満たす属性値、属性カテゴリのみを参照し、表示手段32の制御を行う。これにより、最終的にユーザに表示される特徴語は、S41およびS42で表示対象から除外されなかった特徴語となる。   Further, the display control means 33 refers to the non-display attribute DB 14 and controls the display means 32 not to display characteristic feature words in the partial document set to which the attribute values stored in the non-display attribute DB 14 are attached. (S42). When the non-display attribute category is accumulated in the non-display attribute DB 14, the display control unit 33 displays the characteristic partial feature words in the partial document set to which the attribute value included in the non-display attribute category is added. Control not to display. When the non-display attribute value or the non-display attribute category is weighted, the display control unit 33 controls the display unit 32 with reference to only the attribute value and the attribute category whose weight satisfies a predetermined condition. Thereby, the feature words finally displayed to the user are the feature words that have not been excluded from the display target in S41 and S42.

第三実施形態では、ユーザが入力した非表示特徴語の情報を、次回以降の新たな特徴語抽出処理にフィードバックすることができる。すなわち、ユーザが目的に適わないと判断した特徴語が偏って出現する属性値や属性カテゴリをシステムが記憶し、次回以降の処理では自動的にそれらの属性値に特徴的な特徴語を除くことができる。例えば、ユーザは、「T社」という特定の取引先に特徴的な特徴語が不要であれば、属性値「T社」を非表示属性値に設定し、いずれの取引先に特徴的な特徴的であっても不要である場合は、属性カテゴリ「取引先」を非表示属性カテゴリに設定すれば良い。これにより、本実施形態では、第二実施形態よりさらに簡便な操作でユーザの意図を反映した特徴語を提供できる。
(第四実施形態)
<第四実施形態の構成>
第四実施形態の構成例について説明する。図15は第四実施形態の構成例を示すブロック図である。
In the third embodiment, information about non-display feature words input by the user can be fed back to a new feature word extraction process after the next time. In other words, the system stores attribute values and attribute categories in which feature words that the user has determined to be unsuitable for use appear unevenly, and the feature words that are characteristic for those attribute values are automatically removed in the subsequent processing. Can do. For example, if a characteristic word that is characteristic for a specific business partner “Company T” is unnecessary, the user sets the attribute value “Company T” as a hidden attribute value, and a characteristic characteristic for any business partner. If the target category is unnecessary, the attribute category “business partner” may be set to the non-display attribute category. Thereby, in this embodiment, the feature word reflecting a user's intention can be provided by simpler operation than 2nd embodiment.
(Fourth embodiment)
<Configuration of Fourth Embodiment>
A configuration example of the fourth embodiment will be described. FIG. 15 is a block diagram showing a configuration example of the fourth embodiment.

部分特徴語抽出システム1は、部分特徴語決定手段11と、部分特徴語出力手段12とを含む。部分特徴語決定手段11は、文書集合を、当該文書集合を構成する文書に付された属性値ごとに分割し、部分文書集合を生成する。その後、部分特徴語決定手段11は、文書集合における特徴語を取得し、各部分文書集合ごとに、特徴語の特徴度を算出する。部分特徴語決定手段11は、特定の部分文書集合において所定の条件を満たす特徴度が算出された特徴語がある場合、その特徴語を部分特徴語として決定する。所定の条件とは、例えば「部分特徴語決定手段11が算出した他の特徴度のいずれと比較しても差分が3以上で大きい」「部分特徴語決定手段11が算出した他の特徴度のうち少なくとも一つと比較して差分が5以上で大きい」などが挙げられる。部分特徴語出力手段12は、部分特徴語決定手段11から部分特徴語を取得し、出力する。なお、部分特徴語決定手段11と部分特徴語出力手段12とは別々のハードウェア装置により実現されても良い。   The partial feature word extraction system 1 includes a partial feature word determination unit 11 and a partial feature word output unit 12. The partial feature word determining unit 11 divides the document set for each attribute value attached to the document constituting the document set, and generates a partial document set. Thereafter, the partial feature word determination unit 11 acquires the feature words in the document set, and calculates the feature degree of the feature word for each partial document set. The partial feature word determination unit 11 determines a feature word as a partial feature word when there is a feature word for which a characteristic degree satisfying a predetermined condition is calculated in a specific partial document set. The predetermined condition is, for example, “a difference is 3 or larger compared to any of the other feature degrees calculated by the partial feature word determining unit 11” and “of other feature degrees calculated by the partial feature word determining unit 11 The difference is 5 or more compared to at least one of them. ” The partial feature word output unit 12 acquires the partial feature word from the partial feature word determination unit 11 and outputs it. The partial feature word determining unit 11 and the partial feature word output unit 12 may be realized by separate hardware devices.

これにより、ユーザは、正例文書集合を構成する一部の文書に偏って出現する特徴語をそうでない特徴語と区別することができるため、テキストマイニングの目的に適った特徴語を容易に得ることができる。   This allows the user to distinguish feature words that appear biased in some of the documents that constitute the positive document set from feature words that do not, and thus easily obtain feature words suitable for the purpose of text mining. be able to.

次に、第四実施形態のハードウェア構成について、図16を用いて説明する。CPU41は演算制御用のプロセッサであり、プログラムを実行することで本発明の各機能手段を実現する。ROM42は、初期データ及びプログラムなどの固定データ及びプログラムを記憶する。通信制御部43は、ネットワークを介して外部装置と通信する。なお、本部分特徴語抽出システム1は、通信制御部43を介してユーザが利用するPCやユーザ端末、他のシステムとの情報のやり取りを行う。RAM44は、CPU41が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM44には、本実施形態の実現に必要な種々のデータを記憶する容量が確保される。記憶部45は、本実施形態の実現に必要なデータベース等のデータや、CPU41が実行するアプリケーションプログラムを、不揮発に記憶する。   Next, the hardware configuration of the fourth embodiment will be described with reference to FIG. The CPU 41 is a processor for arithmetic control, and implements each functional unit of the present invention by executing a program. The ROM 42 stores fixed data and programs such as initial data and programs. The communication control unit 43 communicates with an external device via a network. The partial feature word extraction system 1 exchanges information with a PC, a user terminal, and other systems used by the user via the communication control unit 43. The RAM 44 is a random access memory that the CPU 41 uses as a work area for temporary storage. The RAM 44 has a capacity for storing various data necessary for realizing the present embodiment. The storage unit 45 stores data such as a database necessary for realizing the present embodiment and an application program executed by the CPU 41 in a nonvolatile manner.

また、各実施形態にて説明した、各システムおよび端末間の情報の送受信は、通信ネットワークを介して行われる。通信は無線でも有線でも良い。各システムおよび端末間の通信ネットワークは、インターネット等の同一のネットワークでも良い
上述した各実施形態は本発明を具体化した一例に過ぎず、請求の範囲に記載された本発明の趣旨の範囲内であれば、種々変更することができるものである。
Moreover, transmission / reception of information between each system and the terminal demonstrated in each embodiment is performed via a communication network. Communication may be wireless or wired. The communication network between each system and terminal may be the same network such as the Internet. Each of the above-described embodiments is merely an example embodying the present invention, and within the scope of the gist of the present invention described in the claims. If there are, various changes can be made.

1 部分特徴語抽出システム
2 特徴語抽出システム
3 ユーザ端末
11 部分特徴語決定手段
12 部分特徴語出力手段
13 非表示属性決定手段
14 非表示属性DB
21 文書集合DB
22 特徴語決定手段
23 特徴語出力手段
31 入力手段
32 表示手段
33 表示制御手段
41 CPU
42 ROM
43 通信制御部
44 RAM
45 記憶部
DESCRIPTION OF SYMBOLS 1 Partial feature word extraction system 2 Feature word extraction system 3 User terminal 11 Partial feature word determination means 12 Partial feature word output means 13 Non-display attribute determination means 14 Non-display attribute DB
21 Document collection DB
22 feature word determination means 23 feature word output means 31 input means 32 display means 33 display control means 41 CPU
42 ROM
43 Communication control unit 44 RAM
45 storage unit

Claims (10)

文書集合における特徴語のうち、
前記文書集合の部分文書集合における特徴度と、少なくとも一つの他の部分文書集合における特徴度との差が所定値以上である部分文書集合の特徴語、または前記文書集合の部分文書集合における特徴度が所定値以上である部分文書集合の特徴語を、部分特徴語として決定する部分特徴語決定手段と、
前記部分特徴語決定手段から取得した前記部分特徴語を出力する部分特徴語出力手段と、
を備える情報処理システム。
Among the feature words in the document set,
A feature word of a partial document set in which a difference between a feature value in the partial document set of the document set and a feature value in at least one other partial document set is a predetermined value or more, or a feature value in the partial document set of the document set A partial feature word determining means for determining, as a partial feature word, a feature word of a partial document set whose is equal to or greater than a predetermined value;
Partial feature word output means for outputting the partial feature word acquired from the partial feature word determination means;
An information processing system comprising:
前記文書集合における特徴語のうち、前記部分特徴語出力手段から取得した前記部分特徴語と重複する特徴語以外を表示する表示手段
を備える請求項1記載の情報処理システム。
The information processing system according to claim 1, further comprising: a display unit configured to display a feature word in the document set other than the feature word overlapping the partial feature word acquired from the partial feature word output unit.
前記部分特徴語出力手段から取得した前記部分特徴語を表示する表示手段
を備える請求項1記載の情報処理システム。
The information processing system according to claim 1, further comprising display means for displaying the partial feature words acquired from the partial feature word output means.
前記部分文書集合は、前記文書集合を構成する文書のうち、共通の属性値が付された文書を集めて生成される
請求項1乃至3記載の情報処理システム。
The information processing system according to any one of claims 1 to 3, wherein the partial document set is generated by collecting documents having common attribute values among documents constituting the document set.
前記表示手段は、前記部分特徴語が特徴的に出現する部分文書集合を成す文書に共通して付されている属性値又は当該属性値を分類する属性カテゴリを表示する
請求項4記載の情報処理システム。
The information processing unit according to claim 4, wherein the display unit displays an attribute value commonly assigned to documents forming a partial document set in which the partial feature word appears characteristically or an attribute category for classifying the attribute value. system.
ユーザが任意の特徴語を入力する入力手段を備え、
前記表示手段は、前記文書集合における特徴語のうち、前記入力手段から取得した特徴語と重複する特徴語以外を表示する
請求項2乃至5記載の情報処理システム。
An input means for a user to input an arbitrary feature word is provided,
The information processing system according to claim 2, wherein the display unit displays a feature word other than the feature word that overlaps the feature word acquired from the input unit among the feature words in the document set.
前記入力手段から取得した特徴語が特徴的に出現する部分文書集合を成す文書に共通して付されている属性値のうち、所定の条件を満たす属性値を非表示属性値として決定する非表示属性決定手段と、
前記非表示属性値を登録する非表示属性データベースを備え、
前記表示手段は、前記文書集合における特徴語のうち、前記非表示属性データベースに登録されている属性値が付された文書から成る部分文書集合において特徴的に出現する特徴語以外を表示する
請求項6記載の情報処理システム。
Non-display for determining, as a non-display attribute value, an attribute value satisfying a predetermined condition among attribute values commonly assigned to documents that form a partial document set in which a feature word acquired from the input unit appears characteristically Attribute determination means;
A hidden attribute database for registering the hidden attribute value;
The display unit displays, among feature words in the document set, features other than feature words that appear characteristically in a partial document set composed of documents with attribute values registered in the non-display attribute database. 6. The information processing system according to 6.
前記入力手段から取得した特徴語が特徴的に出現する部分文書集合を成す文書に共通して付されている属性値が分類される属性カテゴリのうち、所定の条件を満たす属性カテゴリを非表示属性カテゴリとして決定する非表示属性決定手段と、
前記非表示属性カテゴリを登録する非表示属性データベースを備え、
前記表示手段は、前記文書集合における特徴語のうち、前記非表示属性データベースに登録されている非表示属性カテゴリに分類される属性値が付された文書から成る部分文書集合において特徴的に出現する特徴語以外を表示する
請求項6または7記載の情報処理システム。
Among the attribute categories in which attribute values commonly assigned to the documents that form a partial document set in which the feature words acquired from the input unit characteristically appear are classified, the attribute categories that satisfy a predetermined condition are not displayed. A non-display attribute determining means for determining as a category,
A hidden attribute database for registering the hidden attribute category;
The display means characteristically appears in a partial document set composed of documents with attribute values classified into a non-display attribute category registered in the non-display attribute database among characteristic words in the document set. The information processing system according to claim 6 or 7, wherein information other than the characteristic words is displayed.
文書集合における特徴語のうち、
前記文書集合の部分文書集合における特徴度と、少なくとも一つの他の部分文書集合における特徴度との差が所定値以上である部分文書集合の特徴語、または前記文書集合の部分文書集合における特徴度が所定値以上である部分文書集合の特徴語を、部分特徴語として決定する部分特徴語決定処理と、
前記部分特徴語決定手段から取得した前記部分特徴語を出力する部分特徴語出力処理と、
をコンピュータに実行させる情報処理プログラム。
Among the feature words in the document set,
A feature word of a partial document set in which a difference between a feature value in the partial document set of the document set and a feature value in at least one other partial document set is a predetermined value or more, or a feature value in the partial document set of the document set A partial feature word determination process for determining, as a partial feature word, a feature word of a partial document set whose is equal to or greater than a predetermined value;
A partial feature word output process for outputting the partial feature word acquired from the partial feature word determination means;
An information processing program that causes a computer to execute.
コンピュータが、
文書集合における特徴語のうち、
前記文書集合の部分文書集合における特徴度と、少なくとも一つの他の部分文書集合における特徴度との差が所定値以上である部分文書集合の特徴語、または前記文書集合の部分文書集合における特徴度が所定値以上である部分文書集合の特徴語を、部分特徴語として決定し、
決定した前記部分特徴語を出力する、
情報処理方法。
Computer
Among the feature words in the document set,
A feature word of a partial document set in which a difference between a feature value in the partial document set of the document set and a feature value in at least one other partial document set is a predetermined value or more, or a feature value in the partial document set of the document set Determine a feature word of a partial document set whose is greater than or equal to a predetermined value as a partial feature word,
Outputting the determined partial feature word;
Information processing method.
JP2014214334A 2014-10-21 2014-10-21 Information processing system, information processing program, and information processing method Expired - Fee Related JP6455068B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014214334A JP6455068B2 (en) 2014-10-21 2014-10-21 Information processing system, information processing program, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014214334A JP6455068B2 (en) 2014-10-21 2014-10-21 Information processing system, information processing program, and information processing method

Publications (2)

Publication Number Publication Date
JP2016081412A JP2016081412A (en) 2016-05-16
JP6455068B2 true JP6455068B2 (en) 2019-01-23

Family

ID=55958730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014214334A Expired - Fee Related JP6455068B2 (en) 2014-10-21 2014-10-21 Information processing system, information processing program, and information processing method

Country Status (1)

Country Link
JP (1) JP6455068B2 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001318939A (en) * 2000-05-09 2001-11-16 Hitachi Ltd Document processing method and apparatus, and medium storing processing program thereof
JP2006099423A (en) * 2004-09-29 2006-04-13 Hitachi Software Eng Co Ltd Text mining server and program
WO2011071174A1 (en) * 2009-12-10 2011-06-16 日本電気株式会社 Text mining method, text mining device and text mining program

Also Published As

Publication number Publication date
JP2016081412A (en) 2016-05-16

Similar Documents

Publication Publication Date Title
CN105934755B (en) Enhance search results with social tags
US10621281B2 (en) Populating values in a spreadsheet using semantic cues
CN105068993B (en) A method of assessment text difficulty
US8977586B2 (en) System and method for prioritizing resumes based on a job description
US9218568B2 (en) Disambiguating data using contextual and historical information
US20140195897A1 (en) Text Summarization
EP2517156A1 (en) System and method for determining sentiment expressed in documents
JP2010079657A (en) Information processor, information processing method, and program
JP6573321B2 (en) Information processing apparatus, information processing method, and program
Wang et al. A machine learning analysis of Twitter sentiment to the Sandy Hook shootings
JP2015026388A (en) Business relationship map generation system and program
JP2016167168A (en) Access analysis image providing device, access analysis image providing method and program
CN116091113A (en) Marketing model data processing method, system and computer readable storage medium
CN105096023A (en) System and method for pushing data relevant to working standard
CN109242403A (en) A kind of demand management method and computer equipment
US10353927B2 (en) Categorizing columns in a data table
US20190347295A1 (en) Display apparatus and display method
JP2014041466A (en) Web server system, response control method, and program
JP6455068B2 (en) Information processing system, information processing program, and information processing method
JP5265597B2 (en) Document quality evaluation system and document quality evaluation program
US11301636B2 (en) Analyzing resumes and highlighting non-traditional resumes
JP2019096019A (en) Information analysis system
JP5223671B2 (en) Text mining device, text mining method, and text mining program
JP5368900B2 (en) Information presenting apparatus, information presenting method, and program
JP2009140362A (en) Security level evaluation apparatus and security level evaluation program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181203

R150 Certificate of patent or registration of utility model

Ref document number: 6455068

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees