Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7633522B2 - 情報処理プログラム、情報処理方法、および情報処理装置 - Google Patents
[go: Go Back, main page]

JP7633522B2 - 情報処理プログラム、情報処理方法、および情報処理装置 - Google Patents

情報処理プログラム、情報処理方法、および情報処理装置 Download PDF

Info

Publication number
JP7633522B2
JP7633522B2 JP2021124759A JP2021124759A JP7633522B2 JP 7633522 B2 JP7633522 B2 JP 7633522B2 JP 2021124759 A JP2021124759 A JP 2021124759A JP 2021124759 A JP2021124759 A JP 2021124759A JP 7633522 B2 JP7633522 B2 JP 7633522B2
Authority
JP
Japan
Prior art keywords
word
feature
information processing
target document
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021124759A
Other languages
English (en)
Other versions
JP2023019784A (ja
Inventor
幸太 山越
俊一 大日方
直弘 岸下
謙太郎 田中
航太 穴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2021124759A priority Critical patent/JP7633522B2/ja
Publication of JP2023019784A publication Critical patent/JP2023019784A/ja
Application granted granted Critical
Publication of JP7633522B2 publication Critical patent/JP7633522B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、情報処理プログラム、情報処理方法、および情報処理装置に関する。
従来、文書の特徴を表す特徴語を文書から抽出する技術がある。例えば、TF(Term Frequency)-IDF(Inverse Document Frequency)と呼ばれる、複数の文書のうちの対象の文書の特徴語を抽出する技術がある。例えば、文書を検索し易くするため、文書にタグを付与しようとする場合、文書の特徴語を抽出し、タグとして採用することがある。
先行技術としては、例えば、Webページのレイアウトを解析して、Webページに含まれるセクションを抽出し、各セクションの用途種別を判定し、基本文字列が出現するセクションの用途種別に応じた重み付けをして重要度を計算するものがある。また、例えば、元文書を分割した頁文書を生成し、頁文書の文書情報を設定し、頁文書の本文テキストからタグを抽出し、当該タグを文書情報に設定する技術がある。
特開2008-262506号公報 特開2018-195305号公報
しかしながら、従来技術では、文書の特徴語を精度よく抽出することが難しい。例えば、TF-IDFを用いて、複数の文書のうちの対象の文書の特徴語を抽出する場合がある。この場合、対象の文書の各ページのヘッダまたはフッタに共通して出現する特徴的ではない語句が、対象の文書において出現頻度が比較的高い語句となってしまい、誤って特徴語として抽出されることがある。
1つの側面では、本発明は、文書の特徴語を精度よく抽出することを目的とする。
1つの実施態様によれば、対象の文書を特定の条件に従って分割した複数の部分を取得し、取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する情報処理プログラム、情報処理方法、および情報処理装置が提案される。
一態様によれば、文書の特徴語を精度よく抽出することが可能になる。
図1は、実施の形態にかかる情報処理方法の一実施例を示す説明図である。 図2は、情報処理システム200の一例を示す説明図である。 図3は、情報処理装置100のハードウェア構成例を示すブロック図である。 図4は、全体頻度管理テーブル400の記憶内容の一例を示す説明図である。 図5は、部分頻度管理テーブル500の記憶内容の一例を示す説明図である。 図6は、重要単語管理テーブル600の記憶内容の一例を示す説明図である。 図7は、情報処理装置100の機能的構成例を示すブロック図である。 図8は、情報処理装置100の動作の流れを示す説明図である。 図9は、情報処理装置100の動作の一例を示す説明図(その1)である。 図10は、情報処理装置100の動作の一例を示す説明図(その2)である。 図11は、情報処理装置100の動作の一例を示す説明図(その3)である。 図12は、全体処理手順の一例を示すフローチャートである。 図13は、部分処理手順の一例を示すフローチャートである。 図14は、第1生成処理手順の一例を示すフローチャートである。 図15は、第2生成処理手順の一例を示すフローチャートである。
以下に、図面を参照して、本発明にかかる情報処理プログラム、情報処理方法、および情報処理装置の実施の形態を詳細に説明する。
(実施の形態にかかる情報処理方法の一実施例)
図1は、実施の形態にかかる情報処理方法の一実施例を示す説明図である。情報処理装置100は、文書の特徴を表す特徴語を当該文書の中から抽出するためのコンピュータである。
ここで、例えば、文書を検索し易くするため、文書にタグを付与しようとする場合、文書の特徴語を抽出し、タグとして採用することが望まれる場合がある。
これに対し、従来では、TF-IDFと呼ばれる技術を用いて、複数の文書のうちの対象の文書の特徴語が抽出される。具体的には、対象の文書に出現するそれぞれの単語について、対象の文書の特徴を表す特徴語としての尤度=TF×IDFを算出し、算出した尤度が閾値以上である単語を、対象の文書の特徴語として抽出することがある。
ある単語に関するTFは、対象の文書における当該単語の出現頻度に基づく評価値である。ある単語に関するTFは、対象の文書において当該単語がどの程度重要であるのかを示す。具体的には、第1の単語に関するTFは、対象の文書における第1の単語の出現回数/対象の文書におけるすべての単語の出現回数の合計である。具体的には、第1の単語に関するTFは、対象の文書において第1の単語が多く出現するほど、値が大きくなり、対象の文書において第1の単語の重要度が高いことを示す。このため、ある単語に関するTFが大きく、対象の文書において当該単語の重要度が高いと判断されるほど、当該単語の尤度=TF×IDFが大きくなり易い。
ある単語に関するIDFは、対象の文書を含む複数の文書のうち当該単語が出現する文書の数に基づく評価値である。ある単語に関するIDFは、当該単語がどの程度汎用的であるのかを示す。具体的には、第1の単語に関するIDFは、log(文書の総数/第1の単語が出現する文書の数)である。具体的には、第1の単語に関するIDFは、第1の単語が出現する文書が多いほど、値が小さくなり、第1の単語が汎用的であり、特徴的ではないことを示し、対象の文書において第1の単語の重要度が低いことを示す。このため、ある単語に関するIDFが小さく、対象の文書において当該単語の重要度が低いと判断されるほど、当該単語の尤度=TF×IDFが小さくなり易い。
このように、従来では、それぞれ異なる2つの観点から、対象の文書に出現するそれぞれの単語について、対象の文書の特徴語としての尤度=TF×IDFを算出することにより、対象の文書の特徴語を抽出する精度の向上を図ることになる。
しかしながら、従来では、対象の文書の特徴語を精度よく抽出することが難しい場合がある。例えば、ある単語が、対象の文書における重要度が比較的低く、対象の文書の特徴語として不適切な単語であっても、対象の文書において比較的多く出現するため、対象の文書の特徴語として抽出されてしまう場合が考えられる。
不適切な単語は、例えば、対象の文書のうちの定型文に含まれている場合が考えられる。不適切な単語は、例えば、対象の文書の元になった雛型の文書に含まれており、対象の文書に残っている場合が考えられる。不適切な単語は、例えば、対象の文書のうち、対象の文書の主題と関わらない付帯的な部分に含まれている場合が考えられる。
具体的には、対象の文書において、対象の文書の特徴語として不適切な単語を含む定型文が複数回出現すると、当該単語が、対象の文書において比較的多く出現すると判断され、誤って対象の文書の特徴語として抽出されることになる。定型文は、例えば、対象の文書のヘッダまたはフッタに含まれる。より具体的には、対象の文書の特徴語として不適切な単語が、対象の文書において比較的多く出現すると、当該単語に関するTFが大きくなり、当該単語に関する尤度=TF×IDFが大きくなるため、誤って対象の文書の特徴語として抽出されることになる。
そこで、本実施の形態では、対象の文書の特徴語を精度よく抽出することができる情報処理方法について説明する。
図1において、(1-1)情報処理装置100は、対象の文書110を特定の条件に従って分割した複数の部分111を取得する。対象の文書110は、例えば、複数のページを含む。対象の文書110は、ページ単位で区切られていなくてもよい。対象の文書110は、汎用的であり特徴的ではない語句を比較的多く含むことがある。図1の例では、特徴的ではない語句は、具体的には、対象の文書110の各ページのフッタに含まれるCopyrightなどの語句である。特定の条件は、例えば、ページ区切りを基準に対象の文書110を分割することを示す。特定の条件は、例えば、特定のキーワードを基準に対象の文書110を分割することを示していてもよい。
情報処理装置100は、例えば、対象の文書110を特定の条件に従って分割することにより、対象の文書110を分割した複数の部分111を取得する。図1の例では、情報処理装置100は、具体的には、対象の文書110を分割した複数の部分111-iを取得する。図1の例では、i=1~4である。これにより、情報処理装置100は、対象の文書110に比較的多く含まれる特徴的ではない語句を、それぞれ比較的少量ずつ含む複数の部分111を取得することができる。情報処理装置100は、汎用的であり特徴的ではない語句が、対象の文書110に比較的多く出現していても、部分111を基準とすれば、特徴的な語句ではないと正しく評価し易くすることができる。
(1-2)情報処理装置100は、取得した複数の部分111のそれぞれの部分111の中から、当該部分111の特徴を表す特徴語を抽出する。情報処理装置100は、例えば、それぞれの部分111に含まれるそれぞれの語句についての、当該部分111の特徴を表す特徴語としての第1の尤度に基づいて、それぞれの部分111の中から、当該部分111の特徴を表す特徴語を抽出する。第1の尤度は、例えば、部分111における語句に関するTF×IDFである。情報処理装置100は、それぞれの部分111から抽出した特徴語の一覧121を生成する。
図1の例では、情報処理装置100は、具体的には、それぞれの部分111-iの中から、当該部分111-iの特徴を表す特徴語を抽出し、抽出した特徴語の一覧121-iを生成する。図1の例では、i=1~4である。これにより、情報処理装置100は、汎用的であり特徴的ではない語句が、対象の文書110に比較的多く出現していても、部分111を基準として、特徴的な語句ではないと正しく評価し、部分111の特徴を表す特徴語を抽出することができる。
(1-3)情報処理装置100は、抽出した特徴語を纏めた特徴語集合の中から、対象の文書110の特徴を表す特徴語を決定する。特徴語集合は、例えば、抽出した特徴語を重複なく集めることにより得られる。情報処理装置100は、特徴語集合に含まれるそれぞれの特徴語についての、対象の文書110の特徴を表す特徴語としての第2の尤度に基づいて、特徴語集合の中から、対象の文書110の特徴を表す特徴語を決定する。情報処理装置100は、例えば、決定した特徴語の一覧130を出力する。情報処理装置100は、具体的には、決定した特徴語の一覧130を、対象の文書110に対応付けて記憶する。
これにより、情報処理装置100は、対象の文書110の特徴を表す特徴語を精度よく決定することができる。情報処理装置100は、例えば、部分111を基準として、対象の文書110に比較的多く出現する、汎用的であり特徴的ではない語句を、対象の文書110の特徴を表す特徴語の候補から除外することができる。そして、情報処理装置100は、例えば、汎用的であり特徴的ではない語句を、対象の文書110の特徴を表す特徴語の候補から除外してから、対象の文書110の特徴を表す特徴語を決定することができる。このため、情報処理装置100は、対象の文書110の特徴を表す特徴語を決定する精度の向上を図ることができる。
情報処理装置100は、さらに、記憶した特徴語の一覧130に基づいて、複数の文書の中から指定の条件を満たす文書を検索するサービスを、利用者に提供してもよい。情報処理装置100は、具体的には、利用者の操作入力に基づき、条件の指定を受け付け、指定の条件に基づき、指定の条件を満たす文書を検索する。そして、情報処理装置100は、検索した文書と共に、当該文書に対応付けられた特徴語の一覧130を、ディスプレイに表示することにより、複数の文書の中から指定の条件を満たす文書を検索するサービスを、利用者に提供する。これにより、情報処理装置100は、特徴語の一覧130に基づき、検索した文書が、どのような内容の文書であるのかを、利用者が把握し易くすることができる。
ここでは、情報処理装置100が、対象の文書110を特定の条件に従って分割することにより、対象の文書110を分割した複数の部分111を取得する場合について説明したが、これに限らない。例えば、情報処理装置100が、対象の文書110を特定の条件に従って分割する他のコンピュータから、対象の文書110を分割した複数の部分111を受信する場合があってもよい。
ここでは、情報処理装置100が、検索した文書と共に、当該文書に対応付けられた特徴語の一覧130を、ディスプレイに表示し、複数の文書の中から指定の条件を満たす文書を検索するサービスを利用者に提供する場合について説明したが、これに限らない。例えば、情報処理装置100が、検索した文書と共に、当該文書に対応付けられた特徴語の一覧130を、他のコンピュータに送信し、複数の文書の中から指定の条件を満たす文書を検索するサービスを、利用者に提供する場合があってもよい。
ここでは、情報処理装置100が、複数の文書の中から指定の条件を満たす文書を検索するサービスを利用者に提供する場合について説明したが、これに限らない。例えば、情報処理装置100が、文書の要約文を作成するサービスを利用者に提供する場合があってもよい。この場合、情報処理装置100は、文書の特徴語を決定し、文書の特徴語を用いて文書の要約文を作成する。
このように、情報処理装置100は、単独で動作していてもよいし、他のコンピュータと協働していてもよい。情報処理装置100が、他のコンピュータと協働する場合の一例については、具体的には、図2を用いて後述する。
(情報処理システム200の一例)
次に、図2を用いて、図1に示した情報処理装置100を適用した、情報処理システム200の一例について説明する。
図2は、情報処理システム200の一例を示す説明図である。図2において、情報処理システム200は、情報処理装置100と、文書蓄積装置201と、クライアント装置202とを含む。
情報処理システム200において、情報処理装置100と文書蓄積装置201は、有線または無線のネットワーク210を介して接続される。ネットワーク210は、例えば、LAN(Local Area Network)、WAN(Wide Area Network)、インターネットなどである。また、情報処理システム200において、情報処理装置100とクライアント装置202とは、有線または無線のネットワーク210を介して接続される。
情報処理装置100は、文書を検索するサービスを提供するコンピュータである。文書は、例えば、論文、提案書、設計資料、契約書、または、新聞記事などである。情報処理装置100は、文書蓄積装置201から、複数の文書を取得する。情報処理装置100は、取得した複数の文書のそれぞれの文書に出現するそれぞれの単語について、当該文書におけるTF×IDFを算出し、図4に後述する全体頻度管理テーブル400に記憶する。
情報処理装置100は、複数の文書のそれぞれの文書を特定の条件に従って分割することにより、当該文書を分割した複数の部分を取得する。情報処理装置100は、複数の文書のそれぞれの文書を分割した複数の部分を、文書蓄積装置201から受信することにより取得してもよい。情報処理装置100は、複数の部分のそれぞれの部分に出現するそれぞれの単語について、当該部分におけるTF×IDFを算出し、図5に後述する部分頻度管理テーブル500に記憶する。
情報処理装置100は、図4および図5に後述する各種テーブルを参照して、複数の文書のそれぞれの文書の特徴を表す特徴語を決定し、当該文書と対応付けて、図6に後述する重要単語管理テーブル600に記憶する。文書の特徴を表す特徴語は、例えば、当該文書のタグとなり得る。
情報処理装置100は、文書を検索する条件を、クライアント装置202から受信する。条件は、例えば、文書が特定のキーワードを含むことである。条件は、例えば、文書が特定の特徴語に対応付けられていることであってもよい。情報処理装置100は、複数の文書の中から、受信した条件を満たす1以上の文書を検索する。情報処理装置100は、重要単語管理テーブル600を参照して、検索した1以上の文書のそれぞれの文書に対応付けられた特徴語を取得する。
情報処理装置100は、検索した1以上の文書のそれぞれの文書と、当該文書に対応付けられた特徴語とを、クライアント装置202に送信する。情報処理装置100は、例えば、サーバ、または、PC(Personal Computer)などである。
文書蓄積装置201は、文書を蓄積するコンピュータである。文書蓄積装置201は、文書を検索するサービスの管理者の操作入力に基づき、文書の入力を受け付け、入力を受け付けた文書を蓄積する。文書蓄積装置201は、他のコンピュータから、文書を収集することにより蓄積してもよい。文書蓄積装置201は、蓄積した複数の文書を、情報処理装置100に提供する。文書蓄積装置201は、さらに、蓄積した複数の文書のそれぞれの文書を特定の条件に従って分割することにより、当該文書を分割した複数の部分を生成して情報処理装置100に提供してもよい。文書蓄積装置201は、例えば、サーバ、または、PCなどである。
クライアント装置202は、文書を検索するサービスの利用者によって用いられるコンピュータである。クライアント装置202は、利用者の操作入力に基づき、文書を検索する条件を、情報処理装置100に送信する。クライアント装置202は、検索された1以上の文書のそれぞれの文書と、当該文書に対応付けられた特徴語とを、情報処理装置100から受信する。
クライアント装置202は、検索された1以上の文書のそれぞれの文書と、当該文書に対応付けられた特徴語とを、利用者が参照可能に出力する。クライアント装置202は、例えば、検索された1以上の文書のそれぞれの文書と、当該文書に対応付けられた特徴語とを、ディスプレイに表示する。クライアント装置202は、例えば、PC、タブレット端末、または、スマートフォンなどである。
ここで、文書を検索するサービスは、例えば、それぞれ文書となる複数の提案書の中から、利用者が指定する時期、トレンド、または、ターゲット層などの条件を満たす提案書を検索する用途などに適用される。
ここでは、情報処理装置100と、文書蓄積装置201とが異なる装置である場合について説明したが、これに限らない。例えば、情報処理装置100が、文書蓄積装置201としての機能を有し、文書蓄積装置201としても動作する場合があってもよい。ここでは、情報処理装置100と、クライアント装置202とが異なる装置である場合について説明したが、これに限らない。例えば、情報処理装置100が、クライアント装置202としての機能を有し、クライアント装置202としても動作する場合があってもよい。
(情報処理装置100のハードウェア構成例)
次に、図3を用いて、情報処理装置100のハードウェア構成例について説明する。
図3は、情報処理装置100のハードウェア構成例を示すブロック図である。図3において、情報処理装置100は、CPU(Central Processing Unit)301と、メモリ302と、ネットワークI/F(Interface)303と、記録媒体I/F304と、記録媒体305とを有する。また、各構成部は、バス300によってそれぞれ接続される。
ここで、CPU301は、情報処理装置100の全体の制御を司る。メモリ302は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)およびフラッシュROMなどを有する。具体的には、例えば、フラッシュROMやROMが各種プログラムを記憶し、RAMがCPU301のワークエリアとして使用される。メモリ302に記憶されるプログラムは、CPU301にロードされることにより、コーディングされている処理をCPU301に実行させる。
ネットワークI/F303は、通信回線を通じてネットワーク210に接続され、ネットワーク210を介して他のコンピュータに接続される。そして、ネットワークI/F303は、ネットワーク210と内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する。ネットワークI/F303は、例えば、モデムやLANアダプタなどである。
記録媒体I/F304は、CPU301の制御に従って記録媒体305に対するデータのリード/ライトを制御する。記録媒体I/F304は、例えば、ディスクドライブ、SSD(Solid State Drive)、USB(Universal Serial Bus)ポートなどである。記録媒体305は、記録媒体I/F304の制御で書き込まれたデータを記憶する不揮発メモリである。記録媒体305は、例えば、ディスク、半導体メモリ、USBメモリなどである。記録媒体305は、情報処理装置100から着脱可能であってもよい。
情報処理装置100は、上述した構成部の他、例えば、キーボード、マウス、ディスプレイ、プリンタ、スキャナ、マイク、スピーカーなどを有してもよい。また、情報処理装置100は、記録媒体I/F304や記録媒体305を複数有していてもよい。また、情報処理装置100は、記録媒体I/F304や記録媒体305を有していなくてもよい。
(全体頻度管理テーブル400の記憶内容)
次に、図4を用いて、全体頻度管理テーブル400の記憶内容の一例について説明する。全体頻度管理テーブル400は、例えば、図3に示した情報処理装置100のメモリ302や記録媒体305などの記憶領域により実現される。
図4は、全体頻度管理テーブル400の記憶内容の一例を示す説明図である。図4に示すように、全体頻度管理テーブル400は、IDと、ファイルIDと、単語IDと、出現回数と、単語スコアとのフィールドを有する。全体頻度管理テーブル400は、単語ごとに各フィールドに情報を設定することにより、全体頻度情報がレコード400-aとして記憶される。aは、任意の整数である。
IDのフィールドには、レコードを識別するIDが設定される。ファイルIDのフィールドには、文書を識別するファイルIDが設定される。単語IDのフィールドには、上記文書に出現する単語を識別する単語IDが設定される。出現回数のフィールドには、上記文書における上記単語の出現回数が設定される。単語スコアのフィールドには、上記文書における上記単語のTF×IDFが単語スコアとして設定される。
(部分頻度管理テーブル500の記憶内容)
次に、図5を用いて、部分頻度管理テーブル500の記憶内容の一例について説明する。部分頻度管理テーブル500は、例えば、図3に示した情報処理装置100のメモリ302や記録媒体305などの記憶領域により実現される。
図5は、部分頻度管理テーブル500の記憶内容の一例を示す説明図である。図5に示すように、部分頻度管理テーブル500は、IDと、ファイルIDと、区切りIDと、単語IDと、出現回数と、単語スコアとのフィールドを有する。部分頻度管理テーブル500は、単語ごとに各フィールドに情報を設定することにより、部分頻度情報がレコード500-bとして記憶される。bは、任意の整数である。
IDのフィールドには、レコードを識別するIDが設定される。ファイルIDのフィールドには、文書を識別するファイルIDが設定される。区切りIDのフィールドには、文書を分割した複数の部分のいずれかの部分を識別する区切りIDが設定される。単語IDのフィールドには、上記いずれかの部分に出現する単語を識別する単語IDが設定される。出現回数のフィールドには、上記いずれかの部分における上記単語の出現回数が設定される。単語スコアのフィールドには、上記いずれかの部分における上記単語のTF×IDFが単語スコアとして設定される。
(重要単語管理テーブル600の記憶内容)
次に、図6を用いて、重要単語管理テーブル600の記憶内容の一例について説明する。重要単語管理テーブル600は、例えば、図3に示した情報処理装置100のメモリ302や記録媒体305などの記憶領域により実現される。
図6は、重要単語管理テーブル600の記憶内容の一例を示す説明図である。図6に示すように、重要単語管理テーブル600は、IDと、ファイルIDと、単語IDと、ランクと、単語スコアとのフィールドを有する。重要単語管理テーブル600は、単語ごとに各フィールドに情報を設定することにより、重要単語情報がレコード600-cとして記憶される。cは、任意の整数である。
IDのフィールドには、レコードを識別するIDが設定される。ファイルIDのフィールドには、文書を識別するファイルIDが設定される。単語IDのフィールドには、上記文書の特徴語となる単語を識別する単語IDが設定される。ランクのフィールドには、上記文書の特徴語となる1以上の単語に、上記文書の特徴語として尤もらしい方から順位付けした場合における、上記単語に付された順位を示すランクが設定される。単語のランクは、値が小さいほど、当該単語が上記文書の特徴語として尤もらしいことを示す。単語スコアのフィールドには、上記文書における上記単語のTF×IDFが単語スコアとして設定される。
(文書蓄積装置201のハードウェア構成例)
文書蓄積装置201のハードウェア構成例は、具体的には、図3に示した情報処理装置100のハードウェア構成例と同様であるため、説明を省略する。
(クライアント装置202のハードウェア構成例)
クライアント装置202のハードウェア構成例は、具体的には、図3に示した情報処理装置100のハードウェア構成例と同様であるため、説明を省略する。
(情報処理装置100の機能的構成例)
次に、図7を用いて、情報処理装置100の機能的構成例について説明する。
図7は、情報処理装置100の機能的構成例を示すブロック図である。情報処理装置100は、記憶部700と、取得部701と、分割部702と、第1抽出部703と、第2抽出部704と、出力部705とを含む。
記憶部700は、例えば、図3に示したメモリ302や記録媒体305などの記憶領域によって実現される。以下では、記憶部700が、情報処理装置100に含まれる場合について説明するが、これに限らない。例えば、記憶部700が、情報処理装置100とは異なる装置に含まれ、記憶部700の記憶内容が情報処理装置100から参照可能である場合があってもよい。
取得部701~出力部705は、制御部の一例として機能する。取得部701~出力部705は、具体的には、例えば、図3に示したメモリ302や記録媒体305などの記憶領域に記憶されたプログラムをCPU301に実行させることにより、または、ネットワークI/F303により、その機能を実現する。各機能部の処理結果は、例えば、図3に示したメモリ302や記録媒体305などの記憶領域に記憶される。
記憶部700は、各機能部の処理において参照され、または更新される各種情報を記憶する。記憶部700は、例えば、複数の文書を記憶する。文書は、複数の語句を含むデータである。文書は、例えば、複数の語句を含む文章を表すデータである。文書は、例えば、表を表すデータであってもよい。文書は、例えば、文章と図表とを併せて表すデータであってもよい。文書は、例えば、取得部701によって取得され、記憶部700によって記憶される。文書は、例えば、予め記憶部700によって記憶されていてもよい。
記憶部700は、例えば、文書を特定の条件に従って分割した複数の部分を記憶する。特定の条件は、例えば、文書をページ単位で分割することを示す。特定の条件は、例えば、文書をスライド単位で分割することを示していてもよい。特定の条件は、例えば、文書に含まれるキーワード前後で当該文書を分割することを示していてもよい。複数の部分は、例えば、取得部701によって取得され、記憶部700によって記憶される。複数の部分は、例えば、分割部702によって生成され、記憶部700によって記憶されていてもよい。複数の部分は、例えば、予め記憶部700によって記憶されていてもよい。記憶部700は、例えば、文書を分割する特定の条件を記憶していてもよい。特定の条件は、例えば、予め記憶部700によって記憶される。
記憶部700は、例えば、複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、当該部分の特徴語としての第1の尤度を記憶する。部分の特徴語は、部分の特徴を表す語句である。第1の尤度は、例えば、TF×IDFである。記憶部700は、具体的には、図5に示した部分頻度管理テーブル500を記憶する。第1の尤度は、例えば、第1抽出部703によって算出され、記憶部700によって記憶される。記憶部700は、例えば、複数の部分のそれぞれの部分の特徴語を当該部分に対応付けて記憶する。部分の特徴語は、例えば、第1抽出部703によって抽出され、記憶部700によって記憶される。
記憶部700は、例えば、文書を分割した複数の部分の少なくともいずれかの部分の特徴語についての、当該文書の特徴語としての第2の尤度を記憶する。第2の尤度は、例えば、TF×IDFである。記憶部700は、具体的には、図4に示した全体頻度管理テーブル400を記憶する。第2の尤度は、例えば、第2抽出部704によって算出され、記憶部700によって記憶される。記憶部700は、例えば、文書の特徴語を当該文書に対応付けて記憶する。文書の特徴語は、文書の特徴を表す語句である。文書の特徴語は、例えば、第2抽出部704によって決定され、記憶部700に記憶される。
取得部701は、各機能部の処理に用いられる各種情報を取得する。取得部701は、取得した各種情報を、記憶部700に記憶し、または、各機能部に出力する。また、取得部701は、記憶部700に記憶しておいた各種情報を、各機能部に出力してもよい。取得部701は、例えば、利用者の操作入力に基づき、各種情報を取得する。取得部701は、例えば、情報処理装置100とは異なる装置から、各種情報を受信してもよい。
取得部701は、対象の文書を取得する。取得部701は、例えば、記憶部700に記憶された複数の文書のそれぞれの文書を、対象の文書として読み出すことにより取得する。取得部701は、例えば、記憶部700に記憶された複数の文書のいずれかの文書を、対象の文書として読み出すことにより取得してもよい。取得部701は、例えば、対象の文書を、他のコンピュータから受信することにより取得してもよい。
取得部701は、対象の文書を分割した複数の部分を取得する。取得部701は、例えば、記憶部700に記憶された、複数の文書のそれぞれの文書を分割した複数の部分を、対象の文書を分割した複数の部分として読み出すことにより取得する。取得部701は、例えば、記憶部700に記憶された、複数の文書のいずれかの文書を分割した複数の部分を、対象の文書を分割した複数の部分として読み出すことにより取得してもよい。取得部701は、例えば、自装置で対象の文書を分割しない場合、対象の文書を分割した複数の部分を、他のコンピュータから受信することにより取得してもよい。
取得部701は、いずれかの機能部の処理を開始する開始トリガーを受け付けてもよい。開始トリガーは、例えば、利用者による所定の操作入力があったことである。開始トリガーは、例えば、他のコンピュータから、所定の情報を受信したことであってもよい。開始トリガーは、例えば、いずれかの機能部が所定の情報を出力したことであってもよい。取得部701は、具体的には、対象の文書を取得したことを、分割部702と第1抽出部703と第2抽出部704との処理を開始する開始トリガーとして受け付けてもよい。取得部701は、具体的には、対象の文書と、対象の文書を分割した複数の部分とを取得したことを、第1抽出部703と第2抽出部704との処理を開始する開始トリガーとして受け付けてもよい。
分割部702は、対象の文書を分割した複数の部分を取得する。分割部702は、例えば、対象の文書を特定の条件に従って分割することにより、複数の部分を取得する。分割部702は、具体的には、対象の文書をページ単位で分割することにより、対象の文書を分割した複数の部分を取得する。分割部702は、具体的には、対象の文書に含まれるキーワード前後で対象の文書を分割することにより、対象の文書を分割した複数の部分を取得してもよい。
これにより、分割部702は、対象の文書に比較的多く含まれる特徴的ではない語句があれば、当該語句をそれぞれ比較的少量ずつ含む複数の部分を生成することができる。そして、分割部702は、対象の文書の他に、対象の文書を分割した複数の部分のそれぞれの部分を、対象の文書の特徴語を決定する際の基準として利用可能にすることができる。
第1抽出部703は、取得した複数の部分のそれぞれの部分の中から、当該部分の特徴語を抽出する。第1抽出部703は、例えば、それぞれの部分に含まれるそれぞれの語句についての、当該部分の特徴語としての第1の尤度に基づいて、それぞれの部分の中から、当該部分の特徴語を抽出する。
第1抽出部703は、具体的には、それぞれの部分に含まれるそれぞれの語句について、当該部分に語句が出現する頻度の多さに基づく評価値と、複数の部分のうち、語句が出現する部分の数の多さに基づく評価値とに基づいて、第1の尤度を算出する。そして、第1抽出部703は、具体的には、算出した第1の尤度に基づいて、それぞれの部分の中から、当該部分の特徴語を抽出する。第1抽出部703は、より具体的には、それぞれの部分に含まれる語句のうち、算出した第1の尤度が閾値以上である語句を、当該部分の特徴語として抽出する。
これにより、第1抽出部703は、汎用的であり特徴的ではない語句が、対象の文書に比較的多く出現していても、それぞれの部分を基準として、特徴的な語句ではないと正しく評価し、それぞれの部分の特徴語を抽出することができる。このため、第1抽出部703は、対象の文書の特徴語を決定する際の特徴語の候補を絞り込むことができ、対象の文書の特徴語を精度よく決定可能にすることができる。
第1抽出部703は、例えば、対象の文書を含む複数の文書に基づいて、取得した複数の部分のそれぞれの部分の中から、当該部分の特徴語を抽出してもよい。第1抽出部703は、具体的には、複数の文書に基づいて、それぞれの部分に含まれるそれぞれの語句について、第1の尤度を算出する。そして、第1抽出部703は、具体的には、算出した第1の尤度に基づいて、それぞれの部分の中から、当該部分の特徴語を抽出する。
これにより、第1抽出部703は、汎用的であり特徴的ではない語句が、対象の文書に比較的多く出現していても、それぞれの部分を基準として、特徴的な語句ではないと正しく評価し、それぞれの部分の特徴語を抽出することができる。このため、第1抽出部703は、対象の文書の特徴語を決定する際の特徴語の候補を絞り込むことができ、対象の文書の特徴語を精度よく決定可能にすることができる。
第2抽出部704は、第1抽出部703で抽出した特徴語を纏めた特徴語集合の中から、対象の文書の特徴語を決定する。特徴語集合は、第1抽出部703で抽出した特徴語を重複なく纏めることにより生成される。第2抽出部704は、例えば、特徴語集合に含まれるそれぞれの特徴語についての、対象の文書の特徴語としての第2の尤度に基づいて、特徴語集合の中から、対象の文書の特徴語を決定する。
第2抽出部704は、具体的には、それぞれの特徴語について、対象の文書に特徴語が出現する頻度の多さに基づく評価値と、対象の文書を含む複数の文書のうち、特徴語が出現する文書の数の多さに基づく評価値とに基づいて、第2の尤度を算出する。そして、第2抽出部704は、具体的には、算出した第2の尤度に基づいて、特徴語集合の中から、対象の文書の特徴語を決定する。第2抽出部704は、より具体的には、特徴語集合の中から、算出した第2の尤度が閾値以上である特徴語を、対象の文書の特徴語として決定する。
これにより、第2抽出部704は、対象の文書の特徴語を決定する際の特徴語の候補が、特徴語集合に含まれる特徴語に絞り込まれた後に、特徴語集合の中から、対象の文書の特徴語を決定することができる。このため、第2抽出部704は、対象の文書の特徴語を精度よく決定することができる。
ここでは、第1抽出部703が、それぞれの部分の中から、当該部分の特徴語を抽出する場合について説明したが、これに限らない。例えば、第1抽出部703が、それぞれの部分に含まれるそれぞれの語句について、第1の尤度を算出した後、それぞれの部分の中から、当該部分の特徴語を抽出しない場合があってもよい。
この場合、第2抽出部704は、例えば、対象の文書に含まれるそれぞれの語句について、対象の文書の特徴語としての第2の尤度を算出する。第2抽出部704は、具体的には、それぞれの語句について、対象の文書に語句が出現する頻度の多さに基づく評価値と、対象の文書を含む複数の文書のうち、語句が出現する文書の数の多さに基づく評価値とに基づいて、第2の尤度を算出する。
そして、第2抽出部704は、例えば、第1抽出部703で算出した第1の尤度と、第2抽出部704で算出した第2の尤度とに基づいて、対象の文書に含まれる語句の中から、対象の文書の特徴語を決定する。第2抽出部704は、具体的には、それぞれの語句について、第1抽出部703で算出した第1の尤度と、第2抽出部704で算出した第2の尤度との積を、第3の尤度として算出する。第2抽出部704は、具体的には、算出した第3の尤度が閾値以上である語句を、対象の文書の特徴語として決定する。
これにより、第2抽出部704は、対象の文書単位と、対象の文書を分割した複数の部分のそれぞれの部分単位とのそれぞれ異なる観点から得られた各種尤度に基づいて、対象の文書の特徴語を決定することができる。このため、第2抽出部704は、対象の文書の特徴語を精度よく決定することができる。
出力部705は、少なくともいずれかの機能部の処理結果を出力する。出力形式は、例えば、ディスプレイへの表示、プリンタへの印刷出力、ネットワークI/F303による外部装置への送信、または、メモリ302や記録媒体305などの記憶領域への記憶である。これにより、出力部705は、少なくともいずれかの機能部の処理結果を利用者に通知可能にし、情報処理装置100の利便性の向上を図ることができる。
出力部705は、対象の文書と、第2抽出部704が決定した対象の文書の特徴語とを対応付けて出力する。出力部705は、例えば、対象の文書と、第2抽出部704が決定した対象の文書の特徴語とを対応付けて、文書を検索する検索部(不図示)に送信してもよい。検索部は、例えば、情報処理装置100が含んでいてもよい。検索部は、例えば、他のコンピュータが含んでいてもよい。
これにより、出力部705は、検索部で、対象の文書を検索する際に、対象の文書の特徴語を利用可能にすることができ、対象の文書を検索し易くすることができる。出力部705は、検索部で、検索した対象の文書と共に、対象の文書の特徴語を含めた検索結果を出力可能にすることができ、検索結果の閲覧者が、検索された対象の文書の内容を把握し易くすることができる。
出力部705は、例えば、対象の文書と、第2抽出部704が決定した対象の文書の特徴語とを対応付けて、他のコンピュータに送信してもよい。他のコンピュータは、例えば、クライアント装置202である。出力部705は、例えば、対象の文書と、第2抽出部704が決定した対象の文書の特徴語とを対応付けて、利用者が参照可能に表示してもよい。これにより、出力部705は、利用者が、対象の文書の内容を把握し易くすることができる。
(情報処理装置100の動作の流れ)
次に、図8を用いて、情報処理装置100の動作の流れについて説明する。
図8は、情報処理装置100の動作の流れを示す説明図である。図8において、情報処理装置100は、ドキュメント群800を取得する。ドキュメント群800は、例えば、ドキュメントAを含む。以下の説明では、情報処理装置100が、ドキュメントAを処理対象とする場合について説明する。情報処理装置100が、他のドキュメントを処理対象とする場合も、以下に説明する場合と同様である。
(8-1)情報処理装置100は、ドキュメントAをページ単位で分割し、ページ群810を取得する。ページ群810は、例えば、ページ1とページ2とページ3とを含む。
(8-2)情報処理装置100は、各ページについて形態素解析を実行し、各ページに出現する単語の一覧を生成する。単語は、例えば、名詞に限定されていてもよい。情報処理装置100は、各ページに出現する単語の一覧に含まれるそれぞれの単語について、当該単語の出現頻度に関するTFと、ドキュメントAにおける当該単語を含むページ数に関するIDFとを算出し、TF×IDFを単語スコアとして算出する。
情報処理装置100は、各ページに出現する単語の一覧に含まれるそれぞれの単語について、当該単語の出現頻度に関するTFと、ドキュメント群800における当該単語を含むドキュメント数に関するIDFとを算出し、TF×IDFを算出してもよい。情報処理装置100は、算出した単語スコアを、部分頻度管理テーブル500に記憶する。
情報処理装置100は、部分頻度管理テーブル500を参照して、各ページについて、算出したTF×IDFが第1の閾値以上である単語を、当該ページの特徴語として抽出する。情報処理装置100は、部分頻度管理テーブル500を参照して、各ページについて、算出したTF×IDFが大きい順に単語を並べた場合における、所定の順位までの単語を、当該ページの特徴語として抽出してもよい。
(8-3)情報処理装置100は、ドキュメントAについて形態素解析を実行し、ドキュメントAに出現する単語の一覧を生成する。情報処理装置100は、生成した単語の一覧のうち、少なくともいずれかのページの特徴語として抽出された単語を集めた単語群を生成する。
(8-4)情報処理装置100は、生成した単語群に含まれるそれぞれの単語について、当該単語の出現頻度に関わるTFと、ドキュメント群800における当該単語を含むIDFとを算出し、TF×IDFを単語スコアとして算出する。情報処理装置100は、算出した単語スコアを全体頻度管理テーブル400に記憶する。
(8-5)情報処理装置100は、全体頻度管理テーブル400を参照して、算出したTF×IDFが第2の閾値以上である単語を、ドキュメントAの特徴語として決定する。これにより、情報処理装置100は、ドキュメントの特徴語の候補を絞り込んでから、ドキュメントの特徴語を決定するため、ドキュメントの特徴語を精度よく決定することができる。
(情報処理装置100の動作の一例)
次に、図9~図11を用いて、情報処理装置100の動作の一例について説明する。
図9~図11は、情報処理装置100の動作の一例を示す説明図である。図9において、(9-1)情報処理装置100は、ドキュメント900を取得する。ドキュメント900は、例えば、提案書である。ドキュメント900は、各ページのフッタに、Copyright 2021 ××××× LIMITEDのような定型文を含んでいる。
ページは、例えば、P1と、P2~3と、P4~5と、P6とである。図9の例では、P2~3およびP4~5は、1ページとして扱われるとする。情報処理装置100は、ドキュメント900を、ページ単位で分割し、複数の区切り部分901を生成する。
(9-2)情報処理装置100は、それぞれの区切り部分901について形態素解析を実行し、それぞれの区切り部分901に出現する単語の一覧911を生成する。
(9-3)情報処理装置100は、それぞれの区切り部分901に対応する単語の一覧911に含まれるそれぞれの単語について、当該区切り部分901におけるTF×IDFを、当該区切り部分901における単語スコアとして算出する。図9の符号921に示すように、単語の一覧911に含まれるそれぞれの単語の単語スコアが算出される。図9の例では、単語スコアは、単語の後ろに括弧書きで付した値である。情報処理装置100は、算出した単語スコアを、部分頻度管理テーブル500に記憶する。次に、図10の説明に移行する。
図10において、(10-1)情報処理装置100は、それぞれの区切り部分901に対応する単語の一覧911から、単語スコアが第1の閾値以上である単語を、当該区切り部分901の特徴を表す重要単語として抽出する。第1の閾値は、例えば、0.5である。情報処理装置100は、それぞれの区切り部分901について、抽出した重要単語を纏めた重要単語の一覧1001を生成する。
(10-2)情報処理装置100は、重要単語の一覧1001から重複なしに重要単語を纏めた重要単語群1010を生成する。情報処理装置100は、重要単語群1010に含まれるそれぞれの重要単語について、ドキュメント900におけるTF×IDFを、ドキュメント900における単語スコアとして算出する。図10に示すように、重要単語群1010に含まれるそれぞれの単語の単語スコアが算出される。図10の例では、単語スコアは、単語の後ろに括弧書きで付した値である。情報処理装置100は、重要単語群1010に含まれる重要単語を、算出した単語スコアが大きい順にランキングする。
(10-3)情報処理装置100は、ランキングの結果、符号1020に示す上位5位までの重要単語を、ドキュメント900の特徴語として決定する。情報処理装置100は、ドキュメント900に、決定したドキュメント900の特徴語を、タグとして対応付けて、重要単語管理テーブル600に記憶する。これにより、情報処理装置100は、ドキュメント900の特徴語の候補を絞り込んでから、ドキュメント900の特徴語を決定するため、ドキュメント900の特徴語を精度よく決定することができる。次に、図11の説明に移行する。
図11において、情報処理装置100は、図9および図10と同様に、複数のドキュメント900に対して、ドキュメント900の特徴語を決定し、タグとして重要単語管理テーブル600に記憶したとする。情報処理装置100は、検索画面1100の入力欄1101において、ドキュメント900を検索する条件を受け付けたとする。
情報処理装置100は、複数のドキュメント900の中から、受け付けた条件を満たすドキュメント900を検索する。情報処理装置100は、重要単語管理テーブル600を参照して、検索したそれぞれのドキュメント900のサムネイル画像1110と共に、当該ドキュメント900のタグの一覧1111を、検索画面1100に表示する。これにより、情報処理装置100は、検索者が、検索されたそれぞれのドキュメント900の内容を把握し易くすることができる。
(全体処理手順)
次に、図12を用いて、情報処理装置100が実行する、全体処理手順の一例について説明する。全体処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、ネットワークI/F303とによって実現される。
図12は、全体処理手順の一例を示すフローチャートである。図12において、情報処理装置100は、図14に後述する第1生成処理を実行することにより、複数のドキュメントのそれぞれのドキュメントに関する全体頻度管理テーブル400を生成する(ステップS1201)。
次に、情報処理装置100は、複数のドキュメントに含まれ、まだ解析対象のドキュメントとして選択していないドキュメントの中から、解析対象のドキュメントを選択する(ステップS1202)。そして、情報処理装置100は、特定の条件に従って、選択した解析対象のドキュメントを分割し、解析対象のドキュメントを分割した複数の区切り部分を取得する(ステップS1203)。
次に、情報処理装置100は、図13に後述する部分処理を実行する(ステップS1204)。そして、情報処理装置100は、選択した解析対象のドキュメントに関する全体頻度管理テーブル400を参照して、1以上の重要単語のそれぞれの重要単語のスコアを算出する(ステップS1205)。
次に、情報処理装置100は、算出したスコアに基づいて、1以上の重要単語の中から、選択した解析対象のドキュメントの特徴語となる重要単語を決定する(ステップS1206)。そして、情報処理装置100は、決定した重要単語を、選択した解析対象のドキュメントに対応付けて、重要単語管理テーブル600に記憶する(ステップS1207)。
次に、情報処理装置100は、すべてのドキュメントを、解析対象のドキュメントとして選択したか否かを判定する(ステップS1208)。ここで、まだ選択していないドキュメントがある場合(ステップS1208:No)、情報処理装置100は、ステップS1202の処理に戻る。一方で、すべてのドキュメントを選択している場合(ステップS1208:Yes)、情報処理装置100は、全体処理を終了する。
(部分処理手順)
次に、図13を用いて、情報処理装置100が実行する、部分処理手順の一例について説明する。部分処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、ネットワークI/F303とによって実現される。
図13は、部分処理手順の一例を示すフローチャートである。図13において、情報処理装置100は、図15に後述する第2生成処理を実行することにより、取得した複数の区切り部分のそれぞれの区切り部分に関する部分頻度管理テーブル500を生成する(ステップS1301)。
次に、情報処理装置100は、複数の区切り部分に含まれ、まだ解析対象の区切り部分として選択していない区切り部分の中から、解析対象の区切り部分を選択する(ステップS1302)。そして、情報処理装置100は、選択した解析対象の区切り部分に対して形態素解析を実行し、解析対象の区切り部分に出現する単語の一覧を生成する(ステップS1303)。
次に、情報処理装置100は、選択した解析対象の区切り部分に関する部分頻度管理テーブル500を参照して、生成した単語の一覧に含まれるそれぞれの単語のスコアを算出する(ステップS1304)。そして、情報処理装置100は、算出したスコアに基づいて、生成した単語の一覧の中から、選択した解析対象の区切り部分の重要単語となる単語を抽出する(ステップS1305)。
次に、情報処理装置100は、決定した単語を、重要単語として、選択した解析対象の区切り部分に対応付けて、重要単語管理テーブル600に記憶する(ステップS1306)。そして、情報処理装置100は、すべての区切り部分を、解析対象の区切り部分として選択したか否かを判定する(ステップS1307)。ここで、まだ選択していない区切り部分がある場合(ステップS1307:No)、情報処理装置100は、ステップS1302の処理に戻る。一方で、すべての区切り部分を選択している場合(ステップS1307:Yes)、情報処理装置100は、部分処理を終了する。
(第1生成処理手順)
次に、図14を用いて、情報処理装置100が実行する、第1生成処理手順の一例について説明する。第1生成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、ネットワークI/F303とによって実現される。
図14は、第1生成処理手順の一例を示すフローチャートである。図14において、情報処理装置100は、複数のドキュメントに含まれるまだ選択していないドキュメントの中から、計測対象のドキュメントを選択する(ステップS1401)。
次に、情報処理装置100は、選択した計測対象のドキュメントに対して形態素解析を実行し、計測対象のドキュメントに出現する1以上の単語を抽出する(ステップS1402)。そして、情報処理装置100は、抽出した1以上の単語に基づいて、選択した計測対象のドキュメントに関する全体頻度管理テーブル400を生成する(ステップS1403)。
次に、情報処理装置100は、すべてのドキュメントを、計測対象のドキュメントとして選択したか否かを判定する(ステップS1404)。ここで、まだ選択していないドキュメントがある場合(ステップS1404:No)、情報処理装置100は、ステップS1401の処理に戻る。一方で、すべてのドキュメントを選択している場合(ステップS1404:Yes)、情報処理装置100は、第1生成処理を終了する。
(第2生成処理手順)
次に、図15を用いて、情報処理装置100が実行する、第2生成処理手順の一例について説明する。第2生成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、ネットワークI/F303とによって実現される。
図15は、第2生成処理手順の一例を示すフローチャートである。図15において、情報処理装置100は、複数の区切り部分に含まれるまだ選択していない区切り部分の中から、計測対象の区切り部分を選択する(ステップS1501)。
次に、情報処理装置100は、選択した計測対象の区切り部分に対して形態素解析を実行し、計測対象の区切り部分に出現する1以上の単語を抽出する(ステップS1502)。そして、情報処理装置100は、抽出した1以上の単語に基づいて、選択した計測対象の区切り部分に関する部分頻度管理テーブル500を生成する(ステップS1503)。
次に、情報処理装置100は、すべての区切り部分を、計測対象の区切り部分として選択したか否かを判定する(ステップS1504)。ここで、まだ選択していない区切り部分がある場合(ステップS1504:No)、情報処理装置100は、ステップS1501の処理に戻る。一方で、すべての区切り部分を選択している場合(ステップS1504:Yes)、情報処理装置100は、第2生成処理を終了する。
ここで、情報処理装置100は、図12~図15の各フローチャートの一部ステップの処理の順序を入れ替えて実行してもよい。
以上説明したように、情報処理装置100によれば、対象の文書を特定の条件に従って分割した複数の部分を取得することができる。情報処理装置100によれば、取得した複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、部分の特徴語としての第1の尤度に基づいて、それぞれの部分の中から、部分の特徴語を抽出することができる。情報処理装置100によれば、抽出した特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、対象の文書の特徴語としての第2の尤度に基づいて、特徴語集合の中から、対象の文書の特徴語を決定することができる。これにより、情報処理装置100は、対象の文書の特徴語を精度よく決定することができる。
情報処理装置100によれば、それぞれの部分に含まれるそれぞれの語句について、部分に語句が出現する頻度の多さに基づく評価値と、複数の部分のうち、語句が出現する部分の数の多さに基づく評価値とに基づいて、第1の尤度を算出することができる。情報処理装置100によれば、算出した第1の尤度に基づいて、それぞれの部分の中から、部分の特徴語を抽出することができる。情報処理装置100によれば、それぞれの特徴語について、対象の文書に特徴語が出現する頻度の多さに基づく評価値と、対象の文書を含む複数の文書のうち、特徴語が出現する文書の数の多さに基づく評価値とに基づいて、第2の尤度を算出することができる。情報処理装置100によれば、算出した第2の尤度に基づいて、特徴語集合の中から、対象の文書の特徴語を決定することができる。これにより、情報処理装置100は、第1の尤度と第2の尤度とを精度よく算出することができ、対象の文書の特徴語を精度よく決定することができる。
情報処理装置100によれば、それぞれの部分に含まれる語句のうち、算出した第1の尤度が閾値以上である語句を、部分の特徴語として抽出することができる。これにより、情報処理装置100は、対象の文書の特徴語の候補を絞り込むことができる。
情報処理装置100によれば、取得した複数の部分のそれぞれの部分に含まれるそれぞれの語句について、第1の尤度を算出することができる。情報処理装置100によれば、対象の文書に含まれるそれぞれの語句について、第2の尤度を算出することができる。情報処理装置100によれば、算出した第1の尤度と、算出した第2の尤度とに基づいて、対象の文書に含まれる語句の中から、対象の文書の特徴語を決定することができる。これにより、対象の文書の特徴語を絞り込む動作を省略し、処理量の低減化を図ることができる。
情報処理装置100によれば、対象の文書をページ単位で分割することにより得られる複数の部分を取得することができる。これにより、情報処理装置100は、対象の文書に比較的多く含まれる特徴的ではない語句を、それぞれ比較的少量ずつ含む複数の部分を取得し易くすることができる。
情報処理装置100によれば、対象の文書に含まれるキーワード前後で対象の文書を分割することにより得られる複数の部分を取得することができる。これにより、情報処理装置100は、対象の文書に比較的多く含まれる特徴的ではない語句を、それぞれ比較的少量ずつ含む複数の部分を取得し易くすることができる。
情報処理装置100によれば、対象の文書を含む複数の文書に基づいて、取得した複数の部分のそれぞれの部分の中から、当該部分の特徴語を抽出することができる。これにより、情報処理装置100は、それぞれの部分の特徴語を精度よく抽出することができる。
なお、本実施の形態で説明した情報処理方法は、予め用意されたプログラムをPCやワークステーションなどのコンピュータで実行することにより実現することができる。本実施の形態で説明した情報処理プログラムは、コンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。記録媒体は、ハードディスク、フレキシブルディスク、CD(Compact Disc)-ROM、MO(Magneto Optical disc)、DVD(Digital Versatile Disc)などである。また、本実施の形態で説明した情報処理プログラムは、インターネットなどのネットワークを介して配布してもよい。
上述した実施の形態に関し、さらに以下の付記を開示する。
(付記1)対象の文書を特定の条件に従って分割した複数の部分を取得し、
取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
処理をコンピュータに実行させることを特徴とする情報処理プログラム。
(付記2)前記抽出する処理は、
前記それぞれの部分に含まれるそれぞれの語句について、前記部分に前記語句が出現する頻度の多さに基づく評価値と、前記複数の部分のうち、前記語句が出現する部分の数の多さに基づく評価値とに基づいて、前記第1の尤度を算出し、算出した前記第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
前記決定する処理は、
前記それぞれの特徴語について、前記対象の文書に前記特徴語が出現する頻度の多さに基づく評価値と、前記対象の文書を含む複数の文書のうち、前記特徴語が出現する文書の数の多さに基づく評価値とに基づいて、前記第2の尤度を算出し、算出した前記第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、ことを特徴とする付記1に記載の情報処理プログラム。
(付記3)前記抽出する処理は、
前記それぞれの部分に含まれる語句のうち、算出した前記第1の尤度が閾値以上である語句を、前記部分の特徴を表す特徴語として抽出する、ことを特徴とする付記2に記載の情報処理プログラム。
(付記4)取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句について、前記部分に前記語句が出現する頻度の多さに基づく評価値と、前記複数の部分のうち、前記語句が出現する部分の数の多さに基づく評価値とに基づいて、前記部分の特徴を表す特徴語としての第1の尤度を算出し、
前記対象の文書に含まれるそれぞれの語句について、前記対象の文書に前記語句が出現する頻度の多さに基づく評価値と、前記対象の文書を含む複数の文書のうち、前記語句が出現する文書の数の多さに基づく評価値とに基づいて、前記対象の文書の特徴を表す特徴語としての第2の尤度を算出し、
算出した前記第1の尤度と、算出した前記第2の尤度とに基づいて、前記対象の文書に含まれる語句の中から、前記対象の文書の特徴を表す特徴語を決定する、
処理を前記コンピュータに実行させることを特徴とする付記1~3のいずれか一つに記載の情報処理プログラム。
(付記5)前記複数の部分は、前記対象の文書をページ単位で分割することにより得られる、ことを特徴とする付記1~4のいずれか一つに記載の情報処理プログラム。
(付記6)前記複数の部分は、前記対象の文書に含まれるキーワード前後で前記対象の文書を分割することにより得られる、ことを特徴とする付記1~5のいずれか一つに記載の情報処理プログラム。
(付記7)前記抽出する処理は、
前記対象の文書を含む複数の文書に基づいて、取得した前記複数の部分のそれぞれの部分の中から、前記部分の特徴を表す特徴語を抽出する、ことを特徴とする付記1~6のいずれか一つに記載の情報処理プログラム。
(付記8)対象の文書を特定の条件に従って分割した複数の部分を取得し、
取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
処理をコンピュータが実行することを特徴とする情報処理方法。
(付記9)対象の文書を特定の条件に従って分割した複数の部分を取得し、
取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
制御部を有することを特徴とする情報処理装置。
100 情報処理装置
110 文書
111,901 部分
121,130,911,1001,1111 一覧
200 情報処理システム
201 文書蓄積装置
202 クライアント装置
210 ネットワーク
300 バス
301 CPU
302 メモリ
303 ネットワークI/F
304 記録媒体I/F
305 記録媒体
400 全体頻度管理テーブル
500 部分頻度管理テーブル
600 重要単語管理テーブル
700 記憶部
701 取得部
702 分割部
703 第1抽出部
704 第2抽出部
705 出力部
800 ドキュメント群
810 ページ群
900 ドキュメント
921,1020 符号
1010 重要単語群
1100 検索画面
1101 入力欄
1110 サムネイル画像

Claims (6)

  1. 対象の文書を特定の条件に従って分割した複数の部分を取得し、
    取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
    抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
    処理をコンピュータに実行させることを特徴とする情報処理プログラム。
  2. 前記抽出する処理は、
    前記それぞれの部分に含まれるそれぞれの語句について、前記部分に前記語句が出現する頻度の多さに基づく評価値と、前記複数の部分のうち、前記語句が出現する部分の数の多さに基づく評価値とに基づいて、前記第1の尤度を算出し、算出した前記第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
    前記決定する処理は、
    前記それぞれの特徴語について、前記対象の文書に前記特徴語が出現する頻度の多さに基づく評価値と、前記対象の文書を含む複数の文書のうち、前記特徴語が出現する文書の数の多さに基づく評価値とに基づいて、前記第2の尤度を算出し、算出した前記第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、ことを特徴とする請求項1に記載の情報処理プログラム。
  3. 前記抽出する処理は、
    前記それぞれの部分に含まれる語句のうち、算出した前記第1の尤度が閾値以上である語句を、前記部分の特徴を表す特徴語として抽出する、ことを特徴とする請求項2に記載の情報処理プログラム。
  4. 取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句について、前記部分に前記語句が出現する頻度の多さに基づく評価値と、前記複数の部分のうち、前記語句が出現する部分の数の多さに基づく評価値とに基づいて、前記部分の特徴を表す特徴語としての第1の尤度を算出し、
    前記対象の文書に含まれるそれぞれの語句について、前記対象の文書に前記語句が出現する頻度の多さに基づく評価値と、前記対象の文書を含む複数の文書のうち、前記語句が出現する文書の数の多さに基づく評価値とに基づいて、前記対象の文書の特徴を表す特徴語としての第2の尤度を算出し、
    算出した前記第1の尤度と、算出した前記第2の尤度とに基づいて、前記対象の文書に含まれる語句の中から、前記対象の文書の特徴を表す特徴語を決定する、
    処理を前記コンピュータに実行させることを特徴とする請求項1~3のいずれか一つに記載の情報処理プログラム。
  5. 対象の文書を特定の条件に従って分割した複数の部分を取得し、
    取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
    抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
    処理をコンピュータが実行することを特徴とする情報処理方法。
  6. 対象の文書を特定の条件に従って分割した複数の部分を取得し、
    取得した前記複数の部分のそれぞれの部分に含まれるそれぞれの語句についての、前記部分の特徴を表す特徴語としての第1の尤度に基づいて、前記それぞれの部分の中から、前記部分の特徴を表す特徴語を抽出し、
    抽出した前記特徴語を纏めた特徴語集合に含まれるそれぞれの特徴語についての、前記対象の文書の特徴を表す特徴語としての第2の尤度に基づいて、前記特徴語集合の中から、前記対象の文書の特徴を表す特徴語を決定する、
    制御部を有することを特徴とする情報処理装置。
JP2021124759A 2021-07-29 2021-07-29 情報処理プログラム、情報処理方法、および情報処理装置 Active JP7633522B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021124759A JP7633522B2 (ja) 2021-07-29 2021-07-29 情報処理プログラム、情報処理方法、および情報処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021124759A JP7633522B2 (ja) 2021-07-29 2021-07-29 情報処理プログラム、情報処理方法、および情報処理装置

Publications (2)

Publication Number Publication Date
JP2023019784A JP2023019784A (ja) 2023-02-09
JP7633522B2 true JP7633522B2 (ja) 2025-02-20

Family

ID=85159138

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021124759A Active JP7633522B2 (ja) 2021-07-29 2021-07-29 情報処理プログラム、情報処理方法、および情報処理装置

Country Status (1)

Country Link
JP (1) JP7633522B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242844A (ja) 2010-05-14 2011-12-01 Ricoh Co Ltd キーワード抽出装置、キーワード抽出方法、キーワード抽出プログラムおよびキーワード抽出システム
JP2016045552A (ja) 2014-08-20 2016-04-04 富士通株式会社 特徴抽出プログラム、特徴抽出方法、および特徴抽出装置
JP2016126748A (ja) 2014-12-26 2016-07-11 Kddi株式会社 ラベル付与装置、方法およびプログラム
JP2020170334A (ja) 2019-04-03 2020-10-15 京セラドキュメントソリューションズ株式会社 画像処理システムおよび画像処理プログラム
CN112347229B (zh) 2020-11-12 2021-07-20 润联软件系统(深圳)有限公司 一种答案抽取方法、装置、计算机设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242844A (ja) 2010-05-14 2011-12-01 Ricoh Co Ltd キーワード抽出装置、キーワード抽出方法、キーワード抽出プログラムおよびキーワード抽出システム
JP2016045552A (ja) 2014-08-20 2016-04-04 富士通株式会社 特徴抽出プログラム、特徴抽出方法、および特徴抽出装置
JP2016126748A (ja) 2014-12-26 2016-07-11 Kddi株式会社 ラベル付与装置、方法およびプログラム
JP2020170334A (ja) 2019-04-03 2020-10-15 京セラドキュメントソリューションズ株式会社 画像処理システムおよび画像処理プログラム
CN112347229B (zh) 2020-11-12 2021-07-20 润联软件系统(深圳)有限公司 一种答案抽取方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
JP2023019784A (ja) 2023-02-09

Similar Documents

Publication Publication Date Title
CN103430172B (zh) 检索装置、检索方法及程序
CN102576358A (zh) 单词对取得装置、单词对取得方法及其程序
JP2010073114A6 (ja) 画像情報検索装置、画像情報検索方法およびそのコンピュータプログラム
JPWO2007108529A1 (ja) 情報抽出システム、情報抽出方法、情報抽出プログラムおよび情報サービスシステム
Pletschacher et al. Europeana newspapers OCR workflow evaluation
US20130254190A1 (en) Search device, search method, and computer program product
JP2004341753A (ja) 検索支援装置、検索支援方法、およびプログラム
JP2006072744A (ja) 文書処理装置、その制御方法、プログラム、及び記憶媒体
KR100706389B1 (ko) 이미지 상호간의 유사도를 고려한 이미지 검색 방법 및장치
JP5199768B2 (ja) タグ付け支援方法とその装置、プログラム及び記録媒体
US9378248B2 (en) Retrieval apparatus, retrieval method, and computer-readable recording medium
US20210295033A1 (en) Information processing apparatus and non-transitory computer readable medium
KR102007437B1 (ko) 콘텐츠 분류 장치 및 방법
JP2010211688A (ja) 文書編集装置、データ処理方法及びプログラム
JP7633522B2 (ja) 情報処理プログラム、情報処理方法、および情報処理装置
JP6488399B2 (ja) 情報提示システム、及び情報提示方法
JP2004240488A (ja) 文書管理装置
JP4135659B2 (ja) フォーマット変換装置およびファイル検索装置
US10990338B2 (en) Information processing system and non-transitory computer readable medium
JP2009151390A (ja) 情報分析装置、及び情報分析プログラム
JP2013222418A (ja) パッセージ分割方法、装置、及びプログラム
JP5461344B2 (ja) データ分類装置、データ分類方法およびデータ分類プログラム
JP5153390B2 (ja) 関連語辞書作成方法及び装置、並びに関連語辞書作成プログラム
JP7131075B2 (ja) 検索処理装置およびプログラム
JP2007011973A (ja) 情報検索装置及び情報検索プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250120

R150 Certificate of patent or registration of utility model

Ref document number: 7633522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150