Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4592566B2 - 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体 - Google Patents
[go: Go Back, main page]

JP4592566B2 - 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体 - Google Patents

話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP4592566B2
JP4592566B2 JP2005329268A JP2005329268A JP4592566B2 JP 4592566 B2 JP4592566 B2 JP 4592566B2 JP 2005329268 A JP2005329268 A JP 2005329268A JP 2005329268 A JP2005329268 A JP 2005329268A JP 4592566 B2 JP4592566 B2 JP 4592566B2
Authority
JP
Japan
Prior art keywords
relevance
phrase
topic
source
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005329268A
Other languages
English (en)
Other versions
JP2007140602A (ja
Inventor
裕一郎 関口
吉秀 佐藤
晴美 川島
雅博 奥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2005329268A priority Critical patent/JP4592566B2/ja
Publication of JP2007140602A publication Critical patent/JP2007140602A/ja
Application granted granted Critical
Publication of JP4592566B2 publication Critical patent/JP4592566B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に係り、特に、一つまたは複数の情報発信源から新しい情報を含む文書を次々と入手し得る状況において、各文書において話題として扱われている特徴的な語句を抽出するための話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に関する。
インターネットをはじめとした情報メディアの発達により、誰であっても容易に情報発信を行えるようになり、様々な発信者から日々文書が発信されるようになってきている。そのような中、現在までに作成された文書情報を分析することによって、各文書において話題となっている事項を抽出することが可能になると考えられる。
インターネット上にアップロードされている文書集合等の大量かつ多様な文書集合に対し、文書中の語句の分野的及び時間的な出現頻度を考慮して、文書中で話題として扱われている特徴語句を抽出する技術は複数提案されている。
従来技術として、ネットワークシステム上にアップロードされている文書をその作成時刻情報と共に取得し、当該文書の内容に応じて予め設定された複数の分野に自動的に分類し、各分野毎に時間に沿って出現頻度が特徴的に増加しており、なおかつ他分野で出現していないような語句に対して、話題を表す特徴語句として話題度合いを示す話題度の値を高く算出する技術がある(例えば、特許文献1参照)。
特開2005−135311号公報
しかしながら、上記の従来の技術においては、予め人手で分類する分野の項目を設定するため、時間と共にネットワークにアップロードされる文書の傾向が変化し、新たな分野が発生する度に分野の項目を再度設定しなおす必要があった。
また、設定された分野の項目に含まれない内容の文書については、正確な分野の分類がされず他分野の文書と共に処理されてしまうため、当該文書中で扱われている話題を表す語句が当該文書が分類された分野内で特徴的な出現頻度を示さず、高い話題度が算出されないという問題があった。
本発明は、上記の点に鑑みなされたもので、処理対象となる文書で扱われている内容の分野の候補を人手で設定することなしに、文書の扱っている分野において話題となっている事柄を表す語句に対して高い話題度を算出することが可能な話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体を提供することを目的とする。
図1は、本発明の原理を説明するための図である。
本発明(請求項1)は、多数の情報発信源によって作成された文書の集合を解析し、処理対象文書中に含まれる語句に対して話題性の強度を算出する話題度算出方法であって、
語句抽出手段が、文書を作成した発信源の情報を有する文書の集合が入力されると、該文書の集合を解析して、話題性評価の対象となる語句を当該文書中から切り出し、発信源情報を付与して語句データベースに記録する語句抽出ステップ(ステップ1)と、
発信源関連度算出手段が、発信源を単位として、発信源の文書から切り出した語句の出現回数を特徴量とする発信源特徴量リストを発信源特徴量バッファに蓄積し、1組の発信源iと発信源jとの類似度合いを示す関連度Rijを当該発信源の発信源特徴リストから算出し、関連度データベースに記録する発信源関連度算出ステップ(ステップ2)と、
話題度算出手段が、処理対象文書を入力として受け付け、当該処理対象文書の発信源iに基づく基準関連度分布と、処理対象文書に含まれる語句kそれぞれに対して得られる語句関連度分布とから、当該語句kの話題となっている度合いを算出する話題度算出ステップと、
を行い、
話題度算出ステップにおいて、
処理対象文書の発信源iとそれ以外の発信源jとの関連度Rijを関連度データベースから取得し、決められた数N個に分割された関連度の刻みごとに当該関連度の刻みに該当する関連度Rijを有する発信源jの数を集計した情報である基準関連度分布を求め、
語句データベースを参照して語句kを持つ発信源lを取得し、発信源iと当該発信源lとの関連度Rilを関連度データベースから取得し、関連度の刻みごとに当該関連度の刻みに該当する関連度Rilを有する発信源lの数を集計した情報である語句関連度分布を求め、
基準関連度分布と語句関連度分布とから、基準関連度分布と語句関連度分布を比較して、当該語句kの語句関連度分布が基準関連度分布よりも関連度の高い範囲に偏っている場合に、当該処理対象文書の発信源iに関連の高い文書で多く扱われる話題語であるとみなし、決められた関連度の刻みそれぞれにおいて、当該刻みにおける関連度nから基準関連度分布の重心における関連度の値n0を引いた値と、当該刻みにおける語句関連度分布の値から基準関連度分布の値を引いた値とを掛け合わせた値を求め、それらを足し合わせた値を当該語句kの話題となっている度合いとする。
また、本発明(請求項2)は、語句関連度分布の関連度の刻みごとの数を、当該刻みに該当する発信源lでの前記語句kの使用回数の合計とする
また、本発明(請求項3)は、基準関連度分布と語句関連度分布とをそれぞれに正規化し、正規化された基準関連度分布と語句関連度分布とを用いて、語句kの話題となっている度合いを求める
図2は、本発明の原理構成図である。
本発明(請求項4)は、多数の情報発信源によって作成された文書の集合を解析し、処理対象文書中に含まれる語句に対して話題性の強度を算出する話題度算出装置であって、
語句抽出手段が、文書を作成した発信源の情報を有する文書の集合が入力されると、該文書の集合を解析して、話題性評価の対象となる語句を当該文書中から切り出し、発信源情報を付与して語句データベース220に記録する語句抽出手段210と、
発信源を単位として、発信源の文書から切り出した語句の出現回数を特徴量とする発信源特徴量リストを発信源特徴量バッファに蓄積し、1組の発信源iと発信源jとの類似度合いを示す関連度Rijを当該発信源の発信源特徴リストから算出し、関連度データベース240に記録する発信源関連度算出手段と、
処理対象文書を入力として受け付け、当該処理対象文書の発信源iに基づく基準関連度分布と、処理対象文書に含まれる語句kそれぞれに対して得られる語句関連度分布とから、当該語句kの話題となっている度合いを算出する話題度算出手段250と、を有し、
話題度算出手段250は、
処理対象文書の発信源iとそれ以外の発信源jとの関連度Rijを関連度データベース240から取得し、決められた数N個に分割された関連度の刻みごとに当該関連度の刻みに該当する関連度Rijを有する発信源jの数を集計した情報である基準関連度分布を求め、
語句データベース220を参照して語句kを持つ発信源lを取得し、発信源iと当該発信源lとの関連度Rilを関連度データベース240から取得し、関連度の刻みごとに当該関連度の刻みに該当する関連度Rilを有する発信源lの数を集計した情報である語句関連度分布を求め、
基準関連度分布と語句関連度分布とから、基準関連度分布と語句関連度分布を比較して、当該語句kの語句関連度分布が基準関連度分布よりも関連度の高い範囲に偏っている場合に、当該処理対象文書の発信源iに関連の高い文書で多く扱われる話題語であるとみなし、決められた関連度の刻みそれぞれにおいて、当該刻みにおける関連度nから基準関連度分布の重心における関連度の値n0を引いた値と、当該刻みにおける語句関連度分布の値から基準関連度分布の値を引いた値とを掛け合わせた値を求め、それらを足し合わせた値を当該語句kの話題となっている度合いとする手段を含む。
また、本発明(請求項5)は、話題度算出手段250において、
語句関連度分布の関連度の刻みごとの数を、当該刻みに該当する発信源lでの前記語句kの使用回数の合計とする手段を含む。

また、本発明(請求項)は、話題度算出手段250において、
基準関連度分布と語句関連度分布とをそれぞれに正規化し、正規化された基準関連度分布と語句関連度分布とを用いて、語句kの話題となっている度合いを求める手段を含む。
本発明(請求項)は、請求項4乃至6のいずれか1項に記載の話題度算出装置を構成する各手段としてコンピュータを機能させるための話題度算出プログラムである。
本発明(請求項)は、請求項7に記載のプログラムを格納したことを特徴とする話題度算出プログラムを格納したコンピュータ読み取り可能な記録媒体である。

上記のように本発明によれば、Web上での日記などの様々な発信源が作成した多種多様な分野について扱っている文書群に対し、各発信源と処理対象文書の発信源の関連度を求め、当該関連度の分布と処理対象文書中に含まれる各語句を扱ったことのある発信源のみに絞った場合の関連度の分布と比較し、関連の強い発信源でより多く使われている語句に高い重みを設定することにより、分野の項目を予め設定することなしに処理対象文書の所属する分野で特徴的な語句に対して高い話題の度合いを求めることができる。
また、本発明によれば、処理対象文書の作成時刻と同じ時期において特徴的に多く取り扱われている語句に時間重みを付け、話題度と時間重みとの両方を考慮した話題度を新しく算出することにより、処理対象文書の作成された時期においてある分野で特徴的に用いられた語句にのみ高い話題度を設定することができる。
以下、図面と共に本発明の実施の形態を説明する。
[第1の実施の形態]
図3は、本発明の第1の実施の形態における話題度算出装置の構成を示す。
同図に示す話題度算出装置には、本装置の入力となる文書データを蓄積する文書データベース200と本装置が出力する語句の話題度を記録する語句話題度記録装置290とが接続されている。
本実施の形態における話題度算出装置は、文書内語句抽出部210、種話題情報データベース220、発信源関連度算出部230、関連度データベース240、話題度算出部250、及び話題度出力部260から構成される。
図4は、本発明の第1の実施の形態における概要動作のフローチャートである。
ステップ101) 文書内語句抽出部210において、予め収集され文書データベース200に格納されている文書群を読み出して、形態素解析等の既存の技術を用いて解析することにより、当該文書中に含まれる全ての語句を抽出し、抽出された語句それぞれについて当該語句が含まれていた文書の発信源と作成時刻とを組み合わせて、種話題情報データベース(特許請求の範囲の「語句データベース」に相当)220に格納する。
ステップ102) 次に、発信源関連度算出部230において、ステップ101で作成された種話題情報データベース220を参照して、各発信源毎に当該発信源が過去に作成した文書中に含まれる語句群と当該語句群の各語句の使用回数とを取得し、当該発信源の使用語句群ベクトルを作成し、2つの発信源の使用語句群ベクトルについてコサイン類似度等の既存のベクトル比較技術を用いて、当該使用語句ベクトル間の類似度を発信源間の関連度として算出する処理を、あり得る全ての発信源の組み合わせについて行い、得られた関連度を関連度データベース240に出力する。
ステップ103) 話題度算出部250において、外部から処理対象とする文書(以下、処理対象文書と呼ぶ)に含まれる各語句について、当該語句と同一の語句を発信したことのある発信源群と処理対象文書の発信源との関連度の分布を、全発信源もしくは、処理対象文書を作成した発信源以外の発信源と処理対象文書を作成した発信源との関連度の分布を比較して、当該語句を発信したことのある発信源群の関連度の分布が、より関連度の高い範囲に偏っている場合に、当該語句を処理対象文書と関連する分野で高頻度に出現する特徴語句として高い話題度を設定する。
ステップ104) ステップ103で求められた話題度を話題度出力部260から語句話題度記録装置290に出力する。
次に、話題度算出装置の詳細な動作を図3の構成図に基づいて説明する。
文書データベース200には、文書毎に作成時刻と発信源情報が付加された複数の文書が蓄積されている。例えば、Web上に公開されている文書に「2004 4/25 13:55」といったような作成時刻と、公開されているWebサイトのドメイン名や執筆者の名称といったような発信源情報とを付加し、次々と入力として記録することにより、文書データベース200を構築することができる。特にインターネット上の日記サイトなど、新しい文書が逐次作成され、発信者が判別可能な情報源からの文書を入力するのが望ましい。また、サイト内の文書が更新された場合にも、新たな文書が作成されたと見做して収集してもよい。
文書内語句抽出部210は、文書データベース200に蓄積されている文書を1文書ずつ取得し、形態素解析を行い、品詞毎に分解する。例えば、「おいしいチョコドーナツ」という文章を、「おいしい」「チョコ」「ドーナツ」と分解する。分解された品詞群から名詞のみを選んで抽出する。このとき、必要に応じて「チョコ」「ドーナツ」という連続する名詞を連結して「チョコドーナツ」という複合名詞とし、複合名詞を1個の名詞として扱ってもよい。
また、「秋の新番組」というような名詞的に扱われるフレーズについても名詞として抽出してもよい。以下の説明では、抽出して得られた名詞と複合名詞と名詞的に扱われるフレーズとを総称して語句と呼ぶ。このようにして得られた語句それぞれについて、解析前に当該語句が含まれていた文書の作成時刻と発信源情報とを付加し、例えば、「チョコドーナツ 2005/01/06 11:36 blog.temporary.ex.xx」といった形式の情報として、種話題情報データベース220に蓄積する。以下の説明では、上記の語句と作成時刻と発信源情報との組の情報を種話題情報と表記することとする。
種話題情報データベース220に蓄積される種話題情報の例を図5に示す。同じ語句が処理文書中で複数回使用されている場合には、内容が同一の種話題情報が複数蓄積されてしまうため、処理の効率化のため、そのうちの一つの種話題情報を蓄積することとしてもよい。
発信源関連度算出部230は、一定の処理時間毎に、種話題情報データベース220に蓄積されている種話題情報を参照して各発信源の使用している語句を抽出する。また、それらの語句の使用回数を計算する。抽出した語句と計算した語句の使用回数とを発信源特徴量とする。得られた発信源特徴量を異なる発信源の対毎に比較することにより、各発信源間の関連度を算出し、関連度データベース240に関連度をテーブルの形で出力する。
関連度データベース240に蓄積される関連度情報の例を図6に示す。
ここで、当該発信源関連度算出部230の動作を詳細に説明する。
図7は、本発明の第1の実施の形態における発信源関連度算出部の処理のフローチャートである。
ステップ510) 発信源関連度算出部230は、処理が開始されると、種話題情報データベース220に蓄積されている全発信源情報を取得し、重複部分を取り除くことにより、文書データバッファ(図示せず)に入力元となっている発信源のリストを作成する。
ステップ520) 次に、ステップ510で得られた発信源のリストから一つの発信源情報を取り出し、当該発信源情報を含む種話題情報内の語句を種話題情報データベース220から取得して語句情報バッファ(図示せず)に蓄積する。この際、処理の軽減のため、例えば、語句を取得する対象を作成時刻が処理時刻から2ヶ月前までの種話題情報とするといったように、ある一定時刻範囲の作成時刻を持つ種話題情報だけに絞ってもよい。
ステップ530) 語句情報バッファ(図示せず)中の各語句について語句毎の出現回数を求め、語句wと当該語句の出現回数V(w)とからなる、処理対象の発信源Sの語句特徴量Cを作成する。例えば、ステップ520で蓄積された語句情報バッファ(図示せず)中の語句が「野球」「W杯」「野球」「野球」「決勝」「W杯」「野球」の場合には、発信源iの語句特徴量Cは、「野球 4,W杯 2,決勝 1」といった語句wと当該語句の出現回数V(W)との組の集合となる。得られた語句特徴量Cは、発信源特徴量リストとして発信源特徴量バッファ(図示せず)に蓄積される。
ステップ540) 上記のステップ510で作成した発信源のリストの中で全ての発信源に対して、ステップ520、ステップ530の処理を行ったかを判定し、未処理の発信源情報が存在する場合には、ステップ520に戻る。存在しない場合には、ステップ550に移行する。
ステップ550) 発信源特徴量バッファ(図示せず)の発信源特徴量リストから1組の発信源S,Sの語句特徴量C,Cを取り出し、そのCとCの関連度を発信源iと発信源jの関連度Rijとして算出する。
例えば、発信源iと発信源jとの関連度Rijを下記の式(1)を用いて算出する。
Figure 0004592566
上記の式(1)において、Wは語句特徴量CとCに含まれるすべての語句を表すとする。また、V(wk),V(wk)は全て正の値であるため、Rijは0以上1以下となり、Rijの値が大きいほど発信源Sと発信源Sの関連が大きいことを表す。
得られた関連度Rij(j≠i)は関連度データベース240のi行j列とj行i列の2箇所に蓄積される。
ステップ560) 全ての発信源の組み合わせについて、ステップ550の処理を行ったかどうかを判定する。未処理の発信源の組み合わせが存在する場合には、ステップ550に移行する。全ての発信源の組み合わせに対してステップ550を処理済の場合は、発信源関連度算出部230の処理を終了する。
話題度算出部250は、処理対象文書を入力として受け付け、当該文書中の語句それぞれに対して、処理対象文書の発信源と過去にその語句を扱ったことのある発信源との関連度の値の分布と、処理対象文書の発信源と他の全ての発信源との関連度の分布を比較することにより、当該処理対象文書の発信源と関連度の高い発信源で多く用いられている語句に対し、話題の度合いが高いと見做し、値の大きい話題度を算出する。
当該話題度算出部250の動作を詳細に説明する。
図8は、本発明の第1の実施の形態における話題度算出部の動作のフローチャートである。
ステップ610) 話題度算出部250は処理が始まると、外部から処理対象文書を入力として受け付ける。処理対象文書には発信源が付与されているとする。また、処理対象文書は、文書データベース200に含まれる文書であることが望ましい。
ステップ620) 関連度データベース240から処理対象文書の発信源Sと当該発信源以外の全ての発信源S(j≠i)との関連度Rijの集まりを取得し、その値の分布を集計する。図6を用いて説明すると、処理対象文書の発信源が発信源「8」であった場合、発信源「8」とその他全ての発信源(発信源1〜7,9〜N)との関連度として、0.282,0.166,0.217,0.327,0.313,0.275…を取得する。このようにして得られた関連度の集合R8j(j≠8)に対して、その値の分布を基準関連度分布R(n)として求める。例えば、0.01刻みで集計する場合、
0.01*n≦R8j<0.01*(n+1)
の式に当てはまる発信源の個数をn=0〜100までの範囲で集計し、基準関連度分布
(n)(n=0・・・99)
を求める。
ステップ630) 処理対象文書Dに含まれる語句を、文書内語句抽出部210と同様の処理により取得し、得られた語句を話題度算出部250内の処理対象語句バッファ(図示せず)に蓄積する。
ステップ640) 処理対象語句バッファ(図示せず)から語句wkを一つ取り出し、種話題情報データベース220を参照して当該語句を持つ種話題情報内の発信源情報を取得し、集計することにより、語句wを使用したことのある発信源Sとその語句を使用した回数X(S,w)の組からなる語句使用発信源情報を作成する。
例えば、「野球」という語句について種話題情報データベース220から取得された発信源情報が、「発信源j」「発信源j」「発信源j」「発信源k」「発信源n」「発信源n」といった場合には、「発信源j 3回,発信源k 1回,発信源n 2回」という語句使用発信源情報を作成する。但し、ステップ650で語句使用回数を用いない場合は、語句使用発信源情報に語句使用回数を含める必要はない。
ステップ650) 関連度データベース240から、指定された文書情報の発信源Siと語句使用発信源情報に含まれる各発信源Sとの関連度Rijの集合を取得し、その値をステップ620と同様に集計し、語句関連度分布Rwk(n)を求める。例えば、0.01刻みで集計する場合、
0.01*n≦Rij<0.01+(n+1)
の式を満たす発信源の個数をn=0〜100まで集計し、その語句関連度分布Rwk(n)(n=0…100)を求める。この際、ある範囲内の関連度を持つ発信源の個数を集計する代わりに、ある範囲内の関連度を持つ発信源の語句使用回数の合計を集計してもよい。例えば、処理対象文書の発信源がSで語句wについて語句関連度分布Rwk(n)を求める処理を行い、
0.01*5≦R8j<0.01*(5+1)
を満たす発信源がS,S10,S21の3つである場合に、範囲に含まれる発信源の数である“3”をRwk(5)に設定するのではなく、S,S10,S21の語句使用回数の和である
X(S,w)+X(S10,w)+X(S21,w
をRwk(5)に設定してもよい。
ステップ660) 語句wが処理対象文書Dの発信源Sとの関連度の高い発信源において多く使われている際に、分野の特徴的な語として高い値を設定するため、語句関連度分布と基準関連度分布とを全範囲における分布の値を足し合わせた値を用いて正規化し、高い関連度の範囲において上記正規化された語句関連度分布が上記正規化された基準関連度分布よりも大きくなっている場合に、話題度Scorer(wk)を高い値に算出する。
例えば、上記のステップ620とステップ650とのように、0.01刻みの関連度の範囲で集計した場合には、式(4)によってScorer(wk)が求められる。
Figure 0004592566
式(4)中のnは、基準関連度分布R(n)の重心を示す値であり、式(5)により求められる。
Figure 0004592566
ステップ670) 得られた語句wと話題度Scorer(wk)の組を、話題度出力部260に出力する。
ステップ680) 処理対象語句バッファ(図示せず)中の全ての語句について、ステップ640からステップ670までの処理を行ったかを判定し、未処理の語句が存在する場合はステップ640に移行する。全ての語句について処理済みの場合は話題度算出部250の処理を終了する。
話題度出力部260は、話題度算出部250から受け取った語句と当該語句の話題度の組み合わせを語句話題度記録装置290に出力する。この際、出力量の軽減のため、予め設定された値以上の話題度を持つ語句のみに限って出力してもよい。語句話題度記録装置290に出力される語句とその話題度の例を図9に示す。
[第2の実施の形態]
図10は、本発明の第2の実施の形態における話題度算出装置の構成を示す。
同図に示す話題度算出装置には、本装置の入力となる文書データを蓄積する文書データベース200と本装置が出力する語句の話題度を記録する語句話題度記録装置290とが接続されている。
本実施の形態における話題度算出装置は、文書内語句抽出部210、種話題情報データベース220、発信源関連度算出部230、関連度データベース240、話題度算出部250、時間重み算出部860及び話題度出力部870から構成される。
このうち、文書内語句抽出部210、種話題情報データベース220、発信源関連度算出部230、関連度データベース240、話題度算出部250は、前述の第1の実施の形態と同様の動作をする。
本実施の形態では、作成時刻と発信源の情報が含まれた文書を処理対象とする。
第1の実施の形態で示した処理文書の所属する分野でよく扱われる語に対し高い話題度を算出する方法では、当該分野での専門用語のような使用される分野が特定されるが、その分野の中では一般的に用いられているような語句も高い話題度が算出されてしまう。
それに対し、処理対象文書の作成時刻と同じ時期において特徴的に多く取り扱われている語句に重みをつける時間重み算出部860を設け、話題度算出部250において話題度算出部250で得られた話題度と時間重み算出部860で得られた時間重みとの両方を考慮した話題度を新たに算出することにより、処理対象文書の作成された時期においてある分野で特徴的に用いられた語句のみに高い話題度を設定することを可能とする。
図11は、本発明の第2の実施の形態における概要動作のフローチャートである。
前述の第1の実施の形態における図4に示すステップ101〜ステップ103については同様の動作であるので、その説明は省略する。
ステップ201) 時間重み算出部860において、処理対象文書に含まれる各語句に対して、処理対象文書の作成時期に多く使用されている度合いを、当該語句の時間重み値とする。
ステップ202) 話題度出力部870において、処理対象文書に含まれる各語句に対して、話題度算出部250で得られた当該語句の話題度と、時間重み算出部860で得られた当該語句の時間重みとを掛け合わせて得られた値を、時間による注目度の変化を考慮した当該語句の話題度とする。
ステップ203) 話題度出力部870は、上記のステップ202で得られた話題度を語句話題度記録装置290に出力する。
次に、本実施の形態における、話題度算出装置の詳細な動作を図10の構成図に基づいて説明する。
以下では、第1の実施の形態にはない時間重み算出部860と第1の実施の形態とは異なる話題度算出部870の動作について説明する。
時間重み算出部860は、話題度算出部250と同様に、話題語句抽出処理の対象となる処理対象文書の指定を入力として受け付け、文書内語句抽出部210と同様の処理を行うことにより得られた処理対象文書中の全ての語句について、例えば、特開2005−276115号公報に示されるような処理対象文書の作成時刻において、当該語句の出現頻度が増加している語句に対して高い重みを付ける手法を、種話題情報データベース220を参照して適用することにより、時間重みScoret(wk)を算出する。
話題度出力部870は、処理対象文書に含まれる語句wkそれぞれに対し、処理対象文書の含まれる分野で特徴的に出現し、なおかつ処理対象文書の作成時刻において使用頻度が増加している語句に、文書の話題を表す語として高い話題度を算出し出力する。
話題度出力部870は、語句wについて話題度算出部250からwの話題度Scorer(wk)を、時間重み算出部860からwkの時間重みScoret(wk)をそれぞれ受け取り、Scorer(wk)とScoret(wk)を掛け合わせることにより、分野的な特徴度と時間的な特徴度との両方を評価した語句の話題度Score(wk)を算出し、語句話題度記録装置290に出力する。この際、出力量の軽減のため、予め設定された値以上の話題度を持つ語句のみに限って出力してもよい。
本発明は、上記の第1・第2の実施の形態で示した話題度算出装置の動作をプログラムとして構築し、話題度算出装置として動作する種話題情報データベース220、関連度データベース240にアクセス可能なコンピュータにインストールする、または、ネットワークを介して流通させることも可能である。
また、構築されたプログラムをハードディスク装置や、フレキシブルディスク・CD−ROM等の可搬記憶媒体に格納し、コンピュータにインストールして実行させる、または、配布することが可能である。
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
本発明は、文書中の語句の話題度を算出する技術に適用可能である。
本発明の原理を説明するための図である。 本発明の原理構成図である。 本発明の第1の実施の形態における話題度算出装置の構成図である。 本発明の第1の実施の形態における概要動作のフローチャートである。 本発明の第1の実施の形態における種話題情報データベースに蓄積される種話題情報の例である。 本発明の第1の実施の形態における関連度データベースに蓄積される関連度情報の例である。 本発明の第1の実施の形態における発信源関連度算出部の動作のフローチャートである。 本発明の第1の実施の形態における話題度算出部の処理を説明する図である。 本発明の第1の実施の形態における語句話題度記録装置への出力の例である。 本発明の第2の実施の形態における話題度算出装置の構成図である。 本発明の第2の実施の形態における概要動作のフローチャートである。
符号の説明
200 文書データベース
210 語句抽出手段、文書内語句抽出部
220 語句データベース、種話題情報データベース
230 発信源関連度算出手段、発信源関連度算出部
240 関連度データベース
250 話題度算出手段、話題度算出部
260 話題度出力手段、話題度出力部
290 語句話題度記録装置
860 時間重み算出部
870 話題出力部

Claims (8)

  1. 多数の情報発信源によって作成された文書の集合を解析し、処理対象文書中に含まれる語句に対して話題性の強度を算出する話題度算出方法であって、
    語句抽出手段が、文書を作成した発信源の情報を有する文書の集合が入力されると、該文書の集合を解析して、話題性評価の対象となる語句を当該文書中から切り出し、発信源情報を付与して語句データベースに記録する語句抽出ステップと、
    発信源関連度算出手段が、発信源を単位として、発信源の文書から切り出した前記語句の出現回数を特徴量とする発信源特徴量リストを発信源特徴量バッファに蓄積し、1組の発信源iと発信源jとの類似度合いを示す関連度Rijを当該発信源の前記発信源特徴リストから算出し、関連度データベースに記録する発信源関連度算出ステップと、
    話題度算出手段が、処理対象文書を入力として受け付け、当該処理対象文書の発信源iに基づく基準関連度分布と、前記処理対象文書に含まれる語句kそれぞれに対して得られる語句関連度分布とから、当該語句kの話題となっている度合いを算出する話題度算出ステップと、
    を行い、
    前記話題度算出ステップにおいて、
    前記処理対象文書の発信源iとそれ以外の発信源jとの関連度Rijを前記関連度データベースから取得し、決められた数N個に分割された関連度の刻みごとに当該関連度の刻みに該当する関連度Rijを有する発信源jの数を集計した情報である前記基準関連度分布を求め、
    前記語句データベースを参照して前記語句kを持つ発信源lを取得し、前記発信源iと当該発信源lとの関連度Rilを前記関連度データベースから取得し、前記関連度の刻みごとに当該関連度の刻みに該当する関連度Rilを有する発信源lの数を集計した情報である前記語句関連度分布を求め、
    前記基準関連度分布と前記語句関連度分布とから、基準関連度分布と語句関連度分布を比較して、当該語句kの語句関連度分布が基準関連度分布よりも関連度の高い範囲に偏っている場合に、当該処理対象文書の発信源iに関連の高い文書で多く扱われる話題語であるとみなし、決められた関連度の刻みそれぞれにおいて、当該刻みにおける関連度nから基準関連度分布の重心における関連度の値n0を引いた値と、当該刻みにおける語句関連度分布の値から基準関連度分布の値を引いた値とを掛け合わせた値を求め、それらを足し合わせた値を当該語句kの話題となっている度合いとする、
    ことを特徴とする話題度算出方法。
  2. 前記語句関連度分布の関連度の刻みごとの数を、当該刻みに該当する発信源lでの前記語句kの使用回数の合計とする
    請求項1記載の話題度算出方法。
  3. 前記基準関連度分布と前記語句関連度分布とをそれぞれに正規化し、正規化された基準関連度分布と語句関連度分布とを用いて、前記語句kの話題となっている度合いを求める
    請求項1または2記載の話題度算出方法。
  4. 多数の情報発信源によって作成された文書の集合を解析し、処理対象文書中に含まれる語句に対して話題性の強度を算出する話題度算出装置であって、
    語句抽出手段が、文書を作成した発信源の情報を有する文書の集合が入力されると、該文書の集合を解析して、話題性評価の対象となる語句を当該文書中から切り出し、発信源情報を付与して語句データベースに記録する語句抽出手段と、
    発信源を単位として、発信源の文書から切り出した前記語句の出現回数を特徴量とする発信源特徴量リストを発信源特徴量バッファに蓄積し、1組の発信源iと発信源jとの類似度合いを示す関連度Rijを当該発信源の前記発信源特徴リストから算出し、関連度データベースに記録する発信源関連度算出手段と、
    処理対象文書を入力として受け付け、当該処理対象文書の発信源iに基づく基準関連度分布と、前記処理対象文書に含まれる語句kそれぞれに対して得られる語句関連度分布とから、当該語句kの話題となっている度合いを算出する話題度算出手段と、を有し、
    前記話題度算出手段は、
    前記処理対象文書の発信源iとそれ以外の発信源jとの関連度Rijを前記関連度データベースから取得し、決められた数N個に分割された関連度の刻みごとに当該関連度の刻みに該当する関連度Rijを有する発信源jの数を集計した情報である前記基準関連度分布を求め、
    前記語句データベースを参照して前記語句kを持つ発信源lを取得し、前記発信源iと当該発信源lとの関連度Rilを前記関連度データベースから取得し、前記関連度の刻みごとに当該関連度の刻みに該当する関連度Rilを有する発信源lの数を集計した情報である前記語句関連度分布を求め、
    前記基準関連度分布と前記語句関連度分布とから、基準関連度分布と語句関連度分布を比較して、当該語句kの語句関連度分布が基準関連度分布よりも関連度の高い範囲に偏っている場合に、当該処理対象文書の発信源iに関連の高い文書で多く扱われる話題語であるとみなし、決められた関連度の刻みそれぞれにおいて、当該刻みにおける関連度nから基準関連度分布の重心における関連度の値n0を引いた値と、当該刻みにおける語句関連度分布の値から基準関連度分布の値を引いた値とを掛け合わせた値を求め、それらを足し合わせた値を当該語句kの話題となっている度合いとする手段を含む、
    ことを特徴とする話題度算出装置。
  5. 前記話題度算出手段は、
    前記語句関連度分布の関連度の刻みごとの数を、当該刻みに該当する発信源lでの前記語句kの使用回数の合計とする手段を含む
    請求項4記載の話題度算出装置。
  6. 前記話題度算出手段は、
    前記基準関連度分布と前記語句関連度分布とをそれぞれに正規化し、正規化された基準関連度分布と語句関連度分布とを用いて、前記語句kの話題となっている度合いを求める手段を含む
    請求項4または5記載の話題度算出装置。
  7. 請求項4乃至6のいずれか1項に記載の話題度算出装置を構成する各手段としてコンピュータを機能させるための話題度算出プログラム。
  8. 請求項7に記載のプログラムを格納したことを特徴とする話題度算出プログラムを格納したコンピュータ読み取り可能な記録媒体。
JP2005329268A 2005-11-14 2005-11-14 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体 Expired - Fee Related JP4592566B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005329268A JP4592566B2 (ja) 2005-11-14 2005-11-14 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005329268A JP4592566B2 (ja) 2005-11-14 2005-11-14 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2007140602A JP2007140602A (ja) 2007-06-07
JP4592566B2 true JP4592566B2 (ja) 2010-12-01

Family

ID=38203423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005329268A Expired - Fee Related JP4592566B2 (ja) 2005-11-14 2005-11-14 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP4592566B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109726383B (zh) * 2017-10-27 2023-06-23 普天信息技术有限公司 一种文章语义向量表示方法和系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4206961B2 (ja) * 2004-04-30 2009-01-14 日本電信電話株式会社 話題抽出方法及び装置及びプログラム

Also Published As

Publication number Publication date
JP2007140602A (ja) 2007-06-07

Similar Documents

Publication Publication Date Title
US7895205B2 (en) Using core words to extract key phrases from documents
US7783629B2 (en) Training a ranking component
JP5116775B2 (ja) 情報検索方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体
KR101681109B1 (ko) 대표 색인어와 유사도를 이용한 문서 자동 분류 방법
US9256649B2 (en) Method and system of filtering and recommending documents
WO2006115260A1 (ja) 情報解析報告書自動作成装置、情報解析報告書自動作成プログラムおよび情報解析報告書自動作成方法
JP2009122807A (ja) 連想検索システム
CN109815499B (zh) 信息关联方法和系统
CN112632396A (zh) 一种文章推荐方法、装置、电子设备及可读存储介质
JP2010198142A (ja) 文書中に含まれる語句がカテゴリ別に配属されるデータベースの作成装置、データベースの作成方法、および、データベースの作成プログラム
JP4479745B2 (ja) 文書の類似度補正方法、プログラムおよびコンピュータ
JP4795856B2 (ja) クラスタリング方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体
JP4592566B2 (ja) 話題抽出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体
JP2006331245A (ja) 情報検索装置、情報検索方法およびプログラム
JP4977004B2 (ja) 関連キーワード抽出方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体
JP2006318398A (ja) ベクトル生成方法及び装置及び情報分類方法及び装置及びプログラム及びプログラムを格納したコンピュータ読み取り可能な記憶媒体
CN118094019A (zh) 一种文本关联内容推荐方法、装置及电子设备
JP5295818B2 (ja) 文書中に含まれる語句がカテゴリ別に配属されるデータベースの作成装置、データベースの作成方法、および、データベースの作成プログラム
JP2009104296A (ja) 関連キーワード抽出方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体
CN111831796B (zh) 一种用户请求的处理方法、装置、电子设备及存储介质
JP4539616B2 (ja) 意見収集分析装置及びそれに用いる意見収集分析方法並びにそのプログラム
Balaji et al. Finding related research papers using semantic and co-citation proximity analysis
KR101096431B1 (ko) 도서 분류 방법 및 도서 분류 시스템
JP5269481B2 (ja) 関連キーワード抽出装置及びプログラム及びコンピュータ読取可能な記録媒体
JP2010244341A (ja) 属性表現獲得方法及び装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100914

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130924

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees