Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5048001B2 - Concatenated cost adjustment apparatus, method, and program - Google Patents
[go: Go Back, main page]

JP5048001B2 - Concatenated cost adjustment apparatus, method, and program - Google Patents

Concatenated cost adjustment apparatus, method, and program Download PDF

Info

Publication number
JP5048001B2
JP5048001B2 JP2009035575A JP2009035575A JP5048001B2 JP 5048001 B2 JP5048001 B2 JP 5048001B2 JP 2009035575 A JP2009035575 A JP 2009035575A JP 2009035575 A JP2009035575 A JP 2009035575A JP 5048001 B2 JP5048001 B2 JP 5048001B2
Authority
JP
Japan
Prior art keywords
cost
speech
adjustment
words
concatenated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009035575A
Other languages
Japanese (ja)
Other versions
JP2010191698A (en
Inventor
博晴 今野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2009035575A priority Critical patent/JP5048001B2/en
Publication of JP2010191698A publication Critical patent/JP2010191698A/en
Application granted granted Critical
Publication of JP5048001B2 publication Critical patent/JP5048001B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Machine Translation (AREA)
  • Document Processing Apparatus (AREA)

Description

本発明は、形態素解析辞書において連接コストを調整する装置、方法、およびプログラムに関する。   The present invention relates to an apparatus, a method, and a program for adjusting a connection cost in a morphological analysis dictionary.

従来、自然言語で書かれた文を単語列に分割し、それぞれの単語の品詞および活用形を判別する形態素解析の技術が利用されている。この形態素解析においては、品詞情報付きの単語リストを含む形態素解析辞書を参照し、文を単語列に分割する。   2. Description of the Related Art Conventionally, a morphological analysis technique is used in which a sentence written in a natural language is divided into word strings, and the part of speech and the utilization form of each word are determined. In this morphological analysis, a sentence is divided into word strings by referring to a morphological analysis dictionary including a word list with part-of-speech information.

このとき、単語間の結び付きにくさを数値として表す連接コストを付与し、この連接コストの合計が最小となる単語列を解析結果として出力する方法が多く採用される(例えば、特許文献1参照)。   At this time, a method is often employed in which a concatenation cost that represents the difficulty of connecting words as a numerical value is given and a word string that minimizes the sum of the concatenation costs is output as an analysis result (see, for example, Patent Document 1). .

さらに、単語自体の出現しにくさを数値として現す生起コストを付与し、連接コストおよび生起コストの合計が最小となる単語列を解析結果として出力する方法(最小コスト法)も採用される。例えば、図9に示すように、「くるまでまつ」という文を単語列に分割する場合、複数のパターンが抽出される。この中で、連接コスト(図中の矢印に記載されている値)と、生起コスト(図中の枠内に記載されている値)の合計が最小(この例では「7400」)となる組合せが、解析結果として出力される。   Furthermore, a method (minimum cost method) is adopted in which an occurrence cost that expresses the difficulty of appearance of the word itself as a numerical value is given and a word string that minimizes the sum of the concatenation cost and the occurrence cost is output as an analysis result. For example, as shown in FIG. 9, when a sentence “Fill until coming” is divided into word strings, a plurality of patterns are extracted. Among these, the combination in which the sum of the concatenation cost (value indicated by the arrow in the figure) and the occurrence cost (value indicated in the frame in the figure) is the minimum (in this example, “7400”) Is output as an analysis result.

また、形態素解析の手法は、これらには限られない。特に日本語のように単語の境界位置が明示的ではない言語においては、単語境界同定と品詞同定を同時に行う必要がある。このような状況において、これまでに様々な解析手法が提案されており(例えば、非特許文献1参照)、形態素解析結果の精度向上が図られている。   Moreover, the method of morphological analysis is not limited to these. In particular, in a language such as Japanese in which the boundary position of a word is not explicit, it is necessary to perform word boundary identification and part of speech identification at the same time. Under such circumstances, various analysis methods have been proposed so far (see, for example, Non-Patent Document 1), and the accuracy of morphological analysis results has been improved.

しかしながら、いずれの手法においても、解析結果の精度は、使用する形態素解析辞書の精度に依存しており、辞書の生成および調整が重要な課題となっている。そこで、例えば、単語のグループ化や、統計値とのスムージングの手法も提案されている(例えば、非特許文献2参照)。   However, in any of the methods, the accuracy of the analysis result depends on the accuracy of the morphological analysis dictionary to be used, and generation and adjustment of the dictionary are important issues. Thus, for example, methods for grouping words and smoothing with statistical values have been proposed (see, for example, Non-Patent Document 2).

特開2002−157244号公報JP 2002-157244 A

「Conditional Random Fieldsを用いた日本語形態素解析」、情報処理学会研究報告、自然言語処理研究会報告、2004−NL−161−(13)"Japanese morphological analysis using Conditional Random Fields", Information Processing Society of Japan Research Report, Natural Language Processing Study Group Report, 2004-NL-161- (13) 「統計的日本語形態素解析に対する拡張HMMモデル」、情報処理学会研究報告、自然言語処理研究会報告、2000−NL−137−6"Extended HMM model for statistical Japanese morphological analysis", Information Processing Society of Japan Research Report, Natural Language Processing Study Group Report, 2000-NL-137-6

ここで、上述のように、連接コストを用いた手法を採用する場合には、形態素解析辞書に各単語間の連接コストが精度良く登録されていることが望まれる。この連接コストは、ある構造化された文書データ(コーパス)に基づいて算出されるので、このコーパスの分量が多いほど、精度の向上が期待できる。   Here, as described above, when the method using the connection cost is adopted, it is desired that the connection cost between the words is registered with high accuracy in the morphological analysis dictionary. Since this concatenation cost is calculated based on a certain structured document data (corpus), an improvement in accuracy can be expected as the amount of the corpus increases.

しかしながら、巨大なコーパスを用意する労力と、算出処理の負荷とを低減するため、現実的には十分な分量は与えられない。そして、コーパスの分量が十分でない場合には、同等のコストに収束すべき複数の連接コストにばらつきが生じる場合があった。   However, in order to reduce the labor for preparing a huge corpus and the load of calculation processing, in reality, a sufficient amount cannot be given. If the amount of corpus is not sufficient, there may be a variation in a plurality of concatenated costs that should converge to an equivalent cost.

このような連接コストのばらつきは、既知のスムージングの手法を用いても、改善効果は、やはり与えられる学習データ(コーパス)の分量や精度に依存する。したがって、形態素解析辞書の内容が、経験や統計的に知られている言語知識の内容と乖離してしまう可能性があった。   Such variation in concatenated cost, even if a known smoothing method is used, the improvement effect still depends on the amount and accuracy of given learning data (corpus). Therefore, there is a possibility that the contents of the morphological analysis dictionary may deviate from the contents of linguistic knowledge known from experience and statistics.

そこで本発明は、連接コストの統計的ばらつきを言語知識により平準化することができる装置、方法、およびプログラムを提供することを目的とする。   Therefore, an object of the present invention is to provide an apparatus, a method, and a program capable of leveling statistical variations in connection costs based on language knowledge.

本発明では、以下のような解決手段を提供する。   The present invention provides the following solutions.

(1) 最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する連接コスト調整装置であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出手段と、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付手段と、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整手段と、を備える連接コスト調整装置。
(1) In the morphological analysis dictionary used in the minimum cost method, a concatenated cost adjustment device that adjusts the statistical variation of the concatenated cost between words,
Based on a predetermined corpus, calculation means for calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
Receiving means for receiving an input for designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
A concatenated cost adjusting device comprising: adjusting means for adjusting concatenated costs between the words so that the concatenated costs of the part-of-speech pairs included in the specified combination are close to each other;

このような構成によれば、当該連接コスト調整装置は、最小コスト法で用いる形態素解析辞書において、所定のコーパスに基づいて、単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出し、品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付け、指定された組合せに含まれる品詞対の連接コストを互いに近付けるように、単語間の連接コストを調整する。   According to such a configuration, the connection cost adjustment device is a combination of a connection cost between words and a predetermined part of speech to which each word belongs, based on a predetermined corpus in the morphological analysis dictionary used in the minimum cost method. Calculate the concatenation cost of part-of-speech pairs, accept input specifying part-of-speech pair combinations that should have equivalent part-of-speech pair concatenation costs, and use words to bring the concatenation costs of part-of-speech pairs included in the specified combination closer to each other Adjust the connection cost between.

このことにより、当該連接コスト調整装置は、品詞間の結び付きに関する既存の言語知識に基づいて与えられ得る、品詞対の連接コストが同等であるべき品詞対の組合せ(接続グループ)を入力として受け付けることができる。そして、当該連接コスト調整装置は、この接続グループ内で、品詞対の連接コストを比較することにより、形態素解析辞書に格納されている単語間の連接コストを調整するので、形態素解析の精度に係る連接コストのばらつきを言語知識により平準化することができる。   Thus, the concatenated cost adjustment device accepts as input a combination of part of speech pairs (connection group) that can be given based on existing linguistic knowledge related to the connection between parts of speech and that the concatenated cost of part of speech pairs should be equivalent. Can do. And the said connection cost adjustment apparatus adjusts the connection cost between the words stored in the morphological analysis dictionary by comparing the connection cost of a part-of-speech pair within this connection group. Variations in connection costs can be leveled with language knowledge.

さらに、コーパスの分量が十分でないことに起因する連接コスト(単語間の連接コストおよび品詞対の連接コスト)の不正確さを、品詞対の連接コストのばらつきを平準化することにより緩和できる可能性がある。   In addition, the inaccuracy of concatenation costs (joint costs between words and concatenation costs of part-of-speech pairs) due to insufficient amount of corpus can be mitigated by leveling the dispersion of concatenation costs of part-of-speech pairs. There is.

(2) 前記受付手段は、前記調整手段による前記単語間の連接コストの調整強度を指定する入力をさらに受け付け、
前記調整手段は、前記受付手段により受け付けた調整強度に基づいて、前記単語間の連接コストの調整量を決定することを特徴とする(1)に記載の連接コスト調整装置。
(2) The accepting means further accepts an input designating an adjustment strength of the connection cost between the words by the adjusting means,
The said adjustment means determines the adjustment amount of the connection cost between the said words based on the adjustment intensity received by the said reception means, The connection cost adjustment apparatus as described in (1) characterized by the above-mentioned.

このような構成によれば、当該連接コスト調整装置は、単語間の連接コストの調整強度を指定する入力をさらに受け付け、受け付けた調整強度に基づいて、単語間の連接コストの調整量を決定する。   According to such a configuration, the concatenated cost adjusting apparatus further receives an input designating the adjustment strength of the concatenated cost between words, and determines the adjustment amount of the concatenated cost between words based on the received adjustment strength. .

このことにより、当該連接コスト調整装置は、品詞対の連接コストを平準化するための調整量を、調整強度の入力に基づいて決定することができる。したがって、例えば、接続グループごとに設定された調整強度に基づいて、平準化の度合いをそれぞれ異ならせることができる。   Accordingly, the connection cost adjusting apparatus can determine an adjustment amount for leveling the connection cost of the part-of-speech pairs based on the input adjustment strength. Therefore, for example, the leveling level can be varied based on the adjustment strength set for each connection group.

(3) 前記調整手段は、前記品詞対の連接コストのそれぞれと前記受付手段により受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定することを特徴とする(2)に記載の連接コスト調整装置。   (3) The adjustment unit multiplies the adjustment strength by a difference between each connection cost of the part of speech pair and an average value of the connection cost of the part of speech pair in the combination received by the reception unit, and The connection cost adjustment device according to (2), wherein an adjustment amount of a connection cost between words is determined.

このような構成によれば、当該連接コスト調整装置は、品詞対の連接コストの平均値へ接近するように品詞対の連接コストを平準化させることができる。このとき、調整強度に応じた同一の割合で平均値へ接近させるので、平均値を変化させることなく調整することができる。   According to such a configuration, the connection cost adjusting apparatus can level the connection cost of the part of speech pairs so as to approach the average value of the connection costs of the part of speech pairs. At this time, the average value is approached at the same ratio according to the adjustment strength, and therefore the adjustment can be made without changing the average value.

(4) 前記調整手段は、前記単語間の連接コストのそれぞれと前記受付手段により受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定することを特徴とする(2)に記載の連接コスト調整装置。   (4) The adjustment unit multiplies the adjustment strength by a difference between each of the connection costs between the words and an average value of the connection costs of the part-of-speech pairs in the combination received by the reception unit, The connection cost adjustment device according to (2), wherein an adjustment amount of a connection cost between words is determined.

このような構成によれば、当該連接コスト調整装置は、品詞対の連接コストの平均値へ接近するように品詞対の連接コストを平準化させることができる。さらに、単語間の連接コストのそれぞれに関して、調整強度に応じた異なる調整量が決定されるので、同一品詞対内での単語間の連接コストのばらつきを緩和できる可能性がある。   According to such a configuration, the connection cost adjusting apparatus can level the connection cost of the part of speech pairs so as to approach the average value of the connection costs of the part of speech pairs. Furthermore, since different adjustment amounts are determined according to the adjustment strength for each of the concatenation costs between words, there is a possibility that variations in the concatenation costs between words within the same part-of-speech pair can be alleviated.

(5) 前記受付手段は、前記調整手段による調整が不要な前記品詞対の連接コストの許容差を指定する入力をさらに受け付け、
前記調整手段は、前記受付手段により受け付けた組合せに含まれる品詞対の連接コストが当該組合せ内の平均値から前記許容差以内である場合、当該品詞対に係る前記単語間の連接コストを調整しないことを特徴とする(1)から(4)のいずれかに記載の連接コスト調整装置。
(5) The accepting means further accepts an input for designating a tolerance of the joint cost of the part-of-speech pairs that does not require adjustment by the adjusting means,
The adjusting means does not adjust the concatenated cost between the words related to the part-of-speech pair when the concatenated cost of the part-of-speech pair included in the combination received by the receiving means is within the tolerance from the average value in the combination. The connected cost adjusting apparatus according to any one of (1) to (4), wherein:

このような構成によれば、当該連接コスト調整装置は、調整が不要な品詞対の連接コストの許容差を指定する入力をさらに受け付け、受け付けた組合せに含まれる品詞対の連接コストが当該組合せ内の平均値から許容差以内である場合、当該品詞対に係る単語間の連接コストを調整しない。   According to such a configuration, the concatenated cost adjusting apparatus further accepts an input designating a tolerance of the concatenated cost of the part-of-speech pair that does not require adjustment, and the concatenated cost of the part-of-speech pair included in the received combination is within the combination. If the average value is within the tolerance, the concatenation cost between words related to the part-of-speech pair is not adjusted.

このことにより、当該連接コスト調整装置は、調整が不要な品詞対の連接コストの許容差を受け付け、この許容差以内のばらつきを許容して品詞対の連接コストおよび単語間の連接コストを調整しない。したがって、厳密に品詞対の連接コストを一致させる必要のない接続グループにおいて、無用な処理負荷を低減しつつ、実用に耐える平準化を実現することができる。   As a result, the concatenated cost adjusting apparatus accepts the tolerance of the concatenated cost of part-of-speech pairs that do not need to be adjusted, and does not adjust the concatenated cost of parts-of-speech pairs and the concatenated cost between words by allowing variations within this tolerance. . Therefore, it is possible to achieve leveling that can withstand practical use while reducing unnecessary processing load in a connection group that does not require the connection costs of part-of-speech pairs to be exactly the same.

(6) コンピュータが最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する方法であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出ステップと、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付ステップと、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整ステップと、を含む方法。
(6) In a morphological analysis dictionary used by a computer in a minimum cost method, a method of adjusting statistical variation in concatenated costs between words,
Based on a predetermined corpus, a calculation step of calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
An accepting step of accepting an input designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
Adjusting the concatenation cost between the words so that the concatenation costs of the part-of-speech pairs included in the specified combination are close to each other.

このような構成によれば、当該方法を実行することにより、(1)と同様の効果が期待できる。   According to such a configuration, the same effect as in (1) can be expected by executing the method.

(7) (6)に記載の方法をコンピュータに実行させるプログラム。   (7) A program that causes a computer to execute the method according to (6).

このような構成によれば、当該プログラムをコンピュータに実行させることにより、(1)と同様の効果が期待できる。   According to such a configuration, the same effect as in (1) can be expected by causing the computer to execute the program.

本発明によれば、形態素解析辞書における連接コストの統計的ばらつきを言語知識により平準化することができる。   According to the present invention, it is possible to level the statistical variation of the connection cost in the morphological analysis dictionary using language knowledge.

本発明の実施形態に係る形態素解析システムの全体構成を示す図である。It is a figure showing the whole morphological analysis system composition concerning an embodiment of the present invention. 本発明の実施形態に係る辞書調整サーバのハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of the dictionary adjustment server which concerns on embodiment of this invention. 本発明の実施形態に係る辞書調整サーバの機能構成を示す図である。It is a figure which shows the function structure of the dictionary adjustment server which concerns on embodiment of this invention. 本発明の実施形態に係る連接コスト統計テーブルを示す図である。It is a figure which shows the connection cost statistics table which concerns on embodiment of this invention. 本発明の実施形態に係る接続グループテーブルを示す図である。It is a figure which shows the connection group table which concerns on embodiment of this invention. 本発明の実施形態に係る連接コストの調整量を決定する方法を例示する図である。It is a figure which illustrates the method of determining the adjustment amount of the connection cost which concerns on embodiment of this invention. 本発明の実施形態に係る制御部の処理を示すフローチャートである。It is a flowchart which shows the process of the control part which concerns on embodiment of this invention. 本発明の実施形態に係る単語間の連接コストを調整する処理を示すフローチャートである。It is a flowchart which shows the process which adjusts the connection cost between the words which concern on embodiment of this invention. 従来技術に係る最小コスト法を説明する図である。It is a figure explaining the minimum cost method concerning a prior art.

以下、本発明の実施形態の一例について図を参照しながら説明する。   Hereinafter, an example of an embodiment of the present invention will be described with reference to the drawings.

[システム全体構成]
図1は、本実施形態に係る辞書調整サーバ10(連接コスト調整装置)と関連要素とを含んだ形態素解析システム1の全体構成を示す図である。形態素解析システム1は、辞書調整サーバ10と、形態素解析サーバ20と、を備え、それぞれのサーバが辞書DB40を介して協働している。
[Entire system configuration]
FIG. 1 is a diagram showing an overall configuration of a morphological analysis system 1 including a dictionary adjustment server 10 (concatenated cost adjustment device) and related elements according to the present embodiment. The morpheme analysis system 1 includes a dictionary adjustment server 10 and a morpheme analysis server 20, and each server cooperates via a dictionary DB 40.

辞書調整サーバ10は、コーパスDB30を入力として、単語間の連接コストを算出し、辞書DB40へ形態素解析用の辞書データとして登録する。このとき、処理の効率化のため、コーパスDB30の分量は少なく抑えられることが多い。その結果、算出される連接コストの信頼性は十分ではない。そこで、辞書調整サーバ10は、外部から提供される後述の接続グループ定義に基づいて、辞書DB40の登録データを調整し、形態素解析サーバ20による形態素解析処理の精度を向上させる。   The dictionary adjustment server 10 receives the corpus DB 30 as an input, calculates a concatenated cost between words, and registers it as dictionary data for morphological analysis in the dictionary DB 40. At this time, in order to improve processing efficiency, the amount of the corpus DB 30 is often kept small. As a result, the reliability of the calculated connection cost is not sufficient. Therefore, the dictionary adjustment server 10 adjusts registration data in the dictionary DB 40 based on a connection group definition described later provided from the outside, and improves the accuracy of the morpheme analysis processing by the morpheme analysis server 20.

形態素解析サーバ20は、このように登録、調整された辞書DB40を参照し、入力文書を単語列に分解し、解析結果として出力する。なお、形態素解析サーバ20は、インターネット等の通信回線に接続され、PC(Personal Computer)やPDA(Personal Digital Assistant)等の情報端末からの要求に応じてサービスを提供する。   The morphological analysis server 20 refers to the dictionary DB 40 registered and adjusted in this way, decomposes the input document into word strings, and outputs the result as an analysis result. The morphological analysis server 20 is connected to a communication line such as the Internet and provides a service in response to a request from an information terminal such as a PC (Personal Computer) or a PDA (Personal Digital Assistant).

なお、形態素解析システム1は、2つのサーバおよび辞書DB40を備えた構成として説明するが、これには限られず、適宜、同一のサーバに統合してもよい。あるいは、機能ごとに、さらにサーバを分散させてもよい。   The morphological analysis system 1 is described as a configuration including two servers and the dictionary DB 40, but is not limited to this, and may be integrated into the same server as appropriate. Alternatively, the servers may be further distributed for each function.

[ハードウェア構成]
図2は、本実施形態に係る辞書調整サーバ10のハードウェア構成を示す図である。辞書調整サーバ10は、制御部300を構成するCPU(Central Processing Unit)310(マルチプロセッサ構成ではCPU320等複数のCPUが追加されてもよい)、バスライン200、通信I/F(I/F:インタフェース)330、メインメモリ340、BIOS(Basic Input Output System)350、I/Oコントローラ360、ハードディスク370、光ディスクドライブ380、並びに半導体メモリ390を備える。尚、ハードディスク370、光ディスクドライブ380、並びに、半導体メモリ390はまとめて記憶装置410と呼ばれる。
[Hardware configuration]
FIG. 2 is a diagram illustrating a hardware configuration of the dictionary adjustment server 10 according to the present embodiment. The dictionary adjustment server 10 includes a CPU (Central Processing Unit) 310 (a plurality of CPUs such as a CPU 320 may be added in a multiprocessor configuration), a bus line 200, and a communication I / F (I / F: An interface) 330, a main memory 340, a BIOS (Basic Input Output System) 350, an I / O controller 360, a hard disk 370, an optical disk drive 380, and a semiconductor memory 390. The hard disk 370, the optical disk drive 380, and the semiconductor memory 390 are collectively referred to as a storage device 410.

制御部300は、辞書調整サーバ10を統括的に制御する部分であり、ハードディスク370(後述)に記憶された各種プログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、本発明に係る各種機能を実現している。   The control unit 300 is a part that controls the dictionary adjustment server 10 in an integrated manner, and appropriately reads and executes various programs stored in the hard disk 370 (described later), thereby cooperating with the hardware described above. Various functions related to are realized.

通信I/F330は、辞書調整サーバ10が、ネットワークを介して図1の形態素解析サーバ20や他の情報端末等と情報を送受信する場合のネットワーク・アダプタである。通信I/F330は、モデム、ケーブル・モデムおよびイーサネット(登録商標)・アダプタを含んでよい。   The communication I / F 330 is a network adapter when the dictionary adjustment server 10 transmits / receives information to / from the morphological analysis server 20 of FIG. 1 and other information terminals via the network. The communication I / F 330 may include a modem, a cable modem, and an Ethernet (registered trademark) adapter.

BIOS350は、辞書調整サーバ10の起動時にCPU310が実行するブートプログラムや、辞書調整サーバ10のハードウェアに依存するプログラム等を記録する。   The BIOS 350 records a boot program executed by the CPU 310 when the dictionary adjustment server 10 is started, a program depending on the hardware of the dictionary adjustment server 10, and the like.

I/Oコントローラ360には、ハードディスク370、光ディスクドライブ380、および半導体メモリ390等の記憶装置410を接続することができる。   A storage device 410 such as a hard disk 370, an optical disk drive 380, and a semiconductor memory 390 can be connected to the I / O controller 360.

ハードディスク370は、本ハードウェアを辞書調整サーバ10として機能させるための各種プログラムや、本発明の機能を実行するプログラム等を記憶する。なお、辞書調整サーバ10は、外部に別途設けたハードディスク(図示せず)を外部記憶装置として利用することもできる。   The hard disk 370 stores various programs for causing the hardware to function as the dictionary adjustment server 10, programs for executing the functions of the present invention, and the like. The dictionary adjustment server 10 can also use an external hard disk (not shown) as an external storage device.

光ディスクドライブ380としては、例えば、DVD−ROMドライブ、CD−ROMドライブ、DVD−RAMドライブ、CD−RAMドライブを使用することができる。この場合は各ドライブに対応した光ディスク400を使用する。光ディスク400から光ディスクドライブ380によりプログラムまたはデータを読み取り、I/Oコントローラ360を介してメインメモリ340またはハードディスク370に提供することもできる。   As the optical disk drive 380, for example, a DVD-ROM drive, a CD-ROM drive, a DVD-RAM drive, or a CD-RAM drive can be used. In this case, the optical disk 400 corresponding to each drive is used. A program or data can be read from the optical disk 400 by the optical disk drive 380 and provided to the main memory 340 or the hard disk 370 via the I / O controller 360.

なお、本発明でいうコンピュータとは、記憶装置、制御部等を備えた情報処理装置をいい、辞書調整サーバ10は、記憶装置410、制御部300等を備えた情報処理装置により構成され、この情報処理装置は、本発明のコンピュータの概念に含まれる。   The computer in the present invention refers to an information processing device including a storage device, a control unit, and the like. The dictionary adjustment server 10 includes an information processing device including a storage device 410, a control unit 300, and the like. The information processing apparatus is included in the concept of the computer of the present invention.

[機能構成]
図3は、本実施形態に係る辞書調整サーバ10の機能構成を示す図である。辞書調整サーバ10の制御部300は、コスト算出部11(算出手段)と、接続グループ受付部12(受付手段)と、コスト調整部13(調整手段)と、を備え、記憶装置410は、統計DB14と、接続グループDB15と、を備える。
[Function configuration]
FIG. 3 is a diagram illustrating a functional configuration of the dictionary adjustment server 10 according to the present embodiment. The control unit 300 of the dictionary adjustment server 10 includes a cost calculation unit 11 (calculation unit), a connection group reception unit 12 (reception unit), and a cost adjustment unit 13 (adjustment unit). DB14 and connection group DB15 are provided.

コスト算出部11は、辞書DB40から辞書データを読み込み、さらにコーパスDB30に基づいて、単語間の結び付きに関する単語間の連接コストを算出して更新する。さらに、コスト算出部11は、生成または更新された単語間の連接コストを統計処理することにより、品詞間の結び付きに関する品詞対の連接コストを算出する。辞書DB40には、単語間の連接コストが格納されているが、コスト算出部11は、これらの単語を予め設定されている複数の品詞のいずれかに分類し、この品詞ごとの統計値、具体的には、例えば単語間の連接コストの平均値を算出する。そして、算出された統計値(品詞対の連接コスト)は、統計DB14に格納される。   The cost calculation unit 11 reads dictionary data from the dictionary DB 40, and further calculates and updates the concatenation cost between words related to the connection between words based on the corpus DB 30. Furthermore, the cost calculation unit 11 calculates the concatenation cost of the part-of-speech pair related to the connection between the parts of speech by statistically processing the concatenation cost between the generated or updated words. The dictionary DB 40 stores concatenated costs between words. The cost calculation unit 11 classifies these words into one of a plurality of parts of speech set in advance, and calculates a statistical value for each part of speech. Specifically, for example, an average value of connection costs between words is calculated. The calculated statistical value (joint cost of part-of-speech pairs) is stored in the statistical DB 14.

図4は、本実施形態に係る単語間の連接コストの統計値、すなわち品詞対の連接コストが記憶されている連接コスト統計テーブルを示す図である。連接コスト統計テーブルは、統計DB14に格納され、品詞とその活用形によって分類された単語間の連接コストの統計値(例えば平均値)を記憶する。例えば、「文頭」に「名サ自」が続く品詞対の場合の連接コストの統計値(品詞対の連接コスト)は、「1377」となる。同様に、「文頭」に「名サ他」が続く場合は「2052」、「形容 基本形」に「名詞」が続く場合は「975」となる。   FIG. 4 is a diagram showing a concatenated cost statistical table in which the statistical value of the concatenated cost between words according to the present embodiment, that is, the concatenated cost of the part of speech pairs is stored. The concatenated cost statistical table is stored in the statistical DB 14 and stores a statistical value (for example, an average value) of concatenated costs between words classified by part of speech and their utilization forms. For example, the statistical value of the concatenation cost (the concatenation cost of a part-of-speech pair) in the case of a part-of-speech pair in which “sentence” is followed by “named self” is “1377”. Similarly, “2052” is displayed when “Noun” is followed by “sentence”, and “975” is obtained when “noun” is followed by “adjective basic form”.

接続グループ受付部12は、品詞対の連接コストが同等の値であるべき複数の品詞対の組合せ(接続グループ)の入力を受け付け、接続グループDB15に記憶する。接続グループは、経験則や過去の統計情報に基づく言語知識により指定され、この接続グループに基づいて、辞書DB40における連接コストの統計的ばらつきが調整される。   The connection group reception unit 12 receives an input of a combination (connection group) of a plurality of part of speech pairs whose connection cost of the part of speech pair should have an equivalent value, and stores the combination in the connection group DB 15. The connection group is designated by linguistic knowledge based on empirical rules and past statistical information, and the statistical variation of the connection cost in the dictionary DB 40 is adjusted based on this connection group.

図5は、本実施形態に係る接続グループが記憶されている接続グループテーブルを示す図である。接続グループテーブルは、接続グループDB15に格納され、識別ID(接続グループID)に対して、品詞対の連接コストが同等であるべき品詞対の組合せ(接続グループ)と、強度および許容差を記憶する。   FIG. 5 is a diagram showing a connection group table in which connection groups according to the present embodiment are stored. The connection group table is stored in the connection group DB 15 and stores combinations of part-of-speech pairs (connection groups) in which the concatenated cost of part-of-speech pairs should be equivalent to the identification ID (connection group ID), strength, and tolerance. .

ここで、強度とは、調整により品詞対の連接コストを互いに近付ける度合いを示し、強度の値が大きいほど調整量が多くなる。また、許容差とは、接続グループ内での品詞対の連接コストのばらつきに関する許容範囲を示し、品詞対の連接コストの平均との差がこの範囲内であれば、その品詞対に関しての調整は不要である。   Here, the strength indicates the degree to which the connection cost of part-of-speech pairs is brought closer to each other by adjustment, and the amount of adjustment increases as the strength value increases. In addition, the tolerance indicates an allowable range regarding the variation in the connection cost of the part of speech pairs within the connection group. If the difference from the average of the connection costs of the part of speech pairs is within this range, the adjustment for the part of speech pair is not performed. It is unnecessary.

コスト調整部13は、接続グループテーブル(図5)を参照し、各接続グループ内の品詞対に関して、品詞対の連接コストを互いに近付けるように、辞書DB40に格納されている単語間の連接コストを調整する。このとき、コスト調整部13は、上述の強度および許容差に基づいて、各品詞対における単語間の連接コストの調整量を決定する。   The cost adjustment unit 13 refers to the connection group table (FIG. 5), and determines the concatenation cost between words stored in the dictionary DB 40 so that the concatenation costs of the part of speech pairs are brought close to each other for the part of speech pairs in each connection group. adjust. At this time, the cost adjustment unit 13 determines the adjustment amount of the concatenated cost between words in each part-of-speech pair based on the above-described strength and tolerance.

図6は、本実施形態に係る連接コストの調整量を決定する方法を例示する図である。この例では、接続グループ内に、3つの品詞対A、B、およびCが設定されている。そして、品詞対の連接コストの平均に対しては、品詞対B、C、Aの順に離れており、品詞対Bの連接コストは平均からの許容差内に入っている。   FIG. 6 is a diagram illustrating a method for determining the adjustment amount of the connection cost according to the present embodiment. In this example, three part-of-speech pairs A, B, and C are set in the connection group. Then, the average of the concatenated cost of part-of-speech pairs is separated in the order of part-of-speech pairs B, C, and A, and the concatenated cost of part-of-speech pair B is within the tolerance from the average.

この場合、品詞対Aおよび品詞対Cに関しては、指定された強度(例えば「0.5」)に応じた割合で、平均値へ近付く方向へ調整される。ところが、品詞対Bに関しては、許容差内にあるため、調整は行わず、品詞対の連接コストは維持される。   In this case, the part-of-speech pair A and the part-of-speech pair C are adjusted in a direction approaching the average value at a ratio according to the designated strength (for example, “0.5”). However, the part-of-speech pair B is within the tolerance, so no adjustment is made and the concatenation cost of the part-of-speech pair is maintained.

[処理フロー]
図7は、本実施形態に係る辞書調整サーバ10における制御部300の処理を示すフローチャートである。
[Processing flow]
FIG. 7 is a flowchart showing processing of the control unit 300 in the dictionary adjustment server 10 according to the present embodiment.

ステップS1では、制御部300は、コーパスDB30に基づいて、単語間の連接コストを算出し、辞書DB40を更新する。   In step S1, the control unit 300 calculates a concatenated cost between words based on the corpus DB 30, and updates the dictionary DB 40.

ステップS2では、制御部300は、辞書DB40から単語間の連接コスト情報を含む辞書データを読み込み、分類された品詞対のそれぞれに関する単語間の連接コストを統計処理し、品詞対の連接コストを算出する。   In step S2, the control unit 300 reads dictionary data including concatenated cost information between words from the dictionary DB 40, statistically processes the concatenated cost between words for each of the classified part of speech pairs, and calculates the concatenated cost of the part of speech pairs. To do.

ステップS3では、制御部300は、接続グループを指定されたか否かを判定する。具体的には、辞書調整サーバ10のユーザ(管理者)に対して、接続グループDB15に登録された接続グループIDのいずれか、または全てを選択させ、調整の指示入力をされたか否かを判定する。この判定がYESの場合はステップS4に移り、判定がNOの場合は処理を終了する。   In step S3, the control unit 300 determines whether a connection group is designated. Specifically, it is determined whether or not the user (administrator) of the dictionary adjustment server 10 selects any or all of the connection group IDs registered in the connection group DB 15 and inputs an adjustment instruction. To do. If this determination is YES, the process proceeds to step S4, and if the determination is NO, the process ends.

ステップS4では、制御部300は、ステップS3にて指定された接続グループに関して、辞書データにおける単語間の連接コストを調整する(図8にて詳述)。その後、制御部300は、調整結果を確認したユーザからの要求に応じて、コーパスDB30または他のコーパスを入力として算出および調整を繰り返す。このように一連の処理を繰り返すことで、より信頼性の高い連接コストへ収束させることができる。   In step S4, the control unit 300 adjusts the concatenation cost between words in the dictionary data for the connection group specified in step S3 (detailed in FIG. 8). Thereafter, the control unit 300 repeats calculation and adjustment using the corpus DB 30 or another corpus as an input in response to a request from the user who confirmed the adjustment result. Thus, by repeating a series of processes, it is possible to converge to a more reliable connection cost.

図8は、本実施形態に係る辞書調整サーバ10における制御部300の処理のうち、辞書データにおける単語間の連接コストを調整する処理(図7のステップS4)を示すフローチャートである。なお、本処理は、指定された接続グループそれぞれについて実行される。   FIG. 8 is a flowchart showing a process (step S4 in FIG. 7) of adjusting the concatenation cost between words in the dictionary data among the processes of the control unit 300 in the dictionary adjustment server 10 according to the present embodiment. This process is executed for each designated connection group.

ステップS11では、制御部300は、ステップS3(図7)にて指定された調整対象の接続グループにおける、品詞対の連接コストの平均値を算出する。   In step S11, the controller 300 calculates the average value of the concatenated cost of part-of-speech pairs in the connection group to be adjusted designated in step S3 (FIG. 7).

ステップS12では、制御部300は、調整対象の接続グループから、連接コストを調整する対象として、品詞対を1つ選択する。   In step S12, the control unit 300 selects one part-of-speech pair as a target for adjusting the connection cost from the connection group to be adjusted.

ステップS13では、制御部300は、連接コスト統計テーブル(図4)を参照し、ステップS12にて選択された品詞対の連接コストを取得する。そして、制御部300は、この取得した品詞対の連接コストと、ステップS11にて算出された平均値との差を算出し、この差が許容差以内か否かを判定する。この判定がYESの場合はステップS15に移り、判定がNOの場合はステップS14に移る。   In step S13, the control unit 300 refers to the concatenated cost statistics table (FIG. 4), and acquires the concatenated cost of the part-of-speech pair selected in step S12. Then, the control unit 300 calculates a difference between the acquired concatenated cost of part-of-speech pairs and the average value calculated in step S11, and determines whether this difference is within an allowable difference. If this determination is YES, the process proceeds to step S15, and if the determination is NO, the process proceeds to step S14.

ステップS14では、選択された品詞対に係る単語間の連接コストを調整する必要があるので、制御部300は、ステップS13にて算出された品詞対の連接コストと平均値との差に対して所定割合(強度)の調整量を決定する。そして、制御部300は、選択された品詞対に係る辞書DB50に格納された単語間の連接コストを、決定した調整量により更新する。   In step S14, since it is necessary to adjust the concatenation cost between words related to the selected part of speech, the control unit 300 determines the difference between the concatenation cost of the part of speech pair calculated in step S13 and the average value. An adjustment amount of a predetermined ratio (strength) is determined. And the control part 300 updates the connection cost between the words stored in dictionary DB50 which concerns on the selected part of speech pair with the determined adjustment amount.

ステップS15では、指定された接続グループ内の全ての品詞対を選択(ステップS12)して調整を行ったか否かを判定する。この判定がYESの場合は処理を終了し、判定がNOの場合は、ステップS12に戻って次の品詞対を選択する。   In step S15, it is determined whether or not adjustment has been performed by selecting all the part-of-speech pairs in the designated connection group (step S12). If this determination is YES, the process ends. If the determination is NO, the process returns to step S12 to select the next part-of-speech pair.

以上のように、本実施形態によれば、接続グループの指定を受け付けることにより、この接続グループ内での品詞対の連接コストの統計的ばらつきを、言語知識により平準化することができる。すなわち、コーパスの分量不足等に起因する信頼度の低い連接コストや不整合を緩和し、形態素解析の精度を向上させることができる。   As described above, according to the present embodiment, by accepting the designation of the connection group, the statistical variation of the concatenation cost of the part of speech pairs in the connection group can be leveled by language knowledge. That is, it is possible to alleviate connection costs and inconsistencies with low reliability resulting from a shortage of corpus, etc., and improve the accuracy of morphological analysis.

以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。   As mentioned above, although embodiment of this invention was described, this invention is not restricted to embodiment mentioned above. The effects described in the embodiments of the present invention are only the most preferable effects resulting from the present invention, and the effects of the present invention are limited to those described in the embodiments of the present invention. is not.

上述の実施形態では、品詞対の連接コストと、その接続グループ内での平均値とを比較して、品詞対に含まれる各単語間の連接コストの調整量を一括して(同一の値として)決定したが、これには限られない。例えば、各単語間の連接コストと、品詞対の連接コストの接続グループ内での平均値とを比較して、単語間の連接コストごとに調整量を決定してもよい。これにより、辞書データ内の単語間の連接コストを、きめ細かく調整することができる。   In the above-described embodiment, the connection cost of a part-of-speech pair is compared with the average value in the connection group, and the adjustment amount of the connection cost between words included in the part-of-speech pair is collectively (as the same value). ) Decided, but not limited to this. For example, the amount of adjustment may be determined for each concatenated cost between words by comparing the concatenated cost between each word and the average value of the concatenated cost of part-of-speech pairs in the connection group. Thereby, the connection cost between words in dictionary data can be finely adjusted.

また、上述の実施形態では、接続グループに含まれる全ての品詞対、さらには、品詞対に含まれる全ての単語対を対象として単語間の連接コストの調整を行ったが、これには限られない。例えば、単語間の連接コストが所定値以上の単語対を品詞対の連接コスト算出の対象外としてもよいし、品詞対の連接コストが所定値以上の品詞対を平均値算出の対象外としてもよい。このことにより、信頼度が特に低いデータの影響で調整結果の精度が低下することを抑制できる。   In the above-described embodiment, the concatenated cost between words is adjusted for all the part-of-speech pairs included in the connection group and all the word pairs included in the part-of-speech pairs. Absent. For example, a word pair whose concatenation cost between words is not less than a predetermined value may be excluded from the calculation of the concatenation cost of the part of speech pair, or a part of speech pair whose concatenation cost of the part of speech pair is not less than the predetermined value may be excluded from the average value calculation. Good. As a result, it is possible to prevent the accuracy of the adjustment result from being lowered due to the influence of data with particularly low reliability.

さらに、この場合は、対象外とした単語間の連接コストについては、調整処理中に算出された品詞対の連接コストの平均値、あるいは調整後の品詞対の連接コストで置き換えることとしてもよい。このことにより、信頼度の低い単語間の連接コストを、より確からしい値に調整することができる。   Further, in this case, the concatenated cost between words that are not targeted may be replaced with the average value of the concatenated cost of part-of-speech pairs calculated during the adjustment process or the concatenated cost of the part-of-speech pair after adjustment. As a result, the concatenation cost between words with low reliability can be adjusted to a more probable value.

上述の実施形態では、コスト算出部11による算出結果を辞書DB40に書き込み、コスト調整部13によりさらに更新したが、これには限られない。例えば、算出結果または算出結果を含む辞書データを辞書調整サーバ10内に一時記憶し、調整後に辞書DB40へ反映させてもよい。   In the above-described embodiment, the calculation result by the cost calculation unit 11 is written in the dictionary DB 40 and further updated by the cost adjustment unit 13, but the present invention is not limited to this. For example, the calculation result or dictionary data including the calculation result may be temporarily stored in the dictionary adjustment server 10 and reflected in the dictionary DB 40 after adjustment.

また、上述の実施形態では、辞書DB50において単語間の連接コストが定義されているものとして説明したが、これには限られない。例えば、品詞対の連接コストのみを定義した辞書であっても、本発明は適用可能である。この場合、品詞対の連接コストは、辞書データ内の連接コストそのものであり、コーパスDB30を用いて統計処理された品詞対の連接コストの平均との差から決定された調整量により、辞書データ内の品詞対の連接コストを更新する。   Moreover, although the above-mentioned embodiment demonstrated as what the connection cost between words was defined in dictionary DB50, it is not restricted to this. For example, the present invention can be applied even to a dictionary that defines only the joint cost of a part of speech pair. In this case, the concatenation cost of part-of-speech pairs is the concatenation cost in the dictionary data itself, and the dictionary data includes the adjustment amount determined from the difference from the average of the concatenation costs of the part-of-speech pairs statistically processed using the corpus DB 30. Update the concatenation cost of part-of-speech pairs.

1 形態素解析システム
10 辞書調整サーバ
11 コスト算出部
12 接続グループ受付部
13 コスト調整部
14 統計DB
15 接続グループDB
20 形態素解析サーバ
30 コーパスDB
40 辞書DB
300 制御部
410 記憶装置
DESCRIPTION OF SYMBOLS 1 Morphological analysis system 10 Dictionary adjustment server 11 Cost calculation part 12 Connection group reception part 13 Cost adjustment part 14 Statistics DB
15 Connection group DB
20 Morphological analysis server 30 Corpus DB
40 Dictionary DB
300 Control unit 410 Storage device

Claims (7)

最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する連接コスト調整装置であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出手段と、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付手段と、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整手段と、を備え
前記受付手段は、前記調整手段による前記単語間の連接コストの調整強度を指定する入力をさらに受け付け、
前記調整手段は、前記品詞対の連接コストのそれぞれと前記受付手段により受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定する
ことを特徴とする連接コスト調整装置。
In the morphological analysis dictionary used in the minimum cost method, a concatenated cost adjustment device for adjusting the statistical variation of the concatenated cost between words,
Based on a predetermined corpus, calculation means for calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
Receiving means for receiving an input for designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
Adjusting means for adjusting the concatenation cost between the words so that the concatenation cost of the part-of-speech pairs included in the designated combination is close to each other ;
The accepting means further accepts an input designating an adjustment strength of the connection cost between the words by the adjusting means;
The adjustment means multiplies the difference between each of the connection costs of the part of speech pairs and the average value of the connection costs of the part of speech pairs within the combination received by the reception means by the adjustment strength, and Determine the amount of adjustment for articulated costs
A connected cost adjusting device characterized by the above .
最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する連接コスト調整装置であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出手段と、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付手段と、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整手段と、を備え
前記受付手段は、前記調整手段による前記単語間の連接コストの調整強度を指定する入力をさらに受け付け、
前記調整手段は、前記単語間の連接コストのそれぞれと前記受付手段により受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定する
ことを特徴とする連接コスト調整装置。
In the morphological analysis dictionary used in the minimum cost method, a concatenated cost adjustment device for adjusting the statistical variation of the concatenated cost between words,
Based on a predetermined corpus, calculation means for calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
Receiving means for receiving an input for designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
Adjusting means for adjusting the concatenation cost between the words so that the concatenation cost of the part-of-speech pairs included in the designated combination is close to each other ;
The accepting means further accepts an input designating an adjustment strength of the connection cost between the words by the adjusting means;
The adjusting means multiplies the difference between each of the concatenated costs between the words and the average value of the concatenated cost of the part-of-speech pairs within the combination received by the receiving means by the adjustment strength, and Determine the amount of adjustment for articulated costs
A connected cost adjusting device characterized by the above .
前記受付手段は、前記調整手段による調整が不要な前記品詞対の連接コストの許容差を指定する入力をさらに受け付け、
前記調整手段は、前記受付手段により受け付けた組合せに含まれる品詞対の連接コストが当該組合せ内の平均値から前記許容差以内である場合、当該品詞対に係る前記単語間の連接コストを調整しないことを特徴とする請求項1から請求項のいずれかに記載の連接コスト調整装置。
The accepting means further accepts an input for designating a tolerance of the joint cost of the part-of-speech pairs that does not require adjustment by the adjusting means;
The adjusting means does not adjust the concatenated cost between the words related to the part-of-speech pair when the concatenated cost of the part-of-speech pair included in the combination received by the receiving means is within the tolerance from the average value in the combination. articulating cost adjustment device according to any one of claims 2 to claim 1, characterized in that.
コンピュータが最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する方法であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出ステップと、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付ステップと、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整ステップと、を含み、
前記受付ステップは、前記調整ステップでの前記単語間の連接コストの調整強度を指定する入力をさらに受け付け、
前記調整ステップは、前記品詞対の連接コストのそれぞれと前記受付ステップでの受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定する
ことを特徴とする方法。
In a morphological analysis dictionary used by a computer in a minimum cost method, a method of adjusting statistical variation of concatenated costs between words,
Based on a predetermined corpus, a calculation step of calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
An accepting step of accepting an input designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
The articulation cost of parts of speech pair is included in the specified combination as close to each other, seen including a an adjustment step of adjusting the articulation costs between said word,
The accepting step further accepts an input designating an adjustment strength of the concatenated cost between the words in the adjusting step,
The adjustment step multiplies the adjustment strength by a difference between each of the connection costs of the part of speech pairs and an average value of the connection costs of the part of speech pairs in the combination received in the reception step, The amount of connection cost adjustment for
A method characterized by that .
請求項に記載の方法をコンピュータに実行させるプログラム。 The program which makes a computer perform the method of Claim 4 . コンピュータが最小コスト法で用いる形態素解析辞書において、単語間の連接コストの統計的ばらつきを調整する方法であって、
所定のコーパスに基づいて、前記単語間の連接コストと、各単語が属する所定の品詞の組合せである品詞対の連接コストとを算出する算出ステップと、
前記品詞対の連接コストが同等であるべき品詞対の組合せを指定する入力を受け付ける受付ステップと、
指定された前記組合せに含まれる品詞対の前記連接コストを互いに近付けるように、前記単語間の連接コストを調整する調整ステップと、を含み、
前記受付ステップは、前記調整ステップでの前記単語間の連接コストの調整強度を指定する入力をさらに受け付け、
前記調整ステップは、前記単語間の連接コストのそれぞれと前記受付ステップでの受け付けた組合せ内での前記品詞対の連接コストの平均値との差に対して前記調整強度を乗じて、前記単語間の連接コストの調整量を決定する
ことを特徴とする方法。
In a morphological analysis dictionary used by a computer in a minimum cost method, a method of adjusting statistical variation of concatenated costs between words,
Based on a predetermined corpus, a calculation step of calculating a concatenation cost between the words and a concatenation cost of a part of speech pair that is a combination of a predetermined part of speech to which each word belongs;
An accepting step of accepting an input designating a combination of part of speech pairs in which the concatenation cost of the part of speech pairs should be equivalent;
The articulation cost of parts of speech pair is included in the specified combination as close to each other, seen including a an adjustment step of adjusting the articulation costs between said word,
The accepting step further accepts an input designating an adjustment strength of the concatenated cost between the words in the adjusting step,
The adjustment step multiplies the difference between each connection cost between the words and the average connection cost of the part-of-speech pairs within the combination received in the reception step by the adjustment strength, The amount of connection cost adjustment for
A method characterized by that .
請求項に記載の方法をコンピュータに実行させるプログラム。 The program which makes a computer perform the method of Claim 6 .
JP2009035575A 2009-02-18 2009-02-18 Concatenated cost adjustment apparatus, method, and program Expired - Fee Related JP5048001B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009035575A JP5048001B2 (en) 2009-02-18 2009-02-18 Concatenated cost adjustment apparatus, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009035575A JP5048001B2 (en) 2009-02-18 2009-02-18 Concatenated cost adjustment apparatus, method, and program

Publications (2)

Publication Number Publication Date
JP2010191698A JP2010191698A (en) 2010-09-02
JP5048001B2 true JP5048001B2 (en) 2012-10-17

Family

ID=42817675

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009035575A Expired - Fee Related JP5048001B2 (en) 2009-02-18 2009-02-18 Concatenated cost adjustment apparatus, method, and program

Country Status (1)

Country Link
JP (1) JP5048001B2 (en)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3369127B2 (en) * 1999-08-04 2003-01-20 日本電信電話株式会社 Morphological analyzer

Also Published As

Publication number Publication date
JP2010191698A (en) 2010-09-02

Similar Documents

Publication Publication Date Title
US10311146B2 (en) Machine translation method for performing translation between languages
JP7430820B2 (en) Sorting model training method and device, electronic equipment, computer readable storage medium, computer program
JP5144830B2 (en) Pipeline optimizer system
US8838433B2 (en) Selection of domain-adapted translation subcorpora
CN117112572B (en) Data processing instruction generation, large model training method, device and electronic equipment
US20120323554A1 (en) Systems and methods for tuning parameters in statistical machine translation
US11681930B2 (en) Method for configuring a matching component
JP2020035320A (en) Method of generating reward function and computer system
US12327089B2 (en) Propagating detected change between natural language understanding models each associated with a different language
JP2021022007A (en) Sentence generation learning method, sentence generation learning device and program
CN112084769A (en) Dependency syntax model optimization method, apparatus, device and readable storage medium
CN118733633A (en) Entity search method, large language model fine-tuning method, device and equipment
CN114168729A (en) Text clustering system, method, device, equipment and medium
CN119415677A (en) Role-playing model training method and device
US20110125732A1 (en) Internal ranking model representation schema
CN113869042A (en) Method, device, electronic device and storage medium for generating text title
JP7678947B1 (en) ARCHITECTURE PROPOSAL DEVICE, INFORMATION PROCESSING METHOD, AND PROGRAM
JP5048001B2 (en) Concatenated cost adjustment apparatus, method, and program
CN120447910A (en) Code generation method, apparatus, device and computer program product
CN117435178B (en) Code generation system, method, device and storage medium
CN117688176B (en) Pseudo language family clustering method and device based on multilingual pre-training large model
JP7789284B1 (en) Apparatus, method and program for generating technical documentation for software
JP7641701B1 (en) Apparatus, method and program for generating technical documentation for software
CN120909565B (en) Self-adaptive code processing method and device based on artificial intelligence and intelligent agent
CN120596385A (en) A test case generation method, device, equipment and medium

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120417

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120501

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120626

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120718

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5048001

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees