JP4055974B2 - パターン辞書作成方法及び装置、並びに記録媒体 - Google Patents

Description

【０００１】
【発明の属する技術分野】
本発明は、文字パターン、その他のパターンの認識技術に係り、特に、既存のパターン辞書の弱点を補うための新しいパターン辞書を作成する技術に関する。
【０００２】
【従来の技術】
パターン認識装置の認識精度を高めるための従来技術として、特開昭５５−１３８１８０号公報、特開昭６１−１９３２８２号公報、特開昭６０−２３７５８３号公報、特開平０３ー２１４２８６号公報などに述べられているような、認識できなかった文字パターン又は特徴を辞書項目として追加し、パターン辞書の弱点を補強する方式（従来技術１）や、特開昭５７−１８７７８１号公報に述べられているような、認識できなかった文字パターン又は特徴を、標準の辞書とは別の拡張辞書に格納し標準辞書の弱点を補強する方式（従来技術２）が知られている。さらに、特開平０５−２１０７６３号号公報などに見られるような、ニューラルネットワークを利用するパターン認識装置において、認識できなかった文字パターンを再学習してニューラルネットワーク内の荷重データを更新する方式（従来技術３）、特開昭５２−１１２２３５号公報に述べられているような、各標準パターンに、入力文字パターンとの類似度又は相違度の判定のための固有の閾値を持たせる方式（従来技術４）、これと同様な特開昭５９‐７７５７９号公報に述べられている従来技術５などが知られている。
【０００３】
【発明が解決しようとする課題】
しかし、従来技術１及び従来技術２は、一定の効果は期待されるものの、辞書項目追加による副作用があるため大幅な精度向上を期待することは困難である。従来技術３も同様の問題がある。従来技術４は、標準パタ−ン毎に固有の関値を持たせることで、副作用の少ない精度向上を狙っているが、肝心の固有閾値の決め方が開示されておらず、固有値の決定が不適切であると所望の効果を期待できない。また、同様の従来技術５は、固有閾値の値がカテゴリによらず一定であるため、十分な精度向上を期待できない。
【０００４】
本発明は、上述のごとき実状に鑑みてなされたもので、副作用が少なく、大幅な精度向上（正読向上または誤読低減）をもたらすパターン辞書の作成方法及び装置を提供することを目的としている。
【０００５】
【課題を解決するための手段】
本発明は、複数の学習対象パターンの認識結果と特徴ベクトルとの組合せから、各特徴ベクトルを代表とし近似する複数の特徴ベクトルを含むベクトル集合を各特徴ベクトル毎に生成すると共に、夫々のベクトル集合において前記認識結果を示す誤読データ又は拒否データを特定し、該特定された誤読データ又は拒否データに基づいて、所定の特徴ベクトルを代表としたベクトル集合に含まれる特徴ベクトルの近似値から算出されたパターン認識用の閾値、および前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成することを特徴とする。
【０００６】
また、本発明は、前記夫々のベクトル集合において正読データを特定し、該特定された正読データと組合されている特徴ベクトルと前記ベクトル集合の代表とした特徴ベクトルとの近似値、および前記特定された誤読データ又は拒否データと組合されている特徴ベクトルと前記ベクトル集合の代表とされた特徴ベクトルとの近似値から算出されたパターン認識用の閾値、並びに前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成することを特徴とする。
【０００７】
また、本発明は、複数の前記ベクトル集合からベクトル集合を特定し、該特定されたベクトル集合の代表とされた特徴ベクトル、該特徴ベクトルと組合されている認識結果、および特定された誤読データ又は拒否データに基づいて算出された前記パターン認識用の閾値を項目として有する新たなパターン辞書を作成することを特徴とする。
【０００８】
また、本発明は、前記近似値は前記ベクトル集合の代表とされた特徴ベクトルとの距離であることを特徴とする。
【０００９】
本発明によれば、あるパターン辞書（ここでは既存辞書と呼ぶ）の弱点を補強するため、この既存辞書を用いて認識させた学習対象パターンの認識結果及び特徴べクトルから、新しいパターン辞書（ここでは追加辞書と呼ぶ）が作成される。
【００１０】
このようにして作成された追加辞書と、既存辞書とを用いることによって、高精度のパターン認識が可能となる。まず入力パターンの特徴ベクトルと追加辞書の各項目の特徴ベクトルとの距離を求め、その値が当該項目の所定値以下である場合にマッチしたとして当該項目のカテゴリ名を認識結果とする。しかし、追加辞書のいずれの項目ともマッチしない場合には、該入力パターンの特徴ベクトルと既存辞書の特徴ベクトルとのマッチングを行って認識結果を得る。
【００１１】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態を説明する。図１は本発明によるパターン辞書作成装置の一構成例を示すブロック図、図２はその処理の流れを示すフローチャートである。図５は本発明によるパターン認識装置の一構成例を示すブロック図、図６はその処理の流れを示すフローチャートである。
【００１２】
図５に示すパターン認識装置は、パターン認識のための辞書として、通常の辞書（既存の辞書）２０５に加えて追加辞書２０６を有する。この追加辞書２０６は、通常の辞書２０５のみを利用した場合の弱点を補強するために追加された辞書であり、図１に示した辞書１０７に対応するものである。後述のように、この追加辞書２０６を作成するために、図１のパターン認識辞書作成装置に対し、図５のパターン認識装置により得られた学習対象パターンの特徴ベクトルと認識結果が入力される。ただし、この認識結果を得る際には、図５のパターン認識装置は通常の辞書２０５のみ利用する。
【００１３】
図１に示すパターン辞書作成装置は、作成される辞書１０７のほか、学習対象である特徴べクトルと認識結果を入力する入力部１０１と、入力された特徴べクトル及び認識結果から各特徴ベクトルを中心とする近傍領域を算出する近傍領域算出部１０２と、近傍領域のうち最大のものを検出する最大近傍領域検出部１０３と、最大近傍領域から辞書項目を決定する辞書項目決定部１０４と、辞書情報を辞書１０７に書き込む出力部１０５と、最大近傍領域に属する特徴べクトルを除いて次の最大近傍領域を求める処理を制御する領域検出制御部１０６とを有する。
【００１４】
次に、このパターン辞書作成装置における処理を図２のフローチャートに沿って説明する。まず、入力部１０１により、全ての学習対象パターンの特徴べクトルと認識結果とを入力する（ステップＳ１１）。次に、近傍領域算出部１０２において、入力された全ての特徴ベクトルの近傍領域の算出を行う（ステップＳ１２）。
【００１５】
近傍領域とは、対象とする特徴べクトルを代表とする領域に包含される特徴べクトルの集合である。この包含の条件として、
（ａ）近傍領域内の特徴べクトルはすべて誤読データである
（ｂ）近傍領域内の特徴べクトルはすべて誤読データまたは拒否データである
（ｃ）近傍領域内の特徴べクトルはすべて同一カテゴリである
などを定めることができる。同一カテゴリであればその近傍領域に含まれるものをそのカテゴリと判定することで、正読にすることができる。あるいは、近傍領域に含まれるものを拒否と判定することで、誤読を避けることができる。このように、その要素が共通のカテゴリ判定対象となるような、特徴べクトルの集合を近傍領域と呼ぶ。
【００１６】
近傍領域算出の様子を図３に示す。同図において、黒塗りの丸、四角、三角のような記号は、誤読データを示す。また、白塗りの丸、四角、三角のような記号は、正読データを表す。また、同じ形状の記号は、同じカテゴリの特徴ベクトルであることを示す。
【００１７】
近傍領域の算出においては、まず対象とする特徴べクトルに近い順にすべての特徴べクトルを順序付けた表現を求める。図３に対してこの表現を求めると、図４のようになる。同図において各特徴ベクトル（記号）の下に示した数値は、その特徴ベクトルから対象とする特徴ベクトルまでの距離を表している。最も左にあるのが領域中心となる特徴べクトルであり、他の特徴ベクトルは距離の近い順に並べられている。ここでは、上記（ａ）の包含条件を採用するものとして領域境界を定め、領域境界を挟む隣り合う２つの特徴べクトルのそれぞれの距離値の平均値を領域半径とする。図４の特徴べクトルＡについては、距離５５の正読の特徴ベクトルと、その左隣の誤読の特徴ベクトルとの間が領域境界となり、領域半径は（４５＋５５）／２＝５０となる。同様に、図４の特徴ベクトルＢについては、同特徴ベクトルと、距離２２の正読の特徴ベクトルとの間が領域境界となり、領域半径は（０＋２２）／２＝１１となる。こうした処理が入力されたすべての特徴べクトルに対して行われ、そのすべての特徴ベクトルを領域中心とする近傍領域が算出される。
【００１８】
なお、入力された全ての特徴ベクトルの近傍領域を求めるのではなく、誤読の特徴ベクトルのみを領域中心とする近傍領域表現だけを求めたり、又は、誤読と拒否の特徴ベクトルのみを領域中心とする近傍領域表現だけを求めたりすることも可能である。このようにすれば、全ての特徴ベクトルを領域中心とする近傍領域表現を求める場合に比べ、図４の行の数が大幅に削減されるため（ただし、列の数は変わらない）、処理量を削減できるという利点がある。また、近傍領域の包含条件として上記（ｂ）又は（ｃ）の条件を採用することも可能である。
【００１９】
次に、最大近傍領域検出部１０３において、得られた近傍領域の中から最大の近傍領域を検出する（ステップＳ１３）。このときの検出基準となるのは、ここでは領域半径である。すなわち、領域半径が最大の近傍領域を最大近傍領域とする。ただし、最大近傍領域の算出基準として、領域半径に代えて、領域内に含まれる特徴べクトル数（学習データ数）を用いることも可能である。
【００２０】
続いて、領域検出制御部１０６において、最大近傍領域が検出されたか否かを調べる（ステップＳ１４）。検出されない場合は、すべての特徴べクトルが既に登録済みの近傍領域に含まれた場合であるので、パターン辞書作成処理を終了する。一方、最大近傍領域が検出されたならば、辞書項目決定部１０４で、その近傍領域の辞書項目の内容を決定する（ステップＳ１５）。この辞書項目には、少なくとも
（１）領域中心の特徴べクトル
（２）領域半径
（３）カテゴリ名（リジェクトコードの場合もある）
が含まれる。カテゴリ名の決定に関しては、領域中心の特徴ベクトルのカテゴリ名を無条件に辞書項目のカテゴリ名に採用するような様々な方法が可能であるが、その近傍領域内の特徴ベクトルが全て同一カテゴリであるときにのみ、そのカテゴリ名を辞書項目のカテゴリ名に採用する方法によれば、誤読の削減のみならず、正読の向上を図ることができる。また、その領域半径がきわめて小さい場合には、正読データと誤読データとが密集していると考えられるため、未学習データに対して正読のみならず誤読をも増やすことが懸念される。これを避けるために、領域半径があらかじめ定められた閾値以下の場合に、辞書項目のカテゴリ名を拒否（リジェクト）とするのが有効である。
【００２１】
次に、図５に示すパターン認識装置について説明する。このパターン認識装置は、パターン認識辞書として、元々備えている通常の辞書２０５に加えて、図１に関連して説明したような本発明のパターン認識辞書作成装置により作成された追加辞書２０６を有し、また、認識対象であるパターンデータを入力する入力部２０１と、入力されたパターンデータの特徴べクトルを抽出する特徴抽出部２０２と、抽出された特徴べクトルと追加辞書２０６及び通常の辞書２０５に登録されている特徴ベクトルとのマッチングを行って入力パターンを認識する識別部２０３と、この識別部２０３の認識結果を出力する出力部２０４とを有する構成である。
【００２２】
次に、このパターン認識装置における処理を図６のフローチャートに沿って説明する。まず、入力部２０１により読み取り対象となるパターンデータを入力し（ステップＳ２１）、特徴抽出部２０２において入力パターンデータから特徴べクトルを抽出する（ステップＳ２２）。
【００２３】
続いて、識別部２０３において、特徴ベクトルのマッチングを行うが、最初に追加辞書２０６との間でマッチングを行う。追加辞書２０６に登録されている辞書項目は、前述のように少なくとも、中心となる特徴べクトルと、その領域半径と、カテゴリ名とからなる。このマッチングでは、入力デ−タから抽出された特徴べクトルと、各辞書項目の特徴べクトルとの距離を算出し（ステップＳ２３）、その値が、その辞書項目の領域半径以下であればマッチしたと見なし、いずれの辞書項目の特徴ベクトルとの距離もその領域半径以下でなければマッチしないと見なす（ステップＳ２４）。
【００２４】
追加辞書２０６との特徴ベクトルのマッチングでマッチした場合には、該当辞書項目のカテゴリ名を出力し（ステップＳ２６）、一つの入力パターンに対する認識処理を終了する。
【００２５】
追加辞書２０６のマッチングで、どの辞書項目ともマッチしない場合には、通常の辞書２０５とのマッチングによって入力パターンの認識を行い（ステップＳ２５）、その結果を出力し（ステップＳ２６）、処理を終了する。
【００２６】
このように、図５に示す本発明のパターン認識装置は、全体としては一般的なパターン認識装置の構成に類似するが、違いは本発明により作成された追加辞書２０６を用いることにある。これにより、追加辞書２０６を用いない、それまでのパターン認識装置で苦手としたケースのみを特別扱いし、学習データに対して厳密に学習した結果に置き換えることができる。したがって、従来のパターン認識装置に対してわずかな変更を施すだけで、従来技術のような単純な学習を行う場合に問題となった副作用を抑え、大幅な精度向上を達成できる。
【００２７】
本発明は、例えば図７に示すＣＰＵ３０２、記憶装置３０３、補助記憶装置３０４、ＣＤ−ＲＯＭなどの記録媒体３０７を読み書きするためのドライブ３０６、入力インターフェース３０１、出力インターフェース３０５などをバス３１０で接続したような一般的な構成のコンピュータを利用し、ソフトウェアにより実施することも可能である。図１に関連して説明したような本発明によるパターン辞書作成装置の各手段をコンピュータのハードウエアを利用して実現するためのプログラム、図２に示したような本発明によるパターン認識辞書作成のための各処理ステップをコンピュータに実行させるためのプログラム、図５に関連して説明したような本発明によるパターン認識装置の各手段をコンピュータのハードウエアを利用して実現するためのプログラム、又は、図６に示したような本発明によるパターン認識のための各処理ステップをコンピュータに実行させるためのプログラムは、例えば、同プログラムが記録された記録媒体３０７からドライブ３０６を通じて補助記憶装置３０３に読み込まれ、ＣＰＵ３０２が補助記憶装置３０４や記憶装置３０３との間で情報をやり取りしながら、同プログラムの各ステップを実行する。学習データに基づいて作成された辞書（図１に示す辞書１０７）は例えば補助記憶装置３０４に保存され、また、必要に応じて記録媒体３０７に出力される。パターン認識のための通常の辞書及び追加辞書（図５に示す辞書２０５及び追加辞書２０６）は、例えばプログラムが記録された記録媒体３０７又は別の記録媒体３０７から補助記憶装置３０４に読み込まれ、パターン認識処理に利用される。
【００２８】
【発明の効果】
本発明によれば、既存の辞書の弱点を補強できかつ副作用が少ないパタ−ン辞書を作成することができ、誤読の削減のみならず正読の向上も可能なパターン辞書を作成できる。
【図面の簡単な説明】
【図１】 本発明によるパターン辞書作成装置の一構成例を示すブロック図である。
【図２】 図１のパターン辞書作成装置における処理のフローチャートである。
【図３】 近傍領域算出の様子を示す図である。
【図４】 近傍領域算出のために、対象とする特徴べクトルに近い順に特徴べクトルを順序付けた表現を示す図である。
【図５】 本発明によるパターン認識装置の一構成例を示すブロック図である。
【図６】 図５のパターン認識装置における処理のフローチャートである。
【図７】 本発明を実施するためのコンピュータの一例を示すブロック図である。
【符号の説明】
１０１ 入力部
１０２ 近傍領域算出部
１０３ 最大近傍領域検出部
１０４ 辞書項目決定部
１０５ 出力部
１０６ 領域検出制御部
１０７ 新しく作成される辞書
２０１ 入力部
２０２ 特徴抽出部
２０３ 識別部
２０４ 出力部
２０５ 通常の辞書（既存の辞書）
２０６ 追加辞書

Claims (9)

1. 所定のパターン辞書を用いて認識された複数の学習対象パターンの認識結果と特徴ベクトルの組合せから新たなパターン辞書を作成する方法であって、
   複数の学習対象パターンの認識結果と特徴ベクトルとの組合せから、各特徴ベクトルを代表とし近似する複数の特徴ベクトルを含むベクトル集合を各特徴ベクトル毎に生成すると共に、夫々のベクトル集合において前記認識結果を示す誤読データ又は拒否データを特定するステップと、
   特定された誤読データ又は拒否データに基づいて、所定の特徴ベクトルを代表としたベクトル集合に含まれる特徴ベクトルの近似値から算出されたパターン認識用の閾値、および前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成するステップと、
   を有することを特徴とするパターン辞書作成方法。
2. 前記夫々のベクトル集合において正読データを特定するステップをさらに有し、
   特定された正読データと組合されている特徴ベクトルと前記ベクトル集合の代表とした特徴ベクトルとの近似値、および前記特定された誤読データ又は拒否データと組合されている特徴ベクトルと前記ベクトル集合の代表とされた特徴ベクトルとの近似値から算出されたパターン認識用の閾値、並びに前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成することを特徴とする請求項１に記載のパターン辞書作成方法。
3. 複数の前記ベクトル集合からベクトル集合を特定するステップを有し、
   特定されたベクトル集合の代表とされた特徴ベクトル、該特徴ベクトルと組合されている認識結果、および特定された誤読データ又は拒否データに基づいて算出された前記パターン認識用の閾値を項目として有する新たなパターン辞書を作成することを特徴とする請求項１に記載のパターン辞書作成方法。
4. 前記近似値は前記ベクトル集合の代表とされた特徴ベクトルとの距離であることを特徴とする請求項１乃至３のいずれか１項に記載のパターン辞書作成方法。
5. 所定のパターン辞書を用いて認識された複数の学習対象パターンの認識結果と特徴ベクトルの組合せから新たなパターン辞書を作成する装置であって、
   複数の学習対象パターンの認識結果と特徴ベクトルとの組合せから、各特徴ベクトルを代表とし近似する複数の特徴ベクトルを含むベクトル集合を各特徴ベクトル毎に生成すると共に、夫々のベクトル集合において前記認識結果を示す誤読データ又は拒否データを特定する手段と、
   特定された誤読データ又は拒否データに基づいて、所定の特徴ベクトルを代表としたベクトル集合に含まれる特徴ベクトルの近似値から算出されたパターン認識用の閾値、および前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成する手段と、
   を有することを特徴とするパタ−ン辞書作成装置。
6. 前記夫々のベクトル集合において正読データを特定する手段をさらに有し、
   特定された正読データと組合されている特徴ベクトルと前記ベクトル集合の代表とした特徴ベクトルとの近似値、および前記特定された誤読データ又は拒否データと組合されている特徴ベクトルと前記ベクトル集合の代表とされた特徴ベクトルとの近似値から算出されたパターン認識用の閾値、並びに前記所定の特徴ベクトルを項目として有する新たなパターン辞書を作成することを特徴とする請求項５に記載のパターン辞書作成装置。
7. 複数の前記ベクトル集合からベクトル集合を特定する手段を有し、
   特定されたベクトル集合の代表とされた特徴ベクトル、該特徴ベクトルと組合されている認識結果、および特定された誤読データ又は拒否データに基づいて算出された前記パターン認識用の閾値を項目として有する新たなパターン辞書を作成することを特徴とする請求項５に記載のパターン辞書作成装置。
8. 前記近似値は前記ベクトル集合の代表とされた特徴ベクトルとの距離 であることを特徴とする請求項５乃至７のいずれか１項に記載のパターン辞書作成装置。
9. 請求項１乃至４のいずれか１項に記載のパターン辞書作成方法の各ステップをコンピュータに実行させるためのプログラムが記録されたことを特徴とするコンピュータ読み取り可能記録媒体。

Images