JP7811067B2 - コンピュータ実装方法、情報処理システムおよびコンピュータプログラム（適応型ドキュメント理解） - Google Patents

Description

機械学習アルゴリズムは、トレーニングデータとして知られているサンプルデータに基づき機械学習モデルを構築して、明示的にプログラミングされることなく予測または判定を行う。機械学習モデルをトレーニングするプロセスには、学習元となるトレーニングデータを機械学習アルゴリズムに提供することが含まれ、トレーニングプロセスから作成されるアーチファクトが機械学習モデルである。トレーニングデータにはターゲットまたはターゲット属性と呼ばれる正解が含まれ、機械学習アルゴリズムは、入力データ属性をターゲット属性にマッピングするトレーニングデータ内のパターンを見つけ、そのパターンを捕捉する機械学習モデルを出力する。

構造化データとは、ファイルまたは記録内の固定フィールドに常駐することから分析しやすいデータを指す。非構造化データ（または非構造化情報）は、事前定義されたデータモデルを有しないか、または事前定義された方式で編成されていない情報である。非構造化情報は通常、テキスト集中型であるが、日付および数などといったデータを含む場合がある。また、非構造化データには通常、従来のプログラムでは解釈し難い不規則性および曖昧さがある。

スマートドキュメント理解（ＳＤＵ）手法では、機械学習によって非構造化ドキュメントを構造化データに変換する。ＳＤＵでは、入力ドキュメントから抽出されるトレーニングドキュメントにユーザが注釈を入力し、そのドキュメントを教示画像として使用してモデルがトレーニングされる。しかしながら、ページと様々な記事との間でページ形式が異なることが多いのが、現在のＳＤＵシステムで見られる課題である。幾つかのページは二段組みであるかもしれず、他のページにはグラフィックイメージが含まれるかもしれず、一方で、他のページは従来の段落ベースの文字であるかもしれない。

このため、単一の機械学習モデルを使用してこれらの様々なページ形式をカバーするのが難しく、その結果、変換精度が低下する。また、既存のＳＤＵトレーニング手法には、機械学習モデルのトレーニング（例えば、ランダムサンプリング）に効果的なトレーニングデータ抽出量が最低限しかない。このため、ドキュメントが特定の形式に偏って選択される場合があり、その結果、同様に機械学習モデルの変換精度が低下する。

本開示の一実施形態によれば、ある方法、システム、およびプログラムが複数の非構造化ページに対応する複数の特徴ベクトルから特徴空間に複数のクラスタを作成する手法が提供される。

この方法、システム、およびプログラム製品は、複数の機械学習モデルのうちの１つを、複数の機械学習モデルに対応する複数のトレーニングクラスタと複数のページクラスタとの間の特徴空間における関係に基づき、複数のクラスタの各１つに割り当てる。この方法、システム、およびプログラム製品は、複数の非構造化ページのうちの選択された１つに対応する複数のページクラスタのうちの１つを識別し、識別されたページクラスタに割り当てられる複数の機械学習モデルのうちの選択された１つを使用して、選択された非構造化ページを構造化ページに転換する。本実施形態において、この方法、システム、およびプログラム製品は、複数の機械学習モデルから最適な機械学習モデルを適応的に選択して非構造化データを構造化データに転換することにより、データ変換精度を高める。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が複数の非構造化ドキュメントを複数の非構造化ページに分割する手法が提供される。この方法、システム、およびプログラム製品は、複数の非構造化ページのうちの１つを選択し、選択された非構造化ページにおける文字領域のセットおよび対応する位置のセットを定義する。この方法、システム、およびプログラム製品は、文字領域のセットに対応する文字領域特徴ベクトルのセットを、それらの対応する位置のセットとそれらの対応する文字領域内のコンテンツのセットとに基づき計算する。本実施形態において、この方法、システム、およびプログラム製品は、コンテンツタイプとページ内の位置付けとに基づき各非構造化ページについて複数の微調整された特徴ベクトルを計算する。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が、文字領域特徴ベクトルのセットに基づき、選択された非構造化ページについて複数の特徴ベクトルのうちの選択された１つを計算し、選択された特徴ベクトルを特徴空間にマッピングする手法が提供される。本実施形態において、この方法、システム、およびプログラム製品は、特定の非構造化ページについて複数の特徴ベクトルを組み合わせて、コンテンツタイプと非構造化ページ内のコンテンツの位置付けとを最も良く説明する微調整された単一のページ特徴ベクトルにする。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が、選択された特徴ベクトルに対して階層的クラスタリングを実行する手法が提供される。この方法、システム、およびプログラム製品は、選択された特徴ベクトルに特徴空間で最も近い複数のページクラスタに対応する複数のページクラスタ中心のうちの１つを識別する。この方法、システム、およびプログラム製品は、選択された特徴ベクトルを、識別されたページクラスタ中心に対応する複数のページクラスタのうちの識別された１つに追加する。本実施形態において、この方法、システム、およびプログラム製品は、ページ特徴ベクトルを、複数の機械学習モデルのうちの特定の１つに最終的に割り当てられるそれらの比較可能な特徴に基づき、クラスタにグループ化する。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が複数のページクラスタに基づき複数のページクラスタ中心を計算する手法が提供される。この方法、システム、およびプログラム製品は、複数のトレーニングクラスタに基づき複数のトレーニングクラスタ中心を計算する。この方法、システム、およびプログラム製品は、複数のページクラスタ中心のうちの１つを選択する。この方法、システム、およびプログラム製品は、選択されたページクラスタ中心に特徴空間で最も近い複数のトレーニングクラスタ中心のうちの１つを識別する。この方法、システム、およびプログラム製品は、識別されたトレーニングクラスタ中心に対応する複数の機械学習モデルのうちの１つを、選択されたページクラスタ中心に対応するページクラスタに割り当てる。本実施形態において、この方法、システム、およびプログラム製品は、機械学習モデルの各々を特定のページクラスタ中心に適応的に割り当て、その結果、各ページクラスタは、自らの機械学習モデルを使用して非構造化データを構造化データに変換する。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が複数の非構造化ページのうちの異なる１つに対応する複数のページクラスタのうちの異なる１つを識別する手法が提供される。この方法、システム、およびプログラム製品は、その異なるページクラスタに割り当てられる複数の機械学習モデルのうちの異なる１つを使用してその異なる非構造化ページを異なる構造化ページに転換する。本実施形態において、この方法、システム、およびプログラム製品は、その異なる非構造化ページが以前に変換された非構造化ページとは異なる特徴を有する場合に、異なる機械学習モデルを使用して異なる非構造化ページを構造化ページに変換する。

本開示の別の実施形態によれば、ある方法、システム、およびプログラム製品が、識別されたページクラスタに対応する複数の非構造化ドキュメントの部分を使用して、選択された機械学習モデルをトレーニングする手法が提供される。この方法、システム、およびプログラム製品は、トレーニングされた機械学習モデルを使用して転換を実行し、トレーニングされた機械学習モデルを複数の機械学習モデルに追加する。本実施形態において、この方法、システム、およびプログラム製品は、非構造化ページの一部で機械学習モデルの各々を更にトレーニングして、機械学習モデルの各々の変換能力をより良く改善する。

本開示の別の実施形態によれば、複数の非構造化ページが複数の非構造化ページタイプを含み、かつ、複数の機械学習モデルのうちの１つが複数の非構造化ページタイプの各１つに割り当てられて転換が実行される、手法が提供される。本実施形態において、この方法、システム、およびプログラム製品は、特定の機械学習モデルを割り当てて、特定の非構造化ページをそれぞれ、その非構造化ページのタイプに基づき構造化ページに転換する。

上記は概要であり、ひいては、必然的に簡略化、一般化、および詳細の省略を含む。その結果、この概要が例示に過ぎず、いかなる形でも限定することを意図するものではないことが当業者には解るであろう。以下に記載する非限定的な詳細な説明では、特許請求の範囲でのみ定義されるような本開示の他の態様、発明の特徴、および利点が明らかになるであろう。添付の図面を参照することにより、本開示をより良く理解し、その多数の目的、特徴、および利点を当業者にとって明らかにすることができる。

本明細書に記載の方法が実装され得るデータ処理システムのブロック図である。 図１に示す情報処理システム環境の拡張を提供して、本明細書に記載の方法がネットワーク化環境で動作する多種多様な情報処理システム上で実行され得ることを示す。 機械学習モデルをトレーニングし、トレーニングされた機械学習モデルを構造抽出に利用する、適応型ドキュメント理解システムを示す例示的な図である。 非構造化ドキュメントを使用してモデル３３５をトレーニングする適応型ドキュメント理解システム３００を示す例示的な図である。 各非構造化ページについて適切な機械学習モデルを決定し、選択された機械学習モデルを使用して各非構造化ページを構造化ページに変換する、適応型ドキュメント理解システム３００を示す例示的な図である。 ドキュメント４００を使用してモデル３３５をトレーニングするために取られるステップを示す例示的なフローチャートである。 階層的クラスタリングで取られるステップを示す例示的なフローチャートである。 モデル３３５を非構造化ページ４２０の特定のモデル推論に使用するために取られるステップを示す例示的なフローチャートである。 ページを文字領域にセグメント化し、これらの文字領域について文字領域特徴ベクトルを作成し、これらの文字領域特徴ベクトルからページ特徴ベクトルを作成する、適応型ドキュメント理解システム３００を示す例示的な図である。 モデルトレーニングフェーズでドキュメントページを特徴空間にマッピングする適応型ドキュメント理解システム３００を示す例示的な図である。 ページ特徴ベクトルを特徴空間にマッピングし、ページに適用すべき機械学習をクラスタ中心からの距離測定に基づき選択する、適応型ドキュメント理解システム３００を示す例示的な図である。

本明細書で使用する専門用語は、特定の実施形態のみを説明することを目的としたものであり、本開示を限定することを意図するものではない。本明細書で使用するとき、「ａ」、「ａｎ」、および「ｔｈｅ」という単数形は、文脈による別段の明確な指示がない限り、複数形を含むことも意図している。本明細書で使用するとき、「備える／有する／含む（ｃｏｍｐｒｉｓｅｓ）」という用語もしくは「備える／有する／含む（ｃｏｍｐｒｉｓｉｎｇ）」という用語、またはその両方は、述べられている特徴、整数、ステップ、動作、要素、もしくはコンポーネント、またはこれらの組み合わせの存在を指定するが、１つまたは複数の他の特徴、整数、ステップ、動作、要素、コンポーネント、もしくはこれらのグループ、またはこれらの組み合わせの存在または追加を除外するものではないことが更に解るであろう。

以下の特許請求の範囲における、対応する構造、材料、動作、および全てのミーンズプラスファンクション要素またはステッププラスファンクション要素の均等物は、具体的に特許請求されているような他の特許請求された要素との組み合わせで機能を実行するための任意の構造、材料、または動作を含むことを意図している。本開示の説明は、例示および説明を目的として提示されているが、包括的であることを意図するものでも、開示されている形態の開示に限定されることを意図するものでもない。本開示の範囲および趣旨から逸脱することなく、多くの修正および変形が当業者にとって明らかになるであろう。実施形態は、本開示の原理と実際の適用とを最も良く説明し、かつ、企図されている特定の使用に適した様々な修正を伴う様々な実施形態について当業者が本開示を理解できるようにするために、選択および説明された。

本発明は、任意の考えられる技術的詳細レベルの統合における、システム、方法、もしくはコンピュータプログラム製品、またはこれらの組み合わせであってよい。コンピュータプログラム製品は、プロセッサに本発明の態様を実行させるためのコンピュータ可読プログラム命令を有する１つまたは複数のコンピュータ可読記憶媒体を含んでよい。

コンピュータ可読記憶媒体は、命令実行デバイスが使用する命令を保持および記憶し得る有形のデバイスであってよい。コンピュータ可読記憶媒体は、例えば、以下に限定されるわけではないが、電子記憶デバイス、磁気記憶デバイス、光記憶デバイス、電磁記憶デバイス、半導体記憶デバイス、または上記の任意の適切な組み合わせであってよい。コンピュータ可読記憶媒体のより具体的な例の非包括的な列挙には、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ポータブルコンパクトディスクリードオンリメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、メモリスティック、フロッピディスク、機械的にエンコードされたデバイス、例えば、パンチカード、または命令を記録した溝内の隆起構造、および、上記の任意の適切な組み合わせが含まれる。本明細書で使用するとき、コンピュータ可読記憶媒体は、電波または他の自由に伝搬する電磁波、導波路または他の伝送媒体を介して伝搬する電磁波（例えば、光ファイバケーブルを通過する光パルス）、または、ワイヤを介して伝送される電気信号など、それ自体が一時的な信号であると解釈されるべきではない。

本明細書に記載のコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体からそれぞれの計算／処理デバイスにダウンロードされてもよいし、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク、もしくは無線ネットワーク、またはこれらの組み合わせなどのネットワークを介して、外部コンピュータまたは外部記憶デバイスにダウンロードされてもよい。ネットワークは、銅伝送ケーブル、光伝送ファイバ、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、もしくはエッジサーバ、またはこれらの組み合わせを含んでよい。各計算／処理デバイス内のネットワークアダプタカードまたはネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、それぞれの計算／処理デバイス内のコンピュータ可読記憶媒体に記憶するためにコンピュータ可読プログラム命令を転送する。

本発明の動作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、機械命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、集積回路用の構成データ、または、Ｓｍａｌｌｔａｌｋ（登録商標）またはＣ＋＋などといったオブジェクト指向プログラミング言語と、「Ｃ」プログラミング言語または同様のプログラミング言語などの手続き型プログラミング言語とを含む、１つまたは複数のプログラミング言語の任意の組み合わせで記述されたソースコードもしくはオブジェクトコードのいずれかであってよい。コンピュータ可読プログラム命令は、完全にユーザのコンピュータ上で実行されてもよいし、スタンドアロンのソフトウェアパッケージとして部分的にユーザのコンピュータ上で実行されてもよいし、部分的にユーザのコンピュータ上で、かつ、部分的にリモートコンピュータ上で実行されてもよいし、完全にリモートコンピュータまたはサーバ上で実行されてもよい。後者のシナリオでは、リモートコンピュータが、ローカルエリアネットワーク（ＬＡＮ）またはワイドエリアネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを介してユーザのコンピュータに接続されてもよいし、その接続が（例えば、インターネットサービスプロバイダを使用するインターネットを介して）外部コンピュータに対して行われてもよい。幾つかの実施形態では、例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、またはプログラマブルロジックアレイ（ＰＬＡ）を含む電子回路が、本発明の態様を実行すべく、コンピュータ可読プログラム命令の状態情報を利用して電子回路をパーソナライズすることにより、コンピュータ可読プログラム命令を実行してよい。

本明細書では、本発明の実施形態に係る方法、装置（システム）、およびコンピュータプログラム製品の、フローチャート図もしくはブロック図、またはその両方を参照して、本発明の態様が説明されている。フローチャート図もしくはブロック図、またはその両方の各ブロックと、フローチャート図もしくはブロック図、またはその両方のブロックの組み合わせとは、コンピュータ可読プログラム命令により実装され得ることが解るであろう。

これらのコンピュータ可読プログラム命令をコンピュータのプロセッサまたは他のプログラマブルデータ処理装置に提供して機械を生産することで、コンピュータのプロセッサまたは他のプログラマブルデータ処理装置を介して実行される命令が、フローチャートもしくはブロック図、またはその両方の１つまたは複数のブロックで指定された機能／動作を実装するための手段を作成するようにしてよい。これらのコンピュータ可読プログラム命令を、コンピュータ、プログラマブルデータ処理装置、もしくは他のデバイス、またはこれらの組み合わせの特定の方式で機能するよう指示することができる、コンピュータ可読記憶媒体に記憶することで、命令を記憶したコンピュータ可読記憶媒体が、フローチャートもしくはブロック図、またはその両方の１つまたは複数のブロックで指定された機能／動作の態様を実装する命令を含む製品を備えるようにしてもよい。

コンピュータ可読プログラム命令を、コンピュータ、他のプログラマブルデータ処理装置、または他のデバイス上にロードして、コンピュータ、他のプログラマブル装置、または他のデバイス上で一連の動作ステップを実行させて、コンピュータ実装プロセスを生成することで、コンピュータ、他のプログラマブル装置、または他のデバイス上で実行される命令が、フローチャートもしくはブロック図、またはその両方の１つまたは複数のブロックで指定された機能／動作を実装するようにしてもよい。

図中のフローチャートおよびブロック図は、本発明の様々な実施形態に係るシステム、方法、およびコンピュータプログラム製品の考えられる実装のアーキテクチャ、機能、および動作を示す。これに関して、フローチャートまたはブロック図の各ブロックは、指定された論理機能を実装するための１つまたは複数の実行可能命令を含む、命令のモジュール、セグメント、または部分を表してよい。幾つかの代替的な実装では、ブロックに記す機能が、図に記す順序とは異なる順序で行われてもよい。例えば、連続して示される２つのブロックが、実際には１つのステップとして実現され、部分的または全体的に時間的に重複する方式で、同時に、実質的に同時に実行されてもよいし、これらのブロックが、関与する機能に応じて、時として逆の順序で実行されてもよい。ブロック図もしくはフローチャート図、またはその両方の各ブロックと、ブロック図もしくはフローチャート図、またはその両方のブロックの組み合わせとは、指定された機能または動作を実行するか、または、特殊目的ハードウェアとコンピュータ命令との組み合わせを実行する、特殊目的ハードウェアベースシステムにより実装され得ることにも気付くであろう。以下の詳細な説明は概して、以上に記載したような本開示の概要に従ったものであり、必要に応じて、本開示の様々な態様および実施形態の定義を更に説明および拡大する。

図１は、情報処理システム１００を示す。これは、本明細書に記載の計算動作を実行することができるコンピュータシステムの簡略化された例である。情報処理システム１００は、プロセッサインタフェースバス１１２に結合される１つまたは複数のプロセッサ１１０を含む。プロセッサインタフェースバス１１２は、メモリコントローラハブ（ＭＣＨ）としても知られているノースブリッジ１１５にプロセッサ１１０を接続する。ノースブリッジ１１５は、システムメモリ１２０に接続し、プロセッサ１１０がシステムメモリにアクセスするための手段を提供する。グラフィックスコントローラ１２５も、ノースブリッジ１１５に接続する。一実施形態では、ペリフェラルコンポーネントインターコネクト（ＰＣＩ）エクスプレスバス１１８が、グラフィックスコントローラ１２５にノースブリッジ１１５を接続する。グラフィックスコントローラ１２５は、コンピュータモニタなどのディスプレイデバイス１３０に接続する。

ノースブリッジ１１５とサウスブリッジ１３５とは、バス１１９を使用して互いに接続する。幾つかの実施形態において、バスは、ノースブリッジ１１５とサウスブリッジ１３５との間で各方向に高速でデータを転送するダイレクトメディアインタフェース（ＤＭＩ）バスである。幾つかの実施形態では、ＰＣＩバスがノースブリッジとサウスブリッジとを接続する。入力／出力（Ｉ／Ｏ）コントローラハブ（ＩＣＨ）としても知られているサウスブリッジ１３５は、ノースブリッジにより提供される能力より低い速度で動作する能力を概して実装するチップである。サウスブリッジ１３５は通常、様々なコンポーネントを接続するために使用される様々なバスを提供する。これらのバスは、例えば、ＰＣＩバスおよびＰＣＩエクスプレスバス、ＩＳＡバス、システム管理バス（ＳＭＢｕｓまたはＳＭＢ）、もしくはローピンカウント（ＬＰＣ）バス、またはこれらの組み合わせを含む。ＬＰＣバスは、ブートＲＯＭ１９６および「レガシ」Ｉ／Ｏデバイス（「スーパーＩ／Ｏ」チップを使用）などの低帯域幅デバイス同士を接続することが多い。「レガシ」Ｉ／Ｏデバイス１９８は、例えば、シリアルポートおよびパラレルポート、キーボード、マウス、もしくはフロッピディスクコントローラ、またはこれらの組み合わせを含むことができる。サウスブリッジ１３５に含まれることが多い他のコンポーネントは、ダイレクトメモリアクセス（ＤＭＡ）コントローラ、プログラマブル割り込みコントローラ（ＰＩＣ）、および記憶デバイスコントローラを含み、記憶デバイスコントローラは、バス１８４を使用してハードディスクドライブなどの不揮発性記憶デバイス１８５にサウスブリッジ１３５を接続する。

エクスプレスカード１５５は、情報処理システムにホットプラグ対応デバイスを接続するスロットである。エクスプレスカード１５５は、ユニバーサルシリアルバス（ＵＳＢ）およびＰＣＩエクスプレスバスの両方を使用してサウスブリッジ１３５に接続するので、ＰＣＩエクスプレスおよびＵＳＢ両方の接続性をサポートする。サウスブリッジ１３５は、ＵＳＢに接続するデバイスへのＵＳＢ接続性を提供するＵＳＢコントローラ１４０を含む。これらのデバイスは、ウェブカム（カメラ）１５０、赤外線（ＩＲ）受信機１４８、キーボードおよびトラックパッド１４４、並びにＢｌｕｅｔｏｏｔｈ（登録商標）デバイス１４６を含み、Ｂｌｕｅｔｏｏｔｈ（登録商標）デバイス１４６は、無線パーソナルエリアネットワーク（ＰＡＮ）を提供する。ＵＳＢコントローラ１４０は、他の多岐にわたるＵＳＢ接続デバイス１４２、例えば、マウス、リムーバブル不揮発性記憶デバイス１４５、モデム、ネットワークカード、総合デジタル通信網（ＩＳＤＮ）コネクタ、ファックス、プリンタ、ＵＳＢハブ、および他の多くのタイプのＵＳＢ接続デバイスへのＵＳＢ接続性も提供する。リムーバブル不揮発性記憶デバイス１４５は、ＵＳＢ接続デバイスとして示されているが、リムーバブル不揮発性記憶デバイス１４５は、ファイヤワイヤインタフェースなどといった異なるインタフェースを使用して接続され得る。

無線ローカルエリアネットワーク（ＬＡＮ）デバイス１７５は、ＰＣＩまたはＰＣＩエクスプレスバス１７２を介してサウスブリッジ１３５に接続する。ＬＡＮデバイス１７５は通常、全てが同じプロトコルを使用して情報処理システム１００と別のコンピュータシステムまたはデバイスとの間で無線通信する、無線変調技術の米国電気電子学会（ＩＥＥＥ）８０２．１１規格のうちの１つを実装する。光記憶デバイス１９０は、シリアルアナログ電話アダプタ（ＡＴＡ）（ＳＡＴＡ）バス１８８を使用してサウスブリッジ１３５に接続する。シリアルＡＴＡのアダプタおよびデバイスは、高速シリアルリンクを介して通信する。シリアルＡＴＡバスは、ハードディスクドライブなどの他の形態の記憶デバイスにもサウスブリッジ１３５を接続する。サウンドカードなどのオーディオ回路１６０は、バス１５８を介してサウスブリッジ１３５に接続する。オーディオ回路１６０は、オーディオハードウェア、例えば、オーディオライン入力および光デジタルオーディオ入力ポート１６２、光デジタル出力およびヘッドフォンジャック１６４、内部スピーカ１６６、および内部マイクロフォン１６８に関連付けられる機能も提供する。イーサネット（登録商標）コントローラ１７０は、ＰＣＩまたはＰＣＩエクスプレスバスなどのバスを使用してサウスブリッジ１３５に接続する。イーサネット（登録商標）コントローラ１７０は、コンピュータネットワーク、例えば、ローカルエリアネットワーク（ＬＡＮ）、インターネット、並びに、他のパブリックコンピュータネットワークおよびプライベートコンピュータネットワークに情報処理システム１００を接続する。

図１は１つの情報処理システムを示しているが、情報処理システムは多くの形態を取ってよい。例えば、情報処理システムは、デスクトップ、サーバ、ポータブル機器、ラップトップ、ノートブック、または、他のフォームファクタコンピュータもしくはデータ処理システムの形態を取ってよい。また、情報処理システムは、携帯情報端末（ＰＤＡ）、ゲーミングデバイス、現金自動預払機（ＡＴＭ）、携帯電話デバイス、通信デバイス、または、プロセッサとメモリとを含む他のデバイスなどの他のフォームファクタを取ってよい。

図２は、図１に示す情報処理システム環境の拡張を提供して、本明細書に記載の方法がネットワーク化環境で動作する多種多様な情報処理システム上で実行され得ることを示す。情報処理システムのタイプは、ハンドヘルドコンピュータ／携帯電話２１０などの小型ハンドヘルドデバイスからメインフレームコンピュータ２７０などの大型メインフレームシステムにまで及ぶ。ハンドヘルドコンピュータ２１０の例には、携帯情報端末（ＰＤＡ）、パーソナルエンターテインメントデバイス、例えば、動画専門家集団レイヤ３オーディオ（ＭＰ３）プレーヤ、ポータブルテレビ、およびコンパクトディスクプレーヤが含まれる。情報処理システムの他の例には、ペンまたはタブレットコンピュータ２２０、ラップトップまたはノートブックコンピュータ２３０、ワークステーション２４０、パーソナルコンピュータシステム２５０、およびサーバ２６０が含まれる。図２で個々に示されていない他のタイプの情報処理システムが、情報処理システム２８０で表されている。示されているように、これらの様々な情報処理システムは、コンピュータネットワーク２００を使用して一緒にネットワーク化され得る。これらの様々な情報処理システムを相互接続するために使用され得るコンピュータネットワークのタイプは、ローカルエリアネットワーク（ＬＡＮ）、無線ローカルエリアネットワーク（ＷＬＡＮ）、インターネット、公衆交換電話網（ＰＳＴＮ）、他の無線ネットワーク、および、情報処理システム同士を相互接続するために使用され得る任意の他のネットワークトポロジを含む。情報処理システムの多くが、不揮発性データストア、例えば、ハードドライブもしくは不揮発性メモリ、またはその両方を含む。図２に示す情報処理システムの実施形態は、別個の不揮発性データストアを含む（より具体的には、サーバ２６０が不揮発性データストア２６５を利用し、メインフレームコンピュータ２７０が不揮発性データストア２７５を利用し、情報処理システム２８０が不揮発性データストア２８５を利用する）。不揮発性データストアは、これらの様々な情報処理システムの外部にあるコンポーネントであってもよいし、これらの情報処理システムのうちの１つの内部にあってもよい。また、リムーバブル不揮発性記憶デバイス１４５は、情報処理システムのＵＳＢポートまたは他のコネクタにリムーバブル不揮発性記憶デバイス１４５を接続するなど、様々な技術を使用して２つまたはそれより多くの情報処理システム間で共有され得る。

以上で論じたように、非構造化データには多くの異なる形式があるが、既存のスマートドキュメント理解（ＳＤＵ）手法には、トレーニングのためのトレーニングデータ抽出方法が最低限しかない。このため、選択が非最適な形式に偏った状態でドキュメントが選択される場合があり、その結果、変換精度が低下する。図３から図１１は、複数の機械学習モデルを適応的にトレーニングし、最適な機械学習モデルを選択して非構造化データを構造化データに転換することにより変換精度を高める情報処理システム上で実行され得る手法を示す。この手法では、文字領域に基づきドキュメントを特徴データ（特徴ベクトル）に自動変換し、形式に基づき特徴空間で特徴ベクトルをクラスタリングし、そのクラスタリングに基づきそれぞれの形式に特化した複数の機械学習モデルをトレーニングする。

次に、ひとたび機械学習モデルがトレーニングされると、この手法では、最適な機械学習モデルを適応的に選択して、非構造化データの特定のページを、特徴空間にマッピングされるそのページの特徴ベクトルに基づき、構造化データに転換する。一実施形態では、画像間の類似度または文中の単語間の類似度を使用してクラスタリングが実行される。別の実施形態では、特徴値を形式抽出に使用することによって、クラスタリングからより重要な分割モデルが作成される。本実施形態では、特徴値がその後の形式抽出と共通して使用されるので、時間が短縮され、リソースが節約され、アプリケーションとの高い親和性が提供される。

図３は、複数の機械学習モデルをトレーニングし、トレーニングされた機械学習モデルを利用して非構造化データを構造化データにインテリジェントに転換する、適応型ドキュメント理解システムを示す例示的な図である。適応型ドキュメント理解（ＡＤＵ）システム３００は、２つのフェーズ、すなわち、モデルトレーニングフェーズ３１０およびモデル推論フェーズ３２０を含む。本明細書で論じるように、モデルトレーニングフェーズ３１０は、モデル３３５を独立にトレーニングし、モデル３３５は、モデルＡ３４０、モデルＢ３５０、モデルＣ３６０、およびモデルｎ３７０を含む。次に、モデル推論フェーズ３２０は、モデル３３５を使用してドキュメントストア３３０内の非構造化データを構造化データに転換する。

ドキュメントストア３３０は、様々な非構造化ドキュメントタイプ、例えば、二段組みの記事、グラフィックイメージを用いた金融に関する記事、および従来の段落ベースの文字を含む。モデルトレーニングフェーズ３１０は、ドキュメントストア３３０からのドキュメントをページに分割し、次に、これらのページ（テキストの節、画像など）の各々から文字を抽出する。モデルトレーニングフェーズ３１０は、これらのページの各々を、そのページの抽出された文字のサイズおよび位置に関する情報に基づく形式を示す特徴データ（ベクトル）に変換し、特徴情報を特徴空間３８０に記憶する。次に、モデルトレーニングフェーズ３１０は、階層的クラスタリングによってその特徴データに基づきページをクラスタに分割し、本明細書ではページクラスタ中心またはページクラスタ中心ベクトルと呼ばれる、各ページクラスタの重心を決定する（更なる詳細については、図４、図６、図７、図１０、および対応するテキストを参照）。

次に、モデルトレーニングフェーズ３１０は、特徴空間でページクラスタ中心をトレーニングクラスタ中心と比較する。トレーニングクラスタ中心は、機械学習モデル３３５を初期トレーニングするために利用されたトレーニングクラスタに対応する。次に、モデルトレーニングフェーズ３１０は、機械学習モデル３３５のうちの１つをベースモデルとしてページクラスタ中心の各々に割り当てる（更なる詳細については、図１０および対応するテキストを参照）。

次に、モデルトレーニングフェーズ３１０は、ページクラスタの各々から非構造化ページをランダムに抽出し、抽出された非構造化ページに注釈を入力する。次に、モデルトレーニングフェーズ３１０は、注釈付けされた非構造化ページを使用して、モデル３４０、３５０、３６０、および３７０をそれぞれのページクラスタについてトレーニングする。例えば、モデルＡ３４０が図１０のページクラスタＡ１０００に割り当てられる場合は、モデルＡ３４０は、ページクラスタＡ１０００からランダムに抽出される注釈付けされた非構造化ページでトレーニングされる。次に、モデルトレーニングフェーズ３１０は、モデル３３５とそれらの対応するクラスタ中心ベクトルとをモデルストア３９０に記憶する。

一実施形態において、モデル３３５には、画像、テキストなどといった様々なコンテンツタイプの素因がある。本実施形態において、適応型ドキュメント理解システム３００は、特徴空間３８０内のクラスタの位置に基づき、モデル３３５のうちのどのモデルが特定のクラスタに最も良く適合するかを選択する（例えば、画像特徴値の高いクラスタが画像ベースの機械学習モデルに割り当てられる）。

ひとたびモデル３３５がトレーニングを完了すると、モデル推論フェーズ３２０は、ドキュメントストア３３０からのドキュメントをページに分割するか、または、それらがモデルトレーニングフェーズ３１０により既に分割されている場合にこれらのページをそのまま使用する。次に、モデル推論フェーズ３２０は、これらのページのうちの１つを選択し、選択されたページから文字を抽出し、選択されたページを、そのページの抽出された文字のサイズおよび位置に関する情報に基づく選択されたページの形式を示す特徴データ（ベクトル）に変換する（更なる詳細については、図９および対応するテキストを参照）。

次に、モデル推論フェーズ３２０は、選択されたページの特徴ベクトルを特徴空間３８０にマッピングし、モデルストア３９０で最も近いページクラスタ中心を識別する（更なる詳細については、図１１および対応するテキストを参照）。次に、モデル推論フェーズ３２０は、最も近いページクラスタ中心に対応するモデル３３５のうちの１つをモデルストア３９０から選択する。次に、モデル推論フェーズ３２０は、モデル３３５のうちの選択された１つを使用して、選択された非構造化ページを構造化データに転換する。

次に、モデル推論フェーズ３２０は、ドキュメントストア３３０内の異なる非構造化ページを選択し、その異なるページに最適なモデルを選択し、選択された最適なモデルを使用してその異なる非構造化ページを異なる構造化ページに転換する。モデル推論フェーズは、このプロセスを繰り返し、最適なモデルを選択して、ドキュメントストア３３０内の非構造化ページの各々を構造化ページに転換する（更なる詳細については、図５および対応するテキストを参照）。

図４は、非構造化ドキュメントを使用してモデル３３５を選択およびトレーニングする適応型ドキュメント理解システム３００を示す例示的な図である。適応型ドキュメント理解システム３００、特にモデルトレーニングフェーズ３１０は、非構造化ドキュメント４００を非構造化ページ４２０のページセット（ｄ_ｉ，ｐ）に分割する。ここで、ｉはドキュメントのインデックスであり、ｐはページのインデックスである。

次に、適応型ドキュメント理解システム３００は、ＳＤＵに実装される従来のＯＣＲ技術または既存の技術を一実施形態で使用して、非構造化ページ４２０の各々から文字領域を抽出する。光学式文字認識（ＯＣＲ）とは、入力、手書き、または印刷されたテキストの画像を、スキャンされたドキュメント、ドキュメントの写真、シーン写真からであろうと、画像上に重ね合わされた字幕テキストからであろうと、機械でエンコードされたテキストに変換することである。

非構造化ページ４２０の各ページについて、適応型ドキュメント理解システム３００は、文字領域を、各々がある形式（例えば、文字領域の数、領域の位置、領域のサイズ、および文字のサイズ）を示す、特徴データＦ＝｛ｆ_ｉ，ｐ｝に変換する（更なる詳細については、図９および対応するテキストを参照）。

適応型ドキュメント理解システム３００は、特徴ベクトルの各々を特徴空間３８０にマッピングする。次に、適応型ドキュメント理解システム３００は、非構造化ページ４２０を、それらの特徴マッピングに基づきクラスタにセグメント化する。例えば、特徴空間３８０の特定の領域に画像集約型ページがマッピングされ、特徴空間３８０の異なる領域にテキスト集約型ページがマッピングされる。適応型ドキュメント理解システム３００の特徴ベクトルは、マッピング中にページ上の画像およびテキストの位置も考慮に入れる（更なる詳細については、図９、図１０、および対応するテキストを参照）。図４は、特徴空間クラスタリングの結果を、ページタイプＡ４３０、ページタイプＢ４４０、およびページタイプＣ４５０として示す。

一実施形態において、適応型ドキュメント理解システム３００は、階層的クラスタリングによって特徴データＦに基づき非構造化ページ４２０を互いからの距離（差）が閾値Ｌｔｈ以上であるドキュメントに分割することにより、トレーニングに有効な最適な数のページクラスタ（４３０、４４０、４５０）を作成する（更なる詳細については、図７および対応するテキストを参照）。

適応型ドキュメント理解システム３００は、ページクラスタ中心を、機械学習モデル３３５を初期トレーニングするために利用されたトレーニングクラスタに対応するトレーニングクラスタ中心と比較する。次に、適応型ドキュメント理解システム３００は、機械学習モデル３３５のうちの１つをベースモデルとしてページクラスタ中心の各々に割り当てる（更なる詳細については、図１０および対応するテキストを参照）。

適応型ドキュメント理解システム３００は、ページクラスタからトレーニングページサンプル４３５、４４５、および４５５をランダムに抽出し、抽出されたトレーニングページサンプルの各々に注釈を付け、注釈付けされたドキュメントを使用してモデルＡ３４０、モデルＢ３５０、およびモデルＣ３６０をそれぞれトレーニングする。

図５は、各非構造化ページについて適切な機械学習モデルを選択し、選択された機械学習モデルを使用して各非構造化ページを構造化ページに変換する、適応型ドキュメント理解システム３００を示す例示的な図である。適応型ドキュメント理解システム３００、特にモデル推論フェーズ３２０は、非構造化ドキュメント４００を非構造化ページ４２０に分割する。適応型ドキュメント理解システム３００は、ＳＤＵに実装される従来のＯＣＲ技術または既存の技術を使用して非構造化ページ４２０の各々から文字領域を抽出し、次に、これらの文字領域を、以上で論じたように、各々が文字領域の数、領域の位置、領域のサイズ、および文字のサイズなどといった形式を示す、特徴データＦ＝｛ｆ_ｉ，ｐ｝に変換する（更なる詳細については、図９および対応するテキストを参照）。

次に、適応型ドキュメント理解システム３００は、非構造化ページ４２０のうちの１つを選択し、特徴ベクトルを特徴空間３８０にマッピングする。次に、適応型ドキュメント理解システム３００は、マッピングされた特徴ベクトルに最も近いページクラスタ中心（ｇｃｔ）を識別する（更なる詳細については、図１１および対応するテキストを参照）。次に、適応型ドキュメント理解システム３００は、識別された最も近いクラスタ中心に対応するモデル３３５のうちの１つを選択する。これは、対応するクラスタ内の非構造化ページによりトレーニングされる機械学習モデルである。次に、適応型ドキュメント理解システム３００は、選択されたモデル３３５のうちの１つを使用して、選択された非構造化ページ４２０を構造化ページ５４０に変換する。適応型ドキュメント理解システム３００は、このプロセスを繰り返し、非構造化ページ４２０の各々についてモデル３３５のうちの１つを個々に選択して、非構造化データを構造化データに転換する。

図６は、非構造化ドキュメント４００を使用してモデル３３５をトレーニングするために取られるステップを示す例示的なフローチャートである。図６の処理は６００で開始する。その後、ステップ６１０で、プロセスは、ドキュメントストア３３０からの非構造化ドキュメント４００を非構造化ページ４２０に分割する。ステップ６２０で、プロセスは、ページから文字領域を抽出し、これらの文字領域を特徴ベクトルｆ（ｉ，ｐ）に変換する（更なる詳細については、図９および対応するテキストを参照）。次に、プロセスは、特徴ベクトルを特徴空間３８０上にマッピングする（更なる詳細については、図１０および対応するテキストを参照）。

事前定義されたプロセスブロック６３０で、プロセスは、階層的クラスタリングを使用して、ベクトルセットＦ＝｛ｆ_ｉ，ｐ｝を、互いからの距離（差）が閾値「Ｌｔｈ」以上であるクラスタに分割する（更なる詳細については、図７および対応するテキストを参照）。図１０を参照すると、プロセスは、ベクトルをページクラスタＡ１０００、ページクラスタＢ１０４０、およびページクラスタＣ１０８０にグループ化する。

ステップ６３５で、プロセスは、既存の機械学習モデルに対応するページクラスタ中心とトレーニングクラスタ中心との間の中心間距離を算出する（更なる詳細については、図１０および対応するテキストを参照）。プロセスは、ページクラスタ中心とトレーニングクラスタ中心との間の中心間距離が、クラスタ間の最小中心間距離の半分など、閾値Ｌｔｈに等しいかそれ未満であるかどうかを判断する（判定６４０）。すなわち、一実施形態において、プロセスは、特定の機械学習モデルを特定のページクラスタ中心に割り当てるかどうかを決定する。別の実施形態において、プロセスは、トレーニングクラスタ中心に近接しているページクラスタ中心の部分を識別し、複数の特定の機械学習モデルをページクラスタ中心のうちの幾つかに割り当て、一方で、他のページクラスタ中心をある特定の機械学習モデルに割り当てなくてよい。

ページクラスタ中心とトレーニングクラスタ中心との間の中心間距離が閾値Ｌｔｈに等しいかそれ未満でない場合は、判定６４０は「いいえ」分岐に分岐する。その後、ステップ６５０で、プロセスは、モデル３３５をランダムに初期化して、各ページクラスタが特徴空間３８０内の各トレーニングクラスタと十分に異なるため、個々のデータを用いてトレーニングされるモデルがないことを示す。

一方、ページクラスタ中心とトレーニングクラスタ中心との間の中心間距離が閾値Ｌｔｈに等しいかそれ未満である場合は、判定６４０は「はい」分岐に分岐する。ステップ６６０で、プロセスは、最も近い既存の機械学習モデルを転移学習および微調整のベースモデルとしてページクラスタ中心に割り当てる（後述）。例えば、ユーザは、「会議Ａ」の論文で既にトレーニングされた機械学習モデルを有してよく、プロセスは、その機械学習モデルを、「会議Ｂ」の論文でトレーニングすべきベースモデルとして使用して、これらの論文の形式が類似している場合は、新たなモデルを作成する。

ステップ６７０で、プロセスは、各ページクラスタからトレーニングページのセットをランダムに抽出し、抽出されたページに注釈を付ける。ステップ６７５で、プロセスは、最初の注釈付けされたページのセットと、対応する機械学習モデル（例えば、タイプＡサンプル４３０）とを選択する。ステップ６７５で、プロセスは、対応する注釈付けされたトレーニングページのセットを使用して、選択されたモデルをトレーニングする。図４を参照すると、プロセスは、注釈付けされたタイプＡサンプル４３５を使用してモデルＡ３４０をトレーニングする。

ステップ６８５で、プロセスは、トレーニングされたモデルをモデル３３５に記憶し、ページクラスタの対応するページクラスタ中心をモデルストア３９０に記憶する。その後、図６の処理は６９５で終了する。

図７は、特徴空間で非構造化ページ特徴ベクトルをクラスタリングするために取られるステップを示す例示的なフローチャートである。図７の処理は７００で開始する。その後、ステップ７１０で、プロセスは、最初の「ｔ」を選択する。ここで、「ｔ」は、クラスタの識別子である。各ドキュメントは個々のクラスタに属する。

ステップ７２０で、プロセスは、各ページの特徴データｆ（ｉ，ｐ）を１つのクラスタｃ（ｔ）として設定し、クラスタ中心ｇ（ｃｔ）＝ｆ（ｉ，ｐ）を設定する。ステップ７３０で、プロセスは、ｇ（ｃｔ）、ｇ（ｃ'ｔ）の各ペア間の距離ｌ（ｃｔ，ｃ'ｔ）を算出する（例えば、ユークリッド距離計算）。ステップ７４０で、プロセスは、距離ｌ（ｃｔ，ｃ'ｔ）が閾値Ｌｔｈより小さいペアのクラスタを距離が短い順に組み合わせて、新たなクラスタｃ（ｔ'）のセットを作成する。このステップでは、隣接するクラスタが１つの新たなクラスタとしてマージおよび作成され、ｔ'は、生成された新たな識別子を表す。

プロセスは、新たなクラスタが作成されるかどうかを判断する（判定７５０）。新たなクラスタが作成される場合は、判定７５０は「はい」分岐に分岐する。ステップ７６０で、プロセスは、各クラスタｃ（ｔ'）について、ページクラスタｃ（ｔ'）に属するｆ（ｉ，ｐ）に基づき新たなページクラスタ中心ｇ（ｃ'）のセットを算出する。次に、プロセスは、ステップ７３０および７４０にループバックして、クラスタ中心間の新たな距離を算出し、必要に応じてクラスタ同士を組み合わせる。このループは、クラスタが互いに適切に分離され、かつ、作成すべき新たなクラスタがなくなるまで継続する。その時点で、判定７５０は、ループを終了する「ない」分岐に分岐する。その後、図７の処理は、７９５で呼び出し側のルーチンに戻る（更なる詳細については、図６および対応するテキストを参照）。

図８は、非構造化ページ４２０の特定のモデル推論にモデル３３５を使用するために取られるステップを示す例示的なフローチャートである。図８の処理は８００で開始する。その後、ステップ８１０で、プロセスは、非構造化ドキュメント４００を非構造化ページ４２０に分割する。ステップ８２０で、プロセスは、ページから文字領域を抽出し、これらの文字領域を特徴ベクトルｆ（ｉ，ｐ）に変換する。前に論じたように、一実施形態において、プロセスは、ステップ６１０および６２０が最近実行された場合に、ステップ８１０および８２０を省略してよい。

ステップ８３０で、プロセスは、最初の非構造化ページを選択し、ステップ８３５で、プロセスは、選択された非構造化ページの特徴ベクトルを特徴空間３８０にマッピングする。ステップ８４０で、プロセスは、選択されたページのｆ（ｉ，ｐ）と、トレーニングフェーズからの全てのページクラスタ中心との間の特徴空間３８０における距離を算出する（更なる詳細については、図１１および対応するテキストを参照）。

ステップ８５０で、プロセスは、ｆ（ｉ，ｐ）に最も近いページクラスタ中心を識別し、識別されたページクラスタ中心に割り当てられるモデルを選択する。図１１を参照すると、クラスタ中心Ａ１０１０が特徴ベクトル１１１０に最も近いので、プロセスはモデルＡ３４０を選択する。ステップ８６０で、プロセスは、選択されたモデルを使用して、選択された非構造化ページを構造化ページ５４０に変換する。ステップ８７０で、プロセスは、構造化ドキュメントをドキュメントストア３３０に記憶する。

プロセスは、構造化ページに転換すべき非構造化ページがまだ他にあるかどうかを判断する（判定８８０）。転換すべきページがまだ他にある場合は、判定８８０は、次の非構造化ページを選択および処理するためにループバックする「はい」分岐に分岐する。このループは、ページの各々が処理されるまで継続し、その時点で、判定８８０は、ループを終了する「ない」分岐に分岐する。その後、図８の処理は８９５で終了する。

図９は、ページを文字領域にセグメント化し、これらの文字領域について特徴ベクトルを作成し、これらの文字領域特徴ベクトルからページ特徴ベクトルを作成する、適応型ドキュメント理解システム３００を示す例示的な図である。

適応型ドキュメント理解システム３００は、非構造化ページ９００を分析し、ページ９００を３つの文字領域ｘ９１０、ｙ９２０、およびｚ９３０に分割する。次に、適応型ドキュメント理解システム３００は、上述したＯＣＲなどの技術を使用して各領域に対応するデータおよび位置情報（データｘ／位置ｘ９４０、データｙ／位置ｙ９４５、データｚ／位置ｚ９５０）を捕捉する。

次に、適応型ドキュメント理解システム３００は、特徴ベクトル発生器９６０を使用して、それぞれの領域ベクトルｘ９６０、ｙ９７０、およびｚ９８０を、それらの対応するデータ／位置データに基づき生成する。次に、特徴ベクトル発生器９６０は、領域ベクトルｘ９６０と、ｙ９７０と、ｚ９８０とを組み合わせて、非構造化ページと一致する１つの特徴ベクトル９９０にする。次に、適応型ドキュメント理解システム３００は、文字領域特徴ベクトルからページ特徴ベクトル９９０を作成する。一実施形態において、適応型ドキュメント理解システム３００は、ｉ）フォントサイズが同様の文字領域間で加算または平均化を適用するか、ｉｉ）最も大きなＮ個の文字領域のみを使用するか、もしくは、ｉｉｉ）文字領域のベクトルを表面積または座標別にソートして複数の異なる非構造化ページタイプを識別するか、またはこれらの組み合わせを行う。

次に、適応型ドキュメント理解システム３００は、ページ特徴ベクトル９９０を特徴空間３８０にマッピングして、非構造化ページ９００を構造化ページに転換するためにモデル３３０のうちのどのモデルを選択するかを決定する（更なる詳細については、図１１および対応するテキストを参照）。

図１０は、非構造化ページを特徴空間にマッピングし、これらのマッピングをモデルトレーニングフェーズでクラスタリングする、適応型ドキュメント理解システム３００を示す例示的な図である。図１０は、様々な非構造化ページマッピング（ドット）を示す。適応型ドキュメント理解システム３００は、例えば、図７に示すような階層的クラスタリングのステップを使用して、これらのマッピングをクラスタＡ１００、クラスタＢ１０２０、およびクラスタＣ１０４０にクラスタリングする。本明細書で論じるように、適応型ドキュメント理解システム３００は、クラスタ分析を使用して、同じグループ内のマッピングが他のグループ内のマッピングよりも互いに類似するように、マッピングのセットをグループ化する。マッピング間の類似性は、データセット内の様々な寸法にわたる距離測定を使用して決定されることが多い。

図１０は、モデル３３５を初期トレーニングするために利用される特徴データ（例えば、ページ）を含む様々なトレーニングクラスタも示す。トレーニングクラスタＡ１０２０は、モデルＡ３４０をトレーニングするために使用される特徴データに対応する。トレーニングクラスタＢ１０７０は、モデルＢ３５０をトレーニングするために使用される特徴データに対応する。トレーニングクラスタＣ１０９０は、モデルＣ３６０をトレーニングするために使用される特徴データに対応する。

適応型ドキュメント理解システム３００は、ページクラスタ中心とトレーニングクラスタ中心との間の距離を計算して、適切な機械学習モデルを各ページクラスタ中心に割り当てる。図１０は、距離ｄ１がページクラスタ中心Ａ１０１０とトレーニングクラスタ中心Ａ１０３０との間の最も近い距離であることを示す。このため、モデルＡ３４０は、ページクラスタ中心Ａ１０１０に割り当てられる。距離ｄ２は、ページクラスタ中心Ｂ１０５０とトレーニングクラスタ中心Ｂ１０７０との間の最も近い距離である。このため、モデルＢ３５０は、ページクラスタ中心Ｂ１０５０に割り当てられる。距離ｄ３は、ページクラスタ中心Ｃ１０８５とトレーニングクラスタ中心Ｃ１０９５との間の最も近い距離である。このため、モデルＣ３６０は、ページクラスタ中心Ｃ１０８５に割り当てられる。

ひとたび適応型ドキュメント理解システム３００がモデルトレーニングフェーズを完了すると、適応型ドキュメント理解システム３００は、ページクラスタ中心Ａ１０１０、ページクラスタ中心Ｂ１０５０、およびページクラスタ中心Ｃ１０８５の特徴空間位置を使用して、特定の非構造化ページを構造化ページに転換するためにどの機械学習モデルを選択するかを決定する（更なる詳細については、図１１および対応するテキストを参照）。

図１１は、ページ特徴ベクトルを特徴空間にマッピングし、特定の非構造化ページを構造化ページに転換するために選択すべき機械学習モデルを選択する、適応型ドキュメント理解システム３００を示す例示的な図である。

適応型ドキュメント理解システム３００（例えば、モデル推論フェーズ３２０）は、図９に示す手法を使用してページ特徴ベクトル９９０を生成する。次に、適応型ドキュメント理解システム３００は、マッピング１１１０からページクラスタ中心Ａ１０１０までの距離（距離Ａ）、ページクラスタ中心Ｂ１０５０までの距離（距離Ｂ）、およびページクラスタ中心Ｃ１０８５までの距離（距離Ｃ）を計算する。次に、適応型ドキュメント理解システム３００は、これらの距離測定に基づき適切な機械学習モデルを選択する。図１１は、距離Ａが最も短い距離であることから、適応型ドキュメント理解システム３００が、非構造化ページ９００に適用すべきモデルＡ３４０を選択して、ページを非構造化ページから構造化ページに転換することを示す。

本開示の特定の実施形態を図示および説明してきたが、本明細書の教示に基づき本開示およびそのより広範な態様から逸脱することなく変更および修正がなされ得ることは、当業者にとって明らかであろう。従って、添付の特許請求の範囲は、その範囲内において、本開示の真の趣旨および範囲内にあるような変更および修正を全て包含すべきである。更に、本開示は添付の特許請求の範囲によってのみ定義されることを理解されたい。導入される請求項要素の特定の数が意図される場合にはそのような意図が請求項において明示的に記載され、そのような記載がない場合にはそのような限定が存在しないことが、当業者には解るであろう。非限定的な例として、理解を助けるために、以下の添付の特許請求の範囲は、請求項要素を導入するための「少なくとも１つ」および「１つまたは複数」という導入句の使用を含む。しかしながら、そのような句の使用は、「１つまたは複数」または「少なくとも１つ」という導入句と「ａ」または「ａｎ」などの不定冠詞とが同じ請求項に含まれる場合であっても、「ａ」または「ａｎ」という不定冠詞による請求項要素の導入が、そのような導入された請求項要素を含む任意の特定の請求項を、そのような要素を１つだけ含む開示に限定することを示唆していると解釈されるべきではない。請求項における定冠詞の使用についても同じことが当てはまる。

Claims (25)

1. コンピュータ実装方法であって、
   複数の非構造化ページに対応する複数の特徴ベクトルから特徴空間に複数のページクラスタを作成する段階と、
   複数の機械学習モデルのうちの１つを、前記複数の機械学習モデルに対応する複数のトレーニングクラスタと前記複数のページクラスタとの間の前記特徴空間における関係に基づき、前記複数のページクラスタの各１つに割り当てる段階と、
   前記複数の非構造化ページのうちの選択された１つに対応する前記複数のページクラスタのうちの１つを識別する段階と、
   前記識別されたページクラスタに割り当てられる前記複数の機械学習モデルのうちの選択された１つを使用して、前記選択された非構造化ページを構造化ページに転換する段階と
   を備える方法。
2. 複数の非構造化ドキュメントを前記複数の非構造化ページに分割する段階と、
   前記複数の非構造化ページのうちの１つを選択する段階と、
   前記選択された非構造化ページにおける文字領域のセットおよび対応する位置のセットを定義する段階と、
   前記文字領域のセットに対応する文字領域特徴ベクトルのセットを、それらの対応する位置のセットとそれらの対応する文字領域内のコンテンツのセットとに基づき計算する段階と
   を更に備える、請求項１に記載の方法。
3. 前記文字領域特徴ベクトルのセットに基づき、前記選択された非構造化ページについて前記複数の特徴ベクトルのうちの選択された１つを計算する段階と、
   前記選択された特徴ベクトルを前記特徴空間にマッピングする段階と
   を更に備える、請求項２に記載の方法。
4. 前記選択された特徴ベクトルに対して階層的クラスタリングを実行する段階であって、前記階層的クラスタリングが、
   前記選択された特徴ベクトルに特徴空間で最も近い前記複数のページクラスタに対応する複数のページクラスタ中心のうちの１つを識別することと、
   前記選択された特徴ベクトルを、前記識別されたページクラスタ中心に対応する前記複数のページクラスタのうちの識別された１つに追加することと
   を更に含む、実行する段階
   を更に備える、請求項３に記載の方法。
5. 前記複数のページクラスタに基づき複数のページクラスタ中心を計算する段階と、
   前記複数のトレーニングクラスタに基づき複数のトレーニングクラスタ中心を計算する段階と、
   前記複数のページクラスタ中心のうちの１つを選択する段階と、
   前記選択されたページクラスタ中心に前記特徴空間で最も近い前記複数のトレーニングクラスタ中心のうちの１つを識別する段階と、
   前記識別されたトレーニングクラスタ中心に対応する前記複数の機械学習モデルのうちの１つを、前記選択されたページクラスタ中心に対応する前記ページクラスタに割り当てる段階と
   を更に備える、請求項１に記載の方法。
6. 前記複数の非構造化ページのうちの異なる１つに対応する前記複数のページクラスタのうちの異なる１つを識別する段階と、
   前記異なるページクラスタに割り当てられる前記複数の機械学習モデルのうちの異なる１つを使用して前記異なる非構造化ページを異なる構造化ページに転換する段階と
   を更に備える、請求項１に記載の方法。
7. 前記識別されたページクラスタに対応する前記複数の非構造化ドキュメントの部分を使用して、前記選択された機械学習モデルをトレーニングする段階と、
   前記トレーニングされた機械学習モデルを使用して前記転換を実行する段階と、
   前記トレーニングされた機械学習モデルを前記複数の機械学習モデルに追加する段階と
   を更に備える、請求項２に記載の方法。
8. 前記複数の非構造化ページが複数の非構造化ページタイプを含み、前記複数の機械学習モデルのうちの１つが前記複数の非構造化ページタイプの各１つに割り当てられて前記転換が実行される、請求項１から７のいずれか一項に記載の方法。
9. 情報処理システムであって、
   １つまたは複数のプロセッサと、
   前記１つまたは複数のプロセッサのうちの少なくとも１つに結合されるメモリと、
   前記メモリに記憶され、かつ、前記１つまたは複数のプロセッサのうちの少なくとも１つにより、
   複数の非構造化ページに対応する複数の特徴ベクトルから特徴空間に複数のページクラスタを作成する動作と、
   複数の機械学習モデルのうちの１つを、前記複数の機械学習モデルに対応する複数のトレーニングクラスタと前記複数のページクラスタとの間の前記特徴空間における関係に基づき、前記複数のページクラスタの各１つに割り当てる動作と、
   前記複数の非構造化ページのうちの選択された１つに対応する前記複数のページクラスタのうちの１つを識別する動作と、
   前記識別されたページクラスタに割り当てられる前記複数の機械学習モデルのうちの選択された１つを使用して、前記選択された非構造化ページを構造化ページに転換する動作と
   を行うために実行される、コンピュータプログラム命令のセットと
   を備える情報処理システム。
10. 前記１つまたは複数のプロセッサが、
    複数の非構造化ドキュメントを前記複数の非構造化ページに分割する動作と、
    前記複数の非構造化ページのうちの１つを選択する動作と、
    前記選択された非構造化ページにおける文字領域のセットおよび対応する位置のセットを定義する動作と、
    前記文字領域のセットに対応する文字領域特徴ベクトルのセットを、それらの対応する位置のセットとそれらの対応する文字領域内のコンテンツのセットとに基づき計算する動作と
    を含む更なる動作を実行する、請求項９に記載の情報処理システム。
11. 前記１つまたは複数のプロセッサが、
    前記文字領域特徴ベクトルのセットに基づき、前記選択された非構造化ページについて前記複数の特徴ベクトルのうちの選択された１つを計算する動作と、
    前記選択された特徴ベクトルを前記特徴空間にマッピングする動作と
    を含む更なる動作を実行する、請求項１０に記載の情報処理システム。
12. 前記１つまたは複数のプロセッサが、
    前記選択された特徴ベクトルに対して階層的クラスタリングを実行する動作であって、前記階層的クラスタリングが、
    前記選択された特徴ベクトルに特徴空間で最も近い前記複数のページクラスタに対応する複数のページクラスタ中心のうちの１つを識別することと、
    前記選択された特徴ベクトルを、前記識別されたページクラスタ中心に対応する前記複数のページクラスタのうちの識別された１つに追加することと
    を更に含む、実行する動作
    を含む更なる動作を実行する、請求項１１に記載の情報処理システム。
13. 前記１つまたは複数のプロセッサが、
    前記複数のページクラスタに基づき複数のページクラスタ中心を計算する動作と、
    前記複数のトレーニングクラスタに基づき複数のトレーニングクラスタ中心を計算する動作と、
    前記複数のページクラスタ中心のうちの１つを選択する動作と、
    前記選択されたページクラスタ中心に前記特徴空間で最も近い前記複数のトレーニングクラスタ中心のうちの１つを識別する動作と、
    前記識別されたトレーニングクラスタ中心に対応する前記複数の機械学習モデルのうちの１つを、前記選択されたページクラスタ中心に対応する前記ページクラスタに割り当てる動作と
    を含む更なる動作を実行する、請求項９に記載の情報処理システム。
14. 前記１つまたは複数のプロセッサが、
    前記複数の非構造化ページのうちの異なる１つに対応する前記複数のページクラスタのうちの異なる１つを識別する動作と、
    前記異なるページクラスタに割り当てられる前記複数の機械学習モデルのうちの異なる１つを使用して前記異なる非構造化ページを異なる構造化ページに転換する動作と
    を含む更なる動作を実行する、請求項９に記載の情報処理システム。
15. 前記１つまたは複数のプロセッサが、
    前記識別されたページクラスタに対応する前記複数の非構造化ドキュメントの部分を使用して、前記選択された機械学習モデルをトレーニングする動作と、
    前記トレーニングされた機械学習モデルを使用して前記転換を実行する動作と、
    前記トレーニングされた機械学習モデルを前記複数の機械学習モデルに追加する動作と
    を含む更なる動作を実行する、請求項１０に記載の情報処理システム。
16. 前記複数の非構造化ページが複数の非構造化ページタイプを含み、前記複数の機械学習モデルのうちの１つが前記複数の非構造化ページタイプの各１つに割り当てられて前記転換が実行される、請求項９から１５のいずれか一項に記載の情報処理システム。
17. 情報処理システムに、
    複数の非構造化ページに対応する複数の特徴ベクトルから特徴空間に複数のページクラスタを作成する手順と、
    複数の機械学習モデルのうちの１つを、前記複数の機械学習モデルに対応する複数のトレーニングクラスタと前記複数のページクラスタとの間の前記特徴空間における関係に基づき、前記複数のページクラスタの各１つに割り当てる手順と、
    前記複数の非構造化ページのうちの選択された１つに対応する前記複数のページクラスタのうちの１つを識別する手順と、
    前記識別されたページクラスタに割り当てられる前記複数の機械学習モデルのうちの選択された１つを使用して、前記選択された非構造化ページを構造化ページに転換する手順と
    を実行させるための、コンピュータプログラム。
18. 前記情報処理システムに、
    複数の非構造化ドキュメントを前記複数の非構造化ページに分割する手順と、
    前記複数の非構造化ページのうちの１つを選択する手順と、
    前記選択された非構造化ページにおける文字領域のセットおよび対応する位置のセットを定義する手順と、
    前記文字領域のセットに対応する文字領域特徴ベクトルのセットを、それらの対応する位置のセットとそれらの対応する文字領域内のコンテンツのセットとに基づき計算する手順と
    を更に実行させるための、請求項１７に記載のコンピュータプログラム。
19. 前記情報処理システムに、
    前記文字領域特徴ベクトルのセットに基づき、前記選択された非構造化ページについて前記複数の特徴ベクトルのうちの選択された１つを計算する手順と、
    前記選択された特徴ベクトルを前記特徴空間にマッピングする手順と
    を更に実行させるための、請求項１８に記載のコンピュータプログラム。
20. 前記情報処理システムに、
    前記選択された特徴ベクトルに対して階層的クラスタリングを実行する手順であって、前記階層的クラスタリングが、
    前記選択された特徴ベクトルに特徴空間で最も近い前記複数のページクラスタに対応する複数のページクラスタ中心のうちの１つを識別することと、
    前記選択された特徴ベクトルを、前記識別されたページクラスタ中心に対応する前記複数のページクラスタのうちの識別された１つに追加することと
    を更に含む、実行する手順
    を更に実行させるための、請求項１９に記載のコンピュータプログラム。
21. 前記情報処理システムに、
    前記複数のページクラスタに基づき複数のページクラスタ中心を計算する手順と、
    前記複数のトレーニングクラスタに基づき複数のトレーニングクラスタ中心を計算する手順と、
    前記複数のページクラスタ中心のうちの１つを選択する手順と、
    前記選択されたページクラスタ中心に前記特徴空間で最も近い前記複数のトレーニングクラスタ中心のうちの１つを識別する手順と、
    前記識別されたトレーニングクラスタ中心に対応する前記複数の機械学習モデルのうちの１つを、前記選択されたページクラスタ中心に対応する前記ページクラスタに割り当てる手順と
    を更に実行させるための、請求項１７に記載のコンピュータプログラム。
22. 前記情報処理システムが、
    前記複数の非構造化ページのうちの異なる１つに対応する前記複数のページクラスタのうちの異なる１つを識別する手順と、
    前記異なるページクラスタに割り当てられる前記複数の機械学習モデルのうちの異なる１つを使用して前記異なる非構造化ページを異なる構造化ページに転換する手順と
    を更に実行させるための、請求項１７に記載のコンピュータプログラム。
23. 前記情報処理システムが、
    前記識別されたページクラスタに対応する前記複数の非構造化ドキュメントの部分を使用して、前記選択された機械学習モデルをトレーニングする手順と、
    前記トレーニングされた機械学習モデルを使用して前記転換を実行する手順と、
    前記トレーニングされた機械学習モデルを前記複数の機械学習モデルに追加する手順と
    を更に実行させるための、請求項１８に記載のコンピュータプログラム。
24. 前記複数の非構造化ページが複数の非構造化ページタイプを含み、前記複数の機械学習モデルのうちの１つが前記複数の非構造化ページタイプの各１つに割り当てられて前記転換が実行される、請求項１７から２３のいずれか一項に記載のコンピュータプログラム。
25. コンピュータ実装方法であって、
    複数の非構造化ドキュメントの各々を複数の非構造化ページに分割する段階と、
    前記複数の非構造化ページについて複数の特徴ベクトルを計算する段階と、
    前記複数の特徴ベクトルの各々を特徴空間にマッピングする段階であって、前記特徴空間がまた、複数の機械学習モデルをトレーニングするために利用される複数のトレーニングデータのセットに対応する複数のトレーニングクラスタ中心を含む、マッピングする段階と、
    前記複数の特徴ベクトルから前記特徴空間に複数のページクラスタを作成する段階と、
    前記複数のページクラスタに基づき複数のページクラスタ中心を計算する段階と、
    前記複数のページクラスタ中心のうちの選択された１つに前記特徴空間で最も近い前記複数のトレーニングクラスタ中心のうちの選択された１つを決定する段階と、
    前記選択されたトレーニングクラスタ中心に対応する前記複数の機械学習モデルのうちの１つを識別する段階と、
    前記識別された機械学習モデルを、前記選択されたページクラスタ中心に割り当てる段階と、
    前記複数の非構造化ページのうちの選択された１つに対応する前記複数の特徴ベクトルのうちの１つを選択する段階と、
    前記選択された特徴ベクトルを前記特徴空間にマッピングする段階と、
    前記選択されたページクラスタ中心が、前記選択された特徴ベクトルに前記特徴空間で最も近いという判断に応答して、前記識別された機械学習モデルを使用して、前記選択された非構造化ページを構造化ページに転換する段階と
    を備える方法。