JP7646587B2 - 情報処理装置、方法およびプログラム - Google Patents

Description

本発明の実施形態は、情報処理装置、方法およびプログラムに関する。

機械学習においては、１つのモデルの予測よりも、複数のモデルの予測をアンサンブルすることにより精度が向上することが知られている。しかし、複数のモデルを用いるためには、それぞれのモデルで訓練および推論する必要があるため、訓練時およびデプロイ時にモデル数に比例してメモリや計算コストが増加するという問題がある。

Lee et al., "Why M Heads are Better than One: Training a Diverse Ensemble of Deep Networks", ［online］，２０１５年１１月１９日，［２０２２年２月１日検索］、インターネット＜URL:https://arxiv.org/abs/1511.06314＞

本開示は、上述の課題を解決するためになされたものであり、コストを抑制しつつ性能を向上できる情報処理装置、方法およびプログラムを提供することを目的とする。

本実施形態に係る情報処理装置は、生成部と、訓練部とを含む。生成部は、データの特徴量を抽出する１つの特徴抽出器と、複数の予測器のそれぞれとを結合し、学習モデルを生成する。訓練部は、前記複数の予測器からのそれぞれの出力をアンサンブルした結果を用いて、特定のタスクに対して前記学習モデルを訓練する。

本実施形態に係る情報処理装置を示すブロック図。 本実施形態に係る情報処理装置の動作例を示すフローチャート。 本実施形態に係る学習モデルのネットワーク構造の一例を示す図。 本実施形態に係る学習モデルの訓練時におけるネットワーク構造の第１例を示す図。 本実施形態に係る学習モデルの訓練時におけるネットワーク構造の第２例を示す図。 本実施形態に係る情報処理装置のハードウェア構成の一例を示す図。

以下、図面を参照しながら本実施形態に係る情報処理装置、方法およびプログラムについて詳細に説明する。なお、以下の実施形態では、同一の参照符号を付した部分は同様の動作をおこなうものとして、重複する説明を適宜省略する。

本実施形態に係る情報処理装置について図１のブロック図を参照して説明する。
第１実施形態に係る情報処理装置１０は、格納部１０１と、取得部１０２と、生成部１０３と、訓練部１０４と、抽出部１０５とを含む。

格納部１０１は、特徴抽出器、複数の予測器、訓練データなどを格納する。特徴抽出器は、データの特徴を抽出するネットワークモデルであり、例えばエンコーダと呼ばれるモデルである。具体的に、特徴抽出器は、ＲｅｓＮｅｔなどの畳み込みニューラルネットワーク（ＣＮＮ）を含む深層ネットワークモデルを想定するが、ＲｅｓＮｅｔに限らず、特徴抽出または次元圧縮で用いられるネットワークモデルであれば、どのようなモデルでも適用可能である。
予測器は、ＭＬＰ（Multi-Layer Perceptron）のネットワークモデルを用いることを想定する。訓練データは、後述の学習モデルを学習させるための学習用データである。

取得部１０２は、格納部１０１から１つの特徴抽出器と、複数の予測器とを取得する。
生成部１０３は、１つの特徴抽出器と、複数の予測器のそれぞれとを結合し、学習モデルを生成する。学習モデルは、１つの特徴抽出器と複数の予測器とが結合された、いわゆるマルチヘッドモデルとして形成される。

訓練部１０４は、訓練データを用いて学習モデルを訓練する。ここでは、訓練部１０４は、複数の予測器からのそれぞれの出力をアンサンブルした結果を用いて、特定のタスクに対して学習モデルを訓練する。
抽出部１０５は、学習モデルの訓練が終了した場合、学習済みモデルとして、学習モデルの特徴抽出器を抽出する。抽出された特徴抽出器は、クラス分類、物体検出などの下流タスクで用いることができる。

次に、本実施形態に係る情報処理装置１０の動作例について図２のフローチャートを参照して説明する。

ステップＳ２０１では、取得部１０２が、１つの特徴抽出器と複数の予測器とを取得する。
ステップＳ２０２では、生成部１０３が、１つの特徴抽出器と複数の予測器のそれぞれとを結合し、学習モデルを生成する。なお、Ｓ２０２において生成された学習モデルは、まだ訓練部１０４による訓練は行われていない。

ステップＳ２０３では、訓練部１０４が、格納部１０１に格納される訓練データを用いて、学習モデルを訓練する。具体的には、訓練データに対する学習モデルからの出力に基づくロス関数を計算する。
ステップＳ２０４では、訓練部１０４が、学習モデルの訓練が終了したか否かを判定する。訓練が終了したか否かの判定は、例えば、複数の予測器からのそれぞれの出力を用いたロス関数のロス値が閾値以下である場合に学習が終了したと判定すればよい。または、ロス値の減少幅が収束した場合に訓練が終了したと判定してもよい。さらには、所定のエポック数の訓練を終了した場合に学習が終了したと判定してもよい。訓練が終了した場合は、ステップＳ２０５に進み、訓練が終了していない場合は、ステップＳ２０６に進む。

ステップＳ２０５では、格納部１０１が、学習済みの特徴抽出器を、学習済みモデルとして格納する。
ステップＳ２０６では、訓練部１０４が、ロス値が最小となるように、例えば勾配降下法および誤差逆伝播法によって、学習モデルのパラメータ、具体的には、ニューラルネットワークの重みおよびバイアスなどを更新する。パラメータの更新後、ステップＳ２０３に戻り、新たな訓練データを用いて学習モデルの訓練を継続する。

次に、本実施形態に係る学習モデルのネットワーク構造の一例について図３を参照して説明する。
本実施形態に係る学習モデル３０は、１つの特徴抽出器３０１と複数の予測器（ここではＮ個の予測器３０２－１～３０２－Ｎ、Ｎは２以上の自然数）とを含む。以下、特に区別しないときは単に予測器３０２と記載することとする。なお、図３以降の例では、学習モデルに訓練データとして画像を入力する場合を想定するが、これに限らず、画像以外の２次元以上のデータでもよいし、センサ値などの１次元時系列データでもよい。

図３に示すように特徴抽出器３０１には、ヘッドとしてＮ個の予測器３０２－１～３０２－Ｎがそれぞれ結合される。特徴抽出器３０１に画像が入力された場合、特徴抽出器３０１により、画像の特徴が抽出され、当該特徴が複数の予測器３０２－１～３０２－Ｎのそれぞれに入力される。複数の予測器３０２－１～３０２－Ｎからのそれぞれの出力がロス計算に用いられる。

ここで、予測器３０２－１～３０２－Ｎはそれぞれ、互いに異なるように構成される。例えば、予測器３０２－１～３０２－Ｎはそれぞれ、ネットワークの重み係数と、ネットワークの層数と、ノード数と、ネットワーク構造（ニューラルネットワークアーキテクチャ）との少なくとも１つが異なっていればよい。ネットワーク構造が異なる場合としては、例えば、ある予測器はＭＬＰであり、他の予測器はＣＮＮである、といったように構成されればよい。予測器３０２－１～３０２－Ｎはそれぞれ、ドロップアウトを入れることで、学習時のネットワーク構造が異なるようにしても良い。

また、これに限らず、予測器３０２－１～３０２－Ｎはそれぞれ、ドロップアウトを入れることで、学習時のネットワーク構造が異なるようにしてもよい。予測器３０２－１～３０２－Ｎはそれぞれ、ドロップアウトの数、ドロップアウトの位置と、ｗｅｉｇｈｔ ｄｅｃａｙなどの正則化の手法との少なくとも１つが異なってもよい。予測器３０２が畳み込み層を含む場合、畳み込み層を含む予測器３０２はそれぞれ、プーリング層の位置が異なってもよい。

なお、上述の例は、予測器３０２－１～３０２－Ｎのそれぞれのネットワーク構成が異なることを想定したが、予測器３０２－１～３０２－Ｎがそれぞれ同じ構成である場合であっても、ネットワークの重み係数をそれぞれ異ならせるか、または特徴抽出器３０１からの出力である各予測器３０２へ入力にノイズを付加することで、異なる予測器３０２－１～３０２－Ｎを設計してもよい。
すなわち、予測器３０２－１～３０２－Ｎからの出力がそれぞれ異なるように設計されればよい。これにより、学習時の予測器３０２からの出力のバリエーションを確保でき、アンサンブルによる訓練効果を向上させることができる。

次に、学習モデル３０の訓練時におけるネットワーク構造の第１例について図４を参照して説明する。
図４は、図２に示す学習モデル３０を、いわゆるＢＹＯＬのネットワーク構造４０を用いた自己教師あり学習により訓練する場合を想定する。自己教師あり学習は、ラベルのないサンプルデータから、同一のデータ（正例）ほど距離が近く（類似度が高く）、異なるデータ（負例）ほど距離が遠く（類似度が低く）なるように学習する機械学習手法の１つである。なお、ＢＹＯＬによる自己教師あり学習の場合は、負例を用いず正例のみでモデルを訓練する。

図４に示すネットワーク構造４０は、学習モデル３０と、ターゲットエンコーダ４１とを含む。学習モデル３０とターゲットエンコーダ４１とにはそれぞれ、訓練データとして、１つの画像Ｘをデータ増強（data augmentation）処理することで、１つの画像に基づく異なる画像が入力される。データ増強処理は、画像を反転、回転、クロップ、ノイズ付加するなどの処理により、１つの画像に基づき複数のデータを生成する処理である。つまり、学習モデル３０には、元画像が反転した画像Ｘ_１が、ターゲットエンコーダ４１には元画像が回転した画像Ｘ_２が入力されるなど、１つの画像からデータ増強されたデータがそれぞれ入力されればよい。

学習モデル３０では、複数の予測器３０２から画像特徴ｑ_１，・・・，ｑ_ｎ（ｎは２以上の自然数）がそれぞれ出力される。一方、ターゲットエンコーダ４１からも画像特徴ｋが出力される。ネットワーク構造４０のロス関数Ｌは、複数の予測器３０２からの出力ｑ_１，・・・，ｑ_ｎと、ターゲットエンコーダ４１からの出力ｋとの類似度のアンサンブルに基づき決定されればよく、例えば（１）式で表される。

（１）式において、ｎは、予測器３０２の数である。ｑ_ｉは、ｎ個存在する予測器３０２のうちのｉ番目（１≦ｉ≦ｎ）の予測器３０２からの出力である。ｋは、ターゲットエンコーダ４１の出力を示す。（１）式のロス関数は、予測器３０２の出力とターゲットエンコーダ４１の出力との内積の加算平均であるが、各予測器３０２の出力を重み付け加算する、加重平均のロス関数を用いてもよい。訓練部１０４は、ロス関数Ｌが最小となるように、学習モデル３０のパラメータ、つまり特徴抽出器３０１および複数の予測器３０２のネットワークに関する重み係数、バイアスなどを更新する。このときターゲットエンコーダ４１のパラメータは更新しない。

また、訓練部１０４は、ロス関数に、各予測器３０２の出力と、複数の予測器３０２－１～３０２－Ｎの平均出力との間の距離（マハラノビス距離）の項を加えて、当該距離が大きくなるように学習モデルのパラメータを更新してもよい。また、訓練部１０４は、ロス関数に各予測器３０２からの出力を無相関化（白色化）する項を加え、無相関化が進む方向に学習モデルのパラメータを更新してもよい。このように各予測器３０２からの出力値をばらつかせることで、アンサンブルによる訓練効果を増加させることができる。

次に、学習モデル３０の訓練時のネットワーク構造の第２例について図５を参照して説明する。
図５に示すネットワーク構造５０は、特徴抽出器３０１がエンコーダであり、複数の予測器３０２－１を複数のデコーダである場合のオートエンコーダを想定する。ネットワーク構造５０における複数の予測器３０２はそれぞれ、特徴抽出器３０１の出力である画像特徴から、入力された画像を復元するようなデコーダネットワークで構成されればよい。

ネットワーク構造５０を用いた学習モデル３０の学習では、例えば、入力画像と、各予測器３０２からの出力画像（画像１～画像Ｎ）との類似度をロス関数とし、当該ロス関数の値が小さくなるように、学習モデル３０のパラメータを更新すればよい。すなわち、予測器３０２から出力がされる画像が入力画像に近づくように学習される。

なお、図４に示すネットワーク構造４０および図５に示すネットワーク構造５０の学習には、図４および図５に示す手法の他、一般的な自己教師あり学習で用いられるような訓練手法を適用してもよい。つまり、本実施形態に係る学習モデル３０を学習させるためのネットワーク構造は、図４および図５の例に限らず、対照学習（Contrastive learning）、回転予測など他の訓練手法を適用してもよい。

上述の例では、複数の予測器３０２は予め格納部１０１に格納されることを想定していたが、学習モデルを訓練する際に複数の予測器３０２が生成されてもよい。
生成部１０３が、１つの予測器３０２をベースとして、例えば、重み係数、ネットワークの層数、ノード数、ドロップアウトの数、ドロップアウトの位置、正則化の値などの少なくとも１つをランダムに設定することで、複数の異なる予測器３０２を生成すればよい。

次に、上述の実施形態に係る情報処理装置１０のハードウェア構成の一例を図６のブロック図に示す。
情報処理装置１０は、ＣＰＵ（Central Processing Unit）６１と、ＲＡＭ（Random Access Memory）６２と、ＲＯＭ（Read Only Memory）６３と、ストレージ６４と、表示装置６５と、入力装置６６と、通信装置６７とを含み、それぞれバスにより接続される。

ＣＰＵ６１は、プログラムに従って演算処理および制御処理などを実行するプロセッサである。ＣＰＵ６１は、ＲＡＭ６２の所定領域を作業領域として、ＲＯＭ６３およびストレージ６４などに記憶されたプログラムとの協働により、上述した情報処理装置１０の各部の処理を実行する。

ＲＡＭ６２は、ＳＤＲＡＭ（Synchronous Dynamic Random Access Memory）などのメモリである。ＲＡＭ６２は、ＣＰＵ６１の作業領域として機能する。ＲＯＭ６３は、プログラムおよび各種情報を書き換え不可能に記憶するメモリである。

ストレージ６４は、ＨＤＤ（Hard Disc Drive）等の磁気記録媒体、フラッシュメモリなどの半導体による記憶媒体、または、ＨＤＤなどの磁気的に記録可能な記憶媒体、光学的に記録可能な記憶媒体などにデータを書き込みおよび読み出しをする装置である。ストレージ６４は、ＣＰＵ６１からの制御に応じて、記憶媒体にデータの書き込みおよび読み出しをする。

表示装置６５は、ＬＣＤ（Liquid Crystal Display）などの表示デバイスである。表示装置６５は、ＣＰＵ６１からの表示信号に基づいて、各種情報を表示する。

入力装置６６は、マウスおよびキーボード等の入力デバイスである。入力装置６６は、ユーザから操作入力された情報を指示信号として受け付け、指示信号をＣＰＵ６１に出力する。

通信装置６７は、ＣＰＵ６１からの制御に応じて外部機器とネットワークを介して通信する。

以上に示した第１の実施形態によれば、１つの特徴抽出器と、複数の予測器とを結合した学習モデルを用い、複数の予測器の出力をアンサンブルした結果を用いて訓練することで、特徴抽出器を訓練する。これにより、複数のエンコーダを用意したアンサンブル学習の場合と比較し、予測器の出力をアンサンブルするため、モデルの訓練時のメモリコストおよび計算コストを低減できる。また、複数の予測器は学習時に用い、推論時には用いないため、学習済みモデルとして下流タスクにデプロイされるモデルは、特徴抽出器である。よって、推論時においてもメモリコストおよび計算コストを低減できる。

上述の実施形態の中で示した処理手順に示された指示は、ソフトウェアであるプログラムに基づいて実行されることが可能である。汎用の計算機システムが、このプログラムを予め記憶しておき、このプログラムを読み込むことにより、上述した情報処理装置の制御動作による効果と同様な効果を得ることも可能である。上述の実施形態で記述された指示は、コンピュータに実行させることのできるプログラムとして、磁気ディスク（フレキシブルディスク、ハードディスクなど）、光ディスク（ＣＤ－ＲＯＭ、ＣＤ－Ｒ、ＣＤ－ＲＷ、ＤＶＤ－ＲＯＭ、ＤＶＤ±Ｒ、ＤＶＤ±ＲＷ、Ｂｌｕ－ｒａｙ（登録商標）Ｄｉｓｃなど）、半導体メモリ、又はこれに類する記録媒体に記録される。コンピュータまたは組み込みシステムが読み取り可能な記録媒体であれば、その記憶形式は何れの形態であってもよい。コンピュータは、この記録媒体からプログラムを読み込み、このプログラムに基づいてプログラムに記述されている指示をＣＰＵで実行させれば、上述した実施形態の情報処理装置の制御と同様な動作を実現することができる。もちろん、コンピュータがプログラムを取得する場合又は読み込む場合はネットワークを通じて取得又は読み込んでもよい。
また、記録媒体からコンピュータや組み込みシステムにインストールされたプログラムの指示に基づきコンピュータ上で稼働しているＯＳ（オペレーティングシステム）や、データベース管理ソフト、ネットワーク等のＭＷ（ミドルウェア）等が本実施形態を実現するための各処理の一部を実行してもよい。
さらに、本実施形態における記録媒体は、コンピュータあるいは組み込みシステムと独立した媒体に限らず、ＬＡＮやインターネット等により伝達されたプログラムをダウンロードして記憶または一時記憶した記録媒体も含まれる。
また、記録媒体は１つに限られず、複数の媒体から本実施形態における処理が実行される場合も、本実施形態における記録媒体に含まれ、媒体の構成は何れの構成であってもよい。

なお、本実施形態におけるコンピュータまたは組み込みシステムは、記録媒体に記憶されたプログラムに基づき、本実施形態における各処理を実行するためのものであって、パソコン、マイコン等の１つからなる装置、複数の装置がネットワーク接続されたシステム等の何れの構成であってもよい。
また、本実施形態におけるコンピュータとは、パソコンに限らず、情報処理機器に含まれる演算処理装置、マイコン等も含み、プログラムによって本実施形態における機能を実現することが可能な機器、装置を総称している。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行なうことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０…情報処理装置、３０…学習モデル、４０…ネットワーク構造、４１…ターゲットエンコーダ、５０…ネットワーク構造、６１…ＣＰＵ、６２…ＲＡＭ、６３…ＲＯＭ、６４…ストレージ、６５…表示装置、６６…入力装置、６７…通信装置、１０１…格納部、１０２…取得部、１０３…生成部、１０４…訓練部、１０５…抽出部、３０１…特徴抽出器、３０２－１～３０２－Ｎ…予測器。

Claims (11)

1. データの特徴量を抽出する１つの特徴抽出器と、複数の予測器のそれぞれとを結合し、学習モデルを生成する生成部と、
   前記複数の予測器からのそれぞれの出力をアンサンブルした結果を用いて、特定のタスクに対して前記学習モデルを訓練する訓練部と、
   前記学習モデルの訓練が終了した場合、前記学習モデルに含まれる前記特徴抽出器を学習済みモデルとして抽出する抽出部と、
   を具備する情報処理装置。
2. 前記複数の予測器はそれぞれ構成が異なる、請求項１に記載の情報処理装置。
3. 前記複数の予測器はそれぞれ、重み係数と、層数と、ノード数と、ネットワーク構造との少なくとも１つが異なる、請求項１または請求項２に記載の情報処理装置。
4. 前記複数の予測器はそれぞれ、ドロップアウトを入れることで学習時のネットワーク構造が異なる、またはドロップアウトの数と、ドロップアウトの位置と、正則化の値との少なくとも１つが異なる、請求項１から請求項３のいずれか１項に記載の情報処理装置。
5. 前記複数の予測器が畳み込み層を含む場合、
   前記複数の予測器はそれぞれ、プーリング層の位置が異なる、請求項１から請求項４のいずれか１項に記載の情報処理装置。
6. 前記訓練部は、前記複数の予測器の各出力の加算平均または加重平均を用いたロス関数に基づき、前記学習モデルを訓練する、請求項１から請求項５のいずれか１項に記載の情報処理装置。
7. 前記訓練部は、前記複数の予測器それぞれの出力と前記複数の予測器の平均出力との距離が大きくなるように、前記学習モデルを訓練する、請求項１から請求項６のいずれか１項に記載の情報処理装置。
8. 前記訓練部は、前記複数の予測器それぞれの出力が無相関となるように学習させる、請求項１から請求項６のいずれか１項に記載の情報処理装置。
9. 前記学習モデルは、前記複数の予測器それぞれに入力される前記特徴抽出器からの出力にノイズが付加される構成を有する、請求項１から請求項８のいずれか１項に記載の情報処理装置。
10. 生成手段が、データの特徴量を抽出する１つの特徴抽出器と、複数の予測器のそれぞれとを結合し、学習モデルを生成し、
    訓練手段が、前記複数の予測器からのそれぞれの出力をアンサンブルした結果を用いて、特定のタスクに対して前記学習モデルを訓練し、
    抽出手段が、前記学習モデルの訓練が終了した場合、前記学習モデルに含まれる前記特徴抽出器を学習済みモデルとして抽出する、情報処理方法。
11. コンピュータを、
    データの特徴量を抽出する１つの特徴抽出器と、複数の予測器のそれぞれとを結合し、学習モデルを生成する生成手段と、
    前記複数の予測器からのそれぞれの出力をアンサンブルした結果を用いて、特定のタスクに対して前記学習モデルを訓練する訓練手段と、
    前記学習モデルの訓練が終了した場合、前記学習モデルに含まれる前記特徴抽出器を学習済みモデルとして抽出する抽出手段として機能させるための情報処理プログラム。