JP7440798B2

JP7440798B2 - 学習装置、予測装置、学習方法及びプログラム

Info

Publication number: JP7440798B2
Application number: JP2022530395A
Authority: JP
Inventors: 悠三鼓; 豪入江; 大貴伊神
Original assignee: Nippon Telegraph and Telephone Corp; NTT Inc USA
Current assignee: NTT Inc; NTT Inc USA
Priority date: 2020-06-09
Filing date: 2020-06-09
Publication date: 2024-02-29
Anticipated expiration: 2040-06-09
Also published as: WO2021250774A1; JPWO2021250774A1

Description

本発明は、学習装置、予測装置、学習方法及びプログラムの技術に関する。

機械学習を用いた予測モデル学習には、一般的に教師あり学習と呼ばれる枠組みが用いられる。教師あり学習とは、あるデータとそのデータに対する正解クラスラベルとのペアを大量に用意し、データとクラスラベルとのペアからその関係性を学習する枠組みである。

教師あり学習を実現するためには、大量のデータとクラスラベルとのペアを用意する必要があるが、これを作成することは基本的に高コストである。そこで、すでに教師ありデータが存在する領域（以下「ドメイン」という。）で学習したモデルを、目標とするドメインで活用する方法がとられることがある。例えば、手書き文字を認識する場合に、比較的教師ありデータが容易に得られるデジタルフォントデータを用いて識別器を学習した後に、教師ありデータが少ない（あるいはまったくない）手書き文字データで識別器を再訓練するような方法がとられることがある。

しかし学習を行った元のドメイン（以下「元ドメイン」という：先の例の場合はデジタルフォントデータ）と、目標とするドメイン（以下「目標ドメイン」という：先の例の場合は手書き文字データ）とでは、データの生成分布が異なる場合がある。図６は、このような問題の概略を示す図である。図６において、実線で囲まれた領域は元ドメイン１０であり、破線で囲まれた領域は目標ドメイン２０であり、直線で示された線は識別境界３０である。例えば、同じ「あ」という文字でも、デジタルフォントと手書き文字とでは、その形が大きく異なることがある。生成分布が異なる場合、図６のように元ドメイン１０で学習した識別境界３０は、目標ドメイン２０に対して信頼性がないことがある。このような場合、学習したモデルが目標ドメイン２０において期待する識別精度を達成することができないという問題が生じる。このように、ドメイン間に差異がある場合における学習問題はドメイン適応問題と呼ばれる。

従来、このようなドメイン適応問題を解決するために、下記のような公知の技術が存在する。特許文献１に開示された技術では、元ドメインにおけるサンプルの生成分布と、目標ドメインにおけるサンプルの生成分布と、の間の分布感距離であるＭＭＤの値を最小化するような元ドメインから目標ドメインへの変換則が学習される。そして、学習された変換則を用いて元ドメインのデータを変換し、変換された元ドメインのデータを用いた教師あり学習により、モデルの学習が行われる。

非特許文献１では、元ドメインのデータと目標ドメインのデータとについて、ドメインの識別が困難になるような特徴空間へ射影する特徴抽出器と、その特徴空間での元ドメインのデータとそのデータに付与されたクラスラベルとの関係性と、が同時に学習される。元ドメインのデータと目標ドメインのデータとを特徴空間上識別困難にすることは、両者の生成分布を特徴空間上で近づけることを意味する。このような処理は、例えば、図６の状態から図７の状態に変化させることを意味してもよい。これにより、元ドメインのデータで教師あり学習を行うことによって得られたモデルについて、目標ドメインのデータへの予測精度が改善される。

非特許文献２では、非特許文献１で学習する共通特徴空間を、特徴抽出器とそれに連なる２つの識別器を用いて学習する。非特許文献１で学習されたモデルよりも、非特許文献２で学習されたモデルの方が、目標ドメインデータへの予測精度が高くなることが知られている。

元ドメインと目標ドメインとの間の差異に依存して、さまざまな付随問題が生じることがある。付随問題の一つとして、元ドメインに与えられているクラス以外のデータが、目標ドメインに存在する場合に生じる問題がある。先の手書き文字認識の場合を例にとると、デジタルフォントデータには「あ」、「い」、「う」しか存在しないにもかかわらず、手書き文字データには「え」、「お」が含まれるような場合にこのような問題が生じる。元ドメインによってラベルが付与されているクラスを既知クラス（先の例の場合は「あ」、「い」、「う」）と称し、それ以外のクラスを未知クラス（先の例の場合は「え」、「お」）と称する。通常、教師あり学習をした識別器は、未知クラスに属するデータが入力された場合であっても、既知クラスのいずれかのクラスに属すると予測してしまう。このような動作により、文字認識の精度が低下してしまうという問題が生じうる。

また、別の問題として以下のような問題もある。通常、元ドメインと目標ドメインとはそれぞれ単一のドメインから構成されることが想定されている。しかし、元ドメインと目標ドメインとのいずれもが、複数のドメインにより形成されうる場合がある。例えば、手書き文字データが、異なる複数の個人により書かれていた場合や、異なる筆記用具を用いて書かれていた場合には、元ドメインや目標ドメインが複数のドメインにより形成されるおそれがある。この場合、それぞれ生成分布が変化するため、目標ドメイン内に複数のドメインが内在すると考えることができる。ドメインが複数のドメインにより形成されている場合、非特許文献１のような方法では、期待される予測精度を実現できない問題が生じる。

元ドメインに複数のドメインが内在する問題に対応する技術に関する文献として、非特許文献４がある。非特許文献４に開示された技術では、元ドメインに内在する各ドメインと目標ドメインとの間で識別が困難になるような特徴が学習される。また反対に、目標ドメインに複数のドメインが内在する問題に対応する技術に関する文献として、非特許文献５がある。非特許文献５に開示された技術では、目標ドメインに内在する複数ドメインの領域間でドメインの識別が困難になるような特徴が学習される。

特開２０１９－１０１７８９号公報

Yaroslav Ganin and Victor Lempitsky. Unsupervised domain adaptation by backpropagation. In David Blei and Francis Bach, editors, Proceedings of the 32nd International Conference on Machine Learning (ICML15), pages 1180-1189. JMLR Workshop and Conference Proceedings, 2015. 2 Kuniaki Saito, Kohei Watanabe, Yoshitaka Ushiku, Tatsuya Harada. Maximum Classifier Discrepancy for Unsupervised Domain Adaptation. The 31th IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR 2018), 2018 K. Saito, S. Yamamoto, Y. Ushiku, and T. Harada. Open set domain adaptation by backpropagation. In The European Conference on Computer Vision (ECCV), September 2018. 2 Han Zhao, Shanghang Zhang, Guanhang Wu, Jose MF ´ Moura, Joao P Costeira, and Geoffrey J Gordon. Adversarial multiple source domain adaptation. In Advances in Neural Information Processing Systems, pages 8568-8579, 2018. 1, 2, 5 Z. Chen, J. Zhuang, X. Liang, and L. Lin. Blending-target domain adaptation by adversarial meta-adaptation networks. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pages 2248-2257, 2019.

元ドメインと目標ドメインとで生成分布が異なるドメイン適応問題と、それに付随して発生する種々の付随問題を解決するために、それぞれ非特許文献３、非特許文献４、非特許文献５のような技術が提案されてきた。しかしながら、それぞれの技術は、その技術が考慮している付随問題に対しては良好な性能を示すものの、他の付随問題に対しては有効ではない。

例えば、元ドメインに複数のドメインが内在する問題に対応する技術である非特許文献４の技術を、目標ドメインに複数のドメインが内在する問題に対して適用しても、十分な性能が得られない。

一般的に、処理の対象においてどのような問題が存在するかを事前に知ることができるケースは稀である。そのため、どのような問題に対する技術を適用すればよいかを判断することが困難である。また、上述した問題が複数混在するようなケースには、技術の適用が困難になるという問題も存在する。

上記事情に鑑み、本発明は、このような問題を鑑みてなされたものであり、ドメインに関するより広範な問題に対して良好な性能を達成する技術の提供を目的としている。

本発明の一態様は、入力されたデータの特徴量を出力する特徴抽出器と、前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率を取得する複数の識別器と、前記識別器によって取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別器と、前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価部と、前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習部と、を備える学習装置である。

本発明の一態様は、上記の学習装置によって得られたパラメータに基づいて、入力されたデータの特徴量を出力する特徴抽出器と、上記の学習装置によって得られたパラメータと前記特徴量とに基づいて、前記データについて既知クラス及び未知クラスへの帰属確率を取得する識別器と、を備える予測装置である。

本発明の一態様は、特徴抽出器を用いて、入力されたデータの特徴量を出力する特徴抽出ステップと、複数の識別器を用いて、前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率をそれぞれ取得する識別ステップと、取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別ステップと、前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価ステップと、前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習ステップと、を有する学習方法である。

本発明の一態様は、上記の学習装置としてコンピューターを動作させるためのプログラムである。

本発明により、このような問題を鑑みてなされたものであり、ドメインに関するより広範な問題に対して良好な性能を達成することが可能となる。

本実施形態の概略を示す図である。本実施形態の概略を示す図である。本実施形態に係る学習装置１００の一例を示す機能ブロック図である。本実施形態に係る予測装置２００の一例を示す機能ブロック図である。学習装置１００の動作例を示すフローチャートである。従来技術の例を示す図である。従来技術の例を示す図である。

＜概略＞
まず、本実施形態の概略について説明する。本実施形態は、未知クラスが存在する問題（以下「第一問題」という。）が存在した場合であっても適切に動作する。さらに、本実施形態は、各ドメインのデータに部分的にしかラベルづけがされていないという問題（以下「第二問題」という。）や、データのドメイン帰属情報が未知であるという問題（以下「第三問題」という。）が存在する場合であっても、適切に動作するように構成されてもよい。また、これら３つの付随問題のうち複数の問題が内在している場合であっても適切に動作するように構成されてもよい。

より具体的には以下の通りである。図１及び図２は、本実施形態の概略を示す図である。図１及び図２では、実線で囲まれた領域は元ドメイン１０であり、破線で囲まれた領域は目標ドメイン２０であり、直線で示された線は識別境界３０である。線分４０は、既知クラスと未知クラスとの境界として特定された情報を示す。矢印５０は、ドメイン適応を構成していることを示す。

本実施形態は、未知クラスが存在するという第一問題に対しては、教師ラベルの与えられていないデータの中から未知クラスに属するものを識別して特定することで対処する。本実施形態は、第二問題及び第三問題に対しては、ラベル付けがされているデータを元ドメイン、教師ラベルが与えられていないデータのうち既知クラスに属するものを目標ドメインとみなしたドメイン適応を構成することで対処する。

＜学習装置の構成例＞
次に、本実施形態に係る学習装置の構成について説明する。図３は、本実施形態に係る学習装置１００の一例を示す機能ブロック図である。学習装置１００は、例えばパーソナルコンピューターやサーバー装置等の情報処理装置を用いて構成される。学習装置１００は、制御部９０、未知クラス情報記憶部１３０及び学習結果記憶部１４０を備える。制御部９０は、ＣＰＵ（Central Processing Unit）等のプロセッサーとメモリーとを用いて構成される。制御部９０は、プロセッサーがプログラムを実行することによって、特徴抽出器１０１、第一識別器１０２、第二識別器１０３、識別損失評価部１０４、未知クラス識別器１０５、識別不一致評価部１０６及び学習部１０７として機能する。なお、制御部９０の各機能の全て又は一部は、ＡＳＩＣ（Application Specific Integrated Circuit）やＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されても良い。上記のプログラムは、コンピューター読み取り可能な記録媒体に記録されても良い。コンピューター読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ、半導体記憶装置（例えばＳＳＤ：Solid State Drive）等の可搬媒体、コンピューターシステムに内蔵されるハードディスクや半導体記憶装置等の記憶装置である。上記のプログラムは、電気通信回線を介して送信されてもよい。

学習装置１００は、教師ありデータ記憶部１１０及び教師なしデータ記憶部１２０からデータを取得して動作する。教師ありデータ記憶部１１０は、磁気ハードディスク装置や半導体記憶装置等の記憶装置、ＣＤ－ＲＯＭ等の記録媒体等のようにデータを記憶できる機器又は媒体を用いて構成される。教師ありデータ記憶部１１０は、教師ありデータ集合を記憶する。教師ありデータ集合は、所望のクラスラベルが付与されたデータの集合である。教師なしデータ記憶部１２０は、磁気ハードディスク装置や半導体記憶装置等の記憶装置、ＣＤ－ＲＯＭ等の記録媒体等のようにデータを記憶できる機器又は媒体を用いて構成される。教師なしデータ記憶部１２０は、教師なしデータ集合を記憶する。教師なしデータ集合は、所望のクラスラベルが付与されていないデータの集合である。

特徴抽出器１０１は、教師ありデータ集合及び教師なしデータ集合を入力として受け取り、各データから特徴ベクトルを抽出する。特徴抽出器１０１は、抽出された特徴ベクトルを第一識別器１０２及び第二識別器１０３に出力する。特徴抽出器１０１は、このような特徴ベクトルを抽出することができるパラメータを持つ関数に基づいて動作する。特徴ベクトルとは、例えばデータの特徴を数ベクトルで表したものである。言い換えると、特徴ベクトルは、必要なデータの特徴をｎ次元の要素を持つベクトルで表したものである。ｎは任意の整数値であり、例えばｎ＝５１２であってもよい。なお、特徴ベクトルは、便宜上ベクトルの形式を持つものとして説明するが、形式は本発明の要点とは無関係であり、任意の形式をとることができる。特徴抽出器１０１は、特徴ベクトルを出力する度に、学習結果記憶部１４０に記憶されているパラメータを読み込んで特徴ベクトルを出力する。

第一識別器１０２は、特徴抽出器１０１によって出力された特徴ベクトルを入力として受け取る。第一識別器１０２は、入力された特徴ベクトルの元データに対する各クラスと未知クラスへの帰属確率の推定値（以下「推定帰属確率」という。）を出力する。推定帰属確率は、データが各既知クラス及び未知クラスに帰属する尤もらしさを表す確率である。第一識別器１０２は、このような推定帰属確率を出力することができるパラメータを持つ関数に基づいて動作する。第一識別器１０２は、推定帰属確率を出力する度に、学習結果記憶部１４０に記憶されているパラメータを読み込んで推定帰属確率を出力する。

第二識別器１０３は、特徴抽出器１０１によって出力された特徴ベクトルを入力として受け取る。第二識別器１０３は、入力された特徴ベクトルの元データに対する各クラスと未知クラスへの帰属確率の推定値（推定帰属確率）を出力する。第二識別器１０３は、このような推定帰属確率を出力することができるパラメータを持つ関数に基づいて動作する。第二識別器１０３は、推定帰属確率を出力する度に、学習結果記憶部１４０に記憶されているパラメータを読み込んで推定帰属確率を出力する。なお、第一識別器１０２及び第二識別器１０３には同一の特徴ベクトルが入力される。

特徴抽出器１０１、第一識別器１０２及び第二識別器１０３に適用される関数は、パラメータに対して微分可能であるものであれば、任意のものを用いることができる。本実施形態では、ＣＮＮ（Convolutional Neural Network）が用いられる。ただし、ＣＮＮは一例に過ぎず、これに限定される必要は無い。

識別損失評価部１０４は、処理対象のデータと、この処理対象のデータが未知クラスであるか否かを示す情報と、処理対象のデータに対して第一識別器１０２及び第二識別器１０３が出力した推定帰属確率と、処理対象のデータに対する所望の帰属確率（以下「教師帰属確率」という。）と、を入力として受ける。識別損失評価部１０４は、これらの差異を表す第一の損失関数である識別損失関数の値（以下「識別損失評価値」という。）を求める。教師帰属確率とは、学習の際に正解となるクラスラベルに応じた帰属確率である。

未知クラス識別器１０５は、処理対象のデータと、処理対象のデータに対して第一識別器１０２及び第二識別器１０３が出力した推定帰属確率と、を入力として受ける。未知クラス識別器１０５は、処理対象のデータが未知クラスであるか否かについて識別する。未知クラス識別器１０５は、識別結果を示す情報（以下「未知クラス情報」という。）を未知クラス情報記憶部１３０に記録する。未知クラス情報記憶部１３０に記録された情報は、識別損失評価部１０４及び識別不一致評価部１０６において使用される。

識別不一致評価部１０６は、処理対象のデータと、処理対象のデータに対して第一識別器１０２及び第二識別器１０３が出力した推定帰属確率と、を入力として受ける。識別不一致評価部１０６は、第一識別器１０２及び第二識別器１０３の推定帰属確率の不一致度を示す値（以下「識別不一致度評価値」という。）を取得する。

学習部１０７は、識別損失評価部１０４によって得られた識別損失関数と、識別不一致評価部１０６によって得られた識別不一致度評価値と、を入力として受ける。学習部１０７は、入力された値を用いて、特徴抽出器１０１、第一識別器１０２及び第二識別器１０３のパラメータの反復学習を行う。学習部１０７は、反復学習によって得られた特徴抽出器１０１、第一識別器１０２及び第二識別器１０３のパラメータを、学習結果記憶部１４０に記録する。特徴抽出器１０１に関する反復学習は、識別損失評価値及び識別不一致度評価値が共に小さくなるように行われる。第一識別器１０２及び第二識別器１０３に関する反復学習は、識別損失評価値が小さくなるように且つ識別不一致度評価値が大きくなるように行われる。

＜予測装置の構成例＞
次に、本実施形態に係る予測装置の構成について説明する。図４は、本実施形態に係る予測装置２００の一例を示す機能ブロック図である。予測装置２００は、例えばパーソナルコンピューターやサーバー装置等の情報処理装置を用いて構成される。予測装置２００は、制御部９１及び記憶部２３０を備える。制御部９１は、ＣＰＵ等のプロセッサーとメモリーとを用いて構成される。制御部９１は、プロセッサーがプログラムを実行することによって、特徴抽出器２０１及び識別器２０２として機能する。なお、制御部９１の各機能の全て又は一部は、ＡＳＩＣやＰＬＤやＦＰＧＡ等のハードウェアを用いて実現されても良い。上記のプログラムは、コンピューター読み取り可能な記録媒体に記録されても良い。コンピューター読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ、半導体記憶装置（例えばＳＳＤ）等の可搬媒体、コンピューターシステムに内蔵されるハードディスクや半導体記憶装置等の記憶装置である。上記のプログラムは、電気通信回線を介して送信されてもよい。

記憶部２３０は、磁気ハードディスク装置や半導体記憶装置等の記憶装置を用いて構成される。記憶部２３０は、学習装置１００の学習部１０７によって行われた反復学習で得られた学習結果としてのパラメータを記憶する。

特徴抽出器２０１は、処理対象のデータ（予測対象のデータ）２４０を受けると、記憶部２３０からパラメータを読み出し、パラメータに基づき動作する。特徴抽出器２０１は、処理対象のデータ２４０について特徴ベクトルを出力する。識別器２０２は、記憶部２３０からパラメータを読み出し、パラメータに基づいて動作する。識別器２０２は、特徴抽出器２０１によって得られた特徴ベクトルに基づいて、処理対象のデータ２４０について推定帰属確率を求める。識別器２０２の出力は、処理対象のデータ２４０についての、各クラスに対する推定帰属確率そのものであってもよいし、どのクラスに属するかの予測結果を示す情報であってもよい。

＜学習装置の動作例＞
図５は、学習装置１００の動作例を示すフローチャートである。次に、学習装置１００の動作例について説明する。学習装置１００は、教師ありデータ集合１１０及び教師なしデータ集合１２０を受けて、図５に示される学習処理ルーチンを実行する。

まず、学習装置１００の制御部９０は、一つ以上の教師ありデータ集合１１０及び教師なしデータ集合１２０を読み込む（ステップＳ１０１）。次に、制御部９０は、学習の反復回数が予め定められた予定回数以下であるか否かの分岐判定を行う（ステップＳ１０２）。反復回数が予定回数以下であれば、ステップＳ１０３の処理が実行される。一方、反復回数が予定回数より多ければステップＳ１０４の処理が実行される。

ここで、ステップＳ１０２における分岐処理の意義について説明する。この分岐処理によって、未知クラスの識別方法が変化する。第一識別器１０２及び第二識別器１０３が既知クラスＫ個と未知クラスとを合わせた（Ｋ＋１）個のクラスを識別できるように学習する。しかし、既知クラスに関しては教師ありデータとしてデータとその教師帰属確率の組が得られるのに対して、未知クラスに関してはどのデータが未知クラスであるかは不明である。そこで、反復回数が予定回数以下である場合は、教師なしデータに対して未知クラスの識別を行い、結果を識別履歴として記録する。一方、反復回数が予定回数より多い場合は、（Ｋ＋１）個のクラスを識別できるように第一識別機１０２及び第二識別器１０３を学習し、未知クラスの識別結果を識別履歴として記録する。

反復回数が予定階数以下である場合には、未知クラスの識別を行うことで未知クラスの教師帰属確率を推定することができるが、誤りも含まれてしまう。そのため、識別履歴を記録しながら（Ｋ＋１）個のクラスの識別を学習することで、誤りの少ない未知クラス識別が可能になる。

ステップＳ１０３では、教師ありデータ集合１１０及び教師なしデータ集合１２０に対して特徴抽出器１０１、第一識別器１０２、第二識別器１０３及び未知クラス識別器１０５を適用して、識別損失評価値、識別不一致度評価値、未知クラスか否かの判定が得られる。

ステップＳ１０４では、教師なしデータ集合１２０について未知クラス識別履歴を読み込む。そして、ステップＳ１０５において、教師ありデータ集合１１０及び教師なしデータ集合１２０、未知クラス識別履歴に対して、特徴抽出器１０１、第一識別器１０２、第二識別器１０３及び未知クラス識別器１０５を適用して、識別損失評価値、識別不一致度評価値、未知クラスか否かの判定が得られる。

ステップＳ１０３又はステップＳ１０５の処理が終わると、学習部１０７は、識別損失評価値及び識別不一致度評価値に基づいて、特徴抽出器１０１、第一識別器１０２及び第二識別器１０３のパラメータの値（学習結果記憶部１４０に記録される値）をそれぞれ更新する（ステップＳ１０６）。

特徴抽出器１０１、第一識別器１０２、第二識別器１０３のパラメータを学習結果記憶部１４０に格納する。次に、未知クラス識別器１０５は、ステップＳ１０３又はＳ１０５で得られた未知クラスデータであるかの識別結果を未知クラス情報記憶部１３０に記録する（ステップＳ１０７）。

そして、制御部９０は、終了条件を満たすかを判定する（ステップＳ１０８）。終了条件を満たしている場合（ステップＳ１０８－ＹＥＳ）、制御部９０は処理を終了する。終了条件を満たしていない場合（ステップＳ１０８－ＮＯ）、制御部９０は、ステップＳ１０１に戻って処理を繰り返す。

以上説明した反復学習により、特徴抽出器１０１、第一識別器１０２及び第二識別器１０３のパラメータが学習される。特徴抽出器１０１に関しては、識別損失評価値及び識別不一致度評価値を用いて、識別損失評価値と識別不一致度評価値が小さくなるように学習が行われる。識別損失関数は、第一識別器１０２及び第二識別器１０３が出力したデータの推定帰属確率と、データの所与の教師帰属確率と、の類似度が高いほど小さい値を出力する。識別不一致度評価値は、第一識別器１０２及び第二識別器１０３が出力したデータの推定帰属確率についての識別器間の差を示す。また、第一識別器１０１及び第二識別器１０２に関しては、識別損失評価値は小さく、識別不一致度評価値は大きくなるように学習が行われる。

［各処理の詳細］
次に学習装置１００の各処理部の処理の詳細について説明する。
［反復回数が予定回数以下の場合］
ステップ１０２において、反復回数が予定回数以下の場合における識別損失評価部１０４、未知クラス識別器１０５、識別不一致評価部１０６、の各処理について説明する。

識別損失関数は、特徴抽出器１０１の出力した特徴ベクトルを入力として第一識別器１０２及び第二識別器１０３が出力したデータの推定帰属確率とデータの所与の教師帰属確率との類似度が高いほど小さい値を出力するものである。識別損失関数は、後述する式２及び式３に対応する。また、値は、識別損失評価値に対応するものである。

［識別損失評価部の処理］
特徴抽出器１０１は、データxを入力として特徴ベクトルfを出力しパラメータφを持つような関数Fを用いることで実現される。第一識別器１０２は、特徴ベクトルfを入力として推定帰属確率y1を出力するパラメータθ１を持つ関数として表現することができる。第二識別器１０３は、特徴ベクトルfを入力として推定帰属確率y2を出力するパラメータθ２を持つ関数として表現することができる。第一識別器１０２及び第二識別器１０３を実現する関数は、特徴抽出器１０１を実現する関数Fを用いて、確率関数として下記式１のように表すことができる。なお、iは2つの識別器を区別するための添え字として用いる。

式はφ、θi、及びxが与えられた下でのyiが出現する確率である。望ましい特徴抽出器１０１、第一識別器１０２及び第二識別器１０３は、教師ありデータ集合からデータsが与えられた時、各クラスへの教師帰属確率tが出現するようなものである。すなわち、正解となるクラスが識別可能な帰属確率が求められる特徴抽出器１０１、第一識別器１０２及び第二識別器１０３である。データsと対応する教師帰属確率tの出現確率をp（s，t）とすると、学習は下記式２が小さくなるようにパラメータφ、θiを決定できれば良い。

Eb［a］は、aの確率bに対する期待値である。本実施形態の場合は、教師ありデータは教師ありデータ集合から取得されるので、期待値は下記式３のように総和の形で近似的に置き換えられる。

なお、S、T、はそれぞれ１つ以上のデータと、対応する教師帰属確率の集合である。式３が本実施形態の一例における識別損失関数であり、これを任意のS、Tに対して評価した値が識別損失評価値である。

式３をφ、θ１、θ２について小さくすることで、sに対してtを出力できるような望ましい特徴抽出器１０１、第一識別機１０２及び第二識別器１０３を得ることができる。このようなφ、θ１、θ２を求める方法は様々ある。単純には、特徴抽出器を実現する関数Fと、第一識別器１０２及び第二識別器１０３と、を表す確率関数がそれぞれのパラメータφ、θ１、θ２に対して微分可能である場合、局所最小化できることが知られている。そのため、本実施形態の一例においては、特徴抽出器１０１として、データxを入力された下でそのデータの特徴ベクトルfを出力する関数であること、φについて微分可能であること、第一識別器１０２及び第二識別器１０３として特徴ベクトルfを入力として推定帰属確率y１、y２を出力する関数であること、それぞれθ１、θ２に対して微分可能であること、という条件を満たす関数を選んでもよい。

［識別不一致評価部の処理］
ある推定帰属確率p1,p2の識別不一致度評価値は、p1k,p2kをそれぞれ推定帰属確率p1,p2のクラスkに対する帰属確率を表すものとした時、下記式４のように表される。ここでKは識別すべき既知クラスの数、K+1は既知クラスのいずれにも該当しない未知クラスを表す。

識別不一致評価部１０６は、教師なしデータ集合１２０のデータuに対して第一識別器１０２及び第二識別器１０３が出力する推定帰属確率y1、y2の不一致度を評価する。すなわち識別不一致評価部１０６は、式４の推定帰属確率の識別不一致度評価値を用いて、下記式５に示す、教師なしデータ集合のデータuの出現確率p(u)について、第一識別器１０２及び第二識別器１０３の推定帰属確率の識別不一致度評価値Ladvを出力する。

Eb［a］は、aの確率bに対する期待値である。本実施形態の場合は、教師なしデータは教師なしデータ集合から取得されるので、期待値は下記式６のように総和の形で近似的に置き換えられる。

なお、Uは１つ以上のデータである。式６が本実施形態の一例における識別不一致度であり、これを任意のUに対して評価した値が識別不一致度評価値である。

［未知クラス識別器処理］
データxに対する第一識別器１０２及び第二識別器１０３が出力する推定帰属確率y1、y2は上述の式１を用いて表すことができる。第一識別器１０２及び第二識別器１０３が出力する推定帰属確率y1、y2の平均推定帰属確率yについて出力された帰属確率yの曖昧性を示す情報エントロピーH（y｜x）は下記式７のように表される。

教師なしデータ集合の教師なしデータuが未知クラスデータであるか否かの判別は、式４に示される情報エントロピーの値が予め定めた閾値σより大きいか否かによって決まる。すなわち、反復回数e回目における教師なしデータuが未知クラスデータであるか否かの識別y_u,eは下記式８のように表される。

［反復回数が一定より大きい場合］
ステップＳ１０５において教師なしデータ集合を既知クラスデータ集合U_Iと未知クラスデータ集合U_Oとに分割する処理について説明する。教師なしデータ集合のデータuについて、反復回数tの時の未知クラスデータであるか否かについての識別結果は、後述のステップＳ１０７でy_u,tとして未知クラス情報記憶部１３０に格納されている。ステップＳ１０４では、過去T回の識別結果を未知クラス情報記憶部１３０から読み出し、過去T/2回以上未知クラスデータであると識別された教師なしデータ集合のデータuについては、未知クラスデータ集合U_Oに属するもの、それ以外のデータは既知クラスデータ集合U_Iに属するものする。すなわち、反復回数eにおいて教師なしデータ集合をUとした時、Uは下記式９及び式１０にしたがい、既知クラスデータ集合U_Iと未知クラスデータ集合U_Oとに分割される。

次にステップＳ１０５に係る評価処理について説明する。識別損失評価部１０４及び識別不一致評価部１０６の処理については、反復回数が一定以下の場合の処理であるステップＳ１０３とほぼ同様の処理を行う。

［識別損失評価部の処理］
識別損失評価部１０４は、教師ありデータとその教師帰属確率の集合（S，T）と未知クラスデータ集合U_Oの和集合について総和を取ることにより、識別損失評価値を求める。すなわち、識別損失評価部１０４の評価値は下記式１１の形で表される。

［識別不一致評価部の処理］
識別不一致評価部１０６の処理については、既知クラスデータ集合U_Iのデータに対して、ステップＳ１０３における識別不一致評価部１０６の式６の評価処理と同様の処理を行うことで、識別不一致度評価値を求める。すなわち、ステップＳ１０５に係る識別不一致評価部１０６の出力する識別不一致度評価値は下記式１２により求められる。

［未知クラス識別器の処理］
データxに対する第一識別器１０２及び第二識別器１０３が出力する推定帰属確率y₁、y₂は上述の式１を用いて表すことができる。第一識別器１０２及び第二識別器１０３が出力する推定帰属確率y₁、y₂から平均推定帰属確率yを求めることができる。教師なしデータ集合の教師なしデータuが未知クラスデータであるかどうかの判別は、平均推定帰属確率yについて、各識別クラスに対する帰属確率のうち、未知クラスであるK+１クラスに対する帰属確率がもっとも高いデータであれば、未知クラスデータであるとし、そうでない場合は未知クラスデータではないとして判断を行う。すなわち反復回数e回目における教師なしデータuが未知クラスデータであるかどうかの識別y_u,eは下記式１３のように表される。

［学習処理］
ステップＳ１０６にかかる学習部１０７の学習処理について説明する。特徴抽出器１０１については識別損失評価値L_sと識別不一致度評価値L_advの値が小さくなるように学習処理を行う。第一識別器１０２及び第二識別器１０３については、識別損失評価値L_sは小さく、識別不一致度評価値は大きくなるように学習処理を行う。具体的には式１４、式１５及び式１６に示す問題を順次最適化するように行う。

ここで、識別損失評価値Lsと識別不一致度評価値L_advがパラメータθ₁、θ₂、φについて微分可能であるように特徴抽出器１０１、第一識別器１０２及び第二識別器１０３の関数を選んだため、誤差勾配効果法により学習することが可能である。

上記の学習により期待される効果を説明する。まずL_sについてはパラメータθ₁、θ₂、φについて最小化させることは、一般の識別学習と同様に、教師ありデータに基づいて認識精度を改善させる効果を生む。

L_advについては、パラメータθ₁、θ₂は値が大きくなるように、パラメータφについては最小化するように学習を行う。この学習の効果に関する詳細については非特許文献４に記載されているとおりである。特徴抽出器１０１が出力する特徴の空間における教師ありデータの分布と教師なしデータの分布とが近づくことになる。特徴空間における分布が近づくことによって、教師ありデータで学習した識別器によって、教師なしデータを認識した場合に高精度に認識することが可能になる。

しかし、単に非特許文献４と同様の学習により、教師ありデータの分布と教師なしデータの分布を特徴空間上において近づけると、教師なしデータのうち未知クラスデータも近づいてしまうことになる。この時、教師なし未知クラスデータは教師ありデータに近づいてしまい、本来不適当な既知クラスデータのクラスのいずれかに識別されることになる。本実施形態では、未知クラスデータの検出を行い、ステップＳ１０５において、未知クラスデータと検出されたデータに対しては、L_advの評価には用いないようにしている。これによって、上述した不適切な教師ありデータ分布と未知クラスデータ分布を近づけることを防ぎ、未知クラスデータは未知クラスデータであると検知するように学習することが可能になっている。

［パラメータ格納処理］
パラメータ学習後、ステップＳ１０７に係る処理にて、パラメータθ_１、θ_２、φを学習結果記憶部１４０に格納する。

ステップＳ１０８にかかる処理における、教師なしデータが未知クラスデータであるかについての識別結果の保存処理について説明する。反復回数eにおける教師なしデータ集合のデータuが未知クラスデータであるかの識別履歴は、反復回数eが一定以下の場合、ステップＳ１０３の処理によって、y_u,eが得られている。また、反復回数eにおける教師なしデータ集合のデータuが未知クラスデータであるかの識別履歴は、反復回数eが一定よりも大きい場合、ステップS３０５の処理によって、y_u,eが得られている。ステップＳ１０８では教師なしデータ集合のデータuそれぞれについて、識別結果y_u,eを未知クラス情報記憶部１３０に格納する。

以上のステップＳ１０１からＳ１０８までの学習処理を、終了条件が満たされるまで繰り返せば良い。

終了条件については、任意の情報が用いられて良い。例えば、「所定の回数を繰り返すまで」、「目的関数の値が一定以上変換しなくなるまで」、「学習データとは別に用意した評価用データに対する精度が一定以上変化しなくなるまで」などとすればよい。

（変形例）
教師ありデータ記憶部１１０及び教師なしデータ記憶部１２０のいずれか一方又は双方は、学習装置１００に備えられてもよい。未知クラス情報記憶部１３０及び学習結果記憶部１４０のいずれか一方又は双方は、学習装置１００の外部に設けられてもよい。外部に設けられた場合には、例えばＴＣＰ／ＩＰ等の通信を行うことでデータが取得されてもよい。

学習装置１００は、１台の情報処理装置を用いて実装されてもよいし、複数台の情報処理装置に分散して実装されてもよい。

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。

本発明は、学習装置に適用可能である。

１００…学習装置、１０１…特徴抽出器、１０２…第一識別器、１０３…第二識別器、１０４…識別損失評価部、１０５…未知クラス識別器、１０６…識別不一致評価部、１０７…学習部、２００…予測装置

Claims

入力されたデータの特徴量を出力する特徴抽出器と、
前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率を取得する複数の識別器と、
前記識別器によって取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別器と、
前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価部と、
前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習部と、
を備え、
前記データに対して、前記帰属確率と前記データの所与の教師帰属確率との類似度が高いほど小さい値を示す識別損失関数の値を出力する識別損失評価部をさらに備え、
前記学習部は、教師ラベルが付与されているデータと、未知クラスであり、且つ、教師ラベルが付与されていないデータと、を用いて、前記特徴抽出器と複数の前記識別器とについて前記識別損失関数の値を小さくするように前記パラメータの反復学習をさらに行う、学習装置。
入力されたデータの特徴量を出力する特徴抽出器と、
前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率を取得する複数の識別器と、
前記識別器によって取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別器と、
前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価部と、
前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習部と、
を備え、
前記未知クラス識別器は、前記学習部における反復学習の回数が所定の回数より多い場合には、過去の判断結果に基づいて判断する学習装置。
前記未知クラス識別器は、前記学習部における反復学習の回数が所定の回数以下である場合には前記帰属確率に基づいて判断する、請求項１又は２に記載の学習装置。
請求項１から３のいずれか一項に記載の学習装置によって得られたパラメータに基づいて、入力されたデータの特徴量を出力する特徴抽出器と、
請求項１から３のいずれか一項に記載の学習装置によって得られたパラメータと前記特徴量とに基づいて、前記データについて既知クラス及び未知クラスへの帰属確率を取得する識別器と、
を備える予測装置。
特徴抽出器を用いて、入力されたデータの特徴量を出力する特徴抽出ステップと、
複数の識別器を用いて、前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率をそれぞれ取得する識別ステップと、
取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別ステップと、
前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価ステップと、
前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習ステップと、
を有し、
前記データに対して、前記帰属確率と前記データの所与の教師帰属確率との類似度が高いほど小さい値を示す識別損失関数の値を出力する識別損失評価ステップをさらに有し、
前記学習ステップにおいて、教師ラベルが付与されているデータと、未知クラスであり、且つ、教師ラベルが付与されていないデータと、を用いて、前記特徴抽出器と複数の前記識別器とについて前記識別損失関数の値を小さくするように前記パラメータの反復学習をさらに行う、学習方法。
特徴抽出器を用いて、入力されたデータの特徴量を出力する特徴抽出ステップと、
複数の識別器を用いて、前記特徴量に基づいて、前記データについて既知クラス及び未知クラスへの帰属確率をそれぞれ取得する識別ステップと、
取得された前記帰属確率に基づいて、前記データが未知クラスであるか否か判断する未知クラス識別ステップと、
前記データに対して、前記複数の識別器によって得られたそれぞれの帰属確率の違いを示す識別不一致度の値を出力する識別不一致評価ステップと、
前記未知クラスではなく、且つ、教師ラベルが付与されていないデータを用いて、前記特徴抽出器については前記識別不一致度の値を小さくするように、複数の前記識別器については前記識別不一致度の値を大きくするように、前記特徴抽出器及び複数の前記識別器のパラメータの反復学習を行う学習ステップと、
を有し、
前記未知クラス識別ステップでは、前記学習ステップにおける反復学習の回数が所定の回数より多い場合には、過去の判断結果に基づいて判断する、学習方法。
請求項１から３のいずれか一項に記載の学習装置としてコンピューターを動作させるためのプログラム。