JP7761166B2 - メタ学習方法、メタ学習装置及びプログラム - Google Patents

Description

本開示は、メタ学習方法、メタ学習装置及びプログラムに関する。

機械学習手法では、通常、タスク固有の学習用データセットを使ってモデルのパラメータを学習する。目的とするタスク（以下、目的タスクともいう。）で高い性能を達成するためにはそのタスク固有の学習用データが大量に必要になるが、タスクによっては十分な量の学習用データを用意するのに高いコストが掛かるという問題がある。

上記の問題を解決するために、異なるタスクの学習用データを活用し、少量の学習用データでも目的タスクで高い性能を達成するためのメタ学習手法が提案されている（例えば、非特許文献１参照）。しかしながら、既存のメタ学習手法では、複数の機械学習手法を組み合わせて予測をする手法には適用できないという問題がある。

なお、関連技術として、複数の回帰モデルを組み合わせて因果効果を推定する技術（例えば、非特許文献２参照）や回帰モデルとその後のカリブレーションで不確実性を推定する技術（例えば、非特許文献３参照）が提案されている。

Finn, Chelsea, Pieter Abbeel, and Sergey Levine. "Model-agnostic meta-learning for fast adaptation of deep networks." Proceedings of the 34th International Conference on Machine Learning, 2017. Curth, Alicia, and Mihaela van der Schaar. "Nonparametric estimation of heterogeneous treatment effects: From theory to learning algorithms." International Conference on Artificial Intelligence and Statistics. 2021. Marx, Charles, et al. "Modular Conformal Calibration." International Conference on Machine Learning. 2022.

本開示は、上記の点に鑑みてなされたもので、複数の機械学習手法を組み合わせて予測する手法のモデルパラメータをメタ学習する技術を提供することを目的とする。

本開示の一態様によるメタ学習方法は、複数のタスクの学習用データセットを入力する第１の入力手順と、前記複数のタスクから一のタスクを選択する選択手順と、前記一のタスクの学習用データセットの少なくとも一部の学習用データで構成されるサポートセットと、前記学習用データセットの少なくとも一部の学習用データに含まれる特徴量で構成されるクエリセットとを作成する作成手順と、複数の機械学習モデルの各々が持つパラメータのうち、タスク毎のパラメータを表す第１のパラメータを前記サポートセットに適合するように推定する第１の推定手順と、前記複数の機械学習モデルを組み合わせて前記クエリセットに含まれる第１の特徴量から予測した予測値と、前記予測値に対する教師データとの誤差が小さくなるように、前記複数の機械学習モデルの各々が持つパラメータのうち、タスク共通のパラメータを表す第２のパラメータを学習する学習手順と、をコンピュータが実行する。

複数の機械学習手法を組み合わせて予測する手法のモデルパラメータをメタ学習する技術が提供される。

本実施形態に係るメタ学習装置のハードウェア構成の一例を示す図である。 本実施形態に係るメタ学習装置の機能構成の一例を示す図である。 本実施形態に係るメタ学習処理の一例を示すフローチャートである。 本実施形態に係る予測処理の一例を示すフローチャートである。

以下、本発明の一実施形態について説明する。以下の実施形態では、複数のタスクの学習用データセットが与えられたときに、複数の機械学習手法を組み合わせて予測する手法のモデルパラメータをメタ学習するメタ学習装置１０について説明する。また、このメタ学習によって学習されたモデルパラメータを用いて、メタ学習装置１０によって目的タスクの予測を行う場合についても説明する。

以下では、一例として、複数の機械学習手法を組み合わせて因果効果を推定（予測）する手法について説明する。ただし、これは一例であって、複数の機械学習手法を組み合わせて予測する手法であれば、例えば、不確実性を推定（予測）する場合など他の問題に対しても以下の実施形態を同様に適用することが可能である。

ここで、メタ学習装置１０には、複数のタスクで共通のモデルパラメータ（以下、タスク共通パラメータともいう。）をメタ学習する「メタ学習時」と、メタ学習時に学習されたタスク共通パラメータを用いて目的タスクにおける因果効果を推定する「予測時」とが存在する。なお、「メタ学習時」は、例えば、単に「学習時」等と呼ばれてもよい。また、「予測時」は、例えば、「推論時」や「テスト時」等と呼ばれてもよい。

メタ学習時におけるメタ学習装置１０には、ｔ番目のタスクの学習用データセットをＤ_ｔ＝｛（ｘ_ｔｎ，ａ_ｔｎ，ｙ_ｔｎ）｜ｎ＝１，・・・，Ｎ_ｔ｝として、Ｔ個のタスクの学習用データセットの集合Ｄ＝｛Ｄ_ｔ｜ｔ＝１，・・・，Ｔ｝が与えられるものとする。ここで、ｘ_ｔｎはｔ番目のタスクのｎ番目の特徴量、ａ_ｔｎはｔ番目のタスクのｎ番目の処置、ｙ_ｔｎはｔ番目のタスクのｎ番目の結果を表す。また、Ｎ_ｔはｔ番目のタスクの学習用データセットＤ_ｔに含まれる学習用データ数を表す。以下、Ｔ個のタスクの学習用データセットの集合のことを「メタ学習用データセット」ともいう。また、ｔ番目のタスクを「タスクｔ」とも表記することにする。

予測時におけるメタ学習装置１０には、未知のタスク（つまり、１番目～Ｔ番目のいずれとも異なるタスク（目的タスク））のデータセットＳ'＝｛（ｘ_ｎ ^Ｓ'，ａ_ｎ ^Ｓ'，ｙ_ｎ ^Ｓ'）｜ｎ＝１，・・・，Ｎ^Ｓ'｝が与えられるものとする。ここで、ｘ_ｎ ^Ｓ'は目的タスクのｎ番目の特徴量、ａ_ｎ ^Ｓ'は目的タスクのｎ番目の処置、ｙ_ｎ ^Ｓ'は目的タスクのｎ番目の結果を表す。また、Ｎ^Ｓ'はデータセットＳ'に含まれるデータ数を表す。このとき、目的タスクの特徴量ｘ'が与えられたときに（つまり、処置及び結果が未知の特徴量ｘ'が与えられたときに）、その特徴量ｘ'の因果効果を推定することが目的である。以下、データセットＳ'のことを「サポートセットＳ'」とも呼ぶことにする。

なお、以下では、処置は０又は１の二値（例えば、処置を行った場合は１、処置を行っていない場合は０）を取ることを想定するが、多値を取るものであってもよい。また、特徴量は因果関係の原因となる対象の特徴を表すベクトルであることを想定するが、その形式はベクトルに限られるものではなく、例えば、画像やグラフ等であってもよい。

以下の実施形態では、因果効果を推定するために、異なる機械学習手法によってそれぞれ実現され、タスク共通パラメータとタスクに特化したモデルパラメータ（以下、タスク特化パラメータともいう。）とを持つ３つのモデル（処置確率推定モデル、結果推定モデル、因果効果推定モデル）を利用する。これら３つのモデルのタスク特化パラメータは或るデータセット（メタ学習時では後述するサポートセットＳ、予測時ではサポートセットＳ'）に適合するように推定される。一方で、タスク共通パラメータはメタ学習時に因果効果の推定精度が高くなるに推定（学習）される。そして、予測時には、学習済みのタスク共通パラメータを設定した３つのモデルとサポートセットＳ'を用いて当該サポートセットＳ'に適合するようにタスク特化パラメータを推定した上で、因果効果推定モデルにより目的タスクの特徴量ｘ'の因果効果を推定する。

なお、以下の実施形態では、メタ学習時と予測時とを同一のメタ学習装置１０が実現する場合について説明するが、メタ学習時と予測時とが異なる装置で実現されていてもよい。この場合、予測時を実現する装置は、例えば、「予測装置」や「推論装置」等と呼ばれてもよい。

＜メタ学習装置１０のハードウェア構成例＞
本実施形態に係るメタ学習装置１０のハードウェア構成例を図１に示す。図１に示すように、本実施形態に係るメタ学習装置１０は一般的なコンピュータ又はコンピュータシステムのハードウェア構成により実現され、例えば、入力装置１０１と、表示装置１０２と、外部Ｉ／Ｆ１０３と、通信Ｉ／Ｆ１０４と、ＲＡＭ（Random Access Memory）１０５と、ＲＯＭ（Read Only Memory）１０６と、補助記憶装置１０７と、プロセッサ１０８とを有する。また、これらの各ハードウェアは、それぞれがバス１０９を介して通信可能に接続されている。

入力装置１０１は、例えば、キーボード、マウス、タッチパネル、物理ボタン等である。表示装置１０２は、例えば、ディスプレイ、表示パネル等である。なお、メタ学習装置１０は、例えば、入力装置１０１及び表示装置１０２のうちの少なくとも一方を有していなくてもよい。

外部Ｉ／Ｆ１０３は、記録媒体１０３ａ等の外部装置とのインタフェースである。メタ学習装置１０は、外部Ｉ／Ｆ１０３を介して、記録媒体１０３ａの読み取りや書き込み等を行うことができる。記録媒体１０３ａとしては、例えば、フレキシブルディスク、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disk）、ＳＤメモリカード（Secure Digital memory card）、ＵＳＢ（Universal Serial Bus）メモリカード等が挙げられる。

通信Ｉ／Ｆ１０４は、メタ学習装置１０が通信ネットワーク等に接続するためのインタフェースである。ＲＡＭ１０５は、プログラムやデータを一時保持する揮発性の半導体メモリ（記憶装置）である。ＲＯＭ１０６は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリ（記憶装置）である。補助記憶装置１０７は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等のストレージ装置（記憶装置）である。プロセッサ１０８は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等の演算装置である。

本実施形態に係るメタ学習装置１０は、図１に示すハードウェア構成を有することにより、後述する各種処理を実現することができる。なお、図１に示すハードウェア構成は一例であって、メタ学習装置１０のハードウェア構成はこれに限られるものではない。例えば、メタ学習装置１０は、複数の補助記憶装置１０７や複数のプロセッサ１０８を有していてもよいし、図示したハードウェアの一部を有していなくてもよいし、図示したハードウェア以外の様々なハードウェアを有していてもよい。

＜メタ学習装置１０の機能構成例＞
本実施形態に係るメタ学習装置１０の機能構成例を図２に示す。図２に示すように、本実施形態に係るメタ学習装置１０は、入力部２０１と、疑似因果効果推定部２０２と、メタ学習部２０３と、処置確率推定部２０４と、結果推定部２０５と、疑似結果推定部２０６と、因果効果推定部２０７と、出力部２０８とを有する。これら各部は、例えば、メタ学習装置１０にインストールされた１以上のプログラムが、プロセッサ１０８等に実行させる処理により実現される。また、本実施形態に係るメタ学習装置１０は、記憶部２０９を有する。当該記憶部２０９は、例えば、メタ学習装置１０と通信ネットワーク等を介して接続されるデータベースサーバ等の記憶装置により実現されてもよい。

入力部２０１は、メタ学習時において、与えられたメタ学習用データセットＤを入力する。また、入力部２０１は、予測時において、与えられたサポートセットＳ'と、処置及び結果が未知の特徴量ｘ'とを入力する。

疑似因果効果推定部２０２は、メタ学習時において、各タスクの学習用データを用いて、既存の因果効果推定手法により、因果効果を推定する。以下、疑似因果効果推定部２０２によって推定された因果効果を「疑似因果効果」と呼ぶことにする。また、ｔ番目のタスクのｎ番目の疑似因果効果を

と表す。この疑似因果効果は、後述するクエリセットＱ_ｔに含まれる特徴量ｘ_ｔｎ ^ｑに対する教師データとして用いられる。以下、明細書のテキスト中では、疑似因果効果を「^～τ_ｔｎ」を表記することにする。

なお、疑似因果効果推定部２０２は、既存の任意の因果効果推定手法により疑似因果効果を推定すればよいが、例えば、非特許文献２等に記載されているＤＲ－ｌｅａｒｎｅｒ（doubly robust learner）やＲＡ－ｌｅａｒｎｅｒ（regression adjustment learner）等を用いればよい。

メタ学習部２０３は、メタ学習時において、１番目のタスク～Ｔ番目のタスクの中からランダムに１つのタスクｔを選択した上で、選択したタスクｔの学習用データセットＤ_ｔからサポートセットＳ_ｔとクエリセットＱ_ｔを作成する。

より具体的には、まず、メタ学習部２０３は、１つのｔ∈｛１，・・・，Ｔ｝をランダムに選択する。次に、メタ学習部２０３は、タスクｔの学習用データセットＤ_ｔからランダムな個数の学習用データをランダムに選択した上で、学習用データの番号をリナンバリングしてサポートセットＳ_ｔ＝｛（ｘ_ｔｎ ^Ｓ，ａ_ｔｎ ^Ｓ，ｙ_ｔｎ ^Ｓ）｜ｎ＝１，・・・，Ｎ_ｔ ^Ｓ｝を作成する。また、メタ学習部２０３は、タスクｔの学習用データセットＤ_ｔからランダムな個数の学習用データをランダムに選択した上で、それらの学習用データに含まれる特徴量ｘ_ｔｎとその疑似因果効果^～τ_ｔｎの番号をリナンバリングしてクエリセットＱ_ｔ＝｛（ｘ_ｔｎ ^ｑ，^～τ_ｔｎ ^ｑ）｜ｎ＝１，・・・，Ｎ_ｔ ^ｑ｝を作成する。ここで、Ｎ_ｔ ^ＳはサポートセットＳ_ｔに含まれるデータ数、Ｎ_ｔ ^ｑはクエリセットＱ_ｔに含まれるデータ数である。

以下では、簡単のため、タスクを表す「ｔ」を省略して、サポートセットをＳ＝｛（ｘ_ｎ ^Ｓ，ａ_ｎ ^Ｓ，ｙ_ｎ ^Ｓ）｜ｎ＝１，・・・，Ｎ^Ｓ｝、クエリセットをＱ＝｛（ｘ_ｎ ^ｑ，^～τ_ｎ ^ｑ）｜ｎ＝１，・・・，Ｎ^ｑ｝とも表記する。

また、メタ学習部２０３は、メタ学習時において、サポートセットＳを３つのモデル（処置確率推定モデル、結果推定モデル、因果効果推定モデル）に適合させたときに因果効果推定モデルによって推定される特徴量ｘ_ｎ ^ｑの因果効果（因果効果推定値）と、疑似因果効果^～τ_ｎ ^ｑとが近くなるように、例えば確率的勾配法等の最適化法により、タスク共通パラメータを更新する。なお、特徴量ｘ_ｎ ^ｑの因果効果推定値と疑似因果効果^～τ_ｎ ^ｑとの間の近さ（距離）を測るための尺度としては、例えば、二乗誤差や平均二乗誤差等を用いることができる。

処置確率推定部２０４は、処置確率推定モデルによって実現される。処置確率推定部２０４は、メタ学習時において、処置確率推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^Ｓに対する処置の確率（以下、処置確率ともいう。）を推定する。また、処置確率推定部２０４は、予測時において、処置確率推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ_ｎ ^Ｓ'に対する処置確率を推定する。

処置確率推定モデルのタスク特化パラメータは、サポートセット（メタ学習時はサポートセットＳ、予測時はサポートセットＳ'）における処置確率推定精度が高くなるように推定される。例えば、処置確率推定モデルとして、以下の式（１）に示すモデルを利用することができる。

ここで、π（ｘ）は特徴量がｘのときに処置が１である確率、ｆ_ｐ（ｘ）はタスク共通パラメータφ_ｐを持つニューラルネットワークを表す。また、θ_ｐａはタスク特化パラメータを表し、処置（メタ学習時は処置ａ_ｎ ^Ｓ、予測時は処置ａ_ｎ ^Ｓ'）の値がａ∈｛０，１｝である特徴量（メタ学習時は特徴量ｘ_ｎ ^Ｓ、予測時は特徴量ｘ_ｎ ^Ｓ'）の平均ベクトルである。

上記の式（１）に示す処置確率推定モデルの場合、タスク特化パラメータは特徴量の平均を求めるだけでよいため、効率的にサポートセットへの適合が可能となる。ただし、上記の式（１）に示すモデルを処置確率推定モデルとすることは一例であって、例えば、フィードフォワードニューラルネットワーク等といった他のモデルを処置確率推定モデルとすることも可能である。

結果推定部２０５は、結果推定モデルによって実現される。結果推定部２０５は、メタ学習時において、結果推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^Ｓ及び処置ａ∈｛０，１｝に対する結果を推定する。また、結果推定部２０５は、予測時において、結果推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ_ｎ ^Ｓ'及び処置ａ∈｛０，１｝に対する結果を推定する。

結果推定モデルのタスク特化パラメータは、サポートセット（メタ学習時はサポートセットＳ、予測時はサポートセットＳ'）における結果推定精度が高くなるように推定される。例えば、結果推定モデルとして、以下の式（２）に示すモデルを利用することができる。

ここで、μ_ａ（ｘ）は特徴量がｘで処置がａ∈｛０，１｝である場合の結果、ｆ_ａ（ｘ）はタスク共通パラメータφ_ａを持つニューラルネットワーク、θ_ａはタスク特化パラメータを表す。

上記の式（２）に示す結果推定モデルの場合、タスク特化パラメータに関しては線形モデルであるため、サポートセットに適合する最適なタスク特化パラメータは最小二乗法で解析的に求めることができる。このため、効率的にサポートセットへの適合が可能となる。ただし、上記の式（２）に示すモデルを結果推定モデルとすることは一例であって、例えば、線形モデルの代わりに、ガウス過程を用いることも可能である。また、例えば、フィードフォワードニューラルネットワーク等といった他のモデルを結果推定モデルとすることも可能である。

疑似結果推定部２０６は、メタ学習時及び予測時において、処置確率推定部２０４によって推定された処置確率と、結果推定部２０５によって推定された結果と、サポートセット（メタ学習時はサポートセットＳ、予測時はサポートセットＳ'）とを用いて、そのサポートセットの特徴量に対する結果（以下、疑似結果ともいう。）を推定する。このとき、疑似結果推定部２０６は、疑似結果の期待値と因果効果の期待値とが近くなるように、疑似結果を推定する。例えば、疑似結果推定部２０６は、メタ学習時において、以下の式（３）により疑似結果を推定することができる。

ここで、予測時においては、上記の式（３）の「Ｓ」を「Ｓ'」と読み替えればよい。以下、明細書のテキスト中では、特徴量ｘ_ｎ ^Ｓに対する疑似結果を「^～ｙ_ｎ ^Ｓ」を表記することにする。同様に、特徴量ｘ_ｎ ^Ｓ'に対する疑似結果を「^～ｙ_ｎ ^Ｓ'」を表記することにする。

なお、上記の式（３）では処置確率推定モデルπ（・）と結果推定モデルμ_ａ（・）の両方を用いたが、いずれか一方のみを用いてもよい。処置確率推定モデルπ（・）と結果推定モデルμ_ａ（・）のいずれか一方のみを用いる場合も、疑似結果の期待値と因果効果の期待値とが近くなるように、疑似結果を推定すればよい。

因果効果推定部２０７は、因果効果推定モデルによって実現される。因果効果推定部２０７は、メタ学習時において、疑似結果推定部２０６によって推定された疑似結果を用いて、因果効果推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^ｑの因果効果を推定する。また、因果効果推定部２０７は、予測時において、疑似結果推定部２０６によって推定された疑似結果を用いて、因果効果推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ'の因果効果を推定する。

因果効果推定モデルのタスク特化パラメータは、特徴量（メタ学習時は特徴量ｘ_ｎ ^Ｓ、予測時は特徴量ｘ_ｎ ^Ｓ'）に対する疑似結果と、因果効果推定モデルによって推定される当該特徴量の因果効果（因果効果推定値）とが近くなるように推定される。例えば、因果効果推定モデルとして、以下の式（４）に示すモデルを利用することができる。

ここで、τ（ｘ）は特徴量がｘの場合の因果効果、ｆ_ｙ（ｘ）はタスク共通パラメータφ_ｙを持つニューラルネットワーク、θ_ｙはタスク特化パラメータを表す。

上記の式（４）に示す因果効果推定モデルの場合、タスク特化パラメータに関しては線形モデルであるため、サポートセットに適合する最適なタスク特化パラメータは最小二乗法で解析的に求めることができる。このため、効率的にサポートセットへの適合が可能となる。ただし、上記の式（４）に示すモデルを因果効果推定モデルとすることは一例であって、例えば、線形モデルの代わりに、ガウス過程を用いることも可能である。また、例えば、フィードフォワードニューラルネットワーク等といった他のモデルを因果効果推定モデルとすることも可能である。

出力部２０８は、予測時において、因果効果推定部２０７によって推定された特徴量ｘ'の因果効果を予め決められた所定の出力先に出力する。なお、所定の出力先としては、例えば、記憶部２０９、ディスプレイ等の表示装置１０２、通信ネットワークを介して接続される他の機器等が挙げられる。

記憶部２０９は、各種データ（例えば、メタ学習用データセットＤ、目的タスクのサポートセットＳ'、目的タスクの特徴量ｘ'、タスク特化パラメータ、タスク共通パラメータ等）を記憶する。

＜メタ学習処理＞
以下、本実施形態に係るメタ学習処理の一例について、図３を参照しながら説明する。

まず、入力部２０１は、与えられたメタ学習用データセットＤを入力する（ステップＳ１０１）。

次に、疑似因果効果推定部２０２は、各タスクの学習用データ（ｘ_ｔｎ，ａ_ｔｎ，ｙ_ｔｎ）を用いて、既存の因果効果推定手法により、当該学習用データ（ｘ_ｔｎ，ａ_ｔｎ，ｙ_ｔｎ）に対する疑似因果効果^～τ_ｔｎを推定する（ステップＳ１０２）。これにより、疑似因果効果の集合｛｛^～τ_ｔｎ｜ｎ＝１，・・・，Ｎ_ｔ｝｜ｔ＝１，・・・，Ｔ｝が得られる。

次に、メタ学習部２０３は、１番目のタスク～Ｔ番目のタスクの中からランダムに１つのタスクｔを選択した上で、選択したタスクｔの学習用データセットＤ_ｔからサポートセットＳ＝｛（ｘ_ｎ ^Ｓ，ａ_ｎ ^Ｓ，ｙ_ｎ ^Ｓ）｜ｎ＝１，・・・，Ｎ^Ｓ｝とクエリセットＱ＝｛（ｘ_ｎ ^ｑ，^～τ_ｎ ^ｑ）｜ｎ＝１，・・・，Ｎ^ｑ｝を作成する（ステップＳ１０３）。

次に、処置確率推定部２０４は、処置確率推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^Ｓに対する処置確率を推定する（ステップＳ１０４）。すなわち、処置確率推定部２０４は、まず処置確率推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ処置確率推定モデルにより特徴量ｘ_ｎ ^Ｓに対する処置確率を推定する。

例えば、上記の式（１）に示す処置確率推定モデルを用いる場合、処置確率推定部２０４は、まずａ_ｎ ^Ｓ＝０である特徴量ｘ_ｎ ^Ｓの平均ベクトルをθ_ｐ０とａ_ｎ ^Ｓ＝１である特徴量ｘ_ｎ ^Ｓの平均ベクトルをθ_ｐ１とを求める。次に、処置確率推定部２０４は、上記の式（１）に示す処置確率推定モデルより処置確率π（ｘ_ｎ ^Ｓ）を推定する。これにより、処置確率の集合｛π（ｘ_ｎ ^Ｓ）｜ｎ＝１，・・・，Ｎ^Ｓ｝が得られる。

次に、結果推定部２０５は、結果推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^Ｓ及び処置ａ∈｛０，１｝に対する結果を推定する（ステップＳ１０５）。すなわち、結果推定部２０５は、まず結果推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ結果推定モデルにより特徴量ｘ_ｎ ^Ｓ及び処置ａ∈｛０，１｝に対する結果を推定する。

例えば、上記の式（２）に示す結果推定モデルを用いる場合、結果推定部２０５は、まず、ａ←ａ_ｎ ^Ｓに対して、μ_ａ（ｘ_ｎ ^Ｓ）とそれに対応する結果ｙ_ｎ ^Ｓとが近くなるようにタスク特化パラメータθ_ａを推定する。これは、例えば、最小二乗法等により解析的に求めることができる。次に、結果推定部２０５は、上記の式（２）に示す結果推定モデルにより結果μ_ａ（ｘ_ｎ ^Ｓ）を推定する。これにより、結果の集合｛｛μ_ａ（ｘ_ｎ ^Ｓ）｜ｎ＝１，・・・，Ｎ^Ｓ｝｜ａ＝０，１｝が得られる。

次に、疑似結果推定部２０６は、上記のステップＳ１０４で推定された処置確率と、上記のステップＳ１０５で推定された結果と、サポートセットＳとを用いて、特徴量ｘ_ｎ ^Ｓに対する疑似結果を推定する（ステップＳ１０６）。

例えば、疑似結果推定部２０６は、処置確率π（ｘ_ｎ ^Ｓ）と、結果μ_０（ｘ_ｎ ^Ｓ）及びμ_１（ｘ_ｎ ^Ｓ）と、サポートセットＳに含まれる（ｘ_ｎ ^Ｓ，ａ_ｎ ^Ｓ，ｙ_ｎ ^Ｓ）とを用いて、上記の式（３）により疑似結果^～ｙ_ｎ ^Ｓを推定する。これにより、疑似結果の集合｛^～ｙ_ｎ ^Ｓ｜ｎ＝１，・・・，Ｎ^Ｓ｝が得られる。

次に、因果効果推定部２０７は、因果効果推定モデルをサポートセットＳに適合させたときの特徴量ｘ_ｎ ^ｑの因果効果を推定する（ステップＳ１０７）。すなわち、因果効果推定部２０７は、まず因果効果推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ因果効果推定モデルにより特徴量ｘ_ｎ ^ｑの因果効果を推定する。

例えば、上記の式（４）に示す因果効果推定モデルを用いる場合、因果効果推定部２０７は、まず、因果効果推定値τ（ｘ_ｎ ^Ｓ）とそれに対応する疑似結果^～ｙ_ｎ ^Ｓとが近くなるようにタスク特化パラメータθ_ｙを推定する。これは、例えば、最小二乗法等により解析的に求めることができる。次に、因果効果推定部２０７は、上記の式（４）に示す因果効果推定モデルにより因果効果推定値τ（ｘ_ｎ ^ｑ）を推定する。これにより、因果効果推定値の集合｛τ（ｘ_ｎ ^ｑ）｜ｎ＝１，・・・，Ｎ^ｑ｝が得られる。

次に、メタ学習部２０３は、上記のステップＳ１０７で推定された因果効果推定値と、それに対応する疑似因果効果とが近くなるように、タスク共通パラメータを更新する（ステップＳ１０８）。

例えば、メタ学習部２０３は、因果効果推定値τ（ｘ_ｎ ^ｑ）と、それに対応する疑似因果効果^～τ_ｎ ^ｑとが近くなるように、タスク共通パラメータφ_ｐ，φ_ａ，φ_ｙを更新する。これは、例えば、勾配法等といった最適化法により実現することができる。

次に、メタ学習部２０３は、予め決められた所定の終了条件を満たすか否かを判定する（ステップＳ１０９）。

上記のステップＳ１０９で終了条件を満たさないと判定された場合、メタ学習部２０３は、ステップＳ１０３に戻る。これにより、当該終了条件を満たすまでステップＳ１０３～ステップＳ１０８が繰り返し実行される。一方で、上記のステップＳ１０９で終了条件を満たすと判定された場合、メタ学習部２０３は、メタ学習処理を終了する。これにより、学習済みのタスク共通パラメータが得られる。

なお、上記の終了条件としては、例えば、「タスク共通パラメータの更新量が所定の閾値未満となったこと」、「ステップＳ１０３～ステップＳ１０８の繰り返し回数が所定の閾値以上となったこと」、「目的関数（例えば、因果効果推定値と疑似因果効果の二乗誤差や平均二乗誤差等）の値の減少量が所定の閾値未満となったこと」等を用いることができる。

＜予測処理＞
以下、本実施形態に係る予測処理の一例について、図４を参照しながら説明する。なお、以下では、タスク共通パラメータは学習済みであるものとする。

まず、入力部２０１は、与えられたサポートセットＳ'＝｛（ｘ_ｎ ^Ｓ'，ａ_ｎ ^Ｓ'，ｙ_ｎ ^Ｓ'）｜ｎ＝１，・・・，Ｎ^Ｓ'｝と、処置及び結果が未知の特徴量ｘ'とを入力する（ステップＳ２０１）。

次に、処置確率推定部２０４は、処置確率推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ_ｎ ^Ｓ'に対する処置確率を推定する（ステップＳ２０２）。すなわち、処置確率推定部２０４は、まず処置確率推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ処置確率推定モデルにより特徴量ｘ_ｎ ^Ｓ'に対する処置確率を推定する。

例えば、上記の式（１）に示す処置確率推定モデルを用いる場合、処置確率推定部２０４は、まずａ_ｎ ^Ｓ'＝０である特徴量ｘ_ｎ ^Ｓ'の平均ベクトルをθ_ｐ０とａ_ｎ ^Ｓ'＝１である特徴量ｘ_ｎ ^Ｓ'の平均ベクトルをθ_ｐ１とを求める。次に、処置確率推定部２０４は、上記の式（１）に示す処置確率推定モデルより処置確率π（ｘ_ｎ ^Ｓ'）を推定する。これにより、処置確率の集合｛π（ｘ_ｎ ^Ｓ'）｜ｎ＝１，・・・，Ｎ^Ｓ'｝が得られる。

次に、結果推定部２０５は、結果推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ_ｎ ^Ｓ'及び処置ａ∈｛０，１｝に対する結果を推定する（ステップＳ２０３）。すなわち、結果推定部２０５は、まず結果推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ結果推定モデルにより特徴量ｘ_ｎ ^Ｓ'及び処置ａ∈｛０，１｝に対する結果を推定する。

例えば、上記の式（２）に示す結果推定モデルを用いる場合、結果推定部２０５は、まず、ａ←ａ_ｎ ^Ｓ'に対して、μ_ａ（ｘ_ｎ ^Ｓ'）とそれに対応する結果ｙ_ｎ ^Ｓ'とが近くなるようにタスク特化パラメータθ_ａを推定する。これは、例えば、最小二乗法等により解析的に求めることができる。次に、結果推定部２０５は、上記の式（２）に示す結果推定モデルにより結果μ_ａ（ｘ_ｎ ^Ｓ'）を推定する。これにより、結果の集合｛｛μ_ａ（ｘ_ｎ ^Ｓ'）｜ｎ＝１，・・・，Ｎ^Ｓ'｝｜ａ＝０，１｝が得られる。

次に、疑似結果推定部２０６は、上記のステップＳ２０２で推定された処置確率と、上記のステップＳ２０３で推定された結果と、サポートセットＳ'とを用いて、特徴量ｘ_ｎ ^Ｓ'に対する疑似結果を推定する（ステップＳ２０４）。

例えば、疑似結果推定部２０６は、処置確率π（ｘ_ｎ ^Ｓ'）と、結果μ_０（ｘ_ｎ ^Ｓ'）及びμ_１（ｘ_ｎ ^Ｓ'）と、サポートセットＳ'に含まれる（ｘ_ｎ ^Ｓ'，ａ_ｎ ^Ｓ'，ｙ_ｎ ^Ｓ'）とを用いて、上記の式（３）により疑似結果^～ｙ_ｎ ^Ｓ'を推定する。これにより、疑似結果の集合｛^～ｙ_ｎ ^Ｓ'｜ｎ＝１，・・・，Ｎ^Ｓ'｝が得られる。

次に、因果効果推定部２０７は、因果効果推定モデルをサポートセットＳ'に適合させたときの特徴量ｘ'の因果効果を推定する（ステップＳ２０５）。すなわち、因果効果推定部２０７は、まず因果効果推定モデルのタスク特化パラメータを推定した上で、このタスク特化パラメータを持つ因果効果推定モデルにより特徴量ｘ'の因果効果を推定する。

例えば、上記の式（４）に示す因果効果推定モデルを用いる場合、因果効果推定部２０７は、まず、因果効果推定値τ（ｘ_ｎ ^Ｓ'）とそれに対応する疑似結果^～ｙ_ｎ ^Ｓ'とが近くなるようにタスク特化パラメータθ_ｙを推定する。これは、例えば、最小二乗法等により解析的に求めることができる。次に、因果効果推定部２０７は、上記の式（４）に示す因果効果推定モデルにより因果効果推定値τ（ｘ'）を推定する。これにより、処置及び結果が未知の特徴量ｘ'の因果効果推定値τ（ｘ'）が得られる。

そして、出力部２０８は、上記のステップＳ２０５で推定された因果効果推定値τ（ｘ'）を予め決められた所定の出力先に出力する（ステップＳ２０６）。

＜評価＞
本実施形態に係るメタ学習装置１０を評価するため、人工データを用いて既存手法と比較を行った。既存手法としては、既存のメタ学習法、マルチタスク学習法、タスク毎学習法を採用した。

また、評価指標としては因果効果推定値とその正解との平均二乗誤差を採用した。評価結果（平均と標準偏差）を以下の表１に示す。

ここで、提案手法が本実施形態に係るメタ学習装置１０を表す。

上記の表１に示されるように、本実施形態に係るメタ学習装置１０は、既存手法と比較して低い誤差を達成できていることがわかる。

＜まとめ＞
以上のように、本実施形態に係るメタ学習装置１０は、複数のタスクの学習用データセットが与えられたときに、各タスクの学習用データセットからサポートセットＳとクエリセットＱを作成した上で、複数の異なる機械学習手法でそれぞれ実現される複数のモデルに適合させてタスク特化パラメータを推定する。そして、本実施形態に係るメタ学習装置１０は、最終的な予測結果とその疑似的な正解とが近くなるように、各モデルのタスク共通パラメータを推定する。これにより、複数の機械学習手法を組み合わせて予測する手法において、目的タスクの学習用データが少量しか与えられていない場合であっても、目的タスクで高い性能を達成することができるようになる。

なお、上記の実施形態では、処置確率推定モデルのタスク特化パラメータを処置確率推定部２０４が推定したが、処置確率推定モデルのタスク特化パラメータはメタ学習部２０３によって推定されてもよい。同様に、結果推定モデルのタスク特化パラメータを結果推定部２０５が推定したが、結果推定モデルのタスク特化パラメータはメタ学習部２０３によって推定されてもよい。同様に、因果効果推定モデルのタスク特化パラメータを因果効果推定部２０７が推定したが、因果効果推定モデルのタスク特化パラメータはメタ学習部２０３によって推定されてもよい。

本発明は、具体的に開示された上記の実施形態に限定されるものではなく、請求の範囲の記載から逸脱することなく、種々の変形や変更、既知の技術との組み合わせ等が可能である。

１０ メタ学習装置
１０１ 入力装置
１０２ 表示装置
１０３ 外部Ｉ／Ｆ
１０３ａ 記録媒体
１０４ 通信Ｉ／Ｆ
１０５ ＲＡＭ
１０６ ＲＯＭ
１０７ 補助記憶装置
１０８ プロセッサ
１０９ バス
２０１ 入力部
２０２ 疑似因果効果推定部
２０３ メタ学習部
２０４ 処置確率推定部
２０５ 結果推定部
２０６ 疑似結果推定部
２０７ 因果効果推定部
２０８ 出力部
２０９ 記憶部

Claims (8)

1. 複数のタスクの学習用データセットを入力する第１の入力手順と、
   前記複数のタスクから一のタスクを選択する選択手順と、
   前記一のタスクの学習用データセットの少なくとも一部の学習用データで構成されるサポートセットと、前記学習用データセットの少なくとも一部の学習用データに含まれる特徴量で構成されるクエリセットとを作成する作成手順と、
   複数の機械学習モデルの各々が持つパラメータのうち、タスク毎のパラメータを表す第１のパラメータを前記サポートセットに適合するように推定する第１の推定手順と、
   前記複数の機械学習モデルを組み合わせて前記クエリセットに含まれる第１の特徴量から予測した予測値と、前記予測値に対する教師データとの誤差が小さくなるように、前記複数の機械学習モデルの各々が持つパラメータのうち、タスク共通のパラメータを表す第２のパラメータを学習する学習手順と、
   をコンピュータが実行するメタ学習方法。
2. 目的タスクのデータで構成されるデータセットと、前記目的タスクで予測値の予測対象となる第２の特徴量とを入力する第２の入力手順と、
   前記複数の機械学習モデルの各々が持つパラメータのうち、前記第１のパラメータを前記データセットに適合するように推定する第２の推定手順と、
   前記複数の機械学習モデルを組み合わせて前記第２の特徴量から予測値を予測する予測手順と、
   を前記コンピュータが更に実行する、請求項１に記載のメタ学習方法。
3. 前記学習用データには、前記第１の特徴量と、前記第１の特徴量が表す特徴を持つ対象に対する処置と、前記対象の結果とが対応付けて含まれており、
   前記複数の機械学習モデルには、特徴量を入力して処置が行われた確率を推定する処置確率推定モデルと、特徴量と処置を入力して結果を推定する結果推定モデルと、特徴量を入力して前記予測値として因果効果を推定する因果効果推定モデルとが含まれる、請求項１又は２に記載のメタ学習方法。
4. 前記処置確率推定モデルは前記第１のパラメータθ_ｐと前記第２のパラメータφ_ｐ、前記結果推定モデルは前記第１のパラメータθ_ａと前記第２のパラメータφ_ａ、前記因果効果推定モデルは前記第１のパラメータθ_ｙと前記第２のパラメータφ_ｙをそれぞれ持ち、
   前記第１の推定手順は、
   前記第１のパラメータθ_ｐと前記第１のパラメータθ_ａと前記第１のパラメータθ_ｙとを前記サポートセットに適合するように推定し、
   前記学習手順は、
   前記誤差が小さくなるように、前記第２のパラメータφ_ｐと前記第２のパラメータφ_ａと前記第２のパラメータφ_ｙとを学習する、請求項３に記載のメタ学習方法。
5. 前記第１の特徴量を前記処置確率推定モデルに入力して推定された確率と、前記第１の特徴量と処置が取り得る値とを前記結果推定モデルに入力して推定された結果とを用いて、疑似的な結果を推定する疑似結果推定手順、を前記コンピュータが更に実行し、
   前記第１の推定手順は、
   同一の処置に対応付けられている前記第１の特徴量の平均を前記第１のパラメータθ_ｐとして推定し、
   前記第１の特徴量と前記第１の特徴量に対応付けられている処置とを前記結果推定モデルに入力して推定された結果と、前記第１の特徴量に対応付けられている結果との誤差が小さくなるように、前記第１のパラメータθ_ａを推定し、
   前記第１の特徴量を前記因果効果推定モデルに入力して推定された因果効果と、前記疑似的な結果との誤差が小さくなるように、前記第１のパラメータθ_ｙを推定する、請求項４に記載のメタ学習方法。
6. 因果推定手法により、前記学習用データに含まれる前記第１の特徴量と前記結果との間の疑似的な因果効果を前記教師データとして推定する疑似因果効果推定手順、を前記コンピュータが更に実行する、請求項５に記載のメタ学習方法。
7. 複数のタスクの学習用データセットを入力する第１の入力部と、
   前記複数のタスクから一のタスクを選択する選択部と、
   前記一のタスクの学習用データセットの少なくとも一部の学習用データで構成されるサポートセットと、前記学習用データセットの少なくとも一部の学習用データに含まれる特徴量で構成されるクエリセットとを作成する作成部と、
   複数の機械学習モデルの各々が持つパラメータのうち、タスク毎のパラメータを表す第１のパラメータを前記サポートセットに適合するように推定する第１の推定部と、
   前記複数の機械学習モデルを組み合わせて前記クエリセットに含まれる第１の特徴量から予測した予測値と、前記予測値に対する教師データとの誤差が小さくなるように、前記複数の機械学習モデルの各々が持つパラメータのうち、タスク共通のパラメータを表す第２のパラメータを学習する学習部と、
   を有するメタ学習装置。
8. 複数のタスクの学習用データセットを入力する第１の入力手順と、
   前記複数のタスクから一のタスクを選択する選択手順と、
   前記一のタスクの学習用データセットの少なくとも一部の学習用データで構成されるサポートセットと、前記学習用データセットの少なくとも一部の学習用データに含まれる特徴量で構成されるクエリセットとを作成する作成手順と、
   複数の機械学習モデルの各々が持つパラメータのうち、タスク毎のパラメータを表す第１のパラメータを前記サポートセットに適合するように推定する第１の推定手順と、
   前記複数の機械学習モデルを組み合わせて前記クエリセットに含まれる第１の特徴量から予測した予測値と、前記予測値に対する教師データとの誤差が小さくなるように、前記複数の機械学習モデルの各々が持つパラメータのうち、タスク共通のパラメータを表す第２のパラメータを学習する学習手順と、
   をコンピュータに実行させるプログラム。