JP7501780B2

JP7501780B2 - 学習方法、推定方法、学習装置、推定装置、及びプログラム

Info

Publication number: JP7501780B2
Application number: JP2023505019A
Authority: JP
Inventors: 具治岩田
Original assignee: Nippon Telegraph and Telephone Corp; NTT Inc USA
Current assignee: NTT Inc; NTT Inc USA
Priority date: 2021-03-11
Filing date: 2021-03-11
Publication date: 2024-06-18
Anticipated expiration: 2041-03-11
Also published as: US20240169204A1; JPWO2022190327A1; WO2022190327A1

Description

本発明は、学習方法、推定方法、学習装置、推定装置、及びプログラムに関する。

欠損値を含む行列データが与えられたときに、行列分解により、その欠損値を推定できることが知られており、例えば、推薦システム等に活用されている（例えば、非特許文献１参照）。

Koren, Y., Bell, R., & Volinsky, C. (2009). Matrix factorization techniques for recommender systems. Computer, 42(8), 30-37.

しかしながら、行列分解のためには大量の観測データが必要になる。このため、大量の観測データが得られない場合には、欠損値を精度良く推定することができなかった。

本発明の一実施形態は、上記の点に鑑みてなされたもので、行列データの欠損値を精度良く推定することを目的とする。

上記目的を達成するため、一実施形態に係る学習方法は、複数の観測データが含まれる学習用データセットを入力する入力手順と、前記観測データに含まれる一部の値を欠損値とした欠損後観測データを用いて、前記欠損後観測データを複数のデータの積で表現する場合における前記複数のデータの事前分布のパラメータをニューラルネットワークにより推定する分布推定手順と、前記事前分布のパラメータを用いて、前記複数のデータの積が前記欠損後観測データに適合するように、前記複数のデータを更新するデータ更新手順と、前記更新後の複数のデータにより前記欠損後観測データの欠損値を推定する欠損値推定手順と、前記欠損値の推定精度が高くなるように、前記ニューラルネットワークのパラメータを含むモデルパラメータを更新するパラメータ更新手順と、をコンピュータが実行する。

行列データの欠損値を精度良く推定することができる。

本実施形態に係る行列解析装置のハードウェア構成の一例を示す図である。本実施形態に係る行列解析装置の機能構成の一例を示す図である。本実施形態に係る学習処理の流れの一例を示すフローチャートである。本実施形態に係る欠損値推定処理の流れの一例を示すフローチャートである。

以下、本発明の一実施形態について説明する。本実施形態では、複数の行列データが与えられたときに、これら複数の行列データを解析することで、未知の行列データの欠損値を精度良く推定することができる行列解析装置１０について説明する。なお、以下では、行列データのことを単に「行列」とも表記する。

ここで、本実施形態に係る行列解析装置１０には、未知の行列の欠損値の推定に利用されるモデルのパラメータ（以下、「モデルパラメータ」という。）を学習する「学習時」と、学習済みモデルパラメータが設定されたモデルを利用して未知の行列の欠損値を推定する「推定時」とがある。なお、「推定時」は、例えば、「テスト時」や「推論時」等と称されてもよい。

学習時における行列解析装置１０には、Ｄ個の行列の集合

が与えられる。これは観測された行列データ（つまり、観測データ）の集合である。

はｄ番目の行列であり、ｘ_ｄｎｍはその（ｎ，ｍ）要素の値を表す。Ｎ_ｄ及びＭ_ｄはそれぞれｄ番目の行列Ｘ_ｄの行数及び列数である。Ｄは学習時に与えられた行列データ数である。Ｄは既知の行列分解により欠損値を推定する際に必要な観測データ数よりも少ない数を許容し得る。

なお、学習用データセット中の或る行列の行や列は他の行列と共有されていてもよいし、共有されていなくてもよい。また、行列には欠損値が含まれていてもよい。

行列に欠損値が含まれる場合を表現するため、二値行列

も与えられるものとする。ここで、二値行列Ｂ_ｄの（ｎ，ｍ）要素の値をｂ_ｄｎｍとして、ｂ_ｄｎｍ＝１の場合は行列Ｘ_ｄの（ｎ，ｍ）要素が観測されていることを表し、ｂ_ｄｎｍ＝０の場合は行列Ｘ_ｄの（ｎ，ｍ）要素が観測されていないこと（つまり、欠損していること）を表すものとする。

以下では、上記の数１に示す観測データの集合と、これらの観測データに対応する二値行列の集合とを「学習用データセット」ともいう。すなわち、学習用データセットは｛（Ｘ_ｄ，Ｂ_ｄ）；ｄ＝１，・・・，Ｄ｝と表される。

推定時における行列解析装置１０には、欠損値を含む行列

とそれに対応する二値行列

とが与えられる。ここで、Ｎ_＊及びＭ_＊はそれぞれ行列Ｘ_＊の行数及び列数である。この行列Ｘ_＊の欠損値を精度良く推定（言い換えれば、欠損値を精度良く補完）することが目的である。以下では、（Ｘ_＊，Ｂ_＊）を「推定対象データ」ともいう。

なお、本実施形態では行列を対象とするが、これに限られず、テンソルに対しても同様に適用可能である。また、例えば、グラフや時系列等といった他の形式のデータの場合も、深層学習等により表現を抽出することで、その表現を表す行列（又は、テンソル）に対して同様に適用することが可能である。

＜行列解析装置１０のハードウェア構成＞
まず、本実施形態に係る行列解析装置１０のハードウェア構成について、図１を参照しながら説明する。図１は、本実施形態に係る行列解析装置１０のハードウェア構成の一例を示す図である。

図１に示すように、本実施形態に係る行列解析装置１０は一般的なコンピュータ又はコンピュータシステムで実現され、入力装置１０１と、表示装置１０２と、外部Ｉ／Ｆ１０３と、通信Ｉ／Ｆ１０４と、プロセッサ１０５と、メモリ装置１０６とを有する。これら各ハードウェアは、それぞれがバス１０７を介して通信可能に接続されている。

入力装置１０１は、例えば、キーボードやマウス、タッチパネル等である。表示装置１０２は、例えば、ディスプレイ等である。なお、行列解析装置１０は、入力装置１０１及び表示装置１０２のうちの少なくとも一方を有していなくてもよい。

外部Ｉ／Ｆ１０３は、記録媒体１０３ａ等の外部装置とのインタフェースである。行列解析装置１０は、外部Ｉ／Ｆ１０３を介して、記録媒体１０３ａの読み取りや書き込み等を行うことができる。なお、記録媒体１０３ａとしては、例えば、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disk）、ＳＤメモリカード（Secure Digital memory card）、ＵＳＢ（Universal Serial Bus）メモリカード等がある。

通信Ｉ／Ｆ１０４は、行列解析装置１０を通信ネットワークに接続するためのインタフェースである。プロセッサ１０５は、例えば、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等の各種演算装置である。メモリ装置１０６は、例えば、ＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、フラッシュメモリ等の各種記憶装置である。

本実施形態に係る行列解析装置１０は、図１に示すハードウェア構成を有することにより、後述する学習処理や欠損値推定処理を実現することができる。なお、図１に示すハードウェア構成は一例であって、行列解析装置１０は、他のハードウェア構成を有していてもよい。例えば、行列解析装置１０は、複数のプロセッサ１０５を有していてもよいし、複数のメモリ装置１０６を有していてもよい。

＜行列解析装置１０の機能構成＞
次に、本実施形態に係る行列解析装置１０の機能構成について、図２を参照しながら説明する。図２は、本実施形態に係る行列解析装置１０の機能構成の一例を示す図である。

図２に示すように、本実施形態に係る行列解析装置１０は、モデル部２０１と、メタ学習部２０２と、記憶部２０３とを有する。なお、モデル部２０１及びメタ学習部２０２は、例えば、行列解析装置１０にインストールされた１以上のプログラムがプロセッサ１０５に実行させる処理により実現される。また、記憶部２０３は、例えば、メモリ装置１０６により実現される。ただし、記憶部２０３は、例えば、行列解析装置１０と通信ネットワークを介して接続されるデータベースサーバ等により実現されていてもよい。

モデル部２０１は、行列Ｘ∈Ｒ^Ｎ×Ｍとそれに対応する二値行列Ｂ∈｛０，１｝^Ｎ×Ｍとを入力として、行列Ｘの分解行列を推定する。そして、モデル部２０１は、それらの分解行列から行列Ｘの欠損値を推定する。ここで、学習時においては、行列Ｘ及び二値行列Ｂは学習用データセットに含まれる行列Ｘ_ｄ及び二値行列Ｂ_ｄである。一方で、推定時においては、行列Ｘ及び二値行列Ｂは行列Ｘ_＊及び二値行列Ｂ_＊である。

モデル部２０１は、以下のＳｔｅｐ１１～Ｓｔｅｐ１３により分解行列と欠損値の推定を行う。

Ｓｔｅｐ１１：まず、モデル部２０１は、ニューラルネットワークを用いて、行列Ｘ及び二値行列Ｂから、当該行列Ｘを行列分解する行列（以下、「分解行列」という。）の事前分布のパラメータを計算する。なお、行列Ｘ及び二値行列Ｂから、分解行列の事前分布のパラメータを出力できるものであれば、任意のニューラルネットワークを用いることができる。

例えば、まず、交換可能行列層を用いて、行列Ｘの表現Ｚ∈Ｒ^{Ｎ×Ｍ×Ｃ}を計算する。ｚ_ｎｍ∈Ｒ^Ｃを行列Ｘの（ｎ，ｍ）要素の表現とすれば、表現Ｚは、以下の式（１）に示す交換可能層により計算できる。

ここで、ｌ（ｌは小文字のＬ）は層を表すインデックスであり、０≦ｌ≦Ｌ－１とする。また、ｚ_ｎｍｃ ^（ｌ）∈Ｒはｌ（ｌは小文字のＬ）層目におけるｃ番目のチャネルの（ｎ，ｍ）要素の表現、ｗ_ｃ'ｃｉ ^（ｌ）∈Ｒはｌ（ｌは小文字のＬ）層目の重みパラメータ、σは活性化関数、Ｃ^（ｌ）はｌ（ｌは小文字のＬ）層目のチャネル数である。最初の層（つまり、ｌ＝０）では、与えられた行列Ｘが表現となる。すなわち、行列Ｘの（ｎ，ｍ）要素の値をｘ_ｎｍとすれば、ｚ_ｎｍ ^（０）＝ｘ_ｎｍ∈Ｒとなる。そして、最後の層の表現が、行列Ｘの表現となる。すなわち、ｚ_ｎｍｃ ^（Ｌ）∈Ｒをｃ番目のチャネルの（ｎ，ｍ）要素とする表現Ｚ^（Ｌ）が、行列Ｘの表現Ｚとなる。ただし、最後の層で表現を計算する際には活性化関数を用いずに、そのまま出力する（言い換えれば、最後の層では活性化関数として恒等関数を用いる。）。

次に、行列Ｘの表現Ｚから分解行列の事前分布の平均値をニューラルネットワークで推定する。例えば、以下の式（２）により分解行列の事前分布の平均を計算することができる。

ここで、Ｕ∈Ｒ^Ｎ×ＫとＶ∈Ｒ^Ｋ×ＭによりＸ＝ＵＶと行列分解されるものとして、ｕ_ｎ ^（０）∈Ｒ^Ｋは分解行列Ｕのｎ番目の行の平均を表すベクトル、ｖ_ｍ ^（０）∈Ｒ^Ｋは分解行列Ｖのｍ番目の列の平均を表すベクトル、ｆ_Ｕ及びｆ_Ｖはニューラルネットワークである。

なお、分解行列の事前分布のパラメータとしては、平均だけでなく、分散もニューラルネットワークで推定してもよい。

Ｓｔｅｐ１２：次に、モデル部２０１は、分解行列の事前分布のパラメータを用いて、分解行列Ｕ及びＶが行列Ｘと適合するように、分解行列Ｕ及びＶを更新する。この更新は、例えば、事後確率最大化、尤度最大化、ベイズ推定、変分ベイズ推定等により行うことができる。

例えば、事後確率最大化の場合、以下の式（３）に示すＥを勾配法等により最小化することで、分解行列Ｕ及びＶを更新できる。

ここで、λ≧０はハイパーパラメータである。

このとき、更新式は、以下の式（４）及び式（５）となる。

ここで、ｕ_ｎ ^（ｔ）はｔ回目の繰り返しにおける分解行列Ｕのｎ番目の行を表すベクトル、ｖ_ｍ ^（ｔ）はｔ回目の繰り返しにおける分解行列Ｖのｍ番目の列を表すベクトル、η＞０は学習率である。

なお、以下では、上記の式（４）及び式（５）による更新が収束した後のｕ_ｎ ^（ｔ）及びｖ_ｍ ^（ｔ）をそれぞれ「ｕ_ｎ」及び「ｖ_ｍ」と表記する。

Ｓｔｅｐ１３：そして、モデル部２０１は、分解行列Ｕ及びＶを用いて、行列Ｘの欠損値を推定する。行列Ｘの（ｎ，ｍ）要素の欠損値は、以下の式（６）により計算できる。

上記の式（６）により欠損値を推定することで、行列Ｘの欠損値が補完される。

メタ学習部２０２は、モデルパラメータを学習する。ここで、モデルパラメータには、ニューラルネットワーク（交換可能行列層、ｆ_Ｕ、ｆ_Ｖ等）のパラメータ、分散、学習率等が含まれる。

メタ学習部２０２は、モデルパラメータを初期化した上で、学習用データセットに含まれる各（Ｘ_ｄ，Ｂ_ｄ）を用いて、モデル部２０１による欠損値の推定精度が高くなるように、勾配法等によりモデルパラメータを更新する。

記憶部２０３には、学習時において、学習用データセットや学習対象のモデルパラメータ等が記憶される。一方で、記憶部２０３には、推定時において、推定対象データや学習済みモデルパラメータ等が記憶される。

＜学習処理の流れ＞
次に、学習時における行列解析装置１０が実行する学習処理の流れについて、図３を参照しながら説明する。図３は、本実施形態に係る学習処理の流れの一例を示すフローチャートである。

まず、メタ学習部２０２は、記憶部２０３に記憶されている学習対象のモデルパラメータを初期化する（ステップＳ１０１）。なお、モデルパラメータは、例えば、ランダムに初期化されてもよいし、何等かの分布に従うように初期化されてもよい。

次に、メタ学習部２０２は、記憶部２０３に記憶されている学習用データセットを入力する（ステップＳ１０２）。

次に、メタ学習部２０２は、上記のステップＳ１０２で入力した学習用データセットに含まれる各（Ｘ_ｄ，Ｂ_ｄ）を用いて、モデル部２０１による欠損値の推定精度が高くなるように、モデルパラメータを学習する（ステップＳ１０３）。例えば、メタ学習部２０２は、以下のＳｔｅｐ２１～Ｓｔｅｐ２５によりモデルパラメータを学習する。

Ｓｔｅｐ２１：まず、メタ学習部２０２は、学習用データセットからランダムに１つの（Ｘ_ｄ，Ｂ_ｄ）を選択する。

Ｓｔｅｐ２２：次に、メタ学習部２０２は、上記のＳｔｅｐ２１で選択した行列Ｘ_ｄの要素のうち、欠損値でない一部の要素を欠損させる。例えば、ランダムにｎ'番目の行とｍ'番目の列を選択し、ｂ_ｎ'ｍ'＝１であれば、行列Ｘ_ｄの（ｎ'，ｍ'）要素を欠損値とする（つまり、ｂ_ｎ'ｍ'＝０に更新する）。なお、複数の要素を欠損させてもよい。

Ｓｔｅｐ２３：次に、モデル部２０１は、上記のＳｔｅｐ２２で一部の要素を欠損させた行列Ｘ_ｄ及びその二値行列Ｂ_ｄを入力として、上記のＳｔｅｐ１１～Ｓｔｅｐ１３により、上記のＳｔｅｐ２２で欠損させた要素の値（欠損値）を推定する。

Ｓｔｅｐ２４：続いて、メタ学習部２０２は、上記のＳｔｅｐ２２で推定した欠損値の推定精度が高くなるように、勾配法等によりモデルパラメータを更新する。なお、欠損値の推定精度は、例えば、二乗誤差や負の尤度等を用いることができる。

Ｓｔｅｐ２５：メタ学習部２０２は、所定の終了条件を満たすまで、上記のＳｔｅｐ２１～Ｓｔｅｐ２４を繰り返す。なお、所定の終了条件としては、例えば、モデルパラメータの値が収束したこと、上記のＳｔｅｐ２１～Ｓｔｅｐ２４の繰り返し回数が所定の回数に達したこと、等が挙げられる。

なお、上記のＳｔｅｐ２１では１つの（Ｘ_ｄ，Ｂ_ｄ）を選択したが、これに限られず、複数の（Ｘ_ｄ，Ｂ_ｄ）を選択し、これら複数の（Ｘ_ｄ，Ｂ_ｄ）に対してＳｔｅｐ２２～Ｓｔｅｐ２４が実行されてもよい。

そして、メタ学習部２０２は、上記のステップＳ１０３で学習された学習済みのモデルパラメータを記憶部２０３に保存する（ステップＳ１０４）。

＜欠損値推定処理の流れ＞
次に、推定時における行列解析装置１０が実行する欠損値推定処理の流れについて、図４を参照しながら説明する。図４は、本実施形態に係る欠損値推定処理の流れの一例を示すフローチャートである。

まず、モデル部２０１は、記憶部２０３に記憶されている推定対象データ（Ｘ_＊，Ｂ_＊）を入力する（ステップＳ２０１）。

そして、モデル部２０１は、記憶部２０３に記憶されている学習済みモデルパラメータを用いて、上記のＳｔｅｐ１１～Ｓｔｅｐ１３により、行列Ｘ_＊の欠損値を推定する（ステップＳ２０２）。これにより、行列Ｘ_＊の欠損値が補完される。

＜評価＞
次に、本実施形態に係る行列解析装置１０による欠損値推定の精度について評価する。以下、本実施形態に係る行列解析装置１０によって欠損値を推定する手法を「提案手法」という。

３つのデータセット（ＭＬ１００Ｋ、ＭＬ１Ｍ、Ｊｅｓｔｅｒ）を用いて、提案手法と既存手法の欠損値推定精度を評価した。また、評価指標としては、テスト平均二乗誤差を採用した。以下の表１に評価結果を示す。

ここで、ＥＭＬは交換可能行列層だけを用いたニューラルネットワーク、ＦＴはファインチューニング、ＭＡＭＬはＭｏｄｅｌ－ａｇｎｏｓｔｉｃｍｅｔａ－ｌｅａｒｎｉｎｇ、ＮＭＦはニューラル行列分解、ＭＦは行列分解、Ｍｅａｎは平均値で欠損値を補完した手法を表す。

上記の表１に示すように、提案手法は既存手法と比べて、より低い欠損値推定誤差となっている。すなわち、提案手法は既存手法と比べて、高い精度で欠損値が推定できていることがわかる。

＜まとめ＞
以上のように、本実施形態に係る行列解析装置１０は、ニューラルネットワークにより分解行列の事前分布のパラメータを計算した上で、このパラメータを利用して、分解行列が、与えられた観測データ（行列データ）と適合するようにモデルパラメータを学習する。これにより、従来手法よりも少ない観測データ数で、より高い精度で未知の行列データの欠損値を推定することが可能となる。

なお、本実施形態では、一例として、学習処理と欠損値推定処理とを同一の行列解析装置１０が実行したが、これに限られず、例えば、学習処理と欠損値推定処理とがそれぞれ別の装置で実行されてもよい。すなわち、例えば、本実施形態は、学習処理を実行する学習装置と、欠損値推定処理を実行する推定装置とで実現されていてもよい。

本発明は、具体的に開示された上記の実施形態に限定されるものではなく、請求の範囲の記載から逸脱することなく、種々の変形や変更、既知の技術との組み合わせ等が可能である。

１０行列解析装置
１０１入力装置
１０２表示装置
１０３外部Ｉ／Ｆ
１０３ａ記録媒体
１０４通信Ｉ／Ｆ
１０５プロセッサ
１０６メモリ装置
１０７バス
２０１モデル部
２０２メタ学習部
２０３記憶部

Claims

複数の観測データが含まれる学習用データセットを入力する入力手順と、
前記観測データに含まれる一部の値を欠損値とした欠損後観測データを用いて、前記欠損後観測データを複数のデータの積で表現する場合における前記複数のデータの事前分布のパラメータをニューラルネットワークにより推定する分布推定手順と、
前記事前分布のパラメータを用いて、前記複数のデータの積が前記欠損後観測データに適合するように、前記複数のデータを更新するデータ更新手順と、
前記更新後の複数のデータにより前記欠損後観測データの欠損値を推定する欠損値推定手順と、
前記欠損値の推定精度が高くなるように、前記ニューラルネットワークのパラメータを含むモデルパラメータを更新するパラメータ更新手順と、
をコンピュータが実行する学習方法。
前記観測データは行列形式で表され、
前記分布推定手順は、
前記欠損後観測データを２つのデータの行列積で表現する場合における前記２つのデータの事前分布のパラメータを前記ニューラルネットワークにより推定し、
前記データ更新手順は、
前記事前分布のパラメータを用いて、前記２つのデータの行列積が前記欠損後観測データに適合するように、前記モデルパラメータを更新する、請求項１に記載の学習方法。
前記事前分布のパラメータには、前記２つのデータのうちの第１のデータを構成する各行それぞれの各要素の値の平均と、前記２つのデータのうちの第２のデータを構成する各列それぞれの各要素の値の平均とが少なくとも含まれる、請求項２に記載の学習方法。
前記データ更新手順は、
事後確率最大化、尤度最大化、ベイズ推定、又は変分ベイズ推定により、前記複数のデータの積が前記欠損後観測データに適合するように、前記複数のデータを更新する、請求項１乃至３の何れか一項に記載の学習方法。
欠損値が含まれる推定対象データを入力する入力手順と、
前記推定対象データを複数のデータの積で表現する場合における前記複数のデータの事前分布のパラメータを学習済みニューラルネットワークにより推定する分布推定手順と、
前記事前分布のパラメータを用いて、前記複数のデータの積が前記推定対象データに適合するように、前記複数のデータを更新するデータ更新手順と、
前記更新後の複数のデータにより前記推定対象データの欠損値を推定する欠損値推定手順と、
をコンピュータが実行する推定方法。
複数の観測データが含まれる学習用データセットを入力する入力部と、
前記観測データに含まれる一部の値を欠損値とした欠損後観測データを用いて、前記欠損後観測データを複数のデータの積で表現する場合における前記複数のデータの事前分布のパラメータをニューラルネットワークにより推定する分布推定部と、
前記事前分布のパラメータを用いて、前記複数のデータの積が前記欠損後観測データに適合するように、前記複数のデータを更新するデータ更新部と、
前記更新後の複数のデータにより前記欠損後観測データの欠損値を推定する欠損値推定部と、
前記欠損値の推定精度が高くなるように、前記ニューラルネットワークのパラメータを含むモデルパラメータを更新するパラメータ更新部と、
を有する学習装置。
欠損値が含まれる推定対象データを入力する入力部と、
前記推定対象データを複数のデータの積で表現する場合における前記複数のデータの事前分布のパラメータを学習済みニューラルネットワークにより推定する分布推定部と、
前記事前分布のパラメータを用いて、前記複数のデータの積が前記推定対象データに適合するように、前記複数のデータを更新するデータ更新部と、
前記更新後の複数のデータにより前記推定対象データの欠損値を推定する欠損値推定部と、
を有する推定装置。
コンピュータに、請求項１乃至４の何れか一項に記載の学習方法、又は、請求項５に記載の推定方法、を実行させるプログラム。