JP7720007B2 - 秘密グローバルモデル計算装置、秘密グローバルモデル計算システム構成方法、プログラム - Google Patents

Description

本発明は、連合学習技術に関し、特にグローバルモデルを計算する秘密計算システムを構成する装置がローカルモデルを学習する機能を備えることにより、効率的にモデルを学習する技術に関する。

学習データを１つの装置に集約することなく学習する技術として、連合学習(Federated Learning)技術がある。連合学習技術として、例えば非特許文献１に記載のFedAVGがある。

図１は、連合学習システムの基本的構成を示す図である。連合学習システム９０は、M個（Mは2以上の整数）のローカルモデル学習装置７００₁、…、７００_Mとグローバルモデル計算装置９００とを含む。連合学習システム９０の基本的な動作は以下の通りである。ローカルモデル学習装置７００₁、…、７００_Mは自らの記録部に記録した学習データを用いてローカルモデルを学習する。学習終了後、ローカルモデル学習装置７００₁、…、７００_Mはネットワーク８００を介してローカルモデルをグローバルモデル計算装置９００に送信する。グローバルモデル計算装置９００は、受信したローカルモデルを用いてグローバルモデルを計算する。計算終了後、グローバルモデル計算装置９００は、ネットワーク８００を介してグローバルモデルをローカルモデル学習装置７００₁、…、７００_Mに送信する。ローカルモデル学習装置７００₁、…、７００_Mは受信したグローバルモデルを用いてローカルモデルを再度学習する。このような動作を繰り返すことにより、連合学習システム９０はモデル学習を進める。その際、グローバルモデル計算装置９００は、ローカルモデル管理テーブルを用いてローカルモデルのパラメータを管理する。

連合学習技術を用いると、ローカルモデル学習装置の外に学習データを持ち出すことがないため、データ持ち出しに対する不安を解消することができると同時に、並列学習による高速化が可能となる。しかし、例えばローカルモデル学習装置７００₁、…、７００_Mとグローバルモデル計算装置９００との通信の過程から学習中のモデルのパラメータが追跡される形で漏洩すると、学習データが推測されてしまうリスクがある。このようなリスクを回避するためにグローバルモデルの計算に秘密計算を用いることが考えられる。

秘密計算とは、暗号化された数値を復元することなく指定された演算の演算結果を得る方法のことである（例えば参考非特許文献１参照）。参考非特許文献１の方法では、数値を復元することのできる複数の情報を3つの秘密計算装置に分散するという暗号化を行い、数値を復元することなく、加減算、定数和、乗算、定数倍、論理演算（否定、論理積、論理和、排他的論理和）、データ形式変換（整数、二進数）の結果を3つの秘密計算装置に分散された状態、すなわち暗号化されたまま保持させることができる。一般に、分散数は3に限らずN（Nは3以上の整数）とすることができ、N個の秘密計算装置による協調計算によって秘密計算を実現するプロトコルはマルチパーティプロトコルと呼ばれる。
（参考非特許文献１：千田浩司, 濱田浩気, 五十嵐大, 高橋克巳, “軽量検証可能３パーティ秘匿関数計算の再考,” In CSS, 2010．）

McMahan, B., E. Moore, D. Ramage, et al, "Communication-efficient learning of deep networks from decentralized data,"In Artificial Intelligence and Statistics, pp.1273-1282, 2017.

一般に、ローカルモデルを学習する装置の数はグローバルモデルを計算する秘密計算システムを構成する装置の数に比べて過度に大きくなる傾向がある。このような場合、秘密計算システムへのローカルモデル登録処理に時間がかかるため、モデル学習にかかる時間が全体として大きくなってしまうという問題がある。

そこで本発明は、連合学習において、グローバルモデルを計算する秘密計算システムを構成する装置がローカルモデルを学習する機能を備えることにより、効率的にモデルを学習する技術を提供することを目的とする。

本発明の一態様は、Kを3以上の整数、Nを3≦N≦Kを満たす整数とし、K個の、学習データを用いてローカルモデルを学習する秘密グローバルモデル計算装置を含む連合学習システムにおける秘密グローバルモデル計算装置であって、K個の秘密グローバルモデル計算装置のうちの任意のN個の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できるものであり、自分自身を除くK-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する選択部と、前記選択されたN-1個の秘密グローバルモデル計算装置と自分自身をあわせたN個の秘密グローバルモデル計算装置で秘密グローバルモデル計算システムを構成するシステム構成部と、を含む。

本発明の一態様は、Kを3以上の整数、Pを2以上の整数、Nを3≦N≦K/Pを満たす整数とし、K個の、学習データを用いてローカルモデルを学習する秘密グローバルモデル計算装置を含む連合学習システムにおける秘密グローバルモデル計算装置であって、K個の秘密グローバルモデル計算装置のうちの任意のN個の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できるものであり、秘密グローバルモデル計算システム構成のために選択されていないK-(p-1)N個（ただし、pは1≦p≦Pを満たす整数）の秘密グローバルモデル計算装置のうちの自分自身を除くK-(p-1)N-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-(p-1)N-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する選択部と、前記選択されたN-1個の秘密グローバルモデル計算装置と自分自身をあわせたN個の秘密グローバルモデル計算装置で秘密グローバルモデル計算システム（以下、第p秘密グローバルモデル計算システムという）を構成するシステム構成部と、σを集合{1, …, P}の置換、Lを2以上の整数とし、pがσ(p)>1を満たす整数である場合は、L回のうち1回の学習では第p’秘密グローバルモデル計算システム（ただし、p’はσ(p’)=σ(p)-1を満たす整数）のグローバルモデルのパラメータを、L回のうち残りのL-1回の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習し、pがσ(p)=1を満たす整数である場合は、2回目以降の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習するローカルモデル学習部と、を含む。

本発明によれば、連合学習において、グローバルモデルを計算する秘密計算システムを構成する装置がローカルモデルを学習する機能を備えることにより、効率的にモデルを学習することが可能となる。

連合学習システム９０の基本的構成を示す図である。 連合学習システム１０の構成を示すブロック図である。 秘密グローバルモデル計算装置１００_nの構成を示すブロック図である。 連合学習システム１０の動作を示すフローチャートである。 ローカルモデル生成部１３０_nの構成を示すブロック図である。 ローカルモデル生成部１３０_nの動作を示すフローチャートである。 本発明の実施形態における各装置を実現するコンピュータの機能構成の一例を示す図である。

以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。

各実施形態の説明に先立って、この明細書における表記方法について説明する。

^（キャレット）は上付き添字を表す。例えば、x^{y^z}はy^zがxに対する上付き添字であり、x_y^zはy^zがxに対する下付き添字であることを表す。また、_（アンダースコア）は下付き添字を表す。例えば、x^y_zはy_zがxに対する上付き添字であり、x_{y_z}はy_zがxに対する下付き添字であることを表す。

ある文字xに対する^xや~xのような上付き添え字の”^”や”~”は、本来”x”の真上に記載されるべきであるが、明細書の記載表記の制約上、^xや~xと記載しているものである。
＜技術的背景＞
<<秘密計算>>
本願の発明における秘密計算は、既存の秘密計算上の演算の組み合わせで構築される。この秘密計算に必要な演算は、例えば、秘匿化、加算、減算、乗算、除算、論理演算（否定、論理積、論理和、排他的論理和）、比較演算（=, <, >, ≦, ≧）である。以下、記法も含めいくつかの演算について説明していく。
［秘匿化］
[[x]]をxを秘密分散で秘匿した値（以下、xのシェアという）とする。秘密分散方法には、任意の方法を用いることができる。例えば、GF(2⁶¹-1)上のShamir秘密分散、Z₂上の複製秘密分散を用いることができる。

ある１つのアルゴリズムの中で複数の秘密分散方法を組み合わせて用いてもよい。この場合、適宜相互に変換するものとする。

また、N次元ベクトル^→x=(x₁, …, x_N)に対して、[[^→x]]=([[x₁]], …, [[x_N]])とする。つまり、[[^→x]]は、^→xの第n要素x_nのシェア[[x_n]]を第n要素とするベクトルである。同様に、M×N行列A=(a_m,n)(1≦m≦M, 1≦n≦N)に対して、[[A]]をAの第(m, n)要素a_m,nのシェア[[a_m,n]]を第(m, n)要素とする行列とする。

なお、xを[[x]]の平文という。

xから[[x]]を求める方法（秘匿化）、[[x]]からxを求める方法（復元）として、具体的には、参考非特許文献１、参考非特許文献２に記載の方法がある。
（参考非特許文献２：Shamir, A., “How to share a secret”, Communications of the ACM, Vol.22, No.11, pp.612-613, 1979.）
［加算、減算、乗算、除算］
秘密計算による加算[[x]]+[[y]]は、[[x]], [[y]]を入力とし、[[x+y]]を出力する。秘密計算による減算[[x]]-[[y]]は、[[x]], [[y]]を入力とし、[[x-y]]を出力する。秘密計算による乗算[[x]]×[[y]]（mul([[x]], [[y]])と表すこともある）は、[[x]], [[y]]を入力とし、[[x×y]]を出力する。秘密計算による除算[[x]]/[[y]]（div([[x]], [[y]])と表すこともある）は、[[x]], [[y]]を入力とし、[[x/y]]を出力する。

加算、減算、乗算、除算の具体的方法として、参考非特許文献３、参考非特許文献４に記載の方法がある。
（参考非特許文献３：Ben-Or, M., Goldwasser, S. and Wigderson, A., “Completeness theorems for non-cryptographic fault-tolerant distributed computation”, Proceedings of the twentieth annual ACM symposium on Theory of computing, ACM, pp. 1-10, 1988.）
（参考非特許文献４：Gennaro, R., Rabin, M. O. and Rabin, T., “Simplied VSS and fast-track multiparty computations with applications to threshold cryptography”, Proceedings of the seventeenth annual ACM symposium on Principles of distributed computing, ACM, pp.101-111, 1998.）
［論理演算］
秘密計算による否定not[[x]]は、[[x]]を入力とし、[[not(x)]]を出力する。秘密計算による論理積and([[x]], [[y]])は、[[x]], [[y]]を入力とし、[[and(x, y)]]を出力する。秘密計算による論理和or([[x]], [[y]])は、[[x]], [[y]]を入力とし、[[or(x, y)]]を出力する。秘密計算による排他的論理和xor([[x]], [[y]])は、[[x]], [[y]]を入力とし、[[xor(x, y)]]を出力する。

なお、論理演算は加算、減算、乗算、除算を組み合わせることで容易に構成することができる。
［比較演算］
秘密計算による等号判定=([[x]], [[y]]) （equal([[x]], [[y]])と表すこともある）は、[[x]], [[y]]を入力とし、x=yである場合は[[1]]を、それ以外の場合は[[0]]を出力する。秘密計算による比較<([[x]], [[y]])は、[[x]], [[y]]を入力とし、x<yである場合は[[1]]を、それ以外の場合は[[0]]を出力する。秘密計算による比較>([[x]], [[y]])は、[[x]], [[y]]を入力とし、x>yである場合は[[1]]を、それ以外の場合は[[0]]を出力する。秘密計算による比較≦([[x]], [[y]])は、[[x]], [[y]]を入力とし、x≦yである場合は[[1]]を、それ以外の場合は[[0]]を出力する。秘密計算による比較≧([[x]], [[y]])は、[[x]], [[y]]を入力とし、x≧yである場合は[[1]]を、それ以外の場合は[[0]]を出力する。

なお、比較演算は論理演算を組み合わせることで容易に構成することができる。
＜第１実施形態＞
以下、図２～図４を参照して連合学習システム１０について説明する。図２は、連合学習システム１０の構成を示すブロック図である。連合学習システム１０は、K個（Kは3以上の整数）の、学習データを用いてローカルモデルを学習する秘密グローバルモデル計算装置１００₁、…、１００_Kを含む。秘密グローバルモデル計算装置１００₁、…、１００_Kは、ネットワーク８００に接続しており、相互に通信可能である。ネットワーク８００は、例えば、インターネットなどの通信網あるいは同報通信路などでよい。図３は、秘密グローバルモデル計算装置１００_n(1≦n≦K)の構成を示すブロック図である。図４は、連合学習システム１０の動作を示すフローチャートである。

図３に示すように秘密グローバルモデル計算装置１００_nは、選択部１１０_nと、システム構成部１２０_nと、ローカルモデル生成部１３０_nと、パラメータシェア登録部１４０_nと、学習開始条件判定部１５０_nと、グローバルモデル計算部１６０_nと、送受信部１８０_nと、記録部１９０_nを含む。選択部１１０_nとシステム構成部１２０_nとローカルモデル生成部１３０_nとパラメータシェア登録部１４０_nと送受信部１８０_nと記録部１９０_nを除く秘密グローバルモデル計算装置１００_nの各構成部は、例えば、秘匿化、加算、減算、乗算、除算、論理演算、比較演算のように、グローバルモデルの計算で必要とされる演算のうち、各構成部の機能を実現するうえで必要になる演算を実行できるように構成されている。本発明において個々の演算を実現するための具体的な機能構成は、既存のアルゴリズムを実行できるような構成で十分であり、これらは従来的構成であるから詳細な説明については省略する。また、記録部１９０_nは、秘密グローバルモデル計算装置１００_nの処理に必要な情報を記録する構成部である。記録部１９０_nは、例えば、学習データやローカルモデルのパラメータやグローバルモデルのパラメータを記録する。なお、学習データは適宜更新される。また、グローバルモデルはローカルモデルと同じ構造を有するモデルである。

K個の秘密グローバルモデル計算装置のうちの任意のN個（Nは3≦N≦Kを満たす整数）の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できる。

K個の秘密グローバルモデル計算装置のうちの任意のN個の秘密グローバルモデル計算装置による協調計算によって、当該N個の秘密グローバルモデル計算装置により構成される秘密グローバルモデル計算システムはマルチパーティプロトコルであるグローバルモデルの秘密計算を実現する。よって、N個の秘密グローバルモデル計算装置を秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}（ただし、i₁, …, i_Nは1≦i₁< … <i_N≦Kを満たす整数）とすると、当該N個の秘密グローバルモデル計算装置により構成される秘密グローバルモデル計算システムの学習開始条件判定手段１５０（図示していない）は学習開始条件判定部１５０_{i_1}、…、１５０_{i_N}で構成され、グローバルモデル計算手段１６０（図示していない）はグローバルモデル計算部１６０_{i_1}、…、１６０_{i_N}で構成される。

以下、図４に従い連合学習システム１０の動作について説明する。

Ｓ１１０において、秘密グローバルモデル計算装置１００_n(1≦n≦K)のうちの1個の秘密グローバルモデル計算装置１００_{k_0}（ただし、k₀は1≦k₀≦Kを満たす整数）の選択部１１０_{k_0}は、送受信部１８０_{k_0}を用いて自分自身を除くK-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する。以下、秘密グローバルモデル計算装置１００_{k_0}をマスタ秘密グローバルモデル計算装置という。選択されたN-1個の秘密グローバルモデル計算装置とマスタ秘密グローバルモデル計算装置をあわせたN個の秘密グローバルモデル計算装置を秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}（ただし、i₁, …, i_Nは1≦i₁< … <i_N≦Kを満たす整数）とする。したがって、k₀はi₁, …, i_Nのいずれかと一致する。ここで、k₀=i_~n（ただし、~nは1≦~n≦Nを満たす整数）とする。また、計算資源とは、例えば、秘密グローバルモデル計算装置の構成に用いる汎用コンピュータのCPUや通信部のことである。

Ｓ１２０において、マスタ秘密グローバルモデル計算装置である秘密グローバルモデル計算装置１００_{i_~n}のシステム構成部１１０_{i_~n}は、送受信部１８０_{i_~n}を用いて秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_~n-1}、１００_{i_~n+1}、…、１００_{i_N}との間で秘密グローバルモデル計算システムを構成するために必要となるデータを相互に交換し、N個の秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}で秘密グローバルモデル計算システムを構成する。秘密グローバルモデル計算システムを構成するために必要となるデータとは、例えば、秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置のネットワークアドレス（例えば、IPアドレス）である。

Ｓ１３０において、秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のローカルモデル生成部１３０_nは、ローカルモデルを生成する。

以下、図５～図６を参照してローカルモデル生成部１３０_nについて説明する。図５は、ローカルモデル生成部１３０_nの構成を示すブロック図である。図６は、ローカルモデル生成部１３０_nの動作を示すフローチャートである。図５に示すようにローカルモデル生成部１３０_n(1≦n≦K)は、ローカルモデル学習部１３１_nと、パラメータシェア計算部１３２_nと、グローバルモデル取得部１３３_nと、パラメータ計算部１３４_nと、学習開始条件判定部１３５_nとを含む。

以下、図６に従いローカルモデル生成部１３０_n(n=i₁, …, i_N)の動作について説明する。

Ｓ１３１_nにおいて、ローカルモデル学習部１３１_nは、記録部１９０_nに記録している学習データを用いてローカルモデルを学習する。１回目のローカルモデルの学習では、ローカルモデル学習部１３１_nは、予め記録部１９０_nに記録している初期値を用いてローカルモデルのパラメータの初期値を設定してもよいし、乱数を用いて生成した初期値を用いてローカルモデルのパラメータの初期値を設定してもよい。２回目以降のローカルモデルの学習では、ローカルモデル学習部１３１_nは、後述するＳ１３３_nで取得したグローバルモデルのパラメータのシェアを用いてローカルモデルのパラメータの初期値を設定する。

Ｓ１３２_nにおいて、パラメータシェア計算部１３２_nは、Ｓ１３１_nで学習したローカルモデルのパラメータからローカルモデルのパラメータのシェアを計算する。パラメータシェア計算部１３２_nは、計算が終了すると、送受信部１８０_nを用いて自分自身を除く秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_N}にローカルモデルのパラメータのシェアを送信する。

Ｓ１３３_nにおいて、グローバルモデル取得部１３３_nは、Ｓ１３２_nの処理終了後またはＳ１３５_nの処理終了から所定の時間経過後に、送受信部１８０_nを用いて自分自身を除く秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_N}からグローバルモデルのパラメータのシェアを取得する。

Ｓ１３４_nにおいて、パラメータ計算部１３４_nは、Ｓ１３３_nで取得したグローバルモデルのパラメータのシェアと自分自身が計算したグローバルモデルのパラメータのシェアからグローバルモデルのパラメータを計算する。パラメータ計算部１３４_nは、計算したグローバルモデルのパラメータを記録部１９０_nに記録する。なお、記録部１９０_nには、今回の計算で得られたグローバルモデルのパラメータと前回の計算で得られたグローバルモデルのパラメータの少なくとも２つのグローバルモデルのパラメータを記録しておく。

Ｓ１３５_nにおいて、学習開始条件判定部１３５_nは、Ｓ１３４_nで計算したグローバルモデルのパラメータと前回の計算で得られたグローバルモデルのパラメータとを比較し、当該２つのグローバルモデルのパラメータが異なる場合は、学習開始条件が満たされていると判定し、Ｓ１３１_nの処理を実行する一方、それ以外の場合は、学習開始条件が満たされていないと判定し、Ｓ１３３_nの処理に戻る。

Ｓ１４０において、秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のパラメータシェア登録部１４０_nは、送受信部１８０_nを用いて受信した自分自身を除く秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_N}のうちの1個のローカルモデル学習装置が学習したローカルモデルのパラメータのシェア、または、自分自身が学習したローカルモデルのパラメータのシェアを入力とし、ローカルモデルのパラメータのシェアをローカルモデル管理テーブルに登録する。ここで、ローカルモデル管理テーブルとは、N個のローカルモデルのパラメータのシェアを管理するためのテーブルであり、記録部１９０_nに記録される。

Ｓ１５０において、学習開始条件判定手段１５０は、前回グローバルモデルを計算して以降、新たに登録されたローカルモデルの数が所定の値（当該値は1以上N以下の値である）を超えたあるいは所定の値以上となった場合は、学習開始条件が満たされていると判定し、Ｓ１６０の処理を実行する一方、それ以外の場合は、学習開始条件が満たされていないと判定し、Ｓ１４０の処理に戻る。

Ｓ１６０において、グローバルモデル計算手段１６０は、ローカルモデル管理テーブルで管理されているローカルモデルのパラメータのシェアを用いて、グローバルモデルのパラメータのシェアを計算する。グローバルモデル計算手段１６０は、例えば、第1ローカルモデルから第Nローカルモデルまでの対応するパラメータのシェアの平均をグローバルモデルのパラメータのシェアとする。

なお、Ｓ１１０の処理を定期的に実行することにより、秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置の組合せを定期的に変更することができる。

本発明の実施形態によれば、連合学習において、グローバルモデルを計算する秘密計算システムを構成する装置がローカルモデルを学習する機能を備えることにより、効率的にモデルを学習することが可能となる。また、秘密グローバルモデル計算装置がローカルモデル学習機能を備えること及び計算資源に空きがある秘密グローバルモデル計算装置により秘密グローバルモデル計算システムを構成することにより、演算量や通信量を抑制し効率的にモデルを学習することが可能となる。さらに、秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置の組合せを定期的に変更することにより、運用者の結託による漏洩リスクを抑制することが可能となる。
＜第２実施形態＞
第１実施形態では1つの秘密グローバルモデル計算システムを構成したが、構成する秘密グローバルモデル計算システムの数は2以上であってもよい。この場合、2以上の秘密グローバルモデル計算システムの各々が1つの層をなし、連合学習システムは全体としてニューラルネットワークにおける計算のようにある層を構成する秘密グローバルモデル計算システムが計算したグローバルモデルのパラメータのシェアをその次の層を構成する秘密グローバルモデル計算システムがローカルモデルを学習する際の初期値の設定に利用しモデルを学習する。

以下、連合学習システム１０が2個の秘密グローバルモデル計算システムを構成する場合を例に説明する。

この場合、K個の秘密グローバルモデル計算装置のうちの任意のN個（Nは3≦N≦K/2を満たす整数）の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できる。

以下、図４に従い連合学習システム１０の動作について説明する。

Ｓ１１０において、秘密グローバルモデル計算装置１００_n(1≦n≦K)のうちの1個の秘密グローバルモデル計算装置１００_{k_0}（ただし、k₀は1≦k₀≦Kを満たす整数）の選択部１１０_{k_0}は、送受信部１８０_{k_0}を用いて自分自身を除くK-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する。以下、秘密グローバルモデル計算装置１００_{k_0}を第１マスタ秘密グローバルモデル計算装置という。選択されたN-1個の秘密グローバルモデル計算装置と第１マスタ秘密グローバルモデル計算装置をあわせたN個の秘密グローバルモデル計算装置を秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}（ただし、i₁, …, i_Nは1≦i₁< … <i_N≦Kを満たす整数）とする。したがって、k₀はi₁, …, i_Nのいずれかと一致する。ここで、k₀=i_~n（ただし、~nは1≦~n≦Nを満たす整数）とする。

同様に、秘密グローバルモデル計算装置１００_n(1≦n≦K)のうちの1個の秘密グローバルモデル計算装置１００_{k_1}（ただし、k₁は1≦k₁≦Kを満たす整数であり、i₁, …, i_Nのいずれとも異なる）、つまり、秘密グローバルモデル計算システム構成のために選択されていないK-N個の秘密グローバルモデル計算装置１００_nのうちの1個の秘密グローバルモデル計算装置１００_{k_1}の選択部１１０_{k_1}は、送受信部１８０_{k_1}を用いて自分自身と秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}を除くK-N-1個の秘密グローバルモデル計算装置１００_nに対して計算資源の空き状況を確認するクエリを送信し、当該K-N-1個の秘密グローバルモデル計算装置１００_nの中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する。以下、秘密グローバルモデル計算装置１００_{k_1}を第２マスタ秘密グローバルモデル計算装置という。選択されたN-1個の秘密グローバルモデル計算装置と第２マスタ秘密グローバルモデル計算装置をあわせたN個の秘密グローバルモデル計算装置を秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_2N}（ただし、i_N+1, …, i_2Nは1≦i_N+1< … <I_2N≦Kを満たす整数であり、i₁, …, i_Nのいずれとも異なる）とする。したがって、k₁はi_N+1, …, i_2Nのいずれかと一致する。ここで、k₁=i_^n（ただし、^nは1≦^n≦Nを満たす整数）とする。なお、秘密グローバルモデル計算装置１００_{k_1}は、例えば秘密グローバルモデル計算装置１００_{i_~n}によるブロードキャストにより、秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}が選択できない装置であることを予め知っているものとする。

Ｓ１２０において、第１マスタ秘密グローバルモデル計算装置である秘密グローバルモデル計算装置１００_{i_~n}のシステム構成部１１０_{i_~n}は、送受信部１８０_{i_~n}を用いて秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_~n-1}、１００_{i_~n+1}、…、１００_{i_N}との間で秘密グローバルモデル計算システムを構成するために必要となるデータを相互に交換し、N個の秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}で秘密グローバルモデル計算システム（以下、第１秘密グローバルモデル計算システムという）を構成する。

同様に、第２マスタ秘密グローバルモデル計算装置である秘密グローバルモデル計算装置１００_{i_^n}のシステム構成部１１０_{i_^n}は、送受信部１８０_{i_^n}を用いて秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_^n-1}、１００_{i_^n+1}、…、１００_{i_2N}との間で秘密グローバルモデル計算システムを構成するために必要となるデータを相互に交換し、N個の秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_2N}で秘密グローバルモデル計算システム（以下、第２秘密グローバルモデル計算システムという）を構成する。

Ｓ１３０において、秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のローカルモデル生成部１３０_nは、ローカルモデルを生成する。

同様に、秘密グローバルモデル計算装置１００_n(n=i_N+1, …, i_2N)のローカルモデル生成部１３０_nは、ローカルモデルを生成する。

以下、図６に従いローカルモデル生成部１３０_n(n=i_N+1, …, i_2N)の動作について説明する。

Ｓ１３１_nにおいて、ローカルモデル学習部１３１_nは、記録部１９０_nに記録している学習データを用いてローカルモデルを学習する。１回目のローカルモデルの学習から、ローカルモデル学習部１３１_nは、後述するＳ１３３_nで取得したグローバルモデルのパラメータのシェアを用いてローカルモデルのパラメータの初期値を設定する。

Ｓ１３２_nにおいて、パラメータシェア計算部１３２_nは、Ｓ１３１_nで学習したローカルモデルのパラメータからローカルモデルのパラメータのシェアを計算する。パラメータシェア計算部１３２_nは、計算が終了すると、送受信部１８０_nを用いて自分自身を除く秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_2N}にローカルモデルのパラメータのシェアを送信する。

Ｓ１３３_nにおいて、グローバルモデル取得部１３３_nは、Ｓ１３２_nの処理終了後またはＳ１３５_nの処理終了から所定の時間経過後に、送受信部１８０_nを用いて秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}、または、自分自身を除く秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_2N}からグローバルモデルのパラメータのシェアを取得する。１回目の取得では、秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}からグローバルモデルのパラメータのシェアを取得する。２回目以降の取得では、L回（ただし、Lは2以上の整数）のうち1回の取得で秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_N}からグローバルモデルのパラメータのシェアを取得し、L回のうち残りのL-1回の取得で秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_2N}からグローバルモデルのパラメータのシェアを取得する。

したがって、ローカルモデル学習部１３１_nは、L回のうち1回の学習では第１秘密グローバルモデル計算システムのグローバルモデルのパラメータのシェアを、L回のうち残りのL-1回の学習では第２秘密グローバルモデル計算システムのグローバルモデルのパラメータのシェアをローカルモデルのパラメータの初期値としてローカルモデルを学習することになる。

Ｓ１３４_nにおいて、パラメータ計算部１３４_nは、Ｓ１３３_nで取得したグローバルモデルのパラメータのシェア、または、Ｓ１３３_nで取得したグローバルモデルのパラメータのシェアと自分自身が計算したグローバルモデルのパラメータのシェアからグローバルモデルのパラメータを計算する。パラメータ計算部１３４_nは、計算したグローバルモデルのパラメータを記録部１９０_nに記録する。なお、記録部１９０_nには、今回の計算で得られたグローバルモデルのパラメータと前回の計算で得られたグローバルモデルのパラメータの少なくとも２つのグローバルモデルのパラメータを記録しておく。

Ｓ１３５_nにおいて、学習開始条件判定部１３５_nは、Ｓ１３４_nで計算したグローバルモデルのパラメータと前回の計算で得られたグローバルモデルのパラメータとを比較し、当該２つのグローバルモデルのパラメータが異なる場合は、学習開始条件が満たされていると判定し、Ｓ１３１_nの処理を実行する一方、それ以外の場合は、学習開始条件が満たされていないと判定し、Ｓ１３３_nの処理に戻る。

上記Ｓ１３０_nにおける秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のローカルモデル生成部１３０_nと秘密グローバルモデル計算装置１００_n(n=i_N+1, …, i_2N)のローカルモデル生成部１３０_nの動作に関する説明では、秘密グローバルモデル計算装置１００_n(n=i_N+1, …, i_2N)のグローバルモデル取得部１３３_nが秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のグローバルモデル取得部１３３_nが生成したグローバルモデルのパラメータのシェアを取得するものとしたが、逆であってもよい。つまり、秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のグローバルモデル取得部１３３_nが秘密グローバルモデル計算装置１００_n(n=i_N+1, …, i_2N)のグローバルモデル取得部１３３_nが生成したグローバルモデルのパラメータのシェアを取得するようにしてもよい。

Ｓ１４０において、秘密グローバルモデル計算装置１００_n(n=i₁, …, i_N)のパラメータシェア登録部１４０_nは、送受信部１８０_nを用いて受信した自分自身を除く秘密グローバルモデル計算装置１００_{i_1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_N}のうちの1個のローカルモデル学習装置が学習したローカルモデルのパラメータのシェア、または、自分自身が学習したローカルモデルのパラメータのシェアを入力とし、ローカルモデルのパラメータのシェアをローカルモデル管理テーブルに登録する。

同様に、秘密グローバルモデル計算装置１００_n(n=i_N+1, …, i_2N)のパラメータシェア登録部１４０_nは、送受信部１８０_nを用いて受信した自分自身を除く秘密グローバルモデル計算装置１００_{i_N+1}、…、１００_{i_n-1}、１００_{i_n+1}、…、１００_{i_2N}のうちの1個のローカルモデル学習装置が学習したローカルモデルのパラメータのシェア、または、自分自身が学習したローカルモデルのパラメータのシェアを入力とし、ローカルモデルのパラメータのシェアをローカルモデル管理テーブルに登録する。

Ｓ１５０において、第１秘密グローバルモデル計算装置の学習開始条件判定手段１５０、第２秘密グローバルモデル計算装置の学習開始条件判定手段１５０は、それぞれ前回グローバルモデルを計算して以降、新たに登録されたローカルモデルの数が所定の値（当該値は1以上N以下の値である）を超えたあるいは所定の値以上となった場合は、学習開始条件が満たされていると判定し、Ｓ１６０の処理を実行する一方、それ以外の場合は、学習開始条件が満たされていないと判定し、Ｓ１４０の処理に戻る。

Ｓ１６０において、第１秘密グローバルモデル計算装置のグローバルモデル計算手段１６０、第２秘密グローバルモデル計算装置のグローバルモデル計算手段１６０は、それぞれローカルモデル管理テーブルで管理されているローカルモデルのパラメータのシェアを用いて、グローバルモデルのパラメータのシェアを計算する。

次に、Pを2以上の整数とし、連合学習システム１０がP個の秘密グローバルモデル計算システムを構成する場合について簡単に説明する（図４参照）。

この場合、K個の秘密グローバルモデル計算装置のうちの任意のN個（Nは3≦N≦K/Pを満たす整数）の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できる。

Ｓ１１０において、秘密グローバルモデル計算システム構成のために選択されていないK-(p-1)N個（ただし、pは1≦p≦Pを満たす整数）の秘密グローバルモデル計算装置のうちの1個の秘密グローバルモデル計算装置１００_n（以下、第pマスタ秘密グローバルモデル計算装置という）の選択部１１０_nは、送受信部１８０_nを用いて自分自身を除くK-(p-1)N-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-(p-1)N-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する。

Ｓ１２０において、第pマスタ秘密グローバルモデル計算装置１００_nのシステム構成部１２０_nは、送受信部１８０_nを用いてＳ１１０で選択されたN-1個の秘密グローバルモデル計算装置と自分自身をあわせたN個の秘密グローバルモデル計算装置との間で秘密グローバルモデル計算システムを構成するために必要となるデータを相互に交換し、当該N個の秘密グローバルモデル計算装置で秘密グローバルモデル計算システム（以下、第p秘密グローバルモデル計算システムという）を構成する。

Ｓ１３０において、第p秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置１００_nのローカルモデル生成部１３０_nは、ローカルモデルを生成する。その際、ローカルモデル生成部１３０_nに含まれるローカルモデル学習部１３１_nは、学習データを用いてローカルモデルを学習する。具体的には、σを集合{1, …, P}の置換、Lを2以上の整数とし、ローカルモデル学習部１３１_nは、pがσ(p)>1を満たす整数である場合は、L回のうち1回の学習では第p’秘密グローバルモデル計算システム（ただし、p’はσ(p’)=σ(p)-1を満たす整数）のグローバルモデルのパラメータを、L回のうち残りのL-1回の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習し、pがσ(p)=1を満たす整数である場合は、2回目以降の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習する。なお、σ(p’)=σ(p)-1から、p’は1≦p’≦Pを満たす、pとは異なる整数であることがわかる。

Ｓ１４０において、第p秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置１００_nのパラメータシェア登録部１４０_nは、第p秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算装置１００_nが学習したローカルモデルのパラメータのシェアを入力とし、ローカルモデルのパラメータのシェアをローカルモデル管理テーブルに登録する。

Ｓ１５０において、第pマスタ秘密グローバルモデル計算装置の学習開始条件判定手段１５０は、前回グローバルモデルを計算して以降、新たに登録されたローカルモデルの数が所定の値（当該値は1以上N以下の値である）を超えたあるいは所定の値以上となった場合は、学習開始条件が満たされていると判定し、Ｓ１６０の処理を実行する一方、それ以外の場合は、学習開始条件が満たされていないと判定し、Ｓ１４０の処理に戻る。

Ｓ１６０において、第pマスタ秘密グローバルモデル計算装置のグローバルモデル計算手段１６０は、ローカルモデル管理テーブルで管理されているローカルモデルのパラメータのシェアを用いて、グローバルモデルのパラメータのシェアを計算する。

本発明の実施形態によれば、連合学習において、グローバルモデルを計算する秘密計算システムを構成する装置がローカルモデルを学習する機能を備えることにより、効率的にモデルを学習することが可能となる。また、秘密グローバルモデル計算装置がローカルモデル学習機能を備えること及び計算資源に空きがある秘密グローバルモデル計算装置により秘密グローバルモデル計算システムを構成することにより、演算量や通信量を抑制し効率的にモデルを学習することが可能となる。さらに、2以上の秘密グローバルモデル計算システムの各々が1つの層をなし、連合学習システムは全体としてニューラルネットワークにおける計算のようにモデルを学習することで、グローバルモデルを再利用した効率的なモデル学習を実現することが可能となる。
＜補記＞
上述した各装置の各部の処理をコンピュータにより実現してもよく、この場合は各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムを図７に示すコンピュータ２０００の記録部２０２０に読み込ませ、演算処理部２０１０、入力部２０３０、出力部２０４０、補助記録部２０２５などを動作させることにより、上記各装置における各種の処理機能がコンピュータ上で実現される。

本発明の装置は、例えば単一のハードウェアエンティティとして、ハードウェアエンティティの外部から信号を入力可能な入力部、ハードウェアエンティティの外部に信号を出力可能な出力部、ハードウェアエンティティの外部に通信可能な通信装置（例えば通信ケーブル）が接続可能な通信部、演算処理部であるCPU（Central Processing Unit、キャッシュメモリやレジスタなどを備えていてもよい）、メモリであるRAMやROM、ハードディスクである外部記憶装置並びにこれらの入力部、出力部、通信部、CPU、RAM、ROM、外部記憶装置の間のデータのやり取りが可能なように接続するバスを有している。また必要に応じて、ハードウェアエンティティに、CD-ROMなどの記録媒体を読み書きできる装置（ドライブ）などを設けることとしてもよい。このようなハードウェア資源を備えた物理的実体としては、汎用コンピュータなどがある。

ハードウェアエンティティの外部記憶装置には、上述の機能を実現するために必要となるプログラムおよびこのプログラムの処理において必要となるデータなどが記憶されている（外部記憶装置に限らず、例えばプログラムを読み出し専用記憶装置であるROMに記憶させておくこととしてもよい）。また、これらのプログラムの処理によって得られるデータなどは、RAMや外部記憶装置などに適宜に記憶される。

ハードウェアエンティティでは、外部記憶装置（あるいはROMなど）に記憶された各プログラムとこの各プログラムの処理に必要なデータが必要に応じてメモリに読み込まれて、適宜にCPUで解釈実行、処理される。その結果、CPUが所定の機能（上記、…部、…手段などと表した各構成部）を実現する。つまり、本発明の実施形態の各構成部は、処理回路(Processing Circuitry)により構成されてもよい。

既述のように、上記実施形態において説明したハードウェアエンティティ（本発明の装置）における処理機能をコンピュータによって実現する場合、ハードウェアエンティティが有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記ハードウェアエンティティにおける処理機能がコンピュータ上で実現される。

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体は、例えば、非一時的な記録媒体であり、具体的には、磁気記録装置、光ディスク等である。

また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD-ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の非一時的な記憶装置である補助記録部２０２５に格納する。そして、処理の実行時、このコンピュータは、自己の非一時的な記憶装置である補助記録部２０２５に格納されたプログラムを記録部２０２０に読み込み、読み込んだプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを記録部２０２０に読み込み、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP（Application Service Provider）型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの（コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等）を含むものとする。

また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。

本発明は上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。

Claims (3)

1. Kを3以上の整数、Pを2以上の整数、Nを3≦N≦K/Pを満たす整数とし、
   K個の、学習データを用いてローカルモデルを学習する秘密グローバルモデル計算装置を含む連合学習システムにおける秘密グローバルモデル計算装置であって、
   K個の秘密グローバルモデル計算装置のうちの任意のN個の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できるものであり、
   秘密グローバルモデル計算システム構成のために選択されていないK-(p-1)N個（ただし、pは1≦p≦Pを満たす整数）の秘密グローバルモデル計算装置のうちの自分自身を除くK-(p-1)N-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-(p-1)N-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する選択部と、
   前記選択されたN-1個の秘密グローバルモデル計算装置と自分自身をあわせたN個の秘密グローバルモデル計算装置で秘密グローバルモデル計算システム（以下、第p秘密グローバルモデル計算システムという）を構成するシステム構成部と、
   σを集合{1, …, P}の置換、Lを2以上の整数とし、
   pがσ(p)>1を満たす整数である場合は、L回のうち1回の学習では第p’秘密グローバルモデル計算システム（ただし、p’はσ(p’)=σ(p)-1を満たす整数）のグローバルモデルのパラメータを、L回のうち残りのL-1回の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習し、pがσ(p)=1を満たす整数である場合は、2回目以降の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習するローカルモデル学習部と、
   を含む秘密グローバルモデル計算装置。
2. Kを3以上の整数、Pを2以上の整数、Nを3≦N≦K/Pを満たす整数とし、
   K個の、学習データを用いてローカルモデルを学習する秘密グローバルモデル計算装置を含む連合学習システムが秘密グローバルモデル計算システムを構成する秘密グローバルモデル計算システム構成方法であって、
   K個の秘密グローバルモデル計算装置のうちの任意のN個の秘密グローバルモデル計算装置はN個のローカルモデルからグローバルモデルを秘密計算する秘密グローバルモデル計算システムを構成できるものであり、
   秘密グローバルモデル計算システム構成のために選択されていないK-(p-1)N個（ただし、pは1≦p≦Pを満たす整数）の秘密グローバルモデル計算装置のうちの1個の秘密グローバルモデル計算装置（以下、第pマスタ秘密グローバルモデル計算装置という）が、自分自身を除くK-(p-1)N-1個の秘密グローバルモデル計算装置に対して計算資源の空き状況を確認するクエリを送信し、当該K-(p-1)N-1個の秘密グローバルモデル計算装置の中から計算資源の空き状況が大きいN-1個の秘密グローバルモデル計算装置を選択する選択ステップと、
   第pマスタ秘密グローバルモデル計算装置が、前記選択されたN-1個の秘密グローバルモデル計算装置と自分自身をあわせたN個の秘密グローバルモデル計算装置で秘密グローバルモデル計算システム（以下、第p秘密グローバルモデル計算システムという）を構成するシステム構成ステップと、
   σを集合{1, …, P}の置換、Lを2以上の整数とし、
   第pマスタ秘密グローバルモデル計算装置が、pがσ(p)>1を満たす整数である場合は、L回のうち1回の学習では第p’秘密グローバルモデル計算システム（ただし、p’はσ(p’)=σ(p)-1を満たす整数）のグローバルモデルのパラメータを、L回のうち残りのL-1回の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習し、pがσ(p)=1を満たす整数である場合は、2回目以降の学習では第p秘密グローバルモデル計算システムのグローバルモデルのパラメータをローカルモデルのパラメータの初期値としてローカルモデルを学習するローカルモデル学習ステップと、
   を含む秘密グローバルモデル計算システム構成方法。
3. 請求項１に記載の秘密グローバルモデル計算装置としてコンピュータを機能させるためのプログラム。