JP7695097B2 - サンプリング装置及びサンプリング方法 - Google Patents

Description

本発明は、大量のデータの中から、ラベル付けを行うデータをサンプリングする技術に関する。

深層学習などの機械学習を用いた画像分類、物体検出などの画像認識には、数千枚から数百万枚を超える大量の画像が必要である。そして、その大量の画像に対して物体の種類、物体検出領域などを特定するためのラベル付けを行う必要がある。データが画像でない場合も同様に機械学習を用いたデータ分類、データ認識にはラベル付けが必要となる。

特開２０２０－１１９２３８号公報

このラベル付け作業の工数を低減するために、ラベル有りデータとラベル無しデータの両方を使って学習する半教師あり学習などの学習手法を利用することが考えらえる。しかしながら、この学習手法において、ラベル付けを行うデータに偏りがあると、サンプリングバイアスが発生する。ラベル有りデータにサンプリングバイアスが発生すると、ラベル無しデータを使った学習にも偏りが起こり、結果として画像認識に関する学習済みモデルの精度が低くなる。

サンプリングバイアスの発生を抑制するには、ラベル付けを行うデータの個数を増やせばよいとも考えられる。しかしながら、ラベル付けを行うデータの個数を増やすと、ラベル付け作業の工数をあまり低減できなくなるうえに、ラベル付けを行うデータに偏りがある可能性は依然として残る。

なお、特許文献１に記載の発明は、不確かなデータほど、ラベリング対象として選択しており、上述したサンプリングバイアスの発生を抑制するものではない。

本発明は、上記課題に鑑みて、サンプル数を抑制しながらサンプリングバイアスの発生を抑制することができるサンプリング技術を提供することを目的とする。

本発明に係るサンプリング装置は、複数のデータそれぞれに対して、特徴量ベクトルを取得し、前記特徴量ベクトルの距離に基づき前記複数のデータを複数のクラスタに分類するクラスタリング部と、前記複数のクラスタそれぞれに対して、前記クラスタの重心に近い第１データ群と、前記第１データ群以外の第２データ群とを判別し、前記第１データ群の中から前記データを選択する選択部と、を備える構成（第１の構成）である。

上記第１の構成のサンプリング装置において、前記選択部は、前記クラスタの重心に最も近い前記データを選択する構成（第２の構成）であってもよい。

上記第１又は第２の構成のサンプリング装置において、前記選択部は、前記第２データ群を、前記クラスタの重心から遠い第３データ群と、前記第３データ群以外の第４データ群に分け、前記第３データ群の中から前記データを選択する構成（第３の構成）であってもよい。

上記第３の構成のサンプリング装置において、前記選択部は、前記第３データ群の中から、前記クラスタの重心からの距離が遠い前記データほど優先的に選択する構成（第４の構成）であってもよい。

上記第１～第４いずれかの構成のサンプリング装置において、前記選択部は、前記複数のクラスタそれぞれに対して、前記クラスタ内の前記特徴量ベクトルの分散が大きいほど、前記クラスタから選択する前記データの個数を多くする構成（第５の構成）であってもよい。

上記第１～第４いずれかの構成のサンプリング装置において、前記選択部は、前記複数のクラスタそれぞれに対して、前記クラスタ内の前記データの個数が多いほど、前記クラスタから選択する前記データの個数を多くする構成（第６の構成）であってもよい。

本発明に係るサンプリング方法は、複数のデータそれぞれに対して、特徴量ベクトルを取得し、前記特徴量ベクトルの距離に基づき前記複数のデータを複数のクラスタに分類するクラスタリング工程と、前記複数のクラスタそれぞれに対して、前記クラスタの重心に近い第１データ群と、前記第１データ群以外の第２データ群とを判別し、前記第１データ群の中から前記データを選択する選択工程と、を備える構成（第７の構成）である。

本発明によると、サンプル数を抑制しながらサンプリングバイアスの発生を抑制することができる。

実施形態に係る情報処理装置の概略構成例を示す図 実施形態に係る情報処理装置の動作例を示すフローチャート クラスタリング部が複数のデータを第１～第４クラスタに分類した結果の一例を模式的に示す図 第１クラスタに対して、第１クラスタの重心に近い第１データ群と、第１データ群以外の第２データ群とを判別した結果を模式的に示す図 第１クラスタに対して、第２データ群を、第１クラスタの重心から遠い第３データ群と、第３データ群以外の第４データ群に分けた結果を模式的に示す図

以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。

＜１．情報処理装置の構成＞
図１は、実施形態に係る情報処理装置の概略構成例を示す図である。情報処理装置１は、サンプリング装置の一例である。情報処理装置１は、単一の場所に設置される情報処理装置であってもよく、構成要素が複数の場所に分散して設置される分散型の情報処理装置であってもよい。

情報処理装置１は、制御部１１及び記憶部１２を備える。

制御部１１は、少なくとも一つのプロセッサを備えるコンピュータである。具体的には、制御部１１は、図示しないＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、及びＲＯＭ（Read Only Memory）を備えるコンピュータである。制御部１１は、記憶部１２に記憶されたプログラムに基づいて情報の処理及び送受信を行い、情報処理装置１の全体を制御する。

制御部１１は、クラスタリング部１１ａと、選択部部１１ｂと、を備える。記憶部１２に記憶されたプログラムにしたがってＣＰＵが演算処理を実行することにより、クラスタリング部１１ａ等の制御部１１の各種機能が実現される。

クラスタリング部１１ａは、複数のデータそれぞれに対して、特徴量ベクトルを取得し、特徴量ベクトルの距離に基づき複数のデータを複数のクラスタに分類する。

選択部１１ｂは、複数のクラスタそれぞれに対して、クラスタの重心に近い第１データ群と、第１データ群以外の第２データ群とを判別し、第１データ群の中からデータを選択する。

＜２．情報処理装置の動作＞
図２は、情報処理装置１の動作例を示すフローチャートである。情報処理装置１は、電源が投入され、複数のデータが入力されると、図２に示すフローチャートの動作を開始する。複数のデータの入力形態は特に限定されない。情報処理装置１は、複数のデータを無線通信により受信してもよく、複数のデータを有線通信により受信してもよく、情報処理装置１に対して装脱着可能な記憶媒体を介して複数のデータを入力してもよい。情報処理装置１に入力される複数のデータは、例えば数千枚から数百万枚を超える画像によって構成される。なお、情報処理装置１に入力される複数のデータは、画像以外のデータであってもよい。

まず、クラスタリング部１１ａは、複数のデータそれぞれに対して、特徴量ベクトルを取得する（ステップＳ１０）。特徴量ベクトルの取得は、例えば、機械学習に行わせる。この機械学習は、教師あり機械学習でも、教師なし機械学習でも良い。また、特徴量ベクトルの次元数は特に限定されない。以下の説明では、説明及び図等を簡単にするために、特徴量ベクトルが２次元ベクトルである場合を例に挙げる。教師なし機械学習としては、例えばＤＮＮ（Deep Neural Network）等を用いることができる。

次に、クラスタリング部１１ａは、特徴量ベクトルの距離に基づき複数のデータを複数のクラスタに分類する（ステップＳ２０）。クラスタリング部１１ａは、例えば階層型クラスタリングを行い、最終的に分類するクラスタの個数を固定することで、複数のデータを複数のクラスタに分類する。特徴量ベクトルの距離としては、例えばユークリッド距離、コサイン類似度等を用いることができる。

図３は、クラスタリング部１１ａが複数のデータを第１～第４クラスタＣＬ１～ＣＬ４に分類した結果の一例を模式的に示す図である。図３中の各黒丸は個々のデータを示しているが、説明を簡単にするために実際のデータ数よりも少ない数しか図示していない。以下、図３に示す例を用いて説明を続ける。

次に、選択部１１ｂは、複数のクラスタそれぞれに対して、クラスタの重心に近い第１データ群と、第１データ群以外の第２データ群とを判別し、第１データ群の中から前記データを選択する（ステップＳ３０）。これにより、各クラスタの典型的なデータが選択されるため、サンプル数を抑制しながらサンプリングバイアスの発生を抑制することができる。なお、クラスタの重心とは、クラスタに属するデータの特徴量ベクトルの重心を意味している。

図４は、第１クラスタＣＬ１に対して、第１クラスタＣＬ１の重心Ｃ１に近い第１データ群Ｇ１と、第１データ群Ｇ１以外の第２データ群Ｇ２とを判別した結果を模式的に示す図である。図４では、第１データ群Ｇ１に３個のデータが含まれるが、第１データ群Ｇ１と第２データ群Ｇ２との境界の決め方は特に限定されない。第１データ群Ｇ１に属するデータの個数は、例えば、クラスタの個数、クラスタに属するデータの個数、選択部１１ｂによって選択されるデータの個数を考慮して、決定されてもよい。クラスタに属するデータの個数に基づいて第１データ群Ｇ１に属するデータの個数を決める場合、例えば、第１データ群Ｇ１のデータ数は、クラスタに属するデータ数の２０％であり、第２データ群Ｇ２のデータ数は、クラスタに属するデータ数の８０％である。

また、選択部１１ｂは、第１データ群Ｇ１に属するデータをクラスタの重心Ｃ１から第１所定距離以内のデータとしてもよい。また、クラスタの個数、選択部１１ｂによって選択されるデータの個数を考慮して第１所定距離の値を決定してもよい。このように決定することで、クラスタの典型的なデータの選択と、複数のデータを選択することによるサンプリングバイアスの抑制とを実現できる。

本実施形態では、選択部１１ｂは、クラスタの重心に最も近いデータを選択する。つまり、各クラスタの最も典型的なデータが選択されるため、サンプル数を抑制しながらサンプリングバイアスの発生をより一層抑制することができる。

図３に示す例を用いて具体的に説明すると、本実施形態では、選択部１１ｂは、第１クラスタＣＬ１の中から第１クラスタＣＬ１の重心Ｃ１に最も近いデータＤ１（図４参照）を最優先で選択し、第２クラスタＣＬ２の中から第２クラスタＣＬ２の重心Ｃ２に最も近いデータを最優先で選択し、第３クラスタＣＬ３の中から第３クラスタＣＬ３の重心Ｃ３に最も近いデータを最優先で選択し、第４クラスタＣＬ４の中から第４クラスタＣＬ４の重心Ｃ４に最も近いデータを最優先で選択する。

図２と図５とを参照する。さらに、選択部１１ｂは、第２データ群Ｇ２を、クラスタの重心から遠い第３データ群Ｇ３と、クラスタの重心から近い第４データ群Ｇ４とに分ける。また、選択部１１ｂは、第３データ群の中からデータを選択する（ステップＳ３０）。第３データ群Ｇ３と、第４データ群Ｇ４の区分は、クラスタの重心からの距離や、データの個数に基づいて行っても良い。これにより、各クラスタの境界付近（最も各クラスタの重心から遠い部分）のデータが選択されるため、サンプル数を効率的に抑制しながらサンプリングバイアスの発生を抑制することができる。

図５を用いて、第３データ群Ｇ３と、第４データ群Ｇ４との区分について説明する。図５は、第１クラスタＣＬ１に対して、第２データ群Ｇ２を、第１クラスタＣＬ１の重心Ｃ１から遠い第３データ群Ｇ３と、第３データ群Ｇ３以外の第４データ群Ｇ４に分けた結果を模式的に示す図である。第３データ群Ｇ３と第４データ群Ｇ４との境界の決め方は特に限定されない。例えばクラスタの個数、第２データ群Ｇ２に属するデータの個数、選択部１１ｂによって選択されるデータの個数を考慮して、第３データ群Ｇ３に属するデータの個数が決定されてもよい。第２データ群Ｇ２に属するデータの個数に基づいて第３データ群Ｇ３に属するデータの個数を決める場合、例えば、第３データ群Ｇ３のデータ数は、第２データ群Ｇ２に属するデータの数の５０％である。また例えば、第３データ群Ｇ３に属するデータをクラスタの重心から第２所定距離以上のデータとし、クラスタの個数、選択部１１ｂによって選択されるデータの個数を考慮して第２所定距離の値が決定されてもよい。

本実施形態では、選択部１１ｂは、第３データ群の中から、クラスタの重心からの距離が遠いデータほど優先的に選択する。つまり、各クラスタの特殊な（典型的でない）データのうち、特殊な度合いが高いデータほど優先して選択されるため、サンプル数を抑制しながらサンプリングバイアスの発生をより一層抑制することができる。なお、本実施形態とは異なり、例えば、選択部１１ｂは、第３データ群の中から、クラスタの重心からの距離が近いデータほど優先的に選択してもよく、また例えば、選択部１１ｂは、第３データ群の中から、ランダムに所定個のデータを選択してもよい。

図３及び図５に示す例を用いてデータ選択方法について具体的に説明する。本実施形態では、選択部１１ｂは、第１クラスタＣＬ１の第１データ群Ｇ１（第１クラスタＣＬ１の重心Ｃ１に最も近い領域のデータ群）の中から少なくとも１つのデータを選択する。第１データ群Ｇ１の中からのデータ選択方法の例としては、（１）第１クラスタＣＬ１の重心Ｃ１からの距離が近いデータほど優先して選択する方法、（２）第１クラスタＣＬ１の重心Ｃ１からの距離が遠いデータほど優先して選択する方法、（３）第１データ群Ｇ１の中からランダムに選択する方法を挙げることができる。第２～第４クラスタＣＬ２～ＣＬ４についても同様に、クラスタの重心に最も近い領域のデータ群からデータが選択される。

本実施形態では、クラスタの重心に最も近い領域のデータ群からのデータ選択が完了すると、選択部１１ｂは、第１クラスタＣＬ１の第３データ群Ｇ３（第１クラスタＣＬ１の重心Ｃ１に最も遠い領域のデータ群）の中から少なくとも１つのデータを選択する。第３データ群Ｇ３の中からのデータ選択方法の例としては、（１）第１クラスタＣＬ１の重心Ｃ１からの距離が遠いデータほど優先して選択する方法、（２）第１クラスタＣＬ１の重心Ｃ１からの距離が近いデータほど優先して選択する方法、（３）第３データ群Ｇ３の中からランダムに選択する方法を挙げることができる。第２～第４クラスタＣＬ２～ＣＬ４についても同様に、クラスタの重心に最も遠い領域のデータ群からデータが選択される。

本実施形態では、クラスタの重心に最も近い領域のデータ群及びクラスタの重心に最も遠い領域のデータ群３の中からのデータ選択が完了しても選択部１１ｂによって選択されるデータの個数が予め設定した値に達しない場合、選択部１１ｂは、第１クラスタＣＬ１の第４データ群Ｇ４（第１クラスタＣＬ１の重心Ｃ１から２番目に遠い領域のデータ群）の中から少なくとも１つのデータを選択する。第４データ群Ｇ４の中からのデータ選択方法の例としては、（１）第１クラスタＣＬ１の重心Ｃ１からの距離が遠いデータほど優先して選択する方法、（２）第１クラスタＣＬ１の重心Ｃ１からの距離が近いデータほど優先して選択する方法、（３）第４データ群Ｇ４の中からランダムに選択する方法を挙げることができる。第２～第４クラスタＣＬ２～ＣＬ４についても同様に、クラスタの重心から２番目に遠い領域のデータ群からデータが選択される。

例えば、選択部１１ｂは、クラスタの重心に最も近い領域のデータを１番目に選択し、クラスタの重心から１番遠い領域のデータを２番目に選択し、クラスタの重心から２番目に遠い領域のデータを３番目に選択する。このように選択することで、より、サンプル数の抑制と、サンプリングバイアス抑制とを実現できる。

選択部１１ｂは、選択部１１ｂによって選択されるデータの個数が予め設定した値に達すると、選択処理を終了する。例えば、選択部１１ｂによって選択されるデータの個数が１００に設定されており、図３に示す例のように複数のデータが第１～第４クラスタＣＬ１～ＣＬ４に分類された場合、選択部１１ｂは、第１～第４クラスタＣＬ１～ＣＬ４それぞれからデータを２５個ずつ選択する。

ステップＳ３０の処理が終了し、選択部１１ｂによって選択されたデータが出力されると、情報処理装置１は図２に示すフローチャートの動作を終了する。選択部１１ｂによって選択されたデータの出力形態は特に限定されない。情報処理装置１は、選択部１１ｂによって選択されたデータを無線通信により送信してもよく、選択部１１ｂによって選択されたデータを有線通信により送信してもよく、情報処理装置１に対して装脱着可能な記憶媒体を介して選択部１１ｂによって選択されたデータを出力してもよい。

＜３．変形例＞
上記実施形態は、全ての点で例示であって、制限的なものではないと考えられるべきであり、本発明の技術的範囲は、上記実施形態の説明ではなく、特許請求の範囲によって示されるものであり、特許請求の範囲と均等の意味及び範囲内に属する全ての変更が含まれると理解されるべきである。

例えば、選択部１１ｂは、複数のクラスタのそれぞれに対して、クラスタ内の特徴量ベクトルの分散が大きいほど、クラスタから選択する前記データの個数を多くしてもよい。これにより、個々のクラスタにおけるサンプリングバイアスの発生を効率的に抑制することが期待できる。例えば、第１～第４クラスタＣＬ１～ＣＬ４内の特徴量ベクトルの分散Ｖ１～Ｖ４に応じて、選択部１１ｂは、第１クラスタＣＬ１から選択されるデータ数：第２クラスタＣＬ２から選択されるデータ数：第３クラスタＣＬ３から選択されるデータ数：第４クラスタＣＬ４から選択されるデータ数＝Ｖ１：Ｖ２：Ｖ３：Ｖ４となるように、データを選択してもよい。

また例えば、選択部１１ｂは、複数のクラスタそれぞれに対して、クラスタ内のデータの個数が多いほど、クラスタから選択するデータの個数を多くしてもよい。これにより、個々のクラスタにおけるサンプリングバイアスの発生を効率的に抑制することが期待できる。例えば、第１～第４クラスタＣＬ１～ＣＬ４内のデータ数Ｎ１～Ｎ４に応じて、選択部１１ｂは、第１クラスタＣＬ１から選択されるデータ数：第２クラスタＣＬ２から選択されるデータ数：第３クラスタＣＬ３から選択されるデータ数：第４クラスタＣＬ４から選択されるデータ数＝Ｎ１：Ｎ２：Ｎ３：Ｎ４となるように、データを選択してもよい。

上述の実施形態では、制御部１１と記憶部１２とが別の構成である例を説明したが、本発明はこれに限定されない。記憶部１２は、制御部１１に含まれてもよい。また、記憶部１２は、制御部１１に取り付け及び取り外し可能な記憶媒体であってもよい。ここで、記録媒体は、例えば、フレキシブルディスク、ハードディスク、ＣＤ－ＲＯＭ、ＭＯ、ＤＶＤ、ＤＶＤ－ＲＯＭ、ＤＶＤ－ＲＡＭ、大容量ＤＶＤ、次世代ＤＶＤ、半導体メモリである。

１ 情報処理装置
１１ 制御部
１１ａ クラスタリング部
１１ｂ 選択部
１２ 記憶部

Claims (6)

1. 複数のデータそれぞれに対して、特徴量ベクトルを取得し、前記特徴量ベクトルの距離に基づき前記複数のデータを複数のクラスタに分類するクラスタリング部と、
   前記複数のクラスタそれぞれに対して、前記クラスタの重心に近い第１データ群と、前記第１データ群以外の第２データ群とを判別し、前記第１データ群の中から前記データを選択し、前記複数のクラスタそれぞれに対して、前記クラスタ内の前記特徴量ベクトルの分散が大きいほど、前記クラスタから選択する前記データの個数を多くする選択部と、
   を備える、サンプリング装置。
2. 前記選択部は、前記クラスタの重心に最も近い前記データを選択する、請求項１に記載のサンプリング装置。
3. 前記選択部は、前記第２データ群を、前記クラスタの重心から遠い第３データ群と、前記クラスタの重心に近い第４データ群に分け、前記第３データ群の中から前記データを選択する、請求項１又は請求項２に記載のサンプリング装置。
4. 前記選択部は、前記第３データ群の中から、前記クラスタの重心からの距離が遠い前記データほど優先的に選択する、請求項３に記載のサンプリング装置。
5. 前記選択部は、前記複数のクラスタそれぞれに対して、前記クラスタ内の前記データの個数が多いほど、前記クラスタから選択する前記データの個数を多くする、請求項１～４のいずれか一項に記載のサンプリング装置。
6. 複数のデータそれぞれに対して、特徴量ベクトルを取得し、前記特徴量ベクトルの距離に基づき前記複数のデータを複数のクラスタに分類するクラスタリング工程と、
   前記複数のクラスタそれぞれに対して、前記クラスタの重心に近い第１データ群と、前記第１データ群以外の第２データ群とを判別し、前記第１データ群の中から前記データを選択し、前記複数のクラスタそれぞれに対して、前記クラスタ内の前記特徴量ベクトルの分散が大きいほど、前記クラスタから選択する前記データの個数を多くする選択工程と、
   を備える、サンプリング方法。